| Математический сборник |
|
|
|
|
|
Эта публикация цитируется в 5 научных статьях (всего в 5 статьях) Об определяющих функциях и ядрах для неограниченных областей. III Т. Харцa, Н. Щербинаa, Дж. Томассиниb a Department of Mathematics, University of Wuppertal, Wuppertal, Germany b Scuola Normale Superiore, Pisa, Italy
Англоязычная версия:
Sbornik: Mathematics, 2021, Volume 212, Issue 6, Pages DOI: https://doi.org/10.1070/SM8898 
Реферативные базы данных:
    § 1. ВведениеПусть $\mathscr{M}$ – комплексное многообразие, а $\Omega \subset \mathscr{M}$ – строго псевдовыпуклая область с гладкой границей. Как хорошо известно, если $\mathscr{M}$ штейново, а $\Omega$ относительно компактна в $\mathscr{M}$, то в некоторой окрестности замкнутой области $\overline{\Omega}$ существует такая гладкая строго плюрисубгармоническая функция $\varphi$, что $\Omega=\{\varphi < 0 \}$ и $d\varphi \neq 0$ на границе $b\Omega$ (см., к примеру, [9; теорема 2] и [18; лемма 1.3]). Однако если в $\Omega$ есть нетривиальное компактное аналитическое подмножество $E$, то по принципу максимума никакая плюрисубгармоническая функция $\varphi \colon \Omega \to (-\infty, 0)$ не будет строго плюрисубгармонической вдоль $E$. Более того, как показывает следующий пример, даже когда мы считаем многообразие $\mathscr{M}$ штейновым, не всегда возможно построить строго плюрисубгармоническую функцию $\varphi$ с указанными выше свойствами, если область $\Omega$ не является относительно компактной в $\mathscr{M}$. Пример 1. Пусть $f \colon \mathbb{C} \to \mathbb{C}$ – целая функция, а где $C_1$, $C_2$ – константы, причем $C_1>0$. Для почти всех констант $C_2$ $\Omega$ – неограниченная строго псевдовыпуклая область с гладкой границей в $\mathbb{C}^2$, содержащая комплексную прямую $L := \{(z,f(z)) \in \mathbb{C}^2 \colon z \in \mathbb{C}\}$. Пусть $\varphi$ – такая плюрисубгармоническая функция в окрестности $\overline{\Omega}$, что $\Omega=\{\varphi < 0\}$. Тогда $\varphi$ субгармонична и ограничена сверху на $L$, так что она постоянна по теореме Лиувилля. В частности, функция $\varphi$ не является строго плюрисубгармонической в точках $L$. Таким образом, в общем случае не всегда возможно избежать вырождения формы Леви функции $\varphi$ внутри области $\Omega$. В этой связи назовем вещественнозначную функцию $\varphi$ глобальной определяющей функцией области $\Omega$, если она обладает следующими свойствами: (I) $\varphi$ – гладкая функция в открытой окрестности $U \subset \mathscr{M}$ замыкания $\overline{\Omega}$; (II) $\varphi$ плюрисубгармонична в $U$ и строго плюрисубгармонична вблизи $b\Omega$; (III) $\Omega=\{\varphi < 0\}$ и $d\varphi \neq 0$ на $b\Omega$. Существование глобальной определяющей функции исследовалось в предыдущей работе авторов [13]. В частности, мы доказали там следующие два результата. Теорема 1.1 (см. [13]). Пусть $\mathscr{M}$ – комплексное многообразие, $\Omega \subset \mathscr{M}$ – строго псевдовыпуклая область с гладкой границей, а $f \colon b\Omega \to \mathbb R$ гладкая, ограниченная снизу функция. Тогда существует такая гладкая плюрисубгармоническая функция $F$, определенная в открытой окрестности замыкания области $\overline{\Omega}$, что $F|_{b\Omega}=f$ и $F$ строго плюрисубгармонична вблизи $b\Omega$. Теорема 1.2 (см. [13]). Пусть $\mathscr{M}$ – комплексное многообразие, а $\Omega \subset \mathscr{M}$ – строго псевдовыпуклая область с гладкой границей. Тогда в открытой окрестности $\overline{\Omega}$ существует такая гладкая плюрисубгармоническая функция $\varphi$, что $\Omega=\{\varphi < 0\}$, $d\varphi \neq 0$ на границе $b\Omega$ и $\varphi$ строго псевдовыпукла вблизи $b\Omega$. Определим ядро $\mathfrak{c}(\Omega)$ области $\Omega$ как множество точек $z \in \Omega$, в которых никакая гладкая плюрисубгармоническая функция $\varphi \colon \Omega \to (-\infty,0)$ не является строго плюрисубгармонической. Тогда можно доказать также следующее усиление теоремы 1.2, являющееся основным результатом в [13]. Теорема 1.3 (см. [13]). Для любой строго псевдовыпуклой области $\Omega$ с гладкой границей в комплексном многообразии $\mathscr{M}$ существует глобальная определяющая функция, являющаяся строго плюрисубгармонической вне ядра $\mathfrak{c}(\Omega)$. Ясно, что аналогичное обобщение возможно и для теоремы 1.1: прибавив, если нужно, глобальную определяющую функцию со свойствами, обеспечиваемыми теоремой 1.3, можно гарантировать, что функция $F$, построенная в теореме 1.1, строго плюрисубгармонична вне $\mathfrak{c}(\Omega)$. Целью настоящей работы является распространение упомянутых результатов на более общие ситуации. Точнее, нас интересуют следующие вопросы. Мы хотим обобщить результаты выше на комплексные пространства и почти комплексные многообразия. Мы исследуем вопрос о том, насколько необходимо условие гладкости границы $b\Omega$ области $\Omega$. И, наконец, мы рассмотрим также более общий случай строго $q$-псевдовыпуклой области и (строго) $q$-плюрисубгармонической определяющей функции. Основные результаты, которые нам удалось установить, формулируются следующим образом. Во-первых, в ситуации почти комплексных многообразий удается доказать аналоги теоремы 1.1 и теоремы 1.2 для произвольных строго $(J,q)$-пседовыпуклых областей (что касается обобщения понятия строгой $q$-псевдовыпуклости на области в почти комплексных многообразиях, см. п. 2.1 ниже). Более того, некоторый вариант теоремы 1.3 выполнен для $q=0$, т.е. для строго $J$-псевдовыпуклых областей. Однако в общем случае теорема 1.3 не распространяется на $(J,q)$-псевдовыпуклые области при $q>0$ даже в интегрируемом случае, и мы явно предъявляем контрпример. Во-вторых, для комплексных пространств мы обобщаем теорему 1.1 и теорему 1.2 на строго гипер-$q$-псевдовыпуклые области (при $q=0$ к ним относятся также строго псевдовыпуклые области). Однако при попытке обобщения теоремы 1.3 на строго псевдовыпуклые области в комплексных пространствах возникают технические тонкости, связанные с регулярностью глобальной определяющей функции, и нам не удается установить полный аналог этой теоремы. Подробности, относящиеся, в частности, к роли, которую играет гладкость границы области $b\Omega$, видны из приводимых ниже точных формулировок. Кроме того, в ситуации комплексных многообразий мы доказываем также следующие результаты: гладкое множество подуровня любой (не обязательно гладкой) строго плюрисубгармонической функции можно представить как множество подуровня гладкой строго плюрисубгармонической функции (см. предложение 2.1); у каждой строго псевдовыпуклой области (не обязательно имеющей гладкую границу) есть базис окрестностей, состоящий из строго псевдовыпуклых областей с гладкой границей (см. теорему 2.5; заметим также, что эта теорема обобщается на случаи почти комплексных многообразий и комплексных пространств; см. ниже соответствующие результаты). Материал статьи организован следующим образом. В § 2 рассматривается ситуация почти комплексных многообразий. Сначала, в п. 2.1, вводятся некоторые базовые определения и, в частности, понятия (строгой) $(J,q)$-плюрисубгармоничности и строгой $(J,q)$-псевдовыпуклости. Затем, в п. 2.2, мы доказываем результаты о глобальных определяющих функциях строго $(J,q)$-псевдовыпуклых областей с гладкими границами. Случай меньшей регулярности границы $b\Omega$ рассмотрен в п. 2.3. Параграф 3 посвящен распространению теорем 1.1–1.3 на гипер-$q$-псевдовыпуклые области в комплексных пространствах. Наконец, § 4 содержит некоторые открытые вопросы, связанные с тематикой нашей статьи. § 2. Глобальные определяющие функции в почти комплексных многообразияхЭтот параграф разбит на три части. Сначала, в п. 2.1, мы напомним несколько определений и зафиксируем обозначения, а также введем понятия (строго) $(J,q)$-плюрисубгармонической функции и $(J,q)$-псевдовыпуклой области. В п. 2.2 мы докажем существование глобальных определяющих функций строго $(J,q)$-псевдовыпуклых областей с гладкой границей в почти комплексных многообразиях. Наконец, в п. 2.3 мы обобщим наши результаты на случай областей, не обязательно имеющих гладкую границу. 2.1. Определения и обозначенияПусть $\mathscr{M}$ – комплексное многообразие комплексной размерности $n := \dim_\mathbb{C}\mathscr{M}$. Обозначим комплексное касательное пространство к $\mathscr{M}$ в точке $z \in \mathscr{M}$ через $T_z^{1,0}(\mathscr{M})$. Если $\varphi \colon \mathscr{M} \to \mathbb R$ – гладкая функция, то определим отображения $(\partial\varphi)_z, (\overline{\partial}\varphi)_z \colon T_z^{1,0}(\mathscr{M}) \to \mathbb{C}$ и $\operatorname{Lev}(\varphi)(z,\,\cdot\,) \colon T_z^{1,0}(\mathscr{M}) \to \mathbb R$ в локальной голоморфной системе координат $h=(z_1, \dots, z_n)$ следующими формулами:
$$
\begin{equation*}
\begin{gathered} \, (\partial\varphi)_z(\xi) := \sum_{j=1}^n \frac{ \partial(\varphi \circ h^{-1})}{\partial z_j}(h(z)) \xi_j, \qquad (\overline{\partial}\varphi)_z(\xi) := \sum_{j=1}^n \frac{ \partial(\varphi \circ h^{-1})}{\partial \overline{z}_j}(h(z)) \overline{\xi}_j, \\ \operatorname{Lev}(\varphi)(z,\xi) := \sum_{j,k=1}^n \frac{\partial^2 (\varphi \circ h^{-1})}{\partial z_j \partial \overline{z}_k}(h(z)) \xi_j\overline{\xi}_k, \end{gathered}
\end{equation*}
\notag
$$
где $\xi=\sum_{j=1}^n \xi_j \, (\partial/\partial z_j)$. Кроме того,
$$
\begin{equation*}
(d\varphi)_z(\xi) := (\partial \varphi)_z(\xi)+(\overline{\partial}\varphi)_z(\xi) \colon T_z^{1,0}(\mathscr{M}) \to \mathbb R
\end{equation*}
\notag
$$
будет обозначать вещественный дифференциал функции $\varphi$ в точке $z$. (На протяжении статьи “гладкость” всегда означает “$\mathscr{C}^\infty$-гладкость”. Разумеется, приведенные выше определения дифференциалов и формы Леви можно использовать и для $\mathscr{C}^1$- и $\mathscr{C}^2$-гладких функций соответственно.) Полунепрерывная сверху функция $\varphi \colon \mathscr{M} \to [-\infty, \infty)$ называется плюрисубгармонической, если для каждого голоморфного отображения $f \colon \Delta \to \mathscr{M}$ единичного круга $\Delta \subset \mathbb{C}$ в многообразие $\mathscr{M}$ суперпозиция $\varphi \circ f$ субгармонична на $\Delta$. Такая функция называется строго плюрисубгармонической, если для каждой гладкой функции $\theta \colon \mathscr{M} \to \mathbb R$ с компактным носителем найдется такое число $\varepsilon_{0} > 0$, что функция $\varphi+\varepsilon\theta$ плюрисубгармонична при $|\varepsilon| \leqslant \varepsilon_0$. Если функция $\varphi$ $\mathscr{C}^2$-гладкая, то она (строго) плюрисубгармонична тогда и только тогда, когда у формы $\operatorname{Lev}(\varphi)(z,\,\cdot\,)$ имеются $n$ (положительных) неотрицательных собственных значений при всех $z \in \mathscr{M}$. Скажем, что открытое множество $\Omega \subset \mathscr{M}$ строго псевдовыпукло в точке $z \in b\Omega$, если у $z$ найдется открытая окрестность $U_z \subset \mathscr{M}$ и в этой окрестности – строго плюрисубгармоническая функция $\varphi_z \colon U_z \to \mathbb R$ такая, что $\Omega \cap U_z=\{\varphi_z < 0\}$. Скажем, что $\Omega$ $\mathscr{C}^s$-гладкое в граничной точке $z \in b\Omega$, $s \geqslant 1$, если у $z$ найдется открытая окрестность $U_z \subset \mathscr{M}$ и там существует такая $\mathscr{C}^s$-гладкая функция $\widetilde{\varphi}_z \colon U_z \to \mathbb R$, что $\Omega \cap U_z=\{\widetilde{\varphi}_z < 0\}$ и $d\widetilde{\varphi}_z \neq 0$ в точках $b\Omega \cap U_z$. Назовем открытое множество $\Omega$ строго псевдовыпуклым или $\mathscr{C}^s$-гладким, если оно строго псевдовыпуклое или соответственно $\mathscr{C}^s$-гладкое в каждой граничной точке. Отметим, что тот факт, что строго псевдовыпуклую область с $\mathscr{C}^2$-гладкой границей можно задать $\mathscr{C}^2$-гладкой плюрисубгармонической функцией локально, вблизи каждой граничной точки, не вполне тривиален. Мы не смогли найти его доказательство в литературе, поэтому сформулируем соответствующее утверждение здесь. Предложение 2.1. Пусть $\mathscr{M}$ – комплексное многообразие, $\Omega \subset \mathscr{M}$ – его открытое подмножество, причем граница $b\Omega$ $\mathscr{C}^s$-гладкая в точке $z_0 \in b\Omega$, $s \geqslant 2$. Предположим, что у $z_0$ есть открытая окрестность $U \subset \mathscr{M}$, а в $U$ есть строго плюрисубгармоническая функция $\psi \colon U \to [-\infty, \infty)$ такая, что $\Omega \cap U=\{\psi < 0\}$. Тогда после возможного уменьшения $U$ можно найти $\mathscr{C}^s$-гладкую строго плюрисубгармоническую функцию $\varphi \colon U \to \mathbb R$, для которой $\Omega \cap U=\{\varphi < 0\}$ и $d\varphi \neq 0$ в точках $b\Omega \cap U$. Доказательство. Заметим, что при $\dim_\mathbb{C} \mathscr{M}=1$ утверждение тривиально, так что можно считать, что $n := \dim_\mathbb{C} \mathscr{M} \geqslant 2$. По предположению можно найти открытую окрестность $U \subset \mathscr{M}$ точки $z_0$, такую строго плюрисубгармоническую функцию $\psi \colon U \to [-\infty,\infty)$, что $\Omega \cap U=\{\psi < 0\}$, и такую $\mathscr{C}^s$-гладкую функцию $\widetilde{\varphi} \colon U \to \mathbb R$, что $\Omega \cap U=\{\widetilde{\varphi} < 0\}$ и $d\widetilde{\varphi} \neq 0$ в точках $b\Omega \cap U$. Уменьшая $U$ при необходимости и вводя подходящие голоморфные координаты в окрестности $z_0$, можно считать, что $U \Subset \mathbb{C}^n$, $z_0=0$, $\psi$ и $\widetilde{\varphi}$ определены в окрестности замыкания $\overline{U}$, а тейлоровское разложение функции $\widetilde{\varphi}$ в точке $0$ имеет вид Для точек $z \in U$ положим $\operatorname{dist}(z,b\Omega) := \inf_{z' \in b\Omega \cap U} \|z-z'\|$, а для точек $\zeta \in b\Omega \cap U$ через $N_\Omega(\zeta)$ обозначим вектор единичной внешней нормали к $b\Omega$ в $\zeta$.
Докажем, что $\psi \equiv 0$ на $b\Omega \cap U$. Действительно, для каждой плюрисубгармонической функции $u$, определенной вблизи некоторой точки $\zeta \in \mathbb{C}^n$, и каждого вектора $w \in \mathbb{C}^n$ имеет место равенство $u(\zeta)=\limsup_{t \to 0+} u(\zeta+tw)$ (к примеру, см. [7; предложение 7.4]). В частности, $\psi(\zeta)=\limsup_{t \to 0+} \psi(\zeta- tN_\Omega(\zeta)) \leqslant 0$ для $\zeta \in b\Omega \cap U$. Ясно, что $\psi \geqslant 0$ на $b\Omega \cap U$ по самому выбору функции $\psi$. Далее, докажем, что, уменьшая $U$ при необходимости, можно найти такие числа $l,L > 0$, что для каждой точки $z \in U \setminus \Omega$ $\widetilde{\varphi}(z) \geqslant l \operatorname{dist}(z,b\Omega)$ и $\psi(z) \leqslant L \operatorname{dist}(z,b\Omega)$. Очевидно, надо доказывать только часть, относящуюся к $\psi$, поскольку неравенство для $\widetilde{\varphi}$ непосредственно следует из того факта, что $d\widetilde{\varphi} \neq 0$ на $b\Omega \cap U$. Доказательство проводится, как в лемме Хопфа. Сначала, уменьшая $U$ при необходимости, предположим, что корректно определена проекция $\pi \colon U \to b\Omega \cap U$ по направлениям нормалей $N_\Omega(\zeta)$. В частности, $z=\pi(z)+ \operatorname{dist}(z,b\Omega)N_\Omega(\pi(z))$ для всех $z \in U \setminus \Omega$. Для каждой точки $\zeta \in b\Omega \cap U$ и числа $r > 0$ положим $\zeta_r := \zeta -rN_\Omega(\zeta)$. В силу $\mathscr{C}^2$-гладкости границы $b\Omega \cap U$ $r>0$ можно выбрать достаточно малым для того, чтобы: (i) $B^n(0, 5r) \subset U$, а пересечение $b\Omega \cap B^n(0, 5r)$ было графиком $\mathscr{C}^2$-гладкой функции над некоторым открытым подмножеством пространства $T^\mathbb R_0(b\Omega)$; (ii) для каждой точки $\zeta \in b\Omega \cap B^n(0,r)$ было выполнено $B^n(\zeta_{2r},2r) \subset \Omega \cap U$, где $B^n(a,r) := \{z \in \mathbb{C}^n \colon \|z-a\| < r\}$ и $T^\mathbb R_0(b\Omega)$ обозначает вещественное касательное пространство к $b\Omega$ в точке $0$. Для каждой точки $\zeta \in b\Omega \cap B^n(0,r)$ положим $G_\zeta := B^n(\zeta,r) \setminus \overline{\Omega}$, и пусть функция $h_\zeta \colon \overline{G_\zeta} \to \mathbb R$ задается равенством
$$
\begin{equation*}
h_\zeta(z) := \frac{1}{r^{2n-2}}-\frac{1}{\|z-\zeta_r\|^{2n-2}}.
\end{equation*}
\notag
$$
Заметим, что для каждой точки $\zeta \in b\Omega \cap B^n(0,r)$ функция $h_\zeta$ гармонична на $G_\zeta$ и непрерывна на $\overline{G_\zeta}$, $h_\zeta(\zeta)=0$, $h_\zeta > 0$ на $bG_\zeta \setminus \{\zeta\}$ и существует такая константа $c > 0$, что $h_\zeta > c$ на $bG_\zeta \setminus b\Omega$. Выберем достаточно большое число $C > 0$ таким, чтобы $\psi \leqslant C$ на $U$, и положим $M := C/c$. Поскольку $\psi \equiv 0$ на $b\Omega \cap U$, получаем, что $\psi \leqslant Mh_\zeta$ на $bG_\zeta$ для каждой $\zeta \in b\Omega \cap B^n(0,r)$. В силу субгармоничности $\psi$ отсюда следует, что $\psi \leqslant Mh_\zeta$ на $\overline{G_\zeta}$. В частности,
$$
\begin{equation*}
\begin{aligned} \, \psi(\zeta+tN_\Omega(\zeta)) &\leqslant Mh_\zeta(\zeta+tN_\Omega(\zeta))=M \biggl(\frac{1}{r^{2n-2}}- \frac{1}{(r+t)^{2n-2}} \biggr) \\ &\leqslant M(2n-2)\frac{1}{r^{2n-1}} t =: L t \end{aligned}
\end{equation*}
\notag
$$
для каждого числа $t \in (0,r)$ и каждой точки $\zeta \in b\Omega \cap B^n(0,r)$. Это показывает, что $\psi(z) \leqslant L\operatorname{dist}(z,b\Omega)$ для каждой точки $z \in \{\zeta+tN_\Omega(\zeta) \in \mathbb{C}^n \colon \zeta \in b\Omega \cap B^n(0,r), t \in [0,r)\}$.
Чтобы прийти к противоречию, предположим теперь, что найдется такой вектор $\xi_0 \in H_{0}(\widetilde{\varphi}) := \{\xi \in \mathbb{C}^n \colon (\partial \widetilde{\varphi})_0(\xi)=0\}$, что $\|\xi_0\|=1$ и $\operatorname{Lev}(\widetilde{\varphi})(0,\xi_0) \leqslant 0$. Выберем такое $\varepsilon > 0$, что функция $\widetilde{\psi} := \psi-\varepsilon \|\,{\cdot}\,\|^2$ по-прежнему полюрисубгармоническая в $U$. Докажем, что $\widetilde{\psi} < 0$ в проколотом круге $\Delta_{\xi_0}(0,\delta) \setminus \{0\} := \{\lambda\xi_0 \colon \lambda \in \mathbb{C}, 0 < |\lambda| < \delta\}$, при условии, что $\delta > 0$ выбрано достаточно малым. Так как функция $\widetilde{\psi}$ субгармоническая на $\Delta_{\xi_0}(0,\delta)$ и $\widetilde{\psi}(0)=0$, это будет противоречить принципу максимума. Действительно, если выбрано такое $\lambda \in \mathbb{C} \setminus\{0\}$, что $\lambda\xi_0 \in \overline{\Omega}$, то утверждение тривиально. Но в противном случае мы можем воспользоваться соотношениями (1) и оценками выше на $\psi$ и $\widetilde{\varphi}$, чтобы показать, что
$$
\begin{equation*}
\widetilde{\psi}(\lambda\xi_0)=\biggl( \frac{\psi}{\widetilde{\varphi}} \widetilde{\varphi}- \varepsilon \|\,{\cdot}\,\|^2\biggr)(\lambda\xi_0) \leqslant \frac{L}{l}o(|\lambda|^2)- \varepsilon|\lambda|^2,
\end{equation*}
\notag
$$
причем выражение справа отрицательно при $0 < |\lambda| << 1$. Это показывает, что форма $\operatorname{Lev}(\widetilde{\varphi})(0,\,\cdot\,)$ положительно определена на $H_0(\widetilde{\varphi})$.
Для завершения доказательства предложения выберем такую гладкую функцию $\chi \colon \mathbb R \to \mathbb R$, что $\chi (0)=0$, $\chi '(0)=1$ и $\chi ''(0)=k $. Стандартными рассуждениями показывается, что при достаточно больших $k > 0$ функция $\varphi := \chi \circ \widetilde{\varphi}$ строго плюрисубгармонична вблизи $0$, что и требовалось доказать (вариант таких рассуждений можно найти, к примеру в доказательстве леммы 2.1 ниже). Предложение 2.1 доказано. Замечание 2.1. 1) Приведенное выше определение строго псевдовыпуклых открытых множеств такое же, как и в работе [20]. В частности, предполагается, что строго плюрисубгармонические функции $\varphi_z$, задающие $\Omega$ вблизи заданной точки $z \in b\Omega$, непрерывны. Заметим, что если опустить требование непрерывности локальной определяющей функции $\varphi_z$, то мы получим строго больший класс множеств, чем строго псевдовыпуклые множества. В самом деле, функция $u(z) := \sum_{j=1}^\infty 2^{-j}\log|z-1/j|$ корректно определена и субгармонична в $\mathbb{C}$, причем $u(0) \neq -\infty$, так что функция $\psi(z,w) := u(z)+(|z|^2+|w|^2)-u(0)$ строго плюрисубгармоническая $\mathbb{C}^2$. Рассмотрим открытое множество $\Omega:= \{\psi < 0\}$. Тогда $L\,{:=}\,\{0\}\,{\times}\,\mathbb{C}\,{\subset}\, b\Omega$, поскольку $\{1/j\} \times \mathbb{C} \subset \Omega$ для каждого целого $j\in \mathbb{N}$. В частности, поскольку $\psi(z,w)\,{=}\,|w|^2 \,{\not\equiv}\, 0$ на $L$, у $b\Omega$ нет окрестности, в которой функция $\psi$ непрерывна. Чтобы прийти к противоречию, предположим, что найдутся такая открытая окрестность $U \Subset \mathbb{C}^2$ точки $0 \in b\Omega$ и такая непрерывная строго плюрисубгармоническая функция $\varphi \colon U \to \mathbb R$, что $\Omega \cap U=\{\varphi < 0\}$. Пусть $U' \Subset U$ – такое открытое множество, что $0 \in U'$, и пусть $\lambda \colon \mathbb{C}^2 \to (-\infty,0]$ – такая гладкая функция, что $\overline{U'}=\{\lambda=0\}$. Уменьшив $U$ при необходимости, можно найти такое $\varepsilon > 0$, что функция $\varphi' := \varphi+\varepsilon\lambda$ по-прежнему плюрисубгармонична на $U$. Поскольку $\varphi$ непрерывна, имеем $\varphi \equiv 0$ на $L \subset b\Omega$, так что найдется такое $c > 0$, что $\varphi' < -c$ в окрестности $L \cap bU$. Тогда $\varphi'|_{L \cap U}$ – непостоянная субгармоническая функция, достигающая максимума в $0 \in L \cap U$, что невозможно. В частности, заметим, что граница множества подуровня строго плюрисубгармонической функции, не обязательно являющейся непрерывной, может содержать нетривиальные аналитические множества. 2) Описанных осложнений не будет, если на границу $b\Omega$ наложены какие-нибудь слабые условия регулярности. К примеру, в $\mathscr{C}^0$-гладком случае имеет место следующий аналог предложения 2.1. Пусть $\mathscr{M}$ – комплексное многообразие, $\Omega \subset \mathscr{M}$ – открытое множество, а граница $b\Omega$ является $\mathscr{C}^0$-гладкой в точке $z_0 \in b\Omega$ (т.е. $b\Omega$ локально, вблизи точки $z_0$ представляет собой график непрерывной функции). Пусть найдутся открытая окрестность $U \subset \mathscr{M}$ точки $z_0$ и строго плюрисубгармоническая функция $\psi \colon U \to [-\infty, \infty)$ такие, что $\Omega\,{\cap}\, U\,{=}\,\{\psi\,{<}\, 0\}$. Тогда, уменьшая $U$ при необходимости, можно найти непрерывную строго плюрисубгармоническую функцию $\varphi \colon U \to \mathbb R$, для которой $\Omega \cap U=\{\varphi < 0\}$. Действительно, уменьшая $U$ при необходимости, можно считать, что $U\,{\subset}\,\mathbb{C}^n$. В силу $\mathscr{C}^0$-гладкости $b\Omega$ в точке $z_0$ существует вектор $w \in \mathbb{C}^n \setminus \{0\}$ такой, что уменьшая $U$ еще сильнее, получим, что $z+tw \in \Omega$ для каждой точки $z \in b\Omega \cap U$ и каждого числа $t \in (0,1)$. В силу тех же рассуждений, что и выше, $\psi(z)=\limsup_{t \to 0+} \psi(z+tw) \leqslant 0$ для каждой точки $z \in b\Omega \cap U$. Итак, $\psi \equiv 0$ на $b\Omega \cap U$. Теперь существование функции $\varphi$ следует из [24; теорема 2.5]. Пусть теперь $M$ – гладкое многообразие вещественной размерности $2n$. Обозначим касательное пространство к $M$ в точке $p \in M$ через $T_p(M)$, и для $\mathscr{C}^1$-гладкого отображения гладких многообразий $\varphi \colon M \to N$ обозначим через $(d\varphi)_p \colon T_p(M) \to T_p(N)$ его дифференциал в $p$. Почти комплексной структурой $J$ называется отображение, сопоставляющее точке $p\in M$ линейный изоморфизм $J(p) \colon T_p(M) \to T_p(M)$ такой, что $J(p) \circ J(p)=- \operatorname{Id}$, где $\operatorname{Id} \colon T_p(M) \to T_p(M)$ – тождественное отображение. Назовем пару $(M,J)$ почти комплексным многообразием комплексной размерности $n$, а $\mathscr{C}^1$-гладкое отображение $f \colon (M',J') \to (M,J)$ назовем $(J',J)$-голоморфным, если $J \circ df=df \circ J'$. Если $M'=\Delta$ – единичный круг в $\mathbb{C}$, а $J'=J_{\mathrm{st}}$ – стандартная почти комплексная структура, соответствующая умножению на $i \in \mathbb{C}$, то отображение $f$ называется $J$-голоморфным диском. В дальнейшем всегда считается, что структурное отображение $J$ хотя бы $\mathscr{C}^1$-гладкое. Пусть $(M,J)$ – почти комплексное многообразие комплексной размерности $n$ и $p \in M$. Если $\varphi \colon M \to \mathbb R$ – гладкая функция, то введем отображение $(d^c_J\varphi)_p \colon T_p(M) \to \mathbb R$ формулой $(d^c_J\varphi)_p(X) := -(d\varphi)_p(JX)$; здесь и далее мы опускаем указание на точку в обозначениях для почти комплексной структуры и пишем $J$ вместо $J(p)$. Также введем отображения $(\partial_J\varphi)_p, (\overline{\partial}_J\varphi)_p \colon T_p(M) \to \mathbb{C}$ и $\operatorname{Lev}_J(\varphi)(p,\,\cdot\,) \colon T_p(M) \to \mathbb R$ формулами
$$
\begin{equation*}
\begin{gathered} \, (\partial_J\varphi)_p := \frac{1}{2}[(d\varphi)_p+i (d_J^c\varphi)_p], \qquad (\overline{\partial}_J\varphi)_p := \frac{1}{2}[(d\varphi)_p-i (d_J^c\varphi)_p], \\ \operatorname{Lev}_J(\varphi)(p,X) := \frac{1}{4}(dd^c_J\varphi)_p(X,JX). \end{gathered}
\end{equation*}
\notag
$$
Если функция $f \colon (M',J') \to (M,J)$ $(J',J)$-голоморфна, то, как показывают несложные вычисления,
$$
\begin{equation}
\begin{gathered} \, \notag (\partial_{J'}[\varphi\circ f])_q(Y)\,{=}\,(\partial_J \varphi)_{f(q)}((df)_q(Y)), \qquad (\overline{\partial}_{J'}[\varphi\circ f])_q(Y)\,{=}\,(\overline{\partial}_J \varphi)_{f(q)}((df)_q(Y)), \\ \operatorname{Lev}_{J'}(\varphi\circ f)(q,Y)=\operatorname{Lev}_J(\varphi)(f(q),(df)_q(Y)) \end{gathered}
\end{equation}
\tag{2}
$$
(на самом деле, если структура $J$ всего лишь $\mathscr{C}^1$-гладкая, то $f$, вообще говоря, не будет $\mathscr{C}^2$-гладкой, так что использовать формулу для формы Леви надо с осторожностью; к примеру, см. [17; лемма 1.2] и следующие за этой леммой замечания). Пусть $T_p^\mathbb{C}(M) := \mathbb{C} \otimes T_p(M)$; обозначив $\mathbb{C}$-линейное продолжение оператора $J$ через $J^\mathbb{C}$, положим
$$
\begin{equation*}
\begin{aligned} \, T_p^{1,0}(M) &:= \{\xi \in T_p^\mathbb{C}(M)\colon J^\mathbb{C}\xi=i\xi\} =\biggl\{\frac{1}{2}(X-iJX) \in T_p^\mathbb{C}(M) \colon X \in T_p(M)\biggr\}, \\ T_p^{0,1}(M) &:= \{\xi \in T_p^\mathbb{C}(M)\colon J^\mathbb{C}\xi=-i\xi\} =\biggl\{\frac{1}{2}(X+iJX) \in T_p^\mathbb{C}(M) \colon X \in T_p(M)\biggr\}. \end{aligned}
\end{equation*}
\notag
$$
Если $L \colon T_p(M) \to \mathbb{C}$ – $\mathbb R$-линейное отображение, то через $L^\mathbb{C} \colon T_p^\mathbb{C}(M) \to \mathbb{C}$ обозначим его $\mathbb{C}$-линейное продолжение. Заметим, что
$$
\begin{equation*}
(\partial_J\varphi)_p(X)=(\partial_J\varphi)_p^\mathbb{C}\biggl(\frac{1}{2}(X-iJX)\biggr), \qquad (\overline{\partial}_J\varphi)_p(X)= (\overline{\partial}_J\varphi)_p^\mathbb{C}\biggl(\frac{1}{2}(X+iJX)\biggr).
\end{equation*}
\notag
$$
В частности, рассматриваем ли мы естественное вложение $T_p(M) \simeq 1 \otimes T_p(M) \subset T_p^\mathbb{C}(M)$, $X \mapsto 1 \otimes X$, или вложение $T_p(M) \simeq T_p^{1,0}(M) \subset T_p^\mathbb{C}(M)$, $X \mapsto (1/2)(X-iJX)$, форма $(\partial_J\varphi)_p^\mathbb{C}$ принимает на $T_p(M)$ одни и те же значения; равным образом $(\overline{\partial}_J\varphi)_p^\mathbb{C}$ принимает на $T_p(M)$ одни и те же значения для естественных вложений $T_p(M) \simeq 1 \otimes T_p(M) \subset T_p^\mathbb{C}(M)$, $X \mapsto 1 \otimes X$, и $T_p(M) \simeq T_p^{0,1}(M) \subset T_p^\mathbb{C}(M)$, $X \mapsto (1/2)(X+iJX)$. Поэтому, раз никакой двусмысленности не возникает, мы часто будем рассматривать $(\partial_J\varphi)_p$ как $\mathbb{C}$-линейный функционал на $T_p^{1,0}(M)$, а $(\overline{\partial}_J\varphi)_p$ как $\mathbb{C}$-линейный функционал на $T_p^{0,1}(M)$ (в частности, мы, как правило, будем опускать верхний индекс $\mathbb{C}$, указывающий на $\mathbb{C}$-линейное продолжение). Зададим отображение $\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,) \colon T_p^{1,0}(M) \to \mathbb R$ формулой
$$
\begin{equation*}
\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,(1/2)(X-iJX)) := \operatorname{Lev}_J(\varphi)(p,X).
\end{equation*}
\notag
$$
Заметим, что у каждой точки $p$ почти комплексного многообразия $(M,J)$ найдется окрестность $U$ и локальные координаты $z \colon U \to \mathbb{C}^n$, в которых $z(p)= 0$, $(dz \circ J \circ dz^{-1})(0)=J_{\mathrm{st}}$ и для каждой $\mathscr{C}^2$-гладкой функции $\varphi \colon U \to \mathbb R$ выполнено $\operatorname{Lev}_J(\varphi)(p,X)=\operatorname{Lev}_{J_{\mathrm{st}}}(\varphi \circ z^{-1})(0,(dz)_p(X))$ (к примеру, см. [3; предложение 3.6]). Так что легко видеть, что отображение $\operatorname{Lev}_J^\mathbb{C}(\varphi)(p;\,\cdot\,,\,\cdot\,) \colon T_p^{1,0}(M) \times T_p^{1,0}(M) \to \mathbb{C}$, заданное поляризацией
$$
\begin{equation*}
\begin{aligned} \, \operatorname{Lev}_J^\mathbb{C}(\varphi)(p;\xi,\upsilon) &:=\frac{1}{4}\bigl[\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\xi+\upsilon)- \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\xi-\upsilon)\bigr] \\ &\qquad +\frac{i}{4}\bigl[\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\xi+J\upsilon)- \operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\xi-J\upsilon)\bigr] \end{aligned}
\end{equation*}
\notag
$$
представляет собой эрмитову форму на $T_p^{1,0}(M)$, причем справедливо равенство $\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\xi)=\operatorname{Lev}_J^\mathbb{C}(\varphi)(p;\xi,\xi)$. В дальнейшем, говоря о собственных значених формы $\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,)$, мы всегда будем иметь в виду собственные значения эрмитовой формы $\operatorname{Lev}_J^\mathbb{C}(p;\,\cdot, \cdot\,)$ Мы также часто будем рассматривать $\operatorname{Lev}_J(\varphi)(p,\,\cdot\,)$ как отображение пространства $T_p^{1,0}(M)$, идентифицируя ее с $\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,)$ (и обычно будем опускать верхний индекс $\mathbb{C}$ в соответствующем обозначении). Если $(M,J)=(\mathbb R^{2n}, J_{\mathrm{st}})$, где $J_{\mathrm{st}}$ – такая стандартная почти комплексная структура, что $J{\partial}/{\partial x_j}={\partial}/{\partial y_j}$ и $J{\partial}/{\partial y_j}=-{\partial}/{\partial x_j}$, $j=1, \dots, n$, то несложные вычисления показывают, что
$$
\begin{equation*}
\begin{gathered} \, (\partial_J\varphi)_p(X)=\sum_{j=1}\frac{\partial \varphi}{\partial z_j}(p)X_j, \qquad (\overline{\partial}_J\varphi)_p(X)=\sum_{j=1}\frac{\partial \varphi}{\partial \overline{z}_j}(p)\overline{X}_j, \\ \operatorname{Lev}_J(\varphi)(p,X)=\sum_{j,k=1}^n \frac{\partial^2 \varphi}{\partial z_j \, \partial \overline{z}_k}(p)X_j\overline{X}_k, \end{gathered}
\end{equation*}
\notag
$$
где мы полагаем $(1/2)(X-iJX)=\sum_{j=1}^n X_j (\partial/\partial z_j)$ в $T_p^{1,0}(M)$. В частности, в таком случае $(\partial_J\varphi)_p=(\partial \varphi)_p$, $(\overline{\partial}_J\varphi)_p=(\overline{\partial} \varphi)_p$ и $\operatorname{Lev}_J(\varphi)(p\,\cdot\,)=\operatorname{Lev}(\varphi)(p,\,\cdot\,)$ после стандартного отождествления пространств $\mathbb R^{2n}$ и $\mathbb{C}^n$. Используя [3; предложение 3.6] и формулы преобразований из (2), многие из стандартных методов вычисления формы Леви в комплексном евклидовом случае можно распространить на ситуацию почти комплексных многообразий. К примеру, если $\mu \colon \mathbb R \to \mathbb R$ – $\mathscr{C}^2$-гладкая функция, то
$$
\begin{equation}
\operatorname{Lev}_J(\mu \circ \varphi)(p,\xi)= \mu'(\varphi(p))\operatorname{Lev}_J(\varphi)(p,\xi)+ \mu''(\varphi(p))|(\partial_J\varphi)_p(\xi)|^2.
\end{equation}
\tag{3}
$$
(Ниже мы будем прибегать к рассуждениям такого рода, не повторяя ссылок на [3; предложение 3.6].) Пусть $(M,J)$ – почти комплексное многообразие комплексной размерности $n$. Непрерывную сверху функцию $\varphi \colon M \to [-\infty, \infty)$ назовем $J$-плюрисубгармонической, если для каждого $J$-голоморфного диска $f \colon \Delta \to M$ суперпозиция $\varphi \circ f$ субгармонична на $\Delta$. Функция называется строго $J$-плюрисубгармонической, если для каждой финитной гладкой функции $\theta \colon M \to \mathbb R$ найдется число $\varepsilon_{0} > 0$ такое, что функция $\varphi+ \varepsilon\theta$ $J$-плюрисубгармонична при $|\varepsilon| \leqslant \varepsilon_0$. (Напомним, что по теореме Нийенхейса–Вольфа (см. [21; теорема III]), для каждой точки $p \in M$ и каждого вектора $X \in T_p(M)$ существует такой $J$-голоморфный диск $f \colon \Delta \to M$, что $f(0)=p$ и $(df)_0({\partial}/{\partial x})=X$; здесь $z= x+iy$ – стандартная координата на $\mathbb{C}$.) Заметим, что $\operatorname{Lev}_J(\varphi)(p,X)=(1/4)\Delta(\varphi \circ f)(0)$ для каждого такого $J$-голоморфного диска $f \colon \Delta \to M$, что $f(0)=p$ и $(df)_0({\partial}/{\partial x})=X$ (см., например, [17; лемма 1.2]). Так что легко видеть, что $\mathscr{C}^2$-гладкая функция $\varphi \colon M \to \mathbb R$ является $J$-плюрисубгармонической, если и только если у формы $\operatorname{Lev}_J(\varphi)(p,\,\cdot\,)$ $n$ неотрицательных собственных значений в каждой точке $p \in M$. Заметим, кроме того, что для каждой точки $p \in M$ и каждой открытой окрестности $U \subset M$ этой точки можно построить такую гладкую функцию $\theta \colon M \to \mathbb R$ с компактным носителем в $U$, что $\operatorname{Lev}_J(\theta)(p,X) > 0$ для всех векторов $X \in T_p(M) \setminus \{0\}$. Так что легко видеть также, что $\mathscr{C}^2$-гладкая функция $\varphi \colon M \to \mathbb R$ строго $J$-плюрисубгармонична, если и только если у формы $\operatorname{Lev}_J(\varphi)(p,\,\cdot\,)$ $n$ положительных собственных значений в каждой точке $p \in M$. Введем теперь понятия (строго) $(J,q)$-плюрисубгармонической функции и строго $(J,q)$-псевдовыпуклой области на почти комплексном многообразии (они обобщают известные в ситуации комплексных многообразий понятия (строго) $q$-плюрисубгармонической функции и строго $q$-псевдовыпуклой области). Пусть $q \in \mathbb{N}_0 := \{0\} \cup \mathbb{N}$. $\mathscr{C}^2$-гладкая функция $\varphi \colon M \to \mathbb R$ называется (строго) $(J,q)$-плюрисубгармонической, если у формы $\operatorname{Lev}_J(\varphi)(p,\,\cdot\,)$ не менее $n-q$ (положительных) неотрицательных собственных значений в каждой точке $p \in M$. Как и выше, легко видеть, что $\varphi$ строго $(J,q)$-плюрисубгармонична, если и только если для всякой финитной гладкой функции $\theta \colon M \to \mathbb R$ найдется такое число $\varepsilon_{0} > 0$, что при $|\varepsilon| \leqslant \varepsilon_0$ функция $\varphi+ \varepsilon\theta$ $(J,q)$-плюрисубгармонична. Заметим, что для $q \in \mathbb{N}_0$ $(J,q)$-плюрисубгармонические функции являются также $(J,q+1)$-плюрисубгармоническими. Более того, $(J,0)$-плюрисубгармонические функции в точности совпадают с $\mathscr{C}^2$-гладкими $J$-плюрисубгармоническими функциями, и функция $(J,q)$-плюрисубгармонична при $q \geqslant n$, если и только если она $\mathscr{C}^2$-гладкая. В силу (3) суперпозиция (строго) $(J,q)$-плюрисубгармонической функции с $\mathscr{C}^2$-гладкой выпуклой, строго возрастающей функцией снова оказываются (строго) $(J,q)$-плюрисубгармонической. Открытое множество $\Omega \subset M$ назовем строго $(J,q)$-псевдовыпуклым в точке $p \in b\Omega$, если найдутся открытая окрестность $U_p \subset M$ точки $p$ и такая $\mathscr{C}^2$-гладкая функция $\varphi_p \colon U_p \to \mathbb R$, что $\Omega \cap U_p=\{\varphi_p < 0\}$, $d\varphi_p \neq 0$ на $b\Omega \cap U_p$ и у ограничения формы Леви $\operatorname{Lev}_J(\varphi_p)(p,\,\cdot\,) $ на $T_p(b\Omega) \cap JT_p(b\Omega)$ не меньше $n-q-1$ положительных собственных значений (точнее говоря, мы имеем здесь в виду, что после естественного вложения $T_p(b\Omega) \hookrightarrow T_p(M) \xrightarrow{\sim} T_p^{1,0}(M)$ ограничение формы $\operatorname{Lev}_J^\mathbb{C}(\varphi)(p,\,\cdot\,)$ на подпространство $T_p(b\Omega) \cap iT_p(b\Omega)$ имеет не меньше $n-q-1$ положительных собственных значений). В случае $q=0$ мы будем просто говорить, что область $\Omega$ строго $J$-псевдовыпукла в точке $p$. Легко видеть, что $\Omega$ строго $(J,q)$-псевдовыпукла в $\mathscr{C}^k$-гладкой граничной точке $p \in b\Omega$, $k \geqslant 2$, если и только если найдутся открытая окрестность $U_p \subset M$ точки $p$ и $\mathscr{C}^k$-гладкая строго $(J,q)$-плюрисубгармоническая функция $\varphi_p \colon U_p \to \mathbb R$ такие, что $\Omega \cap U_p=\{\varphi_p < 0\}$ и $d\varphi_p \neq 0$ на $b\Omega \cap U_p$. Более того, если область $\Omega$ строго $(J,q)$-псевдовыпукла в точке $p \in b\Omega$, то для любой $\mathscr{C}^2$-гладкой функции $\varphi \colon U_p \to \mathbb R$ в открытой окрестности $U_p \subset M$ точки $p$, для которых $\Omega \cap U_p=\{\varphi_p < 0\}$, причем $d\varphi_p \neq 0$ на $b\Omega \cap U_p$, у ограничения формы Леви $\operatorname{Lev}_J(\varphi)(p,\,\cdot\,)$ на $T_p(b\Omega) \cap JT_p(b\Omega)$ не меньше $n-q-1$ положительных собственных значений. Множество $\Omega$ называется строго $(J,q)$-псевдовыпуклым, если оно строго $(J,q)$-псевдовыпуклое во всех точках $p \in b\Omega$. Пусть $\varphi \colon M \to \mathbb R$ – $\mathscr{C}^1$-гладкая функция. Предположим, что $(d\varphi)_p \neq 0$, и пусть $\Omega := \{\varphi < \varphi(p)\}$. Несложные вычисления показывают, что в предположении естественного вложения $T_p(b\Omega) \hookrightarrow T_p(M) \xrightarrow{\sim} T_p^{1,0}(M)$ выполнено равенство $T_p(b\Omega) \cap iT_p(b\Omega)=\{\xi \in T_p^{1,0}(M) \colon (\partial_J\varphi)_p(\xi)=0\} =: H_p(\varphi)$. В частности, $H_p(\varphi)$ – максимальное комплексное подпространство пространства $T_p(b\Omega) \subset T_p^{1,0}(M)$. Наконец, если $h$ – эрмитова метрика на $M$, то для каждой точки $p \in M$ через $\|\,{\cdot}\,\|_{h_p}$ и $\|\,{\cdot}\,\|_{h_p^\ast}$ будем обозначать индуцированные нормы на пространстве $T_p^{1,0}(M)$ и его дуальном пространстве соответственно. Если пространство ясно из контекста, то $p$ будем опускать и писать просто $\|\,{\cdot}\,\|_h$ и $\|\,{\cdot}\,\|_{h^\ast}$. 2.2. Определяющие функции для строго $q$-псевдовыпуклых областейПриступим к доказательству существования глобальной определяющей функции для строго $(J,q)$-псевдовыпуклой области в почти комплексном многообразии. Центральная часть доказательства в обоих случаях $q=0$ и $q > 0$ одна и то же. Однако в случае, когда $q > 0$, в некоторый момент доказательства возникает техническая сложность, отсутствующая при $q=0$. Это связано с тем фактом, что, вообще говоря, сумма двух $q$-плюрисубгармонических функций $\varphi_1, \varphi_2 \colon U \to \mathbb R$, определенных на открытом множестве $U \subset \mathbb{C}^n$, снова оказывается $q$-плюрисубгармонической только в том случае, если $\operatorname{Lev}(\varphi_1)(z,\,\cdot\,)$ и $\operatorname{Lev}(\varphi_2)(z,\,\cdot\,)$ положительно определены на одних и тех же $(n-q)$-мерных подпространствах пространств $T_z^{1,0}(\mathbb{C}^n)$ для всех точек $z \in U$. Таким образом, при $q > 0$ надо следить за направлениями, в которых формы Леви $q$-плюрисубгармонических функций из наших построений положительны. Вот почему, прежде чем формулировать теоремы о глобальных определяющих функциях, мы доказываем следующую лемму, касающуюся как раз этой проблемы для $q > 0$. Лемма 2.1. Пусть $(M,J)$ – почти комплексное многообразие комплексной размерности $n$ с эрмитовой метрикой $h$, а $\Omega \subset M$ – строго $(J,q)$-псевдовыпуклая область с гладкой границей для некоторого $q \in \{0,1, \dots, n-1\}$. Тогда для каждой гладкой функции $\varphi \colon V \to \mathbb R$, определенной на открытой окрестности $V \subset M$ множества $b\Omega$, с тем свойством, что $\Omega \cap V=\{\varphi < 0\}$ и $d\varphi \neq 0$ на $b\Omega$, найдется окрестность $V' \subset V$ границы $b\Omega$ и для каждой точки $z \in V'$ найдется $(n-q)$-мерное комплексное подпространство $L_z \subset T_z^{1,0}(M)$ такие, что выполнено следующее утверждение: для каждого открытого множества $U \Subset M$ существуют такая строго возрастающая, строго выпуклая гладкая функция $\mu \colon \mathbb R \to \mathbb R$ со свойством $\mu(0)=0$ и такая константа $c > 0$, что $\operatorname{Lev}_J(\mu \circ \varphi)(z, \xi) \geqslant c\|\xi\|_{h_z}$ для всех точек $z \in V' \cap U$ и всех векторов $\xi \in L_z$. Доказательство. Для каждого целого $l\,{=}\,1,2, \dots, 2n$ положим $\operatorname{Gr}_\mathbb R(l,M)\,{:=} \{\{w\} \times L \subset T^{1,0}(M) \colon L \subset T_w^{1,0}(M)$ является вещественным $l$-мерным подпространством$\}$, и, аналогично, для каждого $l =1,2, \dots, n$ определим $\operatorname{Gr}_\mathbb{C}(l,M) := \{\{w\} \times L \subset T^{1,0}(M) \colon L \subset T_w^{1,0}(M) \text{ есть комплексное } l \text{ -мерное подпространство}\}$ $\subset \operatorname{Gr}_\mathbb R(2l,M)$, наделяя его индуцированной топологией. Если $W \subset M$ – открытое множество, то обозначим через $\Gamma(W, \operatorname{Gr}_\mathbb{C}(l,M))$ множество непрерывных отображений $\lambda \colon W \to \operatorname{Gr}_\mathbb{C}(l,M)$ таких, что $\lambda(w)= \{w\} \times L$ для некоторого одномерного подпространства $L \subset T_w^{1,0}(M)$. Более того, для $\lambda \in \Gamma(W, \operatorname{Gr}_\mathbb{C}(l,M))$ положим $[\lambda(w)] := \{\xi \in T_w^{1,0}(M)\colon (w,\xi) \in \lambda(w)\}$. Пусть $\varphi \colon V \to \mathbb R$ – такая гладкая функция на открытой окрестности $V \subset M$ границы $b\Omega$, что $\Omega \cap V=\{\varphi < 0\}$ и $d\varphi \neq 0$ на $b\Omega$. Уменьшая $V$ при необходимости, будем считать, что $d\varphi \neq 0$ на $V$, и тогда для каждой точки $z \in V$ обозначим через $N_z$ ортогональное дополнение к пространству $H_z(\varphi)$ в $T_z^{1,0}(M)$ относительно метрики $h_z$. Наконец, для произвольной постоянной $k > 0$ введем гладкую функцию $\mu_k \colon \mathbb R \to \mathbb R$ формулой $\mu_k(t) := e^{kt}-1$.
Поскольку область $\Omega$ строго $(J,q)$-псевдовыпуклая, для каждой точки $z \in b\Omega$ найдутся ее открытая окрестность $W_z \subset V$ и отображение $\lambda_z \in \Gamma(W_z, \operatorname{Gr}_\mathbb{C}(n-q-1,M))$ такие, что $[\lambda_z(w)] \subset H_w(\varphi)$ при $w \in W_z$, и найдется такая константа $c_z > 0$, что в каждой точке $w \in W_z$ для векторов $\xi \in [\lambda_z(w)]$ выполнено неравенство $\operatorname{Lev}_J(\varphi)(w,\xi) \geqslant 2c_z\|\xi\|^2_{h_w}$. Заметим, что в силу (3)
$$
\begin{equation*}
\operatorname{Lev}_J(\mu_k \circ \varphi)(w,\xi)= ke^{k\varphi(w)}\bigl[\operatorname{Lev}_J(\varphi)(w,\xi)+ k|(\partial_J\varphi)_w(\xi)|^2\bigr]
\end{equation*}
\notag
$$
для всех $w \in V$ и $\xi \in T_w^{1,0}(M)$. Значит, в силу непрерывности $\lambda_z$, уменьшая $W_z$ при необходимости, видим, что для каждой точки $z\in b\Omega$ найдется такая непрерывная функция $k_z \colon W_z \to (0,\infty)$, что для всех $w \in W_z$, $\xi \in [\lambda_z(w)] \oplus N_w$ и $k \geqslant k_z(w)$ выполнено неравенство $\operatorname{Lev}_J(\mu_k \circ \varphi)(w,\xi) \geqslant c_zke^{k\varphi(w)}\|\xi\|^2_{h_w}$.
Пусть $\{W_{z_j}\}_{j=1}^\infty$ – локально конечное подпокрытие $b\Omega$. Найдем такие открытые множества $V_{z_j} \Subset W_{z_j}$, что система $\{V_{z_j}\}_{j=1}^\infty$ по-прежнему покрывает $b\Omega$, и пусть $V' := \bigcup_{j=1}^\infty V_{z_j}$. Вдобавок, для каждой точки $w \in V'$ выберем индекс $j(w) \in \mathbb{N}$ так, чтобы $w \in V_{z_{j(w)}}$; пусть $L_w := [\lambda_{z_{j(w)}}(w)] \oplus N_w$. Пусть теперь $U \Subset M$ – произвольное открытое множество. Положим $J := \{j \in \mathbb{N}\colon U \cap V_{z_j} \neq \varnothing\}$ и $c' := \min\{c_{z_j}\colon j \in J\}$ и найдем достаточно большую постоянную $K > 0$, для которой $K \geqslant \max\{k_{z_j}(w) \colon j \in J, w \in V_{z_j}\}$. Тогда $\operatorname{Lev}_J(\mu_K \circ \varphi)(w,\xi) \geqslant c'Ke^{K\varphi(w)}\|\xi\|^2_{h_w}$ в каждой точке $w \in V' \cap U$ для всех векторов $\xi \in L_w$. Значит, $\mu := \mu_K$ и $c := c'\min\{Ke^{K\varphi(w)} \colon w \in V' \cap U\}$ – искомые функция и константа. Лемма доказана. После этой подготовительной работы мы можем доказать два основных результата параграфа. Теорема 2.1. Пусть $(M,J)$ – почти комплексное многообразие комплексной размерности $n$, пусть $\Omega \subset M$ – строго $(J,q)$-псевдовыпуклая область с гладкой границей, где $q \in \{0, 1, \dots, n-1\}$, и пусть $f\colon b\Omega \to \mathbb R$ – гладкая, ограниченная снизу функция. Тогда найдется гладкая $(J,q)$-плюрисубгармоническая функция, определенная в открытой окрестности множества $\overline{\Omega}$, такая, что $F|_{b\Omega}=f$ и $F$ строго $(J,q)$-плюрисубгармонична вблизи $b\Omega$. Доказательство. Поскольку $f$ ограничена снизу, без ограничения общности можно считать, что $f>0$. Пусть $\widetilde{F} \colon M \to (0,\infty)$ – гладкое продолжение $f$. Выберем такие открытые множества $U_j' \Subset U_j \Subset M$, что $\{U_j'\}_{j=1}^\infty$ – локально конечное покрытие $b\Omega$.
Пусть $\{\chi_j\}_{j=1}^\infty$ – такое семейство гладких функций $\chi_j \colon M \to [0,\infty)$, что $\{\chi_j > 0\}=U_j'$ для каждого индекса $j \in \mathbb{N}$, $\sum_{j=1}^\infty \chi_j \leqslant 1$ на $M$ и $\sum_{j=1}^\infty \chi_j \equiv 1$ вблизи $b\Omega$. Пусть $\beta \colon (0,\infty) \to (0,\infty)$ – такая строго возрастающая, строго выпуклая гладкая функция, что $\beta(t)=e^{-1/t}$ для малых значений $t$, и пусть $\widetilde{\beta} \colon \mathbb R \to [0,\infty)$ – такое гладкое продолжение $\beta$, что $\widetilde{\beta}|_{(-\infty,0]} \equiv 0$. Как и в доказательстве теоремы 1.1 (см. [13]), выбором подходящих функций $\{\chi_j\}_{j=1}^\infty$ можно добиться, чтобы для каждого $j \in \mathbb{N}$ продолжение $g_j \colon M \to [0, \infty)$ функции $\beta^{-1} \circ(\widetilde{F}\chi_j) \colon U_j' \to (0,\infty)$ нулем оказалось гладким на $M$. Зафиксируем эрмитову метрику $h$ на $M$. Пусть $\varphi \colon V \to \mathbb R$ – гладкая функция в открытой окрестности $V \subset M$ границы $b\Omega$ такая, что $\Omega \cap V=\{\varphi < 0\}$ и $d\varphi \neq 0$ на $b\Omega$. По лемме 2.1 найдется открытая окрестность $V' \subset V$ множества $b\Omega$, а для каждой точки $z \in V'$ найдется $(n-q)$-мерное комплексное подпространство $L_z \subset T_z^{1,0}(M)$ со следующими свойствами: для каждого целого $j \in \mathbb{N}$ существуют число $c_j > 0$ и строго возрастающая, строго выпуклая гладкая функция $\mu_j \colon \mathbb R \to \mathbb R$ со свойством $\mu_j(0)=0$ такие, что для суперпозиции $\varphi_j := \mu_j \circ \varphi$ неравенство $\operatorname{Lev}_J(\varphi_j)(z,\xi) \geqslant c_j\|\xi\|_{h_z}$ имеет место для всех $z \in V' \cap U_j$ и $\xi \in L_z$. Более того, можно считать без ограничения общности, что $U_j \Subset V'$ и $\Omega \cap U_j=\{\varphi_j|_{U_j} < 0\}$ для всех $j \in \mathbb{N}$. Зафиксируем $j \in \mathbb{N}$. Пусть $\lambda_j \colon M \to (-\infty,0]$ – гладкая функция, для которой $\overline{U_j'}=\{\lambda_j =0\}$. Выберем достаточно малое $\varepsilon_j > 0$ и достаточно большое $C_j > 0$ так, чтобы форма $\operatorname{Lev}_J(g_j+C_j(\varphi_j+ \varepsilon_j\lambda_j))(z,\,\cdot\,)$ была положительно определена на $L_z$ для всех $z \in U_j$. Заметим, что по построению $g_j+C_j(\varphi_j+\varepsilon_j\lambda_j) < 0$ на $bU_j \cap \overline{\Omega}$, так что функция $\widetilde{\beta} \circ (g_j+C_j(\varphi_j+ \varepsilon_j\lambda_j))|_{U_j}$ обращается в нуль в окрестности этого множества и, значит, ее продолжение нулем в открытую окрестность $\mathscr{U}_j := M \setminus \{z \in bU_j \colon (g_j+ C_j(\varphi_j+\varepsilon_j\lambda_j))(z) \geqslant 0\}$ множества $\overline{\Omega}$ является гладкой $(J,q)$-плюрисубгармонической функцией $F_j \colon \mathscr{U}_j \to [0,\infty)$ такой, что $F_j|_{b\Omega}=f\chi_j$ и $F_j \equiv 0$ вне $U_j$. Более того, $W_j := \{F_j > 0\} \subset U_j$ – открытая окрестность множества $b\Omega \cap U_j'$ и $F_j$ строго $(J,q)$-плюрисубгармонична в $W_j$. Точнее говоря, $\operatorname{Lev}_J(F_j)(z,\,\cdot\,) > 0$ на $L_z \setminus \{0\}$ в каждой точке $z \in W_j$, причем $\operatorname{Lev}(F_j)(z,\,\cdot\,) \equiv 0$ для $z \notin W_j$. Положим $F := \sum_{j=1}^\infty F_j$. Тогда $F$ – корректно определенная гладкая функция на открытой окрестности $\mathscr{U} := \bigcap_{j=1}^\infty \mathscr{U}_j \subset M$ множества $\overline{\Omega}$. По построению $F|_{b\Omega}=f$. Более того, $\operatorname{Lev}_J(F)(z,\,\cdot\,) > 0$ на $L_z \setminus \{0\}$ для $z \in W := \bigcup_{j=1}^\infty W_j \supset b\Omega$ и $\operatorname{Lev}_J(F)(z,\,\cdot\,) \equiv 0$ для $z \notin W$. Значит, функция $F$ имеет нужные свойства. Теорема 2.1 доказана. Теорема 2.2. Пусть $(M,J)$ – почти комплексное многообразие комплексной размерности $n$, и пусть $\Omega \subset M$ – строго $(J,q)$-псевдовыпуклая область с гладкой границей для некоторого $q \in \{0, 1, \dots, {n-1}\}$. Тогда в открытой окрестности множества $\overline{\Omega}$ найдется гладкая $(J,q)$-плюрисубгармоническая функция $\varphi$, для которой $\Omega=\{\varphi < 0\}$, $d\varphi \neq 0$ на $b\Omega$ и $\varphi$ строго $(J,q)$-плюрисубгармонична вблизи $b\Omega$. Доказательство. Пусть $\varphi := F-1$, где $F$ – функция из теоремы 2.1, отвечающая граничным значениям $f \equiv 1$. Тогда $\varphi$ – гладкая $(J,q)$-плюрисубгармоническая функция в открытой окрестности множества $\overline{\Omega}$, тождественно равная нулю на $b\Omega$ и строго $(J,q)$-плюрисубгармоническая вблизи $b\Omega$. Заметим, что при построении $F$ мы можем выбрать функцию $\widetilde{F}$ такой, чтобы $\Omega=\{\widetilde{F} < 1\}$ и $M \setminus \overline{\Omega}=\{\widetilde{F} > 1\}$. Более того, уменьшив $\mathscr{U}$ при необходимости, можно считать, что $\sum_{j=1}^\infty \chi_j \equiv 1$ на $\mathscr{U} \setminus \overline{\Omega}$. Как и в доказательстве теоремы 1.2 (см. [13]), отсюда легко будет следовать, что $\Omega=\{F < 1\}$, т.е. $\Omega=\{\varphi < 0\}$. Наконец заметим, что $d\varphi \neq 0$ на $b\Omega$, если числа $C_j$ из конструкции $F$ выбрать достаточно большими (в действительности, так как граница $b\Omega$ гладкая, тот факт, что $d\varphi$ не обращается в нуль на $b\Omega$, выполнен автоматически: см., к примеру, [15; доказательство предложения 1.5.16], которое легко подкорректировать для $(J,q)$-плюрисубгармонических функций. Теорема доказана. Замечание 2.2. 1) Функция $F$ из теоремы 2.1 строго $(J,q)$-плюрисубгармонична на открытой окрестности $W$ множества $b\Omega$ и постоянна на $\Omega \setminus W$. Из конструкции ясно, что для каждого открытого множества $\omega \subset \Omega$, у которого $\overline{\omega} \subset \Omega$, мы можем выбрать $F$ постоянной на $\omega$. 2) Пусть $h$ – эрмитова метрика на $M$, а $\nu, \mu \colon b\Omega \to (0,\infty)$ – положительные непрерывные функции. Тогда функцию $F$ можно выбрать такой, что $\|(dF)_z\|_{h^\ast} \geqslant \nu(z)$ в каждой точке $z \in b\Omega$ и $\operatorname{Lev}_J(F)(z,\,\cdot\,) \geqslant \mu(z)\|\,{\cdot}\,\|^2_h$ на $L_z$ для всех $z \in b\Omega$. Действительно, пусть для каждого $j \in \mathbb{N}$ $U_j'' \Subset U_j'$ – это такое открытое множество, что система $\{U_j''\}_{j=1}^\infty$ по-прежнему покрывает $b\Omega$. Теперь при построении $F$ для каждого $j \in \mathbb{N}$ мы можем выбрать достаточно малое $\varepsilon_j > 0$ и достаточно большое $C_j > 0$ так, чтобы $(dF_j)_z(N_\Omega(z)) \geqslant 0$ для всех $z \in b\Omega$, $(dF_j)_z(N_\Omega(z)) \geqslant \nu(z)$ для $z \in b\Omega \cap U_j''$ и $\operatorname{Lev}_J(F_j)(z, \,\cdot\,) \geqslant \mu(z) \|\,{\cdot}\,\|^2_h$ на $L_z$ для $z \in b\Omega \cap U_j''$, где $N_\Omega(z)$ – единичная внешняя нормаль к $b\Omega$ в $z$ в смысле метрики $h$. Построенная функция $F$ удовлетворяет требуемым условиям. Сформулируем также аналог теоремы 1.3. На самом деле мы сформулируем обобщение более сильного результата, содержащегося в [14; теорема 2.1]. Сначала нам потребуется обобщить понятие ядра (произвольного порядка) на ситуацию почти комплексных многообразий. Определение 2.1. Пусть $(M,J)$ – почти комплексное многообразие, а $\Omega \subset M$ – открытое множество. Тогда для каждого $q=1, \dots, n$ множество Теорема 2.3. Пусть $(M, J)$ – почти комплексное многообразие, а $\Omega \subset M$ – строго $J$-псевдовыпуклая область с гладкой границей. Тогда существует такая ограниченная гладкая $J$-плюрисубгармоническая функция $\varphi$ на открытой окрестности границы $\overline{\Omega}$, что $\Omega=\{\varphi < 0\}$, $d\varphi \neq 0$ на $b\Omega$ и $\varphi$ строго $J$-плюрисубгармонична вблизи $b\Omega$. Более того, функцию $\varphi$ можно выбрать строго $J$-плюрисубгармонической вне $\mathfrak{c}_J(\Omega)$ и такой, что $\operatorname{rank} \operatorname{Lev}_J(\varphi)(z,\,\cdot\,)=n-q$ для всех $z \in \mathfrak{c}_{J,q}(\Omega) \setminus \mathfrak{c}_{J,q+1}(\Omega)$ и $q=1, 2, \dots, n$. Доказательство. Легко проверить, что при $\delta > 0$ гладкий максимум $\widetilde{\max}_{\delta}(\varphi,\psi)$ двух (строго) $J$-плюрисубгармонических функций $\varphi, \psi$ на $M$ снова оказывается (строго) $J$-плюрисубгармоническим; здесь мы обозначили через $\widetilde{\max}_{\delta}$ гладкий максимум, определенный в [13; § 2]. Таким образом, мы можем закончить доказательство в точности так же, как в [14; теорема 2.1]. Теорема доказана. Далее, основной результат о структуре ядра $\mathfrak{c}(\Omega)$ комплексного многообразия $\Omega$, полученный в [13], утверждает, что $\mathfrak{c}(\Omega)$ всегда $1$-псевдовогнуто в $\Omega$. Мы можем доказать обобщение этого результата на случай почти комплексных многообразий. Сначала нам потребуется следующее определение. Определение 2.2. Пусть $\Omega$ – открытое подмножество почти комплексного многообразия $(M,J)$, и пусть множество $A \subset \Omega$ относительно замкнуто. Скажем, что $A$ $(J,1)$-псевдовогнуто в $\Omega$, если не существует области $U \subset \Omega$ с гладкой вещественной гиперповерхностью $H \subset U$ таких, что разность $U \setminus H$ состоит из двух связных компонент $U_1$ и $U_2$, $H \cap A \neq \varnothing$, $U \cap A \subset \overline{U}_1$ и область $U_1$ строго $J$-псевдовыпукла в каждой точке $p \in H$. Можно показать, к примеру, опираясь на доказательства [13; предложение 3.2 и теорема 3.2], что замкнутое подмножество $A$ комплексного многообразия $\Omega$ $(J,1)$-псевдовогнуто в $\Omega$, если и только если оно 1-псевдовогнуто в смысле классического определения Ротштейна, где $J$ – естественная интегрируемая почти комплексная структура на $\Omega$. Теорема 2.4. Пусть $(M,J)$ – почти комплексное многообразие, а $\Omega \subset M$ – его открытое подмножество. Если структура $J$ является $\mathscr{C}^\infty$-гладкой, то ядро $\mathfrak{c}_J(\Omega)$ $(J,1)$-псевдовогнуто в $M$. Доказательство. Чтобы прийти к противоречию, допустим существование таких $U$ и $H$, как в определении выше, и зафиксируем $p\in H \cap \mathfrak{c}_J(\Omega)$. По существу, доказательство проводится, как в [13; лемма 3.2], за следующими тремя исключениями. Чтобы показать, что $H$ можно считать фрагментом гладкой строго выпуклой гиперповерхности в $(\mathbb{C}^n,J_{\mathrm{st}})$, нам сначала надо ввести локальную систему координат вблизи $p$, как в [3; предложение 3.6]. Далее, существование непрерывной максимальной $J$-плюрисубгармонической функции $\widetilde{\varphi}$ на относительно компактной $J$-псевдовыпуклой области $G$ с гладкой границей, которая принимает некоторые предписанные граничные значения $\varphi|_{bG}$ на $bG$, было доказано в [11; теорема 7.5 и предложение 7.13] (см. также [22; предложение 4.1]). Наконец, при построении функции $\psi := \delta_{\gamma_2} \ast (\widetilde{\varphi}-\gamma_1)+\gamma_3 \|\,{\cdot}\,\|^2$ мы не можем воспользоваться сверткой, так что вместо этого приходится определять $\psi$ как подходящее сглаживание функции $(\widetilde{\varphi}-\gamma_1)+\gamma_3 \|\,{\cdot}\,\|^2$ с помощью конструкции Рихберга из [23; теорема 3.1]. Теорема доказана. Как и в случае $J$-плюрисубгармонических функций, теперь для каждой области $\Omega$ в почти комплексном многообразии $(M,J)$ можно было бы определить ее ядро $\mathfrak{c}_J(\Omega,q)$ относительно класса $(J,q)$-плюрисубгармонических функций, положив
$$
\begin{equation*}
\begin{aligned} \, \mathfrak{c}_J(\Omega,q) &:= \bigl\{z \in \Omega \colon\text{никакая ограниченная сверху гладкая} \\ &\qquad\text{ $(J,q)$-плюрисубгармоническая функция в $\Omega$ не является} \\ &\qquad \text{ строго $(J,q)$-плюрисубгармонической в } z \bigr\}. \end{aligned}
\end{equation*}
\notag
$$
Однако мы не знаем, содержательно ли это определение: у нас нет примеров областей $\Omega \subset M$ таких, что $\mathfrak{c}_J(\Omega, q) \neq \varnothing$ при $q > 0$. В самом деле, для областей Штейна $\Omega$, как показывает следующее утверждение, множество $\mathfrak{c}_J(\Omega, q)$ всегда пустое для любого $q > 0$. (Напомним, что область $\Omega$ в почти комплексном многообразии называется областью Штейна, если в ней существует $\mathscr{C}^2$-гладкая строго $J$-плюрисубгармоническая исчерпывающая функция; см. [3]. Как можно видеть из [12; теорема 4.1], если $J$ является $\mathscr{C}^\infty$-гладкой, то можно дать эквивалентное определение, потребовав существования $\mathscr{C}^\infty$-гладкой строго $J$-плюрисубгармонической исчерпывающей функции.) Предложение 2.2. В каждой области Штейна $\Omega$ в почти комплексном многообразии $(M,J)$ можно найти ограниченную гладкую строго $(J,1)$-плюрисубгармоническую функцию. В частности, $\mathfrak{c}_J(\Omega,q)= \varnothing$ для всех $q > 0$. Доказательство. Пусть $\psi \colon \Omega \to \mathbb R$ – гладкая строго $J$-плюрисубгармоническая функция. Заменив $\psi$ на $e^\psi$ при необходимости, можно считать без ограничения общности, что $\psi \geqslant 0$. Определим функцию $\chi \colon (-1, \infty) \to \mathbb R$ формулой $\chi (t) := -1/(1+t)$ и рассмотрим ограниченную гладкую функцию $\varphi := \chi \circ \psi$. Тогда в силу (3) для всех точек $z \in \Omega$ и векторов $\xi \in T_z^{1,0}(M)$. В частности, $\operatorname{Lev}_J(\varphi)(z,\,\cdot\,) > 0$ на подпространстве $H_z(\psi)=\{\xi \in T_z^{1,0}(M) \colon (\partial_J\psi)_z(\xi)=0\}$, имеющем размерность не меньше $\dim_\mathbb{C} M-1$. Предложение доказано. Можно было бы ожидать, что для областей $\Omega$ в комплексных многообразиях во всяком случае компактные аналитические подмножества чистой размерности $q+1$ всегда лежат в $\mathfrak{c}(\Omega,q)$. Однако, как показывает следующий пример, это не обязательно так. Пример 2. Пусть $\mathscr{M} := \{(z,[x]) \in \mathbb{C}^3 \times \mathbb{CP}^2 \colon z_ix_j=z_jx_i, \,i,j= 0,1,2\}$ – раздутие пространства $\mathbb{C}^3$ в начале координат. Для $j=0,1,2$ зададим отображения $h_j \colon U_j \to \mathbb{C}^3$ из плотных открытых подмножеств $U_j := \{(z,[x]) \in \mathscr{M}$: $x_j \neq 0\}$ формулами Заметим также, что, вообще говоря, у теоремы 1.3 нет аналога для строго $q$-псевдовыпуклых областей $\Omega$ при $q>0$, т.е. в общем случае нельзя глобальную определяющую функцию области $\Omega$ из теоремы 2.2 выбрать строго $q$-плюрисубгармонической вне $\mathfrak{c}(\Omega, q)$ (даже в контексте комплексных многообразий). Действительно, для области $\Omega$ в последнем примере имеем $\mathfrak{c}(\Omega,1)=\varnothing$, но на $\Omega$ нельзя найти гладкой строго $1$-плюрисубгармонической функции, поскольку таких функций нет на многообразии $\mathbb{CP}^2$. 2.3. Определяющие функции областей с не обязательно гладкими границамиТеперь попробуем выяснить вопрос, в какой степени результаты п. 2.2 обобщаются на области с не обязательно $\mathscr{C}^\infty$-гладкими границами. Чтобы избежать чрезмерного многословия, ограничимся указанием необходимых изменений в формулировках наших результатов в виде следующего замечания. Замечание 2.3. 1) Утверждения теорем 2.1 и 2.2 сохраняют силу при замене $\mathscr{C}^\infty$-гладкости на $\mathscr{C}^s$-гладкость, где $s \geqslant 2$. Если $q=0$ и у каждой точки $z \in b\Omega$ найдутся открытая окрестность $U \subset M$ и там – $\mathscr{C}^1$-гладкая строго $J$-плюрисубгармоническая функция $\varphi \colon U \to \mathbb R$ такие, что $\Omega \cap U=\{\varphi < 0\}$ и $d\varphi \neq 0$ на $b\Omega \cap U$, и если $f \colon b\Omega \to \mathbb R$ – $\mathscr{C}^2$-гладкая функция (т.е. у каждой точки $z \in b\Omega$ есть открытая окрестность $U_z \subset M$ и в ней – $\mathscr{C}^2$-гладкая функция $F_z \colon U_z \to \mathbb R$ такие, что $F_z$ совпадает с $f$ на $b\Omega \cap U_z$), то выполнено утверждение, аналогичное теореме 2.1 с $\mathscr{C}^1$-гладкой функцией $F$. Похожий результат (в котором, в частности, функция $ f \colon b\Omega \to \mathbb R$ снова предполагается $\mathscr{C}^2$-гладкой) верен и если $\Omega$ можно локально, в окрестности каждой точки $p \in b\Omega$, представить как множество подуровня непрерывной строго $J$-плюрисубгармонической функции (не налагая на $b\Omega$ никаких условий гладкости). Аналогично можно обобщить и теорему 2.2 (но, разумеется, без наложения условий на дифференциал функции $\varphi$ при $s=0$). Более того, при анализе случая возможно негладких границ стоит также упомянуть, что в доказательствах теорем 2.1 и 2.2 множество $\Omega$ не обязательно связно. В частности, любое строго псевдовыпуклое открытое множество на комплексном многообразии допускает глобально определенную непрерывную определяющую функцию. (Для обобщений на упомянутые выше случаи с $s < 2$ в (технически более простом) случае $q=0$ достаточно повторить доказательства теорем 2.1 и 2.2 из [13].) 2) Следует также отметить, не вдаваясь в детали доказательства, что условия на гладкость границы $b\Omega$ можно ослабить еще дальше. Действительно, в теореме 2.1 достаточно считать, что $\Omega$ можно локально, вблизи каждой граничной точки, представить как множество подуровня $\mathscr{C}^\infty$-гладкой строго $(J,q)$-плюрисубгармонической функции, дифференциал которой может обращаться в нуль на $b\Omega$ (или, более общо, можно представить как множество подуровня $\mathscr{C}^s$-гладкой строго $(J,q)$-плюрисубгармонической функции для некоторого $s \geqslant 2$ – или для $(q,s)=(0,1)$ – но тогда и функция $F$ из теоремы 2.1 окажется, вообще говоря, лишь $\mathscr{C}^s$-гладкой). Области этого типа рассматривались, к примеру, в работах [15] и [16]. Это вполне ясно при $q=0$. При $q \in \{1, 2, \dots, n-1\}$ это вытекает из следующего факта: если $\Omega \subset \mathbb{C}^n$ – открытое множество, $z \in b\Omega$, $U \subset \mathbb{C}^n$ – открытая окрестность точки $z$ и функции $\varphi_1, \varphi_2 \colon U \to \mathbb R$ $\mathscr{C}^2$-гладкие и строго $q$-плюрисубгармонические, причем $\Omega \cap U=\{\varphi_1 < 0\}=\{\varphi_2 < 0\}$, то для каждого вектора $\xi \in H_z(\varphi_1)=H_z(\varphi_2)$ (к примеру, в [15; предложение 1.5.16] показано, что $(d\varphi_1)_z=0$, если и только если $(d\varphi_2)_z=0$) неравенство $\operatorname{Lev}(\varphi_1)(z,\xi) \geqslant 0$ выполнено тогда и только тогда, когда $\operatorname{Lev}(\varphi_2)(z,\xi) \geqslant 0$ (к примеру, см. доказательство [1; предложение 15]). В частности, сумма $\varphi_1+\varphi_2$ строго $q$-плюрисубгармонична вблизи точки $z$, если как $\varphi_1$, так и $\varphi_2$ строго $q$-плюрисубгармоничны вблизи $z$ и $(d\varphi_1)_z=(d\varphi_2)_z=0$. Итак, если $\Sigma(b\Omega)$ – множество таких точек $z \in b\Omega$, что граница $b\Omega$ гладкая в $z$, то функция $F=\sum_{j=1}^\infty F_j$ из доказательства теоремы 2.1 автоматически строго $(J,q)$-плюрисубгармонична в окрестности множества $b\Omega \setminus \Sigma(b\Omega)$, а строгая $(J,q)$-плюрисубгармоничность в окрестности остальной части $b\Omega$ доказывается, как выше (в случае неинтегрируемой структуры $J$ мы снова пользуемся [3; предложение 3.6]). Точно так же можно ослабить условия теоремы 2.2, но тогда отличие от нуля дифференциала построенной функции $\varphi$ мы сможем гарантировать только в точках $\Sigma(b\Omega)$. 3) Напомним, что до сих пор мы считали структурное отображение $J$ хотя бы $\mathscr{C}^1$-гладким. Если же $J$ лишь $C^{\alpha}$-непрерывно для некоторого $\alpha \in (0,1)$, то неясно, будут ли различные возможные определения строгой $J$-псевдовыпуклости областей $\Omega \subset M$ с $\mathscr{C}^k$-гладкими границами по-прежнему эквивалентными (поскольку неясно, останется ли верным [3; предложение 3.6]). Однако если предположить, что $\mathscr{C}^k$-гладкая строго $J$-плюрисубгармоническая локальная определяющая функция существует вблизи каждой точки $p \in b\Omega$, $k \geqslant 0$, то процедура склейки из кусочков, как в теореме 1.1, по-прежнему будет работать на почти комплексном многообразии $(M,J)$ со всего лишь $\mathscr{C}^\alpha$-непрерывной структурой $J$. (Такое же замечание можно сделать и когда $J$ еще менее регулярна. Однако заметим, что в этом случае теорема Нийенхейса–Вольфа может не выполняться и понятия (строгой) $J$-плюрисубгармоничности и строгой $J$-псевдовыпуклости могут оказаться тривиальными.) Неясно, возможно ли такое же обобщение теорем выше на случай строго $q$-псевдовыпуклых областей, как упомянутое в замечании 1, если $J$ не будет хотя бы $\mathscr{C}^1$-гладкой. 4) Что касается случая $\mathscr{C}^\infty$-гладких функций, то для каждого $s\in \mathbb{N}_0^\infty := \{0\} \cup \mathbb{N} \cup \{\infty\}$ можно определить множества
$$
\begin{equation*}
\begin{aligned} \, \mathfrak{c}_J^s(\Omega) &:= \bigl\{z \in \Omega \colon\text{никакая ограниченная сверху $\mathscr{C}^s$-гладкая} \\ &\qquad\text{$J$-плюрисубгармоническая функция в $\Omega$} \\ &\qquad\text{не является строго $J$-плюрисубгармонической в точке } z \bigr\}. \end{aligned}
\end{equation*}
\notag
$$
Тогда для $s \in \mathbb{N}_0^\infty$ верен результат, аналогичный теореме 1.3. Заметим однако, что неясно, верно ли равенство $\mathfrak{c}^{s_1}(\Omega)=\mathfrak{c}^{s_2}(\Omega)$ при $s_1 \neq s_2$ в общем случае. Аналогичные обобщения возможны для ядер $\mathfrak{c}_{J,q}(\Omega)$ порядка $q$ и для соответствующего результата теоремы 2.3. Более того, результат, аналогичный теореме 1.3, выполняется и в случае, когда граница $b\Omega$ гладкая в более слабом смысле, как в п. 2) выше. 5) Можно также ввести еще один вариант ядра, положив
$$
\begin{equation*}
\begin{aligned} \, \widetilde{\mathfrak{c}}_J(\Omega) &:= \bigl\{z \in \Omega \colon\text{никакая $J$-плюрисубгармоническая функция, на $\Omega$} \\ &\qquad \text{ограниченная сверху и не равная $-\infty$ тождественно на связной} \\ &\qquad \text{компоненте множества } \Omega, \text{ не является строго} \\ &\qquad\text{$J$-плюрисубгармонической в } z \bigr\}. \end{aligned}
\end{equation*}
\notag
$$
Заметим, что это определение более слабого понятия: вообще говоря, $\widetilde{\mathfrak{c}}_J(\Omega) \subsetneq \mathfrak{c}_J(\Omega)$. К примеру, функция $\varphi(z,w) := \log|w-f(z)|+C_1(|z|^2+|w|^2)$ строго плюрисубгармонична и ограничена сверху в области $\Omega$ из примера 1, так что в этом случае $\widetilde{\mathfrak{c}}(\Omega)=\varnothing$, однако $\mathfrak{c}(\Omega) \neq \varnothing$ (как и раньше, мы опускаем индекс $J$, если объемлющее многообразие комплексное). Нам не известно, существуют ли почти комплексное многообразие $(M,J)$ и строго псевдовыпуклая область $\Omega \subset M$ такие, что $\widetilde{\mathfrak{c}}_J(\Omega) \neq \varnothing$. Продемонстрируем еще одно применение конструкций из доказательства теоремы 2.1. Теорема 2.5. Пусть $\mathscr{M}$ – комплексное многообразие, и пусть $\Omega \subset \mathscr{M}$ – строго псевдовыпуклое открытое множество (не обязательно относительно компактное и не обязательно с гладкой границей). Пусть $U \subset \mathscr{M}$ – произвольная открытая окрестность границы $b \Omega$. Тогда верны следующие утверждения. (1) Существует такое строго псевдовыпуклое открытое множество $\Omega'\subset \mathscr{M}$ с гладкой границей, что $\Omega \setminus U \subset \Omega'$, $\overline{\Omega'} \subset \Omega$ и $\mathfrak{c}(\Omega')=\mathfrak{c}(\Omega)$. (2) Существует такое строго псевдовыпуклое открытое множество $\Omega'' \subset \mathscr{M}$ с гладкой границей, что $\overline{\Omega} \subset \Omega''$, $\overline{\Omega''} \subset \Omega \cup U$ и $\mathfrak{c}(\Omega'')= \mathfrak{c}(\Omega)$. В частности, у $\overline{\Omega}$ есть окрестностный базис из строго псевдовыпуклых открытых множеств с гладкими границами. Более того, если $\Omega$ – область, то в качестве $\Omega'$ и $\Omega''$ можно взять такие области. Доказательство. Зафиксируем открытую окрестность $U \subset \mathscr{M}$ границы $b\Omega$.
(1) Сначала докажем существование строго псевдовыпуклого множества $\Omega'$. Пусть $\omega \subset \Omega$ – произвольное фиксированное открытое множество такое, что $\Omega \setminus U \subset \omega$ и $\overline{\omega} \subset \Omega$. По теореме 2.2 и замечанию 2.2, 1) найдется такая непрерывная плюрисубгармоническая функция $\varphi$ вблизи $\overline{\Omega}$, что $\Omega=\{\varphi < 0\}$, $\varphi \geqslant -1$, $\varphi \equiv -1$ на $\omega$ и $\varphi$ строго плюрисубгармонична на $\{\varphi > -1\}$. Используя сглаживание по Рихбергу (к примеру, см. [2; теорема I.5.21]), мы можем найти непрерывную плюрисубгармоническую функцию $\widetilde{\varphi}$ вблизи $\overline{\Omega}$ такую, что $\widetilde{\varphi}\,{\geqslant}\,\varphi$, $\widetilde{\varphi} \equiv -1$ на $\omega$, $\widetilde{\varphi}$ гладкая строго плюрисубгармоническая на $\{\widetilde{\varphi} > -1\}$, и $|\widetilde{\varphi}- \varphi| < 1/2$. Пусть $c \in (-1,-1/2)$ – регулярное значение $\widetilde{\varphi}$; положим $\Omega' := \{\widetilde{\varphi} < c\}$. Тогда $\Omega'$ – строго псевдовыпуклое открытое множество, причем $\Omega \setminus U \subset \Omega'$ и $\overline{\Omega'} \subset \Omega$. Остается показать, что $\mathfrak{c}(\Omega')=\mathfrak{c}(\Omega)$. Из того, что $\Omega' \subset \Omega$, сразу следует, что $\mathfrak{c}(\Omega') \subset \mathfrak{c}(\Omega)$. С другой стороны, заметим, что для достаточно малых $\delta > 0$ функция $\varphi_1 := \widetilde{\max}_\delta(\widetilde{\varphi}-c,-(c+1)/2)$ гладкая, плюрисубгармоническая и ограниченная сверху на $\Omega$, причем она строго плюрисубгармонична вблизи $\Omega \setminus \Omega'$ и $\Omega'=\{\varphi_1 < 0\}$. В частности, отсюда видно, что $\mathfrak{c}(\Omega) \subset \Omega'$. Для произвольной фиксированной точки $p \in \Omega' \setminus \mathfrak{c}(\Omega')$ найдем такую гладкую функцию $\varphi_2 \colon \Omega' \to \mathbb R$, которая плюрисубгармонична, ограничена сверху и при этом строго плюрисубгармонична вблизи $p$. Тогда функция $\varphi_p := \widetilde{\max}_1(C_1\varphi_1, \varphi_2-C_2)$, где $C_1,C_2 > 0$ – такие постоянные, что $\varphi_2-C_2 < C_1\varphi_1-1$ вблизи $b\Omega'$ и $C_1\varphi_1(p) < \varphi_2(p)-C_2-1$, является гладкой, плюрисубгармонической и ограниченной сверху в $ \Omega$, причем $\varphi_p$ строго плюрисубгармонична вблизи $p$. Это показывает, что $\mathfrak{c}(\Omega) \subset \mathfrak{c}(\Omega')$. (2) Докажем теперь существование строго псевдовыпуклого множества $\Omega''$. Уменьшив $U$ при необходимости, обозначим через $\varphi$ такую непрерывную плюрисубгармоническую функцию на $\Omega \cup U$, что $\Omega=\{\varphi < 0\}$, $\varphi \geqslant -1$, $\varphi > -1/2$ на $U$ и $\varphi$ строго плюрисубгармонична на $\{\varphi > -1\}$. Без ограничения общности можно считать, что $\varphi > 0$ вне $\overline{\Omega}$ (на самом деле функция $\varphi$ из теоремы 2.2 обладает этими свойствами по построению). Докажем, что найдется такое строго псевдовыпуклое открытое множество $\widetilde{\Omega}'' \subset \mathscr{M}$ (не обязательно имеющее гладкую границу), что $\overline{\Omega} \subset \widetilde{\Omega}'' \subset \Omega \cup U$. Доказательство по сути то же, что и в [26; лемма 2]: выберем локально конечное открытое покрытие $\{U_j\}_{j=1}^\infty$ границы $b\Omega$ открытыми множествами $U_j \Subset U$. Для каждого индекса $j \in \mathbb{N}$ пусть $\eta_j \colon \mathscr{M} \to (-\infty, 0]$ – такая гладкая функция, что $\{\eta_j < 0\}= U_j$. Положим $\phi := \varphi+\sum_{j=1}^\infty \varepsilon_j\eta_j$, где $\varepsilon_j$, $j \in \mathbb{N}$, – положительные постоянные. Ясно, что $\phi > 0$ вблизи $b(\Omega \cup U)$, $\phi < 0$ на $\overline{\Omega}$, и, если $\varepsilon_j$ выбраны достаточно малыми, $\phi$ остается строго плюрисубгармонической на $U$. Положим $\widetilde{\Omega}'' := \{\phi < 0\}$. Заметим, что подходящим выбором чисел $\varepsilon_j$ можно также обеспечить, чтобы $\mathfrak{c}(\widetilde{\Omega}'')=\mathfrak{c}(\Omega)$. Действительно, так как $\Omega \subset \widetilde{\Omega}''$, то сразу ясно, что $\mathfrak{c}(\Omega) \subset \mathfrak{c}(\widetilde{\Omega}'')$. Заметим теперь, что в конструкции $\phi$ можно взять $\varepsilon_j$ настолько малыми, что $\phi > -1/2$ на $U$. Тогда можно использовать ту же процедуру сглаживания, что и в части $(1)$ (выбирая $c=-1/2$), и получить такую гладкую, ограниченную сверху плюрисубгармоническую функцию $\phi_1 \colon \widetilde{\Omega}'' \to [-1/4,\infty)$, что $\phi_1 > 0$ на $\widetilde{\Omega}'' \cap U$ и $\phi_1$ строго плюрисубгармоническая на $\{\phi_1 > -1/4\}$. Повторяя рассуждения из доказательства в части (1), легко увидеть, что $\mathfrak{c}(\widetilde{\Omega}'') \subset \mathfrak{c}(\Omega)$. Теперь применим часть (1) теоремы к строго псевдовыпуклому множеству $\widetilde{\Omega}''$ и открытой окрестности границы $b\widetilde{\Omega}''$, не пересекающей $\Omega$, и получим искомое множество $\Omega''$. Доказательство части (2) завершено. Два последних свойства, утверждаемых теоремой, очевидны по построению. Теорема 2.5 доказана. Замечание 2.4. 1) Аналогичные выводы можно сделать и тогда, когда $\Omega$ – область в почти комплексном многообразии $(M,J)$, которую локально, вблизи каждой граничной точки $p\in b\Omega$, можно представить как множество подуровня непрерывной строго $J$-плюрисубгармонической функции, при условии, что структура $J$ $\mathscr{C}^\infty$-гладкая. Единственное дополнительное наблюдение, нужное для этого, заключается в том, что аналог сглаживания по Рихбергу возможен и в почти комплексной ситуации; см. [23; теорема 3.1]. 2) Неясно, верно ли аналогичное утверждение для строго $q$-псевдовыпуклых открытых множеств (или областей) $\Omega \subset \mathscr{M}$, поскольку не всегда можно произвести $q$-сглаживание $q$-плюрисубгармонической функции; см. [4]. § 3. Глобальные определяющие функции в комплексных пространствахВ этом параграфе мы распространяем результаты о существовании глобальных определяющих функций на ситуацию комплексных пространств. Однако по крайней мере по двум позициям, указанным ниже, наши результаты здесь слабее, чем для комплексных многообразий. Во-первых, нам не удается установить общую теорему существования глобальных определяющих функций гладко строго $q$-псевдовыпуклых областей при $q > 0$. Вместо этого мы вынуждены ограничиться строго гипер-$q$-псевдовыпуклыми областями. Во-вторых, если $\Omega$ – гладко строго псевдовыпуклая область (т.е. $q=0$) в некотором комплексном пространстве, то возникают технические тонкости, связанные с регулярностью искомой функции и заключающиеся в построении глобальной гладкой определяющей функции, являющейся гладко строго плюрисубгармонической вне $\mathfrak{c}(\Omega)$. Начнем с набора необходимых нам определений и результатов. Пусть $X=(X, \mathscr{O}_X)$ – комплексное пространство (все комплексные пространства считаются приведенными и паракомпактными). Голоморфная карта для $X$ – это набор $(U, \tau, A, G)$, где $U \subset X$ – открытое подмножество, $A$ – аналитическое множество в области $G \subset \mathbb{C}^n$, а $\tau \colon U \xrightarrow{\sim} A$ – биголоморфное отображение. Для каждой точки $x \in X$ пусть $T_x(X)$ обозначает касательное пространство по Зарискому к $X$ в точке $x$, т.е. $T_x(X) := (\mathfrak{m}_x/\mathfrak{m}_x^2)^\ast$, где $\mathfrak{m}_x \subset \mathscr{O}_x$ – это максимальный идеал ростков голоморфных функций, обращающихся в нуль в $x$. Если $f \colon X \to Y$ – голоморфное отображение между комплексным пространствами $X$ и $Y$, то через $f_\ast$ обозначим индуцированный дифференциал $f_\ast=f_{\ast,x} \colon T_x(X) \to T_{f(x)}(Y)$. Пусть $\varphi \colon X \to \mathbb R$ – гладкая функция, $(U, \tau ,A, G)$ – голоморфная карта на $X$ в окрестности $x$, а $\widehat{\varphi} \colon G \to \mathbb R$ – такая гладкая функция, что $\varphi=\widehat{\varphi} \circ \tau$ на $U$ (см. определение гладкой функции на комплексном пространстве ниже). Тогда можно определить функционалы $(d\varphi)_x \colon T_x(X) \to \mathbb R$ и $(\partial \varphi)_x, (\overline{\partial} \varphi)_x \colon T_x(X) \to \mathbb{C}$, полагая
$$
\begin{equation*}
\begin{gathered} \, (\partial \varphi)_x(\xi) := (\partial \widehat{\varphi})_{\tau(x)}(\tau_\ast\xi), \qquad (\overline{\partial} \varphi)_x(\xi) := (\overline{\partial} \widehat{\varphi})_{\tau(x)}(\tau_\ast\xi), \\ (d\varphi)_x(\xi) := (\partial \varphi)_x(\xi)+(\overline{\partial} \varphi)_x(\xi) \end{gathered}
\end{equation*}
\notag
$$
для $\xi \in T_x(X)$. Действительно, в силу [27; предложение, часть 1] это определение не зависит от гладкого продолжения функции $\widehat{\varphi}$ и в силу [9; § 1, утверждение (1)] оно не зависит и от голоморфной карты $(U, \tau ,A, G)$. В частности, $H_x(\varphi) := \{ \xi \in T_x(X)\colon (\partial \varphi)_x(\xi)=0\}$ – корректно определенное подпространство пространства $T_x(X)$. Аналогичным образом хотелось бы определить отображение $\operatorname{Lev}(\varphi)(x,\,\cdot\,) \colon T_x(X) \to \mathbb R$ формулой
$$
\begin{equation}
\operatorname{Lev}(\varphi)(x,\xi) := \operatorname{Lev}(\widehat{\varphi})(\tau(x),\tau_\ast\xi).
\end{equation}
\tag{4}
$$
Однако, как показано в [27; пример 1], определенная таким образом величина $\operatorname{Lev}(\varphi)(x,\xi)$, вообще говоря, зависит от выбора гладкого продолжения функции $\widehat{\varphi}$. На самом деле, для корректности определения (4) надо потребовать, чтобы $X$ было локально неприводимым в точке $x$; см. [27; предложение, часть 2]. (Нам не известно, можно ли корректно определить функционалы $(\partial \varphi)_x, (\overline{\partial} \varphi)_x$ и $(d\varphi)_x$ в общем случае, если $\varphi$ считать всего лишь $\mathscr{C}^1$-гладкой. Мы также не знаем, можно ли на локально неприводимых комплексных пространствах корректно определить форму Леви $\operatorname{Lev} (\varphi)(x,\,\cdot\,)$ произвольной $\mathscr{C}^2$-гладкой функции $\varphi$.) Скажем, что функция $\varphi \colon X \to \mathbb R$ гладкая или (строго) плюрисубгармоническая, если для каждой точки $x \in X$ найдутся голоморфная карта $(U, \tau, A, G)$ в окрестности $x$ и гладкая или соответственно (строго) плюрисубгармоническая функция $\widehat{\varphi} \colon G \to \mathbb R$ такие, что $\varphi|_U=\widehat{\varphi} \circ \tau$. Заметим, что из этого определения не ясно, допускает ли гладкая (строго) плюрисубгармоническая функция $\varphi \colon X \to \mathbb R$ указанные локальные продолжения $\widehat{\varphi}$, являющиеся одновременно гладкими и (строго) плюрисубгармоническими. На самом деле, вообще говоря, это не так; см., к примеру, [25; предостережение 1.5] и [27; пример 2]. Если в окрестности каждой точки $x \in X$ у функции $\varphi$ есть голоморфные карты и локальные продолжения $\widehat{\varphi}$, являющиеся одновременно гладкими и (строго) плюрисубгармоническими, то будем называть $\varphi$ гладко (строго) плюрисубгармонической. Назовем область $\Omega \subset X$ строго псевдовыпуклой, если у каждой точки $x \in b\Omega$ существуют открытая окрестность $U_x \subset X$ и непрерывная строго плюрисубгармоническая в ней функция $\varphi_x \colon U_x \to \mathbb R$ такие, что $\Omega \cap U_x=\{\varphi_x < 0\}$. Область $\Omega$ назовем гладко строго псевдовыпуклой, если для каждой точки $x \in b\Omega$ функцию $\varphi_x \colon U_x \to \mathbb R$ можно взять гладко строго плюрисубгармонической. (Можно аналогичным образом ввести понятия $\mathscr{C}^s$-гладко (строго) плюрисубгармонической функции и $\mathscr{C}^s$-гладко строго псевдовыпуклой области для любого $s \in \mathbb{N}_0^\infty$. Заметим, что функция $\varphi \colon X \to \mathbb R$ является $\mathscr{C}^0$-гладкой и (строго) плюрисубгармонической тогда и только тогда, когда она $ \mathscr{C}^0$-гладко (строго) полюрисубгармоническая; см. [24; теорема 2.4].) Пусть $q \in \mathbb{N}_0$. Назовем функцию $\varphi \colon X \to \mathbb R$ (строго) $q$-плюрисубгармонической, если у каждой точки $x \in X$ существуют голоморфная карта $(U, \tau, A, G)$ в окрестности $x$ и $\mathscr{C}^2$-гладкая (строго) $q$-плюрисубгармоническая функция $\widehat{\varphi}\,$: $G \to \mathbb R$ такие, что $\varphi|_U=\widehat{\varphi} \circ \tau$. Назовем $\varphi$ гладко (строго) плюрисубгармонической, если в окрестности каждой точки $x \in X$ найдутся голоморфная карта и локальное продолжение $\widehat{\varphi}$, являющееся гладким и (строго) $q$-плюрисубгармоническим. Область $\Omega \subset X$ назовем (гладко) строго $q$-псевдовыпуклой, если у каждой точки $x \in b\Omega$ существует открытая окрестность $U_x \subset X$, а в ней – (гладко) строго $q$-плюрисубгармоническая функция $\varphi_x \colon U_x \to \mathbb R$ такие, что $\Omega \cap U_x=\{\varphi_x < 0\}$. (Можно дать аналогичные определения $\mathscr{C}^s$-гладко (строго) $q$-плюрисубгармонических функций и $\mathscr{C}^s$-гладко строго $q$-псевдовыпуклых областей, для любого $s > 2$.) Наконец скажем, что граница $b\Omega$ гладкая в точке $x \in b\Omega$, если в открытой окрестности $U \subset X$ точки $x$ существует такая гладкая функция $\varphi \colon U \to \mathbb R$, что $\Omega \cap U=\{\varphi < 0\}$ и $(d\varphi)_x \neq 0$. Заметим, что $b\Omega$ гладкая в $x \in b\Omega$, если и только если во всякой достаточно малой минимальной голоморфной карте, покрывающей $x$ (т.е. в достаточно малой карте $(U, \tau, A, G)$, покрывающей $x$ и такой, что $G \subset \mathbb{C}^{\operatorname{ebdim}_ x X}$, где $\operatorname{ebdim}_ xX=\dim_\mathbb{C} T_x(X)$ – размерность вложения пространства $X$ в точке $x$), область $\Omega$ является пересечением $X$ и области с гладкой границей в объемлющем пространстве $\mathbb{C}^n$. Скажем, что функция $f \colon b\Omega \to \mathbb R$ гладкая, если она является ограничением гладкой функции, заданной в открытой окрестности $U \subset X$ границы $b\Omega$. В случае, когда $X$ – многообразие, а граница $b\Omega$ гладкая, это определение совпадает с обычным. (Аналогичные определения $\mathscr{C}^s$-гладкой границы и $\mathscr{C}^s$-гладкой функции опять-таки можно дать для любого $s \in \mathbb{N}_0^\infty$.) Теперь мы можем сформулировать основные результаты этого параграфа, которые обобщают теоремы 1.1 и 1.2 на случай гладко строго псевдовыпуклых областей в комплексных пространствах. Теорема 3.1. Пусть $X$ – комплексное пространство, $\Omega \subset X$ – гладко строго псевдовыпуклая область, и пусть $f \colon b\Omega \to \mathbb R$ – гладкая ограниченная снизу функция. Тогда существует гладко плюрисубгармоническая функция $F$ в открытой окрестности множества $\overline{\Omega}$, для которой $F|_{b\Omega}=f$, причем $ F$ гладко строго плюрисубгармонична вблизи $b\Omega$. Теорема 3.2. Пусть $X$ – комплексное пространство, а $\Omega \subset X$ – гладко строго псевдовыпуклая область. Тогда существует гладко плюрисубгармоническая функция $\varphi$ в открытой окрестности $\overline{\Omega}$ такая, что $\Omega=\{\varphi < 0\}$ и $\varphi$ гладко строго плюрисубгармонична вблизи $b\Omega$. Нам хотелось бы также установить результаты, аналогичные теоремам 2.1 и 2.2 в случае гладко строго $q$-псевдовыпуклых областей в комплексных пространствах. Однако нам неизвестно, возможно ли это при $q > 0$ в общем случае. Трудность здесь на самом деле следующая: если $\Omega$ – область в комплексном многообразии $\mathscr{M}$, $z \in b\Omega$, $U \subset \mathscr{M}$ – открытая окрестность точки $z$, а $\varphi_1, \varphi_2 \colon U \to \mathbb R$ – такие гладкие функции, что $\Omega \cap U=\{\varphi_1 < 0\}=\{\varphi_2 < 0\}$, то $\operatorname{Lev}(\varphi_1)(z,\xi) \geqslant 0$ для каждого вектора $\xi \in H_z(\varphi_1)$, если и только если $\operatorname{Lev}(\varphi_2)(z,\xi) \geqslant 0$ (см. замечание 2.2). Так что, складывая $\varphi_2$ и $\varphi_1$, мы не теряем положительности формы Леви на $H_z(\varphi_1)$, а если $H_z(\varphi_1) \neq T_z(\mathscr{M})$, то возможную потерю положительности в нормальном направлении к $H_z(\varphi_1)$ (относительно некоторой эрмитовой метрики $h$ на $\mathscr{M}$) можно скомпенсировать, взяв суперпозицию суммы $\varphi_1+\varphi_2$ с гладкой строго возрастающей, строго выпуклой функцией $\chi \colon \mathbb R \to \mathbb R$. Однако в случае комплексных пространств это, вообще говоря, уже не так, что видно из примера ниже. Пример 3. Пусть $X := \{(z,w) \in \mathbb{C}^2 \colon z^3=w^2\}$ и $\Omega := X \setminus \{0\}$. Рассмотрим гладко $1$-плюрисубгармонические функции $\varphi_1, \varphi_2 \colon X \to \mathbb R$, заданные ограничениями на $X$ функций $\widehat{\varphi}_1(z,w) := |z+w|^2-2|z-w|^2$ и $\widehat{\varphi}_2(z,w) := |z-w|^2-2|z+w|^2$ на $\mathbb{C}^2$ соответственно. Легко проверяется, что в малой открытой окрестности $U \subset X$ точки $0 \in X$ выполнено равенство $\Omega \cap U= \{x \in U \colon \varphi_1(x) < 0\}=\{x \in U \colon \varphi_2(x) < 0\}$ и, значит, $\Omega$ – гладко строго $1$-псевдовыпуклая область. Поскольку $T_0(X) \simeq \mathbb{C}^2$, а пространство $X$ локально неприводимое, у любого гладкого продолжения функции $\varphi_1+\varphi_2$ на открытую окрестность точки $0 \in \mathbb{C}^2$ форма Леви в начале координат совпадает с формой Леви функции $\widehat{\varphi}_1+ \widehat{\varphi}_2$ в точке $0$. Однако $\operatorname{Lev}(\widehat{\varphi}_1+\widehat{\varphi}_2)(0, \,\cdot\,)$ отрицательно определена на $\mathbb{C}^2 \simeq H_0(\varphi_1)$. Можно возразить, что приведенный пример весьма патологический. С другой стороны, заметим, что обычно в определении гладко строго $q$-псевдовыпуклой области в комплексном пространстве не делается никаких предположений о гладкости $b\Omega$ (к примеру, см. [1]). Во всяком случае, даже когда мы предполагаем, что граница $b\Omega$ гладкая в точке $x \in b\Omega$, нам неизвестно, можно ли сравнить формы Леви в точке $x$ у двух локально определяющих функций для $\Omega$ в окрестности $x$ так, как это делается в случае многообразий. Вследствие проблем, указанных выше, для $q > 0$ мы доказываем обобщения теорем 2.1 и 2.2 только для гипер-$q$-псевдовыпуклых областей вместо гладко строго $q$-псевдовыпуклых. Прежде чем формулировать результаты точно, приведем необходимые определения. Сначала напомним определение эрмитовой метрики на комплексном пространстве. Для комплексного пространства $X$ рассмотрим его касательное пространство в смысле Зариского $\pi \colon T(X) \to X$, т.е. множество $T(X)$ является просто несвязным объединением $\bigcup_{x \in X} T_x(X)$ (к примеру, см. детали в [5]). Эрмитовой метрикой $h$ на $X$ называется такое гладкое отображение $h \colon T(X) \times_\pi T(X) \to \mathbb{C}$, что $h|_{T_x(X) \times T_x(X)}$ – эрмитова метрика на $T_x(X)$ для каждой точки $x \in X$. Если $h$ – эрмитова метрика на $X$, то для любой точки $x \in X$ через $\|\,{\cdot}\,\|_{h_x}$ и $\|\,{\cdot}\,\|_{h_x^\ast}$ обозначим индуцированные нормы на $T_x(X)$ и $T_x^\ast(X)$ соответственно. Если контекст понятен, то иногда нижний индекс $x$ будем опускать и использовать обозначение $\|\,{\cdot}\,\|_h$ или $\|\,{\cdot}\,\|_{h^\ast}$. Пусть $X$ – комплексное пространство с эрмитовой метрикой $h$. Назовем гладкую функцию $\varphi \colon X \to \mathbb R$ гипер-$q$-плюрисубгармонической (соответственно строго гипер-$q$-плюрисубгармонической), если для каждого комплексного подпространства $Y \subset X$, каждой точки $y \in Y$, любой голоморфной карты $(U, \tau, A, G)$ для $Y$, покрывающей $y$, и любой эрмитовой метрики $\widehat{h}$ на $G \subset \mathbb{C}^n$ такой, что $h|_U=\tau^\ast\widehat{h}$, найдутся открытая окрестность $G' \subset G$ точки $\tau(y)$ и гладкая функция $\widehat{\varphi} \colon G' \to \mathbb R$, для которой $\varphi=\widehat{\varphi} \circ \tau$ на $U' := \tau^{-1}(G') \subset U$, с тем свойством, что для каждой точки $x \in G'$ у ограничения формы Леви $\operatorname{Lev}(\widehat{\varphi})(x,\,\cdot\,)$ на любое $(q+1)$-мерное подпространство $\mathbb{C}^n$ неотрицательный (соответственно положительный) след, т.е. для каждого $\widehat{h}$-ортонормального семейства векторов $e_1, e_2, \dots, e_{q+1} \subset \mathbb{C}^n$ выполнено неравенство $\sum_{j=1}^{q+1} \operatorname{Lev}(\widehat{\varphi})(x, e_j) \geqslant 0$ (соответственно $> 0$). Заметим, что эти определения зависят от зафиксированной метрики $h$ и что, вообще говоря, форма Леви функции $\widehat{\varphi}$ не определена функцией $\varphi$ однозначно (но это выполнено, если $X$ локально неприводимо). Кроме того, из определения ясно, что все (строго) гипер-$q$-плюрисубгармонические функции являются (строго) $q$-плюрисубгармоническими. Основное преимущество множества (строго) гипер-$q$-плюрисубгармонических функций над множеством всех (строго) $q$-плюрисубгармонических функций в том, что первое множество замкнуто относительно сложения. (В случае не обязательно строго гипер-$q$-плюрисубгармонических функций здесь требуется, чтобы для любого продолжения $\widehat{h}$ метрики $h$ у $\varphi$ было продолжение $\widehat{\varphi}$ с описанными выше свойствами. В этом случае на комплексные подпространства $Y \subset X$ накладывается дополнительное условие, которое обеспечивает, чтобы ограничения гипер-$q$-субгармонических функций на комплексные подпространства снова оказывались гипер-$q$-плюрисубгармоническими: в наших построениях это свойство не потребуется. Более того, для не обязательно строго гипер-$q$-плюрисубгармонических функций также неясно, приводит ли условие существования продолжения $\widehat{\varphi}$ в одной какой-то карте на $Y$ – вместо существования продолжений во всех картах на $Y$ – к эквивалентному определению. В случае строго гипер-$q$-плюрисубгармонических функций таких осложнений не возникает, так как в этой ситуации можно использовать менее техническое эквивалентное определение; к примеру, см. [8; предложение 2.2]. В частности, из наших замечаний выше следует, что для любой строго гипер-$q$-плюрисубгармонической функции $\varphi \colon X \to \mathbb R$ и любой финитной гладкой функции $\theta \colon X \to \mathbb R$ найдется такое $\varepsilon_0 > 0$, что для любого $\varepsilon \leqslant \varepsilon_0$ функция $\varphi+\varepsilon\theta$ оказывается строго гипер-$q$-плюрисубгармонической.) Наконец заметим, что (строго) гипер-$0$-плюрисубгармоничность означает гладкую (строгую) плюрисубгармоничность. Понятие гипер-q-плюрисубгармоничности было введено для комплексных многообразий Г. Грауэртом и О. Рименшнайдером в работе [10], а используемое нами определение для комплексных пространств заимствовано из работы [8] (на самом деле, Г. Грауэрт и О. Рименшнайдер использовали термин “гипер-$(q+1)$-выпуклые функции”, а не “строго гипер-$q$-плюрисубгармонические функции”, но поскольку мы до этого говорили о строгой $q$-плюрисубгармоничности вместо $(q+1)$-выпуклости, мы продолжим использовать терминологию такого рода). Будем говорить, что область $\Omega \subset X=(X,h)$ строго гипер-$q$-псевдовыпуклая, если у каждой точки $x \in b\Omega$ найдутся открытая окрестность $U_x \subset X$ и строго гипер-$q$-плюрисубгармоническая функция $\varphi_x \colon U_x \to \mathbb R$ такие, что $\Omega \cap U_x= \{\varphi_x < 0\}$. Заметим, что $\Omega$ строго гипер-$0$-псевдовыпукла тогда и только тогда, когда она гладко строго псевдовыпукла. (Опять-таки можно дать аналогичные определения и в $\mathscr{C}^s$-гладкой категории, для любого $s \geqslant 2$.) Теперь обратимся к обобщениям теорем 2.1 и 2.2 на гипер-$q$-псевдовыпуклые области в комплексных пространствах. Заметим, что при $q=0$ сюда будут относиться также гладко строго псевдовыпуклые области. Таким образом, теоремы 3.1 и 3.2 оказываются частными случаями следующих двух теорем, так что нам достаточно доказать только эти более общие результаты. Теорема 3.1'. Пусть $X$ – комплексное пространство с эрмитовой метрикой $h$, пусть $\Omega \subset X$ – строго гипер-$q$-псевдовыпуклая область, а $f \colon b\Omega \to \mathbb R$ – ограниченная снизу гладкая функция. Тогда найдется такая гипер-$q$-плюрисубгармоническая функция $F$, заданная в открытой окрестности множества $\overline{\Omega}$, что $F|_{b\Omega}=f$ и $F$ строго гипер-$q$-плюрисубгармонична вблизи $b\Omega$. Доказательство. Поскольку $f$ ограничена снизу, можно считать без ограничения общности, что $f>0$. Пусть $\widetilde{F} \colon X \to (0,\infty)$ – гладкое продолжение $f$. Пусть $\{U_j''\}_{j=1}^\infty$ – локально конечное покрытие границы $b\Omega$ открытыми множествами $U_j'' \Subset X$ такое, что для каждого индекса $j\in \mathbb{N}$ найдется такая строго гипер-$q$-плюрисубгармоническая функция $\varphi_j \colon U_j'' \to \mathbb R$, что $\Omega \cap U_j''=\{\varphi_j < 0\}$. Более того, пусть $U_j' \Subset U_j \Subset U_j''$ – такие открытые множества, что система $\{U_j'\}_{j=1}^\infty$ по-прежнему покрывает $b\Omega$.
Пусть $\{\chi_j\}_{j=1}^\infty$ – семейство таких гладких функций $\chi_j \colon X \to [0,\infty)$, что $\{\chi_j > 0\}=U_j'$ для всех $j \in \mathbb{N}$, $\sum_{j=1}^\infty \chi_j \leqslant 1$ на $X$ и $\sum_{j=1}^\infty \chi_j \equiv 1$ вблизи $b\Omega$. Пусть $\beta \colon (0,\infty) \to (0,\infty)$ – строго возрастающая, строго выпуклая гладкая функция, причем $\beta(t)=e^{-1/t}$ для малых значений $t$, и пусть $\widetilde{\beta} \colon \mathbb R \to [0,\infty)$ – такое гладкое продолжение $\beta$, что $\widetilde{\beta}|_{(-\infty,0]} \equiv 0$. Как и в доказательстве теоремы 1.1, подходящим выбором функций $\{\chi_j\}_{j=1}^\infty$ можно обеспечить, чтобы при всех $j \in \mathbb{N}$ тривиальное продолжение $g_j \colon X \to [0, \infty)$ функции $\beta^{-1} \circ(\widetilde{F}\chi_j) \colon U_j' \to (0,\infty)$ нулем было гладким на $X$. Пусть $\lambda_j \colon X \to (-\infty, 0]$ – такие гладкие функции, что $\overline{U_j'}= \{\lambda_j=0\}$. Тогда выберем достаточно малые множители $\varepsilon_j > 0$ и достаточно большие $C_j > 0$ так, чтобы функции $g_j+C_j(\varphi_j+\varepsilon_j\lambda_j)$ по-прежнему были строго гипер-$q$-плюрисубгармоническими на $U_j$. Заметим, что по построению $g_j+C_j(\varphi_j+ \varepsilon_j\lambda_j) < 0$ на $bU_j \cap \overline{\Omega}$, так что функция $\widetilde{\beta} \circ (g_j+C_j(\varphi_j+\varepsilon_j\lambda_j))|_{U_j}$ равна нулю в окрестности этого множества и, значит, ее продолжение нулем в открытую окрестность $\mathscr{U}_j := X \setminus \{x \in bU_j \colon (g_j+C_j(\varphi_j+\varepsilon_j\lambda_j))(x) \geqslant 0\}$ множества $\overline{\Omega}$ задает гипер-$q$-плюрисубгармоническую функцию $F_j \colon \mathscr{U}_j \to [0,\infty)$ со свойствами $F_j|_{b\Omega}=f\chi_j$ и $F_j \equiv 0$ вне $U_j$. Более того, $W_j := \{F_j > 0\} \subset U_j$ – открытая окрестность множества $b\Omega \cap U_j'$, причем $F_j$ строго гипер-$q$-плюрисубгармонична на $W_j$. Значит, $F := \sum_{j=1}^\infty F_j$ – гипер-$q$-плюрисубгармоническая функция в открытой окрестности $\mathscr{U} := \bigcap_{j=1}^\infty \mathscr{U}_j \subset X$ множества $\,\overline{\Omega}$, причем $F|_{b\Omega}=f$ и $F$ строго гипер-$q$-плюрисубгармонична на множестве $W := \bigcup_{j=1}^\infty W_j \supset b\Omega$. Теорема доказана. Теорема 3.2'. Пусть $X$ – комплексное пространство с эрмитовой метрикой $h$, и пусть $\Omega \subset X$ – строго гипер-$q$-псевдовыпуклая область. Тогда в открытой окрестности множества $\overline{\Omega}$ существует такая гипер-$q$-плюрисубгармоническая функция $\varphi$, что $\Omega=\{\varphi < 0\}$ и $\varphi$ строго гипер-$q$-плюрисубгармонична вблизи $b\Omega$. Доказательство. Пусть $\varphi := F-1$, где $F$ – функция из теоремы 3.1', отвечающая граничным значениям $f \equiv 1$. Тогда $\varphi$ является гипер-$q$-плюрисубгармонической функцией в открытой окрестности $\overline{\Omega}$, тождественно равной нулю на $b\Omega$ и строго гипер-$q$-плюрисубгармонической вблизи $b\Omega$. Более того, как и в доказательстве теоремы 2.2, при построении $F$ мы можем выбрать $\widetilde{F}$ и $\mathscr{U}$ так, чтобы $\Omega=\{F < 1\}$, т.е. $\Omega=\{\varphi < 0\}$. Теорема доказана. Замечание 3.1. 1) В последних двух формулировках строгая гипер-$q$-псевдовыпуклость понимается относительно произвольной фиксированной эрмитовой метрики на $X$. 2) Аналогично ситуации ранее, функция $F$ из теоремы 3.1' строго гипер-$q$-плюрисубгармонична в открытой окрестности $W$ границы $b\Omega$ и постоянна в $\Omega \setminus W$. Из наших построений сразу видно, что для любого открытого множества $\omega \subset \Omega$ с замыканием $\overline{\omega} \subset \Omega$ можно выбрать $F$ постоянной на $\omega$. 3) Утверждения теорем 3.1' и 3.2' верны и после замены $\mathscr{C}^\infty$-гладкости на $\mathscr{C}^s$-гладкость с любым $s \geqslant 2$. Более того, доказательство проходит и для $\mathscr{C}^s$-гладко строго псевдовыпуклых областей с $s \in \{0, 1\}$, однако при этом в теореме 3.1' приходится предположить, что функция $f \colon b\Omega \to \mathbb R$ хотя бы $\mathscr{C}^2$-гладкая. В частности, у любой строго псевдовыпуклой области в комплексном пространстве есть глобально заданная непрерывная определяющая функция. Как и в случае многообразий, теперь можно ввести понятие ядра открытого подмножества произвольного комплексного пространства. Определение 3.1. Пусть $X$ – комплексное пространство, а $\Omega \subset X$ открыто. Тогда множество Легко видеть, что конструкция гладкого максимума двух функций (см. [13; § 2]) может быть выполнена в произвольном комплексном пространстве. Однако при распространении теоремы 1.3 на комплексные пространства возникает техническая тонкость, связанная с регулярностью глобальной определяющей функции. На самом деле в доказательстве теоремы 1.3 (т.е. [13; основная теорема]) авторы построили гладкую плюрисубгармоническую функцию $\varphi_1$ как сумму ряда из гладких плюрисубгармонических функций. Соответственно, в случае комплексных пространств функция $\varphi_1$ окажется суммой ряда из гладко плюрисубгармонических функций. Однако заметим, что при переходе к пределу в классе гладко плюрисубгармонических функций на комплексном пространстве, вообще говоря, неясно, когда предельная функция снова окажется гладко плюрисубгармонической. Действительно, если повторить доказательство теоремы 1.3 для комплексных пространств, то легко подобрать соответствующую последовательность $\{\varepsilon_j\}_{j=1}^\infty$ такой, чтобы $\varphi_1$ была гладкой и плюрисубгармонической (здесь потребуется эквивалентность свойств слабой плюрисубгармоничности и плюрисубгармоничности на комплексных пространствах; см. [6; теорема 5.3.1]), но неясно, окажется ли $\varphi_1$ снова гладко плюрисубгармонической. Проблема в том, что для точки $x \in X$ и заданной последовательности $\{\Psi_j\}$ гладко плюрисубгармонических функций на $X$ после локального вложения $X$ в некоторое пространство $\mathbb{C}^n$ каждая функция $\Psi_j$ продолжается до гладкой плюрисубгармонической функции в некоторую окрестность $\widehat{U}_j \subset \mathbb{C}^n$ точки $x$, однако непонятно, можно ли добиться того, чтобы при этом пересечение $\bigcap_{j=1}^\infty \widehat{U}_j$ содержало окрестность точки $x$. В случае функции $\varphi_1$ мы умеем бороться с этой трудностью только вне $\mathfrak{c}(\Omega)$, а именно, мы во всяком случае можем показать, что $\varphi_1$ гладко строго плюрисубгармоническая вне $\mathfrak{c}(\Omega)$. Наметим соответствующее доказательство. По построению $\varphi_1=\sum_{j=1}^\infty \varepsilon_j\Psi_j$ для некоторых гладко плюрисубгармонических функций $\Psi_j$ на $\Omega$. Зафиксируем некоторую точку $x\in \Omega \setminus \mathfrak{c}(\Omega)$. После локального вложения пространства $X$ мы можем найти такие гладкие продолжения $\widehat{\Psi}_j$ функций $\Psi_j$ на равномерно большую окрестность точки $x$ в объемлющем пространстве $\mathbb{C}^n$, что у каждой функции $\widehat{\Psi}_j$ будет неотрицательная форма Леви в $x$. Более того, поскольку $x\notin \mathfrak{c}(\Omega)$, в силу выбора функций $\Psi_j$ по крайней мере у одной из функций $\widehat{\Psi}_j$ форма Леви в точке $x$ положительная. Таким образом, если выбрать подходящую последовательность $\{\varepsilon_j\}$, то функция $\widehat{\varphi}_1 := \sum_{j=1}^\infty \varepsilon_j\widehat{\Psi}_j$ окажется гладким продолжением $\varphi_1$ с положительной формой Леви в точке $x$, так что $\varphi_1$ гладко строго плюрисубгармонична в $x$. (Аналогичные результаты верны в гладкости $\mathscr{C}^s$ для каждого $s \geqslant 2$. Более того, ввиду [24; теорема 2.4], полный аналог теоремы 1.3 выполняется для строго псевдовыпуклых областей в комплексных пространствах в категории $\mathscr{C}^0$-гладкости.) Неясно, можно ли обобщить теорему 3.2 об 1-псевдовогнутости ядра из работы [13] на комплексные пространства. А именно, как уже упоминалось, мы не знаем, можно ли в общем случае найти гладко плюрисубгармоническую функцию $\varphi \colon \Omega \to \mathbb R$, являющуюся гладко строго плюрисубгармонической вне $\mathfrak{c}(\Omega)$, так что неясно, проходит ли доказательство [13; лемма 3.2] в более общей ситуации. (Однако, поскольку для ядра $\mathfrak{c}^0(\Omega)$, определенного в терминах непрерывных, ограниченных сверху плюрисубгармонических функций, верен аналог теоремы 1.3, можно доказать следующий вариант [13; лемма 3.2]: нельзя найти голоморфную карту $(U, \tau, A, G)$ для $\Omega$ и гладкую вещественную гиперповерхность $M\in G$ такие, что $G \setminus M$ состоит из двух связных компонент $G_1$ и $G_2$, $M \cap \mathfrak{c}^0(\Omega) \neq \varnothing$, $G \cap \mathfrak{c}^0(\Omega) \subset \overline{G_1}$, и $G_1$ строго псевдовыпукла в каждой точке $p \in M$. Более того, с помощью аргументов, аналогичных использованным в доказательстве [13; предложение 3.2], легко видеть, что это утверждение эквивалентно следующему свойству локального максимума для ядра $\mathfrak{c}^0(\Omega)$: у каждой точки $x \in \mathfrak{c}^0(\Omega)$ есть такая открытая окрестность $U \subset \Omega$, что для всякого компакта $K \subset U$ и любой плюрисубгармонической функции $\varphi$ в окрестности $K$ выполняется неравенство $\max_{\mathfrak{c}^0(\Omega) \cap K} \varphi \leqslant \max_{\mathfrak{c}^0(\Omega) \cap bK} \varphi$; здесь максимум по пустому множеству полагается равным $-\infty$.) Упомянем, наконец, еще два обобщения результатов § 2. Во-первых, аналог предложения 2.2 выполнен в произвольных пространствах Штейна (по поводу существования гладко строго плюрисубгармонических функций на пространстве Штейна см., к примеру, [19; § 3, лемма]). Во вторых, теорему 2.5 также можно обобщить на комплексные пространства. Точная формулировка следующая. Теорема 3.3. Пусть $X$ – комплексное пространство, а $\Omega \subset X$ – строго псевдовыпуклое открытое множество. Пусть $U \subset X$ – произвольная открытая окрестность границы $b \Omega$. Тогда выполнены следующие утверждения. (1) Существует гладко строго псевдовыпуклое открытое множество $\Omega' \subset X$ такое, что $\Omega \setminus U \subset \Omega'$, $\overline{\Omega'} \subset \Omega$ и $\mathfrak{c}(\Omega')=\mathfrak{c}(\Omega)$. (2) Существует гладко строго псевдовыпуклое открытое множество $\Omega'' \subset X$ такое, что $\overline{\Omega} \subset \Omega''$, $\overline{\Omega''} \subset \Omega \cup U$ и $\mathfrak{c}(\Omega'')=\mathfrak{c}(\Omega)$. В частности, у $\overline{\Omega}$ есть окрестностный базис из гладко строго псевдовыпуклых открытых множеств. Более того, если $\Omega$ – область, то в качестве $\Omega'$ и $\Omega''$ также можно взять области. Доказательство несложно вывести, адаптировав доказательство теоремы 2.5 к случаю комплексного пространства. § 4. Открытые вопросыВ последнем параграфе мы формулируем некоторые открытые вопросы по тематике нашей статьи. Вопрос 1. Пусть $X$ – комплексное пространство, а $\Omega \subset X$ – гладко строго псевдовыпуклая область. Существует ли такая гладко плюрисубгармоническая функция $\varphi \colon U \to \mathbb R$ в открытой окрестности $U \subset X$ множества $\overline{\Omega}$, что $\Omega= \{\varphi < 0\}$ и $\varphi$ гладко строго плюрисубгармонична вне $\mathfrak{c}(\Omega)$? Вопрос 2. Пусть $X$ – комплексное пространство, а $\Omega \subset X$ – гладко строго $q$-псевдовыпуклая область. Существует ли такая гладко $q$-плюрисубгармоническая функция $\varphi \colon U \to \mathbb R$ в открытой окрестности $U \subset X$ множества $\overline{\Omega}$, что $\Omega=\{\varphi < 0\}$ и $\varphi$ гладко строго $q$-плюрисубгармонична вблизи $b\Omega$? Вопрос 3. Верно ли, что $\mathfrak{c}^{s_1}(\Omega)=\mathfrak{c}^{s_2}(\Omega)$ для каждой строго псевдовыпуклой области $\Omega \subset \mathbb{C}^n$ с $\mathscr{C}^\infty$-гладкой границей и любых таких показателей $s_1,s_2$, что определены соответствующие ядра $\mathfrak{c}^{s_1}(\Omega)$ и $\mathfrak{c}^{s_2}(\Omega)$? (Определение $\mathfrak{c}^s(\Omega)$ см. в замечании 2.3, 4).)
Цитирование в формате AMSBIB
\RBibitem{HarShcTom21} |
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|