|
О голоморфных отображениях строго псевдовыпуклых областей
А. Б. Суховab a Laboratoire Paul Painlevé, Université de Lille, Villeneuve d'Ascq, France
b Институт математики с вычислительным центром, Уфимский федеральный исследовательский центр Российской академии наук, г. Уфа
Аннотация:
Исследуется граничная регулярность собственных голоморфных отображений между строго псевдовыпуклыми областями с границами класса $C^2$. Устанавливается обобщение теоремы Вонга–Розея на кусочно гладкие строго псевдовыпуклые области.
Библиография: 37 названий.
Ключевые слова:
строго псевдовыпуклая область, собственное голоморфное отображение, граничная регулярность, комплексный диск, голоморфный автоморфизм, метрика Кобаяши.
Поступила в редакцию: 11.07.2021 и 03.01.2022
§ 1. Введение Работа состоит из двух частей. В первой (§§ 2–4) изучается граничная гладкость собственных голоморфных отображений между строго псевдовыпуклыми областями с границами класса $C^2$. Во второй части (§ 5 и § 6) получено обобщение теоремы Вонга–Розея на кусочно гладкие строго псевдовыпуклые области с некомпактной группой автоморфизмов. Старый вопрос о гладкости собственных или биголоморфных отображений между строго псевдовыпуклыми областями в $\mathbb C^n$ к настоящему времени почти полностью прояснен усилиями ряда авторов. В теореме Ч. Феффермана (см. [10]) утверждается, что биголоморфное отображение между строго псевдовыпуклыми областями с границами класса $C^\infty$ продолжается до $C^\infty$-диффеоморфизма их замыканий. Оригинальное доказательство Феффермана было основано на исследовании асимптотики ядра Бергмана вблизи границы. Этот метод трудно приспособить к случаю конечной гладкости. Впоследствии несколько авторов развили другие подходы. Один из них был разработан Л. Ниренбергом, С. Вебстером и П. Янгом (см. [24]); в нем используется некоторый вариант принципа симметрии. Развивая его, С. Пинчук и С. Хазанов (см. [25]) доказали, что собственное голоморфное отображение между строго псевдовыпуклыми областями с $C^s$-границами, где $s$ – вещественное число $>\!2$, продолжается на границу до отображения класса $C^{s-1}$, если $s$ нецелое, и класса $C^{s-1-\varepsilon}$ с произвольным $\varepsilon>0$ для целого $s$. Аналогичные результаты были получены Л. Лемпертом (см. [20], [21]), использовавшим совсем другую технику экстремальных дисков для метрики Кобаяши. Ю. Хурумов в [18] доказал, что имеет место даже лучший результат, с потерей гладкости на $1/2$. Однако естественный вопрос о правильном классе гладкости в ситуации, когда границы в точности $C^2$-гладкие (минимально возможная гладкость границы в строго псевдовыпуклом случае), все еще не решен. Хурумов заявлял, не приводя деталей, что его результат верен и в этом случае, но, насколько известно автору, подробного доказательства не существует. Хорошо известный результат для этой постановки был независимо доказан Г. Хенкиным в [16] и С. Пинчуком в [26]; он утверждает, что отображение продолжается на границу как гёльдерово с показателем $1/2$. Наш первый основной результат следующий. Теорема 1.1. Пусть $f\colon \Omega_1 \to \Omega_2$ – собственное голоморфное отображение между строго псевдовыпуклыми областями $\Omega_j \subset \mathbb C^n$, $j=1,2$, с границами $b\Omega_j$ класса $C^2$. Тогда $f$ продолжается до отображения класса Гёльдера $ C^{\alpha}(\overline{\Omega}_1)$ с любым $\alpha \in [0,1[$. В частности, это означает, что вышеупомянутый результат Лемперта и результат Пинчука и Хасанова верны и для $C^2$-границ. Аналогичный же результат был получен в [34] при дополнительном предположении, что граница $b\Omega_1$ имеет гладкость $C^{2+\varepsilon}$, $\varepsilon>0$. С этой точки зрения первая часть настоящей статьи продолжает и дополняет работу [34]. Доказательство теоремы 1.1 состоит из двух основных шагов. Первый опирается на оценки метрики Кобаяши в трубчатой окрестности вполне вещественного многообразия (см. [9]). С их помощью получаются равномерно гёльдеровы оценки на аналитических дисках, подклеенных к заданному вполне вещественному многообразию вдоль дуг. В результате доказывается гёльдеровость голоморфных отображений между клиновидными областями со вполне вещественными остриями. Такие рассуждения подробно изложены в [34]. В настоящей работе мы рассматриваем второй основной шаг доказательства теоремы 1.1 и тем самым завершаем его. Мы исследуем геометрические свойства аналитических дисков, подклеенных ко вполне вещественному многообразию класса $C^1$. Этот прием подклейки дисков, нередко используемый при изучении вполне вещественных подмногообразий, появился в [27]. Для вполне вещественных многообразий гладкости выше, чем $C^1$, эта конструкция была разработана несколькими авторами (к примеру, см. [35]); $C^1$-случай рассматривался Е. Чиркой в [17] и Ю. Хурумовым в [19]. Однако для наших целей нужны еще некоторые свойства таких дисков, не сформулированные явно в указанных работах [27], [17], [19], [35]. Поэтому мы приводим некоторые подробности этого подхода. Следует подчеркнуть, что здесь мы не претендуем на оригинальность: новизну имеют только приложения этого построения. Для изложения § 5 и § 6 напомним несколько понятий. Пусть $\Omega$ – область с непустой границей $b\Omega$ в комплексном многообразии $M$ комплексной размерности $n>1$. Определение 1.2. (a) Скажем, что $p \in b\Omega$ – кусочно гладкая порождающая строго псевдовыпуклая (граничная) точка, если выполнено следующее: (b) Точку $p$ назовем гладкой, если $m=1$. Разумеется, в этом случае $p$ – обычная $C^2$-гладкая строго псевдовыпуклая граничная точка. Ясно, что условие i) можно эквивалентно сформулировать так: гиперповерхности $\Gamma_j=\{ \rho_j= 0 \}$ (локальные грани $b\Omega$) строго псеводвыпуклы, т.е. форма Леви каждой $\Gamma_j$ положительно определенная на комплексном касательном расслоении поверхности $\Gamma_j$. Условие ii) гарантирует, что вещественное подмногообразие $\{ \rho_j=0,\, j=1,\dots ,m \}$ (угол) порождающее. Через $\operatorname{Aut}(\Omega)$ обозначим группу голоморфных автоморфизмов области $\Omega$ со стандартной компактно открытой топологией. Предельное множество группы $\operatorname{Aut}(\Omega)$ – это множество точек $p \in \overline\Omega$, для каждой из которых найдутся точка $q \in \Omega$ и последовательность автоморфизмов $(f^k)_k$ из $\operatorname{Aut}(\Omega)$, для которых $\lim_{k \to \infty} f^k(q)=p$. Если $z=(z_1,\dots ,z_n)$ – стандартные координаты в $\mathbb C^n$, то положим $z=(z_1,z')$, где $z'=(z_2,\dots ,z_n)$, а также положим $z_j=x_j+iy_j$, где $x_j,y_j \in \mathbb R$. Кроме того, через $\|z\|^2=\sum |z_j |^2$ обозначим евклидову норму. Ниже будут использованы обозначения
$$
\begin{equation*}
\mathbb B^n=\bigl\{ z \in \mathbb C\colon \|z\|^2<1\bigr\}
\end{equation*}
\notag
$$
для единичного евклидова шара в $\mathbb C^n$ и
$$
\begin{equation*}
\mathbb H=\bigl\{ z \in \mathbb C^n\colon \operatorname{Re} z_1+\|z'\|^2<0\bigr\}
\end{equation*}
\notag
$$
для неограниченной реализации шара $\mathbb B^n$ (напомним, что область $\mathbb H$ биголоморфно эквивалентна $\mathbb B^n$ в силу преобразования Кэли). Во второй части работы (§ 5 и § 6) доказывается следующий результат. Теорема 1.3. Предположим, что предельное множество группы $\operatorname{Aut}(\Omega)$ содержит кусочно гладкую порождающую строго псевдовыпуклую точку $p \in b\Omega$. Тогда область $\Omega$ биголоморфно эквивалентна шару $\mathbb B^n$, а $p$ – гладкая строго псевдовыпуклая точка. Подчеркнем, что в этой теореме априори предполагается только, что $p$ – кусочно гладкая порождающая строго псевдовыпуклая точка, и тогда теорема утверждает, что на самом деле точка $p$ с необходимостью гладкая. Таким образом, имеет место следующий феномен жесткости. Следствие 1.4. Кусочно гладкая порождающая строго псевдовыпуклая точка, не являющаяся гладкой (так что $m>1$ в (1)), не может принадлежать предельному множеству группы $\operatorname{Aut}(\Omega)$. Результаты теоремы 1.3 и следствия 1.4 нельзя улучшить: ни i), ни ii) в определении 1.2 нельзя опустить, что видно из следующих примеров. Сначала рассмотрим область
$$
\begin{equation*}
\Omega_1=\bigl\{ \rho_1=\operatorname{Re} z_1+|z_2 |^2<0, \,\rho_2=\operatorname{Re} z_2<0 \bigr\},
\end{equation*}
\notag
$$
инвариантную относительно однопараметрической группы растяжений $d_t$: $(z_1, z_2) \mapsto (t z_1, \sqrt{t} z_2)$, $t>0$. Это семейство некомпактно, поскольку оно вырождается при $t=0$, и предельное множество группы $\operatorname{Aut}(\Omega_1)$ содержит начало координат. Однако область $\Omega_1$ не биголоморфно эквивалентна $\mathbb B^2$. Область $\Omega_1$ удовлетворяет условию ii), но не i): одна из ее граней не является строго псевдовыпуклой. Далее рассмотрим область
$$
\begin{equation*}
\Omega_2=\bigl\{ z \in \mathbb C^2\colon \rho_1=\operatorname{Re} z_1+|z_2 |^2<0,\, \rho_2= \operatorname{Im} z_1+|z_2 |^2<0 \bigr\},
\end{equation*}
\notag
$$
инвариантную относительно того же семейства растяжений $(d_t)$. Разумеется, $\Omega_2$ также не биголоморфно эквивалентна шару $\mathbb B^2$. Для этой области выполнено условие i), но ii) нарушено в начале координат (хотя $d \rho_1 \wedge d \rho_2 \neq 0$). Также заметим, что если опустить условие строгой псевдовыпуклости граней, то ситуация усложняется и остаются нерешенные вопросы. Отметим недавний результат А. Циммера [37], доказавшего, что если грани Леви-плоские, то $\Omega$ биголоморфно эквивалентна произведению полидиска и комплексного многообразия с компактной группой автоморфизмов. Теорема 1.3 относится к разряду результатов, нередко называемых теоремами типа Вонга–Розея. Настоящая работа не является обзорной, и мы не будем освещать исторические подробности и текущее состояние дел в этой области (см. [30]). В частности, здесь не будет обсуждения множества прекрасных результатов, относящихся к нестрого псевдовыпуклому случаю. Тот факт, что если у ограниченной строго псевдовыпуклой области в $\mathbb C^2$ размерность группы $\operatorname{Aut}(\Omega)$ (являющейся вещественной группой Ли) максимально возможная (т.е. равна $8$), то область биголоморфно эквивалентна $\mathbb B^2$, был известен еще Э. Картану (см. [4]). Этот факт можно рассматривать как частный случай общего дифференциально-геометрического принципа, утверждающего, что структуры с богатой группой автоморфизмов обычно плоские. В статье [3] Бёрнс и Шнайдер доказали, что ограниченная строго псевдовыпуклая область $\Omega$ в $ \mathbb C^n$ с некомпактной группой автоморфизмов биголоморфно эквивалентна единичному шару. Этот неожиданный результат казался удивительным, поскольку предположение о некомпактности группы $\operatorname{Aut}(\Omega)$ не накладывает априорных ограничений на размерность группы $\operatorname{Aut}(\Omega)$. Доказательство Бёрнса и Шнайдера опирается на теорию Черна и Мозера (см. [5]; точнее, они использовали черновскую часть теории, распространившую подход Э. Картана на более высокие размерности; у Мозера подход был совсем другим) и требует высокой гладкости (хотя бы $C^6$) границы $b\Omega$. Группа $\operatorname{Aut}(\Omega)$ некомпактна, если и только если ее предельное множество на границе области $\Omega$ непусто. Вонг (см. [36]) и Розей (см. [31]) открыли, что результат Бёрнса и Шнайдера допускает локализацию: в предположении, что $\Omega$ ограниченна, достаточно считать, что предельное множество группы $\operatorname{Aut}(\Omega)$ содержит строго псевдовыпуклую точку. Возможно, самым важным наблюдением Вонга и Розей было то, что явление, открытое Бёрнсом и Шнайдером, можно исследовать, не пользуясь подходом Картана–Черна–Мозера. Оказалось, что другие геометрические методы (такие, как биголоморфно инвариантные метрики или нормальные семейства голоморфных отображений) более эффективны и позволяют получить более общие результаты. В дальнейшем их подход был существенно упрощен Пинчуком (см. [29]), использовавшим свой вариант так называемого метода масштабирования (scaling method). Первый чисто локальный результат, относящийся к рассматриваемому явлению, был получен Ефимовым в [11]. Он доказал теорему 1.3 в случае, когда $p$ – гладкая строго псевдовыпуклая точка (т.е. $m=1$ в определении 1.2). Для негладкого случая Купе и Сухов (см. [7]) доказали, что ограниченная кусочно гладкая строго псевдовыпуклая область с порождающими углами в $\mathbb C^n$ биголоморфно эквивалентна единичному шару, если группа $\operatorname{Aut}(\Omega)$ некомпактна (так что граница области $\Omega$ с необходимостью гладкая). Теорема 1.3 обобщает все упомянутые результаты, начиная с полученных Вонгом и Розеем. Подчеркнем, то в нашем доказательстве, состоящем из двух частей, эти результаты не используются. Первая часть доказательства связана с локализацией метрики Кобаяши–Ройдена. Вторая (основная) часть доказательства опирается на метод масштабирований. Заметим, что доказательство Ефимова основано на варианте метода растяжений, разработанном Пинчуком (см. [29]); этот вариант удобно использовать только вблизи гладких граничных точек. В настоящей работе используется подход Френкеля (см. [12]), по-видимому, более подходящий для негладкого случая. Этот же подход использовался в работе [7]. Здесь мы упрощаем рассуждения из [7], сводя их к известным оценкам для метрики Кобаяши–Ройдена, так что можем обойти общие построения Френкеля. Такой упрощенный подход можно использовать, поскольку мы рассматриваем только граничные точки специального вида, в то время как теория Френкеля относится к общим выпуклым областям и не делает предположений о граничной регулярности.
§ 2. Терминология и обозначения Вкратце напомним известные определения и основные обозначения. Пусть $\Omega$ – область в $\mathbb C^n$. Для натурального числа $k$ через $C^k(\Omega)$ обозначим пространство $C^k$-гладких комплекснозначных функций в $\Omega$, а через $C^k(\overline\Omega)$ – класс функций, частные производные которых до порядка $k$ включительно продолжаются на $\overline\Omega$ как непрерывные функции. Пусть $s>0$ – нецелое вещественное число, а $k$ – его целая часть. Тогда $C^s(\Omega)$ – пространство функций класса $C^k(\overline\Omega)$, частные производные которых порядка $k$ (глобально) $(s\,{-}\,k)$-гёльдеровы в $\Omega$; эти производные автоматически удовлетворяют условию $(s-k)$-гёльдеровости и в $\overline\Omega$, так что для того же пространства можно использовать и обозначение $C^s(\overline\Omega)$. Мы также будем использовать пространство $L^p(\Omega)$, $p>1$, функций, $p$-интегрируемых по Лебегу с обычной нормой $\|f\|_{L^p(\Omega)}$; если $f=(f_1,\dots ,f_m)$ – векторнозначная функция, то положим $\|f\|_{L^p(\Omega)}\,{=}\sum_{j=1}^m \|f_j\|_{L^p(\Omega)}$. Далее через $W^{k,p}(\Omega)$ (соответственно $W^{k,p}_{\mathrm{loc}}(\Omega)$) обозначается пространство Соболева (векторнозначных) функций, обобщенные производные которых порядков вплоть до $k$-го являются $p$-интегрируемыми (соответственно локально интегрируемыми) в $\Omega$. Через $\mathbb D=\{ \zeta \in \mathbb C\colon |\zeta |<1 \}$ будем обозначать единичный круг в $\mathbb C$. Заметим, что для этой специальной области теорема вложения Соболева утверждает, что при $p>2$ и $\alpha=1-2/p$ естественное вложение $W^{1,p}(\mathbb D) \to C^{\alpha}(\mathbb D)$ является компактным линейным оператором. Вещественное (замкнутое) подмногообразие $E$ области $\Omega \subset \mathbb C^n$ имеет гладкость $C^s$ (для вещественного $s \geqslant 1$), если для каждой точки $p \in E$ найдутся ее открытая окрестность $U$ и такое отображение $\rho\colon U \longrightarrow \mathbb R^d$ максимального ранга $d<2n$ и гладкости $C^s$, что $E \cap U=\rho^{-1}(0)$; в этом случае $\rho$ называется локальной (векторнозначной) определяющей функцией для $E$. Целое $d$ является вещественной коразмерностью $E$. В наиболее важном частном случае, когда $d=1$, получаем класс вещественных гиперповерхностей. Пусть $J$ – стандартная комплексная структура в $\mathbb C^n$, т.е. $J$ действует на вектор $v$ умножением на $i$: $J v=i v$. Для каждой точки $p \in E$ голоморфное касательное пространство $H_pE:=T_pE \cap J(T_pE)$ – это максимальное комплексное подпространство касательного пространства $T_pE$ к $E$ в $p$. Ясно, что $H_pE=\{ v \in \mathbb C^n\colon \partial \rho(p) v=0 \}$. Комплексная размерность $H_pE$ называется $\mathrm{CR}$-размерностью $E$ в $p$; многообразие $E$ называется $\mathrm{CR}$-многообразием (многообразием Коши–Римана), если его $\mathrm{CR}$-размерность не зависит от $p \in E$. Вещественное подмногообразие $E \subset \Omega$ называется порождающим, если комплексная линейная оболочка пространства $T_pE$ совпадает с $\mathbb C^n$ для всех $p \in E$. Заметим, что любое порождающее многообразие вещественной коразмерости $d$ является $\mathrm{CR}$-многообразием $\mathrm{CR}$-размерности $n-d$. Функция $\rho=(\rho_1,\dots ,\rho_d)$ задает порождающее многообразие, если $\partial\rho_1 \wedge \dots \wedge \rho_d \neq 0$. Особую важность представляют так называемые вполне вещественные многообразия, т.е. подмногообразия $E$ с $H_pE=\{ 0 \}$ во всех точках $p\in E$. Вполне вещественное многообразие в $\mathbb C^n$ порождающее тогда и только тогда, когда оно имеет вещественную размерность $n$; это максимально возможная размерность вполне вещественного многообразия. Пусть $\Omega$ – ограниченная область в $\mathbb C^n$, и пусть ее граница $b\Omega$ – (компактная) вещественная гиперповерхность гладкости $C^s$ в $\mathbb C^n$. Тогда найдется такая $C^s$-гладкая вещественная функция $\rho$ в окрестности $U$ замыкания $\overline\Omega$, что $\Omega=\{ \rho<0 \}$ и $d\rho|_{b\Omega} \ne 0$. Назовем такую функцию $\rho$ глобальной определяющей функцией. При $s \geqslant 2$ можно рассмотреть форму Леви функции $\rho$:
$$
\begin{equation}
L(\rho,p,v)=\sum_{j,k=1}^n \frac{\partial^2\rho}{\partial z_j\,\partial\overline{z}_k}(p)v_j \overline v_k.
\end{equation}
\tag{2}
$$
Ограниченная область $\Omega$ с $C^2$-границей называется строго псевдовыпуклой, если $L(\rho,p,v)>0$ для каждого ненулевого вектора $v\in H_p(b\Omega)$. Как обычно, под клиновидной областью имеется в виду область вида
$$
\begin{equation}
W=\bigl\{ z \in \mathbb C^n\colon \phi_j(z)<0, \,j=1,\dots ,n \bigr\}
\end{equation}
\tag{3}
$$
с острием (или углом)
$$
\begin{equation}
E=\bigl\{ z \in \mathbb C^n\colon \phi_j(z)=0, \,j=1,\dots ,n \bigr\}.
\end{equation}
\tag{4}
$$
Будем считать, что определяющие функции $\phi_j$ – это функции из класса $C^{1}$. Вдобавок мы считаем, как обычно, что $E$ – порождающее многообразие, т.е. $\partial \phi_1 \wedge \dots \wedge \partial \phi_n \neq 0$ в окрестности $E$. Для заданного (по предположению малого) $\delta>0$ определим также сжатый клин:
$$
\begin{equation}
W_{\delta}=\biggl\{ z \in \mathbb C^n\colon \phi_j-\delta \sum_{l \neq j} \phi_l<0,\, j=1,\dots ,n\biggr \} \subset W.
\end{equation}
\tag{5}
$$
У него то же острие $E$. Заметим, что найдется константа $C>0$ такая, что в каждой точке $z \in W_\delta$ выполнено
$$
\begin{equation}
C^{-1} \operatorname{dist}(z, b W) \leqslant \operatorname{dist}(z, E) \leqslant C \operatorname{dist} (z,b W).
\end{equation}
\tag{6}
$$
В дальнейшем мы часто используем обозначения $C,C_1,C_2,\dots$ для положительных констант, значения которых могут быть разными в разных местах текста.
§ 3. Подклейка комплексных дисков ко вполне вещественным $C^1$-многообразиям В этом параграфе мы опишем основной технический инструментарий для доказательства теоремы 1.1. Рассмотрим клиновидную область (3) с острием (4). Нам потребуется известная конструкция заполнения клина $W$ (или, более общо, $W_\delta$) комплексными дисками, подклеенными к $E$ вдоль открытых дуг. Комплексным (или аналитическим, или голоморфным) диском называется голоморфное отображение $h\colon \mathbb D \to \mathbb C^n$, являющееся хотя бы непрерывным в замкнутом круге $\overline{\mathbb D}$. Скажем, что такой диск подклеен к подмножеству $K$ пространства $\mathbb C^n$ вдоль (непустой открытой) дуги $\gamma \subset b\mathbb D$, если $f(\gamma) \subset K$. Наше изложение конструкции распадается на несколько шагов, представленных в п. 3.1 и п. 3.2. 3.1. Обобщенное уравнение Бишопа; существование и регулярность дисков Пусть $E$ – это $n$-мерное вполне вещественное многообразие класса $C^1$ в окрестности точки $0$ в $\mathbb C^n$, и пусть $0\in E$. После линейной замены переменных на основании теоремы о неявной функции мы можем также считать, что в окрестности $\Omega$ начала координат многообразие $E$ задается (векторнозначным) уравнением
$$
\begin{equation}
y=h(x),
\end{equation}
\tag{7}
$$
где вектор-функция $h=(h_1,\dots ,h_n)$ $C^1$-гладкая в окрестности точки $0$ в $\mathbb R^n$ и удовлетворяет следующим условиям:
$$
\begin{equation}
h_j(0)=0, \quad\nabla h_j(0)=0, \qquad j=1,\dots ,n.
\end{equation}
\tag{8}
$$
Здесь и далее $\nabla$ обозначает градиент. Зафиксируем нецелое положительное $s$. Рассмотрим преобразование Гильберта $T\colon u \to Tu$, которое вещественной функции $u \in C^s(b\mathbb D)$ сопоставляет гармоническую сопряженную функцию, равную нулю в точке $0$. Иными словами, $u+iTu$ – это след на $b\mathbb D$ голоморфной функции в $\mathbb D$ класса $C^s(\mathbb D)$, для которой $Tu(0)=0$. Напомним, что преобразование Гильберта задается следующей формулой:
$$
\begin{equation*}
Tu (e^{i\theta})=\frac{1}{2\pi} \operatorname{\text{v.p.}} \int_{-\pi}^{\pi} u(e^{it}) \operatorname{ctg} \frac{\theta-t}{2}\, dt.
\end{equation*}
\notag
$$
Это классический линейный сингулярный интегральный оператор; он ограничен на $C^s(b\mathbb D)$ для любого нецелого $s>0$. Кроме того, при $p>1$ оператор $T\colon L^p(b\mathbb D) \to L^p(b\mathbb D)$ также является линейным ограниченным; пусть его норма есть $\|T\|_p$. Через ${b\mathbb D^+=\{ e^{i\theta}\colon \theta \in [0,\pi] \}}$ и ${b\mathbb D^-=\{e^{i\theta}\colon \theta \in \, ]\pi, 2 \pi[ \}}$ обозначим соответственно верхнюю и нижнюю полуокружности. Зафиксируем такие $C^\infty$-гладкие вещественные функции $\psi_j$ на $b\mathbb D$, что ${\psi_j| b\mathbb D^+=0}$ и ${\psi_j|b\mathbb D^-<0}$, $j=1,\dots ,n$ (можно взять одни и те же функции для всех $j$). Положим $\psi= (\psi_1,\dots ,\psi_n)$. Рассмотрим обобщенное уравнение Бишопа
$$
\begin{equation}
u(\zeta)=-Th(u(\zeta))-tT\psi(\zeta)+c, \qquad \zeta \in b\mathbb D,
\end{equation}
\tag{9}
$$
где $c \in \mathbb R^n$ и $t=(t_1,\dots ,t_n) \in \mathbb R^n$, $t_j \geqslant 0$, – вещественные параметры; здесь и далее мы полагаем $tT\psi=(t_1 T\psi_1,\dots ,t_n T\psi_n)$. Докажем, что для всех $p>2$ и достаточно близких к нулю $c$ и $t$ у этого сингулярного интегрального уравнения есть единственное решение $u(c,t)(\zeta)$ в классе Соболева $W^{1,p}(b\mathbb D)$ векторнозначных функций. Это решение лежит в пространстве $C^{\alpha}(b\mathbb D)$, $\alpha=1-2/p$, по теореме вложения Соболева. Прежде чем перейти к решению уравнения Бишопа, объясним, как такое решение связано с комплексными дисками, подклеенными к $E$ вдоль $b\mathbb D^+$. Рассмотрим функцию
$$
\begin{equation*}
U(c,t)\zeta)=u(c,t)(\zeta)+i h(u(c,t)(\zeta))+i t\psi(\zeta).
\end{equation*}
\notag
$$
Поскольку $T^2=-Id$, а $u$ – решение уравнения (9), функция $U$ голоморфно продолжается на $\mathbb D$ как функция
$$
\begin{equation}
H(c,t)(\zeta)=P U(c,t), \qquad\zeta \in \mathbb D,
\end{equation}
\tag{10}
$$
класса $C^\alpha(\mathbb D)$. Здесь $P$ – оператор Пуассона гармонического продолжения на круг $\mathbb D$:
$$
\begin{equation}
PU(c,t)(\zeta)=\frac{1}{2\pi} \int_{-\pi}^{\pi} \frac{1- |\zeta |^2}{|e^{it}-\zeta |^2} U(c,t)(e^{it})\,dt.
\end{equation}
\tag{11}
$$
Функция $\psi$ обращается в нуль на $b\mathbb D$, так что для всех $(c,t)$ в силу (7) имеем $H(c,t)(b\mathbb D^+) \subset E$. Будет удобно распространить уравнение (9) на все пространство $\mathbb C^n$. Зафиксируем $C^\infty$-гладкую функцию $\lambda\colon \mathbb R^{n} \to \mathbb R^+=[0,+\infty[$, равную $1$ на единичном шаре $\mathbb B^{n}$ и нулю на $\mathbb R^{n} \setminus 2\mathbb B^{n}$. Для достаточно малого $\delta>0$ функция $h_\delta(x)=\lambda(x/\delta)h(x)$ естественно продолжается нулем на все $\mathbb R^{n}$. Зафиксируем достаточно малое $\tau>0$, значение которого мы выберем ниже. Тогда ввиду (8) можно выбрать такое $\delta= \delta(\tau)>0$, что градиент $\nabla h_\delta(x)$ мал на всем пространстве $\mathbb R^{n}$:
$$
\begin{equation}
\|\nabla h_\delta\|_{L^\infty(\mathbb R^{n})} \leqslant \tau.
\end{equation}
\tag{12}
$$
Сначала рассмотрим глобальное уравнение
$$
\begin{equation}
u(\zeta)=-Th_\delta(u(\zeta))-tT\psi(\zeta)+c, \qquad \zeta \in b\mathbb D.
\end{equation}
\tag{13}
$$
Докажем, что его решения непрерывно зависят от параметров $(c,t)$; это позволит нам локализовать решения и разобраться с исходным уравнением (9). Пусть $V$ – область в $\mathbb R^m$, а $f \in L^p(V \times b\mathbb D)$, $p>1$. Тогда по теореме Фубини $Tf \in L^p(V \times b\mathbb D)$ (при действии оператора $T$ переменные в $V$ рассматриваются как параметры оператора). Значит, сохраняя те же обозначения, мы получаем ограниченный линейный оператор $T\colon L^p(V \times b\mathbb D) \to L^p(V \times b\mathbb D)$ с той же нормой, что и в $L^p(b\mathbb D)$. Обозначаем ее по-прежнему через $\|T\|_p$. Зафиксируем область $V\subset \mathbb R^{2n}$ в пространстве параметров $(c,t)$. Лемма 3.1. В указанных предположениях для любого $p>1$ можно найти $\tau>0$ из условия (12) и $\delta=\delta(\tau)>0$ такие, что у уравнения (13) есть единственное решение $u(c,t)(\zeta) \in L^p(V \times b\mathbb D)$. Доказательство. Рассмотрим оператор $\Phi\colon L^p(V \times b\mathbb D) \to L^p(V \times b\mathbb D)$, заданный формулой
$$
\begin{equation*}
\Phi\colon u \mapsto -Th_\delta(u(\zeta))-tT\psi(\zeta)+c.
\end{equation*}
\notag
$$
В силу (12) по теореме Лагранжа о конечном приращении для всех $u^1$ и $u^2$ из $L^p(V \times b\mathbb D)$ имеем
$$
\begin{equation*}
\begin{aligned} \, \|\Phi(u^1)-\Phi^2(u^2)\|_{L^p(V \times b\mathbb D)} &\leqslant \|T\|_p \, \| h_\delta(u^1)-h_\delta(u^2)\|_{L^p(V \times b\mathbb D)} \\ &\leqslant \frac12 \|u^1- u^2\|_{L^p(V \times b\mathbb D)}, \end{aligned}
\end{equation*}
\notag
$$
где $\tau$ – фиксированное малое число из (12). Значит, $\Phi$ – сжимающее отображение, что доказывает лемму. Поскольку $V$ произвольное, мы видим, что у уравнения (13) есть единственное решение $u \in L^p_{\mathrm{loc}}(\mathbb R^{2n} \times b\mathbb D)$, где имеется в виду пространство $L^p$ функций на $K \times b\mathbb D$ для всякого компактного множества $K \subset \mathbb R^{2n}$. Теперь рассмотрим регулярность решений уравнения (13) по шкале пространств Соболева. Пусть $\Omega$ – область в $\mathbb R^k$, а $f $ – функция в $\Omega$. Через $e_j$, $j=1,\dots ,k$, обозначим канонический базис в $\mathbb R^k$. Для заданных $j=1,\dots,k$ и $\Delta x_j \in \mathbb R^*$ рассмотрим конечные разности
$$
\begin{equation*}
\frac{\Delta f}{\Delta x_j}=\frac{f(x+e_j \Delta x_j)-f(x)}{\Delta x_j}.
\end{equation*}
\notag
$$
Напомним два известных свойства соболевских пространств (например, см. [23]): Лемма 3.2. Любое решение $u$ уравнения (13) принадлежит классу
$$
\begin{equation*}
W^{1,p}_{\mathrm{loc}}(\mathbb R^{2n} \times b\mathbb D).
\end{equation*}
\notag
$$
Доказательство. Пусть $x_j$ – одно из переменных $c_j$, $t_j$ или $\zeta \in b\mathbb D$. Оценим конечную разность $\Delta u / \Delta x_j$. Из (12) следует, что $h_\delta$ удовлетворяет условию Липшица с константой $\tau$. Значит, из (13) получаем, что
$$
\begin{equation*}
\biggl\|\frac{\Delta u}{\Delta x_j}\biggr\|_{L^p(V \times b\mathbb D)} \leqslant C_1 \tau \biggl\|\frac{\Delta u}{\Delta x_j}\biggr\|_{L^p(V \times b\mathbb D)}+C_2,
\end{equation*}
\notag
$$
где $C_j>0$ – постоянные. При достаточно малом $\tau>0$ имеем
$$
\begin{equation*}
\biggl\|\frac{\Delta u}{\Delta x_j}\biggr\|_{L^p(V \times b\mathbb D)} \leqslant C_3
\end{equation*}
\notag
$$
с некоторой постоянной $C_3>0$, так что $u \in W^{1,p}_{\mathrm{loc}}(\mathbb R^{2n} \times b\mathbb D)$. Это доказывает лемму. Из теоремы вложения Соболева следует, что решение $u$ принадлежит пространству ${C^{1-(2n+1)/p}(V\times b\mathbb D)}$, где $V$ – открытое подмножество $\mathbb R^{2n}$. В частности, для достаточно больших $p$ построенное нами семейство дисков непрерывно по всем переменным. Заметим теперь, что при $t=0$ у уравнения (13) есть постоянное решение $u(c,0)(\zeta)= c$. При $c$, достаточно близких к началу координат в $\mathbb R^n$, это решение соответствует точке $c+ih(c) \in E$. В силу непрерывности и единственности решений найдется такая окрестность $V$ начала координат в $\mathbb R^{2n}$, что при $(c,t) \in V$ каждое решение уравнения (13) является также решением (9). Мы доказали следующее утверждение. Лемма 3.3. Для данного $p>2$ найдется окрестность $V$ начала координат в $\mathbb R^{2n}$, в которой у уравнения Бишопа (9) есть единственное решение
$$
\begin{equation*}
u(c,t)(\zeta) \in W^{1,p}(V \times b\mathbb D).
\end{equation*}
\notag
$$
Поскольку $p$ произвольное, мы видим, что решения нашего уравнения принадлежат классу Гёльдера $C^{\alpha}(V \times b\mathbb D)$, где $\alpha=1-(2n+1)/p$. Заметим, что здесь $V$ зависит от $p$ (а значит, от $\alpha$). Однако из [9] следует, что для каждого фиксированного $(c,t)$ отображение $\zeta \mapsto u(c,t)(\zeta)$ принадлежит классу $C^\alpha(b\mathbb D)$ для любого $\alpha<1$. 3.2. Стабильность дисков До сих пор мы не рассматривали геометрические свойства семейства (10). Здесь мы обсудим те из них, которые будет полезно использовать в нашей работе. Представим семейство (10) как малое возмущение некоторого модельного семейства в $W^{1,p}$-норме. Модельный случай соответствует $E=\mathbb R^n$, т.е. $h=0$ в (4). Тогда общее решение уравнения (9) имеет вид
$$
\begin{equation}
u(\zeta)=- tT\psi(\zeta)+c, \qquad \zeta \in b\mathbb D ,
\end{equation}
\tag{14}
$$
где, как обычно, $c \in \mathbb R^n$ и $t=(t_1,\dots ,t_n)$, $t_j \geqslant 0$, – вещественные параметры. В этом случае семейство (10) приобретает вид
$$
\begin{equation}
H(c,t)(\zeta)=P U(c,t), \qquad\zeta \in \mathbb D,
\end{equation}
\tag{15}
$$
где
$$
\begin{equation}
U(c,t)\zeta)=- tT\psi(\zeta)+c+i t\psi(\zeta).
\end{equation}
\tag{16}
$$
Геометрически это семейство дисков дается семейством комплексных прямых, пересекающих $\mathbb R^n$ вдоль вещественных прямых; диски получаются биголоморфной репараметризацией соответствующих полупрямых единичным кругом. Эти прямые задаются отображениями $l(c,t)\colon \zeta \mapsto t\zeta+c$, $\zeta \in \mathbb C$. Конформное отображение $-T \psi+i\psi$ переводит единичный круг в область в нижней полуплоскости с гладкой границей и подклеивает $b\mathbb D^+$ к вещественной оси. Параметр $t$ можно рассматривать как направляющий вектор $l$. В дальнейшем этот случай будем называть плоским, а диски (16) – плоскими дисками, которые геометрически устроены очень просто; их подробное описание (в более общей ситуации) доступно, к примеру, в [35]. Пусть $E$ – вполне вещественное многообразие, заданное уравнениями (7), (8). Для $d \in I \setminus \{ 0 \}$, где $I \ni 0$ – достаточно малый открытый интервал в $\mathbb R$, рассмотрим многообразия $E_d$, заданные уравнениями
$$
\begin{equation}
y=d^{-1}h(d x).
\end{equation}
\tag{17}
$$
Заметим, что для каждого $d \neq 0$ многообразие $E_d$ биголоморфно эквивалентно $E$ в силу изотропного растяжения $z \mapsto d^{-1}z$. Положим $h(x,d)=d^{-1}h(dx)$, где $d \neq 0$ и $h(x,0)=0$. В последнем случае, т.е. при $d=0$, имеем $E_0=\{ y=0 \}=\mathbb R^n=T_0(E)$, т.е. плоский случай. Заметим, что функция $h(x,d)$ и ее первые частные производные по $x$ непрерывны по $d \in I$. Итак, рассмотрим однопараметрическое семейство вполне вещественных многообразий, заданных уравнениями
$$
\begin{equation}
y=h(x,d),
\end{equation}
\tag{18}
$$
$$
\begin{equation}
h_j(0,d)=0, \quad \nabla_x h_j(0,d)=0, \qquad d \in I, \quad j=1,\dots ,n
\end{equation}
\tag{19}
$$
(здесь рассматривается градиент $\nabla_x$ по переменным $x$). Тогда для любых $(c,t,d)$ мы получаем диски $H(c,t,d)$, заданные уравнением (10). В силу единственности решения уравнения Бишопа семейство $H(c,t,0)( \zeta)$ совпадает с (16). Лемма 3.4. Для каждого $p>1$ при $d \to 0$ выполнено соотношение
$$
\begin{equation*}
\|H(c,t,d)( \zeta)-H(c,t,0)( \zeta)\|_{W^{1,p}(V \times \mathbb D)} \to 0.
\end{equation*}
\notag
$$
Доказательство. Пусть $u^0$ – решение плоского уравнения Бишопа (14). Для любого $d$ пусть $u(c,t,d)$ – решение уравнения Бишопа
$$
\begin{equation}
u=-T h(u,d)-tT \psi+c.
\end{equation}
\tag{20}
$$
Из (19) следует, что полученные выше оценки на норму $u$ равномерны по $d$, так что $\|u\|_{W^{1,p}(V \times \mathbb D)} \leqslant C$, где постоянная $C>0$ не зависит от $d$. Действительно, в этих оценках $\tau>0$ и $\delta(\tau)>0$ можно выбрать не зависящими от $d$.
Поскольку $u \in W^{1,p}(V \times \mathbb D)$ для всех $d$, а $h(\bullet,d)$ – функция класса $C^1(\mathbb R^n)$ для каждого числа $d$, то суперпозиция $h(u,d)$ также принадлежит классу $W^{1,p}(V \times \mathbb D)$. Значит, к обобщенным производным можно применить правило дифференцирования композиции. Поэтому если $s_j$ – какая-то из переменных $c_j$, $t_j$ и $\zeta$, то $h(u,d)_{s_j}=(D_xh)(u,d) u_{s_j}$, где $D_x$ – касательное отображение по переменным $x$.
Итак, получаем
$$
\begin{equation*}
\|u-u^0\|_{W^{1,p}(V \times \mathbb D)}=\|Th(u,d)\|_{W^{1,p}(V \times \mathbb D)} \leqslant C \|h(\bullet,d)\|_{C^1_x},
\end{equation*}
\notag
$$
где $\|h(\bullet,d)\|_{C^1_x}$ – это $C^1$-норма $h(x,d)$ по переменным $x$, а $C> 0$ – некоторая константа. Однако $\|h(\bullet,d)\|_{C^1_x} \to 0$ при $d \to 0$, что и доказывает лемму.
§ 4. Доказательство теоремы 1.1 Следующее утверждение является ключевым техническим моментом доказательства. Предложение 4.1. Пусть $M$ – $m$-мерное вполне вещественное многообразие класса $C^1$ в $\mathbb C^m$. Пусть $\Omega \subset \mathbb C^n$ – псевдовыпуклая область, заданная условием $\Omega=\{ \phi<0 \}$, где $\phi$ – плюрисубгармоническая функция гладкости $C^2$ и $d \phi \neq 0$ вблизи $\Gamma= b\Omega$. Также пусть $W \subset \Omega$ – клин (3) с острием $E \subset \Gamma$ типа (4). Рассмотрим такое голоморфное отображение $f\colon \Omega \to \mathbb C^m$, что $f$ непрерывно на $\Omega \cup E$ и $f(E) \subset M$. Тогда для каждого $\delta>0$ и любого $\alpha<1$ отображение $f$ продолжается до $\alpha$-непрерывного по Гёльдеру отображения множества $W_{\delta} \cup E$. Доказательство. Все утверждения локальны, поэтому можно считать, что $0 \in E$ и $T_0E=\mathbb R$, как в предшествующих параграфах. Рассмотрим семейство дисков, построенных в § 3 и подклеенных к $E$ вдоль $b\mathbb D^+$. Плоские диски заполняют предписанный клин типа (3) с острием $E_0=\mathbb R^n$. Точнее, мы фиксируем открытый выпуклый конус $K$ в $W^0=\{ (x,y) \in \mathbb R^{2n}\colon y_j<0, \,j=1,\dots ,n \}$ с вершиной в начале координат и такой, что ${\overline K \cap r\mathbb B^n}$ лежит в ${W^0 \cup \{ 0 \}}$ при некотором достаточно малом $r> 0$. Ясно, что плоские диски заполняют окрестность множества $ \overline K \cap r \mathbb B^n$. То же верно для конусов $K_z$, полученных параллельным переносом $K$ в любую вершину $z \in \mathbb R^n$. Поскольку семейство $H(c,t,d)(\zeta)$ – малое возмущение плоских дисков из $C^s(V \times \overline{\mathbb D})$ (где $s$ любое, $0<s<1$), то по непрерывности для достаточно малых $d $ семейство $H(c,t,d)(\zeta)$ также заполняет заданный клин типа (5) с острием $E_d$. В силу голоморфной эквивалентности то же верно для исходного острия $E$ и сжатого клина $W_\delta$ с любым $\delta>0$. Заметим, что в этом построении рассматриваются диски $H(c,t,d)(\zeta)$ с параметром $t$, отделенным от начала координат, так что они не вырождаются в постоянные диски $H(c,0,d)(\zeta) \equiv c$. Также заметим, что поскольку функция $\phi$ плюрисубгармонична, то все диски лежат в $\Omega$ по принципу максимума.
Применяя лемму Хопфа в сильном варианте (см. [28]) к субгармонической функции $\phi \circ H$ на $\mathbb D$, получаем
$$
\begin{equation*}
|\phi \circ H(c,t)(\zeta) |\geqslant C (1-|\zeta |),
\end{equation*}
\notag
$$
где $C>0$ не зависит от дисков, т.е. от $(c,t)$ (заметим, что мы опускаем параметр $d$, поскольку он фиксирован). Заметим, что
$$
\begin{equation*}
C^{-1} \operatorname{dist} (z, \Gamma) \leqslant |\phi(z) |\leqslant C \operatorname{dist}(z,\Gamma).
\end{equation*}
\notag
$$
Поскольку $E \subset \Gamma$, имеем
$$
\begin{equation*}
\operatorname{dist}(z, \Gamma) \leqslant \operatorname{dist}(z,E).
\end{equation*}
\notag
$$
Отсюда получается оценка
$$
\begin{equation}
1- |\zeta |\leqslant C \operatorname{dist}(H(c,t)(\zeta),E).
\end{equation}
\tag{21}
$$
Каждая точка $z \in W_\delta$ лежит на каком-то диске $H(c,t)$. Полагая $z=H(c,t)(\zeta) $, из (21) выводим оценку
$$
\begin{equation*}
1- |\zeta |\leqslant C \operatorname{dist}(z,E).
\end{equation*}
\notag
$$
С другой стороны, напомним, что $M$ задается как $M=\rho^{-1}(0)$, где $\rho$ – неотрицательная строго плюрисубгармоническая функция класса $C^2$ (см. [8], [15]). В [34] была получена следующая оценка:
$$
\begin{equation*}
\rho(f(z)) \leqslant C(1- |\zeta |).
\end{equation*}
\notag
$$
Точнее говоря, в [ 34] эта оценка получена для $E$ класса $C^s$, $s>1$. Используя семейство дисков $H(c,t)$, построенных в нашей работе для $E$ класса $C^1$, мы можем повторить рассуждения из [ 34] и получить такую же оценку и в нашем случае, для $E$ из $C^1$.
Тем самым установлена ключевая оценка
$$
\begin{equation}
\rho(f(z)) \leqslant C \operatorname{dist}(z,E)
\end{equation}
\tag{22}
$$
для всех $z \in W_\delta$.
Используя эту ключевую оценку, мы можем буквально повторить аргументы из [34] (основанные на оценках для метрики Кобаяши–Ройдена в трубчатой окрестности многообразия $M$) и показать, что отображение $f$ гёльдерово с показателем $\alpha$ на $W_\delta$ для всех $\alpha<1$ (см. лемму 3.6 в [34]). Тем самым предложение доказано. Теорема 1.1 получается теперь в точности, как в [34]. В самом деле, доказательство в [34] основано на известной конструкции из работы [25]. Она сводит вопрос о граничной регулярности биголоморфизма $f\colon \Omega_1 \to \Omega_1$ строго псевдовыпуклых областей к анализу надлежащим образом определенного поднятия $f$ на ${\Omega_1 \times \mathbb C \mathbb P^{n-1}}$. Голоморфное касательное расслоение границы $b\Omega_1$ можно рассматривать как вполне вещественное ($2n-1$)-мерное вполне вещественное подмногообразие $E$ границы многообразия $\Omega_1 \times \mathbb C\mathbb P^{n-1}$. При этом поднятие $f$ голоморфно продолжается на $E$ и отображает его в голоморфное касательное расслоение границы $b\Omega_2$. После этого к поднятию $f$ применяется предложение 4.1. Теорема 1.1 доказана.
§ 5. Метрика Кобаяши–Ройдена и нормальные семейства В этом параграфе для удобства читателя мы напомним некоторые результаты, относящиеся у метрике Кобаяши–Ройдена. Зафиксируем риманову метрику на комплексном многообразии $M$, индуцирующую обычную топологию на $M$; она будет использована для вычисления расстояний на $M$ и норм касательных векторов. Для $M=\mathbb C^n$ мы всегда будем использовать стандартную евклидову норму и соответствующую метрику. Ниже мы обозначаем единичный круг в $\mathbb C$ (т.е. $\mathbb B^1$) через $\mathbb D=\{ \zeta \in \mathbb C\colon |\zeta |<1 \}$. Также обозначим через $\mathcal O(\mathbb D,M)$ пространство голоморфных отображений из $\mathbb D$ в $M$; такие отображения будем называть комплексными или аналитическими дисками в $M$. Напомним, что псевдометрика Кобаяши–Ройдена $F_M$ на $M$ определена для точки $p \in M$ и касательного вектора $v \in T_pM$ следующим образом:
$$
\begin{equation*}
\begin{aligned} \, F_M(p,v)&=\inf\biggl\{ \lambda^{-1} \colon \text{существует }f \in \mathcal O(\mathbb D,M) \\ &\qquad\qquad \text{такое, что }f(0)=p,\,\frac{df}{d\zeta}(0)=\lambda v, \, \lambda>0 \biggr\}. \end{aligned}
\end{equation*}
\notag
$$
Через $K_M(p,q)$ обозначим обычное (псевдо)расстояние Кобаяши между точками $p,q \in M$. Фундаментальный результат Ройдена (см. [32]) утверждает, что $F_M$ – непрерывная сверху функция на касательном расслоении многообразия $M$, а $K_M$ получается интегрированием $F_M$. Мы воспользуемся основным свойством псевдометрики Кобаяши–Ройдена и псевдорасстояния Кобаяши: они убывают при голоморфных отображениях. А именно, если $f\colon M \to N$ – голоморфное отображение между комплексными многообразиями, то $(f(p), df(p) v) \leqslant F_M(p,v)$ и $K_N(f(p),f(q)) \leqslant K_M(p,q)$. Также напомним, что многообразие $M$ называется гиперболическим в точке $p \in M$, если найдется константа $C>0$, с которой $F_M(p,v) \geqslant C \|v\|$ для каждого касательного вектора $v \in T_pM$. Многообразие $M$ называется локально гиперболическим, если оно гиперболично в каждой точке. Вдобавок $M$ называется гиперболическим (по Кобаяши), если $K_M$ – расстояние, т.е. $K_M(p,q)>0$ при $p \neq q$; в этом случае функция расстояния индуцирует стандартную топологию на $M$. Согласно [32] $M$ гиперболично, если и только если оно локально гиперболично. Также напомним (см. [32]), что $M$ гиперболично тогда и только тогда, когда семейство $\mathcal O(\mathbb D,M)$ равностепенно непрерывно (относительно римановой метрики, зафиксированной выше). Шар Кобаяши с центром в $p$ радиуса $\delta>0$ задается условием
$$
\begin{equation*}
B_{K_M}(p,\delta)=\bigl\{ q \in M \colon K_M(p,q)<\delta \bigr\}.
\end{equation*}
\notag
$$
Напомним также, что многообразие $M$ называется полным гиперболическим, если оно является полным метрическим пространством относительно расстояния Кобаяши, т.е. каждый шар Кобаяши имеет компактное замыкание в $M$. 5.1. Локализация и нормальные семейства В этом пункте мы обсудим результаты по локализации и асимптотическому поведению метрики Кобаяши–Ройдена. Ниже, как и ранее, $C>0$ обозначает положительную постоянную, которая может иметь разные значения в разных оценках. Начнем со следующего принципа локализации, вытекающего из леммы 2.2 в [6]. Лемма 5.1. Пусть $p \in b\Omega$ – кусочно гладкая строго псевдовыпуклая точка. Тогда найдутся окрестность $U \subset U'$ точки $p$ в $M$ и $\delta>0$ такие, что для всякой точки $q \in \Omega \cap U$ шар Кобаяши $B_{K_\Omega}(q,\delta) $ лежит в $\Omega \cap U'$. В работе [6] рассматривается ситуация, когда на $\Omega$ существует отрицательная плюрисубгармоническая функция, являющаяся строго плюрисубгармонической (в обобщенном смысле) в окрестности $p$. Используя для функций $\rho_j$ из (1) конструкцию из [33], каждую из них можно продолжить до плюрисубгармонической функции $\widetilde \rho_j$, определенной глобально и отрицательной на $\Omega$. Тогда функция $\sup_j \widetilde \rho_j$ удовлетворяет условиям из [6]. Поскольку расстояние Кобаяши убывает при голоморфных отображениях, мы получаем следующий результат. Следствие 5.2. Существует $\tau=\tau(\delta)>0$ такое, что для каждой точки ${q \in \Omega \cap U}$ и каждого голоморфного отображения $h\colon \mathbb D \to \Omega$ с $h(0)=q$ выполнено включение $h(\tau \mathbb D) \subset \Omega \cap U'$. Принцип локализации в такой форме был получен и использован Ф. Бертоло; см., к примеру, [2]. Теперь из определений метрики Кобаяши–Ройдена следует, что найдется константа $C>0$, с которой
$$
\begin{equation}
F_{\Omega \cap U'}(z,v) \leqslant C F_{\Omega}(z,v)
\end{equation}
\tag{23}
$$
для всех точек $z \in \Omega \cap U$ и $v \in T_z\Omega$. Одно из следствий принципа локализации имеет следующий вид. Лемма 5.3. В условиях теоремы 1.3 найдется подпоследовательность последовательности $(f^k)$, сходящаяся к постоянному отображению $f \equiv p$ равномерно на компактных подмножествах $\Omega$. Выберем достаточно малую координатную окрестность $U \subset U'$ точки $p$, в которой применимо следствие 5.2. Пусть $K$ – компактное подмножество $\Omega$, содержащее $q$. Докажем, что ${f^k(K) \subset \Omega \cap U'}$ для любого достаточно большого $k$. Рассмотрим два конечных покрытия $K$ открытыми координатными окрестностями $V_j $ и $W_j$ , $j=1,\dots ,N$, такие, что $V_j \subset W_j \subset \Omega$ и выполнено следующее: Для всех достаточно больших $k$ имеем $f^k(q) \in U$. Для заданного единичного вектора $v \in \mathbb C^n$ применим следствие 5.2 к дискам $h^k\colon \mathbb D \to \Omega$, $h^k\colon \mathbb D \ni \zeta \mapsto f^k \circ \phi_1^{-1}(\zeta v)$. Это дает включение $f^k(V_1) \subset U'$. Значит, найдется подпоследовательность, снова обозначаемая через $(f^k)$, которая равномерно на $\overline V_1$ сходится к голоморфному отображению $f$. Поскольку $f(q)=p$, по принципу максимума получаем $f \equiv p$. Теперь в силу (iii) для достаточно больших $k$ имеем $f^k(q^2) \in U$ и по аналогичным соображениям $f^k(V_2) \subset U'$. Повторяя эти рассуждения для всех $j$, заключаем следующее. Следствие 5.4. Область $\Omega$ гиперболическая. В самом деле, пусть $z^0$ – некоторая точка $\Omega$. Тогда для некоторого достаточно большого $k$ имеем $f^k(z^0) \in \Omega \cap U$. Однако область $\Omega \cap U$ биголоморфно эквивалентна ограниченной области в $\mathbb C^n$ и потому гиперболическая. Следовательно, в силу (23) имеем
$$
\begin{equation*}
F_\Omega(z^0,v)=F_\Omega(f^k(z^0),df^k(z^0)v) \geqslant C F_{\Omega \cap U}(f^k(z^0),df^k(z^0)v) \geqslant C \|v \|.
\end{equation*}
\notag
$$
Здесь мы использовали, что $\Omega \cap U$ гиперболична. Значит, область $\Omega$ локально гиперболическая и потому гиперболическая. 5.2. Оценки Пусть $\Omega$ удовлетворяет условиям теоремы 1.3. Следующая верхняя оценка для инфинитезимальной метрики Кобаяши–Ройдена $F_\Omega$ является классической. Лемма 5.5. Существуют постоянная $C\,{>}\,0$ и (координатная) окрестность $U$ точки $p$ в $M$ такие, что для всякой точки $ z \in \Omega$ и касательного вектора $v \in T_z\Omega$ выполнено
$$
\begin{equation*}
F_\Omega(z,v) \leqslant \frac{C\|v \|}{\operatorname{dist}(z,b\Omega)}.
\end{equation*}
\notag
$$
В самом деле, шар с центром в $z$ радиуса $\operatorname{dist}(z, b\Omega)$ лежит в $\Omega$, так что оценка вытекает из принципа уменьшения метрики Кобаяши–Ройдена при голоморфных отображениях. Чтобы получить оценку снизу, напомним некоторые результаты работы [34]. Лемма 5.6. Найдутся такие окрестность $U$ точки $p$ в $M$ и константа $C>0$, что
$$
\begin{equation*}
F_\Omega(z,v) \geqslant \frac{C\|v \|}{\operatorname{dist}(z,b\Omega)^{1/2}}
\end{equation*}
\notag
$$
для каждой точки $z \in \Omega \cap U$ и каждого вектора $v \in T_z\Omega$. Теперь нам понадобятся оценки метрики Кобаяши–Ройдена в выпуклых областях. Пусть $G \subset \mathbb C^n$ – выпуклая область, $p \in G$ – точка и $v$ – вектор из $\mathbb C^n$. Рассмотрим комплексную прямую $A$, проходящую через $p$ в направлении $v$, и пусть
$$
\begin{equation*}
L_G(p,v)=\sup \bigl\{ \delta>0\colon \mathbb B^n(p,\delta) \cap A \subset G \bigr\}.
\end{equation*}
\notag
$$
Иными словами, $L(p,v)$ – верхняя грань радиусов кругов с центром в $p$, лежащих в $A \cap G$. Следующий результат был установлен Грэмом (см. [14]) и Френкелем (см. [13]); короткое геометрическое доказательство дано Бедфордом и Пинчуком в [1]. Лемма 5.7. Пусть $G$ – выпуклая область в $\mathbb C^n$. Тогда для всех $p \in \Omega$ и $v \in \mathbb C^n$ выполнена оценка
$$
\begin{equation*}
\frac{\|v\|}{2 L_G(p,v)} \leqslant F_G(p,v) \leqslant \frac{\|v\|}{ L_G(p,v)}.
\end{equation*}
\notag
$$
У этого результата много полезных следствий. К примеру, любая область $G$ становится выпуклой после биголоморфной замены координат в окрестности строго псевдовпуклой граничной точки. Тогда лемма 5.7 означает, что $F_G(z,v) \geqslant C/ \operatorname{dist} (z, b\Omega)$ для векторов $v$, трансверсальных (например, ортогональных к) голоморфному касательному пространству к $bG$ в точке $p$. Отсюда получается классический результат: строго псевдовыпуклая область с гладкой границей является полной гиперболической.
§ 6. Доказательство теоремы 1.3 Наш подход основан на работе [7] и использует метод масштабирования Френкеля (см. [12]). Однако, в отличие от [7], мы не используем общих результатов Френкеля о сходимости нормализованных семейств отображений. Наше доказательство самодостаточно и использует только лемму 5.7. Предположим, что мы находимся в условиях теоремы 1.3. 6.1. Масштабирование Пусть область $\Omega$ имеет вид (1) в координатной окрестности $U$ точки $p$. Напомним, что мы назвали строго псевдовыпуклые гиперповерхности $\Gamma_j=\{\rho_j=0\}$ гранями множества $b\Omega \cap U$. Лемма 6.1. Существует локально биголоморфная замена переменных $\Phi$, в которой $\Phi(p)=0$ и множество $\Phi(\Omega \cap U)$ выпукло. Доказательство (см. доказательство предложения 1.1 в [7]). Ниже мы считаем, что зафиксировали локальные координаты, соответствующие лемме 6.1, так что при достаточно малых $\varepsilon>0$ множество $\Omega \cap \varepsilon \mathbb B^n$ выпукло (мы позволим себе отождествить ${\Phi(\Omega \cap U)}$ с ${\Omega \cap \varepsilon \mathbb B^n}$). Мы также можем выбрать эти координаты так, чтобы вдобавок у каждой локальной определяющей функции области $\Omega$ было тейлоровское разложение вида
$$
\begin{equation}
\rho_j(z)=\operatorname{Re} z_j+H_j(z,\overline z)+S_j(z ), \qquad j=1,\dots ,m,
\end{equation}
\tag{24}
$$
где каждая функция $H_j$ является положительно определенной эрмитовой формой и $S _j(z)=o(|z |^2)$.
Пусть $\Omega_k=(f^k)^{-1}(\Omega \cap \varepsilon \mathbb B^n)$. Поскольку последовательность $(f^k)$ сходится к нулю равномерно на компактных подмножествах области $\Omega$, каждое компактное подмножество этой области лежит в $\Omega_k$ для всех достаточно больших $k$.
Зафиксируем точку $q$, лежащую в $\Omega_k$ для всех достаточно больших $k$. Положим $p^k :=f^k(q)$ и рассмотрим аффинные отображения
$$
\begin{equation*}
A^k(z) :=(df^k(q))^{-1}(z-p^k).
\end{equation*}
\notag
$$
Введем новую последовательность отображений
$$
\begin{equation}
g^k:=A^k \circ f^k.
\end{equation}
\tag{25}
$$
Заметим, что
$$
\begin{equation}
g^k(q)=0, \quad dg^k(q)=Id \quad \text{для всех } \ k.
\end{equation}
\tag{26}
$$
Рассмотрим образы $G_k=g^k(\Omega_k)=A^k(\Omega \cap \varepsilon \mathbb B^n)$. Мы хотим в итоге доказать, что последовательность выпуклых областей $(G^k)$ сходится в метрике Хаусдорфа к области $G$, и найти эту предельную область $G$. 6.2. Сходимость областей Сначала заметим, что касательные отображения
$$
\begin{equation*}
R^k:=df^k(q)
\end{equation*}
\notag
$$
сходятся к нулю; значит, области $(df^k(q))^{-1}(\varepsilon \mathbb B^n-p^k)$ сходятся ко всему пространству $\mathbb C^n$. По этой причине они не важны в доказательстве и мы не будем их упоминать в дальнейшем. Каждая из областей $G_k$ задается как
$$
\begin{equation*}
\bigl\{ z \colon \rho_j(p^k+R^k z)<0, \,j=1,\dots ,m \bigr\}.
\end{equation*}
\notag
$$
Положим $\tau_k^j:=|\rho_j(p^k) |$ и $\delta_k:=\inf_j \tau^j_k$. Рассмотрим функции
$$
\begin{equation*}
\phi_j^k(z)=(\tau_k^j)^{-1} \rho_j(p^k+R^k z), \qquad j=1,\dots ,m.
\end{equation*}
\notag
$$
Их тейлоровские разложения в начале координат имеют вид
$$
\begin{equation}
\begin{aligned} \, \notag \phi_j^k(z) &=-1+\operatorname{Re} \lambda_j^k(z)+(\tau_k^j)^{-1}\operatorname{Re} Q_j^k(R^k z, R^k z) \\ &\qquad +(\tau_k^j)^{-1}H^k_j(R^k z, \overline{R^k z})+S_j^k(z). \end{aligned}
\end{equation}
\tag{27}
$$
Здесь $\lambda_j^k$ – комплексные линейные формы, $Q_j^k(w,w)$ – голоморфные квадратичные формы и ввиду (24) $Q_j^k \to 0$ при $k \to \infty$; $H^k_j(w, \overline w)$ – положительно определенные квадратичные формы, сходящиеся к $H_j$ из (24). Наконец, $S^k_j(z)=o(|z |^2)$ равномерно по $k$. Лемма 6.2. Для каждого $j$ последовательность $(\phi_j^k)_k$ сходится при $k\,{\to}\,\infty$ (по подпоследовательности) равномерно на компактных подмножествах пространства $\mathbb C^n$ к функции
$$
\begin{equation*}
\phi_j=-1+\operatorname{Re}\lambda_j(z)+H_j'(z,\overline z).
\end{equation*}
\notag
$$
Здесь $\lambda_j$ – комплексная линейная форма, а $H_j'$ – неотрицательно определенная эрмитова форма. Области $G_k$ сходятся в метрике Хаусдорфа к области
$$
\begin{equation}
G=\bigl\{ z\colon \phi_j(z)<0,\, j=1,\dots ,m \bigr\},
\end{equation}
\tag{28}
$$
гиперболической в начале координат. Доказательство. Найдется такое $C>0$, что для всех $k$ и $j$
$$
\begin{equation*}
C^{-1} \operatorname{dist} (p^k,\Gamma_j) \leqslant \tau_j^k \leqslant C \operatorname{dist}(p^k, \Gamma_j).
\end{equation*}
\notag
$$
Поскольку $\operatorname{dist}(p^k,b\Omega)=\inf_j \operatorname{dist}(p^k,\Gamma_j)$, имеем
$$
\begin{equation*}
C^{-1} \operatorname{dist} (p^k, b\Omega) \leqslant \delta_k \leqslant C \operatorname{dist}(p^k, b\Omega).
\end{equation*}
\notag
$$
Леммы 5.6 и 5.5 дают следующие оценки (для любого $v \in \mathbb C^n$):
$$
\begin{equation*}
C^{-1} \|v \|\geqslant F_{\Omega_k}(q,v) \geqslant F_{\Omega \cap \varepsilon \mathbb B^n}(p^k, R^kv) \geqslant \frac{C \|R^k v\|}{\delta_k^{1/2}},
\end{equation*}
\notag
$$
откуда получаем
$$
\begin{equation}
\|R^k \|\leqslant C (\delta_k)^{1/2} \leqslant C (\tau_k^j)^{1/2}
\end{equation}
\tag{29}
$$
для всех $j$. В итоге мы видим, что в представлении (27) последовательность $(\tau_k^j)^{-1}\operatorname{Re} Q_j^k(R^k z, R^k z)$ сходится к нулю равномерно на компактных подмножествах $\mathbb C^n$, а $(\tau_k^j)^{-1}H^k_j(R^k z, \overline{R^k z}) $ сходится равномерно на компактных подмножествах $\mathbb C^n$. Легко видеть также, что $S^k_j$ сходятся к нулю равномерно на компактных подмножествах $\mathbb C^n$.
Далее, из (26) следует, что $F_{\Omega_k}(q,v)=F_{G_k}(0,v)$ для всех $k$ и $v \in \mathbb C^n$. Значит, найдется такое $C>0$, что
$$
\begin{equation*}
C^{-1} \|v \|\leqslant F_{G_k}(0,v) \leqslant C \|v\|.
\end{equation*}
\notag
$$
Поскольку области $G_k=\{ \phi_j^k<0,\,j=1,\dots ,m \}$ выпуклые, из леммы 5.7 получаем, что
$$
\begin{equation}
C^{-1} \leqslant L_{G_k}(0,v) \leqslant C
\end{equation}
\tag{30}
$$
для всех $k$ и $v$. Рассуждая от противного, допустим, что нормы $\alpha_j^k$ линейных форм $\lambda^k_j$ неограниченны по $k$; можно считать, что $\alpha_j^k \to \infty$. Тогда функции $(\alpha_j^k)^{-1}\phi_j^k$ сходятся к $\operatorname{Re}\theta_j(z)$, где $\theta_j$ – ненулевая комплексная линейная форма. Значит, границы выпуклых областей $G_k$ приближаются к началу координат при $k \to \infty$, и для некоторого ненулевого вектора $v$ выполнено $L_{G_k}(0,v) \to 0$ при $k \to \infty$. Полученное противоречие показывает, что последовательность норм форм $\lambda_j^k$ ограниченна, что завершает доказательство леммы. Теперь наша цель – доказать, что $m=1$ и $G$ биголоморфно эквивалентна $\mathbb B^n$. 6.3. Идентификация области $G$: простейший случай $m=1$ Начнем с рассмотрения простейшего случая, когда $m=1$. Тогда
$$
\begin{equation*}
G =\bigl\{ z\colon {-}1+\operatorname{Re}\lambda(z)+H(z,\overline z)<0 \bigr\}.
\end{equation*}
\notag
$$
Если ненулевой вектор $v$ лежит в пересечении $\ker \lambda \cap \ker H=\{ 0 \}$, то комплексная прямая, проходящая через начало координат в направлении $v$, лежит в $G$ и $L_{G}(0,v)=\infty$ в противоречии с (30). Значит, ограничение $H$ на $\ker \lambda$ положительно определенное и $G$ биголоморфно эквивалентна $\mathbb B^n$. Для завершения доказательства теоремы 1.3 в этом случае нам нужен следующий результат. Лемма 6.3. Последовательность отображений (25) сходится (по подпоследовательности) равномерно на компактных подмножествах области $\Omega$ к биголоморфному отображению $\Omega$ на $G$. Доказательство. Зафиксируем компакт $K \subset G$. Поскольку последовательность выпуклых областей $(G_k$) сходится к $G$, найдется такое $k_0$, что $K \subset G_k$ при $k \geqslant k_0$. Из леммы 5.7 следует, что найдется такое $C>0$, что
$$
\begin{equation*}
F_{G_k}(z,v) \geqslant C\|v \| \quad \text{для всех } \ z \in K, \quad v \in \mathbb C^n, \quad k \geqslant k_0.
\end{equation*}
\notag
$$
Тогда, используя классические рассуждения (см. [32]), можно показать, что семейство $(g^k)$ нормальное. Поскольку $g^k(q)=0$ для всех $k$, последовательность $(g^k)$ содержит подпоследовательность, равномерно сходящуюся на компактных подмножествах $\Omega$ к голоморфному отображению $g$. С другой стороны, $\Omega$ – гиперболическая область (по следствию 5.4). Значит, аналогичным образом доказывается и сходимость семейства обратных отображений $((g^k)^{-1})$. Теперь классическая теорема А. Картана (см. [22]) показывает, что отображение $g\colon \Omega \to G$ биголоморфно, и лемма доказана. 6.4. Идентификация области $G$: случай $m> 1$ Теперь рассмотрим случай $m>1$. Точнее, нашей целью будет доказать от противного, что такая ситуация невозможна. Для этого случая имеет смысл модифицировать последовательность масштабирований $(g^k)$. А именно, рассмотрим линейные отображения
$$
\begin{equation*}
\begin{gathered} \, B^k\colon z \mapsto w, \\ w_j=\sum_{l=1}^n \frac{\partial \rho_j}{\partial z_l}(p^k) z_l, \qquad j=1,\dots ,m, \\ w_j=z_j, \qquad j=m+1,\dots ,n. \end{gathered}
\end{equation*}
\notag
$$
Заметим, что последовательность $(B^k)_k$ сходится к тождественному отображению, когда $k\to\infty$. Рассмотрим последовательности отображений
$$
\begin{equation*}
\widetilde g^k:=(R^k)^{-1} \circ B^k \circ (f^k-p^k)
\end{equation*}
\notag
$$
и областей
$$
\begin{equation*}
\widetilde G_k=\widetilde g^k(\Omega_k \cap U).
\end{equation*}
\notag
$$
Тогда
$$
\begin{equation*}
\widetilde G^k=\bigl\{ z\colon \rho_j(p^k+(B^k)^{-1} \circ R^k z)<0, \,j=1,\dots, m \bigr\}.
\end{equation*}
\notag
$$
В точности, как и раньше, рассмотрим функции
$$
\begin{equation*}
\phi_j^k(z)=(\tau_k^j)^{-1} \rho_j(p^k+(B^k)^{-1} \circ R^k z).
\end{equation*}
\notag
$$
Пусть
$$
\begin{equation*}
R^k z=(R^k_1 z,\dots , R^k_n z),
\end{equation*}
\notag
$$
где $R^k_j$ – комплексные линейные формы. Тогда тейлоровские разложения указанных функций имеют следующий вид:
$$
\begin{equation}
\begin{aligned} \, \notag \phi_j^k(z) &=-1+(\tau_k^j)^{-1} \operatorname{Re} R_j^k(z)+(\tau_k^j)^{-1}\operatorname{Re} Q_j^k(R^k z, R^k z) \\ &\qquad +(\tau_k^j)^{-1}H^k_j(R^k z, \overline{R^k z})+S_j^k(z). \end{aligned}
\end{equation}
\tag{31}
$$
Здесь $R_j^k$ – введенные выше комплексные линейные формы, компоненты $R^k$ (мы ввели в конструкцию масштабирований дополнительные отображения $B^k$ с тем, чтобы величины $r^k_j$ прямо участвовали в разложении); $Q_j^k(w,w)$ – голоморфные квадратичные формы и ввиду (24) $Q_j^k \to 0$ при $k \to \infty$; $H^k_j(w, \overline w)$ – положительно определенные квадратичные формы, которые сходятся к $H_j$ из (24). Заметим, что мы использовали то, что последовательность $(B^k)$ сходится к тождественному отображению. Наконец, $S^k_j(z)=o(|z|^2)$ и $S^k_j\to 0$ при $k\to\infty$. Теперь для каждого $j$ применима лемма 6.2. Мы видим, что последовательность $(\phi_j^k)_k$ сходится (по подпоследовательности) к
$$
\begin{equation}
\phi_j (z)=-1+\operatorname{Re} \lambda_j(z)+H_j'(z,\overline z), \qquad j=1,\dots, m.
\end{equation}
\tag{32}
$$
Здесь $\lambda_j$ – комплексная линейная форма, а $H_j'$ – эрмитова квадратичная форма. Заметим, что формы $H_j$ неотрицательно определенные, так что функции $\phi_j$ плюрисубгармонические. Ключевым моментом является то, что мы можем получить больше информации о предельных функциях (32). Мы будем последовательно упрощать выражения для них. Во-первых, из (29) следует, что (после перехода к подпоследовательности) $R^{k}/{\delta_k}^{1/2}$ сходятся к $\mathbb C$-линейному отображению
$$
\begin{equation*}
L=(L_1,\dots ,L_n)\colon \mathbb C^n \to \mathbb C^n.
\end{equation*}
\notag
$$
Далее, для каждого $j$ последовательность $(\delta_k/\tau_k^j)_k$ ограниченна. По подпоследовательности она сходится к некоторому $\kappa_j\,{\geqslant}\, 0$. Поскольку $\delta_k\,{=}\, \min_{j=1,\dots ,m} \tau^j_k$, то хотя бы одно $\kappa_j$ отлично от нуля (и на самом деле равно 1). Тогда последовательность
$$
\begin{equation*}
(\tau_k^j)^{-1} H^k_j (R^z,\overline{R^k z})=\frac{\delta^k}{\tau_k^j} H^k_j ((\delta^k)^{-1/2}R^kz, (\delta^k)^{-1/2}\overline{R^kz})
\end{equation*}
\notag
$$
сходится к $\kappa_j H_j(L z, \overline{Lz})$, где $H_j$ – формы Леви из (24); напомним, что формы $H_j(w,\overline w)$ положительно определенные на $\mathbb C^n$. Итак,
$$
\begin{equation}
\phi_j(z)=-1+\operatorname{Re} \lambda_j(z)+\kappa_j H_j(Lz, \overline{Lz}), \qquad j=1,\dots ,m.
\end{equation}
\tag{33}
$$
Можно полагать, что для некоторого целого $s$, $1 \leqslant s \leqslant m$, при $j=1,\dots ,s$ выполнено $\kappa_j>0$, а при $j=s+1,\dots ,m$ выполнено $\kappa_j=0$. Итак, предельные функции $\phi_j$ из (32) аффинные при $j \geqslant s+1$. Лемма 6.4. При $j=1,\dots ,s$ выполнены равенства $L_j=0$. Доказательство. Каждая функция $L_j$ есть предел последовательности $R^k_j/(\delta^{k})^{1/2}=(R^k_j/\tau_k^j) (\tau^j_k/(\delta^k)^{1/2})$. Последовательность $(R^k_j/\tau_k^j)$ сходится к $\lambda_j(z)$ из (32). С другой стороны, при $j=1,\dots ,s$ последовательность $\tau^j_k/\delta^k$ сходится к $1/\kappa_j$. Значит, $\tau^j_k/(\delta^k)^{1/2}$ сходится к нулю, и лемма доказана. Снова заметим, что при $j=1,\dots ,m$ формы $R^k_j/\tau^j_k$ стремятся к $\lambda_j$. С другой стороны, $R^k_j/(\delta^k)^{1/2}$ стремятся к $L_j$. Поскольку при каждом $k$ формы $R^k_j/\tau^j_k$ и $R^k_j/(\delta^k)^{1/2}$ линейно зависимы, их пределы $\lambda_j$ и $L_j$ также линейно зависимы. Рассмотрим такое целое $t$, $s+1 \leqslant t \leqslant m$, что (после перестановки определяющих функций) $\lambda_j \neq 0$ при $j=s+1,\dots ,t$ и $\lambda_j=0$ при $j=t+1,\dots ,m$. Если $\lambda_j=0$ при всех $j=s+1,\dots ,m$, то полагаем $t=s$. Тогда $L_j=a_j \lambda_j$ для некоторых вещественных $a_j$, $j=s+1,\dots ,t$ (заметим, что некоторые $a_j$ могут быть равны нулю). Далее, формы $\lambda_j$, $j=1,\dots ,t$, и $L_j$, $j=t+1,\dots,n$, линейно независимы. Действительно, если ненулевой вектор $v$ лежит в пересечении их ядер, то комплексная прямая, проходящая через начало координат в направлении $v$, лежит в предельной области $G=\{ \phi_j (z)<0,\, j=1,\dots ,t \}$. Однако это противоречит гиперболичности выпуклой области $G$ в начале координат, установленной в лемме 6.2. После $\mathbb C$-линейной замены координат имеем $\lambda_j(z)=z_j$, $j=1,\dots ,t$, и $L_j(z)= z_j$, $j=t+1,\dots ,m$. Таким образом, в новых координатах мы можем представить определяющие функции (32) следующим образом:
$$
\begin{equation*}
\begin{aligned} \, \phi_j (z) &=-1+\operatorname{Re} z_j \\ &\qquad +\kappa_j H_j(a_{s+1}z_{s+1},\dots ,a_t z_t, z_{t+1},\dots ,z_n, \overline{a_{s+1}z_{s+1}},\dots ,\overline{a_t z_t}, \overline{z_{t+1}},\dots ,\overline{z_n}), \end{aligned}
\end{equation*}
\notag
$$
$j=1,\dots ,t$. При $j>t$ функции $\phi_j$ постоянны ($\phi_j=-1$), и мы их отбрасываем. Положим
$$
\begin{equation*}
\begin{aligned} \, & \widetilde H_j(z_{s+1},\dots,z_n, \overline{z_{s+1}},\dots ,\overline{z_n}) \\ &\qquad=\kappa_j H_j(a_{s+1}z_{s+1},\dots ,a_t z_t, z_{t+1},\dots ,z_n, \overline{a_{s+1}z_{s+1}},\dots ,\overline{a_t z_t}, \overline{z_{t+1}},\dots ,\overline{z_n}). \end{aligned}
\end{equation*}
\notag
$$
Заметим, что $\widetilde H_j=0$ при $j=s\,{+}\,1,\dots ,t$, а остальные $\widetilde H_j$ неотрицательно определенные на $\mathbb C^{n-s}(z_{s+1},\dots,z_n)$. Более того, они положительно определенные на $\mathbb C^{n-t}(z_{t+1},\dots,z_n)$ (вообще говоря, они не будут положительно определенными на $\mathbb C^{n-s}(z_{s+1},\dots,z_n)$, поскольку некоторые из $a_j$ могут быть равны нулю). Итак, предельная область задается неравенствами
$$
\begin{equation*}
\begin{gathered} \, \widetilde \phi_j(z)=-1+\operatorname{Re} z_j+\widetilde H_j(z_{s+1},\dots,z_n, \overline{z_{s+1}},\dots ,\overline{z_n})<0, \qquad j=1,\dots ,s, \\ \widetilde \phi_j(z)=-1+\operatorname{Re} z_j<0, \qquad j=s+1,\dots ,t \end{gathered}
\end{equation*}
\notag
$$
(при $t=s$ аффинные определяющие функции отсутствуют). Ясно, что $G$ биголоморфно эквивалентна ограниченной области. Значит, $G$ гиперболическая. Теперь мы покажем, как в доказательстве леммы 6.3, что семейство $(\widetilde g^k)$ нормальное. Значит, $\Omega$ биголоморфно эквивалентна указанной выше области $G$. Для завершения доказательства мы покажем, что $m=1$. Допустим, что $t>1$. Пусть $f\colon G \to \Omega$ – биголоморфное отображение. Рассмотрим кусочно гладкую строго псевдовыпуклую точку $p \in b\Omega$. Предположим, что $p$ – негладкая точка, т.е. $m>1$. Поскольку отображение $f^{-1}\colon \Omega \to G$ биголоморфно, в силу граничной теоремы единственности предельное множество $f^{-1}$ на открытом куске $b\Omega$, содержащем точку $p$, не может сводиться к бесконечно удаленной точке. Тогда, слегка меняя $p$ при необходимости, мы можем считать, что предельное множество $f^{-1}$ в $p$ содержит конечную граничную точку $a \in bG$. Это значит, что найдется последовательность $(a^k)$ в $ G$, сходящаяся к $a$, такая, что точки $f(a^k)$ сходятся к $p$. Тогда отображение $f$ продолжается на границу $b{G}$ в окрестности $a$ как гёльдерово отображение по теореме 1.1 из [33]. Заметим, что в [33] граничная точка области в прообразе (в нашем случае – области $ G$) предполагается кусочно гладкой строго псевдовыпуклой. Однако в [33] это условие наложено, поскольку там рассматриваются отображения, являющиеся собственными только локально. В нашем случае $f$ – биголоморфное отображение, область $ G$ допускает глобальную определяющую плюрисубгармоническую функцию $\sup_j \widetilde \phi_j$ и шаг 2 доказательства в работе [33] (опирающийся на лемму Хопфа) можно перенести на наш случай непосредственно. Остальная часть доказательства из [33] может быть повторена буквально, что и доказывает гёльдеровость вплоть до границы. Далее, если $s>1$, то грани границы $bG$ (локально) расслаиваются на комплексные диски. Те же соображения, что и в теореме 1.2 из [33] (или в [7]), показывают, что якобиан $f$ тождественно равен нулю в односторонней окрестности точки $a$ в $G$, а значит, и всюду в $G$. Это противоречит тому, что $f$ – биголоморфное отображение. Следовательно, $s=1$. Если теперь $t>1$, то определяющие функции $\widetilde \phi_j$, $j=2,\dots ,t$, аффинные и соответствующие грани расслоены на комплексные диски. Если точка $a$ лежит на такой грани (или даже $a$ лежит на углу такой грани), то, как и выше, можно видеть, что якобиан $f$ тождественно равен нулю, что ведет к противоречию. Остается рассмотреть случай, когда предельное множество $f^{-1}$ на открытой окрестности точки $p$ на $b\Omega$ лежит в грани $\Gamma_1=\{ \widetilde \phi_1=0 \}$. Если $\Gamma_1$ расслоена на комплексные диски, то можно использовать те же рассуждения, что и выше. Если $\Gamma_1$ не расслаивается на комплексные диски, то она строго псевдовыпукла и локально биголоморфна единичной сфере. Но тогда в силу [33] $\Gamma_1$ может содержать предельное множество открытой окрестности точки $p$ на $b\Omega$ только в случае, когда $m=1$, т.е. $p$ – гладкая точка. Остается случай, когда $s=t=1$. Тогда $G$ биголоморфно эквивалентна единичному шару $\mathbb B^n$. Это означает, что и $\Omega$ биголоморфно эквивалентна $\mathbb B^n$, так что $m=1$ (к примеру, см. [33]; разумеется, есть много других работ, на которые тут можно было бы сослаться) Доказательство теоремы 1.3 завершено.
|
|
|
Список литературы
|
|
|
1. |
Э. Бедфорд, С. И. Пинчук, “Выпуклые области с некомпактными группами автоморфизмов”, Матем. сб., 185:5 (1994), 3–26 ; англ. пер.: È. Bedford, S. I. Pinchuk, “Convex domains with noncompact automorphism groups”, Sb. Math., 82:1 (1995), 1–20 |
2. |
F. Berteloot, “Characterization of models in $\mathbb C^2$ by their automorphism groups”, Internat. J. Math., 5:5 (1994), 619–634 |
3. |
D. Burns, Jr., S. Shnider, “Geometry of hypersurfaces and mapping theorems in $\mathbf C^n$”, Comment. Math. Helv., 54:2 (1979), 199–217 |
4. |
E. Cartan, “Sur la géométrie pseudo-conforme des hypersurfaces de l'espace de deux variables complexes”, Ann. Mat. Pura Appl., 11:1 (1933), 17–90 |
5. |
S. S. Chern, J. K. Moser, “Real hypersurfaces in complex manifolds”, Acta Math., 133 (1974), 219–271 |
6. |
E. M. Chirka, B. Coupet, A. B. Sukhov, “On boundary regularity of analytic discs”, Michigan Math. J., 46:2 (1999), 271–279 |
7. |
B. Coupet, A. Sukhov, “On the boundary rigidity phenomenon for automorphisms of domains in $\mathbb C^n$”, Proc. Amer. Math. Soc., 124:11 (1996), 3371–3380 |
8. |
Е. М. Чирка, “Регулярность границ аналитических множеств”, Матем. сб., 117(159):3 (1982), 291–336 ; англ. пер.: E. M. Chirka, “Regularity of the boundaries of analytic sets”, Sb. Math., 45:3 (1983), 291–335 |
9. |
E. M. Chirka, B. Coupet, A. B. Sukhov, “On boundary regularity of analytic discs”, Michigan Math. J., 46:2 (1999), 271–279 |
10. |
Ch. Fefferman, “The Bergman kernel and biholomorphic mappings of pseudoconvex domains”, Invent. Math., 26 (1974), 1–65 |
11. |
А. М. Ефимов, “Обобщение теоремы Вонга–Розея для неограниченного случая”, Матем. сб., 186:7 (1995), 41–50 ; англ. пер.: A. M. Efimov, “Extension of the Wong–Rosay theorem to the unbounded case”, Sb. Math., 186:7 (1995), 967–976 |
12. |
S. Frankel, “Complex geometry of convex domains that cover varieties”, Acta Math., 163:1-2 (1989), 109–149 |
13. |
S. Frankel, “Applications of affine geometry to geometric function theory in several complex variables. I. Convergent rescalings and intrinsic quasi-isometric structure”, Several complex variables and complex geometry, Part 2 (Santa Cruz, CA, 1989), Proc. Sympos. Pure Math., 52, Part 2, Amer. Math. Soc., Providence, RI, 1991, 183–208 |
14. |
I. Graham, “Sharp constants for the Koebe theorem and for estimates of intrinsic metrics on convex domains”, Several complex variables and complex geometry, Part 2 (Santa Cruz, CA, 1989), Proc. Sympos. Pure Math., 52, Part 2, Amer. Math. Soc., Providence, RI, 1991, 233–238 |
15. |
F. R. Harvey, R. O. Wells, Jr., “Zero sets of non-negative strictly plurisubharmonic functions”, Math. Ann., 201 (1973), 165–170 |
16. |
Г. М. Хенкин, “Аналитический полиэдр голоморфно не эквивалентен строго псевдовыпуклой области”, Докл. АН СССР, 210:5 (1973), 1026–1029 ; англ. пер.: G. M. Henkin, “An analytic polyhedron is not holomorphically equivalent to a strictly pseudoconvex domain”, Soviet Math. Dokl., 14 (1973), 858–862 |
17. |
Г. М. Хенкин, Е. М. Чирка, “Граничные свойства голоморфных функций нескольких комплексных переменных”, Итоги науки и техн. Сер. Соврем. пробл. матем. Нов. достиж., 4, ВИНИТИ, М., 1975, 13–142 ; англ. пер.: G. M. Henkin, E. M. Chirka, “Boundary properties of holomorphic functions of several complex variables”, J. Soviet Math., 5:5 (1976), 612–687 |
18. |
Ю. В. Хурумов, “Граничная гладкость собственных голоморфных отображений строго псевдовыпуклых областей”, Матем. заметки, 48:6 (1990), 149–150 |
19. |
Ю. В. Хурумов, “К теореме Линделёфа в $\mathbf{C}^n$”, Докл. АН СССР, 273:6 (1983), 1325–1328 ; англ. пер.: Yu. V. Khurumov, “On Lindelöf's theorem in $\mathbf C^n$”, Soviet Math. Dokl., 28 (1983), 806–809 |
20. |
L. Lempert, “La métrique de Kobayashi et la représentation des domaines sur la boule”, Bull. Soc. Math. France, 109:4 (1981), 427–474 |
21. |
L. Lempert, “A precise result on the boundary regularity of biholomorphic mappings”, Math. Z., 193:4 (1986), 559–579 |
22. |
R. Narasimhan, Several complex variables, Chicago Lectures in Math., Univ. of Chicago Press, Chicago, IL–London, 1971, x+174 pp. |
23. |
С. М. Никольский, Приближение функций многих переменных и теоремы вложения, 2-е изд., Наука, М., 1977, 455 с. ; англ. пер. 1-го изд.: S. M. Nikol'skii, Approximation of functions of several variables and imbedding theorems, Grundlehren Math. Wiss., 205, Springer-Verlag, New York–Heidelberg, 1975, viii+418 с. |
24. |
L. Nirenberg, S. Webster, P. Yang, “Local boundary regularity of holomorphic mappings”, Comm. Pure Appl. Math., 33:3 (1980), 305–338 |
25. |
С. И. Пинчук, С. В. Хазанов, “Асимптотически голоморфные функции и их применения”, Матем. сб., 134(176):4(12) (1987), 546–555 ; англ. пер.: S. I. Pinchuk, S. V. Khasanov, “Asymptotically holomorphic functions and their applications”, Sb. Math., 62:2 (1989), 541–550 |
26. |
С. И. Пинчук, “О собственных голоморфных отображениях строго псевдовыпуклых областей”, Сиб. матем. журн., 15:4 (1974), 909–917 ; англ. пер.: S. I. Pinchuk, “On proper holomorphic mappings of strictly pseudoconvex domains”, Siberian Math. J., 15:4 (1974), 644–649 |
27. |
С. И. Пинчук, “Граничная теорема единственности для голоморфных функций нескольких комплексных переменных”, Матем. заметки, 15:2 (1974), 205–212 ; англ. пер.: S. I. Pinchuk, “A boundary uniqueness theorem for holomorphic functions of several complex variables”, Math. Notes, 15:2 (1974), 116–120 |
28. |
С. И. Пинчук, Ш. И. Цыганов, “Гладкость $\operatorname{CR}$-отображений строго псевдовыпуклых гиперповерхностей”, Изв. АН СССР. Сер. матем., 53:5 (1989), 1120–1129 ; англ. пер.: S. I. Pinchuk, Sh. I. Tsyganov, “The smoothness of $\operatorname{CR}$-mappings between strictly pseudoconvex hypersurfaces”, Izv. Math., 35:2 (1990), 457–467 |
29. |
S. Pinchuk, “The scaling method and holomorphic mappings”, Several complex variables and complex geometry, Part 1 (Santa Cruz, CA, 1989), Proc. Sympos. Pure Math., 52, Part 1, Amer. Math. Soc., Providence, RI, 1991, 151–161 |
30. |
С. Пинчук, Р. Шафиков, А. Сухов, “Некоторые аспекты голоморфных отображений: обзор”, Комплексный анализ и его приложения, Сборник статей. К 100-летию со дня рождения Бориса Владимировича Шабата, 85-летию со дня рождения Анатолия Георгиевича Витушкина и 85-летию со дня рождения Андрея Александровича Гончара, Труды МИАН, 298, МАИК «Наука/Интерпериодика», М., 2017, 227–266 ; англ. пер.: S. Pinchuk, R. Shafikov, A. Sukhov, “Some aspects of holomorphic mappings: a survey”, Proc. Steklov Inst. Math., 298 (2017), 212–247 |
31. |
J.-P. Rosay, “Sur une caractérisation de la boule parmi les domaines de $\mathbb C^n$ par son groupe d'automorphismes”, Ann. Inst. Fourier (Grenoble), 29:4 (1979), 91–97 |
32. |
H. L. Royden, “Remarks on the Kobayashi metric”, Several complex variables. II (Univ. Maryland, College Park, Md., 1970), Lecture Notes in Math., 185, Springer, Berlin, 1971, 125–137 |
33. |
А. Б. Сухов, “О непрерывном продолжении и жесткости голоморфных отображений между областями с кусочно гладкими границами”, Матем. сб., 185:8 (1994), 115–128 ; англ. пер.: A. B. Sukhov, “On continuous extension and rigidity of holomorphic mappings between domains with piecewise smooth boundaries”, Sb. Math., 82:2 (1995), 471–483 |
34. |
А. Б. Сухов, “Голоморфные отображения между областями с низкой регулярностью границы”, Изв. РАН. Сер. матем., 85:3 (2021), 210–221 ; англ. пер.: A. B. Sukhov, “Holomorphic mappings between domains with low boundary regularity”, Izv. Math., 85:3 (2021), 536–546 |
35. |
A. Sukhov, “Pluripolar sets, real submanifolds and pseudoholomorphic discs”, J. Aust. Math. Soc., 109:2 (2020), 270–288 |
36. |
B. Wong, “Characterization of the unit ball in $\mathbb C^n$ by its automorphism group”, Invent. Math., 41:3 (1977), 253–257 |
37. |
A. Zimmer, “Generic analytic polyhedron with non-compact automorphism group”, Indiana Univ. Math. J., 67:3 (2018), 1299–1326 |
Образец цитирования:
А. Б. Сухов, “О голоморфных отображениях строго псевдовыпуклых областей”, Матем. сб., 213:11 (2022), 118–142; A. B. Sukhov, “On holomorphic mappings of strictly pseudoconvex domains”, Sb. Math., 213:11 (2022), 1597–1619
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/sm9639https://doi.org/10.4213/sm9639 https://www.mathnet.ru/rus/sm/v213/i11/p118
|
Статистика просмотров: |
Страница аннотации: | 238 | PDF русской версии: | 22 | PDF английской версии: | 60 | HTML русской версии: | 109 | HTML английской версии: | 71 | Список литературы: | 51 | Первая страница: | 4 |
|