Математический сборник
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Скоро в журнале
Архив
Импакт-фактор
Правила для авторов
Лицензионный договор
Загрузить рукопись
Историческая справка

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



Матем. сб.:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Математический сборник, 2022, том 213, номер 11, страницы 118–142
DOI: https://doi.org/10.4213/sm9639
(Mi sm9639)
 

О голоморфных отображениях строго псевдовыпуклых областей

А. Б. Суховab

a Laboratoire Paul Painlevé, Université de Lille, Villeneuve d'Ascq, France
b Институт математики с вычислительным центром, Уфимский федеральный исследовательский центр Российской академии наук, г. Уфа
Список литературы:
Аннотация: Исследуется граничная регулярность собственных голоморфных отображений между строго псевдовыпуклыми областями с границами класса $C^2$. Устанавливается обобщение теоремы Вонга–Розея на кусочно гладкие строго псевдовыпуклые области.
Библиография: 37 названий.
Ключевые слова: строго псевдовыпуклая область, собственное голоморфное отображение, граничная регулярность, комплексный диск, голоморфный автоморфизм, метрика Кобаяши.
Финансовая поддержка Номер гранта
Labex
Работа выполнена при частичной поддержке лаборатории Labex CEMPI.
Поступила в редакцию: 11.07.2021 и 03.01.2022
Англоязычная версия:
Sbornik: Mathematics, 2022, Volume 213, Issue 11, Pages 1597–1619
DOI: https://doi.org/10.4213/sm9639e
Реферативные базы данных:
Тип публикации: Статья
MSC: 32H02

§ 1. Введение

Работа состоит из двух частей. В первой (§§ 24) изучается граничная гладкость собственных голоморфных отображений между строго псевдовыпуклыми областями с границами класса $C^2$. Во второй части (§ 5 и § 6) получено обобщение теоремы Вонга–Розея на кусочно гладкие строго псевдовыпуклые области с некомпактной группой автоморфизмов.

Старый вопрос о гладкости собственных или биголоморфных отображений между строго псевдовыпуклыми областями в $\mathbb C^n$ к настоящему времени почти полностью прояснен усилиями ряда авторов. В теореме Ч. Феффермана (см. [10]) утверждается, что биголоморфное отображение между строго псевдовыпуклыми областями с границами класса $C^\infty$ продолжается до $C^\infty$-диффеоморфизма их замыканий. Оригинальное доказательство Феффермана было основано на исследовании асимптотики ядра Бергмана вблизи границы. Этот метод трудно приспособить к случаю конечной гладкости. Впоследствии несколько авторов развили другие подходы. Один из них был разработан Л. Ниренбергом, С. Вебстером и П. Янгом (см. [24]); в нем используется некоторый вариант принципа симметрии. Развивая его, С. Пинчук и С. Хазанов (см. [25]) доказали, что собственное голоморфное отображение между строго псевдовыпуклыми областями с $C^s$-границами, где $s$ – вещественное число $>\!2$, продолжается на границу до отображения класса $C^{s-1}$, если $s$ нецелое, и класса $C^{s-1-\varepsilon}$ с произвольным $\varepsilon>0$ для целого $s$. Аналогичные результаты были получены Л. Лемпертом (см. [20], [21]), использовавшим совсем другую технику экстремальных дисков для метрики Кобаяши. Ю. Хурумов в [18] доказал, что имеет место даже лучший результат, с потерей гладкости на $1/2$. Однако естественный вопрос о правильном классе гладкости в ситуации, когда границы в точности $C^2$-гладкие (минимально возможная гладкость границы в строго псевдовыпуклом случае), все еще не решен. Хурумов заявлял, не приводя деталей, что его результат верен и в этом случае, но, насколько известно автору, подробного доказательства не существует. Хорошо известный результат для этой постановки был независимо доказан Г. Хенкиным в [16] и С. Пинчуком в [26]; он утверждает, что отображение продолжается на границу как гёльдерово с показателем $1/2$.

Наш первый основной результат следующий.

Теорема 1.1. Пусть $f\colon \Omega_1 \to \Omega_2$ – собственное голоморфное отображение между строго псевдовыпуклыми областями $\Omega_j \subset \mathbb C^n$, $j=1,2$, с границами $b\Omega_j$ класса $C^2$. Тогда $f$ продолжается до отображения класса Гёльдера $ C^{\alpha}(\overline{\Omega}_1)$ с любым $\alpha \in [0,1[$.

В частности, это означает, что вышеупомянутый результат Лемперта и результат Пинчука и Хасанова верны и для $C^2$-границ. Аналогичный же результат был получен в [34] при дополнительном предположении, что граница $b\Omega_1$ имеет гладкость $C^{2+\varepsilon}$, $\varepsilon>0$. С этой точки зрения первая часть настоящей статьи продолжает и дополняет работу [34].

Доказательство теоремы 1.1 состоит из двух основных шагов. Первый опирается на оценки метрики Кобаяши в трубчатой окрестности вполне вещественного многообразия (см. [9]). С их помощью получаются равномерно гёльдеровы оценки на аналитических дисках, подклеенных к заданному вполне вещественному многообразию вдоль дуг. В результате доказывается гёльдеровость голоморфных отображений между клиновидными областями со вполне вещественными остриями. Такие рассуждения подробно изложены в [34]. В настоящей работе мы рассматриваем второй основной шаг доказательства теоремы 1.1 и тем самым завершаем его. Мы исследуем геометрические свойства аналитических дисков, подклеенных ко вполне вещественному многообразию класса $C^1$.

Этот прием подклейки дисков, нередко используемый при изучении вполне вещественных подмногообразий, появился в [27]. Для вполне вещественных многообразий гладкости выше, чем $C^1$, эта конструкция была разработана несколькими авторами (к примеру, см. [35]); $C^1$-случай рассматривался Е. Чиркой в [17] и Ю. Хурумовым в [19]. Однако для наших целей нужны еще некоторые свойства таких дисков, не сформулированные явно в указанных работах [27], [17], [19], [35]. Поэтому мы приводим некоторые подробности этого подхода. Следует подчеркнуть, что здесь мы не претендуем на оригинальность: новизну имеют только приложения этого построения.

Для изложения § 5 и § 6 напомним несколько понятий.

Пусть $\Omega$ – область с непустой границей $b\Omega$ в комплексном многообразии $M$ комплексной размерности $n>1$.

Определение 1.2. (a) Скажем, что $p \in b\Omega$ – кусочно гладкая порождающая строго псевдовыпуклая (граничная) точка, если выполнено следующее:

(b) Точку $p$ назовем гладкой, если $m=1$. Разумеется, в этом случае $p$ – обычная $C^2$-гладкая строго псевдовыпуклая граничная точка.

Ясно, что условие i) можно эквивалентно сформулировать так: гиперповерхности $\Gamma_j=\{ \rho_j= 0 \}$ (локальные грани $b\Omega$) строго псеводвыпуклы, т.е. форма Леви каждой $\Gamma_j$ положительно определенная на комплексном касательном расслоении поверхности $\Gamma_j$. Условие ii) гарантирует, что вещественное подмногообразие $\{ \rho_j=0,\, j=1,\dots ,m \}$ (угол) порождающее.

Через $\operatorname{Aut}(\Omega)$ обозначим группу голоморфных автоморфизмов области $\Omega$ со стандартной компактно открытой топологией. Предельное множество группы $\operatorname{Aut}(\Omega)$ – это множество точек $p \in \overline\Omega$, для каждой из которых найдутся точка $q \in \Omega$ и последовательность автоморфизмов $(f^k)_k$ из $\operatorname{Aut}(\Omega)$, для которых $\lim_{k \to \infty} f^k(q)=p$.

Если $z=(z_1,\dots ,z_n)$ – стандартные координаты в $\mathbb C^n$, то положим $z=(z_1,z')$, где $z'=(z_2,\dots ,z_n)$, а также положим $z_j=x_j+iy_j$, где $x_j,y_j \in \mathbb R$. Кроме того, через $\|z\|^2=\sum |z_j |^2$ обозначим евклидову норму. Ниже будут использованы обозначения

$$ \begin{equation*} \mathbb B^n=\bigl\{ z \in \mathbb C\colon \|z\|^2<1\bigr\} \end{equation*} \notag $$
для единичного евклидова шара в $\mathbb C^n$ и
$$ \begin{equation*} \mathbb H=\bigl\{ z \in \mathbb C^n\colon \operatorname{Re} z_1+\|z'\|^2<0\bigr\} \end{equation*} \notag $$
для неограниченной реализации шара $\mathbb B^n$ (напомним, что область $\mathbb H$ биголоморфно эквивалентна $\mathbb B^n$ в силу преобразования Кэли).

Во второй части работы (§ 5 и § 6) доказывается следующий результат.

Теорема 1.3. Предположим, что предельное множество группы $\operatorname{Aut}(\Omega)$ содержит кусочно гладкую порождающую строго псевдовыпуклую точку $p \in b\Omega$. Тогда область $\Omega$ биголоморфно эквивалентна шару $\mathbb B^n$, а $p$ – гладкая строго псевдовыпуклая точка.

Подчеркнем, что в этой теореме априори предполагается только, что $p$ – кусочно гладкая порождающая строго псевдовыпуклая точка, и тогда теорема утверждает, что на самом деле точка $p$ с необходимостью гладкая. Таким образом, имеет место следующий феномен жесткости.

Следствие 1.4. Кусочно гладкая порождающая строго псевдовыпуклая точка, не являющаяся гладкой (так что $m>1$ в (1)), не может принадлежать предельному множеству группы $\operatorname{Aut}(\Omega)$.

Результаты теоремы 1.3 и следствия 1.4 нельзя улучшить: ни i), ни ii) в определении 1.2 нельзя опустить, что видно из следующих примеров.

Сначала рассмотрим область

$$ \begin{equation*} \Omega_1=\bigl\{ \rho_1=\operatorname{Re} z_1+|z_2 |^2<0, \,\rho_2=\operatorname{Re} z_2<0 \bigr\}, \end{equation*} \notag $$
инвариантную относительно однопараметрической группы растяжений $d_t$: $(z_1, z_2) \mapsto (t z_1, \sqrt{t} z_2)$, $t>0$. Это семейство некомпактно, поскольку оно вырождается при $t=0$, и предельное множество группы $\operatorname{Aut}(\Omega_1)$ содержит начало координат. Однако область $\Omega_1$ не биголоморфно эквивалентна $\mathbb B^2$. Область $\Omega_1$ удовлетворяет условию ii), но не i): одна из ее граней не является строго псевдовыпуклой.

Далее рассмотрим область

$$ \begin{equation*} \Omega_2=\bigl\{ z \in \mathbb C^2\colon \rho_1=\operatorname{Re} z_1+|z_2 |^2<0,\, \rho_2= \operatorname{Im} z_1+|z_2 |^2<0 \bigr\}, \end{equation*} \notag $$
инвариантную относительно того же семейства растяжений $(d_t)$. Разумеется, $\Omega_2$ также не биголоморфно эквивалентна шару $\mathbb B^2$. Для этой области выполнено условие i), но ii) нарушено в начале координат (хотя $d \rho_1 \wedge d \rho_2 \neq 0$).

Также заметим, что если опустить условие строгой псевдовыпуклости граней, то ситуация усложняется и остаются нерешенные вопросы. Отметим недавний результат А. Циммера [37], доказавшего, что если грани Леви-плоские, то $\Omega$ биголоморфно эквивалентна произведению полидиска и комплексного многообразия с компактной группой автоморфизмов.

Теорема 1.3 относится к разряду результатов, нередко называемых теоремами типа Вонга–Розея. Настоящая работа не является обзорной, и мы не будем освещать исторические подробности и текущее состояние дел в этой области (см. [30]). В частности, здесь не будет обсуждения множества прекрасных результатов, относящихся к нестрого псевдовыпуклому случаю.

Тот факт, что если у ограниченной строго псевдовыпуклой области в $\mathbb C^2$ размерность группы $\operatorname{Aut}(\Omega)$ (являющейся вещественной группой Ли) максимально возможная (т.е. равна $8$), то область биголоморфно эквивалентна $\mathbb B^2$, был известен еще Э. Картану (см. [4]). Этот факт можно рассматривать как частный случай общего дифференциально-геометрического принципа, утверждающего, что структуры с богатой группой автоморфизмов обычно плоские. В статье [3] Бёрнс и Шнайдер доказали, что ограниченная строго псевдовыпуклая область $\Omega$ в $ \mathbb C^n$ с некомпактной группой автоморфизмов биголоморфно эквивалентна единичному шару. Этот неожиданный результат казался удивительным, поскольку предположение о некомпактности группы $\operatorname{Aut}(\Omega)$ не накладывает априорных ограничений на размерность группы $\operatorname{Aut}(\Omega)$. Доказательство Бёрнса и Шнайдера опирается на теорию Черна и Мозера (см. [5]; точнее, они использовали черновскую часть теории, распространившую подход Э. Картана на более высокие размерности; у Мозера подход был совсем другим) и требует высокой гладкости (хотя бы $C^6$) границы $b\Omega$. Группа $\operatorname{Aut}(\Omega)$ некомпактна, если и только если ее предельное множество на границе области $\Omega$ непусто. Вонг (см. [36]) и Розей (см. [31]) открыли, что результат Бёрнса и Шнайдера допускает локализацию: в предположении, что $\Omega$ ограниченна, достаточно считать, что предельное множество группы $\operatorname{Aut}(\Omega)$ содержит строго псевдовыпуклую точку. Возможно, самым важным наблюдением Вонга и Розей было то, что явление, открытое Бёрнсом и Шнайдером, можно исследовать, не пользуясь подходом Картана–Черна–Мозера. Оказалось, что другие геометрические методы (такие, как биголоморфно инвариантные метрики или нормальные семейства голоморфных отображений) более эффективны и позволяют получить более общие результаты. В дальнейшем их подход был существенно упрощен Пинчуком (см. [29]), использовавшим свой вариант так называемого метода масштабирования (scaling method). Первый чисто локальный результат, относящийся к рассматриваемому явлению, был получен Ефимовым в [11]. Он доказал теорему 1.3 в случае, когда $p$ – гладкая строго псевдовыпуклая точка (т.е. $m=1$ в определении 1.2). Для негладкого случая Купе и Сухов (см. [7]) доказали, что ограниченная кусочно гладкая строго псевдовыпуклая область с порождающими углами в $\mathbb C^n$ биголоморфно эквивалентна единичному шару, если группа $\operatorname{Aut}(\Omega)$ некомпактна (так что граница области $\Omega$ с необходимостью гладкая).

Теорема 1.3 обобщает все упомянутые результаты, начиная с полученных Вонгом и Розеем. Подчеркнем, то в нашем доказательстве, состоящем из двух частей, эти результаты не используются. Первая часть доказательства связана с локализацией метрики Кобаяши–Ройдена. Вторая (основная) часть доказательства опирается на метод масштабирований. Заметим, что доказательство Ефимова основано на варианте метода растяжений, разработанном Пинчуком (см. [29]); этот вариант удобно использовать только вблизи гладких граничных точек. В настоящей работе используется подход Френкеля (см. [12]), по-видимому, более подходящий для негладкого случая. Этот же подход использовался в работе [7]. Здесь мы упрощаем рассуждения из [7], сводя их к известным оценкам для метрики Кобаяши–Ройдена, так что можем обойти общие построения Френкеля. Такой упрощенный подход можно использовать, поскольку мы рассматриваем только граничные точки специального вида, в то время как теория Френкеля относится к общим выпуклым областям и не делает предположений о граничной регулярности.

§ 2. Терминология и обозначения

Вкратце напомним известные определения и основные обозначения.

Пусть $\Omega$ – область в $\mathbb C^n$. Для натурального числа $k$ через $C^k(\Omega)$ обозначим пространство $C^k$-гладких комплекснозначных функций в $\Omega$, а через $C^k(\overline\Omega)$ – класс функций, частные производные которых до порядка $k$ включительно продолжаются на $\overline\Omega$ как непрерывные функции. Пусть $s>0$ – нецелое вещественное число, а $k$ – его целая часть. Тогда $C^s(\Omega)$ – пространство функций класса $C^k(\overline\Omega)$, частные производные которых порядка $k$ (глобально) $(s\,{-}\,k)$-гёльдеровы в $\Omega$; эти производные автоматически удовлетворяют условию $(s-k)$-гёльдеровости и в $\overline\Omega$, так что для того же пространства можно использовать и обозначение $C^s(\overline\Omega)$. Мы также будем использовать пространство $L^p(\Omega)$, $p>1$, функций, $p$-интегрируемых по Лебегу с обычной нормой $\|f\|_{L^p(\Omega)}$; если $f=(f_1,\dots ,f_m)$ – векторнозначная функция, то положим $\|f\|_{L^p(\Omega)}\,{=}\sum_{j=1}^m \|f_j\|_{L^p(\Omega)}$. Далее через $W^{k,p}(\Omega)$ (соответственно $W^{k,p}_{\mathrm{loc}}(\Omega)$) обозначается пространство Соболева (векторнозначных) функций, обобщенные производные которых порядков вплоть до $k$-го являются $p$-интегрируемыми (соответственно локально интегрируемыми) в $\Omega$.

Через $\mathbb D=\{ \zeta \in \mathbb C\colon |\zeta |<1 \}$ будем обозначать единичный круг в $\mathbb C$. Заметим, что для этой специальной области теорема вложения Соболева утверждает, что при $p>2$ и $\alpha=1-2/p$ естественное вложение $W^{1,p}(\mathbb D) \to C^{\alpha}(\mathbb D)$ является компактным линейным оператором.

Вещественное (замкнутое) подмногообразие $E$ области $\Omega \subset \mathbb C^n$ имеет гладкость $C^s$ (для вещественного $s \geqslant 1$), если для каждой точки $p \in E$ найдутся ее открытая окрестность $U$ и такое отображение $\rho\colon U \longrightarrow \mathbb R^d$ максимального ранга $d<2n$ и гладкости $C^s$, что $E \cap U=\rho^{-1}(0)$; в этом случае $\rho$ называется локальной (векторнозначной) определяющей функцией для $E$. Целое $d$ является вещественной коразмерностью $E$. В наиболее важном частном случае, когда $d=1$, получаем класс вещественных гиперповерхностей.

Пусть $J$ – стандартная комплексная структура в $\mathbb C^n$, т.е. $J$ действует на вектор $v$ умножением на $i$: $J v=i v$. Для каждой точки $p \in E$ голоморфное касательное пространство $H_pE:=T_pE \cap J(T_pE)$ – это максимальное комплексное подпространство касательного пространства $T_pE$ к $E$ в $p$. Ясно, что $H_pE=\{ v \in \mathbb C^n\colon \partial \rho(p) v=0 \}$. Комплексная размерность $H_pE$ называется $\mathrm{CR}$-размерностью $E$ в $p$; многообразие $E$ называется $\mathrm{CR}$-многообразием (многообразием Коши–Римана), если его $\mathrm{CR}$-размерность не зависит от $p \in E$.

Вещественное подмногообразие $E \subset \Omega$ называется порождающим, если комплексная линейная оболочка пространства $T_pE$ совпадает с $\mathbb C^n$ для всех $p \in E$. Заметим, что любое порождающее многообразие вещественной коразмерости $d$ является $\mathrm{CR}$-многообразием $\mathrm{CR}$-размерности $n-d$. Функция $\rho=(\rho_1,\dots ,\rho_d)$ задает порождающее многообразие, если $\partial\rho_1 \wedge \dots \wedge \rho_d \neq 0$. Особую важность представляют так называемые вполне вещественные многообразия, т.е. подмногообразия $E$ с $H_pE=\{ 0 \}$ во всех точках $p\in E$. Вполне вещественное многообразие в $\mathbb C^n$ порождающее тогда и только тогда, когда оно имеет вещественную размерность $n$; это максимально возможная размерность вполне вещественного многообразия.

Пусть $\Omega$ – ограниченная область в $\mathbb C^n$, и пусть ее граница $b\Omega$ – (компактная) вещественная гиперповерхность гладкости $C^s$ в $\mathbb C^n$. Тогда найдется такая $C^s$-гладкая вещественная функция $\rho$ в окрестности $U$ замыкания $\overline\Omega$, что $\Omega=\{ \rho<0 \}$ и $d\rho|_{b\Omega} \ne 0$. Назовем такую функцию $\rho$ глобальной определяющей функцией. При $s \geqslant 2$ можно рассмотреть форму Леви функции $\rho$:

$$ \begin{equation} L(\rho,p,v)=\sum_{j,k=1}^n \frac{\partial^2\rho}{\partial z_j\,\partial\overline{z}_k}(p)v_j \overline v_k. \end{equation} \tag{2} $$
Ограниченная область $\Omega$ с $C^2$-границей называется строго псевдовыпуклой, если $L(\rho,p,v)>0$ для каждого ненулевого вектора $v\in H_p(b\Omega)$.

Как обычно, под клиновидной областью имеется в виду область вида

$$ \begin{equation} W=\bigl\{ z \in \mathbb C^n\colon \phi_j(z)<0, \,j=1,\dots ,n \bigr\} \end{equation} \tag{3} $$
с острием (или углом)
$$ \begin{equation} E=\bigl\{ z \in \mathbb C^n\colon \phi_j(z)=0, \,j=1,\dots ,n \bigr\}. \end{equation} \tag{4} $$
Будем считать, что определяющие функции $\phi_j$ – это функции из класса $C^{1}$. Вдобавок мы считаем, как обычно, что $E$ – порождающее многообразие, т.е. $\partial \phi_1 \wedge \dots \wedge \partial \phi_n \neq 0$ в окрестности $E$.

Для заданного (по предположению малого) $\delta>0$ определим также сжатый клин:

$$ \begin{equation} W_{\delta}=\biggl\{ z \in \mathbb C^n\colon \phi_j-\delta \sum_{l \neq j} \phi_l<0,\, j=1,\dots ,n\biggr \} \subset W. \end{equation} \tag{5} $$
У него то же острие $E$. Заметим, что найдется константа $C>0$ такая, что в каждой точке $z \in W_\delta$ выполнено
$$ \begin{equation} C^{-1} \operatorname{dist}(z, b W) \leqslant \operatorname{dist}(z, E) \leqslant C \operatorname{dist} (z,b W). \end{equation} \tag{6} $$

В дальнейшем мы часто используем обозначения $C,C_1,C_2,\dots$ для положительных констант, значения которых могут быть разными в разных местах текста.

§ 3. Подклейка комплексных дисков ко вполне вещественным $C^1$-многообразиям

В этом параграфе мы опишем основной технический инструментарий для доказательства теоремы 1.1. Рассмотрим клиновидную область (3) с острием (4).

Нам потребуется известная конструкция заполнения клина $W$ (или, более общо, $W_\delta$) комплексными дисками, подклеенными к $E$ вдоль открытых дуг.

Комплексным (или аналитическим, или голоморфным) диском называется голоморфное отображение $h\colon \mathbb D \to \mathbb C^n$, являющееся хотя бы непрерывным в замкнутом круге $\overline{\mathbb D}$. Скажем, что такой диск подклеен к подмножеству $K$ пространства $\mathbb C^n$ вдоль (непустой открытой) дуги $\gamma \subset b\mathbb D$, если $f(\gamma) \subset K$.

Наше изложение конструкции распадается на несколько шагов, представленных в п. 3.1 и п. 3.2.

3.1. Обобщенное уравнение Бишопа; существование и регулярность дисков

Пусть $E$ – это $n$-мерное вполне вещественное многообразие класса $C^1$ в окрестности точки $0$ в $\mathbb C^n$, и пусть $0\in E$. После линейной замены переменных на основании теоремы о неявной функции мы можем также считать, что в окрестности $\Omega$ начала координат многообразие $E$ задается (векторнозначным) уравнением

$$ \begin{equation} y=h(x), \end{equation} \tag{7} $$
где вектор-функция $h=(h_1,\dots ,h_n)$ $C^1$-гладкая в окрестности точки $0$ в $\mathbb R^n$ и удовлетворяет следующим условиям:
$$ \begin{equation} h_j(0)=0, \quad\nabla h_j(0)=0, \qquad j=1,\dots ,n. \end{equation} \tag{8} $$
Здесь и далее $\nabla$ обозначает градиент.

Зафиксируем нецелое положительное $s$. Рассмотрим преобразование Гильберта $T\colon u \to Tu$, которое вещественной функции $u \in C^s(b\mathbb D)$ сопоставляет гармоническую сопряженную функцию, равную нулю в точке $0$. Иными словами, $u+iTu$ – это след на $b\mathbb D$ голоморфной функции в $\mathbb D$ класса $C^s(\mathbb D)$, для которой $Tu(0)=0$.

Напомним, что преобразование Гильберта задается следующей формулой:

$$ \begin{equation*} Tu (e^{i\theta})=\frac{1}{2\pi} \operatorname{\text{v.p.}} \int_{-\pi}^{\pi} u(e^{it}) \operatorname{ctg} \frac{\theta-t}{2}\, dt. \end{equation*} \notag $$

Это классический линейный сингулярный интегральный оператор; он ограничен на $C^s(b\mathbb D)$ для любого нецелого $s>0$. Кроме того, при $p>1$ оператор $T\colon L^p(b\mathbb D) \to L^p(b\mathbb D)$ также является линейным ограниченным; пусть его норма есть $\|T\|_p$.

Через ${b\mathbb D^+=\{ e^{i\theta}\colon \theta \in [0,\pi] \}}$ и ${b\mathbb D^-=\{e^{i\theta}\colon \theta \in \, ]\pi, 2 \pi[ \}}$ обозначим соответственно верхнюю и нижнюю полуокружности. Зафиксируем такие $C^\infty$-гладкие вещественные функции $\psi_j$ на $b\mathbb D$, что ${\psi_j| b\mathbb D^+=0}$ и ${\psi_j|b\mathbb D^-<0}$, $j=1,\dots ,n$ (можно взять одни и те же функции для всех $j$). Положим $\psi= (\psi_1,\dots ,\psi_n)$. Рассмотрим обобщенное уравнение Бишопа

$$ \begin{equation} u(\zeta)=-Th(u(\zeta))-tT\psi(\zeta)+c, \qquad \zeta \in b\mathbb D, \end{equation} \tag{9} $$
где $c \in \mathbb R^n$ и $t=(t_1,\dots ,t_n) \in \mathbb R^n$, $t_j \geqslant 0$, – вещественные параметры; здесь и далее мы полагаем $tT\psi=(t_1 T\psi_1,\dots ,t_n T\psi_n)$. Докажем, что для всех $p>2$ и достаточно близких к нулю $c$ и $t$ у этого сингулярного интегрального уравнения есть единственное решение $u(c,t)(\zeta)$ в классе Соболева $W^{1,p}(b\mathbb D)$ векторнозначных функций. Это решение лежит в пространстве $C^{\alpha}(b\mathbb D)$, $\alpha=1-2/p$, по теореме вложения Соболева.

Прежде чем перейти к решению уравнения Бишопа, объясним, как такое решение связано с комплексными дисками, подклеенными к $E$ вдоль $b\mathbb D^+$. Рассмотрим функцию

$$ \begin{equation*} U(c,t)\zeta)=u(c,t)(\zeta)+i h(u(c,t)(\zeta))+i t\psi(\zeta). \end{equation*} \notag $$
Поскольку $T^2=-Id$, а $u$ – решение уравнения (9), функция $U$ голоморфно продолжается на $\mathbb D$ как функция
$$ \begin{equation} H(c,t)(\zeta)=P U(c,t), \qquad\zeta \in \mathbb D, \end{equation} \tag{10} $$
класса $C^\alpha(\mathbb D)$. Здесь $P$ – оператор Пуассона гармонического продолжения на круг $\mathbb D$:
$$ \begin{equation} PU(c,t)(\zeta)=\frac{1}{2\pi} \int_{-\pi}^{\pi} \frac{1- |\zeta |^2}{|e^{it}-\zeta |^2} U(c,t)(e^{it})\,dt. \end{equation} \tag{11} $$

Функция $\psi$ обращается в нуль на $b\mathbb D$, так что для всех $(c,t)$ в силу (7) имеем $H(c,t)(b\mathbb D^+) \subset E$.

Будет удобно распространить уравнение (9) на все пространство $\mathbb C^n$. Зафиксируем $C^\infty$-гладкую функцию $\lambda\colon \mathbb R^{n} \to \mathbb R^+=[0,+\infty[$, равную $1$ на единичном шаре $\mathbb B^{n}$ и нулю на $\mathbb R^{n} \setminus 2\mathbb B^{n}$. Для достаточно малого $\delta>0$ функция $h_\delta(x)=\lambda(x/\delta)h(x)$ естественно продолжается нулем на все $\mathbb R^{n}$. Зафиксируем достаточно малое $\tau>0$, значение которого мы выберем ниже. Тогда ввиду (8) можно выбрать такое $\delta= \delta(\tau)>0$, что градиент $\nabla h_\delta(x)$ мал на всем пространстве $\mathbb R^{n}$:

$$ \begin{equation} \|\nabla h_\delta\|_{L^\infty(\mathbb R^{n})} \leqslant \tau. \end{equation} \tag{12} $$

Сначала рассмотрим глобальное уравнение

$$ \begin{equation} u(\zeta)=-Th_\delta(u(\zeta))-tT\psi(\zeta)+c, \qquad \zeta \in b\mathbb D. \end{equation} \tag{13} $$
Докажем, что его решения непрерывно зависят от параметров $(c,t)$; это позволит нам локализовать решения и разобраться с исходным уравнением (9).

Пусть $V$ – область в $\mathbb R^m$, а $f \in L^p(V \times b\mathbb D)$, $p>1$. Тогда по теореме Фубини $Tf \in L^p(V \times b\mathbb D)$ (при действии оператора $T$ переменные в $V$ рассматриваются как параметры оператора). Значит, сохраняя те же обозначения, мы получаем ограниченный линейный оператор $T\colon L^p(V \times b\mathbb D) \to L^p(V \times b\mathbb D)$ с той же нормой, что и в $L^p(b\mathbb D)$. Обозначаем ее по-прежнему через $\|T\|_p$.

Зафиксируем область $V\subset \mathbb R^{2n}$ в пространстве параметров $(c,t)$.

Лемма 3.1. В указанных предположениях для любого $p>1$ можно найти $\tau>0$ из условия (12) и $\delta=\delta(\tau)>0$ такие, что у уравнения (13) есть единственное решение $u(c,t)(\zeta) \in L^p(V \times b\mathbb D)$.

Доказательство. Рассмотрим оператор $\Phi\colon L^p(V \times b\mathbb D) \to L^p(V \times b\mathbb D)$, заданный формулой
$$ \begin{equation*} \Phi\colon u \mapsto -Th_\delta(u(\zeta))-tT\psi(\zeta)+c. \end{equation*} \notag $$
В силу (12) по теореме Лагранжа о конечном приращении для всех $u^1$ и $u^2$ из $L^p(V \times b\mathbb D)$ имеем
$$ \begin{equation*} \begin{aligned} \, \|\Phi(u^1)-\Phi^2(u^2)\|_{L^p(V \times b\mathbb D)} &\leqslant \|T\|_p \, \| h_\delta(u^1)-h_\delta(u^2)\|_{L^p(V \times b\mathbb D)} \\ &\leqslant \frac12 \|u^1- u^2\|_{L^p(V \times b\mathbb D)}, \end{aligned} \end{equation*} \notag $$
где $\tau$ – фиксированное малое число из (12). Значит, $\Phi$ – сжимающее отображение, что доказывает лемму.

Поскольку $V$ произвольное, мы видим, что у уравнения (13) есть единственное решение $u \in L^p_{\mathrm{loc}}(\mathbb R^{2n} \times b\mathbb D)$, где имеется в виду пространство $L^p$ функций на $K \times b\mathbb D$ для всякого компактного множества $K \subset \mathbb R^{2n}$.

Теперь рассмотрим регулярность решений уравнения (13) по шкале пространств Соболева. Пусть $\Omega$ – область в $\mathbb R^k$, а $f $ – функция в $\Omega$. Через $e_j$, $j=1,\dots ,k$, обозначим канонический базис в $\mathbb R^k$. Для заданных $j=1,\dots,k$ и $\Delta x_j \in \mathbb R^*$ рассмотрим конечные разности

$$ \begin{equation*} \frac{\Delta f}{\Delta x_j}=\frac{f(x+e_j \Delta x_j)-f(x)}{\Delta x_j}. \end{equation*} \notag $$

Напомним два известных свойства соболевских пространств (например, см. [23]):

Лемма 3.2. Любое решение $u$ уравнения (13) принадлежит классу

$$ \begin{equation*} W^{1,p}_{\mathrm{loc}}(\mathbb R^{2n} \times b\mathbb D). \end{equation*} \notag $$

Доказательство. Пусть $x_j$ – одно из переменных $c_j$, $t_j$ или $\zeta \in b\mathbb D$. Оценим конечную разность $\Delta u / \Delta x_j$. Из (12) следует, что $h_\delta$ удовлетворяет условию Липшица с константой $\tau$. Значит, из (13) получаем, что
$$ \begin{equation*} \biggl\|\frac{\Delta u}{\Delta x_j}\biggr\|_{L^p(V \times b\mathbb D)} \leqslant C_1 \tau \biggl\|\frac{\Delta u}{\Delta x_j}\biggr\|_{L^p(V \times b\mathbb D)}+C_2, \end{equation*} \notag $$
где $C_j>0$ – постоянные. При достаточно малом $\tau>0$ имеем
$$ \begin{equation*} \biggl\|\frac{\Delta u}{\Delta x_j}\biggr\|_{L^p(V \times b\mathbb D)} \leqslant C_3 \end{equation*} \notag $$
с некоторой постоянной $C_3>0$, так что $u \in W^{1,p}_{\mathrm{loc}}(\mathbb R^{2n} \times b\mathbb D)$. Это доказывает лемму.

Из теоремы вложения Соболева следует, что решение $u$ принадлежит пространству ${C^{1-(2n+1)/p}(V\times b\mathbb D)}$, где $V$ – открытое подмножество $\mathbb R^{2n}$. В частности, для достаточно больших $p$ построенное нами семейство дисков непрерывно по всем переменным.

Заметим теперь, что при $t=0$ у уравнения (13) есть постоянное решение $u(c,0)(\zeta)= c$. При $c$, достаточно близких к началу координат в $\mathbb R^n$, это решение соответствует точке $c+ih(c) \in E$. В силу непрерывности и единственности решений найдется такая окрестность $V$ начала координат в $\mathbb R^{2n}$, что при $(c,t) \in V$ каждое решение уравнения (13) является также решением (9). Мы доказали следующее утверждение.

Лемма 3.3. Для данного $p>2$ найдется окрестность $V$ начала координат в $\mathbb R^{2n}$, в которой у уравнения Бишопа (9) есть единственное решение

$$ \begin{equation*} u(c,t)(\zeta) \in W^{1,p}(V \times b\mathbb D). \end{equation*} \notag $$

Поскольку $p$ произвольное, мы видим, что решения нашего уравнения принадлежат классу Гёльдера $C^{\alpha}(V \times b\mathbb D)$, где $\alpha=1-(2n+1)/p$. Заметим, что здесь $V$ зависит от $p$ (а значит, от $\alpha$). Однако из [9] следует, что для каждого фиксированного $(c,t)$ отображение $\zeta \mapsto u(c,t)(\zeta)$ принадлежит классу $C^\alpha(b\mathbb D)$ для любого $\alpha<1$.

3.2. Стабильность дисков

До сих пор мы не рассматривали геометрические свойства семейства (10). Здесь мы обсудим те из них, которые будет полезно использовать в нашей работе.

Представим семейство (10) как малое возмущение некоторого модельного семейства в $W^{1,p}$-норме. Модельный случай соответствует $E=\mathbb R^n$, т.е. $h=0$ в (4). Тогда общее решение уравнения (9) имеет вид

$$ \begin{equation} u(\zeta)=- tT\psi(\zeta)+c, \qquad \zeta \in b\mathbb D , \end{equation} \tag{14} $$
где, как обычно, $c \in \mathbb R^n$ и $t=(t_1,\dots ,t_n)$, $t_j \geqslant 0$, – вещественные параметры. В этом случае семейство (10) приобретает вид
$$ \begin{equation} H(c,t)(\zeta)=P U(c,t), \qquad\zeta \in \mathbb D, \end{equation} \tag{15} $$
где
$$ \begin{equation} U(c,t)\zeta)=- tT\psi(\zeta)+c+i t\psi(\zeta). \end{equation} \tag{16} $$
Геометрически это семейство дисков дается семейством комплексных прямых, пересекающих $\mathbb R^n$ вдоль вещественных прямых; диски получаются биголоморфной репараметризацией соответствующих полупрямых единичным кругом. Эти прямые задаются отображениями $l(c,t)\colon \zeta \mapsto t\zeta+c$, $\zeta \in \mathbb C$. Конформное отображение $-T \psi+i\psi$ переводит единичный круг в область в нижней полуплоскости с гладкой границей и подклеивает $b\mathbb D^+$ к вещественной оси. Параметр $t$ можно рассматривать как направляющий вектор $l$. В дальнейшем этот случай будем называть плоским, а диски (16)плоскими дисками, которые геометрически устроены очень просто; их подробное описание (в более общей ситуации) доступно, к примеру, в [35].

Пусть $E$ – вполне вещественное многообразие, заданное уравнениями (7), (8). Для $d \in I \setminus \{ 0 \}$, где $I \ni 0$ – достаточно малый открытый интервал в $\mathbb R$, рассмотрим многообразия $E_d$, заданные уравнениями

$$ \begin{equation} y=d^{-1}h(d x). \end{equation} \tag{17} $$
Заметим, что для каждого $d \neq 0$ многообразие $E_d$ биголоморфно эквивалентно $E$ в силу изотропного растяжения $z \mapsto d^{-1}z$.

Положим $h(x,d)=d^{-1}h(dx)$, где $d \neq 0$ и $h(x,0)=0$. В последнем случае, т.е. при $d=0$, имеем $E_0=\{ y=0 \}=\mathbb R^n=T_0(E)$, т.е. плоский случай. Заметим, что функция $h(x,d)$ и ее первые частные производные по $x$ непрерывны по $d \in I$.

Итак, рассмотрим однопараметрическое семейство вполне вещественных многообразий, заданных уравнениями

$$ \begin{equation} y=h(x,d), \end{equation} \tag{18} $$
$$ \begin{equation} h_j(0,d)=0, \quad \nabla_x h_j(0,d)=0, \qquad d \in I, \quad j=1,\dots ,n \end{equation} \tag{19} $$
(здесь рассматривается градиент $\nabla_x$ по переменным $x$). Тогда для любых $(c,t,d)$ мы получаем диски $H(c,t,d)$, заданные уравнением (10). В силу единственности решения уравнения Бишопа семейство $H(c,t,0)( \zeta)$ совпадает с (16).

Лемма 3.4. Для каждого $p>1$ при $d \to 0$ выполнено соотношение

$$ \begin{equation*} \|H(c,t,d)( \zeta)-H(c,t,0)( \zeta)\|_{W^{1,p}(V \times \mathbb D)} \to 0. \end{equation*} \notag $$

Доказательство. Пусть $u^0$ – решение плоского уравнения Бишопа (14). Для любого $d$ пусть $u(c,t,d)$ – решение уравнения Бишопа
$$ \begin{equation} u=-T h(u,d)-tT \psi+c. \end{equation} \tag{20} $$
Из (19) следует, что полученные выше оценки на норму $u$ равномерны по $d$, так что $\|u\|_{W^{1,p}(V \times \mathbb D)} \leqslant C$, где постоянная $C>0$ не зависит от $d$. Действительно, в этих оценках $\tau>0$ и $\delta(\tau)>0$ можно выбрать не зависящими от $d$.

Поскольку $u \in W^{1,p}(V \times \mathbb D)$ для всех $d$, а $h(\bullet,d)$ – функция класса $C^1(\mathbb R^n)$ для каждого числа $d$, то суперпозиция $h(u,d)$ также принадлежит классу $W^{1,p}(V \times \mathbb D)$. Значит, к обобщенным производным можно применить правило дифференцирования композиции. Поэтому если $s_j$ – какая-то из переменных $c_j$, $t_j$ и $\zeta$, то $h(u,d)_{s_j}=(D_xh)(u,d) u_{s_j}$, где $D_x$ – касательное отображение по переменным $x$.

Итак, получаем

$$ \begin{equation*} \|u-u^0\|_{W^{1,p}(V \times \mathbb D)}=\|Th(u,d)\|_{W^{1,p}(V \times \mathbb D)} \leqslant C \|h(\bullet,d)\|_{C^1_x}, \end{equation*} \notag $$
где $\|h(\bullet,d)\|_{C^1_x}$ – это $C^1$-норма $h(x,d)$ по переменным $x$, а $C> 0$ – некоторая константа. Однако $\|h(\bullet,d)\|_{C^1_x} \to 0$ при $d \to 0$, что и доказывает лемму.

§ 4. Доказательство теоремы 1.1

Следующее утверждение является ключевым техническим моментом доказательства.

Предложение 4.1. Пусть $M$ – $m$-мерное вполне вещественное многообразие класса $C^1$ в $\mathbb C^m$. Пусть $\Omega \subset \mathbb C^n$ – псевдовыпуклая область, заданная условием $\Omega=\{ \phi<0 \}$, где $\phi$ – плюрисубгармоническая функция гладкости $C^2$ и $d \phi \neq 0$ вблизи $\Gamma= b\Omega$. Также пусть $W \subset \Omega$ – клин (3) с острием $E \subset \Gamma$ типа (4). Рассмотрим такое голоморфное отображение $f\colon \Omega \to \mathbb C^m$, что $f$ непрерывно на $\Omega \cup E$ и $f(E) \subset M$. Тогда для каждого $\delta>0$ и любого $\alpha<1$ отображение $f$ продолжается до $\alpha$-непрерывного по Гёльдеру отображения множества $W_{\delta} \cup E$.

Доказательство. Все утверждения локальны, поэтому можно считать, что $0 \in E$ и $T_0E=\mathbb R$, как в предшествующих параграфах. Рассмотрим семейство дисков, построенных в § 3 и подклеенных к $E$ вдоль $b\mathbb D^+$. Плоские диски заполняют предписанный клин типа (3) с острием $E_0=\mathbb R^n$. Точнее, мы фиксируем открытый выпуклый конус $K$ в $W^0=\{ (x,y) \in \mathbb R^{2n}\colon y_j<0, \,j=1,\dots ,n \}$ с вершиной в начале координат и такой, что ${\overline K \cap r\mathbb B^n}$ лежит в ${W^0 \cup \{ 0 \}}$ при некотором достаточно малом $r> 0$. Ясно, что плоские диски заполняют окрестность множества $ \overline K \cap r \mathbb B^n$. То же верно для конусов $K_z$, полученных параллельным переносом $K$ в любую вершину $z \in \mathbb R^n$. Поскольку семейство $H(c,t,d)(\zeta)$ – малое возмущение плоских дисков из $C^s(V \times \overline{\mathbb D})$ (где $s$ любое, $0<s<1$), то по непрерывности для достаточно малых $d $ семейство $H(c,t,d)(\zeta)$ также заполняет заданный клин типа (5) с острием $E_d$. В силу голоморфной эквивалентности то же верно для исходного острия $E$ и сжатого клина $W_\delta$ с любым $\delta>0$. Заметим, что в этом построении рассматриваются диски $H(c,t,d)(\zeta)$ с параметром $t$, отделенным от начала координат, так что они не вырождаются в постоянные диски $H(c,0,d)(\zeta) \equiv c$. Также заметим, что поскольку функция $\phi$ плюрисубгармонична, то все диски лежат в $\Omega$ по принципу максимума.

Применяя лемму Хопфа в сильном варианте (см. [28]) к субгармонической функции $\phi \circ H$ на $\mathbb D$, получаем

$$ \begin{equation*} |\phi \circ H(c,t)(\zeta) |\geqslant C (1-|\zeta |), \end{equation*} \notag $$
где $C>0$ не зависит от дисков, т.е. от $(c,t)$ (заметим, что мы опускаем параметр $d$, поскольку он фиксирован). Заметим, что
$$ \begin{equation*} C^{-1} \operatorname{dist} (z, \Gamma) \leqslant |\phi(z) |\leqslant C \operatorname{dist}(z,\Gamma). \end{equation*} \notag $$
Поскольку $E \subset \Gamma$, имеем
$$ \begin{equation*} \operatorname{dist}(z, \Gamma) \leqslant \operatorname{dist}(z,E). \end{equation*} \notag $$

Отсюда получается оценка

$$ \begin{equation} 1- |\zeta |\leqslant C \operatorname{dist}(H(c,t)(\zeta),E). \end{equation} \tag{21} $$

Каждая точка $z \in W_\delta$ лежит на каком-то диске $H(c,t)$. Полагая $z=H(c,t)(\zeta) $, из (21) выводим оценку

$$ \begin{equation*} 1- |\zeta |\leqslant C \operatorname{dist}(z,E). \end{equation*} \notag $$

С другой стороны, напомним, что $M$ задается как $M=\rho^{-1}(0)$, где $\rho$ – неотрицательная строго плюрисубгармоническая функция класса $C^2$ (см. [8], [15]). В [34] была получена следующая оценка:

$$ \begin{equation*} \rho(f(z)) \leqslant C(1- |\zeta |). \end{equation*} \notag $$
Точнее говоря, в [34] эта оценка получена для $E$ класса $C^s$, $s>1$. Используя семейство дисков $H(c,t)$, построенных в нашей работе для $E$ класса $C^1$, мы можем повторить рассуждения из [34] и получить такую же оценку и в нашем случае, для $E$ из $C^1$.

Тем самым установлена ключевая оценка

$$ \begin{equation} \rho(f(z)) \leqslant C \operatorname{dist}(z,E) \end{equation} \tag{22} $$
для всех $z \in W_\delta$.

Используя эту ключевую оценку, мы можем буквально повторить аргументы из [34] (основанные на оценках для метрики Кобаяши–Ройдена в трубчатой окрестности многообразия $M$) и показать, что отображение $f$ гёльдерово с показателем $\alpha$ на $W_\delta$ для всех $\alpha<1$ (см. лемму 3.6 в [34]). Тем самым предложение доказано.

Теорема 1.1 получается теперь в точности, как в [34]. В самом деле, доказательство в [34] основано на известной конструкции из работы [25]. Она сводит вопрос о граничной регулярности биголоморфизма $f\colon \Omega_1 \to \Omega_1$ строго псевдовыпуклых областей к анализу надлежащим образом определенного поднятия $f$ на ${\Omega_1 \times \mathbb C \mathbb P^{n-1}}$. Голоморфное касательное расслоение границы $b\Omega_1$ можно рассматривать как вполне вещественное ($2n-1$)-мерное вполне вещественное подмногообразие $E$ границы многообразия $\Omega_1 \times \mathbb C\mathbb P^{n-1}$. При этом поднятие $f$ голоморфно продолжается на $E$ и отображает его в голоморфное касательное расслоение границы $b\Omega_2$. После этого к поднятию $f$ применяется предложение 4.1.

Теорема 1.1 доказана.

§ 5. Метрика Кобаяши–Ройдена и нормальные семейства

В этом параграфе для удобства читателя мы напомним некоторые результаты, относящиеся у метрике Кобаяши–Ройдена.

Зафиксируем риманову метрику на комплексном многообразии $M$, индуцирующую обычную топологию на $M$; она будет использована для вычисления расстояний на $M$ и норм касательных векторов. Для $M=\mathbb C^n$ мы всегда будем использовать стандартную евклидову норму и соответствующую метрику. Ниже мы обозначаем единичный круг в $\mathbb C$ (т.е. $\mathbb B^1$) через $\mathbb D=\{ \zeta \in \mathbb C\colon |\zeta |<1 \}$. Также обозначим через $\mathcal O(\mathbb D,M)$ пространство голоморфных отображений из $\mathbb D$ в $M$; такие отображения будем называть комплексными или аналитическими дисками в $M$.

Напомним, что псевдометрика Кобаяши–Ройдена $F_M$ на $M$ определена для точки $p \in M$ и касательного вектора $v \in T_pM$ следующим образом:

$$ \begin{equation*} \begin{aligned} \, F_M(p,v)&=\inf\biggl\{ \lambda^{-1} \colon \text{существует }f \in \mathcal O(\mathbb D,M) \\ &\qquad\qquad \text{такое, что }f(0)=p,\,\frac{df}{d\zeta}(0)=\lambda v, \, \lambda>0 \biggr\}. \end{aligned} \end{equation*} \notag $$
Через $K_M(p,q)$ обозначим обычное (псевдо)расстояние Кобаяши между точками $p,q \in M$. Фундаментальный результат Ройдена (см. [32]) утверждает, что $F_M$ – непрерывная сверху функция на касательном расслоении многообразия $M$, а $K_M$ получается интегрированием $F_M$.

Мы воспользуемся основным свойством псевдометрики Кобаяши–Ройдена и псевдорасстояния Кобаяши: они убывают при голоморфных отображениях. А именно, если $f\colon M \to N$ – голоморфное отображение между комплексными многообразиями, то $(f(p), df(p) v) \leqslant F_M(p,v)$ и $K_N(f(p),f(q)) \leqslant K_M(p,q)$. Также напомним, что многообразие $M$ называется гиперболическим в точке $p \in M$, если найдется константа $C>0$, с которой $F_M(p,v) \geqslant C \|v\|$ для каждого касательного вектора $v \in T_pM$. Многообразие $M$ называется локально гиперболическим, если оно гиперболично в каждой точке. Вдобавок $M$ называется гиперболическим (по Кобаяши), если $K_M$ – расстояние, т.е. $K_M(p,q)>0$ при $p \neq q$; в этом случае функция расстояния индуцирует стандартную топологию на $M$. Согласно [32] $M$ гиперболично, если и только если оно локально гиперболично. Также напомним (см. [32]), что $M$ гиперболично тогда и только тогда, когда семейство $\mathcal O(\mathbb D,M)$ равностепенно непрерывно (относительно римановой метрики, зафиксированной выше). Шар Кобаяши с центром в $p$ радиуса $\delta>0$ задается условием

$$ \begin{equation*} B_{K_M}(p,\delta)=\bigl\{ q \in M \colon K_M(p,q)<\delta \bigr\}. \end{equation*} \notag $$
Напомним также, что многообразие $M$ называется полным гиперболическим, если оно является полным метрическим пространством относительно расстояния Кобаяши, т.е. каждый шар Кобаяши имеет компактное замыкание в $M$.

5.1. Локализация и нормальные семейства

В этом пункте мы обсудим результаты по локализации и асимптотическому поведению метрики Кобаяши–Ройдена. Ниже, как и ранее, $C>0$ обозначает положительную постоянную, которая может иметь разные значения в разных оценках.

Начнем со следующего принципа локализации, вытекающего из леммы 2.2 в [6].

Лемма 5.1. Пусть $p \in b\Omega$ – кусочно гладкая строго псевдовыпуклая точка. Тогда найдутся окрестность $U \subset U'$ точки $p$ в $M$ и $\delta>0$ такие, что для всякой точки $q \in \Omega \cap U$ шар Кобаяши $B_{K_\Omega}(q,\delta) $ лежит в $\Omega \cap U'$.

В работе [6] рассматривается ситуация, когда на $\Omega$ существует отрицательная плюрисубгармоническая функция, являющаяся строго плюрисубгармонической (в обобщенном смысле) в окрестности $p$. Используя для функций $\rho_j$ из (1) конструкцию из [33], каждую из них можно продолжить до плюрисубгармонической функции $\widetilde \rho_j$, определенной глобально и отрицательной на $\Omega$. Тогда функция $\sup_j \widetilde \rho_j$ удовлетворяет условиям из [6].

Поскольку расстояние Кобаяши убывает при голоморфных отображениях, мы получаем следующий результат.

Следствие 5.2. Существует $\tau=\tau(\delta)>0$ такое, что для каждой точки ${q \in \Omega \cap U}$ и каждого голоморфного отображения $h\colon \mathbb D \to \Omega$ с $h(0)=q$ выполнено включение $h(\tau \mathbb D) \subset \Omega \cap U'$.

Принцип локализации в такой форме был получен и использован Ф. Бертоло; см., к примеру, [2].

Теперь из определений метрики Кобаяши–Ройдена следует, что найдется константа $C>0$, с которой

$$ \begin{equation} F_{\Omega \cap U'}(z,v) \leqslant C F_{\Omega}(z,v) \end{equation} \tag{23} $$
для всех точек $z \in \Omega \cap U$ и $v \in T_z\Omega$.

Одно из следствий принципа локализации имеет следующий вид.

Лемма 5.3. В условиях теоремы 1.3 найдется подпоследовательность последовательности $(f^k)$, сходящаяся к постоянному отображению $f \equiv p$ равномерно на компактных подмножествах $\Omega$.

Выберем достаточно малую координатную окрестность $U \subset U'$ точки $p$, в которой применимо следствие 5.2. Пусть $K$ – компактное подмножество $\Omega$, содержащее $q$. Докажем, что ${f^k(K) \subset \Omega \cap U'}$ для любого достаточно большого $k$.

Рассмотрим два конечных покрытия $K$ открытыми координатными окрестностями $V_j $ и $W_j$ , $j=1,\dots ,N$, такие, что $V_j \subset W_j \subset \Omega$ и выполнено следующее:

Для всех достаточно больших $k$ имеем $f^k(q) \in U$. Для заданного единичного вектора $v \in \mathbb C^n$ применим следствие 5.2 к дискам $h^k\colon \mathbb D \to \Omega$, $h^k\colon \mathbb D \ni \zeta \mapsto f^k \circ \phi_1^{-1}(\zeta v)$. Это дает включение $f^k(V_1) \subset U'$. Значит, найдется подпоследовательность, снова обозначаемая через $(f^k)$, которая равномерно на $\overline V_1$ сходится к голоморфному отображению $f$. Поскольку $f(q)=p$, по принципу максимума получаем $f \equiv p$. Теперь в силу (iii) для достаточно больших $k$ имеем $f^k(q^2) \in U$ и по аналогичным соображениям $f^k(V_2) \subset U'$. Повторяя эти рассуждения для всех $j$, заключаем следующее.

Следствие 5.4. Область $\Omega$ гиперболическая.

В самом деле, пусть $z^0$ – некоторая точка $\Omega$. Тогда для некоторого достаточно большого $k$ имеем $f^k(z^0) \in \Omega \cap U$. Однако область $\Omega \cap U$ биголоморфно эквивалентна ограниченной области в $\mathbb C^n$ и потому гиперболическая. Следовательно, в силу (23) имеем

$$ \begin{equation*} F_\Omega(z^0,v)=F_\Omega(f^k(z^0),df^k(z^0)v) \geqslant C F_{\Omega \cap U}(f^k(z^0),df^k(z^0)v) \geqslant C \|v \|. \end{equation*} \notag $$
Здесь мы использовали, что $\Omega \cap U$ гиперболична. Значит, область $\Omega$ локально гиперболическая и потому гиперболическая.

5.2. Оценки

Пусть $\Omega$ удовлетворяет условиям теоремы 1.3.

Следующая верхняя оценка для инфинитезимальной метрики Кобаяши–Ройдена $F_\Omega$ является классической.

Лемма 5.5. Существуют постоянная $C\,{>}\,0$ и (координатная) окрестность $U$ точки $p$ в $M$ такие, что для всякой точки $ z \in \Omega$ и касательного вектора $v \in T_z\Omega$ выполнено

$$ \begin{equation*} F_\Omega(z,v) \leqslant \frac{C\|v \|}{\operatorname{dist}(z,b\Omega)}. \end{equation*} \notag $$

В самом деле, шар с центром в $z$ радиуса $\operatorname{dist}(z, b\Omega)$ лежит в $\Omega$, так что оценка вытекает из принципа уменьшения метрики Кобаяши–Ройдена при голоморфных отображениях.

Чтобы получить оценку снизу, напомним некоторые результаты работы [34].

Лемма 5.6. Найдутся такие окрестность $U$ точки $p$ в $M$ и константа $C>0$, что

$$ \begin{equation*} F_\Omega(z,v) \geqslant \frac{C\|v \|}{\operatorname{dist}(z,b\Omega)^{1/2}} \end{equation*} \notag $$
для каждой точки $z \in \Omega \cap U$ и каждого вектора $v \in T_z\Omega$.

Теперь нам понадобятся оценки метрики Кобаяши–Ройдена в выпуклых областях. Пусть $G \subset \mathbb C^n$ – выпуклая область, $p \in G$ – точка и $v$ – вектор из $\mathbb C^n$. Рассмотрим комплексную прямую $A$, проходящую через $p$ в направлении $v$, и пусть

$$ \begin{equation*} L_G(p,v)=\sup \bigl\{ \delta>0\colon \mathbb B^n(p,\delta) \cap A \subset G \bigr\}. \end{equation*} \notag $$
Иными словами, $L(p,v)$ – верхняя грань радиусов кругов с центром в $p$, лежащих в $A \cap G$. Следующий результат был установлен Грэмом (см. [14]) и Френкелем (см. [13]); короткое геометрическое доказательство дано Бедфордом и Пинчуком в [1].

Лемма 5.7. Пусть $G$ – выпуклая область в $\mathbb C^n$. Тогда для всех $p \in \Omega$ и $v \in \mathbb C^n$ выполнена оценка

$$ \begin{equation*} \frac{\|v\|}{2 L_G(p,v)} \leqslant F_G(p,v) \leqslant \frac{\|v\|}{ L_G(p,v)}. \end{equation*} \notag $$

У этого результата много полезных следствий. К примеру, любая область $G$ становится выпуклой после биголоморфной замены координат в окрестности строго псевдовпуклой граничной точки. Тогда лемма 5.7 означает, что $F_G(z,v) \geqslant C/ \operatorname{dist} (z, b\Omega)$ для векторов $v$, трансверсальных (например, ортогональных к) голоморфному касательному пространству к $bG$ в точке $p$. Отсюда получается классический результат: строго псевдовыпуклая область с гладкой границей является полной гиперболической.

§ 6. Доказательство теоремы 1.3

Наш подход основан на работе [7] и использует метод масштабирования Френкеля (см. [12]). Однако, в отличие от [7], мы не используем общих результатов Френкеля о сходимости нормализованных семейств отображений. Наше доказательство самодостаточно и использует только лемму 5.7.

Предположим, что мы находимся в условиях теоремы 1.3.

6.1. Масштабирование

Пусть область $\Omega$ имеет вид (1) в координатной окрестности $U$ точки $p$. Напомним, что мы назвали строго псевдовыпуклые гиперповерхности $\Gamma_j=\{\rho_j=0\}$ гранями множества $b\Omega \cap U$.

Лемма 6.1. Существует локально биголоморфная замена переменных $\Phi$, в которой $\Phi(p)=0$ и множество $\Phi(\Omega \cap U)$ выпукло.

Доказательство (см. доказательство предложения 1.1 в [7]). Ниже мы считаем, что зафиксировали локальные координаты, соответствующие лемме 6.1, так что при достаточно малых $\varepsilon>0$ множество $\Omega \cap \varepsilon \mathbb B^n$ выпукло (мы позволим себе отождествить ${\Phi(\Omega \cap U)}$ с ${\Omega \cap \varepsilon \mathbb B^n}$). Мы также можем выбрать эти координаты так, чтобы вдобавок у каждой локальной определяющей функции области $\Omega$ было тейлоровское разложение вида
$$ \begin{equation} \rho_j(z)=\operatorname{Re} z_j+H_j(z,\overline z)+S_j(z ), \qquad j=1,\dots ,m, \end{equation} \tag{24} $$
где каждая функция $H_j$ является положительно определенной эрмитовой формой и $S _j(z)=o(|z |^2)$.

Пусть $\Omega_k=(f^k)^{-1}(\Omega \cap \varepsilon \mathbb B^n)$. Поскольку последовательность $(f^k)$ сходится к нулю равномерно на компактных подмножествах области $\Omega$, каждое компактное подмножество этой области лежит в $\Omega_k$ для всех достаточно больших $k$.

Зафиксируем точку $q$, лежащую в $\Omega_k$ для всех достаточно больших $k$. Положим $p^k :=f^k(q)$ и рассмотрим аффинные отображения

$$ \begin{equation*} A^k(z) :=(df^k(q))^{-1}(z-p^k). \end{equation*} \notag $$
Введем новую последовательность отображений
$$ \begin{equation} g^k:=A^k \circ f^k. \end{equation} \tag{25} $$
Заметим, что
$$ \begin{equation} g^k(q)=0, \quad dg^k(q)=Id \quad \text{для всех } \ k. \end{equation} \tag{26} $$
Рассмотрим образы $G_k=g^k(\Omega_k)=A^k(\Omega \cap \varepsilon \mathbb B^n)$. Мы хотим в итоге доказать, что последовательность выпуклых областей $(G^k)$ сходится в метрике Хаусдорфа к области $G$, и найти эту предельную область $G$.

6.2. Сходимость областей

Сначала заметим, что касательные отображения

$$ \begin{equation*} R^k:=df^k(q) \end{equation*} \notag $$
сходятся к нулю; значит, области $(df^k(q))^{-1}(\varepsilon \mathbb B^n-p^k)$ сходятся ко всему пространству $\mathbb C^n$. По этой причине они не важны в доказательстве и мы не будем их упоминать в дальнейшем. Каждая из областей $G_k$ задается как
$$ \begin{equation*} \bigl\{ z \colon \rho_j(p^k+R^k z)<0, \,j=1,\dots ,m \bigr\}. \end{equation*} \notag $$
Положим $\tau_k^j:=|\rho_j(p^k) |$ и $\delta_k:=\inf_j \tau^j_k$. Рассмотрим функции
$$ \begin{equation*} \phi_j^k(z)=(\tau_k^j)^{-1} \rho_j(p^k+R^k z), \qquad j=1,\dots ,m. \end{equation*} \notag $$
Их тейлоровские разложения в начале координат имеют вид
$$ \begin{equation} \begin{aligned} \, \notag \phi_j^k(z) &=-1+\operatorname{Re} \lambda_j^k(z)+(\tau_k^j)^{-1}\operatorname{Re} Q_j^k(R^k z, R^k z) \\ &\qquad +(\tau_k^j)^{-1}H^k_j(R^k z, \overline{R^k z})+S_j^k(z). \end{aligned} \end{equation} \tag{27} $$
Здесь $\lambda_j^k$ – комплексные линейные формы, $Q_j^k(w,w)$ – голоморфные квадратичные формы и ввиду (24) $Q_j^k \to 0$ при $k \to \infty$; $H^k_j(w, \overline w)$ – положительно определенные квадратичные формы, сходящиеся к $H_j$ из (24). Наконец, $S^k_j(z)=o(|z |^2)$ равномерно по $k$.

Лемма 6.2. Для каждого $j$ последовательность $(\phi_j^k)_k$ сходится при $k\,{\to}\,\infty$ (по подпоследовательности) равномерно на компактных подмножествах пространства $\mathbb C^n$ к функции

$$ \begin{equation*} \phi_j=-1+\operatorname{Re}\lambda_j(z)+H_j'(z,\overline z). \end{equation*} \notag $$
Здесь $\lambda_j$ – комплексная линейная форма, а $H_j'$ – неотрицательно определенная эрмитова форма. Области $G_k$ сходятся в метрике Хаусдорфа к области
$$ \begin{equation} G=\bigl\{ z\colon \phi_j(z)<0,\, j=1,\dots ,m \bigr\}, \end{equation} \tag{28} $$
гиперболической в начале координат.

Доказательство. Найдется такое $C>0$, что для всех $k$ и $j$
$$ \begin{equation*} C^{-1} \operatorname{dist} (p^k,\Gamma_j) \leqslant \tau_j^k \leqslant C \operatorname{dist}(p^k, \Gamma_j). \end{equation*} \notag $$
Поскольку $\operatorname{dist}(p^k,b\Omega)=\inf_j \operatorname{dist}(p^k,\Gamma_j)$, имеем
$$ \begin{equation*} C^{-1} \operatorname{dist} (p^k, b\Omega) \leqslant \delta_k \leqslant C \operatorname{dist}(p^k, b\Omega). \end{equation*} \notag $$
Леммы 5.6 и 5.5 дают следующие оценки (для любого $v \in \mathbb C^n$):
$$ \begin{equation*} C^{-1} \|v \|\geqslant F_{\Omega_k}(q,v) \geqslant F_{\Omega \cap \varepsilon \mathbb B^n}(p^k, R^kv) \geqslant \frac{C \|R^k v\|}{\delta_k^{1/2}}, \end{equation*} \notag $$
откуда получаем
$$ \begin{equation} \|R^k \|\leqslant C (\delta_k)^{1/2} \leqslant C (\tau_k^j)^{1/2} \end{equation} \tag{29} $$
для всех $j$. В итоге мы видим, что в представлении (27) последовательность $(\tau_k^j)^{-1}\operatorname{Re} Q_j^k(R^k z, R^k z)$ сходится к нулю равномерно на компактных подмножествах $\mathbb C^n$, а $(\tau_k^j)^{-1}H^k_j(R^k z, \overline{R^k z}) $ сходится равномерно на компактных подмножествах $\mathbb C^n$. Легко видеть также, что $S^k_j$ сходятся к нулю равномерно на компактных подмножествах $\mathbb C^n$.

Далее, из (26) следует, что $F_{\Omega_k}(q,v)=F_{G_k}(0,v)$ для всех $k$ и $v \in \mathbb C^n$. Значит, найдется такое $C>0$, что

$$ \begin{equation*} C^{-1} \|v \|\leqslant F_{G_k}(0,v) \leqslant C \|v\|. \end{equation*} \notag $$
Поскольку области $G_k=\{ \phi_j^k<0,\,j=1,\dots ,m \}$ выпуклые, из леммы 5.7 получаем, что
$$ \begin{equation} C^{-1} \leqslant L_{G_k}(0,v) \leqslant C \end{equation} \tag{30} $$
для всех $k$ и $v$. Рассуждая от противного, допустим, что нормы $\alpha_j^k$ линейных форм $\lambda^k_j$ неограниченны по $k$; можно считать, что $\alpha_j^k \to \infty$. Тогда функции $(\alpha_j^k)^{-1}\phi_j^k$ сходятся к $\operatorname{Re}\theta_j(z)$, где $\theta_j$ – ненулевая комплексная линейная форма. Значит, границы выпуклых областей $G_k$ приближаются к началу координат при $k \to \infty$, и для некоторого ненулевого вектора $v$ выполнено $L_{G_k}(0,v) \to 0$ при $k \to \infty$. Полученное противоречие показывает, что последовательность норм форм $\lambda_j^k$ ограниченна, что завершает доказательство леммы.

Теперь наша цель – доказать, что $m=1$ и $G$ биголоморфно эквивалентна $\mathbb B^n$.

6.3. Идентификация области $G$: простейший случай $m=1$

Начнем с рассмотрения простейшего случая, когда $m=1$. Тогда

$$ \begin{equation*} G =\bigl\{ z\colon {-}1+\operatorname{Re}\lambda(z)+H(z,\overline z)<0 \bigr\}. \end{equation*} \notag $$
Если ненулевой вектор $v$ лежит в пересечении $\ker \lambda \cap \ker H=\{ 0 \}$, то комплексная прямая, проходящая через начало координат в направлении $v$, лежит в $G$ и $L_{G}(0,v)=\infty$ в противоречии с (30). Значит, ограничение $H$ на $\ker \lambda$ положительно определенное и $G$ биголоморфно эквивалентна $\mathbb B^n$.

Для завершения доказательства теоремы 1.3 в этом случае нам нужен следующий результат.

Лемма 6.3. Последовательность отображений (25) сходится (по подпоследовательности) равномерно на компактных подмножествах области $\Omega$ к биголоморфному отображению $\Omega$ на $G$.

Доказательство. Зафиксируем компакт $K \subset G$. Поскольку последовательность выпуклых областей $(G_k$) сходится к $G$, найдется такое $k_0$, что $K \subset G_k$ при $k \geqslant k_0$. Из леммы 5.7 следует, что найдется такое $C>0$, что
$$ \begin{equation*} F_{G_k}(z,v) \geqslant C\|v \| \quad \text{для всех } \ z \in K, \quad v \in \mathbb C^n, \quad k \geqslant k_0. \end{equation*} \notag $$
Тогда, используя классические рассуждения (см. [32]), можно показать, что семейство $(g^k)$ нормальное. Поскольку $g^k(q)=0$ для всех $k$, последовательность $(g^k)$ содержит подпоследовательность, равномерно сходящуюся на компактных подмножествах $\Omega$ к голоморфному отображению $g$. С другой стороны, $\Omega$ – гиперболическая область (по следствию 5.4). Значит, аналогичным образом доказывается и сходимость семейства обратных отображений $((g^k)^{-1})$. Теперь классическая теорема А. Картана (см. [22]) показывает, что отображение $g\colon \Omega \to G$ биголоморфно, и лемма доказана.

6.4. Идентификация области $G$: случай $m> 1$

Теперь рассмотрим случай $m>1$. Точнее, нашей целью будет доказать от противного, что такая ситуация невозможна. Для этого случая имеет смысл модифицировать последовательность масштабирований $(g^k)$. А именно, рассмотрим линейные отображения

$$ \begin{equation*} \begin{gathered} \, B^k\colon z \mapsto w, \\ w_j=\sum_{l=1}^n \frac{\partial \rho_j}{\partial z_l}(p^k) z_l, \qquad j=1,\dots ,m, \\ w_j=z_j, \qquad j=m+1,\dots ,n. \end{gathered} \end{equation*} \notag $$
Заметим, что последовательность $(B^k)_k$ сходится к тождественному отображению, когда $k\to\infty$. Рассмотрим последовательности отображений
$$ \begin{equation*} \widetilde g^k:=(R^k)^{-1} \circ B^k \circ (f^k-p^k) \end{equation*} \notag $$
и областей
$$ \begin{equation*} \widetilde G_k=\widetilde g^k(\Omega_k \cap U). \end{equation*} \notag $$
Тогда
$$ \begin{equation*} \widetilde G^k=\bigl\{ z\colon \rho_j(p^k+(B^k)^{-1} \circ R^k z)<0, \,j=1,\dots, m \bigr\}. \end{equation*} \notag $$
В точности, как и раньше, рассмотрим функции
$$ \begin{equation*} \phi_j^k(z)=(\tau_k^j)^{-1} \rho_j(p^k+(B^k)^{-1} \circ R^k z). \end{equation*} \notag $$
Пусть
$$ \begin{equation*} R^k z=(R^k_1 z,\dots , R^k_n z), \end{equation*} \notag $$
где $R^k_j$ – комплексные линейные формы. Тогда тейлоровские разложения указанных функций имеют следующий вид:
$$ \begin{equation} \begin{aligned} \, \notag \phi_j^k(z) &=-1+(\tau_k^j)^{-1} \operatorname{Re} R_j^k(z)+(\tau_k^j)^{-1}\operatorname{Re} Q_j^k(R^k z, R^k z) \\ &\qquad +(\tau_k^j)^{-1}H^k_j(R^k z, \overline{R^k z})+S_j^k(z). \end{aligned} \end{equation} \tag{31} $$
Здесь $R_j^k$ – введенные выше комплексные линейные формы, компоненты $R^k$ (мы ввели в конструкцию масштабирований дополнительные отображения $B^k$ с тем, чтобы величины $r^k_j$ прямо участвовали в разложении); $Q_j^k(w,w)$ – голоморфные квадратичные формы и ввиду (24) $Q_j^k \to 0$ при $k \to \infty$; $H^k_j(w, \overline w)$ – положительно определенные квадратичные формы, которые сходятся к $H_j$ из (24). Заметим, что мы использовали то, что последовательность $(B^k)$ сходится к тождественному отображению. Наконец, $S^k_j(z)=o(|z|^2)$ и $S^k_j\to 0$ при $k\to\infty$.

Теперь для каждого $j$ применима лемма 6.2. Мы видим, что последовательность $(\phi_j^k)_k$ сходится (по подпоследовательности) к

$$ \begin{equation} \phi_j (z)=-1+\operatorname{Re} \lambda_j(z)+H_j'(z,\overline z), \qquad j=1,\dots, m. \end{equation} \tag{32} $$
Здесь $\lambda_j$ – комплексная линейная форма, а $H_j'$ – эрмитова квадратичная форма. Заметим, что формы $H_j$ неотрицательно определенные, так что функции $\phi_j$ плюрисубгармонические. Ключевым моментом является то, что мы можем получить больше информации о предельных функциях (32). Мы будем последовательно упрощать выражения для них.

Во-первых, из (29) следует, что (после перехода к подпоследовательности) $R^{k}/{\delta_k}^{1/2}$ сходятся к $\mathbb C$-линейному отображению

$$ \begin{equation*} L=(L_1,\dots ,L_n)\colon \mathbb C^n \to \mathbb C^n. \end{equation*} \notag $$
Далее, для каждого $j$ последовательность $(\delta_k/\tau_k^j)_k$ ограниченна. По подпоследовательности она сходится к некоторому $\kappa_j\,{\geqslant}\, 0$. Поскольку $\delta_k\,{=}\, \min_{j=1,\dots ,m} \tau^j_k$, то хотя бы одно $\kappa_j$ отлично от нуля (и на самом деле равно 1).

Тогда последовательность

$$ \begin{equation*} (\tau_k^j)^{-1} H^k_j (R^z,\overline{R^k z})=\frac{\delta^k}{\tau_k^j} H^k_j ((\delta^k)^{-1/2}R^kz, (\delta^k)^{-1/2}\overline{R^kz}) \end{equation*} \notag $$
сходится к $\kappa_j H_j(L z, \overline{Lz})$, где $H_j$ – формы Леви из (24); напомним, что формы $H_j(w,\overline w)$ положительно определенные на $\mathbb C^n$. Итак,
$$ \begin{equation} \phi_j(z)=-1+\operatorname{Re} \lambda_j(z)+\kappa_j H_j(Lz, \overline{Lz}), \qquad j=1,\dots ,m. \end{equation} \tag{33} $$

Можно полагать, что для некоторого целого $s$, $1 \leqslant s \leqslant m$, при $j=1,\dots ,s$ выполнено $\kappa_j>0$, а при $j=s+1,\dots ,m$ выполнено $\kappa_j=0$. Итак, предельные функции $\phi_j$ из (32) аффинные при $j \geqslant s+1$.

Лемма 6.4. При $j=1,\dots ,s$ выполнены равенства $L_j=0$.

Доказательство. Каждая функция $L_j$ есть предел последовательности $R^k_j/(\delta^{k})^{1/2}=(R^k_j/\tau_k^j) (\tau^j_k/(\delta^k)^{1/2})$. Последовательность $(R^k_j/\tau_k^j)$ сходится к $\lambda_j(z)$ из (32). С другой стороны, при $j=1,\dots ,s$ последовательность $\tau^j_k/\delta^k$ сходится к $1/\kappa_j$. Значит, $\tau^j_k/(\delta^k)^{1/2}$ сходится к нулю, и лемма доказана.

Снова заметим, что при $j=1,\dots ,m$ формы $R^k_j/\tau^j_k$ стремятся к $\lambda_j$. С другой стороны, $R^k_j/(\delta^k)^{1/2}$ стремятся к $L_j$. Поскольку при каждом $k$ формы $R^k_j/\tau^j_k$ и $R^k_j/(\delta^k)^{1/2}$ линейно зависимы, их пределы $\lambda_j$ и $L_j$ также линейно зависимы.

Рассмотрим такое целое $t$, $s+1 \leqslant t \leqslant m$, что (после перестановки определяющих функций) $\lambda_j \neq 0$ при $j=s+1,\dots ,t$ и $\lambda_j=0$ при $j=t+1,\dots ,m$. Если $\lambda_j=0$ при всех $j=s+1,\dots ,m$, то полагаем $t=s$. Тогда $L_j=a_j \lambda_j$ для некоторых вещественных $a_j$, $j=s+1,\dots ,t$ (заметим, что некоторые $a_j$ могут быть равны нулю).

Далее, формы $\lambda_j$, $j=1,\dots ,t$, и $L_j$, $j=t+1,\dots,n$, линейно независимы. Действительно, если ненулевой вектор $v$ лежит в пересечении их ядер, то комплексная прямая, проходящая через начало координат в направлении $v$, лежит в предельной области $G=\{ \phi_j (z)<0,\, j=1,\dots ,t \}$. Однако это противоречит гиперболичности выпуклой области $G$ в начале координат, установленной в лемме 6.2. После $\mathbb C$-линейной замены координат имеем $\lambda_j(z)=z_j$, $j=1,\dots ,t$, и $L_j(z)= z_j$, $j=t+1,\dots ,m$.

Таким образом, в новых координатах мы можем представить определяющие функции (32) следующим образом:

$$ \begin{equation*} \begin{aligned} \, \phi_j (z) &=-1+\operatorname{Re} z_j \\ &\qquad +\kappa_j H_j(a_{s+1}z_{s+1},\dots ,a_t z_t, z_{t+1},\dots ,z_n, \overline{a_{s+1}z_{s+1}},\dots ,\overline{a_t z_t}, \overline{z_{t+1}},\dots ,\overline{z_n}), \end{aligned} \end{equation*} \notag $$
$j=1,\dots ,t$. При $j>t$ функции $\phi_j$ постоянны ($\phi_j=-1$), и мы их отбрасываем.

Положим

$$ \begin{equation*} \begin{aligned} \, & \widetilde H_j(z_{s+1},\dots,z_n, \overline{z_{s+1}},\dots ,\overline{z_n}) \\ &\qquad=\kappa_j H_j(a_{s+1}z_{s+1},\dots ,a_t z_t, z_{t+1},\dots ,z_n, \overline{a_{s+1}z_{s+1}},\dots ,\overline{a_t z_t}, \overline{z_{t+1}},\dots ,\overline{z_n}). \end{aligned} \end{equation*} \notag $$
Заметим, что $\widetilde H_j=0$ при $j=s\,{+}\,1,\dots ,t$, а остальные $\widetilde H_j$ неотрицательно определенные на $\mathbb C^{n-s}(z_{s+1},\dots,z_n)$. Более того, они положительно определенные на $\mathbb C^{n-t}(z_{t+1},\dots,z_n)$ (вообще говоря, они не будут положительно определенными на $\mathbb C^{n-s}(z_{s+1},\dots,z_n)$, поскольку некоторые из $a_j$ могут быть равны нулю).

Итак, предельная область задается неравенствами

$$ \begin{equation*} \begin{gathered} \, \widetilde \phi_j(z)=-1+\operatorname{Re} z_j+\widetilde H_j(z_{s+1},\dots,z_n, \overline{z_{s+1}},\dots ,\overline{z_n})<0, \qquad j=1,\dots ,s, \\ \widetilde \phi_j(z)=-1+\operatorname{Re} z_j<0, \qquad j=s+1,\dots ,t \end{gathered} \end{equation*} \notag $$
(при $t=s$ аффинные определяющие функции отсутствуют).

Ясно, что $G$ биголоморфно эквивалентна ограниченной области. Значит, $G$ гиперболическая.

Теперь мы покажем, как в доказательстве леммы 6.3, что семейство $(\widetilde g^k)$ нормальное. Значит, $\Omega$ биголоморфно эквивалентна указанной выше области $G$.

Для завершения доказательства мы покажем, что $m=1$.

Допустим, что $t>1$. Пусть $f\colon G \to \Omega$ – биголоморфное отображение. Рассмотрим кусочно гладкую строго псевдовыпуклую точку $p \in b\Omega$. Предположим, что $p$ – негладкая точка, т.е. $m>1$. Поскольку отображение $f^{-1}\colon \Omega \to G$ биголоморфно, в силу граничной теоремы единственности предельное множество $f^{-1}$ на открытом куске $b\Omega$, содержащем точку $p$, не может сводиться к бесконечно удаленной точке. Тогда, слегка меняя $p$ при необходимости, мы можем считать, что предельное множество $f^{-1}$ в $p$ содержит конечную граничную точку $a \in bG$. Это значит, что найдется последовательность $(a^k)$ в $ G$, сходящаяся к $a$, такая, что точки $f(a^k)$ сходятся к $p$. Тогда отображение $f$ продолжается на границу $b{G}$ в окрестности $a$ как гёльдерово отображение по теореме 1.1 из [33]. Заметим, что в [33] граничная точка области в прообразе (в нашем случае – области $ G$) предполагается кусочно гладкой строго псевдовыпуклой. Однако в [33] это условие наложено, поскольку там рассматриваются отображения, являющиеся собственными только локально. В нашем случае $f$ – биголоморфное отображение, область $ G$ допускает глобальную определяющую плюрисубгармоническую функцию $\sup_j \widetilde \phi_j$ и шаг 2 доказательства в работе [33] (опирающийся на лемму Хопфа) можно перенести на наш случай непосредственно. Остальная часть доказательства из [33] может быть повторена буквально, что и доказывает гёльдеровость вплоть до границы.

Далее, если $s>1$, то грани границы $bG$ (локально) расслаиваются на комплексные диски. Те же соображения, что и в теореме 1.2 из [33] (или в [7]), показывают, что якобиан $f$ тождественно равен нулю в односторонней окрестности точки $a$ в $G$, а значит, и всюду в $G$. Это противоречит тому, что $f$ – биголоморфное отображение. Следовательно, $s=1$. Если теперь $t>1$, то определяющие функции $\widetilde \phi_j$, $j=2,\dots ,t$, аффинные и соответствующие грани расслоены на комплексные диски. Если точка $a$ лежит на такой грани (или даже $a$ лежит на углу такой грани), то, как и выше, можно видеть, что якобиан $f$ тождественно равен нулю, что ведет к противоречию. Остается рассмотреть случай, когда предельное множество $f^{-1}$ на открытой окрестности точки $p$ на $b\Omega$ лежит в грани $\Gamma_1=\{ \widetilde \phi_1=0 \}$. Если $\Gamma_1$ расслоена на комплексные диски, то можно использовать те же рассуждения, что и выше. Если $\Gamma_1$ не расслаивается на комплексные диски, то она строго псевдовыпукла и локально биголоморфна единичной сфере. Но тогда в силу [33] $\Gamma_1$ может содержать предельное множество открытой окрестности точки $p$ на $b\Omega$ только в случае, когда $m=1$, т.е. $p$ – гладкая точка.

Остается случай, когда $s=t=1$. Тогда $G$ биголоморфно эквивалентна единичному шару $\mathbb B^n$. Это означает, что и $\Omega$ биголоморфно эквивалентна $\mathbb B^n$, так что $m=1$ (к примеру, см. [33]; разумеется, есть много других работ, на которые тут можно было бы сослаться)

Доказательство теоремы 1.3 завершено.

Список литературы

1. Э. Бедфорд, С. И. Пинчук, “Выпуклые области с некомпактными группами автоморфизмов”, Матем. сб., 185:5 (1994), 3–26  mathnet  mathscinet  zmath; англ. пер.: È. Bedford, S. I. Pinchuk, “Convex domains with noncompact automorphism groups”, Sb. Math., 82:1 (1995), 1–20  crossref
2. F. Berteloot, “Characterization of models in $\mathbb C^2$ by their automorphism groups”, Internat. J. Math., 5:5 (1994), 619–634  crossref  mathscinet  zmath
3. D. Burns, Jr., S. Shnider, “Geometry of hypersurfaces and mapping theorems in $\mathbf C^n$”, Comment. Math. Helv., 54:2 (1979), 199–217  crossref  mathscinet  zmath
4. E. Cartan, “Sur la géométrie pseudo-conforme des hypersurfaces de l'espace de deux variables complexes”, Ann. Mat. Pura Appl., 11:1 (1933), 17–90  crossref  mathscinet  zmath
5. S. S. Chern, J. K. Moser, “Real hypersurfaces in complex manifolds”, Acta Math., 133 (1974), 219–271  crossref  mathscinet  zmath
6. E. M. Chirka, B. Coupet, A. B. Sukhov, “On boundary regularity of analytic discs”, Michigan Math. J., 46:2 (1999), 271–279  crossref  mathscinet  zmath
7. B. Coupet, A. Sukhov, “On the boundary rigidity phenomenon for automorphisms of domains in $\mathbb C^n$”, Proc. Amer. Math. Soc., 124:11 (1996), 3371–3380  crossref  mathscinet  zmath
8. Е. М. Чирка, “Регулярность границ аналитических множеств”, Матем. сб., 117(159):3 (1982), 291–336  mathnet  mathscinet  zmath; англ. пер.: E. M. Chirka, “Regularity of the boundaries of analytic sets”, Sb. Math., 45:3 (1983), 291–335  crossref
9. E. M. Chirka, B. Coupet, A. B. Sukhov, “On boundary regularity of analytic discs”, Michigan Math. J., 46:2 (1999), 271–279  crossref  mathscinet  zmath
10. Ch. Fefferman, “The Bergman kernel and biholomorphic mappings of pseudoconvex domains”, Invent. Math., 26 (1974), 1–65  crossref  mathscinet  zmath  adsnasa
11. А. М. Ефимов, “Обобщение теоремы Вонга–Розея для неограниченного случая”, Матем. сб., 186:7 (1995), 41–50  mathnet  mathscinet  zmath; англ. пер.: A. M. Efimov, “Extension of the Wong–Rosay theorem to the unbounded case”, Sb. Math., 186:7 (1995), 967–976  crossref
12. S. Frankel, “Complex geometry of convex domains that cover varieties”, Acta Math., 163:1-2 (1989), 109–149  crossref  mathscinet  zmath
13. S. Frankel, “Applications of affine geometry to geometric function theory in several complex variables. I. Convergent rescalings and intrinsic quasi-isometric structure”, Several complex variables and complex geometry, Part 2 (Santa Cruz, CA, 1989), Proc. Sympos. Pure Math., 52, Part 2, Amer. Math. Soc., Providence, RI, 1991, 183–208  crossref  mathscinet  zmath
14. I. Graham, “Sharp constants for the Koebe theorem and for estimates of intrinsic metrics on convex domains”, Several complex variables and complex geometry, Part 2 (Santa Cruz, CA, 1989), Proc. Sympos. Pure Math., 52, Part 2, Amer. Math. Soc., Providence, RI, 1991, 233–238  crossref  mathscinet  zmath
15. F. R. Harvey, R. O. Wells, Jr., “Zero sets of non-negative strictly plurisubharmonic functions”, Math. Ann., 201 (1973), 165–170  crossref  mathscinet  zmath
16. Г. М. Хенкин, “Аналитический полиэдр голоморфно не эквивалентен строго псевдовыпуклой области”, Докл. АН СССР, 210:5 (1973), 1026–1029  mathnet  mathscinet  zmath; англ. пер.: G. M. Henkin, “An analytic polyhedron is not holomorphically equivalent to a strictly pseudoconvex domain”, Soviet Math. Dokl., 14 (1973), 858–862
17. Г. М. Хенкин, Е. М. Чирка, “Граничные свойства голоморфных функций нескольких комплексных переменных”, Итоги науки и техн. Сер. Соврем. пробл. матем. Нов. достиж., 4, ВИНИТИ, М., 1975, 13–142  mathnet  mathscinet  zmath; англ. пер.: G. M. Henkin, E. M. Chirka, “Boundary properties of holomorphic functions of several complex variables”, J. Soviet Math., 5:5 (1976), 612–687  crossref
18. Ю. В. Хурумов, “Граничная гладкость собственных голоморфных отображений строго псевдовыпуклых областей”, Матем. заметки, 48:6 (1990), 149–150  mathnet  mathscinet  zmath
19. Ю. В. Хурумов, “К теореме Линделёфа в $\mathbf{C}^n$”, Докл. АН СССР, 273:6 (1983), 1325–1328  mathnet  mathscinet  zmath; англ. пер.: Yu. V. Khurumov, “On Lindelöf's theorem in $\mathbf C^n$”, Soviet Math. Dokl., 28 (1983), 806–809
20. L. Lempert, “La métrique de Kobayashi et la représentation des domaines sur la boule”, Bull. Soc. Math. France, 109:4 (1981), 427–474  crossref  mathscinet  zmath
21. L. Lempert, “A precise result on the boundary regularity of biholomorphic mappings”, Math. Z., 193:4 (1986), 559–579  crossref  mathscinet  zmath
22. R. Narasimhan, Several complex variables, Chicago Lectures in Math., Univ. of Chicago Press, Chicago, IL–London, 1971, x+174 pp.  mathscinet  zmath
23. С. М. Никольский, Приближение функций многих переменных и теоремы вложения, 2-е изд., Наука, М., 1977, 455 с.  mathscinet  zmath; англ. пер. 1-го изд.: S. M. Nikol'skii, Approximation of functions of several variables and imbedding theorems, Grundlehren Math. Wiss., 205, Springer-Verlag, New York–Heidelberg, 1975, viii+418 с.  crossref  mathscinet  zmath
24. L. Nirenberg, S. Webster, P. Yang, “Local boundary regularity of holomorphic mappings”, Comm. Pure Appl. Math., 33:3 (1980), 305–338  crossref  mathscinet  zmath
25. С. И. Пинчук, С. В. Хазанов, “Асимптотически голоморфные функции и их применения”, Матем. сб., 134(176):4(12) (1987), 546–555  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, S. V. Khasanov, “Asymptotically holomorphic functions and their applications”, Sb. Math., 62:2 (1989), 541–550  crossref
26. С. И. Пинчук, “О собственных голоморфных отображениях строго псевдовыпуклых областей”, Сиб. матем. журн., 15:4 (1974), 909–917  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, “On proper holomorphic mappings of strictly pseudoconvex domains”, Siberian Math. J., 15:4 (1974), 644–649  crossref
27. С. И. Пинчук, “Граничная теорема единственности для голоморфных функций нескольких комплексных переменных”, Матем. заметки, 15:2 (1974), 205–212  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, “A boundary uniqueness theorem for holomorphic functions of several complex variables”, Math. Notes, 15:2 (1974), 116–120  crossref
28. С. И. Пинчук, Ш. И. Цыганов, “Гладкость $\operatorname{CR}$-отображений строго псевдовыпуклых гиперповерхностей”, Изв. АН СССР. Сер. матем., 53:5 (1989), 1120–1129  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, Sh. I. Tsyganov, “The smoothness of $\operatorname{CR}$-mappings between strictly pseudoconvex hypersurfaces”, Izv. Math., 35:2 (1990), 457–467  crossref
29. S. Pinchuk, “The scaling method and holomorphic mappings”, Several complex variables and complex geometry, Part 1 (Santa Cruz, CA, 1989), Proc. Sympos. Pure Math., 52, Part 1, Amer. Math. Soc., Providence, RI, 1991, 151–161  crossref  mathscinet  zmath
30. С. Пинчук, Р. Шафиков, А. Сухов, “Некоторые аспекты голоморфных отображений: обзор”, Комплексный анализ и его приложения, Сборник статей. К 100-летию со дня рождения Бориса Владимировича Шабата, 85-летию со дня рождения Анатолия Георгиевича Витушкина и 85-летию со дня рождения Андрея Александровича Гончара, Труды МИАН, 298, МАИК «Наука/Интерпериодика», М., 2017, 227–266  mathnet  crossref  mathscinet  zmath; англ. пер.: S. Pinchuk, R. Shafikov, A. Sukhov, “Some aspects of holomorphic mappings: a survey”, Proc. Steklov Inst. Math., 298 (2017), 212–247  crossref
31. J.-P. Rosay, “Sur une caractérisation de la boule parmi les domaines de $\mathbb C^n$ par son groupe d'automorphismes”, Ann. Inst. Fourier (Grenoble), 29:4 (1979), 91–97  crossref  mathscinet  zmath
32. H. L. Royden, “Remarks on the Kobayashi metric”, Several complex variables. II (Univ. Maryland, College Park, Md., 1970), Lecture Notes in Math., 185, Springer, Berlin, 1971, 125–137  crossref  mathscinet  zmath
33. А. Б. Сухов, “О непрерывном продолжении и жесткости голоморфных отображений между областями с кусочно гладкими границами”, Матем. сб., 185:8 (1994), 115–128  mathnet  mathscinet  zmath; англ. пер.: A. B. Sukhov, “On continuous extension and rigidity of holomorphic mappings between domains with piecewise smooth boundaries”, Sb. Math., 82:2 (1995), 471–483  crossref
34. А. Б. Сухов, “Голоморфные отображения между областями с низкой регулярностью границы”, Изв. РАН. Сер. матем., 85:3 (2021), 210–221  mathnet  crossref  mathscinet  zmath; англ. пер.: A. B. Sukhov, “Holomorphic mappings between domains with low boundary regularity”, Izv. Math., 85:3 (2021), 536–546  crossref  adsnasa
35. A. Sukhov, “Pluripolar sets, real submanifolds and pseudoholomorphic discs”, J. Aust. Math. Soc., 109:2 (2020), 270–288  crossref  mathscinet  zmath
36. B. Wong, “Characterization of the unit ball in $\mathbb C^n$ by its automorphism group”, Invent. Math., 41:3 (1977), 253–257  crossref  mathscinet  zmath  adsnasa
37. A. Zimmer, “Generic analytic polyhedron with non-compact automorphism group”, Indiana Univ. Math. J., 67:3 (2018), 1299–1326  crossref  mathscinet  zmath

Образец цитирования: А. Б. Сухов, “О голоморфных отображениях строго псевдовыпуклых областей”, Матем. сб., 213:11 (2022), 118–142; A. B. Sukhov, “On holomorphic mappings of strictly pseudoconvex domains”, Sb. Math., 213:11 (2022), 1597–1619
Цитирование в формате AMSBIB
\RBibitem{Suk22}
\by А.~Б.~Сухов
\paper О голоморфных отображениях строго псевдовыпуклых областей
\jour Матем. сб.
\yr 2022
\vol 213
\issue 11
\pages 118--142
\mathnet{http://mi.mathnet.ru/sm9639}
\crossref{https://doi.org/10.4213/sm9639}
\mathscinet{http://mathscinet.ams.org/mathscinet-getitem?mr=4582608}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2022SbMat.213.1597S}
\transl
\by A.~B.~Sukhov
\paper On holomorphic mappings of strictly pseudoconvex domains
\jour Sb. Math.
\yr 2022
\vol 213
\issue 11
\pages 1597--1619
\crossref{https://doi.org/10.4213/sm9639e}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=000992276000007}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85165701935}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/sm9639
  • https://doi.org/10.4213/sm9639
  • https://www.mathnet.ru/rus/sm/v213/i11/p118
  • Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Математический сборник Sbornik: Mathematics
    Статистика просмотров:
    Страница аннотации:233
    PDF русской версии:22
    PDF английской версии:55
    HTML русской версии:107
    HTML английской версии:68
    Список литературы:49
    Первая страница:4
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024