Известия Российской академии наук. Серия математическая
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Скоро в журнале
Архив
Импакт-фактор
Правила для авторов
Загрузить рукопись

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



Изв. РАН. Сер. матем.:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Известия Российской академии наук. Серия математическая, 2021, том 85, выпуск 3, страницы 210–221
DOI: https://doi.org/10.4213/im9043
(Mi im9043)
 

Эта публикация цитируется в 1 научной статье (всего в 1 статье)

Голоморфные отображения между областями с низкой регулярностью границы

А. Б. Суховab

a Université de Lille, Laboratoire Paul Painlevé, Cedex, France
b Институт математики с вычислительным центром Уфимского научного центра Российской академии наук, г. Уфа
Список литературы:
Аннотация: Изучается граничная регулярность собственных голоморфных отображений между строго псевдовыпуклыми областями с низкой регулярностью границы.
Библиография: 14 наименований.
Ключевые слова: строго псевдовыпуклая область, собственное голоморфное отображение, граничная регулярность.
Финансовая поддержка Номер гранта
Labex
Работа написана при частичной поддержке Labex CEMPI.
Поступило в редакцию: 27.03.2020
Исправленный вариант: 12.07.2020
Англоязычная версия:
Izvestiya: Mathematics, 2021, Volume 85, Issue 3, Pages 536–546
DOI: https://doi.org/10.1070/IM9043
Реферативные базы данных:
Тип публикации: Статья
УДК: 517.55
MSC: 32H02

§ 1. Введение

В настоящей работе рассматривается старая задача о точной граничной регулярности собственного голоморфного отображения между двумя строго псевдовыпуклыми областями в случае, когда хотя бы одна из границ имеет гладкость в точности $C^2$. Мы докажем следующую теорему.

Теорема 1.1. Пусть $\Omega_1$ и $\Omega_2$ – ограниченные строго псевдовыпуклые области в $\mathbb{C}^n$, причем граница области $\Omega_1$ принадлежит классу $C^{2+ \varepsilon}$ для некоторого $\varepsilon>0$, а граница области $\Omega_2$ – классу $C^2$. Тогда любое собственное голоморфное отображение $f\colon \Omega_1 \to \Omega_2$ продолжается до отображения класса $C^{\alpha}(\overline{\Omega}_1)$ при каждом $\alpha \in [0,1[$.

Вопросы граничной регулярности собственных или биголоморфных отображений между строго псевдовыпуклыми областями к настоящему времени очень хорошо изучены. Ч. Фефферман [1] доказал, что любое биголоморфное отображение между строго псевдовыпуклыми областями с границей класса $C^\infty$ продолжается до $C^\infty$-диффеоморфизма их замыканий. Его доказательство основано на изучении асимптотического поведения ядра Бергмана вблизи границы. Позднее были разработаны и другие подходы, некоторые из которых позволяют изучать случай границ конечной гладкости. С. И. Пинчук и С. В. Хазанов [2] доказали, что собственное голоморфное отображение между строго псевдовыпуклыми областями с $C^s$-границей при вещественном $s>2$ продолжается на границу до отображения класса $C^{s-1}$, если $s$ не целое, и класса $C^{s-1-\varepsilon}$ для любого $\varepsilon>0$, если $s$ – целое. Ю. В. Хурумов [3] показал, что этот результат верен с потерей гладкости лишь на $1/2$. Вопрос о точной граничной регулярности в случае, когда хотя бы одна из областей имеет границу класса $C^2$, остается уже долго открытым. Хурумов анонсировал, не приводя никаких деталей, что его результат верен и в этом случае, но подробное доказательство, насколько мне известно, так и не появилось. Единственный широко известный результат (см., например, [4]) утверждает продолжимость на границу до $1/2$-гёльдеровского отображения. Теорема 1.1 – это первый шаг на пути к полному ответу.

Нашим основным инструментом является результат Е. М. Чирки, Б. Купе и автора [5] о точной граничной регулярности (в гёльдеровской шкале) комплексных дисков с границей на вполне вещественном многообразии класса $C^1$. Это позволяет улучшить граничную регулярность отображения. Заметим, что теорема 1.1 является новой даже в случае, когда граница области $\Omega_1$ принадлежит $C^\infty$ или вещественно аналитична (например, когда $\Omega_1$ – единичный шар). Ожидается, что методы настоящей работы позволяют изучить и случай, когда $\Omega_1$ имеет границу в точности класса $C^2$. Соответствующие модификации наших рассуждений будут указаны в последнем параграфе работы.

Настоящая работа посвящена памяти А. Г. Витушкина. Она была написана во время пребывания автора на математическом факультете университета Индианы (Блумингтон) в весеннем семестре 2020 г. Благодарю университет за превосходные условия для работы.

§ 2. Предварительные сведения

Напомним некоторые хорошо известные определения и основные понятия.

2.1. Классы областей и функций

Пусть $\Omega$ – область в $\mathbb{C}^n$. При любом натуральном $k$ обозначим через $C^k(\Omega)$ пространство $C^k$-гладких комплекснозначных функций на $\Omega$. Через $C^k(\overline\Omega)$ обозначается класс функций, все частные производные которых до порядка $k$ включительно продолжаются до непрерывных функций на $\overline\Omega$. Пусть $s>0$ – нецелое вещественное число, а $k$ – его целая часть. Тогда через $C^s(\Omega)$ обозначается пространство функций класса $C^k(\overline\Omega)$, все частные производные которых порядка $k$ являются (глобально) $(s-k)$-гёльдеровскими на $\Omega$; эти производные автоматически удовлетворяют условию Гёльдера на $\overline\Omega$, так что можно обозначать это же пространство функций и через $C^s(\overline\Omega)$.

Замкнутое вещественное подмногообразие $E$ области $\Omega \subset \mathbb{C}^n$ принадлежит классу $C^s$ (при вещественном $s \geqslant 1$), если для любой точки $p \in E$ найдутся открытая окрестность $U$ точки $p$ и отображение $\rho\colon U \to \mathbb{R}^d$ максимального ранга $d<2n$ и класса $C^s$ такие, что $E \cap U=\rho^{-1}(0)$. Тогда $\rho$ называется (векторнозначной) локальной определяющей функцией для $E$. Натуральное число $d$ – это вещественная коразмерность подмногообразия $E$. В важнейшем частном случае $d=1$ получаем класс вещественных гиперповерхностей.

Пусть $J$ – стандартная комплексная структура на $\mathbb{C}^n$. Иными словами, $J$ действует на вектор $v$ умножением на $i$, т. е. $J v=i v$. Для любой точки $p \in E$, голоморфное касательное пространство $H_pE:= T_pE\,{\cap}\, J(T_pE)$ определяется как максимальное комплексное подпространство касательного пространства $T_pE$ к многообразию $E$ в точке $p$. Ясно, что $H_pE=\{ v \in \mathbb{C}^n\colon \partial \rho(p) v=0 \}$. Комплексная размерность пространства $H_pE$ называется CR-размерностью многообразия $E$ в точке $p$. Если она не зависит от выбора точки $p\in E$, то $E$ называется CR-многообразием (многообразием Коши–Римана).

Вещественное подмногообразие $E \subset \Omega$ называется порождающим, если комплексная оболочка пространства $T_pE$ совпадает с $\mathbb{C}^n$ для всех $p \in E$. Заметим, что порождающее многообразие вещественной коразмерности $d$ всегда является CR-многообразием CR-размерности $n-d$. Функция $\rho=(\rho_1,\dots,\rho_d)$ задает порождающее многообразие, если $\partial\rho_1 \wedge \dots\wedge \rho_d \neq 0$. Особенно важны вполне вещественные многообразия, т. е. такие подмногообразия $E$, у которых $H_pE=\{ 0 \}$ для всех $p \in E$. Вполне вещественное подмногообразие в $\mathbb{C}^n$ является порождающим тогда и только тогда, когда его вещественная размерность равна $n$; это – максимальное возможное значение размерности вполне вещественного подмногообразия.

Пусть $\Omega$ – ограниченная область в $\mathbb{C}^n$, причем ее граница $b\/\Omega$ является (компактной) вещественной гиперповерхностью класса $C^s$ в $\mathbb{C}^n$. Тогда существует $C^s$-гладкая вещественная функция $\rho$ в некоторой окрестности $U$ замыкания $\overline\Omega$ такая, что $\Omega= \{ \rho<0 \}$ и $d\rho|_{b\Omega} \ne 0$. Назовем такую функцию $\rho$ глобальной определяющей функцией. При $s \geqslant 2$ можно рассмотреть форму Леви функции $\rho$:

$$ \begin{equation} L(\rho,p,v)=\sum_{j,k=1}^n \frac{\partial^2\rho}{\partial z_j\,\partial\overline{z}_k}(p)v_j \overline v_k. \end{equation} \tag{1} $$
Ограниченная область $\Omega$ с $C^2$-границей называется строго псевдовыпуклой, если $L(\rho,p,v)>0$ для всех ненулевых векторов $v \in H_p(b\Omega)$.

2.2. Псевдометрика Кобаяши–Ройдена

Обозначим через $\mathbb{D}=\{ \zeta \in \mathbb{C}$: $| \zeta |<1 \}$ единичный круг в $\mathbb{C}$, а через $\mathbb{B}$ – единичный шар в $\mathbb{C}^n$ (размерность $n$ будет ясна из контекста). Пусть $\Omega$ – область в $\mathbb{C}^n$. Обозначим через $\mathcal O (\mathbb D, \Omega)$ множество голоморфных отображений из $\mathbb{D}$ в $\Omega$.

Пусть $z$ – точка области $\Omega$, а $v$ – касательный вектор в точке $z$. Инфинитезимальная псевдометрика Кобаяши–Ройдена $F_\Omega(z,v)$ определяется формулой

$$ \begin{equation} F_\Omega(z,v)=\inf \biggl\{\lambda>0\colon \exists\, h \in \mathcal O (\mathbb D, \Omega), \text{ т. ч. } h(0)=z,\, h'(0)=\frac{v}{\lambda} \biggr\} . \end{equation} \tag{2} $$
Это неотрицательная полунепрерывная сверху функция на касательном расслоении области $\Omega$. Ее проинтегрированная форма совпадает с обычной метрикой Кобаяши. Метрика Кобаяши–Ройдена не возрастает при голоморфных отображениях: если $f\colon \Omega \to \Omega'$ – голоморфное отображение между двумя областями в $\mathbb{C}^n$ и $\mathbb{C}^m$ соответственно, то
$$ \begin{equation} F_{\Omega'}(f(z),df(z)v) \leqslant F_\Omega(z,v) . \end{equation} \tag{3} $$
Фактически это наибольшая из инфинитезимальных метрик, не возрастающих при голоморфных отображениях; легко получить оценку сверху на $F_\Omega$. Действительно, при $R=\operatorname{dist}(z,b\Omega)$ шар $z+R\mathbb{B}$ содержится в $\Omega$. Из свойства невозрастания метрики при естественном включении $\iota\colon z+R\mathbb{B} \to \Omega$ вытекает, что метрика Кобаяши–Ройдена этого шара не меньше, чем $F_\Omega$. Поэтому получаем оценку сверху
$$ \begin{equation} F_\Omega(z,v) \leqslant \frac{|v|}{\operatorname{dist}(z,b\Omega)} . \end{equation} \tag{4} $$
Оценки снизу требуют гораздо более тонкого анализа. Они выводились многими авторами с помощью различных методов. Весьма общие оценки можно получить, используя плюрисубгармонические функции.

В частности, этот подход приводит к следующему результату, вдохновленному работой Н. Сибони [6].

Предложение 2.1. Пусть $\Omega$ – область в $\mathbb{C}^n$, а $\rho$ – отрицательная $C^2$-гладкая плюрисубгармоническая функция на $\Omega$. Допустим, что частные производные функции $\rho$ ограничены на $\Omega$ и существует константа $C_1>0$ такая, что

$$ \begin{equation} L(\rho,z,v) \geqslant C_1 |v|^2 \end{equation} \tag{5} $$
для всех $z$ и $v$. Тогда существует такая константа $C_2>0$, зависящая только от $C^2$-нормы функции $\rho$, что
$$ \begin{equation} F_\Omega(z,v) \geqslant C_2 \biggl( C_1^2\frac{| \langle \partial \rho(z), v \rangle |^2}{| \rho(z) |^2}+C_1\frac{| v |^2}{| \rho(z) |^2} \biggr). \end{equation} \tag{6} $$

Заметим, что здесь $\rho$ не обязана быть определяющей функцией области $\Omega$, хотя этот частный случай особенно важен в приложениях. В рассуждении Н. Сибони $\Omega$ предполагалась глобально ограниченной, но это условие можно опустить. Действительно, оценка (6) справедлива на открытом подмножестве области $\Omega$, где выполнено (5). Поэтому можно локализовать метрику Кобаяши–Ройдена. Заметим также, что область $\Omega$ не предполагается ограниченной или гиперболической. Впрочем, для целей настоящей работы достаточно ограниченного случая.

Следующий принцип локализации для псевдометрики Кобаяши–Ройдена установлен в [5]. Его доказательство также основано на методах теории плюрипотенциала.

Предложение 2.2. Пусть $D$ – область в $\mathbb{C}^n$, а $u$ – отрицательная плюрисубгармоническая функция на $D$, удовлетворяющая следующим условиям для некоторых констант $\varepsilon, B>0$:

(i) функция $u(z)-\varepsilon | z |^2$ плюрисубгармонична на $D \cap 3 \mathbb{B}$;

(ii) $|u| \leqslant B$ на $2 \mathbb{B}$.

Тогда существует такая положительная константа $M=M(\varepsilon,B)$, не зависящая от $u$, что

$$ \begin{equation*} F_D(w,\xi) \geqslant M |\xi|\, |u(w)|^{-1/2} \end{equation*} \notag $$
при $w \in D \cap 2 \mathbb{B}$.

Заметим, что этот результат также дает оценку снизу для метрики. Это будет существенно использоваться в нашем доказательстве.

2.3. Комплексные диски

Рассмотрим область типа клина

$$ \begin{equation} W=\{ z \in \mathbb{C}^m\colon \phi_j(z)<0,\, j=1,\dots,m \} \end{equation} \tag{7} $$
с острием
$$ \begin{equation} E=\{ z \in \mathbb{C}^m\colon \phi_j(z)=0,\, j=1,\dots,m \}. \end{equation} \tag{8} $$
Допустим, что определяющие функции $\phi_j$ принадлежат $C^{1+\alpha}$, где $\alpha>0$. Как обычно, будем также считать, что $E$ – порождающее многообразие, т. е. $\partial \phi_1 \wedge \dots \wedge \partial \phi_m \neq 0$ в некоторой окрестности множества $E$.

При данном (достаточно малом) $\delta>0$ определим уменьшенный клин

$$ \begin{equation} W_{\delta}=\biggl\{ z \in \mathbb{C}^m\colon \phi_j-\delta \sum_{l \neq j} \phi_l<0,\, j= 1,\dots,m \biggr\} \subset W. \end{equation} \tag{9} $$

Нам потребуется хорошо известная конструкция заполнения клина $W$ комплексными дисками, подклеенными к $E$ вдоль открытой дуги. Комплексный диск – это голоморфное отображение $h\colon \mathbb{D} \to \mathbb{C}^n$, по крайней мере непрерывное на замкнутом круге $\overline{\mathbb{D}}$. Обозначим верхнюю полуокружность через $b\mathbb{D}^+$.

Предложение 2.3. Фиксируем $\delta>0$. Тогда существует отображение $H\colon \mathbb{D} \times \mathbb{R}^{m-1} \to W$ класса $C^{1+\alpha}(\overline{\mathbb{D}} \times \mathbb{R}^{m-1})$, $H\colon ( \zeta,t) \mapsto h_t(\zeta)$, со следующими свойствами:

(i) при каждом $t \in \mathbb{R}^{m-1}$ отображение $\zeta \mapsto h_t(\zeta)$ голоморфно на $\mathbb{D}$ и $h(b\mathbb{D}^+)$ содержится в $E$;

(ii) кривые $h_t(b\mathbb{D}^+)$ образуют слоение многообразия $E$;

(iii) каждый диск $h_t(\overline{\mathbb{D}})$ трансверсален к $E$;

(iv) $W_\delta \subset \bigcup_t h_t(\mathbb{D})$.

Приведенное рассуждение с подклейкой дисков часто полезно при изучении вполне вещественных подмногообразий. Оно было введено в [7] и с тех пор использовалось многими авторами. Приведем набросок идеи доказательства. Не теряя общности, можно считать, что в некоторой окрестности $\Omega$ начала координат изучаемое гладкое вполне вещественное многообразие $E$ задано уравнением $x=r(x,y)$, где гладкая векторнозначная функция $r=(r_1,\dots,r_n)$ такова, что $r_j(0)=0$ и $d r_j(0)=0$. Фиксируем положительное нецелое число $s$ и для любой вещественной функции $u \in C^s(b\mathbb{D})$ рассмотрим ее преобразование Гильберта $T\colon u \to T(u)$. Оно однозначно определяется тем, что функция $u+iT(u)$ является следом голоморфной функции на $\mathbb{D}$ и $T(u)$ обращается в нуль в начале координат. В явном виде оно задается сингулярным интегралом

$$ \begin{equation*} T(u)(e^{i\theta})=\frac{1}{2\pi} \text{v. p.} \int_{-\pi}^{\pi} u(e^{it}) \operatorname{ctg} \biggl( \frac{\theta-t}{2}\biggr) \, dt. \end{equation*} \notag $$
Это классический линейный сингулярный интегральный оператор, ограниченный на пространстве $C^s(b\mathbb{D})$. Обозначим полуокружности через $S^+=\{ e^{i\theta}\colon \theta \in [0,\pi] \}$ и $S^-\,{=}\,\{ e^{i\theta}\colon \theta\,{\in}\,]\pi, 2 \pi[ \}$. Фиксируем такую $C^\infty$-гладкую вещественную функцию $\psi_j$ на $b\mathbb{D}$, что $\psi_j| S^+\,{=}\,0$ и $\psi_j| S^-\,{<}\,0$, $j=1,\dots,n$. Положим $\psi=(\psi_1,\dots,\psi_n)$. Рассмотрим обобщенное уравнение Бишопа
$$ \begin{equation} u(\zeta)=r\bigl(u(\zeta),T(u)(\zeta)+c\bigr)+t\psi(\zeta), \qquad \zeta \in b\mathbb{D} , \end{equation} \tag{10} $$
где $c \in \mathbb{R}^m$ и $t=(t_1,\dots,t_m)$, $t_j \geqslant 0$, – вещественные параметры. Из теоремы о неявной функции вытекает, что это уравнение имеет единственное решение $u(c,t) \in C^s(b\mathbb{D})$, гладко зависящее от параметров $(c,t)$. Рассмотрим комплексные диски $f(c,t)(\zeta)=P(u(c,t)(\zeta)+ iT(u(c,t))(\zeta))$, где $P$ – оператор Пуассона гармонического продолжения на $\mathbb{D}$:
$$ \begin{equation*} P(u)(\zeta)=\int_{-\pi}^{\pi} K_P(\zeta,t) u(e^{it})\, dt. \end{equation*} \notag $$
Здесь $K_P$ означает ядро Пуассона
$$ \begin{equation*} K_P(\zeta,t)=\frac{1}{2\pi}\, \frac{1- |\zeta|^2}{|e^{it}-\zeta|^2}. \end{equation*} \notag $$
Отображение $(c,t) \mapsto f(c,t)(0)$ (центры дисков) принадлежит классу $C^s$. Каждый диск подклеен к $E$ вдоль верхней полуокружности. Легко видеть, что это семейство дисков заметает весь клин $W_\delta(\Omega,E)$, если число $\delta>0$ и окрестность $\Omega$ начала координат достаточно малы. Действительно, это видно непосредственно при тождественно нулевой функции $r$ (т. е. $E=i\mathbb{R}^m$), а общий случай получается из соображений малого шевеления.

Подробное доказательство есть во многих местах (см., например, [8]) и мы его опускаем.

§ 3. Доказательство основного результата

В этом параграфе доказывается теорема 1.1. Для удобства читателя мы сначала напоминаем общий подход к задаче о регулярности граничных значений голоморфных отображений, а затем описываем модификацию этой конструкции для улучшения регулярности. В дальнейшем через $C$, $C_1$, $\dots$ обозначаются положительные константы, значения которых в разных местах могут быть разными.

3.1. Общая конструкция

Доказательство теоремы 1.1 существенно опирается на оценки метрики Кобаяши–Ройдена из [5]. Эти оценки весьма отличны от классических.

Одним из первых результатов о граничном поведении голоморфных отображений (см. [4]) было следующее утверждение.

Предложение 3.1. Пусть $f\colon \Omega_1 \to \Omega_2$ – собственное голоморфное отображение между двумя строго псевдовыпуклыми областями в $\mathbb{C}^n$ с границей класса $C^2$. Тогда $f$ продолжается на $\overline\Omega_1$ до $1/2$-гёльдеровского отображения.

Доказательство основано на оценке метрики Кобаяши–Ройдена из предложения 2.1 и лемме Хопфа.

Чтобы улучшить граничную регулярность отображения $f$, напомним конструкцию Пинчука и Хазанова. Пусть $\Omega$ – строго псевдовыпуклая область класса $C^k$, $k \geqslant 2$.

Если $\Omega =\{ \rho<0\}$, то в явном виде имеем

$$ \begin{equation*} H_p(b\Omega)=\biggl\{ v \in \mathbb{C}^n\colon \sum_{j=1 }^n \frac{\partial \rho}{\partial z_j}(p)v_j=0 \biggr\}. \end{equation*} \notag $$
Обозначим через $H(b\Omega)$ голоморфное касательное расслоение гиперповерхности $b\Omega$, а через $H_p(b\Omega)$ – его слой над точкой $p \in b\Omega$. Каждое голоморфное касательное пространство является комплексной гиперплоскостью в $\mathbb{C}^n$ и, тем самым, может рассматриваться как точка комплексного проективного пространства $\mathbb{C}\mathbb{P}^{n-1}$. Поэтому голоморфное касательное расслоение будет вещественным подмногообразием размерности $2n-1$ и класса $C^{k-1}$ в $\mathbb{C}^n \times \mathbb{C}\mathbb{P}^{n-1}$. Хорошо известно (и легко проверяется), что это многообразие вполне вещественно, если граница $b\Omega$ строго псевдовыпукла [2].

Допустим, что $(\partial \rho / \partial z_n)(p) \neq 0$. Тогда

$$ \begin{equation*} H_p(b\Omega)=\biggl\{v \in \mathbb{C}^n\colon v_n=w_1 v_1+\dots+ w_{n-1}v_{n-1},\, w_j= \frac{\rho_{z_j}(p)}{\rho_{z_n}(p)} \biggr\}. \end{equation*} \notag $$

Положим $\phi_j(z)=\rho_{z_i}(z)/ \rho_{z_n}(z)$, $j= 1,\dots,n$. Если $(w_1,\dots,w_{n-1})$ – локальные координаты в $\mathbb{C}\mathbb{P}^{n-1}$ вблизи точки $H_p(b\Omega)$, то в окрестности точки $(p, H_p(b\Omega))$ расслоение $H(b\Omega)$ задается уравнением

$$ \begin{equation} H(b\Omega)=\{ (z,w) \in \mathbb{C}^n \times \mathbb{C}^{n-1}\colon \rho(z)=0,\, w_j= \phi_j(z) \} \end{equation} \tag{11} $$
и является графиком над $b\Omega$. Таким образом, область
$$ \begin{equation} W(\Omega)=\{ (z,w) \in \mathbb{C}^n \times \mathbb{C}^{n-1}\colon \rho(z)<0 \} \end{equation} \tag{12} $$
имеет $C^k$-границу в $\mathbb{C}^n \times \mathbb{C}^{n-1}$, содержащую $(2n-1)$-мерное вполне вещественное подмногообразие $H(b\Omega)$ класса $C^{k-1}$.

Решающий шаг в подходе Пинчука–Хазанова таков. Пусть $f\colon \Omega_1 \to \Omega_2$ собственное голоморфное отображение между двумя строго псевдовыпуклыми областями. Мы уже знаем, что $f$ – отображение класса $C^{1/2}(b\Omega_1)$; в частности, $f$ определено на границе $b\Omega$. Определим поднятие $F$ отображения $f$ на $\mathbb{C}^n \times \mathbb{C}\mathbb{P}^{n-1}$ по формуле

$$ \begin{equation*} F(z,P)=(f(z), df(z)P). \end{equation*} \notag $$
Здесь $P$ рассматривается как гиперплоскость в $\mathbb{C}^n$, а $df(z)P$ – это ее образ при касательном отображении $df(z)$ (напомним, что собственное голоморфное отображение между строго псевдовыпуклыми областями имеет не обращающийся в нуль градиент). Отображение $F$ определено на области $W(\Omega_1)$ и переводит ее в $W(\Omega_2)$.

Следующий ключевой результат принадлежит Пинчуку и Хазанову.

Лемма 3.2. Отображение $F$ непрерывно продолжается на $W(\Omega_1)\,{\cup}\,H(b\Omega_1)$. Это продолжение (обозначаемое также через $F$) удовлетворяет равенству $F(z,H_z(b\Omega_1))= (f(z),H_{f(z)}(b\Omega_2))$ для всех $z \in b\Omega$. Иными словами, справедливо включение $F(H(b\Omega_1)) \subset H(b\Omega_2)$.

Доказательство основано на методе растяжений, который в свою очередь опирается на оценки метрики Кобаяши–Ройдена (как в предложении 2.1) и рассуждение с нормальными семействами. Дальнейший ход рассуждений Пинчука и Хазанова о большей регулярности отображения $F$ требует $C^s$-гладкости при некотором $s>2$ как для $b\Omega_1$, так и для $b\Omega_2$. Поэтому в $C^2$-случае нужен другой подход.

3.2. Улучшение регулярности

Рассмотрим клиноподобную область $W$, заданную формулой (7) с порождающим острием $E$, заданным формулой (8), а также уменьшенный клин $W_\delta$, заданный формулой (9).

Допустим, что определяющие функции $\phi_j$ принадлежат классу $C^{1+\alpha}$, где $\alpha> 0$, причем $\partial \phi_1 \wedge \dots \wedge \partial \phi_m \neq 0$ в окрестности множества $E$.

Заметим, что существует такая константа $C>0$, что для каждой точки $z \in W_\delta$ выполнено

$$ \begin{equation} C^{-1} \operatorname{dist}(z, b W) \leqslant \operatorname{dist}(z, E) \leqslant C \operatorname{dist} (z,b W). \end{equation} \tag{13} $$

Теперь может быть доказано следующее утверждение.

Теорема 3.3. Пусть $N$ – $n$-мерное вполне вещественное многообразие класса $C^1$ в $\mathbb{C}^n$, а $W$ – клин в $\mathbb{C}^m$. Рассмотрим голоморфное отображение $f\colon W \to \mathbb{C}^n$ такое, что $f$ непрерывно на $W \cup E$ и $f(E) \subset N$. Тогда при любых $\delta>0$ и $\alpha<1$ отображение $f$ продолжается до $\alpha$-гёльдеровского отображения на $W_{\delta} \cup E$.

В случае, когда $m=1$, т. е. $W$ – это единичный круг, намного более общий результат был получен в [5]. Здесь мы адаптируем доказательство из [5] к нашей ситуации.

Начнем доказательство теоремы со следующей хорошо известной леммы.

Лемма 3.4. Пусть $\phi$ – неотрицательная субгармоническая функция на $\mathbb{D}$, причем $\phi(\zeta) \to 0$, когда $\zeta$ стремится к открытой дуге $\gamma \subset b\mathbb{D}$. Тогда для любого компакта $K \subset \mathbb{D} \cup \gamma$ найдется константа $C_K>0$ такая, что $\phi(\zeta)<C_K(1-|\zeta|)$ для всех $\zeta \in K \cap \mathbb{D}$.

Пусть $V$ – такая окрестность $\gamma \cap K$, что область $V_1=V \cap \mathbb{D}$ односвязна и $\phi<1$ на $V_1$, и пусть $g\colon \mathbb{D} \to V_1$ – конформное отображение. Тогда по принципу симметрии $g^{-1}$ голоморфно продолжается через $\gamma$. Поэтому, заменяя $\phi$ на $\phi \circ g$, мы сводим вопрос к случаю функции, равномерно ограниченной на $\mathbb{D}$. Но тогда требуемое утверждение вытекает из очевидной оценки ядра Пуассона. Действительно, достаточно рассмотреть случай, когда $\phi(e^{it})$ обращается в нуль на дуге $|t|<\tau$ при некотором $\tau>0$. При $|{\arg \zeta}| \leqslant \tau/2$ и $|t|>\tau$ ядро Пуассона допускает оценку

$$ \begin{equation*} K_P(\zeta,t) \leqslant \frac{1}{\pi}\, \frac{1-|\zeta|}{|e^{it}-\zeta|^2} \leqslant \frac{1}{\pi}\, \frac{1-|\zeta|}{|e^{i\tau}-e^{i\tau/2}|^2}. \end{equation*} \notag $$
Но мы имеем
$$ \begin{equation*} \phi(\zeta) \leqslant \int_{-\pi}^{\pi} K_P(\zeta,t) \phi(e^{it})\, dt. \end{equation*} \notag $$
Это дает требуемую оценку и доказывает лемму.

В качестве следствия получаем следующее утверждение.

Лемма 3.5. Пусть $\psi$ – неотрицательная плюрисубгармоническая функция на $W$, причем $\psi(z) \to 0$ при $z \to E$. Тогда для любого фиксированного $\delta>0$ найдется константа $C=C_\delta>0$ такая, что $\psi(z) \leqslant C_\delta \operatorname{dist}(z,E)$ для всех $z \in W_\delta$.

Для доказательства рассмотрим семейство $(h_t)$ комплексных дисков, построенное в лемме 2.3. Достаточно применить лемму 3.4 к $\psi \circ h_t$, поскольку все константы равномерны по $t$.

По лемме 3.5 существует константа $C_\delta>0$ такая, что при всех $z \in W_\delta$ выполнено

$$ \begin{equation} \rho \circ f (z) \leqslant C_\delta \operatorname{dist}(z,E). \end{equation} \tag{14} $$

Нам потребуется следующий результат Р. Харви и Р. Уэллса [9] и Е. М. Чирки [10]. Так как $N$ – вполне вещественное многообразие класса $C^1$, то существует неотрицательная функция $\rho$ класса $C^2$, строго плюрисубгармоническая в окрестности множества $N$ и такая, что $N=\rho^{-1}(0)$. Более того, при каждом $\theta \in ]0,1[$ функция $\rho^{\theta}$ остается плюрисубгармонической в некоторой окрестности множества $N$.

Пусть $a \in E$ и $f(a)=p \in N$. Можно считать, что $p=0$ и существует $\varepsilon>0$, для которого функция $\rho-\varepsilon | z |^2$ плюрисубгармонична на шаре $3 \mathbb{B} \subset D$.

Лемма 3.6. Найдется константа $A>0$ со следующим свойством. Если $z \in W_{\delta}$ – такая точка, что $f(z) \in \mathbb{B}$, то

$$ \begin{equation*} \| df(z) \| \leqslant A \operatorname{dist}(z,E)^{-1/2} \end{equation*} \notag $$
(здесь используется операторная норма касательного отображения).

Доказательство. Положим $d\,{=}\,\operatorname{dist}(z,E)$. Согласно (13) существует константа $C>0$ (не зависящая от $z$) такая, что шар $z+dC\mathbb{B}$ содержится в $W$. Тогда из (14) вытекает, что образ $f(z+ dC\mathbb{B})$ содержится в области $D_d=\{ w \in D\colon \rho(w)<2 C_1d \}$ при надлежащем выборе константы $C_1 >0$. Заметим, что строго плюрисубгармоническая функция $u_d(w)\colon=\rho-2 C_1d$ отрицательна на $D_d$. По предложению 2.2 существует не зависящая от $d$ константа $M>0$ такая, что для любой точки $w \in D \cap \mathbb{B}$ и любого вектора $\xi \in \mathbb{C}^n$ выполнено неравенство
$$ \begin{equation*} F_{D_d}(w,\xi) \geqslant M |\xi| |u_d(w)|^{-1/2}. \end{equation*} \notag $$
С другой стороны, для метрики Кобаяши–Ройдена на шаре $z+dC\mathbb{B}$ имеем равенство $F_{z+ d\mathbb{B}}(z,\tau)=| \tau |/dC$ для любого вектора $\tau \in \mathbb{C}^m$. Поскольку метрика Кобаяши–Ройдена не возрастает при голоморфных отображениях, имеем
$$ \begin{equation*} M |df(z)\tau| |u_d(f(z))|^{-1/2} \leqslant F_{D_d}(f(z),df(z)\tau) \leqslant F_{z+ dC\mathbb{B}}(\zeta,\tau)=\frac{|\tau|}{dC}. \end{equation*} \notag $$
Поэтому $|df(z)\tau| \leqslant M^{-1} |u_d(f(z))|^{1/2}|\tau|/dC$. Так как $-2C_1 d \leqslant u_d(f(\zeta))<0$, то имеем $| u_d(f(\zeta)) |^{1/2} \leqslant (2C_1 d)^{1/2}$. Это влечет требуемую оценку и доказывает лемму.

Из леммы 3.6 посредством интегрирования вытекает $1/2$-гёльдеровость $f$ на $W_\delta \cup E$ (это вариация классической теоремы Харди–Литтлвуда; см. [11]).

Приступим к улучшению регулярности. Согласно результату Е. М. Чирки [10], функция $\rho^\theta$ остается плюрисубгармонической при любом $\theta$, $1/2<\theta<1$. Композиция $\rho^\theta \circ f$ определена в окрестности множества $W \cup E$.

Применяя к этой функции лемму 3.5, получаем, что $\rho \circ f (z) \leqslant C \operatorname{dist}(z,E)^{1/\theta}$ для всех $z\in W \cup E$.

Теперь просто повторяем предыдущее рассуждение. Пусть точка $z \in W_\delta$ достаточно близка к $a$ и пусть $d=\operatorname{dist}(z,E)$. Образ $f(z+dC\mathbb{B})$ содержится в области $D_d=\{ w \in D\colon u_d(w)=\rho(w)-2 C_1 d^{1/\theta}<0 \}$. Повторяя доказательство леммы 3.6, получаем, что $\|df(z)\| \leqslant M^{-1}|u_d(f(\zeta))|^{1/2}/dC$. Поскольку $-2C_1d^{1/\theta} \leqslant u_d(f(\zeta))<0$, мы заключаем, как выше, что $\|df(\zeta)\| \leqslant A \operatorname{dist}(z,E)^{1/2\theta-1}$ в окрестности точки $a$ в $W$. Следовательно, $f$ является $1/2\theta$-гёльдеровским отображением на $W_\delta \cup E$. Теорема 3.3 доказана.

Завершение доказательства теоремы 1.1 непосредственно вытекает из теоремы 3.3. Достаточно взять $E=H(b\Omega_1)$ и $N=H(b\Omega_2)$ и применить эту теорему к поднятию $F(z,P)$ отображения $f$. Отображение $F$ удовлетворяет условиям теоремы 3.3 по лемме 3.2. Поскольку $H(b\Omega_1)$ является графиком над $b\Omega_1$, легко выбрать клин $W \subset W(\Omega_1)$ (см. (12)) с острием $H(b\Omega_1)$ так, что для любого $\delta>0$ проекция уменьшенного клина $W_\delta$ на $\mathbb{C}^n$ совпадает с $\Omega$. Так как $F$ принадлежит классу $C^{\alpha}(W_\delta \cup H(b\Omega_1))$, то исходное отображение $f$ принадлежит классу $C^{\alpha}(\overline\Omega_1)$ при любом $\alpha<1$.

§ 4. Дальнейшие результаты

Естественно возникает вопрос, остается ли заключение теоремы 1.1 верным, если граница области $\Omega_1$ – только класса $C^2$. Ответ положительный, но доказательство намного сложнее технически. Приведем наброски двух возможных подходов.

Заметим прежде всего, что условие $C^{2+\varepsilon}$-регулярности $b\Omega_1$ позволяет нам использовать теорему 3.3, так как оно гарантирует, что $H(b\Omega_1)$ имеет регулярность $> 1$. В свою очередь, условие теоремы 3.3 о том, что $E$ имеет регулярность $> 1$, используется в доказательстве только для того, чтобы установить лемму 3.5. Точнее, это условие регулярности нужно для применимости леммы 2.3 о подклейке комплексных дисков. Значит, достаточно установить аналог леммы 2.3 для случая, когда острие $E$ – в точности класса $C^1$. Это возможно, но требует намного более тонкого анализа уравнения Бишопа (10). Обозначим через $W^{k,p}(\mathbb{D})$ соболевские классы функций, допускающих соболевские частные производные до порядка $k$ включительно в классе $L^p(\mathbb{D})$. Можно показать, что уравнение (10) имеет единственное решение в $W^{1,p}(\mathbb{D})$ при каждом $p>2$, причем это решение принадлежит $C^1(\mathbb{D})$ и зависит $C^1$-гладко от параметров во внутренности $\mathbb{D}$. Этого достаточно для доказательства аналога теоремы 3.3. При подробном изложении потребуются некоторые дополнительные результаты геометрической теории меры.

Второй подход использует тот факт, что для доказательства теоремы 1.1 достаточно установить теорему 3.3 в частном случае, когда $W$ совпадает с $W(\Omega_1)$ и $E=H(b\Omega_1)$. Технически удобнее рассматривать голоморфные диски, подклеенные к голоморфному касательному расслоению $H(b\Omega)$ (точнее, к его проективизации) вдоль всей границы (т. е. всей единичной окружности $b\Omega$). Этот класс комплексных дисков хорошо известен. Это не что иное как стационарные диски Лемперта [12], изучавшиеся многими авторами. Пусть $H(b\Omega_1)$ задается уравнением (11). Голоморфный диск $z\colon \mathbb{D} \to \Omega_1$, $z\colon \zeta \mapsto z(\zeta)$, называется стационарным, если он допускает голоморфное поднятие $(z,w)\colon \mathbb{D} \to \Omega_1 \times \mathbb{C}\mathbb{P}^{n-1}$, $(z,w)\colon \zeta \mapsto (z(\zeta),w(\zeta))$, граница которого подклеена к $H(b\Omega_1)$, т. е. $(z,w)(b\mathbb{D}) \subset H(b\Omega_1)$. В координатной записи это эквивалентно уравнению типа Бишопа

$$ \begin{equation*} \rho(z(e^{i\theta}))=0,\qquad w_j=\phi_j(z(e^{i\theta})),\qquad j= 1,\dots,n-1. \end{equation*} \notag $$
Это – нелинейная краевая задача типа Римана–Гильберта. Хорошо известно, что ее линеаризация задается фредгольмовским оператором, имеющим положительные частные индексы и потому сюръективным. Это позволяет нам решить упомянутую задачу с помощью теоремы о неявной функции (см., например, [13], [14]) в надлежащих функциональных пространствах таких, как $C^\alpha(\mathbb{D})$ или $W^{1,p}(\mathbb{D})$ при $p>2$. В случае $\Omega_1=\mathbb{B}^n$ (отвечающем линеаризованной задаче Римана–Гильберта) стационарные диски лежат на комплексных прямых. Рассмотрим точку $a \in b \Omega_1$. Можно считать, что $\mathbb{B}^n$ имеет касание второго порядка к $\Omega_1$ в точке $a$. Пусть точка $b \in \Omega_1$ лежит на вещественной внутренней нормали к $b\Omega_1$ в точке $a$. Рассмотрим вектор $v\in \mathbb{C}^n$, параллельный $H_a(b\Omega_1)$. Тогда единственный стационарный диск, проходящий через точку $b$ в направлении $v$, является малым шевелением комплексной прямой $L$, проходящей через $b$ в направлении $v$. Заметим, что его поднятие, подклеенное к $H(b\Omega_1)$, является большим комплексным диском (ко вполне вещественному многообразию $H(b\Omega_1)$ нельзя подклеить маленький комплексный диск). Эти диски образуют слоение, являющееся малой деформацией слоения области $\Omega_1$ вблизи граничной точки $p \in L \cap b\Omega_1$ на диски, высеченные семейством комплексных прямых, параллельных голоморфному касательному пространству к $b\Omega$. Каждый диск принадлежит классу $C^{\alpha}$ для некоторого $\alpha<1$ и, следовательно, доказательство теоремы 3.3 проходит.

Подробное изложение этих подходов будет дано в одной из последующих работ.

Список литературы

1. Ch. Fefferman, “The Bergman kernel and biholomorphic mappings of pseudoconvex domains”, Invent. Math., 26 (1974), 1–65  crossref  mathscinet  zmath  adsnasa
2. С. И. Пинчук, С. В. Хазанов, “Асимптотически голоморфные функции и их применения”, Матем. сб., 134(176):4(12) (1987), 546–555  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, S. V. Khasanov, “Asymptotically holomorphic functions and their applications”, Math. USSR-Sb., 62:2 (1989), 541–550  crossref
3. Ю. В. Хурумов, “Граничная гладкость собственных голоморфных отображений строго псевдовыпуклых областей”, Матем. заметки, 48:6 (1990), 149–150  mathnet  mathscinet  zmath
4. С. И. Пинчук, “О собственных голоморфных отображениях строго псевдовыпуклых областей”, Сиб. матем. журн., 15:4 (1974), 909–917  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, “On proper holomorphic mappings of strictly pseudoconvex domains”, Siberian Math. J., 15:4 (1974), 644–649  crossref
5. E. M. Chirka, B. Coupet, A. B. Sukhov, “On boundary regularity of analytic discs”, Michigan Math. J., 46:2 (1999), 271–279  crossref  mathscinet  zmath
6. N. Sibony, “A class of hyperbolic manifolds”, Recent developments in several complex variables (Princeton Univ., 1979), Ann. of Math. Stud., 100, Princeton Univ. Press, Princeton, NJ, 1981, 357–372  crossref  mathscinet  zmath
7. С. И. Пинчук, “Граничная теорема единственности для голоморфных функций нескольких комплексных переменных”, Матем. заметки, 15:2 (1974), 205–212  mathnet  mathscinet  zmath; англ. пер.: S. I. Pinchuk, “A boundary uniqueness theorem for holomorphic functions of several complex variables”, Math. Notes, 15:2 (1974), 116–120  crossref
8. A. Sukhov, “Pluripolar sets, real submanifolds and pseudoholomorphic discs”, J. Aust. Math. Soc., 109:2 (2020), 270–288  crossref  mathscinet  zmath
9. F. R. Harvey, R. O. Wells, Jr., “Zero sets of non-negative strictly plurisubharmonic functions”, Math. Ann., 201 (1973), 165–170  crossref  mathscinet  zmath
10. Е. М. Чирка, “Регулярность границ аналитических множеств”, Матем. сб., 117(159):3 (1982), 291–336  mathnet  mathscinet  zmath; англ. пер.: E. M. Chirka, “Regularity of the boundaries of analytic sets”, Math. USSR-Sb., 45:3 (1983), 291–335  crossref
11. Б. В. Шабат, Введение в комплексный анализ, т. 2, 3-е изд., Наука, М., 1985, 464 с.  mathscinet  zmath; фр. пер.: B. Chabat, Introduction à l'analyse complexe, v. 2, Traduit Russe Math., Mir, Moscow, 1990, 420 pp.  mathscinet  zmath
12. L. Lempert, “La métrique de Kobayashi et la représentation des domains sur la boule”, Bull. Soc. Math. France, 109:4 (1981), 427–474  crossref  mathscinet  zmath
13. B. Coupet, H. Gaussier, A. Sukhov, “Riemann maps in almost complex manifolds”, Ann. Sc. Norm. Super. Pisa Cl. Sci. (5), 2:4 (2003), 761–785  mathscinet  zmath
14. A. Spiro, A. Sukhov, “An existence theorem for stationary discs in almost complex manifold”, J. Math. Anal. Appl., 327:1 (2007), 269–286  crossref  mathscinet  zmath

Образец цитирования: А. Б. Сухов, “Голоморфные отображения между областями с низкой регулярностью границы”, Изв. РАН. Сер. матем., 85:3 (2021), 210–221; Izv. Math., 85:3 (2021), 536–546
Цитирование в формате AMSBIB
\RBibitem{Suk21}
\by А.~Б.~Сухов
\paper Голоморфные отображения между областями с~низкой регулярностью границы
\jour Изв. РАН. Сер. матем.
\yr 2021
\vol 85
\issue 3
\pages 210--221
\mathnet{http://mi.mathnet.ru/im9043}
\crossref{https://doi.org/10.4213/im9043}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2021IzMat..85..536S}
\elib{https://elibrary.ru/item.asp?id=46789626}
\transl
\jour Izv. Math.
\yr 2021
\vol 85
\issue 3
\pages 536--546
\crossref{https://doi.org/10.1070/IM9043}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=000671432700001}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85106629030}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/im9043
  • https://doi.org/10.4213/im9043
  • https://www.mathnet.ru/rus/im/v85/i3/p210
  • Эта публикация цитируется в следующих 1 статьяx:
    Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Известия Российской академии наук. Серия математическая Izvestiya: Mathematics
    Статистика просмотров:
    Страница аннотации:208
    PDF русской версии:30
    PDF английской версии:14
    HTML русской версии:64
    Список литературы:19
    Первая страница:8
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024