|
Собственные голоморфные отображения ограниченных двумерных областей Рейнхарта. I
Н. Г. Кружилин Математический институт им. В.А. Стеклова Российской академии наук, г. Москва
Аннотация:
Описана структура собственных голоморфных отображений кратности выше единицы ограниченных областей Рейнхарта в $\mathbb C^2$ на двумерные комплексные многообразия.
Библиография: 21 наименование.
Ключевые слова:
область Рейнхарта, собственное голоморфное отображение, голоморфное соответствие, сферическая вещественная гиперповерхность.
Поступило в редакцию: 26.05.2020
§ 1. Введение Напомним, что областью Рейнхарта в двумерном комплексном пространстве $\mathbb C^2(z_1,z_2)$ называется область $D$, инвариантная относительно поворотов вокруг координатных осей $(z_1,z_2)\mapsto (e^{it_1}z_1, e^{it_2}z_2)$. Легко видеть, что такая область однозначно восстанавливается по своей диаграмме модулей
$$
\begin{equation*}
|D|=\{(|z_1|,|z_2|)\in \mathbb R^2_+ \mid (z_1, z_2)\in D\}
\end{equation*}
\notag
$$
и (с точностью до точек, лежащих на координатных осях) по своей логарифмической диаграмме
$$
\begin{equation*}
\log|D|= \{(x_1, x_2)\in \mathbb R^2 \mid (\exp x_1, \exp x_2)\in D\}.
\end{equation*}
\notag
$$
Чуть забегая вперед, для точки $Z=(z_1,z_2)\in D$, не лежащей на координатной оси, обозначим через $\log |Z|$ точку $(\log|z_1|,\log|z_2|)\in \log|D|$, а через $T_Z\subset D$ – двумерный вещественный тор вида $\{(\zeta_1,\zeta_2)\in \mathbb C^2 \mid |\zeta_k|=|z_k|, \, k=1,2\}$ (“стандартный тор”). Примерами двумерных областей Рейнхарта являются основные модельные области многомерного комплексного анализа: единичный шар в $\mathbb C^2$ с логарифмической диаграммой
$$
\begin{equation*}
\{(x_1,x_2)\in \mathbb R^2 \mid \exp(2x_1) +\exp(2x_2)<1\}
\end{equation*}
\notag
$$
и единичный бидиск с логарифмической диаграммой
$$
\begin{equation*}
\{(x_1,x_2)\in \mathbb R^2\mid x_1<0, \, x_2<0\}.
\end{equation*}
\notag
$$
Высокая симметрия областей Рейнхарта накладывает сильные ограничения на голоморфные отображения между ними, что нередко позволяет явное описание таких отображений. К примеру, группы биголоморфных автоморфизмов (комплексно-)двумерного шара и бидиска были найдены еще Рейнхартом [1] в 1921 г. Полное описание биголоморфных автоморфизимов произвольной ограниченной (и даже всего лишь гиперболической по Кобаяси) области Рейнхарта в $\mathbb C^2$ и вообще в $\mathbb C^n$ было дано существенно позже, в [2] и [3] (хотя в случае, когда двумерная область содержит начало координат, такое описание было сделано Тулленом [4] в 1931 г.). Это описание существенно использовано в настоящей работе. Кроме того, оно важно для правильного представления о классе областей, на которых реально могут быть определены нетривиальные собственные голоморфные отображения: за одним исключением (области вида (2), где оба показателя степени отличны от двух) это области Рейнхарта, “проецирующиеся” (отображениями вида (1)) на области с нетривиальными (отличными от поворотов вокруг координатных осей) голоморфными автоморфизмами. Простым следствием структурных свойств группы автоморфизмов является тот факт, что две гиперболические области Рейнхарта (любой размерности) биголоморфно эквивалентны тогда и только тогда, когда такая эквивалентность реализуется элементарным алгебраическим отображением вида
$$
\begin{equation}
(z_1, z_2) \mapsto (\lambda_1\, z_1^a z_2^b,\, \lambda_2\, z_1^c z_2^d),
\end{equation}
\tag{1}
$$
где $\lambda_1,\lambda_2\in\mathbb R$, а $a,b,c,d \in \mathbb Z$ (в частности, логарифмические диаграммы областей аффинно эквивалентны, причем линейная часть соответствующего аффинного преобразования задается целочисленной матрицей). Дополнительные рассмотрения в размерности $2$ позволили Солдаткину [5] доказать, что этот критерий выполнен вообще для любых двумерных областей Рейнхарта. Следующим интересным классом отображений, на которых сказывается геометрическая симметрия области определения, являются собственные голоморфные отображения на область той же размерности (разветвленные накрытия конечной кратности). Примеры собственных отображений между областями Рейнхарта дают общие элементарные отображения указанного выше вида в случае, когда матрица $\left(\begin{smallmatrix}a & b\\c & d\end{smallmatrix}\right)$ невырождена. Для некоторых более или менее специальных классов областей Рейнхарта собственные голоморфные отображения между областями из этих классов изучались рядом авторов (см. [6]–[11]). В работе [12] было предложено описание собственных голоморфных отображений между парой ограниченных двумерных областей Рейнхарта общего вида. Там, в частности, было показано, что в значительной части случаев, когда между такими областями существует неэлементарное собственное отображение, оно, на самом деле, имеет вид композиции элементарных отображений с неэлементарным голоморфным автоморфизмом некоторой промежуточной области Рейнхарта. С другой стороны, в [12] было замечено, что в контексте собственных отображений имеет смысл выделить случай областей Рейнхарта с “кусочно Леви-плоской границей”. Явные формулы для неэлементарных собственных отображений между такими областями (когда подобные отображения существуют) имеют своеобразную структуру и могут включать, например, функции Бляшке. Определение 1. Будем говорить, что у области Рейнхарта $D$ в $\mathbb C^2$ кусочно Леви-плоская граница, если вне комплексных осей координат ее граница $\partial D$ представляет собой кусочно-гладкую вещественную гиперповерхость, гладкие части которой являются Леви-плоскими гиперповерхностями. Иными словами, логарифмическая диаграмма $\log|D|$ представляет собой многоугольник (совокупность вершин которого может являться бесконечным дискретным подмножеством $\mathbb R^2$). Замечание 1. К сожалению, данное в [12] описание собственных голоморфных отображений между областями Рейнхардта с кусочно Леви-плоскими границами в действительности неполно. Одной из причин этого стало то обстоятельство, что авторы [12] опирались на лемму 4.4 из работы [13], которая при ближайшем рассмотрении оказывается неверной. Контрпримером к ее результату является произведение двух плоских колец (область Рейнхарта, логарифмическая диаграмма которой – прямоугольник), отображаемое на бидиск неэлементарным (и даже неалгебраическим) собственным отображением кратности $4$, которое переводит четыре граничных тора (произведения граничных окружностей) в тор-остов бидиска. Это и некоторые другие отображения сходного вида были пропущены в [12]. В частности, среди областей с кусочно Леви-плоскими границами есть исключения, на которые не распространяется следствие 0.2 из [12]. Мы приведем полные формулировки результатов для случая Леви-плоских границ во второй части настоящей статьи, готовящейся к публикации. С другой стороны, для прочих ограниченных областей Рейнхарта все выводы [12] остаются в силе1[x]1Проблема с доказательством леммы 4.4 из [13] заключается в том, что там не проверяются условия применимости (верной) леммы 4.3 из той же работы и, вообще говоря, эти условия нарушаются. Хотя часть работы [12], не относящаяся к Леви-плоскому случаю, тоже формально ссылается на лемму 4.4 из [13], там эта лемма фактически используется в “ослабленном” варианте, в ситуации, когда на границе области есть недискретное семейство стандартных $2$-торов, образы которых (относительно продолженного на границу собственного голоморфного отображения) снова оказываются стандартными торами. В такой ситуации нетрудно видеть, что условия леммы 4.3 из [13] выполнены, так что рассматриваемое отображение элементарно.. Во всех упомянутых работах рассматривались собственные отображения одной области Рейнхарта на другую. Однако на самом деле, в случае собственных голоморфных отображений кратности выше единицы, т. е. не являющихся биголоморфными, симметричная структура области в образе играет подчиненную роль. Сам факт того, что на данной области Рейнхарта может быть определено небиголоморфное собственное отображение, не имеющее вида (1), дает дополнительную информацию о геометрии этой области, так что в результате такие области и, в определенном смысле, соответствующие собственные отображения могут быть описаны. Такое описание и является предметом настоящей работы. Так же, как и при анализе отображений между двумя областями Рейнхарта, оказывается, что здесь естественно отдельно рассматривать класс областей с кусочно Леви-плоскими границами и все остальные ограниченные области. Здесь мы обсудим именно “все остальные” области. Для них мы доказываем следующий результат. Теорема 1. Пусть $D$ – ограниченная псевдовыпуклая область Рейнхарта в $\mathbb C^2$, не являющаяся кусочно Леви-плоской, a $f\colon D\to M$ – собственное голоморфное отображение $D$ кратности выше единицы на двумерное комплексное многообразие. Тогда имеет место один из двух случаев: 1) $f$ является композицией собственного элементарного отображения $D$ на ограниченную псевдовыпуклую область Рейнхарта $D_1$ и факторизации $D_1$ по действию конечной группы биголоморфных автоморфизмов $D_1$; 2) с точностью до растяжений координат $D$ может быть задана неравенством
$$
\begin{equation}
|z_1|^{2k_1/l_1}+|z_2|^{2k_2/l_2}<1,
\end{equation}
\tag{2}
$$
где $k_j, l_j\in \mathbb N$, $l_j>1$, $j=1,2$, и $k_1$, $k_2$ взаимно просты с $l_1$, $l_2$ соответственно, а $f$ является композицией многозначного отображения $(z_1,z_2)\mapsto (z^{k_1/l_1}_1, z^{k_2/l_2}_2)$ области $D$ на единичный двумерный шар и факторизации единичного шара по действию конечной группы $G$ унитарных преобразований, содержащей вращения $(z_1, z_2)\mapsto (e^{2\pi i \nu_1/l_1}z_1, e^{2\pi i \nu_2/l_2}z_2)$, $\nu_{1}=1,\dots,l_1$, $\nu_{2}=1,\dots,l_2$. Повторим, что биголоморфные автоморфизмы ограниченных областей Рейнхарта известны из [2] и [3]. Используя эту информацию в случае 1) теоремы, мы видим, что, помимо некоторых кусочно Леви-плоских областей, которые мы здесь не обсуждаем, и областей (2), собственные голоморфные отображения кратности выше единицы, не имеющие вида (1), могут быть определены только в ограниченных областях Рейнхарта, которые собственным отображением вида (1) можно перевести на область из одного из следующих классов: – области, имеющие голоморфные автоморфизмы вида (1), отличные от поворотов (так что их логарифмические диаграммы имеют аффинные симметрии с линейной частью из $\operatorname{GL}(2,\mathbb Z)$); – область Туллена
$$
\begin{equation}
\{(z_1,z_2)\in \mathbb C^2 \mid |z_1|^2+|z_2|^\alpha <1\}, \qquad \alpha>0
\end{equation}
\tag{3}
$$
(включающая или не включающая единичный круг на оси $Oz_1$); – “экспоненциальная область”
$$
\begin{equation}
\{(z_1,z_2)\in \mathbb C^2 \mid |z_2|> \exp(|z_1|^2)\}
\end{equation}
\tag{4}
$$
(здесь указана неограниченная реализация этой области в силу ее простоты; однако нетрудно указать и ее реализацию в виде ограниченной области Рейнхарта). Собственные отображения областей Рейнхарта с кусочно Леви-плоскими границами будут исследованы в готовящейся второй части статьи. В § 2 мы обсуждаем постановку задачи. Мы также вводим там наш основной инструмент – голоморфное соответствие $F$ на области определения $D$ собственного отображения $f$ – и устанавливаем результат о его продолжении на границу $D$ (предложение 1). В § 3 мы доказываем основной результат работы, разбив это доказательство на три леммы; первая из них связывает некоторые свойства $F$ с геометрией области определения, а в двух других разбирается структура отображения $F$ в зависимости от его свойств и от локальной $\mathrm{CR}$-эквивалентности или -неэквивалентности границы $D$ и единичной сферы в $\mathbb C^2$.
§ 2. Постановка задачи и предварительные соображения Пусть $D$ – ограниченная область Рейнхарта в $\mathbb C^2(z_1, z_2)$ с координатными осями $I_1$ и $I_2$, и пусть $f\colon D\to M$ – собственное голоморфное отображение $D$ на некоторое двумерное комплексное многообразие, не являющееся биголоморфным отображением (т. е. имеющее кратность больше $1$). Нас интересует, какие выводы относительно геометрии $D$ можно сделать на основе существования такого отображения, и что при этом можно сказать об $f$. Прежде всего заметим, что мы сразу можем считать $D$ псевдовыпулой областью Рейнхарта (так что ее логарифмическая диаграмма выпукла). Это обеспечивается следующим обобщением теоремы Кернера, установленным в [14]. Пусть $D$ – подобласть многообразия Штейна, $\widehat D$ – ее оболочка голоморфности, а $M$ – комплексное многообразие той же размерности $n\geqslant 2$. Пусть определено собственное голоморфное отображение $f\colon D\to M$. Тогда существуют пространство Штейна $\widehat M\supset M$, являющееся оболочкой голоморфности M, и собственное голоморфное отображение $\widehat f\colon \widehat D\to \widehat M$, продолжающее $f$. Хорошо известно, что оболочка голоморфности области Рейнхарта $D$ тоже является областью Рейнхарта, логарифмическая диаграмма которой является выпуклой оболочкой $\log |D|$. Так что мы будем сразу рассматривать задачу о собственном отображении $f$ ограниченной псевдовыпуклой области Рейнхарта $D$. Для решения задачи мы будем интересоваться прежде всего граничным поведением отображения. Однако мы ничего не сказали о границе многообразия $M$ в образе, так что обсуждать граничное поведение $f$, казалось бы, бессмысленно. На самом же деле, $M$ можно рассматривать как комплексное пространство, полученное отождествлением точек области $D$ с совпадающими $f$-образами, т. е. и $f$ и $M$ полностью определяются соответствующим отношением эквивалентности на $D$, так что вместо $f$ и $M$ мы можем исследовать именно это отношение эквивалентности. С этой целью, аналогично [14], естественно рассмотреть декартово произведение $D\times D$, а в нем – подмножество точек $\{(Z,W)\in D\times D\mid f(Z)=f(W)\}$. Заметим, что в силу собственности $f$ это подмножество является графиком собственного голоморфного соответствия $F\colon D\mapsto D$, которое мы будем называть ассоциированным с $f$. Если разветвленное накрытие $f$ $k$-кратно, то над каждой точкой $Z=(z_1,z_2)\in D$ вне некоторого аналитического подмножества находится $k$ точек этого графика. Пусть локально эти точки лежат на графиках голоморфных отображений $F_1=(F_{11},F_{12})$, $\dots$, $F_k=(F_{k1},F_{k2})$ (разумеется, одно из этих отображений тождественное, но здесь это несущественно). Заметим, что, если $V=\{\det f'=0\}$, то в силу собственности отображения $f(V)$ – аналитическое подмножество $M$, а множество ветвления соответствия $F$ совпадает с полным прообразом $f^{-1}(V)$, и вне этого множества ветвления отображения $F_j$ локально биголоморфны. Теперь докажем, что соответствие $F$ продолжается через границу области. Доказательство, основанное на аппарате проектора Бергмана, дается комбинацией подхода, например, Барретта [6] к собственным отображениям областей Рейнхарта (см. также [15] и [16]) и подхода Бедфорда и Белла в [17] (см. также [18]) к собственным голоморфным соответствиям гладких псевдовыпуклых областей. Предложение 1. В описанной выше ситуации собственное голоморфное соответствие $F\colon D\to D$ может быть продолжено в окрестность множества $\overline D\,{\setminus}\,(I_1\,{\cup}\,I_2)$ как голоморфное соответствие. Доказательство. Пусть $P$ – ортогональный проектор Бергмана пространства $L^2(D)$ на подпространство голоморфных $L^2$-функций на $D$. Рассмотрим оператор $\Lambda$, задаваемый на функциях $\varphi$ формулой
$$
\begin{equation*}
\Lambda\varphi(Z)=\sum \det(F_j'(Z))\varphi(F_j(Z)) \quad \text{п.в.}
\end{equation*}
\notag
$$
Как показано в [17], этот оператор действует из $L^2(D)$ в себя. В той же работе установлено, что
$$
\begin{equation}
P\Lambda=\Lambda P.
\end{equation}
\tag{5}
$$
Для ограниченной области Рейнхарта $D$ и любого мультииндекса $\alpha\,{=}\,(\alpha_1,\alpha_2)$ с неотрицательными компонентами, в лемме 8 из [6] Барретт явно указал такую гладкую финитную функцию $\varphi^\alpha$, что $P(\varphi^\alpha)=Z^\alpha$.
Заметим, что проектор Бергмана $P$ действует на функции по интегральной формуле
$$
\begin{equation*}
P\varphi(Z)=\int_D K_D(Z,W)\varphi(W)\, dv(W),
\end{equation*}
\notag
$$
где $K_D$ – кернфункция Бергмана области $D$. Как несложно показать, буквально повторяя рассуждения леммы 9 из [ 6], кернфункция ограниченной области Рейнхарта продолжается в окрестность множества $(\overline D\setminus(I_1\cup I_2))\times D$ голоморфно по $Z$ и антиголоморфно по $W$. Значит, для всякой финитной функции $\varphi$ ее проекция $P\varphi$ голоморфна в окрестности $\overline D\setminus(I_1\cup I_2)$.
Поскольку $F$ – собственное соответствие, оператор $\Lambda$ переводит финитные функции в финитные. Теперь для любого мультииндекса $\alpha$ с неотрицательными компонентами, подставив функцию $\varphi^\alpha$ в (5), мы видим, что $\Lambda W^\alpha$ голоморфно продолжается через границу $D$ вне координатных осей.
Буквальное повторение рассуждений из доказательства теоремы 3 в [17] показывает, что тем же свойством обладают элементарные симметрические функции от координат $F_{j1}$, $j=1,\dots,k$, и $F_{j2}$, $j=1,\dots,k$, компонентов многозначного отображения $F$, т. е. функции $F_{j1}$ и $F_{j2}$ являются решениями полиномиальных уравнений степени $k$ от $W$ с коэффициентами, зависящими от $Z$ и голоморфно продолжающимися в окрестность $\overline D\setminus(I_1\cup I_2)$. Это и означает, что $F$ продолжается через границу области вне осей координат. Предложение доказано.
§ 3. Геометрия областей, допускающих собственные отображения Лемма 1. Пусть $D$ – ограниченная псевдовыпуклая область Рейнхарта в $\mathbb C^2$, $f\colon D\to M$ – ее собственное голоморфное отображение кратности выше единицы на двумерное комплексное многообразие, а $F$ – ассоциированное голоморфное соответствие. Тогда имеет место один из следующих трех случаев: a) все отображения $F_j$ переводят стандартные торы в стандартные торы; b) вне координатных осей $\partial D$ является вещественно-аналитической гиперповерхностью, локально $\mathrm{CR}$-эквивалентной сфере; c) $\partial D$ кусочно Леви-плоская. Доказательство. Обозначим
$$
\begin{equation*}
S=\{X=\log |Z| \in \log|\partial D| \mid F_j(T_{Z}) \subset T_{F_j(Z)} \ \forall\, j\}.
\end{equation*}
\notag
$$
Каждой точке множества $S$ отвечает некоторый стандартный тор на $\partial D$. Рассмотрим граничную точку $Z\in\partial D$, лежащую вне этих торов, множества ветвления $F$ и координатных осей. Тогда для некоторого $j$ имеем $F_j(T_{Z}) \not\subset T_{F_j(Z)}$. Однако $F_j$ является локальным биголоморфизмом, переводящим окрестность $U$ точки $Z$ на $\partial D$ в окрестность точки $F_j(Z)$ на $\partial D$. Двумерная группа поворотов вокруг координатных осей действует на $U$ локально биголоморфно, а $F_j^{-1}$ переносит на $U$ действие группы поворотов на окрестности точки $F_j(Z)$, причем в силу выбора точки $Z$ эти два действия имеют разные орбиты. Значит, в окрестности точки $Z$ $\partial D$ представляет собой трехмерную локально $\mathrm{CR}$-однородную вещественно аналитическую гиперповерхность (соответственно диаграмма $\log |\partial D|$ в окрестности точки $\log |Z|$ представляет собой вещественно-аналитическую кривую). Такие поверхности естественно разбиваются на три подкласса: локально $\mathrm{CR}$-эквивалентные сфере (сферические), (локально $\mathrm{CR}$-однородные) несферические строго псевдовыпуклые и Леви-плоские. Таким образом, вне торов из $S$ граница области состоит из участков этих трех типов.
Однако, как давно было замечено (например, в [19]), на трехмерной несферической строго псевдовыпуклой поверхности может быть только одно действие двумерной абелевой группы $\mathrm{CR}$-автоморфизмов. Так что, если на $\partial D$ есть несферический строго псевдовыпуклый участок, то стандартные торы, проходящие через точки на нем, переводятся отображениями $F_j$ снова в стандартные торы, а значит, это верно вообще для всех стандартных торов и, в частности, $S=\log|\partial D|$.
Теперь предположим, что $\partial D$ содержит сферический участок. Этому участку соответствует некоторая кривая на логарифмической диаграмме. Все возможные здесь кривые хорошо известны (см., например, [20]); с точностью до аффинного преобразования они имеют одно из следующих уравнений:
$$
\begin{equation}
x_2 =x_1^2,
\end{equation}
\tag{6}
$$
$$
\begin{equation}
x_2 =\exp(2x_1),
\end{equation}
\tag{7}
$$
$$
\begin{equation}
x_2 =\log(\sin x_1), \qquad 0<x_1<\pi,
\end{equation}
\tag{8}
$$
$$
\begin{equation}
\exp(2x_1) + \exp (2x_2)=1.
\end{equation}
\tag{9}
$$
Если рассматриваемый участок границы проецируется на полную кривую одного из этих видов, то, поскольку она ограничивает выпуклую область, она и является логарфмической диаграммой границы $D$, так что имеет место случай b). Если же он проецируется на некоторый сегмент такой кривой, то концевая точка этого сегмента принадлежит множеству $S$. На соответствующем торе выберем точку $Z$, не лежащую на множестве ветвления $F$. Рассмотрев любое из отображений $F_j$ и рассуждая как выше, на окрестности $U$ этой точки на $\partial D$ мы получаем локальное действие двух двумерных абелевых групп, причем тор $T_Z$ является орбитой действия каждой из этих групп. Однако “половина” окрестности $U$ состоит из сферических точек и, выбрав подходящую $\mathrm{CR}$-карту в окрестности $Z$, мы можем считать, что эта половина лежит на единичной сфере. Таким образом, на сфере локально (а значит, и глобально) действуют две абелевы группы $\mathrm{CR}$-преобразований, имеющие общую орбиту. Однако тогда на сфере действия этих групп совпадают, а значит, это происходит на “половине” окрестности $U$, а значит, и на всей $U$. Поскольку $j$ может быть любым, все стандартные торы вблизи $Z$ переводятся отображениями $F_j$ снова в стандартные торы. В итоге мы опять находимся в ситуации из a) и, в частности, $S=\log|\partial D|$.
Таким образом, либо множество $S$ пусто и мы имеем случай b), либо $S=\log|\partial D|$ и мы имеем случай a), либо участки между торами из множества $S$ Леви-плоские.
Для завершения доказательства леммы осталось продемонстрировать, что, если в последнем случае множество $S$ недискретно, то мы или опять на самом деле имеем случай a), либо у всякой сходящейся последовательности точек множества $S$ все элементы, кроме конечного числа, лежат на одном или двух прямолинейных сегментах границы $\log |\partial D|$ диаграммы области.
Действительно, пусть $X$ – точка из $S$, являющаяся предельной для последовательности точек $X_k\in S$. Пусть $Z\in\mathbb C^2$ – точка, лежащая вне множества ветвления $F$ и проецирующаяся в $X$, $U$ – ее малая окрестность, а $Z_k$ – точки из $U$, проецирующиеся в $X_k$ и сходящиеся к $Z$. Рассмотрим произвольное отображение $F_j$. В окрестности $\overline D$ рассмотрим голоморфные векторные поля
$$
\begin{equation*}
\xi_1=iz_1\frac{\partial}{\partial z_1}\quad\text{и}\quad \xi_2=iz_2\frac{\partial}{\partial z_2}.
\end{equation*}
\notag
$$
В каждой точке вне осей координат они образуют базис $(1,0)$-полей, поэтому поля $(F_j^{-1})*\xi_1$ и $(F_j^{-1})*\xi_2$ на $U$ можно разложить по этому базису с голоморфными коэффициентами. В итоге мы получаем четыре голоморфные функции $q_{11},\dots, q_{22}$, причем, поскольку поля $(F_j^{-1})*\xi_1$ и $(F_j^{-1})*\xi_2$ касаются торов $T_{Z_k}$, полученные голоморфные функции вещественны на этих торах.
Пусть $s_{11},\dots,s_{22}$ – мнимые части этих функций. Это плюригармонические функции. Вещественно-аналитические множества их нулей содержат одну и ту же неприводимую компоненту, содержащую бесконечное подсемейство торов $T_{Z_k}$. Значит, сама эта компонента инвариантна относительно вращений вокруг координатных осей, так что она является Леви-плоской вещественно-аналитической гиперповерхностью, проекция которой на плоскость логарифмической диаграммы оказывается отрезком прямой, пересекающим $\log |\partial D|$ в бесконечном числе точек $X_k$. Однако кривая $\log |\partial D|$ выпукла, так что она должна включать в себя часть этого отрезка с концом в $X$. Эта часть содержит все точки $X_k$, лежащие по одну сторону $X$, начиная с некоторой. Если по другую сторону $X$ тоже лежит бесконечное множество точек $X_k$, то мы повторяем рассуждения. Это завершает доказательство леммы. Как было сказано во введении, случай c) мы в этой работе подробнее разбирать не будем. Два же других случая рассматриваются в следующих двух леммах. Лемма 2. Пусть $D$ – ограниченная псевдовыпуклая область Рейнхарта в $\mathbb C^2$, $f\colon D\to M$ – собственное голоморфное отображение $D$ кратности выше единицы на двумерное комплексное многообразие, а $F$ – ассоциированное голоморфное соответствие, причем все отображения $F_j$ переводят стандартные торы в стандартные торы. Тогда имеет место один из трех случаев: 1) все отображения $F_j$ являются поворотами вокруг координатных осей, а $f$ является факторизацией области $D$ по конечной группе поворотов; 2) все отображения $F_j$ являются элементарными голоморфными автоморфизмами $D$, а $f$ является факторизацией $D$ по группе порядка 2, 3, 4, 6, 8 или 12 элементарных биголоморфизмов $D$, отличных от вращений вокруг осей; 3) $f$ сводится к элементарному собственному отображению 2[x]2т. е. к факторизации типа 1). и последующей факторизации типа 2) полученной области Рейнхарта. Замечание 2. Разумеется, случай 3) на самом деле охватывает случаи 1) и 2). Замечание 3. Заметим, что в случае 1) на многообразии $M$ также возникает естественная структура области Рейнхарта, а в случаях 2) и 3) это не так. Доказательство леммы 2. Раз (вообще говоря, локально определенные) отображения $F_j$ переводят стандартные торы в стандартные, они должны иметь вид (1) с вещественными показателями степени. Очевидно однако, что, если какой-то из этих показателей иррационален, то над общей точкой области $D$ лежит бесконечно много точек аналитического множества-графика соответствия $F$, что противоречит собственности $F$. Таким образом, все $F_j$ имеют вид (1) с рациональными показателями степеней. Заметим, что множество ветвления такого соответствия $F$ – это одна или обе оси координат.
Рассмотрим какое-то отображение $F_j$, отличное от тождественного, и пусть не все показатели степени в формулах вида (1) для него целые. К примеру, будем считать без ограничения общности, что $a$ – дробное число, представимое несократимой дробью ${k_1}/{l_1}$. Предположим, что при этом $c$ целое. Пусть $Z$ – граничная точка $D$, не лежащая на координатной оси, и пусть $F_j(Z)=W=(W_1,W_2)$. Тогда точки вида $(e^{2\pi i \nu k_1/l_1}W_1, W_2)$, $\nu\in\mathbb Z$, также лежат над $Z$, так что все они отождествляются при отображении $f\colon D\to M$. Поскольку $F_j$ локально биголоморфно, все точки $W'=(W'_1,W'_2)$ из окрестности $W$, а значит, и вообще из $\mathbb C^2$ отождествляются с точками вида $(e^{2\pi i \nu k_1/l_1}W'_1, W'_2)$, $\nu\in\mathbb Z$.
Теперь рассмотрим отображение $g_1\colon (z_1,z_2)\mapsto (z_1^{l_1}, z_2)$. Оно отображает $D$ собственным образом на некоторую область Рейнхарта $D_1$ и соответствует факторизации $D$ по поворотам на угол $2\pi/l_1$ вокруг оси $Oz_2$, т. е. отождествлению точек вида $(z_1,z_2)$ и $(e^{2\pi i/l_1}z_1, z_2)$, отождествляемых также и отображением $f$.
Если же $c$ – тоже дробное число, представимое несократимой дробью ${k_2}/{l_2}$, то, прежде всего, это несовместимо с собственностью $f$ вблизи оси $Oz_2$, так что $D$ не пересекает эту ось. В этом случае положим $l=\text{НОД}(l_1,l_2)$ и пусть $s$ – решение сравнения $sk_1\equiv k_2l_1/l \ \operatorname{mod} l_1$. Тогда отображение $g_1\colon (z_1,z_2)\mapsto (z_1^{l_1}, z_1^s z_2^{l_2/l})$ снова отображает $D$ собственным образом на ограниченную область Рейнхарта $D_1$ и отождествляет некоторые пары точек, отождествляемые также и отображением $f$.
В обоих случаях $f$ разлагается в композицию $f=f_1\circ g_1$, где и $g_1\colon D\to D_1$ и $f_1\colon D_1\to M$ – собственные отображения, причем $g_1$ – элементарное отображение кратности выше единицы.
Пусть $F^1$ – голоморфное соответствие $D_1\mapsto D_1$, ассоциированное с $f_1$. Его компоненты также переводят стандартные торы в стандартные торы, так что мы можем применить к нему те же соображения, что и выше.
В итоге мы можем последовательно получить разложения $f=f_k\circ g_k$ в композицию элементарных собственных отображений $g_k\colon D\to D_k$ возрастающей кратности и собственных отображений $f_k\colon D_k\to M$. Поскольку кратность $f$ конечна, на некотором шаге продолжение этой процедуры станет невозможным, т. е. компоненты голоморфного соответствия $F^k$, ассоциированного с $f_k$, будут иметь представления вида (1) с целыми показателями степени. Иными словами, они будут однозначными собственными голоморфными отображениями области $D_k$. Эти компоненты $F_j^k$ дают полное описание пар точек области $D_k$, отождествляемых отображением $f_k$. В силу этого всякая композиция $F_j^k\circ F_l^k$ также является отображением из этого семейства, так что все эти отображения должны иметь кратность, равную единице, т. е. быть биголоморфными, и образовывать некоторую группу $G$ биголоморфных автоморфизмов $D_k$.
Заметим также, что, если группа $G$ содержит также повороты, то подгруппа таких поворотов нормальна в $G$ и мы можем профакторизовать $D_k$ по действию этой подгруппы, получив новую область Рейнхарта $D'_k$, связанную с $D_k$ отображением вида (1), причем в $D'_k$ индуцируется собственное голоморфное отображение в многообразие $M$, имеющее кратность меньше, чем у $f_k$. Таким образом, мы можем считать, что $G$ изоморфна некоторой конечной подгруппе группы $\operatorname{GL}(2,\mathbb Z)$. Напомним (см., например, [21]), что такие подгруппы могут иметь порядок 2, 3, 4, 6, 8 и 12. Это завершает доказательство леммы. Переходя к анализу случая b) леммы 1, т. е. к областям Рейнхарта, ограниченным сферическими гиперповерхностями, сделаем два замечания. Замечание 4. В принципе, возможна ситуация, когда внутренность замыкания $\mathring{\overline{D}}$ псевдовыпуклой области Рейнхарта не совпадает со всей областью $D$: это происходит, когда область не пересекает координатной оси (или обеих осей), а ее замыкание пересекается с этой осью по кругу или кольцу. Несложно видеть, что в этом случае голоморфное соответствие $F$ продолжается на $\mathring{\overline{D}}$, так что существует такое собственное отображение $f_1\colon \mathring{\overline{D}}\to M_1\supset M$, что $f_1|_M=f$. В очередной лемме, чтобы дополнительно не утяжелять доказательство, мы будем считать, что
$$
\begin{equation}
\mathring{\overline{D}}=D.
\end{equation}
\tag{10}
$$
Замечание 5. Напомним, что логарифмические диаграммы областей Рейнхарта, ограниченных сферическими гиперповерхностями, сами ограничены кривыми вида (6)–(9) или аффинно эквивалентными им кривыми. При этом, как было показано в [2] и [3], неэлеменарные биголоморфные автоморфизмы имеются только у некоторых из областей этих классов, ограниченных кривыми, аффинно эквивалентными (7) и (9). С другой стороны, у каждой из кривых (6)–(9), кроме (7), есть лишь одна конечная группа аффинных симметрий, а именно, группа порядка два, порожденная отражением относительно оси симметрии, – и, соответственно, у областей Рейнхарта с логарифмическими диаграммами, ограниченными такими кривыми, может быть не более одной конечной (порядка два) группы элементарных биголоморфных автоморфизмов, отличных от поворотов вокруг координатных осей. У кривой же (7) конечной группы аффинных симметрий нет вообще. Лемма 3. Пусть $D$ – ограниченная псевдовыпуклая область Рейнхарта в $\mathbb C^2$, удовлетворяющая условию (10), граница которой вне осей координат является вещественно-аналитической гиперповерхностью, локально $\mathrm{CR}$-эквивалентной сфере. Пусть $f\colon D\to M$ – собственное голоморфное отображение кратности выше единицы этой области на двумерное комплексное многообразие. Тогда логарифмическая диаграмма $D$ ограничена кривой аффинно эквивалентной одной из кривых (6)–(9) и имеет место один из двух случаев: 1) $f$ является композицией собственного элементарного отображения $D$ на область Рейнхарта $D_1$ с логарифмической диаграммой, ограниченной кривой такого же типа3[x]3в том смысле, что ограничивающая ее кривая описывается уравнением того же вида из числа (6)–(9), что и кривая, отвечающая $D$., и факторизации $D_1$ по действию конечной группы биголоморфных автоморфизмов $D_1$; 2) с точностью до растяжений координат $D$ может быть задана неравенством (2), где $k_j, l_j\in \mathbb N$ и $k_1$, $k_2$ взаимно просты с $l_1$, $l_2$ соответственно, а $f$ является композицией многозначного отображения $(z_1, z_2)\mapsto (z^{k_1/l_1}_1, z^{k_2/l_2}_2)$ области $D$ на единичный двумерный шар и факторизации единичного шара по действию конечной группы $G$ унитарных преобразований, содержащей вращения $(z_1,z_2)\mapsto (e^{2\pi i \nu_1/l_1}z_1, e^{2\pi i \nu_2/l_2}z_2)$, $\nu_{1}=1,\dots,l_1$, $\nu_{2}=1,\dots,l_2$. Доказательство. График голоморфного соответствия $F$ является объединением нескольких неприводимых компонент $A_j$, каждую из которых можно рассматривать как график некоторого голоморфного соответствия $F_j\colon D\to D$. Пусть $A'$ – объединение тех из них, для которых $F_j$ переводит стандартные торы в стандартные торы. Нетрудно видеть, что голоморфное соответствие $F'$ с графиком $A'$ собственное и задает отношение эквивалентности на $D$, так что оно ассоциировано с собственным отображением $f'$ области $D$ на некоторое двумерное комплексное многообразие $M'$. Более того, соответствующие классы эквивалентности точек $D$ содержатся по определению в прообразах точек многообразия $M$ относительно $f$, так что возникает собственное голоморфное отображение $f''\colon M'\to M$, причем $f=f''\circ f'$.
Отображение $f'$ охватывается леммой 2, так что $M'$ представляет собой либо область Рейнхарта (обозначим ее $D'$), либо факторизацию некоторой области Рейнхарта (снова обозначим ее $D'$) по действию группы ее элементарных автоморфизмов порядка 2, 3, 4, 6, 8 или 12. Однако логарифмическая диаграмма области $D'$ имеет тот же тип, что и логарифмическая диаграмма $D$. Так что, если $D'$ – не шар, то у нее нет конечных групп элементарных автоморфизмов порядков 3, 4, 6, 8 или 12, отличных от поворотов вокруг осей координат (потому что у соответствующих логарифмических диаграмм нет конечных групп аффинных симметрий этих порядков с линейными частями из $\operatorname{GL}(2,\mathbb Z)$).
Таким образом, нам надо исследовать собственное голоморфное отображение $\widetilde f\colon D'\to M$ с тем свойством, что, если оно, в частности, отождествляет пары стандартных торов, то это отождествление соответствует действию на $D'$ некоторого элементарного биголоморфного автоморфизма порядка два отличного от поворота вокруг осей координат.
Чтобы не усложнять нотацию, в ходе дальнейшего доказательства будем считать, что исходное отображение $f\colon D\to M$ само имеет это свойство.
Как и в лемме 2, рассмотрим граничную точку $Z\,{\in}\,\partial D\setminus (I_1\cup I_2)$, над окрестностью которой график соответствия $F$ является объединением непересекающихся графиков (локально определенных) голоморфных отображений $F_j$, и рассмотрим одну из этих компонент $F_j$.
Сначала отдельно разберем ситуацию, когда $D$ – шар. Как известно, всякое локально заданное $\mathrm{CR}$-отображение сферы $S^3\subset \mathbb C^2$ в себя (в частности, $F_j|_{\partial D}$) продолжается до глобального $\mathrm{CR}$-автоморфизма. Таким образом, в случае шара граничные значения каждого отображения $F_j$, определенного в окрестности точки $Z$, продолжаются до граничных значений некоторого биголоморфного автоморфизма шара. В силу определения компонент $F_j$ голоморфного соответствия $F$, семейство полученных так автоморфизмов образует группу, так что $f$ является отображением факторизации по действию конечной группы биголоморфных преобразований. После некоторой биголоморфной замены координат в шаре эту группу можно считать состоящей из унитарных преобразований.
Пусть теперь $D$ – не шар.
1. Рассмотрим ситуацию, когда $f$ не отождествляет (почти никакие) стандартные торы с другими стандартными торами.
Пусть $Z_1=F_j(Z)$. Будем аналитически продолжать $\mathrm{CR}$-отображение $F_j|_{\partial D}\colon Z \mapsto Z_1$, определенное в окрестности $U(Z)$, вдоль путей на $ \partial D\setminus (I_1\cup I_2)$, и продолженное таким образом отображение обозначим через $\varphi$. Пусть $\gamma$ – путь на $\partial D\setminus (I_1\cup I_2)$ с началом в $Z$, и пусть $\varphi$ продолжено вдоль открытого интервала этого пути, с конечной точкой $Z'$. Тогда предельные точки $\varphi(\gamma)$ на $\partial D$ должны принадлежать дискретному множеству $F(Z')$, так что при подходе к $Z'$ у $\varphi(\gamma)$ есть единственная предельная точка $Z'_1$. Если $Z'_1$ не лежит на координатной оси, или она лежит на оси, но все равно является гладкой строго псевдовыпуклой (и потому сферической) точкой границы, то рассмотрим $\mathrm{CR}$-диффеоморфизмы малых окрестностей точек $Z'$ и $Z'_1$ на некоторые области на трехмерной сфере в $\mathbb C^2$ и пусть $W\in\gamma$ и $W_1=\varphi(W)$ – точки из этих окрестностей. Во введенных картах отображение $\varphi$ продолжается из окрестности точки $W$ до $\mathrm{CR}$-автоморфизма сферы. В частности, оно продолжается в окрестность точки $Z'$, причем $\varphi(Z')=Z'_1$ в силу выбора $Z'_1$.
Таким образом, проблема с продолжением отображения $\varphi$ может возникнуть только тогда, когда в образе мы подходим к несферической граничной точке на координатной оси вдоль пути, лежащего на сферическом участке границы. Предположим, что эта точка – начало координат, и рассмотрим локально неприводимую компоненту $A$ аналитического множества $\{(W,F(W))\}$, проходящую через точку $(Z',Z'_1=O)$. На $\partial D$ определены два действия $S^1$ поворотами вокруг осей координат, причем $O$ – неподвижная точка этих действий. Рассмотрим открытое подмножество $V$ окрестности $O$ на $\partial D$, образованное орбитами одного из них, не пересекающими проекции на вторую компоненту произведения $\overline{D}\times \overline{D}$ множеств ветвления множества $A$ над первой и над второй компонентами (проекции $A$ на обе компоненты – собственные отображения, поскольку соответствие $F$ продолжается через $\partial D$ в окрестности $Z'$). Сама точка $O$ лежит в замыкании этого открытого подмножества.
Рассмотрим $\mathrm{CR}$-векторное поле на $V$, отвечающее рассматриваемому действию, поднимем его на $A$ и спроецируем на окрестность точки $Z'$. Мы получили (априори многозначное) $\mathrm{CR}$-векторное поле $\chi$ на открытом подмножестве этой окрестности, содержащем $Z'$ в своем замыкании. Заметим, что орбиты действия $S^1$, лежащие в $V$, поднимаются на $A$ как замкнутые кривые в силу собственности проекции на вторую компоненту. Проекции этих замкнутых кривых на окрестность точки $Z'$ являются интегральными траекториями полученного поля. Поскольку в малой окрестности $Z'$ есть сферическая карта, любой однозначный росток поля $\chi$ продолжается до однозначного $\mathrm{CR}$-поля на сфере, причем на открытом подмножестве рассматриваемой окрестности, а значит, и всюду не сфере, интегральные траектории этого поля замкнуты, и при приближении к точке $Z'$ диаметр интегральной траектории стремится к нулю, так что в точке $Z'$ поле обращается в нуль.
Ту же процедуру можно проделать и со вторым действием $S^1$ на $V$ в окрестности начала координат. Тем самым, в окрестности точки $Z'$ мы получаем два поля с замкнутыми траекториями, обращающиеся в нуль в $Z'$. Заметим, что, поскольку повороты вокруг координатных осей коммутируют, полученные векторные поля также коммутируют. Однако у коммутирующих линейно независимых $\mathrm{CR}$-полей с замкнутыми траекториями на $S^3$ не может быть общих нулей, так что мы пришли к противоречию.
1.1. Случай областей, не пересекающих координатных осей. Ограниченные области Рейнхарта типа (6) и некоторые из областей типа (7), (8) и (9) не пересекают координатных осей, причем их замыкания выходят на оси только в начале координат. В силу только что проведенных рассуждений, на границах таких областей каждый росток $\mathrm{CR}$-отображения $F_j|_{\partial D}$ неограниченно продолжается по путям, лежащим на сферической части. Отсюда следует, что у соответствия $F$ нет множества ветвления в $D$.
Будем рассматривать неприводимую компоненту $F_j$ этого соответствия, отличную от тождественного отображения (если такая существует), забыв пока о существовании других компонент (или, эквивалентно, будем рассматривать неприводимую компоненту аналитического множества $\{(W,F(W))\}$, $W\in\overline{D}$). Продолжив $F_j|_{\partial D}$ из окрестности точки $Z$ по кривой не гомотопной нулю, а, скажем, обходящей вокруг оси $Oz_2$, мы, вообще говоря, можем вернуться в точку $Z$ с другой ветвью отображения $\varphi$. Рассмотрим область Рейнхарта $D'$ того же типа, что и $D$, накрывающую $D$ отображением вида
$$
\begin{equation}
(z_1,z_2)\mapsto (z^{k_1}_1, z^{k_2}_2), \qquad k_1,k_2\in \mathbb N.
\end{equation}
\tag{11}
$$
Зафиксировав какой-нибудь прообраз $Z'$ точки $Z$ относительно этого накрытия, в $D'\times D$ мы получим связное аналитическое подмножество $A_j\,{\ni}\,(Z', F_j(Z)))$, являющееся прообразом множества $\{(Z, F_j(Z))\}$ относительно индуцированного накрытия. Подбирая подходящие степени, мы можем добиться, чтобы над каждой сферической граничной точкой $D'$ лежала ровно одна точка $A_j$, так что $A_j$ окажется графиком собственного отображения $D'\to D$.
Теперь мы можем подобрать отображение вида (11) (возможно, с другими показателями степени) некоторой области Рейнхарта $D''$ на $D$ такое, что в прямом произведении $D'\times D''$ над каждой сферической граничной точкой $D''$ лежит ровно одна точка некоторого связного прообраза $A'_j$ множества $A_j$ относительно проекции $D'\times D''\to D'\times D$. Это означает, что $A'_j$ – график собственного голоморфного отображения $D'\to D''$ кратности один, т. е. биголоморфного отображения.
Согласно разделу 1 в [2] (см. также [3]), любое биголоморфное отображение между ограниченными (и даже просто гиперболическими по Кобаяси) областями Рейнхарта $D'$ и $D''$ является композицией биголоморфного автоморфизма $D'$ и элементарного биголоморфного отображения $D'\to D''$. Однако, как следует из теоремы 3 в [2] (см. введение в [2]), у областей Рейнхарта, не пересекающих оси координат, нет неэлементарных автоморфизмов. Таким образом, возникшее отображение $D'\to D''$ элементарно, а значит, переводит стандартные торы в стандартные торы, так что отображение $F_j$ тоже должно иметь это свойство – а этот случай мы в п. 1 не рассматриваем. Значит, $F$ сводится к тождественному отображению, а $f$ биголоморфно.
1.2. Области, пересекающие одну координатную ось. Рассмотрим ограниченные области Рейнхарта типов (7)–(9), пересекающие только одну координатную ось (к примеру $Oz_2$).
1.2.1. Если на границе области из этого класса, при продолжении ростка граничных значений компонент $F_j$ соответствия $F$ по путям на сферической части границы мы либо (a) никогда не выходим в образе на ось $Oz_2$, либо (b) граничные точки, лежащие на оси, также строго псевдовыпуклые и сферические, то такие ростки неограниченно продолжаются по сферической части границы области.
Снова выбрав неприводимую компоненту $F_j$ соответствия $F$, отличную от тождественного отображения, и рассуждая как в п. 1.1, мы получим области $D'$ и $D''$, накрывающие $D$ и связанные биголоморфным отображением. Однако теперь либо (a) отображение $D'\to D''$ является композицией биголоморфного автоморфизма $P$ области $D'$, оставляющего ось $Oz_2$ инвариантной, и элементарного отображения, либо (b) $D'$ и $D''$ накрывают $D$ отображениями вида $z_2\to z^k_2$ и, поскольку между биголоморфно эквивалентными ограниченными областями Рейнхарта всегда есть элементарный биголоморфизм (см. [2; разд. 1]), показатели степени у этих отображений должны быть одинаковыми, так что $D'=D''$. Тогда, в случае (b) у области $D'$ существует такой биголоморфный автоморфизм $P$, что, если $P(W)=W_1$ и проекции точек $W$ и $W_1$ на $D$ равны $Z$ и $Z_1$, то $f(Z)=f(Z_1)$. Но в этом случае любая положительная степень $P$ также обладает этим свойством и, в силу собственности $f$, степени $P$ должны образовывать конечную группу.
Однако у областей типа (8), а также у областей типа (9), не пересекающих оси $Oz_1$, нет неэлементарных автоморфизмов.
Рассмотрим теперь области типа (7), пересекающие ось $Oz_2$. Те из них, которые имеют неэлементарные автоморфизмы, могут быть получены биголоморфными элементарными преобразованиями из неограниченной области (4), биголоморфные автоморфизмы которой имеют вид
$$
\begin{equation*}
(z_1, z_2) \mapsto (e^{it_1}z_1 + s,\, e^{it_2}\exp(2\overline{s}e^{it_1}z_1 + |s|^2)z_2), \qquad t_1, t_2, s\in \mathbb R
\end{equation*}
\notag
$$
(см. [ 2]). Нетрудно видеть, что неэлементарные автоморфизмы области типа (7), пересекающей ось $Oz_2$, обязательно сдвигают эту ось и коммутируют с поворотами вокруг оси $Oz_1$. Поэтому для областей из этого класса, в случае (a) $P$ должен быть элементарным, а в случае (b) действие $P$ пропускается через накрытие $D'\to D$.
Если $P$ элементарен, то он переводит стандартные торы в стандартные торы. Но тогда и отображение $F_j$ должно иметь то же свойство, а этот случай мы в п. 1 не рассматриваем.
Единственный оставшийся случай – это область $D$ типа (7), пересекающая ось $Oz_2$, и действующая на $D$ конечная циклическая группа неэлементарных биголоморфных автоморфизмов. Однако профакторизовать $D$ по действию такой группы – это то же самое, что выполнить отображение $D\to D$ неэлементарным автоморфизмом, а затем профакторизовать по действию циклической группы вращений вокруг координатных осей. Если эта группа вращений содержит только вращения вокруг оси $Oz_1$, то мы снова получим область Рейнхарта $D_1$ биголоморфно эквивалентную (4), причем мы можем считать, что мы сначала профакторизовали $D$ по вращениям, а потом выполнили неэлементарный автоморфизм $D_1$. В противном же случае, для других групп вращений, у получившейся области Рейнхарта $D_1$ типа (7) уже нет неэлементарных автоморфизмов.
В силу сказанного, отображение $f$ представляется в виде композиции накрытия $D\to D_1$ и собственного отображения $f_1\colon D_1\to M$. Отображение $f_1$ можно снова исследовать по плану, изложенному в этом подпункте, так что, если у $D_1$ нет неэлементарных автоморфизмов, то $f_1$ имеет кратность единица и это – биголоморфное отображение. Если же кратность $f_1$ на самом деле выше, то у $D_1$ должны быть неэлементарные автоморфизмы и мы приходим к области $D_2$, причем мы можем считать, что $D_2$ получена факторизацией исходной области $D$ по действию некоторой группы неэлементарных биголоморфных автоморфизмов и так далее, пока мы не придем к биголоморфному отображению на $M$.
1.2.2. Если же граница пересекает координатную ось $Oz_2$, мы продолжаем по путям $\mathrm{CR}$-отображение $\varphi$, заданное своим ростком в точке $Z\in \partial D$ как ограничение на границу области компоненты $F_j$ голоморфного соответствия $F$, и в процессе продолжения вдоль некоторого пути $\gamma$ образом точки $Z'$, конца $\gamma$, оказывается несферическая граничная точка $Z'_1$, лежащая на координатной оси $Oz_2$, но отличная от начала координат, то, как в начале п. 1, мы рассмотрим действия групп вращений вокруг координатных осей на окрестность точки $Z'_1$, причем выберем в этой окрестности голоморфные координаты $(w_1,w_2)$, в которых $Z'_1$ – начало координат, а соответствующие векторные поля имеют вид $iw_1\partial/\partial w_1$ и $\partial/\partial w_2$. Как и раньше, рассмотрим локально неприводимую компоненту $A$ аналитического множества $\{(W,F(W))\}$, проходящую через точку $(Z',Z'_1)$. Рассмотрим открытое подмножество $V$ окрестности $Z'_1$ на $\partial D$, образованное орбитами первого векторного поля, не пересекающими проекции на вторую компоненту произведения $D\times D$ множеств ветвления множества $A$ над первой и над второй компонентами. Точка $Z'_1$ лежит в замыкании $V$.
Так же, как и выше, поднимая эти поля на $A$ и проецируя на первую компоненту произведения $\overline{D}\times \overline{D}$, мы получаем однозначные $\mathrm{CR}$-векторные поля в окрестности сферической точки $Z'$ на границе $D$, причем первое поле имеет замкнутые траектории с диаметром, стремящимся к нулю при приближении к $Z'$, а второе коммутирует с первым. Следовательно, мы можем выбрать голоморфную систему координат $(u_1, u_2)$ в окрестности $Z'$, в которой $Z'=(0,0)$, первое поле имеет вид $iru_1\,\partial/\partial u_1$ с каким-то $r=k/l\in \mathbb R$, где $k$ и $l$ – взаимно простые натуральные числа ($r$ – рациональное, но не обязательно целое число, поскольку один обход замкнутой интегральной траектории на $A$ может соответствовать нескольким обходам интегральной траектории в окрестности $Z'_1$ и, вообще говоря, другому числу обходов траектории в окрестности $Z'$), второе имеет вид $\partial/\partial u_2$, а граница $D$ может быть задана уравнением
$$
\begin{equation*}
\operatorname{Im} u_2=|u_1|^2.
\end{equation*}
\notag
$$
Легко видеть, что вблизи $ Z'$ в выбранных координатах отображение $\varphi$, переводящее эту пару векторных полей в первую пару, должно иметь вид
$$
\begin{equation}
(c u^{l/k}_1, u_2),
\end{equation}
\tag{12}
$$
и соответственно в окрестности точки $Z'_1$ граница $\partial D$ задается уравнением
$$
\begin{equation}
|c|^{2k/l} \operatorname{Im} w_2=|w_1|^{2k/l}.
\end{equation}
\tag{13}
$$
Заметим, что, с другой стороны, степень $|w_1|$ в этом уравнении определяется параметрами конкретного уравнения типа (7)– (9), задающего $D$ (например, если $\partial D$ задается уравнением $\alpha x_1=\log(\sin \beta x_2)$ типа (8), то $2k/l=\alpha$). Следовательно, если при продолжении какого-то другого ростка граничных значений компоненты соответствия $F$ по путям на сферической части границы мы также выходим в образе на ось $Oz_2$, то вблизи этой оси, в подходящих голоморфных координатах продолженное $\mathrm{CR}$-отображение границ снова будет иметь вид (12).
Введем область $D'$, проецируемую на $D$ отображением $(z_1,z_2)\mapsto (z^l_1 z_2, z_2)$, и рассмотрим индуцированное собственное отображение $f'\colon D'\to M$. У области $D'$ часть границы в окрестности оси $Oz_2$ в подходящих голоморфных координатах задается уравнением вида (13) с $l=1$.
Предложение 2. Собственные отображения области $D'$, отождествляющие граничные точки, лежащие на оси $Oz_2$, со сферическими граничными точками, пропускаются через проекцию $D'\to D''$, $(z_1,z_2)\mapsto (z^k_1, z_2)$. Доказательство. Действительно, если точка на оси $Oz_2$ отождествляется со сферической, то в окрестности точки на оси, в подходящих координатах отождествляющее отображение имеет вид
$$
\begin{equation*}
(c w^{k}_1, w_2).
\end{equation*}
\notag
$$
Если $k=1$, то доказывать нечего. Пусть $k>1$. Тогда из формулы выше мы видим, что точки вида $(\exp(2\pi i \nu/k)w_1, w_2)$, $\nu=1,\dots,k$, также отождествляются между собой. Но именно эти точки отождествляются при проекции $D'\to D''$. Предложение доказано. Заметим, что граничные точки $D''$, лежащие на оси $Oz_2$, строго пседовыпуклы и сферичны, так что ее собственные отображения были исследованы в п. 1.2.1. Нас интересует ситуация, когда индуцированное собственное отображение $D''$ не отождествляет стандартные торы. В п. 1.2.1 показано, что у $D''$ есть собственные отображения с таким свойством, только когда (обратимым) элементарным преобразованием эта область переводится в (4), и что такое собственное отображение переводит в одну точку орбиту конечной циклической группы неэлементарных биголоморфизмов $D''$. Но, кроме того, оно должно также отождествлять точки, полученные проекцией точек из $D'$, проецирумых в одинаковые точки области $D$, т. е. точки вида $(\exp(2\pi i \nu k/l)z_1, z_2)$, $\nu=1,\dots,k$. Поскольку $k$ и $l$ взаимно просты, это то же самое, что точки $(\exp(2\pi i \nu/l)z_1, z_2)$, $\nu=1,\dots,k$. Нетрудно видеть, что, когда $l>1$, у (4) не может быть такой конечной группы неэлементарных автоморфизмов. Таким образом, единственный новый случай, который может тут возникнуть – это область типа (7), биголоморфно эквивалентная области
$$
\begin{equation*}
\{(z_1,z_2)\in \mathbb C^2 \mid |z_2|> \exp(|z_1|^{2/k}),\ k>1,\, k\in\mathbb N\},
\end{equation*}
\notag
$$
которая элементарным собственным отображением переводится в область (4), а последняя в свою очередь факторизуется по действию конечной циклической группы неэлементарных голоморфных автоморфизмов. 1.3. Области, пересекающие обе координатные оси. Это могут быть только области типа (9). Если точки пересечения границы такой области с обеими осями сферичны, то мы имеем сферу, и этот случай уже разобран. 1.3.1. Если на границе области из этого класса, при продолжении ростка граничных значений компонент $F_j$ соответствия $F$ по путям на сферической части границы мы либо (a) никогда не выходим в образе на координатные оси, либо (b) граничные точки, лежащие на оси $Oz_2$, также строго псевдовыпуклые и сферические, и мы никогда не выходим на координатную ось $Oz_1$, то такие ростки неограниченно продолжаются по сферической части границы области. Проведем теперь рассуждения аналогичные п. 1.1. Тогда, как в п. 1.2.1, мы получим области $D'$ и $D''$, накрывающие $D$ и связанные биголоморфным отображением. Однако теперь либо (a) отображение $D'\to D''$ является композицией биголоморфного автоморфизма $P$ области $D$, оставляющего оси координат инвариантными (или переставляющее их), либо (b) $D'$ и $D''$ накрывают $D$ отображениями вида $z_2\to z^k_2$ и, поскольку между биголоморфно эквивалентными ограниченными областями Рейнхарта всегда есть элементарный биголоморфизм (см. [2; разд. 1]), показатели степени у этих отображений должны быть одинаковыми, так что $D'=D''$. Тогда в случае (b) у области $D'$ существует такой биголоморфный автоморфизм $P$, сохраняющий ось $Oz_1$, что, если $P(W)=W_1$ и проекции точек $W$ и $W_1$ на $D$ равны $Z$ и $Z_1$, то $f(Z)=f(Z_1)$. Тогда и любая положительная степень $P$ также обладает этим свойством и, в силу собственности $f$, степени $P$ должны образовывать конечную группу. Однако у областей типа (9) нет нелинейных автоморфизмов, оставляющих пару координатных осей инвариантной, поэтому в случае (a) отображение $F_j$ переводит стандартные торы в стандартные, и мы этот случай здесь не рассматриваем. В случае же (b) упомянутый выше автоморфизм $P$ во всяком случае коммутирует с вращениями вокруг оси $Oz_1$, так что он пропускается через накрытие $D'\to D$. В итоге мы приходим к ситуации области $D$ типа (9), на которой действует конечная группа голоморфных автоморфизмов, отличных от поворотов, причем отображение $f$ инвариантно относительно этого действия. Более того, если автоморфизм $P$ элементарный, то $F_j$ снова переводит стандартные торы в стандартные. Для того, чтобы существовал неэлементарный автоморфизм, $D$ должна быть областью Туллена, т. е. уравнение типа (9) для логарифмической диаграммы ее границы должно с точностью до сдвигов иметь вид
$$
\begin{equation}
\exp(2x_1) + \exp(\alpha x_2) =1, \qquad \alpha\neq2,\quad \alpha>0
\end{equation}
\tag{14}
$$
($\alpha\neq2$, поскольку по условию $D$ – не шар). Рассматривая оставшиеся компоненты соответствия $F$, для каждой из них мы последовательно проделываем такое же построение, что дает действие нескольких конечных групп автоморфизмов на область Туллена (3). Однако $f$ имеет конечную кратность, и, следовательно, эти группы в совокупности порождают одну конечную (на самом деле циклическую) группу преобразований $D$, а $f$ оказывается факторизацией по действию этой группы. 1.3.2. Если на границе области типа (9), пересекающей обе оси координат, при продолжении ростка граничных значений компонент $F_j$ соответствия $F$ по путям на сферической части границы мы не можем выйти в образе на ось $Oz_1$, но можем выйти на граничные точки на оси $Oz_2$, и эти точки несферические, то мы повторяем рассуждения из п. 1.2.2 и сначала получаем область $D'$, проецируемую на $D$ отображением вида $(z_1,z_2)\mapsto (z^l_1, z_2)$, а затем отображением $(z_1,z_2)\mapsto (z^k_1, z_2)$ проецируем $D'$ на область $D''$ со сферическими граничными точками на оси $Oz_2$, т. е. на область Туллена (3), причем случай шара, когда $\alpha=2$, здесь тоже возможен. Как мы только что выяснили в п. 1.3.1 и отдельно отмечали для случая шара, неэлементарные собственные отображения области Туллена являются факторизацией по действию конечной группы ее биголоморфных автоморфизмов, отличных от поворотов, которые в данном случае еще оставляют инвариантной ось $Oz_1$ (если $D''$ – не шар, то голоморфные автоморфизмы $D''$ автоматически имеют это свойство). Заметим, что факторизация по действию этой группы должна также отождествлять точки, полученные проекцией точек из $D'$, проецирумых в одинаковые точки области $D$, т. е. точки вида $(\exp(2\pi i \nu k/l)z_1, z_2)$, $\nu=1,\dots,k$. Поскольку $k$ и $l$ взаимно просты, это то же самое, что точки $(\exp(2\pi i \nu/l)z_1, z_2)$, $\nu=1,\dots,k$. Однако биголоморфные преобразования области Туллена (3), логарифмическая диаграмма которой ограничена кривой (14) (а равно и преобразования единичного шара, оставляющие ось $Oz_1$ инвариантной), имеют вид
$$
\begin{equation*}
(z_1, z_2) \mapsto \biggl(e^{it_1}\frac{z-a}{1-\overline{a}z_1},\ e^{it_2}\frac{(1-|a|^2)^{1/\alpha}}{(1-\overline{a}z_1)^{2/\alpha}}z_2\biggr), \qquad |a|<1.
\end{equation*}
\notag
$$
Преобразования, отличные от поворотов, действуют на координату $z_1$ нелинейным дробно-линейными автоморфизмами единичного круга, так что при $l>1$ орбиты нетривиальных абелевых группы таких преобразований не обладают нужным нам свойством. Таким образом, либо $D''$ получается из $D$ проекцией $(z_1,z_2)\mapsto (z^k_1, z_2)$, либо отображение $F_j$ переводит стандартные торы в стандартные торы – случай, который мы здесь не рассматриваем. В первом же случае, по построению $D''$ исходное отображение $f$ пропускается через проекцию $D\to D''$, и для возникающего собственного отображения $D''\to M$ верны выводы п. 1.3.1 (так как даже если $D''$ – шар, точки оси $Oz_1$ не отождествляются с точками вне оси по условию). 1.3.3. Если на границе области типа (9), пересекающей обе оси координат, при продолжении ростков граничных значений компонент $F_j$ соответствия $F$ по путям на сферической части границы мы в образе можем выйти на обе оси, то мы повторяем рассуждения из п. 1.2.2 для каждой из них и сначала получаем область $D'$, связанную с $D$ отображением вида $(z_1,z_2)\mapsto (z^{l_1}_1, z^{l_2}_2)$, а затем, проекцией $(z_1,z_2)\mapsto (z^{k_1}_1, z^{k_2}_2)$, где $k_i$ взаимно просто с $l_i$, $i=1,2$, в качестве области $D''$ получаем шар. Как отмечено в начале доказательства леммы, собственное отображение шара – это факторизация по действию конечной группы $G$ биголоморфных преобразований шара. Однако в данном случае $G$ должна еще отождествлять точки, полученные проекцией на $D''$ точек области $D'$ с одинаковой проекцией на $D$, т. е. точки вида
$$
\begin{equation*}
\biggl(\exp\biggl(\frac{2\pi i \nu_1 k_1}{l_1}\biggr)z_1,\, \exp\biggl(\frac{2\pi i \nu_2 k_2}{l_2}\biggr)z_2\biggr), \qquad \nu_1=1,\dots,l_1,\quad \nu_2=1,\dots, l_2.
\end{equation*}
\notag
$$
В силу взаимной простоты $l_i$ и $k_i$, $i=1,2$, это то же самое, что точки вида
$$
\begin{equation}
\biggl(\exp\biggl(\frac{2\pi i \nu_1}{l_1}\biggr)z_1,\, \exp\biggl(\frac{2\pi i \nu_2}{l_2}\biggr)z_2\biggr), \qquad \nu_1=1,\dots,l_1, \quad \nu_2=1,\dots, l_2.
\end{equation}
\tag{15}
$$
Таким образом, группа $G$ должна содержать повороты (15). (Заметим, что после подходящей биголоморфной замены координат $G$ вкладывается в унитарную группу как подгруппа, при этом повороты (15) из $G$ не меняют своего вида, так что мы сразу можем считать $G$ подгруппой $U(2)$.) Однако, если ни подгруппа этих поворотов, ни какая-то бо́льшая подгруппа диагональных матриц не является нормальной в $G$, то $f$ не представляется в виде факторизации по действию группы автоморфизмов области Рейнхарта типа (9), получающейся из $D$ собственным отображением. Мы можем только представить $f$ в виде композиции факторизации единичного шара по действию $G$ с многозначным отображением $(z_1 z_2)\mapsto (z^{k_1/l_1}_1, z^{k_2/l_2}_2)$ области $D$ в шар. 2. Нам осталось разобрать ситуацию, когда одна из компонент голоморфного соответствия $F$ – обозначим ее $F_1$ – является элементарным голоморфным автоморфизмом порядка два области $D$, причем у $F$ есть и другие нетождественные компоненты, ни одна из которых не переводит стандартные торы в стандартные. В силу наличия компонент, отличных от $F_1$, мы можем провести для них рассуждения, аналогичные проведенным в п. 1. Поскольку у областей типа (7) не бывает элементарных симметрий порядка два, отличных от поворотов вокруг осей координат, то такие рассуждения показывают, что подобная ситуация возможна только в случае областей типа (9), пересекающих обе оси координат. Если область $D$ – шар, то ответ по форме остается тем же. Если $D$ – область (14) из п. 1.3.1, и у нее есть элементарный биголоморфный автоморфизм порядка два, отличный от поворота вокруг осей координат, то $D$ на самом деле шар, так что ответ известен. Если $D$ – область типа (9) из п. 1.3.2 и вдобавок у нее есть еще элементарный автоморфизм $P$ порядка два, отличный от поворота вокруг осей координат, то уравнение границы ее логарифмической диаграммы в действительности имеет вид
$$
\begin{equation}
\exp(\alpha x_1) + \exp(\alpha x_2) =1,
\end{equation}
\tag{16}
$$
причем $\alpha=2k$, $k\in\mathbb N$, $k>1$. В этом случае $P$ имеет вид $z_1\mapsto z_2$, $z_2\mapsto z_1$, так что собственное отображение $D''\to M$, унаследованное от $D$ и инвариантное относительно действия $P$, пропускается еще через проекцию $(z_1,z_2)\mapsto (z^k_1, z^k_2)$ области $D''$ на шар. В итоге $D$ собственным элементарным отображением переводится на шар, на котором действует конечная группа биголоморфных преобразований, включающая в себя перестановку координат, а отображение $f$ является композицией факторизации по этому действию с проекцией $D$ на шар. Наконец, если $D$ – область типа (9) из п. 1.3.3 и вдобавок у нее есть еще элементарный автоморфизм $P$ порядка два, отличный от поворота вокруг осей координат, т. е. действующий как выше, то граница ее логарифмической диаграммы имеет вид (16), где $\alpha$ рационально. В этом случае мы можем сделать те же выводы, что в п. 1.3.3 в случае $k_1=k_2$, $l_1=l_2$, с тем добавлением, что группа $G$ содержит перестановку координат. Лемма 3 доказана. Объединение результатов лемм 2 и 3 приводит к теореме 1, сформулированной во введении.
|
|
|
Список литературы
|
|
|
1. |
K. Reinhardt, “Über Abbildungen durch analytische Funktionen zweier Veranderlichen”, Math. Ann., 83:3-4 (1921), 211–255 |
2. |
Н. Г. Кружилин, “Голоморфные автоморфизмы гиперболических областей Рейнхарта”, Изв. АН СССР. Сер. матем., 52:1 (1988), 16–40 ; англ. пер.: N. G. Kruzhilin, “Holomorphic automorphisms of hyperbolic Reinhardt domains”, Math. USSR-Izv., 32:1 (1989), 15–38 |
3. |
S. Shimizu, “Automorphisms of bounded Reinhardt domains”, Japan J. Math. (N.S.), 15:2 (1989), 385–414 |
4. |
P. Thullen, “Zu den Abbildungen durch analytische Funktionen mehrerer komplexer Veränderlichen Die Invarianz des Mittelpunktes von Kreiskörpern”, Math. Ann., 104:1 (1931), 244–259 |
5. |
П. А. Солдаткин, “Голоморфная эквивалентность областей Рейнхарта в $\mathbb C^2$”, Изв. РАН. Сер. матем., 66:6 (2002), 187–222 ; англ. пер.: P. A. Soldatkin, “Holomorphic equivalence of Reinhardt domains in $\mathbb C^2$”, Izv. Math., 66:6 (2002), 1271–1304 |
6. |
D. E. Barrett, “Holomorphic equivalence and proper mapping of bounded Reinhardt domains not containing the origin”, Comment. Math. Helv., 59:4 (1984), 550–564 |
7. |
E. Bedford, J. Dadok, “Proper holomorphic mappings and real reflection groups”, J. Reine Angew. Math., 1985:361 (1985), 1–82 |
8. |
F. Berteloot, S. Pinchuk, “Proper holomorphic mappings between bounded complete Reinhardt domains in $\mathbf C^2$”, Math. Z., 219:3 (1995), 343–356 |
9. |
G. Dini, A. Selvaggi Primicerio, “Proper holomorphic mappings between generalized pseudoellipsoids”, Ann. Mat. Pura Appl. (4), 158 (1991), 219–229 |
10. |
Kang-Tae Kim, M. Landucci, A. F. Spiro, “Factorization of proper holomorphic mappings through Thullen domains”, Pacific J. Math., 189:2 (1999), 293–310 |
11. |
M. Landicci, A. Spiro, “Proper holomorphic maps between complete Reinhardt domains in $\mathbb C^2$”, Complex Variables Theory Appl., 29:1 (1996), 9–28 |
12. |
A. Isaev, N. G. Kruzhilin, “Proper holomorphic maps between Reinhardt domains in $\mathbb C^2$”, Michigan Math. J., 54:1 (2006), 33–64 |
13. |
A. Spiro, “Classification of proper holomorphic maps between Reinhardt domains in $\mathbb C^2$”, Math. Z., 227:1 (1998), 27–44 |
14. |
Н. Г. Кружилин, “Обобщение теоремы Кернера о собственных отображениях”, УМН, 65:6(396) (2010), 187–188 ; англ. пер.: N. G. Kruzhilin, “A generalization of Kerner's theorem on proper maps”, Russian Math. Surveys, 65:6 (2010), 1181–1182 |
15. |
S. R. Bell, “The Bergman kernel function and proper holomorphic mappings”, Trans. Amer. Math. Soc., 270:2 (1982), 685–691 |
16. |
M. Landucci, “Proper holomorphic mappings between some nonsmooth domains”, Ann. Mat. Pura Appl. (4), 155 (1989), 193–203 |
17. |
E. Bedford, S. Bell, “Extension of proper holomorphic mappings past the boundary”, Manuscripta Math., 50 (1985), 1–10 |
18. |
E. Bedford, S. Bell, “Boundary behavior of proper holomorphic correspondences”, Math. Ann., 272:4 (1985), 505–518 |
19. |
А. В. Лобода, “Всякая голоморфно-однородная трубка в $C^2$ имеет аффинно-однородное основание”, Сиб. матем. журн., 42:6 (2001), 1335–1339 ; англ. пер.: A. V. Loboda, “Each holomorphically homogeneous tube in $C^2$ has an affine-homogeneous base”, Siberian Math. J., 42:6 (2001), 1111–1114 |
20. |
J. Dadok, P. Yang, “Automorphisms of tube domains and spherical tube hypersurfaces”, Amer. J. Math., 107:4 (1985), 999–1013 |
21. |
M. Newman, Integral matrices, Pure Appl. Math., 45, Academic Press, New York–London, 1972, xvii+224 pp. |
Образец цитирования:
Н. Г. Кружилин, “Собственные голоморфные отображения ограниченных двумерных областей Рейнхарта. I”, Изв. РАН. Сер. матем., 85:3 (2021), 52–72; Izv. Math., 85:3 (2021), 388–406
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/im9066https://doi.org/10.4213/im9066 https://www.mathnet.ru/rus/im/v85/i3/p52
|
Статистика просмотров: |
Страница аннотации: | 260 | PDF русской версии: | 45 | PDF английской версии: | 26 | HTML русской версии: | 88 | Список литературы: | 37 | Первая страница: | 9 |
|