В. В. Горбацевич, “О локально транзитивных аналитических действиях групп Ли на компактных поверхностях”, Матем. сб., 212:4 (2021), 45–75; V. V. Gorbatsevich, “Locally transitive analytic actions of Lie groups on compact surfaces”, Sb. Math., 212:4 (2021), 490

В статье рассматриваются некоторые вопросы, связанные с такими действиями групп Ли на поверхностях, которые имеют открытые орбиты (часто такие действия называют локально транзитивными). Но вначале нужно уточнить используемую здесь терминологию. Дело в том, что есть несколько разных подходов к изучаемому нами здесь вопросу, порождающих терминологическую путаницу. Перечислим основные из этих подходов. Каждый из них использует некоторые обобщения понятий транзитивности и однородного пространства.

Пусть алгебраическая группа действует на некотором алгебраическом множестве (обычно неприводимом). Тогда если это действие имеет открытую и плотную (в топологии Зариского) орбиту, то иногда говорят о предоднородном пространстве. Но мы не будем ограничиваться действиями алгебраических групп.

Если некоторая группа Ли (возможно, локальная) действует (возможно, локально) на некотором гладком многообразии, то это действие обычно называется локально транзитивным, если оно имеет открытую орбиту. При этом может оказаться, что в глобальной ситуации (когда группа Ли и действие глобальны) таких открытых орбит несколько и потому от транзитивного локально транзитивное действие может заметно отличаться. Было бы естественно ввести новое понятие: действие группы Ли, которое имеет только одну открытую орбиту, дополнение до которой в каком-то смысле “незначительно” по сравнению с орбитой (например, имеет меньшую размерность), назвать, например, почти транзитивным (т.е. очень близким к транзитивному).

Можно рассматривать гладкие действия групп Ли только на компактных многообразиях, причем имеющие ровно одну открытую и плотную орбиту. В этом случае для орбиты – однородного пространства – мы получаем то, что называют компактификацией. Вообще рассмотрение компактификаций однородных пространств представляет значительный интерес, но мы здесь этим заниматься вплотную не будем (сделав ниже несколько несложных замечаний для случая однородных поверхностей).

Далее, можно рассматривать все такие глобальные действия групп Ли на многообразиях, которые имеют хотя бы одну открытую орбиту (допуская и наличие нескольких открытых орбит). Именно такие действия мы и будем рассматривать в настоящей статье, называя именно их локально транзитивными.

Опишем теперь подробно тот класс локально транзитивных действий групп Ли на поверхностях, который будет рассматриваться в настоящей статье. Оказывается, что в самой общей ситуации изучение таких действий наталкивается на трудно преодолимые (и внешние для теории Ли) трудности – топологические и связанные с теорией дифференциальных уравнений. Поэтому приходится ограничивать класс изучаемых действий. Ниже будет показано и обосновано, какого рода ограничения мы вынуждены (именно вынуждены – в поисках обозримых результатов, а не для облегчения решаемой нами задачи) налагать.

Изучение и классификация действий групп Ли на поверхностях имеет долгую историю. Еще Софус Ли начал эти исследования, предварительно классифицировав, говоря современным языком, все локальные действия групп Ли на прямой. Точнее, он изучал алгебры Ли векторных полей на прямой и получил их классификацию (состоящую из трех алгебр Ли). Затем С. Ли перешел к поверхностям и перечислил все конечномерные алгебры Ли векторных полей на плоскости. Он рассматривал только аналитические векторные поля и его классификация была локальной. При этом классификация давалась только в окрестности некоторой достаточно общей точки плоскости (и такие точки образовывали открытое подмножество плоскости). Он рассматривал как комплексные прямую и плоскость, так и вещественные. В § 6 приведена уточненная классификация С. Ли на уровне алгебр Ли векторных полей на вещественной плоскости (в ней исключены изоморфные между собой алгебры Ли). Там же даны ссылки на аналогичные результаты для случая комплексной плоскости.

Важными особенностями классификации С. Ли были аналитичность и локальность. От условия аналитичности (переходом к гладкости) частично удалось затем (уже после С. Ли) избавиться. Теперь имеется гладкая классификация (хотя и только локальная) транзитивных действий групп Ли на прямой и на плоскости. Но вот с переходом от локальной классификации к глобальной все оказалось намного сложнее.

Первая (и фактически последняя) глобальная классификация некоторых действий групп Ли на одномерных и двумерных многообразиях была получена Дж. Мостовым в [1]. А именно, он перечислил все транзитивные действия групп Ли на одномерных и двумерных вещественных многообразиях. В частности, был установлен полный список (с точностью до диффеоморфизма) двумерных однородных пространств: в него вошли плоскость $\mathbb R^2$, цилиндр $C^2= S^1 \times\mathbb R$, лист Мебиуса $\mathrm{Mb}$, тор $T^2$, бутылка Клейна $K^2$, сфера $S^2$ и проективная плоскость $\mathbb R\mathrm P^2$. Все эти многообразия как однородные указал еще Э. Картан (с одним пропуском – он не заметил однородность бутылки Клейна). Отметим, что из указанных выше семи однородных поверхностей четыре компактны, а три некомпактны.

После указанной работы Дж. Мостова задача дальнейшей глобализации для классификации С. Ли была практически заморожена. Имеется немало работ по описанию действий на поверхностях отдельных групп Ли (например, полупростых или не имеющих в своем действии неподвижных точек). Но классификация С. Ли намного шире. Почему же она до сих пор не глобализована? Для этого есть несколько причин. Рассмотрим по отдельности эти причины.

Во-первых, отметим, что сам С. Ли рассматривал только аналитические действия групп Ли и соответствующие им алгебры Ли аналитических векторных полей. Однако аналитичность позже во многом уступила место гладкости. А глобальное описание гладких действий групп Ли даже на одномерном многообразии (и даже на компактном – на окружности) практически недостижимо. Поясним это утверждение.

Начнем с обоснования необходимости ограничиться только аналитическими глобальными действиями групп Ли, даже для действий групп Ли на прямой.

Рассмотрим гладкое векторное поле $X$ на прямой $\mathbb R$. Его можно записать в виде $X= f(x)\,{d}/{dx}$, где $x$ – координата (глобальная) на прямой, a $f(x)$ – гладкая функция, которую нам будет удобно предполагать ограниченной на $\mathbb R$. Любое такое векторное поле интегрируемо, т.е. ему соответствует односвязная группа Ли $G$ преобразований прямой (причем глобальная – именно для этого мы предположили ограниченность $f(x)$). Эта группа Ли $G$ изоморфна $\mathbb R$. Нулям функции $f(x)$ соответствуют неподвижные точки действия этой группы, а остальная часть прямой $\mathbb R$ состоит из одномерных орбит (представляющих собой интервалы на $\mathbb R$): число этих орбит не более чем счетно.

Множество нулей $[f=0]$ гладкой функции $f(x)$ – это некоторое замкнутое подмножество в $\mathbb R$. По теореме Уитни (см., например, [2; предложение 3.3]) для любого замкнутого подмножества $F \subset \mathbb R$ существует гладкая на $\mathbb R$ функция $g(x)$ такая, что $F = [g=0]$. Мы можем при этом предполагать, что функция $g(x)$ ограничена. Если это не так, то мы заменим ее на заведомо ограниченную гладкую функцию $g(x)/(1+[g(x)]^2)$ с тем же множеством нулей.

Пусть $F$ – произвольное замкнутое подмножество в $\mathbb R$. Рассмотрим векторное поле $Y = g(x){d}/{dx}$, где $g(x)$ – гладкая ограниченная функция на $\mathbb R$, множество нулей которой совпадает с $F$. Интегрированием этого векторного поля получаем группу Ли $G$, гладко действующую на $\mathbb R$, и множество неподвижных точек которой есть множество $F$. Итак, произвольное замкнутое подмножество прямой (а таких множеств много!) может быть реализовано как множество неподвижных точек гладкого действия группы Ли $G = \mathbb R$ на прямой. Поэтому перечисление всех глобальных действий групп Ли на прямой должно содержать в себе перечисление всех (с точностью до некоторого отношения подобия, связанного с понятием подобия действий групп Ли) замкнутых подмножеств прямой. Указанная чисто топологическая задача не имеет сейчас обозримого решения (описание замкнутых множеств прямой как дополнений до объединений счетного числа интервалов не выглядит обозримым). Итак, гладких действий групп Ли на прямой слишком много для того, чтобы рассчитывать на обозримую их классификацию.

Мы рассматривали сейчас гладкие действия групп Ли на некомпактном одномерном многообразии – на прямой $\mathbb R$. Но рассмотрение действий на компактном одномерном многообразии – на окружности – тоже столь же сложно. Применимы те же рассуждения с теоремой Уитни, что выше, только функцию $g(x)$ нужно брать еще дополнительно периодической.

В силу сказанного при классификации действий групп Ли на многообразиях приходится ограничиться только аналитическими действиями, что мы в дальнейшем и будем делать.

Следующий шаг – попытка рассмотрения глобальных (и аналитических!) действий групп Ли на некомпактных многообразиях. Для действий на одномерных многообразиях все получается довольно просто (см. ниже). Но уже при изучении произвольных глобальных аналитических действий на некомпактных поверхностях ситуация резко усложняется.

Рассмотрим аналитические действия одномерной группы Ли $\mathbb R$ на плоскости $\mathbb R^2$. Соответствующее такому действию аналитическое векторное поле (которое будет полным, т.е. его интегральные линии бесконечно продолжаемы) можно рассматривать как соответствующее некоторому автономному дифференциальному уравнению на плоскости. Полные аналитические векторные поля очень многочисленны. Описание же глобальных действий группы Ли $\mathbb R$ очень тесно связано с описанием структуры траекторий достаточно общей системы двух обыкновенных дифференциальных уравнений (ОДУ), правые части которых – аналитические. Современная теория аналитических ОДУ не готова дать полную классификацию такого рода систем траекторий. Также изучаются потоки (действия одномерных групп Ли) на многообразиях, но там всегда налагаются разного рода ограничения на соответствующие потокам векторные поля, общий же случай не рассматривается.

Вторая причина трудности рассмотрения действий групп Ли (даже аналитических) на некомпактных поверхностях – это то, что таких поверхностей очень много (континуум). Если $M$ – произвольная поверхность, а $F$ – ее некоторое замкнутое подмножество (а таких – очень много), то дополнение $M\setminus F$ – тоже поверхность, причем всегда некомпактная. При этом часто на такой поверхности можно построить аналитическое действие групп Ли. Причем число орбит может оказаться счетным (пример такого рода приведен ниже в статье).

Мы приходим ко второму выводу – при изучении глобальных действий групп Ли на многообразиях (даже малой размерности) допускать к рассмотрению некомпактные многообразия не очень разумно. Поэтому в дальнейшем в этой статье мы будем рассматривать только действия групп Ли на компактных многообразиях.

Третье наше ограничение тесно связано с предыдущим рассуждением. Аналитическая теория ОДУ (тесно связанная с изучением действий одномерных групп Ли и соответствующих кривых – одномерных траекторий) на компактных многообразиях не позволяет пока дать глобальное описание всех соответствующих траекторий. Дело в том, что таких дифференциальных уравнений (или, что эквивалентно, аналитических векторных полей) слишком много и структура их траекторий не поддается описанию. Поэтому естественно ограничиться случаем, когда не все орбиты действия группы Ли нульмерны или одномерны, т.е., – для случая действий на поверхностях – когда они имеют двумерную, открытую орбиту. В частности, открытую орбиту имеют транзитивные действия, описанные для двумерных поверхностей (даже и некомпактных) С. Ли (локально) и Дж. Мостовым. Но транзитивные действия не исчерпывают все действия с открытыми орбитами. Рассмотрением общего, локально транзитивного, случая мы ниже и займемся. При этом нам придется ввести еще одно – четвертое – ограничение на класс изучаемых действий, если мы хотим получить обозримый результат. Это ограничение связано со структурой множества неподвижных точек: оно должно содержать только изолированные (в сингулярном множестве) точки.

Отметим, что открытые орбиты локально транзитивного, но не транзитивного, действия группы Ли на поверхности – это некомпактные двумерные однородные пространства. А они с точностью до диффеоморфизма уже были перечислены выше – их всего три ($\mathbb R^2, C^2, \mathrm{Mb}$).

Итак, тема настоящей статьи – изучение локально транзитивных аналитических действий групп Ли на компактных поверхностях.

Отметим также, что изучение локально однородных многообразий (т.е. многообразий, на которых существуют действия групп Ли с открытой орбитой) в гладкой категории не будет содержательным. В [3] доказано, что такого рода действие существует на любом компактном многообразии, причем в качестве действующей на нем группы Ли можно взять абелеву группу Ли той же размерности, что и само многообразие. Что касается аналитических действий, то в [4] доказано существование эффективных аналитических действий группы Ли $\mathbb R^n$ на произвольных компактных многообразиях $M^n$, но там открытых орбит нет.

Рассматриваемые в настоящей статье вопросы тесно связаны с задачей компактификации действий транзитивных групп Ли на многообразиях. Даже для случая поверхностей это очень непростая задача. В ней можно выделить такие этапы.

1. Описание тех компактных поверхностей, на которых существуют действия групп Ли, имеющие одну открытую орбиту, а также действий этих групп Ли на поверхностях. При некоторых ограничениях на действия эта задача решена в настоящей статье.

2. Указание конкретных действий групп Ли на компактных поверхностях, имеющих ровно одну открытую орбиту. Эта задача в настоящей статье затрагивается только вкратце.

В направлении решения этих (и многих других) задач в настоящей статье приводится уточненная классификация С. Ли групп Ли, транзитивных на открытых подмножествах плоскости. Склейкой нескольких таких действий и будут получаться указанные действия групп Ли на компактных поверхностях.

Укажем еще некоторые вопросы, связанные с задачей глобализации действий групп Ли, которые в настоящей статье не рассматриваются. Пусть задано некоторое локальное аналитическое действие группы Ли на плоскости (точнее, на некотором открытом подмножестве плоскости). Интересно было бы выяснить, при каких условиях это действие можно аналитически распространить на всю плоскость. Также интересно выяснить, на какие именно двумерные многообразия это действие можно распространить. Эти вопросы в силу сказанного выше естественно рассматривать только для локально транзитивных действий групп Ли. Отметим также, что в работе [1] доказано для локально транзитивных действий групп Ли на многообразиях размерности $\leqslant 4$ существование хотя бы одной глобализации (причем однородной).

В настоящей статье нашей основной целью будет выявление тех компактных поверхностей, для которых существуют аналитические локально транзитивные действия групп Ли. Сами эти действия в силу их чрезвычайной многообразности нами в деталях здесь рассматриваться не будут. Опишем вкратце содержание статьи.

Параграф 2 посвящен описанию аналитических действий групп Ли на окружности.

В § 3 рассмотрена общая структура множества орбит аналитических действий групп Ли на компактных поверхностях. Доказано, что аналитические действия групп Ли с открытыми орбитами существуют на любых компактных поверхностях. Если же наложить определенные ограничения на множество неподвижных точек, то ситуация резко меняется – соответствующее описание дано в следующем параграфе.

В § 4 рассмотрены аналитические действия с изолированными неподвижными точками на компактных поверхностях и указаны компактные поверхности – их всего четыре – на которых такие действия существуют. Рассмотрены конкретные примеры указанных выше действий.

Параграф 5 посвящен изучению несократимых (т.е. в некотором смысле минимальных) действий групп Ли на компактных поверхностях. Указаны группы Ли, которые могут иметь такого рода действия на компактных поверхностях.

В § 6 приведена уточненная классификация С. Ли локальных аналитических действий групп Ли (в виде описания соответствующих алгебр Ли векторных полей) на поверхностях. Такого рода список имелся уже у самого С. Ли. Однако и у него, и во всех последующих вариантах такого списка среди алгебр Ли не были исключены некоторые изоморфные между собой. Там просто писали, что при некоторых – не указанных явно – значениях параметров “разные” алгебры Ли из списка могут быть изоморфными. В § 6 такого рода неопределенность в классификации исключена. Кроме того, здесь указана алгебраическая структура всех алгебр Ли и описаны стационарные подалгебры (обычно же при изложении классификации С. Ли ограничиваются только указанием базисов алгебр Ли).

В статье все многообразия и связанные с ними дифференциальные объекты будут, если это не оговорено особо, аналитическими. Все многообразия, на которых действуют группы Ли, будут предполагаться связными. Группы Ли предполагаются конечномерными и связными. Действия групп Ли на многообразиях (аналитические, как уже было отмечено выше) предполагаются локально эффективными. Мы будем рассматривать в основном действия групп Ли на многообразиях без края, хотя многое, подобное результатам настоящей статьи, можно было бы доказать для компактных поверхностей и при наличии у них края. Некоторые действия на поверхностях с краем понадобятся нам для построения примеров.

Отметим, что для аналитических многообразий существование гладкого (т.е. бесконечно дифференцируемого) диффеоморфизма между двумя многообразиями эквивалентно существованию между ними аналитического диффеоморфизма (так мы будем называть изоморфизм в категории аналитических многообразий). Этот факт был фактически доказан Г. Грауэртом в [5]. Более того, множество аналитических диффеоморфизмов плотно в множестве всех диффеоморфизмов (в такой форме этот результат Грауэрта сформулирован в [6]). Что же касается двумерных многообразий (поверхностей), то для них, как хорошо известно, отношения гомеоморфности, диффеоморфности и аналитического изоморфизма эквивалентны.

§ 2. Аналитические действия групп Ли на окружности

Этот параграф – подготовительный к дальнейшему изучению аналитических действий групп Ли на поверхностях. Здесь мы рассмотрим довольно несложную задачу – описание структуры орбит аналитических действий групп Ли на окружности, т.е. на компактном одномерном многообразии. Это будет нами использовано ниже при изучении эквивариантных $\sigma$-процессов для действий групп Ли на поверхностях. Отметим, что в силу компактности многообразия $S^1$ все векторные поля на нем являются полными и потому между действиями групп Ли и алгебрами Ли векторных полей имеется здесь взаимно однозначное соответствие (если рассматривать только эффективные действия групп Ли).

На окружности $S^1$ (имеющей естественную структуру абелевой группы Ли) имеется естественное эффективное действие сдвигами (правыми или левыми – они здесь совпадают). Действует на $S^1$ и односвязная одномерная группа Ли $\mathbb R$, но это действие лишь локально эффективно. Если $\varphi$ – локальная координата на окружности (угловая), то естественное действие элемента $a \in \mathbb R$ таково: $\varphi \mapsto \varphi + a \ (\bmod 2\pi)$, где $a \in \mathbb R$ фиксировано. Это действие неподвижных точек не имеет. Однако можно рассматривать и другие действия $\mathbb R$ на $S^1$ – задаваемые векторными полями вида $f(\varphi) {d}/{d\varphi} $, где $f(\varphi)$ – произвольная аналитическая периодическая (с периодом $2\pi$) функция. Например, при $f(\varphi) = \sin(n \varphi)$ соответствующее действие на окружности группы Ли $\mathbb R$ имеет ровно $n+1$ неподвижных точек.

Рассмотрим теперь произвольное аналитическое действие некоторой группы Ли $G$ на $S^1$. Множество неподвижных точек этого действия образует, как легко понять, компактное аналитическое подмножество в $S^1$. Если рассматриваемое действие нетривиально, то это множество – нульмерно, т.е. состоит из конечного (в силу его компактности) числа неподвижных точек. Между соседними неподвижными точками располагаются одномерные орбиты (диффеоморфные интервалам). Ясно, что такого рода действий очень много и любое конечное подмножество окружности можно реализовать (причем очень многими способами) как множество неподвижных точек некоторого аналитического действия группы Ли (например, группы Ли $\mathbb R$). Примеры такого рода действий с конечным числом неподвижных точек, связанные с периодическими аналитическими функциями, были приведены выше.

Тем самым структура аналитических действий групп Ли на $S^1$ довольно проста (в отличие от структуры гладких действий, о чем было рассказано выше).

Отметим, что, исходя из аналитических действий групп Ли на $S^1$, можно, образуя прямое произведение $T^2=S^1 \times S^1$, строить некоторые весьма специальные (как будет видно из сказанного далее) примеры аналитических действий на торе $T^2$. Если на каждом из двух прямых множителей $S^1$ задано аналитическое действие группы Ли $\mathbb R$, имеющее соответственно $m$ и $n$ неподвижных точек, то на $S^1 \times S^1$ получим аналитическое действие группы Ли $\mathbb R^2$, имеющее $mn$ неподвижных точек. Причем это действие будет иметь много открытых орбит (а именно $mn$ штук), а также одномерные некомпактные орбиты. Эти одномерные орбиты расположены “параллельно” прямым множителям и вместе с неподвижными точками образуют два семейства окружностей на торе, образующих своего рода сетку на нем.

Рассмотрим теперь бесконечный цилиндр $C=S^1 \times \mathbb R$. Если на первом прямом множителе задано аналитическое действие группы $\mathbb R$ с $m$ неподвижными точками ($m \geqslant 0$), а на втором множителе задано транзитивное действие группы $\mathbb R$, то на прямом произведении получаем аналитическое действие группы $\mathbb R^2$, которое имеет $m$ открытых орбит, диффеоморфных $\mathbb R^2$ и разделенных одномерными орбитами, диффеоморфными $\mathbb R$. Если же взять транзитивное действие $\mathbb R$ на $S^1$, а на втором прямом множителе взять аналитическое действие группы $\mathbb R$, имеющее $m$ неподвижных точек, то получим действие группы $\mathbb R^2$, имеющее $m+1$ открытых орбит, диффеоморфных цилиндру и разделенных орбитами, диффеоморфными $S^1$. Такого рода действия окажутся одним из важных вариантов в более общей ситуации (см. ниже).

И еще одно дополнительное соображение. Можно, конечно, изучать не только действия групп Ли на вещественном одномерном компактном многообразии, но и действия комплексных групп Ли на одномерных компактных комплексных многообразиях. Здесь орбиты могут быть только нульмерными (неподвижные точки) или одномерными (двумерными как вещественные многообразия) и потому открытыми. Поэтому изучать такого рода действия нетрудно. Здесь имеется некоторое конечное число неподвижных точек и ровно одна открытая орбита. Сама орбита – одномерное некомпактное (если она является собственным подмножеством) однородное пространство комплексной группы Ли. Описание такого рода действий можно провести в том же стиле, как это сделано в настоящей статье для вещественных многообразий.

§ 3. Аналитические действия групп Ли на компактных поверхностях

Рассмотрим некоторую компактную поверхность $M^2$, на которой задано аналитическое действие группы Ли $G$, причем мы теперь будем всегда предполагать, что это действие имеет открытую орбиту (возможно, не одну).

Через $S$ обозначим сингулярное множество действия группы Ли $G$ на $M$, состоящее из точек, орбиты которых имеют размерность 1 (кривые) или 0 (неподвижные точки). Подмножество $S$ замкнуто (и потому компактно), оно является аналитическим подмножеством (точнее, аналитической кривой) в $M$. Аналитичность $S$ вытекает из того, что это подмножество состоит из точек, в которых ранг системы векторов аналитических векторных полей, соответствующих рассматриваемому аналитическому действию группы Ли, меньше $2$.

Через $O_i$ обозначим все открытые орбиты действия $G$ на $M$. Ниже будет показано, что число их конечно. Многообразие $M$ распадается в дизъюнктное объединение этих орбит и сингулярного множества $S$. Для $S$ имеем разложение $S = S_0 \cup S_1$ в дизъюнктное объединение множества $S_0$ неподвижных точек (нульмерных орбит, хотя само это множество может оказаться и одномерным) и $S_1$ – множества точек с одномерными орбитами. Отметим, что множества $S$, $S_0$, $S_1$ инвариантны относительно действия группы Ли $G$.

Рассмотрим подробнее сингулярное множество $S$. Оно является компактной аналитической кривой. Ее можно разбить в дизъюнктное объединение конечного числа одномерных орбит группы Ли $G$ – простых дуг – и неподвижных точек. При этом, как показано в [7], неподвижная точка лежит на границе обязательно четного числа (возможно, нулевого) дуг, если их рассматривать только в окрестностях этих точек (в частности, самопересекающаяся в неподвижной точке кривая в окрестности этой точки рассматривается как состоящая локально из четырех дуг). Отметим, что аналитическая кривая $S$ может иметь особые точки типа “клюв” (в которых касательные к двум ветвям совпадают). Каждая из этих дуг лежит на границе не более чем двух связных областей (открытых орбит). Потому дополнение этого сингулярного множества (являющееся объединением открытых орбит), состоит из конечного числа связных компонент. Тем самым мы доказали такое предложение.

Отметим, что точки пересечения, касания кривых из $S$ и вершины “клювов” являются неподвижными точками.

Итак, действие группы Ли на компактной поверхности $M$ с открытой орбитой задает на этой поверхности семейство аналитических дуг, разбивающее эту поверхность на участки, внутренние точки которых образуют открытые орбиты. Будем называть это схемой действия группы Ли на $M$. Описание всех действий групп Ли на $M$ должно, в частности, содержать описание всех таких схем (с точностью до некоторого естественного отношения эквивалентности, определяемого понятием подобия действий групп Ли на многообразиях). Однако оказывается, что такого рода схем очень много и описать их все более-менее конструктивно не представляется возможным. В частном случае, которому посвящены основные классификационные результаты настоящей статьи, схемы действий могут быть охарактеризованы алгебраически – как некоторые весьма простые “суммы” замыканий однородных пространств и точек (это будет сделано ниже).

Опишем подробнее сингулярное множество $S$: оно состоит из точек трех типов.

1. Изолированные точки (так как группа Ли $G$ у нас всегда связна, то такие точки всегда неподвижны).

2. Особые точки в $S$ (острия клювов, точки пересечения двух дуг).

3. Неособые точки (лежащие на внутренностях неособых аналитических дуг).

В последующем изложении большую роль будут играть неподвижные точки аналитических действий групп Ли. Их можно разделить на три группы.

1. Изолированные точки (т.е. лежащие вне аналитических дуг сингулярного множества).

2. Граничные точки неособых аналитических дуг.

3. Внутренние точки (точки аналитических дуг, состоящих только из неподвижных точек.

Оказывается, что наличие неподвижных точек вообще говоря существенно усложняет описание действий групп Ли на многообразиях.

Ниже приведена общая конструкция, которая позволяет использовать неподвижные точки для построений новых действий (той же группы Ли, но уже на других многообразиях). Это хорошо известный в алгебраической геометрии $\sigma$-процесс или раздувание некоторой точки путем вклеивания вместо нее проективного пространства. Но у нас многообразия не алгебраические, а аналитические (можно аналогичную конструкцию использовать и для гладких многообразий). Но самая главная особенность – нам нужен $G$-инвариантный $\sigma$-процесс, который позволяет перенести исходное действие группы Ли на многообразие, полученное в результате $\sigma$-процесса.

Такого рода конструкция была использована автором в [3] в гладкой ситуации. Так как сборник, в котором опубликована эта статья, труднодоступен современному читателю, а также для полноты изложения ниже приводится вариант конструкции из этой статьи, ориентированный именно на аналитические действия (что несколько упрощает использованные там рассуждения). Отметим, что особое внимание при этом уделяется эквивариантности конструкции $\sigma$-процесса, для которой автору не удалось найти ссылок на работы других авторов, где бы это было сделано (хотя бы в аналитической ситуации).

Начнем с конструкции обыкновенного (не эквивариантного) $\sigma$-процесса. Рассмотрим некоторую точку $m$ на аналитическом многообразии $M$ размерности $n$. Через $x_1,x_2, \dots, x_n$ обозначим локальные координаты в некоторой окрестности $U$ этой точки. Рассмотрим прямое произведение $U \times \mathbb R\mathrm P^{n-1}$ этой окрестности на проективное пространство $\mathbb R\mathrm P^{n-1}$ (которое удобно себе наглядно представлять как проективизацию касательного к многообразию $M$ в точке $m$ пространства). В этом произведении рассмотрим подмножество Q, состоящее из таких точек $(x_1, x_2,\dots, x_n, t_1 : t_2: \dots : t_n)$ в $U \times \mathbb R\mathrm P^{n-1}$ (где $(t_1 : t_2: \dots : t_n )$ – однородные координаты в $\mathbb R\mathrm P^{n-1}$), что для всех $1 \leqslant i,j \leqslant n$ выполнены соотношения $x_i \cdot t_j = x_j \cdot t_i$.

Нетрудно понять, что подмножество $Q$ является гладким подмногообразием. При ограничении на $Q$ проекции на первый множитель прямого произведения $U \times \mathbb R\mathrm P^{n-1}$ получаем отображение $\sigma\colon Q \to U$. Ясно, что $\sigma^{-1}(m) = \mathbb R\mathrm P^{n-1}$, а вне $\sigma^{-1}(m)$ отображение $\sigma$ является аналитическим диффеоморфизмом. Предполагая, что все остальные координатные окрестности многообразия $M$ не содержат точку $m$, образуем новое топологическое пространство (на самом деле – аналитическое многообразие) $\widehat M$, получающееся заменой окрестности $U$ на $Q$.

Рассуждениями, подобными применяемым в алгебраической геометрии, нетрудно убедиться, что многообразие $\widehat M$ с точностью до аналитического диффеоморфизма не зависит от выбора локальных координат $(x_1, x_2, \dots, x_n)$; похожее рассуждение будет приведено ниже при построении эквивариантного $\sigma$-процесса. Доопределив $\sigma$ тождественным отображением вне $Q$, мы получаем аналитическое отображение $\sigma\colon \widehat M \to M$.

Если $M$ – это двумерная поверхность, то вклеивание $\mathbb R\mathrm P^1$ в некоторую точку топологически эквивалентно переходу от этой поверхности к ее связной сумме с $\mathbb R\mathrm P^2$. Для $M=S^2$, как известно, получим $\mathbb R\mathrm P^2$. В результате получаем неориентируемую поверхность.

Отметим, что $\sigma^{-1}(m)$ является аналитическим подмногообразием коразмерности 1 в многообразии $\widehat M$; в алгебраической геометрии его называют исключительным дивизором (его можно стянуть в точку, не выходя за пределы категории многообразий). Его точки удобно наглядно рассматривать как прямые в касательном пространстве $T_m(M)$. В случае, когда $M$ – поверхность, этот исключительный дивизор – замкнутая кривая без самопересечений.

Полезно выяснить, как меняется при $\sigma$-процессе эйлерова характеристика поверхности. Так как образование связной суммы начинается с удаления диска (и тем самым уменьшения эйлеровой характеристики на 1), то, используя формулу для эйлеровой характеристики объединения топологических пространств $\chi (X\cup Y) = \chi(X)+\chi(Y)-\chi (X \cap Y)$, получаем, что $\chi (\widehat M) = (\chi(M)-1) +(\chi(\mathbb R\mathrm P^2) -1) - \chi (S^1) = \chi(M)-1$. Тем самым при проведении $\sigma$-процесса $k$ раз мы уменьшаем эйлерову характеристику на $k$ единиц. Этот факт будет использован ниже при доказательстве теоремы 1.

Переходим к построению эквивариантного $\sigma$-процесса. Пусть на аналитическом многообразии $M$ задано аналитическое действие некоторой группы Ли $G$, причем это действие имеет неподвижную точку $m_0 \in M$. Через $x_1,x_2, \dots, x_n$ обозначим локальные координаты в окрестности $U$ этой точки, причем можно считать, что сама точка $m_0$ имеет координаты $(0,0, \dots, 0)$.

Выберем некоторый элемент $g \in G$ и рассмотрим соответствующее ему преобразование многообразия $M$: $x \in M \mapsto g(x)= (g_1(x), g_2(x), \dots, g_n(x))$. Так как точка $m_0$ неподвижна, то $g_i(0,0, \dots, 0) = 0$. Функции $g_i(x)$ аналитические, а потому могут быть представлены в виде $g_i(x)= \sum x_j \cdot a_{ij}(x)$, где $a_{ij}$ – некоторые аналитические функции. Ясно, что матрица $[a_{ij}(0)]$ равна матрице дифференциала $(dg)_{m_0}$ в точке $m_0$. Положим $A_x= [a_{ij}(x)]$ и определим отображение $\widehat g$ в области $\sigma^{-1}(U)$ следующим образом:

Если $x \neq m_0$, то для точки $q=(x_1,x_2, \dots, x_n, t_1 : t_2 : \dots : t_n)$ для некоторого $i_0$ будет $x_{i_0} \neq 0$, и потому при всех $1 \leqslant i \leqslant n$ имеем $t_i= \lambda x_i$, где $\lambda ={t_{i_0}}/{x_{i_0}}$. Поэтому $(A_x \cdot t)_i = \sum_{j=1}^n a_{ij} (x) \cdot t_j = \lambda \cdot \sum_{j=1}^n a_{ij}(x) \cdot x_j = \lambda \cdot g_i(x)$. Следовательно, $\widehat g(q) \in Q$.

Если же $x=m_0$, то $x_1=x_2= \dots = x_n=0$ и $g_i(0)=0$. Поэтому $(A_{m_0} \cdot t)_i= \sum_{j=1}^n a_{ij}(0) \cdot t_j = (dg)_{m_0} (t)$, и снова $\widehat g(q) \in Q$.

Отсюда, очевидно, получаем, что отображение $\widehat g$ определяет некоторый аналитический диффеоморфизм многообразия $\widehat M$.

Если преобразование $g$ аналитически зависит от некоторых параметров, то и функции $a_{ij}(x)$ аналитически зависят от этих параметров. Но тогда построенное нами отображение $\widehat g$ аналитически зависит от тех же параметров. Если в качестве таких параметров взять параметры, задающие группу Ли $G$ (а такие параметры всегда существуют), то получаем, что исходное действие группы Ли $G$ на $M$ поднимается (причем вполне естественным образом) до действия $G$ на $\widehat M$. Отметим также, что если исходное действие группы Ли $G$ имеет открытую орбиту, то открытую орбиту будет, очевидно, иметь и его поднятие на многообразие $\widehat M$.

Рассмотрим теперь эквивариантный $\sigma$-процесс для изучаемой нами ситуации – для действий групп Ли $G$ на поверхностях $M^2$. Если $m_0$ – неподвижная точка, то дифференциал действия группы Ли $G$ на касательном пространстве (плоскости в нашем случае) порождает действие этой группы Ли на проективизации этого касательного пространства. Многообразие, являющееся проективизацией касательного пространства, как было показано выше, и является тем объектом, который вклеивается вместо точки $m_0$. Поэтому поднятое на $\widehat M^2$ действие (аналитическое) группы Ли $G$ на исключительной кривой $\sigma^{-1}(m_0)$ (диффеоморфной окружности) – это в точности действие дифференциала $dg_{m_0}$ на проективизации касательного пространства. Это действие может оказаться тривиальным. Но если оно нетривиально, то мы приходим к уже рассмотренной выше ситуации – нетривиальному аналитическому действию группы Ли на окружности. Как было показано выше, такое нетривиальное действие имеет конечное число неподвижных точек. Эти точки соответствуют собственным векторам действия $dg$ на касательной плоскости и потому таких точек может быть не более двух (т.е. имеются только 0, 1 или 2 неподвижные точки). Поэтому для любого действия группы Ли на $M^2$ действие этой группы Ли на исключительной кривой может быть одним из следующих: 1) транзитивное, 2) тривиальное, 3) имеет одну неподвижную точку (точнее, две слившиеся), 4) имеет две неподвижные точки.

Отметим, что кроме $\sigma$-процесса есть и еще один простой способ “размножения” действий групп Ли на многообразиях. Это переход к накрытиям над многообразиями (конечнолистным, если мы не хотим выходить за пределы компактных многообразий). Предполагая группу Ли $G$ односвязной, нетрудно показать, что существует подъем действия группы Ли $G$ c исходного многообразия на многообразие, его накрывающее. При этом используется связность действующей группы Ли и конструкция этого подъема основана на рассмотрении соответствующих алгебр Ли векторных полей.

Рассмотрим теперь подробнее действие эквивариантного $\sigma$-процесса на поверхностях. Нас будут интересовать изменения, которые будут происходить с сингулярным множеством.

Пусть неподвижная точка $m_0$ лежит на трансверсальном пересечении двух аналитических дуг $L_1$ и $L_2$. Рассмотрим отображение $\sigma\colon \widehat M \to M$. Прообраз неподвижной точки (исключительную кривую) обозначим через D. Используя описание точек этой кривой как направлений в касательной плоскости, получим: прообразы дуг $L_i$ – это две кривые на поверхности $\widehat M$, уже между собой не пересекающиеся (вблизи $D$). Но они имеют пересечения с исключительной кривой $D$. Точки пересечения будут неподвижными для действия группы Ли на $M^2$. Тем самым схема действия усложняется – вместо одной неподвижной точки появляются несколько (две и более). И этот процесс можно продолжать любое конечное число раз, не выходя за пределы изучаемого нами класса действий групп Ли на поверхностях.

Теперь рассмотрим особую точку “клюва”. В ней, как подробно описано в [7], две аналитические дуги сходятся, имея общую касательную (точнее, касательный луч). Применим и здесь $\sigma$-процесс. Общая касательная при нем перейдет в одну точку на исключительной кривой. В ней будут пересекаться прообразы указанных выше двух дуг. Но, как можно проверить, порядок касания этих дуг уменьшится. После нескольких таких шагов мы придем к трансверсальному или к пустому пересечению дуг, на границе которых расположена особая точка кривой. Аналогично может быть описано действие в случае неподвижной точки, в которой касаются две дуги сингулярного множества.

Есть и другие ситуации, например, для неподвижной точки, расположенной на неособой кривой или точки (обязательно неподвижной), являющейся точкой самопересечения гладкой дуги. Эти случаи тоже несложны, и потому подробно мы их здесь не рассматриваем.

Отметим, что если действие группы Ли $G$ на касательной плоскости в неподвижной точке тривиально (а это возможно даже в аналитическом случае, если группа Ли $G$ разрешима), то действие группы Ли $G$ на исключительной кривой $D \subset \widehat M$ тривиально. Этим обосновано приведенное выше утверждение о том, что множество неподвижных точек действия группы Ли на поверхности может занимать целую кривую (и тогда оно не будет дискретным).

В качестве применения полученной выше конструкции докажем следующее утверждение.

Доказательство. Пусть $M^2$ – некоторая компактная поверхность (без края). Мы построим на такой поверхности $M$ аналитическое действие группы Ли (одной из трех, указанных в утверждении теоремы 1), которое имеет открытые орбиты (хотя бы одну).

Начнем с трех простейших случаев – сферы $S^2$, проективной плоскости $\mathbb R\mathrm P^2$ и бутылки Клейна $K^2$. На первых двух существуют естественные транзитивные действия трехмерной простой односвязной группы Ли $\mathrm{SU}(2)$. Известно (см. выше и [1]), что и на бутылке Клейна существует транзитивное действие группы Ли $E(2)$ движений евклидовой плоскости. Поэтому в дальнейшем при нашем доказательстве мы можем предполагать, что рассматриваемая нами поверхность $M$ отлична от $S^2$, $\mathbb R\mathrm P^2$ и $K^2$. Конечно, существует транзитивное действие и на торе $T^2$ (он сам – группа Ли), но нам понадобится другое действие на нем.

Рассмотрим тор $T^2$ как произведение двух окружностей: $T^2=S^1 \times S^1$. На каждой из этих двух окружностей рассмотрим аналитическое действие группы Ли $\mathbb R$, имеющее одну неподвижную точку (такого рода действия были описаны выше). Беря прямое произведение этих действий, получим аналитическое действие абелевой группы Ли $\mathbb R^2$ на торе $S^1 \times S^1$. Очевидно, что сингулярное множество этого аналитического действия состоит из двух окружностей, пересекающихся по одной, причем неподвижной, точке.

А теперь начнем применять эквивариантный $\sigma$-процесс. Начнем с того, что применим его к построенному только что действию на торе, раздув указанную выше неподвижную точку. В результате получим некоторое локально транзитивное аналитическое действие группы Ли $\mathbb R^2$ на поверхности, диффеоморфной связной сумме $T^2 \sharp \mathbb R\mathrm P^2$. Сингулярное множество построенного действия будет, как следует из данного выше описания $\sigma$-процесса, состоять из одной окружности ($\mathbb R\mathrm P^1$), которую пересекают (в неподвижных точках) еще две аналитические дуги-окружности. Если мы применим эквивариантный $\sigma$-процесс в одной из указанных двух неподвижных точек, то получим аналитическое действие группы Ли $\mathbb R^2$ на компактной поверхности $T^2 \sharp \mathbb R\mathrm P^2 \sharp \mathbb R\mathrm P^2$, тоже имеющее открытую орбиту. Продолжая действовать тем же способом, получим аналитические действия (с открытой орбитой) группы Ли $\mathbb R^2$ на любой такой компактной поверхности, которая получается из тора образованием нескольких связных сумм с проективными плоскостями $\mathbb R\mathrm P^2$.

Имеем $\chi (T^2) =0$ и $\chi (\mathbb R\mathrm P^2) =1$. Поэтому $\chi (T^2 \sharp \mathbb R\mathrm P^2) = -1$. Как следует из формулы для эйлеровой характеристики связной суммы, указанной выше, образование связной суммы тора и нескольких экземпляров проективной плоскости дает нам нужные аналитические действия на неориентируемых компактных поверхностях с произвольной отрицательной эйлеровой характеристикой. Но, как известно из классификации компактных поверхностей, существует ровно по одной (с точностью до диффеоморфизма и даже аналитического изоморфизма) неориентируемой компактной поверхности, эйлерова характеристика которой равна $1,0,-1,-2, \dotsc$ . Первые два значения эйлеровой характеристики соответствуют уже рассмотренным нами неориентируемым компактным поверхностям $\mathbb R\mathrm P^2$ и $K^2$, а все остальные – отрицательные – значения соответствуют рассмотренным нами поверхностям вида $T^2 \sharp \mathbb R\mathrm P^2 \sharp \mathbb R\mathrm P^2 \sharp \dotsc$ . Тем самым доказано, что на любой неориентируемой компактной поверхности отрицательной эйлеровой характеристики существует аналитическое действие группы Ли $\mathbb R^2$, которое является локально транзитивным (т.е. имеет открытые орбиты). Этим наша теорема 1 доказана для всех компактных неориентируемых поверхностей $M^2$. Остается рассмотреть случай, когда поверхность $M^2$ ориентируема (это довольно необычная ситуация, когда ведущим является рассмотрение неориентируемого случая).

Опять же из классификации компактных поверхностей известно, что каждая ориентируемая компактная поверхность (рода $g \geqslant 0$ и эйлеровой характеристики $2-2g$) двулистно накрывает некоторую неориентируемую компактную поверхность (эйлерова характеристика которой равна $1-g$). Выше уже было отмечено, что можно переносить действия связных групп Ли (в том числе и аналитические) на многообразия, конечнолистно накрывающие исходные. Отсюда следует, что и на любых компактных ориентируемых поверхностях существуют локально транзитивные аналитические действия группы Ли $\mathbb R^2$. Этим доказательство теоремы 1 завершается.

Как нетрудно видеть, группа Ли $\mathbb R^2$ имеет локально транзитивные аналитические действия на любой компактной поверхности (а не только на тех, которые фигурируют в доказательстве теоремы 1). В дополнение к доказательству, приведенному выше, для этого достаточно рассмотреть только случаи, когда эта поверхность – сфера, проективная плоскость или бутылка Клейна. На проективной плоскости используем действие группы Ли $\mathbb R^2$ (аффинными) параллельными переносами. Потом перенесем его на сферу (двулистно накрывающую проективную плоскость). Для бутылки Клейна используем ее представление в виде связной суммы двух проективных плоскостей. А эту связную сумму рассмотрим как результат $\sigma$-процесса в некоторой точке проективной плоскости. Локально транзитивное аналитическое действие группы Ли $\mathbb R^2$ на проективной плоскости (см. выше) породит локально транзитивное аналитическое действие той же группы Ли на бутылке Клейна.

Отметим, что построенные в теореме 1 действия группы Ли $\mathbb R^2$ имеют обычно конечное число неподвижных точек. Но, в общем случае, неподвижные точки не являются изолированными в сингулярном множестве.

В силу доказанной теоремы 1 нет никаких ограничений на компактные поверхности, для которых существуют аналитические действия групп Ли того вида, естественность рассмотрения которых была обоснована выше. Однако ситуация резко меняется, если мы наложим некоторые ограничения на множества неподвижных точек для таких действий. Этому посвящен следующий параграф.

§ 4. Аналитические действия с изолированными неподвижными точками

В дальнейшем, изучая действия на поверхностях групп Ли с открытой орбитой, мы будем предполагать, что эти действия групп Ли на поверхностях не являются транзитивными (ибо случай таких действий полностью рассмотрен в [1]). Будем неподвижную точку называть изолированной, если она – изолированная точка в сингулярном множестве $S$. Если поверхность компактна, то число изолированных неподвижных точек будет конечно.

Доказательство. Так как для действия $G$ на $M$ все неподвижные точки изолированы, то, как следует из описанного выше строения сингулярного множества $S$, сингулярное множество $S_1$ состоит из попарно непересекающихся аналитических замкнутых кривых $L_i$, не имеющих особых точек. Открытые орбиты – это двумерные некомпактные (так как действие предполагается нетранзитивным) однородные пространства. Однородное некомпактное пространство, как было уже отмечено выше, аналитически диффеоморфно $\mathbb R^2$ (или, как нам здесь будет удобнее, открытому диску $D^2$), цилиндру $C^2= S^1 \times \mathbb R$ (или, как нам здесь будет удобнее, многообразию $S^1 \times (0,1)$) или же листу Мебиуса $\mathrm{Mb}$. Эти открытые орбиты в $M^2 $ отделены друг от друга граничными окружностями (из числа кривых $L_i$). Кроме этого, эти орбиты могут окружать изолированные неподвижные точки (если такие имеются), т.е. эти точки являются внутренними для замыканий некоторых открытых орбит.

Если к каждой открытой орбите добавить ограничивающие ее окружности и окружаемые ею неподвижные точки (получив замыкания или, точнее, компактификации этих орбит), то мы получим, как легко проверить, одну из следующих поверхностей (некоторые – с краем, который легко выделить у соответствующих поверхностей): сферу $S^2$, проективную плоскость $\mathbb R\mathrm P^2$, замкнутый диск, замкнутый цилиндр $S^1 \times [0,1]$, тор, бутылку Клейна, замкнутый лист Мебиуса $\overline {\mathrm{Mb}}$. В случаях полученных при таком замыкании орбит сферы, проективной плоскости, тора и бутылки Клейна мы в результате сразу получаем поверхность $M$ указанного в формулировке вида. В остальных случаях граница замыкания орбиты состоит из одной или двух (только в случае цилиндра) окружностей. К этим поверхностям с краем (замкнутые диск, цилиндр и лист Мебиуса) нужно применить процедуру склеивания по общей границе (или по ее связной компоненте – в случае замкнутого цилиндра).

Процесс попарного склеивания замыканий орбит несложен. Для его систематизации введем следующие обозначения. Через $D$ обозначим замкнутый диск, через $C$ – замкнутый цилиндр, через $B$ – замкнутый лист Мебиуса. Для двух поверхностей $F_1$, $F_2$ через $F_1+F_2$ обозначим результат склеивания этих поверхностей по граничной окружности. Отметим, что получающаяся при операции “сложения” поверхность с точностью до диффеоморфизма (и тогда даже до аналитического диффеоморфизма, как уже было отмечено выше) не зависит от диффеоморфизма между граничными окружностями. А вот результат склеивания между собой двух граничных окружностей цилиндра неоднозначен. В зависимости от выбора диффеоморфизма между граничными окружностями цилиндра возможны два варианта – получится тор или бутылка Клейна. Результаты склейки мы здесь обозначим соответственно через $C'$, $C''$ (эти обозначения нам понадобятся ниже – в следствии 1). Еще одна нужная нам конструкция – склеивание граничной окружности замкнутой поверхности с краем с самой собой (скручивание). Для поверхности $F$ результат будем обозначать $F/2$ (хотя фактически пополам “делится” не сама поверхность, а только ее граничная окружность).

Выпишем теперь очевидные равенства для наших поверхностей (понимаемые как результаты склейки, рассматриваемые с точностью до диффеоморфизма):

$$ \begin{equation*} \begin{gathered} \, B+B=K^2, \quad B+C=B, \quad B+D=\mathbb R\mathrm P^2, \quad C+C=C, \quad C+D=D, \\ D+D=S^2,\quad B/2=K^2, \quad C/2= B, \quad D/2=\mathbb R\mathrm P^2. \end{gathered} \end{equation*} \notag $$

Указанные здесь склейки и скручивания – это именно те, которые имеют место для рассматриваемого нами здесь многообразия $M$. В некоторых из указанных случаев склейки сразу приводят к замкнутой поверхности – это $B+B=K^2$, $B+D=\mathbb R\mathrm P^2 $, $D+D=S^2$. Скручивания дают замкнутую поверхность для поверхностей B и D. В остальных случаях процесс склеивания и скручивания продолжается. Но, так как он конечен (ибо число открытых орбит у нас конечно), то, как видно из сказанного выше, в результате мы получим одну (с точностью до гомеоморфизма) из следующих поверхностей: $S^2, \mathbb R\mathrm P^2$, $T^2, K^2$ (ибо только такими замкнутыми поверхностями может, как видно из сказанного выше, заканчиваться последовательность “сложений” и скручиваний). Отсюда следует, что наше многообразие $M$ гомеоморфно, а потому и аналитически диффеоморфно (ибо для поверхностей гомеоморфность эквивалентна аналитической диффеоморфности) одной из четырех указанных в формулировке теоремы 2 компактных поверхностей.

Утверждения о строении множеств $S_0$, $S_1$ непосредственно вытекают из детализации и анализа описанного выше процесса склейки. Теорема 2 доказана.

Можно описать схему каждого действия, фигурирующего в теореме 2, в виде некоторого алгебраического равенства. Для этого еще обозначим через $P$ точку и пусть операция $F+P$ – это вклеивание неподвижной точки. Тогда из приведенного выше доказательства теоремы 2 имеем, как нетрудно убедиться, такое следствие.

Отметим (автор благодарен рецензенту за это замечание), что B и C/2 – это диффеоморфные многообразия, но схемы действия для них различны, поскольку различаются количество сингулярных орбит и топологии открытых орбит.

Если же мы удалим в следствии 1 длинные цилиндрические цепочки, то получим только всевозможные минимальные представления:

2min) $\mathbb R\mathrm P^2= B+P$, $\mathbb R\mathrm P^2= B+D$, $\mathbb R\mathrm P^2= C/2 +P$, $\mathbb R\mathrm P^2= C/2+D$, $\mathbb R\mathrm P^2= D/2$;

4min) $K^2 = C''$, $K^2 = B+B$, $K^2 = C/2+ B$, $K^2= C/2+C/2$, $K^2=B/2$, $K^2 = C/2/2$.

Отметим, что в этих “минимальных” случаях число открытых орбит не превосходит двух, причем в пяти случаях ($D+D, C/2+D, B+B, C/2+B, C/2+C/2$) имеется ровно две открытые орбиты.

Теперь естественно было бы рассмотреть вопрос о реализации всех разложений 1–4. Но в категории аналитических действий, в которой мы работаем в настоящей статье, построение действий с заданными свойствами представляет обычно весьма трудную задачу. Об одном (увы, не совсем удачном) подходе к ее решению в нашей ситуации сейчас будет сказано.

Рассмотрим один специальный подход к построению аналитических действий с нетривиальными открытыми орбитами. Пусть имеется транзитивное действие некоторой группы Ли $G$ на многообразии $M$. Стационарную подгруппу некоторой точки многообразия $M$ обозначим через $H$. Рассмотрим алгебры Ли $g,h$ группы Ли $G$ и ее подгруппы $H$ соответственно. Предположим, что существует такая нетривиальная подалгебра Ли $f \subset g$, что $g=h+f$. Через $F$ обозначим связную подгруппу Ли в $G$, соответствующую подалгебре Ли $f$. Тогда, как известно, естественное действие подгруппы Ли $F$ на $M$ имеет открытую орбиту (но не всегда оно транзитивно). При этом действие $F$ на $M$ будет всегда аналитическим (ибо аналитично – в силу транзитивности – действие группы Ли $G$). Такая конструкция иногда дает интересные примеры аналитических действий групп Ли, имеющих открытые орбиты. Например, указанное ниже действие подгруппы Ли $\mathrm{SL}_2(\mathbb R)$ в группе Ли $\mathrm{SL}_2(\mathbf C)$, транзитивной на сфере, дает реализацию схемы $D+D=S^2$. Далее, рассмотрим естественное транзитивное действие (проективными преобразованиями) группы $\mathrm{SL}_3(\mathbb R)$ на $\mathbb R\mathrm P^2$. Это действие 2-транзитивно. Поэтому оно порождает транзитивное действие стационарной подгруппы на дополнении к точке (реализуя схему $B+P = \mathbb R\mathrm P^2$).

Но даже в простейшем случае действий групп Ли на поверхностях эта конструкция не всегда охватывает все возможные действия с открытыми орбитами. Можно показать, что схема $K^2=B+B$ не может быть получена такой конструкцией. Это делается с помощью методов, аналогичных (с некоторыми упрощениями) примененным в [8] для классификации несократимых транзитивных действий на трехмерных многообразиях. Более того, эта конструкция не может дать любые схемы вида $K^2=B+C+\dots +C+B$.

Отметим, что четыре компактные поверхности, фигурирующие в теореме 2, – это в точности все компактные однородные поверхности (т.е. поверхности, на которых существуют транзитивные действия некоторых групп Ли). Это означает, что список компактных поверхностей при переходе от однородных многообразий к локально однородным (т.е. с открытой орбитой) при изолированности неподвижных точек не расширяется, хотя расширяется класс действий групп Ли на них. Как уже было отмечено выше, список однородных поверхностей был указан еще Э. Картаном, но он пропустил $K^2$. Этот пропуск можно объяснить так: Картан рассматривал только транзитивные действия, наглядно описываемые геометрически, а простого и наглядного транзитивного действия группы Ли на $K^2$ нет.

Если рассматривать поверхности с точностью до конечнолистного накрытия, то в теореме 2 и следствии 1 можно оставить только сферу $S^2$ и тор $T^2$ (двулистно накрывающие соответственно $\mathbb R\mathrm P^2$ и $K^2$).

Можно предположить, что уже в размерности 3 существуют аналитические локально однородные, но не однородные (относительно действия любой группы Ли) компактные многообразия.

И еще одно замечание относительно четырех поверхностей из теоремы 2 – это в точности все компактные поверхности, эйлерова характеристика которых неотрицательна. Поэтому кратко утверждение теоремы 2 можно переформулировать так: если на компактной поверхности существует действие группы Ли, имеющее открытую орбиту и имеющее только изолированные неподвижные точки, то ее эйлерова характеристика неотрицательна. Отсюда получаем

Существование аналитических действий совсем без неподвижных точек на поверхностях отрицательной характеристики возможно – см. [9], но там нет открытых орбит.

Еще одна характеризация наших четырех компактных поверхностей – это в точности все те компактные поверхности (без края), эйлерова характеристика которых равна 0, 1 или 2. Этот факт можно использовать для другого доказательства теоремы 2 – использующего аддитивность эйлеровой характеристики при склеиваниях.

Можно изучать и действия комплексных групп Ли с изолированными неподвижными точками и открытой орбитой и в случае комплексных компактных поверхностей $M$ (четырехмерных как вещественные многообразия). Здесь сингулярное множество имеет вещественную коразмерность $\geqslant 2$, и потому дополнение до него связно. И потому в данном случае имеется только одна открытая орбита. Используя известную классификацию комплексных однородных поверхностей (см. [10]), можно получить описание всех таких комплексных поверхностей $M$ в случае, если все неподвижные точки изолированные. Мы здесь подробнее на этом останавливаться не будем.

§ 5. Несократимые действия групп Ли на компактных поверхностях

Пусть группа Ли аналитически и локально эффективно действует на некотором многообразии $M$, имея на нем открытую орбиту. Это действие называется локально несократимым, если в $G$ нет собственных подгрупп Ли, действие которых тоже имеет на $M$ открытую орбиту. Для случая транзитивных действий понятие несократимого действия было введено в [8]. Отметим, что для транзитивного действия свойства несократимости и локальной несократимости несколько различаются. Если действие группы Ли (локально) сократимо, то естественное (локально) транзитивное действие ее подгруппы $G_1$ будем называть сокращением исходного действия группы Ли $G$. Как легко понять из соображений размерности, для любого (локально) транзитивного действия группы Ли $G$ существует в этой группе Ли такая связная подгруппа Ли, действие которой уже будет (локально) несократимым.

При переходе от локально сократимой группы Ли к ее подгруппе Ли $G_1$, тоже имеющей открытую орбиту, строение схемы действия (введенной выше) может измениться. Отметим, что в силу нашего определения сократимости транзитивное действие может сократиться до нетранзитивного, хотя и локально транзитивного. Размерности орбит при сокращении действия, конечно, увеличиться не могут. Нетрудно показать, что и исчезнуть полностью при сокращении действия открытые орбиты (как подмножества в $M$) не могут, ибо для аналитического действия они не могут превратиться в объединение одномерных и нульмерных орбит. Более того, при сокращении число открытых орбит может увеличиться.

Пусть на компактной поверхности $M^2 $ существует аналитическое локально эффективное действие односвязной группы Ли $G$, имеющей открытую орбиту, и это действие сократимо до действия некоторой подгруппы Ли $G_1 \subset G$. При переходе к подгруппе $G_1$ сингулярное подмножество может увеличиться и потому могут появиться новые открытые орбиты. Например, на двумерной сфере транзитивна $\mathrm{SL}_2(\mathbf C)$, а вот ее подгруппа $\mathrm{SL}_2(\mathbb R)$ имеет две открытые орбиты (и нетривиальное сингулярное множество). Эти две орбиты соответствуют двум полуплоскостям, которые на комплексной плоскости сохраняет группа $\mathrm{SL}_2(\mathbb R)$ в ее естественном действии дробно-рациональными преобразованиями. Здесь мы получаем реализацию равенства $S^2 = D+D$ из следствия 1. Отметим, что это действие группы $\mathrm{SL}_2(\mathbb R)$ на $S^2$ локально сократимо – до действия связной максимальной треугольной подгруппы (состоящей из верхнетреугольных унимодулярных вещественных матриц порядка 2 с положительными диагональными элементами). Эта подгруппа – двумерная разрешимая (и неабелева) односвязная группа Ли (ее мы обозначаем $R_2$).

Введем некоторые нужные нам в дальнейшем обозначения. Через $\mathscr A$ обозначим односвязную трехмерную простую группу Ли, являющуюся универсальной накрывающей для группы Ли $\mathrm{SL}_2(\mathbb R)$. Через $R_2$ обозначим двумерную односвязную разрешимую группу Ли, которую геометрически можно рассматривать как группу Ли сохраняющих ориентацию аффинных преобразований прямой $\mathbb R$. Наконец, через $R_3(\alpha, \beta)$ обозначим трехмерную односвязную разрешимую группу Ли, которая имеет вид $\mathbb R \cdot \mathbb R^2 $; это полупрямое произведение, соответствующее гомоморфизму $\varphi\colon \mathbb R \to GL_2(\mathbb R)$, причем $\varphi(t)=\exp(Xt)$, где $X \in M_2(\mathbb R)$ – матрица, характеристические корни которой комплексны: $\lambda_{1,2} = \alpha \pm i\beta$, причем $\beta \ne 0$ (т.е. эти корни не должны быть вещественными). На самом деле один из двух параметров, скажем, $\beta$, здесь можно зафиксировать (положив, например, $\beta = 2\pi$), и тогда рассматриваемую нами группу Ли можно обозначить через $R_3(\alpha)$. При $\alpha = 0$ мы получим универсальную накрывающую для группы $E(2)$ движений евклидовой плоскости). При произвольном значении параметра $\alpha$ группа $R_3(\alpha)$ естественным образом вкладывается в группу $\mathrm{Aff}(\mathbb R^2)$. Ее линейная часть состоит из суперпозиций поворотов и гомотетий (определяемых числом $\alpha +2\pi i$). Этот факт был подсказан автору рецензентом, за что автор выражает рецензенту искреннюю благодарность. Естественное (и аналитическое) действие группы $\mathrm{Aff}(\mathbb R^2)$ на $\mathbb R\mathrm P^2$ порождает локально транзитивное аналитическое действие группы $R_3(\alpha)$ на $\mathbb R\mathrm P^2$.

Утверждение следующей, вспомогательной для нас, леммы можно доказать двумя разными способами. Во-первых, может быть дано доказательство примерно такое же, какое было дано в статье [8] в более сложном – трехмерном – случае. Второй способ – использовать известную классификацию С. Ли всех алгебр Ли аналитических векторных полей на плоскости (уточненный вариант которой приведен в § 6) и извлечь из нее только несократимые (в очевидном смысле этого слова). Мы выберем доказательство посредством результатов из [8].

Смысл утверждения этой леммы заключается в том, что если $G$ – некоторая группа Ли, локально транзитивная на поверхности $M^2$ (не обязательно компактной), то в ней существует подгруппа Ли, локально изоморфная одной из групп Ли, указанных в лемме 1, и которая локально транзитивна на $M^2$. Отметим, что все указанные в этой лемме группы Ли транзитивно, несократимо и на самом деле действуют на некоторых поверхностях (возможно, некомпактных).

Теперь будет доказано утверждение, которое конкретизирует информацию о группах Ли, локально транзитивно и несократимо действующих на поверхностях, содержащуюся в лемме 1. Мы будем теперь рассматривать в основном только действия на компактных поверхностях.

Возвращаемся к доказательству предложения 2.

Пусть имеется некоторое локально транзитивное действие группы Ли $\mathscr A$ на некоторой поверхности $M^2$. Обозначим через $H$ стационарную подгруппу некоторой точки из некоторой открытой орбиты. В силу доказанной выше леммы 2 для подалгебры Ли $h$, соответствующей подгруппе Ли $H$, в алгебре Ли $g$ группы Ли $G=\mathscr A$ существует дополнительная двумерная подалгебра Ли $t$. Через $T$ обозначим соответствующую этой подалгебре Ли связную подгруппу Ли в $\mathscr A$. Очевидно, что естественное действие подгруппы Ли $T$ на $M^2$ имеет открытую орбиту, т.е. является локально транзитивным. Потому исходное действие группы Ли $\mathscr A$ на $M^2$ оказывается локально сократимым. Этим заканчивается доказательство предложения 2.

Этим доказательство п. (ii) завершено. Продолжим доказательство теоремы 3.

(iii). Предположим, что группа Ли $G=R_2$ транзитивна на некоторой компактной поверхности. Тогда стационарная подгруппа этого действия нульмерна, т.е. дискретна и является решеткой (т.е. факторпространство по ней компактно). Как известно, группа Ли, имеющая решетку, обязательно унимодулярна. Группа же Ли $R_2$, очевидно, не унимодулярна. Потому транзитивно на компактной поверхности она действовать не может. Существование же ее локально транзитивных действий на компактных поверхностях было показано выше – она имеет аналитическое локально транзитивное действие на сфере $S^2$ (с двумя открытыми орбитами и, как очевидно по соображениям размерности, несократимое).

(iv). Ясно, что группа Ли $\mathbb R^2$ может быть транзитивна только на одной компактной поверхности – на двумерном торе. Утверждение о существовании аналитического локально транзитивного действия этой группы Ли на любой компактной поверхности было доказано выше (при доказательстве теоремы 1). Несократимость этого действия очевидна в силу двумерности группы Ли $\mathbb R^2$ и двумерности поверхности $M^2$.

(v). Докажем, что группа Ли $G=R_3(\alpha)$ при $\alpha \ne 0$ не может транзитивно действовать ни на какой компактной поверхности $M^2$.

Пусть $M^2=G/H$, где $H$ – стационарная подгруппа в группе Ли $G$ (отметим, что действие рассматриваемой группы Ли $G$ на поверхности обязательно будет локально эффективным). Многообразие $G/H$ является солвмногообразием и потому может быть диффеоморфно только тору $T^2$ или бутылке Клейна $K^2$ (см. [1]). Отсюда следует, что фундаментальная группа $\pi_1(G/H)$ (изоморфная в силу односвязности группы Ли $R_3(\alpha)$ группе связных компонент $\pi_0(H)$ стационарной подгруппы $H$) содержит в качестве подгруппы конечного (даже $\leqslant 2$) индекса подгруппу, изоморфную $\mathbb Z^2$. Но тогда параметр $\alpha$ должен быть равен нулю (см. [11; приложение 1, теорема 1.1], утверждение которой верно, как легко понять – переходя к конечнолистному накрытию – не только для фигурирующих там нильпотентных фундаментальных групп, но и тех, которые имеют нильпотентную подгруппу конечного индекса). Однако у нас по условию $\alpha \ne 0$. Полученное противоречие доказывает утверждение п. (v). О существовании упомянутых в этом пункте локально транзитивных аналитических действий уже было сказано выше.

§ 6. Уточненная классификация С. Ли

Здесь приведена уточненная (с исключением изоморфных алгебр Ли и с описанием алгебраической структуры алгебр Ли) классификация – впервые полученная еще самим С. Ли – алгебр Ли аналитических векторных полей на плоскости $\mathbb R^2$. Эта классификация в транзитивном случае с некоторыми уточнениями получена теми же методами, что и в комплексном случае в [12]. Новое в вещественном случае можно разбить на три части.

1. Объединены в единую серию алгебры Ли, обозначенные через $\mathrm{N}4$ и $\mathrm{N}5$ в [12]. Это привело к расхождению (в виде сдвига) с нумерацией алгебр Ли, использованной в [12].

2. Добавляются пять новых (вещественных) примитивных алгебр Ли. Для частичного сохранения нумерации других алгебр Ли, которые буквально переносятся (с заменой поля $\mathbb C$ на $\mathbb R$) из комплексной классификации, эти новые примитивные алгебры Ли векторных полей получили нумерацию $\mathrm{N}17$–$\mathrm{N}21$ в конце списка.

3. Две серии комплексных алгебр Ли (в которые входят множители в виде экспоненты) в вещественной ситуации видоизменяются, в них теперь используются еще и множители в виде синусов и косинусов. Семейство $\mathrm{N}11$ из [12] заменяется здесь на $\mathrm{N}10$, а $\mathrm{N}14$ – на $\mathrm{N}13$.

Так как никаких принципиальных сложностей по сравнению с [12] в вещественном случае не возникает, то доказательство сформулированной ниже теоремы 4 не приводится. Опишем используемые ниже обозначения.

Через $p$, $q$ обозначаются векторные поля ${\partial}/{\partial x}$, ${\partial}/{\partial y}$ соответственно.

Некоторые алгебры Ли заданы ниже в виде полупрямых сумм подалгебры и идеала, при этом указываются задающие эти суммы действия (гомоморфизмы в алгебру Ли дифференцирований) подалгебр Ли на идеалах. Через $\tau$ обозначается тавтологическое представление, а через $\varphi_{r+1}$ и $\psi_{r+1}$ – естественные (т.е. реализуемые в пространстве бинарных форм степени $r$) неприводимые представления размерности $r+1$ (или их ограничения на некоторую подалгебру Ли) алгебр Ли $\mathrm{sl}_2(\mathbb R)$ и $\mathrm{gl}_2(\mathbb R)$ соответственно. Через $b$ будет обозначаться борелевская (она же здесь – максимальная треугольная) подалгебра Ли в $\mathrm{sl}_2(\mathbb R)$. Она является двумерной разрешимой алгеброй Ли, изоморфной $r_2$. В качестве канонической $b$ здесь удобно брать подалгебру Ли верхнетреугольных матриц с нулевым следом. Через $\overline b$ обозначается борелевская подалгебра Ли в $\mathrm{gl}_2(\mathbb R)$ (например, подалгебра Ли верхнетреугольных матриц; она изоморфна $r_2 \oplus \mathbb R$).

Для описания двух серий алгебр Ли ниже нам понадобятся специальные матрицы (а также их прямые суммы и некоторые их усложнения).

Для произвольных вещественных чисел $a$, $b$ через $W(a,b)$ обозначим матрицу второго порядка $\begin{pmatrix} a & b \\ -b & a \end{pmatrix}$. Собственные числа этой матрицы равны $a \pm ib$. Указанная матрица является стандартной (канонической) формой для вещественных матриц второго порядка, имеющих пару комплексно сопряженных, но не вещественных (и потому – различных), собственных значений. Далее, для произвольных вещественных чисел $a_1,a_2, \dots, a_m, b_1, b_2, \dots , b_m$ рассмотрим прямую сумму матриц $\bigoplus_1^m W(a_k,b_k)$ (это квадратная матрица порядка $2k$, на диагонали которой стоят матрицы второго порядка $W(a_k,b_k)$). И, наконец, через $W (a_1,\dots, a_m,b_1, \dots, b_m)$ обозначим матрицу, у которой по диагонали расположена прямая сумма матриц $\bigoplus_1^m W(a_k,b_k)$, а непосредственно над клетками $W(a_k,b_k)$ при $k \geqslant 2$ стоят два элемента, оба равные $k$. Именно такие непростые матрицы необходимы для описания алгебраического строения двух семейств ($\mathrm{N}10$ и $\mathrm{N}13$) алгебр Ли векторных полей на плоскости. Они по своему виду немного напоминают матрицы канонической вещественной жордановой формы матриц, но отличаются от тех тем, что там над блоками второго порядка стоят единичные матрицы второго порядка, а здесь – матрицы вида $\begin{pmatrix} 0 & 0 \\ k & k \end{pmatrix}$. Можно указать вещественные жордановы формы матриц вида $W (a_1,\dots, a_m,b_1, \dots, b_m)$, но мы здесь этим небезынтересным вопросом заниматься не будем.

Теорема 4. Пусть $g$ – транзитивная алгебра Ли гладких (или аналитических) векторных полей на $\mathbb R^2$, а $h$ – стационарная подалгебра Ли некоторой точки (обычно – начала координат). Тогда $g$ изоморфна (или подобна, как алгебра Ли векторных полей) одной из следующих алгебр Ли или члену семейства алгебр Ли векторных полей (причем после номеров алгебр Ли в скобках указаны их размерности $d$, a затем выписаны базисные векторные поля).

$\mathrm{N}1$ ($d=8$):

$p$, $q$, $xq$, $xp-yq$, $yp$, $xp+yq$, $x^2p+xyq$, $xyp+y^2q$,

$g = \mathrm{sl}_3(\mathbb R)$,

$h = \mathrm{gl}_2(\mathbb R) +_{\tau} \mathbb R^2$.

$\mathrm{N}2$ ($d=6$):

$p$, $q$, $xq$, $xp-yq$, $yp$, $xp+yq$,

$g = \mathrm{gl}_2(\mathbb R) +_\tau \mathbb R^2$,

$h = \mathrm{gl}_2(\mathbb R)$.

$\mathrm{N}3$ ($d=5$):

$ p$, $q$, $xq$, $xp-yq$, $yp$,

$ g= \mathrm{sl}_2(\mathbb R) +_\tau \mathbb R^2$,

$h = \mathrm{sl}_2(\mathbb R)$.

$\mathrm{N}4$ ($d=r+4$, $r \geqslant 1$):

$q$, $xq$, $\dots$, $x^rq$, $p$, $2xp+ryq$, $x^2p+rxyq$,

$g = \mathrm{sl}_2(\mathbb R) +_{\varphi_{r+1}} \mathbb R^{r+1}$,

$h = b + \mathbb R^r$.

Здесь $\mathbb R^r \subset \mathbb R^{r+1}$ – инвариантное относительно $b$ подпространство коразмерности 1 (при фиксированной борелевской подалгебре Ли $b$ оно единственно).

$\mathrm{N}5$ ($d=r+5$, $r>0 $):

$q$, $xq$, $\dots$, $x^rq$, $yq$, $p$, $xp$, $x^2p+rxyq$,

$g = \mathrm{gl}_2(\mathbb R) +_{\psi_{r+1}} \mathbb R^{r+1}$,

$h = \overline{b} + \mathbb R^r$.

Здесь $\overline{b}$ – борелевская подалгебра Ли в $\mathrm{gl}_2(\mathbb R)$, а $\mathbb R^r$ – (единственное) инвариантное относительно нее подпространство в $\mathbb R^{r+1}$ коразмерности 1.

$\mathrm{N}6$ ($d=4$):

$yq$, $p$, $xp$, $x^2p+xyq$,

$g = \mathrm{sl}_2(\mathbb R) \oplus \mathbb R = \mathrm{gl}_2(\mathbb R)$,

$h$ – двумерная разрешимая диагонально вложенная в $\overline b = b \oplus \mathbb R$ подалгебра Ли. Если $p\colon b \to b/[b,b] = \mathbb R$ – естественный эпиморфизм, то можно взять $h = p^{-1}(\Delta)$, где $\Delta \subset \mathbb R \times \mathbb R$ – диагональная подалгебра Ли).

$\mathrm{N}7$ ($d=r+4$, $r>0$):

$q$, $xq$, $\dots$, $x^rq$, $yq$, $p$, $xp$,

$g = \overline b +_{\psi_{r+1}} \mathbb R^{r+1}$,

$h = c +_{\psi_{r+1}} \mathbb R^{r}$.

Здесь $c$ – картановская подалгебра в трехмерной борелевской подалгебре Ли $\overline b$ алгебры Ли $\mathrm{gl}_2(\mathbb R)$, а $\mathbb R^r$ – (единственное) инвариантное относительно подалгебры Ли $\overline b$ (а потому и относительно $c$) подпространство коразмерности $1$ в $\mathbb R^{r+1}$.

$\mathrm{N}8$ ($d=r+3$, $r>0$):

$q$, $xq$, $\dots$, $x^rq$, $p$, $xp+cyq$, $c \ne 1$,

$g = r_2 +_{\varphi} \mathbb R^{r+1}$,

$h = \mathbb R +_{\varphi} \mathbb R^r$.

Здесь действие $\varphi$ подалгебры $r_2$ c базисом $A$, $B$ ($A=p$, $B= xp+cyq$) на абелевом идеале $\mathbb R^{r+1}$ ($q, xq, \dots , x^rq$) описывается с помощью двух матриц $[A]$, $[B]$. У матрицы $[A]$ все элементы, кроме элементов второй побочной верхней диагонали – нулевые. На указанной диагонали последовательно стоят числа $1,2, \dots, r$. Матрица $[B]$ диагональная, на диагонали последовательно стоят числа $k-c$, где $k=0,1, \dots, r$.

Стационарная подалгебра $h$ имеет вид $\mathbb R +_\varphi \mathbb R^r$, где подалгебра $\mathbb R$ натянута на вектор $B$, а подпространство $\mathbb R^r$ натянуто на все указанные выше базисные векторы идеала $\mathbb R^{r+1}$, кроме первого.

$\mathrm{N}9$ ($d=r+2$, $r>1$):

$q$, $xq$, $\dots$, $x^{r-1}q$, $p$, $xp+(ry+x^r)q$,

$g= \mathbb R + n$, ее нильрадикал $n$ имеет вид $n= \mathbb R +_{J_r(0)} \mathbb R^r$

(здесь $J_r(0)$ – жорданова клетка порядка $r$, соответствующая нулевому собственному значению),

$h = \mathbb R + \mathbb R^{r-1}$.

Действие $\mathbb R$ на $n$ задается матрицей, у которой в первом столбце (соответствующем базисному элементу $p$) есть только два ненулевых числа: первое (равное $-1$) и последнее (равное $-r$), а по диагонали матрицы стоят числа $i-r$, где $i$ меняется последовательно от 0 до $r-1$ (остальные элементы матрицы – нулевые).

Aбелев идеал $\mathbb R^{r-1} \subset n$ – подпространство коразмерности 1 в абелевом идеале $\mathbb R^r$, натянутое на все базисные векторы этого идеала, кроме первого.

$\mathrm{N}10$ ($d=N+2$, где $N=l+l+m+m_1+ \dots +m_l$):

$$ \begin{equation*} \begin{aligned} \, &e^{a_kx}\cos(b_kx)q, \quad e^{a_kx}\sin(b_kx)q, \quad xe^{a_kx}\cos(b_kx)q, \quad xe^{a_kx}\sin(b_kx)q, \\ &\qquad \dots, \quad x^{m_k}e^{a_kx}\cos(b_kx)q, \quad x^{m_k}e^{a_kx}\sin(b_kx)q, \\ &\qquad\qquad yq, \quad p, \end{aligned} \end{equation*} \notag $$

где $k= 1,2, \dots, l, l+m+m_1+ \dotsb$, $m_l >0$, $k_1 = 0$ или $1$,

$g = \mathbb R^2 + \mathbb R^N$,

$h = \mathbb R + \mathbb R^{N-1}$.

Действие подалгебры $\mathbb R^2 \subset g$ (с базисом $X$, $Y$) на идеале $\mathbb R^N$ задается парой коммутирующих матриц, соответствующих присоединенным действиям базисных элементов $X$ и $Y$. Действие элемента $X$ задается матрицей $-E$ (где $E$ – единичная матрица). Действие же элемента $Y$ задается в базисе, составленном попеременно из соответствующих векторных полей с косинусными и синусными множителями (как они записаны выше) матрицей $W (a_1,\dots, a_k,b_1, \dots, b_k)$, описанной выше.

Стационарная подалгебра $h$ имеет вид полупрямой суммы $h = \langle X \rangle +_{-E} \mathbb R^{N-1}$. Подпространство $\mathbb R^{N-1}$ имеет базис, составленный из векторных полей $x^r e^{a_kx}\cos(b_kx)q$ при $m_k \geqslant r >0$ и всех фигурирующих выше векторных полей $x^r e^{a_kx}\sin(b_kx)q$, к которым добавлены еще векторные поля $(e^{a_kx}\cos(b_kx) - e^{a_1x}\cos(b_1x))q$.

При этом число ненулевых параметров среди $a_k,b_k$ должно быть не менее трех (чтобы избежать изоморфности с другими алгебрами Ли из нашего списка).

$\mathrm{N}11$ ($d=3$):

$p$, $2xp+yq$, $x^2p+xyq$,

$g = \mathrm{sl}_2(\mathbb R)$,

$h$ – картановская подалгебра (состоящая из диагональных матриц в $\mathrm{sl}_2(\mathbb R)$).

$\mathrm{N}12$ ($d=3$):

$q$, $p$, $xp+(x+y)q$,

$g = n_3$ – трехмерная нильпотентная алгебра Ли (она в подходящем базисе $\{ X,Y,Z \}$ задается соотношением $[X,Y]=Z$),

$h$ – одномерная подалгебра, натянутая на вектор $X$.

$\mathrm{N}13$ ($d=N+1$, где $N = l+ m_1+ \dots +m_l$):

где $k= 1,2, \dots, l, l+m_1+ \dots+ m_l >0$, $a_1 = 0 $ или $1$,

$g = \mathbb R +\mathbb R^N$,

$h = \mathbb R^{N-1}$.

Действие образующей одномерной подалгебры $\mathbb R $ задается в базисе, составленном попеременно из соответствующих векторных полей с косинусными и синусными множителями (как они записаны выше) описанной выше матрицей $W (a_1,\dots, a_k,b_1, \dots, b_k)$.

Подпространство $\mathbb R^{N-1}$ имеет базис, составленный из векторных полей $x^r e^{a_kx}\cos(b_kx)q$ при $m_k \geqslant r >0$ и всех фигурирующих выше векторных полей $x^r e^{a_kx}\sin(b_kx)q$, к которым добавлены еще векторные поля $(e^{a_kx}\cos(b_kx) - e^{a_1x}\cos(b_1x))q$.

Данная алгебра Ли векторных полей является подалгеброй Ли в алгебре Ли $\mathrm{N}10$.

$\mathrm{N}14$ ($d=3$):

$p+q$, $xp+yq$, $x^2p+y^2q$,

$g = \mathrm{sl}_2(\mathbb R)$,

$h$ – одномерная подалгебра в $\mathrm{sl}_2(\mathbb R)$, натянутая на нильпотентную матрицу $\begin{pmatrix} 0&1 \\ 0&0 \end{pmatrix}$.

$\mathrm{N}15$ ($d=3$):

$q$, $p$, $xp+cyq$, $c \in \mathbb R $,

$g = \mathbb R +_\gamma \mathbb R^2$ (здесь полупрямая сумма задается матрицей $\gamma(1)$, равной $\mathrm{diag}(1,c)$),

$h$ – одномерная подалгебра $\mathbb R$, фигурирующая выше в полупрямой сумме.

$\mathrm{N}16$ ($d=2$):

$q$, $xp+yq$,

$g = r_2$,

$h = \{0 \}$.

$\mathrm{N}17$ ($d=6$):

$p$, $q$, $xp-yq$, $xp+yq$, $(x^2-y^2)p+2xyq$, $2xyp+(y^2-x^2)q $,

$g=\mathrm{sl}_2(\mathbf C)$,

$h = b^{\mathbf c}$ (комплексная борелевская подалгебра Ли – разрешимая алгебра Ли вещественной размерности 4).

$\mathrm{N}18$ ($d=4$):

$p$, $q$, $xq-yp$, $xp+yq$,

$g$ – разрешимая алгебра Ли вида $A + B$ (полупрямая сумма), где $A,B \simeq \mathbb R^2 $, действие подалгебры Ли $A$ на идеале $B$ – композиции гомотетий и инфинитезимальных вращений,

$h=A$.

$\mathrm{N}19$ ($d=3$):

$p$, $q$, $xq-yp+c(xp+yq)$,

$g= \mathbb R +_{\varphi}\mathbb R^2$ – разрешимая алгебра Ли, задаваемая как полупрямая сумма матрицей $W(-c,1)=\begin{pmatrix} -c & 1 \\ -1 & -c \end{pmatrix}$ (собственные значения которой равны $-c\,{\pm}\,i$),

$h$ – одномерная алгебра Ли $\mathbb R$, фигурирующая выше в полупрямой сумме.

$\mathrm{N}20$ ($d=3$):

$p+(x^2-y^2)p+2xyq$, $q+2xyp+(y^2-x^2)q$, $yp-xq$,

$g=so_3$,

$h = so_2$.

$\mathrm{N}21$ ($d=3$):

$p+(x^2-y^2)p-2xyq$, $q-2xyp-(y^2-x^2)q$, $yp-xq$,

$g=\mathrm{sl}_2(\mathbb R)$,

$h = so(2)$.

$\mathrm{N}22$ ($d=2$):

$g= \mathbb R^2$,

$h= \{ 0 \}$.

Среди алгебр Ли $\mathrm{N}1$–$\mathrm{N}22$, отвечающих различным значениям параметров (числовых или матричных), нет между собой изоморфных.

Следующее утверждение касается уточнения (причем весьма значительного) классификации интранзитивных (т.е. нетранзитивных) алгебр Ли на плоскости. Для случая комплексной плоскости доказательство этого результата приведено в [13]. В вещественном случае никаких изменений в рассуждениях и в формулировке не требуется. Поэтому ниже приведена формулировка одновременно для комплексной и вещественной плоскостей.

Благодарность

Автор благодарен рецензенту, указавшему ряд неточностей и неясностей в первоначальном варианте текста статьи и давшему ряд предложений по их исправлению.

§ 1. Введение