Успехи математических наук
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Архив
Импакт-фактор
Правила для авторов
Загрузить рукопись
Историческая справка

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



УМН:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Успехи математических наук, 2023, том 78, выпуск 5(473), страницы 93–176
DOI: https://doi.org/10.4213/rm10100
(Mi rm10100)
 

Эта публикация цитируется в 2 научных статьях (всего в 2 статьях)

Биллиарды и интегрируемые системы

А. Т. Фоменкоab, В. В. Ведюшкинаa

a Московский государственный университет им. М. В. Ломоносова, механико-математический факультет
b Московский центр фундаментальной и прикладной математики
Список литературы:
Аннотация: Обзор посвящен классу интегрируемых гамильтоновых систем и классу интегрируемых биллиардов, а также недавним результатам авторов и их учеников по задаче сравнения этих классов с точки зрения послойной гомеоморфности их слоений Лиувилля. Ключевым инструментом здесь оказались введенные В. В. Ведюшкиной биллиарды на кусочно-плоских CW-комплексах – топологические биллиарды и биллиардные книжки. Приведено построение класса эволюционных (силовых) биллиардов, введенных недавно А. Т. Фоменко и позволяющих моделировать систему сразу в нескольких неособых зонах энергии при помощи одного биллиарда, а также его применение для геодезических потоков на двумерных поверхностях и систем механики. Обсуждаются другие интегрируемые обобщения классического биллиарда, включая биллиарды с потенциалами, биллиарды в магнитном поле, биллиарды с проскальзыванием. Биллиардные книжки с потенциалом Гука, склеенные из плоских софокусных или круговых столов, моделируют четырехмерные полулокальные особенности слоений интегрируемых систем, содержащие невырожденные положения равновесия. Рассмотрение пересечения нескольких софокусных квадрик в $\mathbb{R}^n$ приводит к обобщению теоремы Якоби–Шаля.
Библиография: 144 названия.
Ключевые слова: интегрируемая система, гамильтонова система, биллиард, софокусные квадрики, геодезический поток, динамика твердого тела, биллиардная книжка, лиувиллева эквивалентность, инвариант Фоменко–Цишанга, особенность, бифуркационная диаграмма, эволюционный биллиард.
Финансовая поддержка Номер гранта
Российский научный фонд 21-11-00355
Раздел 3.4 выполнен при поддержке Российского научного фонда (грант № 21-11-00355) в МГУ им. М. В. Ломоносова.
Поступила в редакцию: 23.12.2022
Англоязычная версия:
Russian Mathematical Surveys, 2023, Volume 78, Issue 5, Pages 881–954
DOI: https://doi.org/10.4213/rm10100e
Реферативные базы данных:
Тип публикации: Статья
УДК: 517.938.5
MSC: Primary 37C83, 37J35; Secondary 37D30, 70E40

Введение

Топологический подход к изучению конечномерных интегрируемых систем в значительной степени был мотивирован работой С. Смейла [1], посвященной в том числе изучению топологических свойств совместных уровней энергии и интеграла площадей для гамильтоновых систем. Опишем разделы настоящего обзора, посвященного иллюстрации применения данного метода к анализу наглядных интегрируемых систем, а именно биллиардов.

Раздел 1. Построенная в работах А. Т. Фоменко, его соавторов и учеников [2]–[6] теория топологической классификации интегрируемых систем позволяет классифицировать такие системы с двумя степенями свободы с точностью до различных послойных эквивалентностей их слоений Лиувилля, а также алгоритмически перечислить все возможные в таких системах невырожденные особенности ранга $1$ ($3$-атомы Фоменко) и ранга $0$, т. е. слоений в инвариантной окрестности слоя с невырожденными положениями равновесия. В основе лежит аналог теории Морса (теория Морса–Ботта), построенный ранее А. Т. Фоменко [7], [8] для интегрируемых систем с конечным числом степеней свободы.

Основными инвариантами интегрируемой гамильтоновой системы на неособом ($d H \ne 0$) уровне энергии $Q^3_h\colon H=h$ оказываются оснащенные графы: инвариант Фоменко (называемый также молекулой), т. е. база слоения Лиувилля вместе с ее локальным поднятием, и инвариант Фоменко–Цишанга (или меченая молекула). Вершины графов оснащены типами невырожденных особенностей ($3$-атомов), ребра соответствуют семействам неособых торов Лиувилля, а числовые метки кодируют результат склейки расслоенного $Q^3$ из набора $3$-атомов, т. е. содержат необходимую информацию о наборе диффеоморфизмов склейки граничных торов $3$-атомов в соответствии с матрицей инцидентности графа Фоменко.

Перечисленные выше топологические инварианты удалось вычислить для многих интегрируемых систем из геометрии, механики и математической физики [6]. Совпадение инвариантов двух систем в их неособых зонах энергии означает наличие гомеоморфизма последних, переводящего почти все замыкания решений одной системы в замыкания решений другой. Хотя две такие системы могли задаваться разными уравнениями, тем не менее их топологическая эквивалентность означает совпадение многих качественных свойств их движений. Отметим, что аналогичное остается верно и для близких к ним неинтегрируемых возмущений, в силу КАМ-теории и результатов Н. Н. Нехорошева (см. [9], [10]).

Отметим, что за прошедшие годы теория топологической классификации А. Т. Фоменко получила дальнейшее развитие в самых разных направлениях: траекторная эквивалентность интегрируемых систем [11], топологическая и симплектическая классификация и кодирование невырожденных особенностей интегрируемых систем [12]–[14], классификация вырожденных особенностей ранга $1$ и вопрос их структурной устойчивости при возмущении в классе интегрируемых систем [15], изучение систем с некомпактными слоениями и неполными потоками – см., например, [16].

Раздел 2. Одним из направлений в теории интегрируемых систем, бурно развивавшихся в последние годы, стала теория интегрируемых биллиардов. Изучается система движения шара по некоторой области-столу с отражением от ее границы. Ставшие классическими результаты С. В. Болотина [17], [18] и недавние результаты М. Бялого и А. Е. Миронова [19], [20], А. А. Глуцюка [21], [22], А. Соррентино, В. Ю. Калошина и др. [23], [24], связанные с доказательством различных версий гипотезы Биркгофа о биллиардах [25], показывают, что принадлежность дуг границы стола семейству квадрик с общими фокусами (или их вырождений) является не только достаточным [26], но и необходимым условием для интегрируемости системы в том или ином смысле (например, для полиномиальной интегрируемости).

Хотя биллиарды являются, вообще говоря, лишь кусочно-гладкими системами, для многих из них может быть успешно вычислен кусочно-гладкий аналог инварианта Фоменко–Цишанга: их регулярные слои являются торами, а окрестности особых слоев послойно гомеоморфны $3$-атомам, причем числовые метки и определяющие их допустимые базисы на торах склейки оказываются корректными. Для плоских софокусных биллиардов инварианты были вычислены В. Драговичем и М. Раднович [27] и независимо В. В. Ведюшкиной, причем как для эллиптико-гиперболического [28], [29], так и для параболического случая [30]. Здесь и далее мы будем говорить об инварианте Фоменко–Цишанга биллиарда (опуская слово “аналог”), если инвариант корректно определен.

Для плоских софокусных столов получилось лишь конечное количество различных инвариантов. Иначе говоря, такие биллиарды могут (топологически) промоделировать интегрируемые системы, принадлежащие лишь конечному количеству классов лиувиллевой эквивалентности. Казалось бы, отсюда следует “конечность” и топологической задачи в целом для интегрируемых биллиардов на плоских столах (в отсутствие потенциала).

В. В. Ведюшкиной удалось принципиально расширить класс изучаемых биллиардов, разрешив изометричную склейку кусочно-плоского двумерного стола из плоских двумерных столов по общим дугам границы. Были определены классы топологических (обобщенных) биллиардов [31] и биллиардных книжек [32]. Топологические биллиарды гомеоморфны ориентируемым многообразиям (пусть и являются кусочно-плоскими). Каждое ребро (1-клетка) либо является граничным, либо по нему склеено ровно два плоских стола.

Биллиардные книжки являются CW-комплексами, 1-клетки которых (“корешки книжки”) оснащены циклическими перестановками на множествах инцидентных им 2-клеток (“листов” книжки). Эти перестановки задают переход шара с листа на лист после удара о данный корешок. Вершинам (нульмерным клеткам) соответствует условие коммутирования. В отличие от топологического биллиарда, книжка содержит хотя бы одно ребро-корешок, по которому склеено не менее трех 2-клеток (“листов” книжки).

Класс топологических биллиардов был полностью классифицирован в работах [31], [33] В. В. Ведюшкиной, причем и структурно (как CW-комплексы), и топологически (вычислены инварианты Фоменко–Цишанга). При этом была введена структурная эквивалентность столов, сохраняющая топологию слоения и допускающая непрерывную деформацию дуг границы в классе софокусных квадрик. Класс биллиардных книжек существенно шире; в работе [34] показано, как с помощью введенной операции “перегибания” книжки свести весь их класс к девяти множествам книжек, каждое из которых допускает программный перебор по количеству листов.

В работе [35], на основе полученных к тому моменту результатов, А. Т. Фоменко сформулировал общую гипотезу (подробнее о ней говорится в п. 2.3), предполагающую, что класс интегрируемых биллиардов “не у́же” класса интегрируемых систем с точки зрения топологии слоений Лиувилля, а именно что произвольный класс лиувиллевой эквивалентности (инвариант Фоменко–Цишанга – граф с атомами-вершинами и числовыми метками) реализуется подходящим биллиардом. В этой связи интересен любой ответ: если гипотеза неверна, то важно установить природу препятствия к такой реализации. В той же работе было сформулировано и несколько других задач о топологии и динамике интегрируемых биллиардов.

Ряд положений гипотезы Фоменко уже доказан: установлено, что реализуются все невырожденные $3$-атомы [32], [36] и все значения числовых меток [37]–[39], а также произвольный инвариант Фоменко без меток [40]. Иными словами, никакая “составная часть” инварианта сама по себе не является препятствием к реализации, а относительно более слабой (грубой лиувиллевой) эквивалентности биллиардами реализуются все классы.

Отметим, что, помимо реализации В. В. Ведюшкиной и И. С. Харчевой всех боттовских (невырожденных) седловых $3$-атомов классом биллиардных книжек, А. А. Кузнецовой удалось недавно реализовать примеры неботтовских мультиседловых $3$-атомов (прямых или почти прямых произведений мультиседла на окружность). В п. 2.3 настоящей работы также формулируется расширенная версия пункта A гипотезы Фоменко, или гипотеза $\widetilde{{\rm A}}$, предполагающая реализацию произвольных $3$-атомов, чьи особые окружности могут быть мультиседловыми. Соответствие между неморсовскими мультиседловыми $2$-атомами с одной особой точкой и хордовыми диаграммами изучалось И. М. Никоновым [41].

Отдельный сюжет связан с изучением топологии изоэнергетических множеств $Q^3$ для биллиардов. И. С. Харчевой показано [42], что для произвольной книжки ее $Q^3$ гомеоморфно гладкому трехмерному многообразию. В. В. Ведюшкиной в работе [43] построены книжки, чьи $Q^3$ лежат в дополнении класса многообразий Зейферта до класса граф-многообразий Вальдхаузена [44], [45], таким образом, класс биллиардных $Q^3$ не ограничен многообразиями Зейферта. Ряд недавних результатов обсуждается также в [46]–[48].

Хотя ответ на наиболее общий пункт C гипотезы (реализация произвольных инвариантов Фоменко–Цишанга) еще неясен, биллиардами уже удалось промоделировать следующие системы из механики и математической физики [49]: волчки Эйлера и Лагранжа – целиком, в каждой неособой зоне энергии, и следующие системы в некоторых подходящих зонах энергии: волчок Ковалевской, система Жуковского (волчок Эйлера с гиростатом, называемый также системой Жуковского–Вольтерра), системы Чаплыгина [50], Клебша, Стеклова, Соколова (подробнее см. п. 2.4). Интересным является обнаруженный авторами в работе [51] факт моделирования гладких систем, имеющих интеграл высокой степени – степени $3$ или $4$ (системы Горячева–Чаплыгина и Ковалевской и соответствующие им по принципу Мопертюи геодезические потоки [52], для которых степень интеграла не понижаема), с помощью, вообще говоря, кусочно-гладких систем биллиарда, имеющих один и тот же интеграл степени $2$. При этом каждой неособой зоне энергии моделируемой системы требуется поставить в сответствие “свой” биллиард-книжку, реализующий слоение системы в выбранной зоне энергии. В указанном контексте также представляется интересной работа [53], где приведены биллиарды в круге с метрикой вращения и потенциалом, имеющие неприводимый интеграл степени $3$ и $4$.

Важная серия результатов связана с моделированием геодезических потоков на двумерных поверхностях, интегрируемых по Лиувиллю с интегралами степени $1$ или $2$. Согласно знаменитой теореме Козлова [54], род поверхности должен быть неотрицателен, т. е. она может быть гомеоморфна сфере $S^2$, тору $T^2$, проективной плоскости $\mathbb{R}P^2$ или бутылке Клейна $\operatorname{KL}^2$. Канонический вид метрик, порождающих такие потоки, был определен ранее, и для всех метрик были вычислены инварианты Фоменко–Цишанга и траекторные инварианты (история вопроса и результаты подробно изложены в книге [6]).

Интегрируемые потоки на сфере и торе были промоделированы В. В. Ведюшкиной и А. Т. Фоменко [55], [46] интегрируемыми круговыми топологическими биллиардами (в случае линейного интеграла) и софокусными топологическими биллиардами и биллиардными книжками (для квадратичного интеграла). Каждому такому потоку, задаваемому нетривиальной римановой метрикой, был поставлен в соответствие кусочно-гладкий стол с плоской метрикой внутри 2-клеток и изометричной склейкой этих плоских частей по их границам.

Раздел 3. Проблема моделирования системы одним биллиардом сразу на всем фазовом пространстве $M^4$ (возможно, за исключением отдельных уровней энергии) весьма естественна. Следующие два вопроса являются непосредственными усложнениями вопросов и результатов, обсуждаемых в разделе 2:

Новый подход к решению первой задачи был предложен А. Т. Фоменко: был введен [57] класс эволюционных (силовых) биллиардов, для которых геометрия стола и закон отражения зависят от параметра и допускают перестройки при некоторых его значениях. Неособым зонам параметра соответствуют слои-книжки, которые могут моделировать систему в неособых зонах энергии (совпадение инвариантов Фоменко–Цишанга, т. е. классов послойной гомеоморфности). Вместе с тем возможность “соединить” два инварианта (слоения на двух $Q^3$) формулируется не в терминах фазового пространства (наличия некоторой четырехмерной особенности у слоения), а “наглядно”, в терминах деформации стола-комплекса. Аналогично, биллиардная книжка сопоставляет “сложность” конфигурационного пространства (стола-комплекса с перестановками) – “сложности” слоения (его $3$-атомов, числовых меток) на фазовом $Q^3$.

В разделе 3 подробно описывается недавно введенный класс эволюционных биллиардов [57], [58] и излагаются результаты по моделированию ими топологии волчков Эйлера и Лагранжа (целиком, т. е. все неособые слоения с одного симплектического $M^4$ системы реализуются одним эволюционным биллиардом), системы Жуковского и волчка Ковалевской [59].

При этом удается обнаружить неочевидную связь классических систем Эйлера и Лагранжа. Устремив фокусы квадрики к ее центру, получим деформацию семейства софокусных квадрик в семейство концентрических окружностей и их радиусов. Применим такое преобразование к эволюционному биллиарду, моделирующему волчок Эйлера. Тогда набор софокусных биллиардов, реализующих слоения Лиувилля волчка Эйлера в неособых зонах энергии, перейдет в набор круговых биллиардов, реализующих слоения Лиувилля волчка Лагранжа в неособых зонах энергии. В указанном смысле будем говорить о биллиардной эквивалентности двух таких систем.

В разделе 3 также приводится новый результат: при стремлении фокусов квадрик к их центру софокусный топологический биллиард, реализующий геодезический поток глобально лиувиллевой метрики на торе (его интеграл квадратичный), переходит в круговой топологический биллиард, реализующий геодезический поток с линейным интегралом на торе. Иначе говоря, линейно интегрируемые геодезические потоки на торе оказываются биллиардно эквивалентными квадратично интегрируемым геодезическим потокам на торе с глобально лиувиллевой метрикой.

Раздел 4. В данном разделе излагается несколько коротких сюжетов, посвященных различным интегрируемым обобщениям классических биллиардов (в их числе – интегрируемые биллиарды с потенциалом [60], [61], круговые биллиарды в постоянном магнитном поле [62] и введенные А. Т. Фоменко [63] биллиарды с проскальзыванием), а также перечисляется ряд других задач: биллиарды на плоскости с метрикой Минковского, добавление к ним потенциалов, топология слоев слоения псевдоинтегрируемых софокусных биллиардов с углами $3\pi/2$, упорядоченные биллиардные игры.

Для известного уравнения В. В. Козлова [60], задающего условие интегрируемости потенциала биллиарда в эллипсе (часть решений этого уравнения была найдена В. Драговичем), С. Е. Пустовойтов указал общий вид решений (в предположении полиномиальности потенциала). Для биллиардов с такими потенциалами задача описания топологии слоения Лиувилля на неособом уровне энергии становится алгоритмической. Данное исследование развивает предыдущий результат С. Е. Пустовойтова [64] о топологии биллиардов с потенциалами степени $4$.

Обозначенная выше задача моделирования невырожденных полулокальных особенностей ранга $0$, т. е. слоений Лиувилля в малой четырехмерной окрестности слоя с невырожденными положениями равновесия, была успешно решена на основе подхода, предложенного В. А. Кибкало [65], [66]. Для этого применяются биллиардные книжки, движение по плоским листам которых происходит в поле одинакового для всех листов отталкивающего потенциала Гука.

В наиболее трудном случае особенностей седло-седло структура искомой книжки (количество листов и перестановки на ее ребрах склейки) может быть задана по $f_n$-графу особенности, введенному ранее А. А. Ошемковым [13]. Особенность с $n$ положениями равновесия типа фокус-фокус на особом слое моделируется биллиардной книжкой с отталкивающим потенциалом Гука на $n$ экземплярах биллиарда в круге, склеенных по общей граничной окружности с перестановкой $(1,\dots,n)$, см. работу В. В. Ведюшкиной, В. А. Кибкало и С. Е. Пустовойтова [67].

С. Е. Пустовойтовым также изучена топология плоских и топологических биллиардов на круговых столах, движение по которым происходит в постоянном магнитном поле, вектор индукции которого ортогонален поверхности стола. Алгоритмически построены бифуркационные диаграммы таких биллиардов и вычислены их инварианты Фоменко–Цишанга.

Случай биллиардов на столах, размерность которых больше $2$, изучается Г. В. Белозеровым. Были построены бифуркационные диаграммы и выполнена классификация областей-столов, ограниченных фрагментами софокусных квадрик в $\mathbb{R}^3$ с точностью до слабой эквивалентности [68]. Ведется изучение топологических свойств биллиардов в таких областях после добавления потенциала Гука.

Вопрос об интегрируемости движения шара по пересечению нескольких софокусных квадрик в $\mathbb{R}^3$ был поставлен В. А. Кибкало и решен им в случае $n-2$ квадрик в $\mathbb{R}^n$. Были найдены формулы дополнительного интеграла и расширен класс двумерных “элементарных” областей с неплоской метрикой, из которых тоже можно склеивать топологические биллиарды и книжки. В общем случае пересечения $k$ софокусных квадрик в $\mathbb{R}^n$ интегрируемость была доказана Г. В. Белозеровым (интегрируемость сохраняется и при добавлении центрального потенциала Гука). Фактически, полученный результат обобщает классическую теорему Якоби–Шаля (случай $k=1$): касательные к фазовой траектории геодезического потока одновременно касаются еще $n-k-1$ софокусных квадрик, одних и тех же для всех точек траектории.

1. Интегрируемые системы с двумя степенями свободы. Инварианты лиувиллевой эквивалентности и классификация систем. Необходимые понятия, теоремы и обозначения

В настоящей работе рассматриваются гладкие невырожденные интегрируемые гамильтоновы системы, в основном с двумя и тремя степенями свободы, а также кусочно-гладкие интегрируемые биллиарды, в основном двумерные и трехмерные.

1.1. Интегрируемые системы с двумя степенями свободы. Базовые определения и теоремы

Пусть $M^{2n}$ – симплектическое многообразие с симплектической $2$-формой $\omega$, через $v=\operatorname{sgrad} H$ обозначим гамильтоново векторное поле с гладким гамильтонианом $H$. Система $v$ называется вполне интегрируемой по Лиувиллю, если она обладает набором функционально независимых гладких первых интегралов $f_1,\dots,f_n$, коммутирующих относительно скобки Пуассона $\{*,*\}$ на $M$, причем все векторные поля $\operatorname{sgrad}f_i$ полны.

Определение 1. Возникающее разбиение многообразия $M$ на связные компоненты совместных уровней $T_\xi$ интегралов $f_1,\dots,f_n$ называется слоением Лиувилля. Оно состоит из регулярных $n$-мерных слоев, заполняющих почти все многообразие $M^{2n}$, и особых слоев, заполняющих множество меры нуль. (Повторим, что все слои являются связными.)

Следующий фундаментальный результат, называемый иногда теоремой Лиувилля (например, см. обзор Б. А. Дубровина, И. М. Кричевера, С. П. Новикова [69]), полностью описывает топологию, динамику и симплектическую геометрию вполне интегрируемой системы вблизи регулярного слоя. С различными доказательствами этой теоремы можно ознакомиться, например, в монографиях Б. А. Дубровина, С. П. Новикова, А. Т. Фоменко [70] и А. В. Болсинова, А. Т. Фоменко [6].

Теорема 1. Рассмотрим систему, интегрируемую по Лиувиллю, и пусть $T_\xi$ – регулярная $n$-мерная поверхность уровня. Тогда эта поверхность является гладким лагранжевым подмногообразием, инвариантным относительно полей (потоков) $\operatorname{sgrad}H,\operatorname{sgrad}f_1,\dots,\operatorname{sgrad}f_n$.

1) Если поверхность $T_\xi$ компактна и связна, то она диффеоморфна $n$-мерному тору, который называется тором Лиувилля.

2) Слоение Лиувилля в некоторой окрестности $U^{2n}$ тора $T_\xi$ тривиально, т. е. диффеоморфно прямому произведению тора $T^n$ на диск $D^n$.

3) В указанной в п. 2) окрестности существуют координаты $s_1,\dots,s_n$, $\phi_1,\dots,\phi_n$, называемые координатами “действие-угол” и являющиеся функциями от исходных интегралов системы. Здесь $s_i$ – координаты на диске $D^n$, а $\phi_i$ – стандартные угловые координаты на торе $T_\xi$.

4) Относительно этих координат симплектическая структура становится канонической и постоянной, а гамильтонов поток $v$ (как и остальные потоки $\operatorname{sgrad}f_i$) выпрямляется на каждом торе Лиувилля из окрестности $U $, т. е. $\dot{s}_i=0$, $\dot{\phi}_i=q_i(s_1,\dots,s_n)$, $i=1,\dots,n$. Это означает, что на каждом торе поток $v$ задает условно-периодическое движение, а его траектории являются прямолинейными обмотками тора – рациональными или иррациональными. (Соответствующие торы Лиувилля называются также резонансными или нерезонансными.)

В аналитическом случае почти все торы Лиувилля являются нерезонансными, т. е. иррациональными. Следовательно, такой тор является замыканием интегральной траектории, лежащей на торе. В этом смысле почти все торы Лиувилля “изображают” замыкание решений системы $v$. Система называется нерезонансной, если почти все ее торы Лиувилля нерезонансны.

Определение 2. Для систем с двумя степенями свободы на $M^4$ через $Q_h$ обозначим изоэнергетическую поверхность, т. е. поверхность уровня $H=h=\operatorname{const}$. Почти все изоэнергетические поверхности регулярны, так как на них $dH$ всюду отличен от нуля, а потому такие $Q^3_h$ являются гладкими трехмерными подмногообразиями в $M$. В дальнейшем мы будем предполагать, что все $Q_h$ компактны.

Через $f$ обозначим дополнительный интеграл системы, независимый с $H$, а через $F\colon M^4 \to\mathbb{R}^2$ – отображение момента $F(x)=(H(x),f(x))$. Пусть $\sigma$ – бифуркационная диаграмма, т. е. образ множества критических точек отображения момента в плоскости $\mathbb{R}^2$; в типичном случае $\sigma$ состоит из кусочно-гладких кривых и изолированных точек.

Ограничивая интеграл $f$ на регулярную поверхность $Q^3_h$, получаем гладкую функцию и отображение $f\colon Q\to \mathbb{R}^1$. Интеграл $f$ называется боттовским или невырожденным на $Q$, если все его критические подмногообразия (т. е. подмногообразия, состоящие из критических точек $f$) невырождены. Это означает, что ограничение $f$ на трансверсальную площадку к критическому подмногообразию является функцией Морса. Систему $v$ будем называть невырожденной на $Q$, если все критические подмногообразия невырождены. Они могут быть только одномерными или двумерными. В дальнейшем будем считать, что рассматриваемые нами системы невырожденные и обладают только критическими окружностями на регулярных $Q^3_h$.

Определение 3. Две интегрируемые системы $v_1$ и $v_2$ на $M^4_1$ и $M^4_2$ (соответственно на $Q^3_1$ и $Q^3_2$) называются лиувиллево эквивалентными, если существует диффеоморфизм $M^4_1$ на $M^4_2$ (соответственно $Q^3_1$ на $Q^3_2$), переводящий слоение Лиувилля первой системы в слоение Лиувилля второй системы и сохраняющий ориентацию $3$-многообразий и ориентации всех критических окружностей (индуцированных потоками $v_1$ и $v_2$).

Напомним, что критические окружности интегралов являются замкнутыми траекториями системы и потому имеют естественную ориентацию.

Поскольку в типичном случае (случай общего положения) почти все торы Лиувилля являются замыканиями интегральных траекторий, можно сказать, что лиувиллево эквивалентные системы имеют “одинаковые” замыкания почти всех интегральных траекторий.

Определение 4. Базой слоения Лиувилля или бифуркационным комплексом называется топологическое пространство его слоев (они связны) с обычной фактортопологией, т. е. топологическое пространство, точками которого объявляются слои слоения Лиувилля (каждый слой, регулярный или особый, заменяется точкой).

Бифуркационные комплексы и их свойства в общем случае (включая указание перестроек слоения на “гранях” комплекса) были введены и изучены А. Т. Фоменко в 1988 г. в [2], [71]. В типичных случаях бифуркационный комплекс является не только хаусдорфовым пространством, но даже клеточным комплексом. В случае систем с двумя степенями свободы на $M^4$ он двумерный. Бифуркационный комплекс (база) слоения Лиувилля на изоэнергетической $3$-поверхности $Q^3_h$ является одномерным графом.

Важный факт: в нерезонансном (т. е. типичном) случае бифуркационный комплекс не зависит от выбора интегралов интегрируемой системы, а определяется лишь векторным полем $\operatorname{sgrad}H$, см. [2], [71]. Напомним, что почти все торы Лиувилля – это замыкания интегральных иррациональных траекторий.

Определение 5. Две интегрируемые системы называются грубо лиувиллево эквивалентными, если существует гомеоморфизм между базами соответствующих слоений Лиувилля (т. е. бифуркационными комплексами), который локально, т. е. в окрестности каждой точки базы, поднимается до послойного гомеоморфизма слоений Лиувилля.

1.2. Критические точки и невырожденные особенности. $2$-атомы. $f$-графы

Пусть $f$ – функция Морса на замкнутой двумерной поверхности $X^2$.

Определение 6. Морсовским $2$-атомом называется окрестность $P^2$ критического слоя $f(x)=c$, задаваемая неравенством $c-\varepsilon \leqslant f \leqslant c+\varepsilon$ для достаточно малого $\varepsilon$, расслоенная на линии уровня функции $f$ и рассматриваемая с точностью до послойной эквивалентности. Если критическое значение $c$ есть локальный минимум или максимум, то атом называется атомом $A$. Если значение $c$ – седловое, то $2$-атом называется седловым. Атом называется простым, если функция Морса является простой, т. е. на критическом уровне находится ровно одна критическая точка. Остальные атомы называются сложными. Атом называют ориентируемым или неориентируемым в зависимости от того, является поверхность $P^2$ ориентируемой или неориентируемой. Родом $2$-атома называется род замкнутой $2$-поверхности, получающейся из $P^2$ путем заклейки всех ее граничных окружностей дисками.

Алгоритм построения полного списка всех морсовских $2$-атомов описан в [6]. При этом каждому фиксированному значению сложности $2$-атома, т. е. количеству его особых точек, соответствует конечный список морсовских $2$-атомов такой сложности. Атомов сложности $1$ ровно три (один минимаксный атом $A$, ориентируемый седловой атом $B$ и неориентируемый седловой атом $\widetilde{B}$). Все атомы сложности $2$ и выше – седловые. Здесь и далее все $2$-атомы предполагаем ориентируемыми.

Кодирование $2$-атомов, учитывающее направление роста функции $f$ на $2$-атоме, удобно выполнять при помощи $f$-графов, введенных А. А. Ошемковым [72]. Ориентируемая двумерная компактная поверхность $P^2$ атома является симплектической, т. е. векторное поле $v=\operatorname{sgrad}f$ задает на ней гамильтонову систему с одной степенью свободы (и функция $f$ есть ее первый интеграл).

Напомним конструкцию $f$-графа для ориентируемых атомов (иначе некоторые ребра графа оснащаются метками $+1$ или $-1$). Выберем граничный уровень $f=c-\varepsilon$ седлового $2$-атома. Он состоит из нескольких окружностей, причем малая окрестность каждого седла пересекается с их объединением по двум интервалам. Выберем на каждом из них по точке и сопоставим их вершинам графа. Каждая из них будет иметь степень $3$: два ориентированных ребра (входящее и выходящее) и одно неориентированное. Ориентированные ребра графа соответствуют сдвигам вдоль гамильтонова поля $v=\operatorname{sgrad}\,f$ по окружностям уровня $f=c-\varepsilon$, переводящим одну отмеченную точку в другую. Неориентированное ребро соединяет точки двух интервалов из окрестности одного и того же седла (будем считать, что ориентированные и неориентированные ребра изображены разными “цветами”).

Заметим, что закодировать $f$-граф атома сложности $k$ можно парой перестановок $S_{2k}$, причем одна состоит из $k$ независимых транспозиций (задающих соответствие пары вершин графа седловой точке $2$-атома), а циклы второй определяются сдвигом вдоль гамильтонова поля по окружности уровня $f=c-\varepsilon$ (переводящим отмеченную точку в другую). Такое представление оказалось удобно для моделирования $2$-атомов и $3$-атомов биллиардными книжками [36].

Замечание 1. Классификацию особенностей систем с одной степенью свободы существенно расширил С. С. Николаенко [73], обобщив при этом и их код – конструкцию $f$-графа. Для морсовских ориентируемых $2$-атомов неориентированное ребро $f$-графа теперь интерпретируется как цикл длины $2$, “окрашенный” в иной цвет, чем ориентированные ребра $f$-графа. Вырожденной особенности типа мультиседла (особая точка, в которую входят $2k$ сепаратрис) соответствует набор из $k$ вершин графа с циклическим обходом. Он задает $k$ ориентированных по циклу ребер, имеющих иной цвет, чем ребра, соединяющие вершины двух разных седел. Недавно А. А. Кузнецовой были реализованы такие атомы при помощи интегрируемых биллиардных книжек.

Замечание 2. Впоследствии А. А. Ошемков обобщил конструкцию $f$-графа на случай невырожденных седловых особенностей ранга $0$ интегрируемых систем с $m$ степенями свободы. Окрестность каждой точки послойно гомеоморфна произведению $m$ окрестностей морсовского седла на $X^2$, и особенность задается набором из $m$ произведений транспозиций и $m$ перестановок с некоторыми условиями коммутирования. С использованием данной конструкции В. А. Кибкало были реализованы биллиардами с отталкивающим потенциалом Гука полулокальные невырожденные седловые особенности ранга $0$.

1.3. Боттовские особенности интегрируемых систем. $3$-атомы. Теорема Фоменко

Рассмотрим интегрируемую гамильтонову систему с двумя степенями свободы $v=\operatorname{sgrad}H$ на $M^4$ с гамильтонианом $H$ и дополнительным интегралом $f$. Ограничим $v$ и $f$ на $3$-многообразие $Q^3_h$. Пусть $L$ – особый слой слоения Лиувилля на $Q^3_h$.

Определение 7. Назовем $3$-атомом трехмерную инвариантную окрестность $U(L)$ особого слоя $L$, расслоенную на поверхности уровня интеграла $f$ и рассматриваемую с точностью до послойной эквивалентности. Если функция $f$ является функцией Морса, то этот $3$-атом называется боттовским $3$-атомом.

На критических окружностях интеграла $f$ ориентация задается потоком $v=\operatorname{sgrad}H$. Окрестность $U(L)$ всегда ориентируема. При послойной эквивалентности ориентация критических окружностей должна сохраняться.

Теорема 2 (взаимно однозначное соответствие морсовских $2$-атомов и боттовских $3$-атомов; А. Т. Фоменко [6]–[8]). 1) Трехмерное многообразие $U(L)$ является многообразием и расслоением Зейферта со слоем окружность и с двумерной базой $P(L)$. Особые слои этого расслоения (если они существуют) имеют один и тот же тип $(2,1)$.

2) Эти особые слои являются в точности критическими окружностями интеграла $f$ с неориентируемыми сепаратрисными диаграммами.

3) Если особых слоев у этого расслоения Зейферта нет, то многообразие $U(L)$ является прямым произведением $P(L)\times S^1$, где $P(L)$ – двумерная ориентируемая поверхность с краем.

4) В общем случае структура расслоения Зейферта на $U(L)$ и структура слоения Лиувилля на $U(L)$ согласованы в том смысле, что каждый слой расслоения Зейферта (окружность) лежит на каком-то слое слоения Лиувилля.

5) В частности, интеграл $f$ постоянен на слоях расслоения Зейферта, а потому его можно рассматривать как функцию Морса на базе $P(L)$. Если особых слоев типа $(2,1)$ нет, то $P(L)$ является описанным выше $2$-атомом с функцией $f$. Случай особых слоев типа $(2,1)$ описывается ниже.

А именно, если слой $L$ содержит критические окружности с неориентируемыми сепаратрисными диаграммами (т. е. имеет тип $(2,1)$), то существует “сечение” расслоения Зейферта $\widetilde{P}$ в $U(L)$, обладающее следующими свойствами:

Утверждение 1 [7], [8]. 1) Отображение $g$ является инволюцией на $\widetilde{P}$. Ее неподвижные точки – это в точности точки пересечения “сечения” $\widetilde{P}$ с особыми слоями (окружностями) расслоения Зейферта.

2) База $P(L)$ расслоения Зейферта на $3$-атоме $U(L)$ является факторпространством поверхности $\widetilde{P}$ по действию инволюции $g$.

Определение 8. Указанную выше базу $P(L)$ будем называть “$2$-атомом со звездочками”, где “звездочки” соответствуют неподвижным точкам инволюции $g$, т. е. особым слоям типа $(2,1)$ расслоения Зейферта.

Таким образом, теорема А. Т. Фоменко утверждает, что существует биекция между $3$-атомами и $2$-атомами (со звездочками или без них). В случае $2$-атомов без вершин-звездочек $3$-атом является прямым произведением $2$-атома на окружность. $2$-атомы со звездочками являются базами расслоений Зейферта с особыми слоями на $3$-атоме, причем, повторим, вершины-звездочки взаимно однозначно соответствуют особым слоям типа $(2,1)$ расслоения Зейферта.

Так как $3$-атомы описывают бифуркации (перестройки) торов Лиувилля при их прохождении через критический уровень интеграла $f$ на $Q^3_h$, то они взаимно однозначно классифицируются $2$-атомами (без звездочек и со звездочками).

1.4. Топология изоэнергетических поверхностей $Q^3$ интегрируемых систем

Определение 9. Обозначим через $(H)$ класс всех гладких ориентируемых компактных замкнутых (без края) $3$-многообразий, являющихся изоэнергетическими поверхностями интегрируемых невырожденных (боттовских) систем, т. е. систем, интегрируемых при помощи боттовских интегралов.

Далее, рассмотрим два $3$-многообразия: полноторие $A$ и прямое произведение $2$-диска с двумя дырками на окружность, которое обозначим через $B$.

Определение 10. Обозначим через $(Q)$ класс всех ориентируемых замкнутых компактных $3$-многообразий, представимых в виде $Q^3=aA+bB$, где $a$ и $b$ – целые неотрицательные числа, а “+” обозначает склейку многообразий по диффеоморфизмам граничных торов.

Определение 11. Обозначим через $({\rm Wa})$ класс многообразий Вальдхаузена (или граф-многообразий), т. е. ориентируемых компактных замкнутых $3$-многообразий таких, что:

(a) многообразие содержит некоторое конечное множество непересекающихся торов;

(b) после выбрасывания этих торов получается открытое $3$-многообразие, каждая связная компонента которого является расслоением Зейферта со слоем окружность над некоторым двумерным многообразием (возможно, с границей и не обязательно ориентируемым).

Определение 12. Через $(H')$ обозначим класс всех ориентируемых компактных замкнутых $3$-многообразий, являющихся изоэнергетическими $3$-поверхностями гамильтоновых систем, интегрируемых при помощи ручных интегралов $f$. Гладкий интеграл называется ручным, если для любого его критического уровня существует гомеоморфизм всего $3$-многообразия, переводящий этот уровень в полиэдр.

Теорема 3 (А. В. Браилов, С. В. Матвеев, А. Т. Фоменко, Х. Цишанг [6]). 1) Все четыре описанных выше класса совпадают:

$$ \begin{equation*} (H)=(Q)=(\operatorname{Wa})=(H'). \end{equation*} \notag $$

2) Класс $(H)$ не исчерпывает класс всех гладких связных ориентируемых компактных $3$-многообразий.

3) Для любых двух многообразий из класса $(H)$ их связная сумма также принадлежит классу $(H)$.

4) Если многообразие из класса $(H)$ представимо в виде связной суммы двух отличных от сферы многообразий, то оба этих многообразия также принадлежат классу $(H)$.

1.5. Топологические инварианты слоения Лиувилля на неособых поверхностях $Q^3$

Рассмотрим базу слоения Лиувилля на неособой $Q^3_h$, т. е. где $dH \ne 0$. Это есть одномерный граф $W$, ребра которого отвечают однопараметрическим семействам регулярных торов Лиувилля, а “вершины” соответствуют перестройкам (бифуркациям) этих торов. Каждой “вершине” поставим в соответствие условное обозначение соответствующего $3$-атома.

Определение 13. Полученный граф $W$ с вершинами-атомами называется грубой молекулой $W$ или инвариантом Фоменко.

Инвариант Фоменко является классифицирующим инвариантом грубой лиувиллевой эквивалентности.

Инвариантам грубой лиувиллевой эквивалентности на изоэнергетическом многообразии $Q^3$ и симплектическом многообразии $M^4$ (за вычетом отдельных слоев) посвящены работы [3], [74], [75] (см. также [76]).

Молекула $W$ содержит много информации о слоении Лиувилля, но этой информации недостаточно для классификации слоений с точностью до лиувиллевой эквивалентности. Разрежем каждое ребро молекулы посередине. Молекула распадается на отдельные $3$-атомы. Если мы хотим сделать обратную склейку, то граф $W$ сообщает, какие пары граничных торов нужно склеить. Для задания такой склейки достаточно указать для каждого разрезанного ребра матрицу склейки $C$, определяющую изоморфизм фундаментальных групп склеивающихся торов. Для этого надо фиксировать на торах системы координат, т. е. пару независимых ориентированных циклов, являющихся образующими фундаментальной группы тора $\mathbb{Z}\oplus\mathbb{Z}$. Такую систему координат $(\lambda,\mu)$ (названную допустимой) на каждом граничном торе $3$-атома удается задать, используя геометрию $3$-атома. Подробное описание см. в [5]–[8], [77].

Далее, рассмотрим произвольное ребро $e_i$ молекулы $W$ и зададим на нем некоторую ориентацию, например по возрастанию функции $f$. Мы разрезали это ребро вдоль некоторого тора Лиувилля и определили на берегах разреза допустимые системы координат $K_1$ и $K_2$. Рассматривая эти пары циклов как базисы в группе одномерных гомологий тора, получаем целочисленную матрицу склейки $C_i$ размером $2\times 2$ с определителем, равным $-1$. Хотя эти матрицы не определены однозначно, это не влияет на дальнейшие конструкции. По набору этих матриц строятся инварианты (уже не зависящие от некоторого произвола в выборе допустимых базисов). А именно, это рациональные метки $r_i$ и $\varepsilon_i=\pm1$ на ребрах $e_i$ и целочисленные метки $n_k$ на так называемых семьях.

Семьи определяются так. Назовем бесконечным ребром молекулы ребро с меткой $r_i$, равной бесконечности. Остальные ребра назовем конечными ребрами. Разрежем молекулу по всем конечным ребрам. В результате молекула распадется на связные компоненты. Семьями мы называем те из них, которые не содержат минимаксных атомов $A$ (см. выше). Такие $3$-атомы $A$ диффеоморфны полноторию. Если все ребра молекулы конечны, то каждый ее седловой атом является по определению семьей.

Определение 14. Молекула $W$, снабженная числовыми метками $r_i$, $\varepsilon_i$, $n_k$, называется меченой молекулой или инвариантом Фоменко–Цишанга.

Одним из основных результатов теории лиувиллевой классификации интегрируемых систем с двумя степенями свободы является следующая теорема.

Теорема 4 (А. Т. Фоменко, Х. Цишанг, см. [4], [77]). Две интегрируемые системы $(v,Q)$ и $(v',Q')$ на изоэнергетических $3$-поверхностях $Q$ и $Q'$ лиувиллево эквивалентны в том и только том случае, когда их меченые молекулы $W^*$ и $W^{*\prime}$ совпадают.

При построении меченой молекулы $W^*$ была использована ориентация многообразия $Q$, критических окружностей интеграла $f$ и ребер молекулы. При изменении ориентаций меченая молекула будет, вообще говоря, меняться. Подробности см. в [4], [6]. При этом две меченые молекулы, полученные друг из друга заменой ориентаций на некоторых ребрах, считаются совпадающими.

Теорема 5 (теорема реализации; А. В. Болсинов, А. Т. Фоменко [5]). Любая абстрактно заданная меченая молекула реализуется как меченая молекула некоторой гладкой интегрируемой гамильтоновой невырожденной системы.

Таким образом, дискретный инвариант Фоменко–Цишанга классифицирует (с точностью до лиувиллевой эквивалентности) все интегрируемые невырожденные системы с двумя степенями свободы на изоэнергетических $3$-многообразиях.

В 1990 г. А. Т. Фоменко сформулировал программу создания фундаментального Атласа интегрируемых систем, в котором, на основе вычисления меченых молекул, были бы лиувиллево классифицированы основные известные сегодня серии систем с двумя степенями свободы, обнаруженные в физике, механике, геометрии и топологии. Наряду с классификацией систем на изоэнергетических $3$-поверхностях, большую важность для Атласа представляет классификация четырехмерных особенностей систем на фазовом многообразии $M^4$ (отметим здесь результаты Нгуен Тьен Зунга [12] и А. А. Ошемкова [13]).

В значительной степени эта программа реализована и продолжает выполняться в настоящее время в работах, например, следующих авторов: А. Т. Фоменко, А. В. Болсинов, А. А. Ошемков, В. С. Матвеев, Е. А. Кудрявцева, В. В. Ведюшкина (Фокичева), А. Ю. Коняев, В. А. Кибкало, Д. А. Федосеев, а также: Е. В. Аношкина, Е. И. Антонов, Г. В. Белозеров, А. В. Браилов, Ю. А. Браилов, В. Драгович, Х. Дуллин, В. Н. Завьялов, М. Ю. Ивочкин, Е. Е. Каргинова, А. И. Жила, В. В. Калашников (мл.), Е. О. Кантонистова, И. Ф. Кобцев, И. К. Козлов, Н. В. Коровина, Б. С. Кругликов, А. А. Кузнецова, Т. А. Лепский, П. В. Морозов, А. Ю. Москвин, В. А. Москвин, Нгуен Тьен Зунг, С. С. Николаенко, Д. В. Новиков, О. Е. Орел, Т. И. Погосян, Л. С. Полякова, С. Е. Пустовойтов, М. Раднович, П. Е. Рябов, Е. Н. Селиванова, В. И. Сидельников, А. И. Скворцов, Н. С. Славина, С. В. Соколов, К. И. Солодских, Ш. Такахаши, Д. С. Тимонина, П. Й. Топалов, М. А. Тужилин, Б. Г. Хагигатдуст, М. П. Харламов, И. С. Харчева, Х. Хоршиди, Н. А. Хотин.

Большой перечень публикаций на эту тему представлен в книгах А. Т. Фоменко [78], А. В. Болсинова и А. Т. Фоменко [6], в статьях А. Т. Фоменко и В. В. Ведюшкиной [55], [79], А. Т. Фоменко и В. А. Кибкало [34], [66].

В результате были обнаружены замечательные пары известных гамильтоновых систем, считавшихся ранее существенно различными, однако оказавшихся лиувиллево эквивалентными. Иными словами, обнаружилось, что, несмотря на разную природу таких систем, они обладают одинаковыми замыканиями почти всех интегральных траекторий, т. е. обладают одинаковыми слоениями Лиувилля. Например, задача Якоби (геодезический поток эллипсоида) неожиданно оказалась лиувиллево эквивалентной и даже непрерывно траекторно эквивалентной (но не гладко траекторно) волчку Эйлера из динамики твердого тела (теорема Болсинова–Фоменко, см. [6], [11]).

Разными авторами для многих систем вычислены инварианты Фоменко–Цишанга и, таким образом, получена их лиувиллева классификация. Приведем некоторые примеры, уже вошедшие в Атлас. Это классические случаи интегрируемости в динамике тяжелого твердого тела, а именно случаи Эйлера, Лагранжа, Ковалевской [56], [80], Жуковского [80], Клебша [81], Стеклова и Соколова [82], Горячева–Чаплыгина–Сретенского. Кроме того, лиувиллево классифицированы некоторые из этих систем при условии добавления гиростатов [83], а также некоторые их неголономные аналоги (см., например, исследования А. И. Жила задачи “шар Чаплыгина с ротором на шероховатой плоскости”). Лиувиллево классифицированы линейно и квадратично интегрируемые геодезические потоки на двумерных поверхностях (сфера, проективная плоскость, тор, бутылка Клейна), подробнее см. п. 3.4. Лиувиллево классифицированы и интегрируемые геодезические потоки на $2$-поверхностях вращения при условии добавления потенциалов или магнитного поля [84]–[87]. Получена лиувиллева классификация многопараметрических аналогов системы Ковалевской на алгебрах Ли [88]–[93]. Также ведется изучение введенных в [94] псевдоевклидовых аналогов систем механики, в частности аналога системы Ковалевской [95].

2. Интегрируемые биллиарды

Под математическим биллиардом обычно понимается происходящее без потери скорости движение материальной точки по плоской области $\Omega \subset \mathbb{R}^2(x,y)$, ограниченной гладкой или кусочно-гладкой кривой $\gamma=\partial \Omega$ (стенкой биллиарда). Поскольку метрика евклидова, то ковекторы можно отождествить с векторами – и далее будем для наглядности рассматривать $M^4=T\Omega/\sim$ как фазовое пространство. Элементы $T\Omega$ – это пары, состоящие из точки $P=(x,y)$ и вектора $\vec{v}=(v_x,v_y) \in T_P\Omega$. Гамильтонианом (энергией) системы является $H=|\vec{v}|^2=v_x^2+v_y^2$.

Необходимость отождествить “далекие” друг от друга пары точка–вектор из $T\Omega$ вызвана наличием отражения. Для выбранной точки $P \in \gamma=\partial \Omega$ мы отождествляем векторы $\vec{v}$ и $\vec{v}'$, если их модули равны, а разность перпендикулярна касательной к $\gamma$ в точке $P$. Это условие соответствует абсолютно упругому отражению с равенством углов падения и отражения. Если кривая $\gamma$ не имеет излома в $P$ и вектор $\vec{v}$ трансверсален $\gamma$, то он будет отождествлен с единственным вектором $\vec{v}'$ (касательный к $\gamma$ вектор является предельным положением пары таких отождествляемых векторов).

Если точка $P$ есть точка излома кривой $\gamma$, то обычно требуют, чтобы внутренний угол был равен $\pi/2$. Если $\vec{v}$ трансверсален обеим гладким дугам кривой $\gamma$, то пара $(P,\vec{v})$ отождествляется с тремя другими парами точка–вектор, а если $\vec{v}$ направлен по касательной к одной из них – то ровно с одной парой. Тем самым, для плоского биллиарда в области $\Omega$ прообраз точки $P \in \Omega$ в неособом уровне энергии $Q^3_h \subset M^4\colon H=h$ относительно проекции $\pi\colon (P,\vec{v}) \to P$ гомеоморфен окружности, если $P \in \operatorname{Int}\Omega$, и отрезку, если $P \in \gamma$. Попадание в точку излома с углом $\pi/2$ может пониматься как необходимость частицы отразиться дважды, по разу от каждой из граничных дуг.

С такими системами тесно связаны другие динамические системы с ударами и отражениями, например внешние биллиарды [96], [97], системы из теории зеркал в сложных областях [98], системы, возникающие в задаче о невидимости [99], упорядоченная биллиардная игра [100]. Отметим здесь недавнюю работу К. Фроншека и В. Ром-Кедар [101]. Вопрос об эргодичности биллиардных систем, о свойствах их траекторий зачастую вызывает большой интерес.

2.1. Интегрируемость биллиарда и гипотеза Биркгофа

Имеются различные определения интегрируемости биллиарда (см., например, [21]). Мы будем основываться на интегрируемости по Лиувиллю, а именно требовать наличие первого интеграла, инволютивного и функционально независимого с энергией $H$. Всюду, кроме прообраза границы, фазовое пространство наследует гладкую и симплектическую структуру из кокасательного расслоения, т. е. инволютивность корректно определена. При отражении траектории от границы будем требовать непрерывности первого интеграла. Такое понятие “кусочно-гладкой” интегрируемости по Лиувиллю для биллиардных систем было предложено А. Т. Фоменко и описано в работе [30].

Простейшими примерами интегрируемых биллиардов служат биллиарды внутри круга, прямоугольника и эллипса. В первом случае сохраняется радиус окружности, которой касается каждое звено ломаной-траектории, во втором – неориентированный угол между фиксированной прямой и прямыми, содержащими звенья траектории.

Дж. Д. Биркгоф [26] рассмотрел биллиард внутри эллипса на плоскости как предельный случай задачи Якоби о движении вдоль геодезических на эллипсоиде $E^2 \subset \mathbb{R}^3$ при стремлении к нулю меньшей полуоси. Омбилические точки эллипсоида при этом переходят в фокусы граничного эллипса. По теореме Якоби–Шаля касательные к фиксированной геодезической на $E^2$ касаются некоторого гиперболоида, софокусного с $E^2$ и одинакового для всех точек данной геодезической. Если этот гиперболоид однополостный, то звенья образа геодезической касаются эллипса, а если двуполостный – то гиперболы. Получаемые квадрики имеют те же фокусы, что и граничный эллипс, и принадлежат семейству (в плоскости $Oxy$):

$$ \begin{equation} (b-\lambda)x^2+(a-\lambda)y^2=(b-\lambda)(a-\lambda). \end{equation} \tag{2.1} $$
Здесь параметры $a$ и $b$, $0<b<a$, – квадраты полуосей граничного эллипса. Большая полуось эллипса лежит на оси $Ox$ и содержит фокусы (мы будем иногда называть $Ox$ фокальной осью), а малая – на вертикальной оси $Oy$. Они входят в семейство (2.1) при $\lambda=b$ и $\lambda=a$ соответственно.

Интегралом является значение $\lambda$: для каждого звена каустикой является квадрика с этим параметром. Его явное выражение через $x$, $y$, $v_x$, $v_y$ имеет вид

$$ \begin{equation} \Lambda=\frac{-(xv_y-yv_x)^2+bv_x^2+av_y^2}{v_x^2+v_y^2}\,. \end{equation} \tag{2.2} $$

Пусть $\lambda=0$, тогда точка $P$ лежит на граничном эллипсе, а вектор $\vec{v}$ касается его. Если $\lambda=a$, то $P \in Oy \cap \Omega$ и $\vec{v} \parallel Oy$. Этим уровням соответствует одномерный уровень $\Lambda=\lambda$ в $Q^3_h$. Уровень $\lambda=b$ является двумерным. Звенья каждой траектории лежат на прямых, проходящих через один или другой фокус. Особые траектории на уровне $\Lambda=b$ состоят из пар $(P,\vec{v})$ таких, что $P\in Ox \cap \Omega$ и $\vec{v} \parallel Ox$.

Поскольку софокусные квадрики пересекаются под прямыми углами, то $\Lambda$ сохраняется [61] при отражении траектории от каждой кривой семейства (2.1). При этом отсутствие внутренних углов $3\pi/2$ гарантирует непрерывность движения биллиарда в плоской области, ограниченной дугами софокусных квадрик.

Под элементарным (софокусным) биллиардом понимается компактная связная часть плоскости, граница которой состоит из дуг софокусных квадрик семейства (2.1) и не содержит углов $3\pi/2$. Введенная В. В. Ведюшкиной в работе [31] эквивалентность таких столов (далее называем ее структурной эквивалентностью) сохраняет слоение и, если опустить некоторые детали, определяется так. Два биллиарда эквивалентны, если их области-столы переводятся друг в друга изометрией плоскости или же если имеется непрерывная деформация параметров $\lambda_i$ граничных дуг одного стола в параметры другого, сохраняющая как тип каждой граничной дуги (эллиптический при $\lambda_i\in (-\infty,b)$, фокальный при $\lambda_i=b$ и гиперболический при $\lambda_i \in (b,a]$), так и класс гомеоморфности стола $\Omega$. Примеры элементарных биллиардов изображены на рис. 1 (обозначения согласованы с работой [31]).

Суть гипотезы Биркгофа о биллиардах (в различных формулировках) состоит в поиске критерия его интегрируемости. Одна из формулировок такова: верно ли, что внутри гладкой кривой на плоскости биллиард интегрируем, только если эта кривая – эллипс?

В контексте полиномиальной версии этой гипотезы (т. е. вопроса о существовании полиномиального по импульсам первого интеграла) важные результаты были получены С. В. Болотиным [17]. Для области с кусочно-гладкой замкнутой границей было показано, что каждая гладкая дуга лежит на алгебраической кривой, чье алгебраическое замыкание в $\mathbb{C}P^2$) или имеет степень от $1$ до $2$, или содержит особые точки. В частности, если граница стола является гладкой, то или она является эллипсом, или двойственная к ней кривая содержит особые точки.

Следующий шаг был сделан М. Бялым и А. Е. Мироновым [19] (с использованием введенной выше конструкции углового биллиарда): если гладкая дуга границы не является отрезком, то двойственная кривая в $\mathbb{C}P^2$ имеет степень $2$ или содержит особые точки, причем все ее особые точки и точки перегиба лежат на объединении двух изотропных прямых. В работе [19] также приведены примеры столов, для которых полиномиальная неинтегрируемость следует из данного результата, но не следует из предшествующих. Перечисленные выше результаты имеют обобщения на случай поверхностей постоянной кривизны (см. [18], [20], а также более частную работу [102]).

В работах А. А. Глуцюка [21], [22] было завершено доказательство полиномиальной версии гипотезы Биркгофа. Пусть кусочно-гладкая граница компактной односвязной области пространства постоянной кривизны содержит хотя бы один сегмент, не лежащий на геодезической. Биллиард в такой области интегрируем тогда и только тогда, когда граница состоит из дуг софокусных квадрик и, возможно, дуг некоторых допустимых геодезических (в эллиптико-гиперболическом случае ими могут быть отрезки главных осей семейства).

Также активно изучаются другие формулировки гипотезы Биркгофа и близкие к ним задачи. Так, В. Ю. Калошиным и А. Соррентино доказана [23], [24] локальная версия гипотезы Биркгофа: малое возмущение эллипса на плоскости, биллиард внутри которого интегрируем, само является эллипсом. Отметим также более раннюю работу М. Б. Табанова [103], где обсуждаются условия аналитической неинтегрируемости биллиарда в области, близкой к эллипсу (полученной при его глобальных симметричных аналитических возмущениях).

Вопрос об интегрируемости биллиардов в многомерных областях изучается, например, в недавних работах В. В. Козлова [104] и А. Ю. Глуцюка [105].

При изучении динамики биллиардов (интегрируемых в том или ином смысле) также возникает множество интересных задач. Например, Д. В. Трещевым в [106] был поставлен вопрос о сопряженности жесткого поворота на некоторый угол и биллиардного отображения подходящего симметричного биллиарда, заданного в малой окрестности периодической (эллиптической) орбиты длины $2$. Неизвестной является функция, задающая локальную поверхность – границу биллиардного стола в окрестности точек отражения данной траектории. В той же работе было установлено, что для несоизмеримых с $\pi$ углов имеется решение в виде формального ряда, а также выполнено численное моделирование. В последующих работах [107], [108] численное и аналитическое исследование задачи было продолжено для биллиардов с одномерной границей и для случаев большей размерности. Получаемые “частичные” решения отличаются от квадрик.

2.2. Интегрируемые биллиарды на кусочно-плоских многообразиях и CW-комплексах с перестановками

Как было отмечено выше, класс интегрируемых биллиардов на плоских столах с криволинейной границей (в отсутствие потенциала или магнитного поля) сводится к классу софокусных биллиардов на столах, ограниченных дугами софокусных квадрик и не имеющих внутренних углов $3\pi/2$ в границе, а также классу круговых биллиардов – вырождению софокусных биллиардов при стремлении фокусов квадрики к ее центру (такие столы ограничены дугами концентрических окружностей и отрезками их радиусов, причем углы в точках излома границы равны $\pi/2$).

Хотя данный класс является весьма узким (например, с точки зрения топологии слоений Лиувилля), он допускает следующие принципиальные расширения, предложенные В. В. Ведюшкиной.

Определение 15. Обобщенным (топологическим) биллиардом назовем динамическую систему на двумерном ориентированном компактном многообразии, склеенном (посредством изометрий) из элементарных софокусных биллиардов-листов:

Замечание 3. Для топологического биллиарда определена проекция на плоскость, являющаяся изометрией и гомеоморфизмом в ограничении на замыкание каждого плоского листа.

Движение по топологическому биллиарду определяется так: внутри плоского биллиарда-листа движение происходит стандартно, т. е. вдоль прямолинейных отрезков, с естественным отражением от границы. Как только материальная точка попадает на ребро склейки, она отражается и продолжает движение по другому биллиарду-листу.

Введение топологических биллиардов значительно расширило класс изучаемых биллиардов. В работах [31], [33] они были классифицированы как структурно, так и топологически: для всех них были вычислены инварианты Фоменко–Цишанга.

Существенно более сильным расширением оказался введенный В. В. Ведюшкиной класс биллиардных книжек [32], [36]. Эти столы являются CW-комплексами, ребра которых (1-клетки) оснащены перестановками на множестве инцидентных 2-клеток (см. подробнее [32]).

Рассмотрим двумерный CW-комплекс, двумерными клетками которого являются плоские биллиарды, ограниченные дугами софокусных квадрик. Одномерными клетками комплекса являются сегменты границ элементарных биллиардов – участки между изломами граничных кривых. Занумеруем все двумерные клетки и припишем каждому одномерному ребру комплекса – “корешку” книжки – циклическую перестановку из номеров листов, примыкающих к данному ребру. Изометрично спроектируем все биллиарды-листы на плоскость. Если образ нескольких ребер CW-комплекса при этой проекции является одной и той же дугой плоскости, то объединим приписанные им циклы в одну перестановку (эти циклы, очевидно, независимы). Для непрерывности движения частицы по книжке потребуем коммутирование перестановок в нульмерных клетках. В терминах проекции это означает, что перестановки, приписанные дугам двух квадрик в окрестности точки пересечения последних, коммутируют (см. рис. 2). Этот двумерный комплекс с приписанными перестановками назовем биллиардной книжкой.

Биллиардное движение по книжке определено следующим образом. Внутри двумерных клеток движение не меняется. Пусть при движении по листу с номером $i$ материальная точка попадает на корешок книжки, тогда после удара она продолжит свое движение по листу $\sigma(i)$. Если листы с номерами $i$ и $\sigma(i)$ расположены по одну сторону от корешка, то при ударе происходит отражение, а если по разные, то точка не отражается, а проходит корешок “насквозь” (см. рис. 2).

Замечание 4. Условие коммутирования перестановок в углах книжки является необходимым и достаточным условием для того, чтобы продолжение траектории, попавшей в вершину угла, было корректно определено. Обозначим через $l_1$ и $l_2$ дуги квадрик, которые имеют общую точку $O$, а через $\sigma_1$ и $\sigma_2$ приписанные им коммутирующие перестановки. Траектория, попавшая в $O$, с одной стороны, является пределом близких траекторий, которые сначала ударяются о корешок $l_1$, а потом о корешок $l_2$. Такие траектории меняют номер биллиарда по перестановке $\sigma_2\circ\sigma_1$. С другой стороны, попавшая в вершину угла $O$ траектория является пределом траекторий, которые ударяются о корешки в другом порядке и меняют лист по перестановке $\sigma_1\circ\sigma_2$. Таким образом, материальная точка при попадании в вершину угла поменяет лист по перестановке $\sigma_1\circ\sigma_2=\sigma_2\circ\sigma_1$ вследствие коммутирования $\sigma_1$ и $\sigma_2$.

Полученный класс весьма велик, и в настоящее время отсутствует полная классификация биллиардов из этого класса. Задача сводится к описанию наборов перестановок, обладающих определенными свойствами. Ряд продвижений получен В. В. Ведюшкиной и В. А. Кибкало в недавней статье [48]. В указанной работе изучаются биллиардные книжки малой сложности, а именно такие, что количество образов корешков дуг книжки в проекции на плоскость равно $2$. Описаны всевозможные пары коммутирующих перестановок. Для некоторых биллиардных книжек вычислены инварианты Фоменко–Цишанга возникающих слоений Лиувилля.

Еще один подход к классификации книжек был предложен в недавней работе В. А. Кибкало и А. Т. Фоменко [34]. Для книжки вводится операция перегибания по некоторой квадрике, и применение этой операции позволяет (неоднозначным образом) уменьшить количество квадрик с разными параметрами $\lambda_i$, на которые проецируются 1-клетки стола. В результате получено девять множеств книжек, каждое из которых определяется фиксированным количеством перестановок и их условий коммутирования, т. е. задача классификации книжек допускает решение перебором. Отметим, что одна и та же книжка может быть приведена к разным видам.

Для построенных выше биллиардных систем топологических биллиардов и биллиардных книжек имеет место следующий факт. Фазовое кусочно-гладкое многообразие $M^4$ является кусочно-симплектическим согласно теореме И. С. Харчевой [42]. Система биллиардной книжки кусочно-гамильтонова и интегрируема, так как имеется дополнительный интеграл – параметр софокусных квадрик (2.2), выражаемый через координаты $(x,y,v_x,v_y)$ точки и вектора плоскости $Oxy$ – проекций пары точка–вектор со стола-комплекса.

Как и в случае плоских биллиардов, рассмотрим уровень постоянной энергии $Q^3_h \subset M^4\colon H=v_x^2+v_y^2=1$. Согласно теореме И. С. Харчевой [42], такая изоэнергетическая поверхность $Q^3$ будет трехмерным кусочно-гладким многообразием для любой книжки.

На $Q^3$ имеется слоение на поверхности уровня интеграла $\Lambda$ (вообще говоря, кусочно-гладкое). Для многих систем было непосредственно проверено, что слоение содержит конечное число особых слоев и их окрестности послойно гомеоморфны $3$-атомам Фоменко, а все неособые слои являются, как и в гладком случае, двумерными торами (кусочно-гладкий аналог теоремы Лиувилля), причем почти все они являются замыканиями фазовых траекторий.

Отметим, что динамическая система биллиарда на столе-книжке (не являющемся двумерным кусочно-гладким многообразием, т. е. топологическим биллиардом) не инвариантна относительно обращения времени в том случае, если для данной системы возможно попадание биллиардной частицы на 1-клетку с перестановкой, содержащей циклы длины не менее чем $3$. Дело в том, что для ребер склейки (1-клеток комплекса) не выполняется условие $j=\sigma(i)=\sigma(\sigma(j))=\sigma^2(j)$.

Замечание 5. В геометрии известны и другие примеры необратимых систем. Таким образом, в биллиардных книжках интересным образом сочетаются два свойства: интегрируемость и необратимость. При замене времени на обратное траектория перескакивает с одного тора Лиувилля на другой тор Лиувилля, обязательно лежащий на том же уровне интеграла, что и исходный тор. Здесь возможна следующая аналогия: А. В. Болсиновым и И. А. Таймановым была обнаружена похожая картина – когда система одновременно интегрируема и хаотична (неинтегрируема) на разных поверхностях уровня (см. [109]–[111]), имея при этом положительную топологическую энтропию.

2.3. Гипотеза А. Т. Фоменко о биллиардах

Введение биллиардных книжек позволило не только существенно расширить класс интегрируемых биллиардных систем, но и обнаружить новые слоения Лиувилля (пусть и кусочно-гладкие). Эти слоения Лиувилля (закодированные инвариантами Фоменко–Цишанга), с одной стороны, ранее не встречались в классических задачах динамики, а с другой стороны, биллиардные системы, им соответствующие, имеют наглядное описание. В связи с этим А. Т. Фоменко сформулировал [35] общую гипотезу о реализуемости интегрируемыми биллиардами произвольных слоений Лиувилля (т. е. меченых молекул) невырожденных интегрируемых систем с двумя степенями свободы (в классе лиувиллевой эквивалентности).

Отметим, что на интегрируемые системы, слоения Лиувилля которых предполагается моделировать, наложен ряд ограничений. Во-первых, это невырожденность, т. е. рассматриваются интегрируемые системы только на тех изоэнергетических $3$-поверхностях $H=\operatorname{const}$, на которых функция Гамильтона $H$ невырождена, т. е. $dH\ne 0$ на всей поверхности $Q^3$. Во-вторых, предполагается, что дополнительный интеграл $f$ является функцией Ботта на $Q^3$. В-третьих, рассматриваемые системы нерезонансны, т. е. обмотка торов Лиувилля нерезонансна и всюду плотна для почти всех значений $f$ и $H$.

Гипотеза Фоменко. В классе слоений Лиувилля интегрируемых биллиардов реализуются

Для функций вращения справедливо следующее.

Дополнением к этой гипотезе служит ее “локальная” версия, сформулированная в [37]. Последняя предполагает реализуемость произвольных выбранных значений числовой метки или меченой окрестности элемента (ребра, вершины, подграфа-семьи) в графе-инварианте Фоменко–Цишанга. Гипотеза E тесно связана с вопросом построения аналогов траекторных инвариантов Фоменко–Болсинова для биллиардов. Ряд конкретных примеров был изучен В. В. Ведюшкиной [112].

Замечание 6. Гипотезы A, B, D и локальная версия являются необходимыми условиями для основной гипотезы C: локальная гипотеза и гипотеза A утверждают реализуемость всех элементов инварианта, гипотезы B и D – совпадение класса интегрируемых биллиардов и класса интегрируемых систем относительно более слабых, чем лиувиллева эквивалентность, отношений, а именно гомеоморфности баз (B), локальных поднятий (локальная версия) и гомеоморфности $Q^3$ без учета слоений. Гипотезы B и D друг из друга не следуют.

Гипотеза A была полностью доказана В. В. Ведюшкиной и И. С. Харчевой [32]. Рассмотрим биллиардный стол, принадлежащий классу биллиардов $A_0'$ и ограниченный дугой эллипса, фокальной прямой (осью $Ox$) и двумя дугами гипербол, одна из которых выпукла. Напомним, что ось $Ox$ также принадлежит софокусному семейству при $\lambda=b$.

Теорема 6 (В. В. Ведюшкина, И. С. Харчева). Для любого ориентируемого седлового $3$-атома (со звездочками или без) алгоритмически строится биллиардная книжка $\Omega$, склеенная из нескольких экземпляров биллиардов $A_0'$ (см. рис. 1), такая, что слоение Лиувилля в прообразе $\Lambda^{-1}((b-\varepsilon,b+\varepsilon)) \subset Q^3$ окрестности особого значения $\Lambda=b$ интеграла послойно гомеоморфно данному атому. В случае атома $A$ аналогичное утверждение верно для $\Omega=A_0'$ и значения $\lambda=0$.

Построенные биллиарды моделируют ориентируемые боттовские $3$-атомы. Отсюда следует, что перестановка, приписанная отрезку оси $Ox$, есть произведение независимых транспозиций. Если какой-то из независимых циклов имеет длину $3$ или больше, то полученный при $\Lambda=b$ особый слой принадлежит неботтовскому $3$-атому (см. пример на рис. 3).

Сформулируем усиление доказанной гипотезы A на случай неботтовских $3$-атомов.

Гипотеза $\widetilde{{\rm A}}$. В классе слоений Лиувилля интегрируемых биллиардов реализуются не только боттовские бифуркации торов Лиувилля, но и достаточно богатые классы бифуркаций торов Лиувилля, описываемых “неботтовскими” $3$-атомами, включая мультиседловые особенности ранга $1$.

Например, очень интересны бифуркации торов, описываемые расслоением Зейферта, база которых уже не обязана быть морсовским $2$-атомом. В этом случае расслоение Зейферта может иметь произвольные особые слои типа $(p,q)$. Первые шаги в реализации таких неботтовских бифуркаций интегрируемыми биллиардами сделаны А. А. Кузнецовой. Она классифицировала бифуркации торов Лиувилля, которые возникают в слоении Лиувилля биллиардных книжек, склеенных из трех листов вида $A_0'$. В частности, биллиардами реализованы неботтовские $3$-атомы, соответствующие неморсовским $2$-атомам с одной вершиной (см. пример неморсовского $2$-атома кратности $3$ на рис. 3, (b)).

Справедливость гипотезы B была также доказана [40]. В доказательстве были использованы биллиарды $B_0$, которые не имеют общих точек с фокальной прямой и ограничены двумя дугами эллипсов и двумя дугами гипербол. При этом одна из дуг гипербол, ограничивающих область биллиарда, является выпуклой по отношению к ней (см. рис. 1).

Теорема 7 (В. В. Ведюшкина, И. С. Харчева). Гипотеза B Фоменко верна, т. е. для любой грубой молекулы (инварианта Фоменко, графа с типами атомов-бифуркаций в вершинах) алгоритмически строится биллиардная книжка, склеенная из простейших биллиардов $B_0$, такая, что инвариант Фоменко ее слоения совпадает с данным.

Иначе говоря, все множество классов грубой лиувиллевой эквивалентности реализуется биллиардами.

Что касается гипотезы C, то было найдено препятствие для реализации гамильтоновых систем биллиардными книжками (и, разумеется, их подклассами).

Теорема 8. Слоение Лиувилля на $S^1\times S^2$, имеющее инвариант Фоменко–Цишанга $A$–$A$ с метками $r=\infty$, $\varepsilon=-1$, т. е. отвечающее модифицированному (“скрученному”) волчку Лагранжа [113], не реализуется как слоение Лиувилля на изоэнергетической поверхности произвольной интегрируемой софокусной биллиардной книжки.

Добавление к системе биллиарда на столе-комплексе $X$ внешних сил (например, магнитного поля, индукция которого перпендикулярна каждому листу и постоянна по времени и точкам из $X$) дополнительно расширяет класс реализуемых слоений. В новом классе магнитных биллиардов (подробнее о них будет сказано в п. 4.4) реализуется указанный в теореме выше инвариант.

Предложение 1. Слоение Лиувилля “скрученного” волчка Лагранжа в неособой зоне энергии с $Q^3 \simeq S^1\times S^2$ и молекулой $A$–$A$ с метками $r=\infty$, $\varepsilon=-1$ реализуется в слоении Лиувилля изоинтегральной поверхности $R=\operatorname{const} < r_0$ магнитного биллиарда в кольце между двумя концентрическими окружностями.

Так как вопрос о справедливости гипотезы C в полном объеме, по-видимому, довольно сложен, А. Т. Фоменко выделил локальную версию этой гипотезы, состоящую из шести пунктов [37].

Локальная гипотеза C (реализация числовых инвариантов интегрируемых систем).

$\mathrm{C}_{\mathrm{loc}}$-1. Пусть $\gamma$ – произвольное ребро с метками $r$, $\varepsilon$ некоторой меченой молекулы $W^{*}$. Тогда существует интегрируемый биллиард, реализующий такую комбинацию чисел $r$, $\varepsilon$ на одном из ребер своей меченой молекулы.

Отметим, что имеются следующие четыре варианта: метка $r=p/q$ конечна и $\varepsilon=\pm 1$; метка $r$ равна $\infty$ и $\varepsilon=\pm 1$.

$\mathrm{C}_{\mathrm{loc}}$-2 (усиление гипотезы $\mathrm{C}_{\mathrm{loc}}$-1). В условиях гипотезы $\mathrm{C}_{\mathrm{loc}}$-1 существует биллиард, реализующий произвольную пару меток $r$ и $\varepsilon$ на ребре между любыми наперед заданными атомами.

$\mathrm{C}_{\mathrm{loc}}$-3. Пусть $S$ – семья с целочисленной меткой $n$ в некоторой меченой молекуле $W^{*}$ интегрируемой системы. Тогда существует интегрируемый биллиард, реализующий некоторую семью с точно такой же целочисленной меткой $n$.

$\mathrm{C}_{\mathrm{loc}}$-4 (усиление гипотезы $\mathrm{C}_{\mathrm{loc}}$-3). В условиях гипотезы $\mathrm{C}_{\mathrm{loc}}$-2 существует биллиард, реализующий не только данную метку $n$, но и саму семью, т. е. граф с нужными атомами и нужным набором ребер.

$\mathrm{C}_{\mathrm{loc}}$-5 (реализация меченой окрестности любой семьи). Пусть $S$ – семья с целочисленной меткой $n$ в некоторой меченой молекуле, причем внешние ребра $\gamma_i$ семьи оснащены произвольными метками $r_i$, $\varepsilon_i$. Тогда существует биллиард, реализующий такой меченый подграф в своей меченой молекуле.

$\mathrm{C}_{\mathrm{loc}}$-6 (реализация меченой окрестности ребра). Пусть $S_1$ и $S_2$ – две семьи с целочисленными метками $n_1$ и $n_2$ в некоторой меченой молекуле, причем их выбранные граничные торы соединены ребром, оснащенным произвольной парой меток $(r,\varepsilon)$. Тогда существует биллиард, реализующий такой меченый подграф в своей меченой молекуле.

Теорема 9 (В. В. Ведюшкина [38]). Гипотеза Фоменко $\mathrm{C}_{\mathrm{loc}}$-1 для любой пары числовых инвариантов $r$, $\varepsilon$ верна, а именно, для любого ребра меченой молекулы $W^*$ с такой парой меток существует биллиард, меченая молекула которого содержит ребро с этой же парой меток.

Теорема 10 (В. В. Ведюшкина [38]). Гипотеза Фоменко $\mathrm{C}_{\mathrm{loc}}$-2 верна для случаев, указанных в табл. 1. Более точно, в семи случаях подходящими биллиардами удается реализовать все пары $r$, $\varepsilon$ числовых меток для ребер, на концах которых находятся любые наперед заданные атомы. В четырех оставшихся случаях к настоящему моменту реализованы любые комбинации меток для ребер, соединяющих лишь конкретные атомы из серий $B$ и $C$.

Таблица 1.Комбинации меток $r$ и $\varepsilon$ на ребрах меченых молекул интегрируемых биллиардов

Метки$A{-}A$$A{-}V$$V_1{-}V_2$
$r=p/q,\ \varepsilon=1$$+$$V$ без звездочек$V_1=C_k,\ V_2=C_n$
$r=p/ q, \ \varepsilon=-1 $$+$?$V_1=C_k,\ V_2=C_n$
$r=\infty, \, \varepsilon=1$$+$Алгоритм Ведюшкиной–ХарчевойАлгоритм Ведюшкиной–Харчевой для грубых молекул
$r=\infty, \ \varepsilon=-1 $$+$$+$$V_1=V_2=B_n$

Замечание 7. При изменении ориентации изоэнергетической поверхности $Q^3$ меняются допустимые системы координат. Вследствие этого метки, стоящие на ребрах, изменятся по описанным ниже правилам (см. [6]).

1) Пусть ребро соединяет атомы одного типа, т. е. либо $A$ с $A$, либо седло с седлом. Тогда в случае конечного ребра, т. е. когда $\beta\ne 0$, метки $r$ и $\varepsilon$ меняют знаки. В случае же бесконечного ребра, т. е. когда $\beta=0$, метки $r$ и $\varepsilon$ не меняются.

2) Пусть ребро соединяет атомы разных типов, т. е. атом $A$ с седлом. Тогда в случае конечного ребра метка $r$ меняет знак, а метка $\varepsilon$ не меняется. В случае бесконечного ребра наоборот: метка $r$ не меняется (равна бесконечности), а метка $\varepsilon$ меняет знак.

Примеры биллиардных книжек, реализующих различные случаи пар меток $(r,\varepsilon)$ в инвариантах Фоменко–Цишанга интегрируемых биллиардов изображены на рис. 4.

В табл. 1 случай ребра с дробной $r$-меткой, соединяющего атом $A$ и произвольный седловой атом, является новым. Приведем здесь алгоритмическое построение искомой книжки. Обозначим через $V$ седловой атом без звездочек. Рассмотрим биллиардную книжку $B_V$, реализующую его по алгоритму В. В. Ведюшкиной и И. С. Харчевой. Зафиксируем в этой книжке выпуклый эллиптический корешок $s_e$, которому приписана перестановка длины $l$. Зафиксируем также два натуральных числа $n$ и $k$ ($k<n$). Рассмотрим $n$ экземпляров книжки $B_V$ и склеим их в одну новую книжку $B$, добавив следующие склейки вдоль выпуклых эллиптических и гиперболических корешков. Каждый экземпляр книжки $B_V$ занумеруем и назовем для удобства “главой”. Во-первых, склеим все главы $B_V$ друг с другом вдоль выпуклых гиперболических корешков друг с другом. Оснастим новый корешок циклической перестановкой $\sigma$ длины $n$, переставляющей местами номера глав (но не меняющей номера листов в одной главе). Во-вторых, склеим все корешки $s_e$ друг с другом и заменим приписанные им циклические перестановки длины $l$ на следующую перестановку длины $ln$. После прохождения по всем листам цикла длины $l$ биллиардная частица переходит вновь на первый лист цикла, но при этом меняет номер главы по перестановке $\sigma^k$. Данные склейки не меняют вид атома и молекулы в целом. Но на нижнем ребре, соединяющем атом $V$ и атом $A$, соответствующий корешку $s_e$, возникает метка $r$, равная $k/n$.

Используя данную конструкцию, можно доказать следующее утверждение.

Предложение 2 (В. В. Ведюшкина). Пусть $V$ – произвольный седловой атом без звездочек. Зафиксируем у него торы, расположенные ниже критического уровня. Зафиксируем на соответствующих им ребрах произвольные метки $r=t_i/n_i$. Тогда алгоритмически строится интегрируемый биллиард, склеенный из биллиардов $A_0'$, реализующий данный атом с фиксированными $r$-метками на нижних ребрах. Аналогичная конструкция позволяет сделать произвольные метки для торов, расположенных выше критического уровня, если взять вместо $A_0'$ биллиард $B_1'$.

Подробное доказательство будет приведено в отдельной работе. Теперь перейдем к вопросу реализуемости целочисленной метки $n$, приписываемой некоторым подграфам инварианта (Фоменко–Цишанга), называемым семьями.

Теорема 11 (В. В. Ведюшкина, В. А. Кибкало [39]). Пункт $\mathrm{C}_{\mathrm{loc}}$-3 локальной гипотезы Фоменко верен, а именно, для каждого $k \in \mathbb{Z}$ алгоритмически строится биллиард $\Omega_k$, слоение Лиувилля которого на неособой изоэнергетической поверхности содержит некоторую семью с заданной меткой $n=k$.

Напомним, что элементарная область, ограниченная эллипсом семейства (2.1), в работе [31] обозначена $A_2$ (см. рис. 1). При ее разрезании по одной из дуг гиперболы семейства (2.1) образуются две элементарные области типа $A_1$, а по обеим дугам гиперболы – область типа $A_0$ и две симметричные области типа $A_1$. Области $A_i$ содержат отрезок фокальной оси и $i$ фокусов семейства (2.1).

Описание построения столов $\Omega_k$. Возьмем $n$ экземпляров $S_1,\dots,S_n$ стола типа $A_2$, ограниченного эллипсом с параметром $\lambda=0$ из семейства (2.1). Разрежем стол $S_1$ по ветвям гиперболы с параметром $\lambda=\lambda_1$, стол $S_n$ (при $n>1$) по ветвям гиперболы с параметром $\lambda=\lambda_{n-1}$, а остальные столы $S_i$, $2 \leqslant i \leqslant n-1$ (если $n >2$), – по ветвям двух гипербол с параметрами $\lambda=\lambda_{i-1}$ и $\lambda=\lambda_i$. Здесь $b < \lambda_1 < \dots < \lambda_{n-1} <a$. Обозначения полученных областей приведем в табл. 2. Отметим, что стол $S_i$ разрезан или на набор листов $(a_i,x_i,b_i,y_i,c_i)$, или на набор листов $(a_i,b_i,c_i)$.

Таблица 2.Обозначения листов биллиардных столов

областьтипуровеньграница$Oxy$
$a_i$$A_1$$S_i,\ 1 \leqslant i \leqslant n$$\lambda_{1}$ при $i=1$; $\lambda_{i-1}$ при $2 \leqslant i \leqslant n$$x < 0$
$x_i$$A_0$$S_i,\ 2 \leqslant i \leqslant n-1$$\lambda_{i-1}$ и $\lambda_{i}$ при $2 \leqslant i \leqslant n-1$$x < 0$
$b_i$$A_0$$S_i,\ 1 \leqslant i \leqslant n$$\lambda_{1}$ при $i=1$; $\lambda_{i-1}$ при $2 \leqslant i \leqslant n$$Oy \subset b_i$
$y_i$$A_0$$S_i,\ 2 \leqslant i \leqslant n-1$$\lambda_{i-1}$ и $\lambda_{i}$ при $2 \leqslant i \leqslant n-1$$x > 0$
$c_i$$A_1$$S_i,\ 1 \leqslant i \leqslant n$$\lambda_{1}$ при $i=1$; $\lambda_{i-1}$ при $2 \leqslant i \leqslant n$$x > 0$

Биллиардный стол $\Omega_k$ построим из описанных выше листов путем их склейки по отрицательным и положительным (т. е. лежащим в полуплоскостях $x <0$ и $x >0$) ветвям граничных гипербол с перестановками $\sigma_i$ и $\rho_i$ соответственно. В табл. 3 записаны эти перестановки, а на рис. 5 изображен стол $\Omega_3$.

Таблица 3.Перестановки на корешках склейки столов $\Omega_k$

гипербола$\rho_i$$\sigma_i$
$ i=1$$(b_1, c_1, y_2, c_2)$$(a_2, x_2, a_1, b_1)$
$ 2 \leqslant i \leqslant n-1$$(b_{i}, y_{i}, y_{i+1}, c_{i+1})$$(a_{i+1}, x_{i+1}, x_i, b_i)$
$ i=n-1$$(b_{n-1},y_{n-1},b_{n},c_{n})$$(a_{n},b_{n},x_{n-1},b_{n-1})$

Оказывается, верен и более общий результат, позволяющий получить достаточно существенное продвижение в доказательстве гипотезы $\mathrm{C}_{\mathrm{loc}}$-4.

Теорема 12 (В. В. Ведюшкина [48]). Пусть $W$ – произвольная грубая молекула, у которой в вершинах находятся атомы без звездочек, а из висячих вершин удалены атомы $A$. Пусть на ребрах графа между седловыми атомами стоят метки $r=\infty$, $\varepsilon=1$.

Тогда алгоритмически строится биллиардная книжка $\mathbb{B}(W,m)$, склеенная из биллиардов $A_0$ и $A_1$, меченая молекула которой имеет следующий вид. К каждому свободному нижнему ребру графа $W$ приписывается атом $B$ и два исходящих из него ребра, оканчивающихся атомами $A$. К каждому свободному верхнему ребру графа $W$ приписывается атом $A$. На всех ребрах, кроме ребер между седловыми атомами, стоят метки $r=0$, $\varepsilon=1$. Семье, которую образует граф $W$, отвечает метка $n=m$, все остальные семьи имеют метку $n=0$.

Один из примеров такой книжки изображен на рис. 6. Молекула $W$ состоит из одного атома $B$. Для того чтобы получить произвольную молекулу указанного в теореме 12 вида, необходимо вместо листа $b_2$ вклеить объединение нескольких биллиардов $A_0$, склеенных вдоль гиперболических дуг, по перестановкам, которые ставились на эллиптических дугах биллиардов $B_0$ в алгоритме Ведюшкиной–Харчевой для грубых молекул.

В настоящее время удалось совместить результаты, полученные при реализации пунктов $\mathrm{C}_{\mathrm{loc}}$-1 и $\mathrm{C}_{\mathrm{loc}}$-3. Полученный набор примеров весьма интересен в контексте наиболее общих пунктов $\mathrm{C}_{\mathrm{loc}}$-5 и $\mathrm{C}_{\mathrm{loc}}$-6 локальной гипотезы, посвященных реализации меченых окрестностей семьи и ребра: в полученных инвариантах есть пара ребер и соединяющее их ребро такое, что

(i) семья и ее внешнее ребро оснащены произвольной меткой $n=-k$ и рациональной меткой $r$ c произвольным знаменателем $m$ соответственно (пункт $\mathrm{C}_{\mathrm{loc}}$-5);

(ii) одна и та же семья имеет на внешних ребрах разные и “нетривиальные” значения рациональной метки: $r=2/m$ и $r=-1/m$ (пункт $\mathrm{C}_{\mathrm{loc}}$-5);

(iii) две семьи с ненулевыми метками $n=-2$ и $n=-k$ соединены ребром с нетривиальной $r$-меткой, равной $-1/m$ (пункт $\mathrm{C}_{\mathrm{loc}}$-6);

(iv) две семьи одного и того же инварианта имеют разные наборы меток $r$ на своих внешних ребрах: метку $r=-2/m$ на ребре между ними и метки $r=1/m$ на внешних ребрах одной из семей и $r=0$ на внешних ребрах другой (комбинация нескольких “локальных” слоений в одном “глобальном”).

Предложение 3. Рассмотрим биллиардную книжку, склеенную из $m$ дисков, ограниченных фиксированным эллипсом (при этом натуральное $m$ больше $2$). На единственном корешке стоит циклическая перестановка из $m$ элементов. Тогда инвариант Фоменко–Цишанга, описывающий слоение Лиувилля изоэнергетической поверхности такой книжки, в случае нечетного $m$ изображен на рис. 7, (a), а в случае четного $m$ – на рис. 7, (b).

Теорема 13. Рассмотрим биллиардную книжку, склеенную из нечетного числа $m$ экземпляров стола $\Omega_k$ вдоль эллиптических границ. Ее инвариант Фоменко–Цишанга изображен на рис. 8. Он содержит комбинации меток, реализующие серии примеров к пунктам $\mathrm{C}_{\mathrm{loc}}$-5 и $\mathrm{C}_{\mathrm{loc}}$-6 локальной гипотезы Фоменко.

Пункт D гипотезы Фоменко пока не доказан. Отметим, что для классических случаев интегрируемости в динамике твердого тела в настоящее время, согласно теореме Смейла, в качестве поверхности постоянной энергии выступает несвязная сумма многообразий одного из следующих типов. Это либо трехмерная сфера $S^3$, либо проективное пространство $\mathbb{R}P^3$, либо связная сумма конечного числа прямых произведений $S^1\times S^2$. При изучении геодезических потоков на двумерных поверхностях в качестве изоэнергетической поверхности также возникают следующие многообразия: трехмерный тор, линзовое пространство $L(4,1)$. Все перечисленные $3$-многообразия встречаются в биллиардных системах. Более того, оказывается, что верна следующая теорема.

Теорема 14 (В. В. Ведюшкина [46]). Рассмотрим многообразие $M$, являющееся связной суммой линзовых пространств $L(n_1,k_1),\dots,L(n_m,k_m) $ и $l$ прямых произведений $S^1\times S^2$. Тогда алгоритмически строится биллиардная книжка, изоэнергетическая поверхность которой гомеоморфна многообразию $M$.

Приведем схематичное описание (см. подробнее рис. 9) искомой биллиардной книжки (не обязательно интегрируемой).

Рассмотрим целые числа $N=\text{НОК}(n_1,\dots,n_m)$ и $g_i=Nk_i/n_i$. Зафиксируем односвязную биллиардную область $\Omega$, граница которой является четырехугольником $ABCD$. Чтобы получить интегрируемый биллиард, в качестве четырехугольной области можно взять, к примеру, область биллиарда $A_0$, ограниченную эллипсом и двумя дугами гиперболы.

Искомая книжка склеивается из $N(m+2l)$ экземпляров области $\Omega$. На сегментах ставятся следующие перестановки.

В общем случае многообразия, которые гомеоморфны связной сумме линзовых пространств и прямых произведений, не являются многообразиями Зейферта. А именно, имеет место следующий факт.

Предложение 4. Пусть трехмерное многообразие $Q^3$ является связной суммой линзовых пространств (проективное пространство $\mathbb{R}P^3$ мы считаем линзой $L(2,1)$) и прямых произведений $S^1\times S^2$, причем количество слагаемых в этой прямой сумме не меньше двух и, более того, $Q^3$ не гомеоморфно связной сумме двух $\mathbb{R}P^3$. Тогда многообразие $Q^3$ не является многообразием Зейферта.

Отсюда следует, что класс изоэнергетических поверхностей интегрируемых биллиардных книжек не покрывается классом многообразий Зейферта. В то же время этот класс содержит примеры весьма нетривиальных многообразий Зейферта. Рассмотрим, к примеру, треугольный биллиард, ограниченный дугой эллипса, дугой гиперболы и фокальной прямой. Склеим два экземпляра такого биллиарда вдоль всех границ. Изоэнергетическая поверхность получившегося биллиарда есть сферическое многообразие Зейферта с тремя особыми слоями типа $(2,1)$, которые соответствуют углам треугольного биллиарда.

2.4. Биллиарды, лиувиллево эквивалентные классическим интегрируемым случаям

Вычисление инвариантов Фоменко–Цишанга топологических биллиардов и биллиардных книжек позволило обнаружить их совпадение в большом числе случаев с инвариантами, вычисленными ранее в случаях интегрируемости в динамике твердого тела (системы Эйлера, Лагранжа, Ковалевской, Жуковского, Горячева–Чаплыгина–Сретенского, Ковалевской–Яхьи, Клебша и Соколова). Это дало возможность доказать лиувиллеву эквивалентность случаев интегрируемости в динамике твердого тела интегрируемым биллиардным книжкам. В работах [49], [79] приведен список ранее обнаруженных лиувиллево эквивалентных слоений и указаны области на бифуркационных диаграммах для случаев Эйлера, Лагранжа, Ковалевской, Жуковского, Горячева–Чаплыгина–Сретенского, соответствующие этим изоэнергетическим $3$-поверхностям. Для каждого инварианта указан биллиард, моделирующий поведение замыканий решений на данных изоэнергетических поверхностях. Здесь мы подробно рассмотрим случаи полной реализации (системы Эйлера и Лагранжа) и частичной реализации (случай Жуковского) интегрируемых гамильтоновых систем динамики твердого тела интегрируемыми биллиардами.

Напомним, что система движения твердого тела, шарнирно закрепленного в неподвижной точке, задается на двойственном пространстве к алгебре Ли $e(3)$ группы движений евклидова пространства $\mathbb{R}^3$, т. е. на шестимерном пространстве $\mathbb{R}^6(S_1,S_2,S_3,R_1,R_2,R_3)$ со следующей скобкой Пуассона (здесь $\varkappa=0$ и $\varepsilon_{ijk}$ – знак перестановки $(1,2,3) \to (i,j,k)$):

$$ \begin{equation*} \{S_i, S_j\}=\varepsilon_{ijk} S_k, \quad \{S_i, R_j\}=\varepsilon_{ijk} R_k, \qquad \{R_i, R_j\}=\varkappa \varepsilon_{ijk} S_k. \end{equation*} \notag $$
Отметим, что случай $\varkappa \ne 0$ соответствует аналогам систем механики на других алгебрах Ли: $\operatorname{so}(3,1)$ и $\operatorname{so}(4)$. Такие системы тоже активно изучались с точки зрения их слоений Лиувилля (см. [88]–[91], [93], [114], [115]).

Двумя интегралами системы будут функции Казимира – геометрический интеграл

$$ \begin{equation*} f_1=R_1^2+R_2^2+R_3^2 \end{equation*} \notag $$
и интеграл площадей
$$ \begin{equation*} f_2=S_1 R_1+S_2 R_2+S_3 R_3. \end{equation*} \notag $$
Без ограничения общности будем считать, что $f_1=1$. Тогда слоение Лиувилля на симплектическом листе $M^4_g$: $f_1=1$, $f_2=g$ может нетривиально зависеть от $g$.

Случай Эйлера (1750 г.) описывает систему динамики тяжелого твердого тела, закрепленного шарниром в своем центре масс. В этом случае энергия $H$ и интеграл $F$ имеют следующий вид (для главных моментов инерции $0< A_1 < A_2 < A_3$):

$$ \begin{equation*} H=\frac{S_1^2}{2A_1}+\frac{S_2^2}{2A_2}+\frac{S_3^2}{2A_3}\,, \qquad F=F_{\rm e}=S_1^2+S_2^2+S_3^2. \end{equation*} \notag $$

Формулы для критического множества системы и вид бифуркационной диаграммы отображения $(f_2,H)$, разделяющей области значений $(g,h)$, соответствующие разным топологическим типам изоэнергетических многообразий $Q^3$ (см. рис. 10), а также бифуркационная диаграмма отображения момента $(H,F)$ в зависимости от значения $g$ (случай $g=0$ и случай $g \ne 0$) приведены, например, в т. 2 монографии [6]. Там же вычислены топологические инварианты системы. Для каждой из получившихся камер, изображенных на рис. 10, ранее был найден интегрируемый биллиард, лиувиллево эквивалентный системе Эйлера на соответствующих $Q^3_{gh}$ (см. [49]).

На рис. 10 приведены искомые биллиарды, а также инварианты Фоменко–Цишанга, описывающие их слоения Лиувилля. При этом для каждой изоэнергетической поверхности потребовалось указать “свой” биллиард.

Случай Лагранжа описывает движение осесимметричного тяжелого твердого тела с закрепленной точкой, лежащей на оси симметрии. Интеграл энергии $H$ и дополнительный интеграл $F$ имеют вид

$$ \begin{equation*} H=\frac{S_1^2}{2 A}+\frac{S_2^2}{2 A}+\frac{S_3^2}{2 B}+\varphi(R_3),\qquad F=F_{\rm L}=S_3. \end{equation*} \notag $$
В зависимости от потенциала $\varphi$ и значений $f_2$, $H$ существует пять типов изоэнергетических поверхностей. Для реализации этой системы применяются круговые топологические биллиарды (плоские листы являются дисками или кольцами, ограниченными концентрическими окружностями; см. рис. 11):

$S^3$: стол склеен из диска и кольца по внешней окружности кольца;

$S^1 \times S^2$: стол склеен из двух колец по их внешней окружности;

$\mathbb{R}P^3$: стол склеен из двух дисков по их границе (на рис. 11 один из них разбит на меньший диск и кольцо);

$S^3 \cup(S^1\times S^2)$: используем описанный выше стол для $S^3$ и кольцо, меньший радиус которого не меньше внешнего радиуса стола для $S^3$;

$2 S^3$: используем описанный выше стол для $S^3$ и диск, радиус которого не превосходит радиуса меньшей окружности первого стола.

Перейдем теперь к случаю Жуковского – обобщению случая Эйлера, состоящему в добавлении постоянного гиростатического момента $\lambda=(\lambda_1,\lambda_2,\lambda_3)$ (так что вместо $S_i^2$ в гамильтониан входят $(S_i-\lambda_i)^2$). Дополнительный интеграл системы Жуковского совпадает с дополнительным интегралом $F=F_{\rm e}$ волчка Эйлера.

Общий вид бифуркационных диаграмм для случая Жуковского изображен на рис. 12, (a). На рис. 12, (b) и (c), изображены два частных случая этой бифуркационной диаграммы. Пунктирные линии отделяют различные слоения Лиувилля гомеоморфных изоэнергетических поверхностей.

Для систем типа изображенных на рис. 12, (b), выделим на плоскости $Ogh$ камеры, для которых слоение Лиувилля на изоэнергетических $Q^3_{gh}$ моделируется биллиардами (см. рис. 13). Конструкция этих биллиардов (обозначим их буквами $\alpha,\dots,\epsilon$) такова:

GRAPHIC

Рис. 13.Система Жуковского, чья бифуркационная диаграмма отображения $(f_2,H)$ на плоскости $Ogh$ имеет тип, указанный на рис. 12, (b). Темным выделены области плоскости $Ogh$, где система промоделирована одним из биллиардов $\alpha,\dots,\epsilon$. Вертикальные прямые $A$, $B$ и $C$ кодируют одноименные симплектические листы.

Другим ярким сюжетом оказывается моделирование систем механики (волчка Ковалевской и системы Горячева–Чаплыгина), имеющих полиномиальные интегралы высоких степеней $3$ и $4$ по импульсам, при помощи интегрируемых биллиардов с одним и тем же каноническим интегралом степени $2$. Отметим, что ранее А. В. Болсинов и А. Т. Фоменко показали [52], что степень интегралов ряда систем (включая системы Ковалевской и Горячева–Чаплыгина) нельзя понизить в классе гладких лиувиллевых эквивалентностей.

Таблица 4.Случаи понижения степени

Интегрируемый биллиард Инвариант Фоменко–ЦишангаИзвестные случаи интегрируемостиТип $Q^3$
Системы Ковалевской (1), Ковалевской–Яхьи ($h_1$), Ковалевской на $\operatorname{so}(4)$ (1,7,11), Дуллина–Матвеева (1), Горячева–Чаплыгина–Сретенского (1), Соколова (A)$S^3$
Системы Дуллина–Матвеева (2) $\mathbb{R}P^3$
Системы Ковалевской (5), Ковалевской–Яхьи ($h_{16}$, $h_{28}$), Ковалевской на $\operatorname{so}(4)$ (32), Горячева–Чаплыгина–Сретенского (4)$S^1\times S^2$
Системы Ковалевской на $\operatorname{so}(4)$ (10),$S^3$
Системы Ковалевской–Яхьи ($h_{18}$), Ковалевской на $\operatorname{so}(4)$ ($2,9$), Соколова (B)$S^3$
Системы Ковалевской на $\operatorname{so}(4)$ (6), Горячева–Чаплыгина–Сретенского (2)$S^3$
Системы Соколова (I)$S^1\times S^2$
Системы Ковалевской на $\operatorname{so}(4)$ (8)$S^3$
Системы Горячева–Чаплыгина–Сретенского (6)$S^1\times S^2$

Теорема 15 (А. Т. Фоменко, В. В. Ведюшкина [51]). Интегрируемые системы Горячева–Чаплыгина–Сретенского, Ковалевской [6], Ковалевской–Яхьи [83], Ковалевской на алгебре Ли $\operatorname{so}(4)$ [89]–[91], Соколова [81], Дуллина–Матвеева [116] с интегралами степеней $3$ и $4$ реализуются (т. е. кусочно-гладко лиувиллево эквивалентны) в подходящих зонах энергии интегрируемыми биллиардами с квадратичным интегралом. Иными словами, интегралы больших степеней сводятся к одному и тому же квадратичному интегралу “в кусочно-гладком смысле”:

$$ \begin{equation*} \Lambda=-(x v_y-y v_x)^{2}+v_x^{2}b+v_y^{2}a. \end{equation*} \notag $$
В табл. 4 приведено соответствие биллиардных столов, реализуемых ими инвариантов Фоменко–Цишанга, интегрируемых систем с интегралами высоких степеней (в скобках указаны номера инвариантов или изоэнергетических зон в обозначениях работ [6], [81], [83], [89]–[91], [116]), топологических типов многообразий $Q^3$.

3. Эволюционные биллиарды и биллиардная эквивалентность интегрируемых систем

Конструкция эволюционного (или силового) биллиарда была предложена А. Т. Фоменко [57]. Она позволяет провести моделирование системы по обе стороны от особого значения $h$ без необходимости моделировать слоение на особой поверхности (содержащее обычно или положение равновесия, или вырожденную особенность).

В эволюционных биллиардах при изменении параметра (скорости шара и “силы” удара о стенку-границу) может меняться как топология биллиардного стола, так и закон отражения шара. Для особого значения энергии $h$, по сути дела, каждое из двух слоений $Q^3_{h \pm \varepsilon}$ моделируется отдельной биллиардной книжкой, но две эти книжки должны деформироваться друг в друга по определенным правилам.

3.1. Определение эволюционного биллиарда

Следующие определения были введены А. Т. Фоменко в работах [57], [58] (см. также [59]).

Определение 16. 1. Носителем силового биллиарда назовем конечный связный двумерный локально плоский (с евклидовой метрикой внутри 2-клеток) клеточный комплекс $X$. Его $2$-листы $L_i$ гомеоморфны замкнутым односвязным областям в $\mathbb{R}^2$ и ограничены кусочно-гладкой кривой, углы излома которой равны $\pi/2$. Склейка нескольких $2$-листов происходит по изометрии их общей гладкой граничной дуги (корешка книжки).

2. Для каждого значения параметра-энергии $H=h\geqslant0$ рассмотрим в носителе $X$ замкнутый подкомплекс $X(h)$ (возможно, не связный). Назовем его состоянием силового биллиарда, отвечающим значению $h$. При этом $X(h_1)\subset X(h_2)$ для любых $h_1 < h_2$ и $X=\bigcup X(h)$, где объединение берется по всем $h$. Тем самым, с ростом $h$ состояние $X(h)$ “разрастается”.

3. Значения $h=1,\dots,N$ энергии $H$, при которых меняется топология стола или закон отражения-преломления на ребрах границы (таких значений конечное число), назовем особыми (сингулярными), а остальные назовем регулярными. Напомним, что $1$-ребрами (корешками) биллиарда $X(h)$ являются дуги софокусных квадрик или концентрических окружностей.

4. Закон отражения-преломления на ребре-корешке $r$ в состоянии $X(h)$ обозначим через $Z(h,r)$. Он задается циклической перестановкой на $n$ листах, склеиваемых по ребру $r$, и определяет динамику частицы после удара о границу. Пусть набор $Z(h)=\{Z(h,r)\}$ таких законов есть кусочно-постоянная функция энергии, скачки которой могут происходить лишь при особых значениях $h$.

5. Разрешим ребрам-корешкам состояния $X(h)$ гладко меняться в классе софокусных квадрик без вырождений. Как известно из теории интегрируемых биллиардов, это задает эквивалентные биллиарды. При особых $h$ ребра могут склеиваться с другими ребрами, вырождаться или превращаться в отрезки фокусных прямых. Склейка листов вдоль границ происходит вдоль дуги одной и той же квадрики. На “новом корешке” появляется новый цикл-перестановка. В момент скачка мы разрешаем биллиардам менять свой класс эквивалентности. Например, сегмент границы при особом $h$ может лечь на фокальную прямую или “сложиться пополам”. Скачком угол $\pi/2$ может стать равным $\pi$. Разрешается склеивать в граничных точках корешки одного состояния $X(h)$, если они легли на одну граничную дугу, т. е. если угол между ними стал равен $\pi$. В круговых биллиардах граничные окружности могут стягиваться в точки.

Так, на рис. 14 при каждом из двух особых значений $h$ соответствующее ребро $r$ становится “проницаемым” (“прозрачным”). После этого биллиардный шар начинает проходить сквозь него, в то время как до этого он отражался. При этом пара тождественных перестановок на эллиптических дугах заменяется транспозицией на отрезке фокальной прямой.

6. Итак, носитель $X$ мы считаем неизменным, “неподвижным”. В нем “разрастаются” состояния $X(h)$, причем $X$ совпадает с последним состоянием $X(N)$. Интегрируемую систему с двумя степенями свободы, задаваемую динамикой биллиардного шара на меняющихся состояниях $X(h)$, назовем силовым (эволюционным) биллиардом.

В следующих ниже пунктах 7 и 8 мы предполагаем, что $h$ – регулярное значение энергии из некоего интервала $D_i=(i,i+1)$. Соответствующий биллиард-состояние обозначается через $X(D_i)$.

7. Точкой фазового комплекса $TX(D_i)$ является пара $(x,v)$, где $x$ – точка биллиардного стола $X(D_i)$, а $v$ – вектор скорости материальной частицы в точке $x$. Когда точка $x$ оказывается на границе листа $L_i$, соседствующего с листом $L_k$, склейка соответствующих пар $(x,v)$ и $(x,w)$ происходит по закону отражения-преломления $Z(h,r)$, действующего на данном ребре $r$ при данном $h$.

8. Регулярной изоэнергетической $3$-поверхностью $Q_h$ эволюционного биллиарда назовем подмножество $H=h$ в четырехмерном фазовом комплексе $TX(D_i)$. Для состояний-книжек такие поверхности являются топологическими $3$-многообразиями.

3.2. Моделирование эволюционными биллиардами и биллиардная эквивалентность волчков Эйлера и Лагранжа

Волчки Эйлера и Лагранжа были описаны выше. Топология симплектического листа $M^4_g$ волчка Эйлера не зависит от выбора значения интеграла площадей $f_2=g \ne 0$. На рис. 14, (b), симплектический лист $M^4_g$ является прообразом вертикальной прямой при отображении $(f_2,H)$. Особые изоэнергетические поверхности $Q$ отображаются в точки трех парабол. Каждой $2$-области приписан класс гомеоморфности регулярной $Q^3_{g,h}$.

Построим силовой биллиард для такого $M^4_g$ (см. рис. 14). Его носитель склеен из двух областей, ограниченных эллипсом, и гомеоморфен $2$-эллипсоиду $E^2$. Состояния биллиарда изображены на рис. 14, (a), как подмножества $E^2$ и на рис. 14, (b), как склейка плоских областей. Состояния с меньшей энергией расположены ниже, с большей – выше. Начальным (стартовым) состоянием является несвязный биллиард, не имеющий общих точек с фокальной прямой (внизу). Он гомеоморфен двум дискам и реализует систему Эйлера на паре $3$-сфер $S^3$. Далее он превращается в кольцо, реализующее произведение $2$-сферы и окружности $(S^1\times S^2)$. Затем кольцо превращается в сферу (эллипсоид) и реализует проективное пространство $\mathbb{R}P^3$. На рис. 14, (b), также показаны траектории биллиардного шара и склейка корешков. Интегрируемость биллиарда в каждый момент эволюции следует из принадлежности его стенок дугам софокусных квадрик.

Теорема 16 [57], [58]. Построенный интегрируемый силовой биллиард, носитель которого гомеоморфен эллипсоиду, реализует (в смысле лиувиллевой эквивалентности) интегрируемый случай Эйлера сразу на всем фазовом многообразии $M^4_g$ исключая его особые уровни энергии, т. е. на всех его регулярных изоэнергетических $3$-поверхностях для всех регулярных значений $g$ и $h$.

У систем волчка Лагранжа – в зависимости от значения интеграла площадей, соотношения моментов инерции и выбора функции потенциала – существует четыре типа бифуркационных диаграмм (см. [6]) и ровно пять различных типов симплектических $4$-листов. Для всех них в работе [58] мы обнаружили силовые биллиарды. На рис. 15 показан один из них.

Теорема 17 [57], [58]. Интегрируемый случай Лагранжа на каждом своем регулярном симплектическом $4$-листе $M^4_g$ реализуется (в смысле лиувиллевой эквивалентности) одним из построенных в [57] пяти силовых биллиардов, у которых биллиарды-состояния ограничены концентрическими окружностями (и потому интегрируемы в каждый момент эволюции).

На уровне эволюционных биллиардов, моделирующих волчки Эйлера и Лагранжа, удалось обнаружить нетривиальную связь между этими системами. Продеформируем семейство софокусных эллипсов и гипербол в семейство концентрических окружностей и радиальных лучей (устремляя фокусы друг к другу).

Теорема 18 [57], [58]. Указанная деформация софокусных биллиардов в круговые переводит силовой биллиард, реализующий случай Эйлера, в новый силовой биллиард, полный набор лиувиллевых слоений которого совпадает с полным набором лиувиллевых слоений случая Лагранжа (для всех его трех типов изоэнергетических $3$-поверхностей).

Описанные в теореме 18 системы мы будем называть биллиардно эквивалентными.

Обнаруженное “превращение” случая Эйлера в случай Лагранжа не переводит симплектический лист случая Эйлера в какой-либо из пяти типов симплектических листов случая Лагранжа. Оно устроено сложнее. И именно это не позволяло ранее заметить превращение этих систем друг в друга. Тем не менее оказалось, что полный набор лиувиллевых слоений случая Эйлера превращается в полный набор лиувиллевых слоений случая Лагранжа. Сначала потребовалось обнаружить в случае Эйлера “скрытые софокусные квадрики”, а в случае Лагранжа – “скрытые концентрические окружности”. В итоге именно деформация софокусных квадрик в окружности (при слиянии фокусов) и “превращает” случай Эйлера в случай Лагранжа.

3.3. Частичное моделирование систем Ковалевской и Жуковского

Рассмотрим классический волчок Ковалевской. Его фазовая топология изучалась М. П. Харламовым в книге [80], где были построены бифуркационные диаграммы и определен класс гомеоморфности слоев слоения Лиувилля. Грубые молекулы этого волчка вычислены А. А. Ошемковым в работе [117], а метки инварианта Фоменко–Цишанга найдены в работе [56]. Бифуркационная диаграмма отображения $(f_2,H)$ изображена на рис. 16: сплошные линии разделяют области $Q^3$ с различной топологией, пунктирные соответствуют наличию неботтовской особенности ранга $1$ в соответствующем $Q^3$, т. е. разделяют области с одинаковыми классами гомеоморфности, но разными слоениями Лиувилля (инвариантами Фоменко и Фоменко–Цишанга).

GRAPHIC

Рис. 16.Бифуркационная диаграмма волчка Ковалевской. Пунктирные линии разделяют области с различными типами слоений Лиувилля на изоэнергетических поверхностях. Темным отмечены зоны, промоделированные биллиардами. Вертикальная прямая $A$ задает симплектический лист $M^4_g$, частично промоделированный эволюционным биллиардом. Через $\alpha$, $\beta$, $\gamma$ обозначены части этого $M^4_g$ (неособые зоны энергии); изображены состояния эволюционного биллиарда, моделирующие их.

Рассмотрим симплектический лист $A$, соответствующий вертикальной прямой $g=\operatorname{const}$, изображенной на рис. 16. Эта прямая пересекает пять камер бифуркационной диаграммы, причем слоение изоэнергетических поверхностей в первых трех камерах может быть промоделировано слоением интегрируемых биллиардов, ограниченных дугами софокусных квадрик. Эти биллиарды, обозначенные через $\alpha$, $\beta$, $\gamma$, изображены на рис. 16 и строятся следующим образом.

$\alpha$. Элементарный биллиард $\alpha$ ограничен дугой эллипса (положим его значение параметра $\lambda$ равным $0$), дугой невыпуклой гиперболы (положим ее значение параметра $\lambda$ равным $b+(a-b)/2=(a+b)/2<a$), вырожденной гиперболой $x=0$ (напомним, что ее значение параметра $\lambda$ равно $a$) и фокальной прямой (напомним, что ее значение параметра $\lambda$ равно $b$).

$\beta$. Топологический биллиард $\beta$ склеен из двух биллиардов $\alpha$, где склейка произошла вдоль обеих дуг гипербол.

$\gamma$. Биллиардная книжка $\gamma$ склеена из шести элементарных биллиардов. Биллиарды с номерами $1$ и $2$ ограничены дугами эллипса с параметром $\lambda=0$ и гиперболы с параметром $\lambda=(a+b)/2$. Биллиарды с номерами $3$ и $4$ ограничены дугами эллипса с параметром $\lambda=0$ и гиперболы с параметром $\lambda=(a+b)/2$, а также отрезками вырожденной гиперболы с параметром $\lambda=a$. Биллиарды с номерами $5$ и $6$ ограничены дугой эллипса с параметром $\lambda=0$ и дугой гиперболы с параметром $\lambda=a$. Дугам гиперболы – корешкам книжки – припишем следующие перестановки: дуге гиперболы с параметром $\lambda=(a+b)/2$ – перестановку $(1,3,2,4)$, а дуге вырожденной гиперболы – перестановку $(3,5,4,6)$.

Отметим, что построенный выше биллиард $\alpha$ является подмножеством биллиарда $\beta$, а биллиард $\beta$, в свою очередь, является подмножеством биллиарда $\gamma$. Это позволяет рассматривать их как состояния единого силового биллиарда $K$. В качестве объемлющего биллиарда-комплекса возьмем биллиард $\gamma$, а в качестве начального состояния – биллиард $\alpha$, образ которого при изометричном вложении в биллиардную книжку $\gamma$ покрывает верхнюю половину листа с номером $3$. Промежуточное состояние – биллиард $\beta$ – вложим в книжку $\gamma$ так, чтобы образ этого биллиарда при изометричном вложении покрывал верхнюю половину листов $3$ и $4$.

Опишем теперь перестройки построенного силового биллиарда $K$. При первом скачке – при перестройке биллиарда $\alpha$ в биллиард $\beta$ – происходит добавление листа биллиарда и стенки гипербол становятся частично проницаемыми. Биллиардный шар теперь совершает движение по листам $3$ и $4$ биллиардной книжки $\gamma$, однако все еще не может преодолеть фокальную прямую. При втором скачке происходит добавление биллиардов-листов с номерами $1$, $2$, $5$ и $6$, меняются перестановки на гиперболических дугах, а фокальная прямая становится проницаемой.

Теорема 19 [59]. Построенный выше эволюционный биллиард $K$ реализует (в смысле лиувиллевой эквивалентности) интегрируемый случай Ковалевской на части фазового симплектического многообразия $M^4_g$, соответствующего прямой $A$ на рис. 16.

Подчеркнем, что эволюция стенок биллиарда происходит в классе софокусных квадрик, что обеспечивает интегрируемость системы в каждый момент ее эволюции на всех последовательно появляющихся с ростом энергии изоэнергетических $3$-поверхностях.

Перейдем теперь к задаче моделирования системы Жуковского эволюционным биллиардом. Построим эволюционные биллиарды $J_A$, $J_B$, $J_C$, частично моделирующие ее на симплектических листах $A$, $B$, $C$.

Биллиард $J_A$. Прямая $A$ последовательно проходит через камеры $\alpha$, $\beta$, $\gamma$, $\delta$ плоскости $Ogh$. Начальное состояние эволюционного биллиарда $J_A$ есть биллиард $\alpha$, а конечное – биллиард $\delta$. При первом скачке энергии к биллиарду $\alpha$ добавляется его копия, которая склеивается с ним при следующих двух скачках. Вначале склейка происходит вдоль фокальной прямой, а затем – вдоль дуги меньшего эллипса с параметром $\lambda=b/2$.

Биллиард $J_B$. Симплектический лист $B$ последовательно проходит через камеры $\alpha$, $\gamma$, $\delta$ плоскости $Ogh$. Начальное состояние силового биллиарда $J_B$ есть биллиард $\alpha$, промежуточное – биллиард $\gamma$, а конечное – биллиард $\delta$. В отличие от предыдущего силового биллиарда, при первом скачке одновременно происходят появление копии биллиарда $\alpha$ и склейка двух копий вдоль фокальной прямой.

Биллиард $J_C$. Симплектический лист $C$ последовательно проходит через камеры $\alpha$, $\epsilon$, $\delta$ плоскости $Ogh$. При движении в камере $\alpha$ одноименный биллиард изменяется так, что параметр $\lambda$, изначально равный $b/2$, стремится к значению $b$. В пределе при достижении стенки камеры диаграммы состояние биллиарда представляет собой два экземпляра “нижнего” листа биллиарда $\alpha$. В момент скачка эти два экземпляра склеиваются вдоль фокальной прямой. В момент следующего скачка происходит добавление двух листов биллиарда, склеенных вдоль дуги эллипса с параметром $b/2$, которые приклеиваются к предыдущему состоянию биллиарда вдоль дуги большего эллипса. При этом одна выпуклая склейка заменяется на две выпуклые и одну невыпуклую. С другой стороны, этот скачок может быть интерпретирован как “выдавливание складки” из двух новых маленьких биллиардов внутрь биллиарда (вид биллиардов $\epsilon$ и $\delta$ см. на рис. 13), при котором биллиард во всей небольшой окрестности скачка остается гомеоморфным кольцу, растет только число его склеек.

В работе [59] авторов проведено также частичное моделирование систем Ковалевской и Жуковского, у которых дуги и вершины бифуркационных диаграмм расположены иначе, чем обсуждалось выше.

3.4. Биллиардная эквивалентность геодезических потоков

С помощью топологических биллиардов и биллиардных книжек можно моделировать геодезические потоки на двумерных поверхностях. Согласно теореме Козлова [9], [54], если на двумерной замкнутой поверхности геодезический поток интегрируем, то род этой поверхности неотрицателен. При условии ориентируемости предположениям теоремы удовлетворяют тор $T^2$ и сфера $S^2$, а при условии неориентируемости – бутылка Клейна $\operatorname{KL}^2$ и проективная плоскость $\mathbb{R}P^2$.

К настоящему моменту рядом авторов (В. Н. Колокольцов [118], В. С. Матвеев [119], И. К. Бабенко и Н. Н. Нехорошев [120]) получена классификация всех интегрируемых потоков на упомянутых четырех поверхностях таких, что дополнительный интеграл полиномиален по импульсам и имеет степень не выше второй. Иными словами, описаны все линейно и квадратично интегрируемые геодезические потоки на двумерных замкнутых поверхностях. Для всех этих потоков указан канонический вид метрики, вычислены инварианты Фоменко–Цишанга (см. работы В. С. Матвеева [119], Е. Н. Селивановой [121], В. В. Калашникова (мл.) [122], Нгуен Тьен Зунга, Л. С. Поляковой [123]).

В. В. Ведюшкиной и А. Т. Фоменко недавно было показано [55], что для ориентируемой замкнутой поверхности и для любого линейно или квадратично интегрируемого геодезического потока на ней можно алгоритмически построить биллиард (топологический биллиард или стол-книжку) такой, что инварианты Фоменко–Цишанга биллиарда и геодезического потока совпадут.

Теорема 20 (В. В. Ведюшкина, А. Т. Фоменко [55]). 1) Любой геодезический поток на двумерной ориентируемой поверхности (тор и сфера), допускающий линейный интеграл, лиувиллево эквивалентен топологическому биллиарду, состоящему из плоских биллиардов, ограниченных концентрическими окружностями.

2) Любой геодезический поток на двумерной ориентируемой поверхности (тор и сфера), допускающий квадратичный интеграл, лиувиллево эквивалентен топологическому биллиарду или биллиардной книжке, состоящей из плоских биллиардов, ограниченных софокусными эллипсами и гиперболами.

3) Указанные топологические биллиарды алгоритмически и в явном виде строятся исходя из параметров интегрируемой метрики.

Биллиарды, моделирующие линейно интегрируемые потоки, получены следующим образом. Назовем биллиарды-кольца биллиардами типа $C$, а биллиарды-диски – биллиардами типа $D$. Все эти биллиарды ограничены окружностями из одного и того же семейства концентрических окружностей. Рассмотрим склейку таких биллиардов, при которой топологический биллиард будет гомеоморфен сфере $S$ (в этом случае он включает в себя два диска $D$) или тору $T$ (в этом случае он состоит только из колец $C$). Примеры наборов таких биллиардов указаны на рис. 17.

Зададим по выбранному топологическому биллиарду следующую кусочно-линейную функцию. Занумеруем все плоские биллиарды в его составе. При этом для биллиарда $S$, гомеоморфного сфере, первым выберем один из двух элементарных биллиардов, гомеоморфных диску. Отметим на плоскости $Oxy$ точки $(0,r_0)$ и $(0,r_1)$, где $r_0$ и $r_1$ – меньший и больший радиусы окружностей, ограничивающих первый биллиард (для биллиарда $D$ положим $r_0=0$). Переходя к следующему биллиарду, будем отмечать точки вида $(i,r)$, где $i$ – номер биллиарда, а $r$ – радиус его граничной окружности, вдоль которой он склеен с биллиардом, имеющим следующий номер. Соединим все точки в некоторую ломаную. Обозначим через $\widetilde{f}$ кусочно-линейную функцию, график которой совпадает с построенной ломаной. Отметим, что график функции $\widetilde{f}$ является “профилем” биллиарда.

Теперь расслоим область под графиком функции $\widetilde{f}$ на отрезки горизонтальных прямых. Стянем каждый отрезок в точку. Получим некоторый граф. Вершинам этого графа, соответствующим локальным максимумам функции $\widetilde{f}$, т. е. выпуклым ребрам склейки биллиардов, поставим в соответствие атомы $A$. Вершинам этого графа, соответствующим локальным минимумам функции $\widetilde{f}$, т. е. невыпуклым ребрам склейки биллиардов, поставим в соответствие атомы серии $B_k$, где $k$ – натуральное число, на единицу меньшее числа биллиардов, которые склеиваются между собой (т. е. количество ребер склейки, лежащих на дуге окружности соответствующего радиуса). Если биллиард был гомеоморфен тору, то глобальному минимуму функции $\widetilde{f}$ поставим в соответствие атом серии $C_k$. В случае биллиарда $S$ полученный граф имеет одно свободное ребро, т. е. ребро без приписанного его концевой вершине атома; обозначим этот граф через $W(\widetilde{f})$. В случае тора $T$ полученный граф имеет два свободных ребра; обозначим этот граф через $W_2(\widetilde{f})$.

Пусть задана произвольная тройка $(q,t,L)$, где $t\in[0,1)$, $L>0$, а $q(v)$ – функция с периодом $L$. Тогда по этой тройке можно построить риманову метрику на торе. Для этого на плоскости с декартовыми координатами $(u,v)$ рассмотрим метрику

$$ \begin{equation*} ds^2=q(v)(du^2+dv^2), \end{equation*} \notag $$
а затем возьмем фактор плоскости $\mathbb{R}^2$ по решетке, порожденной векторами $f_1=(1,0)$ и $f_2=(t,L)$. Такие метрики назовем $(q,t,L)$-метриками. Они допускают линейный интеграл. Более того, верен следующий результат.

Предложение 5 (В. С. Матвеев [119]). Пусть геодезический поток метрики на торе допускает линейный интеграл. Тогда метрика либо плоская, либо изометрична $(q,t,L)$-метрике. Две метрики, отвечающие тройкам $(q,t,L)$ и $(\widehat{q},\widehat{t},\widehat{L})$, изометричны в том и только том случае, когда их параметры удовлетворяют соотношениям, указанным в [119].

Теорема 21 (Е. Н. Селиванова [121]). Пусть геодезический поток метрики $ds^2$ на торе $T^2$ линейно интегрируем (т. е. $ds^2$ представляет собой $(g,t,L)$-метрику). Построим по функции $g$ граф $W_2(g)$. Тогда меченая молекула $W^*$, соответствующая геодезическому потоку этой метрики, имеет вид, показанный на рис. 18, (a). Метки задаются следующим образом: все ребра, не содержащие атома $A$, несут на себе метку $r=\infty$; ребра, содержащие атом $A$, несут на себе метку $r=0$; единственная имеющаяся семья имеет метку $n$, равную нулю; метки $\varepsilon$ на ребрах $a$ и $b$ равны $-1$, а на всех остальных ребрах они равны $+1$ (см. рис. 18, (b)).

Идея доказательства теоремы 20 для интегрируемых геодезических потоков на торе с линейным интегралом состоит в том, чтобы построить по положительной функции $g$, задающей $(g,t,L)$-метрику на торе, кусочно-линейную функцию $\widetilde{g}$ такую, что взаимное расположение ее минимумов и максимумов совпадет с взаимным расположением минимумов и максимумов функции $g$, из чего будет следовать совпадение графов $W_2$ для этих функций. Метки также совпадут, что следует из теорем Е. Н. Селивановой [121] и В. В. Ведюшкиной, вычисливших соответствующие инварианты Фоменко–Цишанга.

Определение 17. Риманова метрика на торе называется глобально лиувиллевой, если на торе существуют глобальные периодические координаты $x$ и $y$, в которых метрика имеет вид

$$ \begin{equation*} ds^2=(f(x)+g(y))(dx^2+dy^2), \end{equation*} \notag $$
где $f(x)$ и $g(y)$ – некоторые гладкие положительные функции с периодами $T_x$ и $T_y$ соответственно, отличные от констант.

Теорема 22 (Е. Н. Селиванова [121]). Пусть метрика $ds^2$ на торе $T^2$ является глобально лиувиллевой метрикой, задаваемой двумя функциями $f$ и $g$. Построим по функциям $f$ и $g$ графы $W_2(f)$ и $W_2(g)$. Тогда соответствующая ее геодезическому потоку меченая молекула $W^*$ имеет вид, показанный на рис. 18, (b). Метки задаются следующим образом. Все четыре ребра $a$, $b$, $c$, $d$, а также все ребра, содержащие атом $A$, несут на себе метку $r$, равную нулю. Все остальные ребра имеют метку $r=\infty$. Все метки $n$ равны нулю, а все метки $\varepsilon$ равны $1$.

Пусть геодезический поток на торе обладает первым интегралом, квадратичным по импульсам, а метрика на этом торе глобально лиувиллева. Следуя теореме А. Т. Фоменко и В. В. Ведюшкиной [55], алгоритмически строится софокусный биллиард-книжка (плоские грани-листы CW-комплекса ограничены дугами софокусных квадрик) такой, что совпадают инварианты Фоменко–Цишанга геодезического потока и биллиарда.

Теперь устремим фокусы найденного биллиарда друг к другу. В этом случае плоские листы исходного софокусного стола-книжки (ограниченные дугами софокусных эллипсов и гипербол) перейдут в плоские листы предельного стола-книжки, ограниченные дугами концентрических окружностей и радиальными прямыми. Центром окружностей является начало координат – предел пары фокусов эллипсов и гипербол.

Инвариант Фоменко–Цишанга биллиардной системы на предельном круговом столе-комплексе оказывается инвариантом Фоменко–Цишанга системы интегрируемого геодезического потока на двумерном торе, первый интеграл которого линеен, а канонический вид метрики определяется таковым для исходного геодезического потока с квадратичным интегралом. Более точно, верна следующая теорема.

Теорема 23. Пусть на двумерном торе задан геодезический поток некоторой лиувиллевой метрики $ds^2=(f(x)+g(y))(dx^2+dy^2)$. Рассмотрим биллиард, ограниченный дугами софокусных квадрик, инвариант Фоменко–Цишанга которого совпадает с инвариантом данного геодезического потока. При этом уровню интеграла $\Lambda<b$ указанного биллиарда соответствует в этом инварианте подграф $W_2(f)$. Тогда при стремлении фокусов этого биллиарда друг к другу он перейдет в биллиард, моделирующий линейно интегрируемый геодезический поток на торе, метрика которого может быть записана в виде $ds^2=f(x)(dx^2+dy^2)$. В этом смысле линейно интегрируемые геодезические потоки на торе биллиардно эквивалентны квадратично интегрируемым геодезическим потокам на торе, которые задаются глобально лиувиллевой метрикой.

Доказательство. Для доказательства теоремы поясним, как по функциям $f$ и $g$ строится искомый биллиард.

Для построения инварианта геодезического потока важны не сами функции $f$ и $g$, а взаимное расположение их максимумов и минимумов на их периодах $T_x$ и $T_y$. Область под графиком функции расслаивается на отрезки горизонтальных прямых, каждый отрезок стягивается в точку. Концевым вершинам графа – точкам максимумов функций – ставятся в соответствие атомы $A$, наименьшему локальному минимуму ставится в соответствие атом серии $C$, а всем остальным минимумам – атомы серии $B$. Получим граф $W_2(f)$. Сожмем график функции $f$ так, чтобы значения функции лежали в пределах интервала $(0,b)$. Построим кусочно-линейную функцию $\widetilde{f}$, совпадающую с модифицированным графиком функции $f$ в точках ее экстремумов. Аналогично поступим с функцией $g$, построив функцию $\widetilde{g}$. Заметим, что граф $W_2(\widetilde{f})$ (или $W_2(\widetilde{g})$) отличается от графа $W_2(f)$ (соответственно $W_2(g)$) только длинами ребер.

Построим гомеоморфный тору биллиард, склеенный из биллиардов $B_0$. Напомним, что каждый элементарный биллиард $B_0$ представляет собой четырехугольник, ограниченный двумя дугами эллипсов и двумя дугами гипербол. Пронумеруем все точки экстремума функции $\widetilde{f}$ и обозначим их через $f_i$, $i\in\{1,\dots,m+1\}$. Аналогично пронумеруем все точки экстремума функции $\widetilde{g}$ и обозначим их через $g_j$, $j\in\{1,\dots,n+1\}$. Рассмотрим набор областей $B_0$, каждая из которых ограничена двумя дугами эллипсов с параметрами $b-f_i$ и $b-f_{i+1}$ и двумя дугами гипербол с параметрами $g_j$ и $g_{j+1}$. Склеим набор из $mn$ биллиардов в тор $T(B_0)$ в той же последовательности, что и соответствующие им отрезки кусочно-линейных функций $\widetilde{f}$ и $\widetilde{g}$. Инвариант Фоменко–Цишанга полученного биллиарда будет содержать подграфы $W_2(\widetilde{f})$ и $W_2(\widetilde{g})$ и совпадет с инвариантом геодезического потока (подробнее см. [55]).

Устремим теперь в семействе софокусных квадрик фокусы друг к другу. В результате биллиард $T(B_0)$ перейдет в биллиард $T(C)$. Каждый биллиард $B_0$ перейдет в биллиард, ограниченный двумя окружностями и двумя радиальными прямыми. Отметим, что с траекториями произошло следующее преобразование. Если ранее траектория (или ее продолжение) касалась некоторого эллипса, то теперь траектория касается некоторой окружности. Отметим, что все такие траектории, как и ранее, разбиваются на два класса, в зависимости от направления обхода начала координат (по или против часовой стрелки). Траектории, которые лежали на прямых, проходящих через фокусы, переходят в траектории, которые лежат на радиальных прямых. Других траекторий у полученного биллиарда $T(C)$ нет. Поэтому грубая молекула Фоменко представляет собой два склеенных графа $W_2(f)$. Вычисляя метки (полностью аналогично вычислению меток для биллиарда $T$), получаем, что инвариант Фоменко–Цишанга биллиарда $T(C)$ совпадает с инвариантом Фоменко–Цишанга для геодезического потока на торе с метрикой $ds^2=dx^2+f(x)dy^2$ (задающей линейно интегрируемый геодезический поток на двумерном торе). Теорема доказана.

Перейдем к случаю сферы. Пусть тор $T^2$ задан как фактор плоскости $\mathbb{R}^2$ с декартовыми координатами $(x,y)$ по ортогональной решетке $\Gamma$, базисом которой являются два ортогональных вектора $f_1=(1,0)$ и $f_2=(0,L)$, где $L$ – любое положительное число. Рассмотрим инволюцию $\sigma$ тора на себя, задаваемую на накрывающей плоскости симметрией: $\sigma(x,y)=(-x,-y)$, т. е. симметрией относительно начала координат. Ясно, что решетка $\Gamma$ выдерживает эту симметрию, поэтому $\sigma$ действительно является инволюцией на торе. Рассмотрим естественную проекцию $\xi\colon T^2\to T^2/\sigma$.

Предложение 6. Факторпространство $T^2/\sigma $ тора по действию инволюции $\sigma$ гомеоморфно двумерной сфере $S^2$. Проекция

$$ \begin{equation*} \xi\colon T^2\to S^2= T^2/\sigma \end{equation*} \notag $$
является двулистным разветвленным накрытием над сферой с четырьмя точками ветвления, каждая из которых имеет ровно один прообраз на торе.

Зададим на накрывающей плоскости тора две периодические гладкие функции $f(x)$ и $g(y)$, удовлетворяющие следующим условиям.

(a) Функция $f(x)$ неотрицательная, гладкая, четная, имеет период длины $1$.

(b) Функция $g(y)$ неотрицательная, гладкая, четная, имеет период длины $L$.

(c) (Это условие описывает асимптотическое поведение функций $f(x)$ и $g(y)$ вблизи их нулей.) Функция $f(x)$ обращается в нуль в точках вида $x=m/2$, $k\in \mathbb{Z}$. Функция $g(y)$ обращается в нуль в точках вида $y=kL/2$, $k\in \mathbb{Z}$. Для любой точки вида $(m/2,kL/2)$ существует гладкая в окрестности нуля функция $h(t)$ такая, что $h(0)=0$, $h'(0)\ne 0$ и

$$ \begin{equation*} f\biggl(\frac{m}{2}+t\biggr)=h(t^2), \qquad f\biggl(\frac{kL}{2}+t\biggr)=-h(-t^2). \end{equation*} \notag $$

Следующее предложение описывает все квадратично интегрируемые геодезические потоки на двумерной сфере.

Предложение 7 (Нгуен Тьен Зунг, Л. С. Полякова, Е. Н. Селиванова [123]). 1) Пусть $(f(x)+g(y))(dx^2+dy^2)$ – метрика на торе $T^2$, удовлетворяющая условиям (a)–(c), и $\xi\colon T^2\to T^2/\sigma$ – описанное выше двулистное накрытие. Тогда на сфере $S^2$ существует, и притом единственная, гладкая риманова метрика $ds^2$ такая, что

$$ \begin{equation*} \xi^*(ds^2)=(f(x)+g(y))(dx^2+dy^2). \end{equation*} \notag $$
Если функции $f$ и $g$ при этом вещественно аналитические, то метрика $ds^2$ тоже будет вещественно аналитической.

2) Обратно, рассмотрим метрику $\xi^*(ds^2)$ на торе $T^2$, где $ds^2$ – некоторая гладкая метрика на сфере $S^2$. Если эта метрика имеет вид

$$ \begin{equation*} (f(x)+g(y))(dx^2+dy^2), \end{equation*} \notag $$
то функции $f$ и $g$ автоматически удовлетворяют условиям (a)–(c).

Определение 18. По аналогии с тором метрику $ds^2$ назовем $(L,f,g)$-метрикой на сфере.

Метрика на сфере имеет линейно интегрируемый геодезический поток в том и только том случае, когда существуют глобальные конформные координаты $x$, $y$, относительно которых накрывающая метрика на торе принимает вид

$$ \begin{equation*} ds^2=f(x^2+y^2)(dx^2+dy^2), \end{equation*} \notag $$
где $f(t)$ – положительная гладкая функция на полуоси $[0,+\infty)$ такая, что $f(1/t)/t^2$ – положительная гладкая функция на всей полуоси $[0,+\infty)$ (т. е. включая нуль).

Удобно переформулировать эту теорему так.

Предложение 8. Метрика $ds^2$ на сфере обладает линейно интегрируемым геодезическим потоком в том и только том случае, когда на сфере существуют гладкие глобальные координаты $(\theta,\varphi)$ с двумя особыми точками (это аналоги полюсов для обычных сферических координат), причем $\theta$ меняется от $0$ до некоторого $\theta_0$, а $\varphi$ – периодическая координата $(0\leqslant \varphi\leqslant 2\pi)$, причем в этих координатах метрика имеет вид

$$ \begin{equation*} ds^2=d\theta^2+f(\theta)\,d\varphi^2. \end{equation*} \notag $$

Отметим, что гамильтониан $H$ геодезического потока имеет вид

$$ \begin{equation*} H=p_\theta^2+f(\theta)^{-1}p_\varphi^2, \end{equation*} \notag $$
а интеграл $F$ выглядит так: $F=p_\varphi$.

Теорема 24. Рассмотрим на двумерной сфере геодезический поток, задаваемый $(L,f,g)$-метрикой такой, что функция $g$ имеет на своем периоде единственный максимум. Рассмотрим моделирующий данный геодезический поток биллиард, ограниченный дугами софокусных эллипсов и гипербол. Устремим фокусы этого биллиарда друг к другу. Тогда полученный биллиард моделирует линейно интегрируемый поток на двумерной сфере, задаваемый метрикой $ds^2=d\theta^2+f(\theta)\,d\varphi^2$. Таким образом, класс линейно интегрируемых геодезических потоков на двумерной сфере биллиардно эквивалентен некоторому подклассу квадратично интегрируемых геодезических потоков на двумерной сфере.

Доказательство. Рассмотрим биллиард, моделирующий квадратично интегрируемый геодезический поток на двумерной сфере, задаваемый указанной в условии $(L,f,g)$-метрикой. В случае общего положения такой биллиард (см. рис. 19) содержит невыпуклые склейки, лежащие на эллипсах, положение которых определяется функцией $\widetilde{f}$ (построение которой по функции $f$ аналогично построению в случае двумерного тора), и невыпуклые склейки, лежащие на гиперболах, положение которых определяется функцией $\widetilde{g}$ (построенной по функции $g$). Так как функция $g$ на своем периоде не имеет точек минимума, то моделирующий данный геодезический поток биллиард, построенный согласно алгоритму из доказательства теоремы о моделировании геодезических потоков (см. теорему 20), склеен из элементарных биллиардов так, что в нем отсутствуют невыпуклые склейки, лежащие на гиперболах.

Тогда меченая молекула, кодирующая слоение Лиувилля этого биллиарда, имеет вид, указанный на рис. 20, (a) (если биллиард не содержит невыпуклых склеек вообще) и на рис. 20, (b) (если он содержит невыпуклые склейки, лежащие на дугах эллипсов).

Устремим теперь фокусы в одну точку (начало координат). Тогда софокусные эллипсы перейдут в концентрические окружности, а гиперболы – в прямые, проходящие через начало координат. При этом интегрируемость биллиарда сохранится, а молекула, кодирующая слоение Лиувилля соответствующей изоэнергетической поверхности, перейдет либо в молекулу $A$–$A$ (с метками $r=0$, $\varepsilon=1$), либо в молекулу, изображенную на рис. 20, (c). Все такие молекулы являются полным набором инвариантов, кодирующих линейно интегрируемые геодезические потоки на двумерной сфере.

Замечание 8. Пусть геодезический поток на двумерной сфере задается произвольными функциями $f$ и $g$, при этом функция $g$ на своем периоде имеет точки минимума. Тогда в моделирующем данный геодезический поток биллиарде есть невыпуклые склейки вдоль ребер, лежащих на некоторых гиперболах. Это приводит к тому, что при стремлении фокусов друг к другу окрестность начала координат в биллиарде склеена из угловых секторов, которые образованы асимптотами указанных гипербол. В таком биллиарде нельзя по непрерывности определить движение точки при попадании в начало координат. Поэтому такие геодезические потоки не переходят при указанном преобразовании ни в какие линейно интегрируемые геодезические потоки.

4. Интегрируемые обобщения плоских биллиардов и биллиардных книжек

В данном разделе мы обсудим несколько обобщений софокусных и круговых биллиардов, сохраняющих интегрируемость системы. В первую очередь, это введение полиномиального потенциала (в частности, потенциала Гука для софокусных и круговых столов), введение на круговом столе магнитного поля, постоянного по времени и пространству, вектор индукции которого ортогонален столу, добавление проскальзывания частицы вдоль границы стола (биллиарды с проскальзыванием). Несложно проверить, что склейка стола-книжки из плоских столов с такой динамикой сохраняет интегрируемость системы, т. е. что класс введенных В. В. Ведюшкиной биллиардных книжек “комбинируется” с указанными обобщениями.

Новые классы биллиардов успешно применялись для моделирования слоений интегрируемых систем. Так, плоские и топологические биллиарды с проскальзыванием позволили В. Н. Завьялову и авторам [63], [124] промоделировать интегрируемые геодезические потоки на неориентируемых поверхностях $\mathbb{R}P^2$ и $\operatorname{KL}^2$. В системе магнитного биллиарда удалось реализовать как молекулу $A$–$A$ с метками $r=\infty$, $\varepsilon=-1$, так и расщепляемые по Зунгу особенности сложности $1$ (см. работу В. В. Ведюшкиной и С. Е. Пустовойтова [125], а также работы [47], [126]). Биллиардные книжки с потенциалом позволили промоделировать произвольные невырожденные особенности ранга $0$.

Также положительно решен поставленный А. Т. Фоменко и В. В. Ведюшкиной в работе [35] вопрос о моделировании биллиардами невырожденных особенностей ранга $0$ (т. е. слоения в окрестности точки положения равновесия системы или содержащего ее слоя). Для особенностей центр-центр, центр-седло и седло-седло предложенный и развитый В. А. Кибкало [65], [66] подход использует софокусные биллиарды (как предел геодезического потока на эллипсоиде) и наборы перестановок, найденные А. А. Ошемковым для седловых особенностей гладких систем. Особенности фокус-фокус были промоделированы в работе В. В. Ведюшкиной, В. А. Кибкало и С. Е. Пустовойтова [67] с помощью биллиардных книжек c притягивающим потенциалом Гука, склеенных из $n$ дисков с перестановкой $(1,\dots,n)$.

Отдельно мы обсудим вопрос о топологии слоения Лиувилля биллиардов в многомерных областях, т. е. имеющих размерности $3$ и выше. Случай биллиарда, ограниченного эллипсоидом в $\mathbb{R}^3$, был рассмотрен В. Драговичем [100]. Классификацию софокусных областей трехмерного эллипсоида с точностью до грубой эквивалентности выполнил Г. В. Белозеров [68]. Им же изучается топология слоений Лиувилля биллиардов в таких областях при добавлении потенциала Гука (работы находятся в печати).

Коротко отметим еще одно интегрируемое обобщение биллиардов и геодезических потоков на квадриках, открытое совсем недавно. В. А. Кибкало установил, что геодезический поток на пересечении $n-2$ софокусных квадрик разных типов в пространстве $\mathbb{R}^n$ интегрируем. Также в эллиптических координатах был указан квадратичный интеграл, независимый с энергией. Отметим, что метрика на двумерной поверхности приводится к лиувиллеву виду. Г. В. Белозеровым был затем доказан общий факт, обобщающий по сути своей знаменитую классическую теорему Якоби–Шаля: геодезический поток на пересечении $k$ софокусных квадрик разных типов в $\mathbb{R}^n$ вполне интегрируем и касательные к каждой геодезической линии на $(n-k)$-мерном пересечении одновременно касаются $n-k-1$ квадрик, одних и тех же для всех точек пересечения. Также была описана топология (класс гомеоморфности) указанного пересечения. Доказательство выполнено в эллиптических координатах и потребовало нетривиальных приемов при работе с симметрическими многочленами.

Укажем кратко еще несколько новых направлений, связанных с топологией интегрируемых биллиардов. В. Драговичем, М. Раднович [127], Е. Е. Каргиновой [128], [129] на плоскости с метрикой Минковского были изучены интегрируемые биллиарды, также ограниченные дугами софокусных квадрик. В эту задачу можно добавить центральный потенциал типа Гука, сохранив интегрируемость системы. Один из примеров был разобран в работе А. И. Скворцова и В. В. Ведюшкиной [130].

Если допустить, что граница биллиардного стола может содержать углы $3\pi/2$ (по отношению к внутренности области), то получим так называемый псевдоинтегрируемый биллиард. Регулярные совместные поверхности уровня первых интегралов системы будут гомеоморфны не торам (как в интегрируемом случае), а некоторой поверхности с ручками, в которой сделано несколько проколов. Упомянем здесь работы В. Драговича и М. Раднович [131]–[133] и В. А. Москвина [134], [135], изучавших такие биллиарды.

Отметим, что наличие условного интеграла (измеримой существенно непостоянной функции, сохраняющейся вдоль почти всех траекторий) у биллиарда на компактном двумерном римановом многообразии с упругим отражением от его границы требует, согласно результату С. В. Болотина [136], выполнения нестрогого неравенства, связывающего сумму углов в точках излома границы и эйлерову характеристику поверхности. Если равенство обращается в равенство, то углы должны быть соизмеримым с $\pi$ со знаменателем, равным степени интеграла по компонентам импульса.

Интересным сюжетом также оказывается моделирование произвольной упорядоченной биллиардной игры [100] на плоскости как проекции траекторий шара, движущегося по алгоритмически заданной биллиардной книжке – см. работу [137]. Для некоторых таких книжек там же вычислялись инварианты Фоменко (молекулы без меток).

4.1. Биллиарды с проскальзыванием

Закон отражения-преломления в точке границы (или линии склейки), рассмотренный выше, является стандартным гюйгенсовым законом упругого отражения: угол падения равен углу отражения, а длина вектора скорости не меняется. Другой класс биллиардов, названный биллиардами с проскальзыванием, был предложен А. Т. Фоменко в работе [63].

Кратко опишем суть конструкции. При ударе о гладкую дугу границы в точке $x$ траектория продолжает движение из точки $y$, отстоящей от точки $x$ на некоторое расстояние, вдоль границы $\partial\Omega$. Угол отражения при этом равен углу падения в следующем смысле: считаются ориентированные углы между вектором скорости кривой (направление кривой и определяет направление проскальзывания) и соответствующим углом (падения или отражения) – см. пример на рис. 21.

Рассмотрим центрально симметричную область и проскальзывание “на угол $\pi$”, т. е. продолжение траектории из диаметрально противоположной точки границы. Такое проскальзывание для центрально симметричных софокусных и круговых столов порождает интегрируемый биллиард. Само по себе введение проскальзывания в интегрируемом случае эквивалентно введению неориентируемых топологических биллиардов. Например, в простейшем случае введение проскальзывания на границе диска (см. рис. 21, (a)) позволяет говорить, что на самом деле рассматривается биллиардная система на проективной плоскости, которая получается отождествлением противоположных точек границы диска.

Более того, оказалось, что биллиарды с проскальзыванием моделируют линейно интегрируемые геодезические потоки на проективной плоскости $\mathbb{R}P^2$ и на бутылке Клейна $\operatorname{KL}^2$. Интегрируемые геодезические потоки на неориентируемых поверхностях рассматриваются как некоторый фактор геодезических потоков на ориентируемых поверхностях. Это соображение позволило алгоритмически построить необходимые биллиарды, использовав биллиарды, моделирующие геодезические потоки на торе и сфере. Для этого необходимо удалить из таких топологических биллиардов некоторые области в их составе, а на оставшейся границе определить проскальзывание. В результате биллиардный стол становится гомеоморфным проективной плоскости или бутылке Клейна.

Теорема 25 (В. В. Ведюшкина, В. Н. Завьялов [124]). Любой геодезический поток на двумерном неориентируемом многообразии (бутылке Клейна или проективной плоскости), обладающий линейным по импульсам дополнительным интегралом, лиувиллево эквивалентен биллиарду с проскальзыванием, состоящему из плоских биллиардов, ограниченных концентрическими окружностями. При этом линейный интеграл такого потока сводится к каноническому на биллиарде, который является углом между траекторией и границей любого биллиардного стола.

Для квадратичных геодезических потоков в настоящий момент получены несколько примеров. Представим один из них. Рассмотрим биллиард $Z$, склеенный из двух колец, ограниченных двумя софокусными эллипсами, так что на каждой граничной окружности введено проскальзывание.

Теорема 26 (В. Н. Завьялов [63]). Инвариант Фоменко–Цишанга топологического биллиарда $Z$ изображен на рис. 21, (b). Данная биллиардная система кусочно-гладко лиувиллево эквивалентна интегрируемому геодезическому потоку на бутылке Клейна $\operatorname{KL}^2$, имеющему квадратичный (по компонентам импульса) дополнительный интеграл.

Также проскальзывание можно вводить на биллиардных книжках. Построим следующую биллиардную книжку с проскальзыванием. Рассмотрим $m$ биллиардов, ограниченных эллипсом, и приклеим к ним кольцо, ограниченное тем же эллипсом и эллипсом с меньшим значением параметра $\lambda$ (т. е. бо́льшим эллипсом). Занумеруем листы книжки следующим образом: дискам дадим номера $1,\dots,m$, а кольцу припишем номер $m+1$. На кривой склейки (граничном эллипсе столов $A_2$ и внутреннем граничном эллипсе кольца) зададим циклическую перестановку длины $m+1$ на всех 2-клетках книжки.

Добавим в эту книжку проскальзывание, определив его на большем эллипсе кольца (т. е. фактически мы приклеиваем к исходному комплексу лист Мёбиуса): при ударе о больший эллипс после отражения точка продолжает движение из противоположной точки по отношению к точке удара, т. е. “проскальзывая” вдоль границы на $\pi$.

Так определенная биллиардная книжка интегрируема, так как звенья траекторий по-прежнему касаются некоторого эллипса или некоторой гиперболы. Обозначим такой стол через $\mathbb{B}_s(mA_2+C_2)$. На рис. 22 схематично показан пример биллиардной траектории. Отметим, что при переходе между листом-диском с номером $m$ и кольцом с номером $m+1$ не происходит отражения – материальная точка проходит сквозь корешок книжки.

Предложение 9 (В. В. Ведюшкина). Инвариант Фоменко–Цишанга, описывающий слоение Лиувилля изоэнергетической поверхности биллиардной книжки $\mathbb{B}_s(mA_2+C_2)$ с проскальзыванием, в случае четного $m$ изображен на рис. 23, (a), а в случае нечетного – на рис. 23, (b).

4.2. Интегрируемые биллиарды с потенциалом

Другим интегрируемым обобщением классического биллиарда в $\Omega \subset \mathbb{R}^2(x,y)$ является введение подходящего потенциала. Простейшим примером служит потенциал Гука $\pm k(x^2+y^2)$ для столов софокусных или круговых биллиардов. Такой потенциал можно ввести и на биллиардной книжке, склеенной из областей софокусных (или круговых) биллиардов [66]: закон отражения шара от границы сохраняет значения интеграла и энергии, границы областей возможности движения (проекция слоя Лиувилля на стол) лежат на софокусных квадриках (концентрических окружностях), причем проекция особой окружности каждого $3$-атома такой системы также лежит на некоторой квадрике. Аналогичное оказывается верно для целого класса полиномиальных потенциалов (С. Е. Пустовойтов).

Рассмотрим биллиард внутри эллипса $x^2/a+y^2/b=1$ с абсолютно упругим отражением шара от границы с равенством углов падения и отражения. Добавим гладкий потенциал $W(x,y)$, тогда уравнения движения шара (между ударами о границу) имеют следующий вид:

$$ \begin{equation} \begin{cases} \ddot{x}=-W_x, \\ \ddot{y}=-W_y. \end{cases} \end{equation} \tag{4.1} $$
Эта система гамильтонова на фазовом пространстве биллиарда в эллипсе, ее энергия равна
$$ \begin{equation*} H=\frac{\dot x^2+\dot y^2}{2}+W(x,y). \end{equation*} \notag $$
При отражении от границы, как и между ударами, функция $H$ сохраняется.

Указанная система может не быть интегрируемой: она неинтегрируема, например, для потенциала $W=y$. Критерий интегрируемости гамильтоновой системы

$$ \begin{equation*} H=\dot{x}^2+\dot{y}^2+W(x,y) \end{equation*} \notag $$
был получен В. В. Козловым в [60].

Предложение 10 (В. В. Козлов). Биллиард в эллипсе с потенциалом $W$ допускает первый интеграл вида $F=\Lambda+f(x,y)$ тогда и только тогда, когда он удовлетворяет следующему уравнению:

$$ \begin{equation} (a-b)W_{xy}+3(yW_x-xW_y)+W_{xy}(y^2-x^2)+xy(W_{xx}-W_{yy})=0. \end{equation} \tag{4.2} $$

Простейшими примерами потенциалов, удовлетворяющих (4.2), являются потенциал Гука $W=k (x^2+y^2)$ для $k \in \mathbb{R}$ и потенциалы отрицательных степеней координат $W=\alpha/x^2$ и $W=\beta/y^2$, а также их произвольные линейные комбинации. Топология слоений Лиувилля таких биллиардов изучена И. Ф. Кобцевым в [138].

Ранее были найдены и изучены некоторые другие решения уравнения Козлова (4.2). Так, В. Драговичем в работе [139] были описаны решения, представимые в форме многочлена Лорана. Записанные ниже функции $V_k(x,y)$ и $W_k(x,y)$ являются решениями уравнения (4.2) при любом $k \in \mathbb{N}$, $k \geqslant 2$. При $k=1$ функции $V_1(x,y)=1/y^2$ и $W_1(x,y)=1/x^2$ также являются решениями уравнения (4.2). В. Драговичем было доказано следующее утверждение.

Теорема 27 (В. Драгович). Общее решение уравнения (4.2) в классе многочленов Лорана с мономами отрицательной степени имеет вид линейной комбинации конечного числа функций типа $V_k$ и $W_k$, равных $V_1(x,y)=1/y^2$ и $W_1(x,y)=1/x^2$ при $k=1$ и имеющих следующий вид при $k \geqslant 2$:

$$ \begin{equation} V_k(x,y)=\sum_{i=0}^{k-2}\biggl((-1)^i\sum_{s=1}^{k-i+1}U_{k,i,s}(x,y)+ y^{-2k}\biggr), \end{equation} \tag{4.3} $$
$$ \begin{equation} W_k(x,y)=\sum_{i=0}^{k-2}\biggl(\,\sum_{s=1}^{k-i+1}(-1)^sU_{k,i,s}(x,y)+ x^{-2k}\biggr), \end{equation} \tag{4.4} $$
где вспомогательная функция $U_{k,i,s}$ имеет вид
$$ \begin{equation} U_{k,i,s}(x,y)=C^{s+i-1}_i\frac{\prod_{j=1}^{s}(j-k+i)}{(a-b)^{s+i}s!}\, x^{2s}y^{-2k+2i}. \end{equation} \tag{4.5} $$

Найдем теперь общее решение уравнения (4.2) в виде стандартного многочлена $\displaystyle W=\sum_{i=0,j=0}^{i+j=n}a_{i,j}x^iy^j$ с вещественными коэффициентами. В этом случае уравнение В. В. Козлова преобразуется в систему линейных уравнений на коэффициенты вида

$$ \begin{equation} (a-b)ija_{i,j}+i(i+j)a_{i,j-2}-j(i+j)a_{i-2,j}=0, \end{equation} \tag{4.6} $$
где $i>0$, $j>0$, $i+j\leqslant n+2$. При этом полагается, что
$$ \begin{equation*} a_{-1,i}=a_{i,-1}=a_{i,n+1-i}=a_{i,n+2-i}=0 \end{equation*} \notag $$
для любого $i \in 0,\dots,n+1$. В общем случае эта система не была решена явно, однако были получены следующие результаты.

Лемма 1 (С. Е. Пустовойтов). Общее решение уравнения (4.2) в виде многочлена

$$ \begin{equation} W=\sum_{i=0,j=0}^{i+j=n}a_{i,j}x^iy^j \end{equation} \tag{4.7} $$
обладает следующими свойствами:

(a) $a_{i,j}=0$ при $2\nmid i$ или $2\nmid j$, т. е. ненулевыми являются лишь четные коэффициенты;

(b) пространство решений вида (4.7) имеет размерность $\lfloor n/2 \rfloor$.

Как оказалось, в эллиптических координатах $(\lambda_1,\lambda_2)$ уравнение Козлова (4.2) и многочлен (4.7) имеют достаточно простой вид. Формулы перехода между $x$, $y$ и $\lambda_1$, $\lambda_2$ имеют вид

$$ \begin{equation} \begin{cases} x^2=\dfrac{(a-\lambda_1)(a-\lambda_2)}{a-b}\,, \\ y^2=\dfrac{(b-\lambda_1)(b-\lambda_2)}{b-a}\,. \end{cases} \end{equation} \tag{4.8} $$
Координатными линиями являются софокусные эллипсы и гиперболы, принадлежащие семейству (2.1). При этом координата $\lambda_1\in[b,a]$ является параметром гиперболы, а координата $\lambda_2\in(-\infty,b)$ является параметром эллипса, проходящих через точку $xy \ne 0$. Уравнение границы биллиарда имеет вид $\lambda_2=0$. Как несложно показать, уравнение Козлова в этих координатах примет вид
$$ \begin{equation} xy\biggl(\frac{W_1-W_2}{\lambda_1-\lambda_2}-W_{1 2}\biggr)=0, \end{equation} \tag{4.9} $$
где $W_i$ – частная производная функции $W$ по $\lambda_i$. Кроме того, функции вида
$$ \begin{equation} W=\frac{P(\lambda_1)-P(\lambda_2)}{\lambda_1-\lambda_2} \end{equation} \tag{4.10} $$
являются решениями этого уравнения для любой $P \in \mathbb{C}^\infty(\mathbb{R})$. Рассмотрим подкласс решений, для которых функции $P(t)$ являются многочленами степени $\lfloor n/2\rfloor+1$, причем линейная часть многочлена равна нулю. Размерность подкласса равна $\lfloor n/2 \rfloor$.

При обратном переходе к декартовым координатам от эллиптических имеем, что все решения из данного подкласса являются многочленами от переменных $(x,y)$ с четными степенями при мономах. По соображениям размерности и в силу леммы 1 приходим к следующему утверждению.

Лемма 2 (С. Е. Пустовойтов). Общее решение уравнения (4.2) в форме многочлена (4.7) имеет вид (4.10), где $P$ – произвольный многочлен степени $\lfloor n/2 \rfloor+1$.

Таким образом, С. Е. Пустовойтовым было доказано, что любой полиномиальный потенциал, сохраняющий интегрируемость биллиарда, кодируется уникальным многочленом, степень которого выше единицы. Так, соответствующий многочлен для потенциала Гука, упомянутого ранее, имеет вид $P(t)=kt^2$. Также С. Е. Пустовойтов вычислил полный набор инвариантов, классифицирующих слоения Лиувилля таких биллиардов. Данный результат может быть распространен на произвольную элементарную софокусную область (как в работе [140] сделано для потенциала Гука).

На рис. 24 изображены примеры инвариантов Фоменко–Цишанга, возникающие в биллиардных системах с потенциалом малого порядка.

4.3. Моделирование биллиардами с потенциалом Гука невырожденных особенностей ранга $0$

В работе [35] А. Т. Фоменко и В. В. Ведюшкиной была сформулирована задача промоделировать произвольную невырожденную четырехмерную особенность интегрируемой системы при помощи биллиарда из некоторого подходящего класса. Данный вопрос является естественным продолжением гипотезы A Фоменко о реализации произвольных $3$-атомов – особенностей с невырожденными точками ранга $1$.

Такой класс удалось найти – им оказались биллиардные книжки, на листах которых задан потенциал Гука с одним и тем же коэффициентом $k$ на всех листах.

Лемма 3. Невырожденные особенности всех четырех типов (центр-центр, центр-седло, седло-седло, фокус-фокус) моделируются подходящим круговым или софокусным биллиардом с потенциалом Гука.

Для особенностей типа центр-центр, седло-седло и фокус-фокус этот факт следует из явной проверки невырожденности критической точки $(0,0)$ для потенциала $k(x^2+y^2)$. Два первых типа реализуются биллиардом в эллипсе с потенциалом Гука при $k >0$ и $k <0$ соответственно, а последний – в круговом биллиарде.

Теорема 28 (В. В. Ведюшкина, В. А. Кибкало, С. Е. Пустовойтов). Произвольная невырожденная полулокальная фокальная особенность ранга $0$ в интегрируемой гамильтоновой системе с двумя степенями свободы топологически моделируется биллиардной книжкой, склеенной из $n$ круговых биллиардов в диске, склеенных по перестановке $(1,2,\dots,n)$.

Для доказательства удобно взять диск $x^2+y^2 \leqslant 1$, проверить невырожденность точки $(0,0,0,0)$ и перейти к полярным координатам. Координата $r$ и компонента скорости $\dot{r}$ связаны со значениями первых интегралов $H=h$ и $F=r^2 \dot{\varphi}=f$ так:

$$ \begin{equation} \dot{r}^2=2h-kr^2-\frac{f^2}{r^2}\,. \end{equation} \tag{4.11} $$
Область возможности движения для энергии $H=h$ и интеграла $F=r^2 \dot{\varphi}=f$ определяется условием
$$ \begin{equation} -k r^4+2 h r^2-f^2 \geqslant 0, \end{equation} \tag{4.12} $$
откуда следует, что она является кольцом, ограниченным снаружи границей диска (стола биллиарда), а изнутри – окружностью радиуса
$$ \begin{equation*} r_0=\sqrt{\frac{-h+\sqrt{h^2-kf^2}}{-k}}\,. \end{equation*} \notag $$
При $r_0=0$ (т. е. при $f=0$ и $h>0$) областью возможности движения является вся биллиардная область. Бифуркационная диаграмма изображена на рис. 25 и состоит из изолированной точки $(0,0)$ и параболы $h=(f^2+k)/2$. В прообразе точки находится особая точка фокус-фокус, в прообразе точек параболы – критические окружности. Прообраз малого трансверсального отрезка послойно гомеоморфен $3$-атому $A$.

Отметим, что при обходе вокруг изолированной точки бифуркационной диаграммы тор Лиувилля переходит в себя под действием оператора монодромии.

При добавлении притягивающего потенциала Гука биллиардная книжка, склеенная из $n$ листов кругового биллиарда в диске c перестановкой $(1,\dots,n)$, моделирует фокальную особенность с $n$ точками типа фокус-фокус (В. В. Ведюшкина, В. А. Кибкало, С. Е. Пустовойтов [67]). Произвольная невырожденная полулокальная особенность типа седло-седло или центр-седло моделируется алгоритмически задаваемой по особенности книжкой, склеенной из листов типа $A_0'$ (В. А. Кибкало, см. [65], [66]).

В работе [65] был рассмотрен предельный переход (при стремлении меньшей полуоси к нулю) от системы потока на эллипсоиде $E^2 \subset \mathbb R^3$ в центральном притягивающем или отталкивающем потенциале Гука к топологическому биллиарду на столе $2 A_2$ с потенциалом $k(x^2+y^2)/2$ – стол склеен из двух плоских столов, ограниченных одним и тем же эллипсом.

В работе [141] И. Ф. Кобцевым была изучена указанная система: построены бифуркационные диаграммы, определено количество регулярных слоев-торов в прообразе точки каждой камеры, определены типы $3$-атомов и вычислены метки инвариантов Фоменко–Цишанга слоений на изоэнергетических поверхностях.

Положения равновесия системы отвечают нулевому вектору скорости и положению шара в конце одной из полуосей эллипсоида. Нетрудно проверить невырожденность указанной критической точки ранга $0$, следуя [6] и рассматривая форму $d^2 H$. При попарно различных длинах полуосей все критические точки невырождены, причем концам средней полуоси соответствует по одной точке типа центр-седло, концам короткой полуоси соответствует по одной точке типа центр-центр или седло-седло, для притягивающего $(k>0)$ или отталкивающего $(k<0)$ потенциала. Типы положений равновесия в концах большой полуоси зависят от $k$ наоборот. Поскольку поток на эллипсоиде является гладкой системой (нет границ и отражений от них), то слои Лиувилля, содержащие указанные невырожденные локальные особенности, должны быть невырожденными полулокальными тех же типов. Далее из вида бифуркационной диаграммы нетрудно найти их типы: центр-центр $A \times A$, центр-седло $A \times C_2$ и седло-седло $B \times C_2$.

Предложение 11 (В. А. Кибкало [65]). Топологические софокусные биллиарды с потенциалом Гука моделируют неизолированную локальную особенность ранга $0$ (в окрестности неподвижной точки должны быть критические точки ранга $0$) каждого из трех типов центр-центр, центр-седло и седло-седло, а также примеры полулокальных особенностей каждого из типов.

Заметим, что в случае отталкивающего потенциала оба биллиарда, на столах $A_2$ и $2A_2$ (биллиард внутри эллипса и два таких стола, склеенных по границе), содержат полулокальные особенности типа центр-центр $A \times A$ и центр-седло $A \times C_2$. В случае же притягивающего потенциала биллиард на столе $A_2$, в отличие от стола $2A_2$, не имеет особенностей слоения, послойно гомеоморфных особенностям центр-седло и седло-седло, хотя они и имеют один и тот же набор неподвижных точек в концах полуоси.

Аналогичный эффект возникал в паре биллиардов $A_0'$ и $A_0 \equiv 2A_0'$ на уровне $\lambda=b$: биллиард имеет периодическую траекторию в прообразе оси $Ox$, но в случае $A_0'$ содержащий ее уровень гомеоморфен тору (т. е. не является бифуркационным для слоения Лиувилля). В случае же области $A_0$ или пары $A_0'$, склеенных по оси $Oy$, особый уровень есть произведение окружности и восьмерки (две “петли” которой соответствуют двум областям $A_0'$ или верхней и нижней половинам стола $A_0$).

В качестве базовой области для моделирования особенностей центр-седло и седло-седло применим область $\Omega_0:=A_0'$, ограниченную дугой эллипса $\lambda=0$, дугой гиперболы $b<\lambda=h < a$ и двумя осями $Ox$, $Oy$.

Теорема 29 (В. А. Кибкало [65]). Произвольная особенность центр-седло, имеющая тип $A \times V$ для некоторого $V$ – морсовского седлового $2$-атома без звездочек сложности $n$, моделируется биллиардной книжкой, склеенной из $2n$ областей $\Omega_0$ по граничным отрезкам оси $Oy$ с перестановкой

$$ \begin{equation*} (1,2)(3,4)\cdots(2n-1,2n) \end{equation*} \notag $$
и по граничным дугам гиперболы с перестановкой $\sigma(V) \in S_{2n}$, определяемой из $f$-графа $2$-атома $V$.

В работе [13] А. А. Ошемков ввел комбинаторный инвариант гиперболических особенностей, названный им $f_n$-графом. В случае одной степени свободы это есть $f$-граф морсовского $2$-атома. В случае двух степеней свободы $f_2$-граф можно задать четверкой перестановок $\sigma_1$, $\sigma_2$, $\tau_1$, $\tau_2$ так, что

$$ \begin{equation*} \sigma_1 \circ \sigma_2=\sigma_2 \circ \sigma_1, \qquad \tau_1 \circ \tau_2=\tau_2 \circ \tau_1, \qquad \sigma_i \circ \tau_j=\tau_j \circ \sigma_i, \quad i \ne j, \end{equation*} \notag $$
а перестановки $\tau_1$, $\tau_2$ являются произведениями независимых транспозиций и орбита каждого элемента состоит из четырех точек.

Особенность задается классом эквивалентности таких $f_n$-графов относительно двух операций: можно вместо $\sigma_i$ взять $\sigma_i^{-1}$ или $\tau\sigma_i$. Поставим в соответствие перестановки $\sigma_1$ и $\sigma_2$ сторонам $A_0'$, лежащим на эллипсе $\lambda=0$ и гиперболе, а перестановки $\tau_1$ и $\tau_2$ сторонам $A_0'$, лежащим на отрезках осей $Ox$ и $Oy$ соответственно.

Теорема 30 (В. А. Кибкало). Для выбранной особенности типа седло-седло сложности $n$ (т. е. имеющей $n$ невырожденных положений равновесия на особом слое и удовлетворяющей условию нерасщепляемости) cклеим биллиардную книжку из $4n$ листов $A_0'$ с перестановками $\sigma_1$, $\sigma_2$, $\tau_1$, $\tau_2$ на эллиптической и гиперболической дугах и отрезках осей $Ox$ и $Oy$ соответственно. Пусть указанные перестановки задают $f_n$-граф выбранной особенности, а движение по плоским листам книжки происходит в поле отталкивающего потенциала Гука с одинаковым коэффициентом $k$ на всех листах. Тогда слоение Лиувилля построенного комплекса содержит особенность, послойно гомеоморфную выбранной особенности седло-седло.

В работе [66] В. А. Кибкало был рассмотрен случай особенностей седло-седло сложности $1$ и вычислены их круговые молекулы (в гладком случае, напомним, круговая молекула является различающим инвариантом для особенностей седло-седло сложности $1$ и $2$).

В общем случае, согласно результату В. Ф. Лазуткина [142] о наличии сглаживания, для такой системы может быть введена гладкая и симплектическая структура в окрестности слоя, содержащего точки типа седло-седло. Каждая четверка областей $A_0'$, склеиваемая по перестановкам $\tau_1$, $\tau_2$, соответствует одной области $A_0$, ограниченной теми же эллипсом и гиперболой. Для такого плоского стола все траектории, близкие к особому слою (содержащему положение равновесия типа седло-седло), трансверсальны дугам границы в точках отражения. Это означает, что особенность биллиардной системы действительно имеет тип седло-седло, и далее может быть вычислен ее $f_n$-граф и проверено его совпадение с инвариантом моделируемой особенности.

4.4. Интегрируемые магнитные топологические биллиарды

Рассмотрим плоский биллиард, снабженный действием постоянного магнитного поля, ортогонального плоскости биллиарда. Уравнения, описывающие движение биллиардного шара между ударами о границу, в декартовых координатах имеют вид

$$ \begin{equation} \begin{cases} \ddot{x}=-b\dot{y}, \\ \ddot{y}=b\dot{x}, \end{cases} \end{equation} \tag{4.13} $$
где $b>0$ – коэффициент, зависящий от заряда биллиардного шара и значения магнитной индукции поля. Гамильтонианом такой системы является кинетическая энергия $H=(\dot x^2+\dot y^2)/2$.

Подобный биллиард для областей разной формы был изучен с разных точек зрения. Например, М. Робник и М. Берри в [143] рассмотрели магнитный биллиард в эллиптической области с точки зрения поведения траекторий, устойчивости и характера динамики. Было показано, что существуют такие уровни гамильтониана $H$, для которых динамика становится хаотичной. Неинтегрируемость магнитного биллиарда внутри эллипса при малых значениях интенсивности магнитного поля $\varepsilon$ была аналитически доказана Т. В. Козловой [144]. С точностью до $\varepsilon^2$, данная система эквивалентна движению частицы с отражениями от эллипса, вращающегося вокруг своего центра с постоянной угловой скоростью $\varepsilon/2$.

А. Е. Миронов и М. Бялый в [62] доказали критерий интегрируемости магнитного биллиарда в плоской односвязной области (а впоследствии и для таких областей сферы и плоскости Лобачевского). А именно, верна следующая теорема.

Теорема 31 (М. Бялый, А. Е. Миронов). Пусть граница магнитного биллиарда связна, выпукла и при этом не является окружностью. Тогда этот биллиард не является алгебраически интегрируемым для всех значений параметра магнитной индукции $b$, кроме, быть может, конечного числа таких значений.

В то же время магнитный биллиард, ограниченный окружностью, допускает первый интеграл, независимый с гамильтонианом. В декартовых координатах он имеет вид

$$ \begin{equation} F=\dot{x}^2+\dot{y}^2+b^2(x^2+y^2)-2b(x\dot{y}-y\dot{x}). \end{equation} \tag{4.14} $$
Кроме того, заметим, что функция $F$ не зависит от радиуса граничной окружности. Более того, при отражении биллиардного шара от границы внешним образом функция $F$ также сохраняется. Следовательно, магнитный биллиард в области, ограниченной двумя концентрическими окружностями, также интегрируем с тем же дополнительным первым интегралом.

Первые интегралы $H$ и $F$ имеют наглядный геометрический смысл. А именно, система уравнений (4.13) задает движение биллиардного шара по окружности, радиус которой равен $L=\sqrt{2H}/b$, причем против часовой стрелки. Эти траектории-окружности называются окружностями Лармора. Центр окружности Лармора удален от центра биллиарда на расстояние $R=\sqrt{F}/b$. На рис. 26 изображена траектория биллиардного шара, каждый сегмент которой лежит на окружностях Лармора с равными радиусами и расстояниями до центра биллиарда. Несложно заметить, что все траектории биллиардного шара, соответствующие некоторому уровню энергии $H=h$ и $F=f$, лежат внутри области пересечения биллиардного стола и кольца, ограниченного окружностями радиусов $|R-L|$ и $R+L$. Более того, любая точка этой области лежит на некоторой траектории. Следовательно, эта область является областью возможности движения. Заметим, что любой внутренней точке такой области, кроме центра, соответствуют два вектора скорости, так как существуют только две окружности Лармора, проходящие через нее. Отсюда вытекает следующая лемма.

Лемма 4. Прообраз любой двумерной области возможности движения магнитного биллиарда при проекции $p$ (т. е. соответствующий слой слоения Лиувилля) гомеоморфен двумерному тору в $Q^3$, при этом окрестность этого тора расслоена тривиально.

Изучим теперь глобальную структуру слоений Лиувилля плоских магнитных биллиардов, ограниченных окружностью или парой окружностей. Зафиксируем ненулевое значение гамильтониана $H=h$ и проследим за изменением области возможности движения при изменении значения интеграла $F$ от своего минимума $f_{\min}$ до максимума $f_{\max}$ (см. рис. 27). Согласно лемме 4, любое значение этого интеграла, не равное минимуму или максимуму, соответствует тору Лиувилля. При этом максимальным и минимальным значениям этого интеграла соответствует особый слой атома $A$. Таким образом, грубая молекула магнитных биллиардов имеет вид $A$–$A$. Для вычисления меток, как и в случае плоских биллиардов, циклы допустимых базисов проецируются на стол биллиарда. Для кругового биллиарда в диске имеем $r=0$ и $\varepsilon=1$, а для кругового биллиарда в кольце имеем $r=\infty$ и $\varepsilon=1$.

Теперь рассмотрим топологические биллиарды, склеенные из круговых дисков и колец. Такой стол может быть гомеоморфен одному из четырех ориентируемых многообразий: цилиндру или тору (в случае если все листы – кольца), диску (при наличии ровно одного листа, гомеоморфного диску) или сфере (если таких листа два). Зададим движение по каждому листу – как у соответствующего плоского магнитного биллиарда с одной и той же индукцией $b$ для всех листов. Построенная система имеет те же первые интегралы $H$ и $F$, что и плоские магнитные биллиарды.

Зафиксируем значение энергии $H$ (или, эквивалентно, радиус окружности Лармора $L$). Опишем алгоритм построения инварианта Фоменко–Цишанга топологического магнитного биллиарда на примере стола, гомеоморфного цилиндру (в остальных трех случаях существует аналогичный алгоритм).

Шаг 1. Занумеруем границы склейки биллиарда в соответствии с их принадлежностью элементарным столам-листам, т. е. границы одного листа должны быть занумерованы последовательными натуральными числами.

Шаг 2. Построим на плоскости $(Oxy)$ следующую ломаную (ломаная $K_0$ на рис. 28, (a)): последовательно соединим точки с координатами $(i,R_i)$, где $R_i$ – радиус $i$-й границы. Затем отразим полученный график симметрично оси $Ox$ (ломаная $M$ на рис. 28, (a)). Иными словами, вместе ломаные $K_0$ и $M$ образуют профиль биллиарда (сечение плоскостью, содержащей ось симметрии нашего топологического биллиарда). Наконец, отразим относительно прямой $y=L$ ту часть ломаной $K_0$, которая расположена выше этой прямой (ломаная $K$ на рис. 28, (a)).

Шаг 3. Разобьем область между двумя ломаными $K$ и $M$ на горизонтальные отрезки и стянем каждый из них в точку. В полученном графе припишем свободным вершинам индекс $A$.

Шаг 4. Остальным вершинам полученного графа соответствуют несколько локальных минимумов ломаной $K$ и несколько локальных максимумов ломаной $M$ (лежащих на соответствующем горизонтальном отрезке). Поставим в соответствие этому отрезку последовательность упорядоченных слева направо минимумов и максимумов. Она кодируется количествами идущих подряд (слева направо) минимумов и максимумов; для отрезка на рис. 28, (c), код имеет вид $\tau=(2,2,1,1)$ ($\tau_1$ подряд идущих минимумов, затем $\tau_2$ подряд идущих максимумов и т. д.). Припишем такой вершине графа кодированный атом $B_\tau$.

Шаг 5. Атом, обозначаемый $B_\tau$, строится из атома $B_n$ для $n=\displaystyle\sum{\tau_i}$ так. Разрежем $2$-атом $B_n$ трансверсально на $|\tau|$ связных частей таким образом, чтобы в каждой $i$-й части находилось ровно $\tau_i$ критических точек. Склеим обратно эти части по местам разрезов с перекруткой (рис. 28, (d)). На основе построенного $2$-атома получим $3$-атом с помощью прямого произведения на окружность.

Отметим, что класс $3$-атомов $B_\tau$ в точности совпадает с классом атомов $V_n^{\eta_1,\dots,\eta_n}$ (так называемые атомы с плюсами и минусами), возникающих в работе [86] при описании потоков на поверхностях вращения в магнитном поле. Такое переобозначение связано лишь с удобством записи в контексте конкретной задачи.

Теорема 32 (С. Е. Пустовойтов). Построенный в ходе алгоритма граф с индексированными вершинами (рис. 28, (b)) является грубой молекулой цилиндрического топологического магнитного биллиарда для зафиксированного уровня энергии $H$.

Теорема 33 (С. Е. Пустовойтов). Метки инварианта Фоменко–Цишанга топологического магнитного биллиарда имеют следующий вид:

1) метка $r$ равна нулю на всех ребрах, инцидентных атомам $A$, и бесконечности на остальных ребрах (а следовательно, существует лишь одна семья);

2) метка $\varepsilon$ равна $+1$ на всех ребрах, соединяющих два атома из одной группы либо два атома $A$, и равна $-1$ в остальных случаях;

3) метка $n$ единственной семьи равна нулю в случае биллиардов, гомеоморфных цилиндру или тору, $\pm1$ в случае дискового биллиарда и $\pm2$ в случае сферического биллиарда.

Таким образом, С. Е. Пустовойтовым был полностью проведен анализ слоений Лиувилля топологических магнитных биллиардов. На рис. 29 изображен пример возможного инварианта Фоменко–Цишанга.

4.5. Многомерные биллиарды и обобщение теоремы Якоби–Шаля

Аналогично рассуждению Дж. Д. Биркгофа об интегрируемости биллиарда в эллипсе можно доказать интегрируемость многомерных биллиардов в областях, ограниченных софокусными квадриками. При этом количество функционально независимых инволютивных первых интегралов в наборе совпадает с размерностью биллиарда. Например, для биллиарда в трехмерной области $\Omega \subset \mathbb{R}^3$, ограниченной софокусными квадриками, звенья траекторий лежат на прямых, касательных к двум софокусным квадрикам одновременно. Помимо энергии, вдоль траекторий сохраняются еще две функции [61], [68]. Топологические свойства слоения Лиувилля таких биллиардов приведены, например, в работах В. Драговича и М. Раднович [100] и Г. В. Белозерова [68].

Не так давно В. A. Кибкало рассмотрел вопрос об интегрируемости геодезического потока на пересечении нескольких софокусных квадрик разных типов. Он доказал, что геодезический поток на пересечении $n-2$ квадрик в $\mathbb{R}^n$ является вполне интегрируемой системой, и указал явный вид интеграла в эллиптических координатах. Метрика на поверхности приводится к лиувиллеву виду. Тем самым, построен достаточно богатый класс двумерных областей, которые, как элементарные плоские области, могут быть основой для построения интегрируемых топологических биллиардов и биллиардов-книжек с неплоской метрикой.

Оказывается, этот результат можно обобщить, если рассмотреть геодезический поток на пересечении произвольного числа невырожденных софокусных квадрик. Все дело в том, что функции $F_1,\dots,F_{n-1}$ останутся первыми интегралами геодезического потока на таком пересечении.

Теорема 34 (Г. В. Белозеров). Пусть $Q_1,\dots,Q_k$ – невырожденные софокусные квадрики попарно различных типов в евклидовом $n$-мерном пространстве и $Q=\bigcap\limits_{i=1}^k Q_i$. Тогда:

1) геодезический поток на $Q$ вполне интегрируем c $n-k$ первыми интегралами, квадратичными по импульсам;

2) касательные прямые к выбранной геодезической, проведенные во всех ее точках, касаются (помимо квадрик $Q_1,\dots,Q_k$) еще $n-k-1$ квадрик, софокусных с $Q_1,\dots,Q_k$ и общих для всех точек этой геодезической.

Замечание 9. Геодезические на пересечении невырожденных софокусных квадрик, вообще говоря, не являются геодезическими на какой-либо из квадрик $Q_1,\dots,Q_k$. Поэтому теорема 2 не является следствием классической теоремы Якоби–Шаля. Далее, $Q$ гомеоморфно произведению $k$ сфер; их размерности равны числу нефиксированных эллиптических координат между соседними фиксированными.

Семейством софокусных квадрик в $\mathbb{R}^3$ называют множество квадрик:

$$ \begin{equation*} (b-\lambda)(c-\lambda)x^2+(a-\lambda)(c-\lambda)y^2+ (a-\lambda)(b-\lambda)z^2=(a-\lambda)(b-\lambda)(c-\lambda), \end{equation*} \notag $$
где $a>b>c>0$ – фиксированные числа, а $\lambda$ – вещественный параметр. Если параметр квадрики этого семейства равен $a$, $b$ или $c$, то она называется вырожденной, в противном случае квадрика называется невырожденной.

Пусть задано семейство софокусных квадрик в $\mathbb{R}^3$. Трeхмерным биллиардным столом будем называть компактное подмножество $\mathbb{R}^3$ с непустой внутренностью, ограниченное конечным числом гладких граней, лежащих на квадриках этого семейства, и имеющее двугранные углы излома на границе, равные $\pi/2$. Рассмотрим следующую динамическую систему: материальная точка (шар) единичной массы движется внутри биллиардного стола по прямым с постоянной по модулю скоростью, отражаясь от границы абсолютно упруго. В силу того, что все двугранные углы излома на границе равны $\pi/2$, отражение в точках излома можно продолжить по непрерывности. Такую динамическую систему мы будем называть трехмерным биллиардом.

Опишем сначала фазовое пространство нашей системы. Пусть $\Omega$ – биллиардный стол, на котором запущен биллиардный шар. Пусть

$$ \begin{equation*} \widehat{M^6}=\{(x,v)\mid x\in \Omega,v\in T_{x}\mathbb{R}^3\}. \end{equation*} \notag $$
Тогда фазовое пространство этой системы – многообразие $M^6=\widehat{M^6}/{\sim}$, где $\sim$ – следующее отношение эквивалентности: $(x_1,v_1)\sim(x_2,v_2)$ в том и только том случае, когда выполнено одно из следующих условий:

Отметим, что рассматриваемая нами система является интегрируемой гамильтоновой системой в кусочно-гладком смысле. В нашем случае функция Гамильтона есть модуль вектора скорости: $H(x,v)=\|v\|$. Еще два первых интеграла, функционально независимых с $H$, – это параметры софокусных квадрик данного семейства, которых одновременно касаются все прямые траектории шара. Их существование следует из теоремы Якоби–Шаля.

Действительно, рассмотрим геодезический поток на поверхности трeхмерного эллипсоида в $\mathbb{R}^4$ и устремим его меньшую полуось к нулю. Геодезический поток на поверхности этого эллипсоида перейдет в трeхмерный биллиард внутри эллипсоида в $\mathbb{R}^3$. А первыми интегралами полученной системы будут два параметра софокусных с эллипсоидом квадрик, которых одновременно касаются все прямые траектории шара.

Обозначим параметры этих квадрик через $\Lambda_1$, $\Lambda_2$. Заметим, что одна и та же траектория не может касаться одновременно двух софокусных эллипсоидов или двух софокусных двуполостных гиперболоидов. Действительно, софокусные эллипсоиды не пересекаются друг с другом и являются выпуклыми поверхностями. Аналогичное справедливо для софокусных двуполостных гиперболоидов. Поэтому можем считать, что ${\Lambda_1\geqslant\Lambda_2}$ и $\Lambda_1\in[c,a]$, $\Lambda_2\in[x_0,b]$, где $x_0$ – наименьший параметр эллипсоида, входящего в состав границы биллиардного стола. Можно показать, что функции $H$, $\Lambda_1$, $\Lambda_2$ попарно коммутируют относительно стандартной скобки Пуассона при $x\in \operatorname{Int}(\Omega)$. Поскольку исследовать динамические системы с тремя степенями свободы гораздо сложнее, чем системы с двумя степенями свободы, на множестве интегрируемых гамильтоновых систем с тремя степенями свободы рассмотрим “простейшее” отношение эквивалентности.

Определение 19. Пусть $v_1$ и $v_2$ – интегрируемые по Лиувиллю гамильтоновы системы. Пусть $B_1$, $B_2$ – базы слоений Лиувилля систем $v_1$ и $v_2$ соответственно. Будем говорить, что $v_1$ и $v_2$ слабо эквивалентны, если существует гомеоморфизм $\varphi\colon B_1\to B_2$ баз слоений Лиувилля, при котором для любой точки $x\in B_1$ слои систем $v_1$ и $v_2$, соответствующие точкам $x\in B_1$ и $\varphi(x)\in B_2$, гомеоморфны.

Заметим, что введенное отношение эквивалентности существенно слабее отношения грубой лиувиллевой эквивалентности. При этом отношение слабой эквивалентности можно ограничить на слоения Лиувилля изоэнергетических поверхностей.

Задача классификации трехмерных биллиардов по отношению слабой эквивалентности была решена Г. В. Белозеровым в работе [68]. Впервые в аналогичных терминах слоение Лиувилля трехмерного биллиарда было описано В. Драговичем и М. Раднович в работе [100] для трехмерного биллиарда, ограниченного эллипсоидом. Приведем здесь один из биллиардов, изученных Г. В. Белозеровым.

Рассмотрим трехмерный биллиардный стол, ограниченный эллипсоидом и двумя участками софокусного двуполостного гиперболоида. Будем считать, что граничный эллипсоид задан уравнением

$$ \begin{equation*} \frac{x^2}{a}+\frac{y^2}{b}+\frac{z^2}{c}=1,\qquad a>b>c. \end{equation*} \notag $$
На рис. 30, (a), изображен стол такого вида.

Зафиксируем уровень энергии $H=1$ и рассмотрим отображение момента, ограниченное на изоэнергетическую поверхность $Q^5$. Для первых интегралов $\Lambda_1$ и $\Lambda_2$ (параметры каустик) верны следующие соотношения: $\Lambda_1\geqslant\Lambda_2$, $\Lambda_1\in[c,a],\Lambda_2\in[0,b]$. На рис. 30, (b), серым выделена область значений отображения момента, а черными сплошными линиями на ней – бифуркационная диаграмма $\Sigma$.

Отметим, что в точке $(b,c)$ возникает круговая молекула – топологический инвариант особенности, соответствующей точке пересечения двух отрезков (он нетривиален, если оба отрезка входят в бифуркационную диаграмму). Напомним, что круговой молекулой точки в образе отображения момента для системы с двумя степенями свободы называют молекулу (инвариант Фоменко) слоения Лиувилля на $3$-границе инвариантной $4$-окрестности прообраза этой точки. В нашем случае система имеет три степени свободы, но гамильтониан $H=1$ фиксирован. Тем самым, круговой молекулой точки ${(b, c)}$ естественно считать инвариант слоения на $4$-границе $5$-окрестности прообраза этой точки.

Для рассматриваемого биллиардного стола круговая молекула особенности, соответствующей точке $(b,c)$, имеет вид, указанный на рис. 31. Вершинам этой молекулы соответствуют прямые произведения $3$-атомов на окружность.

Однако для данного стола удается полностью описать топологию слоения Лиувилля малой окрестности точки креста. Поскольку биллиардный стол обладает замечательным расслоением на софокусные двуполостные гиперболоиды, то малая окрестность слоя, соответствующего точке $(b,c)$, гомеоморфна прямому произведению окружности $S^1$ и комплекса $K^4$, где $K^4$ – окрестность слоя особой точки типа седло-седло слоения Лиувилля двумерного биллиарда с потенциалом Гука внутри эллипса. Из результатов В. А. Кибкало следует, что $K^4\simeq(B\times C_2)/\mathbb{Z}_2$. Таким образом, малая окрестность слоя $(b,c)$ гомеоморфна $S^1\times(B\times C_2)/\mathbb{Z}_2$.

Авторы благодарят В. А. Кибкало за ряд ценных замечаний, способствовавших улучшению качества текста.

Список литературы

1. С. Смейл, “Топология и механика”, УМН, 27:2(164) (1972), 77–133  mathnet  mathscinet  zmath; пер. с англ.: S. Smale, “Topology and mechanics. I”, Invent. Math., 10 (1970), 305–331  crossref  mathscinet  zmath  adsnasa; “II. The planar $n$-body problem”, 11 (1970), 45–64  crossref  mathscinet  zmath  adsnasa
2. А. Т. Фоменко, “Топологические инварианты гамильтоновых систем, интегрируемых по Лиувиллю”, Функц. анализ и его прил., 22:4 (1988), 38–51  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, “Topological invariants of Liouville integrable Hamiltonian systems”, Funct. Anal. Appl., 22:4 (1988), 286–296  crossref
3. А. Т. Фоменко, “Симплектическая топология вполне интегрируемых гамильтоновых систем”, УМН, 44:1(265) (1989), 145–173  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, “The symplectic topology of completely integrable Hamiltonian systems”, Russian Math. Surveys, 44:1 (1989), 181–219  crossref  adsnasa
4. А. Т. Фоменко, Х. Цишанг, “Топологический инвариант и критерий эквивалентности интегрируемых гамильтоновых систем с двумя степенями свободы”, Изв. АН СССР. Сер. матем., 54:3 (1990), 546–575  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, Kh. Tsishang, “A topological invariant and a criterion for the equivalence of integrable Hamiltonian systems with two degrees of freedom”, Math. USSR-Izv., 36:3 (1991), 567–596  crossref  adsnasa
5. А. В. Болсинов, С. В. Матвеев, А. Т. Фоменко, “Топологическая классификация интегрируемых гамильтоновых систем с двумя степенями свободы. Список систем малой сложности”, УМН, 45:2(272) (1990), 49–77  mathnet  mathscinet  zmath; англ. пер.: A. V. Bolsinov, S. V. Matveev, A. T. Fomenko, “Topological classification of integrable Hamiltonian systems with two degrees of freedom. List of systems of small complexity”, Russian Math. Surveys, 45:2 (1990), 59–94  crossref  adsnasa
6. А. В. Болсинов, А. Т. Фоменко, Интегрируемые гамильтоновы системы. Геометрия, топология, классификация, т. 1, 2, Изд. дом “Удмуртский университет”, Ижевск, 1999, 444 с., 447 с.  mathscinet  zmath; англ. пер.: A. V. Bolsinov, A. T. Fomenko, Integrable Hamiltonian systems. Geometry, topology, classification, Chapman & Hall/CRC, Boca Raton, FL, 2004, xvi+730 с.  crossref  mathscinet  zmath
7. А. Т. Фоменко, “Теория Морса интегрируемых гамильтоновых систем”, Докл. АН СССР, 287:5 (1986), 1071–1075  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, “Morse theory of integrable Hamiltonian systems”, Soviet Math. Dokl., 33:2 (1986), 502–506
8. А. Т. Фоменко, “Топология поверхностей постоянной энергии некоторых интегрируемых гамильтоновых систем и препятствия к интегрируемости”, Изв. АН СССР. Сер. матем., 50:6 (1986), 1276–1307  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, “The topology of surfaces of constant energy in integrable Hamiltonian systems, and obstructions to integrability”, Math. USSR-Izv., 29:3 (1987), 629–658  crossref  adsnasa
9. В. В. Козлов, Симметрии, топология и резонансы в гамильтоновой механике, Изд-во Удмуртского ун-та, Ижевск, 1995, 429 с.  mathscinet  zmath; англ. пер.: V. V. Kozlov, Symmetries, topology and resonances in Hamiltonian mechanics, Ergeb. Math. Grenzgeb. (3), 31, Springer-Verlag, Berlin, 1996, xii+378 с.  crossref  mathscinet  zmath
10. Н. Н. Нехорошев, “Экспоненциальная оценка времени устойчивости гамильтоновых систем, близких к интегрируемым”, УМН, 32:6(198) (1977), 5–66  mathnet  mathscinet  zmath; англ. пер.: N. N. Nekhoroshev, “An exponential estimate of the time of stability of nearly-integrable Hamiltonian systems”, Russian Math. Surveys, 32:6 (1977), 1–65  crossref  adsnasa
11. А. В. Болсинов, А. Т. Фоменко, “Геодезический поток эллипсоида траекторно эквивалентен интегрируемому случаю Эйлера в динамике твердого тела”, Докл. РАН, 339:3 (1994), 293–296  mathnet  mathscinet  zmath
12. Nguyen Tien Zung, “Symplectic topology of integrable Hamiltonian systems. I. Arnold–Liouville with singularities”, Compositio Math., 101:2 (1996), 179–215  mathscinet  zmath
13. А. А. Ошемков, “Классификация гиперболических особенностей ранга нуль интегрируемых гамильтоновых систем”, Матем. сб., 201:8 (2010), 63–102  mathnet  crossref  zmath; англ. пер.: A. A. Oshemkov, “Classification of hyperbolic singularities of rank zero of integrable Hamiltonian systems”, Sb. Math., 201:8 (2010), 1153–1191  crossref  mathscinet  adsnasa
14. E. A. Kudryavtseva, A. A. Oshemkov, “Structurally stable nondegenerate singularities of integrable systems”, Russ. J. Math. Phys., 29:1 (2022), 57–75  crossref  mathscinet  zmath  adsnasa
15. A. Bolsinov, L. Guglielmi, E. Kudryavtseva, “Symplectic invariants for parabolic orbits and cusp singularities of integrable systems”, Philos. Trans. Roy. Soc. A, 376:2131 (2018), 20170424, 29 pp.  crossref  mathscinet  zmath  adsnasa
16. Д. А. Федосеев, А. Т. Фоменко, “Некомпактные особенности интегрируемых динамических систем”, Фундамент. и прикл. матем., 21:6 (2016), 217–243  mathnet  mathscinet  zmath; англ. пер.: D. A. Fedoseev, A. T. Fomenko, “Noncompact bifurcations of integrable dynamic systems”, J. Math. Sci. (N. Y.), 248:6 (2020), 810–827  crossref
17. С. В. Болотин, “Интегрируемые биллиарды Биркгофа”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 1990, № 2, 33–36  mathnet  mathscinet  zmath; англ. пер.: S. V. Bolotin, “Integrable Birkhoff billiards”, Moscow Univ. Mech. Bull., 45:2 (1990), 10–13
18. С. В. Болотин, “Интегрируемые бильярды на поверхностях постоянной кривизны”, Матем. заметки, 51:2 (1992), 20–28  mathnet  mathscinet  zmath; англ. пер.: S. V. Bolotin, “Integrable billiards on surfaces of constant curvature”, Math. Notes, 51:2 (1992), 117–123  crossref
19. M. Bialy, A. E. Mironov, “Angular billiard and algebraic Birkhoff conjecture”, Adv. Math., 313 (2017), 102–126  crossref  mathscinet  zmath
20. M. Bialy, A. E. Mironov, “Algebraic Birkhoff conjecture for billiards on sphere and hyperbolic plane”, J. Geom. Phys., 115 (2017), 150–156  crossref  mathscinet  zmath  adsnasa
21. А. А. Глуцюк, “О двумерных полиномиально интегрируемых бильярдах на поверхностях постоянной кривизны”, Докл. РАН, 481:6 (2018), 594–598  crossref  mathscinet  zmath; англ. пер.: A. A. Glutsyuk, “On two-dimensional polynomially integrable billiards on surfaces of constant curvature”, Dokl. Math., 98:1 (2018), 382–385  crossref
22. A. A. Glutsyuk, “On polynomially integrable Birkhoff billiards on surfaces of constant curvature”, J. Eur. Math. Soc. (JEMS), 23:3 (2021), 995–1049  crossref  mathscinet  zmath
23. A. Avila, J. De Simoi, V. Kaloshin, “An integrable deformation of an ellipse of small eccentricity is an ellipse”, Ann. of Math. (2), 184:2 (2016), 527–558  crossref  mathscinet  zmath
24. V. Kaloshin, A. Sorrentino, “On the local Birkhoff conjecture for convex billiards”, Ann. of Math. (2), 188:1 (2018), 315–380  crossref  mathscinet  zmath
25. H. Poritsky, “The billiard ball problem on a table with a convex boundary – an illustrative dynamical problem”, Ann. of Math. (2), 51 (1950), 446–470  crossref  mathscinet  zmath
26. Дж. Д. Биркгоф, Динамические системы, Изд. дом “Удмуртский университет”, Ижевск, 1999, 408 с.  zmath; пер. с англ.: G. D. Birkhoff, Dynamical systems, Amer. Math. Soc. Colloq. Publ., 9, Amer. Math. Soc., New York, 1927, viii+295 с.  mathscinet  zmath
27. V. Dragović, M. Radnović, “Bifurcations of Liouville tori in elliptical billiards”, Regul. Chaotic Dyn., 14:4-5 (2009), 479–494  mathnet  crossref  mathscinet  zmath  adsnasa
28. В. В. Фокичева, “Описание особенностей системы ‘биллиард в эллипсе’ ”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2012, № 5, 31–34  mathnet  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “Description of singularities for system ‘billiard in an ellipse’ ”, Moscow Univ. Math. Bull., 67:5-6 (2012), 217–220  crossref
29. В. В. Фокичева, “Описание особенностей системы бильярда в областях, ограниченных софокусными эллипсами или гиперболами”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2014, № 4, 18–27  mathnet  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “Description of singularities for billiard systems bounded by confocal ellipses or hyperbolas”, Moscow Univ. Math. Bull., 69:4 (2014), 148–158  crossref
30. В. В. Фокичева, “Классификация биллиардных движений в областях, ограниченных софокусными параболами”, Матем. сб., 205:8 (2014), 139–160  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “Classification of billiard motions in domains bounded by confocal parabolas”, Sb. Math., 205:8 (2014), 1201–1221  crossref  adsnasa
31. В. В. Фокичева, “Топологическая классификация биллиардов в локально плоских областях, ограниченных дугами софокусных квадрик”, Матем. сб., 206:10 (2015), 127–176  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “A topological classification of billiards in locally planar domains bounded by arcs of confocal quadrics”, Sb. Math., 206:10 (2015), 1463–1507  crossref  adsnasa
32. В. В. Ведюшкина, И. С. Харчева, “Биллиардные книжки моделируют все трехмерные бифуркации интегрируемых гамильтоновых систем”, Матем. сб., 209:12 (2018), 17–56  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, I. S. Kharcheva, “Billiard books model all three-dimensional bifurcations of integrable Hamiltonian systems”, Sb. Math., 209:12 (2018), 1690–1727  crossref  adsnasa
33. В. В. Ведюшкина, “Инварианты Фоменко–Цишанга невыпуклых топологических биллиардов”, Матем. сб., 210:3 (2019), 17–74  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “The Fomenko–Zieschang invariants of nonconvex topological billiards”, Sb. Math., 210:3 (2019), 310–363  crossref  adsnasa
34. A. T. Fomenko, V. A. Kibkalo, “Topology of Liouville foliations of integrable billiards on table-complexes”, Eur. J. Math., 8:4 (2022), 1392–1423  crossref  mathscinet  zmath
35. А. Т. Фоменко, В. В. Ведюшкина, “Бильярды и интегрируемость в геометрии и физике. Новый взгляд и новые возможности”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2019, № 3, 15–25  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, V. V. Vedyushkina, “Billiards and integrability in geometry and physics. New scope and new potential”, Moscow Univ. Math. Bull., 74:3 (2019), 98–107  crossref
36. В. В. Ведюшкина, А. Т. Фоменко, И. С. Харчева, “Моделирование невырожденных бифуркаций замыканий решений интегрируемых систем с двумя степенями свободы интегрируемыми топологическими биллиардами”, Докл. РАН, 479:6 (2018), 607–610  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, A. T. Fomenko, I. S. Kharcheva, “Modeling nondegenerate bifurcations of closures of solutions for integrable systems with two degrees of freedom by integrable topological billiards”, Dokl. Math., 97:2 (2018), 174–176  crossref
37. В. В. Ведюшкина, В. А. Кибкало, А. Т. Фоменко, “Топологическое моделирование интегрируемых систем биллиардами: реализация числовых инвариантов”, Докл. РАН. Матем., информ., проц. упр., 493 (2020), 9–12  mathnet  crossref  zmath; англ. пер.: V. V. Vedyushkina, V. A. Kibkalo, A. T. Fomenko, “Topological modeling of integrable systems by billiards: realization of numerical invariants”, Dokl. Math., 102:1 (2020), 269–271  crossref  mathscinet
38. В. В. Ведюшкина, “Локальное моделирование бильярдами слоений Лиувилля: реализация реберных инвариантов”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2021, № 2, 28–32  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “Local modeling of Liouville foliations by billiards: implementation of edge invariants”, Moscow Univ. Math. Bull., 76:2 (2021), 60–64  crossref
39. В. В. Ведюшкина, В. А. Кибкало, “Реализация бильярдами числового инварианта расслоения Зейферта интегрируемых систем”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2020, № 4, 22–28  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, V. A. Kibkalo, “Realization of the numerical invariant of the Seifert fibration of integrable systems by billiards”, Moscow Univ. Math. Bull., 75:4 (2020), 161–168  crossref
40. В. В. Ведюшкина, И. С. Харчева, “Биллиардные книжки реализуют все базы слоений Лиувилля интегрируемых гамильтоновых систем”, Матем. сб., 212:8 (2021), 89–150  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, I. S. Kharcheva, “Billiard books realize all bases of Liouville foliations of integrable Hamiltonian systems”, Sb. Math., 212:8 (2021), 1122–1179  crossref  adsnasa
41. И. М. Никонов, “Описание вырожденных двумерных особенностей с одной критической точкой”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2019, № 3, 5–15  mathnet  mathscinet  zmath; англ. пер.: I. M. Nikonov, “Description of degenerate two-dimensional singularities with single critical point”, Moscow Univ. Math. Bull., 74:3 (2019), 87–97  crossref
42. И. С. Харчева, “Изоэнергетические многообразия интегрируемых бильярдных книжек”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2020, № 4, 12–22  mathnet  mathscinet  zmath; англ. пер.: I. S. Kharcheva, “Isoenergetic manifolds of integrable billiard books”, Moscow Univ. Math. Bull., 75:4 (2020), 149–160  crossref
43. В. В. Ведюшкина, “Топологический тип изоэнергетических поверхностей биллиардных книжек”, Матем. сб., 212:12 (2021), 3–19  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “Topological type of isoenergy surfaces of billiard books”, Sb. Math., 212:12 (2021), 1660–1674  crossref  adsnasa
44. F. Waldhausen, “Eine Klasse von 3-dimensionalen Mannigfaltigkeiten. I”, Invent. Math., 3:4 (1967), 308–333  crossref  mathscinet  zmath  adsnasa
45. F. Waldhausen, “Eine Klasse von 3-dimensionalen Mannigfaltighkeiten. II”, Invent. Math., 4:2 (1967), 88–117  crossref  mathscinet  zmath  adsnasa
46. В. В. Ведюшкина, “Интегрируемые биллиарды реализуют торические слоения на линзовых пространствах и 3-торе”, Матем. сб., 211:2 (2020), 46–73  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “Integrable billiard systems realize toric foliations on lens spaces and the 3-torus”, Sb. Math., 211:2 (2020), 201–225  crossref  adsnasa
47. В. А. Кибкало, А. Т. Фоменко, И. С. Харчева, “Реализация интегрируемых гамильтоновых систем биллиардными книжками”, Тр. ММО, 82, № 1, МЦНМО, М., 2021, 45–78  mathnet  zmath; англ. пер.: V. A. Kibkalo, A. T. Fomenko, I. S. Kharcheva, “Realizing integrable Hamiltonian systems by means of billiard books”, Trans. Moscow Math. Soc., 82:1, 37–64  crossref  mathscinet
48. В. В. Ведюшкина, В. А. Кибкало, “Биллиардные книжки малой сложности и реализация слоений Лиувилля интегрируемых систем”, Чебышевский сб., 23:1 (2022), 53–82  mathnet  crossref  mathscinet  zmath
49. В. В. Фокичева, А. Т. Фоменко, “Интегрируемые биллиарды моделируют важные интегрируемые случаи динамики твердого тела”, Докл. РАН, 465:2 (2015), 150–153  crossref  mathscinet  zmath; англ. пер.: V. V. Fokicheva, A. T. Fomenko, “Integrable billiards model important integrable cases of rigid body dynamics”, Dokl. Math., 92:3 (2015), 682–684  crossref
50. В. В. Ведюшкина, “Слоение Лиувилля бильярдной книжки, моделирующей случай Горячева–Чаплыгина”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2020, № 1, 64–68  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “The Liouville foliation of the billiard book modelling the Goryachev–Chaplygin case”, Moscow Univ. Math. Bull., 75:1 (2020), 42–46  crossref
51. В. В. Ведюшкина, А. Т. Фоменко, “Понижение степени интегралов гамильтоновых систем с помощью биллиардов”, Докл. РАН, 486:2 (2019), 151–155  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, A. T. Fomenko, “Reducing the degree of integrals of Hamiltonian systems by using billiards”, Dokl. Math., 99:3 (2019), 266–269  crossref
52. А. В. Болсинов, В. В. Козлов, А. Т. Фоменко, “Принцип Мопертюи и геодезические потоки на сфере, возникающие из интегрируемых случаев динамики твердого тела”, УМН, 50:3(303) (1995), 3–32  mathnet  mathscinet  zmath; англ. пер.: A. V. Bolsinov, V. V. Kozlov, A. T. Fomenko, “The Maupertuis principle and geodesic flows on the sphere arising from integrable cases in the dynamics of a rigid body”, Russian Math. Surveys, 50:3 (1995), 473–501  crossref  adsnasa
53. Т. В. Козлова, “Системы с упругими отражениями, допускающие полиномиальные интегралы третьей и четвертой степени”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2001, № 3, 69–71  mathnet  mathscinet  zmath; англ. пер.: T. V. Kozlova, “Systems admitting polynomial integrals of third and forth degrees (the case of elastic reflections)”, Moscow Univ. Mech. Bull., 56:3 (2001), 29–31
54. В. В. Козлов, “Топологические препятствия к интегрируемости натуральных механических систем”, Докл. АН СССР, 249:6 (1979), 1299–1302  mathnet  mathscinet  zmath; англ. пер.: V. V. Kozlov, “Topological obstructions to the integrability of natural mechanical systems”, Soviet Math. Dokl., 20:6 (1979), 1413–1415
55. В. В. Ведюшкина (Фокичева), А. Т. Фоменко, “Интегрируемые геодезические потоки на ориентируемых двумерных поверхностях и топологические биллиарды”, Изв. РАН. Сер. матем., 83:6 (2019), 63–103  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina (Fokicheva), A. T. Fomenko, “Integrable geodesic flows on orientable two-dimensional surfaces and topological billiards”, Izv. Math., 83:6 (2019), 1137–1173  crossref  adsnasa
56. А. В. Болсинов, П. Х. Рихтер, А. Т. Фоменко, “Метод круговых молекул и топология волчка Ковалевской”, Матем. сб., 191:2 (2000), 3–42  mathnet  crossref  mathscinet  zmath; англ. пер.: A. V. Bolsinov, P. H. Richter, A. T. Fomenko, “The method of loop molecules and the topology of the Kovalevskaya top”, Sb. Math., 191:2 (2000), 151–188  crossref  adsnasa
57. В. В. Ведюшкина, А. Т. Фоменко, “Силовые эволюционные биллиарды и биллиардная эквивалентность случая Эйлера и случая Лагранжа”, Докл. РАН. Матем., информ., проц. упр., 496 (2021), 5–9  mathnet  crossref  mathscinet  zmath; англ. пер.: A. T. Fomenko, V. V. Vedyushkina, “Force evolutionary billiards and billiard equivalence of the Euler and Lagrange cases”, Dokl. Math., 103:1 (2021), 1–4  crossref
58. А. Т. Фоменко, В. В. Ведюшкина, “Эволюционные силовые биллиарды”, Изв. РАН. Сер. матем., 86:5 (2022), 116–156  mathnet  crossref  mathscinet  zmath; англ. пер.: A. T. Fomenko, V. V. Vedyushkina, “Evolutionary force billiards”, Izv. Math., 86:5 (2022), 943–979  crossref
59. A. T. Fomenko, V. V. Vedyushkina, “Billiards with changing geometry and their connection with the implementation of the Zhukovsky and Kovalevskaya cases”, Russ. J. Math. Phys., 28:3 (2021), 317–332  crossref  mathscinet  zmath  adsnasa
60. В. В. Козлов, “Некоторые интегрируемые обобщения задачи Якоби о геодезических на эллипсоиде”, ПММ, 59:1 (1995), 3–9  mathscinet  zmath; англ. пер.: V. V. Kozlov, “Some integrable extensions of Jacobi's problem of geodesics on an ellipsoid”, J. Appl. Math. Mech., 59:1 (1995), 1–7  crossref  adsnasa
61. В. В. Козлов, Д. В. Трещев, Биллиарды. Генетическое введение в динамику систем с ударами, Изд-во Моск. ун-та, М., 1991, 168 с.  mathscinet  zmath; англ. пер.: V. V. Kozlov, D. V. Treshchev, Billiards. A genetic introduction to the dynamics of systems with impacts, Transl. Math. Monogr., 89, Amer. Math. Soc., Providence, RI, 1991, viii+171 с.  crossref  mathscinet  zmath
62. M. Bialy, A. E. Mironov, “Algebraic non-integrability of magnetic billiards”, J. Phys. A, 49:45 (2016), 455101, 18 pp.  crossref  mathscinet  zmath  adsnasa
63. A. T. Fomenko, V. V. Vedyushkina, V. N. Zav'yalov, “Liouville foliations of topological billiards with slipping”, Russ. J. Math. Phys., 28:1 (2021), 37–55  crossref  mathscinet  zmath  adsnasa
64. С. Е. Пустовойтов, “Топологический анализ эллиптического бильярда в потенциальном поле четвертого порядка”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2021, № 5, 8–19  mathnet  mathscinet  zmath; англ. пер.: S. E. Pustovoitov, “Topological analysis of an elliptic billiard in a fourth-order potential field”, Moscow Univ. Math. Bull., 76:5 (2021), 193–205  crossref
65. В. А. Кибкало, “Биллиарды с потенциалом моделируют ряд четырехмерных особенностей интегрируемых систем”, Современные проблемы математики и механики, Материалы международной конференции, посвященной 80-летию академика В. А. Садовничего, т. 2, МАКС Пресс, М., 2019, 563–566; англ. пер.: V. A. Kibkalo, “Billiards with potential model series of 4-dimensional singularities of integrable systems”, Contemporary problems of mathematics and mechanics, Materials of international conference dedicated to 80-birthday of acad. V. Sadovnichii, т. 2, Moscow, 2019, 563–566
66. A. T. Fomenko, V. A. Kibkalo, “Saddle singularities in integrable Hamiltonian systems: examples and algorithms”, Contemporary approaches and methods in fundamental mathematics and mechanics, Underst. Complex Syst., Springer, Cham, 2021, 3–26  crossref  mathscinet  zmath
67. В. В. Ведюшкина, В. А. Кибкало, С. Е. Пустовойтов, “Реализация фокусных особенностей интегрируемых систем биллиардными книжками с потенциалом Гука”, Чебышевский сб., 22:5 (2021), 44–57  mathnet  crossref  mathscinet  zmath
68. Г. В. Белозеров, “Топологическая классификация биллиардов в трехмерном евклидовом пространстве, ограниченных софокусными квадриками”, Матем. сб., 213:2 (2022), 3–36  mathnet  crossref  mathscinet  zmath; англ. пер.: G. V. Belozerov, “Topological classification of billiards bounded by confocal quadrics in three-dimensional Euclidean space”, Sb. Math., 213:2 (2022), 129–160  crossref  adsnasa
69. Б. А. Дубровин, И. М. Кричевер, С. П. Новиков, “Интегрируемые системы. I”, Динамические системы – 4, Итоги науки и техн. Сер. Соврем. пробл. матем. Фундам. направления, 4, ВИНИТИ, М., 1985, 179–277  mathnet  mathscinet  zmath; англ. пер.: B. A. Dubrovin, I. M. Krichever, S. P. Novikov, “Integrable systems. I”, Dynamical systems IV, Encyclopaedia Math. Sci., 4, Springer-Verlag, Berlin, 1990, 173–280  crossref  mathscinet  zmath
70. Б. А. Дубровин, С. П. Новиков, А. Т. Фоменко, Современная геометрия. Методы и приложения, М., Наука, 1979, 760 с.  mathscinet  zmath; англ. пер.: B. A. Dubrovin, A. T. Fomenko, S. P. Novikov, Modern geometry – methods and applications. Part I. The geometry of surfaces, transformation groups, and fields, Grad. Texts in Math., 93, Springer-Verlag, New York, 1984, xv+464 с.  crossref  mathscinet  zmath; Part II. The geometry and topology of manifolds, Grad. Texts in Math., 104, 1985, xv+430 pp.  crossref  mathscinet  zmath
71. A. T. Fomenko, “The theory of invariants of multidimensional integrable Hamiltonian systems (with arbitrary many degrees of freedom). Molecular table of all integrable systems with two degrees of freedom”, Topological classification of integrable systems, Adv. Soviet Math., 6, Amer. Math. Soc., Providence, RI, 1991, 1–35  crossref  mathscinet  zmath
72. А. А. Ошемков, “Функции Морса на двумерных поверхностях. Кодирование особенностей”, Новые результаты в теории топологической классификации интегрируемых систем, Сборник статей, Тр. МИАН, 205, Наука, М., 1994, 131–140  mathnet  mathscinet  zmath; англ. пер.: A. A. Oshemkov, “Morse functions on two-dimensional surfaces. Encoding of singularities”, Proc. Steklov Inst. Math., 205 (1995), 119–127
73. С. С. Николаенко, “Топологическая классификация гамильтоновых систем на двумерных некомпактных многообразиях”, Матем. сб., 211:8 (2020), 68–101  mathnet  crossref  mathscinet  zmath; англ. пер.: S. S. Nikolaenko, “Topological classification of Hamiltonian systems on two-dimensional noncompact manifolds”, Sb. Math., 211:8 (2020), 1127–1158  crossref  adsnasa
74. A. T. Fomenko, “Theory of rough classification of integrable nondegenerate Hamiltonian differential equations on four-dimensional manifolds. Application to classical mechanics”, Topological classification of integrable systems, Adv. Soviet Math., 6, Amer. Math. Soc., Providence, RI, 1991, 305–345  crossref  mathscinet  zmath
75. А. Т. Фоменко, “Топологический инвариант, грубо классифицирующий интегрируемые строго невырожденные гамильтонианы на четырехмерных симплектических многообразиях”, Функц. анализ и его прил., 25:4 (1991), 23–35  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, “A topological invariant which roughly classifies integrable strictly nondegenerate Hamiltonians on four-dimensional symplectic manifolds”, Funct. Anal. Appl., 25:4 (1991), 262–272  crossref
76. А. Т. Фоменко, “Теория бордизмов интегрируемых гамильтоновых невырожденных систем с двумя степенями свободы. Новый топологический инвариант многомерных интегрируемых систем”, Изв. АН СССР. Сер. матем., 55:4 (1991), 747–779  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, “A bordism theory for integrable nondegenerate Hamiltonian systems with two degrees of freedom. A new topological invariant of higher-dimensional integrable systems”, Math. USSR-Izv., 39:1 (1992), 731–759  crossref  adsnasa
77. А. Т. Фоменко, Х. Цишанг, “О топологии трехмерных многообразий, возникающих в гамильтоновой механике”, Докл. АН СССР, 294:2 (1987), 283–287  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, H. Zieschang, “On the topology of the three-dimensional manifolds arising in Hamiltonian mechanics”, Soviet Math. Dokl., 35:2 (1987), 529–534
78. А. Т. Фоменко, Симплектическая геометрия. Методы и приложения, Изд-во Моск. ун-та, М., 1988, 414 с.  mathscinet  zmath; англ. пер.: A. T. Fomenko, Symplectic geometry, Adv. Stud. Contemp. Math., 5, 2nd ed., Gordon and Breach Publ., Luxembourg, 1995, xvi+467 с.  mathscinet  zmath
79. В. В. Ведюшкина (Фокичева), А. Т. Фоменко, “Интегрируемые топологические биллиарды и эквивалентные динамические системы”, Изв. РАН. Сер. матем., 81:4 (2017), 20–67  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina (Fokicheva), A. T. Fomenko, “Integrable topological billiards and equivalent dynamical systems”, Izv. Math., 81:4 (2017), 688–733  crossref  adsnasa
80. М. П. Харламов, Топологический анализ интегрируемых задач динамики твердого тела, Изд-во ЛГУ, Л., 1988, 200 с.  mathscinet
81. П. В. Морозов, “Лиувиллева классификация интегрируемых систем случая Клебша”, Матем. сб., 193:10 (2002), 113–138  mathnet  crossref  mathscinet  zmath; англ. пер.: P. V. Morozov, “The Liouville classification of integrable systems of the Clebsch case”, Sb. Math., 193:10 (2002), 1507–1533  crossref  adsnasa
82. П. В. Морозов, “Топология слоений Лиувилля случаев интегрируемости Стеклова и Соколова уравнений Кирхгофа”, Матем. сб., 195:3 (2004), 69–114  mathnet  crossref  mathscinet  zmath; англ. пер.: P. V. Morozov, “Topology of Liouville foliations in the Steklov and the Sokolov integrable cases of Kirchhoff's equations”, Sb. Math., 195:3 (2004), 369–412  crossref  adsnasa
83. Н. С. Славина, “Топологическая классификация систем типа Ковалевской–Яхьи”, Матем. сб., 205:1 (2014), 105–160  mathnet  crossref  mathscinet  zmath; англ. пер.: N. S. Slavina, “Topological classification of systems of Kovalevskaya–Yehia type”, Sb. Math., 205:1 (2014), 101–155  crossref  adsnasa
84. A. T. Fomenko, E. O. Kantonistova, “Topological classification of geodesic flows on revolution 2-surfaces with potential”, Continuous and disturbed sytems II. Theory and Applications, Stud. Syst. Decis. Control, 30, Springer, Cham, 2015, 11–27  crossref  mathscinet  zmath
85. Д. С. Тимонина, “Лиувиллева классификация интегрируемых геодезических потоков в потенциальном поле на двумерных многообразиях вращения: торе и бутылке Клейна”, Матем. сб., 209:11 (2018), 103–136  mathnet  crossref  mathscinet  zmath; англ. пер.: D. S. Timonina, “Liouville classification of integrable geodesic flows in a potential field on two-dimensional manifolds of revolution: the torus and the Klein bottle”, Sb. Math., 209:11 (2018), 1644–1676  crossref  adsnasa
86. Е. А. Кудрявцева, А. А. Ошемков, “Бифуркации интегрируемых механических систем с магнитным полем на поверхностях вращения”, Чебышевский сб., 21:2 (2020), 244–265  mathnet  crossref  mathscinet  zmath
87. Е. О. Кантонистова, “Топологическая классификация интегрируемых гамильтоновых систем на поверхностях вращения в потенциальном поле”, Матем. сб., 207:3 (2016), 47–92  mathnet  crossref  mathscinet  zmath; англ. пер.: E. O. Kantonistova, “Topological classification of integrable Hamiltonian systems in a potential field on surfaces of revolution”, Sb. Math., 207:3 (2016), 358–399  crossref  adsnasa
88. И. К. Козлов, “Топология слоения Лиувилля для интегрируемого случая Ковалевской на алгебре Ли $\operatorname{so}(4)$”, Матем. сб., 205:4 (2014), 79–120  mathnet  crossref  mathscinet  zmath; англ. пер.: I. K. Kozlov, “The topology of the Liouville foliation for the Kovalevskaya integrable case on the Lie algebra $\operatorname{so}(4)$”, Sb. Math., 205:4 (2014), 532–572  crossref  adsnasa
89. В. А. Кибкало, “Топология аналога случая интегрируемости Ковалевской на алгебре Ли $\operatorname{so}(4)$ при нулевой постоянной площадей”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2016, № 3, 46–50  mathnet  zmath; англ. пер.: V. A. Kibkalo, “The topology of the analog of Kovalevskaya integrability case on the Lie algebra $so(4)$ under zero area integral”, Moscow Univ. Math. Bull., 71:3 (2016), 119–123  crossref  mathscinet
90. V. Kibkalo, “Topological analysis of the Liouville foliation for the Kovalevskaya integrable case on the Lie algebra $\operatorname{so}(4)$”, Lobachevskii J. Math., 39:9 (2018), 1396–1399  crossref  mathscinet  zmath
91. В. А. Кибкало, “Топологическая классификация слоений Лиувилля для интегрируемого случая Ковалевской на алгебре Ли $\operatorname{so}(4)$”, Матем. сб., 210:5 (2019), 3–40  mathnet  crossref  mathscinet  zmath; англ. пер.: V. A. Kibkalo, “Topological classification of Liouville foliations for the Kovalevskaya integrable case on the Lie algebra $\operatorname{so}(4)$”, Sb. Math., 210:5 (2019), 625–662  crossref  adsnasa
92. M. P. Kharlamov, P. E. Ryabov, A. Yu. Savushkin, “Topological atlas of the Kowalevski–Sokolov top”, Regul. Chaotic Dyn., 21:1 (2016), 24–65  mathnet  crossref  mathscinet  zmath  adsnasa
93. V. Kibkalo, “Topological classification of Liouville foliations for the Kovalevskaya integrable case on the Lie algebra $\operatorname{so}(3, 1)$”, Topology Appl., 275 (2020), 107028, 10 pp.  crossref  mathscinet  zmath
94. A. V. Borisov, I. S. Mamaev, “Rigid body dynamics in non-Euclidean spaces”, Russ. J. Math. Phys., 23:4 (2016), 431–454  mathnet  crossref  mathscinet  zmath  adsnasa
95. В. А. Кибкало, “Свойство некомпактности слоев и особенностей неевклидовой системы Ковалевской на пучке алгебр Ли”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 6 (2020), 56–59  mathnet  mathscinet  zmath; англ. пер.: V. A. Kibkalo, “Noncompactness property of fibers and singularities of non-Euclidean Kovalevskaya system on pencil of Lie algebras”, Moscow Univ. Math. Bull., 75:6 (2020), 263–267  crossref
96. С. Л. Табачников, “Внешний биллиард”, Матем. просв., сер. 3, 5, МЦНМО, М., 2001, 125–135  mathnet
97. A. Glutsyuk, E. Shustin, “On polynomially integrable planar outer billiards and curves with symmetry property”, Math. Ann., 372:3-4 (2018), 1481–1501  crossref  mathscinet  zmath
98. С. Табачников, Геометрия и биллиарды, НИЦ “Регулярная и хаотическая динамика”, Ин-т компьютерных исследований, М.–Ижевск, 2011, 180 с.; пер. с англ.: S. Tabachnikov, Geometry and billiards, Stud. Math. Libr., 30, Amer. Math. Soc., Providence, RI; Mathematics Advanced Study Semesters, University Park, PA, 2005, xii+176 с.  crossref  mathscinet  zmath
99. A. Plakhov, V. Roshchina, “Invisibility in billiards is impossible in an infinite number of directions”, J. Dyn. Control Syst., 25:4 (2019), 671–679  crossref  mathscinet  zmath
100. В. Драгович, М. Раднович, Интегрируемые биллиарды, квадрики и многомерные поризмы Понселе, НИЦ “Регулярная и хаотическая динамика”, М.–Ижевск, 2010, 338 с.; пер. с англ.: V. Dragović, M. Radnović, Poncelet porisms and beyond. Integrable billiards, hyperelliptic Jacobians and pencils of quadrics, Front. Math., Birkhäuser/Springer Basel AG, Basel, 2011, viii+293 с.  crossref  mathscinet  zmath
101. K. Frǎczek, V. Rom-Kedar, “Non-uniform ergodic properties of Hamiltonian flows with impacts”, Ergodic Theory Dynam. Systems, 43:1 (2023), 190–252  crossref  mathscinet  zmath
102. А. М. Абдрахманов, “Об интегрируемых системах с упругими отражениями”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 1990, № 5, 85–88  mathnet  mathscinet  zmath; англ. пер.: A. M. Abdrakhmanov, “On integrable systems with elastic reflections”, Moscow Univ. Mech. Bull., 45:5 (1990), 14–16
103. M. B. Tabanov, “Separatrices splitting for Birkhoff's billiard in symmetric convex domain, closed to an ellipse”, Chaos, 4:4 (1994), 595–606  crossref  mathscinet  zmath  adsnasa
104. В. В. Козлов, “Полиномиальные законы сохранения для газа Лоренца и газа Больцмана–Гиббса”, УМН, 71:2(428) (2016), 81–120  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Kozlov, “Polynomial conservation laws for the Lorentz gas and the Boltzmann–Gibbs gas”, Russian Math. Surveys, 71:2 (2016), 253–290  crossref  adsnasa
105. A. Glutsyuk, “On commuting billiards in higher-dimensional spaces of constant curvature”, Pacific J. Math., 305:2 (2020), 577–595  crossref  mathscinet  zmath
106. D. Treschev, “A locally integrable multi-dimensional billiard system”, Discrete Contin. Dyn. Syst., 37:10 (2017), 5271–5284  crossref  mathscinet  zmath
107. Д. В. Трещев, “Об одной задаче сопряжения в динамике бильярда”, Избранные вопросы математики и механики, Сборник статей. К 150-летию со дня рождения академика Владимира Андреевича Стеклова, Тр. МИАН, 289, МАИК “Наука/Интерпериодика”, М., 2015, 309–317  mathnet  crossref  mathscinet  zmath; англ. пер.: D. V. Treschev, “On a conjugacy problem in billiard dynamics”, Proc. Steklov Inst. Math., 289 (2015), 291–299  crossref
108. D. Treschev, “Billiard map and rigid rotation”, Phys. D, 255 (2013), 31–34  crossref  mathscinet  zmath  adsnasa
109. А. В. Болсинов, А. П. Веселов, И. Йе, “Хаос и интегрируемость в $\operatorname{SL}(2,\mathbb R)$-геометрии”, УМН, 76:4(460) (2021), 3–36  mathnet  crossref  mathscinet  zmath; англ. пер.: A. V. Bolsinov, A. P. Veselov, Y. Ye, “Chaos and integrability in $\operatorname{SL}(2,\mathbb R)$-geometry”, Russian Math. Surveys, 76:4 (2021), 557–586  crossref  adsnasa
110. A. V. Bolsinov, I. A. Taimanov, “Integrable geodesic flows with positive topological entropy”, Invent. Math., 140:3 (2000), 639–650  crossref  mathscinet  zmath  adsnasa
111. А. В. Болсинов, И. А. Тайманов, “О примере интегрируемого геодезического потока с положительной топологической энтропией”, УМН, 54:4(328) (1999), 157–158  mathnet  crossref  mathscinet  zmath; англ. пер.: A. V. Bolsinov, I. A. Taimanov, “On an example of an integrable geodesic flow with positive topological entropy”, Russian Math. Surveys, 54:4 (1999), 833–834  crossref  adsnasa
112. В. В. Ведюшкина, “Траекторные инварианты плоских бильярдов, ограниченных дугами софокусных квадрик и содержащих фокусы”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2021, № 4, 48–51  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “Orbital invariants of flat billiards bounded by arcs of confocal quadrics and containing focuses”, Moscow Univ. Math. Bull., 76:4 (2021), 177–180  crossref
113. В. В. Ведюшкина, А. Т. Фоменко, “Топологические препятствия к реализуемости биллиардами интегрируемых гамильтоновых систем”, Докл. РАН, 488:5 (2019), 471–475  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, A. T. Fomenko, “Topological obstacles to the realizability of integrable Hamiltonian systems by billiards”, Dokl. Math., 100:2 (2019), 463–466  crossref
114. Г. Хагигатдуст, А. А. Ошемков, “Топология слоения Лиувилля для интегрируемого случая Соколова на алгебре Ли $\operatorname{so}(4)$”, Матем. сб., 200:6 (2009), 119–142  mathnet  crossref  mathscinet  zmath; англ. пер.: G. Haghighatdoost, A. A. Oshemkov, “The topology of Liouville foliation for the Sokolov integrable case on the Lie algebra $\operatorname{so}(4)$”, Sb. Math., 200:6 (2009), 899–921  crossref  adsnasa
115. Д. В. Новиков, “Топологические особенности интегрируемого случая Соколова на алгебре Ли $\operatorname{so}(3,1)$”, Матем. сб., 205:8 (2014), 41–66  mathnet  crossref  mathscinet  zmath; англ. пер.: D. V. Novikov, “Topological features of the Sokolov integrable case on the Lie algebra $\operatorname{so}(3,1)$”, Sb. Math., 205:8 (2014), 1107–1132  crossref  adsnasa
116. А. Ю. Москвин, “Топология слоения Лиувилля интегрируемого случая Дуллина–Матвеева на двумерной сфере”, Матем. сб., 199:3 (2008), 95–132  mathnet  crossref  mathscinet  zmath; англ. пер.: A. Yu. Moskvin, “Topology of the Liouville foliation on a 2-sphere in the Dullin–Matveev integrable case”, Sb. Math., 199:3 (2008), 411–448  crossref
117. A. A. Oshemkov, “Fomenko invariants for the main integrable cases of the rigid body motion equations”, Topological classification of integrable systems, Adv. Soviet Math., 6, Amer. Math. Soc., Providence, RI, 1991, 67–146  crossref  mathscinet  zmath
118. В. Н. Колокольцов, “Геодезические потоки на двумерных многообразиях с дополнительным полиномиальным по скоростям первым интегралом”, Изв. АН СССР. Сер. матем., 46:5 (1982), 994–1010  mathnet  mathscinet  zmath; англ. пер.: V. N. Kolokol'tsov, “Geodesic flows on two-dimensional manifolds with an additional first integral that is polynomial in the velocities”, Math. USSR-Izv., 21:2 (1983), 291–306  crossref  adsnasa
119. В. С. Матвеев, “Квадратично интегрируемые геодезические потоки на торе и бутылке Клейна”, Regul. Chaotic Dyn., 2:1 (1997), 96–102  mathnet  mathscinet  zmath
120. И. К. Бабенко, Н. Н. Нехорошев, “О комплексных структурах на двумерных торах, допускающих метрики с нетривиальным квадратичным интегралом”, Матем. заметки, 58:5 (1995), 643–652  mathnet  mathscinet  zmath; англ. пер.: I. K. Babenko, N. N. Nekhoroshev, “On complex structures on two-dimensional tori admitting metrics with nontrivial quadratic integral”, Math. Notes, 58:5 (1995), 1129–1135  crossref
121. Е. Н. Селиванова, “Классификация геодезических потоков лиувиллевых метрик на двумерном торе с точностью до топологической эквивалентности”, Матем. сб., 183:4 (1992), 69–86  mathnet  mathscinet  zmath; англ. пер.: E. N. Selivanova, “Classification of geodesic flows of Liouville metrics on the two-dimensional torus up to topological equivalence”, Russian Acad. Sci. Sb. Math., 75:2 (1993), 491–505  crossref  adsnasa
122. В. В. Калашников, “Топологическая классификация квадратично-интегрируемых геодезических потоков на двумерном торе”, УМН, 50:1(301) (1995), 201–202  mathnet  mathscinet  zmath; англ. пер.: V. V. Kalashnikov, “Topological classification of quadratic-integrable geodesic flows on a two-dimensional torus”, Russian Math. Surveys, 50:1 (1995), 200–201  crossref  adsnasa
123. Нгуен Тьен Зунг, Л. С. Полякова, Е. Н. Селиванова, “Топологическая классификация интегрируемых геодезических потоков с дополнительным квадратичным или линейным по импульсам интегралом на двумерных ориентируемых римановых многообразиях”, Функц. анализ и его прил., 27:3 (1993), 42–56  mathnet  mathscinet  zmath; англ. пер.: Nguyen Tien Zung, L. S. Polyakova, E. N. Selivanova, “Topological classification of integrable geodesic flows on orientable two-dimensional Riemannian manifolds with additional integral depending on momenta linearly or quadratically”, Funct. Anal. Appl., 27:3 (1993), 186–196  crossref
124. В. В. Ведюшкина, В. Н. Завьялов, “Реализация геодезических потоков с линейным интегралом биллиардами с проскальзыванием”, Матем. сб., 213:12 (2022), 31–52  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, V. N. Zav'yalov, “Realization of geodesic flows with a linear first integral by billiards with slipping”, Sb. Math., 213:12 (2022), 1645–1664  crossref
125. В. В. Ведюшкина, С. Е. Пустовойтов, “Классификация слоений Лиувилля интегрируемых топологических биллиардов в магнитном поле”, Матем. сб., 214:2 (2023), 23–57  mathnet  crossref  zmath; англ. пер.: V. V. Vedyushkina, S. E. Pustovoitov, “Classification of Liouville foliations of integrable topological billiards in magnetic fields”, Sb. Math., 214:2 (2023), 166–196  crossref
126. A. T. Fomenko, V. V. Vedyushkina, “Implementation of integrable systems by topological, geodesic billiards with potential and magnetic field”, Russ. J. Math. Phys., 26:3 (2019), 320–333  crossref  mathscinet  zmath  adsnasa
127. В. Драгович, М. Раднович, “Топологические инварианты эллиптических биллиардов и геодезических потоков эллипсоидов в пространстве Минковского”, Фундамент. и прикл. матем., 20:2 (2015), 51–64  mathnet  mathscinet  zmath; англ. пер.: V. Dragović, M. Radnović, “Topological invariants for elliptical billiards and geodesics on ellipsoids in the Minkowski space”, J. Math. Sci. (N. Y.), 223:6 (2017), 686–694  crossref
128. Е. Е. Каргинова, “Слоение Лиувилля топологических биллиардов на плоскости Минковского”, Фундамент. и прикл. матем., 22:6 (2019), 123–150  mathnet  mathscinet  zmath; англ. пер.: E. E. Karginova, “Liouville foliation of topological billiards in the Minkowski plane”, J. Math. Sci. (N. Y.), 259:5 (2021), 656–675  crossref
129. Е. Е. Каргинова, “Биллиарды, ограниченные дугами софокусных квадрик на плоскости Минковского”, Матем. сб., 211:1 (2020), 3–31  mathnet  crossref  mathscinet  zmath; англ. пер.: E. E. Karginova, “Billiards bounded by arcs of confocal quadrics on the Minkowski plane”, Sb. Math., 211:1 (2020), 1–28  crossref  adsnasa
130. В. В. Ведюшкина, А. И. Скворцов, “Топология интегрируемого бильярда в эллипсе на плоскости Минковского с гуковским потенциалом”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2022, № 1, 8–19  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, A. I. Skvortsov, “Topology of integrable billiard in an ellipse in the Minkowski plane with the Hooke potential”, Moscow Univ. Math. Bull., 77:1 (2022), 7–19  crossref
131. V. Dragović, M. Radnović, “Pseudo-integrable billiards and arithmetic dynamics”, J. Mod. Dyn., 8:1 (2014), 109–132  crossref  mathscinet  zmath
132. В. И. Драгович, М. Раднович, “Псевдоинтегрируемые биллиарды и решетки двойных отражений”, УМН, 70:1(421) (2015), 3–34  mathnet  crossref  mathscinet  zmath; англ. пер.: V. I. Dragović, M. Radnović, “Pseudo-integrable billiards and double reflection nets”, Russian Math. Surveys, 70:1 (2015), 1–31  crossref  adsnasa
133. V. Dragović, M. Radnović, “Periods of pseudo-integrable billiards”, Arnold Math. J., 1:1 (2015), 69–73  crossref  mathscinet  zmath
134. В. А. Москвин, “Топология слоений Лиувилля интегрируемого бильярда в невыпуклых областях”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2018, № 3, 21–29  mathnet  mathscinet  zmath; англ. пер.: V. A. Moskvin, “Topology of Liouville bundles of integrable billiards in non-convex domains”, Moscow Univ. Math. Bull., 73:3 (2018), 103–110  crossref
135. В. А. Москвин, “Алгоритмическое построение двумерных особых слоев атомов бильярдов в невыпуклых областях”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 3 (2020), 3–12  mathnet  mathscinet  zmath; англ. пер.: V. A. Moskvin, “Algorithmic construction of two-dimensional singular fibers of atoms of billiards in non-convex domains”, Moscow Univ. Math. Bull., 75:3 (2020), 91–101  crossref
136. С. В. Болотин, “О первых интегралах систем с упругими отражениями”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 1988, № 6, 42–45  mathnet  mathscinet  zmath; англ. пер.: S. V. Bolotin, “First integrals of systems with elastic reflections”, Moscow Univ. Math. Bull., 43:6 (1988), 10–14
137. V. Dragović, S. Gasiorek, M. Radnović, “Billiard ordered games and books”, Regul. Chaotic Dyn., 27:2 (2022), 132–150  mathnet  crossref  mathscinet  zmath  adsnasa
138. И. Ф. Кобцев, “Эллиптический биллиард в поле потенциальных сил: классификация движений, топологический анализ”, Матем. сб., 211:7 (2020), 93–120  mathnet  crossref  mathscinet  zmath; англ. пер.: I. F. Kobtsev, “An elliptic billiard in a potential force field: classification of motions, topological analysis”, Sb. Math., 211:7 (2020), 987–1013  crossref  adsnasa
139. В. И. Драгович, “Интегрируемые возмущения биллиарда Биркгофа внутри эллипса”, ПММ, 62:1 (1998), 166–169  mathscinet  zmath; англ. пер.: V. I. Dragovich, “Integrable perturbations of a Birkhoff billiard inside an ellipse”, J. Appl. Math. Mech., 62:1 (1998), 159–162  crossref  adsnasa
140. С. Е. Пустовойтов, “Топологический анализ биллиарда, ограниченного софокусными квадриками, в потенциальном поле”, Матем. сб., 212:2 (2021), 81–105  mathnet  crossref  mathscinet  zmath; англ. пер.: S. E. Pustovoitov, “Topological analysis of a billiard bounded by confocal quadrics in a potential field”, Sb. Math., 212:2 (2021), 211–233  crossref  adsnasa
141. И. Ф. Кобцев, “Геодезический поток двумерного эллипсоида в поле упругой силы: топологическая классификация решений”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2018, № 2, 27–33  mathnet  mathscinet  zmath; англ. пер.: I. F. Kobtsev, “The geodesic flow on a two-dimensional ellipsoid in the field of an elastic force. Topological classification of solutions”, Moscow Univ. Math. Bull., 73:2 (2018), 64–70  crossref
142. V. F. Lazutkin, KAM theory and semiclassical approximations to eigenfunctions, Ergeb. Math. Grenzgeb. (3), 24, Springer-Verlag, Berlin, 1993, x+387 pp.  crossref  mathscinet  zmath
143. M. Robnik, M. V. Berry, “Classical billiards in magnetic fields”, J. Phys. A, 18:9 (1985), 1361–1378  crossref  mathscinet  zmath  adsnasa
144. Т. В. Козлова, “Неинтегрируемость вращающегося эллиптического биллиарда”, ПММ, 62:1 (1998), 87–91  mathscinet  zmath; англ. пер.: T. V. Kozlova, “The non-integrability of a rotating elliptical billiard”, J. Appl. Math. Mech., 62:1 (1998), 81–85  crossref  adsnasa

Образец цитирования: А. Т. Фоменко, В. В. Ведюшкина, “Биллиарды и интегрируемые системы”, УМН, 78:5(473) (2023), 93–176; Russian Math. Surveys, 78:5 (2023), 881–954
Цитирование в формате AMSBIB
\RBibitem{FomVed23}
\by А.~Т.~Фоменко, В.~В.~Ведюшкина
\paper Биллиарды и~интегрируемые системы
\jour УМН
\yr 2023
\vol 78
\issue 5(473)
\pages 93--176
\mathnet{http://mi.mathnet.ru/rm10100}
\crossref{https://doi.org/10.4213/rm10100}
\mathscinet{http://mathscinet.ams.org/mathscinet-getitem?mr=4723251}
\zmath{https://zbmath.org/?q=an:1541.37029}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2023RuMaS..78..881F}
\transl
\jour Russian Math. Surveys
\yr 2023
\vol 78
\issue 5
\pages 881--954
\crossref{https://doi.org/10.4213/rm10100e}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=001184355800003}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85191510714}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/rm10100
  • https://doi.org/10.4213/rm10100
  • https://www.mathnet.ru/rus/rm/v78/i5/p93
  • Эта публикация цитируется в следующих 2 статьяx:
    Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Успехи математических наук Russian Mathematical Surveys
    Статистика просмотров:
    Страница аннотации:598
    PDF русской версии:42
    PDF английской версии:81
    HTML русской версии:186
    HTML английской версии:125
    Список литературы:62
    Первая страница:27
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024