Внешние биллиарды вокруг правильных многоугольников.

Доклад основан на результатах, полученных Ф.Руховичем, В.Тимориным и А.Я,Канель-Беловым.
Внешние биллиарды были введены Б. Нойманом (Bernhard Neumann) в 50-х годах ХХ века, но стали популярны лишь в 70-х благодаря работам Ю. Мозера (Moser J., Outer billiards on kites, Vol. 77. Princeton, NJ : Princeton University Press, 1973, Annals of Mathematics Studies; и Moser J., Is the solar system stable?, The Mathematical Intelligencer, 1978, Vol. 1, issue 2. P. 65–71), где внешний, или двойственный, бильярд был предложен как важная модельная задача для выяснения роли гладкости в КАМ-теории задачи многих тел. С. Л. Табачников с помощью КАМ-теории установил, что при внешнем бильярде вокруг выпуклой фигуры с границей класса C_7 траектория остается ограниченной. С другой стороны, Р. Шварц установил, что для широкого класса четырехугольников имеют место неограниченные траектории.
Рассмотрим многоугольник M. Из точки p на плоскости проведем касательную (т.е. опорную прямую) к M и отразим точку p относительно точки касания. Такое преобразование называется преобразованием внешнего биллиарда. При последовательном применении такой операции точка может оказаться периодической (т.е. вернуться в какой-то момент в себя), апериодической (никогда не вернуться в себя), а также вырожденной (внешний бильярд можно применить конечное число раз).
С внешним биллиардом можно связать символическую динамику – последовательность номеров вершин, относительно которых происходит отражение.
Классическим является случай, когда M – правильный n-угольник. Если n=3, 4, 6, то плоскость разбивается на периодические области. С. Л. Табачников (Табачников C., Внешние биллиарды, Успехи математических наук, 1993, т. 48, вып. 6, 75-102; Tabachnikov S., On the dual billiard problem, Advances in Mathematics, 1995, Vol. 115, no. 2, 221–249.) обнаружил самоподобие для случая n=5. Его исследования продолжились в работе Bedaride N. и Cassaigne J., Outer billiards outside regular polygons, Journal of the London Mathematical Society, 2011, Vol. 84, issue 2, 303-324. Случаю n=8 посвящена монография Schwartz R. E., The octagonal PETs. Vol. 197, Providence, RI : American Mathematical Society, 2014 (Mathematical Surveys and Monographs). В работе Ф. Д. Руховича, "Внешние биллиарды вне правильных многоугольников: ручной случай", Изв. РАН. Сер. матем., 86:3 (2022), 105-160, исследован случай n=10, 8, 12.
Р. Шварц, основываясь на компьютерных экспериментах, высказал предположение, что только для случаев n=5, 10, 8, 12 есть точное самоподобие, которое позволяет полностью описать периодические структуры и найти апериодические точки. Р. Шварц проводил эксперименты для случая n=7, и самоподобие ему найти не удалось.
Тем не менее, более глубокий компьютерный анализ, сделанный нами, дал возможность установить, что в случае n=7 самоподобие все-таки существует. С его помощью, легко показать существование апериодической точки.
В отличие от ранее исследованного случая правильных n-угольников при n=3, 4, 6, 8, 10, 12 нами установлены принципиально новые явления:
1) Существуют самоподобия с мультипликативно независимыми коэффициентами.
2) Существует континуум попарно непересекающихся замкнутых инвариантных множеств (с различными символическими динамиками) – замыканий апериодических орбит точек. Тем самым показано, что существуют траектории, кодирующиеся неподстановочными системами.
В докладе пойдет речь о компьютерных доказательствах и о дальнейших шагах в изучении как случая n=7, так и других случаев.
Работа использовала несколько программ: быстро работающая программа, позволяющая угадывать самоподобия, и медленно работающая, но осуществляющая строгое доказательство.