| Известия Российской академии наук. Серия математическая |
|
|
|
|
|
Эта публикация цитируется в 1 научной статье (всего в 2 статье) Внешние биллиарды вне правильных многоугольников: ручной случай Ф. Д. Рухович Московский физико-технический институт (национальный исследовательский университет), г. Долгопрудный, Московская обл.
Англоязычная версия:
Izvestiya: Mathematics, 2022, Volume 86, Issue 3, Pages DOI: https://doi.org/10.1070/IM8972 
Реферативные базы данных:
     § 1. ВведениеДанная работа является расширенной версией работ [1], [2]. Рассмотрим рис. 1. Пусть $\gamma$ – выпуклая фигура на плоскости $\mathbb{R}^2$, а $p$ – точка вне ее. Проведем правую относительно $p$ касательную к $\gamma$; определим $Tp \equiv T(p)$ как точку, симметричную $p$ относительно точки касания. Определение 1. Отображение $T\colon \mathbb{R}^2 \setminus \gamma \to \mathbb{R}^2 \setminus \gamma$ называется внешним биллиардом; фигура $\gamma$ называется столом внешнего биллиарда. В данной статье под записью $f\colon X \to Y$ необязательно подразумевается, что $f$ определено на всем $X$. Однако в подавляющем большинстве случаев $f$ не определено на множестве нулевой меры. Обратным к такому преобразованию является “левый” внешний биллиард; будем обозначать его как $T^{-1}$. Определение 2. Точку $p \in \mathbb{R}^2 \setminus \gamma$ назовем периодической, если существует такое натуральное $n$, что $T^np=p$; минимальное такое $n$ назовем периодом точки $p$ и обозначим как $\mathrm{per}(p)$. Определение 3. Точку $p \in \mathbb{R}^2 \setminus \gamma$ назовем апериодической, если она – не периодическая, а ее траектория бесконечна в две стороны. Определение 4. Точку $p \in \mathbb{R}^2 \setminus \gamma$ назовем граничной, если $T^np$ не определено для некоторого $n \in \mathbb{Z}$. В данной статье будем полагать, что $\gamma$ – выпуклый многоугольник. Внешние биллиарды были введены Бернардом Нойманом в 1950-х гг. и стали популярны в 1970-х гг. благодаря Ю. Мозеру [3]. Внешние биллиарды исследовались рядом авторов (см., например, [4]–[9], а также монографию [10]). Так, Р. Шварц в [5] показал, что траектория начальной точки может быть неограниченной, тем самым разрешив вопрос Мозера–Ноймана, поставленный в [3]. В центре нашего внимания находятся следующие проблемы периодичности, открытые в общем случае. 1) Существует ли апериодическая точка для внешнего биллиарда вне правильного $n$-угольника? 2) Верно ли, что периодические точки образуют вне стола множество полной меры для внешнего биллиарда вне правильного $n$-угольника? Случаи $n=3,4,6$ являются решеточными и тривиальными: апериодических точек нет, а периодические точки, как следствие, образуют множество полной меры. По мнению Р. Шварца, следующими по сложности исследования являются случаи $n=5,10,8,12$. С. Л. Табачников в [4] в деталях исследовал случай $n=5$: для них апериодические точки существуют, но их мера равна нулю. При исследовании пятиугольника Табачников впервые применил ренормализационную схему – ставшую впоследствии классическим методом исследования преобразований, в которых удается обнаружить самоподобие. Более точно для некоторого преобразования $f$ на фигуре $X$ получается найти некоторое подмножество $X' \subset X$, “похожее” (например, подобное) на $X$, такое, что преобразование первого возвращения $f$ на $X'$ оказывается идентичным преобразованию $f$ на $X$ с точностью до “похожести”. В дальнейшем правильный пятиугольник и связанная с ним символическая динамика подробно исследовались в работе Н. Бедарида и Ж. Кассена [11] (см. также их монографию [12]). В частности, авторами было найдено полное описание языка как набора конечных слов, которые могут возникнуть как коды орбит. В статье [13] автором был детально исследован внешний биллиард вне правильного десятиугольника. Этот случай похож на случай $n=5$. Аналогичная связь (см. [11], [13]) имеет место быть для внешних биллиардов вне правильных $n$- и $2n$-угольников, где $n$ – произвольное нечетное число, не меньшее трех. В статье [13] было получено аналогичное множество всевозможных периодов для случая $n= 10$; такое множество представляло собой громоздкий набор числовых последовательностей. После усовершенствования изложения (благодаря обсуждению с Н. К. Верещагиным и Д. А. Шабановым) оказалось, что такое множество является в точности множеством натуральных чисел, делящихся на пять. С одной стороны, очевидно, что все серии того множества состоят из делящихся на пять чисел; с другой стороны, в это множество входят числа $5$ и $10$, а также серии $10k+15$, $20k+20$ и $20k+30$, объединение которых содержит все делящиеся на $5$ числа, начиная с $15$. Таким образом, верна теорема о том, что в случае правильного десятиугольника, всевозможные периоды точек образуют множество всех натуральных чисел, делящихся на $5$. В данной работе исследуются “ручные случаи” для правильных $n$-угольников при $n=8$ и, что наиболее важно, $n=12$. Под словом “ручные” подразумевается, что в указанных случаях удается обнаружить самоподобие и в соответствии с ренормализационной схемой Табачникова описать внешний биллиард в терминах символической динамики, связанной с подстановочными словами. Для остальных случаев (кроме тривиальных случаев $n=3,4,6$, а также обсужденных выше $5$, $10$) у сообщества есть убежденность, что самоподобия нет (но нет доказательства!). Исследование “диких”, т. е. “неручных”, случаев приводит к изучению параметрических семейств кусочно евклидовых преобразований; последние исследовались рядом авторов (см. например, [14] и [15], а также монографию [16]). Мы ограничиваемся упоминанием этих вопросов, выходящих за рамки настоящей работы, а также выражаем оптимизм в исследовании “диких случаев”. Дальнейшая часть статьи устроена следующим образом. В § 2 мы введем базовые определения и факты о внешних биллиардах вне выпуклых многоугольников и кодирования орбит в целом. В § 3 перейдем к случаю правильных многоугольников, сведя внешний биллиард к кусочной изометрии на некотором угле. В том же параграфе введем несколько определений, связанных с комбинаторикой слов. Далее, в § 4 мы сформулируем теоремы, являющиеся основными результатами статьи. В §§ 5–7, а также § 8 мы докажем эти теоремы. А именно, в § 5 устанавливается связь между внешними биллиардами вне правильных $n$- и $2n$-угольников при нечетных $n$, а также сведение внешнего биллиарда к кусочной изометрии на ограниченной фигуре. Основной идеей оказывается самоподобие, которое имеет место в общем случае и позволяет утверждать, что структура периодических, апериодических и граничных точек вне стола в некотором смысле “порождается” структурой точек на ограниченной фигуре, которую и достаточно изучить. Подчеркнем, что такое самоподобие хоть и существует в общем случае, но не дает полного описания внешнего биллиарда: изучение преобразования на ограниченной фигуре в общем случае остается открытой проблемой. В § 6 мы проводим такое изучение в частном случае $n=8$. Описываем самоподобие внутри найденной ограниченной фигуры, после чего с помощью ренормализационной схемы Табачникова решаем проблемы периодичности для правильного восьмиугольника. План § 7, посвященного случаю $n=12$, аналогичен предыдущему с тем лишь отличием, что рассуждения основаны на доказательных компьютерных вычислениях. Наконец, в § 8 мы находим коды периодов слов для случаев $n=8, 12$. В заключение § 1 скажем несколько слов о связи внешнего биллиарда с другими задачами. Известно, что на сфере внешний биллиард дуален внутреннему биллиарду. Для плоскости ситуация сложнее; вопрос о идейной взаимосвязи этих двух типов биллиардов важен, интересен и нетривиален. С другой стороны, обычный биллиард с рациональными углами связан с перекладыванием отрезков. Такие биллиарды исследовались рядом авторов (см. препринт [17], а также обзор [18]). Было бы замечательно получить описание некоторых классов внешних биллиардов, связанных с перекладыванием отрезков и подстановочными системами. Методы исследования внешних биллиардов существенно отличаются от подходов, разработанных в тейхмюллеровой динамике, но тем важнее установить взаимосвязь – и это очень важная и глубокая задача. Разные с топологической точки зрения задачи оказываются гораздо ближе друг к другу, если на них посмотреть с точки зрения символической динамики. Возможно, это приведет к прорыву в понимании обеих задач. В этой связи упомянем работу [19]. Автор выражает огромную благодарность профессору А. Я. Канелю-Белову за постановку задачи и неоценимую помощь в работе, академику РАН А. Л. Семенову и профессору А. И. Буфетову за плодотворные беседы по теме статьи и всестороннюю поддержку, а также профессору Н. К. Верещагину и профессору Д. А. Шабанову за внимание к работе и ценнейшие замечания. § 2. Внешний биллиард вне выпуклых многоугольниковВо всех числовых индексах данной статьи числа будем подразумевать целыми, если не сказано обратное. В данном параграфе мы введем основные определения, связанные с внешними биллиардами вне выпуклых многоугольников, а также приведем основные факты, касающиеся внешних биллиардов. Некоторые из этих фактов будем приводить без доказательств; опущенные доказательства можно найти в [13] (по сути, § 2 является краткой версией гл. 2 статьи [13]). Отметим, что для простоты мы говорим про некоторые преобразования $f$, что они определены как $f\colon X \to Y$, подразумевая, что на самом деле $f$ определено не на всем $X$, а лишь на некотором подмножестве $X$. Итак, пусть стол $\gamma\subset \mathbb{R}^2$ есть произвольный выпуклый $n$-угольник, $n\,{\geqslant}\, 3$, с центром в точке $O$. Занумеруем его вершины как $A_0A_1\dots A_{n-1}$ против часовой стрелки. Проведем лучи $A_1A_0,A_2A_1,\dots,A_0A_{n-1}$; они делят $\mathbb{R}^2 \setminus \gamma$ на $n$ углов, вершины которых суть вершины $\gamma$; пусть $V_i$, $0 \leqslant i<n$, есть один из этих углов с вершиной $A_i$. На рис. 2 изображен пример этих обозначений в случае $n=5$. Из определения внешнего биллиарда напрямую следует лемма 1. Лемма 1. Пусть $p \in \mathbb{R}^2 \setminus \gamma$, а $i \in [0, n)$. Тогда преобразование $T$ для точки $p$ определено и является центральной симметрией относительно вершины $A_i$, если и только если $p \in \operatorname{int} (V_i)$. С точки зрения проблем периодичности важными оказываются следующие две леммы. Лемма 3. Множество граничных точек для внешнего биллиарда вне $\gamma$ является множеством меры нуль. Также важной являются и следующая очевидная лемма. Лемма 4. Пусть $X \subset \mathbb{R}^2$ – произвольное множество меры нуль. Пусть $F=\{f_1, f_2, \dots \}$ – счетное множество движений плоскости. Тогда множество точек $\{f(x) \mid x \in X,\, f \in F\}$ является множеством нулевой меры. Введем “классическое” для внешнего биллиарда вне правильных многоугольников кодирование. Определение 5. Пусть $p\,{\in}\,\mathbb{R}^2 \setminus \gamma$ – периодическая или апериодическая точка. Тогда кодом $\rho(p) \equiv \rho_{\gamma}(p)$ является последовательность $(\dots u_{-2}u_{-1}u_0u_1u_2 \dots)$ такая, что $\forall\, i \in \mathbb{Z}\colon T^i(p) \in \operatorname{int}(V_{u_i})$. Определение 6. Пусть $p \in \mathbb{R}^2 \setminus \gamma$ – граничная точка, для которой последовательное применение внешнего биллиарда $T$ может быть выполнено ровно $m$ раз, а преобразования $T^{-1}$ – $l$ раз, $0 \leqslant l, m \leqslant +\infty$. Тогда код $\rho(p)=\rho_{\gamma}(p)$ есть последовательность $(u_i)_{i \in [-l, m)}$, где $u_i \in [0, n)$ и $u_i=k$, если и только если $T^i(p) \in \operatorname{int}(V_k)$. Также будем обозначать элемент $u_i$ кода как $\rho(p)[i]$, а подпоследовательность $u_lu_{l+1}\dots u_r$, $-\infty<l \leqslant r<+\infty$, как $\rho(p)[l, r]$. Определение 7. Компонентой назовем максимальное по включению множество точек с одинаковым кодом $\rho$; компоненту, в которой содержится точка $p$, обозначим $\operatorname{comp}(p)$. Непосредственно из определений следует лемма 5. Лемма 5. Пусть точка $p$ обладает кодом $\rho(p)$ бесконечной в обе стороны длины, равным $\dots u_{-2}u_{-1}u_0u_1u_2 \dots$ . Тогда $\operatorname{comp}(p)=\bigcap_{i \in \mathbb{Z}} U_i$, где $U_i$ есть: a) $\operatorname{int}(V_{u_0})$ при $i=0$; b) $T^{-i}(\operatorname{int}(V_{u_i}) \cap T^{i}(U_{i-1}))$ при $i>0$; c) $T^{-i}(\operatorname{int}(V_{u_i}) \cap T^{i}(U_{i+1}))$ при $i<0$. Отметим, что множество $U_i$, $i \in \mathbb{Z}$, представляет собой пересечение конечного числа полуплоскостей, площадь которых отлична от нуля, но может быть бесконечной. Если пересечение ограничено, то это пересечение есть выпуклый многоугольник. Неограниченное пересечение полуплоскостей будем называть бесконечным многоугольником; если же пересечение ограничено, назовем его конечным многоугольником. Устройство компоненты периодической точки описывает следующая лемма. Лемма 6. Пусть $p$ – периодическая точка c периодом $m$. Тогда: a) $\operatorname{comp}(p)=U_{2m}$ (определение множества $U$ см. в условии леммы 5); b) все точки $\operatorname{comp}(p)$ периодические, причем каждая из них обладает (возможно, не минимальным) периодом $2m$; c) $\operatorname{comp}(p)$ есть открытый конечный выпуклый многоугольник, стороны которого параллельны сторонам $\gamma$ и состоят исключительно из граничных точек; d) все точки $\operatorname{comp}(p)$ обладают одним и тем же четным периодом, кроме, быть может, одной; такая точка существует, если и только если $\operatorname{comp}(p)$ – центрально-симметричный многоугольник, а его центр обладает нечетным периодом $z$; в этом случае, периоды всех остальных точек равны $2z$. Отметим еще одно важное свойство периодической компоненты. Лемма 7. Пусть $p$ – периодическая точка. Тогда $\forall\, n \in \mathbb{N}\colon T^n(\operatorname{comp}(p))=\operatorname{comp}(p) \vee T^n(\operatorname{comp}(p)) \cap \operatorname{comp}(p)=\varnothing$. Введем теперь понятие периода компоненты. Определение 8. Пусть $p$ – периодическая точка. Тогда периодом компоненты $\operatorname{comp}(p)$, или $\mathrm{per}(\operatorname{comp}(p))$, назовем минимальное натуральное $k$ такое, что $T^k(\operatorname{comp}(p))=\operatorname{comp}(p)$. О связи $\mathrm{per}(\operatorname{comp}(p))$ и периодов точек $\operatorname{comp}(p)$ повествует следующая лемма. Лемма 8. Пусть $p$ – периодическая точка, и пусть $k=\mathrm{per}(\operatorname{comp}(p))$. Тогда: – если $k$ четно, то все точки $\operatorname{comp}(p)$ имеют период $k$; – если $k$ нечетно, то: а) $\operatorname{comp}(p)$ есть центрально-симметричный многоугольник с центром в некоторой точке $c$; b) период точки $c$ есть $k$, а всех остальных точек – $2k$. Пользуясь леммой, будем также называть компоненту некоторой периодической точки периодической компонентой. Согласно лемме 8 мы можем найти множество всевозможных периодов точек для внешнего биллиарда вне $\gamma$, если нам известно множество всевозможных периодов периодических компонент. Точное соотношение между множествами задает следующая лемма, являющаяся прямым следствием леммы 8. Лемма 9. Пусть $B_c$ и $B_p$ – множества всевозможных периодов компонент и точек соответственно для внешнего биллиарда вне многоугольника $\gamma$. Тогда $B_p=B_c \cup \{2 \cdot l\mid l \in B_c,\, l \text{ нечетно}\}$. Завершит наше исследование на тему периодических компонент следующая лемма. Лемма 10. Пусть $p$ – периодическая точка. Тогда $T(\operatorname{comp}(p))\,{=} \operatorname{comp}(T(p))$. Доказательство. Очевидно, что $T(\operatorname{comp}(p)) \subset \operatorname{comp}(T(p))$ и отсюда $\operatorname{comp}(T(p)) \subset T(\operatorname{comp}(p))$; следовательно, $T(\operatorname{comp}(p))=\operatorname{comp}(T(p))$. Лемма доказана.
§ 3. Внешний биллиард вне правильных многоугольников: базовые понятияПерейдем к исследованию внешних биллиардов вне правильных многоугольников. В данном параграфе будем считать, что $\gamma$ есть правильный многоугольник $A_0A_1\dots A_{n-1}$, $n \geqslant 3$, вершины которого занумерованы в порядке против часовой стрелки. Введем основные понятия, связанные с таким внешним биллиардом и с кодированием его орбит. Также мы рассмотрим несколько важных для дальнейшего исследования лемм. 3.1. Ограничение преобразованияВведем ограничение преобразования $T$, похожее на ограничение, выполненное в работах [11], [4], но отличающееся в итоговой реализации. Для этого нам понадобятся следующие обозначения и соглашения: – обозначим через $R$ поворот на угол $2\pi/n$ по часовой стрелке вокруг центра $\gamma$; – заметим, что $T$ инвариантно относительно $R$, т. е. $\forall\, p \in \mathbb{R}^2 \setminus \gamma$, $T(p)$ определено, как $T(R(p))=R(T(p))$; отождествим точки, переходящие друг в друга с помощью $R$; – обозначим через $V'$ угол с вершиной в $A_1$, центрально-симметричный углу $V_1$ относительно $A_1$; – пусть $p \in \mathbb{R}^2 \setminus \gamma$; тогда $k_p$ есть такое минимальное число $k \in \mathbb{Z}_{\geqslant 0}$, что $R^k(p) \in V'$, a $R'(p)$ есть $R^{k_p}(p)$. Другими словами, $R'(p)$ есть представитель класса эквивалентности $p$ в $V'$ (если только $p$ не лежит на продолжении одной из сторон). Теперь определим нужное ограничение. Определение 9. Индуцированное преобразование $T'\colon V' \to V'$ есть преобразование, индуцированное отождествлением точек относительно $R$ и устроенное следующим образом. Пусть $p \in \operatorname{int}(V')$, тогда: a) $T'(p)$ определено, если и только если $T(p)$ определено; b) если $T'(p)$ определено, то $T'(p)=R'(T(p))$. Для удобства будем считать, что $T'$ не определено на $\partial V'$. Любую точку $p \in V'$ будем рассматривать как граничную (периодическую, апериодическую) относительно $T'$ ровно в том же смысле, в котором ранее мы рассматривали точки $p \in \mathbb{R}^2 \setminus \gamma$ относительно $T$. Из структуры отождествления очевидна следующая лемма. Лемма 11. Точка $p \in V'$ является граничной (периодической, апериодической) относительно $T'$, если и только если $p \in V'$ является граничной (периодической, апериодической) относительно $T$. Более того, в этом случае граничными (периодическими, апериодическими) относительно $T$ будут являться точки $R^k(p)$, $k=0, 1, \dots, n-1$. Прямым следствием леммы 11 является следующая лемма, которая сводит решение проблем периодичности для всей плоскости относительно преобразования $T$ к решению тех же проблем, но в $\operatorname{int}(V')$ и относительно преобразования $T'$. Лемма 12. 1) Апериодическая относительно преобразования $T$ точка существует, если и только если существует апериодическая точка в $\operatorname{int}(V')$ относительно преобразования $T'$. 2) Периодические относительно $T$ точки образуют вне $\gamma$ множество полной меры, если и только если периодические относительно $T'$ точки образуют в $\operatorname{int}(V')$ множество полной меры. Чтобы свести проблему нахождения периодов к преобразованию $T'$, введем индуцированный ограничением код относительно $T'$. Определение 10. Пусть $p \in V'$ – периодическая или апериодическая точка. Тогда индуцированным кодом $\rho'(p) \equiv \rho'_{\gamma}(p)$ является последовательность $(\dots v_{-2}v_{-1}v_0v_1v_2\dots)$, где $\forall\, i \in \mathbb{Z}\colon T'^i(p) \in \operatorname{int}(V_{v_i+1})$. Заметим, что коды $\rho$ и $\rho'$ связаны между собой следующим образом. Лемма 13. Пусть $p \in V'$ – периодическая или апериодическая точка. Тогда $\forall\, i \in \mathbb{Z}\colon \rho'(p)[i]=(\rho(p)[i]-\rho(p)[i-1]) \, \operatorname{mod} n$. Доказательство. Преобразования $T$, $T'$ и $R'$ устроены так, что если $T(q_1)=q_2$, то $T'(R'(q_1))= R'(q_2)$, и $R'(R(q_1))=R'(q_1)$. Заметим, что если $q$ – произвольная неграничная точка, то при замене $q$ на $R(q)$ все значения кода $\rho(q)$ уменьшаются на один по модулю $n$, а значения кода $\rho'(R'(q))$ не изменяются. Зафиксируем произвольное $i \in \mathbb{Z}$. Пусть $k=k_{T^i(p)}$ и $p'=R^k(p)$. Имеем $\rho'(R'(p'))[i]=\rho'(p)[i]$ и С другой стороны, $T^i(p') \in \operatorname{int}(V')$, а $T^{-1}(\operatorname{int}(V'))= \operatorname{int}(V_1)$. Следовательно, по определению $\rho(p')[i-1]=1$, $\rho(p')[i]=1+ \rho'(R'(p'))[i]=\rho(p')[i-1]+\rho'(p)[i]$, откуда получаем $(\rho(p)[i]-\rho(p)[i-1]) \, \operatorname{mod} n=\rho'(p')[i]$. Факт произвольности выбора $i$ завершает доказательство леммы. Далее под словом “код” мы будем подразумевать именно $\rho'$, если не сказано обратное. Очевидно, что внутри $V'$ периодические компоненты относительно $\rho$ и $\rho'$ одни и те же (ибо для любой неграничной точки $p \in V'$ код $\rho(p)$ можно восстановить из $\rho'(p)$ и наоборот). Это дает возможность ввести период $\mathrm{per}'(\operatorname{comp})$ как период периодической компоненты $\operatorname{comp} \subset V'$ относительно $T'$. При этом все элементы $\rho'(p)$ являются целыми числами от $1$ до $n'$, где $n'=\lceil n/2 \rceil$. Будем кодировать не только орбиту целиком, но и ее период. Определение 11. Пусть $p \in \mathbb{R}^2 \setminus \gamma (V')$ – периодическая точка с периодом $l (l')$ относительно $T (T')$. Тогда кодом периода $\rho_{\mathrm{per}}(p) (\rho'_{\mathrm{per}}(p))$ назовем слово $\rho(p)[0, l-1] (\rho'(p)[0, l'-1])$. Следующие две леммы также являются простыми обобщениями лемм 18, 19 статьи [13] (доказательства также можно провести полностью аналогично [13]). Лемма 14. Пусть $p \in V'$ – периодическая точка, причем $\mathrm{per}'(p)=m$. Тогда $\mathrm{per}(p)=m \cdot (n/\operatorname{\textrm{НОД}}(s, n))$, где $s=\sum_{i=1}^{m} \rho'(p)[i]$. Лемма 15. Пусть $p \in (\subset) V'$ – периодическая точка (компонента), и при этом $\mathrm{per}'(p)=m$. Пусть в последовательности $\rho'(p)[1, m]$ число $j$ встречается ровно $a_j$ раз, $j=1, 2, \dots, n'$. Тогда 3.2. Определения, связанные с комбинаторикой словВведем несколько определений, базируясь на [20]. Пусть $A, B$ – конечные множества, называемые алфавитами. Определение 12. Конечным словом длины $l \in \mathbb{Z}_{\geqslant 0}$ над алфавитом $A$ назовем последовательность $u_0u_1\dots u_{l-1}$, где $u_i \in A$, $i=0, 1, \dots, l-1$. Множество всех конечных слов над $A$ обозначим как $A^*$. Определение 13. Бесконечным в две стороны словом над алфавитом $A$ назовем последовательность $(u_i)_{i \in \mathbb{Z}}=\dots u_{-2}u_{-1}u_0u_1u_2 \dots $, где $\forall\, i \in \mathbb{Z}\colon u_i \in A$. Множество всех бесконечных в две стороны слов над $A$ обозначим как $A^{\mathbb{Z}}$. Аналогичным образом можно ввести и бесконечные в одну сторону слова; однако для наших целей ограничимся бесконечными в две стороны словами. Отметим, что такими словами являются коды периодических и апериодических точек; а именно: – если $p \in \mathbb{R}^2 \setminus \gamma$ – неграничная точка, то $\rho(p) \in \{0,1,\dots,9\}^{\mathbb{Z}}$; – если при этом $p \in V'$, то $\rho'(p) \in \{0,1,\dots,4\}^{\mathbb{Z}}$. Аналогичным § 2 образом для конечного или бесконечного слова $U$ будем употреблять обозначения $U[i]$ и/или $U[l, r]$, если целые индексы $i$, $l$, $r$ не выводят нас за пределы слова $U$ и $l \leqslant r$. Определение 14. Пусть $U,V \in A^*$, $U=u_0u_1\dots u_{l-1}$, $V=v_0v_1\dots v_{m-1}$. Тогда конкатенацией слов $U$, $V$ назовем слово $UV=u_0u_1\dots u_{l-1}v_0v_1\dots v_{m-1}$. Конкатенацию $k \in \mathbb{Z}_{\geqslant 0}$ одинаковых слов, равных $W \in A^*$, будем обозначать $W^k$; слово же, состоящее из $k$ одинаковых букв $a \in A$, будем обозначать $a^k$. Определение 15. Пусть $\forall\, i \in \mathbb{Z}\colon U_i \in A^* \setminus \{\epsilon\}$ – непустое слово длины $l_i$. Тогда конкатенацией слов $\dots, U_{-2}, U_{-1}, U_0, U_1, U_2, \dots$ назовем бесконечное в две стороны слово устроенное следующим образом. Пусть $m_i$, $i \in \mathbb{Z}$, – такая бесконечная в две стороны последовательность целых чисел, что: a) $m_0=0$; b) $\forall\, i \in \mathbb{Z}_+$: $m_i=m_{i-1}+l_{i-1}$; c) $\forall\, i \in \mathbb{Z}_-$: $m_i=m_{i+1}-l_i$. Тогда требуемая конкатенация есть такое слово $U \in A^{\mathbb{Z}}$, что $\forall\, i \in \mathbb{Z}$: $U[m_i, m_{i+1}-1]=U_i$. Введем теперь понятие подстановки, играющее ключевую роль в нашем исследовании. Определение 16. Пусть $\sigma\colon A \to B^* \setminus \{\epsilon\}$ – произвольная функция, где $\epsilon$ – пустое слово. Расширим ее до $\sigma\colon A^* \cup A^{\mathbb{Z}} \to B^* \cup B^{\mathbb{Z}}$ c помощью следующих правил: a) $\sigma(\epsilon)=\epsilon$; b) если $W=u_0u_1\dots u_{l-1} \in A^*$, то $\sigma(W)=\sigma(u_0)\sigma(u_1)\dots \sigma(u_{l-1}) \in B^*$; c) если $W=\dots u_{-2}u_{-1}u_0u_1u_2\ldots \in A^{\mathbb{Z}}$, то
$$
\begin{equation*}
\sigma(W)= \dots \sigma(u_{-2})\sigma(u_{-1})\sigma(u_0)\sigma(u_1)\sigma(u_2) \dots\,.
\end{equation*}
\notag
$$
Таким образом устроенную функцию $\sigma$ будем называть подстановкой. Для удобства будем иногда говорить, что $\sigma$ определена на символах алфавита $A$, т. е. $A \to B^* \setminus \{\epsilon\}$, подразумевая ее определение на $A^* \cup A^{\mathbb{Z}}$. Для удобства поиска самих периодов введем еще два понятия, используемые в [20]. Определение 17. Пусть $A=\{a_1, a_2, \dots, a_d\}$ – конечный алфавит размера $d$. Тогда каноническим гомоморфизмом, или гомоморфизмом абелизации, назовем такое преобразование $c\colon A^* \to \mathbb{Z}^d$, что для произвольного слова $W \in A^*$: $c(W)$ есть столбец, $i$-я координата которого есть количество вхождений символа $a_i$ в $W$, $i=1,2,\dots,d$. Например, если $A=\{1, 2, 3, 4, 5\}$ и $W=514232154141$ (или любая его анаграмма), то $c(W)=(4, 2, 1, 3, 2)$. Определение 18. Пусть $A=\{a_1, a_2, \dots, a_d\}$, $B=\{b_1, b_2, \dots, b_m\}$ – конечные алфавиты, а $\sigma\colon A \to B \setminus \{\epsilon\}$ – произвольная подстановка. Тогда матрицей подстановки $M_{\sigma}$ назовем матрицу $\bigl(c(\sigma(a_1)), c(\sigma(a_2)),\dots, c(\sigma(a_d))\bigr)$. Другими словами, $M_{\sigma}=\|c_{ij}\|_{m \times d}$, где $c_{ij}$ есть количество раз, которое символ $b_i$ встречается в слове $\sigma(a_j)$. Например, если $A=\{1, 2, 3\}$, $B=\{1, 2\}$, а подстановка $\sigma$ устроена следующим образом: $\sigma(1)=212221$, $\sigma(2)=111112$, $\sigma(3)=22$, то $M_{\sigma}= \begin{pmatrix} 2 & 5 & 0 \\ 4 & 1 & 2 \end{pmatrix}$. Из определений непосредственно следует лемма 16. Лемма 16. Пусть $A=\{a_1, a_2, \dots, a_d\}$, $B=\{b_1, b_2, \dots, b_m\}$ – конечные алфавиты, а $\sigma\colon A \to B \setminus \{\epsilon\}$ – произвольная подстановка. Тогда для произвольного слова $W \in A^*$ выполнено $c(\sigma(W))=M_{\sigma}(c(W))$. Закончим параграф следующим полезным обозначением. Пусть $Z \subseteq A^*$ – некоторое множество слов над алфавитом $A$. Тогда множество всех циклических сдвигов всех слов в $Z$ обозначим $\operatorname{cycle}(Z)$. Например, если $Z=\{'1234', '15151', '23', '32'\}$, то
$$
\begin{equation*}
\operatorname{cycle}(Z)=\{'1234', '2341', '3412', '4123', '15151', '51515', '23', '32'\}.
\end{equation*}
\notag
$$
§ 4. Основные результатыСформулируем основные результаты статьи, пользуясь введенными в § 2, 3 понятиями. Все теоремы будут доказаны в последующих параграфах. Теорема 1. Для внешних биллиардов вне правильных восьми- и двенадцатиугольников существуют апериодические точки. Теорема 2. В случае внешних биллиардов вне правильных восьми- и двенадцатиугольников, периодические точки образуют вне столов множества полной меры. Введем еще несколько обозначений: $\bullet$ пусть $p \in (\subseteq) V'$ – периодическая точка (компонента), тогда $c(p)= c(\rho_{\mathrm{per}}(p))$, а $c'(p)=c(\rho'_{\mathrm{per}}(p))$; $\bullet$ пусть $Y\,{\subseteq}\, V'$; тогда $P_{Y} := \{\rho'_{\mathrm{per}}(p) \mid p \subseteq Y,\, p\text{ - периодическая компонента}\}$; $\bullet$ $C_{Y}:= \{c(w) \mid w \in P_{Y} \}$. Другими словами, $P_{Y}$ – это множество кодов периодов точек множества $Y$ относительно кода $\rho'$, а $C_{Y}$ – это абелизация слов $P_{Y}$. Важнейшим случаем здесь является случай $Y=V'$; тогда $P_{V'}$ – это множество всех возможных кодов периодов относительно кода $\rho'$, а $C_{V'}$ – это множество всех возможных абелизаций этих кодов. Следующие результаты касаются множества периодических слов. Теорема 3. Пусть $\sigma\colon \{1, 2, 3\} \to \{1, 2, 3\}^* \setminus \{\epsilon\}$ есть подстановка, задаваемая следующими правилами: $1 \to 122323232323221$, $2 \to 122323221$, $3 \to 111$, а $\psi\colon \{1, 2, 3, 4\} \to \{1, 2, 3, 4\}^* \setminus \{\epsilon\}$ есть подстановка, задаваемая следующими правилами: $1 \to 3334$, $2 \to 334$, $3 \to 34$, $4 \to 4$. Тогда в случае правильного восьмиугольника: 1) множество периодических слов
$$
\begin{equation*}
P_{V'}=\operatorname{cycle}\bigl(\bigl\{\psi^l(\sigma^k(w))\mid k, l \in \mathbb{Z}_{\geqslant 0},\, w \in \{1, 2, 32\} \bigr\}\bigr) \cup \{34^l\mid l \in \mathbb{Z}_{\geqslant 0} \};
\end{equation*}
\notag
$$
2) множество их абелизаций
$$
\begin{equation*}
\begin{aligned} \, C_{V'} &= \left\{\frac{1}{8}\begin{pmatrix}1+4\cdot (-3)^k+3\cdot 9^k\\-2-4\cdot (-3)^k+6\cdot 9^k\\1- 4\cdot (-3)^k+3\cdot 9^k\\0\end{pmatrix}, \frac{1}{4}\begin{pmatrix}-1+9^k\\2+2\cdot 9^k\\-1+ 9^k\\0\end{pmatrix},\right. \\ &\qquad\frac{1}{8}\begin{pmatrix}1-4\cdot (-3)^k+3\cdot 9^k\\-2+4\cdot (-3)^k+6\cdot 9^k\\1+4\cdot (-3)^k+ 3\cdot 9^k\\0\end{pmatrix}, \begin{pmatrix}0\\0\\1\\ l\end{pmatrix}, \frac{1}{2}\begin{pmatrix}0\\0\\6\cdot 9^k\\-(-3)^k+(3+6l)\cdot 9^k\end{pmatrix}, \\ &\qquad \left.\begin{pmatrix}0\\0\\2\cdot 9^k\\(2l+1)\cdot 9^k\end{pmatrix}, \frac{1}{2}\begin{pmatrix}0\\0\\6\cdot 9^k\\+(-3)^k+(3+6l)\cdot 9^k\end{pmatrix}\Biggm| k, l \in \mathbb{Z}_{\geqslant 0} \right\}; \end{aligned}
\end{equation*}
\notag
$$
3) множество периодов (относительно преобразования $T$, не $T'$) есть множество всех натуральных чисел, делящихся на $4$. Теорема 4. Введем следующие матрицы: Пусть
$$
\begin{equation*}
H := \{M_{66}^kM_{68}M_{88}^nf\mid f \in F,\, k, n \in \mathbb{Z}_{\geqslant 0} \} \cup \{M_{66}^kg\mid g \in G,\, k \in \mathbb{Z}_{\geqslant 0} \},
\end{equation*}
\notag
$$
и пусть
$$
\begin{equation*}
B := \biggl\{12\frac{\begin{pmatrix} 1 & 1 & 1 & 1 & 1 & 1 \end{pmatrix}h}{\operatorname{\textrm{НОД}}\bigl(12,\ \begin{pmatrix} 1 & 2 & 3 & 4 & 5 & 6 \end{pmatrix}h\bigr)}\biggm| h \in H\biggr\}.
\end{equation*}
\notag
$$
Тогда для внешнего биллиарда вне правильного двенадцатиугольника: 1) $H=C_{V'}$; 2) множество всевозможных периодов (так же относительно $T$) точек для внешнего биллиарда вне правильного двенадцатиугольника есть объединение Мы опускаем явное описание множества $P_{V'}$ в силу его громоздкости (некоторые “базовые” слова, наподобие $1$, $2$, $32$ в случае восьмиугольника, имеют длины порядка нескольких сотен, эти длины являются суммами чисел векторов в множествах $F$, $G$). Также в статье установлена в общем виде связь между внешними биллиардами вне правильных $n$- и $n/2$-угольников, если $n$ четно, а $n/2$ нечетно. А именно, доказана следующая теорема. Теорема 5. Пусть $n \in \mathbb{Z}_{\geqslant 6}$, $n$ четно, а $n/2$ нечетно. Пусть $T_n$ и $T_{n/2}$ – внешние биллиарды вне правильных $n$- и $n/2$-угольников соответственно. Тогда: – апериодическая точка существует для $T_n$, если и только если для $T_{n/2}$ существует апериодическая точка; – периодические относительно $T_n$ точки образуют вне правильного $n$-угольника-стола множество полной меры, если и только если периодические относительно $T_{n/2}$ точки образуют вне правильного $n/2$-угольника-стола множество полной меры. Другими словами, проблемы периодичности для внешних биллиардов вне правильных $n$- и $n/2$-угольников эквивалентны, если $n$ четно, а $n/2$ нечетно. Еще одним важным результатом оказывается теорема 6. Теорема 6. Пусть $n \in \mathbb{Z}_{\geqslant 4}$, $n$ четно, $\gamma$ – правильный $n$-угольник, а $T_n$ – внешний биллиард вне $\gamma$. Тогда существует ограниченная область $Z \subseteq \mathbb{R}^2 \setminus \gamma$ такая, что $T_n(Z) \subseteq Z$, и для $T_n$ выполнены следующие утверждения: – апериодическая точка $p \in \mathbb{R}^2 \setminus \gamma$ существует, если и только если существует апериодическая точка $p' \in Z$; – периодические точки образуют вне $\gamma$ множество полной меры, если и только если периодические образуют в $Z$ множество полной меры. В случае $n=5$ такая фигура и внешний биллиард на ней были обнаружены и в деталях исследованы С. Л. Табачниковым [4], а на связь между внешними биллиардами пяти- и десятиугольников указали Н. Бедарид и Ж. Кассен [11], [12]. Теоремы 6, 5 обобщают указанные замечания. § 5. Внешние биллиарды вне правильных многоугольников: сведение к ограниченному случаюВ данном параграфе, как и в § 3, будем считать, что $\gamma$ есть правильный многоугольник $A_0A_1\dots A_{n-1}$, $n \geqslant 3$, вершины которого занумерованы в порядке против часовой стрелки. Докажем, что исследование проблем периодичности для внешних биллиардов вне правильных $n$-угольников сводятся к исследованию проблем периодичности кусочно аффинного преобразования некоторого многоугольника в себя. Мы также установим связь между внешними биллиардами вне правильных $n$- и $2n$-угольников в случае, если $n$ нечетно. Такие сведение и связь были исследованы для случая правильных пяти- и десятиугольников в [13] (см. также [11], [21]). Здесь же мы обобщим это исследование на случай произвольного $n$ и докажем теоремы 5, 6. 5.1. $T'$ как “кусочное движение”Опишем, как выглядит преобразование $T'$. Для этого определим углы $V'_i$, $0 \leqslant i<n$, как углы, симметричные $V_i$ относительно вершины $A_i$. В частности, $V'=V'_1$. Из определения следует, что $\forall\, p \in \mathbb{R}^2 \setminus \gamma$, $j \in [0, n)\colon \rho(p)[0]=j \Longleftrightarrow T(p) \in \operatorname{int}(V'_j)$ (в частности, $\rho(p)[0]$ определено, если и только если $T(p)$ определено), а также $\forall\, j \in [0, n)\colon R(V'_j)=V'_{(j-1) \operatorname{mod} n}$. Лемма 17. Пусть $p \in \operatorname{int}(V')$ и $T(p)$ определено. Тогда $T'(p)=R^{v_0}(T(p))$, где $v_0=\rho'(p)[0]$. Доказательство. По определению $\rho'$, $T$ для $p$ есть центральная симметрия относительно вершины $A_{v_0+1}$. Тогда $T(p) \in \operatorname{int}(V'_{v_0+1})$. Так как $R^{v_0}(V'_{v_0+ 1})= V'_1=V'$ (очевидно), то $R^{v_0}(T(p)) \in \operatorname{int}(V')$. Следовательно, $T'(p)= R^{v_0}(T(p))$. Лемма доказана. Пусть $n'=\lceil n/2 \rceil$. Пусть $\alpha_i \subset V'$, $i=1,2,\dots, n'$, есть множество точек $p \in V'$ таких, что $\rho'(p)[0]=i$. Обозначим через $P_i$, $i=1, 2, \dots, n'-1$, точку пересечения лучей $A_0A_1$ и $A_{i+1}A_i$, а через $Q_j$, $j=2, 3, \dots, n'$, – точку пересечения лучей $A_1A_2$ и $A_{j+1}A_j$. В частности, $P_1=A_1$, $Q_2=A_2$. Примеры преобразований $T'$ и соответствующих фигур и точек, часть из которых будут определены далее, изображены на рис. 3, 4 (для случая $n=7$), а также на рис. 5, 6 (для случая $n=10$). Из леммы 1 очевидно, что $\alpha_i=\operatorname{int}(V') \cap \operatorname{int}(V_{i+1})$, откуда следует лемма 18. Лемма 18. Если $n \geqslant 5$, то: 1) $\alpha_1$ есть открытый треугольник $P_1P_2Q_2$; 2) $\alpha_i$, $i=2, 3, \dots, n'-2$, есть открытый четырехугольник $P_iQ_iQ_{i+1}P_{i+1}$; 3) $\alpha_{n'-1}$ есть открытый бесконечный многоугольник, ограниченный лучом $A_0A_1$, отрезками $P_{n'-1}Q_{n'-1}$ и $Q_{n'-1}Q_{n'}$ и лучом $A_{n'+1}A_{n'}$; 4) $\alpha_{n'-1}$ есть открытый угол между лучами $A_1A_2$ и $A_{n'+1}A_{n'} $. Если же $n$ равен $3$ или $4$, то: 1) $\alpha_1$ есть открытый бесконечный многоугольник, ограниченный лучом $A_0A_1$, отрезком $A_1A_2$ и лучом $A_{3 \operatorname{mod} n}A_2$; 2) $\alpha_2$ есть открытый угол между лучами $A_1A_2$ и $A_{3 \operatorname{mod} n}A_2$. Важными для нашего описания оказываются точки $O_i$, $i=1,2,\dots,n'-1$, которые мы определим как точки пересечений биссектрисы угла $V'=P_2P_1Q_2$ с биссектрисами углов $V_{i+1}=P_iA_{i+1}P_{i+1}$. Доказательство. Пусть $i \in [1,n'-1]$, а $O$ – центр стола $\gamma$. Заметим, что угол $V_{i+1}$ симметричен углу $V'$ относительно прямой $OQ_i$; следовательно, $A_1O_i=A_{i+1}O_i$. С другой стороны, по лемме 17 $T'(O_i)=R^i(T(O_i))$, причем преобразование $T$ переводит с сохранением расстояния биссектрису угла $V_{i+1}$ в биссектрису угла $V'_{i+1}$, а $R^i$ переводит последнюю биссектрису с сохранением расстояния в биссектрису угла $V'_1=V'$. Следовательно, $T'(O_i)$ будет лежать на биссектрисе угла $V'$, причем $A_1T'(O_i)=A_{i+1}O_i=A_1O_i$, откуда $O_i=T'(O_i)$. Лемма доказана. С помощью леммы 19 опишем, как устроено преобразование $T'$. Лемма 20. 1) $\forall\, i \in \{1,2,\dots,n'-1\}$: $T'(\alpha_i)$ есть поворот на угол $(n-2i)\pi/n$ против часовой стрелки вокруг точки $O_i$; 2) $\forall\, i \in \{1,2,\dots,n'-1\},\ \forall\, p \in \partial(\alpha_i)\colon T'(p)$ не определено. Доказательство. Пункт 2 очевидно следует из определения $T'$ и того факта, что границы $\alpha_i$ лежат на продолжениях сторон стола $\gamma$. Докажем п. 1. Согласно лемме 17 $T'(\alpha_i)$, $i=1,2,\dots,{n'-1}$, есть $R^{i}(T(\alpha_i))$; так как центральная симметрия есть поворот на угол $\pi$ против часовой стрелки (будем для удобства использовать такое направление), то при $i= 1,2,\dots,n'\,{-}\,1$ $T'(\alpha_i)$ есть поворот на угол $\pi-i\cdot (2\pi/n)$ против часовой стрелки вокруг некоторой неподвижной точки, которой по лемме 19 является точка $O_i$, и п. 1 доказан. Лемма доказана. Отметим, что в лемме 20 не описано, как устроено $T'(\alpha_{n'})$. Чтобы провести корректное рассуждение для этого случая, введем еще несколько определений и обозначений, важных для нашего исследования. Определение 19. Пусть $\alpha, \beta \subset \mathbb{R}^2$ – конечные или бесконечные многоугольники. Будем говорить, что $\beta$ вписан в $\alpha$, если $\beta \subset \alpha$ и каждая из сторон $\alpha$ целиком содержит одну из сторон $\beta$. Обозначим через $\beta_i$, $i=1, 2, \dots, n'-1$, открытый выпуклый многоугольник $\operatorname{comp}(O_i)$; многоугольник $\beta_{n'-1}$ будем также обозначать $\beta$. Примеры фигур $\beta$ для разных $n$ изображены на рис. 4, 6. Из леммы 20 следует, что $\forall\, i \in [1, n'-1]\colon T'(\beta_i)= \beta_i$, причем $T'$ поворачивает $\beta_i$ вокруг центра $O_i$ на угол $(n-2i)\pi/n$ против часовой стрелки. Рассмотрим устройство $\beta=\beta_{n'-1}$. Лемма 21. Пусть $n_2=2n/\operatorname{\textrm{НОД}}(n, 2)$. Тогда $\beta_{n'-1}$ есть правильный $n_2$-угольник, вписанный в бесконечный многоугольник $\alpha_{n'-1}$, причем точки $P_{n'-1}$ и $Q_{n'}$ являются вершинами $\alpha_{n'-1}$. Доказательство. Точка $O_{n'-1}$ по определению является точкой пересечения биссектрис углов $V'$ и $V_{n'}$, а также в силу симметрии лежит на прямой $OQ_{n'-1}$, где $O$ – центр стола $\gamma$. Следовательно, $O_{n'-1}$ равноудалена от всех четырех сторон $\alpha_{n'-1}$, а эти стороны, в свою очередь, параллельны сторонам $\gamma$. Тогда если рассмотреть бесконечно малый правильный $n_2$-угольник с центром $O_{n'-1}$ и сторонами, параллельными $\gamma$, и “раздувать” его, т. е. непрерывно увеличивать его размеры, не двигая центр, то четыре стороны, параллельные сторонам $\alpha_{n'-1}$ и ближайшие к ним, “лягут” на четыре стороны $\alpha_{n'-1}$ одновременно. Таким образом, мы доказали, что существует правильный $n_2$-угольник с центром в точке $O_{n'-1}$, вписанный в $\alpha_{n'-1}$. Назовем этот многоугольник $\delta$ и будем считать его открытым. Преобразование $T'$ для $\alpha_{n'-1}$, согласно лемме 20, есть поворот на угол $(n\,{-}\,2n'+2)\pi/n$ против часовой стрелки. Этот угол, как несложно показать, равен углу $2\pi/n_2$; следовательно, и $\delta$, и $\beta_{n'-1}$ инвариантны относительно поворота на $2\pi/n_2$. С одной стороны, это означает, что $\delta \subset \alpha_{n'-1}$ состоит исключительно из периодических точек $p$ с кодом
$$
\begin{equation*}
\mathrm{per}'(p)=\cdots (n'-1)(n'-1)(n'-1)(n'-1) \dots=\mathrm{per}'(O_{n'-1}),
\end{equation*}
\notag
$$
в силу чего по определению $\delta \subseteq \beta_{n'-1}$. С другой стороны, $T'$ поворачивает $\delta$ “на одну сторону” против часовой стрелки; следовательно, любая из сторон $\delta$ после достаточного числа таких поворотов совпадет с одной из сторон $\delta$, лежащих целиком на стороне $\alpha_{n'-1}$; следовательно, граница $\delta$ целиком состоит из граничных точек, а значит, $\delta=\beta_{n'-1}$. Для завершения доказательства остается заметить, что угол между лучами $A_0A_1$ и $A_{n'-1}A_{n'}$ равен $2(n'-1)\pi/n=(n_2-2)\pi/n_2$, что равно углу правильного $n_2$-угольника. Следовательно, две из вершин $\delta$ попали в точности в вершины $P_{n'-1}$ и, в силу симметрии, $Q_{n'}$ многоугольника $\alpha_{n'-1}$. Лемма доказана. Обозначим вершины $\beta_{n'-1}$ через $B_0B_1\dots B_{n_2-1}$ таким образом, что нумерация идет против часовой стрелки, а точки $B_0$ и $B_1$ лежат на луче $A_0A_1$. Тогда $P_{n'-1}= B_0$, а $Q_{n'}=B_{n'+1}$, если $n$ четное, и $Q_{n'}=B_{n+2}$, если $n$ нечетное. Поймем, как устроено преобразование $T'$ для $\alpha_{n'}$. С точки зрения эквивалентности относительно $R$ точка $Q_{n'}$ эквивалентна точке $P_{n'-1}=R(Q_{n'})$, а угол $\alpha_{n'}$ как угол между лучами $A_1A_2$ и $A_{n'+1}A_{n'}$ – углу $R(\alpha_{n'})$ между лучами $A_{n'}A_{n'-1}$ и $A_0A_1$, причем часть луча $A_0A_1$, являющаяся стороной $R(\alpha_{n'})$, начинается с отрезка $B_0B_1$. Заметим, что $R(\alpha_{n'}) \cup \beta_{n'-1} \subset V_{n'}$. Из доказательства леммы 21 мы уже знаем, что $T'$ поворачивает $\beta_{n'-1}$ против часовой стрелки “на одну сторону”. Тогда, если применить к $R(\alpha_{n'})$ преобразование $T \circ R^{n'-1}$, равное $T'$ для $V_{n'-1}$, то $R(\alpha_{n'})$ перейдет в угол между лучом $B_0B_1$ (частью луча $A_0A_1$) и лучом $B_1B_2$. В силу эквивалентности относительно $R$ и того факта, что последний угол целиком содержится внутри $\alpha_{n'-1}$, мы получаем следующую лемму, дополняющую лемму 20 и завершающую описание устройства преобразования $T'$. Лемма 22. 1) $T'(\alpha_{n'})$ есть угол между лучами $B_0B_1$ и $B_1B_2$; 2) $T'$ для $\alpha_{n'}$ является параллельным переносом, если $n$ четно, и поворотом на $\pi/n$ против часовой стрелки в противном случае. Пункт 2 легко вывести из аккуратного подсчета углов поворотов. 5.2. Преобразование первого возвращения как внешний биллиардИз п. 5.1 следует, что существует инвариантный относительно $T'$ открытый правильный многоугольник $\beta=\beta_{n'-1}$, вписанный в угол $V'$ (временно избавимся от индекса, характеризующего код этого многоугольника как периодической компоненты). Отсюда и из структуры преобразования $T'$ очевидно следует лемма 23. Лемма 23. Фигура $\operatorname{int}(V' \setminus \overline{\beta})$ является объединением двух непересекающихся открытых фигур, инвариантных относительно преобразования $T'$. Одна из этих фигур ограничена и соприкасается с многоугольником $\gamma$; другая же не ограничена. Обозначим ограниченную и неограниченную описанные в лемме 23 фигуры, составляющие $\operatorname{int}(V') \setminus \beta$, как $Z'$ и $Z''$ соответственно. Примеры фигур $Z'$, $Z''$ можно найти на рис. 7. Так как ограниченная фигура $Z'$ инвариантна относительно $T'$, то фигура $Z= \operatorname{int} \bigl(\bigcup_{i=0}^{n-1} R(\overline{Z'})\bigr)$ ограничена и инвариантна относительно $T$. Отметим, что именно эта фигура обладает, как мы докажем в этом параграфе, указанными в теореме 6 свойствами. В данном же пункте мы сосредоточимся на анализе $Z''$. Введем одно общее понятие. Определение 20. Пусть $X$ – некоторое множество, а $f\colon X \to X$ – некоторое преобразование. Пусть $Y \subset X$. Тогда преобразованием первого возвращения $f$, или возвращения относительно $f$, на $Y$ назовем преобразование $f_Y\colon Y \to Y$, определенное следующим образом. Пусть $p \in Y$. Тогда $f_Y(p)=f^{k}(p)$, где $k=k(p)$ – минимальное такое целое положительное число, что $f^k(p) \in Y$. Если такого числа $k(p)$ не существует, то в точке $p$ преобразование $f_Y$ не определено. Введем еще пару технических понятий. Обозначим $\operatorname{ang}_1$ открытый угол $T'(\alpha_{n'})$, а $\operatorname{ang}_2$ – открытый угол, равный $\alpha_{n'}$, если $n$ четное, и $T'^{-1}(\alpha_{n'})$, если $n$ нечетно. Пусть $h\colon \operatorname{ang}_2 \to \operatorname{ang}_1$ есть параллельный перенос, переводящий $\operatorname{ang}_2$ в $\operatorname{ang}_1$. Примеры $\operatorname{ang}_1$ и $\operatorname{ang}_2$ изображены на рис. 8. Определим преобразование $T'_{\operatorname{ang}_1} \equiv T'_{\gamma, \operatorname{ang}_1}\colon \operatorname{ang}_1 \to \operatorname{ang}_1$ как преобразование первого возвращения относительно $T'$ на $\operatorname{ang}_1$. Оказывается, преобразование $T'_{\gamma, \operatorname{ang}_1}$ идентично индуцированному внешнему биллиарду вне правильного многоугольника $\beta_{n'}$! Формализуем вышесказанное. Пусть $T_{\beta}$ есть внешний биллиард вне правильного многоугольника $\beta$, а $T'_{\beta}\colon \operatorname{ang}_1 \to \operatorname{ang}_1$ – аналогичное $T'$ индуцированное внешним биллиардом и эквивалентностью точек относительно поворота на угол $2\pi/n_2$ преобразование. Определение 21. Пусть $X_1, Y_1, X_2, Y_2 \subset \mathbb{R}^2$, а $f_1\colon X_1 \to Y_1$, $f_2\colon X_2 \to Y_2$ – некоторые преобразования. Пусть $h\colon X_1 \to X_2$ – биективное преобразование. Тогда будем говорить, что $f_1$ сопряжено с $f_2$ относительно преобразования $h$, если для любой точки $x_1 \in X_1$ и соответствующей ей точки $x_2=h(x_1)$ выполнено: 1) $f_1(x_1)$ определено, если и только если $f_2(x_2)$ определено; 2) если $f_1(x_1)$ определено, то $h(f_1(x_1))=f_2(x_2)=f_2(h(x_1))$. В случае, если $X_1=X_2$, $X'_1=X'_2$, а $h$ – тождественное преобразование, будем говорить, что $f_1$ и $f_2$ равны или $f_1=f_2$. Доказательство. Согласно леммам 20, 22 $T'_{\gamma, \operatorname{ang}_1}$ для произвольной точки $p \in \operatorname{ang}_1$ можно вычислить следующим образом. Будем применять к точке $p$ поворот $R^{-1}_{\beta}$ вокруг точки $O_{\beta}=O_{n'-1} \equiv O_{\gamma, n'-1}$ на угол $2\pi/n_2$ против часовой стрелки, пока $p$ не попадет в угол $\alpha_{n'}$ или на его границу. После этого, если $p$ оказалось на границе $\alpha_{n'}$, то $T'_{\gamma, \operatorname{ang}_1}$ для исходной точки $p$ было не определено; в противном случае, для возвращения остается лишь применить преобразование $T'$ к точке $p$. Для унификации анализа в случае четного и нечетного $n$ заметим, что вычислять $T'_{\gamma, \operatorname{ang}_1}$ можно следующим образом: – пусть $k=k(p) \in \mathbb{Z}_+$ есть минимальное число такое, что $q=T'^k(p) \in \overline{\operatorname{ang}_2}$; – если $q \in \partial \operatorname{ang}_2$, то $T'_{\gamma, \operatorname{ang}_1}(p)$ не определено; – иначе, $T'_{\gamma, \operatorname{ang}_1}(p)=h(q)$. Последний шаг приводит к нужному результату, так как $h(q)=T'(p)$, если $n$ четное, и $T'^2(q)$, если $n$ – нечетное. Примеры $T'_{\gamma, \operatorname{ang}_1}$ и траекторий первого возвращения фигур на $\operatorname{ang}_1$ относительно $T'$ изображены на рис. 9, 10. Из такого алгоритма следует, что $T'_{\gamma, \operatorname{ang}_1}$, равно как и $T'_{\beta}$, определено в тех и только тех точках $\operatorname{ang}_1$, которые не лежат на лучах $B_2B_1, B_3B_2, \dots, B_{n'_2+1}B_{n'_2}$, где $n'_2=n_2/2$. Эти лучи делят $\operatorname{ang}_1$ на открытые фигуры $\alpha_{\beta, 1}$, $\alpha_{\beta, 2}$, …, $\alpha_{\beta, n'_2}$, занумерованные в порядке удаления от вершины $B_1$ угла $\operatorname{ang}_1$. Для каждой из этих фигур $T'_{\gamma, \operatorname{ang}_1}$ и $T'_{\beta}$ являются движениями, причем для $T'_{\beta}$ движения могут быть описаны аналогично леммам 20, 22. Рассмотрим оба преобразования на фигуре $\alpha_{\beta, n'_2}$. Для этой фигуры по определению $T'_{\beta}$ есть композиция центральной симметрии относительно вершины $B_{n'_2+1}$ и поворота против часовой стрелки вокруг точки $O_{n'_2-1}$ на угол $2\pi n'_2/n_2=\pi$, т. е. центральной симметрии относительно $O_{n'_2-1}$. Такая композиция двух центральных симметрий есть, согласно школьной геометрии, не что иное, как параллельный перенос вдоль вектора $2 \cdot \overrightarrow{B_{n'_2+1}O_{n'_2-1}}= \overrightarrow{B_{n'_2+ 1}{B_1}}$; в силу того, что таким параллельным переносом как раз и является $h$, можем заключить, что $T'_{\gamma, \operatorname{ang}_1}=T'_{\beta}$ на $\alpha_{\beta, n'_2}$. Зафиксируем теперь произвольное целое $i \in [1, n'_2)$ и докажем равенство преобразований на $\alpha_{\beta, i}$. Согласно лемме 20 $T'_{\beta}(\alpha_{\beta, i})$ есть поворот на угол $(n_2-2i)\pi/n_2$ против часовой стрелки; с другой стороны, $T'_{\gamma, \operatorname{ang}_1}(\alpha_{\beta, i})$ есть композиция $n'_2-i$ поворотов на угол $2\pi/n_2$ против часовой стрелки (именно столько нужно, чтобы $\alpha_{\beta, i}$ попала внутрь угла $\operatorname{ang}_2$) и параллельного переноса; такая композиция как раз и является поворотом на угол $2(n'_2-i)\pi/n_2= (n_2-2i)\pi/n_2$ против часовой стрелки (ибо $n_2$ – заведомо четное число). В силу этого достаточно показать, что у $T'_{\beta}(\alpha_{\beta, i})$ и $T'_{\gamma, \operatorname{ang}_1}(\alpha_{\beta, i})$ есть неподвижные точки, причем они совпадают. Для $T'_{\beta}(\alpha_{\beta, i})$ по лемме 20 неподвижной является точка $O_{\beta, i}$, точка пересечения биссектрис угла $\operatorname{ang}_1$ и угла с вершиной $B_{i+1}$, образованного лучами $B_{i+1}B_i$ и $B_{i+2}B_{i+1}$. В силу симметрии $|B_1O_{\beta, i}|=|B_{i+1}O_{\beta, i}|=l_i$, где $l_i \in \mathbb{R}_+$ – некоторое число. Применим описанную в начале процедуру вычисления $T'_{\gamma, \operatorname{ang}_1}$ к точке $O_{\beta, i}$. Тогда после применения $R^{-1}_{\beta}$ к $O_{\beta, i}$ $n'_2-i$ раз полуоткрытый отрезок $B_{i+1}O_{\beta, i}$ ($B_{i+1}$ невключительно) как начало биссектрисы угла между лучами $B_{i+1}B_i$ и $B_{i+2}{i+1}$ перейдет в той же длины отрезок, являющийся началом биссектрисы угла между лучами $B_{n'_2+1}B_{n'_2}$ и $B_{n'_2+2}B_{n'_2+1}$, т. е. угла $\operatorname{ang}_2$. Отсюда и из дальнейшего хода процедуры следует, что $T'_{\gamma, \operatorname{ang}_1}$ переводит $O_{\beta, i}$ в точку, лежащую на биссектрисе угла $\operatorname{ang}_1$ на расстоянии $l_i$, т. е. в точку $O_{\beta, i}$. Таким образом, $O_{\beta, i}$ является неподвижной и для $T'_{\beta}(\alpha_{\beta, i})$, и для $T'_{\gamma, \operatorname{ang}_1}$. Лемма доказана. Отметим еще одно простое, но важное свойство преобразования первого возвращения $T'_{\beta}$. Лемма 25. Пусть $q \in \operatorname{int}(Z'')$ – неграничная точка. Тогда существует такая точка $p \in \operatorname{ang}_1$ и такое целое неотрицательное $k$, что $q=T'^k(p)$. Доказательство. Если $q \in \operatorname{ang}_1$, то лемма очевидна. В противном случае, $T'^{-1}(q)= R_{\beta}(q)$; будем применять $T^{-1}$ к $q$ до тех пор, пока $q$ не попадет в $\operatorname{ang}_1$ или на луч $B_1B_2$. Однако луч $B_1B_2$ в силу отсутствия неграничного прообраза относительно $T'$ состоит лишь из граничных точек; следовательно, $q$ попало именно в $\operatorname{ang}_1$, откуда и следует утверждение леммы. Лемма доказана. Из леммы 25, а также леммы 4 следует важный с точки зрения доказываемых теорем факт. Лемма 26. 1) Апериодическая относительно $T'$ точка внутри $Z''$ существует, если и только если существует апериодическая относительно $T'_{\gamma, \operatorname{ang}_1}$ точка внутри $\operatorname{ang}_1$. 2) Периодические относительно $T'$ точки внутри $Z''$ образуют вне стола множество полной меры, если и только если периодические относительно $T'_{\gamma, \operatorname{ang}_1}$ точки образуют внутри $\operatorname{ang}_1$ множество полной меры. 5.3. Нечетное $n/2$: доказательство теоремы 6Будем предполагать, что $n$ является четным, а $n/2$ – нечетным. Цель – доказать теорему 6, т. е. установить эквивалентность проблем периодичности для внешних биллиардов вне правильных $n$- и $n/2$-угольников. Также для точности анализа будем предполагать, что $n \geqslant 10$. В случае $n=6$, сходство, похожее на то, что мы установим в этом пункте, также имеет место быть, но в несколько более вырожденной форме; это сходство было исследовано в [12]. Так или иначе, из § 1 следует, что проблемы периодичности для случаев $n=3,6$ решены и обладают необходимой эквивалентностью. Из леммы 24 очевидно следует лемма 27. Лемма 27. 1) Если для внешнего биллиарда вне правильного $n$-угольника существует апериодическая точка, то и для внешнего биллиарда вне правильного $n/2$-угольника существует апериодическая точка. 2) Если для внешнего биллиарда вне правильного $n/2$-угольника периодические точки образуют вне стола множество полной меры, то и для внешнего биллиарда вне правильного $n$-угольника периодические точки образуют вне стола множество полной меры. Так как $n$ четное, то $n'=n/2$, $n_2=n$. Следовательно, $\beta=\beta_{n/2- 1}$ является правильным $n$-угольником, равным $\gamma$ (ибо $\gamma$ и $\beta$ “зажаты” между параллельными прямыми $A_0A_1$ и $A_{n'}A_{n'+1}$). Более того, $\gamma$ и $\beta$ центрально-симметричны друг другу относительно точки $Q_{n'-1}$, являющейся, напомним, точкой пересечения лучей $A_1A_2$ и $A_{n'-1}A_{n'}$. Пусть $\delta$ есть открытое пересечение углов $V'$, $V_{n'-1}$, а также угла между лучами $B_1B_0$ и $B_0B_{n-1}$ и угла между лучами $B_{n'+1}B_{n'+2}$ и $B_{n'+2}B_{n'+3}$ (отметим, что последние два угла симметричны углам $V'$ и $V_{n'-1}$ относительно прямой, проходящей через точку $Q_{n'-1}$ и перпендикулярной прямой $A_0A_1$). Таким пересечением является пятиугольник $P_{n'-2}P'_{n'-2}Q'_{n'-2}Q_{n'-1}Q_{n'-2}$, где $P'_{n'-2}$ и $Q'_{n'-2}$ – точки пересечения луча $B_{n'+2}B_{n'+3}$ с лучами $A_0A_1$, на котором лежат точки $B_0$ и $B_1$, и $A_{n'}A_{n'-1}$, на котором лежат точки $B_0$ и $B_{n-1}$ соответственно. Отметим, что в cлучае $n=10$, и только в этом случае в силу подходящих углов внутри $\delta$, $\beta'=\delta$. Заметим, что внешние к углам $P_{n'-2}$, $Q_{n'-2}$, $Q_{n'-1}$ пятиугольника $\delta$ углы равны $4\pi/n=2\pi/n'$, а равные внешние к углам $Q_{n'-2}$ и $Q'_{n'-2}$ $\delta$ углы равны, как следствие,
$$
\begin{equation*}
\frac{2\pi-3\cdot 4\pi/n}{2}= \frac{(n-6)\pi}{n}=\frac{(n'-3)\pi}{n'},
\end{equation*}
\notag
$$
что делится на $2\pi/n'$ в силу нечетности $n'$. Также заметим, что в силу симметрии от всех пятерых сторон $\delta$ равноудалена точка $O_{n'-2}$ – точка пересечения биссектрис четырех углов, пересечением которых является $\delta$. Эти факты в совокупности с тем, что $\delta \subseteq \alpha_{n'-2}$, а $T'$ поворачивает $\alpha_{n'-2}$ на угол $(n-2(n'-2)/n)\pi= 4\pi/n=2\pi/n'$, доказывают следующую лемму. Лемма 28. 1) $\beta_{n'-2} \equiv \operatorname{comp}(O_{n'-2})$ есть открытый правильный $n'$-угольник, вписанный в $\delta$. 2) Точки $P_{n'-2}$, $Q_{n'-2}$, $Q_{n'-1}$ совпадают с тремя из вершин $\operatorname{comp}(O_{n'-2})$. Будем обозначать $n'$-угольник $\operatorname{comp}(O_{n'-2})$ через $\beta'$. Вершины же $\beta'$ мы обозначим как $B'_0B'_1\dots B'_{n'-1}$, причем нумерация идет против часовой стрелки, а точки $B'_0$ и $B'_1$ лежат на луче $A_0A_1$. Таким образом, $B'_0=P_{n'-2}$, $B'_1=P'_{n'-2}$, $B'_{(n'+1)/2}=Q_{n'-1}$. Заметим, что, как и в случае c $V' \setminus \beta$, $Z' \setminus \beta'$ представляет собой объединение двух не связанных между собой фигур-многоугольников; назовем эти фигуры $Z'_1$ и $Z'_2$, где $Z'_1$ – более близкий к вершине $A_1$ (более того, одна из вершин $Z'_1$ совпадает с $A_1$). По построению точки $B'_1$, $B'_2$, $B_{n'+3}$ и $B_{n'+2}$ лежат на одной прямой. Эта прямая делит фигуру $Z'_2$ на фигуры-многоугольники $B'_0B_0B_{n-1}B_{n-2}\dots B_{n'+3}$ и $B_{n'+2}B'_2B'_3\dots B'_{(n'+1)/2}$; назовем эти фигуры $Z'_{21}$ и $Z'_{22}$ соответственно; будем считать их открытыми. Примеры фигур $Z'_1$, $Z'_{21}$ и $Z'_{22}$ изображены на рис. 11. Введем еще несколько обозначений: a) $T'_{Z'_{21}}$ и $T'_{Z'_{22}}$ – это преобразования первого возвращения относительно $T'$ для $Z'_{21}$ и $Z'_{22}$ соответственно; b) $V'_{\beta'}$ – открытый угол между лучами $B'_0B'_1$ и $B'_1B'_2$; c) $T_{\beta'}$ – внешний биллиард вне многоугольника $\beta'$, а $T'_{\beta'}\colon V'_{\beta'} \to V'_{\beta'}$ – преобразование, индуцированное $T_{\beta'}$ и эквивалентностью относительно поворота вокруг центра $\beta'$ на угол $2\pi/n'$. Из того факта, что $O_{n'-1}$ является точкой пересечения биссектрис угла $V'_{\beta'}$ и угла, образованного лучами $B'_{(n'+1)/2}B'_{(n'-1)/2}$ и $B'_{(n'+3)/2}B'_{(n'+1)/2}$ (последняя биссектриса параллельна прямым $A_0A_1$ и $A_{n'}A_{n'+1}$ и равноудалена от этих прямых), и устройства $\beta$ следует лемма 29. Такая лемма означает, что фигура $Z'_{21}$ инвариантна относительно $T'_{\beta'}$. Следующая лемма устанавливает важнейшую связь между внешними биллиардами. Лемма 30. 1) Если рассмотреть $T'_{\beta'}$ как преобразование на $Z'_{21}$, то $T'_{\beta'}\,{=}\,T'_{Z'_{21}}$. 2) Если рассмотреть $T'$ как преобразование на $Z'_1$, то $T'_{Z'_{22}}$ сопряжено с $T'$ относительно поворота вокруг точки $O'_{n'-2}$ на угол $(n'-1)\pi/n'$ против часовой стрелки; указанный поворот переводит $Z'_{22}$ в $Z'_1$. 3) Пусть $p$ – неграничная точка или компонента (периодическая или апериодическая), лежащая в $Z'_2$. Тогда существуют неграничная точка или компонента $q$, лежащая в $Z'_{21}$, и целое неотрицательное число $k=k(p)$ такие, что $T'^k(q)=p$. Доказательство леммы 30 может быть проведено теми же методами, что и доказательство леммы 24. Траектории первого возвращения для $T'_{Z'_{21}}$ и $T'_{Z'_{22}}$ в случае $n=14$ изображены на рис. 12. Из леммы 30, а также эквивалентности периодических структур на углах $\operatorname{ang}_1$, порождающих периодические структуры в $Z''$ для правильных $n$-угольника $\gamma$ и $n/2$-угольника $\beta'$ (см. лемму 26), напрямую следует лемма 31. Лемма 31. 1) Если существует апериодическая точка для внешнего биллиарда вне правильного $n/2$-угольника, то такая точка существует и для внешнего биллиарда вне правильного $n$-угольника. 2) Если периодические точки для внешнего биллиарда вне правильного $n$-угольника образуют множество полной меры, то и периодические точки для внешнего биллиарда вне правильного $n/2$-угольника образуют множество полной меры. В совокупности с леммой 27 мы получаем следующий результат, который и является переформулировкой теоремы 6. Лемма 32. 1) Апериодическая точка для внешнего биллиарда вне правильного $n/2$-угольника существует, если и только если такая точка существует и для внешнего биллиарда вне правильного $n$-угольника. 2) Периодические точки для внешнего биллиарда вне правильного $n$-угольника образуют множество полной меры, если и только если периодические точки для внешнего биллиарда вне правильного $n/2$-угольника образуют множество полной меры. Отметим, что из доказанных лемм следует не столько эквивалентность проблем периодичности, сколько в определенном смысле идентичность периодических структур, возникающих во внешних биллиардах вне правильных $n$- и $n/2$-угольников. Такое свойство было отмечено для правильных пяти- и десятиугольников рядом авторов (см., например, [11], [22], а также [13]); нам же удалось показать, что подобное имеет место и для произвольного $n=4k+2$, $k \in \mathbb{Z}$, $k \geqslant 2$. В случае $k=1$ и $n=6$, фигура $Z'$ вырождается в треугольник, являющийся по совместительству аналогом фигуры $\beta'$; для треугольника же фигура $Z'$ вырождается в пустое множество. 5.4. Четное $n$: доказательство теоремы 5Здесь, как и в п. 5.3, будем предполагать, что $n$ четное; однако предположение о нечетности $n/2$ будет уже не актуально; более того, те же рассуждения будут корректными для произвольного четного $n \geqslant 4$. Цель – доказать теорему 5, т. е. свести исследование проблем периодичности относительно $T'$ на угле $V'$ к исследованию тех же проблем относительно того же $T'$ на фигуре $Z'$ (а точнее, на $Z' \cup \beta$). Такое сведение было выполнено в [13] для случая $n=10$. Здесь мы обобщим сведение до произвольного четного $n \geqslant 4$. Пусть $H\colon V' \to \alpha_{n'}=\operatorname{ang}_2$ есть параллельный перенос на вектор $A_1Q_{n'+1}$, а $H'\colon V' \to \operatorname{ang}_1$ – параллельный перенос на вектор $A_1B_1$. Отметим, что если расширить область определения $H'$ до всей $\mathbb{R}^2$, то $H'$ переведет $\gamma$ в $\beta$. Из леммы 24, определения $T'_{\gamma, \operatorname{ang}_1}$ и того факта, что $T'(\operatorname{ang}_2)=\operatorname{ang}_1$, очевидно следует лемма 33. Лемма 33. Пусть $p \in \operatorname{int}(V')$ и $q=H'(p)$ или $q=H(p)$. Тогда $p$ – граничная (периодическая, апериодическая), если и только если $q$ – граничная (периодическая, апериодическая). Важнейшей для нас оказывается следующая лемма. Лемма 34. Пусть $q \in V'$ – периодическая (апериодическая) точка. Тогда существует периодическая (апериодическая) точка $p \in Z' \cup \beta$, число $m \in \mathbb{Z}_{\geqslant 0}$ и последовательность преобразований $f_1,f_2,\dots,f_m$, так что $q=f_m(f_{m-1}(\dots f_2(f_1(p))\dots ))$, а каждое из преобразований $f_j$, $j=1,2,\dots,m$, является либо $T'$, либо $H$. Доказательство. Из леммы 33 автоматически следует, что множество периодических (апериодических) точек инвариантно относительно $T'$ и $H$; следовательно, достаточно получить из $q$ с помощью преобразований $T'^{-1}$, $H^{-1}$ точку, лежащую в $Z'$. Пусть $S$ есть бесконечная полоса, ограниченная отрезком $A_1B_1$ и лучами $A_1A_2$, $B_1B_2$. Заметим, что с точностью до граничных точек луча $B_0B_1$, $V' \setminus S= T'(\alpha_{n'})=T'(\operatorname{ang}_2)=\operatorname{ang}_1$, причем для произвольной точки $r \in \operatorname{ang}_1$ верно: $T'^{-1}(r)$ есть параллельный перенос на вектор $\overrightarrow{B_1B_{n'+1}}=\overrightarrow{A_1A_{n'+1}}$; будем применять $T'^{-1}$ к точке $q$ до тех пор, пока $q$ не попадет в $S$. Затем применим $H^{-1}$ к $q$ максимальное количество раз так, чтобы точка не вышла за пределы $V'$. По построению теперь $q$ лежит либо в $Z' \cup \beta$, либо в фигуре, центрально симметричной $Z'$ относительно $O_{n'-1}$. В первом случае лемма доказана; во втором же для завершения доказательства достаточно применить к $q$ преобразование $T'^{-1}$ не более $n'-2$ раз так, чтобы $q$ попала в $\operatorname{ang}_1$, после чего применить еще раз $T'^{-1}$; несложно показать, что в этом случае точка окажется внутри $H(Z')$, и применение $H^{-1}$ поместит точку внутрь $Z'$. Лемма доказана. Усилим доказанную лемму. Лемма 35. Пусть $q \in V'$ – периодическая (апериодическая) точка. Тогда существует периодическая (апериодическая) точка $p \in Z' \cup \beta$ и числа $k, l \in \mathbb{Z}_{\geqslant 0}$ такие, что $q=T'^l(H^k(p))$. Доказательство. Согласно лемме 24 и тому факту, что $T'(\operatorname{ang}_2)= \operatorname{ang}_1$ (причем $T'(\operatorname{ang}_2)$ есть параллельный перенос), для любой неграничной точки $p' \in V'\colon H(T'(p'))=T'_{\operatorname{ang}_2}(H(p'))= T'^m(H(p'))$, $m=m(p')$. Применив такое равенство достаточное число раз к цепочке преобразований, полученной в лемме 34, получим требуемое в нашей лемме равенство. Лемма доказана. С помощью леммы 35 можно свести (ограничить) область рассмотрения проблем периодичности с $V'$ до $Z'$, т. е. доказать теорему 5 (строго говоря, для случая четного $n$), что мы и сделаем. Лемма 36. 1) Апериодическая точка $q \in V'$ существует, если и только если существует апериодическая точка $p \in Z'$. 2) Периодические точки образуют внутри $V'$ множество полной меры, если и только если периодические точки образуют множество полной меры внутри $Z'$. Доказательство. В свете леммы 35 неочевидным остается лишь утверждение о том, что если периодические точки образуют множество полной меры в $Z'$, то такие точки образуют множество полной меры и в $V'$. Докажем этот факт с помощью леммы 4. Как следует из леммы 35, любая апериодическая точка $q \in V'$ может быть выражена в виде $q=f(p)$, $f=H^k \circ T'^l$, $k, l \in \mathbb{Z}_{\geqslant 0}$. Множество таких всевозможных $f$ счетно; при этом $T'$ не является движением – оно является лишь кусочным движением. Однако количество кусков в $T'$ равно ${n'}$, т. е., чтобы применить к некоторой точке $p' \in V'$ преобразование $T'$, необходимо применить к $p'$ одно из $n'$ наперед заданных движений, описанных в леммах 20, 22. Заменив в каждой возможной композиции $f$ каждое из преобразований $T'$ независимо от остальных $T'$ на какое-то из этих $n'$ движений всеми возможными способами, мы получим все еще счетное множество движений $F'$, так что для любой апериодической точки $q \in V'$ найдется такая апериодическая точка $p \in V'$ и такое движение $f' \in F'$, что $q=f'(p)$. Следовательно, если апериодические точки в множестве $Z'$ образуют множество меры нуль, то апериодические точки образуют множество меру нуль и в $V'$ (формально говоря, см. также лемму 3). Лемма доказана. Таким образом, проблемы периодичности в случае внешних биллиардов вне правильных многоугольников достаточно исследовать лишь для инвариантных фигур $Z'$. Строго говоря, из предыдущей леммы это совместно с утверждением теоремы 5 следует лишь для случая четного $n$; однако если $n/2$ нечетно, то из леммы 30 напрямую следует эквивалентность проблем периодичности для $Z'$ вне $n$-угольника и $Z'$ вне $n/2$-угольника. В совокупности с леммой 36 мы получаем полное доказательство теоремы 5. Помимо этого, мы получаем, что с точки зрения проблем периодичности (равно как и многих других проблем, связанных с порождаемыми внешними биллиардами вне правильных многоугольников замощениями) для произвольного $n$, достаточно исследовать лишь случаи, когда $n$ четное. § 6. Внешние биллиарды вне правильного восьмиугольника: ренормализационная схема по ТабачниковуВ данном параграфе мы исследуем проблемы периодичности для внешнего биллиарда вне правильного восьмиугольника. Применяемый нами способ анализа аналогичен методу, использованному в [13]; этот же метод основан на ренормализационной схеме, примененной С. Табачниковым в [4]. 6.1. Основные определения и компонентыВ данном пункте $n=8$, фигурой $\beta=\beta_3$ является правильный восьмиугольник, равный $\gamma$, фигурой $Z'$ – четырехугольник $A_1B_0B_7B_6$, фигурой $\alpha_1$ – открытый треугольник $A_1P_2Q_2$, а фигурой $\alpha_2$ – четырехугольник $P_2P_3Q_3Q_2$. Преобразование $T'$ инвариантно относительно $Z'$ и делит фигуру $Z'$ на фигуры $\alpha_1$, $\alpha_2$ и треугольник $Q_3B_7B_6$, который мы обозначим через $\alpha'_3$ (рис. 13). Согласно лемме 20 $T'$ поворачивает $\alpha_1$ на угол $3\pi/4$ против часовой стрелки вокруг точки $O_1$, $\alpha_2$ – на $\pi/2$ против часовой стрелки вокруг $O_2$, а $\alpha'_3$ – на угол $\pi/4$ против часовой стрелки вокруг точки $O_3$, центра $\beta_3$ (определение точек $O_i$ и других базовых обозначений см. в п. 5.1). Как же выглядят $\beta_1=\operatorname{comp}(O_1)$ и $\beta_2=\operatorname{comp}(O_2)$? Лемма 37. Фигуры $\beta_1$ и $\beta_2$ суть правильные восьмиугольники, вписанные в фигуры $\alpha_1$ и $\alpha_2$ соответственно с центрами в точках $O_1$ и $O_2$. Соответствующие многоугольники изображены на рис. 14. Для доказательства достаточно проверить, что при применении $T'$ указанные восьмиугольники переходят сами в себя, а каждый из отрезков, образующих границу, на какой-то итерации $T'$ целиком попадает на один из лучей $A_0A_1$, $A_2A_1$, $A_3A_2$, $A_4A_3$. Обозначим вершины многоугольника $\beta_i$, $i=1, 2, 3$, через $B^i_0$, $B^i_1$, $\dots$, $B^i_7$ таким образом, что нумерация идет против часовой стрелки, а точки $B^i_0$, $B^i_1$ лежат на луче $A_0A_1$. В частности, точки $B^3_0$, $B^3_1$, $\dots$, $B^3_7$ совпадают с точками $B_0$, $B_1$, $\dots$, $B_7$ соответственно. Введем еще две важные точки. Пусть точка $O_{32}$ есть точка пересечения биссектрис углов четырехугольника $B^2_3B^2_4B^2_5B^3_6$ (в силу симметричности четырехугольника такая точка существует), а $O_{23}$ – точка пересечения биссектрис четырехугольника $B^2_1B^2_2B^2_3B^3_0$. Все утверждения следующей леммы легко проверяемы. Лемма 38. 1) Преобразование $T'(O_{32})=O_{23}$, $T'(O_{23})=O_{32}$. 2) $\operatorname{comp}(O_{32})$ есть открытый правильный восьмиугольник с центром в $O_{32}$, вписанный в угол $B^2_3B_6B^2_5$. 3) $\operatorname{comp}(O_{23})$ есть открытый правильный восьмиугольник с центром в $O_{23}$, вписанный в угол $B^2_1B_0B^2_3$. 4) $B^2_4$ – вершина $\operatorname{comp}(O_{32})$, а $B^2_2$ – вершина $\operatorname{comp}(O_{23})$. 5) $T'(\operatorname{comp}(O_{32}))=\operatorname{comp}(O_{23})$, $T'(\operatorname{comp}(O_{23}))=\operatorname{comp}(O_{32})$. Обозначим $\operatorname{comp}(O_{32})$ через $\beta_{32}$, а $\operatorname{comp}(O_{23})$ – $\beta_{23}$. 6.2. Самоподобие и его свойстваКлючевым в нашем анализе оказывается свойство самоподобия, возникающее в данном внешнем биллиарде и устанавливаемое следующим образом. Пусть $\Gamma$ – гомотетия с центром в точке $A_1$ и коэффициентом $\lambda=|A_1O_1|/|A_1O_3|$. Такое $\Gamma$ переводит $O_3$ в $O_1$, а $B^3_j$ в $B^1_j$, $j=0, 1, \dots, 7$. Пусть также $Z'_\Gamma=\Gamma(Z')$, а $T'_{Z'_\Gamma}$: $Z'_\Gamma \to Z'_\Gamma$ есть преобразование первого возвращения на $Z'_\Gamma$ относительно $T'$. Лемма 39. Рассмотрим $T'$ как преобразование $T'\colon Z' \to Z'$. Тогда $T'$ сопряжено с $T'_{Z'_\Gamma}$ относительно преобразования $\Gamma$. Доказательство. Рассмотрим рис. 15. На нем изображены помеченные цифрой $0$ фигуры $\Gamma(\alpha_1)$, $\Gamma(\alpha_2)$, $\Gamma(\alpha'_3)$, а также их траектории при последовательном применении $T'$. До возвращения в $Z'_{\Gamma}$ последовательное применение операции $T'$ к каждой из этих трех открытых фигур является движением; номер фигуры означает, после скольки применений $T'$ соответствующая фигура из $\Gamma(\alpha_1)$, $\Gamma(\alpha_2)$, $\Gamma(\alpha'_3)$ перешла в текущее состояние. Из рис. 15 следует, что: 1) для любой из фигур $U \in \{\Gamma(\alpha_1), \Gamma(\alpha_2),\Gamma(\alpha'_3) \}\colon T'^{k(U)}(U)=\Gamma(T'(\Gamma^{-1}(U)))$, где $k(U)$ – количество итераций $T'$ до первого возвращения соответствующей фигуры; 2) для точек, лежащих на открытых отрезках – границах между $\Gamma(\alpha_1)$ и $\Gamma(\alpha_2)$, а также между $\Gamma(\alpha_2)$ и $\Gamma(\alpha'_3)$, преобразование первого возвращения $T'_{Z'_{\Gamma}}$ не определено (первый из отрезков после первого же применения $T'$ попадает на луч $A_2A_1$, а второй после семи итераций $T'$ оказывается на луче $A_4A_3$). Эти наблюдения и являют собой доказательство леммы. Согласно рис. 15 и предыдущему доказательству верны следующие свойства самоподобия. Оставшиеся в данном пункте понятия и леммы мы введем по аналогии c п. 3.9 в [13]; для полноты картины приведем доказательства полностью. Введем понятие ранга точки. Определение 22. Пусть $p \in Z'$. Тогда рангом точки $p$, или $\operatorname{rk}(p)$, назовем максимальное целое неотрицательное $k=k(p)$ такое, что $\Gamma^{-k}(p) \in Z'$. Определение 23. Пусть $p\,{\in}Z'$ – периодическая точка с периодом $\mathrm{per}'(p)\,{=}\,k$. Тогда рангом орбиты точки $p$, или $\operatorname{rko}(p)$, назовем число $\max\{\operatorname{rk}(T'^j(p)) \mid j\,{\in}\,\mathbb{Z}, j \in [0, k)\}$. Лемма 41. Пусть $q \in Z'$ – периодическая точка, и $\operatorname{rk}(q)=\operatorname{rko}(q)=k>0$. Тогда $\operatorname{rk}(p)=\operatorname{rko}(p)=k-1$, где $p=\Gamma^{-1}(q)$. Доказательство. В силу сопряженности из леммы 39, $p$ также периодическая; пусть $l= \mathrm{per}'(p)$. Тогда по той же лемме 39 $\forall\, j,\ 0 \leqslant j \leqslant l$: $T^{\prime j}_{Z'_{\Gamma}}(q)= \Gamma({T'}^j(p))$, причем ${T^{\prime l}_{Z'_{\Gamma}}}(q)=q$. Согласно определениям $T'_{Z'_{\Gamma}}$ и понятия ранга среди точек орбиты точки $q$ относительно $T'$ только точки $ \{ T_{Z'_{\Gamma}}^{\prime j}(q), 0 \leqslant j<l \} $ обладают отличным от нуля рангом, причем $\forall\, j \in [0, l)$: $\operatorname{rk}(T_{Z'_{\Gamma}}^{\prime j}(q))=1+\operatorname{rk}({T'}^j(p)) $. Следовательно, $\operatorname{rko}(p)=\operatorname{rk}(p)=k-1$. Лемма доказана. Из леммы 41 следует аналогичная лемме 35 лемма 42. Лемма 42. Любая периодическая точка (компонента) $q \in Z'$ ($q \subset Z'$) может быть представлена в виде $q=T'^l(\Gamma^k(p))$, где $p \in Z' \setminus Z'_\Gamma$ ($p \subset Z' \setminus Z'_\Gamma$), $p$ – периодическая точка ранга $0$ ($p \in \{\beta_1, \beta_2, \beta_{32}\}$), $k, l \in \mathbb{Z}_{\geqslant 0}$. Доказательство. “Точечная” часть очевидно следует из леммы 41. “Компонентная” же часть леммы 42 следует из того, что граница $(\partial \Gamma(Z')) \cap Z'$ состоит лишь из граничных точек. Из этого же утверждения следует, что понятия ранга и ранга орбиты могут быть естественным образом обобщены и на периодические компоненты внутри $Z'$. Из рис. 15 следует, что периодическими компонентами ранга $0$ являются правильные многоугольники $\beta_1$, $\beta_2$, $\beta_{32}$ и $\beta_{23}=T'(\beta_{23})$, ибо все периодические точки $Z'$, не принадлежащие $\beta_1$, $\beta_2$, $\beta_{32}$, $\beta_{23}$, лежат на траекториях возвращения $T'$ в $Z'_\Gamma$. 6.3. Доказательство теоремы 1Здесь мы докажем, что для внешнего биллиарда вне правильного восьмиугольника найдется апериодическая точка. Пусть $f=\Gamma^2 \circ {T'}^2$, $X=f(Z')$, а $T'_X\colon X \to X$ – преобразование первого возвращения относительно $T'$ на $X$. Отметим, что $X$ является четырехугольником, подобным $Z'$ с коэффициентом подобия $\lambda^2$ (см. рис. 16). Из леммы 39 очевидно следует лемма 43. Лемма 43. Преобразование $T'\colon Z' \to Z'$ сопряжено с $T_X\colon X \to X$ относительно преобразования $f$. Рассмотрим последовательность периодических компонент $C_0, C_1, C_2, \dots$, устроенную следующим образом: $C_0=\beta_2$, $C_1=\beta_{23}$, $C_2=T'^2(\Gamma(\beta_1))$ ($C_2=T'^2(\Gamma^2(\beta))$), $C_{i+3}=f(C_i)$, $i=0, 1, 2, \dots$ . Фигуры $C_0$, $C_1$, $C_2$, $X$ изображены на рис. 16. Наконец, пусть точка $c_{\mathrm{inf}} \in X$ есть предел последовательности $C=\{C_i\}_{i= 0}^{\infty}$. Докажем, что $c_{\mathrm{inf}}$ (неподвижная точка преобразования $f$) является искомой апериодической точкой. Для этого заметим, что верна следующая лемма. Лемма 44. Преобразование $f$ есть композиция сжатия с коэффициентом $\lambda^2$ с центром в точке $c_{\mathrm{inf}}$ и поворота на угол $\pi/4$ вокруг точки $c_{\mathrm{inf}}$ по часовой стрелке. Используя такое представление о преобразовании $f$, докажем следующие две леммы. Доказательство. Пусть $c_{\mathrm{inf}}$ – периодическая точка. Тогда последовательность различных периодических компонент $C$ стремится к точке, лежащей внутри периодической компоненты $c_{\mathrm{inf}}$, что приводит к противоречию. Лемма доказана. Доказательство. Пусть $c_{\mathrm{inf}}$ – граничная точка. Тогда по лемме 2 существует открытый отрезок длины $2l$, $l \in \mathbb{R}_+$, c серединой в $c_{\mathrm{inf}}$ и состоящий лишь из граничных точек. С другой стороны, компоненты $C_0$, $C_1$, $C_2$ устроены таким образом, что любая прямая, проходящая через $c_{\mathrm{inf}}$, проходит через хотя бы одну из этих компонент, что накладывает ограничение сверху на длину $l$. Однако согласно лемме 44 то же утверждение верно для троек компонент $(C_3, C_4, C_5)$, $(C_6, C_7, C_8)$, $\dots$, причем ограничения сверху, накладываемые на $l$ каждой тройкой, сходятся к нулю (в силу сходимости $C$ к $c_{\mathrm{inf}}$). Следовательно, $l$ не может быть больше, чем $0$, что приводит нас к противоречию. Лемма доказана. Таким образом, $c_{\mathrm{inf}}$ не является ни граничной, ни периодической точкой; следовательно, $c_{\mathrm{inf}}$ – апериодическая точка, и теорема 1 доказана. 6.4. Доказательство теоремы 2Для доказательства теоремы 2 введем пару определений. Определение 24. Пусть $W \subset \mathbb{R}^2$ – многоугольник. Тогда разбиением $W$ назовем конечное множество многоугольников $\mathcal{W}=\{W_1, W_2, \dots, W_k\}$, $k \in \mathbb{Z}_+$, таких, что: a) $W=\bigcup_{j=1}^{k} W_j$; b) $\forall\, i,j$, $1 \leqslant i<j \leqslant k\colon \operatorname{int}(W_i) \cap \operatorname{int}(W_j)=\varnothing$. Определение 25. Пусть $W \subset \mathbb{R}^2$ – многоугольник, а $\mathcal{W}^1$, $\mathcal{W}^2$ – его разбиения. Тогда $\mathcal{W}^2$ является подразбиением $\mathcal{W}^1$, если $\forall\, Q \in \mathcal{W}^2 \ \exists\, P \in \mathcal{W}^1\colon Q \subset P$. Другими словами, подразбиение разбиения $\mathcal{W}^1$ есть объединение разбиений многоугольников, входящих в состав $\mathcal{W}^1$. С разбиениями связана следующая лемма. Лемма 47. Пусть $W$ есть произвольный многоугольник. Рассмотрим последовательность $(\mathcal{W}^{\,l})_{l \in \mathbb{Z}_+}$ разбиений $W$ на конечное число многоугольников, устроенную следующим образом: 1) $\forall\, l \in \mathbb{Z}_+$: $\mathcal{W}^{\,l+1}$ есть подразбиение $\mathcal{W}^{\,l}$; 2) каждый встречающийся хотя бы в одном из разбиений последовательности $(\mathcal{W}^{\,l})_{l \in \mathbb{Z}_+}$ многоугольник в каждом разбиении покрашен в зеленый или красный цвет, причем этот цвет может зависеть от конкретного разбиения; 3) $\forall\, l \in \mathbb{Z}_+$: если $A \in \mathcal{W}^{\,l}$ и $A$ – зеленый в разбиении $\mathcal{W}^{\,l}$, то $A \in \mathcal{W}^{\,l+1}$ и $A$ – зеленый в разбиении $\mathcal{W}^{\,l+1}$; 4) существуют числа $\epsilon \in \mathbb{R}_+$ и $k \in \mathbb{Z}_+$ такие, что для любого $l \in \mathbb{Z}_+$ и любого красного многоугольника $U \in (\mathcal W^{\,l})$ гарантируется, что в $(l+k)$-м разбиении зеленые фигуры, лежащие внутри $U$, обладают суммарной площадью не меньшей, чем $\epsilon A$, где $A$ есть площадь фигуры $U$. Тогда объединение участвующих в разбиениях зеленых фигур образует в $W$ множество полной меры. Доказательство. Пусть $S_l$, $l \in \mathbb{Z}_+$, есть суммарная площадь красных фигур в разбиении $(\mathcal W^{\,l})$. Достаточно показать, что $S_l$ стремится к нулю; это следует из того, что $\forall\, l \in \mathbb{Z}_+$: $S_l \geqslant S_{l+1}$; $S_{l+k} \leqslant (1-\epsilon)\cdot S_l$; $1-\epsilon$ есть положительная константа, строго меньшая единицы. Лемма доказана. С помощью леммы 47 докажем следующую лемму, из которой с помощью леммы 36 и следует утверждение теоремы 2. Доказательство. Чтобы воспользоваться леммой 47, введем последовательность раскрашенных в красный и зеленый цвета разбиений $(\mathcal{Z}^l)_{l \in \mathbb{Z}_+}$ многоугольника $\overline{Z'}$, устроенную следующим образом: a) $(\mathcal{Z}^1)$ состоит из трех красных фигур $\overline{\alpha_1}$, $\overline{\alpha_2}$ и $\overline{\alpha'_3}$; b) $\forall\, l\,{\in}\,\mathbb{Z}_+$: $\mathcal{Z}^{l+1}{=}\bigl\{\bigcup\{\overline{T^{\prime j}(\Gamma(\operatorname{int}(P)))}\} \,|\, P{\kern1pt}{\in}{\kern1pt}\mathcal{Z}^l,\, 0\,{\leqslant}\, j\,{<}\,k(P)\bigr\} \cup \{\overline{\beta_2}, \overline{\beta_3}, \overline{\beta_{32}}, \overline{\beta_{23}}\}$; здесь $k(P)$ есть минимальное такое $t \in \mathbb{Z}_+$, что $(T^{\prime k}(\operatorname{int}(P))) \subset Z'_\Gamma$; c) в терминах предыдущего пункта, многоугольник $\overline{T^{\prime j}(\Gamma(\operatorname{int}(P)))}$ зеленый в разбиении $(\mathcal{Z})^{l+1}$, если и только если $P$ зеленое в разбиении $(\mathcal{Z})^l$; d) фигуры $\overline{\beta_2}$, $\overline{\beta_3}$, $\overline{\beta_{32}}$, $\overline{\beta_{23}}$ являются зелеными во всех разбиениях, в которых участвуют. Первые четыре разбиения последовательности $\mathcal{Z}^l$ изображены на рис. 17. Из рис. 15 следует, что $\mathcal{Z}^2$ есть разбиение $Z'$; тот же факт, что $\mathcal{X}^{l+1}$ является подразбиением $\mathcal{X}^l$ для любого $l \in \mathbb{Z}_+$, легко доказать по индукции на основе леммы 39. Более того, на основе той же леммы можно вывести по индукции, что в разбиении $\mathcal{Z}^l$, $l \in \mathbb{Z}_+$, все зеленые многоугольники являются периодическими компонентами (точнее, их замыканиями), а красные являются траекториями первого возвращения в $\Gamma^{l-1}(Z')$ относительно $T'$ открытых треугольников $\Gamma_{l-1}(\alpha_1)$, $\Gamma_{l-1}(\alpha_2)$, $\Gamma_{l-1}(\alpha'_3)$. Таким образом, выполнены условия 1)–3) леммы 47. С другой стороны, заметим, что при переходе от $\mathcal{Z}^l$ к $\mathcal{Z}^{l+1}$ фигура $\Gamma^{l-1}(\alpha_1)$ подразбивается на несколько фигур, среди которых есть и зеленая фигура $\Gamma^{l-1}(\beta_1)$. При этом вместе с ней сопряженным относительно итераций $T'$ образом подразбиваются и все фигуры траектории первого возвращения $\Gamma^{l-1}(\alpha_1)$ относительно $T'$ на $\Gamma^{l-1}(Z')$. Следовательно, во всех фигурах этой траектории как минимум $\epsilon_1$-я доля площади стала зеленой, где $\epsilon_1= \operatorname{Area}(\beta_1)/\operatorname{Area}(\alpha_1)$. Аналогичным образом обстоят дела с фигурами, порожденными $\Gamma^{l-1}(\alpha_2)$ и $\Gamma^{l-1}(\alpha'_3)$; для них $\epsilon_2= (\operatorname{Area}(\beta_1)+\operatorname{Area}(\beta_{23}))/\operatorname{Area}(\alpha_2)$, $\epsilon_3= \operatorname{Area}(\beta_{32})/\operatorname{Area}(\alpha'_3)$. Таким образом, условие 4) леммы 47 верно при $\epsilon= \min(\epsilon_1, \epsilon_2, \epsilon_3)$, $k=1$. Итак, все условия леммы 47 выполнены; как следствие, зеленые фигуры, которые представляют собой периодические компоненты, образуют в $Z'$ множество полной меры. Лемма доказана. § 7. Внешние биллиарды вне правильного двенадцатиугольника: ренормализационная схема по ТабачниковуВ § 6 мы проанализировали внешний биллиард вне правильного восьмиугольника; нам удалось полностью описать все его периодические компоненты в фигуре $Z'$ и, как следствие, в угле $V'$. В данном параграфе речь пойдет о правильном двенадцатиугольнике. Исследование будет проводиться с помощью ренормализационной схемы по Табачникову, как и в случае правильного восьмиугольника; однако некоторые утверждения будут иметь компьютерное доказательство, т. е. проверены с помощью некоторого алгоритма, реализованного на языке программирования Python. 7.1. Компьютерные вычисленияВ данном, техническом, разделе мы обсудим основные моменты, которые позволяют проводить вычисления абсолютно точно. Будем считать, что базисные векторы заданы правоориентированным образом. Базовым таким решением является создание типа данных $Absqrt3$, в котором будут храниться нужные нам числа. Определение 26. Назовем число $x\,{\in}\, \mathbb{R}$ вычисляемым, если $x \in \mathbb{Q}[\sqrt{3}\,]$; другими словами, существуют такие рациональные числа $a$, $b$, что $x=a+b\sqrt{3}$. Заведем класс $Absqrt3$ и будем хранить в нем поля $a$, $b$ типа $Fraction$. Последний тип, находящийся в модуле fractions, хранит в себе рациональное число в виде несократимой дроби с, как следствие, абсолютной точностью. Числитель и знаменатель дроби могут быть произвольной величины, ибо Python, в отличие от многих других языков, не накладывает ограничения на размер числа, хранимого в переменной целочисленного типа $int$. Для типов $int$ и $Fraction$ в языке Python реализованы все арифметические операции. Над вычисляемыми числами алгоритмическим образом можно проводить следующие операции: – сложение: $(a+b\sqrt{3})+(c+d\sqrt{3})=(a+c)+(b+d)\sqrt{3} \in \mathbb{Q}[\sqrt{3}\,]$; – вычитание: $(a+b\sqrt{3})-(c+d\sqrt{3})=(a-c)+(b-d)\sqrt{3} \in \mathbb{Q}[\sqrt{3}\,]$; – умножение: $(a+b\sqrt{3}) \cdot (c+d\sqrt{3})=(ac+3bd)+(bc+ad)\sqrt{3} \in \mathbb{Q}[\sqrt{3}\,]$; – деление: $(a+b\sqrt{3})/(c+d\sqrt{3})= (a+b\sqrt{3})(c- d\sqrt{3})/(c^2-3d^2) \in \mathbb{Q}[\sqrt{3}\,]$; – сравнение с $0$: $a+b\sqrt{3}>0$, если и только если выполнено одно из следующих условий:
– сравнение между собой: если $q1, q2 \in \mathbb{Q}[\sqrt{3}\,]$, то $q1>q2 \Longleftrightarrow q1-q2>0$. Определение 27. Произвольную точку (произвольный вектор) $p(v)$ назовем вычисляемой(-ым), если обе ее (его) координаты являются вычисляемыми числами. С точки зрения компьютерных вычислений, точка и вектор очень похожи – оба кодируются координатами $x, y$. Имея в виду вдобавок, что любую точку можно интерпретировать как радиус-вектор с концом в этой точке, создадим класс $MyPoint$, в котором будем хранить поля $x$, $y$ типа $Absqrt3$. Над такими векторами реализуем следующие операции: – сложение: $v1+v2=MyPoint(v1.x+v2.x, v1.y+v2.y)$; – вычитание: $v1-v2=MyPoint(v1.x-v2.x, v1.y-v2.y)$; – умножение на вычисляемое число: $v \cdot d=d \cdot v=MyPoint(d \cdot v.x, d \cdot v.y)$; – деление на вычисляемое число: $v / d=MyPoint(v.x / d, v.y / d)$; – скалярное произведение: $(v1, v2)=v1.x \cdot v2.x+v1.y \cdot v2.y$; – векторное (псевдовекторное, косое) произведение: $[v1, v2]=v1.x \cdot v2.y-v2.x \cdot v1.y$; – поворот на угол $\pi/6$ против часовой стрелки: если то
$$
\begin{equation*}
\begin{pmatrix} v'.x \\ v'.y \end{pmatrix}=\begin{pmatrix} \dfrac{\sqrt{3}}{2} & -\dfrac{1}{2} \\ \dfrac{1}{2} & \dfrac{\sqrt{3}}{2} \end{pmatrix} \cdot \begin{pmatrix} v.x \\ v.y \end{pmatrix}.
\end{equation*}
\notag
$$
При исследовании внешних биллиардов существенную роль играют точки пересечения прямых. Введем класс $MyLine$, который будет задавать прямую. В классе будем хранить поля $p1$, $p2$ типа $MyPoint$ – некоторые две лежащие на прямой точки. Важнейшим фактом, за счет которого удается проводить компьютерные вычисления, является следующая лемма. Доказательство. Пусть $p1$, $p2$ – две различные точки на плоскости; тогда прямую $l$, проходящую через эти две точки, можно описать следующими двумя способами: a) $l=\{p1+(p2-p1) \cdot t\mid t \in \mathbb{R} \}$; b) $l=\{p \in \mathbb{R}^2\mid [p-p1,\, p2-p1]=0 \}$. Пусть $l1$, $l2$ – переменные типа $Line$, задающие непараллельные прямые, и пусть $p$ – их точка пересечения. Тогда верна следующая система уравнений относительно точки $p$ и переменной $t \in \mathbb{R}$:
$$
\begin{equation*}
\begin{cases} p=l1.p1+(l1.p2-l1.p1) \cdot t, \\ [p-l2.p1,\, l2.p2-l2.p1]=0. \end{cases}
\end{equation*}
\notag
$$
Подставив первое уравнение во второе, получим линейное относительно $t$ уравнение $[l1.p1+ (l1.p2-l1.p1) \cdot t-l2.p1,\, l2.p2-l2.p1]=0$. Разрешая это уравнение, получим $t= [l2.p1- l1.p1,\, l2.p2-l2.p1]/[l1.p2-l1.p1,\, l2.p2-l2.p1]$, после чего из первого уравнения находим $p$. В силу того, что $t$ оказалось вычисляемым (а знаменатель – ненулевым в силу непараллельности прямых), вычисляемой является и точка $p$. Лемма доказана. Определение 29. Будем называть многоугольник вычисляемым, если все его вершины являются вычисляемыми точками. Будем задавать многоугольник как список (массив) точек. При вычислениях будем задавать $\gamma$ как вычисляемый многоугольник. Это возможно, ибо если $A_0$, $A_1$ – вычисляемые точки, то остальные вершины можно вычислить из соотношения $A_{i+1}-A_i=(A_i-A_{i- 1}).rotate30Counterclockwise()$, $i=1, 2, \dots, 10$. Из леммы 49 следует, что все точки, используемые нами в качестве обозначений, являются вычисляемыми. Строго говоря, для вычисляемости точек $O_i$, $i=1, 2, \dots$, необходимо отметить, что вычисляемой является и биссектриса угла, равного $\pi/6$ и образованного двумя вычисляемыми (в похожем ключе, что и для прямых) лучами. За счет этой вычисляемости мы и будем проводить вычисления, которые будут использованы в компьютерном доказательстве, с абсолютной точностью. 7.2. Базовые обозначения, точки и компонентыПерейдем непосредственно к анализу. Везде в данном параграфе будем считать, что $\gamma$ есть правильный вычислимый двенадцатиугольник $A_0A_1\dots A_{11}$, вершины которого занумерованы против часовой стрелки. В роли периодической компоненты $\beta= \beta_{n'-1}$ оказывается правильный двенадцатиугольник $B_0B_1\dots B_{11}$, причем ${\overrightarrow {B_0B_1}}={\overrightarrow{A_0A_1}}$ и $B_0=P_5$. Мы же исследуем преобразование $T'\colon Z' \to Z'$, где $Z'$ есть открытый многоугольник $A_1B_0B_{11}B_{10}B_9B_8$; это преобразование изображено на рис. 18. Данное преобразование делит $Z'$ на ранее определенные фигуры $\alpha_1$, $\alpha_2$, $\alpha_3$, $\alpha_4$ и фигуру $\alpha'_5=\alpha_5 \cap Z'$. Из леммы 21 известно, как найти $\beta$. Но что представляют из себя периодические компоненты $\beta_i$, $i=1, 2, 3, 4$? Ответ на этот вопрос мы дадим с помощью компьютерных вычислений. Для этого приведем алгоритм, который по заданной периодической точке $startPoint \in Z'$ находит ее периодическую компоненту. Лемма 50. Алгоритм 1 завершается и возвращает корректную компоненту. Доказательство. Из построения алгоритма следует, что в каждый момент времени, точка $p$ лежит на орбите точки $startPoint$ относительно $T'$, и $\operatorname{comp}(p) \subseteq U$. С другой стороны, в терминологии леммы 5 после $k$ итераций цикла $U=T'^{k}(U_k)$; тогда, согласно первому утверждению леммы 6, $U$ окажется равно $\operatorname{comp}(p)$ после не более чем $2m$ итераций, где $m=\mathrm{per}(p)=\mathrm{per}(startPoint)$ (не путать с $\mathrm{per}'(p)$). Начиная с этого момента, $U$ не будет уменьшаться по площади и не более чем через $m$ итераций встретится повторно. Возможно, первым повторно встретится более ранняя версия $U$; опять же из построения следует, что если многоугольник $U$ встретился повторно, то $U \subseteq \operatorname{comp}(p)$, откуда $U= \operatorname{comp}(p)$. Таким образом, по окончании цикла For, $U=\operatorname{comp}(p)$; последующий while переводит $\operatorname{comp}(p)$ в $\operatorname{comp}(startPoint)$; таким образом, возвращаемый многоугольник есть $\operatorname{comp}(startPoint)$. Лемма доказана. Вычислим теперь фигуры $\beta_i=\operatorname{comp}(O_i)$ с помощью небольшой модификации такого алгоритма 1. Модификация заключается в том, что $O_i= T'(O_i)$, в силу чего достаточно просто выполнять цикл for до тех пор, пока $U$ не станет равной $T'(U)$. Соответствующая реализация приведена в функции getStableZoneFrom12Gon в https://github.com/ dprpavlin/ OuterBilliards/ blob/ master/ workWith12Gon.py. Результат сформулирован в следующей лемме. Лемма 51. 1) $\beta_1$ и $\beta_4$ суть правильные двенадцатиугольники, вписанные в фигуры $\alpha_1$ и $\alpha_4$ соответственно; 2) $\beta_2$ есть равносторонний шестиугольник c последовательно заданными углами
$$
\begin{equation*}
\frac{5\pi}{6},\quad \frac{\pi}{2},\quad \frac{5\pi}{6},\quad \frac{\pi}{2},\quad \frac{5\pi}{6},\quad \frac{\pi}{2},
\end{equation*}
\notag
$$
вписанными в $\alpha_2$ таким образом, что две из вершин $\beta_2$ совпадают с точками $P_3$ и $Q_2$; 3) $\beta_3$ есть равносторонний восьмиугольник c последовательно заданными углами вписанный в $\alpha_3$ таким образом, что одна из его вершин совпадает с $Q_3$.Многоугольники $\beta_i$, $i=1, 2, 3, 4, 5$, изображены на рис. 19. Данный результат может показаться несколько контринтуитивным, ибо, например, в ранее рассмотренном случае $n=8$ все периодические компоненты являются правильными восьмиугольниками, a в случаях же $n=5, 10$ периодическими компонентами оказываются исключительно правильные пяти- и десятиугольники (см. [4], [13]). Также исключительно правильные фигуры встречаются и среди периодических компонент в решеточных (столы аффинно-эквивалентны многоугольникам с целочисленными координатами) случаях $n=3, 4, 6$ (фольклор). Однако в исследуемом нами случае уже на раннем этапе мы сталкиваемся с “неправильными” компонентами. Обозначим через $B^1_0, B^1_1, \dots, B^1_{11}$ вершины многоугольника $\beta_1$ так, чтобы нумерация шла против часовой стрелки, а вершины $B^1_0$, $B^1_1$ лежали бы на луче $A_0A_1$. Аналогичным образом обозначим и вершины $\beta_2$, $\beta_3$, $\beta_4$. В этом случае, например, $A_2=B^2_4$, $Q_3=B^3_6$, а точки $B^1_{10}$, $B^1_4$, $B^2_5$, $B^2_2= B^3_7$, $B^3_3=B^4_{10}$, $B^4_4$ лежат на биссектрисе угла $V'=P_2P_1Q_2$. 7.3. Преобразования первого возвращения и красивые самовозвращения: алгоритм поискаДля того чтобы следовать намеченному плану, нам понадобится находить преобразование первого возвращения для некоторых многоугольных областей. Будем искать преобразования первого возвращения для фигур $S$ специального вида. Определение 30. Пусть фигура $S$ лежит внутри угла $P_2P_1Q_2$. Будем говорить, что $S$ имеет красивое самовозвращение относительно $T'$, если выполнены следующие условия. 1) Пусть $x$, $y$ – две неграничные точки, лежащие в $S$, а $k$ – некоторое целое положительное число. Пусть $T'^k(x)$ и $T'^k(y)$ определены, причем $\forall\, i \in [1, k)\colon T'^i(x), T'^i(y) \notin S$. Пусть также последовательности $\rho'(x)[0, k-1]$ и $\rho'(y)[0, k-1]$ совпадают. Тогда точки $T'^k(x)$ и $T'^k(y)$ либо обе лежат внутри $S$, либо обе не лежат внутри $S$. 2) Фигура $S$ – открытая, а граница $S$ состоит из граничных точек. Лемма 52. Пусть $S \subseteq Z'$ – открытый многоугольник, граница которого полностью состоит из граничных точек, каждая из которых лежит либо на границе $Z'$, либо на границе, зависящей от точки периодической компоненты, траектория которой относительно $T'$ не пересекается c $S$. Тогда $S$ имеет красивое самовозвращение относительно $T'$. Доказательство. Предположим противное. Тогда найдутся некоторые противоречащие красивости $x$, $y$, $k$. По определению кода и свойствам $T'$, $T'^k$ переводит $xy$ в отрезок $T'^k(x)T'^k(y)$. Так как одна из точек $x$, $y$ лежит внутри $S$, а другая нет, то на отрезке $xy$ существует точка $z$ такая, что $T'^k(z)$ лежит на границе $S$, и $z$ примыкает к периодической компоненте $\zeta$, траектория которой не пересекает $S$. Также из свойств внешнего биллиарда следует, что Более того, легко показать, что то же равенство выполнено и для произвольной точки $p$, лежащей в некоторой $\epsilon$-окрестности $U_{\epsilon}(z)$ точки $z$, причем $\epsilon>0$, а $U_{\epsilon}(z) \subset S$. Так как $T'^k(U_{\epsilon}(z))= U_{\epsilon}(T^k(z))$, то можно подобрать $p$ таким образом, чтобы $T'^k(p) \in \zeta$. Однако тот факт, что $T'^{-k}(p)$ лежит в $S$, противоречит заданному свойству $\zeta$. Следовательно, лемма доказана.Чтобы вычислить преобразование первого возвращения $T'_S$, будем использовать алгоритм 2. Этот алгоритм практически эмулирует преобразование первого возвращения вручную (конечно, не для каждой точки, а для кусков с одинаковым кодом $\rho'$ возвращения; для каждого из таких кусков преобразование первого возвращения есть некоторое движение). Его реализацией в коде являются функции tryMakeFirstReturnMapOnlyPolygons и reverseAndTestZonesOnlyPolygons (см. https://github.com/ dprpavlin/ OuterBilliards/ blob/ master/ workWith12Gon.py); первая функция эмулирует преобразование первого возвращения и находит образы первого возвращения, а вторая восстанавливает по образам прообразы (по сути, аналог foreach в алгоритме 2). Лемма 53. Если алгоритм 2 завершил работу, то полученный результат корректен. Доказательство. Легко показать по индукции, что после $k$ итераций, $k=0, 1, \dots$: – каждый многоугольник $pol$ в массиве $pols$ есть $T'^k(basePol)$, где $basePol \subseteq S$ является максимальным по включению множеством точек $p \in S$ c одинаковой частью кода $\rho'(p)[0,k-1]$; – каждый многоугольник $s_2$ в массиве $S_2$ – это $T'^l(s_1)$, где $l \in (0, k]$ – некоторое целое число, а $s_1 \subseteq S$ – максимальное по включению множество точек с одинаковым кодом $\rho'(p)[0, l-1]$ таким, что $T'^l(s_1) \subseteq S$, причем $\forall\, l' \in (0, l)$: $T'^l(s_1)$ не пересекается с $S$ (чтобы обеспечить такой инвариант, вводится красивость самовозвращения); – все многоугольники $basePol$ и $s_1$, описанные в предыдущих двух пунктах, образуют разбиение; – для точек, лежащих на границах этих многоугольников, $T'_S$ не определено. Таким образом, если цикл repeat завершит свою работу, то нашлось разбиение $S$ на открытые многоугольники $S_1$, для каждого $s_1$ из которых $T'_S$ есть движение, причем $T'_S(s_1)$ лежит в $S_2$. Для завершения алгоритма остается лишь найти все такие $s_1$ в явном виде, что и делает последний цикл. Лемма доказана. Отметим, что если количество итераций до первого возвращения в заданный многоугольник $S$ не ограничено, то и алгоритм будет работать бесконечно долго. Такая ситуация теоретически возможна; пример кусочного движения (а $T'\colon Z' \to Z'$ является таким движением) с неограниченным по времени преобразованием первого возвращения привели А. Гетц и Г. Поггиаспалла [23]. В случае же, если время возвращения на $S$ ограничено, то $T'_S$ индуцирует разбиение на фигуры, лежащие в массиве $S_1$. Определение 31. Будем говорить, что $T'_S$ разбивает $S$ на фигуры множества $W$, если в результате запуска алгоритм 2 в массиве $S_1$ окажутся в точности фигуры множества $W$. В этом случае $W$, как следует из доказательства леммы 53, является разбиением $S$. 7.4. СамоподобиеБудем придерживаться плана § 6. Пусть $\Gamma_1$ есть сжатие с центром в точке $A_1=P_1$, переводящее $O_5$ в $O_1$, а $Z'_1=\Gamma_1(Z')$. В силу того, что многоугольник $Z'_1$ ограничен сторонами угла $V'$ и периодической компонентой $\beta_1$, верна следующая лемма. По аналогии с леммой 39 ожидается, что $T'_{Z'_1}$ будет похоже на $T'$ для $Z'$. Однако запущенный на компьютере алгоритм 2 завершается и сообщает, что верна лемма 55. Лемма 55. Преобразование $T'_{Z'_1}$ разбивает $Z'_1$ на десять многоугольников, четыре из которых суть треугольники, пять – четырехугольники, а один – неравносторонний шестиугольник. Таким образом, план в чистом виде реализовать не удалось. Однако самоподобие найти все-таки удается, хоть и более сложным способом. Пусть $\Gamma_4$ есть сжатие с центром в той же точке $A_1$, но переводящее $O_5$ в $O_4$; пусть $Z'_4=\Gamma_4(Z')$, а $Z'_{14}= \Gamma_1(Z'_4)$. Доказательство. Многоугольник $Z'_4$ обладает таким самовозвращением, ибо ограничен сторонами угла $V'$ и периодической компонентой $\beta_4$. То же верно и для $Z'_{14}$, ибо фигура $\Gamma_1(\beta_4)$ есть периодическая компонента точки $O_{14}=\Gamma_1(O_4)$; последний факт проверен с помощью алгоритма 1. Лемма доказана. Пусть $\beta_{14}=\Gamma_1(\beta_4)$. Пусть $T'_4$ и $T'_{14}$ есть преобразования первого возвращения относительно $T'$ на $Z'_4$ и $Z'_{14}$ соответственно. С помощью запуска для фигур $Z'_4$ и $Z'_{14}$ алгоритма 2 найдем для них преобразования первого возвращения $T'_4$ и $T'_{14}$. На этот раз результат оказывается положительным и выражается в следующих леммах. Таким образом, самоподобие в случае правильного двенадцатиугольника существует. Структура $T'_4$ изображена на рис. 20. 7.5. Доказательство теоремы 1C помощью найденного в лемме 58 самоподобия докажем существование апериодической траектории, т. е. теорему 1 для случая правильного двенадцатиугольника. Пусть открытый многоугольник $X$ есть $T'^{-2}(Z'_{14})$, $\Gamma_X=\Gamma_1 \circ T^{-2}$, а $T'_X$ есть преобразование первого возвращения на $X$ относительно $T'$. Очевидно, что $X=\Gamma_X(Z'_4)$. Как видно на рис. 21, $Z'_{14}$ не разделяется преобразованием $T'^{-2}$. Более того, $T'^{-2}$ не отделяет $Z'_{14}$ от $\beta_{14}$; в силу этого $X$ оказывается “зажата” между фигурами $\beta_2$, $\beta_3$, $T'^{-2}(\beta_{14})$. Отсюда (без дополнительной компьютерной проверки) следует лемма 59. Лемма 59. 1) Многоугольник $X$ имеет красивое самовозвращение. 2) Преобразование $T'_4$ сопряжено с $T'_X$ относительно $\Gamma_X$. Пусть $c_{\mathrm{inf}} \in X$ есть неподвижная точка преобразования $\Gamma_X\colon Z'_4 \to Z'_4$. Доказательство теоремы 1 для случая правильного двенадцатиугольника завершает лемма 60. Доказательство. Рассмотрим последовательность периодических компонент $C_0, C_1, C_2, \dots$, устроенную следующим образом: $C_0=\beta_3$; $C_1=\beta_2$; $C_2=T'^{-2}(\beta_{14})$; $C_{i+3}=\Gamma_X(C_i)$, $i=0, 1,\dots$ . Компоненты $C_0$, $C_1$, $C_2$ изображены на рис. 21. Так как $\Gamma_X$ есть сжимающее отображение, то последовательность $(C_i)$ сходится к $c_{\mathrm{inf}}$. Аналогично случаю правильного восьмиугольника можно показать, что $c_{\mathrm{inf}}$ не может являться ни граничной, ни периодической точкой; следовательно, $c_{\mathrm{inf}}$ есть апериодическая точка. Лемма доказана. 7.6. Доказательство теоремы 2Отметим, что для доказательства существования апериодической точки нам не потребовалось полное описание всех периодических фигур; однако для доказательства теоремы 2 такое описание оказывается необходимым. Из предыдущего анализа никак не следует, верно ли, что множество точек $Z'_4$, чьи траектории не пересекают $Z'_{14}$, разбиваются на конечное число периодических фигур; то же требуется проверить и для $Z'$ и $Z'_4$. Чтобы это проверить, рассмотрим алгоритм 3, использующий структуру данных “Очередь”; эта структура поддерживает операции “Добавить элемент в очередь” и “Достать из очереди элемент, который был добавлен раньше остальных элементов очереди”. Реализацией этого алгоритма является функция findPeriodicComponents (см. https://github.com/ dprpavlin/ OuterBilliards/ blob/ master/ workWith12Gon.py). Как и в случае алгоритма 2, алгоритм 3 может не завершиться; однако имеет место следующая лемма. Лемма 61. Если алгоритм 3 завершил свою работу, то найденный им ответ правилен. Доказательство. Несложно показать по индукции, что каждый из многоугольников в нашем алгоритме обладает границей, состоящей исключительно из граничных точек. Рассмотрим произвольную неграничную точку $p \in Z' \setminus S$, а также последовательность многоугольников $F_0, F_1, F_2, \dots$, определенную следующим образом: a) $F_0=Z'$; b) для любого $i \in \mathbb{Z}_+$, $F_i=T'(F_{i-1} \cap \alpha_j)$, где $j=j(i)$ таково, что $T^{i-1}(p)\,{\in}\,\alpha_j$. По сути, $F_i=Z' \cap \{T'^i(q) | \rho'(q)[0,i-1]=\rho'(p)[0,i-1]\}$. Очевидно, что границы всех многоугольников $F_i$ состоят из граничных точек. Из структуры алгоритма очевидно, что если в поле зрения алгоритма (т. е. в $performedPolygons$) попал некоторый многоугольник $F_i$, $i \in \mathbb{Z}_{\geqslant 0}$, то $F_{i+1}$ также попадет в поле зрения алгоритма, если только $F_{i+1} \not\subseteq S$. Рассмотрим два случая: – существует такое $n \in \mathbb{Z}_+$, что $T'^n(p) \in S$. Так как алгоритм 2 завершает свою работу для $S$, то в силу неграничности точка $p$ лежит на траектории первого возвращения на $S$, т. е. внутри одной из фигур траектории первого возвращения на $S$ (действительно, если точки $p, T^{-1}(p), T^{-2}(p),\dots$ не попадают в $S$, то $p$ апериодическая; это означает, что для каждой из точек $T^{-j}(p)$ алгоритм выполнит хотя бы $j$ операций $ncp=T'(ncp)$, что исключает конечность времени работы); – такого $n$ не существует. Тогда все многоугольники последовательности $F$ попали в поле зрения алгоритма. Однако алгоритм завершился; это означает, что последовательность $F$ в какой-то момент зацикливается. Пусть, например, $k, l \in \mathbb{Z}_+$, $k<l$, таковы, что $F_k=F_l$. Тогда $F_k$ есть периодическая компонента, содержащая $T'^k(p)$ (все точки $F_k$, очевидно, периодические, а граница $F_k$ состоит из граничных точек). Другими словами, $\operatorname{comp}(T'^k(p))$ попало в поле зрения алгоритма; следовательно, $\operatorname{comp}(p)$ и вся периодическая траектория $\operatorname{comp}(p)$ попали в поле зрения алгоритма, причем как минимум один из многоугольников этой траектории попадает и в $ans$. Также отметим, что ни один из многоугольников периодической траектории не пересекает $S$ (ибо тогда этот многоугольник пересекает $\partial S$ и, как следствие, содержит граничные точки). Таким образом, любая неграничная точка, лежащая в $Z'$, попадает либо на траекторию первого возвращения в $S$ (включая сам многоугольник $S$), либо на траекторию некоторой периодической компоненты, причем последняя траектория не проходит через $S$. Все такие периодические компоненты обязательно будут рассмотрены (ибо $p$ может быть точкой, лежащей в каждой из них); следовательно, таких компонент конечное число (ибо алгоритм завершает работу). В силу того, что замыкание всех неграничных точек $Z'$ дает замыкание множества $Z'$ (см. лемму 3), мы заключаем, что объединение периодических компонент с траекториями, не проходящими через $S$, и траекторий первого возвращения $S_1$ на $S$ действительно образует разбиение $Z'$. Итак, мы показали, что в $ans$ существует хорошее c точки зрения ответа подмножество периодических фигур. Рассмотрим теперь все действия, связанные с $performedPolygons$, и покажем, что в $ans$ не оказалось “лишних” многоугольников. Действительно, с каждым из многоугольников, попавших в $performedPolygons$, действие, отличное от проверки его нахождения в $performedPolygons$, будет выполнено не более чем один раз. Более того, внутренний $while$ устроен таким образом, что если в $performedPolygons$ попала периодическая компонента $\operatorname{comp}(p)$ с не пересекающей $S$ траекторией, то тут же вместе с ней в $performedPolygons$ попадут и все многоугольники траектории $\operatorname{comp}(p)$; как следствие, в $ans$ попадет ровно один из этих многоугольников. Более того, очевидно, что для каждой неграничной точки $p$, траектория которой не проходит через $S$, в $ans$ может быть добавлен только многоугольник из траектории $\operatorname{comp}(p)$ (ибо эти многоугольники не разделяются $T'$, а любое надмножество любого из них на какой-то итерации обязательно будет разделено). Таким образом, остается показать, что ни одна из неграничных точек, траектория которых проходит через $S$, не будет покрыта ни одним многоугольников в $ans$. Действительно, пусть $p$ – такая точка, а $W_p$ – ее многоугольник. Из вышесказанного следует, что $W_p= \operatorname{comp}(p)$; следовательно, для некоторого $k \in \mathbb{Z}_+$ $T'^k(\operatorname{comp}(p))$ пересекается с $S$. В силу граничности всех точек $\partial S$, $T'^k(\operatorname{comp}(p)) \subseteq S$; следовательно, в этом месте алгоритм заканчивает работу с траекторией $\operatorname{comp}(p)$, не дождавшись зацикливания, и $W_p$ не оказывается в $ans$. Лемма доказана. Запустим алгоритм 3, предложив в качестве входных данных $S=Z'_4$. Результат запуска описывает следующая лемма. Лемма 62. Алгоритм 3 завершает свою работу при $S= Z'_4$, причем в возвращенном массиве $ans$ находится семь многоугольников. Из лемм 62, 61 следует, что проблемы периодичности можно свести к проблемам на $Z'_4$. Более формально эту идею формулирует следующая лемма. Лемма 63. 1) Апериодическая точка относительно $T'$ внутри $Z'$ существует, если и только если апериодическая точка существует относительно $T'$ или $T'_4$ внутри $Z'_4$. 2) Периодические точки относительно $T'$ образуют в $Z'$ множество полной меры, если и только если периодические точки относительно $T'$ или $T'_{4}$ образуют внутри $Z'_4$ множество полной меры. Ввиду результатов п. 7.5, основным смыслом первого пункта леммы 63 является отсутствие апериодических точек, чьи траектории лежат строго вне $Z'_4$. Запустим теперь алгоритм 3 для $S=Z'_{14}$ (применять к многоугольникам мы все также будем $T'$, не $T'_4$). Результат запуска описывает следующая лемма. Лемма 64. Алгоритм 3 завершает свою работу при $S= Z'_{14}$, причем в возвращенном массиве $ans$ находится 20 многоугольников. Таким образом, относительно преобразования $T'_{Z'_4}$ в $Z'_4$ существует $20-7=13$ периодических компонент с траекториями, не пересекающими $Z'_{14}$ и друг друга. Используя такие результаты, остается лишь доказать следующую лемму, из которой с учетом лемм 63 и 36 и следует теорема 2 для правильного двенадцатиугольника. Доказательство. Схема доказательства повторяет схему доказательства леммы 48 с использованием леммы 47. А именно, введем последовательность раскрашенных в красный и зеленый цвета разбиений $(\mathcal{Z}^l)_{l \in \mathbb{Z}_+}$ многоугольника $\overline{Z'_4}$, устроенную следующим образом: a) $(\mathcal{Z}^1)$ состоит из восьми фигур, на которые $T'_4$ разбивает $Z'_4$; b) $\forall\, l \in \mathbb{Z}_+$: $\mathcal{Z}^{l+1}= \bigl\{\bigcup\{\overline{T_{4}^{\prime j}(\Gamma(\operatorname{int}(P)))}\} \bigm| P \in \mathcal{Z}^l, 0 \leqslant j<t(P)\bigr\} \cup \mathcal(Q)$; здесь $t(P)$ есть минимальное такое $t \in \mathbb{Z}_+$, что $(T_{4}^{\prime t}(\operatorname{int}(P))) \subset Z'_\Gamma$, а $\mathcal(Q)$ есть множество периодических фигур, лежащих внутри $Z'_{4}$ и обладающих не проходящими через $Z'_{14}$ траекториями (множество $\mathcal(Q)$ порождено тринадцатью фигурами и преобразованием $T'_4$); c) $\overline{T_4^{\prime j}(\Gamma(\operatorname{int}(P)))}$ зеленый в разбиении $(\mathcal{Z})^{l+1}$, если и только если $P$ зеленое в разбиении $(\mathcal{Z})^l$; d) фигуры множества $\mathcal(Q)$ являются зелеными во всех разбиениях, в которых участвуют. Чтобы использовать лемму 47, достаточно показать, что в подразбиениях каждого из многоугольников $(\mathcal{Z}^1)$ рано или поздно окажется зеленая фигура. Можно проверить с помощью компьютерной программы, что это будет выполнено уже в разбиении $(\mathcal{Z}^3)$ (а не $(\mathcal{Z}^2)$, как в случае восьмиугольника). Таким образом, условия леммы 47 выполняются при $k=2$ и $\epsilon$, равному минимуму из отношений площади зеленых фигур в $\mathcal{Z}^3$, попавших внутрь какой-то фигуры из $\mathcal{Z}^1$, к площади этой фигуры, и зеленые периодические фигуры образуют внутри $Z'_4$ множество полной меры. Лемма доказана. Таким образом, мы доказали полноту меры периодических точек для внешнего биллиарда вне правильного двенадцатиугольника с помощью доказательных компьютерных вычислений. С помощью дополнительных простых вычислений в § 8 мы сможем описать все коды периодов и само множество периодов. § 8. Приложение: вычисление периодов и кодов периодов периодических точекИсследуем внешние биллиарды вне правильных многоугольников на предмет того, какие значения могут принимать периоды. Сначала введем несколько основных определений, сформулируем и докажем общие факты; затем, используя эти факты, мы получим множества периодов для внешних биллиардов вне правильных восьми- и двенадцатиугольников. 8.1. Внешние биллиарды: сведение к ограниченному случаюВернемся к внешним биллиардам. Пусть $\gamma$ есть правильный $n$-угольник, для которого верны все введенные в §§ 3–5 определения. Пользуясь леммой 9, будем искать периоды и коды периодов периодических компонент. Начнем с двух обозначений, являющихся расширением определения в § 4. Пусть $S$ – произвольное подмножество $V'$. Тогда: a) $P_S := \{\rho'_{\mathrm{per}}(p) \mid p \subseteq S,\, p\text{ - периодическая компонента}\}$; b) $C_S := \{c(w) \mid w \in C_{S} \}$. Мы будем работать с множествами $S=V'$, $Z' \cup \beta$, $Z'$. Отметим, что $P_{Z' \cup \beta}=P_{Z'} \cup \{n'-1\}$, а $C_{Z' \cup \beta}=C_{Z'} \cup \{(0, 0, \dots, 0, 1, 0)^\top\}$ (ибо $\rho'_{\mathrm{per}}(\beta)=n'-1$). В терминах гомоморфизма абелизации и матрицы инцидентности лемма 15 может быть переформулирована следующим образом (напомним, что $n'\,{=}\,\lceil n/2 \rceil$). Введем подстановку $\psi$, индуцированную сопряженностью в лемме 24. Пусть $A=\{1, 2, \dots, n'\}$ – алфавит. Тогда если $n$ четно, то $\psi\colon A \to A^* \setminus \{\epsilon \}$ – подстановка, определенная с помощью правил
$$
\begin{equation*}
i \to \underbrace{(n'-1)(n'-1)\dots (n'-1)}_{n'-i \text{ раз} }n',\qquad i=1, 2, \dots, n'.
\end{equation*}
\notag
$$
Из структуры первого возвращения $T'$ на $\operatorname{ang}_1$, описанного в лемме 24 и ее доказательстве, следует лемма 67. Лемма 67. Пусть $p \in V'$ – неграничная точка. Тогда: a) $\rho'(H(p))=\psi(\rho'(p))$; b) если $p$ периодическая, то $\rho'_{\mathrm{per}}(H(p))= \psi(\rho'_{\mathrm{per}}(p))$. Прямым следствием лемм 67 и 35 является следующая лемма, сводящая вычисление кодов периодов и периодов к вычислению $P_{Z' \cup \beta}, C_{Z' \cup \beta}$. Лемма 68. Пусть $n$ четное. Тогда: a) $P_{V'}=\operatorname{cycle}(\{\psi^l w\mid w \in P_{Z'\cup \beta},\, l \in \mathbb{Z}_{\geqslant 0} \})$; b) $C_{V'}=\{M_{\psi}^l w\mid w \in C_{Z'\cup \beta},\, l \in \mathbb{Z}_{\geqslant 0} \}$. Отметим, что аналогичным образом можно получить следующую лемму, из которой можно найти абелизации кодов периодов и, как следует из леммы 66, сами периоды точек для внешнего биллиарда вне правильного $n'$-угольника, где $n'$ нечетное. Будем говорить, что если $M$ – некоторая матрица $k \times l$, а $S$ – множество $l$-значных векторов, то $MS=\{Ms\mid s \in S\}$. Лемма 69. Пусть $n$ четно, $n'=n/2$ нечетно, $P(C)^{n'}_{V'}$ и $P(C)^{n}_{V'}$ есть аналоги $P(C)_{V'}$ для внешних биллиардов вне правильных $n'$- и $n$-угольников соответственно, а $P(C)^{n'}_{Z' \cup \beta}$ – соответствующий аналог $P(C)_{Z' \cup \beta}$. Пусть $\psi'$ есть подстановка, определенная с помощью правил Тогда: a) $P^{n'}_{V'}=P^{n'}_{Z' \cup \beta} \cup \operatorname{cycle}(\psi'(P^{n}_{V'}))$; b) $C^{n'}_{V'}=C^{n'}_{Z' \cup \beta} \cup M_{\psi'}(C^{n}_{V'})$. 8.2. Вычисление периодов для случая $n= 8$Исследуем случай правильного восьмиугольника. Вычислим множества $P_{Z'}$ и $C_{Z'}$ и затем по леммам 68, 14 и 9 найдем всевозможные периоды, а также коды периодов и их абелизации, т. е. докажем теорему 3. Так как $n=8$, то во всех столбцах $C_{Z'}$ $n'=4$ координаты. Однако, так как в кодах точек из $Z'$ четверка не встречается, то четвертая координата из столбцов $C_{Z'}$ всегда равна нулю. Вследствие этого, для удобства будем искать $C^3_{Z'}$, которое содержит столбцы с тремя координатами – теми же, что и в $C_{Z'}$, но без последней. Введем следующую подстановку, индуцируемую самоподобием леммы 39. Определение 32. $\sigma\colon \{1, 2, 3\} \to \{1, 2, 3\}^* \setminus \{\epsilon\}$ есть подстановка, задаваемая следующими правилами: $1 \to 122323232323221$, $2 \to 122323221$, $3 \to 111$. Заметим, что введенная подстановка $\sigma$ совпадает с $\sigma$ в условии теоремы 3. Как следствие,
$$
\begin{equation*}
M_{\sigma} = \begin{pmatrix} 2 & 2 & 3 \\ 8 & 5 & 0 \\ 5 & 2 & 0 \end{pmatrix}.
\end{equation*}
\notag
$$
Сформулируем аналогично доказывающуюся продвинутую версию леммы 40. Лемма 70. Пусть $p \in Z'$ – неграничная точка. Тогда: a) $\rho'(\Gamma(p))=\sigma(\rho'(p))$; b) если $p$ периодическая, то $\rho'_{\mathrm{per}}(\Gamma(p))= \sigma(\rho'_{\mathrm{per}}(p))$ и $c(\Gamma(p))=M_{\sigma}(c(p))$. Прямым следствием лемм 70 и 42 является лемма 71. Лемма 71. 1) $P^3_{Z'}=\operatorname{cycle}(\{\sigma^k(w) \mid k \in \mathbb{Z}_{\geqslant 0},\, w \in \{\beta_1, \beta_2, \beta_{32}\})$; 2) $C^3_{Z'}=\{M_{\sigma}^k(w) \mid k \in \mathbb{Z}_{\geqslant 0},\, w \in C_{\operatorname{rk}0}\}$, $C_{\operatorname{rk}0}=\{c(\beta_1), c(\beta_2), c(\beta_{32})\}=\{(1, 0, 0)^\top, (0, 1, 0)^\top, (0, 1, 1)^\top\}$. Линейное преобразование $g\colon \mathbb{R}^3 \to \mathbb{R}^3$, задаваемое матрицей $M_{\sigma}$, обладает базисом, состоящим из собственных векторов $v_1=(1, -2, 1)^\top$ с собственным значением $1$, $v_2=(1, -1, -1)^\top$ с собственным значением $-3$ и $v_3=(1, 2, 1)^\top$ c собственным значением $9$. Это означает, что если $v=a_1v_1+a_2v_2+a_3v_3$, $a_1,a_2,a_3 \in \mathbb{R}$, то для любого $k \in \mathbb{Z}_{\geqslant 0}$ выполнено $M_{\sigma}^k v=a_1\cdot v_1+a_2 \cdot (-3)^k \cdot v_2+a_3 \cdot 9^k \cdot v_3$. Найдя подходящие $a_1$, $a_2$, $a_3$ для каждого из следующих векторов, трансформируем лемму 71 к следующему виду. Лемма 72. Отметим также, что $P^3_{Z' \cup \beta}=P^3_{Z'} \cup \{3\}$, $C^3_{Z' \cup \beta}= C^3_{Z'} \cup {(0, 0, 1)^\top}$. Отсюда с помощью леммы 68 легко получаем первый пункт теоремы 3. Вычислим теперь $C_{V'}$. Для этого отметим, что в случае $n=8$ подстановка $\psi$ из п. 8.1 имеет вид: $1 \to 3334$, $2 \to 334$, $3 \to 34$, $4 \to 4$. Как следствие,
$$
\begin{equation*}
M_{\psi}=\begin{pmatrix} 0 & 0 & 0 & 0\\ 0 & 0 & 0 & 0\\ 3 & 2 & 1 & 0\\ 1 & 1 & 1 & 1 \end{pmatrix}.
\end{equation*}
\notag
$$
Воспользуемся леммой 68. Заметим, что если $a, b, c \in \mathbb{R}$, $M_{\psi}((a, b, c, 0)^\top)=(0, 0, c', d')$, $l \in \mathbb{Z}_+$, то $M^{l+1}_{\psi}((a, b, c, 0)^\top)=(0, 0, c', d'+c'\cdot l)^\top$. Отсюда и из леммы 68 следует и второй пункт теоремы 3. Чтобы найти $B_c$ и $B_p$, определенные в лемме 9 для случая правильного восьмиугольника, воспользуемся собственно леммой 9 и следующей леммой, являющейся частным случаем леммы 66. Переберем все семь серий $C_{V'}$. Итак, пусть $p \subseteq V'$ – периодическая компонента, и пусть: 1) $c'(p)=\dfrac{1}{8}\begin{pmatrix}1+4\cdot (-3)^k+3\cdot 9^k\\-2-4\cdot (-3)^k+6\cdot 9^k\\1- 4\cdot (-3)^k+ 3\cdot 9^k\\0\end{pmatrix}$, $k \in \mathbb{Z}_{\geqslant 0}$. Тогда:
2) $c'(p)=\dfrac{1}{4}\begin{pmatrix}-1+9^k\\2+2\cdot 9^k\\-1+9^k\\0\end{pmatrix}$, $k \in \mathbb{Z}_{\geqslant 0}$. Тогда:
3) $c'(p)=\dfrac{1}{8}\begin{pmatrix}1-4\cdot (-3)^k+3\cdot 9^k\\-2+4\cdot (-3)^k+6\cdot 9^k\\1+4\cdot (-3)^k+ 3\cdot 9^k\\0\end{pmatrix}$, $k \in \mathbb{Z}_{\geqslant 0}$. Тогда:
4) $c'(p)=\begin{pmatrix}0\\0\\1\\l\end{pmatrix}$, $l \in \mathbb{Z}_{\geqslant 0}$. Тогда:
5) $c'(p)=\dfrac{1}{2}\begin{pmatrix}0\\0\\6\cdot 9^k\\-(-3)^k+(3+6l)\cdot 9^k\end{pmatrix}$, $k,l \in \mathbb{Z}_{\geqslant 0}$. Тогда:
6) $c'(p)=\begin{pmatrix}0\\0\\2\cdot 9^k\\(2l+1)\cdot 9^k\end{pmatrix}$, $k,l \in \mathbb{Z}_{\geqslant 0}$. Тогда:
7) $c'(p)=\dfrac{1}{2}\begin{pmatrix}0\\0\\6\cdot 9^k\\+(-3)^k+(3+6l)\cdot 9^k\end{pmatrix}$, $k,l \in \mathbb{Z}_{\geqslant 0}$. Тогда:
Объединяя полученные семь серий ответов, мы и получаем множества периодов $B_p$ и $B_c$ для случая $n=8$. Чтобы завершить доказательство теоремы 3, отметим, что в случае восьмиугольника, $B_p=B_c$, и все периоды делятся на $4$, причем серии $4\cdot 9^k$, $8l+8$, $(8l+12)\cdot 9^k$ содержат все такие числа. 8.3. Вычисление периодов для случая $n=12$В заключение § 8 предположим, что $n=12$, и докажем теорему 4. Из-за громоздкости вычислений, мы не будем выписывать все периоды в явном виде, как для восьмиугольника. Схема вычисления будет та же, что и для восьмиугольника, но с модификацией, учитывающей то, что самоподобие мы нашли не для $Z'$, а для $Z'_4$. Определение 33. Пусть $\omega_1,\dots,\omega_8$ – открытые фигуры, на которые $T'_4$ делит $Z'_4$, занумерованные в некотором порядке. Сам по себе порядок принципиального значения не имеет. Мы для определенности введем порядок, в котором выдала эти фигуры реализация алгоритма 2, запущенная для $Z'_4$. Определение 34. Пусть $p \in Z'_4$ – неграничная точка (относительно $T'$ и, как следствие, $T'_4$). Тогда $T'_4$-кодом $\rho'_4(p)$ назовем бесконечную в две стороны последовательность $\dots w_{-2}w_{-1}w_0w_1w_2 \dots$ такую, что $w_j$, $j \in \mathbb{Z}$, есть такое целое число от $1$ до $8$, что $T_4^{\prime j}(p) \in \omega_{w_j}$. Естественным образом можно говорить о коде периода $\rho'_{4, \mathrm{per}}(p)$ относительно $T'_4$, а также о гомоморфизме абелизации $c'_4(p)=c(\rho'_{4, \mathrm{per}}(p))$ для кода периода любой периодической точки $p$. Определение 35. Введем подстановку $\sigma\colon \{1,\dots,8\} \to \{1,\dots,8\}^* \setminus \{\epsilon\}$, которую определим с помощью компьютера следующим образом. Пусть $i \in \{1,\dots,8\}$. Выберем некоторую вычисляемую точку $p \in \Gamma_1(\omega_i)$ (например, центр масс вершин $\Gamma_1(\omega_i)$), и пусть $k=k(i)$ есть минимальное такое целое положительное число, что $T_4^{\prime k}(p) \in Z'_{14}$. Тогда $\sigma(i)=\rho'_4[0,k(i)-1]$. Отметим, что в случае восьмиугольника подстановка $\sigma$ была получена именно таким образом. Также с помощью компьютера легко получить и матрицу $M_{\sigma}\colon 8 \times 8$ подстановки $\sigma$. По результатам запуска получаем, что верна лемма 74. Лемма 74. Имеет место равенство матриц $M_{\sigma}=M_{88}$ (та самая определенная в условии теоремы 4 матрица). Как автоматическое следствие, верна лемма 75. Лемма 75. Пусть $p \in \Gamma_4$ – неграничная точка. Тогда: a) $\rho'_4(\Gamma_1(p))=\sigma(\rho'_4(p))$; b) если $p$ периодическая, то $\rho'_{4, \mathrm{per}}(\Gamma_1(p))\,{=}\,\sigma(\rho'_{4, \mathrm{per}}(p))$, $c'_4(\Gamma(p))\,{=}\,M_{88}(c'_4(p))$. Из лемм 62 и 64 следует, что внутри $Z'_4$ существует 13 периодических компонент, чьи периодические траектории покрывают все неграничные точки, не лежащие на траекториях первого возвращения в $Z'_{14}$; эти компоненты образуют множество “компонент ранга $0$” (по аналогии с $\beta_1$, $\beta_2$, $\beta_{32}$ в случае правильного восьмиугольника). Найдя эти компоненты с помощью алгоритма 3, легко найти (также с помощью компьютера) множество абелизаций кодов периодов этих компонент и убедиться в том, что это в точности множество $F$ из теоремы 4. Полностью аналогично лемме 71 можно доказать следующую лемму. Лемма 76. Пусть $C_4=C_{Z'_4}=\{ c'_4(p)\mid p \in Z'_4,\, p\text{ - периодическая точка} \}$. Тогда $C_4=\{M^k_{88}f\mid f \in F\}$. Чтобы перейти от $C_4$ к $C_{Z'}$ и $C_{Z' \cup \beta}$, необходимо выполнить следующее: – описать периодические слова для траекторий в $C_{Z' \cup \beta}$, проходящих через $C_4$; для этого достаточно ввести подстановку $\phi\colon \{1,\dots,8\} \to \{1,\dots,6\}^* \setminus \{\epsilon\}$ такую, что для любого $i \in \{1,\dots,8\}$: $\phi(i)$ есть код $\rho'$ возвращения фигуры $\omega_i$ в $Z'_4$ (формальное определение можно ввести аналогично определению $\sigma$) и применить ее к кодам периодов в $Z'_4$; легко доказать с помощью компьютера, что $M_{\phi}=M_{68}$ из условия теоремы 4; – описать периодические слова для траекторий в $C_{Z'}$, не проходящих через $Z'_4$; согласно лемме 62 существует ровно семь периодических компонент, чьи траектории в совокупности покрывают все неграничные точки $Z'$, не лежащие на траекториях первого возвращения в $Z'_4$. Найдя эти компоненты с помощью алгоритма 3, легко найти (также с помощью компьютера) множество абелизаций кодов периодов этих компонент, добавить к ним $c'(\beta)$ и убедиться в том, что получилось в точности множество $G$ из теоремы 4. Компонуя эти два пункта, получаем следующую лемму. В случае $n=12$, подстановка $\psi$ принимает вид $i \to 5^{6-i}6$, $i=1, 2, \dots, 6$. Как следствие, $M_{\psi}=M_{66}$. Тогда с помощью леммы 68 легко показать, что $C_{V'}=H$. Оставшаяся часть доказательства теоремы 4 может быть легко получена с помощью лемм 66 и 9; в терминах последней леммы и теоремы 4 $B=B_c$, $B_2=B_p$. Отметим, что в случае двенадцатиугольника, в отличие от случая восьмиугольника, нечетный период вполне возможен (например, $\mathrm{per}(\beta_4)=\mathrm{per}(O_4)=3$).
Цитирование в формате AMSBIB
\RBibitem{Ruk22} |
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|