Успехи математических наук
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Архив
Импакт-фактор
Правила для авторов
Загрузить рукопись
Историческая справка

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



УМН:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Успехи математических наук, 2022, том 77, выпуск 1(463), страницы 109–176
DOI: https://doi.org/10.4213/rm10019
(Mi rm10019)
 

Эта публикация цитируется в 17 научных статьях (всего в 17 статьях)

Левоинвариантные задачи оптимального управления на группах Ли: классификации и задачи, интегрируемые в элементарных функциях

Ю. Л. Сачков

Институт программных систем им. А. К. Айламазяна Российской академии наук
Список литературы:
Аннотация: Левоинвариантные задачи оптимального управления на группах Ли образуют важный класс задач с большой группой симметрий. Они интересны в теоретическом плане, так как часто допускают полное исследование и на этих модельных задачах можно изучить общие закономерности. В частности, задачи на нильпотентных группах Ли доставляют фундаментальную нильпотентную аппроксимацию общих задач. Левоинвариантные задачи также часто возникают в приложениях: в классической и квантовой механике, геометрии, робототехнике, моделях зрения и обработке изображений.
Цель данной работы – дать обзор основных понятий, методов и результатов, относящихся к левоинвариантным задачам оптимального управления на группах Ли, интегрируемым в элементарных функциях. Основное внимание уделено описанию экстремальных траекторий и их оптимальности, времени разреза и множества разреза, оптимального синтеза. Также затрагиваются вопросы классификации левоинвариантных субримановых задач на группах Ли размерности 3, 4.
Библиография: 91 название.
Ключевые слова: оптимальное управление, геометрическая теория управления, левоинвариантные задачи, субриманова геометрия, группы Ли, оптимальный синтез.
Финансовая поддержка Номер гранта
Российский фонд фундаментальных исследований 20-11-50114
Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-11-50114.
Поступила в редакцию: 18.05.2021
Англоязычная версия:
Russian Mathematical Surveys, 2022, Volume 77, Issue 1, Pages 99–163
DOI: https://doi.org/10.1070/RM10019
Реферативные базы данных:
Тип публикации: Статья
УДК: 517.977
MSC: Primary 53C17; Secondary 22E25, 49K15

1. Предисловие

Исследование инвариантных управляемых систем на группах Ли и однородных пространствах является одной из центральных тем геометрической теории управления. С теоретической точки зрения это естественный и важный класс систем, для которого возможна содержательная глобальная теория (именно такие системы возникают, например, при локальной нильпотентной аппроксимации гладких систем). С другой стороны, такие системы моделируют целый ряд прикладных задач (вращение и качение тел, движение роботов, квантовая механика, компьютерное зрение).

Хорошо известно, что получить точное решение глобальной нелинейной задачи управления (например, задачи управляемости или оптимального управления) представляется очень сложным, если задача не имеет большой группы симметрий. Для инвариантных задач на группах Ли (и их проекций на однородные пространства) точное решение часто можно найти на основе методов геометрической теории управления с использованием техники дифференциальной геометрии, теории групп и алгебр Ли. Полученное решение инвариантной задачи может дать хорошую аппроксимацию соответствующей нелинейной задачи. Например, инвариантная субриманова геометрия на группе Гейзенберга служит краеугольным камнем всей субримановой геометрии.

Основные задачи, рассматривавшиеся для левоинвариантных систем на группах Ли, – задача управляемости и задача оптимального управления. По задаче управляемости имеется обширная литература; она описана, например, в обзоре [73].

В настоящем обзоре предпринята попытка полного описания имеющихся результатов по левоинвариантным задачам оптимального управления на группах Ли, интегрируемым в элементарных функциях. Некоторые из рассматриваемых задач исследовались классиками без привлечения аппарата групп Ли. Так, Леонард Эйлер изучал вращение твердого тела в пространстве. Левоинвариантные задачи оптимального управления на группах Ли находятся в сфере пристального внимания геометрической теории управления начиная с 1990-х годов. Эти работы составляют содержание данного обзора.

Обзор имеет следующую структуру. В разделе 2 приводятся базовые сведения геометрической теории управления, относящиеся к группам Ли и левоинвариантным задачам оптимального управления. Раздел 3 посвящен классификации трехмерных и четырехмерных левоинвариантных субримановых задач. В разделе 4 рассматриваются задачи, интегрируемые в элементарных функциях.

В продолжение этого обзора написан обзор [78] по левоинвариантным задачам, интегрируемым в эллиптических функциях.

2. Введение: левоинвариантные задачи оптимального управления

2.1. Определения и постановки задач

2.1.1. Группы Ли, левоинвариантные управляемые системы и задачи оптимального управления

Группа Ли $G$ – это гладкое многообразие, снабженное такой групповой структурой, что отображения

$$ \begin{equation*} \begin{alignedat}{2} (g_1,g_2) &\mapsto g_1g_2, &\qquad G \times G &\to G, \\ g &\mapsto g^{-1}, &\qquad G &\to G, \end{alignedat} \end{equation*} \notag $$
являются гладкими. Таким образом, левый сдвиг на любой элемент $g \in G$,
$$ \begin{equation*} L_g\colon h \mapsto g h, \quad G \to G, \end{equation*} \notag $$
есть диффеоморфизм. Обозначим его дифференциал через
$$ \begin{equation*} L_{g*}\colon T_h G \to T_{g h} G. \end{equation*} \notag $$

Векторное поле $X\in \operatorname{Vec}(G)$ называется левоинвариантным, если

$$ \begin{equation*} L_{g*}X(h)=X(gh), \qquad g,h \in G. \end{equation*} \notag $$
Алгебру Ли левоинвариантных векторных полей на $G$ называют алгеброй Ли $\mathfrak{g}$ группы Ли $G$. Эта алгебра Ли изоморфна касательному пространству $T_{\operatorname{Id}}G$ в единичном элементе $\operatorname{Id}$ группы Ли $G$.

Управляемая система

$$ \begin{equation*} \dot g=f(g,u), \qquad g \in G, \quad u \in U, \end{equation*} \notag $$
называется левоинвариантной, если
$$ \begin{equation*} L_{h*}f(g,u)=f(hg, u), \qquad g,h \in G, \quad u \in U. \end{equation*} \notag $$
Например, аффинная по управлениям система
$$ \begin{equation*} \dot g=X_0(g)+\sum_{i=1}^k u_i X_i(g), \qquad g \in G, \quad u=(u_1,\dots,u_k) \in U \subset \mathbb{R}^k, \end{equation*} \notag $$
является левоинвариантной, если таковыми являются поля $X_0,X_1,\dots,X_k$.

Задача оптимального управления

$$ \begin{equation} \dot g=f(g,u), \quad g \in G, \quad u \in U, \end{equation} \tag{2.1} $$
$$ \begin{equation} g(0)=g_0, \quad g(t_1)=g_1, \end{equation} \tag{2.2} $$
$$ \begin{equation} J=\int_{0}^{t_1} \varphi(u)\,dt \to \min \end{equation} \tag{2.3} $$
называется левоинвариантной, если таковой является система (2.1).

Для левоинвариантных задач оптимального управления можно положить $g_0=\operatorname{Id}$.

2.1.2. Субримановы задачи, точки разреза, сопряженные точки, кратчайшие и сферы

Субриманова структура на гладком многообразии $M$ – это распределение (подрасслоение касательного расслоения $TM$)

$$ \begin{equation*} \Delta=\{\Delta_q \subset T_qM \mid q \in M\}, \qquad \dim \Delta_q \equiv \operatorname{const}, \end{equation*} \notag $$
снабженное скалярным произведением
$$ \begin{equation*} \langle\,\cdot\,{,}\,\cdot\,\rangle=\{\langle \,\cdot\,{,}\,\cdot\,\rangle_q \text{-- скалярное произведение в}\ \Delta_q \mid q \in M\}, \end{equation*} \notag $$
где $\Delta_q$ и $\langle \,\cdot\,{,}\,\cdot\,\rangle_q$ гладко зависят от точки $q$. В частном случае $\Delta_q=T_qM$, $q \in M$, получаем риманову структуру $\langle \,\cdot\,{,}\,\cdot\,\rangle$ на многообразии $M$.

Субриманова структура на группе Ли $G$ называется левоинвариантной, если распределение и скалярное произведение сохраняются левыми сдвигами на $G$. Для такой структуры существует глобальный ортонормированный репер из левоинвариантных полей:

$$ \begin{equation*} \begin{gathered} \, X_1,\dots,X_k \in \mathfrak{g}, \qquad k=\dim \Delta_g, \\ \Delta_g=\operatorname{span}(X_1(g),\dots,X_k(g)), \\ \langle X_i(g),X_j(g) \rangle=\delta_{ij}, \qquad g \in G. \end{gathered} \end{equation*} \notag $$
Кривая $g \in \operatorname{Lip}([0,t_1],G)$ называется допустимой для распределения $\Delta$, если
$$ \begin{equation*} \dot g(t)=\sum_{i=1}^k u_i(t)X_i(g(t)) \end{equation*} \notag $$
для некоторых управлений $u_i \in L^{\infty}([0,t_1])$. Субримановой длиной допустимой кривой называется число
$$ \begin{equation*} l(g(\,\cdot\,))=\int_0^{t_1}\biggl(\,\sum_{i=1}^k u_i^2(t)\biggr)^{1/2}\,dt. \end{equation*} \notag $$
Субриманово расстояние (или расстояние Карно–Каратеодори) между точками $g_0,g_1 \in G$ есть
$$ \begin{equation*} d(g_0,g_1)=\inf\{l(g(\,\cdot\,)) \mid g(\,\cdot\,) \text{ -- допустимая кривая, соединяющая } g_0 \text{ и } g_1\}. \end{equation*} \notag $$
Субриманова кратчайшая – это допустимая кривая $g \in \operatorname{Lip}([0,t_1],G)$, для которой
$$ \begin{equation*} l(g(\,\cdot\,))=d(g(0),g(t_1)). \end{equation*} \notag $$
Такая кривая есть решение задачи оптимального управления
$$ \begin{equation} \dot g=\sum_{i=1}^k u_i X_i(g), \qquad g \in G, \quad u \in \mathbb{R}^k, \end{equation} \tag{2.4} $$
$$ \begin{equation} g(0)=g_0, \qquad g(t_1)=g_1, \end{equation} \tag{2.5} $$
$$ \begin{equation} l(g(\,\cdot\,))=\int_0^{t_1} \biggl(\,\sum_{i=1}^k u_i^2(t)\biggr)^{1/2}\,dt \to \min\!. \end{equation} \tag{2.6} $$
Здесь терминальное время $t_1$ может быть закрепленным или свободным. Из неравенства Коши–Буняковского следует, что минимизация длины (2.6) эквивалентна минимизации энергии
$$ \begin{equation} J=\frac{1}{2}\int_0^{t_1}\sum_{i=1}^k u_i^2(t)\,dt \to \min \end{equation} \tag{2.7} $$
с фиксированным временем $t_1$.

Допустимая кривая $g \in \operatorname{Lip}([0,t_1],G)$ называется субримановой геодезической, если она натурально параметризована (т. е. $\displaystyle\sum_{i=1}^k u_i^2(t) \equiv 1$) и для любого $\tau \in [0,t_1]$ существует отрезок $I \subset \mathbb{R}$, $\tau \in \operatorname{int}I$, такой, что сужение $g\big|_{I \cap [0,t_1]}$ есть кратчайшая.

Временем разреза вдоль геодезической $g(\,\cdot\,)$ называется величина

$$ \begin{equation*} t_{\rm cut}(g(\,\cdot\,))=\sup\{T>0 \mid g|_{[0,T]}\text{ есть кратчайшая}\} \in (0,+\infty]. \end{equation*} \notag $$
Соответствующая точка $g(t_{\rm cut})$ при $t_{\rm cut} <+\infty$ называется точкой разреза вдоль геодезической $g(\,\cdot\,)$. Множеством разреза для левоинвариантной субримановой задачи, соответствующей начальной точке $g_0=\operatorname{Id}$, называется множество $\operatorname{Cut} \subset G$ точек разреза вдоль всех геодезических, выходящих из точки $g_0$.

Аналогично определяются допустимые траектории, геодезические, время разреза, точки разреза и множество разреза для общих задач оптимального управления (2.1)(2.3).

Если группа Ли $G$ связна, а распределение $\Delta$ вполне неголономно, то по теореме Рашевского–Чжоу (см. далее теорему 2.1) любые точки $g_0,g_1 \in G$ соединимы допустимой кривой, а субриманово расстояние $d$ превращает $G$ в метрическое пространство. В этом случае субримановы сферы определяются, как в произвольном метрическом пространстве:

$$ \begin{equation*} S_R(g_0)=\{g \in G \mid d(g_0,g)=R\}. \end{equation*} \notag $$
Для левоинвариантных субримановых задач $S_R(g_0)=L_{g_0}(S_R(\operatorname{Id}))$, поэтому достаточно исследовать только центрированные в единице сферы $S_R=S_R(\operatorname{Id})$.

Метрической прямой называется такая геодезическая $g(t)$, $t \in \mathbb{R}$, что для любых $a,b \in \mathbb{R}$ сужение $g\big|_{[a,b]}$ есть кратчайшая.

2.1.3. Группы Карно

Алгебра Карно $\mathfrak{g}$ есть стратифицированная нильпотентная алгебра Ли, порожденная первым слоем $\mathfrak{g}^{(1)}$:

$$ \begin{equation} \mathfrak{g}=\mathfrak{g}^{(1)} \oplus \cdots \oplus \mathfrak{g}^{(s)}, \end{equation} \tag{2.8} $$
$$ \begin{equation} [\mathfrak{g}^{(1)},\mathfrak{g}^{(k)}]=\mathfrak{g}^{(k+1)}, \qquad k=1,\dots,s-1, \end{equation} \tag{2.9} $$
$$ \begin{equation} [\mathfrak{g}^{(1)},\mathfrak{g}^{(s)}]=\{0\}. \end{equation} \tag{2.10} $$
Наименьшее $s$, для которого выполнены условия (2.8)(2.10), называется глубиной (или ступенью) алгебры Карно $\mathfrak{g}$. Размерность первого слоя $\mathfrak{g}^{(1)}$ называется рангом алгебры Карно. Группа Карно есть связная односвязная группа Ли, алгебра Ли которой есть алгебра Карно.

Если алгебра Карно свободная нильпотентная, то она называется свободной алгеброй Карно, а соответствующая группа Ли – свободной группой Карно.

Если на первом слое $\mathfrak{g}^{(1)}$ задано скалярное произведение, то левые сдвиги этого слоя и скалярного произведения задают на соответствующей группе Карно левоинвариантную субриманову структуру. Такие левоинвариантные субримановы структуры на группах Карно возникают как нильпотентные аппроксимации общих субримановых структур в точках общего положения. В этом обзоре рассматриваются несколько таких субримановых структур:

2.1.4. Библиографические комментарии

В этом обзоре используются лишь базовые сведения о гладких многообразиях, группах Ли и алгебрах Ли (см., например, [90]). Первоначальные определения субримановой геометрии содержатся в любом источнике [3], [6], [8], [45], [57], [76], [88].

2.2. Элементы геометрической теории управления

2.2.1. Теорема Рашевского–Чжоу

Рассмотрим левоинвариантную субриманову структуру $(\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ на группе Ли $G$ с левоинвариантным ортонормированным репером $X_1,\dots,X_k$. Обозначим через $\operatorname{Lie}(X_1,\dots,X_k)$ подалгебру Ли в $\mathfrak{g}$, порожденную полями $X_1,\dots,X_k$.

Теорема 2.1 (П. К. Рашевский, В.-Л. Чжоу). Пусть группа Ли $G$ связна, а распределение $\Delta$ вполне неголономно:

$$ \begin{equation*} \operatorname{Lie}(X_1,\dots,X_k)=\mathfrak{g}. \end{equation*} \notag $$
Тогда справедливы следующие утверждения:

Распределение $\Delta$ на многообразии $M$ называется интегрируемым, если через каждую точку $q \in M$ проходит гладкое многообразие $N_q$ такое, что верно равенство $T_qN_q=\Delta_q$ (интегральное многообразие распределения $\Delta$), в этом случае любая субриманова структура $(\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ также называется интегрируемой. Это равносильно тому, что для любого локального базиса $X_1,\dots,X_k$ распределения $\Delta$ выполнено равенство $\operatorname{Lie}(X_1,\dots,X_k)(q)=\Delta_q$, $q \in M$.

2.2.2. Теорема Филиппова

Стандартные условия существования оптимального управления в задачах оптимального управления даются теоремой Филиппова [8], [39].

2.2.3. Принцип максимума Понтрягина на группах Ли

Рассмотрим левоинвариантную задачу оптимального управления (2.1)(2.3) на группе Ли $G$ с фиксированным терминальным временем $t_1$. Введем гамильтониан принципа максимума Понтрягина:

$$ \begin{equation} h_u^{\nu}(\lambda)=\langle \lambda,f(g, u)\rangle+\nu \varphi(u), \end{equation} \tag{2.11} $$
$$ \begin{equation} \lambda \in T^*_g G \subset T^*G, \qquad u \in U, \quad g \in G, \quad \nu \in \mathbb{R}. \end{equation} \tag{2.12} $$
Для фиксированных $u \in U$, $\nu \in \mathbb{R}$ обозначим через $\vec{h}_u^{\nu} \in \operatorname{Vec}(T^*G)$ гамильтоново векторное поле, соответствующее гамильтониану $h_u^{\nu} \in C^{\infty}(T^*G)$.

Теорема 2.2 (принцип максимума Понтрягина). Если $g(t)$ есть оптимальная траектория, соответствующая управлению $u(t)$, то существуют кривая $\lambda \in \operatorname{Lip}([0,t_1],T^*G)$, $\lambda_t \in T^*_{g(t)}G$, и число $\nu \in \{-1,0\}$, для которых выполнены условия:

Если терминальное время $t_1$ свободно, то к условиям (1)–(3) присоединяется условие

Траектория $g(t)$ и управление $u(t)$, удовлетворяющие принципу максимума Понтрягина, называются экстремальными, а соответствующая кривая $\lambda_t$ называется экстремалью.

Для левоинвариантной субримановой задачи (2.4), (2.5), (2.7) принцип максимума Понтрягина детализируется следующим образом. Введем гамильтонианы

$$ \begin{equation*} h_i(\lambda)=\langle\lambda,X_i(g)\rangle,\quad H(\lambda)=\frac{1}{2}\sum_{i=1}^{k} h_i^2(\lambda),\qquad \lambda \in T^*G. \end{equation*} \notag $$

Следствие 2.1. Пусть $g(t)$ есть субриманова кратчайшая, соответствующая управлению $u(t)$. Тогда существует кривая $\lambda \in \operatorname{Lip}([0,t_1],T^*G)$, $\lambda_t \in T^*_{g(t)}G$, для которой выполнено одно и только одно из условий:

$$ \begin{equation} \dot{\lambda}_t =\sum_{i=1}^k u_i(t)\vec h_i(\lambda_t), \quad H(\lambda_t) \equiv 0, \quad \lambda_t \ne 0, \end{equation} \tag{A} $$
$$ \begin{equation} \dot{\lambda}_t =\vec{H}(\lambda_t), \quad u_i(t)=h_i(\lambda_t). \end{equation} \tag{N} $$

Случай (A) называется анормальным, а случай (N)нормальным.

Дополним ортонормированный репер субримановой структуры $X_1,\dots,X_k$ до левоинвариантного репера $X_1,\dots,X_n$ на группе Ли $G$ и введем гамильтонианы $h_i(\lambda)=\langle\lambda,X_i(g)\rangle$. Тогда нормальная гамильтонова система $\dot{\lambda}=\vec{H}(\lambda)$ может быть представлена в виде:

$$ \begin{equation} \begin{aligned} \, &\dot h_i=\{H,h_i\}, \qquad i=1,\dots,n, \\ & \dot g=\sum_{i=1}^k h_i X_i(g), \nonumber \end{aligned} \end{equation} \tag{2.13} $$
где $\{H,h_i\}$ есть скобка Пуассона гамильтонианов.

Вертикальную подсистему (2.13) можно рассматривать как систему дифференциальных уравнений на коалгебре Ли $\mathfrak{g}^*$ после тривиализации кокасательного расслоения $T^*G \cong G\times \mathfrak{g}^*$ левыми сдвигами.

Вдоль непостоянных нормальных экстремалей $H(\lambda_t) \equiv \operatorname{const} >0$, и их можно параметризовать натурально (длиной дуги), т. е. так, что $H(\lambda_t) \equiv 1/2$. Введем цилиндр $C=\mathfrak{g}^*\cap\{H=1/2\}$, тогда натурально параметризованные нормальные экстремальные траектории задаются с помощью экспоненциального отображения

$$ \begin{equation} \begin{aligned} \, &\operatorname{Exp}\colon (\lambda_0, t) \mapsto g(t)=\pi \circ e^{t\vec H}(\lambda_0), \\ &\operatorname{Exp}\colon C\times\mathbb{R}_+ \to G; \nonumber \end{aligned} \end{equation} \tag{2.14} $$
экспонента справа в (2.14) обозначает поток гамильтонова поля, а $\pi\colon T^*G \to G$ есть каноническая проекция.

Волновым фронтом за время $t>0$, соответствующим начальной точке $\operatorname{Id}$, называется множество

$$ \begin{equation*} W_t=\{\operatorname{Exp}(\lambda,t) \mid \lambda \in C\}. \end{equation*} \notag $$
Очевидно включение $S_t \subset W_t$.

Анормальным множеством для левоинвариантной субримановой структуры на группе Ли $G$, соответствующим начальной точке $g_0=\operatorname{Id} \in G$, называется множество

$$ \begin{equation*} \operatorname{Abn}=\{g(t)\mid g(\,\cdot\,)\text{ -- анормальная траектория}, \ t > 0, \ g(0)=\operatorname{Id}\} \subset G. \end{equation*} \notag $$

2.2.4. Условия оптимальности второго порядка

Теорема 2.3 (условие Лежандра). Короткие дуги нормальных экстремальных траекторий оптимальны.

Поэтому нормальные экстремальные траектории являются геодезическими. Момент времени $\widehat t > 0$ называется сопряженным временем для нормальной геодезической $\operatorname{Exp}(\lambda,t)$, $\lambda \in C$, если $(\lambda,\widehat t)$ есть критическая точка экспоненциального отображения, т. е. дифференциал

$$ \begin{equation*} \operatorname{Exp}_{*(\lambda,\widehat t)}\colon T_{(\lambda,\widehat t)} (C \times \mathbb{R}_+) \to T_{\widehat g}G,\quad\text{где}\ \ \widehat g=\operatorname{Exp}(\lambda,\widehat t), \end{equation*} \notag $$
вырожден. При этом точка $\widehat g$ называется сопряженной точкой. Первое сопряженное время вдоль геодезической $g(t)$ есть
$$ \begin{equation*} t^1_{\rm conj}= \inf\{t > 0 \mid t\text{ -- сопряженное время вдоль }g(\,\cdot\,)\}. \end{equation*} \notag $$

Теорема 2.4 (условие Якоби). Пусть $g\colon [0,t_1] \to G$ есть нормальная геодезическая, не содержащая анормальных дуг. Тогда:

(1) $t^1_{\rm conj} > 0$;

(2) для любого $\tau \in (0, t^1_{\rm conj})$ геодезическая $g|_{[0,\tau]}$ есть локально кратчайшая в топологии $W^{1,2}$ на пространстве горизонтальных кривых с теми же граничными точками;

(3) для любого $\tau > t^1_{\rm conj}$ геодезическая $g|_{[0,\tau]}$ не является кратчайшей.

Первой каустикой называется множество

$$ \begin{equation*} \operatorname{Conj}^1=\{\operatorname{Exp}(\lambda,t) \mid \lambda \in C,\ t=t^1_{\rm conj}(\lambda)\}. \end{equation*} \notag $$

Теорема 2.5 (условие Гоха). Пусть $(\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ есть вполне неголономная субриманова структура на гладком многообразии $M$. Если любые субримановы шары компактны и

$$ \begin{equation*} \Delta_q+[\Delta,\Delta]_q=T_qM, \qquad q \in M, \end{equation*} \notag $$
то любая кратчайшая нормальна.

2.2.5. Библиографические комментарии

Этот раздел содержит стандартный материал геометрической теории управления (см. [6], [8], [33], [43], [45], [57], [60], [66], [72], [76], [81], [91]).

2.3. Симметрийный метод построения оптимального синтеза

Отыскание оптимальных траекторий в задачах оптимального управления обычно состоит из следующих шагов:

Шаг (1) обычно выполняется с помощью общих методов теории управления. Например, для задач субримановой геометрии условия существования кратчайших даются теоремами Рашевского–Чжоу и Филиппова.

Шаг (2), как правило, выполняется с помощью принципа максимума Понтрягина. Доказывается интегрируемость гамильтоновой системы принципа максимума Понтрягина, и ее решения параметризуются в явном виде.

Шаг (3) наиболее сложен. Локальную оптимальность экстремальных траекторий обычно можно исследовать с помощью оценок сопряженного времени. Для изучения глобальной оптимальности в задачах с большой группой симметрий (в частности, в левоинвариантных задачах) часто применяется следующий симметрийный метод.

(3.1) Описываются дискретные и непрерывные симметрии экспоненциального отображения.

(3.2) Отыскиваются точки Максвелла, соответствующие симметриям (т. е. те точки, куда несколько симметричных экстремальных траекторий приходят в одно и то же время). Эти точки (и их прообразы относительно экспоненциального отображения) образуют страты Максвелла в образе (соответственно прообразе) экспоненциального отображения. На каждой экстремальной траектории отыскивается первое время Максвелла, соответствующее симметриям (т. е. первое время, когда экстремальные траектории пересекают страты Максвелла). При достаточно общих условиях экстремальная траектория не может быть оптимальной после точки Максвелла [71].

(3.3) Доказывается, что на любой геодезической первое сопряженное время не меньше первого времени Максвелла, соответствующего симметриям. Для этого можно использовать прямые оценки якобиана экспоненциального отображения или гомотопическую инвариантность индекса Маслова (количества сопряженных точек на экстремальной траектории [2], [77]).

(3.4) Рассматривается ограничение экспоненциального отображения на подобласти, вырезаемые в прообразе и образе экспоненциального отображения стратами Максвелла, соответствующими симметриям. С помощью теоремы Адамара о глобальном диффеоморфизме [49] доказывается, что это ограничение есть диффеоморфизм.

(3.5) На основе описанной таким образом глобальной структуры экспоненциального отображения часто можно доказать, что время разреза на экстремальных траекториях равно первому времени Максвелла, соответствующему симметриям. Более того, таким образом можно доказать, что для любой конечной точки в указанных подобластях в образе экспоненциального отображения существует единственная оптимальная траектория, которую можно вычислить, обращая экспоненциальное отображение в этих подобластях.

(3.6) Наконец, для задач невысокой размерности с большой группой симметрий иногда удается построить полный оптимальный синтез, т. е. закон, который каждой конечной точке в пространстве состояний ставит в соответствие одну или несколько оптимальных траекторий, приходящих в эту точку.

Многие задачи оптимального управления, описанные в этом обзоре, исследованы с помощью этого симметрийного метода.

2.3.1. Библиографические комментарии

Симметрийный метод есть обобщение классического метода Адамара в римановой геометрии, примененного им, в частности, к исследованию оптимального синтеза на поверхностях отрицательной кривизны [42]. В описанном виде он применялся к левоинвариантным задачам оптимального управления в работах [7], [12], [34], [58], [63], [65], [74], [75], [79].

3. Классификации левоинвариантных субримановых задач

3.1. Задачи на трехмерных группах Ли

В этом разделе описана классификация, с точностью до локальных изометрий и дилатаций, всех неинтегрируемых левоинвариантных субримановых структур ранга 2 на трехмерных группах Ли.

3.1.1. Трехмерные алгебры Ли

Все трехмерные алгебры Ли, в которых существует двумерное подпространство, не являющееся подалгеброй, суть алгебры Ли следующих групп Ли:

3.1.2. Субримановы структуры

Пусть $G$ – трехмерная группа Ли и $(\Delta,\langle\cdot,\cdot\rangle)$ есть неинтегрируемая левоинвариантная субриманова структура на $G$ ранга 2.

Предложение 3.1. Пусть группа Ли $G$ односвязна. Существует левоинвариантный репер $(X_0,X_1,X_2)$ на группе Ли $G$ такой, что $(X_1,X_2)$ есть ортонормированный репер для субримановой структуры $(\Delta,\langle\,\cdot\,{,}\,\cdot\, \rangle)$, в котором таблица умножения есть либо

$$ \begin{equation} [X_1,X_0] =c_{01}^2 X_2, \end{equation} \tag{3.1} $$
$$ \begin{equation} [X_2,X_0] =c_{02}^1 X_1, \end{equation} \tag{3.2} $$
$$ \begin{equation} [X_2,X_1] =c_{12}^1 X_1+c_{12}^2 X_2+X_0, \end{equation} \tag{3.3} $$
либо
$$ \begin{equation} [X_1,X_0] =\kappa X_2, \end{equation} \tag{3.4} $$
$$ \begin{equation} [X_2,X_0] =-\kappa X_1, \end{equation} \tag{3.5} $$
$$ \begin{equation} [X_2,X_1] =X_0. \end{equation} \tag{3.6} $$

В случае (3.1)(3.3) обозначим

$$ \begin{equation*} \chi=\frac{c_{01}^2+c_{02}^1}{2}\,, \qquad \kappa=-(c_{12}^1)^2-(c_{12}^2)^2+\frac{c_{01}^2-c_{02}^1}{2}\,, \end{equation*} \notag $$
а в случае (3.4)(3.6) положим $\chi=0$.

3.1.3. Классификация трехмерных субримановых структур

При растяжениях ортонормированного репера $(X_1,X_2)$ инварианты $\chi$ и $\kappa$ умножаются на ненулевую константу, поэтому их можно нормировать условием

$$ \begin{equation*} \chi=\kappa=0 \quad \text{или} \quad \chi^2+\kappa^2=1, \quad \chi \geqslant 0. \end{equation*} \notag $$

Изометрия между двумя субримановыми многообразиями $(M,\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ и $(M',\Delta',\langle\,\cdot\,{,}\,\cdot\,\rangle')$ есть диффеоморфизм $f\colon M \to M'$, удовлетворяющий следующим условиям:

(1) $f_*(\Delta)=\Delta'$;

(2) $\langle X_1,X_2\rangle=\langle f_* X_1,f_*X_2\rangle'$ для любых векторных полей $X_1$, $X_2$, касающихся распределения $\Delta$.

Теорема 3.1. Неинтегрируемые левоинвариантные субримановы структуры ранга $2$ на трехмерных группах Ли классифицируются с точностью до локальных изометрий и дилатаций, как на рис. 1, где каждая структура обозначена точкой $(\kappa,\chi)$, и разные точки обозначают локально неизометричные структуры.

Более того, справедливы следующие утверждения:

(1) если $\chi=\kappa=0$, то структура локально изометрична субримановой структуре на группе Гейзенберга (см. раздел 4.1);

(2) если $\chi^2+\kappa^2=1$, то существуют не более трех локально неизометричных нормализованных субримановых структур с этими инвариантами; в частности, на каждой унимодулярной группе Ли для любых $(\chi,\kappa)$ существует единственная нормализованная структура;

(3) если $\chi \ne 0$ или $\chi=0$ и $\kappa \geqslant 0$, то две структуры с заданными $(\chi,\kappa)$ локально изометричны тогда и только тогда, когда их алгебры Ли изоморфны.

3.1.4. Изометрия между $\mathcal{A}^+(\mathbb{R})\times S^1$ и $\operatorname{SL}(2)$

Существуют неизоморфные группы Ли с локально изометричными субримановыми структурами: из теоремы 3.1 следует, что существует единственная нормализованная левоинвариантная структура на группе $\mathcal{A}^+(\mathbb{R}) \oplus \mathbb{R}$ с $\chi=0$, $\kappa=-1$. Эта структура локально изометрична субримановой структуре на $\operatorname{SL}(2)$, определяемой формой Киллинга.

Группа Ли $\mathcal{A}^+(\mathbb{R}) \oplus \mathbb{R}$ представляется матрицами:

$$ \begin{equation*} \mathcal{A}^+(\mathbb{R}) \oplus \mathbb{R}=\left\{\begin{pmatrix} a & 0 & b\\ 0 & 1 & c \\ 0 & 0 & 1 \end{pmatrix} \biggm| a > 0, \, b, c \in \mathbb{R}\right\}, \end{equation*} \notag $$
где действие на вектор $(x,y) \in \mathbb{R}^2$ задается так:
$$ \begin{equation*} \begin{pmatrix} a & 0 & b\\ 0 & 1 & c \\ 0 & 0 & 1 \end{pmatrix}\begin{pmatrix} x\\ y\\ 1 \end{pmatrix}=\begin{pmatrix} a x+b\\ y+c\\ 1 \end{pmatrix}. \end{equation*} \notag $$
Алгебра Ли этой группы Ли порождена матрицами
$$ \begin{equation*} e_1=\begin{pmatrix} 0 & 0 & 1\\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}, \quad e_2=\begin{pmatrix} -1 & 0 & 0\\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix},\quad e_3=\begin{pmatrix} 0 & 0 & 0\\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix}. \end{equation*} \notag $$

Рассмотрим субриманову структуру на $\mathcal{A}^+(\mathbb{R})\oplus \mathbb{R}$ с ортонормированным репером $(e_2,e_1+e_3)$.

Подгруппа $\mathcal{A}^+(\mathbb{R})$ диффеоморфна полуплоскости $\{(a,b) \in \mathbb{R}^2 \mid a > 0\}$, которая задается в стандартных полярных координатах как $\{(\rho,\theta) \mid \rho > 0, -\pi/2 < \theta < \pi/2\}$.

Рассмотрим субриманову структуру на $\mathcal{A}^+(\mathbb{R})\times S^1$, заданную проецированием структуры на $\mathcal{A}^+(\mathbb{R})\times \mathbb{R}$.

Теорема 3.2. Диффеоморфизм $F\colon\mathcal{A}^+(\mathbb{R})\times S^1 \to \operatorname{SL}(2)$, заданный равенством

$$ \begin{equation*} F(\rho,\theta,\varphi)=\frac{1}{\sqrt{\rho\cos\theta}} \begin{pmatrix} \cos \varphi & \sin \varphi\\ \rho \sin(\theta-\varphi) & \rho \cos(\theta-\varphi) \end{pmatrix}, \end{equation*} \notag $$
где $(\rho,\theta) \in \mathcal{A}^+(\mathbb{R})$ и $\varphi \in S^1$, есть глобальная субриманова изометрия.

3.1.5. Библиографические комментарии

Изложение в этом разделе опирается на работу [4].

Отметим, что в более ранней работе [38] получена полная классификация субримановых однородных пространств, т. е. субримановых структур, имеющих транзитивную группу изометрий, гладко действующих на многообразии. Использованные в [38] инварианты $\tau_0$ и $K$ совпадают, с точностью до нормирующего множителя, с инвариантами $\chi$ и $\kappa$ этого раздела.

Классификация контактных левоинвариантных субримановых метрик на трехмерных группах Ли с точностью до автоморфизмов алгебры Ли получена в работах [88], [89].

3.2. Задачи на четырехмерных группах Ли

3.2.1. Распределения Энгеля

Пусть $M$ есть четырехмерное многообразие. Распределение $\Delta \subset TM$ ранга 2 называется распределением Энгеля, если

$$ \begin{equation*} \operatorname{rank}(\Delta + [\Delta, \Delta])=3, \qquad \operatorname{rank}(\Delta + [\Delta, \Delta] + [\Delta, [\Delta, \Delta]])=4, \end{equation*} \notag $$
где $[\Delta,\Delta]$ состоит из касательных векторов, которые можно получить с помощью коммутаторов локальных сечений распределения $\Delta$. Иными словами, распределение $\Delta$ имеет вектор роста $(2,3,4)$.

3.2.2. Классификация левоинвариантных энгелевых субримановых структур

Предложение 3.2. По любой левоинвариантной энгелевой субримановой структуре можно найти такой левоинвариантный репер $(X_1,\dots,X_4)$ на соответствующей группе Ли, что $(X_1,X_2)$ есть ортонормированный репер структуры, с таблицей умножения

$$ \begin{equation*} \begin{gathered} \, [X_1,X_2]=X_3,\quad [X_1,X_3]=X_4,\quad [X_1,X_4]=\frac{1}{2}A X_1+T_5 X_2+T_3 X_3+T_1 X_4, \\ [X_2,X_3]=T_6 X_1+T_4 X_2+T_2 X_3,\quad [X_2,X_4]=T_4 X_3+T_2 X_4, \\ [X_3,X_4]=C X_1+B X_2-\frac{1}{2} A X_3+T_4 X_4, \end{gathered} \end{equation*} \notag $$
где
$$ \begin{equation*} A=T_1 T_4,\quad B=T_2 T_5-T_3 T_4,\quad C=\frac{1}{2} T_1 T_2 T_4-T_3 T_6. \end{equation*} \notag $$

Теорема 3.3. Любая левоинвариантная энгелева субриманова структура однозначно локально определяется структурными константами $T_i$ и принадлежит по крайней мере одному семейству из табл. 1. В этой таблице перечислены ограничения на $T_i$, определяющие семейства, а также соответствующие нетривиальные структурные уравнения.

Таблица 1.Классификация левоинвариантных энгелевых субримановых структур

ОграниченияСтруктурные уравнения, за исключением $[X_1,X_2]=X_3,\, [X_1,X_3]=X_4$
I. $T_2=T_4=T_6=0$$ [X_1,X_4]=T_5 X_2+T_3 X_3+T_1 X_4 $
II. $ T_4=T_6=T_5=0$ $ [X_1,X_4]=T_3 X_3+T_1 X_4$,
$ [X_2,X_3]=T_2 X_3$,
$ [X_2,X_4]= T_2 X_4$
III. $ T_1=T_2=T_5=0$ $[X_1,X_4]=T_3 X_3$,
$[X_2,X_3] =T_6 X_1+T_4 X_2$,
$ [X_2,X_4]=T_4 X_3$,
$[X_3,X_4]=-T_6 T_3 X_1 -T_4 T_3 X_2+T_4 X_4$
IV. $ T_1=T_3=0$, $[X_2,X_3] =T_6 X_1+T_2 X_3$,
$\quad \, T_4=T_5=0$ $[X_2,X_4]=T_2 X_4$
V. $T_1\ne 0$, $[X_1, X_4]=T_1X_4-\dfrac{\vphantom{\displaystyle\sum} T_1^3+8T_5}{4T_1}X_3+T_5X_2- \dfrac{2T_2T_5}{T_1}X_1$,
$\quad \, T_4=\dfrac{1}{2}\,\dfrac{T_2(T_1^2+4T_3)}{T_1}$, $[X_2,X_3]=T_2X_3-\dfrac{4T_2T_5}{T_1^2}X_2+\dfrac{8T_2^2T_5}{T_1^3}X_1$,
$\quad \, T_5=-\dfrac18 T_1^3-\dfrac{1}{2} T_1 T_3$, $[X_2, X_4]=T_2X_4-\dfrac{4T_2T_5}{T_1^2}X_3$,
$\quad \, T_6=-\dfrac{T_2^2(T_1^2+4T_3)}{T_1^2}$ $[X_3, X_4]=\dfrac{2T_2T_5}{T_1}\biggl(X_3 -\dfrac{2}{T_1} X_4- \dfrac{4T_5}{T_1^2} X_2+\dfrac{8T_2T_5}{T_1^3} X_1\biggr)$

3.2.3. Интегрируемость и строгая анормальность

Теорема 3.4. Рассмотрим любую левоинвариантную энгелеву субриманову структуру типа III на группе Ли с алгеброй Ли с базисом $X_1,\dots,X_4$ и таблицей умножения

$$ \begin{equation*} \begin{alignedat}{2} [X_1,X_2]&=X_3, &\qquad [X_1,X_3]&=X_4, \\ [X_1,X_4]&=T_3 X_3, &\qquad [X_2,X_3]&=T_6 X_1+T_4 X_2, \\ [X_2,X_4]&=T_4 X_3, &\qquad [X_3,X_4]&=-T_6 T_3 X_1-T_4 T_3 X_2+T_4 X_4, \end{alignedat} \end{equation*} \notag $$
где векторные поля $X_1$, $X_2$ образуют ортонормированный репер. Нормальный гамильтонов поток этой структуры суперинтегрируем в том смысле, что он имеет четыре независимых коммутирующих первых интеграла, включая нормальный гамильтониан $H$, и еще один независимый первый интеграл, коммутирующий с $H$. Если $T_4 \ne 0$, то анормальные геодезические этой структуры строгие, т. е. не являются нормальными.

3.2.4. Сопряженные точки

Предложение 3.3. Пусть $g(t)$ есть анормальная геодезическая левоинвариантной энгелевой субримановой структуры, и пусть $\delta=T_6-(T_2)^2/4$.

Если $\delta > 0$, то все сопряженные времена имеют вид

$$ \begin{equation*} t_{\rm conj}=\frac{\pi k}{\sqrt{\delta}}\,, \qquad k \in \mathbb{N}. \end{equation*} \notag $$
Если $g(t)$ строго анормальна, то ограничение $g\big|_{[0,\tau]}$ есть $C^0$-локально кратчайшая при $\tau < \pi/\sqrt{\delta}$ и не является таковой при $\tau > \pi/\sqrt{\delta}$ .

Если $g(t)$ строго анормальна и $\delta \leqslant 0$, то ограничение $g\big|_{[0,\tau]}$ есть $C^0$-локально кратчайшая для любого $\tau >0$.

3.2.5. Библиографические комментарии

Результаты этого раздела получены в работе [26] (см. также [9], [10]).

4. Задачи, интегрируемые в элементарных функциях

4.1. Субриманова задача на группе Гейзенберга

4.1.1. Постановка задачи

Задача Дидоны. Рассмотрим следующую формализацию древнейшей задачи оптимизации, восходящей к IX в. до н. э. [85], – задачи Дидоны.

Пусть на евклидовой плоскости заданы точки $a_0,a_1 \in \mathbb{R}^2$, соединенные кривой $\gamma_0 \subset \mathbb{R}^2$. Пусть также задано число $S \in \mathbb{R}$. Требуется соединить точки $a_0$, $a_1$ кратчайшей кривой $\gamma \subset \mathbb{R}^2$ так, чтобы кривые $\gamma_0$ и $\gamma$ ограничивали на плоскости область алгебраической площади $S$.

Задача оптимального управления. Эту геометрическую задачу можно переформулировать как задачу оптимального управления

$$ \begin{equation} \dot g=u_1 X_1(g)+u_2 X_2(g), \qquad g=(x,y,z) \in \mathbb{R}^3, \end{equation} \tag{4.1} $$
$$ \begin{equation} g(0)=g_0, \qquad g(t_1)=g_1, \end{equation} \tag{4.2} $$
$$ \begin{equation} l=\int_0^{t_1}\sqrt{u_1^2+u_2^2}\,dt \to \min, \end{equation} \tag{4.3} $$
$$ \begin{equation} X_1=\frac{\partial}{\partial x}- \frac{y}{2}\,\frac{\partial}{\partial z}\,, \qquad X_2=\frac{\partial}{\partial y}+\frac{x}{2}\,\frac{\partial}{\partial z}\,. \end{equation} \tag{4.4} $$
Это субриманова задача для субримановой структуры на $\mathbb{R}^3$, заданной ортонормированным репером $X_1$, $X_2$.

Алгебра Гейзенберга и группа Гейзенберга. Алгеброй Гейзенберга называется трехмерная свободная нильпотентная алгебра Ли $\mathfrak{g}$ с двумя образующими, глубины 2. Существует базис $\mathfrak{g}=\operatorname{span}(X_1,X_2,X_3)$, в котором единственная ненулевая скобка Ли есть

$$ \begin{equation*} [X_1,X_2]=X_3. \end{equation*} \notag $$
Алгебра Гейзенберга имеет градуировку $\mathfrak{g}=\mathfrak{g}^{(1)} \oplus\mathfrak{g}^{(2)}$, $\mathfrak{g}^{(1)}=\operatorname{span}(X_1,X_2)$, $\mathfrak{g}^{(2)}=\mathbb{R} X_3$, $[\mathfrak{g}^{(1)},\mathfrak{g}^{(i)}]=\mathfrak{g}^{(i+1)}$, $\mathfrak{g}^{(3)}=\{0\}$, поэтому она является алгеброй Карно. Соответствующая связная односвязная группа Ли $G$ называется группой Гейзенберга.

Группа Гейзенберга имеет линейное представление

$$ \begin{equation*} \begin{aligned} \, G=\left\{ \begin{pmatrix} 1 & x & z +xy/2 \\ 0 & 1 & y\\ 0 & 0 & 1 \end{pmatrix} \biggm| x, y, z \in \mathbb{R}^3 \right\}, \end{aligned} \end{equation*} \notag $$
дающее закон умножения в этой группе:
$$ \begin{equation*} \begin{aligned} \, \begin{pmatrix} x_1\\ y_1\\ z_1 \end{pmatrix} \cdot \begin{pmatrix} x_2\\ y_2\\ z_2 \end{pmatrix}=\begin{pmatrix} x_1+x_2\\ y_1+y_2\\ z_1+z_2+(x_1 y_2-x_2 y_1)/2 \end{pmatrix}. \end{aligned} \end{equation*} \notag $$
Векторные поля (4.4) левоинвариантны на группе Ли $G$. Следовательно, задача (4.1)(4.4) есть левоинвариантная субриманова задача на группе Гейзенберга. Это простейшая субриманова задача, не являющаяся римановой.

Неголономная левоинвариантная субриманова задача на группе Гейзенберга единственна с точностью до изоморфизма этой группы [70].

В силу левоинвариантности задачи можно полагать $g_0=\operatorname{Id}=(0,0,0)$ в (4.2).

4.1.2. Симметрии распределения и субримановой структуры

Рассмотрим субриманову структуру $(\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ на гладком многообразии $M$. Векторное поле $X \in \mathrm{Vec}(M)$ называется инфинитезимальной симметрией

Пространство инфинитезимальных симметрий распределения (субримановой структуры) есть алгебра Ли.

Теорема 4.1. (1) Алгебра Ли инфинитезимальных симметрий распределения $\operatorname{span}(X_1,X_2)$ параметризуется гладкими функциями трех переменных.

(2) Алгебра Ли инфинитезимальных симметрий субримановой структуры с ортонормированным репером $X_1$, $X_2$ есть четырехмерная алгебра Ли $\operatorname{span}{(X_0,Y_1,Y_2,Y_3)}$ с таблицей умножения

$$ \begin{equation*} [X_0,Y_1]=-Y_2, \quad [X_0,Y_2]= Y_1, \quad [Y_1,Y_2]=Y_3. \end{equation*} \notag $$
Векторные поля $Y_1$, $Y_2$, $Y_3$ образуют правоинвариантный репер на группе Гейзенберга, а поле $X_0$ определяет вращение:
$$ \begin{equation*} X_0=-y\frac{\partial}{\partial x}+x\frac{\partial}{\partial y}\,. \end{equation*} \notag $$

4.1.3. Геодезические

Существование оптимальных управлений в задаче (4.1)(4.4) следует из теорем Рашевского–Чжоу и Филиппова.

Анормальные траектории постоянны.

Для параметризации нормальных экстремалей рассмотрим линейные на слоях $T^*G$ гамильтонианы $h_i(\lambda)=\langle\lambda,X_i\rangle$, $i=1,2,3$, $X_3=[X_1,X_2]=\partial/\partial z$. Нормальные экстремали суть траектории гамильтонова поля $\vec H$, где $H=(h_1^2+h_2^2)/2$. Натурально параметризованные экстремали принадлежат поверхности уровня $\{H=1/2\}$. Введем на этой поверхности координату $\theta$:

$$ \begin{equation*} h_1=\cos \theta, \quad h_2=\sin \theta. \end{equation*} \notag $$
Натурально параметризованные экстремали в случае $h_3=0$ имеют вид
$$ \begin{equation} \theta \equiv \theta_0, \qquad h_3 \equiv 0, \end{equation} \tag{4.5} $$
$$ \begin{equation} x=t\cos\theta_0, \qquad y=t\sin\theta_0, \qquad z=0, \end{equation} \tag{4.6} $$
а в случае $h_3\ne 0$
$$ \begin{equation} \theta =\theta_0+h_3 t, \qquad h_3 \equiv \operatorname{const}, \end{equation} \tag{4.7} $$
$$ \begin{equation} x =\frac{\sin(\theta_0+h_3 t)-\sin \theta_0}{h_3}\,, \end{equation} \tag{4.8} $$
$$ \begin{equation} y =\frac{\cos \theta_0-\cos (\theta_0+h_3 t)}{h_3}\,, \end{equation} \tag{4.9} $$
$$ \begin{equation} z =\frac{h_3 t-\sin(h_3 t)}{2h_3^2}\,. \end{equation} \tag{4.10} $$
При $h_3=0$ геодезические (4.6) суть прямые в плоскости $\{z=0\}$, а в случае $h_3\ne 0$ геодезические (4.8)(4.10) суть спирали с переменным наклоном, проецирующиеся на плоскость $(x,y)$ в окружности.

Формулы (4.5)(4.10) дают параметризацию экспоненциального отображения

$$ \begin{equation*} \begin{aligned} \, &\operatorname{Exp}\colon (\theta_0,h_3,t) \mapsto (x,y,z), \\ &\operatorname{Exp}\colon C\times \mathbb{R}_+ \to G, \qquad C=\mathfrak{g}^* \cap\biggl\{H=\frac{1}{2}\biggr\}. \end{aligned} \end{equation*} \notag $$
В случае $h_3=0$ геодезические $g(t)$, $t \in [0,t_1]$, оптимальны для любого $t_1 > 0$. Эти геодезические $g(t)$, $t \in \mathbb{R}$, и только они, являются метрическими прямыми.

4.1.4. Сопряженные времена

Теорема 4.2. Пусть $(\theta_0,h_3) \in C$ и $g(t)=\operatorname{Exp}(\theta_0,h_3,t)$.

Если $h_3=0$, то на геодезической $g(t)$, $t > 0$, нет сопряженных точек.

Если $h_3 \ne 0$, то сопряженные времена вдоль геодезической $g(t)$, $t > 0$, имеют вид

$$ \begin{equation*} \frac{2\pi k}{|h_3|} \quad \textit{и} \quad \frac{2p_k}{|h_3|}\,, \qquad k \in \mathbb{N}, \end{equation*} \notag $$
где $p_k \in (\pi k,\pi/2+\pi k)$ есть $k$-й положительный корень уравнения
$$ \begin{equation*} \bigl(2p-\sin(2p)\bigr)\cos p-\bigl(1-\cos(2p)\bigr)\sin p=0. \end{equation*} \notag $$

Поэтому первое сопряженное время равно

$$ \begin{equation*} t_{\rm conj}^1=\frac{2\pi}{|h_3|}\,, \end{equation*} \notag $$
а первая каустика есть
$$ \begin{equation*} \operatorname{Conj}^1=\{x=y=0,\,z \ne 0\}. \end{equation*} \notag $$

4.1.5. Время разреза и множество разреза

Теорема 4.3. Время разреза вдоль геодезической $g(t)=\operatorname{Exp}(\theta_0,h_3,t)$ имеет следующий вид:

$$ \begin{equation*} \begin{alignedat}{2} t_{\rm cut}&=+\infty &\quad \textit{при} \quad h_3&=0, \\ t_{\rm cut}&=\frac{2\pi}{|h_3|} &\quad \textit{при} \quad h_3 &\ne 0. \end{alignedat} \end{equation*} \notag $$

Поэтому

$$ \begin{equation*} t_{\rm cut}(\lambda)=t_{\rm conj}^1(\lambda), \qquad \lambda \in C, \end{equation*} \notag $$
и множество разреза совпадает с первой каустикой:
$$ \begin{equation*} \operatorname{Cut}=\operatorname{Conj}^1=\{x=y=0, \, z \ne 0\}. \end{equation*} \notag $$

Геодезические-спирали теряют оптимальность (как локальную, так и глобальную) при первом после начала пересечении с осью $z$; иначе говоря, они оптимальны вплоть до первого витка окружности $(x(t),y(t))$.

4.1.6. Оптимальный синтез

Пусть $g_1=(x_1,y_1,z_1) \ne (0,0,0)$ в граничных условиях (4.2). Опишем соответствующие решения задачи (4.1)(4.4).

Если $z_1=0$, $x_1^2+y_1^2 \ne 0$, то кратчайшая есть прямолинейный отрезок (4.6), где

$$ \begin{equation*} t \in [0,t_1], \quad x_1=t_1\cos\theta_0, \quad y_1=t_1\sin\theta_0. \end{equation*} \notag $$
Если $z_1 \ne 0$, $x_1^2+y_1^2 \ne 0$, то кратчайшая есть спираль (4.8)(4.10), где $t \in [0,t_1]$,
$$ \begin{equation*} \begin{gathered} \, \frac{x_1^2+y_1^2}{|z_1|}=\frac{8\sin^2 p_1}{2p_1-\sin(2p_1)}\,,\qquad p_1 \in (0,\pi), \\ h_3=\operatorname{sign}z_1\cdot\sqrt{\frac{2p_1-\sin(2p_1)}{2|z_1|}}\,, \\ t_1=\frac{2p_1}{|h_3|}\,, \\ x_1=\frac{2\sin p_1}{h_3} \cos \tau_1, \quad y_1=\frac{2\sin p_1}{h_3} \sin \tau_1, \\ \theta_0=\tau_1-p_1. \end{gathered} \end{equation*} \notag $$

Наконец, если $z_1 \ne 0$, $x_1^2+y_1^2=0$, то существует однопараметрическое семейство кратчайших (4.8)(4.10), где

$$ \begin{equation*} t \in \biggl[0,\frac{2\pi}{|h_3|}\biggr],\quad h_3=\operatorname{sign}z_1\cdot\sqrt{\frac{\pi}{|z_1|}}\,,\quad \theta_0 \in S^1. \end{equation*} \notag $$

4.1.7. Субриманово расстояние и сферы

Пусть $g=(x,y,z) \in G$. Тогда субриманово расстояние $d_0(g)=d(\operatorname{Id},g)$ представляется следующим образом.

Если $z=0$, то $d_0(g)=\sqrt{x^2+y^2}$ .

Если $z \ne 0$, $x^2+y^2 \ne 0$, то

$$ \begin{equation} d_0(g)=\frac{p}{\sin p}\sqrt{x^2+y^2}\,, \end{equation} \tag{4.11} $$
$$ \begin{equation} \frac{2p-\sin(2p)}{8\sin^2 p}=\frac{|z|}{x^2+y^2}\,,\qquad p \in (0,\pi). \end{equation} \tag{4.12} $$

Если $z \ne 0$, $x^2+y^2=0$, то $d_0(g)=2\sqrt{\pi|z|}$ .

Субриманова сфера радиуса $R$ с центром в единице есть поверхность вращения с параметрическими уравнениями

$$ \begin{equation*} \begin{gathered} \, x=R\,\frac{\sin p}{p}\cos\tau, \quad y=R\,\frac{\sin p}{p} \sin \tau, \quad z=R^2\,\frac{2p-\sin(2p)}{8p^2}\,, \\ p \in [-\pi,\pi], \quad \tau \in S^1; \end{gathered} \end{equation*} \notag $$
она похожа на яблоко и имеет две особые конические точки
$$ \begin{equation*} (x,y,z)=\biggr(0,0,\pm \frac{R^2}{4\pi}\biggr). \end{equation*} \notag $$
Сферы сохраняются вращениями $X_0$ и растягиваются дилатациями $Y=x\dfrac{\partial}{\partial x}+ y\dfrac{\partial}{\partial y}+2z\dfrac{\partial}{\partial z}$ :
$$ \begin{equation*} e^{r X_0}(S_{\operatorname{Id}}(R))=S_{\operatorname{Id}}(R), \qquad e^{r Y}(S_{\operatorname{Id}}(R))=S_{\operatorname{Id}}(e^r R). \end{equation*} \notag $$
Единичная сфера $S_{\operatorname{Id}}(1)$ и ее половина изображены на рис. 2 и 3 соответственно.

4.1.8. Библиографические комментарии

Субриманова задача на группе Гейзенберга описана практически в каждой книге или обзоре по субримановой и неголономной геометрии (см. [6], [15], [35], [46], [57], [68], [76]). По-видимому, первое детальное исследование этой задачи было выполнено в работах [31], [40], [88]. В работе [88] исследован геодезический поток для контактных левоинвариантных субримановых структур на трехмерных группах Ли (в том числе на группе Гейзенберга) методами теории динамических систем.

4.2. Машина Маркова–Дубинса

4.2.1. Постановка задачи

Рассмотрим модель машины, движущейся по плоскости. Состояние машины задается ее положением и ориентацией на плоскости. Машина может ехать вперед с постоянной линейной скоростью и одновременно поворачиваться с ограниченной угловой скоростью. Требуется перевести машину из заданного начального состояния в заданное конечное состояние за минимальное время.

После выбора подходящих единиц измерения задача формулируется как задача быстродействия

$$ \begin{equation} \dot x=\cos \theta, \qquad g=(x,y,\theta) \in \mathbb{R}^2 \times S^1, \end{equation} \tag{4.13} $$
$$ \begin{equation} \dot y=\sin \theta, \qquad u \in [-1,1], \end{equation} \tag{4.14} $$
$$ \begin{equation} \dot \theta=u, \end{equation} \tag{4.15} $$
$$ \begin{equation} g(0)=g_0, \qquad g(t_1)=g_1, \end{equation} \tag{4.16} $$
$$ \begin{equation} t_1 \to \min\!. \end{equation} \tag{4.17} $$
Это левоинвариантная задача на группе $G=\operatorname{SE}(2) \cong \mathbb{R}^2 \ltimes S^1$ евклидовых движений плоскости, поэтому можно положить $g_0=\operatorname{Id}=(0,0,0)$. В терминах левоинвариантных векторных полей на этой группе Ли
$$ \begin{equation} X_1=\cos \theta\,\frac{\partial}{\partial x}+ \sin \theta\,\frac{\partial}{\partial y}\,, \qquad X_2=\frac{\partial}{\partial\theta} \end{equation} \tag{4.18} $$
управляемая система (4.13)(4.15) записывается следующим образом:
$$ \begin{equation} \dot g=X_1+u X_2, \qquad g \in G, \quad u \in [-1,1]. \end{equation} \tag{4.19} $$

4.2.2. Управляемость

Теорема 4.4. Множество достижимости системы (4.19) из точки $\operatorname{Id}$ есть вся группа $\operatorname{SE}(2)$.

4.2.3. Оптимальные траектории

Существование решений в задаче быстродействия (4.13)(4.17) следует из теоремы Филиппова.

Введем линейные на слоях $T^*G$ гамильтонианы

$$ \begin{equation*} h_i(\lambda)=\langle \lambda, X_i\rangle,\qquad i=1,2,3,\quad \lambda \in T^*G,\quad X_3=[X_1,X_2]. \end{equation*} \notag $$

Из принципа максимума Понтрягина получаем гамильтонову систему

$$ \begin{equation*} \begin{gathered} \, \dot h_1=- u h_3, \quad \dot h_2=h_3, \quad \dot h_3=u h_1, \\ \dot g=X_1+u X_2 \end{gathered} \end{equation*} \notag $$
и условие максимума
$$ \begin{equation*} u(t) h_2(t)=\max_{|v| \leqslant 1} v h_2(t). \end{equation*} \notag $$

Если $h_2(t) \ne 0$ на некотором промежутке, то $u \equiv \operatorname{sign} h_2(t)=\pm 1$ и экстремальная кривая есть дуга окружности.

Если $h_2(t) \equiv 0$ на некотором промежутке, то $u \equiv 0$ и экстремальная кривая есть прямолинейный отрезок.

Теорема 4.5. Оптимальные траектории могут быть одного из следующих двух типов:

(1) конкатенация дуги окружности единичного радиуса, прямолинейного отрезка и дуги окружности единичного радиуса;

(2) конкатенация не более чем трех дуг окружностей единичного радиуса.

В случае (2) если $a$, $b$, $c$ суть времена движения по дугам, то

$$ \begin{equation*} \pi < b < 2 \pi,\quad \min(a,c) < b-\pi,\quad \max(a,c) <b. \end{equation*} \notag $$

4.2.4. Библиографические комментарии

Впервые некоторую версию задачи (4.13)(4.17) рассмотрел в 1889 г. А. А. Марков [53].

Детально эту задачу изучил в 1957 г. Л. Дубинс [37]. Он показал, что оптимальная траектория принадлежит одному из шести типов конкатенаций дуг единичных окружностей и прямолинейных отрезков.

Подробный анализ этой задачи методами геометрической теории управления, включая теорему 4.5, приведен в [84].

Анализ и приложение задачи Маркова–Дубинса к управлению движением самолетов см. в работе [61].

Программная реализация оптимального синтеза в этой задаче описана в работе [11].

4.3. Машина Ридса–Шеппа

4.3.1. Постановка задачи

Рассмотрим вариацию модели машины из раздела 4.2. Пусть теперь машина может ехать вперед или назад с постоянной линейной скоростью и одновременно поворачиваться с ограниченной угловой скоростью. Требуется перевести машину из заданного начального состояния в заданное конечное состояние за минимальное время.

Задача формулируется как задача быстродействия

$$ \begin{equation} \dot x=v \cos \theta, \qquad g=(x,y,\theta) \in \mathbb{R}^2 \times S^1, \end{equation} \tag{4.20} $$
$$ \begin{equation} \dot y=v \sin \theta, \qquad |v|=1, \quad u \in [-1, 1], \end{equation} \tag{4.21} $$
$$ \begin{equation} \dot \theta=u, \end{equation} \tag{4.22} $$
$$ \begin{equation} g(0)=g_0, \qquad g(t_1)=g_1, \end{equation} \tag{4.23} $$
$$ \begin{equation} t_1 \to \min\!. \end{equation} \tag{4.24} $$
Это левоинвариантная задача на группе Ли $G=\operatorname{SE}(2) \cong \mathbb{R}^2 \ltimes S^1$. Управляемая система (4.20)(4.22) в терминах левоинвариантных векторных полей (4.18) записывается следующим образом:
$$ \begin{equation} \dot g=v X_1+u X_2, \qquad g \in G, \quad |v|=1, \quad u \in [-1,1]. \end{equation} \tag{4.25} $$

4.3.2. Управляемость

Теорема 4.6. Множество достижимости системы (4.25) из точки $\operatorname{Id}$ есть вся группа $\operatorname{SE}(2)$.

4.3.3. Существование оптимальных траекторий

Множество значений управляющего параметра для машины Ридса–Шеппа невыпукло (см. (4.21)), поэтому общие теоремы существования оптимальных управлений для нее неприменимы. Однако теорема существования справедлива.

Теорема 4.7. В задаче (4.20)(4.24) оптимальное управление существует.

4.3.4. Оптимальные траектории

Теорема 4.8. Для любой точки $g_1 \in \operatorname{SE}(2)$ оптимальная траектория может быть одного из следующих двух типов:

(1) конкатенация не более двух дуг окружностей единичного радиуса, прямолинейного отрезка и не более двух дуг окружностей единичного радиуса;

(2) конкатенация не более четырех дуг окружностей единичного радиуса.

4.3.5. Библиографические комментарии

Задачу (4.20)(4.24) впервые рассмотрели Дж. Ридс и Л. Шепп в работе [67]. Они показали, что оптимальная траектория принадлежит одному из 48 типов конкатенаций дуг единичных окружностей и прямолинейных отрезков.

Эта задача детально исследована в работе [84]: приведено семейство траекторий, содержащее оптимальные траектории в задаче (4.20)(4.24), удовлетворяющие принципу максимума Понтрягина и условиям оптимальности высших порядков. В этой работе количество типов оптимальных траекторий уменьшено до 46.

Полный оптимальный синтез построен в работе [83] (см. также [82]).

Этой задаче посвящена также работа [27].

Программная реализация оптимального синтеза в задаче Ридса–Шеппа описана в работе [11].

4.4. Субриманова задача с вектором роста $(3,6)$

4.4.1. Постановка задачи и две модели

Левоинвариантная субриманова задача с вектором роста $(3,6)$ ставится следующим образом:

$$ \begin{equation} \dot x=u, \quad x,u \in \mathbb{R}^3, \end{equation} \tag{4.26} $$
$$ \begin{equation} \dot y=x\land u, \quad y \in \mathbb{R}^3 \land \mathbb{R}^3, \end{equation} \tag{4.27} $$
$$ \begin{equation} x(0)=0, \quad y(0)=0,\quad x(t_1)=x_1, \quad y(t_1)=y_1, \end{equation} \tag{4.28} $$
$$ \begin{equation} \int_0^{t_1}(u_1^2+u_2^2+u_3^2)^{1/2}\,dt \to \min\!. \end{equation} \tag{4.29} $$
Отождествляя пространство $\mathbb{R}^3 \land \mathbb{R}^3$ с $\mathbb{R}^3$ при помощи оператора
$$ \begin{equation*} * \colon\mathbb{R}^3 \land \mathbb{R}^3 \to \mathbb{R}^3,\quad y \mapsto z, \end{equation*} \notag $$
где $y \land z$ есть форма объема на $\mathbb{R}^3$, можно заменить внешнее произведение $x \land u$ на векторное произведение $[x,u]$ в $\mathbb{R}^3$, и получить постановку
$$ \begin{equation*} \begin{aligned} \, &\dot x=u, \quad x,y,u \in \mathbb{R}^3, \\ &\dot y=[x,u], \\ &x(0)=0, \quad y(0)=0,\quad x(t_1)=x_1, \quad y(t_1)=y_1, \\ &\int_0^{t_1} (u_1^2+u_2^2+u_3^2)^{1/2}\,dt \to \min\!. \end{aligned} \end{equation*} \notag $$
В координатах $x=(x_1,x_2,x_3)$, $y=(y_1,y_2,y_3) \in \mathbb{R}^3$ ортонормированный репер для соответствующей субримановой структуры имеет вид
$$ \begin{equation} X_1 =\frac{\partial}{\partial x_1}+x_3\frac{\partial}{\partial y_2}- x_2\frac{\partial}{\partial y_3}\,, \end{equation} \tag{4.30} $$
$$ \begin{equation} X_2 =\frac{\partial}{\partial x_2}+x_1\frac{\partial}{\partial y_3}- x_3\frac{\partial}{\partial y_1}\,, \end{equation} \tag{4.31} $$
$$ \begin{equation} X_3 =\frac{\partial}{\partial x_3}+x_2\frac{\partial}{\partial y_1}- x_1\frac{\partial}{\partial y_2}\,. \end{equation} \tag{4.32} $$

Ненулевые скобки Ли в алгебре Ли, порожденной полями $X_i$, имеют вид

$$ \begin{equation} [X_1, X_2]=X_{12}, \quad [X_2, X_3]= X_{23}, \quad [X_3, X_1]=X_{31}, \end{equation} \tag{4.33} $$
где $X_{12}=2\dfrac{\partial}{\partial y_3}$ , $X_{23}=2 \dfrac{\partial}{\partial y_1}$ , $X_{31}=2 \dfrac{\partial}{\partial y_2}$ . Будем называть ортонормированный репер (4.30)(4.32) первой моделью субримановой $(3,6)$-структуры.

Вторая модель дается векторными полями

$$ \begin{equation} \widetilde X_1 =\frac{\partial}{\partial x_1}+ \frac{x_3}{2}\,\frac{\partial}{\partial y_2}- \frac{x_2}{2}\,\frac{\partial}{\partial y_3}\,, \end{equation} \tag{4.34} $$
$$ \begin{equation} \widetilde X_2 =\frac{\partial}{\partial x_2}+ \frac{x_1}{2}\,\frac{\partial}{\partial y_3}- \frac{x_3}{2}\,\frac{\partial}{\partial y_1}\,, \end{equation} \tag{4.35} $$
$$ \begin{equation} \widetilde X_3 =\frac{\partial}{\partial x_3}+ \frac{x_2}{2}\,\frac{\partial}{\partial y_1}- \frac{x_1}{2}\,\frac{\partial}{\partial y_2}\,. \end{equation} \tag{4.36} $$

4.4.2. Симметрии

Задача (4.26)(4.29) инвариантна относительно группы $\operatorname{SO}(3)$, естественно действующей на управления и состояния:

$$ \begin{equation*} \begin{aligned} \, &g \colon (u, x, v\land w)\mapsto (g(u), g(x), g(v)\land g(w)), \\ &g \colon \mathbb{R}^3\times \mathbb{R}^3\times(\mathbb{R}^3\land \mathbb{R}^3) \to \mathbb{R}^3 \times \mathbb{R}^3 \times (\mathbb{R}^3\land \mathbb{R}^3), \\ &g \in \operatorname{SO}(3). \end{aligned} \end{equation*} \notag $$

4.4.3. Геодезические в первой модели

Из таблицы умножения (4.33) следует, что распределение $\Delta=\operatorname{span}(X_1,X_2,X_3)$ удовлетворяет условию Гоха $\Delta^2_{q}=T_qG$, $q \in G \cong \mathbb{R}^6$. Поэтому все субримановы кратчайшие нормальны. В нормальном случае гамильтониан принципа максимума Понтрягина имеет вид

$$ \begin{equation*} H=\frac{p^2}{2}+(\rho,[x,p])+\frac{x^2\rho^2}{2}- \frac{(\rho,x)^2}{2}\,,\qquad (x,y,p,\rho)\in T^* G, \end{equation*} \notag $$
где $(\,\cdot\,{,}\,\cdot\,)$ и $[\,\cdot\,{,}\,\cdot\,]$ суть скалярное и векторное произведения в $\mathbb{R}^3$. Соответствующая гамильтонова система есть
$$ \begin{equation*} \begin{aligned} \, &\dot x=p+[\rho,x], \\ &\dot y=[x,p]+ x^2\cdot \rho-(\rho,x)\cdot x, \\ &\dot p=-[p,\rho]-\rho^2\cdot x+(\rho,x)\cdot \rho, \\ &\dot\rho=0, \\ &x(0)=y(0)=0, \quad p_0^2=1. \end{aligned} \end{equation*} \notag $$

Поэтому $\rho \equiv \rho_0$, $p=[\rho_0,x]+p_0$.

Выберем декартовы координаты $(x_1,x_2,x_3) \in \mathbb{R}^3$ так, чтобы ось $x_3$ была сонаправлена оси $\rho_0$, ось $x_1$ принадлежала плоскости $\operatorname{span}(\rho_0,p_0)$, а ось $x_2$ так, чтобы система координат была правосторонней. Тогда горизонтальная подсистема нормальной гамильтоновой системы принимает вид

$$ \begin{equation*} \begin{aligned} \, &\dot x_1=\sin \varphi-r x_2, \\ &\dot x_2=r x_1, \\ &\dot x_3=\cos \varphi, \\ &\dot y_1=x_2 \cos \varphi-r x_1 x_3, \\ &\dot y_2=x_3\sin \varphi-x_1 \cos\varphi-r x_2x_3, \\ &\dot y_3=-x_2 \sin \varphi+(x_1^2+x_2^2)\,r, \\ &r=2|\rho_0|, \qquad x(0)=y(0)=0. \end{aligned} \end{equation*} \notag $$

Поэтому в первой модели (4.30)(4.32)

$$ \begin{equation*} \begin{aligned} \, &x_1=\frac{1}{r}\sin \varphi \sin (r t), \\ &x_2=\frac{1}{r}\sin \varphi\,(1-\cos(r t)), \\ &x_3=t \cos \varphi, \\ &y_1=\frac{1}{r^2}\sin\varphi\cos\varphi\,(r t(1+\cos(rt))-2\sin(rt)), \\ &y_2=\frac{1}{r^2}\sin\varphi\cos\varphi\,(r t\sin(rt)+2\cos(rt)-2), \\ &y_3 =\frac{1}{r^2}\sin^2\varphi\,(r t-\sin(rt)). \end{aligned} \end{equation*} \notag $$

4.4.4. Геодезические во второй модели

Во второй модели (4.34)(4.36) экстремальные управления, соответствующие геодезическим постоянной скорости, имеют вид

$$ \begin{equation*} u(t)=a\cos(ct)+b\sin(ct)+z, \qquad |a|=|b| > 0, \quad c \geqslant 0, \end{equation*} \notag $$
где $a$, $b$, $z$ – взаимно ортогональные векторы в $\mathbb{R}^3$. Соответствующие геодезические суть
$$ \begin{equation*} \begin{aligned} \, q(t)=\biggl(\frac{\sin(ct)}{c} a&+\frac{1-\cos(c t)}{c} b+tz, \frac{ct-\sin(ct)}{2c^2} a \land b \\ &+\frac{2(1-\cos(ct))-ct\sin(ct)}{2c^2}\,a\land z \\ &+\frac{ct(1+\cos(ct))-2\sin(ct)}{2c^2}\,b\land z\biggr),\qquad c > 0, \end{aligned} \end{equation*} \notag $$
и
$$ \begin{equation} q(t)=(t(a+z),0), \qquad c=0. \end{equation} \tag{4.37} $$
При $c=0$ геодезические суть однопараметрические подгруппы в группе Карно $G=\mathbb{R}^3 \times (\mathbb{R}^3 \land \mathbb{R}^3)$, лежащие в ее первом слое $\mathbb{R}^3 \times \{0\}$.

4.4.5. Анормальные геодезические и анормальное множество

С точностью до перепараметризации, анормальные управления постоянны, а анормальные геодезические (4.37) суть однопараметрические подгруппы в $\mathbb{R}^3 \times (\mathbb{R}^3\land\mathbb{R}^3)$, лежащие в первом слое $\mathbb{R}^3\times \{0\}$.

Анормальное множество, соответствующее единичному элементу $\operatorname{Id} \in \mathbb{R}^3\times (\mathbb{R}^3\land\mathbb{R}^3)$, есть первый слой группы Карно:

$$ \begin{equation*} \operatorname{Abn}=\mathbb{R}^3\times \{0\}= \{(x,0) \in \mathbb{R}^3\times (\mathbb{R}^3\land\mathbb{R}^3)\}. \end{equation*} \notag $$

4.4.6. Время разреза

Определим следующие функции:

$$ \begin{equation*} \begin{alignedat}{2} S(\theta)&=\frac{\sin\theta}{\theta}\,, &\qquad U(\theta)&=\frac{\theta-\sin\theta\cos\theta}{4\theta^2}\,, \\ V(\theta)&=\frac{\sin\theta-\theta\cos\theta}{2\theta^2}\,,&\qquad Q(\theta)&=-\frac{U(\theta)S(\theta)}{V(\theta)}\,, \end{alignedat} \end{equation*} \notag $$
и пусть $\varphi_1 \in(\pi,3\pi/2)$ есть первый положительный корень функции $V$. Функция $Q(\theta)$ неотрицательна и строго возрастает при $\theta \in [\pi,\varphi_1)$. Более того, $Q(\pi)=0$ и $Q(\varphi_1-0)=+\infty$. Поэтому определена обратная функция
$$ \begin{equation*} Q^{-1}\colon [0,+\infty) \to [\pi,\varphi_1). \end{equation*} \notag $$

Теорема 4.9. Время разреза для геодезических равно

$$ \begin{equation*} \begin{aligned} \, t_{\rm cut}(a,b,z,c)&=\frac{2}{c}\,Q^{-1} \biggl(\frac{|z|^2}{|a|^2}\biggr), \qquad c > 0, \\ t_{\rm cut}(a, b, z, 0)&=+\infty. \end{aligned} \end{equation*} \notag $$

Таким образом, метрическими прямыми являются лишь анормальные геодезические (4.37) – однопараметрические подгруппы в первом слое группы Карно.

4.4.7. Множество разреза

Теорема 4.10. Множество разреза в данной задаче есть

$$ \begin{equation*} \operatorname{Cut}=\{(x,y)\in \mathbb{R}^3\times\mathbb{R}^3\mid y \ne 0,\, \exists a \in \mathbb{R}\colon x=a y\}. \end{equation*} \notag $$

Определим следующие функции:

$$ \begin{equation*} P(\theta)=-\frac{S(\theta)}{V(\theta)}\, \sqrt{\frac{W(\theta)}{U(\theta)}}\,,\quad R(\theta)=\frac{1-S^2(\theta)}{\sqrt{U(\theta)W(\theta)}}\,,\quad W(\theta)=U(\theta)-S(\theta)V(\theta). \end{equation*} \notag $$
Функция $P\colon [\pi,\varphi_1) \to [0,+\infty)$ есть возрастающая биекция, поэтому определена обратная функция $P^{-1}\colon[0,+\infty) \to [\pi,\varphi_1)$.

Теорема 4.11. Пусть $(x,y) \in \operatorname{Cut}$. Тогда

$$ \begin{equation*} d^2((0,0),(x,y))=|x|^2+R(\theta)|y|,\qquad \theta=P^{-1}\biggl(\frac{|x|^2}{|y|}\biggr) \in [\pi,\varphi_1). \end{equation*} \notag $$

4.4.8. Библиографические комментарии

Изложение в этом разделе опирается на независимые работы [58] и [56]. Пункты 4.4.1 (первая модель), 4.4.2, 4.4.3, 4.4.7 (теорема 4.10) опираются на работу [58]. Пункты 4.4.1 (вторая модель), 4.4.4, 4.4.5, 4.4.6, 4.4.7 (теорема 4.11) опираются на работу [56].

4.5. Субриманова задача на двухступенных свободных нильпотентных группах Ли

4.5.1. Постановка задачи

Алгебры Ли и группы Ли. Двухступенная свободная нильпотентная алгебра Ли $\mathfrak{g}$ удовлетворяет соотношениям

$$ \begin{equation*} \mathfrak{g}=\mathfrak{g}^{(1)}\oplus\mathfrak{g}^{(2)}, \quad [\mathfrak{g}^{(1)},\mathfrak{g}^{(1)}]=\mathfrak{g}^{(2)}, \quad [\mathfrak{g}^{(1)},\mathfrak{g}^{(2)}]= [\mathfrak{g}^{(2)},\mathfrak{g}^{(2)}]=\{0\}. \end{equation*} \notag $$
Она имеет базис
$$ \begin{equation*} \mathfrak{g}=\operatorname{span}\{X_i,X_{jk}\mid 1\leqslant i \leqslant n,\, 1 \leqslant j < k \leqslant n\}, \end{equation*} \notag $$
в котором таблица умножения имеет вид
$$ \begin{equation*} [X_i,X_j]=X_{ij}, \qquad 1 \leqslant i < j \leqslant n. \end{equation*} \notag $$
Эта алгебра Ли имеет размерность $n(n+1)/2$, где $n=\dim \mathfrak{g}^{(1)}$.

Обозначим через $G$ связную односвязную группу Ли с алгеброй Ли $\mathfrak{g}$. Эта группа Ли моделируется пространством $\mathbb{R}^n \times(\mathbb{R}^n\land\mathbb{R}^n)\cong \mathbb{R}^n\times \mathfrak{so}(n)$ с законом умножения

$$ \begin{equation*} (x^1,y^1)\cdot (x^2,y^2)=(x^1+x^2,y^1+y^2-x^1\land x^2), \qquad (x^i,y^i)\in \mathbb{R}^n\times\mathfrak{so}(n), \end{equation*} \notag $$
где $x^1\land x^2=x^1\otimes (x^2)^\top-x^2\otimes (x^1)^\top$. Поэтому будем далее считать, что $G=\mathbb{R}^n \times\mathfrak{so}(n)$, так что любой элемент $(x, y) \in G$ имеет координатное представление $(x_1,\dots,x_n;y_{12},\dots,y_{(n-1)n})$. В этих координатах следующие векторные поля образуют левоинвариантный репер на $G$:
$$ \begin{equation*} \begin{alignedat}{2} X_i&=\frac{\partial}{\partial x_i}-\sum_{1\leqslant j\leqslant n,j\ne i} x_j\,\frac{\partial}{\partial y_{ij}}\,, &&\qquad i=1,\dots,n, \\ X_{ij}&=2\frac{\partial}{\partial y_{ij}}\,, &&\qquad 1\leqslant i < j \leqslant n. \end{alignedat} \end{equation*} \notag $$

Субриманова задача. Рассмотрим субриманову структуру на группе Ли $G$ с ортонормированным репером $(X_1,\dots,X_n)$. Соответствующая задача оптимального управления имеет вид

$$ \begin{equation} \dot x=u, \qquad x,u \in \mathbb{R}^n, \end{equation} \tag{4.38} $$
$$ \begin{equation} \dot y=x \land u, \qquad y \in \mathfrak{so}(n), \end{equation} \tag{4.39} $$
$$ \begin{equation} x(0)=0, \quad y(0)=0, \quad x(t_1)=x^1, \quad y(t_1)=y^1, \end{equation} \tag{4.40} $$
$$ \begin{equation} \int_0^{t_1}|u|\,dt \to \min\!. \end{equation} \tag{4.41} $$
В координатах система (4.38), (4.39) имеет вид
$$ \begin{equation*} \begin{alignedat}{2} \dot x_i&=u_i, &&\qquad i=1,\dots,n, \\ \dot y_{ij}&=x_i u_j-x_ju_i,&&\qquad 1\leqslant i < j \leqslant n. \end{alignedat} \end{equation*} \notag $$

Задача (4.38)(4.41) впервые рассматривалась Б. Гаво [40], а затем Р. Брокеттом [31], поэтому она называется в литературе задачей Гаво–Брокетта.

Существование решений. Субримановы кратчайшие существуют по теоремам Рашевского–Чжоу и Филиппова.

Симметрии. Задача инвариантна относительно естественного действия группы $\mathrm{O}(n)$:

$$ \begin{equation*} g\colon (u,x,v\land w) \mapsto (g(u),g(x),g(v)\land g(w)), \qquad u,x,v,w \in \mathbb{R}^n, \quad g \in \mathrm{O}(n). \end{equation*} \notag $$
Иными словами,
$$ \begin{equation} g\colon (u,x,y) \mapsto \bigl(g(u),g(x),gyg^\top\bigr), \qquad u,x \in \mathbb{R}^n, \quad y \in \mathfrak{so}(n). \end{equation} \tag{4.42} $$

4.5.2. Экстремали

Введем линейные на слоях $T^*G$ гамильтонианы, соответствующие базисным полям:

$$ \begin{equation*} h_i(\lambda)=\langle \lambda,X_i \rangle, \quad h_{ij}(\lambda)=\langle\lambda,X_{ij}\rangle, \end{equation*} \notag $$
и положим
$$ \begin{equation*} h=(h_1,\dots,h_n)\in \mathbb{R}^n, \quad \mathbb{H}=(h_{ij})\in\mathfrak{so}(n). \end{equation*} \notag $$

Теорема 4.12 (принцип максимума Понтрягина). Пусть

$$ \begin{equation*} \lambda_t=(x(t),y(t), h(t),\mathbb{H}(t)) \end{equation*} \notag $$
есть экстремаль, соответствующая оптимальному управлению $u(t)$.

Согласно условию Гоха все локально оптимальные анормальные траектории нормальны.

Впрочем, в примере 14 [31] показано, что существуют неоптимальные строго анормальные траектории.

Далее будем рассматривать случай общего положения: пусть при четном $n$ матрица $\mathbb{H}$ невырождена и имеет $n/2$ разных собственных значений, а при нечетном $n$ матрица $\mathbb{H}$ имеет одно нулевое собственное значение и разные все остальные собственные значения.

Запишем ненулевые собственные значения матрицы $\mathbb{H}$ в виде

$$ \begin{equation*} \{i\lambda_1,-i\lambda_1,\dots,i\lambda_{[n/2]},-i\lambda_{[n/2]}\}, \end{equation*} \notag $$
где $\lambda_k > 0$ для всех $k$. Пусть
$$ \begin{equation*} \{v_1,v_{-1},\dots,v_{[n/2]},v_{-[n/2]}\} \end{equation*} \notag $$
обозначают соответствующие собственные векторы матрицы $\mathbb{H}$. В случае нечетного $n$ обозначим через $v_0$ вещественный собственный вектор, соответствующий нулевому собственному значению. Обозначим через $\langle v,w \rangle=v^\top \overline w$ эрмитово скалярное произведение в $\mathbb{C}^n$ и определим ортогональные векторы
$$ \begin{equation*} \alpha_k=2\operatorname{Im}(\langle h_0,v_k\rangle v_k),\quad \beta_k=2\operatorname{Re}(\langle h_0,v_k\rangle v_k), \quad \gamma_0=\langle h_0,v_0\rangle v_0. \end{equation*} \notag $$

Теорема 4.13. Пусть $(x(t),y(t)) \in \mathbb{R}^n\times\mathfrak{so}(n)$ есть геодезическая. Если $n$ четно, то

$$ \begin{equation} x =\sum_{i=1}^{[n/2]}\biggl[\frac{1}{\lambda_i}(\cos(\lambda_it)-1)\alpha_i+ \frac{1}{\lambda_i}\sin(\lambda_it)\beta_i\biggr], \end{equation} \tag{4.43} $$
$$ \begin{equation} y =\sum_{i,j=1}^{[n/2]}[A_{ij}\,\alpha_i \land\alpha_j+ B_{ij}\,\alpha_i\land\beta_j+C_{ij}\,\beta_i\land\beta_j], \end{equation} \tag{4.44} $$
где
$$ \begin{equation*} \begin{alignedat}{2} A_{ij}&= \frac{1-\cos((\lambda_i-\lambda_j)t)}{2\lambda_i(\lambda_i-\lambda_j)}+ \frac{\cos((\lambda_i+\lambda_j)t)-1}{2\lambda_i(\lambda_i+\lambda_j)}- \frac{\cos(\lambda_j t)-1}{\lambda_i\lambda_j}\,, &\qquad i &\ne j, \\ B_{ij}&=\frac{(\lambda_j-\lambda_i)\sin((\lambda_i+\lambda_j)t)} {2\lambda_i\lambda_j(\lambda_i+\lambda_j)}+ \frac{(\lambda_i+\lambda_j)\sin((\lambda_i-\lambda_j)t)} {2\lambda_i\lambda_j(\lambda_i-\lambda_j)}- \frac{\sin(\lambda_j t)}{\lambda_i\lambda_j}\,, &\qquad i &\ne j, \\ B_{ii}&=\frac{t}{\lambda_i}-\frac{\sin(\lambda_i t)}{\lambda_i^2}\,,&& \\ C_{ij}&=\frac{1-\cos((\lambda_i-\lambda_j)t)} {2\lambda_i(\lambda_i-\lambda_j)}- \frac{\cos((\lambda_i+\lambda_j)t)-1}{2\lambda_i(\lambda_i+\lambda_j)}\,. \end{alignedat} \end{equation*} \notag $$

Если $n$ нечетно, то к суммам (4.43) и (4.44) нужно прибавить дополнительные слагаемые $t \gamma_0 $ и

$$ \begin{equation*} \begin{aligned} \, &\sum_{i=1}^{[n/2]}\biggl[\frac{-t}{\lambda_i}(\cos(\lambda_i t)+1)+ \frac{2\sin (\lambda_i t)}{\lambda_i^2}\biggr]\alpha_i \land \gamma_0 \\ &\qquad+\sum_{i=1}^{[n/2]}\biggl[\frac{1}{\lambda_i^2} \bigl(2(1-\cos(\lambda_i t))- \lambda_i t \sin(\lambda_i t)\bigr)\biggr]\beta_i \land \gamma_0 \end{aligned} \end{equation*} \notag $$
соответственно.

4.5.3. Нижняя оценка множества разреза

Рассмотрим следующее подмножество группы $G=\mathbb{R}^n \times \mathfrak{so}(n)$:

$$ \begin{equation} \begin{aligned} \, C_n&=\{(x,y) \in \mathbb{R}^n \times \mathfrak{so}(n) \mid y \ne 0\text{ и существует матрица } 0 \ne M\in \mathrm{O}(n) \nonumber \\ &\qquad\text{такая, что } M x=x, \ M y M^\top=y, \ M|_{\ker y}= \operatorname{Id}\}. \end{aligned} \end{equation} \tag{4.45} $$
Условие (4.45) означает, что элемент $M \in\mathrm{O}(n)$ стабилизирует $(x,y)$ относительно действия (4.42).

Предложение 4.1. Для любого $n \geqslant 2$ множество $C_n \subset G$ есть полуалгебраическое множество коразмерности 2.

Теорема 4.14. Для всех $n \geqslant 2$ имеет место включение

$$ \begin{equation} C_n \subset \operatorname{Cut}. \end{equation} \tag{4.46} $$

Замечание. При $n=2, 3$ включение (4.46) превращается в равенство (см. разделы 4.1, 4.4). Верно ли это при $n \geqslant 4$, неизвестно.

4.5.4. Анормальное множество

Приведем известные описания и свойства анормального множества $\operatorname{Abn}$.

Теорема 4.15. Имеет место равенство

$$ \begin{equation} \begin{aligned} \, \operatorname{Abn}=\bigcup_{W \in \operatorname{Gr}(n,n-2)}W\times(W \land W), \end{aligned} \end{equation} \tag{4.47} $$
где $\operatorname{Gr}(n,n-2)$ есть грассманиан $(n-2)$-мерных подпространств в $\mathbb{R}^n$.

Рангом элемента $y \in\mathfrak{so}(n)$ назовем размерность образа оператора $y\colon \mathbb{R}^n \to \mathbb{R}^n$ . Для открытого плотного подмножества в $\mathfrak{so}(n)$ ранг принимает максимальное значение: $n$, если $n$ четно, и $n-1$, если $n$ нечетно.

Обозначим через $\mathfrak{so}(n)_{\rm sing}$ множество элементов $y \in \mathfrak{so}(n)$, имеющих ранг меньше максимального, через $\mathfrak{so}(n)_{d}$ множество элементов ранга $d$ и через $\mathfrak{so}(n)_{< d}$ множество элементов ранга меньше $d$.

Теорема 4.16. Если $n$ нечетно, то $\operatorname{Abn}=\mathbb{R}^n\times \mathfrak{so}(n)_{\rm sing}$.

Теорема 4.17. Если $n$ четно, то $\operatorname{Abn}$ есть объединение $Y_1 \cup Y_2$ двух квазипроективных подмногообразий

$$ \begin{equation*} \begin{aligned} \, Y_1&=\{(x, y)\in \mathbb{R}^n\times \mathfrak{so}(n) \mid x \in\operatorname{Im} y, \ y \in \mathfrak{so}(n)_{n-2}\}, \\ Y_2&=\mathbb{R}^n\times \mathfrak{so}(n)_{< n-2}. \end{aligned} \end{equation*} \notag $$
В частности, $\operatorname{Abn}$ есть особое алгебраическое многообразие коразмерности 3.

Теорема 4.18. $\operatorname{Abn} \subset G$ есть полуалгебраическое множество коразмерности не меньше 3.

Теорема 4.19. Для всех $k \geqslant 2$ имеют место включения

$$ \begin{equation*} \overline C_n\setminus C_n \subset \operatorname{Abn} \subsetneq \overline C_n. \end{equation*} \notag $$
Для любого $n \geqslant 4$ первое включение строгое, поэтому $\operatorname{Cut} \cap \operatorname{Abn} \ne \varnothing$. Более того, существуют анормальные геодезические с конечным временем разреза.

4.5.5. Библиографические комментарии

Рассматриваемая в данном разделе субриманова задача исследовалась в известных работах Б. Гаво [40], Р. Брокетта [31] и В. Лиу и Х. Суссмана [52]. Изложение в этом разделе опирается на следующие источники: пп. 4.5.1, 4.5.2 – статья [55]; п. 4.5.3 – статья [69]; п. 4.5.4: теоремы 4.154.18 – статья [51], теорема 4.19 – статья [69]. См. также [59].

4.6. Двухступенная субриманова задача коранга 1

4.6.1. Алгебра Ли и группа Ли

Рассмотрим алгебру Ли

$$ \begin{equation*} \mathfrak{g}=\operatorname{span}(X_1,\dots,X_k,Y_1,\dots,Y_k, Z), \qquad k \in \mathbb{N}, \end{equation*} \notag $$
с таблицей умножения
$$ \begin{equation*} \begin{gathered} \, [X_i,Y_j]=-\delta_{ij}b_i Z, \qquad b_i > 0, \quad i, j=1,\dots,k, \\ [X_i,Z]=[Y_i,Z]=0, \qquad i=1,\dots,k. \end{gathered} \end{equation*} \notag $$

Пусть $G$ есть связная односвязная группа Ли с алгеброй Ли $\mathfrak{g}$. Тогда $G \cong \mathbb{R}^{2k+1}$ и можно выбрать координаты

$$ \begin{equation*} g=(x,y,z) \in \mathbb{R}^{2k+1}, \qquad x=(x_1,\dots,x_k) \in\mathbb{R}^k, \quad y=(y_1,\dots,y_k)\in \mathbb{R}^k, \quad z \in \mathbb{R}, \end{equation*} \notag $$
в которых умножение в $G$ принимает вид
$$ \begin{equation*} g\cdot g'=\biggl(x+x',y+y',z+z'-\frac{1}{2}\sum_{i=1}^k b_i(x_i\cdot x_i'-y_i\cdot y_i')\biggr). \end{equation*} \notag $$
В этих координатах левоинвариантный репер на $G$ есть
$$ \begin{equation*} \begin{alignedat}{2} X_i&=\frac{\partial}{\partial x_i}+ \frac{1}{2} b_i y_i\frac{\partial}{\partial z}\,, &\qquad i&=1,\dots,k, \\ Y_i&=\frac{\partial}{\partial y_i}- \frac{1}{2} b_i x_i\frac{\partial}{\partial z}\,, &\qquad i&=1,\dots,k, \\ Z&=\frac{\partial}{\partial z}\,.&& \end{alignedat} \end{equation*} \notag $$

4.6.2. Постановка задачи

Рассмотрим субриманову структуру на $G$ с ортонормированным репером $(X_1,\dots,X_k,Y_1,\dots,Y_k)$. Соответствующая задача оптимального управления имеет вид

$$ \begin{equation*} \begin{aligned} \, &\dot x_i=u_i, \qquad i=1,\dots,k, \\ &\dot y_i=v_i, \qquad i=1,\dots,k, \\ &\dot z=\frac{1}{2} \sum_{i=1}^k b_i (u_i y_i-v_i x_i), \\ &g(0)=(0,0,0), \qquad g(t_1)=(x^1,y^1,z^1), \\ &\int_0^{t_1}\biggl(\,\sum_{i=1}^k(u_i^2+v_i^2)\biggr)^{1/2}\,dt \to \min\!. \end{aligned} \end{equation*} \notag $$
Существование решений следует из теорем Рашевского–Чжоу и Филиппова.

4.6.3. Экстремали

Анормальные экстремальные траектории постоянны.

Введем линейные на слоях $T^*G$ гамильтонианы

$$ \begin{equation*} h_{X_i}(\lambda)=\langle\lambda,X_i(g) \rangle, \quad h_{Y_i}(\lambda)=\langle\lambda,Y_i(g)\rangle, \quad h_{Z}(\lambda)=\langle\lambda,Z(g) \rangle. \end{equation*} \notag $$
Вдоль нормальных экстремалей имеем
$$ \begin{equation*} u_i(t)=h_{X_i}(\lambda(t)), \quad v_i(t)=h_{Y_i}(\lambda(t)), \quad w(t)=h_Z(\lambda(t)). \end{equation*} \notag $$

Переходя к натуральной параметризации геодезических, можно считать, что

$$ \begin{equation*} u_1^2(t)+\cdots+u_k^2(t)+v_1^2(t)+\cdots+v_k^2(t) \equiv 1. \end{equation*} \notag $$

Если $w=0$, то

$$ \begin{equation*} \begin{gathered} \, (u_i(t), v_i(t)) \equiv (u_i^0, v_i^0)=\operatorname{const}, \\ x_i(t)=u_i^0 t, \quad y_i(t)=v_i^0 t, \quad z(t) \equiv 0. \end{gathered} \end{equation*} \notag $$

Если $w \ne 0$, то (обозначая $a_i=b_i w$)

$$ \begin{equation*} \begin{aligned} \, u_i(t)&=u_i^0 \cos(a_i t)-v_i^0 \sin(a_i t), \\ v_i(t)&=u_i^0 \sin(a_i t)+v_i^0\cos(a_i t), \\ w(t)&=w \end{aligned} \end{equation*} \notag $$
и
$$ \begin{equation} \begin{aligned} \, x_i(t)&=\frac{1}{a_i}\bigl(u_i^0 \sin(a_i t)+v_i^0\cos(a_i t)-v_i^0\bigr), \nonumber \\ y_i(t)&=\frac{1}{a_i}\bigl(-u_i^0 \cos(a_i t)+v_i^0 \sin(a_i t)+u_i^0\bigr), \\ z(t)&=\frac{1}{2w^2}\biggl(w t- \sum_{i}\frac{1}{b_i}\bigl((u_i^0)^2+(v_i^0)^2\bigr)\sin(a_i t)\biggr). \nonumber \end{aligned} \end{equation} \tag{4.48} $$
В полярных координатах
$$ \begin{equation*} \begin{gathered} \, u_i=r_i\cos \theta_i, \qquad v_i=r_i \sin \theta_i, \qquad i=1,\dots,k, \\ r_1^2+\cdots+r_k^2 \equiv 1, \end{gathered} \end{equation*} \notag $$
формулы (4.48) переписываются в виде
$$ \begin{equation*} \begin{aligned} \, x_i(t)&=\frac{r_i}{a_i}(\cos(a_i t+\theta_i)-\cos \theta_i), \\ y_i(t)&=\frac{r_i}{a_i}(\sin(a_i t+\theta_i)-\sin\theta_i), \\ z(t)&=\frac{1}{2w^2}\biggl(w t-\sum_{i}\frac{r_i^2}{b_i}\sin(a_i t)\biggr). \end{aligned} \end{equation*} \notag $$
Поэтому проекция геодезической на любую плоскость $(x_i,y_i)$ есть окружность периода $T_i$, радиуса $\rho_i$ с центром $C_i$, где
$$ \begin{equation*} T_i=\frac{2\pi}{b_i w}\,, \quad \rho_i=\frac{r_i}{b_i w}\,, \quad C_i=-\frac{r_i}{b_i w}(\cos \theta_i,\sin \theta_i), \qquad i=1,\dots,k. \end{equation*} \notag $$
Компонента $z(t)$ геодезических есть взвешенная сумма (с коэффициентами $b_i$) площадей, заметенных радиус-векторами $(x_i(t),y_i(t))$ на плоскостях $\mathbb{R}^2_{x_iy_i}$.

4.6.4. Время разреза

Теорема 4.20. Пусть $g(t)$ есть натурально параметризованная геодезическая, выходящая из начала координат. Тогда время разреза вдоль нее совпадает с первым сопряженным временем и равно

$$ \begin{equation*} \begin{alignedat}{2} t_{\rm cut}&=\frac{2\pi}{w\max_i b_i} &&\quad \textit{при } w \ne 0, \\ t_{\rm cut}&=+\infty&&\quad \textit{при } w=0. \end{alignedat} \end{equation*} \notag $$

4.6.5. Библиографические комментарии

Результаты этого раздела получены в работе [5].

В более ранней работе [54] для этой же субримановой задачи получена параметризация геодезических и описано первое сопряженное время.

4.7. Двухступенная субриманова задача коранга 2

4.7.1. Алгебра Ли и группа Ли

Рассмотрим алгебру Ли

$$ \begin{equation*} \begin{gathered} \, \mathfrak{g}=\mathfrak{g}^{(1)} \oplus \mathfrak{g}^{(2)}, \\ [\mathfrak{g}^{(1)},\mathfrak{g}^{(1)}]=\mathfrak{g}^{(2)}, \quad [\mathfrak{g}^{(1)},\mathfrak{g}^{(2)}]= [\mathfrak{g}^{(2)},\mathfrak{g}^{(2)}]=\{0\}, \\ \dim \mathfrak{g}^{(1)}=k \geqslant 2, \quad \dim \mathfrak{g}^{(2)}=2. \end{gathered} \end{equation*} \notag $$
Существует базис
$$ \begin{equation*} \begin{gathered} \, \mathfrak{g}=\operatorname{span}(X_1,\dots,X_k,Y_1,Y_2), \\ \mathfrak{g}^{(1)}=\operatorname{span}(X_1,\dots,X_k), \quad \mathfrak{g}^{(2)}=\operatorname{span}(Y_1,Y_2), \end{gathered} \end{equation*} \notag $$
в котором
$$ \begin{equation*} \begin{gathered} \, [X_i,X_j]=\sum_{h=1}^2b_{ij}^{h} Y_h, \qquad i,j=1,\dots,k, \\ [X_i,Y_j]=[Y_1,Y_2]=0, \qquad i=1,\dots,k, \quad j=1,2, \\ L_h=(b_{ij}^{h}) \in \mathfrak{so}(k), \qquad h=1,2. \end{gathered} \end{equation*} \notag $$
Пусть $G$ – связная односвязная группа Ли с алгеброй Ли $\mathfrak{g}$. Тогда на группе $G\cong \mathbb{R}^{k+2}$ существуют координаты $(x_1,\dots,x_k,y_1,y_2)$, в которых
$$ \begin{equation*} \begin{aligned} \, X_i&=\frac{\partial}{\partial x_i}+ \frac{1}{2} \sum_{j,h}b_{ij}^{h}\,x_j\frac{\partial}{\partial y_h}\,,\qquad i=1,\dots,k, \\ Y_h&=\frac{\partial}{\partial y_h}\,, \qquad h=1,2. \end{aligned} \end{equation*} \notag $$

4.7.2. Постановка задачи

Рассмотрим субриманову задачу на $G$ с ортонормированным репером $(X_1,\dots,X_k)$. В координатах соответствующая задача оптимального управления имеет вид

$$ \begin{equation*} \begin{aligned} \, &\dot x_i=u_i, \qquad i=1,\dots,k, \\ &\dot y_h=\frac{1}{2} x^\top L_h u, \qquad h=1, 2, \\ &g=(x_1,\dots,x_k,y_1,y_2) \in G\cong \mathbb{R}^{k+2}, \qquad (u_1,\dots,u_k) \in \mathbb{R}^k, \\ &g(0)=\operatorname{Id}=(0,\dots,0), \qquad g(t_1)=g^1, \\ &\int_0^{t_1}\biggl(\,\sum_{i=1}^k u_i^2\biggr)^{1/2}\,dt \to \min\!. \end{aligned} \end{equation*} \notag $$

Существование решений следует из теорем Рашевского–Чжоу и Филиппова.

4.7.3. Экстремальные управления и траектории

В силу условия Гоха локально оптимальные анормальные траектории нормальны.

Экстремальные управления, соответствующие натурально параметризованным нормальным траекториям, имеют вид

$$ \begin{equation*} u(t)=e^{t(r_1L_1+r_2L_2)}\,u_0, \qquad \|u_0\|=1, \quad r_1,r_2 \in \mathbb{R}, \end{equation*} \notag $$
а сами эти траектории суть
$$ \begin{equation*} \begin{aligned} \, x(t)&=\int_0^te^{s(r_1L_1+r_2L_2)}u_0\,ds, \\ y_i(t)&=\frac{1}{2} \int_0^t(x(s))^\top L_i u(s)\,ds, \qquad i=1, 2. \end{aligned} \end{equation*} \notag $$

4.7.4. Время разреза

Теорема 4.21. Натурально параметризованные геодезические, соответствующие начальному ковектору $\lambda_0=(u_0,r) \in S^{k-1} \times \mathbb{R}^2$, имеют время разреза

$$ \begin{equation*} \begin{alignedat}{2} t_{\rm cut}(\lambda_0)&=\frac{2\pi}{\max \sigma(r_1L_1+r_2L_2)}\,, &\qquad \textit{если } r&\ne 0, \\ t_{\rm cut}(\lambda_0)&=+\infty, &\qquad \textit{если } r&=0, \end{alignedat} \end{equation*} \notag $$
где $\max\sigma(A)$ обозначает максимальный модуль собственного значения матрицы $A$. Вообще говоря, время разреза отлично от первого сопряженного времени.

Теорема 4.22. В случае $k=4$ время разреза совпадает с первым сопряженным временем.

4.7.5. Библиографические комментарии

Результаты этого раздела получены в работе [13].

4.8. Субримановы $(\mathbf{d}\oplus\mathbf{s})$-задачи

Будем говорить, что левоинвариантная субриманова структура $(\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ на группе Ли $G$ с алгеброй Ли $\mathfrak{g}$ является $(\mathbf{d}\oplus\mathbf{s})$-структурой, если выполнены следующие условия:

(1) на группе Ли $G$ имеется биинвариантное (левоинвариантное и правоинвариантное) скалярное произведение $\widetilde{\langle\,\cdot\,{,}\,\cdot\,\rangle}$;

(2) $\mathfrak{g}=\mathbf{d} \oplus \mathbf{s}$;

(3) $\Delta=\mathbf{d}$, $\langle\,\cdot\,{,}\,\cdot\,\rangle= \widetilde{\langle\,\cdot\,{,}\,\cdot\,\rangle}\big|_{\mathbf{d}}$;

(4) $\mathbf{s}=\mathbf{d}^{\perp}$, где ортогональность понимается в смысле $\widetilde{\langle\,\cdot\,{,}\,\cdot\,\rangle}$;

(5) $[\mathbf{s},\mathbf{s}] \subset \mathbf{s}$.

Теорема 4.23. Геодезические субримановой $(\mathbf{d}\oplus\mathbf{s})$-структуры на группе Ли $G$, начинающиеся в точке $\operatorname{Id}$, суть произведения двух однопараметрических подгрупп:

$$ \begin{equation*} g(t)=e^{t(x_0+y_0)} e^{-ty_0}, \qquad x_0 \in \mathbf{d}, \quad y_0 \in \mathbf{s}. \end{equation*} \notag $$

Частные случаи $(\mathbf{d}\oplus\mathbf{s})$-структур рассматриваются далее

4.8.1. Библиографические комментарии

Теорема 4.23 была получена независимо А. А. Аграчевым [1] и Р. Брокеттом [32] (последняя работа базируется на предыдущей работе [30]). Затем этот результат интенсивно исследовался в [28], [29], [46]–[48], а также в [57; с. 200]. Его красивая геометрическая интерпретация получена в [18], [20], [21].

4.9. Осесимметричная субриманова задача на группе $\operatorname{SU}(2)$

4.9.1. Группа Ли и алгебра Ли

Группа Ли $\operatorname{SU}(2)$ есть группа унитарных унимодулярных комплексных $(2\times 2)$-матриц:

$$ \begin{equation*} \operatorname{SU}(2)=\biggl\{\begin{pmatrix} \alpha & \beta \\ -\overline \beta & \overline \alpha \end{pmatrix} \in \operatorname{GL}(2,\mathbb{C}) \Bigm| |\alpha|^2+|\beta|^2=1\biggr\}. \end{equation*} \notag $$
Эта группа компактна, связна и односвязна. Группа Ли $\operatorname{SU}(2)$ диффеоморфна трехмерной сфере
$$ \begin{equation*} S^3=\biggl\{\begin{pmatrix} \alpha \\ \beta \end{pmatrix} \in \mathbb{C}^2 \Bigm| |\alpha|^2+|\beta|^2=1\biggr\} \end{equation*} \notag $$
в силу диффеоморфизма
$$ \begin{equation*} \Phi\colon \operatorname{SU}(2) \to S^3, \qquad \begin{pmatrix} \alpha & \beta \\ -\overline \beta & \overline \alpha \end{pmatrix} \mapsto \begin{pmatrix} \alpha \\ \beta \end{pmatrix}. \end{equation*} \notag $$
Поэтому будем далее записывать элементы группы $\operatorname{SU}(2)$ как пары комплексных чисел $(\alpha,\beta)$.

Алгебра Ли группы $\operatorname{SU}(2)$ есть алгебра косоэрмитовых бесследовых комплексных $(2\times 2)$-матриц:

$$ \begin{equation*} \mathfrak{su}(2)=\biggl\{\begin{pmatrix} i\alpha & \beta \\ -\overline \beta & -i \alpha \end{pmatrix} \in \mathfrak{gl}(2, \mathbb{C}) \Bigm| \alpha \in \mathbb{R}, \, \beta \in \mathbb{C}\biggr\}. \end{equation*} \notag $$
В этой алгебре можно выбрать базис
$$ \begin{equation*} p_1=\frac{1}{2} \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix}, \quad p_2=\frac{1}{2} \begin{pmatrix} 0 & i \\ i & 0 \end{pmatrix},\quad k=\frac{1}{2} \begin{pmatrix} i & 0 \\ 0 & -i \end{pmatrix} \end{equation*} \notag $$
с таблицей умножения
$$ \begin{equation*} [p_1,p_2]=k, \quad [p_2,k]=p_1, \quad [k,p_1]=p_2. \end{equation*} \notag $$
Форма Киллинга для $\mathfrak{su}(2)$ есть $\operatorname{Kil}(X,Y)=4\operatorname{Tr}(XY)$, поэтому $\operatorname{Kil}(p_i,p_j)=-2\delta_{ij}$.

Подпространства $\mathbf{k}=\mathbb{R}k$, $\mathbf{p}=\operatorname{span}(p_1,p_2)$ образуют картановское разложение для $\mathfrak{su}(2)$. Более того, $(p_1,p_2)$ есть ортонормированный репер для скалярного произведения $\langle \,\cdot\,{,}\,\cdot\,\rangle= -\operatorname{Kil}(\,\cdot\,{,}\,\cdot\,)/2$, суженного на подпространство $\mathbf{p}$.

4.9.2. Субриманова $({\mathbf{k}}\oplus {\mathbf{p}})$-структура

Рассмотрим левоинвариантную субриманову структуру на $\operatorname{SU}(2)$ с ортонормированным репером

$$ \begin{equation*} X_1(g)=L_{g*}p_1, \qquad X_2(g)=L_{g*}p_2,\qquad g \in \operatorname{SU}(2), \end{equation*} \notag $$
т. е. распределение $\Delta_g=L_{g*}\mathbf{p}$ со скалярным произведением
$$ \begin{equation*} \langle v_1,v_2 \rangle_g=\langle L_{g^{-1}*}v_1,L_{g^{-1}*}v_2 \rangle. \end{equation*} \notag $$

Такая субриманова структура называется $(\mathbf{k}\oplus\mathbf{p})$-структурой. Эти структуры определяются следующим образом. Пусть $G$ есть простая группа Ли с алгеброй Ли $\mathfrak{g}$. Пусть $\mathfrak{g}=\mathbf{k}\oplus\mathbf{p}$ есть картановское разложение алгебры $\mathfrak{g}$:

$$ \begin{equation*} [\mathbf{k},\mathbf{k}] \subset \mathbf{k}, \quad [\mathbf{p},\mathbf{p}] \subset \mathbf{k}, \quad [\mathbf{k},\mathbf{p}] \subset \mathbf{p}. \end{equation*} \notag $$
Рассмотрим на $G$ распределение $\Delta_g=L_{g*}\mathbf{p}$ с метрикой
$$ \begin{equation*} \langle v_1,v_2\rangle_g=\langle L_{g^{-1}*}v_1,L_{g^{-1}*}v_2\rangle,\qquad g \in G, \end{equation*} \notag $$
где $\langle\,\cdot\,{,}\,\cdot\,\rangle= \alpha \operatorname{Kil}|_{\mathbf{p}} (\,\cdot\,{,}\,\cdot\,)$, и $\alpha < 0$ (или $\alpha > 0$), если $G$ компактна (соответственно некомпактна). Тогда $(\Delta,\langle\,\cdot\,{,}\,\cdot\,\rangle)$ называется субримановой $(\mathbf{k} \oplus \mathbf{p})$-структурой на $G$.

Все субримановы $(\mathbf{k} \oplus\mathbf{p})$-структуры на $\operatorname{SU}(2)$ эквивалентны между собой.

4.9.3. Геодезические и симметрии

Задача трехмерная контактная, поэтому анормальные траектории постоянны.

Введем линейные на слоях $T^*G$ гамильтонианы $h_i(\lambda)=\langle\lambda,X_i(g)\rangle$, $i=1,2,3$, $X_3=[X_1,X_2]$, и максимизированный нормальный гамильтониан принципа максимума Понтрягина $H=(h_1^2+h_2^2)/2$. Натурально параметризованные нормальные экстремали задаются точками цилиндра $C=\mathfrak{g}^* \cap \{H=1/2\}$:

$$ \begin{equation*} \lambda=(h_1,h_2,h_3,\operatorname{Id}) \in C, \qquad h_1=\cos \theta, \quad h_2=\sin \theta, \quad h_3=c. \end{equation*} \notag $$
Тогда экспоненциальное отображение
$$ \begin{equation*} \operatorname{Exp}\colon C \times \mathbb{R}_+ \to G, \qquad (\lambda,t) \mapsto g(t), \end{equation*} \notag $$
имеет следующую параметризацию:
$$ \begin{equation*} \operatorname{Exp}(\lambda,t)=\operatorname{Exp}(\theta,c,t)= \exp\{(p_1\cos \theta+p_2\sin\theta)+ck)t\} \exp\{-ckt\}=\begin{pmatrix} \alpha \\ \beta \end{pmatrix}, \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{aligned} \, \alpha&=\frac{c\sin(ct/2)\sin(\sqrt{1+c^2}\,t/2)}{\sqrt{1+c^2}}+ \cos\biggl(\frac{ct}{2}\biggr)\cos\biggl(\sqrt{1+c^2}\,\frac{t}{2}\biggr) \\ &\qquad+i\biggl(\frac{c\cos(ct/2)\sin(\sqrt{1+c^2}\,t/2)}{\sqrt{1+c^2}}- \sin\biggl(\frac{ct}{2}\biggr)\cos\biggl(\sqrt{1+c^2}\, \frac{t}{2}\biggr)\biggr), \\ \beta&=\frac{\sin(\sqrt{1+c^2}\,t/2)}{\sqrt{1+c^2}} \biggl(\cos\biggl(\frac{ct}{2}+\theta\biggr)+ i\sin\biggl(\frac{ct}{2}+\theta\biggr)\biggr). \end{aligned} \end{equation*} \notag $$
Экспоненциальное отображение имеет следующие симметрии:

(a) вращения

$$ \begin{equation*} \operatorname{Exp}(\theta,c,t)=\begin{pmatrix} 1 & 0 \\ 0 & e^{i \theta} \end{pmatrix}\operatorname{Exp}(0,c,t); \end{equation*} \notag $$

(b) центральную симметрию: если $\operatorname{Exp}(\theta,c,t)= \begin{pmatrix} \alpha \\ \beta\end{pmatrix}$, то

$$ \begin{equation*} \operatorname{Exp}(\theta, -c, t)=\begin{cases} \begin{pmatrix} \overline{\alpha} \\ e^{2i(\theta-\arg \beta)}\beta\end{pmatrix},&\text{если}\ \beta \ne 0, \\ \begin{pmatrix} \overline{\alpha} \\ 0 \end{pmatrix},&\text{если}\ \beta=0. \end{cases} \end{equation*} \notag $$

4.9.4. Сопряженные точки

Момент времени $t > 0$ является сопряженным временем вдоль геодезической $g(t)=\operatorname{Exp}(\theta,c,t)$ тогда и только тогда, когда

$$ \begin{equation*} \sin\biggl(\sqrt{1+c^2}\,\frac{t}{2}\biggr)\biggl(2\sin\biggl(\sqrt{1+c^2}\, \frac{t}{2}\biggr)-\sqrt{1+c^2}\,t\cos\biggl(\sqrt{1+c^2}\, \frac{t}{2}\biggr)\biggr)=0. \end{equation*} \notag $$
Поэтому $n$-е сопряженное время $t^n_{\rm conj}(\lambda)$ вдоль $g(t)$ имеет вид
$$ \begin{equation*} t^{2m-1}_{\rm conj}(\lambda)=\frac{2 \pi m}{\sqrt{1+c^2}}\,, \qquad t^{2m}_{\rm conj}(\lambda)=\frac{2 x_m}{\sqrt{1+c^2}}\,, \end{equation*} \notag $$
где $\{x_1,x_2,\dots\}$ суть упорядоченные по возрастанию положительные корни уравнения $x= \operatorname{tg} x$.

Соответствующая $n$-я каустика

$$ \begin{equation*} \operatorname{Conj}^n=\{\operatorname{Exp}(\lambda,t) \mid t=t^n_{\rm conj}(\lambda), \ \lambda \in C\} \end{equation*} \notag $$
есть
$$ \begin{equation*} \begin{aligned} \, \operatorname{Conj}^{2m-1}&=e^{\mathbf{k}} \setminus \{\operatorname{Id}\}, \\ \operatorname{Conj}^{2m}&=\left\{\begin{pmatrix} \dfrac{c \sin x_m}{\sqrt{1+c^2}} e^{i(\pi/2-y_n)}+\cos x_n e^{-iy_n} \\ \dfrac{\sin x_n}{\sqrt{1+c^2}}\,e^{i\theta} \end{pmatrix}\biggm| c \in \mathbb{R}, \ \theta \in \mathbb{R}/(2\pi\mathbb{Z})\right\}, \end{aligned} \end{equation*} \notag $$
где $y_n=cx_n/\sqrt{1+c^2}$ .

4.9.5. Множество разреза

Теорема 4.24. Множество разреза есть

$$ \begin{equation*} \operatorname{Cut}=\operatorname{Conj}^1= e^{\mathbf{k}} \setminus \{\operatorname{Id}\}= \{e^{c k} \mid c \in (0,4\pi)\}. \end{equation*} \notag $$

Топологически, $\operatorname{Cut}$ есть интервал (большая окружность $e^{\mathbf{k}}$ с выколотой точкой $\operatorname{Id}$). Так как множество разреза совпадает с первой каустикой, то геодезические одновременно теряют локальную и глобальную оптимальность (так же, как на группе Гейзенберга, см. раздел 4.1).

4.9.6. Субриманово расстояние

Теорема 4.25. Пусть $g=(\alpha,\beta) \in \operatorname{SU}(2)$, тогда субриманово расстояние $d_0(g)=d(g, \operatorname{Id})$ имеет следующее представление.

(1) Если $\alpha=0$, то $d_0=\pi$.

(2) Если $|\alpha|=1$, то $d_0=2 \sqrt{|\arg\alpha|(2\pi-|\arg\alpha|)}$ , где $\arg \alpha \in [-\pi,\pi]$.

(3) Если $0 < |\alpha| < 1$ и $\operatorname{Re}\alpha=|\alpha| \sin(\pi|\alpha|/2)$, то $d_0=\pi \sqrt{1-|\alpha|^2}$ .

(4) Если $0 < |\alpha| < 1$ и $\operatorname{Re} \alpha > |\alpha| \sin(\pi|\alpha|/2)$, то

$$ \begin{equation*} d_0=\frac{2}{\sqrt{1+\beta^2}}\arcsin\sqrt{(1-|\alpha|^2)(1+\beta^2)} \in \biggl(0, \frac{\pi}{\sqrt{1+\beta^2}}\biggr), \end{equation*} \notag $$
где $\beta$ – единственное решение системы уравнений
$$ \begin{equation*} \begin{aligned} \, \cos\biggl(-\frac{\beta}{\sqrt{1+\beta^2}} \arcsin\sqrt{(1-|\alpha|^2)(1+\beta^2)}+ \arcsin\frac{\beta\sqrt{1-|\alpha|^2}}{|\alpha|}\,\biggr)&= \frac{\operatorname{Re}\alpha}{|\alpha|}\,, \\ \sin \biggl(-\frac{\beta}{\sqrt{1+\beta^2}} \arcsin\sqrt{(1-|\alpha|^2)(1+\beta^2)}+ \arcsin \frac{\beta\sqrt{1-|\alpha|^2}}{|\alpha|}\,\biggr)&= \frac{\operatorname{Im}\alpha}{|\alpha|}\,. \end{aligned} \end{equation*} \notag $$

(5) Если $0 < |\alpha| < 1$ и $\operatorname{Re}\alpha < |\alpha| \sin(\pi|\alpha|/2)$, то

$$ \begin{equation*} d_0=\frac{2}{\sqrt{1+\beta^2}}\bigl(\pi- \arcsin\sqrt{(1-|\alpha|^2)(1+\beta^2)}\,\bigr) \in \biggl(\frac{\pi}{\sqrt{1+\beta^2}}\,,\frac{2\pi}{\sqrt{1+\beta^2}}\biggr), \end{equation*} \notag $$
где $\beta$ – единственное решение системы уравнений
$$ \begin{equation*} \begin{aligned} \, \cos\biggl(\frac{\beta}{\sqrt{1+\beta^2}}\bigl(\pi- \arcsin\sqrt{(1-|\alpha|^2)(1+\beta^2)}\,\bigr)+ \arcsin\frac{\beta\sqrt{1-|\alpha|^2}}{|\alpha|}\,\biggr)&= -\frac{\operatorname{Re}\alpha}{|\alpha|}\,, \\ \sin\biggl(\frac{\beta}{\sqrt{1+\beta^2}}\bigl(\pi- \arcsin\sqrt{(1-|\alpha|^2)(1+\beta^2)}\,\bigr)+ \arcsin \frac{\beta \sqrt{1-|\alpha|^2}}{|\alpha|}\,\biggr)&= \frac{\operatorname{Im}\alpha}{|\alpha|}\,. \end{aligned} \end{equation*} \notag $$

4.9.7. Геодезические со специальными граничными условиями

Теорема 4.26. Если точка $g\in \operatorname{SU}(2)$ принадлежит интервалу

$$ \begin{equation*} A=\{(\cos\varphi+i\sin\varphi,0) \in \operatorname{SU}(2) \mid \varphi \in (0,2\pi)\}, \end{equation*} \notag $$
то существует счетное число геометрически разных геодезических $\gamma_n$, соединяющих $\operatorname{Id}$ и $g$:
$$ \begin{equation*} \begin{aligned} \, \gamma_n&=\{(\alpha_n(t),\beta_n(t)) \in \operatorname{SU}(2) \mid t \in [0,t_n]\}, \\ \alpha_n(t)&= \biggl(\cos\biggl(t\,\frac{\pi n}{\sqrt{\pi^2n^2-\varphi^2}}\biggr)- i\frac{\varphi}{\pi n} \sin\biggl(t\,\frac{\pi n}{\sqrt{\pi^2n^2-\varphi^2}}\biggr)\biggr) \exp\biggl\{\frac{it\varphi}{\sqrt{\pi^2n^2-\varphi^2}}\biggr\}, \\ \beta_n(t)&=\dot\beta_n(0)\frac{\sqrt{\pi^2n^2-\varphi^2}}{\pi n} \sin\biggl(t\,\frac{\pi n}{\sqrt{\pi^2n^2-\varphi^2}}\biggr) \exp\biggl\{\frac{it\varphi}{\sqrt{\pi^2n^2-\varphi^2}}\biggr\}, \end{aligned} \end{equation*} \notag $$
где $n \in {\mathbb Z} \setminus \{0,\pm 1\}$, а $l_n=\dfrac{1}{\sqrt 2}t_n=\dfrac{1}{\sqrt 2}\sqrt{\pi^2n^2-\varphi^2}$ есть длина геодезической $\gamma_n$.

Теорема 4.27. Если точка $g\in \operatorname{SU}(2)$ не принадлежит ни интервалу $A$, ни сфере $S^2=\{(\alpha,\beta) \in \operatorname{SU}(2) \mid \operatorname{Im}\alpha=0\}$, то существует конечное число геометрически разных геодезических, соединяющих $\operatorname{Id}$ и $g$.

4.9.8. Библиографические комментарии

Изложение пп. 4.9.14.9.5 опирается на работу [29], п. 4.9.6 – на работу [18], п. 4.9.7 – на работу [36].

4.10. Осесимметричная субриманова задача на группе $\operatorname{SO}(3)$

4.10.1. Группа Ли и алгебра Ли

Группа Ли $\operatorname{SO}(3)$ есть группа унимодулярных ортогональных вещественных $(3 \times 3)$-матриц

$$ \begin{equation*} \operatorname{SO}(3)=\{g \in \operatorname{GL}(3,\mathbb{R}) \mid g g^\top=\operatorname{Id}, \ \det g=1\}. \end{equation*} \notag $$
Эта группа компактна, связна и неодносвязна: ее фундаментальная группа есть ${\mathbb Z}_2$. Алгебра Ли этой группы есть алгебра кососимметрических вещественных $(3 \times 3)$-матриц:
$$ \begin{equation*} \mathfrak{so}(3)=\{X \in \mathfrak{gl}(3,\mathbb{R}) \mid X^\top=-X\}. \end{equation*} \notag $$
В этой алгебре Ли можно выбрать базис: $\mathfrak{g}=\mathfrak{so}(3)=\operatorname{span}(p_1,p_2,k)$,
$$ \begin{equation} p_1=\begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 &-1 \\ 0 & 1 & 0 \end{pmatrix},\quad p_2=\begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ -1 & 0 & 0 \end{pmatrix},\quad k=\begin{pmatrix} 0 & -1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}, \end{equation} \tag{4.49} $$
с таблицей умножения $[p_1,p_2]=k$, $[p_2,k]=p_1$, $[k,p_1]=p_2$. Алгебры Ли $\mathfrak{so}(3)$ и $\mathfrak{su}(2)$ изоморфны, а группа Ли $\operatorname{SU}(2)$ есть односвязная накрывающая группы $\operatorname{SO}(3)$ (см. раздел 4.9). Двулистное накрытие $\Pi\colon \operatorname{SU}(2)\to \operatorname{SO}(3)$ можно задать следующим образом:
$$ \begin{equation} \Pi \colon \begin{pmatrix} a+i b \\ c+i d \end{pmatrix}\mapsto \begin{pmatrix} 1-2b^2-2 d^2 & 2 cd-2 ab & 2bc+2 ad \\ 2cd+2ab & 1-2b^2-2c^2 & 2bd+2ac \\ 2bc-2ad & 2bd-2ac & 1-2c^2-2d^2 \end{pmatrix}. \end{equation} \tag{4.50} $$

Форма Киллинга в алгебре Ли $\mathfrak{so}(3)$ есть $\operatorname{Kil}(X,Y)=\operatorname{Tr}(XY)$, поэтому $\operatorname{Kil}(p_i,p_j)=-2\delta_{ij}$. Подпространства $\mathbf{k}=\mathbb{R} k$, $\mathbf{p}=\operatorname{span}(p_1,p_2)$ образуют картановское разложение алгебры Ли $\mathfrak{so}(3)$. Векторы $p_1$, $p_2$ образуют ортонормированный репер для скалярного произведения $\langle\,\cdot\,{,}\,\cdot\,\rangle= -\operatorname{Kil}(\,\cdot\,{,}\,\cdot\,)/2$, суженного на $\mathbf{p}$.

4.10.2. Субриманова $(\mathbf{k} \oplus \mathbf{p})$-структура

Рассмотрим левоинвариантную субриманову структуру на $\operatorname{SO}(3)$ с ортонормированным репером

$$ \begin{equation*} X_1(g)=L_{g*}p_1,\quad X_2(g)=L_{g*}p_2, \qquad g \in \operatorname{SO}(3), \end{equation*} \notag $$
т. е. распределение $\Delta_g=L_{g*} \mathbf{p}$ со скалярным произведением
$$ \begin{equation*} \langle v_1,v_2\rangle_g=\langle L_{g^{-1}*}v_1,L_{g^{-1}*}v_2\rangle; \end{equation*} \notag $$
она является $(\mathbf{k} \oplus \mathbf{p})$-структурой на $\operatorname{SO}(3)$.

4.10.3. Геодезические и симметрии

Анормальные траектории постоянны.

Пусть $h_i(\lambda)=\langle\lambda,X_i(g)\rangle$, $i=1,2,3$, $X_3=[X_1,X_2]$, $H=(h_1^2+h_2^2)/2$ и $C=\mathfrak{g}^* \cap \{H=1/2\}$. Далее, пусть

$$ \begin{equation*} \lambda=(h_1,h_2,h_3,\operatorname{Id}) \in C, \qquad h_1=\cos\theta, \quad h_2=\sin\theta, \quad h_3=c. \end{equation*} \notag $$
Тогда экспоненциальное отображение
$$ \begin{equation*} \operatorname{Exp}\colon C \times \mathbb{R}_+ \to G, \quad (\lambda,t) \mapsto g(t), \end{equation*} \notag $$
параметризуется следующим образом:
$$ \begin{equation*} \begin{aligned} \, &\operatorname{Exp}(\lambda,t)=\operatorname{Exp}(\theta,c,t)= \exp\{(p_1\cos\theta+p_2\sin\theta+ck)t\}\exp\{-ckt\} \\ &=\begin{pmatrix} \begin{aligned} \, K_1 \cos(ct)&+K_2 \cos(2\theta+ct)\\ &+K_3 c\sin(ct) \end{aligned} & \begin{aligned} \, K_1\sin(ct)&+K_2\sin(2\theta+ct)\\ &-K_3 c\cos(ct) \end{aligned} & K_4\cos\theta+K_3\sin\theta \\ \begin{aligned} \, -K_1\sin(ct)&+K_2\sin(2\theta+ct)\\ &+K_3 c\cos(ct) \end{aligned} & \begin{aligned} \, K_1\cos(ct)&-K_2\cos(2\theta+ct)\\ &+K_3 c\sin(ct) \end{aligned} &-K_3\cos\theta+K_4\sin\theta \\ K_4\cos(\theta+ct)-K_3 \sin(\theta+ct) & K_3 \cos(\theta+ct)+K_4 \sin(\theta+ct) & \dfrac{\cos(\sqrt{1+c^2}\,t)+c^2}{1+c^2} \end{pmatrix}, \end{aligned} \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{aligned} \, K_1&=\frac{1+(1+2c^2)\cos(\sqrt{1+c^2}\,t)}{2(1+c^2)}\,,&\qquad K_2&=\frac{1-\cos(\sqrt{1+c^2}\,t)}{2(1+c^2)}\,, \\ K_3&=\frac{\sin(\sqrt{1+c^2}\,t)}{\sqrt{1+c^2}}\,, &\qquad K_4&=\frac{c(1-\cos(\sqrt{1+c^2}\,t))}{1+c^2}\,. \end{aligned} \end{equation*} \notag $$

Семейство геодезических имеет симметрии, аналогичные случаю $\operatorname{SU}(2)$ (см. п. 4.9.3).

4.10.4. Каустика

Каустика (множество сопряженных точек) в $\operatorname{SO}(3)$ получается из случая $\operatorname{SU}(2)$ (п. 4.9.4) с помощью канонической проекции

$$ \begin{equation*} \Pi\colon \operatorname{SU}(2) \to \operatorname{SO}(3) \end{equation*} \notag $$
(см. (4.50)). Так же, как в случае $\operatorname{SU}(2)$, все геодезические в $\operatorname{SO}(3)$ имеют счетное число сопряженных точек.

4.10.5. Множество разреза

Теорема 4.28. Множество разреза на $\operatorname{SO}(3)$ имеет стратификацию

$$ \begin{equation*} \operatorname{Cut}=\operatorname{Cut}^{\rm loc} \cup \operatorname{Cut}^{\rm glob}, \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{aligned} \, \operatorname{Cut}^{\rm loc}&=e^{\mathbf{k}} \setminus \{\operatorname{Id}\}, \\ \operatorname{Cut}^{\rm glob}&=\biggl\{\Pi\begin{pmatrix} \alpha \\ \beta \end{pmatrix}\Bigm| \alpha,\beta \in \mathbb{C}, \ \operatorname{Re}\alpha=0, \ (\operatorname{Im}\alpha)^2+|\beta|^2=1\biggr\}. \end{aligned} \end{equation*} \notag $$

Топологически $\operatorname{Cut}^{\rm loc}$ есть интервал (окружность $e^{\mathbf{k}}$ с выколотой точкой $\operatorname{Id}$), а $\operatorname{Cut}^{\rm glob}$ есть проективная плоскость $\mathbb{R} P^2$. Начальная точка $\operatorname{Id}$ находится в замыкании локальной компоненты $\operatorname{Cut}^{\rm loc}$ и изолирована от глобальной компоненты $\operatorname{Cut}^{\rm glob}$. Эти компоненты пересекаются в единственной точке $e^{\pi k}$, поэтому $\operatorname{Cut}$ есть стратифицированное пространство.

4.10.6. Расстояние

Теорема 4.29. Пусть $(3\times 3)$-матрица $g=(g_{ij})$ принадлежит $\operatorname{SO}(3)$. Тогда субриманово расстояние $d_0(g)=d(\operatorname{Id},g)$ задается следующим образом.

(1) Если $g_{33}=-1$, то $d_0=\pi$.

(2) Если $g_{33}=1$ и $g \ne \operatorname{Id}$, то

$$ \begin{equation*} d_0=\frac{2\pi}{\sqrt{1+\beta^2}}\,, \end{equation*} \notag $$
где $\beta$ – единственное решение системы уравнений
$$ \begin{equation*} \begin{aligned} \, \cos \frac{\pi\beta}{\sqrt{1+\beta^2}}&= -\frac{1}{2}\sqrt{1+g_{11}+g_{22}+g_{33}}\,, \\ \sin \frac{\pi\beta}{\sqrt{1+\beta^2}}&= \frac{1}{2}\operatorname{sign}(g_{21}-g_{12})\cdot\sqrt{1-g_{11}-g_{22}+g_{33}}\,. \end{aligned} \end{equation*} \notag $$

(3) Если $-1< g_{33} <-1$ и $\cos\bigl(\pi\sqrt{(1+g_{33})/2}\,\bigr)= -(g_{11}+g_{22})/(1+g_{33})$, то

$$ \begin{equation*} d_0=\pi\sqrt{\frac{1}{2} (1-g_{33})}\,. \end{equation*} \notag $$

(4) Если $-1< g_{33} <-1$ и $\cos\bigl(\pi\sqrt{(1+g_{33})/2}\bigr)> -(g_{11}+g_{22})/(1+g_{33})$, то

$$ \begin{equation*} d_0=\frac{2}{\sqrt{1+\beta^2}} \arcsin\sqrt{\frac{1}{2}(1-g_{33})(1+\beta^2)}\,, \end{equation*} \notag $$
где $\beta$ – единственное решение системы уравнений
$$ \begin{equation*} \begin{aligned} \, &\cos\biggl(-\frac{\beta}{\sqrt{1+\beta^2}} \arcsin\sqrt{\frac{1}{2}(1-g_{33})(1+\beta^2)}+ \arcsin\biggl(\beta\sqrt{\frac{1-g_{33}}{1+g_{33}}}\biggr)\biggr) \\ &\qquad=\sqrt{\frac{1+g_{11}+g_{22}+g_{33}}{2(1+g_{33})}}\,, \\ &\sin\biggl(-\frac{\beta}{\sqrt{1+\beta^2}} \arcsin\sqrt{\frac{1}{2}(1-g_{33})(1+\beta^2)}+ \arcsin\biggl(\beta \sqrt{\frac{1-g_{33}}{1+g_{33}}}\biggr)\biggr) \\ &\qquad=\operatorname{sign}(g_{21}-g_{12})\cdot \sqrt{\frac{1-g_{11}-g_{22}+g_{33}}{2(1+g_{33})}}\,. \end{aligned} \end{equation*} \notag $$

(5) Если $-1< g_{33} <-1$ и $\cos\bigl(\pi \sqrt{(1+g_{33})/2}\,\bigr) <-(g_{11}+g_{22})/(1+ g_{33})$, то

$$ \begin{equation*} d_0=\frac{2}{\sqrt{1+\beta^2}} \biggl(\pi-\arcsin\sqrt{\frac{1}{2}(1-g_{33})(1+\beta^2)}\,\biggr), \end{equation*} \notag $$
где $\beta$ – единственное решение системы уравнений
$$ \begin{equation*} \begin{aligned} \, &\cos\biggl(\frac{\beta}{\sqrt{1+\beta^2}} \biggl(\pi-\arcsin\sqrt{\frac{1}{2}(1-g_{33})(1+\beta^2)}\,\biggr)+ \arcsin\biggl(\beta\sqrt{\frac{1-g_{33}}{1+ g_{33}}}\,\biggr)\biggr) \\ &\qquad=-\sqrt{\frac{1+g_{11}+g_{22}+g_{33}}{2(1+g_{33})}}\,, \\ &\sin\biggl(\frac{\beta}{\sqrt{1+\beta^2}} \biggl(\pi-\arcsin\sqrt{\frac{1}{2} (1-g_{33})(1+\beta^2)}\,\biggr)+ \arcsin\biggl(\beta\sqrt{\frac{1-g_{33}}{1+ g_{33}}}\,\biggr)\biggr) \\ &\qquad=\operatorname{sign}(g_{21}-g_{12})\cdot \sqrt{\frac{1-g_{11}-g_{22}+g_{33}}{2(1+g_{33})}}\,. \end{aligned} \end{equation*} \notag $$

4.10.7. Сферы

Рассмотрим другую модель группы $\operatorname{SO}(3)$. Пусть $M_1$ – ориентированная двумерная сфера гауссовой кривизны 1, заданная в объемлющем пространстве $\mathbb{R}^3$ равенством $x^2+y^2+z^2=1$; риманова метрика $d_R$ на $M_1$ индуцирована евклидовой метрикой на $\mathbb{R}^3$; ориентация сферы $M_1$ задана ее внешней нормалью. Пусть $V_1$ есть расслоение единичных касательных векторов к $M_1$.

Пусть распределение $\Delta$ на $V_1$ есть горизонтальное распределение связности Леви-Чивиты, а расстояние на $V_1$ определяется как

$$ \begin{equation*} d(x,y)=\inf d_R(l), \end{equation*} \notag $$
где инфимум берется по всем кривым в $M_1$, горизонтальные лифты которых в $V_1$ соединяют $x$ и $y$. Здесь $d_R(l)$ есть длина кривой $l$ в метрике $d_R$.

Многообразие $V_1$ с метрикой $d$ изометрично группе $\operatorname{SO}(3)$ с субримановой $(\mathbf{k} \oplus \mathbf{p})$-структурой, определенной в п. 4.10.2.

Введем в $V_1$ систему координат $\{(r,\alpha,\beta) \mid r \geqslant 0, \ -\pi \leqslant \alpha \leqslant \pi,\ -\pi \leqslant \beta \leqslant \pi\}$ с началом в некотором элементе $v_O \in V_1$. Тогда точка $A \in M_1$ имеет декартовы координаты $(\cos\beta\sin r,\sin\beta\sin r,\cos r)$, а вектор $v_A \in V_1$ имеет декартовы компоненты

$$ \begin{equation*} \begin{aligned} \, &\bigl(\cos r \cos \beta \cos(\alpha-\beta)-\sin \beta \sin(\alpha-\beta), \\ &\qquad\cos r\sin\beta\cos(\alpha-\beta)+ \cos\beta\sin(\alpha-\beta),-\sin r\cos(\alpha-\beta)\bigr). \end{aligned} \end{equation*} \notag $$
Поэтому координатное отображение
$$ \begin{equation*} f\colon \{(r,\alpha,\beta) \mid 0 \leqslant r \leqslant \pi, \ -\pi \leqslant \alpha \leqslant \pi, \ -\pi \leqslant \beta \leqslant \pi\} \to V_1 \end{equation*} \notag $$
можно продолжить по непрерывности до отображения $g$ с включением случая $r=\pi$. В этом случае точка $A$ имеет декартовы координаты $(0,0,-1)$, вектор $v_A$ – декартовы компоненты $(-\cos(\alpha-2\beta),\sin(\alpha-2\beta),0)$. Тогда
$$ \begin{equation*} g\colon \{(r,\alpha,\beta) \mid 0 \leqslant r \leqslant \pi, \ -\pi \leqslant \alpha \leqslant \pi, \ -\pi \leqslant \beta \leqslant \pi\} \to V_1 \end{equation*} \notag $$
есть отображение отождествления замкнутого полнотория на пространство $V_1$. При этом кривая $\beta=\alpha/2+c$, $c \in \mathbb{R}$, на граничном торе $\mathbb{T}^2$ переходит под действием отображения $g$ в один элемент пространства $V_1$.

Теорема 4.30. Диаметр пространства $V_1$ с метрикой $d$ равен $\sqrt 3\,\pi$.

Введем в $V_1$ систему координат $\{r,\alpha,\beta\}$ с началом в некотором элементе $v_O$. В этой системе координат сфера с центром $v_O$ радиуса $\sqrt 3\,\pi$ есть точка $(0,\pi,0)$. Сфера с центром $v_O$ радиуса $0 < R < \sqrt 3\,\pi$ – поверхность вращения вокруг оси $\alpha$ той части кривой $S_R$, определяемой параметрическими уравнениями $r=\pm r(t)$, $\alpha=\pm \alpha(t)$, $1 \leqslant t \leqslant 2\pi/R$, которая расположена в полосе $-\pi \leqslant \alpha \leqslant \pi$ на плоскости $\beta=0$, причем

(1) если $0 < R < \pi$, то

$$ \begin{equation*} \begin{aligned} \, r(t)&=2 \arcsin\biggl(\frac{1}{t}\sin\frac{Rt}{2}\biggr), \qquad 1 \leqslant t \leqslant \frac{2\pi}{R}\,, \\ \alpha(t)&=\begin{cases} 2\biggl|\dfrac{R}{2}\sqrt{t^2-1}- \arcsin\dfrac{\sqrt{t^2-1}\,\sin(Rt/2)}{\sqrt{t^2-\sin^2(Rt/2)}}\,\biggr|, & \textit{если}\ 1 \leqslant t < \dfrac{\pi}{R}\,, \\ 2\biggl(\pi-\dfrac{R}{2}\sqrt{t^2-1}- \arcsin\dfrac{\sqrt{t^2-1}\,\sin(Rt/2)}{\sqrt{t^2-\sin^2(Rt/2)}}\,\biggr), & \textit{если}\ \dfrac{\pi}{R} \leqslant t < \dfrac{2\pi}{R}\,; \end{cases} \end{aligned} \end{equation*} \notag $$

(2) если $\pi \leqslant R < \sqrt 3\,\pi$, то

$$ \begin{equation*} \begin{alignedat}{2} r(t)&=2\arcsin\biggl(\frac{1}{t}\sin\frac{Rt}{2}\biggr), &&\qquad 1 \leqslant t \leqslant \frac{2\pi}{R}\,, \\ \alpha(t)&=2 \biggl(\pi-\frac{R}{2}\sqrt{t^2-1}- \arcsin\frac{\sqrt{t^2-1}\,\sin(Rt/2)}{\sqrt{t^2-\sin^2(Rt/2)}}\biggr), &&\qquad 1 \leqslant t < \dfrac{\pi}{R}\,. \end{alignedat} \end{equation*} \notag $$

При $R=\pi$ значение $\alpha(1)$ определяется по непрерывности и равно $\pi$.

Сферы пространства $V_1$ радиуса $R \in (0,\sqrt 3\,\pi)$, $R \ne \pi$, гомеоморфны $S^2$. Сфера радиуса $R=\pi$ гомеоморфна сфере $S^2$, у которой диаметрально противоположные точки отождествлены. Сфера радиуса $R=\sqrt 3\,\pi$ есть точка. При $R \in (0,\pi)$ сфера имеет две конические особенности. Сфера радиуса $R=\pi$ диффеоморфна двум пересекающимся по окружности одинарным конусам, направленным в разные стороны, на общей окружности которых отождествлены диаметрально противоположные точки. Сфера радиуса $R \in (\pi,\sqrt 3\,\pi)$ диффеоморфна двум пересекающимся по окружности одинарным конусам, направленным в разные стороны.

4.10.8. Библиографические комментарии

Пункты 4.10.3, 4.10.5 опираются на статью [29], а пункты 4.10.6 и 4.10.7 – на статьи [18] и [19] соответственно. Рассматриваемой субримановой задаче на $\operatorname{SO}(3)$ посвящена также работа [20].

Насколько нам известно, впервые геодезические и сферы для осесимметричной субримановой задачи на $\operatorname{SO}(3)$ были описаны в [41], [87].

4.11. Осесимметричная субриманова задача на группе $\operatorname{SL}(2)$

4.11.1. Группа Ли и алгебра Ли

Группа Ли $\operatorname{SL}(2)$ есть группа унимодулярных вещественных $(2\times 2)$-матриц:

$$ \begin{equation*} \operatorname{SL}(2)=\{g \in \operatorname{GL}(2,\mathbb{R}) \mid \det g=1\}. \end{equation*} \notag $$
Эта группа некомпактна, связна и неодносвязна: ее фундаментальная группа есть ${\mathbb Z}$. Алгебра Ли группы Ли $G=\operatorname{SL}(2)$ есть алгебра бесследовых вещественных $(2 \times 2)$-матриц:
$$ \begin{equation*} \mathfrak{sl}(2)= \{X \in \mathfrak{gl}(2,\mathbb{R}) \mid \operatorname{Tr} X=0\}. \end{equation*} \notag $$
Матрицы
$$ \begin{equation} p_1=\frac{1}{2}\begin{pmatrix} 1 & 0 \\ 0 & -1 \end{pmatrix},\quad p_2=\frac{1}{2}\begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix},\quad k=\frac{1}{2}\begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix} \end{equation} \tag{4.51} $$
образуют базис в алгебре Ли $\mathfrak{g}=\mathfrak{sl}(2)$ с таблицей умножения
$$ \begin{equation*} [p_1,p_2]=-k, \quad [p_2,k]=l_1, \quad [k,p_1]=p_2. \end{equation*} \notag $$
Форма Киллинга для $\mathfrak{sl}(2)$ есть $\operatorname{Kil}(X,Y)=4\operatorname{Tr}(XY)$, поэтому $\operatorname{Kil}(p_i,p_j)=2\delta_{ij}$.

Подпространства

$$ \begin{equation*} \mathbf{k}=\mathbb{R} k, \quad \mathbf{p}=\operatorname{span}(p_1,p_2) \end{equation*} \notag $$
образуют картановское разложение в $\mathfrak{sl}(2)$; оно единственно, так как $\mathbf{k}$ должно быть максимальной компактной подалгеброй.

Векторы $p_1$, $p_2$ образуют ортонормированный репер для скалярного произведения $\langle\,\cdot\,{,}\,\cdot\,\rangle= \operatorname{Kil}(\,\cdot\,{,}\,\cdot\,)/2$, суженного на $\mathbf{p}$.

4.11.2. Субриманова $(\mathbf{k} \oplus \mathbf{p})$-структура

Рассмотрим левоинвариантную субриманову структуру на $\operatorname{SL}(2)$ с ортонормированным репером

$$ \begin{equation*} X_1(g)=L_{g*}p_1, \quad X_2(g)=L_{g*}p_2, \qquad g \in \operatorname{SL}(2), \end{equation*} \notag $$
т. е. распределение $\Delta_g=L_{g*} \mathbf{p}$ со скалярным произведением
$$ \begin{equation*} \langle v_1,v_2\rangle_g=\langle L_{g^{-1}*} v_1,L_{g^{-1}*}v_2\rangle. \end{equation*} \notag $$
Эта структура есть $(\mathbf{k}\oplus\mathbf{p})$-структура на $\operatorname{SL}(2)$.

4.11.3. Геодезические и симметрии

Анормальные траектории постоянны.

Пусть $h_i(\lambda)=\langle\lambda,X_i(g)\rangle$, $i=1,2,3$, $X_3=[X_1,X_2]$, $H=(h_1^2+h_2^2)/2$ и $C=\mathfrak{g}^* \cap \{H=1/2\}$. Далее, пусть

$$ \begin{equation*} \lambda=(h_1,h_2,h_3,\operatorname{Id}) \in C,\qquad h_1=\cos \theta, \quad h_2=\sin \theta, \quad h_3=c. \end{equation*} \notag $$
Тогда экспоненциальное отображение
$$ \begin{equation*} \operatorname{Exp}\colon C \times \mathbb{R}_+ \to G, \quad (\lambda,t) \mapsto g(t), \end{equation*} \notag $$
параметризуется следующим образом:
$$ \begin{equation*} \begin{aligned} \, \operatorname{Exp}(\lambda,t)&=\operatorname{Exp}(\theta,c,t)= \exp\{(p_1\cos\theta+p_2\sin\theta+c k)t\} \exp\{- c k t\} \\ &=\begin{pmatrix} E_{11} & E_{12} \\ E_{21} & E_{22} \end{pmatrix}, \end{aligned} \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{aligned} \, E_{11}&=K_1\cos\biggl(c\frac{t}{2}\biggr)+ K_2\biggl(\cos\biggl(\theta+c \frac{t}{2}\biggr)+ c\sin\biggl(c\frac{t}{2}\biggr)\biggr), \\ E_{12}&=K_1\sin\biggl(c\frac{t}{2}\biggr)+ K_2\biggl(\sin\biggl(\theta+c\frac{t}{2}\biggr)- c\cos\biggl(c\frac{t}{2}\biggr)\biggr), \\ E_{21}&=-K_1\sin\biggl(c\frac{t}{2}\biggr)+ K_2\biggl(\sin\biggl(\theta+c\frac{t}{2}\biggr)+ c\cos\biggl(c\frac{t}{2}\biggr)\biggr), \\ E_{22}&=K_1\cos\biggl(c\frac{t}{2}\biggr)+ K_2\biggl(-\cos\biggl(\theta+c\frac{t}{2}\biggr)+ c\sin\biggl(c\frac{t}{2}\biggr)\biggr) \end{aligned} \end{equation*} \notag $$
и
$$ \begin{equation*} \begin{aligned} \, K_1&=\begin{cases} \operatorname{ch} \biggl(\sqrt{1-c^2}\,\dfrac{t}{2}\biggr) &\text{при}\ c \in [-1,1], \\ \cos\biggl(\sqrt{c^2-1}\,\dfrac{t}{2}\biggr) &\text{при}\ c \in (-\infty,-1) \cup (1,+\infty), \end{cases} \\ K_2&=\begin{cases} \operatorname{sh} \biggl(\sqrt{1-c^2}\dfrac{t}{2}\biggr) &\text{при}\ c \in (-1,1), \\ \dfrac{t}{2} &\text{при}\ c \in \{-1,1\}, \\ \dfrac{\sin\bigl(\sqrt{c^2-1}\,t/2\bigr)}{\sqrt{c^2-1}} &\text{при}\ c \in (-\infty,-1) \cup (1,+\infty). \end{cases} \end{aligned} \end{equation*} \notag $$

Семейство геодезических имеет следующие симметрии:

(a) вращения $\operatorname{Exp}(\theta,c,t)=e^{z_0 k}e^{x p_1+y p_2}$, где

$$ \begin{equation*} \begin{pmatrix} x \\ y \end{pmatrix}= \begin{pmatrix} \cos \theta & -\sin \theta \\ \sin \theta & \cos \theta \end{pmatrix} \begin{pmatrix} x_0 \\ y_0 \end{pmatrix}, \end{equation*} \notag $$
а $(x_0,y_0,z_0)$ определяются условием $\operatorname{Exp}(0,c,t)=e^{z_0 k}e^{x_0 p_1+y_0 p_2}$;

(b) отражения $\operatorname{Exp}(\theta,-c,t)=e^{-z_0 k}e^{x p_1+y p_2}$, где

$$ \begin{equation*} \begin{pmatrix} x \\ y \end{pmatrix}=\begin{pmatrix} \cos(2\theta) & \sin(2\theta) \\ \sin(2\theta) &-\cos(2\theta) \end{pmatrix} \begin{pmatrix} x_0 \\ y_0 \end{pmatrix}, \end{equation*} \notag $$
а $(x_0,y_0,z_0)$ определяются условием $\operatorname{Exp}(\theta c,t)=e^{z_0 k}e^{x_0 p_1+y_0 p_2}$.

4.11.4. Сопряженные точки

Геодезические $\operatorname{Exp}(\theta,c,t)$, $|c| \leqslant 1$, не содержат сопряженных точек.

Если $|c| > 1$, то сопряженные времена вдоль геодезической $\operatorname{Exp}(\theta,c,t)$ следующие:

$$ \begin{equation*} t_{2n-1}=\frac{2 \pi n}{\sqrt{c^2-1}}\,, \quad t_{2n }=\frac{2 x_n}{\sqrt{c^2-1}}\,, \qquad n \in \mathbb{N}, \end{equation*} \notag $$
где $\{x_1,x_2,\dots\}$ суть упорядоченные по возрастанию положительные корни уравнения $x= \operatorname{tg} x$.

Соответствующая $m$-я каустика

$$ \begin{equation*} \operatorname{Conj}^m=\{\operatorname{Exp}(\lambda,t) \mid t=t^m_{\rm conj}(\lambda), \ \lambda \in C\} \end{equation*} \notag $$
есть
$$ \begin{equation*} \begin{aligned} \, &\operatorname{Conj}^{2n-1}=e^{\mathbf{k}} \setminus \{\operatorname{Id}\}, \\ &\operatorname{Conj}^{2n}=\biggl\{\begin{pmatrix} C_{11}(c,\theta) & C_{12}(c,\theta) \\ C_{21}(c,\theta) & C_{22}(c,\theta) \end{pmatrix}\biggm| c \in \mathbb{R}, \ \theta \in \mathbb{R}/(2\pi{\mathbb Z})\biggr\}, \end{aligned} \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{aligned} \, C_{11}(c,\theta)&=\cos x_n \cos y_n+ \frac{\sin x_n}{\sqrt{c^2-1}}(\cos \theta+c \sin y_n), \\ C_{12}(c,\theta)&=\cos x_n \sin y_n+ \frac{\sin x_n}{\sqrt{c^2-1}}(\sin \theta-c \cos y_n), \\ C_{21}(c,\theta)&=-\cos x_n \sin y_n+ \frac{\sin x_n}{\sqrt{c^2-1}}(\sin \theta+c \cos y_n), \\ C_{22}(c,\theta)&=\cos x_n \cos y_n+ \frac{\sin x_n}{\sqrt{c^2-1}}(-\cos \theta+c \sin y_n) \end{aligned} \end{equation*} \notag $$
и $y_n=c x_n/\sqrt{c^2-1}$ .

4.11.5. Множество разреза

Теорема 4.31. Множество разреза есть стратифицированное пространство

$$ \begin{equation*} \operatorname{Cut}=\operatorname{Cut}^{\rm loc} \cup \operatorname{Cut}^{\rm glob}, \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{aligned} \, \operatorname{Cut}^{\rm loc}&=e^{\mathbf{k}}\setminus\{\operatorname{Id}\}= \biggl\{\begin{pmatrix} \cos \alpha &-\sin \alpha \\ \sin \alpha & \cos \alpha \end{pmatrix}\Bigm| \alpha \in (0,2\pi)\biggr\}, \\ \operatorname{Cut}^{\rm glob}&=e^{2 \pi k} e^{\mathbf{p}}= \{g \in \operatorname{SL}(2) \mid g=g^\top, \ \operatorname{Tr} g <-2\}. \end{aligned} \end{equation*} \notag $$

Топологически $\operatorname{Cut}^{\rm loc}$ есть интервал (окружность $e^{\mathbf{k}}$ с выколотой точкой $\operatorname{Id}$), а $\operatorname{Cut}^{\rm glob}$ есть плоскость $\mathbb{R}^2$.

4.11.6. Геодезическая орбитальность

Теорема 4.32. Группа $\operatorname{SL}(2)$ с рассматриваемой субримановой структурой геодезически орбитальна.

4.11.7. Время разреза

Пусть $\lambda=(\theta,c)\in C$. Опишем время разреза $t_{\rm cut}(\lambda)$ вдоль соответствующей геодезической.

Предложение 4.2. $t_{\rm cut}(\theta, 0)=+ \infty$.

Теорема 4.33. Пусть $c \ne 0$, тогда число $T=t_{\rm cut}(\theta,c) \in (0,+\infty)$ выражается следующим образом.

(1) Если $|c| \geqslant 2/\sqrt 3$ , то

$$ \begin{equation*} T=\frac{2\pi}{\sqrt{c^2-1}}\,. \end{equation*} \notag $$

(2) Если $|c|=1$, то $T$ принадлежит интервалу $(2\pi,3\pi)$ и удовлетворяет системе уравнений

$$ \begin{equation*} \cos\frac{T}{2}=-\frac{1}{\sqrt{1+T^2/4}}\,, \qquad \sin\frac{T}{2}=-\frac{T/2}{\sqrt{1+T^2/4}}\,. \end{equation*} \notag $$

(3) Если $c^2 < 1$, то $T$ принадлежит интервалу $(2\pi/|c|,3\pi/|c|)$ и удовлетворяет системе уравнений

$$ \begin{equation*} \cos(kx)=-\frac{1}{\sqrt{1+k^2 \operatorname{th} ^2x}}\,, \qquad \sin(kx)=-\frac{k \operatorname{th} x}{\sqrt{1+k^2 \operatorname{th} ^2x}}\,, \end{equation*} \notag $$
где
$$ \begin{equation*} k=\frac{|c|}{\sqrt{1-c^2}}\,, \qquad x=\frac{T\sqrt{1-c^2}}{2}=\frac{T}{2\sqrt{1+k^2}}\,. \end{equation*} \notag $$

(4) Если $|c|=3/(2\sqrt 2\,)$, то $T=2\sqrt 2\,\pi$.

(5) Если $3/(2\sqrt 2) < |c| < 2/\sqrt 3$ , то

$$ \begin{equation*} \frac{3\pi}{|c|}<T<2\pi\bigl(|c|+\sqrt{c^2-1}\,\bigr) < \frac{4\pi}{|c|} \end{equation*} \notag $$
и $T$ удовлетворяет системе уравнений
$$ \begin{equation*} \cos(kx)=\frac{1}{\sqrt{1+k^2 \operatorname{tg} ^2x}}\,, \qquad \sin(kx)=\frac{k \operatorname{tg} x}{\sqrt{1+k^2 \operatorname{tg} ^2x}} < 0, \end{equation*} \notag $$
где
$$ \begin{equation} k=\frac{|c|}{\sqrt{c^2-1}}\,, \qquad x=\frac{T \sqrt{1-c^2}}{2}=\frac{T}{2 \sqrt{k^2-1}}\,. \end{equation} \tag{4.52} $$

(6) Если $1 < |c| < 3/(2\sqrt 2\,)$, то

$$ \begin{equation*} \frac{2\pi}{|c|}<2\pi\bigl(|c|+\sqrt{c^2-1}\,\bigr)<T<\frac{3\pi}{|c|} \end{equation*} \notag $$
и $T$ удовлетворяет системе уравнений
$$ \begin{equation*} \cos(kx)=-\frac{1}{\sqrt{1+k^2 \operatorname{tg} ^2x}}\,, \qquad \sin(kx)=-\frac{k \operatorname{tg} x}{\sqrt{1+k^2 \operatorname{tg} ^2x}} < 0, \end{equation*} \notag $$
где $k$ и $x$ определяются формулами (4.52).

В следующей теореме описаны свойства монотонности и регулярности времени разреза.

Теорема 4.34. Функция $T(c)=t_{\rm cut}(\theta,c)$ имеет следующие свойства:

(1) $T(c)$ строго убывает на промежутках $(0,3/(2\sqrt 2\,)]$, $[2/\sqrt 3\,,+\infty)$ и строго возрастает на отрезке $[3/(2\sqrt 2\,),2/\sqrt 3\,]$;

(2) $T(c)$ непрерывна, кусочно вещественно аналитична и

$$ \begin{equation*} T(0,+\infty)=(0,+\infty); \end{equation*} \notag $$

(3) $T(c)$ имеет локальный минимум $2\sqrt 2\,\pi$ при $c=3/(2\sqrt 2\,)$ и локальный максимум $2\sqrt 3\,\pi$ при $c=2/\sqrt 3$ .

4.11.8. Библиографические комментарии

Пункты 4.11.24.11.5 опираются на статью [29], а пункты 4.11.64.11.7 – на работу [21].

Рассматриваемой субримановой задаче на $\operatorname{SL}(2)$ частично посвящена также работа [19].

См. также [16], [17], [22]–[24].

В работе [86] описаны динамические свойства геодезического потока для рассматриваемой в данном разделе субримановой структуры на $\operatorname{SL}(2)$.

4.12. Осесимметричные римановы задачи на группах $\operatorname{PSL}(2;\mathbb{R})$ и $\operatorname{SL}(2;\mathbb{R})$

4.12.1. Постановка задачи на $\operatorname{PSL}(2;\mathbb{R})$

Пусть $\operatorname{SL}(2;\mathbb{R})$ есть группа вещественных $(2\times 2)$-матриц с единичным определителем и

$$ \begin{equation*} \operatorname{PSL}(2;\mathbb{R})= \operatorname{SL}(2;\mathbb{R})/ \{\pm\operatorname{Id}\}. \end{equation*} \notag $$
Обозначим группу Ли $G=\operatorname{PSL}(2;\mathbb{R})$ и ее алгебру Ли $\mathfrak{g}=\operatorname{sl}(2;\mathbb{R})$.

Рассмотрим левоинвариантную риманову структуру на группе Ли $G$, она задается квадратичной формой на $\mathfrak{g}$ с собственными значениями $I_1$, $I_2$, $I_3 > 0$. Выберем базис $e_1,e_2,e_3 \in \mathfrak{g}$, в котором форма Киллинга и риманова метрика имеют матрицы $\operatorname{diag}(1,1,-1)$ и $\operatorname{diag}(I_1,I_2,I_3)$ соответственно.

Отождествим $\mathfrak{g}$ с $\mathfrak{g}^*$ с помощью формы Киллинга, тогда базис $e_1,e_2,e_3 \in \mathfrak{g}$ перейдет в базис $\varepsilon_1,\varepsilon_2,\varepsilon_3 \in \mathfrak{g}^*$.

Пусть $p=p_1 \varepsilon_1+p_2\varepsilon_2+p_3\varepsilon_3 \in\mathfrak{g}^*$. Введем обозначения:

$$ \begin{equation*} \operatorname{Kil}(p)=p_1^2+p_2^2-p_3^2, \qquad |p|=\sqrt{|\operatorname{Kil}(p)|}\,, \qquad \operatorname{type}(p)=\operatorname{sign}(-\operatorname{Kil}(p)); \end{equation*} \notag $$
иначе говоря, $\operatorname{Kil}(p)$ есть значение квадратичной формы Киллинга на ковекторе $p$. Этот ковектор называется времениподобным, светоподобным или пространственноподобным, если $\operatorname{type}(p)$ равно 1, 0 или $-1$ соответственно.

Римановы кратчайшие суть решения задачи оптимального управления

$$ \begin{equation} \begin{gathered} \, \dot{Q}=Q \Omega, \qquad Q \in G, \quad \Omega=u_1 e_1+u_2 e_2+u_3 e_3 \in \mathfrak{g}, \quad (u_1,u_2,u_3) \in \mathbb{R}^3, \\ Q(0)=\operatorname{Id}, \qquad Q(t_1)=Q_1, \\ \frac{1}{2}\int_0^{t_1}(I_1 u_1^2+I_2 u_2^2+I_3 u_3^2)\,dt \to \min\!. \end{gathered} \end{equation} \tag{4.53} $$

Далее рассматривается случай осесимметричной метрики: $I_1=I_2$. Обозначим через

$$ \begin{equation*} \eta=-\frac{I_1}{I_3}-1 < -1 \end{equation*} \notag $$
параметр римановой метрики, измеряющий вытянутость малых сфер. Для $p \in \mathfrak{g}^*$, $|p| \ne 0$, введем обозначения
$$ \begin{equation*} \overline{p}=\frac{p}{|p|}\,, \quad \tau(p)=\frac{t |p|}{2 I_1}\,. \end{equation*} \notag $$

Через $R_{v,\varphi}$ обозначим поворот трехмерного ориентированного евклидова пространства вокруг оси $\mathbb{R}v$ на угол $\varphi$ в положительном направлении.

4.12.2. Геодезические на $\operatorname{PSL}(2;\mathbb{R})$

Натурально параметризованные геодезические соответствуют начальным импульсам

$$ \begin{equation*} p \in C=\mathfrak{g}^* \cap \biggl\{H=\frac{1}{2}\biggr\}, \end{equation*} \notag $$
где
$$ \begin{equation*} H(p)=\frac{1}{2}\biggl(\frac{p_1^2}{I_1}+\frac{p_2^2}{I_2}+ \frac{p_3^2}{I_3}\biggr) \end{equation*} \notag $$
есть максимизированный гамильтониан принципа максимума Понтрягина.

Теорема 4.35. Геодезическая $Q(t)$, начинающаяся в единице и имеющая начальный импульс $p \in C$, есть произведение двух однопараметрических групп:

$$ \begin{equation*} Q(t)=\exp\biggl\{\frac{tp}{I_1}\biggr\} \exp\biggl\{\frac{t\eta p_3 e_3}{I_1}\biggr\}. \end{equation*} \notag $$

Форма Киллинга есть функция Казимира на $\mathfrak{g}^*$. Поэтому вдоль экстремалей $\operatorname{type}(p) \equiv \operatorname{const}$, т. е. тип ковектора есть интеграл гамильтоновой системы.

4.12.3. Модель группы $\operatorname{PSL}(2;\mathbb{R})$

Рассмотрим группу $\operatorname{SU}(1,1)$, реализованную как группа сплит-кватернионов единичной длины:

$$ \begin{equation*} \operatorname{SU}(1,1)=\{q_0+q_1 i+q_2 j+q_3 k \mid q_0^2-q_1^2-q_2^2+q_3^2=1, \ q_0, q_1, q_2, q_3 \in \mathbb{R}\}. \end{equation*} \notag $$
Умножение сплит-кватернионов дистрибутивно и удовлетворяет соотношениям
$$ \begin{equation*} i^2=j^2=1, \quad k^2=-1, \quad ij=-k, \quad jk=i, \quad ki=j. \end{equation*} \notag $$
Существует изоморфизм
$$ \begin{equation*} \psi\colon\operatorname{SL}(2;\mathbb{R}) \to \operatorname{SU}(1,1),\quad \psi\begin{pmatrix} a & b \\ c & d \end{pmatrix}=\frac{a+d}{2}+\frac{a-d}{2}i+\frac{b+c}{2}j+\frac{c-b}{2}k, \end{equation*} \notag $$
где $a,b,c,d \in \mathbb{R}$, $ad-bc=1$.

Рассмотрим проекцию группы $\operatorname{SU}(1,1)$ на трехмерное вещественное пространство с координатами $q_1$, $q_2$, $q_3$. Условие

$$ \begin{equation*} q_3^2-q_1^2-q_2^2=1-q_0^2 \leqslant 1 \end{equation*} \notag $$
означает, что образ группы $\operatorname{SU}(1,1)$ есть область между двумя полостями гиперболоида $q_3^2-q_1^2-q_2^2=1$. Для фиксированных $q_1$, $q_2$, $q_3$ (таких, что $q_3^2-q_1^2-q_2^2 \ne 1$) значение $q_0$ можно выбрать двумя разными способами. Поэтому группа $\operatorname{SU}(1,1)$ есть объединение двух таких областей с отождествленными граничными точками (соответствующими условию $q_0=0$). Группа $\operatorname{SU}(1,1)$ гомеоморфна открытому полноторию.

Группу $\operatorname{PSL}(2;\mathbb{R}) \cong \operatorname{SU}(1,1) / \{\pm \operatorname{Id}\}$ можно представить как область между полостями гиперболоида с отождествленными противоположными точками на полостях гиперболоида: $(q_1,q_2,q_3) \sim (-q_1,-q_2,-q_3)$.

4.12.4. Геодезические на $\operatorname{SU}(1,1)$

Рассмотрим левоинвариантную риманову задачу на группе $\operatorname{SU}(1,1)$, являющуюся лифтом задачи (4.53) на $\operatorname{PSL}(2;\mathbb{R})$.

Теорема 4.36. Геодезические на группе $\operatorname{SU}(1,1)$, выходящие из единицы с начальным ковектором $p=p_1\dfrac{i}{2}+p_2\dfrac{j}{2}+p_3\dfrac{k}{2} \in C$, имеют следующую параметризацию:

(1) для времениподобного ковектора $p$ ($p_3^2-p_1^2-p_2^2 > 0$)

$$ \begin{equation} \begin{aligned} \, q_0^{\rm e}(\tau)&=\cos\tau\cos(\tau\eta\overline{p}_3)- \overline{p}_3\sin\tau\sin(\tau \eta \overline{p}_3), \\ \begin{pmatrix} q_1^{\rm e}(\tau) \\ q_2^{\rm e}(\tau) \end{pmatrix}&=\sin\tau\,R_{e_3,-\tau\eta\overline{p}_3} \begin{pmatrix} \overline{p}_1 \\ \overline{p}_2 \end{pmatrix}, \\ q_3^{\rm e}(\tau)&=\cos{\tau}\sin{(\tau \eta \overline{p}_3)}+ \overline{p}_3\sin{\tau} \cos{(\tau \eta \overline{p}_3)}; \end{aligned} \end{equation} \tag{4.54} $$

(2) для светоподобного ковектора $p$ ($p_3^2-p_1^2-p_2^2=0$)

$$ \begin{equation} \begin{aligned} \, q_0^{\rm p}(t)&=\cos{\frac{t\eta p_3}{2 I_1}}- \frac{t}{2 I_1} p_3 \sin{\frac{t \eta p_3}{2 I_1}}\,, \\ \begin{pmatrix} q_1^{\rm p}(t) \\ q_2^{\rm p}(t) \end{pmatrix}&=\frac{t}{2I_1}R_{e_3,-t\eta p_3/(2 I_1)} \begin{pmatrix} p_1 \\ p_2 \end{pmatrix}, \\ q_3^{\rm p}(t)&=\sin{\frac{t \eta p_3}{2 I_1}}+ \frac{t}{2 I_1}p_3 \cos{\frac{t \eta p_3}{2 I_1}}\,; \end{aligned} \end{equation} \tag{4.55} $$

(3) для пространственноподобного ковектора $p$ ($p_3^2-p_1^2-p_2^2 < 0$)

$$ \begin{equation} \begin{aligned} \, q_0^{\rm h}(\tau)&= \operatorname{ch} {\tau}\cos{(\tau\eta\overline{p}_3)}- \overline{p}_3 \operatorname{sh} {\tau} \sin(\tau \eta \overline{p}_3), \\ \begin{pmatrix} q_1^{\rm h}(\tau) \\ q_2^{\rm h}(\tau) \end{pmatrix}&= \operatorname{sh} {\tau}\,R_{e_3,-\tau\eta\overline{p}_3}\begin{pmatrix} \overline{p}_1 \\ \overline{p}_2 \end{pmatrix}, \\ q_3^{\rm h}(\tau)&= \operatorname{ch} {\tau}\sin{(\tau\eta\overline{p}_3)}+ \overline{p}_3 \operatorname{sh} {\tau}\cos(\tau\eta\overline{p}_3). \end{aligned} \end{equation} \tag{4.56} $$

4.12.5. Сопряженные времена

Теорема 4.37. Рассмотрим геодезическую на $G=\operatorname{PSL}(2;\mathbb{R})$ или $G=\operatorname{SL}(2;\mathbb{R})$, начинающуюся в единице, с начальным ковектором $p \in C$.

Для времениподобного начального импульса $p$ с $\overline{p}_3 \ne \pm 1$ есть две серии сопряженных времен:

$$ \begin{equation*} t_{2k-1}=\frac{2 I_1 \pi k}{|p|}\,, \qquad t_{2k}=\frac{2 I_1 \tau_k(p)}{|p|}\,, \qquad k \in \mathbb{N}, \end{equation*} \notag $$
где $\tau_k(p)$ есть $k$-й положительный корень уравнения
$$ \begin{equation*} \operatorname{tg} {\tau}=-\tau\eta\,\frac{1-\overline{p}_3^2}{1+\eta\overline{p}_3^2}\,. \end{equation*} \notag $$
В случае $p_3=\pm 1$ эти две серии сливаются в одну серию:
$$ \begin{equation*} t_k=\frac{2 I_1 \pi k}{|p|}\,, \qquad k \in \mathbb{N}. \end{equation*} \notag $$

Для свето- и пространственноподобных начальных ковекторов $p$ соответствующие геодезические не имеют сопряженных точек.

Следствие 4.1. Первое сопряженное время для геодезической, соответствующей ковектору $p$, есть

$$ \begin{equation*} t_{\rm conj}^1(p)=\begin{cases} \dfrac{2\pi I_1}{|p|}\,, & \textit{если} \ \operatorname{type}{(p)}=1, \\ +\infty, & \textit{если} \ \operatorname{type}{(p)} \leqslant 0. \end{cases} \end{equation*} \notag $$

4.12.6. Время разреза и множество разреза

Введем обозначения для первых положительных нулей функций $q_0^{\rm e}(\tau)$, $q_0^{\rm p}(t)$, $q_0^{\rm h}(\tau)$ (см. (4.54)(4.56)):

$$ \begin{equation*} \begin{aligned} \, \tau^{\rm e}_0(\overline{p}_3)&=\min\{\tau \in \mathbb{R}_+ \mid q_0^{\rm e}(\tau,\overline{p}_3)=0\}, \\ t^{\rm p}_0(p)&=\min\{t \in \mathbb{R}_+ \mid q_0^{\rm p}(t,p)=0\}, \\ \tau^{\rm h}_0(\overline{p}_3)&=\min\{\tau \in \mathbb{R}_+ \mid q_0^{\rm h}(\tau,\overline{p}_3)=0\}. \end{aligned} \end{equation*} \notag $$

Обозначим через $C^{\rm e}$, $C^{\rm p}$, $C^{\rm h}$ времени-, свето- и пространственноподобные части поверхности уровня гамильтониана $C$.

Теорема 4.38. (1) Если $\eta \leqslant -3/2$, то

$$ \begin{equation*} t_{\rm cut}(p)=\begin{cases} \dfrac{2 I_1 \tau^{\rm e}_0(\overline{p}_3)}{|p|} & \textit{при} \ p \in C^{\rm e}, \\ t^{\rm p}_0(p_3) & \textit{при} \ p \in C^{\rm p}, \\ \dfrac{2 I_1 \tau^{\rm h}_0(\overline{p}_3)}{|p|} & \textit{при} \ p \in C^{\rm h}, \ \overline{p}_3 \ne 0, \\ +\infty & \textit{при} \ \overline{p}_3=0. \end{cases} \end{equation*} \notag $$

(2) Если $\eta >-3/2$, то

$$ \begin{equation*} t_{\rm cut}(p)=\begin{cases} \dfrac{2 I_1 \tau^{\rm e}_0(\overline{p}_3)}{|p|} & \textit{при} \ p \in C^{\rm e}, \ |\overline{p}_3| > -\dfrac{3}{2\eta}\,, \\ \dfrac{2 I_1 \pi}{|p|} & \textit{при} \ p \in C^{\rm e}, \ |\overline{p}_3| \leqslant -\dfrac{3}{2\eta}\,, \\ t^{\rm p}_0(p_3) & \textit{при} \ p \in C^{\rm p}, \\ \dfrac{2 I_1 \tau^{\rm h}_0(\overline{p}_3)}{|p|} & \textit{при} \ p \in C^{\rm h}, \ \overline{p}_3 \ne 0, \\ +\infty & \textit{при} \ \overline{p}_3=0. \end{cases} \end{equation*} \notag $$

Группу $\operatorname{PSL}(2;\mathbb{R})$ можно интерпретировать как группу собственных движений плоскости Лобачевского.

Теорема 4.39. (1) Если $\eta \leqslant-3/2$, то множество разреза есть плоскость, состоящая из центральных симметрий:

$$ \begin{equation*} Z=\Pi(\{q \in \operatorname{SU}(1, 1) \mid q_0=0 \}), \end{equation*} \notag $$
где
$$ \begin{equation*} \Pi\colon \operatorname{SU}(1,1) \to \operatorname{SU}(1,1)/\{\pm \operatorname{Id}\} \cong \operatorname{PSL}(2;\mathbb{R}). \end{equation*} \notag $$

(2) Если $\eta >-3/2$, то множество разреза есть стратифицированное многообразие $Z\cup R_{\eta}$, где

$$ \begin{equation*} R_{\eta}=\{R_{0,\pm \varphi} \in \operatorname{PSL}(2;\mathbb{R}) \mid \varphi \in [-2\pi(1+\eta),\pi]\} \end{equation*} \notag $$
есть отрезок, состоящий из некоторых поворотов вокруг центра модели Пуанкаре гиперболической плоскости.

4.12.7. Радиус инъективности

Теорема 4.40. Радиус инъективности осесимметричной римановой метрики на группе $\operatorname{PSL}(2;\mathbb{R})$ равен

$$ \begin{equation*} \begin{alignedat}{2} \pi \sqrt{I_1}&\sqrt{-\frac{1}{1+\eta}}&&\quad \textit{при}\quad \eta \leqslant -2, \\ \pi \sqrt{I_1}&\sqrt{-\frac{\eta+4}{\eta}}&&\quad\textit{при}\quad -2 < \eta \leqslant \frac{-3-\sqrt{73}}{8}\,, \\ 2\pi \sqrt{I_1}&\sqrt{-(1+\eta)}&&\quad\textit{при}\quad \frac{-3-\sqrt{73}}{8} < \eta < -1. \end{alignedat} \end{equation*} \notag $$

4.12.8. Осесимметричная левоинвариантная риманова задача на $\operatorname{SL}(2;\mathbb{R})$

Рассмотрим риманову задачу на группе $\operatorname{SL}(2;\mathbb{R})$, являющуюся лифтом задачи (4.53) на $\operatorname{PSL}(2;\mathbb{R})$. Геодезические для задачи на $\operatorname{SL}(2;\mathbb{R})$ задаются прежними формулами (4.54)(4.56). Сопряженные времена для $\operatorname{SL}(2;\mathbb{R})$ выражаются так же, как в п. 4.12.5.

Время разреза и множество разреза для задачи на $\operatorname{SL}(2;\mathbb{R})$ описываются следующим образом.

Теорема 4.41. Пусть $p \in C$. Время разреза для соответствующей геодезической на $\operatorname{SL}(2;\mathbb{R})$ есть

$$ \begin{equation*} t_{\rm cut}(p)=\frac{2I_1}{|p|}\,\tau_{\rm cut}(\overline{p}_3), \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{alignedat}{2} \tau_{\rm cut}(\overline{p}_3)&=\tau_3^{\rm e}(\overline{p}_3) &&\quad \textit{при} \quad \eta \leqslant-\frac{3}{2}\,, \\ \tau_{\rm cut}(\overline{p}_3)&=\begin{cases} \pi, & \overline{p}_3 \in \biggl[1,-\dfrac{2}{\eta}\biggr], \\ \tau_3^{\rm e}(\overline{p}_3), & \overline{p}_3 > -\dfrac{2}{\eta}, \end{cases} &&\quad \textit{при} \quad \eta >-\frac{3}{2}\,, \end{alignedat} \end{equation*} \notag $$
а $\tau_3^{\rm e}(\overline{p}_3)$ есть первый положительный корень функции $q_3^{\rm e}(\tau,\overline{p}_3)$ (см. (4.54)).

Теорема 4.42. (1) Если $\eta \leqslant-3/2$, то множество разреза есть плоскость

$$ \begin{equation*} H := \{q \in \operatorname{SU}(1,1) \mid q_3=0\}, \end{equation*} \notag $$
которая представляется плоскостью гиперболических изометрий, соответствующих пучкам ультрапараллельных прямых, симметричных в диаметрах модели Пуанкаре гиперболической плоскости.

(2) Если $\eta >-3/2$, то множество разреза есть стратифицированное многообразие

$$ \begin{equation*} H \cup T_{\eta}, \end{equation*} \notag $$
где
$$ \begin{equation*} T_{\eta}=\biggl\{q=\pm (\cos(2\pi\overline{p}_3)+\sin(2\pi\overline{p}_3)k) \Bigm| \overline{p}_3 \in \biggl[1,-\frac{2}{\eta}\biggr]\biggr\} \end{equation*} \notag $$
есть отрезок, состоящий из некоторых поворотов вокруг центра модели Пуанкаре гиперболической плоскости.

4.12.9. Связь с субримановой задачей

Пусть $G$ есть $\operatorname{PSL}(2;\mathbb{R})$ или $\operatorname{SL}(2;\mathbb{R})$. Отождествим алгебру Ли $\mathfrak{g}$ с пространством чисто мнимых сплит-кватернионов и рассмотрим разложение

$$ \begin{equation*} \mathfrak{g}=\mathbf{k} \oplus \mathbf{p}, \end{equation*} \notag $$
где $\mathbf{k}=\mathbb{R} k$ и $\mathbf{p}=\mathbb{R}i \oplus \mathbb{R}j$.

Рассмотрим левоинвариантное распределение $\Delta$ на $TG$, полученное левыми сдвигами подпространства $\mathbf{p} \subset \mathfrak{g}$. Снабдим распределение $\Delta$ левоинвариантной римановой структурой, полученной левыми сдвигами из формы Киллинга. Полученная субриманова структура есть субриманова $(\mathbf{k} \oplus \mathbf{p})$-структура на группе $\operatorname{PSL}(2;\mathbb{R})$ или $\operatorname{SL}(2;\mathbb{R})$ (см. раздел 4.11).

Теорема 4.43. Для указанной субримановой $(\mathbf{k} \oplus \mathbf{p})$-задачи на $\operatorname{PSL}(2;\mathbb{R})$ (или $\operatorname{SL}(2;\mathbb{R})$) следующие объекты:

(1) параметризация геодезических,

(2) сопряженные времена,

(3) каустика,

(4) время разреза,

(5) множество разреза

получаются из тех же объектов для осесимметричной левоинвариантной римановой задачи на $\operatorname{PSL}(2;\mathbb{R})$ (соответственно $\operatorname{SL}(2;\mathbb{R})$) при переходе к пределу $I_3 \to \infty$.

4.12.10. Библиографические комментарии

Результаты этого раздела получены в работе [65]. См. также [64].

4.13. Осесимметричные римановы задачи на группах $\operatorname{SO}(3)$ и $\operatorname{SU}(2)$

4.13.1. Постановка задачи на $\operatorname{SO}(3)$

Любая левоинвариантная риманова метрика на группе Ли $G=\operatorname{SO}(3)$ задается положительно определенной квадратичной формой $J$ на касательном пространстве $T_{\operatorname{Id}}\operatorname{SO}(3)=\mathfrak{so}(3)$. Пусть $e_1$, $e_2$, $e_3$ есть ортонормированный базис в алгебре Ли $\mathfrak{g}=\mathfrak{so}(3)$ относительно формы Киллинга, в которой $J$ диагональна. Пусть $I_1$, $I_2$, $I_3$ суть соответствующие собственные значения $J$.

Римановы кратчайшие для рассматриваемой метрики суть решения задачи оптимального управления

$$ \begin{equation} \dot{Q}=Q \Omega, \qquad \Omega=u_1 e_1+u_2 e_2+u_3 e_3 \in \mathfrak{g}, \end{equation} \tag{4.57} $$
$$ \begin{equation} Q \in G, \qquad (u_1,u_2,u_3) \in \mathbb{R}^3, \end{equation} \tag{4.58} $$
$$ \begin{equation} Q(0)=\operatorname{Id}, \qquad Q(t_1)=Q_1, \end{equation} \tag{4.59} $$
$$ \begin{equation} \frac{1}{2}\int_0^{t_1}(I_1 u_1^2+I_2 u_2^2+I_3 u_3^2)\,dt \to \min\!. \end{equation} \tag{4.60} $$

Если существует треугольник со сторонами $I_1$, $I_2$, $I_3$, то задача имеет механическую интерпретацию: она описывает вращения твердого тела вокруг неподвижной точки по инерции. Числа $I_1$, $I_2$, $I_3$ суть моменты инерции этого твердого тела.

Существование римановых кратчайших следует из теоремы Филиппова.

Далее рассматривается только случай Лагранжа $I_1=I_2$ (случай $I_1=I_2=I_3$ называется случаем Эйлера).

4.13.2. Параметризация экстремалей для группы $\operatorname{SO}(3)$

Экстремали задачи (4.57)(4.60) в случае Лагранжа имеют вид

$$ \begin{equation} \begin{aligned} \, Q(t)&=R_{p,(t/I_1)|p|} R_{e_3,(t/I_1)\eta p_3}, \\ p(t)&=R_{e_3,-(t/I_1) \eta p_3} p, \nonumber \end{aligned} \end{equation} \tag{4.61} $$
где $p(0)=p_1 \varepsilon_1+p_2 \varepsilon_2+p_3 \varepsilon_3 \in \mathfrak{g}^*$, $\{\varepsilon_i\}$ есть базис в $\mathfrak{g}^*$, двойственный к $\{ e_i\}$ относительно формы Киллинга, $Q(0)=\operatorname{Id}$, а $R_{v,\varphi}$ обозначает поворот пространства $\mathbb{R}^3$ на угол $\varphi$ вокруг вектора $v \in \mathfrak{g}^*$ (направление поворота должно быть таким, чтобы для любого вектора $w \notin \operatorname{span}(v)$ репер $(w,R_{v,\varphi}w,v)$ был положительно ориентированным).

Параметр

$$ \begin{equation*} \eta=\frac{I_1}{I_3}-1 > -1 \end{equation*} \notag $$
задает сплюснутость твердого тела. Элементы группы $\operatorname{SO}(3)$ отождествляются с ортогональными преобразованиями коалгебры $\mathfrak{g}^*$ с помощью коприсоединенного представления.

Представим геодезические с помощью кватернионов. Рассмотрим двулистное накрытие

$$ \begin{equation} \Pi \colon \{q \in \mathbb{H} \mid |q|=1\} \simeq S^3 \to \operatorname{SO}(3). \end{equation} \tag{4.62} $$
Любой кватернион единичной нормы может быть записан в виде
$$ \begin{equation*} q=\cos \biggl(\frac{\varphi}{2}\biggr)+ \sin \biggl(\frac{\varphi}{2}\biggr)(a_1i+a_2j+a_3k), \end{equation*} \notag $$
где $a_1,a_2,a_3 \in \mathbb{R}$, $a_1^2+a_2^2+a_3^2=1$. По определению $\Pi(\pm q)=R_{a,\varphi}$ есть поворот на угол $\varphi$ вокруг вектора $a=a_1 e_1+a_2 e_2+a_3 e_3$.

Пусть $\pm(q_0(\tau)+q_1(\tau) i+q_2(\tau)j+q_3(\tau )k) \in \mathbb{H}$ есть лифт на $S^3$ геодезической (4.61), где использовано новое время $\tau=\dfrac{t}{2I_1}|p|$. Будем рассматривать натурально параметризованные геодезические, это соответствует начальному ковектору $p \in C=\biggl\{ p \in \mathfrak{g}^* \Bigm| \dfrac{p_1^2}{I_1}+\dfrac{p_2^2}{I_2}+\dfrac{p_3^2}{I_3}=1\biggr\}$. Тогда

$$ \begin{equation} \begin{aligned} \, q_0(\tau)&=\cos(\tau)\cos(\tau\eta\overline{p}_3)- \overline{p}_3 \sin (\tau) \sin (\tau \eta \overline{p}_3), \\ \begin{pmatrix} q_1(\tau) \\ q_2(\tau)\end{pmatrix}&= \sin(\tau) R_{e_3,-\tau\eta\overline{p}_3}\begin{pmatrix} \overline{p}_1\\ \overline{p}_2\end{pmatrix}, \\ q_3(\tau)&=\cos(\tau)\sin(\tau\eta\overline{p}_3)+ \overline{p}_3\sin(\tau)\cos(\tau\eta\overline{p}_3), \end{aligned} \end{equation} \tag{4.63} $$
где $\overline{p}=p/|p|$ и ограничение поворота $R_{e_3,\alpha}$ на плоскость $\operatorname{span}(e_1,e_2)$ обозначено тем же символом.

4.13.3. Сопряженное время

Обозначим через $t^1_{\rm conj}(p)$ первое сопряженное время для геодезической (4.61), соответствующей начальному ковектору $p=p_1\varepsilon_1+p_2\varepsilon_2+p_3\varepsilon_3 \in C$. Пусть

$$ \begin{equation*} \tau^1_{\rm conj}(p)=\frac{|p|}{2I_1}t^1_{\rm conj}(p). \end{equation*} \notag $$

Теорема 4.44. (0) Функция $\tau^1_{\rm conj}$ зависит только от $\overline{p}_3\in[-1,1]$.

(1) Если $\eta \in (-1,0]$, то $\tau^1_{\rm conj}(\overline{p}_3)=\pi$ для всех $\overline{p}_3 \in [-1,1]$.

(2) Если $\eta > 0$, то $\tau^1_{\rm conj}(\overline{p}_3)$ есть первый положительный корень уравнения

$$ \begin{equation*} \operatorname{tg} \tau=-\eta\,\frac{1-\overline{p}_3^2}{1+\eta\overline{p}_3^2}\,\tau, \end{equation*} \notag $$
причем выполняется включение $\tau^1_{\rm conj}(\overline{p}_3) \in (\pi/2,\pi]$. Равенство выполняется только при $\overline{p}_3=\pm 1$.

(3) Функция $\tau^1_{\rm conj}\colon [-1,1] \to \mathbb{R}$ гладкая и возрастающая.

4.13.4. Время разреза и множество разреза в $\operatorname{SO}(3)$

Обозначим первые положительные корни уравнений $q_0(\tau)=0$ и $q_3(\tau)=0$ через $\tau_0(\overline{p}_3)$ и $\tau_3(\overline{p}_3)$ соответственно. Функции $\tau_0(\overline{p}_3)$ и $\tau_3(\overline{p}_3)$ зависят от параметра $\eta$. Если $\overline{p}_3=0$, то $q_3(\tau) \equiv 0$ и значение $\tau_3(0)$ не определено. Таким образом,

$$ \begin{equation*} \tau_0\colon [-1,1] \to (0,+\infty],\qquad \tau_3\colon [-1,1] \setminus \{0\} \to (0,+\infty]. \end{equation*} \notag $$
Обозначим через $t_{\rm cut}(p)$ время разреза для геодезической, соответствующей начальному ковектору $p \in \mathfrak{g}^*$.

Теорема 4.45. (1) Если $\eta \geqslant-1/2$, то

$$ \begin{equation*} t_{\rm cut}(p)=\frac{2 I_1 \tau_0(\overline{p}_3)}{|p|}\,. \end{equation*} \notag $$

(2) Если $\eta <-1/2$, то

$$ \begin{equation*} t_{\rm cut}(p)=\begin{cases} \dfrac{2\pi I_1}{|p|} & \textit{при} \ \dfrac{1}{2|\eta|}\leqslant |\overline{p}_3| < 1, \\ \dfrac{2I_1\tau_0(\overline{p}_3)}{|p|} & \textit{при} \ |\overline{p}_3| < \dfrac{1}{2|\eta|}\,. \end{cases} \end{equation*} \notag $$

Теорема 4.46. (1) Если $\eta \geqslant-1/2$, то множество разреза есть проективная плоскость центральных симметрий сферы:

$$ \begin{equation*} P=\{R_{v,\pi} \in \operatorname{SO}(3) \mid v \in \mathbb{R}^3, \ v \ne 0\}. \end{equation*} \notag $$

(2) Если $\eta <-1/2$, то множество разреза есть стратифицированное множество $P\cup L_{\eta}$, где

$$ \begin{equation*} L_{\eta}=\{R_{e_3,\pm \varphi} \in \operatorname{SO}(3)\mid \varphi \in [2\pi(1+\eta),\pi]\} \end{equation*} \notag $$
есть отрезок, состоящий из некоторых вращений вокруг оси $e_3$, соответствующей собственному значению метрики, отличному от двух других.

4.13.5. Диаметр группы $\operatorname{SO}(3)$ в случае Лагранжа

Теорема 4.47. (1) Диаметр группы $\operatorname{SO}(3)$ в рассматриваемой римановой метрике равен

$$ \begin{equation*} \begin{aligned} \, 2 \pi \sqrt{I_1}\,\sqrt{1+\frac{1}{4\eta}} &\quad \textit{при} \quad \eta \in \biggl(-1,-\frac{1}{2}\biggr), \\ \pi \sqrt{I_3} &\quad \textit{при} \quad \eta \in \biggl[-\frac{1}{2}\,,0\biggr], \\ \pi \sqrt{I_1} &\quad \textit{при} \quad \eta \in (0,+\infty). \end{aligned} \end{equation*} \notag $$

(2) Множество точек, наиболее удаленных от единицы, есть

$$ \begin{equation*} \begin{aligned} \, \{R_{\pm e_3,\pi}\} &\quad \textit{при} \quad \eta \in (-1,0), \\ P &\quad \textit{при} \quad \eta=0, \\ \{R_{e,\pi} \mid e \in \operatorname{span}(e_1,e_2)\} &\quad \textit{при} \quad\eta \in (0,+\infty). \end{aligned} \end{equation*} \notag $$

4.13.6. Осесимметричная риманова задача на $\operatorname{SU}(2)$

Группа Ли $\operatorname{SU}(2)$ есть односвязная двулистная накрывающая группы $\operatorname{SO}(3)$ (см. (4.62)).

Рассмотрим осесимметричную левоинвариантную риманову метрику на $\operatorname{SU}(2)$, являющуюся поднятием метрики на $\operatorname{SO}(3)$, рассмотренной в предыдущих пунктах. Геодезические для нее задаются формулами (4.63). Сопряженное время для задачи на $\operatorname{SU}(2)$ совпадает с сопряженным временем для задачи на $\operatorname{SO}(3)$ (см. п. 4.13.3).

Теорема 4.48. Время разреза для задачи на $\operatorname{SU}(2)$ есть

$$ \begin{equation*} t_{\rm cut}(\overline{p}_3)=\frac{2I_1}{|p|}\,\tau_{\rm cut}(\overline{p}_3), \end{equation*} \notag $$
где
$$ \begin{equation*} \tau_{\rm cut}(\overline{p}_3)=\begin{cases} \pi & \textit{при} \ \eta \leqslant 0, \\ \tau_3(\overline{p}_3) & \textit{при} \ \eta > 0. \end{cases} \end{equation*} \notag $$
Здесь $\tau_3(\overline{p}_3)$ есть первый положительный корень уравнения (4.63), доопределенный по непрерывности равенством $\tau_3(0)=\tau_{\rm conj}^1(0)$.

Теорема 4.49. Множество разреза для задачи на $\operatorname{SU}(2)$ есть:

(1) отрезок

$$ \begin{equation*} T_{\eta}:=\{-\cos(\pi\eta\overline{p}_3)-\sin (\pi \eta \overline{p}_3)k \in \mathbb{H} \mid \overline{p}_3 \in [-1,1]\} \end{equation*} \notag $$
при $-1 < \eta \leqslant 0$ (если $\eta=0$, то $T_{\eta}$ есть точка $\{-1\}$);

(2) диск

$$ \begin{equation*} \{q_0(p,\tau_3(\overline{p}_3))+q_1(p,\tau_3(\overline{p}_3))i+ q_2(p,\tau_3(\overline{p}_3)) j \in \mathbb{H} \mid p \in C\}, \end{equation*} \notag $$
ограниченный окружностью из сопряженных точек
$$ \begin{equation*} \{\cos \tau_{\rm conj}(0)+\sin \tau_{\rm conj}(0)\, (i\cos\varphi+j\sin\varphi) \in \mathbb{H} \mid \varphi \in [0,2\pi]\}, \end{equation*} \notag $$
при $\eta > 0$.

Теорема 4.50. Диаметр группы $\operatorname{SU}(2)$ для левоинвариантной римановой метрики с собственными значениями $I_1=I_2$, $I_3 > 0$ равен

$$ \begin{equation*} \operatorname{diam}_{g(I_1,I_2,I_3)}\operatorname{SU}(2)=\begin{cases} 2\pi \sqrt{I_1} & \textit{при} \ I_1 \leqslant I_3, \\ 2\pi \sqrt{I_3} & \textit{при} \ I_3 < I_1 \leqslant 2I_3, \\ \dfrac{\pi I_1}{\sqrt{I_1-I_3}} & \textit{при} \ 2 I_3 < I_1. \end{cases} \end{equation*} \notag $$

4.13.7. Связь с субримановой задачей на $\operatorname{SO}(3)$

Рассмотрим наряду с осесимметричной левоинвариантной римановой задачей на группе $\operatorname{SO}(3)$ также левоинвариантную субриманову $(\mathbf{k} \oplus \mathbf{p})$-задачу на группе $\operatorname{SO}(3)$ (см. раздел 4.10).

Теорема 4.51. Для осесимметричной левоинвариантной римановой задачи на $\operatorname{SO}(3)$ следующие объекты сходятся к соответствующим объектам левоинвариантной субримановой $(\mathbf{k} \oplus \mathbf{p})$-задачи при $I_3 \to \infty$:

(1) параметризация геодезических,

(2) сопряженное время,

(3) первая каустика,

(4) время разреза,

(5) множество разреза.

4.13.8. Библиографические комментарии

Параметризация геодезических левоинвариантной римановой метрики на $\operatorname{SO}(3)$ (п. 4.13.2) есть классический результат Л. Эйлера [50]. Первое сопряженное время для осесимметричной задачи на $\operatorname{SO}(3)$ (п. 4.13.3) было описано в работе [14]. Результаты пп. 4.13.4, 4.13.5, 4.13.7 получены в работе [63]. Множество разреза для задачи на $\operatorname{SU}(2)$ при $I_1 > I_3$ (п. (2) теоремы 4.49) описано в работе [80]. Остальные результаты п. 4.13.6 получены в работах [63], [62].

4.14. Задача о качении сферы с прокручиванием, без проскальзывания

4.14.1. Постановка задачи

Рассматривается механическая система, состоящая из сферы, катящейся по плоскости с прокручиванием, но без проскальзывания. Состояние такой системы в каждый момент времени характеризуется точкой на плоскости и ориентацией сферы в пространстве. Требуется перекатить сферу из заданного начального состояния в заданное конечное так, чтобы достигался минимум действия. Отсутствие проскальзывания означает, что точка контакта сферы и плоскости имеет нулевую мгновенную скорость; наличие прокручивания означает, что вектор угловой скорости сферы может быть направлен в произвольном направлении.

Эта задача является естественной модификацией задачи об оптимальном качении сферы по плоскости без прокручивания и проскальзывания [44].

Выберем в пространстве $\mathbb{R}^3$ такой неподвижный правый ортонормированный репер $(e_1,e_2,e_3)$, что плоскость, по которой катится сфера, натянута на $(e_1,e_2)$, а $e_3$ направлен в верхнее полупространство. Выберем также подвижный правый ортонормированный репер $(e'_1,e'_2,e'_3)$, закрепленный в центре сферы. Тогда ориентация сферы задается матрицей поворота

$$ \begin{equation*} \operatorname{SO}(3) \ni R\colon (e'_1,e'_2,e'_3)\mapsto (e_1,e_2,e_3), \end{equation*} \notag $$
а ее положение – координатами центра $(x,y) \in \mathbb{R}^2$ в базисе $(e_1,e_2)$. В качестве управляющих параметров возьмем компоненты вектора угловой скорости сферы в неподвижном репере $\vec{\Omega}=(u_2,-u_1,u_3) \in \mathbb{R}^3$. Тогда кинематика системы задается уравнениями
$$ \begin{equation} \begin{gathered} \, \dot{x}=u_1,\quad \dot{y}=u_2,\quad \dot{R}=R \begin{pmatrix} 0 & -u_3 & -u_1 \\ u_3 & 0 & -u_2 \\ u_1 & u_2 & 0 \end{pmatrix}, \\ \nonumber (x,y)\in\mathbb{R}^2, \quad R \in \operatorname{SO}(3), \quad (u_1,u_2,u_3)\in \mathbb{R}^3. \end{gathered} \end{equation} \tag{4.64} $$
В качестве минимизируемого функционала рассмотрим квадратичный функционал типа действия
$$ \begin{equation} J=\frac{1}{2}\int_0^{t_1}(u_1^2+u_2^2+u_3^2)\,dt, \end{equation} \tag{4.65} $$
который с точностью до постоянного множителя представляет собой интеграл от вращательной энергии сферы. Требуется перекатить сферу из начального состояния $Q_0$ в конечное $Q_1$ так, чтобы достигался минимум функционала $J$.

Эта задача формулируется естественным образом как субриманова левоинвариантная задача на группе Ли $G=\mathbb{R}^2 \times \operatorname{SO}(3)$.

Группу $G$ можно представить как подгруппу группы $\operatorname{GL}(6)$ с помощью матриц

$$ \begin{equation*} Q=\begin{pmatrix} & & & \\ & R & & \boldsymbol{0} \\ & & & \\ & \boldsymbol{0} & & \begin{matrix} 1 & 0 & x \\ 0 & 1 & y\\ 0 & 0 & 1 \end{matrix} \end{pmatrix}. \end{equation*} \notag $$

Введем левоинвариантный репер на $G$:

$$ \begin{equation*} e_1=\frac{\partial}{\partial x}\,, \quad e_2=\frac{\partial}{\partial y}\,, \quad V_i(R)=R\widetilde{A}_i, \quad i=1,2,3, \end{equation*} \notag $$
где $\widetilde{A}_i$ – базис алгебры Ли $\mathfrak{so}(3)$:
$$ \begin{equation*} \widetilde{A}_1=\begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & -1 \\ 0 & 1 & 0 \end{pmatrix}, \quad \widetilde{A}_2=\begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ -1 & 0 & 0 \end{pmatrix}, \quad \widetilde{A}_3=\begin{pmatrix} 0 & -1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}. \end{equation*} \notag $$
Тогда уравнения (4.64) задают управляемую систему на группе $G$ и могут быть записаны в виде
$$ \begin{equation} \dot{Q}=u_1X_1(Q)+u_2X_2(Q)+u_3X_3(Q), \qquad Q \in G, \quad (u_1,u_2,u_3) \in \mathbb{R}^3, \end{equation} \tag{4.66} $$
где
$$ \begin{equation*} X_1=e_1-V_2,\quad X_2=e_2+V_1, \quad X_3=V_3. \end{equation*} \notag $$
Векторные поля $X_i$ задают распределение $\Delta=\operatorname{span}(X_1,X_2,X_3) \subset T G$. Если $u(t)$ есть измеримое локально ограниченное отображение, то решение системы (4.66) является допустимой кривой.

На распределении $\Delta$ можно задать скалярное произведение $\langle \,\cdot\,{,}\,\cdot\, \rangle$ следующим образом:

$$ \begin{equation*} \langle QA, QB \rangle_Q=\langle A,B \rangle_{\operatorname{Id}}= -\frac{1}{2}\operatorname{tr}(AB), \qquad Q\in G,\quad A,B \in \Delta, \end{equation*} \notag $$
где $\operatorname{tr}A$ – след матрицы $A$. При этом длина допустимой кривой $Q(t)$, $t\in[0,t_1]$, выражается стандартным образом:
$$ \begin{equation} l(Q)=\int_0^{t_1}\sqrt{\langle\dot{Q},\dot{Q}\rangle}\,dt= \int_0^{t_1}\sqrt{u_1^2+u_2^2+u_3^2}\,dt. \end{equation} \tag{4.67} $$

Из неравенства Коши–Буняковского следует, что функционал длины и его минимизация (4.67) эквивалентны действию (4.65) и его минимизации.

Поскольку распределение $\Delta$ и метрика $g$ являются левоинвариантными, то можно, не ограничивая общности, левыми сдвигами перевести $Q_0$ в единичный элемент, т. е. положить $Q_0=(0,0,\operatorname{Id})$.

Таким образом, получаем следующую левоинвариантную субриманову задачу оптимального управления на группе $G=\mathbb{R}^2 \times \operatorname{SO}(3)$:

$$ \begin{equation} \dot{Q}=u_1X_1(Q)+u_2X_2(Q)+u_3X_3(Q), \end{equation} \tag{4.68} $$
$$ \begin{equation} Q=(x,y,R) \in G=\mathbb{R}^2 \times \operatorname{SO}(3), \quad (u_1,u_2,u_3)\in \mathbb{R}^3, \end{equation} \tag{4.69} $$
$$ \begin{equation} Q(0)=Q_0=(0,0,\operatorname{Id}), \quad Q(t_1)=Q_1=(x_1, y_1, R_1), \end{equation} \tag{4.70} $$
$$ \begin{equation} l(Q)=\int_0^{t_1} \sqrt{u_1^2+u_2^2+u_3^2}\,\,dt \to \min\!. \end{equation} \tag{4.71} $$
Значение минимизирующего функционала длины (4.71) не зависит от параметризации кривой $Q(t)$, поэтому можно считать, что она имеет постоянную скорость, т. е. $u_1^2+u_2^2+u_3^2 \equiv \operatorname{const}$. Более того, из (4.68) и (4.65) видно, что если управление $u(t)$, $t\in[0,t_1]$, переводит сферу из состояния $Q_0$ в состояние $Q_1$ за время $t_1$, то управление $u'(t)=ku(kt)$, где $k$ – некоторое положительное число, переводит $Q_0$ в $Q_1$ за время $t_1/k$. При этом $Q(t)$ переходит в $Q(kt)$. Это позволяет, не ограничивая общности, считать, что $u_1^2+u_2^2+u_3^2 \equiv 1$.

Так как таблица умножения в алгебре Ли $L=\operatorname{span}(e_1,e_2,V_1,V_2,V_3)$ имеет вид

$$ \begin{equation*} \operatorname{ad} e_i=0, \quad [V_1,V_2]=V_3, \quad [V_2,V_3]=V_1, \quad [V_3,V_1]=V_2, \end{equation*} \notag $$
то для векторных полей $X_1$, $X_2$, $X_3$ имеем
$$ \begin{equation*} [X_1,X_2]=X_3, \quad [X_1,X_3]=-V_1, \quad [X_2,X_3]=-V_2. \end{equation*} \notag $$
Тогда видно, что $\operatorname{span}(X_1,X_2,X_3,[X_1,X_3],[X_2,X_3])=L$, и из теоремы Рашевского–Чжоу следует, что система является вполне управляемой. Существование оптимальных траекторий в задаче (4.68)(4.71) следует из теоремы Филиппова.

В дальнейших вычислениях будет использоваться изоморфизм между $\mathbb{R}^3$ и алгеброй Ли $\mathfrak{so}(3)$. А именно, каждому вектору $\vec{A} \in \mathbb{R}^3$ можно поставить в соответствие матрицу $\widetilde{A}\in \mathfrak{so}(3)$ по следующему правилу:

$$ \begin{equation*} \vec{A}=\begin{pmatrix} a_1 \\ a_2 \\ a_3 \end{pmatrix}, \quad \widetilde{A}=\begin{pmatrix} 0 & -a_3 & a_2 \\ a_3 & 0 & -a_1 \\ -a_2 & a_1 & 0 \end{pmatrix}. \end{equation*} \notag $$

4.14.2. Анормальные траектории

Предложение 4.3. (1) Все анормальные экстремальные траектории постоянной скорости имеют вид

$$ \begin{equation} x=-\Omega_2 t, \quad y=\Omega_1 t, \quad R=e^{\widetilde{\Omega}t}, \end{equation} \tag{4.72} $$
где $\widetilde{\Omega}$ – кососимметрическая матрица, соответствующая вектору угловой скорости $\vec{\Omega}$ с компонентой $\Omega_3=0$:
$$ \begin{equation*} \widetilde{\Omega}=\begin{pmatrix} 0 & 0 & \Omega_2 \\ 0 & 0 & -\Omega_1 \\ -\Omega_2 & \Omega_1 & 0 \end{pmatrix}. \end{equation*} \notag $$

(2) Любая анормальная экстремальная траектория $Q(t)$, $t\in[0,t_1]$, оптимальна для любого $t_1>0$.

Следовательно, в анормальном случае вектор угловой скорости является постоянным горизонтальным вектором и сфера равномерно катится по прямой без прокручивания.

4.14.3. Нормальные экстремали

Гамильтонова система принципа максимума Понтрягина в нормальном случае имеет вид

$$ \begin{equation*} \begin{gathered} \, \dot{x}=-\Omega_2, \quad \dot{y}=\Omega_1, \quad \dot{R}=R\widetilde{\Omega}, \\ \dot{\Omega}_1=\omega_2\Omega_3, \quad \dot{\Omega}_2=-\omega_1\Omega_3, \quad \dot{\Omega}_3=\omega_1\Omega_2-\omega_2\Omega_1, \\ \dot{\omega}_1=0, \quad \dot{\omega}_2=0. \end{gathered} \end{equation*} \notag $$

Теорема 4.52. Если $\omega \ne 0$ и $\vec{\Omega} \ne \lambda \vec{\omega}$, то параметризованные длиной дуги нормальные экстремали описываются уравнениями

$$ \begin{equation*} \begin{gathered} \, \begin{pmatrix} \Omega_1 \\ \Omega_2 \\ \Omega_3 \end{pmatrix}=\begin{pmatrix} \dfrac{\omega_1^2+\omega_2^2\cos(\omega t)}{\omega^2} & \dfrac{\omega_1\omega_2}{\omega^2}\bigl( 1-\cos(\omega t)\bigr) & \dfrac{\omega_2}{\omega}\sin(\omega t) \\ \dfrac{\omega_1\omega_2}{\omega^2}\bigl( 1-\cos(\omega t)\bigr)& \dfrac{\omega_2^2+\omega_1^2\cos(\omega t)}{\omega^2} & -\dfrac{\omega_1}{\omega}\sin(\omega t) \\ -\dfrac{\omega_2}{\omega}\sin(\omega t) & \dfrac{\omega_1}{\omega}\sin(\omega t) & \cos(\omega t) \end{pmatrix}\begin{pmatrix} \Omega_1^0 \\ \Omega_2^0 \\ \Omega_3^0 \end{pmatrix}, \\ \begin{aligned} \, x&=\dfrac{\Omega_3^0\omega_1}{\omega^2}(1-\cos(\omega t))+ \dfrac{(\Omega_1^0\omega_2-\Omega_2^0\omega_1)\omega_1}{\omega^3} \sin(\omega t)- \dfrac{\omega_2(\Omega_2^0\omega_2+\Omega_1^0\omega_1)}{\omega^2}\,t, \\ y&=\dfrac{\Omega_3^0 \omega_2}{\omega^2}(1-\cos(\omega t))+ \dfrac{(\Omega_1^0\omega_2-\Omega_2^0\omega_1)\omega_2}{\omega^3} \sin(\omega t)+ \dfrac{\omega_1(\Omega_2^0\omega_2+\Omega_1^0\omega_1)}{\omega^2}\,t, \end{aligned} \\ R(t)=e^{t(\widetilde{\omega}+\widetilde{\Omega}_0)}e^{-t\widetilde{\omega}}. \end{gathered} \end{equation*} \notag $$
В оставшихся случаях нормальные экстремальные траектории описываются уравнениями
$$ \begin{equation*} x=-\Omega_2 t, \quad y=\Omega_1 t, \quad R=e^{\widetilde{\Omega}t}, \end{equation*} \notag $$
где $\widetilde{\Omega}$ – кососимметрическая матрица, соответствующая произвольному единичному вектору $\vec{\Omega}$.

4.14.4. Диаметр субримановой метрики

Рассмотрим субриманову метрику $d$ на группе $\operatorname{SO}(3)$, соответствующую задаче (4.68)(4.71).

Теорема 4.53. Для метрики $d$ на $\operatorname{SO}(3)$ наиболее удаленными точками являются $\operatorname{Id}$ и $e^{\pi(a_1 A_1+a_2 A_2)}$, $a_1^2+a_2^2=1$, с расстоянием между ними

$$ \begin{equation*} d(\operatorname{Id},e^{\pi(a_1 A_1+a_2 A_2)})=\pi\sqrt 3\,. \end{equation*} \notag $$
Состояниям $e^{\pi(a_1 A_1+a_2 A_2)}$, $a_1^2+a_2^2=1$, соответствует сфера, перевернутая на противоположный полюс.

4.14.5. Библиографические комментарии

Результаты этого раздела получены в работе [25].

Автор благодарит профессора А. А. Аграчева, А. В. Подобряева, А. П. Маштакова, А. А. Ардентова и И. Ю. Бесчастного за полезные советы по содержанию и изложению в данной работе.

Также автор благодарен Е. Ф. Сачковой за помощь в наборе обзора и постоянную поддержку при работе над ним.

Список литературы

1. A. A. Agrachev, “Methods of control theory in nonholonomic geometry”, Proceedings of the international congress of mathematicians, v. 2, Birkhäuser, Basel, 1995, 1473–1483  crossref  mathscinet  zmath
2. A. A. Agrachev, “Geometry of optimal control problems and Hamiltonian systems”, Nonlinear and optimal control theory, Lecture Notes in Math., 1932, Springer, Berlin, 2008, 1–59  crossref  mathscinet  zmath
3. А. А. Аграчев, “Некоторые вопросы субримановой геометрии”, УМН, 71:6(432) (2016), 3–36  mathnet  crossref  mathscinet  zmath; англ. пер.: A. A. Agrachev, “Topics in sub-Riemannian geometry”, Russian Math. Surveys, 71:6 (2016), 989–1019  crossref  adsnasa
4. A. Agrachev, D. Barilari, “Sub-Riemannian structures on 3D Lie groups”, J. Dyn. Control Syst., 18:1 (2012), 21–44  crossref  mathscinet  zmath
5. A. Agrachev, D. Barilari, U. Boscain, “On the Hausdorff volume in sub-Riemannian geometry”, Calc. Var. Partial Differential Equations, 43:3-4 (2012), 355–388  crossref  mathscinet  zmath
6. A. Agrachev, D. Barilari, U. Boscain, A comprehensive introduction to sub-Riemannian geometry. From Hamiltonian viewpoint, Cambridge Stud. Adv. Math., 181, Cambridge Univ. Press, Cambridge, 2019, xviii+745 pp.  crossref  mathscinet  zmath
7. A. Agrachev, B. Bonnard, M. Chyba, I. Kupka, “Sub-Riemannian sphere in Martinet flat case”, ESAIM Control Optim. Calc. Var., 2 (1997), 377–448  crossref  mathscinet  zmath
8. А. А. Аграчев, Ю. Л. Сачков, Геометрическая теория управления, Физматлит, М., 2005, 392 с.  zmath; пер. с англ.: A. A. Agrachev, Yu. L. Sachkov, Control theory from the geometric viewpoint, Encyclopaedia Math. Sci., 87, Control theory and optimization II, Springer-Verlag, Berlin, 2004, xiv+412 с.  crossref  mathscinet  zmath
9. D. M. Almeida, “Sub-Riemannian symmetric spaces of Engel type”, Mat. Contemp., 17 (1999), 45–57  mathscinet  zmath
10. D. M. Almeida, “Sub-Riemannian homogeneous spaces of Engel type”, J. Dyn. Control Syst., 20:2 (2014), 149–166  crossref  mathscinet  zmath
11. А. А. Ардентов, И. С. Губанов, “Моделирование парковки автомобиля с прицепом вдоль путей Маркова–Дубинса и Ридса–Шеппа”, Программные системы: теория и приложения, 10:4 (2019), 97–110  mathnet  crossref
12. A. A. Ardentov, Yu. L. Sachkov, “Cut time in sub-Riemannian problem on Engel group”, ESAIM Control Optim. Calc. Var., 21:4 (2015), 958–988  crossref  mathscinet  zmath
13. D. Barilari, U. Boscain, J.-P. Gauthier, “On 2-step, corank 2 nilpotent sub-Riemannian metrics”, SIAM J. Control Optim., 50:1 (2012), 559–582  crossref  mathscinet  zmath
14. L. Bates, F. Fassò, “The conjugate locus for the Euler top. I. The axisymmetric case”, Int. Math. Forum, 2:41-44 (2007), 2109–2139  crossref  mathscinet  zmath
15. A. Bellaïche, J.-J. Risler (eds.), Sub-Riemannian geometry, Progr. Math., 144, Birkhäuser Verlag, Basel, 1996, viii+393 pp.  crossref  mathscinet  zmath
16. В. Н. Берестовский, “Универсальные методы поиска нормальных геодезических на группах Ли с левоинвариантной субримановой метрикой”, Сиб. матем. журн., 55:5 (2014), 959–970  mathnet  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, “Universal methods of the search of normal geodesics on Lie groups with left-invariant sub-Riemannian metric”, Siberian Math. J., 55:5 (2014), 783–791  crossref
17. В. Н. Берестовский, “(Локально) кратчайшие специальной субримановой метрики на группе Ли $\operatorname{SO}_0(2,1)$”, Алгебра и анализ, 27:1 (2015), 3–22  mathnet  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, “(Locally) shortest arcs of a special sub-Riemannian metric on the Lie group $SO_0(2,1)$”, St. Petersburg Math. J., 27:1 (2016), 1–14  crossref
18. В. Н. Берестовский, И. А. Зубарева, “Субриманово расстояние в группах Ли $\operatorname{SU}(2)$ и $\operatorname{SO}(3)$”, Матем. тр., 18:2 (2015), 3–21  mathnet  crossref  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, I. A. Zubareva, “Sub-Riemannian distance in the Lie groups $\operatorname{SU}(2)$ and $\operatorname{SO}(3)$”, Siberian Adv. Math., 26:2 (2016), 77–89  crossref
19. В. Н. Берестовский, И. А. Зубарева, “Формы сфер специальных неголономных левоинвариантных внутренних метрик на некоторых группах Ли”, Сиб. матем. журн., 42:4 (2001), 731–748  mathnet  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, I. A. Zubareva, “Shapes of spheres of special nonholonomic left-invariant intrinsic metrics on some Lie groups”, Siberian Math. J., 42:4 (2001), 613–628  crossref
20. В. Н. Берестовский, И. А. Зубарева, “Геодезические и кратчайшие специальной субримановой метрики на группе Ли ${SO}(3)$”, Сиб. матем. журн., 56:4 (2015), 762–774  mathnet  crossref  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, I. A. Zubareva, “Geodesics and shortest arcs of a special sub-Riemannian metric on the Lie group $SO(3)$”, Siberian Math. J., 56:4 (2015), 601–611  crossref
21. В. Н. Берестовский, И. А. Зубарева, “Геодезические и кратчайшие специальной субримановой метрики на группе Ли ${SL}(2)$”, Сиб. матем. журн., 57:3 (2016), 527–542  mathnet  crossref  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, I. A. Zubareva, “Geodesics and shortest arcs of a special sub-Riemannian metric on the Lie group $SL(2)$”, Siberian Math. J., 57:3 (2016), 411–424  crossref
22. В. Н. Берестовский, И. А. Зубарева, “Локально изометричные накрытия группы Ли $\operatorname{SO}_0(2,1)$ со специальной субримановой метрикой”, Матем. сб., 207:9 (2016), 35–56  mathnet  crossref  mathscinet  zmath; англ. пер.: V. N. Berestovskii, I. A. Zubareva, “Locally isometric coverings of the Lie group $\operatorname{SO}_0(2,1)$ with special sub-Riemannian metric”, Sb. Math., 207:9 (2016), 1215–1235  crossref  adsnasa
23. В. Н. Берестовский, И. А. Зубарева, “Субриманово расстояние в группе Ли $\operatorname{SO}_0(2,1)$”, Алгебра и анализ, 28:4 (2016), 62–79  mathnet  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, I. A. Zubareva, “Sub-Riemannian distance on the Lie group $\operatorname{SO}_0(2,1)$”, St. Petersburg Math. J., 28:4 (2017), 477–489  crossref
24. В. Н. Берестовский, И. А. Зубарева, “Субриманово расстояние в группе Ли $\operatorname{SL}(2)$”, Сиб. матем. журн., 58:1 (2017), 22–35  mathnet  crossref  mathscinet  zmath; англ. пер.: V. N. Berestovskiĭ, I. A. Zubareva, “Sub-Riemannian distance on the Lie group $\operatorname{SL}(2)$”, Siberian Math. J., 58:1 (2017), 16–27  crossref
25. И. Ю. Бесчастный, “Об оптимальном качении сферы с прокручиванием, без проскальзывания”, Матем. сб., 205:2 (2014), 3–38  mathnet  crossref  mathscinet  zmath; англ. пер.: I. Yu. Beschatnyi, “The optimal rolling of a sphere, with twisting but without slipping”, Sb. Math., 205:2 (2014), 157–191  crossref  adsnasa
26. I. Beschastnyi, A. Medvedev, “Left-invariant sub-Riemannian Engel structures: abnormal geodesics and integrability”, SIAM J. Control Optim., 2018:56, 3524–3537  crossref  mathscinet  zmath
27. J.-D. Boissonat, A. Cerezo, J. Leblond, “Shortest paths of bounded curvature in the plane”, Proceedings 1992 IEEE international conference on robotics and automation (Nice, 1992), v. 3, IEEE, 1992, 2315–2320  crossref
28. U. Boscain, T. Chambrion, J.-P. Gauthier, “On the $K+P$ problem for a three-level quantum system: optimality implies resonance”, J. Dyn. Control Syst., 8:4 (2002), 547–572  crossref  mathscinet  zmath
29. U. Boscain, F. Rossi, “Invariant Carnot–Caratheodory metrics on $S^3$, $\operatorname{SO}(3)$, $\operatorname{SL}(2)$ and lens spaces”, SIAM J. Control Optim., 47:4 (2008), 1851–1878  crossref  mathscinet  zmath
30. R. W. Brockett, “Lie theory and control systems defined on spheres”, SIAM J. Appl. Math., 25:2 (1973), 213–225  crossref  mathscinet  zmath
31. R. W. Brockett, “Control theory and singular Riemannian geometry”, New directions in applied mathematics (Cleveland, OH, 1980), Springer, New York–Berlin, 1982, 11–27  crossref  mathscinet  zmath
32. R. W. Brockett, “Explicitly solvable control problems with nonholonomic constraints”, Proceedings of the 38th IEEE conference on decision and control, v. 1, IEEE, 1999, 13–16  crossref
33. R. W. Brockett, R. S. Millman, H. J. Sussmann (eds.), Differential geometric control theory (Houghton, MI, 1982), Progr. Math., 27, Birkhäuser, Boston, MA, 1983, vii+340 pp.  mathscinet  zmath
34. Y. A. Butt, Yu. L. Sachkov, A. I. Bhatti, “Cut locus and optimal synthesis in sub-Riemannian problem on the Lie group $\operatorname{SH}(2)$”, J. Dyn. Control Syst., 23:1 (2017), 155–195  crossref  mathscinet  zmath
35. L. Capogna, D. Danielli, S. D. Pauls, J. T. Tyson, An introduction to the Heisenberg group and the sub-Riemannian isoperimetric problem, Progr. Math., 259, Birkhäuser Verlag, Basel, 2007, xvi+223 pp.  crossref  mathscinet  zmath
36. Der-Chen Chang, I. Markina, A. Vasil'ev, “Sub-Riemannian geodesics on the 3-D sphere”, Complex Anal. Oper. Theory, 3:2 (2009), 361–377  crossref  mathscinet  zmath
37. L. E. Dubins, “On curves of minimal length with a constraint on average curvature, and with prescribed initial and terminal positions and tangents”, Amer. J. Math., 79:3 (1957), 497–516  crossref  mathscinet  zmath
38. E. Falbel, C. Gorodski, “Sub-Riemannian homogeneous spaces in dimensions 3 and 4”, Geom. Dedicata, 62:3 (1996), 227–252  crossref  mathscinet  zmath
39. А. Ф. Филиппов, “О некоторых вопросах теории оптимального регулирования”, Вестн. Моск. ун-та. Сер. 2. Матем. Мех. Астр. Физ. Хим., 1959, № 2, 25–32  mathscinet  zmath
40. B. Gaveau, “Principe de moindre action, propagation de la chaleur et estimées sous elliptiques sur certains groupes nilpotents”, Acta Math., 139:1-2 (1977), 95–153  crossref  mathscinet  zmath
41. В. Я. Гершкович, “Вариационная задача с неголономной связью на $\operatorname{SO}(3)$”, Геометрия и топология в глобальных нелинейных задачах, Новое в глобальном анализе, Изд-во Воронеж. гос. ун-та, Воронеж, 1984, 149–152  mathscinet  zmath
42. J. Hadamard, “Les surfaces à courbures opposées et leurs lignes géodésiques”, J. Math. Pures Appl. (5), 4 (1898), 27–73  zmath
43. A. Isidori, Nonlinear control systems: an introduction, Lect. Notes Control Inf. Sci., 72, Springer-Verlag, Berlin, 1985, vi+297 pp.  crossref  mathscinet  zmath
44. V. Jurdjevic, “The geometry of the plate-ball problem”, Arch. Rational Mech. Anal., 124:4 (1993), 305–328  crossref  mathscinet  zmath
45. V. Jurdjevic, Geometric control theory, Cambridge Stud. Adv. Math., 52, Cambridge Univ. Press, Cambridge, 1997, xviii+492 pp.  crossref  mathscinet  zmath
46. V. Jurdjevic, “Optimal control, geometry, and mechanics”, Mathematical control theory, Springer, New York, 1999, 227–267  crossref  mathscinet  zmath
47. V. Jurdjevic, “Hamiltonian point of view of non-Euclidean geometry and elliptic functions”, Systems Control Lett., 43:1 (2001), 25–41  crossref  mathscinet  zmath
48. V. Jurdjevic, Optimal control and geometry: integrable systems, Cambridge Stud. Adv. Math., 154, Cambridge Univ. Press, Cambridge, 2016, xx+415 pp.  mathscinet  zmath
49. S. G. Krantz, H. R. Parks, The implicit function theorem. History, theory, and applications, Birkhäuser Boston, Inc., Boston, MA, 2002, xii+163 pp.  crossref  mathscinet  zmath
50. Л. Д. Ландау, Е. М. Лифшиц, Теоретическая физика, т. 1, Механика, 5-е изд., стереотип., ФИЗМАТЛИТ, М., 2012, 224 с.  mathscinet  zmath; нем. пер.: L. D. Landau, E. M. Lifschitz, Lehrbuch der theoretischen Physik, v. 1, Mechanik, 14., korr. Aufl., H. Deutsch., Frankfurt am Main, 1997, 231 pp.  zmath
51. E. Le Donne, R. Montgomery, A. Ottazzi, P. Pansu, D. Vittone, “Sard property for the endpoint map on some Carnot groups”, Ann. Inst. H. Poincaré Anal. Non Linéaire, 33:6 (2016), 1639–1666  crossref  mathscinet  zmath
52. Wensheng Liu, H. J. Sussman, Shortest paths for sub-Riemannian metrics on rank-two distributions, Mem. Amer. Math. Soc., 118, № 564, Amer. Math. Soc., Providence, RI, 1995, x+104 pp.  crossref  mathscinet  zmath
53. А. А. Марков, “Несколько примеров решения особого рода задач о наибольших и наименьших величинах”, Сообщ. Харьков. матем. общ. Вторая сер., 1:2 (1889), 250–276  mathnet  zmath
54. F. Monroy-Pérez, A. Anzaldo-Meneses, “Optimal control on the Heisenberg group”, J. Dyn. Control Syst., 5:4 (1999), 473–499  crossref  mathscinet  zmath
55. F. Monroy-Pérez, A. Anzaldo-Meneses, “The step-2 nilpotent $(n,n(n+1)/2)$ sub-Riemannian geometry”, J. Dyn. Control Syst., 12:2 (2006), 185–216  crossref  mathscinet  zmath
56. A. Montanari, D. Morbidelli, “On the subRiemannian cut locus in a model of free two-step Carnot group”, Calc. Var. Partial Differential Equations, 56:2 (2017), 36, 26 pp.  crossref  mathscinet  zmath
57. R. Montgomery, A tour of subriemannian geometries, their geodesics and applications, Math. Surveys Monogr., 91, Amer. Math. Soc., Providence, RI, 2002, xx+259 pp.  crossref  mathscinet  zmath
58. O. Myasnichenko, “Nilpotent $(3,6)$ sub-Riemannian problem”, J. Dyn. Control Syst., 8:4 (2002), 573–597  crossref  mathscinet  zmath
59. O. Myasnichenko, “Nilpotent $(n,n(n+1)/2)$ sub-Riemannian problem”, J. Dyn. Control Syst., 12:1 (2006), 87–95  crossref  mathscinet  zmath
60. H. Nijmeijer, A. van der Schaft, Nonlinear dynamical control systems, Springer-Verlag, New York, 1990, ix+467 pp.  crossref  mathscinet  zmath
61. T. Pecsvaradi, “Optimal horizontal guidance law for aircraft in the terminal area”, IEEE Trans. Automatic Control, AC-17:6 (1972), 763–772  crossref  mathscinet
62. А. В. Подобряев, “Диаметр сферы Берже”, Матем. заметки, 103:5 (2018), 779–784  mathnet  crossref  mathscinet  zmath; англ. пер.: A. V. Podobryaev, “Diameter of the Berger sphere”, Math. Notes, 103:5 (2018), 846–851  crossref
63. A. V. Podobryaev, Yu. L. Sachkov, “Cut locus of a left invariant Riemannian metric on $\operatorname{SO}_3$ in the axisymmetric case”, J. Geom. Phys., 110 (2016), 436–453  crossref  mathscinet  zmath  adsnasa
64. А. В. Подобряев, Ю. Л. Сачков, “Левоинвариантные симметричные римановы задачи на группах собственных движений плоскости Лобачевского и сферы”, Докл. РАН, 473:6 (2017), 640–642  crossref  mathscinet  zmath; англ. пер.: A. V. Podobryaev, Yu. L. Sachkov, “Left-invariant Riemannian problems on the groups of proper motions of hyperbolic plane and sphere”, Dokl. Math., 95:2 (2017), 176–177  crossref
65. A. V. Podobryaev, Yu. L. Sachkov, “Symmetric Riemannian problem on the group of proper isometries of hyperbolic plane”, J. Dyn. Control Syst., 24:3 (2018), 391–423  crossref  mathscinet  zmath
66. Л. С. Понтрягин, В. Г. Болтянский, Р. В. Гамкрелидзе, Е. Ф. Мищенко, Математическая теория оптимальных процессов, Физматгиз, М., 1961, 391 с.  mathscinet  zmath; англ. пер.: L. S. Pontryagin, V. G. Boltyanskii, R. V. Gamkrelidze, E. F. Mishchenko, The mathematical theory of optimal processes, A Pergamon Press Book, The Macmillan Co., New York, 1964, vii+338 с.  mathscinet  zmath
67. J. A. Reeds, L. A. Shepp, “Optimal paths for a car that goes both forwards and backwards”, Pacific J. Math., 145:2 (1990), 367–393  crossref  mathscinet
68. L. Rifford, Sub-Riemannian geometry and optimal transport, SpringerBriefs Math., Springer, Cham, 2014, viii+140 pp.  crossref  mathscinet  zmath
69. L. Rizzi, U. Serres, “On the cut locus of free, step two Carnot groups”, Proc. Amer. Math. Soc., 145:12 (2017), 5341–5357  crossref  mathscinet  zmath
70. Yu. L. Sachkov, “Symmetries of flat rank two distributions and sub-Riemannian structures”, Trans. Amer. Math. Soc., 356:2 (2004), 457–494  crossref  mathscinet  zmath
71. Ю. Л. Сачков, “Дискретные симметрии в обобщенной задаче Дидоны”, Матем. сб., 197:2 (2006), 95–116  mathnet  crossref  mathscinet  zmath; англ. пер.: Yu. L. Sachkov, “Discrete symmetries in the generalized Dido problem”, Sb. Math., 197:2 (2006), 235–257  crossref  adsnasa
72. Ю. Л. Сачков, Управляемость и симметрии инвариантных систем на группах Ли и однородных пространствах, Физматлит, М., 2007, 224 с.  zmath
73. Ю. Л. Сачков, “Теория управления на группах Ли”, Оптимальное управление, СМФН, 27, РУДН, М., 2008, 5–59  mathnet  mathscinet  zmath; англ. пер.: Yu. L. Sachkov, “Control theory on Lie groups”, J. Math. Sci. (N. Y.), 156:3 (2009), 381–439  crossref
74. Ю. Л. Сачков, “Симметрии и страты Максвелла в задаче об оптимальном качении сферы по плоскости”, Матем. сб., 201:7 (2010), 99–120  mathnet  crossref  zmath; англ. пер.: Yu. L. Sachkov, “Maxwell strata and symmetries in the problem of optimal rolling of a sphere over a plane”, Sb. Math., 201:7 (2010), 1029–1051  crossref  mathscinet  adsnasa
75. Yu. L. Sachkov, “Cut locus and optimal synthesis in the sub-Riemannian problem on the group of motions of a plane”, ESAIM Control Optim. Calc. Var., 17:2 (2011), 293–321  crossref  mathscinet  zmath
76. Ю. Л. Сачков, Введение в геометрическую теорию управления, URSS, М., 2021, 160 с.; англ. пер.: Yu. L. Sachkov, Introduction to geometric control, Springer, 2022, (to appear)
77. Yu. L. Sachkov, “Conjugate time in the sub-Riemannian problem on the Cartan group”, J. Dyn. Control Syst., 27:4 (2021), 709–751  crossref  mathscinet  zmath
78. Ю. Л. Сачков, “Левоинвариантные задачи оптимального управления на группах Ли, интегрируемые в эллиптических функциях” (в печати)
79. Yu. L. Sachkov, E. F. Sachkova, “Exponential mapping in Euler's elastic problem”, J. Dyn. Control Syst., 20:4 (2014), 443–464  crossref  mathscinet  zmath
80. T. Sakai, “Cut loci of Berger's spheres”, Hokkaido Math. J., 10:1 (1981), 143–155  crossref  mathscinet  zmath
81. E. D. Sontag, Mathematical control theory. Deterministic finite dimensional systems, Texts Appl. Math., 6, Springer-Verlag, New York, 1990, xiv+396 pp.  crossref  mathscinet  zmath
82. P. Souères, Commande optimale et robots mobiles non holonomes, Ph.D. thesis, Univ. Paul Sabatier, Toulouse, 1993, 141 pp.
83. P. Souères, J.-P. Laumond, “Shortest paths synthesis for a car-like robot”, IEEE Trans. Automat. Control, 41:5 (1996), 672–688  crossref  mathscinet  zmath
84. H. J. Sussmann, Guoqing Tang, Shortest paths for the Reeds–Shepp car: a worked out example of the use of geometric techniques in nonlinear optimal control, Tech. rep. SYCON-91-10, Rutgers Univ., New Brunswick, NJ, 1991, 72 pp.
85. В. М. Тихомиров, Рассказы о максимумах и минимумах, 2-е изд., испр., МЦНМО, М., 2006, 200 с.  mathscinet; англ. пер. 1-го изд.: V. M. Tikhomirov, Stories about maxima and minima, Math. World, 1, Amer. Math. Soc., Providence, RI; Math. Assoc. Amer., Washington, DC, 1990, xi+187 с.  zmath
86. А. М. Вершик, В. Я. Гершкович, “Геодезический поток на $\operatorname{SL}(2,\mathbb{R})$ с неголономными ограничениями”, Дифференциальная геометрия, группы Ли и механика. VIII, Зап. науч. сем. ЛОМИ, 155, Изд-во “Наука”, Ленинград. отд., Л., 1986, 7–17  mathnet  zmath; англ. пер.: A. M. Vershik, V. Ya. Gershkovich, “Geodesic flows on $\operatorname{SL}(2,\mathbb R)$ with nonholonomic restrictions”, J. Soviet Math., 41:2 (1988), 891–898  crossref
87. А. М. Вершик, В. Я. Гершкович, “Неголономные задачи и геометрия распределений”, Добавление к кн.: Ф. Гриффитс, Внешние дифференциальные системы и вариационное исчисление, Мир, М., 1986, 318–349  mathscinet; англ. пер.: A. M. Vershik, V. Ya. Gershkovich, “Nonholonomic problems and the theory of distributions”, Acta Appl. Math., 12:2 (1988), 181–209  crossref  mathscinet  zmath
88. А. М. Вершик, В. Я. Гершкович, “Неголономные динамические системы. Геометрия распределений и вариационные задачи”, Динамические системы – 7, Итоги науки и техн. Сер. Соврем. пробл. матем. Фундам. направления, 16, ВИНИТИ, М., 1987, 5–85  mathnet  mathscinet  zmath; англ. пер.: A. M. Vershik, V. Ya. Gershkovich, “Nonholonomic dynamical systems, geometry of distributions and variational problems”, Dynamical systems VII, Encyclopaedia Math. Sci., 16, Springer, Berlin, 1994, 1–81  crossref  mathscinet
89. А. М. Вершик, В. Я. Гершкович, “Геометрия неголономной сферы трехмерных групп Ли”, Геометрия и теория особенностей в нелинейных уравнениях, Новое в глобальном анализе, Изд-во Воронеж. гос. ун-та, Воронеж, 1987, 61–75  mathscinet  zmath; англ. пер.: A. M. Vershik, V. Ya. Gershkovich, “The geometry of the nonholonomic sphere for three-dimensional Lie group”, Global analysis – studies and applications III, Lecture Notes in Math., 1334, Springer, Berlin, 1988, 309–331  crossref  mathscinet  zmath
90. Ф. Уорнер, Основы теории гладких многообразий и групп Ли, Мир, М., 1987, 304 с.  mathscinet  zmath; пер. с англ.: F. W. Warner, Foundations of differentiable manifolds and Lie groups, Scott, Foresman and Co., Glenview, IL–London, 1971, viii+270 с.  mathscinet  zmath
91. М. И. Зеликин, Оптимальное управление и вариационное исчисление, 4-е изд., испр., URSS, М., 2017, 160 с.

Образец цитирования: Ю. Л. Сачков, “Левоинвариантные задачи оптимального управления на группах Ли: классификации и задачи, интегрируемые в элементарных функциях”, УМН, 77:1(463) (2022), 109–176; Russian Math. Surveys, 77:1 (2022), 99–163
Цитирование в формате AMSBIB
\RBibitem{Sac22}
\by Ю.~Л.~Сачков
\paper Левоинвариантные задачи оптимального управления на группах Ли: классификации и~задачи, интегрируемые в~элементарных функциях
\jour УМН
\yr 2022
\vol 77
\issue 1(463)
\pages 109--176
\mathnet{http://mi.mathnet.ru/rm10019}
\crossref{https://doi.org/10.4213/rm10019}
\mathscinet{http://mathscinet.ams.org/mathscinet-getitem?mr=4461360}
\zmath{https://zbmath.org/?q=an:1502.53045}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2022RuMaS..77...99S}
\transl
\jour Russian Math. Surveys
\yr 2022
\vol 77
\issue 1
\pages 99--163
\crossref{https://doi.org/10.1070/RM10019}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=000790549500001}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85130545558}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/rm10019
  • https://doi.org/10.4213/rm10019
  • https://www.mathnet.ru/rus/rm/v77/i1/p109
  • Эта публикация цитируется в следующих 17 статьяx:
    Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Успехи математических наук Russian Mathematical Surveys
    Статистика просмотров:
    Страница аннотации:567
    PDF русской версии:116
    PDF английской версии:73
    HTML русской версии:310
    Список литературы:81
    Первая страница:33
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024