Аннотация:
Пусть $(M, g)$ – риманово многообразие, $\Omega$ – область на нем с гладкой границей
$\Gamma$ и $\phi$ – гладкая функция на $M$, принимающая положительные значения на
$\Omega$ и обращающаяся в нуль на $\Gamma$ так, что ее дифференциал $d \phi$ в точках
поверхности $\Gamma$ отличен от нуля. Следуя работам С. Доброхотова, В. Назайкинского и
др., мы изучаем геодезический поток метрики $G = g/\phi$. Расстояние в метрике $G$ от
любой точки области $\Omega$ до $\Gamma$ конечно. Поэтому геодезический поток
неполон. В. Назайкинским показано, что геодезический поток в окрестности $\Gamma$ можно
регуляризовать. Мы предлагаем другую (более простую) регуляризацию. Благодаря
существованию этих регуляризаций возникает естественный закон отражения геодезической
от $\Gamma$, что приводит к некоторой (не вполне стандартной) биллиардной задаче в
$\Omega$.
Проведено исследование биллиардной динамики в окрестности границы. Получен аналог КАМ-теоремы Лазуткина.
Задача мотивирована коротковолновым приближением в уравнении для поверхностных волн в
бассейне с функцией глубины $\phi$.