Математический сборник
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Скоро в журнале
Архив
Импакт-фактор
Правила для авторов
Лицензионный договор
Загрузить рукопись
Историческая справка

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



Матем. сб.:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Математический сборник, 2021, том 212, номер 10, страницы 96–130
DOI: https://doi.org/10.4213/sm9462
(Mi sm9462)
 

Асимптотика оператора рассеяния для волнового уравнения в сингулярно возмущенной области

Д. В. Кориков

Санкт-Петербургский политехнический университет Петра Великого
Список литературы:
Аннотация: Рассматривается семейство задач Коши–Дирихле для волнового уравнения в неограниченных областях $\Lambda_{\varepsilon}$ ($\varepsilon\geqslant 0$ – малый параметр); c каждой задачей связан оператор рассеяния $\mathbb{S}_{\varepsilon}$. При $\varepsilon>0$ границы областей $\Lambda_{\varepsilon}$ гладкие, в то время как граница предельной области $\Lambda_{0}$ содержит коническую точку. Выводится асимптотика оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$.
Библиография: 11 названий.
Ключевые слова: волновое уравнение, сингулярно возмущенные области, оператор рассеяния.
Финансовая поддержка Номер гранта
Российский научный фонд 17-11-01126
Работа выполнена при поддержке Российского научного фонда (грант № 17-11-01126).
Поступила в редакцию: 10.06.2020 и 07.04.2021
Англоязычная версия:
Sbornik: Mathematics, 2021, Volume 212, Issue 10, Pages 1436–1470
DOI: https://doi.org/10.1070/SM9462
Реферативные базы данных:
Тип публикации: Статья
УДК: 517.956.32+517.956.8
MSC: 35L05, 35P25

§ 1. Введение

Пусть $\Lambda_{0}$ – область с компактным дополнением в $\mathbb{R}^{3}$. Мы считаем, что граница $\partial\Lambda_{0}$ гладкая за исключением одной точки $\mathcal{O}$ (начало координат); в $\varepsilon_{0}$-окрестности этой точки область $\Lambda_{0}$ совпадает с открытым конусом $\mathbb{K}$ (рис. 1, a). Пусть также $\Upsilon$ – область с гладкой границей, совпадающая с $\mathbb{K}$ вне единичного шара с центром $\mathcal{O}$ (рис. 1, b). При каждом $\varepsilon\in(0,\varepsilon_{0})$ введем область

$$ \begin{equation*} \Lambda_{\varepsilon}:=\{x\colon \varepsilon^{-1}x\in\Upsilon, \ |x|\leqslant\varepsilon_{0}\}\cup\{x\in\Lambda_{0}\colon |x|> \varepsilon_{0}\} \end{equation*} \notag $$
с гладкой границей $\partial\Lambda_{\varepsilon}$ (рис. 1, c). Область $\Lambda_{\varepsilon}$ является сингулярно возмущенной (граница предельной области $\Lambda_{0}$ негладкая). Мы дополнительно предполагаем, что
$$ \begin{equation} \langle x-x_{0},\nu(x)\rangle\leqslant 0, \qquad x\in\partial\Lambda_{\varepsilon}, \ \varepsilon\in(0,\varepsilon_{0}), \end{equation} \tag{1.1} $$
для некоторого $x_{0}\in\bigcap_{\varepsilon\in[0,\varepsilon_{0})}(\mathbb{R}^{3}\setminus\Lambda_{\varepsilon})$; здесь $\nu$ – единичный вектор внешней по отношению к $\Lambda_{\varepsilon}$ нормали. Условие (1.1) заведомо выполнено, если каждая область $\mathbb{R}^{3}\setminus\overline{\Lambda_{\varepsilon}}$ ($\varepsilon\in[0,\varepsilon_{0}]$) звездна относительно точки $x_{0}$. Рассмотрим семейство задач Коши–Дирихле
$$ \begin{equation} \begin{cases} (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, & x\in\Lambda_{\varepsilon}, \quad t>0, \\ u(x,t)=0, & x\in\partial\Lambda_{\varepsilon}, \quad t>0, \\ u(x,0)=\phi(x), \quad \partial_{t}u(x,0)=\psi(x), & x\in\Lambda_{\varepsilon}. \\ \end{cases} \end{equation} \tag{1.2} $$
С каждой задачей (1.2) связана сильно непрерывная группа унитарных операторов $\{U_{\varepsilon}(t)\}$; аналогичная группа операторов $\{U_{f}(t)\}$ ассоциирована с задачей Коши в свободном пространстве $\mathbb{R}^{3}$. При каждом $\varepsilon\in(0,\varepsilon_{0})$ существование волновых операторов $W^{\pm}_{\varepsilon}=s-\lim_{t\to\pm\infty}U_{\varepsilon}(-t)P_{\varepsilon}U_{f}(t)$ вытекает из результатов работы [1]; здесь отождествление задано формулой $P_{\varepsilon}\{\phi,\psi\}:=\{(1-\chi_{0})\phi|_{\Lambda_{\varepsilon}},(1-\chi_{0})\psi|_{\Lambda_{\varepsilon}}\}$, где $\chi_{0}\in C_{c}^{\infty}(\mathbb{R}^{3})$ и $\chi_{0}=1$ в окрестности $\mathbb{R}^{3}\setminus\Lambda_{0}$. Мы изучаем семейство операторов рассеяния $\mathbb{S}_{\varepsilon}:=(W^{+}_{\varepsilon})^{-1}W^{-}_{\varepsilon}$ ($\varepsilon\in[0,\varepsilon_{0}]$); целью является описание асимптотики оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$.

Опишем план доказательства. Благодаря полученной в [1] явной формуле для оператора $\mathbb{S}_{\varepsilon}$ дело сводится к выводу равномерной по параметру $\tau\in\mathbb{R}$ асимптотики решений задачи

$$ \begin{equation} \begin{cases} -(\Delta_{x}+\tau^{2})u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)=f(x,\tau), & x\in\Lambda_{\varepsilon}, \\ u^{\mathfrak{\pm}}_{\varepsilon}(x,\tau)=0, & x\in\partial\Lambda_{\varepsilon}, \\ \displaystyle \int_{\Lambda_{\varepsilon}}|\partial_{\rho}u^{\mathfrak{\pm}}_{\varepsilon}(x,\tau)\mp i\tau u^{\mathfrak{\pm}}_{\varepsilon}(x,\tau)|^{2}\,dx<+\infty \qquad \end{cases} \end{equation} \tag{1.3} $$
при $\varepsilon\to 0$ (здесь $\rho=|x-x_{0}|$). Асимптотика функции $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$ при $\varepsilon\to 0$ строится методом составных разложений (см. [2]). При таком подходе асимптотика $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$ составляется из решений так называемых предельных задач, не зависящих от малого параметра $\varepsilon$. Первая предельная задача в области $\Lambda_{0}$ получается из (1.3) подстановкой $\varepsilon=0$. В качестве аппроксимации решения $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$ берется функция $x\to y^{(1)}_{\varepsilon}(x,\tau):=(1-\chi(\varepsilon^{-1}x))v^{\mathfrak{\pm}}_{0}(x,\tau)$, где $v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$ – решение первой предельной задачи, а $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$ – срезка, равная 1 вблизи вершины $\mathcal{O}$. Подстановка этой функции в (1.3) приводит к невязке от коммутатора $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$. Для описания поведения невязки при $\varepsilon\to 0$ используется (также равномерная по $\tau$) асимптотика решения $v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$ вблизи вершины $\mathcal{O}$. Главная часть невязки при $\varepsilon\to 0$ компенсируется с помощью поправки в форме $y^{(2)}_{\varepsilon}(x,\tau):=\varepsilon^{s}\chi(x)w_{0}(\varepsilon^{-1}x,\tau)$, где $w_{0}(\cdot,\tau)$ есть решение второй предельной задачи в области $\Upsilon$. Подстановка суммы $y^{(1)}_{\varepsilon}(\cdot,\tau)+y^{(2)}_{\varepsilon}(\cdot,\tau)$ в (1.3) приводит к невязке следующего порядка, которая компенсируется с помощью решений следующей пары предельных задач. Продолжая описанную процедуру, можно построить полное асимптотическое разложение функции $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$. Такое разложение является двухмасштабным: оно составлено из функций, которые зависят либо от “медленной” переменной $x$, либо от “быстрой” переменой $\xi=\varepsilon^{-1}x$.

Первая предельная задача

$$ \begin{equation} {-}(\Delta_{x}+\tau^{2})v=f \quad\text{в }\ \Lambda_{0}, \qquad v=0 \quad\text{на }\ \partial\Lambda_{0}, \end{equation} \tag{1.4} $$
не является эллиптической с учетом параметра $\tau$ (см. [3]), т.е. не существует равномерной по $\tau$ глобальной эллиптической оценки решения $v$ и его первых и вторых производных. При $|\operatorname{Im}\tau|\geqslant \mathrm{const}>0$ равномерная асимптотика решений при $x\to\mathcal{O}$ получена в [4]. Метод, развитый в [4], основан на “комбинированных” априорных оценках решений. В окрестности вершины (“эллиптическая зона”) структура комбинированной оценки такая же, как и для эллиптических задач: мажорируются весовые нормы решения и его производных вплоть до второго порядка. Наличие такой зоны в оценке позволяет использовать при описании асимптотики решений формализм теории эллиптических краевых задач. В оставшейся части области $\Lambda_{0}$ (“гиперболическая зона”) мажорируются только решение и его первые производные. Для того чтобы комбинированная оценка была равномерной по параметру $\tau$, необходимо, чтобы диаметр эллиптической зоны убывал как $O(|\tau|^{-1})$ при $|\tau|\to+\infty$. Мы не можем применять результаты [4] непосредственно, поскольку правая часть полученной там комбинированной оценки стремится к бесконечности при $\operatorname{Im}\tau\to 0$. В настоящей работе выводится модифицированное комбинированное неравенство, правая часть которого не содержит слагаемых, растущих при $|\operatorname{Im}\tau|\to 0$. Такая модификация существенно использует технику работы [5]; в частности, именно отсюда и возникает ограничение (1.1) на геометрию области $\Lambda_{0}$. Вместе с результатами работы [4] модифицированные комбинированные оценки приводят к асимптотике решений задачи (1.4) при $x\to\mathcal{O}$, равномерной на каждой полуплоскости $\mathbb{C}_{\pm}:=\{\tau\in\mathbb{C}\colon \pm\operatorname{Im}\tau\geqslant 0\}$.

Вернемся к задачам (1.3) и (1.2). При $\varepsilon|\tau|\geqslant \mathrm{const}$ эллиптическая зона не пересекается с носителем коммутатора $[\Delta_{x},\chi(\varepsilon^{-1}x)]$ и из асимптотики решения $v_{0}^{\pm}(\cdot,\sigma)$ нельзя извлечь информацию о поведении невязки $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$. Это означает, что метод составных разложений неприменим при больших (по сравнению с $\varepsilon^{-1}$) значениях параметра $\tau$. Поэтому мы сужаем исходную область определения оператора рассеяния $\mathbb{S}_{\varepsilon}$ на плотное подмножество, образованное достаточно гладкими начальными данными $\{\phi,\psi\}$ (требования гладкости усиливаются с ростом числа членов асимптотики). Благодаря этому “высокочастотный” вклад в решение $u(\cdot,t)$ задачи (1.2) оказывается пренебрежимо малым при $\varepsilon\to 0$. Поэтому требуется описать действие оператора $\mathbb{S}_{\varepsilon}$ лишь на “низкочастотную” часть начальных данных $\{\phi,\psi\}$; для этого достаточно асимптотики решений $u^{\pm}_{\varepsilon}(\cdot,\tau)$ при $\varepsilon\to 0$, $\varepsilon|\tau|\leqslant \mathrm{const}$. Для простоты изложения мы ограничиваемся выводом первых двух членов асимптотики оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$. Тем не менее вышеописанный алгоритм позволяет получить отрезок асимптотического ряда для $\mathbb{S}_{\varepsilon}$ сколь угодно большой длины (для этого требуется выписать достаточно большое число членов асимптотики решений $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$). Основной результат работы содержится в теореме 1.

1.1. Задача в области $\Lambda_{\varepsilon}$

Рассмотрим уравнение Гельмгольца

$$ \begin{equation} {-}(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)=f(x,\sigma), \qquad x\in\Lambda_{\varepsilon}, \end{equation} \tag{1.5} $$
с вещественным параметром $\sigma$ и правой частью $f(\cdot,\sigma)\in C_{c}^{\infty}(\Lambda_{0})$; решение $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\in C^{\infty}(\Lambda_{\varepsilon})$ ($\mathfrak{s}=\pm$) подчиняется граничному условию Дирихле
$$ \begin{equation} u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)=0, \qquad x\in\partial\Lambda_{\varepsilon}, \end{equation} \tag{1.6} $$
и условию излучения
$$ \begin{equation} \int_{\Lambda_{\varepsilon}}\biggl(|\partial_{\rho}u_{\varepsilon}^{\mathfrak{s}}(x,\sigma)-i\mathfrak{s}\sigma u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}+\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx<\infty \end{equation} \tag{1.7} $$
(здесь и далее $\rho:=|x-x_{0}|$).

Предложение 1 (см. [5], [1]). При любых $\sigma\in\mathbb{R}$, $\mathfrak{s}=\pm$ и $f(\cdot,\sigma)\in C_{c}^{\infty}(\Lambda_{\varepsilon})$ существует единственное решение $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\in C^{\infty}(\Lambda_{\varepsilon})$ задачи (1.5), (1.7), подчиненное условиям излучения (1.7). Это решение удовлетворяет неравенству

$$ \begin{equation} \int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx. \end{equation} \tag{1.8} $$
Константа $c$ в (1.8) не зависит ни от $f$, ни от $\sigma$ и $\varepsilon$. Функция $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ совпадает с классическим решением задачи (1.5), (1.7) с асимптотикой
$$ \begin{equation} u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)=|x|^{-1}e^{i\mathfrak{s}\sigma|x|}S^{\mathfrak{s}}_{\varepsilon}(|x|^{-1}x,\sigma)+O(|x|^{-2}) \end{equation} \tag{1.9} $$
при $|x|\to\infty$; здесь $S^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ – гладкая функция на единичной сфере $S_{1}$.

Лемма 1. В условиях предложения 1 справедлива оценка

$$ \begin{equation} \| S^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2}\leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx. \end{equation} \tag{1.10} $$

Доказательство. Пусть $\chi_{\infty}\in C^{\infty}(\mathbb{R}^{3})$, $\chi_{\infty}=1$ в окрестности бесконечности и $\chi_{\infty}=0$ в шаре достаточно большого радиуса с центром $\mathcal{O}$; тогда $\operatorname{supp}\chi_{\infty}\subset\Lambda_{\varepsilon}=\varnothing$ при $\varepsilon\in(0,\varepsilon_{0})$. Из формулы Грина в области $\Lambda_{\varepsilon}^{R}:=\{x\in \Lambda_{\varepsilon}$: $|x|<R\}$ имеем
$$ \begin{equation} \begin{aligned} \, \notag & 2i\operatorname{Im}\int_{\Lambda_{\varepsilon}^{R}}\chi_{\infty}(x)f(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx +\int_{\Lambda_{\varepsilon}^{R}}[\triangle_{x},\chi_{\infty}(x)]u^{\mathfrak{s}}_{\varepsilon}(x,\sigma) \overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx \\ &\qquad=-2i\operatorname{Im}\int_{|x|=R}\partial_{r}u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dS, \end{aligned} \end{equation} \tag{1.11} $$
где $r=|x|$. В силу (1.9) предельный переход $R\to+\infty$ в (1.11) дает
$$ \begin{equation} \begin{aligned} \, \notag &{-}2i\mathfrak{s}\sigma\| S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} =2i\operatorname{Im}\int_{\Lambda_{\varepsilon}}\chi_{\infty}(x)f(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx \\ &\qquad\qquad +\int_{\Lambda_{\varepsilon}}[\triangle_{x},\chi_{\infty}(x)]u^{\mathfrak{s}}_{\varepsilon}(x,\sigma) \overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx. \end{aligned} \end{equation} \tag{1.12} $$
Мажорируя правую часть (1.12) с помощью оценки (1.8) и неравенств
$$ \begin{equation*} \begin{gathered} \, \biggl|\int_{\Lambda_{\varepsilon}}\chi_{\infty}(x)f(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx\biggr| \leqslant c\biggl(\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx\biggr)^{1/2} \biggl(\int_{\Lambda_{\varepsilon}}\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\,dx\biggr)^{1/2}, \\ \biggl|\int_{\Lambda_{\varepsilon}}[\triangle_{x},\chi_{\infty}(x)]u^{\mathfrak{s}}_{\varepsilon}(x,\sigma) \overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx\biggr| \leqslant c\| u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\|_{H^{1}(\Lambda_{\varepsilon,R_{0}})}\| u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon,R_{0}})} \end{gathered} \end{equation*} \notag $$
(где $\Lambda_{\varepsilon,R_{0}}:=\{x\in\Lambda_{\varepsilon}\colon \rho\leqslant R_{0}\}$ и $R_{0}=\max\rho$ на $\operatorname{supp}[\triangle_{x},\chi_{\infty}]$), получаем (1.10).

Лемма доказана.

1.2. Оператор рассеяния

Далее нам понадобятся полученные в [1] сведения из теории рассеяния для волнового уравнения во внешности ограниченной области с гладкой границей. Введем оператор $\mathcal{A}_{f}v(x)\to-\Delta_{x}v(x)$ в $L_{2}(\mathbb{R}^{3})$, $\operatorname{Dom}\mathcal{A}_{f}:=\{v\in L_{2}(\mathbb{R}^{3})\colon \Delta_{x}v\in L_{2}(\mathbb{R}^{3})\}$. Имеем $\mathcal{A}_{f}=\mathcal{F}^{-1}_{k\to x}[|k|^{2}]\mathcal{F}_{x\to k}$, где $\mathcal{F}_{x\to k}$ – преобразование Фурье

$$ \begin{equation*} [\mathcal{F}_{x\to k}v](k)=(2\pi)^{-3/2}\int_{\mathbb{R}^{3}}e^{ik\cdot x}v(x)\,dx, \end{equation*} \notag $$
а $[f(k)]$ – оператор умножения на функцию $k\to f(k)$. Пусть $\mathcal{H}_{f}$ – пополнение $\operatorname{Dom}\mathcal{A}_{f}\times\operatorname{Dom}\mathcal{A}_{f}$ относительно скалярного произведения $(\{\phi,\psi\},\{\phi',\psi'\})_{\mathcal{H}_{f}}:=(\nabla\phi,\nabla\phi')_{L_{2}(\mathbb{R}^{3})}+(\psi,\psi')_{L_{2}(\mathbb{R}^{3})}$. Оператор $G_{f}$, заданный на области определения $\operatorname{Dom}G_{f}=\operatorname{Dom}\mathcal{A}_{f}\times L_{2}(\mathbb{R}^{3})$ формулой $G_{f}\{\phi,\psi\}:=\{-i\psi,i\mathcal{A}_{f}\phi\}$, самосопряжен в $\mathcal{H}_{f}$. Свяжем с задачей Коши для волнового уравнения
$$ \begin{equation} \begin{gathered} \, (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, \qquad x\in\mathbb{R}^{3}, \qquad t>0, \\ u(x,0)=\phi(x), \qquad \partial_{t}u(x,0)=\psi(x), \qquad x\in\mathbb{R}^{3}, \end{gathered} \end{equation} \tag{1.13} $$
сильно непрерывную группу $t\to U_{f}(t)$ унитарных операторов $U_{f}(t)\colon \mathcal{H}_{f}\to\mathcal{H}_{f}$ с генератором $iG_{f}$. Пусть $\mathfrak{N}$ – пространство функций с конечной нормой
$$ \begin{equation} \| f\|_{\mathfrak{N}}:=\biggl(\int_{-\infty}^{+\infty}d\kappa\int_{S_{1}}|f(\kappa,\widehat{\kappa})|^{2}\,dS_{\widehat{\kappa}}\biggr)^{1/2}. \end{equation} \tag{1.14} $$
Преобразование $\mathfrak{R}_{f}\colon \mathcal{H}_{f}\to\mathfrak{N}$,
$$ \begin{equation} [\mathfrak{R}_{f}\{\phi,\psi\}](\kappa,\widehat{\kappa}):=\frac{\kappa}{i\sqrt{2}}\bigl([\mathcal{F}_{x\to k}\psi](\kappa\widehat{\kappa})+i\kappa[\mathcal{F}_{x\to k}\phi](\kappa\widehat{\kappa})\bigr) \end{equation} \tag{1.15} $$
является унитарным изоморфизмом, причем
$$ \begin{equation} G_{f}=\mathfrak{R}_{f}^{-1}[\kappa]\mathfrak{R}_{f}, \qquad U_{f}(t)=\mathfrak{R}_{f}^{-1}[e^{i\kappa t}]\mathfrak{R}_{f} \end{equation} \tag{1.16} $$
(здесь и далее через $[f(\kappa,\widehat{\kappa})]$ обозначается оператор умножения на функцию $(\kappa,\widehat{\kappa})\to f(\kappa,\widehat{\kappa})$).

Теперь введем оператор $\mathcal{A}_{\varepsilon}'\colon v\to \mathcal{A}_{\varepsilon}v:=-\Delta_{x}v$ в $L_{2}(\Lambda_{\varepsilon})$ с областью определения $\{v\in C_{c}^{\infty}(\overline{\Lambda_{\varepsilon}})\colon v=0 \quad\text{на }\ \partial\Lambda_{\varepsilon}\}$. Замыкание $\mathcal{A}_{\varepsilon}$ оператора $\mathcal{A}_{\varepsilon}'$ есть самосопряженный оператор в $L_{2}(\Lambda_{\varepsilon})$ и имеет чисто непрерывный спектр, совпадающий с полуосью $[0,+\infty)$. Пусть $\chi_{\infty}$ – гладкая срезающая функция, равная единице в окрестности бесконечности и аннулирующаяся в достаточно большом шаре, содержащем $\mathbb{R}^{3}\setminus\Lambda_{0}$. При $k\in\mathbb{R}^{3}$, $\mathfrak{s}=\pm$ введем функции

$$ \begin{equation} x\to \mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k)=\chi_{\infty}(x)e^{-ik\cdot x}+\mathbf u_{\varepsilon}^{\mathfrak{s}}(x,k), \end{equation} \tag{1.17} $$
где $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)\in C^{\infty}(\overline{\Lambda_{\varepsilon}})$ есть (единственное) решение задачи (1.5), (1.6) с $\sigma=|k|$ и $f(x,\sigma)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$, подчиненное условию излучения (1.7). Из предложения 1 вытекает асимптотика
$$ \begin{equation} \mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k)=e^{-ik\cdot x}+|x|^{-1}e^{i\mathfrak{s}|k||x|}\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(|x|^{-1}x,k)+O(|x|^{-2}), \qquad |x|\to +\infty, \end{equation} \tag{1.18} $$
где $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)\in C^{\infty}(S_{1})$. Для функций $\phi\in C_{c}^{\infty}(\Lambda_{\varepsilon})$ положим
$$ \begin{equation*} [\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}\phi](k):=(2\pi)^{-3/2}\int_{\Lambda_{\varepsilon}}\phi(x)\overline{\mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k)}\,dx; \end{equation*} \notag $$
тогда $\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}\phi\in L_{2}(\mathbb{R}^{3})$ и $\|\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}\phi\|_{L_{2}(\mathbb{R}^{3})}=\|\phi\|_{L_{2}(\Lambda_{\varepsilon})}$. Преобразование $\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}$ продолжается по непрерывности до унитарного изоморфизма $L_{2}(\Lambda_{\varepsilon})$ и $L_{2}(\mathbb{R}^{3})$, причем $\mathcal{A}_{\varepsilon}=\mathcal{F}_{\mathfrak{s},\varepsilon,k\to x}^{-1}[|k|^{2}]\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}$. Обозначим через $\mathcal{H}_{\varepsilon}$ пополнение $\operatorname{Dom}\mathcal{A}_{\varepsilon}\times\operatorname{Dom}\mathcal{A}_{\varepsilon}$ относительно скалярного произведения $(\{\phi,\psi\},\{\phi',\psi'\})_{\mathcal{H}_{\varepsilon}}:=(\nabla\phi,\nabla\phi')_{L_{2}(\Lambda_{\varepsilon})}+(\psi,\psi')_{L_{2}(\Lambda_{\varepsilon})}$. Оператор $G_{\varepsilon}\colon G_{\varepsilon}\{\phi,\psi\}:=\{-i\psi,i\mathcal{A}_{\varepsilon}\phi\}$ (с областью определения $\operatorname{Dom} G_{\varepsilon}=\operatorname{Dom}\mathcal{A}_{\varepsilon}\times L_{2}(\Lambda_{\varepsilon})$) является самосопряженным в $\mathcal{H}_{\varepsilon}$. Свяжем с задачей Коши–Дирихле (1.2) сильно непрерывную группу $t\to U_{\varepsilon}(t)$ унитарных операторов $U_{\varepsilon}(t)\colon \mathcal{H}_{\varepsilon}\to\mathcal{H}_{\varepsilon}$ с генератором $iG_{\varepsilon}$. Преобразование $\mathfrak{R}_{\mathfrak{s},\varepsilon}\colon \mathcal{H}_{\varepsilon}\to\mathfrak{N}$,
$$ \begin{equation*} [\mathfrak{R}_{\mathfrak{s},\varepsilon}\{\phi,\psi\}](\kappa,\widehat{\kappa}):=\frac{\kappa}{i\sqrt{2}}\bigl([\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,\varepsilon,x\to k}\psi](\kappa\widehat{\kappa}) +i\kappa[\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,\varepsilon,x\to k}\phi](\kappa\widehat{\kappa})\bigr), \end{equation*} \notag $$
есть унитарный изоморфизм, причем $G_{\varepsilon}=\mathfrak{R}_{\mathfrak{s},\varepsilon}^{-1}[\kappa]\mathfrak{R}_{\mathfrak{s},\varepsilon}$ и $U_{\varepsilon}(t)=\mathfrak{R}_{\mathfrak{s},\varepsilon}^{-1}[e^{i\kappa t}]\mathfrak{R}_{\mathfrak{s},\varepsilon}$. Для оператора $\mathbf S_{\varepsilon}:=\mathfrak{R}_{+,\varepsilon}\mathfrak{R}_{-,\varepsilon}^{-1}-I$ справедлива явная формула
$$ \begin{equation} \mathbf S_{\varepsilon}f(\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}f(\kappa,\theta)\overline{\mathcal{S}^{+}_{\varepsilon}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}, \end{equation} \tag{1.19} $$
где функция $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}$ – та же самая, что и в разложении (1.18). Волновые операторы
$$ \begin{equation} W^{\mathfrak{s}}_{\varepsilon}:=s-\lim_{\mathfrak{s}t\to+\infty}U_{\varepsilon}(-t)P_{\varepsilon}U_{f}(t), \qquad \mathfrak{s}=\pm \end{equation} \tag{1.20} $$
(отождествление $P_{\varepsilon}$ задано правилом $P_{\varepsilon}\{\phi,\psi\} :=\{\chi_{\infty}\phi|_{\Lambda_{\varepsilon}},\chi_{\infty}\psi|_{\Lambda_{\varepsilon}}\}$), существуют и унитарны. Справедливо равенство $W^{\mathfrak{s}}_{\varepsilon}=\mathfrak{R}_{\mathfrak{s},\varepsilon}^{-1}\mathfrak{R}_{f}$, $\mathfrak{s}=\pm$. Оператор рассеяния $\mathbb{S}_{\varepsilon}:=(W^{+}_{\varepsilon})^{-1}W^{-}_{\varepsilon}$ имеет вид
$$ \begin{equation} \mathbb{S}_{\varepsilon}=\mathfrak{R}_{f}^{-1}\mathfrak{R}_{+,\varepsilon}\mathfrak{R}_{-,\varepsilon}^{-1}\mathfrak{R}_{f}=I+\mathfrak{R}_{f}^{-1}\mathbf S_{\varepsilon}\mathfrak{R}_{f}. \end{equation} \tag{1.21} $$

§ 2. Задача в области $\Lambda_{0}$

В “предельной” области $\Lambda_{0}$ с конической точкой $\mathcal{O}$ рассмотрим задачу

$$ \begin{equation} {-}(\Delta_{x}+\tau^{2})v=f \quad\text{в }\ \Lambda_{0}, \qquad v=0 \quad\text{на }\ \partial\Lambda_{0}\setminus\mathcal{O}, \end{equation} \tag{2.1} $$
с комплексным параметром $\tau$. Равномерная по $\tau$ асимптотика решений задачи (2.1) в окрестности $\mathcal{O}$ получена в [4] при дополнительном ограничении $|\operatorname{Im}\tau|\geqslant\mathrm{const}>0$. В этом параграфе это ограничение снимается и выводятся асимптотики решений, равномерные на каждой полуплоскости1 $\mathbb{C}_{\pm}:=\{\tau\,{\in}\,\mathbb{C}$: $\pm\operatorname{Im}\tau\geqslant 0\}$.

2.1. Предварительные сведения

2.1.1. Пространства функций в $\mathbb{K}$ и $\Lambda_{0}$

Пусть $l=0,1,\dots$, $\beta\in\mathbb{R}$ и $p\geqslant 0$; обозначим через $H^{l}_{\beta}(\mathbb{K})$ пополнение линеала $C_c^{\infty}(\overline{\mathbb{K}}\setminus\mathcal{O})$ по норме

$$ \begin{equation} \| v\|_{H^{l}_{\beta}(\mathbb{K})}=\biggl (\sum_{|\alpha |\leqslant l} \int_{\mathbb{K}}|x|^{2(\beta+|\alpha|-l)}|D_{x}^{\alpha}v(x)|^{2}\, dx\biggr )^{1/2}, \end{equation} \tag{2.2} $$
а через $H^{l}_{\beta}(\mathbb{K};p)$ ($p\geqslant 0$) – пополнение того же линеала по норме
$$ \begin{equation} \| v\|_{H^{l}_{\beta}(\mathbb{K};p)}=\biggl ( \sum_{s=0}^{l} p^{2s}\| v\|_{H^{l-s}_{\beta}(\mathbb{K})}^{2}\biggr )^{1/2}. \end{equation} \tag{2.3} $$
Пространства $H^{l}_{\beta}(\Lambda_{0})$ и $H^{l}_{\beta}(\Lambda_{0};p)$ отличаются от $H^{l}_{\beta}(\mathbb{K})$ и $H^{l}_{\beta}(\mathbb{K};p)$ заменой в определениях $\mathbb{K}$ на $\Lambda_{0}$.

2.1.2. Операторный пучок

В области $\Theta=\{x\in\mathbb{K}\colon |x|=1\}$ определим операторный пучок $\mathbb{C}\ni\lambda\mapsto\mathfrak{A}(\lambda)$ формулой

$$ \begin{equation} \mathfrak{A}(\lambda)\Phi(\theta)=r^{2-i\lambda}\Delta_{x}r^{i\lambda}\Phi(\theta), \qquad \Phi\in H^{2}(\Theta)\cap \mathring{H^{1}}(\Theta); \end{equation} \tag{2.4} $$
здесь и далее $r:=|x|$, $\theta:=x/|x|$. Более явно, $\mathfrak{A}(\lambda)\Phi=(\lambda^{2}-i\lambda-\delta)\Phi$, где $\delta$ – оператор Лапласа–Бельтрами в $\Theta$ с условиями Дирихле на $\partial\Theta$. Спектр пучка состоит из нормальных собственных значений
$$ \begin{equation} \lambda_{\pm k}=\frac i2\{1\mp(1+4\mu_{k})^{1/2}\}, \qquad k=1,2,\dots, \end{equation} \tag{2.5} $$
где $\{\mu_{k}\}$ есть последовательность всех собственных значений $0<\mu_{1}<\mu_{2}\leqslant\mu_{3}\leqslant\dotsb$ оператора $-\delta$. В частности, $i\lambda_{k}>0$ и $i\lambda_{-k}<-1$, $k>0$. Собственные функции $\Phi_{k}$, отвечающие собственным числам $\lambda_{\pm k}$, можно выбрать так, чтобы
$$ \begin{equation} (1+4\mu_{k})^{1/2}(\Phi_{k},\Phi_{j})_{L_{2}(\Theta)}=\delta_{k,j}. \end{equation} \tag{2.6} $$
Присоединенных функций нет.

Лемма 2 (см. [6]). При $\beta+i\lambda_{j}\ne 1/2$, $j=\pm 1,\pm 2,\dots$, для всех $v\in H^{2}_{\beta}(\mathbb{K})\cap\mathring{H^{1}}(\mathbb{K})$ справедлива оценка

$$ \begin{equation} \| v\|_{H^{2}_{\beta}(\mathbb{K})}\leqslant c(\beta)\|\Delta_{x}v\|_{H^{0}_{\beta}(\mathbb{K})}. \end{equation} \tag{2.7} $$

При $\tau\in\mathbb{C}$ введем функции

$$ \begin{equation} x\to y_{j}^{K}(x,\tau)=r^{i\lambda_{j}}\Phi_{j}(\theta)\sum_{k=0}^{K}c_{j,k}(\tau r)^{2k}, \qquad K\geqslant 0, \end{equation} \tag{2.8} $$
где $c_{j,0}:=1$, $c_{j,k}:=(4k(k+i\lambda_{j}+1/2))^{-1}c_{j,k-1}$, $k>0$. Для $y_{j}^{K}$ справедливы соотношения
$$ \begin{equation*} (\Delta_{x}+\tau^{2})y_{j}^{K}(x,\tau)=O(r^{i\lambda_{j}+2K}), \quad x\,{\in}\,\mathbb{K}, \quad |x|\to 0, \qquad y_{j}^{K}(x,\tau)\,{=}\,0, \quad x\,{\in}\,\partial\mathbb{K}\setminus\mathcal{O}. \end{equation*} \notag $$
Если $-(i\lambda_{j}+1/2)\notin\mathbb{N}$ (например, при $j>0$), то функция $y_{j}^{K}$ определена при любых $K$. Если $\lambda_{j}=i(k_{0}+1/2)$, $k_{0}\in\mathbb{N}$, то функция $y_{j}^{K}$ определена только при $k<k_{0}$. Для всякого $\lambda_{j}\ne 3i/2$ можно выбрать число $K$ в (2.8) достаточно большим, чтобы выполнялось условие $(\Delta_{x}+\tau^{2})(\chi y_{-j}^{K}(\cdot,\tau))\in L_{2}(\mathbb{K})$; здесь $\chi\in C_{c}^{\infty}(\mathbb{K})$ и $\chi=1$ вблизи $\mathcal{O}$. При $\lambda_{j}=3i/2$ тому же самому условию удовлетворяет функция $x\to r^{i\lambda_{j}}\Phi_{j}(\theta)(1+(1/2)(\tau r)^{2}\ln r)$. В дальнейшем (лишь для упрощения выкладок) мы будем считать конус $\mathbb{K}$ таким, что $3i/2$ не является собственным числом для пучка $\mathfrak{A}$. Легко проверить, что
$$ \begin{equation} \begin{gathered} \, \notag \|\chi_{p}y_{j}^{K}(\cdot,\tau)\|_{H^{0}_{\beta}(\mathbb{K})}=O(p^{-(i\lambda_{j}+\beta+3/2)}), \qquad i\lambda_{j}+\beta+\frac32>0, \\ \|(\Delta_{x}+\tau^{2})(\chi_{p}y_{j}^{K}(\cdot,\tau))\|_{H^{0}_{\beta}(\mathbb{K})}=O(p^{1/2-i\lambda_{j}-\beta}), \qquad 2K>-\frac32-\beta-i\lambda_{j}, \end{gathered} \end{equation} \tag{2.9} $$
где $\chi_{p}(x):=\chi(px)$, $p=\sqrt{1+|\sigma|^{2}}$, $|\gamma|\leqslant 1$.

2.1.3. Слабые и сильные решения задачи (2.1) при $\gamma\ne 0$

Пусть $\tau=\sigma+i\gamma$ ($\sigma,\gamma\in\mathbb{R}$, $\gamma\ne 0$) и $f\in L_{2}(\Lambda_{0})$. Функция $v\in \mathring{H^{1}}(\Lambda_{0})$ называется слабым решением задачи (2.1) если для любого элемента $w$ из $\mathring{H^{1}}(\Lambda_{0})$ выполнено равенство

$$ \begin{equation} a(v,w;\tau):=(\nabla v,\nabla w)_{\Lambda_{0}}-\tau^{2}(v,w)_{\Lambda_{0}}=(f,w)_{\Lambda_{0}} \end{equation} \tag{2.10} $$
(здесь и далее через $(\cdot,\cdot)_{V}$ обозначается спаривание в $L_{2}(V)$). Форма $a(\cdot,\cdot;\tau)$ ограничена и коэрцитивна2, поэтому существование и единственность слабого решения задачи (2.1) следуют из леммы Лакса–Мильграма–Вишика. Теперь пусть $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$, $\chi=1$ вблизи вершины $\mathcal{O}$ и носитель функции $\chi$ расположен в достаточно малой окрестности точки $\mathcal{O}$, в которой область $\Lambda_{0}$ совпадает с конусом $\mathbb{K}$. Введем линеал
$$ \begin{equation} \mathcal{D}:=\biggl\{v=\chi\sum_{j=1}^{M}c_{j}r^{i\lambda_{j}}\Phi_{j}(\theta)+\widetilde{v}\colon M\geqslant 0,\ c_{j}\in\mathbb{C},\ \widetilde{v}\in C_{c}^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O}),\ \widetilde{v}=0 \text{ на }\partial\Lambda_{0}\biggr\}. \end{equation} \tag{2.11} $$
Множество $\mathcal{D}$ плотно в $\mathring{H^{1}}(\Lambda_{0})$. Справедлива формула Грина
$$ \begin{equation} (-\Delta_{x}v_{1},v_{2})_{\Lambda_{0}}=(\nabla_{x}v_{1},\nabla_{x}v_{2})_{\Lambda_{0}}=(v_{1},-\Delta_{x}v_{2})_{\Lambda_{0}} \quad \forall\, v_{1},v_{2}\in\mathcal{D}. \end{equation} \tag{2.12} $$
Пусть $A(\tau)$ есть замыкание оператора $\mathcal{D}\ni v\to -(\Delta_{x}+\tau^{2})v$ в $L_{2}(\mathbb{K})$. Будем называть сильным решением задачи (2.1) решение уравнения $A(\tau)v=f$. Существование и единственность сильного решения задачи (2.1) вытекают из следующей леммы.

Лемма 3. При любом $\tau=\sigma+i\gamma$ ($\sigma,\gamma\in\mathbb{R}$, $\gamma\ne 0$) справедливы соотношения $\operatorname{Ran}A(\tau)=L_{2}(\Lambda_{0})$, $\operatorname{Ker}A(\tau)=\{0\}$ и оценка

$$ \begin{equation} |\gamma|\,\| v\|_{H^{1}_{0}(\Lambda_{0},|\tau|)}\leqslant 5\| A(\tau)v\|_{L_{2}(\Lambda_{0})}, \qquad v\in\mathcal{D}. \end{equation} \tag{2.13} $$

Лемма доказывается так же, как [4; теорема 3.8].

Пусть $f\in L_{2}(\Lambda_{0})$ и $v=A(\tau)^{-1}f$, тогда существует такая последовательность $\{v_{k}\}\subset\mathcal{D}$, что $v_{k}\to v$ и $-(\Delta+\tau^{2})v_{k}=:f_{k}\to f$ в $L_{2}(\Lambda_{0})$; более того, $v_{k}\to v$ в $H^{1}(\Lambda_{0})$ в силу оценки (2.13). Интегрируя по частям, выводим, что $(f_{k},w)_{\Lambda_{0}}=a(v_{k},w;\tau)$ для всех $w\in\mathcal{D}$. Отсюда предельным переходом получается равенство $(f,w)_{\Lambda_{0}}=a(v,w;\tau)$. Поскольку $\mathcal{D}$ плотно в $\mathring{H^{1}}(\Lambda_{0})$, $v$ есть слабое решение задачи (2.1). Таким образом, любое сильное решение задачи (2.1) является ее слабым решением и наоборот. Следующее утверждение обобщает предложение 1 на случай области $\Lambda_{0}$ с конической точкой и доставляет равномерную по $\sigma\in\mathbb{R}$ и $\gamma\in\mathbb{R}\setminus\{0\}$ оценку решений задачи (2.1).

Лемма 4. Для любых $\tau=\sigma+i\gamma$ ($\sigma,\gamma\in\mathbb{R}$, $\gamma\ne 0$) и $v\in\mathcal{D}$ справедливо неравенство

$$ \begin{equation} \begin{aligned} \, \|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\leqslant c\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr). \end{aligned} \end{equation} \tag{2.14} $$
Здесь $f=(\Delta_{x}+\tau^{2})v$, $w=e^{-i\mathfrak{s}\sigma\rho}v$ и $\mathfrak{s}:=\operatorname{sign}\gamma$, константа $c$ не зависит от $\tau$.

Доказательство. Уравнения $(\Delta_{x}+\tau^{2})v=f$ и $(\Delta_{x}+\overline{\tau}^{2})\overline{v}=\overline{f}$ эквивалентны, поэтому при проверке леммы можно ограничиться случаем $\gamma>0$. Достаточно доказать следующие два неравенства:
$$ \begin{equation} \int_{\Lambda_{0}}\bigl(|\nabla_{x} w|^{2}+r^{-2}|v|^{2})\,dx\leqslant c\biggl(\int_{\Lambda_{0}}\rho^{2}|f|^{2}\,dx+\gamma^{2}\int_{\Lambda_{0}}|v|^{2}\,dx\biggr), \end{equation} \tag{2.15} $$
$$ \begin{equation} \gamma\| v\|_{L_{2}(\Lambda_{0})}\leqslant 2\| f\|_{H^{0}_{1}(\Lambda_{0})}. \end{equation} \tag{2.16} $$
Для вывода (2.15) и (2.16) можно использовать те же самые выкладки, что и в доказательствах [5; леммы 7 и 2] соответственно; для оправдания указанных выкладок в случае негладкой области $\Lambda_{0}$ требуется лишь следить за поведением решений вблизи конических точек. Проверим (2.15). Функция $w$ удовлетворяет уравнению
$$ \begin{equation} \begin{aligned} \, (\triangle-\gamma^{2})w+2i\sigma(\rho^{-1}+\partial_{\rho}+\gamma)w=h:=e^{-i\sigma \rho}f. \end{aligned} \end{equation} \tag{2.17} $$
Умножим (2.17) на $2\rho(\rho^{-1}+\partial_{\rho}+\gamma)\overline{w}$ и возьмем вещественную часть от получившегося равенства. Имеем
$$ \begin{equation*} \begin{aligned} \, & 2\operatorname{Re}[h\rho(\rho^{-1}+\partial_{\rho}+\gamma)\overline{w}]=2\operatorname{Re} [(\triangle-\gamma^{2})w\cdot(1+\rho\partial_{\rho}+\gamma\rho)\overline{w}] \\ &\qquad=\operatorname{Re} \operatorname{div}\bigl(\nabla w\cdot 2(1+\gamma\rho+\rho\partial_{\rho})\overline{w}-|\nabla w|^{2}\rho\vec{e}_{\rho}-\gamma(1+\gamma\rho)|w|^{2}\vec{e}_{\rho}\bigr) \\ &\qquad\qquad -(1+2\gamma \rho)|\nabla w|^{2}+(\gamma^{2}+2\gamma \rho^{-1}-2\gamma^{3}\rho)|w|^{2}. \end{aligned} \end{equation*} \notag $$
Интегрирование последнего уравнения по $\Lambda_{0}$ с учетом включения $v\in\mathcal{D}$ приводит к формуле
$$ \begin{equation*} \begin{aligned} \, &\int_{\Lambda_{0}}\bigl((1+2\gamma\rho)|\nabla_{x}w|^{2}+2\gamma^{3}\rho|w|^{2}\bigr)\,dx -\int_{\partial\Lambda_{0}}|\partial_{\nu}w|^{2}\langle\vec{e}_{\rho},\nu\rangle\rho\, dS \\ &\qquad =\gamma\int_{\Lambda_{0}}(\gamma+2\rho^{-1})|w|^{2}\,dx-2\operatorname{Re}\int_{\Lambda_{0}}h\cdot(1+\rho\partial_{r}+\gamma \rho)\overline{w}\,dx, \end{aligned} \end{equation*} \notag $$
где второе слагаемое слева (с учетом знака) неотрицательно ввиду условия (1.1). Теперь для вывода (2.15) остается воспользоваться соотношением $2|ab|\leqslant |a|^{2}\epsilon +|b|^{2}/\epsilon$ (с достаточно малым $\epsilon>0$ и с $a=\rho^{-1}w(x)$ и $b=\gamma w(x)$ либо с $a=\rho^{-1}w(x), \partial_{\rho}w(x), \gamma w(x)$ и $b=\rho h(x)$) и заметить, что для $w$ справедливо неравенство Харди $\| w\|_{H^{0}_{-1}(\Lambda_{0})}\leqslant 2\|\nabla_{x}w\|_{L_{2}(\Lambda_{0})}$. Для проверки (2.16) рассмотрим начально-краевую задачу
$$ \begin{equation} \begin{cases} (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, & x\in\Lambda_{0}, \ t>0, \\ u(x,t)=0, & x\in\partial\Lambda_{0}\setminus\mathcal{O}, \ t>0, \\ u(x,0)=g(x), \ \partial_{t}u(x,0)=f(x), & x\in\Lambda_{0}, \\ \end{cases} \end{equation} \tag{2.18} $$
с $f,g\in C_{c}^{\infty}(\Lambda_{0})$. Информация о свойствах решений задачи (2.18) получается компиляцией сведений, содержащихся в [7; теорема 4.1] и в [8; теорема 5.3 и предложение 6.1]. Именно, существует решение $u\in C^{\infty}((\overline{\Lambda_{0}}\setminus\mathcal{O})\times\mathbb{R})$ задачи (2.18), допускающее вблизи вершины $\mathcal{O}$ асимптотику в форме
$$ \begin{equation*} \partial^{m}_{t}u(x,t)=\sum_{j>0, \ i\lambda_{j}+2m<M}r^{i\lambda_{j}+2m}\Phi_{j}(\theta)\partial^{m}_{t}d_{j,m}(t)+O(r^{M}), \qquad r\to 0 \end{equation*} \notag $$
(здесь $d_{j,m}\in C^{\infty}([0,+\infty))$, числа $m=0,1,\dots$ и $M>0$ произвольны). Следовательно, справедлива формула интегрирования по частям
$$ \begin{equation} ((\partial_{t}^{2}-\triangle_{x})u(\cdot,t),\partial_{t}u(\cdot,t))_{\widetilde{\Lambda}_{0}} =(\partial_{t}^{2}u(\cdot,t),\partial_{t}u(\cdot,t))_{\widetilde{\Lambda}_{0}}+(\nabla_{x}u(\cdot,t),\nabla_{x} \partial_{t}u(\cdot,t))_{\widetilde{\Lambda}_{0}}, \end{equation} \tag{2.19} $$
где $\widetilde{\Lambda}_{0}$ – любая ограниченная подобласть $\Lambda_{0}$ с кусочно гладкой границей. Как и для волнового уравнения в гладкой области, из (2.19) вытекает конечность скорости распространения возмущений (сужение $u$ на конус $\{(x,t)\colon t\in [0,t_{0}], x\in \Lambda_{0}, \ |x-x_{0}|\leqslant t_{0}-t\}$ зависит только от значений начальных данных $f$, $g$ на основании конуса $\{x\in\Lambda_{0}\colon |x-x_{0}|\leqslant t_{0}\}$). В частности, $\operatorname{supp}u(\cdot,t)$ ограничен при всех $t>0$. Поэтому в (2.19) можно заменить $\widetilde{\Lambda}_{0}$ на $\Lambda_{0}$, откуда $\|\nabla_{(x,t)}u(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}=\|\nabla_{x}g\|^{2}_{\Lambda_{0}}+\| f\|^{2}_{\Lambda_{0}}$. Введем функцию
$$ \begin{equation*} z(x,t):=\int_{0}^{t}u(x,t')\,dt'+w(x), \end{equation*} \notag $$
где $w\in H^{2}_{1}(\Lambda_{0})\cap C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ – решение задачи
$$ \begin{equation*} -\Delta_{x}w=f \quad\text{в }\ \Lambda_{0}, \qquad w=0 \quad\text{на }\ \partial\Lambda_{0}\setminus\mathcal{O}. \end{equation*} \notag $$
Существование и единственность решения $w$, а также оценки $w(x)=O(r^{i\lambda_{1}})$, $\partial_{r}w(x)=O(r^{i\lambda_{1}-1})$ при $r\to 0$ и $w(x)=O(r^{-1})$, $\partial_{r}w(x)=O(r^{-2})$ при $r\to \infty$ вытекают из известных результатов теории эллиптических задач в негладких областях (см., например, [6]). Таким образом, для $z$ остается справедливой формула (2.19) с $\Lambda_{0}$ вместо $\widetilde{\Lambda}_{0}$. Поскольку $\partial_{t}z=u$ и
$$ \begin{equation*} \begin{gathered} \, (\partial_{t}^{2}-\Delta_{x})z=0 \quad\text{в }\ \mathbb{Q}, \qquad z=0 \quad\text{на }\ (\partial\Lambda_{0}\setminus\mathcal{O})\times\mathbb{R}, \\ z(\cdot,0)=w, \quad \partial_{t}z(\cdot,0)=f \quad\text{в }\ \Lambda_{0}, \end{gathered} \end{equation*} \notag $$
имеем
$$ \begin{equation} \| u(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}\leqslant \|\nabla_{(x,t)}z(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}=\|\nabla_{x}w\|^{2}_{\Lambda_{0}}+\| g\|^{2}_{\Lambda_{0}}. \end{equation} \tag{2.20} $$
Для функции $w$ справедливы формула Грина $-(\triangle_{x}w,w)_{\Lambda_{0}}=\|\nabla_{x}w\|^{2}_{L_{2}(\Lambda_{0})}$ и неравенство Харди, откуда $\|\nabla_{x}w\|_{L_{2}(\Lambda_{0})}\leqslant 2\| f\|_{H^{0}_{1}(\Lambda)}$. Теперь из (2.20) следует, что $\| u(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}\leqslant 4\| f\|_{H^{0}_{1}(\Lambda)}^{2}+\| g\|^{2}_{L_{2}(\Lambda_{0})}$. Ввиду уже доказанного проверка того, что функция
$$ \begin{equation*} v(x,\tau)=\int_{0}^{+\infty}e^{i\tau t}u(x,t)\,dt \end{equation*} \notag $$
является слабым (а значит, и сильным) решением задачи (2.1) с $f-i\tau g$ вместо $f$ и подчиняется оценке
$$ \begin{equation} \begin{aligned} \, \gamma^{2}\| v(\cdot,\tau)\|_{L_{2}(\Lambda_{0})}^{2}\leqslant 4\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| g\|^{2}_{L_{2}(\Lambda_{0})}, \end{aligned} \end{equation} \tag{2.21} $$
ничем не отличается от проверки аналогичных утверждений в [5; § 1]. Пусть $v\in\mathcal{D}$, тогда $f=A(\tau)v\in H^{0}_{1}(\Lambda_{0})\,{\cap}\, L_{2}(\Lambda_{0})$. Выберем последовательность $\{f_{k}\}\subset C_{c}^{\infty}(\Lambda_{0})$ такую, что $f_{k}\to f$ в $L_{2}(\Lambda_{0})$ и в $H^{0}_{1}(\Lambda_{0})$. В силу (2.13) $A(\tau)^{-1}f_{k}\to v$ в $H^{1}(\Lambda_{0})$. Теперь неравенство (2.14) получается предельным переходом $k\,{\to}\,{+}\infty$ в (2.21) с $A(\tau)^{-1}f_{k}$ вместо $v(\cdot,\tau)$, $f_{k}$ вместо $f$ и с $g=0$. Лемма 4 доказана.

2.2. Комбинированная весовая оценка решений задачи (2.1)

Пусть $\chi,\phi\in C_{c}^{\infty}(\mathbb{R}^{3})$, $\chi\phi=\chi$, $\chi=1$ вблизи вершины $\mathcal{O}$ и носитель функции $\phi$ расположен в достаточно малой окрестности точки $\mathcal{O}$, в которой область $\Lambda_{0}$ совпадает с конусом $\mathbb{K}$. Для всех $p>0$ и $x\in\mathbb{R}^{3}$ положим $\chi_{p}(x):=\chi(pr)$, $\phi_{p}(x):=\phi(pr)$.

Предложение 2. Пусть $\beta\leqslant 1$ и $\beta+i\lambda_{j}\ne 1/2$, $j=1,2,\dots$. Для любых $\tau=\sigma+i\gamma$ ($\sigma\in\mathbb{R}$, $\gamma\in [-1,0)\cap(0,1]$) и $v\in\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$ справедливо неравенство

$$ \begin{equation} \begin{aligned} \, \notag &\| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+\|\nabla_{x} w\|_{H^{0}_{\beta-1}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{\beta-2}(\Lambda_{0})}^{2} \\ \notag &\qquad\qquad +p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr)+\gamma^{4}\| v\|^{2}_{H^{1}_{1}(\Lambda_{0};|\gamma|)} \\ &\qquad\leqslant c\bigl(\| f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr). \end{aligned} \end{equation} \tag{2.22} $$
Здесь $p:=\sqrt{|\sigma|^{2}+1}$, $w=e^{-i\mathfrak{s}\sigma\rho}v$, $f:=(\Delta_{x}+\tau^{2})v$ и $\mathfrak{s}:=\operatorname{sign}\gamma$; постоянная $c$ в (2.22) не зависит ни от $\sigma$, ни от $\gamma$.

Доказательство. Из равенства $\Delta_{x}(\chi_{p}v)=\chi_{p}f-\tau^{2}\chi_{p}v+[\Delta_{x},\chi_{p}]v$ и леммы 2 имеем
$$ \begin{equation} \| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}\leqslant c\bigl(\| \chi_{p}f\|_{H^{0}_{\beta}(\mathbb{K})}+p^{2}\| \chi_{p}v\|_{H^{0}_{\beta}(\mathbb{K})}+\| [\Delta_{x},\chi_{p}]v\|_{H^{0}_{\beta}(\mathbb{K})}\bigr). \end{equation} \tag{2.23} $$
Из определений норм (2.3) и неравенства $p\leqslant c/r$ при $x\in\operatorname{supp}\chi_{p}$ следует, что $\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K};p)}\leqslant c\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}$. Значит, в левой части (2.23) можно заменить $\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}$ на $\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K};p)}$. Аналогично, при достаточно малом $\epsilon>0$ имеем $p^{2}\| \chi_{p/\epsilon}v\|_{H^{0}_{\beta}(\mathbb{K})}\leqslant c\epsilon^{2}\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}$, поэтому слагаемое $p^{2}\| \chi_{p}v\|_{H^{0}_{\beta}(\mathbb{K})}$ в правой части (2.23) можно заменить на $p^{2}\|(\chi_{p}-\chi_{p/\epsilon})v\|_{H^{0}_{\beta}(\mathbb{K})}$. При $x\in\operatorname{supp}(\chi_{p}-\chi_{p/\epsilon})$ или $x\in\operatorname{supp}[\Delta_{x},\chi_{p}]$ выполнено неравенство $0<c_{1}/p\leqslant r\leqslant c_{2}/p$, поэтому
$$ \begin{equation*} p^{2}\|(\chi_{p}-\chi_{p/\epsilon})v\|_{H^{0}_{\beta}(\mathbb{K})}+\| [\Delta_{x},\chi_{p}]v\|_{H^{0}_{\beta}(\mathbb{K})}\leqslant cp^{1-\beta}\|\phi_{p}v\|_{H^{1}_{0}(\mathbb{K})}. \end{equation*} \notag $$
Теперь оценка (2.23) принимает вид
$$ \begin{equation} \| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}\leqslant c\bigl(\| \chi_{p}f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\|\phi_{p}v\|^{2}_{H^{1}_{0}(\Lambda_{0})}\bigr). \end{equation} \tag{2.24} $$
Поскольку $e^{i\mathfrak{s}\sigma\rho}\nabla_{x}w=\nabla_{x}v-i\mathfrak{s}\sigma e_{\rho}v$, имеем $|\nabla_{x}v|\leqslant |\nabla_{x}w|+p|v|$. Отсюда и из неравенства $p\leqslant c/r$ на носителе функции $\phi_{p}$ следует, что $|\nabla_{x}(\phi_{p}v)|\leqslant c(|\nabla_{x}w|+r^{-1}|v|)$. Поэтому
$$ \begin{equation*} \|\phi_{p}v\|_{H^{1}_{0}(\Lambda_{0})}\leqslant c(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}). \end{equation*} \notag $$
Умножим обе части неравенства (2.14) на $p^{2(1-\beta)}$ и сложим с (2.24). Благодаря предыдущей оценке получим
$$ \begin{equation} \begin{aligned} \, \notag & \| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr) \\ &\qquad\leqslant c\bigl(\| \chi_{p}f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr). \end{aligned} \end{equation} \tag{2.25} $$
Поскольку $r^{-1}\leqslant cp$ при $x\in \operatorname{supp}\chi_{p}$, справедливы неравенства
$$ \begin{equation*} \begin{gathered} \, \|((1-\chi_{p})v)\|_{H^{0}_{\beta-2}(\Lambda_{0})}\leqslant cp^{1-\beta}\| v\|_{H^{0}_{-1}(\Lambda_{0})}, \\ \|\nabla_{x}((1-\chi_{p})w)\|^{0}_{H^{\beta-1}(\Lambda_{0})}\leqslant cp^{1-\beta}(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}). \end{gathered} \end{equation*} \notag $$
Отсюда и из (2.25) имеем
$$ \begin{equation} \begin{aligned} \, \notag & \| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+\|\nabla_{x} w\|_{H^{0}_{\beta-1}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{\beta-2}(\Lambda_{0})}^{2} \\ \notag &\qquad\qquad +p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr) \\ &\qquad \leqslant c\bigl(\| \chi_{p}f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr). \end{aligned} \end{equation} \tag{2.26} $$
Теперь покажем, что для всех $\beta'\in\mathbb{R}$ и $v\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, $v|\partial\Lambda_{0}\setminus\mathcal{O}=0$ справедлива оценка
$$ \begin{equation} |\gamma|\,\|\phi_{\infty}v\|_{H^{1}_{\beta'}(\Lambda_{0};|\tau|)}\leqslant c(\|\phi_{\infty}(\Delta_{x}+\tau^{2})v\|_{H^{0}_{\beta'}(\Lambda_{0})}+\| \psi_{\infty}v\|_{H^{1}_{\beta'-1}(\Lambda_{0})}). \end{equation} \tag{2.27} $$
Здесь срезки $\phi_{\infty},\psi_{\infty}\in C^{\infty}(\mathbb{R}^{3})$ выбраны так, что $\phi_{\infty}\psi_{\infty}=\phi_{\infty}$ и функция $\psi_{\infty}$ аннулируется внутри достаточно большого шара, содержащего $\Lambda_{0}$. Пусть $\phi,\psi\in C_{c}^{\infty}(\mathbb{R}^{3})$, $\phi\psi=\phi$, $\phi(x)=1$ при $|x|\in [1/2,2]$ и $\phi(x)=0$ при $|x|\notin[1/4,4]$. Для $x,y\in\mathbb{R}^{3}$ и достаточно малых $\epsilon>0$ обозначим $\phi_{\epsilon}(x):=\phi(\epsilon x)$, $\psi_{\epsilon}(x):=\psi(\epsilon x)$, $v^{\epsilon}(y):=v(\epsilon^{-1}y)$. Из (2.13) (с $\epsilon^{-1}\tau$ вместо $\tau$) имеем
$$ \begin{equation*} \epsilon^{-1}|\gamma|\,\|\phi v^{\epsilon}\|_{H^{1}_{0}(\mathbb{R}^{3},\epsilon^{-1}|\tau|)}\leqslant c(\|\phi(\Delta_{y}+\epsilon^{-2}\tau^{2})v^{\epsilon}\|_{L_{2}(\mathbb{R}^{3})}+\|\psi v^{\epsilon}\|_{H^{1}_{-1}(\mathbb{R}^{3})}) \end{equation*} \notag $$
(нормы $\|\cdot\|_{H^{1}_{\beta}(\mathbb{R}^{3})}$ и $\|\cdot\|_{H^{1}_{\beta}(\mathbb{R}^{3},p)}$ определяются формулами (2.2) и (2.3) с $\mathbb{R}^{3}$ вместо $\mathbb{K}$). Отсюда заменой переменных $x=\epsilon^{-1}y$ выводим
$$ \begin{equation*} |\gamma|\,\|\phi_{\epsilon}v\|_{H^{1}_{0}(\Lambda_{0};|\tau|)}\leqslant c(\|\phi_{\epsilon}(\Delta_{x}+\tau^{2})v\|_{L_{2}(\Lambda_{0})}+\| \psi_{\epsilon}v\|_{H^{1}_{-1}(\Lambda_{0})}). \end{equation*} \notag $$
Умножим последнюю оценку на $\epsilon^{-\beta'}$; поскольку $0<c_{1}r^{-1}\leqslant\epsilon\leqslant c_{2}r^{-1}$ при $x\in\operatorname{supp}\phi_{\epsilon}$, получим
$$ \begin{equation*} |\gamma|\,\|\phi_{\epsilon}v\|_{H^{1}_{\beta'}(\Lambda_{0};|\tau|)}\leqslant c\bigl(\|\phi_{\epsilon}(\Delta_{x}+\tau^{2})v\|_{H^{0}_{\beta'}(\Lambda_{0})}+\| \psi_{\epsilon}v\|_{H^{1}_{\beta'-1}(\Lambda_{0})}\bigr). \end{equation*} \notag $$
Для доказательства (2.27) осталось подставить в последнюю формулу $\epsilon=2^{-j}$ с $j=j_{0}, j_{0}+1,\dots$ (число $j_{0}>0$ – достаточно большое) и просуммировать получившиеся оценки. Выбирая $\beta'=1$ в (2.27) и мажорируя правую часть неравенства с помощью (2.13), находим, что
$$ \begin{equation} \gamma^{2}\|\phi_{\infty}v\|_{H^{1}_{1}(\Lambda_{0};|\tau|)}\leqslant c\bigl(\|(\Delta_{x}+\tau^{2})v\|_{H^{0}_{1}(\Lambda_{0})}+\| (\Delta_{x}+\tau^{2})v\|_{L_{2}(\Lambda_{0})}\bigr). \end{equation} \tag{2.28} $$
Комбинируя (2.26) и (2.28), приходим к (2.22). Предложение 2 доказано.

Далее будем обозначать $p=\sqrt{|\sigma|^{2}+1}$. Введем пространства $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;\delta)$ и $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ ($\beta\leqslant 1$, $\sigma\in\mathbb{R}$, $\delta\in[0,1]$ и $\mathfrak{s}=\pm 1$) как пополнения линеала $C_c^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ по нормам

$$ \begin{equation} \nonumber \| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;\delta)}=\bigl(\| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+\|\nabla_{x} w\|_{H^{0}_{\beta-1}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{\beta-2}(\Lambda_{0})}^{2} \end{equation} \notag $$
$$ \begin{equation} \qquad\qquad +p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr)+\delta^{4}\| v\|^{2}_{H^{1}_{1}(\Lambda_{0};\delta)}\bigr)^{1/2}, \end{equation} \tag{2.29} $$
$$ \begin{equation} \| f\|_{\mathcal{RH}_{\beta}(\Lambda_{0};p)}=\bigl(\| f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr)^{1/2} \end{equation} \tag{2.30} $$
соответственно; здесь $w=e^{-i\mathfrak{s}\sigma\rho}v$. Теперь оценка (2.22) принимает вид
$$ \begin{equation} \| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)}\leqslant c\| (\Delta_{x}+\tau^{2})v\|_{\mathcal{RH}_{\beta}(\Lambda_{0};p)}, \qquad \mathfrak{s}=\operatorname{sign}\gamma. \end{equation} \tag{2.31} $$
Свяжем с задачей (2.1) оператор $\widetilde{A}_{\beta}(\tau)\colon v\to \widetilde{A}_{\beta}(\tau)v:=-(\Delta_{x}+\tau^{2})v$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ с областью определения $\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$. Пусть $\{v_{k}\}\subset\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$ и $v_{k}\to 0$, $f_{k}:=-(\Delta_{x}+\tau^{2})v_{k}\to f$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Равенство $(f_{k},w)_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}=(v_{k},\widetilde{w})_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}$, где $w\in C_{c}^{\infty}(\Lambda_{0})$ и $\widetilde{w}:=-(\Delta_{x}+\tau^{2})\bigl((r^{2\beta}\chi_{p}^{2}+(r^{2}+1)p^{2(1-\beta)})w\bigr)$, проверяется интегрированием по частям. Предельный переход $k\to +\infty$ дает $(f,w)_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}=0$; так как $w$ произвольно, $f=0$. Таким образом, оператор $\widetilde{A}_{\beta}(\tau)$ допускает замыкание. Обозначим это замыкание через $A_{\beta}(\tau)$.

Лемма 5. Пусть $\beta\leqslant 1$, $\beta+i\lambda_{j}\ne 1/2$, $j=1,2,\dots$, и $\tau=\sigma+i\gamma$, $\sigma\in\mathbb{R}$, $\gamma\in[-1,0)\cap(0,1]$. Тогда:

1) $\operatorname{Dom}A_{\beta}(\tau)\subset\operatorname{Dom}A(\tau)$ и $A_{\beta}(\tau)v=A(\tau)v$ для любого элемента $v\in \operatorname{Dom}A_{\beta}(\tau)$.

2) Для всех $v\in \operatorname{Dom}A_{\beta}(\tau)$ справедлива оценка

$$ \begin{equation} \| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)}\leqslant c\| A_{\beta}(\tau)v\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}, \qquad \mathfrak{s}=\operatorname{sign}\gamma. \end{equation} \tag{2.32} $$

3) $\operatorname{Ker}A_{\beta}(\tau)=\{0\}$ и $\operatorname{Ran}A_{\beta}(\tau)$ есть подпространство в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$.

Доказательство. Пусть $v\in\operatorname{Dom}A_{\beta}(\tau)$, тогда существует такая последовательность $\{v_{k}\}\subset\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$, что $v_{k}\to v$ и $-(\Delta_{x}+\tau^{2})v_{k}\to A_{\beta}(\tau)v$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Поскольку вложение $\mathcal{RH}_{\beta}(\Lambda_{0},p)\subset L_{2}(\Lambda_{0})$ непрерывно, имеем $v_{k}\to v$, $-(\Delta_{x}+\tau^{2})v\to A_{\beta}(\tau)v$ в $L_{2}(\Lambda_{0})$. Поэтому $v\in \operatorname{Dom}A(\tau)$ и $A(\tau)v=A_{\beta}(\tau)v$. В частности, $\operatorname{Ker}A_{\beta}(\tau)=\operatorname{Ker}A(\tau)=\{0\}$. Поскольку последовательность $\{-(\Delta_{x}+\tau^{2})v_{k}\}$ фундаментальна в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$, из оценки (2.31) следует, что $\{v_{k}\}$ есть фундаментальная последовательность в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$. Поскольку $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$ полно, последовательность $\{v_{k}\}$ сходится в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$ к некоторому элементу $\widetilde{v}$. Вложение $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)\subset L_{2}(\Lambda_{0})$ непрерывно, поэтому $v_{k}\to \widetilde{v}$ в $L_{2}(\Lambda_{0})$ и $\widetilde{v}=v$. Теперь предельным переходом в оценке (2.31) (с $v_{k}$ вместо $v$) получаем (2.32). Осталось показать, что $\operatorname{Ran}A_{\beta}(\tau)=\overline{\operatorname{Ran}A_{\beta}(\tau)}$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Пусть $\{v_{k}\}\subset\operatorname{Dom}A_{\beta}(\tau)$ и последовательность $\{A_{\beta}(\tau)v_{k}\}$ фундаментальна в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Из (2.32) с $v_{k}$ вместо $v$ вытекает, что последовательность $\{v_{k}\}$ фундаментальна в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$. Поскольку $\gamma\ne 0$ и $\beta\leqslant 1$, пространство $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$ непрерывно вложено в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$; таким образом, последовательность $\{v_{k}\}$ фундаментальна в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Ввиду полноты $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ существуют такие $v$ и $f$, что $v_{k}\to v$ и $A_{\beta}(\tau)v_{k}\to f$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Поскольку оператор $A_{\beta}(\tau)$ замкнут, отсюда имеем $v\in\operatorname{Dom}A_{\beta}(\tau)$ и $A_{\beta}(\tau)v=f$.

Лемма доказана.

Пусть $\beta_{1}>\beta_{2}>\dotsb$ – последовательность всех таких чисел из $(-\infty,1)$, что прямая $\operatorname{Im}\lambda=\beta_{k}-1/2$ содержит хотя бы одно собственное число пучка $\mathfrak{A}$. Для $\beta\leqslant 1$, $\beta\ne\beta_{k}$, $k=1,2,\dots$, обозначим $\mathfrak{J}(\beta):=\{j\,{\in}\,\mathbb{N}\colon \operatorname{Im}\lambda_{j}\,{>}\,\beta\,{-}\,1/2\}$. Введем решения $w_{j}(\cdot,\overline{\tau})$, $j=1,2,\dots$, однородной задачи (2.1) с растущей асимптотикой $w_{j}(\cdot,\overline{\tau})\sim r^{i\lambda_{-j}}\Phi_{j}$ вблизи вершины $\mathcal{O}$. Более точно $w_{j}(\cdot,\overline{\tau})=\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau})+\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$, где $\chi$ – гладкая срезающая функция, равная единице вблизи $\mathcal{O}$, число $K>0$ – достаточно большое, чтобы выполнялось $(\Delta_{x}+\overline{\tau}^{2})(\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau}))\in L_{2}(\Lambda_{0})$, и $\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$ – решение уравнения $A_{1}(\overline{\tau})\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})=(\Delta_{x}+\overline{\tau}^{2})(\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau}))$. Поскольку $\operatorname{Ker}A(\overline{\tau})=\{0\}$, функция $w_{j}(\cdot,\overline{\tau})$ не зависит от выбора $K$ и срезки $\chi$. Из (2.9) и (2.32) следует, что

$$ \begin{equation} \|\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})\|_{H^{0}_{-1}(\Lambda_{0})}=O(p^{1/2-i\lambda_{-j}}). \end{equation} \tag{2.33} $$
Справедливы равенства
$$ \begin{equation} (-(\Delta+\tau^{2})(\chi_{p} y_{j}^{K}(\cdot,\tau)),w_{j'}^{K}(\cdot,\overline{\tau}))_{\Lambda_{0}}=\delta_{j,j'}. \end{equation} \tag{2.34} $$
Действительно, пусть $\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau})\in\mathcal{D}$ и $-(\Delta_{x}+\overline{\tau}^{2})\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau})\to A(\overline{\tau})\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$, $\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau})\to \widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$ в $L_{2}(\Lambda_{0})$ при $s\to\infty$. Интегрируя по частям с учетом (2.6), имеем
$$ \begin{equation*} \begin{aligned} \, & (-(\Delta_{x}+\tau^{2})(\chi_{p} y_{j}^{K}(\cdot,\tau)),\chi y_{-j}^{K}(\cdot,\overline{\tau})+\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau}))_{\Lambda_{0}} \\ &\qquad=\delta_{j,j'}-(\chi_{p} y_{j}^{K}(\cdot,\tau),(\Delta_{x}+\overline{\tau}^{2})(\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau}))+\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau}))_{\Lambda_{0}}. \end{aligned} \end{equation*} \notag $$
Отсюда предельным переходом $s\to\infty$ получается (2.34).

Лемма 6. Пусть $\beta\leqslant 1$, $\beta\ne\beta_{k}$, $k=1,2,\dots$, и $\tau\in\mathbb{C}\setminus\mathbb{R}$. Тогда

$$ \begin{equation*} \operatorname{Ran}A_{\beta}(\tau)=\{f\in\mathcal{RH}_{\beta}(\Lambda_{0},p)\colon \ (f,w_{j}(\cdot,\overline{\tau}))_{\Lambda_{0}}=0 \ \ \forall j\in\mathfrak{J}(\beta)\}, \end{equation*} \notag $$
в частности $\operatorname{Ran}A_{\beta}(\tau)=\mathcal{RH}_{\beta}(\Lambda_{0},p)$ при $\beta\in(\beta_{1},1]$.

Доказательство леммы повторяет доказательство [4; предложение 5.2].

2.3. Решения задачи (2.1) при $\gamma=0$

Пусть $\gamma=0$, $\tau=\sigma\in\mathbb{R}$, $\mathfrak{s}\,{=}\,{\pm}1$ и $f\in H^{0}_{1}(\Lambda_{0})\,{\cap}\, L_{2}(\Lambda_{0})$. Будем называть $\mathfrak{s}$-слабым решением задачи (2.1) функцию $v\in\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ такую, что $v|\partial\Lambda_{0}\setminus\mathcal{O}=0$ и

$$ \begin{equation} a(v,w):=(\nabla v,\nabla w)_{\Lambda_{0}}-\sigma^{2}(v,w)_{\Lambda_{0}}=(f,w)_{\Lambda_{0}} \quad \forall \,w\in\mathcal{D}. \end{equation} \tag{2.35} $$
Заметим, что из включения $v\in\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ вытекает условие излучения
$$ \begin{equation*} \int_{\Lambda_{0}}|(\partial_{\rho}-i\mathfrak{s}\sigma)v|^{2}\,dx <\infty. \end{equation*} \notag $$
Единственность $\mathfrak{s}$-слабого решения вытекает из следующего утверждения.

Лемма 7. Пусть $\sigma\,{\in}\,\mathbb{R}$, $\beta\,{\leqslant}\,1$ и $\mathfrak{s}\,{=}\,{\pm}1$. Если $v\in\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$, $v|\partial\Lambda_{0}\,{\setminus}\,\mathcal{O}\,{=}\,0$ и $v$ удовлетворяет (2.35), то $v\equiv 0$.

Доказательство. Из известных результатов о локальных свойствах решений эллиптических задач (см. [6]) следует, что $v\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, $ (\Delta_{x}+\sigma^{2})v=0$ в $\Lambda_{0}$, $v=0$ на $\partial\Lambda_{0}\setminus\mathcal{O}$ и
$$ \begin{equation} v(x)=\sum_{j=1}^{m}c_{j}y_{j}^{K}(x,\sigma)+O(r^{i\lambda_{m+1}}), \qquad x\to 0. \end{equation} \tag{2.36} $$
Здесь $c_{j}$ – некоторые коэффициенты, число $K=K(m)>0$ – достаточно большое. Разложение (2.36) справедливо при каждом $m=1,2,\dots$ и допускает любое число дифференцирований. Пусть $B_{R}(x_{0}):=\{x\in\Lambda_{0}\colon \rho<R\}$ – шар достаточно большого радиуса $R$; интегрируя по частям в $\Lambda_{0}\cap B_{R}(x_{0})$ с учетом (2.36), получаем
$$ \begin{equation*} \int_{\partial B_{R}(x_{0})}\operatorname{Im}(\overline{v}\partial_{\rho}v)\,dS=0. \end{equation*} \notag $$
Поскольку $|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}v)|\geqslant|\partial_{\rho}v-i\mathfrak{s}\sigma v|^{2}=|\partial_{\rho}v|^{2}+\sigma^{2}|v|^{2}-2\mathfrak{s}\operatorname{Im}(\overline{v}\partial_{\rho}v)$, имеем
$$ \begin{equation*} \int_{\rho >R_{0}}(|\partial_{\rho}v|^{2}+\sigma^{2}|v|^{2})\,dx=\int_{\rho >R_{0}}|\partial_{\rho}v-i\mathfrak{s}\sigma v|^{2}\,dx\leqslant c\| v\|_{\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}^{2}<+\infty. \end{equation*} \notag $$
При $\sigma\ne 0$ отсюда вытекает включение $v\in L_{2}(\Lambda_{0})$; в силу результатов работы [9] и свойств единственности продолжения решений однородных эллиптических уравнений второго порядка (см., например, [10]) это означает, что $v\equiv 0$ в $\Lambda_{0}$. Теперь пусть $\sigma=0$, тогда из включения $v\in \mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ следует, что $v\in H^{1}_{0}(\Lambda_{0})$ и $r^{-1}v\nabla\overline{v}\in L_{1}(\Lambda_{0})$. Пусть $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$ и $\chi=1$ вблизи нуля. С учетом (2.36) и неравенства $0<c_{1}/R \leqslant 1/|x|\leqslant c_{2}/R$ на носителе функции $x\to[\nabla\chi](x/R)$ выводим
$$ \begin{equation*} \begin{aligned} \, 0 &=-\int_{\Lambda_{0}}\Delta_{x}v\chi\biggl(\frac rR\biggr)\overline{v}\,dx =\int_{\Lambda_{0}}\chi\biggl(\frac rR\biggr)|\nabla_{x}v|^{2}\,dx +\frac{1}{R}\int_{\Lambda_{0}}v[\nabla\chi]\biggl(\frac xR\biggr)\nabla\overline{v}\,dx \\ &\to\| \nabla_{x}v\|^{2}_{L_{2}(\Lambda_{0})}, \qquad R\to+\infty. \end{aligned} \end{equation*} \notag $$
Таким образом, $\nabla_{x}v\equiv 0$ и $v\equiv 0$ в $\Lambda_{0}$. Лемма доказана.

Теперь докажем существование $\mathfrak{s}$-слабого решения. Пусть $\beta\in (\beta_{1},1]$ и $f\in\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Выберем последовательности $\{\gamma_{k}\}\subset\mathbb{R}$ и $\{f_{k}\}\subset\mathcal{RH}_{\beta}(\Lambda_{0},p)$ такие, что $\gamma_{k}\ne 0$, $\operatorname{sign}\gamma_{k}=\mathfrak{s}$, $\gamma_{k}\to 0$ и $f_{k}\to f$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ (в качестве $f_{k}$ можно взять $f_{k}=f$). В силу лемм 5 и 6 существуют решения $v_{k}$ уравнений $A_{\beta}(\sigma+i\gamma_{k})v_{k}\,{=}\,f_{k}$, причем $v_{k}$ являются слабыми решениями задачи (2.1) и подчиняются оценке

$$ \begin{equation} \| v_{k}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant\| v_{k}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma_{k}|)}\leqslant c\| f_{k}\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}. \end{equation} \tag{2.37} $$
В частности, последовательность $\{v_{k}\}$ ограничена в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$.

Лемма 8. Замкнутый единичный шар в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;\delta)$ ($\sigma\in\mathbb{R}$, $\delta\geqslant 0$, $\mathfrak{s}=\pm$) слабо компактен.

Доказательство. Достаточно заметить, что пространство $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ (со скалярным произведением, определенным из (2.29)) гильбертово и сепарабельно; проверка сепарабельности осуществляется так же, как для обычных соболевских пространств $H^{s}(\Omega)$. Лемма доказана.

В силу леммы 8 и неравенства (2.37) из $\{v_{k}\}$ можно выбрать подпоследовательность $\{v_{k(j)}\}$, слабо сходящуюся к некоторому элементу $v$ пространства $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$, причем

$$ \begin{equation*} \| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant \liminf_{k\to\infty}\| v_{k(j)}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant c\| f\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}. \end{equation*} \notag $$
Далее без ограничения общности будем считать, что подпоследовательность $\{v_{k(j)}\}$ совпадает с исходной последовательностью $\{v_{k}\}$. Пусть $\delta\in(0,1/2)$ и $\mathcal{K}$ – произвольная подобласть $\Lambda_{0}$ с компактным замыканием. В силу определений норм вложение $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)\subset H^{1}(\mathcal{K})$ непрерывно, поэтому $v_{k}\to v$ слабо в $H^{1}(\mathcal{K})$. Если граница подобласти $\mathcal{K}$ гладкая, то оператор следа, действующий из $H^{1}(\mathcal{K})$ в $H^{\delta}(\partial\mathcal{K})$, компактен; поэтому из равенств $v_{k}|\partial\Lambda_{0}\setminus\mathcal{O}=0$ имеем $v|\partial\Lambda_{0}\setminus\mathcal{O}=0$. Пусть $w$ – произвольный элемент $\mathcal{D}$, тогда можно выбрать такую подобласть $\mathcal{K}\subset\Lambda_{0}$ с компактным замыканием, что $\operatorname{supp}w\subset\overline{\mathcal{K}}$. Поскольку $v_{k}$ являются слабыми решениями задачи (2.1) c $f_{k}$ вместо $f$ и $\sigma+i\gamma_{k}$ вместо $\tau$, имеем $a(v_{k},w;\sigma+i\gamma_{k})=(f_{k},w)_{L_{2}(\Lambda_{0})}$ (форма $a(\cdot,\cdot;\tau)$ определена в (2.10)). Отсюда предельным переходом $k\to +\infty$ получаем $a(v,w;\sigma)=(f,w)_{L_{2}(\Lambda_{0})}$. Значит, $v$ есть $\mathfrak{s}$-слабое решение задачи (2.1). Поскольку такое решение единственно (см. лемму 7), $v$ не зависит от выбора последовательности $\{v_{k}\}$.

Теперь пусть $\beta'\in(\beta_{m-1},\beta_{m})$, $m=1,2,\dots$, и $f\in\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Выясним, при каких условиях уже построенное решение $v$ принадлежит $\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$. Сначала распространим определения функций $w_{j}(\cdot,\overline{\tau})$, $j\in\mathfrak{J}(\beta')$, из леммы 6 на случай $\tau=\sigma\pm i0$. Выберем последовательность $\{w_{j}(\cdot,\sigma-i\gamma_{k})\}$. Имеем $w_{j}(\cdot,\sigma-i\gamma_{k})=\chi_{p} y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})+\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})$, где $K$ – достаточно большое число и $\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})$ – решение уравнения

$$ \begin{equation*} A(\sigma-i\gamma_{k})\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})=(\Delta_{x}+(\sigma-i\gamma_{k})^{2})(\chi_{p} y_{j}(\cdot,\sigma-i\gamma_{k})). \end{equation*} \notag $$
Более того,
$$ \begin{equation} \begin{gathered} \, \chi_{p} y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})\to\chi_{p} y_{-j}^{K}(\cdot,\sigma) \quad\text{в }\ H_{-\beta'}(\Lambda_{0}), \\ \notag (\Delta_{x}+(\sigma-i\gamma_{k})^{2})(\chi_{p} y_{-j}^{K}(\cdot,\sigma+i\gamma_{k}))\to (\Delta_{x}+\sigma^{2})(\chi_{p} y_{-j}^{K}(\cdot,\sigma)) \quad\text{в }\ \mathcal{RH}_{\beta}(\Lambda_{0},p) \end{gathered} \end{equation} \tag{2.38} $$
(см. (2.8)). Из уже доказанного следует, что из $\{w_{j}(\cdot,\sigma-i\gamma_{k})\}$ можно выбрать такую подпоследовательность $\{w_{j}(\cdot,\sigma-i\gamma_{k(s)})\}$, что $\{\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k(s)})\}$ сходится слабо в $\mathcal{DH}_{\beta}^{-\mathfrak{s}}(\Lambda_{0};\sigma;0)$ к (единственному) $-\mathfrak{s}$-слабому решению $\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)$ задачи (2.1) с $f=(\Delta_{x}+\sigma^{2})(\chi_{p}y_{-j}^{K}(\cdot,\sigma))$. Более того, из (2.33) вытекает
$$ \begin{equation} \|\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)\|_{H^{0}_{-1}(\Lambda_{0})} =\liminf_{k\to\infty}\|\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})\|_{H^{0}_{-1}(\Lambda_{0})}=O(p^{1/2-i\lambda_{-j}}). \end{equation} \tag{2.39} $$
Обозначим $w_{j}^{-\mathfrak{s}}(\cdot,\sigma):=-\chi_{p}y_{-j}^{K}(\cdot,\sigma)+\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)$. Теперь соотношения (2.34) можно распространить на значения параметра $\tau=\sigma+\mathfrak{s}i0$ как
$$ \begin{equation} (-(\Delta+\tau^{2})(\chi_{p} y_{j}^{K}(\cdot,\sigma)),\ w_{j}^{\mp}(\cdot,\sigma))_{\Lambda_{0}}=\delta_{j,j'}. \end{equation} \tag{2.40} $$
Пусть выполнены условия ортогональности
$$ \begin{equation} (f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}=0, \qquad j\in\mathfrak{J}(\beta'). \end{equation} \tag{2.41} $$
Построим $\mathfrak{s}$-слабое решение $v'\in\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ задачи (2.1). Для этого достаточно повторить процедуру, использованную при построении решения $v$ (с заменой $\beta$ на $\beta'$). Единственное отличие состоит в выборе подходящих функций $f_{k}$ (требуется разрешимость уравнений $A_{\beta'}(\sigma+i\gamma_{k})v'_{k}=f_{k}$). Ввиду леммы 6 и соотношений (2.34) в качестве $f_{k}\in\operatorname{Ran}A_{\beta}(\sigma+i\gamma_{k})$ можно взять функции
$$ \begin{equation*} f_{k}=f+\sum_{j\in\mathfrak{J}(\beta)}d_{j,k}(\Delta_{x}+(\sigma+i\gamma_{k})^{2})(\chi_{p} y_{j}^{K}(\cdot,\sigma+i\gamma_{k})), \qquad d_{j,k}=(f,w_{j}(\cdot,\sigma-i\gamma_{k}))_{\Lambda_{0}}. \end{equation*} \notag $$
Осталось проверить сходимость $f_{k}\to f$ в $\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Последовательность $\{(\Delta_{x}+(\sigma+i\gamma_{k})^{2})(\chi_{p} y_{j}^{K}(\cdot,\sigma+i\gamma_{k}))\}$ ограничена в $\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Поскольку $\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k(s)})-\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)$ слабо сходятся к нулю в $\mathcal{DH}_{\beta}^{-\mathfrak{s}}(\Lambda_{0};\sigma;0)$, пространство $\mathcal{DH}_{\beta}^{-\mathfrak{s}}(\Lambda_{0};\sigma;0)$ непрерывно вложено в $H^{0}_{-1}(\Lambda_{0})$ и $f\in H^{0}_{1}(\Lambda_{0})=(H^{0}_{-1}(\Lambda_{0}))^{*}$, имеем $(f,\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k(s)}))_{\Lambda_{0}}\to(f,\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}$. Из (2.38) следует, что
$$ \begin{equation*} \begin{aligned} \, & |(f,\chi_{p} (y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})-y_{-j}^{K}(\cdot,\sigma)))_{\Lambda_{0}}| \\ &\qquad \leqslant\| \chi_{p} (y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})-y_{-j}^{K}(\cdot,\sigma))\|_{H^{0}_{-\beta'}(\Lambda_{0})}\| f\|_{H^{0}_{\beta'}(\Lambda_{0})}\to 0. \end{aligned} \end{equation*} \notag $$
Значит, $d_{j,k}\to (f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}=0$ и, следовательно, $f_{k}\to f$ в $\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Так как $v'\in\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0) \subset\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$, функция $v'$ совпадает с $v$ в силу леммы 7. Суммируем вышесказанное в следующем утверждении.

Предложение 3. Пусть $\sigma\in\mathbb{R}$ и функция $f\in\mathcal{RH}_{\beta'}(\Lambda_{0},p)$ удовлетворяет условиям ортогональности (2.41). Тогда $\mathfrak{s} $-слабое решение $v$ задачи (2.1) принадлежит $\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ и подчиняется оценке

$$ \begin{equation} \| v\|_{\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant c\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{2.42} $$
Постоянная $c$ в (2.42) не зависит от $\sigma$.

Предложение 3 позволяет описать асимптотику $\mathfrak{s}$-слабых решений задачи (2.1) вблизи вершины $\mathcal{O}$. В самом деле, представим $\mathfrak{s}$-слабое решение $v$ задачи (2.1) (с $\sigma\in\mathbb{R}$ и $f\in\mathcal{RH}_{\beta'}(\Lambda_{0},p)$) в виде

$$ \begin{equation} v=\chi_{p}(x)\sum_{j\in\mathfrak{J}(\beta')}c_{j}y_{j}^{K}(\cdot,\sigma)+\widetilde{v}, \qquad c_{j}:=(f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}. \end{equation} \tag{2.43} $$
Функция $\widetilde{v}$ является $\mathfrak{s}$-слабым решением задачи (2.1) с правой частью
$$ \begin{equation*} f+\sum_{j\in\mathfrak{J}(\beta')}c_{j}(\Delta_{x}+\tau^{2})(\chi_{p}y_{j}^{K}(\cdot,\sigma))=:\widetilde{f}\in\mathcal{RH}_{\beta'}(\Lambda_{0},p). \end{equation*} \notag $$
Из (2.40) следует, что $\widetilde{f}$ подчиняется условиям (2.41). Отсюда и из предложения 3 вытекает, что $\widetilde{v}\in\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ и
$$ \begin{equation*} \| \widetilde{v}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant c\| \widetilde{f}\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}\leqslant c(\| \widetilde{f}-f\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}+\| f\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}). \end{equation*} \notag $$
Из (2.9) и (2.39) имеем
$$ \begin{equation*} \begin{aligned} \, &|c_{j}|=|(f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}|\leqslant \| f\|_{H^{0}_{\beta'}(\Lambda_{0})}\|\chi_{p} y_{-j}(\cdot,\sigma)\|_{H^{0}_{-\beta'}(\Lambda_{0})} \\ &\qquad\qquad+\| f\|_{H^{0}_{1}(\Lambda_{0})}\|\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)\|_{H^{0}_{-1}(\Lambda_{0})}\leqslant c\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}p^{\operatorname{Im}\lambda_{-j}+\beta'-1/2}, \\ & \|(\Delta_{x}+\tau^{2})(\chi_{p}y_{j}^{K}(\cdot,\sigma))\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}=O(p^{3/2-\beta'+\operatorname{Im}\lambda_{j}}). \end{aligned} \end{equation*} \notag $$
Отсюда $\| f-\widetilde{f}\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}\leqslant cp^{2}\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.$ Таким образом, справедливо

Предложение 4. Пусть $\sigma\,{\in}\,\mathbb{R}$ и $f\,{\in}\,\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Тогда $\mathfrak{s}$-слабое решение $v$ задачи (2.1) допускает разложение (2.43) с остатком $\widetilde{v}$, подчиненным оценке $\|\widetilde{v}\|_{\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant cp^{2}\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}$. Коэффициенты $c_{j}$ в (2.43) удовлетворяют неравенствам $|c_{j}|\leqslant c\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}p^{\operatorname{Im}\lambda_{-j}+\beta'-1/2}$. Константа $c$ в обеих оценках не зависит от $\sigma$.

В заключение пункта приведем сведения о поведении $\mathfrak{s}$-слабого решения $v$ задачи (2.1) на бесконечности.

Лемма 9. 1) Если $f\in C_{c}^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, то $\mathfrak{s}$-слабое решение $v$ задачи (2.1) допускает представление $v(x)=r^{-1}e^{i\mathfrak{s}\sigma r}s(\theta)+O(r^{-2})$, где $s\in C^{\infty}(S_{1})$. Справедливо равномерное по $\sigma\in\mathbb{R}\setminus\{0\}$ неравенство

$$ \begin{equation} \| s\|_{L_{2}(S_{1})}^{2}\leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{0}}\rho^{2}|f(x,\sigma)|^{2}\,dx. \end{equation} \tag{2.44} $$

2) Для функций $w_{j}^{\pm}(\cdot,\sigma)$ из (2.41) справедливы представления

$$ \begin{equation} w_{j}^{\pm}(\cdot,\sigma)=r^{-1}e^{\pm i\sigma r}\mathbf s_{j}^{\pm}(\theta,\sigma)+O(r^{-2}), \end{equation} \tag{2.45} $$
где $\mathbf s_{j}^{\pm}(\cdot,\sigma)\in C_{c}^{\infty}(S_{1})$ и $\|\mathbf s_{j}^{\pm}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2}=O((1+|\sigma|^{-1})p^{2\operatorname{Im}\lambda_{-j}+1})$.

Доказательство. В силу теорем о повышении гладкости решений эллиптических задач $v\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$. Обозначим через $\psi_{\infty}$ гладкую в $\mathbb{R}^{3}$ срезку, равную единице в окрестности бесконечности и аннулирующуюся вблизи $\overline{\Lambda_{0}}$. Функция $\psi_{\infty}v\in C^{\infty}(\mathbb{R}^{3})$ является единственным (в силу [5; теорема 3]) решением задачи
$$ \begin{equation} {-}(\Delta_{x}+\sigma^{2})v'=\widetilde{f}:=-[\Delta_{x},\psi_{\infty}]v+\psi_{\infty}f \quad\text{в }\ \mathbb{R}^{3}, \qquad \int_{\mathbb{R}^{3}}|(\partial_{\rho}-i\mathfrak{s}\sigma)v'|^{2}\,dx<\infty \end{equation} \tag{2.46} $$
и потому совпадает с (классическим) решением
$$ \begin{equation*} v'(x):=\int_{B_{R_{0}}(\mathcal{O})}\frac{e^{i\sigma\mathfrak{s}|x-x'|}}{4\pi|x-x'|}\widetilde{f}(x')\,dx' \end{equation*} \notag $$
уравнения $-(\Delta_{x}+\sigma^{2})v'=\widetilde{f}$ с асимптотикой $v'(x)=r^{-1}e^{i\mathfrak{s}\sigma r}s(\theta)+O(r^{-2})$ при $r\to+\infty$ (здесь $s\in C_{c}^{\infty}(S_{1})$). Такая же асимптотика справедлива и для $v$. Повторяя выкладки из доказательства леммы 1 (с учетом поведения $v$ вблизи вершины $\mathcal{O}$), выводим (2.44). Утверждение 2) вытекает из 1), поскольку $w_{j}^{\mathfrak{s}}(\cdot,\sigma)=\widetilde{w}_{j}^{\mathfrak{s}}(\cdot,\sigma)$ при $r\geqslant\mathrm{const}$; здесь $\widetilde{w}_{j}^{\mathfrak{s}}(\cdot,\sigma)$ есть $\mathfrak{s}$-слабое решение задачи (2.1) с $f=(\Delta_{x}+\sigma^{2})(\chi_{p}y_{-j}^{K}(\cdot,\sigma))$. Лемма доказана.

2.4. Оператор рассеяния

Распространим результаты работы [1] на случай области $\Lambda_{0}$ с конической точкой. Введем самосопряженный (см. лемму 3) оператор $\mathcal{A}_{0}:=A(\tau)+\tau^{2}I$. Пусть $v\in \operatorname{Dom}\mathcal{A}_{0}$, выберем последовательность $\{v_{k}\}\subset\mathcal{D}$ такую, что $v_{k}\to v$, $-\Delta v_{k}\to \mathcal{A}_{0}v$ в $L_{2}(\Lambda_{0})$. Из (2.12) следует, что $\|\nabla_{x}(v_{k}-v_{k'})\|^{2}_{L_{2}(\Lambda_{0})}\leqslant\|\Delta_{x}(v_{k}-v_{k'})\|_{L_{2}(\Lambda_{0})}\| v_{k}-v_{k'}\|_{L_{2}(\Lambda_{0})}$ и $\{v_{k}\}$ фундаментальна в $H^{1}(\Lambda_{0})$. Тогда в силу оценки (2.7) с $\chi v_{k}-\chi v_{k'}$ вместо $v$ последовательность $\{\chi v_{k}\}$ фундаментальна в $H^{2}_{1}(\Lambda_{0})$. Значит, $\{v_{k}\}$ фундаментальна в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ и $v=\lim_{k\to \infty} v_{k}$ в $\mathcal{DH}_{\beta}^{\pm}(\Lambda_{0};1;0)$. Поэтому $\operatorname{Dom}\mathcal{A}_{0}\subset\mathcal{DH}_{1}^{\pm}(\Lambda_{0};1;0)$ и точечный спектр оператора $\mathcal{A}_{0}$ отсутствует (см. лемму 7).

Пусть $\chi_{\infty}\in C^{\infty}(\mathbb{R}^{3})$, $\chi_{\infty}=1$ в окрестности бесконечности и $\chi_{\infty}=0$ внутри достаточно большого шара, содержащего $\mathbb{R}^{3}\setminus\Lambda_{0}$. Для $k\in\mathbb{R}^{3}$, $\mathfrak{s}=\pm$ введем функции

$$ \begin{equation} x\to \mathbf y_{0}^{\mathfrak{s}}(x,k)=\chi_{\infty}(x)e^{-ik\cdot x}+\mathbf u_{0}^{\mathfrak{s}}(x,k), \end{equation} \tag{2.47} $$
где $\mathbf u_{0}^{\mathfrak{s}}(\cdot,k)\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ есть $\mathfrak{s}$-слабое решение задачи (2.1) с $\tau=|k|$ и $f(x)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. Из леммы 9 вытекает разложение
$$ \begin{equation} \mathbf y_{0}^{\mathfrak{s}}(x,k)=e^{-ik\cdot x}+|x|^{-1}e^{i\mathfrak{s}|k||x|}\mathcal{S}^{\mathfrak{s}}_{0}(|x|^{-1}x,k)+O(|x|^{-2}), \qquad |x|\to +\infty, \end{equation} \tag{2.48} $$
где $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)\in C^{\infty}(S_{1})$ (из доказательства той же леммы следует, что асимптотика (2.48) равномерна, а функции $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)$ равностепенно непрерывны при $0<c\leqslant|k|<1/c$). Для $\phi\in C_{c}^{\infty}(\Lambda_{0})$ обозначим
$$ \begin{equation*} [\mathcal{F}_{\mathfrak{s},0,x\to k}\phi](k):=(2\pi)^{-3/2}\int_{\Lambda_{0}}\phi(x)\overline{\mathbf y_{0}^{\mathfrak{s}}(x,k)}\,dx. \end{equation*} \notag $$

Лемма 10. Для всех $\phi\in C_{c}^{\infty}(\Lambda_{0})$ имеем $\mathcal{F}_{\mathfrak{s},0,x\to k}\phi\in L_{2}(\mathbb{R}^{3})$ и

$$ \begin{equation} \| E^{\mathcal{A}_{0}}_{b}\phi\|^{2}_{L_{2}(\Lambda_{0})}-\| E^{\mathcal{A}_{0}}_{a}\phi\|^{2}_{L_{2}(\Lambda_{0})}=\int_{|k|^{2}\in(a,b)}|[\mathcal{F}_{\pm,0,x\to k}\phi](k)|^{2}\, dk, \end{equation} \tag{2.49} $$
где $E^{\mathcal{A}_{0}}_{\lambda}:=E^{\mathcal{A}_{0}}(-\infty,\lambda)$ – спектральная мера оператора $\mathcal{A}_{0}$. Отображение $\mathcal{F}_{\mathfrak{s},0,x\to k}$ продолжается по непрерывности до унитарного оператора, действующего из $L_{2}(\Lambda_{0})$ на подпространство $\operatorname{Ran}\mathcal{F}_{\mathfrak{s},0,x\to k}$ в $L_{2}(\mathbb{R}^{3})$. Для любой измеримой по Лебегу и почти всюду конечной функции $f\mathbb{R}\to\mathbb{C}$ выполнено равенство $f(\mathcal{A}_{0})=\mathcal{F}_{\mathfrak{s},0,k\to x}^{-1}[ f(|k|^{2})] \mathcal{F}_{\mathfrak{s},0,x\to k}$ (здесь $[ g(k)]$ – оператор умножения на функцию $k\to g(k)$).

Проверка леммы по существу состоит в переносе на случай негладкой области $\Lambda_{0}$ рассуждений из доказательства [1; теорема 1]; для удобства читателя мы приводим необходимые выкладки в § 4. Теперь введем гильбертово пространство $\mathcal{H}_{0}$ как пополнение линеала $\operatorname{Dom}\mathcal{A}_{0}\times\operatorname{Dom}\mathcal{A}_{0}$ относительно скалярного произведения

$$ \begin{equation*} (\{\phi,\psi\},\{\phi',\psi'\})_{\mathcal{H}_{0}}:=(\nabla\phi,\nabla\phi')_{L_{2}(\Lambda_{0})}+(\psi,\psi')_{L_{2}(\Lambda_{0})}. \end{equation*} \notag $$
Оператор $G_{0}\colon G_{0}\{\phi,\psi\}:=\{-i\psi,i\mathcal{A}_{0}\phi\}$ ($\operatorname{Dom} G_{0}=\operatorname{Dom}\mathcal{A}_{0}\times L_{2}(\Lambda_{0})$) самосопряжен в $\mathcal{H}_{0}$. Свяжем с задачей Коши–Дирихле для волнового уравнения
$$ \begin{equation} \begin{cases} (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, & x\in\Lambda_{0}, \ t>0, \\ u(x,t)=0, & x\in\partial\Lambda_{0}\setminus\mathcal{O}, \ t>0, \\ u(x,0)=\phi(x), \ \partial_{t}u(x,0)=\psi(x), & x\in\Lambda_{0}, \end{cases} \end{equation} \tag{2.50} $$
сильно непрерывную группу унитарных операторов
$$ \begin{equation*} t\to U_{0}(t):=\exp(iG_{0}t)=\int_{-\infty}^{+\infty}e^{i\mu t}\,dE^{G_{0}}_{\mu} \end{equation*} \notag $$
с генератором $iG_{0}$ ($E^{G_{0}}_{\mu}:=E^{G_{0}}(-\infty,\mu)$ – спектральная мера оператора $G_{0}$). Имеем $G_{0}^{k}U_{0}(t)=U_{0}(t)G_{0}^{k}$, $k=1,\dots$ . Пусть $\{u(\cdot,t),v(\cdot,t)\}=U_{0}(t)\{\phi,\psi\}$ и $\{\phi,\psi\}\in\operatorname{Dom}G_{0}^{k}$ при всех $k=1,2,\dots$ . Тогда
$$ \begin{equation} \begin{gathered} \, \nonumber \{\partial_{t}^{k}u(\cdot,t),\partial_{t}^{k}v(\cdot,t)\}\in\operatorname{Dom}G_{0}^{k'}, \\ (iG_{0})^{k'}\{\partial_{t}^{k}u(\cdot,t),\partial_{t}^{k}v(\cdot,t)\}=(iG_{0})^{k+k'}\{u(\cdot,t),v(\cdot,t)\} \quad\text{в }\ \mathcal{H}_{0} \end{gathered} \end{equation} \tag{2.51} $$
при $k,k'=0,1,\dots$ . Поскольку $G_{0}^{2k}\{\phi,\psi\}=\{\mathcal{A}_{0}^{k}\phi,\mathcal{A}_{0}^{k}\psi\}$, из свойств повышения гладкости решений эллиптических задач и теорем вложения следует, что $u,v\in C^{\infty}((\overline{\Lambda_{0}}\setminus\mathcal{O})\times\mathbb{R})$, $u,v=0$ на $\partial\Lambda_{0}\setminus\mathcal{O}$. В частности, из (2.51) при $k=1,2$, $k'=0$ имеем $(\partial_{t}^{2}-\Delta_{x})u(x,t)=0$, $v(x,t)=\partial_{t}u(x,t)$. Значит, $u$ есть классическое решение задачи (2.50). Наоборот, пусть $u\in C^{\infty}((\overline{\Lambda_{0}}\setminus\mathcal{O})\times\mathbb{R})$ есть классическое решение задачи (2.50) и $\partial_{t}^{k}u(\cdot,t)\in\operatorname{Dom}G_{0}^{k'}$ при всех $k,k'=0,1,\dots$ . Тогда $\partial^{k}_{t}u(x,t)=O(r^{i\lambda_{1}})$, $\partial^{k}_{t}\partial_{r}u(x,t)=O(r^{i\lambda_{1}-1})$ вблизи вершины $\mathcal{O}$ (см. [6]) и для $u(\cdot,t)$ справедлива формула (2.19). Значит, решение $u$ единственно, и потому $\{u(\cdot,t),\partial_{t}u(\cdot,t)\}$ должно совпадать с $U_{0}(t)\{\phi,\psi\}$.

Волновые операторы и оператор рассеяния задачи (2.50) вводятся так же, как для задачи в неограниченной области с гладкой границей (см. [1; теоремы 2–4]); поэтому мы ограничиваемся формулировкой результатов.

Лемма 11. 1. Отображение $\mathfrak{R}_{\mathfrak{s},0}\colon \mathcal{H}_{0}\to\mathfrak{N}$,

$$ \begin{equation*} [\mathfrak{R}_{\mathfrak{s},0}\{\phi,\psi\}](\kappa,\widehat{\kappa}):=\frac{\kappa}{i\sqrt{2}}\bigl([\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,0,x\to k}\psi](\kappa\widehat{\kappa})+i\kappa[\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,0,x\to k}\phi](\kappa\widehat{\kappa})\bigr), \end{equation*} \notag $$
является унитарным изоморфизмом между $\mathcal{H}_{0}$ и $\mathfrak{N}$, причем $\mathfrak{R}_{\mathfrak{s},0}G_{0}=[\kappa]\mathfrak{R}_{\mathfrak{s},0}$ и $\mathfrak{R}_{\mathfrak{s},0}U_{0}(t)=[e^{i\kappa t}]\mathfrak{R}_{\mathfrak{s},0}$ (здесь $[f(\kappa,\widehat{\kappa})]$ – оператор умножения на функцию $(\kappa,\widehat{\kappa})\to f(\kappa,\widehat{\kappa})$, пространство $\mathfrak{N}$ определено в (1.14)).

2. Волновые операторы $W^{\pm}_{0}:=s-\lim_{t\to\pm\infty}U_{0}(-t)P_{0}U_{f}(t)$ (отождествление $P_{0}$ задано перед (1.20)) существуют и унитарны; более того, $W^{\pm}_{0}=\mathfrak{R}_{\pm,0}^{-1}\mathfrak{R}_{f}$. Оператор рассеяния $\mathbb{S}_{0}=(W^{+}_{0})^{-1}W^{-}_{0}$ допускает представление

$$ \begin{equation} \mathbb{S}_{0}=I+\mathfrak{R}_{f}^{-1}\mathbf S_{0}\mathfrak{R}_{f}, \textit{ где } \ \mathbf S_{0}f(\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}f(\kappa,\theta)\overline{\mathcal{S}^{+}_{0}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}. \end{equation} \tag{2.52} $$

§ 3. Асимптотика оператора рассеяния задачи (1.2) при $\varepsilon\to 0$

В этом параграфе описывается асимптотика оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$. Опишем план рассуждений. Благодаря формулам (1.19) и (1.21) дело сводится к выводу равномерной по $\sigma\in(0,+\infty)$ асимптотики решений $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ задачи (1.5)(1.7) с $k\in\mathbb{R}^{3}$, $\mathfrak{s}=+$, $\sigma=|k|$ и $f(x,\sigma)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$ (срезка $\chi_{\infty}$ введена перед (1.17)). Для построения асимптотики $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ при $\varepsilon\to 0$ применяется метод составных разложений (см. [2]). При таком подходе асимптотика $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ составляется из решений “предельных задач”, не зависящих от параметра $\varepsilon$. Первая предельная задача в области $\Lambda_{0}$ получается из (1.5)(1.7) переходом $\varepsilon\to 0$. Пусть $v^{\mathfrak{s}}_{0}(\cdot,k)$ – решение первой предельной задачи и $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$ – срезка, равная единице вблизи вершины $\mathcal{O}$. При подстановке функции $x\to(1- \chi(\varepsilon^{-1}x))v^{\mathfrak{s}}_{0}(x,k)$ в исходную задачу (1.5)(1.7) в правой части уравнения (1.5) возникает невязка $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{s}}_{0}(x,k)$. При $|k|\varepsilon\leqslant \mathrm{const}$ носитель коммутатора $[\Delta_{x},\chi(\varepsilon^{-1}x)]$ лежит в окрестности $\mathcal{O}$ диаметра $O(1/|k|)$ и главный член невязки выделяется с помощью равномерной по $k$ асимптотики решения $v^{\mathfrak{s}}_{0}(\cdot,k)$ вблизи $x\to\mathcal{O}$ (см. предложение 4 и определения норм (2.29)). Для компенсации главного члена невязки вводится поправка в форме $\varepsilon^{i\lambda_{1}-2}\chi(x)w_{0}(\varepsilon^{-1}x,k)$, где $w_{0}(\cdot,k)$ – (убывающее на бесконечности) решение второй предельной задачи в области $\Upsilon$. Подстановка аппроксимации $(1- \chi(\varepsilon^{-1}x))v^{\mathfrak{s}}_{0}(x,k) +\varepsilon^{i\lambda_{1}-2}\chi(x)w_{0}(\varepsilon^{-1}x,k)$ в (1.5)(1.7) приводит к невязкам следующих порядков, которые снова компенсируются при помощи решений первых и вторых предельных задач, и т.д. В результате мы приходим к разложениям

$$ \begin{equation} \begin{cases} \displaystyle \mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)\sim(1-\chi(\varepsilon^{-1}x)) \sum_{n=0}^{\infty}\varepsilon^{q_{n}}v^{\mathfrak{s}}_{n}(x,k)+\chi(x) \sum_{n'=0}^{\infty}\varepsilon^{\widetilde{q}_{n'}}w_{n'}(\varepsilon^{-1}x,k), \\ \displaystyle \mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\theta,k)\sim \sum_{n=0}^{\infty}\varepsilon^{q_{n}}\mathcal{S}^{(n),\mathfrak{s}}(\theta,k) \end{cases} \end{equation} \tag{3.1} $$
решения $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ и коэффициента в асимптотике (1.18). Здесь $v^{\mathfrak{s}}_{k}$ и $w_{k'}$ – решения первых и вторых предельных задач соответственно. Функции $\mathcal{S}^{(n),\mathfrak{s}}(\cdot,k)$ являются коэффициентами в асимптотике $v^{\mathfrak{s}}_{k}(x,k)\sim |x|^{-1}e^{i\mathfrak{s}\sigma|x|}\mathcal{S}^{(k),\mathfrak{s}}(|x|^{-1}x,k)$ решений первых предельных задач на бесконечности, причем коэффициент $\mathcal{S}^{(0),\mathfrak{s}}(\cdot,k)=\mathcal{S}^{\mathfrak{s}}_{0}(\cdot,k)$ – такой же, как в (2.48). Показатели $q_{k},\widetilde{q}_{k'}$ есть конечные суммы чисел $\pm i\lambda_{\pm j}$ и $2j'$, $j,j'=0,1,\dots$, в частности, $q_{0}=0$, $q_{1}=i(\lambda_{1}-\lambda_{-1})$. Для обоснования разложений (3.1) используются априорные оценки из предложения 1 и леммы 1. При $|\sigma| \geqslant \mathrm{const}/\varepsilon$ метод составных разложений неприменим, поскольку носитель коммутатора $[\Delta_{x},\chi(\varepsilon^{-1}x)]$ лежит вне зоны $|x|\leqslant \mathrm{const}/p$ и поведение невязки $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{s}}_{0}(x,\sigma)$ описать нельзя. В этом случае и левые, и правые части разложений (3.1) оцениваются с помощью предложений 1, 3, лемм 1, 9 и неравенства $1\leqslant \varepsilon^{q}|\sigma|^{q}/\mathrm{const}^{q}$ с достаточно большим $q>0$. В результате получаем равномерное по $k\in\mathbb{R}^{3}$ неравенство
$$ \begin{equation} \begin{aligned} \, \|\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)-\sum_{n=0}^{N}\varepsilon^{q_{n}}\mathcal{S}^{(n),\mathfrak{s}}(\cdot,k)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{q_{n}}(1+|k|^{-1/2})(1+|k|)^{Q_{N}-1/2} \end{aligned} \end{equation} \tag{3.2} $$
с достаточно большим $Q_{N}>0$. С помощью (1.19) и (1.21) представим оператор $\mathbb{S}_{\varepsilon}$ в виде
$$ \begin{equation} \mathbb{S}_{\varepsilon}=\mathbb{S}_{0}+\varepsilon^{q_{1}}\mathbb{S}^{(1)}+\dots+\varepsilon^{q_{n}}\mathbb{S}^{(n)}+\widetilde{\mathbb{S}}^{(N)}_{\varepsilon}, \end{equation} \tag{3.3} $$
где $\mathbb{S}_{0}$ – оператор рассеяния задачи (2.50) в предельной области $\Lambda_{0}$,
$$ \begin{equation*} \begin{gathered} \, [\mathfrak{R}_{f}\mathbb{S}^{(n)}\mathfrak{R}_{f}^{-1}g](\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}g(\kappa,\theta)\overline{\mathcal{S}^{(n),+}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}, \\ [\mathfrak{R}_{f}\widetilde{\mathbb{S}}^{(N)}_{\varepsilon}\mathfrak{R}_{f}^{-1}g](\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}g(\kappa,\theta)\bigl(\overline{\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)} -\sum_{n=0}^{N}\varepsilon^{q_{n}}\overline{\mathcal{S}^{(n),\mathfrak{s}}(\cdot,k)}\bigr)\,dS_{\theta} \end{gathered} \end{equation*} \notag $$
и $\kappa=|k|$, $\widehat{\kappa}=\kappa^{-1}k$; отображение $\mathfrak{R}_{f}$ задано в (1.15). Поскольку правая часть оценки (3.2) содержит растущую при $k\to\infty$ функцию, выражение (3.3) имеет смысл лишь после сужения его левой и правой частей на линеал $\mathcal{H}^{(N)}_{f}:=\operatorname{Dom}G_{f}^{Q_{N}}\subset\mathcal{H}_{f}$ (пространство $\mathcal{H}_{f}$ и оператор $G_{f}$ заданы перед (1.13)). Снабдим $\mathcal{H}^{(N)}_{f}$ нормой
$$ \begin{equation*} \|\{\phi,\psi\}\|_{\mathcal{H}^{(N)}_{f}}:=\bigl(\|\{\phi,\psi\}\|_{\mathcal{H}_{f}}^{2}+\| G_{f}^{Q_{N}}\{\phi,\psi\}\|_{\mathcal{H}_{f}}^{2}\bigr)^{1/2} \end{equation*} \notag $$
(пространство $\mathfrak{N}$ задано в (1.14)). Из (1.16) и изометричности преобразования $\mathfrak{R}_{f}\colon \mathcal{H}_{f}\to\mathfrak{N}$ имеем
$$ \begin{equation*} \|\{\phi,\psi\}\|_{\mathcal{H}^{(N)}_{f}}=\|[(1+|\kappa|^{2Q_{N}})^{1/2}]\mathfrak{R}_{f}\{\phi,\psi\}\|_{\mathfrak{N}}. \end{equation*} \notag $$
Теперь из (3.2) вытекает оценка $\|\widetilde{\mathbb{S}}_{\varepsilon}^{(n)}\|_{\mathcal{H}^{(N)}_{f}\to \mathcal{H}_{f}}=o(\varepsilon^{q_{n}})$. Мы не выписываем полное асимптотическое разложение оператора $\mathbb{S}_{\varepsilon}$, ограничившись (лишь для простоты выкладок) выводом первой поправки $\varepsilon^{q_{1}}\mathbb{S}^{(1)}$ к предельному оператору рассеяния $\mathbb{S}_{0}$. Основной результат сформулирован в теореме 1.

3.1. Асимптотика решений задачи (1.5)(1.7)

После формального перехода к пределу $\varepsilon\to 0$ задача (1.5)(1.7) принимает вид

$$ \begin{equation} -(\Delta_{x}+\sigma^{2})v^{\mathfrak{s}}_{0}(x,\sigma)=f(x,\sigma), \qquad x\in\Lambda_{0}, \end{equation} \tag{3.4} $$
$$ \begin{equation} v^{\mathfrak{s}}_{0}(x,\sigma)=0, \qquad x\in\partial\Lambda_{0}\setminus\mathcal{O}, \end{equation} \tag{3.5} $$
$$ \begin{equation} \int_{\Lambda_{0}}\biggl(|\partial_{r}v_{0}^{\mathfrak{s}}(x,\sigma) -i\mathfrak{s}\sigma v_{0}^{\mathfrak{s}}(x,\sigma)|^{2}+\frac{|v_{0}^{\mathfrak{s}}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx<\infty. \end{equation} \tag{3.6} $$
В силу леммы 7 и предложений 3, 4 существует единственное ($\mathfrak{s}$-слабое) решение задачи (3.4)(3.6); это решение гладкое в $\overline{\Lambda_{0}}\setminus\mathcal{O}$ и допускает вблизи вершины $\mathcal{O}$ разложение
$$ \begin{equation} v^{\mathfrak{s}}_{0}(x,\sigma)=\chi_{p}(x)\sum_{j,k}d_{j,k}(\sigma)r^{i\lambda_{j}+2k}\Phi_{j}(\theta)+\widetilde{v}^{\mathfrak{s}}_{0}(x,\sigma) \end{equation} \tag{3.7} $$
с остатком, подчиненным неравенству
$$ \begin{equation} \|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{0}(\cdot,\sigma)\|_{H^{2}_{\beta'}(\Lambda_{0},p)}\leqslant cp^{2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{3.8} $$
Здесь $\beta'=\operatorname{Im}\lambda_{1}-\operatorname{Im}\lambda_{-1}-\delta$ и $\delta>0$ достаточно мало; суммирование в (3.7) идет только по таким $j=1,2,\dots$ и $k=0,1,\dots$, для которых $\operatorname{Im}\lambda_{j}>\beta'-1/2$ и $\beta'-\operatorname{Im}\lambda_{j}+2k\leqslant 3/2$. Коэффициенты разложения (3.7) заданы формулами $d_{j,k}(\sigma):=c_{j,k}\sigma^{2k}(f(\cdot,\sigma),w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}$ и удовлетворяют оценкам
$$ \begin{equation} |d_{j,k}(\sigma)|\leqslant cp^{\beta'+\operatorname{Im}\lambda_{-j}+2k-1/2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{3.9} $$
Числа $\lambda_{j}$, $c_{j,k}$ и функции $\Phi_{j}$, $w_{j}^{-\mathfrak{s}}(\cdot,\sigma)$ – те же самые, что в (2.8), (2.43). Положим $\chi^{\varepsilon}(x):=\chi(\varepsilon^{-1}x)$ (срезка $\chi$ введена перед предложением 2). Функция
$$ \begin{equation} (1-\chi^{\varepsilon})v^{\mathfrak{s}}_{0}(\cdot,\sigma) \end{equation} \tag{3.10} $$
удовлетворяет граничному условию (1.6) и условию излучения (1.7); уравнение (1.5) выполняется с точностью до невязки
$$ \begin{equation} {-}(\Delta_{x}+\sigma^{2})\bigl[(1-\chi(\varepsilon^{-1}x))v_{0}^{\mathfrak{s}}(x,\sigma)\bigr]-f(x,\sigma)=-[\Delta_{x},\chi^{\varepsilon}]v_{0}^{\mathfrak{s}}(x,\sigma). \end{equation} \tag{3.11} $$
С помощью (3.7) представим невязку в виде
$$ \begin{equation} -\sum_{j,k}d_{j,k}(\sigma)[\Delta_{x},\chi^{\varepsilon}] \bigl(\chi_{p}(x)r^{i\lambda_{j}+2k}\Phi_{j}(\theta)\bigr)-[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}_{0}^{\mathfrak{s}}(x,\sigma). \end{equation} \tag{3.12} $$
Пусть $c_{0}$ – такое достаточно малое число, что $\chi(x)=1$ при $|x|\leqslant c_{0}$. При $\varepsilon p\leqslant c_{0}$ на носителе коммутатора $[\Delta_{x},\chi^{\varepsilon}]$ выполняется равенство $\chi_{p}=1$ и из (3.8) вытекает оценка
$$ \begin{equation} \varepsilon^{\beta'}\|[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}_{0}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant c\|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{0}(\cdot,\sigma)\|_{H^{2}_{\beta'}(\Lambda_{0},p)}\leqslant cp^{2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{3.13} $$
Для компенсации главной части невязки
$$ \begin{equation*} -\sum_{j,k}d_{j,k}(\sigma)[\Delta_{\xi},\chi(\xi)]\bigl(|\xi|^{i\lambda_{j}+2k}\Phi_{j}(\theta)\bigr)\varepsilon^{i\lambda_{j}+2k-2}, \qquad \xi:=\varepsilon^{-1}x, \end{equation*} \notag $$
введем поправку
$$ \begin{equation} \sum_{j,k}\varepsilon^{i\lambda_{j}+2k}d_{j,k}(\sigma)\chi(x)\sum_{m=0}^{m_{0}(j,k)}(\varepsilon\sigma)^{2m}\eta_{j,k,m}(\varepsilon^{-1}x). \end{equation} \tag{3.14} $$
Здесь $m_{0}(j,k)\geqslant 0$ – минимальное целое число, превосходящее $\operatorname{Im}(\lambda_{j}+\lambda_{-1}-\lambda_{1})/2-k-3/4$. Функции $\eta_{j,k,0}$ в (3.14) являются решениями задач
$$ \begin{equation*} \begin{aligned} \, -\triangle_{\xi}\eta_{j,k,0}(\xi)=[\Delta_{\xi},\chi(\xi)]\bigl(|\xi|^{i\lambda_{j}+2k}\Phi_{j}(\theta)), & \qquad \xi\in \Upsilon, \\ \eta_{j,k,0}(\xi)=0, & \qquad \xi\in\partial\Upsilon, \\ \eta_{j,k,0}(\xi)=O(|\xi|^{-\operatorname{Im}\lambda_{-1}}), & \qquad |\xi|\to\infty. \end{aligned} \end{equation*} \notag $$
Справедливы асимптотики (см. [2])
$$ \begin{equation} \eta_{j,k,0}(\xi)\sim\sum_{s=1}^{\infty}q_{j,k,s}|\xi|^{i\lambda_{-s}}\Phi_{s}(\theta), \qquad |\xi|\to\infty. \end{equation} \tag{3.15} $$
Функции $\eta_{j,k,m}$ ($m>0$) суть решения задач
$$ \begin{equation*} \begin{aligned} \, -\triangle_{\xi}\eta_{j,k,m}(\xi)=-\eta_{j,k,m-1}(\xi), & \qquad \xi\in \Upsilon, \\ \eta_{j,k,m}(\xi)=0, & \qquad \xi\in\partial\Upsilon, \end{aligned} \end{equation*} \notag $$
с асимптотиками
$$ \begin{equation*} \eta_{j,k}\sim\sum_{s=1}^{\infty}q_{j,k,s}c_{-s,m}|\xi|^{i\lambda_{-s}+2m}\Phi_{s}(\theta) +\sum_{s'=1}^{\infty}\widetilde{q}_{j,k,s'}|\xi|^{i\lambda_{-s'}}\Phi_{s'}(\theta), \qquad |\xi|\to\infty. \end{equation*} \notag $$
Подстановка суммы (3.10) и (3.14) в уравнение (1.5) приводит к новой невязке
$$ \begin{equation} \begin{aligned} \, \notag &{-}[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}_{0}^{\mathfrak{s}}(x,\sigma) -\sum_{j,k,m}d_{j,k}(\sigma)\sigma^{2m}[\Delta_{x},\chi(x)]\eta_{j,k,m}(\varepsilon^{-1}x)\varepsilon^{i\lambda_{j}+2k+2m} \\ \notag &\qquad\qquad -\sum_{j,k}d_{j,k}(\sigma)\sigma^{2(m_{0}(j,k)+1)}\chi(x)\eta_{j,k,m_{0}(j,k)}(\varepsilon^{-1}x)\varepsilon^{i\lambda_{j}+2k+2m_{0}(j,k)} \\ &\qquad =-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}h_{0}(x,\sigma)-\widetilde{h}_{1}(x,\varepsilon,\sigma). \end{aligned} \end{equation} \tag{3.16} $$
Здесь
$$ \begin{equation} \begin{aligned} \, \notag h_{0}(x,\sigma) &:=d_{1,0}(\sigma)q_{1,0,1}(\Delta_{x}+\sigma^{2})(\chi(x)y_{-1}^{m_{0}(1,0)}(x,\sigma)) \\ \notag &=d_{1,0}(\sigma)q_{1,0,1}\biggl(\sigma^{2(m_{0}(1,0)+1)}\chi c_{-1,m_{0}(1,0)}r^{i\lambda_{-1}+2m_{0}(1,0)}\Phi_{1} \\ &\qquad +[\Delta_{x},\chi]\sum_{m=0}^{m_{0}(1,0)}c_{-1,m}\sigma^{2m}r^{i\lambda_{-1}+2m}\Phi_{1}\biggr) \end{aligned} \end{equation} \tag{3.17} $$
(функции $y_{-1}^{m_{0}(1,0)}(\cdot,\sigma)$ определены в (2.8)) и
$$ \begin{equation} \| h_{0}(\cdot,\sigma)\|_{\mathcal{RH}_{-\delta}(\Lambda_{0},p)} \leqslant cp^{4+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \end{equation} \tag{3.18} $$
$$ \begin{equation} \nonumber \|\widetilde{h}_{1}(\cdot,\varepsilon,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})} \leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}\biggl(p^{2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)} \end{equation} \notag $$
$$ \begin{equation} \qquad\qquad +\sum_{j,k}|d_{j,k}(\sigma)\sigma^{2(m_{0}(j,k)+1)}|\biggr). \end{equation} \tag{3.19} $$
Ввиду (3.9) последнюю формулу можно переписать в виде
$$ \begin{equation} \|\widetilde{h}_{1}(\cdot,\varepsilon,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}p^{4}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{3.20} $$
Для компенсации главного члена $-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}h_{0}(x,\sigma)$ в (3.16) введем следующую поправку:
$$ \begin{equation} \varepsilon^{i(\lambda_{1}-\lambda_{-1})}(1-\chi^{\varepsilon})v^{\mathfrak{s}}_{1}(\cdot,\sigma), \end{equation} \tag{3.21} $$
где $v^{\mathfrak{s}}_{1}(\cdot,\sigma)$ есть (единственное) $\mathfrak{s}$-слабое решение задачи
$$ \begin{equation} -(\Delta_{x}+\sigma^{2})v^{\mathfrak{s}}_{1}(x,\sigma)=h_{0}(x,\sigma), \qquad x\in\Lambda_{0}, \end{equation} \tag{3.22} $$
$$ \begin{equation} v^{\mathfrak{s}}_{1}(x,\sigma)=0, \qquad x\in\partial\Lambda_{0}\setminus\mathcal{O}. \end{equation} \tag{3.23} $$
Из выражения (3.17) для правой части уравнения (3.22) следует, что
$$ \begin{equation} v^{\mathfrak{s}}_{1}(\cdot,\sigma)=d_{1,0}(\sigma)q_{1,0,1}\bigl[w_{1}^{\mathfrak{s}}(\cdot,\sigma)-\chi(x)y_{-1}^{m_{0}(1,0)}(x,\sigma)\bigr] \end{equation} \tag{3.24} $$
(функции $w_{j}^{\pm}(\cdot,\sigma)$ определены перед формулой (2.40)). Из предложения 4 вытекает разложение
$$ \begin{equation*} v^{\mathfrak{s}}_{1}(x,\sigma) =\chi_{p}(x)\sum_{j}e_{j'}(\sigma)r^{i\lambda_{j'}}\Phi_{j'}(\theta) +\widetilde{v}^{\mathfrak{s}}_{1}(x,\sigma), \end{equation*} \notag $$
где $j'=1,2,\dots$, $\operatorname{Im}\lambda_{j'}>-\delta-1/2$; коэффициенты $e_{j'}(\sigma):=(h_{0}(\cdot,\sigma),w^{-\mathfrak{s}}_{j'}(\cdot,\sigma))_{\Lambda_{0}}$ и остаток $\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)$ удовлетворяют условиям
$$ \begin{equation} \nonumber |e_{j'}(\sigma)|\leqslant cp^{\operatorname{Im}\lambda_{-j'}-1/2-\delta}\| h_{0}(\cdot,\sigma)\|_{\mathcal{RH}_{-\delta}(\Lambda_{0},p)} \end{equation} \notag $$
$$ \begin{equation} \qquad\leqslant cp^{\operatorname{Im}\lambda_{-j'}+7/2-\delta+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \end{equation} \tag{3.25} $$
$$ \begin{equation} \|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)\|_{H^{2}_{-\delta}(\Lambda_{0},p)}\leqslant cp^{2}\| h_{0}(\cdot,\sigma)\|_{\mathcal{RH}_{-\delta}(\Lambda_{0},p)}\leqslant cp^{6+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{3.26} $$
Поправка (3.21) вносит в уравнение (1.5) невязку $-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}]v^{\mathfrak{s}}_{1}(\cdot,\sigma)$, равную
$$ \begin{equation} -\sum_{j'}e_{j'}(\sigma)\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})-2}[\Delta_{\xi},\chi(\xi)]|\xi|^{i\lambda_{j'}}\Phi_{j'}(\theta)-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma). \end{equation} \tag{3.27} $$
Из (3.26) имеем
$$ \begin{equation} \begin{aligned} \, \nonumber & \|\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}] \widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})} \leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta} \|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)\|_{H^{2}_{-\delta}(\Lambda_{0},p)} \\ &\qquad \leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}p^{6+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{aligned} \end{equation} \tag{3.28} $$
Наконец, для компенсации главного члена невязки (3.27) вводится функция
$$ \begin{equation} \sum_{j'}\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})}e_{j'}(\sigma)\chi(x)\zeta_{j'}(\varepsilon^{-1}x). \end{equation} \tag{3.29} $$
Здесь, $\zeta_{j'}$ – решения задач
$$ \begin{equation*} \begin{aligned} \, \Delta_{\xi}\zeta_{j'}(\xi)=[\Delta_{\xi},\chi(\xi)]|\xi|^{i\lambda_{j'}}\Phi_{j'}(\theta), & \qquad \xi\in\Upsilon, \\ \zeta_{j'}(\xi)=0, & \qquad \xi\in\partial\Upsilon, \\ \zeta_{j'}(\xi)=O(|\xi|^{-\operatorname{Im}\lambda_{-1}}), & \qquad |\xi|\to\infty. \end{aligned} \end{equation*} \notag $$
Поправка (3.29) вносит в уравнение (1.5) очередную невязку $\widetilde{\zeta}(x,\sigma,\varepsilon)$, равную
$$ \begin{equation*} \sum_{j'}e_{j'}(\sigma)\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})} \bigl([\Delta_{x},\chi^{\varepsilon}]r^{i\lambda_{j'}}\Phi_{j'}(\theta)-(\Delta_{x}+\sigma^{2})(\chi(x)\zeta_{j'}(\varepsilon^{-1}x))\bigr). \end{equation*} \notag $$
В силу (3.25)
$$ \begin{equation} \begin{aligned} \, \notag &\|\widetilde{\zeta}(\cdot,\sigma,\varepsilon)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant cp^{2}\sum_{j'} (\varepsilon^{\operatorname{Im}\lambda_{1}}+\varepsilon)\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1}-\lambda_{j'})}|e_{j'}(\sigma)| \\ &\qquad\leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}p^{7+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{aligned} \end{equation} \tag{3.30} $$
Собирая вместе слагаемые (3.10), (3.14), (3.21) и (3.29), получаем аппроксимацию решения $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ в форме $u^{\mathfrak{s}}_{as,\varepsilon}(\cdot,\sigma):=u^{\mathfrak{s}}_{0,\varepsilon}(\cdot,\sigma)+u^{\mathfrak{s}}_{0,\varepsilon}(\cdot,\sigma)$, где
$$ \begin{equation} \begin{aligned} \, \nonumber u^{\mathfrak{s}}_{0,\varepsilon}(x,\sigma) &:=(1-\chi(\varepsilon^{-1}x))\bigl[v^{\mathfrak{s}}_{0}(x,\sigma) +\varepsilon^{i(\lambda_{1}-\lambda_{-1})}v^{\mathfrak{s}}_{1}(x,\sigma)\bigr], \\ \nonumber u^{\mathfrak{s}}_{1,\varepsilon}(x,\sigma)&:=\chi(x)\biggl[\sum_{j,k}\varepsilon^{i\lambda_{j}+2k}d_{j,k}(\sigma) \sum_{m=0}^{m_{0}(j,k)}(\varepsilon\sigma)^{2m}\eta_{j,k,m}(\varepsilon^{-1}x) \\ &\qquad+\sum_{j'}\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})}e_{j'}(\sigma)\zeta_{j'}(\varepsilon^{-1}x)\biggr]. \end{aligned} \end{equation} \tag{3.31} $$
Остаток $u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)=u^{\mathfrak{s}}_{as,\varepsilon}(\cdot,\sigma)-u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ удовлетворяет задаче
$$ \begin{equation} \begin{aligned} \, \nonumber & {-}(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)=[\Delta_{x},\chi^{\varepsilon}] \widetilde{v}_{0}^{\mathfrak{s}}(x,\sigma)+\widetilde{h}_{1}(x,\varepsilon,\sigma) \\ &\qquad+\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma) +\widetilde{\zeta}(x,\sigma,\varepsilon), \qquad x\in\Lambda_{\varepsilon}, \\ \nonumber &u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)=0, \qquad x\in\partial\Lambda_{\varepsilon}, \\ \nonumber &\int_{\Lambda_{\varepsilon}}\biggl(|\partial_{r}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma) -iu^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)|^{2}+\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx<\infty. \end{aligned} \end{equation} \tag{3.32} $$
Правая часть уравнения (3.32) имеет компактный носитель (диаметр носителя не превосходит $\operatorname{diam\,supp}\chi$). Из (3.13), (3.20), (3.28), (3.30) выводим
$$ \begin{equation} \|(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}p^{7+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{equation} \tag{3.33} $$
Отсюда и из предложения 1 следует, что
$$ \begin{equation*} \begin{aligned} \, &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx \\ &\qquad \leqslant c\varepsilon^{2(\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta)} p^{2(7+\operatorname{Im}\lambda_{1})}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{aligned} \end{equation*} \notag $$
При $\varepsilon p>c_{0}$ носитель коммутатора $[\Delta_{x},\chi^{\varepsilon}]$, вообще говоря, не пересекается с $\operatorname{supp}\chi_{p}$ и асимптотическая формула (3.7) не доставляет асимптотику невязки (3.11) при $\varepsilon\to 0$. Это означает, что метод составных разложений неприменим для описания асимптотики функции $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ при $\varepsilon\to 0$, $\varepsilon p\geqslant \mathrm{const}$. В этом случае мы ограничиваемся оценками
$$ \begin{equation*} \begin{aligned} \, &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{\varepsilon}(x,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx \\ &\qquad\leqslant c(\varepsilon p)^{2\widetilde{m}}\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx\leqslant c\varepsilon ^{2(\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta)}p^{-2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}^{2}, \\ &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}v^{\mathfrak{s}}_{0}(x,\sigma))|^{2} +\frac{|v^{\mathfrak{s}}_{0}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c(\varepsilon p)^{2\widetilde{m}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{1}(\Lambda_{0},p)}^{2}, \\ &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}v^{\mathfrak{s}}_{1}(x,\sigma))|^{2} +\frac{|v^{\mathfrak{s}}_{1}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c\varepsilon^{2\delta}p^{2(4+\operatorname{Im}\lambda_{1}+\delta)}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}^{2} \end{aligned} \end{equation*} \notag $$
(здесь $\widetilde{m}:=\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta$), вытекающими из неравенств (1.8), (2.42) (с $\beta'\,{=}\,1$) и (3.18) и определений норм (2.29), (2.30). Суммируем вышесказанное в следующем утверждении.

Предложение 5. Пусть $\sigma\in\mathbb{R}$ и $f(\cdot,\sigma)\in C_{c}^{\infty}(\Lambda_{0})$. Тогда решение $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ задачи (1.5)(1.7) допускает представление

$$ \begin{equation} u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)=(1-\mathcal{I}(\varepsilon p)\chi^{\varepsilon})\bigl[v^{\mathfrak{s}}_{0}(\cdot,\sigma)+\varepsilon^{i(\lambda_{1}-\lambda_{-1})}v^{\mathfrak{s}}_{1}(\cdot,\sigma)\bigr]+\mathcal{I}(\varepsilon p)u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,\sigma)+u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma). \end{equation} \tag{3.34} $$
Здесь $\mathcal{I}$ – характеристическая функция отрезка $[-c_{0},c_{0}]$, функция $u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,\sigma)$ определена в (3.31), $v^{\mathfrak{s}}_{0}(\cdot,\sigma)$ и $v^{\mathfrak{s}}_{1}(\cdot,\sigma)$ есть $\mathfrak{s}$-слабые решения задач (3.4), (3.5) и (3.22), (3.23) соответственно. Остаток $u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)$ подчиняется оценке
$$ \begin{equation} \begin{aligned} \, \notag & \int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx \\ &\qquad\leqslant c\varepsilon^{-2\beta'}\bigl[p^{2(7+\operatorname{Im}\lambda_{1})}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}^{2}+p^{-2\beta'}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{1}(\Lambda_{0},p)}^{2}\bigr], \end{aligned} \end{equation} \tag{3.35} $$
где $\beta'=\operatorname{Im}\lambda_{1}-\operatorname{Im}\lambda_{-1}-\delta$ и $\delta>0$ – достаточно малое число. Константа $c$ в (3.35) не зависит от $\sigma$.

Опишем асимптотику функции $S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)$ из разложения (1.9). В силу предложения 1, лемм 1 и 9 и формулы (3.24) в окрестности бесконечности справедливы представления

$$ \begin{equation} v^{\mathfrak{s}}_{0}(x,\sigma) =|x|^{-1}e^{i\mathfrak{s}\sigma|x|}S_{0}^{\mathfrak{s}}(|x|^{-1}x,\sigma)+O(|x|^{-2}), \end{equation} \tag{3.36} $$
$$ \begin{equation} w_{1}^{\mathfrak{s}}(\cdot,\sigma) =|x|^{-1}e^{i\mathfrak{s}\sigma|x|}\mathbf s_{1}^{\mathfrak{s}}(|x|^{-1}x,\sigma)+O(|x|^{-2}), \end{equation} \tag{3.37} $$
$$ \begin{equation} v^{\mathfrak{s}}_{1}(x,\sigma) =d_{1,0}(\sigma)q_{1,0,1}|x|^{-1}e^{i\mathfrak{s}\sigma|x|}\mathbf s_{1}^{\mathfrak{s}}(|x|^{-1}x,\sigma)+O(|x|^{-2}), \end{equation} \tag{3.38} $$
$$ \begin{equation} u^{\mathfrak{s}}_{r,\varepsilon}(x,\sigma) =|x|^{-1}e^{i\mathfrak{s}\sigma|x|}\widetilde{S}_{\varepsilon}(|x|^{-1}x,\sigma)+O(|x|^{-2}). \end{equation} \tag{3.39} $$
Функции $S_{0}^{\mathfrak{s}}(\cdot,\sigma)$, $S^{(1)}(\cdot,\sigma)$ и $\widetilde{S}_{\varepsilon}(\cdot,\sigma)$ являются гладкими на единичной сфере $S_{1}$ и подчиняются оценкам
$$ \begin{equation} \| S_{0}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} \leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx, \end{equation} \tag{3.40} $$
$$ \begin{equation} |d_{1,0}(\sigma)|\,\| \mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} \leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|h_{0}(x,\sigma)|^{2}\,dx, \end{equation} \tag{3.41} $$
$$ \begin{equation} \|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} \leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)|^{2}\,dx. \end{equation} \tag{3.42} $$
Функция $u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,\sigma)$ в (3.34) имеет компактный носитель. Поэтому подстановка разложений (3.36)(3.39) в равенство (3.34) дает
$$ \begin{equation} \begin{split} S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)=S_{0}^{\mathfrak{s}}(\cdot,\sigma)+d_{1,0}(\sigma)q_{1,0,1}\varepsilon^{i(\lambda_{1}-\lambda_{-1})}\mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)+\widetilde{S}_{\varepsilon}(\cdot,\sigma). \end{split} \end{equation} \tag{3.43} $$
Из (3.42), оценки (3.33) и вложения $\operatorname{supp}(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)\subset\operatorname{supp}\chi$ следует, что
$$ \begin{equation*} \|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{-\beta'}(1+|\sigma|^{-1/2})p^{7+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \qquad \varepsilon p\leqslant c_{0}. \end{equation*} \notag $$
Далее, из леммы 1, формул (3.40), (3.41), определения нормы (2.30) и неравенства (3.18) имеем
$$ \begin{equation*} \begin{aligned} \, & \|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}\leqslant\| S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})} \\ &\qquad\qquad+\| S_{0}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}+\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})}|d_{1,0}(\sigma)|\,\| \mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})} \\ &\qquad\leqslant c\varepsilon^{-\beta'}(1+|\sigma|^{-1/2})(p^{3+\operatorname{Im}\lambda_{1}}+p^{-1})\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \qquad\varepsilon p\geqslant c_{0}. \end{aligned} \end{equation*} \notag $$
Таким образом, справедливо

Предложение 6. Пусть $\sigma\,{\in}\,\mathbb{R}$ и $f(\cdot,\sigma)\,{\in}\, C_{c}^{\infty}(\Lambda_{0})$. Тогда для решения $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ задачи (1.5)(1.7) справедливо асимптотическое разложение (1.9) в окрестности бесконечности. Функция $S^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ в (1.9) допускает представление (3.43) при $\varepsilon\to 0$ с остатком $\widetilde{S}_{\varepsilon}(\cdot,\sigma)$, подчиненным оценке

$$ \begin{equation} \|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{-\beta'}(1+|\sigma|^{-1/2})(p^{7+\operatorname{Im}\lambda_{1}}+p^{-1})\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \end{equation} \tag{3.44} $$
где $\beta'=\operatorname{Im}\lambda_{1}-\operatorname{Im}\lambda_{-1}-\delta$ и $\delta>0$ – достаточно малое число. Константа $c$ в (3.44) не зависит от $\sigma$.

Перейдем к описанию асимптотики при $\varepsilon\to 0$ функций $\mathbf y_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$, определенных в (1.17). Ввиду (1.17) для этого достаточно конкретизировать предложения 5 и 6 для случая $\sigma=|k|$ ($p=\sqrt{|k|^{2}+1}$), $u_{\varepsilon}^{\mathfrak{s}}(x,\sigma)=\mathbf u_{\varepsilon}^{\mathfrak{s}}(x,k)$ и $f(x,\sigma)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. Носитель $f(\cdot,\sigma)$ при любых $\sigma$ лежит в кольце $\{|x|\in(r_{1},r_{2})\}$, $0<r_{1}<r_{2}<\infty$, поэтому

$$ \begin{equation} \| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}\leqslant c(\beta')p^{1-\beta'}\| f(\cdot,\sigma)\|_{L_{2}(\{|x|\in(r_{1},r_{2})\})}=O(p^{2-\beta'}) \end{equation} \tag{3.45} $$
при всех $\beta'$. Теперь из (3.24) и предложений 5, 6 вытекает

Предложение 7. 1. Для функций $\mathbf y_{\varepsilon}^{\mathfrak{s}}$ из (1.17) справедливо разложение

$$ \begin{equation*} \begin{aligned} \, \mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k) &=(1-\mathcal{I}(\varepsilon p)\chi^{\varepsilon})\bigl[\mathbf y_{0}^{\mathfrak{s}}(x,k)+\varepsilon^{i\widetilde{\lambda}}q_{1,0,1}(f(\cdot,k),w_{1}^{-\mathfrak{s}} (\cdot,|k|))_{\Lambda_{0}}w_{1}^{\mathfrak{s}}(\cdot,|k|)\bigr] \\ &\qquad-\varepsilon^{i\widetilde{\lambda}}q_{1,0,1}(f(\cdot,k),w_{1}^{-\mathfrak{s}}(\cdot,|k|))_{\Lambda_{0}}(1-\mathcal{I}(\varepsilon p)\chi^{\varepsilon})\chi(x)y_{-1}^{m_{0}(1,0)}(x,\sigma) \\ &\qquad+\mathcal{I}(\varepsilon p)u^{\mathfrak{s}}_{1,\varepsilon}(x,|k|)+u^{\mathfrak{s}}_{r,\varepsilon}(x,k) \end{aligned} \end{equation*} \notag $$
с остатком $u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,k)$, подчиненным (равномерной по $k$) оценке
$$ \begin{equation*} \int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}|k|\rho}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,k))|^{2} +\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(x,k)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c\varepsilon^{2(\operatorname{Im}\widetilde{\lambda}+\delta)}(|k|^{2}+1)^{2\operatorname{Im}\lambda_{-1}+8} \end{equation*} \notag $$
(число $\delta>0$ достаточно мало). Здесь $\mathcal{I}$ – характеристическая функция отрезка $[-c_{0},c_{0}]$, $\chi$ – гладкая срезка, равная единице вблизи вершины $\mathcal{O}$ и нулю вне окрестности $\mathcal{O}$, в которой $\Lambda_{0}$ совпадает с конусом $\mathbb{K}$ и $\chi^{\varepsilon}(x)=\chi(\varepsilon^{-1}x)$, и $f(x,k)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. Через $\widetilde{\lambda}$ обозначена разность $\lambda_{1}-\lambda_{-1}$; числа $\lambda_{\pm 1}$ и функция $y_{-1}^{m_{0}(1,0)}$ заданы в (2.5) и (2.8), число $m_{0}(1,0)$ введено после (3.14), а коэффициент $q_{1,0,1}$ – в (3.15). Функции $\mathbf y_{0}^{\mathfrak{s}}(\cdot,k)$ и $w_{j}^{\pm}(\cdot,\sigma)$ определены в (2.47) и после формулы (2.39) соответственно. Функция $u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,|k|)$ задана формулой (3.31) (с $\sigma=|k|$ и $d_{j,k}(\sigma)=c_{j,k}\sigma^{2k}(f(\cdot,k),w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}$, числа $c_{j,k}$ – такие же, что и в (2.8)).

2. Для функции $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)$ из разложения (1.18) справедлива асимптотика

$$ \begin{equation} \mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)=\mathcal{S}^{\mathfrak{s}}_{0}(\cdot,k) +q_{1,0,1}(f(\cdot,k),w_{1}^{-\mathfrak{s}}(\cdot,|k|))_{\Lambda_{0}}\varepsilon^{i(\lambda_{1}-\lambda_{-1})}\mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)+\widetilde{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k) \end{equation} \tag{3.46} $$
при $\varepsilon\to 0$ с остатком, подчиненным равномерной по $k\in\mathbb{R}^{3}$ оценке
$$ \begin{equation} \|\widetilde{S}_{\varepsilon}^{\mathfrak{s}}(\cdot,k)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}(1+|k|^{-1/2})(|k|^{2}+1)^{4+\operatorname{Im}\lambda_{-1}} \end{equation} \tag{3.47} $$
(число $\delta>0$ достаточно мало). Функции $\mathcal{S}^{\mathfrak{s}}_{0}(\cdot,k)$ и $\mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)$ введены в (2.48) и (2.45) соответственно.

Замечание 1. В условиях предложения 7 имеем

$$ \begin{equation} (f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}}=4\pi\overline{\mathbf s_{1}^{-}\biggl(\frac{k}{|k|},|k|\biggr)}. \end{equation} \tag{3.48} $$

Доказательство. Так как
$$ \begin{equation*} f=(\Delta_{x}+|k|^{2})(\chi_{\infty}e^{-ik\cdot x}),\qquad (\Delta_{x}+|k|^{2})w_{1}^{-}(x,|k|)=0, \end{equation*} \notag $$
интегрирование по частям в $\Lambda_{0}^{R}:=\{x\in\Lambda_{0}^{R}\colon |x|<R\}$ дает
$$ \begin{equation*} \overline{(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}^{R}}}=\int_{|x|=R}\biggl(\frac{\partial e^{ik\cdot x}}{\partial r}w_{1}^{-}(x,|k|)-e^{ik\cdot x}\frac{\partial w_{1}^{-}(x,|k|)}{\partial r}\biggr)\,dS. \end{equation*} \notag $$
Подставим в правую часть асимптотику
$$ \begin{equation*} w_{1}^{-}(x,|k|)=\frac{e^{-i|k|r}}{r}\biggl(\mathbf s_{1}^{-}(\theta,|k|)+\frac{\widetilde{\mathbf s}_{1}^{-}(\theta,|k|)}{r}+O(r^{-2})\biggr), \qquad r\to\infty, \quad \theta:=\frac{x}{|x|} \end{equation*} \notag $$
(см. лемму 9), и получим
$$ \begin{equation} \begin{aligned} \, \notag & \overline{(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}^{R}}}=i|k|R\int_{S_{1}}e^{i|k|R(\widehat{k}\cdot\theta-1)}\mathbf s_{1}^{-}(\theta,|k|)(\widehat{k}\cdot\theta+1)\,dS \\ &\qquad\qquad +i|k|\int_{S_{1}}e^{i|k|R(\widehat{k}\cdot\theta-1)}\bigl(\widetilde{\mathbf s}_{1}^{-}(\theta,|k|)(\widehat{k}\cdot\theta+1)+\mathbf s_{1}^{-}(\theta,|k|)\bigr)\,dS+O(R^{-1}) \end{aligned} \end{equation} \tag{3.49} $$
(здесь $\widehat{k}=k/|k|$). Асимптотики интегралов с быстро осциллирующими экспонентами в правой части (3.49) отыскиваются методом стационарной фазы. Стационарные точки функции $\theta\to\widehat{k}\cdot\theta-1$ суть $\theta=\pm\widehat{k}$. В результате из (3.49) получаем равенство
$$ \begin{equation*} \overline{(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}^{R}}}=4\pi\mathbf s_{1}^{-}(\widehat{k},|k|)+o(1), \qquad R\to+\infty, \end{equation*} \notag $$
из которого немедленно следует (3.48).

3.2. Асимптотика оператора рассеяния $\mathbb{S}_{\varepsilon}$

Подставим разложение (3.46) в (1.19) и воспользуемся (2.52) и (3.48). Получим

$$ \begin{equation} \begin{aligned} \, \mathbf S_{\varepsilon}f(\kappa,\widehat{\kappa})=\mathbf S_{0}f(\kappa,\widehat{\kappa})+\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})}\mathbf S_{\star}f(\kappa,\widehat{\kappa})+\widetilde{\mathbf S}_{\varepsilon}f(\kappa,\widehat{\kappa}), \end{aligned} \end{equation} \tag{3.50} $$
где
$$ \begin{equation} \mathbf S_{\star}f(\kappa,\widehat{\kappa}):=-2i\kappa\overline{q_{1,0,1}}\mathbf s_{1}^{-}(\widehat{k},|k|)\int_{S_{1}}f(\kappa,\theta)\overline{\mathbf s_{1}^{+}(-\theta,|\kappa|)}\,dS_{\theta}, \end{equation} \tag{3.51} $$
$$ \begin{equation} \widetilde{\mathbf S}_{\varepsilon}f(\kappa,\widehat{\kappa}):=\frac{\kappa}{2\pi i}\int_{S_{1}}f(\kappa,\theta)\overline{\widetilde{S}^{+}_{\varepsilon}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}. \end{equation} \tag{3.52} $$
Из оценки (3.47) следует, что
$$ \begin{equation*} \|\widetilde{\mathbf S}_{\varepsilon}f(\kappa,\cdot)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}(|\kappa|^{1/2}+1)(|\kappa|^{2}+1)^{4+\operatorname{Im}\lambda_{-1}}\| f(\kappa,\cdot)\|_{L_{2}(S_{1})}. \end{equation*} \notag $$
Аналогично, из (3.9), (3.45) и леммы 9 имеем
$$ \begin{equation*} \|\mathbf S_{\star}f(\kappa,\cdot)\|_{L_{2}(S_{1})}\leqslant c(|\kappa|^{1/2}+1)(|\kappa|^{2}+1)^{1+\operatorname{Im}\lambda_{-1}}\| f(\kappa,\cdot)\|_{L_{2}(S_{1})}. \end{equation*} \notag $$
Обозначим через $m_{\star}$ (через $m_{\sim}$) наименьшее целое число, большее либо равное числу $1.25+\operatorname{Im}\lambda_{-1}$ (числу $4.25+\operatorname{Im}\lambda_{-1}$). Ввиду последних двух оценок формулы (3.51) и (3.52) задают линейные операторы $\mathbf S_{\star}$ и $\widetilde{\mathbf S}_{\varepsilon}$ в пространстве $\mathfrak{N}$ (с нормой (1.14)) с областями определения $\operatorname{Dom}\mathbf S_{\star}\supset\operatorname{Dom}[(|\kappa|^{2}+1)^{m_{\star}}]$, $\operatorname{Dom}\widetilde{\mathbf S}_{\varepsilon}\supset\operatorname{Dom}[(|\kappa|^{2}+1)^{m_{\sim}}]$, причем
$$ \begin{equation} \begin{aligned} \, \|\mathbf S_{\star}f\|_{\mathfrak{N}}\leqslant c\|[(|\kappa|^{2}+1)^{m_{\star}}]f\|_{\mathfrak{N}}, \ \|\widetilde{\mathbf S}_{\varepsilon}f\|_{\mathfrak{N}}\leqslant c \varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}\|[(|\kappa|^{2}+1)^{m_{\sim}}]f\|_{\mathfrak{N}} \end{aligned} \end{equation} \tag{3.53} $$
(напомним, что через $[e(\kappa,\widehat{\kappa})]$ обозначается оператор умножения на функцию $(\kappa,\widehat{\kappa})\to e(\kappa,\widehat{\kappa})$). Подставим разложение (3.50) в формулу (1.21) и воспользуемся равенством (2.52). В результате получаем разложение
$$ \begin{equation} \mathbb{S}_{\varepsilon}\{\phi,\psi\}=\mathbb{S}_{0}\{\phi,\psi\}+\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})}\mathbb{S}_{\star}\{\phi,\psi\}+\widetilde{\mathbb{S}}_{\varepsilon}\{\phi,\psi\}, \end{equation} \tag{3.54} $$
которое справедливо для любого элемента $\{\phi,\psi\}\in\mathcal{H}_{f}$ такого, что $\mathfrak{R}_{f}\{\phi,\psi\}\in \operatorname{Dom}[(|\kappa|^{2}+1)^{m_{\sim}}]$. Здесь $\mathbb{S}_{0}$ – оператор рассеяния для волнового уравнения в области $\Lambda_{0}$, определенный в (2.52), и $\mathbb{S}_{\star}:=\mathfrak{R}_{f}^{-1}\mathbf S_{\star}\mathfrak{R}_{f}$, $\widetilde{\mathbb{S}}_{\varepsilon}:=\mathfrak{R}_{f}^{-1}\widetilde{\mathbf S}_{\varepsilon}\mathfrak{R}_{f}$. Ввиду (1.16) имеем
$$ \begin{equation*} (|\kappa|^{2}+1)^{m}[\mathfrak{R}_{f}\{\phi,\psi\}](\kappa,\widehat{\kappa}) =[\mathfrak{R}_{f}(I+G_{f}^{2})^{m}\{\phi,\psi\}](\kappa,\widehat{\kappa}) \end{equation*} \notag $$
(оператор $G_{f}$ введен перед формулой (1.13)). Отсюда, из унитарности преобразования $\mathfrak{R}_{f}\colon \mathcal{H}_{f}\to \mathfrak{N}$ и из (3.53) вытекает оценка остатка
$$ \begin{equation} \|\widetilde{\mathbb{S}}_{\varepsilon}\{\phi,\psi\}\|_{\mathcal{H}_{f}}\leqslant c \varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}\|(I+G_{f}^{2})^{m_{\sim}}\{\phi,\psi\}\|_{\mathcal{H}_{f}} \end{equation} \tag{3.55} $$
(ввиду равенства $(I+G_{f}^{2})^{m_{\sim}}\{\phi,\psi\}=\{(I-\Delta_{x})^{m_{\sim}}\phi,(I-\Delta_{x})^{m_{\sim}}\psi\}$ норму в правой части (3.55) можно заменить на сумму $\|\phi\|_{H^{2m_{\sim}+1}(\mathbb{R}^{3})}$ и $\|\psi\|_{H^{2m_{\sim}}(\mathbb{R}^{3})}$). Сформулируем основной результат.

Теорема 1. Пусть $\mu$ – первое собственное число (положительного) оператора Лапласа–Бельтрами в области $\Theta$ с условиями Дирихле на $\partial\Theta$ и $\Phi$ – отвечающая ему собственная функция, $\sqrt{1+4\mu}\|\Phi\|^{2}_{L_{2}(\Theta)}=1$. Пусть также $q=\sqrt{1+4\mu}$ и $m_{\sim}$ – наименьшее целое число, большее либо равное $(9.5+\sqrt{1+4\mu})/2$; обозначим $\mathcal{H}_{\sim}:=H^{2m_{\sim}+1}(\mathbb{R}^{3})\times H^{2m_{\sim}}(\mathbb{R}^{3})$. Обозначим через $\mathbb{S}_{\varepsilon,\sim}$ и $\mathbb{S}_{0,\sim}$ сужения на $\mathcal{H}_{\sim}$ операторов рассеяния для задач (1.2) и (2.50) соответственно. Тогда для $\mathbb{S}_{\varepsilon,\sim}$ имеет место представление

$$ \begin{equation} \mathbb{S}_{\varepsilon,\sim}=\mathbb{S}_{0,\sim}+\varepsilon^{q}\mathbb{S}_{\star}+\widetilde{\mathbb{S}}_{\varepsilon}, \qquad \varepsilon\to 0, \end{equation} \tag{3.56} $$
где остаток $\widetilde{\mathbb{S}}_{\varepsilon}$ есть непрерывный оператор из $\mathcal{H}_{\sim}$ в $\mathcal{H}_{f}$ (пространство $\mathcal{H}_{f}$ введено перед (1.13)) и его операторная норма убывает как $o(\varepsilon^{q})$ при $\varepsilon\to 0$. Непрерывный оператор $\mathbb{S}_{\star}\colon \mathcal{H}_{\sim}\to\mathcal{H}_{f}$ в (3.56) задан формулой
$$ \begin{equation*} [\mathfrak{R}_{f}\mathbb{S}_{\star}\mathfrak{R}_{f}^{-1}h](\kappa,\widehat{\kappa})=-2i\kappa\overline{a}\mathbf s_{1}^{-}(\widehat{k},|\kappa|)\int_{S_{1}}h(\kappa,\theta)\overline{\mathbf s_{1}^{+}(-\theta,|\kappa|)}\,dS_{\theta}, \end{equation*} \notag $$
где $\mathfrak{R}_{f}$ – унитарное преобразование (1.15). Функции $\mathbf s_{1}^{\pm}(\cdot,|\kappa|)$ суть коэффициенты в асимптотиках
$$ \begin{equation*} W^{\pm}(x,\kappa)=\frac{e^{\pm i|\kappa x|}}{|x|}\mathbf s_{1}^{\pm}\biggl(\frac{x}{|x|},|\kappa|\biggr)(1+o(1)), \qquad |x|\to +\infty, \end{equation*} \notag $$
решений $W^{\pm}(\cdot,\kappa)\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ однородных задач
$$ \begin{equation*} \begin{gathered} \, -(\Delta_{x}+\kappa^{2})W^{\pm}(x,\kappa)=0, \quad x\in\Lambda_{0}, \qquad W^{\pm}(x,\kappa)=0, \quad x\in\partial\Lambda_{0}\setminus\mathcal{O}, \\ \partial_{|x|}W^{\pm}(x,\kappa)\mp i|\kappa|W^{\pm}(x,\kappa)=o(|x|^{-1}), \quad |x|\to\infty, \end{gathered} \end{equation*} \notag $$
однозначно определенных своими (растущими) асимптотиками $W^{\pm}(x,\kappa)\sim |x|^{-(q+1)/2}\Phi(x/|x|)$ вблизи вершины $\mathcal{O}$. Число $a$ определяется как коэффициент в асимптотике
$$ \begin{equation*} \eta(\xi)=a|\xi|^{-(q+1)}\Phi\biggl(\frac{\xi}{|\xi|}\biggr)+o(|\xi|^{-(q+1)}), \qquad |\xi|\to\infty, \end{equation*} \notag $$
решения $\eta\in C^{\infty}(\overline{\Upsilon})$ задачи
$$ \begin{equation*} \triangle_{\xi}\eta(\xi)=0, \quad \eta(\xi)=O(|\xi|^{-(q+1)}), \quad \xi\in \Upsilon, \qquad \eta(\xi)=|\xi|^{i\lambda_{j}+2k}\Phi_{j}(\theta), \quad \xi\in\partial\Upsilon. \end{equation*} \notag $$

§ 4. Доказательство леммы 10

Достаточно доказать формулу

$$ \begin{equation} \lim_{\epsilon\to +0}\frac{\epsilon}{\pi}\int_{a}^{b}\| A(\tau)^{-1}\phi\|_{L_{2}(\Lambda_{0})}^{2}\,d\mu=\int_{|k|^{2}\in(a,b)}|[\mathcal{F}_{\mathfrak{s},0,x\to k}\phi](k)|^{2}\, dk \end{equation} \tag{4.1} $$
(где $\tau=\tau(\mu,\epsilon):=\sqrt{\mu+i\mathfrak{s}\epsilon}$), которая ввиду отсутствия точечного спектра у оператора $\mathcal{A}_{0}$ и в силу равенства
$$ \begin{equation*} \begin{aligned} \, & \frac{1}{2}\bigl(\|(E^{\mathcal{A}_{0}}_{b+0}+E^{\mathcal{A}_{0}}_{b})\phi\|^{2}_{L_{2}(\Lambda_{0})} -\|(E^{\mathcal{A}_{0}}_{a+0}+E^{\mathcal{A}_{0}}_{a})\phi\|^{2}_{L_{2}(\Lambda_{0})}\bigr) \\ &\qquad =\lim_{\epsilon\to+0}\frac{\epsilon}{\pi}\int_{a}^{b}\|(\mathcal{A}_{0}-(\mu-i\mathfrak{s}\epsilon)I)^{-1} \phi\|^{2}_{L_{2}(\Lambda_{0})}\,d\mu \end{aligned} \end{equation*} \notag $$
(см., например, [11; теорема 6.3.1]) эквивалентна (2.49). Сперва покажем, что
$$ \begin{equation} [A(\tau)^{-1}\psi](x)=(2\pi)^{-3/2}\int_{\mathbb{R}^{3}}\frac{[\mathcal{F}_{x\to\tau}\psi](k)\mathcal{Y}(x,k,\tau)}{|k|^{2}-\tau^{2}}\,dk, \qquad \psi\in C_{c}^{\infty}(\mathbb{R}^{3}, \end{equation} \tag{4.2} $$
для всех таких $\psi\in C_{c}^{\infty}(\mathbb{R}^{3})$, что $\operatorname{supp}\psi\subset\Lambda_{0}$. Здесь $\mathcal{F}_{x\to\tau}$ – комплексное преобразование Фурье, а $\mathcal{Y}(\cdot,k,\tau)$ – решения задачи
$$ \begin{equation} -(\Delta_{x}+\tau^{2})\mathcal{Y}(x,k,\tau)=(|k|^{2}-\tau^{2})e^{-ik\cdot x}, \quad x\in\Lambda_{0}, \qquad \mathcal{Y}(x,k,\tau)=0, \quad x\in\partial\Lambda_{0}\setminus\mathcal{O}, \end{equation} \tag{4.3} $$
в форме $\mathcal{Y}(x,k,\tau)=\chi_{\infty}(x)e^{-ik\cdot x}+\widetilde{\mathcal{Y}}(x,k,\tau)$ (здесь $\widetilde{\mathcal{Y}}(\cdot,k,\tau)\in H^{1}(\Lambda_{0})$, срезка $\chi_{\infty}$ введена перед (2.47)). Более точно, $\widetilde{\mathcal{Y}}(\cdot,k,\tau)=A(\tau)^{-1}h(\cdot,k,\tau)$, где $h(x,k,\tau):=(|k|^{2}-\tau^{2})(1-\chi_{\infty})e^{-ik\cdot x}+[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. В силу леммы 3 функция $\mathcal{Y}(\cdot,k,\tau)$ не зависит от выбора срезки $\chi_{\infty}$. Из [8; теорема 5.3] вытекают оценки
$$ \begin{equation} \|\widetilde{\mathcal{Y}}(\cdot,k,\tau)\|_{\mathfrak{D}_{l}(\tau)}+|k-k'|^{-1}\|\widetilde{\mathcal{Y}}(\cdot,k,\tau) -\widetilde{\mathcal{Y}}(x,k',\tau)\|_{\mathfrak{D}_{l}(\tau)}\leqslant c(l,\tau)(1+|k|+|k'|)^{M(l)}, \end{equation} \tag{4.4} $$
где $l=0,1,\dots$ и $M(l)>0$ – некоторые достаточно большие числа; норма $\|\cdot\|_{\mathfrak{D}_{l}(\tau)}$ задана равенством
$$ \begin{equation*} \| v\|_{\mathfrak{D}_{l}(\tau)}^{2}=\|\chi_{\tau}v\|^{2}_{H^{l+2}_{l+1}(\Lambda_{0};|\tau|)}+\| v\|^{2}_{H^{l+1}_{l+1}(\Lambda_{0};|\tau|)}. \end{equation*} \notag $$
Пусть $\Xi$ – ограниченная область в $\mathbb{R}^{3}\times\mathbb{C}_{\mathfrak{s}}$ и $\Lambda_{0,R}:=\{x\in\Lambda_{0}, \ |x|<R\}$, где $R>0$. Пусть $\{(k_{j,s},\tau_{j,s})\}_{j=1}^{\infty}\subset\Xi$ ($s=1,2$), $\lim_{j\to\infty}(k_{j,s},\tau_{j,s})=(k,\tau)\in\overline{\Xi}$ – такие последовательности, что $\liminf_{j\to\infty}\|\mathcal{V}_{j}\|_{L_{2}(\Lambda_{0,R})}\geqslant c_{0}>0$, где $\mathcal{V}_{j}:=\widetilde{\mathcal{Y}}(\cdot,k_{j,1},\tau_{j,1})-\widetilde{\mathcal{Y}}(\cdot,k_{j,2},\tau_{j,2})$. Ввиду (2.32) и леммы 8 последовательность $\{\mathcal{V}_{j}\}_{j=1}^{\infty}$ ограничена в $\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\operatorname{Im}\tau|)$ и содержит подпоследовательность, слабо сходящуюся в $\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\operatorname{Im}\tau|)$ к некоторому элементу $\mathcal{V}$. Для простоты будем считать, что такая подпоследовательность совпадает с $\{\mathcal{V}_{j}\}_{j=1}^{\infty}$. Непрерывность вложения $\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\operatorname{Im}\tau|)\subset H^{1}_{0}(\Lambda_{0,R})$ вытекает из определения норм, а компактность вложения $H^{1}_{0}(\Lambda_{0,R})\subset L_{2}(\Lambda_{0,R})$ – из [6; предложение 4.1.1]; отсюда $\mathcal{V}_{j}\to\mathcal{V}$ в $L_{2}(\Lambda_{0,R})$. Повторением рассуждений п. 2.3 проверяется, что $\mathcal{V}$ есть слабое (или $\mathfrak{s}$-слабое) решение однородной задачи (2.1), и потому $\mathcal{V}=0$. Полученное противоречие доказывает, что функция $(k,\tau)\to\widetilde{\mathcal{Y}}(\cdot,k,\tau)$ (со значениями в $L_{2}(\Lambda_{0,R})$) непрерывна на $\Xi$ вплоть до $\partial\Xi$; то же самое верно для функции $(k,\tau)\to-\Delta_{x}\widetilde{\mathcal{Y}}(\cdot,k,\tau):=h(\cdot,k,\tau)+\tau^{2}\widetilde{\mathcal{Y}}(\cdot,k,\tau)$. Теперь, последовательно применяя оценку
$$ \begin{equation*} \| u\|_{H^{l+2}_{l+1}(\Lambda_{0,R})}\leqslant c(l,R)\bigl(\| \Delta u\|_{H^{l}_{l}(\Lambda_{0,R})}+\| u\|_{L_{2}(\Lambda_{0,R+1})}\bigr) \end{equation*} \notag $$
(см. [6]) при $l=0,1,\dots$, устанавливаем, что функция $(k,\tau)\to\widetilde{\mathcal{Y}}(\cdot,k,\tau)$ непрерывна на $\Xi$ вплоть до $\partial\Xi$ по нормам в $H^{l+2}_{l+1}(\Lambda_{0,R})$. В частности, $\widetilde{\mathcal{Y}}(\cdot,k,\tau)\to\mathbf u_{0}^{\mathfrak{s}}(\cdot,k)$ при $\tau\to |k|+\mathfrak{s}i0$ (сходимость в $L_{2}(\Lambda_{0,R})$ и в $H^{l+2}_{l+1}(\Lambda_{0,R})$, функция $\mathbf u_{0}^{\mathfrak{s}}(\cdot,k)$ такая же, как в (2.47)). Правая часть (4.2) равна
$$ \begin{equation} W(x,\psi,\tau)=\frac{\chi_{\infty}(x)\psi(x)}{|k|^{2}-\tau^{2}}+(2\pi)^{-3/2}\int_{\mathbb{R}^{3}}\frac{[\mathcal{F}_{x\to\tau}\psi](k) \widetilde{\mathcal{Y}}(x,k,\tau)}{|k|^{2}-\tau^{2}}\,dk. \end{equation} \tag{4.5} $$
Поскольку $[\mathcal{F}_{x\to\tau}\psi]$ принадлежит классу Шварца $\mathcal{S}(\mathbb{R}^{3})$, из (4.4) следует, что $W(\cdot,\psi,\tau)\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, $W=0$ на $\partial\Lambda_{0}\setminus\mathcal{O}$ и $\| W(\cdot,\psi,\tau)\|_{\mathfrak{D}_{l}(\tau)}<\infty$, $l=0,1,\dots$ . Дифференцируя (4.5) с учетом (4.3), выводим $-(\Delta_{x}+\tau^{2})W(x,\psi,\tau)=\psi(x)$. Теперь из известных результатов об асимптотике решений эллиптических задач вблизи конических точек (см. [6]) имеем
$$ \begin{equation*} \widetilde{W}(x,\psi,\tau):=W(x,\psi,\tau)-\sum_{j>0, \ i\lambda_{j}<2}c_{j}r^{i\lambda_{j}}\chi(x)\Phi_{j}(\theta)=o(r^{2}), \qquad x\to\mathcal{O}, \end{equation*} \notag $$
где $c_{j}\in\mathbb{C}$ и срезка $\chi$ – такая же, как в (2.11). Обозначим
$$ \begin{equation*} x\to W_{s}(x,\psi,\tau)=\sum_{j>0, \ i\lambda_{j}<2}c_{j}r^{i\lambda_{j}}\chi(x)\Phi_{j}(\theta)+(1-\chi(\varepsilon^{-1}x))\chi(\varepsilon x)\widetilde{W}(x,\psi,\tau), \end{equation*} \notag $$
тогда $W_{s}(\cdot,\psi,\tau)\in\mathcal{D}$. В силу уже доказанного $W_{s}(\cdot,\psi,\tau)\to W(\cdot,\psi,\tau)$ и $A(\tau)W_{s}(\cdot,\psi,\tau)\to -(\Delta_{x}+\tau^{2})W(\cdot,\psi,\tau)$ в $L_{2}(\Lambda_{0})$. Отсюда $W(\cdot,\psi,\tau)\in\operatorname{Dom}A(\tau)$ и $A(\tau)W(\cdot,\psi,\tau)=\psi$, т.е. справедлива формула (4.2). Далее,
$$ \begin{equation*} \begin{aligned} \, &(\mathcal{F}_{x\to k}\psi,\mathcal{F}_{x\to k}A(\overline{\tau})^{-1}\phi)_{\Lambda_{0}}=(\psi,A(\overline{\tau})^{-1}\phi)_{\Lambda_{0}}=(W(\cdot,\psi,\tau),\phi)_{\Lambda_{0}} \\ &\qquad=\int_{\Lambda_{0}}\int_{\mathbb{R}^{3}}\overline{\phi(x)} \frac{[\mathcal{F}_{x\to\tau}\psi](k)\mathcal{Y}(x,k,\tau)}{(2\pi)^{3/2}(|k|^{2}-\tau^{2})}\,dk\,dx \end{aligned} \end{equation*} \notag $$
для всех $\phi\in C_{c}^{\infty}(\Lambda_{0})$ (функция $A(\overline{\tau})^{-1}\phi$ продолжена нулем на $\mathbb{R}^{3}\setminus\Lambda_{0}$). Ввиду включения $\mathcal{F}_{x\to\tau}\psi\in \mathcal{S}(\mathbb{R}^{3})$ и оценки (4.4) подынтегральное выражение справа абсолютно интегрируемо на $\operatorname{supp}\phi\times\mathbb{R}^{3}$. Поэтому
$$ \begin{equation*} (\mathcal{F}_{x\to k}\psi,\mathcal{F}_{x\to k}A(\overline{\tau})^{-1}\phi)_{\Lambda_{0}}=\int_{\mathbb{R}^{3}}\frac{[\mathcal{F}_{x\to\tau}\psi](k) \overline{F(k,\tau,\phi)}}{|k|^{2}-\tau^{2}}\,dk, \end{equation*} \notag $$
где
$$ \begin{equation*} F(k,\tau,\phi):=(2\pi)^{-3/2}\int_{\Lambda_{0}}\phi(x)\overline{\mathcal{Y}(x,k,\tau)}\,dx. \end{equation*} \notag $$
Поскольку функция $\psi$ произвольна, $[\mathcal{F}_{x\to k}A(\overline{\tau})^{-1}\phi](k)=(|k|^{2}-\overline{\tau}^{2})^{-1}F(k,\tau,\phi)$ в $L_{2}(\mathbb{R}^{3})$. В частности,
$$ \begin{equation*} \| A(\sqrt{\mu+i\mathfrak{s}\epsilon})^{-1}\phi\|_{L_{2}(\Lambda_{0})}^{2}=\int_{\mathbb{R}^{3}} \frac{|F(k,\sqrt{\mu+i\mathfrak{s}\epsilon},\phi)|^{2}}{(|k|^{2}-\mu)^{2}+\epsilon^{2}}\,dk. \end{equation*} \notag $$
Из уже доказанного вытекает, что функция $(k,\tau)\to F(k,\tau,\phi)$ равномерно непрерывна на множестве $\Xi_{1}\times\Xi_{2}$, где $\Xi_{1}$ ($\Xi_{2}$) – произвольный компакт в $\mathbb{R}^{3}\setminus\{0\}$ (в $\overline{\mathbb{C}_{\mathfrak{s}}}$), причем $F(k,|k|\pm i0,\phi)=[\mathcal{F}_{\pm,0,x\to k}\phi](k)$. Отсюда, из теоремы Фубини и из теоремы Лебега о мажорируемой сходимости получаем
$$ \begin{equation*} \begin{aligned} \, &\lim_{\epsilon\to +0}\frac{\epsilon}{\pi}\int_{a}^{b}\int_{|k|^{2}\in(a',b')} \frac{|F(k,\sqrt{\mu+i\mathfrak{s}\epsilon},\phi)|^{2}}{(|k|^{2}-\mu)^{2}+\epsilon^{2}}\,dk\,d\mu \\ &\qquad=\int_{|k|^{2}\in(a,b)}|F(k,\sqrt{\mu+i\mathfrak{s}0},\phi)|^{2} \,dk, \end{aligned} \end{equation*} \notag $$
где $0<a'<a<b<b'<+\infty$. Для завершения доказательства (4.1) достаточно проверить, что
$$ \begin{equation} \int_{\mathbb{R}^{3}}(1+|k|^{2})^{-2}|F(k,\tau,\phi)|^{2}\,dk\leqslant c(\phi,\mathfrak{K})<\infty \end{equation} \tag{4.6} $$
для всех $\tau$ из компактного множества $\mathfrak{K}$ в $\mathbb{C}_{\mathfrak{s}}$. Поскольку функция $\mathcal{Y}(\cdot,k,\tau)$ не зависит от выбора срезки $\chi_{\infty}$, можно считать, что $\chi_{\infty}=0$ на $\operatorname{supp}\phi$. Тогда
$$ \begin{equation} F(k,\tau,\phi)\,{=}\, (2\pi)^{-3/2}\int_{\Lambda_{0}}\phi(x)\overline{\widetilde{\mathcal{Y}}(x,k,\tau)}\,dx \,{=}\,(2\pi)^{-3/2}\int_{\Lambda_{0}}[A(\overline{\tau})^{-1}\phi](x)\overline{h(x,k,\tau)}\,dx. \end{equation} \tag{4.7} $$
Как и выше, проверяется, что функция $\tau\to A(\overline{\tau})^{-1}\phi$ со значениями в $H^{l+2}_{l+1}(\Lambda_{R})$ непрерывна на любом компакте $\Xi\subset\overline{\mathbb{C}_{\mathfrak{s}}}$ ($\mathfrak{s}=\pm$), причем $[A(\overline{\tau})^{-1}\phi](x)=O(r^{i\lambda_{1}})$, $\nabla_{x}[A(\overline{\tau})^{-1}\phi](x)=O(r^{i\lambda_{1}-1})$ при $x\to\mathcal{O}$. Из теоремы вложения имеем
$$ \begin{equation*} \max_{y\in\overline{\mathbb{K}}, |y|\in (1,2)}\bigl(|y|^{|\alpha|+1/2}|\partial^{\alpha}_{y}u(y)|\bigr)\leqslant c \| u\|_{H^{l+2}_{l+1}(\{y\in\mathbb{K}, |y|\leqslant 3\})}, \qquad |\alpha|\leqslant l+\frac12. \end{equation*} \notag $$
Выбирая $u(y):=[A(\overline{\tau})^{-1}\phi](y/\epsilon)$, $\epsilon\to 0$, проверяем, что функция $(\tau,x)\to |x|^{3/2}\partial_{\nu}[A(\overline{\tau})^{-1}\phi](x)$ равномерно ограничена по $x\in \partial\Lambda_{0}$ и $\tau\in\Xi$. Теперь, интегрируя по частям в (4.7) с учетом равенства $\overline{h(x,k,\tau)}=\widetilde{h}(x,k,\tau)(\Delta_{x}-1)e^{ikx}$, где $\widetilde{h}(\cdot,k,\tau):=-(1+|k|^{2})^{-1}\bigl((|k|^{2}-\overline{\tau}^{2})(1-\chi_{\infty})+ \Delta\chi_{\infty}+2ik\cdot\nabla\chi_{\infty}\bigr)$, получаем
$$ \begin{equation*} \begin{aligned} \, (2\pi)^{3/2}F(k,\tau,\phi) &=\int_{\Lambda_{0}}e^{ikx}(\Delta_{x}-1)[A(\overline{\tau})^{-1}\phi](x)\widetilde{h}(x,k,\tau) \,dx \\ &\qquad +\frac{|k|^{2}-\overline{\tau}^{2}}{(1+|k|^{2})}\int_{\partial\Lambda_{0}}e^{ikx}\partial_{\nu}[A(\overline{\tau})^{-1}\phi](x)\,dS. \end{aligned} \end{equation*} \notag $$
Последнее означает, что функция $(k,\tau)\to F(k,\tau,\phi)$ равномерно ограничена по $k\in\mathbb{R}^{3}$ и $\tau\in\Xi$. Отсюда немедленно следует (4.6).

Список литературы

1. N. A. Shenk II, “Eigenfunction expansions and scattering theory for the wave equation in an exterior region”, Arch. Rational Mech. Anal., 21:2 (1966), 120–150  crossref  mathscinet  zmath  adsnasa
2. V. Maz'ya, S. Nazarov, B. Plamenevskij, Asymptotic theory of elliptic boundary value problems in singularly perturbed domains, v. 1, Oper. Theory Adv. Appl., 111, Birkhäuser Verlag, Basel, 2000, xxiv+435 pp.  crossref  mathscinet  zmath
3. М. С. Агранович, М. И. Вишик, “Эллиптические задачи с параметром и параболические задачи общего вида”, УМН, 19:3(117) (1964), 53–161  mathnet  mathscinet  zmath; англ. пер.: M. S. Agranovich, M. I. Vishik, “Elliptic problems with a parameter and parabolic problems of general type”, Russian Math. Surveys, 19:3 (1964), 53–157  crossref  adsnasa
4. Б. А. Пламеневский, “О задаче Дирихле для волнового уравнения в цилиндре с ребрами”, Алгебра и анализ, 10:2 (1998), 197–228  mathnet  mathscinet  zmath; англ. пер.: B. A. Plamenevskii, “On the Dirichlet problem for the wave equation in a cylinder with edges”, St. Petersburg Math. J., 10:2 (1999), 373–397
5. А. В. Филиновский, “Стабилизация решений волнового уравнения в неограниченных областях”, Матем. сб., 187:6 (1996), 131–160  mathnet  crossref  mathscinet  zmath; англ. пер.: A. V. Filinovskii, “Stabilization of the solutions of the wave equation in unbounded domains”, Sb. Math., 187:6 (1996), 917–947  crossref
6. С. А. Назаров, Б. А. Пламеневский, Эллиптические задачи в областях с кусочно гладкой границей, Наука, М., 1991, 336 с.; англ. пер.: S. Nazarov, B. A. Plamenevsky, Elliptic problems in domains with piecewise smooth boundaries, De Gruyter Exp. Math., 13, Walter de Gruyter & Co., Berlin, 1994, viii+525 с.  crossref  mathscinet  zmath
7. А. Ю. Кокотов, П. Нейттаанмяки, Б. А. Пламеневский, “Задачи дифракции на конусе: асимптотика решений вблизи вершины”, Краевые задачи математической физики и смежные вопросы теории функций. 30, Зап. науч. сем. ПОМИ, 259, ПОМИ, СПб., 1999, 122–144  mathnet  mathscinet  zmath; англ. пер.: A. Yu. Kokotov, P. Neittaanmäki, B. A. Plamenevskii, “Difraction on a cone: the asymptotics of solutions near the vertex”, J. Math. Sci. (N.Y.), 109:5 (2002), 1894–1910  crossref
8. А. Ю. Кокотов, Б. А. Пламеневский, “О задаче Коши–Дирихле для гиперболических систем в клине”, Алгебра и анализ, 11:3 (1999), 140–195  mathnet  mathscinet  zmath; англ. пер.: A. Yu. Kokotov, B. A. Plamenevskii, “On the Cauchy–Dirichlet problem for hyperbolic systems in a wedge”, St. Petersburg Math. J., 11:3 (2000), 497–534
9. T. Kato, “Growth properties of solutions of the reduced wave equation with a variable coefficient”, Comm. Pure Appl. Math., 12:3 (1959), 403–425  crossref  mathscinet  zmath
10. N. Aronszajn, “A unique continuation theorem for solutions of elliptic partial differential equations or inequalities of second order”, J. Math. Pures Appl. (9), 36 (1957), 235–249  mathscinet  zmath
11. М. Ш. Бирман, М. З. Соломяк, Спектральная теория самосопряженных операторов в гильбертовом пространстве, 2-е изд., испр. и доп., Лань, СПб.–М.–Краснодар, 2010, 464 с.; англ. пер. 1-го изд.: M. Sh. Birman, M. Z. Solomjak, Spectral theory of self-adjoint operators in Hilbert space, Math. Appl. (Soviet Ser.), 5, D. Reidel Publ. Co., Dordrecht, 1987, xv+301 с.  mathscinet  zmath

Образец цитирования: Д. В. Кориков, “Асимптотика оператора рассеяния для волнового уравнения в сингулярно возмущенной области”, Матем. сб., 212:10 (2021), 96–130; D. V. Korikov, “Asymptotics of the scattering operator for the wave equation in a singularly perturbed domain”, Sb. Math., 212:10 (2021), 1436–1470
Цитирование в формате AMSBIB
\RBibitem{Kor21}
\by Д.~В.~Кориков
\paper Асимптотика оператора рассеяния для волнового уравнения в сингулярно возмущенной области
\jour Матем. сб.
\yr 2021
\vol 212
\issue 10
\pages 96--130
\mathnet{http://mi.mathnet.ru/sm9462}
\crossref{https://doi.org/10.4213/sm9462}
\transl
\by D.~V.~Korikov
\paper Asymptotics of the scattering operator for the wave equation in a~singularly perturbed domain
\jour Sb. Math.
\yr 2021
\vol 212
\issue 10
\pages 1436--1470
\crossref{https://doi.org/10.1070/SM9462}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=000729979100001}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85123536103}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/sm9462
  • https://doi.org/10.4213/sm9462
  • https://www.mathnet.ru/rus/sm/v212/i10/p96
  • Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Математический сборник Sbornik: Mathematics
    Статистика просмотров:
    Страница аннотации:244
    PDF русской версии:49
    PDF английской версии:38
    HTML русской версии:86
    Список литературы:48
    Первая страница:7
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024