|
Асимптотика оператора рассеяния для волнового уравнения в сингулярно возмущенной области
Д. В. Кориков Санкт-Петербургский политехнический университет Петра Великого
Аннотация:
Рассматривается семейство задач Коши–Дирихле для волнового уравнения в неограниченных областях $\Lambda_{\varepsilon}$ ($\varepsilon\geqslant 0$ – малый параметр); c каждой задачей связан оператор рассеяния $\mathbb{S}_{\varepsilon}$. При $\varepsilon>0$ границы областей $\Lambda_{\varepsilon}$ гладкие, в то время как граница предельной области $\Lambda_{0}$ содержит коническую точку. Выводится асимптотика оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$.
Библиография: 11 названий.
Ключевые слова:
волновое уравнение, сингулярно возмущенные области, оператор рассеяния.
Поступила в редакцию: 10.06.2020 и 07.04.2021
§ 1. Введение Пусть $\Lambda_{0}$ – область с компактным дополнением в $\mathbb{R}^{3}$. Мы считаем, что граница $\partial\Lambda_{0}$ гладкая за исключением одной точки $\mathcal{O}$ (начало координат); в $\varepsilon_{0}$-окрестности этой точки область $\Lambda_{0}$ совпадает с открытым конусом $\mathbb{K}$ (рис. 1, a). Пусть также $\Upsilon$ – область с гладкой границей, совпадающая с $\mathbb{K}$ вне единичного шара с центром $\mathcal{O}$ (рис. 1, b). При каждом $\varepsilon\in(0,\varepsilon_{0})$ введем область
$$
\begin{equation*}
\Lambda_{\varepsilon}:=\{x\colon \varepsilon^{-1}x\in\Upsilon, \ |x|\leqslant\varepsilon_{0}\}\cup\{x\in\Lambda_{0}\colon |x|> \varepsilon_{0}\}
\end{equation*}
\notag
$$
с гладкой границей $\partial\Lambda_{\varepsilon}$ (рис. 1, c). Область $\Lambda_{\varepsilon}$ является сингулярно возмущенной (граница предельной области $\Lambda_{0}$ негладкая). Мы дополнительно предполагаем, что
$$
\begin{equation}
\langle x-x_{0},\nu(x)\rangle\leqslant 0, \qquad x\in\partial\Lambda_{\varepsilon}, \ \varepsilon\in(0,\varepsilon_{0}),
\end{equation}
\tag{1.1}
$$
для некоторого $x_{0}\in\bigcap_{\varepsilon\in[0,\varepsilon_{0})}(\mathbb{R}^{3}\setminus\Lambda_{\varepsilon})$; здесь $\nu$ – единичный вектор внешней по отношению к $\Lambda_{\varepsilon}$ нормали. Условие (1.1) заведомо выполнено, если каждая область $\mathbb{R}^{3}\setminus\overline{\Lambda_{\varepsilon}}$ ($\varepsilon\in[0,\varepsilon_{0}]$) звездна относительно точки $x_{0}$. Рассмотрим семейство задач Коши–Дирихле
$$
\begin{equation}
\begin{cases} (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, & x\in\Lambda_{\varepsilon}, \quad t>0, \\ u(x,t)=0, & x\in\partial\Lambda_{\varepsilon}, \quad t>0, \\ u(x,0)=\phi(x), \quad \partial_{t}u(x,0)=\psi(x), & x\in\Lambda_{\varepsilon}. \\ \end{cases}
\end{equation}
\tag{1.2}
$$
С каждой задачей (1.2) связана сильно непрерывная группа унитарных операторов $\{U_{\varepsilon}(t)\}$; аналогичная группа операторов $\{U_{f}(t)\}$ ассоциирована с задачей Коши в свободном пространстве $\mathbb{R}^{3}$. При каждом $\varepsilon\in(0,\varepsilon_{0})$ существование волновых операторов $W^{\pm}_{\varepsilon}=s-\lim_{t\to\pm\infty}U_{\varepsilon}(-t)P_{\varepsilon}U_{f}(t)$ вытекает из результатов работы [1]; здесь отождествление задано формулой $P_{\varepsilon}\{\phi,\psi\}:=\{(1-\chi_{0})\phi|_{\Lambda_{\varepsilon}},(1-\chi_{0})\psi|_{\Lambda_{\varepsilon}}\}$, где $\chi_{0}\in C_{c}^{\infty}(\mathbb{R}^{3})$ и $\chi_{0}=1$ в окрестности $\mathbb{R}^{3}\setminus\Lambda_{0}$. Мы изучаем семейство операторов рассеяния $\mathbb{S}_{\varepsilon}:=(W^{+}_{\varepsilon})^{-1}W^{-}_{\varepsilon}$ ($\varepsilon\in[0,\varepsilon_{0}]$); целью является описание асимптотики оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$. Опишем план доказательства. Благодаря полученной в [1] явной формуле для оператора $\mathbb{S}_{\varepsilon}$ дело сводится к выводу равномерной по параметру $\tau\in\mathbb{R}$ асимптотики решений задачи
$$
\begin{equation}
\begin{cases} -(\Delta_{x}+\tau^{2})u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)=f(x,\tau), & x\in\Lambda_{\varepsilon}, \\ u^{\mathfrak{\pm}}_{\varepsilon}(x,\tau)=0, & x\in\partial\Lambda_{\varepsilon}, \\ \displaystyle \int_{\Lambda_{\varepsilon}}|\partial_{\rho}u^{\mathfrak{\pm}}_{\varepsilon}(x,\tau)\mp i\tau u^{\mathfrak{\pm}}_{\varepsilon}(x,\tau)|^{2}\,dx<+\infty \qquad \end{cases}
\end{equation}
\tag{1.3}
$$
при $\varepsilon\to 0$ (здесь $\rho=|x-x_{0}|$). Асимптотика функции $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$ при $\varepsilon\to 0$ строится методом составных разложений (см. [2]). При таком подходе асимптотика $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$ составляется из решений так называемых предельных задач, не зависящих от малого параметра $\varepsilon$. Первая предельная задача в области $\Lambda_{0}$ получается из (1.3) подстановкой $\varepsilon=0$. В качестве аппроксимации решения $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$ берется функция $x\to y^{(1)}_{\varepsilon}(x,\tau):=(1-\chi(\varepsilon^{-1}x))v^{\mathfrak{\pm}}_{0}(x,\tau)$, где $v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$ – решение первой предельной задачи, а $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$ – срезка, равная 1 вблизи вершины $\mathcal{O}$. Подстановка этой функции в (1.3) приводит к невязке от коммутатора $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$. Для описания поведения невязки при $\varepsilon\to 0$ используется (также равномерная по $\tau$) асимптотика решения $v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$ вблизи вершины $\mathcal{O}$. Главная часть невязки при $\varepsilon\to 0$ компенсируется с помощью поправки в форме $y^{(2)}_{\varepsilon}(x,\tau):=\varepsilon^{s}\chi(x)w_{0}(\varepsilon^{-1}x,\tau)$, где $w_{0}(\cdot,\tau)$ есть решение второй предельной задачи в области $\Upsilon$. Подстановка суммы $y^{(1)}_{\varepsilon}(\cdot,\tau)+y^{(2)}_{\varepsilon}(\cdot,\tau)$ в (1.3) приводит к невязке следующего порядка, которая компенсируется с помощью решений следующей пары предельных задач. Продолжая описанную процедуру, можно построить полное асимптотическое разложение функции $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$. Такое разложение является двухмасштабным: оно составлено из функций, которые зависят либо от “медленной” переменной $x$, либо от “быстрой” переменой $\xi=\varepsilon^{-1}x$. Первая предельная задача
$$
\begin{equation}
{-}(\Delta_{x}+\tau^{2})v=f \quad\text{в }\ \Lambda_{0}, \qquad v=0 \quad\text{на }\ \partial\Lambda_{0},
\end{equation}
\tag{1.4}
$$
не является эллиптической с учетом параметра $\tau$ (см. [3]), т.е. не существует равномерной по $\tau$ глобальной эллиптической оценки решения $v$ и его первых и вторых производных. При $|\operatorname{Im}\tau|\geqslant \mathrm{const}>0$ равномерная асимптотика решений при $x\to\mathcal{O}$ получена в [4]. Метод, развитый в [4], основан на “комбинированных” априорных оценках решений. В окрестности вершины (“эллиптическая зона”) структура комбинированной оценки такая же, как и для эллиптических задач: мажорируются весовые нормы решения и его производных вплоть до второго порядка. Наличие такой зоны в оценке позволяет использовать при описании асимптотики решений формализм теории эллиптических краевых задач. В оставшейся части области $\Lambda_{0}$ (“гиперболическая зона”) мажорируются только решение и его первые производные. Для того чтобы комбинированная оценка была равномерной по параметру $\tau$, необходимо, чтобы диаметр эллиптической зоны убывал как $O(|\tau|^{-1})$ при $|\tau|\to+\infty$. Мы не можем применять результаты [4] непосредственно, поскольку правая часть полученной там комбинированной оценки стремится к бесконечности при $\operatorname{Im}\tau\to 0$. В настоящей работе выводится модифицированное комбинированное неравенство, правая часть которого не содержит слагаемых, растущих при $|\operatorname{Im}\tau|\to 0$. Такая модификация существенно использует технику работы [5]; в частности, именно отсюда и возникает ограничение (1.1) на геометрию области $\Lambda_{0}$. Вместе с результатами работы [4] модифицированные комбинированные оценки приводят к асимптотике решений задачи (1.4) при $x\to\mathcal{O}$, равномерной на каждой полуплоскости $\mathbb{C}_{\pm}:=\{\tau\in\mathbb{C}\colon \pm\operatorname{Im}\tau\geqslant 0\}$. Вернемся к задачам (1.3) и (1.2). При $\varepsilon|\tau|\geqslant \mathrm{const}$ эллиптическая зона не пересекается с носителем коммутатора $[\Delta_{x},\chi(\varepsilon^{-1}x)]$ и из асимптотики решения $v_{0}^{\pm}(\cdot,\sigma)$ нельзя извлечь информацию о поведении невязки $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{\pm}}_{0}(\cdot,\tau)$. Это означает, что метод составных разложений неприменим при больших (по сравнению с $\varepsilon^{-1}$) значениях параметра $\tau$. Поэтому мы сужаем исходную область определения оператора рассеяния $\mathbb{S}_{\varepsilon}$ на плотное подмножество, образованное достаточно гладкими начальными данными $\{\phi,\psi\}$ (требования гладкости усиливаются с ростом числа членов асимптотики). Благодаря этому “высокочастотный” вклад в решение $u(\cdot,t)$ задачи (1.2) оказывается пренебрежимо малым при $\varepsilon\to 0$. Поэтому требуется описать действие оператора $\mathbb{S}_{\varepsilon}$ лишь на “низкочастотную” часть начальных данных $\{\phi,\psi\}$; для этого достаточно асимптотики решений $u^{\pm}_{\varepsilon}(\cdot,\tau)$ при $\varepsilon\to 0$, $\varepsilon|\tau|\leqslant \mathrm{const}$. Для простоты изложения мы ограничиваемся выводом первых двух членов асимптотики оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$. Тем не менее вышеописанный алгоритм позволяет получить отрезок асимптотического ряда для $\mathbb{S}_{\varepsilon}$ сколь угодно большой длины (для этого требуется выписать достаточно большое число членов асимптотики решений $u^{\mathfrak{\pm}}_{\varepsilon}(\cdot,\tau)$). Основной результат работы содержится в теореме 1. 1.1. Задача в области $\Lambda_{\varepsilon}$ Рассмотрим уравнение Гельмгольца
$$
\begin{equation}
{-}(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)=f(x,\sigma), \qquad x\in\Lambda_{\varepsilon},
\end{equation}
\tag{1.5}
$$
с вещественным параметром $\sigma$ и правой частью $f(\cdot,\sigma)\in C_{c}^{\infty}(\Lambda_{0})$; решение $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\in C^{\infty}(\Lambda_{\varepsilon})$ ($\mathfrak{s}=\pm$) подчиняется граничному условию Дирихле
$$
\begin{equation}
u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)=0, \qquad x\in\partial\Lambda_{\varepsilon},
\end{equation}
\tag{1.6}
$$
и условию излучения
$$
\begin{equation}
\int_{\Lambda_{\varepsilon}}\biggl(|\partial_{\rho}u_{\varepsilon}^{\mathfrak{s}}(x,\sigma)-i\mathfrak{s}\sigma u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}+\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx<\infty
\end{equation}
\tag{1.7}
$$
(здесь и далее $\rho:=|x-x_{0}|$). Предложение 1 (см. [5], [1]). При любых $\sigma\in\mathbb{R}$, $\mathfrak{s}=\pm$ и $f(\cdot,\sigma)\in C_{c}^{\infty}(\Lambda_{\varepsilon})$ существует единственное решение $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\in C^{\infty}(\Lambda_{\varepsilon})$ задачи (1.5), (1.7), подчиненное условиям излучения (1.7). Это решение удовлетворяет неравенству
$$
\begin{equation}
\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx.
\end{equation}
\tag{1.8}
$$
Константа $c$ в (1.8) не зависит ни от $f$, ни от $\sigma$ и $\varepsilon$. Функция $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ совпадает с классическим решением задачи (1.5), (1.7) с асимптотикой
$$
\begin{equation}
u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)=|x|^{-1}e^{i\mathfrak{s}\sigma|x|}S^{\mathfrak{s}}_{\varepsilon}(|x|^{-1}x,\sigma)+O(|x|^{-2})
\end{equation}
\tag{1.9}
$$
при $|x|\to\infty$; здесь $S^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ – гладкая функция на единичной сфере $S_{1}$. Лемма 1. В условиях предложения 1 справедлива оценка
$$
\begin{equation}
\| S^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2}\leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx.
\end{equation}
\tag{1.10}
$$
Доказательство. Пусть $\chi_{\infty}\in C^{\infty}(\mathbb{R}^{3})$, $\chi_{\infty}=1$ в окрестности бесконечности и $\chi_{\infty}=0$ в шаре достаточно большого радиуса с центром $\mathcal{O}$; тогда $\operatorname{supp}\chi_{\infty}\subset\Lambda_{\varepsilon}=\varnothing$ при $\varepsilon\in(0,\varepsilon_{0})$. Из формулы Грина в области $\Lambda_{\varepsilon}^{R}:=\{x\in \Lambda_{\varepsilon}$: $|x|<R\}$ имеем
$$
\begin{equation}
\begin{aligned} \, \notag & 2i\operatorname{Im}\int_{\Lambda_{\varepsilon}^{R}}\chi_{\infty}(x)f(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx +\int_{\Lambda_{\varepsilon}^{R}}[\triangle_{x},\chi_{\infty}(x)]u^{\mathfrak{s}}_{\varepsilon}(x,\sigma) \overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx \\ &\qquad=-2i\operatorname{Im}\int_{|x|=R}\partial_{r}u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dS, \end{aligned}
\end{equation}
\tag{1.11}
$$
где $r=|x|$. В силу (1.9) предельный переход $R\to+\infty$ в (1.11) дает
$$
\begin{equation}
\begin{aligned} \, \notag &{-}2i\mathfrak{s}\sigma\| S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} =2i\operatorname{Im}\int_{\Lambda_{\varepsilon}}\chi_{\infty}(x)f(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx \\ &\qquad\qquad +\int_{\Lambda_{\varepsilon}}[\triangle_{x},\chi_{\infty}(x)]u^{\mathfrak{s}}_{\varepsilon}(x,\sigma) \overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx. \end{aligned}
\end{equation}
\tag{1.12}
$$
Мажорируя правую часть (1.12) с помощью оценки (1.8) и неравенств
$$
\begin{equation*}
\begin{gathered} \, \biggl|\int_{\Lambda_{\varepsilon}}\chi_{\infty}(x)f(x,\sigma)\overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx\biggr| \leqslant c\biggl(\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx\biggr)^{1/2} \biggl(\int_{\Lambda_{\varepsilon}}\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\,dx\biggr)^{1/2}, \\ \biggl|\int_{\Lambda_{\varepsilon}}[\triangle_{x},\chi_{\infty}(x)]u^{\mathfrak{s}}_{\varepsilon}(x,\sigma) \overline{u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)}\,dx\biggr| \leqslant c\| u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\|_{H^{1}(\Lambda_{\varepsilon,R_{0}})}\| u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon,R_{0}})} \end{gathered}
\end{equation*}
\notag
$$
(где $\Lambda_{\varepsilon,R_{0}}:=\{x\in\Lambda_{\varepsilon}\colon \rho\leqslant R_{0}\}$ и $R_{0}=\max\rho$ на $\operatorname{supp}[\triangle_{x},\chi_{\infty}]$), получаем (1.10).
Лемма доказана. 1.2. Оператор рассеяния Далее нам понадобятся полученные в [1] сведения из теории рассеяния для волнового уравнения во внешности ограниченной области с гладкой границей. Введем оператор $\mathcal{A}_{f}v(x)\to-\Delta_{x}v(x)$ в $L_{2}(\mathbb{R}^{3})$, $\operatorname{Dom}\mathcal{A}_{f}:=\{v\in L_{2}(\mathbb{R}^{3})\colon \Delta_{x}v\in L_{2}(\mathbb{R}^{3})\}$. Имеем $\mathcal{A}_{f}=\mathcal{F}^{-1}_{k\to x}[|k|^{2}]\mathcal{F}_{x\to k}$, где $\mathcal{F}_{x\to k}$ – преобразование Фурье
$$
\begin{equation*}
[\mathcal{F}_{x\to k}v](k)=(2\pi)^{-3/2}\int_{\mathbb{R}^{3}}e^{ik\cdot x}v(x)\,dx,
\end{equation*}
\notag
$$
а $[f(k)]$ – оператор умножения на функцию $k\to f(k)$. Пусть $\mathcal{H}_{f}$ – пополнение $\operatorname{Dom}\mathcal{A}_{f}\times\operatorname{Dom}\mathcal{A}_{f}$ относительно скалярного произведения $(\{\phi,\psi\},\{\phi',\psi'\})_{\mathcal{H}_{f}}:=(\nabla\phi,\nabla\phi')_{L_{2}(\mathbb{R}^{3})}+(\psi,\psi')_{L_{2}(\mathbb{R}^{3})}$. Оператор $G_{f}$, заданный на области определения $\operatorname{Dom}G_{f}=\operatorname{Dom}\mathcal{A}_{f}\times L_{2}(\mathbb{R}^{3})$ формулой $G_{f}\{\phi,\psi\}:=\{-i\psi,i\mathcal{A}_{f}\phi\}$, самосопряжен в $\mathcal{H}_{f}$. Свяжем с задачей Коши для волнового уравнения
$$
\begin{equation}
\begin{gathered} \, (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, \qquad x\in\mathbb{R}^{3}, \qquad t>0, \\ u(x,0)=\phi(x), \qquad \partial_{t}u(x,0)=\psi(x), \qquad x\in\mathbb{R}^{3}, \end{gathered}
\end{equation}
\tag{1.13}
$$
сильно непрерывную группу $t\to U_{f}(t)$ унитарных операторов $U_{f}(t)\colon \mathcal{H}_{f}\to\mathcal{H}_{f}$ с генератором $iG_{f}$. Пусть $\mathfrak{N}$ – пространство функций с конечной нормой
$$
\begin{equation}
\| f\|_{\mathfrak{N}}:=\biggl(\int_{-\infty}^{+\infty}d\kappa\int_{S_{1}}|f(\kappa,\widehat{\kappa})|^{2}\,dS_{\widehat{\kappa}}\biggr)^{1/2}.
\end{equation}
\tag{1.14}
$$
Преобразование $\mathfrak{R}_{f}\colon \mathcal{H}_{f}\to\mathfrak{N}$,
$$
\begin{equation}
[\mathfrak{R}_{f}\{\phi,\psi\}](\kappa,\widehat{\kappa}):=\frac{\kappa}{i\sqrt{2}}\bigl([\mathcal{F}_{x\to k}\psi](\kappa\widehat{\kappa})+i\kappa[\mathcal{F}_{x\to k}\phi](\kappa\widehat{\kappa})\bigr)
\end{equation}
\tag{1.15}
$$
является унитарным изоморфизмом, причем
$$
\begin{equation}
G_{f}=\mathfrak{R}_{f}^{-1}[\kappa]\mathfrak{R}_{f}, \qquad U_{f}(t)=\mathfrak{R}_{f}^{-1}[e^{i\kappa t}]\mathfrak{R}_{f}
\end{equation}
\tag{1.16}
$$
(здесь и далее через $[f(\kappa,\widehat{\kappa})]$ обозначается оператор умножения на функцию $(\kappa,\widehat{\kappa})\to f(\kappa,\widehat{\kappa})$). Теперь введем оператор $\mathcal{A}_{\varepsilon}'\colon v\to \mathcal{A}_{\varepsilon}v:=-\Delta_{x}v$ в $L_{2}(\Lambda_{\varepsilon})$ с областью определения $\{v\in C_{c}^{\infty}(\overline{\Lambda_{\varepsilon}})\colon v=0 \quad\text{на }\ \partial\Lambda_{\varepsilon}\}$. Замыкание $\mathcal{A}_{\varepsilon}$ оператора $\mathcal{A}_{\varepsilon}'$ есть самосопряженный оператор в $L_{2}(\Lambda_{\varepsilon})$ и имеет чисто непрерывный спектр, совпадающий с полуосью $[0,+\infty)$. Пусть $\chi_{\infty}$ – гладкая срезающая функция, равная единице в окрестности бесконечности и аннулирующаяся в достаточно большом шаре, содержащем $\mathbb{R}^{3}\setminus\Lambda_{0}$. При $k\in\mathbb{R}^{3}$, $\mathfrak{s}=\pm$ введем функции
$$
\begin{equation}
x\to \mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k)=\chi_{\infty}(x)e^{-ik\cdot x}+\mathbf u_{\varepsilon}^{\mathfrak{s}}(x,k),
\end{equation}
\tag{1.17}
$$
где $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)\in C^{\infty}(\overline{\Lambda_{\varepsilon}})$ есть (единственное) решение задачи (1.5), (1.6) с $\sigma=|k|$ и $f(x,\sigma)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$, подчиненное условию излучения (1.7). Из предложения 1 вытекает асимптотика
$$
\begin{equation}
\mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k)=e^{-ik\cdot x}+|x|^{-1}e^{i\mathfrak{s}|k||x|}\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(|x|^{-1}x,k)+O(|x|^{-2}), \qquad |x|\to +\infty,
\end{equation}
\tag{1.18}
$$
где $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)\in C^{\infty}(S_{1})$. Для функций $\phi\in C_{c}^{\infty}(\Lambda_{\varepsilon})$ положим
$$
\begin{equation*}
[\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}\phi](k):=(2\pi)^{-3/2}\int_{\Lambda_{\varepsilon}}\phi(x)\overline{\mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k)}\,dx;
\end{equation*}
\notag
$$
тогда $\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}\phi\in L_{2}(\mathbb{R}^{3})$ и $\|\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}\phi\|_{L_{2}(\mathbb{R}^{3})}=\|\phi\|_{L_{2}(\Lambda_{\varepsilon})}$. Преобразование $\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}$ продолжается по непрерывности до унитарного изоморфизма $L_{2}(\Lambda_{\varepsilon})$ и $L_{2}(\mathbb{R}^{3})$, причем $\mathcal{A}_{\varepsilon}=\mathcal{F}_{\mathfrak{s},\varepsilon,k\to x}^{-1}[|k|^{2}]\mathcal{F}_{\mathfrak{s},\varepsilon,x\to k}$. Обозначим через $\mathcal{H}_{\varepsilon}$ пополнение $\operatorname{Dom}\mathcal{A}_{\varepsilon}\times\operatorname{Dom}\mathcal{A}_{\varepsilon}$ относительно скалярного произведения $(\{\phi,\psi\},\{\phi',\psi'\})_{\mathcal{H}_{\varepsilon}}:=(\nabla\phi,\nabla\phi')_{L_{2}(\Lambda_{\varepsilon})}+(\psi,\psi')_{L_{2}(\Lambda_{\varepsilon})}$. Оператор $G_{\varepsilon}\colon G_{\varepsilon}\{\phi,\psi\}:=\{-i\psi,i\mathcal{A}_{\varepsilon}\phi\}$ (с областью определения $\operatorname{Dom} G_{\varepsilon}=\operatorname{Dom}\mathcal{A}_{\varepsilon}\times L_{2}(\Lambda_{\varepsilon})$) является самосопряженным в $\mathcal{H}_{\varepsilon}$. Свяжем с задачей Коши–Дирихле (1.2) сильно непрерывную группу $t\to U_{\varepsilon}(t)$ унитарных операторов $U_{\varepsilon}(t)\colon \mathcal{H}_{\varepsilon}\to\mathcal{H}_{\varepsilon}$ с генератором $iG_{\varepsilon}$. Преобразование $\mathfrak{R}_{\mathfrak{s},\varepsilon}\colon \mathcal{H}_{\varepsilon}\to\mathfrak{N}$,
$$
\begin{equation*}
[\mathfrak{R}_{\mathfrak{s},\varepsilon}\{\phi,\psi\}](\kappa,\widehat{\kappa}):=\frac{\kappa}{i\sqrt{2}}\bigl([\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,\varepsilon,x\to k}\psi](\kappa\widehat{\kappa}) +i\kappa[\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,\varepsilon,x\to k}\phi](\kappa\widehat{\kappa})\bigr),
\end{equation*}
\notag
$$
есть унитарный изоморфизм, причем $G_{\varepsilon}=\mathfrak{R}_{\mathfrak{s},\varepsilon}^{-1}[\kappa]\mathfrak{R}_{\mathfrak{s},\varepsilon}$ и $U_{\varepsilon}(t)=\mathfrak{R}_{\mathfrak{s},\varepsilon}^{-1}[e^{i\kappa t}]\mathfrak{R}_{\mathfrak{s},\varepsilon}$. Для оператора $\mathbf S_{\varepsilon}:=\mathfrak{R}_{+,\varepsilon}\mathfrak{R}_{-,\varepsilon}^{-1}-I$ справедлива явная формула
$$
\begin{equation}
\mathbf S_{\varepsilon}f(\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}f(\kappa,\theta)\overline{\mathcal{S}^{+}_{\varepsilon}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta},
\end{equation}
\tag{1.19}
$$
где функция $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}$ – та же самая, что и в разложении (1.18). Волновые операторы
$$
\begin{equation}
W^{\mathfrak{s}}_{\varepsilon}:=s-\lim_{\mathfrak{s}t\to+\infty}U_{\varepsilon}(-t)P_{\varepsilon}U_{f}(t), \qquad \mathfrak{s}=\pm
\end{equation}
\tag{1.20}
$$
(отождествление $P_{\varepsilon}$ задано правилом $P_{\varepsilon}\{\phi,\psi\} :=\{\chi_{\infty}\phi|_{\Lambda_{\varepsilon}},\chi_{\infty}\psi|_{\Lambda_{\varepsilon}}\}$), существуют и унитарны. Справедливо равенство $W^{\mathfrak{s}}_{\varepsilon}=\mathfrak{R}_{\mathfrak{s},\varepsilon}^{-1}\mathfrak{R}_{f}$, $\mathfrak{s}=\pm$. Оператор рассеяния $\mathbb{S}_{\varepsilon}:=(W^{+}_{\varepsilon})^{-1}W^{-}_{\varepsilon}$ имеет вид
$$
\begin{equation}
\mathbb{S}_{\varepsilon}=\mathfrak{R}_{f}^{-1}\mathfrak{R}_{+,\varepsilon}\mathfrak{R}_{-,\varepsilon}^{-1}\mathfrak{R}_{f}=I+\mathfrak{R}_{f}^{-1}\mathbf S_{\varepsilon}\mathfrak{R}_{f}.
\end{equation}
\tag{1.21}
$$
§ 2. Задача в области $\Lambda_{0}$ В “предельной” области $\Lambda_{0}$ с конической точкой $\mathcal{O}$ рассмотрим задачу
$$
\begin{equation}
{-}(\Delta_{x}+\tau^{2})v=f \quad\text{в }\ \Lambda_{0}, \qquad v=0 \quad\text{на }\ \partial\Lambda_{0}\setminus\mathcal{O},
\end{equation}
\tag{2.1}
$$
с комплексным параметром $\tau$. Равномерная по $\tau$ асимптотика решений задачи (2.1) в окрестности $\mathcal{O}$ получена в [4] при дополнительном ограничении $|\operatorname{Im}\tau|\geqslant\mathrm{const}>0$. В этом параграфе это ограничение снимается и выводятся асимптотики решений, равномерные на каждой полуплоскости1[x]1При $\tau\in\mathbb{R}\pm i0$ решения задачи (2.1) подчинены подходящим условиям излучения. $\mathbb{C}_{\pm}:=\{\tau\,{\in}\,\mathbb{C}$: $\pm\operatorname{Im}\tau\geqslant 0\}$. 2.1. Предварительные сведения2.1.1. Пространства функций в $\mathbb{K}$ и $\Lambda_{0}$ Пусть $l=0,1,\dots$, $\beta\in\mathbb{R}$ и $p\geqslant 0$; обозначим через $H^{l}_{\beta}(\mathbb{K})$ пополнение линеала $C_c^{\infty}(\overline{\mathbb{K}}\setminus\mathcal{O})$ по норме
$$
\begin{equation}
\| v\|_{H^{l}_{\beta}(\mathbb{K})}=\biggl (\sum_{|\alpha |\leqslant l} \int_{\mathbb{K}}|x|^{2(\beta+|\alpha|-l)}|D_{x}^{\alpha}v(x)|^{2}\, dx\biggr )^{1/2},
\end{equation}
\tag{2.2}
$$
а через $H^{l}_{\beta}(\mathbb{K};p)$ ($p\geqslant 0$) – пополнение того же линеала по норме
$$
\begin{equation}
\| v\|_{H^{l}_{\beta}(\mathbb{K};p)}=\biggl ( \sum_{s=0}^{l} p^{2s}\| v\|_{H^{l-s}_{\beta}(\mathbb{K})}^{2}\biggr )^{1/2}.
\end{equation}
\tag{2.3}
$$
Пространства $H^{l}_{\beta}(\Lambda_{0})$ и $H^{l}_{\beta}(\Lambda_{0};p)$ отличаются от $H^{l}_{\beta}(\mathbb{K})$ и $H^{l}_{\beta}(\mathbb{K};p)$ заменой в определениях $\mathbb{K}$ на $\Lambda_{0}$. 2.1.2. Операторный пучок В области $\Theta=\{x\in\mathbb{K}\colon |x|=1\}$ определим операторный пучок $\mathbb{C}\ni\lambda\mapsto\mathfrak{A}(\lambda)$ формулой
$$
\begin{equation}
\mathfrak{A}(\lambda)\Phi(\theta)=r^{2-i\lambda}\Delta_{x}r^{i\lambda}\Phi(\theta), \qquad \Phi\in H^{2}(\Theta)\cap \mathring{H^{1}}(\Theta);
\end{equation}
\tag{2.4}
$$
здесь и далее $r:=|x|$, $\theta:=x/|x|$. Более явно, $\mathfrak{A}(\lambda)\Phi=(\lambda^{2}-i\lambda-\delta)\Phi$, где $\delta$ – оператор Лапласа–Бельтрами в $\Theta$ с условиями Дирихле на $\partial\Theta$. Спектр пучка состоит из нормальных собственных значений
$$
\begin{equation}
\lambda_{\pm k}=\frac i2\{1\mp(1+4\mu_{k})^{1/2}\}, \qquad k=1,2,\dots,
\end{equation}
\tag{2.5}
$$
где $\{\mu_{k}\}$ есть последовательность всех собственных значений $0<\mu_{1}<\mu_{2}\leqslant\mu_{3}\leqslant\dotsb$ оператора $-\delta$. В частности, $i\lambda_{k}>0$ и $i\lambda_{-k}<-1$, $k>0$. Собственные функции $\Phi_{k}$, отвечающие собственным числам $\lambda_{\pm k}$, можно выбрать так, чтобы
$$
\begin{equation}
(1+4\mu_{k})^{1/2}(\Phi_{k},\Phi_{j})_{L_{2}(\Theta)}=\delta_{k,j}.
\end{equation}
\tag{2.6}
$$
Присоединенных функций нет. Лемма 2 (см. [6]). При $\beta+i\lambda_{j}\ne 1/2$, $j=\pm 1,\pm 2,\dots$, для всех $v\in H^{2}_{\beta}(\mathbb{K})\cap\mathring{H^{1}}(\mathbb{K})$ справедлива оценка
$$
\begin{equation}
\| v\|_{H^{2}_{\beta}(\mathbb{K})}\leqslant c(\beta)\|\Delta_{x}v\|_{H^{0}_{\beta}(\mathbb{K})}.
\end{equation}
\tag{2.7}
$$
При $\tau\in\mathbb{C}$ введем функции
$$
\begin{equation}
x\to y_{j}^{K}(x,\tau)=r^{i\lambda_{j}}\Phi_{j}(\theta)\sum_{k=0}^{K}c_{j,k}(\tau r)^{2k}, \qquad K\geqslant 0,
\end{equation}
\tag{2.8}
$$
где $c_{j,0}:=1$, $c_{j,k}:=(4k(k+i\lambda_{j}+1/2))^{-1}c_{j,k-1}$, $k>0$. Для $y_{j}^{K}$ справедливы соотношения
$$
\begin{equation*}
(\Delta_{x}+\tau^{2})y_{j}^{K}(x,\tau)=O(r^{i\lambda_{j}+2K}), \quad x\,{\in}\,\mathbb{K}, \quad |x|\to 0, \qquad y_{j}^{K}(x,\tau)\,{=}\,0, \quad x\,{\in}\,\partial\mathbb{K}\setminus\mathcal{O}.
\end{equation*}
\notag
$$
Если $-(i\lambda_{j}+1/2)\notin\mathbb{N}$ (например, при $j>0$), то функция $y_{j}^{K}$ определена при любых $K$. Если $\lambda_{j}=i(k_{0}+1/2)$, $k_{0}\in\mathbb{N}$, то функция $y_{j}^{K}$ определена только при $k<k_{0}$. Для всякого $\lambda_{j}\ne 3i/2$ можно выбрать число $K$ в (2.8) достаточно большим, чтобы выполнялось условие $(\Delta_{x}+\tau^{2})(\chi y_{-j}^{K}(\cdot,\tau))\in L_{2}(\mathbb{K})$; здесь $\chi\in C_{c}^{\infty}(\mathbb{K})$ и $\chi=1$ вблизи $\mathcal{O}$. При $\lambda_{j}=3i/2$ тому же самому условию удовлетворяет функция $x\to r^{i\lambda_{j}}\Phi_{j}(\theta)(1+(1/2)(\tau r)^{2}\ln r)$. В дальнейшем (лишь для упрощения выкладок) мы будем считать конус $\mathbb{K}$ таким, что $3i/2$ не является собственным числом для пучка $\mathfrak{A}$. Легко проверить, что
$$
\begin{equation}
\begin{gathered} \, \notag \|\chi_{p}y_{j}^{K}(\cdot,\tau)\|_{H^{0}_{\beta}(\mathbb{K})}=O(p^{-(i\lambda_{j}+\beta+3/2)}), \qquad i\lambda_{j}+\beta+\frac32>0, \\ \|(\Delta_{x}+\tau^{2})(\chi_{p}y_{j}^{K}(\cdot,\tau))\|_{H^{0}_{\beta}(\mathbb{K})}=O(p^{1/2-i\lambda_{j}-\beta}), \qquad 2K>-\frac32-\beta-i\lambda_{j}, \end{gathered}
\end{equation}
\tag{2.9}
$$
где $\chi_{p}(x):=\chi(px)$, $p=\sqrt{1+|\sigma|^{2}}$, $|\gamma|\leqslant 1$. 2.1.3. Слабые и сильные решения задачи (2.1) при $\gamma\ne 0$ Пусть $\tau=\sigma+i\gamma$ ($\sigma,\gamma\in\mathbb{R}$, $\gamma\ne 0$) и $f\in L_{2}(\Lambda_{0})$. Функция $v\in \mathring{H^{1}}(\Lambda_{0})$ называется слабым решением задачи (2.1) если для любого элемента $w$ из $\mathring{H^{1}}(\Lambda_{0})$ выполнено равенство
$$
\begin{equation}
a(v,w;\tau):=(\nabla v,\nabla w)_{\Lambda_{0}}-\tau^{2}(v,w)_{\Lambda_{0}}=(f,w)_{\Lambda_{0}}
\end{equation}
\tag{2.10}
$$
(здесь и далее через $(\cdot,\cdot)_{V}$ обозначается спаривание в $L_{2}(V)$). Форма $a(\cdot,\cdot;\tau)$ ограничена и коэрцитивна2[x]2При $\sigma\ne 0$ оценка $|a(v,v;\tau)|\geqslant d(\tau)\| v\|^{2}_{H^{1}(\Lambda_{0})}$ вытекает из равенств $\| v\|^{2}_{H^{1}(\Lambda_{0})}=a(v,v;\tau)+(2-\tau^{2})\| v\|^{2}_{L_{2}(\Lambda_{0})}$ и $2\sigma\gamma\| v\|^{2}_{L_{2}(\Lambda_{0})}=-\operatorname{Im}a(v,v;\tau)$; при $\sigma=0$ – из формулы $a(v,v;\tau)=\|\nabla v\|^{2}_{L_{2}(\Lambda_{0})}+\gamma^{2}\| v\|^{2}_{L_{2}(\Lambda_{0})}$., поэтому существование и единственность слабого решения задачи (2.1) следуют из леммы Лакса–Мильграма–Вишика. Теперь пусть $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$, $\chi=1$ вблизи вершины $\mathcal{O}$ и носитель функции $\chi$ расположен в достаточно малой окрестности точки $\mathcal{O}$, в которой область $\Lambda_{0}$ совпадает с конусом $\mathbb{K}$. Введем линеал
$$
\begin{equation}
\mathcal{D}:=\biggl\{v=\chi\sum_{j=1}^{M}c_{j}r^{i\lambda_{j}}\Phi_{j}(\theta)+\widetilde{v}\colon M\geqslant 0,\ c_{j}\in\mathbb{C},\ \widetilde{v}\in C_{c}^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O}),\ \widetilde{v}=0 \text{ на }\partial\Lambda_{0}\biggr\}.
\end{equation}
\tag{2.11}
$$
Множество $\mathcal{D}$ плотно в $\mathring{H^{1}}(\Lambda_{0})$. Справедлива формула Грина
$$
\begin{equation}
(-\Delta_{x}v_{1},v_{2})_{\Lambda_{0}}=(\nabla_{x}v_{1},\nabla_{x}v_{2})_{\Lambda_{0}}=(v_{1},-\Delta_{x}v_{2})_{\Lambda_{0}} \quad \forall\, v_{1},v_{2}\in\mathcal{D}.
\end{equation}
\tag{2.12}
$$
Пусть $A(\tau)$ есть замыкание оператора $\mathcal{D}\ni v\to -(\Delta_{x}+\tau^{2})v$ в $L_{2}(\mathbb{K})$. Будем называть сильным решением задачи (2.1) решение уравнения $A(\tau)v=f$. Существование и единственность сильного решения задачи (2.1) вытекают из следующей леммы. Лемма 3. При любом $\tau=\sigma+i\gamma$ ($\sigma,\gamma\in\mathbb{R}$, $\gamma\ne 0$) справедливы соотношения $\operatorname{Ran}A(\tau)=L_{2}(\Lambda_{0})$, $\operatorname{Ker}A(\tau)=\{0\}$ и оценка
$$
\begin{equation}
|\gamma|\,\| v\|_{H^{1}_{0}(\Lambda_{0},|\tau|)}\leqslant 5\| A(\tau)v\|_{L_{2}(\Lambda_{0})}, \qquad v\in\mathcal{D}.
\end{equation}
\tag{2.13}
$$
Лемма доказывается так же, как [4; теорема 3.8]. Пусть $f\in L_{2}(\Lambda_{0})$ и $v=A(\tau)^{-1}f$, тогда существует такая последовательность $\{v_{k}\}\subset\mathcal{D}$, что $v_{k}\to v$ и $-(\Delta+\tau^{2})v_{k}=:f_{k}\to f$ в $L_{2}(\Lambda_{0})$; более того, $v_{k}\to v$ в $H^{1}(\Lambda_{0})$ в силу оценки (2.13). Интегрируя по частям, выводим, что $(f_{k},w)_{\Lambda_{0}}=a(v_{k},w;\tau)$ для всех $w\in\mathcal{D}$. Отсюда предельным переходом получается равенство $(f,w)_{\Lambda_{0}}=a(v,w;\tau)$. Поскольку $\mathcal{D}$ плотно в $\mathring{H^{1}}(\Lambda_{0})$, $v$ есть слабое решение задачи (2.1). Таким образом, любое сильное решение задачи (2.1) является ее слабым решением и наоборот. Следующее утверждение обобщает предложение 1 на случай области $\Lambda_{0}$ с конической точкой и доставляет равномерную по $\sigma\in\mathbb{R}$ и $\gamma\in\mathbb{R}\setminus\{0\}$ оценку решений задачи (2.1). Лемма 4. Для любых $\tau=\sigma+i\gamma$ ($\sigma,\gamma\in\mathbb{R}$, $\gamma\ne 0$) и $v\in\mathcal{D}$ справедливо неравенство
$$
\begin{equation}
\begin{aligned} \, \|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\leqslant c\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr). \end{aligned}
\end{equation}
\tag{2.14}
$$
Здесь $f=(\Delta_{x}+\tau^{2})v$, $w=e^{-i\mathfrak{s}\sigma\rho}v$ и $\mathfrak{s}:=\operatorname{sign}\gamma$, константа $c$ не зависит от $\tau$. Доказательство. Уравнения $(\Delta_{x}+\tau^{2})v=f$ и $(\Delta_{x}+\overline{\tau}^{2})\overline{v}=\overline{f}$ эквивалентны, поэтому при проверке леммы можно ограничиться случаем $\gamma>0$. Достаточно доказать следующие два неравенства:
$$
\begin{equation}
\int_{\Lambda_{0}}\bigl(|\nabla_{x} w|^{2}+r^{-2}|v|^{2})\,dx\leqslant c\biggl(\int_{\Lambda_{0}}\rho^{2}|f|^{2}\,dx+\gamma^{2}\int_{\Lambda_{0}}|v|^{2}\,dx\biggr),
\end{equation}
\tag{2.15}
$$
$$
\begin{equation}
\gamma\| v\|_{L_{2}(\Lambda_{0})}\leqslant 2\| f\|_{H^{0}_{1}(\Lambda_{0})}.
\end{equation}
\tag{2.16}
$$
Для вывода (2.15) и (2.16) можно использовать те же самые выкладки, что и в доказательствах [5; леммы 7 и 2] соответственно; для оправдания указанных выкладок в случае негладкой области $\Lambda_{0}$ требуется лишь следить за поведением решений вблизи конических точек. Проверим (2.15). Функция $w$ удовлетворяет уравнению
$$
\begin{equation}
\begin{aligned} \, (\triangle-\gamma^{2})w+2i\sigma(\rho^{-1}+\partial_{\rho}+\gamma)w=h:=e^{-i\sigma \rho}f. \end{aligned}
\end{equation}
\tag{2.17}
$$
Умножим (2.17) на $2\rho(\rho^{-1}+\partial_{\rho}+\gamma)\overline{w}$ и возьмем вещественную часть от получившегося равенства. Имеем
$$
\begin{equation*}
\begin{aligned} \, & 2\operatorname{Re}[h\rho(\rho^{-1}+\partial_{\rho}+\gamma)\overline{w}]=2\operatorname{Re} [(\triangle-\gamma^{2})w\cdot(1+\rho\partial_{\rho}+\gamma\rho)\overline{w}] \\ &\qquad=\operatorname{Re} \operatorname{div}\bigl(\nabla w\cdot 2(1+\gamma\rho+\rho\partial_{\rho})\overline{w}-|\nabla w|^{2}\rho\vec{e}_{\rho}-\gamma(1+\gamma\rho)|w|^{2}\vec{e}_{\rho}\bigr) \\ &\qquad\qquad -(1+2\gamma \rho)|\nabla w|^{2}+(\gamma^{2}+2\gamma \rho^{-1}-2\gamma^{3}\rho)|w|^{2}. \end{aligned}
\end{equation*}
\notag
$$
Интегрирование последнего уравнения по $\Lambda_{0}$ с учетом включения $v\in\mathcal{D}$ приводит к формуле
$$
\begin{equation*}
\begin{aligned} \, &\int_{\Lambda_{0}}\bigl((1+2\gamma\rho)|\nabla_{x}w|^{2}+2\gamma^{3}\rho|w|^{2}\bigr)\,dx -\int_{\partial\Lambda_{0}}|\partial_{\nu}w|^{2}\langle\vec{e}_{\rho},\nu\rangle\rho\, dS \\ &\qquad =\gamma\int_{\Lambda_{0}}(\gamma+2\rho^{-1})|w|^{2}\,dx-2\operatorname{Re}\int_{\Lambda_{0}}h\cdot(1+\rho\partial_{r}+\gamma \rho)\overline{w}\,dx, \end{aligned}
\end{equation*}
\notag
$$
где второе слагаемое слева (с учетом знака) неотрицательно ввиду условия (1.1). Теперь для вывода (2.15) остается воспользоваться соотношением $2|ab|\leqslant |a|^{2}\epsilon +|b|^{2}/\epsilon$ (с достаточно малым $\epsilon>0$ и с $a=\rho^{-1}w(x)$ и $b=\gamma w(x)$ либо с $a=\rho^{-1}w(x), \partial_{\rho}w(x), \gamma w(x)$ и $b=\rho h(x)$) и заметить, что для $w$ справедливо неравенство Харди $\| w\|_{H^{0}_{-1}(\Lambda_{0})}\leqslant 2\|\nabla_{x}w\|_{L_{2}(\Lambda_{0})}$. Для проверки (2.16) рассмотрим начально-краевую задачу
$$
\begin{equation}
\begin{cases} (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, & x\in\Lambda_{0}, \ t>0, \\ u(x,t)=0, & x\in\partial\Lambda_{0}\setminus\mathcal{O}, \ t>0, \\ u(x,0)=g(x), \ \partial_{t}u(x,0)=f(x), & x\in\Lambda_{0}, \\ \end{cases}
\end{equation}
\tag{2.18}
$$
с $f,g\in C_{c}^{\infty}(\Lambda_{0})$. Информация о свойствах решений задачи (2.18) получается компиляцией сведений, содержащихся в [7; теорема 4.1] и в [8; теорема 5.3 и предложение 6.1]. Именно, существует решение $u\in C^{\infty}((\overline{\Lambda_{0}}\setminus\mathcal{O})\times\mathbb{R})$ задачи (2.18), допускающее вблизи вершины $\mathcal{O}$ асимптотику в форме
$$
\begin{equation*}
\partial^{m}_{t}u(x,t)=\sum_{j>0, \ i\lambda_{j}+2m<M}r^{i\lambda_{j}+2m}\Phi_{j}(\theta)\partial^{m}_{t}d_{j,m}(t)+O(r^{M}), \qquad r\to 0
\end{equation*}
\notag
$$
(здесь $d_{j,m}\in C^{\infty}([0,+\infty))$, числа $m=0,1,\dots$ и $M>0$ произвольны). Следовательно, справедлива формула интегрирования по частям
$$
\begin{equation}
((\partial_{t}^{2}-\triangle_{x})u(\cdot,t),\partial_{t}u(\cdot,t))_{\widetilde{\Lambda}_{0}} =(\partial_{t}^{2}u(\cdot,t),\partial_{t}u(\cdot,t))_{\widetilde{\Lambda}_{0}}+(\nabla_{x}u(\cdot,t),\nabla_{x} \partial_{t}u(\cdot,t))_{\widetilde{\Lambda}_{0}},
\end{equation}
\tag{2.19}
$$
где $\widetilde{\Lambda}_{0}$ – любая ограниченная подобласть $\Lambda_{0}$ с кусочно гладкой границей. Как и для волнового уравнения в гладкой области, из (2.19) вытекает конечность скорости распространения возмущений (сужение $u$ на конус $\{(x,t)\colon t\in [0,t_{0}], x\in \Lambda_{0}, \ |x-x_{0}|\leqslant t_{0}-t\}$ зависит только от значений начальных данных $f$, $g$ на основании конуса $\{x\in\Lambda_{0}\colon |x-x_{0}|\leqslant t_{0}\}$). В частности, $\operatorname{supp}u(\cdot,t)$ ограничен при всех $t>0$. Поэтому в (2.19) можно заменить $\widetilde{\Lambda}_{0}$ на $\Lambda_{0}$, откуда $\|\nabla_{(x,t)}u(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}=\|\nabla_{x}g\|^{2}_{\Lambda_{0}}+\| f\|^{2}_{\Lambda_{0}}$. Введем функцию
$$
\begin{equation*}
z(x,t):=\int_{0}^{t}u(x,t')\,dt'+w(x),
\end{equation*}
\notag
$$
где $w\in H^{2}_{1}(\Lambda_{0})\cap C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ – решение задачи
$$
\begin{equation*}
-\Delta_{x}w=f \quad\text{в }\ \Lambda_{0}, \qquad w=0 \quad\text{на }\ \partial\Lambda_{0}\setminus\mathcal{O}.
\end{equation*}
\notag
$$
Существование и единственность решения $w$, а также оценки $w(x)=O(r^{i\lambda_{1}})$, $\partial_{r}w(x)=O(r^{i\lambda_{1}-1})$ при $r\to 0$ и $w(x)=O(r^{-1})$, $\partial_{r}w(x)=O(r^{-2})$ при $r\to \infty$ вытекают из известных результатов теории эллиптических задач в негладких областях (см., например, [6]). Таким образом, для $z$ остается справедливой формула (2.19) с $\Lambda_{0}$ вместо $\widetilde{\Lambda}_{0}$. Поскольку $\partial_{t}z=u$ и
$$
\begin{equation*}
\begin{gathered} \, (\partial_{t}^{2}-\Delta_{x})z=0 \quad\text{в }\ \mathbb{Q}, \qquad z=0 \quad\text{на }\ (\partial\Lambda_{0}\setminus\mathcal{O})\times\mathbb{R}, \\ z(\cdot,0)=w, \quad \partial_{t}z(\cdot,0)=f \quad\text{в }\ \Lambda_{0}, \end{gathered}
\end{equation*}
\notag
$$
имеем
$$
\begin{equation}
\| u(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}\leqslant \|\nabla_{(x,t)}z(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}=\|\nabla_{x}w\|^{2}_{\Lambda_{0}}+\| g\|^{2}_{\Lambda_{0}}.
\end{equation}
\tag{2.20}
$$
Для функции $w$ справедливы формула Грина $-(\triangle_{x}w,w)_{\Lambda_{0}}=\|\nabla_{x}w\|^{2}_{L_{2}(\Lambda_{0})}$ и неравенство Харди, откуда $\|\nabla_{x}w\|_{L_{2}(\Lambda_{0})}\leqslant 2\| f\|_{H^{0}_{1}(\Lambda)}$. Теперь из (2.20) следует, что $\| u(\cdot,t)\|^{2}_{L_{2}(\Lambda_{0})}\leqslant 4\| f\|_{H^{0}_{1}(\Lambda)}^{2}+\| g\|^{2}_{L_{2}(\Lambda_{0})}$. Ввиду уже доказанного проверка того, что функция
$$
\begin{equation*}
v(x,\tau)=\int_{0}^{+\infty}e^{i\tau t}u(x,t)\,dt
\end{equation*}
\notag
$$
является слабым (а значит, и сильным) решением задачи (2.1) с $f-i\tau g$ вместо $f$ и подчиняется оценке
$$
\begin{equation}
\begin{aligned} \, \gamma^{2}\| v(\cdot,\tau)\|_{L_{2}(\Lambda_{0})}^{2}\leqslant 4\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| g\|^{2}_{L_{2}(\Lambda_{0})}, \end{aligned}
\end{equation}
\tag{2.21}
$$
ничем не отличается от проверки аналогичных утверждений в [5; § 1]. Пусть $v\in\mathcal{D}$, тогда $f=A(\tau)v\in H^{0}_{1}(\Lambda_{0})\,{\cap}\, L_{2}(\Lambda_{0})$. Выберем последовательность $\{f_{k}\}\subset C_{c}^{\infty}(\Lambda_{0})$ такую, что $f_{k}\to f$ в $L_{2}(\Lambda_{0})$ и в $H^{0}_{1}(\Lambda_{0})$. В силу (2.13) $A(\tau)^{-1}f_{k}\to v$ в $H^{1}(\Lambda_{0})$. Теперь неравенство (2.14) получается предельным переходом $k\,{\to}\,{+}\infty$ в (2.21) с $A(\tau)^{-1}f_{k}$ вместо $v(\cdot,\tau)$, $f_{k}$ вместо $f$ и с $g=0$. Лемма 4 доказана. 2.2. Комбинированная весовая оценка решений задачи (2.1) Пусть $\chi,\phi\in C_{c}^{\infty}(\mathbb{R}^{3})$, $\chi\phi=\chi$, $\chi=1$ вблизи вершины $\mathcal{O}$ и носитель функции $\phi$ расположен в достаточно малой окрестности точки $\mathcal{O}$, в которой область $\Lambda_{0}$ совпадает с конусом $\mathbb{K}$. Для всех $p>0$ и $x\in\mathbb{R}^{3}$ положим $\chi_{p}(x):=\chi(pr)$, $\phi_{p}(x):=\phi(pr)$. Предложение 2. Пусть $\beta\leqslant 1$ и $\beta+i\lambda_{j}\ne 1/2$, $j=1,2,\dots$. Для любых $\tau=\sigma+i\gamma$ ($\sigma\in\mathbb{R}$, $\gamma\in [-1,0)\cap(0,1]$) и $v\in\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$ справедливо неравенство
$$
\begin{equation}
\begin{aligned} \, \notag &\| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+\|\nabla_{x} w\|_{H^{0}_{\beta-1}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{\beta-2}(\Lambda_{0})}^{2} \\ \notag &\qquad\qquad +p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr)+\gamma^{4}\| v\|^{2}_{H^{1}_{1}(\Lambda_{0};|\gamma|)} \\ &\qquad\leqslant c\bigl(\| f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr). \end{aligned}
\end{equation}
\tag{2.22}
$$
Здесь $p:=\sqrt{|\sigma|^{2}+1}$, $w=e^{-i\mathfrak{s}\sigma\rho}v$, $f:=(\Delta_{x}+\tau^{2})v$ и $\mathfrak{s}:=\operatorname{sign}\gamma$; постоянная $c$ в (2.22) не зависит ни от $\sigma$, ни от $\gamma$. Доказательство. Из равенства $\Delta_{x}(\chi_{p}v)=\chi_{p}f-\tau^{2}\chi_{p}v+[\Delta_{x},\chi_{p}]v$ и леммы 2 имеем
$$
\begin{equation}
\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}\leqslant c\bigl(\| \chi_{p}f\|_{H^{0}_{\beta}(\mathbb{K})}+p^{2}\| \chi_{p}v\|_{H^{0}_{\beta}(\mathbb{K})}+\| [\Delta_{x},\chi_{p}]v\|_{H^{0}_{\beta}(\mathbb{K})}\bigr).
\end{equation}
\tag{2.23}
$$
Из определений норм (2.3) и неравенства $p\leqslant c/r$ при $x\in\operatorname{supp}\chi_{p}$ следует, что $\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K};p)}\leqslant c\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}$. Значит, в левой части (2.23) можно заменить $\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}$ на $\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K};p)}$. Аналогично, при достаточно малом $\epsilon>0$ имеем $p^{2}\| \chi_{p/\epsilon}v\|_{H^{0}_{\beta}(\mathbb{K})}\leqslant c\epsilon^{2}\| \chi_{p}v\|_{H^{2}_{\beta}(\mathbb{K})}$, поэтому слагаемое $p^{2}\| \chi_{p}v\|_{H^{0}_{\beta}(\mathbb{K})}$ в правой части (2.23) можно заменить на $p^{2}\|(\chi_{p}-\chi_{p/\epsilon})v\|_{H^{0}_{\beta}(\mathbb{K})}$. При $x\in\operatorname{supp}(\chi_{p}-\chi_{p/\epsilon})$ или $x\in\operatorname{supp}[\Delta_{x},\chi_{p}]$ выполнено неравенство $0<c_{1}/p\leqslant r\leqslant c_{2}/p$, поэтому
$$
\begin{equation*}
p^{2}\|(\chi_{p}-\chi_{p/\epsilon})v\|_{H^{0}_{\beta}(\mathbb{K})}+\| [\Delta_{x},\chi_{p}]v\|_{H^{0}_{\beta}(\mathbb{K})}\leqslant cp^{1-\beta}\|\phi_{p}v\|_{H^{1}_{0}(\mathbb{K})}.
\end{equation*}
\notag
$$
Теперь оценка (2.23) принимает вид
$$
\begin{equation}
\| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}\leqslant c\bigl(\| \chi_{p}f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\|\phi_{p}v\|^{2}_{H^{1}_{0}(\Lambda_{0})}\bigr).
\end{equation}
\tag{2.24}
$$
Поскольку $e^{i\mathfrak{s}\sigma\rho}\nabla_{x}w=\nabla_{x}v-i\mathfrak{s}\sigma e_{\rho}v$, имеем $|\nabla_{x}v|\leqslant |\nabla_{x}w|+p|v|$. Отсюда и из неравенства $p\leqslant c/r$ на носителе функции $\phi_{p}$ следует, что $|\nabla_{x}(\phi_{p}v)|\leqslant c(|\nabla_{x}w|+r^{-1}|v|)$. Поэтому
$$
\begin{equation*}
\|\phi_{p}v\|_{H^{1}_{0}(\Lambda_{0})}\leqslant c(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}).
\end{equation*}
\notag
$$
Умножим обе части неравенства (2.14) на $p^{2(1-\beta)}$ и сложим с (2.24). Благодаря предыдущей оценке получим
$$
\begin{equation}
\begin{aligned} \, \notag & \| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr) \\ &\qquad\leqslant c\bigl(\| \chi_{p}f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr). \end{aligned}
\end{equation}
\tag{2.25}
$$
Поскольку $r^{-1}\leqslant cp$ при $x\in \operatorname{supp}\chi_{p}$, справедливы неравенства
$$
\begin{equation*}
\begin{gathered} \, \|((1-\chi_{p})v)\|_{H^{0}_{\beta-2}(\Lambda_{0})}\leqslant cp^{1-\beta}\| v\|_{H^{0}_{-1}(\Lambda_{0})}, \\ \|\nabla_{x}((1-\chi_{p})w)\|^{0}_{H^{\beta-1}(\Lambda_{0})}\leqslant cp^{1-\beta}(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}). \end{gathered}
\end{equation*}
\notag
$$
Отсюда и из (2.25) имеем
$$
\begin{equation}
\begin{aligned} \, \notag & \| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+\|\nabla_{x} w\|_{H^{0}_{\beta-1}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{\beta-2}(\Lambda_{0})}^{2} \\ \notag &\qquad\qquad +p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr) \\ &\qquad \leqslant c\bigl(\| \chi_{p}f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr). \end{aligned}
\end{equation}
\tag{2.26}
$$
Теперь покажем, что для всех $\beta'\in\mathbb{R}$ и $v\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, $v|\partial\Lambda_{0}\setminus\mathcal{O}=0$ справедлива оценка
$$
\begin{equation}
|\gamma|\,\|\phi_{\infty}v\|_{H^{1}_{\beta'}(\Lambda_{0};|\tau|)}\leqslant c(\|\phi_{\infty}(\Delta_{x}+\tau^{2})v\|_{H^{0}_{\beta'}(\Lambda_{0})}+\| \psi_{\infty}v\|_{H^{1}_{\beta'-1}(\Lambda_{0})}).
\end{equation}
\tag{2.27}
$$
Здесь срезки $\phi_{\infty},\psi_{\infty}\in C^{\infty}(\mathbb{R}^{3})$ выбраны так, что $\phi_{\infty}\psi_{\infty}=\phi_{\infty}$ и функция $\psi_{\infty}$ аннулируется внутри достаточно большого шара, содержащего $\Lambda_{0}$. Пусть $\phi,\psi\in C_{c}^{\infty}(\mathbb{R}^{3})$, $\phi\psi=\phi$, $\phi(x)=1$ при $|x|\in [1/2,2]$ и $\phi(x)=0$ при $|x|\notin[1/4,4]$. Для $x,y\in\mathbb{R}^{3}$ и достаточно малых $\epsilon>0$ обозначим $\phi_{\epsilon}(x):=\phi(\epsilon x)$, $\psi_{\epsilon}(x):=\psi(\epsilon x)$, $v^{\epsilon}(y):=v(\epsilon^{-1}y)$. Из (2.13) (с $\epsilon^{-1}\tau$ вместо $\tau$) имеем
$$
\begin{equation*}
\epsilon^{-1}|\gamma|\,\|\phi v^{\epsilon}\|_{H^{1}_{0}(\mathbb{R}^{3},\epsilon^{-1}|\tau|)}\leqslant c(\|\phi(\Delta_{y}+\epsilon^{-2}\tau^{2})v^{\epsilon}\|_{L_{2}(\mathbb{R}^{3})}+\|\psi v^{\epsilon}\|_{H^{1}_{-1}(\mathbb{R}^{3})})
\end{equation*}
\notag
$$
(нормы $\|\cdot\|_{H^{1}_{\beta}(\mathbb{R}^{3})}$ и $\|\cdot\|_{H^{1}_{\beta}(\mathbb{R}^{3},p)}$ определяются формулами (2.2) и (2.3) с $\mathbb{R}^{3}$ вместо $\mathbb{K}$). Отсюда заменой переменных $x=\epsilon^{-1}y$ выводим
$$
\begin{equation*}
|\gamma|\,\|\phi_{\epsilon}v\|_{H^{1}_{0}(\Lambda_{0};|\tau|)}\leqslant c(\|\phi_{\epsilon}(\Delta_{x}+\tau^{2})v\|_{L_{2}(\Lambda_{0})}+\| \psi_{\epsilon}v\|_{H^{1}_{-1}(\Lambda_{0})}).
\end{equation*}
\notag
$$
Умножим последнюю оценку на $\epsilon^{-\beta'}$; поскольку $0<c_{1}r^{-1}\leqslant\epsilon\leqslant c_{2}r^{-1}$ при $x\in\operatorname{supp}\phi_{\epsilon}$, получим
$$
\begin{equation*}
|\gamma|\,\|\phi_{\epsilon}v\|_{H^{1}_{\beta'}(\Lambda_{0};|\tau|)}\leqslant c\bigl(\|\phi_{\epsilon}(\Delta_{x}+\tau^{2})v\|_{H^{0}_{\beta'}(\Lambda_{0})}+\| \psi_{\epsilon}v\|_{H^{1}_{\beta'-1}(\Lambda_{0})}\bigr).
\end{equation*}
\notag
$$
Для доказательства (2.27) осталось подставить в последнюю формулу $\epsilon=2^{-j}$ с $j=j_{0}, j_{0}+1,\dots$ (число $j_{0}>0$ – достаточно большое) и просуммировать получившиеся оценки. Выбирая $\beta'=1$ в (2.27) и мажорируя правую часть неравенства с помощью (2.13), находим, что
$$
\begin{equation}
\gamma^{2}\|\phi_{\infty}v\|_{H^{1}_{1}(\Lambda_{0};|\tau|)}\leqslant c\bigl(\|(\Delta_{x}+\tau^{2})v\|_{H^{0}_{1}(\Lambda_{0})}+\| (\Delta_{x}+\tau^{2})v\|_{L_{2}(\Lambda_{0})}\bigr).
\end{equation}
\tag{2.28}
$$
Комбинируя (2.26) и (2.28), приходим к (2.22). Предложение 2 доказано. Далее будем обозначать $p=\sqrt{|\sigma|^{2}+1}$. Введем пространства $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;\delta)$ и $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ ($\beta\leqslant 1$, $\sigma\in\mathbb{R}$, $\delta\in[0,1]$ и $\mathfrak{s}=\pm 1$) как пополнения линеала $C_c^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ по нормам
$$
\begin{equation}
\nonumber \| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;\delta)}=\bigl(\| \chi_{p}v\|^{2}_{H^{2}_{\beta}(\Lambda_{0};p)}+\|\nabla_{x} w\|_{H^{0}_{\beta-1}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{\beta-2}(\Lambda_{0})}^{2}
\end{equation}
\notag
$$
$$
\begin{equation}
\qquad\qquad +p^{2(1-\beta)}\bigl(\|\nabla_{x} w\|_{L_{2}(\Lambda_{0})}^{2}+\| v\|_{H^{0}_{-1}(\Lambda_{0})}^{2}\bigr)+\delta^{4}\| v\|^{2}_{H^{1}_{1}(\Lambda_{0};\delta)}\bigr)^{1/2},
\end{equation}
\tag{2.29}
$$
$$
\begin{equation}
\| f\|_{\mathcal{RH}_{\beta}(\Lambda_{0};p)}=\bigl(\| f\|^{2}_{H^{0}_{\beta}(\Lambda_{0})}+p^{2(1-\beta)}\bigl(\| f\|_{H^{0}_{1}(\Lambda_{0})}^{2}+\| f\|_{L_{2}(\Lambda_{0})}^{2}\bigr)\bigr)^{1/2}
\end{equation}
\tag{2.30}
$$
соответственно; здесь $w=e^{-i\mathfrak{s}\sigma\rho}v$. Теперь оценка (2.22) принимает вид
$$
\begin{equation}
\| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)}\leqslant c\| (\Delta_{x}+\tau^{2})v\|_{\mathcal{RH}_{\beta}(\Lambda_{0};p)}, \qquad \mathfrak{s}=\operatorname{sign}\gamma.
\end{equation}
\tag{2.31}
$$
Свяжем с задачей (2.1) оператор $\widetilde{A}_{\beta}(\tau)\colon v\to \widetilde{A}_{\beta}(\tau)v:=-(\Delta_{x}+\tau^{2})v$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ с областью определения $\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$. Пусть $\{v_{k}\}\subset\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$ и $v_{k}\to 0$, $f_{k}:=-(\Delta_{x}+\tau^{2})v_{k}\to f$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Равенство $(f_{k},w)_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}=(v_{k},\widetilde{w})_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}$, где $w\in C_{c}^{\infty}(\Lambda_{0})$ и $\widetilde{w}:=-(\Delta_{x}+\tau^{2})\bigl((r^{2\beta}\chi_{p}^{2}+(r^{2}+1)p^{2(1-\beta)})w\bigr)$, проверяется интегрированием по частям. Предельный переход $k\to +\infty$ дает $(f,w)_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}=0$; так как $w$ произвольно, $f=0$. Таким образом, оператор $\widetilde{A}_{\beta}(\tau)$ допускает замыкание. Обозначим это замыкание через $A_{\beta}(\tau)$. Лемма 5. Пусть $\beta\leqslant 1$, $\beta+i\lambda_{j}\ne 1/2$, $j=1,2,\dots$, и $\tau=\sigma+i\gamma$, $\sigma\in\mathbb{R}$, $\gamma\in[-1,0)\cap(0,1]$. Тогда: 1) $\operatorname{Dom}A_{\beta}(\tau)\subset\operatorname{Dom}A(\tau)$ и $A_{\beta}(\tau)v=A(\tau)v$ для любого элемента $v\in \operatorname{Dom}A_{\beta}(\tau)$. 2) Для всех $v\in \operatorname{Dom}A_{\beta}(\tau)$ справедлива оценка
$$
\begin{equation}
\| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)}\leqslant c\| A_{\beta}(\tau)v\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}, \qquad \mathfrak{s}=\operatorname{sign}\gamma.
\end{equation}
\tag{2.32}
$$
3) $\operatorname{Ker}A_{\beta}(\tau)=\{0\}$ и $\operatorname{Ran}A_{\beta}(\tau)$ есть подпространство в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Доказательство. Пусть $v\in\operatorname{Dom}A_{\beta}(\tau)$, тогда существует такая последовательность $\{v_{k}\}\subset\mathcal{D}\cap H^{2}_{\beta}(\Lambda_{0})$, что $v_{k}\to v$ и $-(\Delta_{x}+\tau^{2})v_{k}\to A_{\beta}(\tau)v$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Поскольку вложение $\mathcal{RH}_{\beta}(\Lambda_{0},p)\subset L_{2}(\Lambda_{0})$ непрерывно, имеем $v_{k}\to v$, $-(\Delta_{x}+\tau^{2})v\to A_{\beta}(\tau)v$ в $L_{2}(\Lambda_{0})$. Поэтому $v\in \operatorname{Dom}A(\tau)$ и $A(\tau)v=A_{\beta}(\tau)v$. В частности, $\operatorname{Ker}A_{\beta}(\tau)=\operatorname{Ker}A(\tau)=\{0\}$. Поскольку последовательность $\{-(\Delta_{x}+\tau^{2})v_{k}\}$ фундаментальна в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$, из оценки (2.31) следует, что $\{v_{k}\}$ есть фундаментальная последовательность в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$. Поскольку $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$ полно, последовательность $\{v_{k}\}$ сходится в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$ к некоторому элементу $\widetilde{v}$. Вложение $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)\subset L_{2}(\Lambda_{0})$ непрерывно, поэтому $v_{k}\to \widetilde{v}$ в $L_{2}(\Lambda_{0})$ и $\widetilde{v}=v$. Теперь предельным переходом в оценке (2.31) (с $v_{k}$ вместо $v$) получаем (2.32). Осталось показать, что $\operatorname{Ran}A_{\beta}(\tau)=\overline{\operatorname{Ran}A_{\beta}(\tau)}$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Пусть $\{v_{k}\}\subset\operatorname{Dom}A_{\beta}(\tau)$ и последовательность $\{A_{\beta}(\tau)v_{k}\}$ фундаментальна в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Из (2.32) с $v_{k}$ вместо $v$ вытекает, что последовательность $\{v_{k}\}$ фундаментальна в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$. Поскольку $\gamma\ne 0$ и $\beta\leqslant 1$, пространство $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma|)$ непрерывно вложено в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$; таким образом, последовательность $\{v_{k}\}$ фундаментальна в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Ввиду полноты $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ существуют такие $v$ и $f$, что $v_{k}\to v$ и $A_{\beta}(\tau)v_{k}\to f$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Поскольку оператор $A_{\beta}(\tau)$ замкнут, отсюда имеем $v\in\operatorname{Dom}A_{\beta}(\tau)$ и $A_{\beta}(\tau)v=f$.
Лемма доказана. Пусть $\beta_{1}>\beta_{2}>\dotsb$ – последовательность всех таких чисел из $(-\infty,1)$, что прямая $\operatorname{Im}\lambda=\beta_{k}-1/2$ содержит хотя бы одно собственное число пучка $\mathfrak{A}$. Для $\beta\leqslant 1$, $\beta\ne\beta_{k}$, $k=1,2,\dots$, обозначим $\mathfrak{J}(\beta):=\{j\,{\in}\,\mathbb{N}\colon \operatorname{Im}\lambda_{j}\,{>}\,\beta\,{-}\,1/2\}$. Введем решения $w_{j}(\cdot,\overline{\tau})$, $j=1,2,\dots$, однородной задачи (2.1) с растущей асимптотикой $w_{j}(\cdot,\overline{\tau})\sim r^{i\lambda_{-j}}\Phi_{j}$ вблизи вершины $\mathcal{O}$. Более точно $w_{j}(\cdot,\overline{\tau})=\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau})+\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$, где $\chi$ – гладкая срезающая функция, равная единице вблизи $\mathcal{O}$, число $K>0$ – достаточно большое, чтобы выполнялось $(\Delta_{x}+\overline{\tau}^{2})(\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau}))\in L_{2}(\Lambda_{0})$, и $\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$ – решение уравнения $A_{1}(\overline{\tau})\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})=(\Delta_{x}+\overline{\tau}^{2})(\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau}))$. Поскольку $\operatorname{Ker}A(\overline{\tau})=\{0\}$, функция $w_{j}(\cdot,\overline{\tau})$ не зависит от выбора $K$ и срезки $\chi$. Из (2.9) и (2.32) следует, что
$$
\begin{equation}
\|\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})\|_{H^{0}_{-1}(\Lambda_{0})}=O(p^{1/2-i\lambda_{-j}}).
\end{equation}
\tag{2.33}
$$
Справедливы равенства
$$
\begin{equation}
(-(\Delta+\tau^{2})(\chi_{p} y_{j}^{K}(\cdot,\tau)),w_{j'}^{K}(\cdot,\overline{\tau}))_{\Lambda_{0}}=\delta_{j,j'}.
\end{equation}
\tag{2.34}
$$
Действительно, пусть $\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau})\in\mathcal{D}$ и $-(\Delta_{x}+\overline{\tau}^{2})\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau})\to A(\overline{\tau})\widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$, $\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau})\to \widetilde{w}_{j}^{K}(\cdot,\overline{\tau})$ в $L_{2}(\Lambda_{0})$ при $s\to\infty$. Интегрируя по частям с учетом (2.6), имеем
$$
\begin{equation*}
\begin{aligned} \, & (-(\Delta_{x}+\tau^{2})(\chi_{p} y_{j}^{K}(\cdot,\tau)),\chi y_{-j}^{K}(\cdot,\overline{\tau})+\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau}))_{\Lambda_{0}} \\ &\qquad=\delta_{j,j'}-(\chi_{p} y_{j}^{K}(\cdot,\tau),(\Delta_{x}+\overline{\tau}^{2})(\chi_{p} y_{-j}^{K}(\cdot,\overline{\tau}))+\widetilde{w}_{j}^{K,(s)}(\cdot,\overline{\tau}))_{\Lambda_{0}}. \end{aligned}
\end{equation*}
\notag
$$
Отсюда предельным переходом $s\to\infty$ получается (2.34). Лемма 6. Пусть $\beta\leqslant 1$, $\beta\ne\beta_{k}$, $k=1,2,\dots$, и $\tau\in\mathbb{C}\setminus\mathbb{R}$. Тогда
$$
\begin{equation*}
\operatorname{Ran}A_{\beta}(\tau)=\{f\in\mathcal{RH}_{\beta}(\Lambda_{0},p)\colon \ (f,w_{j}(\cdot,\overline{\tau}))_{\Lambda_{0}}=0 \ \ \forall j\in\mathfrak{J}(\beta)\},
\end{equation*}
\notag
$$
в частности $\operatorname{Ran}A_{\beta}(\tau)=\mathcal{RH}_{\beta}(\Lambda_{0},p)$ при $\beta\in(\beta_{1},1]$. Доказательство леммы повторяет доказательство [4; предложение 5.2]. 2.3. Решения задачи (2.1) при $\gamma=0$ Пусть $\gamma=0$, $\tau=\sigma\in\mathbb{R}$, $\mathfrak{s}\,{=}\,{\pm}1$ и $f\in H^{0}_{1}(\Lambda_{0})\,{\cap}\, L_{2}(\Lambda_{0})$. Будем называть $\mathfrak{s}$-слабым решением задачи (2.1) функцию $v\in\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ такую, что $v|\partial\Lambda_{0}\setminus\mathcal{O}=0$ и
$$
\begin{equation}
a(v,w):=(\nabla v,\nabla w)_{\Lambda_{0}}-\sigma^{2}(v,w)_{\Lambda_{0}}=(f,w)_{\Lambda_{0}} \quad \forall \,w\in\mathcal{D}.
\end{equation}
\tag{2.35}
$$
Заметим, что из включения $v\in\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ вытекает условие излучения
$$
\begin{equation*}
\int_{\Lambda_{0}}|(\partial_{\rho}-i\mathfrak{s}\sigma)v|^{2}\,dx <\infty.
\end{equation*}
\notag
$$
Единственность $\mathfrak{s}$-слабого решения вытекает из следующего утверждения. Лемма 7. Пусть $\sigma\,{\in}\,\mathbb{R}$, $\beta\,{\leqslant}\,1$ и $\mathfrak{s}\,{=}\,{\pm}1$. Если $v\in\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$, $v|\partial\Lambda_{0}\,{\setminus}\,\mathcal{O}\,{=}\,0$ и $v$ удовлетворяет (2.35), то $v\equiv 0$. Доказательство. Из известных результатов о локальных свойствах решений эллиптических задач (см. [6]) следует, что $v\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, $ (\Delta_{x}+\sigma^{2})v=0$ в $\Lambda_{0}$, $v=0$ на $\partial\Lambda_{0}\setminus\mathcal{O}$ и
$$
\begin{equation}
v(x)=\sum_{j=1}^{m}c_{j}y_{j}^{K}(x,\sigma)+O(r^{i\lambda_{m+1}}), \qquad x\to 0.
\end{equation}
\tag{2.36}
$$
Здесь $c_{j}$ – некоторые коэффициенты, число $K=K(m)>0$ – достаточно большое. Разложение (2.36) справедливо при каждом $m=1,2,\dots$ и допускает любое число дифференцирований. Пусть $B_{R}(x_{0}):=\{x\in\Lambda_{0}\colon \rho<R\}$ – шар достаточно большого радиуса $R$; интегрируя по частям в $\Lambda_{0}\cap B_{R}(x_{0})$ с учетом (2.36), получаем
$$
\begin{equation*}
\int_{\partial B_{R}(x_{0})}\operatorname{Im}(\overline{v}\partial_{\rho}v)\,dS=0.
\end{equation*}
\notag
$$
Поскольку $|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}v)|\geqslant|\partial_{\rho}v-i\mathfrak{s}\sigma v|^{2}=|\partial_{\rho}v|^{2}+\sigma^{2}|v|^{2}-2\mathfrak{s}\operatorname{Im}(\overline{v}\partial_{\rho}v)$, имеем
$$
\begin{equation*}
\int_{\rho >R_{0}}(|\partial_{\rho}v|^{2}+\sigma^{2}|v|^{2})\,dx=\int_{\rho >R_{0}}|\partial_{\rho}v-i\mathfrak{s}\sigma v|^{2}\,dx\leqslant c\| v\|_{\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}^{2}<+\infty.
\end{equation*}
\notag
$$
При $\sigma\ne 0$ отсюда вытекает включение $v\in L_{2}(\Lambda_{0})$; в силу результатов работы [9] и свойств единственности продолжения решений однородных эллиптических уравнений второго порядка (см., например, [10]) это означает, что $v\equiv 0$ в $\Lambda_{0}$. Теперь пусть $\sigma=0$, тогда из включения $v\in \mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ следует, что $v\in H^{1}_{0}(\Lambda_{0})$ и $r^{-1}v\nabla\overline{v}\in L_{1}(\Lambda_{0})$. Пусть $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$ и $\chi=1$ вблизи нуля. С учетом (2.36) и неравенства $0<c_{1}/R \leqslant 1/|x|\leqslant c_{2}/R$ на носителе функции $x\to[\nabla\chi](x/R)$ выводим
$$
\begin{equation*}
\begin{aligned} \, 0 &=-\int_{\Lambda_{0}}\Delta_{x}v\chi\biggl(\frac rR\biggr)\overline{v}\,dx =\int_{\Lambda_{0}}\chi\biggl(\frac rR\biggr)|\nabla_{x}v|^{2}\,dx +\frac{1}{R}\int_{\Lambda_{0}}v[\nabla\chi]\biggl(\frac xR\biggr)\nabla\overline{v}\,dx \\ &\to\| \nabla_{x}v\|^{2}_{L_{2}(\Lambda_{0})}, \qquad R\to+\infty. \end{aligned}
\end{equation*}
\notag
$$
Таким образом, $\nabla_{x}v\equiv 0$ и $v\equiv 0$ в $\Lambda_{0}$. Лемма доказана. Теперь докажем существование $\mathfrak{s}$-слабого решения. Пусть $\beta\in (\beta_{1},1]$ и $f\in\mathcal{RH}_{\beta}(\Lambda_{0},p)$. Выберем последовательности $\{\gamma_{k}\}\subset\mathbb{R}$ и $\{f_{k}\}\subset\mathcal{RH}_{\beta}(\Lambda_{0},p)$ такие, что $\gamma_{k}\ne 0$, $\operatorname{sign}\gamma_{k}=\mathfrak{s}$, $\gamma_{k}\to 0$ и $f_{k}\to f$ в $\mathcal{RH}_{\beta}(\Lambda_{0},p)$ (в качестве $f_{k}$ можно взять $f_{k}=f$). В силу лемм 5 и 6 существуют решения $v_{k}$ уравнений $A_{\beta}(\sigma+i\gamma_{k})v_{k}\,{=}\,f_{k}$, причем $v_{k}$ являются слабыми решениями задачи (2.1) и подчиняются оценке
$$
\begin{equation}
\| v_{k}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant\| v_{k}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\gamma_{k}|)}\leqslant c\| f_{k}\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}.
\end{equation}
\tag{2.37}
$$
В частности, последовательность $\{v_{k}\}$ ограничена в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$. Лемма 8. Замкнутый единичный шар в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;\delta)$ ($\sigma\in\mathbb{R}$, $\delta\geqslant 0$, $\mathfrak{s}=\pm$) слабо компактен. Доказательство. Достаточно заметить, что пространство $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ (со скалярным произведением, определенным из (2.29)) гильбертово и сепарабельно; проверка сепарабельности осуществляется так же, как для обычных соболевских пространств $H^{s}(\Omega)$. Лемма доказана. В силу леммы 8 и неравенства (2.37) из $\{v_{k}\}$ можно выбрать подпоследовательность $\{v_{k(j)}\}$, слабо сходящуюся к некоторому элементу $v$ пространства $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$, причем
$$
\begin{equation*}
\| v\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant \liminf_{k\to\infty}\| v_{k(j)}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant c\| f\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}.
\end{equation*}
\notag
$$
Далее без ограничения общности будем считать, что подпоследовательность $\{v_{k(j)}\}$ совпадает с исходной последовательностью $\{v_{k}\}$. Пусть $\delta\in(0,1/2)$ и $\mathcal{K}$ – произвольная подобласть $\Lambda_{0}$ с компактным замыканием. В силу определений норм вложение $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)\subset H^{1}(\mathcal{K})$ непрерывно, поэтому $v_{k}\to v$ слабо в $H^{1}(\mathcal{K})$. Если граница подобласти $\mathcal{K}$ гладкая, то оператор следа, действующий из $H^{1}(\mathcal{K})$ в $H^{\delta}(\partial\mathcal{K})$, компактен; поэтому из равенств $v_{k}|\partial\Lambda_{0}\setminus\mathcal{O}=0$ имеем $v|\partial\Lambda_{0}\setminus\mathcal{O}=0$. Пусть $w$ – произвольный элемент $\mathcal{D}$, тогда можно выбрать такую подобласть $\mathcal{K}\subset\Lambda_{0}$ с компактным замыканием, что $\operatorname{supp}w\subset\overline{\mathcal{K}}$. Поскольку $v_{k}$ являются слабыми решениями задачи (2.1) c $f_{k}$ вместо $f$ и $\sigma+i\gamma_{k}$ вместо $\tau$, имеем $a(v_{k},w;\sigma+i\gamma_{k})=(f_{k},w)_{L_{2}(\Lambda_{0})}$ (форма $a(\cdot,\cdot;\tau)$ определена в (2.10)). Отсюда предельным переходом $k\to +\infty$ получаем $a(v,w;\sigma)=(f,w)_{L_{2}(\Lambda_{0})}$. Значит, $v$ есть $\mathfrak{s}$-слабое решение задачи (2.1). Поскольку такое решение единственно (см. лемму 7), $v$ не зависит от выбора последовательности $\{v_{k}\}$. Теперь пусть $\beta'\in(\beta_{m-1},\beta_{m})$, $m=1,2,\dots$, и $f\in\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Выясним, при каких условиях уже построенное решение $v$ принадлежит $\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$. Сначала распространим определения функций $w_{j}(\cdot,\overline{\tau})$, $j\in\mathfrak{J}(\beta')$, из леммы 6 на случай $\tau=\sigma\pm i0$. Выберем последовательность $\{w_{j}(\cdot,\sigma-i\gamma_{k})\}$. Имеем $w_{j}(\cdot,\sigma-i\gamma_{k})=\chi_{p} y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})+\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})$, где $K$ – достаточно большое число и $\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})$ – решение уравнения
$$
\begin{equation*}
A(\sigma-i\gamma_{k})\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})=(\Delta_{x}+(\sigma-i\gamma_{k})^{2})(\chi_{p} y_{j}(\cdot,\sigma-i\gamma_{k})).
\end{equation*}
\notag
$$
Более того,
$$
\begin{equation}
\begin{gathered} \, \chi_{p} y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})\to\chi_{p} y_{-j}^{K}(\cdot,\sigma) \quad\text{в }\ H_{-\beta'}(\Lambda_{0}), \\ \notag (\Delta_{x}+(\sigma-i\gamma_{k})^{2})(\chi_{p} y_{-j}^{K}(\cdot,\sigma+i\gamma_{k}))\to (\Delta_{x}+\sigma^{2})(\chi_{p} y_{-j}^{K}(\cdot,\sigma)) \quad\text{в }\ \mathcal{RH}_{\beta}(\Lambda_{0},p) \end{gathered}
\end{equation}
\tag{2.38}
$$
(см. (2.8)). Из уже доказанного следует, что из $\{w_{j}(\cdot,\sigma-i\gamma_{k})\}$ можно выбрать такую подпоследовательность $\{w_{j}(\cdot,\sigma-i\gamma_{k(s)})\}$, что $\{\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k(s)})\}$ сходится слабо в $\mathcal{DH}_{\beta}^{-\mathfrak{s}}(\Lambda_{0};\sigma;0)$ к (единственному) $-\mathfrak{s}$-слабому решению $\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)$ задачи (2.1) с $f=(\Delta_{x}+\sigma^{2})(\chi_{p}y_{-j}^{K}(\cdot,\sigma))$. Более того, из (2.33) вытекает
$$
\begin{equation}
\|\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)\|_{H^{0}_{-1}(\Lambda_{0})} =\liminf_{k\to\infty}\|\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k})\|_{H^{0}_{-1}(\Lambda_{0})}=O(p^{1/2-i\lambda_{-j}}).
\end{equation}
\tag{2.39}
$$
Обозначим $w_{j}^{-\mathfrak{s}}(\cdot,\sigma):=-\chi_{p}y_{-j}^{K}(\cdot,\sigma)+\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)$. Теперь соотношения (2.34) можно распространить на значения параметра $\tau=\sigma+\mathfrak{s}i0$ как
$$
\begin{equation}
(-(\Delta+\tau^{2})(\chi_{p} y_{j}^{K}(\cdot,\sigma)),\ w_{j}^{\mp}(\cdot,\sigma))_{\Lambda_{0}}=\delta_{j,j'}.
\end{equation}
\tag{2.40}
$$
Пусть выполнены условия ортогональности
$$
\begin{equation}
(f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}=0, \qquad j\in\mathfrak{J}(\beta').
\end{equation}
\tag{2.41}
$$
Построим $\mathfrak{s}$-слабое решение $v'\in\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ задачи (2.1). Для этого достаточно повторить процедуру, использованную при построении решения $v$ (с заменой $\beta$ на $\beta'$). Единственное отличие состоит в выборе подходящих функций $f_{k}$ (требуется разрешимость уравнений $A_{\beta'}(\sigma+i\gamma_{k})v'_{k}=f_{k}$). Ввиду леммы 6 и соотношений (2.34) в качестве $f_{k}\in\operatorname{Ran}A_{\beta}(\sigma+i\gamma_{k})$ можно взять функции
$$
\begin{equation*}
f_{k}=f+\sum_{j\in\mathfrak{J}(\beta)}d_{j,k}(\Delta_{x}+(\sigma+i\gamma_{k})^{2})(\chi_{p} y_{j}^{K}(\cdot,\sigma+i\gamma_{k})), \qquad d_{j,k}=(f,w_{j}(\cdot,\sigma-i\gamma_{k}))_{\Lambda_{0}}.
\end{equation*}
\notag
$$
Осталось проверить сходимость $f_{k}\to f$ в $\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Последовательность $\{(\Delta_{x}+(\sigma+i\gamma_{k})^{2})(\chi_{p} y_{j}^{K}(\cdot,\sigma+i\gamma_{k}))\}$ ограничена в $\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Поскольку $\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k(s)})-\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)$ слабо сходятся к нулю в $\mathcal{DH}_{\beta}^{-\mathfrak{s}}(\Lambda_{0};\sigma;0)$, пространство $\mathcal{DH}_{\beta}^{-\mathfrak{s}}(\Lambda_{0};\sigma;0)$ непрерывно вложено в $H^{0}_{-1}(\Lambda_{0})$ и $f\in H^{0}_{1}(\Lambda_{0})=(H^{0}_{-1}(\Lambda_{0}))^{*}$, имеем $(f,\widetilde{w}_{j}(\cdot,\sigma-i\gamma_{k(s)}))_{\Lambda_{0}}\to(f,\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}$. Из (2.38) следует, что
$$
\begin{equation*}
\begin{aligned} \, & |(f,\chi_{p} (y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})-y_{-j}^{K}(\cdot,\sigma)))_{\Lambda_{0}}| \\ &\qquad \leqslant\| \chi_{p} (y_{-j}^{K}(\cdot,\sigma-i\gamma_{k})-y_{-j}^{K}(\cdot,\sigma))\|_{H^{0}_{-\beta'}(\Lambda_{0})}\| f\|_{H^{0}_{\beta'}(\Lambda_{0})}\to 0. \end{aligned}
\end{equation*}
\notag
$$
Значит, $d_{j,k}\to (f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}=0$ и, следовательно, $f_{k}\to f$ в $\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Так как $v'\in\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0) \subset\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$, функция $v'$ совпадает с $v$ в силу леммы 7. Суммируем вышесказанное в следующем утверждении. Предложение 3. Пусть $\sigma\in\mathbb{R}$ и функция $f\in\mathcal{RH}_{\beta'}(\Lambda_{0},p)$ удовлетворяет условиям ортогональности (2.41). Тогда $\mathfrak{s} $-слабое решение $v$ задачи (2.1) принадлежит $\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ и подчиняется оценке
$$
\begin{equation}
\| v\|_{\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant c\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{2.42}
$$
Постоянная $c$ в (2.42) не зависит от $\sigma$. Предложение 3 позволяет описать асимптотику $\mathfrak{s}$-слабых решений задачи (2.1) вблизи вершины $\mathcal{O}$. В самом деле, представим $\mathfrak{s}$-слабое решение $v$ задачи (2.1) (с $\sigma\in\mathbb{R}$ и $f\in\mathcal{RH}_{\beta'}(\Lambda_{0},p)$) в виде
$$
\begin{equation}
v=\chi_{p}(x)\sum_{j\in\mathfrak{J}(\beta')}c_{j}y_{j}^{K}(\cdot,\sigma)+\widetilde{v}, \qquad c_{j}:=(f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}.
\end{equation}
\tag{2.43}
$$
Функция $\widetilde{v}$ является $\mathfrak{s}$-слабым решением задачи (2.1) с правой частью
$$
\begin{equation*}
f+\sum_{j\in\mathfrak{J}(\beta')}c_{j}(\Delta_{x}+\tau^{2})(\chi_{p}y_{j}^{K}(\cdot,\sigma))=:\widetilde{f}\in\mathcal{RH}_{\beta'}(\Lambda_{0},p).
\end{equation*}
\notag
$$
Из (2.40) следует, что $\widetilde{f}$ подчиняется условиям (2.41). Отсюда и из предложения 3 вытекает, что $\widetilde{v}\in\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ и
$$
\begin{equation*}
\| \widetilde{v}\|_{\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant c\| \widetilde{f}\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}\leqslant c(\| \widetilde{f}-f\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}+\| f\|_{\mathcal{RH}_{\beta}(\Lambda_{0},p)}).
\end{equation*}
\notag
$$
Из (2.9) и (2.39) имеем
$$
\begin{equation*}
\begin{aligned} \, &|c_{j}|=|(f,w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}|\leqslant \| f\|_{H^{0}_{\beta'}(\Lambda_{0})}\|\chi_{p} y_{-j}(\cdot,\sigma)\|_{H^{0}_{-\beta'}(\Lambda_{0})} \\ &\qquad\qquad+\| f\|_{H^{0}_{1}(\Lambda_{0})}\|\widetilde{w}_{j}^{-\mathfrak{s}}(\cdot,\sigma)\|_{H^{0}_{-1}(\Lambda_{0})}\leqslant c\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}p^{\operatorname{Im}\lambda_{-j}+\beta'-1/2}, \\ & \|(\Delta_{x}+\tau^{2})(\chi_{p}y_{j}^{K}(\cdot,\sigma))\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}=O(p^{3/2-\beta'+\operatorname{Im}\lambda_{j}}). \end{aligned}
\end{equation*}
\notag
$$
Отсюда $\| f-\widetilde{f}\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}\leqslant cp^{2}\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.$ Таким образом, справедливо Предложение 4. Пусть $\sigma\,{\in}\,\mathbb{R}$ и $f\,{\in}\,\mathcal{RH}_{\beta'}(\Lambda_{0},p)$. Тогда $\mathfrak{s}$-слабое решение $v$ задачи (2.1) допускает разложение (2.43) с остатком $\widetilde{v}$, подчиненным оценке $\|\widetilde{v}\|_{\mathcal{DH}_{\beta'}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)}\leqslant cp^{2}\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}$. Коэффициенты $c_{j}$ в (2.43) удовлетворяют неравенствам $|c_{j}|\leqslant c\| f\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}p^{\operatorname{Im}\lambda_{-j}+\beta'-1/2}$. Константа $c$ в обеих оценках не зависит от $\sigma$. В заключение пункта приведем сведения о поведении $\mathfrak{s}$-слабого решения $v$ задачи (2.1) на бесконечности. Лемма 9. 1) Если $f\in C_{c}^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, то $\mathfrak{s}$-слабое решение $v$ задачи (2.1) допускает представление $v(x)=r^{-1}e^{i\mathfrak{s}\sigma r}s(\theta)+O(r^{-2})$, где $s\in C^{\infty}(S_{1})$. Справедливо равномерное по $\sigma\in\mathbb{R}\setminus\{0\}$ неравенство
$$
\begin{equation}
\| s\|_{L_{2}(S_{1})}^{2}\leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{0}}\rho^{2}|f(x,\sigma)|^{2}\,dx.
\end{equation}
\tag{2.44}
$$
2) Для функций $w_{j}^{\pm}(\cdot,\sigma)$ из (2.41) справедливы представления
$$
\begin{equation}
w_{j}^{\pm}(\cdot,\sigma)=r^{-1}e^{\pm i\sigma r}\mathbf s_{j}^{\pm}(\theta,\sigma)+O(r^{-2}),
\end{equation}
\tag{2.45}
$$
где $\mathbf s_{j}^{\pm}(\cdot,\sigma)\in C_{c}^{\infty}(S_{1})$ и $\|\mathbf s_{j}^{\pm}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2}=O((1+|\sigma|^{-1})p^{2\operatorname{Im}\lambda_{-j}+1})$. Доказательство. В силу теорем о повышении гладкости решений эллиптических задач $v\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$. Обозначим через $\psi_{\infty}$ гладкую в $\mathbb{R}^{3}$ срезку, равную единице в окрестности бесконечности и аннулирующуюся вблизи $\overline{\Lambda_{0}}$. Функция $\psi_{\infty}v\in C^{\infty}(\mathbb{R}^{3})$ является единственным (в силу [5; теорема 3]) решением задачи
$$
\begin{equation}
{-}(\Delta_{x}+\sigma^{2})v'=\widetilde{f}:=-[\Delta_{x},\psi_{\infty}]v+\psi_{\infty}f \quad\text{в }\ \mathbb{R}^{3}, \qquad \int_{\mathbb{R}^{3}}|(\partial_{\rho}-i\mathfrak{s}\sigma)v'|^{2}\,dx<\infty
\end{equation}
\tag{2.46}
$$
и потому совпадает с (классическим) решением
$$
\begin{equation*}
v'(x):=\int_{B_{R_{0}}(\mathcal{O})}\frac{e^{i\sigma\mathfrak{s}|x-x'|}}{4\pi|x-x'|}\widetilde{f}(x')\,dx'
\end{equation*}
\notag
$$
уравнения $-(\Delta_{x}+\sigma^{2})v'=\widetilde{f}$ с асимптотикой $v'(x)=r^{-1}e^{i\mathfrak{s}\sigma r}s(\theta)+O(r^{-2})$ при $r\to+\infty$ (здесь $s\in C_{c}^{\infty}(S_{1})$). Такая же асимптотика справедлива и для $v$. Повторяя выкладки из доказательства леммы 1 (с учетом поведения $v$ вблизи вершины $\mathcal{O}$), выводим (2.44). Утверждение 2) вытекает из 1), поскольку $w_{j}^{\mathfrak{s}}(\cdot,\sigma)=\widetilde{w}_{j}^{\mathfrak{s}}(\cdot,\sigma)$ при $r\geqslant\mathrm{const}$; здесь $\widetilde{w}_{j}^{\mathfrak{s}}(\cdot,\sigma)$ есть $\mathfrak{s}$-слабое решение задачи (2.1) с $f=(\Delta_{x}+\sigma^{2})(\chi_{p}y_{-j}^{K}(\cdot,\sigma))$. Лемма доказана. 2.4. Оператор рассеяния Распространим результаты работы [1] на случай области $\Lambda_{0}$ с конической точкой. Введем самосопряженный (см. лемму 3) оператор $\mathcal{A}_{0}:=A(\tau)+\tau^{2}I$. Пусть $v\in \operatorname{Dom}\mathcal{A}_{0}$, выберем последовательность $\{v_{k}\}\subset\mathcal{D}$ такую, что $v_{k}\to v$, $-\Delta v_{k}\to \mathcal{A}_{0}v$ в $L_{2}(\Lambda_{0})$. Из (2.12) следует, что $\|\nabla_{x}(v_{k}-v_{k'})\|^{2}_{L_{2}(\Lambda_{0})}\leqslant\|\Delta_{x}(v_{k}-v_{k'})\|_{L_{2}(\Lambda_{0})}\| v_{k}-v_{k'}\|_{L_{2}(\Lambda_{0})}$ и $\{v_{k}\}$ фундаментальна в $H^{1}(\Lambda_{0})$. Тогда в силу оценки (2.7) с $\chi v_{k}-\chi v_{k'}$ вместо $v$ последовательность $\{\chi v_{k}\}$ фундаментальна в $H^{2}_{1}(\Lambda_{0})$. Значит, $\{v_{k}\}$ фундаментальна в $\mathcal{DH}_{\beta}^{\mathfrak{s}}(\Lambda_{0};\sigma;0)$ и $v=\lim_{k\to \infty} v_{k}$ в $\mathcal{DH}_{\beta}^{\pm}(\Lambda_{0};1;0)$. Поэтому $\operatorname{Dom}\mathcal{A}_{0}\subset\mathcal{DH}_{1}^{\pm}(\Lambda_{0};1;0)$ и точечный спектр оператора $\mathcal{A}_{0}$ отсутствует (см. лемму 7). Пусть $\chi_{\infty}\in C^{\infty}(\mathbb{R}^{3})$, $\chi_{\infty}=1$ в окрестности бесконечности и $\chi_{\infty}=0$ внутри достаточно большого шара, содержащего $\mathbb{R}^{3}\setminus\Lambda_{0}$. Для $k\in\mathbb{R}^{3}$, $\mathfrak{s}=\pm$ введем функции
$$
\begin{equation}
x\to \mathbf y_{0}^{\mathfrak{s}}(x,k)=\chi_{\infty}(x)e^{-ik\cdot x}+\mathbf u_{0}^{\mathfrak{s}}(x,k),
\end{equation}
\tag{2.47}
$$
где $\mathbf u_{0}^{\mathfrak{s}}(\cdot,k)\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ есть $\mathfrak{s}$-слабое решение задачи (2.1) с $\tau=|k|$ и $f(x)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. Из леммы 9 вытекает разложение
$$
\begin{equation}
\mathbf y_{0}^{\mathfrak{s}}(x,k)=e^{-ik\cdot x}+|x|^{-1}e^{i\mathfrak{s}|k||x|}\mathcal{S}^{\mathfrak{s}}_{0}(|x|^{-1}x,k)+O(|x|^{-2}), \qquad |x|\to +\infty,
\end{equation}
\tag{2.48}
$$
где $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)\in C^{\infty}(S_{1})$ (из доказательства той же леммы следует, что асимптотика (2.48) равномерна, а функции $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)$ равностепенно непрерывны при $0<c\leqslant|k|<1/c$). Для $\phi\in C_{c}^{\infty}(\Lambda_{0})$ обозначим
$$
\begin{equation*}
[\mathcal{F}_{\mathfrak{s},0,x\to k}\phi](k):=(2\pi)^{-3/2}\int_{\Lambda_{0}}\phi(x)\overline{\mathbf y_{0}^{\mathfrak{s}}(x,k)}\,dx.
\end{equation*}
\notag
$$
Лемма 10. Для всех $\phi\in C_{c}^{\infty}(\Lambda_{0})$ имеем $\mathcal{F}_{\mathfrak{s},0,x\to k}\phi\in L_{2}(\mathbb{R}^{3})$ и
$$
\begin{equation}
\| E^{\mathcal{A}_{0}}_{b}\phi\|^{2}_{L_{2}(\Lambda_{0})}-\| E^{\mathcal{A}_{0}}_{a}\phi\|^{2}_{L_{2}(\Lambda_{0})}=\int_{|k|^{2}\in(a,b)}|[\mathcal{F}_{\pm,0,x\to k}\phi](k)|^{2}\, dk,
\end{equation}
\tag{2.49}
$$
где $E^{\mathcal{A}_{0}}_{\lambda}:=E^{\mathcal{A}_{0}}(-\infty,\lambda)$ – спектральная мера оператора $\mathcal{A}_{0}$. Отображение $\mathcal{F}_{\mathfrak{s},0,x\to k}$ продолжается по непрерывности до унитарного оператора, действующего из $L_{2}(\Lambda_{0})$ на подпространство $\operatorname{Ran}\mathcal{F}_{\mathfrak{s},0,x\to k}$ в $L_{2}(\mathbb{R}^{3})$. Для любой измеримой по Лебегу и почти всюду конечной функции $f\mathbb{R}\to\mathbb{C}$ выполнено равенство $f(\mathcal{A}_{0})=\mathcal{F}_{\mathfrak{s},0,k\to x}^{-1}[ f(|k|^{2})] \mathcal{F}_{\mathfrak{s},0,x\to k}$ (здесь $[ g(k)]$ – оператор умножения на функцию $k\to g(k)$). Проверка леммы по существу состоит в переносе на случай негладкой области $\Lambda_{0}$ рассуждений из доказательства [1; теорема 1]; для удобства читателя мы приводим необходимые выкладки в § 4. Теперь введем гильбертово пространство $\mathcal{H}_{0}$ как пополнение линеала $\operatorname{Dom}\mathcal{A}_{0}\times\operatorname{Dom}\mathcal{A}_{0}$ относительно скалярного произведения
$$
\begin{equation*}
(\{\phi,\psi\},\{\phi',\psi'\})_{\mathcal{H}_{0}}:=(\nabla\phi,\nabla\phi')_{L_{2}(\Lambda_{0})}+(\psi,\psi')_{L_{2}(\Lambda_{0})}.
\end{equation*}
\notag
$$
Оператор $G_{0}\colon G_{0}\{\phi,\psi\}:=\{-i\psi,i\mathcal{A}_{0}\phi\}$ ($\operatorname{Dom} G_{0}=\operatorname{Dom}\mathcal{A}_{0}\times L_{2}(\Lambda_{0})$) самосопряжен в $\mathcal{H}_{0}$. Свяжем с задачей Коши–Дирихле для волнового уравнения
$$
\begin{equation}
\begin{cases} (\partial_{t}^{2}-\Delta_{x})u(x,t)=0, & x\in\Lambda_{0}, \ t>0, \\ u(x,t)=0, & x\in\partial\Lambda_{0}\setminus\mathcal{O}, \ t>0, \\ u(x,0)=\phi(x), \ \partial_{t}u(x,0)=\psi(x), & x\in\Lambda_{0}, \end{cases}
\end{equation}
\tag{2.50}
$$
сильно непрерывную группу унитарных операторов
$$
\begin{equation*}
t\to U_{0}(t):=\exp(iG_{0}t)=\int_{-\infty}^{+\infty}e^{i\mu t}\,dE^{G_{0}}_{\mu}
\end{equation*}
\notag
$$
с генератором $iG_{0}$ ($E^{G_{0}}_{\mu}:=E^{G_{0}}(-\infty,\mu)$ – спектральная мера оператора $G_{0}$). Имеем $G_{0}^{k}U_{0}(t)=U_{0}(t)G_{0}^{k}$, $k=1,\dots$ . Пусть $\{u(\cdot,t),v(\cdot,t)\}=U_{0}(t)\{\phi,\psi\}$ и $\{\phi,\psi\}\in\operatorname{Dom}G_{0}^{k}$ при всех $k=1,2,\dots$ . Тогда
$$
\begin{equation}
\begin{gathered} \, \nonumber \{\partial_{t}^{k}u(\cdot,t),\partial_{t}^{k}v(\cdot,t)\}\in\operatorname{Dom}G_{0}^{k'}, \\ (iG_{0})^{k'}\{\partial_{t}^{k}u(\cdot,t),\partial_{t}^{k}v(\cdot,t)\}=(iG_{0})^{k+k'}\{u(\cdot,t),v(\cdot,t)\} \quad\text{в }\ \mathcal{H}_{0} \end{gathered}
\end{equation}
\tag{2.51}
$$
при $k,k'=0,1,\dots$ . Поскольку $G_{0}^{2k}\{\phi,\psi\}=\{\mathcal{A}_{0}^{k}\phi,\mathcal{A}_{0}^{k}\psi\}$, из свойств повышения гладкости решений эллиптических задач и теорем вложения следует, что $u,v\in C^{\infty}((\overline{\Lambda_{0}}\setminus\mathcal{O})\times\mathbb{R})$, $u,v=0$ на $\partial\Lambda_{0}\setminus\mathcal{O}$. В частности, из (2.51) при $k=1,2$, $k'=0$ имеем $(\partial_{t}^{2}-\Delta_{x})u(x,t)=0$, $v(x,t)=\partial_{t}u(x,t)$. Значит, $u$ есть классическое решение задачи (2.50). Наоборот, пусть $u\in C^{\infty}((\overline{\Lambda_{0}}\setminus\mathcal{O})\times\mathbb{R})$ есть классическое решение задачи (2.50) и $\partial_{t}^{k}u(\cdot,t)\in\operatorname{Dom}G_{0}^{k'}$ при всех $k,k'=0,1,\dots$ . Тогда $\partial^{k}_{t}u(x,t)=O(r^{i\lambda_{1}})$, $\partial^{k}_{t}\partial_{r}u(x,t)=O(r^{i\lambda_{1}-1})$ вблизи вершины $\mathcal{O}$ (см. [6]) и для $u(\cdot,t)$ справедлива формула (2.19). Значит, решение $u$ единственно, и потому $\{u(\cdot,t),\partial_{t}u(\cdot,t)\}$ должно совпадать с $U_{0}(t)\{\phi,\psi\}$. Волновые операторы и оператор рассеяния задачи (2.50) вводятся так же, как для задачи в неограниченной области с гладкой границей (см. [1; теоремы 2–4]); поэтому мы ограничиваемся формулировкой результатов. Лемма 11. 1. Отображение $\mathfrak{R}_{\mathfrak{s},0}\colon \mathcal{H}_{0}\to\mathfrak{N}$,
$$
\begin{equation*}
[\mathfrak{R}_{\mathfrak{s},0}\{\phi,\psi\}](\kappa,\widehat{\kappa}):=\frac{\kappa}{i\sqrt{2}}\bigl([\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,0,x\to k}\psi](\kappa\widehat{\kappa})+i\kappa[\mathcal{F}_{\mathfrak{s}\operatorname{sign}\kappa,0,x\to k}\phi](\kappa\widehat{\kappa})\bigr),
\end{equation*}
\notag
$$
является унитарным изоморфизмом между $\mathcal{H}_{0}$ и $\mathfrak{N}$, причем $\mathfrak{R}_{\mathfrak{s},0}G_{0}=[\kappa]\mathfrak{R}_{\mathfrak{s},0}$ и $\mathfrak{R}_{\mathfrak{s},0}U_{0}(t)=[e^{i\kappa t}]\mathfrak{R}_{\mathfrak{s},0}$ (здесь $[f(\kappa,\widehat{\kappa})]$ – оператор умножения на функцию $(\kappa,\widehat{\kappa})\to f(\kappa,\widehat{\kappa})$, пространство $\mathfrak{N}$ определено в (1.14)). 2. Волновые операторы $W^{\pm}_{0}:=s-\lim_{t\to\pm\infty}U_{0}(-t)P_{0}U_{f}(t)$ (отождествление $P_{0}$ задано перед (1.20)) существуют и унитарны; более того, $W^{\pm}_{0}=\mathfrak{R}_{\pm,0}^{-1}\mathfrak{R}_{f}$. Оператор рассеяния $\mathbb{S}_{0}=(W^{+}_{0})^{-1}W^{-}_{0}$ допускает представление
$$
\begin{equation}
\mathbb{S}_{0}=I+\mathfrak{R}_{f}^{-1}\mathbf S_{0}\mathfrak{R}_{f}, \textit{ где } \ \mathbf S_{0}f(\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}f(\kappa,\theta)\overline{\mathcal{S}^{+}_{0}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}.
\end{equation}
\tag{2.52}
$$
§ 3. Асимптотика оператора рассеяния задачи (1.2) при $\varepsilon\to 0$ В этом параграфе описывается асимптотика оператора $\mathbb{S}_{\varepsilon}$ при $\varepsilon\to 0$. Опишем план рассуждений. Благодаря формулам (1.19) и (1.21) дело сводится к выводу равномерной по $\sigma\in(0,+\infty)$ асимптотики решений $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ задачи (1.5)–(1.7) с $k\in\mathbb{R}^{3}$, $\mathfrak{s}=+$, $\sigma=|k|$ и $f(x,\sigma)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$ (срезка $\chi_{\infty}$ введена перед (1.17)). Для построения асимптотики $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ при $\varepsilon\to 0$ применяется метод составных разложений (см. [2]). При таком подходе асимптотика $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ составляется из решений “предельных задач”, не зависящих от параметра $\varepsilon$. Первая предельная задача в области $\Lambda_{0}$ получается из (1.5)–(1.7) переходом $\varepsilon\to 0$. Пусть $v^{\mathfrak{s}}_{0}(\cdot,k)$ – решение первой предельной задачи и $\chi\in C_{c}^{\infty}(\mathbb{R}^{3})$ – срезка, равная единице вблизи вершины $\mathcal{O}$. При подстановке функции $x\to(1- \chi(\varepsilon^{-1}x))v^{\mathfrak{s}}_{0}(x,k)$ в исходную задачу (1.5)–(1.7) в правой части уравнения (1.5) возникает невязка $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{s}}_{0}(x,k)$. При $|k|\varepsilon\leqslant \mathrm{const}$ носитель коммутатора $[\Delta_{x},\chi(\varepsilon^{-1}x)]$ лежит в окрестности $\mathcal{O}$ диаметра $O(1/|k|)$ и главный член невязки выделяется с помощью равномерной по $k$ асимптотики решения $v^{\mathfrak{s}}_{0}(\cdot,k)$ вблизи $x\to\mathcal{O}$ (см. предложение 4 и определения норм (2.29)). Для компенсации главного члена невязки вводится поправка в форме $\varepsilon^{i\lambda_{1}-2}\chi(x)w_{0}(\varepsilon^{-1}x,k)$, где $w_{0}(\cdot,k)$ – (убывающее на бесконечности) решение второй предельной задачи в области $\Upsilon$. Подстановка аппроксимации $(1- \chi(\varepsilon^{-1}x))v^{\mathfrak{s}}_{0}(x,k) +\varepsilon^{i\lambda_{1}-2}\chi(x)w_{0}(\varepsilon^{-1}x,k)$ в (1.5)–(1.7) приводит к невязкам следующих порядков, которые снова компенсируются при помощи решений первых и вторых предельных задач, и т.д. В результате мы приходим к разложениям
$$
\begin{equation}
\begin{cases} \displaystyle \mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)\sim(1-\chi(\varepsilon^{-1}x)) \sum_{n=0}^{\infty}\varepsilon^{q_{n}}v^{\mathfrak{s}}_{n}(x,k)+\chi(x) \sum_{n'=0}^{\infty}\varepsilon^{\widetilde{q}_{n'}}w_{n'}(\varepsilon^{-1}x,k), \\ \displaystyle \mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\theta,k)\sim \sum_{n=0}^{\infty}\varepsilon^{q_{n}}\mathcal{S}^{(n),\mathfrak{s}}(\theta,k) \end{cases}
\end{equation}
\tag{3.1}
$$
решения $\mathbf u_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$ и коэффициента в асимптотике (1.18). Здесь $v^{\mathfrak{s}}_{k}$ и $w_{k'}$ – решения первых и вторых предельных задач соответственно. Функции $\mathcal{S}^{(n),\mathfrak{s}}(\cdot,k)$ являются коэффициентами в асимптотике $v^{\mathfrak{s}}_{k}(x,k)\sim |x|^{-1}e^{i\mathfrak{s}\sigma|x|}\mathcal{S}^{(k),\mathfrak{s}}(|x|^{-1}x,k)$ решений первых предельных задач на бесконечности, причем коэффициент $\mathcal{S}^{(0),\mathfrak{s}}(\cdot,k)=\mathcal{S}^{\mathfrak{s}}_{0}(\cdot,k)$ – такой же, как в (2.48). Показатели $q_{k},\widetilde{q}_{k'}$ есть конечные суммы чисел $\pm i\lambda_{\pm j}$ и $2j'$, $j,j'=0,1,\dots$, в частности, $q_{0}=0$, $q_{1}=i(\lambda_{1}-\lambda_{-1})$. Для обоснования разложений (3.1) используются априорные оценки из предложения 1 и леммы 1. При $|\sigma| \geqslant \mathrm{const}/\varepsilon$ метод составных разложений неприменим, поскольку носитель коммутатора $[\Delta_{x},\chi(\varepsilon^{-1}x)]$ лежит вне зоны $|x|\leqslant \mathrm{const}/p$ и поведение невязки $-[\Delta_{x},\chi(\varepsilon^{-1}x)]v^{\mathfrak{s}}_{0}(x,\sigma)$ описать нельзя. В этом случае и левые, и правые части разложений (3.1) оцениваются с помощью предложений 1, 3, лемм 1, 9 и неравенства $1\leqslant \varepsilon^{q}|\sigma|^{q}/\mathrm{const}^{q}$ с достаточно большим $q>0$. В результате получаем равномерное по $k\in\mathbb{R}^{3}$ неравенство
$$
\begin{equation}
\begin{aligned} \, \|\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)-\sum_{n=0}^{N}\varepsilon^{q_{n}}\mathcal{S}^{(n),\mathfrak{s}}(\cdot,k)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{q_{n}}(1+|k|^{-1/2})(1+|k|)^{Q_{N}-1/2} \end{aligned}
\end{equation}
\tag{3.2}
$$
с достаточно большим $Q_{N}>0$. С помощью (1.19) и (1.21) представим оператор $\mathbb{S}_{\varepsilon}$ в виде
$$
\begin{equation}
\mathbb{S}_{\varepsilon}=\mathbb{S}_{0}+\varepsilon^{q_{1}}\mathbb{S}^{(1)}+\dots+\varepsilon^{q_{n}}\mathbb{S}^{(n)}+\widetilde{\mathbb{S}}^{(N)}_{\varepsilon},
\end{equation}
\tag{3.3}
$$
где $\mathbb{S}_{0}$ – оператор рассеяния задачи (2.50) в предельной области $\Lambda_{0}$,
$$
\begin{equation*}
\begin{gathered} \, [\mathfrak{R}_{f}\mathbb{S}^{(n)}\mathfrak{R}_{f}^{-1}g](\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}g(\kappa,\theta)\overline{\mathcal{S}^{(n),+}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}, \\ [\mathfrak{R}_{f}\widetilde{\mathbb{S}}^{(N)}_{\varepsilon}\mathfrak{R}_{f}^{-1}g](\kappa,\widehat{\kappa})=\frac{\kappa}{2\pi i}\int_{S_{1}}g(\kappa,\theta)\bigl(\overline{\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)} -\sum_{n=0}^{N}\varepsilon^{q_{n}}\overline{\mathcal{S}^{(n),\mathfrak{s}}(\cdot,k)}\bigr)\,dS_{\theta} \end{gathered}
\end{equation*}
\notag
$$
и $\kappa=|k|$, $\widehat{\kappa}=\kappa^{-1}k$; отображение $\mathfrak{R}_{f}$ задано в (1.15). Поскольку правая часть оценки (3.2) содержит растущую при $k\to\infty$ функцию, выражение (3.3) имеет смысл лишь после сужения его левой и правой частей на линеал $\mathcal{H}^{(N)}_{f}:=\operatorname{Dom}G_{f}^{Q_{N}}\subset\mathcal{H}_{f}$ (пространство $\mathcal{H}_{f}$ и оператор $G_{f}$ заданы перед (1.13)). Снабдим $\mathcal{H}^{(N)}_{f}$ нормой
$$
\begin{equation*}
\|\{\phi,\psi\}\|_{\mathcal{H}^{(N)}_{f}}:=\bigl(\|\{\phi,\psi\}\|_{\mathcal{H}_{f}}^{2}+\| G_{f}^{Q_{N}}\{\phi,\psi\}\|_{\mathcal{H}_{f}}^{2}\bigr)^{1/2}
\end{equation*}
\notag
$$
(пространство $\mathfrak{N}$ задано в (1.14)). Из (1.16) и изометричности преобразования $\mathfrak{R}_{f}\colon \mathcal{H}_{f}\to\mathfrak{N}$ имеем
$$
\begin{equation*}
\|\{\phi,\psi\}\|_{\mathcal{H}^{(N)}_{f}}=\|[(1+|\kappa|^{2Q_{N}})^{1/2}]\mathfrak{R}_{f}\{\phi,\psi\}\|_{\mathfrak{N}}.
\end{equation*}
\notag
$$
Теперь из (3.2) вытекает оценка $\|\widetilde{\mathbb{S}}_{\varepsilon}^{(n)}\|_{\mathcal{H}^{(N)}_{f}\to \mathcal{H}_{f}}=o(\varepsilon^{q_{n}})$. Мы не выписываем полное асимптотическое разложение оператора $\mathbb{S}_{\varepsilon}$, ограничившись (лишь для простоты выкладок) выводом первой поправки $\varepsilon^{q_{1}}\mathbb{S}^{(1)}$ к предельному оператору рассеяния $\mathbb{S}_{0}$. Основной результат сформулирован в теореме 1. 3.1. Асимптотика решений задачи (1.5)–(1.7) После формального перехода к пределу $\varepsilon\to 0$ задача (1.5)–(1.7) принимает вид
$$
\begin{equation}
-(\Delta_{x}+\sigma^{2})v^{\mathfrak{s}}_{0}(x,\sigma)=f(x,\sigma), \qquad x\in\Lambda_{0},
\end{equation}
\tag{3.4}
$$
$$
\begin{equation}
v^{\mathfrak{s}}_{0}(x,\sigma)=0, \qquad x\in\partial\Lambda_{0}\setminus\mathcal{O},
\end{equation}
\tag{3.5}
$$
$$
\begin{equation}
\int_{\Lambda_{0}}\biggl(|\partial_{r}v_{0}^{\mathfrak{s}}(x,\sigma) -i\mathfrak{s}\sigma v_{0}^{\mathfrak{s}}(x,\sigma)|^{2}+\frac{|v_{0}^{\mathfrak{s}}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx<\infty.
\end{equation}
\tag{3.6}
$$
В силу леммы 7 и предложений 3, 4 существует единственное ($\mathfrak{s}$-слабое) решение задачи (3.4)–(3.6); это решение гладкое в $\overline{\Lambda_{0}}\setminus\mathcal{O}$ и допускает вблизи вершины $\mathcal{O}$ разложение
$$
\begin{equation}
v^{\mathfrak{s}}_{0}(x,\sigma)=\chi_{p}(x)\sum_{j,k}d_{j,k}(\sigma)r^{i\lambda_{j}+2k}\Phi_{j}(\theta)+\widetilde{v}^{\mathfrak{s}}_{0}(x,\sigma)
\end{equation}
\tag{3.7}
$$
с остатком, подчиненным неравенству
$$
\begin{equation}
\|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{0}(\cdot,\sigma)\|_{H^{2}_{\beta'}(\Lambda_{0},p)}\leqslant cp^{2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{3.8}
$$
Здесь $\beta'=\operatorname{Im}\lambda_{1}-\operatorname{Im}\lambda_{-1}-\delta$ и $\delta>0$ достаточно мало; суммирование в (3.7) идет только по таким $j=1,2,\dots$ и $k=0,1,\dots$, для которых $\operatorname{Im}\lambda_{j}>\beta'-1/2$ и $\beta'-\operatorname{Im}\lambda_{j}+2k\leqslant 3/2$. Коэффициенты разложения (3.7) заданы формулами $d_{j,k}(\sigma):=c_{j,k}\sigma^{2k}(f(\cdot,\sigma),w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}$ и удовлетворяют оценкам
$$
\begin{equation}
|d_{j,k}(\sigma)|\leqslant cp^{\beta'+\operatorname{Im}\lambda_{-j}+2k-1/2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{3.9}
$$
Числа $\lambda_{j}$, $c_{j,k}$ и функции $\Phi_{j}$, $w_{j}^{-\mathfrak{s}}(\cdot,\sigma)$ – те же самые, что в (2.8), (2.43). Положим $\chi^{\varepsilon}(x):=\chi(\varepsilon^{-1}x)$ (срезка $\chi$ введена перед предложением 2). Функция
$$
\begin{equation}
(1-\chi^{\varepsilon})v^{\mathfrak{s}}_{0}(\cdot,\sigma)
\end{equation}
\tag{3.10}
$$
удовлетворяет граничному условию (1.6) и условию излучения (1.7); уравнение (1.5) выполняется с точностью до невязки
$$
\begin{equation}
{-}(\Delta_{x}+\sigma^{2})\bigl[(1-\chi(\varepsilon^{-1}x))v_{0}^{\mathfrak{s}}(x,\sigma)\bigr]-f(x,\sigma)=-[\Delta_{x},\chi^{\varepsilon}]v_{0}^{\mathfrak{s}}(x,\sigma).
\end{equation}
\tag{3.11}
$$
С помощью (3.7) представим невязку в виде
$$
\begin{equation}
-\sum_{j,k}d_{j,k}(\sigma)[\Delta_{x},\chi^{\varepsilon}] \bigl(\chi_{p}(x)r^{i\lambda_{j}+2k}\Phi_{j}(\theta)\bigr)-[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}_{0}^{\mathfrak{s}}(x,\sigma).
\end{equation}
\tag{3.12}
$$
Пусть $c_{0}$ – такое достаточно малое число, что $\chi(x)=1$ при $|x|\leqslant c_{0}$. При $\varepsilon p\leqslant c_{0}$ на носителе коммутатора $[\Delta_{x},\chi^{\varepsilon}]$ выполняется равенство $\chi_{p}=1$ и из (3.8) вытекает оценка
$$
\begin{equation}
\varepsilon^{\beta'}\|[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}_{0}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant c\|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{0}(\cdot,\sigma)\|_{H^{2}_{\beta'}(\Lambda_{0},p)}\leqslant cp^{2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{3.13}
$$
Для компенсации главной части невязки
$$
\begin{equation*}
-\sum_{j,k}d_{j,k}(\sigma)[\Delta_{\xi},\chi(\xi)]\bigl(|\xi|^{i\lambda_{j}+2k}\Phi_{j}(\theta)\bigr)\varepsilon^{i\lambda_{j}+2k-2}, \qquad \xi:=\varepsilon^{-1}x,
\end{equation*}
\notag
$$
введем поправку
$$
\begin{equation}
\sum_{j,k}\varepsilon^{i\lambda_{j}+2k}d_{j,k}(\sigma)\chi(x)\sum_{m=0}^{m_{0}(j,k)}(\varepsilon\sigma)^{2m}\eta_{j,k,m}(\varepsilon^{-1}x).
\end{equation}
\tag{3.14}
$$
Здесь $m_{0}(j,k)\geqslant 0$ – минимальное целое число, превосходящее $\operatorname{Im}(\lambda_{j}+\lambda_{-1}-\lambda_{1})/2-k-3/4$. Функции $\eta_{j,k,0}$ в (3.14) являются решениями задач
$$
\begin{equation*}
\begin{aligned} \, -\triangle_{\xi}\eta_{j,k,0}(\xi)=[\Delta_{\xi},\chi(\xi)]\bigl(|\xi|^{i\lambda_{j}+2k}\Phi_{j}(\theta)), & \qquad \xi\in \Upsilon, \\ \eta_{j,k,0}(\xi)=0, & \qquad \xi\in\partial\Upsilon, \\ \eta_{j,k,0}(\xi)=O(|\xi|^{-\operatorname{Im}\lambda_{-1}}), & \qquad |\xi|\to\infty. \end{aligned}
\end{equation*}
\notag
$$
Справедливы асимптотики (см. [2])
$$
\begin{equation}
\eta_{j,k,0}(\xi)\sim\sum_{s=1}^{\infty}q_{j,k,s}|\xi|^{i\lambda_{-s}}\Phi_{s}(\theta), \qquad |\xi|\to\infty.
\end{equation}
\tag{3.15}
$$
Функции $\eta_{j,k,m}$ ($m>0$) суть решения задач
$$
\begin{equation*}
\begin{aligned} \, -\triangle_{\xi}\eta_{j,k,m}(\xi)=-\eta_{j,k,m-1}(\xi), & \qquad \xi\in \Upsilon, \\ \eta_{j,k,m}(\xi)=0, & \qquad \xi\in\partial\Upsilon, \end{aligned}
\end{equation*}
\notag
$$
с асимптотиками
$$
\begin{equation*}
\eta_{j,k}\sim\sum_{s=1}^{\infty}q_{j,k,s}c_{-s,m}|\xi|^{i\lambda_{-s}+2m}\Phi_{s}(\theta) +\sum_{s'=1}^{\infty}\widetilde{q}_{j,k,s'}|\xi|^{i\lambda_{-s'}}\Phi_{s'}(\theta), \qquad |\xi|\to\infty.
\end{equation*}
\notag
$$
Подстановка суммы (3.10) и (3.14) в уравнение (1.5) приводит к новой невязке
$$
\begin{equation}
\begin{aligned} \, \notag &{-}[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}_{0}^{\mathfrak{s}}(x,\sigma) -\sum_{j,k,m}d_{j,k}(\sigma)\sigma^{2m}[\Delta_{x},\chi(x)]\eta_{j,k,m}(\varepsilon^{-1}x)\varepsilon^{i\lambda_{j}+2k+2m} \\ \notag &\qquad\qquad -\sum_{j,k}d_{j,k}(\sigma)\sigma^{2(m_{0}(j,k)+1)}\chi(x)\eta_{j,k,m_{0}(j,k)}(\varepsilon^{-1}x)\varepsilon^{i\lambda_{j}+2k+2m_{0}(j,k)} \\ &\qquad =-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}h_{0}(x,\sigma)-\widetilde{h}_{1}(x,\varepsilon,\sigma). \end{aligned}
\end{equation}
\tag{3.16}
$$
Здесь
$$
\begin{equation}
\begin{aligned} \, \notag h_{0}(x,\sigma) &:=d_{1,0}(\sigma)q_{1,0,1}(\Delta_{x}+\sigma^{2})(\chi(x)y_{-1}^{m_{0}(1,0)}(x,\sigma)) \\ \notag &=d_{1,0}(\sigma)q_{1,0,1}\biggl(\sigma^{2(m_{0}(1,0)+1)}\chi c_{-1,m_{0}(1,0)}r^{i\lambda_{-1}+2m_{0}(1,0)}\Phi_{1} \\ &\qquad +[\Delta_{x},\chi]\sum_{m=0}^{m_{0}(1,0)}c_{-1,m}\sigma^{2m}r^{i\lambda_{-1}+2m}\Phi_{1}\biggr) \end{aligned}
\end{equation}
\tag{3.17}
$$
(функции $y_{-1}^{m_{0}(1,0)}(\cdot,\sigma)$ определены в (2.8)) и
$$
\begin{equation}
\| h_{0}(\cdot,\sigma)\|_{\mathcal{RH}_{-\delta}(\Lambda_{0},p)} \leqslant cp^{4+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)},
\end{equation}
\tag{3.18}
$$
$$
\begin{equation}
\nonumber \|\widetilde{h}_{1}(\cdot,\varepsilon,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})} \leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}\biggl(p^{2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}
\end{equation}
\notag
$$
$$
\begin{equation}
\qquad\qquad +\sum_{j,k}|d_{j,k}(\sigma)\sigma^{2(m_{0}(j,k)+1)}|\biggr).
\end{equation}
\tag{3.19}
$$
Ввиду (3.9) последнюю формулу можно переписать в виде
$$
\begin{equation}
\|\widetilde{h}_{1}(\cdot,\varepsilon,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}p^{4}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{3.20}
$$
Для компенсации главного члена $-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}h_{0}(x,\sigma)$ в (3.16) введем следующую поправку:
$$
\begin{equation}
\varepsilon^{i(\lambda_{1}-\lambda_{-1})}(1-\chi^{\varepsilon})v^{\mathfrak{s}}_{1}(\cdot,\sigma),
\end{equation}
\tag{3.21}
$$
где $v^{\mathfrak{s}}_{1}(\cdot,\sigma)$ есть (единственное) $\mathfrak{s}$-слабое решение задачи
$$
\begin{equation}
-(\Delta_{x}+\sigma^{2})v^{\mathfrak{s}}_{1}(x,\sigma)=h_{0}(x,\sigma), \qquad x\in\Lambda_{0},
\end{equation}
\tag{3.22}
$$
$$
\begin{equation}
v^{\mathfrak{s}}_{1}(x,\sigma)=0, \qquad x\in\partial\Lambda_{0}\setminus\mathcal{O}.
\end{equation}
\tag{3.23}
$$
Из выражения (3.17) для правой части уравнения (3.22) следует, что
$$
\begin{equation}
v^{\mathfrak{s}}_{1}(\cdot,\sigma)=d_{1,0}(\sigma)q_{1,0,1}\bigl[w_{1}^{\mathfrak{s}}(\cdot,\sigma)-\chi(x)y_{-1}^{m_{0}(1,0)}(x,\sigma)\bigr]
\end{equation}
\tag{3.24}
$$
(функции $w_{j}^{\pm}(\cdot,\sigma)$ определены перед формулой (2.40)). Из предложения 4 вытекает разложение
$$
\begin{equation*}
v^{\mathfrak{s}}_{1}(x,\sigma) =\chi_{p}(x)\sum_{j}e_{j'}(\sigma)r^{i\lambda_{j'}}\Phi_{j'}(\theta) +\widetilde{v}^{\mathfrak{s}}_{1}(x,\sigma),
\end{equation*}
\notag
$$
где $j'=1,2,\dots$, $\operatorname{Im}\lambda_{j'}>-\delta-1/2$; коэффициенты $e_{j'}(\sigma):=(h_{0}(\cdot,\sigma),w^{-\mathfrak{s}}_{j'}(\cdot,\sigma))_{\Lambda_{0}}$ и остаток $\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)$ удовлетворяют условиям
$$
\begin{equation}
\nonumber |e_{j'}(\sigma)|\leqslant cp^{\operatorname{Im}\lambda_{-j'}-1/2-\delta}\| h_{0}(\cdot,\sigma)\|_{\mathcal{RH}_{-\delta}(\Lambda_{0},p)}
\end{equation}
\notag
$$
$$
\begin{equation}
\qquad\leqslant cp^{\operatorname{Im}\lambda_{-j'}+7/2-\delta+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)},
\end{equation}
\tag{3.25}
$$
$$
\begin{equation}
\|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)\|_{H^{2}_{-\delta}(\Lambda_{0},p)}\leqslant cp^{2}\| h_{0}(\cdot,\sigma)\|_{\mathcal{RH}_{-\delta}(\Lambda_{0},p)}\leqslant cp^{6+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{3.26}
$$
Поправка (3.21) вносит в уравнение (1.5) невязку $-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}]v^{\mathfrak{s}}_{1}(\cdot,\sigma)$, равную
$$
\begin{equation}
-\sum_{j'}e_{j'}(\sigma)\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})-2}[\Delta_{\xi},\chi(\xi)]|\xi|^{i\lambda_{j'}}\Phi_{j'}(\theta)-\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma).
\end{equation}
\tag{3.27}
$$
Из (3.26) имеем
$$
\begin{equation}
\begin{aligned} \, \nonumber & \|\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}] \widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})} \leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta} \|\chi_{p}\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma)\|_{H^{2}_{-\delta}(\Lambda_{0},p)} \\ &\qquad \leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}p^{6+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{aligned}
\end{equation}
\tag{3.28}
$$
Наконец, для компенсации главного члена невязки (3.27) вводится функция
$$
\begin{equation}
\sum_{j'}\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})}e_{j'}(\sigma)\chi(x)\zeta_{j'}(\varepsilon^{-1}x).
\end{equation}
\tag{3.29}
$$
Здесь, $\zeta_{j'}$ – решения задач
$$
\begin{equation*}
\begin{aligned} \, \Delta_{\xi}\zeta_{j'}(\xi)=[\Delta_{\xi},\chi(\xi)]|\xi|^{i\lambda_{j'}}\Phi_{j'}(\theta), & \qquad \xi\in\Upsilon, \\ \zeta_{j'}(\xi)=0, & \qquad \xi\in\partial\Upsilon, \\ \zeta_{j'}(\xi)=O(|\xi|^{-\operatorname{Im}\lambda_{-1}}), & \qquad |\xi|\to\infty. \end{aligned}
\end{equation*}
\notag
$$
Поправка (3.29) вносит в уравнение (1.5) очередную невязку $\widetilde{\zeta}(x,\sigma,\varepsilon)$, равную
$$
\begin{equation*}
\sum_{j'}e_{j'}(\sigma)\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})} \bigl([\Delta_{x},\chi^{\varepsilon}]r^{i\lambda_{j'}}\Phi_{j'}(\theta)-(\Delta_{x}+\sigma^{2})(\chi(x)\zeta_{j'}(\varepsilon^{-1}x))\bigr).
\end{equation*}
\notag
$$
В силу (3.25)
$$
\begin{equation}
\begin{aligned} \, \notag &\|\widetilde{\zeta}(\cdot,\sigma,\varepsilon)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant cp^{2}\sum_{j'} (\varepsilon^{\operatorname{Im}\lambda_{1}}+\varepsilon)\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1}-\lambda_{j'})}|e_{j'}(\sigma)| \\ &\qquad\leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}p^{7+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{aligned}
\end{equation}
\tag{3.30}
$$
Собирая вместе слагаемые (3.10), (3.14), (3.21) и (3.29), получаем аппроксимацию решения $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ в форме $u^{\mathfrak{s}}_{as,\varepsilon}(\cdot,\sigma):=u^{\mathfrak{s}}_{0,\varepsilon}(\cdot,\sigma)+u^{\mathfrak{s}}_{0,\varepsilon}(\cdot,\sigma)$, где
$$
\begin{equation}
\begin{aligned} \, \nonumber u^{\mathfrak{s}}_{0,\varepsilon}(x,\sigma) &:=(1-\chi(\varepsilon^{-1}x))\bigl[v^{\mathfrak{s}}_{0}(x,\sigma) +\varepsilon^{i(\lambda_{1}-\lambda_{-1})}v^{\mathfrak{s}}_{1}(x,\sigma)\bigr], \\ \nonumber u^{\mathfrak{s}}_{1,\varepsilon}(x,\sigma)&:=\chi(x)\biggl[\sum_{j,k}\varepsilon^{i\lambda_{j}+2k}d_{j,k}(\sigma) \sum_{m=0}^{m_{0}(j,k)}(\varepsilon\sigma)^{2m}\eta_{j,k,m}(\varepsilon^{-1}x) \\ &\qquad+\sum_{j'}\varepsilon^{i(\lambda_{1}-\lambda_{-1}+\lambda_{j'})}e_{j'}(\sigma)\zeta_{j'}(\varepsilon^{-1}x)\biggr]. \end{aligned}
\end{equation}
\tag{3.31}
$$
Остаток $u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)=u^{\mathfrak{s}}_{as,\varepsilon}(\cdot,\sigma)-u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ удовлетворяет задаче
$$
\begin{equation}
\begin{aligned} \, \nonumber & {-}(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)=[\Delta_{x},\chi^{\varepsilon}] \widetilde{v}_{0}^{\mathfrak{s}}(x,\sigma)+\widetilde{h}_{1}(x,\varepsilon,\sigma) \\ &\qquad+\varepsilon^{i(\lambda_{1}-\lambda_{-1})}[\Delta_{x},\chi^{\varepsilon}]\widetilde{v}^{\mathfrak{s}}_{1}(\cdot,\sigma) +\widetilde{\zeta}(x,\sigma,\varepsilon), \qquad x\in\Lambda_{\varepsilon}, \\ \nonumber &u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)=0, \qquad x\in\partial\Lambda_{\varepsilon}, \\ \nonumber &\int_{\Lambda_{\varepsilon}}\biggl(|\partial_{r}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma) -iu^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)|^{2}+\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx<\infty. \end{aligned}
\end{equation}
\tag{3.32}
$$
Правая часть уравнения (3.32) имеет компактный носитель (диаметр носителя не превосходит $\operatorname{diam\,supp}\chi$). Из (3.13), (3.20), (3.28), (3.30) выводим
$$
\begin{equation}
\|(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)\|_{L_{2}(\Lambda_{\varepsilon})}\leqslant c\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}p^{7+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}.
\end{equation}
\tag{3.33}
$$
Отсюда и из предложения 1 следует, что
$$
\begin{equation*}
\begin{aligned} \, &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx \\ &\qquad \leqslant c\varepsilon^{2(\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta)} p^{2(7+\operatorname{Im}\lambda_{1})}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}. \end{aligned}
\end{equation*}
\notag
$$
При $\varepsilon p>c_{0}$ носитель коммутатора $[\Delta_{x},\chi^{\varepsilon}]$, вообще говоря, не пересекается с $\operatorname{supp}\chi_{p}$ и асимптотическая формула (3.7) не доставляет асимптотику невязки (3.11) при $\varepsilon\to 0$. Это означает, что метод составных разложений неприменим для описания асимптотики функции $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ при $\varepsilon\to 0$, $\varepsilon p\geqslant \mathrm{const}$. В этом случае мы ограничиваемся оценками
$$
\begin{equation*}
\begin{aligned} \, &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{\varepsilon}(x,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx \\ &\qquad\leqslant c(\varepsilon p)^{2\widetilde{m}}\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx\leqslant c\varepsilon ^{2(\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta)}p^{-2}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}^{2}, \\ &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}v^{\mathfrak{s}}_{0}(x,\sigma))|^{2} +\frac{|v^{\mathfrak{s}}_{0}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c(\varepsilon p)^{2\widetilde{m}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{1}(\Lambda_{0},p)}^{2}, \\ &\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}v^{\mathfrak{s}}_{1}(x,\sigma))|^{2} +\frac{|v^{\mathfrak{s}}_{1}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c\varepsilon^{2\delta}p^{2(4+\operatorname{Im}\lambda_{1}+\delta)}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}^{2} \end{aligned}
\end{equation*}
\notag
$$
(здесь $\widetilde{m}:=\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta$), вытекающими из неравенств (1.8), (2.42) (с $\beta'\,{=}\,1$) и (3.18) и определений норм (2.29), (2.30). Суммируем вышесказанное в следующем утверждении. Предложение 5. Пусть $\sigma\in\mathbb{R}$ и $f(\cdot,\sigma)\in C_{c}^{\infty}(\Lambda_{0})$. Тогда решение $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ задачи (1.5)–(1.7) допускает представление
$$
\begin{equation}
u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)=(1-\mathcal{I}(\varepsilon p)\chi^{\varepsilon})\bigl[v^{\mathfrak{s}}_{0}(\cdot,\sigma)+\varepsilon^{i(\lambda_{1}-\lambda_{-1})}v^{\mathfrak{s}}_{1}(\cdot,\sigma)\bigr]+\mathcal{I}(\varepsilon p)u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,\sigma)+u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma).
\end{equation}
\tag{3.34}
$$
Здесь $\mathcal{I}$ – характеристическая функция отрезка $[-c_{0},c_{0}]$, функция $u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,\sigma)$ определена в (3.31), $v^{\mathfrak{s}}_{0}(\cdot,\sigma)$ и $v^{\mathfrak{s}}_{1}(\cdot,\sigma)$ есть $\mathfrak{s}$-слабые решения задач (3.4), (3.5) и (3.22), (3.23) соответственно. Остаток $u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)$ подчиняется оценке
$$
\begin{equation}
\begin{aligned} \, \notag & \int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}\sigma\rho}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma))|^{2} +\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(x,\sigma)|^{2}}{\rho^{2}}\biggr)\,dx \\ &\qquad\leqslant c\varepsilon^{-2\beta'}\bigl[p^{2(7+\operatorname{Im}\lambda_{1})}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}^{2}+p^{-2\beta'}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{1}(\Lambda_{0},p)}^{2}\bigr], \end{aligned}
\end{equation}
\tag{3.35}
$$
где $\beta'=\operatorname{Im}\lambda_{1}-\operatorname{Im}\lambda_{-1}-\delta$ и $\delta>0$ – достаточно малое число. Константа $c$ в (3.35) не зависит от $\sigma$. Опишем асимптотику функции $S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)$ из разложения (1.9). В силу предложения 1, лемм 1 и 9 и формулы (3.24) в окрестности бесконечности справедливы представления
$$
\begin{equation}
v^{\mathfrak{s}}_{0}(x,\sigma) =|x|^{-1}e^{i\mathfrak{s}\sigma|x|}S_{0}^{\mathfrak{s}}(|x|^{-1}x,\sigma)+O(|x|^{-2}),
\end{equation}
\tag{3.36}
$$
$$
\begin{equation}
w_{1}^{\mathfrak{s}}(\cdot,\sigma) =|x|^{-1}e^{i\mathfrak{s}\sigma|x|}\mathbf s_{1}^{\mathfrak{s}}(|x|^{-1}x,\sigma)+O(|x|^{-2}),
\end{equation}
\tag{3.37}
$$
$$
\begin{equation}
v^{\mathfrak{s}}_{1}(x,\sigma) =d_{1,0}(\sigma)q_{1,0,1}|x|^{-1}e^{i\mathfrak{s}\sigma|x|}\mathbf s_{1}^{\mathfrak{s}}(|x|^{-1}x,\sigma)+O(|x|^{-2}),
\end{equation}
\tag{3.38}
$$
$$
\begin{equation}
u^{\mathfrak{s}}_{r,\varepsilon}(x,\sigma) =|x|^{-1}e^{i\mathfrak{s}\sigma|x|}\widetilde{S}_{\varepsilon}(|x|^{-1}x,\sigma)+O(|x|^{-2}).
\end{equation}
\tag{3.39}
$$
Функции $S_{0}^{\mathfrak{s}}(\cdot,\sigma)$, $S^{(1)}(\cdot,\sigma)$ и $\widetilde{S}_{\varepsilon}(\cdot,\sigma)$ являются гладкими на единичной сфере $S_{1}$ и подчиняются оценкам
$$
\begin{equation}
\| S_{0}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} \leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|f(x,\sigma)|^{2}\,dx,
\end{equation}
\tag{3.40}
$$
$$
\begin{equation}
|d_{1,0}(\sigma)|\,\| \mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} \leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|h_{0}(x,\sigma)|^{2}\,dx,
\end{equation}
\tag{3.41}
$$
$$
\begin{equation}
\|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}^{2} \leqslant c(1+|\sigma|^{-1})\int_{\Lambda_{\varepsilon}}\rho^{2}|(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)|^{2}\,dx.
\end{equation}
\tag{3.42}
$$
Функция $u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,\sigma)$ в (3.34) имеет компактный носитель. Поэтому подстановка разложений (3.36)–(3.39) в равенство (3.34) дает
$$
\begin{equation}
\begin{split} S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)=S_{0}^{\mathfrak{s}}(\cdot,\sigma)+d_{1,0}(\sigma)q_{1,0,1}\varepsilon^{i(\lambda_{1}-\lambda_{-1})}\mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)+\widetilde{S}_{\varepsilon}(\cdot,\sigma). \end{split}
\end{equation}
\tag{3.43}
$$
Из (3.42), оценки (3.33) и вложения $\operatorname{supp}(\Delta_{x}+\sigma^{2})u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,\sigma)\subset\operatorname{supp}\chi$ следует, что
$$
\begin{equation*}
\|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{-\beta'}(1+|\sigma|^{-1/2})p^{7+\operatorname{Im}\lambda_{1}}\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \qquad \varepsilon p\leqslant c_{0}.
\end{equation*}
\notag
$$
Далее, из леммы 1, формул (3.40), (3.41), определения нормы (2.30) и неравенства (3.18) имеем
$$
\begin{equation*}
\begin{aligned} \, & \|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}\leqslant\| S_{\varepsilon}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})} \\ &\qquad\qquad+\| S_{0}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})}+\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})}|d_{1,0}(\sigma)|\,\| \mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)\|_{L_{2}(S_{1})} \\ &\qquad\leqslant c\varepsilon^{-\beta'}(1+|\sigma|^{-1/2})(p^{3+\operatorname{Im}\lambda_{1}}+p^{-1})\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}, \qquad\varepsilon p\geqslant c_{0}. \end{aligned}
\end{equation*}
\notag
$$
Таким образом, справедливо Предложение 6. Пусть $\sigma\,{\in}\,\mathbb{R}$ и $f(\cdot,\sigma)\,{\in}\, C_{c}^{\infty}(\Lambda_{0})$. Тогда для решения $u^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ задачи (1.5)–(1.7) справедливо асимптотическое разложение (1.9) в окрестности бесконечности. Функция $S^{\mathfrak{s}}_{\varepsilon}(\cdot,\sigma)$ в (1.9) допускает представление (3.43) при $\varepsilon\to 0$ с остатком $\widetilde{S}_{\varepsilon}(\cdot,\sigma)$, подчиненным оценке
$$
\begin{equation}
\|\widetilde{S}_{\varepsilon}(\cdot,\sigma)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{-\beta'}(1+|\sigma|^{-1/2})(p^{7+\operatorname{Im}\lambda_{1}}+p^{-1})\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)},
\end{equation}
\tag{3.44}
$$
где $\beta'=\operatorname{Im}\lambda_{1}-\operatorname{Im}\lambda_{-1}-\delta$ и $\delta>0$ – достаточно малое число. Константа $c$ в (3.44) не зависит от $\sigma$. Перейдем к описанию асимптотики при $\varepsilon\to 0$ функций $\mathbf y_{\varepsilon}^{\mathfrak{s}}(\cdot,k)$, определенных в (1.17). Ввиду (1.17) для этого достаточно конкретизировать предложения 5 и 6 для случая $\sigma=|k|$ ($p=\sqrt{|k|^{2}+1}$), $u_{\varepsilon}^{\mathfrak{s}}(x,\sigma)=\mathbf u_{\varepsilon}^{\mathfrak{s}}(x,k)$ и $f(x,\sigma)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. Носитель $f(\cdot,\sigma)$ при любых $\sigma$ лежит в кольце $\{|x|\in(r_{1},r_{2})\}$, $0<r_{1}<r_{2}<\infty$, поэтому
$$
\begin{equation}
\| f(\cdot,\sigma)\|_{\mathcal{RH}_{\beta'}(\Lambda_{0},p)}\leqslant c(\beta')p^{1-\beta'}\| f(\cdot,\sigma)\|_{L_{2}(\{|x|\in(r_{1},r_{2})\})}=O(p^{2-\beta'})
\end{equation}
\tag{3.45}
$$
при всех $\beta'$. Теперь из (3.24) и предложений 5, 6 вытекает Предложение 7. 1. Для функций $\mathbf y_{\varepsilon}^{\mathfrak{s}}$ из (1.17) справедливо разложение
$$
\begin{equation*}
\begin{aligned} \, \mathbf y_{\varepsilon}^{\mathfrak{s}}(x,k) &=(1-\mathcal{I}(\varepsilon p)\chi^{\varepsilon})\bigl[\mathbf y_{0}^{\mathfrak{s}}(x,k)+\varepsilon^{i\widetilde{\lambda}}q_{1,0,1}(f(\cdot,k),w_{1}^{-\mathfrak{s}} (\cdot,|k|))_{\Lambda_{0}}w_{1}^{\mathfrak{s}}(\cdot,|k|)\bigr] \\ &\qquad-\varepsilon^{i\widetilde{\lambda}}q_{1,0,1}(f(\cdot,k),w_{1}^{-\mathfrak{s}}(\cdot,|k|))_{\Lambda_{0}}(1-\mathcal{I}(\varepsilon p)\chi^{\varepsilon})\chi(x)y_{-1}^{m_{0}(1,0)}(x,\sigma) \\ &\qquad+\mathcal{I}(\varepsilon p)u^{\mathfrak{s}}_{1,\varepsilon}(x,|k|)+u^{\mathfrak{s}}_{r,\varepsilon}(x,k) \end{aligned}
\end{equation*}
\notag
$$
с остатком $u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,k)$, подчиненным (равномерной по $k$) оценке
$$
\begin{equation*}
\int_{\Lambda_{\varepsilon}}\biggl(|\nabla_{x}(e^{-i\mathfrak{s}|k|\rho}u^{\mathfrak{s}}_{r,\varepsilon}(\cdot,k))|^{2} +\frac{|u^{\mathfrak{s}}_{r,\varepsilon}(x,k)|^{2}}{\rho^{2}}\biggr)\,dx\leqslant c\varepsilon^{2(\operatorname{Im}\widetilde{\lambda}+\delta)}(|k|^{2}+1)^{2\operatorname{Im}\lambda_{-1}+8}
\end{equation*}
\notag
$$
(число $\delta>0$ достаточно мало). Здесь $\mathcal{I}$ – характеристическая функция отрезка $[-c_{0},c_{0}]$, $\chi$ – гладкая срезка, равная единице вблизи вершины $\mathcal{O}$ и нулю вне окрестности $\mathcal{O}$, в которой $\Lambda_{0}$ совпадает с конусом $\mathbb{K}$ и $\chi^{\varepsilon}(x)=\chi(\varepsilon^{-1}x)$, и $f(x,k)=[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. Через $\widetilde{\lambda}$ обозначена разность $\lambda_{1}-\lambda_{-1}$; числа $\lambda_{\pm 1}$ и функция $y_{-1}^{m_{0}(1,0)}$ заданы в (2.5) и (2.8), число $m_{0}(1,0)$ введено после (3.14), а коэффициент $q_{1,0,1}$ – в (3.15). Функции $\mathbf y_{0}^{\mathfrak{s}}(\cdot,k)$ и $w_{j}^{\pm}(\cdot,\sigma)$ определены в (2.47) и после формулы (2.39) соответственно. Функция $u^{\mathfrak{s}}_{1,\varepsilon}(\cdot,|k|)$ задана формулой (3.31) (с $\sigma=|k|$ и $d_{j,k}(\sigma)=c_{j,k}\sigma^{2k}(f(\cdot,k),w_{j}^{-\mathfrak{s}}(\cdot,\sigma))_{\Lambda_{0}}$, числа $c_{j,k}$ – такие же, что и в (2.8)). 2. Для функции $\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)$ из разложения (1.18) справедлива асимптотика
$$
\begin{equation}
\mathcal{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)=\mathcal{S}^{\mathfrak{s}}_{0}(\cdot,k) +q_{1,0,1}(f(\cdot,k),w_{1}^{-\mathfrak{s}}(\cdot,|k|))_{\Lambda_{0}}\varepsilon^{i(\lambda_{1}-\lambda_{-1})}\mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)+\widetilde{S}^{\mathfrak{s}}_{\varepsilon}(\cdot,k)
\end{equation}
\tag{3.46}
$$
при $\varepsilon\to 0$ с остатком, подчиненным равномерной по $k\in\mathbb{R}^{3}$ оценке
$$
\begin{equation}
\|\widetilde{S}_{\varepsilon}^{\mathfrak{s}}(\cdot,k)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}(1+|k|^{-1/2})(|k|^{2}+1)^{4+\operatorname{Im}\lambda_{-1}}
\end{equation}
\tag{3.47}
$$
(число $\delta>0$ достаточно мало). Функции $\mathcal{S}^{\mathfrak{s}}_{0}(\cdot,k)$ и $\mathbf s_{1}^{\mathfrak{s}}(\cdot,\sigma)$ введены в (2.48) и (2.45) соответственно. Замечание 1. В условиях предложения 7 имеем
$$
\begin{equation}
(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}}=4\pi\overline{\mathbf s_{1}^{-}\biggl(\frac{k}{|k|},|k|\biggr)}.
\end{equation}
\tag{3.48}
$$
Доказательство. Так как
$$
\begin{equation*}
f=(\Delta_{x}+|k|^{2})(\chi_{\infty}e^{-ik\cdot x}),\qquad (\Delta_{x}+|k|^{2})w_{1}^{-}(x,|k|)=0,
\end{equation*}
\notag
$$
интегрирование по частям в $\Lambda_{0}^{R}:=\{x\in\Lambda_{0}^{R}\colon |x|<R\}$ дает
$$
\begin{equation*}
\overline{(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}^{R}}}=\int_{|x|=R}\biggl(\frac{\partial e^{ik\cdot x}}{\partial r}w_{1}^{-}(x,|k|)-e^{ik\cdot x}\frac{\partial w_{1}^{-}(x,|k|)}{\partial r}\biggr)\,dS.
\end{equation*}
\notag
$$
Подставим в правую часть асимптотику
$$
\begin{equation*}
w_{1}^{-}(x,|k|)=\frac{e^{-i|k|r}}{r}\biggl(\mathbf s_{1}^{-}(\theta,|k|)+\frac{\widetilde{\mathbf s}_{1}^{-}(\theta,|k|)}{r}+O(r^{-2})\biggr), \qquad r\to\infty, \quad \theta:=\frac{x}{|x|}
\end{equation*}
\notag
$$
(см. лемму 9), и получим
$$
\begin{equation}
\begin{aligned} \, \notag & \overline{(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}^{R}}}=i|k|R\int_{S_{1}}e^{i|k|R(\widehat{k}\cdot\theta-1)}\mathbf s_{1}^{-}(\theta,|k|)(\widehat{k}\cdot\theta+1)\,dS \\ &\qquad\qquad +i|k|\int_{S_{1}}e^{i|k|R(\widehat{k}\cdot\theta-1)}\bigl(\widetilde{\mathbf s}_{1}^{-}(\theta,|k|)(\widehat{k}\cdot\theta+1)+\mathbf s_{1}^{-}(\theta,|k|)\bigr)\,dS+O(R^{-1}) \end{aligned}
\end{equation}
\tag{3.49}
$$
(здесь $\widehat{k}=k/|k|$). Асимптотики интегралов с быстро осциллирующими экспонентами в правой части (3.49) отыскиваются методом стационарной фазы. Стационарные точки функции $\theta\to\widehat{k}\cdot\theta-1$ суть $\theta=\pm\widehat{k}$. В результате из (3.49) получаем равенство
$$
\begin{equation*}
\overline{(f(\cdot,k),w_{1}^{-}(\cdot,|k|))_{\Lambda_{0}^{R}}}=4\pi\mathbf s_{1}^{-}(\widehat{k},|k|)+o(1), \qquad R\to+\infty,
\end{equation*}
\notag
$$
из которого немедленно следует (3.48). 3.2. Асимптотика оператора рассеяния $\mathbb{S}_{\varepsilon}$ Подставим разложение (3.46) в (1.19) и воспользуемся (2.52) и (3.48). Получим
$$
\begin{equation}
\begin{aligned} \, \mathbf S_{\varepsilon}f(\kappa,\widehat{\kappa})=\mathbf S_{0}f(\kappa,\widehat{\kappa})+\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})}\mathbf S_{\star}f(\kappa,\widehat{\kappa})+\widetilde{\mathbf S}_{\varepsilon}f(\kappa,\widehat{\kappa}), \end{aligned}
\end{equation}
\tag{3.50}
$$
где
$$
\begin{equation}
\mathbf S_{\star}f(\kappa,\widehat{\kappa}):=-2i\kappa\overline{q_{1,0,1}}\mathbf s_{1}^{-}(\widehat{k},|k|)\int_{S_{1}}f(\kappa,\theta)\overline{\mathbf s_{1}^{+}(-\theta,|\kappa|)}\,dS_{\theta},
\end{equation}
\tag{3.51}
$$
$$
\begin{equation}
\widetilde{\mathbf S}_{\varepsilon}f(\kappa,\widehat{\kappa}):=\frac{\kappa}{2\pi i}\int_{S_{1}}f(\kappa,\theta)\overline{\widetilde{S}^{+}_{\varepsilon}(-\theta,\kappa\widehat{\kappa})}\,dS_{\theta}.
\end{equation}
\tag{3.52}
$$
Из оценки (3.47) следует, что
$$
\begin{equation*}
\|\widetilde{\mathbf S}_{\varepsilon}f(\kappa,\cdot)\|_{L_{2}(S_{1})}\leqslant c\varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}(|\kappa|^{1/2}+1)(|\kappa|^{2}+1)^{4+\operatorname{Im}\lambda_{-1}}\| f(\kappa,\cdot)\|_{L_{2}(S_{1})}.
\end{equation*}
\notag
$$
Аналогично, из (3.9), (3.45) и леммы 9 имеем
$$
\begin{equation*}
\|\mathbf S_{\star}f(\kappa,\cdot)\|_{L_{2}(S_{1})}\leqslant c(|\kappa|^{1/2}+1)(|\kappa|^{2}+1)^{1+\operatorname{Im}\lambda_{-1}}\| f(\kappa,\cdot)\|_{L_{2}(S_{1})}.
\end{equation*}
\notag
$$
Обозначим через $m_{\star}$ (через $m_{\sim}$) наименьшее целое число, большее либо равное числу $1.25+\operatorname{Im}\lambda_{-1}$ (числу $4.25+\operatorname{Im}\lambda_{-1}$). Ввиду последних двух оценок формулы (3.51) и (3.52) задают линейные операторы $\mathbf S_{\star}$ и $\widetilde{\mathbf S}_{\varepsilon}$ в пространстве $\mathfrak{N}$ (с нормой (1.14)) с областями определения $\operatorname{Dom}\mathbf S_{\star}\supset\operatorname{Dom}[(|\kappa|^{2}+1)^{m_{\star}}]$, $\operatorname{Dom}\widetilde{\mathbf S}_{\varepsilon}\supset\operatorname{Dom}[(|\kappa|^{2}+1)^{m_{\sim}}]$, причем
$$
\begin{equation}
\begin{aligned} \, \|\mathbf S_{\star}f\|_{\mathfrak{N}}\leqslant c\|[(|\kappa|^{2}+1)^{m_{\star}}]f\|_{\mathfrak{N}}, \ \|\widetilde{\mathbf S}_{\varepsilon}f\|_{\mathfrak{N}}\leqslant c \varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})+\delta}\|[(|\kappa|^{2}+1)^{m_{\sim}}]f\|_{\mathfrak{N}} \end{aligned}
\end{equation}
\tag{3.53}
$$
(напомним, что через $[e(\kappa,\widehat{\kappa})]$ обозначается оператор умножения на функцию $(\kappa,\widehat{\kappa})\to e(\kappa,\widehat{\kappa})$). Подставим разложение (3.50) в формулу (1.21) и воспользуемся равенством (2.52). В результате получаем разложение
$$
\begin{equation}
\mathbb{S}_{\varepsilon}\{\phi,\psi\}=\mathbb{S}_{0}\{\phi,\psi\}+\varepsilon^{\operatorname{Im}(\lambda_{-1}-\lambda_{1})}\mathbb{S}_{\star}\{\phi,\psi\}+\widetilde{\mathbb{S}}_{\varepsilon}\{\phi,\psi\},
\end{equation}
\tag{3.54}
$$
которое справедливо для любого элемента $\{\phi,\psi\}\in\mathcal{H}_{f}$ такого, что $\mathfrak{R}_{f}\{\phi,\psi\}\in \operatorname{Dom}[(|\kappa|^{2}+1)^{m_{\sim}}]$. Здесь $\mathbb{S}_{0}$ – оператор рассеяния для волнового уравнения в области $\Lambda_{0}$, определенный в (2.52), и $\mathbb{S}_{\star}:=\mathfrak{R}_{f}^{-1}\mathbf S_{\star}\mathfrak{R}_{f}$, $\widetilde{\mathbb{S}}_{\varepsilon}:=\mathfrak{R}_{f}^{-1}\widetilde{\mathbf S}_{\varepsilon}\mathfrak{R}_{f}$. Ввиду (1.16) имеем
$$
\begin{equation*}
(|\kappa|^{2}+1)^{m}[\mathfrak{R}_{f}\{\phi,\psi\}](\kappa,\widehat{\kappa}) =[\mathfrak{R}_{f}(I+G_{f}^{2})^{m}\{\phi,\psi\}](\kappa,\widehat{\kappa})
\end{equation*}
\notag
$$
(оператор $G_{f}$ введен перед формулой (1.13)). Отсюда, из унитарности преобразования $\mathfrak{R}_{f}\colon \mathcal{H}_{f}\to \mathfrak{N}$ и из (3.53) вытекает оценка остатка
$$
\begin{equation}
\|\widetilde{\mathbb{S}}_{\varepsilon}\{\phi,\psi\}\|_{\mathcal{H}_{f}}\leqslant c \varepsilon^{\operatorname{Im}\lambda_{-1}-\operatorname{Im}\lambda_{1}+\delta}\|(I+G_{f}^{2})^{m_{\sim}}\{\phi,\psi\}\|_{\mathcal{H}_{f}}
\end{equation}
\tag{3.55}
$$
(ввиду равенства $(I+G_{f}^{2})^{m_{\sim}}\{\phi,\psi\}=\{(I-\Delta_{x})^{m_{\sim}}\phi,(I-\Delta_{x})^{m_{\sim}}\psi\}$ норму в правой части (3.55) можно заменить на сумму $\|\phi\|_{H^{2m_{\sim}+1}(\mathbb{R}^{3})}$ и $\|\psi\|_{H^{2m_{\sim}}(\mathbb{R}^{3})}$). Сформулируем основной результат. Теорема 1. Пусть $\mu$ – первое собственное число (положительного) оператора Лапласа–Бельтрами в области $\Theta$ с условиями Дирихле на $\partial\Theta$ и $\Phi$ – отвечающая ему собственная функция, $\sqrt{1+4\mu}\|\Phi\|^{2}_{L_{2}(\Theta)}=1$. Пусть также $q=\sqrt{1+4\mu}$ и $m_{\sim}$ – наименьшее целое число, большее либо равное $(9.5+\sqrt{1+4\mu})/2$; обозначим $\mathcal{H}_{\sim}:=H^{2m_{\sim}+1}(\mathbb{R}^{3})\times H^{2m_{\sim}}(\mathbb{R}^{3})$. Обозначим через $\mathbb{S}_{\varepsilon,\sim}$ и $\mathbb{S}_{0,\sim}$ сужения на $\mathcal{H}_{\sim}$ операторов рассеяния для задач (1.2) и (2.50) соответственно. Тогда для $\mathbb{S}_{\varepsilon,\sim}$ имеет место представление
$$
\begin{equation}
\mathbb{S}_{\varepsilon,\sim}=\mathbb{S}_{0,\sim}+\varepsilon^{q}\mathbb{S}_{\star}+\widetilde{\mathbb{S}}_{\varepsilon}, \qquad \varepsilon\to 0,
\end{equation}
\tag{3.56}
$$
где остаток $\widetilde{\mathbb{S}}_{\varepsilon}$ есть непрерывный оператор из $\mathcal{H}_{\sim}$ в $\mathcal{H}_{f}$ (пространство $\mathcal{H}_{f}$ введено перед (1.13)) и его операторная норма убывает как $o(\varepsilon^{q})$ при $\varepsilon\to 0$. Непрерывный оператор $\mathbb{S}_{\star}\colon \mathcal{H}_{\sim}\to\mathcal{H}_{f}$ в (3.56) задан формулой
$$
\begin{equation*}
[\mathfrak{R}_{f}\mathbb{S}_{\star}\mathfrak{R}_{f}^{-1}h](\kappa,\widehat{\kappa})=-2i\kappa\overline{a}\mathbf s_{1}^{-}(\widehat{k},|\kappa|)\int_{S_{1}}h(\kappa,\theta)\overline{\mathbf s_{1}^{+}(-\theta,|\kappa|)}\,dS_{\theta},
\end{equation*}
\notag
$$
где $\mathfrak{R}_{f}$ – унитарное преобразование (1.15). Функции $\mathbf s_{1}^{\pm}(\cdot,|\kappa|)$ суть коэффициенты в асимптотиках
$$
\begin{equation*}
W^{\pm}(x,\kappa)=\frac{e^{\pm i|\kappa x|}}{|x|}\mathbf s_{1}^{\pm}\biggl(\frac{x}{|x|},|\kappa|\biggr)(1+o(1)), \qquad |x|\to +\infty,
\end{equation*}
\notag
$$
решений $W^{\pm}(\cdot,\kappa)\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$ однородных задач
$$
\begin{equation*}
\begin{gathered} \, -(\Delta_{x}+\kappa^{2})W^{\pm}(x,\kappa)=0, \quad x\in\Lambda_{0}, \qquad W^{\pm}(x,\kappa)=0, \quad x\in\partial\Lambda_{0}\setminus\mathcal{O}, \\ \partial_{|x|}W^{\pm}(x,\kappa)\mp i|\kappa|W^{\pm}(x,\kappa)=o(|x|^{-1}), \quad |x|\to\infty, \end{gathered}
\end{equation*}
\notag
$$
однозначно определенных своими (растущими) асимптотиками $W^{\pm}(x,\kappa)\sim |x|^{-(q+1)/2}\Phi(x/|x|)$ вблизи вершины $\mathcal{O}$. Число $a$ определяется как коэффициент в асимптотике
$$
\begin{equation*}
\eta(\xi)=a|\xi|^{-(q+1)}\Phi\biggl(\frac{\xi}{|\xi|}\biggr)+o(|\xi|^{-(q+1)}), \qquad |\xi|\to\infty,
\end{equation*}
\notag
$$
решения $\eta\in C^{\infty}(\overline{\Upsilon})$ задачи
$$
\begin{equation*}
\triangle_{\xi}\eta(\xi)=0, \quad \eta(\xi)=O(|\xi|^{-(q+1)}), \quad \xi\in \Upsilon, \qquad \eta(\xi)=|\xi|^{i\lambda_{j}+2k}\Phi_{j}(\theta), \quad \xi\in\partial\Upsilon.
\end{equation*}
\notag
$$
§ 4. Доказательство леммы 10 Достаточно доказать формулу
$$
\begin{equation}
\lim_{\epsilon\to +0}\frac{\epsilon}{\pi}\int_{a}^{b}\| A(\tau)^{-1}\phi\|_{L_{2}(\Lambda_{0})}^{2}\,d\mu=\int_{|k|^{2}\in(a,b)}|[\mathcal{F}_{\mathfrak{s},0,x\to k}\phi](k)|^{2}\, dk
\end{equation}
\tag{4.1}
$$
(где $\tau=\tau(\mu,\epsilon):=\sqrt{\mu+i\mathfrak{s}\epsilon}$), которая ввиду отсутствия точечного спектра у оператора $\mathcal{A}_{0}$ и в силу равенства
$$
\begin{equation*}
\begin{aligned} \, & \frac{1}{2}\bigl(\|(E^{\mathcal{A}_{0}}_{b+0}+E^{\mathcal{A}_{0}}_{b})\phi\|^{2}_{L_{2}(\Lambda_{0})} -\|(E^{\mathcal{A}_{0}}_{a+0}+E^{\mathcal{A}_{0}}_{a})\phi\|^{2}_{L_{2}(\Lambda_{0})}\bigr) \\ &\qquad =\lim_{\epsilon\to+0}\frac{\epsilon}{\pi}\int_{a}^{b}\|(\mathcal{A}_{0}-(\mu-i\mathfrak{s}\epsilon)I)^{-1} \phi\|^{2}_{L_{2}(\Lambda_{0})}\,d\mu \end{aligned}
\end{equation*}
\notag
$$
(см., например, [11; теорема 6.3.1]) эквивалентна (2.49). Сперва покажем, что
$$
\begin{equation}
[A(\tau)^{-1}\psi](x)=(2\pi)^{-3/2}\int_{\mathbb{R}^{3}}\frac{[\mathcal{F}_{x\to\tau}\psi](k)\mathcal{Y}(x,k,\tau)}{|k|^{2}-\tau^{2}}\,dk, \qquad \psi\in C_{c}^{\infty}(\mathbb{R}^{3},
\end{equation}
\tag{4.2}
$$
для всех таких $\psi\in C_{c}^{\infty}(\mathbb{R}^{3})$, что $\operatorname{supp}\psi\subset\Lambda_{0}$. Здесь $\mathcal{F}_{x\to\tau}$ – комплексное преобразование Фурье, а $\mathcal{Y}(\cdot,k,\tau)$ – решения задачи
$$
\begin{equation}
-(\Delta_{x}+\tau^{2})\mathcal{Y}(x,k,\tau)=(|k|^{2}-\tau^{2})e^{-ik\cdot x}, \quad x\in\Lambda_{0}, \qquad \mathcal{Y}(x,k,\tau)=0, \quad x\in\partial\Lambda_{0}\setminus\mathcal{O},
\end{equation}
\tag{4.3}
$$
в форме $\mathcal{Y}(x,k,\tau)=\chi_{\infty}(x)e^{-ik\cdot x}+\widetilde{\mathcal{Y}}(x,k,\tau)$ (здесь $\widetilde{\mathcal{Y}}(\cdot,k,\tau)\in H^{1}(\Lambda_{0})$, срезка $\chi_{\infty}$ введена перед (2.47)). Более точно, $\widetilde{\mathcal{Y}}(\cdot,k,\tau)=A(\tau)^{-1}h(\cdot,k,\tau)$, где $h(x,k,\tau):=(|k|^{2}-\tau^{2})(1-\chi_{\infty})e^{-ik\cdot x}+[\Delta_{x},\chi_{\infty}]e^{-ik\cdot x}$. В силу леммы 3 функция $\mathcal{Y}(\cdot,k,\tau)$ не зависит от выбора срезки $\chi_{\infty}$. Из [8; теорема 5.3] вытекают оценки
$$
\begin{equation}
\|\widetilde{\mathcal{Y}}(\cdot,k,\tau)\|_{\mathfrak{D}_{l}(\tau)}+|k-k'|^{-1}\|\widetilde{\mathcal{Y}}(\cdot,k,\tau) -\widetilde{\mathcal{Y}}(x,k',\tau)\|_{\mathfrak{D}_{l}(\tau)}\leqslant c(l,\tau)(1+|k|+|k'|)^{M(l)},
\end{equation}
\tag{4.4}
$$
где $l=0,1,\dots$ и $M(l)>0$ – некоторые достаточно большие числа; норма $\|\cdot\|_{\mathfrak{D}_{l}(\tau)}$ задана равенством
$$
\begin{equation*}
\| v\|_{\mathfrak{D}_{l}(\tau)}^{2}=\|\chi_{\tau}v\|^{2}_{H^{l+2}_{l+1}(\Lambda_{0};|\tau|)}+\| v\|^{2}_{H^{l+1}_{l+1}(\Lambda_{0};|\tau|)}.
\end{equation*}
\notag
$$
Пусть $\Xi$ – ограниченная область в $\mathbb{R}^{3}\times\mathbb{C}_{\mathfrak{s}}$ и $\Lambda_{0,R}:=\{x\in\Lambda_{0}, \ |x|<R\}$, где $R>0$. Пусть $\{(k_{j,s},\tau_{j,s})\}_{j=1}^{\infty}\subset\Xi$ ($s=1,2$), $\lim_{j\to\infty}(k_{j,s},\tau_{j,s})=(k,\tau)\in\overline{\Xi}$ – такие последовательности, что $\liminf_{j\to\infty}\|\mathcal{V}_{j}\|_{L_{2}(\Lambda_{0,R})}\geqslant c_{0}>0$, где $\mathcal{V}_{j}:=\widetilde{\mathcal{Y}}(\cdot,k_{j,1},\tau_{j,1})-\widetilde{\mathcal{Y}}(\cdot,k_{j,2},\tau_{j,2})$. Ввиду (2.32) и леммы 8 последовательность $\{\mathcal{V}_{j}\}_{j=1}^{\infty}$ ограничена в $\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\operatorname{Im}\tau|)$ и содержит подпоследовательность, слабо сходящуюся в $\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\operatorname{Im}\tau|)$ к некоторому элементу $\mathcal{V}$. Для простоты будем считать, что такая подпоследовательность совпадает с $\{\mathcal{V}_{j}\}_{j=1}^{\infty}$. Непрерывность вложения $\mathcal{DH}_{1}^{\mathfrak{s}}(\Lambda_{0};\sigma;|\operatorname{Im}\tau|)\subset H^{1}_{0}(\Lambda_{0,R})$ вытекает из определения норм, а компактность вложения $H^{1}_{0}(\Lambda_{0,R})\subset L_{2}(\Lambda_{0,R})$ – из [6; предложение 4.1.1]; отсюда $\mathcal{V}_{j}\to\mathcal{V}$ в $L_{2}(\Lambda_{0,R})$. Повторением рассуждений п. 2.3 проверяется, что $\mathcal{V}$ есть слабое (или $\mathfrak{s}$-слабое) решение однородной задачи (2.1), и потому $\mathcal{V}=0$. Полученное противоречие доказывает, что функция $(k,\tau)\to\widetilde{\mathcal{Y}}(\cdot,k,\tau)$ (со значениями в $L_{2}(\Lambda_{0,R})$) непрерывна на $\Xi$ вплоть до $\partial\Xi$; то же самое верно для функции $(k,\tau)\to-\Delta_{x}\widetilde{\mathcal{Y}}(\cdot,k,\tau):=h(\cdot,k,\tau)+\tau^{2}\widetilde{\mathcal{Y}}(\cdot,k,\tau)$. Теперь, последовательно применяя оценку
$$
\begin{equation*}
\| u\|_{H^{l+2}_{l+1}(\Lambda_{0,R})}\leqslant c(l,R)\bigl(\| \Delta u\|_{H^{l}_{l}(\Lambda_{0,R})}+\| u\|_{L_{2}(\Lambda_{0,R+1})}\bigr)
\end{equation*}
\notag
$$
(см. [6]) при $l=0,1,\dots$, устанавливаем, что функция $(k,\tau)\to\widetilde{\mathcal{Y}}(\cdot,k,\tau)$ непрерывна на $\Xi$ вплоть до $\partial\Xi$ по нормам в $H^{l+2}_{l+1}(\Lambda_{0,R})$. В частности, $\widetilde{\mathcal{Y}}(\cdot,k,\tau)\to\mathbf u_{0}^{\mathfrak{s}}(\cdot,k)$ при $\tau\to |k|+\mathfrak{s}i0$ (сходимость в $L_{2}(\Lambda_{0,R})$ и в $H^{l+2}_{l+1}(\Lambda_{0,R})$, функция $\mathbf u_{0}^{\mathfrak{s}}(\cdot,k)$ такая же, как в (2.47)). Правая часть (4.2) равна
$$
\begin{equation}
W(x,\psi,\tau)=\frac{\chi_{\infty}(x)\psi(x)}{|k|^{2}-\tau^{2}}+(2\pi)^{-3/2}\int_{\mathbb{R}^{3}}\frac{[\mathcal{F}_{x\to\tau}\psi](k) \widetilde{\mathcal{Y}}(x,k,\tau)}{|k|^{2}-\tau^{2}}\,dk.
\end{equation}
\tag{4.5}
$$
Поскольку $[\mathcal{F}_{x\to\tau}\psi]$ принадлежит классу Шварца $\mathcal{S}(\mathbb{R}^{3})$, из (4.4) следует, что $W(\cdot,\psi,\tau)\in C^{\infty}(\overline{\Lambda_{0}}\setminus\mathcal{O})$, $W=0$ на $\partial\Lambda_{0}\setminus\mathcal{O}$ и $\| W(\cdot,\psi,\tau)\|_{\mathfrak{D}_{l}(\tau)}<\infty$, $l=0,1,\dots$ . Дифференцируя (4.5) с учетом (4.3), выводим $-(\Delta_{x}+\tau^{2})W(x,\psi,\tau)=\psi(x)$. Теперь из известных результатов об асимптотике решений эллиптических задач вблизи конических точек (см. [6]) имеем
$$
\begin{equation*}
\widetilde{W}(x,\psi,\tau):=W(x,\psi,\tau)-\sum_{j>0, \ i\lambda_{j}<2}c_{j}r^{i\lambda_{j}}\chi(x)\Phi_{j}(\theta)=o(r^{2}), \qquad x\to\mathcal{O},
\end{equation*}
\notag
$$
где $c_{j}\in\mathbb{C}$ и срезка $\chi$ – такая же, как в (2.11). Обозначим
$$
\begin{equation*}
x\to W_{s}(x,\psi,\tau)=\sum_{j>0, \ i\lambda_{j}<2}c_{j}r^{i\lambda_{j}}\chi(x)\Phi_{j}(\theta)+(1-\chi(\varepsilon^{-1}x))\chi(\varepsilon x)\widetilde{W}(x,\psi,\tau),
\end{equation*}
\notag
$$
тогда $W_{s}(\cdot,\psi,\tau)\in\mathcal{D}$. В силу уже доказанного $W_{s}(\cdot,\psi,\tau)\to W(\cdot,\psi,\tau)$ и $A(\tau)W_{s}(\cdot,\psi,\tau)\to -(\Delta_{x}+\tau^{2})W(\cdot,\psi,\tau)$ в $L_{2}(\Lambda_{0})$. Отсюда $W(\cdot,\psi,\tau)\in\operatorname{Dom}A(\tau)$ и $A(\tau)W(\cdot,\psi,\tau)=\psi$, т.е. справедлива формула (4.2). Далее,
$$
\begin{equation*}
\begin{aligned} \, &(\mathcal{F}_{x\to k}\psi,\mathcal{F}_{x\to k}A(\overline{\tau})^{-1}\phi)_{\Lambda_{0}}=(\psi,A(\overline{\tau})^{-1}\phi)_{\Lambda_{0}}=(W(\cdot,\psi,\tau),\phi)_{\Lambda_{0}} \\ &\qquad=\int_{\Lambda_{0}}\int_{\mathbb{R}^{3}}\overline{\phi(x)} \frac{[\mathcal{F}_{x\to\tau}\psi](k)\mathcal{Y}(x,k,\tau)}{(2\pi)^{3/2}(|k|^{2}-\tau^{2})}\,dk\,dx \end{aligned}
\end{equation*}
\notag
$$
для всех $\phi\in C_{c}^{\infty}(\Lambda_{0})$ (функция $A(\overline{\tau})^{-1}\phi$ продолжена нулем на $\mathbb{R}^{3}\setminus\Lambda_{0}$). Ввиду включения $\mathcal{F}_{x\to\tau}\psi\in \mathcal{S}(\mathbb{R}^{3})$ и оценки (4.4) подынтегральное выражение справа абсолютно интегрируемо на $\operatorname{supp}\phi\times\mathbb{R}^{3}$. Поэтому
$$
\begin{equation*}
(\mathcal{F}_{x\to k}\psi,\mathcal{F}_{x\to k}A(\overline{\tau})^{-1}\phi)_{\Lambda_{0}}=\int_{\mathbb{R}^{3}}\frac{[\mathcal{F}_{x\to\tau}\psi](k) \overline{F(k,\tau,\phi)}}{|k|^{2}-\tau^{2}}\,dk,
\end{equation*}
\notag
$$
где
$$
\begin{equation*}
F(k,\tau,\phi):=(2\pi)^{-3/2}\int_{\Lambda_{0}}\phi(x)\overline{\mathcal{Y}(x,k,\tau)}\,dx.
\end{equation*}
\notag
$$
Поскольку функция $\psi$ произвольна, $[\mathcal{F}_{x\to k}A(\overline{\tau})^{-1}\phi](k)=(|k|^{2}-\overline{\tau}^{2})^{-1}F(k,\tau,\phi)$ в $L_{2}(\mathbb{R}^{3})$. В частности,
$$
\begin{equation*}
\| A(\sqrt{\mu+i\mathfrak{s}\epsilon})^{-1}\phi\|_{L_{2}(\Lambda_{0})}^{2}=\int_{\mathbb{R}^{3}} \frac{|F(k,\sqrt{\mu+i\mathfrak{s}\epsilon},\phi)|^{2}}{(|k|^{2}-\mu)^{2}+\epsilon^{2}}\,dk.
\end{equation*}
\notag
$$
Из уже доказанного вытекает, что функция $(k,\tau)\to F(k,\tau,\phi)$ равномерно непрерывна на множестве $\Xi_{1}\times\Xi_{2}$, где $\Xi_{1}$ ($\Xi_{2}$) – произвольный компакт в $\mathbb{R}^{3}\setminus\{0\}$ (в $\overline{\mathbb{C}_{\mathfrak{s}}}$), причем $F(k,|k|\pm i0,\phi)=[\mathcal{F}_{\pm,0,x\to k}\phi](k)$. Отсюда, из теоремы Фубини и из теоремы Лебега о мажорируемой сходимости получаем
$$
\begin{equation*}
\begin{aligned} \, &\lim_{\epsilon\to +0}\frac{\epsilon}{\pi}\int_{a}^{b}\int_{|k|^{2}\in(a',b')} \frac{|F(k,\sqrt{\mu+i\mathfrak{s}\epsilon},\phi)|^{2}}{(|k|^{2}-\mu)^{2}+\epsilon^{2}}\,dk\,d\mu \\ &\qquad=\int_{|k|^{2}\in(a,b)}|F(k,\sqrt{\mu+i\mathfrak{s}0},\phi)|^{2} \,dk, \end{aligned}
\end{equation*}
\notag
$$
где $0<a'<a<b<b'<+\infty$. Для завершения доказательства (4.1) достаточно проверить, что
$$
\begin{equation}
\int_{\mathbb{R}^{3}}(1+|k|^{2})^{-2}|F(k,\tau,\phi)|^{2}\,dk\leqslant c(\phi,\mathfrak{K})<\infty
\end{equation}
\tag{4.6}
$$
для всех $\tau$ из компактного множества $\mathfrak{K}$ в $\mathbb{C}_{\mathfrak{s}}$. Поскольку функция $\mathcal{Y}(\cdot,k,\tau)$ не зависит от выбора срезки $\chi_{\infty}$, можно считать, что $\chi_{\infty}=0$ на $\operatorname{supp}\phi$. Тогда
$$
\begin{equation}
F(k,\tau,\phi)\,{=}\, (2\pi)^{-3/2}\int_{\Lambda_{0}}\phi(x)\overline{\widetilde{\mathcal{Y}}(x,k,\tau)}\,dx \,{=}\,(2\pi)^{-3/2}\int_{\Lambda_{0}}[A(\overline{\tau})^{-1}\phi](x)\overline{h(x,k,\tau)}\,dx.
\end{equation}
\tag{4.7}
$$
Как и выше, проверяется, что функция $\tau\to A(\overline{\tau})^{-1}\phi$ со значениями в $H^{l+2}_{l+1}(\Lambda_{R})$ непрерывна на любом компакте $\Xi\subset\overline{\mathbb{C}_{\mathfrak{s}}}$ ($\mathfrak{s}=\pm$), причем $[A(\overline{\tau})^{-1}\phi](x)=O(r^{i\lambda_{1}})$, $\nabla_{x}[A(\overline{\tau})^{-1}\phi](x)=O(r^{i\lambda_{1}-1})$ при $x\to\mathcal{O}$. Из теоремы вложения имеем
$$
\begin{equation*}
\max_{y\in\overline{\mathbb{K}}, |y|\in (1,2)}\bigl(|y|^{|\alpha|+1/2}|\partial^{\alpha}_{y}u(y)|\bigr)\leqslant c \| u\|_{H^{l+2}_{l+1}(\{y\in\mathbb{K}, |y|\leqslant 3\})}, \qquad |\alpha|\leqslant l+\frac12.
\end{equation*}
\notag
$$
Выбирая $u(y):=[A(\overline{\tau})^{-1}\phi](y/\epsilon)$, $\epsilon\to 0$, проверяем, что функция $(\tau,x)\to |x|^{3/2}\partial_{\nu}[A(\overline{\tau})^{-1}\phi](x)$ равномерно ограничена по $x\in \partial\Lambda_{0}$ и $\tau\in\Xi$. Теперь, интегрируя по частям в (4.7) с учетом равенства $\overline{h(x,k,\tau)}=\widetilde{h}(x,k,\tau)(\Delta_{x}-1)e^{ikx}$, где $\widetilde{h}(\cdot,k,\tau):=-(1+|k|^{2})^{-1}\bigl((|k|^{2}-\overline{\tau}^{2})(1-\chi_{\infty})+ \Delta\chi_{\infty}+2ik\cdot\nabla\chi_{\infty}\bigr)$, получаем
$$
\begin{equation*}
\begin{aligned} \, (2\pi)^{3/2}F(k,\tau,\phi) &=\int_{\Lambda_{0}}e^{ikx}(\Delta_{x}-1)[A(\overline{\tau})^{-1}\phi](x)\widetilde{h}(x,k,\tau) \,dx \\ &\qquad +\frac{|k|^{2}-\overline{\tau}^{2}}{(1+|k|^{2})}\int_{\partial\Lambda_{0}}e^{ikx}\partial_{\nu}[A(\overline{\tau})^{-1}\phi](x)\,dS. \end{aligned}
\end{equation*}
\notag
$$
Последнее означает, что функция $(k,\tau)\to F(k,\tau,\phi)$ равномерно ограничена по $k\in\mathbb{R}^{3}$ и $\tau\in\Xi$. Отсюда немедленно следует (4.6).
|
|
|
Список литературы
|
|
|
1. |
N. A. Shenk II, “Eigenfunction expansions and scattering theory for the wave equation in an exterior region”, Arch. Rational Mech. Anal., 21:2 (1966), 120–150 |
2. |
V. Maz'ya, S. Nazarov, B. Plamenevskij, Asymptotic theory of elliptic boundary value problems in singularly perturbed domains, v. 1, Oper. Theory Adv. Appl., 111, Birkhäuser Verlag, Basel, 2000, xxiv+435 pp. |
3. |
М. С. Агранович, М. И. Вишик, “Эллиптические задачи с параметром и параболические задачи общего вида”, УМН, 19:3(117) (1964), 53–161 ; англ. пер.: M. S. Agranovich, M. I. Vishik, “Elliptic problems with a parameter and parabolic problems of general type”, Russian Math. Surveys, 19:3 (1964), 53–157 |
4. |
Б. А. Пламеневский, “О задаче Дирихле для волнового уравнения в цилиндре с ребрами”, Алгебра и анализ, 10:2 (1998), 197–228 ; англ. пер.: B. A. Plamenevskii, “On the Dirichlet problem for the wave equation in a cylinder with edges”, St. Petersburg Math. J., 10:2 (1999), 373–397 |
5. |
А. В. Филиновский, “Стабилизация решений волнового уравнения в неограниченных областях”, Матем. сб., 187:6 (1996), 131–160 ; англ. пер.: A. V. Filinovskii, “Stabilization of the solutions of the wave equation in unbounded domains”, Sb. Math., 187:6 (1996), 917–947 |
6. |
С. А. Назаров, Б. А. Пламеневский, Эллиптические задачи в областях с кусочно гладкой границей, Наука, М., 1991, 336 с.; англ. пер.: S. Nazarov, B. A. Plamenevsky, Elliptic problems in domains with piecewise smooth boundaries, De Gruyter Exp. Math., 13, Walter de Gruyter & Co., Berlin, 1994, viii+525 с. |
7. |
А. Ю. Кокотов, П. Нейттаанмяки, Б. А. Пламеневский, “Задачи дифракции на конусе: асимптотика решений вблизи вершины”, Краевые задачи математической физики и смежные вопросы теории функций. 30, Зап. науч. сем. ПОМИ, 259, ПОМИ, СПб., 1999, 122–144 ; англ. пер.: A. Yu. Kokotov, P. Neittaanmäki, B. A. Plamenevskii, “Difraction on a cone: the asymptotics of solutions near the vertex”, J. Math. Sci. (N.Y.), 109:5 (2002), 1894–1910 |
8. |
А. Ю. Кокотов, Б. А. Пламеневский, “О задаче Коши–Дирихле для гиперболических систем в клине”, Алгебра и анализ, 11:3 (1999), 140–195 ; англ. пер.: A. Yu. Kokotov, B. A. Plamenevskii, “On the Cauchy–Dirichlet problem for hyperbolic systems in a wedge”, St. Petersburg Math. J., 11:3 (2000), 497–534 |
9. |
T. Kato, “Growth properties of solutions of the reduced wave equation with a variable coefficient”, Comm. Pure Appl. Math., 12:3 (1959), 403–425 |
10. |
N. Aronszajn, “A unique continuation theorem for solutions of elliptic partial differential equations or inequalities of second order”, J. Math. Pures Appl. (9), 36 (1957), 235–249 |
11. |
М. Ш. Бирман, М. З. Соломяк, Спектральная теория самосопряженных операторов в гильбертовом пространстве, 2-е изд., испр. и доп., Лань, СПб.–М.–Краснодар, 2010, 464 с.; англ. пер. 1-го изд.: M. Sh. Birman, M. Z. Solomjak, Spectral theory of self-adjoint operators in Hilbert space, Math. Appl. (Soviet Ser.), 5, D. Reidel Publ. Co., Dordrecht, 1987, xv+301 с. |
Образец цитирования:
Д. В. Кориков, “Асимптотика оператора рассеяния для волнового уравнения в сингулярно возмущенной области”, Матем. сб., 212:10 (2021), 96–130; D. V. Korikov, “Asymptotics of the scattering operator for the wave equation in a singularly perturbed domain”, Sb. Math., 212:10 (2021), 1436–1470
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/sm9462https://doi.org/10.4213/sm9462 https://www.mathnet.ru/rus/sm/v212/i10/p96
|
Статистика просмотров: |
Страница аннотации: | 244 | PDF русской версии: | 49 | PDF английской версии: | 38 | HTML русской версии: | 86 | Список литературы: | 48 | Первая страница: | 7 |
|