| Успехи математических наук |
|
|
|
|
|
Эта публикация цитируется в 17 научных статьях (всего в 17 статьях) Лемма о нормальной производной и вокруг неё Д. Е. Апушкинскаяab, А. И. Назаровcb a Российский университет дружбы народов b Санкт-Петербургский государственный университет c Санкт-Петербургское отделение Математического института им. В. А. Стеклова Российской академии наук
Англоязычная версия:
Russian Mathematical Surveys, 2022, Volume 77, Issue 2, Pages DOI: https://doi.org/10.1070/RM10049 
Реферативные базы данных:
     1. ВведениеКачественная теория уравнений в частных производных интенсивно развивается на протяжении последнего столетия. Одним из важнейших инструментов исследования решений эллиптических и параболических уравнений являются лемма о нормальной производной (известная также как лемма Хопфа–Олейник или принцип граничной точки) и сильный принцип максимума. Они играют ключевую роль в доказательствах теорем единственности для краевых задач, используются также при изучении свойств симметрии решений и поведения решений в неограниченных областях (теоремы типа Фрагмена–Линделёфа) и в других приложениях. Первые результаты в этой области прослеживаются вплоть до работ К. Ф. Гаусса, который в знаменитой статье 1840 г. [1; § 21] доказал сильный принцип максимума для гармонических функций. В современных обозначениях утверждение Гаусса выглядит так: Пусть $u$ – непостоянная гармоническая функция в области $\Omega \subset \mathbb{R}^3$, т. е. $\Delta u=0$ в $\Omega$. Тогда функция $u$ не может достигать во внутренних точках $\Omega$ ни максимального, ни минимального значения. В дальнейшем под сильным принципом максимума для линейного эллиптического оператора ${\mathbb L}$ второго порядка мы будем понимать следующее утверждение. Сильный принцип максимума. Пусть $u$ – суперэллиптическая функция в области $\Omega \subset \mathbb{R}^n$, т. е.1 ${\mathbb L} u \geqslant 0$ в $\Omega$. Если $u$ достигает наименьшего значения во внутренней точке области, то $u \equiv \operatorname{const}$ и ${\mathbb L} u \equiv 0$. Напомним также формулировку слабого принципа максимума. Слабый принцип максимума. Пусть $u$ – суперэллиптическая функция в ограниченной области $\Omega \subset \mathbb{R}^n$. Если $u$ неотрицательна на границе области, то $u$ неотрицательна в $\Omega$. Граничной формой сильного принципа максимума является лемма о нормальной производной, впервые сформулированная С. Зарембой в 1910 г. [2] для гармонических функций в (трехмерной ограниченной) области, удовлетворяющей условию внутреннего шара2. Лемма о нормальной производной. Пусть $u$ – непостоянная суперэллиптическая функция в области $\Omega \subset \mathbb{R}^n$. Если $u$ достигает наименьшего значения в граничной точке $x^0\in \partial\Omega$, то справедливо неравенство где $\mathbf{n}$ – вектор внутренней нормали к границе области в точке $x^0$. В частности, если функция $u$ имеет в точке $x^0$ производную по направлению $\mathbf{n}$, то $\partial_{\mathbf{n}}u(x^0)>0$. Важно отметить, что если сильный принцип максимума – свойство оператора ${\mathbb L}$, то выполнение леммы о нормальной производной зависит также от поведения $\partial\Omega$ в окрестности $x^0$. К основным предметам обзора вплотную примыкает неравенство Гарнака, которое можно считать количественной версией сильного принципа максимума. Впервые оно было доказано К. Г. А. фон Гарнаком3 в 1887 г. [3; § 19] для гармонических функций на плоскости. Классическая формулировка этого неравенства такова. Неравенство Гарнака. Пусть ${\mathbb L}$ – эллиптический оператор в области $\Omega$. Если $u$ – неотрицательное решение уравнения ${\mathbb L}u=0$ в $\Omega$, то в любой ограниченной подобласти $\Omega'$ такой, что $\overline{\Omega}{}'\subset\Omega$, справедливо неравенство где $C$ – константа, не зависящая от $u$. Замечание 1.1. Из соображений компактности ясно, что достаточно доказать (1.2) для случая, когда $\Omega$ и $\Omega'$ – концентрические шары. При этом для приложений важно, чтобы константа $C$ не зависела от радиусов шаров (а только от их отношения) или в крайнем случае оставалась ограниченной при стремлении радиусов к нулю при фиксированном их отношении. Также количественной версией сильного принципа максимума можно считать некоторые априорные оценки решений, в частности принцип максимума Александрова–Бакельмана. А априорная оценка градиента решения на границе области, как стало ясно сравнительно недавно, является утверждением, двойственным к лемме о нормальной производной. Затронутая тема практически необозрима, поэтому в настоящей работе мы сосредоточились на эллиптическом случае4. Основная часть статьи состоит из трех разделов. В разделе 2 обсуждаются свойства классических и сильных (суб/супер)решений уравнений недивергентного вида, в разделе 3 – свойства слабых (суб/супер)решений уравнений дивергентного вида. Наконец, раздел 4 – “винегрет” из различных обобщений и приложений. Здесь мы не претендуем на полноту изложения, а выбор тем отражает личные интересы авторов. Различные аспекты обсуждаемой темы отражены в монографиях и обзорах [5]–[14]. В своей работе мы использовали информацию из этих источников, а также из наших статей [15], [16], но постарались по возможности глубже осветить историю упомянутых вопросов. Мы глубоко признательны Нине Николаевне Уральцевой, нашему Учителю, которая ввела нас в эту тематику. Мы благодарны А. И. Ибрагимову, М. Квашницкому, В. Г. Мазья, Р. Мусине, М. В. Сафонову, М. Д. Сурначеву, Н. Д. Филонову, Т. Н. Шилкину за консультации и обсуждения. Отдельно хотим поблагодарить Г. В. Розенблюма и Н. С. Устинова за помощь в подборе материала. Основные обозначения. $\bullet$ $x=(x_1,\dots,x_{n-1},x_n)=(x',x_n)$ – точки в $\mathbb{R}^n$, $n\geqslant2$. $\bullet$ $|x|$, $|x'|$ – евклидовы нормы в соответствующих пространствах. $\bullet$ $\mathbb{R}_+=[0,+\infty)$ – замкнутая полуось. $\bullet$ $\Omega$ – область (связное открытое множество) в $\mathbb{R}^n$ с границей $\partial\Omega$; если не оговорено противное (как в п. 4.2), то $\Omega$ считается ограниченной; $\overline{\Omega}$ обозначает замыкание $\Omega$, $|\Omega|$ – лебегову меру $\Omega$, а $\operatorname{diam}(\Omega)$ – диаметр $\Omega$. $\bullet$ ${\rm d}(x)=\operatorname{dist}(x,\partial\Omega)$ – расстояние от точки $x$ до $\partial\Omega$. $\bullet$ $B_r^n(x^0)=\{x\in\mathbb{R}^n\colon |x-x^0|<r\}$ – открытый шар в $\mathbb{R}^n$ с центром $x^0$ и радиусом $r$; $B_r^n=B_r^n(0)$; если размерность ясна из контекста, пишем просто $B_r(x^0)$ и $B_r$. $\bullet$ $Q_{r,h}=B_r^{n-1}\times(0,h)$. Индексы $i$ и $j$ принимают значения от $1$ до $n$. Символ $D_i$ обозначает оператор дифференцирования по переменной $x_i$. Применяется правило суммирования по повторяющимся индексам. Для функции $f$ положим $f_{\pm}=\max\{\pm f,0\}$ и Различные положительные константы обозначаются буквами $C$ и $N$ (с индексами или без). Запись $C(\ldots)$ означает, что $C$ зависит только от параметров, указанных в скобках. Классы функций и областей. $\bullet$ $\mathcal{C}^k(\overline{\Omega})$ – пространство функций, определенных на $\overline{\Omega}$ и имеющих непрерывные производные до порядка $k$ ($k \geqslant 0$) включительно. Для краткости вместо $\mathcal{C}^0$ мы обычно пишем $\mathcal{C}$. $\bullet$ $L_p(\Omega)$, $W^k_p(\Omega)$ и $\mathring{W}^k_p(\Omega)$ – стандартные пространства Лебега и Соболева (см., например, [17; § 1.18.6]); $\|\cdot\|_{p,\Omega}$ – норма в $L_p(\Omega)$. Далее, $f\in L_{p,{\rm loc}}(\Omega)$, если $f\in L_p(\Omega')$ для любой подобласти $\Omega'$ такой, что $\overline{\Omega}{}'\subset\Omega$. Аналогично определим $f\in W^k_{p,{\rm loc}}(\Omega)$. $\bullet$ $L_{p,q}(\Omega)$ – пространства Лоренца (см., например, [17; § 1.18.6]). Будем говорить, что $\sigma \colon [0,1]\to \mathbb{R}_+$ – функция класса $\mathcal{D}$, если (i) $\sigma$ непрерывна, возрастает и $\sigma (0)=0$; (ii) $\sigma (\tau)/\tau$ убывает и суммируема. Замечание 1.2. Предположение об убывании $\sigma(\tau)/\tau$ не является ограничительным. Действительно, пусть функция $\sigma\colon[0,1]\to \mathbb{R}_+$ возрастает, $\sigma(0)=0$, и функция $\sigma(\tau)/\tau$ суммируема. Определим Очевидно, что $\widetilde{\sigma}(t)/t$ убывает на $[0,1]$ и $\sigma(t) \leqslant \widetilde{\sigma}(t)$ на $(0,1]$ (последнее неравенство позволяет поставить во всех оценках $\widetilde{\sigma}$ вместо $\sigma$). Далее, множество точек, в которых $\sigma(t)<\widetilde{\sigma}(t)$, представляет собой не более чем счетное объединение интервалов $(t_{1j},t_{2j})$. На каждом из этих интервалов функция $\widetilde{\sigma}$ возрастает, и потому она возрастает на $[0,1]$. Рассмотрим теперь интеграл
$$
\begin{equation*}
\int_0^1 \frac{\widetilde\sigma(\tau)}{\tau}\,d\tau= \int_{\{\widetilde\sigma=\sigma\}}\frac{\sigma(\tau)}{\tau}\,d\tau+ \sum_j\int_{t_{1j}}^{t_{2j}}\frac{\widetilde\sigma(\tau)}{\tau}\,d\tau.
\end{equation*}
\notag
$$
Но на интервале $(t_{1j},t_{2j})$ откуда, учитывая монотонность $\sigma$, получаем и, таким образом, $\widetilde{\sigma} \in \mathcal{D}$. Замечание 1.3. Также не умаляя общности, можно считать функцию $\sigma$ непрерывно дифференцируемой на $(0,1]$. Действительно, для любой $\sigma \in \mathcal{D}$ определим Будем говорить, что функция $\zeta\colon {\Omega} \to \mathbb{R}$ удовлетворяет:
Говорят, что область $\Omega \subset \mathbb{R}^n$ принадлежит классу $\mathcal{C}^k$, $k\geqslant0$, если существует $r>0$ такое, что для каждой точки $x^0\in\partial\Omega$ множество $B_r(x^0)\cap \partial\Omega$ в подходящей декартовой системе координат есть график некоторой функции5 $x_n=f(x')$, где $f\in \mathcal{C}^k(G)$ (здесь $G$ – какая-то область в $\mathbb{R}^{n-1}$). Аналогично определяются области классов $\mathcal{C}^{k,\alpha}$ и $\mathcal{C}^{k,\mathcal{D}}$. Области класса $\mathcal{C}^{0,1}$ называют строго липшицевыми. Напомним, что условие внутреннего шара состоит в том, что каждой точки границы $\partial\Omega$ можно коснуться шаром фиксированного радиуса, полностью лежащим в $\Omega$. Аналогично, обозначим ${\mathfrak T}(\phi,h)$ (здесь $h>0$, $\phi\colon [0,+\infty) \to [0,+\infty)$ – выпуклая функция, $\phi(0)=0$) следующую область (тело):
$$
\begin{equation*}
{\mathfrak T}(\phi,h)=\{x\in\mathbb{R}^n\colon \phi(|x'|)<x_n<h\}.
\end{equation*}
\notag
$$
Предположим, что каждой точки $x^0\in\partial\Omega$ можно коснуться телом, конгруэнтным $\mathfrak{T}(\phi,h)$, с вершиной в точке $x^0$, которое полностью лежит в $\Omega$, причем $\phi$, $h$ не зависят от $x^0$; тогда говорят, что $\Omega$ удовлетворяет условию
Легко видеть, что область класса $\mathcal{C}^{1,1}$ удовлетворяет условиям внутреннего и внешнего шара (более того, эти условия совместно равносильны $\mathcal{C}^{1,1}$-гладкости области, см., например, [18; лемма 2]). Аналогично, области класса $\mathcal{C}^{1,\alpha}$ – это в точности области, удовлетворяющие условиям внутреннего и внешнего $\mathcal{C}^{1,\alpha}$-параболоида; области класса $\mathcal{C}^{1,\mathcal{D}}$ – области, удовлетворяющие условиям внутреннего и внешнего $\mathcal{C}^{1,\mathcal{D}}$-параболоида6; строго липшицевы области удовлетворяют условиям внутреннего и внешнего конуса7. 2. Операторы недивергентного видаВ этом разделе рассматриваются операторы следующей структуры: Введем обозначения $\mathcal{A}=(a^{ij})$, $\mathbf{b}=(b^i)$. В случае $\mathbf{b}\equiv 0$ вместо $\mathcal{L}$ будем писать $\mathcal{L}_0$.Матрица старших коэффициентов $\mathcal{A}$ симметрична и удовлетворяет условию эллиптичности с вырождением
$$
\begin{equation}
a^{ij}(x)\xi_i\xi_j\geqslant0 \quad\text{для всех}\ \xi\in\mathbb{R}^n
\end{equation}
\tag{2.2}
$$
или условию равномерной эллиптичности
$$
\begin{equation}
\nu|\xi|^2\leqslant a^{ij}(x)\xi_i\xi_j\leqslant \nu^{-1}|\xi|^2 \quad\text{для всех}\ \xi\in\mathbb{R}^n
\end{equation}
\tag{2.3}
$$
(здесь $\nu\in(0,1]$ – константа, именуемая константой эллиптичности). В пп. 2.1, 2.2 мы считаем, что условие (2.2) или (2.3) выполнено при всех $x\in\Omega$. Начиная с п. 2.3 предполагается, что элементы матрицы $\mathcal{A}$ – измеримые функции и условие (2.2) или (2.3) выполнено при почти всех $x\in\Omega$. Замечание 2.1. Для операторов более общего вида $\mathcal{L}+c(x)$ ни сильный принцип максимума, ни лемма о нормальной производной в форме, приведенной во введении, очевидно не выполняется (первая собственная функция задачи Дирихле для оператора Лапласа служит контрпримером даже для слабого принципа максимума). В этом случае обычно накладывают условие на знак коэффициента $c(x)$ в окрестности точки минимума. Приведем две пары простых утверждений. 1. Предположим, что для оператора $\mathcal{L}$ справедлив сильный принцип максимума.
2. Предположим, что для оператора $\mathcal{L}$ в области $\Omega$ справедлива лемма о нормальной производной.
Все четыре утверждения следуют из того, что в некоторой окрестности точки минимума неравенство $\mathcal{L}u+cu\geqslant0$ влечет $\mathcal{L}u\geqslant0$. 2.1. Классический период: от Гаусса и Неймана до Хопфа и ОлейникНапомним, что сильный принцип максимума для гармонических функций в трехмерной области был получен К. Ф. Гауссом [1] на основе доказанной им теоремы о среднем8. Поскольку эта теорема для гармонических функций справедлива в любом $\mathbb{R}^n$, доказательство Гаусса очевидным образом справедливо в любой размерности и, более того, легко распространяется на супергармонические функции. Доказательство сильного принципа максимума для равномерно эллиптических операторов более общего вида $\mathcal{L}+c(x)$ с $\mathcal{C}^2$-гладкими коэффициентами (в форме, указанной в п. 1, (а), замечания 2.1) было дано:
Важнейший шаг был сделан в 1927 г. Э. Хопфом9 [20]. Хотя в этой работе справедливость сильного принципа максимума была установлена для равномерно эллиптических операторов вида (2.1) с непрерывными коэффициентами, фактически доказательство Хопфа без изменений проходит для операторов с ограниченными коэффициентами. Еще одно существенное наблюдение сделано в работе [20] для операторов вида $\mathcal{L}+c(x)$. Кроме очевидного утверждения п. 1, (а), замечания 2.1, Хопф показал10, что если $\mathcal{L}u+cu\geqslant0$ в $\Omega$, то без каких-либо условий на знак коэффициента $c(x)$ функция $u$ не может достигать нулевого минимума в $\Omega$, за исключением случая $u\equiv0$. Как упоминалось во введении, лемма о нормальной производной была впервые установлена С. Зарембой [2] для гармонических функций при условии внутреннего шара на границу трехмерной области. Доказательство Зарембы использует, кроме слабого принципа максимума, лишь функцию Грина задачи Дирихле для уравнения Лапласа в шаре, поэтому оно справедливо в любой размерности, а также проходит для супергармонических функций. Следует отметить, что для оператора Лапласа существует альтернативная (равносильная) формулировка леммы о нормальной производной: Пусть $\mathcal{G}$ – функция Грина задачи Дирихле для уравнения Лапласа в области $\Omega$. Если $x\in\Omega$, $x^0\in \partial\Omega$, то справедливо неравенство $\partial_{\mathbf{n}}\mathcal{G}(x,x^0)> 0$. Это утверждение было доказано К. Нейманом еще в 1888 г. в двумерной $\mathcal{C}^2$-гладкой выпуклой области. Далее оно обобщалось:
Для оператора $-\Delta +b^i(x)D_i+c(x)$ при $c(x)\geqslant0$ в двумерной области класса $\mathcal{C}^{2,\alpha}$, $\alpha\in(0,1)$, это утверждение было установлено Л. Лихтенштейном в 1924 г. В дальнейшем, однако, почти все известные нам результаты формулировались в виде обычной леммы о нормальной производной12. В 1931 г. М. Брело впервые отметил (для оператора $-\Delta+c(x)$ при $c(x)\geqslant0$ в двумерной области класса $\mathcal{C}^{2}$), что лемма о нормальной производной на самом деле верна для производной по любому строго внутреннему направлению (т. е. по направлению, образующему с внутренней нормалью острый угол). В 1932 г. Ж. Жиро [21; гл. V] доказал лемму о нормальной производной13 для равномерно эллиптических операторов $\mathcal{L}+c(x)$, $c(x)\geqslant0$, с коэффициентами класса $\mathcal{C}^{0,\alpha}$, $\alpha\in(0,1)$, в $n$-мерной области класса $\mathcal{C}^{1,1}$. В работе [22] этот результат был распространен на случай, когда младшие коэффициенты могут иметь особенности на множестве $\mathfrak M$ – объединении конечного числа $\mathcal{C}^{1,\alpha}$-гладких многообразий коразмерности $1$, причем
$$
\begin{equation*}
|b^i(x)|,|c(x)|\leqslant C\cdot \operatorname{dist}^{\gamma-1}(x,\mathfrak M),\qquad \gamma\in(0,1).
\end{equation*}
\notag
$$
В 1937 г. впервые было существенно ослаблено условие на границу области: в работе М. В. Келдыша и М. А. Лаврентьева была доказана лемма о нормальной производной для оператора Лапласа в (трехмерной) области, удовлетворяющей условию внутреннего $\mathcal{C}^{1,\alpha}$-параболоида14. Наконец, ключевой шаг был сделан Э. Хопфом [24] и О. А. Олейник [25], которые одновременно и независимо доказали лемму о нормальной производной для равномерно эллиптических операторов с непрерывными коэффициентами при условии внутреннего шара на границу области. Доказательства в [25] и [24] основаны на одной и той же идее и, как и в [20], без изменений проходят для операторов с ограниченными коэффициентами15. Приведем теперь полное доказательство классических результатов работ [20] и [24], [25]. Теорема 2.1. A. Пусть $\mathcal{L}$ – оператор вида (2.1), функции $a^{ij}$, $b^i$ и $c$ ограничены в $\Omega$, выполнено условие (2.3), $u\in\mathcal{C}^2(\Omega)$ и $\mathcal{L}u+cu\geqslant0$ в $\Omega$. Тогда: B. Пусть вдобавок область $\Omega$ удовлетворяет условию внутреннего шара, функция $u\not\equiv \operatorname{const}$ непрерывна в $\overline{\Omega}$. Обозначим $x^0$ точку $\partial\Omega$, в которой $u$ достигает наименьшего значения. Тогда неравенство (1.1) справедливо при выполнении любого из следующих условий16: При этом в (1.1) можно заменить нормаль $\mathbf{n}$ на любое строго внутреннее направление $\boldsymbol{\ell}$. Доказательство. 1. Рассмотрим сначала случай $c\equiv0$. Прежде всего установим для оператора $\mathcal{L}$ слабый принцип максимума в области $\pi$ достаточно малого диаметра $d$. Предположим, напротив, что $\mathcal{L}u\geqslant0$ в $\pi$ и $u\big|_{\partial\pi}\geqslant0$, но $u(x^0)=-A<0$ для некоторого $x^0\in \pi$. Рассмотрим функцию Очевидно, что при всех достаточно малых $\varepsilon$ имеем
$$
\begin{equation*}
u^\varepsilon\big|_{\partial \pi}\geqslant -\varepsilon d^2>-A=u^\varepsilon(x^0).
\end{equation*}
\notag
$$
Поэтому $u^\varepsilon$ достигает наименьшего значения в некоторой точке $x^1\in \pi$. В точке минимума $Du^\varepsilon(x^1)=0$ и матрица $D^2u^\varepsilon(x^1)$ неотрицательно определена, а потому $\mathcal{L}u^\varepsilon(x^1)\leqslant0$. Но условие $\mathcal{L}u\geqslant0$ влечет
$$
\begin{equation*}
\mathcal{L}u^\varepsilon\geqslant 2\varepsilon\bigl(a^{ij}\delta_{ij}-b^i(x_i-x^0_i)\bigr)\geqslant 2\varepsilon(n\nu-d\sup|\mathbf{b}(x)|)>0 \quad\text{в}\ \pi,
\end{equation*}
\notag
$$
если $d< d_0:=n\nu/\sup|\mathbf{b}(x)|$. Полученное противоречие доказывает утверждение. 2. Теперь докажем для $\mathcal{L}$ сильный принцип максимума. Предположим, напротив, что $\mathcal{L}u\geqslant0$ в $\Omega$ и $u\not\equiv \operatorname{const}$, но множество
$$
\begin{equation}
M=\Bigl\{x\in\Omega\colon u(x)=\inf_{\Omega} u\Bigr\}
\end{equation}
\tag{2.4}
$$
непусто. Дополнение $\Omega\setminus M$ открыто, и потому найдется лежащий в нем шар, граница которого содержит точку из $M$. Поместим начало координат в центр этого шара, и пусть $r$ обозначает радиус шара, $x^0$ – точку из $\partial B_r\cap M$, а $\pi$ – кольцо $B_r\setminus \overline{B}_{r/2}$. Не умаляя общности, можно считать, что $r< d_0/2$. Рассмотрим в области $\pi$ барьерную функцию17 Оценим $\mathcal{L}v_s$ с учетом условия эллиптичности (2.3):
$$
\begin{equation*}
\begin{aligned} \, D_iv_s(x)&=-sx_i|x|^{-s-2};\qquad D_iD_jv_s(x)=s(s+2)x_ix_j|x|^{-s-4}-s\delta_{ij}|x|^{-s-2}; \\ \mathcal{L}v_s(x)&=|x|^{-s-2}\biggl(-s(s+2)a^{ij}\,\frac{x_i}{|x|}\, \frac{x_j}{|x|}+sa^{ij}\delta_{ij}-sb^ix_i\biggr) \\ &\leqslant s|x|^{-s-2}\Bigl[-(s+2)\nu+n\nu^{-1}+ r\sup_{\Omega}|\mathbf{b}(x)|\Bigr]. \end{aligned}
\end{equation*}
\notag
$$
Выберем $s$ настолько большим, чтобы выражение в квадратных скобках было отрицательным. Тогда при любом $\varepsilon>0$ функция $w^\varepsilon=u-\inf_{\Omega} u-\varepsilon v_s$ удовлетворяет неравенству $\mathcal{L}w^\varepsilon\geqslant0$ в $\pi$. Далее, $\partial\pi=\partial B_r\cup\partial B_{r/2}$. Очевидно, что $w^\varepsilon\big|_{\partial B_r}\geqslant0$. Так как $B_r\subset\Omega\setminus M$ по построению, на $\partial B_{r/2}$ функция $u-\inf_{\Omega}u$ отделена от нуля, и для достаточно малого $\varepsilon>0$ имеем $w^\varepsilon\big|_{\partial B_{r/2}}\geqslant0$. Следовательно, к $w^\varepsilon$ в $\pi$ применим слабый принцип максимума, и $w^\varepsilon\geqslant0$ в $\pi$. Но $w^\varepsilon(x^0)=0$, и потому для любого вектора $\boldsymbol{\ell}$, направленного внутрь $\pi$, имеем $\partial_{\boldsymbol{\ell}}w^\varepsilon(x^0)\geqslant0$, т. е.
$$
\begin{equation*}
\partial_{\boldsymbol{\ell}}u(x^0)\geqslant \varepsilon \partial_{\boldsymbol{\ell}}v_s(x^0)>0,
\end{equation*}
\notag
$$
что невозможно, поскольку в точке минимума выполнено равенство $Du(x^0)= 0$. Полученное противоречие доказывает утверждение. 3. Докажем теперь для $\mathcal{L}$ лемму о нормальной производной. По условию можно выбрать шар радиусом $r$, касающийся $\partial\Omega$ в точке $x^0$. Поместим начало координат в центр этого шара. Согласно сильному принципу максимума, $u>u(x^0)$ в $B_r$. Далее дословное повторение части 2 доказательства дает неравенство (1.1), в котором $\mathbf{n}$ можно заменить на $\boldsymbol{\ell}$. 4. Наконец, откажемся от условия $c\equiv0$. Утверждения (A2), (A3), (B2) и (B3) немедленно следуют из замечания 2.1. Для доказательства (A1) и (B1) представим функцию $u$ в виде произведения $u=\psi v$, где $\psi>0$ и $v\geqslant0$ в $\overline{\Omega}$. Прямым вычислением получаем
$$
\begin{equation}
0\leqslant \frac{\mathcal{L}u+cu}{\psi}=\widetilde{\mathcal{L}}v:= -a^{ij}D_iD_jv+\widetilde{b}^iD_iv+\widetilde{c}v,
\end{equation}
\tag{2.6}
$$
где
$$
\begin{equation*}
\widetilde{b}^i=b^i-\frac{2a^{ij}D_j\psi}{\psi}\,, \qquad \widetilde{c}=\frac{\mathcal{L}\psi+c\psi}{\psi}\,.
\end{equation*}
\notag
$$
Теперь положим $\psi(x)=\exp\{\lambda x_1\}$. Тогда
$$
\begin{equation*}
\mathcal{L}\psi+c\psi=\psi (-a^{11}\lambda^2+b^1\lambda+c)\leqslant \psi\Bigl(-\nu\lambda^2+\sup_{\Omega}b^1(x)\lambda+\sup_{\Omega}c(x)\Bigr).
\end{equation*}
\notag
$$
Выберем $\lambda$ настолько большим, чтобы выражение в последних скобках было отрицательным. Тогда для оператора $\widetilde{\mathcal{L}}$, определенного в (2.6), справедливы пп. 1, (b), и 2, (b), замечания 2.1. В частности, $v$ не может обращаться в нуль внутри области, что дает (A1). Поскольку $u(x^0)=0$ влечет $Du(x^0)=\psi(x^0)Dv(x^0)$, из п. 2, (b), для функции $v$ следует (B1) для $u$. Теорема 2.1 доказана. 2.2. Расширение классических результатов. Уточнение условий на границу областиПосле появления базовых результатов [24], [25] усилиями многих авторов тематика развивалась по нескольким направлениям:
Описание результатов начнем с работы К. Пуччи [29], в которой лемма о нормальной производной установлена в области $\Omega=B_r$ для более широкого класса операторов, чем в [24], [25]. Именно, допускается вырождение условия эллиптичности на касательных к $\partial\Omega$ направлениях, а младшие коэффициенты удовлетворяют условиям
$$
\begin{equation}
|b^i(x)|\leqslant \frac{\sigma({\rm d}(x))}{{\rm d}(x)}\,,\qquad 0\leqslant c(x)\leqslant \frac{\sigma({\rm d}(x))}{{\rm d}^2(x)}\,,\qquad \sigma\in\mathcal{D}.
\end{equation}
\tag{2.7}
$$
Основой доказательства Пуччи служит барьерная функция
$$
\begin{equation*}
\mathfrak{v}(x)=\int_0^{{\rm d}(x)}\,\int_0^\tau\frac{\sigma(t)}t\,dt\,d\tau+ \kappa{\rm d}(x)
\end{equation*}
\notag
$$
при подходящем выборе константы $\kappa$. Эта функция и различные ее вариации используются во многих последующих работах. Если условие эллиптичности вырождается еще больше, то сильный принцип максимума в классическом виде не выполняется. А. Д. Александров в серии работ [30] дал для таких операторов описание структуры множества нулей неотрицательной функции $u$, удовлетворяющей неравенству $\mathcal{L}u+cu\geqslant0$ в $\Omega$.18 В работах Р. Выборного [31], [32] лемма о нормальной производной была доказана для оператора $\mathcal{L}+c(x)$ в области класса19 $\mathcal{C}^{1,\mathcal{D}}$. При этом на коэффициенты оператора накладывались такие же условия20, как в статье [29]. К сожалению, результаты работ [31], [32] не получили должной известности. В работе [34] для уравнения Лапласа в области класса $\mathcal{C}^{1,\mathcal{D}}$ были получены точные оценки производных функции Грина задачи Дирихле21. В частности, была доказана лемма о нормальной производной в форме Неймана (нормальная производная функции Грина на $\partial\Omega$ положительна), а также построен контрпример, показывающий, что условие $\mathcal{C}^{1,\mathcal{D}}$ на границу области нельзя ослабить до $\mathcal{C}^{1}$. Именно, если $\phi'$ не удовлетворяет условию Дини в нуле, то в параболоиде ${\mathfrak T}(\phi,h)$ выполнено соотношение $\partial_{\mathbf{n}}\mathcal{G}(x,0)=0$. Одновременно с [34] была опубликована заметка [35]. В ней были выведены тонкие асимптотики гармонических функций в окрестности негладких точек границы. В качестве следствия было показано, что если гармоническая в параболоиде ${\mathfrak T}(\phi,h)$ функция $u$ достигает наименьшего значения в его вершине $x^0=0$, то необходимым и достаточным условием положительности $\partial_{\boldsymbol{\ell}}u(0)$ для любого строго внутреннего направления $\boldsymbol{\ell}$ является условие Дини для функции $\phi'$ в нуле (это утверждение равносильно полученному в [34]). Поведение решений уравнения $\mathcal{L}u=0$ в окрестности точки $x^0\in\partial\Omega$ в случае, когда граница области удовлетворяет в точке $x^0$ лишь условию внутреннего/внешнего конуса, при условии $b^i(x)=o(|x-x^0|^{-1})$ изучалось соответственно Дж. К. Оддсоном и К. Миллером. Большой цикл работ по обобщению леммы о нормальной производной принадлежит Б. Н. Химченко и Л. И. Камынину. В статье [36] лемма о нормальной производной для оператора Лапласа была установлена для областей, удовлетворяющих условию внутреннего $\mathcal{C}^{1,\mathcal{D}}$-параболоида. Далее, в этой работе была получена оценка нормальной производной на $\partial\Omega$ для решения задачи
$$
\begin{equation*}
-\Delta u=f\quad\text{в}\ \Omega,\qquad u\big|_{\partial\Omega}=0,
\end{equation*}
\notag
$$
в случае, когда $\Omega$ удовлетворяет условию внешнего $\mathcal{C}^{1,\mathcal{D}}$-параболоида22, а функция $f$ допускает оценку $|f(x)|\leqslant C {\rm d}^{\gamma-1}(x)$, $\gamma\in(0,1)$. Наконец, в [36] даны примеры, показывающие, что условия на границу нельзя заметно улучшить (и по существу повторяющие соответствующие контрпримеры из [34] и [35]). В [37] результаты работы [36] были распространены на равномерно эллиптические операторы вида $\mathcal{L}+c(x)$ с ограниченными коэффициентами $b^i(x)$. Лемма о нормальной производной здесь сформулирована (для любого строго внутреннего направления) при условии, что “предполагается справедливым принцип максимума” (что, по-видимому, означало $c(x)\geqslant0$), а оценка градиента на $\partial\Omega$ для решения задачи
$$
\begin{equation*}
\mathcal{L}u+cu=f \quad \text{в} \ \Omega,\qquad u\big|_{\partial\Omega}=g,
\end{equation*}
\notag
$$
– при условиях
$$
\begin{equation*}
|c(x)|, |f(x)|\leqslant C {\rm d}^{\gamma-1}(x), \quad \gamma\in(0,1);\qquad g\in \mathcal{C}^{1,\mathcal{D}}(\partial\Omega).
\end{equation*}
\notag
$$
В статье [23] лемма о нормальной производной перенесена на эллиптико-параболические операторы
$$
\begin{equation*}
-a^{ij}(x,y)D_{x_i} D_{x_j}-\tilde a^{kl}(x,y)D_{y_k} D_{y_l}+ b^i(x,y)D_{x_i}+\tilde b^k(x,y)D_{y_k}+c(x,y)
\end{equation*}
\notag
$$
с ограниченными коэффициентами при следующих условиях: матрица $\mathcal{A}$ удовлетворяет условию равномерной эллиптичности, матрица $\widetilde{\mathcal{A}}$ неотрицательно определена, $c(x)\geqslant0$, область $\Omega$ удовлетворяет условию внутреннего $\mathcal{C}^{1,\mathcal{D}}$-параболоида, ось которого не перпендикулярна плоскости $y=0$. В работе [38] результаты [37] обобщаются на класс слабо вырождающихся операторов, старшие коэффициенты которых удовлетворяют условиям, близким к условиям в [29], [31] (младшие коэффициенты ограничены)23. Наконец, в серии статей 1978–1980 гг. Камынин и Химченко дали тонкие обобщения результатов работы [30]. Весьма интересная “ослабленная” форма леммы о нормальной производной была установлена Н. С. Надирашвили [40] в области $\Omega$, удовлетворяющей условию внутреннего конуса. Именно, пусть $\mathcal{L}$ – равномерно эллиптический оператор вида (2.1) и $c(x)\geqslant0$. Если непостоянная функция $u$, удовлетворяющая условию $\mathcal{L}u+cu\geqslant0$, достигает наименьшего неположительного значения в точке $x^0\in \partial\Omega$, то в любой окрестности $x^0$ найдется точка $x^*\in \partial\Omega$ такая, что для любого строго внутреннего направления $\boldsymbol{\ell}$ справедливо неравенство
$$
\begin{equation*}
\liminf_{\varepsilon\to+0}\, \frac{u(x^*+\varepsilon\boldsymbol{\ell})-u(x^*)}\varepsilon>0.
\end{equation*}
\notag
$$
В работе [41] этот результат был обобщен на некоторый класс областей с внешними “пиками” и на слабо вырождающиеся (в духе [38]) недивергентные операторы. В статье Г. Либермана [33] было введено важное понятие регуляризованного расстояния24. В частности, было показано, что в любой области $\Omega$ класса $\mathcal{C}^1$ существует функция $\rho\in\mathcal{C}^2(\mathbb{R}^n\setminus\partial\Omega)\cap \mathcal{C}^1(\mathbb{R}^n)$, для которой выполнены следующие оценки (знаки $+$ и $-$ относятся соответственно к точкам $x\in\overline{\Omega}$ и $x\in\mathbb R^n\setminus\Omega$):
$$
\begin{equation*}
\begin{aligned} \, C^{-1}{\rm d}(x)&\leqslant \pm\rho(x)\leqslant C\,{\rm d}(x), \\ |D\rho(x)-D\rho(y)|&\leqslant C\sigma(|x-y|), \\ |D^2\rho(x)|&\leqslant C\,\frac{\sigma(|\rho(x)|)}{|\rho(x)|}\,. \end{aligned}
\end{equation*}
\notag
$$
Здесь $\sigma$ – общий модуль непрерывности градиентов функций, задающих $\partial\Omega$ в локальных координатах. В качестве следствия в [33] получена лемма о нормальной производной в области класса $\mathcal{C}^{1,\mathcal{D}}$ при условиях на коэффициенты (как старшие, так и младшие), близких к [29], [31]. Вслед за этим в работе [42] были установлены оценки градиента на $\partial\Omega$ для решения задачи Дирихле в области класса $\mathcal{C}^{1,\mathcal{D}}$ с граничными данными $g\in \mathcal{C}^{1,\mathcal{D}}(\partial\Omega)$, а также проанализирована граничная гладкость решения в случае, когда $Dg\in\mathcal{C}(\partial\Omega)$ не удовлетворяет условию Дини. Отметим, наконец, монументальную работу [14]. Условия на коэффициенты, при которых справедливы лемма о нормальной производной и сильный принцип максимума, в ней несколько ослаблены по сравнению с работами, перечисленными ранее, хотя проверять эти условия существенно труднее. Также в [14] приведены некоторые новые контрпримеры, показывающие точность введенных условий. 2.3. Принцип максимума Александрова–БакельманаЭтот пункт посвящен одной из самых красивых геометрических идей в теории уравнений в частных производных – принципу максимума А. Д. Александрова и И. Я. Бакельмана. Такое название получили априорные оценки максимума для решений недивергентных уравнений, имеющие огромное число приложений и, в частности, играющие ключевую роль в доказательстве сильного принципа максимума и леммы о нормальной производной для уравнений с неограниченными младшими коэффициентами из пространств Лебега. Первые оценки этого типа были опубликованы в работах25 [43] и [44]. Оценка решения задачи Дирихле в общем случае была получена в [48]. В этой работе, кроме того, была доказана точность полученных оценок26. В 1963 г. Александров прочел в Италии цикл лекций о своем методе. Двумя годами позже эти лекции были изданы в Риме. Для доказательства оценки Александрова–Бакельмана введем некоторые определения. Пусть в области $\Omega$ задана непрерывная функция $u$, причем $u\big|_{\partial \Omega}<0$. Обозначим $\widetilde\Omega={\rm conv}(\Omega)$ выпуклую оболочку $\Omega$ и будем в дальнейшем считать, что функция $u_+$ продолжена нулем на $\widetilde\Omega\setminus\Omega$. Выпуклой оболочкой функции $u_+$ назовем наименьшую функцию, выпуклую вверх и мажорирующую $u_+$ в области $\widetilde\Omega$. Будем обозначать эту функцию $z$. Очевидно, что $z\big|_{\partial\widetilde\Omega}=0$ и подграфик функции $z$ – выпуклое множество (выпуклая оболочка подграфика $u_+$). Можно показать также (см. [18]), что если $\Omega$ – область класса $\mathcal{C}^{1,1}$ и $u\in \mathcal{C}^{1,1}(\Omega)$, то27 $z\in \mathcal{C}^{1,1}(\widetilde\Omega)$. Введем еще так называемое контактное множество Определим теперь (вообще говоря, многозначное) нормальное отображение (отображение годографа) $\Phi\colon\widetilde\Omega\to\mathbb{R}^n$, порождаемое функцией $z$. Каждой точке $x^0\in\widetilde\Omega$ это отображение ставит в соответствие всевозможные векторы $p\in \mathbb{R}^n$ такие, что график функции $\pi(x)=p\cdot(x-x^0)+z(x^0)$ является опорной плоскостью к подграфику функции $z$ в точке $x^0$. Очевидно, что если $z\in C^1(\widetilde\Omega)$, то отображение $\Phi$ однозначно в области $\widetilde\Omega$ (но не в ее замыкании!) и задается формулой $\Phi(x)=Dz(x)$. Рассмотрим сначала оператор $\mathcal{L}_0$ с измеримыми коэффициентами. Лемма 2.1. Пусть $\Omega$ – область класса $\mathcal{C}^{1,1}$, и пусть $u\in \mathcal{C}^{1,1}(\Omega)$, причем $u\big|_{\partial\Omega}<0$. Предположим, что выполнено условие равномерной эллиптичности (2.3). Тогда для любой неотрицательной функции $\mathfrak{g}$ справедливо неравенство Доказательство. Заметим, что в условиях леммы отображение $\Phi$ удовлетворяет условию Липшица. По формуле замены переменных в интеграле получаем (последнее равенство следует из того, что матрица $(-D^2z)$ неотрицательно определена). Если $x\notin \mathcal{Z}$, то по теореме Каратеодори точка $(x,z(x))$ является внутренней точкой симплекса28, полностью лежащего на графике функции $z$. Поэтому вторая производная $z$ в некотором направлении равна нулю. Но в силу знакоопределенности $D^2z(x)$ это направление должно быть главным, и, следовательно, $\det(-D^2z(x))=0$. Если же $x\in \mathcal{Z}$, то условие касания в точке $x$ дает (второе соотношение понимается в смысле квадратичных форм и справедливо для почти всех $x$). Поэтому из (2.9) следует, что
$$
\begin{equation*}
\int_{\Phi(\widetilde\Omega)}\mathfrak{g}(p)\,dp\leqslant \int_\mathcal{Z}\mathfrak{g}(Du)\det(-D^2u)\,dx.
\end{equation*}
\notag
$$
Далее, поскольку на множестве $\mathcal Z$ матрицы $\mathcal{A}$ и $-D^2u$ неотрицательно определены, матрица $-\mathcal{A}\cdot D^2u$ имеет неотрицательные собственные числа. По неравенству между средним арифметическим и средним геометрическим имеем (здесь и далее $\operatorname{Tr}$ – след матрицы)
$$
\begin{equation*}
\det(-D^2u)=\frac{\det(-\mathcal{A}\cdot D^2u)}{\det(\mathcal{A})}\leqslant \frac{1}{n^n}\,\frac{(\operatorname{Tr}(-\mathcal{A}\cdot D^2u))^n} {\det(\mathcal{A})}=\frac{1}{n^n}\, \frac{(\mathcal{L}_0u)^n}{\det(\mathcal{A})}\,,
\end{equation*}
\notag
$$
откуда немедленно получаем (2.8). Лемма доказана. Замечание 2.2. Поскольку на множестве $\mathcal{Z}$ выполнены неравенства $u>0$ и $\mathcal{L}_0u\geqslant0$, вместо (2.8) часто используется более удобная оценка Теорема 2.2. Пусть выполнено условие (2.2), и пусть $\operatorname{Tr}(\mathcal{A})> 0$ почти всюду в $\Omega$. Тогда для любой функции $u\in W^2_{n,{\rm loc}}(\Omega)$ такой, что29 $u\big|_{\partial\Omega}\leqslant0$, выполнена оценка (здесь и далее следует положить $0/0=0$, если такая неопределенность возникает). Доказательство. Будем сначала считать, что матрица $\mathcal{A}$, функция $u$ и область $\Omega$ удовлетворяют условиям леммы 2.1. Достаточно рассмотреть случай $M=\max_{\overline\Omega}u=\max_{\widetilde\Omega}z>0$. Положим $d=\operatorname{diam}(\Omega)=\operatorname{diam}(\widetilde\Omega)$ и покажем, что множество $\Phi(\widetilde\Omega)$ содержит шар $B_{M/d}$. Действительно, пусть $p\in B_{M/d}$. Рассмотрим плоскость – график функции $\pi(x)=p\cdot x+h$. Выбрав подходящее $h$, можно добиться, чтобы эта плоскость была опорной к подграфику функции $z$ в некоторой точке $x^0$, и записать $\pi(x)=p\cdot(x-x^0)+z(x^0)$. Если $x^0\in\partial\widetilde\Omega$, то $z(x^0)=0$ и в точке максимума функции $z$ имеем что невозможно. Поэтому $x^0\in\widetilde\Omega$, откуда следует, что и утверждение доказано.Применяя оценку (2.8) с $\mathfrak{g}\equiv1$, получим
$$
\begin{equation*}
|B_1|\cdot \biggl(\frac{M}{d}\biggr)^n=|B_{M/d}|\leqslant |\Phi(\widetilde\Omega)|\leqslant \frac{1}{n^n}\int_\mathcal{Z} \frac{(\mathcal{L}_0u)^n}{\det(\mathcal{A})}\,dx,
\end{equation*}
\notag
$$
откуда немедленно следует (2.11). Рассмотрим теперь общий случай. Подынтегральное выражение в (2.11) не меняется от домножения матрицы $\mathcal{A}$ на положительную функцию. Поэтому, не умаляя общности, можно считать, что $\operatorname{Tr}(\mathcal{A})\equiv1$. Возьмем функцию $u^{\varepsilon}=u-\varepsilon$ и аппроксимируем $\Omega$ изнутри областями с гладкими границами. Далее, поскольку оценка (2.11) выдерживает предельный переход в $W^2_n$, можно считать $u^{\varepsilon}$ гладкой функцией. Применим оценку (2.11) к функции $u^{\varepsilon}$ и равномерно эллиптическому оператору $\mathcal{L}_0-\nu\Delta$. Затем можно положить $\nu\to0$, а потом $\varepsilon\to0$. Теорема доказана. Теорема 2.3. Пусть $\mathcal{L}$ – оператор общего вида (2.1), выполнено условие (2.2) и $\operatorname{Tr}(\mathcal{A})>0$ почти всюду в $\Omega$. Предположим, что Доказательство. Будем считать, что матрица $\mathcal{A}$, функция $u$ и область $\Omega$ удовлетворяют условиям леммы 2.1. Общий случай получается из этого аналогично второй части доказательства теоремы 2.2. Пусть $\mathfrak{g}=\mathfrak{g}(|p|)$. Учитывая, что $B_{M/d}\subset\Phi(\widetilde\Omega)$, из (2.10) получаем
$$
\begin{equation}
n|B_1|\int_0^{M/d}\mathfrak{g}(\rho)\rho^{n-1}\,d\rho\leqslant \frac{1}{n^n}\int_{\{u>0\}}\mathfrak{g}(|Du|)\, \frac{(\mathcal{L}u-b^iD_iu)_+^n}{\det(\mathcal{A})}\,dx.
\end{equation}
\tag{2.14}
$$
Введем обозначение
$$
\begin{equation*}
F=\biggl\|\frac{(\mathcal{L}u)_+}{\det^{1/n}(\mathcal{A})}\biggr\|_{n,\{u>0\}} +\varepsilon,\qquad \varepsilon>0.
\end{equation*}
\notag
$$
Тогда дробь в правой части (2.14) можно оценить по неравенству Гёльдера:
$$
\begin{equation*}
\frac{(\mathcal{L}u-b^iD_iu)_+^n}{\det(\mathcal{A})}\leqslant (F^{n/(n-1)}+|Du|^{n/(n-1)})^{n-1} \biggl(\frac{(\mathcal{L}u)_+^n} {\det(\mathcal{A})F^n}+\mathfrak{h}^n\biggr).
\end{equation*}
\notag
$$
Положим $\mathfrak{g}(\rho)=(F^n+\rho^n)^{-1}$. Тогда из (2.14) получим
$$
\begin{equation*}
\begin{aligned} \, &n|B_1|\int_0^{M/d}\frac{\rho^{n-1}}{F^n+\rho^n}\,d\rho \\ &\qquad\leqslant \frac{1}{n^n}\int_{\{u>0\}} \frac{(F^{n/(n-1)}+|Du|^{n/(n-1)})^{n-1}} {F^n+|Du|^n}\biggl(\frac{(\mathcal{L}u)_+^n}{\det(\mathcal{A})F^n}+ \mathfrak{h}^n\biggr)\,dx. \end{aligned}
\end{equation*}
\notag
$$
Учитывая элементарное неравенство $(x+y)^{n-1}\leqslant 2^{n-2}(x^{n-1}+y^{n-1})$, отсюда выводим
$$
\begin{equation*}
\ln\biggl(1+\frac{M^n}{d^nF^n}\biggr)\leqslant \frac{2^{n-2}}{n^n|B_1|}(1+\|\mathfrak{h}\|^n_{n,\{u>0\}}),
\end{equation*}
\notag
$$
или
$$
\begin{equation*}
M\leqslant d\cdot F\cdot\biggl(\exp\biggl\{\frac{2^{n-2}}{n^n|B_1|} \bigl(1+\|\mathfrak{h}\|^n_{n,\{u>0\}}\bigr)\biggr\}-1\biggr)^{1/n}.
\end{equation*}
\notag
$$
Полагая $\varepsilon\to0$ в выражении для $F$, приходим к (2.13). Теорема доказана. Замечание 2.3. Если выполнено условие (2.3) равномерной эллиптичности, то из (2.13) с учетом замечания 2.2 следует более простая оценка: Поясним отличие теоремы 2.3 от некоторых других оценок максимума. Для равномерно эллиптических операторов вида (2.1) хорошо известна оценка максимума Хопфа (см., например, [51; теорема 3.7]):
$$
\begin{equation*}
\max_{\overline\Omega}u_+\leqslant C\biggl(\operatorname{diam}(\Omega), \frac{\|\mathbf{b}\|_{\infty,\{u>0\}}}{\nu}\biggr)\, \frac{\|(\mathcal{L}u)_+\|_{\infty,\{u>0\}}}{\nu}\,.
\end{equation*}
\notag
$$
Здесь максимум решения оценивается через $L_{\infty}$-норму правой части, что оказывается недостаточным в приложениях. С другой стороны, из коэрцитивных оценок в $L_r$ (см. [51; теорема 9.13]) и теоремы вложения Соболева следует, что
$$
\begin{equation}
\max_{\overline\Omega}u_+\leqslant C\|(\mathcal{L}_0u)_+\|_{r,\Omega},\qquad r>\frac{n}{2}\,.
\end{equation}
\tag{2.16}
$$
Однако в этой оценке константа $C$ зависит от модулей непрерывности коэффициентов $a^{ij}$. Поэтому, например, для квазилинейных уравнений, когда коэффициенты $a^{ij}$ зависят от самого решения $u$ и от его производных, оценка (2.16) мало полезна. Оценка Александрова–Бакельмана отличается тем, что не требует ни непрерывности старших коэффициентов, ни ограниченности младших коэффициентов и правой части уравнения. В связи с теоремой 2.3 упомянем так называемый принцип максимума в форме Бони: Пусть $\mathcal{L}$ – оператор вида (2.1) и выполнено условие (2.2). Если функция $u$ достигает наименьшего значения в точке $x^0\in\Omega$, то справедливо неравенство
$$
\begin{equation*}
\operatorname{ess}\,\liminf_{x\to x^0}\mathcal{L}u\leqslant 0.
\end{equation*}
\notag
$$
Это утверждение было доказано для операторов с ограниченными коэффициентами Ж.-М. Бони в 1967 г. при $u\in W^2_q(\Omega)$, $q>n$, и П.-Л. Лионсом30 в 1983 г. при $u\in W^2_n(\Omega)$. Мы докажем его вариант для операторов с неограниченными младшими коэффициентами. Следствие 2.1. Предположим, что коэффициенты оператора $\mathcal{L}$ удовлетворяют условиям теоремы 2.3. Если функция $u\in W^2_{n,{\rm loc}}(\Omega)$ достигает наименьшего значения в точке $x^0\in\Omega$, то Доказательство. Как и в теореме 2.2, не умаляя общности, можно считать, что $\operatorname{Tr}(\mathcal{A})\equiv1$. Поместим начало координат в точку $x^0$. Предположим, что в некоторой окрестности точки $0$ почти всюду выполнено неравенство $\mathcal{L}u\geqslant\delta>0$. Рассмотрим в шаре $B_r$ функцию
$$
\begin{equation*}
w^\varepsilon(x)=\varepsilon\biggl(1-\frac{|x|^2}{r^2}\biggr)-u(x)+u(0).
\end{equation*}
\notag
$$
Тогда $w^\varepsilon(0)=\varepsilon$ и при достаточно малом $r$ имеем $w^\varepsilon\big|_{\partial B_r}\leqslant0$. Применяя к $w^\varepsilon$ в $B_r$ оценку (2.15), получаем
$$
\begin{equation*}
\varepsilon\leqslant N(n,\|\mathfrak{h}\|_{n,B_r})\cdot 2r\cdot \biggl\|\frac{(\mathcal{L}w^\varepsilon)_+} {\det^{1/n}(\mathcal{A})}\biggr\|_{n,B_r}.
\end{equation*}
\notag
$$
Поскольку
$$
\begin{equation*}
\mathcal{L}w^\varepsilon=\frac{2\varepsilon}{r^2} \bigl(\operatorname{Tr}(\mathcal{A})+b^ix_i\bigr)-\mathcal{L}u\leqslant \frac {2\varepsilon}{r^2}(1+r|\mathbf{b}|)-\delta,
\end{equation*}
\notag
$$
это дает при $\varepsilon<\delta r^2/4$
$$
\begin{equation*}
\varepsilon\leqslant N \biggl\|\frac{(4\varepsilon|\mathbf{b}|-r\delta)_+} {\det^{1/n}(\mathcal{A})}\biggr\|_{n,B_r}\overset{(*)}{\leqslant} 4\varepsilon N \biggl\|\biggl(\mathfrak{h}- \frac {r\delta}{4\varepsilon}\biggr)_+\biggr\|_{n,B_r}= o(\varepsilon)\quad\text{при}\ \varepsilon\to 0
\end{equation*}
\notag
$$
(неравенство ($*$) следует из $\det^{1/n}(\mathcal{A})\leqslant\operatorname{Tr}(\mathcal{A})=1$). Полученное противоречие доказывает (2.17). Следствие доказано. А. Д. Александров неоднократно развивал и усиливал результаты работы [48]. В статье [52] получены поточечные оценки решения задачи Дирихле через расстояние до границы области, в [53] они распространены на более широкий класс уравнений. Работа [54] посвящена доказательству достижимости полученных оценок, в небольшой заметке [55] доказана невозможность в общем случае ослабить требования на правую часть уравнения. Наконец, в статье [56] получены поточечные оценки решения через тонкие характеристики области $\Omega$ и на основании этого результата получена оценка градиента решения на $\partial\Omega$ для некоторых частных случаев. В середине 1970-х годов Н. В. Крылов [57] впервые получил оценки александровского типа для параболических операторов. После этого исследование эллиптических и параболических задач шло почти параллельно, но обсуждение результатов для нестационарных уравнений выходит за рамки нашего обзора. В дальнейшем техника работы с нормальным изображением стала применяться к краевым задачам, отличным от задачи Дирихле. Локальная оценка максимума александровского типа для задачи с наклонной производной (на части границы области задана производная по направлению некасательного векторного поля) была установлена в [58] для ограниченных коэффициентов $b^i$ и в [59] в общем случае (см. также [60]). Для задачи Вентцеля, в которой на границе задается оператор
$$
\begin{equation*}
\mathcal{L}' \equiv -\alpha^{ij}(x)\mathfrak{d}_i \mathfrak{d}_j+ \beta^i(x)D_i,\qquad \mathfrak{d}_i\equiv D_i-\mathbf{n}_i\mathbf{n}_kD_k,\qquad \beta^i(x)\mathbf{n}_i\geqslant0,
\end{equation*}
\notag
$$
имеющий второй порядок по касательным переменным, соответствующие оценки были получены в [61], [62] в двух случаях: невырожденном, когда оператор $\mathcal{L}'$ равномерно эллиптичен относительно касательных переменных, и вырожденном, когда члены второго порядка в граничном операторе могут обращаться в нуль на множестве положительной меры, но векторное поле $(\beta^i)$ некасательно к $\partial\Omega$. Впоследствии эти оценки были обобщены на случай операторов $\mathcal{L}$ и $\mathcal{L}'$ с неограниченными младшими коэффициентами [63], [64]. В статье [65] были установлены локальные оценки александровского типа для решений так называемой двухфазной задачи Вентцеля. Во всех перечисленных случаях указанные оценки служили “стартовой площадкой” для получения серии априорных оценок, требуемых для доказательства теорем существования решения квазилинейных и нелинейных краевых задач. Другое направление развития идей Александрова – перенесение оценок максимума на уравнения с младшими коэффициентами и правыми частями из других функциональных классов. В работах [66], [60] и [67] были рассмотрены различные классы операторов с “составными” коэффициентами. Статья [68] посвящена оценке александровского типа через нормы правой части в весовых пространствах Лебега. Каждый из этих результатов приводил к соответствующему расширению класса нелинейных уравнений, для которых удается доказать разрешимость основных краевых задач. Л. Каффарелли [69] установил оценку Александрова–Бакельмана для так называемых вязкостных решений эллиптических уравнений. Далее эта идея активно применялась к различным классам нелинейных уравнений (см., например, главу 3 монографии [70] и ссылки в ней, а также ряд более поздних работ). Еще одна группа работ посвящена ослаблению условий на правую часть уравнения для некоторых классов операторов $\mathcal{L}$. В 1984 г. Ю. Фэйбс и Д. Струк [71] получили оценку (2.16) для операторов с измеримыми старшими коэффициентами при $r>r_0$, где $r_0<n$ – показатель, зависящий от константы эллиптичности оператора. В работах [72] и [73] эта оценка была установлена для задачи с наклонной производной. С другой стороны, К. Пуччи [74] с помощью введенных им понятий максимального и минимального операторов установил нижнюю границу для значений $r_0$, при которых такая оценка возможна (в связи с этим см. [75] и цитируемую там литературу). Необходимые и достаточные условия выполнения оценки (2.16) получены лишь в двумерном случае [76]. В ряде работ (см. [77] и приведенную там литературу) результаты статьи [71] были распространены на вязкостные решения нелинейных уравнений. В работе [78] установлена серия оценок максимума решения через $L_m$-нормы правой части (здесь $m\in(n/2,n]$ – целое число) при условии, что матрица старших коэффициентов уравнения для почти всех $x\in\Omega$ принадлежит некоторому специальному выпуклому конусу в пространстве матриц. Среди недавних продвижений в этом направлении назовем статью Н. С. Трудингера [79]. Несомненно, эти исследования еще далеки от завершения. Следует отметить также работу [80], в которой изучается зависимость оценки максимума от характеристик области. В частности, удалось получить оценку через $|\Omega|^{1/n}$ вместо диаметра области (заметим, что для выпуклых областей это было сделано еще в [48]). Упомянем еще работу Х.-Ж. Куо и Н. С. Трудингера 2000 г., в которой получен дискретный аналог оценки Александрова–Бакельмана для разностных операторов. 2.4. Результаты для операторов с коэффициентами $b^i(x)$ из пространств ЛебегаПростейшее следствие оценки Александрова–Бакельмана – слабый принцип максимума для операторов вида (2.1) с коэффициентами $b^i\in L_n(\Omega)$ и функций $u\in W^2_n(\Omega)$. Более того, как указано уже в [48], эта оценка позволяет рассмотреть оператор $\mathcal{L}+c(x)$ с коэффициентом $c(x)$ “неправильного знака”. Следствие 2.2. Предположим, что коэффициенты оператора $\mathcal{L}$ удовлетворяют условиям теоремы 2.3. Тогда существует константа $\delta>0$, зависящая только от $n$, $\operatorname{diam}\Omega$ и $\|\mathfrak{h}\|_{n,\Omega}$ (функция $\mathfrak{h}$ введена в (2.12)), такая, что если (напомним, что мы полагаем $0/0=0$, если такая неопределенность возникает), то для оператора $\mathcal{L}+c(x)$ и функций $u\in W^2_{n,{\rm loc}}(\Omega)$ справедлив слабый принцип максимума. Доказательство. Предположим, напротив, что $\mathcal{L}u+cu\geqslant0$ в $\Omega$ и $u\geqslant0$ на $\partial\Omega$, но $\min_{\Omega}u=-A<0$. Рассмотрим функцию $u^\varepsilon=-u-\varepsilon$ и применим к ней оценку (2.13). Поскольку на множестве $\{u^\varepsilon>0\}$ справедливо неравенство $\mathcal{L}u^\varepsilon=-\mathcal{L}u\leqslant cu\leqslant Ac_-$, мы получаем что невозможно, если $N(n,\|\mathfrak{h}\|_{n,\Omega}) \operatorname{diam}(\Omega)\|h\|_{n,\Omega}<1$ и $\varepsilon>0$ достаточно мало. Следствие доказано. Легко видеть, что доказательство теоремы 2.1 теперь проходит без изменений для так называемых сильных суперрешений: $u\in W^2_n(\Omega)$ и $\mathcal{L}u+cu\geqslant0$ почти всюду в $\Omega$ (коэффициенты оператора $\mathcal{L}$ измеримы и ограничены). Однако для того, чтобы включить в рассмотрение младшие коэффициенты из пространств Лебега, были необходимы новые идеи. Заметим, что снизить требование $b^i\in L_n(\Omega)$ до $b^i\in L_p(\Omega)$ при $p<n$ невозможно: функция $u(x)=|x|^2$ удовлетворяет уравнению
$$
\begin{equation*}
-\Delta u+\frac{nx_i}{|x|^2}\,D_iu=0 \quad\text{в} \ B_1,
\end{equation*}
\notag
$$
но не удовлетворяет принципу максимума; коэффициенты $b^i(x)=nx_i/|x|^2$ при этом лежат в пространстве $L_p(B_1)$ с любым $p<n$ и даже в слабом пространстве $L_n$ – пространстве Лоренца $L_{n,\infty}(B_1)$, но не в $L_n(B_1)$. Сильный принцип максимума для операторов с $b^i\in L_n(\Omega)$ был установлен в [30; ч. VI]. Мы докажем простейший вариант этого результата31. Теорема 2.4. Пусть $\mathcal{L}$ – оператор вида (2.1), выполнено условие (2.3) и $b^i\in L_{n,{\rm loc}}(\Omega)$. Предположим, что $u\in W^2_{n,{\rm loc}}(\Omega)$ и неравенство $\mathcal{L}u\geqslant0$ выполнено почти всюду в $\Omega$. Если $u$ достигает наименьшего значения во внутренней точке области, то $u \equiv \operatorname{const}$ и $\mathcal{L} u \equiv 0$. Доказательство. Предположим, что $u\not\equiv \operatorname{const}$, но множество (2.4) не пусто. Как и в доказательстве теоремы 2.1, в $\Omega\setminus M$ найдется шар, граница которого содержит точку $x^0\in M$. Обозначим радиус этого шара $r/2$ и будем считать, не умаляя общности, что $B_r\subset\Omega$. Обозначим $\pi= B_r\setminus \overline{B}_{r/4}$ и рассмотрим в $\pi$ барьерную функцию (2.5). Имеем
$$
\begin{equation*}
\mathcal{L}v_s(x) \leqslant s|x|^{-s-2}\bigl(-(s+2)\nu +n\nu^{-1}+ r|\mathbf{b}(x)|\bigr).
\end{equation*}
\notag
$$
В отличие от теоремы 2.1, здесь мы не можем добиться выполнения неравенства $\mathcal{L}v_s\leqslant0$. Однако, выбрав $s=n\nu^{-2}$, мы получим
$$
\begin{equation*}
\mathcal{L}v_s(x) \leqslant s|x|^{-s-2}|\mathbf{b}(x)|\leqslant 4^{s+2}sr^{-s-1}|\mathbf{b}(x)|\quad\text{в}\ \pi.
\end{equation*}
\notag
$$
По построению на $\partial B_{r/4}$ выполнено неравенство $u(x)-u(x^0)>0$. Поэтому для достаточно малого $\varepsilon>0$ функция $w^\varepsilon(x)=\varepsilon v_s(x)-u(x)+u(x_0)$ неположительна на всей границе области $\pi$. Применяя к $w^\varepsilon$ в $\pi$ оценку (2.15), получаем
$$
\begin{equation*}
\begin{aligned} \, w^\varepsilon(x)&\leqslant C(n,\nu,\|\mathbf{b}\|_{n,\pi})r\varepsilon \|(\mathcal{L}v_s(x))_+\|_{n,\pi} \\ &\leqslant C(n,\nu,s,\|\mathbf{b}\|_{n,\pi})\varepsilon r^{-s} \|\mathbf{b}\|_{n,\pi}, \end{aligned}
\end{equation*}
\notag
$$
и потому
$$
\begin{equation}
u(x)-u(x^0)\geqslant \varepsilon\bigl(|x|^{-s}-r^{-s}- C(n,\nu,s,\|\mathbf{b}\|_{n,\pi})\|\mathbf{b}\|_{n,\pi}r^{-s}\bigr).
\end{equation}
\tag{2.18}
$$
По теореме Лебега для любого $\delta>0$ можно выбрать $r$ столь малым, что $\|\mathbf{b}\|_{n,\pi}\leqslant\delta$. Тогда неравенство (2.18) в точке $x^0$ дает что невозможно при достаточно малом $\delta$. Теорема доказана. В качестве следствия в [30; ч. VI] было доказано такое утверждение32. Следствие 2.3. Пусть оператор $\mathcal{L}$ и функция $u$ удовлетворяют условиям теоремы 2.4. Пусть в окрестности $U$ точки $x^0\in\partial\Omega$ область удовлетворяет условию внутреннего шара. Предположим, что Тогда $u\equiv \operatorname{const}$ в $\Omega$. Доказательство. Продолжая функцию $u$ константой за пределы $\Omega$ в окрестности точки $x^0$, мы попадаем в условия теоремы 2.4. Легко видеть, что следствие 2.3 существенно слабее леммы о нормальной производной, поскольку условия (2.19) должны выполняться на целом куске границы. Однако в отличие от случая ограниченных младших коэффициентов (когда сильный принцип максимума и лемма о нормальной производной доказываются практически одинаково) в условиях теоремы 2.4 лемма о нормальной производной неверна! Приведем соответствующий контрпример (см. [81]–[83]). Пусть $u(x)=x_n\ln^\alpha(|x|^{-1})$ в полушаре $B_r^+=B_r\cap\{x_n>0\}$. Тогда легко видеть, что $u\in W^2_n(B_r^+)$ при $r\leqslant 1/2$ и $\alpha<(n-1)/n$. Далее, прямое вычисление показывает, что $u$ удовлетворяет уравнению где
$$
\begin{equation*}
|b^n|\leqslant \frac{C(\alpha)}{|x|\ln(|x|^{-1})}\in L_n(B_r^+).
\end{equation*}
\notag
$$
Наконец, $u>0$ в $B_r^+$ и $u$ достигает наименьшего значения в граничной точке $0$. Однако при $\alpha<0$ очевидно имеем $D_nu(0)=0$. Замечание 2.4. Ослабленная форма леммы о нормальной производной (см. [40]) в этом примере верна. Мы предполагаем, что такое утверждение верно для общего равномерно эллиптического оператора $\mathcal{L}$ с $b^i\in L_n(\Omega)$, но, насколько нам известно, этот вопрос остается открытым. Замечание 2.5. Приведенный контрпример также показывает, что условия $b^i\in L_n(\Omega)$ недостаточно для оценки градиента решения задачи Дирихле на $\partial\Omega$, поскольку при $\alpha>0$ имеем $D_nu(0)=+\infty$. Важную роль играет статья О. А. Ладыженской и Н. Н. Уральцевой [84] (краткое сообщение было опубликовано тремя годами раньше в Докладах АН СССР). Здесь впервые был применен итерационный метод оценки решения в окрестности границы. В простейшем случае он выглядит так. Пусть в цилиндре $Q_{1,1}$ задана функция $u$, удовлетворяющая уравнению $\mathcal{L}u=f$ и граничному условию $u\big|_{x_n=0}=0$. Введем последовательность цилиндров $Q_{r_k,h_k}$, где $r_k=2^{-k}$, а $h_k$ – подходящим образом выбранная последовательность такая, что $h_k=o(r_k)$ при $k\to\infty$. Обозначим и применим оценку Александрова–Бакельмана к разности
$$
\begin{equation*}
u(x)-M_kh_k \cdot \mathfrak{v}\biggl(\frac{x'}{r_k}\,,\frac{x_n}{h_k}\biggr),
\end{equation*}
\notag
$$
где $\mathfrak{v}$ – специальная барьерная функция. Полученная оценка, взятая в точках $x\in Q_{r_{k+1},h_{k+1}}$, дает рекуррентное соотношение между $M_{k+1}$ и $M_k$. Итерированием этого соотношения получаем $\limsup_k M_k<\infty$, что дает оценку сверху для $D_nu(0)$ через $\sup_{Q_{1,1}}u$ и некоторую интегральную норму правой части. В [84] эта схема была применена к уравнению $\mathcal{L}u=f$ с равномерно эллиптическим оператором $\mathcal{L}$ при условиях
$$
\begin{equation}
u\in W^2_n(\Omega),\quad b^i\in L_q(\Omega),\quad f_+\in L_q(\Omega),\qquad q>n,
\end{equation}
\tag{2.20}
$$
в области одного из двух классов: 1) выпуклые области; 2) области класса33 $W^2_q$. В работе [66], как уже упоминалось в п. 2.3, была установлена оценка александровского типа в $\Omega\subset Q_{R,R}$ для операторов вида (2.1) с “составными” младшими коэффициентами $b^i=b^i_{(1)}+b^i_{(2)}$ при условии
$$
\begin{equation}
b^i_{(1)}\in L_n(\Omega),\quad |b^i_{(2)}(x)|\leqslant Cx_n^{\gamma-1},\quad \gamma\in(0,1).
\end{equation}
\tag{2.21}
$$
На основании этого результата в [66] была установлена оценка $\operatorname{ess}\,\sup\partial_{\mathbf{n}}u$ на $\partial\Omega$ в области класса $W^2_q$, $q>n$, при условиях
$$
\begin{equation*}
\begin{alignedat}{3} b^i&=b^i_{(1)}+b^i_{(2)}, &\qquad b^i_{(1)}&\in L_q(\Omega), &\quad |b^i_{(2)}(x)|&\leqslant Cx_n^{\gamma-1}, \\ \mathcal{L}u&=f^{(1)}+f^{(2)}, &\qquad f^{(1)}_+&\in L_q(\Omega), &\quad f^{(2)}_+(x)&\leqslant Cx_n^{\gamma-1}, \end{alignedat} \qquad\gamma\in(0,1).
\end{equation*}
\notag
$$
В работе М. В. Сафонова [85] (см. также [86]) был развит новый подход к проблеме, основанный на граничном неравенстве Гарнака (см. п. 4.3). При этом единым способом установлены:
В статье [82] итерационный метод Ладыженской–Уральцевой (несколько усовершенствованный) был применен35 для вывода леммы о нормальной производной в области $\Omega=Q_{R,R}$ при условиях
$$
\begin{equation*}
\begin{gathered} \, u\in W^2_{n,{\rm loc}}(\Omega)\cap \mathcal{C}(\overline{\Omega}),\qquad \min_{\overline\Omega} u=u(0); \\ b^i\in L_n(\Omega),\qquad b^n\in L_q(\Omega),\quad q>n. \end{gathered}
\end{equation*}
\notag
$$
Таким образом, оказалось, что по сравнению с $b^i\in L_n(\Omega)$ достаточно усилить условие только на нормальную компоненту вектора $\mathbf{b}$. В работе [83] получены наиболее точные на данный момент условия справедливости как леммы о нормальной производной, так и оценки градиента решения задачи Дирихле на границе области. При этом явным образом продемонстрирована двойственность этих утверждений. Результат достигается комбинацией техники Ладыженской–Уральцевой–Сафонова и оценки александровского типа [60], в которой условие на $b^i_{(2)}$ из (2.21) уточнено до $|b^i_{(2)}(x)|\leqslant \sigma(x_n)/x_n$, $\sigma\in\mathcal{D}$. Приведем формулировку этого результата. Теорема 2.5. Пусть $\mathcal{L}$ – равномерно эллиптический оператор вида (2.1) в области $\Omega=Q_{R,R}$. Пусть $b^i=b^i_{(1)}+b^i_{(2)}$ и выполнены условия Пусть также $u\in W^2_{n,{\rm loc}}(\Omega)\cap \mathcal{C}(\overline{\Omega})$. Тогда справедливы следующие утверждения. 1. Если $u>0$ в $Q_{R,R}$, $u(0)=0$ и $\mathcal{L}u\geqslant0$, то 2. Если $u\big|_{x_n=0}\leqslant0$, $u(0)=0$ и $\mathcal{L}u=f^{(1)}+f^{(2)}$, где то где $C<\infty$ определяется известными величинами.Важно отметить, что включение слагаемого $b^i_{(2)}$ позволяет проводить преобразование координат, использующее регуляризованное расстояние, в окрестности недостаточно гладкой границы. Таким образом к теореме 2.5 сводятся соответствующие утверждения в областях, удовлетворяющих условию внутреннего/внешнего $\mathcal{C}^{1,\mathcal{D}}$-параболоида. В работе [15] был построен новый контрпример, показывающий точность условия внутреннего $\mathcal{C}^{1,\mathcal{D}}$-параболоида для леммы о нормальной производной. Приведем его формулировку в простейшем случае. Теорема 2.6. Пусть $\Omega$ – область, локально выпуклая в окрестности начала координат, т. е. при некотором $R>0$ где $F$ – выпуклая функция, $F \geqslant 0$ и $F(0)=0$. Пусть, далее, $u \in W^2_{n,{\rm loc}}( \Omega) \cap \mathcal{C}( \overline{\Omega})$ – решение уравнения $\mathcal{L}_0u=0$ с равномерно эллиптическим оператором $\mathcal{L}_0$, удовлетворяющее условию $u\big|_{\partial\Omega\cap B_R}=0$. Если функция не удовлетворяет условию Дини в нуле, тоЗаметим, что если $\delta(r)$ удовлетворяет условию Дини в нуле, то $\Omega$ удовлетворяет условию внутреннего $\mathcal{C}^{1,\mathcal{D}}$-параболоида в начале координат. Таким образом, в случае локально выпуклых областей условие Дини в нуле для функции $\delta(r)$ необходимо и достаточно для справедливости леммы о нормальной производной. Подчеркнем, что все предыдущие контрпримеры этого типа (см. [34], [35], [37] и [85]) требуют отсутствия условия Дини для функции $\inf\limits_{|x'|\leqslant r}\dfrac{F(x')}{|x'|}$ . Грубо говоря, в них условие Дини должно нарушаться во всех направлениях, в то время как в теореме 2.6 достаточно его нарушения в одном направлении. Для областей общего вида в работе [86] был построен более тонкий контрпример, который, однако, слишком сложен для описания. 2.5. Неравенство ГарнакаКак уже упоминалось во введении, неравенство Гарнака, которое можно рассматривать как количественную версию сильного принципа максимума, впервые было доказано К. Г. А. фон Гарнаком [3] для гармонических функций на плоскости. Поскольку доказательство Гарнака основано на формуле Пуассона, оно очевидным образом справедливо в любой размерности. Формулировка Гарнака вошла в большинство учебников: Если $u\geqslant0$ – гармоническая функция в $B_R\subset\mathbb{R}^n$, то
$$
\begin{equation}
u(0)\frac{(R-|x|)R^{n-2}}{(R+|x|)^{n-1}}\leqslant u(x)\leqslant u(0)\frac{(R+|x|)R^{n-2}}{(R-|x|)^{n-1}}\,.
\end{equation}
\tag{2.22}
$$
Отсюда для $\Omega=B_R$ и $\Omega'=B_{\theta R}$, $\theta<1$, немедленно следует неравенство (1.2) с $C=\biggl(\dfrac{1+\theta}{1-\theta}\biggr)^n$. Далее в этом параграфе предполагается выполненным условие равномерной эллиптичности (2.3). Л. Лихтенштейн в 1912 г. доказал неравенство (1.2) для операторов общего вида $\mathcal{L}+c(x)$, $c\geqslant0$, с $\mathcal{C}^2$-гладкими коэффициентами (также в двумерном случае). Дж. Серрин в 1955 г. установил неравенство Гарнака при $n=2$ для операторов $\mathcal{L}+c(x)$, $c\geqslant0$, с ограниченными коэффициентами. Одновременно и независимо этот результат был получен в работе Л. Берса и Л. Ниренберга. Для случая $n\geqslant3$ Серрин также доказал (1.2) при условии36 $a^{ij}\in\mathcal{C}^{0,\mathcal{D}}(\Omega)$. Важное улучшение было сделано Е. М. Ландисом [87] (см. также [28; гл. 1]). С помощью предложенной им леммы о возрастании он доказал неравенство Гарнака в произвольной размерности для оператора $\mathcal{L}_0$ с ограниченными коэффициентами при дополнительном условии – разброс собственных чисел матрицы $\mathcal{A}$ достаточно мал37. Именно, предполагаются выполненными следующие соотношения (после домножения матрицы $\mathcal{A}$ на подходящую положительную функцию):
$$
\begin{equation}
\operatorname{Tr}(\mathcal{A})\equiv1, \qquad \nu>\frac{1}{n+2}
\end{equation}
\tag{2.23}
$$
(очевидно, что всегда выполнено неравенство $\nu\leqslant 1/n$, причем равенство возможно только для оператора Лапласа). Отметим, что все перечисленные результаты были получены для классических решений $u\in\mathcal{C}^2(\Omega)$. Наконец, решающий шаг был сделан Н. В. Крыловым и М. В. Сафоновым [88], [89]. Сочетая метод Ландиса с оценками Александрова–Бакельмана (в эллиптическом случае) и Крылова [57] (в параболическом случае), им удалось получить неравенство (1.2) для сильных решений эллиптических [89] и параболических [88] уравнений с операторами общего вида $\mathcal{L}+c(x)$, $c\geqslant0$ (с ограниченными коэффициентами), без предположений о непрерывности матрицы $\mathcal{A}$ или о малости разброса ее собственных значений38. Для операторов $\mathcal{L}$ с условием $b^i\in L_n(\Omega)$ неравенство Гарнака было доказано в [82] (см. также [59]). В статьях [91] и [92] продемонстрирован единый подход к доказательству неравенства Гарнака для дивергентных и недивергентных операторов. В то же время в [91] было показано39, что для операторов смешанного (дивергентно-недивергентного) вида (матрицы старших коэффициентов $\mathcal{A}$ и $\widetilde{\mathcal{A}}$ удовлетворяют условию равномерной эллиптичности) неравенство Гарнака может не выполняться даже при $n=1$.Упомянем еще работу [94], в которой неравенство Гарнака и гёльдеровская непрерывность решений были рассмотрены в “абстрактном” контексте метрических и квазиметрических пространств. 3. Операторы дивергентного видаВ этом разделе рассматриваются операторы следующей структуры: (в случае $\mathbf{b}\equiv 0$ вместо ${\mathfrak L}$ будем писать ${\mathfrak L}_0$), а также операторы более общего вида
$$
\begin{equation}
\widehat{\mathfrak L}\equiv -D_i(a^{ij}(x)D_j+d^i)+b^i(x)D_i+c(x).
\end{equation}
\tag{3.2}
$$
Матрица старших коэффициентов $\mathcal{A}$ симметрична и удовлетворяет условию эллиптичности
$$
\begin{equation}
\nu(x)|\xi|^2\leqslant a^{ij}(x)\xi_i\xi_j\leqslant \mathcal{V}(x)|\xi|^2 \quad\text{для всех } \xi\in\mathbb{R}^n
\end{equation}
\tag{3.3}
$$
или условию равномерной эллиптичности (2.3) для почти всех $x\in\Omega$. В (3.3) функции $\nu(x)$ и $\mathcal{V}(x)$ положительны и конечны40 почти всюду в $\Omega$. Под решением уравнения $\widehat{\mathfrak L}u=0$ здесь понимается слабое решение, т. е. функция $u\in W^1_{2,{\rm loc}}(\Omega)$ такая, что интегральное тождество
$$
\begin{equation*}
\langle \widehat{\mathfrak L}u,\eta\rangle:= \int_{\Omega}(a^{ij}D_juD_i\eta+b^iD_iu\,\eta+d^iuD_i\eta+cu\eta)\,dx=0
\end{equation*}
\notag
$$
выполняется для любой пробной функции $\eta\in\mathcal{C}^\infty_0(\Omega)$. Соответственно слабое суперрешение ($\widehat{\mathfrak L}u\geqslant0$) – это функция $u\in W^1_{2,{\rm loc}}(\Omega)$ такая, что
$$
\begin{equation}
\int_{\Omega}(a^{ij}D_juD_i\eta+b^iD_iu\,\eta+d^iuD_i\eta+ cu\eta)\,dx \geqslant 0
\end{equation}
\tag{3.4}
$$
для любой неотрицательной пробной функции $\eta\in \mathcal{C}^\infty_0(\Omega)$. Аналогично определяется слабое субрешение ($\widehat{\mathfrak L}u\leqslant0$). Докажем для оператора $\widehat{\mathfrak L}$ слабый принцип максимума при простейших ограничениях на коэффициенты. Теорема 3.1. Пусть $n\geqslant3$, $\widehat{\mathfrak L}$ – оператор вида (3.2) в области $\Omega\subset\mathbb R^n$, выполнено условие (2.3), и функция ${\mathfrak u}\equiv1$ – слабое суперрешение уравнения $\widehat{\mathfrak L}u=0$ в $\Omega$. Пусть $u\in W^1_{2,{\rm loc}}(\Omega)$, $\widehat{\mathfrak L}u\geqslant0$ в $\Omega$ и $u\geqslant0$ на $\partial\Omega$.41 Тогда $u\geqslant0$ в $\Omega$. Доказательство. 1. Для начала заметим, что билинейная форма $\langle \widehat{\mathfrak L}u,\eta\rangle$ непрерывна на $W^1_{2,{\rm loc}}(\Omega)\times\mathring{W}^1_2(\Omega')$, если $\overline{\Omega}{}'\subset\Omega$. Действительно, применяя неравенства Гёльдера и Соболева, получаем
$$
\begin{equation*}
\begin{aligned} \, |\langle \widehat{\mathfrak L}u,\eta\rangle|&\leqslant \nu^{-1}\|Du\|_{2,\Omega'}\|D\eta\|_{2,\Omega'}+\|\mathbf{b}\|_{n,\Omega} \|Du\|_{2,\Omega'}\|\eta\|_{2^*,\Omega'} \\ &\qquad+\|\mathbf{d}\|_{n,\Omega}\|D\eta\|_{2,\Omega'}\|u\|_{2^*,\Omega'}+ \|c\|_{n/2,\Omega}\|u\|_{2^*,\Omega'}\|\eta\|_{2^*,\Omega'} \\ &\leqslant C\bigl(\|Du\|_{2,\Omega'}+\|u\|_{2,\Omega'}\bigr) \|D\eta\|_{2,\Omega'} \end{aligned}
\end{equation*}
\notag
$$
(здесь и далее $2^*=2n/(n-2)$ – предельный показатель Соболева). Поэтому в определении слабого решения (суб/суперрешения) можно брать любые пробные функции $\eta\in\mathring{W}^1_2(\Omega)$ с компактным носителем. 2. Предположим, напротив, что $\operatorname{ess}\inf_{\Omega}u=-A<0$ (случай $A=\infty$ не исключается). Тогда при $0<k<A$ функция $\eta=(u+k)_-\in\mathring{W}^1_2(\Omega)$ неотрицательна и имеет компактный носитель в $\Omega$, а потому справедливо неравенство (3.4). Поскольку $D(u+k)_-=-Du\cdot\chi_{\{u<-k\}}$, это дает
$$
\begin{equation*}
\begin{aligned} \, \int_{\{u<-k\}}a^{ij}D_juD_iu\,dx&\leqslant \int_{\{u<-k\}}\!(b^iD_iu\,\eta+ d^iuD_i\eta+cu\eta)\,dx \\ &=\int_{\{u<-k\}}(b^i-d^i)D_iu\,\eta\,dx \\ &\qquad+\int_{\{u<-k\}}(d^iD_i(u\eta)+c(u\eta))\,dx. \end{aligned}
\end{equation*}
\notag
$$
Последнее слагаемое здесь неположительно, поскольку ${\mathfrak u}\equiv1$ – слабое суперрешение. Используя в левой части условие (2.3), а в правой – неравенства Гёльдера и Соболева, мы получаем
$$
\begin{equation}
\nu \|Du\|^2_{2,\{u<-k\}}\leqslant \bigl(\|\mathbf{b}\|_{n,\{u<-k\}}+ \|\mathbf{d}\|_{n,\{u<-k\}}\bigr)\|Du\|^2_{2,\{u<-k\}}.
\end{equation}
\tag{3.5}
$$
Если $A=\infty$, то первый множитель в правой части стремится к нулю при $k\to\infty$, что дает противоречие. Если же $A<\infty$, то $Du=0$ почти всюду на множестве $\{u=-A\}$ и неравенство (3.5) переписывается так:
$$
\begin{equation*}
\nu\leqslant \|\mathbf{b}\|_{n,\mathscr{A}_k}+ \|\mathbf{d}\|_{n,\mathscr{A}_k},
\end{equation*}
\notag
$$
где Очевидно, что $|\mathscr{A}_k|\to0$ при $k\to A$. Следовательно, и мы вновь приходим к противоречию. Теорема доказана. Замечание 3.1. В недавней работе [95] доказан слабый принцип максимума в области класса Джона для функций $u\in W^1_2(\Omega)$, если $\widehat{\mathfrak L}u\geqslant0$ в $\Omega$, а вместо условия $u\geqslant0$ на $\partial\Omega$ выполняется условие с конормальной производной $(a^{ij}D_ju+d^iu)\mathbf{n}_i\geqslant0$, т. е. неравенство (3.4) выполнено для всех неотрицательных функций $\eta\in W^1_2(\Omega)$. 3.1. Неравенство Гарнака и сильный принцип максимумаВ отличие от недивергентных операторов, 42 в дивергентном случае почти все результаты о сильном принципе максимума были получены как следствие соответствующих неравенств Гарнака.
Сравните годы появления первых результатов, приведенные в таблице:
В связи с этим мы приводим историю этих результатов параллельно. Несколько особняком стоят две работы У. Литтмана 1959 и 1963 гг., в которых изучались операторы формально сопряженные к операторам вида (2.1). Слабым суперрешением уравнения $\mathcal{L}^*u+cu=0$ называется функция $u\in L_{1,{\rm loc}}(\Omega)$ такая, что для любой неотрицательной пробной функции $\eta\in \mathcal{C}^\infty_0(\Omega)$ выполнено неравенство
$$
\begin{equation*}
\langle \mathcal{L}^*u+cu,\eta\rangle:= \int_{\Omega}u (\mathcal{L}\eta+c\eta)\,dx\geqslant0.
\end{equation*}
\notag
$$
В первой из этих работ коэффициенты оператора предполагались гладкими, во второй условия были существенно ослаблены. Сформулируем этот результат. Пусть $\mathcal{L}$ – оператор вида (2.1), функции $a^{ij}$, $b^i$ и $c$ принадлежат $\mathcal{C}^{0,\alpha}(\Omega)$, $\alpha\in(0,1)$, выполнено условие (2.3), и пусть $u$ – слабое суперрешение уравнения $\mathcal{L}^*u+cu=0$ в $\Omega$. Тогда справедливы следующие утверждения.
Дальнейшее развитие этих результатов для оператора вида (3.6) можно найти в работах [96], [97] (см. также цитируемую там литературу). Вернемся к дивергентным уравнениям. Впервые неравенство Гарнака для равномерно эллиптического оператора ${\mathfrak L}_0$ с измеримыми коэффициентами было доказано Ю. Мозером44 [98]. В работе Г. Стампаккья [101] этот результат был обобщен на операторы вида (3.2) при условии
$$
\begin{equation}
b^i\in L_n(\Omega),\quad d^i\in L_q(\Omega),\quad c\in L_{q/2}(\Omega),\qquad q>n.
\end{equation}
\tag{3.7}
$$
Аналогичный результат можно извлечь из статьи [102], посвященной квазилинейным уравнениям. В качестве следствия в [101] доказан сильный принцип максимума в двух вариантах:
Теорема 3.2. Пусть $\mathfrak{L}$ – равномерно эллиптический оператор вида (3.1) в области $\Omega\subset\mathbb R^n$, $n\geqslant3$, и $b^i\in L_n(\Omega)$. Пусть $u\in W^1_{2,{\rm loc}}(\Omega)$ и ${\mathfrak L}u\geqslant0$ в $\Omega$. Если $u$ достигает в точке $x^0\in\Omega$ наименьшего значения45, то $u\equiv \operatorname{const}$. Доказательство. 1. Аналогично п. 1 доказательства теоремы 3.1 получаем, что в определении слабого решения (суб/суперрешения) можно брать любые пробные функции $\eta\in\mathring{W}^1_2(\Omega)$ с компактным носителем. 2. Пусть теперь $v$ – слабое субрешение, т. е. ${\mathfrak L}v\leqslant0$ в $\Omega$. Подставим в неравенство $\langle {\mathfrak L}v,\eta\rangle\leqslant0$ пробную функцию $\eta=\varphi'(v)\cdot\varsigma$, где $\varsigma$ – неотрицательная липшицева функция с носителем в $\overline{B}_{2R}\subset\Omega$, а $\varphi$ – выпуклая липшицева на $\mathbb R$ функция, равная нулю на отрицательной полуоси. Это дает
$$
\begin{equation}
\int_{B_{2R}\cap\{u>0\}}\biggl(a^{ij}D_jVD_i\varsigma+\frac{\varphi''(v)} {(\varphi'(v))^2}a^{ij}D_jVD_iV\varsigma+b^iD_iV\varsigma\biggr)\,dx \leqslant0,
\end{equation}
\tag{3.8}
$$
где $V=\varphi(v)\in W^1_{2,{\rm loc}}(\Omega)$. В частности, поскольку второе слагаемое в (3.8) неотрицательно, $V$ – также слабое субрешение. Положим46 в (3.8) $\varphi(\tau)=\tau_+^p$, $p>1$, и $\varsigma=V\zeta^2$, где $\zeta$ – гладкая срезка в $B_{2R}$. Получим
$$
\begin{equation}
\int_{B_{2R}}\frac{2p-1}{p}\,a^{ij}D_jVD_iV\,\zeta^2\,dx\leqslant -\int_{B_{2R}}(2a^{ij}D_jV\,VD_i\zeta\,\zeta+b^iD_iV\,V\zeta^2)\,dx.
\end{equation}
\tag{3.9}
$$
Левую часть (3.9) оценим снизу по неравенству (2.3), а правую – сверху по неравенствам Гёльдера и Соболева:
$$
\begin{equation*}
\begin{aligned} \, \nu\|DV\,\zeta\|^2_{2,B_{2R}}&\leqslant 2\nu^{-1}\|DV\,\zeta\|_{2,B_{2R}} \|VD\zeta\|_{2,B_{2R}} \\ &\qquad+\|\mathbf{b}\|_{n,B_{2R}}\|DV\,\zeta\|_{2,B_{2R}} \|V\,\zeta\|_{2^*,B_{2R}} \\ &\leqslant N(n)\|\mathbf{b}\|_{n,B_{2R}}\|DV\,\zeta\|^2_{2,B_{2R}}+ C\|DV\,\zeta\|^2_{2,B_{2R}}\|VD\zeta\|^2_{2,B_{2R}}. \end{aligned}
\end{equation*}
\notag
$$
По теореме Лебега при достаточно малом $R_*$ имеем
$$
\begin{equation*}
N(n)\|\mathbf{b}\|_{n,B_{2R_*}}\leqslant\frac{\nu}{2}\,.
\end{equation*}
\notag
$$
Это дает для $R\leqslant R_*$
$$
\begin{equation}
\|DV\,\zeta\|_{2,B_{2R}}\leqslant C(n,\nu,\|\mathbf{b}\|_{n,\Omega})\|VD\zeta\|_{2,B_{2R}}.
\end{equation}
\tag{3.10}
$$
Положим в (3.10) $R_k=R(1+2^{-k})$, $k\in \mathbb N\cup\{0\}$, и возьмем $\zeta=\zeta_k$ такие, что
$$
\begin{equation*}
\zeta_k\equiv1\quad \text{в}\ B_{R_{k+1}},\qquad \zeta_k\equiv0\quad \text{вне}\ B_{R_k},\qquad |D\zeta_k|\leqslant \frac{2^{k+2}}{R}\,.
\end{equation*}
\notag
$$
Тогда получим
$$
\begin{equation}
\|DV\,\zeta_k\|_{2,B_{R_k}}\leqslant \frac{C(n,\nu,\|\mathbf{b}\|_{n,\Omega})}{R}\cdot 2^k\|V\|_{2,B_{R_k}}.
\end{equation}
\tag{3.11}
$$
Теперь для $p=p_k\equiv (2^*/2)^k$ мы выводим из неравенства Соболева и (3.11) где $C$ зависит только от $n$, $\nu$ и $\|\mathbf{b}\|_{n,\Omega}$. Итерируя (3.12), получаем, что любое (слабое) субрешение $v$ допускает оценку 3. Приступим теперь к доказательству теоремы. Не умаляя общности, можно считать, что $\operatorname{ess}\inf_\Omega u=0$. Предположим противное. Тогда в области $\Omega$ найдется точка $x^0$ такая, что $\operatorname{ess}\liminf_{x\to x^0}u= 0$, но для некоторых $k>0$, $\delta>0$ и $R\leqslant R_*$ выполнено неравенство
$$
\begin{equation}
|\{u\geqslant k\}\cap B_R(x^0)|\geqslant\delta|B_R|.
\end{equation}
\tag{3.14}
$$
Не умаляя общности, считаем, что $\overline{B}_{2R}(x^0)\subset\Omega$. Поместим начало координат в точку $x^0$ и введем функцию $v_\varepsilon(x)=1-\varepsilon-u/k$, $\varepsilon>0$. Очевидно, что $v_\varepsilon$ – субрешение. Применим неравенство (3.8) с $V=\varphi(v^\varepsilon)\equiv \biggl(\ln\dfrac{1}{1-v^\varepsilon}\biggr)_+$ (это возможно, поскольку $v^\varepsilon<1$) и $\varsigma=\zeta^2$, где $\zeta$ – гладкая срезающая функция, равная единице в $B_R$. Поскольку $\varphi''/\varphi^{\prime2}\equiv1$, с помощью (2.3) и неравенств Гёльдера и Соболева получим
$$
\begin{equation*}
\begin{aligned} \, \nu\|DV\,\zeta\|^2_{2,B_{2R}}&\leqslant \int_{B_{2R}}a^{ij}D_jVD_iV\,\zeta^2\,dx \\ &\leqslant -\int_{B_{2R}}(2a^{ij}D_jV\,\zeta D_i\zeta+b^iD_iV\,\zeta^2)\,dx \\ &\leqslant C(n,\nu,\|\mathbf{b}\|_{n,\Omega}) \|DV\,\zeta\|_{2,B_{2R}}\|D\zeta\|_{2,B_{2R}}, \end{aligned}
\end{equation*}
\notag
$$
или
$$
\begin{equation}
\|DV\,\zeta\|_{2,B_{2R}}\leqslant C(n,\nu,\|\mathbf{b}\|_{n,\Omega})R^{n/2-1}.
\end{equation}
\tag{3.15}
$$
Заметим теперь, что $V$ обращается в нуль на множестве $\{u\geqslant k\}\cap B_R$ и $\zeta\equiv 1$ на этом множестве. Из доказательства леммы 5.1 в [104; гл. II] следует, что это влечет
$$
\begin{equation*}
|\{u\geqslant k\}\cap B_R|\cdot V(x)\,\zeta(x)\leqslant \frac{(4R)^n}{n}\int_{B_{2R}}\frac{|DV(y)|\,\zeta(y)}{|y-x|^{n-1}}\,dy.
\end{equation*}
\notag
$$
Оценим правую часть по неравенству Харди–Литтлвуда–Соболева (см., например, [17; теорема 1.18.9/3]) и учтем (3.14) и (3.15):
$$
\begin{equation*}
\begin{aligned} \, \|V\|_{2,B_R}&\leqslant C(n)R\|V\zeta\|_{2^*,B_{2R}}\leqslant \frac{C(n)}{\delta}\, R\|DV\,\zeta\|_{2,B_{2R}} \\ &\leqslant C(n,\nu,\delta,\|\mathbf{b}\|_{n,\Omega})R^{n/2}, \end{aligned}
\end{equation*}
\notag
$$
или Наконец, поскольку $V$ – субрешение, можно применить оценку (3.13). Это дает $\operatorname{ess\,sup}_{B_{R/2}} V_+\leqslant C$, что равносильно неравенству Поскольку константа $C$ не зависит от $\varepsilon$, получаем противоречие с предположением $\operatorname{ess}\liminf_{x\to 0}u=0$. Теорема доказана. Замечание 3.2. Если оценить последний член в (3.9) так: При тех же условиях справедливо и неравенство Гарнака (доказательство теоремы 2.5$'$ из работы [105] полностью переносится на этот случай). Замечание 3.3. В двумерном случае утверждение теоремы 3.2 (и даже теоремы 3.1) неверно47; приведем соответствующий контрпример из работы [106]. При $n=2$ положим $u(x)=\ln^{-1}(|x|^{-1})$. Очевидно, что при $r\leqslant 1/2$ функция $u\in W^1_2(B_r)$ является слабым решением уравнения где Однако функция $u$ достигает наименьшего значения в точке $0$.Таким образом, при $n=2$ условие на $b^i$ надо усилить. Например, можно оценить последний член в (3.9) так (ср. [107; теорема 3.1]):
$$
\begin{equation*}
\int_{B_{2R}}|b^iD_iV\,V\zeta^2|\,dx \leqslant \|\mathbf{b}\|_{L_{\Phi_1}(B_{2R})}\|DV\,\zeta\|_{2,B_{2R}} \|V\,\zeta\|_{L_{\Phi_2}(B_{2R})},
\end{equation*}
\notag
$$
где $L_\Phi$ – пространства Орлича с $N$-функцией $\Phi$ (см., например, [108; § 10]),
$$
\begin{equation*}
\Phi_1(t)=t\ln^{1/2}(1+t), \qquad \Phi_2(t)=\exp\{t^2\}-1,
\end{equation*}
\notag
$$
и применить теорему вложения Юдовича–Похожаева $\mathring{W}^1_2(\Omega) \hookrightarrow L_{\Phi_2}(\Omega)$ (см., например, [108; 10.6]). Это дает сильный принцип максимума при условии $\mathbf{b}\ln^{1/2}(1+|\mathbf{b}|)\in L_2(\Omega)$, введенном в [105]. При том же условии справедливо и неравенство Гарнака (см. [105; теорема 2.5$^\prime$]). Приведенный выше пример показывает, что степень $1/2$ у логарифма уменьшить нельзя. Со второй половины 1960-х годов количество работ о неравенстве Гарнака для дивергентных уравнений (даже линейных) быстро растет. Мы остановимся на трех важных направлениях развития этой темы. I. Неравномерно эллиптические операторыВ ряде работ изучались операторы с условием эллиптичности (3.3) при различных предположениях о функциях $\nu(x)$ и $\mathcal{V}(x)$. Н. С. Трудингер [109] доказал неравенство Гарнака для операторов ${\mathfrak L}_0$ при условии
$$
\begin{equation*}
\nu^{-1}\in L_q(\Omega),\quad \nu^{-1}\mathcal{V}^2\in L_r(\Omega), \qquad \frac{1}{q}+\frac{1}{r} <\frac{2}{n}\,.
\end{equation*}
\notag
$$
В работе [110] были рассмотрены операторы общего вида (3.2) при более слабом условии
$$
\begin{equation}
\nu^{-1}\in L_q(\Omega),\quad \mathcal{V}\in L_r(\Omega), \qquad \frac{1}{q}+\frac{1}{r} <\frac{2}{n}\,;
\end{equation}
\tag{3.16}
$$
на младшие коэффициенты при этом накладывались некоторые условия48 суммируемости с весом, определяемым матрицей $\mathcal{A}$. При этих условиях в [110] установлено неравенство Гарнака, а также сильный принцип максимума в такой форме: Пусть $u$ – слабое суперрешение уравнения $\widehat{\mathfrak L}u=0$ в $\Omega$. Если ${\mathfrak u}\equiv1$ – также суперрешение, то $u$ не может достигать в $\Omega$ отрицательного минимума, за исключением случая $u\equiv\operatorname{const}$ (в этом случае $u$ – слабое решение). Для операторов простейшего вида ${\mathfrak L}_0$ в недавней статье [111] условие на показатели в (3.16) было ослаблено до $\dfrac{1}{q}+\dfrac{1}{r} <\dfrac{2}{n-1}$ . С другой стороны, в [112] был построен контрпример, показывающий, что в размерности $n\geqslant4$ при $\dfrac{1}{q}+\dfrac{1}{r}>\dfrac{2}{n-1}$ уравнение ${\mathfrak L}_0u=0$ в $B_R$ может иметь слабое решение, неограниченное в $B_{R/2}$. Вопрос о справедливости неравенства Гарнака в пограничном случае $\dfrac{1}{q}+\dfrac{1}{r}=\dfrac{2}{n-1}$ пока остается открытым. В работе [113] рассматривались операторы ${\mathfrak L}_0$ при следующих условиях49:
В статье [114] результаты [113] были обобщены на операторы общего вида (3.2). На младшие коэффициенты при этом накладывались условия
$$
\begin{equation}
\frac{b^i}{\nu}\in L_m(\Omega),\quad \frac{d^i}{\nu}\in L_q,\quad \frac{c}{\nu}\in L_{q/2},\qquad q>m
\end{equation}
\tag{3.18}
$$
(здесь $m$ – показатель, названный в [114] “внутренней размерностью”, порождаемой поведением веса $\nu$; для равномерно эллиптических операторов $m=n$ и эти условия превращаются в (3.7)). Отметим еще работы [115] и [116], в которых неравенство Гарнака было установлено для оператора ${\mathfrak L}_0$ при “абстрактных” условиях на функции $\nu(x)$ и $\mathcal{V}(x)$, а именно при выполнении некоторых весовых неравенств Соболева и Пуанкаре. II. Младшие коэффициенты из классов КатоПространства Лебега (а также Лоренца и Орлича) относятся к перестановочно инвариантным пространствам – норма функции $f$ в них определяется только поведением меры множества $\{x\in\Omega\colon |f(x)|>N\}$ при $N\to\infty$. Более тонкое описание особенностей коэффициентов может быть дано в терминах классов Като. Напомним, что класс $\mathcal{K}_{n,\beta}$, $\beta\in(0,n)$, состоит из функций $f\in L_1(\Omega)$, для которых
$$
\begin{equation}
\omega_\beta(r):=\sup_{x\in\Omega}\int_{\Omega\cap B_r(x)} \frac{|f(y)|}{|x-y|^{n-\beta}}\,dy\to 0 \quad\text{при}\ r\to 0.
\end{equation}
\tag{3.19}
$$
Соответственно $f\in\mathcal{K}_{n,\beta,{\rm loc}}$ означает, что $f\chi_{\Omega'}\in\mathcal{K}_{n,\beta}$ для любой подобласти $\Omega'$ такой, что $\overline{\Omega}{}'\subset\Omega$. Функционалы $\omega_\beta(r)$ и пространства, определяемые ими, были введены М. Шехтером в [117] и подробно исследованы в [118].51 Дальнейшее развитие теории и ссылки можно найти в [121]. Все результаты этого пункта относятся к случаю $n\geqslant3$. В статье [122] было получено неравенство Гарнака для оператора $-\Delta+c(x)$ при условии $c\in \mathcal{K}_{n,2}$. В работе [123] этот результат был распространен на равномерно эллиптические операторы вида ${\mathfrak L}_0+c(x)$ при том же условии.52 В статье [125] неравенство Гарнака было доказано для равномерно эллиптических операторов более общего вида ${\mathfrak L}+c(x)$ при условии53 Наконец, в работе [127] два описанных выше направления объединены. Именно, неравенство Гарнака доказано для операторов (3.2), причем функции $\nu(x)$ и $\mathcal{V}(x)$ из (3.3) удовлетворяют условиям $\mathcal{V}(x)\leqslant N\nu(x)$ и (3.17), а функции $(b^i)^2$, $(d^i)^2$ и $c$ принадлежат весовому аналогу класса Като $\mathcal{K}_{n,2}$ с дополнительным ограничением54: соответствующий аналог функции $\omega_2$ из (3.19) допускает при $r\to0$ оценку $O(r^\gamma)$ с некоторым $\gamma>0$.Условие (3.20) в общем случае весьма близко к оптимальному. Его вариации возможны, если наложить некоторые дополнительные условия на матрицу $\mathcal{A}$. В статье [128] рассмотрен равномерно эллиптический оператор вида (3.1) с $a^{ij}\in\mathcal{C}^{0,\alpha}(\Omega)$, $\alpha\in(0,1)$. Это ограничение позволило доказать неравенство Гарнака при условии $b^i\in\mathcal{K}_{n,1}$. Заметим, что условие Гёльдера на старшие коэффициенты в [128] излишне: используя оценки функции Грина и ее производных из [129], тот же результат можно получить при $a^{ij}\in\mathcal{C}^{0,\mathcal{D}}(\Omega)$. В недавней работе [130] разобран в некотором смысле промежуточный случай. Старшие коэффициенты равномерно эллиптического оператора ${\mathfrak L}$ в этой работе принадлежат пространству Сарасона $\operatorname{VMO}(\Omega)$. Это означает, что $\omega^{ij}(\rho)\to 0$ при $\rho\to 0$, где На младшие коэффициенты при этом накладывается условие $|b^i|^{\beta}\in \mathcal{K}_{n,\beta}$, $\beta>1$, с дополнительным ограничением
$$
\begin{equation}
\sup_{x\in\Omega}\int_{\ \Omega\cap B_r(x)\setminus B_{r/2}(x)} \frac{|b^i(y)|^{\beta}}{|x-y|^{n-\beta}}\,dy\leqslant \sigma^\beta(r),\qquad \sigma\in\mathcal{D}.
\end{equation}
\tag{3.22}
$$
Для таких операторов в [130] доказан сильный принцип максимума55. Заметим, что неравенство Гарнака также может быть доказано при этих условиях. Возможно ли снять или хотя бы ослабить ограничение (3.22), пока неясно. III. Операторы с ${\rm div}(\mathbf{b})\leqslant0$При исследовании задач гидродинамики нередко возникают (см., например, [131], [132]) операторы $-\Delta+b^i(x)D_i$ (или, более общо, операторы вида (3.1)) с дополнительным структурным условием $D_i(b^i)=0$ или $D_i(b^i)\leqslant0$ в смысле обобщенных функций. Напомним, что это означает соответственно
$$
\begin{equation*}
\int_{\Omega}b^iD_i\eta\,dx=0 \quad\text{для всех}\quad \eta\in \mathcal{C}^\infty_0(\Omega)
\end{equation*}
\notag
$$
или
$$
\begin{equation*}
\int_{\Omega}b^iD_i\eta\,dx \geqslant 0 \quad\text{для всех}\quad \eta\in \mathcal{C}^\infty_0(\Omega),\quad \eta\geqslant0.
\end{equation*}
\notag
$$
Это условие позволяет существенно ослабить предположения о регулярности коэффициентов $b^i$. В статье [133] было установлено неравенство Гарнака для оператора $-\Delta+b^i(x)D_i$ с $D_i(b^i)=0$ при условии $b^i\in \operatorname{BMO}^{-1}(\Omega)$. Это означает, что $b^i=D_j(B^{ij})$ в смысле обобщенных функций, где $B^{ij}\in \operatorname{BMO}(\Omega)$, т. е. функции $\omega^{ij}(\rho)$, определенные в (3.21) (с $B^{ij}$ вместо $a^{ij}$), ограничены56. При этом соотношение $D_i(b^i)=0$ обеспечивается дополнительным условием $B^{ij}(x)=-B^{ji}(x)$ для почти всех $x\in\Omega$. В работе [105] изучались равномерно эллиптические операторы вида (3.1) с $D_i(b^i)\leqslant0$. При этом требования на младшие коэффициенты описывались в терминах пространств Морри. Напомним, что пространство Морри ${\mathbb M}_p^\alpha(\Omega)$, $1\leqslant p<\infty$, $\alpha\in(0,n)$, состоит из функций $f\in L_p(\Omega)$, для которых
$$
\begin{equation*}
\|f\|_{\mathbb M^{\alpha}_p(\Omega)}:= \sup_{B_r(x)\subset\Omega}r^{-\alpha}\|f\|_{p,B_r(x)}<\infty.
\end{equation*}
\notag
$$
В частности, в [105] было доказано неравенство Гарнака при условии57 $b^i\in \mathbb M^{n/q-1}_q(\Omega)$, $n/2<q<n$. Н. Д. Филонов построил чрезвычайно тонкий контрпример [106; теорема 1.6]), показывающий, что даже при условии $D_i(b^i)=0$ показатель $\alpha=n/q-1$ не может быть уменьшен. Сильный принцип максимума был установлен в [105] для липшицевых суперрешений58 при $b^i\in L_q(\Omega)$, $q>n/2$. Однако с помощью аппроксимации [134; теорема 3.1] можно получить такое частичное обобщение этого результата: Пусть $\Omega\subset\mathbb R^n$, $n\geqslant3$. Предположим, что функция $u\in W^1_{2,{\rm loc}}(\Omega)$ является слабым решением уравнения $-\Delta u+b^i(x)D_iu=0$ в $\Omega$, причем
$$
\begin{equation*}
D_i(b^i)=0;\quad b^i\in L_q(\Omega); \quad q>\frac{n}{2}\quad \text{при}\ n\geqslant4;\quad q=2\quad \text{при}\ n=3.
\end{equation*}
\notag
$$
Если $u$ достигает в точке $x^0\in\Omega$ наименьшего значения, то $u\equiv \operatorname{const}$. С другой стороны, в [134] был построен следующий контрпример. Пусть $n\geqslant4$ и $u(x)=\ln^{-1}(|x'|^{-1})$. Тогда $u\in W^1_2(B_r)$ при $r\leqslant 1/2$. Прямой подсчет показывает, что $u$ является слабым решением уравнения $-\Delta u+b^i(x)D_iu=0$ при59
$$
\begin{equation*}
b^i(x)=\begin{cases} \biggl(\dfrac{n-3}{|x'|}+\dfrac{2}{|x'|\ln(|x'|^{-1})}\biggr)\, \dfrac {x_i}{|x'|}\,, & i<n; \\ -\biggl(\dfrac{(n-3)^2}{|x'|}+\dfrac{2(n-3)}{|x'|\ln(|x'|^{-1})}+ \dfrac{2}{|x'|\ln^2(|x'|^{-1})}\biggr)\,\dfrac {x_n}{|x'|}\,, & i=n. \end{cases}
\end{equation*}
\notag
$$
Несложно видеть, что $D_i(b^i)=0$ и $b^i\in L_q(B_r)$ при всех $q<(n-1)/2$. Однако сильный принцип максимума не выполняется. В недавней работе [135] был построен пример векторного поля $\mathbf{b}\in L_{(n-1)/2}(B_r)$, $D_i(b^i)=0$, для которого уравнение $-\Delta u+b^i(x)D_iu=0$ имеет слабое решение, неограниченное в $B_{r/2}$, что также можно считать нарушением сильного принципа максимума. Вопрос о справедливости сильного принципа максимума для $(n-1)/2<q\leqslant n/2$ при условии $D_i(b^i)=0$ открыт. 3.2. Лемма о нормальной производнойИстория леммы о нормальной производной для слабых (супер)решений уравнения ${\mathfrak L}u=0$ довольно коротка. Первый результат здесь был получен Р. Финном и Д. Гилбаргом в 1957 г. в работе [136]. В ней рассматривались равномерно эллиптические операторы вида (3.1) с $a^{ij}\in\mathcal{C}^{0,\alpha}(\Omega)$ и $b^i\in\mathcal{C}(\overline\Omega)$ в двумерной области класса $\mathcal{C}^{1,\alpha}$, $\alpha\in(0,1)$. Только в 2015 г. этот результат был обобщен Х. К. Сабиной де Лисом на $n$-мерный случай, причем граница области предполагалась гладкой60. В статье [137] лемма о нормальной производной была доказана для всех $n \geqslant3$ при тех же условиях на $a^{ij}$ и $\partial\Omega$, что и в [136], и при $b^i\in L^q(\Omega)$, $q>n$. Еще в 1959 г. Д. Гилбаргом был построен контрпример61, показывающий, что требование на старшие коэффициенты нельзя ослабить до $a^{ij}\in\mathcal{C}(\overline\Omega)$. Приведем здесь пример более общего вида (см. [83]). Пусть $\Omega$ – область в $\mathbb{R}^n$ такая, что $\Omega\cap \{x_n<h\}={\mathfrak T}(\phi,h)$, причем $\phi\in\mathcal{C}^1$, но $\phi'$ не удовлетворяет условию Дини в нуле. Как упоминалось в п. 2.2, в работе [35] показано, что лемма о нормальной производной для оператора Лапласа в такой области не выполняется. Теперь распрямим границу в окрестности начала координат. Это даст нам оператор ${\mathfrak L}_0$ с непрерывными старшими коэффициентами, для которого лемма о нормальной производной не выполняется в гладкой области. Из этого примера видно, что естественным условием на старшие коэффициенты оператора является условие Дини. Отметим в связи с этим работу В. А. Козлова и В. Г. Мазья [138], в которой для оператора ${\mathfrak L}_0$ получено более тонкое условие на коэффициенты $a^{ij}$, обеспечивающее оценку градиента решения в точках (гладкой) границы $\partial\Omega$. По-видимому, из полученной в [138] асимптотики решения можно вывести также условие выполнения леммы о нормальной производной, более точное, чем условие Дини. Для демонстрации основной идеи мы докажем лемму о нормальной производной для простейшего оператора ${\mathfrak L}_0$ с коэффициентами62 $a^{ij}\in\mathcal{C}^{0,\mathcal{D}}(\Omega)$ при минимальных условиях на границу области. Теорема 3.3. Пусть область $\Omega\subset\mathbb{R}^n$ удовлетворяет условию внутреннего $\mathcal{C}^{1,\mathcal{D}}$-параболоида. Предположим, что коэффициенты оператора ${\mathfrak L}_0$ удовлетворяют условиям (2.3) и $a^{ij}\in\mathcal{C}^{0,\mathcal{D}}(\Omega)$. Пусть $u\not\equiv \operatorname{const}$ – слабое суперрешение уравнения ${\mathfrak L}_0u=0$ в $\Omega$. Если функция $u$ непрерывна в $\overline{\Omega}$ и достигает минимума в точке $x^0\in \partial\Omega$, то для любого строго внутреннего направления $\boldsymbol{\ell}$ справедливо неравенство Доказательство. Не умаляя общности, можно считать, что $x^0=0$ и $\Omega={\mathfrak T}(\phi,h)$, причем $\phi\in\mathcal{C}^{1,\mathcal{D}}$. Далее, ограничения на $a^{ij}$ сохраняются при преобразовании координат класса $\mathcal{C}^{1,\mathcal{D}}$. Поэтому можно распрямить $\partial\Omega$ в окрестности $x^0$ и считать, что $B_R \cap \{x_n>0\} \subset \Omega$ для некоторого $R>0$. При $0<r<R/2$ возьмем точку $x^r=(0,\dots,0,r)$ и рассмотрим кольцо $\pi=B_r(x^r)\setminus \overline{B}_{r/2}(x^r)\subset \Omega$. Условие $a^{ij}\in\mathcal{C}^{0,\mathcal{D}}(\Omega)$ дает
$$
\begin{equation}
|a^{ij}(x)-a^{ij}(y)|\leqslant \sigma(|x-y|),\qquad x,y \in \pi,\quad \sigma\in\mathcal{D}.
\end{equation}
\tag{3.23}
$$
Пусть $x^*$ – произвольная точка в $\overline{\pi}$. Следуя [136], определим барьерную функцию ${\mathfrak V}$ и вспомогательную функцию $\Psi_{x^*}$ как решения следующих краевых задач:
$$
\begin{equation*}
\begin{cases} {\mathfrak L}_0{\mathfrak V}=0 & \text{в}\ \pi, \\ {\mathfrak V}=1 & \text{на}\ \partial B_{r/2}(x^r), \\ {\mathfrak V}=0 & \text{на}\ \partial B_r(x^r), \end{cases}\qquad \begin{cases} {\mathfrak L}_0^{x^*}\Psi_{x^*}=0 & \text{в}\ \pi, \\ \Psi_{x^*}=1 & \text{на}\ \partial B_{r/2}(x^r), \\ \Psi_{x^*}=0 & \text{на}\ \partial B_r(x^r), \end{cases}
\end{equation*}
\notag
$$
где ${\mathfrak L}_0^{x^*}$ – оператор с постоянными коэффициентами:
$$
\begin{equation*}
{\mathfrak L}_0^{x^*}\Psi_{x^*}:=-D_i(a^{ij}(x^*)D_j\Psi_{x^*}).
\end{equation*}
\notag
$$
Хорошо известно, что $\Psi_{x^*} \in \mathcal{C}^\infty(\overline{\pi})$. Далее, существование (единственного) слабого решения ${\mathfrak V}$ следует из общей линейной теории. Более того, лемма 3.2 из [129] показывает, что ${\mathfrak V}\in \mathcal{C}^1(\overline{\pi})$ и при $y\in \overline{\pi}$ справедлива следующая оценка:
$$
\begin{equation}
|D{\mathfrak V}(y)|\leqslant \frac{N_1(n,\nu,\sigma)}{r}\,.
\end{equation}
\tag{3.24}
$$
Положим ${\mathfrak w}={\mathfrak V}-\Psi_{x^*}$ и заметим, что ${\mathfrak w}=0$ на $\partial\pi$. Поэтому для ${\mathfrak w}$ имеет место представление через функцию Грина $\mathcal{G}_{x^*}$ оператора ${\mathfrak L}_0^{x^*}$ в $\pi$:
$$
\begin{equation*}
{\mathfrak w}(x)=\int_{\pi} \mathcal{G}_{x^*}(x,y){\mathfrak L}_0^{x^*} {\mathfrak w}(y)\,dy\overset{(\star)}=\int_{\pi}\mathcal{G}_{x^*}(x,y) \bigl({\mathfrak L}_0^{x^*}{\mathfrak V}(y)- {\mathfrak L}_0 {\mathfrak V}(y)\bigr)\,dy
\end{equation*}
\notag
$$
(равенство $(\star)$ следует из соотношения ${\mathfrak L}_0^{x^*}\Psi_{x^*}={\mathfrak L}_0{\mathfrak V}=0$). Интегрируя по частям, имеем
$$
\begin{equation}
{\mathfrak w}(x)=\int_{\pi}D_{y_i}\mathcal{G}_{x^*}(x,y) \bigl(a^{ij}(x^*)-a^{ij}(y)\bigr)D_j{\mathfrak V}(y)\,dy.
\end{equation}
\tag{3.25}
$$
Дифференцируя обе части равенства (3.25) по $x_k$, получаем
$$
\begin{equation}
\begin{gathered} \, D_k{\mathfrak w}(x^*)=\int_{\pi}D_{x_k}D_{y_i}\mathcal{G}_{x^*}(x^*,y) \bigl(a^{ij}(x^*)-a^{ij}(y)\bigr)D_j{\mathfrak V}(y)\,dy, \\ k=1,\dots,n. \end{gathered}
\end{equation}
\tag{3.26}
$$
Производные функции Грина $\mathcal{G}_{x^*}(x,y)$ допускают следующую оценку (см., например, [129; теорема 3.3]):
$$
\begin{equation}
|D_xD_y\mathcal{G}_{x^*}(x,y)|\leqslant \frac{N_2(n,\nu)}{|x-y|^n}\,, \qquad x,y \in \pi.
\end{equation}
\tag{3.27}
$$
Подстановка (3.24), (3.27) и (3.23) в равенство (3.26) дает
$$
\begin{equation*}
|D{\mathfrak w}(x^*)|\leqslant \frac{N_1N_2}{r}\int_{B_{2r}(x^*)} \frac{\sigma(|x^*-y|)}{|x^*-y|^n}\,dy,
\end{equation*}
\notag
$$
и мы получаем
$$
\begin{equation}
|D{\mathfrak V}(x^*)-D\Psi_{x^*} (x^*)| \leqslant \frac{N_3(n,\nu,\sigma)}{r} \int_0^{2r}\frac{\sigma(\tau)}{\tau}\,d\tau,\qquad x^*\in\overline{\pi}.
\end{equation}
\tag{3.28}
$$
Поскольку лемма о нормальной производной верна для операторов с постоянными коэффициентами, для любого строго внутреннего направления $\boldsymbol{\ell}$ имеем
$$
\begin{equation*}
\partial_{\boldsymbol{\ell}}\Psi_0(0)\geqslant \frac{N_4(n, \nu,\boldsymbol{\ell})}{r}>0.
\end{equation*}
\notag
$$
Ввиду (3.28) при достаточно малом $r>0$ имеем
$$
\begin{equation*}
\partial_{\boldsymbol{\ell}}{\mathfrak V}(0) \geqslant \partial_{\boldsymbol{\ell}}\Psi_0(0)-|D{\mathfrak V}(0)-D\Psi_0(0)|\geqslant \frac{N_4}{r}-\frac{N_3}{r}\int_0^{2r}\frac{\sigma(\tau)}{\tau}\,d\tau \geqslant \frac{N_4}{2r}\,.
\end{equation*}
\notag
$$
Зафиксируем такое $r$. Поскольку $u\not\equiv \operatorname{const}$, сильный принцип максимума дает $u-u(0)>0$ на $\partial B_{r/2}(x^r)$. Следовательно, при достаточно малых $\varkappa>0$ справедливы неравенства Теперь слабый принцип максимума дает $u-u(0) \geqslant \varkappa{\mathfrak V}$ в $\pi$. Ввиду равенства в начале координат имеем и теорема доказана. Приведем формулировку более общего результата, установленного в [16]. В этой работе получены наиболее точные на данный момент условия справедливости леммы о нормальной производной. Теорема 3.4. Пусть область $\Omega\subset\mathbb{R}^n$ и старшие коэффициенты оператора ${\mathfrak L}$ удовлетворяют условиям теоремы 3.3. Предположим также, что Замечание 3.4. В любой подобласти $\Omega'$ такой, что $\overline{\Omega}{}'\subset\Omega$, условие (3.29) совпадает с $b^i\in\mathcal{K}_{n,1}$ (ср. (3.22)). Поэтому, в частности, из (3.29) вытекает $b^i\in\mathcal{K}_{n,1,{\rm loc}}$. С другой стороны, в [16] показано, что условия на $b^i$, наложенные в теореме 2.5, влекут (3.29). Замечание 3.5. Лемма о нормальной производной для операторов дивергентного вида напрямую связана со свойствами функций Грина для этих операторов. Впервые функция Грина для равномерно эллиптического оператора ${\mathfrak L}_0$ с измеримыми коэффициентами была построена в эпохальной статье [139]. Среди других результатов этой работы отметим оценку63
$$
\begin{equation*}
\frac{C^{-1}}{|x-y|^{n-2}}\leqslant\mathcal{G}(x,y)\leqslant \frac{C}{|x-y|^{n-2}}
\end{equation*}
\notag
$$
(здесь $C$ зависит только от $n$ и $\nu$), справедливую в $\mathbb{R}^n$, $n\geqslant3$. Не менее важную роль сыграла статья [129], в которой среди других результатов были доказаны следующие оценки функции Грина для равномерно эллиптического оператора ${\mathfrak L}_0$ с коэффициентами, удовлетворяющими условию Дини, в области $\Omega\subset\mathbb{R}^n$, $n\geqslant3$, удовлетворяющей условию внешнего шара:
$$
\begin{equation*}
\begin{aligned} \, \mathcal{G}(x,y)&\leqslant \frac{C}{|x-y|^{n-2}}\, \frac{{\rm d}(x)}{{\rm d}(x)+|x-y|}\,\frac{{\rm d}(y)}{{\rm d}(y)+|x-y|}\,; \\ |D_x\mathcal{G}(x,y)|&\leqslant \frac{C}{|x-y|^{n-1}}\, \frac{{\rm d}(y)}{{\rm d}(y)+|x-y|}\,; \\ |D_xD_y\mathcal{G}(x,y)| &\leqslant \frac{C}{|x-y|^n} \end{aligned}
\end{equation*}
\notag
$$
(константа $C$ зависит от $n$, $\nu$, функции $\sigma$ в условии Дини для коэффициентов и области $\Omega$). Таким образом, условие (3.29), грубо говоря, означает, что функция $|\mathbf{b}(y)||D_x\mathcal{G}(x,y)|$ интегрируема равномерно по $x$. 4. Некоторые обобщения и приложенияКак уже упоминалось во введении, этот раздел посвящен краткому описанию некоторых сюжетов, либо обобщающих основные утверждения нашего обзора, либо непосредственно опирающихся на них. 4.1. Симметрия решений нелинейных краевых задачМы начнем со знаменитого метода движущихся плоскостей (moving plain method). Впервые он был применен А. Д. Александровым [141; ч. V] в задаче о характеризации сферы свойством постоянства ее средней кривизны (или некоторых других функций главных кривизн)64. В 1971 г. метод был переоткрыт Дж. Серрином при решении переопределенной задачи
$$
\begin{equation*}
-\Delta u=1 \quad \text{в}\ \Omega,\qquad u\big|_{\partial\Omega}=0, \qquad \partial_{\mathbf{n}}u\big|_{\partial\Omega}=\operatorname{const}
\end{equation*}
\notag
$$
в неизвестной области $\Omega$ класса $\mathcal{C}^2$. Серрин показал, что такая задача разрешима только в том случае, когда $\Omega$ – шар. Своей популярностью метод обязан статье [26], в которой рассматривалась задача
$$
\begin{equation}
-\Delta u=f(u) \quad \text{в} \ B_R,\qquad u\big|_{\partial B_R}=0
\end{equation}
\tag{4.1}
$$
и ее обобщения. Сформулируем базовый результат этой работы. Теорема 4.1. Пусть $f\in\mathcal{C}^1_{\rm loc}(\mathbb{R}_+)$, и пусть $u\in\mathcal{C}^2(\overline{B}_R)$ – положительное в $B_R$ решение задачи (4.1). Тогда $u=u(r)$ (функция $u$ радиально симметрична), причем $u'(r)<0$ при $0<r<R$. Приведем набросок доказательства теоремы 4.1. Очевидно, что достаточно показать, что $u$ – четная функция переменной $x_n$ и $D_nu(x)<0$ при $x_n>0$. При $0<\lambda<R$ плоскость $\Pi_\lambda=\{x\colon x_n=\lambda\}$ отсекает от шара сегмент $\Sigma_\lambda$. При $x\in\overline{\Sigma}_\lambda$ обозначим $\widehat x_\lambda=(x',2\lambda-x_n)$ точку, симметричную $x$ относительно $\Pi_\lambda$. Рассмотрим в $\overline{\Sigma}_\lambda$ функцию $v_\lambda(x)=u(\widehat x_\lambda)-u(x)$. Она удовлетворяет уравнению где
$$
\begin{equation*}
c(x)=\frac{f(u(\widehat x_\lambda))-f(u(x))}{u(x)-u(\widehat x_\lambda)} \in L_\infty(\Sigma_\lambda).
\end{equation*}
\notag
$$
При $\lambda$, достаточно близких к единице, функция $v_\lambda$ положительна в $\Sigma_\lambda$ (график “отраженной” функции лежит выше исходного) и достигает нулевого минимума на $\Pi_\lambda$. По лемме о нормальной производной (п. (B1) теоремы 2.1) мы имеем $\partial_{\mathbf{n}} v_\lambda(x)=2D_nu(x)<0$ на $\Pi_\lambda$.65 Поэтому можно немного уменьшить $\lambda$ (сдвинуть плоскость $\Pi_\lambda$ к центру шара), и неравенство $v_\lambda>0$ в $\Sigma_\lambda$ будет по-прежнему выполнено. Обозначим $\lambda_0$ точную нижнюю грань тех $\lambda$, для которых $v_\lambda>0$ в $\Sigma_\lambda$. Если предположить, что $\lambda_0>0$, то $v_{\lambda_0}>0$ на “круглой” части $\partial\Sigma_{\lambda_0}$. Согласно сильному принципу максимума (п. (A1) теоремы 2.1) мы имеем $v_{\lambda_0}>0$ в $\Sigma_{\lambda_0}$. Но тогда можно повторить предыдущее рассуждение и получить, что плоскость $\Pi_{\lambda_0}$ можно еще немного сдвинуть к центру, что невозможно. Таким образом, $\lambda_0=0$, и $v_0\equiv0$, т. е. $u(x',-x_n)\equiv u(x)$. Теорема доказана. Как указано в [26], при $f(0)\geqslant0$ априорную положительность $u$ можно заменить на условие $u\geqslant0$, $u\not\equiv0$. Очевидно также, что условие $f\in\mathcal{C}^1_{\rm loc}(\mathbb{R}_+)$ можно заменить на локальное условие Липшица. Следующий пример, приведенный в [26], показывает, что условия Гёльдера на $f$, вообще говоря, недостаточно. Пусть $p>2$ и $u(x)=(1-|x-x^0|^2)_+^p$. Прямой подсчет показывает, что $u$ есть решение задачи (4.1) при $R>|x^0|+1$, если положить66
$$
\begin{equation*}
f(u)=2p(n-2+2p)u^{1-1/p}-4p(p-1)u^{1-2/p} \in \mathcal{C}^{0,1-2/p}_{\rm loc}(\mathbb{R}_+).
\end{equation*}
\notag
$$
Показатель Гёльдера можно сделать сколь угодно близким к единице за счет выбора $p$, но утверждение теоремы не выполняется67. Статья [26] (а также работа [144], где рассматривались уравнения вида (4.1) во всем пространстве) породила огромное количество усилений и обобщений, среди которых следует выделить работу А. Берестики и Л. Ниренберга [145]. В ней с помощью принципа максимума Александрова–Бакельмана результаты [26] распространены на сильные решения для весьма широкого класса равномерно эллиптических нелинейных уравнений. Применение метода движущихся плоскостей к вырождающимся операторам типа $p$-лапласиана можно найти в статьях [146], [147] и цитируемых там работах. Значительное число работ используют метод движущихся сфер – сочетание метода движущихся плоскостей с конформными преобразованиями (см., например, [148]). Другие применения сильного принципа максимума и леммы о нормальной производной к доказательству свойств симметрии в геометрических задачах можно найти, например, в [149]–[152] (см. также [6]). Приложениям принципа максимума Александрова–Бакельмана и его вариантов к исследованию свойств симметрии решений нелинейных краевых задач и доказательству изопериметрических неравенств посвящены работы [153]–[155] (см. также обзор [156]). 4.2. Теоремы типа Фрагмена–ЛинделёфаПринцип Фрагмена–Линделёфа в первоначальной формулировке [157] описывает поведение на бесконечности функции, аналитической в неограниченной области. Для решений равномерно эллиптических (недивергентных) уравнений общего вида теоремы такого типа впервые были доказаны Е. М. Ландисом [158], [159] (краткое сообщение было опубликовано ранее – см. [160]). При этом старшие коэффициенты оператора в [159] удовлетворяют условию Дини, а поведение области на бесконечности описывается в терминах меры. Более точные теоремы типа Фрагмена–Линделёфа получаются, если области описываются в терминах емкости. Первые результаты здесь были получены в [161], [162] для дивергентных уравнений с измеримыми старшими коэффициентами и в [162] для недивергентных уравнений с условием Гёльдера на старшие коэффициенты. Наконец, решающий шаг был сделан Е. М. Ландисом [27] (см. также [28; гл. 1]), который с помощью введенного им понятия $s$-емкости доказал теоремы типа Фрагмена–Линделёфа для недивергентных уравнений с измеримыми старшими коэффициентами. Приведем, например, один из результатов [28; гл. 1, § 6]. Теорема 4.2. Пусть $\Omega$ – неограниченная область, лежащая внутри бесконечного слоя Пусть оператор $\mathcal{L}_0$ удовлетворяет условию (2.3), и пусть $u\in \mathcal{C}^2(\Omega)$ – классическое субрешение68 уравнения $\mathcal{L}_0u=0$, удовлетворяющее условию $u\big|_{\partial\Omega}\leqslant0$. Если $u(x)>0$ в какой-нибудь точке $x\in\Omega$, то где константа $C>0$ зависит только от $n$ и $\nu$.Отметим еще работу В. Г. Мазья [163], в которой исследовались близкие вопросы для квазилинейных операторов типа $p$-лапласиана. В случае, когда на части $\partial\Omega$ задана производная по некасательному направлению, теоремы типа Фрагмена–Линделёфа были доказаны в [164], [165] для дивергентных уравнений и в [166] для недивергентных уравнений. Отметим, что в последней работе использовалась ослабленная форма леммы о нормальной производной [40]. К упомянутым результатам примыкает гипотеза Ландиса – задача о максимально возможной скорости стремления к нулю нетривиального решения равномерно эллиптического уравнения в области $\Omega=\mathbb{R}^n\setminus B_R$. Впервые она была сформулирована в обзоре [7] для уравнения с ограниченным коэффициентом $c(x)$ (в этом случае предполагаемый ответ – экспоненциальное убывание: если $|u(x)|=O(-N|x|)$ при $|x|\to\infty$ для любого $N>0$, то $u\equiv0$). Полностью эта задача не решена даже для простейшего уравнения (4.2). Недавние результаты в этой области, а также обзор по истории вопроса можно найти в [167] (см. также [168]).4.3. Граничное неравенство ГарнакаЕсли лемма о нормальной производной не выполняется, ее ослабленной версией может выступать следующее утверждение. Граничное неравенство Гарнака. Пусть $0\in\Omega$ и ${\mathbb L}$ – эллиптический оператор в области $\Omega$. Если $u_1$ и $u_2$ – положительные решения уравнения ${\mathbb L}u=0$ в $\Omega$, удовлетворяющие условию то в подобласти $\Omega\cap B_{R/2}$ справедливы неравенства где $C$ – константа, не зависящая от $u_1$ и $u_2$. Замечание 4.1. Если, например, $\Omega$ – область класса $\mathcal{C}^{1,\mathcal{D}}$, а $\mathcal{L}$ – равномерно эллиптический оператор вида (2.1) с ограниченными коэффициентами, то (4.3) легко следует из леммы о нормальной производной, оценки градиента решения на $\partial\Omega$ и обычного неравенства Гарнака. Замечание 4.2. В важном частном случае плоской границы $x_n=0$ и оператора $\mathcal{L}_0$, когда можно взять $u_2(x)=x_n$, граничное неравенство Гарнака было впервые получено Н. В. Крыловым [169] с целью вывода граничных оценок в $\mathcal{C}^{2,\alpha}$ для решений нелинейных уравнений. Для описания результатов этого пункта нам потребуются новые классы областей:
$$
\begin{equation*}
\begin{aligned} \, \mathcal{C}^{0,1}\subset\text{NTA}\subset\text{UD}\subset\text{JD}&\;=\; \text{THD-1}; \\ \mathcal{C}^{0,\alpha}\subset \tfrac{1}{\alpha}\text{-JD} &\overset{(\bigtriangleup)}{=} \text{THD-}\alpha. \end{aligned}
\end{equation*}
\notag
$$
В табл. 1 по умолчанию предполагается, что старшие коэффициенты операторов измеримы и удовлетворяют условию (2.3). Таблица 1.Граничное неравенство Гарнака для разных классов областей
В недавних работах [184], [185] продемонстрирован единый подход к доказательству граничного неравенства Гарнака для дивергентных и недивергентных операторов76. Вариация граничного неравенства Гарнака для суперрешений и “почти суперрешений” уравнения ${\mathfrak L}u+cu=0$ с ограниченными коэффициентами получена в [186].77 К граничному неравенству Гарнака примыкают результаты (см. [188] и цитированную там литературу) типа слабого неравенства Гарнака для отношения $u(x)/{\rm d}(x)$. Приведем, например, один из результатов работы [188]. Теорема 4.3. Пусть $u$ – неотрицательное слабое суперрешение уравнения78 ${\mathfrak L}u=f$ в области класса $\mathcal{C}^{1,1}$. Предположим, что выполнено условие (2.3), а также следующие условия: Тогда для любого $s<1$. Константа $C$ зависит от $n$, $\nu$, $s$, $q$, от норм коэффициентов $a^{ij}$ и $b^i$ в соответствующих пространствах, от $\operatorname{diam}(\Omega)$ и от свойств $\partial\Omega$. Пример гармонической функции $x_n|x|^{-n}$ в полушаре $B_r^+=B_r\cap\{x_n>0\}$ показывает, что ограничение $s<1$ точно. Упомянем еще работы (см., например, [189] и цитируемую там литературу), в которых граничное неравенство Гарнака было получено в “абстрактном” контексте метрических пространств. 4.4. Другие результаты для линейных операторовВ работах [190], [191] установлен обобщенный сильный принцип максимума для операторов вида $-\Delta+c(x)$, где $c\in L_1(\Omega)$; решения при этом понимаются в смысле мер. Дальнейшие результаты в этом направлении можно найти в [192], [193]. Хорошо известно, что справедливость слабого принципа максимума для эллиптического оператора второго порядка равносильна положительности первого собственного числа соответствующей задачи Дирихле. В работе [194] для равномерно эллиптических операторов $\mathcal{L}+c(x)$ с ограниченными коэффициентами в произвольной ограниченной области определено обобщенное первое собственное число79 (супремум берется по $\phi\in W^2_{n,{\rm loc}}(\Omega)$, $\phi>0$ в $\Omega$):
$$
\begin{equation}
\lambda_1=\sup_{\phi}\,\inf_{x\in\Omega} \frac{\mathcal{L}\phi(x)+c(x)\phi(x)}{\phi(x)}
\end{equation}
\tag{4.4}
$$
и показано, что слабый принцип максимума (а также введенный в этой статье “улучшенный” слабый принцип максимума) для оператора $\mathcal{L}+c(x)$ равносилен неравенству $\lambda_1>0$. В последние десятилетия весьма популярными стали исследования уравнений в частных производных на сложных структурах. В ряде работ (см., например, [196], [197] и цитируемую там литературу) изучались условия справедливости сильного принципа максимума, неравенства Гарнака, леммы о нормальной производной и граничного неравенства Гарнака для субэллиптических операторов, включая сублапласианы на однородных группах Карно. В работах [198], [199] рассматривались сильный принцип максимума и лемма о нормальной производной для простейших эллиптических операторов на стратифицированных множествах – клеточных комплексах с некоторыми специальными свойствами80. 4.5. Нелинейные операторыДаже простейший поиск по ключевым словам показывает, что за последние годы количество статей по теме обзора, касающихся нелинейных операторов, исчисляется десятками в год. Поэтому данный пункт имеет очевидно пунктирный характер и не претендует даже на минимальную полноту охвата темы. Неравенство Гарнака для квазилинейных операторов дивергентного вида было впервые доказано в [102] и затем для более широких классов операторов – в [200] и [201]. Эти работы ныне являются классическими. Отметим также работу [99], в которой было установлено неравенство Гарнака для квазиминимайзеров вариационных задач. В работе [202] было получено обобщение леммы о нормальной производной из [31], [32] на квазилинейный случай. Для операторов типа $p$-лапласиана лемма о нормальной производной была впервые доказана в [203]. Из недавних обобщений этого результата упомянем статью [204].В работах [205] и [206] были получены точные условия справедливости сильного принципа максимума и леммы о нормальной производной для минимайзеров функционала Х. Л. Васкес [207] исследовал уравнение
$$
\begin{equation}
-\Delta_pu+f(u)=0 \quad \text{в} \ \Omega \subset \mathbb{R}^n, \quad n \geqslant 2,
\end{equation}
\tag{4.6}
$$
и доказал следующую теорему. Теорема 4.4. Пусть $f\in\mathcal{C}(\mathbb{R}_+)$ – неубывающая функция, $f(0)=0$. Тогда необходимым и достаточным условием того, чтобы любое (ненулевое) неотрицательное суперрешение уравнения (4.6) не обращалось в нуль в $\Omega$, является соотношение Обобщение этого результата на более широкие классы квазилинейных операторов см. в [208], [209], [167]. В статье [210] установлено (при $p=2$) соответствующее неравенство Гарнака. Теорема 4.5. Предположим, что $f\colon\mathbb{R}_+\to\mathbb{R}_+$ – неубывающая функция. Пусть $u\in W^1_2(B_1)$ – решение уравнения ${\mathfrak L}_0u+f(u)=0$, где ${\mathfrak L}_0$ – (дивергентный) равномерно эллиптический оператор с измеримыми коэффициентами. Обозначим $M=\sup_{B_1}u$, $m=\inf_{B_1}u$. Тогда81 где $F$ определена в (4.7), а константа $C$ зависит только от $n$ и $\nu$ (в частности, она не зависит от $f$!). Граничное неравенство Гарнака для операторов типа $p$-лапласиана в области класса $\mathcal{C}^2$ было установлено в [211]. Впоследствии оно было доказано для более широких классов областей, обсуждаемых в п. 4.3 (см. [212] и цитируемую там литературу). Граничное неравенство Гарнака для максимальных и минимальных операторов Пуччи было доказано в работе [213]. Популярными объектами исследования в настоящее время являются также $p(x)$-лапласианы – операторы вида (4.5), в которых показатель $p$ есть функция переменных $x$. Неравенство Гарнака для таких операторов было впервые доказано в [214] (из недавних обобщений см., например, [215] и [216]). В работе [217] было установлено граничное неравенство Гарнака в области класса $\mathcal{C}^{1,1}$. 4.6. Нелокальные операторыВ последние десятилетия существенно возрос интерес к изучению нелокальных (интегро-дифференциальных) операторов, среди которых выделяются дробные лапласианы. Простейший (и исторически первый) из них – дробный лапласиан в $\mathbb{R}^n$ порядка $s$, определяемый с помощью преобразования Фурье82:
$$
\begin{equation*}
(-\Delta)^su=\mathcal{F}^{-1}\bigl(|\xi|^{2s}(\mathcal{F}u)(\xi)\bigr),\qquad s>0;
\end{equation*}
\notag
$$
при $s\in(0,1)$ этот оператор можно определить с помощью гиперсингулярного интеграла
$$
\begin{equation*}
\bigl((-\Delta)^s u\bigr)(x)=C_{n,s}\cdot\operatorname{PV} \int_{\mathbb{R}^n}\frac{u(x)-u(y)}{|x-y|^{n+2s}}\,dy, \qquad C_{n,s}=\frac{s\cdot 2^{2s}\Gamma(n/2+s)}{\pi^{n/2}\Gamma(1-s)}\,.
\end{equation*}
\notag
$$
Еще М. Рисс [218] доказал прямой аналог неравенства Гарнака (2.22) для $(-\Delta)^s$ при $s\in(0,1)$: Пусть неотрицательная в $\mathbb{R}^n$ функция $u$ удовлетворяет в $B_R$ уравнению $(-\Delta)^s u=0$. Тогда при $x\in B_R$ имеем
$$
\begin{equation*}
u(0)\frac{(R-|x|)^s R^{n-2s}}{(R+|x|)^{n-s}}\leqslant u(x)\leqslant u(0)\frac {(R+|x|)^s R^{n-2s}}{(R-|x|)^{n-s}}\,.
\end{equation*}
\notag
$$
В отличие от случая всего пространства, дробные лапласианы в области $\Omega\subset\mathbb{R}^n$, естественно, зависят от граничных условий (различают дробные лапласианы Дирихле, Неймана и т. д.). Более того, даже для фиксированного типа граничных условий существует несколько существенно различных определений дробных лапласианов: суженные (restricted), спектральные и др. Отметим, что для сравнения суженного и спектрального лапласиана Дирихле в работах [219], [220] использовалась классическая лемма о нормальной производной для слабо вырождающихся операторов (см. [38], [14]). Доказательство сильного принципа максимума для различных дробных лапласианов порядка $s\in(0,1)$ в $\Omega$ можно найти в [221]–[223]; в работе [224] был предложен единый подход для большого семейства дробных лапласианов и более общих нелокальных операторов. В то же время в работе [225] показано, что при $s>1$ для суженного дробного лапласиана Дирихле в области общего вида не выполнен даже слабый принцип максимума83. Граничное неравенство Гарнака для оператора $(-\Delta)^s$, $s\in(0,1)$, в липшицевой области было доказано в [226]. В связи с нелокальностью оператора его формулировка отличается от стандартной (см. п. 4.3): Пусть $0\in\Omega$. Если $u_1$, $u_2$ – неотрицательные в $\mathbb{R}^n$ функции, непрерывные в шаре $B_R$, удовлетворяющие уравнению $(-\Delta)^s u=0$ в $\Omega\cap B_R$ и условию $u_1\big|_{B_R\setminus\Omega}=u_2|_{B_R\setminus\Omega}=0$, то в подобласти $\Omega\cap B_{R/2}$ справедливо неравенство84 (4.3) с константой $C$, зависящей только от $n$, $s$, $\Omega$ и $R$. В дальнейшем этот результат был распространен на произвольные области $\Omega$ и на широкий класс интегро-дифференциальных операторов (см. [227] и цитируемую там литературу). В работе [228] был построен барьер, достаточный для доказательства аналога леммы о нормальной производной в следующей форме: Пусть $\Omega$ – область класса $\mathcal{C}^{1,1}$ и $s\in(0,1)$. Пусть $u$ – слабое суперрешение уравнения $(-\Delta)^s u=0$ в $\Omega$, равное нулю в $\mathbb{R}^n\setminus\Omega$. Если $u\not\equiv0$, то Дальнейшие обобщения этого результата можно найти, например, в [229]. Для операторов типа дробных $p$-лапласианов аналогичное утверждение было доказано в [230]. Для спектрального дробного лапласиана Дирихле вместо (4.8) при тех же условиях справедливо неравенство $\inf_{x\in\Omega}{u(x)}/{{\rm d}(x)}>0$ (см. теорему 1.2 [231], где рассмотрены также более общие функции от оператора Лапласа с условиями Дирихле). Аналог леммы о нормальной производной для регионального (regional) дробного лапласиана при $s\in(1/2,1)$ получен в недавнем препринте [232]. В статье [233] получено обобщение принципа максимума Александрова–Бакельмана для нелокальных аналогов максимальных и минимальных операторов Пуччи. Применение метода движущихся плоскостей к задачам с дробными лапласианами можно найти в [234] и цитируемых там работах.
Цитирование в формате AMSBIB
\RBibitem{ApuNaz22} |
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|