Теорема вложения анизотропных пространств Соболева для областей с нерегулярной границей

В 1938 году С.Л. Соболев (см., например, [1]) для ограниченных областей $G \subset \mathbb{R}^n$ с условием конуса установил теорему вложения $W^s_p(G) \subset L_q(G)$, характеризуемую неравенством
$$ \|f\|_{L_q(G)}\le C\|f\|_{W^s_p(G)}=C\biggl( \sum_{|\alpha|=s}\|D^\alpha f\|_{L_p(G)}+\|f\|_{L_p(G)} \biggr), $$
где $1<p<q<\infty$, $s \in \mathbb{N}$ при выполнении соотношения
$$s-\frac{n}{p}+\frac{n}{q}\ge 0.$$

В дальнейшем эта теорема распространялась на области более общего вида. В 2001 году в [2] О.В. Бесов доказал эту теорему для областей, удовлетворяющих условию гибкого $\sigma$-конуса, при выполнении соотношения
$$s-\frac{\sigma(n-1)+1}{p}+\frac{n}{q}\ge 0.$$

В 2010 году в [3] О.В. Бесов обобщил эту теорему на случай норм более общего вида (в которые входят сумма норм не всех обобщенных частных производных порядка $s$).
В данной работе мы обобщаем этот результат на анизотропный по порядку производных и показателям суммируемости случай.
Определение [2]. При $ \sigma \ge 1 $ область $ G \subset \mathbb R^n $ называется областью с условием гибкого $ \sigma$-конуса, если при некоторых $ T > 0, \varkappa > 0 $ для любого $ x \in G$ существует кусочно гладкий путь $ \gamma : [0, T] \to G, \gamma(0) =x, |\gamma ' | \le 1 $ почти всюду, и такой, что $ \rho (\gamma(t)) \ge \varkappa t^\sigma $ при $ 0 < t \le T $.
Пусть $ \mathbb N $ — множество натуральных чисел, $n \in \mathbb N$, $ n \ge 2$; $\mathbb R^n $ — $n$-мерное евклидово пространство, $ 1 \le m \le n$, $i_0 = 0$, $ 1 \le i_1 < i_2 < \dots < i_m = n$ — натуральные числа, $n_j = i_j - i_{j-1}$, $ \chi_j\colon\{1, 2, \dots , n\} \to \{0,1\}$,
$$ \chi_j(i) = \begin{cases} 1 &\text{при $ i_{j-1} + 1 \le i \le i_j$},\\ 0 &\text{при $1 \le i \le i_{j-1}$ и при $i_j + 1 \le i \le i_m = n$}. \end{cases} $$

При $\alpha \in \mathbb Z_+^n$ положим $ \alpha^j := \chi_j\alpha = (0, \dots, \alpha_{i_{j-1}+1}, \dots, \alpha_{i_j}, 0, \dots, 0)$.
Теорема. Пусть $G$ — область с условием гибкого $\sigma$-конуса, $\sigma \ge 1$; $s_j, m \in \mathbb N, $ $l \in \mathbb Z_+,$ $ 0 < \theta < 1, $ $1 \le m \le n$, $l<s_j,$ $ 1 \le q, r < \infty , $ $ p_j < q, $ $r \le q, $ $1< p_j<\infty$ при $j = \overline{1, m} $. Тогда справедлива оценка
$$\sum_{ | \alpha | = l } \| D^\alpha f\|_{L_q(G)} \le C \biggl( \sum_{j=1}^m \sum_{\alpha = \alpha^j, | \alpha| =s_j} \| D^\alpha f \|_{L_{p_j}(G)} + \|f\|_{L_r(G)} \biggr) $$
для функций $f$ с конечной правой частью при выполнении для всех $j = \overline{1, m}$ соотношений
$$ l - \frac{n}{q} \le s_j - (\sigma-1) \sum\limits_{i=1, i \ne j}^m(s_i-1) - \frac{\sigma (n-1)+1}{p_j}.$$

Показано, что теорема 1 является неулучшаемой на классе областей с условием гибкого $\sigma$-конуса.
Получена также и мультипликативная оценка (неравенство типа Гальярдо-Ниренберга).
Теорема. Пусть $G$ — область с условием гибкого $\sigma$-конуса, $\sigma \ge 1$; $s_j, m \in \mathbb N, $ $l \in \mathbb Z_+,$ $ 0 < \theta < 1, $ $1 \le m \le n$, $l<s_j,$ $ 1 \le q, r < \infty , $ $ p_j < q, $ $r \le q, $ $1< p_j<\infty$ при $j = \overline{1, m} $. Пусть $r < q$ в случае $l = 0,$ $\sigma = 1$. Тогда мультипликативное неравенство типа Гальярдо–Ниренберга
$$ \sum_{ | \alpha | = l } \| D^\alpha f\|_{L_q(G)} \le C \biggl( \| f\|_{L_r(G)}^{1-\theta} \biggl(\sum_{j=1}^m \sum_{\alpha = \alpha^j, | \alpha| =s_j} \| D^\alpha f \|_{L_{p_j}(G)} \biggr)^\theta + \|f\|_{L_r(G)} \biggr) $$
справедливо для всех функций $f$ с конечной правой частью при выполнении для всех $j = \overline{1, m}$ соотношений
$$ l - \frac{n}{q} \le \theta \biggl( s_j - (\sigma-1) \sum_{ i=1, i \ne j}^m (s_i-1) - \frac{\sigma (n-1)+1}{p_j} \biggr) +(1-\theta) \biggl(-\frac{n\sigma}{r} - (\sigma -1 )\biggl(\sum_{i=1}^m s_i- m\biggr) \biggr). $$

При $m=1$ для областей с гладкой границей ($\sigma=1$) теорема 2 совпадает с результатом Гальярдо-Ниренберга для $q>p$, $q \ge r$, полученным ими в 1959 году ([4]).
Исследование выполнено за счет гранта Российского научного фонда (проект 14-11-00443) в Математическом институте им. В.А. Стеклова Российской академии наук.