Выпуклые множества в $W_p^1(\Omega)$ и их нормальные конусы. Приложения к вариационным неравенствам

Рассматриваются вариационные неравенства с эллиптическими операторами 2-го порядка в виде уравнений с многозначной правой частью: $-Au\in N(\mathscr K,u)$, где $N(\mathscr K,v)\subset (W^1_p(\Omega))'$ – нормальный конус к выпуклому замкнутому множеству $\mathscr K\subset W^1_p(\Omega)$. Изучается вопрос о зависимости дифференциальных свойств функций $A^{-1}\mathscr N$ (и, в частности, решения $u$) от данного в задаче множества функционалов $\mathscr N=\bigcup_{v\in\mathscr K}N(K,v)$. Показано, что $\mathscr N\subset X(\mathscr E)=\bigl\{F\in(W^1_p(\Omega))':\operatorname{supp}F\subseteq\mathscr E \bigr\}$ в задачах с препятствием на замкнутом множестве $\mathscr E\subseteq\overline\Omega$. Исследованы свойства подпространства $X(\mathscr E)$, связь с пространствами следов на $\mathscr E$ (введено понятие обобщенного следа на произвольном множестве ненулевой емкости), характер особенностей функций из класса $A^{-1}X(\mathscr E)$, обусловленных емкостью и размерностью $\mathscr E$. Для случая препятствия в $\mathscr E=\overline\Omega$ выписаны необходимые условия разрешимости в классе $C^2(\overline\Omega)$, объясняющие наличие порога гладкости.
Библиогр. 11.