Об эллиптических операторах с разрывными коэффициентами в неограниченных областях с угловыми точками

Для неограниченных областей $\Omega\subset\mathbb{R}^2$ с компактными и некомпактными кусочно-$C^{1}$ границами $\partial\Omega $, имеющими конечное число конечных и бесконечных угловых точек, исследуются вопросы существования и единственности слабых решений краевой задачи Неймана для эллиптического уравнения в дивергентной форме: $div(a\nabla u)=div f$ с разрывными кусочно-постоянными коэффициентами $a$. Под конечной или бесконечной угловой точкой $\partial\Omega$ подразумевается конечная или бесконечно удаленная вершина отличного от $\pi$ угла между парой кривых класса $C^{1}$, имеющих в вершине предельные нормали, тогда как вершина угла, равного $\pi$, считается точкой гладкости $\partial\Omega$. Бесконечные угловые точки называют также выходами на бесконечность.
Предполагается, что скалярные коэффициенты $a$ имеют конечное число кусочно-гладких компактных и некомпактных линий разрыва коэффициентов, состоящих из замкнутых кусков гладких кривых ${\Gamma_k }$ класса $C^1$, на которых заданы естественные условия сопряжения, т.е. непрерывности решения и его производной по конормали ${\nu}_a=a\nu$ к соответствующей кривой ${\Gamma_k }$ с нормалью $\nu$. Угловые точки $\partial\Omega$ могут оказаться точками разрыва коэффициентов — для бесконечной угловой точки это означает, что хотя бы две кривые ${\Gamma_k }$ уходят на бесконечность, имея там предельные нормали. Краевая задача с однородными условиями Неймана на $\partial\Omega$ и с условиями сопряжения на ${\Gamma_k }$ решается в обобщенной постановке в смысле стандартного интегрального тождества для класса слабых решений $\nabla u\in L_p(\Omega)$ с заданной векторнозначной $f\in L_p(\Omega)$. Такую постановку удобно рассматривать как обобщенную постановку краевой задачи Неймана для системы первого порядка, эллиптической по Дуглису-Ниренбергу. Важно, что при наличии двух и более бесконечных угловых точек (т.е., выходов на бесконечность) с ненулевыми углами, корректная обобщенная постановка задачи Неймана при $p>2$ требует пробных функций, выходящих на свою произвольную константу по каждому выходу на бесконечность с ненулевым углом. Вычисление размерностей ядра и коядра соответствующего матричного дифференциального оператора и является главной целью настоящей работы, продолжающей исследования, начатые в [1,2], где рассмотрены случай $\Omega=\mathbb{R}^2$ и краевая задача с однородными условиями Дирихле в случае $\Omega \ne\mathbb{R}^2$. Краткое изложение истории вопроса можно найти в [1], а более подробное — в [2].
К особым точкам замыкания $\overline{\Omega}$ относятся все точки, характер которых определяет замкнутость или незамкнутость области значений рассматриваемого эллиптического оператора, а также размерности его ядра и коядра относительно всей шкалы значений показателя $p\in (1,\infty)$. Помимо конечных и бесконечных угловых точек $\partial \Omega$ , особыми точками становятся все точки гладкости $\partial \Omega$, из которых выходят хотя бы две кривые ${\Gamma_k }$, тогда как в случае только одной кривой ${\Gamma_k }$ точка гладкости $\partial \Omega$ будет особой, если только ${\Gamma_k }$ выходит из нее под углом к $\partial \Omega$ , отличным от прямого. Особыми будут также и все внутренние точки $\Omega$, из которых выходят хотя бы две кривые ${\Gamma_k}$. При этом в случае только двух кривых, угол между ними отличен от $\pi$ и особая точка является точкой излома линии разрыва коэффициентов. В случае компактной $\partial \Omega$ бесконечность рассматривается как внутренняя точка, которая может оказаться особой, если из нее выходят хотя бы две кривые ${\Gamma_k }$.
Каждой особой точке соответствует своя модельная задача Штурма–Лиувилля по полярному углу с условиями сопряжения и однородными условиями Неймана. Но для класса решений $\nabla u\in L_p(\Omega)$ интерес представляют только собственные числа модельных задач Штурма–Лиувилля $\lambda\in(-1,0)$ — именно они увеличивают размерности ядра и коядра по шкале значений показателя $p\in (1,\infty)$, т.е., характер каждой особой точки определяется количеством именно таких ее собственных чисел.
Для рассматриваемого эллиптического оператора в случае условий Неймана установлено, что размерности его ядра и коядра по всей шкале значений показателя $p\in (1,\infty)$ совпадают с размерностями для случая условий Дирихле [2], за исключением областей, имеющих не менее двух выходов на бесконечность с ненулевыми углами, т.е., за исключением случая, который в [2] не рассматривался.