Интегральные формулы в областях из пространства прямоугольных матриц

Единичный круг и его различные многомерные обобщения (единичный $n$-мерный шар, поликруг, матричный единичный круг, классические области четырёх типов по классификации Картана, матричный шар) являются достаточно хорошо изученными: к настоящему времени решены многие важные вопросы многомерного комплексного анализа такие, как описание групп автоморфизмов, получение интегральных формул типа Коши-Сегё, Бергмана, Пуассона, доказательство необходимых и достаточных условий для голоморфной продолжимости функций с границы и т.д. Обширные результаты, полученные в этих областях, приведены в монографиях Хуа Ло-кена [2], У. Рудина [5], Г. Худайберганова, А. М. Кытманова, Б. А. Шаимкулова [8]; отметим также работы С. Косбергенова, А. М. Кытманова, С. Г. Мысливец [3] и [4].
Довольно часто задачи, поставленные для единичного круга на плоскости, переносятся на верхнюю полуплоскость при помощи преобразования Кэли
$$ w = \frac{i(1+z)}{1-z}. $$
В этой связи является актуальным нахождение многомерных аналогов формулы для реализации типа «единичный круг — верхняя полуплоскость». Мы рассматриваем реализацию классической области первого типа в виде области Зигеля и преобразование ядер Бергмана, Коши-Сеге и Пуассона при такой реализации. Например, для всякой функции $f\in\mathcal{O}^2(D)$ (голоморфной и интегрируемой с квадратом в $D$) справедлива формула Бергмана:
$$ f(U) = \int\limits_{D}f(V)K(U,V)d\mu(V), \quad U\in D. $$

Для поликруга, шара, а также классических однородных областей ядра Бергмана и Коши-Сеге вычислены явным образом в работах Бохнера и Хуа Ло-кена [2]. Наличие явного вида ядра интегральной формулы позволяет использовать эту интегральную формулу в задачах голоморфного продолжения.
В добавок к докладу, остановимся еще и на одной задаче. Пусть
$$ K_j = \left\{Z\in\mathbb C[p\times q]\colon R_j^2I-(Z-A_j)(Z-A_j)^{*}>0\right\}, $$
где $R_j>0, A_j\in\mathbb C[p\times q]$, $j=1,\dots,m$ — непересекающиеся классические области первого типа.
Задача (Аналог задачи Грауэрта). Будет ли объединение $\bigcup\limits_{j=1}^m\overline{K}_j = \overline{K}$ полиномиально выпукло, т.е. $\overline{K}^{\wedge} = K?$
При этом, если $p=1$ и $m=3$, то получится результат Е. Каллин [1] (о трёх шарах); если $p=1$ и $A_j\in\mathbb R[1,q]$, — то результат Г. Худайберганова [7,6].
Доклад основан на совместном исследовании с Бухарбаем Турганбаевичем Курбановым (Каракалпакский государственный университет, г. Нукус, Республика Узбекистан).

Список литературы

1. E. Kallin, “Polynomial convexity the three spheres problem”, Proceedings of the conference on complex analysis (Minneapolis, 1964), 301–304
2. Х. Ло-кен, Гармонический анализ функций многих комплексных переменных в классических областях, Издательство иностранной литературы, Москва, 1959, 163 с.
3. С. Косбергенов, А. М. Кытманов, С. Г. Мысливец, “О граничной теореме Мореры для классических областей”, Сиб. матем. журн., 40:3 (1999), 595–604      ; Siberian Math. J., 40:3 (1999), 506–514    
4. А. М. Кытманов, С. Г. Мысливец, “Об одном граничном аналоге теоремы Мореры”, Сиб. матем. журн., 36:6 (1995), 1350–1353      ; Siberian Math. J., 36:6 (1995), 1171–1174    
5. У. Рудин, Теория функций в единичном шаре из $\mathbb C^n$, Мир, Москва, 1984, 456 с.
6. Г. Худайберганов, “К одной задаче Грауэрта”, О голоморфных функциях многих комплексных переменных, Красноярск, 1976, 123–130
7. Г. Худайберганов, “Об одной задаче Грауэрта”, ДАН УзССР, 3 (1975), 7–8
8. Г. Худайберганов, А. М. Кытманов и Б. А. Шаимкулов, Комплексный анализ в матричных областях, Издательство СФУ, Красноярск, 2011