| Математический сборник |
|
|
|
|
|
Внутренние функции матричного аргумента и классы сопряженности в унитарных группах Ю. А. Неретинabc a Faculty of Mathematics, University of Vienna, Vienna, Austria b Институт проблем передачи информации им. А. А. Харкевича Российской академии наук, г. Москва c Механико-математический факультет, Московский государственный университет имени М. В. Ломоносова
Англоязычная версия:
Sbornik: Mathematics, 2022, Volume 213, Issue 8, Pages DOI: https://doi.org/10.4213/sm9673e 
Реферативные базы данных:
    § 1. Формулировка результатов1.1. ОбозначенияНиже $\bullet$ $\operatorname{Mat}(n)$ – пространство комплексных квадратных матриц порядка $n$; $\bullet$ $1_n$ – единичная матрица порядка $n$; $\bullet$ $\operatorname{GL}(n,\mathbb C)$ – группа комплексных обратимых матриц порядка $n$; $\bullet$ $\operatorname{U}(n)$ – группа унитарных матриц порядка $n$. Пусть $V$, $W$ – линейные пространства с базисами $e_1,\dots,e_p$ и $f_1,\dots,f_q$ соответственно. Мы упорядочиваем матричные элементы тензорного произведения $V\otimes W$ как
$$
\begin{equation*}
e_1\otimes f_1, \dots, e_p\otimes f_1, \ e_1\otimes f_2, \dots, e_p\otimes f_2, \ \dots, \ e_1\otimes f_q, \dots, e_p\otimes f_q.
\end{equation*}
\notag
$$
В соответствии с этим мы записываем и тензорное произведение матриц. 1.2. Матричные шары и внутренние отображенияОбозначим через $\|\cdot\|$ операторную норму в евклидовом пространстве, т.е. $\|z\|^2$ – это максимальное собственное значение матрицы $z^*z$. Пусть $\mathrm B_n$ (матричный шар) – множество комплексных матриц $z$ порядка $n$ таких, что $\|z\|<1$. Через $\overline{\mathrm B}_n$ обозначим его замыкание, т.е. множество матриц, удовлетворяющих условию $\|z\|\leqslant 1$, через $\partial \mathrm B_n$ – границу множества $\mathrm B_n$, т.е. множество матриц с нормой, равной 1. Унитарная группа $\operatorname{U}(n)$ содержится в $\partial\mathrm B_n$ и является границей Шилова области $\mathrm B_n$. Напомним, что псевдоунитарная группа $\operatorname{U}(n,n)$ действует на $\mathrm B_n$ биголоморфными преобразованиями, а пространство $\mathrm B_n$ является симметрическим пространством
$$
\begin{equation*}
\mathrm B_n\simeq \operatorname{U}(n,n)\big/(\operatorname{U}(n)\times \operatorname{U}(n))
\end{equation*}
\notag
$$
(см. [21; § 6], [15; § 2.3], а также п. 2.1 ниже). Мы назовем голоморфное отображение $F\colon \mathrm B_m\to\mathrm B_\alpha$ внутренним, если его граничные значения на $\operatorname{U}(m)$ определены почти всюду и $F$ отображает $\operatorname{U}(m)$ в $\operatorname{U}(\alpha)$. Ниже мы обсуждаем только рациональные отображения, поэтому смысл термина “граничные значения” здесь ясен. Замечание 1.1. Напомним, что внутренние функции $\mathrm B_1\to \mathrm B_1$ (т.е. голоморфные отображения единичного круга $|z|<1$ в себя, переводящие в себя также и окружность $|z|=1$) являются классическим предметом теории функций комплексного переменного, см., например, [8]. Внутренние функции $\mathrm B_1\to \mathrm B_\alpha$ возникли в связи с работами М. С. Лившица 1946–1954 гг. по спектральной теории операторов, близких к унитарным, см. [11], [12], [23]. В. П. Потапов в [22] получил мультипликативное представление таких функций, см. также [3]. Внутренние функции $\mathrm B_m\to \mathrm B_\alpha$ появились в [16]–[17] в связи с теорией представлений бесконечномерных классических групп. 1.3. Операторные узлы и характеристические функцииФиксируем $\alpha$ и $m\,{\in}\,\mathbb N$. Выберем $j\,{=}\,0,1,2,\dots$ . Рассмотрим унитарную группу $\operatorname{U}(\alpha\,{+}\,mj)$ и ее подгруппу $\operatorname{U}(j)$, вложенную как
$$
\begin{equation*}
T\mapsto \begin{pmatrix} 1_\alpha&0\\ 0& T\otimes 1_m \end{pmatrix} := \begin{pmatrix} 1_\alpha&0&0&\dots&0\\ 0&T&0&\dots&0\\ 0&0&T&\dots&0\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 0&0&0&\dots&T \end{pmatrix}\in \operatorname{U}(\alpha+mj).
\end{equation*}
\notag
$$
Рассмотрим сопряженные классы группы $\operatorname{U}(\alpha+mj)$ по отношению к подгруппе $\operatorname{U}(j)$, т.е. матрицы, определенные с точностью до эквивалентности
$$
\begin{equation*}
g\sim hgh^{-1}, \quad \text{где }\ g\in \operatorname{U}(\alpha+mj), \quad h\in \operatorname{U}(j).
\end{equation*}
\notag
$$
Мы называем такие классы операторными узлами (colligations). Пусть $S\,{\in}\, \mathrm B_m$, а $s_{\mu\nu}$ – ее матричные элементы. Мы записываем $g$ как блочную матрицу размера $\alpha+\underbrace{j+\dots+j}_{m \text{ раз}}$,
$$
\begin{equation}
g=\begin{pmatrix} a&b_1&\dots\\ c_1&d_{11}&\dots\\ \vdots&\vdots&\ddots \end{pmatrix} \in \operatorname{U}(\alpha+mj),
\end{equation}
\tag{1.1}
$$
и рассматриваем следующее соотношение:
$$
\begin{equation}
\begin{pmatrix} p\\ x_1\\ \vdots\\ x_m \end{pmatrix} = \begin{pmatrix} a&b_1&\dots&b_m\\ c_1&d_{11}&\dots&d_{1m}\\ \vdots&\vdots&\ddots&\vdots\\ c_k&d_{m1}&\dots&d_{mm} \end{pmatrix} \begin{pmatrix} q\\ s_{11}x_1+\dots +s_{1m}x_m \\ \vdots \\ s_{m1}x_1+\dots +s_{mm}x_m \end{pmatrix},
\end{equation}
\tag{1.2}
$$
где столбцы $p$, $q$ содержатся в $\mathbb C^\alpha$, а $x_1,\dots,x_m\in \mathbb C^j$. Мы исключаем переменные $x_1,\dots,x_m$ и получаем зависимость где $\Theta[g;S]$ – рациональная матричнозначная функция переменной $S$, зависящая от параметра $g$. Согласно [16; теорема 4.1] эта функция зависит лишь от класса сопряженности, содержащего $g$, и является внутренней функцией матричной переменной $S$. Мы называем $\Theta[g;S]$ характеристической функцией операторного (матричного) узла. Повторим определение в других терминах. Обозначим
$$
\begin{equation*}
1_j\otimes S:= \begin{pmatrix} s_{11}\cdot 1_j&\dots&s_{1m}\cdot 1_j\\ \vdots&\ddots&\vdots\\ s_{m1}\cdot 1_j&\dots&s_{mm}\cdot 1_j \end{pmatrix}.
\end{equation*}
\notag
$$
Тогда
$$
\begin{equation}
\Theta[g;S]=a+b(1_j\otimes S)(1_{mj}-d(1_j\otimes S) )^{-1} c.
\end{equation}
\tag{1.3}
$$
Замечание 1.2. Пусть $H\,{=}\,H_1\oplus H_2$ – гильбертово пространство, а $\begin{pmatrix} a&b\\ c&d \end{pmatrix}$ – унитарный оператор в $H$. Характеристическая функция Лившица, возникшая в спектральной теории операторов, не являющихся нормальными, см. [11], [12] (см. также [23], [7], [6]), задается формулой В нашей конструкции это соответствует $m=1$. Мы предпочитаем использовать оригинальный термин “характеристическая функция”, который подчеркивает аналогию с характеристическими числами и характеристическим многочленом. В нашем уравнении (1.2) можно видеть обобщение уравнения $Ax=s x$. Но термин “характеристическая функция” перегружен (у него есть два других общепринятых значения – индикаторная функция и преобразование Фурье меры в теории вероятности). Для (1.4) используется также другой термин трансфер-функция (transfer function), см., например, [5], пришедший из теории систем. Замечание 1.3. Структуры типа операторных узлов возникают в теории представлений бесконечномерных классических групп как “полугруппы двойных классов смежности”. Впервые это было обнаружено Г. И. Ольшанским в [20], см. также [14; § IX.3–4]. Такие полугруппы действуют в пространствах унитарных представлений соответствующих групп операторами с гауссовскими ядрами. Гауссово ядро определяется матрицей, и Ольшанский показал, что эти матрицы задаются выражениями, похожими на матричнозначные характеристические функции одной переменной. Происхождение внутренних функций матричной переменной в [16], [17] было похожим, но источником был более широкий класс унитарных представлений из работы Н. И. Нессонова [19]. С этой точки зрения, основные объекты – это полугруппы операторных узлов, а внутренние функции – инструмент для их понимания. В настоящей статье мы не ссылаемся на теорию представлений и рассматриваем внутренние функций и матричные узлы как абстрактные предметы. 1.4. ГипотезаОбозначим через
$$
\begin{equation*}
\operatorname{Inn}(m,\alpha)=\operatorname{Inn}[\mathrm B_m,\mathrm B_\alpha]
\end{equation*}
\notag
$$
пространство всех рациональных внутренних отображений $F\colon \overline{\mathrm B}_m\to\overline{\mathrm B}_\alpha$. Через $\operatorname{Inn}_\circ(m,\alpha)$ обозначим подмножество, состоящее из отображений $F$ таких, что $F(\mathrm B_m)\subset \mathrm B_\alpha$. По принципу максимума модуля последнее условие равносильно такому: для некоторого $z_0\in\mathrm B_m$ выполнено $F(z_0)\in \mathrm B_\alpha$. Мы также определим пространство
$$
\begin{equation*}
\operatorname{Char}(m,\alpha)=\operatorname{Char}[\mathrm B_m,\mathrm B_\alpha],
\end{equation*}
\notag
$$
состоящее из характеристических функций, определяемых всеми возможными элементами групп $\operatorname{U}(\alpha+mj)$ с $j=0, 1, 2, \dots$ . Через $\operatorname{Char}_\circ(m,\alpha)$ обозначим подмножество, состоящее из функций, отображающих открытый матричный шар $\mathrm B_m$ в открытый матричный шар $\mathrm B_\alpha$. В обозначениях (1.1), отображение $\Theta[g;\cdot]$ содержится в $\operatorname{Char}_\circ(m,\alpha)$, если и только если $\|a\|<1$. Гипотеза 1.4. Любая рациональная внутренняя функция является характеристической функцией некоторого матричного узла, т.е.
Замечание 1.5. Гипотеза была сформулирована в [17]. Она не бесспорна, потому что похожее утверждение для внутренних функций в полидиске не выполнено (или верно при дополнительных ограничениях на рациональные внутренние функции, см. случай полидиска в [9], [4]). 1.5. Операции в $\operatorname{Char}(m,\alpha)$В настоящей статье мы показываем, что класс $\coprod_{m,\alpha}\operatorname{Char}(m,\alpha)\subset \coprod_{m,\alpha}\operatorname{Inn}(m,\alpha)$ замкнут относительно нескольких естественных операций1. Во всех случаях мы описываем явно операции с матричными узлами, соответствующие операциям с внутренними функциями, эти формулы содержатся в доказательствах. Теорема 1.6. a) Пусть $F_1\in \operatorname{Char}(m,\alpha)$, $F_2\in \operatorname{Char}(m,\beta)$. Тогда $F_1\oplus F_2\in \operatorname{Char}(m,\alpha+\beta)$. b) Пусть $F\in \operatorname{Char}(m,\alpha+\beta)$ допускает разложение в прямую сумму $F=F_1\oplus F_2$, где $F_1\in \operatorname{Inn}(m,\alpha)$, $F_2\in \operatorname{Inn}(m,\beta)$. Тогда $F_1\in \operatorname{Char}(m,\alpha)$, $F_2\in \operatorname{Char}(m,\beta)$. Первая (тривиальная) часть утверждения доказана в п. 3.1, вторая – в п. 3.5. Следующее утверждение было получено в [16; теорема 4.1]. Теорема 1.7. Пусть $F_1$, $F_2\in \operatorname{Char}(m,\alpha)$. Тогда поточечное произведение $F_1 F_2$ матричнозначных функций $F_1$, $F_2$ содержится в $\operatorname{Char}(m,\alpha)$. Теорема 1.8. Пусть $F_1\in \operatorname{Char}(m,\alpha)$, $F_2\in \operatorname{Char}(m,\beta)$. Тогда поточечное тензорное произведение $F_1\otimes F_2$ матричнозначных функций $F_1$, $F_2$ содержится в $\operatorname{Char}(m,\alpha\beta)$. Утверждение доказано в п. 3.3. Теорема 1.9. Пусть $G\in \operatorname{Char}(\beta,\gamma)$ определено матрицей $\begin{pmatrix} a&b\\ c&d \end{pmatrix}\in \operatorname{U}(\gamma+ \beta j)$, а $F\in \operatorname{Char}(\alpha,\beta)$ – матрицей $\begin{pmatrix}p&q\\ r&t\end{pmatrix}\in \operatorname{U}(\beta+\alpha i)$. Пусть Тогда $G\circ F\in \operatorname{Char}(\alpha,\gamma)$. Более того, заключение выполнено, и если Замечание 1.10. a) В частности, условие (1.5) выполнено, если $\|d\|<1$ или $\|p\|<1$. Напомним, что $\|d\|\leqslant 1$, $\|p\|\leqslant 1$. b) Может случиться, что образ отображения $F$ содержится в множестве точек разрыва отображения $G$. Условие (1.6) достаточно (но не необходимо) для того, чтобы исключить такую ситуацию. Теорема 1.9 доказывается в п. 3.4. Далее, рассмотрим унитарное конечномерное представление $\rho$ унитарной группы $\operatorname{U}(n)$. Тогда (см., например, [24; § 42]) оно голоморфно продолжается до представления группы $\operatorname{GL}(n,\mathbb C)$. Представление $\rho$ называется полиномиальным, если все матричные элементы $\rho(g)$ являются многочленами от $g\in\operatorname{GL}(n,\mathbb C)$. Рассмотрим полугруппу $\operatorname{Mat}^\times(n)$ всех матриц порядка $n$ по отношению к умножению. Группа $\operatorname{GL}(n,\mathbb C)$ плотна в $\operatorname{Mat}^\times(n)$, и все полиномиальные представления группы $\operatorname{GL}(n,\mathbb C)$ продолжаются по непрерывности на полугруппу $\operatorname{Mat}^\times(n)$ (матрицы $\rho(\cdot)$ представления полугруппы $\operatorname{Mat}^\times(n)$ определяются теми же многочленами). Теорема 1.11. Пусть $\rho$ – полиномиальное представление группы $\operatorname{U}(\alpha)$. Пусть $F\in\operatorname{Inn}(m,\alpha)$. Тогда $\rho\circ F$ содержится в $\operatorname{Inn}(m,\dim\rho)$. Утверждение доказано в п. 3.6. Следствие 1.12. Пусть $F\in\operatorname{Inn}(m,\alpha)$. Тогда $\det(F)\in \operatorname{Inn}(m,1)$. 1.6. Некоторые замечания о поведении внутренних функций на стратах границыНапомним (см. [21; § 6], см. также ниже п. 2.3), что граница области $\mathrm B_m\subset \operatorname{Mat}(m)$ является объединением континуального семейства попарно непересекающихся комплексных (открытых) многообразий (граничных компонент). Эти компоненты являются максимальными комплексными многообразиями, содержащимися в границе. Каждая компонента $C$ биголоморфно эквивалентна некоторому матричному шару $\mathrm B_\nu$, где $\nu=0,1,\dots,m-1$. При этом биголоморфно отображение $\mathrm B_\mu\to C$ продолжается до гомеоморфизма замыканий $\overline{\mathrm B}_\mu\to \overline C$. Следующие высказывания очевидны. Предложение 1.13. a) Пусть $F\in \operatorname{Inn}[\mathrm B_m,\mathrm B_\alpha]\setminus \operatorname{Inn}_\circ[\mathrm B_m,\mathrm B_\alpha]$. Тогда $F(\mathrm B_m)$ содержится в единственной граничной компоненте $C\subset \mathrm B_\alpha$. Более того, $F$ содержится в $\operatorname{Inn}_\circ[B_m,C]$. b) Пусть $F\in \operatorname{Inn}[\mathrm B_m,\mathrm B_\alpha]$ непрерывно в некоторой точке граничной компоненты $C\subset \mathrm B_m$. Тогда $F\in \operatorname{Inn}[C,\mathrm B_\alpha]$. Следующее утверждение доказано в п. 3.7. Теорема 1.14. a) Пусть $F\in \operatorname{Char}[\mathrm B_m,\mathrm B_\alpha]$ отображает $\mathrm B_m$ в граничную компоненту $C\subset \overline{\mathrm B}_\alpha$. Тогда $F\in \operatorname{Char}_\circ[\mathrm B_m,C]$. b) Пусть $F\in \operatorname{Char}[\mathrm B_m,\mathrm B_\alpha]$ определено матрицей $\begin{pmatrix}a&b\\ c&d\end{pmatrix}\in \operatorname{U}(\alpha+mj)$. Пусть $C\subset \overline{\mathrm B}_m$ – компонента границы. Пусть $\det(1_{mj}- d(1_j\otimes S_0))\ne 0$ для некоторой матрицы $S_0\in C$. Тогда ограничение $F$ на $C$ содержится в $\operatorname{Char}[C,\mathrm B_\alpha]$. 1.7. О некоторых возможных обобщениях конструкцииКак было замечено выше, $\mathrm B_n$ является симметрическим пространством. Наша конструкция внутренних функций может быть автоматически расширена на эрмитовы симметрические пространства серий
$$
\begin{equation*}
\operatorname{U}(p,q)/(\operatorname{U}(p)\times \operatorname{U}(q)), \qquad \operatorname{Sp}(2n,\mathbb R)/\operatorname{U}(n), \qquad \operatorname{SO}^*(2n,\mathbb R)
\end{equation*}
\notag
$$
(см., например, [21], они называются классическими комплексными областями типов I, II и III) и для прямых произведений таких пространств (см. [16], [18]). Начальные пространства и пространства-образы в таких конструкциях не являются независимыми. Например, этот подход не дает возможности построить внутренние функции из обычного единичного комплексного шара $\operatorname{U}(n,1)/(\operatorname{U}(n)\times \operatorname{U}(1))$ в единичный круг (они существуют согласно работам А. Б. Александрова [1] и Э. Лоу [13]) и (более общо) из пространств $\operatorname{U}(p,q)/(\operatorname{U}(p)\times \operatorname{U}(q))$ в единичный круг при $p\ne q$ (они тоже существуют, см. [2]). Однако можно попробовать взять $m=\infty$. Возникает следующий вопрос. Вопрос 1.15. Пусть $g$ – унитарный оператор Довод в пользу этого предположения очень простой. Мы пишем соотношение
$$
\begin{equation*}
\begin{pmatrix} p\\ x\end{pmatrix} =\left(\begin{array}{c|cc}a&b_1&b_2\\ \hline c&d_1&d_2 \end{array}\right) \begin{pmatrix} q\\ s_1 x\\ s_2 x \end{pmatrix}.
\end{equation*}
\notag
$$
Исключая переменные $x$, мы получаем $p=\Theta[g,(s_1,s_2)]\,q$. С другой стороны, матрица $g$ унитарна, следовательно,
$$
\begin{equation*}
|p|^2+\|x\|^2=|q|^2+|s_1|^2 \|x\|^2+ |s_2|^2 \|x\|^2,
\end{equation*}
\notag
$$
т.е. Если $|s_1|^2+|s_2|^2<1$, то $|p|\leqslant |q|$ и $|\Theta[g,(s_1,s_2)]|\leqslant1$. На первый взгляд кажется, что $|s_1|^2+|s_2|^2=1$ сразу влечет $|p|= |q|$, но все не так просто, так как матрица в квадратных скобках в (1.7) может быть в этом случае необратимой. Легко привести примеры, когда функция $\Theta[g;\cdot]$ не является внутренней, однако и характеристическая функция (1.4) тоже не всегда внутренняя, см. [23; § VI.1]. § 2. Предварительные сведения2.1. Дробно-линейные отображенияМы реализуем псевдоунитарную группу $\operatorname{U}(n,n)$ как группу комплексных матриц $g=\begin{pmatrix} A&B\\ C&D \end{pmatrix}$ размера $n+n$, удовлетворяющих условию
$$
\begin{equation*}
g \begin{pmatrix} -1_n&0\\ 0&1_n \end{pmatrix}g^* =\begin{pmatrix} -1_n&0\\ 0&1_n \end{pmatrix}.
\end{equation*}
\notag
$$
Для каждого $g\in\operatorname{U}(n,n)$ мы рассмотрим следующее дробно-линейное преобразование пространства $\operatorname{Mat}(n)$: Такие преобразования переводят матричный шар $\mathrm B_n$ в себя (см., например, [21; § 6], [15; § 2.3]). Это действие группы $\operatorname{U}(n,n)$ транзитивно, стабилизатор точки $z=0$ состоит из матриц $\begin{pmatrix} a&0\\ 0&d\end{pmatrix}$, где $a\in\operatorname{U}(n)$, $d\in \operatorname{U}(n)$. Поэтому $\mathrm B_n$ является однородным пространством,
$$
\begin{equation*}
\mathrm B_n=\operatorname{U}(n,n)/(\operatorname{U}(n)\times\operatorname{U}(n)).
\end{equation*}
\notag
$$
2.2. Реализация $\mathrm B_n$ как области в грассманианеРассмотрим псевдоевклидово пространство
$$
\begin{equation*}
V^{2n}=V_-^n\oplus V_+^n:=\mathbb C^n\oplus \mathbb C^n,
\end{equation*}
\notag
$$
снабженное эрмитовой формой $\mathscr M=\mathscr M_n$, которая определена матрицей $\begin{pmatrix} -1_n&0\\ 0&1_n \end{pmatrix}$. Наша группа $\operatorname{U}(n,n)$ сохраняет эту форму. Обозначим через $\operatorname{Gr}(n)$ грассманиан всех $n$-мерных подпространств в $V^{2n}$. Мы говорим, что подпространство $L\in\operatorname{Gr}(n)$ отрицательно (соответственно, неположительно), если форма $\mathscr M$ отрицательно (соответственно, неположительно) определена на $L$. Подпространство $L\in\operatorname{Gr}(n)$ изотропно, если форма $\mathscr M$ равна нулю на $L$. Мы обозначим соответствующие подмножества в грассманиане через
$$
\begin{equation*}
\operatorname{Gr}^{<0}(n), \qquad \operatorname{Gr}^{\leqslant 0}(n), \qquad \operatorname{Gr}^{0}(n)
\end{equation*}
\notag
$$
соответственно. Для любого линейного отображения $z\colon V_-^n\to V_+^n$ мы рассмотрим $n$-мерное пространство $L[z]$, состоящее из векторов вида $(v_-,v_-z)$. Если $z\in \mathrm B_n$, то форма $\mathscr M$ отрицательна на $L(z)$. Обратно, любое отрицательное $n$-мерное пространство в $V$ имеет форму $L(z)$ для некоторого элемента $z\in \mathrm B_n$. Формула (2.1) соответствует естественному действию $\operatorname{U}(n,n)$ на множестве отрицательных подпространств. Также
$$
\begin{equation*}
\overline{\mathrm B}_n\simeq \operatorname{Gr}^{\leqslant 0}(n), \qquad \operatorname{U}(n)\simeq \operatorname{Gr}^0(n).
\end{equation*}
\notag
$$
2.3. Структура границы матричного шара $\overline{\mathrm B}_n$Граница $\mathrm B_n$ состоит из $n$ орбит $\mathscr{O}_j$, где $j=1, 2, \dots,n-1$, группы $\operatorname{U}(n,n)$. В качестве представителей орбит можно выбрать матрицы вида $\begin{pmatrix}1_j&0\\0& 0_{n-j}\end{pmatrix}$. Граница Шилова $\operatorname{U}(n)$ соответствует $j=n$. На языке грассманиана $\operatorname{Gr}(n)$ орбита $\mathscr{O}_j$ соответствует неположительным подпространствам $L$ таким, что ранг формы $\mathscr M$ на $L$ равен $(n-j)$. Любая компонента границы $\partial \mathrm B_n$ может быть приведена дробно-линейным преобразованием к виду
$$
\begin{equation*}
\begin{pmatrix}u&0\\ 0& 1_j\end{pmatrix}, \quad\text{где $u$ пробегает $\mathrm B_{n-j}$}.
\end{equation*}
\notag
$$
На языке грассманиана граничные компоненты $C$ нумеруются числом $j=1,\dots,n$, изотропным подпространством $W\subset \mathbb C^n\oplus \mathbb C^n$ размерности $j$. Сама компонента состоит из всех $n$-мерных неположительных подпространств $L\,{\supset}\, W$, причем ядро формы $\mathscr M$ на $L$ совпадает с $W$. 2.4. Линейные отношенияПусть $V$, $W$ – линейные пространства. Линейное отношение $Y\colon V\rightrightarrows W$ – это линейное подпространство в $V\oplus W$. Пусть $Y\colon V\rightrightarrows W$ и $Z\colon W\rightrightarrows U$ – линейные отношения. Их произведение $ZY\colon V\rightrightarrows U$ – это множество всех $v\oplus u\in V\oplus U$, для которых существует $w\in W$, удовлетворяющее $v\oplus w\in Y$, $w\oplus u\in Q$. Пусть $H\subset V$ – линейное подпространство. Подпространство $YH\subset W$ состоит из $w\in W$, для которых существует $v\,{\in}\, H$, удовлетворяющий $v\oplus w\in Y$. Мы можем рассматривать $H$ как линейное отношение $0\rightrightarrows V$, следовательно, мы можем понимать $YH$ как произведение линейных отношений. Для линейного отношения $Y\colon V\rightrightarrows W$ мы определяем: – ядро $\ker Y\subset V$ как пересечение $Y\cap V$; – область определения $\operatorname{dom} Y\subset V$ как проекцию $Y$ на $V$ параллельно $W$; – образ $\operatorname{im} Y\subset W$ как проекцию $Y$ на $W$; – неопределенность $\operatorname{indef} Y$ как $Y\cap W$. Произведение линейных отношений $Y\colon V\rightrightarrows W$, $Z\colon W\rightrightarrows Y$ является непрерывной операцией $(Y,Z)\to ZY$ вне множеств
$$
\begin{equation*}
\ker Z\cap \operatorname{indef} Y\ne 0, \qquad \operatorname{im} Y+\operatorname{dom} Z\ne W.
\end{equation*}
\notag
$$
2.5. Изотропная категорияОбъектами изотропной категории, см. [15; § 2.10], являются пространства
$$
\begin{equation*}
V^{2n}=V_+^n\oplus V_-^n\simeq \mathbb C^n\oplus\mathbb C^n,
\end{equation*}
\notag
$$
где $n\,{=}\,0, 1, 2, \dots$ . Морфизмы $V^{2n}\to V^{2m}$ – это линейные отношения $Y\colon V^{2n}\rightrightarrows V^{2m}$, удовлетворяющие условиям: 1) если $v\oplus v'\in Y$, то $\mathscr M_n(v,v)=\mathscr M_m(v',v')$; 2) размерность $\dim P$ является максимально возможной, т.е. $\dim Y=m+n$. Произведение морфизмов – это произведение линейных отношений. Группа автоморфизмов объекта $V^{2n}$ – это $\operatorname{U}(n,n)$. Подчеркнем, что произведение имеет точки разрыва. Снабдим $V^{2n}\oplus V^{2m}$ разностью эрмитовых форм на этих пространствах:
$$
\begin{equation*}
\mathscr M_{m,n}(v\oplus w, v'\oplus w'):=\mathscr M_n(v,v')-\mathscr M_m(w,w').
\end{equation*}
\notag
$$
Тогда подпространство $V_-^n\oplus V_+^m\subset V^{2n}\oplus V^{2m}$ является отрицательным относительно формы $\mathscr M_{m,n}$, а подпространство $V_+^n\oplus V_-^m\subset V^{2n}\oplus V^{2m}$ положительно. Мы применяем тот же довод и получаем следующее утверждение. Линейное отношение $P\colon V^{2n}\rightrightarrows V^{2m}$ изотропно, если и только если $P$ является графиком унитарного оператора $V_-^n\oplus V_+^m\to V_+^n\oplus V_-^m$. Таким образом, множество морфизмов из $V^{2n}$ в $V^{2m}$ находится во взаимно однозначном соответствии с унитарной группой $\operatorname{U}(n+m)$, а произведение морфизмов $Y\colon V^{2n}\rightrightarrows V^{2m}$, $Z\colon V^{2m}\rightrightarrows V^{2k}$ индуцирует операцию
$$
\begin{equation*}
\operatorname{U}(n+m)\times \operatorname{U}(m+k)\to \operatorname{U}(n+k).
\end{equation*}
\notag
$$
О следующем утверждении см., например, [15; теорема 2.8.4]. Предложение 2.1. Пусть $Y\colon V^{2k}\rightrightarrows V^{2m}$ соответствует унитарной матрице $\upsilon=\begin{pmatrix} p&q\\ r&t \end{pmatrix}\in \operatorname{U}(k+m)$, а $Z\colon V^{2m}\rightrightarrows V^{2n}$ соответствует унитарной матрице $\zeta=\begin{pmatrix}a&b\\ c&d\end{pmatrix}\in \operatorname{U}(n+m)$. Пусть Тогда $Z Y $ соответствует матрице 2.6. Отображения Крейна–ШмульянаПусть $L\in\operatorname{Gr}^{\leqslant 0}(m)$. Применяя морфизм $Z\colon V^{2m}\rightrightarrows V^{2n}$ изотропной категории к $L$, мы получаем элемент грассманиана $\operatorname{Gr}^{\leqslant 0}(n)$, поэтому мы получаем отображение $\overline{\mathrm B}_m\to \overline{\mathrm B}_m$ (см. [15; теорема 2.9.1]). Пусть $\zeta=\begin{pmatrix} a&b\\ c&d \end{pmatrix}$ – унитарная матрица, соответствующая $Z$. Тогда соответствующее отображение $\sigma[\zeta]$ задается формулой
$$
\begin{equation}
\sigma[\zeta;u]\colon u\mapsto a+bu(1_m-ud)^{-1}c, \quad\text{где }\ u\in \overline{\mathrm B}_m.
\end{equation}
\tag{2.3}
$$
Это выполняется, если $u$ удовлетворяет условию $\det(1-ud)\ne 0$. Заметим, что 1) для любого $\zeta\in\operatorname{U}(n+m)$ наше отображение непрерывно как отображение $\mathrm B_m\to\overline{\mathrm B}_n$; 2) если $\|d\|<1$, то наша формула определяет непрерывное отображение $\overline{\mathrm B}_m\to\overline{\mathrm B}_n$; 3) если $\|a\|<1$, то формула определяет непрерывное отображение $\mathrm B_m\to\mathrm B_n$. Замечание 2.2. Отображения $\sigma[\zeta;z]$ являются частным случаем отображений Крейна–Шмульяна, см. [10], см. также [15; § 2.9]. Замечание 2.3. Отображение (2.3) из $\mathrm B_m$ в $\mathrm B_m$ является внутренним и, более того, является характеристической функцией, определяемой элементом группы $\operatorname{U}(n+m\cdot 1)$. Лемма 2.4. Пусть $\zeta$ и $\upsilon$ такие же, как и в предложении 2.1. Тогда для любого $u\in \mathrm B_k$ выполнено Замечание 2.5. Ср. [15; теорема 2.9.4], но условия этой теоремы у нас не выполнены. По сути лемма 2.4 утверждает ассоциативность произведения линейных отношений $0\rightrightarrows V^{2k}\rightrightarrows V^{2m}\rightrightarrows V^{2n}$. Однако формула (2.2) не имеет места на многообразии $\det(1-pd)=0$. Чтобы избежать ссылки на доказательства или повторения доказательств, мы приводим формальное вычисление. Доказательство леммы 2.4. Нам надо преобразовать следующее выражение к форме Крейна–Шмульяна: Шаг 1. Достаточно преобразовать нужным образом выражение в больших скобках, оно является суммой $I+J$ двух слагаемых
$$
\begin{equation*}
\begin{aligned} \, I:&=p [1-dq-dq z(1-tz)^{-1}r]^{-1}, \\ J:&=qz(1-tz)^{-1} [1-dq-dq z(1-tz)^{-1}r]^{-1}. \end{aligned}
\end{equation*}
\notag
$$
Прежде всего, мы должны проверить, что обратная матрица $[\,{\dots}\,]^{-1}$ существует. Так как $(1-dp)^{-1}$ обратима, мы можем преобразовать $[\,{\dots}\,]^{-1}$ к виду
$$
\begin{equation}
[\,{\dots}\,]^{-1}=(1-dq)^{-1}(1- dq z(1-tz)^{-1}\cdot r(1-dq)^{-1})^{-1}.
\end{equation}
\tag{2.6}
$$
Далее, мы замечаем, что матрицы $(1-AB)$ и $(1-BA)$ обратимы или необратимы одновременно. Поэтому достаточно проверить существование матрицы
$$
\begin{equation*}
(1- r(1-dq)^{-1}\cdot dq z(1-tz)^{-1})^{-1} =(1-tz) (1- \{t+r(1-dq)^{-1}\cdot dq\}\cdot z)^{-1}.
\end{equation*}
\notag
$$
Так как $\|t\|\leqslant 1$, $\|z\|<1$, матрица $(1-tz)$ обратима. Далее, выражение в фигурных скобках совпадает с правым нижним блоком матрицы (2.2). Следовательно, $\|\{\,{\dots}\,\}\|\leqslant 1$ и второй фактор корректно определен. Шаг 2. Преобразуя слагаемое $J$ с помощью (2.6), получаем
$$
\begin{equation*}
J=q z(1-tz)^{-1}\cdot r(1-dq)^{-1}(1- dq z(1-tz)^{-1}\cdot r(1-dq)^{-1})^{-1}.
\end{equation*}
\notag
$$
Применяя матричное тождество мы приходим к
$$
\begin{equation*}
\begin{aligned} \, J&=q z(1-tz)^{-1}\cdot (1- r(1-dq)^{-1}\cdot dq z(1-tz)^{-1})^{-1}r(1-dq)^{-1} \\ &=qz (1- \{t+r(1-dq)^{-1}\cdot dq\}\cdot z)^{-1}r(1-dq)^{-1}. \end{aligned}
\end{equation*}
\notag
$$
Далее, преобразуя слагаемое $I$ с помощью (2.6) и применяя тождество ко второму множителю в (2.6), мы получаем
$$
\begin{equation*}
\begin{aligned} \, I&=p(1-dp)^{-1} \\ &\qquad + p(1-dp)^{-1} d\cdot q z(1-tz)^{-1} r(1-dq)^{-1} (1- dq z(1-tz)^{-1} r(1-dq)^{-1})^{-1} \\ &=p(1-dp)^{-1}+ p(1-dp)^{-1} d\cdot J. \end{aligned}
\end{equation*}
\notag
$$
Итак,
$$
\begin{equation*}
\begin{aligned} \, &I+J =p(1-dp)^{-1}+\{p(1-pd)^{-1}d+1\}\cdot J \\ &\ =(1-pd)^{-1}p+\{(1-pd)^{-1}\}\cdot qz (1- \{t+r(1-dq)^{-1}\cdot dq\}\cdot z)^{-1}r(1-dq)^{-1} \end{aligned}
\end{equation*}
\notag
$$
(мы применили (2.7) к выражению в фигурных скобках). Мы подставляем результат в (2.5) вместо выражения в больших скобках. Лемма доказана. 2.7. Отображения Крейна–Шмульяна и характеристические функцииФормулу (1.3) можно записать как
$$
\begin{equation}
\Theta\biggl[\begin{pmatrix} a&b\\ c&d \end{pmatrix};S \biggr]= \sigma\biggl[\begin{pmatrix} a&b\\ c&d \end{pmatrix};1_j\otimes S\biggr].
\end{equation}
\tag{2.8}
$$
2.8. Полиномиальные представления групп $\operatorname{GL}(n,\mathbb C)$Неприводимые голоморфные представления $\rho_\mathbf m(g)$ группы $\operatorname{GL}(n,\mathbb C)$ нумеруются “сигнатурами”
$$
\begin{equation*}
\mathbf m:=(m_1, \dots, m_n), \quad \text{где }\ m_j\in \mathbb Z, \quad m_1\geqslant m_2\geqslant\dots\geqslant m_n,
\end{equation*}
\notag
$$
см., например, [24; § 49–50]. Напомним полуявную конструкцию представлений $\rho_\mathbf m$. Рассмотрим пространство $\mathbb C^n$ со стандартным базисом $e_1, \dots, e_n$. Представление $\lambda_k(g)$ с сигнатурой $(\underbrace{1,\dots,1}_{k \text{ раз}}, 0,\dots,0)$ является $k$-й внешней степени $\bigwedge^k \mathbb C^n$, его вектор старшего веса равен $v_k=e_1\wedge \dots \wedge e_k$. Матричный элемент $\langle \rho(g) v_k,v_k\rangle$ равен $k$-му главному минору $\Delta_k(g)$ матрицы $g$. Представление $\lambda_n$ это просто $\det(g)$ (в частности, мы можем рассматривать его отрицательные тензорные степени). Представление $\rho_\mathbf m$ является подпредставлением в
$$
\begin{equation}
\bigotimes_{k=1}^{n-1} \lambda_k^{\otimes (m_k-m_{k+1})}(g)\otimes\lambda_k(g)^{m_n}.
\end{equation}
\tag{2.9}
$$
Точнее, $\rho_\mathbf m$ является циклической оболочкой вектора старшего веса
$$
\begin{equation*}
\xi_\mathbf m:=\bigotimes_{k=1}^{n-1} (e_1\wedge \dots \wedge e_k)^{\otimes( m_k-m_{k+1})}\otimes (e_1\wedge\dots\wedge e_n)^{\otimes m_n}.
\end{equation*}
\notag
$$
Матричный элемент
$$
\begin{equation*}
\langle \rho_\mathbf m(g)\xi_\mathbf m,\,\xi_\mathbf m\rangle=\prod_{k=1}^{n-1} \Delta_k^{m_k-m_{k+1}}\cdot \det(g)^{m_n}
\end{equation*}
\notag
$$
является многочленом тогда и только тогда, когда $m_n\geqslant 0$. С другой стороны, при $m_n\geqslant 0$ представление $\rho_\mathbf m$ полиномиально по построению.
§ 3. Доказательства3.1. Прямые суммы Доказательство теоремы 1.6, a). Рассмотрим элемент $g\in \operatorname{U}(\alpha+mi)$, записанный как
$$
\begin{equation}
g=\left(\begin{array}{c|ccc} a&b_1&b_2&\dots \\ \hline c_1&d_{11}&d_{12}&\dots \\ c_2&d_{21}&d_{22}&\dots \\ \vdots&\vdots&\vdots&\ddots \end{array}\right),
\end{equation}
\tag{3.1}
$$
и элемент $\widetilde g\in \operatorname{U}(\beta+mj)$, записанный как
$$
\begin{equation}
\widetilde g=\left(\begin{array}{c|ccc} \widetilde a&\widetilde b_1&\widetilde b_2&\dots \\ \hline \widetilde c_1&\widetilde d_{11}&\widetilde d_{12}\vphantom{\widetilde {A^{A^A}}}&\dots \\ \widetilde c_2&\widetilde d_{21}&\widetilde d_{22}&\dots \\ \vdots&\vdots&\vdots&\ddots \end{array} \right).
\end{equation}
\tag{3.2}
$$
Рассмотрим блочную матрицу порядка
$$
\begin{equation*}
\alpha+\beta+i+j+\dots+i+j=(\alpha+\beta)+\underbrace{(i+j)+\dots+(i+j)}_{\text{$m$ раз}},
\end{equation*}
\notag
$$
заданную как
$$
\begin{equation*}
g(\oplus)\widetilde g:= \left( \begin{array}{cc|ccccc} a&0&b_1&0&b_2&0&\dots \\ 0&\widetilde a&0&\widetilde b_1&0&\widetilde b_2&\dots \\ \hline c_1&0&d_{11}&0&d_{12}&0&\dots \\ 0&\widetilde c_1&0&\widetilde d_{11}&0&\widetilde d_{12}&\dots \\ c_2&0&d_{21}&0&d_{22}&0&\dots \\ 0&\widetilde c_2&0&\widetilde d_{21}&0&\widetilde d_{22}&\dots \\ \vdots&\vdots&\vdots&\vdots&\vdots&\vdots&\ddots \end{array}\right).
\end{equation*}
\notag
$$
В силу формулы (2.8) (мы применили отображение Крейна–Шмульяна, определенное матрицей $g(\oplus)\widetilde g$ к матрице $S\otimes 1_{i+j}$). 3.2. Поточечные произведенияТеорема 1.7 была получена в [16]. Для полноты мы приведем соответствующую операцию на матричных узлах. Пусть $g\in \operatorname{U}(\alpha+mi)$ имеет вид (3.1), а $\widetilde g\in \operatorname{U}(\alpha+mj)$ вид (3.2). Мы определим матрицу $g\odot\widetilde g$ формулой
$$
\begin{equation}
g\odot\widetilde g\,{:=}\, \left(\begin{array}{c|ccccc} a&b_1&0&b_2&0&\dots \\ \hline c_1&d_{11}&0&d_{12}&0&\dots \\ 0&0&1_j&0&0&\dots \\ c_2&d_{21}&0&d_{22}&0&\dots \\ 0&0&0&0&1_j&\dots \\ \vdots&\vdots&\vdots&\vdots&\vdots&\ddots \end{array}\right) \left(\begin{array}{c|ccccc} \widetilde a&0&\widetilde b_1&0&\widetilde b_2&\dots \\ \hline 0&1_i&0&0&0&\dots \\ \widetilde c_1&0&\widetilde d_{11}&0&\widetilde d_{12}&\dots \\ 0&0&0&1_i&0&\dots \\ \widetilde c_2&0&\widetilde d_{21}&0&\widetilde d_{22}&\dots \\ \vdots&\vdots&\vdots&\vdots&\vdots&\ddots \end{array} \right).
\end{equation}
\tag{3.3}
$$
Тогда
$$
\begin{equation*}
\Theta[g\odot \widetilde g;S]=\Theta[g;S]\,\Theta[\widetilde g;S].
\end{equation*}
\notag
$$
3.3. Поточечные тензорные произведения Доказательство теоремы 1.8. Это следствие предыдущего высказывания. Так как достаточно проверить утверждение для $F_1\otimes 1$ и $1\otimes F_2$. Функция $F_1\otimes 1$ является прямой суммой нескольких копий функции $F_1$. По теореме 1.6 она является характеристической функцией. Точнее, если $F_1$ порождена матрицей $\begin{pmatrix}p&q\\ r&t\end{pmatrix}$, то
$$
\begin{equation}
\begin{aligned} \, \notag &\Theta\left[\begin{pmatrix}p&q_1&\dots&q_m\\ r_1&t_{11}&\dots&t_{1m}\\ \vdots&\vdots&\ddots&\vdots\\ r_m&t_{m1}&\dots&t_{mm} \end{pmatrix};S \right]\otimes 1_\beta \\ &\qquad =\Theta\left[\begin{pmatrix} p\otimes 1_\beta&q_1\otimes 1_\beta&\dots&q_m\otimes 1_\beta\\ r_1\otimes 1_\beta&t_{11}\otimes 1_\beta&\dots&t_{1m}\otimes 1_\beta\\ \vdots&\vdots&\ddots&\vdots\\ r_m\otimes 1_\beta&t_{m1}\otimes 1_\beta&\dots&t_{mm}\otimes 1_\beta \end{pmatrix};S \right]. \end{aligned}
\end{equation}
\tag{3.4}
$$
Тождество
$$
\begin{equation}
1_\alpha\otimes\Theta\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix};S \right] = \Theta\left[\begin{pmatrix}1_\alpha\otimes a&1_\alpha\otimes b \\ 1_\alpha\otimes c&1_\alpha\otimes d\end{pmatrix};S \right]
\end{equation}
\tag{3.5}
$$
немедленно вытекает из (2.8). Следовательно,
$$
\begin{equation*}
\Theta\left[\begin{pmatrix} p&q\\ r&t \end{pmatrix};S \right]\otimes \Theta\left[\begin{pmatrix} a&b\\ c&d \end{pmatrix};S \right]
\end{equation*}
\notag
$$
является характеристической функцией матричного узла
$$
\begin{equation}
\left( \begin{array}{c|ccccc} p\otimes a&q_1\otimes 1_\beta&p\otimes b_1& q_2\otimes 1_\beta&p\otimes b_2&\dots\\ \hline r_1\otimes a& t_{11}\otimes 1_\beta& r_1\otimes b_1& t_{12}\otimes 1_\beta& r_1\otimes b_2&\dots\\ 1_\alpha\otimes c_1&0&1_\alpha\otimes d_{11}& 0&1_\alpha\otimes d_{12}&\dots\\ r_2\otimes a& t_{21}\otimes 1_\beta& r_2\otimes b_1& t_{22}\otimes 1_\beta& r_2\otimes b_2&\dots\\ 1_\alpha\otimes c_2&0&1_\alpha\otimes d_{21}& 0&1_\alpha\otimes d_{22}&\dots\\ \vdots& \vdots&\vdots&\vdots&\vdots&\ddots \end{array} \right).
\end{equation}
\tag{3.6}
$$
Теорема доказана. 3.4. Композиции Доказательство теоремы 1.9. В силу (2.8) и (3.5)
$$
\begin{equation*}
\begin{aligned} \, G\circ F(S) &=\sigma\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix}; 1_j\otimes \sigma\left[\begin{pmatrix} p&q\\ r&t \end{pmatrix};1_i\otimes S \right]\right] \\ &= G\circ F(S)=\sigma\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix}; \sigma\left[\begin{pmatrix} 1_j\otimes p&1_j\otimes q\\ 1_j\otimes r&1_j\otimes t \end{pmatrix};1_i\otimes S \right]\right]. \end{aligned}
\end{equation*}
\notag
$$
Если $\det(1_{\beta j}-d(1_j\otimes p))\ne 0$ (условие (1.5)), то мы можем применить формулу (2.2) и лемму 2.4. В этом случае мы получаем
$$
\begin{equation*}
\sigma\left[\begin{pmatrix}a&b\\ c&d\end{pmatrix} \circledast \begin{pmatrix} 1_j\otimes p&1_j\otimes q\\ 1_j\otimes r&1_j\otimes t \end{pmatrix}; 1_{ij}\otimes S \right],
\end{equation*}
\notag
$$
где $\circledast$-произведение матриц определено формулой (2.2). Так как оба множителя являются унитарными матрицами, мы получаем внутреннее отображение $\mathrm B_\alpha\,{\to}\, \mathrm B_\gamma$. Следствие 3.1. Пусть $F\in \operatorname{Char}[m,\alpha]$. a) Для $h\in \operatorname{U}(\alpha, \alpha)$ выполнено $\gamma[h]\circ F\in \operatorname{Char}[m,\alpha]$. b) Для $h'\in \operatorname{U}(m,m)$ выполнено $F\circ \gamma[h']\in \operatorname{Char}[m,\alpha]$. Действительно, в этих случаях наше условие выполнено. Закончим доказательство теоремы 1.9. Пусть выполнено условие (1.6), т.е. $\det(1_{\beta j}-d(1_j\otimes F(S_0)) )\ne 0$. Возьмем элемент $h\in \operatorname{U}(\alpha,\alpha)$, переводящий 0 в $S_0$, тогда $F(\gamma[h;0])=F(S_0)$, и мы применяем следствие 3.1 к $G\circ(F\circ \gamma[h])$ и ссылаемся на уже доказанную часть теоремы 1.9. Таким образом, $G\circ (F\circ \gamma[h])\in\operatorname{Char}(\alpha,\gamma)$. Далее, мы применяем следствие 3.1 к $(G\circ F\circ \gamma[h])\circ \gamma[h^{-1}]$ и получаем желаемое утверждение. Теорема 1.9 доказана. 3.5. Отщепление слагаемых Доказательство теоремы 1.6, b). Пусть характеристическая функция $F\in\operatorname{Char}[m,\alpha+\beta]$ имеет блочную форму Покажем, что $F_1\in \operatorname{Char}[m,\alpha]$. Сначала предположим, что $F_2\in \operatorname{Inn}_\circ[m,\beta]$. Рассмотрим отображение Крейна–Шмульяна $G\colon \mathrm B_{\alpha+\beta}\to \mathrm B_\alpha$, определенное матрицей
$$
\begin{equation}
\left(\begin{array}{c|cc} 0&1_\alpha&0\\ \hline 1_\alpha &0&0\\ 0&0&1_\beta \end{array}\right),
\end{equation}
\tag{3.7}
$$
и возьмем композицию $G\circ F$,
$$
\begin{equation*}
\begin{aligned} \, G\circ F(z) &=\begin{pmatrix}1_\alpha&0 \end{pmatrix} \begin{pmatrix}F_1(z)&0\\ 0&F_2(z)\end{pmatrix} \\ &\qquad\times \left\{\begin{pmatrix}1_\alpha&0\\ 0&1_\beta\end{pmatrix} - \begin{pmatrix}0&0\\ 0&1_\beta \end{pmatrix} \begin{pmatrix}F_1(z)&0\\ 0&F_2(z)\end{pmatrix}\right\}^{-1} \begin{pmatrix}1_\alpha\\ 0 \end{pmatrix}. \end{aligned}
\end{equation*}
\notag
$$
Матрица в фигурных скобках равна
$$
\begin{equation*}
\begin{pmatrix}1_\alpha&0\\ 0&1_\beta-F_2(z) \end{pmatrix},
\end{equation*}
\notag
$$
она обратима, и по теореме 1.9 отображение $G\circ F$ содержится в $\operatorname{Char}[m,\alpha]$. Но это влечет наше утверждение. Далее, пусть $F_2\notin \operatorname{Inn}_\circ(m,\alpha)$. Тогда $F_2(\mathrm B_m)$ содержится в некоторой компоненте $C$ границы $\mathrm B_\beta$. В силу следствия 3.1 мы можем предположить, что $C$ находится в каноническом положении, т.е. $C$ состоит из матриц вида
$$
\begin{equation*}
\begin{pmatrix} u&0\\ 0&1_{k} \end{pmatrix}, \quad\text{где }\ u\in \mathrm B_{\beta-k},
\end{equation*}
\notag
$$
и, следовательно, $F_2(z)$ имеет форму
$$
\begin{equation}
F_2(z)=\begin{pmatrix} R(z)&0\\ 0&1_{k} \end{pmatrix}, \quad\text{где }\ \|R(z)\|<1 \quad\text{для }\ z\in \mathrm B_m.
\end{equation}
\tag{3.8}
$$
Теперь выбираем $\lambda\in\mathbb C$ такое, что $|\lambda|=1$ и $\lambda\ne1$. Вместо (3.7) мы берем матрицу
$$
\begin{equation*}
\left(\begin{array}{c|cc} 0&1_\alpha&0\\ \hline 1_\alpha &0&0\\ 0&0&\lambda\cdot 1_\beta \end{array} \right)
\end{equation*}
\notag
$$
и соответствующее отображение Крейна–Шмульяна $G$. В силу (3.8) матрица
$$
\begin{equation*}
\left\{\begin{pmatrix}1_\alpha&0\\ 0&1_\beta\end{pmatrix} - \begin{pmatrix}0&0\\ 0&\lambda 1_\beta \end{pmatrix} \begin{pmatrix}F_1(z)&0\\ 0&F_2(z)\end{pmatrix}\right\} = \begin{pmatrix}1_\alpha&0\\0&1_\beta- \lambda F_2(z)\end{pmatrix}
\end{equation*}
\notag
$$
обратима, и по теореме 1.9 мы имеем $G\circ F=F_1(z)\in \operatorname{Char}(m,\alpha)$. Теорема доказана. 3.6. Композиции с полиномиальными представлениями Доказательство теоремы 1.11. В силу теоремы 1.6, a) достаточно рассмотреть неприводимые представления. Согласно конструкции п. 2.8 любое неприводимое представление $\rho_\mathbf m=\rho_{m_1,\dots,m_n}$ содержится в тензорах
$$
\begin{equation*}
\bigotimes_{k=1}^n \biggl(\bigwedge^k \mathbb C^n \biggr)^{\otimes(m_k-m_{k-1})}\,\otimes\, \biggl(\bigwedge^n\mathbb C^n \biggr)^{m_n}\subset (\mathbb C^n)^{\otimes( \sum_{k=1}^n m_k)}.
\end{equation*}
\notag
$$
По теореме 1.8 для любой характеристической функции $F(z)$ функция $F(z)^{\otimes L}$ является характеристической функцией. По теореме 1.6, b) мы можем отщепить прямое слагаемое. Теорема доказана. 3.7. Граничные компоненты Доказательство теоремы 1.14. a) Без потери общности мы можем предположить, что $C$ имеет каноническую форму $\begin{pmatrix}u&0\\ 0&1_k \end{pmatrix}$. Следовательно, наша функция $F$ расщепляется в прямую сумму. По теореме 1.6, b) мы можем отщепить слагаемое.
b) Снова мы можем предположить, что $C\subset \mathrm B_m$ состоит из матриц вида $\begin{pmatrix}u&0\\ 0&1_l \end{pmatrix} $. Как и в п. 3.4, мы можем предположить, что $S_0:=\begin{pmatrix}0&0\\ 0&1_l \end{pmatrix}$. Единичное вложение $u\mapsto \begin{pmatrix} u&0\\ 0&1_l\end{pmatrix}$ является отображением Крейна–Шмульяна, определенным матрицей
$$
\begin{equation*}
\left(\begin{array}{cc|c} 0&0& 1_{m-l}\\ 0&1_l&0\\ \hline 1_{m-l}&0&0 \end{array}\right).
\end{equation*}
\notag
$$
Теперь мы можем применить теорему 1.9. Теорема 1.14 доказана. 
Цитирование в формате AMSBIB
\RBibitem{Ner22} |
|
||||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|