Известия Российской академии наук. Серия математическая
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Скоро в журнале
Архив
Импакт-фактор
Правила для авторов
Загрузить рукопись

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



Изв. РАН. Сер. матем.:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Известия Российской академии наук. Серия математическая, 2022, том 86, выпуск 6, страницы 5–46
DOI: https://doi.org/10.4213/im9236
(Mi im9236)
 

Эта публикация цитируется в 3 научных статьях (всего в 3 статьях)

Функции класса $C^\infty$ от некоммутирующих переменных в контексте треугольных алгебр Ли

О. Ю. Аристов
Список литературы:
Аннотация: Для каждой треугольной действительной алгебры Ли $\mathfrak{g}$ построено пополнение $C^\infty_\mathfrak{g}$ ее универсальной обертывающей алгебры. Оно является действительной алгеброй Фреше–Аренса–Майкла, состоящей из элементов полиномиального роста и удовлетворяющей следующему универсальному свойству: любой гомоморфизм алгебр Ли из $\mathfrak{g}$ в действительную банахову алгебру, все элементы которой имеют полиномиальный рост, может быть продолжен до непрерывного гомоморфизма из $C^\infty_\mathfrak{g}$. Элементы $C^\infty_\mathfrak{g}$ могут быть названы функциями класса $C^\infty$ от некоммутирующих переменных. Доказательство опирается на теорию представлений и использует упорядоченное $C^\infty$-функциональное исчисление. Помимо общего случая мы разбираем два простых примера. В качестве вспомогательного материала развиты начала общей теории алгебр полиномиального роста. Кроме того, рассмотрены локальные варианты пополнения и показано, что в нильпотентном случае возможно построить пучок некоммутативных функций на спектре Гельфанда алгебры $C^\infty_\mathfrak{g}$. Мы также обсуждаем теорию голоморфных функций некоммутирующих переменных, предложенную Доси, и используем наши методы для доказательства теорем, усиливающих некоторые его утверждения.
Библиография: 44 наименования.
Ключевые слова: алгебра полиномиального роста, некоммутативная геометрия, треугольная алгебра Ли, функциональное исчисление.
Финансовая поддержка Номер гранта
Российский фонд фундаментальных исследований 19-01-00447
Работа выполнена при поддержке Российского фонда фундаментальных исследований (грант № 19-01-00447).
Поступило в редакцию: 28.06.2021
Исправленный вариант: 07.10.2021
Англоязычная версия:
Izvestiya: Mathematics, 2022, Volume 86, Issue 6, Pages 1033–1071
DOI: https://doi.org/10.4213/im9236e
Реферативные базы данных:
Тип публикации: Статья
УДК: 517.986.2+512.813.5+517.986.5
MSC: 46H05, 46L87

Памяти моих родителей – Юрия и Людмилы Аристовых

§ 1. Введение

Наша цель – дать определение алгебры “бесконечно гладких функций” на некоммутативном пространстве, соответствующем универсальной обертывающей алгебре в случае разрешимой действительной алгебры Ли, и обосновать определение, доказав универсальное свойство, аналогичное выполненному в коммутативном случае, а именно, теорему о $C^\infty$-функциональном исчислении. Последнее понимается глобально, т. е. без учета совместного спектра образующих алгебры Ли. (Впрочем, некоторые утверждения из локальной теории, в том числе и о пучках некоммутативных алгебр, также содержатся в этой работе, см. § 5.)

Используемый здесь метод приводит к цели для треугольных алгебр Ли и, как показывает простой пример, он не может быть применен к нетреугольным. Мы исходим из следующих требований к алгебре $C^\infty_\mathfrak{g}$ “некоммутативных бесконечно гладких функций”, ассоциированной с треугольной $\mathbb{R}$-алгеброй Ли $\mathfrak{g}$.

1. В абелевом случае, т. е. когда $\mathfrak{g}\cong \mathbb{R}^m$ для некоторого $m\in\mathbb{N}$, алгебра $C^\infty_\mathfrak{g}$ должна совпадать с $C^\infty(\mathbb{R}^m)$ – алгеброй действительнозначных бесконечно дифференцируемых функций на $\mathbb{R}^m$.

2. $C^\infty_\mathfrak{g}$ должна являться пополнением универсальной обертывающей алгебры $U(\mathfrak{g})$, при этом желательно, чтобы гомоморфизм $U(\mathfrak{g})\to C^\infty_\mathfrak{g}$ был инъективен.

3. Соответствие $\mathfrak{g}\mapsto C^\infty_\mathfrak{g}$ должно продолжаться до функтора из категории действительных алгебр Ли (или хотя бы из подкатегории треугольных конечномерных) в некоторую категорию ассоциативных топологических алгебр1 над $\mathbb{R}$ (очевидно содержащую $C^\infty(\mathbb{R}^m)$ для всех $m\in\mathbb{N}$).

Мы вынуждены отказаться (по техническим соображениям) от использования инволюции (в алгебрах над $\mathbb{C}$) и работать непосредственно с алгебрами над полем действительных чисел2.

Алгебры “гладких функций”, традиционно рассматриваемые в некоммутативной дифференциальной геометрии, являются плотными самосопряженными подалгебрами $C^*$-алгебр (по аналогии с вложением $C^\infty(M)\subset C(M)$, где $M$ – компактное многообразие). Алгебры, обсуждаемые в этой статье, не обязательно таковы. Более того, они могут обладать радикалом Джекобсона, отличным от нуля. Допуская нетривиальность радикала, мы увеличиваем запас рассматриваемых топологических алгебр. Именно в этом заключается первая из двух основных идей в предлагаемом здесь определении “функций класса $C^\infty$ от некоммутативных переменных”. То, что подобный подход может быть плодотворным, показано в статье Доси [2], где построена топологическая алгебра “формально-радикальных целых функций”, соответствующая положительно градуированной нильпотентной комплексной алгебре Ли. Некоторые утверждения, обобщающие результаты Доси приведены в заключительном § 6.

Для правильного выбора категории топологических алгебр (см. требование 3) нужно отобрать в качестве ограничений те свойства $C^\infty(\mathbb{R}^m)$, которые существенны для рассматриваемой задачи. Мы используем следующие.

A. Она является алгеброй Аренса–Майкла (т. е. топология на ней задается семейством субмультипликативных преднорм).

B. Она является алгеброй Фреше (т. е. определяющее топологию семейство преднорм счетно).

C. Для каждой $f\in C^\infty(\mathbb{R}^m)$ и каждой непрерывной субмультипликативной преднормы $\|\,{\cdot}\,\|$ функция $s\mapsto \|e^{isf}\|$, где $s\in\mathbb{R}$, имеет полиномиальный рост (здесь $\|\,{\cdot}\,\|$ продолжена на комплексификацию).

D. Для каждого набора из $m$ элементов банаховой алгебры, имеющих полиномиальный рост, существует $C^\infty(\mathbb{R}^m)$-функциональное исчисление.

Свойства A, C и D существенны в наших рассмотрениях, свойство B менее важно.

Остановимся подробнее на функциональном исчислении и элементах полиномиального роста (в смысле свойства C, см. подробности в определении 2.1), поскольку именно в их использовании заключается наша вторая основная идея. В функциональном анализе традиционно используются функциональные исчисления двух типов: первый – когда исчисление является гомоморфизмом, второй – когда оно является линейным отображением, не обязательно мультипликативным (он часто используется в теории некоммутирующих наборов операторов). Ввиду того, что нам понадобятся оба варианта, в первом случае мы будем использовать термин “мультипликативное функциональное исчисление”, а втором – просто “функциональное исчисление”. Частным случаем последнего является “упорядоченное функциональное исчисление”. Рассмотрим его сначала в чисто алгебраической форме.

Пусть $\mathbb{R}[\lambda_1,\dots,\lambda_m]$ обозначает алгебру многочленов от $m$ переменных с действительными коэффициентами. Если $B$ – (не обязательно коммутативная) ассоциативная $\mathbb{R}$-алгебра и $b_1,\dots,b_m\in B$, то отображение, переводящее (коммутативный) одночлен $\lambda_1^{\beta_1}\cdots \lambda_m^{\beta_m}$ в (некоммутативный) одночлен $b_1^{\beta_1}\cdots b_m^{\beta_m}$, очевидно, продолжается до линейного отображения

$$ \begin{equation} \Phi\colon \mathbb{R}[\lambda_1,\dots,\lambda_m]\to B. \end{equation} \tag{1.1} $$
(Здесь мы нарушаем традицию, согласно которой множители следует располагать в обратном порядке, см., например, [3; приложение 1], но это не существенно.) Это “некоммутативное полиномиальное исчисление” является простейшим вариантом упорядоченного исчисления.

Нас интересуют условия, при которых линейное отображение $\Phi$ может быть продолжено с $\mathbb{R}[\lambda_1,\dots,\lambda_m]$ на $C^\infty(\mathbb{R}^m)$. Обозначим вложение $\mathbb{R}[\lambda_1,\dots,\lambda_m]$ в $C^\infty(\mathbb{R}^m)$ через $\iota$. Пусть теперь $B$ – банахова алгебра или алгебра Аренса–Майкла над $\mathbb{R}$. Назовем непрерывное линейное отображение $\theta\colon C^\infty(\mathbb{R}^m)\to B$, сохраняющее единицу, упорядоченным $C^\infty$-функциональным исчислением для $b_1,\dots,b_m$, если диаграмма

$(1.2)$
коммутативна. Если упорядоченное $C^\infty$-функциональное исчисление существует, то оно единственно (так как образ $\iota$ плотен). Если, кроме того, $b_1, \dots, b_m$ попарно перестановочны, то $\theta$ очевидно является гомоморфизмом, поэтому будем называть его мультипликативным $C^\infty$-функциональным исчислением. Аналогичную терминологию будем использовать и для других алгебр, например, $C^n[c,d]$ и некоммутативной алгебры $C^\infty_\mathfrak{g}$, определенной ниже.

Известно, что для элемента банаховой алгебры, имеющего полиномиальный рост, скажем $b$, Фурье-анализ позволяет сопоставить любой функции $F\in C^\infty(\mathbb{R})$ элемент $F(b)$ и получить, таким образом, $C^\infty$-функциональное исчисление. Это утверждение легко распространяется на случай нескольких коммутирующих элементов (см. теорему 3.2). В случае $m$-мерной алгебры Ли $\mathfrak{g}$ мы отождествляем $U(\mathfrak{g})$ с $\mathbb{R}[\lambda_1,\dots,\lambda_m]$ и ставим своей целью построить упорядоченное $C^\infty$-функциональное исчисление, аналогичное (1.2) и являющееся, кроме того, мультипликативным, т. е. гомоморфизмом. (Утверждения об упорядоченном $C^\infty$-функциональном исчислении в необходимой для дальнейшего форме содержатся в § 3. Так как их доказательства отсутствуют в доступной автору литературе, то они приведены для полноты изложения, но в сжатом виде. Также в § 3 включены необходимые модификации результатов для случая, когда часть элементов нильпотентна.)

Так как свойство быть элементом полиномиального роста, вообще говоря, не сохраняется ни при предельном переходе, ни при взятии алгебраических комбинаций от набора некоммутирующих элементов (см. замечание 2.7), то в качестве основного класса мы выбираем алгебры полиномиального роста, т. е. банаховы алгебры или алгебры Аренса–Майкла над $\mathbb{R}$, все элементы которых имеют полиномиальный рост. Их свойства обсуждаются в § 2. Основным примером является алгебра $n$ раз непрерывно дифференцируемых функций со значениями в треугольных действительных матрицах. (Здесь существенно, что мы работаем с полем $\mathbb{R}$.)

Линейные операторы полиномиального роста давно исследуются в рамках теории обобщенных скалярных операторов, начатой в работе Фойаша 1960 г. [4]. Однако, насколько известно автору, некоммутативные банаховы алгебры, целиком состоящие из элементов, удовлетворяющих этому условию, ранее не рассматривались.

Образ конечномерной $\mathbb{R}$-алгебры Ли при гомоморфизме в проективный предел банаховых $\mathbb{R}$-алгебр полиномиального роста является треугольной конечномерной алгеброй Ли (следствие 4.2). В силу этого, если мы требуем инъективность $U(\mathfrak{g})\to C^\infty_\mathfrak{g}$ (см. требование 2), то приходится предполагать, что $\mathfrak{g}$ треугольна. Отметим, что в этом случае упорядоченное $C^\infty$-функциональное исчисление можно рассматривать как аналитическую версию теоремы о существовании PBW-базиса в $U(\mathfrak{g})$. Более общая ситуация, в которой $\mathfrak{g}$ конечнопорождена, но не обязательно конечномерна, рассматривается в [5], которая является продолжением этой статьи.

Основные результаты статьи сформулированы в п. 4.2. А именно, пусть $\mathfrak{g}$ треугольна, $e_{k+1},\dots,e_m$ – базис в ее коммутанте, а $e_1,\dots, e_k$ дополняет его до линейного базиса в $\mathfrak{g}$. Первый основной результат, теорема 4.3, утверждает, что умножение в $U(\mathfrak{g})$ продолжается по непрерывности на проективное тензорное произведение

$$ \begin{equation*} C^\infty_\mathfrak{g}:=C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[e_{k+1},\dots,e_m]] \end{equation*} \notag $$
пространства функций и пространства формальных степенных рядов. Определенная таким способом алгебра обладает нужными свойствами. Доказательство существенно использует как теорию представлений, так и структурную теорию разрешимых алгебр Ли. Отметим, что даже непрерывность умножения в $C^\infty_\mathfrak{g}$ далеко не очевидна (ср. “голоморфную” версию для нильпотентного случая в [2]). Наше рассуждение включает много технических деталей, однако его основная идея четко обрисовывается уже для двух простейших примеров – двумерной неабелевой алгебры и трехмерной алгебры Гейзенберга. Они обсуждаются отдельно в п. 4.4.

Во втором основном результате, теореме 4.4, мы доказываем универсальное свойство для $C^\infty_\mathfrak{g}$ (иными словами, существование мультипликативного $C^\infty$-функционального исчисления, о котором говорилось выше). Отсюда, в частности, следует, что $C^\infty_\mathfrak{g}$ не зависит от выбора базиса. Заметим, что теорема 4.4 может быть интерпретирована как утверждение о том, что $C^\infty_\mathfrak{g}$ является оболочкой ассоциативной алгебры $U(\mathfrak{g})$ относительно класса банаховых алгебр полиномиального роста (ср. с тем фактом, что оболочка Аренса–Майкла использует класс всех банаховых алгебр [6]). Эта оболочка более подробно обсуждается в [5].

В заключение статьи мы обсудим две темы, тесно связанные с основным ее предметом, и получим ряд результатов, основанных на вспомогательных утверждениях из п. 4.5 и их простых модификациях. Локальный вариант теории – с определением алгебр некоммутативных функций, но без обсуждения функционального исчисления (что предполагается в будущем) – рассмотрен в § 5. В частности, построены пучки некоммутативных функций в случае нильпотентной алгебры Ли.

Определенная в настоящей статье алгебра $C^\infty_\mathfrak{g}$ и ее локальные варианты являются аналогами алгебры “формально-радикальных голоморфных функций”, изученной Доси в [2], [7]. Использованная нами техника позволяет получить утверждения, аналогичные $C^\infty$-теории и, в частности, усилить некоторые его результаты, см. § 6.

В будущем автор надеется в отдельной статье изучить связь алгебр, рассмотренных в этой работе, с алгебрами “гладких функций”, возникающими в теории $C^*$-алгебр и некоммутативной геометрии в духе Конна (варианты теоремы о функциональном исчислении см. в [8; предложение 6.4], [9; предложение 22] и [10; предложение 2.8]).

§ 2. Элементы и алгебры полиномиального роста

2.1. Элементы полиномиального роста

Определение 2.1. Элемент $b$ комплексной алгебры Аренса–Майкла $B$ (в частности, банаховой) имеет полиномиальный рост3, если для любой непрерывной субмультипликативной преднормы $\|\,{\cdot}\,\|$ на $B$ найдутся $K>0$ и $\alpha\ge0$ такие, что

$$ \begin{equation} \|e^{isb}\|\le K (1+|s|)^{\alpha} \quad \text{для всех }s\in \mathbb{R}. \end{equation} \tag{2.1} $$
Элемент действительной алгебры Аренса–Майкла имеет полиномиальный рост, если он имеет полиномиальный рост в ее комплексификации.

Отметим, что конструкция комплексификации действительной банаховой алгебры (см. [1; гл. I, § 3, с. 5–9] и [11; п. 2.1]) легко переносится на случай алгебры Аренса–Майкла, а $e^{isb}$ корректно определен, так как всегда можно подставить элемент алгебры Аренса–Майкла в данную целую функцию (иными словами, $b$ допускает голоморфное функциональное исчисление на $\mathbb{C}$).

Наша терминология близка к используемой в [12]. Альтернативные названия – “элемент медленного роста” (“è croissance lente”) [13], “производящий элемент” [14] и “обобщенный скалярный элемент” [15], [16]. Заметим, что последний термин обычно используется в теории операторов в более общем смысле.

Всякий элемент полиномиального роста имеет действительный спектр4, т. е. содержащийся в $\mathbb{R}$ (см. предложение 2.2). Обратное, вообще говоря, неверно, однако это так в интересующем нас частном случае, а именно, для алгебры бесконечно гладких функций со значениями в треугольных матрицах. Чтобы убедиться в этом, мы используем следующее утверждение.

Предложение 2.2. Пусть $b$ – элемент банаховой алгебры $B$ над $\mathbb{C}$. Следующие условия равносильны:

(1) $b$ имеет полиномиальный рост;

(2) найдутся нетривиальный отрезок $[c,d]$ в $\mathbb{R}$ и $n\in\mathbb{N}$ такие, что существует мультипликативное функциональное исчисление $C^n[c, d]\to B$ для $b$;

(3) спектр $b$ содержится в $\mathbb{R}$, и найдутся $C,\gamma>0$ такие, что для всех $\lambda$, удовлетворяющих $\operatorname{Im}\lambda\ne0$, выполнено неравенство

$$ \begin{equation*} \|(b-\lambda)^{-1}\|\le C(1+|{\operatorname{Im} \lambda}|)^{-\gamma}. \end{equation*} \notag $$

Легко видеть, что функциональное исчисление для $\mathbb{R}$-значных функций класса $C^n$ продолжается до $\mathbb{C}$-значных. Для последних доказательство дословно повторяет приведенные в [17; теорема 1.5.19] рассуждения из доказательства теоремы Коложоары–Фойаша, которые используют только структуру банаховой алгебры на множестве операторов, см. также [13; теорема 1].

Нам понадобятся простейшие свойства элементов полиномиального роста.

Предложение 2.3. Пусть $\varphi\colon A\to B$ – непрерывный гомоморфизм алгебр Аренса–Майкла. Если $a\in A$ – элемент полиномиального роста, таковым же является и $\varphi(a)$.

Доказательство. Пусть $\|\,{\cdot}\,\|$ – непрерывная субмультипликативная преднорма на $B$. Так как $\varphi$ непрерывен, найдется непрерывная субмультипликативная преднорма $\|\,{\cdot}\,\|'$ на $A$ и $C>0$ такие, что $\|\varphi(a)\|\le C\|a\|'$ для всех $a\in A$. Если $a$ имеет полиномиальный рост, то согласно определению найдутся $K>0$ и $\alpha\ge0$ такие, что $\|e^{isa}\|'\le K (1+|s|)^{\alpha} $ для всех $s\in\mathbb{R}$. Так как $e^{is\varphi(a)}=\varphi(e^{isa})$, отсюда следует, что $\varphi(a)$ также имеет полиномиальный рост. Предложение доказано.

Напомним, что элемент $b$ банаховой алгебры называется топологически нильпотентным, если $\lim_{n\to\infty}\|b^n\|^{1/n} =0$.

Предложение 2.4. Топологически нильпотентный элемент полиномиального роста в банаховой алгебре нильпотентен.

Этот факт хорошо известен для операторов в банаховом пространстве, см., например, [17; предложение 1.5.10]. Доказательство для элементов банаховой алгебры идентично.

Предложение 2.5. В алгебре Аренса–Майкла спектр всякого элемента полиномиального роста содержится в $\mathbb{R}$.

Доказательство. Спектр всякого элемента алгебры Аренса–Майкла является объединением спектров соответствующих элементов в сопутствующих банаховых алгебрах [6; гл. 5, с. 280, следствие 2.12]. Осталось заметить, что из предложения 2.3 следует, что указанные элементы имеют полиномиальный рост, а значит, в силу импликации (1) $\Rightarrow$ (3) предложения 2.2 их спектры содержатся в $\mathbb{R}$. Предложение доказано.

2.2. Алгебры полиномиального роста

Выделим основной класс алгебр, используемый в этой статье.

Определение 2.6. Будем говорить, что $\mathbb{R}$-алгебра Аренса–Майкла имеет полиномиальный рост, если все ее элементы имеют полиномиальный рост.

Сразу отметим, что в случае основного поля $\mathbb{C}$ обсуждать алгебры, все элементы которых имеют полиномиальный рост, бессмысленно, поскольку уже мнимая единица $i$ не удовлетворяет этому условию. Поэтому мы рассматриваем только алгебры над $\mathbb{R}$.

Замечание 2.7. Рассматривая алгебры, все элементы которых имеют полиномиальный рост, мы накладываем дополнительные ограничения на топологические образующие. Действительно, как нетрудно проверить, всякая алгебраическая комбинация коммутирующих элементов полиномиального роста также имеет полиномиальный рост (ср. [17; следствие 1.5.20] или [18; гл. 4, c. 106, следствие 3.4]). Однако это не так для некоммутирующих элементов (контрпримеры нетрудно найти среди матриц второго порядка с действительными собственными значениями). Более того, свойство быть элементом полиномиального роста, вообще говоря, не сохраняется при предельном переходе даже в коммутативном случае. Чтобы убедиться в этом, рассмотрим банахову алгебру $A(\mathbb{T})_\mathbb{R}$ абсолютно сходящихся действительных рядов Фурье. Функции $\sin$ и $\cos$ имеют полиномиальный рост (это следует, например, из [19; гл. VI, § 2, § 3, с. 93–95]). Очевидно, что множество их алгебраических комбинаций плотно в $A(\mathbb{T})_\mathbb{R}$ и, тем самым, $\sin$ и $\cos$ являются топологическими образующими $A(\mathbb{T})_\mathbb{R}$. Однако предположение, что всякий элемент $A(\mathbb{T})_\mathbb{R}$ имеет полиномиальный рост, противоречит теореме Кацнельсона, которая утверждает, что если функция, определенная на отрезке, действует в $A(\mathbb{T})_\mathbb{R}$, то она аналитична (см. [19; гл. VI, § 6, с. 102]). В самом деле, если бы $A(\mathbb{T})_\mathbb{R}$ имела полиномиальный рост, то для каждого ее элемента существовало бы $C^n$-исчисление для некоторого $n\in\mathbb{N}$ (см. предложение 2.2), а значит, всякая функция класса $C^\infty$ на отрезке действовала бы на $A(\mathbb{T})_\mathbb{R}$. Это очевидно противоречит тому, что не всякая $C^\infty$-функция аналитична.

Следующая теорема хорошо известна, а доказательство приведено для полноты изложения. Мы обозначаем радикал Джекобсона алгебры $B$ через $\operatorname{Rad} B$.

Теорема 2.8. Пусть $B$ – банахова алгебра над $\mathbb{R}$ такая, что спектр каждого элемента содержится в $\mathbb{R}$ (в частности, алгебра, все элементы которой имеют полиномиальный рост). Тогда $B/\operatorname{Rad} B$ коммутативна.

Доказательство. Так как при факторизации спектр не увеличивается, спектр каждого элемента $B/\operatorname{Rad} B$ также содержится в $\mathbb{R}$. Согласно результату Капланского [20; теорема 4.8] всякая полупростая банахова алгебра над $\mathbb{R}$ такая, что $1+x^2$ обратим для каждого ее элемента $x$, является коммутативной. Заметим, что это условие равносильно тому, что спектр каждого элемента содержится в $\mathbb{R}$. Так как $B/\operatorname{Rad} B$ полупроста [1; гл. 2, § 3, с. 56], это означает, что $B/\operatorname{Rad} B$ коммутативна. Теорема доказана.

Предложение 2.9. Пусть $B$ – банахова $\mathbb{R}$-алгебра полиномиального роста. Тогда $\operatorname{Rad} B$ нильпотентен (т. е. найдется $n\in\mathbb{N}$ такое, что $r_1\cdots r_n=0$ для произвольных $r_1,\dots ,r_n\in\operatorname{Rad} B$).

Доказательство. Всякий элемент радикала банаховой алгебры является топологически нильпотентным, поэтому в силу предложения 2.4 всякий элемент $\operatorname{Rad} B$ нильпотентен. Как заметил Грабинер [21], из теоремы Дубнова–Иванова (известной также как теорема Нагаты–Хигмана) следует, что для банаховых алгебр это условие влечет нильпотентность $\operatorname{Rad} B$. Предложение доказано.

Замечание 2.10. Всякая банахова $\mathbb{R}$-алгебра полиномиального роста удовлетворяет полиномиальному тождеству. Действительно, в силу предложения 2.9 найдется $n$ такое, что $(\operatorname{Rad} B)^n=0$. Согласно теореме 2.8 для любых $a,b\in B$ выполнено $[a,b]\in \operatorname{Rad} B$, а значит и $[a,b]^n=0$.

Предложение 2.11. (A) Класс банаховых $\mathbb{R}$-алгебр полиномиального роста стабилен относительно перехода к замкнутым подалгебрам и конечным декартовым произведениям. Класс $\mathbb{R}$-алгебр Аренса–Майкла полиномиального роста стабилен относительно перехода к замкнутым подалгебрам и произвольным декартовым произведениям, и, как следствие, к проективным пределам.

(B) $\mathbb{R}$-алгебра Аренса–Майкла является проективным пределом банаховых алгебр полиномиального роста тогда и только тогда, когда она изоморфна замкнутой подалгебре произведения банаховых алгебр полиномиального роста.

Доказательство. Часть (A) следует непосредственно из определений.

В части (B) необходимость следует из стандартной конструкции проективного предела, см., например, [22; гл. III, § 2, c. 84, лемма 2.1]. Для доказательства достаточности заметим, что замкнутая подалгебра $A$ произведения банаховых алгебр полиномиального роста обладает базой окрестностей $0$, состоящей из бочек, стабильных относительно умножения, и такой, что банахова алгебра, соответствующая каждому элементу этой базы, имеет полиномиальный рост. В силу [22; гл. III, § 3, с. 88, теорема 3.1] алгебра $A$ является проективным пределом банаховых алгебр, соответствующих элементам базы. Предложение доказано.

Обозначим через $\mathrm{T}_p$ алгебру верхнетреугольных (включая диагональ) действительных матриц порядка $p$, где $p\in\mathbb{N}$. Нашим основным модельным примером алгебры полиномиального роста является алгебра $C^\infty(V,\mathrm{T}_{p})$, состоящая из бесконечно дифференцируемых $\mathrm{T}_p$-значных функций на открытом подмножестве $V$ в $\mathbb{R}^m$. Зафиксируем субмультипликативную норму $\|\,{\cdot}\,\|_p$ на $\mathrm{T}_p$ (например, можно взять операторную норму в $p$-мерном евклидовом пространстве). Тогда топология на $C^\infty(V,\mathrm{T}_{p})$ задается семейством преднорм

$$ \begin{equation} \|f\|_{p,K,n}:=\sum_{\beta\in \mathbb{Z}_+^m,\,|\beta|=n}\|f^{(\beta)}\|_{p,K,0},\qquad \text{где}\quad \|f\|_{p,K,0}:=\max_{x\in K}\|f(x)\|_p, \end{equation} \tag{2.2} $$
$n\in\mathbb{Z}_+$, частная производная векторнозначной функции $f\in C^\infty(V,\mathrm{T}_{p})$ обозначается через $f^{(\beta)}$, а $K$ – произвольное компактное подмножество $V$. (Мы используем обозначение $|\beta|:=\beta_1+\cdots+ \beta_m$ для $\beta=(\beta_1,\dots, \beta_m)\in\mathbb{Z}_+^m$.) Из правила Лейбница для производной композиции билинейного отображения и векторнозначных функций нетрудно вывести, что преднормы $\sum_{n=0}^q\|\,{\cdot}\,\|_{p,K,n}/n!$, $q\in\mathbb{Z}_+$, субмультипликативны. Так как семейство всех таких преднорм эквивалентно исходному, то $C^\infty(V,\mathrm{T}_{p})$ является алгеброй Аренса–Майкла.

Мы также будем рассматривать банаховы алгебры $C^n(K,\mathrm{T}_{p})$, где $n\in\mathbb{Z}_+$, а $K$ – компактное подмножество $\mathbb{R}^m$ с плотной внутренностью5.

Теорема 2.12. Пусть $p\in\mathbb{Z}_+$, $m\in \mathbb{N}$, а $V$ – открытое подмножества $\mathbb{R}^m$. Тогда $C^\infty(V,\mathrm{T}_{p})$ является проективным пределом банаховых алгебр полиномиального роста.

Рассмотрим сначала коммутативный случай (т. е. когда $p=1$).

Предложение 2.13. Пусть $K$ – компактное подмножество $\mathbb{R}^m$ с плотной внутренностью и $n\in\mathbb{Z}_+$. Тогда $C^n(K)$ является банаховой алгеброй полиномиального роста.

Доказательство. Здесь приведены два доказательства: первое доказательство использует предложение 2.2, а второе основано непосредственно на определении.

Первое доказательство. Зафиксируем $f\in C^n(K)$ и отрезок $[c,d]$, содержащий область значений $f$, и заметим, что $f$ индуцирует гомоморфизм $C^n[c,d]\to C^n(K)\colon g \mapsto (t \mapsto g(f(t)))$, который является мультипликативным функциональным исчислением. Осталось применить часть (2) предложения 2.2.

Второе доказательство. Здесь и далее в коммутативном случае (т. е. когда $p=1$) мы обозначаем преднормы $\|\,{\cdot}\,\|_{1,K,n}$, определенные в (2.2), через $|\,{\cdot}\,|_{K,n}$. Таким образом, топология на $C^n(K)$ определяется нормой $|\,{\cdot}\,|_{K,n}$. Нетрудно проверить, что для любых $f\in C^n(K)$ и $\beta\in\mathbb{Z}_+^m$ частная производная $(e^{isf})^{(\beta)}$ равна произведению $e^{isf}$ и многочлена от $s$ степени $|\beta|$ c коэффициентами, являющими многочленами от частных производных $f$. Так как функция $f$ принимает только действительные значения, получаем $|e^{isf}|_{K,0}=1$. Тем самым, норма $|e^{isf}|_{K,n}$ мажорируется многочленом от $|s|$ степени $n$, а значит $f$ имеет полиномиальный рост. Предложение доказано.

Теперь теорема 2.12 будет выведена из общего утверждения. Предварительно напомним, что расширение

$$ \begin{equation*} 0\leftarrow A \leftarrow \mathfrak{A} \leftarrow I\leftarrow 0 \end{equation*} \notag $$
банаховой алгебры $A$ c помощью $I$ называется нильпотентным, если $I$ – замкнутый нильпотентный идеал $\mathfrak{A}$, и расщепимым, если существует непрерывный гомоморфизм $A\to \mathfrak{A}$, правый обратный к $\mathfrak{A}\to A$. (Подробности о расширениях банаховых алгебр см. в [6] или [23].)

Теорема 2.14. Всякое расщепимое нильпотентное расширение банаховой $\mathbb{R}$-алгебры полиномиального роста является алгеброй полиномиального роста.

Хорошо известно, что далеко не каждое нильпотентное расширение расщепимо даже в случае $A=C^n[0,1]$ и конечномерного $I$, см., например, для $\mathbb{C}$-алгебр [23; § 5, с. 84–87].

Доказательство теоремы 2.14. Пусть расширение $0\leftarrow A \leftarrow \mathfrak{A} \leftarrow I\leftarrow 0$ банаховых $\mathbb{R}$-алгебр расщепимо и нильпотентно и при этом $A$ – алгебра полиномиального роста. Зафиксируем расщепляющий непрерывный гомоморфизм $\rho\colon A\to \mathfrak{A}$.

Пусть $b\in \mathfrak{A}$. Тогда $b=d+t$, где $t\in I$ и $d=\rho(a)$ для некоторого $a\in A$. Тогда в силу предложения 2.3 элемент $d$ имеет полиномиальный рост.

Пусть $\lambda\in\mathbb{C}\setminus \mathbb{R}$. Так как спектр $d$ в комплексификации $\mathfrak{A}_\mathbb{C}$ содержится в $\mathbb{R}$, элемент $d-\lambda$ обратим. Тогда $(d-\lambda)^{-1}t$ корректно определен и содержится в $I$. Следовательно, он является нильпотентным и тем самым $1+ (d-\lambda)^{-1}t$ обратим. Из очевидного равенства $d-\lambda+t=(d-\lambda)(1+ (d-\lambda)^{-1}t)$ получаем, что $b-\lambda$ обратим и

$$ \begin{equation*} (b-\lambda)^{-1}=(1+ (d-\lambda)^{-1}t)^{-1}(d-\lambda)^{-1}. \end{equation*} \notag $$
Так как $I$ нильпотентен, найдется $p\in\mathbb{N}$ такое, что $((d-\lambda)^{-1}t)^p=0$. Отсюда следует, что
$$ \begin{equation*} (1+ (d-\lambda)^{-1}t)^{-1}= \sum_{j=0}^{p-1} ((\lambda-d)^{-1}t)^{j}. \end{equation*} \notag $$

Стало быть,

$$ \begin{equation*} \|(b-\lambda)^{-1}\|\le\sum_{j=0}^{p-1} \|(d-\lambda)^{-1}\|^{j+1} \|t\|^j. \end{equation*} \notag $$

Применяя импликацию $(1)\Rightarrow(3)$ из предложения 2.2 к элементу $d$, заключаем, что существуют $C,\gamma>0$ такие, что для всех $\lambda$, удовлетворяющих $\operatorname{Im} \lambda\ne0$, выполнено неравенство

$$ \begin{equation*} \|(d-\lambda)^{-1}\|\le C(1+|{\operatorname{Im} \lambda}|)^{-\gamma}. \end{equation*} \notag $$

Таким образом, при условии $\operatorname{Im} \lambda\ne0$ выполнено неравенство

$$ \begin{equation*} \|(b-\lambda)^{-1}\|\le C'(1+|{\operatorname{Im} \lambda}|)^{-\gamma'}, \end{equation*} \notag $$

где $C'$ и $\gamma'$ зависят только от $p$ и $\|t\|$. В силу обратной импликации $(3)\Rightarrow(1)$ из предложения 2.2 элемент $b$ имеет полиномиальный рост в $\mathfrak{A}_\mathbb{C}$, а значит, по определению, и в $\mathfrak{A}$. Теорема доказана.

Далее мы используем знак $\mathbin{\widehat{\otimes}}$ для полного проективного произведения локально выпуклых пространств. Напомним, что если $B_1$ и $B_2$ – банаховы алгебры (Аренса–Майкла), то и $B_1\mathbin{\widehat{\otimes}} B_2$ является таковой.

Доказательство теоремы 2.12. Алгебра $C^\infty(V,\mathrm{T}_{p})$ является проективным пределом алгебр вида $C^n(K,\mathrm{T}_{p})$, где $K$ – компактное подмножество в $\mathbb{R}^m$ и $n\in\mathbb{N}$. Более того, можно предполагать, что $K$ имеет плотную внутренность. Поэтому достаточно показать, что всякая алгебра такого вида имеет полиномиальный рост. Заметим, что $C^n(K,\mathrm{T}_{p})$ топологически изоморфна проективному тензорному произведению $C^n(K)\mathbin{\widehat{\otimes}} \mathrm{T}_{p}$ (это следует из конечномерности $\mathrm{T}_{p}$).

Обозначим через $I_0$ идеал в $\mathrm{T}_{p}$, состоящий из матриц с нулевыми диагональными элементами. Тогда расширение

$$ \begin{equation*} 0\leftarrow C^n(K)^p \leftarrow C^n(K)\mathbin{\widehat{\otimes}} \mathrm{T}_{p} \leftarrow C^n(K)\mathbin{\widehat{\otimes}} I_0\leftarrow 0 \end{equation*} \notag $$

расщепимо и нильпотентно, так как расширение

$$ \begin{equation*} 0\leftarrow \mathbb{R}^p \leftarrow \mathrm{T}_{p} \leftarrow I_0\leftarrow 0 \end{equation*} \notag $$

обладает обоими этими свойствами. Тем самым $C^n(K)^p$ является алгеброй полиномиального роста согласно предложениям 2.11 и 2.13. Осталось применить теорему 2.14. Теорема доказана.

§ 3. Упорядоченное исчисление

Следующая теорема (как и ее следствие – теорема 3.2) не является новой. Известны ее одномерный вариант [13] и многомерный вариант для некоторого класса гладких символов [3; с. 271]. Для класса $C^\infty$ утверждение сформулировано в [14; с. 888], однако подробности опущены. Здесь дано краткое изложение доказательства. (Через $\mathcal{S}(\mathbb{R}^m)$ обозначено пространство Шварца быстро убывающих бесконечно дифференцируемых функций.)

Теорема 3.1. Пусть $\mathbf{b}=(b_1, \dots, b_m)$ – упорядоченный набор элементов банаховой алгебры $B$, каждый из которых имеет полиномиальный рост. Для любой $F\in C^\infty(\mathbb{R}^m)$ выберем $f\in \mathcal{S}(\mathbb{R}^m)$, совпадающую с $F$ на параллелепипеде

$$ \begin{equation} P:=[-\|b_1\|,\|b_1\|]\times\dots\times [-\|b_m\|,\|b_m\|], \end{equation} \tag{3.1} $$
и положим
$$ \begin{equation} f(\mathbf{b}):=\frac1{(2\pi)^m}\int_{\mathbb{R}^m} \widehat f(\mathbf{s}) \exp(i s_1b_1)\cdots \exp(i s_mb_m)\,d\mathbf{s}, \end{equation} \tag{3.2} $$
где $\widehat f$ обозначает преобразование Фурье функции $f$. Тогда $\theta(F):=f(\mathbf{b})$ не зависит от выбора $f$, а $\theta$ является упорядоченным $C^\infty$-функциональным исчислением для $\mathbf{b}$.

(Об упорядоченном $C^\infty$-функциональном исчислении см. § 1.)

Доказательство. Во-первых, заметим, что интеграл в (3.2) корректно определен для любой $f\in \mathcal{S}(\mathbb{R}^m)$. Это утверждение доказывается так же, как в одномерном случае, см., например, [17; лемма 1.5.18]. Таким образом, $f\mapsto f(\mathbf{b})$ является распределением класса $\mathcal{S}'$ со значениями в $B$.

Во-вторых, покажем, что полученное распределение имеет компактный носитель, содержащийся в $P$. Здесь используется то же рассуждение, что и для исчисления Вейля (см., например, [24; лемма 8.4]). Положим

$$ \begin{equation*} E(\mathbf{z}):=(2\pi)^{-m}\exp(i z_1b_1)\cdots \exp(i z_mb_m),\qquad \mathbf{z}=(z_1, \dots, z_m)\in\mathbb{C}^m. \end{equation*} \notag $$
Очевидно, $E$ является целой функцией от $m$ переменных со значениями в $B$. Запишем $\mathbf{z}=\mathbf{x}+i\mathbf{y}$, где $\mathbf{x},\mathbf{y}\in \mathbb{R}^m$.

Так как $b_1,\dots,b_m$ имеют полиномиальный рост, найдутся $K>0$ и $\alpha\ge0$ такие, что

$$ \begin{equation*} \|E(\mathbf{z})\|\le K(1+ |\mathbf{x}|)^{\alpha} \exp\biggl(\sum_j \|b_j\|\, |y_j|\biggr) \end{equation*} \notag $$

для каждого $\mathbf{z}\,{\in}\,\mathbb{C}^m$. Пусть $\eta$ – произвольный непрерывный функционал на $B$. Согласно теореме Пэли–Винера–Шварца (в той форме, как она сформулирована в [25; теорема 7.3.1]) функция $\mathbf{z}\mapsto \eta E(\mathbf{z})$ является преобразованием Фурье распределения $u$, носитель которого содержится в $P$. В частности, если $f\in \mathcal{S}(\mathbb{R}^m)$, то $\langle \eta E, \widehat f\rangle = \langle u,f\rangle $ и, кроме того, из (3.2) следует, что $\eta f(\mathbf{b})=\langle \eta E, \widehat f\rangle $. Таким образом, $f\mapsto f(\mathbf{b})$ является $B$-значным распределением с компактным носителем.

Носитель распределения содержится в $P$, следовательно, если $F\in C^\infty(\mathbb{R}^m)$, а $f\in \mathcal{S}(\mathbb{R}^m)$ такова, что $f=F$ на $P$, то $f(\mathbf{b})$ не зависит от выбора $f$. Таким образом, $\theta(F)\,{:=}\,f(\mathbf{b})$ задает непрерывное линейное отображение $\theta\colon C^\infty(\mathbb{R}^m)\,{\to}\, B$, не зависящее от выбора $f$.

Наконец, убедимся в том, что $\theta$ является упорядоченным $C^\infty$-функциональным исчислением. Достаточно показать, что $\theta(x_1^{\alpha_1}\cdots x_m^{\alpha_m})=b_1^{\alpha_1}\cdots b_m^{\alpha_m}$ для каждого мультииндекса $\alpha$. Мы заменим функцию $\mathbf{x}\mapsto x_1^{\alpha_1}\cdots x_m^{\alpha_m}$ на $f\in \mathcal{S}(\mathbb{R}^m)$, совпадающую с ней на $P$. Для этого зафиксируем для всякого $j$ функцию $\varphi_j$ класса $C^\infty$ на $\mathbb{R}$, равную $1$ на $[-\|b_j\|,\|b_j\|]$ и имеющую компактный носитель, и затем положим

$$ \begin{equation*} f(\mathbf{x}):=x_1^{\alpha_1}\cdots x_m^{\alpha_m}\varphi_1(x_1)\cdots \varphi_m(x_m). \end{equation*} \notag $$
Так как $f\in\mathcal{S}(\mathbb{R}^m)$, то $\theta(x_1^{\alpha_1}\cdots x_m^{\alpha_m})=f(\mathbf{b})$. Тогда интеграл в (3.2) является произведением одномерных интегралов и, таким образом, утверждение сводится к случаю одной переменной, для которого оно известно. Действительно, функциональное $C^n$-исчисление из части (2) предложения 2.2 может быть задано одномерным вариантом формулы (3.2) (см. [13; теорема 1, лемма 1] или [17; леммы 1.5.16, 1.5.18]). Теорема доказана.

В частном случае, когда $b_1, \dots, b_m$ попарно перестановочны, экспоненты тоже попарно перестановочны, и мы сразу получаем из теоремы 3.1 следующее утверждение о мультипликативном $C^\infty$-исчислении.

Теорема 3.2. Пусть $\mathbf{b}=(b_1, \dots, b_m)$ – набор попарно перестановочных элементов банаховой алгебры $B$, каждый из которых имеет полиномиальный рост. Для любого $F\in C^\infty(\mathbb{R}^m)$ выберем функцию $f\in \mathcal{S}(\mathbb{R}^m)$, совпадающую с $F$ на параллелепипеде6 (3.1), и положим

$$ \begin{equation} f(\mathbf{b}):=\frac1{(2\pi)^m}\int_{\mathbb{R}^m} \widehat f(\mathbf{s}) \exp(i s_1b_1+\cdots +i s_mb_m)\,d\mathbf{s}. \end{equation} \tag{3.3} $$
Тогда $\theta(F):=f(\mathbf{b})$ не зависит от выбора $f$ и задает мультипликативное функциональное исчисление, т. е. непрерывный гомоморфизм
$$ \begin{equation*} \theta\colon C^\infty(\mathbb{R}^m) \to B \end{equation*} \notag $$
такой, что $\theta(t_j)=b_j$ для всех $j=1,\dots,m$.

Далее нам понадобится усиление теоремы 3.1 в случае, когда некоторые из элементов $b_1, \dots, b_m$ нильпотентны. (Отметим, что нильпотентный элемент всегда имеет полиномиальный рост.)

Обозначим через $\mathbb{R}[[\lambda_{k+1},\dots,\lambda_m]]$ линейное пространство формальных рядов от переменных $\lambda_{k+1},\dots,\lambda_m$ с действительными коэффициентами. Оно может быть рассмотрено как факторалгебра $C^\infty(\mathbb{R}^{m-k})$ по замкнутому идеалу $I$, состоящему из функций, обращающихся в $0$ в начале координат вместе со всеми частными производными (это следует из теоремы Бореля, см., например, [27; гл. I, с. 18, теорема 1.3]). Соответствующая топология совпадает с топологией декартова произведения счетного множества экземпляров $\mathbb{R}$. Так как $C^\infty(\mathbb{R}^k)$ является ядерным пространством Фреше, линейный оператор

$$ \begin{equation*} C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} I\to C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} C^\infty(\mathbb{R}^{m-k}) \end{equation*} \notag $$
топологически инъективен и
$$ \begin{equation} C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[\lambda_{k+1},\dots,\lambda_m]]\cong (C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} C^\infty(\mathbb{R}^{m-k}))/(C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} I), \end{equation} \tag{3.4} $$
см., например, [28; теорема A1.6].

Теорема 3.3. Пусть $\mathbf{b}=(b_1, \dots, b_m)$ – упорядоченный набор элементов $\mathbb{R}$-алгебры Аренса–Майкла $B$ (в частности, банаховой). Предположим, что $b_1,\dots,b_k$ ($k\le m$) имеют полиномиальный рост, а $b_{k+1},\dots,b_m$ нильпотентны. Для любого $F\in C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[\lambda_{k+1},\dots,\lambda_m]]$ и некоторого его прообраза $f\in \mathcal{S}(\mathbb{R}^m)$ зададим $f(\mathbf{b})$ формулой (3.2). Тогда $\sigma(F):=f(\mathbf{b})$ не зависит от выбора $f$ и задает непрерывное линейное отображение

$$ \begin{equation*} \sigma\colon C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[\lambda_{k+1},\dots,\lambda_m]]\to B, \end{equation*} \notag $$
продолжающее отображение из (1.1).

В силу теоремы Вейерштрасса об аппроксимации непрерывно дифференцируемых функций пространство $\mathbb{R}[\lambda_1,\dots,\lambda_m]$ плотно в $C^\infty(\mathbb{R}^k)$. Тем самым образ отображения

$$ \begin{equation*} \mathbb{R}[\lambda_1,\dots,\lambda_m]\to C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[\lambda_{k+1},\dots,\lambda_m]] \end{equation*} \notag $$
также плотен. Следовательно, функциональное исчисление с указанным в теореме свойством единственно.

Доказательство теоремы 3.3. Согласно теореме 3.1 формула (3.2) задает упорядоченное $C^\infty$-функциональное исчисление $\theta$ для $\mathbf{b}$. Таким образом, доказательство сводится к проверке того, что $\theta$ пропускается через $C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[\lambda_{k+1},\dots,\lambda_m]]$.

Пусть $I$ – замкнутый идеал в $C^\infty(\mathbb{R}^{m-k})$, состоящий из функций, обращающихся в $0$ в начале координат вместе со всеми частными производными. Отождествляя $C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} C^\infty(\mathbb{R}^{m-k})$ с $C^\infty(\mathbb{R}^m)$, мы можем рассматривать $C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} I$ как подпространство в $C^\infty(\mathbb{R}^m)$. В силу (3.4) достаточно показать, что $\theta(F)=0$ для любой функции $F$ из $C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} I$. Более того, можно предполагать, что $F=F_1\otimes F_2$, где $F_1\in C^\infty(\mathbb{R}^k)$ и $F_2\in I$.

Пусть $f_1\in \mathcal{S}(\mathbb{R}^k)$ и $f_2\in \mathcal{S}(\mathbb{R}^{m-k})$ – прообразы $F_1$ и $F_2$. Тогда из формулы (3.2) видно, что

$$ \begin{equation*} \theta(F_1\otimes F_2)=f_1(b_1,\dots,b_k)f_2(b_{k+1},\dots,b_m). \end{equation*} \notag $$
Мы докажем, что второй множитель равен $0$.

Так как $b_{k+1},\dots,b_m$ нильпотентны, найдется $n\in\mathbb{N}$ такое, что

$$ \begin{equation*} b_{k+1}^{n+1}=\cdots=b_m^{n+1}=0. \end{equation*} \notag $$
Рассмотрим формулу (3.2) для $f_2(b_{k+1},\dots,b_m)$. Разлагая каждую из экспонент в ряд Тейлора, получаем, что интеграл в правой части равен
$$ \begin{equation} \sum_{\alpha_{k+1},\dots, \alpha_m=0}^n \int_{\mathbb{R}^{m-k}} \widehat f_2(\mathbf{s}) \frac{(i s_{k+1} b_{k+1})^{\alpha_{k+1}}\cdots (i s_m b_m)^{\alpha_m}}{\alpha_{k+1}!\cdots \alpha_m!}\,d\mathbf{s}. \end{equation} \tag{3.5} $$
Так как $\widehat{f_2^{(\alpha)}}(\mathbf{s})=(i s_{k+1})^{\alpha_{k+1}}\cdots (i s_m)^{\alpha_m}\, \widehat f_2(\mathbf{s})$ для всякого мультииндекса $\alpha\in \mathbb{Z}_+^{m-k}$, то подынтегральное выражение в каждом слагаемом принимает вид
$$ \begin{equation*} \widehat{f_2^{(\alpha)}}(\mathbf{s}) \frac{b_{k+1}^{\alpha_{k+1}}\cdots b_m^{\alpha_m}}{\alpha_{k+1}!\cdots \alpha_m!}. \end{equation*} \notag $$
Так как $F_2\in I$, все частные производные $f_2$ также равны $0$ в начале координат. Записывая для каждого $\alpha$ обратное преобразование Фурье для $f_2^{(\alpha)}$, получаем
$$ \begin{equation*} \int_{\mathbb{R}^{m-k}} \widehat{f_2^{(\alpha)}}(\mathbf{s})\,d\mathbf{s}=0. \end{equation*} \notag $$
Тем самым каждое слагаемое в (3.5) равно $0$. Итак, $f_2(b_{k+1},\dots,b_m)=0$, а значит, и $\theta(F_1\otimes F_2)=0$. Теорема доказана.

§ 4. Глобально определенные некоммутативные функции класса $C^\infty$ и мультипликативное исчисление для треугольных конечномерных алгебр Ли

4.1. Треугольные алгебры Ли

Напомним, что алгебра Ли $\mathfrak{g}$ над полем $\mathbb{K}$ называется треугольной, если она разрешима и для любого $x\in\mathfrak{g}$ все собственные значения линейного оператора $\operatorname{ad} x$ принадлежат7 $\mathbb{K}$.

Выбор класса треугольных алгебр Ли как основного диктуется следующим утверждением.

Предложение 4.1. Пусть $\mathfrak{g}$ – конечномерная $\mathbb{R}$-алгебра Ли, $B$ – банахова $\mathbb{R}$-алгебра полиномиального роста и $\gamma\colon \mathfrak{g} \to B$ – гомоморфизм $\mathbb{R}$-алгебр Ли. Тогда $\gamma(\mathfrak{g})$ – треугольная алгебра Ли.

Доказательство. Обозначим $\gamma(\mathfrak{g})$ через $\mathfrak{h}$. В силу теоремы 2.8 идеал $[\mathfrak{h},\mathfrak{h}]$ содержится в $\operatorname{Rad} B$, а в силу предложения 2.9 $\operatorname{Rad} B$ нильпотентен. Отсюда следует, что $[\mathfrak{h},\mathfrak{h}]$ нильпотентна как алгебра Ли. Следовательно, $\mathfrak{h}$ разрешима.

Далее используем стандартный трюк из теории обобщенных скалярных операторов – рассмотрим оператор $\operatorname{ad} h\colon B\to B$ и заметим, что

$$ \begin{equation*} e^{is\operatorname{ad} h}(b)=e^{ish}b e^{-ish},\qquad s\in\mathbb{R},\quad h\in \mathfrak{h},\quad b\in B, \end{equation*} \notag $$
см., например, доказательство [29; гл. II, § 15, с. 83, замечание 1]. Поскольку $h\in\mathfrak{h}$ имеет полиномиальный рост, отсюда следует, что и оператор $\operatorname{ad} h$ обладает этим свойством. Так как $\mathfrak{h}$ является инвариантным подпространством для $\operatorname{ad} h$, то ограничение на $\mathfrak{h}$ также имеет полиномиальный рост. В частности, спектр $(\operatorname{ad} h)|_\mathfrak{h}$ содержится в $\mathbb{R}$, что означает по определению, что $\mathfrak{h}$ треугольна. Предложение доказано.

Следствие 4.2. Пусть $\mathfrak{g}$ – конечномерная $\mathbb{R}$-алгебра Ли, $B$ – проективный предел банаховых $\mathbb{R}$-алгебр полиномиального роста и $\gamma\colon \mathfrak{g} \to B$ – гомоморфизм $\mathbb{R}$-алгебр Ли. Если $\gamma$ инъективен, то $\mathfrak{g}$ треугольна.

Доказательство. Так как $\mathfrak{g}$ конечномерна, то на $B$ существует субмультипликативная преднорма $\|\,{\cdot}\,\|$ такая, что ее ограничение на $\gamma(\mathfrak{g})$ является нормой. Пополняя $B$ по $\|\,{\cdot}\,\|$, получаем банахову алгебру. Осталось применить предложение 4.1. Следствие доказано.

4.2. Формулировка основных результатов

Пусть $\mathfrak{g}$ – треугольная конечномерная $\mathbb{R}$-алгебра Ли. Обозначим через $\mathfrak{n}$ нильпотентный радикал (т. е. пересечение ядер всех конечномерных неприводимых представлений) треугольной $\mathbb{R}$-алгебры Ли $\mathfrak{g}$. Так как $\mathfrak{g}$ разрешима, то, как хорошо известно, $\mathfrak{n}=[\mathfrak{g},\mathfrak{g}]$. Зафиксируем в $\mathfrak{n}$ линейный базис $e_{k+1},\dots, e_m$ и его дополнение $e_1,\dots, e_k$ до линейного базиса в $\mathfrak{g}$ и рассмотрим пространство Фреше

$$ \begin{equation} C^\infty_\mathfrak{g}:=C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[e_{k+1},\dots,e_m]]. \end{equation} \tag{4.1} $$
Соответствующие PBW-базис $\{e^\alpha:=e_1^{\alpha_1}\cdots e_m^{\alpha_m}\colon \alpha\in \mathbb{Z}_+^m\}$ в $U(\mathfrak{g})$ и линейное отображение $\Phi$ (см. (1.1)) позволяют отождествить $U(\mathfrak{g})$ с подпространством в $C^\infty_\mathfrak{g}$ (плотным в силу теоремы Вейерштрасса об аппроксимации непрерывно дифференцируемых функций). Как будет показано ниже (теорема 4.4), определенное таким образом пространство $C^\infty_\mathfrak{g}$ не зависит от выбора базиса.

Следующие две теоремы заключают в себе основное содержание статьи.

Теорема 4.3. Пусть $\mathfrak{g}$ – треугольная конечномерная действительная алгебра Ли. Тогда умножение в $U(\mathfrak{g})$ продолжается до непрерывного умножения в $C^\infty_\mathfrak{g}$ (каковы бы ни были базис в $\mathfrak{n}$ и его дополнение до базиса в $\mathfrak{g}$). Более того, относительно этого умножения $C^\infty_\mathfrak{g}$ является проективным пределом действительных банаховых алгебр полиномиального роста и, следовательно, алгеброй Фреше–Аренса–Майкла полиномиального роста.

Ограничивая вложение $U(\mathfrak{g})\to C^\infty_\mathfrak{g}$ на $\mathfrak{g}$, мы получаем гомоморфизм $\mu\colon \mathfrak{g}\to C^\infty_\mathfrak{g}$ действительных алгебр Ли. Следующий результат является обобщением теоремы 3.2.

Теорема 4.4. Пусть $\mathfrak{g}$ – треугольная конечномерная действительная алгебра Ли. Если $B$ – проективный предел действительных банаховых алгебр полиномиального роста и $\gamma\colon \mathfrak{g}\to B$ – гомоморфизм действительных алгебр Ли, то существует мультипликативное $C^\infty_\mathfrak{g}$-функциональное исчисление, а именно, непрерывный гомоморфизм $\theta\colon C^\infty_\mathfrak{g}\to B$ такой, что диаграмма

$(4.2)$
коммутативна. Как следствие, алгебра $C^\infty_\mathfrak{g}$ не зависит от выбора базиса в $\mathfrak{n}$ и его дополнения до базиса в $\mathfrak{g}$.

Непосредственно из теорем 4.3 и 4.4 получаем следующее утверждение.

Следствие 4.5. Всякий гомоморфизм $\mathfrak{g}\to\mathfrak{h}$ треугольных конечномерных действительных алгебр Ли индуцирует непрерывный гомоморфизм $C^\infty_\mathfrak{g}\,{\to}\, C^\infty_\mathfrak{h}$. Полученное соответствие является функтором из категории треугольных действительных алгебр Ли в категорию $\mathbb{R}$-алгебр Фреше–Аренса–Майкла полиномиального роста.

Таким образом, все три требования к $C^\infty_\mathfrak{g}$, перечисленные во введении, выполнены: (1) если $\mathfrak{g}=\mathbb{R}^m$ для некоторого $m\in\mathbb{N}$, то $C^\infty_\mathfrak{g}=C^\infty(\mathbb{R}^m)$; (2) алгебра $C^\infty_\mathfrak{g}$ есть пополнение $U(\mathfrak{g})$, а гомоморфизм $U(\mathfrak{g})\to C^\infty_\mathfrak{g}$ инъективен (в силу следствия 4.2); (3) соответствие $\mathfrak{g}\mapsto C^\infty_\mathfrak{g}$ является функтором.

Определение пространства $C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[e_{k+1},\dots,e_m]]$ из (4.1) имеет смысл для произвольной разрешимой алгебры $\mathfrak{g}$. Однако, как видно из следующего примера, в случае, когда $\mathfrak{g}$ не треугольна, умножение в $U(\mathfrak{g})$ не обязано продолжаться до непрерывной операции на этом пространстве.

Пример 4.6. Рассмотрим алгебру Ли $\mathfrak{e}_2$ группы движений плоскости $\mathbb{R}^2$. Она имеет линейный базис $e_1,e_2,e_3$, элементы которого связаны соотношениями

$$ \begin{equation*} [e_1,e_2]=e_3, \quad [e_1,e_3]=-e_2, \quad [e_2,e_3]=0. \end{equation*} \notag $$
Эта алгебра является простейшим примером разрешимой, но не треугольной, алгебры Ли (оператор $\operatorname{ad} e_1$ имеет собственные значения $i$, $0$, $-i$).

В силу теоремы о PBW-базисе $U(\mathfrak{e}_2)$ является подпространством в $C^\infty(\mathbb{R})\mathbin{\widehat{\otimes}} \mathbb{R}[[e_2,e_3]]$. Из предложения 4.1 сразу следует, что последнее пространство не может быть алгеброй полиномиального роста с умножением, унаследованным от $U(\mathfrak{e}_2)$. Но чтобы доказать, что оно не является даже алгеброй Фреше, необходимы дополнительные рассуждения. Пусть $f\in\mathbb{R}[\lambda]$. Из хорошо известной коммутационной формулы (см., например, [29; § 15, с. 82, следствие 1]) получаем

$$ \begin{equation*} \operatorname{ad} f(e_1)(e_2) = \sum_{n\ge 1}\frac{(-1)^{n+1}}{n!} f^{(n)}(e_1)(\operatorname{ad} e_1)^n(e_2). \end{equation*} \notag $$
Так как $(\operatorname{ad} e_1)^{2k-1}(e_2)=(-1)^{k+1} e_3$ и $(\operatorname{ad} e_1)^{2k}(e_2)=(-1)^k e_2$ для всех $k\in\mathbb{N}$, то
$$ \begin{equation*} e_2f(e_1) = f(e_1)e_2+ \sum_{k\ge 1}\frac{(-1)^k}{(2k-1)!} f^{(2k-1)}(e_1)e_3+\sum_{k\ge 1}\frac{(-1)^k}{(2k)!} f^{(2k)}(e_1)e_2. \end{equation*} \notag $$

Рассматривая $f$ как многочлен от комплексной переменной, мы получаем из формулы Тейлора, что

$$ \begin{equation} e_2f(e_1) = \frac{f(e_1-i)-f(e_1+i)}{2i}\,e_3+\frac{f(e_1-i)+f(e_1+i)}{2}\,e_2. \end{equation} \tag{4.3} $$
Положим $f(\lambda)=(\lambda^2+1)^{-1}$ и рассмотрим следующую последовательность компактных подмножеств $K_m$ в $\mathbb{C}$:
$$ \begin{equation*} K_m:=\biggl\{\lambda\in\mathbb{C}\colon \,|\mathbb{R}e \lambda|\le m,\, |{\operatorname{Im} \lambda}|\le 1,\, |\lambda-i|\ge \frac1{m},\, |\lambda+i|\ge \frac1{m}\biggr\},\qquad m\in\mathbb{N}. \end{equation*} \notag $$
Пусть $f_n$ – последовательность многочленов сходящаяся к $f$ равномерно на каждом $K_m$ (она существует в силу теоремы Мергеляна; см., например, [30; теорема 20.5]). Более того, можно предполагать, что каждый $f_n$ имеет действительные коэффициенты. Так как
$$ \begin{equation*} \frac{f(\lambda-i)-f(\lambda+i)}{2i}=\frac{2}{\lambda^3+4\lambda}, \end{equation*} \notag $$
то $f_n(\lambda-i)-f_n(\lambda+i)$ сходится к рациональной функции с полюсом в $0$ равномерно по $\lambda$ на каждом компактном подмножестве $\mathbb{R}\setminus\{0\}$.

Теперь предположим противное, т. е. что умножение в $U(\mathfrak{e}_2)$ непрерывно продолжается на $C^\infty(\mathbb{R})\mathbin{\widehat{\otimes}}\mathbb{R}[[e_2,e_3]]$. Тогда $e_2f_n(e_1)$ сходится к $e_2f(e_1)$ в топологии, унаследованной из $C^\infty(\mathbb{R})\mathbin{\widehat{\otimes}} \mathbb{R}[[e_2,e_3]]$. Из (4.3) получаем, что $f_n(\lambda-i)-f_n(\lambda+i)$ сходится к непрерывной на $\mathbb{R}$ функции равномерно по $\lambda$ на каждом компактном подмножестве. Получаем противоречие, которое означает, что непрерывное продолжение невозможно.

Тем не менее, возможно дать более общее определение $C^\infty_\mathfrak{g}$, пригодное для произвольной $\mathbb{R}$-алгебр Ли $\mathfrak{g}$ (не только разрешимой и не только конечномерной); см. [5]. Разумеется, для нетреугольных $\mathfrak{g}$ оно не совпадает с (4.1), а $U(\mathfrak{g})\to C^\infty_\mathfrak{g}$ не является инъективным.

Оставшаяся часть этого параграфа в основном посвящена доказательству теорем 4.3 и 4.4. Доказательство первой из них содержится в пп. 4.34.6, а второй – в п. 4.7.

4.3. Начало доказательства теоремы 4.3

Мы приступаем к доказательству теоремы 4.3. В этом пункте мы проведем предварительные построения и сведем утверждение теоремы к проверке того, что некоторый гомоморфизм $\rho$ топологически инъективен. Далее, в п. 4.4, доказательство будет проведено сначала для двух примеров, хорошо иллюстрирующих существенные особенности наших рассуждений. Вспомогательные утверждения, нужные в общем случае, содержатся в п. 4.5. Доказательство топологической инъективности $\rho$ заканчивается в п. 4.6

Пусть $e_1,\dots, e_m$ – линейный базис в $\mathfrak{g}$ такой, что $e_{k+1},\dots, e_m$ является линейным базисом в $\mathfrak{n}$. Снабдим $U(\mathfrak{g})$ топологией, унаследованной из $C^\infty_\mathfrak{g}$, см. (4.1). Идея доказательства заключается в том, чтобы построить топологически инъективный гомоморфизм из $U(\mathfrak{g})$ в произведение банаховых $\mathbb{R}$-алгебр полиномиального роста. Этого достаточно, поскольку свойство иметь полиномиальный рост сохраняется при переходе к замкнутым подалгебрам (см. предложение 2.11).

Сначала убедимся в том, что заданная выше топология на $C^\infty_\mathfrak{g}$ не зависит от выбора8 базиса в $\mathfrak{n}$. Пусть $e'_{k+1},\dots, e'_m$ – еще один базис в $\mathfrak{n}$. Рассмотрим две топологии на $U(\mathfrak{g})$, доставляемые вложениями в

$$ \begin{equation*} C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[e_{k+1},\dots,e_m]]\quad\text{и}\quad C^\infty(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathbb{R}[[e'_{k+1},\dots,e'_m]] \end{equation*} \notag $$
соответственно. Мы должны проверить, что эти топологии совпадают.

Каждый $a\in U(\mathfrak{g})$ может быть записан двумя способами как разложение с коэффициентами в некоммутативных полиномах по элементам PBW-базиса, не содержащим $e_1,\dots, e_k$, а именно:

$$ \begin{equation} a=\sum_{\alpha\in\mathbb{Z}_+^{m-k}} \Phi(f_\alpha)e^\alpha =\sum_{\beta\in\mathbb{Z}_+^{m-k}} \Phi(h_\beta)(e')^\beta, \end{equation} \tag{4.4} $$
(здесь мы отождествляем $\mathbb{Z}_+^{m-k}$ с множеством мультииндексов $\alpha\in\mathbb{Z}_+^{m}$ таких, что $\alpha_1=\dots=\alpha_k=0$), где $f_\alpha,h_\beta\in \mathbb{R}[\lambda_1,\dots,\lambda_k]$, а $\Phi\colon \mathbb{R}[\lambda_1,\dots,\lambda_k]\to U(\mathfrak{g})$ – упорядоченное исчисление, которое задано как в (1.1).

Как и выше, в коммутативном случае (т. е. когда $p=1$) через $|\,{\cdot}\,|_{K,n}$ обозначаются преднормы $\|\,{\cdot}\,\|_{1,K,n}$, определенные в (2.2). Легко видеть, что топология на $U(\mathfrak{g})$, соответствующая базису $e_1,\dots, e_m$, задается семейством преднорм

$$ \begin{equation*} |a|_{\alpha,K,n}:= |f_\alpha|_{K,n}, \qquad n\in\mathbb{Z}_+,\quad \alpha \in \mathbb{Z}_+^{m-k},\quad K\subset \mathbb{R}^m\text{ и компактно}, \end{equation*} \notag $$
а топология, соответствующая базису $e_1,\dots, e_k,e'_{k+1},\dots, e'_m$, – семейством преднорм
$$ \begin{equation*} |a|'_{\beta,K,n}:= |h_\beta|_{K,n},\qquad n\in\mathbb{Z}_+,\quad \beta \in \mathbb{Z}_+^{m-k},\quad K\subset \mathbb{R}^m\text{ и компактно}. \end{equation*} \notag $$
Так как каждый моном $(e')^\beta$ является линейной комбинацией $e^\alpha$, то в силу (4.4) каждый $\Phi(f_\alpha)$ является линейной комбинацией $\Phi(h_\beta)$ с коэффициентами, не зависящими от $f_\alpha$. Отсюда следует, что семейство $(|\,{\cdot}\,|_{\alpha,K,n})$ мажорируется семейством $(|\,{\cdot}\,|'_{\beta,K,n})$. Аналогичное рассуждение показывает, что второе семейство мажорируется первым. Тем самым задаваемые ими топологии совпадают.

Далее $e_{k+1},\dots, e_m$ будут выбраны специальным образом, но пока рассмотрим следующую конструкцию, применимую к любому такому базису (ср. частные случаи ниже в (4.8) и (4.16)).

Для данного конечномерного представления $\pi\colon U(\mathfrak{g})\to \operatorname{End} L$ (здесь $L$ – линейное пространство над $\mathbb{R}$) определим гомоморфизм $\widetilde\pi\colon U(\mathfrak{g})\to\mathbb{R}[\lambda_1,\dots,\lambda_k]\otimes \operatorname{End} L$, положив

$$ \begin{equation} \widetilde\pi(e_j):=\lambda_j\otimes 1+1\otimes \pi(e_j),\quad j\le k,\qquad \widetilde\pi(e_j):=1\otimes\pi(e_j), \quad j> k. \end{equation} \tag{4.5} $$
(Гомоморфизм корректно определен, поскольку $\mathfrak{n}=[\mathfrak{g},\mathfrak{g}]$.) Расширяя область значений $\widetilde\pi$, мы полагаем, что она совпадает с алгеброй $C^\infty(\mathbb{R}^k)\otimes \operatorname{End} L$. С другой стороны, в силу того, что всякое конечномерное представление треугольной алгебры Ли приводится к верхнетреугольному виду (см. обобщение теоремы Ли [31; § 1.2, c. 11, теорема 1.2]), образ $\widetilde\pi$ фактически содержится в $C^{\infty}(\mathbb{R}^k)\otimes \mathrm{T}_d$, где $d$ – размерность представления $\pi$. Мы снабжаем последнюю алгебру топологией проективного тензорного произведения и отождествляем таким образом с $C^{\infty}(\mathbb{R}^k)\mathbin{\widehat{\otimes}} \mathrm{T}_d$ (или с $C^{\infty}(\mathbb{R}^k,\mathrm{T}_d)$, это следует из того, что она изоморфна инъективному тензорному произведению [32; теорема 44.1] и ядерности сомножителей).

В силу теоремы 3.3 гомоморфизм $\widetilde\pi$ продолжается до непрерывного линейного отображения $C^\infty_\mathfrak{g}\to C^{\infty}(\mathbb{R}^k,\mathrm{T}_d)$.

Далее предположим, что мы задали счетное семейство $(\pi_\beta\colon U(\mathfrak{g})\to \operatorname{End} L_\beta)$ конечномерных представлений, и рассмотрим гомоморфизм

$$ \begin{equation} \rho\colon U(\mathfrak{g})\to \prod_{\beta} C^{\infty}(\mathbb{R}^k,\mathrm{T}_{d_\beta}) \colon a\mapsto (\widetilde\pi_\beta(a)), \end{equation} \tag{4.6} $$
где $d_\beta$ – размерность представления $\pi_\beta$. Так как каждый $\widetilde\pi_\beta$ непрерывен, то гомоморфизм $\rho$ также непрерывен.

Чтобы завершить доказательство, достаточно выбрать базис в $\mathfrak{g}$ и семейство представлений $(\pi_\beta)$ таким образом, чтобы гомоморфизм $\rho$, определенный в (4.6), являлся топологически инъективным. Действительно, тогда мы сможем отождествить $C^\infty_\mathfrak{g}$ с замкнутой подалгеброй в $D:=\prod C^{\infty}(\mathbb{R}^k,\mathrm{T}_{d_\beta})$, а последняя является алгеброй Фреше–Аренса–Майкла, поэтому и $C^\infty_\mathfrak{g}$ будет таковой. Более того, в силу теоремы 2.12 каждый множитель в $D$ является проективным пределом банаховых алгебр полиномиального роста, а значит, в силу предложения 2.11 изоморфен замкнутой подалгебре произведения банаховых алгебр полиномиального роста. Следовательно, $D$ и ее подалгебра $C^\infty_\mathfrak{g}$ также имеют такой вид. Применяя еще раз предложение 2.11, получаем, что $C^\infty_\mathfrak{g}$ есть проективный предел банаховых алгебр полиномиального роста и, в частности, сама имеет полиномиальный рост.

Поскольку конструкция, используемая в доказательстве общего случая, довольно громоздка, мы рассмотрим сначала два простейших примера, иллюстрирующих основные идеи рассуждения.

4.4. Примеры к доказательству теоремы 4.3

Пример 4.7. Обозначим через $\mathfrak{a}\mathfrak{f}_1$ двумерную действительную алгебру Ли с линейным базисом $e_1,e_2$ и умножением, определенным соотношением $[e_1,e_2]= e_2$. Зададим последовательность $(\pi_q,\,q\in\mathbb{Z}_+)$ представлений $\mathfrak{a}\mathfrak{f}_1$ следующим образом. Тривиальное представление обозначим через $\pi_0$. Для $q\in\mathbb{N}$ положим $\pi_q(e_1)=X_q$ и $\pi_q(e_2)=Y_q$, где

$$ \begin{equation} X_q:= \begin{pmatrix} q& &&& \\ &q-1 && &\\ & & \ddots&&\\ & & &1&\\ & & &&0 \end{pmatrix},\qquad Y_q:= \begin{pmatrix} 0& 1&&& \\ &0& 1&& \\ && \ddots& \ddots&\\ & &&0 &1\\ & &&&0 \end{pmatrix}. \end{equation} \tag{4.7} $$
(Мы отождествляем оператор с его матрицей.) Здесь и далее мы в основном опускаем нулевые диагонали.

Пусть $\Phi\colon \mathbb{R}[\lambda]\to U(\mathfrak{a}\mathfrak{f}_1)$ обозначает функциональное исчисление, соответствующее элементу $e_1$. Представим элемент $U(\mathfrak{a}\mathfrak{f}_1)$ в виде $a=\sum_j \Phi(f_j)e_2^j$, где $f_j\in \mathbb{R}[\lambda]$. Тогда, как нетрудно проверить,

$$ \begin{equation*} \pi_q(a)=\begin{pmatrix} f_0(q)&f_1(q) &\cdots&&f_q(q) \\ &f_0(q-1) && &\\ & & \ddots&&\vdots\\ & & &f_0(1)&f_1(1)\\ & & &&f_0(0) \end{pmatrix}. \end{equation*} \notag $$
Гомоморфизм $\widetilde\pi_q\colon U(\mathfrak{a}\mathfrak{f}_1)\to\mathbb{R}[\lambda]\otimes \mathrm{T}_{q+1}$, определенный в (4.5), принимает вид
$$ \begin{equation} \widetilde\pi_q(e_1):=\lambda\otimes 1+1\otimes \pi_q(e_1),\qquad \widetilde\pi_q(e_2):=1\otimes\pi_q(e_2) . \end{equation} \tag{4.8} $$
Отождествляя $\mathbb{R}[\lambda]\otimes \mathrm{T}_{q+1}$ с алгеброй $\mathbb{R}[\lambda;\mathrm{T}_{q+1}]$ матричнозначных полиномиальных функций, можно записать
$$ \begin{equation} [\widetilde\pi_q(a)](\lambda)=\begin{pmatrix} f_0(\lambda+q)&f_1(\lambda+q) &\cdots&&f_q(\lambda+q) \\ &f_0(\lambda+q-1) && &\\ & & \ddots&&\vdots\\ & & &f_0(\lambda+1)&f_1(\lambda+1)\\ & & &&f_0(\lambda) \end{pmatrix}. \end{equation} \tag{4.9} $$

В силу теорем 2.12 и 3.3 функциональное исчисление $C^\infty(\mathbb{R})\mathbin{\widehat{\otimes}} \mathbb{R}[[e_2]]\to C^\infty(\mathbb{R},\mathrm{T}_{q+1})$ непрерывно для каждого $q$. Рассмотрим непрерывный гомоморфизм (ср. (4.6))

$$ \begin{equation} \rho\colon U(\mathfrak{a}\mathfrak{f}_1)\to \prod_{q=0}^\infty C^\infty(\mathbb{R},\mathrm{T}_{q+1}) \end{equation} \tag{4.10} $$
и проверим, что он топологически инъективен.

Топология на $U(\mathfrak{a}\mathfrak{f}_1)$, унаследованная из $C^\infty(\mathbb{R})\mathbin{\widehat{\otimes}} \mathbb{R}[[e_2]]$, задается семейством преднорм

$$ \begin{equation} |a|_{q,M,l}:= |f_q|_{M,l},\qquad q,l \in \mathbb{Z}_+,\quad M\subset \mathbb{R}\text{ и компактно}, \end{equation} \tag{4.11} $$
при этом достаточно брать в качестве $M$ только отрезки $[c,d]\subset \mathbb{R}$. С другой стороны, для $n,p \in \mathbb{Z}_+$ и $[\gamma,\delta]\subset \mathbb{R}$ рассмотренная на $U(\mathfrak{a}\mathfrak{f}_1)$ преднорма $\|\widetilde\pi_p(\,{\cdot}\,)\|_{p+1,[\gamma,\delta],n}$, где $\|\,{\cdot}\,\|_{p+1,[\gamma,\delta],n}$ определена в (2.2), очевидно непрерывна относительно топологии, унаследованной из области значений $\rho$ (здесь в качестве $\|\,{\cdot}\,\|_{p+1}$ мы берем операторную норму).

Так как в (4.9) $f_q$ соответствует элементу в правом верхнем углу, отсюда следует, что

$$ \begin{equation} |f_q|_{[c,d],l}\le\|\widetilde\pi_q(a) \|_{q+1,[c-q,d-q],l}. \end{equation} \tag{4.12} $$
Таким образом, для данных $q$, $[c,d]$ и $l$ преднорма $|\,{\cdot}\,|_{q,[c,d],l}$ мажорируется (в смысле [33; определение 4.1.2]) семейством преднорм $\{\|\widetilde\pi_p(\,{\cdot}\,)\|_{p+1,[\gamma,\delta],n}\}$. Это означает, что $\rho$ топологически инъективен, и мы доказали утверждение теоремы 4.3 для алгебры $\mathfrak{a}\mathfrak{f}_1$.

Пример 4.8. Рассмотрим трехмерную действительную алгебру Гейзенберга, т. е. алгебру Ли $\mathfrak{h}$ с линейным базисом $e_1,e_2,e_3$ и умножением, определенным соотношениями $[e_1,e_2]=e_3$, $[e_1,e_3]=[e_2,e_3]=0$.

Обозначим через $\pi_0$ тривиальное представление $\mathfrak{h}$, через $\pi_1$ – “стандартное представление”:

$$ \begin{equation} \pi_1(e_1):= \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 0 \\ 0&0& 0\end{pmatrix}, \qquad \pi_1(e_2):= \begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & 1 \\ 0&0&0 \end{pmatrix}, \qquad \pi_1(e_3):= \begin{pmatrix} 0 & 0 &1 \\ 0 & 0 & 0\\ 0&0&0 \end{pmatrix}, \end{equation} \tag{4.13} $$
а через $\pi_q$ – $q$-ю тензорную степень $\pi_1$.

В отличие от примера 4.7 для доказательства топологической инъективности гомоморфизма

$$ \begin{equation*} \rho\colon U(\mathfrak{h})\to \prod_{q=0}^\infty C^\infty(\mathbb{R}^2,\mathrm{T}_{q}) \end{equation*} \notag $$
нам потребуется рассуждение по индукции.

Топология на $U(\mathfrak{h})$, унаследованная из $C^\infty_\mathfrak{h}$, задается семейством преднорм

$$ \begin{equation} |a|_{q,M,l}:= |f_q|_{M,l},\qquad q,l\in\mathbb{Z}_+,\quad M\subset \mathbb{R}^2\text{ и компактно}. \end{equation} \tag{4.14} $$
Достаточно показать, что для данных $q$, $M$ и $l$ преднорма $|\,{\cdot}\,|_{q,M,l}$ мажорируется семейством преднорм $(\|\widetilde\pi_p(\,{\cdot}\,)\|_{p+1,K,n})$, где $\|\,{\cdot}\,\|_{p+1,K,n}$ определена в (2.2) (здесь в качестве $\|\,{\cdot}\,\|_{p+1}$ – операторная норма).

Пусть $\Phi\colon \mathbb{R}[\lambda,\mu]\to U(\mathfrak{h})$ обозначает упорядоченное функциональное исчисление, соответствующее элементам $e_1$ и $e_2$. Запишем элемент $U(\mathfrak{h})$ в виде $a=\sum_j \Phi(f_j)e_3^j$, где $f_j\in \mathbb{R}[\lambda,\mu]$.

Рассуждение проводится индукцией по $q$. В случае $q=0$ заметим, что

$$ \begin{equation*} \widetilde\pi_0\colon U(\mathfrak{h})\to\mathbb{R}[\lambda,\mu]\colon e_1\mapsto\lambda,\,e_2\mapsto\mu,\, e_3\mapsto 0. \end{equation*} \notag $$
Тогда $\widetilde\pi_0(a)=f_0$. Очевидно,
$$ \begin{equation} |a|_{0,M,l}=\|\widetilde\pi_0(a)\|_{1,M,l}. \end{equation} \tag{4.15} $$
Таким образом, утверждение выполнено для $q=0$.

Если $q=1$, то $\widetilde\pi_1\colon U(\mathfrak{h})\to\mathbb{R}[\lambda,\mu]\otimes \mathrm{T}_3$ из (4.5) имеет вид

$$ \begin{equation} \begin{aligned} \, \widetilde\pi_1(e_1) &=\lambda\otimes 1+1\otimes \pi_1(e_1), \\ \widetilde\pi_1(e_2) &=\mu\otimes 1+1\otimes \pi_1(e_2), \\ \widetilde\pi_1(e_3) &=1\otimes\pi_1(e_3). \end{aligned} \end{equation} \tag{4.16} $$
Легко видеть, что
$$ \begin{equation*} \widetilde\pi_1(a)=\begin{pmatrix} f_0 & \dfrac{\partial f_0}{\partial \lambda } & \dfrac{\partial^2 f_0}{\partial\lambda \,\partial\mu}+f_1 \\ 0 & f_0 & \dfrac{\partial f_0}{\partial \mu} \\ 0&0&f_0 \end{pmatrix}. \end{equation*} \notag $$

Согласно (4.14) имеем $|a|_{1,M,l}=|f_1|_{M,l}$. Чтобы оценить $|f_1|_{M,l}$, рассмотрим на $\mathrm{T}_3$ линейный функционал $\eta$, отображающий матрицу в ее элемент в правом верхнем углу. Тогда

$$ \begin{equation*} f_1=(1\otimes \eta)(\widetilde\pi_1(a)) -\frac{\partial^2 f_0}{\partial\lambda \,\partial\mu}. \end{equation*} \notag $$
Очевидно, что $|(1\otimes \eta)(\widetilde\pi_1(a))|_{M,l}\le \|\widetilde\pi_1(a)\|_{3,M,l}$ и
$$ \begin{equation*} \biggl|\frac{\partial^2 f_0}{\partial\lambda \,\partial\mu}\biggr|_{M,l} =|f_0|_{M,l+2}=\|\widetilde\pi_0(a)\|_{1,M,l+2}. \end{equation*} \notag $$
Поэтому
$$ \begin{equation} |a|_{1,M,l}=|f_1|_{M,l}\le \|\widetilde\pi_1(a)\|_{3,M,l}+\|\widetilde\pi_0(a)\|_{1,M,l+2}. \end{equation} \tag{4.17} $$
Тем самым $|\,{\cdot}\,|_{1,M,l}$ мажорируется указанным семейством преднорм, что завершает индуктивный переход от $q=0$ к $q=1$. (Оценку второго слагаемого в (4.17) можно получить также из общих соображений, воспользовавшись тем, что $\widetilde\pi_1$ непрерывен в топологии $C^\infty_\mathfrak{h}$ в силу теоремы 3.3. Именно так мы будем рассуждать в общем случае.)

Теперь предположим, что $q>1$ и для произвольных $M$ и $l$ и для $q'<q$ преднорма $|\,{\cdot}\,|_{q',M,l}$ мажорируется семейством преднорм $(\|\widetilde\pi_p(\,{\cdot}\,)\|_{p+1,K,n})$. Мы должны показать, что для произвольных $M$ и $l$ преднорма $|\,{\cdot}\,|_{q,M,l}$ также мажорируется этим семейством.

Так как $\pi_q$ есть $q$-я тензорная степень $\pi_1$, то

$$ \begin{equation*} \pi_q(e_j)=\pi_1(e_j)\otimes 1\otimes\dots\otimes 1+\cdots+ 1\otimes\dots\otimes 1 \otimes \pi_1(e_j), \end{equation*} \notag $$
где в сумме $q$ слагаемых. Отсюда получаем, что
$$ \begin{equation} \pi_q(e_3^q)=q! \,\pi_1(e_3)\otimes\dots\otimes\pi_1(e_3). \end{equation} \tag{4.18} $$
Кроме того, так как
$$ \begin{equation} \pi_1(e_1)\pi_1(e_3)=\pi_1(e_2)\pi_1(e_3)=0, \end{equation} \tag{4.19} $$
то $\pi_q(e_1)\pi_q(e_3^q)=\pi_q(e_2)\pi_q(e_3^q)=0$. Отсюда легко видеть, что
$$ \begin{equation*} \widetilde\pi_q(\Phi(f)e_3^q)= f(\lambda,\mu) \otimes \pi_q(e_3^q) \end{equation*} \notag $$
для любого $f\in \mathbb{R}[\lambda,\mu]$, и тем самым (заметим, что размерность $\pi_q$ равна $3^q$)
$$ \begin{equation} \|\widetilde\pi_q(\Phi(f)e_3^q)\|_{3^q,M,l}=q!\,|f|_{M,l}, \end{equation} \tag{4.20} $$
так как $\|\pi_q(e_3^q)\|_{3^q}=q!$.

Рассмотрим на $C^\infty_\mathfrak{h}$ проекцию

$$ \begin{equation*} P_q\biggl(\sum_n \Phi(f_n)e_3^n\biggr):=\sum_{n=0}^{q-1} \Phi(f_n)e_3^n. \end{equation*} \notag $$
Так как $\pi_1(e_3)^2=0$, то $\pi_q(e_3^{q'})=0$ при $q'>q$, а значит,
$$ \begin{equation*} \widetilde\pi_q(\Phi(f_q)e_3^q)=\widetilde\pi_q(a)-\widetilde\pi_q P_q(a) \end{equation*} \notag $$
для каждого $a\in C^\infty_\mathfrak{h}$. Таким образом, из этого равенства и равенства (4.20) получаем, что
$$ \begin{equation*} \begin{aligned} \, |a|_{q,M,l} &=|f_q|_{M,l}=(q!)^{-1}\|\widetilde\pi_q(\Phi(f_q)e_3^q)\|_{3^q,M,l} \\ &\le (q!)^{-1}(\|\widetilde\pi_q(a)\|_{3^q,M,l}+\|\widetilde\pi_q P_q(a)\|_{3^q,M,l}). \end{aligned} \end{equation*} \notag $$

Поскольку $\widetilde\pi_q$ непрерывно, $\|\widetilde\pi_q P_q(\,{\cdot}\,)\|_{3^q,M,l}$ мажорируется семейством преднорм $(|P_q(\,{\cdot}\,)|_{q',M',l'})$. Так как $|P_q(a)|_{q',M',l'}=|a|_{q',M',l'}$, если $q'<q$, и $|P_q(a)|_{q',M',l'}=0$, если $q'\ge q$, для каждого $a\in C^\infty_\mathfrak{h}$, то в силу предположения индукции преднорма $\|\widetilde\pi_q P_q(\,{\cdot}\,)\|_{3^q,M,l}$ мажорируется также и семейством преднорм $(\|\widetilde\pi_p(\,{\cdot}\,)\|_{p+1,K,n})$. Отсюда следует, что $|\,{\cdot}\,|_{q,M,l}$ мажорируется последним семейством, что завершает индуктивный переход от $q-1$ к $q$. (Отметим, что в данном выше доказательстве для случая $q=1$ также можно воспользоваться проекцией $P_1$ вместо функционала $\eta$, и тогда это рассуждение станет частным случаем общего.)

Итак, $\rho$ топологически инъективен, и мы доказали утверждение теоремы 4.3 для алгебры $\mathfrak{h}$.

4.5. Вспомогательные утверждения к доказательству теоремы 4.3

Чтобы реализовать в общем виде идею доказательства, намеченную в примерах 4.7 и 4.8, нам понадобится ряд вспомогательных утверждений. Поскольку нас интересует также и комплексный случай, далее рассматриваем алгебру Ли над полем $\mathbb{K}$, которое может быть либо $\mathbb{R}$, либо $\mathbb{C}$.

Пусть $\mathfrak{g}$ – треугольная алгебра Ли, а $\mathfrak{n}$ – ее нильпотентный радикал. Нам потребуются три условия на $x\in \mathfrak{g}$ и конечномерное представление $\pi$ алгебры $\mathfrak{g}$:

(A1) $\pi(x)\ne 0$;

(A2) для каждого $y\in\mathfrak{g}$ существует $\mu_y\in \mathbb{K}$ такое, что $\pi(y)\pi(x)=\mu_y \pi(x)$;

(A3) для каждого $y\in\mathfrak{n}$ выполнено $\pi(y)\pi(x)= 0$, т. е. $\mu_y=0$.

Если представление $\pi$ приводится к верхнетреугольному виду и неразложимо, то нетрудно найти $x$ с такими свойствами. Однако в дальнейшем нам понадобится набор представлений и векторов, не только удовлетворяющих (A1)–(A3), но и связанных между собой, в частности тем, что векторы образуют базис нильпотентного радикала. А именно, выполнено следующее предложение, которое является обобщением формулы (4.19). Его доказательство потребует дополнительных усилий и связано с модификацией теоремы Адо.

Предложение 4.9. Пусть $\mathfrak{g}$ – треугольная алгебра Ли над $\mathbb{K}$. Тогда найдутся линейный базис $e_{k+1},\dots, e_m$ в $\mathfrak{n}$ и набор конечномерных представлений $\pi_{k+1},\dots,\pi_m$ алгебры $\mathfrak{g}$ такие, что $e_r$ и $\pi_r$ удовлетворяют условиям (A1)–(A3) для каждого $r\in \{k+1,\dots, m\}$ и, кроме того, $\pi_r(e_j)=0$, если $r<j$.

Для доказательства нам понадобится несколько лемм.

Лемма 4.10. Пусть $\mathfrak{g}$ – конечномерная алгебра Ли над $\mathbb{K}$, а $\mathfrak{h}$ – ее разрешимый идеал.

(A) Тогда $\operatorname{rad} (\mathfrak{g}/\mathfrak{h})$ (разрешимый радикал алгебры $\mathfrak{g}/\mathfrak{h}$) совпадает с $\mathfrak{r}/\mathfrak{h}$.

(B) Если разрешимый радикал алгебры $\mathfrak{g}$ треуголен, то $\operatorname{rad} (\mathfrak{g}/\mathfrak{h})$ также треуголен.

Доказательство. (A) Так как $\mathfrak{h}$ разрешим, $\mathfrak{h}\subset \mathfrak{r}$. Тогда $\mathfrak{r}/\mathfrak{h}$ разрешим и, следовательно, содержится в $\operatorname{rad} (\mathfrak{g}/\mathfrak{h})$. Чтобы проверить обратное включение, положим $\mathfrak{m}:=\sigma^{-1}(\operatorname{rad} (\mathfrak{g}/\mathfrak{h}))$, где $\sigma$ обозначает проекцию $\mathfrak{g}\to\mathfrak{g}/\mathfrak{h}$. Пусть $\mathfrak{s}$ – некоторое дополнение Леви. Очевидно, что $\mathfrak{r}\subset \mathfrak{m}$, поэтому $\mathfrak{g}=\mathfrak{r}+\mathfrak{s}$ влечет $\mathfrak{m}=\mathfrak{r}+\mathfrak{m}\cap \mathfrak{s}$. С другой стороны, так как $\mathfrak{s}$ полупроста, то $\mathfrak{m}\cap \mathfrak{s}$ – полупростой идеал в $\mathfrak{s}$, а значит $\sigma(\mathfrak{m}\cap \mathfrak{s})$ – полупростая подалгебра $\mathfrak{g}$, содержащаяся в радикале. Следовательно, $\sigma(\mathfrak{m}\cap \mathfrak{s})=0$. Итак, $\operatorname{rad} (\mathfrak{g}/\mathfrak{h})=\sigma(\mathfrak{m})=\sigma(\mathfrak{r})=\mathfrak{r}/\mathfrak{h}$.

(B) Поскольку $\mathbb{K}$ имеет характеристику $0$, конечномерная $\mathbb{K}$-алгебра Ли треугольна тогда и только тогда, когда она суперразрешима, т. е. содержит максимальный флаг, состоящий из идеалов (см., например, [31; § 1.2, с. 11, теорема 1.2]). Нетрудно показать, что факторалгебра суперразрешимой алгебры Ли суперразрешима. В силу части (A) отсюда следует, что $\operatorname{rad} (\mathfrak{g}/\mathfrak{h})$ треуголен. Лемма доказана.

Обозначим через $\mathfrak{z}(\mathfrak{g})$ центр $\mathfrak{g}$, а через $(\mathfrak{n}_j)$ – нижний центральный ряд для $\mathfrak{n}$.

Лемма 4.11. Пусть $\mathfrak{g}$ – разрешимая конечномерная алгебра Ли над $\mathbb{K}$, и пусть $p$ обозначает порядок нильпотентности $\mathfrak{n}$. Тогда для любого ненулевого $x\in \mathfrak{z}(\mathfrak{g})\cap \mathfrak{n}_{p-1}$ найдется конечномерное представление $\pi$ алгебры $\mathfrak{g}$ такое, что выполнены условия (A1)–(A3), и если, кроме того, $\mathfrak{g}$ нильпотентна, то $\pi(\mathfrak{g})$ состоит из нильпотентных операторов.

Утверждение в случае, когда $\mathfrak{g}$ нильпотентна, будет использовано в доказательстве предложения 4.14.

Доказательство леммы 4.11. Мы построим $\pi$, для которого выполнено (A1), а также условие более сильное, чем (A2) и (A3), а именно: $\pi(y)\pi(x)=0$ для всех $y\in\mathfrak{g}$.

Мы используем конструкцию представления из доказательства теоремы Адо, изложенного в [34; § 7.4, с. 192, 193], в упрощенной версии для разрешимых алгебр Ли. Рассмотрим абелеву подалгебру $\mathfrak{d}$ в алгебре Ли всех дифференцирований $\mathfrak{g}$, построенную следующим образом. Ограничим присоединенное представление $\mathfrak{g}$ на какую-нибудь подалгебру Картана в $\mathfrak{r}$. Тогда, по определению, алгебра Ли $\mathfrak{d}$ состоит из полупростых слагаемых жордановых разложений внутренних дифференцирований, заданных элементами подалгебры Картана. Очевидно, что ограничение внутреннего дифференцирования на $\mathfrak{z}(\mathfrak{g})$ тривиально. Так как жорданово разложение нуля – сумма двух нулей, действие $\mathfrak{d}$ на $\mathfrak{z}(\mathfrak{g})$ также тривиально.

Положим $\widehat{\mathfrak{g}}:=\mathfrak{g}\rtimes \mathfrak{d}$. Тогда имеет место разложение $\widehat{\mathfrak{g}}=\widehat{\mathfrak{n}}\rtimes \mathfrak{l}$, где $\widehat{\mathfrak{n}}$ – максимальный нильпотентный идеал $\widehat{\mathfrak{g}}$, а $\mathfrak{l}$ – ее редуктивная подалгебра [34; § 7.4, с. 193]. (В рассматриваемом случае, когда $\mathfrak{g}$ разрешима, $\mathfrak{l}=\mathfrak{d}$, но мы сохраняем обозначения из [34].)

Конструкция представления $\pi$ алгебры $\widehat{\mathfrak{g}}$ такова (см. [34; предложение 7.4.4]). Пусть $U_j$ – двусторонний идеал в $U(\widehat{\mathfrak{n}})$, порожденный элементами вида $n_1\cdots n_j$, где $n_1,\dots, n_j\in \widehat{\mathfrak{n}}$. Возьмем $U(\widehat{\mathfrak{n}})/U_p$, где $p$ – порядок нильпотентности $\widehat{\mathfrak{n}}$, в качестве пространства представления. Само представление задается формулой

$$ \begin{equation*} \pi(n,d)(m+U_p):=nm+\gamma(d)(m)+U_p,\qquad n\in \widehat{\mathfrak{n}},\quad d\in \mathfrak{l},\quad m\in U(\widehat{\mathfrak{n}}), \end{equation*} \notag $$
где $\gamma(d)$ – дифференцирование $U(\widehat{\mathfrak{n}})$, порожденное действием $d\in\mathfrak{l}$ на $\widehat{\mathfrak{n}}$.

Так как $\mathfrak{n}=[\mathfrak{g},\mathfrak{g}]$, то он инвариантен относительно дифференцирований. Тем самым, $\mathfrak{n}$ – (очевидно нильпотентный) идеал в $\widehat{\mathfrak{g}}$. Так как $\widehat{\mathfrak{n}}$ – максимальный нильпотентный идеал, $\mathfrak{n}\subset\widehat{\mathfrak{n}}$. В частности, $x\in \widehat{\mathfrak{n}}$. Теперь проверим, что $x$ и ограничение $\pi$ на $\mathfrak{g}$ удовлетворяют требуемым условиям. Очевидно, что $\pi(x,0)(m+U_p)=xm+U_p$. В частности, так как $x\ne 0$, то $\pi(x,0)(1+U_p)\ne 0$, а значит, $\pi(x,0)\ne0$, т. е. выполнено (A1).

Теперь зафиксируем $y=(n,d)$ из $\widehat{\mathfrak{g}}$. Тогда

$$ \begin{equation} \pi(n,d)\pi(x,0)(m+U_p)=nxm+\gamma(d)(xm)+U_p,\qquad m\in U(\widehat{\mathfrak{n}}). \end{equation} \tag{4.21} $$

Поскольку по условию леммы $x\,{\in}\,\mathfrak{n}_{p-1}$, имеем $x\,{\in}\, U_{p-1}$. Так как $U_1U_{p-1}\,{\subset}\,U_p$, получаем, что $mnx\in U_p$ для всех $m$.

Далее, так как действие $\mathfrak{d}$ на $\mathfrak{z}(\mathfrak{g})$ тривиально, $\mathfrak{z}(\mathfrak{g})$ содержится в центре $\widehat{\mathfrak{g}}$. В частности, действие $\mathfrak{l}$ на $\mathfrak{z}(\mathfrak{g})$ также тривиально. Поскольку $x\in \mathfrak{z}(\mathfrak{g})$, имеем $\gamma(d)(x)=0$. Так как $\gamma(d)(m)\in U_1$, а $\gamma(d)$ – дифференцирование, то из $U_{p-1}U_1\,{\subset}\, U_p$ следует, что

$$ \begin{equation*} \gamma(d)(xm)=x\gamma(d)(m)+\gamma(d)(x)m \in U_p \end{equation*} \notag $$
для всех $m$. Таким образом, из (4.21) следует, что $\pi(n,d)\pi(x,0)=0$. Так как $\mathfrak{g}\subset \widehat{\mathfrak{g}}$, то $\pi(y)\pi(x)=0$ для всех $y\in\mathfrak{g}$.

Теперь предположим, что $\mathfrak{g}$ нильпотентна. Тогда $\mathfrak{g}\subset \widehat{\mathfrak{n}}$, и по построению представления $\pi$ множество $\pi(\mathfrak{g})$ состоит из нильпотентных операторов. Лемма доказана.

Лемма 4.12. Пусть $\mathfrak{g}$ – разрешимая конечномерная алгебра Ли над $\mathbb{K}$, а $\mathfrak{h}$ – идеал в $\mathfrak{g}$. Если $x\in\mathfrak{g}/\mathfrak{h}$ и конечномерное представление $\pi$ алгебры $\mathfrak{g}/\mathfrak{h}$ удовлетворяют (A1)(A3), то любой прообраз $x$ при проекции $\sigma\colon\mathfrak{g}\to\mathfrak{g}/\mathfrak{h}$ и представление $\pi\sigma$ также удовлетворяют (A1)–(A3).

Доказательство. Достаточно заметить, что $\mathfrak{g}/\mathfrak{h}$ разрешима, а $[\mathfrak{g},\mathfrak{g}]$ отображается в $[\mathfrak{g}/\mathfrak{h},\mathfrak{g}/\mathfrak{h}]$. Лемма доказана.

Лемма 4.13. Пусть $\mathfrak{g}$ – произвольная конечномерная $\mathbb{K}$-алгебра Ли, $\mathfrak{h}$ – ее разрешимый идеал, $\mathfrak{k}$ – нильпотентный радикал $\mathfrak{g}/\mathfrak{h}$, и пусть $(\mathfrak{k}_j)$ – нижний центральный ряд для $\mathfrak{k}$. Тогда

(A) образ $\mathfrak{n}_j$ при проекции $\mathfrak{g}\to \mathfrak{g}/\mathfrak{h}$ содержится в $\mathfrak{k}_j$;

(B) гомоморфизм $\mathfrak{n}_j\to \mathfrak{k}_j$ индуцирует изоморфизм $\mathfrak{n}_j/(\mathfrak{h}\cap\mathfrak{n}_j)\cong \mathfrak{k}_j$.

Доказательство. (A) Так как $\mathfrak{h}$ разрешим, то $\mathfrak{h}\subset\mathfrak{r}$. Поскольку $\mathfrak{n}_1=\mathfrak{n}=[\mathfrak{g}, \mathfrak{r}]$ и $\mathfrak{k}_1=\mathfrak{k}=[\mathfrak{g}/\mathfrak{h}, \operatorname{rad} (\mathfrak{g}/\mathfrak{h})]$, а $\operatorname{rad} (\mathfrak{g}/\mathfrak{h})$ изоморфен $\mathfrak{r}/\mathfrak{h}$ в силу части (A) леммы 4.10, образ $\mathfrak{n}_1$ содержится в $\mathfrak{k}_1$. Доказательство легко завершить, рассуждая по индукции.

(B) Согласно второй теореме об изоморфизме $\mathfrak{n}_j/(\mathfrak{h}\cap\mathfrak{n}_j) \cong (\mathfrak{h}+\mathfrak{n}_j)/\mathfrak{h}$. В силу части (A) $(\mathfrak{h}+\mathfrak{n}_j)/\mathfrak{h}\subset \mathfrak{k}_j$. С другой стороны, легко видеть, что $\mathfrak{k}_j\subset (\mathfrak{h}+\mathfrak{n}_j)/\mathfrak{h}$. Лемма доказана.

Доказательство предложения 4.9. Мы используем индукцию по линейной размерности $\mathfrak{g}$. Если $\dim\mathfrak{g}=1$, то утверждение выполнено, так как $\mathfrak{n}=0$, а для пустого базиса выполнено любое утверждение.

Предположим теперь, что $\dim\mathfrak{g}=m$ и утверждение доказано для всех треугольных алгебр Ли, имеющих линейную размерность меньше $m$. Пусть $\mathfrak{g}$ – треугольная алгебра Ли линейной размерности, равной $n$. Положим для краткости $\mathfrak{z}:=\mathfrak{z}(\mathfrak{g})$ и рассмотрим три взаимно исключающих случая:

(1) $\mathfrak{z}\cap \mathfrak{n}\ne 0$;

(2) $\mathfrak{z}=0$;

(3) $\mathfrak{z}\cap \mathfrak{n}=0$ и $\mathfrak{z} \ne 0$.

Сначала для случаев (1) и (2) покажем, что найдутся $x\in\mathfrak{n}$ и конечномерное представление $\pi$ алгебры $\mathfrak{g}$ такие, что (A1)–(A3) выполнены, a $\mathbb{K} x$ – идеал в $\mathfrak{g}$.

(1) Предположим, что $\mathfrak{z}\cap \mathfrak{n}\ne 0$. Тогда существует $p\ge 2$ такое, что $\mathfrak{z}\cap \mathfrak{n}_{p-1}\ne 0$, но $\mathfrak{z}\cap\mathfrak{n}_{p}= 0$. Так как $\mathfrak{n}_{p}$ – идеал в $\mathfrak{g}$, можно рассмотреть факторалгебру $\mathfrak{g}/\mathfrak{n}_{p}$. Обозначим через $x$ произвольный ненулевой элемент $\mathfrak{z}\cap \mathfrak{n}_{p-1}$, а через $x'$ – его образ при проекции $\mathfrak{g}\to \mathfrak{g}/\mathfrak{n}_{p}$. Очевидно, $x'\ne 0$.

Положим $\mathfrak{k}:=[\mathfrak{g}/\mathfrak{n}_{p},\mathfrak{g}/\mathfrak{n}_{p}]$ и рассмотрим нижний центральный ряд $(\mathfrak{k}_j)$ алгебры $\mathfrak{k}$. В силу части (A) леммы 4.13 $x'\in\mathfrak{k}_{p-1}$ и, очевидно, $x'\in\mathfrak{z}(\mathfrak{g}/\mathfrak{n}_{p})$. Итак, $\mathfrak{z}(\mathfrak{g}/\mathfrak{n}_{p})\cap\mathfrak{k}_{p-1}\ne 0$. Кроме того, в силу части (B) леммы 4.13 имеем $\mathfrak{k}_{p}=0$. Поэтому можно применить лемму 4.11, согласно которой найдется конечномерное представление алгебры $\mathfrak{g}/\mathfrak{n}_{p}$, которое вместе с $x'$ удовлетворяет (A1)–(A3). В силу леммы 4.12 это представление поднимается до представления $\pi$ алгебры $\mathfrak{g}$, которое вместе с $x$ удовлетворяет тем же условиям. Кроме того, $\mathbb{K} x$ – идеал, так как $x\in\mathfrak{z}$.

(2) Предположим, что $\mathfrak{z}=0$. Достаточно рассмотреть случай, когда $\mathfrak{n}\ne 0$. Пусть $p$ – порядок нильпотентности $\mathfrak{n}$. Тогда, $\mathfrak{n}_{p-1}$ – идеал в $\mathfrak{g}$, отличный от $0$, т. е. $\mathfrak{n}_{p-1}$ является инвариантным подпространством присоединенного представления $\operatorname{ad} $ алгебры $\mathfrak{g}$. Обозначим соответствующее подпредставление алгебры $\mathfrak{g}$ через $\operatorname{ad} |_{\mathfrak{n}_{p-1}}$.

Согласно предположению $\mathfrak{g}$ – треугольная алгебра Ли. В частности, для каждого $y\in \mathfrak{g}$ все собственные значения линейного оператора $\operatorname{ad} y$ принадлежат $\mathbb{K}$ и, очевидно, это выполнено и для его ограничения $\operatorname{ad} |_{\mathfrak{n}_{p-1}} y$. В силу обобщения теоремы Ли [31; § 1.2, с. 11, теорема 1.2] существует общий собственный вектор для всех $\operatorname{ad} |_{\mathfrak{n}_{p-1}}y$, где $y\in \mathfrak{g}$. Это означает, что существует ненулевой $x\in \mathfrak{n}_{p-1}$ такой, что для каждого $y\in \mathfrak{g}$ найдется $\mu_y\in\mathbb{K}$, удовлетворяющее $[y,x]=\mu_y x$. Отсюда следует, что $\mathbb{K} x$ – идеал.

Убедимся, что $x$ и $\operatorname{ad} $ удовлетворяют условиям (A1)–(A3). Так как $\mathfrak{z}=0$, то $\operatorname{ad} $ инъективно. В частности, $\operatorname{ad} x\ne 0$, т. е. выполнено (A1). Зафиксируем $y\in\mathfrak{g}$. Поскольку для любого $z\in\mathfrak{g}$ выполнено $\operatorname{ad} x(z)=-\mu_z x$, имеем

$$ \begin{equation*} \operatorname{ad} y(\operatorname{ad} x(z))=[y,[x,z]]=-\mu_z[y,x]=-\mu_y\mu_z x=\mu_y \operatorname{ad} x(z). \end{equation*} \notag $$
Так как $z$ произволен, получаем $(\operatorname{ad} y)(\operatorname{ad} x)=\mu_y \operatorname{ad} x$, т. е. выполнено (A2). Более того, если $y\in\mathfrak{n}$, то $[y,x]=0$, так как $x\in \mathfrak{n}_{p-1}$. Тем самым $(\operatorname{ad} y)(\operatorname{ad} x)\,{=}\,0$, т. е. выполнено (A3). Итак, $x$ и $\operatorname{ad} $ удовлетворяют (A1)–(A3).

(1)+(2) Далее рассуждения для случаев (1) и (2) одинаковы. Обозначим идеал $\mathbb{K} x$ через $\mathfrak{h}$. В силу леммы 4.10 $\mathfrak{g}/\mathfrak{h}$ также треугольна. Из части (B) леммы 4.13 получаем, что $[\mathfrak{g}/\mathfrak{h},\mathfrak{g}/\mathfrak{h}]\cong \mathfrak{n}/\mathfrak{h}$. Очевидно, что $\dim\mathfrak{g}/\mathfrak{h}=m-1$ и $\dim[\mathfrak{g}/\mathfrak{h},\mathfrak{g}/\mathfrak{h}]=m-k-1$. Согласно предположению индукции найдутся базис $e'_{k+1},\dots, e'_{m-1}$ в $[\mathfrak{g}/\mathfrak{h},\mathfrak{g}/\mathfrak{h}]$ и соответствующие представления $\pi'_{k+1},\dots, \pi'_{m-1}$ алгебры $\mathfrak{g}/\mathfrak{h}$, удовлетворяющие (A1)–(A3), и такие, что $\pi'_r(e'_j)=0$ для всех $r<j\le m-1$. Возьмем соответствующие прообразы $e_{k+1},\dots, e_{m-1}$ этих векторов в $\mathfrak{g}$. Так как $x\in \mathfrak{n}$, они также принадлежат $\mathfrak{n}$. Тем самым $x$ дополняет $e_{k+1},\dots, e_{m-1}$ до базиса в $\mathfrak{n}$. Положим $\pi_m:=\pi$ в случае (1) и $\pi_m:=\operatorname{ad} $ в случае (2), а также $e_m:=x$ в обоих случаях. Тогда в силу леммы 4.12 элемент $e_j$ и представление $\pi_j:=\pi'_j\sigma$ (где $\sigma\colon\mathfrak{g}\to\mathfrak{g}/\mathfrak{h}$) удовлетворяют (A1)–(A3) для $j=k+1,\dots,m-1$. Кроме того, элемент $e_m$ и представление $\pi_m$ удовлетворяют (A1)–(A3) согласно доказанному выше. Предположение индукции влечет $\pi_r(e_j)=0$, если $r<j\le m-1$, и по построению $\pi_r(e_m)=0$ для всех $r<m$. Итак, предложение доказано для случаев (1) и (2).

(3) Предположим, что $\mathfrak{z}\cap \mathfrak{n}=0$ и $\mathfrak{z} \ne 0$. Тогда $\dim\mathfrak{g}/\mathfrak{z}<m$. В силу леммы 4.10 алгебра $\mathfrak{g}/\mathfrak{z}$ треугольна. Согласно предположению индукции найдутся базис в нильпотентном радикале $\mathfrak{g}/\mathfrak{z}$ и представления $\mathfrak{g}/\mathfrak{z}$, удовлетворяющие (A1)–(A3) и дополнительному условию. С одной стороны, нильпотентный радикал $\mathfrak{g}/\mathfrak{z}$ равен $[\mathfrak{g}/\mathfrak{z},\mathfrak{g}/\mathfrak{z}]$, с другой стороны, полагая $\mathfrak{h}=\mathfrak{z}$ и $j=1$ в части (B) леммы 4.13, мы получаем изоморфизм $[\mathfrak{g}/\mathfrak{z},\mathfrak{g}/\mathfrak{z}]\cong \mathfrak{n}$ (в частности, построенные представления можно перенумеровать числами от $k+1$ до $m$). Из леммы 4.12 следует, что переходя к прообразам, мы имеем базис в $\mathfrak{n}$ и набор представлений $\pi_{k+1},\dots,\pi_m$ алгебры $\mathfrak{g}$, удовлетворяющих (A1)–(A3). Легко видеть, что для $r<j$ также выполнено дополнительное условие $\pi_r(e_j)=0$. Предложение 4.9 доказано.

В частном случае, для нильпотентных алгебр Ли, можно утверждать большее. А именно, выполнен следующий результат. Он не нужен для доказательства теоремы 4.3, но понадобится в п. 5.1.

Предложение 4.14. Пусть $\mathfrak{g}$ – нильпотентная алгебра Ли над $\mathbb{K}$. Тогда найдутся линейный базис $e_{k+1},\dots, e_m$ в $\mathfrak{n}$ и набор конечномерных представлений $\pi_{k+1},\dots,\pi_m$ алгебры $\mathfrak{g}$ такие, что $e_r$ и $\pi_r$ удовлетворяют условиям (A1)(A3) для каждого $r\in \{k+1,\dots, m\}$, а также $\pi_r(e_j)=0$, если $r<j$. Кроме того, $\pi_r(\mathfrak{g})$ состоит из нильпотентных операторов для каждого $r$.

Доказательство. Мы используем то же рассуждение, что и для предложения 4.9 со следующими уточнениями. Напомним, что в доказательстве предложения 4.9 рассмотрены три случая (1)–(3). Рассуждение для первого ссылается на лемму 4.11, в доказательстве которой уже установлено, что все $\mu_y=0$ и все операторы представления нильпотенты. В случае (2) мы используем присоединенное представление $\operatorname{ad} $; так как $\mathfrak{g}$ нильпотентна, то все операторы $\operatorname{ad} y$ нильпотентны, что влечет равенство $0$ всех собственных значений, в частности, все $\mu_y=0$. В случае (3), а также в тех местах рассуждений в случаях (1) и (2), где используется поднятие представлений с факторалгебры, значения коэффициентов не меняются, а значит, они также равны $0$; также сохраняется и нильпотентность представления. Предложение доказано.

Пусть $\mathfrak{g}$ – треугольная алгебра Ли над $\mathbb{K}$. Зафиксируем базис $e_{k+1},\dots,e_m$ в $\mathfrak{n}$ и представления $\pi_{k+1},\dots,\pi_m$ алгебры $\mathfrak{g}$ из предложения 4.9. Дополним $e_{k+1},\dots,e_m$ до базиса в $\mathfrak{g}$ элементами $e_1,\dots, e_k$. Для мультииндекса $\beta=(\beta_{k+1},\dots,\beta_m)$ из $\mathbb{Z}_+^{m-k}$ обозначим через $\pi_\beta$ представление алгебры Ли $\mathfrak{g}$ (и соответствующее представление $U(\mathfrak{g})$), которое является тензорным произведением $\pi_{k+1},\dots,\pi_m$, взятых с кратностями $\beta_{k+1},\dots,\beta_m$ соответственно. В частности, если $l$ и $t$ – наименьшее и наибольшее среди $r$ таких, что $\beta_r>0$, то

$$ \begin{equation} \pi_\beta(e_j):=\pi_{l}(e_j)\otimes 1\otimes\dots\otimes 1+\dots+ 1\otimes\dots\otimes 1 \otimes \pi_t(e_j), \end{equation} \tag{4.22} $$
где для каждого $r$ сумма содержит $\beta_r$ слагаемых, содержащих тензорный множитель $\pi_r(e_j)$. Более того, $\pi_r(e_j)=0$, если $r<j$. Поэтому при $j>l$ начальные слагаемые обращаются в $0$ и мы имеем
$$ \begin{equation} \pi_\beta(e_j)=1\otimes\dots \otimes1\otimes\pi_{i}(e_j)\otimes 1\otimes\dots\otimes 1+\dots+ 1\otimes\dots\otimes 1 \otimes \pi_t(e_j), \end{equation} \tag{4.23} $$
где $i$ – наименьший номер, не меньший $j$, такой, что $\beta_i>0$. Если $\beta=0$, то в качестве $\pi_\beta$ берем тривиальное представление, т. е. $\pi_\beta(e_j)=0$.

В следующих двух леммах мы используем условие (A3).

Лемма 4.15. Пусть $\beta=(\beta_{k+1},\dots,\beta_m)\in\mathbb{Z}_+^{m-k}\setminus\{0\}$, пусть $l$ и $t$ – наименьшее и наибольшее среди $r$ таких, что $\beta_r>0$, и пусть номер $j\in \{l,\dots,t\}$ и таков, что $\beta_j>0$. Тогда

$$ \begin{equation*} \pi_\beta(e_j^{\beta_j}\cdots e_t^{\beta_t})=\beta!\,( 1\otimes\pi_j(e_j)\otimes \dots\otimes \pi_t(e_t)), \end{equation*} \notag $$
где тензорные множители повторяются с кратностями $\beta_j,\dots,\beta_t$, а $1$ слева обозначает, для краткости, тензорное произведение единиц.

Доказательство. Будем рассуждать по индукции в обратном порядке от $t$ к $j$. Так как $\pi_i$ и $e_i$ выбраны согласно предложению 4.9, то $\pi_r(e_t)=0$ при $r<t$. Так как $\beta_t>0$, то $\pi_\beta(e_t)$ равно сумме
$$ \begin{equation*} 1\otimes\dots\otimes \pi_t(e_t)\otimes\dots \otimes 1 +\cdots+1\otimes\dots\otimes 1 \otimes \pi_t(e_t) \end{equation*} \notag $$
из $\beta_t$ слагаемых в силу (4.23). Так как $\pi_t(e_t)^2=0$ в силу условия (A3), то, применяя мультиномиальную формулу, получаем, что
$$ \begin{equation*} \pi_\beta(e_t^{\beta_t})=\beta_t!\,( 1\otimes\pi_t(e_t)\otimes \dots\otimes \pi_t(e_t)), \end{equation*} \notag $$
т. е. утверждение леммы выполнено, если $j=t$.

Теперь предположим, что $s\in \{l,\dots,t-1\}$ и таков, что $\beta_s>0$, а утверждение выполнено для всех номеров больших $s$. В частности,

$$ \begin{equation} \pi_\beta(e_{s'}^{\beta_{s'}}\cdots e_t^{\beta_t})=\beta_{s'}!\cdots \beta_t!\,\pi_\beta(e_{s'})^{\beta_{s'}}(1\otimes\dots \otimes\pi_{s'}(e_{s'})\otimes \dots\otimes \pi_t(e_t)), \end{equation} \tag{4.24} $$
где $s'$ – наименьший номер, больший $s$, для которого $\beta_{s'}>0$.

В силу (4.23) имеем $\pi_\beta(e_s)=1\otimes x\otimes 1+1\otimes1\otimes y$, где

$$ \begin{equation*} x=\pi_s(e_s)\otimes 1 \otimes \dots \otimes 1 +\dots+1\otimes\dots\otimes 1 \otimes \pi_s(e_s), \end{equation*} \notag $$
а $y$ содержит только слагаемые с $\pi_r(e_s)$ для $r\ge s'$. Тогда в силу (A3)
$$ \begin{equation*} y(\pi_{s'}(e_{s'})\otimes \dots\otimes \pi_t(e_t))=0. \end{equation*} \notag $$
Следовательно, выражение в правой части (4.24) равно
$$ \begin{equation*} \beta_{s'}!\cdots \beta_t!\,(1\otimes x^{\beta_s}\otimes 1)(1\otimes\dots \otimes\pi_{s'}(e_{s'})\otimes \dots\otimes \pi_t(e_t)). \end{equation*} \notag $$
Рассуждая, как в случае $s=t$, получаем, что
$$ \begin{equation*} x^{\beta_s}=\beta_s!\, (1\otimes\pi_s(e_s)\otimes \dots\otimes \pi_s(e_s)). \end{equation*} \notag $$
Перемножая, получаем, что утверждение леммы выполнено для $s$, что завершает индукцию. Лемма доказана.

Упорядочим $\mathbb{Z}_+^{m-k}$ следующим образом. Положим

$$ \begin{equation} \alpha\succeq \beta,\text{ если } \alpha=\beta\text{ или }\exists\,j \text{ такое, что } \alpha_j>\beta_j \text{ и } \alpha_i=\beta_i \ \forall\, i>j. \end{equation} \tag{4.25} $$
Если читать слова длины $m-k$ над алфавитом $\mathbb{Z}_+$ справа налево, то этот порядок совпадает с лексикографическим. Иногда его называют колексикографическим.

Лемма 4.16 (ср. (4.18)). Пусть $\beta=(\beta_{k+1},\dots,\beta_m)\in\mathbb{Z}_+^{m-k}\setminus\{0\}$. Тогда

(A) $\pi_\beta(e^\beta)\ne 0$;

(B) если $\alpha\succ \beta$, то $\pi_\beta(e^\alpha)=0$.

Доказательство. Утверждение (A) следует из леммы 4.15.

(B) Пусть $\alpha\succ \beta$. Тогда найдется $j$ такое, что $\alpha_j>\beta_j$, а $\alpha_i=\beta_i$ для всех $i>j$. Достаточно показать, что $\pi_\beta(e_j^{\alpha_j}\cdots e_m^{\alpha_m})=0$.

Пусть $\beta_j>0$. Тогда $\pi_\beta(e_j^{\alpha_j}\cdots e_m^{\alpha_m})=\pi_\beta(e_j)^{\alpha_j-\beta_j}\pi_\beta(e_j^{\beta_j}\cdots e_m^{\beta_m})$. В силу леммы 4.15

$$ \begin{equation*} \pi_\beta(e_j^{\beta_j}\cdots e_m^{\beta_m})=\beta!\,( 1\otimes u\otimes \cdots\otimes \pi_t(e_t)), \end{equation*} \notag $$
где $u=\pi_{j}(e_{j})\otimes \cdots\otimes \pi_j(e_j)$.

Рассуждая так же, как в доказательстве леммы 4.15, получаем

$$ \begin{equation*} \pi_\beta(e_j)^{\alpha_j-\beta_j}\pi_\beta(e_j^{\beta_j}\cdots e_m^{\beta_m})=\beta!\,(1\otimes x^{\alpha_j-\beta_j}\otimes 1)(1\otimes u\otimes \cdots\otimes \pi_t(e_t)), \end{equation*} \notag $$
где
$$ \begin{equation*} x=\pi_j(e_j)\otimes1\otimes \dots \otimes 1 +\cdots+1\otimes\dots\otimes 1 \otimes \pi_j(e_j). \end{equation*} \notag $$
Так $\pi_j(e_j)^2=0$, то $xu=0$. Тем самым $\pi_\beta(e_j^{\alpha_j}\cdots e_m^{\alpha_m})=0$.

Если $\beta_j=0$, то рассуждение аналогично с тем отличием, что в $u$ и $x$ нужно заменить $\pi_j$ на $\pi_{j'}$, где $j'>j$ и $\beta_{j'}>0$. (Если такого $j'$ нет, то $\pi_\beta(e_{j+1}^{\beta_j}\cdots e_m^{\beta_m})=\pi_\beta(1)=0$.) Так как $\pi_{j'}(e_j)\pi_{j'}(e_{j'})=0$ в силу условия (A3), то $xu=0$, и тем самым $\pi_\beta(e_j^{\alpha_j}\cdots e_m^{\alpha_m})=0$. Лемма доказана.

Для каждого $\beta\in\mathbb{Z}_+^{m-k}$ рассмотрим гомоморфизм

$$ \begin{equation*} \widetilde\pi_\beta\colon U(\mathfrak{g})\to\mathbb{K}[\lambda_1,\dots,\lambda_k]\otimes \operatorname{End} L_\beta, \end{equation*} \notag $$
заданный формулой (4.5) (здесь $L_\beta$ – пространство представления $\pi_\beta$). Для $f=\sum_\alpha c_\alpha \lambda_1^{\alpha_1}\cdots\lambda_k^{\alpha_k} \in \mathbb{K}[\lambda_1,\dots,\lambda_k]$ и $\mu=(\mu_1,\dots,\mu_k)\in\mathbb{K}^k$ определим сдвинутый многочлен
$$ \begin{equation*} S_\mu f:=\sum_\alpha c_\alpha(\lambda_1+\mu_1)^{\alpha_1}\cdots (\lambda_k+\mu_k)^{\alpha_k}. \end{equation*} \notag $$

В следующей лемме мы используем условие (A2).

Лемма 4.17 (ср. пример 4.7). Пусть $\beta\in \mathbb{Z}_+^{m-k}$, $\pi_\beta$ – конечномерное представление $U(\mathfrak{g})$, определенное в (4.22), $\widetilde\pi_\beta$ – соответствующий гомоморфизм, заданный (4.5), а $\Phi\colon \mathbb{K}[\lambda_1,\dots,\lambda_k]\to U(\mathfrak{g})$ – упорядоченное функциональное исчисление, соответствующее элементам базиса $e_1,\dots,e_k$. Тогда найдется $\mu\in\mathbb{K}^k$ такой, что для каждого $f\in \mathbb{K}[\lambda_1,\dots,\lambda_k]$ выполнено равенство

$$ \begin{equation*} \widetilde\pi_\beta(\Phi(f)e^\beta)=S_\mu f\otimes \pi_\beta(e^\beta). \end{equation*} \notag $$

Доказательство. Если $\beta=0$, то утверждение очевидно выполнено с $\mu\,{=}\,0$.

Пусть $\beta\ne0$. Предположим, что $f$ – одночлен, т. е. $f(\lambda_1,\dots,\lambda_k)=\lambda_1^{\gamma_1}\cdots \lambda_k^{\gamma_k}$ для некоторых $\gamma_1,\dots,\gamma_k\in\mathbb{Z}_+$. Из (4.5) следует, что

$$ \begin{equation*} \begin{aligned} \, \widetilde\pi_\beta(\Phi(f)e_{\beta}) &=\widetilde\pi_\beta(e_1^{\gamma_1}\cdots e_k^{\gamma_k}e_{k+1}^{\beta_{k+1}}\cdots e_m^{\beta_m}) \\ &=\prod_{j=1}^k(\lambda_j\otimes 1+1\otimes \pi_\beta(e_j))^{\gamma_j}\prod_{j=k+1}^m(1\otimes \pi_\beta(e_j)^{\beta_j}). \end{aligned} \end{equation*} \notag $$

Так как выполнено условие (A2), то для $j=1,\dots,k$ и $i=k+1,\dots,m$ найдется $\mu_{ji} \in \mathbb{K}$ такое, что $\pi_i(e_j)\pi_i(e_i)=\mu_{ji} \pi_i(e_i)$. Пусть $l$ и $t$ – наименьшее и наибольшее среди $r$ таких, что $\beta_r>0$. Так как в силу леммы 4.15

$$ \begin{equation*} \pi_\beta(e^\beta)=\beta!\,(1\otimes \pi_l(e_l)\otimes \cdots\otimes \pi_t(e_t)), \end{equation*} \notag $$
где множители повторяются с кратностями $\beta_l,\dots,\beta_t$, а $\pi_\beta(e_j)$ задается формулой (4.22), то для каждого $j$ имеем
$$ \begin{equation*} \pi_\beta(e_j)\pi_\beta(e^\beta)=\mu_j\pi_\beta(e^\beta), \end{equation*} \notag $$
где $\mu_j:=\sum_{\beta_j>0}\mu_{ji}$. Следовательно,
$$ \begin{equation*} \widetilde\pi_\beta(\Phi(f)e_{\beta})=\prod_{j=1}^k(\lambda_j +\mu_j)^{\gamma_j} \otimes \pi_\beta(e^\beta)=S_\mu f \otimes \pi_\beta(e^\beta), \end{equation*} \notag $$
где $\mu=(\mu_1,\dots,\mu_k)$. Общий случай следует из линейности наших отображений. Лемма доказана.

4.6. Конец доказательства теоремы 4.3

Зафиксируем линейный базис $e_{k+1},\dots, e_m$ в $\mathfrak{n}$ и набор конечномерных представлений $\pi_{k+1},\dots,\pi_m$, доставляемые предложением 4.9, дополним базис произвольным образом до базиса в $\mathfrak{g}$ и рассмотрим семейство $(\pi_\beta)$ конечномерных представлений $U(\mathfrak{g})$, состоящее из тензорных произведений и определенное в (4.22).

Мы продолжаем рассуждения, начатые в п. 4.3. Осталось доказать, что гомоморфизм $\rho$, определенный в (4.6), топологически инъективен.

Элементы базиса $(e_j)$ с $j\le k$ и $j>k$ играют разные роли в наших рассуждениях: запишем каждый $a\in U(\mathfrak{g})$ как разложение по элементам PBW-базиса, а именно:

$$ \begin{equation*} a=\sum_{\alpha\in\mathbb{Z}_+^{m-k}} \Phi(f_\alpha)e^\alpha, \end{equation*} \notag $$
где $f_\alpha\in \mathbb{R}[\lambda_1,\dots,\lambda_k]$, а $\Phi\colon \mathbb{R}[\lambda_1,\dots,\lambda_k]\to U(\mathfrak{g})$ – упорядоченное исчисление, которое задано как в (1.1). Очевидно, такое разложение единственно.

Напомним, что топология на $U(\mathfrak{g})$, унаследованная из $C^\infty_\mathfrak{g}$, задается семейством преднорм

$$ \begin{equation} |a|_{\beta,M,l}:= |f_\beta|_{M,l},\qquad l\in\mathbb{Z}_+,\quad \beta \in \mathbb{Z}_+^{m-k},\quad M\subset \mathbb{R}^m\text{ и компактно}, \end{equation} \tag{4.26} $$
где, как и выше, $|\,{\cdot}\,|_{M,l}:=\|\,{\cdot}\,\|_{1,M,l}$. Определим преднормы $\|\,{\cdot}\,\|_{\beta,M,l}$ так же как в (2.2), используя фиксированную норму $\|\,{\cdot}\,\|_\beta$ на $\mathrm{T}_{d_\beta}$ вместо $\|\,{\cdot}\,\|_p$. Чтобы убедиться в топологической инъективности $\rho$, достаточно показать, что для данных $\beta$, $M$ и $l$ преднорма $|\,{\cdot}\,|_{\beta,M,l}$ мажорируется семейством преднорм $(\|\widetilde\pi_\alpha(\,{\cdot}\,)\|_{\alpha,K,n})$, где $n\in\mathbb{Z}_+$, $\alpha \in \mathbb{Z}_+^{m-k}$, $K\subset \mathbb{R}^m$ и компактно.

Рассмотрим на $\mathbb{Z}_+^{m-k}$ порядок, заданный (4.25). Тогда $\mathbb{Z}_+^{m-k}$ является вполне упорядоченным, в частности, оно является фундированным (любое непустое подмножество содержит минимальный элемент), поэтому мы можем применить принцип индукции.

Пусть $\beta=0$. Тогда $\pi_\beta$ – тривиальное представление. В этом случае

$$ \begin{equation*} |a|_{0,M,l}=|f_0|_{M,l}=\|\widetilde\pi_0(a)\|_{0,M,l}, \end{equation*} \notag $$
и утверждение выполнено.

Пусть теперь $\beta\in\mathbb{Z}_+^{m-k}\setminus\{0\}$. Предположим, что для каждого $\gamma\prec\beta$ и произвольных $M$ и $l$ преднорма $|\,{\cdot}\,|_{\gamma,M,l}$ мажорируется семейством $(\|\widetilde\pi_\alpha(\,{\cdot}\,)\|_{\alpha,K,n})$. Далее, зафиксируем $M$ и $l$. В силу леммы 4.17 найдется вектор $\mu$ из $\mathbb{R}^k$ такой, что

$$ \begin{equation} \widetilde\pi_\beta(\Phi(f)e^\beta)=S_\mu f\otimes \pi_\beta(e^\beta) \end{equation} \tag{4.27} $$
для всех $f\in \mathbb{K}[\lambda_1,\dots,\lambda_k]$. Обозначим множество
$$ \begin{equation*} \{(r_1-\mu_1,\dots,r_k-\mu_k)\colon (r_1,\dots,r_k)\in M\} \end{equation*} \notag $$
через $M-\mu$, а также положим $C:=\|\pi_\beta(e^\beta)\|_\beta$. (Напомним, что $\|\,{\cdot}\,\|_\beta$ – фиксированная субмультипликативная норма на $\mathrm{T}_{d_\beta}$, где $d_\beta$ – размерность представления $\pi_\beta$.)

Легко видеть, что $|a|_{\beta,M,l}=|f_\beta|_{M,l}=|S_\mu f_\beta|_{M-\mu,l}$. С другой стороны, из (4.27) и определения $\|\,{\cdot}\,\|_{\beta,M-\mu,l}$ следует, что

$$ \begin{equation*} \|\widetilde\pi_\beta(\Phi(f)e^\beta)\|_{\beta,M-\mu,l}=C\, |S_\mu f|_{M-\mu,l} \end{equation*} \notag $$
для каждого $f$. Так как согласно лемме 4.16 $\pi_\beta(e^\beta)\ne 0$, а $\|\,{\cdot}\,\|_\beta$ – норма, то $C\ne 0$. Итак,
$$ \begin{equation} |a|_{\beta,M,l}=C^{-1}\,\|\widetilde\pi_\beta(\Phi(f_\beta)e^\beta)\|_{\beta,M-\mu,l}. \end{equation} \tag{4.28} $$

Рассмотрим на $C^\infty_\mathfrak{g}$ проекцию

$$ \begin{equation*} P_\beta\biggl(\sum_{\alpha} \Phi(f_\alpha)e^\alpha\biggr):=\sum_{\alpha\prec \beta} \Phi(f_\alpha)e^\alpha. \end{equation*} \notag $$
В силу части (B) леммы 4.16 имеем $\pi_\beta(e^\alpha)=0$ для $\alpha\succ \beta$. Так как рассматриваемый порядок на $\mathbb{Z}_+^{m-k}$ является линейным, то отсюда получаем, что
$$ \begin{equation*} \widetilde\pi_\beta(\Phi(f_\beta)e^\beta)=\widetilde\pi_\beta(a)-\widetilde\pi_\beta P_\beta(a) \end{equation*} \notag $$
для каждого $a\in C^\infty_\mathfrak{g}$. Тогда из (4.28) следует
$$ \begin{equation} |a|_{\beta,M,l}\le C^{-1}(\|\widetilde\pi_\beta(a)\|_{\beta,M-\mu,l}+\|\widetilde\pi_\beta P_\beta(a)\|_{\beta,M-\mu,l}) \end{equation} \tag{4.29} $$
(ср. (4.12) и (4.17)). В силу непрерывности $\widetilde\pi_\beta$ преднорма $\|\widetilde\pi_\beta P_\beta(\,{\cdot}\,)\|_{\beta,M-\mu,l}$ мажорируется семейством преднорм $(|P_\beta(\,{\cdot}\,)|_{\beta',M',l'})$. Так как $|P_\beta(a)|_{\beta',M',l'}=|a|_{\beta',M',l'}$, если $\beta'\prec\beta$, и $|P_\beta(a)|_{\beta',M',l'}=0$, если $\beta'\succeq \beta$, для каждого $a\in C^\infty_\mathfrak{g}$, то в силу предположения индукции преднорма $\|\widetilde\pi_\beta P_\beta(\,{\cdot}\,)\|_{\beta,M-\mu,l}$ мажорируется также и семейством преднорм $(\|\widetilde\pi_\alpha(\,{\cdot}\,)\|_{\alpha,K,n})$. Отсюда следует, что $|\,{\cdot}\,|_{\beta,M,l}$ мажорируется последним семейством.

Итак, в силу принципа индукции $|\,{\cdot}\,|_{\beta,M,l}$ мажорируется семейством преднорм $(\|\widetilde\pi_\alpha(\,{\cdot}\,)\|_{\alpha,K,n})$. Отсюда следует топологическая инъективность $\rho$, а значит, утверждение теоремы 4.3 выполнено в случае специального базиса в $\mathfrak{n}$, доставляемого предложением 4.9. Завершая доказательство теоремы, напомним, что в первой части рассуждения (см. п. 4.3) была доказана независимость топологии на $C^\infty_\mathfrak{g}$ от выбора базиса в $\mathfrak{n}$. Теорема 4.3 доказана полностью.

4.7. Доказательство теоремы о мультипликативном $C^\infty_\mathfrak{g}$-функциональном исчислении

В рассуждении используются основные результаты этого параграфа и § 3.

Доказательство теоремы 4.4. Пусть $\mathfrak{g}$ – треугольная конечномерная действительная алгебра Ли, $B$ – проективный предел действительных банаховых алгебр полиномиального роста и $\gamma\colon \mathfrak{g}\to B$ – гомоморфизм действительных алгебр Ли. Достаточно рассмотреть случай, когда $B$ – банахова алгебра.

Продолжим $\gamma$ и вложение $\mu\colon \mathfrak{g}\to C^\infty_\mathfrak{g}$ до гомоморфизмов из $U(\mathfrak{g})$. Пусть $e_{k+1},\dots, e_m$ – линейный базис в $[\mathfrak{g},\mathfrak{g}]$, а $e_1,\dots, e_k$ – его дополнение до линейного базиса в $\mathfrak{g}$. Тогда $\gamma(e_{k+1}),\dots,\gamma(e_m)\in [B,B]$. В силу теоремы 2.8 эти элементы принадлежат $\operatorname{Rad} B$, а значит топологически нильпотентны. Более того, будучи элементами полиномиального роста, они нильпотентны в силу предложения 2.4. Так как $\gamma(e_1),\dots,\gamma(e_k)$ имеют полиномиальный рост, из теоремы 3.3 следует, что существует непрерывное линейное отображение $\theta\colon C^\infty_\mathfrak{g}\to B$ такое, что $\gamma=\theta\mu$ (напомним, что по определению $C^\infty_\mathfrak{g}=C^\infty(\mathbb{R}^k)\,{\mathbin{\widehat{\otimes}}}\, \mathbb{R}[[e_{k+1},\dots,e_m]]$ как локально выпуклое пространство). В силу теоремы 4.3 умножение в $C^\infty_\mathfrak{g}$ является непрерывным продолжением умножения в $U(\mathfrak{g})$ и, следовательно, $\theta$ является гомоморфизмом. Итак, универсальное свойство доказано. Из него сразу получаем, что алгебра $C^\infty_\mathfrak{g}$ не зависит от выбора базиса в $\mathfrak{n}$ и его дополнения до базиса в $\mathfrak{g}$. Теорема доказана.

Замечание 4.18. Заметим, что условия теоремы 4.4 можно ослабить, требуя лишь, чтобы элементы $\gamma(e_1),\dots,\gamma(e_m)$ имели полиномиальный рост (не предполагая, что все элементы $B$ полиномиального роста). При таких ослабленных условиях, мы, тем не менее, можем утверждать, что $\theta$ корректно определен, и, более того, $\theta(f)$ имеет полиномиальный рост для любого $f\in C^\infty_\mathfrak{g}$. Действительно, в доказательстве теоремы 4.4 мы используем лишь полиномиальный рост $\gamma(e_1),\dots,\gamma(e_m)$ и топологическую нильпотентность $\gamma(e_{k+1}),\dots,\gamma(e_m)$. Чтобы проверить второе условие, продолжим $\gamma$ до гомоморфизма $\mathfrak{g}_\mathbb{C}\to B_\mathbb{C}$ между комплексификациями. Поскольку $\mathfrak{g}_\mathbb{C}$ разрешима, из результатов Туровского [35] следует, что $[\gamma(\mathfrak{g}_\mathbb{C}),\gamma(\mathfrak{g}_\mathbb{C})]$ содержится в радикале $B_0$ – замкнутой подалгебры в $B_\mathbb{C}$, порожденной $\gamma(\mathfrak{g}_\mathbb{C})$ (см. доказательство также в [29; § 24, с. 130, теорема 1]). Отсюда следует, что интересующие нас элементы топологически нильпотентны. Кроме того, согласно теореме 4.3 всякий элемент $f\in C^\infty_\mathfrak{g}$ имеет полиномиальный рост. Так как свойство иметь полиномиальный рост сохраняется при непрерывных гомоморфизмах алгебр Аренса–Майкла, $\theta(f)$ также имеет полиномиальный рост.

Вопрос о том, можно ли еще ослабить условия теоремы 4.4, предположив полиномиальный рост только для образов алгебраических образующих $\mathfrak{g}$ (т. е. для $\gamma(e_1),\dots,\gamma(e_k)$), остается открытым. Он может быть сформулирован следующим образом.

Вопрос 4.19. Предположим, что конечномерная действительная подалгебра Ли $\mathfrak{h}$ в действительной банаховой алгебре порождена конечным набором элементов полиномиального роста. Следует ли отсюда, что все элементы $\mathfrak{h}$ имеют полиномиальный рост?

§ 5. Локально определенные некоммутативные функции класса $C^\infty$ и пучки

5.1. Нильпотентный случай

Утверждения, содержащиеся в этом разделе, являются аналогами результатов Доси [7], [2] об алгебрах некоммутативных голоморфных функций, подробности о которых см. в § 6.

Предположим, что $\mathfrak{g}$ нильпотентна. Мы определим алгебры некоммутативных гладких функций на открытых подмножествах $\mathbb{R}^k$. (Здесь $k$ – размерность $\mathfrak{g}/\mathfrak{n}$ и, кроме того, $m$ – размерность $\mathfrak{g}$; мы придерживаемся обозначений из теоремы 4.3.) Как и выше, зафиксируем в $\mathfrak{n}$ линейный базис $e_{k+1},\dots, e_m$ и его дополнение $e_1,\dots, e_k$ до линейного базиса в $\mathfrak{g}$. Для открытого подмножества $V\subset \mathbb{R}^k$ рассмотрим пространство Фреше

$$ \begin{equation} C^\infty_\mathfrak{g}(V):=C^\infty(V)\mathbin{\widehat{\otimes}} \mathbb{R}[[e_{k+1},\dots,e_m]] \end{equation} \tag{5.1} $$
и отождествим $U(\mathfrak{g})$ с подпространством в $C^\infty_\mathfrak{g}(V)$ (плотным в силу теоремы Вейерштрасса об аппроксимации непрерывно дифференцируемых функций [36; теорема 1.6.2]). В частности, мы полагаем, что $C^\infty_\mathfrak{g}(\emptyset)=0$. Очевидно, что $C^\infty_\mathfrak{g}(\mathbb{R}^k)=C^\infty_\mathfrak{g}$.

Теорема 5.1. Пусть $\mathfrak{g}$ – нильпотентная действительная алгебра Ли и $V$ – открытое подмножество $\mathbb{R}^k$. Тогда умножение в $U(\mathfrak{g})$ продолжается до непрерывного умножения в $C^\infty_\mathfrak{g}(V)$, причем топология не зависит от выбора базиса в $\mathfrak{n}$. Более того, относительно этого умножения $C^\infty_\mathfrak{g}(V)$ является проективным пределом действительных банаховых алгебр полиномиального роста и, следовательно, алгеброй Фреше–Аренса–Майкла полиномиального роста.

Отличие доказательств теорем 5.1 и 4.3 заключается в том, что в нильпотентном случае мы оцениваем преднормы для фиксированных компактных подмножеств в $V$ (так как операции сдвига тривиальны). Напомним, что преднормы $\|\,{\cdot}\,\|_{p,K,n}$ определены в (2.2), $|\,{\cdot}\,|_{\beta,M,l}$ – в (4.26), а каждому конечномерному представлению $\pi\colon U(\mathfrak{g})\to\operatorname{End} L$ соответствует гомоморфизм

$$ \begin{equation*} \widetilde\pi\colon U(\mathfrak{g})\to\mathbb{R}[\lambda_1,\dots,\lambda_k]\otimes \operatorname{End} L, \end{equation*} \notag $$
определенный в (4.5).

Сначала докажем вспомогательную лемму.

Лемма 5.2. Предположим, что $\mathfrak{g}$ – нильпотентная действительная алгебра Ли. Пусть $n\in\mathbb{Z}_+$, $K$ – компактное подмножество $\mathbb{R}^k$, а $\pi$ – конечномерное представление $\mathfrak{g}$, образ которого является нильпотентным множеством. Тогда преднорма $\|\widetilde\pi(\,{\cdot}\,)\|_{d,K,n}$, где $d$ – размерность $\pi$, мажорируется семейством преднорм $(|\,{\cdot}\,|_{\beta,K,l})$, где $\beta\in \mathbb{Z}_+^{m-k}$ и $l\in\mathbb{Z}_+$.

Доказательство. Зафиксируем $t\in\mathbb{Z}_+$ такое, что $\pi(U(\mathfrak{g}))^t=0$. (Можно даже положить $t=d$, но это не важно.) Пусть, как и выше, $\Phi\colon \mathbb{R}[\lambda_1,\dots,\lambda_k]\to U(\mathfrak{g})$ – упорядоченное исчисление (см. (1.1)). Так как $\lambda_i\otimes 1$ и $1\otimes \pi(e_j)$ (см. (4.5)) коммутируют, то, применяя формулу Тейлора, получаем, что
$$ \begin{equation*} \widetilde\pi(\Phi(f))=\sum_{\alpha\in \mathbb{Z}_+^k,\, |\alpha|<t} \frac{f^{(\alpha)}(\lambda_1,\dots,\lambda_k)}{\alpha_1!\cdots \alpha_k!}\otimes \pi(e_1^{\alpha_1}\cdots e_k^{\alpha_k}) \end{equation*} \notag $$
для каждого $f\in \mathbb{R}[\lambda_1,\dots,\lambda_k]$. Так как каждый элемент $U(\mathfrak{g})$ имеет вид
$$ \begin{equation*} a=\sum_{\beta\in \mathbb{Z}_+^{m-k}} \Phi(f_\beta)e^\beta, \end{equation*} \notag $$
то
$$ \begin{equation} \widetilde\pi(a)=\sum_{|\beta|<t} \widetilde\pi(\Phi(f_\beta)e^\beta)=\sum_{|\alpha|+ |\beta|<t} \frac{f_\beta^{(\alpha)}(\lambda_1,\dots,\lambda_k)}{\alpha_1!\cdots \alpha_k!}\otimes \pi(e_1^{\alpha_1}\cdots e_k^{\alpha_k} e_{k+1}^{\beta_1}\cdots e_m^{\beta_{m-k}}). \end{equation} \tag{5.2} $$
Для каждых $\alpha$ и $\beta$ преднорма $\|\,{\cdot}\,\|_{d,K,n}$ от соответствующего слагаемого в правой части мажорируется $|f_\beta|_{K,n+t}$. Так как, по определению, $|a|_{\beta,K,n+t}= |f_\beta|_{K,n+t}$, отсюда следует утверждение леммы. Лемма доказана.
Доказательство теоремы 5.1. Независимость от выбора базиса в $\mathfrak{n}$ доказывается тем же способом, что и в п. 4.3.

Так же, как и в доказательстве теоремы 4.3, выберем базис $e_{k+1},\dots, e_m$ в $\mathfrak{n}$ удобным для нас образом. А именно, рассмотрим $e_{k+1},\dots, e_m$ и набор конечномерных представлений $\pi_{k+1},\dots,\pi_m$, доставляемые предложением 4.14, и дополним эти векторы произвольным образом до базиса в $\mathfrak{g}$. Рассмотрим также семейство $(\pi_\beta;\, \beta\in \mathbb{Z}_+^{m-k})$ конечномерных представлений $U(\mathfrak{g})$, состоящее из тензорных произведений и определенное в (4.22).

Так как $\pi_r(\mathfrak{g})$ является нильпотентным множеством для каждого $r$, то же самое выполнено и для $\pi_\beta(\mathfrak{g})$ при произвольном $\beta$. Напомним также, что всякое конечномерное представление треугольной (в частности, нильпотентной) алгебры Ли приводится к верхнетреугольному виду. Отсюда следует, что каждый оператор из $\pi_\beta(U(\mathfrak{g}))$ нильпотентен. Применяя лемму 5.2 для каждого компактного подмножества в $V$ и каждого $\beta\in\mathbb{Z}_+^{m-k}$, мы получаем, что гомоморфизм $\widetilde\pi_\beta$ непрерывен относительно сужения топологии $C^\infty_\mathfrak{g}(V)$ на $U(\mathfrak{g})$ и относительно топологии $\mathbb{R}[\lambda_1,\dots,\lambda_k]\otimes \operatorname{End} L$, заданной семейством преднорм $(\|\,{\cdot}\,\|_{d_\beta,K,n})$, где $d_\beta$ – размерность представления $\pi_\beta$, $K$ – компактное подмножество $V$ и $n\in\mathbb{N}$. Более того, можно считать, что $\widetilde\pi_\beta$ является непрерывным гомоморфизмом со значениями в $C^{\infty}(V,\mathrm{T}_{d_\beta})$.

Далее мы рассуждаем так же, как в доказательстве теоремы 4.3. Рассмотрим непрерывный гомоморфизм

$$ \begin{equation*} \rho_V\colon U(\mathfrak{g})\to \prod_{\beta} C^{\infty}(V,\mathrm{T}_{d_\beta})\colon a\mapsto (\widetilde\pi_\beta(a)) \end{equation*} \notag $$
(ср. (4.6)). Чтобы завершить доказательство, достаточно показать, что $\rho_V$ топологически инъективен. А именно, нужно проверить, что для данных $\beta\in \mathbb{Z}_+^{m-k}$, компактного подмножества $M$ в $V$ и $l\in\mathbb{Z}_+$ преднорма $|\,{\cdot}\,|_{\beta,M,l}$ мажорируется семейством преднорм $(\|\widetilde\pi_\alpha(\,{\cdot}\,)\|_{\alpha,M,n})$, где $n\in\mathbb{Z}_+$ и $\alpha \in \mathbb{Z}_+^{m-k}$.

Рассуждение проводится по индукции так же, как и в п. 4.6. Разница заключается в том, что в нильпотентном случае из предложения 4.14 следует, что в (4.27) $\mu=0$, т. е. отсутствует сдвиг подмножества $M$. Поэтому преднорма в правых частях (4.28) и (4.29) принимает вид $\|\,{\cdot}\,\|_{\beta,M,l}$ и из соответствующих оценок следует, что $\rho_V$ топологически инъективен. Теорема доказана.

Замечание 5.3. Согласно теореме 5.1 алгебры $C^\infty_\mathfrak{g}(V)$ не зависят от выбора базиса $e_{k+1},\dots, e_m$ в $\mathfrak{n}$. Однако с формальной точки зрения они могут зависеть от выбора дополнения $e_1,\dots, e_k$ до базиса в $\mathfrak{g}$. Чтобы убедиться в независимости от выбора дополнения до базиса нужна техника, выходящая за рамки этой статьи (в частности, локальное универсальное свойство, обобщающее теорему 4.4).

Далее мы покажем, что алгебры вида $C^\infty_\mathfrak{g}(V)$ согласованы между собой, а именно, они образуют пучок на спектре Гельфанда алгебры $C^\infty_\mathfrak{g}$, который гомеоморфен $\mathbb{R}^k$ (ср. [7; § 5.3, с. 123] и теорему 6.5 для некоммутативных голоморфных функций).

Замечание 5.4. Напомним, что пучком пространств Фреше (алгебр Фреше) называют предпучок пространств Фреше (алгебр Фреше9), который одновременно является пучком множеств (после применения забывающего функтора) [37; § 6], см. также [28; § 4.3, с. 109] и [38; приложение A]. Такой выбор определения связан с тем, что мы можем записать аксиому склейки только для счетных покрытий (произвольное произведение пространств Фреше не обязательно является пространством Фреше). Однако из теоремы об обратном операторе для пространств Фреше (которая в данном контексте означает, что забывающий функтор отражает изоморфизмы, ср. алгебраический случай в [39; ч. 1, § 6.9]) следует, что для счетных покрытий аксиому склейки достаточно проверить в категории множеств. Если пространство, на котором задан пучок, имеет счетную базу, то оно линделефово (из всякого открытого покрытия можно выбрать счетное). В этом случае легко показать, что если аксиома склейки выполнена для счетных покрытий, то она выполнена и для произвольных, но уже в более широкой категории локально выпуклых пространств (алгебр). Таким образом, пучок пространств Фреше (алгебр Фреше) на пространстве со счетной базой всегда является пучком локально выпуклых пространств (алгебр), и мы видим, что со сформулированным выше определением не возникаем проблем. Аналогично, мы будем рассматривать пучки алгебр Фреше–Аренса–Майкла (полиномиального роста), определяя их как предпучки алгебр Фреше–Аренса–Майкла (полиномиального роста), которые одновременно являются пучками множеств.

Пусть $V$ и $W$ – открытые подмножества $\mathbb{R}^k$ и $W\subset V$. Тогда топология на $U(\mathfrak{g})$, задаваемая вложением $U(\mathfrak{g})\to C^\infty_\mathfrak{g}(V)$, сильнее, чем топология задаваемая вложением $U(\mathfrak{g})\to C^\infty_\mathfrak{g}(W)$. Так как обе алгебры являются пополнениями $U(\mathfrak{g})$, мы имеем непрерывный гомоморфизм $\tau_{VW}\colon C^\infty_\mathfrak{g}(V)\to C^\infty_\mathfrak{g}(W)$. Напомним, что спектром Гельфанда $\mathbb{R}$-алгебры Аренса–Майкла называется множество ее непрерывных гомоморфизмов $\mathbb{R}$, снабженное слабой* топологией.

Теорема 5.5. Пусть $\mathfrak{g}$ – нильпотентная действительная алгебра Ли. Тогда соответствия

$$ \begin{equation*} V\mapsto C^\infty_\mathfrak{g}(V)\quad\textit{и}\quad (W\subset V)\mapsto \tau_{VW} \end{equation*} \notag $$
задают на спектре Гельфанда алгебры $C^\infty_\mathfrak{g}$ пучок в категории $\mathbb{R}$-алгебр Фреше–Аренса–Майкла полиномиального роста.

Доказательство. Из теоремы 2.8 следует, что спектр Гельфанда $C^\infty_\mathfrak{g}$ совпадает со спектром Гельфанда $C^\infty(\mathbb{R}^k)$, т. е. с $\mathbb{R}^k$. Легко видеть, что рассматриваемое соответствие является контравариантным функтором из категории открытых подмножеств $\mathbb{R}^k$ в категорию $\mathbb{R}$-алгебр Аренса–Майкла полиномиального роста. Таким образом, мы имеем предпучок. Чтобы удостовериться в том, что этот предпучок является пучком, остается проверить аксиому склейки в категории множеств. Так как для каждого открытого множества $V$ пространство Фреше $C^\infty_\mathfrak{g}(V)$ является произведением счетного числа экземпляров $C^\infty(V)$, то достаточно убедиться в выполнении аксиомы склейки для функций класса $C^\infty$ на $\mathbb{R}^k$. Последний факт хорошо известен (и может быть проверен непосредственно). Теорема доказана.

5.2. Обсуждение общего случая

Пусть, как и выше, $\mathfrak{a}\mathfrak{f}_1$ обозначает двумерную действительную алгебру Ли с базисом $e_1,e_2$ и умножением, определенным соотношением $[e_1,e_2]=e_2$. Напомним, что $\mathfrak{a}\mathfrak{f}_1$ не является нильпотентной.

В отличие от случая нильпотентной алгебры Ли (см. теорему 5.1) далеко не для каждого открытого подмножества $V$ в $\mathbb{R}$ умножение в $U(\mathfrak{a}\mathfrak{f}_1)$ продолжается до непрерывного умножения в $C^\infty(V)\,{\mathbin{\widehat{\otimes}}}\, \mathbb{R}[[e_2]]$. Действительно, пусть $V{=}\,(0,2)$, и пусть $(f_n)$ – последовательность многочленов от переменной $\lambda$, сходящаяся к функции $1/\lambda$ в пространстве $C^\infty(0,2)$. Так как $e_2f_n(e_1)=f_n(e_1-1)e_2$, то непрерывность умножения влечет сходимость последовательности $f_n(e_1-1)e_2$ в топологии $C^\infty(0,2)\mathbin{\widehat{\otimes}} \mathbb{R}[[e_2]]$, т. е. $f_n(\lambda-1)$ должна сходиться в $C^\infty(0,2)$. Поскольку это не так, получаем противоречие.

Таким образом, спектра Гельфанда общей треугольной алгебры Ли недостаточно для построения пучка некоммутативных гладких функций даже в простейшем случае $\mathfrak{g}=\mathfrak{a}\mathfrak{f}_1$. Тем не менее, это возможно сделать на большем пространстве, по крайней мере, для этой алгебры, см. [40]. Итак, в нильпотентном случае мы получаем пучки, которые можно считать аналитическими аналогами пучков на формальных некоммутативных схемах, рассмотренных Капрановым в [41], но в случае общих треугольных алгебр Ли ситуация сложнее.

§ 6. Алгебры некоммутативных голоморфных функций

В [2] Доси рассмотрел топологическую алгебру $\mathfrak{F}_\mathfrak{g}$ “формально-радикальных целых функций”, соответствующую положительно градуированной нильпотентной комплексной алгебре Ли $\mathfrak{g}$ и ее базису, согласованному с нижним центральным рядом, и доказал, что умножение, индуцированное умножением в универсальной обертывающей алгебре $U(\mathfrak{g})$ (над полем $\mathbb{C}$), является совместно непрерывным. Таким образом, $\mathfrak{F}_\mathfrak{g}$ есть алгебра Фреше (поскольку топология задается счетным семейством преднорм). Далее, рассуждая так же, как доказательстве теоремы 4.3, мы покажем, что $\mathfrak{F}_\mathfrak{g}$ является алгеброй Аренса–Майкла, и даже можно утверждать большее: $\mathfrak{F}_\mathfrak{g}$ корректно определена для любой разрешимой комплексной алгебры Ли $\mathfrak{g}$.

Действительно, предположим, что $\mathfrak{g}$ разрешима, зафиксируем в $\mathfrak{n}$ линейный базис $e_{k+1},\dots, e_m$ и дополнение $e_1,\dots, e_k$ до линейного базиса в $\mathfrak{g}$ и рассмотрим пространство Фреше

$$ \begin{equation*} \mathfrak{F}_\mathfrak{g}:=\mathcal{O}(\mathbb{C}^k)\mathbin{\widehat{\otimes}} \mathbb{C}[[e_{k+1},\dots,e_m]], \end{equation*} \notag $$
где $\mathcal{O}(\mathbb{C}^k)$ обозначает алгебру всех голоморфных функций на $\mathbb{C}^k$ (ср. (4.1)). Тогда имеет место следующий аналог теоремы 4.3.

Теорема 6.1. Пусть $\mathfrak{g}$ – разрешимая комплексная алгебра Ли. Тогда умножение в $U(\mathfrak{g})$ продолжается до совместно непрерывного умножения в $\mathfrak{F}_\mathfrak{g}$, причем топология не зависит от выбора базиса в $\mathfrak{n}$. Более того, относительно этого умножения $\mathfrak{F}_\mathfrak{g}$ является алгеброй Фреше–Аренса–Майкла над $\mathbb{C}$.

Доказательство. С небольшими изменениями рассуждения – те же, что для теоремы 4.3. Таким же способом, что и в п. 4.5, мы строим счетные семейства гомоморфизмов $(\pi_\beta\colon U(\mathfrak{g})\to \mathrm{T}_{d_\beta})$ и соответствующих им гомоморфизмов $\widetilde\pi_\beta\colon U(\mathfrak{g})\to\mathcal{O}(\mathbb{C}^k,\mathrm{T}_{d_\beta})$, заданных формулой (4.5). Далее рассмотрим гомоморфизм
$$ \begin{equation*} \rho\colon U(\mathfrak{g})\to \prod_{\beta} \mathcal{O}(\mathbb{C}^k,\mathrm{T}_{d_\beta})\colon a\mapsto (\widetilde\pi_\beta(a)), \end{equation*} \notag $$
аналогичный (4.6). Чтобы показать, что он продолжается до непрерывного линейного отображения из $\mathfrak{F}_\mathfrak{g}$, запишем $\mathcal{O}(\mathbb{C}^m)$ как проективное тензорное произведение $m$ копий $\mathcal{O}(\mathbb{C})$. Применяя к каждому сомножителю теорему о голоморфном исчислении, мы можем продолжить $\widetilde\pi_\beta$ до непрерывного линейного оператора $\mathcal{O}(\mathbb{C}^m)\to\mathcal{O}(\mathbb{C}^k,\mathrm{T}_{d_\beta})$. Так как $\widetilde\pi_\beta(e_{k+1}),\dots, \widetilde\pi_\beta(e_m)$ нильпотентны, то он пропускается через $\mathfrak{F}_\mathfrak{g}$.

Всякая разрешимая комплексная алгебра Ли треугольна, а все вспомогательные утверждения из п. 4.5, нужные для теоремы 4.3, выполнены для поля $\mathbb{C}$. Поэтому рассуждения из п. 4.6 переносятся без изменений на случай голоморфных функций. Это гарантирует топологическую инъективность $\rho$, что завершает доказательство. Теорема доказана.

Очевидно, что $\mathfrak{F}_\mathfrak{g}=\mathcal{O}(\mathbb{C}^k)$ в случае абелевой $\mathfrak{g}$. Таким образом, если $\mathfrak{g}$ – произвольная разрешимая алгебра Ли над $\mathbb{C}$, то $\mathfrak{F}_\mathfrak{g}$ может быть рассмотрена как алгебра целых функций от некоммутирующих переменных, порождающих $\mathfrak{g}$. Следует отметить, что $\mathfrak{F}_\mathfrak{g}$, вообще говоря, не совпадает с оболочкой Аренса–Майкла алгебры $U(\mathfrak{g})$. Последняя описана в явном виде в [42] (нильпотентный случай) и [43] (общий случай). Тем не менее, алгебра $\mathfrak{F}_\mathfrak{g}$ удовлетворяет некоторому универсальному свойству, но эта тема требует отдельного рассмотрения. Также отметим, что банаховы алгебры, сопутствующие $\mathfrak{F}_\mathfrak{g}$, хотя и не являются алгебрами полиномиального роста (так как они определены над полем $\mathbb{C}$), однако обладают аналогичным свойством “супернильпотентности” (все элементы коммутанта нильпотентны) и тем самым удовлетворяют полиномиальным тождествам.

Доси также рассмотрел локальный вариант алгебры $\mathfrak{F}_\mathfrak{g}$. А именно, пусть

$$ \begin{equation*} \mathfrak{F}_\mathfrak{g}(V):=\mathcal{O}(V)\mathbin{\widehat{\otimes}} \mathbb{C}[[e_{k+1},\dots,e_m]], \end{equation*} \notag $$
где $\mathfrak{g}$ – нильпотентная комплексная алгебра Ли, а $V$ – открытое подмножество $\mathbb{C}^k$. (Данное выше определение (5.1) является очевидным аналогом.)

В предположениях, что $\mathfrak{g}$ положительно градуирована, а базис согласован с нижним центральным рядом, Доси показал, во-первых, что для открытого подмножества $V\subset \mathbb{C}^k$ умножение в $U(\mathfrak{g})$ индуцирует10 непрерывное умножение в $\mathfrak{F}_\mathfrak{g}(V)$ и, таким образом, она является алгеброй Фреше ([7; п. 5.1, с. 120] или [2; п. 5.6, с. 21]) и, во-вторых, что соответствующий функтор является пучком на ее (комплексном) спектре Гельфанда [7; п. 5.3, с. 123], ср. теорему 5.5 выше.

Теоремы 6.2, 6.5 и 6.6, доказанные ниже, являются усилениями результатов Доси. Отличие от [7] заключается в трех моментах: (1) мы не предполагаем, что $\mathfrak{g}$ положительно градуирована; (2) мы не предполагаем, что базис согласован с нижним центральным рядом; (3) мы доказываем, что $\mathfrak{F}_\mathfrak{g}(V)$ не только алгебра Фреше, но и алгебра Аренса–Майкла.

В том случае, когда алгебра многочленов не является плотной в $\mathcal{O}(V)$, алгебра $U(\mathfrak{g})$ не является плотной в $\mathfrak{F}_\mathfrak{g}(V)$, поэтому мы не можем говорить о непрерывном продолжении умножения с $U(\mathfrak{g})$. Поэтому сначала рассмотрим те открытые множества в $\mathbb{C}^k$, для которых алгебра многочленов плотна в $\mathcal{O}(V)$.

Теорема 6.2. Пусть $\mathfrak{g}$ – нильпотентная комплексная алгебры Ли, а $V\subset \mathbb{C}^k$ – открытое подмножество такое, что алгебра многочленов плотна в $\mathcal{O}(V)$. Тогда умножение в $U(\mathfrak{g})$ продолжается до непрерывного умножения в $\mathfrak{F}_\mathfrak{g}(V)$. Более того, относительно этого умножения $\mathfrak{F}_\mathfrak{g}(V)$ является алгеброй Фреше–Аренса–Майкла и не зависит от выбора базиса в $\mathfrak{n}$.

Замечание 6.3. Вопрос о независимости алгебр вида $\mathfrak{F}_\mathfrak{g}(V)$ от выбора дополнения $e_1,\dots, e_k$ до базиса в $\mathfrak{g}$ остается открытым.

Для доказательства теоремы 6.2 нам понадобится следующий аналог леммы 5.2. Заметим, что топологии на $\mathcal{O}(V,\mathrm{T}_q)$ и $\mathfrak{F}_\mathfrak{g}(V)$ задаются семействами преднорм $(\|\,{\cdot}\,\|_{q,K,0})$ и $(|\,{\cdot}\,|_{\beta,M,0})$, заданными также как в (2.2) и (4.26) соответственно, но с тем отличием, что теперь $K$ и $M$ – компактные подмножества $\mathbb{C}^k$ (а не $\mathbb{R}^k$), содержащиеся в $V$.

Лемма 6.4. Предположим, что $\mathfrak{g}$ – нильпотентная комплексная алгебра Ли. Пусть $V$ – открытое подмножество $\mathbb{C}^k$, $K$ – компактное подмножество $V$, а $\pi$ – конечномерное представление $\mathfrak{g}$, образ которого является нильпотентным множеством. Тогда найдется компактное множество $K'$ такое, что $K\subset K'\subset V$ и преднорма $\|\widetilde\pi(\,{\cdot}\,)\|_{d,K,0}$, где $d$ – размерность $\pi$, мажорируется семейством преднорм $(|\,{\cdot}\,|_{\beta,K',0})$, где $\beta\in \mathbb{Z}_+^{m-k}$.

Доказательство. Рассуждения аналогичны лемме 5.2. Единственное отличие в том, что для оценки производных в (5.2) нужно использовать теорему Вейерштрасса о равномерной сходимости производных (см., например, [44; гл. 1, § 2, с. 34, теорема 8]), которая гарантирует существование нужного компактного подмножества $K'$. Лемма доказана.
Доказательство теоремы 6.2. Мы комбинируем рассуждения из доказательств теорем 5.1 и 6.1. Так же, как в доказательстве теоремы 5.1, но с заменой гладких функций на голоморфные (как в доказательстве теоремы 6.1) мы строим гомоморфизм
$$ \begin{equation*} \rho_V\colon U(\mathfrak{g})\to \prod_{\beta} \mathcal{O}(V,\mathrm{T}_{d_\beta}). \end{equation*} \notag $$
Отождествим $U(\mathfrak{g})$ с плотным подпространством в $\mathfrak{F}_\mathfrak{g}(V)$. Тогда непрерывность $\rho_V$ выводится аналогично $C^\infty$ случаю с использованием леммы 6.4 вместо леммы 5.2, а топологическая инъективность доказывается так же, как в теореме 5.1 с учетом того факта, что все вспомогательные утверждения из п. 4.5 выполнены для поля $\mathbb{C}$. Теорема доказана.

Теперь обратимся к пучкам и определению умножения в $\mathfrak{F}_\mathfrak{g}(V)$ в общем случае. Напомним, что пучок на базе топологии определяется аналогично пучку на топологическом пространстве, с тем отличием, что все участвующие в аксиомах открытые множества предполагаются принадлежащими базе. Обозначим через $\mathcal{B}$ совокупность всех открытых подмножеств $V$ в $\mathbb{C}^k$ таких, что алгебра многочленов плотна в $\mathcal{O}(V)$. Так как полидиски образуют предбазу топологии $\mathbb{C}^k$ и каждый полидиск принадлежит $\mathcal{B}$, то $\mathcal{B}$ является базой топологии. Итак, мы можем рассматривать пучки на $\mathcal{B}$. Отождествляя (комплексный) спектр Гельфанда алгебры $\mathfrak{F}_\mathfrak{g}$ с $\mathbb{C}^k$, мы можем полагать, что $\mathcal{B}$ – база топологии на спектре Гельфанда. Ниже $\tau_{VW}$ обозначает отображение ограничения $\mathfrak{F}_\mathfrak{g}(V)\to \mathfrak{F}_\mathfrak{g}(W)$ для открытых подмножеств $V$ и $W$ в $\mathbb{C}^k$ таких, что $W\subset V$.

Теорема 6.5. Пусть $\mathfrak{g}$ – нильпотентная комплексная алгебра Ли. Тогда соответствия

$$ \begin{equation} V\mapsto \mathfrak{F}_\mathfrak{g}(V)\quad\textit{и}\quad (W\subset V)\mapsto \tau_{VW} \end{equation} \tag{6.1} $$
задают пучок $\mathfrak{F}_\mathfrak{g}(-)$ алгебр Фреше–Аренса–Майкла на базе $\mathcal{B}$.

Доказательство теоремы 6.5 аналогично доказательству теоремы 5.5 с очевидной заменой пучка гладких функций на пучок голоморфных.

Теорема 6.6. Пусть $\mathfrak{g}$ – нильпотентная комплексная алгебра Ли. Тогда для каждого открытого подмножества $V$ в $\mathbb{C}^k$ существует умножение, относительно которого $\mathfrak{F}_\mathfrak{g}(V)$ является алгеброй Фреше–Аренса–Майкла. При этом $\mathfrak{F}_\mathfrak{g}(V)$ не зависит от выбора базиса в $\mathfrak{n}$. В случае, когда алгебра многочленов плотна в $\mathcal{O}(V)$, умножение является непрерывным продолжением с $U(\mathfrak{g})$. Кроме того, соответствия (6.1) задают пучок $\mathfrak{F}_\mathfrak{g}(-)$ алгебр Фреше–Аренса–Майкла на спектре Гельфанда алгебры $\mathfrak{F}_\mathfrak{g}$.

Доказательство. В силу теоремы 6.5 мы имеем пучок алгебр Аренса–Майкла на базе $\mathcal{B}$. Стандартными методами теории пучков (см. например, [39; ч. 1, п. 6.30]) можно показать, что он однозначно продолжается до пучка $\mathfrak{F}'_\mathfrak{g}(-)$ алгебр Аренса–Майкла на $\mathbb{C}^k$. С другой стороны, рассуждая так же как и в доказательстве теоремы 5.5, получаем, что соответствия (6.1) задают пучок $\mathfrak{F}_\mathfrak{g}(-)$ пространств Фреше на $\mathbb{C}^k$, который очевидно является продолжением пучка на $\mathcal{B}$. Заметим, что $\mathfrak{F}'_\mathfrak{g}(-)$ и $\mathfrak{F}_\mathfrak{g}(-)$ являются пучками локально выпуклых пространств. Тогда в силу однозначности продолжения пучка на базе топологии до пучка на всем пространстве имеем изоморфизм локально выпуклых пространств $\mathfrak{F}'_\mathfrak{g}(V)\cong\mathfrak{F}_\mathfrak{g}(V)$ для любого открытого подмножества $V$. Итак, мы задали требуемое умножение в $\mathfrak{F}_\mathfrak{g}(V)$. Остальное ясно. Теорема доказана.

Замечание 6.7. Явный вид умножения в $\mathfrak{F}_\mathfrak{g}(V)$ для произвольного открытого подмножества $V$ в $\mathbb{C}^k$ можно описать следующим образом. Пусть$(V_i)$ – покрытие подмножества $V$ элементами $\mathcal{B}$. Тогда левая стрелка в диаграмме

$$ \begin{equation*} \mathfrak{F}_\mathfrak{g}(V) \to \prod_i \mathfrak{F}_\mathfrak{g}(V_i)\rightrightarrows \prod_{i,j} \mathfrak{F}_\mathfrak{g}(V_i\cap V_j) \end{equation*} \notag $$
является уравнителем в категории алгебр Аренса–Майкла, и мы можем отождествить $\mathfrak{F}_\mathfrak{g}(V)$ с замкнутой подалгеброй в произведении алгебр Аренса–Майкла, умножение в каждой из которых продолжается с $U(\mathfrak{g})$ по непрерывности.

Замечание 6.8. Если сравнивать теорему 6.6 с теоремами 5.1 и 5.5, то утверждения последних двух выглядят более сильно, поскольку в них идет речь не просто об алгебрах Фреше–Аренса–Майкла, а об алгебрах с дополнительным ограничением – наличием полиномиального роста. В то время как в теоремах из этого параграфа подобное ограничение отсутствует. Однако отмеченный недостаток может быть легко устранен. Подобно тому, как все $C^\infty_\mathfrak{g}(V)$ (в частности, $C^\infty_\mathfrak{g}$) являются проективными пределами банаховых алгебр полиномиального роста, все $\mathfrak{F}_\mathfrak{g}(V)$ (в частности, $\mathfrak{F}_\mathfrak{g}$) являются проективными пределами банаховых PI-алгебр (т. е. удовлетворяющих полиномиальному тождеству). Действительно, свойство быть PI-алгеброй сохраняется при переходе к подалгебре и нетрудно видеть, что как $\mathcal{O}(V,\mathrm{T}_{p})$, так и сопутствующие ей банаховы алгебры удовлетворяют всем полиномиальным тождествам, которым удовлетворяет $\mathrm{T}_{p}$, а тот факт, что $\mathrm{T}_{p}$ удовлетворяет полиномиальному тождеству, хорошо известен (см. замечание 2.10).

Также отметим, что всякая $\mathbb{R}$-алгебра полиномиального роста является проективным пределом банаховых PI-алгебр (см. опять замечание 2.10).

В заключение следует добавить, что сказанное в § 5.2 о пучках некоммутативных $C^\infty$-функций для случая, когда $\mathfrak{g}$ не является нильпотентной, верно также и для некоммутативных голоморфных функций.

Автор благодарен Д. Белтицэ, А. В. Домрину, А. Доси, А. Ю. Пирковскому и Ю. В. Туровскому за полезные консультации. Также автор признателен рецензентам за ценные замечания.

Список литературы

1. C. E. Rickart, General theory of Banach algebras, Univ. Ser. Higher Math., D. Van Nostrand Co., Inc., Princeton, NJ–Toronto–London–New York, 1960, xi+394 pp.  mathscinet  zmath
2. A. Dosi, “Formally-radical functions in elements of a nilpotent Lie algebra and noncommutative localizations”, Algebra Colloq., 17:Special issue 1 (2010), 749–788  crossref  mathscinet  zmath
3. М. В. Карасев, В. П. Маслов, Нелинейные скобки Пуассона. Геометрия и квантование, Наука, М., 1991, 368 с.  mathscinet  zmath; англ. пер.: M. V. Karasev, V. P. Maslov, Nonlinear Poisson brackets. Geometry and quantization, Transl. Math. Monogr., 119, Amer. Math. Soc., Providence, RI, 1993, xii+366 с.  mathscinet  zmath
4. C. Foiaş, “Une application des distributions vectorielles à la théorie spectrale”, Bull. Sci. Math. (2), 84 (1960), 147–158  mathscinet  zmath
5. О. Ю. Аристов, Оболочки в классе банаховых алгебр полиномиального роста и $C^\infty$-функции от конечного числа свободных переменных, 2022 (в печати)
6. А. Я. Хелемский, Банаховы и полинормированные алгебры. Общая теория. Представления. Гомологии, Наука, М., 1989, 465 с.  mathscinet  zmath; англ. пер.: A. Ya. Helemskii, Banach and locally convex algebras, Oxford Sci. Publ., The Clarendon Press, Oxford Univ. Press, New York, 1993, xvi+446 с.  mathscinet  zmath
7. A. Dosi, “Taylor functional calculus for supernilpotent Lie algebra of operators”, J. Operator Theory, 63:1 (2010), 191–216  mathscinet  zmath
8. B. Blackadar, J. Cuntz, “Differential Banach algebra norms and smooth subalgebras of $C^*$-algebras”, J. Operator Theory, 26:2 (1991), 255–282  mathscinet  zmath
9. A. Rennie, “Smoothness and locality for nonunital spectral triples”, K-Theory, 28:2 (2003), 127–165  crossref  mathscinet  zmath
10. A. Rennie, J. C. Várilly, Reconstruction of manifolds in noncommutative geometry, arXiv: math/0610418
11. Bingren Li, Real operator algebras, World Sci. Publ., River Edge, NJ, 2003, xiv+241 pp.  crossref  mathscinet  zmath
12. P. Aiena, Fredholm and local spectral theory, with applications to multipliers, Kluwer Acad. Publ., Dordrecht, 2004, xiv+444 pp.  crossref  mathscinet  zmath
13. M. Baillet, “Analyse spectrale des operateurs hermitiens d'un espace de Banach”, J. London Math. Soc. (2), 19:3 (1979), 497–508  crossref  mathscinet  zmath
14. М. В. Карасев, “О вейлевском и упорядоченном исчислении некоммутирующих операторов”, Матем. заметки, 26:6 (1979), 885–907  mathnet  mathscinet  zmath; англ. пер.: M. V. Karasev, “Weyl and ordered calculus of noncommuting operators”, Math. Notes, 26:6 (1979), 945–958  crossref
15. M. Arsenović, D. Kečkić, “Elementary operators on Banach algebras and Fourier transform”, Studia Math., 173:2 (2006), 149–166  crossref  mathscinet  zmath
16. V. Shulman, L. Turowska, “Beurling–Pollard type theorems”, J. Lond. Math. Soc. (2), 75:2 (2007), 330–342  crossref  mathscinet  zmath
17. K. B. Laursen, M. M. Neumann, An introduction to local spectral theory, London Math. Soc. Monogr. (N.S.), 20, The Clarendon Press, Oxford Univ. Press, New York, 2000, xii+591 pp.  mathscinet  zmath
18. I. Colojoară, C. Foiaş, Theory of generalized spectral operators, Math. Appl., 9, Gordon and Breach, Science Publishers, New York–London–Paris, 1968, xvi+232 pp.  mathscinet  zmath
19. Ж.-П. Кахан, Абсолютно сходящиеся ряды Фурье, Мир, М., 1976, 203 с.; пер. с фр.: J.-P. Kahane, Séries de Fourier absolument convergentes, Ergeb. Math. Grenzgeb., 50, Springer-Verlag, Berlin–New York, 1970, viii+169 pp.  crossref  mathscinet  zmath
20. I. Kaplansky, “Normed algebras”, Duke Math. J., 16:3 (1949), 399–418  crossref  mathscinet  zmath
21. S. Grabiner, “The nilpotency of Banach nil algebras”, Proc. Amer. Math. Soc., 21:2 (1969), 510  crossref  mathscinet  zmath
22. A. Mallios, Topological algebras. Selected topics, North-Holland Math. Stud., 124, Notas Mat., 109, North-Holland Publishing Co., Amsterdam, 1986, xx+535 pp.  mathscinet  zmath
23. W. G. Bade, H. G. Dales, Z. A. Lykova, Algebraic and strong splittings of extensions of Banach algebras, Mem. Amer. Math. Soc., 137, no. 656, Amer. Math. Soc., Providence, RI, 1999, viii+113 pp.  crossref  mathscinet  zmath
24. A. McIntosh, A. Pryde, “A functional calculus for several commuting operators”, Indiana Univ. Math. J., 36:2 (1987), 421–439  crossref  mathscinet  zmath
25. Л. Хёрмандер, Анализ линейных дифференциальных операторов с частными производными, т. 1, Теория распределений и анализ Фурье, Мир, М., 1986, 464 с.  mathscinet  zmath; пер. с англ.: L. Hörmander, The analysis of linear partial differential operators, т. I, Grundlehren Math. Wiss., 256, Distribution theory and Fourier analysis, Springer-Verlag, Berlin, 1983, ix+391 с.  crossref  mathscinet  zmath
26. E. Albrecht, “Funktionalkalküle in mehreren Veränderlichen für stetige lineare Operatoren auf Banachräumen”, Manuscripta Math., 14 (1974), 1–40  crossref  mathscinet  zmath
27. I. Moerdijk, G. E. Reyes, Models for smooth infinitesimal analysis, Springer-Verlag, New York, 1991, x+399 pp.  crossref  mathscinet  zmath
28. J. Eschmeier, M. Putinar, Spectral decompositions and analytic sheaves, London Math. Soc. Monogr. (N.S.), 10, The Clarendon Press, Oxford Univ. Press, New York, 1996, x+362 pp.  mathscinet  zmath
29. D. Beltiţă, M. Şabac, Lie algebras of bounded operators, Oper. Theory Adv. Appl., 120, Birkhäuser Verlag, Basel, 2001, viii+219 pp.  crossref  mathscinet  zmath
30. W. Rudin, Real and complex analysis, 3rd ed., McGraw-Hill Book Co., New York, 1987, xiv+416 pp.  mathscinet  zmath
31. Э. Б. Винберг, В. В. Горбацевич, А. Л. Онищик, “Строение групп и алгебр Ли”, Группы Ли и алгебры Ли – 3, Итоги науки и техн. Сер. Соврем. пробл. мат. Фундам. направления, 41, ВИНИТИ, М., 1990, 5–253  mathnet  mathscinet  zmath; англ. пер.: A. L. Onishchik, E. B. Vinberg, V. V. Gorbatsevich, “Structure of Lie groups and Lie algebras”, Lie groups and Lie algebras III, Encyclopaedia Math. Sci., 41, Springer-Verlag, Berlin, 1994, 1–248  mathscinet  zmath
32. F. Trèves, Topological vector spaces, distributions and kernels, Academic Press, New York–London, 1967, xvi+624 pp.  mathscinet  zmath
33. А. Я. Хелемский, Лекции по функциональному анализу, МЦНМО, М., 2004, 552 с.; англ. пер.: A. Ya. Helemskii, Lectures and exercises on functional analysis, Transl. Math. Monogr., 233, Amer. Math. Soc., Providence, RI, 2006, xviii+468 с.  crossref  mathscinet  zmath
34. J. Hilgert, K.-H. Neeb, Structure and geometry of Lie groups, Springer Monogr. Math., Springer, New York, 2012, x+744 pp.  crossref  mathscinet  zmath
35. Ю. В. Туровский, “Коммутативность по модулю радикала Джекобсона ассоциативных оболочек некоторых алгебр Ли”, Спектральная теория операторов и ее приложения, 8, Элм, Баку, 1987, 199–211  mathscinet  zmath
36. Р. Нарасимхан, Анализ на действительных и комплексных многообразиях, Мир, М., 1971, 232 с.  zmath; пер. с англ.: R. Narasimhan, Analysis on real and complex manifolds, Adv. Stud. Pure Math., 1, 2nd ed., Masson & Cie, Éditeurs, Paris; North-Holland Publishing Co., Amsterdam–London; Elsevier Publishing Co., Inc., New York, 1973, x+246 с.  mathscinet
37. L. Bungart, “Holomorphic functions with values in locally convex spaces and applications to integral formulas”, Trans. Amer. Math. Soc., 111:2 (1964), 317–344  crossref  mathscinet  zmath
38. J. A. Navarro González, J. B. Sancho de Salas, $C^\infty$-differentiable spaces, Lecture Notes in Math., 1824, Springer-Verlag, Berlin, 2003, xiv+188 pp.  crossref  mathscinet  zmath
39. The Stacks project https://stacks.math.columbia.edu
40. О. Ю. Аристов, “Пучки некоммутативных гладких и голоморфных функций, ассоциированные с неабелевой двумерной алгеброй Ли”, Матем. заметки, 112:1 (2022), 20–30  mathnet  crossref  mathscinet  zmath; англ. пер.: O. Yu. Aristov, “Sheaves of noncommutative smooth and holomorphic functions associated with the non-Abelian two-dimensional Lie algebra”, Math. Notes, 112:1 (2022), 17–25  crossref
41. M. Kapranov, “Noncommutative geometry based on commutator expansions”, J. Reine Angew. Math., 1998:505 (1998), 73–118  crossref  mathscinet  zmath; arXiv: math/9802041
42. O. Yu. Aristov, “Arens–Michael envelopes of nilpotent Lie algebras, holomorphic functions of exponential type and homological epimorphisms”, Тр. ММО, 81, № 1, МЦНМО, М., 2020, 117–136  mathnet  zmath; Trans. Moscow Math. Soc., 81:1 (2020), 97–114  crossref  mathscinet; arXiv: 1810.13213
43. O. Yu. Aristov, Holomorphically finitely generated Hopf algebras and quantum Lie groups, arXiv: 2006.12175
44. Б. В. Шабат, Введение в комплексный анализ, т. II, Функции нескольких переменных, 2-е изд., Наука, М., 1976, 402 с.  mathscinet; англ. пер. 3-го изд.: B. V. Shabat, Introduction to complex analysis, т. II, Transl. Math. Monogr., 110, Functions of several variables, Amer. Math. Soc., Providence, RI, 1992, x+371 с.  mathscinet  zmath

Образец цитирования: О. Ю. Аристов, “Функции класса $C^\infty$ от некоммутирующих переменных в контексте треугольных алгебр Ли”, Изв. РАН. Сер. матем., 86:6 (2022), 5–46; Izv. Math., 86:6 (2022), 1033–1071
Цитирование в формате AMSBIB
\RBibitem{Ari22}
\by О.~Ю.~Аристов
\paper Функции класса $C^\infty$ от некоммутирующих переменных в контексте треугольных алгебр Ли
\jour Изв. РАН. Сер. матем.
\yr 2022
\vol 86
\issue 6
\pages 5--46
\mathnet{http://mi.mathnet.ru/im9236}
\crossref{https://doi.org/10.4213/im9236}
\mathscinet{http://mathscinet.ams.org/mathscinet-getitem?mr=4582545}
\zmath{https://zbmath.org/?q=an:1534.46044}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2022IzMat..86.1033A}
\transl
\jour Izv. Math.
\yr 2022
\vol 86
\issue 6
\pages 1033--1071
\crossref{https://doi.org/10.4213/im9236e}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=000992259900001}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85165350338}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/im9236
  • https://doi.org/10.4213/im9236
  • https://www.mathnet.ru/rus/im/v86/i6/p5
  • Эта публикация цитируется в следующих 3 статьяx:
    Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Известия Российской академии наук. Серия математическая Izvestiya: Mathematics
    Статистика просмотров:
    Страница аннотации:332
    PDF русской версии:28
    PDF английской версии:72
    HTML русской версии:170
    HTML английской версии:112
    Список литературы:56
    Первая страница:7
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2024