Инвариантные подпространства линейных операторов

Лекция посвящена старой проблеме теории линейных операторов, возникшей еще в середине прошлого века и называемой проблемой инвариантных подпространств. Некоторые старшеклассники и многие студенты, знакомые с элементами линейной алгебры, в том числе теорией матриц, знают, что всякий линейный оператор $A$ в $n$-мерном комплексном пространстве имеет собственные векторы, т.е. ненулевые векторы $v$, для которых $Av=kv$. Тем самым есть и нетривиальные (отличные от нуля и всего пространства) подпространства $L$, для которых $A(L)$ содержится в $L$. Такие подпространства называются инвариантными.

Операторы в бесконечномерных пространствах могут не иметь собственных векторов, но встречающиеся в приложениях операторы обладают инвариантными подпространствами. Все ли операторы таковы? В этом и состоит проблема инвариантных подпространств. Правда, в бесконечномерном случае речь идет о непрерывных линейных операторах в сепарабельных банаховых или гильбертовых пространствах, причем от инвариантного подпространства требуется еще и замкнутость (которая автоматически имеет место в конечномерном случае).

Для широких классов операторов существование инвариантных подпространств было установлено такими известными математиками, как фон Нейман, Халмош, Ароншайн еще в середине прошлого века. Позже, в 1970-х годах, появился контрпример П. Энфло, уже прославившегося к тому времени решением знаменитой проблемы Банаха о базисах в банаховых пространствах. Этот пример оператора без инвариантных подпространств в специально устроенном банаховом пространстве сначала был изложен в сравнительно коротком тексте доклада Энфло на семинаре в Париже, затем с подробным обоснованием описан в 100-страничном тексте, который 7 лет проверялся специалистами, прежде чем был наконец опубликован в журнале. Однако проблема для гильбертова пространства с тех пор так и осталась нерешенной. И вот в конце мая сего года тот же самый Энфло, которому в следующем году будет 80, выложил в Матархиве 13-страничный текст с доказательством существования инвариантных подпространств операторов в гильбертовом пространстве! Так решена ли проблема? Как и полвека назад, сейчас специалисты изучают этот текст.

Для понимания канвы доклада достаточно базовых сведений о линейных операторах, для понимания деталей нужно иметь хотя бы знакомство со сходимостью векторов.