Аннотация:
В работе исследуются нелокальные эллиптические операторы на некомпактных пространствах в следующих ситуациях.
Во-первых, на бесконечном цилиндре рассматриваются дифференциально-разностные операторы. Символ таких операторов состоит из трёх компонент – внутреннего символа и конормальных символов на плюс и минус бесконечности. Последние представляют собой семейства дифференциальных операторов с параметром и периодическими коэффициентами, для которых введено понятие эта-инварианта и доказаны его основные свойства. Получена формула индекса, содержащая три слагаемых – аналог интеграла Атьи-Зингера, разность эта-инвариантов на плюс и минус бесконечности, а также третье слагаемое, как и эта-инвариант, зависящее от конормального символа.
Во-вторых, на вещественной прямой рассматриваются псевдодифференциальные операторы с коэффициентами, периодическими на бесконечности. Для дифференциальных операторов получена формула индекса в терминах матриц монодромии предельных операторов на бесконечности, а эта-инвариант выражен в терминах спектра соответствующих матриц монодромии.
В-третьих, рассмотрены нелокальные операторы в R^N, ассоциированные с метаплектической группой. Доказана теорема конечности и найдены явные условия эллиптичности, гарантирующие фредгольмовость, в зависимости от показателя гладкости пространств Соболева, в которых оператор действует.
Результаты частично получены в совместных работах с А.Ю. Савиным и П.А. Сипайло.