| Математический сборник |
|
|
|
|
|
Эта публикация цитируется в 10 научных статьях (всего в 10 статьях) Монотонная линейная связность чебышёвских множеств в трехмерных пространствах А. Р. Алимовabc, Б. Б. Бедновade a Механико-математический факультет, Московский государственный университет имени М. В. Ломоносова b Математический институт им. В. А. Стеклова Российской академии наук, г. Москва c Московский центр фундаментальной и прикладной математики d Московский государственный технический университет имени Н. Э. Баумана (национальный исследовательский университет) e Первый Московский государственный медицинский университет имени И. М. Сеченова
Англоязычная версия:
Sbornik: Mathematics, 2021, Volume 212, Issue 5, Pages DOI: https://doi.org/10.1070/SM9325 
Реферативные базы данных:
     Величиной наилучшего приближения, или расстоянием от заданного элемента $x$ линейного нормированного пространства $X$ до заданного непустого множества $M\subset X$, называется величина $ \rho(x,M):=\inf_{y\in M}\|x-y\| $. Множество всех ближайших точек (элементов наилучшего приближения) из множества $M$ для заданного $x\in X$ обозначается $P_Mx$. Иными словами, $ P_Mx:=\{y\,{\in}\, M\mid \rho(x,M)=\|x-y\|\}$. Множество $M$ называется чебышёвским множеством, если для каждого $x\in X$ множество $P_Mx$ одноточечно. Для непустого подмножества $M\subset X$ точка $x\in X\setminus M$ называется точкой солнечности, если существует точка $y\in P_Mx $ (называемая точкой светимости) такая, что $ y\in P_M\bigl((1-\lambda)y+\lambda x\bigr)$ для всех $ \lambda\geqslant 0$ (иными словами, из точки $y$ исходит “солнечный луч”, проходящий через $x$, для каждой точки которого $y$ является ближайшей во множестве $M$). Множество $M\subset X$ называется солнцем, если каждая точка $x\in X\setminus M$ является точкой солнечности для $M$. “Солнца” являются наиболее естественными объектами, для которых выполнен обобщенный критерий Колмогорова элемента наилучшего приближения (лемма D). Им присущи те или иные свойства отделимости: шар можно отделить от такого множества посредством большего шара или опорного конуса (см., например, [1]). В настоящей работе изучаются структурные свойства чебышёвских множеств в трехмерных пространствах. Ставится задача описания пространств, в которых чебышёвские множества характеризуются в терминах более слабых, чем выпуклость. В качестве такой характеристики рассматривается свойство монотонной линейной связности множества (см. определение 1 ниже). Целью работы является характеризация трехмерных пространств, в которых любое чебышёвское множество монотонно линейно связно (теорема 1). В частности, показывается, что в трехмерных пространствах вида $Y\oplus_\infty\mathbb R$ (где $\dim Y=2$) произвольное чебышёвское множество монотонно линейно связно. Аналогичный вопрос для множеств с полунепрерывной снизу метрической проекцией решен в [7]. Определение 1. Непрерывная кривая $k(\tau)$, $0\leqslant \tau\leqslant 1$, в линейном нормированном пространстве $X$ называется монотонной, если скалярная функция $f(k(\tau))$ является монотонной по $\tau$ для любого функционала $f\in \operatorname{ext}S^*$ (здесь и ниже $\operatorname{ext}S^*$ – множество крайних (экстремальных) точек единичной сферы $S^*$ сопряженного пространства). Замкнутое множество называется монотонно линейно связным (см. [5], [1; § 9]), если любые две его точки можно соединить непрерывной монотонной кривой, лежащей в этом множестве. Монотонная линейная связность является более слабым свойством, чем выпуклость, и более сильным, чем линейная связность. Например, окружность на евклидовой плоскости линейно связна, но не монотонно линейно связна, а координатный крест монотонно линейно связен, но не является выпуклым множеством. Классическим примером монотонно линейно связного множества является множество (обобщенных) дробно-рациональных функций в пространстве $C(Q)$ (см., например, [17; § 4]). Понятие монотонной линейной связности играет важную роль во многих задачах теории приближений и ее приложений (см. работы [17], [16] и приведенные в них ссылки). К примеру, здесь можно отметить результат о солнечности чебышёвских множеств в бесконечномерных линейных нормированных пространствах при условии его монотонной линейной связности (см. [1; п. 9.2], [17]). Взаимосвязь монотонных (в каком-нибудь смысле) множеств с классом солнц и чебышёвских множеств активно изучается в последнее время. Напомним, что точка $s$, лежащая на границе единичного шара $B$, называется точкой гладкости шара $B$ (единичной сферы $S$) пространства $X$, если опорная гиперплоскость к шару $B$ в точке $s$ единственна (иными словами, если в точке $s$ норма пространства $X$ дифференцируема по Гато). Через $\operatorname{sm}S$ обозначим множество всех точек гладкости сферы $S$. Точка $s\in S$ называется достижимой точкой шара $B$ (единичной сферы $S$), если найдется опорная гиперплоскость $H$ к шару $B$ в точке $s$ такая, что $H\cap B=\{s\}$. Через $\operatorname{exp}S$ мы будем обозначать множество всех достижимых точек сферы $S$. Следующий классический результат, установленный независимо В. И. Бердышевым и A. Брондстедом (см., например, [9], [10]), характеризует трехмерные нормированные пространства, в которых любое чебышёвское множество выпукло. Теорема A. В трехмерном нормированном пространстве любое чебышёвское множество выпукло, если и только если каждая достижимая точка единичной сферы $S$ является точкой гладкости (т.е. $\operatorname{exp}S\subset \operatorname{sm}S)$. Такое же условие (т.е. $\operatorname{exp}S\,{\subset}\,\operatorname{sm}S)$ является характеристическим в задаче о выпуклости чебышёвских множеств и для четырехмерных пространств (в симметричном случае соответствующая характеризация получена А. Л. Брауном, в несимметричном – А. Р. Алимовым; см. [8]). Для пространств большей размерности ответ в задаче о характеризации пространств, в которых любое чебышёвское множество выпукло, до сих пор не получен. Также напомним, что если $X_1$, $X_2$ – линейные нормированные пространства, то $\ell^\infty$-прямой суммой $X_1\oplus _\infty X_2$ пространств $X_1$ и $X_2$ называется их прямая сумма с нормой $\|(x_1,x_2)\|_\infty=\max\{\|x_1\|_{X_1}, \|x_2\|_{X_2}\}$. Основным результатом настоящей работы является следующая теорема. Теорема 1. В трехмерном нормированном пространстве $X$ любое чебышёвское множество монотонно линейно связно, если и только если выполнено одно из следующих двух условий: 1) любая достижимая точка единичной сферы пространства $X$ является точкой гладкости ($\operatorname{exp}S \subset \operatorname{sm}S$); 2) $X=Y\oplus_\infty \mathbb R$ (т.е. единичная сфера пространства $X$ – цилиндр). В теореме 1 достаточность доказана первым автором, необходимость – вторым автором. Замечание 1. На нормированной плоскости любое чебышёвское множество (и, более общо, любое солнце) монотонно линейно связно (см. [4]). В настоящей работе важную роль играет аппарат выпуклости множества по направлениям и, в частности, формулируемые ниже теоремы B и C о выпуклости солнц по касательным направлениям сферы (см. [2]). Всюду ниже $X$ – действительное линейное нормированное пространство; $B(x,r)$ – замкнутый шар с центром $x$ и радиусом $r$; $\mathring B(x,r)$ – открытый шар с центром $x$ и радиусом $r$; $S(x,r)$ – сфера с центром $x$ и радиусом $r$. В частном случае мы полагаем: $B:=B(0,1)$ – единичный шар, $S=S(0,1)$ – единичная сфера, $S^*$ – единичная сфера сопряженного пространства. Хорошо известно, что в конечномерном линейном нормированном пространстве: 1) любое чебышёвское множество является солнцем; 2) любое солнце линейно связно и локально линейно связно (см. [1]). При изучении связности солнц в конечномерных пространствах А. Л. Браун (см. [11], [1; п. 9.3]) ввел важный класс (BM) линейных нормированных пространств. В таких пространствах оказалось возможным установить ряд нетривиальных результатов о геометрическо-топологических свойствах солнц и чебышёвских множеств. Мы говорим, что $X$ – (BM)-пространство, если
$$
\begin{equation*}
B(0,\|x\|)\cap \bigl(\mathrm{m}(x,y)\setminus\{x\}\bigr)\ne\varnothing
\end{equation*}
\notag
$$
при условии, что $ [x,x-y]\cap \mathring B(0,\|x\|)=\varnothing$, $ x\ne 0$. Здесь и далее через $\mathrm{m}(x,y)$ обозначается пересечение всех замкнутых шаров, содержащих точки $x$, $y$ (оболочка Банаха–Мазура точек $x$ и $y$).
Класс ($\mathrm{BM}$)-пространств содержит в себе все гладкие пространства, все двумерные пространства с полигональным единичным шаром, пространства $\ell^\infty_n$, $c_0$, $c$, $\ell^\infty$ (см. [1]). Строго выпуклое пространство лежит в классе (BM) тогда и только тогда, когда оно гладкое (см. [11]). Пространства $\ell^1$, $\ell^1_n$, $n\geqslant 3$, не принадлежат классу $(\mathrm{BM})$. Двумерные и трехмерные (BM)-пространства охарактеризованы A. Л. Брауном в [11] и [12; теорема 5.1] (леммы A и B). Лемма A. Для двумерного нормированного пространства $X$ следующие условия эквивалентны: a) $X\in (\mathrm{BM})$; b) $\operatorname{sm} S^*\cap \operatorname{ext}S^*\subset \operatorname{exp}S^*$; c) если $x\in S$, то или $x\in \operatorname{sm}S$, или $s$ – общая крайняя точка двух отрезков, лежащих в сфере $S$. Как следствие, двумерное полиэдральное пространство лежит в классе ($\mathrm{BM}$). Лемма B. Трехмерное пространство $X$ лежит в классе ($\mathrm{BM}$), если и только если $X$ или является гладким пространством, или имеет вид $X=Y\oplus_\infty\mathbb R$, где $Y$ – двумерное $(\mathrm{BM})$-пространство. В конечномерном пространстве монотонно линейно связное множество является солнцем (см. [1; теорема 9.3]). Однако имеются примеры конечномерных пространств (любой размерности $\geqslant 3$), содержащих не монотонно линейно связные чебышёвские множества и солнца (см., например, [1; пример 9.1]). Различные варианты монотонной связности (устойчивая монотонная связность, слабая монотонная связность, монотонная линейная связность в несимметричных пространствах) и их приложения к вопросу существования непрерывных выборок из множеств наилучших и почти наилучших приближений исследовались И. Г. Царьковым (см. [15]–[17]). Известен следующий результат (см. [11; теоремы 4.1 и 4.2], [4; теорема 4.1]). Лемма C. Произвольное солнце (и, следовательно, произвольное чебышёвское множество) на нормированной плоскости и в конечномерном (BM)-пространстве монотонно линейно связно. Для негладких пространств иной структуры (и размерности $\geqslant 3$) вопрос о монотонной линейной связности чебышёвских множеств и солнц ранее не рассматривался. Замечание 2. Трехмерное пространство вида $X=Y\oplus_\infty \mathbb R$ не обязательно лежит в классе (BM), например, в качестве $Y$ можно взять пространство со строго выпуклым негладким шаром. Поэтому достаточность в теореме 1 не вытекает из леммы C. Напомним (см. [1; п. 3.2]), что под опорным конусом к шару $B(x,\|x-y\|)$ в его граничной точке $y$ мы понимаем множество
$$
\begin{equation}
\mathring K(y,x)=\bigcup_{r>0}\mathring B\bigl(-ry+(r+1)x,(r+1)\|x-y\|\bigr),
\end{equation}
\tag{1}
$$
состоящее из гомотетичных раздутий шара $\mathring B(x,\|x-y\|)$ относительно точки $y$. Ниже $K(y,x)$ – замыкание открытого конуса $\mathring K(y,x)$.
Следующий результат представляет собой аналог классического критерия Колмогорова ближайшего элемента для выпуклых множеств (см., например, [1; теорема 3.1]). Лемма D. Множество $M\subset X$ является солнцем в $X$ тогда и только тогда, когда для каждой точки $x\notin M$ найдется точка $y\in P_Mx$ такая, что $\mathring K(y,x)\cap M=\varnothing$. Нам также потребуются следующие два результата о выпуклости солнц по касательным направлениям единичной сферы (см. [2], [3]). Сначала дадим необходимые определения. Определение 2 (см. [3]). Пусть $y\in S$. Через $\Lambda_y$ мы обозначаем множество предельных точек отношения $(y-z)/\|y-z\|$ при $z\to y$, $z\in S$ ($\Lambda_y$ – множество полукасательных направлений к сфере $S$ в точке $y$). Направление $d$ называется (глобально) касательным направлением для сферы $S$, если для любой точки $y\in S$ условие опорности направления $d$ в точке $y$ влечет, что $d\in \Lambda_y$, т.е. направление $d$ является касательным в точке $y$. Множество $M$ называется выпуклым по направлению $d$, если условие $x,y\in M$, $(y-x)\parallel d$, влечет, что $[x,y]\subset M$. Теорема B. В нормированном пространстве солнце выпукло по любому касательному направлению единичной сферы. Теорема C. Подмножество двумерного банахова пространства является солнцем, если и только если оно замкнуто, связно и выпукло по любому касательному направлению сферы. Определение 3. Под плоскостью мы будем понимать двумерное аффинное подпространство в $X$. Если $X=Y\oplus_\infty \mathbb R$ – трехмерное пространство с цилиндрической нормой, то под координатной плоскостью мы будем понимать либо плоскость, параллельную основанию единичного шара $B$ (цилиндра), либо плоскость, параллельную двумерной плоскости, натянутой на образующую цилиндра $B$ и некоторое касательное направление к единичной сфере $S_Y$ пространства $Y$. В частности, плоскость, параллельная двумерной боковой грани цилиндра $B$ (если такая имеется), является координатной. На любой плоскости $H$ рассматривается норма, индуцированная нормой пространства $X$ на $H$ (в качестве начала координат плоскости $H$ можно брать любую точку $\theta$ из $H$; единичный шар $B_H$ пространства $H$ определяется пересечением $B(\theta,1)\cap H$). В случае $X=Y\oplus_\infty \mathbb R$ плоскости, параллельные плоскости $Y$ (или, что то же самое, основанию цилиндра – единичного шара $B$ пространства $X$), будем называть главными координатными плоскостями. Единичный шар любой главной координатной плоскости $H$ получается параллельным переносом единичного шара плоскости $Y$. Лемма 1 (см. также [7]). Пусть $M$ – чебышёвское множество в трехмерном пространстве вида $X=Y\oplus_\infty \mathbb R$, $H$ – главная координатная плоскость в $X$, и пусть $M\cap H\ne\varnothing$. Тогда $M\cap H$ – солнце в $H$. Доказательство. Поскольку $M$ – солнце в $X$, то по теореме B множество $M$ выпукло по любому касательному направлению (к сфере пространства $X$ и, следовательно, к сфере пространства $H$). В нашем случае шар пространства $X$ – цилиндр, его основание – шар пространства $H$. По теореме C будет доказано, что $M\cap H$ – солнце в $H$, если мы покажем, что множество $M':=M\cap H$ связно. Рассуждая от противного, предположим, что $M'$ несвязно. Тогда (см., например, [1; теорема 5.2]) множество $M'$ также не $P$-связно в пространстве $H$ (т.е. для некоторой точки $x\in H$ множество ее ближайших точек из $M'$ относительно нормы $\|\,{\cdot}\,\|_H$ несвязно). Без ограничения общности можно считать, что $0\in H$, $x=0$, $\rho_H(0,M')=1$. Тогда пересечение $B_H\cap M'$ несвязно (при этом $\mathring B_H\cap M'=\varnothing$, где $\mathring B_H$ – открытый единичный шар в $H$). Соответственно найдутся точки $u,v\in B_H\cap M'$, $u\ne v$ ($u$, $v$ – ближайшие точки из $M'$ для $0$ на плоскости $H$). Плоскость $H$ разбивает пространство $X$ на два открытых полупространства $\Pi^\pm$. Обозначим $\mathring B_H^\pm :=\{z\in \Pi^\pm \mid z=y +s$, где $y\in \mathring B_H$, а $s$ – единичный вектор, перпендикулярный плоскости $H\}$.
Хорошо известно, что чебышёвское множество в конечномерном нормированном пространстве $\mathring B$-связно, т.е. имеет связные пересечения с открытыми шарами (см., например, [1; теорема 5.2]). Поскольку по сказанному выше $\mathring B_H\cap M=\varnothing$ и так как множество $\mathring B_H$ разделяет шар $\mathring B$ на две несвязные компоненты, то выполняется хотя бы одно из следующих двух равенств:
$$
\begin{equation}
M\cap (\mathring B_H^+\cap \mathring B)=\varnothing, \qquad M\cap (\mathring B_H^-\cap \mathring B)=\varnothing .
\end{equation}
\tag{2}
$$
Без ограничения общности можно считать, что выполнен первый случай, т.е. у цилиндра $B$ внутренность “верхней половинки” не содержит точек из $M$. Для $\alpha \geqslant 0$ рассмотрим точку $w_\alpha :=(1-\alpha )u+\alpha s$. Хорошо известно, что $B(x,r)\subset B(x',r') $, если и только если $\|x-x'\|\leqslant r'-r$. Отсюда следует, что при $0<\alpha <1/2$ шар $B(w_\alpha ,\alpha )$ содержится в шаре $B(0,1)$, а при малых $\alpha >0$ он лежит в замыкании полупространства $\Pi^+$, поэтому $\mathring B(w_\alpha ,\alpha )\subset (\mathring B_H^+\cap \mathring B)$ при малых $\alpha >0$. Так как по (2) $M\cap (\mathring B_H^+\cap \mathring B)=\varnothing $, то $M\cap \mathring B(w_\alpha ,\alpha )=\varnothing$, и поскольку $\|u-w_\alpha \|=\alpha $, то $u$ – ближайшая точка из $M$ для точки $w_\alpha $. По лемме D $\mathring K(u,w_\alpha )\cap M=\varnothing$, что вместе с представлением (1) для конуса $\mathring K(u,w_\alpha )$ влечет, что $\mathring B(w_1,1)\cap M=\varnothing$ ($w_1=s$ по определению точки $w_\alpha $). Ясно, что $u\in S(w_1,1)$. По построению $B(w_1,1)\,{\cap}\, H=B_H$, поэтому $v\in S(w_1,1)$. Таким образом, поскольку $\mathring B(w_1,1)\cap M=\varnothing$ и $u,v\in S(w_1,1)$, то $u,v\in P_Mw_1$, что противоречит тому, что $M$ – чебышёвское множество.
Лемма доказана. Для чебышёвского множества $M$ из трехмерного пространства $X=Y\oplus_\infty \mathbb R$ рассмотрим аналогичный вопрос об аппроксимативных свойствах множества $M\cap H$, где
$$
\begin{equation}
\begin{aligned} \, &\text{плоскость $H$ параллельна плоскости, порожденной образующей} \\ &\text{цилиндра $B$ и произвольным фиксированным касательным на-} \\ &\text{правлением шара $B_Y$ пространства $Y$}. \end{aligned}
\end{equation}
\tag{3}
$$
Пусть $\|\,{\cdot}\,\|_H$ – норма на $H$, индуцированная нормой пространства $X$ (как и выше, за начало координат берем любую точку из $H$). Понятно, что единичная сфера пространства $H$ является прямоугольником. Без ограничения общности (см. [1; теорема 8.15]) мы будем отождествлять $H$ с пространством $\ell^\infty_2=(\mathbb R^2,\|\,{\cdot}\,\|_\infty)$. Лемма 2. Пусть $M$ – чебышёвское множество в трехмерном пространстве вида $X=Y\oplus_\infty \mathbb R$, и пусть плоскость $H$ определена в (3). Тогда если $M\cap H\ne\varnothing$, то Замечание 3. В условиях леммы 2 непустое множество $M\cap H$ может не быть чебышёвским множеством в $H$ (хотя по лемме 2 пересечение $M\cap H$ является солнцем в $H$). В качестве примера рассмотрим пространство $X=\ell^2_2\oplus_\infty\mathbb R$ с единичным шаром $B$. Пусть точка $s$ лежит на относительной границе основания цилиндра (единичного шара пространства $Y$). Такая точка $s$ является достижимой, поэтому найдется опорная плоскость $G$ такая, что $G\cap B=\{s\}$. Ясно, что $G$ – чебышёвское множество в $X$. Пусть $H$ – опорная плоскость к шару $B$, проходящая через точку $s$ и содержащая образующую цилиндра $B$. Поскольку $H\cap G$ – прямая, параллельная основанию цилиндра, то она не является чебышёвским множеством в $H$. Замечание 4. Отметим без доказательства, что в условиях леммы 2 в полиэдральном трехмерном пространстве вида $X=Y\oplus_\infty \mathbb R$ непустое множество $M\cap H$ является чебышёвским множеством в $H$. Для проверки этого факта достаточно воспользоваться солнечностью множества $M\cap H$ (лемма 2) и утверждением о том, что в конечномерном пространстве любая граничная точка солнца является точкой светимости (см. [1; предложение 4.1]). Нам далее потребуется (см. [11; теорема 4.2]) следующая характеризация А. Л. Брауна солнц в конечномерных $(\mathrm{BM})$-пространствах в терминах $\operatorname{m}$-связности (связности по Менгеру). Лемма E. Непустое подмножество $N$ конечномерного $(\mathrm{BM})$-пространства является солнцем, если и только если оно $\operatorname{m}$-связно, т.е. Напомним, что $\operatorname{m}(x,y)$ – пересечение всех шаров, содержащих точки $x$ и $y$. Доказательство леммы 2. Обозначим для краткости $M':=M\cap H$. Рассуждая от противного, предположим, что $M'$ не является солнцем в $H$. Напомним, что $H$ отождествляется с пространством $\ell^\infty_2=(\mathbb R^2,\|\,{\cdot}\,\|_\infty)$. Поскольку $\ell^\infty_n\in (\mathrm{BM})$, то по лемме E непустое множество $N$ является солнцем в пространстве $\ell^\infty_n$, если и только если оно m-связно. Иными словами,
$$
\begin{equation}
N\ \text{- солнце в}\ \ell^\infty_n \iff (\operatorname{m}_\infty(x,y)\setminus\{x,y\})\cap N\ne \varnothing \quad \forall\,x,y\in N, \quad x\ne y,
\end{equation}
\tag{4}
$$
где по определению $\operatorname{m}_\infty(x,y)$ – пересечение всех шаров пространства $\ell^\infty_n$, содержащих точки $x$ и $y$. По предположению множество $M'$ не является солнцем. Тогда $M'$ не $\operatorname{m}$-связно. Поэтому по (4) найдутся точки $u,v\in M'$, $u\ne v$, такие, что (здесь и ниже $\operatorname{m}_H(u,v)$ обозначает пересечение всех замкнутых шаров пространства $H$, содержащих точки $u$ и $v$).
Для $x=(x^{(1)},x^{(2)})$ и $y=(y^{(1)},y^{(2)})\in H$ положим
$$
\begin{equation*}
x \mathrel{=\!\!\!\mid\,} y,\quad\text{если }x^{(i)}\ne y^{(i)}\quad\text{для всех }i=1,2.
\end{equation*}
\notag
$$
Покажем, что $u \mathrel{=\!\!\!\mid\,} v$ (в пространстве $H$). Рассуждая от противного, предположим, что у точек $u$ и $v$ первые координаты одинаковые. Так как по построению одномерные грани единичного шара $B_H$ (квадрата) пространства $H$ параллельны касательным направлениям шара $B_X$ пространства $X$ и так как $M$ – солнце в $X$, то по теореме B множество $M$ выпукло по любому касательному направлению к сфере пространства $H$. Поэтому равенство первых координат у точек $u$ и $v$ влекло бы, что отрезок $[u,v]$ содержался бы в $M$, что, однако, противоречит (5). Поэтому $u \mathrel{=\!\!\!\mid\,} v$ (в пространстве $H$), и, значит, $\operatorname{m}_H(u,v)$ – невырожденный прямоугольник в пространстве $H$ ($\operatorname{m}_H(u,v)$ – растяжение шара $B_H$ вдоль его ребра). Пусть $u$, $s$, $v$, $t$ – вершины прямоугольника $\operatorname{m}_H(u,v)$. Для $z\in \operatorname{m}_H(u,v)$ через $p(z)$ обозначим ближайшую точку из $M$ для $z$ в норме пространства $X$. По лемме D В зависимости от положения точки $z$ на квадрате $\operatorname{m}_H(u,v)\setminus\{u,v\}$ (и соответственно точки $p(z)$ на сфере (цилиндре) $S(z,\|z-p(z)\|)$) при пересечении конуса $\mathring K(p(z),z)$ с плоскостью $H$ получается множество только одного из следующих видов: 1) плоскость $H$; 2) открытое полупространство в $H$ с границей, параллельной одной из сторон прямоугольника $\operatorname{m}(u,v)$; 3) сдвиг $\mathring K_i+u_z$ одного из четырех открытых координатных квадрантов $\mathring K_i=\{\mathring K(p_i,0)-p_i\}$, $i=1,\dots,4$, плоскости $H$, где $p_i$, $i=1,\dots, 4$, – крайние точки единичного шара $B_H$ пространства $H$, а точка $u_z$ зависит от точки $z$. Здесь мы воспользовались тем, что согласно (3) плоскость $H$ параллельна плоскости, порожденной образующей цилиндра $B$ и произвольным фиксированным касательным направлением шара $B_Y$ пространства $Y$, поэтому пересечение $\mathring K(p(z),z)\cap H$ не может быть полосой. Пусть точка $z$ лежит на отрезке $[s,t]$. Ясно, что для точки $z\in [s,t]$ выполнение любого из случаев 1) или 2) ведет к противоречию с (6): одна из точек $u$ или $v$ обязательно попадает в конус $\mathring K(p(z),z)$. Для $\zeta\notin M$ рассмотрим отображение $ \zeta \mapsto \varphi (\zeta):= ({p(\zeta)-\zeta})/{\|p(\zeta)-\zeta\|}$. Поскольку $M$ – чебышёвское множество в конечномерном пространстве, то отображения $p(\,{\cdot}\,)$ и $\varphi (\,{\cdot}\,)$ непрерывны (хорошо известно, что метрическая проекция на чебышёвское множество в конечномерном пространстве непрерывна). Далее, если для $z\in [s,t]$ точка $\varphi (z)$ лежала бы в относительной внутренности собственной боковой грани цилиндра $B_X$, то линейная размерность конуса $\mathring K(\varphi (z),0)$ была бы не меньше 1, что возможно только в случае 1) или 2), а по сказанному выше для любой точки $z\in [s,t]$ всегда выполнен случай 3). Определим нижнюю гипергрань $\underline F$ сферы $S_X$ как $\underline F:=S_Y\oplus_\infty \{-1\}$. Аналогично определяется верхняя гипергрань $\overline F$. Таким образом, при $z\in [s,t]$ точка $\varphi (z)$ лежит либо на нижней, либо на верхней главной гиперграни сферы $S_X$, причем
$$
\begin{equation}
\text{$\varphi (s)$ и $\varphi (t)$ не лежат на одной и той же главной гиперграни сферы $S_X$}.
\end{equation}
\tag{7}
$$
Действительно, пусть (7) не выполнено. Тогда без ограничения общности можно считать, что как $\varphi (s)$, так и $ \varphi (t)$ лежат на нижней главной гиперграни $\underline F$ сферы $S_X$. Пусть $p(t)=:\{w\}$, $r:=\rho(t,M)$. Без ограничения общности мы можем считать, что вектор $u\,{-}\,t$ направлен “в положительном направлении”, т.е. $u\,{-}\,t=0\oplus_\infty \{c\}$ при некотором $c\,{>}\,0$. Это влечет, что луч $\{\lambda u +(1-\lambda )t\mid \lambda >0\}$ пересекает верхнюю грань сферы $S(t,r)$ по центру этой грани. По условию $ \varphi (t)\in \underline F$, поэтому точка $w$ лежит на нижней грани сферы $S(t,r)$. Из последних двух утверждений вытекает, что $[w,u]\cap \mathring B(t,r)\ne \varnothing$. Хорошо известно, что $\mathring K (w,t)=\{z\in X\mid [w,z]\cap \mathring B_X(t,r)\ne \varnothing\}$ (см., например, [1; п. 3.1]). Поэтому $u\in \mathring K(w,t)$, что невозможно по лемме D. Полученное противоречие доказывает утверждение (7). Поскольку отображение $\varphi $ непрерывно, то образ отрезка $[s,t]$ связен, и, следовательно по (7) не может содержаться в (дизъюнктном) объединении двух главных гиперграней сферы $S_X$. Поэтому образ отрезка $[s,t]$ при отображении $\varphi $ содержит точки из боковой поверхности шара $B_X$. Но для прообраза любой такой точки при отображении $\varphi $ обязательно выполнен случай 1) или 2), что, как и выше, приводит к противоречию с (6). Таким образом, исходное предположение, что $M'$ не является солнцем в $H$, неверно, поэтому $M\cap H$ – солнце в $H$ для любой координатной плоскости $H$. Лемма 2 доказана. Определение 4. Пусть $X$ – трехмерное пространство вида $X=Y\oplus_\infty \mathbb R$. На плоскости $Y$ введем норму $\|\,{\cdot}\,\|_{Y_P}$, единичным шаром которой является многоугольник $P$. Полученное таким образом пространство обозначим через $Y_P$. По построению мы считаем, что Определим пусть $B_P$ – единичный шар пространства $X_P$ ($B_P$ – полиэдральный цилиндр), $\|\,{\cdot}\,\|_P$ – норма пространства $X_P$. Ниже индекс $P$ будет соответствовать объектам в трехмерном пространстве $X$, определяемым в терминах нормы $\|\,{\cdot}\,\|_P$, а индекс $H$ – объектам на плоскости $H$, определяемым в терминах нормы $\|\,{\cdot}\,\|_H$, где плоскость $H$ определена в (3). Лемма 3. Пусть $M$ – чебышёвское множество в $X=Y\oplus_\infty \mathbb R$. Тогда множество $M$ – монотонно линейно связное солнце в пространстве $X_P$, где $X_P$ определено в (8), (9). Замечание 5. Требование (8) из определения 4 пространства $X_P$ в условиях леммы 3 существенно. Иными словами, заключение леммы 3 перестает быть верным в произвольном цилиндрическом пространстве $X_Q=Y_Q\oplus_\infty \mathbb R$. Действительно, рассмотрим трехмерное пространство $X=Y\oplus_\infty \mathbb R$, где двумерное пространство $Y$ имеет негладкую строго выпуклую единичную сферу $S_Y$ и $s$ – точка негладкости сферы $S_Y$ (рис. 1). В нашей ситуации $B_X=B_Y \oplus_\infty [-1,1]$ ($B_Y$ – единичный шар пространства $Y$). Положим $a:= 0\oplus_\infty \{1\}$ и определим $\widehat S_Y:=S_Y\,{+}\,a$ (“верхняя грань” цилиндра $B$), $\widehat s:= s\,{+}\,a$, $\widehat Y := Y+a$. Пусть $L_1$, $L_2$ – две опорные прямые к сфере $\widehat S_Y$ в плоскости $\widehat Y$ в точке $\widehat s$ такие, что $L_i\cap \widehat S_Y=\{\widehat s\}$, $i=1,2$. Множество всех единичных опорных функционалов в точке $\widehat s$ к шару $B_X$ пространства $X$ образует двумерную грань $F$ на сфере $S^*$. Поэтому можно выбрать два функционала $f_1,f_2 \in F$ таким образом, что $H_i\cap \widehat Y=L_i$ и $H_i\cap S_X=\{\widehat s\}$, где $H_i:=\{x\in X\mid f_i(x)=1\}$, $i=1,2$. Пусть $\Pi_i$ – замкнутое опорное полупространство к шару $B_X$ в точке $\widehat s$ с границей $H_i$, $i=1,2$. Ясно, что множество $M=\Pi_1\cup \Pi_2$ является чебышёвским в $X$. Пусть теперь $f=(f_1+f_2)/2$. Такой функционал также является опорным к шару $B_X$ в точке $\widehat s$, и гиперплоскость $H:=\{x\mid f(x)=1\}$ пересекает шар $B_X$ только по точке $\widehat s$. Пусть $L:=H\cap \widehat Y$. Для точки $t\in (\widehat s, a)$ рассмотрим прямую $\widehat L_t:=L+t-\widehat s$, положим $L_t:=\widehat L_t -a$ и определим шар $B_Y'$ как часть шара $B_Y$, заключенную между прямыми $\pm L_t$. Направление прямой $L_t$ является касательным направлением к сфере $S_Y'$. Однако множество $M$, очевидно, не выпукло по этому направлению. Поэтому по теореме B множество $M$ не является солнцем в пространстве $X$ с единичным шаром $B'_Y\oplus_\infty [-1,1]$. Отметим, что аналогичный пример можно построить и в полиэдральном пространстве. При доказательстве леммы 3 мы будем использовать еще одну характеризацию солнц в пространстве $\ell^\infty_n$ (см. [6]). Лемма F. Непустое множество $N\subset \ell^\infty_n$ является солнцем в $\ell^\infty_n$, если и только если $N$ замкнуто, связно и пересечение $N$ с любой координатной аффинной гиперплоскостью $H$ в $\ell^\infty_n$ является солнцем в $H$ или пусто. Доказательство леммы 3. Наши рассуждения будут аналогичны доказательству достаточности в лемме F. Поскольку единичный шар пространства $X_P$ – полиэдральный цилиндр, то $X_P\in (\mathrm{BM})$ по лемме B.
Рассуждая от противного, допустим, что утверждение леммы 3 неверно, т.е. множество $M$ не является солнцем в пространстве $X_P$. Так как по сказанному выше $X_P\in (\mathrm{BM})$, то по лемме E найдутся точки $x,y\in M$, $x\ne y$, такие, что
$$
\begin{equation}
(\operatorname{m}_P(x,y)\setminus\{x,y\})\cap M =\varnothing .
\end{equation}
\tag{10}
$$
Пусть $H$ – координатная плоскость пространства $X_P$, $H\cap M\ne \varnothing$. Покажем, что случай $x,y\in H$ невозможен. Рассуждаем от противного. Если $x,y\,{\in}\, H$, то, очевидно, $\operatorname{m}_P(x,y) \cap H=\operatorname{m}_P(x,y)=\operatorname{m}_H (x,y)$. Далее, по леммам 1 и 2 пересечение $M\,{\cap}\, H$ является солнцем в $H$ и, следовательно, $(\operatorname{m}_H(x,y)\setminus\{x,y\})\cap M \ne \varnothing $ по лемме E, что противоречит (10). Поэтому точки $x$ и $y$ не могут лежать в одной координатной плоскости. Как следствие, многогранник $\operatorname{m}_P(x,y)$ является телом.
Пусть $F_1,\dots,F_\nu$ – все двумерные грани тела $\operatorname{m}_P(x,y)$, содержащие точку $x$, и пусть $E_1,\dots,E_\mu$ – все двумерные грани тела $\operatorname{m}_P(x,y)$, содержащие точку $y$ (так как $\operatorname{m}_P(x,y)$ – цилиндр, то $\nu, \mu\leqslant 3$). По (10) имеем
$$
\begin{equation*}
F_i\cap M=\{x\}, \quad E_j\cap M=\{y\}, \qquad i=1,\dots, \nu, \quad j=1,\dots, \mu.
\end{equation*}
\notag
$$
Для произвольного множества $F\subset\mathbb R^3$ и его граничной точки $z$ определим
$$
\begin{equation*}
\operatorname{cone}(F,z):=\{\alpha f+(1-\alpha)z\mid f\in F,\ \alpha\geqslant 0\}.
\end{equation*}
\notag
$$
Ясно, что направление является касательным для сферы $S_Z$ некоторого двумерного банахова пространства $Z$ тогда и только тогда, когда оно параллельно некоторому невырожденному отрезку из границы $\operatorname{m} _Z(x, y)$ при некоторых $x$, $y$. Это замечание показывает, что любая из плоскостей $\operatorname{aff} F_i$, $\operatorname{aff} E_j$ (аффинных оболочек граней $F_i$ и $E_j$ соответственно) является координатной в $X$ в смысле определения 3. Далее, по леммам 1, 2 пересечение множества $M$ с координатной плоскостью $\operatorname{aff} F_i$ является солнцем для любого $i$. Отсюда, поскольку по (10) $F_i\cap M=\{x\}$ для любого $i$ и $E_j\cap M=\{y\}$ для любого $j$, получаем
$$
\begin{equation}
\operatorname{cone}(F_i,x)\cap M=\{x\}, \quad \operatorname{cone}(E_j,y)\cap M=\{y\}, \qquad i=1,\dots, \nu, \quad j=1,\dots, \mu.
\end{equation}
\tag{11}
$$
Множество $M$ линейно связно (как чебышёвское множество в конечномерном пространстве $X$) и $x,y\in M$, но точки $x$, $y$ нельзя соединить кривой, лежащей в $M$, поскольку множество
$$
\begin{equation*}
U=\biggl(\operatorname{m}(x,y)\cup \biggl(\bigcup_{i=1}^\nu \operatorname{cone}(F_i,x)\biggr) \cup \biggl(\bigcup_{j=1}^\mu \operatorname{cone}(E_j,y)\biggr)\biggr)\setminus \{x,y\}
\end{equation*}
\notag
$$
разделяет пространство $X$, $U\cap M=\varnothing$ в силу (11), а точки $x$ и $y$ лежат в разных компонентах связности множества $X\setminus U$. Полученное противоречие показывает, что $M$ – солнце в $X_P$. Так как $X_P$ – полиэдральное пространство с цилиндрической нормой, то по лемме B $X_P \in (\mathrm{BM})$, поэтому из солнечности $M$ в $X_P$ вытекает, что $M$ монотонно линейно связно в пространстве $X_P$ (см. [1; п. 9.4]).
Лемма 3 доказана. Доказательство теоремы 1. Достаточность. Согласно теореме A, если в трехмерном пространстве $X$ любая достижимая точка единичной сферы является точкой гладкости, то любое чебышёвское множество в $X$ выпукло. Ясно, что выпуклое чебышёвское множество $N$ монотонно линейно связно. (Действительно, любые две точки множества $N$ можно соединить отрезком, полностью содержащимся в $N$, а отрезок монотонен относительно каждого функционала из $X^*$.)
Пусть $M$ – чебышёвское множество в трехмерном пространстве $X=Y\oplus_\infty \mathbb R$ с цилиндрической нормой. Установим, что Для этой цели мы построим последовательность $Q_n\subset Y$ центрально-симметричных выпуклых многоугольников с центром в $0$ таких, что полиэдральные цилиндры $P_n:=Q_n\oplus_\infty [-1,1]$ (определенные в (8) и (9) с $P=P_n$) будут аппроксимировать единичный шар $B$ пространства $X$ при $n\to \infty$. Построение осуществляется следующим образом. На единичной сфере $S_Y$ (двумерного) пространства $Y$ существует счетное всюду плотное множество $G$ точек гладкости (классическая теорема Мазура; см., например, [12; § 1]). Каждой такой точке $s\in G$ соответствует экстремальный функционал $\varphi _s$ из сферы $S^*_Y$, линия уровня которого $\{x\in X \mid \varphi _s(x)=1\}$ является опорной прямой к сфере $S_Y$ в пространстве $Y$ (это соответствие не обязательно взаимно однозначное). Если таких экстремальных функционалов конечное число, то $S_Y$ – многоугольник, $B_Y$ – полиэдральный цилиндр и требуемый результат следует из лемм C и B. Соответственно считаем, что $\Phi:=\{\varphi _s\mid s\in G\}$ бесконечно. Множество $\Phi$ плотно во множестве всех экстремальных функционалов $\operatorname{ext} S^*_Y$, поскольку по классической теореме Страшевича из выпуклого анализа (см., например, [14; теорема 1.18.5]) множество достижимых точек выпуклого подмножества конечномерного пространства плотно во множестве его экстремальных точек, а любой функционал $\varphi _s$, где $s\in G$, является достижимой точкой сферы $S^*_Y$. Пусть $F=(f_i)_{i\in \mathbb N}$ – счетное всюду плотное подмножество $\Phi$. Напомним (см. [1; п. 9.1]), что если пространство $Z$ сепарабельно, $\mathscr H=(h_i)_{i\in I}$ – семейство функционалов из $\operatorname{ext} S^*$, $w^*$-плотное во множестве крайних точек $\operatorname{ext} S^*$ единичной сферы сопряженного пространства, $\mathscr H=-\mathscr H$, $(\alpha_i)\,{\subset}\, \mathbb{R}$, $\alpha_i>0$, $i\in I$, $\operatorname{card}I\leqslant \aleph_0$ и $\sum ^\infty_{i=1}\alpha_i <\infty$, то ассоциированная (по Брауну) норма $|z|$ вектора $z\in Z$ определяется по формуле (см. [11], [4]) Поскольку $\overline F\supset \operatorname{ext} S_Y^*$, то в определении (13) ассоциированной нормы мы можем взять $\mathscr H=F\cup (-F)$, $I=\mathbb N$, $h_i=f_i$, $i=1, 2, \dots$ . Для любого $n\in \mathbb N$ положим $Q_n:=\{x\in Y\mid |f_i(x)|\leqslant 1,\, i=1, \dots, n\}$. Ясно, что $Q_n$ – центрально-симметричный выпуклый многоугольник с центром в $0$. Поскольку $\operatorname{ext} S_Y^*$ – граница Джеймса пространства $Y$ (т.е. для любого $x\in Y$ найдется $f\in \operatorname{ext} S_Y^*$ такой, что $f(x)=\|x\|$), то в метрике Хаусдорфа, т.е. последовательность полиэдральных шаров $(Q_n)$ приближает шар $B_Y$. Более того, любая сторона многоугольника $Q_n$ есть неодноточечная часть линии уровня экстремального функционала $f\in \operatorname{ext} S_Y^*$, который в силу построения определяется по некоторой гладкой точке $s\in S$ шара $B_Y$. Как следствие,
$$
\begin{equation}
\begin{aligned} \, &\text{любая сторона многоугольника $Q_n$ параллельна некоторому} \\ &\text{касательному направлению сферы $S_Y$ пространства $Y$}. \end{aligned}
\end{equation}
\tag{15}
$$
Положим $P_n:=Q_n\oplus _\infty [-1,1]$. Из (14) следует, что последовательность многогранников $(P_n)$ аппроксимирует шар $B_X$ пространства $X$, а в силу (15) для нее выполнено требуемое условие (8): любая сторона многогранника $P_n$ параллельна некоторому касательному направлению сферы $S$ пространства $X$. Как и выше, для любого $n$ через $Y_{Q_n}$ обозначим пространство $Y$ с нормой $\|\,{\cdot}\,\|_{Y_n}$, единичным шаром которой является многоугольник $Q_n$. Положим $X_{P_n}:=Y_{Q_n}\oplus_\infty \mathbb R$ (единичным шаром пространства $X_{P_n}$ является полиэдральный цилиндр $P_n$); норму пространства $X_{P_n}$ обозначим через $\|\,{\cdot}\,\|_{P_n}$. Зафиксируем произвольно числовую последовательность $\alpha _i >0$, $i=1,2,\dots$, $\sum^\infty_{i=1} \alpha _i <\infty$, и для каждого $n$ в соответствии с (13) определим ассоциированные нормы
$$
\begin{equation}
|x|_{P_n}=\sum_{i=1}^n\alpha_i|f_i(x)|,\qquad |x|_{X}=\sum_{i=1}^\infty\alpha_i|f_i(x)|
\end{equation}
\tag{16}
$$
соответственно на пространствах $X_{P_n}$ и $X$.
Рассуждая от противного, предположим, что (12) не выполнено, т.е. множество $M$ не монотонно линейно связно в $X$. Тогда $M$ не m-связно в $X$ (см. [4; теорема 4.2]) и, значит, найдутся точки $u,v\in M$, $u\ne v$, такие, что
$$
\begin{equation}
(\operatorname{m}(u,v)\setminus\{u,v\})\cap M=\varnothing.
\end{equation}
\tag{17}
$$
По построению пространство $X_{P_n}$ удовлетворяет условию (8) определения 4. По лемме 3 множество $M$ является солнцем в $X_{P_n}$ для любого $n$, по лемме B каждое из пространств $X_{P_n}$ лежит в классе ($\mathrm{BM}$), а в конечномерных ($\mathrm{BM}$)-пространствах любое солнце монотонно линейно связно (лемма C). Поэтому множество $M$ монотонно линейно связно в $X_{P_n}$ для любого $n$. Соответственно для любых двух точек $u$ и $v$ из $M$ найдется монотонная кривая $k_{P_n}(\,{\cdot}\,)\subset \bigl(M\cap \operatorname{m}_{P_n}(u,v)\bigr)$, их соединяющая; при этом длина кривой $k_{P_n}(\,{\cdot}\,)$ в норме $|\,{\cdot}\,|_{P_n}$ равна $|u-v| _{P_n}$ (см. [1; лемма 9.1] и [11; следствие 3.2]). Пусть $z_{n}\in M$ – середина этой кривой относительно нормы $|\,{\cdot}\,|_{P_n}$, т.е.
$$
\begin{equation}
|z_{n}-u|_{P_n}=|z_{n}-v|_{P_n}=\frac 12 |u-v|_{P_n}.
\end{equation}
\tag{18}
$$
По сказанному выше $\|\,{\cdot}\,\|_{P_n}\to \|\,{\cdot}\,\|_X$, а из (16) имеем По соображениям компактности из последовательности $(z_n)$ можно выбрать сходящуюся подпоследовательность $(z_{n_k})$, которую мы отождествляем с $(z_n)$, такую, что $z_n\to z\in M$. Тогда $|z\,{-}\,u|_X=|z\,{-}\,v|_{X}=\frac 12 |u\,{-}\,v|_X$ в силу (18) и (19), и, следовательно, $z\in \operatorname{m}(u,v)$ (см. [1; п. 9.1]), при этом, очевидно, $z\ne u,v$. Однако это противоречит (17). Итак, утверждение (12) доказано.
Пусть $x \in S$. Множество единичных функционалов из $X^*$, достигающих нормы на элементе $x$, обозначим через $J(x)$, т.е. Такие множества $J(x)$ будем называть гранями сферы $S^*$. Если множество $V$ содержится в аффинном подпространстве исходного пространства, то его внутренность в этом подпространстве (в плоскости или на прямой) обозначим через $\operatorname{int} V$. Внутренность множества $W$ со сферы банахова пространства (в частности, внутренность октанта сферы) также обозначим через $\operatorname{int} W$.Необходимость. Рассмотрим классификацию сфер $S^*$ сопряженного пространства $X^*$ по количеству крайних точек в их гранях. Рассмотрим четыре возможных случая: a) существует двумерная грань не менее чем с четырьмя крайними точками сферы $S^*$; b) существуют двумерные грани, и все они содержат не более трех крайних точек $S^*$; c) не существует двумерной грани, но существуют одномерные грани; d) все грани нульмерные, т.е. точки. В доказательстве необходимости мы рассматриваем пространства, сферы которых не являются цилиндрами и имеют достижимые точки негладкости. В случае d) у сферы $S$ точек негладкости нет, поэтому по теореме C в таких пространствах каждое чебышёвское множество выпукло, а значит, монотонно линейно связно (подробнее об этом – выше в доказательстве достаточности). Ясно, что каждой трехмерной сфере $S$ с достижимой точкой негладкости соответствует сопряженная сфера $S^*$, которая попадает в один из случаев a)–c). Построение чебышёвского, но не монотонно линейно связного множества основано на следующих двух леммах. Лемма 4. Пусть $x \in S$ – достижимая точка негладкости, Множество $M$ представляет собой “двускатную крышу” над сферой $S$, причем $M \cap S=\{x\}$ и множество $K(x, 0)\setminus \{x\}$ находится между $M \setminus \{x\}$ и $S \setminus \{x\}$. Доказательство леммы 4. В силу выбора функционалов $g_i$ (некрайних точек сопряженной сферы, достигающих нормы только в достижимой точке негладкости $x$) сфера $S(y, r)$ для любой точки $y$ вне $M$ и радиуса $r=\rho(y, M)$ пересекается с $M$ по единственной точке вида $rx\,{+}\,y$ или $-rx\,{+}\,y$ (точка $\pm rx\,{+}\,y$ есть достижимая точка негладкости сферы $S(y, r)$, которая соответствует точке $\pm x$ сферы $S$).
Действительно, предположим противное: пусть точка $z\in M$ такова, что $\|y - z\|=r$ и $z\ne \pm rx+y$. Без ограничения общности считаем, что сфера $S(y, r)$ и множество $M$ имеют общую точку $z$ во множестве уровня функционала $g_1$. Рассмотрим точки $q_{\pm}=\pm rx+y$. Без ограничения общности считаем, что $g_1(q_-) \leqslant g_1(y) \leqslant g_1(q_+)$ при $g_1(y)\leqslant g_1(z)$ (т.е. плоскости уровня функционала $g_1$, проходящие через $q_+$ и $z$, лежат в одном полупространстве относительно плоскости уровня функционала $g_1$, проходящей через $y$). При этом $|g_1(q_+) - g_1(y)|=r$ в силу выбора точки $q_+$. Заметим, что $\rho(y, M) \geqslant |g_1(z) - g_1(y)|$. Предположим, что $|g_1(z) - g_1(y)| \ne r$, и рассмотрим на интервале $(y, q_+)$ такую точку $q_+'$, что $g_1(z)=g_1(q_+')$. Если $q_+' $ не из $ M$ (т.е. множество $M$ отделяет точку $y$ от $q_+'$), то на интервале $(y, q_+')$ есть точка $q_+''$ из $M$. Отсюда получаем $\rho(y, M) \leqslant \|y\,{-}\, q_+'\| < r$, что невозможно. Если же $q_+' \in M$, то $\rho(y, M) \leqslant \|y - q_+'\| < r$, что также невозможно. Значит, $|g_1(z) - g_1(y)|=r$, или $g_1(q_+)=g_1(z)$. Таким образом, отрезок $[q_+, z]$ лежит на сфере $S(y, r)$, что невозможно, так как функционал $g_1$ является опорным к сфере $S(y, r)$ только в точках $q_{\pm}$ (поскольку $g_1 \in \mathrm{int}J(x)$). Значит, для произвольной точки $y$ ближайшая в $M$ имеет вид $\pm rx+y$ при некотором $r$ и единственна. Лемма доказана. Лемма 5. Пусть $x \in S$ – достижимая точка негладкости, $f_1, f_2 \in J(x) \cap \operatorname{ext} S^*$. Пусть линейно независимые $f_3, f_4 \in \operatorname{ext}S^*\setminus\{\pm f_1, \pm f_2\}$ таковы, что существует единственный элемент $f'_0=\operatorname{span} \{f_3, f_4\}\cap(f_1, f_2)$. Пусть $f_0 \in \operatorname{int}J(x) \cap \operatorname{span}\{ f_3, f_4\}$ и $M$ – множество из (20). Тогда $M$ не монотонно линейно связно. Доказательство. Заметим, что функционалы $g_1$, $f_3$, $f_0$ линейно независимы. Действительно, $f_0$ отличен от $f_3$, а $g_1$ не лежит в плоскости $\operatorname{span} \{f_3, f_0\}=\operatorname{span} \{f_3, f_4\}$.
Значит, для любой тройки значений существует элемент, на котором эти функционалы принимают такие значения. Пусть $z_1$ таков, что $g_1(z_1)=1$, $f_3(z_1)=0$, $f_0(z_1)=0$. Тогда $g_2(z_1) < 0$, поскольку $g_1$ и $g_2$ лежат по разные стороны относительно плоскости $\mathrm{span}\{ f_3, f_4\}=\{f\mid f(z_1)= 0\}$. Элемент $z_1$ лежит в $M_1$: $g_1(z_1)=1$, $g_2(z_1) < 1$. Аналогично, для линейно независимой тройки $g_2$, $f_3$, $f_0$ найдем точку $z_2$, для которой $g_2(z_2)=1$, $f_3(z_2)=0$, $f_0(z_2)=0$. Точка $z_2$ лежит в $M_2$. На произвольном элементе $z \in (z_1, z_2)$ функционалы $g_1$ и $g_2$ принимают значения меньше 1 (как на выпуклой линейной комбинации элементов $z_1$ и $z_2$). Следовательно, $(z_1, z_2) \cap M=\varnothing$. Теперь докажем, что точки $z_1$ и $z_2$ не соединяются кривой из множества $M$, монотонной относительно крайних функционалов $f_3$ и $f_4$. Действительно, из условия $f_3(z_1)=f_3(z_2)$ следует, что кривая $\gamma$, соединяющая точки $z_1$ и $z_2$, монотонна относительно $f_3$ тогда и только тогда, когда $\gamma$ лежит в плоскости $\{z\mid f_3(z)=f_3(z_1)\}$. При этом $f_4(z_1)=f_4(z_2)$, поскольку $f_4$ есть линейная комбинация $f_3$ и $f_0$. Поэтому аналогично предыдущему кривая $\gamma$, монотонная относительно $f_4$, содержится в плоскости $\{z\mid f_4(z)=f_4(z_1)\}$. Значит, единственная монотонная относительно как $f_3$, так и $f_4$ кривая, соединяющая $z_1$ с $z_2$, – это отрезок $[z_1, z_2]$, который не содержится целиком в $M$. Следовательно, множество $M$ не монотонно линейно связно. Лемма доказана. a) Пусть достижимой точке негладкости $x \in S$ соответствует двумерная грань $J(x)$ сферы $S^*$, содержащая не менее чем четыре крайние точки, т.е. существуют различные функционалы $f_1, f_2, f_3, f_4 \in \operatorname{ext} S^* \cap J(x)$. Считаем, что при некотором обходе границы грани $J(x)$ функционалы $f_1$, $f_3$, $f_2$, $f_4$ расположены именно в таком порядке. Существует точка $f_0=[f_1, f_2] \cap [f_3, f_4]$ из $\operatorname{int} J(x)$. По функционалам $f_1$, $f_2$, $f_3$, $f_4$ и достижимой точке негладкости $x$ строится чебышёвское, но не монотонно линейно связное множество $M$ при помощи лемм 4 и 5. Случай а) полностью разобран. Лемма 6. Сфера пространства $X$ является цилиндром тогда и только тогда, когда для каждой линейно независимой тройки $f_1, f_2, f_3 \in \operatorname{ext} S^*$ не существует функционала при условии Доказательство. Необходимость. Если сфера пространства $X$ – цилиндр, то без ограничения общности можно считать, что половина $S^*$ есть конус с вершиной $f_1$. Следовательно, все крайние точки сферы $S^*$, за исключением $\pm f_1$, лежат в одной плоскости и выражаются как линейная комбинация двух крайних точек $f_2$ и $f_3$.
Достаточность. Предположим, что для данных линейно независимых элементов $f_1, f_2, f_3 \in \operatorname{ext} S^*$ не существует функционала $f_4 \in \operatorname{ext} S^*$ с условием (21), но сфера $S^*$ не является конусом, т.е. найдутся функционалы $f_5, f_6 \in \operatorname{ext} S^*\setminus\{\pm f_1, \pm f_2, \pm f_3\}$, причем $f_5=\lambda_1f_1 + \lambda_2f_2$, $f_6=\mu_1f_1 + \mu_3f_3$ с ненулевыми коэффициентами $\lambda_1$, $\lambda_2$, $\mu_1$, $\mu_3$. Тогда система $\{f_2, f_3, f_6\}$ крайних точек сопряженной сферы линейно независима, a $f_5$ выражается через них с условием (21) на коэффициенты: $f_5=\frac{\lambda_1}{\mu_1}(f_6 - \mu_3f_3) + \lambda_2f_2$. Противоречие. Лемма доказана. b) Пусть существуют двумерные грани, все они содержат не более трех крайних точек $S^*$ и сфера пространства $X$ не является цилиндром. Если грань $J(x) \subset S^*$ треугольная, то $x \in S$ является достижимой точкой негладкости. При этом три крайние точки $S^*$ из грани $J(x)$ – вершины треугольной грани $J(x)$ – линейно независимы и достигают своей нормы на $x$. Рассмотрим множество $N \subset S$ достижимых точек негладкости сферы $S$, для каждой из которых найдутся три различных крайних функционала, достигающих на этой точке своей нормы. Нам понадобятся два подслучая. b$_1$) Пусть точка $x \in N$ такова, что при $f_1, f_2, f_3 \in J(x)\cap \operatorname{ext} S^*$ существует $f_4=\lambda_1 f_1 + \lambda_2 f_2 + \lambda_3 f_3 \in \operatorname{ext} S^*$ с условием $ \lambda_1\lambda_2\lambda_3 \ne 0$. Без ограничения общности считаем, что $\lambda_1 > 0$, $\lambda_2 > 0$, $\lambda_3 < 0$. Значит, плоскость $ \operatorname{span} \{ f_3, f_4 \} $ пересекает $(f_1, f_2)$. Применяя леммы 4 и 5 для функционалов $f_1$, $f_2$, $f_3$, $f_4$ и точки $x$, получаем не монотонно линейно связное чебышёвское множество $M$. b$_2$) Пусть теперь для каждой точки $x \in N$ не существует функционала $f_4=\lambda_1 f_1 + \lambda_2 f_2 + \lambda_3 f_3 \in \operatorname{ext} S^*$ с условием (21) при $f_1, f_2, f_3 \in J(x)\cap \operatorname{ext} S^*$. Зафиксируем точку $x \in N$ и ее тройку $f_1, f_2, f_3 \in J(x)\cap \operatorname{ext} S^*$. По лемме 6 найдутся хотя бы две плоскости среди трех плоскостей $\operatorname{span} \{ f_i, f_j\}$, $i \ne j$, $\{i, j\} \subset \{1, 2, 3\}$, каждая из которых содержит не менее одного крайнего функционала сопряженной сферы, отличного от $\pm f_k$, $k=1, 2, 3$. Без ограничения общности считаем, что в каждой из плоскостей $\operatorname{span} \{ f_1, f_2\}$ и $\operatorname{span}\{ f_1, f_3\}$ есть крайний функционал из $S^*$, отличный от $\pm f_j$, $j=1, 2, 3$. Теперь рассмотрим множество
$$
\begin{equation*}
O_1=\{f \in S^* \mid f=\alpha_1 f_1 + \alpha_2f_2 + \alpha_3f_3,\, \alpha_1 \geqslant 0, \,\alpha_2 \leqslant 0, \, \alpha_3 \leqslant 0\}
\end{equation*}
\notag
$$
(это октант $S^*$, содержащийся в трехгранном угле, образованном лучами $f_1$, $-f_2$, $-f_3$). Граница $O_1$ состоит из отрезка $[-f_2, -f_3]$, дуги между $f_1$ и $-f_2$, полученной пересечением $S^*$ и плоскости $\operatorname{span} \{ f_1, f_2 \}$, и дуги между $f_1$ и $-f_3$, полученной пересечением $S^*$ и плоскости $\operatorname{span}\{ f_1, f_3 \}$. Заметим, что для $k\,{=}\,2, 3$ дуга границы $O_1$ между $f_1$ и $-f_k$ содержит крайнюю точку $S^*$ из плоскости $\operatorname{span}\{ f_1, f_k\}$, отличную от $\pm f_j$, $j=1, 2, 3$. Действительно, две прямые $l_1 \ni \pm f_1$ и $l_k \ni \pm f_k$ делят “окружность” $S^*\,{\cap}\,\operatorname{span}\{ f_1, f_k\}$ на четыре части, причем две из них – отрезки $[f_1, f_k]$ и $[-f_1, -f_k]$ (напомним, треугольник $f_1f_2f_3$ есть грань $S^*$). Так как в плоскости $\operatorname{span}\{ f_1, f_k \}$ по предположению есть крайние точки $S^*$, отличные от $\pm f_1$, $\pm f_2$, $\pm f_3$, то на дуге границы октанта $O_1$ между $f_1$ и $-f_k$ есть крайние точки $S^*$.
Возможны сферы $S^*$ двух видов: A) в $O_1$ есть двумерная грань $J$, для которой (трехэлементное) множество ее крайних точек $J \cap \operatorname{ext} S^*$ не содержит $f_1$; B) в $O_1$ есть только одна двумерная грань, причем одна из вершин этой грани совпадает с $f_1$, или двумерной грани в октанте $O_1$ нет. A) Пусть в октанте $O_1$ сопряженной сферы есть двумерная грань с тремя точками $g_1, g_2, g_3 \in \operatorname{ext} S^*$, каждая из которых отлична от $f_1$. Тогда два из этих функционалов лежат в одной из плоскостей, $\operatorname{span}\{ f_1, f_2\}$ или $\operatorname{span}\{ f_1, f_3\}$, а третий – в другой плоскости, скажем, в $\operatorname{span}\{ f_1, f_3\}$ (потому что внутри октанта крайних точек нет по предположению и граница октанта между $-f_2$ и $-f_3$ есть отрезок). Соответственно крайняя точка $\beta_1f_1 + \beta_3f_3$, отличная от $g_i$ и $f_1$ (например, $f_3$ при условии, что $f_3 \ne g_i$, $i=1, 2, 3$), имеет вид $\gamma_1g_1 + \gamma_2g_2 + \gamma_3g_3$ при $\gamma_1\gamma_2\gamma_3 \ne 0$. Получаем противоречие с условиями пункта b$_2$). B) Пусть в октанте $O_1$ есть только одна двумерная грань, причем одна из вершин этой грани совпадает с $f_1$, или двумерной грани в октанте $O_1$ нет. Напомним, что на границе октанта $O_1$ между $f_1$ и $-f_2$ и между $f_1$ и $-f_3$ есть крайние точки $f_2'$ и $f_3'$ соответственно. Пусть $O_1'$ – часть октанта $O_1$, ограниченная плоскостями $\operatorname{span}\{ -f_2, -f_3\}$, $ \operatorname{span}\{ -f_2, f_2'\}$, $ \operatorname{span}\{ -f_3, f_3'\}$, $ \operatorname{span}\{ f_2', f_3'\}$. Пусть $g \in \operatorname{int} O_1'$ – точка гладкости $S^*$. Она существует, так как точки гладкости сферы плотны на ней (по теореме Мазура; см. [13; гл. 1]). Точка $g$ лежит на некотором отрезке, поскольку внутри $O_1$ нет крайних точек. Если точка $g$ лежит на двух неколлинеарных отрезках, то в октанте $O_1$ есть часть двумерной грани $K=J(z)$ ($z$ – достижимая точка негладкости), у которой ни одна вершина не совпадает с $f_1$ (поскольку точка гладкости $g$ выбрана из $\operatorname{int}O_1'$). Если внутренность грани $K$ имеет точки вне октанта $O_1$, то плоскость $P=\operatorname{span}\{\alpha, \beta\}$ ($\alpha, \beta \in \operatorname{ext} S^*$), совпадающая с одной из плоскостей $ \operatorname{span}\{ f_i, f_j\}$, $i \ne j$, $\{i, j\} \subset \{1, 2, 3\}$, пересекает грань $K$, а вместе с ней и некоторый отрезок $[a, b] \subset K$ с концами в крайних точках $S^*$. По функционалам $a$, $b$, $\alpha$, $\beta$ и точке $z$ строится чебышёвское, но не монотонно линейно связное множество при помощи лемм 4 и 5. Грань $K$ целиком лежать в $O_1$ не может, поскольку это противоречит рассматриваемому случаю. Далее считаем, что $[d_1, d_2]$ есть максимальный отрезок, содержащий $g$. Если $d_1$ не крайняя точка, то она лежит на интервале $(c, d)$ сферы $S^*$. Это значит, что в $O_1$ есть часть двумерной грани $K'$, а именно часть плоскости, проходящая через отрезки $[c, d]$ и $[d_1, d_2]$. При этом крайние точки $K'$ отличны от $f_1$, поскольку точка гладкости $g$ выбрана из $\operatorname{int}O_1'$, т.е. не содержится в грани с вершиной в $f_1$. Если грань $K'$ целиком лежит в $O_1$, то это противоречит рассматриваемому случаю; если внутренность грани $K'$ выходит за октант $O_1$, то (аналогично предыдущему) строится чебышёвское, но не монотонно линейно связное множество при помощи лемм 4 и 5. Далее считаем, что $d_1$, $d_2$ – крайние точки $S^*$. Лемма 7. Пусть $[d_1, d_2] \subset S^*$ – отрезок с концами в крайних точках, который содержит внутри себя точку гладкости $g \in S^*$. Если точка $x \in S$ такова, что $J(x)=[d_1, d_2]$, то $x$ – достижимая точка негладкости. Доказательство. Действительно, $x$ – точка негладкости, так как $J(x)$ не одноэлементно.
Поскольку $g \in (d_1, d_2)$ – точка гладкости сферы $S^*$, то существует единственный элемент из $S$, плоскость уровня которого опорна к $S^*$ в $g$. Так как $x$ достигает нормы на $g$, то касательная плоскость к $S^*$ в $g$ и будет плоскостью уровня элемента $x$. При этом функционал $g$ достигает нормы только на $x$. Поэтому $x$ – достижимая точка. Лемма доказана. Рассмотрим достижимую точку негладкости $x$ из леммы 7, которая соответствует отрезку $[d_1, d_2] \ni g$ с концами в крайних точках. При этом $d_1$, $d_2$ – крайние точки $S^*$, лежащие вне $\operatorname{int}O_1'$. Значит, интервал $(d_1, d_2)$ пересекается с одной из плоскостей, $\operatorname{span}\{ -f_2, f_3' \}$ или $\operatorname{span}\{ -f_3, f_2' \}$, скажем, с $\operatorname{span}\{ -f_2, f_3' \}$. Обозначим $d_4=-f_2$, $d_3=f_3'$. По леммам 4 и 5 для достижимой точки негладкости $x$ и функционалов $d_1$, $d_2$, $d_3$, $d_4$ строится чебышёвское, но не монотонно линейно связное множество $M$. Случай b) полностью разобран. c) Пусть теперь на сфере $S^*$ не существует двумерной грани и сфера $S$ не цилиндр, но существуют одномерные грани. Пусть $x \in S$ – достижимая точка негладкости. Тогда $J(x)$ – отрезок $[f_1, f_2]$ на $S^*$ с концами в крайних точках. Рассмотрим такую крайнюю точку $f_3$, что $\{f_1, f_2, f_3\}$ линейно независимы. Пусть $O$ – октант сферы $S^*$, ограниченный плоскостями $\operatorname{span}\{ f_1, f_2\}$, $ \operatorname{span}\{ f_1, f_3\}$, $ \operatorname{span}\{ f_2, f_3\}$. Возможны два случая. A) Множество $\operatorname{int}O$ содержит крайнюю точку $f_4$. В этом случае плоскость $\operatorname{span}\{ f_3, f_4\}$ пересекает интервал $(f_1, f_2)$, и для достижимой точки негладкости $x \in S$ и функционалов $f_1$, $f_2$, $f_3$, $f_4$ строится не монотонно линейно связное чебышёвское множество $M$ при помощи лемм 4 и 5. B) Во множестве $\operatorname{int} O$ нет крайних точек. Рассмотрим произвольную точку гладкости $g \in \operatorname{int}O$. Точка $g$ не крайняя, значит, лежит на отрезке $[d_1, d_2]$ с концами в крайних точках (поскольку двумерных граней на сфере $S^*$ нет). Если хотя бы один из концов отрезка $[d_1, d_2]$ лежит вне $O$, то интервал $(d_1, d_2)$ пересекается плоскостью $\operatorname{span}\{f_3, f_1\}$ или плоскостью $\operatorname{span}\{f_3, f_2\}$ (интервал $(d_1, d_2)$ пересекаться с плоскостью $\operatorname{span}\{f_1, f_2\}$ не может, так как $[f_1, f_2] \subset S^*$). Для определенности скажем, что $ (d_1, d_2)\,{\cap}\, \operatorname{span}\{f_3, f_1\} \ne \varnothing$. По лемме 7 отрезку $[d_1, d_2]$ соответствует достижимая точка негладкости $y \in S$. Для точки $y$ и функционалов $d_1$, $d_2$, $ f_3$, $f_1$ строится не монотонно линейно связное чебышёвское множество $M$ при помощи лемм 4 и 5. Пусть теперь для каждой точки гладкости $g \in \operatorname{int}O$ крайние точки $d_1$, $d_2$ (концы отрезка на сфере, содержащего $g$) содержатся в $O$. Напомним, что в $\operatorname{int}O$ нет крайних точек. Поскольку $d_1, d_2 \notin (f_1, f_2)$ (так как иначе в $O$ есть двумерная грань, содержащая отрезки $[f_1, f_2]$ и $[d_1, d_2]$), то $d_1$ и $d_2$ лежат в разных плоскостях: $d_1 \in \operatorname{span}\{ f_3, f_1\}$, $d_2 \in \operatorname{span}\{ f_3, f_2 \}$. Действительно, $g \in \operatorname{int}O \cap [d_1, d_2]$, значит, обе точки $d_1$, $d_2$ в плоскости $\operatorname{span}\{ f_1, f_3 \}$ лежать не могут. Во внутренности октанта $O' \subset O$, ограниченном плоскостями $\operatorname{span}\{ d_1, d_2\},$ $ \operatorname{span}\{ d_1, f_3\}$, $ \operatorname{span}\{ d_2, f_3\}$, рассмотрим точку гладкости $g_1$, которая лежит на отрезке $[d_3, d_4]$ с концами в крайних точках. Аналогично предыдущему доказываем, что $d_3 \in \operatorname{span}\{ f_3, f_1\}$, $d_4 \in \operatorname{span}\{ f_3, f_2 \}$. Заметим, что $(d_3, d_4) \cap (d_1, d_2) = \varnothing$. Отрезок $[d_1, d_2]$ пересекается либо плоскостью $\operatorname{span}\{d_3, f_2\}$ (если $d_3 \ne d_1$), либо плоскостью $\operatorname{span}\{d_4, f_1\}$ (если $d_4 \ne d_2$). Без ограничения общности считаем, что отрезок $[d_1, d_2]$ пересекается плоскостью $\operatorname{span}\{d_3, f_2\}$. По лемме 7 отрезку $[d_1, d_2]$ соответствует достижимая точка негладкости $y \in S$. Для точки $y$ и функционалов $d_1$, $d_2$, $d_3$, $f_2$ строится не монотонно линейно связное чебышёвское множество $M$ при помощи лемм 4 и 5. Случай c) полностью разобран. Пункты a), b) и c) исчерпывают все возможные варианты пространств с достижимой точкой негладкости, сфера которых отлична от цилиндра. В каждом из таких пространств строится пример чебышёвского множества $M$, не являющегося монотонно линейно связным. Теорема 1 доказана. Проблема 1. Вопрос о характеризации пространств, в которых любое чебышёвское множество монотонно линейно связно, остается открытым для размерности $\geqslant 4$. Проблема 2. Не известен ответ на вопрос о характеризации пространств размерности $\geqslant 3$, в которых любое солнце (строгое солнце) монотонно линейно связно. Проблема 3. Пример из п. a) в доказательстве достаточности теоремы 1 показывает, что в пространстве $\ell^1_3$ существует не монотонно линейно связное чебышёвское множество. Не известно, какое свойство множества, ослабляющее не только свойство выпуклости, но и свойство монотонной линейной связности, характеризует все чебышёвские множества в пространствах, не охваченных теоремой 1, в частности в $\ell^1_3$. БлагодарностиАвторы глубоко благодарны П. А. Бородину, многочисленные замечания и комментарии которого способствовали улучшению статьи, а также И. Г. Царькову за полезные обсуждения. 
Цитирование в формате AMSBIB
\RBibitem{AliBed21} |
|
||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|