| Математические заметки |
|
|
|
|
|
Эта публикация цитируется в 1 научной статье (всего в 1 статье) Трехмерные пространства, в которых каждое ограниченное чебышевское множество монотонно линейно связно Б. Б. Бедновab a Первый МГМУ им. И. М. Сеченова Минздрава России (Сеченовский университет) b Московский государственный технический университет им. Н. Э. Баумана
Англоязычная версия:
Mathematical Notes, 2023, Volume 114, Issue 3, Pages DOI: https://doi.org/10.1134/S0001434623090018 
Реферативные базы данных:
  1. ВведениеНапомним некоторые аппроксимативные понятия. Для множества $M$ из действительного банахова пространства $X$ и точки $x\in X$ элемент $y\in M$ называется элементом наилучшего приближения, или ближайшей точкой, если Множество всех ближайших точек в $M$ для заданного элемента $x$ обозначается $P_M(x)$. Множество $M \subset X$ называется чебышевским множеством в $X$, если для каждого $x\in X$ множество $P_M(x)$ одноточечно.В 1958 г. Ефимов и Стечкин [1] сформулировали следующую задачу: охарактеризовать конечномерные линейные нормированные пространства, в которых всякое ограниченное чебышевское множество выпукло. Полный ответ на этот вопрос был получен Царьковым в [2] (см. [3], а также [4], где подробно разбирается доказательство из [2] и исследуются возникающие при этом сопутствующие задачи). В 2005 г. Алимов [5] ввел понятие монотонной линейной связности множества, которое ослабляет свойство выпуклости. Определение 1. Пусть $k(\tau)$, $0 \leqslant \tau \leqslant 1$, – непрерывная кривая в банаховом пространстве $X$. Кривая $k(\cdot)$ монотонна, если функция $f(k(\tau))$ монотонна по $\tau$ для любого крайнего функционала $f\in S^*$. Множество $M \subset X$ называется монотонно линейно связным, если любые две его точки можно соединить непрерывной монотонной кривой, лежащей в $M$. Цель настоящей работы – охарактеризовать все трехмерные действительные банаховы пространства, в которых каждое ограниченное чебышевское множество монотонно линейно связно. 2. Обозначения и определенияСимволами $S(x, r)$ и $B(x, r)$ обозначим соответственно сферу и шар пространства $X$ с центром $x$ радиуса $r$. Пусть $S=S(0, 1)$ – единичная сфера пространства $X$, $S^*$ – единичная сфера пространства $X^*$, сопряженного к $X$; $B=B(0, 1)$ – единичный шар пространства $X$. Напомним, что точка $s$ сферы $S$ пространства $X$ называется точкой гладкости (сферы $S$ или шара $B$), если опорная гиперплоскость к шару $B$ в точке $s$ единственна. Точка $s\in S $ называется достижимой точкой (сферы $S$ или шара $B$), если найдется такая опорная гиперплоскость к шару $B$ в точке $s$, что пересечение этой гиперплоскости и шара $B$ одноточечно (другими словами, существует функционал $f^*\in X^*$, достигающий нормы только на $s$). Трехмерные пространства, в которых любая достижимая точка является точкой гладкости, будем называть пространствами Бердышева–Брондстеда [6], [7]. Определение 2 [2]. Коническим подмножеством сферы $S$ называется такое множество $E$, что существуют $\varepsilon > 0$, $x^*\in S^*$ и прямая $L$, удовлетворяющие условиям Здесь угол между прямыми $L_1,L_2$ с направляющими единичными векторами $e_1,e_2$ есть величина $\widehat{L_1, L_2}:=\min\{\|e_1+e_2\|,\, \|e_1-e_2\|\}$. Конечномерные пространства, у которых множество крайних точек сферы $S^*$ плотно в ней (или, эквивалентно, множество достижимых точек сферы $S^*$ плотно в $S^*$), будем называть пространствами Царькова–Фелпса. Свойства этих пространств изучались в [8], [2], [9] и многих других работах. Заметим, что пространства Бердышева–Брондстеда содержатся среди пространств Царькова–Фелпса. Напомним, что если сфера трехмерного пространства $X$ – цилиндр, то $X$ есть $\ell_\infty$-прямая сумма $\mathbb R\oplus_\infty Y$ для произвольного двумерного нормированного пространства $Y$. Такие пространства $X$ будем называть цилиндрическими. Пусть $x\in S$ – достижимая точка негладкости. Множество единичных функционалов из $X^*$, достигающих нормы на элементе $x$, обозначим через $J(x)$, т.е. Такие множества $J(x)$ называются достижимыми гранями – exposed faces – сферы $S^*$. Для примера заметим, что ребро куба – шара пространства $l_\infty^3$ – не является достижимой гранью, поскольку нет достижимой точки на сфере пространства $l_1^3$, достигающей нормы только на элементах с ребра куба. При этом двумерные грани на сфере трехмерного пространства являются достижимыми гранями. Если отрезок со сферы $S^*$ с концами в крайних точках $S^*$ содержит точку гладкости $S^*$, то этот отрезок – достижимая грань $S^*$.Ниже $\operatorname{int} J(x)$ обозначает внутренность грани $J(x)$ относительно аффинного подпространства, задаваемого этой гранью. Так же для множества $A \subset S$ символами $\operatorname{int} A$ и $\partial A$ будем обозначать множество внутренних и граничных точек множества $A$ в топологии сферы $S$ соответственно. 3. Историческая справка и вспомогательные результатыВ середине 20 века возник вопрос: какими свойствами характеризуется банахово пространство $X$, в котором каждое чебышевское множество выпукло? Ответ известен в пространствах до размерности 4. Такие пространства размерности 3 и 4 характеризуются следующим образом: сфера пространства не должна содержать достижимых точек негладкости [6], [7], [10]. Один из самых интересных нерешенных вопросов в связи с чебышевскими множествами называется проблемой Ефимова–Стечкина–Кли ([11]–[13]) и формулируется так: всякое ли чебышевское множество в бесконечномерном гильбертовом пространстве выпукло? Преобразование условий в вопросе выпуклости чебышевских множеств развивалось в нескольких направлениях. Изменялись не только условия чебышевости [14], [15] или выпуклости [16]. Так, Стечкин [2] поставил задачу: найти необходимые и достаточные условия на конечномерное банахово пространство, чтобы в нем всякое ограниченное чебышевское множество было выпуклым. Царьков [2] нашел такое условие. Теорема A [2]. Следующие условия для конечномерного действительного банахова пространства $X$ равносильны: Этот результат был перенесен на пространства с несимметричной нормой в [17]. После определения монотонно линейной связности множества возник вопрос о соотношении классов чебышевских множеств и монотонно линейно связных множеств в различных пространствах. Некоторые результаты об этом есть в работах [17]–[19]. Свойство монотонной линейной связности множеств широко применяется в геометрической теории приближений (см., например, [20], [21]). Также недавно среди всех трехмерных банаховых пространств удалось выделить такие пространства, в которых каждое чебышевское множество монотонно линейно связно [22]. Заметим, что в произвольном двумерном пространстве каждое чебышевское множество монотонно линейно связно, что следует из результатов работы [23]. Теорема B. В трехмерном банаховом пространстве $X$ каждое чебышевское множество монотонно линейно связно тогда и только тогда, когда выполнено одно из двух условий: В доказательстве теоремы B для каждого трехмерного пространства, отличного от пространства Бердышева–Брондстеда и от цилиндрического пространства, были построены чебышевские множества, не являющиеся монотонно линейно связными. Они были построены неограниченными при помощи следующих двух лемм (в [19] эти леммы обобщены и доказаны для конечномерных пространств произвольной размерности больше 2). Лемма A [22]. Пусть $X$ – трехмерное банахово пространство, $x\in S$ – достижимая точка негладкости, Множество $M'$ представляет собой “двускатную крышу” над сферой $S$, причем $M' \cap S=\{x\}$. Лемма B [22]. Пусть $X$ – трехмерное банахово пространство, $x\in S$ – достижимая точка негладкости, $f_1, f_2\in J(x) \cap \operatorname{ext} S^*$, $f_1 \ne f_2$. Пусть не пропорциональные друг другу $f_3, f_4\in \operatorname{ext}S^*\setminus\{\pm f_1, \pm f_2\}$ таковы, что существует единственный элемент $f'_0=\operatorname{span} \{f_3, f_4\}\cap(f_1, f_2)$. Пусть $f_0\in \operatorname{int}J(x) \cap \operatorname{span}\{ f_3, f_4\}$, и $M'$ – множество из леммы A. Тогда $M'$ не монотонно линейно связно. Оказывается, не каждое такое множество можно ограничить, сохранив свойство чебышевости. Основным результатом работы является Теорема. В действительном трехмерном банаховом пространстве $X$ каждое ограниченное чебышевское множество монотонно линейно связно тогда и только тогда, когда выполнено одно из следующих условий: 4. Доказательство теоремы Доказательство. Достаточность. Если $X$ – пространство Царькова–Фелпса, то в нем каждое ограниченное чебышевское множество выпукло, а значит, и монотонно линейно связно, поскольку любые две точки выпуклого множества можно соединить отрезком из этого множества, а отрезок монотонен относительно любого функционала.
В цилиндрическом пространстве любое чебышевское множество монотонно линейно связно по теореме B, в том числе и каждое ограниченное чебышевское множество. Необходимость. Пусть $X$ – не содержащееся среди пространств Царькова–Фелпса трехмерное банахово пространство, сфера которого отлична от цилиндра. Поскольку пространства Бердышева–Брондстеда содержатся среди пространств Царькова–Фелпса, значит в $X$ есть достижимая точка негладкости. При этом на сфере сопряженного пространства $S^*$ крайние точки не всюду плотны, следовательно, существует некрайняя точка из $S^*$ и некоторая ее окрестность, в которой крайних точек $S^*$ нет. По теореме Мазура [24; гл. 1] в этой окрестности есть точки гладкости. Из всех таких точек гладкости выберем одну, $g$, которая лежит в относительной внутренности некоторой грани $J\in S^*$. Окрестность точки гладкости $g\in S^*$, свободную от крайних точек $S^*$, обозначим $U=U(g)$. Лемма 1. Пусть в трехмерном пространстве $X^*$ точка $g_0\in S^*$ – такая некрайняя точка гладкости из относительной внутренности некоторой достижимой грани, что в окрестности $U(g_0) \subset S^*$ нет крайних точек. Тогда в $U(g_0)$ существует некрайняя точка гладкости $g$ из относительной внутренности некоторой достижимой грани $J(x)$ и коническое множество $E \subset S$, что $x\in E$. Доказательство. A) Точка $g_0$ лежит во внутренности двумерной (достижимой) грани $J(x)$ сферы $S^*$. Считаем, что $\varepsilon$-окрестность $U(g_0)$ не имеет пересечения с другими гранями $S^*$ (т.е. $U(g_0) \cap S^* \subset J(x)$).
В этом случае $g=g_0$ и множество $\{x\}$ коническое. Действительно, пусть $x^*$ из определения конического множества есть $g$; $g_1, g_2\in J(x)\cap U(g_0)$ таковы, что $g\in (g_1, g_2)$; прямая $L^\perp=\ker g_1 \cap \ker g_2$; прямые $L,L_1,L_2$ перпендикулярны (в евклидовом смысле) $ L^\perp$ и лежат в ядрах функционалов $g,g_1,g_2$ соответственно. При $\varepsilon_1 < \min\{\widehat{L_1, L}, \widehat{L_2, L}, \varepsilon\}$ все прямые из множества $\{L' \mid \widehat{L', L} < \varepsilon_1\}$, проходящие через точку $x$, пересекаются с $S$ только по $x$, поскольку содержатся в множествах уровней функционалов из $[g_1, g_2]$. При этом для любого функционала $x_1^*\in S^*$ из $\varepsilon_1$-окрестности точки $g$ множество $\{y\in S \mid x_1^*(y)=1\}$ совпадает с $\{x\}=E$, так как такие $x_1^*$ содержатся в $J(x)$. Б) Точка $g_0$ лежит во внутренности одномерной достижимой грани. Если $U(g_0)$ пересекается с двумерной (достижимой) гранью $J(y)$, то в $U(g_0) \cap J(y)$ есть точка гладкости $g\in \operatorname{int} J(y)$, изолированная от крайних точек, и применим п. А). Иначе в $U(g_0)$ найдется некрайняя точка гладкости $g$ (гладкость – в силу теоремы Мазура) из относительной внутренности одномерной достижимой грани $J(x)=[d_1, d_2]$, для которой можно выбрать свободную от крайних точек окрестность $U(g)$, не имеющую пересечений с двумерными гранями $S^*$. Рассмотрим такое двумерное подпространство $H \ni g$, что $d_1 \not\in H$. Ядра всех функционалов из этого подпространства пересекаются по одной прямой. Обозначим эту прямую $L$, $L \subset X$. Поскольку все точки из $U(g)$ – не крайние, то существует такая $\varepsilon'$-окрестность $U'(g)$, что подпространство $H$ пересекает по внутренности все грани $S^*$, которые имеют непустое пересечение с $U'(g)$. Действительно, пусть $d'_1,d'_2$ – точки пересечения $[d_1, d_2]$ с $\partial U(g)$, $d'_3, d'_4$ – точки пересечения $H$ с $\partial U(g)$. Ясно, что при обходе границы $ U(g)$ между точками $d'_1$ и $d'_2$ находится точка из множества $\{d'_3, d'_4\}$ в силу выбора $H$. Пусть точка $g'\in S^*$ содержится в ”треугольнике” $T_{13}$ на сфере $S^*$ с вершинами $\{g, d'_1, d'_3\}$, три “стороны” которого содержатся в плоскостях $H$, $\operatorname{span}\{J(x)\}$, $\operatorname{span}\{d'_1, d'_3\}$. Точка $g'$ не является крайней, поэтому лежит на некотором отрезке $[d_3, d_4] \subset S^*$ при $d_3, d_4\in \operatorname{ext} S^*$ (последнее условие – в силу отсутствия пересечения $U(g)$ с двумерными гранями). Отрезок $[d_3, d_4]$ пересекать $(d_1, d_2)$ не может, так как иначе $U(g)$ пересекается с двумерной гранью. Ни один из концов отрезка $[d_3, d_4]$ не содержтся в $T_{13}$. Значит $[d_3, d_4]$ пересекается с $H$ внутри $U(g)$. Аналогично для каждой точки $g'\in S^*$ из ”треугольников” с вершинами $\{g, d'_1, d'_4\}$, $\{g, d'_2, d'_4\}$, $\{g, d'_2, d'_3\}$ отрезок со сферы $S^*$ с концами в крайних точках $S^*$, который содержит $g'$, пересекается с $H$ внутри $U(g)$. Найдется $\varepsilon'$-окрестность точки $g$, содержащаяся в объединении этих четырех ”треугольников”. При этом для грани $J(y)$, имеющей непустое пересечение с $U'(g)$, множество $J(y)\cap H$ может не лежать в $U'(g)$. Пусть $j_g$ – множество всех граней $S^*$, имеющих непустое пересечение с $U'(g)$. Произвольной грани $J(y)\in j_g$ сопоставим элемент $h= J(y)\cap H$. Все грани из $j_g$ одномерны, поэтому $J(y)=[h_1, h_2]$ при $h_1, h_2\in \operatorname{ext} S^*$. Число $\varepsilon_y $ – минимальное значение угла между прямой $L$ и прямыми из ядер функционалов $h_1, h_2$. Число $\inf\{\varepsilon_y\colon J(y)\in j_g\}=\varepsilon''$ отлично от нуля, поскольку в $U'(g)$ нет крайних точек. Пусть $\varepsilon=\min \{\varepsilon', \varepsilon''\}$, $U''=\{g'\in S^* \mid \|g'-g\|< \varepsilon/2\}$. Множество $E=\{x\in X \mid g'(x)=1 \text{ при } g'\in U''\}$ – коническое множество. Действительно,
Лемма 1 доказана. Заметим, что если в окрестности точки $g$ в плоскости $H$ есть точка негладкости $g'$, то такой точке в множестве $E$ соответствует невырожденный отрезок со сферы $S$, и множество $\{y\in S \mid g'(y)= 1\} \subset E$ не одноточечное. Замечание 1. К каждой точке множества $E$ можно приставить множество состоящее из всех прямых $L'$, проходящих через 0 и образующих с $L$ угол меньше $\varepsilon$. При этом для точки $y\in E$ плоскость уровня каждого из крайних элементов $S^*$, опорных в точке $y\in E$ к сфере $S$, пересекает множество $\Lambda_y=\Lambda+y$ только по точке $y$ (в силу построения множества $E$). Лемма 2. Предположим, что некрайняя точка гладкости $g\in S^*$ лежит на отрезке $[d_1, d_2] \subset S^*$ с концами в крайних точках. Тогда каждая точка интервала $(d_1, d_2)$ есть точка гладкости $S^*$. Доказательство. Рассмотрим произвольную точку $g'\in (d_1, d_2)$, отличную от $g$. Если $g'$ не является точкой гладкости, то существуют две различные гиперплоскости, опорные к $S^*$ в точке $g'$, каждая из которых содержит отрезок $[d_1, d_2]$. Значит, каждая из этих гиперплоскостей является опорной и к $g$, что противоречит гладкости $S^*$ в этой точке.
Лемма доказана. Лемма 3. Для каждого трехмерного пространства $X$, отличного от пространства Царькова–Фелпса и отличного от цилиндрического пространства, существуют: Доказательство этой леммы в основном повторяет доказательство необходимости в теореме B, но ищется точка гладкости $S^*$, изолированная от крайних точек. Доказательство леммы 3. Поскольку мы рассматриваем пространства, отличные от пространств Царькова–Фелпса, значит в $X^*$ существует некрайняя точка гладкости $g\in S^*$ в относительной внутренности некоторой грани, в окрестности которой нет крайних точек. Действительно, пусть $X$ не содержится в множестве пространств Царькова–Фелпса. Тогда в $X^*$ найдется такая точка $\omega$, что в некоторой окрестности $U(\omega)$ нет крайних точек. Если $\omega$ – крайняя точка, то в $U(\omega)$ есть некрайняя точка гладкости $\omega'$ (гладкость – в силу теоремы Мазура), причем найдется $U(\omega')$, свободная от крайних точек. Для применения леммы 1 в дальнейшем требуется п. i) в формулировке леммы 3, поэтому если некрайняя точка гладкости $\omega'$ не содержится в относительной внутренности некоторой грани, то, следуя доказательству леммы 1, в $U(\omega')$ найдется требуемая точка $g$.
По точке $g$ однозначно определяется достижимая точка негладкости $x\in S$, для которой $g\in \operatorname{int} J(x)$ (см., например, [22; лемма 7]). Чтобы выбрать требуемые точки $g,x$ и $f_1,f_2,f_3,f_4$, рассмотрим классификацию сфер $S^*$ сопряженного пространства $X^*$ по количеству крайних точек в их гранях. Рассмотрим четыре возможных случая:
Мы рассматриваем пространства, отличные от пространств Царькова–Фелпса и цилиндрических. В случае d) у сферы $S$ точек негладкости нет, а значит такое пространство содержится среди пространств Царькова–Фелпса. a) Пусть некрайней точке гладкости $g\in S^*$ из относительной внутренности некоторой двумерной грани $J$, в окрестности которой нет крайних точек, соответствует достижимая точка негладкости $x\in S$, для которой двумерная грань $J=J(x)$ сферы $S^*$ содержит не менее чем четыре крайние точки, т.е. существуют различные функционалы $f_1, f_2, f_3, f_4\in \operatorname{ext} S^* \cap J(x)$. Считаем, что при некотором обходе границы грани $J(x)$ функционалы $f_1, f_3, f_2, f_4$ расположены именно в таком порядке. Существует точка $g'= [f_1, f_2] \cap [f_3, f_4]$ из $ \operatorname{int} J(x)$. Ясно, что точка $g'$ – некрайняя точка гладкости из относительной внутренности грани $J(x)$, в окрестности которой нет крайних точек, и точке $g'$ соответствует достижимая точка негладкости $x$. Искомый набор элементов – это $g', x, f_1, f_2, f_3, f_4$. Случай а) полностью разобран. b) Пусть существуют двумерные грани и все они содержат не более трех крайних точек $S^*$, причем сфера пространства $X$ не является цилиндром. Считаем, что некрайней точке гладкости $g\in S^*$ из относительной внутренности некоторой двумерной треугольной грани $J$ (в окрестности этой точки нет крайних точек), соответствует достижимая точка негладкости $x\in S$. При этом три крайние точки $S^*$ из грани $J(x)$ – вершины треугольной грани $J(x)$ – линейно независимы и достигают своей нормы на $x$. Рассмотрим множество $N \subset S$ достижимых точек негладкости сферы $S$, для каждой из которых найдутся три различных крайних функционала, достигающих на этой точке своей нормы. Нам понадобятся два подслучая, обусловленных леммой 6 из [22]. $\mathrm{b}_1$) Пусть $x\in N$ такова, что при $f_1, f_2, f_3\in J(x)\cap \operatorname{ext} S^*$ существует
$$
\begin{equation*}
f_4=\lambda_1 f_1+\lambda_2 f_2+ \lambda_3 f_3\in \operatorname{ext} S^*
\end{equation*}
\notag
$$
с условием $ \lambda_1\lambda_2\lambda_3 \ne 0$. Без ограничения общности считаем, что $\lambda_1 > 0$, $\lambda_2 > 0$, $\lambda_3 < 0$, что значит $\operatorname{span} \{f_3, f_4\} \cap (f_1, f_2) \ne \varnothing$. Пусть точка $g'$ есть произвольная точка из $\operatorname{int} J(x) \cap \operatorname{span}\{f_3, f_4\}$. Эта точка является точкой гладкости и изолирована от крайних точек $S^*$.
Искомый набор – $g',x,f_1,f_2,f_3,f_4$. $\mathrm{b}_2$) Пусть теперь для каждой точки $x\in N$ не существует функционала
$$
\begin{equation*}
f_4=\lambda_1 f_1+\lambda_2 f_2+\lambda_3 f_3\in \operatorname{ext} S^*
\end{equation*}
\notag
$$
с условием $\lambda_1\lambda_2\lambda_3 \ne 0$ при $f_1, f_2, f_3\in J(x)\cap \operatorname{ext} S^*$.
Зафиксируем точку $x\in N$ и ее тройку $f_1, f_2, f_3\in J(x)\cap \operatorname{ext} S^*$. В силу рассматриваемого случая все крайние функционалы $S^*$ лежат в трех плоскостях $\operatorname{span} \{ f_i, f_j\}$, $i \ne j$, $\{i, j\} \subset \{1, 2, 3\}$. Поскольку сфера пространства $X$ не цилиндр, найдутся хотя бы две из этих трех плоскостей, каждая из которых содержит не менее одного крайнего функционала сопряженной сферы, отличного от $\pm f_k$, $k=1, 2, 3$. Без ограничения общности считаем, что в каждой из плоскостей $\operatorname{span} \{ f_1, f_2\}$ и $\operatorname{span}\{ f_1, f_3\}$ есть крайний функционал из $S^*$, отличный от $\pm f_j$, $j=1, 2, 3$. Теперь рассмотрим множество
$$
\begin{equation*}
O_1=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \ \alpha_1 \geqslant 0, \alpha_2 \leqslant 0, \ \alpha_3 \leqslant 0\bigr\}
\end{equation*}
\notag
$$
– это октант $S^*$, содержащийся в трехгранном угле, который образован лучами $f_1,-f_2,-f_3$. Граница $O_1$ состоит из отрезка $[-f_2, -f_3]$, дуги между $f_1$ и $-f_2$, полученной пересечением $S^*$ и плоскости $\operatorname{span} \{ f_1, f_2 \}$, и дуги между $f_1$ и $-f_3$, полученной пересечением $S^*$ и плоскости $\operatorname{span}\{ f_1, f_3 \}$. Заметим, что для $k=2, 3$ дуга границы $O_1$ между $f_1$ и $-f_k$ точно содержит крайнюю точку $S^*$ из плоскости $\operatorname{span}\{ f_1, f_k\}$, отличную от $\pm f_j$, $j=1, 2, 3$. Действительно, две прямые $l_1 \ni \pm f_1$ и $l_k \ni \pm f_k$ делят “окружность” $S^* \cap \operatorname{span}\{ f_1, f_k\}$ на четыре части, причем две из них – отрезки $[f_1, f_k]$ и $[-f_1, -f_k]$ (напомним, треугольник $f_1f_2f_3$ есть грань $S^*$). Так как в плоскости $\operatorname{span}\{ f_1, f_k \}$ по предположению есть крайние точки $S^*$, отличные от $\pm f_1, \pm f_2, \pm f_3$, на дуге границы октанта $O_1$ между $f_1$ и $-f_k$ есть крайние точки $S^*$.
Возможны сферы $S^*$ двух видов: A) в $O_1$ есть двумерная грань $J$, для которой (трехэлементное) множество ее крайних точек $J \cap \operatorname{ext} S^*$ не содержит $f_1$; B) в $O_1$ есть только одна двумерная грань, причем одна из вершин этой грани совпадает с $f_1$, или двумерной грани в октанте $O_1$ нет. A) Пусть в октанте $O_1$ сопряженной сферы есть двумерная грань с тремя точками $g_1, g_2, g_3\in \operatorname{ext} S^*$, каждая из которых отлична от $f_1$. Тогда два из этих функционалов лежат в одной из плоскостей $\operatorname{span}\{ f_1, f_2\}$ или $\operatorname{span}\{ f_1, f_3\}$, а третий – в другой плоскости, скажем, в $\operatorname{span}\{ f_1, f_3\}$ (потому что внутри октанта крайних точек нет по предположению и граница октанта между $-f_2$ и $-f_3$ есть отрезок). Соответственно, крайняя точка $\beta_1f_1+\beta_3f_3$, отличная от $g_i$ и $f_1$ (например, $f_3$, при условии, что $f_3 \ne g_i$, $i=1, 2, 3$), имеет вид $\gamma_1g_1+\gamma_2g_2+\gamma_3g_3$ при $\gamma_1\gamma_2\gamma_3 \ne 0$. Получаем противоречие с условиями п. $\mathrm{b}_2$). B) Пусть в октанте $O_1$ есть только одна двумерная грань, причем одна из вершин этой грани совпадает с $f_1$, или двумерной грани в октанте $O_1$ нет. Напомним, что на границе октанта $O_1$ между $f_1$ и $-f_2$ и между $f_1$ и $-f_3$ есть крайние точки, $f_2'$ и $f_3'$ соответственно. Пусть $O_1'$ – часть октанта $O_1$, ограниченная плоскостями $\operatorname{span}\{ -f_2, -f_3\}$, $\operatorname{span}\{ -f_2, f_2'\}$, $ \operatorname{span}\{ -f_3, f_3'\},$ $ \operatorname{span}\{ f_2', f_3'\}$. Пусть $g'\in \operatorname{int} O_1'$ – точка гладкости $S^*$. Она существует, так как точки гладкости сферы плотны на ней (по теореме Мазура [24; гл. 1]). Точка $g'$ лежит на некотором отрезке, поскольку внутри $O_1$ нет крайних точек. Если точка $g'$ лежит на двух неколлинеарных отрезках, то в октанте $O_1$ есть часть двумерной грани $K=J(z)$ ($z$ – достижимая точка негладкости), у которой ни одна вершина не совпадает с $f_1$ (поскольку точка гладкости $g'$ выбрана из $\operatorname{int}O_1'$). Если внутренность грани $K$ выходит за октант $O_1$, то плоскость $P= \operatorname{span}\{\alpha, \beta\}$ $(\alpha, \beta\in \operatorname{ext} S^*)$, совпадающая с одной из плоскостей $ \operatorname{span}\{ f_i, f_j\}$, $i \ne j$, $\{i, j\} \subset \{1, 2, 3\}$, пересекает грань $K$, а вместе с ней и некоторый отрезок $[a, b] \subset K$ с концами в крайних точках $S^*$. Любая точка $g''\in \operatorname{int} K \cap \operatorname{span}\{\alpha, \beta\}$ есть некрайняя точка гладкости $S^*$ , в окрестности которой нет крайних точек. Тогда набор $g'', z, a, b, \alpha, \beta $ – искомый. Грань $K$ целиком лежать в $O_1$ не может, поскольку это противоречит рассматриваемому случаю. Далее считаем, что $[d_1, d_2]$ есть максимальный отрезок, содержащий $g'$. Если $d_1$ некрайняя точка, то она лежит на интервале $(c, d)$ сферы $S^*$. Это значит, что в $O_1$ есть часть двумерной грани $K'$, а именно, часть плоскости, проходящая через отрезки $[c, d]$ и $[d_1, d_2]$. При этом крайние точки $K'$ отличны от $f_1$, поскольку точка гладкости $g'$ выбрана из $\operatorname{int}O_1'$, т.е. не содержится в грани с вершиной в $f_1$. Если грань $K'$ целиком лежит в $O_1$, то это противоречит рассматриваемому случаю; если внутренность грани $K'$ выходит за октант $O_1$, то (аналогично предыдущему) находится требуемый набор элементов. Далее считаем, что $d_1, d_2$ – крайние точки $S^*$. Рассмотрим достижимую точку негладкости $x'$, которая соответствует отрезку $[d_1, d_2] \ni g'$ с концами в крайних точках. При этом $d_1, d_2$ – крайние точки $S^*$, лежащие вне $\operatorname{int}O_1'$. Значит, интервал $(d_1, d_2)$ пересекается с одной из плоскостей $\operatorname{span} \{ -f_2, f_3' \}$ или $\operatorname{span}\{ -f_3, f_2' \}$, скажем, с $\operatorname{span}\{ -f_2, f_3' \}$. Обозначим $g''=(d_1, d_2) \cap \operatorname{span}\{ -f_2, f_3'\}$. Тогда искомый набор есть $g'', x', d_1, d_2, -f_2, f'_3$, поскольку, следуя лемме 2, $g''$ – точка гладкости. Случай b) полностью разобран. c) Пусть теперь на сфере $S^*$ не существует двумерной грани и сфера $S$ – не цилиндр, но существуют одномерные грани на сфере $S^*$. Пусть точка $g\in S^*$ – такая некрайняя точка гладкости в относительной внутренности некоторой одномерной грани, что в ее окрестности $U$ нет крайних точек; $x\in S$ – соответствующая $g$ достижимая точка негладкости. Тогда $J(x)$ – отрезок $[f_1, f_2]$ на $S^*$ с концами в крайних точках. Рассмотрим такую крайнюю точку $f_3$, что $\{f_1, f_2, f_3\}$ линейно независимы. Пусть $O$ – октант сферы $S^*$, ограниченный плоскостями $\operatorname{span}\{ f_1, f_2\},$ $ \operatorname{span}\{ f_1, f_3\},$ $ \operatorname{span}\{ f_2, f_3\}$. Возможны два случая. A) В $\operatorname{int}O$ есть крайняя точка, $f_4$. Тогда плоскость $\operatorname{span}\{ f_3, f_4\}$ пересекает интервал $(f_1, f_2)$ в точке $f_0$. Заметим, что $f_0$ – некрайняя точка гладкости, как и все точки на отрезке $[f_1, f_2]$ (лемма 2). Если у точки $f_0$ есть окрестность без крайних точек $S^*$, то требуемый набор элементов – это $f_0(=g), x, f_1, f_2, f_3, f_4$. Однако возможно, что у точки $f_0$ нет окрестности без крайних точек. Тогда в одном из открытых полупространств, на которые плоскость $\operatorname{span}\{f_1, f_2\}$ делит пространство $X^*$, в некоторой окрестности $U^0=U(f_0)$ точки $f_0$ есть бесконечное множество крайних точек $S^*$. Рассмотрим множество $F_i$, $i=1, 2$, всех плоскостей, проходящих через $\pm f_i$ и крайнюю точку $k\in U^0$. Найдутся такие четыре точки $k_1, k_2, k_3, k_4\in U^0$, что часть $\widehat O$ сферы $S^*$, ограниченная плоскостями $\Pi_1=\operatorname{span}\{ f_1, k_1\}$, $\Pi_2=\operatorname{span}\{ f_1, k_2\}$, $\Pi_3= \operatorname{span}\{ f_2, k_3\}$, $\Pi_4=\operatorname{span}\{ f_2, k_4\}$ ($\Pi_1, \Pi_2\in F_1$, $\Pi_3, \Pi_4\in F_2$) полностью содержится в $U=U(g)$. В $\widehat O$ рассмотрим точку гладкости $g'$. Это некрайняя точка гладкости, изолированная от крайних точек сферы $S^*$. Она лежит на отрезке $[d_1, d_2]$ с концами в крайних точках, причем ни $d_1$, ни $d_2$ не содержится в $U$. Значит, найдется такая плоскость $\Pi_i$, $i=1, 2, 3, 4$, что $\Pi_i \cap [d_1, d_2]=g'' \subset U$, т.е. $g''$ – некрайняя точка гладкости, изолированная от крайних точек. Искомым набором является $g'', x''$ – достижимая точка негладкости, которая достигает нормы на $g''$, $d_1, d_2$ и пара линейно независимых крайних точек из той самой плоскости $\Pi_i$. B) Во множестве $\operatorname{int} O$ нет крайних точек. Рассмотрим произвольную точку гладкости $g'\in \operatorname{int}O$. Точка $g'$ некрайняя, значит, лежит на отрезке $[d_1, d_2]$ с концами в крайних точках (поскольку двумерных граней на сфере $S^*$ нет). Если хотя бы один из концов отрезка $[d_1, d_2]$ лежит вне $O$, то интервал $(d_1, d_2)$ трансверсально пересекает плоскость $\operatorname{span}\{f_3, f_1\}$ или плоскость $\operatorname{span}\{f_3, f_2\}$ (интервал $(d_1, d_2)$ пересекаться с плоскостью $\operatorname{span}\{f_1, f_2\}$ не может, так как $[f_1, f_2] \subset S^*$). Для определенности скажем, что
$$
\begin{equation*}
(d_1, d_2)\cap \operatorname{span}\{f_3, f_1\} \ne \varnothing, \qquad g''=(d_1, d_2) \cap \operatorname{span}\{f_3, f_1\}.
\end{equation*}
\notag
$$
Точке $g''$ соответствует точка $y'\in S$ – достижимая точка негладкости. Набор $g'',y',d_1,d_2, f_3,f_1$ – искомый.
Пусть теперь для каждой точки гладкости $g'\in \operatorname{int}O$ крайние точки $d_1,d_2$ – концы отрезка на сфере, содержащего $g'$ – содержатся в $O$. Напомним, что в $\operatorname{int}O$ нет крайних точек. Поскольку $d_1, d_2 \not\in (f_1, f_2)$ (так как иначе в $O$ есть двумерная грань, содержащая отрезки $[f_1, f_2]$ и $[d_1, d_2]$), то $d_1$ и $d_2$ из разных плоскостей: $d_1\in \operatorname{span}\{ f_3, f_1\}$, $d_2\in \operatorname{span}\{ f_3, f_2 \}$. Действительно, $g\in \operatorname{int}O \cap [d_1, d_2]$, значит, обе точки $d_1,d_2$ в плоскости $\operatorname{span}\{ f_1, f_3 \}$ лежать не могут. Во внутренности октанта $O' \subset O$, который ограничен плоскостями $\operatorname{span}\{ d_1, d_2\}$, $ \operatorname{span}\{ d_1, f_3\}$, $ \operatorname{span}\{ d_2, f_3\}$, рассмотрим точку гладкости $g''$, лежащую на отрезке $[d_3, d_4]$ с концами в крайних точках. Аналогично предыдущему доказываем, что $d_3\in \operatorname{span}\{ f_3, f_1\}$, $d_4\in \operatorname{span}\{ f_3, f_2 \}$. Пусть интервал $(d_1, d_2)$ пересекается хотя бы одной из плоскостей $\operatorname{span}\{d_3, f_2\}$, $ \operatorname{span}\{d_4, f_1\}$. Без ограничения общности считаем, что интервал $(d_1, d_2)$ пересекается плоскостью $\operatorname{span}\{d_3, f_2\}$. Пусть $g'''=(d_1, d_2) \cap \operatorname{span}\{d_3, f_2\}$ – точка гладкости (по лемме 2), изолированная от крайних точек (поскольку в $\operatorname{int} O \ni g'''$ нет крайних точек). Точке $g'''$ (как и точке $g'$) соответствует достижимая точка негладкости $y\in S$. Набор $g''', y, d_1, d_2, f_2, d_3$ – искомый. Однако возможно, что интервал $(d_1, d_2)$ не пересекается ни одной из плоскостей $\operatorname{span}\{d_3, f_2\}$, $\operatorname{span}\{d_4, f_1\}$. Именно, если $f_1=d_1=d_3$ или $f_2=d_2=d_4$. Без ограничения общности считаем, что $f_2=d_2=d_4$. В этом случае мы можем считать, что для каждой точки $g_1\in \operatorname{int} O'$ отрезок $[d_3(g_1), d_4(g_1)]$ содержится в $O$ и отрезок $[d_1, d_2]$ не пересекает ни одна из плоскостей $\operatorname{span}\{d_3(g_1), f_2\}$, $\operatorname{span}\{d_4(g_1), f_1\}$; иначе применимы предыдущие рассуждения пункта с). Это означает, что для каждой точки $h\in \operatorname{int} O$ отрезок $[d_1(h), d_2(h)]\ni h$ является отрезком $[d_1(h), f_2]$, т.е. $O$ есть “четверть конуса” – часть сферы, крайние точки которой содержатся в $\operatorname{span}\{f_1, f_3\} \cup f_2$. Это четверть конуса с вершиной $f_2$. Заметим, что $[f_2, f_3] \subset S^*$, так как иначе $O \cap \operatorname{span}\{f_2, f_3\}$ содержит крайнюю точку $f'$ и плоскость $\operatorname{span}\{f_1, f'\}$ пересекает некоторую грань $[f_2, d_1(h)]$. Рассмотрим множество
$$
\begin{equation*}
O_1=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \ \alpha_1 \leqslant 0,\ \alpha_2 \geqslant 0,\ \alpha_3 \geqslant 0\bigr\}
\end{equation*}
\notag
$$
(это октант $S^*$, содержащийся в трехгранном угле, образованном лучами $-f_1,f_2,f_3$). Считаем, что его внутренность не содержит крайних точек, поскольку иначе плоскость $\operatorname{span}\{-f_1, f'\}$ при $f'\in \operatorname{int} O_1 \cap \operatorname{ext} S^*$ пересекает внутренность некоторой грани $[f_2, d_1(h)]$, состоящей из точек гладкости, изолированных от крайних точек $S^*$.
Считаем также, что все отрезки, проходящие через внутренние точки $O_1$, имеют общее начало, так как иначе применимы предыдущие рассуждения пункта с). Значит, $O_1$ также “четверть конуса”. Заметим, что вершина этого конуса отлична от $-f_1$, поскольку $[f_2, f_3]$ есть отрезок и $S^*$ не имеет граней размерности больше 1. Если вершина “четверти конуса” $O_1$ совпадает с $f_3$, то рассмотрим произвольную (крайнюю) точку $h_1\in O \cap \operatorname{span}\{f_1, f_3\}$, отличную от $f_1$ и $f_3$, и произвольную (крайнюю) точку $h_2\in O_1 \cap \operatorname{span}\{-f_1, f_2\}$, отличную от $-f_1$ и $f_2$. Плоскость $\operatorname{span}\{h_1, h_2\}$ пересекает интервал $(f_2, f_3)$ в точке $g$. В окрестности этой точки во внутренности $O$ выберем точку гладкости $g'$, лежащую на таком отрезке $[d_1(g'), f_2]$, что $[d_1(g'), f_2] \cap \operatorname{span} \{h_1, h_2\}=g''$. Набор $g'', x'', d_1(g'), f_2, h_1, h_2$ – искомый при таком элементе $x''\in X$, что $[d_1(g'), f_2]=J(x'')$. Если вершина $O_1$ совпадает с $f_2$, то $O_1$ вместе с $O$ образуют уже “половину конуса” с общей вершиной $f_2$. Рассмотрим октанты $\pm O$, $\pm O_1$, $\pm O_2$, $\pm O_3$ сферы $S^*$, разделенной плоскостями $\operatorname{span}\{f_1,f_2\}$, $\operatorname{span}\{f_1,f_3\}$, $\operatorname{span}\{f_2,f_3\}$. Здесь
$$
\begin{equation*}
\begin{gathered} \, -O_1=\bigl\{f\in S^* \mid f=-(\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3), \, \alpha_1 \leqslant 0, \, \alpha_2 \geqslant 0, \, \alpha_3 \geqslant 0\bigr\}, \\ O_2=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \, \alpha_1 \geqslant 0, \, \alpha_2 \geqslant 0, \, \alpha_3 \leqslant 0\bigr\}, \\ O_3=\bigl\{f\in S^* \mid f=\alpha_1 f_1+\alpha_2f_2+\alpha_3f_3, \, \alpha_1 \geqslant 0, \,\alpha_2 \leqslant 0, \, \alpha_3 \geqslant 0\bigr\}. \end{gathered}
\end{equation*}
\notag
$$
При этом любой из октантов $\pm O, \pm O_1,\pm O_2,\pm O_3$ на границе содержит хотя бы один отрезок (например, вида $[\pm f_1, \pm f_2]$, так как сечение $S^*$ плоскостью $\operatorname{span}\{f_1,f_2\}$ есть параллелограмм). Применяя рассуждения пункта c), считаем, что внутренность каждого октанта среди $\pm O,\pm O_1,\pm O_2, \pm O_3$ не содержит крайних точек $S^*$ и каждый из октантов $\pm O,\pm O_1,\pm O_2,\pm O_3$ есть “четверть конуса”. Рассмотрим октант $O_2$. Напомним, что $S$ не цилиндр и все крайние точки $S^*$ не могут содержаться только во множестве $\operatorname{span}\{f_1, f_3\} \cup \operatorname{span}\{f_2\}$. Значит на границе $O_2$ в плоскости $\operatorname{span}\{-f_3, f_2\}$ есть крайние точки, отличные от $f_2, -f_3$. Рассмотрим произвольную (крайнюю) точку $h_1\in O \cap \operatorname{span}\{f_1, f_3\}$, отличную от $f_1$ и $f_3$, и произвольную (крайнюю) точку $h_2\in O_2 \cap \operatorname{span}\{-f_3, f_2\}$, отличную от $-f_3$ и $f_2$. Плоскость $\operatorname{span}\{h_1, h_2\}$ пересекает интервал $(f_1, f_2)$. Искомый набор – $g, x, f_1, f_2, h_1, h_2$. Случай c) полностью разобран. Пункты a), b), c) и d) исчерпывают все возможные варианты пространств с достижимой точкой негладкости, сфера которых отлична от цилиндра. Лемма 3 доказана. Пусть $U=U(g)$ – окрестность точки $g$ из леммы 3, в которой нет крайних точек. Пусть
$$
\begin{equation}
M_i=\bigl\{y\in X\mid g_i(y) \geqslant g_i(x)=1 \bigr\}, \quad i=1, 2, \qquad M=M_1 \cup M_2.
\end{equation}
\notag
$$
Еще нам понадобится множество $M''=\partial M.$ Заметим, что множество $M$ – это точки над “двускатной крышей” $M''$, причем для $M''$ выполнены леммы A и B при соответствующих функционалах $f_1,f_2, f_3, f_4$, а $\partial M_1 \cap \partial M_2$ – прямая $L^\perp$, параллельная ядру функционала $g$. Доказательство леммы 4 повторяет доказательство леммы A: $g_1, g_2$ – некрайние функционалы из внутренности грани $S^*$. По просьбе рецензента приводим здесь полное Доказательство. В силу выбора функционалов $g_i$ (некрайних точек сопряженной сферы, достигающих нормы только в достижимой точке негладкости $x$) сфера $S(y, r)$ для любой точки $y$ вне $M$ и радиуса $r=\rho(y, M)$ пересекается с $M$ по единственной точке вида $rx+y$ или $-rx+y$ (точка $\pm rx+y$ есть достижимая точка негладкости сферы $S(y, r)$, которая соответствует точке $\pm x$ сферы $S$).
Действительно, предположим противное: рассмотрим точку $z\in M$ такую, что $\|y-z\|=r$ и $z\ne \pm rx+y$. Без ограничения общности считаем, что сфера $S(y, r)$ и множество $M$ имеют общую точку $z$ во множестве уровня функционала $g_1$. Рассмотрим точки $q_{\pm}=\pm rx+y$. Без ограничения общности считаем, что $g_1(q_-) \leqslant g_1(y) \leqslant g_1(q_+)$ при $g_1(y)\leqslant g_1(z)$ (т.е. плоскости уровня функционала $g_1$, проходящие через $q_+$ и $z$, лежат в одном полупространстве относительно плоскости уровня функционала $g_1$, проходящей через $y$). При этом $|g_1(q_+)- g_1(y)|=r$ в силу выбора точки $q_+$. Заметим, что $\rho(y, M) \geqslant |g_1(z)-g_1(y)|$. Предположим, что $|g_1(z)-g_1(y)| \ne r$, и рассмотрим на интервале $(y, q_+)$ такую точку $q_+'$, что $g_1(z)=g_1(q_+')$. Если $q_+' $ не из $ M$ (т.е. множество $M$ отделяет точку $y$ от $q_+'$), то на интервале $(y, q_+')$ есть точка $q_+''$ из $M$. Отсюда получаем $\rho(y, M) \leqslant \|y-q_+'\| < r$, что невозможно. Если же $q_+'\in M$, то $\rho(y, M) \leqslant \|y-q_+'\| < r$, что также невозможно. Значит, $|g_1(z)-g_1(y)|=r$, или $g_1(q_+)=g_1(z)$. Таким образом, отрезок $[q_+, z]$ лежит на сфере $S(y, r)$, что невозможно, так как функционал $g_1$ является опорным к сфере $S(y, r)$ только в точках $q_{\pm}$ (поскольку $g_1\in \operatorname{int}J(x)$). Значит, для произвольной точки $y$ ближайшая в $M$ имеет вид $\pm rx+y$ при некотором $r$ и единственна. Лемма доказана. Замечание 2. Ядра функционалов $g_1, g_2$ из (4.2) пересекают множество $\Lambda$ из (4.1) не только по точке 0. Лемма 5. Пусть окрестность $U(g)$ некрайней точки гладкости $g\in S^*$, изолированной от крайних точек $S^*$, пересекает только одномерные грани. Тогда прямая $l$, параллельная $\ker d_1 \cap \ker d_2$ при $[d_1, d_2] \subset S^* \cap U(g)$, пересекает $M''$ по единственной точке. Доказательство. Рассмотрим такие $f_1, f_2\in \operatorname{ext} S^*$, что $g\in [f_1, f_2]=J(x)$. Пусть $g_1, g_2\in J(x) \cap U(g)$, $g\in(g_1, g_2)$. Пусть точка $z\in S$ такова, что $d_1(z)=d_2(z)= 1 $, $d_1, d_2\in J(z)$. Пусть $[f_1^z, f_2^z]=J(z)$. Тогда $f_1^z, f_2^z\in \operatorname{ext} S^*$, поскольку окрестность точки $g$ пересекает только одномерные грани. При этом $\operatorname{span}\{d_1, d_2\}= \operatorname{span}\{f_1^z, f_2^z\}$ не пересекает интервал $(g_1, g_2)$, поскольку внутри $U$ пересечения отрезков со сферы быть не может. Следовательно, прямая $\ker f_1^z \cap \ker f_2^z=\ker d_1 \cap \ker d_2$ пересекает $M''$ в единственной точке. Из построения множества $M''$ следует, что любая прямая, параллельная $\ker d_1 \cap \ker d_2$, пересекает $M''$ в единственной точке.
Лемма доказана. В евклидовом пространстве $\mathbb R^3$ введем декартову систему координат: достижимую точку негладкости $x$ из леммы 3 поместим в начало системы координат, первый и второй базисный вектор выберем в плоскости $\{z\in X\colon g(z)=1\}$, третий базисный вектор выберем перпендикулярным к ядру $\operatorname{ker} g$. Шар
$$
\begin{equation*}
K'=\{(x_1, x_2, x_3)\in \mathbb R^3 \colon 2x_3 \geqslant x_1^2+x_2^2+x_3^2\}
\end{equation*}
\notag
$$
с центром в точке $z_0=(0, 0, 1)$ и радиусом 1 пересекается с множеством $M''$ только по точке $x$. Существует такое малое $\delta\in (0, 1)$, что шар $K$ радиуса 1 с центром в $(1-\delta)z_0$ удовлетворяет следующему условию: для любой точки $y\in M''\cap \partial K$ касательная плоскость к $K$ в точке $y$ параллельна ядру функционала из $U(g)$. Рассмотрим ограниченное множество Доказательство. Напомним, что прямая $L$ проходит через точку $x$ параллельно $\ker g_1 \cap \ker g_2$, $g_1, g_2\in U(g)=U$, $E$ – коническое множество со сферы $S$, построенное по достижимой точке негладкости $x\in S$.
А) Предположим, что для точки $y\in M'' \cap \operatorname{int} K$ существует такая точка $p\in X \setminus V$ и $r>0$, что шар $B(p, r)$ является опорным к $V$ в точке $y$. Множество $B(p, r) \cap V$ одноточечно, поскольку множество $M''$ состоит из частей плоскостей уровня некрайних функционалов, которые соответствуют достижимой точке негладкости. Б) Предположим, что для точки $y\in M'' \cap \partial K \setminus L$ существует такая точка $p\in X \setminus V$ и $r>0$, что шар $B(p, r)$ является опорным к $V$ в точке $y$. Пусть $T_y$ – касательная плоскость к $K$ в точке $y$. Считаем, что $T_y$ есть плоскость уровня элемента $\nu_y\in S^*$. Напомним, что $\nu_y\in U$. Без ограничения общности считаем, что $y\in \partial M_1$. В плоскости $\partial M_1$ замкнутое выпуклое множество $B(p, r) \cap \partial M_1$ и окружность $K \cap \partial M_1$ имеют общую точку $y$. Найдется прямая $l_y$, разделяющая эти два множества, поскольку шар $B(p, r)$ является опорным к $V$ в точке $y$. Прямая $l_y$ является опорной к шару $B(p, r)$. Пусть $\Pi_y \supset l_y$ – опорная плоскость к $B(p, r)$ в точке $y$ и $\Pi_y$ – плоскость уровня элемента $\zeta\in S^*$. Значит $\zeta=\lambda \nu_y+\mu g_1$, причем $\lambda \geqslant 0$, $\mu \geqslant 0$, что означает $\zeta\in U$. Следовательно, $y\in rE+p$. Заметим, что если $E=\{x\}$, то $y=rx+p$ и пересечение $V \cap B(p,r)$ одноточечно (как в лемме 4). Если же $E$ не одноточечно, то $\zeta\in (\zeta_1, \zeta_2) \subset S^*$ при $\zeta_1, \zeta_2\in \operatorname{ext} S^*$. Прямая $l_\zeta(y)$, параллельная $\ker \zeta_1 \cap \ker \zeta_2$ и содержащая точку $y$, по лемме 5 пересекает $\partial M'' \cap K$ не более чем по одной точке. Следовательно, опорный конус $K(p,y)$ к шару $B(p, r)$ в точке $y$ пересекает $V$ по одной точке, так как $\zeta_1, \zeta_2 \not\in U$ и $l_\zeta(y) \subset \Pi_y$. В) Предположим, что для точки $y\in M'' \cap \partial K \cap L$ существует такая точка $p\in X \setminus V$ и $r>0$, что шар $B(p, r)$ является опорным к $V$ в точке $y$. В этой точке $y$ к шару $K$ есть касательная плоскость $T_y$. Пусть $l_1=T_y \cap \ker g_1$, $l_2=T_y \cap \ker g_2$. Значит внешность опорного конуса $K(p, y)$ в точке $y$ к $B(p, r)$ содержит прямые $l_1$ и $l_2$. Пусть $P_0=\{z\in X^* \mid g(z) \geqslant 1\}$, $P_y$ – полупространство с границей $T_y$, содержащее $K$. Значит для каждого $x\in \operatorname{int} (P_0 \cap P_y)$ луч $(y, x]$ пересекается с $V$. Так же для каждого $x\in \operatorname{int} (M_i \cap P_y)$ луч $(y, x]$ пересекается с $V$, $i=1, 2$. Это означает, что $\operatorname{int} (P_0 \cup M_1\cup M_2 \cup P_y) \cap B(p, r)=\varnothing$, т.е. опорный конус $K(p, y)$ ограничен плоскостями $T_y, \partial M_1, \partial M_2, \partial P_0$. Значит существует такая опорная к $B(p, r)$ в точке $y$ плоскость $\widehat T=\{z\in X\colon \zeta(z)=\zeta(y)=\|\zeta\|\|y\|= \|y\|\}$, что $\zeta$ близка к $g$ ($\zeta\in U=U(g)$). Значит $y\in p+rE$. Аналогично предыдущему случаю, следуя лемме 5, пересечение $B(p, r)$ с $V$ одноточечно. Г) Предположим, что для точки $y\in \partial K \cap \operatorname{int} M$ существует точка $p\in X \setminus V$ и $r > 0$, что шар $B(p, r)\subset X$ является опорным к $V$ в точке $y$. В этом случае касательная к $K$ в точке $y$ гиперплоскость $T_y$ будет касательной к $V$ в той же точке, поэтому $T_y$ является опорной к $B(p, r)$ в точке $y$, причем она разделяет $K \supset M$ и $B(p, r)$. Следовательно, $B(p, r) \cap K \subset T_y \cap K=\{y\}$, поэтому $B(p, r) \cap V=\{y\}$. Таким образом, исследовав все случаи, заключаем, что $V$ – чебышевское множество. Лемма 6 доказана. Доказательство. Набор $g, x, f_1, f_2,f_3,f_4$, по которому строятся множества $M''$ и $M$, удовлетворяет условиям леммы B, а именно, $f_1, f_2, g\in J(x)$, $g=J(x) \cap \operatorname{span}\{f_3, f_4\}$ и $(f_1, f_2) \cap \operatorname{span}\{f_3, f_4\} \ne \varnothing$, поэтому множество $M''$ (а значит, и $M$) – не монотонно линейно связно. Следуя доказательству леммы B, найдутся две точки, $z_1\in M_1 \cap M''$ и $z_2\in M_2 \cap M''$, для которых $[z_1, z_2]$ параллелен прямой $l=\ker f_3 \cap \ker f_4$. Рассмотрим плоскость $T$, проходящую через точки $x,z_1,z_2$.
В плоскости $T$ найдутся такие точки $z_1', z_2'\in K\cap M''$, что $[z_1', z_2'] \parallel l$. Действительно, во множестве $T \cap K \cap \partial M_1$ рассмотрим произвольную точку $z_1''$. Построим треугольник $z_1''xz_2''$, сторона $[z_1'', z_2'']$ которого параллельна $l$. Отрезок $[x, z_1'']$ полностью содержится в $K \cap \partial M_1$, а отрезок $[x, z_2'']$ содержится в $\partial M_2$ и пересекается с $K \cap \partial M_2$. Поскольку $L^\perp$ трансверсально пересекает плоскость $T$, на полуинтервале $(x, z_2'']$ есть точка из $K \cap \partial M_2\setminus L^\perp$. Эта точка и будет $z_2'$. Вершина $z_1'$ треугольника $z_1'xz_2'$ со стороной $[z_1', z_2']$, параллельной $l$, искомая, поскольку $z_1'\in (x, z_1''] \subset K \cap \partial M_1$ и $l \not\subset \ker g_2$. Точки $z'_1$ и $z'_2$ не соединяются кривой из множества $V$, монотонной относительно крайних функционалов $f_3$ и $f_4$. Действительно, из условия $f_3(z'_1)=f_3(z'_2)$ следует, что кривая $\gamma$, соединяющая точки $z'_1$ и $z'_2$, монотонна относительно $f_3$ тогда и только тогда, когда $\gamma$ лежит в плоскости $\{z\mid f_3(z)=f_3(z'_1)\}$. При этом $f_4(z'_1)=f_4(z'_2)$ и кривая $\gamma$, монотонная относительно $f_4$, содержится в плоскости $\{z\mid f_4(z)=f_4(z'_1)\}$. Значит, единственная монотонная относительно как $f_3$, так и $f_4$ кривая, соединяющая $z'_1$ с $z'_2$ – это отрезок $[z'_1, z'_2]$, который не содержится целиком в $V$. Следовательно, множество $V$ не монотонно линейно связно. Лемма 7 доказана. Теорема доказана. Автор выражает благодарность П. А. Бородину и И. Г. Царькову за внимание к работе и ценные замечания. 
Цитирование в формате AMSBIB
\RBibitem{Bed23} |
|
||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|