|
Выпуклая оболочка и число Каратеодори множества в терминах метрической проекции
К. С. Шкляевab a Механико-математический факультет, Московский государственный университет имени М. В. Ломоносова
b Московский центр фундаментальной и прикладной математики
Аннотация:
Доказывается, что всякую точку выпуклой оболочки компакта $M$ в гладком банаховом пространстве $X$ можно приблизить выпуклой комбинацией точек метрической проекции $P_M(x)$, где $x \in X$. Как следствие получено, что число Каратеодори компакта $M \subset X$ с не более чем $k$-значной метрической проекцией $P_M$ не превосходит $k$, т.е. всякая точка выпуклой оболочки $M$ лежит в выпуклой оболочке не более чем $k$ точек из $M$.
Библиография: 26 названий.
Ключевые слова:
метрическая проекция, выпуклая оболочка, банахово пространство, гладкость, функционал Минковского, число Каратеодори.
Поступила в редакцию: 23.02.2022 и 11.05.2022
§ 1. Введение Пусть $(X, \| \cdot \|)$ – действительное банахово пространство. Расстояние от элемента $x \in X$ до множества $M \subset X$ обозначим
$$
\begin{equation*}
d(x, M)= \inf_{y \in M}\| x-y \|.
\end{equation*}
\notag
$$
Обозначим замкнутый, открытый шары и сферу пространства $X$ с центром в точке $x \in X$ радиуса $r > 0$ через $\overline{B}(x,r)$, $B(x,r)$ и $S(x,r)$ соответственно. Обозначим $\operatorname{ri} M$ относительную внутренность множества $M \subset X$, т.е. внутренность множества $M$ в его аффинной оболочке
$$
\begin{equation*}
\operatorname{aff} M := \biggl\{ \sum_{i=1}^k \lambda_i x_i\colon k \in \mathbb{N}, \, x_i \in M, \, \lambda_i \in \mathbb{R}, \, \sum_{i=1}^k \lambda_i=1 \biggr\}.
\end{equation*}
\notag
$$
Напомним, что метрической проекцией точки $x$ на множество $M$ называется множество
$$
\begin{equation*}
P_M(x)=\bigl\{y \in M\colon \| x-y \|=d(x, M) \bigr\}.
\end{equation*}
\notag
$$
Множество $M$ называется чебышёвским, если метрическая проекция $P_M(x)$ состоит ровно из одного элемента для всех $x \in X$. Выпуклую оболочку множества $M$ обозначим $\operatorname{conv} M$. Проблема выпуклости чебышёвских множеств в конкретных и абстрактных банаховых пространствах рассматривалась многими авторами (см., например, работы Н. В. Ефимова и С. Б.Стечкина [1], В. Кли [2], [3], В. И. Бердышева [4], А. Брондстеда [5], А. Л. Брауна [6], [7], Л. П. Власова [8], В. С. Балаганского и Л. П. Власова [9], И. Г. Царькова [10], [11], А. Р. Алимова [12], [13]). Изучение геометрии чебышёвских множеств в конечномерных линейных нормированных пространствах было начато Л. Бунтом в [14], Г. Манном в [15] и T. Моцкиным в [16], [17]. В своей диссертации [14] (1934 г.) Л. Бунт доказал, что в строго выпуклых конечномерных банаховых пространствах с модулем гладкости второго порядка (в том числе в евклидовых) всякое чебышёвское множество выпукло, причем в двумерном случае он показал, что от условия строгой выпуклости можно избавиться. Таким образом, было, в частности, показано, что в конечномерных евклидовых пространствах $\mathbb R^n$ классы чебышёвских и выпуклых замкнутых множеств совпадают. В дальнейшем T. Моцкин установил в [16], что в двумерном случае условие гладкости пространства (т.е. единственности опорной гиперплоскости в каждой точке единичной сферы пространства) является необходимым и достаточным для выпуклости любого чебышёвского множества в этом пространстве. В. Кли в своих ранних работах [2], [3] обобщил теоремы Бунта и Моцкина, показав, что каждое чебышёвское множество является выпуклым в любом конечномерном гладком пространстве. Ефимов и Стечкин одними из первых стали изучать чебышёвские множества в бесконечномерных банаховых пространствах. В частности, они поставили проблему о выпуклости чебышёвских множеств в гильбертовых пространствах. Проблема A. Доказать или опровергнуть, что в гильбертовом пространстве любое чебышёвское множество выпукло. Обзор бесконечномерных результатов можно найти в работе [9]. Естественным обобщением чебышёвских множеств являются множества с непустой и не более чем $k$-значной метрической проекцией. Определение 1. Для множества $M \subset X$ и натурального числа $k$ положим
$$
\begin{equation*}
\operatorname{conv}_k M := \biggl\{\sum_{i=1}^k \lambda_i x_i\colon x_i \in M, \, \lambda_i \in [0,1], \,\sum_{i=1}^k \lambda_i=1 \biggr\}.
\end{equation*}
\notag
$$
Определение 2. Числом Каратеодори множества $M$ называется такое наименьшее натуральное $k$, что $\operatorname{conv}_k M=\operatorname{conv} M$. Широко известна теорема Каратеодори о выпуклой оболочке (см. [18]): для всякого $M \subset \mathbb{R}^d$ выполнено $\operatorname{conv}_{d+1} M= \operatorname{conv} M $, т.е. число Карадеодори $M$ не превосходит $d+1$. При дополнительных условиях на множество $M$ верхняя оценка на его число Каратеодори может быть улучшена. Результаты этого типа получили В. Фенхель (см. [10]), И. Барань и Р. Н. Карасёв (см. [20]) и другие. Более подробный обзор имеющихся результатов о числе Каратеодори можно найти в [20]. В настоящей работе исследуется число Каратеодори множества $M$ с не более чем $k$-значной метрической проекцией $P_M$. В 2010 г. П. А. Бородиным была поставлена Задача A. Доказать, что в конечномерном гладком пространстве $X$ всякое замкнутое множество $M \subset X$ с непустой и не более чем $k$-значной метрической проекцией $P_M$ имеет число Каратеодори не более $k$. Заметим, что для $k=1$ утверждение выполнено, поскольку всякое чебышёвское множество в гладком конечномерном пространстве является выпуклым. По теореме Каратеодори для всех $k \geqslant d+1$ утверждение задачи выполняется автоматически. В случае $k= d=2$ задача A была полностью решена А. А. Флеровым в работе [21]. В настоящей работе задача A решается с некоторыми ограничениями на множество $M$ для пространств произвольной размерности (в том числе для бесконечномерного банахова пространства $X$ и ограниченно компактного множества $M$). В теоремах 1–5 получены более общие результаты о представлении точек выпуклой оболочки множества $M \subset X$ как выпуклой комбинации точек метрической проекции $P_M(x)$ некоторого $x \in X$. Из них в следствиях 1–4 выводятся аналоги и обобщения утверждения задачи A. Кроме того, из следствий 1–4 непосредственно вытекают условия достаточности для существования точки с более чем $k$-значной метрической проекцией на множество $M$. Для этого достаточно, чтобы $\operatorname{conv}{M} \neq \operatorname{conv}_k{M}$ в следствиях 1, 4 и $\overline{\operatorname{conv}{M}} \neq \overline{\operatorname{conv}_k{M}}$ в следствиях 2, 3. Отметим, что бесконечномерный аналог задачи A для гильбертова пространства $X$ без дополнительных ограничений на множество $M$ включает в себя как частный случай (при $k=1$) проблему A.
§ 2. Вспомогательные леммы Далее через $X_d$ обозначается нормированное пространство размерности $d$. Лемма 1. Пусть $a, b \in X_d$, $r > 0$, $a \in B(b,r)$ и $f\colon \overline{B}(b,r) \to X_d$ – такое непрерывное отображение, что $a \notin [x, f(x)]$ для всех $x \in S(b,r)$. Тогда существует такая точка $x_* \in B(b,r)$, что $f(x_*)=a$. Доказательство. Не ограничивая общности, можно считать, что $b=0$, $r=1$. Предположим, что $f(x) \neq a$ для всех $x \in B(0,1)$. Поскольку $a \notin [x, f(x)]$ для всех $x \in S(0,1)$, то в силу непрерывности $f$ существует такое число $\tau \in (0,1)$, что $a \notin [x, f(t x)]$ для всех $x \in S(0,1)$ и всех $t \in [1-\tau, 1]$. Поэтому
$$
\begin{equation}
g(x,t) := \frac{t+\tau-1}{\tau}x+\frac{1-t}{\tau}f(tx) \neq a
\end{equation}
\tag{1}
$$
для всех $x \in S(0,1)$ и всех $t \in [1-\tau, 1]$. Введем автоморфизм сферы $S(0,1)$
$$
\begin{equation*}
u\colon x \mapsto \frac{x-a}{\| x-a\|}.
\end{equation*}
\notag
$$
Из (1) вытекает, что корректно определено следующее отображение $\widetilde{f}\colon \overline{B}(0,1)\,{\to} S(0,1)$, заданное формулой
$$
\begin{equation*}
\widetilde{f}(tx) := \begin{cases} u^{-1}\biggl( \dfrac{f(tx)-a}{\| f(tx)-a \| }\biggr), &x \in S(0,1),\ t \in [0, 1-\tau), \\ u^{-1}\biggl(\dfrac{g(x,t)-a}{\| g(x,t)-a \| }\biggr), &x \in S(0,1),\ t \in [1-\tau,1]. \end{cases}
\end{equation*}
\notag
$$
Кроме того, для всех $x \in S(0,1)$ выполнено
$$
\begin{equation*}
\frac{g(x,1-\tau)-a}{\| g(x,1-\tau)-a \|}=\frac{f((1-\tau)x)-a}{\| f((1-\tau)x)-a \|}, \qquad \frac{g(x,1)-a}{\| g(x,1)-a\|}=\frac{x-a}{\| x-a\|}.
\end{equation*}
\notag
$$
Поэтому $\widetilde{f}$ непрерывно и $\widetilde{f}|_{S(0,1)} \equiv \mathrm{id}$, т.е. $\widetilde{f}$ – ретракция шара $\overline{B}(0,1)$ на его границу $S(0,1)$, что невозможно (см. [22; § 38]).
Лемма доказана. Пусть $(X, d_X)$, $(Y, d_Y)$ – метрические пространства. Многозначное отображение $F\colon X \to 2^Y \setminus \{\varnothing\}$ называется полунепрерывным сверху в точке $x_0 \in X$, если для всякого $\varepsilon > 0$ существует такое $\delta > 0$, что для всех $x \in B(x_0,\delta)$ выполнено
$$
\begin{equation*}
F(x) \subset B_\varepsilon(F(x_0)) := \Bigl\{ y \in Y\colon d_Y(y, F(x_0)) := \inf_{z \in F(x_0)}d_Y(y, z) < \varepsilon \Bigr\}.
\end{equation*}
\notag
$$
Графиком многозначного отображения $F\colon X \to 2^Y \setminus \{\varnothing\}$ называется множество
$$
\begin{equation*}
\Gamma_F := \bigl\{ (x,y)\colon x \in X, \, y \in F(x) \bigr\}
\end{equation*}
\notag
$$
с заданным на нем расстоянием $d( (x_1, y_1), (x_2, y_2) ) \,{:=} \max (d_X(x_1, x_2), d_Y(y_1, y_2) )$. Для линейного пространства $Y$ обозначим $\mathrm{Conv}(Y)$ множество всех его непустых замкнутых выпуклых подмножеств. Лемма 2. Пусть $a, b \in X_d$, $r > 0$, $a \in B(b,r)$ и $F\colon \overline{B}(b,r) \to \mathrm{Conv}(X_d)$ – такое полунепрерывное сверху отображение, что $a \notin \operatorname{conv}(\{x\} \cup F(x))$ для всех $x \in S(b,r)$. Тогда $a \in F(x_*)$ для некоторого $x_* \in B(b,r)$. Доказательство. Не ограничивая общности, будем считать, что $b=0$, $r=1$. Предположим, что $a \notin F(x)$ для всех $x \in \overline{B}(0,1)$. Тогда в силу полунепрерывности сверху отображения $F$ существует такое $\varepsilon \in (0, (1-\| a \|)/2)$, что для всех $x \in \overline{B}(0,1)$ и всех $y \in \overline{B}(0,1) \setminus B(0, 1-\varepsilon)$ выполнено
$$
\begin{equation}
B(a,2\varepsilon) \cap F(x)=\varnothing, \qquad B(a,\varepsilon) \cap \operatorname{conv}(\{y\} \cup F(y))=\varnothing.
\end{equation}
\tag{2}
$$
Далее нам потребуется следующая
Теорема B (см. [23; теорема 1]). Пусть $S$ – компактное метрическое пространство, $Y$ – линейное нормированное пространство, $\Phi\colon S \to \mathrm{Conv}(Y)$ – полунепрерывное сверху отображение. Тогда для всякого $\varepsilon > 0$ существует однозначная $\varepsilon$-аппроксимация отображения $\Phi$, т.е. такое непрерывное однозначное отображение $\varphi\colon S \to \operatorname{conv} \Phi(S)$, что для графиков $\Gamma_\Phi$ и $\Gamma_\varphi$ отображений $\Phi$ и $\varphi$ выполнено $d^*(\Gamma_\varphi, \Gamma_\Phi):= \sup_{y \in \Gamma_\varphi} d(y, \Gamma_\Phi) < \varepsilon$.
По теореме B существует однозначная $\varepsilon$-аппроксимация $f\colon \overline{B}(0,1) \to X$ многозначного отображения $F$. Поскольку $d^* (\Gamma_{f},\Gamma_F) < \varepsilon$, из (2) вытекает
$$
\begin{equation}
B(a,\varepsilon) \cap f(\overline{B}(0,1))=\varnothing.
\end{equation}
\tag{3}
$$
Кроме того, $a \notin [y,f(y)]$ для $y \in S(0,1)$. Действительно, в противном случае найдется такое $\lambda \in [0,1]$, что
$$
\begin{equation}
a=\lambda y+(1-\lambda)f(y).
\end{equation}
\tag{4}
$$
Поскольку $d^* (\Gamma_{f},\Gamma_F) < \varepsilon$, найдутся такие $z \in B(y,\varepsilon) \cap \overline{B}(0,1)$ и $w \in B(f(y),\varepsilon)$, что $w \in F(z)$. Поэтому в силу (4) выполнена оценка
$$
\begin{equation*}
\bigl\| \lambda z+(1-\lambda)w-a\bigr\| \leqslant \|\lambda(z-y\|+\bigl\| (1-\lambda)(w-f(y)) \bigr\| < \varepsilon,
\end{equation*}
\notag
$$
т.е. $B(a,\varepsilon) \cap \operatorname{conv}(\{z\} \cup F(z)) \neq \varnothing$, что противоречит (2). Таким образом, отображение $f$ удовлетворяет условиям леммы 1, поэтому существует такой $x_* \in B(0,1)$, что $f(x_*)=a$. Последнее невозможно в силу (3).
Лемма доказана.
§ 3. Результаты для звездных областей Результаты этого параграфа относятся к комбинаторной геометрии и близки к работе [24]. Напомним, что область $U \subset \mathbb{R}^d$ называется звездной относительно точки $0$, если $\lambda U \subset U$ для всех $\lambda \in (0,1)$ и $0 \in U$. Обозначим $p_u$ функционал Минковского звездной относительно нуля области $U$, т.е. отображение
$$
\begin{equation*}
p_u\colon \mathbb{R}^d \to \mathbb{R}_+, \qquad x \mapsto \sup\bigl\{ \lambda \geqslant 0\colon \lambda x \in U\bigr\}.
\end{equation*}
\notag
$$
По аналогии с [25; замечание 2] введем Определение 3. Пусть $U \subset \mathbb{R}^d$ – ограниченная звездная область относительно точки $0$. Для точки $x \in \mathbb{R}^d$ и замкнутого множества $M \subset \mathbb{R}^d$ положим
$$
\begin{equation*}
\begin{gathered} \, U(x, r):= x+rU, \qquad \overline{U}(x,r) := \overline{U(x,r)}, \qquad d_u(x,M)= \inf\bigl\{ p_u(y-x)\colon y \in M \bigr\}, \\ P^u_M(x) := M \cap \overline{U}(x, d_u(x,M)). \end{gathered}
\end{equation*}
\notag
$$
Отметим, что хотя в силу замкнутости $M$ и открытости $U$ выполнено
$$
\begin{equation*}
P^u_M(x) \neq \varnothing, \qquad M \cap U(x, d_u(x,M))= \varnothing,
\end{equation*}
\notag
$$
но вообще говоря неверно, что $M \cap \overline{U}(x,\lambda)=\varnothing$ для всех $\lambda \in (0, d_u(x,M))$. Напомним, что функция $f\colon \mathbb{R}^d \to \mathbb{R}$ называется полунепрерывной сверху на $\mathbb{R}^d$, если $\varlimsup_{x \to x_0} f(x) \leqslant f(x_0)$ для всех $x_0 \in \mathbb{R}^d$. Лемма 3. Пусть $U \subset \mathbb{R}^d$ – ограниченная звездная область с центром в нуле, $M$ – непустое замкнутое подмножество $\mathbb{R}^d$. Тогда 1) функция $d_u(\,\cdot\,, M)$ полунепрерывна сверху на $\mathbb{R}^d$; 2) многозначное отображение $P^u_M$ полунепрерывно сверху на $\mathbb{R}^d$. Доказательство. 1) Пусть $x \in \mathbb{R}^d$. Докажем, что функция $d_u(\,\cdot\, , M)$ полунепрерывна сверху в точке $x$, т.е. для всякой последовательности $x_n \to x$, $n\to\infty$, выполнено неравенство
$$
\begin{equation*}
d_u(x,M) \geqslant \varlimsup_{n \to \infty} d_u(x_n,M) =: r.
\end{equation*}
\notag
$$
В противном случае $d_u(x,M) < r$, поэтому $M \cap U(x,r) \neq \varnothing$. Выберем $y \in M \cap U(x,r)$ и положим $z := (y-x)/r \in U$. Тогда $y=x+r z$. Найдем такое $\varepsilon > 0$, что
$$
\begin{equation*}
B(x+rz, 4r\varepsilon) \subset U(x,r)=x+r U,
\end{equation*}
\notag
$$
положим $r_n := d_u(x_n,M)$. Предыдущее включение остается верным при гомотетии и сдвиге, поэтому
$$
\begin{equation}
B(x_n+r_n z, 4 r_n \varepsilon ) \subset (x_n+r_n U )=U(x_n,r_n).
\end{equation}
\tag{5}
$$
Возьмем такое $n$, что
$$
\begin{equation*}
\| x-x_n\| < r \varepsilon, \qquad |r-r_n| < \min\biggl(\frac{r \varepsilon}{\| z \|+1}, \frac{r}{4}\biggr).
\end{equation*}
\notag
$$
Тогда выполнена оценка
$$
\begin{equation*}
\| x+r z -(x_n+r_n z)\| \leqslant \| x-x_n \|+\| (r-r_n)z \| < 2 r \varepsilon, \qquad r_n > \frac{3r}{4}.
\end{equation*}
\notag
$$
В силу двух последних неравенств и (5) выполнено включение
$$
\begin{equation*}
B(y, r \varepsilon)=B(x+r z, r \varepsilon) \subset B(x_n+r_n z, 3 r \varepsilon) \subset B(x_n+r_n z, 4 r_n \varepsilon) \subset U(x_n, r_n ).
\end{equation*}
\notag
$$
Отсюда
$$
\begin{equation*}
M \cap B(y, r\varepsilon) \subset M \cap U(x_n, r_n )=\varnothing,
\end{equation*}
\notag
$$
однако $y \in M \cap B(y, r \varepsilon)$, поскольку $y$ выбирался из множества $M \cap U(x,r)$. Следовательно, $M \cap U(x,r)=\varnothing$, а значит, $d_u(x, M) \geqslant r$. Тем самым первая часть леммы доказана.
2) Докажем, что многозначное отображение $P^u_M$ полунепрерывно сверху в точке $x$. Для этого достаточно показать, что для всякой последовательности $x_n \to x$, $n\to\infty$, и всякой такой последовательности $y_n \in P^u_M(x_n)$, что $y_n \to y$, $n\to\infty$, выполнено $y \in P^u_M(x)$. Не ограничивая общности будем считать, что $r_{n} := d_u(x_{n}, M) \to r$ (в противном случае можно выбрать соответствующую подпоследовательность из последовательности $y_n$). Тогда множества $\overline{U}(x_{n},r_{n})$ стремятся в метрике Хаусдорфа к $\overline{U}(x,r)$. Поэтому $y \in \overline{U}(x,r)$. Кроме того, $y \in M$, поскольку $y_n \in M$ и $M$ замкнуто. С другой стороны, в силу полунепрерывности сверху функции $d_u(\cdot,M)$ имеем $R := d_u(x,M) \geqslant r$. Следовательно, $y \in \overline{U}(x,R) \cap M$, т.е. $y \in P^u_M(x)$.
Лемма доказана. Из лемм 2 и 3 непосредственно вытекает следующая Теорема 1. Пусть $U \subset \mathbb{R}^d$ – ограниченная звездная область с центром в нуле, $M \subset \mathbb{R}^d$ – замкнутое множество, $a, b \in \mathbb{R}^d$ и $r > 0$ таковы, что $a \in B(b,r)$ и $a \notin \operatorname{conv}(\{x\} \cup P^u_M(x))$ для всех $x \in S(b,r)$. Тогда существует такое $x_* \in \mathbb{R}^d$, что $a \in \operatorname{conv}(P^u_M(x_*))$. При дополнительных условиях на множество $M$ и область $U$ это утверждение можно уточнить. Теорема 2. Пусть $U \subset \mathbb{R}^d$ – ограниченная звездная область с центром в нуле, $\partial U$ – $C^1$-гладкое замкнутое $(d-1)$-мерное многообразие, $M \subset \mathbb{R}^d$ – компакт. Тогда $\operatorname{ri}(\operatorname{conv} M) \subset \bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))$ и $\operatorname{conv} M=\overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))}$. Доказательство. 1) Докажем включение $\operatorname{ri}(\operatorname{conv} M)\,{\subset} \bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))$.
Рассмотрим случай $\operatorname{aff} M= \mathbb{R}^d$. Тогда
$$
\begin{equation*}
\operatorname{ri} (\operatorname{conv} M)=\operatorname{int} (\operatorname{conv} M).
\end{equation*}
\notag
$$
Пусть $a \in \operatorname{ri} (\operatorname{conv} M) \setminus M$. Найдем элементы $a_1, \dots, a_\nu \in M$ и число $\delta \in (0,1)$, для которых
$$
\begin{equation}
B(a, 3\delta) \subset \operatorname{conv}(\{a_1, \dots, a_\nu\}), \qquad B(a, 3\delta) \cap M=\varnothing.
\end{equation}
\tag{6}
$$
Докажем, что существует такой элемент $x_* \in \mathbb{R}^d$, что $a \in \operatorname{conv}(P^u_M(x_*))$. По теореме 1 для доказательства существования точки $x_*$ достаточно найти такое $R > 0$, что
$$
\begin{equation*}
a \notin \operatorname{conv}(\{x\} \cup P^u_M(x)) \quad \forall\, x \in S(0,R).
\end{equation*}
\notag
$$
Пусть $V \subset \mathbb{R}^d$ – ограниченная звездная область, $\partial V$ – $C^1$-гладкое замкнутое $(d-1)$-мерное многообразие. Для точки $y \in \partial V$ обозначим через $N_{\partial V}(y)$ единичный вектор внешней нормали к $V$ в точке $y$. Также введем замкнутое полупространство
$$
\begin{equation}
\Pi_{\partial V}(y, t):= \bigl\{ x \in \mathbb{R}^d\colon \langle x, N_{\partial V}(y)\rangle \leqslant\langle y, N_{\partial V}(y)\rangle-t \bigr\}.
\end{equation}
\tag{7}
$$
Диаметр множества $M$ обозначим
$$
\begin{equation*}
\operatorname{diam}(M)=\sup\{ \| y-y' \|\colon y, y' \in M \}.
\end{equation*}
\notag
$$
В силу $C^1$-гладкости и компактности $\partial U$ существует такое $\lambda_0 > 0$, что для всех $\lambda \geqslant \lambda_0$ и всех $y \in \partial U$ выполнены включения
$$
\begin{equation}
\lambda \overline{U} \cap \overline{B}(\lambda y, \operatorname{diam}(M) ) \subset \Pi_{\lambda \partial U}(\lambda y, -\delta) \cap \overline{B}(\lambda y, \operatorname{diam}(M) ),
\end{equation}
\tag{8}
$$
$$
\begin{equation}
\lambda U \cap \overline{B}(\lambda y, \operatorname{diam}(M) ) \supset \Pi_{\lambda \partial U}(\lambda y, \delta) \cap \overline{B}(\lambda y, \operatorname{diam}(M) ).
\end{equation}
\tag{9}
$$
Найдем такое $R > 0$, что
$$
\begin{equation}
d_u(x,M) \geqslant \lambda_0 \quad \forall\, x \in S(0,R).
\end{equation}
\tag{10}
$$
Докажем, что
$$
\begin{equation*}
B(a,\delta) \cap \operatorname{conv}(\{x\} \cup P^u_M(x))=\varnothing \quad \forall\, x \in S(0,R).
\end{equation*}
\notag
$$
Предположим противное. Возьмем $b \in B(a,\delta) \cap \operatorname{conv}(\{x\} \cup P^u_M(x))$. Найдем такие $y_1, \dots, y_m \in P^u_M(x)$, что $b \in \operatorname{conv}(\{x, y_1, \dots, y_m \})$ и обозначим
$$
\begin{equation*}
U' := U(x, d_u(x,M)).
\end{equation*}
\notag
$$
Очевидно, что $\partial U'$ гомотетично $\partial U$ и $y_1, \dots, y_m \in \partial U'$. Положим
$$
\begin{equation*}
N(y_1) := N_{\partial U'}(y_1), \qquad \Pi(y_1,t) := \Pi_{\partial U'}(y_1, t).
\end{equation*}
\notag
$$
Поскольку $U'$ – звездная область c центром в точке $x$, выполнено $x \in \Pi(y_1, 0)$ и, следовательно, $x \in \Pi(y_1, -\delta)$. Подставляя $\lambda U=U'-x$, $\lambda y=y_1-x$ в соотношения (8), (9) и прибавляя к ним $x$, получим
$$
\begin{equation}
\overline{U'} \cap \overline{B}(y_1, \operatorname{diam}(M) ) \subset \Pi(y_1, -\delta) \cap \overline{B}(y_1, \operatorname{diam}(M) ),
\end{equation}
\tag{11}
$$
$$
\begin{equation}
U' \cap \overline{B}(y_1, \operatorname{diam}(M) ) \supset \Pi(y_1, \delta) \cap \overline{B}(y_1, \operatorname{diam}(M) ).
\end{equation}
\tag{12}
$$
Очевидно, что $\| y_1-y_i \| \leqslant \operatorname{diam}(M)$ для всех $i=1, \dots, m$, поэтому из (11) вытекает $y_i \in \Pi(y_1,-\delta)$. Тогда $\operatorname{conv}\{x, y_1, \dots, y_m\} \subset \Pi(y_1,-\delta)$, а значит, $b \in \Pi(y_1,-\delta)$. Отсюда $c := b-2\delta N(y_1) \in \Pi(y_1, \delta)$. Ясно, что $c \in B(a, 3\delta)$, поэтому из (6) следует, что какая-то из точек $a_1, \dots, a_\nu$ также лежит в $\Pi(y_1,\delta)$. Не ограничивая общности будем далее считать, что $a_1 \in \Pi(y_1,\delta)$. С другой стороны, в силу $M \subset \overline{B}(y_1, \operatorname{diam}(M))$ из (12) вытекает включение
$$
\begin{equation*}
U' \cap M \supset \Pi(y_1,\delta) \cap M,
\end{equation*}
\notag
$$
что невозможно, поскольку $U' \cap M=\varnothing$ и $a_1 \in \Pi(y_1,\delta) \cap M$.
Рассмотрим случай $\operatorname{aff} M \neq \mathbb{R}^d$. Без ограничения общности будем считать, что $0 \in M$, т.е. $\operatorname{aff} M= \operatorname{span} M$. Положим $l:= d-\dim (\operatorname{span} M) > 0$. Ясно, что найдется такое множество точек $W=\{w_1, \dots, w_l\}$, где $w_1, \dots, w_l \in \mathbb{R}^d$, что
$$
\begin{equation}
\operatorname{aff} (M \cup W)=\operatorname{span} (M \cup W)=\mathbb{R}^d.
\end{equation}
\tag{13}
$$
Тогда по доказанному ранее для всякой точки $a \in \operatorname{ri}(\operatorname{conv} M)$ и точки
$$
\begin{equation}
b := \frac{a}{2}+\frac{1}{2l}(w_1+\dots+w_l) \in \operatorname{int}(\operatorname{conv}(M \cup W))
\end{equation}
\tag{14}
$$
существует такое $x_* \in \mathbb{R}^d$, что
$$
\begin{equation*}
b \in \operatorname{conv}(P^u_{M \cup W}(x_*)).
\end{equation*}
\notag
$$
Следовательно, имеет место представление
$$
\begin{equation*}
b=\lambda y+(1-\lambda)w,
\end{equation*}
\notag
$$
где
$$
\begin{equation*}
\lambda \in [0,1], \qquad y \in \operatorname{conv}(P^u_{M \cup W}(x_*) \cap M ), \qquad w \in \operatorname{conv}(P^u_{M \cup W}(x_*) \cap W).
\end{equation*}
\notag
$$
Поскольку $\dim{(\operatorname{span}{M})}+\dim{(\operatorname{span}{W})}=n$, имеем $\operatorname{span}{M} \cap \operatorname{span}{W}=\{ 0\}$. Поэтому из (14) вытекает
$$
\begin{equation*}
\lambda=\frac{1}{2}, \qquad y=a, \qquad w=\frac{w_1+\dots+w_l}{l}.
\end{equation*}
\notag
$$
Таким образом,
$$
\begin{equation*}
a \in \operatorname{conv}(P^u_{M \cup W}(x_*) \cap M)=\operatorname{conv}(P^u_{M}(x_*)),
\end{equation*}
\notag
$$
что и требовалось доказать.
2) Докажем равенство $\operatorname{conv} M=\overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))}$. Поскольку $M$ – компактно, имеем $\operatorname{conv} M=\overline{\operatorname{ri}(\operatorname{conv} M)} \subset \overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))}$. Ясно, что выполнено и обратное включение, поскольку $\operatorname{conv}(P^u_M(x) ) \subset \operatorname{conv} M$ для всех $x \in \mathbb{R}^d$.
Теорема 2 доказана. Замечание 1. В условиях теоремы 2 для всякого $d \geqslant 2$ существует такой компакт $M \subset \mathbb{R}^d$, что $\operatorname{conv} M \neq \bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))$. Доказательство. Возьмем в качестве $U$ евклидов шар $B(0,1)$ пространства $\mathbb{R}^d$. Пусть $e_1, \dots, e_d$ – ортонормированный базис $\mathbb{R}^d$, $M=\overline{B}(e_2,1) \cup \overline{B}(-e_2,1)$. Тогда $P^u_M$ – это метрическая проекция $P_M$ в евклидовом пространстве $\mathbb{R}^d$. Ясно, что $(e_1 \pm e_2) \in M$, поэтому $e_1 \in \operatorname{conv} M$. Нетрудно видеть, что если $e_1 \in \operatorname{conv}(P_M(x))$, то $P_M(x)=\{e_1+e_2, e_1-e_2 \}$. Тогда шар $\overline{B}(x, \| x-e_2\|-1)$ касается шаров $\overline{B}(e_2,1)$ и $\overline{B}(-e_2,1)$ в точках $e_1+e_2$ и $e_1-e_2$ соответственно. Поэтому через каждую тройку точек $\{e_2, e_1+e_2, x\}$, $\{-e_2, e_1-e_2, x\}$ проходит прямая (здесь существенно то, что пространство $\mathbb{R}^d$ евклидово). Эти прямые, очевидно, пересекаются в точке $x$. С другой стороны, прямые, проходящие через пары точек $\{e_2, e_1+e_2 \}$ и $\{-e_2, e_1 -e_2 \}$, параллельны. Противоречие.
Доказательство завершено. Следствие 1. Пусть $U \subset \mathbb{R}^d$ – ограниченная звездная область с центром в нуле, $\partial U$ – $C^1$-гладкое замкнутое $(d-1)$-мерное многообразие и $M \subset \mathbb{R}^d$ – компакт. Если $|P^u_M(x)| \leqslant k$ для всех $x \in \mathbb{R}^d$, то $\operatorname{conv} M=\operatorname{conv}_k M$. Доказательство. По теореме 2 имеем
$$
\begin{equation*}
\operatorname{ri} (\operatorname{conv} M) \subset \bigcup_{x \in \mathbb{R}^d} \operatorname{conv} ( P^u_M(x) ),
\end{equation*}
\notag
$$
поэтому в силу $|P^u_M(x)| \leqslant k$ выполнены включения
$$
\begin{equation*}
\overline{\operatorname{conv} M}=\overline{\operatorname{ri} (\operatorname{conv} M)} \subset \overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv} ( P^u_M(x) )} \subset \overline{\operatorname{conv}_k M}.
\end{equation*}
\notag
$$
Обратное включение очевидно. Таким образом, доказано, что $\overline{\operatorname{conv} M}=\overline{\operatorname{conv}_k M}$. Поскольку множество $M$ компактно, множества $\operatorname{conv} M$ и $\operatorname{conv}_k M$ замкнуты, поэтому $\operatorname{conv} M=\operatorname{conv}_k M$.
Следствие доказано.
§ 4. Результаты для выпуклых областей Пусть $U$ – ограниченная выпуклая область в банаховом пространстве $X$, $0 \in U$, $p_u$ – функционал Минковского $U$. Ясно, что существуют такие $c_1$, $c_2 > 0$, для которых
$$
\begin{equation*}
c_1 \| x \| \leqslant p_u(x) \leqslant c_2 \| x \| \quad \forall x \in X.
\end{equation*}
\notag
$$
Напомним (см. [26; § 2.4.7]), что выпуклая область называется $U$ называется гладкой, если функционал Минковского $p_u$ дифференцируем по Гато на множестве $X \setminus \{ 0 \}$, т.е. для всякого $x \in X \setminus \{ 0 \}$ найдется такой непрерывный линейный функционал $p'_u(x;\cdot) \in X^*$, что для всех $h \in X$ существует предел
$$
\begin{equation}
\lim_{t \to 0}\frac{p_u(x+th)-p_u(x)}{t}=p'_u(x;h).
\end{equation}
\tag{15}
$$
Модуль гладкости выпуклого тела $U$ определяется как
$$
\begin{equation*}
\omega_u(t)=\sup\biggl\{ \frac{1}{2}(p_u(x+y)+p_u(x-y)-2)\colon x \in \partial U, \, y \in X, \, p_u(y)=t \biggr\}.
\end{equation*}
\notag
$$
Выпуклое тело $U$ называется равномерно гладким, если его функционал Минковского $p_u$ равномерно дифференцируем по Фреше на $U$, т.е. (15) выполняется равномерно по всем $x \in \partial U$, $h \in U$. Известно (см. [26; § 2.4.7]), что модуль гладкости равномерно гладкого тела $U$ удовлетворяет $\omega_u(t)=o(t)$ при $t \searrow 0$. Пусть $x \in \partial U$ и $\Pi_x$ – опорная гиперплоскость к $U$ в точке $x$. Тогда $p_u(x+y)-1 \geqslant 0$, $p_u(x-y)-1 \geqslant 0$ для всех $y \in \Pi_x-x$, поэтому
$$
\begin{equation}
\sigma(t) := \sup\bigl\{ p_u(x+y)-1\colon x \in \partial U, \, y \in \Pi_x-x, \, p_u(y) \leqslant t \bigr\}=o(t), \qquad t \to 0.
\end{equation}
\tag{16}
$$
Для $x \in \partial U$ пусть $f_x \in S_{X^*}$ – опорный функционал к $U$ в точке $x$. Докажем, что для всякого $\varepsilon \in (0,c_1)$ существует такое положительное $\delta=o(\varepsilon)$, $\varepsilon \searrow 0$, что выполнено включение
$$
\begin{equation}
\bigl\{ z \in X\colon f_x(z) \leqslant f_x(x)-\delta \bigr\} \cap \overline{B}(x, \varepsilon) \subset U \cap \overline{B}(x, \varepsilon) \quad \forall\, x \in \partial U.
\end{equation}
\tag{17}
$$
Пусть $\varepsilon > 0$, $\delta > 0$ – некоторые числа. Представим любой такой элемент $z \in B(x, \varepsilon)$, что $f_x(z) \leqslant f_x(x)-\delta$, в виде
$$
\begin{equation*}
z=(1-\tau)x+y, \qquad \tau \geqslant \frac{\delta}{f_x(x)}, \quad y \in (\Pi_x-x).
\end{equation*}
\notag
$$
Тогда в силу (16) выполнено
$$
\begin{equation*}
\begin{gathered} \, p_u(z)=p_u((1-\tau)x+y)=(1-\tau) p_u\biggl(x+\frac{y}{1-\tau}\biggr) \leqslant 1-\tau+ \sigma(p_u(y)), \\ \tau=\tau p_u(x) \leqslant \tau p_u\biggl(x-\frac{y}{\tau}\biggr)=p_u(\tau x-y)=p_u(x-z) \leqslant c_2 \| x-z \| \leqslant c_2 \varepsilon. \end{gathered}
\end{equation*}
\notag
$$
Поскольку $z \in B(x, \varepsilon)$, имеем $\| y \| \leqslant \| z-x\|+\tau \| x \| \leqslant \varepsilon+\tau/ c_1$, а следовательно,
$$
\begin{equation}
p_u(y) \leqslant c_2 \| y \| \leqslant c_2 \varepsilon+\tau \frac{c_2}{c_1} \leqslant \biggl(c_2+\frac{c_2^2}{c_1}\biggr) \varepsilon =: C \varepsilon.
\end{equation}
\tag{18}
$$
Ясно, что для всякого $\varepsilon > 0$ можно выбрать $\delta=\delta(\varepsilon) > 0$ так, чтобы $c_1 \delta > \sigma(C \varepsilon)$ и $\delta=o(\varepsilon)$, $\varepsilon \searrow 0$. Тогда в силу (18) и $f_x(x) \leqslant \| x \| \leqslant 1/c_1$ для $\delta= \delta(\varepsilon)$ имеем
$$
\begin{equation*}
p_u(z) \leqslant 1-\tau+\sigma(p_u(y)) \leqslant 1-\frac{\delta}{f_x(x)}+\sigma(C\varepsilon) \leqslant 1-c_1 \delta+\sigma(C \varepsilon) < 1,
\end{equation*}
\notag
$$
а следовательно, $z \in U$. Тем самым (17) доказано. Отметим, что в конечномерном пространстве всякое гладкое выпуклое тело является равномерно гладким. Теорема 3. Пусть $U \subset \mathbb{R}^d$ – ограниченная гладкая выпуклая область, $0 \in U$, множество $M \subset \mathbb{R}^d$ замкнуто. Тогда выполнено
$$
\begin{equation*}
\operatorname{ri}(\operatorname{conv} M) \subset \bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x)) \quad\textit{и}\quad \overline{\operatorname{conv} M}=\overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))}.
\end{equation*}
\notag
$$
Доказательство. 1) Докажем включение $\operatorname{ri}(\operatorname{conv} M)\,{\subset} \bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P_M(x))$. Рассмотрим случай $\operatorname{aff} M= \mathbb{R}^d$. Тогда
$$
\begin{equation*}
\operatorname{ri} (\operatorname{conv} M)=\operatorname{int} (\operatorname{conv} M).
\end{equation*}
\notag
$$
Пусть $a \in \operatorname{ri} (\operatorname{conv} M) \setminus M$. Найдем такие элементы $a_1, \dots, a_\nu \in M$ и число $\delta \in (0,1)$, для которых
$$
\begin{equation}
B(a, 2\delta) \subset \operatorname{conv}(\{a_1, \dots a_\nu\}), \qquad B(a, 2\delta) \cap M=\varnothing.
\end{equation}
\tag{19}
$$
Докажем, что существует такой элемент $x_* \in \mathbb{R}^d$, что $a \in \operatorname{conv}(P_M(x_*))$. По лемме 3 отображение $P_M^u$ полунепрерывно сверху. Поэтому из теоремы 1 вытекает, что для доказательства существования точки $x_*$ достаточно найти такое $R > 0$, что
$$
\begin{equation*}
a \notin \operatorname{conv}(\{x, P_M^u(x)\}) \quad \forall\, x \in S(0,R).
\end{equation*}
\notag
$$
Положим $R_a :=\max_{i=1, \dots, \nu}\| a-a_i \|$. Далее мы будем пользоваться обозначениями единичного вектора внешней нормали $N_{\partial V}(y)$ и полупространства $\Pi_Y(y,t)$, введенные в доказательстве теоремы 2 (см. (7)). В силу равномерной гладкости $U$ выполнено (17), поэтому найдется такое $\lambda_0 > 0$, что для всех $\lambda \geqslant \lambda_0$ и всех $y \in \lambda \partial U$
$$
\begin{equation}
\Pi_{\lambda \partial U}(y, \delta) \cap \overline{B}(y, R_a +1 ) \subset U(0,\lambda) \cap \overline{B}(y, R_a +1 ).
\end{equation}
\tag{20}
$$
Возьмем $R > 0$ так, чтобы
$$
\begin{equation*}
p_u( a-x) > \lambda_0+\sup_{z \in B(a,\delta)} p_u(a-z) \quad \forall\, x \in S(0,R)
\end{equation*}
\notag
$$
и докажем, что
$$
\begin{equation}
B(a, \delta) \cap \overline{U}(x, d_u(x,M))=\varnothing \quad \forall\, x \in S(0,R).
\end{equation}
\tag{21}
$$
Предположим противное. Пусть $b \in B(a,\delta) \cap \overline{U}(x, d_u(x,M))$. Ясно, что тогда $U(x, p_u(b-x)) \cap M=\varnothing$. Положим $U' := U(x, p_u(b-x))$. Поскольку
$$
\begin{equation*}
p_u(b-x) \geqslant p_u( a-x)-p_u(a-b) > \lambda_0,
\end{equation*}
\notag
$$
из (20) следует включение
$$
\begin{equation*}
\Pi_{\partial U'} (b, \delta) \cap \overline{B}(b,R_a +1) \subset U' \cap \overline{B}(b, R_a +1).
\end{equation*}
\notag
$$
Ясно, что $\overline{B}(a,R_a) \subset \overline{B}(b, R_a+1)$, поэтому
$$
\begin{equation}
\Pi_{\partial U'} (b, \delta) \cap \overline{B}(a,R_a) \subset U' \cap \overline{B}(a, R_a).
\end{equation}
\tag{22}
$$
Положим $c := b-\delta N_{\partial U'}(b) \in \Pi_{\partial U'}(b,\delta)$. Поскольку $b \in B(a,\delta)$, имеем
$$
\begin{equation*}
c \in B(a,2\delta) \subset \operatorname{conv}( \{a_1, \dots, a_\nu\}),
\end{equation*}
\notag
$$
а значит, вместе с точкой $c$ в полупространстве $\Pi_{\partial U'} (b, \delta)$ лежит одна из точек $a_1, \dots, a_\nu$. Не ограничивая общности будем считать, что $a_1 \in \Pi_{\partial U'} (b, \delta)$. Из определения $R_a$ ясно, что $a_1 \in \overline{B}(a,R_a)$. Поэтому
$$
\begin{equation}
a_1 \in \Pi_{\partial U'} (b, \delta) \cap \overline{B}(a,R_a).
\end{equation}
\tag{23}
$$
С другой стороны, $a_1 \in M$, поэтому $a_1 \notin U'$ и следовательно
$$
\begin{equation}
a_1 \notin U' \cap \overline{B}(a, R_a).
\end{equation}
\tag{24}
$$
Очевидно, что (23) и (24) противоречат включению (22). Таким образом, соотношение (21) доказано. Поэтому $B(a,\delta) \cap \operatorname{conv}( \{ x\} \cup P_M^u(x) )=\varnothing$ для всех $x \in S(0,R)$. Тем самым случай $\operatorname{aff} M=\mathbb{R}^d$ доказан.
Случай $\operatorname{aff} M \neq \mathbb{R}^d$ сводится к случаю $\operatorname{aff} M=\mathbb{R}^d$ так же, как в теореме 2.
2) Докажем, что $\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P_M^u(x))}$. В силу $1)$ выполнено включение $\overline{\operatorname{conv} M}=\overline{\operatorname{ri}(\operatorname{conv} M)} \subset \overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))}$. Очевидно, что выполнено и обратное включение, поскольку $\operatorname{conv}(P^u_M(x) ) \subset \operatorname{conv} M$ для всех $x \in \mathbb{R}^d$.
Теорема доказана. Замечание 2. Для замкнутого неограниченного множества $M$ в общем случае $\operatorname{conv} M \neq \overline{\operatorname{conv} M}$, а значит, $\operatorname{conv} M \neq \overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P^u_M(x))}$ в отличие от теоремы 2. Следствие 2. Пусть $U \subset \mathbb{R}^d$ – ограниченная гладкая выпуклая область, множество $M \subset \mathbb{R}^d$ замкнуто. Если метрическая проекция $P^u_M$ не более чем $k$-значна, то $\overline{\operatorname{conv} M}=\overline{\operatorname{conv}_k M}$. Доказательство аналогично доказательству следствия 1.
§ 5. Бесконечномерные результаты Теорема 4. Пусть $X$ – банахово пространство, $U \subset X$ – ограниченная равномерно гладкая выпуклая область и $M \subset X$ ограниченно компактно. Тогда $\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in X}\operatorname{conv}(P^u_M(x))}$. Доказательство. Обозначим $p_u$ функционал Минковского множества $U$. Зафиксируем такие положительные числа $c_1$, $c_2$, $c_1 < c_2$, что
$$
\begin{equation}
c_1 \| x \| \leqslant p_u(x) \leqslant c_2 \| x \| \quad \forall x \in X.
\end{equation}
\tag{25}
$$
Без ограничения общности будем считать, что $c_2=1$ (иначе заменим норму $\| \cdot \|$ на $c_1 \| \cdot \|$). Пусть $a_1, \dots, a_\nu \in M$, $A := \{a_1, \dots, a_\nu\}$ и $a \in \operatorname{ri}(\operatorname{conv} A)$. Докажем, что $a$ можно приблизить элементами $\bigcup_{x \in X}\operatorname{conv}(P^u_M(x))$ с любой точностью. Для $Y \subset X$ и $t > 0$ введем обозначения
$$
\begin{equation}
Y_t := \bigl\{x \in X\colon d(x, Y) \leqslant t \bigr\}, \quad Y^u_t := \bigl\{x \in X\colon d_u(x, Y) \leqslant t \bigr\}.
\end{equation}
\tag{26}
$$
Зафиксируем $\varepsilon \in (0,1/2)$. В силу равномерной гладкости $U$ выполнено (17), поэтому найдется такое $\lambda_0 > 0$, что для всех $\lambda \geqslant \lambda_0$, всех $y \in \lambda \partial U$ и опорного функционала $f_y \in S_{X^*}$ к $\lambda U$ в точке $y$ имеет место включение
$$
\begin{equation}
\bigl\{z\,{\in}\, X\colon f_y(z) \,{\leqslant}\, f_y(y)-\varepsilon \bigr\} \cap \overline{B}(y, \operatorname{diam}(A)+1) \,{\subset}\, U(0,\lambda) \cap \overline{B}(y, \operatorname{diam}(A)+1).
\end{equation}
\tag{27}
$$
Найдем такое $r > 0$, что
$$
\begin{equation*}
d_u(x, A_{2\varepsilon} \cup \{ a \}) \geqslant \lambda_0 \quad \forall\, x \in X \setminus B(0, r)
\end{equation*}
\notag
$$
и докажем, что
$$
\begin{equation}
a \notin \overline{U}(x, d_u(x,A_{2\varepsilon})) \quad \forall\, x \in X \setminus B(0,r).
\end{equation}
\tag{28}
$$
Предположим противное. Тогда
$$
\begin{equation}
U(x, p_u(a-x)) \subset U(x, d_u(x, A_{2\varepsilon})).
\end{equation}
\tag{29}
$$
Обозначим $f_a$ нормированный опорный функционал к области $\overline{U}(x, p_u(a-x))$ в точке $a$. Для $t \in \mathbb{R}$ положим
$$
\begin{equation*}
\Pi(a, t)=\bigl\{z \in X\colon f_a(z) \leqslant f_a(a)-t \bigr\}.
\end{equation*}
\notag
$$
Тогда в силу (27) имеем
$$
\begin{equation}
\Pi(a, \varepsilon) \cap \overline{B}(a, \operatorname{diam}(A)+1) \subset U(x, p_u(a-x)) \cap \overline{B}(a, \operatorname{diam}(A)+ 1).
\end{equation}
\tag{30}
$$
Ясно, что одна из точек множества $A$ также лежит в полупространстве $\Pi(a, 0)$. Не ограничивая общности будем считать, что $a_1 \in \Pi(a, 0)$, т.е. $f_a(a_1) \leqslant f_a(a)$. Тогда существует $b_1 \in B(a_1, 2\varepsilon)$, что $f_a(b_1) \leqslant f_a(a)-\varepsilon$. Поскольку
$$
\begin{equation*}
\| b_1-a\| \leqslant \| b_1-a_1\|+\| a_1-a \| \leqslant 2\varepsilon+\operatorname{diam}(A) < 1+\operatorname{diam}(A),
\end{equation*}
\notag
$$
имеем $b_1 \in \Pi(a, \varepsilon) \cap \overline{B}(a, \operatorname{diam}(A)+1)$. С другой стороны, $b_1 \notin U(x, p_u(a-x))$, поскольку $A_{2\varepsilon} \cap U(x, p_u(a-x))= \varnothing$ в силу включения (29). Существование такой точки $b_1$ противоречит включению (30). Тем самым соотношение (28) доказано. Поскольку $c_2=1$, из определения (26) получаем $A_{2\varepsilon} \subset A_{2c_2\varepsilon}^u= A_{2\varepsilon}^u$. Поэтому из (28) следует, что
$$
\begin{equation}
a \notin \overline{U}(x, d_u(x,A^u_{2\varepsilon})) \quad \forall\, x \in X \setminus B(0,r).
\end{equation}
\tag{31}
$$
Далее, из определения $P_M^u$ ясно, что существует конечный супремум
$$
\begin{equation}
\sup\bigl\{ \| y \|\colon y \in P_M^u(x), \,\| x \| \leqslant r \bigr\} =: R.
\end{equation}
\tag{32}
$$
Поскольку $M$ ограниченно компактно, существует $\varepsilon$-сеть $x_1, \dots, x_m \in X$ множества $\overline{B}(0, R) \cap M$. Положим $L := \operatorname{span}\{x_1, \dots, x_m\}$. Для $x \in L$ обозначим
$$
\begin{equation*}
D(x) := \overline{U}(x, d_u(x,M^u_{2\varepsilon})) \cap L
\end{equation*}
\notag
$$
и рассмотрим многозначное отображение
$$
\begin{equation*}
\Phi\colon L \to 2^L \setminus \{\varnothing\}, \qquad x \mapsto P^u_{D(x)} \circ P_M^u(x).
\end{equation*}
\notag
$$
Докажем, что отображение $\Phi$ полунепрерывно сверху. Для этого достаточно показать, что для всякой последовательности $x_n \to x$, $n\to\infty$, и всякой последовательности $z_n \to z$, $n\to\infty$, где $z_n \in \Phi(x_n)$, выполнено $z \in \Phi(x)$. По определению отображения $\Phi$ найдутся такие $y_n \in M$, что
$$
\begin{equation*}
y_n \in P_M^u(x_n), \qquad z_n \in P^u_{D(x_n)}(y_n).
\end{equation*}
\notag
$$
Не ограничивая общности можно считать, что $y_n \to y$, $n\to\infty$ (иначе можно перейти к соответствующей подпоследовательности), причем $y \in P^u_M(x)$, поскольку отображение $P_M^u$ полунепрерывно сверху. Так как функция $d_u(\, \cdot \,, M^u_{2\varepsilon})$ непрерывна на $X$, множества $D(x_n)$ стремятся к $D(x)$ в метрике Хаусдорфа. Следовательно,
$$
\begin{equation*}
z \in D(x), \qquad p_u(z_n-y_n)=d_u(y_n, D(x_n)) \to d_u(y,D(x)),\qquad n\to\infty.
\end{equation*}
\notag
$$
С другой стороны, $p_u(z_n-y_n) \to p_u(z-y)$, $n\to\infty$, поэтому $z \in P^u_{D(x)}(y)$, а значит, $z \in \Phi(x)$, что и требовалось доказать.
Рассмотрим теперь отображение
$$
\begin{equation*}
F\colon L \to \operatorname{Conv}(L), \qquad x \mapsto \operatorname{conv} \Phi(x).
\end{equation*}
\notag
$$
Оно полунепрерывно сверху, поскольку отображение $\Phi$ полунепрерывно сверху. Заметим, что для всех $x \in L$
$$
\begin{equation*}
\operatorname{conv}( \{ x\} \cup F(x)) \subset D(x)=\overline{U}(x, d_u(x, M^u_{2\varepsilon})) \cap L \subset \overline{U}(x, d_u(x, A^u_{2\varepsilon})),
\end{equation*}
\notag
$$
поэтому в силу (31) имеем
$$
\begin{equation*}
a \notin \operatorname{conv}( \{ x\} \cup F(x)) \qquad \forall\, x \in L \setminus B(0,r).
\end{equation*}
\notag
$$
Отсюда по лемме 2 существует такая точка $x_* \in L \cap \overline{B}(0,r)$, что
$$
\begin{equation*}
a \in F(x_*)=\operatorname{conv} \Phi(x_*).
\end{equation*}
\notag
$$
Выберем такие $z_1, \dots, z_n \in \Phi(x_*)$ и такие $\lambda_i \geqslant 0$, $i=1,\dots,n$, $\sum_{i=1}^n{\lambda_i}=1$, что $a=\sum_{i=1}^n \lambda_i z_i$. Поскольку $\Phi(x_*)=P^u_{D(x_*)} \circ P_M^u(x_*)$, можно найти такие $y_i \in P_M^u(x_*)$, что $z_i \in P^u_{D(x_*)}(y_i)$.
Для всякого $i \in 1, \dots, n$ и всяких $z \in D(x_*)$, $\widetilde{z}_i \in P^u_L(y_i)$ выполнено
$$
\begin{equation}
p_u(z_i-y_i) \leqslant p_u(z-y_i) \leqslant p_u(z-\widetilde{z}_i)+p_u(\widetilde{z}_i-y_i).
\end{equation}
\tag{33}
$$
Ясно, что
$$
\begin{equation}
p_u(\widetilde{z}_i-y_i)=d_u(y_i, L) \leqslant c_2 d(y_i, L)=d(y_i, L) \leqslant \varepsilon,
\end{equation}
\tag{34}
$$
поскольку $y_i \in M \cap B(0,R)$ в силу (32), а пространство $L$ содержит $\varepsilon$-сеть множества $M \cap B(0,R)$. Предположим, что $\widetilde{z}_i \notin D(x_*)$, т.е. $p_u( \widetilde{z}_i-x_*) > d_u(x_*, M_{2\varepsilon}^u)$. Тогда при
$$
\begin{equation*}
z=x_*+d_u(x_*,M^u_{2\varepsilon})\frac{\widetilde{z}_i-x_*}{p_u(\widetilde{z}_i-x_*)}
\end{equation*}
\notag
$$
имеет место оценка
$$
\begin{equation*}
\begin{aligned} \, p_u(\widetilde{z}_i-z) &=p_u(\widetilde{z}_i-x_*)-p_u(z-x_*)= p_u(\widetilde{z}_i-x_*)-d_u(x_*, M^u_{2\varepsilon}) \\ &\leqslant p_u(\widetilde{z}_i-y_i)+p_u( y_i-x_*)-d_u(x_*,M^u_{2\varepsilon}) \\ &\leqslant \varepsilon+d_u(x_*, M)-d_u(x_*, M^u_{2\varepsilon}) \leqslant 3\varepsilon. \end{aligned}
\end{equation*}
\notag
$$
Следовательно,
$$
\begin{equation}
p_u(z-\widetilde{z}_i) \leqslant c_2\| z- \widetilde{z}_i\|=c_2\| \widetilde{z}_i-z \| \leqslant \frac{c_2}{c_1}p_u(\widetilde{z}_i- z) \leqslant \frac{3 \varepsilon}{c_1}.
\end{equation}
\tag{35}
$$
Поэтому из неравенств (33)– (35) следует, что
$$
\begin{equation*}
\| z_i-y_i\| \leqslant \frac{p_u(z_i-y_i)}{c_1} \leqslant \frac{p_u(z- \widetilde{z}_i)}{c_1}+\frac{p_u(\widetilde{z}_i-y_i)}{c_1} \leqslant \frac{3\varepsilon}{c_1^2}+\frac{\varepsilon}{c_1} \leqslant \frac{4\varepsilon}{c_1^2}.
\end{equation*}
\notag
$$
Если $\widetilde{z}_i \in D(x_*)$, то
$$
\begin{equation*}
p_u(z_i-y_i) =p_u(\widetilde{z}_i-y_i) \leqslant \varepsilon \quad \Longrightarrow \quad \| z_i-y_i \| \leqslant p_u(z_i-y_i) \leqslant \frac{\varepsilon}{c_1} < \frac{4\varepsilon}{c_1^2}.
\end{equation*}
\notag
$$
Таким образом, при $b=\sum_{i=1}^n \lambda_i y_i \in \operatorname{conv} P_M^u(x_*)$ имеем
$$
\begin{equation*}
\| a-b\|=\biggl\| \sum_{i=1}^n \lambda_i (z_i-y_i)\biggr\| < \frac{4\varepsilon}{c_1^2} \sum_{i=1}^n \lambda_i=\frac{4\varepsilon}{c_1^2}.
\end{equation*}
\notag
$$
Поскольку $\varepsilon$ можно выбрать сколь угодно малым, $a \in \overline{\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))}$ и, следовательно, $\operatorname{conv} M \subset \overline{\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))}$. Обратное включение $\overline{\operatorname{conv} M} \supset \overline{\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))}$ очевидно.
Теорема 4 доказана. Следствие 3. Пусть $X$ – банахово пространство, $U \subset X$ – ограниченная равномерно гладкая выпуклая область, $M \subset X$ – компакт с не более чем $k$-значной метрической проекцией $P_M^u$. Тогда $\overline{\operatorname{conv} M}=\overline{\operatorname{conv}_k M}$. Доказательство. По теореме 4 выполнено $\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in X}\operatorname{conv}(P^u_M(x))} \subset \overline{\operatorname{conv}_k M}$. Обратное включение $\overline{\operatorname{conv}_k M} \subset \overline{\operatorname{conv} M}$ очевидно.
Следствие доказано. Теорема 5. Пусть $X$ – банахово пространство, $U \subset X$ – ограниченная гладкая выпуклая область, $M \subset X$ – компакт. Тогда $\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))}$. Доказательство. Обозначим $p_u$ функционал Минковского множества $U$. Зафиксируем положительные числа $c_1$, $c_2$, $c_1 < c_2$ из (25). Без ограничения общности можно считать, что $c_2 < 1$. Пусть $a_1, \dots, a_\nu \in M$, $A := \{a_1, \dots, a_\nu\}$ и $a\,{\in} \operatorname{ri}(\operatorname{conv} A)$. Докажем, что можно приблизить $a$ элементами $\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))$ с любой точностью. Поскольку $M$ компактно, существует $\varepsilon$-сеть $x_1, \dots, x_m \in X$ множества $M$. Положим
$$
\begin{equation*}
L := \operatorname{span}( A \cup \{x_1, \dots, x_m\}).
\end{equation*}
\notag
$$
Ясно, что $V := U \cap L$ – равномерно гладкая выпуклая область в $L$, поэтому из доказательства теоремы 4 вытекает существование такого $r > 0$, что
$$
\begin{equation*}
a \notin \overline{V}(x, d_u(x,A_{2\varepsilon}^u)) \quad \forall\, x \in L \setminus B(0,r)
\end{equation*}
\notag
$$
(см. (31) и выше). Для $x \in L$ обозначим
$$
\begin{equation*}
D(x) := \overline{B}(x, d_u(x,M_{2\varepsilon}^u)) \cap L
\end{equation*}
\notag
$$
и рассмотрим многозначное отображение
$$
\begin{equation*}
\Phi\colon L \to 2^L \setminus \{ \varnothing \}, \qquad x \mapsto P^u_{D(x)} \circ P_M^u(x).
\end{equation*}
\notag
$$
Так же, как в теореме 4, доказывается существование таких $x_* \in B(0,r) \cap L$ и $b \in \operatorname{conv} P_M^u(x_*)$, что $\| a- b\| < 4\varepsilon/c_1^2$. Отсюда следует, что $\overline{\operatorname{conv} M} \subset \overline{\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))}$. Обратное включение $\overline{\bigcup_{x \in X}\operatorname{conv}(P_M^u(x))} \subset \overline{\operatorname{conv} M}$ очевидно.
Теорема доказана. Следствие 4. Пусть $X$ – банахово пространство, $U \subset X$ – гладкая выпуклая область, $M \subset X$ – компакт. 1) Если метрическая проекция $P^u_M$ не более чем $k$-значна, то $\overline{\operatorname{conv} M}=\operatorname{conv} M=\operatorname{conv}_k M$. 2) Если $\operatorname{conv} M$ не замкнута, то для всякого $k$ найдется такой элемент $x_k \in X$, что $|P_M^u(x_k)| \geqslant k$. Доказательство. 1) По предыдущей теореме
$$
\begin{equation*}
\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in X}\operatorname{conv}(P^u_M(x))} \subset \overline{\operatorname{conv}_k M}.
\end{equation*}
\notag
$$
Докажем, что множество $\operatorname{conv}_k M$ замкнуто. Действительно, если $x_n\,{\in} \operatorname{conv}_k M$, $x_n \to x$, $n\to\infty$, то для всякого натурального $n$ существуют такие $y_{n}^i \in M$ (некоторые из них могут повторяться) и $\lambda_n^{i} \geqslant 0$, где $i=1, \dots, k$, что
$$
\begin{equation*}
x_n=\sum_{i=1}^k \lambda_n^{i} y_n^{i}, \qquad \sum_{i=1}^k \lambda_n^{i}=1.
\end{equation*}
\notag
$$
Тогда в силу компактности $M$ существует такая возрастающая подпоследовательность индексов $\{n_j\}_{j=1}^\infty \subset \mathbb{N}$, что $y_{n_j}^{i} \to y^{i}$, $\lambda_{n_j}^{i} \to \lambda^i$, $j \to \infty$, для всех $i=1, \dots, k$. Очевидно, что $x=\sum_{i=1}^k \lambda^i y^i \in \operatorname{conv}_k M$, поэтому множество $\operatorname{conv}_k M$ замкнуто. Тогда $\overline{\operatorname{conv} M} \subset \operatorname{conv}_k M$. Включение $\operatorname{conv}_k M \subset \operatorname{conv} M$ очевидно. Из последних двух включений вытекает равенство $\overline{\operatorname{conv} M}=\operatorname{conv} M= \operatorname{conv}_k M$.
2) Непосредственно вытекает из 1).
Следствие доказано.
§ 6. Результаты для шаров в банаховых пространствах Если в банаховом пространстве $X$ взять в качестве тела $U$ единичный шар $B(0,1)$, отображение $P_M^u$ станет обычной метрической проекцией $P_M$. Поэтому из теорем 3–5 непосредственно вытекает Теорема 6. Пусть $X$ – банахово пространство, $M \subset X$. Тогда справедливы следующие утверждения. 1) Если $X$ – гладкое конечномерное пространство, $M$ – ограниченно компактное множество, то $\operatorname{ri}(\operatorname{conv} M) \subset \bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P_M(x))$. 2) Если $X$ – равномерно гладкое пространство, $M$ – ограниченно компактное множество, то $\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P_M(x))}$. 3) Если $X$ – гладкое пространство, $M$ – компакт, то выполнено $\overline{\operatorname{conv} M}=\overline{\bigcup_{x \in \mathbb{R}^d} \operatorname{conv}(P_M(x))}$. Разумеется, подобные следствия можно также вывести из всех остальных теорем и следствий из § 4 и § 5. Автор выражает благодарность П. А. Бородину за постановку задачи и ценные замечания, а также А. Р. Алимову и И. Г. Царькову за обсуждение полученных результатов.
|
|
|
Список литературы
|
|
|
1. |
Н. В. Ефимов, С. Б. Стечкин, “Некоторые свойства чебышевских множеств”, Докл. АН СССР, 118:1 (1958), 17–19 |
2. |
V. L. Klee, Jr., “A characterization of convex sets”, Amer. Math. Monthly, 56:4 (1949), 247–249 |
3. |
V. L. Klee, “Convex bodies and periodic homeomorphisms in Hilbert space”, Trans. Amer. Maths. Soc., 74 (1953), 10–43 |
4. |
В. И. Бердышев, “К вопросу о чебышёвских множествах”, Докл. АзССР, 22:9 (1966), 3–5 |
5. |
A. Brøndsted, “Convex sets and Chebyshev sets. II”, Math. Scand., 18 (1966), 5–15 |
6. |
A. L. Brown, “Chebyshev sets and the shapes of convex bodies”, Methods of functional analysis in approximation theory (Bombay, 1985), Internat. Schriftenreihe Numer. Math., 76, Birkhäuser, Basel, 1986, 97–121 |
7. |
A. L. Brown, “Chebyshev sets and facial systems of convex sets in finite-dimensional spaces”, Proc. London Math. Soc. (3), 41:2 (1980), 297–339 |
8. |
Л. П. Власов, “Аппроксимативные свойства множеств в линейных нормированных пространствах”, УМН, 28:6(174) (1973), 3–66 ; англ. пер.: L. P. Vlasov, “Approximative properties of sets in normed linear spaces”, Russian Math. Surveys, 28:6 (1973), 1–66 |
9. |
В. С. Балаганский, Л. П. Власов, “Проблема выпуклости чебышевских множеств”, УМН, 51:6(312) (1996), 125–188 ; англ. пер.: V. S. Balaganskii, L. P. Vlasov, “The problem of convexity of Chebyshev sets”, Russian Math. Surveys, 51:6 (1996), 1127–1190 |
10. |
И. Г. Царьков, “Ограниченные чебышевские множества в конечномерных банаховых пространствах”, Матем. заметки, 36:1 (1984), 73–87 ; англ. пер.: I. G. Tsar'kov, “Bounded Chebyshev sets in finite-dimensional Banach spaces”, Math. Notes, 36:1 (1984), 530–537 |
11. |
И. Г. Царьков, “Компактные и слабо компактные чебышевские множества в линейных нормированных пространствах”, Сборник трудов Всесоюзной школы по теории функций (Душанбе, 1986), Тр. МИАН СССР, 189, Наука, М., 1989, 169–184 ; англ. пер.: I. G. Tsar'kov, “Compact and weakly compact Tchebysheff sets in normed linear spaces”, Proc. Steklov Inst. Math., 189 (1990), 199–215 |
12. |
А. Р. Алимов, “Всякое ли чебышёвское множество выпукло?”, Матем. просв., сер. 3, 2, МЦНМО, М., 1998, 155–172 |
13. |
А. Р. Алимов, “О структуре дополнения к чебышёвским множествам”, Функц. анализ и его прил., 35:3 (2001), 19–27 ; англ. пер.: A. R. Alimov, “On the structure of the complements of Chebyshev sets”, Funct. Anal. Appl., 35:3 (2001), 176–182 |
14. |
L. N. H. Bunt, Bijdrage tot de theorie der convexe puntverzamelingen, Proefschrifft Groningen, Noord-Hollandsche Uitgevers Maatschappij, Amsterdam, 1934, 108 pp. |
15. |
H. Mann, “Untersuchungen über Wabenzellen bei allgemeiner Minkowskischer Metrik”, Monatsh. Math. Phys., 42:1 (1935), 417–424 |
16. |
T. Motzkin, “Sur quelques propriétés caractéristiques des ensembles convexes”, Atti Accad. Naz. Lincei Rend. (6), 21 (1935), 562–567 |
17. |
T. Motzkin, “Sur quelques propriétés caractéristiques des ensembles bornés non convexes”, Atti Accad. Naz. Lincei Rend. (6), 21 (1935), 773–779 |
18. |
C. Carathéodory, “Über den Variabilitätsbereich der Fourier'schen Konstanten von positiven harmonischen Funktionen”, Rend. Circ. Mat. Palermo, 32 (1911), 193–217 |
19. |
W. Fenchel, “Über Krümmung und Windung geschlossener Raumkurven”, Math. Ann., 101:1 (1929), 238–252 |
20. |
I. Bárány, R. Karasev, “Notes about the Carathéodory number”, Discrete Comput. Geom., 48:3 (2012), 783–792 |
21. |
А. А. Флеров, “О множествах с не более чем двузначной метрической проекцией на нормированной плоскости”, Матем. заметки, 101:2 (2017), 286–301 ; англ. пер.: A. A. Flerov, “Sets with at most two-valued metric projection on a normed plane”, Math. Notes, 101:2 (2017), 352–364 |
22. |
О. Я. Виро, О. А. Иванов, Н. Ю. Нецветаев, В. М. Харламов, Элементарная топология, 3-е изд., МЦНМО, М., 2010, 446 с.; англ. пер.: O. Ya. Viro, O. A. Ivanov, N. Yu. Netsvetaev, V. M. Kharlamov, Elementary topology. Problem textbook, Amer. Math. Soc., Providence, RI, 2008, xx+400 с. |
23. |
A. Cellina, “Approximation of set valued functions and fixed point theorems”, Ann. Mat. Pura Appl. (4), 82 (1969), 17–24 |
24. |
М. Л. Громов, “О симплексах, вписанных в гиперповерхности”, Матем. заметки, 5:1 (1969), 81–89 ; англ. пер.: M. L. Gromov, “On simplexes inscribed in a hypersurface”, Math. Notes, 5:1 (1969), 52–56 |
25. |
A. Bronsted, “Convex sets and Chebyshev sets”, Math. Scand., 17 (1965), 5–16 |
26. |
Ş. Cobzaş, Functional analysis in asymmetric normed spaces, Front. Math., Birkhäuser/Springer Basel AG, Basel, 2013, x+219 pp. |
Образец цитирования:
К. С. Шкляев, “Выпуклая оболочка и число Каратеодори множества в терминах метрической проекции”, Матем. сб., 213:10 (2022), 167–184; K. S. Shklyaev, “The convex hull and the Carathéodory number of a set in terms of the metric projection operator”, Sb. Math., 213:10 (2022), 1470–1486
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/sm9742https://doi.org/10.4213/sm9742 https://www.mathnet.ru/rus/sm/v213/i10/p167
|
Статистика просмотров: |
Страница аннотации: | 317 | PDF русской версии: | 21 | PDF английской версии: | 58 | HTML русской версии: | 151 | HTML английской версии: | 71 | Список литературы: | 48 | Первая страница: | 8 |
|