Исчисление параметров выпуклости суммы Минковского сильно и слабо выпуклых множеств относительно неограниченного квазишара

УДК 517.982.252

Г. Е. Иванов, М. С. Лопушански

Московский физико-технический институт

Исчисление параметров выпуклости суммы Минковского сильно и слабо выпуклых множеств относительно неограниченного квазишара

Рассматриваются сильно и слабо выпуклые множества относительно неограниченного и несимметричного квазишара. Получены теоремы об исчислении параметров выпуклости и о замкнутости суммы Минковского сильно выпуклого и слабо выпуклого множеств.

Ключевые слова: сильная и слабая выпуклость, метрическая проекция.

1. Введение

Впервые понятие слабо выпуклого множества появилось в работах Н.В. Ефимова и С. Б. Стечкина, где такие множества назывались а-выпуклыми, а в дальнейшем они стали называться множествами, слабо выпуклыми по Ефимову-Стечкину. При некоторых условиях слабо выпуклое множество по Ефимову-Стечкину является слабо выпуклым с такой же константой. Простые примеры показывают, что сумма (по Минковскому) множества, слабо выпуклого по Ефимову-Стечкину, и сильно выпуклого множества может не быть слабо выпуклым множеством по Ефимову-Стечкину. Поскольку одной из основных целей нашей работы является разработка исчисления параметров выпуклости в связи с операциями Минковского, для наших задач определение Ефимова-Стечкина не подходит.

Другой подход к исследованию слабо выпуклых множеств представлен в работе [1], где в гильбертовом пространстве рассматривается условие, эквивалентное слабой выпуклости, -проксимальная гладкость. Множество А является r-проксимально гладким в гильбертовом пространстве И, если функция х ^ д(х, А) (расстояние от точки ж до множества А) непрерывно дифференцируема на множестве Uг(А) = {х £ Н | 0 < д(х,А) < г}. В работе [2] результаты для проксимально гладких множеств обобщены на банаховы пространства.

В работе [3] доказано, что при некотором соотношении параметров выпуклости сумма сильно выпуклого и слабо выпуклого множеств является замкнутым, слабо выпуклым множеством. В работе [3] вместо термина слабо выпуклое множество используется термин множество, удовлетворяющее опорному условию слабой выпуклости, а вместо термина сильно выпуклое множество - термин слагаемое шара. В настоящей работе мы развиваем методы, представленные в [3], заменяя шар неограниченным и несимметричным квазишаром. Это позволяет применить полученные результаты к надграфикам функций и доказать существование, единственность и непрерывную зависимость от параметра точки минимума в инфимальной конволюции этих функций.

2. Определения и обозначения

Пусть Е - вещественное линейное нормированное пространство. Через int А, дА и А будем обозначать соответственно внутренность, границу и замыкание множества А С Е. Значение функционала р £ Е* на векторе х £ Е будем обозначать (р,х). Шаром, радиуса d ^ 0 с центром в т очке а называется множество В^ (а) = {х £ Е : \\х — а У < d}.

Квазишаром, М в банаховом пространстве Е называется выпуклое замкнутое множество М С Е, для которого 0 £ int М.

Заметим, что квазишар М является шаром относительно некоторой нормы, эквивалентной исходной норме пространства Е, тогда и только тогда, когда он ограничен относительно исходной нормы Е и симметричен, т.е. — М = М.

Функцией Минковского квазишара М называется функция ^м : Е ^ [0; такая,

^м(ж) = 1п! {г> 0 | х е ш} V ж е Е.

Функция ц, : Е ^ М называется несимметричной полунормой, если она положительно однородна:

р(\х) = \р(х) V х е Е, V \ ^ 0

и субаддитивна:

ц.(х + у) ^ ц.(х) + ц,(у) V х,у е Е.

Замечание 2.1. Функция ц, : Е ^ [0; является несимметричной полунормой тогда и только тогда, когда она является функцией Минковского некоторого квазишара.

Пусть М С Е - квазишар. М-щсстоянием от множества И С Е до множества А С Е называется величина

дм Ф,А) = И ^м (Л — а).

й^О, аеА

В частности, М-расстояние от точки х е Е до множества А С Е определяется формулой

дм(х, А) = И ^м(х — а).

а£А

Если М = В\(0), то М-расстояние совпадает с обычным расстоянием

д(х, А) = И \\х — а||.

а£А

Напомним [4], что суммой и разностью Минковского множеств А С Е и В С Е называются соответственно множества

А + В = [а + Ь | а е А, Ь е В} , А — В = [х е Е | ж + В С А} .

Замечание 2.2. Непосредственно из определений следует,, что

дм(х,А) = т! {г > 0 | ж е А + Ш} = М {г> 0 | АП( — tм) = 0} .

Пусть М С Е - квазишар. М-проекцмей точки х е Е на множество А С Е называется множество

Рм (х,А) = А [)(Х — дм (х,А)М). Также при е > 0 определим е-М-проекцию точки х е Е на множество А С Е:

Р£м (х,А) = А р| [х — (дм (х,А)+ е)М).

Множеством единичных проксимальных нормалей ко множеству А С Е в точке а е А относительно квазишара М С Е называется

^(а, А) = [г е Е | (г) = 1, ЗЬ > 0 : а е Рм(а + Ьг, А)}.

Множество С С Е называется сильно выпуклым, относительно квазишара М С Е, если С выпукло, замкнуто и

С — с С М — г V с е С, V г е (с, С).

Множество А С Е называется слабо выпуклым, относительно квазишара, М С Е, если

а е Рм(а + г, А) V а е А, V г е N1^;(а, А).

Множество М С Е называется параболичным, если для любого вектора Ь € Е множество (Ь + 2М) \ М ограничено. Множество М С Е называется гшраболичным в усиленном смысле, если для любого ограниченного множества В С Е множество (В + 2 М) \ М ограничено. Заметим, что в работе [5] под параболичным множеством понималось множество, параболичное в усиленном смысле.

Множество М С Е называется ограниченно равномерно выпуклым,, если

5dM (е) > 0 V d> 0, V е> 0,

где

2

)

= S е 0, - Bs[—^- с М V х,у е М П Bd(0) : ||ж - у\\ > е

f

Функция f : Е ^ R коэрцитивна, если lim тАт/- =

IIжН —" 11

Надграфиком и подграфиком функции f : Е ^ R называются соответственно множества

epi f = {(х,у) е Е х R : у > f (х)}

и

hypo f = {

Будем считать, что в пространстве Е х R норма задана следующей формулой:

II(p,q)II = INI + Ы,гдер е Е, q е R.

Множество А с Е яшыв&ется замкнутым относительно квазишара М с Е (М-замкнутым), если для любой точки х е Е \ А справедливо неравенство дм(х, А) > 0. Для произвольного множества А с Е будем рассматривать условие

I ^ — m I

sup < -: х е Е \ А, а е Рм

[ßM

В частности, если Рм (х, А) = 0 для любо го х е Е \ А, то считаем, что условие (a1) выполнено.

Замечание 2.3. Если множество А с Е является замкнутым относительно некоторого квазишара М с Е, то А замкнуто и М — М с А — А.

Доказательство. Так как М - квазишар, то существует число а > 0 такое, что Ва (0) с М. Тогда для любого х е ^справедливо неравенство ßм (х) < а значит, дм(х,А) < е(х^А\ Тогда если д(х,А) = 0, то дм(х,А) = 0 а значит, х е А. Следовательно, А замкнуто. Теперь предположим, что М — М с А — А. Тогда существуют а е А, т е М — М такие, что а + т е А. Так как т е М — М, 0 е М, то т е tM для любого t > 0. Следовательно, дм (о + т, А) = 0. С другой стороны, так как а + т / А

и А является замкнутым относительно квазишара М, то дм (о + т,А) > 0. Противоречие.

Замечание 2.4. Замкнутое множество А с Е, удовлетворяющее включению М — М с А — А, может не быть замкнутым относительно квазишара М.

Доказательство. Возьмем М = {(х, у) е R2 : у ^ х2 — 1, х е R} - надграфик параболы, а множество А = {(0,у) е R2 : у е R} - прямая. Тогда М — М = {(0, Л), Л ^ 0} = А — А. Очевидно, что А - замкнутое множество иМ — М с А — А, но для любого z е R2 \ А выполнено равенство дм(z, А) = 0

Замечание 2.5. Множество А с Е, замкнутое относительно квазишара, М с Е, мо-

Доказательство. Возьмем М = {(х,у) е R2 : у ^ х2 — 1, х е R}, А = {(0,у) е R2 : у ^ 0}. Проекцией любой точки z е Е \ А является точка 0 = (0, 0). Рассмотрим последовательность точек вида zk = (k, 1), где к е N и точкv zq = (0,1). Тогда lim ßм (zk) = ßм (¿о) = 0, \\zk || > 1. Следователь но, ^f-^ ^ го при к ^ го.

k—те

3. Вспомогательные результаты

Лемма 3.1. Пусть М С Е - квазишар, А С Е. Тогда (г) Qm(xi,A) — ßM(Х2,А) ^ ßM(х\ — х2) V xi,x2 е Е;

(И) для любого вектора х е Е такого, что qm(х,А) > 0; справедливо соотношение

х е А + QM(х,А) int М,

если дополнительно для числа, а > 0 выполнено включение Ва(0) С М (такое а существует, т.к. 0 е int М), то

(iii) функция qm(•, А) удовлетворяет условию Липшица на Е с константой 1 и

(iv) для любых положительных чисел е\, е2 и векторов х\,х2 е Е т,аких, что \\х\ — х2\\ ^ ае2, справедливо вклю чение PM (х\,А) С PM1+22 (х2,А).

Доказательство. Утверждение (г) следует из определения М-расстояния и субаддитивности функции Минковского. Если Ва(0) С М, то ßM(х) ^ для любого вектора х е Е.

Докажем утверждение (гг). Предположим противное: существует точка а е (х — qm(x,A)int М) П А Тогда вм{хА) е int М. Следовательно, существует число t е (0, qm(х, А)) такое, что е М. Поэтому х е А + tM и gM(х, А) ^ t < gM(х, А). Противоречие.

Применяя утверждение (г), получаем утверждение (iii).

Докажем утверждение (iv). Так как ±(х2 — Х\) е £2Ва(0) С е2М, то справедливо неравенство max{ßM(х2 — x\),ßM(х\ — х2)} ^ е2. Отсюда и го утверждения (i) следует, что qm(xi, А) ^ qm(х2,А) + е2. Поэтому для любого вектора а е PM(х\,А) справедливы неравенства ßM(х2 — а) ^ £2 + ßM(х\ — а) ^ £2 + Qm(x\,ä) + е\ ^ qm(Х2, А) + е\ + 2е2-Следовательно, а е PM+2£2(х2,А).

Лемма 3.2. Если квазишар М является надграфиком выпуклой, коэрцитивной функции

f : Е ^ R; то для любой бесконечно малой последовательности положительных чисел

£k и любой ограниченной последовательноет,и векторов Хк е Е таких, что Хк е £kМ для

любого к е N справедливо соотношение lim inf \\хк — у\\ =0.

уем * M

Доказательство. Обозначим М = epi f. Предположим противное: пусть существуют е > 0, бесконечно малая последовательность положительных чисел £к и ограниченная последовательность векторов Хк е Е х R такие, ч то Хк е £k Mm \\хк — у\\ > £ для любого к е N и для люб ого у е М — М. Векторы Хк представим в виде Хк = ('Pk ,Чк) где Рк е Е, Qk е R. Так как последовательность {хк} ограничена и | < \\хк\\, то существует некоторая константа С такая, что qk ^ С при всех к е N Так как функция f коэрцитивна, то М — М = {(0, Л), Л ^ 0}. Получаем, что \\(рк ,Qk) — (0, А)\\ > е для любого к е N и Л е R, в частности для Л = qk- Следовательно, \\рк\\ > £ для любого к е N. Без ограничения общности считаем последовательность {£к} монотонной. Так как — е epi /, то f (— ) < —. Из того, что f коэрцитивна, следует, что

£к \£к J £к

lim й^Ц, f

£к * (Рк\ < £к 0к = Як < С_ \\Рк\\ \£к) < \\Рк\\ £к \\Рк\\ < е'

Лемма 3.3. Пусть функция а : Е ^ Rснизу, функция ß : Е ^ R выпукла, непрерывна, коэрцитивна, ß(0) < 0 М = epi ß и существует точка w е Е х R такая, что Qm (w, epi а) > 0. Тогда, множество epi а является замкнутым относительно квазишара М.

Доказательство. Обозначим А = epi a,e = дм(w, А). Предположим противное. Тогда существует точка х е Е \ А такая, что дм(х,А) = 0. Зафиксируем число ео е (0,е) и произвольную бесконечно малую последовательность чисел £k е (0,во)- Тогда для любого к е N множество Xk = (х — £kМ) Р| А не пусто, а значит, содержит некоторую точку Xk- Из параболичности множества М и неравенства ео < £ следует, что множество Х0 = (х — е0М) \ (w — еint М) ограничено. Так как ek е (0,е0), то х — ekМ с х — е0М. Поскольку е = дм(w, А) > 0, то А с Е \ (w — е int М). Поэтому xk е Xk с Х0 для любого к е N Следовательно, последовательность {xk} ограничена.

Так как X—Xk е £kМ, то из леммы 3.2 следует, что lim inf \\x—xk—у\\ = 0. Векторы

k—<x уем * м

XkH х представим в виде Xk = (pk, Qk) х = (р, д),Щepk,Р е Е rnqk,q е R. Так как множество М является надграфиком коэрцитивной функции, то М — М = {(0, Л) : 0 е Е,\ ^ 0}. Тогда

lim inf \\х — Xk — у II = lim ( \\р — pk || + inf lq — qk — AM = 0.

k—<x у^м — м k—<x у Л^0 J

Отсюда получаем, что pk ^ р при к ^ го и lim sup qk ^ q Из ограниченности последо-

k—<x

вательности {xk} следует ограниченность последовательности {qk}. По теореме Больцано-Вейерштрасса из последовательности {qk} можно выделить сходящуюся подпоследовательность, а значит, без ограничения общности можно считать, что qk ^ q1 при к ^ го. Так как Xk = (pk,Qk) е А, х = (p,q) <е А, то a(pk) ^ qk-, &(р) > <! Используя полунепрерывность снизу функции а и соотношения pk ^ Р, qk ^ q' при к ^ го, получаем неравенство a('p) ^ q'. Следовательно, q' > q. Это неравенство противоречит равенству lim sup qk ^ q.

k—<x

Замечание 3.1. Условие существования точки w е Е х R такой, что дм(w, epi а) > 0; существенно в лемме S.S.

Доказательство. Пусть, например, Е = R, ß(x) = х2 — 1, а(х) = — х4 для любого х е R, М = epi ß. Тогда для любой точки w е Е х R = R2 выполнено равенство дм(w, epi а) = 0 и множество epi а не является замкнутым относительно квазишара М.

Лемма 3.4. Пусть функция а : Е ^ R удовлетворяет условию Липшица, на, любом ограниченном подмножестве пространства Е, функция ß : Е ^ R выпукла, непрерывна, коэрцитивна, ß(0) < 0 М = epi ß и существует точка w е Е х R такая, что дм(w, epi а) > 0. Тогда множество epi а удовлетворяет условию (a1).

Доказательство. Предположим, что множество А не удовлетворяет условию (a1). Тогда существуют число d > 0, а также последовательности {xk} с (Е х R) \ А и {ak} с А такие, что \\ak|| < d и ak е Рм(xk, А) для любого к е N и

\\xk— ak\\ . ,

lim ---- = +го.

k—<x Ц,м

Покажем, что последовательность {xk} можно считать ограниченной. Если это не так, то заменим {xk} последовательностью {х\}, где х\ = Xk при \\xk — ak|| < 1 и x'k = ak + цххкк-IIу при \\xk — ak|| > 1. Тогдa ak е Рм(x'k,A), \\х\ — ak|| < 1 и

||a:,fc,afe|1 N = ухк-аку ПрИ всех fc ^ N. Используя ограниченность последовательности

ßM (х'к-ак) ßM (Хк-ак) ^ „г ^

{ak}, получаем ограниченность последовательности {x1k}•

Векторы Xk^ ak представим в виде Xk = ('Pk, qk) ak = (fk, Sk) гдe Pk ,fk е E и qk ,Sk е R. Для любого к е N обозначим ek = ßм(xk — ak). В силу леммы 3.3 множество А = epi а замкнуто относительно квазишара М, следовательно, £k > 0 для любого к е N.

Из того, что ak е Рм

выполнено включение (Рке-"к (1 — Vkeyk (1 — ^^ + е М. Следовательно,

((Рк — гк)(1 — 5),екß(а—к-(1 — 5)^ + ae^ е £кМ. Так как (хк — ек int М) П А = 0, то

^(1 — 5)rk + öpk, qk — £кß ^(1 — S)Рк—Гк^ — (Т£к^ е А. Переходя к пределу при и ^ 0, получаем неравенство

a

Из выпуклости функции ß следует неравенство ß ^(1 — 5)< (1 — (Рк£+ öß(0). Подставляя это в неравенство (3), получаем

qk — а

Из того, что Хк~ак е дМ, следует, что ß(Рк~ГкЛ = Як~а(гк"> _ и3 липшицевости функ-£к '' \ £к J £к

ции а на любом ограниченом множестве и ограниченности ак следует, что существует некоторая константа L такая, что 1а(гк) — а((1 — ö)rk + öpk)| < L5\\pk — rk||. Поэтому —a((1 — ö)rk + öpk) ^ —L5\\pk — rk\\ — a(rk). Подставляя это в неравенство (4), получаем, что ек(1 — ö)ß(и) + £кöß(0) > Qk — a(rk) — Щ\рк — rk\\ = ек— Щ\рк — гк\\. Следовательно,

) < К0) + l\\'Рк Гк\\ V к е N.

£к

)

Отсюда и из коэрцитивности функции ß следует существование числа С е R такого, чт0 \\Рк-гк\\ < с При всех к е N. Следователь но, Чк ~"(гк) = п( Рк~Гк\ < CL + ß(0) при всех к е N С другой стороны, выпуклая, непрерывная, коэрцитивная функция ß ограничена снизу. Поэтому существует число С\ > 0 такое, что ß ^Рк-—к^ ^ —С\. Тогда по определению нормы в пространстве Е х R для любого к е N получаем ßMiX-b-t) = \\Рк-Гк\ + kfe~е!:Гк}1 <С + С + CL + ß(0), что противоречит (2).

Лемма 3.5. Пусть в банаховом пространстве Е квазишар М параболичен и ограниченно равномерно выпукл. Пусть множество D С Е выпукло, замкнуто и rM — (—D) = 0. Пусть множество А С Е замкнуто и А + R int М = Е, где 0 < г < R и дм(D,A) < R — г. Пусть даны последовательности {dk } С D и {ак } С А такие, что ßM(dk—ak) ^ дм (D, А) при k ^ ж. Тогда, последовательности {dk} и {ак} ограничены.

Доказательство. Обозначим д0 = дм(D, А), е0 = 1 (R — г — д0)ш ек = ßM(dk — ак) — д0-Поскольку ео > 0 и ек ^ 0 при к ^ ж т0 без ограничения общности считаем ек < £о для любого к е N. Так как А + R int М = Е, то существует вектор b е Е такой, что (—R int М + b) = 0, а значит, —ак е Е \ (R int М — Ь). Так как rM — (—D) = 0, то существует вектор с е Е такой, что —D С гМ — с, а значит, —dk е гМ — с. Поскольку ßM(dk — ак) = д0 + £к < д0 + то dk — ак е (д0 + £о)М. Следовательно, —dk е (е \ (R int М — Ь)^ — (д0 + е0)М, а —ак е гМ — с + (д0 + е0)М. Тогда для любого к е N выполнены включения

—4 е (гМ — с) \ ((R — д0 — £0) int М —

—ак е ((г + Q0 + £0)М — с^\ ( Rint М — Ь).

Учитывая, что R > г + д0 + £0, из параболичности М получаем, что последовательности {dk} и {ак} ограничены.

Лемма 3.6. Для любых множеств А, В, С С Е выполнено неравенство

дм (А, В) < sup inf ßM (а — с) + дм (С, В). сеса^А

Доказательство. Из определения М-расстояния между множествами, свойств инфи-мума и субаддитивности функции Минковского получаем

дм(А, В) = inf ßM(a - b) < inf (ßM(a - со) + ßM(со - b)) <

aeA aeA \ J

ьев ьев

c0ec

sup inf ( ^m (a - с) + ^m (со - b)) = sup inf ßM (a - c) + qm (С, B).

ran \ / ran aeA

<

cen ab$J ^ ' cen

c0ea

Теорема 3.1. (О чебышевском слое, [6]). Пусть в банаховом пространстве Е квазишар М параболичен и ограниченно равномерно выпукл. Пусть множество А С Е замкнуто и слабо выпукло относительно квазишара, RM. Пусть задана, точка х <Е Е такая, что 0 < Qm(х,А) < R. Тогда множество Рм(х, А) одноэлементно.

Теорема 3.2. (О ближайших точках, [6]). Пусть в банаховом пространстве Е квазишар М параболичен и ограниченно равномерно выпукл. Пусть множество D С Е сильно выпукло относительно квазишара, -гМ, а множество А С Е замкнуто и слабо выпукло относительно квазишара, RM, где 0 < г < R. Пусть 0 < дм(D,A) < R - г. Тогда,

min ^м (d - а) достигается в единственной паре точек. deD, aeA

Лемма 3.7. [6]. Пусть в банаховом пространстве Е заданы, ограниченно равномерно выпуклый квазишар М и ограниченные последовательности {xk}, {у к} т,акие, что

lim sup ßM(хк) ^ ßi, lim sup ßM(Ук) ^ ß2, lim inf ßM(хк + Ук) ^ ßi + ß2,

к^х к^х к^х

где ßl > 0 и ß2 > 0. Тогда,

lim

к^х

Хк _ Ук_

ßl ß2

0.

Лемма 3.8. Пусть в банаховом пространстве Е квазишар М параболичен и ограниченно равномерно выпукл. Пусть множество D С Е сильно выпукло относительно квазишара —гМ и rM — (—D) = 0. Пусть множество А С Е является М-замкнутым, удовлетворяет условию (al); слабо выпукло от,носит,ельно квазишара RM и А + R int М = Е, где 0 < г < R. Пусть

inf \\а — d\\ > 0.

aeA deD

Тогда дм(О, А) > 0.

Доказательство. Если дм(О, А) ^ то требуемое неравенство доказано. Пусть дм (О, А) < По определению М-расстояния существует последовательность {(1п} С И такая, что дм (дп,А) ^ дм (О, А) при п ^ <х. Поскольку дм (О, А) < ^^^ т0 ез ограничения общности считаем, что дм(дп, А) < Для любого п € N Из неравенства (5) и М-замкнутости А следует, что дм(дп, А) > 0. Тогда по теореме 3.1 для любого п € N найдется точка ап € А такая, что ум(дп — ап) = дм(дп,А). Из леммы 3.5 следует ограниченность последовательности {ап}. Поэтому в силу того, что множество А удовлетворяет условию (а1), найдется число С > 0 такое, что ум(с!п — ап) ^ ^. Тогда ум(йп — ап) ^ где

е = И \\д, — а^^. В силу неравенства (5) имеем е > 0. Следовательно, дм(О, А) ^ ^ > 0.

аеА

Лемма 3.9. Пусть в банаховом пространстве Е квазишар М параболичен и ограниченно равномерно выпукл. Пусть множество D С Е сильно выпукло относительно квазишара —гМ и rM — (-D) = 0. Пусть множество А С Е является М-замкнутым, удовлетворяет условию (al), слабо выпукл о относительно квази шара, RM и А + R int М = Е, где 0 < г < R. Пусть gM(D,A) = 0, ^П int D = 0 и int D = 0. Тогда множество Af)D одноэлементно.

Доказательство. Без ограничения общности считаем, что 0 E int D. Поэтому существует е > 0 такое, что Be(0) С int D. Рассмотрим множества Dk = (1 — 1 )D.

Так как гМ — (—D) = 0, то существует вектор w E Е такой, что —D С rM — w. Следовательно, ßM(—d) < ßM(w) + г для любого d Е D. Обозначим С0 = ßM(w). Тогда

ßM

Из выпуклости D следует, что Dk + 1D = D. Тогда Dk + 1Be(0) С int D. Получаем, что (Dk + ^B£(0))f]A = 0. Следовательно, для любых d Е Dk, a E А имеем a — d E \Be(0). Поэтому

inf \\a — d\\ y k E N.

aeA, k

deDk

М A

QM

Отсюда qm(d, a) > 0 для любых a E A, d E Dk, k E N. Из леммы 3.6 получаем, что

QM

deDd'^Dk deDd'^Dk

Для любого d E D выберем dk = (1 — k)d. Тогда, учитывая положительную однородность функции Минковского и неравенство (6), получаем, что ßM(dk — d) = 1ßM(—d) < 1 (Со + r). Следовательно, для любого d E D выполнено неравенство inf ßM(d! — d) < c°+r. Отсюда

d'£Dk

следует, что sup inf ßM(d' — d) < c°+r ^ 0 при k ^ <x. Обозначим Qk = qm(Dk,A).

deDd'^Dk

Используя (9), получаем, что

lim Qk = 0.

k^rx

Поэтому без ограничения общности считаем, что

Qk < R — г У k E N.

С другой стороны, в силу неравенства (7) из леммы 3.8 следует, что Qk = Qm( Dk, A) > 0 k E N k E N

существуют ak E A dk E Dk такие, что ßM(dk — ak) = qm(Dk,A) = Qk. Тогда Qk = Qm (dk, A). Так как множество A слабо выпукло относительно квазишара RM, то A П (ak + dk-kk R — R int Mj = 0 для любого k E N. Следовательно,

—an + ak + dk — ak R/R int M У n,k E N.

Qk

Так как D сильно выпукло относительно квазишара —гМ, то Dk С dk — ak~dk г — гМ.

Qk

Из определения Dk следует, что для любого n ^ k выполнено включение Dn С Dk-Следовательно,

dn EDn С Dk С dk — ak — dk г — гМ Уп <k.

Qk

При всех k,n E N обозначим

Xnk = — dn + dk — —(ak — dk), Unk = dn — an + R—-—— (dk — ak). (13) k k

Тогда

R — — Qk

ßM

Qk

Из соотношений (11) - (13) следует, что

Мм

Из леммы 3.5 следует, что существует константа С > 0 такая, что 1| < С для любого к Е N. Так как дм(йк,А) = мМ(йк — ак), то ак Е Рм(йк, А). Из того, что множество А удовлетворяет условию (а1), получаем, что существует константа С > 0 такая, что

Цак — йк||<Свк У к Е N.

Тогда

Цхпк|| < 2Са + гС, ||упкЦ<Свп + С(К — г) < 2(К — г)С У к > п. Применяя лемму 3.7 и используя неравенства (14), (15), получаем, что

lim

Хпк Упк

R-r

то есть согласно (13) имеем

lim \\R{dk du) + r{dn -ак ^п /1-74

к,п^ж r

Из (10) и (16) следует, что

lim \\ак — йк\\ =0.

Тогда в силу (17) имеем Ц(1к — (1пЦ ^ 0 при к,п ^ ж, то есть последовательность {йк} фундаментальна, а значит, сходится к некоторому (о Е Е. Из (18) следует, что ак ^ (о при к ^ ж. Отсюда и из замкнутости множеств А и Е следует, что йо Е А П И. Докажем, что множество АПЕ не содержит других элементов. Предположим, что (0 Е АПЕ. Рассмотрим последовательность

(0, к четно,

( do, \ d'o,

Так как в силу доказанного последовательность {с!к} сходится, то do = d'0-

йк ^ d'o, к нечетно.

Лемма 3.10. Пусть пространство Е банахово, квазишар М параболичен и ограниченно равномерно выпукл; множество А С Е замкнуто и слабо выпукло с константой R > 0 и существует точка х0 Е Е такая, что дм{х0,А) > 0. Тогда,

А + R int М = Е.

Доказательство. Из пункта (iii) леммы 3.1 следует, что функция дм(~,А) непрерывна на Е. Так как дм (х0,А) > 0 и дм (а, А) = 0, где а Е А, то существует точка х Е Е такая, что 0 < дм(х,А) < R. Следовательно, по теореме 3.1 существует а Е Рм(х,А). Полагая у = а + (х — а), в силу слабой выпуклости множества А получаем равенство

дм(у, А) = R. Отсюда согласно лемме 3.1(ii) имеем у Е А + R int М.

0

4. Основные результаты

Теорема 4.1. Пусть М - квазишар в банаховом пространстве Е, множество С С Е сильно выпукло относительно квазишара гМ, множество А С Е слабо выпукло относительно квазишара, КМ и 0 < г < К. Тогда, множество А + С слабо выпукло относительно квазишара (К — г)М.

Доказательство. Пусть у е Рм(ж, А + С). Тогда у = а + с, где а € Д с € С. При этом а € Рм(х — с, А), с € Рм(х — а, С). Используя то, что множество А слабо выпукло относительно квазишара КМ, а множество С сильно выпукло относительно квазишара гМ, получаем включения

С - с С гМ - г—^—У—, АГ\

Отсюда следует, что

(А+с) п (»+<й --jMBh- (R - r) int м)=0.

Теорема 4.2. Пусть в банаховом пространстве Е квазишар М параболичен и ограниченно равномерно выпукл. Пусть множество С С Е сильно выпукло относительно квазишара гМ, гМ - С = 0 и int С = Пусть множество А С Е является М-замкнутым, удовлетворяет условию (al) и слабо выпукло относительно квазишара RM, где 0 < г < R. Тогда, множество А + С является М-замкнутым и слабо выпуклым, относительно квазишара (R - г)М. Если квазишар М является параболичным в усиленном смысле, то множество А + С удовлетворяет условию (al).

Доказательство. В силу теоремы 4.1 множество А + С слабо выпукло относительно квазишара (R - г)М. Покажем, что множество А + С является М-замкнутым. Если А = Е, то утверждение теоремы тривиально. Пусть теперь А = Е. Тогда из М-замкнутости А следует, что для любой точки х Е Е \ А выполнено дм(х, А) > 0. Следовательно, по лемме 3.10 имеем А + R int М = Е. Предположим, что существует точка х Е Е \ (А + С) такая, что дм (х,А + С) = 0. Определим D = х - С. Тогда дм (D,Ä) = 0и ^Г|А = 0. Это противоречит лемме 3.9. Следовательно, множество А + С является М-замкнутым.

Пусть теперь квазишар М является параболичным в усиленном смысле. Предположим, что множество А+С не удовлетворяет условию (al). Тогда существуют последовательность {хп} С Е\(А+С) и ограниченная последовательность {fn}, где fn Е Рм(хп,А+С) V п Е N такие, что

lim llXn - fnlj. =

ßM

Так как fn Е А + С, то существуют последовательности {ап} С А, {сп} С С такие, что fn = ап+сп V п Е N Из последовательности {fn} следует, что существует

константа до > 0 такая, что

an + Сп Е доВг

Поскольку {сп} С С ж гМ - С = 0, то существует вектор с Е Е такой, что С-п Е с + гМ для любого п Е N. Отсюда и из включения (20) получаем, что

а,п Е доВ\

Так как {ап} С А и А + R int М = то ^^^^^таует вектор а Е Е та-

кой, что ап Е Е \ (а - R int М) для любого п Е N. Тогда согласно (21) имеем ап Е (д0В1(0) - с - гМ) \ (а - R int М) для любого п Е N Так как множество М пара-болично в усиленном смысле, то последовательность {ап} ограничена.

Поскольку

ßM(хп-ап-Сп) = дм(хп,А+С) = inf ßM(хп-с-а) = inf ßM(хп-Сп-а) = дм(хп-Сп,А),

аЕА, сЕС аЕА

то ап Е Рм(хп — Сп, А). Из того, что множество А удовлетворяет условию ^1), получаем, что существует константа Ь > 0 такая, что

П хп Сп ап П ^ т V/ Т-, т

< Ь V п е N

Мм

что противоречит соотношению (19).

Замечание 4.1. В теореме 4.2 условие М-зам кнут ост и множества А существенно.

Доказательство. Пусть функция т : R ^ R определена формулой т(х) = х2 — 1, а множество М = epi т. Пусть задана функция а : R ^ R такая, что

f \ / — X, х> 0 а(х) = < х

у —ж, х < 0.

Множество А = hypo а (см. (1)), а множество С = {(х, у) £ R х R : х £ [—1,1] , у ^ х2}. А

ло относительно квазишара 2М. Множество А тривиально удовлетворяет условию (a1). Множество С сильно выпукло относительно квазишара М, М — С = 0и int С = 0. Однако (—1,0) е А + С, но (—1,0) £ А + С. Поэтому множество А + С не замкнуто и тем более не М

Следующая лемма показывает, что если в теореме 4.2 множества А, С, М являются над-графиками функций, заданных в конечномерном пространстве, то для замкнутости суммы А + С условие (a1) не является существенным. Является ли это условие существенным в случае, когда множества А, С, М являются надграфиками функций, заданных в бесконечномерном банаховом (или гильбертовом) пространстве - открытый вопрос.

Лемма 4.1. Пусть в пространстве Е = Rn квазишар М является надграфиком коэрцитивной функции т : Rn-1 ^ R. Пусть множество С С Е является надграфиком выпуклой полунепрерывной снизу функции j : Rn-1 ^ R« сильно выпукло относительно квазишара гМ, гМ — С = 0 и int С = 0. Пусть множество А С Е является надграфиком полунепрерывной снизу функции а : Rn-1 ^ R; слабо выпукло относительно квазишара R^^de 0 < г < R и А + R int М = Е. Тогда множество А + С замкнуто.

Доказательство. Предположим, что множество А + С не замкнуто. Тогда существует точка х0 Е А + С такая, что х0 Е А + С. Определим D = х0 — С. Тогда дм(D, А) = 0 ж

А p|D = 0.

М

{ак} С А и {йк} С D такие, что цм(йк — ак) ^ дм(D, А) при к ^ ж. Из леммы 3.5 следует, что эти последовательности ограничены. Тогда по теореме Больцано-Вейерштрасса из них можно выделить сходящиеся подпоследовательности. Поэтому без ограничения общности считаем, что существуют а = (х, y),d = (Х, у1) такие, что х,Х Е Rn-1, у, у1 Е R и ак ^ а, йк ^ d при к ^ ж.

Так как А и С - замкнуты, то а Е А, d Е Dm цм (d — а) = 0. Следовательно, d — а Е М — М. Так как М - надграфик коэрцитивной функции, то М — М = {(0, А)| 0 Е Rn-1, А ^ 0}. Отсюда получаем, что х = х' и у1 ^ у. Следовательно, d Е А

Работа поддержана РФФИ, проект 13-01-00295-а.

Литература

1. Clarke F.H., Stern R.J., Wolenski P.R. Proximal Smoothness and Lower-C2 Propoertv // Journal of Convex Analysis. - 1995. - V. 2, N 1, 2. - P. 117-144.

2. Bernard F., Thibault L., Zlateva N. Characterization of proximal regular sets in super reflexive Banach spaces // Journal of Convex Analysis. — 2006. — V. 13, N 3, 4. - P. 525559.

3. Иванов Г.Е. Перестановочность операций суммы и разности Минковского для множеств в равномерно выпуклом банаховом пространстве // Современные проблемы фундаментальной и прикладной математики: сб. науч. тр. — М. : МФТИ, 2008. — С. 32-55.

4. Половгмкгм Е. С., Балашов М. В. Элементы выпуклого и сильно выпуклого анализа. — М. : Физматлит, 2007.

5. Ива,нов Г. Е. Аппроксимативные свойства множеств относительно функции Минковского // Проблемы фундаментальной и прикладной математики. — М. : МФТИ, 2009. - С. 76-105.

6. Ива,нов Г. Е., Лопушански М. С. Аппроксимативные свойства слабо выпуклых множеств в пространствах с несимметричной полунормой // Труды МФТИ. — 2012. — Т. 4, N 4. - С. 94-104.

Поступим в редакцию 24-05.2013.