О некоторых свойствах производных многозначных отображений

УДК 517.9

Е. С. Половинкин

Московский физико-технический институт

О некоторых свойствах производных многозначных

отображений

В работе исследованы новые классы производных от многозначных отображений, получены формулы их вычисления, установлены взаимосвязи с другими производными. Изучены свойства различных эпипроизводных и гипопроизводных и субдифференциалов от произвольных функций. Получены субдифференциальные свойства функции, представимой в виде разности двух выпуклых функций.

Ключевые слова: касательный конус, производная Абена многозначного отображения, производная Кларка, производная Пено, эпипроизводные функций, гипопроиз-водные функций, субдифференциал.

1. Введение

Проблему дифференцирования многозначных отображений F : X ^ V(Y) (где V(Y) - множество всех подмножеств некоторого банахова пространства Y) исследовали многие ученые, начиная со второй половины двадцатого века. Проблема состояла в том, что V(Y) не является линейным пространством. Тем не менее первоначальные подходы к дифференцированию многозначных отображений строились по аналогии с тем, как это делается для функций (см., например, [1,2]).

Примеры аппроксимаций многозначных отображений около некоторой точки графика через касательные конусы были предложены в работах De Blasi F.S. [3], Б.Н. Пшеничного [4] и В.Ф. Демьянова - A.M. Рубинова [5]. Впервые понятие производной многозначного отображения, опирающееся на понятие касательного конуса к графику отображения, было введено в работах Ж.-П. Обена и автора (см., например, [6-9]).

В данной работе предложены новые классы производных с выпуклыми графиками от многозначных отображений. Установлены явные формулы вычисления новых производных, а также формулы вычисления эпипроизводных и гипопроизводных, эписубдиффе-ренциалов и гипосубдифференциалов функций как для общего случая, так и в случаях псевдолипшицевых многозначных отображений. Получены свойства и условия совпадения различных субдифференциалов для функций, пред ставимых в виде разности двух выпуклых функций.

2. Касательные конусы

Напомним основные определения. Пусть X,Y — банаховы пространств а. Через V (Y) будем обозначать множество всех подмножеств пространства Y, а через K(Y) (J(Y)) — метрическое (топологическое) пространство, состоящее из компактов (непустых замкнутых подмножеств) из пространства Y с хаусдорфовым расстоянием h(, ) (с соответствующей топологией). Расстоянием по Хаусдорфу между множествами А, В С X называется

h(A, В) = inf{г ^ 0 | А С В + Вг(0), В С А + Вг(0)},

где Br(а) = {х е X | Цх — а|| < г} — открытый шар радиуса г > 0 с центром в точке а. Произведение на число, сумма, и ра,зност,ь Минковского определяются по формулам: \А = {х е X | х = а е А}, А + В = {х е X | х = а + b, а е А,Ъ е В}, А — В = {х е X I х + В С A}. q(x,A) = inf{||ж — уЦ | у е А} - расстояние от, точки до множества. Конусом называется всякое непустое множество Т0 С X, v которого для каждого х е То справедливо включение Хх е То при всех Л > 0.

Напомним, что совокупность всех векторов, касательных к множеству А в некоторой точке а образуют следующий конус (см. [4,12]).

Нижним касательным конусом ко множеству А С X в точке а £ А называется нижний топологический предел вида

Л _ ß

Тн(А; а) = lim inf = [v £ X | lim q(v, A-1(A - а)) = 0}.

л

Следуя Булигану (G. Bouligand) [10] и Кларку [11], получаем другие конусы.

Верхним касательным, конусом (иначе называют,: контингентным конусом или конусом Булигана, (см,. [12, 14])) ко множеству А С X в точке а £ А называется верхний топологический предел вида

Д _ ¡2

Тв(А; а) = limsup—-— = [v £ X | liminf q(v, X-1(A - a)) = 0}.

Касательным конусом Кларка ко множеству А С X в точке а £ А называется

л_™

Тс(А; а) = liminf = [v £ X | lim q(v, \-1(А - х)) = 0},

где стремление х ^ а совершается по множеству А.

Очевидны включения Тс (А; а) С Тн (А; а) С Тв (А; а). Если же множество А выпукло (или локально выпукло), то имеет место равенство всех указанных конусов.

Важнейшим свойством касательного конуса Кларка Тс (А; а) является его выпуклость (см., например, [11])- Недостатком касательного конуса Кларка является его малость по сравнению с нижним и тем более с верхним касательным конусом. Недостатком нижнего и верхнего касательных конусов является отсутствие гарантированной выпуклости.

Для устранения последнего недостатка в работе [8] был указан алгоритм, по которому во всяком касательном конусе можно выбрать выпуклый подконус.

Лемма 1. [8] Для всякого замкнутого конуса Т0 множество Т0 — Т0 является его выпуклым, замкнутым подконусом. В случае, когда, замкнутый конус Т0 является выпуклым,, то справедливо равенство Т0 = Т0 — Т0.

В результате приходим к следующим понятиям, являющимся уточнением понятий, введенных в работах [8,15].

Определение 1. Первым асимптотическим нижним (первым асимптотическим верхним) касательным конусом ко множеству А в точке а £ А называется множество

TÄHi(A; а) = Тн(А; а) — Тн(А; а) (Tabi(A; а) = Тв(А; а) — Тв(А; а)).

Определение 2. Вторым асимптотическим нижним касательным конусом ко множеству А в точке а £ А называется множество Тан2(А; а) = Тан1(А; о) П Тав1(А; а).

Определение 3. Вторым асимптотическим верхним касательным конусом ко множеству А в точке а £ А называется множество Тав2(А; а) = Тан1(А; а) + Тав1(А; а).

Аналогично работе [8] доказывается

Теорема 1. Конусы Тан1(А; а), Тан2(А; а), Тав1(А; а) и Тав2(А; а) выпуклы, и замкнуты. При этом справедливы включения

танМ; а) С Тн(А; а), ТАВ1(А; а) С Тв(А; а),

Тс(А; а) С ТАН2(А; а) С ТАНМ; а) С ТАВ2(А; а) С Тв(А; а),

причем включения могут быть строгими.

Последнее утверждение продемонстрируем на примере.

Пример 1. Рассмотрим множество А = epif = [(х,у) £ R2 | у ^ f (х),х £ [-2, 2]}, т.е. А есть надграфик некоторой функции /. Здесь функция f (х) = 0 при всех х £ [-2, 0]

и f (2) = —2. На отрезке [0, 2] функция f является непрерывной ломаной линией, заключенной между лучом у = — х и лучом у = — tg(^/10) ж при ж ^ 0. При этом отрезки каждой ломаной имеют одинаковые по абсолютной величине углы наклона к оси 0ж, равные arctg 10, причем при монотонном vбывании ж от 2 до 0 знаки величин углов чередуются, начиная с минуса. Введем обозначение

К (а, Р) = {(х,у) Е R2 | х = г cos р, у = г sin p,r ^ 0, р Е [а,@ ]}.

Тогда касательные конусы ко множеству А в точке а = 0 удовлетворяют равенствам: Тн (А;0) = К (—ж/10, эт), Тв (А; 0) = К (—ТАН i(A;0) = ТАВ2(А;0) = К (0, 9эт/10), Тан 2(4; 0) = Таш(А;0) = К (0, 3эт/4) и Тс (Л;0) = К (arctg 10,-к — arctg 10).

В дальнейшем для краткости каждый касательный конус будем обозначать общим символом ТВ(А; а), где индекс L соответственно принимает одно из значений {В,Н,С,АН 1, АН 2,АВ1,АВ2}.

3. Производные от многозначных отображений

Для каждого касательного конуса, следуя [6,7], можно определить соответствующую производную от многозначного отображения, которую будем называть аналогично названию конуса, т.е. верхней (В), нижней (Н), Кларка (С) и т.д. производной.

Определение 4. Пусть L Е {В, Н, С, АН 1, АН2, АВ1, АВ2}. L-производной от отображения F: X ^ V(Y) в точке z = (ж, у) Е graphF С Z = X х Y называется отображение DlF (z) : X ^ V (У) вида DLF (z)(u) = {v Е Y | (u,v) Е TL(graphF; z)}, u Е X.

Как обычно, определяем domDBF(z) = {u Е X | DBF(z)(u) = Щ.

Из определения 4 и теоремы 1 получаем для V и Е X включения

DeF

DAB1F(z)(u) С Dab2F(z)(u), DahiF(z)(u) С DHF(z)(u) С DBF(z)(u).

Напомним некоторые свойства производных многозначных отображений.

Предложение 1. Для отображения F: X ^ V(Y) в точке z0 = (х0,у0) Е graphF верхняя, нижняя производные и производная Кларка удовлетворяют равенствам

DBF

\,x:

—yu

DHF

DCF

X,(x,y): u—u

Для отображения F: X ^ V(Y), точки zo = (xo,yo) E graphF и произвольных чисел а\ > 0 а2 > 0 определим отображение (где а = (а\, а2)):

Fa : Ва1

Предложение 2. Для отображений F: X ^ V(Y) ш Fa: X ^ V(Y) из (5) при всех L E {В,Н,С,АН 1, АН2, ABl, АВ2} справедливы равенства

DlF(zo)(u) = DLFa(zo)(u), Уu E X.

Определение 5. Отображение F: X ^ V(Y) называется псевдолипшицевым [16]

около точки z0 = (х0,у0) E X х Y, если существуют числа а\ > 0 а2 > ß(y0, F(ж0)) и число I > 0 такие, что для всех х\,х2 E Ва1 (xo) справедливо включение

F(ж:) П Ва2 (yo) С F(х2) + l\\Xl - х2 \\В\(0).

Если в определении 5 а2 = то отображение F называется липшицевым в окрестности ТОЧКИ Xq.

Предложение 3. Пусть отображение F: X ^ V(Y) псевдолипшицево около точки z0 = (х0,уо) G graphF. Тогда для любого и G X справедливы формулы

DBF

DHF

X\.0

DcF(zo)(u) = liminf X-1(F(x + Xu) - y)).

\,(x,y):

,m , NgraphF A^U, (x,y) ^ zо

Приступим к вычислению новых производных.

Предложение 4. Для отображения F: X ^ V(Y) в точке Zo = (xq,yo) G graphF первая асимптотическая нижняя (первая асимптотическая верхняя) производная вычисляется по формуле

DahiF

(DabiF(Zq)(U)= f| [DbF(Zq)(U + u) * DBF(Zq)(U)]).

uEdomDg F

Теорема 2. Пусть от,обра,жение F: X ^ F(Rm) удовлетворяет условию псевдо-липшицевости в точке z0 = (х0,у0) G graphF с константой I > 0. Тогда множества DBF(z0)(u) не пусты при всех и G X, а отображение и ^ DBF(z0)(u) удовлетворяет условию Липшица, с той же константой I > 0.

Доказательство. По определению 5 найдутся числа ai > 0 и > 0 такие, что отображение F удовлетворяет условию псевдолипшицевости в точке графика Zo = (xo,yo) на множестве Ва1 (х0). Пусть и G X и 5 > 0 такие, что ^ а^ Для всех A G (0,6) определим функцию по формуле р(Х) = g(yo,F(xo + Хи,)). В силу псевдолипшицевости получаем включения у0 G Fa(x0) С F(х0 + Хи) + Х1!и!В1(0), го которых следует, что р(Х) < Ai||«||. Выберем произвольную точку f (X) из непустого множества

F(xq + Хи) П (yo + р(Х)В1(0)).

Получаем следующие неравенства:

у(X) - уоЦ < р(Х) < 1ХЦиЦ,

откуда следует неравенство A-1 Hf(X) - у0Ц ^ ЩиЦ при всех A G (0,£). Следовательно, существует последовательность Xk I 0 такая, что последовательность Vk = X-1(f (Xk) - у0) сходится к некоторому вектору v. Так как Vk G X-1(F (х0 + Xk и) - у0), то получаем, что v G DBF(z0)(u). Итак, domDBF(z0) = X.

Пусть теперь и1,и2 G X и v1 G DBF(z0)(u1). Докажем, что существует v2 G DBF(z0)(u2) такой, что Ць2 - ^ 1Ци2 - И1Ц. Это и будет означать выполнение условия Липшица для отображения и ^ DBF(z0)(и). Пусть число ^ > 0 таково, что ^ a1t ^ a1t

^Н^Н ^ При каждом A G (0,определим (р(Х) = д(у0 + Xv1 ,F(х0 + Хи2)), а также ф(Х) как произвольную точку из множества F(х0 + Хи2) П (у0 + Xv1 + ^(А)Б1(0)). Так как v1 G DBF(z0)(u1), то существуют Xk I 0 и Wk G X-1(Fa(x0 + Xku1) - y0) такие, что lim^^ Wk = v^ Т.е. справедливы включения y0 + Xk Wk G Fa(x0 + Xk u1) при всех k G N. Тогда в силу псевдолипшицевости yo + XkV1 G

G Xk(V1 - Wk) + Fa(xo + XkU1) С F(xo + XkU2) + Xk(||^1 - wk|| + 1Ци1 - U2DB1 (0).

Отсюда получаем неравенство р(Хк) < Хк— ^к|| + 1\\и1 — и2\). В итоге получаем включения

КлШк) - Уо) е vi + 1<р(\к)Вг(0) с ы + (1\\т - U2\\ + \\wk - vi\\)Bi(0),

означающее ограниченность последовательности {Хк 1(ф(Хк) — у0)}• Следовательно, v неё найдётся предельная точка , которая удовлетворяет включению е Vi + l\\ui - U2\\Bl(0), а из определения функции ф(Х) принадлежит множеству DBF(zo)(u2)-

Следствие 1. Пусть отображение F: X ^ V(Rт) и точка, z0 = (х0,у0) таковы, что график graphF является локально замкнутым и локально выпуклым, множеством в точке z0 е graphF, причём х0 е domF. Тогда для любого и е X множества, DBF(z0)(u), VL е {В, Н, С, АН 1, АН2, ABl, АВ2} непусты, равны между собой, вычисляются по формулам (6) или (7), а отображение и ^ DBF(z0)(u) удовлетворяет условию Липшица.

4. Эпи- и гипопроизводные функций

На основе определённых в п. 1 касательных конусов можно вводить различные аппроксимации произвольных функций. Для этого мы введём понятия L-производных скалярной функции f:X ^ R по направлениям и L-субдифференциалов этой функции по аналогии с тем, как это делали Р.Т .Рокафеллар [17], Ф. Кларк [18] для касательного конуса Кларка, а также Ж.-П. Обен [6] для контингентного (т.е. верхнего касательного) конуса.

Напомним, что эффективным, множеством скалярной функции f:X ^ Rl (где Rl = = Rl Uназывается множество domf = {х е X | f (х) = надграфиком («эпи-

графиком») функции f:X ^ Rl называется множество

epif = {(х, а) е X х R | а ^ f (х), х е domf},

подграфиком, («гипографиком») функции f:X ^ Rl называется множество

hypof = {(х, а) е X х Rl | а ^ f (х), х е domf}.

Определение 6. Для всякой функции f:X ^ Rl и для всякого L е {В, Н, С, АН l, АН2, ABl АВ2} L-эпипроизводной (L-гипопроизводной) функции f: X ^ Rl в точке Хо е domf по направлению и е X называется величина

D+f (хо)(и) = inf{а е Rl | (и, а) е TL(epif; (хо, f Ы))},

(Dl f (хо)(и) = sup{a е Rl | (и, а) е Ti(hypof; (хо, f (хо)))}). Отсюда и в силу полученных ранее формул (2), (3), (4) получаем

DBf (хо)(и) = lim inf A" l(f (хо + Xu) - f (хо)), D~+ f (хо)(и) = limsup(liminf A"l(f (хо + Xu) - f (хо))), D+ f (хо)(и) = limsup A"l(f (x + Xu) - f (x))).

Х,х,й:

A^0,Ü—YU,X—

Если же функция f: X ^ Rl является липшицевой в окрести о сти точки хо, то в силу предложения 3 формулы для эпипроизводных этой функции принимают вид

D+f

dhf

А^о

D+f

\,x:

причем первые две хорошо известны в теории функций под названием нижней и верхней производных Дини (см., например, [5]).

Замечание. В случае, когда эпипроизводные функции по данному направлению и совпадают, т.е. D+ f (х°)(и) = f (х°)(и), говорят, что существует классическом производная функции по направлению, которую обозначают f '(х°,и) = lim Л-1 (f (x°+\u)-f (х°)).

A\.0

Например, v любой выпуклой функции в точке х° Е domf существует (быть может, равная классическая производная по любому направлению. Полагая, что функция /: X ^ R1 удовлетворяет условию Липшица в окрестности точки xq Е dorn/, вычислим значения эпипроизводных D+Hif(хо)(и), D+Bif(хо)(и), D+H2f (хо)(и), D+B2 f (xo)(u) и сравним их с гипопроизводными.

В силу того, что надграфик отображения D+Hif (ж°) : X ^ R1 является выпуклым замкнутым конусом, пред ставимым по определению 1 в виде разности Минковского нижнего касательного конуса (ко множеству epif) с самим собой, и так как нижний касательный конус к epif является надграфиком функции и ^ f (хо)(и), то, следуя работе [12], получаем, что функция и ^ D+Hif (хо)(и) является «эииразностью» функции и ^ f (хо)(и) с собой, и в силу предложения 4.8.1 из [12] получаем формулу

D+Hif

wex

т.е.

D+Hif (хо)(и) = sup|limsup(A-i(/(хо + X(u + w)) - f (хо)))-wex A^o

- limsup(X-i(f (xo + Xw) - f (жо)))} <

< sup|limsup

wex A^o

Последняя верхняя оценка для D+hif(xo)(u) является выпуклой и положительно однородной функцией, задающей иную аппроксимацию функции f. Эта аппроксимация была получена Ж.-П. Пено (J.-P. Penot) в работе [19], в силу чего функцию

D+f

wex A^o

называют P- эпипроизводной или эпипроизводной Мишеля-Пено от липшицевой функции f в точке хо ^о направлению и,.

Кроме того, формула (13) означает, что для любого числа е > 0 найдется точка w£ Е X такая, что справедливы неравенства

D+f (хо)(и) < limsup(A-i(/(хо + Х(и + ws)) - f (xq + Xw£))) + £ =

AJ.0

= lim sup (t-i(f (x0 + tw£ + tu) - f (x0 + tw£))) + e <

A4° 0<t<A

< lim sup sup (t-i(f (x + tu) - f (ж))) + e = D+f (x°)(u) + e.

В силу произвольности £ > 0 и из (12) получаем, что

D+HifЫ

Аналогично тому, как получили формулу (11), получаем формулу для D+Bif(х°)(и) вида

D+Bif

we x

откуда следует, что

DABif(x°)(u) = sup|liminf(A i(f(x° + X(u + w)) - f(x°)))-

ex

w

- liminf (\~1 (f (xq + Xw) - f (a*)))} <

x\.o

< sup|limsup

wex A^o

Последнее неравенство следует из того, что для любых функций д, h справедливо неравенство liminf(g(A) + h(X)) < liminf д(Х) +limsuph(X). A^0 A^0 Л|о

Из определения 2 конуса Тан2(А; а) немедленно следует формула

DAH2f

Из неравенств (14), (16) и формулы (17) получаем неравенство: D+H2f(xo)(u) < D+f(xo)(u).

Опишем теперь эпипроизводную D+^f(xo)(u). По определению 3 надграфик этой функции u ^ D+mf(xo)(u) является суммой Минковского двух выпуклых конусов, каждый из которых является надграфиком некоторой выпуклой функции. Получаемая таким образом функция в выпуклом анализе называется инфимальной кошолюцией (см., например, [20]). Первая из двух функций есть функция и ^ D+H1f (хо)(и), а вторая и ^ D+B1f (xo)(u). Используя свойства инфимальной конволюции, получаем, что значения D+B2<f (Xo )(и) вычисляются по формуле

D+B2f

vex

Аналогично вычислению эпипроизводных для липшицевой функции f:X ^ R получаются формулы для ее гипопроизводных.

D—f (xo)(u) = limsup X-1(f (xo + Xu) - f (xo)), (19) A^o

D~hf

D—f

X,x:

D-hif

wex

> inf |liminf

wex A^o

причем последняя формула задает Р-гипопроизводную (или гипопроизводную Мишеля-Пено) этой функции в точке Xo по направлению и,, которая была введена Ж.-П. Пено в работе [19]. Аналогичным образом получаем

D—n2 f

D~-B2f (xo)(u) = sup(D-mf (xo)(v) + D—h J(xo)(u - v)), ve x

где

D-Bif

we x

так как для любых функций д, h справедливо неравенство

limsup(g(A) + h(X)) > limsupд(Х) + liminf h(X). A|0 A|0 A4°

Из выражений (23), (24) и (25) следует, что (хо)(и) > Ир/(х0)(и) при всех и € X.

Лемма 2. Для любой функции /; X ^ М1, липшицевой в окрест,пост,и тючки хо € (1ош/, и для любого Ь € {С,Р,АН 1,АН2, АВ1,АВ2} каждая функция и ^ 0+ /(х0)(и) (или функция и ^ Ир /(х0)(и)) является положительно однородной и выпуклой (или вогнутой) функцией.

Доказательство очевидно следует из того, что надграфик (или соответственно под-график) этой функции является выпуклым конусом.

Лемма 3. Для липшицевых функций их эпи- и гипо-производные по любому направлению и € X удовлетворяют, равенствам

ОН /

ВАН1/

Доказательство. Первые два равенства в (26) очевидно следуют из формул (8), (9), (19) и (20). Из формул (11) и (25) легко получаем левое равенство (27), а из формул (15) и (22) легко получаем правое равенство (27). Из формул (10) и (21) для любого и € X, делая замену у = х + \и, докажем равенство в (28) при Ь = С:

(х0)(и) = Ншвир А" 1(/(х + \и) — /(х)) = — Ншт1 А" 1(/(х) — /(х + \и)) =

А,х: А,х:

Аф0,х^х0 АфО,х^хо

= — 1Ш1 м А"1(/(у — \и) — /(у)) = —Бс/(хо)(—и).

А ,у: Аф0,у^хо

Аналогично проверяются равенства в (28) при остальных Ь.

Определение 7. Для любого Ь € {Н,В,С,АН 1, АН2,АВ 1, АВ2,Р} скажем, что Ь-эписубдифференциалом (Ь-гипосубдифференциалом) функции /: X ^ М1 в точке Хо € (1ош/ называется следующее множество в сопряжённом с X пространстве X *:

д+/Ы = {Р € X* | (р,х) < Б+/(хо)(х), У х € X, },

(д1 /(хо) = {р € X* I (р,х) > /(хо)(х), Ух € X}).

Теорема 3. Для липшицевых функций их субдифференциалы, удовлетворяют, равенствам:

9+1

дНт1

Доказательство. Равенства (29) и (30) легко следуют из равенств (28) и (27). Покажем это на примере субдифференциала Кларка:

д+/(хо) = {Р € X* I (р,х) < (хо)(х), Ух € X} =

= {р € X* I (р,х) < —Б^/(хо)(—х), У х € X} = = {р € X* I (р, —х) > БС}(хо)(—х), Ух € X} = }(хо).

Замечание. Из леммы 3 и теоремы 3 следует, что для изучения аппроксимаций липшицевых функций достаточно ограничиться рассмотрением лишь эпипроизводных и эпи-субдифференциалов этих функций.

Теорема 4. Для липшицевых функций справедливы соотношения

>

d+f

причем каждая эпипроизводпая и каждый эписубдифференциал являются различными объектами, т.е. каждое из неравенств и каждое из включений могут быть строгими.

Доказательство. Неравенства (31) следуют из включения (1) и выражений (12) -(18), (23). Из неравенств (31) очевидно следуют включения (32). То, что эти неравенства и включения могут быть строгими, покажем на примерах 2 и 3.

Пример 2. Рассмотрим непрерывную функцию f : [-2, 2] ^ R1, описанную в примере 1. Из решения примера 1 получаем, что

D+f (0)(и) = 10М, V и G R1; if (0)(и) = 0, и > 0, D+mf (0)(и) = - tg( jo )и, и < 0; D+H2f(0)(и) = 0, и > 0, D+H2f(0)(и) = lui, и < 0; D+bJ(0)(и) = D+h2S(0)(и), V и G R1; D+B2Î(0)(и) = D+H1 f (0)(и), V и G R1.

Пример 3. Рассмотрим функцию f : [-1,1] ^ R1 такую, что f (х) = 0 при х G [-1, 0] и f (1) = -1. На отрезке [0,1] функция f является непрерывной ломаной линией, заключенной между лучами у = х и у = - ж, гада f (х) = (- 1)к+1(10х - 9хк ) при всех х G [хк+ъ Хк ], где Хк = (Ц)к и к = 0,1, 2,...

Для указанной функции легко получаем, что D+f (0)(и) = 10|w|, V и G R1; V+Hiï(0)(и) = и,V и > 0 D\h 1 f (0)(и) =0, V и< 0 D\mf (0)(и) = 0, V и > 0, D\mf (0)(и) = lui, V и < 0 D+H2f (0)(и) = lui, V и G R1; D+B2f (0)(и) = 0 V и G R1. В примерах 2 и 3 также справедливо равенство D+ f (0)(и) = D+f (0)(и), V и G R1, которое не совсем очевидно. Докажем его для примера 3. Покажем, что для каждого и G R1 можно подобрать точку w и последовательность Хп ^ 0 так, чтобы точки Хп(и, + w) и Хпw при каждом п G N лежади на одном отрезке ломаного графика функции f.

Если и > 0, то выбираем w и Хп > 0 из решения уравнений: Хп(и + w) = Х2п+1, Л-nW = Х2п+2, т.е. Хп = ^х2п+2; w = 9и. При этом D+f (0)(u) > lim X-1(f (0 + Xn(u + w)) - f (0 + Xnw)) = lim Л-1(ж2„+1 + Ж2„+2) = 10u =

= D+f (0)(u).

Если u < ^o выбираем w и Xn > 0 из решения уравнений:

Xn(u + w) = X2n+1, Xnw = X2n, т.е. Xn = uj^X2n; w = 11 lu]. При этом

D+f (0)(u) > lim X-1(f (0 + Xn(u + w)) - f (0 + Xnw)) lim Л-1(ж2„+1 + Х2П) = 10|u| =

= D+ f(0)(u). Учитывая, что обратное неравенство (14) всегда справедливо, получаем требуемое равенство.

То, что эпипроизводные Кларка и Пено могут отличаться, т.е. возможно строгое неравенство D+f(0)(u) > D+f(0)(u), покажем в следующем примере.

Пример 4. Рассмотрим функцию f : [-1, 2] ^ R1 такую, что f (х) = 0 при х G [-1, 0] и f (2) = j. На отрезке [0, ^] функция f является непрерывной ломаной линией, заключенной между параболой у = - х2 и парабол ой у = х2. При этом каждый отрезок ломаной имеет одинаковый по абсолютной величине угол наклона к оси 0х, равный причем при монотонном убывании х от 2 до 0 знаки величин углов чередуются, начиная с плюса.

Пусть (хо,х"0) = (1/2,1/4) — начальная верхняя угловая точка графика функции f, а (хп,х2п), п G N, — следующие по порядку справа налево верхние угловые точки графика функции f. Очевидно, что lim хп = 0. Пусть (zn, -z2n), n G N, — все нижние угловые

точки графика функции /, причем zn G [хп,хп-1], Vn G N. Для всякой точки хп точка zn+1 вычисляется по формуле zn+1 = (1/2)(-1 + д/1 + 4хп - 4х2п) = хп - 2х2п + о(х^), т.е.

хп - zn+1 = 2х2п - о(х2п). Анадогично получаем хп+1 = (1/2)(-1 + ^1 + 4zn+1 - 4z2n+1) =

= zn+1 - 2z"2+1 + o(z2+1), т.е. zn+1 - xn+1 = 2z"2+1 - o(z2+1). Тогда для любого и = 0, любого w G R1 и Хп ^ 0 получаем, что

lim X-1(f (0 + Хп(и + w)) - f (0 + Xnw)) < lim X-1(Xl(u + w)2 + X2nw2) = 0,

п^ж п^ж

a при w = 0 и Xn = du^^Xn получаем, что lim X-1(f (Xnu) - f (0)) = 0. В результате доказали, что D+f (0)(и) =0, V и G R1.

В свою очередь по формуле (10) для любого и > 0, выбирая последовательности К = (1/и)(х п — %п+1) — 0 и znнl — 0, получаем, что

и

Иш \п 1(/(гп+1 + ^пи) — /(гп+1)) = 1™ -(хП + гП+1) = и.

п^ж п^ж Хп — Хп+1

Аналогично, для любого и < 0 выбирая последовательности Хп = (1 /^^(Хп^ — Хп+1) — 0 и гп+1 — 0 получаем, что

Ы

Иш \п1 (/(гп+1 + Ки) — /(гп+1)) = 1™ -(х^1 + 4+1) = М.

п^ж п^ж Хп+1 — Хп+1

В итоге доказали, что Б+/(0)(и) = |«|, У и € М1.

Теорема 5. Пусть функция /: X — М1 удовлетворяет условию Липшица в некоторой окрест,ноет,и точки хо с константой I > 0. Тогда для любого Р € {С,Р,АН 1,АН2, АВ1,АВ2} функция и — (хо)(и) (и — Ир/(хо)(и)) является положительно однородной, выпуклой, (вогнутой), конечной, при всех и € X и удовлетворяющей условию Липшица, на, множестве X с той же константой I > 0.

Доказательство. Положительная однородность и выпуклость функции и — (хо)(и) следуют го вида ее надграфика. Определим отображение Р(х) = {у € М1 | у ^ /(ж)} и пусть чиело а > 0 таково, что функция /() удовлетворяет условию Липшица на множестве Ва(хо) с константой I > 0. Выберем произвольную точку и € X, и = 0. Тогда для любых точек (х,у) € ер\/ таких, что \\х — Жо|| ^ §, и чисел А € ^0, справедливы

неравенства

/(х + Хи) < /(х) + гА\М\ < у + Аг\М\.

Это означает, что 1\\и\\ € 1(Р(х + Хи) — у), что в силу предложения 3 эквивалентно включению 1\\и\\ € БсР(хо, /(хо))(и), или в иной записи — неравенству 1\\и\\ > (хо)(и).

С другой стороны, опять же из условия Липшица для всех А € ^0, щщ^ имеем неравенство —1\\и\\ < 1 (/(хо + Хи,) — f (хо)). Поэтому для любых е > 0 и А € ^0, щщ) получаем

д(—1\\и\\ — £, А" 1(Р(хо + Хи) — /(хо))) > е,

что в силу равенства (6) означает — 1\\и\\ — е € ^ВТ(хо, }(хо))(и,), или в иной записи — неравенство — 1\\и\\ — е < (хо)(и). В силу произвольности числа е > 0 и из неравенств (31) получаем для любого и € X неравенство

(хо)(и)1 < 1\\и\\, У Р € {С,Р,АН 1,АН2,АВ1,АВ2}.

Перепишем последнее неравенство для произвольных и,1 ,и,2 € X в виде

10+1'

Так как функция и — (хо)(и) выпукла и положительно однородна, то получаем

Объединяя неравенства (33), (34), получим утверждение теоремы.

5. Производные функций, представимых в виде разности двух выпуклых функций

В этом параграфе исследуется класс локальнолипшицевых функций, представимых в виде разности двух выпуклых функций. Как известно из выпуклого анализа (см., например, [12]), у таких функций существуют классические производные по направлениям.

Лемма 4. Пусть функция f:X ^ М1 в точке х0 £ domf имеет конечную классическую производную по направлениям, т.е. справедливо равенство

f

Тогда L-эпипроизводные D+ f (х0)(и) при L £ {АН 1,АН2, ABl, АВ2,Р} совпадают между собой при каждом, и £ X, и для, них справедлива, формула

D+f

wex

Доказательство. В силу общих соотношений (31) достаточно доказать, что

D+Hif (хс)(и) = D+f (хо)(и), У и £ X.

Из формул (11) и (35) получаем формулу D+H1f(х0)(и) = sup(f (х0,и + w) — f (x0,w)).

wex

Из свойств предела имеем

f (хо,и + w) — f (xo,w) = lim X-1(f (хо + X(u + w)) — f (x0)) —

— lim X-1(f (x0 + Xw) — f (x0)) = lim X-1(f (x0 + X(u + w)) — f (x0 + Xw)). A40 A40

Отсюда и по формуле (13) следует равенство D+f (х0)(и) = D+h 1f (х0)(и).

Теорема 6. Пусть функция, f:X ^ М1 локальнолипшицева в окрестности точки х0 £ X и представима в этой окрест,ност,и в виде разности локальнолипшицевых выпуклых функций, т.е. f (х) = f1(x) — f2(x), где f1, f2 : В£(х0) ^ М1 — ограниченные выпуклые функции, причем для заданного и £ X одна, из функций fj., к £ l, 2, удовлетворяет равенству f'k(х0,и) + f'k(х0, —и) = 0 (н,а,прим,ер, одна из функций fj дифференцируема в точке х0 по Гато). Тогда все L-эпипроизводные D+ f (х0)(и) при L £ {АНl,AH2, ABl, АВ2,Р,С} совпадают между собой при любом заданном, и £ X, и справедлива формула

D+f

Доказательство. Из свойств выпуклых функций следует, что v функций f2 и f = f1 — f2 существуют классические производные по направлениям и

f (хо,и) = f1(xo ,и) — f2(xo,u).

В силу леммы 4 для любого L £ {АНl, АН2, ABl, АВ2, Р} справедлива формула

D+f

wex

Как известно, функции и ^ f'k(хо,и), k £ l, 2, также выпуклы, в силу чего получаем

f1

Отсюда и из (38) получаем, что D+h 1f (х0)(и) < Ц(х0,и) + f2(x0, —и). Чтобы показать, что последнее неравенство является равенством, достаточно, чтобы при некотором w оба неравенства в (39) превратились в равенства. При выполнении условия f1(xo,v,)+ f1(xo, —и) = 0 для этого нужно взять w = — и, а при выполнении условия f2(xo,v,) + f2(xo, —и) = 0 достаточно взять w = 0.

Покажем, что формула (37) справедлива и при L = С. По определению эпипроизводной Кларка получаем

Dcf(хо)(и) = limsup (X-1(f1(x + Xu) — f1(x) — ¡2(x + Xu) + f2(x))) < A40, x^x0

< limsup

По известному свойству эииироизводной Кларка для выпуклой липшицевой функции (см. [11], предложение 2.2.7) справедливо равенство D+ fl(х0)(и) = fl(х0,и). Аналогично, делая замену у = х + Хи, получаем

limsup X-l(f2(x) — f2(x + Хи)) = lim sup sup X-l(f2(x) — f2(x + Xu)) =

= l¡m sup sup X-l(f2(y — Xu) — ¡2(y)) = D+f2(X0)(—u) = f2 (X0, —u).

В результате из неравенства (40) получили неравенство D+f (х0)(и) < f[(х0,и) + f2(х0, —и), которое вместе с равенством (37) при L = Ри неравенством (14) завершает доказательство теоремы.

Приведем еще один критерий совпадения всех эпипроизводных функции, представимой в виде разности двух выпуклых функций.

Напомним, что функция h : X ^ Rl называется положительно однородной, если для любого х G X и любого числа Л > 0 справедливо равенство h(Xx) = Xh(x). Очевидно, что такая функция имеет классическую производную по направлениям в точке нуль, и справедливо равенство

h'

Лемма 5. Пусть задана положительно однородная липшицева (быть может невыпуклая) функция h : X ^ Rl. Тогда справедливо равенство всех L-эпипроизводных D+ h(0)(u), а именно:

D+h(0)(u) = sup(h(u + w) — h(w)), У и G X, VL G [АН 1,AH2, AB1, AB2,P,C}. (42) wex

Доказательство. По определению производной Кларка, из положительной однород-h

D+h(0)(u) = lim sup sup X-l(h(x + Xu) — h(x)) = ле(0,<5) |N|<¿

= lim sup sup (h(u + w) — h(w)) <

< sup (h(u + w) — h(w)) = sup (h'(0, и + w) — h'(0, w)) = D+Hlh(0)(u).

wex wex

В силу общих соотношений (31) и, в частности, в силу неравенства D+h(0)(u) > D+Hlh(0)(u) в итоге получаем требуемое равенство (42). Пусть заданы точка Х0 G X и число г > 0.

Следствие 1. Пусть заданы, две выпуклые ограниченные функции fk : Br(х0) ^ Rl; к G 1, 2. Определим функции gk(х) = fk(х0) + fk(х0,х — х0); f (х) = /i(х) — f2(x), х G Вг(х0) и функцию д(х) = д\(х) — д2(х) при х G X. Тогда, справедливо равенство всех L-эпипроизводных функции g в точке х0, причем

D+g(x0)(u) = sup(f(x0,u + w) — f(x0,w)), Vu G X, VL G [AH 1,AH2, AB 1,AB2,P,C}. wex

Доказательство очевидно в силу леммы 5, положительной однородности функции h(x) = g(x0 + х) — fi(ж0) + f2(x0) и равенства д'(х0, и) = f'(x0,u) = h(u) при любом и G X.

Для произвольной выпуклой ограниченной функции f : Br (Х0) ^ Rl определелим функции g и (р по формулам

д

т.е. функция f в окрестности Br (xq) точки xq представлена в виде суммы ее квазилинейной части g и остатка у. Очевидно, что функции g и р в точке Xq имеют классические производные по направлениям, причем

д'

откуда в силу выпуклости функций f и g, а также по формуле (36) получаем равенства

Dcf(XQ)(u) = dc9(xq)(u) = f (xQ,u), D+jj 1ip(xQ,u) = 0, V u G X,

которые в частности влекут неравенство 0 < D+p(xq)(u) при всex u G X, что равносильно включению 0 G d+ <p(xq).

Определение 8. Выпуклая ограниченная функция f : Br (xq) ^ R1 называется сильно регулярной в точке xq, если для соответствующей функции р из (43) справедливо равенство d+(p(xQ) = {0}, т.е. D+(p(xQ)(u) = 0 при вс ex u G X.

Данное определение эквивалентно тому, что функция р регулярна по Кларку в точке Xq (см. определение 2.3.4 в [11]). В частности это выполняется, когда функция р выпукла в некоторой окрестности точки xq. Кроме того, в силу оценки

D+ip

получаем, что если для функции f справедливо равенство f (xq,u) + f (xq, —u) = 0 при всех u G X, то функция f сильно регулярна в точке xq. В частности, если функция f дифференцируема по Гато в точке xq, то она сильно регулярна.

Теорема 7. Пусть функция f: X ^ R1 представима в виде разности двух выпуклых сильно регулярных в точке xQ и ограниченных на, Br(xQ) функций f, и f2, т.е. f = f, — f2. Тогда, справедливо равенство эпипроизводных:

D+j(xq)(u) = D+j(xq)(u), V и G X, VL G {P, AH 1, AH2, ABl, AB2},

что равносильно равенству всех субдифференциалов d+f (хо) = ... = d+B2f (хо).

Доказательство. Для каждой функции Д определим функции и по формулам (43). Определим также следующие функции g = g, —g2ü p = Pi —p2- Тогда справедливо равенство f = g+причем f (xq,u) = g'(xq,u) и p'(xq,u) = 0 при всех и G X. По следствию 1 справедливо равенство 0+н,g(xQ)(и) = 0+н1$(xq)(и) и 0+н,р(хо)(и) = 0 < Dçp(xo)(и). По свойствам производной Кларка для функции р = + (—р2) и в силу сильной регулярности функций f, ж f2 получаем

D+ip(x0)(и) < D+ip^xo)(и) + D+ (—ip2)(x0)(и) = D+p^xe)(и) + D+^xo)(—и) = 0,

т.е. D'+p(xo)(и) = 0 при всех и G X. Отсюда и в силу свойства производной Кларка для суммы функций получаем

D+J (х0 )(и) < D+g(xo )(и)+ D+p(x0 )(и) = D^g^o )(и)+0 = D+н i f (хо )(и) < D+j (х0 )(и),

что вместе с леммой 4, примененной к функции f, завершает доказательство теоремы.

Работа выполнена при поддержке РФФИ, грант 10-01-00139а и ФЦП «Научные и научно-педагогические кадры инновационной России».

Литература

1. Banks H. Т. and Jacobs M.Q. A differential calculus for multifunctions //J. Math. Anal, and Applic. - 1970. - V. 29, N 2. - P. 246-272.

2. Hukuhara M. Intégration des applications mesurables dont la valeur est un compact convexe // Funkcialaj Ekvacioj. - 1967. - Y. 10. - P. 205-223.

3. De Blast F.S. On the differentiability of multifonctions // Pacif. J. Math. - 1976. - V. 66, N 1. — P. 67-81.

4. Пшеничный Б.H. Выпуклый анализ и экстремальные задачи. — М.: Наука, 1980. — 320 с.

5. Демьянов В.Ф., Рубинов A.M. Основы негладкого анализа и квазидифференциальное исчисление. — М.: Наука, 1990.

6. Aubin J.-P. Contingent derivatives of set-valued maps and existence of solutions to nonlinear inclusions and differential inclusions and differential inclusions // Advances in Math. Suppl. Studies, Acad. Press. - 1981. - P. 160-272.

7. Половинкин E.G. Теория многозначных отображений. — M.: МФТИ, 1983. — 108 с.

8. Половинкин Е. С. К вопросу о дифференцировании многозначных отображений // Некоторые проблемы современной математики и их приложения к задачам матем. физики. - М.: МФТИ. - 1985. - С. 90-97.

9. Половинкин E.G., Смирнов Г.В. Дифференцирование многозначных отображений и свойства решений дифференциальных включений // Доклады АН СССР. — Т. 288, № 2. - 1986. - С. 296-301.

10. Bouligand Q. Introduction à la géométrie infinitesimale directe // Gauthier-Villars, Paris.

- 1932.

11. Clarke F.H. Optimization and nonsmooth analysis. — New York: Wilev-Interscience, 1983.

12. Половинкин E.G., Балашов M.В. Элементы выпуклого и сильно выпуклого анализа. — М.: Физматлит, 2007. — 440 с.

13. Болтянский В.Г. Математические методы оптимального управления. — М.: Наука, 1969.

14. Aubin J.-P. and Frankovska H. Set-Valued Analisvs. — Boston-Basel-Berlin: Birkhâuser, 1990.

15. Половинкин E.G. О необходимых условиях оптимальности решений дифференциальных включений на отрезке // Совр. математика в физико-техн. задачах. — М.: МФТИ.

- 1986. - С. 87-94.

16. Aubin J.-P. Lipschitz behavior of solutions to convex minimization problems // Math, of Oper. Res. - 1984. - V. 9. - P. 87-111.

17. Rockafellar R. T. Clarke's tangent cones and the boundaries of closed sets in Rra // Nonlinear Analysis: Theory, Meth. and Appl. - 1979. - V. 3, N 1. - P. 145-154.

18. Clarke F.H. Generalized gradients and applications //J. Trans. Amer. Math. Soc. — 1975.

- V. 205. - P. 247-262.

19. Penot J.-P. Calcel sous-differentiel et optimization //J. Funct. Anal. — 1978.— V. 27, N 2. - P. 248-276.

20. Рокафеллар P. Выпуклый анализ. — M.: Мир, 1973.

Поступила в редакцию 29.03.2012.