Квазидифференциалы в K-пространствах

Владикавказский математический журнал Апрель-июнь, 2003, Том 5, Выпуск 3

УДК 517.98

КВАЗИДИФФЕРЕНЦИАЛЫ В ^-ПРОСТРАНСТВАХ Е. К. Басаева

Введено понятие квазидифференциала отображения со значениями в пространстве Канторовича.

Получены новые формулы для вычисления квазидифференциала произведения, супремума и ин-

фимума.

Квазидифференцируемые функции и операторы введены в работах В. Ф. Демьянова, Л. Н. Поляковой, А. М. Рубинова [1, 2]. Квазидифференциальное исчисление, построенное в [1-4] и работах других авторов, достаточно хорошо разработано для скалярных функций. О современном состоянии теории квазидифференцируемых функций можно судить по сборнику трудов [5]. В [4; Приложение III] показано как методы квазидиффе-ренциального исчисления могут быть применены к отображениям, действующим в банаховы ^-пространства. Однако квазидифференциалы операторов, действующих в более общих ^-пространствах, до сих пор не исследовались.

Статья посвящена распространению квазидифференциального исчисления на операторы, действующие в произвольные ^-пространства. Изучаются алгебраические и порядковые свойства квазидифференциалов отображений, определенных в произвольном векторном пространстве со значениями в пространстве Канторовича. Квазидифференциалы отображений, действующих в топологических векторных пространствах, предполагается рассмотреть в одной из последующих работ.

Отображение называют квазидифференцируемым во внутренней точке области определения, если в этой точке существует производная по направлениям, которая представляет собой разность двух сублинейных операторов. Вопрос линеаризации решается с помощью двойственности Минковского, которая естественным образом распространяется на разности сублинейных операторов, см. [6, 7]. Тем самым, возникает довольно широкий класс отображений, включающий выпуклые и вогнутые операторы, допускающий линеаризацию.

Задача выражения квазидифференциала составного отображения через квазидифференциалы составляющих отображений естественным образом распадается на три этапа: 1) нахождение явного вида производной по направлениям через производные по направлениям составляющих отображений; 2) представление производной по направлениям в виде разности сублинейных операторов, используя полученную на первом этапе информацию; 3) вычисление квазидифференциала через квазидифференциалы составляющих отображений. Первый этап состоит в вычислении соответствующих пределов и использует приемы классического анализа с некоторыми техническими модификациями. Второй этап либо очевиден, либо требует изобретения каких-либо искусственных приемов.

© 2003 Басаева Е. К.

Третий этап опирается на двойственность Минковского, причем расширенную с класса сублинейных операторов на более широкий класс квазилинейных операторов.

В статье использованы обозначения и терминология из [6-8].

1. Предварительные сведения

При изучении сублинейных операторов и их опорных множеств удобно использовать двойственность Минковского: отображение д : Sbl(X,Е) —> CS(Х,Е)7 сопоставляющее каждому сублинейному оператору его субдифференциал (в нуле). В этом параграфе рассмотрено продолжение двойственности Минковского на класс квазилинейных операторов — операторов, представимых в виде разности сублинейных операторов, построенное в [7; 1.5.6, 1.5.7].

1.1. Пусть X — векторное пространство, Е — произвольное if-пространство и . I: Orth(_E). Напомним (см. [7]), что двойственностью Минковского называют отобра-

жение д : Sbl(X, Е) —> CS(Х,Е)7 сопоставляющее сублинейному оператору р его опорное множество (= субдифференциал в нуле) др. Это отображение служит изоморфизмом А-конических полурешеток Sbl(X, Е) и CSС(Х,Е), причем обратное отображение sup : CSС(Х,Е) —> Sbl(X, Е) множеству U С CSС(Х,Е) сопоставляет сублинейный оператор sup(^) : X —> Е, действующий по правилу

sup(Z^) : х I-» sup{Ta: \ Т Eli} (х Е X).

Согласно теореме 1.5.6 из [7] А-конические полурешетки Sbl(X, Е) и CSС(Х,Е) погружаются в унитарные решеточно упорядоченные A-модули [Sbl(X, Е)] и [CSc(X, Е)] соответственно. Более того, двойственность Минковского д и отображение sup допускают продолжение до изоморфизмов решеточно упорядоченных А-модулей

[5] : [Sbl(X,£)] - [CSС(Х,Е)], [sup] : [CSС(Х,Е)] -> [Sbl(X,E)],

причем [<9]_1 = [sup]. Остановимся немного подробнее на строении модулей [Sbl(X,Е)] и [CSc(X,Е)] и изоморфизмов [9] и [sup].

Как отмечено в [7; 1.5.7], [Sbl(X, Е)] можно отождествить с A-подмодулем в Ех, состоящим из всех отображений из X в Е, представимых в виде разности двух сублинейных операторов. Последнее множество, обозначаемое в дальнейшем символом QL(Х,Е), действительно является модулем: если f = р — q для некоторых p,q Е Sbl(X, Е) и a Е Orth(_E), то имеют место равенства

af := а о f = (a+p + a^q) — (a^p + a+q),

доказывающие, что af E QL(X,E). Элементы QL(X, E) будем называть квазилинейными операторами. Итак, QL(X, Е) := Sbl(X, Е) — Sbl(X, Е), причем структура упорядоченного A-модуля индуцирована из Ех, т. е. вводится поточечно. В частности, порядок в QL(X, Е) определяется конусом положительных элементов {р Е QL(X, Е) : р(х) 5= О (х Е X)}.

Упомянутое отождествление производится следующим образом. Паре сублинейных операторов p,q Е Sbl(X, Е) поставим в соответствие квазилинейный оператор ф(р, q) : х I-» р(х) — q(x) (х Е Х)7 (р : Sbl(X, Е) х Sbl(X, Е) —> [Sbl(X, Е)] — фактор-отображение. Очевидно, что пары (p,q) и (p',q') представляют один и тот же квазилинейный оператор в том и только в том случае, когда р + q' = р' + q, что означает эквивалентность этих

пар, а значит и справедливость равенства <р(р, я) = <р(р',я')- Тем самым, существует единственный изоморфизм ъ : [ЭЬЦХ, Е)] —> QL(Х,Е) такой, что г о ^ = ф. Иными словами, если [р, д] — класс эквивалентности пары (р, я), то г([р, </]) = д.

1.2. Множество С^Ь(Х, _Е) с указанными операциями и порядком представляет собой решеточно упорядоченный А-модуль. Если операторы /х,..., Д Е _Е) представи-

мы В виде /г = Рг ^ Яг, ГДе Рь 9г С ЭЬЦХ, I?) (г = 1,..., А:), то их супремум и инфимум (вычисляемые поточечно) также входят в С^Ь(Х, Е), причем имеют место представления

П 71 ( П \ п п п 71 ( 71

V /г = V \рг + X) «Л - £ Л /< = “ V

г=1 г=1 ^ _?=1 ,^г ,7=1 г=1 ^'=1 г=1 ^ ^'=1 ,]фг

<1 Определим операторы р,я : X Е формулами

П Ґ П ч П

р{х):=У <Рі{х)+ ^ д(ж):=

г=1 ^ 3=^,3фі 3 = 1

Очевидно, что операторы р и ц сублинейны, следовательно, достаточно установить, что У?=1 /г = р — 9- Последнее вытекает из следующих выкладок, в которых используется

соотношение а,\ V • • • V ап + Ь = (а\ + Ь) V • • • V (аи + Ь), справедливое в любой векторной

решетке:

п п п п

V = V _ 9г

г=1 г=1 г=1 3—^

П , 7Ъ N

= V _9г(ж) + ^^-(ж) I -я(х) =р(х) -я(х).

г=1 ,7=1

Аналогично, применяя формулу а і Л • • • Л ап + Ь = (аі + Ь) Л • • • Л (ап + Ь), выводим представление для поточечного инфимума:

п п п п

Д /г (ж) = Д {к (ж) - % (х) } = р(х) - ^2 Рз (Ж) + /\{Рг(х) ^ Яг(х)}

і\ г=1 І111! г=1

?г ^ ч п , п

= р(х) + Д < -Яг(х) ^^Р']{х) +Рг(х) > = р(х) - У <Яг(х) + ^ Р'^Х">

А—Л ^ А —Л ' А —Л V А —Л А а. А

г=1 j=l г=1

= р(ж) - д(ж), где на этот раз обозначено

п 71 ( 71 Л

р(х):=^2рз(х); я{х)-.= У\яг{х) + ^ рЛх) [•

3 = 1 1=1 ^ 3 = ^,3фг

Таким образом, точные границы конечного числа квазилинейных операторов также квазилинейны, что и требовалось. >

1.3. Рассмотрим теперь подробнее модуль опорных множеств [СБс(Х,Е)}. Прежде всего проверим, что в А-конической полурешетке СБС(Х,Е) выполняетя закон сокращения.

(1) Пусть и. V. IV С СБс(Х, Е). Если и + Ш э V + Ш, то П э V. Если же II+ Ш = У + Ш, то II = У.

<1 Допустим, что и = др, V = дд и Ш = дг для некоторых сублинейных операторов р,д,г : X Е. Тогда, привлекая аддитивность и монотонность двойственности Минков-ского, выводим д(р + г) = др + дг I) <9д + <9г = <9(д + г). Отсюда р + г^д + ги, стало быть, р ^ д или, что то же самое и = др I) дд = V. Второе утверждение очевидным образом следует из первого. >

Отношение эквивалентности в СБс(Х, Е) вводится следующим образом: пары (Щ, Ух) и (С72,У2) эквивалентны в том и только в том случае, если Щ + У2 = С/2 + см- [8; 1.5.6]. Пусть [?7, V] обозначает класс эквивалентности пары опорных множеств (II, V). Тогда алгебраические операции (сложение и умножение на элементы кольца ОгШ(_Е)) в [СБс(Х, Е\ вводятся формулами:

[С/х, V!] + [172, У2] := [Vг + и2,Уг + У2]; а[1/, V] := [а+и + п Г. а+У + а~Ц].

Эти определения корректны, так как согласуются с эквивалентностью в множестве упорядоченных пар опорных множеств. В частности, противоположный элемент задается формулой —[и,У\ = [V, II], а класс эквивалентности [С/, V"] будет нулем в том и только в том случае, если (II, V) ~ ({0},{0}), т. е. если II = V. Отношение порядка в модуле [СБс(Х, Е)] вводится с помощью конуса положительных элементов

К = {[и, V] Е [СБс(Х, Е)} : II Э V}.

Тем самым, справедливы следующие соотношения:

Рг, VI] > [172, У2] о [171, ^1] - [172, У2\ > 0 о иг — У2 I) V! — 112.

Вложение ь : С8С(Х,Е) —> [СБс(Х, Е)] определяется формулой ь(и) = [С/, {0}]. Для произвольной пары опорных множеств II, V Е С8С(Х,Е) будет [С/, V] = [С/, {0}] + [{0}, V] = [С/, {0}] — [V, {0}] = ь(и) — ь(У), откуда видно, что конус /,(СБС(Х,Е)) является воспроизводящим.

Согласно теореме 1.5.6 из [7] двойственность Минковского допускает распространение [9] на модуль [ЭЬЦХ,Е)]. Поскольку последний отождествляется с С^Ь(Х,Е), то возникает изоморфизм из Е) на СБС(Х,Е), который будем обозначать симво-

лом Т>, т. е. полагаем по определению Т> := [9] о г-1. Обратный к нему изоморфизм имеет вид 5 := г о [вир], так как Р-1 = ? о [З]"1 = 5. Отображение [9] определяется равенством [д]((р(р, д)) = [др,дд], значит, в силу наших соглашений можем написать Т>(ф(р,д)) = [др,дд], каковы бы ни были р, д Е БЬЦХ, Е). Итак, если I = р — д, то Т>1 = [др,дд], причем Т>1 не зависит от конкретного представления I в виде разности сублинейных операторов. Элемент VI из А-модуля СБс(Х, Е) назовем квазидифференциалом (в нуле) оператора I. При этом для опорных множеств др и дд приняты следующие названия и обозначения: 81 := 8р — субдифференциал в нуле оператора I и д1 := дд — супердифференциал в нуле оператора I.

Суммируя сказанное и учитывая 1.5.7 из [7], приходим к следующему утверждению.

выполняется VI = [U, V] (или, что то же самое, S([U,V}) = I), то

m = U, 81 = V, l(x) = sup{Sa; : S Є U} — sup{Ta: : T Є V} (х Є X).

Разумеется субдифференциал и супердифференциал квазилинейной функции определяются неоднозначно, тогда как квазидифференциал — вполне определенный элемент модуля [CSc

(і = 1,2). Тогда pi + q2 = p2 + qi- Полагая Щ = dpi, Ц = dqi (і = 1,2), и привлекая

двойственность Минковского, получаем Ui + V2 = U2 + VТаким образом, если две пары опорных множеств определяют одну и ту же квазилинейную функцию I, то они эквивалентны. Верно и обратное: если пары (Ї7і, Vi) и (U2,V2) эквивалентны, то по ним восстанавливается одна и та же квазилинейная функция:

sup S(x) — sup Т(х) = sup S(x) — sup T(x) (x Є X).

SE'Ui Tel і Seu2 Tev2

1.4. Рассмотрим как преобразуются произведение на элемент кольца А, сумма и решеточные операции при изоморфизме V.

(1) Пусть а Є Orth(I?), І Є QL(X, E) и VI = [81, 81]. Тоща квазидифференциал V(al) = otVl, т. е. согласно 1.3

dial) = a+8l + a~8l, 8(al) = a^dl + a+8l.

<1 Из равенства VI = [81,81} видно, что I = р — q, где

р(х) = sup S(x), q(x) = sup T(x).

s£$! теш

Отсюда al = (a.+p+Q~q) — (a.~p+Q.+q). Остается применить двойственность Минковского с учетом ее аддитивности и однородности (см. [7; 1.4.12, 1.4.14(5)]). >

(2) Пусть 1\,... ,1П £ QL(Х,Е) и Vli = [8li,8li] (i:= 1,... ,п). Тогда V(l\ +

''' + In) = T^h + • • • + Vln, причем

8(l\ + • • • + ln) = 8(l\) + • • • + 8(ln), 8(l\ + • • • + ln) = 8(l\) + • • • + 8(ln).

<1 Если = рг — q^ (г = 1,..., п), то достаточно применить двойственность Минковского к равенству Ь Н----------Ь 1П = (рг Н------Ьр„) ^ (<?И-------Ну»)- >

(3) Пусть 1\,..., 1П е С^Ь(Х, Е) и VII = [дЦ,дЦ] (* := 1,...,«). Положим, д(х) := 1\ (х) V • • • V 1п(х) и Ь,(х) := 1\(х) Л • • • Л 1п(х). Тоща Vg = [8д,8д\, VII = [8Ь,8Н\,

ще

к

' Я1 .

13>

П / П \ К

& = ор U + £ ), 8ц ^ Щ

i=1 ^ j=l,зфі ^ j=1

П П , n 4

8h = ^ 81 j, 8h = op f 81i + ^ 81 j J.

j=1 i=1 ^ 3 = 1,зфі

<1 Из условия Vli = [dli,dli] видно, что li = pi — qi7 где

Pi(x) = sup S(x), qi(ж) = sup T(x),

s&i Tedk

при всех i = 1 Предложение 1.2 дает выражение операторов g и h через опе-

раторы pi и qi. Для завершения доказательства достаточно применить двойственность Минковского. При этом следует воспользоваться аддитивностью двойственности Мин-ковского, а также тем фактом, что точную верхнюю границу сублинейных операторов двойственность Минковского переводит в операторную оболочку опорных множеств этих операторов (см. [6, 7]). >

2. Квазидифференцируемые отображения

В этом параграфе вводится класс квазидифференцируемых операторов и устанавливаются формулы квазидифференцирования суммы и произведения.

2.1. Пусть X — векторное пространство, Е — некоторое ^-пространство. Рассмотрим отображение /: X Е' и точку жо Є соге(іот(/). Если для некоторого Ь, Є X существует предел

. , /

= ті вир ------------------= вир 1ПІ -------------------,

£>°0<а<є а £>0°<“<е а

то его называют (односторонней) производной или, реже, производной Дини / в точке хо по направлению Ь,. Допустим, что в точке жо существует производная /'(жо)/і по любому направлению Ь, Є X. Тогда возникает отображение /'(жо) : X ^ Е, которое называют также (односторонней) производной или производной Дини по направлениям. В этой ситуации говорят также что отображение / дифференцируемо по направлениям в точке х@.

Говорят, что / квазидифференцируемо в точке жо, если выполнены условия:

(1) существует односторонняя производная / в точке жо по направлениям;

(2) производная по направлениям /'(хо) : X —> Е — квазилинейный оператор.

Итак, если отображение / квазидифференцируемо в точке жо, то квазилинейному оператору /'(хо) Є 0,Ь(Х,Е) в силу двойственности Минковского отвечает элемент Р(/'(ж0)) Є [СБс(Х,Е)\, который называют квазидифференциалом / в точке жо и обозначают символом Р/(ж0).

Если /;(жо) представляется в виде разности сублинейных операторов, как указано в

(2), то Vf(ж0) = [др,дд],

/'(ж0)Л = зир{5(Л) : Б Є др} — зир{Т(Н) : Т Є дд} = р(Ь) - д(Н) (Ь Є X).

При этом опорные множества др и дд принято называть соответственно субдифференциалом и супердифференциалом отображения / в точке жо и принято обозначать <9/(жо) и <9/(жо). Итак,

Р/(ж0):= [др,дд}:= [9/(ж0), 9/(ж0)].

Допустим, что квазидифференцируемое отображение / имеет в точке жо квазидифференциал вида Р/(ж0) = [9/(жо),{0}] (или Р/(жо) = [{0}, <9/(жо)]). Тогда говорят, что

/ субдифференцируемо (соответственно, супердифференцируемо) в точке хо. Если отображение / в некоторой точке хо Є соге(іот(/) имеет производную по направлениям Т := /'(жо), являющуюся линейным оператором, то это отображение одновременно субдифференцируемо и супердифференцируемо, причем Т>/(хо) = [{Т},{0}] = [{0},{Т}].

Выпуклый оператор / субдифференцируем в каждой точке хо Є согесіот (/), так как существует производная по направлениям /'(хо) являющаяся сублинейным оператором. При этом д/(хо) = <9/(жо). Оператор / называют вогнутым, если — / — выпуклый оператор. Вогнутый оператор / супердифференцируем в любой точке хо Є согесіот(—/), причем <9/(жо) = —д(—/)(хо). В этом случае производная по направлениям /'(хо) также существует, но является суперлинейным оператором, т. е. —/'(хо) — сублинейный оператор.

Еще более широкий класс квазидифференцируемых отображений составляют разности выпуклых операторов (или, что то же самое, суммы выпуклых и вогнутых операторов).

Рассмотрим теперь вопросы квазидифференцируемости суммы и произведения квазидифференцируемых отображений.

2.2. Теорема. Пусть операторы Д, X —> Е’ квазидифференцируемы в точке

П

ха Є п согесіот/г. Тогда их сумма также квазидифференцируема в этой точке и

г=1

ЧН +  + }п)Ы = рды + • • • + vfn(xQ).

Иными словами, если Т>/і(хо) = [д/і(хо),д/і(хо)] (і = то квазидифференциал

суммы

Щ/1 + • • • + 1п){хо) = [<9(/1 + • • • + /и)(ж0),9(/і + • • • + и){хо)} вычисляется по формулам

Ші Н-------------------Ь /п)Ы) = 9/і(ж0) Н----\-д/пЫ),

Ції Н-----------------Ь /п)(ж0) = д/і{ха) Н-\-д/п(х0).

<1 Рассмотрим произвольные квазидифференцируемые в точке хо отображения /і,..., /„. Покажем, что сумма / := /і + ••• + /« имеет производную по направлениям в точке Хо'.

^ , п п

Ґ

«4,0 а \ *—4 *—4

4 г=і г=і

^ \ и

= X] ( а (мх° + аН) - Мхо)) ) = X] Л(жо)Л-

г=1 г=1

Предположим, что /г'(жо)/1 = Рг(^) — 9г(^) (* = 1, • • •, п), тогда

п п п п

/'(ж0)Л = ^/'(а0)Л = 2 (р<(Л) -%(Л)) = - ^и(Л)-

г=1 г=1 г=1 г=1

Так как операторы р\ + • • • + рп я +  + дп сублинейны, то тем самым установлена квазидифференцируемость отображения / в точке хо. Далее в силу аддитивности отображения V : С^Ь(Х,Е) —> [СБс(Х, Е)] (см. 1.4(2)) будет

ъ/(х0) = ъ(('£1г)ы) =^(^2пы) =^{Ггы) = vf1{щ)++vhЫ. >

г=1 г=1 г=1

2.3. Теорема. Пусть оператор ./' : .V —» квазидифферецируем в точке жо Є

согесіот (/) и Л Є ОгШ(Е). Тогда оператор А/ : х і-» Л/(ж) также квазидифференцируем

в этой точке и

Я(Х/)(ж0) = \Vfix о).

Иными словами, если Р/(жо) = [<9/(жо), <9/(жо)], то для квазидифференциала

Р(А/)(жо) = [<9(А/)(жо), <9(А/)(жо)] справедливы равенства

дШ)(хо) = А+<9/(ж0) + А-9/(жо),

<9(А/)(ж0) = А+5/(ж0) + А-<9/(жо).

<1 В силу о-непрерывности произвольного ортоморфизма производная по направлению отображения А/ вычисляется следующим образом:

(АЛ'ЫЛ = ^т(Л/)(х°+°'‘)-(Л/)(1°) = ^1ш,л("/(з!0 + °'!)~/(1°)'|

«4.0 а «4.0 \ а )

= л  о-Пт/(х°+а'‘)-/(хо) = Л/(*.№•

«4.0 а

Пусть /'(жо) = р — д для некоторых £ С^Ь(Х, I?). Тогда в силу установленного выше равенства

= ^А+р(/1) + Х^ д(Н) ^ р{Н) + Х+д(Н) ^.

Отсюда видна квазидифференцируемость оператора Л/ в точке жо- Наконец, в силу однородности отображения Р (см. 1.4(1)) имеем

V(Xf)( ж0) = V(XfУ(xQ) = Т>Х/'(хо) = XVf( жо).

Формулы для вычисления субдифференциала и супердифференциала отображения Л/ вытекают из 1.4(1). >

2.4. Если в условиях теоремы 2.3 положить Е = Ж и Л Е 1, то получим, что для квазидифференцируемой в точке жо функции / : X —> Ж' функция А/ также квазидиф-ференцируема в точке жо и при этом формулы для вычисления субдифференциала и супердифференциала принимают вид (см. [4]):

Г А<9/(ж0) при А ^ 0, ы\г\( \ / А9/(ж0) при А > 0,

д{Х/)Ы = < д д(Х/)(хо) = <

I —Ааджо) при А ^ и, I ^Ао/(жо) при А ^ и.

2.5. Если операторы fi и : X —> Е' квазидифференцируемы в точке xq Е core dom (Д) П core dom (Д), то их разность Д — Д квазидифференцируема в этой точке и

Ш - /2)(о) = ДЛЫ - РД(о).

<1 Следует из 2.2 и 2.3. >

3. Квазидифференциал произведения

Далее рассмотрим вопрос о квазидифференцируемости произведения д • / двух ква-зидифференцируемых отображений /,д:Х—>Е', действующего по правилу д • / : х н-> д(х)/(х). Однако последнее соотношение имеет смысл только, если в Е введена структура кольца. При этом для осуществления указанной программы нужно будет потребовать, чтобы Е была /-алгеброй с единицей (см. [8] или [7; П1.12]). Но всякая /-алгебра с единицей изоморфна алгебре своих ортоморфизмов (см. [8], [7; П.2.5 (7)]), поэтому естественно рассмотреть ситуацию, когда рассматриваемые отображения принимают значения в Е' и ОгШ(1?)', причем умножение Е' х ОгШ(1?)' —> Е имеет вид (тт,е) ь-> 7г(е). Тогда произведение д • / : х д{х)/{х) определено корректно.

3.1. Выясним, как связаны между собой модули С^Ь(Х, ОгШ(1?)) и С^Ь(Х,Е), [Сверг,ОгШ(Я))] и [СБС(Х,Е)].

(1) Для отображения ср : X ^ ОгШ(1?) и элемента е Е Е определим отображение тпе{ф) := (р(-)е : .V —» действующее по формуле те{ф) : х (р(х)е. Возьмем теперь сублинейный оператор р Е ЭЬЦХ, ОгШ(1?)). Если е Е Е+, то те(р) Е ЭЬЦХ, Е). Для произвольного е Е Е выполняется те(р) Е СД|(Х, Е), так как р(-)е = р(-)е+ ^р(-)еГ. Пусть квазилинейный оператор I Е С^Ь(Х, ОгШ(1?)) допускает представление I = р — д, где р, д Е ЭЬЦХ, ОгШ(1?)). Тогда для произвольного е Е Е имеем

те{1) = р{-)е - д(-)е = (р{-)е+ + д(-)е~) - {р(-)е~ + д{-)е+),

следовательно, те(1) Е (Х,Е).

(2) Аналогично, для множества и отображений из X в ОгШ(1?) и элемента

е Е Е+ положим те(и) := := {те((р) : Е II}. Если II — опорное множество, то

легко проверить, что те(и) — также опорное множество. Если же е Е Е — произвольный элемент, то те(и) обозначает класс эквивалентности, определяемый парой опорных множеств (Е7(-)е+, С/(-)е_), т. е. те(и) = [1/(-)е+Е [СЭс(Х, ОгШ(Е))]. Наконец, для [и, V] Е [СБс(Х, ОгШ(1?))] положим

те([и, У]) := [и(-)е+ + У(-)е“, и(-)е~ + У(-)е+}.

Итак, одним и тем же символом те мы обозначили два разных отображения, действующие из СД|(Х, ОгШ(Е)) в ОЬ(Х,Е) и из [СБс(Х, ОгШ(Е))] в [СБс(Х, Е)], ввиду тесной их взаимосвязи.

(3) Для произвольного квазилинейного оператора I Е СД|(Х, ОгШ(1?)) и любого элемента е Е Е имеет место равенство

Т)(те(1)) = те{Т>{1)).

<1 Достаточно установить, что для сублинейного оператора р Е ЭЬЦХ, ОгШ(1?)) и положительного е Е Е верно д(те(р)) = те(др). Тогда требуемое следует непосредственно из определений (1) и (2). Включение те(др) С д{те{р)) очевидно. Докажем противоположное включение.

Возьмем произвольный оператор Т Е д(те(р)), т. е. Т Е 1{Х,Е) и Тх < р{х)е для всех х Е X. Отсюда видно, что ттТ = Т, где тт — порядковый проектор на полосу ем. В максимальном расширении тЕ ^-пространства Е выберем порядковую единицу и, тем самым, мультипликативную структуру, для которой она служит кольцевой единицей.

Существует положительный элемент d Е тЕ такой, что de = ж1. Положим S$x:= d  Тх (х Е X). Очевидно, что Sq — линейный оператор из X в тЕ. Возьмем произвольный оператор Si Е dp и введем новый оператор S : X —> тЕ формулой S := ttSq + TTdSi. Тогда для произвольного х Е X имеют место соотношения

Sx = ttSqx + ndSix = 7Гd  Тх + ndSi ^ nd  р(х)е + ndp(x) = тт(1)р(х) + ndp(x) = р(х).

Тем самым, S Е Эр, откуда, в частности, следует, что образ S содержится в Е7 так как Sx Е [^р(^х),р(х)\ С Е. Кроме того, (Sx)e = ix{Sox)e = тх(d  Тх)е = жТх = Тх7 стало быть, Т = me(S) Е me(dp)7 что и требовалось. >

Ниже для объектов вида те{Т>1) используем более короткое и выразительное обозначение (Т>1)е. Так, если рассматриваются отображения f : X —> Е' и g : X —> Orth(_E)', то выражение T>g(xо)/(жо) — иное обозначение для me(Vg(xо)),гдее:= /(жо), а g(xo)Vf(xo) понимается в соответствии с 1.4(1).

3.2. Теорема. Пусть отображения f : X ^ Е' и д : X ^ Orth(_E)' квазидифферен-цируемы в точке xq Е core dom (/) П core dom (g). Тогда отображение gf = g  f : X Е', действующее по правилу gf : х g(x)f(x), также квазидифференцируемо в этой точке и справедлива формула

vi9 • f)(xо) = g{x0)Vf{x0) + T>g(x0)f(x0).

Более того, если V(gf)(xо) = [d(gf)(xo),dgf(xo)\, то имеют место представления

9(gf)(x) = g+(xQ)c2f(xQ) + g~(xo)df(xo) + dg(xQ)f+(xQ) + dg(x0)f~(x0),

d{gf){x) = 9+(xa)df(xo) + g^(xo)c3f(xo) + dg(xo)f+(xo) + dc/(xo)f-(xo).

<1 Пусть fug квазидифференцируемы в точке xq E core dom (/) П core dom (g). Для a > 0 положим </?(«, h) := f(xo+ah) — f(xo)—af'(xo)h. По условию o-lima|o </?(«,h)/a = 0, следовательно, для некоторого ё Е Е+ будет \tp(a, h)\/a ^ ё при всех достаточно малых а. Полагая е:= ё + \f'(xo)h\ можем написать

\{g{xQ + ah) -g(x0))(f'(x0)h + ip(a,h)/a)\ ^ \g{xQ + ah) - g{xQ)\{e) 0.

a^O

Учитывая доказанное, можно написать следующую цепочку равенств:

«4,0 a V /

= o-lim~(g{xq + ah)f(x0 + ah) - g(x0)f(x0 + ah) + g(x0)f(x0 + ah) - g{x0)f{x0)]

«4,0 a V /

= o-lim ^X° + °h^—9^X°^ f(xo) + o-lim (g(x0 + ah) - g(x0)) (f(xQ)h+

«4,0 a «4,0 \ a J

+ o-lim 0(xo) • (f(Xo + ah)---= g'(Xo)(h)  f(xo) + g(x0)  f'(x0)h.

«4,0 a

Итак, отображение gf имеет производную по направлениям в точке хо, причем (.gf)'(x0)h = g'(xo)(h)f(xo) + g(xo)f'(xo)(h) (h E X).

В силу квазидифференцируемости / и д существуют г,зЕ БЬЦХ, ОгШ(_Е)) ир,д Е БЬЦХ, Е) такие, что д'(хо)(Н) = г (К) — з(Н) и /'(жо)(Л) = р(Ь) — д{Ь). Покажем, что производная (д/)'(хо) представима в виде разности сублинейных операторов

=

=г{Ь)/{ха) - в

=г

+ 9+{ха)р{Ь) -д~

=

- {г{Ь)/^{хо) + в(/1)/+(ж0) + д^(ж0)р(/1) +з+(ж0)д(/1)).

Вновь воспользовавшись линейностью отображения Р, с учетом 3.1 (3) получаем:

Щд  /)

= 2%'(жо))/(жо) + 0(жо)Р(/'(жо)) = Vg(xo)f(xo) + д(ж0)Р/(ж0). >

3.3. Рассмотрим два частных случая установленной теоремы.

(1) Пусть / и жо — те же, что и в 3.2, а у : X —> Ж' — квазидифференцируемая в точке жо функция. Определим отображение д : X ^ ОгШ(_Е)' формулой д(ж) := д{х)1Е-Тогда отображения д и / удовлетворяют условиям теоремы 3.2, следовательно, отображение, действующее по правилу д/ : жи д(ж)/(ж), квазидифференцируемо в точке жо и справедливы формулы

2(з/)(о) =

з(жо)9/(ж0) + /+(жо)9з(жо) + / (ж0)%(ж0) при д(ж0) > о,

-0(жо)3/(жо) + /+(ж0)95(ж0) + /_(ж0)%(ж0) при д(ж0) ^ О,

0(жо)9/(жо) + /+(ж0)%(ж0) + /_(ж0)%(ж0) при д(ж0) > О,

-з(^о)3/(ж0) + /+(жо)%(жо) + /_(ж0)%(ж0) при д(ж0) ^ О,

(2) При £ = Ж из теоремы 3.2 следует хорошо известный результат: для квазидифференцируемых в точке жо функций / :Х—>Ж'иу:Х—>Ж' функция д • / : X Ж' также квазидифференцируема в точке жо и при этом формулы для вычисления субдифференциала и супердифференциала принимают вид (см. [4]):

д(дЛ(х о) =

д{д[){х о) =

д(хо)9/(ж0) + /(хо)дд(хо) при д(ж0) > 0, /(ж0) > О,

-д(хо)9/(ж0) + /(ж0)9д(ж0) при д(ж0) ^ 0, /(ж0) > О,

-д(хо)9/(жо) - /(жо)%(жо) при д(ж0) ^ о, /(жо) ^ О,

з(жо)9/(ж0) - /(ж0)%(ж0) при д(ж0) > о, /(жо) ^ О,

з(жо)9/(ж0) + /(ж0)%(ж0) при д(ж0) > о, /(жо) > О,

-з(^о)5/(жо) + /(жо)%(ж0) при д(ж0) ^ о, /(жо) > О,

-з(^о)5/(жо) - 1(хо)дд(х0) при д(ж0) ^ 0, /(ж0) ^ О,

з(жо)9/(ж0) - /(хо)дд(хо) при д(ж0) > 0, /(ж0) ^ 0.

3.4. Теорема. Пусть отображение / : X ОгШ(_Е)' квазидифференцируемо в точке жо Е согес1от(/). Допустим, что для каждого ж Е (1от(/) ортоморфизм /(ж) обратим

и обозначим символом 1// := j отображение, действующее по правилу х (f(x)) г. Тогда отображение 1// квазидифференцируемо в точке xq и

^(1//)(^о) = -(f(xQ)y2Vf(xQ).

Иными словами, если обозначить V(l/f)(xo) = [9(1//)(xq), д{1//){xq)], то имеют место представления

d(l/f)(xQ) = (f(xo)y2df(xo), d(l/f)(xQ) = (f(xo)r2df(xo).

<1 Умножив разностное отношение а-1 ((1//)(жо + ah) — (1//)(жо)) на элемент 1 := IEI = f(xQ)f(xQ + ah)(f (xq))^1 (f (xq + ah))-1, получим

(1 /f)(x0 + ah) - (1 /f)(xQ) = f(x0)~ f(xQ + ah) _ ^ + а/^-1

a a

Переходя к о-пределу при a J, 0, приходим к равенству (I/f )'(xo)h = —(/(xq))-2/'(xo)h. Пусть теперь p,q — сублинейные операторы такие, что f'(xa)(h) = p(h) — q(h). Тогда

(1 /f )'(xo)h = (f(x0))~2q(h) - (f(xo)r2p(h).

Поскольку (f(xо))-2 — положительный ортоморфизм, ТО ПОНЯТНО, ЧТО (1//)'(жо) Е QL(X, Orth(_E)) и отображение (1//) квазидифференцируемо в точке xq. Формула для вычисления квазидифференциала отображения (1//) следует, как и выше, из линейности отображения D. >

3.5. Если для отображения g : X —> Orth(_E)' существует 1/д, то положим по определению //д:= = / • (1 /д).

Пусть отображения / : X —> Е' и д : X —> Orth(_E)' квазидифференцируемы в точке xq Е coredom (/) П coredom (g), причем существует 1/д. Тоща отображение //д:= 1/д • / квазидифференцируемо в точке Xq и

v(f/g)(xo) = яЫУ!Ы-УяЫ!Ы,

о)

<1 Следует из 3.2 и 3.4. >

4. Квазидифференциалы супремума и инфимума

В [4] доказана квазидифференцируемость максимума и минимума скалярных функций и приведены явные формулы их вычисления (см. 4.4). В текущем параграфе устанавливается квазидифференцируемость супремума и инфимума отображений, действующих в if-пространства. Формулы для вычисления соответствующих квазидифференциалов принципиально отличаются от своих скалярных аналогов.

4.1. Пусть отображения Д,..., /п : X —> Е’ дифференцируемы по направлениям в точке xq. Тогда отображение / := /1 V • • • V /„ также дифференцируемо по направлениям в точке xq и имеет место точная формула

f'(xQ)h= \/ (^2aif'(xQ)hX,

(ab...,an) е Гп(х0) г=1

где

Г„(жо):= Г„(ж0; Д,..., Д) := |(аь ..., ап) : ак Е ОгШ+(Е),

П П

^ак = 1Е, ^аМх0) = /

к=1 к=1

<1 Покажем сначала, что выполняется неравенство Для произвольного набора Е Г„(жо) справедливы соотношения

/{х0 + ак) - /(ж0) = /(ж0 + ак) - Х)Г=1 агМхо) а а

п

Е”=1 «гД(жр + ак) - ^27=1 °гЫхо) _ ТГ' + а}ъ) ~

о;? .

, V ^

а ' а

1=1

Переходя в этом неравенстве к пределу при а О, получим

П

f,(xo)h^'^2aif(xo)h, (аь.е Г„(ж0).

1=1

В силу произвольности набора («х,... ,ап) Е Г„(жо) отсюда следует требуемое.

Обратное неравенство докажем по индукции. Пусть п = 2, т. е. /(ж) = Д(ж) V Д(ж). Для произвольного е Е Е обозначим символом [е] порядковый проектор на полосу на полосу ем. Определим проекторы 7г 1, 7Г2 и 7Гз равенствами:

7Г1 = [(Д(жо) - Д(жо) + ], 7Г2 = [(Д(ж0) - Д(ж0) + ], 7Г3 = Д? - 7Гх - 7Г2.

Очевидно, ЧТО ДЛЯ любого ненулевого проектора р ^ 7Г1 (р ^ 7Г2) выполняется рД > рД (рД > рД). Заметим, ЧТО 7Г1, 7Г2 и 7Гз попарно дизъюнктны. Кроме ТОГО, 7Г3Д(ж0) = 7Г3Д(ж0). Действительно, если ЭТО не так, ТО ДЛЯ некоторого ненулевого р ^ 7Гз будет рД > рД (рД > рД); следовательно, р ^ 7Гх (р ^ 7Г2) и р = О ВВИДУ ДИЗЪЮНКТНОСТИ 7Гх и 7Гз (7Г2 и 7Гз). Таким образом, справедливо представление

/ = 7Гх/ + ТГ2/ + 7Г3Д

Положим е0 := (Д(ж0) - Д(ж0))+ и заметим, что е0 = 7ГхД(ж0) - 7ГхД(ж0). Пусть е Е -Е+ — общий регулятор сходимости в пределах Д(жо) = г-Нт^о Д(жо + аЛ.) (г = 1,2). Подберем разбиение (ри) проектора 7Гх и последовательность, строго положительных чисел (Аи) так, чтобы Апрпе ^ \рп&о Для всех п Е N. Для каждого номера п Е N существует число еп > 0 такое, что при всех а Е (0, еп) выполняется |Д(жо+аЛ.)—Д (жо)| < Хпе (г = 1,2). Отсюда для гг £ N и а 6 (0, еп) выводим

1

Рп!2(ж0 + ак) ^ рпД(ж0) + Апрпе ^ рпД(ж0) + -рие0

1

= РпД(жо) - 2^е0 ^ РггД(жо) - А„р„е ^ рпД(ж0 + ак).

Если для некоторого порядкового проектора р ^ ж\ при достаточно малых а > 0 выполняется рД(жо + ак) ^ рД(жо + ак)7 то (р/)'(хо)к ^ р/[(хо)к. Действительно, справедливость указанного предположения с учетом равенства р/(жо) = рД(жо) позволяет

написать

рЦхо + оЛ)—р/(хо) = 1/ + _ р/^ХоЛ у (р/2(Жо + аЛ) -р/ 1(ж0)1

а а V /V /

^ ~(рЬ(хо + аЛ) - аЫжо)) V ^/х(ж0 + аЛ) - аЫ^о)) —> р/[{хо)Ь.

Таким образом, для каждого из проекторов рп имеем рп/'{хо)И = (рп/)'(хо)И, ^ Рп/{(%о)Н. Суммируя последнее неравенство ПО П, получим 7Г1/'(жо)/1 ^ Ж\/[{хо)Ь. Аналогично устанавливается, что П2/'(%о)Н ^ тгг/г^о)^-

Осталось найти производную отображения 7Гз/.

7Гз/

а а

= — ( (7ГЗ/1) (^0 + оЛ) - (7Г3/1)(Ж0) V (7Гз/2)(ж0)) а V /

^ ^

= ^((яз/Ж^о + аЛ) - (7Гз/1)(ж0)) V ([ж3/2){х0 + аЬ) - (жз/2)(ж0))-

Переходя к пределу при а 4, 0 получаем

кз/'(хо)Н = 7Гз/1(х0)Н V 7г3/2(жо)Л. = а17Гз/{(ж0)/1 + а27г3/2(ж0)/1

ДЛЯ некоторых положительных ортоморфизмов «1 И СК2, «1 + СК2 = 1е Пологая 7г : = 7Гг + 7г3аг (г = 1,2), замечаем, что (71,72) Е Г2(жо) и приходим к следующим оценкам:

/'(ж0)Л. ^ ТГ1/[(хо)Ь + 7Г2/2(жо)Л. + 0:17Гз/{ (жо)Л. + а27Г3/2(ж0)/1

= (ТГ1 + ж3а1)/{{ха)Н + {ж2 + ж3а2)/2{ха)Ь = л/{{ха)Н + ^/2{ха)к.

^ V (АЛ^о^ + А/г^о)^-

Обратное неравенство доказано. Как видно, супремум в правой части достигается на паре (71,72) Е Г2(жо), т. е. полученная формула является точной.

Предположим теперь, что утверждение теоремы справедливо при п = к, т. е.

(/1 V • • • V /кУ{ха)Ь = V {Е

(а1,...,ак)еГк(хо) г=1

Положим д = /1 V • • • V Д. Пользуясь индукционным предположением и уже установлен-

ным равенством для п = 2, выводим: /(ж) = /1 V    V Д V Д+Дж), тогда

/'(жо)/1 = у |а(Л V • • • V /к)'{хо)Ь, + /32Д+1(жо)/Л

(АЛ)ег2(ЗД;9,Л+1) 1 -1

V V (Е^о)л)+^+1(хо)л}

(АЛ)ег2(зд;»,Л+1) 1 (аь...,а*)е гк(а0;/1,.-,Л) *=1 ^

V V {/31(Е«гЛ(-о)/1)+/32Л+1(хо)4

(АЛ)ег2(зд;9,Л+1)(«1,..,ал)егл(зд;/1,..,Л) 1 <=1 -1

V V {5^ /31«г//(а?о)Л + /32/|,+1(жо)л\

(^1Л)еГ2(ж0;д,/л+1) (аь-",ал)еГл(жо;/ь...,Л) *=1

V 1 ^2ъй(хо)Ь к

(7Ь-,7Л+1)еГл+1(зд;/1,..,Л+1) 1 <=1 -1

что и требовалось доказать. >

4.2. Пусть отображения : X —> дифференцируемы по направлениям в

точке хо. Тогда отображение д:= /1 А • • • А /и также дифференцируемо по направлениям в точке хо и имеет место формула

д'(хо)Ь= Д

(\ г- ,\ *>• І — Л '

Є Ап(х0) г=1

ще

Д„(ж0):= Ап(хо; Д,..., /и) := |(аь ..., ап) : ак Є ОгШ+(£),

П П

^ак = 1Е, ^2 ак!к{х о) = д(х0) к=1 к=1

<1 Воспользуемся формулой д = Д А  •  А /п = —((—/і) V - - - V (—/п))- Применив теорему 4.1 и правило умножения на —1 (см. 2.3), получим требуемое. >

4.3. Теорема. Пусть отображения /і,...,/т : X —> квазидифференцируемы в точке хо Є соге(іот(/). Положим / := /і V • • • V /„ и д := /і А • • • А /„. Тоща отображения /ид квазидифференцируемы в точке жо и для квазидифференциалов Т>/(хо) = [<9/(жо), <9/(жо)] иТ>д(хо) = [<9д(жо), %(жо)] имеют место представления

<№о) = и (^2ак{^к^ +

(аі,...,а„) ЄГп(ж0) /с=1

п п

<9/(ж0) = ^2~д/к{ха), дд{хо) = ^2д/к{ха),

к=1 &=1

/ п

%(ж0) = и (^2ак{д?к(х^ +

(аь...,ап) Є Ап(х0) к=1 2=^/г

<1 Ограничимся случаем отображения /, отображение д рассматривается аналогично. Из предложения 4.1 следует дифференцируемость по направлениям / в точке жо, причем

/'(жо)Л= \/ }•

е Гп(х0) V г=1 ^

В силу квазидифференцируемости Д имеют место представления /г'(жо)/1 = р^Ь) — я№) (г = 1,... ,п), где Рг;9г — сублинейные операторы. Таким образом, справедливы равенства

/'Ы)к = У | - д^к)) 1

£Гп

{п \ п п

Е«гЫ^) -%(Л)) >

г=1 J г=1 г=1

{?г ^ ?г

X] («да(^) - ат{к) + 9г(^)) ? - X] ^ ^

*=1 ' *=1

{?г ^ п

£

г=1 ) г=1

{?г ^ ?г

£ «*(р*(Л) + £^(Л)) Г_Е(Л)-

г=1 ; г=1

Обозначим через

^ ?г ч ?г

р(Л) = у | £а*(р*(Л) + Е^(Л)) }> £(&) = £?*(&)•

£ Г„(зд) 1 *=1 ^ *=1

Очевидно, что Р и <3 сублинейные операторы и <9/(жо) = дР, а <9/(жо) = <9(3. Таким

образом, осталось вычислить субдифференциалы дР и <9(2:

9Р = 9( V {£°Ф + £^)}

\(аь.£ Г„(ж0) *=1

и (£«*(^ + £%) />

(аь...,ап) е Гп(ж0) г=1 / п \ п

дЯ = д( £<?г) X! д(';-

' г=1 ' г=1

Полученные соотношения совпадают с требуемыми с точностью до обозначений. >

4.4. Сформулируем теорему 4.3 в скалярном случае Е = Ж (см. [4]). Его принципиальное отличие состоит в том, что точные границы достигаются, т. е. существует некоторое количество индексов к Е {1,... , п}, для которых /(жо) = Д(жо) и д(хо) = Д(жо). В этой связи множества Г„(жо) и Дп(жо), а с ними и формула для вычисления квазидифференциалов несколько упрощаются. Сформулируем соответствующий результат.

Теорема. Пусть функции Д,..., /п : X —» Ж' квазидифференцируемы в точке жо Е П£=1 согеёот (Д). Положим / := Д V • • • V Д и д := Д А • • • А Д. Тоща функции /ид

квазидифференцируемы в точке жо и их квазидифференциалы могут быть вычислены по формулам

9/(ж0) = со У (<Щж0) + £ д/»(о)),

кеЩх о) геЩхо ),гфк

д/(хо) = £ д/»(ж0), дд(хо) = £ Щ/»(ж0),

геЩхо) ге<5

%(ж0) = со У (д/*,(ж0) + £ 9/»(о)),

кеЯ(хо) {£(}(хо)4фк

где Д(ж0):= {А: 6 {1,... ,п} : /(ж0) = Д(ж0)} и <Э(ж0):= {А: 6 {1,... ,п} : д(ж0) = Д(ж0)}.

<1 В рассматриваемом случае множество Гп(жо) перепишем в виде

, П П N

Ги(ж0) = < («1,..., ап) Е Ж” : од > 0, £ од = 1, £ай(/(ж0) - /кЫ)) = 0 I.

к=1 к=1

Равенство ^2к=1ак(1(хо) — /к(хо)) = 0 влечет од(/(жо) — Д(жо)) = 0 для всех к, так как /(жо) ^ /к(хо) И1 стало быть, сумма состоит из неотрицательных слагаемых. Таким образом, число од отлично от нуля лишь только в том случае, когда соответствующий номер к входит Д(жо), поэтому в формулах из 4.3 объединение и суммирование следует производить по номерам из Д(жо). Аналогично, вид множества Ди(жо) приводит к суммированию и объединению по множеству номеров <2(х0). >

Литература

1. Демьянов В. Ф., Полякова Л. Н., Рубинов А. М. Об одном обобщении понятия субдифференциала // В кн.: Тез. всес. конф. по динамическому управлению. Свердловск.—1979.—С. 79-84.

2. Демьянов В. Ф., Рубинов А. М. О квазидифференцируемых функционалах // Докл. АН СССР.— 1980.-Т. 250, № 1.-С. 21-25.

3. Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация.—М.: Наука.—1981.—384 с.

4. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление.—М.: Наука.—1990.—432 с.

5. Quasidifferentiability and Related Topics / edited by Dem’yanov V. F., Rubinov A. М.—Dordrecht: Kluwer Academic Puplishers, 2000.—400 p.

6. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения.—Новосибирск: Наука, 1992.—270 с.

7. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. I.—Новосибирск: Изд-во ИМ СО РАН, 2002.—viii+372 с.

8. Кусраев А. Г. Мажорируемые операторы.—Москва: Наука, 2003.—619 с.

Статья поступила 7 сентября 2003 г.

Басаева Елена Казбековна

г. Владикавказ, Институт прикладной математики и информатики ВНЦ РАН E-mail: helenOalanianet. ru