О квазидифференциале композиции

Владикавказский математический журнал Октябрь-декабрь, 2003, Том 5, Выпуск 4

УДК 517.98

О КВАЗИДИФФЕРЕНЦИАЛЕ КОМПОЗИЦИИ

Е. К. Басаева, А. Г. Кусраев

Устанавливается, что композиция квазидиффереицируемых отображений квазидифференцируема и выводится явная формула для вычисления квазидифференциала композиции. Используя технику дезинтегрирования, устанавлено, что в специальных случаях выполняется аналог классического «цепного правила» — квазидифференциал суперпозиции равняется суперпозиции квазидифференциалов. Получены следствия для вычисления квазидифференциалов супремума, инфимума и интегрального оператора.

Отображение называют квазидифференцируемым во внутренней точке области определения, если в этой точке существует производная по направлениям, которая представляет собой разность двух сублинейных операторов. Квазидифференцируемые функции и операторы введены в работах [2, 3]. Квазидифференциальное исчисление, построенное в работах Л. В. Васильева, В. Ф. Демьянова, Л. И. Поляковой, А. М. Рубинова [1-5] и др. авторов, достаточно хорошо разработано для скалярных функций. В [5] показано как методы квазидифференциального исчисления могут быть применены к отображениям, действующим в банаховы ^-пространства. В [6] введено понятие квазидифференциала отображения со значениями в произвольном ^-пространстве и получены новые формулы для вычисления квазидифференциала произведения, супремума и инфимума.

Настоящая работа посвящена вычислению квазидифференциала композиции операторов, действующих в ^-пространства. Устанавливается, что композиция квазидиффереицируемых отображений квазидифференцируема и выводится явная формула для вычисления квазидифференциала композиции. Используя технику дезинтегрирования, устанавлено, что в специальных случаях выполняется аналог классического «цепного правила» — квазидифференциал суперпозиции равняется суперпозиции квазидифференциалов. Получены следствия для вычисления квазидифференциалов супремума, инфимума и интегрального оператора.

В статье использованы обозначения и терминология из [6-8].

Пусть Е — векторная решетка, а Е — произвольное ^-пространство. Сублинейный оператор ¡> : —г /•' назовем мажорируемым, если существует линейный положительный оператор Л : Е —Е такой, что \р(х)\ Л(|ж|) для всех х £ Е. При этом Л именуют мажорантой оператора р. Множество операторов Ы С Ь~(Е,Е) назовем равномерно мажорируемым (с равномерной мажорантой Л), если \Тх\ ^ Л(|ж|) для всех х & Е и Т б Ы. Для х £ Е+ обозначим

1. Предварительные сведения

© 2003 Басаева Е. К., Кусраев А. Г.

1.1. Для произвольного сублинейного оператора р : Е —F равносильны следующие утверждения:

(1) оператор р мажорируем;

(2) существуют такие операторы Л |. :\-> £ L~(E,F), что Лх(е) ^ ^р(^е) sí р(е) sí Лг(е) для всех е £ Е+;

(3) опорное множество др порядково ограничено в К-пространстве

L~(E,F);

(4) опорное множество др равномерно мажорируемо;

(5) для любого х £ Е+ множество С(х,р) порядково ограничено в Е.

<1 (1) —У (2): Если Л — мажоранта оператора р, то р удовлетворяет условию (2) с операторами Ai ;= ^Л и Л2 := Л.

(2) —У (3): Если выполнено (2), то др содержится в порядковом отрезке [Лх, Л2].

(3) —(4): Если выполнено (3), то оператор Л := sup{|T| : Т £ др}, где супремум вычисляется в L~(E,F), будет равномерной мажорантой множества др.

(4) —У (5): Пусть Л £ L+(E,F) — равномерная мажоранта множества др. Возьмем такие элементы х £ Е+, жх,..., хп £ Е, что |жх| + • • • + \xn\ sí х. Привлекая теорему Хана — Банаха — Канторовича, для каждого хк подберем оператор Тк £ др так, чтобы TkXk = p(xk) (см. [7; 1.4.14(1)]). Тогда справедливы соотношения

П П 11

^p(xk) Y1 ^ £Л(1*1) ^

k=\ k=\ k=\

что и доказывает порядковую ограниченность множества С(х,р).

(5) —(1): Для каждого х £ Е+ положим А(х) := supС(х,р). Покажем, что Л — аддитивныи оператор из Е+ в F. В самом деле, пусть х = у + z, где у, z £ Е+. Возьмем

такие ух,   , Уп € Е и zi,..., zm £ Е, что |ух| Н-----I- \yn\ ^ у и \zi\ Н-----b \zm\ sg z. Тогда

М Н-----Ь \yn\ + \zi\ Н-----Ь \zrn\ х,

n m

k=1 1=1

Переход к супремуму в этом соотношении по указанным ук и z¡ дает Л(у) + A(z) Л (ж).

Рассмотрим теперь произвольные элементы xi,...,xn £ Е, для которых |жх| + • • • + \xn\ sí х = у + z. В силу леммы о двойном разбиении существуют такие ух,... ,уп £ Е

и zi,...,zn £ Е, что |ух| Н----+ \yn\ ^ У, Ы Н-----b \zn\ ^ z ш хк = ук + zk для всех

к = 1,... ,п. Учитывая определение Л, можем написать

ti ti ti -а

= J2p(yk+^ + ^ +

к=1 к=1 к=1 к=1

Тем самым Ах sí Лу + Az. Очевидно, что оператор Л также и положительно однороден, т. е. А(Хх) = ХА(х) при х £ Е+ и А £ Ж+. Таким образом, существует положительный оператор из Е в F, совпадающий с Л на конусе

Е+, который обозначим той же буквой Л. Из определения Л видно, что р(х) sí Л(|ж|) для произвольного х £ Е. При замене х на —х получим р(^х) sí Л(|ж|), поэтому, \р(х)\ sí р(х) Vр(^х) sí Л(|ж|) (ж £ Е). >

1.2. Покажем теперь, что при некоторых условиях композиция квазилинейных операторов будет квазилинейной. В случае банаховых пространств это утверждение доказано в [5], см. также [4; Прил. 3].

Пусть X — векторное пространство, Е — векторная решетка, а ^ - К-прост-ранство. Рассмотрим сублинейные операторы Р, <Э € БЬЦХ, Е) и р, д £ БЫ(Е, Е), причем предположим, что р и д мажорируемы. Тогда оператор II = (р — д) о (Р — представим в виде разности двух сублинейных операторов.

<1 Рассмотрим сублинейный оператор Рх(^:Х^-ЕхЕ и линейный оператор 7г : Е х Е —Е, определенные формулами

(Р х а)(х) = (Р(х), <Э(х)У, тг(еь е2) = ех- е2.

Декартовы произведения Е х Е и Р х Р рассматриваются, как обычно, с покоординатными операциями и порядком. Как видно, имеет место представление II = ртг(Р х ^ дп(Р х

Это соотношение не дает нам требуемого представления в виде разности сублинейных операторов, так как р-к и д-к не являются возрастающими операторами. Следовательно, нужно последние заменить на возрастающие операторы р и д так, чтобы сохранить представление /? = р(Р х — с[(Р х (5). Сначала заметим, что сублинейный оператор г из предупорядоченного векторного пространства Ив Р будет возрастающим в том и только в том случае, если г (г) ^ 0 при с 0. В самом деле, последнее условие, очевидно, необходимо. Если же оно выполнено, то всякий оператор Т £ дг положителен, так как ^Тг < р(-г) < 0 для г £ см. [7; 2.1.1 (2)].

Пусть теперь регулярные операторы Л |. Л2 £ Ь~(Е,Е) таковы, что для каждого из операторов р ид выполнено условие 1.1 (2). Тогда для ех, е2 £ Е+ выполнены неравенства

р(е2 - ех) ^ р(е2) +р(^ех) ^ Л2(е2) - Лх(ех), д(в2 - ех) ^ д(е2) + д(^ех) ^ Л2(е2) - Лх(ех).

Эти неравенства можно переписать в виде

р7г(^(ех,е2)) - Л(-(ех,е2)) ^ 0, д7г(^(ех, е2)) - Л(-(ех,е2)) ^ 0,

где оператор Л : х /•,' —г /•' определяется формулой Л(ах, а2) := Лх(ах) — Л2(а2) (ах, а2 £ Е). Последние соотношения показывают, что сублинейные операторы р = рп — А и д = дтт^А возрастающие. Кроме того, очевидным образом выполняется равенство К = р(Р х Я)^д(РхЯ). >

2. Дифференцируемость по Адамару

2.1. Пусть Е ш F — некоторые if-пространства. Рассмотрим отображение д : Е —F', дифференцируемое по направлениям в точке ео £ core (dorn д). Возьмем направление и £ Е и элемент d £ F. Предположим, что для любой последовательности (еп) С Е, е„ 4- 0 имеет место соотношение

inf sup

meN0<a<l/ro, |и'-и|^е„

д

a

= 0.

Тогда <1 называют производной Адам,ара д в точке ео по направлению и и обозначают д'(ео)и:= (I. Такое обозначение оправдано тем очевидным наблюдением, что если существует производная Адамара, то существует и производная Дини (в той же точке по

тому же направлению) и их значения совпадают. Таким образом, производную Адамара g в точке во по направлению и можно определить формулами

, g(e0 + да/) - д(е0) . д(е0 + да/) - д(е0) д (ео)и:= mi sup - = sup mi -.

meN0<a<l/ro, a roe N0<«<1/™, «

Если производная Адамара g'(eo)u существует для каждого направления и G Е, то говорят, что отображение д дифференцируемо по Адам,ару в точке ео-

Определение производной Адамара упрощается, если F — регулярное if-прост-ранство. Напомним, что if-пространство F называют регулярным,, если для любой последовательности вложенных подмножеств F D А\ D ... D Ап D ... таких, что а = inf„ sup(^4„), существуют конечные подмножества А'п С Ап, для которых o-lim^^oo sup(^) = а. Можно показать, что if-пространство F будет регулярным, если оно удовлетворяет двум требованиям: 1) F имеет счетный тип, т. е. любое подмножество, состоящее из попарно дизъюнктных множеств, не более чем счетно; 2) в F выполняется принцип диагонали, т. е. для любой двойной последовательности (еп С F, имеющей пределы еп:= o-lim^oo еп^ (п G N) и е:= o-lim^^oo еп, существует строго возрастающая последовательность натуральных чисел (кп) такая, что е = о-Нпц^оо еп,кп  (подробности см., например, в [8]).

2.2. Пусть F — регулярное К-пространство. Элемент d G F будет производной Адамара отображения g : Е —F' в точке ео G core (doing) по направлению u G Е в том н только в том случае, если для любых последовательностей (an) С Ж и (un) С Е таких,

i п (01

что an 4- и и un —> и имеет место соотношение

g(e0 + anun) - д(е0) д(е0 + anun) - д(е0) a = o-Iim-= mi sup-

?woo an m&n^rn Otn

. , g(e0 + anun) - g(e0) = sup mi -.

теип^га a„

<1 Необходимость очевидна и верна даже без предположения о регулярности F. Докажем достаточность. Предположим, что для d выполняется указанное в формулировке условие. Возьмем последовательность (еп) С

и обозначим

cm:= sup

0<a<l/ro, |и'—и|^еп

д(е0 + да/) - д(е0) _

a

Нужно доказать, что с := т£то ст = 0. В силу регулярности Р для каждого т £ N существуют конечные подмножества {атод,..., ато,2(го)} С (0,1/ш) и {итд,..., «то,г(то)} С [и — ет, и + ет] такие, что

Cjyi  — sup

О £М1

д(ео + am,lUm,l) - д(ео) _ d

дс

Построим новую последовательность (ип) С Е, занумеровав подряд сначала группу {«1,ъ   ,«1,2(1)}, затем {«2,1,..., «2,2(2)} и т. д. Точнее, полагаем ип := итпри п = 1(т — 1) + к, где т £ М, 1 ^ к ^ 1(т) и 1(0) := 0. Очевидно, что последовательность (ип) о-сходится к и. Проделав то же самое с последовательностью конечных множеств ({скгоД,   , о;го,г(го)})гоеМ, получим сходящуюся к нулю числовую последовательность (ап). Если при этом (ап) не является убывающей, то заменим ап на вирк>пак-

Итак, ап 4- 0 и и%

и, поэтому в соответствии с нашим предположением д

О = o-lim

и—>0о

d

Otr,

= o-lim с' = с. >

2.3. В рассматриваемой ситуации дифференцируемость по Адамару отображения д не гарантирует непрерывности производной по направлениям д'(ео)(-) в отличие от случая, когда Е = Шп и F = Ж [4]. Рассмотрим два случая, когда дифференцируемое по Адамару отображение имеет производную по направлениям, непрерывную в следующем смысле. Отображение (р : Е —F назовем mo-непрерывным в точке щ G Е, если для любой последовательности (еп) С Е, еп 4- 0 выполняется

inf sup \<р(и) — 9?(uo)| = 0.

Из соображений, сходных с 2.2 можно получить, что если F — регулярное if-прост-ранство, то то-непрерывность означает секвенциальную о-непрерывность. Напомним, что множество U С Е называют нормальным, если для любых ui,v,2 G U, е G Е из Щ ^ е ^ U2 следует е G U.

Пусть отображение д : Е —F' дифференцируемо по Дини в точке ео G core (domg). Предположим, что существуют нормальное множество U С Е и mo-непрерывный сублинейный оператор р : Е —F такие, что ео G core (U) и

\g(ui) - g(u2)\ р(щ - и2) (щ,и2 G U).

Тогда g дифференцируемо по Адамару в точке ео и производная по направлениям д'(ео)(-) mo-непрерывна.

<1 Возьмем направление u G Е, последовательности (an) С Ж и (еп) С Е, для которых an 4- 0 и еп 4- 0. Легко видеть справедливость соотношений

sup

д

a

si sup 0<а<1/га

д

a

g'(eQ)u

+ sup

g'

a

si sup 0<a<l/ra

g

a

g(eQ)u

+ sup p

\u'-u\<en

0,

из которых видна дифференцируемость по Адамару отображения g в точке ео по направлению и.

По условию ео G core(î7), стало быть, существует число ео > 0 такое, что ео + е(и ± ei) G U для всех 0 < е < ео- Если |и' — и\ ^ еп, то с учетом нормальности U для тех же е можем написать ео + eu' G ео + е[и — еп, и + еп] С ео + [е(и — е\),е(и + ei)] С U. Итак, если О < a < 1/m < ео и \и' — и\ ^ еп, то ео + au' G ( ' и справедливы оценки, показывающие то-непрерывность д'(ео):

\д'(е0)и' - д!(е0)и\ sup

0<a<l/ro

g

a

a

^ p

2.4. Пусть К-пространство F регулярно. Если отображение g : Е —F' дифференцируемо по Адамару в точке ео € core (domg), то производная по направлениям д'(ео)(-) секвенциально о-непрерывна.

<\ Воспользуемся установленным в 2.2 вариантом дифференцируемости по Адамару в случае регулярного К-пространства F. Возьмем последовательности (an) С Ж и (un) С

К

Е, для которых an 4- 0 и щ,

dk,n-= sup m>n

u. Положим g

По определению производной по направлениям о-Нт^-юо (1кп = 0 для каждого фиксированного к £ N. В силу предположения о регулярности Р существует строго возрастающая последовательность натуральных чисел (пк) такая, что о-Нт^оо (1к,Пк = 0. Отсюда выводим

\д'(ео)щ ^д!(ео)и\

д

а.

д'(ео)щ

Пк

+

д

а.

g'(eQ)u

Пк

. (о) dk,nk + wk -> 0

где wk := supTOj,fc {g(eo + anmum) — g(eo)) —g'(eo)u\ 0 по определению производной Адамара. >

3. Квазидифференциал композиции

Квазидифференцируемость композиции (теоремы 3.1 и 3.2) отображений действующих из банахова пространства в банахово К-пространство установлена в работе В. Ф. Демьянова и А. М. Рубинова [5]. Ниже этот результат обобщен на отображения действующие в произвольные if-пространства.

Квазидифференцируемость супремума и инфимума получена как следствие теоремы о композиции, независимое доказательство этого факта имеется в [6]. Скалярный вариант теоремы 3.5 имеется, например, в [3, 4].

3.1. Теорема. Пусть X — векторное пространство, E,F — К-пространства. Пусть отображение / : X —Е' дифференцируемо по направлениям в точке xq G core (dom/), а отображение g : E —F' дифференцируемо по Адамару в точке f(xо) G core (dorng), причем g'(f(x o))(-) — то-непрерывное отображение. Тогда отображение go f дифференцируемо по направлениям в точке xq и

(д ° /)'( о) = g'{f{x о)) о fix о).

<1 Возьмем произвольное направление h G X и для a > 0 обозначим

v(a, h) := a^1 (f(x0 + ah) - f(x0) - af'(x0)h), w(a, u) := a'1 (g(f(x0) + au) - g(f(x0)) - ag'(f(x0))u).

Так как отображение / дифференцируемо по направлениям в точке хо, то olimQ|o v(a, h) = 0 и, значит, u(a, h) := f'(xo)h + v(a, h) f'(xo)h при a J, 0. Последнее

означает, что еп := sup0<Q<1/n \u(a,h) — f'(xo)h\ 4- 0. Используя введенные обозначения можем написать

= g(f(x o) + au(a, h)) = g(f(x o)) + ag'(f(xo))u(a, h) + aw (a, u(a, h)).

Учитывая только что установленное соотношение, mo-пепрерывпость д'(ео)(-) и определение дифференцируемости по Адамару, выводим

(g°f)(xo + ah) - (gof)(x0) _ ^(/Ы)(№о)Л) a

sup (\g'(f(x0))u(a,h) - g'(f(xo))(f'(xo)h)\ + \w(a,u(a,h))\j

0<a<l/n 4 '

sup \g'(f(x0))u - g'(f(x0))(f'(x0)h)\ + sup \w{a, u)\ ^K 0.

\u—f'(xo)h\^.e„ Q<a<l/n,

\u-f (xo)h\^.en

Отсюда следует существование производной (д о f)(xo)(h) и справедливость равенства (gof)(xo)(h)=g'(f(xo))(f'(xo)(h)).>

3.2. Теорема. Пусть X — векторное пространство, Е и F — К-пространства. Пусть отображение / : X —Е' квазидифференцируемо в точке xq G core (dom/), а отображение g \ E -ь F' квазидифференцируемо и одновременно дифференцируемо по Адамару в точке ео := f(xо) G core (dorng), причем производная g'(eо)(-) mo-непрерывна. Предположим, сверх того, что квазидифференциал Vg(eо) определяется парой поряд-ково ограниченных в L~(E,F) опорных множеств dg(eo) и dg(eо). Тогда отображение g о / квазидифференцируемо в точке xq. Если dg(eo) U dg(eо) С [Лх,Л2] для некоторых Л |. Л 2 G L~(E,F), то квазидифференциал V(g о f)(xo) = [d(g ° f)(xo)i d(gof)(xo)] может быть вычислен по следующим формулам:

d(gof)(x0)= (J д(Рс), d(gof)(XQ)= (J д(Рс),

Седд

где

Рс(хо) = (С — Лх) sup S(xq) + (Л2 — С) sup T(xq).

Sedf

<1 Согласно 1.2 и теореме 3.1 отображение g о / квазидифференцируемо в точке xq и справедливо равенство

(д ° /)'(о) = g(f(xo)) 0 /'(о) = (Р - 9) ° (Р ~ Q),

где операторы Р, Q G Sbl(X, Е) и р, q G Sbl(i2, Р) удовлетворяют соотношениям

dp = dg(e 0), dq = dg(e0), dP = df(x0), dQ = df(x0),

а операторы pig можно выбрать еще и мажорируемыми. Так же, как и в 1.2, положим Л:= (Лх,^Л2) (Л : (ах, аг) И- Лх(ах) ^Л2(а2)), р= - Л, g:= g7r - Л, 7r(el5e2) = ех ^е2. В соответствии с 1.2 (д о /)'(жо) = р(Р х Q) — q(P х Q), следовательно, д(д о f)(x0) = <9рх и 9(3 о /)(жо) = <3дх) где рх := р(Р х Q) и gx := q(P х Q)- Здесь как и в 1.2 (Р х

sup 0<а<1/га

Q)

dpi = U d(S(PxQ)).

Seöp

Применим теперь формулу [7; 1.4.14(4)]:

Эр = д(ртт - Л) = {(С о 7Г - Л) : Се др}. Таким образом, справедливо представление

dpi= IJ d((C^A1)P + (A2^C)Q). седр

Аналогично устанавливается представление

dqi= IJ ö((C-Ai)P+(A2-C)Q).

Cedq

Остается обозначить

Рс

3.3. Пусть отображения fi,...,fn:X^E' дифференцируемы по направлениям в точке xq. Тогда отображение / := Д V • • • V fn также дифференцируемо по направлениям в точке xq и имеет место формула

f'(x0)h= V {¿а<//(яо)л|,

где

Г„(х0):=Г n(x0;f i,...,f„):= |(аь ..., а„) : ak G Orth+(E),

11 n

/_^ak = IE, 2_^akfk

k=1 k=1

<1 Конечнопорожденный канонический сублинейный оператор en : Еп —E, очевидно, mo-непрерывен и удовлетворяет неравенству

|en(u) -en(u')l р(и - и') {щи1 G Еп),

где р(и) := еп\и\ (см. [7; 2.1.1]). В соответствии с 2.3 еп дифференцируем по Адамару в любой точке, а его производная по направлениям mo-непрерывна. Для х G X положим <р(х) := (fi(x),..., fn(x)), считая <р(х) = +оо, если fk(x) = +00 хотябы для одного к. Ясно, что полученное отображение (р : X —(Е11)' дифференцируемо по направлениям в точке xq и <p!(xo)h = (f[(xo)h,..., fn(xo)h) для всех h G X. Таким образом, к композиции еп о (р применима теорема 3.1. Так как / = еп о то получим формулу

f'(xo)h = е'п((р(х0)) о (p'(x0)h (h (Е X).

Остается заметить, что д(е'п((р(хо)) = Г„(жо), следовательно,

п

£!п((Р(%о))и= V ni'Ji'- (u = (ei,...,en) £Еп). >

(ai,...,a„) е Гп(х0) k=1

3.4. Пусть отображения fi,...,fn:X^E' дифференцируемы по направлениям в точке xq. Тогда отображение д:= Д Л • • • Л fn также дифференцируемо по направлениям в точке xq и имеет место формула

g/(x0)h= Д < f '

(аь...,ап) еAn(x0) U=i J

где

An(x0):= An(x0;fi,...,f„):= I(ai,...,: ak G Orth+(E),

n 11

X] n>' akfk{xo) = g

k=1 k=1

<1 Доказательство проводится так же, как и в 3.3, но с той разницей, что формула дифференцирования по направлениям из 3.1 применяется к композиции фо(р, где ф(и) := =eiA---A en(u = (eb...,e„) G En). >

3.5. Теорема. Пусть отображения fi,...,fm X ~~E' квазидифференцируемы в точке xq G core (do m/). Положим / := Д V • • • V fn и g := Д A ••• A fn. Тогда отображения f ид квазидифференцируемы в точке xq и для квазидифференциалов Vf{xо) = \df(x0),df(x0)]HVg(xо) = \dg(x0),dg(x0)] имеют место представления

а -а

(ai,...,a„) е Гп(х0) k=l 1фк к=1

и 11

дд

fc=l («1 ,...,atn) Е An(xo) к=1 1фк

<\ Ограничимся доказательством для отображения /; отображение g рассматривается аналогично. Из предложения 3.3 следует дифференцируемость по направлениям отображения / в точке хо, причем

f(xo)h= V |^>глы4 (hex).

В силу квазидифференцируемости отображений Д в точке xq имеют место представления fk(xo)h = Pk(h) — qk(h) (к = 1,..., n; h G X), где рк, qk — сублинейные операторы. Введем следующие обозначения:

а

Q(h):=J2<lk(h), P!k(h):=pk(h)+J2qi(h), P(h):= (p'^h),... ,p'n(h)) € ET (h £ X).

k=1 1фк

Как видно, Р : X —Еп и : X —Е — сублинейные операторы. Учитывая введенные обозначения, напишем следующую цепочку равенств:

/'(ж0)/г = вир < ^«¿(^(/г) - Яг(Ь)) >

{п Л п

- qi{h)) > + - Я{Н)

г=1 J г=1

= вир < ^ (ада(Л) - «¿^¿(/г) + > -

п

SUP {

И

= sup ^mp'iih) - Q{h) = £'n{ip{x0)) О p(h) - Q{h),

где 9?(жо) := (fi(xo),..., fn(x о)). Итак, /'(ж о) = £^(9р(жо)) следовательно, отоб-

ражение / квазидифференцируемо в точке жо, причем df(xo) = 9(е^(9з(жо)) о Р^ и

df(x0) = <9Q- Остается вычислить соответствующие субдифференциалы д(^£!п(<р(хо))оР и <9Q, что несложно сделать привлекая формулы 2.1.6(3) и 1.4.12(1) из [7]:

п

д(е!п(ф0))о р) = (J д(АоР)= (J +

Аее'п(</>(ж0)) («!,...,«„) е Г„(ж0) г=1 J^i

и и

9Q = d^qi =

¿=1 ¿=1

Полученные соотношения совпадают с требуемыми с точностью до обозначений. >

4. Дезинтегрирование квазидифференциалов

В текущем параграфе техника дезинтегрирования применяется к квазидифференциалам. Устанавливается, что в специальных случаях выполняется аналог классического «цепного правила» исчисления — квазидифференциал суперпозиции равняется суперпозиции квазидифференциалов.

4.1. Теорема. Пусть выполнены условия теоремы 3.2 и, сверх того, общая нижняя граница Лх и общая верхняя граница А-> множеств дд(ео) и дд(ео) входят в полосу, порожденную оператором Магарам. Тогда квазидифференциал Т><р(xq) = \d<p(xo),d<p(xo)] может быть вычислен по формулам

d(g о f)(xо) = (dg(x0) о я- - Л) о (5/(ж0) х df(ж0)),

d(g о /)(ж0) = (dg(xo) 0 тг - Л) о (df(ж0) х df(ж0)).

<1 В 3.2 было установлено представление (g°f)'( жо) = ро(Р х Q) ^qo(P xQ). Отсюда видно, что если р и q — сублинейные операторы Магарам, то в силу теоремы 4.5.2 из [7] имеют место формулы

9(9 ° /)Ы = О d(p xg)- О 3(р х Q) = о (5Р х 5Q) - dqo (ЭР х 8Q).

Вспомним, что р = р о7г — Лид:=до7г — Л, где Л((ах, а2)) = Лх(ах) — Л2 (а2) и 7г(ех, е2) = ех — е2. Поэтому, учитывая линейность 7г : Е2 —Е и Л : Р2 привлекая формулу

[7; 1.4.14 (4)], получим др = (<9р) о тг - Л и <9д = (<9д) о 7г — Л. Тем самым, приходим к соотношениям

д(д ° /)Ы = (Зр о 7Г - Л) О (ар X аг), % о /)(Жо) = (дд о ж - Л) о (5Р х 5Т),

эквивалентным требуемым. Итак, остается показать, что р — оператор Магарам, так как магарамовость оператора д устанавливается точно так же. Но согласно теореме [7; 4.4.7] нужно лишь показать, что опорное множество др состоит из операторов Магарам.

В силу наших предположений ¿>о := |Лх| + |Л2| — оператор Магарам. Так как др С [—5о, 50], то в силу теоремы [7; 4.4.7] р — также оператор Магарам. Рассмотрим оператор Р = Рп — (Лх, — А2)• Так как Лх и Л2 операторы Магарам, то Р — сублинейный оператор Магарам.

Субдифференциал др в более подробной записи имеет вид

др = {Т:= (Тх,Т2) б Ь+(Е х Е Е) : Г = 5 о тг - (Ль-Л2), 5 € Зр},

причем Т(ех,е2) = Т(е\) + Т(е2). Отсюда видно, что Т\ = Б — Лх и Т2 = Л2 — Б. Таким образом,

и, следовательно, Т\ и Т2 — операторы Магарам.

Возьмем теперь элементы (I £ Р и ех,е2 £ Е+ такие, что 0 ^ (I ^ Т(ех,е2) = Т\е\ + Т2е2. Тогда й = + й2 для некоторых 0 ^ с^ ^ Т^ (I = 1, 2). Так как Тг — операторы Магарам, то существуют е\ £ Е такие, что = с^ и, следовательно, Т(е'1,е'2) = 6. >

4.2. Для дальнейшего необходимо придать смысл выражениям вида РД(жо) в том случае, если (Д) — бесконечное семейство квазпдпфференцпруемых в точке жо отображений. Воспользуемся тем, что оператор суммирования является оператором Магарам на ^-пространстве 100(А,Е) (см. [7; 4.4.2(3)]). Пусть, как обычно, X — векторное пространства, а Е и Р — некоторые ^-пространства.

(1) Возьмем такой регулярный оператор Т : Е —Р, что 5:= |Т| — оператор Магарам. Обозначим символом А$ /-алгебру где Рт:= Т(Р)<г'г. Тогда [СБс(Х,Р)]

ж [СБс(Х, Р)] можно снабдить структурой решеточпо упорядоченного А^-модуля. Более того, существует единственное Ао-линейное регулярное отображение [кт\ : [СБс(Х, Р)] — [СБС(Х,Р)], для которого М([^5{0}]) = при всех Ые СБС(Х,Р).

<1 Пусть сначала оператор Магарам Т = Б положителен. Для опорного множества 1Л € СБс(Х,Р), 1Л = <9р, множество Т оЫ := {Б о11 : II £ 14} также будет опорным, поскольку в о и = Б о др = д(Б о р) в силу [7; теорема 4.5.2]. Тем самым возникает отображение Н\= Л5 : СБс(Х,Е) —СБс(Х, Р), действующее по правилу Из(и) = 5 оИ. Несомненно, что это отображение аддитивно. Кроме того, оно будет и А^-однородно, где А0 := И(Рйг). В самом деле, согласно [7; 4.4.3(2,3)] существует кольцевой и решеточный изоморфизм Ы из /-алгебры Z(Fs) на правильную подрешетку и подкольцо в Z(Es) такой, что 7г о Б = Б о Н(ж) для всех а € Z(Fs) Таким образом оператор Б будет Ло-линейным, если рассматривать Е и Р с естественной структурой Ло-мплуля. Так как .Ао С А := ОгШ(Р), то А-коническая решетка СБС(Х, Р) будет также и Ло-конической решеткой. В то же время, структуру Ло-конической решетки в СБС(Х,Е) можно определить, полагая аЫ'.= Н'(а)Ы для всех ж £ И(Рйг). При этом /15 станет Ло-полулинейным отображением.

Можно построить Ло-модуль [С8с(Х, Е)]а0 и ОгШ(1?)-модуль [С8с(Х, Е)] так, что эти два модуля будут совпадать по запасу элементов, а модульные структуры согласованы, т. е. умножение на элементы Ао индуцируется умножением на элементы ОгШ(1?) (см. [7; теорема 1.5.6]). То же самое справедливо и относительно ^4о~коническ°й решетки СБС(Х,Е). Согласно теореме [7; 1-5.6] существует единственное ^4о~линейное отображение [%] : [СБДХ, Е)] [С8с(Х,Р)], для которого [Из]([Ы, {0}]) = [¿>о^,{0}] при всех Ы £ СБС(Х,Е).

Возьмем теперь регулярный оператор Т : Е —Р такой, что в := \Т\ — оператор Магарам. Вновь по теореме [7; 4.4.3] операторы Т+ и Т также будут Ло-линейными. В соответствии со сказанным выше существуют ^4о~линейные положительные операторы [Лт+МЛт-] : [С8с(Х,Е)] ->• [С8с(Х,Р)]. Положив [кт] := [¡гт+] - [Ит-], получим А0-линейный регулярный оператор из [С8с(Х, Е)] в [С8с(Х, Р)]. >

(2) Пусть Т, в, Ао — те же, что п в (1). Тогда С^Ь(Х,Е) и QL(X, Р) можно снабдить структурой решеточно упорядоченного А^-модуля. Более того, существует единственное А^-линейное регулярное отображение [кт] : 0,Ь(Х, Е) —QL(Х,Е), для которого [/гт] (р) = Т+ ор~ Т^р при всех р £ БЬЦХ, Е).

<1 Если Т = в, то очевидно, что отображение [Л5] : С^Ь(Х,Е) —С^ЬрС, Р)], действующее по правилу I И- Б о I, является ^4о~линейным и положительным. В общем случае полагаем [кт] := [Ит+] — [кт ]. >

Оператор V, действующий на С^Ь (Х,Е) и QL (Х,Е) обозначим соответственно символами Т>е и Т>р.

(3) Пусть Т : Е —Р — регулярный оператор, причем \Т\ — оператор Магарам. Тогда

Т>р о [Ит] = [Ит] ° Т>е-

<1 Возьмем квазилинейный оператор 1: = р — д, где р, д £ БЬЦХ, Е). Тогда, используя (1), (2) и [7; 4.5.3], последовательно выводим:

ОПЕ{1) = М{[дрМ]) = М

= [т+ о др. т~ о дР] - [т+ о о,,. т~ о о,,

= [д(Т+ ор),д(Т-ор)] - [д(Т+ о д),д(Т~ О д)] = Vi.iT ор - Т" О р) - Vi.iT од — Т о д) = VF{T+{p - д)) - Т>Р(Т~(р - д)) = VFo [Нт]. >

В дальнейшем для простоты и выразительности обозначений пишем V вместо V е и Т>р, а также Т о V вместо [кт] ° Т^е и Р о Т вместо Р;? ° [Ьт].

4.3. Теорема. Пусть $ \ X -ь Е' квазиднфференцнруемое в точке хо отображение и Т : 1-] г /•' регулярный порядково непрерывный оператор такой, что \Т\ — оператор Магарам. Тогда То/ также квазиднфференцнруемо в точке хо и

V(Tof)(x0)=ToVf(x0).

Иначе говоря, для квазидифференциала Т)(Т о/)(жо) = [д(Т о /)(хо), <9(Т°/)(жо)] имеют место представления

д(т о/)(Ж0) = т+ о5/(Ж0) +т- о5/Ы, д(То/)(х0) = Т+ од/(х0) +Т- о5/(Ж0).

<1 Из теоремы 3.1 немедленно следует справедливость формулы (Т о /)'(жо) = Т о /'(жо); требуемые при этом условия выполняются тривиальным образом, так как

Т линеен, регулярен и порядково непрерывен. По условию /'(жо) £ 0,Ь(Х,Е), а ввиду 4.2 (2) Т о /'(жо) £ С^Ь (X, Р). таким образом, отображение То/' квазидифферепцируе-мо в точке жо- Остается применить оператор Р к равенству (Т о /)'(жо) = Т о /'(жо) и воспользоваться предложением 4.2(3). >

(2) Стоит выделить частный случай формул квазидифференцирования из (1), когда Т : Е —Р — линейный оператор Магарам. В этом случае формулы для вычисления Т>(Т о /)(жо) = [<3(Т о /)(жо), <9(Т о /)(жо)] упрощаются:

3(Т о /)(ж0) = Т о 5/(ж0), 3(Т о /)(ж0) = Т о 5/(ж0).

4.4. Рассмотрим вопрос о квазидифференцируемости бесконечной суммы. Зафиксируем непустое множество А. Символом li(A,E), как обычно, обозначим совокупность всех о-суммируемых семейств элементов Е, индексованных посредством А. Возьмем семейство отображений /„ : X —Е' (a £ А) и пусть жо € core (dorn /„) для всех (a £ А). Будем говорить, что это семейство равностепенно квази дифференцируем о в точке жо по направлению h £ X, если существует убывающая к нулю последовательность (сп(-)) С li(A,E) такая, что

sup 0<i<l/ra

fa

«S cn

для всех а £ А и п е N.

В следующей теореме выражение о-^аеАР/а(жо) следует понимать в соответствии с 4.2. Точнее, если

«е А

О-Е Ша

«еА «еА

причем o-£aeAWa — множество линейных операторов Т £ £(Х, Е), представимых в виде Тж = o-Vn Л '/'„.г (х £ X), где Т„ £ Ыа для всех а £ А.

Теорема. Пусть X — векторное пространство, Е — произвольное К-пространство, А — произвольное множество. Пусть fa:X—}E(a€. А) — о-суммируемое семейство отображений и определим отображение f \ X -ь Е' равенством

/(*)=*£/„(*) (х£Х).

а£ А

Предположим, что xq £ core (dorn fa) для всех а £ А и семейство (fa)aeA равностепенно квазидифференцируемо по направлениям в точке xq. Если для любого а £ А существуют pa,qa <Е Sbl(X,E) такие, что f'a{ ж0) = pa-qa (а £ А) и при этом (pa(h))aeA,(qa(h))aeA G li(A,E), то отображение / квазидифференцируемо в точке xq и справедлива формула

Vf(ж0) = Р( o-£fa)(xo) = o-J^VfQ(ж0).

аеА аеА

Таким образом, если Vf(жо) = [<9/(жо), <9/(жо)], то

9/(жо) = ¿М о-^/а(жо) = o^2dfa(ж0), df(xo) = ö( о-^/а(жо) =

^ аеА ' аеА ^ аеА ' аеА

<1 Рассмотрим оператор Магарам Е из 1\{К,Е) в Е, определяемый формулой

^ : {< п )<>.. л И- '<>•

«е А

Определим оператор (р : X —1\{К,Е) равенством

<р(х):= (/а(ж))аеА-

Ясно, что дифференцируемость (р по направлениям в точке жо вытекает из предположения о равностепенной дифференцируемости по направлениям в силу следующей оценки:

sup 0<4<1/я

9?

^ (си(а))«еА (пеЩ.

При этом производная по направлениям имеет вид

V / «еА

где Р : Ь, И- (р«(Л))аеА и <3 : II 4 (9а(^))аеА- Ввиду наших предположений последние соотношения корректно определяют сублинейные операторы Р, <3 : X —1\{К,Е), следовательно, 93 квазидифференцируемо в точке жо- Так как / := Ео^, то согласно 4.3 отображение / также квазидифференцируемо в точке жо и его квазидифференциал вычисляется с помощью формул

3/(ж0) = <9(Е о Р)(жо) = Ео5Р(ж0) = о£3/„( ж0),

«е А

5/(ж0) = д(Е о Р)(ж0) = Е о 5Р(ж0) = о-^5/«(ж0). >

«е А

4.5. В заключение параграфа займемся условиями квазидифференцируемости интегрального оператора. Пусть (fi,E,/х) — вероятностное пространство, X — сепарабельное банахово пространство, а Е — порядково полная банахова решетка с порядково непрерывной нормой. Рассмотрим семейство отображений fw:X—}E' квазидиффе-ренцируемых в точке жо £ core (dom/^). Предположим, что при любом ж из некоторого множества U С X отображение ш И- /ш(ж) почти всюду принимает значения из Е и интегрируемо по Бохнеру. Тогда можно определить отображение / : X —Е', полагая

/(ж):= / /мМФН

Jn

при ж G U и /(ж) = +оо при х ^ U. Выясним при каких условиях отображение / квазидифференцируемо в точке жо € core (£/). Пусть f^(xo)h производная в точке жо по направлению Л. В силу квазидифференцируемости справедливо представление

fL(x0) = R> - 9а.,

где pw,qw : X —Е — сублинейные операторы при любом ш € О.

Семейство (fw)wen назовем равностепенно квазидифференцируемым в точке жо по направлению h G X, если существует последовательность интегрируемых отображений

(фп), ф : О —Е, убывающая и о-сходящаяся к нулю почти всюду, для которой выполнена оценка

/ш

sup 0<i<l/ra

Фп

для всех ш € О и п € N.

Теорема. Пусть X — банахово пространство, а Е порядково полная банахова решетка с порядково непрерывной нормой. Пусть и / — те же, что и выше.

Отображение <р : X —L1(fi, Е, ц, Е)' определим сопоставив х G U класс эквивалентности интегрируемой вектор-функции ш И- /ш(ж) и положив <р(х) = +оо при х ^ U. Предположим, что семейство (fw)wen равностепенно дифференцируемо по направлениям в точке xq и для любого производная по направлениям /¿(ж о) допускает такое представление в виде разности сублинейных операторов /¿(жо) = рш — Яш, что отображения ш И- pw(h) иш ь4 qw(h) интегрируемы по Бохнеру при всех h G X. Тогда отображение / квазидифференцируемо в точке xq и имеет место представление

vf{xо) = / Т>(р(х0) d/j,. Jfi

Точнее, квазндифференцпалТ>/(хо) = [<9/(жо), <3/(жо)] описывается следующим образом:

d fix о) = / d(p(xo) (i/i, df(x0)= / d(p(x0)dfi. Jfi Jfi

< При сделанных допущениях оператор : ЬЦП^^Е) Е, определяемый интегралом Бохнера

¿п

является линейным оператором Магарам (см. [7; 4.4.2 (5)]). Введем два новых оператора Р, СЦ : X —Ь1(С1,И,1л,Е) посредством формул

Р(Ь) : ш И- рш(1%), Я{Ь) . ш ^ дш{К) (ИеХ).

Из условия равностепенной дифференцируемости по направлениям следует

sup

0<i<l/n

9?

^ / Н n

Фп ->• О,

откуда видно, что 93 дифференцируемо по направлениям в точке жо и при этом для любого Ь, £ X производная по направлению </?'(жо)Л представляет собой отображение ш I—У /¿(жо)Л- Но это влечет справедливость представления </р'(жо) = Р — означающего квазидифференцируемость отображения 93 в точке жо- Так как / = о 9?, то применима теорема 4.3 (1), в соответствии с которой / квазидифференцируемо в точке жо и

Д/Ы = ь ° = 1» ° [ар, зд

что и требовалось. >

4.6. В случае сепарабельного X установленную теорему удается уточнить с помощью теоремы Штрассена. Если — семейство опорных множеств Ыш £ СБС(Х,Е), то

символом f^Uujdßlш) обозначаем множество всех линейных операторов Т € L(X, Е), представимых в виде

Тх = Tw(x)dß(u) (ж G X), in

где — такое семейство линейных операторов из X в Е, что Тш £ 1ЛШ для почти

всех wGÍli для любого х G X отображение ш И- Тш(х) интегрируемо по Бохнеру.

Теорема. Пусть и / — те же, что ж выше. Предположим, что семейство

(fui) равностепенно дифференцируемо по направлениям в точке xq и для любого ш G О производная по направлениям /¿(жо) допускает такое представление в виде разности сублинейных операторов /¿(жо) = — что отображения ш Н- pw(h) и w 4 <Zo>(/i) интегрируемы по Бохнеру при всех h G X. Тогда отображение / квазидифференцируемо в точке жо и имеет место представление

vf{xо) = / T>fw(x0)d¡j,(ш). Jfi

Точнее, квaзидиффepeнциaл/Df(xo) = [9/(жо), 9/(жо)] описывается следующим образом:

d fix о) = / df(x0)= / dfu(x0)dß(u).

Jfi Jfi

<1 Так как выполнены все условия теоремы 3.6, то Р/(жо) = Iß о (жо) = [<9Р, 9Q] = о P),d(Ip о Q)]. Остается привлечь теорему Штрассепа о дезинтегрировании [7; 4.5.81. >

Литература

1. Демьянов В. Ф., Полякова Л. Н., Рубинов А. М. Об одном обобщении понятия субдифференциала // В кн.: Тез. всес. конф. по динамическому управлению. Свердловск.—1979.—С. 79-84.

2. Демьянов В. Ф., Рубинов А. М. О квазидифференцируемых функционалах // Докл. АН СССР.— 1980.-Т. 250, № 1.—С. 21-25.

3. Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация.—М.: Наука.—1981.—384 с.

4. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление.—М.: Наука.—1990.—432 с.

5. Demyanov V. F., Rubinov А. М. On quasidifferentiable mappings // Math. Operationsforsch. Statist. Ser. Optimization.—1983.—V. 14.—P. 3-21.

6. Басаева E. К. Квазидифференциалы в íT-пространствах // Владикавк. мат. журн.—2003.—Т. 5, вып. 3. С. 14-30.

7. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. I.—Новосибирск: Изд-во ИМ СО РАН, 2002.—viii+372 с.

8. Кусраев А. Г. Мажорируемые операторы.—М.: Наука, 2003.—619 с.

Статья поступила 7 сентября 2003 г. Басаева Елена Казбековна

г. Владикавказ, Институт прикладной математики и информатики ВНЦ РАН E-mail: helenOalanianet. ru

Кусраев Анатолий Георгиевич, д.ф.-м.н. г. Владикавказ, Институт прикладной математики и информатики ВНЦ РАН E-mail: kusraev@alanianet.ru