Обобщенные субдифференциалы и экзостер

Владикавказский математический журнал октябрь-декабрь, 2006, Том 8, Выпуск 4

УДК 519.3

ОБОБЩЕННЫЕ СУБДИФФЕРЕНЦИАЛЫ И ЭКЗОСТЕРЫ1

В. Ф. Демьянов, В. А. Рощина

Посвящается памяти А. М. Рубинова, идеи которого лежат в основе настоящей работы

В статье рассматриваются соотношения между экзостерами и различными обобщенными субдифференциалами. Для субдифференциалов Кларка, Мишеля-Пено, Гато и Фреше получены формулы в терминах экзостеров.

1. Введение

Негладкий анализ сформировался как самостоятельный раздел и непосредственное продолжение классического («гладкого») анализа в 60-70-х годах XX столетия, хотя впервые негладкие задачи были поставлены и изящно решены еще П. Л. Чебышевым. Негладкие задачи до сих пор привлекают внимание исследователей как ввиду наличия множества нерешенных интересных теоретических задач, так и вследствие возникновения новых практических приложений.

Исторически первыми глубоко изученными классами негладких функций были классы выпуклых функций и функций максимума. Исследование этих функций привело к развитию выпуклого анализа и теории минимакса (см., например, [11, 1]). При этом оказалось, что основным инструментом исследования указанных классов функций является субдифференциал (представляющий собой выпуклое множество в сопряженном пространстве), с помощью которого можно, в частности, вычислить производные по направлениям (и тем самым получить аппроксимацию первого порядка функции в окрестности заданной точки), сформулировать условия минимума, найти направления наискорейшего спуска и построить численные методы.

Упомянутые свойства субдифференциалов выпуклых функций и функций максимума привели к многочисленным попыткам найти подобный выпуклый объект и в невыпуклом случае. Различные обобщения понятия субдифференциала были предложены и исследованы. Среди наиболее удачных и популярных следует отметить, в первую очередь, субдифференциал Кларка (см. [6, 16]). Обзор работ по субдифференциалам имеется, например, в [14]. Общая теория субдифференциалов в абстрактных пространствах построена в [7, 8]. Однако, как отмечается в [8], от субдифференциала «мало прока, если

© 2006 Демьянов В. Ф., Рощина В. А.

1 Работа выполнена при поддержке Российского Фонда Фундаментальных Исследований, проект РФФИ N 06-01-00276.

нет достаточно эффективных средств его вычисления». В настоящей работе для некоторых наиболее распространенных субдифференциалов в конечномерных пространствах строятся правила их вычисления. Это делается с помощью экзостеров.

Идея сведения задачи минимизации произвольной функции к последовательности выпуклых задач была воплощена Б. Н. Пшеничным [10], который ввел понятия верхней выпуклой и нижней вогнутой аппроксимаций. А. М. Рубинов в [3] предложил рассматривать исчерпывающие семейства верхних выпуклых аппроксимаций и нижних вогнутых аппроксимаций. Впоследствии были введены понятия верхнего и нижнего экзостеров, представляющие двойственные объекты и позволяющие свести исходную оптимизационную задачу к последовательности выпуклых задач минимизации.

В настоящей работе изучается связь между экзостерами и некоторыми обобщенными субдифференциалами негладких функций. Понятие экзостера и некоторые его свойства описаны в п. 3. В п. 4 субдифференциалы Гато и Фреше для дифференцируемых по направлениям в смысле, соответственно, Дини и Адамара функций выражены в терминах экзостеров. Эти субдифференциалы были введены в работе [13] и изучены в [25, 27].

Субдифференциалы Мишеля-Пено и Кларка обсуждаются в пп. 5 и 6. Их связь с экзостерами устанавливается в п. 7.

2. Исчерпывающие семейства верхних и нижних аппроксимаций

Б. Н. Пшеничный в [10] ввел понятия верхних выпуклых и нижних вогнутых аппроксимаций. Пусть функция h : Rn ^ R — положительно однородна первой степени. Выпуклая положительно однородная функция h : Rn ^ R называется верхней выпуклой аппроксимацией функции h, если

h

Вогнутая положительно однородная функция h : Rn ^ R называется нижней вогнутой аппроксимацией функции h, если

h

Исчерпывающие семейства аппроксимаций были определены А. М. Рубиновым в [3] (см. также [4]).

Множество Л* верхних выпуклых аппроксимаций функции h называется исчерпывающим семейством верхних выпуклых аппроксимаций функции h, если

h

he Л*

Множество Л* нижних вогнутых аппроксимаций функции h называется исчерпывающим семейством нижних вогнутых аппроксимаций функции h, если

h

he Л*

Существование исчерпывающих семейств устанавливается в следующей теореме [3].

Теорема 1 (А. М. Рубинов). Пусть h : Rn ^ R — положительно однородная функция. Если h полунепрерывна сверху на Rn, то существует исчерпывающее семейство верхней выпуклой аппроксимации функции h.

Если Н полунепрерывна снизу на Кп, то существует исчерпывающее семейство нижних вогнутых аппроксимаций функции Н.

Если Н — полунепрерывна сверху и ограничена, то, по теореме 1, существует семейство Л* верхних выпуклых аппроксимаций, удовлетворяющее (3). Если Н полунепрерывна снизу и ограничена на В1, то существует семейство Л* нижних вогнутых аппроксимаций, удовлетворяющее (4).

Так как (см. [11]) каждая выпуклая положительно однородная функция Н(д) может быть представлена в виде

Н(д) = тах(г>,д) Vд £ йп,

О

где С(Н) — субдифференциал функции Н в нуле (это выпуклый компакт в йп), то (3) может быть записано как

h

GeE* vec

где E* = {C С Rn I C = C(h), h G Л*}.

Множество E* = E*(h) называется верхним экзостером функции h. Аналогично, так как любая вогнутая положительно однородная функция h может быть представлена в виде

h

где C(h) — супердифференциал функции h в нуле (это тоже выпуклый компакт в Rn), то (4) принимает вид

h

GeE* weG

где E* = {C С Rn I C = C(h), h G Л*}.

Множество E* = E*(h) называется нижним экзостером функции h.

3. Условия экстремума в терминах экзостеров

Пусть f : X ^ R, где X С Rn — открытое множество. Функция f называется дифференцируемой по направлениям в смысле Дини в точке x G X, если для всех g G Rn существует конечный предел

fD

Функция f называется дифференцируемой по направлениям в смысле Адамара в точке x G X, если для всех g G Rn существует конечный предел

fH

[a,ö'M+0,ö] a

Пусть f : Rn ^ R — заданная дифференцируемая по направлениям (в смысле Дини или Адамара) функция и h(g) = f'(x,g) — соответствующая производная функции f в точке x по направлению g. Функция h(g) положительно однородна первой степени. Если h — полунепрерывна сверху как функция g, то (см. п. 2) h(g) может быть представлена

в виде (5), а если h(g) = f '(ж, g) — полунепрерывная снизу как функция g, то h(g) может быть выписана в форме(6).

Если h непрерывна по g, то оба представления выше (5) и (6) верны. Например, если f — липшицева функция, то ее производные Адамара совпадают с соответствующими производными Дини и непрерывны как функции направления.

В [15] М. Кастеллани показал, что если функция h — липшицева, то она может быть записана в виде

h

с&E* veov ' '

и в виде

h

oeE ф weo

где семейства множеств E* и E* — ограничены в совокупности. Напомним, что семейство множеств E ограничено в совокупности, если найдется такой шар B в Rn, что C С B V C £ E.

Пара E = [E*, E*] семейств выпуклых множеств, где E* — верхний экзостер, и E* — нижний, называется биэкзостером. Экзостеры были введены в [5, 21, 22].

Там было показано, что если функция f достигает минимума на Rn в точке ж* и если известен верхний экзостер E* функции f в точке ж*, то выполнено следующее необходимое условие безусловного минимума:

0n £ C V C £ E *.

Пусть h — непрерывна. Если найдется такое 6 > 0, что

Bá С C V C £ E*,

где Bs = {ж £ Rn | ||ж|| < 6}, то ж* — точка строгого локального минимума функции f. Условие (12) является достаточным условием строгого локального минимума функции f.

Если ж** — точка максимума функции f на Rn и известен нижний экзостер E* функции f в точке ж**, то необходимое условие максимума в случае отсутствия ограничений принимает вид

0n £ C V C £ E*.

Пусть h непрерывна. Если найдется такое 6 > 0, что

Bs С C V C £ E*,

то ж** — точка строгого локального максимума f. Условие (14) является достаточным условием строгого локального максимума функции f.

В [17] был представлен обзор некоторых результатов, относящихся к этим новым объектам. Некоторые свойства и приложения экзостеров также обсуждались в [19, 20, 29, 30].

4. Соотношение между субдифференциалами Фреше и Гато и верхними и нижними экзостерами

4.1. Субдифференциал Фреше и экзостеры. Пусть X — открытое множество в Rn. Нижний субдифференциал Фреше функции f : X ^ R в точке жо £ X можно определить следующим образом (см. [25, 28]):

d-f (жо) := L £ Rn liminf f (ж) - f (жо) - ^ - жо) > 0) . F [ x^x0 ||ж — ж0|| J

Симметрично нижнему субдифференциалу Фреше также можно определить соответствующий верхний субдифференциал Фреше:

d+f (xo):= (v G Rn limsup f (x) - f (Xo) - - Xo) < öl . F l x^x0 ||x - Xo|| J

Первую из этих конструкций принято называть субдифференциалом Фреше, опуская слово «нижний». Элементы нижнего (верхнего) субдифференциала Фреше называются нижними (верхними) субградиентами Фреше. Насколько нам известно (см. [25]), субградиенты Фреше были впервые введены в [13] для конечномерных пространств и были названы и ^-градиентами.

Нижние и верхние субдифференциалы Фреше также могут быть определены через понятие дифференцируемости по Фреше (см. [14, 25]). А именно, v G Rn является нижним (верхним) субградиентом Фреше функции f в точке xo, если найдется такая дифференцируемая по Фреше в точке xo функция g, что g(x) ^ f (x) (g(x) ^ f (x)) для всех x G X, g(xo) = f (xo) и v = g'(xo).

Функция f : X ^ R называется субдифференцируемой (супердифференцируемой) по Фреше, если множество d—f (xo) (д+f (xo)) — непусто. Заметим, что оба (верхний и нижний) субдифференциала Фреше функции f непусты в точке xo G X тогда и только тогда, когда f дифференцируема по Фреше в точке xo (см. [25]). В этом случае d—f (xo) = д+f (xo) = {f '(xo)}.

Следующее соотношение верно для дифференцируемой по Адамару функции. Лемма 1. Пусть функция f : X ^ R дифференцируема по направлениям в смысле Адамара в точке xo G X. Положим h(g) = f'(xo; g) для всех g G Rn. Тогда

d-f

< Из (8) следует, что

Принимая во внимание, что последнее слагаемое стремится к нулю, когда x ^ xo, и что h(x - xo) - h(0n) = f'(xo; x - xo), подставляя y = x - xo в правую часть, мы сразу же получаем

lim inf f (x) - f (xo) - (v>x - xo) = lim inf h(y) - h(0n) - (v,y) ||x - xo|| ||y||

и

lim sup f (x) - f (xo) - (v'x - xo) = lim sup h(y) - ^ - (v, y), x^xo ||x - xo|1 ||y|1

что влечет (15). >

Следующая теорема о представлении субдифференциала Фреше положительно однородной функции была доказана в [29].

Теорема 2. Пусть E — верхний (нижний) экзостер положительно однородной функции h : Rn ^ R. Тогда

п C = dFh,

с ее

где dF h — нижний (верхний) субдифференциал Фреше функции h в нуле.

Следствие 1. Пусть Е1 и Е2 — различные верхние (нижние) экзостеры одной и той же функции Н : Кп ^ К. Тогда

П с = П с.

С 6Е1 С 6Е2

Из леммы 1 и теоремы 2 можно сделать вывод, что если функция / : X ^ К дифференцируема по направлениям в смысле Адамара в точке жо £ X и /'(жо; д) — полунепрерывна сверху (снизу) как функция д, то

др / (жо) = П С,

С6Е/

где др/(жо) — нижний (верхний) субдифференциал Фреше функции / в точке жо, а Е/(жо) — верхний (нижний) экзостер / в точке жо.

Лемма 2. Пусть функции /1, /2 : X ^ К — дифференцируемы по направлениям в смысле Адамара в точке жо £ X и пусть /(ж) = /1 (ж) + /2 (ж) для всех ж £ X. Следующее равенство:

д—/1

имеет место тогда и только тогда, когда существуют такие верхние экзостеры Е1 и Е2 функций /1 и /2 соответственно, что

П + П = П с

С16Е1 С26Е2 С 6Е

где Е = {С £ Кп | 3 С1 £ Е1, С2 £ Е2 : С = С1 + С2}.

< Следует из представления верхнего экзостера суммы функций (см. [17]) и теоремы 2. >

Аналогичный результат имеет место и для верхнего субдифференциала Фреше. Хорошо известно (см. [11, 25]), что если одна из функций дифференцируема по Фреше в точке жо или обе функции /1 и /2 — выпуклые, то имеет место равенство (17). Несложно убедиться, что эти результаты также следуют из леммы 2.

Известно, что необходимые и достаточные условия минимума могут быть выражены через нижний субдифференциал Фреше (см. [9]). Для того, чтобы точка ж* £ X была точкой локального минимума функции / : X ^ К, необходимо, чтобы

0п £ д— /(ж*);

условие

0п £ т! д—/

— достаточное для того, чтобы точка ж* была точкой локального минимума функции /. Пусть / дифференцируема по направлениям по Адамару. Принимая во внимание представление (16) субдифференциала Фреше, получаем условия (13) и (14). Таким образом, выражения для необходимых и достаточных условий минимальности через верхние экзо-стеры и нижний субдифференциал Фреше совпадают для функций, дифференцируемых по направлениям в смысле Адамара. Однако, в случае, когда необходимые условия минимума не выполнены, верхние экзостеры могут предоставить информацию о направлениях спуска (см. [17]), в то время как нижний субдифференциал Фреше - нет, и может даже

оказаться пустым. Подобный результат имеет место для условий максимума в терминах нижнего экзостера и верхнего субдифференциала Фреше.

4.2. Субдифференциал Гато и экзостеры. Пусть f : X ^ R, где X — открытое множество в Rn. Нижний субдифференциал Гато функции f в точке xo £ X можно определить следующим образом (см. [23]):

dGf Ы = {v £ Rn | liiiionf f (x0 +tg) - f (Xo) ^ (v,g) V g £ Rn}.

Верхний субдифференциал Гато может быть определен аналогично:

d+f (xo) = {v £ Rn | limsup f (xo + tg) - f (xo) ^ (v,g) V g £ Rn).

L íio t J

Заметим, что, вообще говоря, d-f (xo) С d-f (xo) и d+f (xo) С d+f (xo) (см. [23]).

Лемма 3. Нижний (верхний) субдифференциал Фреше положительно однородной функции в нуле совпадает с нижним (верхним) субдифференциалом Гато.

< Пусть h : Rn ^ R — положительно однородная функция. Несложно заметить, что для любых g £ Rn и t > 0

h(üra - tg) - h(ora) = thg) = h( ) t t (g)'

Таким образом, нижний и верхний субдифференциалы Гато функции h в нуле принимают вид

d-h(0„) = {v £ Rn | h(g) ^ (v, g) Vg £ Rn}, d+h(0„) = {v £ Rn | h(g) < (v, g) Vg £ Rn},

что совпадает с представлениями для нижнего и верхнего субдифференциалов Фреше положительно однородной функции (см. [25], Предложение 1.9). >

Из леммы 3 немедленно следует, что утверждение, аналогичное утверждению теоремы 2, выполняется для нижних и верхних субдифференциалов Гато. Следующая лемма может быть доказана аналогично лемме 1.

Лемма 4. Пусть фукция f : X ^ R дифференцируема по направлениям в смысле Дини в точке xo £ Rn. Положим h(g) = f'(xo; g) для всех g £ Rn. Тогда

d¿f

Из вышеизложенного результата очевидно, что нижние и верхние субдифференциалы Гато дифференцируемой по направлениям в смысле Дини функции могут быть выражены и изучены посредством верхних и нижних экзостеров. Результат, подобный результату леммы 2, может быть также получен для дифференцируемой по направлениям в смысле Дини функции и субдифференциалов Гато.

5. Субдифференциал Кларка

В 1973г. Ф.Кларк ввел понятие обобщенного градиента (см. [16, 6]).

Пусть X — открытое множество в Rn и пусть f : X ^ R, x £ X, g £ Rn. Положим

т 1

fci

/С

[а,х'Н[+0,х] а

Величина /¿г (ж; д) называется верхней производной Кларка функции / по направлению д, а величина /¿(ж;д) называется нижней производной Кларка функции / по направлению д. Отметим, что пределы в (19) и (20) существуют всегда (хотя могут принимать бесконечные значения). Функции /¿г(ж; д) и /С(ж; д) положительно однородны по д. Если / локально липшицева, то эти значения конечны. Рассмотрим этот случай более подробно.

Итак, пусть функция / локально липшицева на X. Тогда / почти везде дифферен-цирема. Через Т(/) обозначим множество точек дифференцируемости функции /. Множество Т(/) является множеством полной меры. Положим

д3н/

Это множество было введено Н. З. Шором в 1972 г. (см. [12]) и названо им множеством почти-градиентов. Это множество не обязательно выпукло. Множество

ды/

называется субдифференциалом Кларка. Очевидно,

дс1 /(ж) = со дsh/(ж).

Это множество выпукло и компактно

/]С1

Нетрудно видеть, что условие

0п £ дс1/

является необходимым для того, чтобы точка жо £ X была точкой локального или глобального минимума. Это же условие является необходимым для того, чтобы точка ж0 была точкой локального или глобального максимума. Точка жо £ X, удовлетворяющая (24), называется стационарной (в смысле Кларка) точкой. Таким образом, условие (24) не различает точки минимума и максимума.

6. Субдифференциал Мишеля—Пено

Ф. Мишель и Ж.-П. Пено в [26] предложили следующее обобщение производной по направлению:

/1р

Будем называть эту величину верхней производной Мишеля-Пено функции / в точке ж по направлению д. Величина

/4»

^ пС. Нп I гх I П СМ I

1

<?еяп I «|о а

называется нижней производной Мишеля-Пено функции / в точке х по направлению д. Если / локально липшицева, то существует выпуклое компактное множество дтр/(х) С й", такое, что

Л^хд) = тах >,д), ^Дхд) = т!п

«€дтр/

Напомним, что если функция / является дифференцируемой по направлениям, то дтр/(х) есть субдифференциал Кларка функции Н(д) = /'(х,д) в точке д = 0П. Множество дтр/(х) часто называют [24] малым субдифференциалом. Вообще говоря,

дтр/

а в некоторых случаях

дтр/

В то же время множество дтр/(х) сохраняет ряд свойств множества дс/(х). Например, условие

0" € дтр/

является необходимым условием и минимума, и максимума. Условие (30), вообще говоря, сильнее условия (24).

В [18] было показано, что если функция / квазидифференцируемая (в смысле [3, 4]), то можно построить исчисление субдифференциалов Мишеля-Пено в терминах квазидифференциалов. В следующем пункте выводится формула для вычисления субдифференциала Мишеля-Пено в терминах экзостеров.

7. Субдифференциалы Кларка и Мишеля-Пено в терминах экзостеров

7.1. Полиэдральный случай. Пусть функция Н положительно однородная и лип-шицевая. Как отмечалось выше, Н может быть представлена в формах (9) и (10). Вначале рассмотрим представление (9). Положим

д

«66

Не

«66

Тогда

Vg

veC

h

cee vec ceQ(g) wev9(c) wee,

где

E* = clco{Vg

Теперь рассмотрим полиэдральный случай: предположим, что семейство E* содержит конечное количество множеств и каждое множество C G E* является многогранником. Тогда функция h дифференцируема по направлениям в каждой точке g G R*, причем

h'

K ' ceQ(g) weVg(C)v ,4J K J

Более того, для почти всех д множества ф(д) и (С) являются одноточечными, поэтому множество Е* тоже одноточечное: Е* = }. Это означает, что функция Н почти везде дифференцируема (ее дифференцируемость вытекает из липшицевости Н) и потому для почти каждого д существует градиент Н'(д) функции Н и Н'(д) = . Обозначим через Т(Н) множество точек дифференцируемости функции Н. Множество Т(Н) является множеством полной меры.

7.2. Общий случай. Снова положим

д

-бС

Не

-66

У,

ибС

Тогда

Н

СбЕ* ибС ибС

Для любого фиксированного С £ Е* функция Нс (д), как функция максимума, является дифференцируемой по направлениям, при этом

Н6

Функция Не (д) почти везде дифференцируема, т. е. множество УС (д) для почти всех д является одноточечным: УС(д) = ^с(д)}, где vc(д) £ Я".

Поскольку Н — липшицевая функция, то она почти везде дифференцируема и поэтому для почти каждого д существует градиент функции Н: Н'(д) = . Через Т(Н) обозначим множество точек дифференцируемости функции Н. Множество Т(Н) является множеством полной меры.

Зафиксируем до £ Т (Н). Возьмем произвольное С (до) £ ^(до), т. е. Н(до) = Не(ао)(до). Так как Н дифференцируема в точке до, то она дифференцируема по направлениям в этой точке до и

Н'

Если точка до — точка дифференцируемости функции Не(ао)(д), то производная по направлениям функции Не(ао) в точке до равна

Н6(^о)(до,д) = ^с(^о)(до),д) Vд£ Я"• (43) Так как Н(д) ^ Нс(^о)(д) Vд£ Я"и Н(до) = Леы^ то

Н'(до,д) < Н6Ы(до,д) Vд £ Я". (44) Из (44), (42) и (43) вытекает

= ^до^

где v(gо) = Vе(g0) (до). В силу произвольности до заключаем, что = v(g). Это соотношение имеет место только в случае, когда д — точка дифференцируемости обеих функций,

Н и Нс(а).

Множество Т(Н) точек дифференцируемости функции Н является множеством полной меры. Для любого С £ Е* множество Т (Нс) точек дифференцируемости функции Нс тоже является множеством полной меры. Теперь предположим, что множество

С бЕ*

является множеством полной меры (это предположение выполняется, например, если множество Е* счетное). Тогда Т(Н) ПТ* — множество полной меры. Из (45) следует, что

% = vс

Замечание 1. Вместо множества Е* в (46) можно взять множество

и з(д) с Е*.

абТ

Замечание 2. Из определения Н ясно, что

С (Ад) = С (д), ^ (С) = У, (С), д(Ад) = д(А), Нс (Ад) = АНс (д), адл, = vс(лg)(Аg) V А > 0.

Поэтому можно рассматривать только д из единичной сферы.

7.3. Субдифференциалы Кларка и Мишеля—Пено. Известно (см. [6]), что множество

0с1 Н

является субдифференциалом Кларка функции Н в точке 0га. Используя соотношение (47), можно выразить субдифференциал Кларка функции Н в 0га конструктивно в терминах точек V,.

Если функция / : Я" ^ Я липшицева и дифференцируема по направлениям в точке ж £ Я", а Н(д) — ее производная по направлениям в точке ж, то дсгН(0га) является субдифференциалом Мишеля-Пено (см. [26]) функции / в точке х:

дтр/

Итак, субдифференциал Мишеля-Пено функции / в точке ж может быть построен с помощью верхнего экзостера производной по направлениям Н(д) = /'(х,д). В некоторых случаях (см. [4]) субдифференциал Мишеля-Пено совпадает с субдифференциалом Кларка.

Замечание 3. Аналогичные результаты (с необходимыми изменениями) можно получить, если использовать представление (10) вместо (9). В этом случае используется нижний экзостер Е*.

Замечание 4. Выше в пунктах 4 и 7 было показано, что экзостеры тесно связаны с другими негладкими инструментами, такими как субдифференциалы Мишеля-Пено, Кларка, Гато и Фреше. Отметим, что выведенные отношения имеют вид равенств, т. е. получено исчисление упомянутых субдифференциалов.

Замечание 5. Для квазидифференцируемых функций формула для субдифференциала Мишеля-Пено была получена (см. [18]) с помощью —разности, введенной в [2]. Формула (49) является обобщением этой формулы на случай произвольной дифференцируемой по направлениям функции.

Литература

1. Демьянов В. Ф., Малоземов В. Н. Введение в минимакс.—М.: Наука, 1972.—368 с.

2. Демьянов В. Ф. О связи между субдифференциалом Кларка и квазидифференциалом // Вестник Ленинградского ун-та.—1980.—Т. 13.—C. 18-24.

3. Демьянов В. Ф., Рубинов А. М. Элементы квазидифференциального исчисления // Негладкие задачи теории оптимизации и управления.—Л.: Изд-во Ленингр. ун-та.—1982.—C. 5-127.

4. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление.—М.: Наука, 1990.—432 с.

5. Демьянов В. Ф. Условные производные и экзостеры в негладком анализе // Докл. РАН.—1999.-Т. 338, № 6.—С. 730-733.

6. Кларк Ф. Оптимизация и негладкий анализ.—М.: Наука, 1988.—288 с.

7. Кусраев А. Г., Кутутеладзе С. С. Субдифференциальное исчисление.—Новосибирск: Наука, 1987.— 224 с.

8. Кусраев А. Г., Кутутеладзе С. С. Субдифференциалы. Теория и приложения.—Новосибирск: Наука, 1992.—270 с.

9. Мордухович Б. Ш. Методы аппроксимации в задачах оптимизации и управления.—М.: Наука, 1988.—360 с.

10. Пшеничный Б. Н. Выпуклый анализ и экстремальные задачи.—М.: Наука, 1980.—320 с.

11. Рокафеллар Р. Выпуклый анализ.—М.: Мир, 1973.—472 с.

12. Шор Н. З. О классе почти-дифференцируемых функций и одном методе минимизации функций этого класса // Кибернетика.—1972.—№ 4.—С. 65-70.

13. Bazaraa M. S., Goode J. J., Nashed M. Z. On the Cones of Tangents with Applications to Mathematical Programming // J. of Optimization Theory and Applications.—1974.-V. 13, № 4.—P. 389-426.

14. Borwein J. M., Zhu Q. J. A survey of subdifferential calculus with applications // Nonlinear Anal. Ser. A: Theory and Methods.—1999.—V. 38, № 6.—P. 687-773.

15. Castellani M. A dual characterization for proper positively homogeneous functions // J. of Global Optimization.—2000.—V. 16.—P. 393-400.

16. Clarke F. Generalized gradients and applications // Trans. Amer. Math. Soc.—1975.-V. 205, № 2.— P. 247-262.

17. Demyanov V. F. Exhausters and Convexificators - New Tools in Nonsmooth Analysis // In: V. Demyanov and A. Rubinov (Eds.) Quasidifferentiability and related topics.—Dordrecht: Kluwer Academic Publishers, 2000.—P. 85-137.

18. Demyanov V. F., Jeyakumar V. Hunting for a smaller convex subdifferential // J. of Global Optimization.—1997.—V. 10, № 3.—P. 305-326.

19. Demyanov V. F., Roshchina V. A. Constrained optimality conditions in terms of proper and adjoint exhausters // Applied and Computational Mathematics (Azerbaijan National Academy of Sciences).— Baku, 2005.—V. 4, № 2.—P. 25-35.

20. Demyanov V. F., Roshchina V. A. Optimality conditions in terms of upper and lower exhausters // Optimization.—2006.—V. 55, № 5/6.—P. 525-540.

21. Demyanov V. F. Exhausters of a positively homogeneous function // Optimization.—1999.—V. 45.— P. 13-29.

22. Demyanov V. F., Rubinov A. M. Exhaustive families of approximations revisited // In: R. P. Gilbert, P. D. Panagiotopoulos, P. M. Pardalos (Eds.) From Convexity to Nonconvexity. Nonconvex Optimization and Its Applications.—2001.—V. 55.—P. 43-50. (Dordrecht: Kluwer Scientific Publishers).

23. Guo X. Characteristics of subdifferentials of functions // Appl. Math. Mech.—1996.—V. 17, № 5.— P. 445-450.

24. Ioffe A. D. A Lagrange multiplier rule with small convex-valued subdifferentials for nonsmooth problems of mathematical programming involving equality and nonfunctional constraints // Math. Programming.—1993.—V. 58.—P. 137-145.

25. KrugerA. Ya. On Frechet subdifferentials // J. of Math. Sciences.—N. Y., 2003.—V. 116, № 3.—P. 33253358.

26. Michel P., Penot J.-P. Calcus sous-differential pour les fonctions lipschitzienness et non-lipschitziennes // C. R. Acad. Sc. Paris. Ser. I.—1984.—V. 298.—P. 269-272.

27. Mordukhovich B. S. Necessary conditions in nonsmooth minimization via lower and upper subgradients // Set-Valued Anal.—2004.—V. 12, № 1-2.—P. 163-193.

28. Mordukhovich B. S. Variational analysis and generalized differentiation I. Basic theory.—Berlin: Springer-Verlag, 2006.—xxii+579 p.

29. Roshchina V. On the relationship between the Frechet subdifferential and upper exhausters //

International Workshop on Optimization: Theory and Algorithms. 19-22 August 2006, Zhangjiajie, Hunan, China.

30. Uderzo A. Convex approximators, convexificators and exhausters: applications to constrained extre-mum problems // In: V. Demyanov and A. Rubinov (Eds.) Quasidifferentiability and related topics.-Dordrecht: Kluwer Academic Publishers, 2000.—P. 297-327.

Статья поступила 20 декабря 2006 г. Демьянов Владимир Федорович, д. ф.-м. н.

Санкт-Петербург, Санкт-Петербургский государственный университет E-mail: vfd@ad9503.spb.edu

РощинА Вера Алексеевна

Hong Kong, City University of Hong Kong, Department of Mathematics E-mail: vera.roshchina@gmail.com