Принятие решений с помощью возможностных мер включения

УДК 519.237.8

А.Г.Броневич, А.Н.Каркищенко Принятие решений с помощью возможностных мер включения

1. Введение

Принятие решений в неопределенной и нечеткой обстановке достаточно подробно исследовалось в литературе. Классическая постановка этой задачи связана с теорией полезности. Также в настоящее время широко используются и нетрадиционные подходы, базирующиеся на теории нечетких множеств, теории возможностей, теории Демпстера-Шсйфера.

В данной статье рассматривается традиционный статистический подход, в котором предполагается наличие линейно-упорядоченного измеримого пространства доходов. В этом пространстве каждому принимаемому решению соответствует своя вероятностная мера, однако не принимается предположение о средней полезности, т.е. эвристическое построение функции полезности либо невозможно, либо не удовлетворяет статистике. На множестве вероятностных распределений вводится отношение частичного порядка, которое оказывается очень удобно описывать в терминах теории возможностей. Этот порядок также можно рассматривать и как отношение включения нечетких множеств, порождаемых данными вероятностными распределениями. С этой точки зрения данная статья является продолжением Исследований, которые отражены в работах [1,2,3]. После этого для упорядочения вероятностных распределений мы предлагаем использовать меру возможностного включения и исследуем ряд ее свойств. Это позволяет рассмотреть аксиоматический подход к построению меры включения.

2. Основные определения и постановка задач.

Пусть {Я, А) • измеримое пространство с СТ-алгеброй А , на котором задано отношение линейного порядка В дальнейшем будем использовать термины из теории полезности и называть элементы пространства Я доходами, а само пространство Я пространством доходов. Отношение £з должно удовлетворять стандартным требованиям: 1) рефлексивности, 2) антисимметричности, 3)

транзитивности, 4) связности, и наконец, для непрерывного случая будем предполагать существование точных верхних и нижних граней для любых

множеств из Я. При этом С-алгебра А пространства Я должна включать все интервалы вида (-°о,г(] = бЛМг/}> [гр+с0)={г7 еЛ|/} и являться

минимальной <т-алгеброй, порождение# этими интервалами.

В большинстве интересных задач статистики (управления) нельзя выбрать решение, гарантирующее максимальный фиксированный доход. Обычно ЛПР может выбрать вероятностное распределение из некоторого класса вероятностных

распределений на (Т-алгебре А пространства Я, т.е. доход, получающийся после принятия решения, является случайной величиной. Поэтому возникает задача упорядочения вероятностных распределений из множества 3* Следует отметить, что отношение ^ без проблем переносится на множество вырожденных ве-

роятностных распределений /), Р( |г, | = 1, которые сосредоточены в точках , т.е. можно считать, что если Г( ^ Гу, то Р( ^ Pj.

3. Определение частичного порядка на множестве вероятностных распределений

Рассмотрим параметрическое семейство классификаторов {(— ооД[£,-ню)}, € 6 Я, позволяющее оценить качество принимаемого решения с вероятностной мерой на А. Будем считать, что если в результате принятого решения с1( получаемый доход оказался меньше значения 8, то решение с!1 характеризуется

как неудачное, и удачное в противном случае. С каждым классификатором, учитывая случайность получаемых доходов, можно связывать вероятность

Успешного ^[я,+оо) и неудачного Р((^-оо,е) выбора решения .

Последние рассуждения позволяют установить частичное упорядочение на

множестве вероятностных распределений, определенных на (7-алгебре А. Будем

считать, что /) < Pj, если для любого € €/? имеет место 7^[е,+оо) <, /^[г,4-оо),

Т.е. решение (1] является предпочтительным, чем решение если оно не хуже для

любого классификатора с порогом Е. Отношение порядка на множестве вероятностных распределений нетрудно выразить на языке теории нечетких

Множеств. Действительно, можно считать, что вероятность ^[е,+оо) определяет

нечеткое подмножество пространства Я с функцией принадлежности

ц(е) = Р^е,+°о) и значит Р^ Pj, если Fi^Fj.

4. Алгебраические операции на множестве вероятностных распределений

Для дальнейшего исследования нам понадобятся более ясные представления о введенном частичном порядке на множестве вероятностных распределений. Нижеследующие результаты показывают, что этот порядок обладает структурой Дистрибутивной решетки.

Лемма 1. Пусть Р\ и Р% - вероятностные распределения на С-алгебре А пРостранства доходов Я с функциями принадлежности (х), /Л^ (*). Тогда моэкно построить вероятностное распределение Р$ на А с функцией пРинадлежности = ГПш[/^(.х),/^2 (*)]• Вероятностное распределение

Ъ является точной нижней гранью множества { Р^, Р21

Лемма 2. Пусть, как и в лемме 1, Р\ и Р2 - вероятностные распределения на А. Тогда можно построить вероятностное распределение Р^ с функцией пРинадлежности //4(дс) = шах[/^|(дс),//2(^)]- Вероятностное распределение А является точной верхней гранью множества { Рх, Р2 ]

Будем использовать стандартные обозначения Р\ А Р2, Р\ ^ ^2 со* ответственно для точной нижней и верхней граней множества { Рх, Р2}

Теорема 1. Частичный порядок ^ на множестве вероятностных распределений пространства Я относительно операций А и V изоморфен дистрибутивной решетке нечетких множеств.

5. Мера возможностного включения

Введенный частичный порядок {/^/2} на множестве вероятностных

распределений позволяет выбрать наиболее оптимальное решений, когда исследуемые вероятностные распределения являются попарно сравнимыми. В

случае же неопределенности, когда Ру £ Р2, Р2'йРу, возникает задача "превращения" частичного порядка у/ в линейный порядок, т.е. необходимо некоторым образом доопределить отношение  у/, чтобы выполнялось условие сравнимости двух произвольных альтернатив. С другой стороны, отношение частичного порядка на множестве вероятностных распределений изоморфно отношению включения нечетких множеств. Это наводит на мысль для установления степени предпочтительности альтернатив использовать меры (индексы) включения нечетких множеств. Ниже будет рассмотрена возможностная мера включения [1,3], значения которой удобно оценивать статистически. Вначале проведем построение меры включения для нечетких интервалов, обладающих непрерывными функциями принадлежности, для которых выполняются следующие

условия: 1) вир ц(у) = М(х) (непрерывность справа); 2) тГ /л(у) = /л{х) у\х<у у\у<х

(непрерывность слева). В этом случае значения вероятностей р - срезов нечеткого интервала известны.

Лемма 3. Пусть вероятностная мера Р на (Т-алгебре А пространства доходов Я порождает нечеткий интервал Р с непрерывной функцией принадлежности //(*)• Тогда для (1 — р)-среза А(р) = € /?| ц{х) >!-/>},

имеет место г\М = р

Приступим теперь к построению меры включения. Пусть и ^ - нечеткие интервалы, порождаемые вероятностными распределениями Р\ и Р2. Тогда р-локальная мера включения определяется через (1 — /?) -срезы А,(р) = {дс е Л|/4(х) > 1 - р} нечетких интервалов 7^ так:

¥,{Ъ = ^)= ^и(р)140’)) = •

Отметим, что -локальная мера включения обладает необходимыми свойствами: = 1, если Мр)^аЛрУ £/0 = 0, если

ж

Ах(р)пА2 (р) = 0, и как показывает следующая лемма, устанавливает отношение линейного квазипорядка на множестве вероятностных распределений.

Лемма 4. Пусть Р\ ^ Р2. если у/р(р\ С * ¥Р{рг С ^)- Тогда

порождаемое таким образом отношение й на множестве вероятностных

распределений транзитивно.

Как показывает анализ, при сравнении альтернатив оказывается полезной интегральная мера включения, которая учитывает значения /7-локальных мер

включения для различных р € [0,1]:

^рг)= \¥р{Р\(^Рг\1Р)аР = 2\Р\{МР)\А(Р))р^Р, о о

где 2р - нормирующая функция. Отметим, что интегральная мера включения

(или просто мера включения) обладает следующим важным свойством.

Теорема2. £/’2)=Ю^| С Я,.

В дальнейшем, учитывая теорему 1, значения меры включения с; рг)

будем также обозначать у/{Р\ ^ Р2)

6. Исследование свойств меры включения

В данном разделе предполагается, что рассматриваемые функции принадлежности (л(х) обладают свойством непрерывности.

Свойство 1. у/(Рх <. Р2) = 2|лт1п[^(х),^2(х)^(дс).

Далее меру включения будем выражать через функцию

= \яЪШРх{х).

Свойство2. у/(Рх <. Р2) = 2у/(Р],Р1 л Р2).

Свойство3. ^(Р{,Р2)= 1 -1//(Р2,%).

Свойство 4. 1) у/(Р,,Р2) = 05, если Р\ = Р2; 2) ^(/>,Р2)<0.5, если Р\ > Р2; 3) у/{Рь,Р^>0-5, если Ру < Р2.

Пусть Р — <Х\Р\ + ОС2Р2, + (Х2 — 1, (Х\ ,С?2 ^ 0, - вероятностная мера,

Получающаяся как смесь вероятностных распределений Р\ и Р2, т.е для любого А еА выполняется равенство Р(А) = (ХуР^А) + ОС2Р2(А). Отметим, что ^еру Р можно рассматривать как соответствующую решению, по которому °существляется случайный выбор между вероятностными распределениями Ру и р

*2 С вероятностями ССу и СС2.

Свойство 5. Функция у/{^Р{,Р^ является билинейной формой на множестве вероятностных распределений пространства доходов, т.е. справедливы равенства

1) у/(ахР{+а2Р2,Р3) = а{у/{Рх,Р^) + а2у/{Р2,Р3);

2) ^„а,Р{ + а2Р2,) = а^(Ръ,Р) + а2у/(Рг,Р2).

Следующее свойство дает экономичный способ для вычисления предпочтения альтернатив.

Свойгад 9- у/{Р\ ^ р1)-ч/

7. Аксиоматический подход к построению меры включения.

В предыдущих разделах была рассмотрена возможностная мера включения для вероятностных распределений, обладающих непрерывной функцией принадлежности. В этом разделе мера включения будет введена для произвольных необязательно непрерывных вероятностных распределений. Оказывается, для ее построения достаточно указать лишь набор интуитивно обоснованных свойств. В этом заключается следующая основная теорема данного раздела.

Теорема 3. Пусть у/^Р^Р^ билинейная форма на множестве вероятностных распределений пространства доходов, для которой

1) у/(Рх,Р2)=\-\1/{Р2,Р);

2) у/(ахРх+а2Р2,р) = ахч/(Р^Р1) + а2у/(Р2,Р3). вёё а1 + а2 = I, ах,а2^ 0;

3) для любых вырожденных вероятностных распределений, сосредоточенных

в точках Г\ и Г2 (т.е. /}{г,} = 1, (г2} = 1имеет место

1. г\ < ^2 > у/{рх,р2) = - 05, г, = г2,

0, г, >г2\

4) если последовательность вероятностных мер ( сходится к

вероятностной мере то = Ц/^Р^Р^. Условия 1,2,3,4 определяют

билинейную форму однозначно, а следовательно и меру включения

у/(рх <, Р2) = у(Рх,Рх А Р2)+ у/(р, V Р2, Р2).

Следствие теоремы 5.^(^.Р?) = 0.5|д[^(х) + ^(х+0)]^/|(х). где

/л2(х + 0) = Р2(х,+со).

Заметим, что для обобщенной меры включения мы можем доказать свойства 2,

4, 5,6 и теорему 2. Однако остальные результаты основаны на предположении, что рассматриваемые функции принадлежности обладают свойством непрерывности.

8. Выбор оптимального решения с помощью возможностной меры включения

Рассмотрим решения и (12, которым соответствуют вероятностные распределения и Р2. Решение с1\ считается предпочтительнее решения по

мере включения у/, если у/(Р{ й Р2)< у/(Рг ^ Р\), или, учитывая свойство 6,

Должно выполняться следующее условие: у/(Р1,Р2}<уг(Р2,Р^). Это позволяет нам говорить, что выбор оптимального решения из некоторого конечного множества альтернатив D=\d^,d2t...,dl^ связан с исследованием отношения

у/ С Г) X О предпочтительности альтернатив: ,с1^ е у/ , если

Р^ ^ у/{р],р)  Основной проблемой при этом является то, что отношение у/ в общем случае нетранзитивно. Далее нам будет удобно отношение у/ с матрицей 5 = ||^, = у/[ Р,, Р}) - у/[ Рр /?).

Введем определение. Отношение у/ называется сильно транзитивным, если из

>0, £0 следует тах[^у,Sj|c|. Данное определение аналогично

известному из теории нечетких отношений. Лемма 5 дает удобный способ выбора оптимального решения, когда отношение у/ предпочтительности альтернатив сильно транзитивно.

Лемма 5. Пусть отношение у/ на множестве альтернатив И =

сильно транзитивно. Рассмотрим произвольное взвешенное решение (1, которому соответствует вероятностная мера Р= а,Р,, (Х( > 0, / = 1,2,..., Тогда

Решение оптимально, если у/[Р,Р^~2. у/^Р,Р^ для любого У = 1,2,...,/И.

Лемма б. Пусть вероятностные распределения линейно упорядочены отношением т.е. Р\ ^ Р2 Рт. Тогда отношение у/ на множестве

°лътернатив сильно транзитивно.

Заметим, что леммы 5, 6 дают способ построения функции полезности. Для этого достаточно рассмотреть произвольную взвешенную вероятностную меру

Р ~ У 1 а,Р,, СС(> 0, / = 1,2,(например, можно положить

= (Х2 =...= <Хт = 1/т) и использовать в качестве функции полезности

ma i tyiiwimweppB^iHWinwHygpSigHff ' иш&ытирввнитеивге^ 1 =*

среднее значение 0^(//(х)+ //(х+0)) функции принадлежности для меры Р Тогда ц/(Р, /}) = 0.5f(//(x) + M(x+0))dP,(x) и мы получаем, что условие

R

леммы 5 дает наилучшее решение в случае функции полезности 0^//(х) + Мх + 0)).

Заключение

Предлагаемый подход выбора оптимального решения можно развивать в различных направлениях. Например, можно использовать другие индексы включения нечетких множеств для упорядочения вероятностных распределений. Выбор наилучшего решения, когда результирующее отношение у/ нетранзитивно, можно осуществлять, например, на основе выделенных Парето-оптимальных множеств. Когда информация о принимаемых решениях неточна, по-видимому, последствия принимаемых решений следует описывать с помощью нечетких мер, в частности возможностных мер. Это в свою очередь приводит к задаче упорядочения распределений возможностей, которая может быть решена аналогичным образом.

Литература

1. Броневич А.Г., Каркищенко А.Н. Вероятностные и возможностные модели классификации случайных последовательностей. Таганрог: ТРТУ, 1996.

2. Броневич А.Г., Каркищенко А.Н. Мера включения Хэмминга вероятностного распределения в нечеткий интервал II Интеллектуальные САПР. Таганрог: ТРТУ, 1996, вып. 6.

3. Bronevitch A.G., Karkishchenko A.N. Fuzzy Classification of Probability Distributions // Proc. of the Fourth European Congress on Intelligent Techniques and Soft Computing, Germany, Aachen, September 2-5, 1996, v.l.

УДК [007,52:611,81]:681.3.06

Ю.В. Чернухин, А.П. Топчий, E.A. Грязин Экспериментальное исследование скорости обучения нейросетей методом обратного распространения ошибки.

В настоящее время системы автоматизированного проектирования (САПР) широко применяются в различных отраслях науки и техники. Задачи, решаемые САПР, становятся все более ресурсоемкими, и, как следствие этого, все чаще при разработке самих САПР используются нетрадиционные подходы их построения. К таким подходам можно отнести использование в САПР систем нечеткого вывода, генетических алгоритмов, параллельных технологий и нейрокомпьютерной техники (искусственных нейросетей - ИНС).

Общие принципы и базис нейросетей были предложены в работе [1] в 1962 г. Эти принципы и элементный базис нейросетей развиваются и в настоящее время. Предлагаются новые элементы и алгоритмы обучения, новые структуры и области применения нейропроцессорной техники [2,3].

На данный момент одной из самых распространенных ИНС является многослойная перцептронная нейросеть с обратным распространением ошибки (back-propagation error neural network BPNN). Такая сеть находит широкое