Вычислительные задачи синтеза модели выбора методом максимального правдоподобия

УДК 519.81

ВЫЧИСЛИТЕЛЬНЫЕ ЗАДАЧИ СИНТЕЗА МОДЕЛИ ВЫБОРА МЕТОДОМ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ Ю.В. Бугаев, Б.Е. Никитин, А.С. Чайковский

В статье рассматриваются вычислительные задачи синтеза модели выбора на основе метода экстраполяции экспертных оценок. Введены определения существенных и несущественных неравенств. Сформулирована и доказана теорема об исключении несущественных неравенств. Рассмотрен метод вычисления многомерных интегралов методом Гаусса

Ключевые слова: альтернатива; функция обобщенного критерия; метод максимального правдоподобия; метод экстраполяции экспертных оценок

При коллективном решении задачи выбора эффективных вариантов в процессе проектирования и оптимизации технологических систем, довольно часто возникает ситуация когда эксперты не могут прийти к единому мнению. В таких случаях обычно применяют процедуры группового выбора. Однако и они становятся мало эффективными, когда множество недоминируемых вариантов, среди которых необходимо выбрать лучший достаточно велико.

Одним из способов преодоления данной проблемы является применение метода экстраполяции экспертных оценок (МЭЭО) [1]. Суть метода состоит в следующем: по ограниченной выборке вариантов (обозримой для лица принимающего решения), несравнимых по безусловному критерию предпочтения, идентифицируется система экспертных предпочтений с последующей экстраполяцией на все исходное множество. Идентификация состоит в определении неизвестных коэффициентов функции полезности (ФП).

Среди вариантов МЭЭО особое место занимает экстраполяция на основе построения функции правдоподобия [2], которая позволяет учитывать мнения группы экспертов, а значит, данный метод может быть использован как механизм голосования при коллективном выборе. Таким образом, по-видимому, не существует других процедур голосования, результат которых мог бы быть получен путем ранжирования малой выборки вариантов, следовательно, данный подход является перспективным.

Обоснование метода простейших вариантов группового МЭЭО было дано в [3]. В этой работе рассматривались два способа проведения экспертизы - упорядочение всей обучающей выборки и парные сравнения альтернатив. Попытки обобщения метода путем перехода на шкалы, более сильные, чем порядковая, показали, что решение задачи идентификации обобщенного критерия в общем случае возможно лишь при выполнении ряда допу-

Бугаев Юрий Владимирович - ВГТА, д-р физ.-мат. наук, профессор, тел. (4732) 55-25-50

Никитин Борис Егорович - ВГТА, канд. физ.-мат. наук, доцент, тел. (4732) 55-25-50

Чайковский Андрей Сергеевич - ВГТА, аспирант, тел. (4732) 55-25-50, Е-шаг chaikovsky@mail.ru

щений. Процедура проверки справедливости этих допущений не тривиальна, и предполагает решение ряда вспомогательных задач, решению которых и посвящена настоящая статья.

1. ММП в экстраполяции экспертных оценок

Исходной предпосылкой для МЭЭО является существование функции обобщенного критерия

F

где fu (х) - известные функции; bu - неизвестные

параметры (веса). На основе экспертного сравнения альтернатив из обучающей выборки строится система равенств и неравенств, описывающая область возможных значений вектора b коэффициентов функции (1).

В общем случае результат ранжирования обучающей выборки каждым r -м экспертом можно представить в виде матричного неравенства

C

где w - вектор полезностей альтернатив; C(r), r = 1, к, N - матрица, отображающая структуру упорядочения r -го эксперта; N - число экспертов. Способ построения матриц C(r) покажем на следующем примере.

Пример 1. Пусть имеем выборку из 4 альтернатив А1, к, А4 . Предположим, что эксперт про-ранжировал выборку на порядковой шкале следующим образом: А2 fAi fА3 fА4. В соответствие с данным упорядочением имеем систему неравенств: w2 - w1 > 0; w1 - w3 > 0; w3 - w4 > 0 . Следовательно, матрица C (1) , отображающая структуру упорядочения эксперта будет иметь вид:

C(1) =

-110 0 10 -10

0 0 1 -1

Суть применения ММП основывается на предположении о независимости и нормальности распределения результатов экспертного оценивания. При этом значение экспертной оценки полезности I -й альтернативы wi интерпретируется как некая случайная величина с математическим ожиданием а1. Будем также считать выборку однородной, в

силу чего оцененные полезности имеют одинаковую

2

дисперсию а , которую можно интерпретировать, как величину разногласия мнений экспертов. Каждый предложенный вариант ранжирования (2) интерпретируется, как некое случайное событие, вероятность которого вычисляется по формуле

Pr

Dr

где g (х, а, а) - плотность т - мерного нормального

распределения.

На основе этих данных строится функция правдоподобия

ь(кг, к 2,..., кх

Ж!

рчв). рк*

к,!... к,!

где кг - количество экспертов, выбравших г -й вариант упорядочения; в = (а1, ..., ат ,а)Т - вектор оцениваемых параметров. В результате ее максимизации находятся точечная оценка вектора а математических ожиданий ценностей V и параметра а .

Чтобы реализовать ММП, необходимо дополнить целевую функцию (4) уравнениями, связывающими вектор параметров в с коэффициентами ФП и решить полученную задачу математического программирования.

Успех решения этой задачи в первую очередь зависит от удачного выбора процедуры вычисления интегралов (3), в которых область интегрирования в общем случае представляет собой многогранный конус. Это приводит к необходимости решения следующих вычислительных задач.

1. Поиск подходящей замены переменных для упрощения процедуры численного интегрирования.

2. Вычисление конечных пределов и подбор процедуры численного интегрирования. Очевидно, области Dr, определяемые выражением (3), являются полубесконечными, поэтому необходимо свести пределы интегрирования к конечным, чтобы не использовать итерационные методы.

2. Замена переменных

Пусть ранжирование альтернатив по полезности г -м экспертом выражается неравенством (2). Сделаем замену переменных

^ = — С(г) м> > 0 .

а

В соответствии с правилами преобразования нормального распределения [4], данная замена, в случае невырожденности матрицы ССТ , преобразует плотность нормального распределения к виду

ё (У, Л) =

ай(ссТ)-1

(2*) *

1

2 ,

1

где d = — Са (верхний индекс матрицы С(г) опу-а

щен). Область интегрирования Dr, преобразуется

" 2 -1 0 . . 0"

-1 2 -1 . . 0

0 -1 2 . . 0

0 0 0 . . 2

при этом в неотрицательный ортант в п -мерном пространстве.

Проблема данной замены переменных состоит в необходимости обеспечения невырожденности матрицы ССТ . Выполнение этого условия определяется видом экспертной упорядоченности. Рассмотрим несколько случаев упорядочения.

1. Полное упорядочивание по убыванию полезности. Система (2) примет вид:

V > > к > Wm ,

номера альтернатив для простоты соответствуют их месту в упорядочении. Этот случай соответствует первому варианту ранжирования примера 1, матрица С преобразования (5) имеет т -1 строк и т столбцов. Тогда

ССТ =

Следовательно, при полном упорядочении альтернатив получаем невырожденную матрицу СС Т и преобразование (5) допустимо.

Согласно известному свойству [5], ранг матриц

С и СС Т совпадает. Следовательно, при приведенном упорядочении матрица С имеет полный ранг, равный числу ее строк.

2. Упорядочение отдельных групп альтернатив. Эксперт не всегда может сравнить между собой все альтернативы, в силу того, что некоторые пары по той или иной причине не поддаются анализу. В этом случае упорядочиваются отдельные группы альтернатив. Так, рассмотренные в примере 1 четыре альтернативы могут быть проранжированы следующим образом: А2 уА3 уА4 ; А1 уА4 . В данном случае отношение предпочтения в парах (А1, А2) и (Аь А3) не установлено.

Предположим, что данное упорядочение определяет на элементах выборки рефлексивное транзитивное бинарное отношение. Тогда построенная на его основе система неравенств (2) непротиворечива и множество ее решений имеет непустую внутренность. При таком упорядочении возможны случаи

вырожденности матрицы СС Т .

Если матрица экспертного упорядочивания является вырожденной то преобразование (5) к ней не допустимо, однако проблему может решить следующая проверка матрицы упорядочивания.

Пусть имеем систему линейных однородных неравенств вида

С,1х1 + С,2х2 + к + С,тхт > °, i = 1, к , п .

Обозначим X - область её решений. В общем случае часть неравенств является следствием остальных и их можно исключить из системы, область решений при этом не изменится.

Определение. Назовем существенными те неравенства системы (6), исключение которых приве-

дет к изменению области решений. Соответственно, несущественными назовем неравенства, исключение которых не повлечет изменения области решений.

Построим правило обнаружения несущественных неравенств.

Теорема. Для того, чтобы к -е неравенство системы (7) было существенным, необходимо и достаточно, чтобы существовал ненулевой вектор и, удовлетворяющий всем неравенствам системы, кроме к -го.

Доказательство. Необходимость. Пусть к -е неравенство является существенным, а, значит, его исключение повлечет за собой изменение области X, причем, очевидно, новая область решений будет шире исходной. Это означает, что найдется вектор и , который удовлетворяет новой системе неравенств и не удовлетворяет старой. Но эти системы отличаются только к -м неравенством. Значит, и удовлетворяет всем неравенствам системы (7), кроме к -го.

Также очевидно, что тривиальное решение х = 0 удовлетворяет любому неравенству системы (7). Поэтому, чтобы вектор и обладал указанным свойством, он должен быть отличным от 0.

Достаточность. Пусть нашелся вектор и Ф 0, удовлетворяющий всем неравенствам системы, кроме к -го. Предположим противное, что к -е неравенство несущественное. Тогда, как было сказано ранее, любое решение системы (7), из которой исключено к -е неравенство, автоматически должно удовлетворять и к -му. Т. е. получаем противоречие.

Применим данную теорему для построения процедуры обнаружения несущественных неравенств. Для этого каждое неравенство системы (7) надо проверить на соответствие условиям теоремы. Проверку можно свести к задаче линейного программирования вида

c11u1 + С12и2 + ••• + c1mum

c21u1 + С22U2 + • + c2mum

Ск1и1 + Ск2u2 + • + cmum

cn1u1 + cn2u 2 + • + cnmum

% ^ max, -1 < и j < 1, j = 1,..., m ,

при к = 1,..., n . Последнее ограничение необходимо, чтобы избежать бесконечно больших значений

Т-1 (-Ґ

Uj. Если в результате решения £

> 0 , то к -е

неравенство является существенным, если же %max = о, то несущественным.

3. Вычисление интегралов

Рассмотрим интеграл (3), с плотностью распределения вида (6). Вероятность такого события в этом случае примет вид

Ро =

J с.иггТ\-1 +ад +ад

( ) id Ur

J ил m J ил m-1

m

о о

+? -^y-d)T

dxi

Как было сказано выше, для вычисления интеграла необходимо воспользоваться безытерацион-ной процедурой численного интегрирования. Одной из таких является квадратурная формула Гаусса, но для того чтобы ею воспользоваться необходимо взять конечный верхний предел, так чтобы остаток был < е . В одномерном случае имеем соотношение вида

J f (x)dx = J f (x)dx + J f (x)dx

для которого можно определить значение р такое что |/2| < е . В многомерном случае точное значение остатка (12) рассчитать сложнее, поэтому будем определять его с запасом. Рассмотрим трехкратный интеграл

ад ад ад

dx2

J dx*i J dx2 J f (xi, x2, x3 )dx3

используя свойство аддитивности, представим его

как сумму двух интегралов

ад ад

ад ад

^ dx1 ^ dx 2 ^ fdx 3 + ^ dx1 | dx21 fdxз . а Ь d А Ь d

Проведя серию аналогичных преобразований, и в силу того, что f (x1, x2, x3) > 0 имеем

А В D А В ад

^ dx1 ^ dx 2 | /Ох3 + ^ dx1 ^ dx2 | /^3 + а Ь d а Ь D

ад ад

ад ад

- J dx1 J dx 2 J fdx3 + J dxi J dx 2 J fdx

з -

A b

A B

d

D

a B

ад ад

d

ад

J dx1 J dx 2 J fdx3 + J dx1 J dx 2 J fdx

a b d A -ад -ад

ад ад ад ад ад ад

J dx1 J dx 2 J fdx3 + J dx1 J dx2 J fdx

23 -ад B -ад -ад

A B D

-

3 -

-ад D

+ s

^ dx1 ^ dx 2 | fdx

3

а Ь d

В этих интегралах порядок номеров переменных интегрирования, считая, от внутреннего интеграла меняется посредством циклического сдвига:

(3, 2, 1), (1, 3, 2), (2, 1, 3). Таким образом, оценку

каждого интеграла можно проводить по единой формуле, с учетом порядка номеров переменных интегрирования.

Очевидно, в общем случае имеем оценку вида

e

—со

ад

ад

+

+

^ ^ ^2 m

J dxi J dx2 ... J fdxm - J dxi J dx2 ... J fdxm +

a1 a2 am a1 a2 am

о ад ад ад ад ад

J dx1 J dx2 ... J fdxm + к + J dXm J dx1 ••• J fdxm-1

адад

A -да -да Am -да -да

Подберем пределы Ai из условия ы <-, где

m

Ii - i -й по порядку интеграл. Имеем

f (У,d) =

det(CCT)-1

- ^ У-d )T

(2nf

Сделаем замену переменных х = y - d и

Ts-1

Z =

f (x1, к, xm ) =

в результате получим

-—xT Zx

det Z

i

x1

где x =

I

Представим матрицу Z в виде

T T T

Z = u^u^ + u2u2 + • • • + итит

где вектор u имеет (i -1) последних координат

Г S, Л 0

равных 0, а um =

v 0 /

где S1 - некоторый скаляр.

Подобное разложение соответствует представленной квадратичной форме xT Zx в виде

жТ= (xTu1)2 + (xTu2)2 + к + (xTum )2,

где 1-ое слагаемое содержит все т переменных, 2ое - не содержит xm и т.д. (xTum )2 = x12S12. Отсюда

- 1 ^ X12

. dxm = I------- I е 2 dx^

ад ад

I о = J dx1 J к J fdx 2

det Z 1(2п)m

J

Т T x um-1um-1x

2 dx0

—xTu1u1Tx 2 1 1 dxm

теории вероятности J... J fdx2... dxm = f (x1) -

-ад -ад

индивидуальная плотность распределения X1 и

f1( x1)=

1

1 x -2“T

a^2n следовательно

e 01 , но в силу (9) 1/ CTj = S1

о ад 1 S 2 x2

Si Г -^2 S1 x1

e 2

A,

dx1 = —SL= V2n

- Ai

dx1 =

І -----1

J e 2 dt = Ф(-A1S1).

гт-. , S , 1 -1 Ге^

Тогда, из условия I1 =— имеем A1 = - — Ф | — |.

Покажем, что 10 = Ф(-А1 ^1), где Ф(x) - интеграл вероятности. Согласно известной теореме

Воронежская государственная технологическая академия

е , 1 -1 I е

— имеем А1 =---------Ф I —

т Б1 ^ т ,

Аналогично получаются все пределы А,. Для этого надо использовать разложение (8) с разным порядком следования исключаемых переменных интегрирования.

Литература

1. Е.И Пустыльник, В.В. Сысоев, М.С. Чирко. Использование линейной модели для экстраполяции экспертных оценок // Автоматизация проектирования. М. : МДНТП, 1981. С. 46 - 50.

2. Д.Б Десятов, В.В. Сысоев, М.С. Чирко. Принятие решений на основе экспертных оценок с использованием метода максимального правдоподобия // Автоматизация проектирования производственных систем. Воронеж: ВПИ, 1984. С. 32 - 36.

3. Ю.В. Бугаев. Экстраполяция экспертных оценок в оптимизации технологических систем // Изв. АН. Теория и системы управления. 2003, № 3. С. 90 -96.

4. Т. Андерсон. Введение в многомерный статистический анализ / Пер. с англ. М. : Физматгиз, 1963. 500 с.

5. Е. З. Демиденко. Линейная и нелинейная регрессии. М. : Финансы и статистика, 1981. 302 с.

Работа выполнена в рамках Госконтракта № П947 от 20.08.09 г.

ад

1

—оо

2

e

X

—со

со

ад

ад

ад

THE CALCULATING PROBLEMS OF THE CHOICE MODEL SYNTHESIS BY METHOD OF THE MAXIMUM CREDIBILITY Yu.V. Bugaev, B.E. Nikitin, A.S. Chaikovsky

In article Computing problems of synthesis of model of a choice on the basis of a method of extrapolation of expert marks are considered. Definitions of essential and insignificant inequalities are entered. The theorem of an exception of insignificant inequalities is formulated and proved. The method of calculation of multidimensional integrals is considered by a method of Gaussa

Key words: alternative; function of the generalised criterion, a method of the maximum credibility, a method of extrapolation of expert estimations