Гибридизация методов зондирования области поиска и адаптивных взвешенных сумм в задаче Парето-аппроксимации

Наука и Образование

МГТУ им. Н.Э. Баумана

Сетевое научное издание

ISSN 1994-0408

Наука и Образование. МГТУ им. Н.Э. Баумана. Электрон. журн. 2015. № 09. С. 262-278.

Б01: 10.7463/0915.0801616

Представлена в редакцию: 29.08.2015 Исправлена: 10.09.2015

© МГТУ им. Н.Э. Баумана

УДК 519.6

Гибридизация методов зондирования области поиска и адаптивных взвешенных сумм в задаче Парето-аппроксимации

профессор, Д.ф.-М.н. Карпенко А. П.1'*, ''аркафепко^тадкги

Платицын В. И.1, Савелов А. С.1

1МГТУ им. Н.Э. Баумана, Москва, Россия

В работе предложены модификации метода адаптивных взвешенных сумм (Adaptive Weighted Sum, AWS), которые предполагают построение метамоделей целевых функций с помощью зондирования области поиска. Рассмотрены методы зондирования, основанные на гиперкубовых и гиперсферических сетках (планах) типа «латинский гиперкуб», равномерная случайная сетка, ЛПтау-сетка . Представлено программное обеспечение, реализующее указанные методы зондирования. Эффективность разработанных алгоритмов и программного обеспечения исследована на ряде тестовых задач многоцелевой оптимизации с использованием двух индикаторов качества Парето-аппроксимации среднее расстояние (GD) точек полученной аппроксимации до точного фронта Парето и среднее рассеяние (SP) между точками этой аппроксимации. Представлены результаты исследования, показывающие перспективность использования ЛПтау-сеток.

Ключевые слова: многокритериальная оптимизация; Парето-аппроксимация; метод адаптивных взвешенных сумм; метод зондирования

Введение

Классические методы решения задачи многоцелевой оптимизации (МЦО-задачи) основаны на использовании тем или иным образом формализованной информации о предпочтениях лица, принимающего решения (ЛИР). На этой основе задачу удается свести к совокупности задач глобальной одноцелевой оптимизации. Относительно новый и быстро развивающийся класс методов решения МЦО-задачи образуют методы Парето-аппроксимации, предполагающие предварительное построение некоторой конечномерной аппроксимации множества, а тем самым, и фронта Парето этой задачи. Затем эта аппроксимация предъявляется ЛИР, который формализованными или неформальными методами выбирает из нее одно из решений.

Известно большое число популяционных и непопуляционных методов построения Парето-аппроксимации. Характерной чертой непопуляционных методов является

отыскание на каждой итерации метода всего одной или нескольких точек, близких к множеству (фронту) Парето. Основными классами непопуляционных методов являются сеточные методы и методы на основе свертки целевых функций [1]. В отличие от этого, популяционные методы предполагают отыскание на каждой итерации набора точек, близких к множеству или к фронту Парето. К популяционным методам относятся методы лексикографической турнирной селекции, чередующихся целевых функций, методы, использующие ранжирование агентов популяции, и методы, не использующие такое ранжирование [1].

Работа посвящена исследованию эффективности нескольких авторских модификаций метода адаптивных взвешенных сумм (Adaptive Weighted Sum, AWS), предложенного в работе Рю, Ким и Ван (J-H. Ryu, S. Kim, H. Wan) [2]. Для решения задачи Парето-аппроксимации метод AWS использует аддитивную свертку частных целевых функций. Однако в отличие от классического метода суммы взвешенных критериев (Weighted Sum, WS), также использующего такую свертку, метод AWS предполагает адаптацию весовых коэффициентов в процессе итераций на основе информации о текущем положении подобласти поиска (области доверия).

Целью разработки AWS-метода было построение Парето-аппроксимации для МЦО-задач с вычислительно сложными целевыми функциями, структура которых неизвестна. Такие задачи возникают, например, при многоцелевой оптимизации конструкций в системах автоматизированного проектирования. Эффективное решение данного класса задача в методе AWS достигается за счет использования квадратичной аппроксимации целевых функций в текущей области доверия, то есть за счет использования квадратичных метамоделей (суррогатных моделей) этих функций [3, 4].

В оригинальной версии метода AWS указанные метамодели строят на основе градиента и матрицы Гессе целевых функций. В данной работе для построения (квадратичных) метамоделей целевых функций используем методы теории планирования экспериментов [5], которые предполагают вычисление значений этих функций в узлах сетки, покрывающей область доверия (метод зондирования области поиска). Можно, очевидно, предложить большое число методов зондирования. В этой связи возникает вопрос о наилучшем в некотором смысле методе. В работе рассмотрено две группы методов зондирования - методы на основе гиперкуба и методы на основе гиперсферы. Для каждой из этих групп на ряде тестовых МЦО-задач выполнено исследование эффективности следующих сеток: «латинский гиперкуб» [6]; сетка, являющаяся равномерно случайной по каждому из измерений; сетка, основанная на ЛПТ последовательностях [7].

Работа построена следующим образом. В первом разделе дана постановка МЦО-задачи. Во втором разделе представлен метод AWS в его исходном виде. Третий раздел содержит описание предложенных модификаций метода. В четвертом разделе рассмотрено программное обеспечение, реализующее модифицированный метод AWS.

Пятый раздел посвящен вычислительным экспериментам по исследованию эффективности разработанного алгоритмического и программного обеспечений. Работа поддержана грантом РФФИ № 15-07-01764.

1. Постановка задачи Парето-аппроксимации

Пусть областью допустимых значений вектора варьируемых параметров X является ограниченное и замкнутое множество с {X} = . Положим, что целевая вектор-функция F

1^1 (Л)} со значениями в целевом пространстве

{F} = R определена в области Dx. ЛПР стремится минимизировать в этой области каждую из частных целевых функций f1(Л), f2(Л),..., fF|(Л) , что условно записываем в виде

min F (Л ) = F (Л *) = F

Л е%

у* Z7*

где векторы Л , F - искомое решение задачи многокритериальной оптимизации.

Здесь и далее запись вида |A|, где A - вектор или некоторое счетное множество,

означает размерность этого вектора или мощность множества соответственно.

Положим, что частные целевые функции тем или иным образом нормализованы, так

что f (Л) е [0; 1] для любого Л е Dx; i е [1:| F |].

Вектор-функция F(X) выполняет отображение множества Dx во множество

Df е {F}, которое называется множеством достижимости. Множество и фронт Парето

обозначаем Dx с Dx, DF с DF, а их конечномерные аппроксимации 0Х, 0F соответственно. Последние множества называем аппроксимирующими.

2. Схема метода адаптивных взвешенных сумм

Метод AWS в своем исходном варианте ориентирован на решение двухцелевой МЦО-задачи и включает в себя три следующие основные процедуры:

- определение центральной точки;

- формирование метамоделей частных критериев оптимальности;

- решение оптимизационных задач на основе полученных метамоделей. Рассмотрим суть указанных процедур. Детальное изложение этих процедур дано в

работе [2].

Определение центральной точки. На этапе инициализации центральную точку Л0 выбираем случайным образом в области D . На этом же этапе должны быть определены следующие свободные параметры алгоритма: S - начальный радиус области доверия

(trust region radius); ре (0;1) - коэффициент сужения этой области; Smin - минимальная величина радиуса области.

На итерации (t +1) центральную точку X' = X отыскиваем среди точек текущей Парето-аппроксимации 0X = 0X (t), построенной на предыдущей итерации t. Здесь j -индекс точки множества , которой соответствует наиболее изолированная точка множества 0р [2].

Формирование метамоделей. Метамодели представляют собой квадратичные аппроксимации m[(X), m'2(X) функций f (X), f (X) в окрестности точки X'c :

Здесь Vfi (X'C), Ht (X'c ) - градиент и матрица Гессе функции f (X) в точке X'C соответственно; i = 1, 2.

Если \QX \ = \Qf\ = |0 > 2, то дополнительно строим метамодели

m'p (X) = jjpm (X) + m2 (X),

m'q (X)=%m (X)+jqm2(X), а если |0 = 2 или |0 = 1 - метамодель

m'p (X) = (X) + m2 (X) ^

Здесь Я1, Äp , Ä, - весовые множители.

Решение оптимизационных задач (рисунок 1). Данная процедура предполагает решение задач оптимизации

min m;

X sDC

где текущую область доверия (trust region) D'c определяет формула

X;, X; - приближенно оптимальные по Парето точки, принадлежащие области D С . Если |0 > 2, то задачи оптимизации (1) приобретают вид

min m'p

л

О

к. \ ч \ V Ч \

V--- рА "V-^. / \ /ч "уС \ d'c

\ / Ч \ , ч 1 \ \ . ......ч f' \

\  \

\ \ X 1

ч \ \ "" -о ч

1 \ \d; f(fg)\ \ Fi \ \ J -1 \

Л

Рисунок 1 - К схеме методаAWS: результаты решения задач

Отметим, что задачи (1), (2) представляют собой задачи оптимизации квадратичных функций, для решения которых известны высокоэффективные методы, алгоритмы и соответствующее программное обеспечение.

В процессе итераций текущий радиус области доверия уменьшаем по правилу

5 = р5 до достижения минимально допустимой величины 5min. Новое состояние

аппроксимирующего множества 0Х получаем путем добавления в него точек Xj , X '2 ,

X'p , X' и исключения из полученного набора доминируемых решений. Аналогично,

множество &р образуем путем добавления в него точек F

3. Модификации метода адаптивных взвешенных сумм

Рассматриваем две группы модификаций, использующие в качестве области доверия: 1) гиперкуб К со стороной а и с центром в центральной точке

Хс = (Х-д?хс,2'---хс,|х|) этой области, 2) гиперсферу Г радиуса а/2 с центром в той

же точке. Каждая из групп модификаций включает в себя следующие типы сеток:

- латинский гиперкуб [6];

- сетка, являющаяся равномерно случайной по каждому их измерений;

- сетка, основанная на ЛПТ последовательностях [7].

Заметим, что в случае использования области доверия в виде гиперсферы сетку на основе латинского гиперкуба можно отнести к указанному классу экспериментальных

планов лишь условно, поскольку речь в этом случае идет не о декартовом пространстве, но о пространстве полярных координат.

Полагаем далее, что N - число вычислений значений (испытаний) целевых функций с целью зондирования области доверия с помощью данной сетки (плана).

3.1. Гиперкубовые методы зондирования

Латинский гиперкуб. За основу возьмем класс планов, исследуемых в теории планирования эксперимента [6], основная реализационная идея которых состоит в том, что ни для каких двух точек плана их проекции на координатные оси не должны совпадать.

Схема алгоритма имеет следующий вид.

1) Строим (N х |Х|)-матрицу В = {Ьг,у } , столбцами которой являются случайные перестановки без повторений набора чисел 1, •

2) В качестве пробной точки Qi, г е [1: N] используем точку с координатами

' 1Л

а а

Ч, , = хс ,--+ —

1,] с,] 2 N

Ь -V 2

у

ге[1:| X ].

Случайные последовательности. Суть алгоритма состоит в покрытии каждого из у-ых координатных ребер куба К сеткой с N узлами, которые представляют собой элементы случайной последовательности, равномерно-распределенной на интервале [хсу -а/2; хсу + а/2]; у е [1: |Х|]. Таким образом, схема алгоритма имеет следующий вид.

1) Генерируем (№ х |Х|)-матрицу В, столбцами которой являются элементы случайной последовательности, равномерно-распределенной в указанном интервале.

2) В качестве пробной точки Qг, г е [1: N] используем точку с координатами

Чу = Ку, у е[1: X].

ЛП-тау последовательности. Координаты зондирующих точек {Q} определяем со

следующей схеме [7]. 1) По формуле

V = гл

у у к г.к

^т , у е[1: X], к £[1:/]

вычисляем значения направляющих чисел, где Гу к - табулированные значения величины числителей направляющих чисел; / - минимальное целое число, удовлетворяющее условию N < 2

2) Записываем номер точки г е [1: N] в двоичной системе счисления в форме

г(2) = ет ...^2^1 .

3) Находим нормированные координаты точки Qi, г е [1: N] по формуле

= е1 у * е2 V,2 * ...* ет Vт е [0;1], у е [1: |X], где * - символ поразрядного сложения по модулю два в двоичной системе.

4) В качестве пробной точки Qi, г е [1: N] используем точку с координатами

Ч Ц = * с, ] + ЩI , ;, у е [1: XI ]-

3.2. Методы зондирования на основе гиперсферы

Латинский гиперкуб. Схема алгоритма генерации зондирующих точек на основе латинского гиперкуба имеет следующий вид.

1) Аналогично п. 3.1 строим (NхX)-матрицу В .

2) В качестве радиуса-вектора р1 зондирующей точки ^ принимаем значение

' 1Л

а

рг =

2 N

Л- 2,

V 2 у

, г е [1: N ].

3) Находим углы обобщенной сферической системы координат [8]

2ж

а ,1 =

N

V

Ьг ,2 - 1 2

ж ж 1

агт + ^ (Ьгт - ^ г е[1: Щ.

4) Находим направляющие косинусы

т е[2: X-1].

5) Находим декартовы координаты точки Qi:

Чгу == р/г у г е[1: N], у е[1: X].

Случайные последовательности и ЛП-тау последовательности. Процедура генерации зондирующей точки Qi, г е [1: N] в данном случае имеет следующий вид. 1) По схеме пункта 3.1 получаем зондирующую точку Qi.

2) Проверяем точку Qi на предмет выполнения ограничения

Если ограничение выполняется, переходим к генерации (/+1)-ой точки. В противном случае повторно генерируем i-ую зондирующую точку; / £ [1: Щ .

Теоретическим основанием для применения описанной выше процедуры является

тот факт, что последовательность точек {Qi} является равномерно распределенной [7].

4. Программная реализация модифицированного метода AWS

В силу кроссплатформенности и высокой эффективности в качестве языка программирования использован язык C#. Разработка программы выполнена с использованием среды разработки программного обеспечения VisualStudio 2013, функционирующей под управлением операционной системы Microsoft Windows 7. Для графического вывода результатов работы программы использован редактор электронных таблиц Microsoft Excel. Общий объем программного кода составляет около 1000 строк.

Ниже представлены основные классы программной модели:

- Main реализует метод A WS;

- Point вычисляет значения целевых функций в заданной точке;

- ViewForm отображает основную экранную форму программы, позволяющую задать значения свободных параметров метода и выбрать алгоритм зондирования, а также реализует вывод результатов работы программы в файл Excel;

- funcI реализует различные алгоритмы зондирования области доверия;

- F1, F2 реализуют вычисление значений целевых функций;

- oneDx определяет область Dx допустимых значений вектора варьируемых параметров.

5. Исследование эффективности модификаций метода AWS

5.1. Тестовые функции

Для исследования эффективности методов Парето-аппроксимации обычно используют тестовые МЦО-задачи известных наборов ZDT [9]. При этом выделяют следующие классы тестовых задач: задачи с непрерывным выпуклым фронтом Парето; аналогичные задачи с вогнутым фронтом Парето; задачи с разрывным (несвязным) фронтом Парето. Оценка эффективности предложенных модификаций метода AWS выполнена на следующих представителях указанных классов задач [9].

Задача ZDT7:

/

( \ XI х

g() = g(х,...^)=1 + 9• £ р^;

к( X) = 1 -

/

g

Задача является тридцатимерной и двухкритериальной, имеет непрерывный выпуклый фронт Парето (рисунок 3).

Двумерная, двухкритериальная задача Аудета (С. Audet):

Бх= {XI 0 < х < 1, г = 1, 2};

/ (X) = /1(х1) = 4 • / (X )=g (X) • к(X);

g (X ) = g (х2) = 4 - 3 •

ехр

( гх2 - 0,2 !Л

0,02

Фронт Парето данной задачи - непрерывный; значению а = 0,25 соответствует выпуклое

множество Парето, а а = 4 - невыпуклое (рисунок 5). Тридцатимерная, двухкритериальная задача ZDT3 :

Вх= {XI 0 < х < 1, г е [1: X ], IX = 30};

/ (X )=/ (хг) = х;

/2 (X ) =g (X) •

1 -

Ш1 - Ш1 • З1п

g

( \ XI

£(X) = g(х2, ..„х^)= 1 + 9•Х

х.

г = 2

X -1

Сложность задачи обусловлена несвязным, хотя и выпуклым, фронтом Парето (рисунок 7).

5.2. Оценка качества Парето-аппроксимации

При решении МЦО-задачи методом Парето-аппроксимации существенно значение имеют используемые индикаторы качества аппроксимаций. Эти индикаторы могут быть построены на основе большого числа унарных и бинарных критериев качества Парето-аппроксимации. В работе в качестве таких критериев используем два следующих унарных критерия [10].

Среднее расстояние (GD) до точного фронта (Generalization Distance) определяет формула

igd (©) =

V j=

F , F

e

\

\f\

J

0

^ min

где F * - ближайшая к точке F точка множества D*

|| - евклидова векторная норма.

Критерий характеризует близость найденных решений к точному фронту Парето D* .

Среднее рассеяние (SP) точек полученной Парето-аппроксимации (Spacing) представляет собой меру равномерности распределения решений этой аппроксимации. Критерий задает формула

где

isp (0) =

dj =

joj—y S abs{d - dj)

^ min

min

F

минимальное манхеттоновское расстояние

M

IIM

между решением F( X ) и

остальными аппроксимирующими решениями; а - среднее всех этих величин.

В качестве индикаторов качества Парето-аппроксимации используем оценки математического ожидания критериев ОБ, £Р, полученные методом мультистарта по т стартам исследуемого алгоритма. Подчеркнем, что тем самым задача оценки качества Парето-аппроксимации в работе рассматривается как двухцелевая.

5.3. Вычислительный эксперимент

Результаты экспериментов для задачи 2БТ7 представлены в таблице 1 и на иллюстрирующем ее рисунке 2. Здесь и далее число стартов алгоритма т принято равным 50; на каждой итерации число испытаний N каждой из целевых функций в пределах области доверия равно 500; ЛПТ-последовательность означает последовательность ЛПГ. Характер аппроксимации фронта Парето показывает рисунок 3.

Таблица 1 - Результаты экспериментов: тестовая задача ZDT7

Метод зондирования Индикатор качества

ОБ SP

Гиперкуб Латинский гиперкуб 0,027 0,024

Случайная последовательность 0,057 0,025

ЛПТ-последовательность 0,056 0,015

Гиперсфера Латинская гиперсфера 0,061 0,022

Случайная последовательность. 0,062 0,021

ЛПТ-последовательность 0,064 0,020

Рисунок 2 - Результаты экспериментов: задача ZDT7

Рисунок 3 - Аппроксимация фронта Парето: задача ZDT7; метод зондирования - гиперкуб на основе точек

ЛПт последовательности

Аналогичные результаты для задачи Аудета представлены в таблице 2 и на рисунках 4, 5, а для задачи ZDT3 - в таблице 3 и на рисунках 6, 7.

Таблица 2 - Результаты экспериментов: тестовая задача Аудета

Метод зондирования Индикатор качества

ОБ SP

Гиперкуб Латинский гиперкуб 0,110 0,016

Случайная последовательность 0,106 0,016

ЛПТ-последовательность 0,103 0,015

Гиперсфера Латинская гиперсфера 0,110 0,016

Случайная последовательность 0,115 0,016

ЛПТ-последовательность 0,101 0,016

Рисунок 4 - Результаты экспериментов: задача Аудета

Рисунок 5 - Аппроксимация фронта Парето: задача Аудета; метод зондирования - гиперсфера на основе

точек ЛПт последовательности

Таблица 3 - Результаты экспериментов: тестовая задача ХОТ3

Метод зондирования Индикатор качества

ав ЪР

Гиперкуб Латинский гиперкуб 0,031 0,030

Случайная последовательность 0,025 0,030

ЛПТ-последовательность 0,002 0,017

Гиперсфера Латинская гиперсфера 0,023 0,026

Случайная последовательность 0,016 0,034

ЛПТ-последовательность 0,014 0,022

Рисунок 6 - Результаты экспериментов: задача ХОТЬ

Рисунок 7 - Аппроксимация фронта Парето: задача ХОТ3; метод зондирования - гиперкуб на основе точек

ЛПт последовательности

На основе анализа представленных результатов можно сделать следующие выводы.

1) В случае тестовой задачи Аудета имеют место очень близкие значения обоих индикаторов качества Парето-аппроксимации для всех рассматриваемых методов зондирования (таблица 2).

2) При решении задач ZDT7, ZDT3 для различных методов зондирования значения индикатора 8Р изменяется примерно до двух раз, а индикатора GD - более чем в 10 раз (таблица 3). Такой широкий разброс значений индикаторов качества Парето-аппроксимации нельзя объяснить статистическими погрешностями.

3) Для задачи ZDT^ невозможно выделить метод зондирования, являющийся одновременно лучшим по обоим индикаторам качества: по индикатору GD лучшим является метод на основе латинского гиперкуба (с более чем двух кратным отрывом от худшего результата), а лучшим по индикатору 8Р - метод на основе гиперкубовой ЛПт последовательности (с отрывом примерно в 1,5 раза). Такая ситуация свидетельствует о противоречивости индикаторов GD, 8Р и является типичной для МЦО-задач. Выбор лучшего метода зондирования в этом случае может быть выполнен только ЛПР на основе его неформализованных или тем или иным образом формализованных предпочтений [11].

4) Для задачи ZDT3 результаты вычислительного эксперимента имеют принципиально иной характер: как по индикатору GD, так и по индикатору лучшим является метод зондирования на основе гиперкубовой ЛПт последовательности. При этом по первому индикатору разрыв между лучшим и худшим результатами составляет примерно 15 раз, а по второму индикатору - примерно 2 раза.

Заключение

В работе предложены модификации метода адаптивных взвешенных сумм, которые предполагают построение метамоделей целевых функций с помощью зондирования области поиска. Рассмотрены методы зондирования, основанные на гиперкубовых и гиперсферических сетках (планах) типа «латинский гиперкуб», равномерная случайная сетка, ЛПт-сетка. Представлено программное обеспечение, реализующее указанные методы зондирования. Эффективность разработанных алгоритмов и программного обеспечения исследована на ряде тестовых задач многоцелевой оптимизации с использованием двух индикаторов качества Парето-аппроксимации - среднее расстояние (GD) точек полученной аппроксимации до точного фронта Парето и среднее рассеяние (£Р) между точками этой аппроксимации.

Результаты вычислительных экспериментов показывают наличие зависимости, иногда сильной, качества Парето-аппроксимации от используемого метода зондирования. Этот вывод показывает целесообразность дальнейших исследований эффективности различных методов зондирования. С этой целью авторы планируют использовать более широкий и сложный набор тестовых функций [12], рассмотреть другие индикаторы качества Парето-аппроксимации.

Результаты исследования позволяют сформулировать следующую гипотезу: для всех классов задач Парето-аппроксимации метод зондирования на основе ЛПт последовательностей дает хорошие результаты по обоим индикаторам качества

аппроксимации. Для доказательства (или опровержения) этой гипотезы также необходимы дополнительные вычислительные эксперименты.

Список литературы

1. Карпенко А.П. Современные алгоритмы поисковой оптимизации. Алгоритмы, вдохновленные природой: учеб. пособие. М.: Изд-во МГТУ им. Н.Э. Баумана, 2014. 446 с.

2. Jong-hyun Ryu, Sujin Kim, Hong Wan. Pareto front approximation with adaptive weighted sum method in multiobjective simulation optimization // Proceedings of the 2009 Winter Simulation Conference. IEEE Publ., 2009. P. 623-633. DOI: 10.1109/WSC.2009.5429562

3. Koziel S., Ciaurri D.E, Leifsson L. Surrogate-Based Methods // Computational Optimization, Methods and Algorithms / ed. by S. Koziel, Xin-She Yang. Springer Berlin Heidelberg, 2011. P. 33-59. DOI: 10.1007/978-3-642-20859-1 3

4. Бурнаев Е.В., Приходько П.В. Методология построения суррогатных моделей для аппроксимации пространственно неоднородных функций // Труды МФТИ. 2013. Т. 5, № 4. С. 122-132.

5. Сидняев Н.И. Теория планирования эксперимента и анализ статистических данных. М.: Юрайт, 2012. 399 с.

6. Santner T.J., Williams B.J, Notz W.I. The Design and Analysis of Computer Experiments. Springer New York, 2003. 285 p. DOI: 10.1007/978-1-4757-3799-8

7. Соболь И.М., Статников Р.Б. Выбор оптимальных параметров в задачах со многими критериями. М.: Дрофа, 2006. 175 с.

8. Субочев С.Д. Применение многомерных сферических координат для численного интегрирования и некоторых других задач // Информационно-управляющие системы. 2005. № 3. С. 15-22.

9. Deb K., Thiele L., Laumanns M., Zitzler E. Scalable multi-objective optimization test problems // Proc. Congress on Evolutionary Computation (CEC'02). Vol. 1. IEEE Publ., 2002. P. 825-830. DOI: 10.1109/CEC.2002.1007032

10. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation. 2000. Vol. 8, no. 2. P. 173-195. DOI: 10.1162/106365600568202

11. Karpenko A.P., Moor D.A., Mukhlisulina D.T. Multicriteria optimization based on neural network, fuzzy and neuro-fazzy approximation of decision maker utility function // Optical Memory and Neural Networks (Information Optics). 2012. Vol. 21, no. 1. P. 1-10. DOI: 10.3103/S1060992X12010031

12. Qingfu Zhang, Aimin Zhou, Shizheng Zhaoy, Ponnuthurai Nagaratnam Suganthany, Wudong Liu, Santosh Tiwariz. Multiobjective optimization Test Instances for the CEC 2009 Special Session and Competition. Technical Report CES-487. Department of Mechanical Engineering, Clemson University, Clemson, US, 2009. 30 p

Science and Education of the Bauman MSTU, 2015, no. 09, pp. 262-278.

DOI: 10.7463/0915.0801616

Received: Revised:

29.08.2015 10.09.2015

Science^Education

of the Bauman MSTU

I SS N 1994-0408 © Bauman Moscow State Technical Unversity

Hybridization of Sensing Methods of the Search Domain and Adaptive Weighted Sum in the Pareto Approximation Problem

A.P. Karpenko1'*, V.l. Platitsyn1, 'apkaipenkoigmailju

A.S. Savelov1

1Bauman Moscow State Technical University, Moscow, Russia

Keywords: multi-criterion optimization; Pareto approximation; method of Adaptive Weighted Sum;

sensing method

We consider the relatively new and rapidly developing class of methods to solve a problem of multi-objective optimization, based on the preliminary built finite-dimensional approximation of the set, and thereby, the Pareto front of this problem as well. The work investigates the efficiency of several modifications of the method of adaptive weighted sum (AWS). This method proposed in the paper of Ryu and Kim Van (JH. Ryu, S. Kim, H. Wan) is intended to build Pareto approximation of the multi-objective optimization problem.

The AWS method uses quadratic approximation of the objective functions in the current sub-domain of the search space (the area of trust) based on the gradient and Hessian matrix of the objective functions. To build the (quadratic) meta objective functions this work uses methods of the experimental design theory, which involves calculating the values of these functions in the grid nodes covering the area of trust (a sensing method of the search domain). There are two groups of the sensing methods under consideration: hypercube- and hyper-sphere-based methods. For each of these groups, a number of test multi-objective optimization tasks has been used to study the efficiency of the following grids: "Latin Hypercube"; grid, which is uniformly random for each measurement; grid, based on the LP T sequences.

References

1. Karpenko A.P. Sovremennye algoritmy poiskovoi optimizatsii. Algoritmy, vdokhnovlennye prirodoi [Modern algorithms of search engine optimization. Nature-inspired optimization algorithms]. Moscow, Bauman MSTU Publ., 2014. 446 p. (in Russian).

2. Jong-hyun Ryu, Sujin Kim, Hong Wan. Pareto front approximation with adaptive weighted sum method in multiobjective simulation optimization. Proceedings of the 2009 Winter Simulation Conference. IEEE Publ., 2009, pp. 623-633. DOI: 10.1109/WSC.2009.5429562

3. Koziel S., Ciaurri D.E, Leifsson L. Surrogate-Based Methods. In: Koziel S., Xin-She Yang, eds. Computational Optimization, Methods and Algorithms. Springer Berlin Heidelberg, 2011, pp. 33-59. DOI: 10.1007/978-3-642-20859-1 3

4. Burnaev E.V., Prikhodko P.V. Methodology of building surrogate models for inhomogenous functions. Trudy MFTI, 2013, vol. 5, no. 4, pp. 122-132. (in Russian).

5. Sidnyaev N.I. Teoriyaplanirovaniya eksperimenta i analiz statisticheskikh dannykh [Experimental design theory and statistical data analysis]. Moscow, Yurait Publ., 2012. 399 p. (in Russian).

6. Santner T.J., Williams B.J, Notz W.I. The Design and Analysis of Computer Experiments. Springer New York, 2003. 285 p. DOI: 10.1007/978-1-4757-3799-8

7. Sobol' I.M., Statnikov R.B. Vybor optimal'nykh parametrov v zadachakh so mnogimi kriteriyami [The choice of optimal parameters in problems with many criteria]. Moscow, Drofa Publ., 2006. 175 p. (in Russian).

8. Subochev S.D. Multidimensional spherical coordinate application for numerical integration and some other tasks. Informatsionno-upravliaiushchie sistemy = Information and Control Systems, 2005, no. 3, pp. 15-22. (in Russian).

9. Deb K., Thiele L., Laumanns M., Zitzler E. Scalable multi-objective optimization test problems. Proc. Congress on Evolutionary Computation (CEC'02). Vol. 1. IEEE Publ., 2002, pp. 825-830. DOI: 10.1109/CEC.2002.1007032

10. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results. Evolutionary Computation, 2000, vol. 8, no. 2, pp. 173-195. DOI: 10.1162/106365600568202

11. Karpenko A.P., Moor D.A., Mukhlisulina D.T. Multicriteria optimization based on neural network, fuzzy and neuro-fazzy approximation of decision maker utility function. Optical Memory and Neural Networks (Information Optics), 2012, vol. 21, no. 1, pp. 1-10. DOI: 10.3103/S1060992X12010031

12. Qingfu Zhang, Aimin Zhou, Shizheng Zhaoy, Ponnuthurai Nagaratnam Suganthany, Wudong Liu, Santosh Tiwariz. Multiobjective optimization Test Instances for the CEC 2009 Special Session and Competition. Technical Report CES-487. Department of Mechanical Engineering, Clemson University, Clemson, US, 2009. 30 p.