О решении сложных задач многокритериальной оптимизации модифицированными эвристическими стохастическими процедурами прямого поиска

УДК 519.6

В. Б. Звонков, Е. С. Семенкин

О РЕШЕНИИ СЛОЖНЫХ ЗАДАЧ МНОГОКРИТЕРИАЛЬНОЙ ОПТИМИЗАЦИИ МОДИФИЦИРОВАННЫМИ ЭВРИСТИЧЕСКИМИ СТОХАСТИЧЕСКИМИ ПРОЦЕДУРАМИ ПРЯМОГО ПОИСКА*

Проведен анализ эффективности самонастраивающегося генетического алгоритма и адаптивной гибридной стохастической процедуры на репрезентативном множестве тестовых и реальных прикладных экономических задач. Сравнение со стандартным генетическим алгоритмом показало целесообразность применения предложенных модификаций.

Ключевые слова: генетический алгоритм, автоматическая настройка, адаптивная гибридная стохастическая процедура, многокритериальная оптимизация.

На современном этапе развития человеческого общества все большее значение в повседневной жизни преобретают сложные технические, технологические, экономические и социальные процессы.

Эти процессы предъявляют высокие требования к системам управления, которые должны обрабатывать значительные объемы информации, мгновенно принимать решения и т. д. А поскольку человеческий потенциал является ограниченным, т. е. в силу своих биологических особенностей человек не способен обрабатывать гигабайты «сырой» информации, мгновенно принимать решения, работать в опасной для здоровья среде, то необходимо исключить участие человека из таких процессов. Однако существующие системы автоматического управления во многих случаях не могут обеспечить достаточную интеллектуальность при принятии решений.

В настоящее время актуальной научной задачей является разработка управленческих систем не с жесткой, а с гибкой архитектурой, способных изменять свои свойства в процессе решения задач на основании накопленной информации и имеющихся знаний с целью приспособления к условиям окружающей среды. В качестве интеллектуальных агентов при решении многих задач широкое применение нашли эволюционные алгоритмы.

Модификации стандартного эволюционного алгоритма. Для эффективного решения задач безусловной и условной однокритериальной оптимизации, а также безусловной многокритериальной оптимизации (в сочетании с методом учета многокритериаль-ности SPEA [1]) был разработан, протестирован и апробирован при решении ряда экономических задач, основанных на реальных данных, самонастраивающийся генетический алгоритм [2], обеспечивающий автоматическую настройку основных параметров эволюционного алгоритма (типа селекции, уровня мутации и типа скрещивания) в ходе решения оптимизационной задачи, без использования априорной информации об эффективности алгоритмических схем эволюционного алгоритма, а также о свойствах задачи и поискового пространства.

Принцип работы предложенного алгоритма состоит в вероятностном выборе основных генетических

операторов на основании информации о средней пригодности порожденных потомков с помощью каждой рассматриваемой и автоматически настраиваемой алгоритмической схемы. Изначально вероятности выбора любой настройки или комбинации настроек равны. Адаптация алгоритма обеспечивается при помощи перераспределения вероятностей, когда для лучших комбинаций они увеличиваются, а для худших уменьшаются.

Для эффективного решения задач безусловной и условной многокритериальной оптимизации была разработана, протестирована и апробирована на реальных экономических задачах адаптивная гибридная стохастическая процедура [3].

Адаптивная гибридная стохастическая процедура в качестве алгоритмического ядра использует самонастраивающийся генетический алгоритм [2], а в качестве метода учета многокритериальности задачи - метод SPEA [1]. Новизна данной процедуры состоит в оригинальной самонастройке основных параметров генетического алгоритма, а также в использовании локального поиска для улучшения парето-опти-мальных решений, найденных эволюционным алгоритмом [3]. В отличие от классического подхода, локальный поиск здесь используется на каждом поколении, а не только по окончании работы генетического алгоритма. С его помощью осуществляется учет ограничений задачи путем перевода недопустимых индивидов в область допустимых решений.

Рассматриваемые задачи и методика численных экспериментов. В качестве тестовых задач безусловной и условной однокритериальной оптимизации использовался стандартный набор задач [4]. Это задачи нелинейной оптимизации многоэкстремальных функций многих вещественных переменных (после бинаризации длина хромосом составляет 46...50 бит). Целевые функции не имеют свойства дифференцируемости, но обладают большим количеством локальных оптимумов, слабо отличающихся от глобального и нерегулярно расположенных. Разворот функций относительно начала координат, протяженные овраги в области оптимума и наличие системы нелинейных ограничений-неравенств также затрудняют процесс оптимизации.

*Работа выполнена при финансовой поддержке АВЦП «Развитие научного потенциала высшей школы» (НИР 2.1.1/2710) и ФЦП «Научные и научно-педагогические кадры инновационной России» (НИР НК-136П/3).

В качестве тестовых задач безусловной и условной многокритериальной оптимизации рассматривались двух-, трех-, четырех- и пятикритериальные задачи с квадратичными целевыми функциями и нелинейными ограничениями-неравенствами.

Двухкритериальная безусловная задача:

|/1(х,у) = (X-3)2 + (у-3)2 ^ тіп,

I/2(х,У) = (х + 4)2 + (у + 4)2 ^тіп.

Трехкритериальная безусловная задача:

/і(х,у) = (х-3)2 + (у-3)2 ^ тіп,

• /2(х,у) = (х + 4)2 + (у + 4)2 ^ тіп,

|/з(х, у) = (х + 4)2 + (у - 3)2 ^ тіп.

Четырехкритериальная безусловная задача:

/1(х, у) = (х - 3)2 + (у - 3)2 ^ тіп,

/,(х, у) = (х + 4)2 + (у + 4)2 ^ тіп,

/з(х,у) = (х + 4)2 + (у-3)2 ^тіп,

і/А(х,у) = (х-3)2 + (у + 4)2 ^ тіп.

Пятикритериальная безусловная задача:

/(х, у) = (х - 3)2 + (у - 3)2 ^ тіп,

/,(х, у) = (х + 4)2 + (у + 4)2 ^ тіп,

• /з(х,у) = (х + 4)2 + (у-3)2 ^тіп,

/,(х, у) = (х - 3)2 + (у + 4)2 ^ тіп,

|/(х,у) = (х-5)2 + у2 ^ тіп.

В качестве прикладных задач были использованы следующие экономические задачи:

- формирование оптимального инвестиционного портфеля предприятия (Химзавода - филиала ОАО «Красмаш»);

- формирование оптимального кредитного портфеля банка (Красноярского филиала Банка Москвы);

- оптимизация управления кредитным финансированием проектов с длительным инвестиционным циклом (ОАО «Информационные спутниковые системы» имени академика М. Ф. Решетнева»).

Постановка задач и исходные данные заимствованы из источников [5; 6].

Все прикладные задачи являются задачами условной одно- и многокритериальной (кроме задачи ОАО «Информационные спутниковые системы») нелинейной булевой оптимизации алгоритмически заданных функций в бинарном пространстве высокой размерности (длина хромосом составляет 50.66 бит) с системой ограничений-неравенств.

Для решения тестовых и реальных задач в однокритериальной постановке использовались следующие настройки эволюционных алгоритмов: размер популяции - 100, количество поколений - 100, вероятность скрещивания - 1, количество статистически независимых прогонов алгоритма - 500 или 1 000. Для решения тестовых и реальных задач в многокритериальной постановке применялись следующие настройки: размер популяции - 100, количество поколений - 100, вероятность скрещивания - 1, количество статистически независимых прогонов алгоритма -100. Размер недоминируемого внешнего множества варьировался на каждой задаче с целью определения наиболее эффективного. В данной статье приведен априорный размер внешнего множества в каждом прогоне для каждой из задач.

Для решения каждой задачи проводился полный набор численных экспериментов с помощью стандартного генетического алгоритма и предложенных в данной статье модификаций, включающий в себя все рассматриваемые комбинации параметров генетических алгоритмов (табл. 1, 2), с последующим усреднением показателей эффективности алгоритмов (надежности, времени работы, скорости сходимости к оптимуму, процента паретовских точек, процента допустимых точек, разброса точек в пространстве независимых переменных и разброса точек в пространстве целевых функций) (в тех задачах, где возможно введение таких показателей эффективности) по независимым случайным реализациям алгоритмов и применением методов статистической обработки экспериментальных данных [7-9].

В качестве методов учета ограничений для задач условной однокритериальной оптимизации использовались статические штрафы, динамические штрафы, адаптивные штрафы, смертельные штрафы, поведенческая память, лечение, лечение + смертельные штрафы [10].

Таблица 1

Количество комбинаций параметров эволюционных алгоритмов на одной задаче безусловной оптимизации

Тип генетического алгоритма Общее число комбинаций параметров генетического алгоритма

Стандартный 360

Автонастройка мутации 120

Автонастройка скрещивания 120

Автонастройка селекции 72

Автонастройка мутации и скрещивания 40

Автонастройка селекции и мутации 24

Автонастройка селекции и скрещивания 24

Автонастройка селекции, мутации и скрещивания 8

Таблица 2

Количество комбинаций параметров эволюционных алгоритмов на одной задаче условной оптимизации

Тип генетического алгоритма Общее число комбинаций параметров генетического алгоритма

Стандартный 1 800

Автонастройка мутации 600

Автонастройка скрещивания 600

Автонастройка селекции 360

Автонастройка мутации и скрещивания 200

Автонастройка селекции и мутации 120

Автонастройка селекции и скрещивания 120

Автонастройка селекции, мутации и скрещивания 40

Для получения требуемого количества допустимых индивидов применялась процедура минимизации штрафной функции, функция пригодности для которой имеет вид

fitness( x) =--1--,

sum +1

m

где sum = ^ fj (x) - штрафная функция, здесь fj (x) -

j=1

штраф за нарушение j-го ограничения.

При этой процедуре самонастраивающийся генетический алгоритм работает со всей популяцией до тех пор, пока не будет получено требуемое количество допустимых индивидов.

Рассматривались два способа определения метрики в методе лечения:

- при первом способе расстояние между индивидами задается значением целевой функции (лечение-1);

- при втором способе расстояние между индивидами определяется их координатами (лечение-2).

При решении реальных задач использовался способ «лечение-2», а метод статических штрафов не применялся в силу результатов проведенных ранее исследований, показавших более высокую эффективность способа «лечение-2» по сравнению со способом «лечение-1» и нецелесообразность реализации автоматической настройки коэффициентов в методе статических штрафов. Кроме того, были установлены оптимальные параметры методов учета ограничений для тестовых и реальных задач однокритериальной условной оптимизации [11] (табл. 1, 2).

Экспериментальные результаты. Приведем результаты решения некоторых из описанных выше задач многокритериальной оптимизации (рис. 1, 2) (результаты решения тестовых и прикладных задач однокритериальной оптимизации представлены в работе [11]). Эти результаты отражают наиболее эффективные настройки каждого алгоритма на каждой задаче, полученные с помощью многократных прогонов алгоритмов и последующего статистического анализа в пакете Statistica. На рис. 1 сплошными линиями показано истинное множество и фронт Парето, точками обозначены наилучшие результаты работы генетических алгоритмов; на рис. 2 черными точками отмечены точки, полученные эволюционными алгоритмами, белыми - точки, определенные методом полного перебора.

Для эффективной реализации методики решения сложных задач оптимизации и проведения научных исследований была создана программная система Intelligence Technologies - Self-Adapting Genetic Algorithm (IT-SAGA). G ее помощью были получены следующие результаты:

- доказано выполнение условия статистического ансамбля по непараметрическим критериям в пакете Statistica;

- наилучшей модификацией на классе задач однокритериальной оптимизации по критериям надежности работы, скорости сходимости к оптимуму и времени работы является самонастраивающийся генетический алгоритм с автоматическим выбором селекции, мутации и скрещивания;

- в тестовых задачах многокритериальной оптимизации множество и фронт Парето, полученные адаптивной гибридной стохастической процедурой, более точно описывают истинные парето-оптимальные множество и фронт в сравнении с самонастраивающимся генетическим алгоритмом в сочетании с методом SPEA;

- в прикладных задачах при размерности поискового пространства, равной 225, фронт Парето, полученный самонастраивающимся генетическим алгоритмом в сочетании с методом SPEA, содержит точки, не принадлежащие истинному парето-оптималь-ному фронту, найденному методом полного перебора. Фронт Парето, полученный адаптивной гибридной стохастической процедурой, совпадает с точностью до одной или двух точек с парето-оптимальным фронтом, определенным методом полного перебора;

- наилучшей модификацией на классе задач многокритериальной оптимизации является адаптивная гибридная стохастическая процедура по следующим критериям эффективности: процент паретовских точек, процент допустимых точек, разброс точек в пространстве независимых переменных, разброс точек в пространстве целевых функций;

- при размерности поискового пространства 250 и выше, в условиях отсутствия информации о множестве и фронте Парето и неприменимости полного перебора (из-за невозможности получения решения за приемлемое время), предложенные в данной статье модификации генетического алгоритма обеспечивают наилучшее известное на настоящий момент решение, найденное другими генетическими алгоритмами [5; 6] за время, сравнимое со временем работы данных мо-

дификаций при решении прикладных задач в однокритериальной постановке [11].

Таким образом, самонастраивающийся генетический алгоритм, адаптивная гибридная стохастическая процедура, методы учета ограничений для задач условной оптимизации, метод SPEA, метод полного перебора и оригинальный алгоритм локального поиска,

являясь алгоритмическим ядром разработанной программной системы Intelligence Technologies - Self-Adapting Genetic Algorithm, прошли успешную апробацию при решении репрезентативного множества тестовых и прикладных задач однокритериальной и многокритериальной оптимизации (всего решены 22 тестовых и 3 практических задачи).

Pareto set

-у :yg-y; $ А у#..

ч»i f. ««•;;?«-ij--.* г*•:

*• »' л .» *A- > • *

•*. і :**.••• *л vVriv";; . *

Vi*** ♦ »*« * • • * •' *«

/ *v v * * *♦ e*v - -*•* t*# ^

if. \ •. •

'МТ: .7>•

• >:: •v« їнс*г.Л.г ....................j....

< k «ft * » A ft*» n rf- ft ? * *

Рис. 1. Результаты решения некоторых тестовых задач многокритериальной оптимизации стандартным

х

в

г

Рис. 2. Результаты решения многокритериальной задачи формирования оптимального инвестиционного портфеля предприятия самонастраивающимся генетическим алгоритмом (автоматическая настройка мутации и скрещивания) в сочетании с методом БРЕЛ (а) и адаптивной гибридной стохастической процедурой (б) (фронт Парето): размер внешнего множества - 50 точек; ^(х) - ожидаемая прибыль; f2(x) - рискованность программы

В ходе проведения исследований было доказано выполнение условий статистического ансамбля, что является подтверждением неслучайности превосходства предложенных в данной статье модификаций над стандартным генетическим алгоритмом по всем критериям эффективности (надежность, время работы, скорость сходимости к оптимуму, процент паретовских точек, процент допустимых точек, разброс точек в пространстве независимых переменных и разброс точек в пространстве целевых функций). Поэтому можно сделать обоснованный вывод о практической ценности самонастраивающегося генетического алгоритма и адаптивной гибридной стохастической процедуры.

Библиографические ссылки

1. Zitzler E., Thiele L. Multiobjective evolutionary algorithms: A comparative case study and the strength Pareto approach // IEEE Transactions on Evolutionary Computation. 1999. Vol. 3, № 4. P. 257-271.

2. Звонков В. Б. Самонастраивающийся генетический алгоритм решения сложных задач оптимизации // Всероссийский конкурс компьютерных программ : тр. III тура Всерос. студ. олимпиады. Вологда, 2010.

3. Звонков В. Б., Семенкин Е. С. Адаптивная гибридная стохастическая процедура // Решетневские чтения : сб. тез. докл. XIV Междунар. науч. конф. : в 2 ч. Ч. 2 / Сиб. гос. аэрокосмич. ун-т. Красноярск, 2010.

С. 389-390.

4. Real-Parameter Black-Box Optimization Benchmarking 2009: Experimental Setup : INRIA research

report RR-6828 / N. Hansen [et al.]. Saclay, France, 2009.

5. Клешков В. М., Семенкин Е. С. Модели и алгоритмы распределения общих ресурсов при управлении инновациями реструктурированного машиностроительного предприятия // Пробл. машиностроения и автоматизации. 2006. № 3. С. 24-31.

6. Пуртиков, В. А. Оптимизация управления формированием кредитного портфеля банка: дис. ... канд. техн. наук. Красноярск, 2001.

7. Вуколов Э. А. Основы статистического анализа. М. : Форум : Инфра-М, 2004.

8. Тюрин Ю. Н., Макаров А. А. Анализ данных на компьютере. М. : Инфра-М, 2003.

9. Электронный учебник по статистике [Электронный ресурс] // StatSoft : общедоступ. сервис. URL: http://www.statsoft.ru/home/textbook/default.htm (дата обращения: 07.09.2010).

10. Michalewicz Z., Schoenauer M. Evolutionary algorithms for constrained parameter optimization problems // Evolutionary Computation. 1996. Vol. 4, № 1. P. 1-32.

11. Звонков В. Б. Исследование эффективности методов учета ограничений адаптивного эволюционного алгоритма на задачах условной однокритериальной оптимизации // Научные исследования и их практическое применение. Современное состояние и пути развития : сб. науч. тр. по материалам Междунар. на-уч.-практ. конф. : в 2 т. Т. 2. Технические науки. Одесса : Черноморье, 2010. С. 70-83.

V. B. Zvonkov, E. S. Semenkin

SOLVING COMPLEX MULTIOBJECTIVE OPTIMIZATION PROBLEMS WITH THE MODIFIED HEURISTIC STOCHASTIC ALGORITHMS OF DIRECT SEARCH

In this paper the analysis of efficiency of automatically adjusting genetic algorithm and adaptive hybrid stochastic procedure has been fulfilled on representative set of test and real world economical problems. It has been proved that the developed modifications outperform the standard genetic algorithm.

Keywords: genetic algorithm, automatical adjustment, adaptive hybrid stochastic procedure, multi-criteria optimization.

© Звонков В. Б., Семенкин Е. С., 2010