Пиковый генетичский алгоритм

УДК 681+004.032.26

В.Г. СИНЮК, канд. тех. наук, БГТУ им. В.Г. Шухова (г. Белгород),

В.Н. АКОПОВ, СКФ БГТУ им. В.Г. Шухова

ПИКОВЫЙ ГЕНЕТИЧСКИЙ АЛГОРИТМ

Рассмотрены существующие адаптивные генетические алгоритмы, применяемые в задачах оптимизации. Предложен нечеткий алгоритм на основе статистики, а также оригинальный пиковый алгоритм, гибридная структура которого включает в себя также нишевый алгоритм. Приведены результаты постановочного эксперимента, эмпирически подтверждающего практическую значимость разработанного подхода.

Ключевые слова: генетический алгоритм, нечеткий алгоритм, нишевый алгоритм.

Постановка проблемы. В настоящее время при решении плохо формализуемых задач широкое применение получили методы мягких вычислений. И среди них - генетические алгоритмы (ГА). Однако при использовании в оптимизационных задачах стандартный ГА подвержен попаданиям в локальные оптимумы, что значительно увеличивает время, требуемое на поиск решения. Для решения этой проблемы наиболее распространенной методикой является разделение пространства решения на параллельно существующие подпространства, что позволяет при небольших затратах на модификацию стандартного алгоритма на большинстве задач решить проблему попадания поискового алгоритма в локальные оптимумы. Другой подход заключается во включении дополнительного блока управления алгоритмом.

Описанные выше методики повышают способность ГА к поиску области оптимума. С другой стороны, поисковые способности алгоритма на этапе отыскания точного значения оптимума в пространстве решения снижаются. Разделение этапов во времени соответствует известному соотношению Парето 80/20 (первый и второй этапы соответственно). В теории ГА это соотношение известно как правило Решенберга.

Анализ литературы. Для привнесения в ГА способности к настройке собственной структуры и/или параметров разработаны так называемые адаптивные алгоритмы. К ним можно отнести: адаптивное изменение параметров скрещивания, адаптивное изменение размера популяции, а также введение нечеткости в блок управления ГА. Рассмотрим эти алгоритмы подробней.

Уменьшать мутацию в зависимости от времени работы генетического алгоритма впервые предложил еще Холланд [1]. Дальнейшее развитие эта идея получила в [2] и [3]. В последней работе предложен способ изменять вероятность мутации с течением времени экспоненциально. В [3] также предложено повышать вероятность мутации, если потомок имеет расстояние по Хэммингу по отношению к существующей хромосоме в популяции меньшее, чем минимальное расстояние в популяции.

Другой способ динамически изменять область поиска решения заключается в модификации оператора кроссинговера. Так в работе [4] делается вывод о высоких качествах BLX-a кроссинговера, который за счет случайных вариаций позволяет расширить исследуемое пространство решений. Однако такой кроссинговер с большей вероятностью разрушает устоявшиеся сочетания генов (схемы) [5].

Расширением приведенного выше подхода можно назвать предложенную Спирсом в работе [6] методику динамически менять тип кроссинговера. Таким образом, если в начале жизни популяции имеет смысл с достаточно большой вероятностью разрушать схемы, то по мере нахождения глобального оптимума устойчивость схем следует динамически повышать. Как страховку от попадания в локальные оптимумы возможно также применять динамическое уменьшения устойчивость геномных схем по мере стабилизации приспособленности лучшего представителя популяции. Там же предложен и другой подход - тип оператора кроссинговера заносится в специальный битовый ген и добавляется к основному генному набору каждого представителя популяции.

Другой подход к изменению как параметров скрещивания, так и вероятности и величины мутации основан на исследовании естественного мутационного процесса в природе. В работе [7] было замечено, что как расположение точек кроссинговера, так и вероятность мутации случайными назвать нельзя. Зависимость наблюдается в связи с расположением гена в хромосоме. Таким образом, в хромосоме можно выделить более и менее подверженные изменениям генные зоны. Попадание в так называемые "холодные" зоны может полностью исключить изменение гена в поколении. В ГА подобная методика использована в работе [2].

Следующим классом алгоритмов по повышению способностей ГА к адаптации можно назвать те модификации алгоритма, которые оказывают непосредственное влияние на динамическое изменение размера популяции [8], и так называемые нишевые алгоритмы, которые заключаются в разделении пространства решений на области (ниши). Причем эволюционный поиск может проходить как независимо по нишам, так и с обменом их представителей [9].

К типу адаптивных ГА можно отнести и SANUX - статистический алгоритм, предложенный в 2002 году Янгом. Это ГА с бинарным кодированием, основанный на предположении, что в процессе жизни популяции по мере сходимости алгоритма аллели хромосом стремятся к некоторому определенному оптимальному значению (0 или 1). И, следовательно, по статистике истории изменения значений генов можно сделать предположение о направленности отбора.

Отдельным направлением в развитии ГА является использование нечетких правил управления динамически изменяемыми параметрами алгоритма. Например, используемая в стандартных ГА линейная зависимость

параметров скрещивания заменяется на нечеткую функциональную зависимость. Вид такой зависимости задается с привлечением эксперта [10].

Цель статьи. Разработать ГА, поисковые способности которого превышали бы способность к эволюционному поиску перечисленных адаптивных алгоритмов.

Нечеткий ГА на основе статистики. В классической реализации ГА реализуется действие естественного отбора (ЕО) на уровне индивидов. В нишевых алгоритмах, кроме того, учитывается и ЕО на уровне ниш. Однако достаточно распространенная в микробиологии точка зрения на ЕО, как на отбор генов [11] в ГА распространение не получила.

Будем считать конкуренцию между генами за попадание в следующее поколение - требуемой основой для отбора на уровне генов. Мерой оценки генов будем считать стабильность значения гена в процессе смены поколений на основе статистически накапливаемых данных.

Предлагаемый в данной работе ГА на основе статистики относится к классу нечетких ГА с вещественным кодированием. В отличие от SANUX в данном алгоритме сбор статистики ведется по аллелям лучшего представителя популяции, а не по всей популяции целиком, что повышает производительность алгоритма. Необходимо сформулировать нечеткие правила управления, которые будут задавать параметры операторов рекомбинации:

П1: ЕСЛИ история гена нестабильна, ТО вероятность его наследования невелика.

П2: ЕСЛИ приспособленность индивида хорошая, ТО вероятность его наследования достаточно велика.

Второе нечеткое правило введено с целью предотвратить попадание в локальный оптимум.

Функции принадлежности предусловий можно определить либо с помощью экспоненциальной функции: 1 -ехр(/г1 * х- /г2), либо кусочнолинейными функциями.

Стабильность генома будем рассчитывать на основе оценки коэффициента корреляции, а именно ранговой корреляции Спирмена:

1 (а, - Ъ,) ,

где п - длина последовательности; а,-, Ъ1 - сравниваемая пара величин.

ГА открытых ниш. Основной проблемой при реализации стандартного нишевого ГА можно назвать выбор способа разделения популяции на ниши, а также выбор способа коммуникации между различными нишами.

Решением этих проблем может послужить использование так называемых открытых ниш. Открытой будем называть мобильную нишу (ниша с динамическим изменением границ) свободно допускающую перемещение индивидов. Для реализации подобного поведения воспользуемся одним из

кластеризующих алгоритмов (нечеткая сеть Кохонена, нечеткий алгоритм ^-средних, алгоритм Густафсона-Кеселя).

Таким образом, открытая ниша представляет собой кластер, построение которого происходит в соответствии с генотипным набором индивида.

Далее можно предложить следующий способ расстановки контрольных точек изменения границ открытой ниши: на первом поколении, а также в тот момент, когда неопределенность принадлежности к кластеру значительно превысит допустимую.

Пиковый ГА. В работе [9] экспериментально показана эффективность статистического ГА и ГА мобильных ниш соответственно. В [4] многочисленными примерами подтверждается эффективность вещественного кодирования аллелей перед бинарным кодированием.

Для совмещения преимуществ приведенных в настоящей работе алгоритмов предложим так называемый пиковый ГА, который заключается в по-нишевом применении статистического ГА. Границы ниши определяются по результатам кластеризации. Пиковый ГА, таким образом, реализует в себе как отбор на уровне ниш, так и на уровне индивидов и, кроме того, отбор на уровне генов. Данная особенность приводит к повышенному уровню сходимости данного алгоритма по сравнению с раздельным применением его составляющих.

Постановочный эксперимент. Для экспериментального подтверждения приведенных выше положений проведем обучение многослойного персептрона с одним скрытым слоем с помощью стандартного ГА, нечеткого ГА на основе статистики, кластеризующего ГА открытых ниш, а также пикового ГА (рис.).

7000  6500  2 6000  5500  5000

£ 4500  Ш

I 4000  I-

3500  >5 3000

I 2500

о 2000

Т 1500  Л

СО 1000

500

0

Г~|Стандартный ГА

ГА открытых ниш

ГА на основе статистики

Пиковый ГА

Рис. Результаты обучения многослойного перцептрона

Исходные данные эксперимента:

1. Начальный разброс синаптических весов: [-G.5; G.5].

2. Топология сети: 8x5G*5.

3. Размер популяции: 25.

4. Эффективность отбора: 0.5.

5. Вероятность мутации для стандартного ГА: 0.95.

Выводы. На основе проведенного эксперимента можно сделать вывод о практической применимости разработанного пикового ГА в оптимизационных и поисковых задачах. Деление же популяции на ниши допускает параллельное выполнение задач без значительных модификаций базового алгоритма.

Список литературы. 1. Holland J.H. Adaptation in natural and artificial systems. - The University of Michigan Press, 1975. 2. Back T. The interaction of mutation rate, selection, and self-adaptation within genetic algorithm / Parallel problem solving from nature 2. - Amsterdam. - Elsevier Science Publishers. -1992. 3. Herrera F, Lozano M. Adaptation of genetic algorithm parameters based on fuzzy logic controllers I Department of Computer Science and Artifcial Intelligence University of Granada, Spain. -1996. 4. Herrera F., Lozano M., Verdegay J.L. Tackling Real-Coded Genetic Algorithms: Operators and Tools for Behavioural Analysis. I Department of Computer Science and Artifcial Intelligence University of Granada, Spain. - 1996 . 5. Goldberg D.E., Sastry K. A Practical Schema Theorem for Genetic Algorithm Design and Tuning I Illinois Genetic Algorithms Laboratory, 2GG1. б. Spears W.M. Adapting crossover in a genetic algorithm. - The University of Michigan Press, 1988. 7. Gorlov I.P., Ladygina T.Yu., Serov O.L., Borodin P.M. Heredity. - 1991. - V. 66. - P. 453-458. 8. Baker J.E. An analysis of the effects of selection in genetic algorithms I Doctoral dissertation, University of Vanderbilt, 1985. 9. MahfoudS.W. Niching methods for genetic algorithms I IlliGAL Report. - №. 95GG1, - 1995. 10. ЯрушкинаН.Г. Основы теории нечетких и гибридных систем / Учеб. пособие. - М.: Финансы и статистика, 2004. - 320 с. 11. Грант В. Эволюционный процесс: Критический обзор эволюционной теории. - М.: Мир, 1991 - 488 с.

УДК 519.832.3

Піковий генетичний алгоритм / Синюк В.Г., Акопов В.Н. II Вісник НТУ "ХПІ". Тематичний випуск: Інформатика і моделювання. - Харків: НТУ "ХПІ". - 2GG8 - N° 49. - С. 155 -159.

Розглянуті існуючі адаптивні генетичні алгоритми, що використовуються в задачах оптимізаціЇ. Запропонований нечіткий алгоритм на основі статистики, а також оригінальний піковий алгоритм, гібридна структура якого включає також нишевый алгоритм. Приведені результати постановочного експерименту, емпірично підтверджуючого практичну значущість розробленого підходу. Библиогр.:11 назв.

Ключеві слова: генетичний алгоритм, нечіткий алгоритм, нишевый алгоритм.

UDC 519.832.3

Genetichskiy algorithm of spades / Romanuke V. V. II Herald of the National Technical University "KhPI". Subject issue: Information Science and Modelling. - Kharkiv: NTU "KhPI". - 2GG8. - № 49. - P. 155 - 159.

Existent adaptive genetic algorithms, applied in the tasks of optimization, are considered. An unclear algorithm is offered on the basis of statistics, and also original algorithm of spades, the hybrid structure of which plugs in itself also a schema algorithm. The results of raising experiment, empiric confirmative practical meaningfulness of the developed approach are resulted. Refs: 11 titles.

Key words: genetic algorithm, unclear algorithm, schema algorithm.

Поступила в редакцию 10.10.2008