Обзор эволюционных методов оптимизации на основе роевого интеллекта

Раздел I. Эволюционное моделирование, генетические и бионические алгоритмы

УДК 681.3

А.А. Зайцев, В.В. Курейчик, А.А. Полупанов

ОБЗОР ЭВОЛЮЦИОННЫХ МЕТОДОВ ОПТИМИЗАЦИИ НА ОСНОВЕ РОЕВОГО ИНТЕЛЛЕКТА*

В работе проводится обзор, актуальных в последнее время, алгоритмов и методов роевого интеллекта, таких как: «муравьиные», «пчелиные» алгоритмы, метод роя частиц, а также показаны их особенности, достоинства и недостатки. Рассматриваются возможности их применения в различных областях науки и техники. Проанализирован потенциал методов роевого интеллекта в области эволюционной оптимизации, определены дальнейшие перспективы, пути развития и совершенствования рассмотренных методов и алгоритмов.

Роевой интеллект; «муравьиный» алгоритм; методы моделирования «пчелиных» колоний; метод роя частиц; алгоритмы поиска.

A.A. Zaicev, V.V. Kureychik, A.A. Polupanov

EVOLUTION METHODS OF OPTIMIZATION RESEARCH BASED ON SWARM INTELLIGENCE

In work the review, actual recently, algorithms and methods swarm intelligence, such as is spent: "ant", "bees" algorithms, a method of a plenty of particles, and also are shown their features, merits and demerits. Possibilities of their application in various areas of a science and technics are considered. The potential of methods swarm intelligence in the field of evolutionary optimization is analyzed, the further prospects, ways of development and perfection of the considered methods and algorithms are defined.

Swarm intelligence; "ant" algorithm; bee’s colonies simulation algorithm; particle swarm algorithm; searching algorithms.

Введение. В настоящее время в науке и технике находят широкое применение алгоритмы, основанные на природных системах. К ним относятся генетические, эволюционные, алгоритмы роевого интеллекта и пр. [1-17]. В работе рассматриваются алгоритмы и методы роевого интеллекта (Swarm Intelligence).

В классической теории искусственного интеллекта для определённой задачи создаётся одна интеллектуальная система, имеющая все необходимые ресурсы для её решения. В теории многоагентных систем используется противоположный принцип. Считается, что один агент имеет неполное представление о глобальной проблеме, поэтому создают некоторое множество агентов и обеспечивают эффективное взаимодействие между ними. В рамках «коллективного» интеллекта глобальное поведение всей системы рассматривается, как результат взаимодействий ряда простых агентов. Сторонники направления «интеллекта роя», в частности, Р. Брукс, Ж. Денебург, Л. Стиле и др. опираются на следующие положения:

* Работа выполнена при поддержке: РФФИ (грант № 10-01-00115), г/б № 2.1.2.1652.

♦ многоагентная система - это популяция простых и зависимых друг от друга агентов;

♦ каждый агент самостоятельно определяет свои реакции на события в локальной среде и взаимодействия с другими агентами;

♦ связи между агентами являются горизонтальными, т.е. не существует агента-супервизора, управляющего взаимодействием других агентов;

♦ нет точных правил, чтобы определить глобальное поведение агентов;

♦ поведение, свойства и структура на коллективном уровне порождаются только локальными взаимодействиями агентов.

В настоящее время разработано и с успехом используются на практике множество алгоритмов, основанных на интеллекте роя: «муравьиные» алгоритмы, алгоритмы «пчелиных колоний», алгоритмы, основанные на методе роя частиц, и т.п.

«Муравьиные» алгоритмы поиска. Основой для данного алгоритма является имитация коллективного поведения муравьёв [1,2,10,12,13]. Система муравьиной колонии основана на простых правилах автономного поведения каждого муравья. Несмотря на примитивность действий муравьев, деятельность всей колонии достаточно разумна, т.е. муравьиная колония, по сути, является природной многоагентной системой.

Непрямой обмен - стигмержи (stigmergy), представляет собой разнесённое во времени взаимодействие, при котором одна особь изменяет некоторую область окружающей среды, а другие используют эту информацию позже, когда в неё попадают. Биологи установили, что такое отложенное взаимодействие происходит через специальное химическое вещество - феромон (pheromone), секрет специальных желёз, откладываемый при перемещении муравья. Концентрация феромона на пути определяет предпочтительность движения по нему. Адаптивность поведения реализуется испарением феромона, который в природе воспринимается муравьями в течение нескольких суток. Мы можем провести некоторую аналогию между распределением феромона в окружающем колонию пространстве и «глобальной» памятью муравейника, носящей динамический характер [1,2].

Любой муравьиный алгоритм, независимо от модификаций, может быть представлен в следующем виде [2,3]:

пока (условия выхода не выполнены), реализуются следующие шаги алгоритма:

1° «создаём муравьёв»;

2° находим решения;

3° обновляем феромон;

4° производим дополнительные действия.

Для того чтобы построить подходящий муравьиный алгоритм для решения какой-либо задачи, необходимо [3]:

1) представить задачу в виде набора компонент и переходов или набором неориентированных взвешенных графов, на которых муравьи могут строить решения;

2) определить значение следа феромона;

3) определить эвристику поведения муравья, когда строим или находим решение;

4) если возможно, то реализовать эффективный локальный поиск;

5) выбрать специфический ACO (Ant Colony Optimization) алгоритм и применить для решения задачи;

6) настроить параметры ACO-алгоритма.

Также определяющими являются следующие параметры:

1) количество муравьёв;

2) баланс между изучением пространства поиска и использованием оптимального пути;

3) сочетание с жадными эвристиками или локальным поиском;

4) момент времени, когда обновляется феромон.

«Муравьиные» алгоритмы являются эффективным способом решения задач поиска и оптимизации, допускающими графовую интерпретацию, что подтверждается эксперименальными исследованиями [2]. К достоинствам стоит отнести возможность применения к широкому спектру задач и гарантированную сходимость. Из недостатков можно отметить сильную зависимость от первоначальных настроечных параметров алгоритма, которые подбираются только исходя из практического опыта.

Пчелиные алгоритмы. Основаны на поведении колонии пчёл в природной среде. Существует два основных алгоритма - пчелиный алгоритм (Bee Algorithm) и алгоритм колонии пчёл (Artificial Bee Colony) [4]. Пчелиный алгоритм основан на методе поиска пчёлами элитных участков. Основное преимущество данного алгоритма - пчёлы исследуют также участки, находящиеся в окрестностях элитных, что позволяет приблизить решения к оптимальному.

Простейший алгоритм пчёл можно представить формально следующим образом [4]:

1° «создание пчёл»;

2° определение ЦФ (значения целевых функций) пчёл;

3° выбор участков для поиска;

4° отправка пчёл-разведчиков;

5° выбор пчёл с лучшими ЦФ;

6° отправка рабочих пчёл для случайного поиска и определение их ЦФ;

7° создание новой популяции пчёл;

8° до тех пор, пока (условия выхода не выполнены), повторяем пункты 2-7.

Алгоритм колонии пчёл был предложен Д. Карабога в 2005 г. [5]. Основная идея - имитация деятельности пчёл в улье при поиске нектара. Используется фиксированное разбиение пчёл на группы - рабочие пчёлы, пчёлы-разведчики, пчёлы-исследователи.

Основные шаги алгоритма колонии пчёл следующие [4]:

1° определение местоположения источников нектара;

2° поиск рабочими пчёлами новых источников и исследование лучшего;

3° выбор источника пчелой-исследователем, в зависимости от качества;

4° повтор пунктов 1-3 до тех пор, пока решение не перестанет улучшаться;

5° запоминаем лучший источник;

6° заполняем оставшуюся часть популяции;

7° повторяем пункты 2-6, пока не будет достигнуто условие выхода.

Методы «пчелиного» роя подтверждают свою эффективность в качестве эвристических мультиагентных методов случайного поиска [6]. К недостаткам данного метода стоит отнести большое число свободных параметров, от значения которых зачастую зависит результат, с другой стороны, отсутствуют основания для выбора этих значений.

Метод роя частиц. В методе роя частиц (Particle Swarm Optimization) агентами являются частицы, которые в каждый момент времени имеют в пространстве параметров задачи некоторое положение и скорость. Правила, по которым частица меняет свое положение и скорость, определяются на основе вычисления целевой функции частицы. Канонический метод роя частиц был предложен в 1995 г. в работе J. Kennedy, R. Eberhart [7], в основе которого лежит следующий принцип: на каждой итерации для определения следующего положения частицы учитывается

информация о наилучшей частицы от «соседей» и информация о данной частице на том шаге, когда этой частице соответствовало наилучшее значение целевой функции. Так же существует модификации канонической модели, которые учитывают значения ЦФ всех частиц роя, в некоторых моделях частицы группируются в несколько роев и т.д. [8].

В каноническом методе роя частиц [9], использующем метрическое шкалирование, новая позиция частицы i определяется по следующей формуле:

Xj

где vi(t+1) - скорость перемещения частицы i из позиции xi(t) в позицию xi(t+1).

Начальное состояние определяется как: xi(0), vi(0). Приведенная формула представлена в векторной форме. Лучшие частицы с точки зрения целевой функции объявляется «центром притяжения». Векторы скоростей всех частиц устремляются к этим центрам.

Алгоритм роя частиц широко применяется, в числе прочих, в задачах машинного обучения (в частности, для обучения нейросетей и распознавания изображений), параметрической и структурной оптимизации (форм, размеров и топологий) в области проектирования, в областях биохимии и биомеханики. По эффективности он может соперничать с другими методами глобальной оптимизации, а низкая алгоритмическая сложность способствует простоте его реализации.

Наиболее перспективными направлениями дальнейших исследований в данном направлении следует считать теоретические исследования причин сходимости алгоритма роя частиц и связанных с этим вопросов из областей роевого интеллекта и теории хаоса, комбинирование различных модификаций алгоритма для решения сложных задач, рассмотрение алгоритма роя частиц как многоагентной вычислительной системы, а также исследование возможностей включения в него аналогов более сложных природных механизмов.

Заключение. В настоящее время в мире бурно развивается область науки, относящаяся к искусственному интеллекту, и проводится множество исследований такими известными учеными, как Батищев Д.И. [10], Букатова И.Л. [11], Курей-чик В.М. [1], Курейчик В.В. [4], Лебедев Б.К. [12] и др. Анализ приведённых в настоящей статье методов эволюционного моделирования, роевого интеллекта, относящихся к методам искусственного интеллекта, а также выявленные недостатки данных методов предоставляют возможность дальнейших исследований в плане разработки новых методов, методик, алгоритмов для решения широкого класса научных и практических задач.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Курейчик В.М., Кажаров А.А. О некоторых модификациях муравьиного алгоритмаn // Известия ЮФУ. Технические науки. - 2008. - № 4 (81). - С. 7-12.

2. Штовба С.Д., Муравьиные алгоритмы // Математика в приложениях. - 2004. - № 4 (4).

- С. 70-75.

3. МакКоннеллДж. Основы современных алгоритмов. - М.: Техносфера, 2004. - 368 с.

4. Курейчик В.В., Полупанова Е.Е. Эволюционная оптимизация на основе алгоритма колонии пчёл // Известия ЮФУ. Технические науки. - 2009. - № 12 (101). - С. 41-46.

5. Karaboga D. An idea based on honey bee swarm for numerical optimization // Technical Report TR06, Erciyes University, Engineering Faculty, Computer Engineering Department, 2005.

6. Гришин А.А, Карпенко А.П. Исследование эффективности метода пчелиного роя в задаче глобальной оптимизации // Наука и образование. - 2010. - № 08.

7. Kennedy J, Eberhart R. Particle swarm optimization // Proceedings of IEEE International conference on Neural Networks. - 1995. - P. 1942-1948.

8. Селиверстов Е.Ю., Карпенко А.П. Обзор методов роя частиц для задачи глобальной оптимизации (Particle Swarm Optimization) // Наука и образование. - 2009. - № 03.

9. Clerc M. Particle Swarm Optimization. ISTE, London, UK, 2006.

10. БатищевД.И. Глобальная оптимизация с помощью эволюционно-генетических алгоритмов / Д.И. Батищев, Л.Н.Скидкина, Трапезникова Н.В. // Межвуз. сборник, ВГТУ. - Воронеж, 1994.

11. Букатова И. Л. Эвоинформатика: Теория и практика эволюционного моделирования / Букатова И. Л., Михасев Ю.И., Шаров А.М. - М.: Наука, 1991. - 205 с.

12. Лебедев Б.К., Шашелов А.А. Исследование механизмом муравьиной адаптации при решении задачи покрытия функциональной схемы // Труды Конгресса по интеллектуальным системам и информационным технологиям «AIS_IT’10». Научное издание в 4-х томах. - М.: Физматлит, 2010. - Т.3. - С. 118-127.

13. КурейчикВ.М., Кажаров А.А. Муравьиные алгоритмы для решения транспортных задач // Известия РАН. Теория и системы управления. - М: Наука, 2010. - № 1. - С. 32-45

14. Курейчик В.М., Лебедев Б.К., Лебедев О.Б. Решение задачи покрытия на основе эволюционного моделирования // Известия РАН. Теория и системы управления. - М: Наука, 2009. - № 1. - С. 101-116.

15. Курейчик В.М. Об одной модели эволюции Шмальгаузена // Известия ЮФУ. Технические науки. - 2009. - № 4 (93). - C. 7-16.

16. Курейчик В.В., Курейчик В.М., Родзин С.И. Концепция эволюционных вычислений, инспирированных природными системами // Известия ЮФУ. Технические науки.

- 2009. - № 4 (93). - C. 16-24.

17. Курейчик В.М. Модифицированные генетически операторы // Известия ЮФУ. Технические науки. - 2009. - № 12 (101). - С. 7-15.

Зайцев Александр Александрович

ФГОУ ВПО «Морская государственная академия имени адмирала Ф.Ф. Ушакова». E-mail: Zaicev_alek@mail.ru.

353900, г. Новороссийск, ул. Энгельса, 15.

Тел.: +79604985594.

Кафедра автоматики и вычислительной техники; аспирант.

Курейчик Владимир Викторович

Технологический институт федерального государственного автономного образовательного учреждения высшего профессионального образования «Южный федеральный университет» в г. Таганроге.

E-mail: vkur@tsure.ru.

347928, г. Таганрог, пер. Некрасовский, 44.

Тел.: 88634383451.

Кафедра систем автоматизированного проектирования; заведующий кафедрой; профессор. Полупанов Алексей Александрович

ФГОУ ВПО «Морская государственная академия имени адмирала Ф.Ф. Ушакова». E-mail: polualeX@mail.ru.

353900, г. Новороссийск, ул. Дзержинского, 195, кв. 47.

Тел.: +79282734490.

Кафедра автоматики и вычислительной техники; доцент.

Zaicev Alexander Aleksandrovich

Federal State-Owned Educational Establishment of Higher Vocational Education «Admiral F.F. Ushakov Marine State Academy».

E-mail: Zaicev_alek@mail.ru.

15, Engelsa street, Novorossisk, 353900, Russia.

Phone: +79604985594.

The Department of Automation and Computing Technics; Postgraduate Student.

Kureichik Vladimir Viktorovich

Taganrog Institute of Technology - Federal State-Owned Autonomy Educational Establishment of Higher Vocational Education “Southern Federal University”.

E-mail: vkur@tsure.ru.

44, Nekrasovskiy, Taganrog, 347928, Russia.

Phone: 88634383451.

The Department of Computer Aided Design; Head of the Department; Professor.

Polupanov Aleksey Aleksandrovich

Federal State-Owned Educational Establishment of Higher Vocational Education «Admiral F.F. Ushakov Marine State Academy».

E-mail: polualex@mail.ru.

195, ap. 47, Dzerzhinskogo Street, Novorossiysk, 353900, Russia.

Phone: +79282734490.

Department of Automation and Computing Technics; Associate Professor.

УДК 681.325

Б.К. Лебедев, В.Б. Лебедев

РАЗМЕЩЕНИЕ НА ОСНОВЕ МЕТОДА ПЧЕЛИНОЙ КОЛОНИИ*

Рассматривается алгоритм решения задачи размещения, на основе моделирования поведения пчелиной колонии. Описаны модели поведения агентов разведчиков и агентов фуражиров, механизмы поиска и выбор позиций в заданной окрестности. Приведена общая структура оптимизационного процесса. Экспериментальные исследования проводились на IBM PC. По сравнению с существующими алгоритмами достигнуто улучшение результатов.

Роевой интеллект; пчелиная колония; адаптивное поведение; самоорганизация, размещение, оптимизация.

B.K. Lebedev, V.B. Lebedev PLASEMENT ON THE BASIS OF THE BEER COLONY METHOD

In work the algorithm of the decision of a placing problem, on the basis of modeling of a beer colony behaviour is considered. Models of behaviour of scouts agents and foragers agents, search engines and a choice of positions in the set vicinity are described. The general structure of optimization process is resulted. Experimental researches were spent on IBM PC. In comparison with existing algorithms improvement of results is reached.

Swarm intelligence; a beer colony; adaptive behaviour; self-organizing; placement; optimization.

Введение. Разработка методов и алгоритмов для решения задачи размещения осуществляется на протяжении многих лет, но, по-прежнему, является актуальной. Это связано, в первую очередь, с тем, что эта задача является NP-полной, и разработать универсальный алгоритм, позволяющий находить точное оптимальное решение за приемлемое время затруднительно. Появление новых более совершенных средств вычислительной техники, дающих мощные вычислительные ресурсы, а также повышение требований к проектируемым устройствам, является побудительной причиной разработки новых алгоритмов размещения. Одним из новых направлений таких методов являются мультиагентные методы интеллектуальной

* Работа выполнена при поддержке: РФФИ (грант № 10-07-00055), г/б № 2.1.2.1652. 12