Экспериментальное исследование возможностей решения многоэкстремальных задач оптимизации эвристическими методами

ИНФОРМАТИКА, ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА И УПРАВЛЕНИЕ INFORMATION TECHNOLOGY, COMPUTER SCIENCE, AND MANAGEMENT

УДК 519.168:856.2 DOI 10.12737/16074

Экспериментальное исследование возможностей решения многоэкстремальных задач

*

оптимизации эвристическими методами

Р. А. Нейдорф1, И. В. Черногоров2, О. Т. Ярахмедов3, В. В. Полях4 **

1 2- 3- 4Донской государственный технический университет, г. Ростов-на-Дону, Российская Федерация

Experimental study on solution possibilities of multiextremal optimization problems through heuristic methods *** R. A. Neydorf 1, I. V. Chernogorov 2, O. T. Yarakhmedov 3, V. V. Polyakh4 **

1. 2. 3. 4Don State Technical University, Rostov-on-Don, Russian Federation

Целью данной работы является исследование актуальной задачи поисковой оптимизации многоэкстремальных объектов, которая существенно сложнее одноэкстремальных задач. Показано, что для достижения поставленной цели пригодны лишь эвристические методы. Поэтому исследуются три наиболее известных и разработанных метода поисковой оптимизации: метод роящихся частиц, эволюционно-генетический подход и муравьиный алгоритм. Анализ проводится в среде общей для всех методов тестовой задачи исследования многоэкстремальной функции Растригина. Показано, что все указанные методы вполне пригодны для решения многоэкстремальных задач. Хотя в каждом из эвристических алгоритмов приходится использовать собственные специфические подходы к решению задачи обнаружения и идентификации локальных экстремумов, их объединяет необходимость осуществления кластеризации данных. Каждый метод может обеспечить любую заданную точность решения экстремальной задачи и использует приемлемый ресурс времени.

The work objective is to study a vital task of the multiextremal objects search engine optimization which is much more complicated than monoextremal problems. It is shown that only heuristics is appropriate in achieving this goal. Therefore, three best known and developed search engine optimization techniques are studied: particle swarm method, evolutionary genetic approach, and ant colony algorithm. The analysis is performed in the environment common for all methods of the test research problems of the multiextremal Rastrigin function. It is proved that all these methods are well suited for the multiextremal problem solution. While it is necessary to use proper specific approaches to solving the local extremum detection and identification problem in each of the heuristic algorithms, they all require data clustering. Each method can provide any desired accuracy of the extremum problem solution, and it utilizes an acceptable time resource.

Ключевые слова: оптимизация, экстремум, многоэкстре-мальность, поисковая оптимизация, кластери-зация, эвристические методы, эволюционно-генетический подход, метод роящихся частиц, муравьиный алгоритм.

Keywords: optimization, extremum, multiextremality, search engine optimization, clustering, heuristic methods, evolutionary genetic approach, particle swarm method, ant colony algorithm.

Введение. Многие современные проблемы науки, техники, экономики, военного дела и пр. связаны с решением задач 2 поиска оптимальных характеристик объектов проектирования: конструкций, технологий, режимов и условий работы, "й динамических и статических состояний и т. д. Иными словами, разработчикам приходится решать задачи поисковой

д

о оптимизации (ПО) [1-3]. Характерно, что большинство известных на сегодня методов ПО разработано и эффективно используется для нахождения одного оптимума — чаще всего, глобального [3, 4]. Однако многие задачи планирова-£ ния, сложные технологические комплексы, транспортные задачи и другие объекты оптимизации (особенно дискрет-

сл

ной природы) характеризуются многоэкстремальностью (МЭ) [4-11]. Столь существенное отличительное свойство требует специфических методов решения таких задач. Вряд ли эти методы целесообразно искать в классе детермини-С рованных методов ПО. Они слишком чувствительны к знакопеременности и разрывности функций отклика в конти-

"Работа выполнена в рамках инициативной НИР.

**E-mail: ran_pro@mail.ru, hintaivr@gmail.com, orhashka@gmail.com, silvervpolyah@gmail.com

»»»The research is done within the frame of the independent R&D.

нуальных факторных пространствах, а также описываются NP-полными алгоритмами в дискретных факторных пространствах. Для решения большинства реальных оптимизационных задач все чаще стремятся применять методы, получившие название «эвристические». Эти методы наиболее перспективны и для решения МЭ задач [5-11]. Постановка задачи. В связи со сказанным во введении представляется актуальным и перспективным исследование наиболее распространенных эвристических методов ПО в среде какой-либо характерной МЭ задачи. Цель работы: установить возможность нахождения нескольких или всех экстремумов рассматриваемой области каждым из выбранных методов. Кроме того, необходимо оценить точность определения значений экстремумов и их координат. Поэтому первым этапом исследований является выбор тестовой МЭ функции, которая может послужить общей для всех методов средой решения МЭ задач.

Выбор многоэкстремальной тестовой функции и предварительный анализ ее свойств. Самыми распространенными и эффективными тестовыми функциями, используемыми для отладки и исследования методов ПО, являются функции Розенброка, Химмельблау и Растригина. Из них наиболее многоэкстремальная — функция Растригина (ФР). Эта невыпуклая универсальная функция предложена в 1974 году Леонардом Растригиным [12]. Уравнение функции N аргументов имеет вид:

f

i=1

где A = 10.

Глобальный минимум этой функции — fsJ¡i„( 0) = 0.

Нахождение глобального минимума данной функции представляет собой достаточно трудную задачу из-за большой области поиска и количества локальных минимумов, на которых алгоритм может зацикливаться. Выделение и оценка локальных экстремумов является еще более сложной и неординарной задачей.

Исследование ФР алгоритмом роящихся частиц. Сущность и основания для использования в задачах ПО метода роящихся частиц (МРЧ) хорошо известны [13-17]. Классический алгоритм МРЧ имитирует реальную групповую поведенческую модель насекомых, птиц, рыб, многих простейших и т. п. Однако МЭ объекта оптимизации требует некоторых специфических свойств алгоритма. Поэтому канонический вариант МРЧ был значительно переработан авторами [18-20] и другими учениками Р. А. Нейдорфа [7-11]. В частности, разработана его модификация для решения МЭ задач.

Модель механического движения (ММД) частиц [20] в МЭ МРЧ была существенно доработана и уточнена:

Xti = X

Vti = V(t-At)i + A(t-At)ixAt, (3) g

к

A, = Api+Atri, (4) ч

F rn

где X^t-At)i — предыдущее положение i-й частицы; Xti — ее текущее положение; Vti — скорость i-й частицы в текущий момент времени; V(t-At)i — предыдущая скорость частицы; A(t-At)i — предыдущее ускорение частицы в преды- К

ей

- W

дущий момент времени; At — интервал интегрирования по времени; Api — ускорение под действием биологически к

- К

обусловленных сил притяжения частиц; Atri — замедление под действием сил трения.

Для улучшения поисковых свойств было введено стохастическое размытие параметров: <§

Щ

л ч

(U

где Ал (s) — значение флуктуирующего параметра на такте вычисления; s — относительное отклонение искажаемо- к

ч

го параметра от номинального значения; r„d(1) — случайное число в диапазоне [0, 1]. §

v

Предложены и проверены механизмы естественной кластеризации частиц, порождаемой и параметрически 3 настраиваемой свойствами алгоритма:

— градиентный, основанный на чувствительности частиц к смене знака скорости изменения оптимизируемого крите- ^ рия исследуемого объекта [7-9]; <й

— потенциальный, основанный на введении в ММД сил притяжения ко всем обнаруженным при роении и сканировании пространства поиска локальным экстремумам:

Api = Api+ALp,+Api. (6) s

AYs) = Ах

Здесь А^ — притяжение частицы к глобальному экстремуму; Ар — притяжение частицы к локальному экстремуму; АС — притяжение частицы к центру ближайшего кластера.

Алгоритм МЭ МРЧ показал хорошую избирательность при локализации областей экстремумов, однако механизмы кластеризации и локализации кластеров потребовали существенной структурной и параметрической доработки. В настоящем исследовании введены и проверены следующие модификации:

— механизм отсева по определенным критериям «плохих» кластеров (являющихся худшими на заданном числе итераций);

— механизм объединения схожих кластеров на каждом шагу;

— настройка условного притяжения к центру ближайшего кластера;

— механизм локализации областей кластеров и поиска в них параметров локальных экстремумов.

Эффективность модификаций проверена ФР в диапазоне координат (х, у) е [-1.5,1.5]- В этой области ФР

имеет 9 локальных минимумов, один из которых является глобальным.

На рис. 1 отображен процесс локализации областей экстремумов и создания соответствующих кластеров.

а) б)

Рис. 1. Локализация областей экстремумов: 1-я итерация

Как видно из рис. 1, частицы изначально притягивались к образовавшемуся кластеру, который располагался в области глобального экстремума. Затем периферийные частицы находили локальные экстремумы, притягивались к ним и собрались в кластеры. В суженных областях кластеров применение алгоритма МЭ МРЧ (на случай наличия менее выделенных и значимых экстремумов) повторяется. Этот процесс итеративно повторяется до получения требуемой точности оценки параметров всех локальных и глобального экстремумов.

На рис. 2 отображены фрагменты итеративной идентификации локального экстремума, который располагается в точке [-1, 1].

В табл. 1 отображены результаты, полученные локализацией всех областей, приведены координаты х = хг и у = х2, а также значения ФР, полученные по формуле (1). Как видно, получены удовлетворительные результаты с временными затратами ~149 с. С увеличением числа итераций (и времени поиска) точность оценки повышается.

Таблица 1

Результаты проведенного опыта

Эталон Параметры оценки экстремума

X У f (X, y) Координаты Значение

X У f

-1 1 2 -0,9957 0,9953 1,9901

-1 0 1 -0,9949 0,0001 0,995

-1 -1 2 -0,9951 -0,9947 1,9899

0 1 1 -3,20х10-5 0,9948 0,995

0 0 0 9,85 х10-5 -6,49 х10-6 1,94 х10-6

0 -1 1 0,00017 -0,995 0,995

1 1 2 0,9949 0,995 1,9899

1 0 1 0,995 0,00011 0,995

1 -1 2 0,9952 -0,9951 1,9899

Для решения задачи МЭ МРЧ использован ПК c процессором AMD Phenom II P960, оперативная память — 6Gb. При этом для достижения точности 1E-3 удалось ограничиться 50 итерациями и осуществить локализацию областей экстремумов с затратами по времени — 149 с. При дополнительном исследовании каждой из областей потребовалось в среднем — 2,5-3,5 мин на одну область и порядка 30 мин на все 9 областей.

Таким образом, можно сделать вывод, что МЭ МРЧ является эффективным инструментом решения МЭ задач. Исследование ФР эволюционно-генетическим алгоритмом. Эволюционно-генетический алгоритм (ЭГА) является одним из наиболее востребованных инструментов решения оптимизационных задач [21-24]. Структура и основные операторы ЭГА хорошо известны, а конкретные структурно-параметрические особенности зависят от предметного при- § ложения. В частности, применение ЭГА для решения МЭ задач [25-28] требует дополнения классического ЭГА ин- щ струментами селектирования экстремумов — по типу (максимум, минимум), по величине, а также по координатам его и положения в факторном пространстве. В данной работе развивается подход к селекции экстремумов, основанный на j^1

использовании одновыборочного критерия Стьюдента [27-29]. Сущность данного подхода может быть представлена ^

к

следующим образом. При последовательном использовании ЭГА результаты, полученные в финишных поколениях, ев

кластеризуются, т. е. разделяются по координатным группам. С этой целью для каждого результата проверяется 0- К

гипотеза. *

<и

Математическая модель данного подхода кластеризации заключается в последовательном сравнении векторов ^

со средним значением группы векторов ^

А Ч <и

где n — количество векторов группы. к

Относительно заданной доверительной вероятности принимается решение о принадлежности вектора v суще- §

Е 3 и

<й и к

Й

v = {A Vi = v, - vo\i = 1,n},

ствующему множеству. Для уточнения принадлежности необходимо рассчитать среднее значение длин векторов группы, с которой производится сравнение:

Ду = 2П=1 Ау/П .

После необходимо вычислить стандарт отклонения длин векторов уже обозначившегося кластера:

о, о

S{Av} = JE(AV-v//(n -1) , (8) &

i=1 К

s

S{ AV} = S{ Av}/Jn .

По вычисленным величинам рассчитываются опытные значения одновыборочного критерия Стьюдента:

¿0 =|Аг.

Если найденное опытное значение ¿0 не превосходит табличного [30] значения ¿г при п степеней свободы и выбранном в таблице уровне доверительной вероятности Р, то можно считать, что ¿0 принадлежит данной группе объектов.

Данный метод хорошо зарекомендовал себя при исследовании МЭ зависимостей [27-31].

С учетом этого подхода разработаны алгоритм и программное средство (ПС) на его основе. С помощью ПС ФР рассмотрена в том же диапазоне, что и в предыдущем разделе статьи при исследовании ФР алгоритмом роящихся частиц.

Структура входных параметров ЭГА, которая была использована при исследовании ФР, включает в себя поколений — 10, особей в каждом поколении — 1000, вероятность кроссинговера — 95 % и мутации — 30 %. Стоит отметить, что параметр области поиска используется тот же, что и в предыдущем разделе, а точность исследования в этой области равна 7 разрядам после запятой. В результате выделено 9 кластеров, минимумы которых можно соотнести с теми минимумами ФР, которые попали в исследуемую область.

На рис. 3 отображены графики последовательного нахождения значений ФР и их различных координат (X и У), а также соответствующие им значения целевой функции (Б (X, У) ~ 2), которые, в свою очередь, упорядочены по убыванию (для кластеров, образованных вокруг минимумов со значениям (-1;1), (1;-1), (1;1), (-1;-1)).

1.8 1.3

Рис. 3. Выделение кластеров в ходе эксперимента

На рис. 4, а восемь периферийных кластеров характеризуют локальные минимумы, а центральный кластер содержит результаты, приближающиеся к глобальному минимуму функции. Хорошо видно, что близкие (а в некоторых случаях равные) по значению функции цели имеют существенные отличия по координатным показателям (т. е. параметры функции цели, обеспечивающие близкие к минимуму значения, разнятся). Данный факт подтверждает много-экстремальность исследуемого объекта.

Рис. 4. Локализация областей экстремумов. Выделенные кластеры ФР (а) и формирование кластеров в локализованной области:

100-е поколение

Результаты исследования функции (как на глобальный, так и на локальные минимумы) отображены в табл. 2.

Таблица 2

Найденные параметры функции цели первой итерации

Эталон Параметры оценки экстремума

№ х у / (х, у) Координаты Значение

х у /

1 0 0 0 0,00188 0,00015 0,00071

2 -1 0 1 -0,98932 0,00073 1,00137

3 0 -1 1 0,00824 -1,00043 1,01436

4 1 0 1 0,99948 -0,01328 1,03398

5 0 1 1 0,01403 1,00665 1,0611

6 1 -1 2 0,99146 -0,99314 1,993

7 1 1 2 0,99702 1,00467 2,00947

8 -1 -1 2 -0,9897 -1,01397 2,06707

9 -1 1 2 -1,00528 1,00077 2,01775

Как видно из табл. 2, оценки значений экстремумов и их координат не отличаются высокой точностью. В случае, если найденные значения не удовлетворяют требуемой точности, реализуется повторное исследование минимумов функции в области кластеров.

В качестве примера приводятся исследования областей кластеров 2, 4 и 8 методом локализации поисковой области [29] (табл. 3). Дальнейший поиск значений осуществляется использующим ЭГА методом, разработанным авторами [27, 28].

Наглядно кластер найденных ЭГА статистически близких значений в одной из областей можно наблюдать на рис. 4, б. Наилучшая оценка экстремума выделена жирной точкой. Для повышения точности оценки вокруг этого субэкстремума программой выделяется область дополнительного исследования, результаты анализа которой визуализированы на рис. 4, в.

Уточненные на второй итерации значения функций цели, а также соответствующих им координат приведены в табл. 3.

Таблица 3

Найденные параметры значения функции цели второй итерации

2-й кластер 4-й кластер 8-й кластер

Значение X -0,999996 0,999992 -0,999996

Значение У 0,000005 -0,000008 -1,000005

Значение ФР 0,999997 0,999989 1,999991

и К X <и

4 и й Л

с

^

к й И

к

X X <и н

5

X Л

ч и

Ё ч о

к

Е 3 и

<й И

к Й

а о

X

К

87

Исследование ФР муравьиным алгоритмом. Муравьиные алгоритмы (МА) — еще одна группа методов, которая используется в различных оптимизационных задачах. Их отличительная особенность заключается в имитации ключевых черт поведения настоящих муравьев [32]. Чаще всего МА применяются к задачам минимизации пути на графах [33], однако данные алгоритмы показывают хорошие результаты и в других областях [34, 35]. В представленной работе рассмотрено применение классического МА для МЭ оптимизации эталонной двухпараметрической ФР [12].

В основе описываемого метода лежит классическая реализация МА, применяемая к задачам на графе [36, 37, 38], но с некоторым дополнением. Рассматриваемое пространство делится на равные участки [39].

Как и в классическом МА, в данной модификации выделяются такие этапы, как «расстановка и инициализация», «осуществление перехода» и «проверка условия останова».

В качестве примера был рассмотрен фрагмент ФР для х е [-1.5,1.5], у е [-1.5,1.5]. Он разделен на п*п

участков, каждый из которых ассоциируется со значением функции в центре и наделяется некоторым количеством феромона. На участок помещается A муравьев. Так как все участки одинаковые, то размеры фрагмента можно вычислить по формуле:

т =

Таким образом, множество участков представлено матрицей А = . Муравей в участке Iоцени-

вает все смежные с ним участки и рассчитывает вероятности перехода по формуле:

№

Рак

р ' Уг,р) * f (4+1,а+1' Уг+1,а +1> ^ 0'

где Q*(Xi+lJj+l— функция количества феромонов в ячейках — тг +1,р +1= тг,а ; ^i+1_j+v^ij =

I /(х1 у, - /(х^ 1 1, 1 1Я1 — вес (виртуальная дистанция) между двумя участками; а — изменяемый коэффициент воздействия феромона; Р — изменяемый коэффициент весового воздействия; t — номер итерации. Структура функции Q(,1ij,'Цi+1,j+1_,'Цij,а,fi,t) может быть различной [39].

Модель (12) дополняется моделью обновления феромона (13). На каждой итерации происходит прирост и испарение феромона. Таким образом, приращение количества феромона за шаг моделирования в участке д - рассчитывается по следующей формуле:

.

т -О + 1) =

Здесь ре(0,1) — коэффициент испарения; Тр^) — содержание феромона на участке 1г р ; АТр^) — приращение на каждой итерации, рассчитываемое по формуле:

Ат-(0 = Ё (КX (/(х1,],у-)(кр} > /(хм-+1,уг+!,-+!){кр')) ,

р=1

\

где К — коэффициент прироста феромона.

Испарение происходит в связи с тем, чтобы было рассмотрено все пространство возможных решений.

При /(х,уХ+—1 > /(х,у)^ переход на участок с участка запрещен. Таким образом, условие

останова считается выполненным, если все муравьи не имеют возможности двигаться. В результате через N итераций муравьи займут ячейки с наименьшим значением функции, локализовав минимумы.

На основе описанного алгоритма и моделей (12, 13) разработано ПС, реализующее поиск локальных и глобальных экстремумов. В качестве примера на рис. 5 приводятся результаты поиска глобального и локальных минимумов ФР. Для решения выбраны границы области определения ФР, аналогичные принятым в предыдущих разделах. Выделенная область изначально делилась с шагом 0,25, и в каждом фрагменте помещалось по 2 муравья. Коэффициенты а = 1, в = 0,5, р = 0,5, К = 1 и т = 1. На рис. 5 изображены отдельные этапы работы ПС.

й о тз

'й

и

и

О, £ -Й

а) б) в)

Рис. 5. Визуализация этапов работы ПС: инициализация

Уже после трех итераций наблюдается повышение концентрации агентов во всех областях минимумов функции. Финальный результат получен за 6 итераций. На рис. 5, в видно, что агенты не только обнаруживают все минимумы, но и выделяют их значимость своим количеством.

Рассмотрим пример применения алгоритма с большим разбиением исследуемой области. Данный алгоритм применяется повторно к локализованным участкам до тех пор, пока не будет получен результат с заданной точностью. На рис. 6 отображены полученные за 220 итераций результаты локализации и двух уточнений глобального экстремума с разбиением 100*100 участков, который располагается в точке (0, 0). Такой результат получен в связи с исходными данными и особенностями строения ФР.

п •S" .''i ,» "!П II líjiH.i-'Jíj ШШШ pa !! i! ку к iiiii. iiii Ipfflii Ш í  - :Я iil ШШ ШШИНН

i -C.H-- mm нНш ülil "Шт IÍHMIÍ: i i и  ill PÍVf11 i!l!iii?;? ¡Г)  iü Wtif w

11 pi .-r^r-J?

1 ftr/^- jr ¡i 4^4 -угу

ill Hi Ipil áliiir- i IÜ! /  \

i 1Шж ii'ltr lili;: .Л/- :; !!!!=:::::. - Ч&! •sae,.« í^"4; m !l¡Fl : H!

а) б) в)

Рис. 6. Результаты локализации и уточнения при разбиении области 100x100; выделение всех локальных экстремумов

В заключение стоит отметить, что при относительно малом количестве итераций МА дает прекрасные результаты, что свидетельствует о его эффективности при МЭ оптимизации функций.

Заключение. Для исследования эффективности решения задачи оптимизации при многоэкстремальности объекта были выбраны три эвристических алгоритма. Анализ результатов их использования показал, что данные методы действенны и эффективны, хотя есть существенные различия между структурами процессов поиска и между формами оценки получаемых результатов. Эти свойства алгоритмов определяются в каждом конкретном случае специфическими подходами к решению задачи: обнаружение и идентификация локальных экстремумов, способы кластеризации и последующие операции уточнения результатов. Тем не менее, во всех случаях оказалось необходимым подвергнуть каждый из этих методов существенной модификации, связанной с необходимостью кластеризации данных. Исследования показали, что каждый метод может обеспечить практически любую требуемую точность решения экстремальной задачи (наилучший результат: МРЧ = 1,94E-06; ЭГА = 5E-06; МА = 3,75E-07). Это, конечно, обусловливает значительное увеличение вычислительных и временных ресурсов. Однако применительно к исследуемой тестовой функции все методы показали вполне приемлемую производительность (средние затраты времени на эксперимент: МРЧ ~ 300 с; ЭГА ~ 86 с; МА ~ 128 с). Таким образом, все три исследованных в данной работе метода актуальны и перспективны. Конкретный выбор алгоритмического инструмента для решения той или иной МЭ задачи зависит от опыта и от личных предпочтений исследователя, а также от специфических характеристик предметной области иссле- §

дования. ¡Ц

14 ей Л

Библиографический список ¡^

1. Boettcher, S. Extremal Optimization: Methods derived from Co-Evolution / S. Boettcher, A.-G. Percus // Proceed- ^ ings of the Genetic and Evolutionary Computation Conference. — San Francisco, 1999. — P. 825-832.

2. Floudas, C.-A. Encyclopedia of Optimization / C. A. Floudas, P. M. Pardalos. — 2nd edition. — New York : § Springer, 2009. — 4646 p. S

3. Jones, K.-B. Search Engine Optimization / K.-B. Jones. — 2nd edition — Indianapolis : Wiley Publishing, 2010. ^ — 336 p. IB

r A

4. Shreves, R. Drupal Search Engine Optimization / R. Shreves. — Birmingham : Packt Publishing, 2012. — 116 p. g

5. Математическая энциклопедия : в 5 т. Т. 4. / гл. ред. И. М. Виноградов. — Москва : Советская энциклопе- к

дия, 1984. — C. 135-140. о

К

6. Strongin, R. G. Algorithms for multi-extremal mathematical programming problems employing the set of joint £ space-filling curves / R. G. Strongin // Journal of Global Optimization. — 1992. — Vol. 2, is. 4. — P. 357-378. и

7. Нейдорф, Р. А. Перестановочный алгоритм биэкстремального решения однородной распределительной задачи / Р. А. Нейдорф, А. В. Филиппов, З. Х. Ягубов // Вестник Дон. гос. техн. ун-та. — 2011. — № 5 (56). — Т. 11. — ¡3 С. 655-666. |

8. Нейдорф, Р. А. Исследование свойств многоэкстремальности решения распределительных задач / о Р. А. Нейдорф, А. А. Жикулин // Системный анализ, управление и обработка информации : сб. тр. 2-го Междунар. к

науч. семинара. — Ростов-на-Дону : ИЦ ДГТУ, 2011. — С. 377-380.

9. Нейдорф. Р. А. Методология решения многоэкстремальных задач модифицированным методом роящихся частиц / Р. А. Нейдорф, А. А. Деревянкина // Инновации, экология и ресурсосберегающие технологии на предприяти-

S

ях машиностроения, авиастроения, транспорта и сельского хозяйства : тр. IX междунар. науч.-техн. конф. — Ростов-на-Дону : ИЦ ДГТУ, 2010. — С. 328-330.

10. Нейдорф, Р. А. Решение многоэкстремальных задач методом делящихся роев / Р. А. Нейдорф, А. А. Скляренко // Вестник Дон. гос. техн. ун-та. — 2010. — Т. 10, № 4 (47). — С. 492-499.

11. Нейдорф, Р. А. Решение задач распознавания методом роящихся частиц с делением роя / Р. А. Нейдорф, А. А. Деревянкина // Изв. ЮФУ. Техн. науки. — 2010. — № 7 (108). — C. 21-28.

12. Rastrigin, L. A. Systems of Extremal Control / L. A. Rastrigin. — Moscow : Nauka, 1974. — 316 p.

13. Eberhart, R. A New Optimizer Using Particle Swarm Theory / R.-C. Eberhart, J. Kennedy // Proceedings of the Sixth International Symposium on Micro Machine and Human Science. — Nagoya, 1995. — P. 39-43.

14. Kennedy, J.-A. Particle Swarm Optimization / J.-A. Kennedy , R.-C. Eberhart // Proceedings of IEEE International Conference on Neural Networks. — Piscataway, 1995. — P. 1942-1948.

15. Shi, Y. A modified particle swarm optimizer / Y. Shi, R.-C. Eberhart // Proceedings of the IEEE Congress on Evolutionary Computation. — Piscataway, 1998. — P. 69-73.

16. Clerc, M. The particle swarm-explosion, stability, and convergence in a multi-dimensional complex space / M. Clerc, J. Kennedy // IEEE Transactions on Evolutionary Computation. — 2002. — Vol. 6, is. 1. — P. 58-73.

17. Mendes, R. The fully informed particle swarm: simpler, maybe better / R. Mendes, J. Kennedy, J. Neves // IEEE Transactions on Evolutionary Computation. — 2004. — Vol. 8, is. 3. — P. 204-210.

18. Нейдорф, Р. А. Параметрическая настройка алгоритма поисковой оптимизации методом роящихся частиц с использованием планирования эксперимента / Р. А. Нейдорф, И. В. Черногоров // Международный научный институт «Educatio». — 2015. — Т. 4, № 2 (9). — С. 44-49.

19. Нейдорф, Р. А. Расширение функционала метода роящихся частиц кинематической и динамической модификацией алгоритма его реализации / Р. А. Нейдорф, И. В. Черногоров // ООО "Aeterna", Сб. статей "Роль науки в развитии общества", СБ-17. - том 1, 2015. - С. 24-28.

20. Нейдорф, Р. А. Параметрическое исследование алгоритма роящихся частиц в задаче поиска глобального экстремума / Р. А. Нейдорф, И. В. Черногоров // Математические методы в технике и технологиях — ММТТ-28 : сб. трудов XXVIII междунар. науч. конф. : в 12 т. Т. 3 / под общ. ред. А. А. Большакова. — Саратов : Саратов. гос. техн. ун-т ; Ярославль : Ярослав. гос. техн. ун-т ; Рязань : Рязанск. гос. радиотехн. ун-т. — 2015. — 108 с.

21. Fraser, A. Computer Models in Genetics / A. Fraser. — New York : McGraw-Hill, 1970. — 192 p.

22. Goldberg, D. Genetic Algorithms in Search, Optimization and Machine Learning / D. Goldberg. — Boston : Addison-Wesley, 1989. — 372 p.

23. Muhlenbein, H. The Parallel Genetic Algorithm as Function Optimizer / H. Muhlenbein, D. Schomisch, J. Born // Parallel Computing. — 1991. — Vol. 17. — P. 619-632.

24. Barricelli, N.-A. Esempi numerici di processi di evoluzione / N.-A. Barricelli // Methodos. —1954. — Vol. 6. — P. 45-68.

25. Boettcher S. Extremal Optimization — Heuristics via Co-Evolutionary Avalanches / S. Boettcher // Computing in Science & Engineering. — 2000.— Vol. 2, is. 6. — P. 75-82.

26. Boettcher, S. Extremal optimization of graph partitioning at the percolation threshold / S. Boettcher // Journal of Physics A: Mathematical and General. — 1999. — Vol. 32. — P. 5201-5211.

27. Нейдорф, Р. А. Метод многоэкстремального поиска с использованием эволюционно-генетического алгоритма и выборочного критерия Стьюдента / Р. А. Нейдорф, В. В. Полях // Инновационная наука. — 2015. — Т. 1, № 3. — С. 135-140.

28. Нейдорф, Р. А. Исследование многоэкстремальных зависимостей с использованием эволюционно гене-g тического метода и одновыборочного критерия Стьюдента / Р. А. Нейдорф, В. В. Полях // Математические методы в з технике и технологиях — ММТТ-28 : сб. трудов XXVIII междунар. науч. конф. : в 12 т. Т. 3 / под общ. д ред. А. А. Большакова. — Саратов : Саратов. гос. техн. ун-т ; Ярославль : Ярослав. гос. техн. ун-т ; Рязань : Рязанск.

гос. радиотехн. ун-т. — 2015. — 108 с.

г;^ 29. Нейдорф, Р. А. Локализация областей поиска эволюционно-генетического алгоритма при решении задач

д

"й многоэкстремального характера / Р. А. Нейдорф, В. В. Полях //Наука. Технологии. Производство. — 2015. —№ 5(9). j> —С. 32-35.

^ 30. Gosset, W.-S. The probable error of a mean / W.-S. Gosset // Biometrika. — 1908. — № 6 (1). — P. 1-25.

31. Lovric, M. International encyclopedia of statistical science / M. Lovric. — Berlin : Springer-Verlag, 2011. —

1671 p.

32. Кажаров, А. А. Муравьиные алгоритмы для решения транспортных задач / А. А. Кажаров, 90 В. М. Курейчик // Теория и системы управления. — 2010. — № 1. — С. 30-43.

33. Dorigo, M. Ant colony system: a cooperative learning approach to the traveling salesman problem / M. Dorigo, L.-M. Gambardella // IEEE Transactions on Evolutionary Computation. — 1997. — Vol. 1, № 1. — P. 53-66.

34. Liu, X. An effective clustering algorithm with ant colony / X. Liu, H. Fu // Journal of Computers. — 2010. — Vol. 5, № 4. — P. 598-605.

35. Toksari, M.-D. Ant Colony Optimization for finding the global minimum / M.-D. Toksari // Applied Mathematics and Computation. — 2006. — № 176. — P. 308-316.

36. Нейдорф, Р. А. Разработка, оптимизация и анализ параметров классического муравьиного алгоритма при решении задачи коммивояжера в полно-связном графе / Р. А. Нейдорф, О. Т. Ярахмедов // Наука. Технология. Производство. — 2015. — Т. 2, № 3. — С. 18-22.

37. Нейдорф, Р. А. Статистическое исследование оптимизационных свойств решения классическим муравьиным алгоритмом задачи коммивояжера / Р. А. Нейдорф, О. Т. Ярахмедов // Международный научный институт «Educatio». — 2015. — № 4 (11). — С. 141-144.

38. Нейдорф, Р. А. Исследование возможностей оптимального решения задачи коммивояжера параметрически оптимизированным муравьиным алгоритмом / Р. А. Нейдорф, О. Т. Ярахмедов // Математические методы в технике и технологиях — ММТТ-28 : сб. трудов XXVIII междунар. науч. конф. : в 12 т. Т. 3 / под общ. ред. А. А. Большакова. — Саратов : Саратов. гос. техн. ун-т ; Ярославль : Ярослав. гос. техн. ун-т ; Рязань : Рязанск. гос. радиотехн. ун-т. — 2015. — 108 с.

39. Apply Ant Colony Algorithm to Search All Extreme Points of Function [Электронный ресурс] / C. Y. Pang [et al.] — Режим доступа : http://www.cornell.edu/ arxiv.org/pdf/0911.3209v1.pdf (дата обращения : 17.10.15).

References

1. Boettcher, S., Percus, A.-G. Extremal Optimization: Methods derived from Co-Evolution. Proceedings of the 1999 Genetic and Evolutionary Computation Conference (GECCO '99), 1999, pp. 825-832.

2. Floudas, C.-A., Pardalos, P. M. Encyclopedia of Optimization, 2nd edition. New York: Springer, 2009, 4646 p.

3. Jones, K.-B. Search Engine Optimization, 2nd edition. Indianapolis: Wiley Publishing, 2010, 336 p.

4. Shreves, R. Drupal Search Engine Optimization. Birmingham: Packt Publishing, 2012, 116 p.

5. Vinogradov, I.M., ed. Matematicheskaya entsiklopediya: v 5 t. T. 4. [Mathematical encyclopedia: in 5 vol. Vol. 4.] Moscow: Sovetskaya entsiklopediya, 1984, pp. 135-140 (in Russian).

6. Strongin, R. G. Algorithms for multi-extremal mathematical programming problems employing the set of joint space-filling curves. Journal of Global Optimization, 1992, vol. 2, iss. 4, pp. 357-378 .

7. Neydorf, RA., Filippov, A.V., Yagubov, Z.K. Perestanovochnyy algoritm biekstremal'nogo resheniya odnorodnoy raspredelitel'noy zadachi. [Exchange algorithm of the homogeneous distribution problem biextremal solution.] Vestnik of ^ DSTU, 2011, no. 5 (56), vol. 11, pp. 655-666 (in Russian). g

8. Neydorf, RA., Zhikulin, A.A. Issledovanie svoystv mnogoekstremal'nosti resheniya raspredelitel'nykh zadach. ™

[Investigation of properties of distribution problem solution multiextremality.] Sistemnyy analiz, upravlenie i obrabotka infor- ^

matsii: sb. tr. 2-go Mezhdunar. nauch. seminara. [System analysis, management and information processing: Proc. 2nd Int. Sci. s

Seminar.] Rostov-on-Don: DSTU Publ. Centre, 2011, pp. 377-380 (in Russian). g

S

9. Neydorf, RA., Derevyankina, A.A. Metodologiya resheniya mnogoekstremal'nykh zadach modifitsirovannym щ metodom royashchikhsya chastits. [Methodology of solving multiextremal problems by the modified particle swarm method.] Innovatsii, ekologiya i resursosberegayushchie tekhnologii na predpriyatiyakh mashinostroeniya, aviastroeniya, transporta i к;

св

sel'skogo khozyaystva: tr. IX mezhdunar. nauch.-tekhn. konf. [Innovations, ecology, and resource-saving technologies at the E enterprises of mechanical engineering, aviation, transport, and agriculture: proc. IX Int. Sci.-Tech. Conf.] Rostov-on-Don: § DSTU Publ. Centre, 2010, pp. 328-330 (in Russian). Ё

10. Neydorf, RA., Sklyarenko, A.A. Reshenie mnogoekstremal'nykh zadach metodom delyashchikhsya roev. [The о

s

solution of multiextreme problems by the swarm sharing method.] Vestnik of DSTU, 2010, vol. 10, no. 4 (47), pp. 492-499 (in £

л

Russian). и

11. Neydorf, RA., Derevyankina, A.A. Reshenie zadach raspoznavaniya metodom royashchikhsya chastits s dele-niem roya. [The decision of tasks of recognition by the method of swarming particles with division of the plenty.] Izvestiya н SFedU. Engineering Sciences, 2010, no. 7 (108), pp. 21-28 (in Russian).

12. Rastrigin, L. A. Systems of Extremal Control. Moscow: Nauka, 1974, 316 p. ^

13. Eberhart, R., Kennedy, J. A New Optimizer Using Particle Swarm Theory. Proceedings of the Sixth Internation- К al Symposium on Micro Machine and Human Science. Nagoya, 1995, pp. 39-43.

14. Kennedy, J., Eberhart, R.-C. Particle Swarm Optimization. Proceedings of IEEE International Conference on Neural Networks. Piscataway, 1995, pp. 1942-1948. 91

(U

15. Shi, Y., Eberhart, R.-C. A modified particle swarm optimizer. Proceedings of the IEEE Congress on Evolutionary Computation. Piscataway, 1998, pp. 69-73.

16. Clerc, M., Kennedy, J. The particle swarm-explosion, stability, and convergence in a multi-dimensional complex space. IEEE Transactions on Evolutionary Computation, 2002, vol. 6, iss. 1, pp. 58-73.

17. Mendes, R., Kennedy, J., Neves, J. The fully informed particle swarm: simpler, maybe better. IEEE Transactions on Evolutionary Computation, 2004, vol. 8, iss. 3, pp. 204-210.

18. Neydorf, R.A., Chernogorov, I.V. Parametricheskaya nastroyka algoritma poiskovoy optimizatsii metodom royashchikhsya chastits s ispol'zovaniem planirovaniya eksperimenta. [Parametric identification of search engine optimization algorithm by particle swarm method using experiment design.] International Scientific Institute "Educatio", 2015, vol. 4, no. 2 (9), pp. 44-49 (in Russian).

19. Neydorf, R.A., Chernogorov, I.V. Rasshirenie funktsionala metoda royashchikhsya chastits kinematicheskoy i dinamicheskoy modifikatsiey algoritma ego realizatsii. [Expansion of particle swarm method functional by kinematic and dynamic modification of the algorithm of its realization.] "Aeterna" LLC, Coll. Sci. Papers "The role of science in the development of society", Coll.-17, vol. 1, 2015, pp. 24-28 (in Russian).

20. Neydorf, R.A., Chernogorov, I.V. Parametricheskoe issledovanie algoritma royashchikhsya chastits v zadache poiska global'nogo ekstremuma. [Parametric study of the particle swarm algorithm in the global hill-climbing problem.] Ma-tematicheskie metody v tekhnike i tekhnologiyakh — MMTT-28: sb. trudov XXVIII mezhdunar. nauch. konf. : v 12 t. T. 3 / pod obshch. red. A. A. Bol'shakova. — Saratov: Saratov. gos. tekhn. un-t; Yaroslavl' : Yaroslav. gos. tekhn. un-t ; Ryazan': Ryazansk. gos. radiotekhn. un-t. [Mathematical techniques in methods and technologies - MMTT-28: Proc. XXVIII Int. Sci. Conf.: in 12 vol., vol. 3; under gen. ed. A.A. Bolshakov; Saratov: Saratov State Tech. Univ.; Yaroslavl: Yaroslavl State Tech. Univ.; Ryazan: Ryazan State Radiotech. Univ.] 2015, 108 p. (in Russian).

21. Fraser, A. Computer Models in Genetics. New York: McGraw-Hill, 1970, 192 p.

22. Goldberg, D. Genetic Algorithms in Search, Optimization and Machine Learning. Boston: Addison-Wesley, 1989, 372 p.

23. Muhlenbein, H., Schomisch, D., Born, J. The Parallel Genetic Algorithm as Function Optimizer. Parallel Computing, 1991, vol. 17, iss. 6-7, pp. 619-632.

24. Barricelli, N.-A. Esempi numerici di processi di evoluzione. Methodos, 1954, vol. 6, pp. 45-68.

25. Boettcher S. Extremal Optimization — Heuristics via Co-Evolutionary Avalanches. Computing in Science & Engineering, 2000, vol. 2, iss. 6, pp. 75-82.

26. Boettcher, S. Extremal optimization of graph partitioning at the percolation threshold. Journal of Physics A: Mathematical and General, 1999, vol. 32, pp. 5201-5211.

27. Neydorf, R.A., Polyakh, V.V. Metod mnogoekstremal'nogo poiska s ispol'zovaniem evolyutsionno-geneticheskogo algoritma i vyborochnogo kriteriya St'yudenta. [Method of multiextremal search using an evolutionary genetic algorithm and Student's t-test.] Innovation Science, 2015, vol. 1, no. 3, pp. 135-140 (in Russian).

28. Neydorf, R.A., Polyakh, V.V. Issledovanie mnogoekstremal'nykh zavisimostey s ispol'zovaniem evolyutsionno geneticheskogo metoda i odnovyborochnogo kriteriya St'yudenta. [Study of multiextremal dependencies using an evolutionary genetic method and one sample Student's t-test.] Matematicheskie metody v tekhnike i tekhnologiyakh — MMTT-28: sb. trudov XXVIII mezhdunar. nauch. konf. : v 12 t. T. 3 / pod obshch. red. A. A. Bol'shakova. — Saratov: Saratov. gos. tekhn. un-t; Yaroslavl' : Yaroslav. gos. tekhn. un-t ; Ryazan': Ryazansk. gos. radiotekhn. un-t. [Mathematical techniques in methods and technologies - MMTT-28: Proc. XXVIII Int. Sci. Conf.: in 12 vol., vol. 3; under gen. ed. A.A. Bolshakov; Saratov: Saratov State Tech. Univ.; Yaroslavl: Yaroslavl State Tech. Univ.; Ryazan: Ryazan State Radiotech. Univ.] 2015, 108 p. (in Russian).

29. Neydorf, R.A., Polyakh, V.V. Lokalizatsiya oblastey poiska evolyutsionno-geneticheskogo algoritma pri resh-

g enii zadach mnogoekstremal'nogo kharaktera. [Localization area of search of evolutionary genetic algorithm for solving multi-

3 extreme tasks.] Science. Technology. Production. 2015, no. 5(9). pp. 32-35 (in Russian).

-m

g 30. Gosset, W.-S. The probable error of a mean. Biometrika, 1908, no. 6 (1), pp. 1-25.

31. Lovric, M. International encyclopedia of statistical science. Berlin: Springer-Verlag, 2011, 1671 p.

r;^ 32. Kazharov, A.A., Kureichik, V.M. Murav'inye algoritmy dlya resheniya transportnykh zadach. [Ant colony opti-

mization algorithms for solving transportation problems.] Journal of Computer and Systems Sciences International, 2010,

<D

.> vol.49, iss. 1, pp. 30-43 (in Russian).

^ 33. Dorigo, M., Gambardella, L.-M. Ant colony system: a cooperative learning approach to the traveling salesman

-m

problem. IEEE Transactions on Evolutionary Computation, 1997, vol. 1, no. 1, pp. 53-66.

34. Liu, X., Fu, X. An effective clustering algorithm with ant colony. Journal of Computers, 2010, vol. 5, no. 4, pp. 598-605.

35. Toksari, M.-D. Ant Colony Optimization for finding the global minimum. Applied Mathematics and Computation, 2006, no. 176, pp. 308-316.

36. Neydorf, RA, Yarakhmedov, O. T. Razrabotka, optimizatsiya i analiz parametrov klassicheskogo murav'inogo algoritma pri reshenii zadachi kommivoyazhera v polno-svyaznom grafe. [Design, optimization, and analysis of parameters of classical ant algorithm for solving the travelling salesman problem.] Science. Technology. Production. 2015, no. 3 (7), pp. 1822 (in Russian).

37. Neydorf, RA, Yarakhmedov, O. T. Statisticheskoe issledovanie optimizatsionnykh svoystv resheniya klas-sicheskim murav'inym algoritmom zadachi kommivoyazhera. [Statistical analysis of optimized properties of the traveling salesman problem solution by classical ant colony algorithm.] International Scientific Institute "Educatio", 2015, no. 4 (11), pp. 141-144 (in Russian).

38. Neydorf, RA., Yarakhmedov, O. T. Issledovanie vozmozhnostey optimal'nogo resheniya zadachi kommivoyazhera parametricheski optimizirovannym murav'inym algoritmom. [Feasibility study of the traveling salesman problem solution by parametrically optimized ant colony algorithm.] Matematicheskie metody v tekhnike i tekhnologiyakh — MMTT-28: sb. trudov XXVIII mezhdunar. nauch. konf.: v 12 t. T. 3 / pod obshch. red. A. A. Bol'shakova. — Saratov: Saratov. gos. tekhn. un-t; Yaroslavl' : Yaroslav. gos. tekhn. un-t ; Ryazan': Ryazansk. gos. radiotekhn. un-t. [Mathematical techniques in methods and technologies - MMTT-28: Proc. XXVIII Int. Sci. Conf.: in 12 vol., vol. 3; under gen. ed. A.A. Bolshakov; Saratov: Saratov State Tech. Univ.; Yaroslavl: Yaroslavl State Tech. Univ.; Ryazan: Ryazan State Radiotech. Univ.] 2015, 108 p.

39) Pang, C.Y., et al. Apply Ant Colony Algorithm to Search All Extreme Points of Function. Available at: http://www.cornell.edu/ arxiv.org/pdf/0911.3209v1.pdf (accessed: 17.10.15).

Поступила в редакцию 21.09.2015 Сдана в редакцию 21.09.2015 Запланирована в номер 24.09.2015

<и К X <и

4 и eö Л

С

^

к

eö И

к

X X <и н

5

X Л

ч

(U

Ё ч о

к

Е 3 и

eö И К

Й

о, о

X

К