О настройке нейронных сетей при помощи генетического алгоритма

Секция «Математические методы моделирования, управления и анализа данных»

УДК 519.87

А. С. Полякова Научный руководитель - Е. С. Семёнкин Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева, Красноярск

О НАСТРОЙКЕ НЕЙРОННЫХ СЕТЕЙ ПРИ ПОМОЩИ ГЕНЕТИЧЕСКОГО АЛГОРИТМА

Рассмотрена нейронная сеть с настройкой весовых коэффициентов с помощью алгоритма обратного распространения ошибки, а так же с автоматической настройкой весовых коэффициентов с помощью генетического алгоритма. Проведено исследование эффективности алгоритмов на тестовых задачах аппроксимации.

Искусственные нейронные сети (ИНС) - это адаптивные системы для обработки и анализа данных,

которые представляют собой математическую структуру.

Главным их отличием от других методов, например таких, как экспертные системы, является то, что нейросети в принципе не нуждаются в заранее известной модели, а строят ее сами только на основе предъявляемой информации. Именно поэтому нейронные сети и генетические алгоритмы (ГА) вошли в практику всюду, где нужно решать задачи прогнозирования, классификации, управления - иными словами, в области человеческой деятельности, где есть плохо алгоритмизуемые задачи, для решения которых необходимы либо постоянная работа группы квалифицированных экспертов, либо адаптивные системы автоматизации, каковыми и являются нейронные сети [2]. Использование ГА для настройки весов и её структуры ИНС называется нейроэволюцией или ней-рогенезисом (Д. Уитли, 1995).

Структура искусственного нейрона

Нейрон - это составная часть нейронной сети [1]. На рисунке показана его структура. В модели нейрона можно выделить три основных элемента:

1. Набор синапсов или связей: осуществляют связь между нейронами и умножают входной сигнал на число, характеризующее силу связи, - вес синапса.

2. Сумматор: складывает входные сигналы, взвешенные относительно соответствующих синапсов нейрона.

3. Функция активации: ограничивает амплитуду выходного сигнала нейрона.

Математическая модель нейрона описывается соотношениями:

s=Y«>x> +b,

i=i

где <i - вес синапса (i = 1...n); b - значение смещения; s - результат суммирования; xi - компонента входного вектора (i = 1...n); y - выходной согнал

нейрона; n - число входов нейрона; f - функция активации.

Нейроны сети могут быть связаны между собой различными способами. В данной работе каждый нейрон одного слоя связан с каждым нейроном соседнего слоя, то есть, реализована сеть прямой проводимости и использован сигмоидальный (S-образный) тип активационной функции:

f (s.

После выбора архитектуры сети следует «обучить» выбранную нейронную сеть, то есть подобрать такие значения ее весов, чтобы она работала нужным образом. В используемых на практике нейронных сетях количество весов может составлять несколько десятков тысяч, поэтому обучение - действительно сложный процесс. Наиболее популярный из алгоритмов обучения ИНС является метод обратного распространения ошибки (Error Back Propagation).

Этот алгоритм не свободен от проблем. Прежде всего, нет гарантии, что сеть может быть обучена за конечное время. Много усилий, израсходованных на обучение, пропадает напрасно после затрат большого количества машинного времени. Когда это происходит, попытка обучения повторяется - без всякой уверенности, что результат окажется лучше. Нет также уверенности, что сеть обучится наилучшим возможным образом. Алгоритм обучения может попасть в «ловушку» так называемого локального минимума и будет получено худшее решение [3]. Использование ГА для формирования начальных весов сети помогает значительно улучшить качество получаемой модели.

Перед началом обучения всем весам должны быть присвоены небольшие начальные значения, выбранные случайным образом посредством заполнения бинарной строки. Это гарантирует, что в сети не произойдет насыщения большими значениями весов, и предотвращает ряд других патологических случаев. Например, если всем весам придать одинаковые начальные значения, а для требуемого функционирова-

Актуальные проблемы авиации и космонавтики - 2014. Информационные технологии

ния нужны неравные значения, то сеть не сможет обучиться. Далее идет работа уже ГА по настройке этих весов.

Для того чтобы настроить нейронную сеть, необходимо минимизировать функцию ошибки моделирования нейронной сети.

В ходе работы была реализована нейронная сеть с произвольным количеством слоев и нейронов, где весовые коэффициенты настраиваются с помощью алгоритма обратного распространения ошибки. Так же реализован ГА для автоматической настройки весовых коэффициентов нейросети. Все алгоритмы тестировались с несколькими различными наборами параметров (размер популяции, точность, число поколений, типы скрещивания и селекции, вероятность мутации), каждый алгоритм независимо запускался с различными параметрами 50 раз. Структура используемой нейронной сети: 5 скрытых слоев, 4 нейрона на каждом. Соотношение обучающей и тестовой выборки: «1:1».

Полученные данные усреднялись для дальнейшего сравнения.

В результате исследования данного алгоритма были сделаны следующие выводы:

Использование ГА для формирования начальных весов эффективнее, нежели чем веса, настраиваемые с помощью алгоритма обратного распространения ошибки. Увеличивая число поколений и индивидов -мы улучшаем настройку каждой сети. Однако время, затрачиваемое на настройку одной сети, увеличивается многократно. Но при настройке нейронной сети с помощью ГА возникает задача выбора оптимальной стратегии ее настройки.

Библиографические ссылки

1. Круглов В. В., Дли М. И., Голунов Р. Ю. Нечёткая логика и искусственные нейронные сети. М. : Физматлит, 2001. 221 с.

2. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы / пер. с польск. И.Д. Рудинского. М. : Горячая линия - Телеком, 2006. 384 с.

3. Хайкин С. Нейронные сети: полный курс. 2-е изд. / пер. с англ. М. : Вильямс, 2006. 1104 с.

© Полякова А. С., 2014

УДК 519.876.5

М. К. Семенов Научный руководитель - О. В. Шестернева Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева, Красноярск

МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ ХИМИКО-ТЕХНОЛОГИЧЕСКИХ ПРОЦЕССОВ НА ПРИМЕРЕ РАСТВОРЕНИЯ СЕРЫ В МНОГОКОМПОНЕНТНЫХ СИСТЕМАХ

Изучение кинетики химических процессов имеет большое теоретическое и практическое значение, так как позволяет выяснить механизм реакций, открывая пути для сознательного управления процессом; появляется возможность ускорять желательные и замедлять нежелательные химические реакции. Химическая кинетика, как и термодинамика, является теоретической базой химической технологии.

Основной задачей химической кинетики является установление зависимостей концентраций С, ( =1, 2, ..., п) реагирующих веществ и их продуктов от времени течения реакции t и различных физико-химических параметров (например, температуры Т), входящих в рассматриваемую динамическую систему.

Элементная сера является одной из основных примесей, затрудняющих переработку золотосодержащих руд и концентратов гидрометаллургическими методами. Поскольку наиболее эффективный процесс извлечения золота - цианирование - проводится в щелочной среде, в сырье предварительно добавляется, как правило, суспензия гидроксида кальция. Проведенный обзор литературных источников позволяет говорить о недостаточно подробном рассмотрении вопроса о поведении элементной серы в подобных системах, в которых наряду с СМ- и ОН- ионами присутствуют сульфид- и полисульфид- ионы как продукты растворения 5, способные ускорять переход последней в жидкую фазу и увеличивать ее растворимость. Встречаются лишь отдельные данные о растворимости, а также кинетике и термодинамике рас-

творения элементной серы в растворах гидроксидов некоторых металлов.

Большую практическую ценность составляет возможность более детально проанализировать этот процесс. Для этого было решено поставить серию практических опытов с похожей химической ситуацией. Эксперименты проводились в течение 48 часов в термостатированных ячейках и постоянном перемешивании при температуре 20 0С, а также при нагревании до 30 и 40 °С, поскольку в технологическом процессе нейтрализации продуктов биоокисления происходит разогрев пульп. Для подтверждения получаемых результатов проводились серии параллельных опытов.

Опыты проводили в термостатированных ячейках при 20, 30 и 40 °С (точность измерения составляла ±0,01 °С) при постоянном перемешивании в течение 48 часов (в ходе предварительных экспериментов было установлено, что увеличение времени контакта фаз не приводит к изменению концентраций компонентов в системе). Для подтверждения получаемых результатов и расчета погрешностей эксперимента была проведена серия параллельных опытов. По окончании