Моделирование характеристик технических объектов с помощью коллективов нейронных сетей

Настройка детектора Кэнни производится с помощью трех параметров: верхний порог, нижний порог и размер фильтра Гаусса. В реальных задачах подбор данных параметров представляет нетривиальную задачу. Это связано не только с длительным временем выполнения алгоритма, но и с необходимостью находить эти параметры отдельно для каждого изображения. Однако при наличии нескольких эталонных изображений, для которых границы объектов известны, появляется возможность оптимизации параметров [2]. В данной работе для оптимизации применялся генетический алгоритм.

В качестве целевой функции была использована метрика Я:

где пъ - количество «битов» (неверно найденных граничных точек) в окрестности «бита»; Щ - количество «дырок» (ненайденных граничных точек) в окрестности «дырки»; п!ь - количество «битов», касающихся «дырки»; п'н - количество «дырок», касающихся «бита»; пв - количество истинных пикселей в окрестности. Значения коэффициентов а- = с = 1г

были выбраны в

соответствии с рекомендациями авторов метрики.

Эта метрика позволяет оценить качество полученных границ в сравнении с эталонным изображением. Метрика является одной из наиболее точных и основана на эмпирических представлениях о качестве нахождения границы [2].

Для оптимизации применялся стандартный генетический алгоритм безусловной оптимизации. Алго-

ритм запускался на нескольких различных изображениях, а полученные результаты усреднялись. Таким образом, было достигнуто увеличение качества нахождения границ не только на эталонных изображениях, но и на схожих изображениях, не использовавшихся для оптимизации параметров.

По результатам работы можно сделать вывод об эффективности использования генетических алгоритмов для оптимизации параметров детектора границ Кэнни. В дальнейшем планируется улучшение качества оптимизации, а также разработка метода, не требующего эталонных изображений.

Библиографические ссылки

1. Canny J. A Computational Approach to Edge Detection [Электронный ресурс]. URL: http://perso.limsi.fr/vezien/PAPIERS_ACS/canny1986.pdf (дата обращения: 17.09.2013).

2. A measure of quality for evaluating methods of segmentation and edge detection [Электронный ресурс]. URL: http://www.ugr.es/~jmaroza/inves/98ICS.pdf (дата обращения: 17.09.2013).

3. URL: http://ru.wikipedia.org/ (дата обращения: 17.09.2013).

References

1. Canny John. A Computational Approach to Edge Detection: Available at: http://perso.limsi.fr/vezien/ PAPIERS_ACS/canny1986.pdf.

2. A measure of quality for evaluating methods of segmentation and edge detection. Available at: http://www.ugr.es/ ~ jmaroza/inves/98ICS.pdf

3. http://ru.wikipedia.org/.

© Полякова А. С., Зернов Г. А., 2013

УДК 681.3

МОДЕЛИРОВАНИЕ ХАРАКТЕРИСТИК ТЕХНИЧЕСКИХ ОБЪЕКТОВ С ПОМОЩЬЮ КОЛЛЕКТИВОВ НЕЙРОННЫХ СЕТЕЙ

А. В. Ребенков

Химзавод - филиал ОАО «Красноярский машиностроительный завод» Россия, 662991, ЗАТО Железногорск, пос. Подгорный, ул. Заводская, д. 1 E-mail: tcarhz@chemplant.ru

Коллективы нейронных сетей являются одним из эффективных средств решения задач моделирования и прогнозирования временных рядов. Этот подход основан на совместном использовании набора искусственных нейронных сетей для решения одной задачи. Использование коллективов нейронных сетей в общем случае предполагает выполнение двух достаточно трудоемких шагов: проектирование и обучение отдельных нейронных сетей и формирование общего решения на основе решений отдельных сетей. Рассматривается эволюционный подход, позволяющий автоматизированно выполнять проектирование коллективов нейронных сетей. Приводятся результаты применения коллективного нейросетевого подхода для решения задачи моделирования технических объектов.

Ключевые слова: моделирование, прогнозирование, нейронные сети, коллективы нейронных сетей.

Решетневскуе чтения. 2013

SIMULATION OF TECHNICAL OBJECTS PERFORMANCE USING NEURAL

NETWORKS ENSEMBLES

A. V. Rebenkov

Chemical plant - JSC "Krasnoyarsk Machine-Building Plant" 1, Zavodskaya str., pos. Podgornyj, Zheleznogorsk, 662991, Russia

Ensembles of neural networks are one of the most effective means of addressing the problems of modeling and forecasting time series. This approach is based on sharing a set of artificial neural networks for solving a problem. The use of neural network ensembles generally involves running two fairly labor-intensive steps: design and training of individual neural networks, and the finding out of a common decision-making on the basis of the individual networks. In this paper the evolutionary approach that allows automated design of neural network ensembles is proposed. The results of application of the neural networks ensemble approach to solving the problem of modeling of technical objects are presented.

Keywords: simulation, forecasting, neural networks, neural network ensembles.

Моделирование характеристик технического объекта с помощью коллективов искусственных нейронных сетей (ИНС) - это подход, предполагающий одновременное использование нескольких отдельных, предварительно настроенных ИНС в рамках одной расчетной модели. Основной целью совместного одновременного использования нескольких ИНС является повышение адекватности результатов, получаемых на модели, реальным характеристикам моделируемого технологического объекта. Это особенно важно при исследовании и управлении сложными и дорогостоящими системами, к которым относится большинство объектов ракетно-космической отрасли.

Идея использовать сразу несколько ИНС для решения одной задачи была предложена в работе [1], в которой было показано, что за счет объединения нескольких ИНС в коллектив может быть повышена обобщающая способность нейросетевой системы, используемой для распознавания образов. Затем область использования коллективного нейросетевого подхода была значительно расширена, и он был успешно адаптирован и апробирован на таких типах задач, как прогнозирование временных рядов и моделирование.

Построение коллективной модели в общем случае включает в себя два этапа: формирование набора (пула) нейронных сетей, составляющих коллектив; определение способа расчета общего решения для коллективной нейросетевой модели.

Оба этапа должны быть выполнены таким образом, чтобы обеспечить, в конечном счете, наибольшую эффективность получаемой модели. Разработка и исследование соответствующих методов до настоящего времени остается актуальной задачей, ввиду постоянно возрастающих требований к качеству получаемых решений (в частности, моделей технических объектов) и скорости их выработки. Для проектирования и обучения нейронных сетей широко используются подходы, в которых структура ИНС априорно фиксируется исследователем. Затем каждая отдельная сеть обучается на индивидуально сгенерированной для нее выборке, сформированной из исходного обучающего множества. Наиболее распространенными вариантами комбинирования решений

отдельных нейронных сетей являются равноправное или неравноправное голосование для задач классификации [1] и простое или взвешенное усреднение для задач регрессии [2]. Наиболее разработаны варианты с взвешенным усреднением или неравноправным голосованием [3; 4].

Для повышения эффективности данного этапа проектирования коллективов нейронных сетей был предложен новый подход. В его основе лежит использование генетического алгоритма для выбора способа расчета общего коллективного решения и отбора из предварительно сформированного пула ИНС тех нейронных сетей, чьи решения будут учитываться при расчете общего коллективного решения. В предлагаемом методе отдельный индивид генетического алгоритма одновременно содержит следующую информацию:

1. О том, учитывается ли решение конкретной сети в формуле расчета общего решения или нет. В терминах генетического алгоритма решение отдельной ИНС:

- учитывается в коллективном решении, если в хромосоме, кодирующей индивида, соответствующий ген равен 1;

- не учитывается в коллективном решении, если в хромосоме, кодирующей индивида, соответствующий ген равен 0.

2. О том, какой метод используется для агрегации решений отдельных ИНС - номер соответствующего метода из заранее определенного набора методов «вклеивается» в хромосому, кодирующую индивида. В рамках исследования рассматривался набор из четырех методов: простое усреднение, взвешенное усреднение, медианное правило, усреднение с весовыми коэффициентами, определяемыми качеством сети, рассчитанным на обучающей выборке. Данный набор может быть дополнен и другими методами.

Предложенный подход к проектированию коллективов нейронных сетей был апробирован на задачах моделирования характеристик технологических объектов с набором данных, размещенном в Machine Learning Repository [5]. Результаты статистических исследований эффективности предложенного метода, а также 5 альтернативных широко распространенных подходов, используемых для построения моделей, приведены в таблице.

Усредненные результаты исследования эффективности подходов для задач моделирования

Коллективная нейросетевая модель Коллективная ней-росетевая модель [4] Коллективная нейросетевая модель [6] 2-слойный персептрон Символьная модель

Оценка ошибки, % 3,7 4,8 5,6 8,1 9,5

Дисперсия ошибки моделирования 0,024 0,028 0,047 0,419 0,381

Таким образом, достигнуто существенное уменьшение ошибки моделирования как по сравнению с сетями из предварительного пула, так и в сравнении с альтернативными подходами, рассмотренными в ходе исследований.

Далее подход был использован для оценки характеристик реального технического объекта. В результате исследований была получена достаточно эффективная модель технологического объекта. Модель представляет собой коллектив, состоящий из 4-х искусственных нейронных сетей. В настоящее время планируется более тесное взаимодействие с инженерами в данной области, что, возможно, позволит обеспечить дальнейшее улучшение характеристик модели и получить более достоверные результаты. Также рассматривается возможность применения подхода для решения широкого ряда других актуальных практических задач.

Библиографические ссылки

1. Hansen L. K., Salamon P. Neural network ensembles II IEEE Trans. Pattern Analysis and Machine Intelligence. 1990. 12 (10). P. 993-1001.

2. Perrone M. P., Cooper L. N. When networks disagree: ensemble method for neural networks II Artificial Neural Networks for Speech and Vision I R. J. Mammone (Ed.). New York : Chapman & Hall. 1993. P. 126-142.

3. Jimenez D. Dynamically weighted ensemble neural networks for classification II Proc. IJCNN-98. Vol. 1, Anchorage, AK, IEEE Computer Society Press. Los Alamitos, 1998. P. 753-756.

4. Zhou Z. H., Wu J., Tang W. Ensembling neural networks: Many could be better than all II Artif. Intell. 2002. Vol. 137. № 1-2. P. 239-263.

5. Asuncion A., Newman D. J. UCI Machine Learning Repository. Irvine, CA: University of California, School of Information and Computer Science. URL: http://www.ics.uci.edu/~mlearn/MLRepository.html.

6. West D., Dellana S., Qian J. Neural network ensemble strategies for financial decision applications // Computers & operations research. 2005. T. 32, №. 10. C. 2543-2559.

References

1. Hansen L. K., Salamon P., Neural network ensembles, IEEE Trans. Pattern Analysis and Machine Intelligence 12 (10) (1990), pp. 993-1001.

2. Perrone M. P., Cooper L. N., When networks disagree: ensemble method for neural networks / R. J. Mammone (Ed.), Artificial Neural Networks for Speech and Vision, Chapman & Hall, New York, 1993, pp. 126-142.

3. Jimenez D., Dynamically weighted ensemble neural networks for classification, in: Proc. IJCNN-98, vol.1, Anchorage, AK, IEEE Computer Society Press, Los Alamitos, CA, 1998, pp. 753-756.

4. Zhou Z. H., Wu J. and Tang W. Ensembling neural networks: Many could be better than all, Artif. Intell., vol. 137, no. 1-2, 2002, pp. 239-263.

5. Asuncion A., Newman D. J. UCI Machine Learning Repository. Irvine, CA: University of California, School of Information and Computer Science. http://www.ics.uci.edu/~mlearn/MLRepository.html.

6. West D., Dellana S., Qian J. Neural network ensemble strategies for financial decision applications // Computers & operations research. 2005. T. 32. №. 10. C. 2543-2559.

© Pe6eHKOB A. B., 2013

УДК 517.977.1

ВЫЧИСЛЕНИЕ ОЦЕНОК УСТОЙЧИВОСТИ ТЕХНИЧЕСКИХ СИСТЕМ НА КОНЕЧНОМ ИНТЕРВАЛЕ ВРЕМЕНИ

А. Н. Рогалев

Институт вычислительного моделирования СО РАН Россия, 660036, г. Красноярск, Академгородок, 50. Е-таЛ: rogalyov@icm.krasn.ru

Практическая устойчивость на конечном интервале времени означает равномерную ограниченность решений относительно множества начальных значений и совокупности возмущающих воздействий. Для практической устойчивости требуется не только существование ограничивающей постоянной для решений, но и чтобы эта постоянная имела значения, достаточные для того, чтобы решения, начинающиеся во множестве,