Многопроцессорная реализация нейросетевого алгоритма прогнозирования изменения характеристик электрической изоляции

УДК 621

МНОГОПРОЦЕССОРНАЯ РЕАЛИЗАЦИЯ НЕЙРОСЕТЕВОГО АЛГОРИТМА ПРОГНОЗИРОВАНИЯ ИЗМЕНЕНИЯ ХАРАКТЕРИСТИК ЭЛЕКТРИЧЕСКОЙ ИЗОЛЯЦИИ

С.Г. СИДОРОВ, А.В. ВИХАРЕВ, кандидаты техн. наук, Л.П. ЧЕРНЫШЕВА, ст. преп., С.Е. МАКСИМОВ, магистр

Предложен новый подход к оценке качества прогнозирования характеристик электрической изоляции с помощью искусственных нейронных сетей. Показана необходимость применения многопроцессорной техники для реализации предложенного алгоритма.

Ключевые слова: прогнозирование, нейронные сети, параллельная реализация, электрическая изоляция.

MULTIPROCESSOR REALIZATION OF CONNECTIONIST ALGORITHM OF CHANGE FORECASTING OF ELECTRIC INSULATION FEATURES

S.G. SIDOROV, AV. VIHAREV, Candidates of Engineering, L.P. CHERNYSHEVA, Senior Teacher,

S.E. MAKSIMOV, Holder of Master's Degree

The authors discuss the new approach of the forecasting quality of electric insulation features estimation by means of artificial neural networks. The article shows the necessity of using the multiprocessor technical equipment to realize the given algorithm.

Keywords: forecasting, neural networks, parallel realization, electric insulation.

Задача прогнозирования характеристик электрической изоляции была поставлена как продолжение научно-исследовательской работы «Исследование закономерностей старения маслосодержащей изоляции трансформаторов и разработка рекомендаций для оценки степени старения изоляции трансформаторов применительно к условиям эксплуатации», проведенной на кафедре ВЭТФ ИГЭУ.

В вышеназванной работе применялись масло по ГОСТ 982-68 ^ = 2 г/т, кислотное число 0,007 мг КОН) и кабельная бумага К-120. Образцы бумаги и масла помещались в герметичные сосуды. Сосуды выдерживались при постоянном температурном режиме t = 110 °^ Через определенные промежутки времени проводился отбор проб кабельной бумаги и масла для оценки их электрических характеристик, определения кислотного числа и влажности масла, а также степени полимеризации бумаги.

В ходе этих исследований был получен большой объем экспериментальных данных, которые и были использованы для обучения программируемой нейронной сети.

В качестве прогнозируемых параметров были определены:

• пробивное напряжение;

• тангенс угла диэлектрических потерь;

• степень полимеризации;

• влажность;

• время прогноза.

Исходная выборка экспериментальных данных была изначально разбита на две группы:

1) обучающую выборку, для формирования прогнозной модели;

2) контрольную выборку, для оценки качества прогнозной модели.

В связи с ограниченностью обучающей выборки, а также дискретным характером ее табличных значений, возникли проблемы получения промежуточных значений обучающей выборки, а также поиска неизвестных скрытых взаимозависимостей между отдельными параметрами.

Для построения основной прогнозной модели были выбраны искусственные нейронные сети [1], способные в процессе обучения и адаптации к формированию знаний о неизвестных характеристиках моделируемого объекта.

Из всех рассмотренных вариантов была выбрана нейронная сеть с двумя скрытыми слоями и нелинейной сигмоидальной функцией активации. Выбор двухслойной нейронной сети обусловлен необходимостью преодоления проблемы «разделимости» [2]. Выбор функции активации продиктован многослойной структурой нейронной сети и сложившейся практикой реализации такого рода сетей.

Обычно прогнозирование какого-либо параметра выполняется на величину шага скользящего окна по обучающей выборке [3, с. 48]. В случае необходимости долгосрочного прогноза применяется последовательный итерационный прогноз на величину шага, кратного шагу обучающей выборки. При этом качество долгосрочного прогноза обычно ухудшается с ростом числа итераций прогноза (например, при увеличении временного периода прогноза).

На рис. 1 показана ситуация, которая встречается при обучении искусственной нейронной сети прогнозированию экспериментальных данных (линия 1) на один шаг смещения скользящего окна. В этом случае график прогноза (линия 2) получается достаточно точным в рамках заданной погрешности. Во многих случаях этого оказывается достаточно.

- I = —-^=э

(!> і _і і- 1 і і <У

1 —

І

1 1 1 1

1 1 1

1 1 1

О IQ 20 3D 40 50 60 70 SO 90 100 110 120 130 140 150 160 170 180 190 200

Рис. 1. Графики прогноза тангенса угла диэлектрических потерь: 1 - экспериментальные данные; 2 - прогноз на основе экспериментальных данных; 3 - прогноз на основе спрогнозированных данных

Однако если с использованием полученной прогнозной модели построить прогноз, на основе данных которого выполнить новый прогноз и т.д., то спустя несколько итераций будет получено довольно существенное отклонение долгосрочного прогноза от экспериментальных данных (линия 3).

Для решения проблемы ухудшения долгосрочного прогноза было предложено использовать в качестве оценки качества обучения не отклонение в величине прогноза на один шаг скользящего окна по обучающей выборке, а суммарное отклонение прогноза по всем значениям обучающей выборки, причем с получением новых значений на основе прогноза, полученного на предыдущем шаге.

Так как прогнозируемая величина в нашем исследовании зависела от пяти параметров, встал вопрос о получении этих параметров при долгосрочном прогнозировании. В соответствии с новой методикой оценки качества прогнозирования, каждый из влияющих параметров на каждой новой итерации прогноза также должен был быть получен на основании прогноза. Фактически пришлось вместо одной нейронной сети, которая прогнозировала бы один из параметров, использовать пять нейронных сетей,

каждая из которых прогнозировала «свой» параметр. Полученные значения поступали в скользящее окно вместо экспериментальных данных, и на этих значениях строился новый прогноз, также по пяти параметрам.

Формирование весов всех пяти нейронных сетей зависело от новой оценочной функции. От нее же, как следствие, стали зависеть и результаты долгосрочного прогноза. На рис. 2 представлены результаты применения новой оценочной функции к долгосрочному прогнозу.

Видно, что качество долгосрочного прогноза в этом случае (линия 3) значительно улучшилось. Графики долгосрочного прогноза и исходных экспериментальных данных (линия 2) практически совпали в рамках заданной погрешности. Полученные численные значения целевой функции это подтвердили, что доказало правильность выбранной методики оценки качества долгосрочного прогноза.

Реализация предложенного алгоритма на однопроцессорной системе вызывает очевидные задержки во времени, связанные с последовательным перемежающимся обучением пяти искусственных нейронных сетей, работа которых в рамках одного шага обучения является независимой.

Рис. 2. Графики прогноза пробивного напряжения: 1 - экспериментальные данные; 2 - прогноз на основе экспериментальных данных; 3 - прогноз на основе спрогнозированных ранее данных

Независимость обучения нейронных сетей является важным фактором при выборе параллельной реализации предложенной вычислительной модели. При выполнении описываемой работы использовались как однопроцессорный вариант реализации, так и многопроцессорные варианты. Небольшое число зависящих параметров позволило реализовать описанный алгоритм на многоядерной вычислительной технике и потоковом разделении алгоритмов обучения нейронных сетей по различным параметрам.

При реализации данного алгоритма с большим числом влияющих (прогнозируемых) параметров необходимо применять многопроцессорную вычислительную технику (суперкомпьютеры, кластеры, локальные сети, графические платы пУ1^а с поддержкой технологии СЫРА, многоядерные компьютеры нового поколения и т.д.), так как последовательное обучение увеличенного количества нейронных сетей пропорционально влияет на снижение скорости их обучения.

Снижение скорости вызывается как количественным изменением самих нейронных сетей, а также связанных с этим количественным изменением накладных расходов на обмен информацией между ними, так и качественным изменением структуры каждой из отдельных нейронных сетей. Добавление каждого нового параметра вызывает значительное усложнение архитектуры каждой отдельной нейронной сети, так как появляется необходимость в добавлении новых связей (как следствие, весов обучения) от них к уже существующим формальным нейронам как первого, так и второго скрытых слоев. Особенно это становится значимым при использовании полносвязных архитектур нейронных сетей.

Другим фактором, влияющим на скорость обучения всей системы в целом, является выбор алгоритма обучения нейронных сетей. Для многослойных нейронных сетей принято использовать алгоритм обратного распространения ошибки, обладающий как достоинствами, так и некоторыми недостатками [4], в частности медленной сходимостью. Данный алгоритм нами рассматривался и был выбран в качестве базового, относительно скорости выполнения которого рассматривались все вновь используемые алгоритмы обучения.

Основным алгоритмом, обеспечивающим быструю сходимость процесса обучения (по сравнению с алгоритмом обратного распространения ошибки), был выбран алгоритм случайного поиска. Эффективность его различных реализаций неоднократно была подтверждена исследованиями, проводимыми на кафедре ВВС ИГЭУ [5]. Этот алгоритм также показал свою эффективность, уменьшая время обучения, примерно, в 50-100 раз. При реализации систем прогнозирования с увеличенным числом зависящих (прогнозируемых) параметров его следует рассматривать как приоритетный.

Заключение

Предложенный нейросетевой алгоритм прогнозирования характеристик электрической изоляции был апробирован на контрольной выборке экспериментальных данных, по которым обучение искусственной нейронной сети не проводилось. Результаты прогноза показали эффективность выбранной модели.

При решении поставленной задачи использовалось пять параллельных потоков, каждый из которых выполнял прогноз по закрепленному за ним параметру. При использовании данного алгоритма с другим числом прогнозируемых параметров необходимо также соответственно изменить число параллельных потоков.

Список литературы

1. Галушкин А.И. Теория нейронных сетей. Кн.1: учеб. пособие для вузов. - М.: ИПРЖР, 2000.

2. Минский М., Пейперт С. Персептроны. -М.: Мир, 1971.

3. Кричевский М.Л. Интеллектуальный анализ в менеджменте. - СПб.: СПбГУАП, 2005.

4. Горбань А.Н. Обучение нейронных сетей. -М.: СП «Параграф», 1990.

5. Сидоров С.Г. Разработка ускоренных алгоритмов обучения нейронных сетей и их применение в задачах автоматизации проектирования: дис. ... канд. техн. наук. - Иваново, 2003.

Сидоров Сергей Георгиевич,

ГОУВПО «Ивановский государственный энергетический университет имени В.И. Ленина», кандидат технических наук, доцент, зав. кафедрой высокопроизводительных вычислительных систем, телефон (49З2) 26-98-29.

Вихарев Алексей Владимирович,

ГОУВПО «Ивановский государственный энергетический университет имени В.И. Ленина»,

кандидат технических наук, доцент кафедры высоковольтной электроэнергетики, электротехники и электрофизики

e-mail: vav@vetf.ispu.ru

Чернышева Людмила Павловна,

ГОУВПО «Ивановский государственный энергетический университет имени В.И. Ленина», старший преподаватель кафедры высокопроизводительных систем, e-mail: chernlu@vvs.ispu.ru

З

Максимов Семен Евгеньевич,

ГОУВПО «Ивановский государственный энергетический университет имени В.И. Ленина», магистр,

телефон (4932) 26-98-29.