Исследование и оптимизация надежности нейрокомпьютерных систем в конфликтных ситуациях

ВЕСТНИК ТОМСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА

2008 Управление, вычислительная техника и информатика № 4

УДК 004.032.26:004.052

И.В. Потапов ИССЛЕДОВАНИЕ И ОПТИМИЗАЦИЯ НАДЕЖНОСТИ НЕЙРОКОМПЬЮТЕРНЫХ СИСТЕМ В КОНФЛИКТНЫХ СИТУАЦИЯХ

Рассматриваются задачи исследования и оптимизации надежности отказоустойчивых нейрокомпьютерных систем на базе избыточных искусственных нейронных сетей. Постановки задач сформулированы в терминах теории игр. Решения рассматриваемых задач ориентированы на использование ПЭВМ.

Ключевые слова: Избыточные нейронные сети, оптимизация надежности, игровое моделирование.

Учитывая специфические особенности решаемых нейрокомпьютерами задач (как правило, это трудно формализуемые задачи, эффективное решение которых с помощью традиционных средств вычислительной техники затруднено), а также существенный выигрыш во времени при решении задач обработки информации за счет характерного для искусственных нейронных сетей (ИНС) массового параллелизма вычислений, можно полагать, что в ближайшем будущем нейровычисли-тельные устройства будут широко применяться в области так называемых технологий двойного назначения. В этом случае должны предъявляться повышенные требования к функциональной надежности ИНС, являющихся основным вычислительным компонентом нейрокомпьютерных систем (НКС). Решение задач противоборства НКС имеет важную фундаментальную и прикладную значимость, поскольку в системах двойного назначения не исключены конфликтные ситуации, в которых ИНС нейрокомпьютерных систем могут целенаправленно подвергаться атакам, преследующим цель дестабилизировать работу нейрокомпьютеров. Исследование надежности функционирования ИНС в конфликтных ситуациях удобно проводить с использованием аппарата математической теории игр.

В данной работе объектом исследования является многослойная многовыходная избыточная структурно-однородная адаптивная к отказам «стареющая» искусственная нейронная сеть БА (п, т, в) [1], допускающая динамическое перераспределение однородных универсальных резервных блоков искусственных нейронов (ИН) между д группами нейронных блоков. В момент включения резервного нейронного блока вместо основного система контроля и адаптации НКС выполняет его настройку, после чего подключенный резервный блок ИН начинает работать в режиме замененного основного блока и подвергаться воздействию того же потока отказов, что и остальные элементы соответствующей группы.

2. Задача оптимизации резервирования структурно-однородной ИНС

Пусть ИНС Б а (п, т, э) вступает в противоборство с противником, преследующим цель дестабилизировать ее работу. В качестве средств атаки противник имеет возможность увеличивать интенсивности отказов к(() = ((г)) в группах ИН атакуемой ИНС и интенсивность отказов не включенных в работу резервных

блоков ХоО), т.е. усиливать «старение» блоков ИН. Для защиты от атаки система контроля и адаптации (которую для простоты будем считать абсолютно надежной) может перераспределять имеющийся резерв между д атакуемыми группами ИН, т.е. формировать вектор резервирования ). Будем полагать, что ИНС 5а (п, т, э) может находиться в (т +1) состояниях по числу к возможных отказов

основных и резервных блоков ИН, причем состояния Ек (0 < к < т ) являются работоспособными состояниями, а Ет+1 - поглощающим состоянием. Тогда, учитывая нестационарные потоки отказов блоков ИН, вероятностная модель функционирования такой ИНС определяется системой дифференциальных уравнений

Р'О) = £р0),

где р(г) - вектор-столбец размерности (т +1) вероятностей нахождения системы в работоспособных состояниях; Б - матрица размерности (т +1) х (т +1) переменных коэффициентов дифференциальных уравнений вида [1], зависящих от вектора резервирования э(г), вектора интенсивностей отказов в группах к(() и распределения отказов в блоках ИН. В терминах теории оптимального управления р(г) является фазовым вектором, а ) и ) - векторы управления.

Система (1) описывает дифференциальную игру, являющуюся моделью противоборства двух игроков, один из которых располагает стратегиями нападения к((), а второй - стратегиями защиты э(г). При этом на управления игроков (стратегии) в общем виде могут быть наложены естественные ограничения, определяемые физической сущностью и условиями функционирования системы. В качестве функции платы в игре рассматривается вероятность безотказного функционирования ИНС £А (п, т, э), определяемая из решения системы (1).

Решением вышеописанной дифференциальной игры будут оптимальные управления игроков, позволяющие им получить максимальный выигрыш (минимальный проигрыш). Для машинного решения задачи оптимального динамического распределения резерва ИНС БА (п, т, э) рассматриваемая задача путем дискретизации сводится к многошаговой матричной игре с соответствующими ограничениями на стратегии игроков [2]. Численное решение матричной игры находится в смешанных стратегиях методом многократного фиктивного разыгрывания на ПЭВМ.

3. Оптимизация надежности ИНС в условиях игры с «природой»

Вышеприведенная модель противоборства базировалась на том, что интересы сторон, участвующих в конфликтной ситуации, противоположны и атакующая сторона стремится причинить максимальный ущерб ИНС БА (п, т, э), т.е. рассматривалась антагонистическая игра с разумным противником. Не менее важное фундаментальное и прикладное значение имеют так называемые игры с «природой», в которых противник («природа») не стремится причинить максимальный вред обороняющейся стороне, а действует случайным образом. Использование в игре с «природой» стратегий, определенных в предположении заинтересованности обеих сторон в получении максимального выигрыша (минимального проигрыша), неэффективно, поскольку такие стратегии соответствуют принятию решений в условиях крайнего пессимизма в оценке действий «природы».

Пусть сторона А располагает вышеописанной «стареющей» ИНС БА (п, т, э). На интервале времени [0, tf ], где tf - время окончания игры, введем вектор т = (т0 ,т1,т2), т0 = 0, < /у , элементы которого соответствуют моментам

перераспределения резервных нейронных блоков ИНС между д группами. В дальнейшем вектор т будем называть вектором настройки ИНС БА (п, т, э). Каждому моменту времени тк (0 < к < Ь ) поставим в соответствие вектор распределения резервных элементов эТк = (^,$2^). Таким образом, игрок А располагает стратегиями ЖА = {т,$(т)}, удовлетворяющими естественным ограничениям на минимальное время между двумя соседними настройками и на использование ресурсов защиты, т.е количество перераспределяемых в моменты настройки резервных элементов.

Пусть сторона В («природа») может находиться в одном из состояний В = {В1,В2Вм}, множеству которых ставится в соответствие множество интенсивностей отказов ИНС БА (п, т,э) ) = [к1 ()}, 1 < г < N , каждый элемент

которого представляет собой совокупность интенсивностей отказов в д группах основных блоков ИН и не включенных в работу резервных блоков к1 (г) = (к‘0(г)Д|(г),.~,к‘д(г)). Пусть для каждого состояния «природы» В; е В заданы вероятности нахождения в этих состояниях 0(г) = {(г),Q2(г),...,QN(г)}.

Тогда множество стратегий «природы» можно определить как Жв = {0(г)Д(г)} с соответствующим ограничениями, в том числе на суммарное нападение на нейронные блоки ИНС. В рассматриваемой игре действия «природы» заключаются в случайном выборе одного из N состояний, которым соответствуют интенсивности потоков отказов основных и резервных нейронных блоков ИНС 5а (п, т, э).

В качестве функции платы в рассматриваемой игре используется вероятность безотказной работы ИНС БА (п, т, э) к моменту окончания игры ). Тогда

решением игры будут вектор ттах моментов настроек ИНС и множество векторов резервирования ^шах = ^(тк)}, соответствующих моментам настройки тк (0 < к < Ь ), максимизирующие вероятность безотказной работы Р(1^) рассматриваемой ИНС.

В общем случае такая игра описывается дифференциальной моделью, однако учитывая ограничения на управления игроков, в том числе особенности технической реализации распределения резервных элементов ИНС, дифференциальная игра сводится к многошаговой матричной игре, которую удобно решать с использованием ПЭВМ [3].

4. Оптимизация надежности в задаче противоборства НКС

В развитие рассмотренных выше моделей конфликтных ситуаций можно предположить, что в особых условиях нейрокомпьютерные системы (как разновидности интеллектуальных систем в области технологий двойного применения) могут оказаться способными вступать в конфликты и противоборство не только с «природой», но и между собой и активно влиять на работоспособность противо-

борствующей стороны, например, путем целенаправленного воздействия, приводящего к росту интенсивности отказов компонентов (блоков искусственных нейронов) нейрокомпьютерной системы, основу которой составляет искусственная нейронная сеть, т.е. в конечном итоге искусственно ускорять процесс «старения» нейронной сети этой системы в своих интересах. Такое взаимодействие НКС может быть осуществлено, например, путем взаимного вмешательства в процессы обучения и текущего дообучения нейронных сетей в процессе функционировании НКС, а также путем опосредованного влияния на физические условия функционирования противоборствующей стороны. Не останавливаясь подробно на способах взаимодействия НКС, рассмотрим фундаментальную задачу противоборства.

В качестве моделей НКС, участвующих в игре, будем рассматривать однородные избыточные восстанавливаемые ИНС SAB ( m, s) [1,4]. Пусть игрок 1 распо-

1 / 1 1 1 \ 2/2 2 2 \ лагает НКС SABI n , m , s ), а игрок 2 располагает НКС SABI n , m , s ). Обе ней-

рокомпьютерные системы SААВ (ng, mg, sg), g = 1,2, являются восстанавливаемыми с интенсивностями восстановления цg (t), одинаковыми для всех нейронных блоков. Под восстановлением может пониматься как логическая перестройка параметров ИН, так и выполнение процедур дообучения в условиях искажения или зашумленности выходных сигналов отдельных ИН блока. Игрок 1 располагает множеством стратегий W1 = {, ,^}, а игрок 2 располагает множеством

стратегий W2 = {s2, X1 ,р,2}, где sf - вектор резервирования g-го игрока; ьf = (*0 (t) (t) ,...Л f (t)) - вектор интенсивностей отказов в группах нейрон-

ных блоков НКС SААд (ns, ms, ss).

Будем считать, что число групп нейронных блоков ИНС для игроков 1 и 2 одинаково. Положим, что за время игры tf игрок g (g = 1,2) имеет право не более чем (L > 1) раз, не считая момента t = 0, изменять вектор резервирования sf управляемой им системы Sfg (ns, ms,ss). Вектор Tf = (xf ,xf ,...,xf), xg = 0, xf < tf, назовем вектором настройки g-го игрока. Будем полагать, что в процессе противоборства игрок 1 стремится максимизировать величину P1 (tf) - P2 (tf), являющуюся функцией платы, где tf - время окончания игры, Pg (t) - вероятность безотказной работы g-й ИНС, а игрок 2 стремится минимизировать эту величину.

Для исследования задачи противоборства двух нейрокомпьютерных систем Sab (ns, ms, ss), g = 1,2, необходимо решить игру двух лиц с нулевой суммой,

где функция выигрыша G(z1, z2 ) = P1 (tf ) - P2 (tf ) . В приведенных обозначениях

zg € Wg - стратегия g-го игрока.

Дифференциальная игра двух нейрокомпьютерных систем с учетом всех ограничений на ресурсы нападения (интенсивности отказов нейронных блоков ИНС противника) и защиты (интенсивности восстановления отказавших нейронных

блоков и количества резервных блоков ИН), минимального времени между двумя последовательными настройками систем и заданной точности изменения управлений игроков методом дискретизации сводится к матричной игре заданной размерности, имеющей нормальную форму [1,4]. Машинное решение игры ищется в смешанных стратегиях методом многократного разыгрывания.

Заключение

В рассмотренных выше постановках задач оптимизации надежности нейровы-числительных систем в качестве оптимизируемого функционала выбрана одна из важнейших характеристик надежности - вероятность безотказной работы системы. На практике возможны ситуации, в которых в качестве оптимизируемого функционала необходимо использовать другие характеристики надежности, которые не всегда могут быть получены непосредственно из решения системы (1). Так, например, оптимизация надежности по среднему времени работы системы до отказа (среднему времени «жизни» системы) потребует усложнения процедуры расчета функции платы, поскольку, в отличие от задач статической оптимизации надежности, в рассматриваемых задачах данный параметр должен рассчитываться по-другому, например, как момент времени, для которого математическое ожидание числа отказавших нейронных блоков системы равно (т +1), где т - число резервных блоков.

ЛИТЕРАТУРА

1. Потапов И.В. Надежность нейрокомпьютерных систем. Модели и задачи. Омск: Изд-во ОмГТУ, 2007.

2. Потапов И.В. Решение задачи оптимального динамического распределения резерва «стареющей» искусственной нейронной сети в конфликтной ситуации // Нейрокомпьютеры: разработка, применение. 2006. № 3. С. 3 - 8.

3. Потапов И.В. Резервирование «стареющей» искусственной нейронной сети в условиях игры с «природой» // Надежность. 2006. № 4(19). С. 3 - 10.

4. Потапов В.И., Потапов И.В. Противоборство (дифференциальная игра) двух нейрокомпьютерных систем // Информационные технологии. 2005. № 8. С. 53 - 57.

Статья представлена кафедрой программирования факультета прикладной математики и кибернетики Томского государственного университета и оргкомитетом 7-й Российской конференцией с международным участием «Новые информационные технологии в исследовании сложных структур», поступила в научную редакцию 9 октября 2008 г.