Модели для расчета надежности нейрокомпьютерной системы адаптивной к отказам и сбоям искусственных нейронных сетей, с ненадежным устройством контроля и адаптации

щается и возобновляется только после восстановления отказавшей СФН. Это ограничивает область применения подобных нейрокомпьютерных систем системами, в которых допускается «потеря» нескольких решений без ущерба в целом. Отмеченный недостаток может быть устранен, если в нейрокомпью-терной системе использовать три и более параллельно работающие функционально устойчивые ИНС и ввести дополнительные ресурсы для диагностики отказавшей сети и раздельной для сетей перестройки логики ИН. В такой системе при условии отсутствия отказа в данный момент времени одновременно в двух сетях «потеря» решений не происходит, так как выдача результата решения осуществляется по большинству (например, два из трех) в каждом цикле вычисления, а адаптация к отказам производится только в той нейронной сети, в которой произошел отказ.

Библиографический список

1. Потапов И.В. Синтез оптимизированных логически стабильных искусственных нейронных сетей, адаптивных к отказам нейронов/Омский государственный технический университет. -Омск, 2001.-14с.-Деп. в ВИНИТИ 21.09.01, № 2014.-В2001.

2. Потапов И.В. Минимизация процесса адаптации логически стабильных искусственных нейронных сетей к отказам нейронов //Омский научный вестник.-2001 .-Вып. 17.-С, 147-149.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информационно-вычислительной техники.

ПОТАПОВ Илья Викторович, кандидат технических наук, старший преподаватель кафедры информационно-вычислительной техники.

УДК 004 8 004.052 3 в. И ПОТАПОВ

И. В. ПОТАПОВ

Омский государственный технический университет

МОДЕЛИ ДЛЯ РАСЧЕТА НАДЕЖНОСТИ НЕЙРОКОМПЬЮТЕРНОЙ СИСТЕМЫ АДАПТИВНОЙ К ОТКАЗАМ И СБОЯМ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ, С НЕНАДЕЖНЫМ УСТРОЙСТВОМ КОНТРОЛЯ И АДАПТАЦИИ_

Приводятся в виде графов вероятностные модели состояний нейрокомпьютериой системы, состоящей из адаптивных к отказам и сбоям искусственных нейронных сетей и подверженной отказам системы контроля состояния сетей и системы адаптации.

Введение

Известно, что основным компонентом любой нейрокомпьютериой системы является искусственная нейронная сеть (ИНС) или несколько ИНС соответствующей конфигурации и набор системных блоков для управления нейронной сетью [ 1 ]. При построении математических моделей для расчета надежности систем из искусственных нейронных сетей обычно с целью упрощения пренебрегают конечной надежностью устройства контроля состояния ИНС и устройства адаптации [2], считая их для упрощения абсолютно надежными.

В ряде случаев это вполне оправдано и заметно не нарушает целостность картины поведения нейронной системы, когда интенсивность отказов устройства контроля и адаптации на порядок и более меньше, чем интенсивность отказов на выходе (выходах) адаптивных ИНС. Однако, если интенсивность отказов системы контроля и адаптации сравнима с интенсивностью отказов ИНС, то в данном случае при рас-

чете надежности нейрокомпьютериой системы конечную надежность системы контроля и адаптации нейронной сети следует учитывать при разработке математической модели для расчета надежности.

В данной работе ограничимся рассмотрением граф-моделей адаптивной ИНС нейрокомпьютера с учетом конечной надежности системы контроля и адаптации.

Постановка задачи

Будем считать, что процесс возникновения отказов и сбоев в адаптивной ИНС пуассоновский с параметром Л, при этом, однако, с целью более реального приближения к условиям функционирования искусственной нейронной сети нейрокомпьютериой системы будем полагать, что Л = Л0 + Л1 и Л* = + Я* , где - интенсивности отказов соответственно вида (1 -> 0) и (0 -> 1), а Л^ я Л* - интенсивности сбоев вида (1 0) и (0 -> 1). Будем считать, что система контроля и адаптации нейронной сети к отказам и

0

1

sT

сбоям может отказывать с интенсивностью кЛ , где к - коэффициент пропорциональности между интенсивностью отказов ИНС и системы контроля и адаптации. Полагаем, что при отказе системы контроля и адаптации она перестает оказывать какое-либо воздействие на ИНС, которая при этом продолжает функционировать в автономном режиме. Очевидно, что при к = 0 система контроля и адаптации является абсолютно надежной.

Будем также считать, что интенсивность восстановления ß функциональных свойств ИНС в любом состоянии адаптации является постоянной, время контроля состояния и адаптации ИНС пренебрежимо мало по сравнению с временем функционирования нейронной системы, а адаптация, т.е. логическая перестройка ИНС, начинается сразу же после появления отказа или сбоя на выходе сети. При этом полагаем, что одновременное появление на выходах ИНС двух и более отказов или сбоев исключено. Очередной отказ или сбой может появиться на выходе нейронной сети только после ее адаптации к предыдущему отказу.

В качестве объекта исследования будем рассматривать нейрокомпьютерную систему, состоящую из л одновыходных ИНС, на входы которых подаются наборы двоичных переменных X = (х1,х2,...,х<5), ана выходе каждой сетей при отсутствии отказов и сбоев реализуется значение одной и той же двоичной функции F(x{,x2,..., xs). Выходы ИНС соединены со входами адаптивного многофункционального искусственного нейрона (ИН) с переменными весами входов Wu ([ = 1,2,..., п; л > 3/1 = 1,2,...) и переменным порогом Tv (v = 1,2,...), у которого в процессе адаптации в зависимости от ситуации на входах (от количества и вида отказов и сбоев на выходах Ft (xl,x2l...,xs),i = 1,2,..., л подключенных ИНС) с помощью системы контроля и адаптации в автоматическом режиме производится целенаправленное изменение параметров адаптивного ИН Wi( и Tv (адаптация) для достижения максимально возможной в конкретной ситуации корректирующей способности. Под корректирующей способностью R адаптивного ИН будем понимать максимально допустимое количество отказов и способов на его входах, не приводящее к появлению ошибки на выходе.

Первая модель нейрокомпьютерной системы

Будем полагать, что рассматриваемая система представляет набор, состоящий из л одновыходных ИНС, а выходной адаптивных ИН ( АИН1) рис. 1 характеризуется однонаправленным ступенчатым изменением порога Tv от тах Tv до min Tv ( каждый раз на единицу) и бинарным изменением весов входов VVif(i = 1,2,...,л; (= l,wn =\;С = 2,wi2 = о).Реализуемая таким адаптивным ИН функция имеет вид:

F{xux2,...,xs)=sgn

it

1=1

где функция sgn Z определяется как

sgnZ

1, еслиг > О, О, еслиг < 0.

Ф)

устройство устройство

контроля адаптации

Рис. 1. Структурная схема АИН,.

Ш-fjxl

РЛхУ

т,{т -l)U.,0

m,(m -lX-.O

Ф)

устройство

контроля

Принципы работы рассматриваемого АИН{ заключается в следующем. В начальный момент времени на всех л входах АИН: веса равны \га , а порог

1 2

Рис. 2. Структурная схема АИН2.

срабатывания равен maxTv исходя из выбранной логики работы. При появлении любого вида отказа или сбоя на к -м входе АИН у этот вход отключается, т.е. wA1 wk2 = 0 , а порог Tv в зависимости от выбранного алгоритма адаптации либо остается без изменения, либо уменьшается на единицу, Индикатором отказа (сбоя) любой из ИНС, подключенных ко входам АИНХ, являются рассогласования ее выхода Fj(X) с сигналами на выходах безотказно работающих (не отключенных от входов АИН1) нейронных сетей, либо с сигналом на выходе АИН \. Очевидно, что минимальное число не отключенных входов у АИН1 в работоспособном состоянии равно двум.

Если априори известно, что на входах АИНг интенсивность отказов вида (0 l) много больше, чем (l -» О), то в последнем адаптивном состоянии следует устанавливать Tv =2 .В противном случае следует устанавливать Tv = 1.

Как видно корректирующая способность такого адаптивного ИН может изменятся в зависимости от функции, реализуемой в последнем адаптивном состоянии, и вида преобладающих отказов и сбоев. При этом min i? = л - 2 , a max R = л -1 .

Вторая модель нейрокомпьютерной системы

Вторая модель в развитие первой рассмотренной модели предполагает, что используемый адаптивный выходной ИН (АИН2) рис.2 имеет большую логическую гибкость, чем рассмотренный выше АИН]. У АИН2 возможно однонаправленное (от максимального к минимальному) ступенчатое изменение порога Tv и реверсивное ступенчатое изменение весов входов wie(e = l, wn =т; e = 2,wn=n-\;—e = m, wim=\; ( = т +1, wim. l = о), а выражение для реализуемой им функции f(x1,x2i-,xs)по форме совпадает с выражение для АИН,.

Рассмотрим более подробно принцип работы такого АИН2 , заключающийся в следующем. Перед началом работы на всех л -входах веса устанавливаются равными wn , а порог Tv = max исходя из выбранной логики работы АИН2 . При каждом рассогласовании сигнала на к -м входе с истинным значе-

Алгоритмы адаптации вида N Алгоритмы адаптации вида М

м, М, М2

п Т„ и Т, п т. п Т,

5 4 5 3 5 4 5 3

4 3 4 3 4 3 4 3

3 2 3 2 3 3 3 2

2 2 2 2 Входы у выходного АИН не отключаются

ние веса к -го входа уменьшается на единицу, а при каждом совпадении уменьшенный вес увеличивается на единицу. Следовательно, если на к -м входе АИН2 число следующих подряд несовпадений с истинным значением равно т <т , а в следующих в > г циклах работы имеют место совпадения, то вес к -го входа пгке принимает ряд значений:

При этом порог Ту остается постоянным.

В том случае, когда на к -м входе АИН2 число следующих несовпадений с истинным значением равно г > т, то и?к2 ----> = 0 • Следователь-

но, к -й вход отключается, а порог Ту в зависимости от выбранного алгоритма адаптации остается без изменения или уменьшается на условную единицу, равную /7) единицам веса входа. Отключенный вход ЛИН, больше не подключается. Приняв условие, что в состоянии сбоя ложный сигнал на входе адаптивного

АИН2 появляется не более чем т раз подряд, легко заметить, что рассмотренный АИНг не чувствителен к сбоям при наличии трех и более не отключенных входов. Поэтому в дальнейшем будем считать, что у подобного адаптивного ИН2 минимальное число не отключенных входов п = 3 , а корректирующая способность Я=л-2.

Из рассмотрения моделей функционирования нейронных сетей с АИН] и АИН2 следует, что в обоих случаях устройство контроля, в каждом цикле вычисления производит сравнение значений входных сигналов на не отключенных входах либо между собой, либо с сигналом на выходе адаптивного ИН и при наличии рассогласования выдает команду в устройство адаптации, которое в соответствии с выбранным алгоритмом изменяет параметры и Ту у АИН^, АИН2.

Очевидно, что возможны и другие модели функционирования нейрокомпьютерных систем с адаптивным

Рис.3. Граф состояний нейрокомпьютерной системы с АИН,М и АИН2{.

Егю

Ео 5(Х- Г)<1( Е! 4(Х-а*)<Н Е3«о/^

[5ХЙ(]

[4Х

4>чЛ ЕУ

Рис. 4. Граф состояний нейрокомпьютерной системы с АИНи АИН™2.

выходным ИН и другие алгоритмы адаптации. Однако в данной статье ограничимся рассмотренными выше моделями. При этом для определенности рассмотренный выше алгоритм адаптации ИНС с АИН, обозначим символом N , а алгоритм адаптации ИНС с АИНг- символом М.

Для наглядности в таблицу сведены разновидности алгоритмов адаптации /V и М, соответственно

Ы2 и Мх,М-1, начиная, для упрощения, с числа не отключенных входов у адаптивного входного ИН.

Как отмечалось выше, если интенсивность отказов вида (0 -»1)»(1 0), то для алгоритма адаптации типа N в последнем адаптивном состоянии (п = 2) для повышения корректирующей способности выходного АИН следует устанавливать Гу = 1.

Модели для расчета надежности нейрокомпьютерной системы

В качестве моделей для расчета надежности используем марковские графы состояний нейрокомпьютерной системы с АИН, и АИНг при различных алгоритмах адаптации и конечной надежности системы контроля и адаптации с учетом условий, оговоренных при постановке задачи.

Для вершин графов введем следующие обозначения:

Е[ - работоспособное состояние нейрокомпьютерной системы с выходным АИН, одинаково реагирующим на отказы и сбои обоих видов, при отказах I и сбоях на ; входах;

) — работоспособное состояние некомпьютерной системы при отказе системы контроля и адаптации после возникновения в адаптивном режиме £ отказов (сбоев) на входах выходного ЛИН при наличии на д входах АИН неразличимых по виду отказов, на I входах-отказов типа (1 ->0) и на } входах - отказов типа (о —> 1);

ЕГ — неработоспособное (поглощающее) состояние системы, соответствующее потере корректирующей способности выходным АИН.

На дугах графов обозначим вероятности перехода нейрокомпьютерной системы из одного состояния в другое. Тогда с учетом сказанного, графы состояний нейрокомпьютерных систем (для простаты при л = 5 ) с АИН?1. АИН^ и АИН У2, АИН?2 приведены соответственно на рис. 3 и рис. 4, где в квадратных скобках указаны вероятности переходов для системы с АИН2. Очевидно, что для алгоритмов вида N2 и М1 построение соответствующих графов не вызывает особых трудностей, так как их ветви состоят из элементов графов, представленных на рис. 3 и рис. 4.

Обозначив соответствующим образом вероятности нахождения системы в соответствующих состояниях обозначенных вершинами графов, и используя известные правила [3] легко составить систему дифференциальных уравнений для расчета вероятности безотказной работы и других характеристик надежности рассмотренной системы.

Из приведенных графов видно, что аналитическое исследование подобных систем при учете конечной надежности устройства контроля и адаптации в силу

громоздкости не представляется возможным и поэтому для их анализа необходимо использовать ПЭВМ.

В результате проведенного математического моделирования на ПЭВМ систем, описываемых графами на рис. 3 и рис. 4, установлено, что при к < 1 отказы устройства контроля и адаптации практически не влияют на надежность нейрокомпьютерной системы и лишь при к > I влияние отказов устройства контроля и адаптации на надежность всей системы становиться заметным, особенно при больших значениях А*.

Библиографический список

1. ГалушкинА.И.Теориянейронныхсетей. Нейрокомпьютеры и их применение.- М.: ИПРЖ, 200. - 416с.

2. Потапов В.И., Потапов И. В. Математические модели и методы оптимизации надежности отказоустойчивых вычислительных систем из искусственных нейронных сетей. - Омск: Изд-во ОмГТУ, 2003.-84с.

3. ВентцельЕ.С. Исследование операций.-М.: Сов.радио, 1972,-550с,

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информационно-вычислительной техники.

ПОТАПОВ Илья Викторович, кандидат технических наук, старший преподаватель кафедры информационно-вычислительной техники.

Только цифры

ЦИТИРУЕМОСТЬ НАУЧНЫХ ПУБЛИКАЦИЙ

По данным Института научной информации США, мировой массив цитируемых статей распределяется следующим образом: около 70 % статей цитируется 1 раз в год; 24 % статей — 2-4 раза; около 5 % - от 5 до 9 раз; менее 1 % -10 и более раз в год. Около 40 % научных статей никогда не цитируется.

Российские ученые чаще всего ссылались на американские работы (35 %) и вдвое реже (17 %) - на работы соотечественников. Поданным РФФИ, публикации грантодержателей фонда включают до 60 % ссылок на англоязычные издания. Ученые Великобритании ссылались на исследования, проведенные в их стране, в 30 % случаев, Франции - в 24 %, Японии - в 37 %. Мы цитируем коллег-соотечественников в четыре раза реже, чем американцы, и существенно реже, чем британцы, французы или японцы.

Согласно аналитическому докладу о вкладе России в мировую науку под названием "Russian Science, 1996-2000", доля России в мировом информационном потоке составила 3,57 % (или 124 557 статей). Области знания, в которых вклад России превышает эту долю: физика — 9,71 %, науки о Земле — 7,43 %, космические исследования -7,19%, химия — 6,78 %, материаловедение — 4,29 %, математика — 3,83%, техника — 3,70 %. К областям знаний, в которых вклад России ниже, чем ее средняя доля в мировом потоке публикаций, относятся: молекулярная биология (2,63%), биология и биохимия (1,93%), вычислительная техника (1,05%) идр.

В декабре 2001 г. аналитический отдел ИНИ подготовил список 196 российских ученых, которые были процитированы более 1000 раз. Больше всего в этом списке физиков, первую строчку занимает математик академик В.И.Арнольд (10817 ссылок), за ним следует скончавшийся в 1987 г. академик Я.Б. Зельдович (10797 ссылок). Среди участников списка члены Президиума РАН академики А.Ф.Андреев, Ж.И. Алферов, Ю.В. Гуляев, В.А. Кабанов, ГА. Месяц, H.A. Платэ. Л.Д. Фаддеев, В.А. Шувалов. В.Е. Фортов.

Недавно выполненное социологическое исследование руководителей проектов (250 человек), получивших поддержку РФФИ в 1993-1998 гг., показало, что ци-тируемость их работ (по базе данных SCI за 1998 г.) варьирует в пределах от 4 до 150. В среднем на каждого из них ссылались 9,2раза. В тот же период средняя ци-тируемость членов РАН (анализировались данные о 94 действительных членах и членах-корреспондентах РАН) составила 32,6, то есть оказалась в четыре раза выше. Среди руководителей проектов, включенных в обследование, профессор-физик Е.И. Нагаев из Москвы получил 127 ссылок (он вошел в упомянутый выше список ученых, процитированных более 1000 раз), а его коллега профессор И.Л. Бух-биндер из Томска -144. Оба эти ученые, помимо грантов РФФИ, получили гранты от НАТО, Международного научного фонда, ИНТАС.

По данным европейского исследования "Urban Studies", в рамках которого сопоставляется вклад в науку разных стран и городов, Москва по числу публикаций занимает 3-е место среди европейских городов, а Санкт-Петербург - 25-е.