Устойчивость полносвязной и звёздной структур нейронных сетей

УДК 517.929

УСТОЙЧИВОСТЬ ПОЛНОСВЯЗНОЙ И ЗВЁЗДНОЙ СТРУКТУР НЕЙРОННЫХ СЕТЕЙ1

Т.Н. Хохлова2

Представлены результаты исследования устойчивости нейронных сетей полносвязной и звёздной структуры, описываемых матричным дифференциальным уравнением с запаздыванием. Посредством метода конуса устойчивости получены теоретические выводы для анализа устойчивости исследуемых моделей в зависимости от значений параметров в случае произвольного количества нейронов в сети.

Ключевые слова: дифференциальное уравнение с запаздыванием, асимптотическая устойчивость, нейронная сеть.

Рассмотрим вопрос об устойчивости таких стандартных конфигураций нейронных сетей, как полносвязная сеть и звезда. Пользуясь методом конуса устойчивости [1], получим для этих моделей необходимые и достаточные условия устойчивости и неустойчивости, определяемые значениями коэффициентов моделей и количеством нейронов в сети. Распространённой моделью, описывающей динамику нейронных сетей, является модель

x

где x(t) - вектор состояния системы, A и B - матрицы размером n X n, n > 2, t> 0 - запаздывание. Метод конуса устойчивости применим для этой модели в случае, если A и B - совместно триангулируемые матрицы.

Это уравнение моделирует динамику нейронных сетей Хопфилда [2]. Матрица A описывает собственную реакцию нейрона на внешнее воздействие, а матрица B характеризует реакцию нейрона, связанную с его взаимодействием с соседними нейронами.

В полносвязной системе нейронов изменение состояния конкретного нейрона зависит от состояния всех остальных нейронов сети. Граф, соответствующий данному соединению нейронов, изображён на рис. 1.

Рис. 1. Полносвязная система нейронов

Полагаем, что взаимодействие нейрона с самим собой происходит мгновенно, а с остальными нейронами сети - с запаздыванием т> 0 . Тогда динамику взаимодействия нейронов в данной сети можно описать уравнением (1) с матрицами

' 1 0 . • 0 Ї ' 0 -b . . -bN

A = E = 0 1 • • 0 , B = -b 0 • • -b

0 0 • 1) v-b -b •  0)

1 Работа поддержана грантом 1.1711.2011 Министерства образования и науки.

2 Хохлова Татьяна Наилевна - аспирант кафедры математического анализа, Южно-Уральский государственный университет.

Краткие сообщения

Для уравнения (1) с матрицами (2) верна следующая теорема. Теорема 1. Пусть матрицы имеют размер п Xп, п > 2 .

1 ТТ 1 7 1

1. При--------------< b <

n -1 любом t > 0 .

1

n-1

уравнение (1) с матрицами (2) асимптотически устойчиво при

1

2. При b > t> 0 .

3. При -1 < b <

или b <—1 уравнение (1) с матрицами (2) неустойчиво при любом

1

1

существует t0 > 0 , такое, что уравнение (1) с матрицами (2) ус-

тойчиво при тє (0,т0) и неустойчиво при тє (т0, +¥.

Теорема 1 позволяет описать области устойчивости и неустойчивости исследуемой сети в зависимости от числа нейронов и запаздывания т .

Теперь обратимся к звёздной сети. В этом случае в центре находится один нейрон, который связан со всеми остальными, причём сигнал центрального нейрона передаётся к остальным с запаздыванием т и интенсивностью а , а от периферии к центру с запаздыванием т и интенсивностью Ь . Граф, соответствующий данному соединению, изображен на рис. 2.

Рис. 2. Соединение нейронов в виде звезды

Данная система n-го порядка описывается уравнением (1) с матрицами

' 1 0 . • 0 ї ' 0 b. . bN

A = E = 0 1 • • 0 , B = a 0 • • 0

v 0 0 • • 1) va 0 • • 0)

Для уравнения (1) с матрицами (3) верна следующая теорема. Теорема 2. Пусть матрицы имеют размер п Xп, п > 2 .

1. При 0 < ab <

1

n — 1

уравнение (1) с матрицами (3) асимптотически устойчиво при лю-

бом t > 0.

1

2. При ab >----- уравнение (1) с матрицами (3) неустойчиво при любом т> 0 .

п -1

3. При ab < 0 и дДп -1)\ab\ < |sinw(T)|, где Wj) есть наименьший положительный корень уравнения t = wtg(w), уравнение (1) с матрицами (3) асимптотически устойчиво.

4. При ab < 0 и дДп -1)\ab\ > |sin <у(т)| уравнение (1) с матрицами (3) неустойчиво.

n

196

Вестник ЮУрГУ, № 34, 2012

Хохлова Т.Н.

Устойчивость полносвязной и звёздной структур

нейронных сетей

На представленных графиках (рис. 3, 4) в плоскости параметров (а,Ь) изображены области устойчивости и неустойчивости звёздной конфигурации нейронной сети для различного числа нейронов п . Устойчивость в первой и третьей четвертях диагностируется теоретически, а во второй и четвёртой определяется численно при разных значениях запаздывания.

п = 4

Рис. 3. Области устойчивости звёздной нейронной сети из четырёх нейронов

п = 7

Рис. 4. Области устойчивости звёздной нейронной сети из семи нейронов

Краткие сообщения

Литература

1. Khokhlova, T.N. Stability cone for linear delay differential matrix equation / T.N. Khokhlova, M.M. Kipnis, V.V. Malygina // Appl. Math. Letters. - 2011. - V. 24. - P. 742-745.

2. Dreissche, van den P. Global attractivity in delayed Hopfield neural network models / P. van den Dreissche, X. Zou // SIAM J. Appl. Math. - 1998. - V. 58, №6. - P. 1878-1890.

Поступила в редакцию 6 сентбря 2012 г.

STABILITY OF COMPLETE-CONNECTED AND STELLAR STRUCTURE OF NEURAL NETWORKS

T.N. Khokhlova1

Results on stability investigation of full graph and star neural networks described by matrix delay differential equation are given. Due to stability cone method theoretical results for stability analysis of models discussed are obtained for different parameter values and arbitrary number of neurons in the network.

Keywords: delay differential equation, asymptotic stability, neural network.

References

1. Khokhlova T.N., Kipnis M.M., Malygina V.V. Stability cone for linear delay differential matrix equation. Appl. Math. Letters. 2011. Vol. 24. pp. 742-745.

2. Dreissche, van den P., Zou X. Global attractivity in delayed Hopfield neural network models. SIAM J. Appl. Math. 1998. Vol. 58, no. 6. pp. 1878-1890.

1 Khokhlova Tatyana Nailevna is Post-graduate student, Mathematical Analysis Department, South Ural State University.

^-msil:-isnschkskhokhisva@gmsili£2m_________________________________________________________________________________________

198 Вестник ЮУрГУ, № 34, 2012