Методы теории искусственных нейронных сетей в задачах идентификации переходных вероятностей управляемых дискретнозначных марковских моделей

НА УЧНЫЙ ВЕСТНИК МГТУ ГА сер. Радиофизика и радиотехника

УДК 629.735

Методы теории искусственных нейронных сетей в задачах идентификации переходных вероятностей управляемых дискретнозначных марковских моделей

Д. М. НЕНАДОВИЧ

Статья представлена доктором технических наук, профессором Шахтариным Б.И.

В статье представлен алгоритм идентификации элементов матрицы одношаговых переходных вероятностей управляемой дискретнозначной марковской модели процесса функционирования телекоммуникационной сети на основе методов теории искусственных нейронных сетей, приводится пример реализации алгоритма.

Моделирование сложных информационных систем, в частности, современных телекоммуникационных систем (ТКС), которые в большинстве случаев можно классифицировать как мультисервисные и гетерогенные, приводит к необходимости унификации математического описания процессов их функционирования.

Проблема унификации может быть решена на основе моделирования процессов функционирования ТКС “разрывными” управляемыми марковскими процессами (управляемыми цепями Маркова (УЦМ)) изменения состояний системы (или характеризующих ее параметров). Основной сложностью реализации математического представления УЦМ в системах управления ТКС в виде стохастических разностных уравнений является неопределенность значений элементов матрицы одношаговых переходных вероятностей (ОПВ) [1]. Одним из подходов к решению задачи идентификации значений вероятностей перехода ТКС из состояния в состояние является подход, основанный на использовании методов искусственных нейронных сетей, в частности, с использованием экстраполирующих нейронных сетей (ЭНС) [2-7].

Рассмотрим алгоритм функционирования ЭНС для идентификации значений вероятностей перехода параметра системы (определяющего состояние ТКС) из состояния в состояние. Разработанный алгоритм идентификации предназначен для определения значений элементов матрицы ОПВ параметров состояния ТКС в условиях нестохастической неопределенности - недостоверности (недостатка, неполноты, противоречивости) информации. Алгоритм представлен в виде блок-схемы на рис. 1.

На вход такой ЭНС поступает С(к) = у^ (к), у2 (к), у3 (к)^ - входной образ ЭНС, характеризующий множество состояний, в которое может перейти параметр ТКС из данного состояния. Например, для первой строки ОПВ и трех возможных состояний, входной образ для идентификации вероятности р11(к) имеет вид: С(к) = [I о, 0].

Предположим, пользователь определил, что в данный момент времени, на к-м шаге, управленческие воздействия подобраны таким образом, что повышают, для некоторого 1-го параметра ТКС, вероятность того, что находясь в состоянии 1 данный параметр останется в этом состоянии, а характер изменения значений других вероятностей, находящихся в этой же строке ОПВ - неопределенный (неточный, противоречивый). В целях получения обоснованных значений вероятности перехода параметра ТКС из состояния в состояние, необходимо идентифицировать недостающие значения элементов данной строки ОПВ.

Функционирование ЭНС осуществляется следующим образом [2-7]:

Начало

Ввод исходных данных:

2 -

Активизация входного слоя ЭНС =

а , (0) = с , У, =1.3

Начальная инициализация нейронов второго слоя ЭНС

ь.(0) = |а'', г е [1,...,3]

[0, ,Ч [1,...,3]

1—4

Приведение нейронов вх. слоя к состоянию нейронов второго слоя -------

а,(ко = ь,(кУг =1,3

5 Вычисление новых состояний нейронов втор-го слоя

ь (к'+1) = / (£ ь. (к ,)Wг;. (к)) .)=1

Суммирование значений весовых коэффициентов

в х/ = ЕВ г

/=1

Смещение (сдвиг) весовых коэффициентов корреляционной связи

/ ([ь,+wma*]), у,=1,3

9 -

Вычисление идентифицированных значений вероятностей перехода

р,1

Вывод результатов: идентифицированные значения переходных вероятностей

©

Конец

Рис.1. Блок-схема нейросетевого алгоритма идентификации значений вероятностей перехода параметра ТКС из

состояния в состояние

1. Активизация входного слоя Ба ЭНС входным образом С(к) = [с1(к), с2(к),с3(к)] (блок 2 алгоритма на рис. 1), т.е. приведение нейронов входного слоя в начальные состояния

причем нулевой (стартовый) такт экстраполяции ЭНС в выражении для матрицы весов [1]:

“0 1 -1"

11^1

1 1 0

а также последующие такты осуществляются в рамках к-го шага функционирования ТКС и обозначаются к' = 0,1,2, ;

2. Начальная инициализация (блок 3 алгоритма) нейронов слоя Бь в соответствии с выражением:

[\. , ,е [1,...,3];

[0 , гЧ [1,...,3].

3. Приведение нейронов входного слоя ЭНС на данном к -м такте к состоянию нейронов второго (Бь) слоя (блок 4 алгоритма на рис. 5):

а,

4. Вычисление новых состояний нейронов второго слоя (блок 5 алгоритма) для всех

ь,

і є по формуле:

ьдк+1)=/(£ ьдк'кдк», "і = і,з,

}=1

где /(х) - ступенчатая функция активации.

5. Повторение шагов 3-4 до тех пор, пока ЭНС на каком либо к' -м такте не достигнет стабильного состояния (блок 6 алгоритма на рис. 1). Проверка достигла либо не достигла ЭНС стабильного состояния, осуществляется в (базовом процессорном элементе (БПЭ) [1] Бс, путем сравнения состояний нейронов второго слоя Бь на предшествующем к' -м и очередном (к' + 1)-м такте

6. По сигналу с выхода БПЭ 8с, имеющему место в случае достижения ЭНС стабильного состояния, в БПЭ Ба осуществляется суммирование значений весовых коэффициентов, полученных в рамках вычисления состояний нейронов второго слоя Бь и соответствующих выходным сигналам слоя Бь в момент достижения ЭНС стабильного состояния

7. Элементы данного суммарного вектора характеризуют полученные в ходе идентификации весовые коэффициенты корреляционной связи значений вероятностей переходов для одной 1-й строки ОПВ. Данный вектор может содержать как положительные, так и отрицательные числа, поэтому, чтобы избавиться от отрицательных значений весов, но сохранить их пропорциональную зависимость, в базовый процессорный элемент БПЭ Бе для всех элементов вектора (7) вводится единый положительный коэффициент смещения (сдвига), численно равный максимально возможному значению суммарного веса концепт в итоговой матрице весов

где N - количество экспертов, привлекаемых к решению задачи, а Ксост - число возможных состояний неточно (противоречиво) заданного параметра ТКС. При этом выражение для операции смещения (сдвига) имеет вид

8. Вычисление идентифицированных значений вероятностей перехода параметра ТКС из первого состояния во второе, третье и вероятности остаться в первом состоянии. Данная процедура реализуется в БПЭ 8е и осуществляется на основе квадратичной метрики, применяемой к смещенным значениям суммарных весовых коэффициентов корреляционной связи вероятностей переходов (9) в соответствии с выражениями

Ьі(к’) Ьі(к’+1), "і = 1,3.

В/ = Ё В (/ ([Ь( ])).

і=1

сост 5

У

У

9. Повторение шагов 1-8 до тех пор, пока не будут идентифицированы элементы во всех остальных і-х строках ОПВ (блок 10 алгоритма на рис. 1).

Рассмотрим алгоритм функционирования данной ЭНС на примере итоговой когнитивной карты [1], характеризуемой итоговой матрицей |^(к)|| весов. Допустим, данные когнитивная карта и матрица весов характеризуют корреляционные зависимости значений переходных вероятностей, расположенные в первой строке ОПВ, а задачей ЭНС является идентификация этих значений. В этом случае на вход ЭНС подается последовательно три входных образа, начиная с С(к) = [1, 0, 0], характеризующего необходимость прогноза изменений корреляционных зависимостей между вероятностями р12(к) и р13(к) в случае роста значений вероятности р11(к).

В соответствии с алгоритмом, выходной вектор второго слоя (Бь) на каждом к' -м такте работы ЭНС В(к') = [Ь1(кг), Ь2(кг), Ь3(к)] последовательно принимает ряд значений состояний,

которые определяются на основе выражения (4) и элементы этого вектора, для рассматриваемого примера, на каждом к' -м такте работы ЭНС будут равны:

Нетрудно видеть, что ЭНС достигла стабильного состояния на четвертом такте. Аналогичным образом получаем выходные вектора второго слоя (Бь) ЭНС для входных образов С(к) = [0, 1, 0] и С(к) = [0, 0, 1]. Данные входные образы характеризуют соответственно необходимость прогноза изменений корреляционных зависимостей между вероятностями р11(к) и р13(к) в случае роста значений вероятности р12(к) и необходимость прогноза изменений корреляционных зависимостей между вероятностями р11(к) и р12(к) в случае роста значений вероятности р13(к). Выходные вектора второго слоя (Бь) ЭНС для этих входных образов соответственно равны:

В,(1) = /([0,3, -2]) = [1,1, -1];

В!(2) = /([1, 0, - 3]) = [1,0, -1];

В!(3) = /([-2,0, -2]) = [1, 0, -1]; В!(4) = /([-2,0, -2]) = [1,0, -1].

В2(1) = /([3, 0, -1]) = [1,1, -1]; В2(2) = /([1, 0, -3]) = [1,1, -1]; В2(3) = /([1, 0, -3]) = [1,1, -1];

В з(1) = / ([2,3,0]) = [1,1,1];

Вз

Вз(3) = /([5,6, -3]) = [1,1, -1].

Полученные результаты характеризуют промежуточные и финальные зависимости веса концепт (переходных вероятностей), т.е. характеризуют суммарную предпочтительность (с точки зрения экспертов) преобладания (доминирования) значений одной вероятности по отношению к другой, а итоговые функции весов могут быть представлены графически в виде пошаговых ленточных диаграмм, как показано на рис. 2.

Рис.2. Графики зависимости функций весов концепт от такта вычисления (к ) новых состояний нейронов второго слоя ЭНС: а - функции весов значений вероятностей перехода из любого состояния в первое; Ь - функции весов значений вероятностей перехода из любого состояния во второе состояние; с - функции весов значений вероятностей перехода из любого состояния в третье состояние

Полученные функции весов значений вероятностей перехода из состояния в состояние суммируются в соответствии с (7) и на выходе БПЭ Ба (или блока 7 алгоритма) имеем суммарный вектор весовых коэффициентов

В^г =

характеризующий полученные в ходе идентификации весовые коэффициенты корреляционной связи значений вероятностей переходов для одной первой строки ОПВ. С учетом того, что для данного примера Ксм = = 12, в соответствии с (13) получим вектор суммарных весовых

коэффициентов со смещением

В ^ / см =

что позволяет избавиться от отрицательных значений весов, но сохранить их пропорциональную зависимость.

В итоге, на выходе БПЭ 8е (или блока 9 нейросетевого алгоритма), реализующего выражения (10-12), получим идентифицированные значения вероятностей перехода неточно (противоречиво) заданного параметра ТКС из первого состояния во второе, в третье и вероятности остаться в первом состоянии, т.е. элементы первой строки матрицы ОПВ ср~ :

(Ь + ’ тГ)2 162

Рп(к) = Ри(к) = Рп(к) =

(ь,+w таг)2+(ь2+w тах)2+(ь3+w та*)2 162 +182 +42

= 0,42953;

/і . тах \ 2

182

(ь,+wтах)2+(Ь2+wтах)2+(Ьз+wтах)2 ,б2+182+42

(Ьз+w тах)2 _ 42

(ь,+wmax)2+(Ь2+wтах)2+(Ьз+wтах)2 ,б2+182+42

: 0,54362;

0,02684.

б

а

с

Аналогичным образом могут быть получены остальные идентифицированные значения вероятностей перехода неточно (противоречиво) заданного параметра ТКС, т.е. элементы второй и третьей строк матрицы ОПВ j .

Таким образом, сформулирован подход к моделированию процесса функционирования ТКС в условиях, когда элементы матрицы ОПВ могут быть заданы недостоверно (неточно, неполно и противоречиво). Показано, что на основе использования математически корректного нейросетевого алгоритма могут быть получены количественные значения элементов матрицы ОПВ - одной из ключевых составляющих стохастических разностных уравнений, представляющих собой математическую модель процесса функционирования ТКС. Использование предложенного нейросетевого алгоритма позволяет наиболее полно учесть неопределенности нестохастического характера (неточность, неполноту и противоречивость), присущие исходным данным. Это позволяет реализовать в рамках так называемого параллельного подхода процедуру оптимизации управляющих воздействий на ТКС, повысить степени объективности принимаемых информационных решений при управлении структурой, параметрами и режимами работы сетей такого класса.

ЛИТЕРАТУРА

1.Ненадович Д.М. Постановка задачи идентификации переходных вероятностей управляемых дискретнозначных марковских моделей методами теории искусственных нейронных сетей //Статья в настоящем Научном Вестнике.

2.Щербаков М. А. Искусственные нейронные сети. Пенза: ПГТУ, 1996.

3.Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. М.: Мир, 1992.

4.Kosko B. Fuzzy cognitive maps. // International Journal of Man-Machine Studies, V. 24, 1986.

5.Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия-Телеком, 2002.

6.Паращук И.Б. Особенности и содержание этапов разработки интеллектуальных систем анализа эффективности телекоммуникационных сетей. // Петербургский журнал электроники, № 1, 1999.

D.M. Nenadovich

Methods of artificial neuron nets theory in the problems of identification of transition probabilities of controlled discrete Markov models

In paper, an identification algorithm of one-step transition probabilities matrix elements of controlled discrete Markov model of telecommunication system operation is presented on base of artificial neuron nets theory methods. There is given an example of algorithm realization.

Сведения об авторе

Ненадович Дмитрий Михайлович, 1961 г.р., окончил Ленинградское высшее военное инженерное училище связи им. Ленсовета (1984), Военную академию связи (1995), кандидат технических наук, эксперт Главного технического управления Банка России, автор более 40 научных работ, область научных интересов - системы управления телекоммуникационными сетями.