Градиентный метод координации управлений иерархическими и сетевыми структурами

X моделирование систем и процессов

УДК 004.9

градиентный метод координации управлений иерархическими и сетевыми структурами

А. Я. Фридман,

доктор техн. наук, профессор О. В. Фридман,

канд. техн. наук

Институт информатики и математического моделирования технологических процессов Кольского научного центра РАН

Представлен градиентный метод координации децентрализованного управления иерархическими и сетевыми структурами на основе предложенных ранее необходимых и достаточных условий координируемости локально организованной иерархии динамических систем. Работоспособность метода проиллюстрирована результатами математического моделирования двухуровневой системы управления линейными объектами. Показано, что подключение локального управления и координации расширяет диапазон устойчивости системы к внешним и структурным возмущениям, а также повышает ее быстродействие в несколько раз.

Ключевые слова — ситуационный анализ и синтез, концептуальная модель предметной области, координи-руемость управляемых систем.

Введение

Возникновение иерархической структуры управления сложными объектами обусловлено возрастающей сложностью централизованного управления ими. Поэтому появилась необходимость разделения всего процесса принятия решений на такое число уровней, чтобы решение задачи оптимизации на каждом из них имело приемлемую сложность. Но с возникновением многоуровневых иерархических систем управления появилась и новая задача согласования и координации решений, принимаемых на всех уровнях управления [1].

Метод координации основан на предложенных [2, 3] необходимых и достаточных условиях координируемости локально организованной иерархии динамических систем. Компьютерный эксперимент проводился с помощью системы визуального блочного математического моделирования VisSim [4]. В качестве объекта координации вначале рассматривалась двухуровневая иерархическая система управления линейным объектом, затем полученные результаты были обобщены для объекта с сетевой структурой. Особенность подобных объектов по сравнению с иерархическими состоит в том, что в них все или большинство лиц, принимающих решения, имеют равный ранг. Пример — задачи формирования

виртуальных предприятий [5]. Координация таких систем может производиться только на метауровне.

Цель анализа состояла в выявлении диапазонов устойчивости локальных управлений и координирующих сигналов к небольшим изменениям динамических характеристик объекта управления (вариациям матрицы динамики объекта). Кроме того, исследовались возможности повышения быстродействия децентрализованной системы управления.

Постановка задачи

В системе ситуационного моделирования (ССМ) [6] изучаемая динамическая система должна быть представлена в виде иерархически упорядоченного множества объектов (составных частей). Эта иерархия отражает организационные взаимоотношения объектов. Критерий качества работы каждого объекта имеет вид

1 т а - . Аа . 2' 1/2 1 т 1/2

Ф:: = 1Е тЫ ::= т е><2 ^ 1=1 ,

где аь — сигналы из списка выходных параметров данного объекта, их общее количество равно т; аю и Да; > 0 — настроечные параметры, отражающие требования вышестоящего объекта к номи-

нальному значению аь и допустимому отклонению Да; от этого значения соответственно;

5а; ::= а— относительное отклонение фак-

Да

тического значения сигнала аг от его номинального значения аю.

Если считать аь скалярными критериями качества работы элемента модели, номинальные значения которых определяются величинами аю, то (1) представляет собой обобщенный критерий с коэффициентами важности, обратно пропорциональными допустимым отклонениям скалярных критериев, что не противоречит здравому смыслу.

Из (1) также следует, что в ССМ для координации применяется способ прогнозирования взаимодействий [1]. Глобальная задача ставится путем выбора доминирующего скалярного критерия, который должен вносить минимальный вклад в обобщенный критерий (1). Пусть для определенности это будет аю(0).

Рассмотрим возможности применения критерия (1) для координации локальных управлений при управлении иерархическими и сетевыми объектами.

Исследование иерархической системы управления

Как и в работе [1], будем без потери общности рассматривать двухуровневую систему (рис. 1), в которой объект верхнего уровня (координатор) Оо, имеющий обобщенный критерий качества Фо типа (1), передает подчиненным ему объектам (подобъектам) О1-Оп, имеющим аналогичные критерии качества, настроечные параметры и получает в качестве сигналов обратной связи относительные отклонения фактических значений локальных критериев качества подобъектов от их номинальных значений. Подобъекты взаимодействуют через управляемую систему и не имеют информации о состоянии других подобъектов, т. е. вся система локально организована.

Предлагаемый принцип координации такой системы с точки зрения системного анализа соответствует внешнему (объективному) подходу к оценке эффективности функционирования подсистем в составе метасистемы. Этот принцип состоит в следующем: задачи подобъектов будут скоординированы относительно задачи координатора, если знак градиента обобщенного критерия координатора по его текущему доминирующему скалярному критерию совпадает со знаками градиентов этого обобщенного критерия по всем текущим значениям скалярных критериев подобъектов.

Из (1) имеем

9Фк

2 а (к) _ а (к) 2 аі аі0

даі(-к) тк А2а>

откуда следует, что знак производной можно менять нужным образом, выбирая величину аю(А:) больше или меньше а/Ф. С другой стороны, если считать, что действия всех подобъектов равно важны для достижения цели координатора (возможность обобщения очевидна), то

дФ0 дФ0 да/0) = 2 ^ да/0) »

_^^ (0) ^ (0) _™_ ^ иj ~

даі

j=1 да/0) даі0) то j=1

2 т 1пс[а/0) ]

» -Е ъ

даі

г0 j=1 ‘ 1пс[а/0) ]

а 1пс[*] есть при-

а (0) -а (0) а, а,0

где обозначено и, _——-——.

7 Д2а/0)

ращение (инкремент) параметра в скобках за предыдущий временной шаг.

Система будет координируема, если координатор выберет все аю(к) таким образом, чтобы знаки величин (2) (для  _ 0 и I _ 1) и (3) (для всех  от 1 до п и всех I для каждого подобъекта) совпадали.

Полученные достаточные условия координи-руемости аналогичны идеям обеспечения устойчивости локального управления в коллективах автоматов [7], где требуется положительность частных производных обобщенного критерия типа (1) по входным параметрам соответствующего элемента коллектива.

В целях подтверждения теоретических результатов на математической модели исследовалась устойчивость характеристик децентрализованного управления на основе градиентов локальных критериев качества и возможности по-

Рис. 1. Двухуровневая многоцелевая система

Рис. 2. Схема модели управляемой системы

вышения (оптимизации) быстродействия децентрализованной системы.

Моделирование иерархической системы проводилось на примере управляемого объекта, представляющего собой три последовательно соединенных линейных звена с передаточной функцией второго порядка, одним управляющим входом и одним выходом каждый. Рассматривалась двухуровневая система управления (см. рис. 1).

В качестве управляемой системы при моделировании использовалась линейная трехблочная система (рис. 2).

Были построены три аналогичных друг другу управляющих элемента нижнего уровня, соответствующие элементам второго уровня на рис. 1. В каждом из них вычисляется градиент обобщенного критерия (2), его значения подаются в качестве управляющего воздействия на вход каждого из трех блоков управляемой системы.

Для принятия решений (выработки управляющих воздействий) управляющие элементы нижнего уровня использовали локальную информацию о состоянии подчиненных им звеньев управляемого объекта, координатор обладал полной информацией о состоянии этого объекта и управляющих элементов нижнего уровня, что соответствует принципам теории иерархических систем [1].

Проведенный модельный эксперимент включал несколько последовательных этапов. Первый этап состоял в исследовании устойчивости системы к малым возмущениям. На втором этапе эксперимента на блоки исследуемой системы подавалось управляющее воздействие, вычисляемое в соответствии с (2). Аналогично первому этапу исследований выявлялись диапазоны устойчивости системы при подключении управления на отдельный блок, попарно и на все три блока. Значения коэффициентов усиления при вводе управлений подбирались по значению установившейся погрешности реальной траектории относительно идеальной при условии сохранения устойчивости возмущенной системы. На следующем этапе моделирования подключался координатор (верхний уровень на рис. 1) и изменялись значения коэффициентов усиления приращений координирующих сигналов (номинальных значений аю) для повышения быстродействия децентрализованной системы. Послед-

нии этап моделирования состоял в выявлении диапазонов устойчивости системы при наличии управления и координации.

Результаты моделирования иерархической системы управления

Первый этап. В качестве возмущений рассматривались перекрестные связи между отдельными блоками управляемой системы, изменяющие собственные числа матрицы динамики системы. Возмущающий коэффициент Ку обозначает подачу сигнала на вход і-го блока с выхода у-го блока. Таким образом, для трехблочной системы рассматриваются коэффициенты структурных возмущений К12, К13, К2з.

В ходе эксперимента были исследованы все возможные сочетания подключений возмущающих воздействий — по одному, попарно, все три одновременно. Эксперимент показал, что наиболее значимое воздействие на устойчивость системы оказывает изменение К13, а наименьшее — изменение К12. Кроме того, были выявлены диапазоны изменений коэффициентов, в пределах которых система оставалась устойчивой с заданной 5 %-й точностью.

Второй этап. На блоки исследуемой системы подавалось управляющее воздействие согласно (2). Аналогично первому этапу исследований выявлялись диапазоны устойчивости системы при подключении управления на отдельный блок, попарно и на все три блока. Получено, что наибольший эффект дает подключение всех трех блоков, причем подключение управления существенно расширяет диапазоны устойчивости (табл. 1).

Далее был осуществлен подбор значений коэффициентов усиления при вводе локальных управлений. Подбор проводился в условиях устойчивости возмущенной системы. Наилучшее быстродействие получено при коэффициенте

Таблица 1

Одновременное подключение *12 *13 *23

Без управления -0,0001 4 0,0001 -0,00001 4 0,00001 -0,0001 4 0,0001

С управлением -0,001 4 0,001 -0,0001 4 0,0001 -0,0005 4 0,0005

0,608 для первого блока и коэффициенте 1 для второго и третьего блоков.

На третьем этапе подключались все блоки модели.

Блок координации, который соответствует верхнему блоку на рис. 1, содержит три одинаковых подблока. На вход каждого подблока координатора подается фактическое значение сигнала а, номинальное значение сигнала аю и рассчитывается относительное отклонение фактического значения сигнала аь от его номинального значе-

О а1 а1 0

ния: аю -§а ::_ \ 10 .

Д а1

Далее вычисляется «новое» номинальное значение аю' _ аю + Даю, где Даю _ &;5а;. Значение коэффициента к1 изначально полагается равным единице. На следующем этапе оно изменялось для повышения быстродействия системы.

Эксперимент показал, что подключение координатора улучшает установившуюся погрешность в несколько раз, если оценивать ее по значению отклонения стабилизировавшихся сигналов друг от друга. Представленные графики соответствуют состояниям возмущенной системы без управления (рис. 3, а), с подключенным нижним уровнем управления (рис. 3, б) и подключенным управлением и координацией (рис. 3, в). Значения возмущающих коэффициентов во всех трех случаях не менялись: К12 _ 0,002, К13 _ -0,0001, К23 _ -0,002. Наличие управления вдвое снижает процент расхождения траекторий эталонной и исследуемой систем. Подключение координатора позволяет повысить устойчивость системы к внешним возмущениям еще в два раза.

Далее решался вопрос повышения быстродействия всей системы.

Оказалось, что различные сочетания значений коэффициентов к1 для разных блоков координатора в существенно различной степени влияют на результат моделирования, в частности, на значение процента сходимости и время сходимо-

сти идеальной и реальной кривых. Установившаяся погрешность при подключенном управлении нижнего уровня без координатора — 8,41 %. Наилучшее быстродействие достигнуто при 1 _ 5, 2 _ 3 _ -8000; установившаяся погрешность составила 3,67 %.

Из графиков на рис. 3 видно, что при наличии управления и координации время сходимости идеальной и реальной кривых составляет примерно 10 с, тогда как без координации (или неоптимальных значениях коэффициентов ) при тех же возмущениях кривые вообще не сходились или при других значениях возмущений сходились примерно через 20 с. Таким образом, подключение блока координации повышает быстродействие системы приблизительно вдвое.

На последнем, четвертом этапе исследований иерархической системы выявлялись диапазоны устойчивости системы при наличии и управления, и координации аналогично тому, как это производилось на предыдущих этапах. Эксперимент показал, что диапазоны устойчивости системы существенно расширились по сравнению со случаем, когда подключалось только управление (см. табл. 1), и составили: К12 _ -0,002 ^ 0,002, К23 _ -0,002 ^ 0,002, К13 _ -0,00015 ^ 0,00015.

Исследование децентрализованной системы управления сетью объектов

По методике, описанной для иерархической управляемой системы, были проведены также исследования децентрализованной системы управления сетью объектов. Ввиду усложнения модели принято решение об упрощении вида передаточных функций по сравнению с иерархической системой.

Схема эталонной сетевой структуры, на вход которой подается ступенчатый сигнал с амплитудой +10, показана на рис. 4.

Сначала была проанализирована устойчивость исследуемой системы к внешним возмуще-

Рис. 3. Влияние управляющих и координирующих воздействий на устойчивость системы: а — без управления (установившаяся погрешность 23,1 %); б — с подключенным нижним уровнем управления (установившаяся погрешность 11,2 %); в — с управлением и координацией (установившаяся погрешность 4,63 %): -----------------— идеальная;---------— управляемая

Рис. 4. Схема эталонной сетевой структуры

ниям. Для этого на каждый узел сети поочередно подавался сигнал, аналогичный входному, но с амплитудой +1, что соответствует 10 %-му внешнему возмущению.

Далее определялись диапазоны устойчивости системы к малым внутренним возмущениям, реализованным путем добавления обратных связей между выходами и входами узлов сети (в направлении от общего выхода системы к общему входу), по той же методике, что и для иерархической системы (отклонение по амплитуде ± 5%). Проанализированы все возможные сочетания связей «выход-вход».

Затем определялись диапазоны устойчивости системы при поочередном подключении управления на каждый узел сети. Управления задавались пропорционально градиенту обобщенного критерия (2), его значения подавались в качестве управления по одному на вход каждого из возбуждаемых узлов сети.

Исследовалось поведение системы при одновременном подключении всех управляющих элементов, возбуждение подавалось только на один узел сети. Определены диапазоны устойчивости для такой ситуации.

Следующим шагом эксперимента было подключение координатора, построенного аналогично иерархической системе. Исследовано подключение блока координации только на возбуждаемый узел и полное подключение координатора (на все узлы сети) с одиночным подключением управления (на возбуждаемый узел сети) и полным подключением управления (на все узлы сети).

Результаты моделирования сетевой системы управления

На внешнее возмущение реагировали только три первых блока, причем оно компенсировалось уже при одиночном подключении управляющего элемента на возбуждаемый узел сети. В целом сеть продемонстрировала устойчивость к воздействиям такого рода.

По величине диапазонов устойчивости обратные связи между узлами сети можно условно разбить на «сильные» и «слабые»; оказалось, что «сильные» связи замыкаются в основном на три первых узла сети. В табл. 2 показаны результаты исследований устойчивости сети к малым структурным возмущениям.

При поочередном подключении управления на каждый узел сети диапазоны устойчивости системы для «сильных» связей расширялись в среднем на порядок, а для «слабых» связей практически не менялись, но реакция «слабых» связей появлялась не только на возмущаемом узле сети, но и на узлах 4 и 8 независимо от того, на какой узел подавалось возмущение. Подключение одиночного управления на возбуждаемый узел сети достаточно эффективно компенсирует небольшие структурные возмущения.

При моделировании одновременного подключения всех управляющих элементов диапазоны устойчивости для «сильных» связей в среднем не изменились, для связей, замкнутых на первый узел сети, — незначительно расширились, а для других — уменьшились в 2-4 раза по сравнению с одиночным подключением управления. Диапа-

Таблица 2

«Сильные» связи «Слабые» связи

Выход-вход Диапазон устойчивости Выход-вход Диапазон устойчивости

2-1 0,0003 4 -0,001 5-4 0,4 4 -0,25

3-1 0,000001 4 -0,000001 6-4 0,5 4 -0,5

3-2 0,00025 4 -0,00025 6 і сл 0,1 4 -0,1

4-1, 4-3, 6-3, 7-2, 9-2 0,000005 4 -0,000005 7-4 0,01 4 -0,05

4-2 0,00005 4 -0,00005 7-5 0,009 4 -0,009

5-1, 5-3 0,000025 4 -0,00002 8-2 0,002 4 -0,002

5-2 0,0001 4 -0,0001 8-4 0,005 4 -0,06

6-1 0,0000014 -0,000005 8-5 0,07 4 -0,1

6-2 0,00005 4 -0,00004 8-6 0,064 4 -0,001

7-1, 7-3, 9-1, 9-3 0,00000054 -0,0000005 8-7 0,001 4 -0,001

7-6 0,00001 4 -0,00001 9-4 0,05 4 -0,05

8-1 0,0002 4 -0,0002 9-5 0,001 4 -0,02

8-3 0,0002 4 -0,0002 9-7 0,01 4 -0,009

9-6 0,0001 4 -0,0005 9-8 0,1 4 -0,15

зоны устойчивости «слабых» связей по-прежнему не менялись, но к узлам сети, всегда проявляющим реакцию на возмущение, кроме четвертого и восьмого узлов, добавились пятый и седьмой. Таким образом, локальные управления при отсутствии координации «мешали» друг другу.

Представлены графики эталонной и исследуемой кривых для «сильной» связи 3-2 при подаче возмущения К32 = 0,001 без управления (рис. 5, а), при подключении одиночного управления (рис. 5, б) и полном подключении управления (рис. 5, в).

Моделирование показало, что подключение всех управляющих элементов при одиночной подаче возмущения в целом компенсирует малое структурное возмущение приблизительно в той же степени, как и одиночное подключение управляющего элемента, соответствующего возмущаемому узлу.

При одиночном подключении блока координации на возбуждаемый узел с одиночным подключением управления диапазоны устойчивости

«слабых» связей не изменялись; как и в предыдущем случае, реакцию на воздействие проявляли четвертый, пятый, седьмой и восьмой узлы сети (помимо возмущаемого), а для «сильных» связей диапазон устойчивости резко сузился, система становилась неустойчивой при подаче даже малого возмущения. На рис. 6, а приведены графики кривых для той же связи 3-2, явно видно увеличение расхождения кривых по сравнению с предыдущим случаем, что говорит о сужении диапазона сходимости.

При полном подключении управления и одиночном подключении координатора (рис. 6, б), как и при подключении координатора на все узлы сети и одиночном подключении управления (рис. 6, в), диапазон устойчивости «слабых» связей не изменился, для «сильных» связей, замкнутых на первый узел, несколько расширился, для остальных — сузился.

Полное подключение управления и координации (на все узлы сети) для «слабых» связей прак-

а)

1000000

500000

0

-500000

-1000000

-1500000

-2000000

0

20 40 60 80 100

Время, с

б)

1000000

500000

о

-500000

-1000000

-1500000

-2000000

0 20 40 60 80 100

Время, с

в)

1000000

500000

0

-500000 ,-1000000 -1500000 *-2000000

о

20 40 60 80 100

Время, с

Рис. 5. Эталонная и исследуемая кривые для «сильной» связи 3-2: а — без управления (установившаяся погрешность 33,3 %); б — при подключении одиночного управления; (установившаяся погрешность 14,5 %); в — полное подключение управления (установившаяся погрешность 2,14 %):---------------идеальная; -----------------------------------------------------------------------------------------— управляемая

а)

1000000

500000

0

-500000

-1000000

-1500000

-2000000

0

20 40 60

Время, с

80 100

б)

1000000

500000

о

-500000

-1000000

-1500000

-2000000

0 20

40 60 80

Время, с

100

в)

1000000

500000

о

-500000 ,-1000000 -1500000 .-2000000

О 20

40 60 80

Время, с

100

Рис. 6. Эталонная и исследуемая кривые для «сильной» связи 3-2: а — одиночное управление и одиночная координация (установившаяся погрешность 16,67 %); б — полное управление и одиночная координация; в — одиночное управление и полная координация (установившаяся погрешность для случаев б) и в) 1,95 %): — идеальная;--------управляемая

тически ничего не изменило с точки зрения величины диапазона устойчивости, реакцию на возмущение помимо возмущаемого узла проявлял только восьмой узел (в предыдущих экспериментах такую реакцию проявляли еще четвертый, пятый и седьмой узлы). Для «сильных» связей диапазон устойчивости расширился, в целом реакция системы на возмущение стала слабее. На рис. 7 графики соответствуют состояниям возмущенной системы подключенным управлением и координацией для «сильной» связи 3-2 при подаче возмущения К32 = 0,001.

Таким образом, полное подключение управления и координации дает наилучший эффект при компенсации малых структурных возмущений.

Заключение

Результаты моделирования показали, что при пошаговом изменении управляющих воздействий на отдельные линейные звенья с использованием в качестве «стабилизирующего» значения обобщенного критерия затрат, вычисляемого для каждой подсистемы на каждом шаге моделирования, за заданное время подсистемы и система в целом стремятся к «эталонным» значениям (серые кривые на графиках) выходных переменных.

Экспериментально подтверждены выводы, сделанные в работах [7, 3], об устойчивости результатов децентрализованного управления на основе градиентов локальных критериев качества.

Для исследованной двухуровневой системы управления линейным объектом подключение нижнего уровня управления в среднем на порядок расширяет диапазоны устойчивости системы к внешним возмущениям и примерно вдвое уменьшает процент расхождения идеальной и реальной траекторий системы. Координация иерархической системы позволяет:

Рис. 7. Эталонная

кривые для «сильной» связи 3-2, полное управление и полная координация

— повысить устойчивость системы к внешним возмущениям и увеличить быстродействие системы приблизительно вдвое;

— расширить диапазон устойчивости системы к структурным возмущениям в 1,5-2 раза.

Для исследованной двухуровневой системы управления сетевым объектом выявлено разделение внутренних обратных связей на «сильные» (возмущение, подаваемое на эти связи, существенно влияет на поведение системы в целом) и «слабые». Поочередное подключение локальных управлений в среднем на порядок расширяет диапазоны устойчивости соответствующих «сильных» связей к внешним возмущениям и практически не влияет на «слабые» связи. Локальное одиночное управление тем узлом сети, на который подано возмущение, достаточно эффективно компенсирует небольшие структурные возмущения и более чем вдвое уменьшает процент расхождения идеальной и реальной траекторий системы в целом. Полное подключение нижнего уровня управления ведет к резкому сужению диапазонов устойчивости «сильных» связей (в 2-4 раза) и появлению реакции на невозбуждаемых узлах сети. Следовательно, некоординируемые локальные управления «мешают» друг другу, что и мож-

но было предположить с учетом особенностей сетевых структур.

Использование предложенного градиентного метода координации для сетевого объекта позволяет:

— повысить устойчивость системы к внешним возмущениям и свести к минимуму взаимное влияние узлов сети;

— расширить диапазон устойчивости системы к структурным возмущениям более чем в 2 раза (по сравнению с локальным управлением).

Направления дальнейших исследований:

— изучение реакции исследованных иерархической и сетевой систем на внешние возмущения в различных точках воздействия;

Литература

1. Месаpович М., Мако Д., Такахаpа И. Теория иерархических многоуровневых систем. — М.: Мир, 1973. — 344 с.

2. Фридман А. Я. Условия координируемости двухуровневого коллектива динамических интеллектуальных систем: Одиннадцатая национальная конф. по искусственному интеллекту с международным участием КИИ-2008, Дубна, Россия, 28 сентября — 3 октября 2008 г. — М.: ЛЕНАНД, 2008. Т. 1. С. 25-31.

3. Фридман А. Я. Достаточные условия координируе-мости локально организованной иерархии динамических систем // Искусственный интеллект. Интеллектуальные системы (ИИ-2009): Материалы Х Междунар. науч.-техн. конф. / ТТИ ЮФУ. Таганрог, 2009. С. 115-117.

4. Дьяконов В. П. VisSim+Mathcad+MATLAB. Визуальное математическое моделирование. — М.: СОЛОН-Пресс, 2004. — 384 с. (Сер. Полное руководство пользователя).

5. Sokolov B., Fridman A. Integrated Situational Modelling of Industry-Business Processes for Every

— поиск конструктивного алгоритма выбора оптимальных значений коэффициентов усиления к1 в цепях ввода координирующих сигналов (подбор производился вручную);

— исследование возможностей повышения быстродействия децентрализованных систем управления сетевыми структурами;

— анализ возможностей применения разработанной методики для исследования интеллектуальных динамических систем [3, 8, 9].

Работа выполнена при финансовой поддержке РФФИ (проект № 09-07-00066), Отделения нанотехнологий и информационных технологий РАН (проект 2.3 в рамках текущей Программы фундаментальных научных исследований).

Stage of Their Life Cycle // Intelligent Systems (IS 2008): Proc. of 4th Intern. IEEE Conf., Sept. 6-8, 2008, Varna, Bulgaria. Vol. 1. P. 8-40.

6. Фридман А. Я. Ситуационный подход к моделированию промышленно-природных комплексов и управлению их структурой // Идентификация систем и задачи управления: Тр. IV Междунар. конф./ Ин-т проблем управления им. В. А. Трапезникова. М., 2005. С. 1075-1108.

7. Стефанюк В. Л. Локальная организация интеллектуальных систем. — М.: Физматлит, 2004. — 328 с.

8. Виноградов А. Н., Жилякова Л. Ю., Осипов Г. С. Динамические интеллектуальные системы. II. Моделирование целенаправленного поведения// Изв. РАН. Теория и системы управления. 2003. № 1. С.87-94.

9. Фридман А. Я. Прямое планирование в динамических интеллектуальных системах // Системный анализ и информационные технологии (САИТ-2007): Тр. Второй Междунар. конф., Обнинск, Россия, 10-14 сентября 2007 г.: В 2 т. / ЛКИ. М., 2007. Т. 1. С. 73-75.