Применение многоагентного подхода для поддержки управления безопасностью в техносфере

Обзорная статья / Review article УДК 004.8

http://dx.doi.org/10.21285/1814-3520-2018-1 -118-133

ПРИМЕНЕНИЕ МНОГОАГЕНТНОГО ПОДХОДА ДЛЯ ПОДДЕРЖКИ УПРАВЛЕНИЯ БЕЗОПАСНОСТЬЮ В ТЕХНОСФЕРЕ

© А.В. Смирнов1, Р.Ш. Хабибулин2, Д.В. Тараканов3

1,2Академия Государственной противопожарной службы МЧС России, Российская Федерация, 129366, г. Москва, Бориса Галушкина, 4. 3Ивановская пожарно-спасательная академия ГПС МЧС России, Российская Федерация, 153048, г. Иваново, пр-кт Строителей, 33.

РЕЗЮМЕ. ЦЕЛЬ. Проанализировать работы в области многоагентных технологий за период 2005-2016 гг. В первую очередь были отобраны публикации, освещающие вопросы применения многоагентных технологий в различных сферах и предметных областях: логистика, безопасность, информационный поиск, управление рисками, здравоохранении и др. Особое внимание уделено работам, посвященным вопросам применения многоагентных технологий для обеспечения безопасности в техносфере. Необходимость применения многоагентных систем (МАС) для решения вопросов управления безопасностью в техносфере вызвана прежде всего сложностью современных систем и организаций, которая достигает такого уровня, что централизованное управление в них становится неэффективным из-за наличия большого потока информации. Это приводит к большим временным затратам на ее обработку и принятие решений. МЕТОДЫ. Путем сравнительного анализа проведенных исследований установлены основные инструментальные программные средства разработки многоагентных систем, а также определена целесообразность использования многоагентных технологий для решения задач в области безопасности техносферы. РЕЗУЛЬТАТЫ АНАЛИЗА. Выявлено, что большинство исследований, за исключением небольшого количества работ, не дошли до программной реализации, то есть так и остались на теоретическом уровне. Тем не менее этими публикациями авторы внесли существенный вклад в развитие теории агентного подхода. В настоящей же статье определены перспективные направления дальнейших исследований применения многоагентного подхода в области безопасности техносферы.

Ключевые слова: анализ, техносферная безопасность, многоагентные системы, управление безопасностью, искусственный интеллект, системы поддержки принятия решений.

Формат цитирования: Смирнов А.В., Хабибулин Р.Ш., Тараканов Д.В. Применение многоагентного подхода для поддержки управления безопасностью в техносфере // Вестник Иркутского государственного технического университета. 2018. Т. 22. № 1. С. 118-133. DOI: 10.21285/1814-3520-2018-1-118-133

USE OF MULTI-AGENT APPROACH FOR TECHNOSPHERE SAFETY MANAGEMENT SUPPORT A.V. Smirnov, R.Sh. Habibulin, D.V. Tarakanov

Fire Fighting Service of State Academy of Emercom of Russia, 4 Borisa Galushkina St., Moscow 129366, Russian Federation

Ivanovo Fire and Rescue Academy of the State Fire Service of the Ministry of the Russian Federation for Civil Defense, Emergencies and Elimination of Consequences of Natural Disasters 33 Stroitelei pr., Ivanovo 153048, Russian Federation

ABSTRACT. The PURPOSE of the article is to review the researches in the field of multi-agent technologies for the period from 2005 to 2016. In the first place the analysis was given to the articles covering the application issues of multiagent technologies in various fields and object domains: logistics, security, information retrieval, risk management, health care, etc. with the focus on the works dealing with the issues of using multi-agent technologies ensuring security in tech-

Смирнов Андрей Владимирович, адъюнкт факультета подготовки научно-педагогических кадров, e-mail: a_smirnov8@mail.ru

Andrei V. Smirnov, Postgraduate of the Faculty of Academic and Teaching Staff Training, e-mail: a_smirnov8@mail.ru

2Хабибулин Ренат Шамильевич, кандидат технических наук, доцент, начальник учебно-научного комплекса автоматизированных систем и информационных технологий.

Renat Sh. Habibulin, Candidate of technical sciences, Associate Professor, Head of the Educational and Research Complex of Automated Systems and Information Technologies.

3Тараканов Денис Вячеславович, кандидат технических наук, преподаватель кафедры пожарной тактики и основ аварийно-спасательных и других неотложных работ.

Denis V. Tarakanov, Candidate of technical sciences, Lecturer of the Department of Fire Tactics and Foundations of Rescue Works and other Emergences.

nosphere. The need for the use of multi-agent systems (MAS) for solving the issues of security management in techno-sphere first of all is determined by the complexity of modern systems and organizations. This makes the centralized management inefficient due to the presence of large information flows. METHODS. Having performed a comparative analysis of the conducted studies, the main software tools used for the development of multi-agent systems have been identified and the application feasibility of multi-agent technologies for solving technospheric safety problems has been determined. ANALYSIS RESULTS. It has been revealed that most studies except for a small number of works do not contain program implementation, that is, they haven't moved further than the theoretical level. Nevert heless, the authors of these publications have made a significant contribution to the development of the theory of agent approach. The present article outlines the promising directions of further studies of multi-agent approach application in the field of techno-sphere safety.

Keywords: analysis, technosphere safety, multi-agent systems, security management, artificial intelligence, decision support systems

For citation: Smirnov A.V., Habibulin R.Sh., Tarakanov D.V. Use of multi-agent approach for technosphere safety management support. Proceedings of Irkutsk State Technical University. 2018, vol. 22, no. 1, pp. 118-133. (In Russian) DOI: 10.21285/1814-3520-2018-1-118-133

Введение

Обеспечение безопасности в техносфере является одной из важнейших функций государства, бизнеса, для осуществления которой необходима разработка современных информационных систем поддержки управления. Проанализировав особенности возникновения и развития аварий на различных объектах защиты, можно сделать вывод о том, что для уменьшения количества пожаров, чрезвычайных ситуаций и последствий от них необходимо совершенствовать вопросы управления безопасностью в техносфере.

На сегодняшний день многоагент-

ные системы (МАС) применяются в самых различных сферах и предметных областях: логистика, безопасность, информационный поиск, управление рисками, здравоохранение и др. Однако, несмотря на возрастающее распространение МАС, трудоемкость процесса их разработки остается чрезвычайно высокой, что и порождает проблему создания универсального средства проектирования МАС, сочетающего теоретически обоснованную методологию проектирования и эффективную реализацию в объектно-ориентированной среде [1].

Научные работы по МАС

За последние годы проведено множество исследований, посвященных применению многоагентного подхода. Для проведения обзора по МАС отбирались научные работы, освещающие вопросы применения МАС в различных предметных областях [1-42]. При анализе особый акцент поставлен на работы, посвященные вопросам применения МАС для обеспечения безопасности в техносфере [8, 10, 11, 24, 37].

В публикации [1] речь идет о реализации инструментального программного комплекса DISIT для построения мульти-агентных систем. Показано, из чего состоит этот комплекс, описан процесс проектирования.

В работе [2] говорится о применении многоагентного подхода при построении систем физической защиты, в частности, систем контроля доступа. Говорится о нечеткой логике в принятии решений на основе приближенных рассуждений. Предложена модель системы контроля доступа.

В статье [3] рассматриваются основные способы применения интеллектуальных методов и алгоритмов, синтезированных на их основе, представления данных сетевого мониторинга для управления рисками информационной безопасности защищенных мультисервисных сетей (ЗМС). В качестве основных способов повышения оперативности управления в данной работе предлагаются способы умень-

шения времени анализа исходных данных и способы уменьшения времени выработки и принятия управленческих решений. При этом качество управления, а именно, значения целевых функций, которые подлежат оптимизации, должны оставаться в области парето-оптимальных значений. Для решения данной проблемы в работе предлагается применение классификации и ранжирования, а также методов нечеткой кластеризации. Проведенные исследования предложенных методов показали возможность их функционирования в режиме, близком к режиму реального времени.

Публикация [4] посвящена процессу развития агентно-ориентированных систем (АОС), возникших в результате технической эволюции информационных и программно-аппаратных средств современной инфосферы. Подробно рассмотрены такие понятия, как интеллектуальный агент (ИА), мультиагентная система (МАС), агент-но-ориентированная система. Рассмотрены также инструментальные средства создания агентно-ориентированных приложений, приведены примеры использования интеллектуальных агентов в промышленных информационно-телекоммуникационных системах.

В работе [5] идет речь о повышении эффективности управления информационной безопасностью предприятия за счет сочетания централизованного (автоматизированного рабочего места администратора) и децентрализованного (комплекс интеллектуальных агентов) мониторинга и аудита управления информационной безопасностью предприятия.

В статье [6] рассмотрены методы согласованного управления в многоагентных системах (МАС) на основе нечеткой логики. Главная задача исследования - разработка универсальных методов, позволяющих сбалансировать и уравновесить взаимоотношения агентов в процессе их информационного взаимодействия.

В публикации [7] описана структура системы для поддержки принятия решения с применением агентно-ориентированного подхода. Во введении обозначены факто-

ры, замедляющие процесс принятия решения. В основной части рассмотрена предлагаемая структура информационной системы. В заключении сделан вывод о том, что предложенная структура не только позволит решить обозначенные проблемы, но и проводить автоматизированное исследование данных и осуществлять мониторинг конкретных ситуаций в отсроченном режиме.

В статье [9] показана применимость агентных технологий для управления группой летательных аппаратов, осуществляющих мониторинг районов чрезвычайных ситуаций. Особенностью этих технологий является выработка коллективной стратегии функционирования летательных аппаратов.

В статье [11] показана возможность и перспективность введения многоагентных систем в структуру систем поддержки принятия решения. Представленная возможность классификации задач по отдельным признакам позволяет добиться ранжирования поставленных задач в зависимости от актуальности, эффективности и затраченных средств. Данный подход позволяет выделить именно те задачи, которые с наибольшей эффективностью, минимумом затраченных средств и в ограниченные промежутки времени приведут к выполнению поставленных целей. Однако стоит сказать, что существующие многоагентные системы при рассмотрении их в рамках систем поддержки принятия решений (СППР) не в полной мере удовлетворяют требованиям по эффективному и спрогнозированному принятию решения. Исходя из вышесказанного, можно сделать вывод о необходимости создания математической модели СППР, модели, способной решать задачи самоупорядочности и самоорганизации агентов, исходя из сложившихся условий.

В публикации [12] рассмотрены бизнес-процессы планирования технического обслуживания и ремонта оборудования иерархического многофилиального предприятия на примере распределительных сетевых компаний электроэнергетики.

Предложен способ организации системы информационной поддержки данных бизнес-процессов на основе агентно-ориентированного подхода с использованием программного комплекса DISIT.

В статье [14] говорится о программной среде AgentITS. Инструментарий AgentITS, состоящий из интерактивных мастеров и панелей свойств, формирует среду, оптимизированную для создания распределенных интеллектуальных систем учебного назначения, которые должны формировать ответы на запросы пользователей посредством выполнения специализированных процедур поиска и распределенной обработки знаний, а также осуществлять адаптивное обучение с использованием персональных обучающих агентов. Инструментарий AgentITS включает такие группы программных средств, как среда выполнения МАС и инструментальная среда разработки многоагентных банков знаний. Агентская платформа отвечает за обеспечение жизнедеятельности агентов в составе МАС и представляет собой систему промежуточного уровня (middleware), которая находится между агентами и операционной системой. Основные функции агентной платформы состоят в управлении агентами, обеспечении передачи сообщений между агентами, в поиске агентов и данных о них внутри системы, поддержке онтологий. Инструментальная проблемно-ориентированная среда AgentITS упрощает процесс создания персональных интеллектуальных агентов, а также агентов обучающих ресурсов, осуществляющих доступ к учебным материалам с удаленных компьютеров.

В публикации [15] дана строгая формулировка понятия причинно-следственной модели сложного явления и сформулированы правила представления подобных моделей в виде причинно-следственных диаграмм. Проанализировано соотношение между причинно-следственным моделированием и традиционными методами математического моделирования. Приведены примеры причинно-следственных моделей (диаграмм) явлений

различной физической природы и продемонстрировано использование подобных моделей при исследовании некоторых конкретных задач. В частности, рассмотрен механизм перенормировки констант скоростей химических реакций в рамках явления диссипативного резонанса.

В работе [16] на основе многоагентного подхода предложены: методика оценки совместной реализации проектов; алгоритм повышения вероятности успешной реализации проекта в зависимости от средств, выделенных на устранение рисков, и алгоритм согласованного выбора проектов при заданных критериях оценок проекта для различных участников. Разработана и апробирована многоагентная модель развития территориальной системы и модель концессионных отношений государства и частного сектора при реализации крупных проектов. Предложен гибридный подход на базе аппарата нейронных сетей и марковских цепей для прогнозирования значений заданных показателей много-агентной среды в будущем. Разработан программный инструмент aMoSe для планирования и моделирования хода выполнения государственно-частных проектов.

В статье [17] обосновывается необходимость использования для управления сложными системами интеллектуальных информационных технологий и систем поддержки принятия решений. Анализируются понятия система гибридного интеллекта, разумные управляющие системы, генетический алгоритм. Рассмотрены методы и схемы эволюционных вычислений, основные положения направления «роевого интеллекта», способы организации коллективной работы специалистов в компьютерных сетях, особенности и преимущества метода генетического консилиума. Рассмотрены подходы к созданию теории сетевых систем коллективного интеллекта.

В публикации [18] предлагается способ описания и анализа поведения интеллектуальных агентов в команде. Рассмотрены некоторые особенности агентного взаимодействия, представление знаний о которых затруднено, и сделан вывод о

необходимости разработки нового языка представления знаний. Разработан синтаксис языка представления знаний, рассмотрены его отличительные особенности. Предложен концепт программного инструмента анализа поведения команд агентов, основанных на знаниях.

В работе [19] обосновывается необходимость интеллектуализации информационных и организационных процессов в управлении социально-экономическими системами, необходимость построения и внедрения методов и систем искусственного интеллекта (ИИ) и интеллектуальных технологий поддержки принятия решений. Приведены составляющие информационных технологий бизнес-интеллекта и управления знаниями. Рассмотрены понятия интеллект, интеллектуальная система, их свойства и особенности, направления моделирования мышления. Рассмотрены цели и задачи, которые ставятся перед теорией ИИ, основные подсистемы, входящие в систему ИИ. Приведены основные принципы построения нечетких интеллектуальных систем поддержки принятия управленческих решений.

В статье [20] проанализированы особенности агентных технологий и перспективы их использования для разработки сложных многопользовательских программных систем. Предложен агентный подход к созданию компьютерной системы поддержки дистанционного обучения. Описано использование инструментария (JADE) для создания прототипа такой системы.

На примере многоагентной системы в публикации [21] рассмотрено создание интеллектуальной компьютерной системы поддержки принятия решений с самоорганизацией на основе анализа взаимодействия участников. Представлена универсальная структура системы, реализующей данный подход. Приведены результаты тестирования различных типов архитектур на предмет вероятности возникновения синер-гетического эффекта и оценки его влияния на качество решения сложных задач. Показано, что именно эффект самоорганизации

в системах поддержки принятия решений обусловливает высокое качество решений, предлагаемых такими системами. Представлен алгоритм определения типа архитектуры МАС по степени согласованности взаимодействия агентов, а также много-агентная система с самоорганизацией.

В работе [22] формулируются задачи компьютерных систем поддержки принятия решений, рассматриваются факторы, влияющие на возможности таких систем, и трудности, возникающие при их реализации и применении. Обсуждаются методы компьютерного анализа ситуаций, компьютерной генерации и оценки возможных решений, моделирования принимаемых решений и компьютерной поддержки согласования групповых решений. Показаны возможности этих систем.

В статье [23] обсуждаются основания субъектно-ориентированного управления в социальных и экономических системах. Первое основание строится на субъективности любого управления в социальных и экономических системах, поскольку все подобные системы управляются людьми, служат людям или затрагивают их интересы. Второе основание исходит из того, что своей эффективностью управление обязано феномену ментальной деятельности субъекта управления, заключающейся в способности видеть будущее окружающего мира через множество целей, осуществлять ранжирование и осознанный выбор целей и способов их достижения в соответствии со своими предпочтениями, коммуникативного общения на естественном языке для развития эмерджентности организационных систем. Третье основание предусматривает развитие особых свойств человека, составляющих феномен его субъективной деятельности, на основе перехода от описательных моделей поведения человека к формальным моделям в задачах формирования целей управления и от формальных моделей к описательным - в задачах выбора действий субъекта управления. Четвертое основание заключается в необходимости устранения сложившегося разрыва между описательными и матема-

тическими теориями управления, субъект-но-ориентированным обоснованием целей управления и выбора действий. Пятое основание в пользу развития новой математической управленческой дисциплины предполагает возможности исследования достаточно широкого спектра управленческих явлений в социальных и экономических системах, конструктивно оперируя базовыми понятиями и объектами субъектно-ориентированного управления, что соответствует построения нового раздела математики - исчисление моделей предпочтений.

В работе [25] рассматривается применение специально интегрируемых в традиционные системы автоматизированного проектирования или используемых автономно в виде многоагентной системы экспертной критики - агентов экспертной критики (АЭК), основанных на формализованных знаниях проектировщиков и много-агентной технологии. АЭК как согласованная система агентов принадлежит к данному классу МАС. Они получают на входе описание задачи и (или) предложенный проектировщиком вариант решения или действия, а в качестве результата генерируют критику решений и действий. Подобная критика воздействует на проектировщиков с целью интенсификации их творческих возможностей, что позволяет направлять их последующие действия, ограждать от совершения ошибок в рассуждениях или действиях и реализовать корректировку неверных (нерациональных) решений. АЭК в большей степени ориентированы на поддержку работы проектировщиков-экспертов.

В статье [26] для информационной поддержки принятия решений и повышения уровня координации субъектов региональной безопасности разработан прототип се-тецентрической мультиагентной информационно-аналитической среды поддержки управления региональной безопасностью «Безопасный виртуальный регион» с унифицированной точкой доступа на основе веб-технологий. Ядро и компоненты распределенной информационной среды об-

разуют иерархическое виртуальное пространство региона как интеграционную площадку для проблемно-ориентированных ситуационно-коалиционных МАС поддержки управления рискоустойчивым региональным развитием.

В публикации [27] рассмотрена задача анализа и оптимизации функционирования предприятия. В качестве инструментария моделирования и поддержки принятия решений предложено использовать мультиагентные технологии. Определены проблемы, которые сопровождают процесс моделирования, построены модели с использованием продукционных правил и разработан метод оптимизации на основе изменения множества задач, структуры производства и стратегии управления предприятием.

В статье [28] рассмотрены основные принципы построения открытых МАС для поддержки процессов принятия решений, базирующиеся на механизмах самоорганизации и эволюции. Рассмотрены особенности применяемого холистического подхода к построению указанных систем, представлена структура разработанных инструментальных средств для их реализации, а также показаны примеры применения указанных систем в области управления предприятиями, логистики и электронной коммерции.

Работа [29] посвящена рассмотрению проблем моделей представления знаний в системах принятия решений. Предложены способы организации моделей представления предметных знаний в интегрированных системах поддержки управленческих решений. Рассмотрены модели и подходы к организации знаний. Показано, что процесс проектирования ИСППР требует применения различных моделей знаний, поэтому при создании архитектуры информационных систем необходимо обеспечить эффективное использование всех имеющихся в системе видов знаний для поддержки управления процессами принятия решений. Разделение знаний по уровням представления обеспечивает

расширение области применимости системы и позволяет:

• ускорить процесс в целом за счет уменьшения времени принятия решения на трудноформализуемых этапах;

• улучшить качество принятия решений за счет использования накопленного опыта;

• уменьшить влияние субъекта (пользователя) на процесс принятия решений.

В публикации [30] описаны нечеткие генетические алгоритмы в информационных технологиях. При применении генетических алгоритмов все переменные задачи оптимизации должны быть определенным образом закодированы. Сущность кодирования заключается в преобразовании любого числового значения в некоторую последовательность символов конечного алфавита, состоящего обычно из небольшого числа элементов. Показана модель нечеткого генетического алгоритма.

Структура каждого агента может быть условно обозначена следующей формулой:

Агент = Архитектура + Программа.

Применение принципов построения МАС к задаче синтеза архитектуры прикладной подсистемы оптимизации позволяет организовать распараллеливание основных технологических процессов при поиске и выборе решений. Предложена архитектура подсистемы оптимизации.

В работе [31] описывается предлагаемая авторами методика построения МАС для решения энергетических задач, в частности, задачу оценивания состояний электроэнергетических систем. Методика включает использование агентных сценариев для формирования пользователем последовательности вызова тех или иных агентов. Для описания сценариев применяются событийные модели на основе Joiner-сетей, в которых процессы функционирования каждого агента являются узлами сети, а события являются сигналами о прекращении выполнения процессов. В статье

описывается разработка многоагентной системы оценивания состояний электроэнергетических систем с использованием предлагаемой методики. На данном этапе выполнена реализация агента декомпозиции исходной схемы электроэнергетических систем по уровням напряжения. Проведено сравнение расчетов общей схемы сети с расчетами получившихся подсистем. Результаты вычислительного эксперимента представлены в статье для демонстрации корректной работы системы. Новизна работы заключается в применении многоагентного подхода для решения задач в области энергетики и использовании событийного моделирования на основе Joiner-сетей для описания сценариев.

В статье [32] рассмотрены особенности реализации МАС, связывающей интеллектуальных агентов научно-образовательной деятельности с репозито-рием научно-образовательных объектов и сервисов. Представлена интеграция распределенных в вычислительной сети разнородных источников знаний и сервисов для реализации коллективного доступа к нему различных категорий участников научно-образовательных процессов на основе многоагентного и онтологического подходов. Предлагаемая в работе организация информационно-образовательного пространства на основе многоагентного и онтологического подходов позволяет осуществлять интенсивное и динамичное наращивание научно-образовательного контента и создаст условия для развития виртуальной академической мобильности преподавателей, научных работников и обучающихся.

В публикации [33] предлагается формальный способ представления желаний и намерений интеллектуального агента и выбора решения в группе таких агентов при возникновении новой задачи на основе использования понятия решетки. В данной работе рассматривается вопрос об изменении задачи интеллектуального агента, принадлежащего группе одного типа объектов, в случае, когда намерения разных агентов этой группы ранжируются в соот-

ветствии с разными критериями. Для того чтобы сравнивать предпочтения, характеризующиеся разными критериями, и выбирать объект для решения новой задачи, предлагается использовать аппарат теории решеток.

В работе [34] рассматривается проблема управления взаимодействия персонала в интеллектуальных организациях при решении ими творческих задач в условиях неопределенности внешней среды и риска. Показано, что рост суверенности субъектов управления при этом требует со стороны менеджеров верхнего уровня особых форм управления, основанных на дальновидных формах развития мотивации, креативности агентов.

В работе [35] предложено семейство МАС, в которое входят:

- модели, применяемые в естественных науках;

- эвристические оптимизационные алгоритмы - генетические алгоритмы и алгоритмы «роя частиц»;

- модели типа «хищник-жертва»;

- модели распространения вирусов

и др.

Показана связь систем данного семейства с марковскими процессами. Исследован ряд конкретных моделей и алгоритмов: модель сегрегации Шеллинга, игра с логлинейным правилом принятия решения, алгоритм имитации отжига. Показана возможность их формального представления в виде однородной цепи Маркова, построены альтернативные доказательства вероятностных оценок их поведения, что позволило объяснить ряд закономерностей, определяющих различные аспекты поведения такого рода моделей. Реализован программный комплекс, который предоставляет возможность легко создавать программные модели многоагентных систем, описанных в терминах рассматриваемого в диссертационной работе семейства, содержит средства управления системами и средства исследования процессов их функционирования. Проведено сравнение с рядом известных многоагентных программных платформ. Построена

многоагентная модель развития транспортной сети в условиях изменяющихся грузопотоков и конкуренции между операторами перевозок. Реализован комплекс программ, предназначенный для моделирования возможных путей развития мировой хозяйственной системы, анализа и визуализации исходных статистических данных и полученных результатов.

В публикации [36] рассматриваются принципы построения агентно-ориентированной системы имитационного моделирования. Известно, что агентные модели расширяют возможности применения метода имитационного моделирования при решении ряда задач, которые методами системной динамики или событийно -ориентированного моделирования решены быть не могли. Особое внимание при проектировании агентно-ориентированной системы имитации авторы уделяют проблемам реализации распределенного моделирования, реализации интеллектуальных агентов и использованию онтологий на всех этапах имитационного моделирования.

В статье [38] рассматриваются подходы к определению типа интеллектуальных агентов и состояния МАС, основанные на теории нечетких множеств и нечеткой логике. Описываемые в работе понятия и методы иллюстрируются на примерах определения типа агентов и приведения МАС в состояние компромисса. Также в статье обозначены задачи, актуальные при разработке моделей межагентного взаимодействия. Нечеткая логика является удобным средством обучения и мониторинга МАС. Управление на основе нечеткой логики позволяет сформировать базу нечетких правил для осуществления оптимальных управляющих воздействий на ИА с целью разрешения конфликтов и противоречий, возникающих в МАС. При этом оптимальным решением является внедрение формулы управления в антропоморфную сущность ИА с тем, чтобы ее действие было неявным: «Мне никто не дает команд, но мое поведение управляется моей собственной концепцией Я, содержащей прин-

ципы, согласно которым я должен вести себя именно так, а не иначе».

В публикации [39] рассмотрены методы управления конфликтом в МАС. Показано, что хоть выбор метода и зависит от типа конфликта, все же используется совокупность всех методов. Описанные методы имеют общие черты, такие как последовательные уступки, итерационность и косвенное или прямое вмешательство в конфликт третьей стороны, которая исключает его путем согласования поведенческих стратегий агентов, приведения их к компромиссу.

В работе [40] показаны модели конфликта, в которых агенты представлены различными описаниями собственных знаний о ситуации в целом, формализованных в виде линейных когнитивных карт. Также продемонстрированы эффекты, которые возникают при работе агентов с несогласованными представлениями. Это позволило решать задачи информационного управления на когнитивных картах. Управление может осуществляться как агентами, так и внешними сторонами для достижения собственных целей.

В статье [41] рассмотрен подход к созданию интеллектуальных агентных систем для решения задач, возникающих при управлении территорией муниципального уровня. Основной особенностью работы является использование ГИС при построении МАС для осуществления интеллектуального анализа данных.

В публикации [42] показано использование МАС для обеспечения безопасности крупномасштабных военных и транспортных систем. Рассмотрены аспекты обеспечения процесса безопасного функционирования МАС, в частности, анализу рисков: определению различных причинно-следственных связей, в результате чего функционирование системы может привести к опасным последствиям. Показаны проблемы анализа опасностей МАС и описываются требования, предъявляемые к любому методу, направленному на реше-

ние определенных задач. Создано программное средство SimHAZAN, представляющее автоматизированный подход анализа опасностей для МАС, позволяющий избежать некоторых проблем, связанных с существующими методами.

Результаты анализа научных работ, посвященных МАС, показали, что авторы, как правило, ограничиваются лишь теоретической проработкой вопросов, до программной реализации работы зачастую не доходят, а в большинстве случаев не указывается и математическая составляющая алгоритмической структуры МАС. Например, в работах, посвященных МАС, в 77,5% представлен теоретический анализ МАС, в 60% - математическая модель, и в 20,0% -практическая компьютерная реализация. Обобщенные количественные данные по показателям степени проработки МАС представлены на рисунке.

Проанализировав работы, освещающие применение многоагентного подхода для различных сфер деятельности, были сделаны следующие выводы:

1. МАС наиболее распространены при решении задач автоматизации управления сложными системами, для сбора и обработки информации, в играх. Много-агентные технологии применяются в управлении мобильными ресурсами, а также в таких сферах, как проектирование объектов, промышленное производство, финансовое планирование и анализ рисков, распознавание образов, извлечение знаний из данных, понимание текста и решение других сложных проблем.

2. Основными тенденциями в области МАС являются искусственная жизнь и распределенный искусственный интеллект. При решении сложной задачи часто бывает необходимо разбить ее на подзадачи, которые поручаются отдельным агентам.

Основные инструментальные программные средства разработки МАС представлены в таблице.

100% 90% 80% 70% 60% 50% 40% 30% 20% 10% 0%

22.5% 11.5% 4Q=0% S0:0%

6U=U%

20=0%

Процентное распределение наличия/отсутствия анализа MAC в рассмотренных работах / Percentage distribution of the availability/unavailability of MAS analysis in reviewed works

Наличие/ Availability

Процентное распределение наличия/отсутствия математической модели MAC в рассмотренных работах/ Percentage distribution of the availability/unavailability of MAS mathematical model in reviewed works

Отсутствие / Unavailability

Працентнпе распределение

н ал и ч ия/отсутствия компьютерной реализации MAC в рассмотренных работах / Percentage distribution of the availability/unavailability of MAS computer implementation in reviewed works

Результаты анализа работ по МАС Analysis results of MAS operation

Основные средства разработки МАС Main tools of MAS development

Наименование программного продукта / Software product Описание / Description

JADE (Java Agent Development Framework) Программная среда разработки МАС и приложений поддерживает FIPA-стандарты для интеллектуальных агентов / Software of MAS and applications development, supports FIPA standards for intelligent agents

JACK Intelligent Agents Java платформа для создания МАС. Одна из немногих платформ, применяющих модель логики агентов, основанной на убеждениях-желаниях-намерениях, и встроенные формально-логические средства планирования работы интеллектуальных агентов / Java platform for MAS creation. One of the few platforms using the agent logic model based on beliefs-desires-intentions and embedded formal-logical means planning the operation of intelligent agents

DISIT (Distributed Intellectual System Integrated Toolkit) Средство проектирования распределенных интеллектуальных систем / Design tool for distributed intelligent systems

MATLAB Пакет прикладных программ для решения задач технических вычислений. Язык программирования позволяет проектировать МАС / Application program package for solving technical computing problems. Programming language enabling MAS design

MadKIT Модульная и масштабируемая мультиагентная платформа, написанная на Java, поддерживает агентов на разных языках: Java, Python, Jess, Scheme, BeanSchell / Modular and scalable multi-agent Java platform that supports the agents in different languages: Java, Python, Jess, Scheme, BeanSchell

Применение МАС для поддержки управления безопасностью в техносфере

В изученных работах рассматриваются различные аспекты техносферы:

- экологическая безопасность;

- безопасность систем промышленных объектов;

- прогнозирование динамики технического состояния промышленных объектов;

- охрана труда в организациях;

- моделирование действий оперативных подразделений при ликвидации пожаров и чрезвычайных ситуаций.

Необходимость применения МАС для решения вопросов управления безопасностью в техносфере вызвана в первую очередь сложностью современных систем и организаций, которая достигает такого уровня, что централизованное управление в них становится неэффективным из-за наличия больших потоков информации. Это приводит к большим временным затратам на передачу ее в центр и принятия решений.

В публикации [8] представлена структура МАС управления экологической безопасностью, отличительной особенностью которой является распределенный подход к управлению эколого-экономической системой, интеграция больших массивов информации и оперативная обработка результатов. Разработанные модели поведения агентов обеспечивают взаимодействие экологических органов и предприятий, самостоятельно находят и применяют индивидуальные решения для всех факторов, обладающих большим количеством персональных особенностей, создавая предложения по индивидуальным схемам управления. Предложенная модель дает возможность прогнозировать результат, сравнивать прогноз и результат, принимать определенную стратегию действия и в случае необходимости корректировать ее при изменениях среды.

В статье [10] описан алгоритм оценки состояния промышленных систем на основе нечеткой марковской модели, узлами которой являются интегральные показате-

ли безопасности. Разработан алгоритм поиска центра безопасности технологии и алгоритм оценки состояний МАС технологических процессов. Узлы графа могут быть созданы и на основе риск-показателей. Разработанная технология обеспечивает адаптацию к конкретной задаче и позволяет выполнять диагностику объекта уже на этапе расчета показателя надежности. Гибкость технологии достигнута за счет того, что состояние надежности оценивается сразу по нескольким показателям. Диагностика на этапе вычисления интегрального показателя состояний достигнута за счет того, что вычисления можно разделить на разные этапы. Каждый этап оценивает какой-либо из отдельных показателей, что позволяет сделать вывод о состоянии соответствующего элемента.

В публикации [13] рассмотрена система имитационного моделирования динамики состояния сложных технических систем, имеющих в своем составе уникальные механические системы. Представлена модель агента, классы состояний, отражающие этапы процесса изменения технического состояния: от состояния исходной дефектности до отказа. Представлен детерминированный подход к прогнозированию технического состояния. Отказ рассмотрен не как случайное событие, для которого осуществляется оценка вероятности наступления, а как процесс, обусловленный деградацией уникальных механических систем. Подробное описание данного процесса обеспечивает возможность получения более точных результатов прогнозирования динамики технического состояния. Результаты имитационного моделирования являются основой поддержки принятия решений при обеспечении безопасности на всех стадиях жизненного цикла промышленных объектов. Результаты имитационного моделирования могут быть использованы и для задач анализа и оценки риска аварийных ситуаций и аварий.

В работе [24] разработана методика, позволяющая оценить влияние различных факторов на состояние условий и охрану

труда в организации и на этой основе осуществлять поддержку принятия решений для формирования эффективного управляющего воздействия. Разработанная методика позволяет оценивать влияние различных факторов на состояние условий и охрану труда в организации, что позволяет производить научно-обоснованную поддержку принятия управленческих решений в системе управления охраной труда и вырабатывать эффективное управляющее воздействие в случае выявления нарушений.

В статье [37] разработаны теоретические модели, объединенные в много-агентную систему для моделирования действий оперативных подразделений пожарной охраны при тушении пожаров в социальных зданиях, оснащенных системами и средствами мониторинга состояния пожара. Созданную «интеллектуальную много-агентную систему», в которой процессы

управления реализуются по принципу «искусственная жизнь», определяет отношение количества когнитивных и реактивных агентов, совокупность правил их взаимодействия. Для разработки МАС автором выбрана модульная структура, что позволяет наращивать возможности системы путем ввода новых математических моделей и реализующих их программных модулей.

В целом обзор публикаций показал, что агентный подход активно используется для решения различных задач, связанных с вопросами обеспечения безопасности в техносфере. В рассмотренных теоретических работах вопросы практической реализации МАС освещены не в должном объеме по причине трудоемкости программной реализации математических моделей. Практически не отражены вопросы применения МАС в области поддержки управления пожарной и промышленной безопасностью на производственных объектах.

Заключение

В ходе обзора были рассмотрены работы, посвященные исследованиям в сфере разработки многоагентных информационных систем. Особое внимание уделено работам, затрагивающим вопросы применения МАС для решения проблем управления безопасностью в техносфере. Необходимость разработки МАС обусловлена нормативными требованиями постоянного повышения уровня обеспечения безопасности экологических и промышленных систем. Здесь под безопасностью подразумевается не только прямое значение данного термина, но и совокупное взаимодействие сложных систем, с повышением

эффективности их функционирования.

За исключением небольшого количества работ, многие исследования не дошли до программной реализации, то есть так и остались на теоретическом уровне. Однако авторы этих работ внесли существенный вклад в развитие теории агентно-го подхода.

По результатам анализа можно сделать вывод, что перспективными направлениями дальнейших исследований в области МАС являются экологическая безопасность, пожарная и промышленная безопасность, а также охрана труда.

Библиографический список

1. Швецов А.Н., Сергушичева М.А. Сорокин С.И. Реализация инструментального комплекса DISIT для построения мультиагентных систем // Алгоритмы, методы и системы обработки данных. 2006. № 11. С. 126-137.

2. Тарасов А.Д. Система физической защиты на основе агентно-ориентированного подхода и нечеткой логики // Проблемы управления и моделирования в сложных системах: материалы XII Междунар. конф. (Самара, 21-23 июня 2010 г.). Самара, 2010. С. 650-656.

3. Агеев С.А. Применение интеллектуальных методов представления информации для управления рисками информационной безопасности в защищенных мультисервисных сетях специального назначения // СПИИРАН. 2015. № 4 (41). С. 149-162.

4. Швецов А.Н. Агентно-ориентированные системы: от формальных моделей к промышленным приложениям // Всерос. конкурсный отбор обзорно-аналитических статей по приоритетному направлению «Информационно-телекоммуникационные системы»: сб. ст. М.: Изд-во ГНИИ ИТТ «Информатика», 2008. С. 1-101.

5. Цыбулин А.М. Подход к построению автоматизированной системы управления информационной безопасностью предприятия // Вестник Волгоградского государственного университета. Серия 10: Инновационная деятельность. 2011. № 5. С. 86-89.

6. Мутовкина Н.Ю., Кузнецов В.Н., Клюшин А.Ю., Палюх Б.В. Нечеткие методы согласованного управления в многоагентных системах // Вестник ТГТУ. 2013. Т. 19. № 4. С. 740-750.

7. Козьминых Н.М. Структура системы информационной поддержки управленческих решений на основе агентно-ориентированного подхода // Современные проблемы науки и образования. 2012. № 2. С. 205-212.

8. Еременко Ю.И., Доронина Е.Г. Модель адаптивного поведения агентов мультиагентной системы управления экологической безопасностью // Прикладная информатика. 2010. № 2 (26). С. 71-82.

9. Абросимов В.К., Гончаренко В.И. Агентные технологии мониторинга районов чрезвычайных ситуаций // Технологии техносферной безопасности. 2015. № 3 (61). С. 188-196.

10. Богатиков В.Н., Маслов А.А., Власов А.В., Кай-чёнов А.В., Пискарева А.Д. Разработка технологии оценки состояния промышленных систем на основе показателя безопасности и принятие решений целеустремленного поведения агента // Вестник Мурманского государственного технического университета. 2013. Т. 16. № 4. С. 654-662.

11. Вяткин А.Ю., Смирнов Д.В., Кочетов И.А. Много-агентные системы как возможность реализации систем поддержки принятия решений // Электронные средства и системы управления. 2015. № 1-2. С. 234-238.

12. Сергушичева М.А., Швецов А.Н. Иерархическая распределенная система поддержки управления техническим обслуживанием и ремонтом энергооборудования // Информационные технологии в проектировании и производстве. 2009. № 3. С. 14-19.

13. Берман А.Ф., Николайчук О.А., Павлов А.И. Агентная система моделирования динамики состояний сложных технических систем // Материалы XII Всерос. совещания по проблемам управления. ВСПУ-2014 (Москва, 16-19 июня 2014 г.). М.: Изд-во Института проблем управления им. В.А. Трапезникова РАН, 2014. С. 8925-8933.

14. Зайцев Е.И. Агентно-ориентированная технология разработки распределенных интеллектуальных систем // Объектные системы - 2011: материалы II Междунар. науч.-практ. конф. (Ростов-на-Дону, 10-12 мая 2011 г.). Ростов/нД, 2011. № 3 (3). С. 109-114.

15. Карнаухов А.В. Причинно-следственное моделирование как общий метод описания и исследования явлений в сложных иерархически организованных системах // Биофизика. 2006. Т. 51. № 2. С. 373-381.

16. Чиркунов К.С. Мультиагентный подход и моделирование поведения взаимодействующих иерар-

хических систем экономической природы: дис. ... канд. физ.-мат. наук: 05.13.11. Новосибирск, 2012.

17. Карелин В.П., Протасов В.И. Эволюционно-генетические и бионические методы моделирования коллективного интеллекта в системах управления и поддержки принятия решений // Вестник Таганрогского института управления и экономики. 2012. № 1. С. 71-76.

18. Никляев И.Ю. Инструментарий исследования команд интеллектуальных агентов // Известия Волгоградского государственного технического университета. 2009. № 12 (60). С. 86-88.

19. Карелин В.П. Интеллектуальные технологии и системы искусственного интеллекта для поддержки принятия решений // Вестник Таганрогского института управления и экономики. 2011. № 2. С. 79-84.

20. Глибовец Н.Н. Использование JADE (JAVA AGENT DEVELOPMENT ENVIRONMENT) для разработки компьютерных систем поддержки дистанционного обучения агентного типа // Образовательные технологии и общество. 2005. Т. 8. № 3. С. 325-345.

21. Кириков И.А., Колесников А.В., Листопад С.В. Исследование эффекта самоорганизации в компьютерных системах поддержки принятия решения на примере многоагентных систем // Вестник Балтийского федерального университета им. И. Канта. Серия: Физико-математические и технические науки. 2010. № 10. С. 79-90.

22. Трахтенгерц Э.А. Компьютерные системы поддержки принятия управленческих решений // Проблемы управления. 2003. № 1. С. 13-28.

23. Харитонов В.А., Алексеев А.О. Концепция субъ-ектно-ориентированного управления в социальных и экономических системах // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2015. № 109. С. 690-706. [Электронный ресурс]. URL: http://ej.kubagro.ru/2015/05/pdf/43.pdf

24. Яговкин Н.Г., Кривова М.А. Методика поддержки принятия управленческих решений в системе управления охраной труда // Вектор науки Тольят-тинского государственного университета. 2011. № 2. С. 368-370.

25. Котенко И.В., Лихванцев Н.А. Многоагентная технология экспертной критики для интеллектуальной поддержки принятия решений // Известия ЮФУ. Технические науки. 2001. № 4 (22). С. 17-25.

26. Маслобоев А.В. Мультиагентная информационно-аналитическая среда поддержки управления региональной безопасностью «безопасный виртуальный регион» // Научно-технический вестник информационных технологий, механики и оптики. 2013. № 4 (86). С. 128-138.

27. Мыснык Б.В., Снитюк В.Е. Мультиагентные технологии анализа и оптимизации функционирования предприятий отрасли // Математические машины и системы. 2015. № 2. С. 139-146.

28. Скобелев П.О. Открытые мультиагентные системы для поддержки процессов принятия решений при управлении предприятиями // Известия Самар-

ского научного центра Российской академии наук. 2001. Т. 3. № 1. С. 71-79.

29. Бова В.В., Курейчик В.В., Нужнов Е.В. Проблемы представления знаний в интегрированных системах поддержки управленческих решений // Известия ЮФУ. Технические науки. 2010. № 7 (108). С. 107-113.

30. Гладков Л.А. Решение задач поиска и оптимизации решений на основе нечетких генетических алгоритмов и многоагентных подходов // Известия ЮФУ. Технические науки. 2006. № 8 (63). С. 82-87.

31. Массель Л.В., Гальперов В.И. Разработка много-агентной системы оценивания состояний электроэнергетических систем с использованием событийных моделей // Наука и образование: научное издание МГТУ им. Н.Э. Баумана. 2015. № 9. С. 200-214.

32. Тельнов Ю.Ф., Трембач В.М. Многоагентная система реализации информационно-образовательного пространства высшего учебного заведения // Теория активных систем: материалы междунар. науч.-практ. конф. (Москва, 17-19 ноября 2014 г.). М.: Изд-во Института проблем управления им. В.А. Трапезникова, 2014. С. 280-282.

33. Легович Ю.С., Максимов Д.Ю. Принятие решений в группе интеллектуальных агентов // Теория активных систем: материалы междунар. науч.-практ. конф. (Москва, 17-19 ноября 2014 г.). М.: Изд-во Института проблем управления им. В.А. Трапезникова, 2014. С. 206-208.

34. Виноградов Г.П., Кузнецов В.Н. Постнеклассиче-ский подход к проблеме построения модели поведения интеллектуального агента // Теория активных систем: материалы междунар. науч.-практ. конф. (Москва, 17-19 ноября 2014 г.). М.: Изд-во Ин-та проблем управления им. В.А. Трапезникова, 2014. С. 23-24.

35. Зайцев И.Д. Многоагентные системы в моделировании социально-экономических отношений: ис-

следование поведения и верификация свойств с помощью цепей Маркова: дис. ... канд. тех. наук: 05.13.10. Новосибирск, 2014. 142 с.

36. Замятина Е.Б., Каримов Д.Ф., Митраков А.А. Архитектура агентно-ориентированной системы имитации с агентами, основанными на нейронных сетях // Информатизация и связь. 2014. № 2. С. 89-97.

37. Тараканов Д.В. Многоагентная система для моделирования действий по тушению пожаров в социальных зданиях // Интернет-журнал «Технологии техносферной безопасности» 2016. № 5 (69). [Электронный ресурс]. URL: http://ipb.mos.ru/ttb

38. Мутовкина Н.Ю., Клюшин А.Ю., Кузнецов В.Н. Семантическое определение типа агента в много-агентной системе. Проблема межагентного взаимодействия // Открытые семантические технологии проектирования интеллектуальных систем: материалы III Междунар. научн.-техн. конф. (Минск, 21-23 февраля 2013 г.). Минск: Изд-во БГУИР, 2013. С. 309-316.

39. Мутовкина Н.Ю., Кузнецов В.Н., Клюшкин А.Ю. Методы согласованного управления конфликтом в многоагентной системе // Системы управления и информационные технологии. 2014. № 3.2 (57). С. 255-261.

40. Куливец С.Г. Моделирование конфликтных ситуаций с несогласованными представлениями у агентов на основе игр на линейных когнитивных картах // Проблемы управления. 2010. № 4. С. 42-48.

41. Лазарев Е.М., Аксёнов К.А. Создание интеллектуальных программных агентов поиска градостроительных конфликтов (нарушений) // Автоматизация. Современные технологии. 2012. № 2. С. 41-44.

42. Alexander R., Kelly T. Supporting systems of systems hazard analysis using multi-agent simulation // Safety Science. 2013. No. 51. P. 302-318.

References

1. Shvetsov A.N., Sergushicheva M.A. Sorokin S.I. Implementation of the integrated tool set DISIT for building multiagent systems. Algoritmy, metody i sistemy obrabotki dannykh [Algorithms, methods and systems for data processing]. 2006, no. 11, pp. 126-137.

2. Tarasov A.D. Sistema fizicheskoi zashchity na osnove agentno-orientirovannogo podkhoda i nechetkoi logiki [System of physical protection based on agent-based approach and fuzzy logic]. Materialy XII Mezhdunarodnoi konferentsii "Problemy upravleniya i modelirovaniya v slozhnykh cistemakh" [Materials of XII International Conference "Problems of control and modeling in complex systems"]. Samara, 2010, pp. 650-656.

3. Ageev S.A. Application of intelligent methods of information representation to manage information security risks in secure multiservice special-purpose networks. SPIIRAN [SPIIRAS Proceedings]. 2015, no. 4

4. Shvetsov A.N. Agentno-orientirovannye sistemy: ot for-mal'nykh modelei k promyshlennym prilozheniyam [Agent-oriented systems: from formal models to production-ready

applications]. Vserossiiskii konkursnyi otbor obzorno-analiticheskikh statei po prioritetnomu napravleniyu "Infor-matsionno-telekommunikatsionnye sistemy": sbornik statei [All-Russia competitive selection of review-analytical articles in the priority field "Information and Telecommunication Systems"]. Moscow: GNII ITT "Informatika" Publ., 2008, pp. 1-101.

5. Tsybulin A.M. Approach to the development of an automated control system of enterprise information security. Vestnik Volgogradskogo gosudarstvennogo universiteta. Seriya 10: Innovatsionnaya deyatel'nost' [Science Journal of Volgograd State University. Series 10. Technology and innovations]. 2011, no. 5, pp. 86-89.

6. Mutovkina N.Yu., Kuznetsov V.N., Klyushin A.Yu., Pal-yukh B.V. Fuzzy methods of coordinated management in multi-agent systems. Vestnik TGTU [Transactions of the TSTU]. 2013, vol. 19, no. 4, pp. 740-750.

7. Koz'minykh N.M. The structure of information support system of management decision on the base of agent-oriented approach. Sovremennye problemy nauki i obra-

zovaniya [Modern problems of science and education]. 2012, no. 2, pp. 205-212.

8. Eremenko Yu.I., Doronina E.G. Model of adaptive behavior of the agents of a multi-agent environmental safety management system. Prikladnaya informatika [Applied informatics]. 2010, no. 2

9. Abrosimov V.K., Goncharenko V.I. Agent technologies for monitoring of regions of emergency situations. Tekhnologii tekhnosfernoi bezopasnosti [Technology of technosphere safety]. 2015, no. 3

10. Bogatikov V.N., Maslov A.A., Vlasov A.V., Kaichenov A.V., Piskareva A.D. Development of the technology evaluating industrial system states based on safety indicators and decision- making on agent's goal-seeking behavior. Vestnik Murmanskogo gosudarstvennogo tekhnicheskogo universiteta [Proceedings of the MSTU]. 2013, vol. 16, no. 4, pp. 654-662.

11. Vyatkin A.Yu., Smirnov D.V., Kochetov I.A. Multi-agent systems as an opportunity of decision support system implementation. Elektronnye sredstva i sistemy upravleni-ya [Electronic tools and control systems]. 2015, no. 1-2, pp. 234-238.

12. Sergushicheva M.A., Shvetsov A.N. Multilevel distributed system of maintenance management support and power equipment repair. Informatsionnye tekhnologii v proektirovanii i proizvodstve [Information Technology of CAD/CAM/CAE

13. Berman A.F., Nikolaichuk O.A., Pavlov A.I. Agentnaya sistema modelirovaniya dinamiki sostoyanii slozhnykh tekhnicheskikh sistem [Agent simulation system of complex technical system state dynamics]. Materialy XII Vse-rossiiskogo soveshchaniya po problemam upravleniya. VSPU-2014 [Materials of XII All-Russia Meeting on Control Problems]. Moscow: V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences Publ., 2014, pp. 8925-8933.

14. Zaitsev E.I. Agentno-orientirovannaya tekhnologiya razrabotki raspredelennykh intellek-tual'nykh system [Agent-oriented development technology of distributed intelligent systems]. Materialy II Mezhdunarodnoi nauchno-prakticheskoi konferentsii "Ob"ektnye sistemy - 2011" [Materials of II International Scientific and Practical Conference "Object systems- 2011"]. Rostov-na-Donu, 2011, no. 3

15. Karnaukhov A.V. [Cause-effect modeling as a general description and research method of phenomena in complex hierarchically organized systems]. Biofizika [Biophysics.]. 2006, vol. 51, no. 2, pp. 373-381.

16. Chirkunov K.S. Mul'tiagentnyi podkhod i modelirovanie povedeniya vzaimodeistvuyushchikh ierarkhicheskikh sis-tem ekonomicheskoi prirody [Multiagent approach and behavior modeling of interacting hierarchical systems of economic nature]. Candidate's Dissertation in Physical and Mathematical sciences: 05.13.11. Novosibirsk, 2012.

17. Karelin V.P., Protasov V.I. Evolutionary-genetic and bionic modeling methods of collective intelligence in management and decision support systems. Vestnik Tagan-

rogskogo instituta upravleniya i ekonomiki [Bulletin of Taganrog Institute of Management and Economics]. 2012, no. 1, pp. 71-76.

18. Niklyaev I.Yu. Intellectual agent teams research toolkit. Izvestiya Volgogradskogo gosudarstvennogo tekhnich-eskogo universiteta [Proceedings of Volgograd State Technical University]. 2009, no. 12

19. Karelin V.P. Intelligent technologies and artificial intelligence systems for decision support. Vestnik Taganrog-skogo instituta upravleniya i ekonomiki [Bulletin of Taganrog Institute of Management and Economics]. 2011, no. 2, pp. 79-84.

20. Glibovets N.N. Use of JADE (Java Agent Development Environment) for the development of computer systems providing support of agent type distance learning. Obra-zovatel'nye tekhnologii i obshchestvo [Educational technologies and society]. 2005, vol. 8, no. 3, pp. 325-345.

21. Kirikov I.A., Kolesnikov A.V., Listopad S.V. Research of a self-organising effect in decision support computer systems on example of multi-agent systems. Vestnik Bal-tiiskogo federal'nogo universiteta im. I. Kanta. Seriya: Fizi-ko-matematicheskie i tekhnicheskie nauki [Immanuel Kant Baltic Federal University Vestnik. Series: Physico-Mathematical and Technical Sciences]. 2010, no. 10, pp. 79-90.

22. Trakhtengerts E.A. Computer systems of managerial decision support. Problemy upravleniya [Control Sciences]. 2003, no. 1, pp. 13-28.

23. Kharitonov V.A., Alekseev A.O. The concept of agent-based control in social and economic systems. Poli-tematicheskii setevoi elektronnyi nauchnyi zhurnal Ku-banskogo gosudarstvennogo agrarnogo universiteta [Mul-tidisciplinary network electronic scientific journal of the Kuban State Agrarian University]. 2015, no. 109, pp. 690-706. Available at:

http://ej. kubagro. ru/2015/05/pdf/43.pdf

24. Yagovkin N.G., Krivova M.A. Decision making support technique in labor safety management system. Vektor nauki Tol'yattinskogo gosudarstvennogo universiteta [Vector of science of Togliatti State University]. 2011, no. 2, pp. 368-370.

25. Kotenko I.V., Likhvantsev N.A. Multi-agent expert criticism technology for intelligence support of decision making. Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences]. 2001, no. 4

26. Masloboev A.V. Multi-agent system for information management and analytical support of regional security "Secure Virtual Region". Nauchno-tekhnicheskii vestnik informatsionnykh tekhnologii, mekhaniki i optiki [Scientific and Technical Journal of Information Technologies, Mechanics and Optics]. 2013, no. 4

27. Mysnyk B.V., Snityuk V.E. Multi-agent technologies for analysis and optimization of the functioning of industry enterprises. Matematicheskie mashiny i sistemy [Mathematical machines and systems]. 2015, no. 2, pp. 139-146.

28. Skobelev P.O. Open multi-agent systems for support of decision-making processes for company management. Izvestiya Samarskogo nauchnogo tsentra Rossiiskoi akademii nauk [Izvestia of Samara Scientific Center of the Russian Academy of Sciences]. 2001, vol. 3, no. 1, pp. 71-79.

29. Bova V.V., Kureichik V.V., Nuzhnov E.V. Problems of knowledge presentation in management decision support of integrated systems. Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences]. 2010, no. 7

30. Gladkov L.A. Solving the problems of search and optimization of solutions based on fuzzy genetic algorithms and multi-agent approaches. Izvestiya YuFU. Tekhnicheskie nauki [Izvestiya SFedU. Engineering Sciences]. 2006, no. 8

31. Massel' L.V., Gal'perov V.I. Development of multiagent system of state estimation of electric power systems using event models. Nauka i obrazovanie: nauchnoe iz-danie MGTU im. N.E. Baumana [Science and Education: Scientific Edition of Bauman MSTU]. 2015, no. 9, pp. 200-214.

32. Tel'nov Yu.F., Trembach V.M. Mnogoagentnaya sistema realizatsii informatsionno-obrazovatel'nogo pros-transtva vysshego uchebnogo zavedeniya [Multiagent implementation system of the information and educational space of a higher educational institution]. Materialy mezhdunarodnoi nauchno-prakticheskoi konferentsii "Te-oriya aktivnykh system" [Materials of the International scientific and practical conference "Theory of active systems"]. Moscow: V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences Publ., 2014, pp. 280-282.

33. Legovich Yu.S., Maksimov D.Yu. Prinyatie reshenii v gruppe intellektual'nykh agentov [Decision making in the group of intelligent agents]. Materialy mezhdunarodnoi nauchno-prakticheskoi konferentsii "Teoriya aktivnykh system" [Materials of the International scientific and practical conference "Theory of active systems"]. Moscow: V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences Publ., 2014, pp. 206-208.

34. Vinogradov G.P., Kuznetsov V.N. Postneklassicheskii podkhod k probleme postroeniya modeli povedeniya intel-lektual'nogo agenta [Post-nonclassical approach to the problem of intelligent agent behavior model construction]. Materialy mezhdunarodnoi nauchno-prakticheskoi konfer-entsii "Teoriya aktivnykh system" Materials of the International scientific and practical conference "Theory of active

Критерии авторства

Авторы заявляют о равном участии в получении и оформлении научных результатов и в равной мере несут ответственность за плагиат.

Конфликт интересов

Авторы заявляют об отсутствии конфликта интересов.

Статья поступила 05.12.2017 г.

systems"]. Moscow: V.A. Trapeznikov Institute of Control Sciences of Russian Academy of Sciences Publ., 2014, pp. 23-24.

35. Zaitsev I.D. Mnogoagentnye sistemy v modelirovanii sotsial'no-ekonomicheskikh otnoshenii: issledovanie povedeniya i verifikatsiya svoistv s pomoshch'yu tsepei Markova [Multiagent systems in socio-economic relations modeling: behavior study and verification of properties using Markov chains] Candidate's dissertation in technical sciences: 05.13.10. Novosibirsk, 2014, 142 p.

36. Zamyatina E.B., Karimov D.F., Mitrakov A.A. The architecture of agent-oriented simulation system with agents based on neural networks. Informatizatsiya i svyaz' [Informatization and communication]. 2014, no. 2, pp. 89-97.

37. Tarakanov D.V. Multiagent system for fire fighting activity modeling in social buildings. Internet-zhurnal "Tekhnologii tekhnosfernoi bezopasnosti" [E-journal "Technology of Technosphere Security]. 2016, no. 5

38. Mutovkina N.Yu., Klyushin A.Yu., Kuznetsov V.N. Se-manticheskoe opredelenie tipa agenta v mnogoagentnoi sisteme. Problema mezhagentnogo vzaimodeistviya [Semantic determination of the agent type in a multi-agent system. Problem of inter-agent interaction]. Materialy III Mezhdunarodnoi nauchno-tekhnicheskoi konferentsii "Ot-krytye semanticheskie tekhnologii proektirovaniya intellektual'nykh system" [Materials of III International scientific and technical conference "Open semantic technologies for intelligent system design"]. Minsk: BGUIR Publ., 2013, pp. 309-316.

39. Mutovkina N.Yu., Kuznetsov V.N., Klyushkin A.Yu. Methods of coordinated conflict management in a multiagent system. Sistemy upravleniya i informatsionnye tekhnologii [Control Systems and Information Technology]. 2014, no. 3.2

40. Kulivets S.G. Modeling conflict situations with mismatched representations of agents based on linear cognitive map games. Problemy upravleniya [Control Sciences]. 2010, no. 4, pp. 42-48.

41. Lazarev E.M., Aksenov K.A. Creation intellectual program agents for town planning conflicts

42. Alexander R., Kelly T. Supporting systems of systems hazard analysis using multi-agent simulation. Safety Science, 2013, no. 51, pp. 302-318.

Authorship criteria

The authors declare equal participation in obtaining and formalization of scientific results and bear equal responsibility for plagiarism.

Conflict of interests

The authors declare that there is no conflict of interests regarding the publication of this article.

The article was received 05 December 2017