Интеллектуальная система поддержки принятия решений на этапе предпроектных исследований при создании перспективных систем управления

УДК 004.414.2

Г.В. Горелова, А.Е. Колоденкова, В.В. Коробкиi

ИНТЕЛЛЕКТУАЛЬНАЯ СИСТЕМА ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА ЭТАПЕ ПРЕДПРОЕКТНЫХ ИССЛЕДОВАНИЙ ПРИ СОЗДАНИИ ПЕРСПЕКТИВНЫХ СИСТЕМ УПРАВЛЕНИЯ*

Подчеркивается, что для обеспечения надежности перспективных систем управления (ПСУ) необходимо на ранних этапах их жизненного цикла проводить предпроектные исследования. Предпроектные исследования необходимы для: выявления слабых мест при создании проекта в условиях нечетких исходных данных; гарантии выполнения всех требований технического задания и контракта и недопущения провала проекта; обоснования управленческих решений по улучшению перспективных систем управления в условиях неопределённости. Рассматриваются основные проблемы проведения предпроектных исследований, а также оценки реализуемости проекта по созданию ПСУ. Приводятся обобщенные схемы с описанием каждого этапа процесса проведения предпроектных исследований по созданию ПСУ, а также анализа реализуемости проекта с применением «мягких вычислений» и когнитивного моделирования. Утверждается, что руководителю проекта на этапе предпроектного исследования по надежному созданию ПСУ необходима интеллектуальная система поддержки принятия решений, которая позволит быстро обработать, проанализировать большие объемы разнородной информации, провести оценку реализуемости проекта по созданию ПСУ, а также ответить на вопрос типа «Что будет с созданием ПСУ, если...?». Предлагается структурная схема модулей база знаний (БЗ) интеллектуальной системы поддержки принятия решений, где знания предметной области изображаются в виде совокупности объектов (факторов, концептов) и связей (отношений) между объектами; модель может быть представлена в виде четкой либо нечеткой когнитивной модели. Предлагаемая БЗ позволяет осуществлять поиск необходимой руководителю информации в виде сценариев развития ситуации по созданию ПСУ, как заложенной в БЗ, так и выведенной на основе существующей.

Предпроектные исследования; анализ реализуемости проекта; перспективные системы управления; когнитивное моделирование; нечеткие исходные данные; интеллектуальные системы поддержки принятия решений.

G.V. Gorelova, A.E. Kolodenkova, V.V. Korobkin

INTELLECTUAL SYSTEM OF SUPPORT OF DECISION-MAKING AT THE STAGE OF EXPLORATORY RESEARCH AT CREATION PERSPECTIVE CONTROL SYSTEMS

It is emphasized that in order to ensure the reliability of advanced control systems must be in the early stages of the life cycle ofprospective of control systems to conduct pre-project research. Pre-studies are needed to: identify weaknesses when creating the project in conditions of of fuzzy initial data; guarantee of fulfillment all the technical project and requirements of the contract and to avoid failure of a project; inform management decisions to improve the perspective control systems under uncertainty. The main problem ofpre-studies, as well as assess the feasibility of the projectfor creation ofperspective control systems. The generalized scheme with a description of each stage of the process of pre-research on the perspective control systems, as well as the analysis of the feasibility of the project with the use of "soft computing" and cognitive modeling. It is alleged that the project manager at the stage ofpre-project research on a reliable establishment of the perspective control system need an intellectual decision support system, which allows you to quickly process and analyze large volumes of diverse information, to assess the feasibility of the project on creation of the CSP, as well as to answer a question such as " What will happen to the creation of the perspective control system, if...? ". It is proposed a structural diagram base module knowledge the intellectual decision support system, where

*

Работа выполнена при поддержке РФФИ: грант № 15-08-06129.

domain knowledge represented as a set of objects (factors concepts) and connections (relationships) between objects; model may be represented in the form of clear or fuzzy cognitive model. The offered knowledge base allows to carry out search to the necessary head of information in the form of scenarios development of a situation in creation the perspective control systems, both put in knowledge base, and removed on the basis the existing.

Exploratory research; analysis of feasibility the project; promising system management; cognitive modeling; fuzzy input data; intelligent systems of decision support.

Введение. Интеллектуальные системы поддержки принятия решений (ИСППР) в настоящее время получают все более широкое распространение на этапе предпроектного исследования при создании перспективных систем управления (ПСУ) и обработки информации для военной и специальной техники, предупреждения чрезвычайных ситуаций, обеспечения правопорядка и общественной безопасности и относятся к разработкам в области искусственного интеллекта (artificial intelligence, AL) [1].

В общем случае под СППР понимается техническая или программная система, способная решать задачи в конкретной предметной области, традиционно считающиеся творческими. Объединенная информационным процессом совокупность технических средств и программного обеспечения ИСППР, может работать автономно или во взаимосвязи с человеком (коллективом людей). В последнее время основным направлением в разработке систем ИСППР является разработка систем, основанных на знаниях (knovledge-based systems).

При создании ПСУ, большую роль играют предпроектные исследования (в частности, анализ реализуемости проекта), направленные: на выявление возможных слабых мест в проекте при его создании; на недопущение провала проекта; на перспективные управленческие решения по улучшению ИУС в трудно формализуемых условиях; на гарантированные достижения выполнения всех требований технического задания (ТЗ) и контракта [2, 3].

В связи с этим, на этапе предпроектного исследования руководителю проекта по созданию ПСУ необходима ИСППР, которая позволит ему и его команде: быстро обрабатывать и анализировать большие объемы разнородной информации; проводить оценку реализуемости проекта по созданию ПСУ, а также отвечать на вопросы типа «Что будет с созданием ПСУ, если произойдут изменения...?». Тем самым может быть повышена надежность проектируемой ПСУ.

1. Проблемы проведения предпроектных исследований по созданию перспективных систем управления. Отличительной особенностью ПСУ, построенных на базе универсальных вычислительных средств, является наличие [4, 5]:

♦ крупномасштабного комплекса взаимосвязанных программ для решения задач управления и обработки информации, разрабатываемых на основе промышленной технологии с применением современных методов и средств программирования;

♦ повышенной сложности входящего в их состав программного обеспечения (ПО), программных средств (ПС);

♦ непрерывного режима функционирования; возможности обновления и подключения дополнительных модулей.

Отметим, что сложность современных ПСУ для вооружения, военной и специальной техники, предупреждения чрезвычайных ситуаций, обеспечения правопорядка и общественной безопасности настолько велика, что стоимость и трудоемкость ее создания соизмерима, а часто в несколько раз превышает стоимость и трудоемкость разработки аппаратной части системы.

Предпроектные исследования заключаются в изучении предметной области, в сборе информации о предстоящем создании ПСУ, в оценке реализуемости проекта по созданию ПСУ с учетом имеющихся ресурсов (материальных, финансовых, трудовых и др.), а также в выработке рекомендаций для принятия управленческих решений руководителем проекта [6].

Необходимость проведения предпроектных исследований обусловлена тем, что без этого этапа существует возможность того, что созданная ПСУ на этапе эксплуатации не будет отвечать заявленным целям и требованиям, что в свою очередь приведет к необходимости срочной адаптации уже внедренной ПСУ.

На каждом опасном объекте имеются свои особенности проведения предпро-ектных исследований, определяемые характером и спецификой его деятельности, организационной структурой. Тем не менее, процесс проведения предпроектных исследований по созданию ПСУ обязательно должен иметь следующие четыре этапа (рис. 1) [3].

На рис. 1 представлено:

I) Определение потребностей [7].

1) Выявление и анализ проблемной ситуации. Анализируется исходная информация о состоянии объекта исследования и внешней среды, осуществляются выявление, структуризация и ранжирование проблем. В результате на этом этапе определяют главные проблемы, пути их решения и ресурсы для их решения.

2) Формулировка постановки задачи. Формирование целей для решения проблемной ситуации; критериев, по которым будем осуществляться оценка реализуемости проекта; ограничения и предпочтения руководителя проекта, как лица принимающего решения.

3) Сбор и анализ исходных данных. Собирается необходимая информация, которая проверяется на необходимость и достоверность. Затем анализируется и ранжируется по степени важности для решаемой проблемы, по динамике использования.

II) Формулирование требований к созданию ПСУ [8].

4) Выявление требований. Работая с заказчиками, руководитель проекта задает вопросы, получает ответы и выявляет требования.

5) Анализ требований. Обработав совместно с исполнителями полученную информацию, руководитель классифицирует ее по различным категориям и соотносит потребности заказчика с возможными требованиями к ИУС.

6) Документирование требований. Руководитель оформляет информацию от заказчика в виде документов, диаграмм и схем.

7) Проверка правильности требований и утверждение. Руководитель предлагает представителям заказчика и пользователей подтвердить, что написанный текст (алгоритм) точен и полон, и попросит исправить возможные ошибки.

III) Анализ реализуемости проекта ПСУ [2, 9].

На рис. 2 представлена обобщенная схема анализа реализуемости проекта по созданию ПСУ с применением мягких вычислений.

8) Разработка альтернативных вариантов проекта ПСУ - разработка возможных способов достижения поставленной цели.

9) Оценка альтернативных вариантов проекта ПСУ (оценка реализуемости проекта ПСУ) - расчет показателей, характеризующих достоинства и недостатки альтернатив.

10) Выбор приемлемого варианта проекта ПСУ - выбор альтернативы с наиболее благоприятными последствиями.

Рис. 1. Обобщенная схема процесса проведения предпроектных исследований по созданию перспективных систем управления

На рис. 3 представлена обобщенная схема анализа реализуемости проекта по созданию ПСУ с применением когнитивного моделирования [4, 6].

Из рис. 3 видно, что анализ реализуемости проекта по созданию ПСУ с применением когнитивного моделирования заключается в построении одной когнитивной модели, оценки сценариев развития системы и выборе наилучшего сценария развития системы.

Под сценариями развития системы понимаются сценарии развития ситуаций, связанные с созданием высокой надежности ПСУ на этапе предпроектного исследования.

Заметим, что для анализа реализуемости проекта по созданию ПСУ строится одна когнитивная модель, так как при одновременном построении нескольких когнитивных моделей нарушается условие сопоставимости (в когнитивных моделях присутствуют различные параметры вершин и различное количество вершин). Если построить когнитивные модели с одинаковым количеством параметров вершин и с одинаковым количеством вершин, то модель перестает быть полной. Поскольку нарушено одно из главных условий, то оценивать в дальнейшем когнитивные модели не представляется возможным.

Рис. 2. Обобщенная схема анализа реализуемости проекта по созданию перспективных систем управления с применением мягких вычислений

<?---^

База данных ~* База знаний -Ж-

Контроль

ш

Исполнители / \ Построение Оценка

модели сценариев ^_^

за ходом работ

Рис. 3. Обобщенная схема анализа реализуемости проекта по созданию перспективных систем управления с применением когнитивного моделирования

В случае, если выбранный сценарий развития системы не удовлетворяет руководителя проекта, то он может давать поручение исполнителям проекта заново их оценить, либо провести корректировку когнитивной модели, либо построить новую когнитивную модель.

IV) Анализ рисков проекта ПСУ [10].

11) Выявление рисков проекта ПСУ. Осуществляется выявление полного перечня проектных рисков, способных повлиять на успех проекта по созданию ПСУ.

12) Оценка рисков проекта ПСУ. Формирование качественных и количественных показателей риска, на основе которых будут базироваться управленческие решения.

13) Снижение/контроль рисков проекта ПСУ. Происходит уменьшение возможности наступления риска и уменьшение объемов возможных потерь.

Успешность выполнения проекта по созданию ПСУ можно прогнозировать на этапе предпроектного исследования, однако такой прогноз существенно усложняется наличием следующих проблем [2, 5, 9]:

1) Проблемы организации деятельности команды исполнителей ПСУ. Одним из главных препятствий успешного создания ПСУ является нехватка или высокая занятость исполнителей проекта требуемой квалификации. В связи с этим уже на этапе предпроектного исследования необходимо четко структурировать работы, определить обязанности исполнителей, их квалификацию и численность, что позволит заказчику оценить реальную потребность в человеческих ресурсах и снизить риск затягивания сроков выполнения проекта.

2) Проблемы разработки требований безопасности ПСУ связаны, прежде всего, с неясностью («размытостью»), двусмысленностью, противоречивостью, а также частотой изменений требований заказчика. Такая ситуация приводит к разработке новых требований и внесению изменений в технических и программных средствах, что, в свою очередь, ведет к задержке сдачи готовой ПСУ. Заметим, что требования к созданию ПСУ, правильно сформулированные в техническом задании, обеспечивают до 40 % успеха конечного программного продукта.

3) Проблемы оценки реализуемости проекта ПСУ. Приступая к реализации проектов по созданию ПСУ, необходимо, прежде всего, понять целесообразность проекта и оценить оправданность вложения в него трудовых и материальных затрат. Однако в свою очередь оценка реализуемости проекта существенно усложняется наличием ДЕ-факторов, к которым можно отнести [5, 9]:

♦ неполноту исходных данных для проектирования, не позволяющая дать точную оценку реализуемости проекта ИУС и, прежде всего, срокам его выполнения. Здесь следует отметить часто имеющее место игнорирование накопленного опыта разработчиков: показатели удачно реализованных проектов не обобщаются и не используются в качестве исходной базы для управления новыми проектами;

♦ изменение требований, сроков и объема выделяемых ресурсов на проектирование, прямо связанное с увеличением риска осуществления проекта с должным качеством;

♦ слабую структурированность теоретических и фактических знаний о проекте, не позволяющая дать удовлетворительный прогноз рисков проекта на достаточно большом промежутке времени с применением неформализованных методов на основе лишь собственного опыта и интуиции.

Таким образом, при проведении предпроектных исследований по созданию ПСУ в условиях нечетких исходных данных целесообразно применить методологию когнитивного моделирования, которая помогает руководителю проекта структурировать знания; системно и всесторонне проводить предпроектные исследования, а также заметно снизить риск человеческого фактора.

2. Структура базы знаний интеллектуальной системы поддержки принятия решений. Структура интеллектуальной системы включает три основных блока - БЗ, механизм вывода решений и интеллектуальный интерфейс.

Создание БЗ требует применения моделей и методов извлечения и структурирования знаний - применения «инженерии знаний», что необходимо для разработки «информационной модели мира» [1]. В такой модели реальные объекты, их свойства и отношения между ними не только отображаются и запоминаются, но могут мысленно целенаправленно преобразовываться. При этом существенно то, что формирование модели происходит в процессе обучения на опыте и адаптации к разнообразным ситуациям. Формализованные знания составляют ядро интеллектуальной системы - ее БЗ, остальные блоки ИС реализуют функции преобразования знаний. Процесс построения БЗ достаточно сложен, обычно плохо структурирован, носит итеративный характер. Пока можно считать, что в настоящее время не существует универсального способа представления знаний, и это требует максимально учитывать специфику предметной области. Знания в предметной области чаще всего изображаются в виде совокупности объектов (понятий, концептов) и связей (отношений) между объектами, т.е. модель может быть представлена в виде четкой либо нечеткой когнитивной модели [11-16].

На рис. 4 представлен прототип БЗ ИСППР, которая может быть адаптирована к различным предметным областям. Это обобщенная схема взаимосвязи модулей когнитивного моделирования и принятия решений, определяющих структуру БЗ ИСППР для управления процессом предпроектных исследований по созданию высокой надежности ПСУ. В работах [14-16] рассматривалась возможность проектирования БЗ для распределенных ПСУ.

Отметим, что предлагаемая БЗ, где знания представлены в виде четких и нечетких когнитивных моделей, должна решать следующие задачи: во-первых, поиск необходимой руководителю информации в виде сценариев развития системы, как заложенной в БЗ, так и выведенной на основе существующей; во-вторых, поддержка целостности и адекватности информации; в-третьих, преобразование полученных исходных данных в модель знаний (ЧКМ либо НКМ).

На рис. 4 толстые стрелки означают переход от одного модуля к другому, а тонкие стрелки - связи управления, а также связи между блоками.

Модуль сбора исходных данных об ОУ позволяет собирать исходные данные об ОУ на протяжении всего проведения предпроектных исследований по созданию ПСУ.

Модуль обработки исходных данных позволяет обрабатывать исходные данные с тем, чтобы можно было применить четкое либо нечеткое когнитивное моделирование.

Модуль диагностики состояния ОУ позволяет разрабатывать четкие когнитивные модели (ЧКМ) либо нечеткие когнитивные модели (НКМ) [17, 18] для ОУ. Отметим, что количественные и качественные исходные данные применяются при разработке данных моделей. Причем количественные значения, полученные с помощью «мягких вычислений», могут быть использованы при разработке ЧКМ либо НКМ

При четком и нечетком когнитивном моделировании сложных систем [11] в качестве объекта исследования рассматривается не субъект (человек), а именно сложная система совместно с человеком (экспертом; руководителем проекта; ис-

следователем; лицом, принимающим решение). Разработанная четкая либо нечеткая когнитивная модель должна отображать информацию об объекте, об окружающей его среде, о взаимосвязях между элементами объекта и окружающей его среды, о поведении и динамике, о моделях измерения состояний системы и окружающей среды, о «наблюдателе» и др. Четкое и нечеткое когнитивное моделирование охватывает все этапы процесса принятия решений: от структурирования ситуации до разработки сценариев развития системы и выбора наилучшего сценария в условиях неопределенности внутренней и внешней среды.

Объект управления

' I

3

| Модуль обработки исходных данных |

Нечеткое когнитивное моделирование, 1 этап

I Четкое когнитивное |

1 1 I

моделирование, 1 этап

-•Модуль диагностики состояния ОУ.^

Когнитивный анализ

Разработка сценариев развития системы

Модуль прогнозирования состояния ОУ

Когнитивный синтез

Модуль формирования управляющих воздействий

Модуль принятия решений

Руководитель А А

Рис. 4. Структурная схема модулей базы знаний интеллектуальной системы поддержки принятия решений

Модуль прогнозирования состояния ОУ позволяет проводить четкий и нечеткий когнитивный анализ, импульсное моделирование, предвидение тенденций развития системы, а также прогнозирование количественных значений параметров по ЧКМ либо НКМ.

Модуль формирования управляющих воздействий осуществляет корректировку моделей ОУ.

Модуль принятия решения позволяет оценивать сценарии развития системы и выбирать наилучший сценарий [19, 20].

Отметим, что в обобщенную схему «встроен» руководитель проекта (эксперт; лицо, принимающее решение), который в процессе предпроектных исследований по созданию ПСУ может проводить диагностику состояния ОУ, формировать управляющие воздействия на ПСУ, а также принимать решения на основе полученной информации, в качестве которой выступает наилучший сценарий развития системы.

Заключение. Таким образом, исключение провала проекта, а также минимизация возможных последствий отказов ПСУ в процессе эксплуатации, может быть максимально достигнута на начальных этапах жизненного цикла ПСУ, а именно на этапе предпроектного исследования. Показано, что при проведении предпро-ектных исследований по созданию ПСУ необходима ИСППР. Ядром предлагаемой ИСППР для создания ПСУ является БЗ в основе, которой лежат четкие и нечеткие когнитивные модели, разрабатываемые на этапе предпроектного исследования. Предлагаемая БЗ позволяет осуществлять поиск необходимой руководителю информации в виде сценариев развития ситуации по созданию ПСУ, как заложенной в БЗ, так и выведенной на основе существующей.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Рассел С., Норвиг П. Искусственный интеллект: современный подход. - М.: Вильямс, 2006. - 1408 с.

2. Коробкин В.В., Колоденкова А.Е. Один из подходов к оценке безопасности и рисков информационно-управляющих систем для атомных станций // XII Всероссийское совещание по проблемам управления ВСПУ-2014. - 2014. - URL: http://vspu2014.ipu.ru/ pro-ceedings/prcdngs/8180.pdf (дата обращения: 20.02.2016).

3. Горелова Г.В., Криони Н.К., Колоденкова А.Е., Коробкин В.В. Предпроектные исследования - ключ к безопасности функционирования информационно-управляющих систем // Проблемы управления безопасностью сложных систем: труды XXIII Междунар. науч. конф., ИПУ им. Трапезникова РАН. - М.: Изд-во РГГУ, 2015. - C. 207-211.

4. Колоденкова А.Е. Оценка рисков создания программного обеспечения информационно-управляющих систем для высокорисковых промышленных предприятий в условиях интервальной неопределенности исходных данных // Вестник УГАТУ. - 2015. - № 1 (67).

- С. 190-197.

5. Горелова Г.В., Колоденкова А.Е., Коробкин В.В. Построение комплексной оценки разработки информационно-управляющих систем на основе когнитивных моделей // Проблемы управления и моделирования в сложных системах: Труды XVII Междунар. конф.

- Самара: СамНЦ РАН, 2015. - С. 326-331.

6. Горелова Г.В., Колоденкова А.Е. Безопасность функционирования информационно-управляющих систем атомных станций на основе когнитивного моделирования // Технологии техносферной безопасности. - 2015. - Вып. № 4 (62). - С. 1-10.

7. Дешина С.П. Управленческие решения: процесс разработки и принятия: учебное пособие. - Глазов: Глазовский инженерно-экономический институт, 2010. - 56 с.

8. Вигерс Карл, Битти Джой. Разработка требований к программному обеспечению.

- СПб.: БХВ-Петербург, 2014. - 394 с.

9. Колоденкова А.Е. Анализ жизнеспособности - важная стадия жизненного цикла инновационных программных проектов // Программная инженерия. - 2010. - № 1. - C. 21-30.

10. Горелова Г.В., Колоденкова А.Е. Выявление рисков на этапе предпроектного исследования при разработке интеллектуальных информационно-управляющих систем технических объектов на основе когнитивного моделирования // Труды Конгресса по интеллектуальным системам и информационным технологиям «IS&IT'15». - Таганрог: Изд-во ЮФУ, 2015. - Т. 2. - С. 236-242.

11. Горелова Г.В., Захарова Е.Н, Радченко С.А. Исследование слабоструктурированных проблем социально-экономических систем: когнитивный подход. - Ростов-на-Дону: Изд-во РГУ, 2006. - 332 с.

12. Langley P. Cognitive architectures: Research issues and challenges // Cognitive Systems Research. - 2009. - Vol. 10, No. 2. - P. 141-160.

13. Горелова Г.В., Масленникова А.В. Имитационное моделирование на основе когнитивной методологии и системной динамики, анализ системы «Юг России» // Системный анализ в экономике: матер. научно-практ. конф. - М.: ЦЭМИ РАН, 2012. - С. 33-45.

14. Горелова Г.В., Мельник Э.В., Коровин Я.С. Проектирование интеллектуальных распределенных информационно-управляющих систем // Актуальные проблемы информационно-компьютерных технологий, мехатроники и робототехники; Многопроцессорные вычислительные и управляющие системы: тр. Междун. научно-техн. мультиконф. - Таганрог: Изд-во ТТИ ЮФУ, 2009. - Т. 2. - С. 28-31.

15. Горелова Г.В. Хлебникова А.И. Когнитивное моделирование для интеллектуальной системы поддержки принятия решений управления транзитной торговлей // Искусственный интеллект. - 2010. - С. 473-482.

16. Горелова Г.В. О разработке интеллектуализированных систем поддержки принятия решений на основе когнитивного моделирования // Перспективные системы и задачи управления: тр. 10-й Всерос. научно-практич. конф. - Ростов-на-Дону: Изд-во ЮФУ, 2015. - С. 255-265.

17. Коростелев Д.А., Лагерев Д.Г., Подвесовский А.Г. Применение нечетких когнитивных моделей для формирования множества альтернатив в задачах принятия решений // Вестник Брянского государственного технического университета. - 2009. - № 4(24). - С. 77-85.

18. Dickerson J., Kosko B. Virtual Worlds as Fuzzy Dynamic Systems // Technology for Multimedia. - New York, IEEE Press, 1998. - P. 567-603.

19. Садовникова Н.П., Жидкова Н.П. Выбор стратегий территориального развития на основе когнитивного анализа и сценарного моделирования // Интернет-вестник ВолгГАСУ. URL: www.vestnik.vgasu.ru (дата обращения: 20.02.2016).

20. Казанин И.Ю. Исследование социально-экономической безопасности Ростовской области, когнитивное моделирование стратегии развития. URL: http://cyberleninka.ru/article/ri/ issledovanie-sotsialno-ekonomicheskoy-bezopasnosti-rostovskoy-oblasti-kognitivnoe-modelirovanie-strategii-razvitiya (дата обращения: 20.02.2016).

REFERENCES

1. Rassel S., Norvig P. Iskusstvennyy intellekt: sovremennyy podkhod [Artificial intelligence: a modern approach]. Moscow: Vil'yams, 2006, 1408 p.

2. Korobkin V.V., Kolodenkova A.E. Odin iz podkhodov k otsenke bezopasnosti i riskov informatsionno-upravlyayushchikh sistem dlya atomnykh stantsiy [One approach to the estimation of no-hazard and risk information and control systems for nuclear power plants], XII Vserossiyskoe soveshchanie po problemam upravleniya VSPU-2014 [XII All-Russian conference on governance VSPU 2014]. Available at: http://vspu2014.ipu.ru/ proceed-ings/prcdngs/8180.pdf (accessed 20 February 2016).

3. Gorelova G.V., Krioni N.K., Kolodenkova A.E., Korobkin V.V. Predproektnye issledovaniya -klyuch k bezopasnosti funktsionirovaniya informatsionno-upravlyayushchikh sistem [Exploratory research is the key to the safe functioning of information-control systems], Problemy upravleniya bezopasnost'yu slozhnykh sistem: trudy KhKhIII Mezhdunar. nauch. konf., IPU im. Trapeznikova RAN [Proceedings of the XXIII International scientific conference, Institute of Control Sciences V.A. Trapeznikov Academy of Sciences]. Moscow: Izd-vo RGGU, 2015, pp. 207-211.

4. Kolodenkova A.E. Otsenka riskov sozdaniya programmnogo obespecheniya informatsionno-upravlyayushchikh sistem dlya vysokoriskovykh promyshlennykh predpriyatiy v usloviyakh interval'noy neopredelennosti iskhodnykh dannykh [Risk assessment software information and control systems for high-risk industrial enterprises in terms of interval of initial data vagueness], Vestnik UGATU [Scientific journal of Ufa State Aviation Technical University], 2015, No. 1 (67), pp. 190-197.

5. Gorelova G.V., Kolodenkova A.E., Korobkin V.V. Postroenie kompleksnoy otsenki razrabotki informatsionno-upravlyayushchikh sistem na osnove kognitivnykh modeley [Creation of a complex assessment development of the information-control systems on the basis of cognitive models], Problemy upravleniya i modelirovaniya v slozhnykh sistemakh: Trudy XVII Mezhdunar. konf. [Problems of control and modeling in complex systems: Proceedings of the XVII International conference]. Samara: SamNTs RAN, 2015, pp. 326-331.

6. Gorelova G.V., Kolodenkova A.E. Bezopasnost' funktsionirovaniya informatsionno-upravlyayushchikh sistem atomnykh stantsiy na osnove kognitivnogo modelirovaniya [The safety of functioning of the information-control systems for nuclear power plants on basis of cognitive modeling], Tekhnologii tekhnosfernoy bezopasnosti [Technology technosphere safety], 2015], Issue No. 4 (62), pp. 1-10.

7. Deshina S.P. Upravlencheskie resheniya: protsess razrabotki i prinyatiya: uchebnoe posobie [Management decisions: the process of development and adoption: tutorial]. Glazov: Glazovskiy inzhenerno-ekonomicheskiy institut, 2010, 56 p.

8. Vigers Karl, Bitti Dzhoy. Razrabotka trebovaniy k programmnomu obespecheniyu [Development of software requirements]. St. Petersburg: BKhV-Peterburg, 2014, 394 p.

9. Kolodenkova A.E. Analiz zhiznesposobnosti - vazhnaya stadiya zhiznennogo tsikla innovatsionnykh programmnykh proektov [Analysis of viability is an important innovative program project life cycle stage], Programmnaya inzheneriya [.Software engineering], 2010, No. 1, pp. 21-30.

10. Gorelova G.V., Kolodenkova A.E. Vyyavlenie riskov na etape predproektnogo issledovaniya pri razrabotke intellektual'nykh informatsionno-upravlyayushchikh sistem tekhnicheskikh ob"ektov na osnove kognitivnogo modelirovaniya [The identification of risks at the stage exploratory research with the development of intelligent information-control systems technical objects on the basis of cognitive modeling], Trudy Kongressa po intellektual'nym sistemam i informatsionnym tekhnologiyam «IS&IT15» [Proceedings of the Congress on intellectual systems and information technologies]. Taganrog: Izd-vo YuFU, 2015, Vol. 2, pp. 236-242.

11. Gorelova G.V., Zakharova E.N, Radchenko S.A. Issledovanie slabostrukturirovannykh problem sotsial'no-ekonomicheskikh sistem: kognitivnyy podkhod [The semi structured research problems of socio-economic systems: a cognitive approach]. Rostov-on-Don: Izd-vo RGU, 2006, 332 p.

12. Langley P. Cognitive architectures: Research issues and challenges, Cognitive Systems Research, 2009, Vol. 10, No. 2, pp. 141-160.

13. Gorelova G.V., Maslennikova A.V.Imitatsionnoe modelirovanie na osnove kognitivnoy metodologii i sistemnoy dinamiki, analiz sistemy «Yug Rossii» [Simulation modeling based on cognitive methodology and system dynamics analysis of the system "South of Russia"], Sistemnyy analiz v ekonomike: mater. nauchno-prakt. konf. [System analysis in the economy: materials of scientific-practical conference]. Moscow: TsEMI RAN, 2012, pp. 33-45.

14. Gorelova G.V., Mel'nikE.V., Korovin Ya.S. Proektirovanie intellektual'nykh raspre-delennykh informatsionno-upravlyayushchikh sistem [Design of intelligent distributed information-control systems], Aktual'nye problemy informatsionno-komp'yuternykh tekhnologiy, mekhatroniki i robototekhniki; Mnogoprotsessornye vychislitel'nye i upravlyayushchie sistemy: tr. Mezhdun. nauchno-tekhn. mul'tikonf [Actual problems information and computer technologies, mechatronics and robotics; Multiprocessor computing and control systems: Proceedings of the International. scientific and technical multiconference]. Taganrog: Izd-vo TTI YuFU, 2009, Vol. 2, pp. 28-31.

15. Gorelova G.V. Khlebnikova A.I. Kognitivnoe modelirovanie dlya intellektual'noy sistemy podderzhki prinyatiya resheniy upravleniya tranzitnoy torgovley [Cognitive modeling for intelligent decision support for the management of transit trade], Iskusstvennyy intellect [Artificial intelligence], 2010, pp. 473-482.

16. Gorelova G.V. O razrabotke intellektualizirovannykh sistem podderzhki prinyatiya resheniy na osnove kognitivnogo modelirovaniya [On the development of intelligent systems for decision support based on cognitive modeling], Perspektivnye sistemy i zadachi upravleniya: tr. 10-y Vseros. nauchno-praktich. konf. [A promising system and management tasks: Proceedings of the 10th all-Russian scientific-practical conference]. Rostov-on-Don: Izd-vo YuFU, 2015, pp. 255-265.

17. Korostelev D.A., Lagerev D.G., Podvesovskiy A.G. Primenenie nechetkikh kognitivnykh modeley dlya formirovaniya mnozhestva al'ternativ v zadachakh prinyatiya resheniy [The use of fuzzy cognitive models for the formation of a set of alternatives in the decision task], Vestnik Bryanskogo gosudarstvennogo tekhnicheskogo universiteta [Bryansk State Technical University], 2009, No. 4 (24), pp. 77-85.

18. Dickerson J., Kosko B. Virtual Worlds as Fuzzy Dynamic Systems, Technology for Multimedia. New York, IEEE Press, 1998, pp. 567-603.

19. Sadovnikova N.P., Zhidkova N.P. Vybor strategiy territorial'nogo razvitiya na osnove kognitivnogo analiza i stsenarnogo modelirovaniya [The choice of strategies of territorial development on the basis of cognitive analysis and scenario modeling], Internet-vestnik VolgGASU [Internet-Vestnik of VGASU]. Available at: http://www.vestnik.vgasu.ru (accessed: 20 February 2016).

20. Kazanin I.Yu. Issledovanie sotsial'no-ekonomicheskoy bezopasnosti Rostovskoy oblasti, kognitivnoe modelirovanie strategii razvitiya [The study of socio-economic security of the Rostov region, modeling cognitive strategy development]. Available at: http://cyberleninka.ru/ article/n/issledovanie-sotsialno-ekonomicheskoy-bezopasnosti-rostovskoy-oblasti-kognitivnoe-modelirovanie-strategii-razvitiya (accessed: 20 February 2016).

Статью рекомендовал к опубликованию д.т.н., профессор В.П. Карелин.

Горелова Галина Викторовна - Южный федеральный университет; e-mail: gorelova-37@mail.ru; 347928, Таганрог, пер. Некрасовский, 44; тел.: +78634394264; кафедра государственного и муниципального управления; д.т.н.; профессор.

Колоденкова Анна Евгеньевна - Уфимский государственный авиационный технический университет; e-mail: anna82_42@mail.ru; 450000, Уфа, ул. К. Маркса, 12; тел.: +73472730763; кафедра технологии машиностроения; к.т.н.; доцент.

Коробкин Владимир Владимирович - НИИ МВС ЮФУ; e-mail: vvk@mvs.sfedu.ru; 347928, Таганрог, ул. Чехова, 2; тел. +78634311865; главный конструктор по направлению, зав. лабораторией; к.т.н.

Gorelova Galina Viktorovna - Southern Federal University; e-mail: gorelova-37@mail.ru; 44, Nekrasovskiy, Taganrog, 347928, Russia; phone: +78634394264; the department of state and municipal legislation and administration; dr. of eng. sc.; professor.

Kolodenkova Anna Evgenievna - Ufa State Aviation Technical University; e-mail: anna82_42@mail.ru; 450000, Ufa, K.Marksa street, 12; phone: +73472730763; the department of Mechanical engineering technology; cand. of eng. sc.; associate professor.

Korobkin Vladimir Vladimirovich. - Acad. Kalyaev Scientific Research Institute of Multiprocessor Computer Systems; e-mail: vvk@mvs.sfedu.ru; 2, Chehova street, Taganrog, 347928; phone: +78634311865; chief designer in the direction, head laboratory; cand. of eng. sc.