Анализ путей возникновения и предотвращения критических сочетаний событий в человекомашинных системах

ИНФОРMAТИКА

УДК 501.1

АНАЛИЗ ПУТЕЙ ВОЗНИКНОВЕНИЯ И ПРЕДОТВРАЩЕНИЯ КРИТИЧЕСКИХ

СОЧЕТАНИЙ СОБЫТИЙ В ЧЕЛОВЕКОМАШИННЫХ СИСТЕМАХ

А. С. Богомолов

Богомолов Алексей Сергеевич, кандидат физико-математических наук, доцент кафедры математической кибернетики и компьютерных наук, Саратовский национальный исследовательский государственный университет имени Н. Г. Чернышевского, Россия, 410012, Саратов, Астраханская, 83; старший научный сотрудник, Институт проблем точной механики и управления РАН, Россия, 410024, Саратов, Рабочая, 24, alexbogomolov@ya.ru

Предлагаются модели, методы и алгоритмы для анализа процессов развития и предотвращения критических сочетаний событий различного рода, приводящих к авариям и катастрофам в человекомашин-ных и организационных системах. Критические сочетания представляют собой комбинации событий, которые по отдельности относительно неопасны, но в совокупности приводят к аварии. В техногенных системах такими событиями являются отдельные ошибки операторов, отказы техники и неблагоприятные воздействия внешней среды. Для исследования таких сочетаний и определения мер по их предотвращению используются подходы вероятностного анализа безопасности, строятся логические деревья, минимальные сечения которых рассматриваются как модели критических сочетаний событий. Для минимальных сечений строятся графы событий и системы дифференциальных уравнений, из решений которых можно определить вероятность реализации того или иного минимального сечения, а также интенсивность мер по снижению этих вероятностей, которые следует предпринимать на различных интервалах времени для данной системы. В качестве примера анализируются ситуации, связанные с возникновением критических сочетаний событий, приводящих к пожарам в двигателе двухмоторного воздушного судна и его последующей аварийной посадке.

Ключевые слова: авиационная транспортная система, критическое сочетание событий, авария, вероятностный анализ безопасности, дерево отказов, минимальное сечение.

DOI: 10.18500/1816-9791-2017-17-2-219-230

ВВЕДЕНИЕ

В настоящее время одним из центральных вопросов безопасности техногенных систем является транспортная безопасность (Федеральный закон 16-ФЗ: «О транспортной безопасности»), в которой важную роль играет задача обеспечения безопасности авиационных транспортных систем (АТС).

Современные воздушные суда (ВС) обладают высокой устойчивостью к неблагоприятным воздействиям среды, к проявлениям дефектов аппаратного и программного обеспечения, ошибкам персонала в случаях, когда эти неблагоприятные события проявляются по отдельности. Это означает, что система успевает парировать очередное неблагоприятное событие до возникновения следующего, действует «принцип единичного отказа» [1]. Поэтому причиной большинства авиационных аварий и катастроф, как правило, являются сочетания неблагоприятных воздействий, которые по отдельности не фатальны и могут не выделяться из ряда устранимых отказов, ошибок и внешних воздействий. Аварию вызывает появление нескольких разнородных неблагоприятных событий, некоторым образом распределенных по времени и порядку проявления. Такие сочетания названы критическими сочетаниям событий [2,3].

Возникновение критических сочетаний событий — проблема, снижающая безопасность объектов различного масштаба и назначения, в том числе безопасность АТС. Решение этой проблемы требует математического обеспечения в виде моделей, методов и комплексов программ анализа критических сочетаний событий.

Предлагаемый подход к решению проблемы критических сочетаний событий основан на математическом аппарате, который используется при анализе надежности техники, видов, последствий и критичности отказов [4]. Научная и практическая новизна предлагаемого подхода заключается в том, что разрабатываемые модели, методы и алгоритмы предназначаются для применения в процессе функционирования системы, тогда как аппарат теории надежности, позволяющий получить численные рекомендации относительно множественных отказов, традиционно применяется в основном на стадиях разработки, производства и модернизации технических объектов, в частности, атомной энергетики [5]. По нашему мнению, сфера применения данных методов и алгоритмов имеет значительные перспективы расширения.

В известных системах предупреждения критических режимов полетов воздушных судов в реальном времени возможности аппарата теории надежности не раскрыты полностью и такие системы не ориентированы на анализ критических сочетаний взаимодействующих неблагоприятных событий и вычисление их вероятностей. Кроме того, предлагаемое математическое обеспечение направлено на определение мер, которые может осуществить персонал (экипаж, диспетчер) для снижения вероятности критических сочетаний событий, если эта вероятность превышает допустимый предел.

1. ОБЩАЯ ПОСТАНОВКА ПРОБЛЕМЫ ПРЕДОТВРАЩЕНИЯ КРИТИЧЕСКИХ СОЧЕТАНИЙ СОБЫТИЙ

Пусть задана 5 — подсистема АТС, А = {Л\,..., Ап} — множество аварий, возможных при выполнении 5 заданных функций, Е = {в\,..., ек} — множество собы-

тий в системе S и внешней среде, составляющих критические сочетания, которые приводят к авариям A 1 , ...,An, A(t) = (Ai (t),..., Ak (t)), ß(t) = (^i(t),..., ßk (t)) — интенсивности потоков возникновения и парирования событий из множества E. При этом каждому значению ßi(t), i G соответствует комплекс инструк-

ций Q(ßi(t)), выполняемых экипажем для обеспечения данного значения интенсивности парирования события ei.

Кроме того, задан отрезок [t0,t1 ] и множество событий Et0 Q E, произошедших к моменту to. Требуется для всех допустимых внешних воздействий x(t) G X(t) определить на отрезке [t0 ,t1]

• вероятности Pi(S,A,Et0, x(t), A(t), ß(t),t) аварий из множества A, i G 1,... ,n;

• интенсивности ß(t) = (ß1 (t),...,ßk (t)) парирования событий e1,..., ek такие, при которых Pi(S, A, Et0, x(t), A(t), ß(t), t) < pi, i G 1,...,n, где pi ^ 0 — заданные числа, и при этом F(S, A, x(t), Ä(t), ß(t), t) ^ min, где F(S, A,X(t),Ä(t),ß(t),t) — заданный функционал с заданными ограничениями и начальными условиями.

2. ПОДХОД К РЕШЕНИЮ ПРОБЛЕМЫ ПРЕДОТВРАЩЕНИЯ КРИТИЧЕСКИХ СОЧЕТАНИЙ СОБЫТИЙ

Предлагаемый подход к проблеме предотвращения критических сочетаний событий состоит из двух этапов, первый из которых проводится при подготовке к функционированию АТС, второй осуществляется на основе результатов первого в процессе функционирования АТС. Этапы предлагаемого решения состоят из следующих основных шагов.

Этап 1. Разработка информационно-управляющей системы для решения задачи.

1. Определить множество аварий Ai = {A1, A2,..., An}.

2. Для каждой аварии A G Ai построить множество элементарных событий и множество D(A) деревьев отказов, приводящих к этой аварии. Пусть

D = у D(A),E = {e1,..., ek} — множество элементарных событий деревьев

_ AeA

из D.

3. Для каждого дерева D G D определить все минимальные сечения.

4. Для каждого события ei, i G 1,...,k, определить список действий экипажа по парированию ei и соответствие между значениями интенсивности парирования ßi(t) и действиями экипажа Q(ßi(t)) для обеспечения такой интенсивности.

5. Разработать комплекс алгоритмов для решения поставленной выше задачи определения вероятностей критических сочетаний событий и действий по снижению этих вероятностей.

6. Разработать математическое и программно-аппаратное обеспечение информационно-управляющей системы для применения полученных алгоритмов решения поставленной выше задачи.

Этап 2. Предотвращение критических сочетаний событий в процессе функционирования АТС.

1. Исходя из текущего состояния ВС, информационно-управляющая система решает поставленную выше задачу и находит в качестве решения интенсивности восстановления д*(£), г е 1,..., к.

2. Найденным значениям д*(£), г е 1,..., к, информационно-управляющая система ставит в соответствие комплексы инструкций Q(д*(£)), з = 1,...,т, содержащие регламентированные действия экипажа по восстановлению работоспособности подсистем ВС, управлению режимами функционирования и парированию внешних воздействий. Эти действия система предлагает осуществить экипажу.

3. Руководствуясь полученными рекомендациями, экипаж выполняет соответствующие действия с целью снижения вероятностей критических сочетаний событий до значений, не превышающих допустимых пределов.

Во время функционирования АТС этап 2 повторяется с необходимой частотой наблюдения, получаемая при этом информация используется для коррекции моделей и методов, разрабатываемых на этапе 1. Каждый из приведенных выше шагов предполагает решение ряда нетривиальных подзадач, в частности, определения множества элементарных событий и причинно-следственных связей, которые, вообще говоря, являются переменными и зависят от времени, действий внешней среды и других факторов.

Пример решения задачи предотвращения критических сочетаний событий.

Проиллюстрируем предлагаемый подход в применении к конкретному виду сложных ситуаций — возникновению пожара при посадке воздушного судна.

Рассматривается ситуация частичного разрушения двухмоторного ВС при посадке вследствие возникновения и развития пожара в мотогондоле. Мотогондола — отсек летательного аппарата, предназначенный для монтажа двигателя и выступающий за пределы фюзеляжа или крыла, на котором установлен двигатель. Мотогондолы — наиболее пожароопасные подсистемы ВС, ликвидация пожаров в них осложнена тем, что набегающий поток воздуха в полёте значительно снижает концентрацию подаваемого огнегасящего состава. При возникновении пожара на этапе посадки ситуация дополнительно осложняется рядом факторов, в частности, небольшое располагаемое время и резкое снижение управляемости воздушного судна.

Требуется определить критические сочетания событий, приводящих к указанной ситуации, их вероятность и меры по предотвращению аварии в процессе полета.

Ключевые события, участвующие в процессах возникновения и развития подобных ситуаций, и сведения о причинно-следственных связях между этими событиями взяты из нормативной документации и результатов расследования причин, которые имели место при развитии происшедших аварий и катастроф [6-8]. В каждый момент времени пространство событий с их причинно-следственными связями представляет собой сложную причинно-следственную сеть, разновидность причинно-следственного комплекса [9,10]. Анализу подвергаются фрагменты этой сети, которые выбираются исходя из актуальности элементарных событий с использованием разработанного программного обеспечения [11]. В данном случае в качестве такого фрагмента рассматривается дерево с 30 элементарными событиями, изображенное на рис. 1.

s

I

-е-

I

си

3

Приземление с недолетом Undershoot

^^^ Авария на посадке — Landing accident

Не выпущены опоры шасси Not wheels down

Отказ двигателя и руля направления Engine and rudder failure

Механическое воздействие Mechanical damage

Разрыв топливного трубопровода Fuel pipe breaking

He отключен неисправный двигатель

Faulty engine running

Ошибка пилота

Перегрев Молния Замыкание Overheat Lightning Short circuit

Отказ связи Communication failure

Pilot error

Л

- «и» / «and»

û

- «или» / «or»

Ä

Ошибка сигнала Signal error

- сложное событие / Complex event

[Vi

r\j Ln

Рис. 1. Фрагмент дерева событий, связанных с пожаром в одном из двигателей на этапе снижения Fig. 1. Fragment of the event tree associated with a fire in one of the engines during the descent phase

О

СП

о §

g

0

ро >

1

3<

Под «сложными событиями» на рис. 1 понимаются вершины, которым соответствуют свои поддеревья аналогичных размеров, не рассматривающиеся в докладе из-за его ограниченного объема.

Один из возможных сценариев развития критического сочетания событий выглядит следующим образом. На этапе снижения в одной из мотогондол разрывается топливный трубопровод (событие 12) и из-за перегрева поверхностей (событие 15) вытекшее топливо воспламеняется. При этом отказывает пожарный кран двигателя (событие 16), а подача топлива продолжается, что усиливает пожар (огнегасители в таких ситуациях, как правило, его не устраняют). Поступает сигнал экипажу, но экипаж ошибается (событие 9) и задействует стоп-кран другого двигателя, тот останавливается. В это время в первом двигателе продолжается пожар, пассажиры замечают шлейф дыма и экипаж получает сообщение об этом. Экипаж задействует стоп-кран горящего двигателя, тот останавливается, оба двигателя оказываются отключенными. В результате длительного и сильного пожара в первом двигателе прогорает и разрушается пилон, двигатель отделяется от самолета, из-за чего при этом возникает поперечный дисбаланс. В этих условиях на запуск отключенного ранее исправного двигателя не хватает времени и реализуется событие (событие 2) — ситуация отключения обоих двигателей (фактически, вершина 18 реализуется как последствие события 9). Возникает необходимость экстренной посадки, условия которой усложняются паникой в салоне, сниженной скоростью, потерей основных источников электро- и гидропитания вследствие выключения двигателей. Посадка заканчивается частичным разрушением самолета и эвакуацией пассажиров и экипажа.

В приведенном выше сценарии реализуется одно из возможных минимальных сечений дерева отказов. С использованием разработанного программного обеспечения [11] показано, что в приведенном выше фрагменте насчитывается 6 минимальных сечений из 2 событий и 30 минимальных сечений из 4 событий каждое.

Определим вероятность критических сочетаний событий на примере приведенного выше сценария для событий 9, 12, 15, 16. Будем предполагать, что рассматриваемые неблагоприятные события независимы, и их интенсивности представляют собой постоянные величины, что традиционно допускается для периодов нормальной работы сложных объектов. Эти допущения позволяют представить исследуемые процессы с использованием марковских систем и для определения вероятностей критических сочетаний событий воспользоваться решением систем дифференциальных уравнений Колмогорова - Чепмена. Модель Маркова традиционно используется в теории надежности, а в области авиации она рекомендована [7].

При использовании модели Маркова неблагоприятные события рассматриваем как «отказы», а действия по их парированию/профилактике — как «восстановления». Для сечения из п событий строится граф с вершинами, которые обозначают состояния йо,...,52п-1 системы, соответствующие всевозможным комбинациям из 0,..., п рассматриваемых событий.

Переходы между вершинами графа соответствуют «отказам» и их «восстановлениям». По графу строится система линейных дифференциальных уравнений, решение которой при заданных интенсивностях «отказов» и «восстановлений» представляет собой вероятности Р0 (£),..., Р2п-1 (£) нахождения системы в состояниях й0,..., й2п-1 соответственно. Вероятность Р2п-1 (£) состояния -1, в котором реали-

зуются все рассматриваемые события, соответствует вероятности реализации критического сочетания событий. При известных интенсивностях «отказов» интенсивности «восстановлений» могут быть подобраны путем численного эксперимента таким образом, чтобы значение вероятности Р2п_1 (£) (максимум этой функции на рассматриваемом отрезке) не превосходила допустимого предела. На основании найденной минимальной интенсивности «восстановления», при которой вероятность Р2п_1 (£) оказывается в допустимых пределах, подбираются меры, позволяющие достичь такой интенсивности.

Приведем примеры расчета. Рассмотрим ситуацию, когда интенсивности событий 9, 12, 15, 16 равны 11/ч, причем разрыв топливного трубопровода (событие 12) и отказ пожарного крана двигателя (событие 16) не восстанавливаются, а интенсивность восстановления «отказа» в виде ошибки пилота при переключении рычагов равна: раз в полчаса происходит взаимодействие с другим членом экипажа. Беря в качестве начальных условий Р1 (0) = 0.0003, Р2(0) = 0.001, Р3(0) = 0.00005, Р4(0) = 0.005, что соответствует накопленной статистике нарушений в работе топливного трубопровода, перегревам поверхностей мотогондолы, отказам пожарного крана двигателя и ошибок пилотов при работе с органами управления ВС, Р5(0) = ... = Р15(0) = 0, Р0(0) = 0.99365. Цель численного эксперимента — выяснить, при каком значении интенсивности д2 мероприятий по устранению перегрева поверхностей мотогондолы вероятность критического сочетания событий не будет превышать 5 х 10_5. Решая систему дифференциальных уравнений Колмогорова -Чепмена при д2 от 10 до 50 с шагом 2 методом Рунге - Кутты четвертого порядка точности находим из результатов численного решения (рис. 2), что при д2 > 401/ч вероятность критического сочетания событий (авария при посадке в результате возгорания в мотогондоле) будет меньше 5 х 10_5.

Время, ч /1, hours

Рис. 2. Вероятность наступления критического сочетания событий при различных значениях

интенсивности устранения перегрева поверхностей мотогондолы Fig. 2. The probability of the onset of a critical combination of events for different values of the intensity of eliminating the overheating of nacelle surfaces

В следующем численном примере рассмотрим ситуацию вхождения воздушного судна в область повышенной атмосферной активности, что означает повышенное значение для начальной вероятности перегрева поверхностей мотогондолы: Р2(0) = 0.5. Остальные начальные условия: Рх(0) = 0.0001, Р3(0) = 0.001, Р4(0) = 0.001 соответственно для разрывов топливного трубопровода, отказов пожарного крана и ошибок пилота. Частоты возникновения «отказов» по прежнему равны 1 1/ч.

Цель численного эксперимента — изучение областей, в которые должна попасть интенсивность восстановления отказа «ошибка пилота» для того, чтобы вероятность рассматриваемого критического сочетания событий была достаточно низкой при условии, что восстановление отказов «разрыв топливного трубопровода», «перегрев поверхностей мотогондолы», «отказ пожарного крана двигателя» не производится.

На рис. 3 представлен ряд результатов численного эксперимента, частота восстановления варьируется от 0 до 20 с шагом 2.

0.00035

5 0.0003

od

о

cp с

(D ТЗ

'3

о <

К

5

6

и й J3

О О

и «

О Л

(D Й

0.00025

0.0002

0.00015

0.0001

0.00005

0.0

0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0 1.1 1.2 1.3 1.4 1.5

Время, ч / t, hours

Рис. 3. Вероятность наступления критического сочетания событий при различных значениях интенсивности предупреждения ошибок пилота Fig. 3. The probability of the onset of a critical combination of events for different values of the pilot error warning intensity

Как показывают результаты численного эксперимента, значение д4 (частота восстановления отказа «ошибка пилота») должно быть достаточно высоким для того, чтобы вероятность критического сочетания событий в рассматриваемой ситуации не превышала 0.001: необходимо выполнение условия д4 ^ 8 1/ч. Это значение показывает необходимую интенсивность взаимодействия между членами экипажа, смены пилота, проведения дополнительного контроля над его действиями.

Таким образом, предлагаемые методы, модели и алгоритмы позволяют определить составляющие комплекса ресурсов и частей техногенной системы [12-15], которые

могут быть использованы для предотвращения вероятных критических сочетаний событий, приводящих к авариям.

ЗАКЛЮЧЕНИЕ

В статье представлены некоторые результаты, полученные при исследовании проблемы критических сочетаний событий, вызывающих аварии и катастрофы в челове-комашинных системах. Сформулирована задача предотвращения критических сочетаний событий. При решении этой задачи анализ критических сочетаний осуществляется на базе математического аппарата теории надежности. Полученные результаты будут использованы в концепции перспективной информационно-управляющей системы, которая исходя из реальной ситуации определяет вероятности критических сочетаний событий и возможные меры по снижению этой вероятности в случае, если она превышает допустимые пределы. Приводится пример анализа возникновения и путей предотвращения критических сочетаний событий в процессе аварийной посадки воздушного судна.

Благодарности. Работа выполнена при финансовой поддержке РФФИ (проект № 16-01-00536).

Библиографический список

1. Новожилов Г. В., Неймарк М. С., Цесарский Л. Г. Безопасность полета самолета. Концепция и технология. М. : Машиностроение, 2003. 144 с.

2. Резчиков А. Ф., Богомолов А. С. Критические сочетания событий — причины аварий в человеко-машинных системах // Управление развитием крупномасштабных систем (MLSD'2015) : тр. 8-й междунар. конф. : в 2 т. М. : ИПУ РАН, 2015. Т. 1. С. 130-135.

3. Новожилов Г. В., Резчиков А. Ф., Неймарк М. С., Богомолов А. С., Цесарский Л. Г., Филимонюк Л. Ю. Проблема критических сочетаний событий в системе «экипаж — воздушное судно — диспетчер» // Полет. 2015. Вып. 2. C. 10-16.

4. ГОСТ 27.31-95 (МЭК 812-1985). Надежность в технике. Анализ видов, последствий и критичности отказов. Основные положения. М. : Изд-во стандартов, 1997. 12 с.

5. Острейковский В. А., Швыряев Ю. В. Безопасность атомных станций. Вероятностный анализ. М. : Физматлит, 2008. 352 с.

6. Руководство по управлению безопасностью полётов (РУБП). Документ ИКАО Doc 9859 AN/474. Изд. третье / Международная организация гражданской авиации, 2013. URL: http://www.aviadocs.net/icaodocs/docs/9859_cons_ru.pdf (дата обращения: 15.02.2017).

7. Руководство P-4761 по методам оценки безопасности систем и бортового оборудования самолетов гражданской авиации / Авиационный регистр. Межгосударственный Авиационный Комитет. М. : Авиаиздат, 2010. 265 с.

8. Расследования Межгосударственного авиационного комитета (МАК). URL: http://www.mak-iac.org/rassledovaniya/ (дата обращения: 23.10.2016).

9. Резчиков А. Ф., Твердохлебов В. А. Причинно-следственные комплексы как модели процессов в сложных системах // Мехатроника, автоматизация, управление. 2007. Вып. 7. С. 1-9.

10. Резчиков А. Ф., Твердохлебов В. А. Причинно-следственные комплексы взаимодействий в производственных процессах // Проблемы управления. 2010. Вып. 3. С. 51-59.

11. Шоломов К. И. Комплекс программ моделирования и анализа критических сочетаний событий на основе построения и обработки динамических причинно-следственных дере-

вьев // Математические методы в технике и технологиях - ММТТ-28. Саратов : Изд-во СГТУ им. Гагарина Ю. А., 2015. С. 300-304.

12. Rezchikov A., Kushnikov V.Ivaschenko V.Bogomolov A., Filimonyuk L., Kachur K. Control of the air transportation system with flight safety as the criterion // Automation control theory perspectives in intelligent systems : Proc. 5th Computer Science On-line Conference 2016 (CS0C2016). Vol. 3. Shpringer Intern. Publ., 2016. P. 423-432. DOI: 10.1007/978-3-319-33389-2_40.

13. Rezchikov A., Dolinina O., Kushnikov V., Ivaschenko V., Kachur K., Bogomolov A., Filimonyuk L. The Problem of a Human Factor in Aviation Transport Systems // Indian Journal of Science & Technology. 2016. Vol. 9, iss. 46. P. 16-20. DOI: 10.17485/ijst/2016/v9i46/107351.

14. Kushnikov V. A., Rezchikov A. F., Tsvirkun A. D. Control in man-machine systems with automated correction of objectives // Meitan Kexue Jishu. 1998. Vol. 26, № 11. P. 168-175.

15. Адамович К. Ю. Математическая модель для прогнозирования значений показателей безопасности транспортной системы // Математические методы в технике и технологиях - ММТТ. Саратов : Изд-во СГТУ им. Гагарина Ю. А., 2015. № 6 (76). С. 146-151.

Образец для цитирования:

Богомолов А. С. Анализ путей возникновения и предотвращения критических сочетаний событий в человекомашинных системах // Изв. Сарат. ун-та. Нов. сер. Сер. Математика. Механика. Информатика. 2017. Т. 17, вып. 2. С. 219-230. 001: 10.18500/1816-9791-2017-172-219-230.

Analysis of the Ways of Occurrence and Prevention of Critical Combinations

of Events in Man-machine Systems

A. S. Bogomolov

Aleksey S. Bogomolov, ORCID: 0000-0002-6972-3181, Saratov State University, 83, Astrakhanskaya str., 410012, Saratov, Russia; Institute of Precision Mechanics and Control, Russian Academy of Sciences, 24, Rabochayastr., 410028, Saratov, Russia, alexbogomolov@ya.ru

Models, methods and algorithms are proposed for analyzing the processes of development and preventing critical combinations of events of various kinds that lead to accidents and catastrophes in man-machine and organizational systems. Critical combinations are combinations of events that are individually relatively harmless, but in combination lead to an accident. In technogenic systems, such events are individual operator errors, equipment failures and adverse environmental effects. To investigate such combinations and identify measures to prevent them, the approaches of probabilistic safety analysis are used. Logical trees are constructed, the minimum sections of which are considered as models of critical combinations of events. For minimal sections, graphs of events and systems of differential equations are constructed, from the solutions of which one can determine the probability of realizing a particular minimum section, and also the intensity of measures to reduce these probabilities, which should be undertaken at different time intervals for the given system. As an example, situations associated with the emergence of critical combinations of events leading to fires in the engine of a twin-engine aircraft and its subsequent emergency landing are analyzed.

Key words: aviation transport system, critical combination of events, accident, probabilistic safety analysis, fault tree, minimum section.

Acknowledgements: This work was supported by the Russian Foundation for Basic Research (projects no. 16-01-00536).

References

1. Novozhilov G. V., Neymark M. S., Tsesarskiy L.G. Bezopasnost' poleta samoleta. Kon-cepciya i tekhnologiya [The Aircraft flight safety. The concept and technology]. Moscow, Mashinostroenie, 2003. 144 p. (in Russian).

2. Rezchikov A. F., Bogomolov A. S. The Critical Combinations of events are a causes of accidents in Man-Machine Systems. Management of Large-Scale System Development MLSD'2015 : Proc. Seventh Intern. Conf. Moscow, ICS RAS, 2015, vol. 1, pp. 130-135 (in Russian).

3. Novozhilov G. V., Rezchikov A. F., Neymark M. S., Bogomolov A. S., Tsesarskiy L. G., Filimonyuk L. Yu. The Problem of Events Critical Combination. „Crew - Airplane-Air -Traffic Controller" Systems. Polet, 2015, no. 2, pp. 10-16 (in Russian).

4. State Standard 27.31-95 (IEC 812-1985). Dependability in technics. Failure mode, effects and criticality analisys. Basic principles. Moscow, Standartinform, 1997. 12 p. (in Russian).

5. Ostreykovsky V. A., Shvyryaev Yu. V. Bezopasnost' atomnyh stancij. Veroyatnostnyj analiz [Safety of nuclear power stations. Probabilistic analysis]. Moscow, Fizmatlit, 2008, 352 p. (in Russian).

6. Safety Management Manual (SMM). Document ICAO 9859 AN/474. Third Edition / International Civil Aviation Organization, 2013. Available at: https://www.icao.int/safety/ SafetyManagement/Documents/Doc.9859.3rd%20Edition.alltext.en.pdf (accessed 15, February, 2017).

7. The management and implementation of safety assessment methods for airborne systems and equipment ARP-4761. SAE International. Aerospace Sector. Moscow, Aviaizdat, 2010. 265 p. (in Russian).

8. The Interstate Aviation Committee (IAC). Available at: http://www.mak-iac.org/rassle-dovaniya/ (accessed 23, October, 2016) (in Russian).

9. Rezchikov A. F., Tverdohlebov V. A. Cause-and-Effect Complexes for Modeling of Processes in Complicated Systems. Mekhatronika, Avtomatizatsiya, Upravlenie, 2007, iss. 7, pp. 1-9. (in Russian).

10. Rezchikov A. F., Tverdohlebov V. A. Cause-and-Effect Complexes of Interaction in Production Processes. Control Sciences, 2010, iss. 3, pp. 51-59 (in Russian).

11. Sholomov K. I. The complex of simulation programs and analysis of critical combinations of events based on construction and processing of dynamic Cause-And-Effect Trees. Mathematical Methods in Technics and Technologies - MMTT-28. Saratov, Yuri Gagarin State Technical University of Saratov Publ., 2015, pp. 300-304 (in Russian).

12. Rezchikov A., Kushnikov V., Ivaschenko V., Bogomolov A., Filimonyuk L., Kachur K. Control of the air transportation system with flight safety as the criterion. Automation control theory perspectives in intelligent systems : Proc. 5th Computer Science On-line Conference, 2016 (CSOC2016), vol. 3. Shpringer Intern. Publ., 2016, pp. 423-432. DOI: 10.1007/978-3-319-33389-2_40.

13. Rezchikov A., Dolinina O., Kushnikov V., Ivaschenko V., Kachur K., Bogomolov A., Filimonyuk L. The Problem of a Human Factor in Aviation Transport Systems. Indian Journal of Science & Technology, 2016, vol. 9, iss. 46, pp. 16-20. DOI: 10.17485/i-jst/2016/v9i46/107351.

14. Kushnikov V. A., Rezchikov A. F., Tsvirkun A. D. Control in man-machine systems with automated correction of objectives. Meitan Kexue Jishu, 1998, vol. 26, no. 11, pp. 168-175.

15. Adamovich K. Yu. Matematicheskaia model' dlia prognozirovaniia znachenii pokazatelei bezopasnosti transportnoi sistemy [A mathematical model for predicting the values of safety indicators of the transport system]. Mathematical Methods in Technics and Technologies - MMTT. Saratov, Yuri Gagarin State Technical University of Saratov Publ., 2015, no. 6 (76), pp. 146-151 (in Russian).

Cite this article as:

Bogomolov A. S. Analysis of the Ways of Occurrence and Prevention of Critical Combinations of Events in Man-machine Systems. Izv. Saratov Univ. (N.S.), Ser. Math. Mech. Inform., 2017, vol. 17, iss. 2, pp. 219-230 (in Russian). DOI: 10.18500/1816-9791-2017-17-2-219-230.