Учет вторичных дефектов в моделях надежности программных средств

0.Н. ОДАРУЩЕНКО, А.А. РУДЕНКО, В.С. ХАРЧЕНКО

УЧЕТ ВТОРИЧНЫХ ДЕФЕКТОВ В МОДЕЛЯХ НАДЕЖНОСТИ ПРОГРАММНЫХ СРЕДСТВ________________________________________________________________________________________

Abstract. We analyze the assumptions made in models assessing the reliability of software tools for the introduction of new (secondary) defects in the process of removing previously identified defects. Outlined the procedure for finding the parameters of the function of risk for different models. Characterized by the use of models to assess the reliability of software in view of the secondary defects.

Key words: managed computer system, a model assessing the reliability of software, the function of the risk, of secondary defect

Анотація. Аналізуються припущення, що приймаються у моделях оцінки надійності програмних засобів щодо можливості внесення нових (вторинних) дефектів у процесі усунення виявлених раніше дефектів. Викладений порядок знаходження параметрів функції ризику для різних моделей. Характеризується можливість застосування моделей оцінки надійності програмних засобів з урахуванням вторинних дефектів.

Ключові слова: комп’ютерна система, що обслуговується, модель оцінки надійності програмних засобів, функція ризику, вторинний дефект

Аннотация. Анализируются допущения, принятые в моделях оценки надежности программных средств, на предмет внесения новых (вторичных) дефектов в процессе устранения обнаруженных ранее дефектов. Изложен порядок нахождения параметров функции риска для различных моделей. Характеризуется возможность применения моделей оценки надежности программных средств с учетом вторичных дефектов.

Ключевые слова: обслуживаемая компьютерная система, модель оценки надежности программных средств, функция риска, вторичный дефект

1. Введение

Широкое использование обслуживаемых компьютерных систем (ОКС) повышает требования к оценке надежности их аппаратных и программных средств.

На современном этапе развития теории надежности ОКС достаточно детально изучены теоретические и практические вопросы оценки надежности аппаратных средств. В то же время количественная оценка надежности программных средств (ПС), несмотря на наличие большого числа вероятностных моделей (моделей роста надежности ПС [1]), далека от реального практического применения. Это связано со многими причинами.

Одна из них (основная, на наш взгляд) состоит в том, что при разработке этих моделей принимаются достаточно грубые допущения, которые не учитывают реалий процесса разработки, тестирования и сопровождения и не могут распространяться на большую часть программных проектов. В то же время, как показано в работе [2], перечень допущений определяющим образом влияет на выбор моделей надежности ПС.

Одним из ключевых понятий в инженерии надежности ПС является дефект. Дефект ПС -всякое искажение программного кода, включая и отсутствие отдельных его участков (обусловленное недоработками проектной документации), которое приводит к невыполнению ПС всего перечня функций, ожидаемых пользователем [3].

Анализ применения ОКС свидетельствует о том, что в их ПС при устранении дефектов вносятся корректировки, которые изменяют характеристики надежности [4]. При этом в известных моделях надежности ПС [1] не учитываются дефекты, вносимые в процессе их восстановления (вторичные дефекты ПС). Принимается допущение, что при устранении дефектов новые не

© Одарущенко О.Н., Руденко А.А., Харченко В.С., 2010 ISSN 1028-9763. Математичні машини і системи, 2010, № 1

вносятся. В то же время, по имеющимся данным, доля вторичных дефектов может достигать 3040% от общего числа дефектов (первичных дефектов) ПС [5, 6].

Задача исследования - проанализировать модели оценки надежности ПС на предмет возможности их использования при условии учета вторичных дефектов ПС и провести соответствующую коррекцию этих моделей.

2. Классификация моделей надежности ПС

Существует множество математических моделей для прогнозирования и оценки показателей надежности ПС. Классификация моделей согласно признакам: структура времени, сложность

реализации программного обеспечения, разметка ошибок, структура пространства входных данных, структура текста программы - представлена на рис. 1 [7].

Наиболее целесообразно в контексте задачи исследования рассмотреть модели согласно признаку «структура времени». Основой моделей, сгруппированных по данному признаку, как правило, являются функции риска. Модифицируя функции риска введением величины пвн (пвн -число дефектов, внесенных в процессе устранения обнаруженных), проанализируем возможность их использования.

3. Анализ возможности модификации моделей с учетом вторичных дефектов

3.1. Модель Джелинского-Моранды

Основные допущения модели:

1) интенсивность обнаружения дефектов Я (?) пропорциональна текущему числу дефектов

в программе (числу оставшихся (первоначальных) дефектов за вычетом обнаруженных);

2) проявление дефектов равновероятно, и их появление не зависит друг от друга;

3) каждый дефект имеет один и тот же порядок сложности;

Рис. 1. Математические модели надежности программных средств

4) время до следующего отказа распределено экспоненциально;

5) ПС функционирует в среде, близкой к реальным условиям;

6) дефекты постоянно корректируются без внесения новых;

7) R (t ) = const в интервале между двумя смежными моментами проявления дефектов.

В соответствии с этими допущениями функцию риска можно представить в виде

R

где t- произвольная точка времени между обнаружением i -1 и i -го дефекта, K - коэффициент

пропорциональности, B - исходное (неизвестное) число оставшихся в ПС дефектов [8].

Полагая = ti - ti-1 (i = 1,n) и используя четвертое допущение, можно утверждать, что все

Xi имеют экспоненциальное распределение.

Модифицируем функцию риска внесением величины nBH. При этом появляется возможность снять шестое допущение. Выражение (1) примет вид

R

Вероятность того, что ни один дефект ПС не проявится на промежутке от 0 до t,

определяется выражением

Л

P (t) = exp I -JR (t) dt

Тогда распределение примет вид

P

а плотность вероятности отказов

q

Согласно второму допущению, функция правдоподобия имеет вид

n+nBH

L

i=1

Прологарифмировав выражение (6), получим

, BH

n+n , ,

ln L = £

i=1

dL dL

Найдя частные производные -—, ~ и приравняв их к нулю, получим систему уравнений

Ж oB

для нахождения оценки максимального правдоподобия величин K и B :

= ngH11 -(B-i +1 + nBH)X Л,

OK j-t t ^ > ' /

Э ln L = n+C

OB tr IB - i +1 + nBH i

0

/

к = -

п + п

п+п

У (В -, +1 + пвн) X,.

,=1

п+пвн

1 (п + пВН )]Тх,

У ------1----

В -, +1 + пЕ

У (В -, +1 + пвн) X,

Проделав аналогичные действия над выражением (1), можно получить следующую систему уравнений:

Гк =--------------п-,

У ( в -, +1) х,

У

У X,

=1 В - + 1

У ( в-, +1) х,

Нетрудно заметить подобие систем (9) и (10). Систему (9) можно получить из системы (10) подстановкой п + пвн вместо п и прибавлением пвн к выражениям В-,+1.

Учитывая вышеизложенное, можно сделать вывод о возможности применения модели Джелинского-Моранды для оценки надежности с учетом внесения вторичных дефектов при восстановлении ПС.

3.2. Простая экспоненциальная модель

Допущения модели соответствуют допущениям, принятым для модели Джелинского-Моранды, за исключением седьмого допущения, вследствие чего функция риска перестает быть кусочнопостоянной.

Для простой экспоненциальной модели функция риска имеет вид

Я

где N (X) - число обнаруженных к моменту времени X ошибок.

Аналогично предыдущей рассмотренной модели снимем шестое допущение внесением в функцию риска слагаемого пвн , вследствие чего она примет вид

Я

Продифференцируем обе части этого уравнения по времени:

ёЯ

= - К

Учитывая, что Я(х) =

dN

(число дефектов, обнаруженных за единицу времени),

получим дифференциальное уравнение для Я(X) :

,=1

,=1

,=1

п

1

=1

=1

dR

dt

+ K R (t ) = 0 .

Учитывая начальные условия N(0) = 0 и R(0) = K(B + nBH), имеем решение этого уравнения:

R

Введем обозначения:

a = ln

b = -K .

С учетом этих обозначений выражение (15) перепишем в виде

R

Логарифмируя обе части равенства (1B) и переходя к дискретному времени t, получаем систему уравнений

ln R (tt ) = a + btt; i = 1, n + nBH .

Систему (19) можно записать в векторно-матричном виде:

AX = C ,

где

A=

Г 1 t1 л

І и

1 t , BH

n1 n

X =

C=

bI

г lnR (t1) л

ln R

lnR

\ n+n /

Используя метод наименьших квадратов, приведем эти уравнения к нормальному виду:

АтАХ = АтС ,

X =

Выполним ряд преобразований для решения системы (23):

( 1 1 ... 1 ^

А = .

AT A =

Г 1 1 ... 1 л

t1 t2

. tn+nBH I

t1 л Г BH n1 n

1 t2 = n + nBH BH n1 n ti n

t + BH n1 n M it M it

V i=1 i=1

, BH n + n Гn+nBH л2

det(aTa)=(n+nBH) M ti - M t

V ,=і

a

1 "2

V

t

n1 n

i=1

или

аег

АТА)- = 1 ( П+ Пвн Ух2 1=1 П+Пвн Л - У 1 =1

аег (Ат а) П+ пвн -Ух У 1=1 п + п вн у

1 ”?[Х1 ^ П ч. П+Пвн Л -у ч 1=1 (1 1 •  1 Л

)А т -!А вн П+П -У У 1=1 п + пвн у х1 х2 • х , вн +

П+Пвн П+Пвн П + П вн П + П вн П+Пвн Л

( П + пвн

У х2 -х У х. У х.2 -х2 У

У х ^п+п™ У ^

1=1 п+пв

.=1

п+пв'

1=1 п +пв

х1 (П+«вн)- У I х,(п+«вн)- У х ... хи+ивн („+«вн)- У

1=1 1=1 1=1 у

Учитывая, что

из (29) найдем а и Ь .

1 АтС = 1

( П+Пвн П + Пвн П + Пвн П + Пвн П + Пвн П + Пвн V 1п Я (г.

Ух2 -чУь Ух2-^Ух - Ух2 -хП+„внУ^ 1пЯ(х

аег

1=1

П + П

вн

П + П'

вн

1=1 П+ П

вн

х1 ( П + „Вн )- У /. ( П + „Вн )- У /. ... /„+ „вн ( П + „Вн )- У ^

1=1 1=1 1=1

1п Я

V П+Пвн )

.

. вн , вн

п+п П+П

(. 2

а =

1=1 1=1

1=1 1=1

п+пвн ( п+пвн

, 2

(п + Пвн) У х,2 - У

. вн , вн

П+П П+П

У ^ • У 1пЯ

К = -Ь = ^------------ 1=1

п+пвн (п+пвн

2

(„+„вн )• У г2 - У

Из (16) получаем

В = еХра - пвн К

п+П П+П

2

ехр

П+П П+П

У ^2 • У1п я

1=1 1=1

В =

вн / вн Л 2

П+П ( п+П

(„+„вн )• У 2 - У г

1=1 у 1=1 у

у ВЫ

К

Проделав аналогичные действия над выражением (11), получаем

т

1

1=1

1=1

Л

вн вн

П+П П+П

2

1=1

1 =1

У

V

I=1

1=1

У

V

г

Л

П П П

У ^ • У1п Я

^К 1=1________1=1__________________1=1___________________

ехр

П П П П

У^2 • У1п Я

1=1 1=1

1=1 1=1

В =

п • У х1-1У ^

1=1 У 1=1

К

Сравнивая выражения (34) и (31), (35) и (33), делаем вывод, что вторые формулы можно получить из первых заменой п на п + пвн (за исключением слагаемого -пвн в формуле (33)). Это свидетельствует об их инвариантности, как следствие, о возможности применения простой экспоненциальной модели для оценки надежности ПС с учетом внесения вторичных дефектов в процессе восстановления.

3.3. Модель Шика-Уолвертона

В основу данной модели положено предположение о пропорциональности функции риска не только

числу дефектов в ПС, но и величине времени тестирования, а также приняты допущения,

аналогичные допущениям простой экспоненциальной модели.

Функция риска для модели Шика-Уолвертона имеет следующий вид:

Я

где X - время тестирования, прошедшее от момента х1-1 обнаружения (1-1) -го дефекта до

текущего момента ^ [9].

Так же, как и в предыдущих моделях, снимая шестое допущение внесением пвн , получаем функцию риска

Я

Проделав над (36) и (37) действия, аналогичные описанным для модели Джелинского-Моранды, получаем системы уравнений для нахождения К и В соответственно:

К =

X 2

У (В-1+1) ~2т

1=1 2 п 1 Т/' п

У---------= — Ух2;

£ В-1 +1 2 £ 1

К =

п + П

П-1-П

У

X2

___1_

2

У

1

ТУ’ п+ппп

____= К У х2

[ 1=1 В-1 +1 + пвн 2 £

=1

=1

Л

2

П

1=1

Очевидна аналогичность систем (38) и (39). Систему (39) можно получить из системы (38) подстановкой п + пвн вместо п и прибавлением пвн к выражениям В-і +1, то есть выводы полностью совпадают с выводами, представленными в случае модели Джелинского-Моранды. Однако модель Шика-Уолвертона предполагает возможность возникновения на рассматриваемом

интервале более одной ошибки [10], в результате чего пвн в выражениях под знаком суммы не

будет соответствовать пвн в верхнем индексе знака суммы, что приводит к появлению

дополнительной величины и, как следствие, усложнению задачи.

3.4. Модель Липова

В отличие от предыдущих моделей, в данной существует следующее допущение: на і -м интервале тестирования обнаруживается £ дефектов, но только тІ из них корректируется. Функция риска:

Я

і-1

где Р-1 = У т] - общее число скорректированных к моменту іі-1 дефектов, а іі - время конца і-

І=1

го интервала тестирования [11].

Аналогично ранее рассмотренным моделям вносим в функцию риска пвн :

Я

Полагая, что число обнаруженных дефектов на і-м интервале £ есть случайная величина с распределением Пуассона, имеем выражение для функции правдоподобия:

,1, , І-'Д

Ь

і=1 Іі

где п1 - дополнительное число интервалов тестирования, вызванное внесенными в процессе восстановления ПС дефектами.

Как и в предыдущих моделях, взяв частные производные по К и В от 1пЬ и приравняв их к нулю, получим систему уравнений для нахождения оценок максимального правдоподобия для К и В:

п + п1

У£

К =----------^----------,

У (В - V-1 + пвн) X

і=1

п+п п+п1

п+п , У £ У X

У £і

=1 =1

вн п+п1

1 В - Р. , + п \

1 і-1 У (В - ^1 + пвн) X

Для функции правдоподобия без учета пвн

=1

L (.^•••, л )=П

/=1

п

(К (В - Р-) х,. )А ехр (-К (В - Р-) X,.) к!

Оценки максимального правдоподобия для К и В будут иметь вид

п

К =

X к

,=1

п

X (В - р _1) х

=1

X к X х,

п

=1 =1

п

X (В - р-1)х,

=1

Системы (43) и (45) аналогичны, что свидетельствует о возможности применения модели Липова для оценки надежности ПС с учетом внесения вторичных дефектов, хотя, как и для модели Шика-Уолвертона, возникают трудности, вызванные появлением дополнительной величины п1.

3.5. Геометрические модели

Одно из допущений геометрических моделей - неограниченность общего числа дефектов. Внесение дополнительного числа дефектов при восстановлении ПС не изменяет данного допущения, поэтому модель остается инвариантной. Однако при этом нельзя учесть внесенные дефекты, что следует из структуры функции риска, например, для модели, предложенной П.Б. Морандой [12] (для других геометрических моделей аналогично):

где В - исходное значение функции риска, К - постоянная.

Таким образом, применять геометрические модели для оценки надежности ПС с учетом внесения вторичных дефектов не представляется возможным.

3.6. Модель Шнайдевинда

Основной подход в использовании этой модели состоит в том, что принимается во внимание предположение о более сильном влиянии на процесс предсказания дефектов появления более поздних дефектов [13]. Потому для использования этой модели в контексте исследования прежде всего необходимо знать распределение внесенных ошибок (что еще не является гарантией возможности ее применения), к тому же этот вопрос еще не изучен.

Кроме того, требует снятия допущение о том, что число обнаруженных дефектов уменьшается от интервала к интервалу, что не будет достаточно точно отображать реальные условия.

Таким образом, применение модели Шнайдевинда для оценки надежности ПС с учетом внесения вторичных дефектов весьма затруднительно или невозможно вообще.

3.7. Модель, основанная на законе распределения Вейбулла

Функция риска для этой модели имеет вид

Я (х ) = ВК,-1,

где а и Ь - константы модели, X > 0 - интервал времени безошибочной работы.

Нахождение неизвестных констант а и Ь требует знания числа дефектов в каждом интервале тестирования, для чего надо знать распределение внесенных ошибок.

Поэтому вывод о возможности применения модели для оценки надежности ПС с учетом внесения вторичных дефектов идентичен выводу для модели Шнайдевинда.

3.8. Модель Дюэна

Допущения модели: обнаружение всех дефектов равновероятно, и их серьезность одинакова; появление ошибок - процесс независимый; общее число дефектов, обнаруженных к произвольному моменту времени X, распределено по закону Пуассона со средним значением

т (х), где т (X) = ахь .

Отсюда следует, что

т (х) ахь

X X

Числитель выражения (48) характеризует ожидаемое число дефектов за время X, а знаменатель - общее время тестирования X.

Допущения, положенные в основу модели, учитывают только обнаруженные дефекты [14]. Поскольку статистика числа дефектов, внесенных в процессе восстановления, для различных ПС не одинакова, то данная модель не является универсальной. Поэтому ее использование возможно, но нецелесообразно.

3.9. Модель Мусы

Модель Мусы на базе времени функционирования учитывает эффекты, каждый из которых считается пропорциональным интенсивности отказов: увеличение числа дефектов из-за появления новых дефектов в процессе устранения старых дефектов; выявление еще не проявившегося дефекта при анализе текста программы, проведенном вслед за обнаружением связанного с ним дефекта во время тестирования; наличие отказов, причину которых не удается найти, и, следовательно, нельзя исправить дефекты, вызвавшие эти отказы [15].

Таким образом, модель Мусы можно использовать для оценки надежности ПС с учетом вторичных дефектов.

4. Качественный анализ моделей надежности ПС, в которых возможен учет вторичных дефектов

Исходя из результатов проведенного анализа моделей надежности ПС, получим графики зависимости функций риска от времени для моделей Джелинского-Моранды, Шика-Уолвертона, Липова и простой экспоненциальной модели без учета и с учетом вторичных дефектов.

При учете вторичных дефектов ПС возможны сценарии уменьшения, постоянства, увеличения функции риска на і-м и і +1 -м шагах до и после устранения дефектов ПС [16].

Графики зависимости функций риска от времени для различных моделей без учета и с учетом вторичных дефектов представлены на рис. 2-9.

X

Рис. 2. График зависимости функции риска от времени для модели Джелинского-Моранды

Рис. 3. График зависимости функции риска от времени для модели Джелинского-Моранды

X

Рис. 4. График зависимости функции риска от времени для простой экспоненциальной модели

Рис. 5. График зависимости функции риска от времени для простой экспоненциальной модели

Рис. 6. График зависимости функции риска от времени для модели Липова

Рис. 7. График зависимости функции риска от времени для модели Липова

І

Рис. 8. График зависимости функции риска от времени для модели Шика-Уолвертона

Рис. 9. График зависимости функции риска от времени для модели Шика-Уолвертона

Скорость убывания функции Я(7) для модели Липова (рис. 6) меньше, чем для простой

экспоненциальной модели (рис. 4), поскольку корректируются не все обнаруженные дефекты. Среди рассмотренных функций риска наименьшая скорость убывания функции риска для модели Шика-Уолвертона (рис. 8), что связано с ее пропорциональностью времени тестирования, прошедшему от момента обнаружения (/-1) -го дефекта до текущего момента .

Возрастание на некоторых участках функций риска (рис. 3, 5, 7, 9) вызвано проявлением вторичных дефектов.

Итоговые результаты анализа возможности учета вторичных дефектов в моделях надежности даются в табл. 1.

Таблица 1. Возможность использования моделей надежности программных средств с учетом вторичных дефектов

Модель Возможности применения с учетом вторичных дефектов

Джелинского-Моранды Возможно

Простая экспоненциальная Возможно

Шика-Уолвертона Возможно, но сложно

Липова (обобщение модели Джелинского-Моранды) Возможно, но сложно

Геометрические модели Невозможно

Шнайдевинда Весьма затруднительно или невозможно

Модель, основанная на законе распределения Вейбулла Весьма затруднительно или невозможно

Дюэна Возможно, но нецелесообразно

Мусы Возможно

5. Выводы

Проведен анализ вероятностных моделей роста надежности ПС с точки зрения возможности внесения дефектов при устранении обнаруженных ранее дефектов ПС. Это позволило установить и реализовать возможности применения моделей надежности ПС с учетом вторичных дефектов. В частности, модифицированы модель Джелинского-Моранды, простая экспоненциальная модель, модель Шика-Уолвертона путем отмены допущения о том, что дефекты постоянно корректируются без внесения в ПС новых - вторичных дефектов ПС.

Данные результаты позволяют расширить область возможного применения вероятностных моделей оценки надежности ПС и повысить точность расчета ее показателей. Дальнейшее

исследование следует направить на выбор адекватной модели оценки надежности ПС для конкретных задач, а также наиболее подходящего численного метода или его модификации для решения систем уравнений: (9), (39), (43).

Кроме того, в рамках рассмотренного подхода к модификации моделей с учетом вторичных дефектов ПС фактически было сделано допущение о постоянстве величины пвн . Однако эта величина сама может изменяться (например, зависеть от индекса г в модели Джелинского-Моранды) и иметь вероятностную природу. Следовательно, для развития модели необходима идентификация законов распределения.

Основной проблемой при развитии и реализации предложенного подхода (как и для количественной оценки надежности ПС в целом) является получение репрезентативной информации о дефектах как первичных, так и вторичных, которая бы позволяла выполнять точную статистическую обработку и расчет показателей.

СПИСОК ЛИТЕРАТУРЫ

1. Lyu M.R. Software Fault Tolerance / M.R. Lyu // Chichester. - England: John Wiley and Sons, Inc., 1996. - 337 p.

2. The Method of Software Reliability Growth Models Choice Using Assumptions Matrix / V.S. Kharchenko, O.M. Tarasyuk, V.V. Sklyar et al. // Proc. of 26th Annual Int. Computer Software and Applications Conference (COMPSAC).

- Oxford, England, 2002. - Р. 541 - 546.

3. Одарущенко О.Н. Терминологические аспекты теории надежности программных средств / О.Н. Одарущенко, Ю.Л. Поночовный, Е.Б. Одарущенко // Радіоелектронні і комп'ютерні системи. - 2004. - № 2(6). - С. ВВ - 94.

4. Поночовный Ю.Л. Моделирование надежности обновляемых программных средств нерезервированных информационно-управляющих систем постоянной готовности / Ю.Л. Поночовный, Е.Б. Одарущенко // Радіоелектронні і комп'ютерні системи. - 2004. - № 4(В). - С. 93 -97.

5. Sanders J. Software Quality - A Framework for Success in Software Development and Support / Sanders J. - USA: Addis. Wesley, 1994. - 112 p.

6. Канер С. Тестирование программного обеспечения / С. Канер, Д. Фолк, Е.К. Нгуен. - М.: DiaSoft, 2001. - 544 с.

7. Полонников Р.И. Методы оценки показателей надежности программного обеспечения / Р.И. Полонников,

A.В. Никандров. - СПб.: Политехника, 1992. - 7В с.

B. Jelinski Z. Software reliability research / Z. Jelinski, P. Moranda // Statistical Computer Performance Elaiution / W. Freiberger. - New York: Academic Press, 1972. - P. 465 - 4В4.

9. Schick G.J. An Analysis of Competing Software Reliability Modes / G.J. Schick, R.W. Wolverton // IEEE Trans. on

Software Engineering. - 197В. - Vol. SE-4, N 2. - P. 104 - 120.

10. Василенко Н.В. Модели оценки надежности программного обеспечения / Н.В. Василенко, В. А. Макаров // Вестник Новгородского государственного университета. - 2004. - № 2В. - С. 126 - 132.

11. Lipow M. Model of Software Reliability / M. Lipow // Proc. of the Winter Heeling of the Aerospase Division of the

American Society of Mechanical Engineers. -197В. - WA/Aero-^. - P. 1 - 11.

12. Moranda P.B. Event-Altered Rate Models for General Reliability Analysis / P.B. Moranda // IEEE Trans. on Reliability. - 1979. - Vol. R^, N 5. - P. 376 - 3В1.

13. Schneidewind N.F. Analysis of Error Processes in Computer Software / N.F. Schneidewind // Sigplan Not. - 1975.

- Vol. 10, N 6. - P. 337 - 346.

14. Duan J.T. Lourning Curve Approach to Reliability Monitoring / J.T. Duan // IEEE Trans. on Aerospase. - 1964. -Vol. 2. - P. 563 - 566.

15. Musa J.D. A theory of software reliability and its application / J.D. Musa // IEEE Trans. Rel. - 1979. - Vol. R^. -P. 1В1 - 191.

16. Моделирование обслуживаемых компьютерных систем с учетом вторичных дефектов программных средств / В.С. Харченко, О.Н. Одарущенко, А.А. Руденко и др. // Радіоелектронні і комп'ютерні системи. - 2009.

- № 7 (41). - С. 245 - 249.

Стаття надійшла до редакції 17.09.2009