Апостериорные оценки вероятностей в алгебраических байесовских сетях

Сер. 10. 2012. Вып. 2

ВЕСТНИК САНКТ-ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА

УДК 004.8 А. Л. Тулупьев

АПОСТЕРИОРНЫЕ ОЦЕНКИ ВЕРОЯТНОСТЕЙ В АЛГЕБРАИЧЕСКИХ БАЙЕСОВСКИХ СЕТЯХ*)

Введение. Настоящая работа опирается на систему терминов, обозначений и результатов из ряда источников [1—8], посвященных теории алгебраических байесовских сетей.

Алгебраическая байесовская сеть (АБС) - это набор идеалов конъюнктов, причем каждому конъюнкту приписана оценка его вероятности, а сам набор в общем случае снабжен структурой графа смежности [5, 6]. С точки зрения исследований в области искусственного интеллекта, такого рода идеалы конъюнктов могут быть рассмотрены как логико-вероятностные модели фрагментов знаний с неопределенностью, а сама АБС - как модель базы фрагментов знаний. Для краткости идеал конъюнктов с определенными на нем оценками вероятностей называем далее фрагментом знаний.

Когда АБС уже построена и ее элементам назначены оценки вероятности, встает вопрос о том, как обработать свидетельство, поступившее в один из фрагментов знаний АБС, в том числе как распространить влияние этого свидетельства по всей сети, т. е. как рассчитать апостериорные оценки вероятностей тех конъюнктов в АБС, которые могут даже не входить в тот фрагмент знаний, куда свидетельство поступило.

В теории АБС свидетельство представляют в виде фрагмента знаний. В зависимости от вида оценок (бинарные, скалярные (точечные), интервальные) в таком фрагменте знаний свидетельства делятся на три вида (детерминированные, стохастические и неточные (неопределенные) соответственно). Вопросы, связанные с обработкой свидетельства, поступившего в отдельный фрагмент знаний, и способы ее осуществления, т. е. алгоритмы локального апостериорного вывода, исследованы и описаны в нескольких публикациях [1, 3-5, 7]. Детерминированное свидетельство может быть рассмотрено как стохастическое, а стохастическое - как неточное. Стохастическое и неточное свидетельства называются недетерминированными.

Цель работы - описать процесс распространения влияния свидетельства, поступившего в один из фрагментов знаний АБС со структурой дерева смежности, т. е. предложить общую схему глобального апостериорного вывода для ациклических АБС (ААБС). Кроме того, требуется дать содержательную трактовку предлагаемого

Тулупьев Александр Львович — доктор физико-математических наук, профессор кафедры информатики математико-механического факультета Санкт-Петербургского государственного университета, заведующий лабораторией теоретических и междисциплинарных проблем информатики Санкт-Петербургского института информатики и автоматизации РАН. Количество опубликованных работ: 250. Научные направления: представление и обработка данных и знаний с неопределенностью, применение методов математики и информатики в социокультурных исследованиях, применение методов биостатистики и математического моделирования в эпидемиологии, технология разработки программных комплексов с СУБД. E-mail: ALT@iias.spb.su, alexander.tulupyev@gmail.com.

*) Часть публикуемых материалов получена в рамках проектов, поддержанных Российским фондом фундаментальных исследований (гранты № 09-01-00861-а, 12-01-00945-а).

© А. Л. Тулупьев, 2012

подхода к реализации глобального апостериорного вывода в случае стохастического свидетельства и априорных скалярных оценок элементов АБС.

Апостериорный вывод: два фрагмента знаний. Сначала рассмотрим простейшую ситуацию - АБС, состоящую из двух пересекающихся фрагментов знаний. Пусть первый фрагмент знаний Сиг образован над атомами из цепочки конъюнкций и = Х\ V, а второй Си2 - над и2 = VX2, где V - общая подцепочка цепочек и и2, а Х1, Х2, V попарно не имеют общих атомов (попарно не пересекаются). Определим Ш = ХУХ2. Заметим, что фрагмент знаний Су над V будет общим подфрагментом для фрагментов знаний над и и и2 соответственно.

Над элементами Сиг и Си2 могут быть заданы либо скалярные оценки вероятностей Риг и ри2 соответственно, либо интервальные - риг и ри2. Оценки совпадают на общих элементах: У/ е Су риг (/) = ри2 (/) (для интервальных - У/ е Су риг (/) = ри2 (/)).

Полагаем, что АБС, образованная над двумя описанными фрагментами знаний, интернально непротиворечива, а значит, она и глобально непротиворечива [4, 8].

Пусть во фрагмент знаний Сиг поступает некоторое свидетельство, образованное над атомами из цепочки ¥е, которая, в свою очередь, состоит из части атомов из цепочки и 1. Наша задача - предложить способ расчета апостериорных оценок конъюнктов как во фрагменте знаний Си1, так и во фрагменте знаний Си2.

Для любого из трех видов возможных свидетельств: • детерминированного - \'Уе

• стохастического - \P[a] ^V

• неточного - (p[a] (V^ е Рг[а] {у^ У

можно рассчитать апостериорные вероятности любого элемента f фрагмента знаний Cui , в который поступило свидетельство [3-5]:

• Pa )f | (Ve)),

• Pa )f I (p[a] )Ve))) ,

• Pa f | ^P[a] (^e) е Pr[a] (^e) )) соответственно.

В таком случае будут рассчитаны апостериорные вероятности pa(f |-) (или pa(f |-)) и для каждого элемента f подфрагмента знаний Cv . Рассмотрим этот фрагмент знаний с новыми (апостериорными) оценками вероятностей как новое свидетельство - виртуальное свидетельство, поступающее во второй фрагмент знаний Cu2. При таком виртуальном свидетельстве алгоритмы расчета апостериорных оценок вероятностей для элементов Cu2 будут теми же самыми [3-5]. Таким образом, удалось предложить способ распространения влияния свидетельства в АБС, состоящей из двух фрагментов знаний.

Апостериорный вывод: интерпретация для двух фрагментов знаний. Наша следующая задача - дать интерпретацию результатам предложенного способа распространения свидетельства, когда поступает стохастическое свидетельство (p[a] (V^ }, а в АБС, состоящей из двух фрагментов знаний, оценки всех элементов скалярные. Для краткости мы опускаем рассмотрение случая, когда вероятность появления стохастического свидетельства (или составляющих его детерминированных свидетельств) над фрагментом знаний равна нулю. Этот случай обрабатывается в основном за счет приписывания интервальных оценок вида [0; 1] элементам фрагмента знаний или сети и подробно исследуется, например, в [4].

Схема передачи свидетельства между двумя фрагментами знаний такова.

Свидетельство поступает в первый фрагмент знаний. В нем рассчитываются апостериорные вероятности для всех элементов, в том числе - и для подыдеала над V. Апостериорные вероятности на этом подыдеале формируют новое «виртуальное» свидетельство (р[а\(У) = ра {уI ^Р[а\ (V;) ), которое передается во второй фрагмент знаний. В нем вычисляются апостериорные вероятности всех элементов. Как было показано, в частности, в [4, 5], апостериорные вероятности на общем подыдеале конъюнктов совпадают.

Расчеты ведутся по формулам

Ра ХВД (Ра V

Р

ру

Р[а]

V

Ра (У\ (Р[а] (К,) ))=ЕР (ЪШ) Р[а] (Уе) = £ ( ^

Хг Р

Ры[У = Ра V К Р[а] V

Ра [УХ2\ (р1а] (V))) = V) = \_'Ра М Ыа] (Уе

Р V

р V

/ (~\\\ рО^)^р(ухЛ

Ра [УХ2 | (Р[а] [У)))= ^^РЫ I У

Р V

ХХ1

Р V

Ра [V XV 2 | (Р[а] [Уе))) = Ра [V Х(2И Р[а] [V) = Ра [V И Р[а] ( V

При расчетах надо учитывать, что Уе имеет общие аргументные места с XV. Означивания общих аргументных мест в формулах (1)-(5) должны совпадать.

С помощью композиции [2-4] построим общее распределение над объемлющим фрагментом знаний Cw, согласованное с двумя исходными:

0, РП1 (У) = о,

РУГ [Х1УХ2) = <1 рих{ХхУ)ру2{УХ2)

риЛУ)

Ри1 (V)= 0.

Заметим сразу, что таким образом мы предположили, что справедлива гипотеза условной независимости:

р{Х-1 VX2 Р V = р{Х-1 V Р VXfП .

(8) 53

Зададимся вопросом, что будет происходить при пропагации свидетельства во фрагменте знаний Cw:

р

р

ра (Х^| V ра (V

р г;

р^!/) Х2) !

р

р ^е

^^ра ^е

XX1

ра

р[Х1У)р[УХ2) р[УХ2

^ р (у) Р (у£

р(у Х2

Р_[ЪУ Р[У) х, р(Ъ

У> [Х1Ш

р(^) 1X1 1

Если задано (р[а] /, то по [5] и (12) получим

р V ^2

р V

р ^

ра (уХ2^рЫ !))) = ра (^2|Ve) р[а] (V

р

р[а]

Ve

р(ух2) р(Х1У) р(у) Я1 р(уе

р[а]

Ve^ .

Формула (13) дает тот же результат, что и (5). Следовательно, если над двумя фрагментами знаний построен объемлющий фрагмент знаний с распределением, которое является композицией распределений (7) на исходных фрагментах, то результаты распространения свидетельств по формулам (1)-(6) и в объемлющем фрагменте знаний, выполненного по определению [5], совпадают. Или, что то же, при выполнении гипотезы условной независимости (8) можно использовать формулы (1)-(6) для получения тех же результатов апостериорного вывода. Напомним формулу, использующуюся для определения условной вероятности:

p(XlVXП = р vX2|Xl р Х1 .

Пусть для вывода применены формулы (1)-(6). Тогда условная вероятность фактически рассчитывается как апостериорная (считаем, что поступило детерминированное

свидетельство Х1 ):

р VX2|Xl = ра [VX2|( Х1

Исходя из (1)-(6), получим

ГМ^ = ра ^ | Х1 =

р {VXl

рХ

ра ( V Х2 | у рщ [V))) =

р

р V

р[а]

V

ра VX2K р[а] Х1

р (уХ2) р (У/Х^

р (V) р X

у_ _ _ к р^Х^ р [УXl) У у ру) р (Х1

Подставим выражение (18) в формулу (14):

р П р X

р V

р (yXlVX^ р (V) = р (Х1V) р (^Х^.

Формула (19) говорит о том, что распространение свидетельства по формулам (1)-(6) имплицитно индуцирует распределение над X-\VX2, полуученное как композиция по (7), а формула (20) - что индуцированное распределение р ^Х1VX2^ удовлетворяет

определению условной независимости Х1 от Х2 при известном означивании V.

Апостериорный вывод: общая схема. Пусть в узел дерева смежности (т. е. во фрагмент знаний) поступило свидетельство одного из ранее упомянутых видов. Очередная задача - распространить его влияние на каждый фрагмент знаний, входящий в АБС, представленную в виде дерева смежности. Сведем задачу к уже известным операциям над более простыми объектами.

Во-первых, укажем на то, что между узлом, в который поступило свидетельство, и любым другим узлом существует путь (без самопересечений!), поскольку рассматриваются только связные графы. Этот путь единственный, поскольку если существовал бы хотя бы еще один отличный от него путь, то тогда оба пути образовали бы цикл. Но циклы в дереве смежности невозможны по определению.

Во-вторых, заметим, что указанный путь можно рассматривать как цепь смежности из фрагментов знаний [8, 9]. Если мы сможем распространить свидетельство вдоль такой цепи [4], то сможем распространить его влияние вообще во все узлы АБС, пред-ставимой в виде дерева смежности.

1

1

1

В-третьих, воспользуемся тем, что свидетельство в цепи смежности можно последовательно распространять от узла к узлу (т. е. от одного фрагмента знаний к другому), опираясь на предложенный выше алгоритм, использующий виртуальные свидетельства.

Таким образом, удалось построить схему алгоритма распространения свидетельства в АБС со структурой дерева смежности. Она существенно опирается на формирующиеся в процессе вычислений виртуальные свидетельства. К сожалению, рассматриваемый алгоритм неприменим непосредственно к произвольному графу смежности. Если этот граф содержит цикл, то в какой-нибудь фрагмент знаний могут поступить два виртуальных свидетельства или более; в теории АБС пока не предложен алгоритм комбинирования таких виртуальных свидетельств. Однако можно попытаться избавиться от цикла за счет использования «перемычек» и его преобразования в цепь смежности фрагментов знаний (один из способов преобразования цикла описан в [4]).

Наконец, сформулируем последнюю задачу настоящей работы - существует ли такое распределение вероятностей над фрагментом знаний, объемлющем цепь смежности фрагментов, при котором результаты апостериорного вывода по поступившему свидетельству в объемлющем фрагменте знаний и в цепи их смежности совпали бы. А если существует, то каким образом это распределение выделяется из семейства возможных распределений вероятностей? Аналогичный вопрос ставится и относительно АБС, пред-ставимой в виде дерева смежности: существует ли распределение вероятностей такого же рода над фрагментом знаний, в который может быть погружена исходная АБС, чтобы результаты апостериорного вывода над АБС и объемлющем ее фрагменте знаний совпадали бы.

Утверждение. Пусть задана непротиворечивая АБС N со скалярными оценками вероятностей истинности своих элементов, представимая в виде дерева смежности, и объемлющий ее фрагмент знаний С. На фрагменте знаний С распределение вероятностей получено последовательным применением композиции (7) [2-4] к распределениям вероятностей над фрагментами знаний из АБС N. Тогда пропагация стохастического свидетельства, поступающего в один из фрагментов знаний исходной АБС, даст одинаковые результаты при пропагации в N по формулам (1)-(6) (т. е. через распространение виртуальных свидетельств) и при пропагации в С по формулам из [4, 5].

Доказательство производится по индукции по числу фрагментов знаний в дереве смежности. База индукции для дерева смежности, состоящего из двух фрагментов знаний, доказана выше (см. (9)-(13) и (15)-(20)).

Пусть теперь утверждение справедливо для всех деревьев смежности с числом фрагментов знаний п — 1 и меньше, п ^ 3. Выберем фрагмент знаний, который является листом дерева смежности (напомним, что в таком дереве имеется не менее двух листьев), и исключим его из дерева смежности. Для получившегося дерева смежности утверждение справедливо, результаты апостериорного вывода двумя способами совпадают. Погрузим это дерево в объемлющий фрагмент знаний. Тогда из получившегося фрагмента знаний и фрагмента знаний-листа, который был исключен, получается новое дерево смежности, состоящее всего из двух фрагментов знаний, для которого утверждение также справедливо. Индукционный переход завершен.

Если детерминированное свидетельство поступает не в один фрагмент знаний, а в несколько, тогда его надо разбить на непересекающиеся части, каждая из которых будет поступать только в один фрагмент знаний. Затем каждую часть надо последовательно рассматривать как отдельное детерминированное свидетельство и про-пагировать их по формулам (1)-(6) одно за другим в АБС, представимой в виде дерева

смежности. Поскольку данный способ пропагации индуцирует одно и то же распределение на объемлющем фрагменте знаний, порядок поступления частей детерминированного свидетельства не скажется на результатах. Они не будут зависеть от порядка поступления частей детерминированного свидетельства, т. е. результаты апостериорного вывода по формулам (1)-(6) в АБС, представимой в виде дерева смежности, устойчивы к порядку поступления детерминированных свидетельств. Заметим, что если в такую АБС поступает стохастическое свидетельство, то результаты его пропагации вычисляются на основе пропагации соответствующих детерминированных свидетельств.

Заключение. Применение теории АБС находит свое место как в фундаментальных исследованиях, так и в практике при проектировании и разработке комплексов программ.

В «конкурирующей» теории байесовских сетей доверия (БСД) [10, 11] на глобальную структуру основного объекта изучения (указанные БСД) накладывается достаточно жесткое ограничение - в ориентированном графе-носителе сети не допускаются направленные циклы. При этом ненаправленные циклы допускаются, но при переходе к задачам первичной пропагации и пропагации свидетельств сеть с ненаправленным циклом должна быть преобразована в новый объект - в дерево сочленений, для которого затем и реализуются указанные виды пропагации. Полученные результаты преобразуются вновь, чтобы их можно было приписать узлам исходной сети.

Четкого ответа на вопрос, почему невозможна обработка направленного цикла, монографии по теории БСД не содержат. В ряде работ, например [12-16], удалось разработать алгоритмы преобразования направленного цикла БСД в цикл фрагментов знаний АБС, который, в свою очередь, допускает преобразование как в объемлющий фрагмент знаний, так и в цепь фрагментов знаний АБС. С одной стороны, было доказано, что исходный цикл и построенные из него фрагмент знаний и цепь фрагментов знаний имеют одинаковую вероятностную семантику: задают одно и то же семейство распределений вероятности или не задают никакого (в случае противоречивости исходных данных). С другой стороны, в рамках теории АБС два последних объекта допускают как анализ, так и реализацию алгоритмов обработки, аналогичных по задачам алгоритмам первичной пропагации и пропагации свидетельств.

Было установлено [15], что без изменения ключевых положений направленный цикл не может быть обработан в рамках теории БСД, поскольку он либо задает семейство распределений вероятности, либо противоречив. Обработка семейства распределений требует манипуляций с неточными вероятностями (т. е. с согласованными совокупностями интервальных оценок вероятности), а в теории БСД не выработано систематического подхода к обработке интервальных оценок. В указанной теории также не обеспечивается проверка на непротиворечивость исходных данных - в случае скалярных оценок и ациклической структуры сети она не нужна, а случай интервальных оценок, как отмечалось, еще не рассматривался. Таким образом, теория АБС позволяет анализировать и обрабатывать объект, подхода к анализу и обработке которого нет в теории БСД.

АБС также используются для представления и обработки особого класса скрытых марковских моделей [17, 18]. За счет применения указанного представления удалось предложить новый алгоритм (с повышенным быстродействием) для расчета оценки вероятности наблюдаемой последовательности [19]. Изучение самых разных видов скрытых марковских моделей в настоящее время актуализировалось, в частности, в связи с особой востребованностью развития математических основ геномики и биоинформатики.

Теория АБС вносит свой вклад и в автоматическое обнаружение закономерностей, а также в систему методов представления этих структурно-сложных закономерностей в виде, обозримом и удобном для «конечного пользователя» (имеется в виду специалист, который не является экспертом в теории вероятностных графических моделей, а ведет свою профессиональную деятельность в иной предметной области). В случае вероятностных графических моделей, к которым относятся и АБС, автоматическое обнаружение закономерностей связано с автоматическим обучением самих моделей: параметрическим синтезом, синтезом локальной структуры, синтезом глобальной структуры. Хотя ряд вопросов в отношении реализации указанных видов синтеза в отношении АБС остается открытым, уже получено несколько результатов, позволяющих построить вторичную глобальную структуру АБС (граф смежности) по ее первичной структуре (набору фрагментов знаний) [9, 20-22].

АБС дают возможность решать задачи, связанные с синтезом данных и знаний на основе нечисловой, неточной, неполной информации, полученной из различных источников, причем указанным источникам может быть приписана оценка их значимости или достоверности, а может и нет [23, 24]. Кроме того, концепция «накрывающей непротиворечивости» позволяет в рамках теории АБС синтезировать непротиворечивые базы фрагментов знаний на основе несогласованной исходной информации [4, 23].

Наконец, полученные теоретические результаты, отраженные в настоящей и серии предшествующих публикаций [4, 7, 8, 23, 25-27], применены при проектировании и реализации объектно-ориентированной Java-библиотеки, поддерживающей представление АБС и их фрагментов, а также выполнение в них ряда операций логико-вероятностного вывода: проверки и поддержания непротиворечивости, априорного и апостериорного выводов [28-30].

Литература

1. Городецкий В. И. Байесовский вывод: препринт ЛИИАН № 149. Л.: ЛИИАН, 1991. 38 с.

2. Тулупьев А. Л. Алгебраические байесовские сети: теоретические основы и непротиворечивость. СПб.: СПИИРАН, 1995. 76 с.

3. Тулупьев А. Л. Алгебраические байесовские сети: логико-вероятностный подход к моделированию баз знаний с неопределенностью. СПб.: СПИИРАН, 2000. 282 с.

4. Тулупьев А. Л., Николенко С. И., Сироткин А. В. Байесовские сети: логико-вероятностный подход. СПб.: Наука, 2006. 607 с.

5. Тулупьев А. Л. Алгебраические байесовские сети: локальный логико-вероятностный вывод: учеб. пособие. СПб.: Изд-во С.-Петерб. ун-та; ООО Изд-во «Анатолия», 2007. 80 с.

6. Тулупьев А. Л. Алгебраические байесовские сети: глобальный логико-вероятностный вывод: учеб. пособие. СПб.: Изд-во С.-Петерб. ун-та; ООО Изд-во «Анатолия», 2007. 40 с.

7. Тулупьев А. Л. Непротиворечивость оценок вероятностей над идеалами конъюнктов и дизъюнктов // Вестн. С.-Петерб. ун-та. Сер. 10: Прикладная математика, информатика, процессы управления. 2009. Вып. 2. С. 121-131.

8. Тулупьев А. Л. Непротиворечивость оценок вероятностей в алгебраической байесовской сети // Вестн. С.-Петерб. ун-та. Сер. 10: Прикладная математика, информатика, процессы управления. 2009. Вып. 3. С. 144-151.

9. Тулупьев А. Л., Столяров Д. М., Ментюков М. В. Представление локальной и глобальной структуры алгебраической байесовской сети в Java-приложениях // Труды СПИИРАН. 2007. Вып. 5. С. 71-99.

10. Jensen F. V. Bayesian Networks and Decision Graphs. New York: Springer-Verlag, 2001. 268 p.

11. Perl J. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. New York e.a.: Morgan Kaufmann Publ., 1994. 552 p.

12. Николенко С. И., Тулупьев А. Л. Простейшие циклы в байесовских сетях доверия: распределение вероятностей и возможность его непротиворечивого задания // Труды СПИИРАН. 2005. Вып. 2, т. 1. C. 119-126.

13. Tulupyev A. L., Nikolenko S. I. Directed Cycles in Bayesian Belief Networks: Probabilistic Semantics and Consistency Checking Complexity // Advances in Artificial Intelligence. Lecture Notes in Artificial Intelligence (LNAI)-3789. Berlin: Springer, 2005. P. 214-223.

14. Тулупьев А. Л., Николенко С. И., Сироткин А. В. Циклы в байесовских сетях: вероятностная семантика и отношения с соседними узлами // Труды СПИИРАН. 2006. Вып. 3, т. 1. С. 240-263.

15 Тулупьев А. Л. Байесовские сети: логико-вероятностный вывод в циклах. СПб.: Изд-во С.-Петерб. ун-та, 2008. 140 с.

16. Тулупьев А. Л. Согласованность данных и оценка вероятности альтернатив в цикле стохастических предпочтений // Изв. высших учебных заведений. Приборостроение. 2009. № 7. С. 3-8.

17. Момзикова М. П., Великодная О. И., Пинский М. Я. и др. Представление бинарных линейных по структуре скрытых марковских моделей в виде алгебраических байесовских сетей // Труды СПИИРАН. 2010. Вып. 12. С. 134-150.

18. Момзикова М. П., Великодная О. И., Пинский М. Я. и др. Оценка вероятности наблюдаемой последовательности в бинарных линейных по структуре скрытых марковских моделях с помощью апостериорного вывода в алгебраических байесовских сетях // Труды СПИИРАН. 2010. Вып. 13. С. 122-142.

19. Пинский М. Я., Сироткин А. В., Тулупьев А. Л., Фильченков А. А. Повышение быстродействия алгоритма оценки наблюдаемой последовательности в скрытых марковских моделях на основе алгебраических байесовских сетей // Науч.-техн. вестн. С.-Петерб. гос. ун-та информ. технологий, механики и оптики. 2011. № 5(75). С. 69-73.

20. Опарин В. В., Фильченков А. А., Сироткин А. В., Тулупьев А. Л. Матроидное представление семейства графов смежности над набором фрагментов знаний // Науч.-техн. вестн. С.-Петерб. гос. ун-та информ. технологий, механики и оптики. 2010. № 4(68). С. 73-76.

21. Фильченков А. А., Тулупьев А. Л., Сироткин А. В. Структурный анализ клик максимальных графов смежности алгебраических байесовских сетей // Вестн. Тверск. гос. ун-та. Сер. Прикладная математика. 2011. № 20. С. 139-151.

22. Фильченков A. A. Алгоритмы построения третичной структуры алгебраической байесовской сети // Труды СПИИРАН. 2011. Вып. 17. С. 197-218.

23. Тулупьев А. Л., Сироткин А. В., Николенко С. И. Байесовские сети доверия: логико-вероятностный вывод в ациклических направленных графах. СПб.: Изд-во С.-Петерб. ун-та, 2009. 400 с.

24. Тулупьев А. Л. Алгебраические байесовские сети: система операций локального логико-вероятностного вывода // Информационно-измерительные и управляющие системы. 2009. № 4. С. 41-44.

25. Тулупьев А. Л. Композиция распределений случайных бинарных последовательностей // Информационные технологии и интеллектуальные методы. 1996. Вып. 1. СПб.: СПИИРАН, 1996. С. 105-112.

26. Тулупьев А. Л. Апостериорные оценки вероятностей в идеале конъюнктов // Вестн. С.-Петерб. ун-та. Сер. 10: Прикладная математика, информатика, процессы управления. 2010. Вып. 1. С. 95-104.

27. Тулупьев А. Л., Горшков А. С., Сироткин А. В. и др. Моделирование систем «личность-деятельность-эффективность» на основе байесовских сетей: постановка проблемы // Труды СПИИРАН. 2008. Вып. 6. С. 198-202.

28. Тулупьев А. Л. Система для представления алгебраических байесовских сетей и их фрагментов Algebraic Bayesian Networks Modeler, Version 01 for Java (AlgBN Modeler j.v.01): свидетельство об официальной регистрации программы для ЭВМ № 2009613802 от 16.07.2009 (Роспатент).

29. Тулупьев А. Л. Система для синтеза непротиворечивых алгебраических байесовских сетей и их фрагментов Algebraic Bayesian Networks Inferrer, Version 01 for Java (AlgBN Inferrer j.v.01): свидетельство об официальной регистрации программы для ЭВМ № 2009613803 от 16.07.2009 (Роспатент).

30. Тулупьев А. Л. Система для апостериорного вывода в алгебраических байесовских сетях и их фрагментах Algebraic Bayesian Networks Propagator, Version 01 for Java (AlgBN Propagator j.v.01): свидетельство об официальной регистрации программы для ЭВМ № 2009613804 от 16.07.2009 (Роспатент).

Статья рекомендована к печати член-кор. РАН, проф. Г. А. Леоновым. Статья принята к печати 28 февраля 2012 г.