Прогнозирование в системах распознавания образов на основе скрытых марковских моделей

УДК 681.3.07

М. Н. Фаворская, Н. Д. Торгашин, А. Г. Зотин

ПРОГНОЗИРОВАНИЕ В СИСТЕМАХ РАСПОЗНАВАНИЯ ОБРАЗОВ НА ОСНОВЕ СКРЫТЫХ МАРКОВСКИХ МОДЕЛЕЙ

Показана возможность применения скрытых марковских моделей в различных предметно-ориентированных системах распознавания образов. Анализируются алгоритмы прогнозирования на их основе. Рассмотрены возможные топологии скрытых марковских моделей. Приведен подробный пример распознавания речевых образов конечного тематического словаря.

В теории распознавания образов имеется ряд задач, в которых используется не адаптация вероятностных моделей, а метод сокращения поиска, аналогичный схеме интерпретационного дерева. Основными составляющими такого метода являются следующие допущения:

- имеется последовательность случайных переменных, каждая из которых условно независима от всех других, кроме предшествующей переменной;

- каждая случайная переменная характеризуется измерениями, распределение вероятностей которых зависит от состояния.

Таким элементам соответствует очень эффективная формальная модель, известная как скрытая марковская модель (СММ). Эти модели успешно используются в системах распознавания речи. При этом скрытые состояния описывают речевую систему, а под наблюдениями понимаются различные акустические измерения. Обычно СММ соотнесена с каждым словом. Далее эти модели связываются воедино с использованием модели языка, которая задает вероятность появления следующего слова в зависимости от распознанного текущего слова. В результате получается другая (возможно, большая) скрытая марковская модель. Предложение, представленное набором акустических измерений, строится с помощью алгоритма логического вывода, примененного к модели языка. Данную методику можно перенести и на язык жестов.

Человеческие жесты подобны звукам человеческой речи: обычно имеются определенная последовательность событий и измерения, полученные от этих событий, но не определяющие их. Программа чтения языка жестов по видеозаписи некоторого человека должна давать для каждого жеста заключение о внутреннем состоянии. Вывод о нем программа делает, исходя из измерений положения рук, которые, как правило, не бывают точными и выверенными, а зависят (в идеальном случае - весьма сильно) от эмоционального состояния. Жесты следуют друг за другом случайно, но достаточно упорядоченно. При этом некоторые последовательности состояний появляются редко или не появляются никогда. Это означает, что для определения реальной картины можно использовать и измерения, и относительные вероятности различных последовательностей жестов. Данный подход также применим к построению формальных систем жестов. Например, если требуется разработать систему, которая включает телевизор при одном движении руки и выключает его при другом, то данный набор жестов можно рассматривать как сильно ограниченный язык.

Последовательность случайных переменных Хп называется марковской цепью, если выполняется равенство

Р (Хп = а | Хп-1 = Ь, Хп-2 = с, ..., Х0 = х ) = Р (Хп = а | Хп-1 = Ь),

и однородной марковской цепью, если данная вероятность не зависит от параметра п. Марковские цепи можно рассматривать как последовательности с небольшой памятью, в которой новое состояние зависит только от предыдущего состояния, а не от всей предыстории. Данное свойство очень полезно при моделировании, поскольку на его основе можно построить множество простых алгоритмов логического вывода. Отметим, что формы записи марковских цепей в дискретных и непрерывных пространствах состояний несколько различны и далее мы будем рассматривать только дискретный случай.

Предположим, что дано дискретное пространство состояний (при этом размерность пространства не существенна). Обозначим элементы пространства как 5. и предположим, что всего имеется к элементов. Также примем, что дана последовательность случайных переменных, принимающих значения из этого конечного пространства состояний, причем переменные формируют однородную марковскую цепь. Далее запишем

Р X = 5, I X,-, = 5 ) = Рг1, и поскольку цепь не зависит от п, то от п также не зависит р.. Далее можно записать матрицу Р, элементр.которой описывает поведение цепи. Такая матрица называется матрицей переходов. Предположим, что Х0 имеет распределение вероятностей Р(Х0 = 5.) = п., и запишем п как вектор, г-й элемент которого равен п.. Это означает, что

Р(Х = = sJ\ Х0 = si) Р(Х0 = si) =

-=1

= ХР(Х 1 = ^ I Х0 = ^) =ХР >

i=l -=1

так что распределение вероятностей для состоянияX, записывается как РТп. Следуя аналогичным рассуждениям можно показать, что распределение вероятностей для состояния X описывается выражением (Р^)пп. Для всех марковских цепей существует по крайней мере одно такое распределение п*, что п* = РТ п*. Оно называется стационарным распределением цепи.

Доказано, что марковские цепи позволяют создавать довольно простые информативные схемы. Так, например, можно изобразить взвешенный направленный граф с узлом для каждого состояния и весовым коэффициентом на каждом ребре, который указывает вероятность перехода между состояниями. В простой марковской цепи (рис. 1) вероятность перехода из состояния 1 в состояние 2 равна р, для перехода из состояния 1 в состояние 1 эта вероятность составляет (1 - р) и т. д. Данную цепь можно

описать матрицей переходов. Стационарное распределение цепи равно q / (р + q),р / (р + q). Если значениер мало, а значение q близко к единице, то цепь будет находиться в основном в состоянии 1. Если обе величины: р и q - малы, то цепь длительное время будет находиться в одном из состояний, перемещаться в другое состояние и там проводить значительный интервал времени.

Рис. 1. Простая марковская цепь из двух состояний

При наблюдении случайной переменной X логический вывод прост, поскольку известно, в каком состоянии находится цепь. Однако такая модель не является адекватной моделью наблюдаемого объекта. Лучшую модель можно получить, приняв, что для каждого элемента последовательности наблюдается иная случайная переменная, распределение вероятности которой зависит от состояния цепи, а именно: от некоторой переменной У, причем распределение вероятностей в г-й точке определяется как

Р ( Уп IX = 5. ) = qi (Уп).

Эти элементы можно представить в виде матрицы О. Таким образом, для задания скрытой марковской модели требуется обеспечить процесс перехода между состояниями, связи между состоянием и распределением вероятности переменной Уп, а также знать исходное распределение состояний. Это означает, что модель записывается как (Р, О, п). Кроме того, предполагается, что пространство состояний имеет к элементов.

Рассмотрим, каким образом производятся вычисления с использованием СММ. Имеются две подзадачи этого процесса:

- логический вывод, когда требуется определить, какой исходный набор состояний привел к наблюдаемому результату. Это позволяет сделать заключение, какую песню поет певец или какие действия совершают движущиеся объекты;

- подбор, когда требуется выбрать СММ, хорошо представляющую последовательность предыдущих наблюдений.

Одним из наиболее эффективных подходов к решению подзадачи логического вывода является построение решетчатой модели и определение лучшего пути с помощью динамического программирования или алгоритма Витерби [1].

Пусть дан набор из N измерений У., которые предположительно являются выходом скрытой марковской модели. Такие измерения можно поместить в структуру, называемую решеткой. Под решеткой понимается взвешенный направленный граф, состоящий из N копий пространства состояний, которые расположены столбцами, при этом каждому измерению соответствует столбец (рис. 2). С узлом, представляющим состояние X, в столбце, соответствующем У, соотносится весовой коэффи-

циент log q(Yj). Элементы различных столбцов обрабатываются следующим образом. Рассмотрим столбец, соответствующий У. Элемент в данном столбце, представляющий состояние Xk, объединяется с элементом в столбце, соответствующем Y+1 и представляющем состояние X, еслиpkl не равно нулю. Ребро - это возможный переход между данными состояниями. Весовой коэффициент этого ребра равен log pkl.

Рис. 2. Построение решетчатой модели: а - простая модель переходов между состояниями; б - решетка, соответствующая данной модели

Решетка обладает следующим свойством: каждый направленный путь через решетку представляет возможную последовательность состояний. Поскольку каждая вершина решетки умножается на весовой коэффициент, равный логарифму вероятности ухода из вершины, а каждое ребро учитывается с весовым коэффициентом, равным логарифму вероятности перехода, то правдоподобие последовательности состояний можно получить, определив путь, соответствующий данной последовательности, и просуммировав весовые коэффициенты ребер и вершин вдоль пути. В результате к такой структуре применимы методы динамического программирования, а также алгоритм Витерби для получения эффективного поиска максимально правдоподобного пути.

Работа алгоритма по методу динамического программирования начинается с последнего столбца решетки. Изначально известен логарифм правдоподобия пути с одним состоянием, оканчивающимся в каждой вершине, поскольку данное значение является весовым коэффициентом этой вершины. Затем рассмотрим путь с двумя состояниями, который начинается в предпоследнем столбце решетки. Далее легко получить наилучший путь, выходящий из вершины в этом столбце. Перейдем теперь к вершине. Нам известен весовой коэффициент каждого ребра, покидающего вершину, и весовой коэффициент

вершины в конце ребра. Таким образом, можно выбрать сегмент пути с наибольшим значением суммы, и такое ребро будет наилучшим ребром, выходящим из данной вершины. Для каждой вершины ее весовой коэффициент складывается со значением наилучшего сегмента пути, покидающего вершину весовой коэффициент ребра плюс весовой коэффициент конечного узла. Такая сумма будет наилучшим значением, которое можно получить при достижении данной вершины (назовем это значение значением вершины).

Поскольку известно наилучшее значение, которое можно получить при достижении каждой вершины во втором от конца столбце, то можно вычислить наилучшее значение, получаемое при достижении каждой вершины в третьем от конца столбце. Затем в каждой вершине третьего от конца столбца проверяются ребра, каждое из которых входит в вершину, с известным значением. Выберем ребро с наибольшим значением величины (вес ребра плюс значение вершины), прибавим это значение к весовому коэффициенту начальной вершины в третьем от конца столбце и получим значение начальной вершины. Данный процесс можно повторять до получения значения каждой вершины первого столбца, при этом наибольшее значение является максимально правдоподобным. Таким образом получается путь с максимальным значением функции правдоподобия. При вычислении значения вершины удаляются все ребра, покидающие вершину, кроме лучшего ребра. После достижения первого столбца далее просто необходимо идти по пути от узла с наилучшим значением.

Вернемся к постановке задачи логического вывода. Пусть имеется ряд наблюдений {У0, У1, ..., Уп} и требуется получить последовательность п + 1 состояний = {50, 51, ..., Sn}, максимизирующих величину

Р^| {Уо, У1, ..., Уп}, (Р, О, п)),

что равносильно максимизации совместного распределения

Р^, {Уо, У1, ..., Уп}, (Р, О, р)).

Для решения поставленной задачи, как правило, применяется алгоритм Витерби, в котором проверяется (п + 1)-й путь от состояния S0 до состояния Sn. Всего существует кп+1 таких путей, поскольку в каждом состоянии можно выбирать любой элемент пути (предполагается, что в матрице Р отсутствуют нули и в большинстве случаев количество путей составляет 0(кп+1)). Однако проверять каждый путь здесь не требуется.

Опишем общий подход к реализации данного алгоритма. Предположим, что для каждого возможного состояния 51 известно значение совместной вероятности для лучших путей из п элементов, оканчивающихся в Sn1 = sr Таким образом, путь, максимизирующий по значениям мест соединений путь в (п + 1)-й элемент, должен включать один из упомянутых выше путей, удлиненный на один шаг.

Нахождение пути с максимальным значением совместной вероятности можно сформулировать как задачу с индукцией. Предположим, что для каждого значения j состояния St_1 известно значение фрагмента наилучшего пути, оканчивающегося в St_1 =у, которое запишем как

8,-1О) = , тах Р^, ..., = -,

Л0 5 *->1 >...> оп-2

{Уо, У1, к, У,-1} | (Р, П, я)).

Теперь получим

8,СО = Стах 8,-1

При этом должны быть известно не только максимальное значение, но и путь, приводящий к этому значению. Определим переменную

¥, О) = (атятах 8,-1 ) р.),

- лучший путь, оканчивающийся в St =у. Таким образом, индуктивный алгоритм получения наилучшего пути можно определить следующим образом. Пусть известен наилучший путь в каждое состояние для ^ - 1)-го измерения. Для каждого состояния при ^м измерении вычисляется наилучшее состояние при ^ - 1)-м измерении. Поскольку известен лучший путь из текущей точки, то можно предположить, что имеется лучший путь в каждое состояние и для ^го измерения. При этом считается, что лучший путь к каждому доступному состоянию на первом шаге известен.

Остановимся на задаче выбора скрытой марковской модели, наилучшим образом представляющей набор данных. Для этого можно использовать версию алгоритма ожидания-максимизации (ОМ-алгоритм). В этом алгоритме предполагается, что дана скрытая марковская модель (Р, О, п). Требуется использовать эту модель для конкретного набора данных, чтобы получить и оценить новый набор значений указанных параметров (Р*, О*, п*). Имеются два варианта решения [2]: Р( Y | (Р*, О*, п*)) > P(Y | (Р, О, п)) или (Р*, О*, п*) = (Р, О, п), т. е. данная итерация гарантированно сходится к локальному максимуму величины Р^ | (Р, О, п)). Обновленные значения параметров модели имеют следующий вид:

-р*„ вычисляется как отношение ожидаемого числа переходов из состояния 5. в состояние 5к ожидаемому числу переходов из состояния 5.;

- q^(k) определяется как отношение ожидаемого времени нахождения в состоянии 5. и наблюдения Y = ук к ожидаемому времени нахождения в состоянии 5.;

- п*. равно ожидаемой частоте нахождения в состоянии 5. в момент 0.

Требуется вычислить данные выражения. В частности, необходимо определить величину

Р(Х = 5,, ^ = 5. I Y, (Р, О, п) ), которую обозначим как £((г,у). Если известно значение Ъ,(^, у), то получаем, что ожидаемое числа переходов из состояния 5. в состояние 5. равно

Вд^).

I=о

Ожидаемое число попаданий в состояние 5. равно ожидаемому числу переходов из состояния 5.:

п к }

X X ъ ^.).

,=0 .=1

Ожидаемая частота нахождения в состоянии 5. в момент 0 определяется как

X ^ .х

.=1

а ожидаемое время нахождения в состоянии 5. и наблюдения (Y=ук) - как

X X ^ ^ .8(У, У* ^

,=0 .=1

где выражение 8(и, у) равно единице, если аргументы равны, и равно нулю в противном случае. Для оценки выражения ^(г', у) требуется определить две промежуточных переменных: прямую переменную

а

и переменную обратного пути

в, (у')=Р({У+1, У+2, ..., Уп} I X,=5., (Р, о, п)).

Приведенные выше алгоритмы не учитывают топологии графа, на основе которого построена модель. Наиболее известны две разновидности топологии СММ (рис. 3): полный граф (рис. 3, а) и лево-правая модель, или модель Бакиса (рис. 3, б).

Рис. 3. Примеры топологии скрытых марковских моделей: а - полносвязная или эргодическая модель; б - лево-правая модель с четырьмя состояниями при условии j > i + 2

Граф, каждая вершина которого связана со всеми другими вершинами в обоих направлениях, называется полным графом. Недостатком использования полных графов является необходимость оценки большого числа параметров.

В практических приложениях обычно используют другие варианты. Так, лево-правая модель имеет следующее свойство: из состояния г модель может переходить только в состояние у > г. Это означает, что для у < г вероятность переходар. равна нулю. Более того, п1 = 1 и для всех г Ф 1 вероятностьр равна нулю. Это говорит о том, что матрица переходов Р является верхней треугольной матрицей. И лево-правая модель с п состояниями после перехода в п-е состояние будет в нем оставаться.

Следует отметить, что в данной модели фиксируется порядок, в котором могут происходить события. Это может быть удобным, если скрытые марковские модели используются для кодирования различной информации о движении или речевой информации.

Общая лево-правая модель предполагает, что большое число событий может пропускаться, т. е. состояние процесса может развиваться свободно. Однако на практике маловероятно, что будет пропущено не одно-два измерения или одно-два состояния, а большой набор состояний. Обычно принято использовать дополнительное условие, что для у > г + 8, р = 0. Здесь в качестве 8 обычно выбирается небольшое значение.

Исследования показали, что ограничения топологии лево-правой модели не влияют на работу алгоритмов: если модель конкретной топологии имеет нули на определенных местах матрицы переходов, то новая оценка матрицы переходов будет иметь нули в тех же положениях.

В качестве примера рассмотрим математическую модель словаря распознавания звуковых образов слов «Да» и «Нет» (рис. 4). Он включает два уровня, представляющих различные аспекты речи человека: акустический и лингвистический.

Акустический уровень системы распознавания речи содержит множество скрытых марковских моделей отдельных слов. Скрытыми состояниями системы являются отдельные звуки речи (фонемы или их составные части - аллофоны), а в качестве наблюдений выступают элементы специальной кодовой книги. Эти элементы вычисляются при помощи метода векторного квантования на-

бора акустических измерений, получаемого на этапе анализа звукового сигнала.

Лингвистический уровень представляет собой обобщенную модель словаря распознавания. Состояния системы на данном уровне представлены отдельными словами. Для определения параметров модели требуется задать множество исходных вероятностей выбора начального состояния и условные вероятности переходов между состояниями. Обычно эту информацию получают путем статистического анализа достаточно большого по объему текста на языке распознавания.

При практической реализации системы распознавания речи нецелесообразно производить построение, определять параметры и хранить в памяти отдельные СММ для каждого распознаваемого системой слова, что приводит к неоправданному увеличению требований к занимаемой памяти и снижению производительности, которая является критичной для обеспечения возможности работы в реальном масштабе времени. Более рациональным является разбиение слова распознаваемого словаря на некоторые составные части, для каждой из которых строится СММ на акустическом уровне. В процессе работы алгоритма распознавания построение моделей отдельных слов производится путем динамического объединения моделей составных частей, входящих в их состав. В то же время на лингвистическом уровне модель словаря должна в полной мере определять вероятности произ-

несения и вероятности взаимных переходов для всех распознаваемых слов. На этом уровне модель применяется без каких-либо модификаций, а необходимая производительность достигается за счет применения специализированных алгоритмов, учитывающих разряженность матрицы вероятностей модели.

Таким образом, самым важным преимуществом СММ является простота логического вывода, которая вытекает из сильных структурных ограничений модели. В связи с этим важной темой исследований в сфере распознавания образов является поиск моделей, обладающих следующими свойствами: получением кадра с хорошей разрешающей способностью, возможностью использования относительно простых алгоритмов логического вывода, возможностью комбинации нескольких моделей для получения новых моделей.

Библиографический список

1. Volger, C. Parallel hidden markov models for American sign language recognition / C. Volger, D. Metaxas // Proceedings. Seventh International Conference on Computer Vision. 1999. P. 116-122.

2. Форсайт, Д. А. Компьютерное зрение. Современный подход : пер. с англ. / Д. А. Форсайт, Ж. Понс. М. : Вильямс, 2004. 928 с.

M. N. Favorskaya, N. D. Torgashin, A. G. Zotin

THE PREDICTION IN SYSTEMS OF PATTERN RECOGNITION BASED ON HIDDEN MARKOV MODELS

The using of hidden markov models in variable subject-oriented systems ofpattern recognition is represented in this paper. The algorithms of prediction based on these models are analyzed. The possible topologies of hidden markov models are considered. The example of recognition of sound patterns in restrict dictionary based on this model is discussed.