Агломеративная кластеризация речевых сегментов фонограммы на основе байесовского информационного критерия

АГЛОМЕРАТИВНАЯ КЛАСТЕРИЗАЦИЯ РЕЧЕВЫХ СЕГМЕНТОВ ФОНОГРАММЫ..

1. над проектом работает достаточно большое количество специалистов разных областей, что способствует быстрому накоплению ошибок в системе отслеживания задач;

2. актуальность и корректность данных в системе отслеживания задач напрямую влияет на ключевые характеристики проекта, такие как трудозатраты, или влияет на качество и работоспособность производимого продукта.

Работа выполнена при финансовой поддержке ФЦП «Научные и научно-педагогические кадры

инновационной России» на 2009-2013 годы (соглашение № 14.B37.21.0406).

Литература

1. Bessmertny I.A., Katerinenko R.S. The method of acceleration of logical inference in production knowledge model // Programming and Computer Software. - Springer, 2011. - V. 37. - № 4. - P. 197-199.

2. Бессмертный И.А. Теоретико-множественный подход к логическому выводу в базах знаний // Научно-технический вестник СПбГУ ИТМО. 2010. - № 2 (66). - С. 43-48.

3. Бессмертный И.А. Быстрый логический вывод в среде программирования Visual Prolog // Научно-технический вестник СПбГУ ИТМО. - 2010. - № 3 (67). - С. 50-56.

4. Iwaihara M., Inoue Y. Bottom-up Evaluation of Logic Programs Using Binary Decision Diagrams // Proc. 11th Int. Conf. Data Engineering. - Taipei, Taiwan, Mar. 1995. - P. 467-474.

5. Bryant R. Graph-based Algorithms for Boolean Function Manipulation // IEEE Transactions on Computers. - August 1986. - V. 35. - № 8. - P. 677-691.

6. Andersen H.R. An Introduction to Binary Decision Diagrams // Lecture notes for Advanced Algorithms. -Lyngby, Denmark, 1997. - P. 1-37.

Катериненко Роман Сергеевич

Бессмертный Игорь Александрович

Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики, аспирант, тпи-Works@gmail.com

Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики, кандидат технических наук, доцент, igor_bessmertny@hotmail.com

УДК 004.93+57.087.1

АГЛОМЕРАТИВНАЯ КЛАСТЕРИЗАЦИЯ РЕЧЕВЫХ СЕГМЕНТОВ ФОНОГРАММЫ НА ОСНОВЕ БАЙЕСОВСКОГО ИНФОРМАЦИОННОГО КРИТЕРИЯ О.Ю. Кудашев

Дано описание реализации системы агломеративной кластеризации речевых сегментов фонограммы на основе байесовского информационного критерия. Приведены результаты численных экспериментов с применением различных акустических признаков, а также с использованием полной и диагональной матриц ковариации. Для аудиозаписей радио «Свобода» на разработанной системе был достигнут уровень ошибки DER 6,4%.

Ключевые слова: кластеризация речевых сегментов, вариационный байесовский анализ, речевые технологии.

Введение

В последнее время наблюдается значительный рост интереса к системам автоматической сегментации фонограмм. Подобный рост вызван, в первую очередь, значительным увеличением объема звуковых данных, а также быстрым развитием технологий обработки речи. В значительной степени интерес научного сообщества в этой области поддерживается Национальным институтом стандартов и технологий (National Institute of Standards and Technology, NIST), разработавшим методику оценки качества систем автоматической обработки речи (Rich Transcription Evaluation Project, RTE) [1]. Одной из подзадач RTE является задача разделения дикторов (MDE (Metadata Extraction) Speaker Diarization), в рамках которой необходимо произвести кластеризацию (объединение) речевых сегментов фонограммы, принадлежащих одному диктору.

Задачи разделения дикторов и методы их решения можно классифицировать в соответствии с областью их применения. Так, для кластеризации речевых сегментов аудиозаписей диалогов наиболее эффективным методом является вариационный байесовский анализ в пространстве собственных голосов [2, 3]. Интересом данной работы являются аудиозаписи радиовещаний. Особенностью таких аудиозаписей является относительно редкая смена дикторов, а также отсутствие ограничения на их количество. Общепризнанным решением в этом случае является метод агломеративной кластеризации речевых сегментов на основе байесовского информационного критерия (Bayesian Information Criterion, BIC). Системы разделения дикторов, основанные на этом методе, зарекомендовали себя с точки зрения оптимального соотношения эффективности и производительности [4, 5].

Целью настоящей работы является реализация системы агломеративной кластеризации речевых сегментов на основе BIC. Кроме того, в данной работе будут представлены результаты применения разработанной системы к русскоязычному корпусу, в частности, к аудиозаписям радио «Свобода».

Применение BIC для кластеризации речевых сегментов

BIC является широко распространенным статистическим критерием, на основе которого производится выбор модели. В соответствии с этим критерием качество модели M, описывающей распределение данныхX={xb ..., xN}, xi е Rd, оценивается по формуле

BIC

где L(x1,...,xN | M) - функция правдоподобия; v(M) - число степеней свободы модели M (число свободных параметров); X - настраиваемое пороговое значение, теоретически равное 1.

Пусть даны два независимых набора данных X1, X2. Задача кластеризации наборов данных X1, X2 может быть сведена к задаче выбора модели. Рассмотрим две альтернативные модели:

1. модель M1 - данные X1 и X2 подчиняются одному гауссову распределению, {X1, X2} ~ N(ц, E).

2. модель M2 - данные X1 и X2 подчиняются двум различным гауссовым распределениям, {Xi}~ N(h,Ei), {X2}~ N(ц2,Е2).

Тогда, в соответствии с формулой (1),

BIC(Mi) = logL(Xi,X2 | ц,E)-Xv(Mi)log(Ni + N2),

BIC(M2) = logL(X1 |Ц1,Ei) + logL(X2 | Ц2,E2)-Xv(M2)log(N1 + N2),

где N1, N2 - количество данных в наборах X1 и X2 соответственно. Разницу между этими двумя значениями обозначим ABIC :

ABIC = BIC

L(XJ Ц1,E^L(X2 | Ц2,E2) 2

Положительное значение величины ABIC свидетельствует о том, что модель M1 является наиболее предпочтительной, следовательно, наборы данных X1 и X2 следует отнести к одному кластеру. Формулу (2) можно переписать в следующем виде:

ABIC = 1

где E1, E2 - ковариационные матрицы данных X1 и X2 соответственно; E12 - ковариационная матрица объединенных данных {Xb X2}; P - число свободных параметров, для диагональной ковариационной

Рл P d (d +1) матрицы р = d, для полной ковариационной матрицы р =--.

Алгоритм агломеративной кластеризации речевых сегментов

Алгоритм агломеративной кластеризации заключается в последовательном иерархическом попарном объединении (агломерации) кластеров (наборов речевых сегментов), принадлежащих одному диктору. При этом в качестве начальных кластеров используются речевые сегменты фонограммы, ограниченные двумя точками смены дикторов. Как для поиска точек смены дикторов, так и для определения принадлежности двух кластеров одному диктору используется BIC.

Разработанный алгоритм агломеративной кластеризации состоит из 4 этапов.

1. Выделение речевых сегментов фонограммы.

2. Расчет акустических признаков по всей фонограмме.

3. Поиск точек смены дикторов.

1. Акустические признаки, лежащие внутри выделенных речевых сегментов, последовательно объединяются в непрерывный массив данных. В дальнейшем работа идет только в рамках этого массива.

2. По всему полученному массиву перемещается окно фиксированной длины 2w с фиксированным шагом h. Окно разбивается на две равные части, левой части окна соответствуют данные X1, правой - X2 (формула (3)). Для точки h • i + w , являющейся серединой окна, рассчитывается величина ABICj при X = XCPD.

3. Среди всех полученных таким образом значений выбираются локальные минимумы M = {m : ABICm-1 > ABICm < ABICm+1, ABICm < 0} .

АГЛОМЕРАТИВНАЯ КЛАСТЕРИЗАЦИЯ РЕЧЕВЫХ СЕГМЕНТОВ ФОНОГРАММЫ...

4. Среди всех полученных локальных минимумов M выбирается значение m' = argmin(ABICm). При этом локальные минимумы из множества M , располагающиеся к

шеМ

выбранному значению ближе, чем w, удаляются: M = M \{m : |m - m'| < w}.

5. Пункт 4 повторяется до тех пор, пока множество M не пусто.

6. Точки {h • m' +w} берутся в качестве точек смены дикторов. 4. Агломеративная кластеризация.

1. Формируется набор кластеров C = {ck}, каждый элемент которого состоит из множества речевых сегментов, ограниченных двумя соседними точками смены дикторов.

2. Подсчитываются попарные значения {ABICkl^=1 по формуле (3) между всеми кластерами при X = X AC .

3. Если существует пара кластеров ck*, c,* :{k*,/*} = argmax(ABICk1 ), ABICk*,* > 0, то они объе-

k ,1

диняются в один кластер ck* = ck* U cl*, при этом кластер c** удаляется: C = C \{c,*}.

4. Пункты 2-3 повторяются до тех пор, пока происходят объединения.

5. Получившийся набор кластеров C и будет являться решением задачи разделения дикторов. Важно отметить необходимость использования различных пороговых значений при подсчете величины ABIC на этапе определения точек смены дикторов ( XCPD ) и на этапе агломеративной кластеризации ( XAC ). Эта необходимость обусловлена тем, что при поиске точек смены дикторов ключевым требованием является низкий уровень ошибки пропуска. Возникающий в этом случае высокий уровень ошибки ложного срабатывания компенсируется на этапе агломеративной кластеризации.

Результаты численных экспериментов

В качестве тестовой базы использовались 20 60-минутных аудиозаписей радио «Свобода» [6]. Все аудиозаписи имеют один канал с частотой дискретизации 16000 Гц. Для всей базы тестирования была создана эталонная разметка с указанием имен дикторов и принадлежащих им речевых сегментов. Речевые сегменты каждого диктора были дополнительно разделены на 4 категории:

1. чистая речь (71,86%);

2. речь на фоне шума (8,66%);

3. речь на фоне речи (11,20%);

4. речь на фоне музыки (8,28%).

Среднее количество дикторов в одном файле базы тестирования составило 25. Для численных экспериментов речевые сегменты брались из эталонной разметки без использования какой-либо дополнительной обработки.

В качестве акустических признаков использовались:

- мел-частотный банк фильтров (MBF);

- мел-частотные кепстральные коэффициенты (MFCC).

Для построения акустических признаков были использованы следующие характеристики:

- окно быстрого преобразования Фурье (БПФ) - 16 мс;

- шаг окна БПФ - 10 мс;

- частотный диапазон для банка фильтров - от 0 до 8000 Гц.

Дополнительно к акустическим признакам были добавлены логарифм энергии (E), производные первого ( A ) и второго ( A2 ) порядков.

Для оценки качества системы использовался стандартный показатель вероятности ошибки разделения дикторов (Diarization Error Rate, DER), используемый в NIST RTE 2006 [1]:

Y,{dur (S ) •(max [ Nref (S ), Nsys (S )] - Ncorrect ( S ) )}

DER =^-—t-г--100%,

^{dur (S ) • Nf (S )}

S

где S - непрерывный речевой сегмент фонограммы; dur (S) - длина этого сегмента; Nref (S) - число дикторов, которым принадлежит речевой сегмент S, в соответствии с эталонной разметкой; Nsys (S) - число дикторов, которым принадлежит речевой сегмент S, в соответствии с полученной разметкой; Ncorrect (S) -число корректно определенных дикторов на речевом сегменте S.

Размер окна w для поиска точек смены дикторов брался равным 3 с, шаг h брался равным 0,2 с. Результаты численных экспериментов, представляющих зависимость величины DER от используемых акустических признаков и типа ковариационной матрицы, представлены в табл. 1.

Акустические Размерность Полная ковариационная Диагональная

признаки признаков матрица ковариационная матрица

^CPD ^ AC DER

MBF 20 1,2 3,2 8,0 5 30 21,1

MFCC 20 1,0 3,5 7,7 4,8 27 8,5

MFCC + E 20 1,0 3,3 7,8 4,8 27 8,3

MFCC + E + А 40 0,6 1,3 7,3 3 18 6,4

MFCC + E + А + А2 60 0,55 1,1 7,2 2,3 14 6,6

Таблица 1. Зависимость DER от акустических признаков и типа ковариационной матрицы

Результаты численных экспериментов, представляющих зависимость относительной производительности системы от типа ковариационной матрицы и размера акустических признаков, представлены в табл. 2, где относительная производительность измеряется как отношение продолжительности всех речевых сегментов фонограммы ко времени работы системы. Все измерения были проведены при работе алгоритма на одном ядре процессора Intel Core i5 760 2.8 GHz.

Размерность акустических признаков Относительная производительность

Полная ковариационная матрица Диагональная ковариационная матрица

20 210 3600

40 56 1900

60 23,5 1280

Таблица 2. Зависимость относительной производительности системы от типа ковариационной матрицы

и размера акустических признаков

Заключение

Разработанная система агломеративной кластеризации речевых сегментов фонограммы представляет собой эффективное решение с точки зрения соотношения эффективности и производительности. Как показывают численные эксперименты, данная система способна показать значение ошибки DER равной 6,4% на русскоязычных аудиозаписях радиовещания, где происходит редкая смена дикторов. Как показано в табл. 2, относительная производительность системы сильно зависит от применения полной или диагональной ковариационной матрицы. Интересным представляется тот факт, что в случае использования слабо корреллирующих акустических признаков мел-частотных кепстральных коэффициентов применение диагональной ковариационной матрицы способно привести к уменьшению ошибки. При использовании полной ковариационной матрицы увеличение размерности акустических признаков приводит к сильному падению производительности прямо пропорционально квадрату размерности признаков, что еще раз демонстрирует целесообразность использования диагональной ковариационной матрицы.

Данная система разработана на кафедре «Речевые информационные системы», являющейся базовой кафедрой компании ООО «Центр речевых технологий». Она успешно применяется в системах автоматической обработки и распознавания речи.

Литература

1. Rich Transcription Evaluation Project [Электронный ресурс]. - URL: http://www.itl.nist.gov/iad/mig/tests/rt/, свободный. Яз. англ. (дата обращения 20.09.2012).

2. Kenny P. Bayesian Analysis of Speaker Diarization with Eigenvoice Priors // Technical report, Centre de recherche informatique de Montreal (CRIM). - Montreal, Canada. - May 2008. - 17 p.

3. Кудашев О.Ю., Пеховский Т.С. Проблема инициализации систем сегментации дикторов на основе вариационного байесовского анализа // Научно-технический вестник информационных технологий, механики и оптики. - 2012. - № 3 (79). - С. 83-87.

4. Reynolds D., Kenny P., Castaldo F. A Study of New Approaches to Speaker Diarization // Proc. Interspeech - 2009. - P. 1047-1050.

5. Jin Q., Laskowski K., Schultz T., Alex Waibel A. Speaker segmentation and Clustering in Meetings // Proc. ICASSP-2004 Meeting Recognition Workshop. - Montreal, Canada. - May 2004. - P. 112-117.

6. Радио Свобода [Электронный ресурс]. - URL: http://www.svobodanews.ru/, свободный. Яз. рус. (дата обращения 20.09.2012).

Кудашев Олег Юрьевич - ООО «ЦРТ-инновации», программист, Санкт-Петербургский националь-

ный исследовательский университет информационных технологий, механики и оптики, аспирант, kudashev@speechpro.com