(57)【要約】【課題】混合ガウス分布の個々のガウス分布に適切な次元数を設定し、混合ガウス分布のパラメータを推定する簡単な方法はなかった。【解決手段】全共分散型の混合ガウス分布のパラメータを推定し、その個々のガウス分布の全共分散行列に対する固有値を求め、その固有値の中で上位ｑ個の固有値以外の固有値の総和の全固有値の総和に対する割合があらかじめ定めた閾値以下になる最小のｑを選び、制約付き共分散行列を求め、これをそのガウス分布のパラメータとする手順を、すべてのガウス分布について繰り返す。【選択図】図１
2006171571.tif 000002
【特許請求の範囲】
【請求項１】
混合ガウス分布を構成する個々のガウス分布の次元数を削減することにより近似モデルを作成するための混合ガウス分布のパラメータ推定装置において、
各ガウス分布の全共分散行列の固有値を求める固有値計算部と、
上記固有値を記録する固有値格納部と、
ガウス分布ごとの上記固有値から、あらかじめ定めた条件にしたがって制約付き共分散行列の次元数を出力する次元数計算部と、
上記各ガウス分布の制約付き共分散行列を求める制約付き共分散行列計算部と、
上記制約付き共分散行列を記録するガウス分布パラメータ格納部と、
を備える混合ガウス分布のパラメータ推定装置。
【請求項２】
請求項１記載のパラメータ推定装置において、
λ１，λ２，・・・，λｄを上記全共分散行列の固有値を大きい順番に並べたもの、ｄを上記全共分散行列の次元数、ｒをあらかじめ定めた閾値として、
【数１】
2006171571.tif 000012
を満足する最小のｑを上記制約付き共分散行列の次元数とすると定めた上記次元数計算部、
を備える混合ガウス分布のパラメータ推定装置。
【請求項３】
請求項１または２記載のパラメータ推定装置を備えたパターン認識装置において、
学習データを記録した学習データ格納部と、
混合ガウス分布のパラメータを推定する混合ガウス分布推定部と、
請求項１または２記載のパラメータ推定装置により推定した各ガウス分布のパラメータ推定結果を記録するガウス分布パラメータ格納部と、
記録された各ガウス分布のパラメータを用いて入力パターンを認識するパターン識別部と、
を備えるパターン認識装置。
【請求項４】
請求項３記載のパターン認識装置において、
入力パターンを読み込む読込部と、カテゴリごとの尤度を上記各ガウス分布のパラメータから計算する尤度計算部と、尤度が最大となるカテゴリを選定する尤度最大値判断部と、  尤度とカテゴリの情報を記録する格納部とを有する上記パターン識別部
を備えるパターン認識装置。
【請求項５】
請求項１または２記載のパラメータ推定装置を備えた音声認識装置において、
学習用音声データを記録した学習用音声データ格納部と、
音響モデルを学習する音響モデル学習部と、
請求項１または２記載のパラメータ推定装置により推定した各ガウス分布のパラメータ推定結果を記録する音響モデルパラメータ格納部と、
音響モデルパラメータ格納部、単語発音辞書および言語モデルの情報を用いて入力音声を認識する音声認識部と、
を備えた音声認識装置。
【請求項６】
混合ガウス分布を構成する個々のガウス分布の次元数を削減することにより近似モデルを作成するための混合ガウス分布のパラメータ推定方法において、
固有値計算部で各ガウス分布の全共分散行列の固有値を求め、
上記固有値を固有値格納部に記録し、
ガウス分布ごとの上記固有値からあらかじめ定めた条件にしたがって制約付き共分散行列の次元数を出力する次元数計算部で、上記各ガウス分布の制約付き共分散行列の次元数を求め、
制約付き共分散行列計算部で上記各ガウス分布の制約付き共分散行列を求め、
上記制約付き共分散行列をガウス分布パラメータ格納部に記録すること、
を特徴とする混合ガウス分布のパラメータ推定方法。
【請求項７】
請求項６記載のパラメータ推定方法において、
λ１，λ２，・・・，λｄを上記全共分散行列の固有値を大きい順番に並べたもの、ｄを上記全共分散行列の次元数、ｒをあらかじめ定めた閾値として、
【数２】
2006171571.tif 000013
を満足する最小のｑを上記制約付き共分散行列の次元数とすると定めた上記次元数計算部で制約付き共分散行列の次元数を求めること、
を特徴とする混合ガウス分布のパラメータ推定方法。
【請求項８】
請求項６または７記載のパラメータ推定方法を用いたパターン認識方法において、
混合ガウス分布推定部で、学習データ格納部から読み込んだ学習データから混合ガウス分布のパラメータを推定し、
請求項６または７記載のパラメータ推定方法を用いた混合ガウス分布次元削減部で、上記推定された混合ガウス分布のパラメータを入力として、各ガウス分布のパラメータを推定し
各ガウス分布のパラメータ推定結果をガウス分布パラメータ格納部に記録し、
パターン識別部でガウス分布パラメータ格納部の情報を用いて入力パターンを認識すること、
を特徴とするパターン認識方法。
【請求項９】
請求項６または７記載のパラメータ推定方法を用いた音声認識方法において、
学習用音声データ格納部から学習用音声データを読み込み、
音響モデル学習部で音響モデルを学習し、
上記音響モデルを入力として、請求項６または７記載のパラメータ推定方法を用いた混合ガウス分布次元削減部で、各ガウス分布のパラメータを推定し
各ガウス分布のパラメータ推定結果を音響モデルパラメータ格納部に記録し、
音声認識部で、音響モデルパラメータ格納部、単語発音辞書および言語モデルの情報を用いて入力音声を認識すること、
を特徴とする音声認識方法。
【請求項１０】
請求項１〜５のいずれかに記載の装置をコンピュータで実現するプログラムおよび当該プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、混合主成分分析器の本質的次元数の選択方法、その方法を利用したパターン認識方法と音声認識方法、それらの方法を用いた装置、プログラムおよびプログラムを記録した記録媒体に関する。
【背景技術】
【０００２】
ほぼ全ての実用的ケース（音声認識、画像認識、一般的なパターン認識等）におけるｄ次元データの任意の連続密度分布の近似に対しては、混合ガウス分布が用いられる。ｔとして示されたデータベクトルに対する単一ガウス分布は以下のように定義される。
【０００３】
【数３】
2006171571.tif 000003
ただし、ｍはガウス分布の指数、Ｃｍはｄ×ｄ共分散行列、μｍはガウス分布ｍに属するデータの平均値である。
このガウス分布をＭ個混合して構成される混合ガウス分布は、次式で定義される。
【０００４】
【数４】
2006171571.tif 000004
ただし、πｍは混合重み係数と呼ばれ、Σπｍ＝１である。
ｐ（ｔ｜ｍ）は、式（１）で定義された指数ｍのガウス分布である。パラメータμｍ、Ｃｍ、πｍは、対数尤度を最大化するためにＮ個の学習データベクトルセットからＥＭアルゴリズムによって推定される。ＥＭアルゴリズムでは次式のＬが最大になるように混合ガウス分布のパラメータμｍ、Ｃｍ、πｍを求める。
【０００５】
【数５】
2006171571.tif 000005
Ｌは、学習データベクトルセット内のｎ番目のベクトルｔｎに対する尤度ｐ（ｔｎ）の対数値の総和である。
学習過程の目標は、学習データとは異なるテストデータにより適合する分布パラメータを見つけることである。その良し悪しは、学習した混合ガウス分布でテストデータの対数尤度を計算し、その大きさによって判定することができる。混合ガウス分布は時系列データのモデルとして広く用いられており、時系列データの識別問題においてよく用いられる。例えば、音声認識は、ベクトル表現された入力音声が与えられたとき、これを子音あるいは母音である音素として識別する問題であり、次のような代表的実現法がある。まず、大量の母音から母音用の混合ガウス分布を学習し、大量の子音から子音用の混合ガウス分布を学習する。入力された未知の音声ベクトル表現に対してより適合する、すなわち尤度のより高いモデルを調べることで、母音と子音のいずれがより適切な識別結果であるか判定することができる。
【０００６】
多くの一般的な場合、混合される各ガウス分布は、ｄ（ｄ＋１）／２個の自由パラメータからなる全共分散行列Ｃｍを持つ。推定すべき自由パラメータの数を減らすこと、現実的な応用の観点から推定の質を高めることを目的として、全共分散行列を単純化する近似手法がしばしば用いられる。最も一般的な手法は、d個の自由パラメータからなる対角共分散行列を用いるものである。しかし、対角共分散行列の場合は、近似が強すぎて正確にデータの分布を表現できないことが多い。そのため、対角型ではなく、より緩い制約の下で全共分散行列を近似することが望ましい。
そのような観点から混合主成分分析器に基づく混合ガウス分布パラメータの推定方法がある。非特許文献１、２はパラメータの推定をよく知られたＥＭアルゴリズムによって行う基本的なモデルについて説明している。このアプローチにおける通常の対角共分散型や全共分散型の混合ガウス分布に対する主な改善点は、ガウス分布が持つ次元数ｑが、パラメータ推定に用いるデータの次元をｄとした時、１〜ｄの間で変化し得るというところにある。そのため、より細かい尺度でモデル全体の複雑度を制御することが可能となる。つまり、ｑ＝１の時は対角共分散型となり、ｑが大きくなるにつれて全共分散型に近づく性質を持つ。
【０００７】
従来技術である混合主成分分析器の本発明に関連する部分を以下にまとめる。Ｉｄをｄ次元単位行列とすると、ガウス分布ｍの制約付き共分散行列Ｃ’ｍは、
【数６】
2006171571.tif 000006
としてモデル化される。Ｗｍはｄ×ｑの行列であり、次式で与えられる。
【数７】
2006171571.tif 000007
ただし、Ｕｍｑはｄ×ｑの行列であり、その縦列は全共分散行列Ｃｍの固有値の大きい順にその対応する固有ベクトルを左から順に並べた行列である。Λｍｑは固有値λｍｑ（ｋ＝１，２，…，ｑ）を大きい順に対角要素に並べたｑ×ｑの対角行列である。Ｉｑはｑ次元の単位行列である。一方、σｍは、次式で与えられる。
【０００８】
【数８】
2006171571.tif 000008
σｍは削除された次元による平均損失と解釈することができる。式（４）に示した制約付き共分散行列は、ｑ＝１の時は対角共分散行列、ｑ＝ｄの時は全共分散行列に等しくなる。
【非特許文献１】Ｍ．Ｅ．Ｔｉｐｐｉｎｇ，  Ｃ．Ｍ．Ｂｉｓｈｏｐ，“Ｍｉｘｔｕｒｅ  ｏｆ  Ｐｒｉｎｃｉｐａｌ  Ｃｏｍｐｏｎｅｎｔ  Ａｎａｌｙｓｅｒｓ”，Ｐｒｏｃｅｅｄｉｎｇ  ＩＥＥ  Ｆｉｆｔｈ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋｓ，  Ｃａｍｂｒｉｄｇｅ，  Ｕ．Ｋ．，  Ｊｕｌｙ  １９９７，  ｐｐ．１３−１８，  Ｌｏｎｄｏｎ．
【非特許文献２】Ｍ．Ｅ．Ｔｒｉｐｐｉｎｇ，  Ｃ．Ｍ．Ｂｉｓｈｏｐ，“Ｍｉｘｔｕｒｅ  ｏｆ  Ｐｒｏｂａｂｉｌｉｓｔｉｃ  Ｐｒｉｎｃｉｐａｌ  Ｃｏｍｐｏｎｅｎｔ  Ａｎａｌｙｓｅｒｓ”，Ｎｅｕｒａｌ  Ｃｏｍｐｕｔａｔｉｏｎ  １１（２），ｐｐ．４４３−４８２，１９９９．
【発明の開示】
【発明が解決しようとする課題】
【０００９】
すべてのガウス分布に対して適切な次元数ｑを設定するための組み合わせはｄＭ通りある。従来は、ｄやＭが大きい場合に、すべての組み合わせの中からテストデータに対する式（３）が最大になる組み合わせを発見するのは困難であった。また、すべてのガウス分布に対して一律の次元数を設定する方法も考えられるが、一般にガウス分布ごとに学習するデータベクトルの領域は異なっており、各領域のデータベクトルにおいて次元間の相関が小さい場合はｑを小さく、相関が大きい場合はｑを大きくした方が良い。さらに、学習データと未知のデータとの間の相違のため、必ずしもｑを大きくした方が、テストデータに対して尤度の高いパラメータ推定結果が得られるとは限らない。これはｑを大きくすることで学習データ固有の特徴までパラメータ推定結果に反映されてしまうことが原因と考えられる。つまり、ガウス分布ごとに適切なｑを選定できれば認識精度の向上につながる。しかし、混合ガウス分布の個々のガウス分布に適切な次元数を設定し、混合ガウス分布のパラメータを推定する簡単な方法はなかった。
【課題を解決するための手段】
【００１０】
全共分散型の混合ガウス分布のパラメータを推定し、その個々のガウス分布の全共分散行列に対する固有値を求め、その固有値の中で上位ｑ個の固有値以外の固有値の総和の全固有値の総和に対する割合があらかじめ定めた閾値以下になる最小のｑを選び、制約付き共分散行列を求め、これをそのガウス分布のパラメータとする手順を、すべてのガウス分布について繰り返す。
【発明の効果】
【００１１】
本発明では、共分散行列の固有値は、その固有値に対応する成分の重要度を表すことに着目し、共分散行列から得られる固有値を利用して次元数ｑをガウス分布ごとに設定することで、少ない計算量でガウス分布ごとに少ないパラメータで重要な成分を保持したガウス分布を得ることができる。さらに、ガウス分布ごとに適切な次元数ｑを選定することで未知のデータに対してより尤度の高いパラメータ推定を実現できる。
【発明を実施するための最良の形態】
【００１２】
［第１実施形態］
図1は、混合ガウス分布次元削減処理部の機能構成例を示す図である。図中の固有値計算・ソート部１０４、ｑｍ計算部１０５、および制約付き共分散行列計算部１０６は、ＣＰＵを使用して計算を行う。また、閾値格納部１１１、固有値格納部１１２、およびガウス分布パラメータ格納部１１３は、メモリまたはデータベースである。図２は混合ガウス分布のパラメータ推定方法のフローを示す図である。以下、この手順を示す。
ステップS１１
ガウス分布パラメータ推定部１０１で、Ｍ個の全共分散型ガウス分布からなる混合ガウス分布のパラメータμｍ（平均ベクトル）、Ｃｍ（全共分散行列）、πｍ（混合重み）を、従米のＥＭアルゴリズム等の手法によって求める。各ガウス分布の次元数は、推定に用いる学習データベクトルの次元数ｄとなる。
【００１３】
ステップS１２
閾値設定部１０２で、閾値格納部１１１に記録された閾値を基に、失われる次元の重要度の割合の閾値を０＜ｒ＜１の範囲で設定する。この設定は、あらかじめ記録部に登録しておいてもよい。
ステップＳ１３
パラメータｍ設定部１０３で、個々のガウス分布の番号を示す変数ｍを１に設定する。
ステップＳ１４
固有値計算・ソート部１０４で、ガウス分布ｍの全共分散行列Ｃｍの固有値を求め、固有値の大きい順番に並べたλｍ１，λｍ２，・・・，λｍｄを求める。また、求めた固有値は固有値格納部１１２に記録される。行列の固有値や固有ベクトルを求める手法は数多くあるが、べき乗法、ＱＲ法、ＱＬ法などが有名である。
【００１４】
ステップＳ１５
ｑｍ計算部１０５では、固有値格納部１１２から固有値の情報を取得し、ガウス分布ｍに対して次式を満たす最小のｑを求め、ガウス分布ｍの次元数とする。
【数９】
2006171571.tif 000009
このｑを求める計算は、ｑの値を１から式（７）が満たされるまで増やしていく、またはｑの値をｄから式（７）が満たされる限り減らしていく繰り返し計算により容易に求めることができる。このｑを求める手順の詳細は、図1の説明の後に説明する。なお、ｒは必ずしも定数とする必要は無く、学習データが特殊な場合やデータ数が少ない場合には小さくし、学習データ数が非常に多い場合は大きくするなどの変更条件を定めておく方法もあり得る。具体的には、システム調整をするために用いられる学習データとは異なるデータ（一般に開発データと呼ばれる。システムの性能を評価するために用いられるテストデータとは異なる。）を用意し、さまざまなｒの値での混合ガウス分布のパラメータを推定し、開発データに対する識別実験を行って、最も識別精度の高かったｒを選ぶという方法がある。また、単に開発データに対する対数尤度の総和を計算し、その値が最も大きかったｒを選ぶという手法もある。
【００１５】
ステップＳ１６
制約付き共分散行列計算部１０６で、求めた次元ｑを用いて上記の式（４）〜（６）により制約付き共分散行列Ｃ’ｍを求め、結果をガウス分布パラメータ格納部１１３に記録する。
ステップＳ１７
繰り返し判断部１０７で、ｍ＜Ｍか否かを判断し、ｍ＜ＭならばステップＳ１８に進み、ｍ＜Ｍでないならば処理フローを終了する。
【００１６】
ステップＳ１８
ｍ変更部１０８で、ｍを１つ増やし、ステップＳ１４に進む。
次にステップＳ１５のｑを求める手順を詳細に示す。図２はｑを増やす手順でｑを求めるフローを示している。
ステップＳ２１
固有値合計計算部１０５１で、固有値の総和λｔｏｔａｌを求める。
ステップＳ２２
損失設定部１０５２で、失われる成分に対する固有値の総和λｌｏｓｓの初期値をλｔｏｔａｌに設定する。
【００１７】
ステップＳ２３
ｑ値設定部１０５３で、ｑの初期値を１とする。
ステップＳ２４
損失計算部１０５４で、λｌｏｓｓからｑ番目の固有値λｍｑを減算する。このλｌｏｓｓは （ｄ−ｑ）個の固有値の総和を表している。
ステップＳ２５
比較部１０５５では式（７）を満すか否かを調べ、満たしていれば終了する。満たしていなければステップＳ２６に進む。
【００１８】
ステップＳ２６
ｑ値変更部１０５６では、ｑを1増やし、ステップＳ２４に戻る。
一方、図３はｑを減らす手順でｑを求めるフローを示している。この場合には、図１のｑｍ計算部１０５内の各部（１０５１〜１０５６）の動作が図２の場合と異なる部分もある。
ステップＳ３１
固有値合計計算部１０５１で、固有値の総和λｔｏｔａｌを求める。
【００１９】
ステップＳ３２
損失設定部１０５２で、失われる成分に対する固有値の総和λｌｏｓｓの初期値を０に設定する。
ステップＳ３３
ｑ値設定部１０５３で、ｑの初期値をｄとする。
ステップＳ３４
損失計算部１０５４で、λｌｏｓｓにｑ番目の固有値λｍｑを加算する。このとき、λｌｏｓｓはｑ個の固有値の総和を表している。
【００２０】
ステップＳ３５
ｑ値変更部１０５６で、ｑを１つ減らす。
ステップＳ３６
比較部１０５５では式（７）を満すか否かを調べ、満たしていればステップＳ３７に進む。満たしていなければステップＳ３４に戻る。
ステップＳ３７
ｑ値変更部１０５６で、ｑを１つ増やし、終了する。
ステップＳ２５またはステップＳ３６で処理が終了すれば、その時点のｑの値がガウス分布ｍの次元数を示している。
【００２１】
［第２実施形態］
この発明は、第１実施形態の方法利用した混合ガウス分布を用いたパターン識別方法である。図５は、本発明における混合ガウス分布の次元削減方法を利用したパターン識別方法の機能構成例を示す図である。混合ガウス分布推定処理部２２１では、学習データ格納部２１２から学習データを読み出し、図２記載のステップＳ１１の処理を実行し、全共分散型の混合ガウス分布のパラメータを求める。ただし、学習データには、個々のベクトルが属するカテゴリ情報が付与されているものとし、カテゴリごとに、そのカテゴリ情報が付与された学習データのみを用いて混合ガウス分布を推定するものとする。そのため、混合ガウス分布はカテゴリの種類数だけ作られる。カテゴリとは、パターン識別において、パターンを分類したいグループまたはその名前を意味する。パターン識別は、未知の入カパターンをこれらカテゴリの内の一つに分類する問題となる。例えば、手書きアルファベットの識別であれぱ、Ａ，Ｂ，Ｃ，・・・，Ｚのアルファベット記号がカテゴリとなり、未知の入力された手書き文字のパターンがＡ，Ｂ，Ｃ，・・・，Ｚの内のどれであるかを判別することが目的となる。混合ガウス分布次元削減処理部１００では、前記混合ガウス分布推定処理部２２１から送られた全共分散型の混合ガウス分布のパラメータを受け取り、図２記載のステップＳ１２〜Ｓ１８の方法でガウス分布ごとに制約付き共分散行列を求め、ガウス分布パラメータ格納部１１３に記録する。パターン識別処理部２００では、未知の入カパターン２３０に対して、各カテゴリに対応する混合ガウス分布を用いて尤度を計算し、最も大きい尤度を与える混合ガウス分布に対応するカテゴリを識別結果２４０として出力する。
【００２２】
パターン識別処理部２００の機能構成例を図６に示す。図中の尤度計算部２０４は、ＣＰＵを使用して計算を行う。また、尤度・カテゴリ情報格納部２１１はメモリまたはデータベースである。図７には、パターン識別処理方法のフローを示す。識別するカテゴリの種類数はＨ個あるものとし、識別結果h^には、識別結果が何番目のカテゴリであるかを示す番号が代入されるものとする。
ステップＳ４１
読込部２０１では、ベクトルで表された入力パターンtを読み込む。
【００２３】
ステップＳ４２
尤度初期値設定部２０２で、識別結果であるカテゴリの尤度を格納する変数l^の初期値をマィナス無限大、実際には負の非常に大きい値に設定し、尤度・カテゴリ情報格納部２１１に記録する。
ステップＳ４３
カテゴリ初期値設定部２０３では、カテゴリの番号を表すhの初期値を1に設定し、尤度・カテゴリ情報格納部２１１に記録する。
【００２４】
ステップＳ４４
尤度計算部２０４では、カテゴリhに対応する混合ガウス分布で、入力ベクトルｔの尤度ｐｈ（ｔ）を計算し、lに代入する。
ステップＳ４５
尤度最大値判断部２０５では、1からh−1までに計算した尤度を尤度・カテゴリ情報格納部２１１から取得し、尤度の最大値l^とlを比較して、もしカテゴリhに対する尤度lが大きい場合はステップＳ４６に進み、大きくない場合にはステップＳ４６はパスしてステップＳ４７に進む。
【００２５】
ステップＳ４６
尤度，カテゴリ情報変更部２０６では、最大尤度のカテゴリの番号h ^をhに、最大尤度l^を l変更し、尤度・カテゴリ情報格納部２１１に記録する。
ステップＳ４７
繰り返し判断部２０７でhがHより小さいか確認し、小さければステップＳ４８に進み、小さくなければ処理を終了する。
ステップＳ４８
カテゴリ値変更部２０８でカテゴリ値hを１つ増やし、ステップＳ４４に進む。
【００２６】
処理が終了したときにh ^格納されている番号が指すカテゴリが識別結果である。
また、本発明をコンピュータ等で実行するパターン識別装置を構成することもできる。図８は、本発明をコンピュータで実現する場合の構成例を表している。ＣＰＵ６０は混合ガウス分布推定プログラムメモリ２２１Ｍに格納されたプログラムを実行し、バス５５を経由して学習データ格納部２１２から読み込んだ学習データを用いて、カテゴリごとに全共分散型の混合ガウス分布のパラメータを推定して、記憶部５６に格納する。次に、ＣＰＵ６０は、混合ガウス分布次元削減プログラムメモリ１００Ｍに格納されたプログラムを実行し、記憶部５６に格納された個々のガウス分布の次元数ｑを設定し、制約付き共分散行列を求め、それらのパラメータを他のパラメータμｍ（平均ベクトル）、πｍ（混合重み）などと共にガウス分布パラメータ格納部１１３に格納する。次に、ＣＰＵ６０は、パターン識別プログラムメモリ２００Ｍに格納したプログラムを実行し、入力部５１から入力されたパターンを読み込み、ガウス分布パラメータ格納部１１３から読み出したパラメータを用いて入力されたパターンの尤度を計算し、最大尤度を与える混合ガウス分布に対応するカテゴリを識別結果として出力部５２から出力する。
【００２７】
［第３実施形態］
本発明を音声認識における音響モデルの混合ガウス分布の推定に用いて、入力された音声を、その内容を表す単語列に変換することもできる。
一般に音声認識では、入力された音声信号をディジタル化した後で、短い区間（例えば１０ミリ秒）ごとに分析処理を行い、メルケプストラム（ｍｅｌ−ｆｒｅｑｕｅｎｃｙ  ｃｅｐｓｔｒａｌ  ｃｏｅｆｆｉｃｉｅｎｔｓ、ＭＦＣＣと呼ばれる。）、デルタＭＦＣＣ、ＬＰＣケプストラム、対数パワーなどを要素とするベクトルデータに変換する。このベクトルデータは音響パターンなどと呼ばれる。そして、音声信号を時間に沿って順に、短い区間ごとに分析してベクトルに変換することで、音響パターンの時系列が得られる。
音声認識においては、音響パターンの時系列を識別するために種々の音声固定単位（例えば音素）の標準的な音響パターン系列の集合を音響モデルとして表す。音声認識のための音響モデルとしては、例えばそれら音響パターン系列の集合を確率・統計理論に基づいてモデル化する隠れマルコフモデル（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ、以後ＨＭＭと言う。）法が主流である。このＨＭＭを音声認識に適用する場合は、音響モデルによって計算される音響パターンの尤度を用いる。この尤度は、大きいほど入力された音響パターンが音響モデルによって表される音声固定単位に近いことを表す。
【００２８】
ＨＭＭによる尤度の計算では、混合ガウス分布に基づく尤度が広く用いられる。図９は、音素／ａ／のＨＭＭの例を表す図である。丸はＨＭＭの状態を表し、矢印はＨＭＭの状態を遷移できることを示す。丸の中のラベルは、状態の番号または名前などを表す。図９の例では、ａ１、ａ２、ａ３は音素／ａ／のＨＭＭの１番目、２番目、３番目の状態を指している。右端の状態は終了状態を表す。ＨＭＭは左端の状態から、音響パターンが１つ入力されるごとに状態遷移を繰り返し、右端の終了状態に到達して終了する。各状態にはその状態における音響パターンの特徴を表す出力確率分布のパラメータが割り当てられている。ただし、終了状態には出力確率分布を割り当てない場合が多い。音声認識では、出力確率分布として混合ガウス分布が用いられる場合が多い。一般に、発声された音素の音響パターンは、同一の音素の中であっても時間が進むにつれて変化する。ＨＭＭで１つの音素を時間的に順序のある複数の状態で表現するのは、このような音響パターンの変化を状態遷移によって表現するためである。また、状態遷移には遷移確率と呼ばれる値が付与されており、その状態遷移の起こりやすさを確率値として持つ。例えば、同じ音響パターンが長く続くときには、遷移元の状態に戻る遷移確率が大きくなり、そうでないときは、隣の状態への遷移確率が大きくなるように推定される。図９では、ａ１、ａ２、ａ３の状態に割り当てられる混合ガウス分布は対応する音素／ａ／の前半、真ん中、後半の音響パターンの分布を表現する。
【００２９】
音素をカテゴリとするラベルがついた音響パターン時系列の集合が学習データとして与えられれば、ＥＭアルゴリズムを用いて音素毎にＨＭＭの各状態の混合ガウス分布のパラメータや状態間の遷移確率を求めることができる。求まったすべての混合ガウス分布のパラメータに対して、本発明の混合ガウス分布次元削減方法（図２のステップＳ１２からＳ１８）を適用することができ、それぞれ適切な次元数を持つガウス分布の集合が得られる。そして、本発明によって得られた混合ガウス分布のパラメータを用いて、音声認識を行うことができる。
【００３０】
本発明における音声認識方法について詳細に説明する。図１０は本発明の音声認識装置の機能構成例を示す図である。音響モデル学習処理部３２１では、学習用音声データ格納部３１２から学習データを読み出し、ＥＭアルゴリズム等を用いて、ＨＭＭのパラメータ（状態遷移確率、出力確率分布の混合ガウス分布のパラメータ）を求める。ただし、学習データには、個々の音響パターンのベクトルが属する音素や単語といった情報が付与されているものとし、音素や単語、場合によっては前後の音素に依存する音素単位（例えば、前の音素が／ｉ／で後の音素が／ｕ／であるような音素／ａ／)ごとにその情報が付与された学習データを用いてＨＭＭのパラメータを推定するものとする。
【００３１】
混合ガウス分布次元削減処理部１００では、音響モデル学習処理部３２１から送られた全共分散型の混合ガウス分布のパラメータを受け取り、図２記載のステップＳ１２からＳ１８の手順によってすべてのガウス分布に対する制約付き共分散行列を求め、音響モデルパラメータ格納部１１３’に格納する。音声認識処理部３００では、個々の単語の発音を記述した単語発音辞書３１４と、認識できる単語の並びやどのような単語が接続しやすいかを確率値として与える言語モデル３１５を読み込み、これらの情報に基づいて入力音声データ３３０に対して、最も尤度の高い単語列を探し出し、音声認識結果３４０として出力する。
【００３２】
音声認識処理部３００では、音響モデル（ＨＭＭ）、単語発音辞書３１４、言語モデル３１５を用いて、入力音声データに対して最も尤度の高い単語列を探し出すために、ビタビアルゴリズムを用いる。ビタビアルゴリズムを実行するには、まず、音響モデル（ＨＭＭ）、単語発音辞書３１４、言語モデル３１５の情報から、ＨＭＭの状態をノードとするネットワークを作成する。例えば、図１１は単語発音辞書に含まれる情報の例を表しており、単語の名前と、その単語の発音を表す音素列のペアの情報を持つ。図１１の例では、単語「赤」の発音がａ、ｋ、ａ、単語「青」の発音がａ、ｏ、単語「です」の発音がｄ、ｅ、ｓ、ｕであることを表している。また、図１２は言語モデルの一例を示している。図１２の言語モデルでは、認識できる単語列を状態と状態遷移で表している。丸の中に０が書いてある状態が初期状態であり、そこから状態遷移によって二重丸で表される終了状態に到達するまでの状態遷移に付与された単語を順に認識可能であることを示している。この言語モデルは「赤です」または「青です」という二種類の単語列を認識できることを表している。
【００３３】
音素ごとに作成されたＨＭＭと単語発音辞書、言語モデルを組み合わせることで、図１３に示すようなＨＭＭの状態をノードとするネットワークを構築する。図１３は、単語発音辞書の発音に従った単語のＨＭＭを、言語モデルの単語の接続関係にしたがって接続したものとなっている。音声認識の処理では、ＨＭＭの状態遷移確率と出力確率分布を用いて、ある入力ベクトル時系列Ｘ＝ｘ１，ｘ２，…，ｘＴに対して、状態遷移確率と出力確率の累積確率が最も大きい状態遷移過程を求め、その状態遷移過程に対応する音素列や単語列を認識結果とする。初期状態０から終了状態Ｆに至る状態遷移過程Ｓ=０，ｓ１，ｓ２，…，ｓＴ，Ｆに対する尤度は、
l(S,X)=a0s1×bs1(x1)×a s1s2×bs2(x2)×a s2s3×…×a (sT-1)sT×bsT(xT)×asTF   （８）
のように計算される。ただし、ａｉｊは状態ｉから状態ｊヘの状態遷移確率、ｂｓ(x)は状態ｓの出力確率分布で計算した音響パターンxの出力確率(尤度)を表す。また、Fは終了状態を表す。したがって、音声認識では、
【数１０】
2006171571.tif 000010
を求める計算となる。また、式（９）のl^を与える状態遷移過程S^は、
【数１１】
2006171571.tif 000011
に対応する音素列や単語列を音声認識結果として求めることができる。式（１０）を漸化式計算によって効率的に求める手法としてビタビアルゴリズムがよく用いられる。
【００３４】
本発明の音声認識方法をコンピュータで実行する構成例を図１４に示す。ＣＰＵ６０は音響モデル学習プログラムメモリ３２１Ｍに格納されたプログラムを実行し、パス５５を経由して学習用音声データ格納部３１２から読み込んだ学習データを用いて音響モデル（ＨＭＭ等）の全共分散型の混合ガウス分布のパラメータと状態遷移確率等を推定して、記憶部５６に格納する。次に、ＣＰＵ６０は混合ガウス分布次元削減プログラムメモリ１００Ｍに格納されたプログラムを実行し、記憶部５６に格納された個々のガウス分布に対して次元数ｑと制約付き共分散行列を求め、それらのパラメータを他のパラメータμｍ（平均ベクトル）、πｍ（混合重み）、状態遷移確率などと共に音響モデルパラメータ格納部１１３’に記録する。ＣＰＵ６０は、音声認識プログラムメモリ３００Ｍに格納したプログラムを実行し、入力部５１から入力された音声データを読み込み、音響モデルパラメータ格納部１１３’、単語発音辞書３１４および言語モデル３１５から読み出した情報を利用して、入力された音声データに対して、最大尤度を与える単語列を認識結果として出力部５２から出力する。
【００３５】
［実験例１］
本実験では、様々な分散値からなる対角共分散のガウス分布にしたがってランダムに生成した１０次元のベクトルデータを用いる。小量の学習データを使用する際に生じる過学習の効果を強調するために、生成したベクトルデータの内、１００個のベクトルを学習用、１０００個のベクトルをテスト用とした。１００個の学習データを用いて混合ガウス分布（Ｍ＝２）のパラメータを推定し、ガウス分布ごとの共分散行列を、全共分散行列(次元数を10次元のまま)とする方法、一律に次元数を設定する方法、本発明の方法の３つの方法で設定した。
【００３６】
実験結果を図１５に示す。本発明は、各ガウス分布に適切な次元数ｑを簡単に設定できるだけでなく、全共分散行列とする方法や一律に次元数を設定する方法よりも対数尤度の総和が大きい（ｒ＝０．１８の場合)。これは、ｒ（全共分散行列の固有値の中で上位ｑ個の固有値以外の固有値の総和の全固有値の総和に対する割合）に基づいたモデル化をすることで、より良いモデル化ができ得ることを示している。
【００３７】
［実験例２］
本実験では、ＨＭＭのバラメータを約１８０時間の音声データで学習し、ＨＭＭの混合ガウス分布のパラメータを本発明の次元削減方法によって推定した。単語発音辞書に登録された単語数は３万単語、言語モデルとして３単語の連鎖確率を与える単語トライグラムを用いた。テスト用の音声データは約１２０分の講演音声を収録したデータである。全ガウス分布に一律の次元数を設定する方法と本発明により次元数を設定する方法を比較した。音声認識結果の単語列と正解の単話列とを比べて、単語の誤りが正解の単語列に対してどのくらいあったかを表す単語誤り率を図１６に示す。本発明による単語誤り率の方が小さい値を示しており、本発明の有効性が示された。
【図面の簡単な説明】
【００３８】
【図１】混合ガウス分布次元削減処理部の機能構成例を示す図。
【図２】混合ガウス分布のパラメータ推定方法のフローを示す図。
【図３】ｑを増やす手順でｑを求めるフローを示す図。
【図４】ｑを減らす手順でｑを求めるフローを示す図。
【図５】混合ガウス分布の次元削減方法を利用したパターン識別方法の機能構成例を示す図
【図６】パターン識別処理部の機能構成例を示す図。
【図７】パターン識別処理方法のフローを示す図。
【図８】パターン識別装置をコンピュータで実現する場合の構成例を示す図。
【図９】音素／ａ／のＨＭＭの例を表す図。
【図１０】音声認識装置の機能構成例を示す図。
【図１１】単語発音辞書に含まれる情報の例を示す図。
【図１２】言語モデルの一例を示す図。
【図１３】ＨＭＭの状態をノードとするネットワークの構成例を示す図。
【図１４】音声認識方法をコンピュータで実行する構成例を示す図。
【図１５】人工的に生成したベクトルデータを用いた実験の結果を示す図。
【図１６】音声データを用いた認識実験の結果を示す図。
【図１】
2006171571.tif 000014
【図２】
2006171571.tif 000015
【図３】
2006171571.tif 000016
【図４】
2006171571.tif 000017
【図５】
2006171571.tif 000018
【図６】
2006171571.tif 000019
【図７】
2006171571.tif 000020
【図８】
2006171571.tif 000021
【図９】
2006171571.tif 000022
【図１０】
2006171571.tif 000023
【図１１】
2006171571.tif 000024
【図１２】
2006171571.tif 000025
【図１３】
2006171571.tif 000026
【図１４】
2006171571.tif 000027
【図１５】
2006171571.tif 000028
【図１６】
2006171571.tif 000029