(57)【要約】【課題】  学習データ量に係わらず認識率の高い音響モデルを作成する。【解決手段】  初期音響モデルを記憶した初期音響モデル記憶部と、学習データを記憶した学習データ記憶部とを備え、初期音響モデルと学習データ記憶部から取得した学習データから音響モデルのガウス分布平均ベクトルの移動ベクトルを求め、この移動ベクトルを用いて初期音響モデルを上記学習データに適応した適応音響モデルに変換する音声認識用音響モデル作成方法であって、移動ベクトルを方向ベクトルとスケーリングファクタに分解し、方向ベクトルをコースクラスのパラメータ推定における学習により求め、上記スケーリングファクタをファインクラスのパラメータ推定における学習により求める。【選択図】  図３
2006053431.tif 000002
【特許請求の範囲】
【請求項１】
初期音響モデルを記憶した初期音響モデル記憶部と、学習データを記憶した学習データ記憶部とを備え、上記初期音響モデル記憶部から取得した初期音響モデルと上記学習データ記憶部から取得した学習データとから音響モデルのガウス分布平均ベクトルの移動ベクトルを求め、この移動ベクトルを用いて上記初期音響モデルを上記学習データに適応した適応化音響モデルに変換する音声認識用音響モデル作成方法であって、
上記移動ベクトルを方向ベクトルとスケーリングファクタに分解し、上記方向ベクトルをコースクラスのパラメータ推定における学習により求め、上記スケーリングファクタをファインクラスのパラメータ推定における学習により求めることを特徴とする音声認識用音響モデル作成方法。
【請求項２】
上記コースクラス及びファインクラスの各パラメータ推定における学習はガウス分布クラスを含む共有ガウス分布クラスで推定することを特徴とする請求項１記載の音声認識用音響モデル作成方法。
【請求項３】
上記コースクラス及びファインクラスの各パラメータ推定における学習に、変分ベイズ学習法を適用することを特徴とする請求項１又は２の何れかに記載の音声認識用音響モデル作成方法。
【請求項４】
上記コースクラス及びファインクラスの各パラメータ推定における学習に、事後確率最大化学習法を適用することを特徴とする請求項１又は２の何れかに記載の音声認識用音響モデル作成方法。
【請求項５】
上記コースクラス及びファインクラスの各パラメータ推定における学習に、最尤学習法を適用することを特徴とする請求項１又は２の何れかに記載の音声認識用音響モデル作成方法。
【請求項６】
上記初期音響モデルの階層構造が、ガウス分布を要素とする集合の要素の数が降順に、音素クラス、音素ＨＭＭクラス、共有化された環境依存音素ＨＭＭクラス、共有化されていないガウス分布クラスであった場合、コースクラスにおいては上記集合の要素数をファインクラスより相対的に大きいクラスを用いることを特徴とする請求項１乃至５の何れかに記載の音声認識用音響モデル作成方法。
【請求項７】
初期音響モデルを記憶した初期音響モデル記憶部と、
学習データを記憶した学習データ記憶部と、
上記初期音響モデル記憶部から取得した初期音響モデルと上記学習データ記憶部から取得した学習データとから音響モデルのガウス分布平均ベクトルの移動ベクトルを求める移動ベクトル算出部とを備え、
上記移動ベクトル算出部は上記移動ベクトルを方向ベクトルとスケーリングファクタに分解し、上記方向ベクトルをコースクラスのパラメータ推定における学習により求めるコースクラス学習部と、
上記スケーリングファクタをファインクラスのパラメータ推定における学習により求めるファインクラス学習部とを備えることを特徴とする音声認識用音響モデル作成装置。
【請求項８】
コンピュータが解決可能なプログラム言語によって記述され、コンピュータに上記請求項１乃至６の何れかに記載の音声認識用音響モデル作成方法を実行させる音声認識用音響モデル作成プログラム。
【請求項９】
コンピュータが読み取り可能な記録媒体によって構成され、この記録媒体に上記請求項８記載の音声認識用音響モデル作成プログラムを記録した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は音声認識用音響モデル作成方法、音声認識用音響モデル作成装置、音声認識用音響モデル作成プログラム及びこのプログラムを記録した記録媒体に関する。
【背景技術】
【０００２】
音声認識技術はヒューマンインターフェースにおいて大きく期待される技術である。音声認識装置は一般に図１０に示すように、音声認識部１０と音響モデル学習部２０とを備えて構成される。音響モデル学習部２０は学習用音声データを特徴量ベクトルに変換する特徴量ベクトル変換部２１と、音響モデル作成部２２と、音響モデル記憶部２３とによって構成され、学習用音声データに従って音響モデルを作成し、音響モデル記憶部２３に学習により作成した音響モデルを記録する。
音声認識部１０は被認識音声データを特徴量ベクトル変換部１１で特徴量ベクトルに変換し、音声認識部１２で音響モデル記録部２３に記録した音響モデルと、言語モデル記録部１３に記録した言語モデル及び発話辞書１４に記録した辞書を参照し、被認識音声データの認識結果を例えばテキストデータの型式で出力する。
【０００３】
しかし、音声認識は現状において学習データとして事前に収集できない未知環境要因の存在により、実環境では著しく認識性能が劣化することが知られている。そのため、初期音響モデルにおいて考慮されていない少量の環境データをもとに音声認識用音響モデルをその環境に適応させるモデル適応技術が大変重要となっており、盛んに研究されている（例えば特許文献１、非特許文献１、非特許文献２）。
代表的な音響モデル適応は大きく分けて２つに分類される。一つは事前知識を利用してガウス分布統計量をベイズ推定により求めるベイズアプローチ（非特許文献２）であり、もう一つはガウス分布統計量の変換写像を推定する変換写像アプローチ（特許文献１、非特許文献３）である。
【０００４】
図１１に従来技術における認識性能の一般性能を示す。横軸は学習データ量、縦軸は認識性能を示す。図１１に示す曲線Ａはベイズアプローチの性能特性、曲線Ｂは変換写像アプローチを示す。図１１から明らかなように学習データ量が少ない領域Ｘ１では変換写像アプローチの方が認識性能が高い。
つまり、一般に、変換写像アプローチは共有ガウス分布クラス（コースクラス）を用いるため、推定するパラメータが少なく過学習が緩和され、少量学習データにおいて、ベイズアプローチを上回る。逆に適応データが適度に多い場合、ガウス分布クラス（ファインクラス）で推定を行なうベイズアプローチは、その精密な推定ゆえに、変換写像アプローチを上回る。
【０００５】
尚、図１１に示す曲線Ｃは今後出現が望まれる手法の認識性能を表わしている。
【特許文献１】特公平０７−１２２８７１号公報
【非特許文献１】J-L.Gauvain and C-H.Lee.Maximum a posteriori estimation for multivariate Gaussian mixture observations of Markov chains.IEEE Trans.on Speech and Audio Processing,Vol.2,pp.291-298,1994.
【非特許文献２】C.Leggetter and P.Woodland.Maximum likelihood linear regression for speaker adaptation of continuous density hidden Markov models.Computer Speech and Language,Vol.9,pp.171-185,1995.
【発明の開示】
【発明が解決しようとする課題】
【０００６】
従来手法は図１１に示したように、学習データ量に応じて一長一短があり、データ量に依らず図１１に曲線Ｃに示すような認識性能を示す音響モデル適応技術が望まれている。
本発明の目的はデータ量に依らず常に充分な認識性能を示す音声認識用音響モデル作成方法及びこの方法を用いた装置、プログラム、記録媒体を提案しようとするものである。
【課題を解決するための手段】
【０００７】
本発明は初期音響モデルを記憶した初期音響モデル記憶部と、学習データを記憶した学習データ記憶部とを備え、初期音響モデル記憶部から取得した初期音響モデルと学習データ記憶部から取得した学習データとから音響モデルのガウス分布平均ベクトルの移動ベクトルを求め、この移動ベクトルを用いて初期音響モデルを学習データに適応した適応化音響モデルに変換する音声認識用音響モデル作成方法であって、移動ベクトルを方向ベクトルとスケーリングファクタに分解し、方向ベクトルをコースクラスのパラメータ推定における学習により求め、スケーリングファクタをファインクラスのパラメータ推定における学習により求める音声認識用音響モデル作成方法である。
【０００８】
本発明はコースクラス及びファインクラスの各パラメータ推定における学習においてガウス分布クラスを含む共有ガウス分布クラスで推定する音声認識用音響モデル作成方法である。
本発明は更にコースクラス及びファインクラスの各パラメータ推定における学習に変分ベイズ学習法を適用する。
本発明は更にコースクラス及びファインクラスの各パラメータ推定における学習に、事後確率最大化学習法を適用する。
【０００９】
本発明は更にコースクラス及びファインクラスの各パラメータ推定における学習に、最尤学習法を適用する。
本発明は更に初期音響モデルの階層構造が、ガウス分布を要素とする集合の要素数が降順に、音素クラス、音素ＨＭＭクラス、共有化された環境依存音素ＨＭＭクラス、共有化されていないガウス分布クラスであった場合、コースクラスにおいては集合の要素数がファインクラスより相対的に大きいクラスを用いる。
本発明は更に初期音響モデルを記憶した初期音響モデル記憶部と、初期音響モデル作成時に用いられていないデータを含む学習データを記憶した学習データ記憶部と、初期音響モデル記憶部から取得した初期音響モデルと学習データ記憶部から取得した学習データとから音響モデルのガウス分布平均ベクトルの移動ベクトルを求める移動ベクトル算出部とを備え、移動ベクトル算出部は移動ベクトルを方向ベクトルとスケーリングファクタに分解し、方向ベクトルをコースクラスのパラメータ推定における学習により求めるコースクラス学習部と、スケーリングファクタをファインクラスのパラメータ推定における学習により求めるファインクラス学習部とを備える音声認識用音響モデル作成装置である。
【発明の効果】
【００１０】
本発明によれば、学習データ量に依存した移動ベクトルのコースクラス及びファインクラス推定の長所を引き出すように移動ベクトルの推定を行うことができる。この結果、学習データの多少に係わらず、充分な認識性能を示す適応化音響モデルを得ることができる。
【発明を実施するための最良の形態】
【００１１】
本発明による音声認識用音響モデル作成方法及びこれを実行する音響モデル作成装置は、主に本発明の音声認識用音響モデル作成プログラムをコンピュータにインストールし、このプログラムをコンピュータに実行させることにより実現される。
コンピュータは初期音響モデルを記憶した初期音響モデル記憶部と、初期音響モデル作成時に用いられていないデータを含む学習データを記憶した学習データ記憶部と、学習データ記憶部から取得した学習データと初期音響モデルとから移動ベクトルを求める移動ベクトル算出部とを備え、移動ベクトル算出部は移動ベクトルを方向ベクトルとスケーリングファクタに分解し、方向ベクトルをコースクラスパラメータ推定における学習により求め、スケーリングファクタをファインクラスのパラメータ推定における学習により求める。
【００１２】
この算出方法を採ることにより「学習データの多少に係わらず充分な認識性能を示す適応化音響モデルを作成できる」とする本発明の目的が達せられる。
以下にこの発明の具体的な概要を説明する。
本発明では、音響モデル適応における初期音響モデルから適応化音響モデルへの音響モデル変換を目的とする。近年の音声認識用音響モデルではそれぞれの音素の時系列特性を隠れマルコフモデルでモデル化を行い、それぞれの隠れマルコフ状態を単一もしくは混合ガウス分布でモデル化を行う。この場合モデルパラメータは隠れマルコフモデルの状態遷移確率、混合ガウス分布の重み因子、ガウス分布の平均ベクトルおよびガウス分布の共分散行列で表現される。本発明においては、それらのモデルパラメータの中で最も認識性能への寄与が大きいとされるガウス分布の平均ベクトルに注目し、これを変換することにより、初期モデルから適応化音響モデルへのモデル変換を実現する。
【００１３】
初期音響モデルのガウス分布ｋの平均ベクトルμkiniから、適応化音響モデルのガウス分布ｋの平均ベクトルμknewへの変換に注目し、この変換に対応する移動ベクトルの推定を行う。音声認識用音響モデルは総計１，０００から１，０００，０００におよぶガウス分布で構成されており、それぞれのクラス（ガウス分布クラス）の移動ベクトルを推定するためには、ガウス分布数×特徴量次元数分のパラメータを推定する必要があり、膨大な学習データが必要となるため、学習データが少量の場合は過学習による性能低下が問題となる。つまり最もファインであるガウス分布クラスを用いて移動ベクトルを推定する場合、学習データが多量の場合ファインクラスゆえに精密な移動ベクトルが推定できるが過学習による性能低下の恐れがある。一方、複数のガウス分布にわたって同一の移動ベクトルを用いることにより、推定すべきモデルパラメータを減少させる手法は、推定すべきパラメータあたりの学習データ量が相対的に増加するため、少量の学習データにおける過学習問題を緩和する。しかし、推定すべき移動ベクトルのクラスが粗い（コースクラス）ため、学習データが多い場合においては、コースクラスゆえにモデルの表現力が低下しているため、ファインクラス推定の場合に比べて充分な性能を示すことができない。本発明は、このような学習データ量に依存した移動ベクトルのコースクラス及びファインクラス推定の長所と短所に注目し、両者の長所を引き出すように移動ベクトルの推定を行うことにより、学習データの多少にかかわらず充分な認識性能を示す適応化音響モデルを作成することができる。
【００１４】
具体的には移動ベクトルを方向ベクトルδとスケーリングファクターｇに分解し、それぞれをコースクラスｉｋ、ファインクラスｊｋの推定により個別に求めることが本発明の特長である。つまり、（ｉ）方向ベクトルはベクトル量であり、推定すべきパラメータが多いため、方向ベクトルの推定においては共有ガウス分布クラスに割り当てられた充分多い学習データを用い（コースクラス推定）、（ii）スケーリングファクターはスカラーであり、推定すべきパラメータが少ないため、スケーリングファクターの推定においてはガウス分布に割り当てられた少量データを用いる（ファインクラス推定）。これにより、コースクラス及びファインクラスにおけるパラメータ推定を内包することができる（図１参照）。図１においてはスケーリングファクタｇのクラスは共有化されていない図８に示す階層構造の中のガウス分布クラスが用いられている。ここで、ｉｋ及びｊｋはガウス分布ｋを含む共有ガウス分布クラスである（図２参照）。
【００１５】
一般にファインクラスｊｋはガウス分布クラスを用いることが多い（つまりｊｋ→ｋ）が一般化のため、共有化クラスとして話を進める。これをコース学習及びファイン学習とよぶ。
本発明はコース学習部及びファイン学習部を用いて音響モデル適応を実現する（図３及び４参照）。コース学習部及びファイン学習部は最尤法（Maximum Likelihood：ＭＬ）、事後確率最大化法（Maximum A Posteriori：ＭＡＰ）もしくは変分ベイズ法（Variational Bayes：ＶＢ）を用いて解析的且つ効率良く求めることができる。それぞれの解法をＣＦＴ−ＭＬ，ＣＦＴ−ＭＡＰ，ＣＦＴ−ＶＢと呼ぶ（ＣＦＴはCoarse Fine Trainingの略記）。
【００１６】
どのようなクラスでガウス分布を共有するかに関しては図８に示す音声認識用音響モデルの階層構造を利用した共有化クラス設定または分布間類似度を用いて作られたクラス設定を用いることができる。最後に、変分ベイズ法ＶＢのモデル選択基準もしくは漸近的情報量基準を用いて学習データ量に応じて共有化クラスの設定を制御し、より正確な移動ベクトルの推定を実現する。この場合は通常のコース学習部及びファイン学習部に加えて移動ベクトル評価部と判定部が加わる（図５及び６参照）。
【実施例１】
【００１７】
図３に本発明による音声認識用音響モデル作成装置の構成の一例を示す。本発明による音声認識用音響モデル作成装置は初期音響モデル記憶部３１と、学習データ記憶部３２と、移動ベクトル算出部３３とを備え、移動ベクトル算出部３３は初期音響モデル記憶部３１と学習データ記憶部３２からそれぞれ初期音響モデルμkiniと学習データＯとを取り込んで移動ベクトルｇｋ・δｋを算出し、この移動ベクトルｇｋ・δｋを用いて適応化音響モデルμknew＝μkini＋ｇｋ・δｋを作成し、適応化音響モデル記憶部３４に記憶させる。
【００１８】
具体的には学習用音声データは特徴量ベクトル変換部３２Ａで特徴量ベクトルに変換され、学習データは特徴量ベクトルの形態で学習データ記憶部３２に記憶される。この学習データ記憶部３２に記憶された学習データは初期音響モデル記憶部３１に記憶されている初期音響モデルの作成時には考慮されていない少量の環境データである。
移動ベクトル算出部３３にはコースクラス学習部３３Ａと、ファインクラス学習部３３Ｂとが設けられ、このコースクラス学習部３３Ａとファインクラス学習部３３Ｂで移動ベクトルの算出が実行される。以下にコースクラス学習部３３Ａとファインクラス学習部３３Ｂで実行される学習演算動作について説明する。
【００１９】
学習データを用いて初期音響モデルから適応化音響モデルを再構築する場合、適応化音響モデルのガウス分布ｋの平均ベクトルμknewは、初期音響モデルのガウス分布ｋの平均ベクトルμkini及び、ガウス分布ｋに属する学習データの平均統計量ベクトルｍｋ間の内挿ベクトルで表現される（図７参照）。ここで、図７における移動ベクトルμknew−μkiniに着目すると、移動ベクトルは次のように方向ベクトルδｋ及びスケーリングファクターｇｋに分解することができる。
μknew＝μkini＋ｇｋδｋ                                  （１）
この発明の要点は方向ベクトルδ及びスケーリングファクタｇを、ガウス分布クラスｋを含む異なる上位クラスｉｋ及びｊｋで推定する所にある。つまり、
μknew＝μkini＋ｇｋδｋ  →  μknew＝μkini＋ｇjk・δik
このとき、スケーリングファクターｇのパラメータ数は１であり、特徴量次元分ある方向ベクトルδのパラメータ数に比べて非常に小さい。そこで、移動ベクトルの推定に際し、（ｉ）方向ベクトルの推定においては共有ガウス分布クラスに割り当てられた充分多い学習データを用い（コースクラス推定）、（ii）スケーリングファクターの推定においてはガウス分布に割り当てられた少量データを用いる（ファインクラス推定）ことにより、コースクラス及びファインクラスにおけるパラメータ推定を内包することができる（図２参照）。
【００２０】
移動ベクトルのコース学習及びファイン学習を実現するための解法を以下に示す（図４参照）。解法として、変分ベイズ学習、事後確率最大化学習及び最尤学習を紹介する。音響モデルは隠れマルコフモデル、混合ガウス分布モデルで表現されており、潜在変数を含むため、そのようなモデルにおけるパラメータの事後確率分布の推定には変分ベイズ学習を用いる。また、パラメータの推定には事後確率最大化学習及び最尤学習を用いる。
いずれの学習法も、学習データＯと初期音響モデルμkiniからフォワード・バックワードアルゴリズムもしくはビタビアルゴリズムにより、学習データＯに対するガウス分布ｋの存在事後確率値Ｐ（ｋ｜Ｏｔ）≡ζktを求める操作（Ｅ−ｓｔｅｐと呼ばれる図４に示すステップＳＰ１）と、それを用いてガウス分布ｋにおけるＶＢ事後確率分布もしくはＭＬ推定値、ＭＡＰ推定値を求める操作（Ｍ−ｓｔｅｐと呼ばれる）、図４に示すステップＳＰ４−１，ＳＰ４−２，ＳＰ４−３の繰り返しによって求めることができる。これを期待値最大化法と呼ぶ。繰り返し計算は変分ベイズ法の場合はＶＢ評価関数が、ＭＬ，ＭＡＰの場合は尤度が収束する、もしくは繰り返しの回数を指定して、その回数まで達した場合に繰り返し計算を終了（図４に示すステップＳＰ７）させる。学習により推定された方向ベクトルδ及びスケーリングファクタｇもしくはそのＶＢ事後確率値を元に、式（１）からガウス分布ｋの適応化された平均ベクトルμknewを求める。
【００２１】
以降では、それぞれの学習法に対するＭ−ｓｔｅｐの解を紹介する。また、いずれの手法においても後に必要となるために、ζktをもとに、ガウス分布ｋに属する学習データＯの平均ベクトルμ＾ｋを
【数１】
2006053431.tif 000003
より求めておく。尚、文中のＡ＾は数式中のＡの上に＾を付したものと同一である。
【００２２】
変分ベイズ学習（ＣＦＴ−ＶＢ）
学習データのＤ次元特徴量ベクトル集合をＯ＝｛ｏｔ∈ＲＤ：ｔ＝１，…，Ｔ｝としたとき、方向ベクトルδikのＶＢ事後分布ｑ〜ｋ（δik｜Ｏ）はガウス分布Ｎ（δik｜α〜ik，Ω〜ik）で表現され、それらのハイパーパラメータα〜ik及びΩ〜ikは初期モデルの共分散行列Ｓkiniを用いて次のように与えられる。尚、文中のＡ〜 は数式中のＡの上に 〜 を付したものと同一である。
【数２】
2006053431.tif 000004
ここでαikO 及びΩikO は事前分布Ｎ（δik｜αikO ，ΩikO ）のハイパーパラメータであり事前に与える。ζｋ≡Σｔζkt及びμ＾ｋ≡ΣｔζktＯｔ／ζｋはガウス分布ｋにおけるフレーム数及び適応データの平均ベクトルを表す。
【００２３】
同様にスケーリングファクターｇjkのＶＢ事後分布ｑ〜（ｇjk｜Ｏ）はガウス分布Ｎ（ｇjk｜ｕ〜jk，ｖ〜jk）で表現され、それらのハイパーパラメータｕ〜jk及びｖ〜jkは次のように与えられる。
【数３】
2006053431.tif 000005
ここでｕikO及びｖikOは事前分布Ｎ（δik｜ｕikO，ｖikO）のハイパーパラメータであり、（  ）′及びｔｒ（  ）は行列の転置及びトレースを表す。これをＣＦＴ−ＶＢと呼ぶ。
【００２４】
事後確率最大化学習（ＣＦＴ−ＭＡＰ）
次にＣＦＴの事後確率最大化解を紹介する（ＣＦＴ−ＭＡＰ）。δik及びｇjkの事後確率最大化推定値は事前分布付きのＱ関数をδikまたはｇjkに関して微分すればよい。ここで、Ｑ関数は完全データの対数尤度に対して隠れ変数の事後確率分布で期待値を取ることにより定義され、その微分により求まるパラメータδikまたはｇjkの局所最適性を保障する。このとき、局所最適なδikまたはｇjkは次のように求まる。
【数４】
2006053431.tif 000006
【００２５】
最尤学習（ＣＦＴ−ＭＬ）
最後に、ＣＦＴの最尤学習による解は次のようになる。
【数５】
2006053431.tif 000007
ＣＦＴ−ＭＬ解は最もシンプルだが、Σｉ∈ｋζｋ＝０のときに解が発散するため、閾値を設定してそれを回避する必要がある。
【００２６】
以上説明した学習法において、ガウス分布ｋの学習データＯに対する事後確率値をフォワード・バックワードアルゴリズムで求め、ｇjk，δikの変分ベイズ事後分布を求めるＥＭアルゴリズムをＶＢ−ＥＭと呼び、また、初めに学習データＯに対するガウス分布ｋの存在事後確率値をフォワード・バックワードアルゴリズムで求め、次にそれを元にｇjk，δikの学習データＯに対するＭＡＰ推定値を求めるＥＭアルゴリズムをＭＡＰ−ＥＭと呼び、更に、学習データＯに対するガウス分布ｋの存在事後確率値をフォワード・バックワードアルゴリズムで求め、それを元にｇjk，δikの学習データＯに対するＭＬ推定値を求めるＥＭアルゴリズムをＭＬ−ＥＭと呼ぶ。上述した各計算をＣＦＴ−ＶＢの場合はＶＢ−ＥＭ，ＣＦＴ−ＭＡＰの場合はＭＡＰ−ＥＭ，ＣＦＴ−ＭＬの場合はＭＬ−ＥＭを用いることにより、効率よく、且つ正確に求めることができる。
【００２７】
コースクラス及びファインクラスの設定
コースクラス及びファインクラスの設定方法について説明を行う。コース学習及びファイン学習では、方向ベクトルδに対してコースガウス分布共有クラスを、スケーリングファクタｇに対してはファインガウス分布共有クラスを与える必要がある。このクラスの設定に対して音声認識用音響モデルの階層構造を利用する。現在標準的に用いられる、音声認識用音響モデルの階層は大きく分けて音素クラス、音素ＨＭＭクラス、共有化された環境依存音素ＨＭＭクラス、ガウス分布クラスの４つ存在する（図８参照）。最も大きい集合（最も多いガウス分布が属する集合）は音素クラスであり、以下共有化された環境依存音素ＨＭＭクラス、ガウス分布クラスと続く。つまり、音素クラス⊇音素ＨＭＭクラス⊇共有化された環境依存音素ＨＭＭクラス⊇ガウス分布クラスである。コースクラス及びファインクラスにおいてはこれらのいずれかのクラスを用いる。一般には、ファインクラスにおいて共有化されていないガウス分布クラスを用い、コースクラスにおいてそれより相対的に大きいクラスを用いればよい。
【００２８】
一方、音声認識用音響モデルの階層を用いず、ガウス分布の統計量を元に分布間類似度を算出し、ｋ最近傍法で共有クラスを決定する手法も存在する。この場合、音素ラベル等を用いないため、音素ラベルのない教師無し話者適応タスクにおいても充分効果を発揮する。分布間類似度においてはＫＬ divergenceや尤度、平均ベクトルのユークリッド距離が用いられる。
【実施例２】
【００２９】
上述したコースクラス及びファインクラスの設定を学習データ量に応じて決めることにより、学習データ量に対する性能のばらつきをさらに抑えることができる。図５と図６にその実施例を示す。この実施例では移動ベクトル算出部３３にコースクラス学習部３３Ａとファインクラス学習部３３Ｂに加えて評価部３３Ｃと、判定部３３Ｄとを設けた例を示す。
評価部３３Ｃは算出した移動ベクトルを評価する。
評価方法としてはコースクラス及びファインクラスの学習がＣＦＴ−ＶＢである場合は、ＶＢ事後分布からコースクラス及びファインクラス設定の良し悪しを判定する評価関数を求めることができる。この評価関数を用いて最適なコースクラス及びファインクラスを求めることができる。判定部３３Ｄは評価部３３Ｃの評価結果に従って得られた適応化音響モデルを適応化音響モデル記憶部３４に記憶するか、又は再計算を指示する。
【００３０】
図６にその様子を説明するフローチャートを示す。ステップＳＰ１１でコースクラス及びファインクラスの各学習により移動ベクトルを求め適応化音響モデルμknewを求める。
ステップＳＰ１２で算出した乗算ベクトルを例えば評価関数により評価する。評価の結果が良であればステップＳＰ１３で評価関数最良と判定し、ステップＳＰ１４−１で適応化音響モデル記憶部３４に求めた適応化音響モデルを書き込む。ステップＳＰ１３の判定結果が否の場合はステップＳＰ１４−２で再計算を指示し、ステップＳＰ１４−３でコースクラス及びファインクラスの再設定を実行し、ステップＳＰ１１に戻る。再計算はステップＳＰ１４−３で再設定されたコースクラス及びファインクラスに従って実行される。再計算時のコースクラス及びファインクラスの設定は学習データのデータ量に対応して過去の設定とは異なるクラスに再設定される。
【００３１】
以上はＣＦＴ−ＶＢの場合を例示したが、ＣＦＴ−ＭＡＰやＣＦＴ−ＭＬではＶＢ事後分布は求まらないので、ＭＡＰ推定値、ＭＬ推定値を元にＡＩＣ，ＢＩＣ，ＭＤＬ，ＡＢＩＣといった漸近的情報量を求め、これを用いて移動ベクトルの評価を行なうことができる。
以上説明した本発明による音声認識用音響モデル作成方法及びこの方法を用いて動作する音響モデル作成装置は、コンピュータが解読可能なプログラム言語で記述された本発明による音声認識用音響モデル作成プログラムをコンピュータにインストールし、コンピュータに音声認識用音響モデル作成プログラムを解読させ実行させることによって実現される。
【００３２】
本発明による音声認識用音響モデル作成プログラムはコンピュータが読取可能な例えば磁気ディスク或はＣＤ−ＲＯＭのような記録媒体に記録され、これらの記録媒体からコンピュータにインストールされるか又は、通信回路を通じてコンピュータにインストールされ、コンピュータに備えたＣＰＵに解読されて実行される。
効果の実証実験
教師あり話者適応実験を通じて、本発明で提案したＣＦＴ−ＶＢ適応の、学習データ量の増加に応じた認識性能を調べた。このとき、比較対照として、ファインクラスを用いたベイズアプローチの代表的手法であるＭＡＰ適応（非特許文献１）を用いた。ＣＦＴ−ＶＢにおいて方向ベクトルδikのクラスは、共有化された環境依存音素クラスを用い、スケーリングファクタｇjkのクラスはガウス分布クラスを用いた（つまりｇjk→ｇｋ）。実験条件のうち音響分析条件は表１のとおりであり、標本化周波数は１６ｋＨｚ、量子化１６ｂｉｔ、特徴量ベクトルは１２次元ＭＦＣＣ及び１２次元ΔＭＦＣＣ、窓関数はハミング窓を用いた。また、フレームサイズは２５ｍｓ、フレームシフト幅は１０ｍｓとした。実験条件のうち初期音響モデル構造は表２のとおりであり、一音素あたりに対してleft to right ＨＭＭを用い、ＨＭＭ状態数は３とした。音素カテゴリー数は２７、共有化されたＨＭＭ状態数は３２４として、個々のＨＭＭ状態の出力分布は８混合ガウス分布モデルで表した。ＣＦＴ−ＶＢ，ＭＡＰ両実験を通じてガウス分布の共分散行列は一定とした。初期モデルは孤立単語データのべ４８００単語（男性話者５０名）を用い、適応・評価データには別の孤立単語データを用い男性話者一人の１０００単語を学習データに３００単語を評価データに用いた。学習用データからランダムに単語を抜き出し、データ量の異なる１９種類の学習データセットを用いて学習実験を行った。
【００３３】
図９は適応データ学習量に応じたＣＦＴ−ＶＢとＭＡＰの、不特定話者音響モデル（８５．７％）からの性能改善比較を示したグラフである。特に１００単語以下の適応実験においてＣＦＴ−ＶＢ（図９に示す曲線Ａ）はＭＡＰ（図９に示す曲線Ｃ）に比べて最大で４％程性能が上回っている。また、１００単語以上になると、ＣＦＴ−ＶＢはＭＡＰと同等の認識性能を示している。これらの結果は、コースクラス及びファインクラスの学習を行うことにより任意の学習データにおいて認識性能の改善が得られるＣＦＴ適応の効果を示している。
【表１】
2006053431.tif 000008
【表２】
2006053431.tif 000009
【００３４】
次に、ＶＢのモデル選択機能を利用した学習実験結果を示す。今回の実験では、方向ベクトルδikのクラスに対して先程の実験で用いた共有化状態クラス（ファインクラス）及びガウス分布クラス（コースクラス）を用意し、ＶＢを用いて学習データに応じてクラスの自動選択を行った。ＶＢのモデル選択により、学習データ４００単語のとき、方向ベクトルδikのクラスはコースクラスからファインクラスに移った（図９に示す曲線Ｂ参照）。この結果は、４００単語付近でパラメータあたりの学習データが充分多くなったため、より精密なファインクラスが選ばれたことを示している。またこのとき、ＣＦＴ−ＶＢはＭＡＰに比べて学習データが充分多い領域において１％程性能が上回っている。理由として、この領域においては、ＭＡＰ適応とＣＦＴ−ＶＢは双方ともファインクラス推定を行っているため、スケーリングファクタの分だけ、ＣＦＴ−ＶＢのモデルがより精密になったためと考えられる。
【００３５】
このように、ＣＦＴ−ＶＢはコース学習及びファイン学習及びＶＢのモデル選択により任意の学習データにおいて従来のＭＡＰ適応を上回る結果を示した。
【産業上の利用可能性】
【００３６】
本発明による音声認識用音響モデル作成方法及びこれを適用して動作する音響モデル作成装置は各種の音声対話装置、自動予約システム等のヒューマンインターフェースの部分に活用される。
【図面の簡単な説明】
【００３７】
【図１】本発明で利用する移動ベクトルの様子を説明するための図。
【図２】本発明で適用するファインクラスとコースクラスを説明する図。
【図３】本発明の音声認識用音響モデル作成装置の一実施例を説明するためのブロック図。
【図４】図３に示した音声認識用音響モデル作成装置の動作を説明するためのフローチャート。
【図５】本発明の他の実施例を説明するためのブロック図。
【図６】図５に示した実施例の動作を説明するためのフローチャート。
【図７】本発明で用いる移動ベクトルの構成を説明するための図。
【図８】一般的な音声認識用音響モデルの階層構造を説明するための図。
【図９】本発明の効果を実証するための実験結果を説明するためのグラフ。
【図１０】一般的な音声認識装置の構成を示すブロック図。
【図１１】従来の技術で得られる音声認識率を説明するためのグラフ。
【符号の説明】
【００３８】
３１    初期音響モデル記憶部
３２    学習データ記憶部
３３    移動ベクトル算出部
３３Ａ  コースクラス学習部
３３Ｂ  ファインクラス学習部
３３Ｃ  評価部
３３Ｄ  判定部
３４    適応化音響モデル記憶部
【図１】
2006053431.tif 000010
【図２】
2006053431.tif 000011
【図３】
2006053431.tif 000012
【図４】
2006053431.tif 000013
【図５】
2006053431.tif 000014
【図６】
2006053431.tif 000015
【図７】
2006053431.tif 000016
【図８】
2006053431.tif 000017
【図９】
2006053431.tif 000018
【図１０】
2006053431.tif 000019
【図１１】
2006053431.tif 000020