(57)【要約】【課題】複数の確率分布を用いた音声認識における確率分布数の調整方法において、識別性を考慮することで高精度化を行える、パターン認識装置、音声認識装置、及びプログラムを提供すること。【解決手段】複数の確率分布を標準パターンとするパターン認識において、確率分布の個数を最適に調整するに際して、少なくとも、学習データと標準パターンの整合性と、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整することを特徴とする。【選択図】      図１
2005141049.tif 000002
【特許請求の範囲】
【請求項１】
複数の確率分布を標準パターンとするパターン認識装置において、確率分布の個数を最適に調整するに際して、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整することを特徴とするパターン認識装置。
【請求項２】
複数の確率分布を標準パターンとするパターン認識装置において、確率分布の個数を最適に調整するに際して、学習データと標準パターンの整合性と、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整することを特徴とするパターン認識装置。
【請求項３】
確率分布を用いるパターン認識装置において、学習データから作成された標準パターンと入力データを用いて認識結果を出力する認識手段と、標準パターンを保持する標準パターン記憶手段と、標準パターンと認識結果を用いて、確率分布の数を最適に調整する識別的混合分布調整手段を保持し、前記識別的混合分布調整手段が、学習データと標準パターンの整合性を計算する整合性計算手段と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算するパラメータ量ペナルティ計算手段と、認識結果から識別ペナルティを計算する誤識別ペナルティ計算手段と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて、確率分布のパラメータ数を調節するための基準を計算する決定基準計算手段と、前記基準を用いて確率分布数の調整を行う混合分布決定手段を備えることを特徴とするパターン認識装置。
【請求項４】
前記誤識別ペナルティ計算手段が、認識結果と正解の認識単位毎の尤度差、認識単位毎の事後確率、または対象とした認識単位と他の認識単位のカルバック距離の総和の逆数を識別ペナルティとすること特徴とする請求項３記載のパターン認識装置。
【請求項５】
確率分布を用いてパターン認識する音声認識装置において、学習音声データから作成された標準パターンと音声入力データを用いて認識結果を出力する認識手段と、標準パターンを保持する標準パターン記憶手段と、標準パターンと認識結果を用いて、確率分布の数を最適に調整する識別的混合分布調整手段を保持し、前記識別的混合分布調整手段が、学習データと標準パターンの整合性を計算する整合性計算手段と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算するパラメータ量ペナルティ計算手段と、認識結果から識別ペナルティを計算する誤識別ペナルティ計算手段と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて、確率分布のパラメータ数を調節するための基準を計算する決定基準計算手段と、前記基準を用いて確率分布数の調整を行う混合分布決定手段を備えることを特徴とする音声認識装置。
【請求項６】
複数の確率分布を標準パターンとするパターン認識のプログラムにおいて、確率分布の個数を最適に調整するに際して、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整する手順をコンピュータに実行させることを特徴とするプログラム。
【請求項７】
複数の確率分布を標準パターンとするパターン認識のプログラムにおいて、確率分布の個数を最適に調整するに際して、学習データと標準パターンの整合性と、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整する手順をコンピュータに実行させることを特徴とするプログラム。
【請求項８】
確率分布を用いるパターン認識のプログラムにおいて、学習データから作成された標準パターンと入力データを用いて認識結果を出力する手順と、前記標準パターンと前記認識結果を用いて確率分布の数を最適に調整する手順と、前記学習データと前記標準パターンの整合性を計算する手順と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算する手順と、前記認識結果から識別ペナルティを計算する手順と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて確率分布のパラメータ数を調節するための基準を計算する手順と、前記基準を用いて確率分布数の調整を行う手順とをコンピュータに実行させることを特徴とするプログラム。
【請求項９】
前記識別ペナルティを計算する手順が、前記認識結果と正解の認識単位毎の尤度差、認識単位毎の事後確率、または対象とした認識単位と他の認識単位のカルバック距離の総和の逆数を識別ペナルティとすること特徴とする請求項８記載のプログラム。
【請求項１０】
確率分布を用いてパターン認識する音声認識のプログラムにおいて、学習データから作成された標準パターンと入力データを用いて認識結果を出力する手順と、前記標準パターンと前記認識結果を用いて確率分布の数を最適に調整する手順と、前記学習データと前記標準パターンの整合性を計算する手順と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算する手順と、前記認識結果から識別ペナルティを計算する手順と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて確率分布のパラメータ数を調節するための基準を計算する手順と、前記基準を用いて確率分布数の調整を行う手順とをコンピュータに実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、パターン認識装置、音声認識装置、およびプログラムに関し、特に混合確率密度モデルを用いた音声認識における標準パターンの作成において、自動的に標準パターンの最適な構造を決めることのできる技術に関する。
【背景技術】
【０００２】
近年、隠れマルコフモデル(HMM)を用いた音声認識の研究が行われている。HMMの詳細な説明は、ラビナー、ジュアング著、古井訳「音声認識の基礎（下）」、NTTアドバンステクノロジ（1995）（以下、非特許文献１）の102〜187頁に記述されている。HMMを用いた音声認識では、状態の分布を表すのに、ガウス分布を複数用いた混合ガウス分布が広く用いられている。1状態あたりのガウス分布数が多いほど、その状態の分布を正確に表すことができるため、認識性能も向上することが知られている。個々のガウス分布のパラメータは、学習において推定されるが、それぞれのガウス分布を正確に推定するためには、ある程度の学習データ量が必要になる。
【０００３】
一方、一般には学習データ量は限られているため、精度良く推定できるガウス分布数は限られている。そのため、データ量あたりのガウス分布数を最適に設定できる基準が必要となる。たとえば、特開平2002-268675(特許文献1と称する)では、記述長最小化(MDL)基準を用いて1状態あたりのガウス分布の数を決定している。MDL基準は、なるべく少ないパラメータ数(ガウス分布数)で、与えられた学習データを良く表すという理念を表現した基準のひとつである。MDLは、特許文献１の［数式１８］（下記（式１）として示す）であらわされるように、データとモデルの整合性を表す量と、ガウス分布数が増えることに対するペナルティとなる量で構成されている。
【０００４】
LMDL(i) = -logPθ(i)(xN) + 0.5αilogN    ・・（式１）
（式１）の記号を、特許文献1におけるモデルという用語を状態と読み替えて説明する。xNは、状態iを学習するための学習データで、Nは、データの個数を示す。θ(i)は、学習データxNによって推定された、状態iの最尤推定量である。αiは、状態iの次元数を表し、ガウス分布数と１ガウス分布あたりのパラメータ数の積である。特許文献１には、状態数に関する項もあったが、ここでは１状態あたりのガウス分布数を対象としているので省略した。（式１）の右辺第１項目は、データとモデルの整合性がよくなるほど小さくなる。整合性は、データ量あたりのガウス分布が多くなるほど良くなるため、（式１）の右辺の第１項目のみを用いてガウス分布数を決定した場合、データ量に応じてガウス分布数が多くなる方向に働く。
【０００５】
一方、（式１）の右辺の第２項は、ガウス分布が増加した場合に、値が増加する。そのため、（式１）の右辺第１項によってガウス分布数を増加させようとしても、（式１）の右辺第２項によりガウス分布数に応じてペナルティがかかるため、ある最適な個数が決まる。このような基準は、MDLの他に赤池情報量基準(AIC)やベイズ情報量基準(BIC)などがしられている。特許文献１では、（式１）のLMDLが最小になるように、ガウス分布を増やした後の記述長LMDLと、ガウス分布を増やす前の記述長LMDLの差分である、特許文献1の［数式２］(下記（式２）で示す)であらわされるΔMDLが、ΔMDL＜０の場合は、ガウス分布数を増やして、ΔMDL＞０の場合、ガウス分布数を増やさないように制御する。
【０００６】
ΔMDL=0.5Γ(S1)log|ΣS1|+0.5Γ(S2)log|ΣS2|-0.5Γ(S0)log|ΣS0|+Klog|V|  ・・（式２）
（式２）について説明する。簡単のために、状態iは、２つのガウス分布S1とS2を持っていたとし、状態iのガウス分布数を決めるために、特許文献１に示されるように、ガウ
ス分布S1とS2の親ノードとなるガウス分布S0を作成されているとする。ここで、Γ(S0)とΓ(S1)、Γ(S2)は、ガウス分布S1を作成されたときのデータ量、ΣS0とΣS1、ΣS2は、ガウス分布S1とS2の分散を表す。Kは、分散の次元数を表す。Vは、Γ(S1)+Γ(S2)である。
【０００７】
図３と図４を用いて特許文献１に示される、MDL基準を用いたHMMのガウス分布数の調節を行う、従来法の音声認識装置の説明を行う。従来の音声認識装置は、標準パターン作成手段１００と標準パターン調整手段２００と標準パターン記憶手段３００と入力パターン作成手段５００と認識手段４００で構成される。それぞれの動作は、特許文献１に記述されているように、標準パターン作成手段１００は、学習音声を用いて調整前の標準パターンＨ０を作成し、入力パターン作成手段５００は、入力音声を用いて特徴ベクトルVを計算し出力し、標準パターン調整手段２００は、MDL基準を用いて調整前の標準パターンＨ０のガウス分布数を調整して新たな調整後の標準パターンＨを作成し、出力する。標準パターン記憶手段３００は、調整前の標準パターンＨ０を記憶する。認識手段４００は、特徴ベクトルVとHを用いて認識し、認識結果を出力する。
【０００８】
図４を用いて、標準パターン調整手段２００を説明する。図４は、従来の標準パターン調整手段２００を説明するためのフローチャートである。整合性計算ステップ２００ａは、（式２）のモデルとデータの整合性の差分を表す量である、右辺の第１、第２、第３項を計算する。パラメータ量ペナルティ計算ステップ２００ｂは、（式２）のガウス分布を増加させることによるペナルティ項の差分である、右辺の第4項を計算する。この値を、パラメータ量ペナルティと呼ぶ。混合分布数決定ステップ２００ｃは、整合性計算ステップ２００ａとパラメータ量ペナルティ計算ステップ２００ｂで計算された値から（式２）のΔMDLの値を計算し、ΔMDL＜０の場合分割を行い、ΔMDL＞０の場合分割を停止する。これらの動作の詳細は、特許文献１に記載されている。
【０００９】
特許文献1のように、ガウス分布数の決定をデータ量とガウス分布数に着目した基準で行っている方法に対し、ノルマンディン著、「オプティマル・スプリッティング・オブ・エイチエムエム・ガウシャン・ミックスチャー・コンポーネント・ウィズ・エムエムアイイー・トレーニング」アイキャスプ1995(Normandin,“Optimal Splitting of HMM Gaussian Mixture Component with MMIE Training”,ICASSP  1995)(以下、非特許文献２)で相互情報量最大化基準(MMI)を用いたガウス分布数の制御方法を提案している。非特許文献２では、MMIを状態毎の混同する度合いを小さくするための基準として用いている。この方法は、MMIを用いて他の状態と混同の度合いが大きい状態のガウス分布数を増やして、混同の度合いの小さい状態のガウス分布数は増やさないことに特徴がある。
【００１０】
【特許文献１】特開平２００２−２６８６７５号公報
【非特許文献１】ラビナー、ジュアング著、古井訳、「音声認識の基礎（下）」、ＮＴＴアドバンステクノロジ（１９９５）、１０２〜１８７頁
【非特許文献２】ノルマンディン著、「オプティマル・スプリッティング・オブ・エイチエムエム・ガウシャン・ミックスチャー・コンポーネント・ウィズ・エムエムアイイー・トレーニング」アイキャスプ１９９５（Normandin,“Optimal Splitting of HMM Gaussian Mixture Component with MMIE Training,”ICASSP  1995）
【発明の開示】
【発明が解決しようとする課題】
【００１１】
特許文献1で示されているMDL(BIC,AICなど)基準を用いたガウス分布数の制御は、基本的に学習データ量に応じてガウス分布数を決定する方法で、ガウス分布数が過剰に割り当てられるのを防ぐことができる。そのため、HMM全体で持つガウス分布の数が決まっている場合、状態毎に与えられるガウス分布数は、それぞれの状態の学習データ量の相対量に応じた数になる。すなわち、データ量が多い状態には、ガウス分布が多く、データ量の少ない状態には、ガウス分布数が少ない。
【００１２】
一方、音声認識では、単語や音節、音素などを識別することを目的としている。特許文献1の方法では、データ量が多いという理由だけで識別に不要なガウス分布が与えられる状態が現れる可能性があり、更に学習データ量が少ないが他と混同が大きい状態には混同を解消するのに不十分な数のガウス分布となる可能性がある。
【００１３】
非特許文献２のように、識別的な基準でガウス分布数の制御を行っている例では、ガウス分布数の上限を決める基準がはっきりしない。すなわち、極端な場合、学習データに対して識別力を高めようとして識別的にガウス分布数を増やしていくと、1ガウス分布あたりの学習データ量が少なくなり、分布の推定が不安定になる原因となる。また、識別的な基準は、認識の単位とするクラス(ここでは状態)毎に、混同の度合いを計算する必要がある。一般に、音声認識で用いられるHMMは、1000から10000の状態を持っており、これら全ての組み合わせを計算すると多大な計算量が必要になる可能性がある。
［発明の目的］
本発明の目的は、ガウス分布を持つHMMを用いた音声認識装置において、ガウス分布の数の調整を効果的に行うことのできる、音声認識装置を提供することにある。
【課題を解決するための手段】
【００１４】
本発明の第１のパターン認識装置は、複数の確率分布を標準パターンとするパターン認識装置において、確率分布の個数を最適に調整するに際して、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整することを特徴とする。
【００１５】
本発明の第２のパターン認識装置は、複数の確率分布を標準パターンとするパターン認識装置において、確率分布の個数を最適に調整するに際して、学習データと標準パターンの整合性と、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整することを特徴とする。
【００１６】
本発明の第３のパターン認識装置は、確率分布を用いるパターン認識装置において、学習データから作成された標準パターンと入力データを用いて認識結果を出力する認識手段と、標準パターンを保持する標準パターン記憶手段と、標準パターンと認識結果を用いて、確率分布の数を最適に調整する識別的混合分布調整手段を保持し、前記識別的混合分布調整手段が、学習データと標準パターンの整合性を計算する整合性計算手段と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算するパラメータ量ペナルティ計算手段と、認識結果から識別ペナルティを計算する誤識別ペナルティ計算手段と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて、確率分布のパラメータ数を調節するための基準を計算する決定基準計算手段と、前記基準を用いて確率分布数の調整を行う混合分布決定手段を備えることを特徴とする。
【００１７】
本発明の第４のパターン認識装置は、本発明の第３のパターン認識装置において、前記誤識別ペナルティ計算手段が、認識結果と正解の認識単位毎の尤度差、認識単位毎の事後確率、または対象とした認識単位と他の認識単位のカルバック距離の総和の逆数を識別ペナルティとすること特徴とする。
【００１８】
本発明の音声認識装置は、確率分布を用いてパターン認識する音声認識装置において、学習音声データから作成された標準パターンと音声入力データを用いて認識結果を出力する認識手段と、標準パターンを保持する標準パターン記憶手段と、標準パターンと認識結果を用いて、確率分布の数を最適に調整する識別的混合分布調整手段を保持し、前記識別的混合分布調整手段が、学習データと標準パターンの整合性を計算する整合性計算手段と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算するパラメータ量ペナルティ計算手段と、認識結果から識別ペナルティを計算する誤識別ペナルティ計算手段と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて、確率分布のパラメータ数を調節するための基準を計算する決定基準計算手段と、前記基準を用いて確率分布数の調整を行う混合分布決定手段を備えることを特徴とする。
【００１９】
本発明の第１のプログラムは、複数の確率分布を標準パターンとするパターン認識のプログラムにおいて、確率分布の個数を最適に調整するに際して、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整する手順をコンピュータに実行させることを特徴とする。
【００２０】
本発明の第２のプログラムは、複数の確率分布を標準パターンとするパターン認識のプログラムにおいて、確率分布の個数を最適に調整するに際して、学習データと標準パターンの整合性と、標準パターンにおける確率分布のパラメータ数に応じて計算されるパラメータ量ペナルティと、各確率分布の誤認識の程度である識別ペナルティを合わせた基準を用いて調整する手順をコンピュータに実行させることを特徴とする。
【００２１】
本発明の第３のプログラムは、確率分布を用いるパターン認識のプログラムにおいて、学習データから作成された標準パターンと入力データを用いて認識結果を出力する手順と、前記標準パターンと前記認識結果を用いて確率分布の数を最適に調整する手順と、前記学習データと前記標準パターンの整合性を計算する手順と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算する手順と、前記認識結果から識別ペナルティを計算する手順と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて確率分布のパラメータ数を調節するための基準を計算する手順と、前記基準を用いて確率分布数の調整を行う手順とをコンピュータに実行させることを特徴とする。
【００２２】
本発明の第４のプログラムは、本発明の第３のプログラムにおいて、前記識別ペナルティを計算する手順が、前記認識結果と正解の認識単位毎の尤度差、認識単位毎の事後確率、または対象とした認識単位と他の認識単位のカルバック距離の総和の逆数を識別ペナルティとすること特徴とする。
【００２３】
本発明の第５のプログラムは、確率分布を用いてパターン認識する音声認識のプログラムにおいて、学習データから作成された標準パターンと入力データを用いて認識結果を出力する手順と、前記標準パターンと前記認識結果を用いて確率分布の数を最適に調整する手順と、前記学習データと前記標準パターンの整合性を計算する手順と、確率分布のパラメータ数に応じたパラメータ量ペナルティを計算する手順と、前記認識結果から識別ペナルティを計算する手順と、前記整合性と前記パラメータ量ペナルティと前記識別ペナルティを用いて確率分布のパラメータ数を調節するための基準を計算する手順と、前記基準を用いて確率分布数の調整を行う手順とをコンピュータに実行させることを特徴とする。
【発明の効果】
【００２４】
データ量と整合性だけでガウス分布数を調節するのではなく、識別的な量を考慮してガウス分布数を決定するので、識別に必要なガウス分布数が確保できる。基本的には、データ量も考慮された基準を使うことから、識別的な基準だけを使うより、汎化性の高い音響モデルができる。
【００２５】
その結果、認識に最適な混合ガウス分布の配分が行われることになり、MDL基準や識別的な基準を別々に使うより認識性能高い音響モデルを作成することができる。
【発明を実施するための最良の形態】
【００２６】
図１と図２を用いて本発明の最良の形態を説明する。本発明の構成は、標準パターン作成手段１００と、識別的混合分布調整手段２０００と、標準パターン記憶手段３００と、入力パターン作成手段５００と、認識手段４００と、入力パターン計算手段で構成される。識別的混合分布調整手段２０００以外は、従来の技術で提示した特許文献１と同じである。図２を用いて識別的標混合分布調整手段２０００について説明する。図２は、識別的混合分布調整手段の動作を示すフローチャートである。まず、識別的混合分布調整手段２０００は、従来例同様、整合性計算ステップ２００ａとパラメータ量ペナルティ計算ステップ２００ｂを行う。誤識別ペナルティ計算ステップ２０００ａでは、識別性能を表す識別ペナルティを計算する。識別ペナルティの計算方法は、後述する。決定基準計算ステップ２０００ｂにて、整合性とパラメータ量ペナルティと識別ペナルティを用いて、新たな分割基準を計算する。
誤識別ペナルティ計算ステップ２０００ａにて計算される識別ペナルティdLについて説明する。認識結果Ｒは、標準パターン作成手段１００において作成された調整前の標準パターンＨ０を用いて音声データ2を用いて入力パターン作成手段５００で作成された入力パターンの照合を行い、一番類似どの高いシンボル系列として選択される。音声データ2は、学習に用いた音声データや評価に用の音声データ、目的のタスク用の開発用音声データなどが考えられる。また、認識に用いる辞書も、音節辞書や、目的のタスクの辞書などが考えられる。ここでタスクとは、認識や学習に用いる語彙セットのことを示す。
【００２７】
その後、認識結果Ｒとその結果に対する正解について、それぞれアライメントを計算する。アライメントは、非特許文献１に示されるように、調整前の標準パターンＨ０と入力パターンを用いて、ビタービ・アルゴリズムで行われる。アライメントを計算した後、正解のアライメントと認識結果Ｒのアライメントをフレーム毎に比較し、（式３）正解の状態毎に対数尤度差(以後、尤度とする)を集計する。
【００２８】
dL(正解の状態) = Σt{logP(xt|正解の状態) - logP(xt|認識結果の状態)}  ・・（式３）
（式３）の説明をする。xtは、正解でアライメントが計算されたとき正解の状態にアライメントされたデータとする。同様に、認識結果でアライメントが計算されたとき認識結果の状態にアライメントされたデータでもある。Σtは、xtについて和を示す。logP(xt|正解の状態)は、正解の状態のxtに対する対数尤度、logP(xt|認識結果の状態)は、認識結果の状態のxtに対する対数尤度である。このように集計された尤度差が識別ペナルティdLである。ここで、尤度差などを集計する単位を、状態ごととしたが、分布ごとや音素ごと、単語ごとなどの認識単位であればどれでも使える。識別ペナルティdLは、集計された尤度差を出現したフレーム数で割ったものでもよいし、状態や音素ごとの事後確率や、そのフレーム単位の平均でもよい。また、特許文献1に示されるような、（式４）の集計対象となる状態s0と他の全ての状態とのカルバックダイバージェンス総和の逆数でもよい。
【００２９】
dL = (ΣsKL(s0,s))-κ  ・・（式４）
（式４）の説明をする。κは、正規化定数で、正の値を持つ。KL(s0,s)は、状態s0の分布と状態sの分布のカルバックダイバージェンスを表す。Σsは、状態sについての総和を表す。カルバックタイバージェンスは、分布同士の重なりを表す量で、値が大きいほど分布が重なっておらず識別するのに有利であると考えられる。（式４）は、状態s0の分布と他の状態の分布のカルバックダイバージェンスの総和の逆数となっているため、他の状態の分布と重なりが小さければ、分布との重なり具合が大きいため識別に不利と考え、状態s0のガウス分布数を増やすためにdLの値が大きくなるように設計する。（式４）は、カルバックダイバージェンスの総和の逆数としているが、カルバックダイバージェンスの総和を対象となる状態s0の分布が出現フレーム数で割った値の逆数でも良い。
【００３０】
決定基準計算ステップ２０００ｂでは、整合性とパラメータ量ペナルティを用いて（式２）を用いて、記述長の差分ΔMDLを計算し、得られたΔMDLと（式５）を用いて、識別ペナルティdLを加えた新たな量Δ’を定義して値を計算する。
【００３１】
Δ’ = ΔMDL - β|dL|  ・・（式５）
βは、ΔMDLとdLを計算するのに用いられたデータ量やΔMDLとdLの単位(次元)の違いを吸収するための係数とする。識別ペナルティdLは、前述した尤度差や、カルバックダイバージェンスの逆数のように、識別力が弱ければ、その絶対値が大きく、識別するのに十分な場合は、絶対値が小さな値になる。混合分布数決定ステップ２００ｃは、従来と同様にΔ’＜０の場合、ガウス分布数を分割して、Δ’＞０の場合、ガウス分布数の分割を行わない動作を行う。混合分布数決定ステップ２００ｃの動作は従来と同じであるが、入力される値が、記述長LMDLの差分ではなく、記述長LMDLの差分に識別的な要素が加わった値Δ’である。
【００３２】
ここで、標準パターン作成手段１００や認識手段４００で、音声認識を行うものとして説明しているが、特に音声認識に限定する必要はなく、確率分布を用いた認識に関わる装置であれば何でも良い。たとえは、標準パターン作成手段１００において、音声データの代わりに、音声データ以外の音楽データや雑音データ、画像データや文字データ等を用いて標準パターンを作成することも可能である。その場合、認識手段４００では、前述のように画像データ等で作成された標準パターンと、入力された画像データ等を照合して、もっとも類似度の高いシンボル系列などを認識結果Ｒとすることもできる。
【産業上の利用可能性】
【００３３】
本発明によれば、音声認識における標準パターンを作成する際に、精度良い標準パターンを作成できるため、自動電話予約システムや、音声自動通訳機、自動ディクテーションシステム、ゲームなど、音声認識の使われる分野が広がる。また、本発明によれば、認識結果を反映してチューニングを行うことができるため、例えば、自動電話応答システム等で用いられている、名前や電話番号、株式銘柄など、語彙が限定できれば、認識性能が低かった単語等のチューニングを行うことができるので、前述のように個人情報や取引情報など、より重要な入力を音声で行うような、自動電話チケットの予約システムや自動電話株式売買システムなどの分野に応用できる。
【図面の簡単な説明】
【００３４】
【図１】本発明の第１の発明を実施するための最良の形態の構成を示すブロック図である。
【図２】第１の発明の識別的混合数調整手段を詳細に説明するためのフローチャートである。
【図３】従来例を説明するためのブロック図である。
【図４】従来例の、標準パターン調整手段を詳細に説明するためのフローチャートである。
【符号の説明】
【００３５】
１００    標準パターン作成手段
２００    標準パターン調整手段
３００    標準パターン記憶手段
４００    認識手段
５００    入力パターン作成手段
２０００    識別的混合分布調整手段
２００ａ    整合性計算ステップ
２００ｂ    パラメータ量ペナルティ計算ステップ
２００ｃ    混合分布数決定ステップ
２０００ａ    誤識別ペナルティ計算ステップ
２０００ｂ    決定基準計算ステップ
Ｈ０    調整前の標準パターン
Ｈ    調整後の標準パターン
Ｒ    認識結果
【図１】
2005141049.tif 000003
【図２】
2005141049.tif 000004
【図３】
2005141049.tif 000005
【図４】
2005141049.tif 000006