(57)【要約】【課題】  状態の変更を自動的に行ない、かつ自動的に停止することができる音響モデルの作成方法を提供する。【解決手段】  混合分布モデル作成装置は、音素モデルを複数含むモデル構造を有する隠れマルコフモデル（ＨＭＭ）を記憶するための記憶装置と、音素モデルに含まれる状態が持つ分布を混合分布にそれぞれ変更して、新たな隠れマルコフモデルを準備する処理を、音素モデルの各状態に対して行なう混合分布モデル準備部Ｓ１４６と、混合分布に変更する前後のＨＭＭに対して変分ベイズ法により計算される所定の評価関数の値の差分を算出し、差分が所定の更新条件を充足する場合にＨＭＭを混合分布モデル準備部１４６が準備した新たなＨＭＭに更新する更新部Ｓ１４２、Ｓ１４８〜Ｓ１５８と、差分が所定の更新条件を充足しなくなるまで、更新が繰返されるようにＨＭＭの各音素モデルに対してＳ１４６〜Ｓ１５８を繰返し実行させる制御部Ｓ１４４とを含む。【選択図】        図５
2006098425.tif 000002
【特許請求の範囲】
【請求項１】
環境方向に１以上の状態を含むサブモデルを時間方向に複数含むモデル構造を有する隠れマルコフモデルを記憶するための記憶手段と、
前記サブモデルに含まれる状態が持つ分布を、所定数の分布からなる混合分布にそれぞれ変更して、新たな隠れマルコフモデルを準備する処理を、前記サブモデルの各状態に対して行なうための混合分布モデル準備手段と、
前記記憶手段に記憶される隠れマルコフモデルに対して、変分ベイズ法により計算される所定の評価関数の値と、前記混合分布モデル準備手段により準備される前記新たな隠れマルコフモデルに対して計算される前記評価関数の値との差分を算出し、前記差分が所定の更新条件を充足することに応答して、前記記憶される隠れマルコフモデルを、前記混合分布モデル準備手段が準備した前記新たな隠れマルコフモデルに更新するための更新手段と、
前記差分が所定の更新条件を充足しなくなるまで、前記記憶手段に記憶された隠れマルコフモデルの各サブモデルに対し、前記混合分布モデル準備手段による準備、及び前記更新手段による更新を繰返すように前記混合分布モデル準備手段及び前記更新手段を制御するための制御手段とを含む、混合分布モデル作成装置。
【請求項２】
前記制御手段は、前記更新手段によって算出された差分が負となるまで、前記記憶手段に記憶された隠れマルコフモデルの各サブモデルに対し、前記混合分布モデル準備手段による準備及び前記更新手段による更新を繰返すように前記混合分布モデル準備手段及び前記更新手段を制御するための手段を含む、請求項１に記載の混合分布モデル作成装置。
【請求項３】
前記更新手段は、
前記記憶手段に記憶された隠れマルコフモデル、及び前記混合分布モデル準備手段により準備された隠れマルコフモデルの各々に対し、予め定める事前分布パラメータに基づいて各モデル内の各状態における事後分布パラメータの推定を行なうための事後分布パラメータ推定手段と、
前記事後分布パラメータ推定手段によって推定された前記事後分布パラメータをもとに、各モデル内の各状態における前記評価関数の値をそれぞれ計算するための評価関数値算出手段とを含む、請求項１又は請求項２に記載の混合分布モデル作成装置。
【請求項４】
さらに、隠れマルコフモデルの初期モデルを記憶するための初期モデル記憶手段と、
前記初期モデルに含まれる状態を時間方向と環境方向とに分割してそれぞれ新たな隠れマルコフモデルを準備する処理を、各状態に対して行なうための分割手段と、
前記記憶手段に記憶される初期モデルに対して、変分ベイズ法により計算される所定の関数の値と、前記分割手段により準備される前記新たな隠れマルコフモデルの各々に対して計算される前記関数の値との差分をそれぞれ算出し、前記差分が所定の選択条件を充足する分割を選択して前記記憶される初期モデルを更新するための分割選択手段と、
所定の終了条件が成立するまで、前記初期モデル記憶手段に記憶された初期モデルに対し、前記分割手段による準備、及び前記分割選択手段による選択を繰返すように前記分割手段及び前記分割選択手段を制御するための分割制御手段とを含み、
前記記憶手段は、前記分割制御手段による制御にしたがい前記分割手段及び前記分割選択手段により更新され初期モデル記憶手段に記憶された初期モデルを記憶するための手段を含む、請求項１に記載の混合分布モデル作成装置。
【請求項５】
コンピュータにより実行されると、当該コンピュータを、請求項１〜請求項４のいずれかに記載の混合分布モデル作成装置として動作させる、混合分布モデル作成プログラム。
【請求項６】
請求項１〜請求項４のいずれかに記載の混合分布モデル作成装置と、
前記混合モデル作成装置により作成される隠れマルコフモデルを記憶するための隠れマルコフモデル記憶手段と、
音声信号から予め定める特徴情報を抽出するための特徴抽出手段と、
前記特徴抽出手段により音声信号から抽出された特徴情報を用い、前記隠れマルコフモデル記憶手段に記憶された隠れマルコフモデルを用いて音声認識を行なうための音声認識手段とを含む、音声認識装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は音声等の情報を認識するための認識技術に関し、特に音声の認識に用いる音響モデルの作成方法において、ＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ：隠れマルコフモデル）の混合分布数を自動的に決定しＨＭＭを混合分布化する方法に関する。
【背景技術】
【０００２】
コンピュータ技術及び信号処理技術の発達により、話者の発話音声から、話者による内容を示す言語的情報を認識する音声認識システムは自動化の域に達しつつある。例えばコンピュータの音声入力などが典型的な例である。
【０００３】
音声認識では、時系列信号である音声信号を、ＨＭＭを用いてモデル化する技術が一般的である。ＨＭＭは、複数の定常信号源（状態）の間を遷移することで、時系列信号をモデル化する確率モデルである。音声認識用の音響モデルは、一般に次の２つのステップで作成する。すなわち、第１のステップは、ＨＭＭの状態共有構造を作成するステップであり、第２のステップは、ＨＭＭの状態共有構造を構成する各状態を混合分布化するステップである。第１のステップでは、学習データから、音声特徴量の統計的分布を表現する１個のガウス分布を有する状態からなるＨＭＭの状態共有構造を決定する。第２のステップでは、第１のステップで決定された状態共有構造の各状態が有する分布を、複数のガウス分布の重み付き和で表現される混合分布にして音響モデルを精密化する。
【０００４】
第１のステップすなわちＨＭＭの状態共有構造を自動生成するステップで用いられる代表的な方法として、音素決定木クラスタリングと、逐次状態分割法（Ｓｕｃｃｅｓｓｉｖｅ  Ｓｔａｔｅ  Ｓｐｌｉｔｔｉｎｇ（ＳＳＳ）アルゴリズム）とがある。音素決定木クラスタリングは、音声学的知識による音素カテゴリを利用して、音素環境のクラスタリングを行なう方法である。これに対して、逐次状態分割法は、音素環境方向と時間方向との２方向の状態分割をデータに依存して行なう方法である。
【０００５】
音素決定木クラスタリングでは、分割する状態を選択するための基準として、尤度最大（Ｍａｘｉｍｕｍ  Ｌｉｋｅｌｉｈｏｏｄ：ＭＬ）基準を用いる。しかし、一般にモデルのパラメータ数が増加すると尤度は増加する。そのため、ＭＬ基準だけを基準として状態の分割を繰返し行なってモデル構造の生成を行なう場合、状態の分割を停止することが困難であった。よって、状態分割の停止条件として、他の何らかの基準を用いる必要があった。
【０００６】
この問題を解決するための方法として、後掲の非特許文献１及び２には、音素決定木クラスタリング音響モデル構造の作成方法において、分割条件及び状態分割の停止条件として情報量基準を用いる方法が提案されている。非特許文献１では、最小記述長（Ｍｉｎｉｍｕｍ  Ｄｅｓｃｒｉｐｔｉｏｎ  Ｌｅｎｇｔｈ：ＭＤＬ）基準を用いる方法が提案されている。非特許文献２では、ベイズ的情報基準を用いる方法が提案されている。これらの方法では、情報量基準の値が改善されなくなるまで状態の分割を行なう。
【０００７】
また、後掲の非特許文献３には、音素決定木クラスタリングを用いた音響モデル構造の作成方法において、分割状態の選択条件として変分ベイズ（Ｖａｒｉａｔｉｏｎａｌ  Ｂａｙｅｓｉａｎ）法を用いる方法が提案されている。変分ベイズ法は、変分法を用いて、ＭＬ基準による学習の問題である過学習を避けるためのベイズ学習を実現する方法である。
【０００８】
逐次状態分割法では、音素決定木クラスタリング法と同様に、状態の分割条件にＭＬ基準を用いる手法が提案された。後掲の非特許文献４では、ＭＬ−ＳＳＳ（ＭＬ基準を用いたＳＳＳアルゴリズム）法として不特定話者モデルの作成方法にまで拡張されている。しかし、分割条件にＭＬ基準を用いているため、音素決定木クラスタリングによる方法において生じる問題と同様の問題が生じた。すなわち、状態の分割を停止することが困難であった。
【０００９】
この問題を解決するための方法として、後掲の非特許文献５には、逐次状態分割法において、情報量基準としてＭＤＬ基準を状態分割の分割条件及び停止条件に用いる方法が提案されている。この方法を用いることにより、逐次状態分割法による状態分割を自動的に停止することが可能となった。
【００１０】
第２のステップでは、各状態における特徴パラメータの分布を、複数のガウス分布の重み付き和で表現される混合分布にする。混合分布化により、各状態におけるパラメータの複雑な分布形状を表現することが可能となるため、音響モデルをより高性能なものにすることができる。しかし、混合分布を構成するガウス分布の数（以下、この数を「混合分布数」と呼ぶ。）が多くなると、その分モデルが大がかりなものとなり扱いにくくなる。効率的な音響モデルを作成するためには、適切な混合分布数で各状態を混合分布化することが必要となる。ところが、従来の方法では、混合分布数が経験的に設定されることが多く、適切かつ効果的な混合分布数を決定することが困難であった。
【００１１】
混合正規分布モデル（Ｇａｕｓｓｉａｎ  Ｍｉｘｔｕｒｅ  Ｍｏｄｅｌ：ＧＭＭ）において、混合分布を作成するための２つの方法が非特許文献６に開示されている。非特許文献６に開示されている第１の方法は、モデルを構成する各状態に対し同数の混合分布数を設定し、変分ベイズ法により妥当なモデルを選択する方法である。第２の方法は、各状態においてガウス分布の分割と結合とを行なうことにより混合分布数を決定する方法である。また、非特許文献７には、各音素におけるＧＭＭの混合分布数を減少させることにより適切な混合分布数のＧＭＭを作成する方法が開示されている。
【００１２】
【非特許文献１】コウイチ  シノダ、タカオ  ワタナベ、「音声認識のためのＭＤＬに基づくコンテクスト依存サブワードモデリング」  日本音響学会英文誌、ｖｏｌ．２１、  ｎｏ．２、  ７９−８６頁，  ２０００．（Ｋｏｉｃｈｉ  Ｓｈｉｎｏｄａ，  Ｔａｋａｏ  Ｗａｔａｎａｂｅ，  “ＭＤＬ−ｂａｓｅｄ  ｃｏｎｔｅｘｔ−ｄｅｐｅｎｄｅｎｔ  ｓｕｂｗｏｒｄ  ｍｏｄｅｌｉｎｇ  ｆｏｒ  ｓｐｅｅｃｈ  ｒｅｃｏｇｎｉｔｉｏｎ，”  Ｔｈｅ  Ｊｏｕｒｎａｌ  ｏｆ  ｔｈｅ  Ａｃｏｕｓｔｉｃａｌ  Ｓｏｃｉｅｔｙ  ｏｆ  Ｊａｐａｎ（Ｅ），  ｖｏｌ．２１，  ｎｏ．２，  ｐｐ．７９−８６，  ２０００）
【非特許文献２】ウ．チョウ、Ｗ．ライヒル、「罰則付ベイズ的情報基準に基づく状態決定木の結合」、ＩＣＡＳＳＰ‘９９予稿集、ｖｏｌ．Ｉ、３４５−３４８頁、１９９９．（Ｗｕ  Ｃｈｏｕ，  Ｗ．  Ｒｅｉｃｈｌ，  “Ｄｅｃｉｓｉｏｎ  Ｔｒｅｅ  Ｓｔａｔｅ  Ｔｙｉｎｇ  Ｂａｓｅｄ  ｏｎ  Ｐｅｎａｌｉｚｅｄ  Ｂａｙｅｓｉａｎ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｃｒｉｔｅｒｉｏｎ，”  Ｐｒｏｃ．ｏｆ  ＩＣＡＳＳＰ‘９９，  ｖｏｌ．Ｉ，  ｐｐ．３４５−３４８，  １９９９）
【非特許文献３】Ｓ．ワタナベ、Ｙ．ミナミ、Ａ．ナカムラ、Ｎ．ウエダ、「ベイズ法に基づくＨＭＭ状態共有構造の構築」、ＩＣＳＬＰ予稿集、ｖｏｌ．４、２６６９−２６７２頁、２００２．（Ｓ．  Ｗａｔａｎａｂｅ，  Ｙ．  Ｍｉｎａｍｉ，  Ａ．  Ｎａｋａｍｕｒａ  ａｎｄ  Ｎ．  Ｕｅｄａ，  “Ｃｏｎｓｔｒｕｃｔｉｎｇ  ｓｈａｒｅｄ−ｓｔａｔｅ  ＨＭＭｓ  ｂａｓｅｄ  ｏｎ  Ａ  Ｂａｙｅｓｉａｎ  Ａｐｐｒｏａｃｈ，”  Ｐｒｏｃ．ｏｆ  ＩＣＳＬＰ，  ｖｏｌ．４，  ｐｐ．２６６９−２６７２，  ２００２）
【非特許文献４】Ｍ．オステンドルフ、Ｈ．シンガー、「尤度最大基準逐次分割法を用いたＨＭＭ構造の設計」、Ｃｏｍｐｕｔｅｒ  Ｓｐｅｅｃｈ  ａｎｄ  Ｌａｎｇｕａｇｅ、ｖｏｌ．１１、１７−４１頁、１９９７．（Ｍ．  Ｏｓｔｅｎｄｏｒｆ，  Ｈ．  Ｓｉｎｇｅｒ，  “ＨＭＭ  ｔｏｐｏｌｏｇｙ  Ｄｅｓｉｇｎ  ｕｓｉｎｇ  ｍａｘｉｍｕｍ  ｌｉｋｅｌｉｈｏｏｄ  ｓｕｃｃｅｓｓｉｖｅ  ｓｔａｔｅ  ｓｐｌｉｔｔｉｎｇ，”  Ｃｏｍｐｕｔｅｒ  Ｓｐｅｅｃｈ  ａｎｄ  Ｌａｎｇｕａｇｅ，  ｖｏｌ．１１，  ｐｐ．１７−４１，  １９９７）
【非特許文献５】Ｔ．ジツヒロ、Ｔ．マツイ、Ｓ．ナカムラ、「ＭＤＬ基準に基づく一様でないコンテクスト依存ＨＭＭ構造の自動生成」、ＥＵＲＯＳＰＥＥＣＨ‘０３予稿集、ｖｏｌ．４、２７２１−２７２４頁、２００３．（Ｔ．Ｊｉｔｓｕｈｉｒｏ，Ｔ．  Ｍａｔｓｕｉ，Ｓ．Ｎａｋａｍｕｒａ，“Ａｕｔｏｍａｔｉｃ  Ｇｅｎｅｒａｔｉｏｎ  ｏｆ  Ｎｏｎ−Ｕｎｉｆｏｒｍ  Ｃｏｎｔｅｘｔ−Ｄｅｐｅｎｄｅｎｔ  ＨＭＭ  Ｔｏｐｏｌｏｇｉｅｓ  Ｂａｓｅｄ  ｏｎ  ｔｈｅ  ＭＤＬ  Ｃｒｉｔｅｒｉｏｎ，”  Ｐｒｏｃ．  ｏｆ  ＥＵＲＯＳＰＥＥＣＨ‘０３，  ｖｏｌ．４，  ｐｐ．２７２１−２７２４，  ２００３）
【非特許文献６】Ｓ．ワタナベ、Ｙ．ミナミ、Ａ．ナカムラ、Ｎ．ウエダ、「音声認識のための変分ベイズ評価及びクラスタリング」、ＩＥＥＥ音声音響処理予稿集、ｖｏｌ．１２、ｎｏ．４、３６５−３８１頁、２００４．（Ｓ．  Ｗａｔａｎａｂｅ，  Ｙ．  Ｍｉｎａｍｉ，  Ａ．  Ｎａｋａｍｕｒａ，  Ｎ．  Ｕｅｄａ，  “Ｖａｒｉａｔｉｏｎａｌ  Ｂａｙｅｓｉａｎ  Ｅｓｔｉｍａｔｉｏｎ  ａｎｄ  Ｃｌｕｓｔｅｒｉｎｇ  ｆｏｒ  Ｓｐｅｅｃｈ  Ｒｅｃｏｇｎｉｔｉｏｎ，”  ｉｎ  ＩＥＥＥ  Ｔｒａｎｓａｃｔｉｏｎ  ｏｎ  Ｓｐｅｅｃｈ  ａｎｄ  Ａｕｄｉｏ  Ｐｒｏｃｅｓｓｉｎｇ，  ｖｏｌ．１２，  ｎｏ．４，  ｐｐ．３６５−３８１，  ２００４．）
【非特許文献７】Ｆ．ヴァレンテ、Ｃ．ウェルケンス、「音声認識のための変分ベイズＧＭＭ」、ＥＵＲＯＳＰＥＥＣＨ‘０３予稿集、ｖｏｌ．４、４４１−４４４頁、２００３．（Ｆ．  Ｖａｌｅｎｔｅ，  Ｃ．  Ｗｅｌｌｅｋｅｎｓ，  “Ｖａｒｉａｔｉｏｎａｌ  Ｂａｙｅｓｉａｎ  ＧＭＭ  ｆｏｒ  ｓｐｅｅｃｈ  ｒｅｃｏｇｎｉｔｉｏｎ，”  ｉｎ  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ＥＵＲＯＳＰＥＥＣＨ‘０３，  ｖｏｌ．４，  ｐｐ．４４１−４４４，  ２００３）
【発明の開示】
【発明が解決しようとする課題】
【００１３】
非特許文献１及び２に記載の方法で用いる情報量基準は、漸近理論を用いて導出されたものである。そのため、学習データが少ないときに、これらの基準で適切なモデル構造を選択することは困難である。
【００１４】
特許文献３に記載の方法では、漸近性を仮定しないベイズ的基準を用いるため、非特許文献１及び２の問題を解決することができる。しかし、この方法では、従来の決定木クラスタリングと同様に、状態ごとの区間を既知として定義している。すなわち、音素環境方向の分割のみを考慮しているため、時間方向の詳細なモデル構造を自動的に作成できない。
【００１５】
非特許文献４に記載のＭＬ−ＳＳＳ法では、ＭＬ基準を用いて状態分割を停止することが困難であった。そのため、状態分割の停止条件として、最終的なモデル構造における状態数Ｎs及び時間方向の状態数制限Ｎp、尤度の上昇率に対するしきい値など、他の何らかの基準を用いる必要があった。これらの他の基準は経験的に与える必要がある。さらには、あるデータに対して最適なモデルを１つ決定するためには、これらの他の基準を実験的に求める必要がある。さらに、学習データ、評価データが変わるたびに、これらの基準を調整しなければならない。
【００１６】
非特許文献５に記載の方法では、逐次状態分割法において、状態分割を自動的に停止できる。しかし、非特許文献５に記載の方法で用いる情報量基準は、いくつかの仮定の上に導出されており、ＨＭＭのような複雑なモデルを厳密に扱うことができない。また、非特許文献１及び２に記載の方法と同様に、学習データが少ないときに、これらの情報量基準で適切なモデルを選択することは困難である。
【００１７】
混合分布数を決定する方法に関する、非特許文献６及び７に記載の技術は、いずれもＧＭＭにおける混合分布数を自動的に決定し、混合分布を作成するものである。しかし、ＧＭＭは、時間方向に状態分割されていないモデルであるため、このＧＭＭを想定した混合分布数の決定方法を、時間方向の詳細なモデル、すなわち、時間方向での状態遷移を想定したモデル構造に対して使用することはできない。
【００１８】
それゆえに、本発明の目的は、特に時間方向での状態遷移を想定したＨＭＭについて、自動的にかつ適切な混合分布数で、モデル内の各状態を混合分布化する方法を提供することである。
【００１９】
本発明の別の目的は、停止条件を人手で与えることなく、ＨＭＭの状態分割の自動的に停止してモデル構造を作成し、モデル内の各状態を混合分布化する方法を提供することである。
【００２０】
本発明のさらに別の目的は、音素環境方向及び時間方向の両方について、厳密なモデル評価を行なうことができ、少数の学習データであっても、有効なモデル構造で適切な混合分布数のＨＭＭを自動的に作成することのできるモデル構造の作成方法を提供することである。
【課題を解決するための手段】
【００２１】
本発明の第１の局面に係る混合分布モデル作成装置は、環境方向に１以上の状態を含むサブモデルを時間方向に複数含むモデル構造を有する隠れマルコフモデルを記憶するための記憶手段と、サブモデルに含まれる状態が持つ分布を、所定数の分布からなる混合分布にそれぞれ変更して、新たな隠れマルコフモデルを準備する処理を、サブモデルの各状態に対して行なうための混合分布モデル準備手段と、記憶手段に記憶される隠れマルコフモデルに対して、変分ベイズ法により計算される所定の評価関数の値と、混合分布モデル準備手段により準備される新たな隠れマルコフモデルに対して計算される評価関数の値との差分を算出し、差分が所定の更新条件を充足することに応答して、記憶される隠れマルコフモデルを、混合分布モデル準備手段が準備した新たな隠れマルコフモデルに更新するための更新手段と、差分が所定の更新条件を充足しなくなるまで、記憶手段に記憶された隠れマルコフモデルの各サブモデルに対し、混合分布モデル準備手段による準備、及び更新手段による更新を繰返すように混合分布モデル準備手段及び更新手段を制御するための制御手段とを含む。
【００２２】
好ましくは、制御手段は、更新手段によって算出された差分が負となるまで、記憶手段に記憶された隠れマルコフモデルの各サブモデルに対し、混合分布モデル準備手段による準備及び更新手段による更新を繰返すように混合分布モデル準備手段及び更新手段を制御するための手段を含む。
【００２３】
更新手段は、記憶手段に記憶された隠れマルコフモデル、及び混合分布モデル準備手段により準備された隠れマルコフモデルの各々に対し、予め定める事前分布パラメータに基づいて各モデル内の各状態における事後分布パラメータの推定を行なうための事後分布パラメータ推定手段と、事後分布パラメータ推定手段によって推定された事後分布パラメータをもとに、各モデル内の各状態における評価関数の値をそれぞれ計算するための評価関数値算出手段とを含んでもよい。
【００２４】
好ましくは、混合分布モデル作成装置はさらに、隠れマルコフモデルの初期モデルを記憶するための初期モデル記憶手段と、初期モデルに含まれる状態を時間方向と環境方向とに分割してそれぞれ新たな隠れマルコフモデルを準備する処理を、各状態に対して行なうための分割手段と、記憶手段に記憶される初期モデルに対して、変分ベイズ法により計算される所定の関数の値と、分割手段により準備される新たな隠れマルコフモデルの各々に対して計算される関数の値との差分をそれぞれ算出し、差分が所定の選択条件を充足する分割を選択して記憶される初期モデルを更新するための分割選択手段と、所定の終了条件が成立するまで、初期モデル記憶手段に記憶された初期モデルに対し、分割手段による準備、及び分割選択手段による選択を繰返すように分割手段及び分割選択手段を制御するための分割制御手段とを含む。記憶手段は、分割制御手段による制御にしたがい分割手段及び分割選択手段により更新され初期モデル記憶手段に記憶された初期モデルを記憶するための手段を含む。
【００２５】
本発明の第２の局面に係る混合分布モデル作成プログラムは、コンピュータにより実行されると、当該コンピュータを、上記したいずれかの混合分布モデル作成装置として動作させる。
【００２６】
本発明の第３の局面に係る音声認識装置は、上記したいずれかの混合分布モデル作成装置と、混合モデル作成装置により作成される隠れマルコフモデルを記憶するための隠れマルコフモデル記憶手段と、音声信号から予め定める特徴情報を抽出するための特徴抽出手段と、特徴抽出手段により音声信号から抽出された特徴情報を用い、隠れマルコフモデル記憶手段に記憶された隠れマルコフモデルを用いて音声認識を行なうための音声認識手段とを含む。
【発明を実施するための最良の形態】
【００２７】
以下、図面を参照しつつ、本発明の具体的な実施の形態について説明する。本実施の形態に係る方法では、次の２つのステップで音声認識用の音響モデルを作成する。すなわち、第１のステップは、ＨＭＭの状態共有構造を作成するステップであり、第２のステップは、ＨＭＭの状態共有構造を構成する各状態を混合分布化するステップである。第１のステップでは、逐次状態分割法によって、ＨＭＭの状態共有構造を作成する。第２のステップでは、作成されたＨＭＭの状態共有構造の各状態における音声の特徴パラメータの統計的分布を、時間方向の状態遷移確率を考慮して混合分布化する。本実施の形態では、第１のステップにおけるモデル構造の選択、及び状態分割の停止、並びに第２のステップにおける混合分布数の決定を行なうために、変分ベイズ法における目的関数（以下、「自由エネルギ」と呼ぶ。）に基づき音響モデルの評価を行なう。
【００２８】
以下、本実施の形態に係る第１のステップ及び第２の概念を説明する。
【００２９】
＜逐次状態分割法の概念＞
まず、逐次状態分割法の概要を説明する。逐次状態分割法は、複数の状態の連結によって表現されるＨＭＭの状態共有構造を自動生成する方法である。逐次状態分割法の基本原理は、状態の間の確率的な遷移により、音声の特徴パラメータの時間的な推移を表現した確率モデルに対して、状態を分割する操作を繰返すことにより、逐次的にＨＭＭの状態共有構造を精密化するというものである。
【００３０】
図１を用いて、状態分割の概念について説明する。図１を参照して、逐次状態分割法における状態分割では、状態（白抜きの丸印で示す）と、状態の始端及び終端（黒塗りの丸印で示す）と、状態と状態の始点及び終点とを結ぶパス（矢印で示す）とを含む初期モデル２０を設定する。図１に示す初期モデル２０は、１つの状態により形成されたモデルであり、当該状態は単一のガウス分布を有する。
【００３１】
逐次状態分割法では、まず、モデルの各状態に対して、パスの分割を伴わない時間方向への分割（以下、「時間方向分割」と呼ぶ。）２２及びパスの分割を伴う音素環境方向への分割（以下、「音素環境方向分割」）２４を試みる。時間方向分割２２を行なうと、初期モデルから、状態が直列に並ぶ第１の分割モデル２６が作成される。これに対して、音素環境方向分割２４を行なうと、時間方向に状態が並列する第２の分割モデル２８が作成される。このような分割を繰返すことで、複数の状態を複数のパスで連結した構造を有するＨＭＭ状態ネットワーク３０を作成する。
【００３２】
状態分割によってＨＭＭ状態ネットワークを作成する場合、多数のモデル構造が作成され得ることになる。そのため、作成され得る多数のモデル構造の中から、音声認識にとって適切なものを選択する必要がある。そこで、モデル構造を分割する度に、分割によって作成されるモデル構造の中から最適なモデル構造を選択し、次の状態分割における分割対象とする。このように逐次的にモデル構造を選択することにより、適切なモデル構造を作成することが可能となる。ＭＬ−ＳＳＳ法では、最適なモデル構造を選択するための基準に尤度最大基準を用いる。
【００３３】
＜第１のステップ：変分ベイズ法を用いた逐次状態分割法の原理＞
以下に、本実施の形態に係る、変分ベイズ法を用いた逐次状態分割法の原理を説明する。なお、以下の説明のテキスト中で使用する記号「＾」等は、本来はその直後の文字の直上に記載すべきものであるが、テキスト記法の制限により当該文字の直前に記載する。数式中では、これらの記号等は本来の位置に記載してある。また、以下の説明のテキスト中で本来太字で記載すべき文字は、テキスト記法の制限により「“」と「”」とにより囲んで記載する。数式中では、これらの文字は太字で記載してある。また、以下の説明のテキスト中で本来筆記体で記載すべき文字は、テキスト記法の制限により『』により囲んで記載する。数式中では、これらの文字は筆記体で記載してある。なお、以下の説明では、変分ベイズ法を用いた逐次状態分割法を「ＶＢ−ＳＳＳ法」と呼ぶ。
【００３４】
（環境方向分割）
総状態数Ｎs個の状態を含むＨＭＭΘがあるものとする。このＨＭＭΘが含む状態は、それぞれ特徴量の統計的分布を表現する１個のガウス分布とＮa個の遷移確率とを持つ。このようなＨＭＭΘに対し音素環境方向分割を行なう際の、各状態における確率密度関数は、下記の数式（１）のように表せる。
【００３５】
【数１】
2006098425.tif 000003
ここで、『Ｎ』（）はガウス分布を表わす。ｔは時刻、“Ｏ”＝｛“ｏ”1，…，“ｏ”t，…，“ｏ”T｝は学習データサンプル、ｓtは時刻ｔでの状態番号をそれぞれ表わす。“μ”stは、時刻ｔでの状態（状態番号ｓtにより表される状態）における出力確率の平均ベクトルを示す。また、“Ｓ”st-1は共分散行列を示す。“Ｓ”st自体は精度行列と呼ばれ、共分散行列の逆行列である。
【００３６】
（時間方向分割）
ＨＭＭΘに対して時間方向分割を行なう場合、遷移確率を考慮する。ｒtを時刻ｔでの遷移アーク番号とし、ａstrt+1を遷移確率とすると、時間方向分割を行なう際の確率密度関数は、下記の数式（２）のようになる。
【００３７】
【数２】
2006098425.tif 000004
【００３８】
（完全データ集合に対する確率分布）
逐次状態分割法では、環境方向分割に加えて時間方向分割を行なう。そのため、音素区間のみが既知で状態区間が未知という前提条件の上で状態分割を行なうことになる。このような前提条件に対して、変分ベイズ法では潜在変数が使用されるのが一般的である。時刻ｔ、状態番号ｓt＝ｉ（１≦ｉ≦Ｎs）、遷移アーク番号ｒt＝ｊ（１≦ｉ≦Ｎa）における潜在変数をｚtijとし、潜在変数の集合をＺとすると、潜在変数を導入した完全データに対する結合確率分布は、下記の数式（３）によって表される。
【００３９】
【数３】
2006098425.tif 000005
【００４０】
第ｉ状態を分割するとき、分割前のパラメータ集合をΘiである第ｉ状態を、第ｉ1状態と第ｉ2状態とに分割した場合の分割後のパラメータ集合を＾Θiとする。本実施の形態において分割モデルを選択するための基準である分割基準となる評価関数は、変分ベイズ法における自由エネルギ『Ｆ』を用いて下記の数式（４）のように表現される。
【００４１】
【数４】
2006098425.tif 000006
ここでｎは、学習回数すなわち状態分割及び選択の回数を表わす。なお、自由エネルギ『Ｆ』の導出方法については後述する。
【００４２】
（事前分布）
図２にパラメータの関係を模式的に示す。図２を参照して、変分ベイズ法では、事前分布パラメータを予め設定する必要があるが、通常、これらの分布パラメータに対する適切な設定値が存在する。そこで、事前分布パラメータν0４０、ξ0４２、η0４４、Ｂ0４６、及びφ0４８を設定する。また、現時点のモデル構造における状態数Ｎs５０は、現在のモデル構造を参照することにより得ることのできるパラメータである。各状態が持つ状態遷移確率の数Ｎa５２は最大でＮs個あるが、ＶＢ−ＳＳＳ法では、１状態の遷移確率は自己ループと１つの状態への遷移とを扱う。そのため、Ｎa５２は２となる。
【００４３】
図２において、パラメータ“μ”５４は平均ベクトルを示す。パラメータ“Ｓ”５６は精度行列を示す。パラメータ“ａ”５８は遷移確率を示す。パラメータ“ｚ”６０は潜在変数である。また、パラメータ“ｏ”６２は観測データである。
【００４４】
本実施の形態では、確率変数間に、下記の数式（５）ような因子化仮定を導入する。
【００４５】
【数５】
2006098425.tif 000007
【００４６】
さらに、遷移確率“ａ”５８の事前分布にディリクレの分布を仮定する。ここで、第ｉ状態での遷移確率“ａ”５８のｋ番目の要素をａikとすると、遷移確率“ａ”の事前分布に関する仮定は、事前分布パラメータを用いて、以下の数式（６）のように表される。
【００４７】
【数６】
2006098425.tif 000008
【００４８】
また、出力確率の平均ベクトル“μ”と精度行列“Ｓ”との結合事前分布に正規ガンマ分布を仮定する。正規ガンマ分布『Ｇ』は、ガンマ関数Γ（）を用いて、以下の数式（７）のように表される。
【００４９】
【数７】
2006098425.tif 000009
ここで、μikとｓikとをそれぞれ第ｉ状態での平均ベクトル“μ”iと精度行列“Ｓ”iとのｋ番目の要素とし、Ｄを特徴量次元とすると、出力確率の平均ベクトル“μ”と精度行列“Ｓ”との結合事前分布に関する仮定は、以下の数式（８）のように表わされる。
【００５０】
【数８】
2006098425.tif 000010
数式（８）において、ν0kは、事前分布パラメータであるベクトルν0のｋ番目の要素を示し、ｂ0kは、同じく事前分布パラメータである行列Ｂ0の対角上のｋ番目に位置する要素を示す。また、ｓik-1は、共分散行列“Ｓ”i-1の対角上のｋ番目に位置する要素を示す。
【００５１】
（事後分布）
各パラメータの最適変分事後分布は、変分ベイズ法における最適変分事後分布の一般式から導出できる。以下の数式（９）に、遷移確率“ａ”の事後確率を示す。
【００５２】
【数９】
2006098425.tif 000011
なお、＜ｘ＞f(x)は、ｆ（ｘ）に関するｘの期待値を示す。
【００５３】
平均ベクトルと精度行列との結合分布は以下の数式（１０）のように表される。
【００５４】
【数１０】
2006098425.tif 000012
【００５５】
潜在変数ｚの変分事後確率分布は、以下の数式（１１−１）及び（１１−２）のようになる。
【００５６】
【数１１】
2006098425.tif 000013
【００５７】
（自由エネルギ（目的関数））
以下に、前述した分割モデルの選択基準となる自由エネルギの導出について説明する。なお、自由エネルギの導出に関する以下の説明において、状態数Ｎs及び遷移確率数Ｎaにおける条件付確率ｐ（・｜Ｎs，Ｎa）を単にｐ（・）と表記する。
【００５８】
自由エネルギ『Ｆ』は、以下の数式（１２）となる。
【００５９】
【数１２】
2006098425.tif 000014
上記数式（１２）の第１項と第２項とをあわせたものを『Ｆ』12とし、第３項を『Ｆ』3、第４項を『Ｆ』4とする。
【００６０】
『Ｆ』12は、以下の数式（１３）のように導出できる。
【００６１】
【数１３】
2006098425.tif 000015
【００６２】
第３項『Ｆ』3と第４項『Ｆ』4とを変形するために、以下の数式（１４）に示す因子化仮定を用いる。
【００６３】
【数１４】
2006098425.tif 000016
この因子化仮定を用いて、第３項『Ｆ』3は、以下の数式（１５）のように変形できる。
【００６４】
【数１５】
2006098425.tif 000017
また、第４項『Ｆ』4は、以下の数式（１６）のように変形できる。
【００６５】
【数１６】
2006098425.tif 000018
【００６６】
『Ｆ』3の上記数式（１５）における第１項、及び『Ｆ』4の上記数式（１６）における第１項はそれぞれ第ｉ状態の遷移確率に関する成分となる。『Ｆ』3の数式（１５）における第１項を『Ｆ』31とすると、『Ｆ』31は、以下の数式（１７）のようになる。
【００６７】
【数１７】
2006098425.tif 000019
また、『Ｆ』4の上記数式（１６）における第１項を『Ｆ』41とすると、『Ｆ』41は、以下の数式（１８）のようになる。
【００６８】
【数１８】
2006098425.tif 000020
したがって、遷移確率に対する自由エネルギを『Ｆ』341とすると、『Ｆ』341は、以下の数式（１９）のように導出できる。
【００６９】
【数１９】
2006098425.tif 000021
【００７０】
さらに、『Ｆ』3の数式（１５）における第２項、及び『Ｆ』4の数式（１６）における第２項は、平均ベクトルと精度行列との結合分布に関する成分となる。『Ｆ』3の数式（１５）における第２項を『Ｆ』32とすると、『Ｆ』32は、以下の数式（２０）のようになる。
【００７１】
【数２０】
2006098425.tif 000022
また、『Ｆ』4の数式（１６）における第２項を『Ｆ』42とすると、『Ｆ』42は、以下の数式（２１）のようになる。
【００７２】
【数２１】
2006098425.tif 000023
したがって、平均ベクトルと精度行列との結合分布に関する自由エネルギを『Ｆ』342とすると、『Ｆ』342は、以下の数式（２２）のように導出される。
【００７３】
【数２２】
2006098425.tif 000024
【００７４】
さらに、『Ｆ』3の数式（１５）における第３項及び『Ｆ』4の数式（１６）における第３項は、精度行列のみに関する成分となる。『Ｆ』3の数式（１５）における第３項を『Ｆ』33とすると、『Ｆ』33は、以下の数式（２３）のようになる。
【００７５】
【数２３】
2006098425.tif 000025
また、『Ｆ』4の数式（１６）における第３項を『Ｆ』43とすると、『Ｆ』43は、以下の数式（２４）のようになる。
【００７６】
【数２４】
2006098425.tif 000026
したがって、精度行列のみに関する自由エネルギを『Ｆ』343とすると、『Ｆ』343は、以下のように導出できる。
【００７７】
【数２５】
2006098425.tif 000027
【００７８】
最終的には、以上のようにして導出できる『Ｆ』12、『Ｆ』341、『Ｆ』342、及び『Ｆ』343を用いて、自由エネルギ『Ｆ』は、以下の数式（２６）のように表される。
【００７９】
【数２６】
2006098425.tif 000028
この数式（２６）を用いて前述の自由エネルギ及びその差分を導出できる。
【００８０】
＜第２のステップ：変分ベイズ法を用いた混合分布数決定法の原理＞
以下に、本実施の形態に係る、変分ベイズ法を用いた混合分布数決定法の原理を説明する。上記数式（２）に示す確率密度関数は、各状態が１個のガウス分布で表現される統計的分布をそれぞれ有するモデルに関するものである。混合分布化されたＨＭＭ（以下、このＨＭＭを「混合分布ＨＭＭ」と呼ぶ。）では、各状態が複数のガウス分布の重み付き和によって表現される分布を持つ。学習回数ｎすなわちｎ回目の混合分布化処理により作成された混合分布ＨＭＭΘにおける、時刻ｔでの状態（状態番号ｓtによって表される状態）における混合分布数をＭst(n)とし、混合分布を構成するｋ（１≦ｋ≦Ｍst(n)）番目のガウス分布に対する重み係数をｗstkとすると、混合分布ＨＭＭΘによる確率密度関数は、下記の数式（２７）のようになる。
【００８１】
【数２７】
2006098425.tif 000029
【００８２】
また混合分布ＨＭＭΘにおいては、潜在変数を導入した完全データ集合に対する結合確率分布は、上記数式（３）に替えて、以下の数式（２８）によって表される。
【００８３】
【数２８】
2006098425.tif 000030
【００８４】
ｎ回目の混合分布化が終了したモデルの変分ベイズ法における自由エネルギを『Ｆ』(n)とすると、混合分布数を決定するための基準となる評価関数は、下記の数式（２９）のように表現される。
【００８５】
【数２９】
2006098425.tif 000031
なお、自由エネルギ『Ｆ』の導出方法については後述する。
【００８６】
（事前分布）
混合分布ＨＭＭΘは、図２に示す平均ベクトル“μ”５４、精度行列“Ｓ”５６、遷移確率“ａ”５８、潜在変数“ｚ”６０、及び観測データ“ｏ”６２の各パラメータに加え、混合分布の重み係数を示すパラメータ“ｗ”を含む。そこで、図２に示す事前分布パラメータν0４０、ξ0４２、η0４４、Ｂ0４６、及びφ0４８に加えて混合分布の重み“ｗ”に対する事前分布パラメータρ0を設定する。また、確率変数間に、数式（５）に示す因子化仮定に替えて下記の数式（３０）に示す因子化仮定を導入する。
【００８７】
【数３０】
2006098425.tif 000032
【００８８】
遷移確率“ａ”（５８）の事前分布にディリクレの分布を仮定する。遷移確率“ａ”の事前分布に関する仮定は、１つのガウス分布を持つモデルについての仮定と同様に、上記数式（６）のように表される。
【００８９】
遷移確率“ａ”の事前分布と同様に、混合分布の重み係数“ｗ”の事前分布についてディリクレの分布を仮定する。混合分布の重み係数“ｗ”の事前分布に関する仮定は以下の数式（３１）のように表わされる。
【００９０】
【数３１】
2006098425.tif 000033
【００９１】
出力確率の平均ベクトル“μ”と精度行列“Ｓ”との結合事前分布に関する仮定は、以下の数式（３２）のように表わされる。
【００９２】
【数３２】
2006098425.tif 000034
【００９３】
（事後分布）
遷移確率“ａ”の事後確率は、１つのガウス分布を持つモデルについての当該事後分布と同様に、上記数式（９）により示される。
【００９４】
また、混合分布の重み係数“ｗ”の事後確率は、以下の数式（３３）ように表わされる。
【００９５】
【数３３】
2006098425.tif 000035
【００９６】
また、平均ベクトル“μ”と精度行列“Ｓ”との結合事後分布は以下の数式（３４）のように表される。
【００９７】
【数３４】
2006098425.tif 000036
【００９８】
潜在変数“ｚ”の事後分布は、以下の数式（３５−１）及び（３５−２）のように表わされる。
【００９９】
【数３５】
2006098425.tif 000037
【０１００】
（自由エネルギ（目的関数））
以下に、混合分布数決定の基準となる自由エネルギ『Ｆ』の導出について説明する。なお、自由エネルギ『Ｆ』の導出に関する以下の説明において、状態数Ｎs及び遷移確率数Ｎaにおける条件付確率ｐ（・｜Ｎs，Ｎa）を単にｐ（・）と表記する。
【０１０１】
混合分布ＨＭＭにおいて数式（２９）に示す自由エネルギ『Ｆ』は、１個のガウス分布を有するＨＭＭにおける自由エネルギ『Ｆ』と同様の上記数式（１２）により表現される。ただし、混合分布ＨＭＭにおいては、上記数式（１２）の各項は、以下のようにして導出される。
【０１０２】
混合分布ＨＭＭにおいて、数式（１２）の第１項及び第２項『Ｆ』12は、以下の数式（３６）のように導出できる。
【０１０３】
【数３６】
2006098425.tif 000038
【０１０４】
数式（１２）の第３項『Ｆ』3と第４項『Ｆ』4とを変形するために、以下の数式（３７）に示す因子化仮定を用いる。
【０１０５】
【数３７】
2006098425.tif 000039
混合分布ＨＭＭにおいては、この因子化仮定を用いて数式（１２）の第３項『Ｆ』3が、以下の数式（３８）のように変形できる。
【０１０６】
【数３８】
2006098425.tif 000040
また混合分布ＨＭＭにおいては、数式（１２）の第４項『Ｆ』4が、以下の数式（３９）のように変形できる。
【０１０７】
【数３９】
2006098425.tif 000041
【０１０８】
『Ｆ』3の上記数式（３８）における第１項、及び『Ｆ』4の上記数式（３９）における第１項はそれぞれ第ｉ状態の遷移確率に関する成分となる。これらはいずれも上記数式（１７）及び数式（１８）に示す『Ｆ』31及び『Ｆ』41と同じである。よって遷移確率に対する自由エネルギを『Ｆ』341とすると、『Ｆ』341は、上記数式（１９）のように導出できる。
【０１０９】
『Ｆ』3の数式（３８）における第２項、及び『Ｆ』4の数式（３９）における第２項はそれぞれ第ｉ状態の混合重み係数“ｗ”に関する成分となる。『Ｆ』3の数式（３８）における第２項を『Ｆ』32とし、『Ｆ』4の数式（３９）における第２項を『Ｆ』42とし、混合分布の重み係数“ｗ”に関する自由エネルギを『Ｆ』342とすると、『Ｆ』32、『Ｆ』42、及び『Ｆ』342はそれぞれ、以下の数式（４０−１）、（４０−２）、及び（４０−３）のようになる。
【０１１０】
【数４０】
2006098425.tif 000042
【０１１１】
『Ｆ』3の数式（３８）における第３項及び『Ｆ』4の数式（３９）における第３項はそれぞれ、平均ベクトル“μ”と精度行列“Ｓ”との結合分布に関する成分となる。『Ｆ』3の数式（３８）における第３項を『Ｆ』33とし、『Ｆ』4の数式（３９）における第３項を『Ｆ』43とし、自由エネルギの平均ベクトル“μ”と精度行列“Ｓ”との結合分布に関する項を『Ｆ』343とすると、『Ｆ』33、『Ｆ』43、及び『Ｆ』343は、それぞれ以下の数式（４１−１）、（４１−２）、及び（４１−３）のようになる。
【０１１２】
【数４１】
2006098425.tif 000043
【０１１３】
『Ｆ』3の数式（３８）における第４項、及び『Ｆ』4の数式（３９）における第４項はそれぞれ、精度行列のみに関する成分となる。『Ｆ』3の数式（３８）における第４項を『Ｆ』34とし、『Ｆ』4の数式（３９）における第４項を『Ｆ』44とし、自由エネルギの精度行列のみに関する項を『Ｆ』344とすると、『Ｆ』34、『Ｆ』44、及び『Ｆ』344は、それぞれ以下の数式（４２−１）、（４２−２）、及び（４２−３）のようになる。
【０１１４】
【数４２】
2006098425.tif 000044
【０１１５】
最終的には、以上のようにして導出できる『Ｆ』12、『Ｆ』341、『Ｆ』342、『Ｆ』343、及び『Ｆ』344を用いて、混合分布ＨＭＭの自由エネルギ『Ｆ』は、以下の数式（４３）のように表わされる。
【０１１６】
【数４３】
2006098425.tif 000045
【０１１７】
＜混合分布ＨＭＭを用いた音声認識＞
ここに、音声認識の対象となる入力音声のデータセット“ｘ”＝｛“ｘ”1，…“ｘ”t，…，“ｘ”T｝とし、モデルの構造の指標、すなわち状態数、遷移アーク数、及び混合分布数をｍとすると、音声認識を実施する際には、以下の数式（４４）に示す予測事後分布ｐ（“ｘ”｜ｍ，“Ｏ”）が用いられる。
【０１１８】
【数４４】
2006098425.tif 000046
真の事後分布ｐ（Θij｜ｍ，“Ｏ”）を、以下の数式（４５）に示す変分事後確率により近似する。
【０１１９】
【数４５】
2006098425.tif 000047
これにより、予測事後分布ｐ（“ｘ”｜ｍ，“Ｏ”）は、以下の数式（４６）のように表わすことができる。
【０１２０】
【数４６】
2006098425.tif 000048
【０１２１】
＜構成＞
図３に、本実施の形態に係る音声認識システムの構成を示す。この音声認識システムは、所定の記憶装置に記憶された、状態分割を行なう前の初期モデル７０と、音響モデルのモデル構造を作成するために用いる学習データ７２とに基づいて、上記した変分ベイズ法を用いた逐次状態分割法の原理にしたがい自動的に状態分割を行ない、各状態が１個のガウス分布を有する単一分布ＨＭＭ８４を生成するモデル構造作成部８２と、単一分布ＨＭＭ８４と学習データ７２とに基づいて、上記した混合分布数決定法の原理にしたがい、自動的に単一分布ＨＭＭ８４の各状態が有する分布の混合分布化を行ない、複数のガウス分布の重み付き和によって表現される混合分布を各状態が有する混合分布ＨＭＭ９２を作成する混合分布ＨＭＭ作成部９０と、入力音声７６の音声信号について、単一分布ＨＭＭ８４又は混合分布ＨＭＭ９２を用いて音声認識を行ない、認識出力７８を出力する音声認識装置８０とを含む。
【０１２２】
音声認識装置８０は、入力音声７６の音響的特徴を抽出する特徴抽出部８６と、単一分布ＨＭＭ８４又は混合分布ＨＭＭ９２を用いて、特徴抽出部８６が抽出した音響的特徴に基づく音声の認識を行ない、認識出力７８を出力する認識部８８とを含む。
【０１２３】
＜モデル構造作成処理＞
図４は、本実施の形態に係るモデル構造作成部８２が行なうモデル構造作成処理のアルゴリズムを示すフローチャートである。以下の説明からも明らかなとおり、この処理を含めモデル構造作成部８２、混合分布ＨＭＭ作成部９０、及び音声認識装置８０は、いずれもコンピュータハードウェアと、その上で実行されるプログラムとにより実現可能である。
【０１２４】
図４を参照して、モデル構造作成部８２が処理を開始すると、ステップ（以下、単に「Ｓ」と表記する。）１０２に進む。Ｓ１０２では、初期モデル７０のモデル構造を設定する。Ｓ１０４では、初期モデル７０におけるパラメータを推定する。続くＳ１０６では、事前分布パラメータの設定を行ない、Ｓ１０８に進む。
【０１２５】
Ｓ１０８では、状態分割の対象となるモデル（最初の処理では初期モデル７０、２回目の繰返し以降は分割後のモデル）構造の各状態において、変分法を用いて事後パラメータを推定する。Ｓ１１０では、状態分割の対象となるモデルの自由エネルギを計算する。続くＳ１１２では、分割前のモデル構造の自由エネルギと分割後のモデル構造の自由エネルギとを比較し、自由エネルギが収束しているか否かを判定する。より具体的には、分割前の自由エネルギと分割後の自由エネルギとの差分の絶対値が所定のしきい値よりも小さい場合に、自由エネルギが収束していると判定すればよい。判定結果が「ＹＥＳ」であった場合、状態分割を停止して、処理を終了する。判定結果が「ＮＯ」の場合、モデル中のすべての状態に対して、Ｓ１１４からＳ１１８までのステップで構成される時間方向分割処理と、Ｓ１２０からＳ１２４までのステップで構成される音素環境方向分割処理とを行なう。なお、Ｓ１１２の判定処理は、繰返し処理の最初には行なわず、２回目以降の繰返し時のみ実行する。
【０１２６】
Ｓ１１４では、モデル中の１つの状態を時間方向に分割する。Ｓ１１６では、Ｓ１１４で時間方向分割した分割モデルの事後分布パラメータを推定する。続くＳ１１８では、時間方向分割した分割モデルについて、自由エネルギを計算し、Ｓ１１０で求めた分割前のモデルとの間のエネルギ差分を算出する。
【０１２７】
Ｓ１２０では、モデル中の１つの状態を音素環境方向に分割する。Ｓ１２２では、時間方向分割処理におけるＳ１１６と同様の処理を行ない、Ｓ１２０で音素環境方向分割した分割モデルの事後分布パラメータを推定する。続くＳ１２４では、時間方向分割処理におけるＳ１１８と同様の処理を行ない、音素環境方向分割した分割モデルについて、自由エネルギを計算し、Ｓ１１０で求めた分割前のモデルとの間のエネルギ差分を算出する。
【０１２８】
分割対象となったモデル中のすべての状態に対して、Ｓ１１４〜Ｓ１１８の処理及びＳ１２０〜Ｓ１２４の処理が終了すると、Ｓ１２６で分割モデルの選択を行なう。すなわち、Ｓ１２６では、時間方向分割処理又は音素環境方向分割処理により生成された分割モデルのうち、Ｓ１１８及びＳ１２４のいずれかで算出したエネルギ差分が最大となるのはどれかを判定する。そして、エネルギ差分が最大となる分割モデルを選択し、記憶装置に記憶されたＨＭＭを更新する。
【０１２９】
続くＳ１２８では、選択したモデルのエネルギ差分を参照し、状態分割によって自由エネルギが減少したか否かを判定する。自由エネルギが減少していた場合、状態分割を停止し、処理を終了する。それ以外の場合、Ｓ１３０で、選択したモデルを、次回の状態分割の対象となるモデル構造とし、モデル構造のパラメータの再推定を行ない、Ｓ１０８に戻る。
【０１３０】
＜混合分布ＨＭＭ作成処理＞
図５は、本実施の形態に係る混合分布ＨＭＭ作成部９０が行なう混合分布ＨＭＭの作成処理のアルゴリズムを示すフローチャートである。
【０１３１】
図５を参照して、混合分布ＨＭＭ作成部９０が処理を開始すると、Ｓ１４０に進む。Ｓ１４０では、単一分布ＨＭＭ８４を処理対象のＨＭＭに設定する。この段階での学習回数すなわち混合分布化の処理の回数ｎは０に設定される。なお、このステップにおいては、処理対象が単一分布ＨＭＭ８４に設定されるため、この時点での各状態における分布数Ｍ(n)、すなわちＭ(0)は１である。Ｓ１４２では、処理対象のモデルの自由エネルギ『Ｆ』(n)、すなわち単一分布ＨＭＭ８４の自由エネルギ『Ｆ』(0)を計算する。
【０１３２】
Ｓ１４４ＡとＳ１４４Ｂとの間にある、後述する各ステップが各音素に対して繰返される。
【０１３３】
Ｓ１４６では、各状態において、当該状態が有する分布をそれぞれ複製して新たな分布を作成し、各状態の分布数を２倍に増加させる。新たに作成した各分布の初期値を設定する。この処理については、図６を用いて後述する。
【０１３４】
Ｓ１４８では、Ｓ１４６により分布数を増加させたモデルについてのパラメータを再推定する。続くＳ１５０では、当該分布数を増加させたモデルについて事後分布を推定する。Ｓ１５２では、パラメータが収束したか否かを判定する。収束したならばＳ１５４に進む。さもなければＳ１４８に戻る。
【０１３５】
Ｓ１５４では、新たなモデルの自由エネルギ『Ｆ』(n+1)を計算する。Ｓ１５６では、評価関数であるエネルギ差分Δ『Ｆ』(n+1)＝『Ｆ』(n+1)−『Ｆ』(n)を求め、Δ『Ｆ』(n+1)が負の値となっているか否かを判定する。Δ『Ｆ』(n+1)が負の値となったならば、Ｓ１４４Ｂに進む。さもなければ、Ｓ１５８に進む。Ｓ１５８では、学習回数ｎを１つ増やし、新たなモデルを次回の処理の対象に設定して、Ｓ１４６に戻る。
【０１３６】
Ｓ１４４ＡとＡ１４４Ｂとの間にある、上記した各ステップが各音素に対して実行されると、混合分布化処理は終了する。
【０１３７】
図６は、図５のＳ１４６に示す、混合分布数を増加させる処理の詳細を示すフローチャートである。図６を参照して、混合分布数を増加させる処理１７０が開始されると、Ｓ１７２において、各状態における分布の各々を複製して、複製前の分布ｋを新たな２つの分布ｋ１及びｋ２に変更する。
【０１３８】
Ｓ１７４では、各分布の初期値の設定を行なう。例えば、状態ｉが有する分布ｋがＳ１７２の処理により分布ｋ１及びｋ２に変更されたものとする。Ｓ１７４では、分布ｋ１及び分布ｋ２の分散の初期値を、分布ｋの分散と同じ値に設定する。さらに、分布ｋ１の平均の初期値νik1(n+1)及び分布ｋ２の平均の初期値νik2(n+1)をそれぞれ、分布ｋの平均値νik(n)、分布ｋの標準偏差σik(n)、及び所定の定数εを用いて、下記の数式（４７−１）及び（４７−２）のように設定する。
【０１３９】
【数４７】
2006098425.tif 000049
【０１４０】
Ｓ１７６では、新たな分布ｋ１及び分布ｋ２に対する重み係数の初期値をそれぞれ、分布ｋに対する重み係数の半分の値に設定して、処理を終了する。
【０１４１】
＜動作＞
図７は、本実施の形態に係るモデル構造作成部８２が行なうＶＢ−ＳＳＳによる状態分割を模式的に示す図である。以下、図７を参照しつつ、本実施の形態に係るモデル構造作成部８２が行なうＶＢ−ＳＳＳ法による状態分割の動作を説明する。なお、図７では図１と同様にモデルの状態及びパスを示す。
【０１４２】
初期モデル２００は、図１に示す初期モデル２０と同様のものであり、１つの状態により形成され、当該状態は１つのガウス分布を有する。本実施の形態に係る状態分割では、図１に示す従来の逐次状態分割法における状態分割と同様の方法で、初期モデル２００に対して時間方向分割及び音素環境方向分割を行なう。時間方向分割を行なうと第１の分割モデル２０２が作成される。また、音素環境方向に分割すると、第２の分割モデル２０４が作成される。
【０１４３】
本実施の形態に係るモデル構造作成部８２は、まず、これら作成した各分割モデル構造における自由エネルギを計算し、自由エネルギが最大の分割モデルを選択する。ここでは、第２のモデル２０４が選択されたものとする。
【０１４４】
この後、さらに本実施の形態に係るモデル構造作成部８２は、選択されたモデル２０６と、状態分割前のモデル（第１回目のモデル分割では初期モデル２００がこれに相当する。）との自由エネルギを比較する。比較の結果、自由エネルギが減少していると判定された場合、又は収束していると判定された場合、モデル構造作成部８２はこの結果に基づき状態分割を停止し、選択されたモデル２０６を出力モデル２０８として出力する。出力されたモデルが図３に示す単一分布ＨＭＭ８４となる。
【０１４５】
それ以外の場合、選択されたモデル２０６のすべての状態に対して、時間方向及び状態方向状態の分割をそれぞれ行ない、新たな分割モデル２１０〜２１３を作成する。以後、新たな分割モデル２１０〜２１３に対し、上記したモデル２０２と２０４とに対し行なった処理と同様の処理を実行する。このような処理を繰返すことにより、モデル構造作成部８２は、自由エネルギが減少するか、収束するまで、状態分割と、自由エネルギを選択基準とする分割モデルの選択と、分割前のモデル及び分割後のモデルの比較とを繰返す。その結果、各状態が１つのガウス分布を持ち、かつ自由エネルギが最大のモデル２１４が作成される。
【０１４６】
図３を参照して、モデル構造作成部８２は、作成した自由エネルギが最大のモデル２１４を出力する。単一分布ＨＭＭ８４には、モデル構造作成部８２が作成したモデルが保持される。
【０１４７】
図８は、混合分布ＨＭＭ作成部９０が行なう混合分布化の処理を模式的に示す図である。以下、図８を参照しつつ、混合分布ＨＭＭ作成部９０が行なう混合分布化の動作を説明する。図３に示す単一分布ＨＭＭ８４には、モデル構造作成部８２により作成されたモデル２２０が保持されているものとする。このモデル２２０は、モデル構造作成部８２により音素環境方向及び時間方向での分割が行なわれている。そのため、時間方向に音素にそれぞれ対応する音素モデル２２２Ａ，２２２Ｂ，…，２２２Ｘが並ぶ構造となる。各音素モデル２２２Ａ，２２２Ｂ，…，２２２Ｘは、音素環境方向に１以上の状態を持つ。例えば音素モデル２２２Ａは、状態２２４Ａ，…，２２４Ｙを持つ。当該各状態は、１つのガウス分布を有する。例えば、音素モデル２２２Ａが持つ状態２２４Ａは、ガウス分布２２６を有する。混合分布ＨＭＭ作成部９０は、モデル２２０についての自由エネルギを計算しておく。
【０１４８】
混合分布ＨＭＭ作成部９０は、モデル２２０中の音素モデル２２２Ａを構成する状態２２４Ａ，…，２２４Ｙが持つガウス分布を複製する。例えば、状態２２４Ａがもつガウス分布２２６について複製を行なうことにより、２つのガウス分布２３６Ａ及び２３６Ｂからなる混合分布をもつ状態２３４Ａが作成される。この際、混合分布ＨＭＭ作成部９０は、ガウス分布２３６Ａ及び２３６Ｂのパラメータの初期値を設定する。例えば、ガウス分布２３６Ａの分散及び２３６Ｂの分散をそれぞれ、複製前の状態２２４Ａが持つガウス分布２２６の分散と同じ値に設定する。また、ガウス分布２３６Ａの平均値と２３６Ｂの平均値とをそれぞれ、ガウス分布２２６の平均値より標準偏差の定数ε倍だけ少ない値と、平均値より標準偏差の定数ε倍だけ多い値とに設定する。また、ガウス分布２３６Ａの重み定数と２３６Ｂの重み係数とをそれぞれ、ガウス分布２２６（この場合、ガウス分布２２６の重み係数は１である。）に対する重み係数の半分の値に設定する。混合分布ＨＭＭ作成部９０は、この動作を、音素モデル２２２Ａを構成する状態２２４Ａ，…の各々に対して行ない、混合分布数が２の混合分布を有する状態２３４Ａ，…により構成された新たな音素モデル２３２Ａを作成する。
【０１４９】
混合分布ＨＭＭ作成部９０は、音素モデル２３２Ａを構成する状態２３４Ａ…に対して、パラメータを再推定する動作、事後分布を求める動作、及びパラメータの収束判定をする動作をパラメータが収束するまで繰返して、パラメータを適切な値に設定する。例えば、状態２３４Ａが持つ混合分布を構成するガウス分布２３６Ａ及び２３６Ｂについてのパラメータを適切な値に設定し、ガウス分布２４６Ａ及び２４６Ｂに変更する。ガウス分布２４６Ａ及び２４６Ｂにより構成された混合分布は、混合分布数が２であるという条件下において適切なパラメータに設定される。混合分布ＨＭＭ作成部９０は、この動作を状態２３４Ａ…の各々に対して行なうことにより、音素モデル２３２Ａを、混合分布数が２の混合分布をそれぞれ持ち、かつパラメータがそれぞれ適切に設定された状態２４４Ａ，…により構成された音素モデル２４２Ａに変更する。
【０１５０】
混合分布ＨＭＭ作成部９０は、混合分布化前のモデル２２０の音素モデル２２２Ａに替えて新たな音素モデル２４２Ａを含むモデルにおける自由エネルギを計算し、当該自由エネルギと、予め計算しておいた混合分布化前のモデル（第１回目の複製では初期モデル２２０がこれに相当する。）における自由エネルギとを比較する。比較の結果、自由エネルギが減少していると判定された場合、混合分布ＨＭＭ作成部９０はこの結果に基づき、音素モデル２２２Ａについての混合分布化の処理を停止する。それ以外の場合、混合分布化前のモデル２２０の音素モデル２２２Ａを新たな音素モデル２４２Ａに更新し、当該モデルを混合分布化前のモデルに定め、再び各状態の複製を行なう。これにより、ガウス分布２５６Ａ、２５６Ｂ、２５６Ｃ、及び２５６Ｄからなる混合分布数が４の混合分布を有する状態２５４Ａ，…により構成された新たな音素モデル２５２Ａが作成される。
【０１５１】
混合分布ＨＭＭ作成部９０は音素モデル２２２Ａに対して、このような各状態の混合分布化と、自由エネルギの計算と、混合分布化前のモデル及び混合分布化後のモデルの比較と、音素モデルの更新とを、自由エネルギが減少するまで繰返す。その結果、ガウス分布２６４Ａ，…，２６４Ｍからなる混合分布を有する状態２６６Ａ，…，２６６Ｙにより構成され、自由エネルギが最大となる音素モデル２６２Ａが作成される。音素モデル２２２Ａに替えて音素モデル２６２Ａを含むモデル２６０が作成されると、この音素モデルについての混合分布化の処理を終了する。混合分布ＨＭＭ作成部９０は、次の音素モデル２２２Ｂについての処理を開始する。
【０１５２】
混合分布ＨＭＭ作成部９０は、音素モデル２２２Ｂ，…，２２２Ｘに対して、２２２Ａに対する上記した処理と同様の処理を繰返し行なう。この結果、全ての状態が混合分布を有し、自由エネルギが最大のモデルが作成される。作成されるモデルにおいては、１つの音素モデルを構成する各状態の混合分布数は同じで、かつ音素モデルごとに独立な値となる。
【０１５３】
図３を参照して、混合分布ＨＭＭ作成部９０は、作成したモデルを出力する。混合分布ＨＭＭ９２には、混合分布ＨＭＭ作成部９０が作成したモデルが保持される。
【０１５４】
音声認識装置８０は、このようにして作成された単一分布ＨＭＭ８４又は混合分布ＨＭＭ９２を用いて入力音声７６に対する音声認識を行なう。入力音声７６が音声認識装置８０に入力されると、特徴抽出部８６が、入力音声７６の音響的特徴を抽出し、そのデータを認識部８８に与える。認識部８８は、単一分布ＨＭＭ８４又は混合分布ＨＭＭ９２を用いて、与えられたデータに適合するような音素など言語情報の組合せ及びその順序を推定する。認識部８８は、推定した言語情報を認識出力７８として出力する。
【０１５５】
［実験］
＜ＶＢ−ＳＳＳ法についての実験＞
本実施の形態に係るモデル構造の作成方法であるＶＢ−ＳＳＳ法を用いてＨＭＭを作成し、作成したＨＭＭを用いて、切り出し音素認識実験と連続音声認識とを行なった。切り出し音素認識実験は音素区間ごとに切り出された区間に対して行なう音素識別実験である。この実験では、各音素区間に対し、最も良いスコアの音素モデルを認識結果とする。これにより、得られた各音素モデルの性能評価を行なうことができる。
【０１５６】
ＶＢ−ＳＳＳ法との比較を行なうために、ＭＬ−ＳＳＳ法及びＭＤＬ−ＳＳＳ法を用いて、切り出し音素認識実験と連続音声認識実験とを行なった。さらに、ＭＬ−ＳＳＳ法では最大状態長を３としたモデルと、最大状態長４としたモデルとの２種類を作成し、実験を行なった。
【０１５７】
ＭＤＬ−ＳＳＳ法では、下記の基準を用いた。
【０１５８】
【数４８】
2006098425.tif 000050
ここでは、環境分割の対数尤度ゲインをＧC(ML)とし、時間方向分割の対数尤度ゲインをＧt(ML)とし、また、γt（Ｓi）を時刻に状態Ｓiに留まる確率とし、さらに、Γ（Ｓ）＝ΣiΣtγt（Ｓi）をすべての状態に対するサンプル数の期待値とする。Γ´（Ｓ）を時間分割後のΓ（Ｓ）の値とし、αc、α´cをそれぞれ分割前後のパラメータ数とする。なお、重み係数ＣcとＣtとは、それぞれＣc＝２とＣt＝２０とした。
【０１５９】
音響モデル学習データとして、出願人において作成した旅行会話タスクデータベースより男性１６６人の日本語対話音声、約２．１時間分を用いた。また、評価には、同じデータベースから学習データに含まれない１７人の男性話者による２１３発話を用いた。なお、本実験では、変分ベイズ法を分割及び停止時の基準としてのみ用いた。認識実験では、従来通りのＨＭＭによる計算を行なった。さらに、単語連続音声認識実験を行なった。この実験には、言語モデルとして、多重クラス複合ｂｉｇｒａｍモデルを用い、語彙サイズは５０００単語とした。音声データのサンプリング周波数は１６ｋＨｚ、フレーム長は２０ｍｓ、フレーム周期は１０ｍｓとした。特徴量として１２次ＭＦＣＣ（Ｍｅｌ−Ｆｒｅｑｕｅｎｃｙ  Ｃｅｐｓｔｒｕｍ  Ｃｏｅｆｆｉｃｉｅｎｔ）、ΔＭＦＣＣ、及びΔ対数パワーを用いた。ケプストラム平均正規化は発話単位で行なった。音素体系として２６種類の音素とひとつの無音を用いた。音素ごとに音響モデル構造を作成し、初期モデルはそれぞれ３状態モデルとした。構造作成中は１状態につき１ガウス分布を用いた。無音モデルは３状態で音素モデルとは別に作成した。
【０１６０】
上記のとおり、変分ベイズ法では一般に事前分布パラメータの設定が必要になる。いくつかの予備実験から、本実験では、事前分布パラメータをφ0＝１．０、ξ0＝１．０、及びη0＝２．０とした。ν0kとｂ0kとについては、実際の分布の平均ベクトル及び精度行列をもとに設定を行なった。
【０１６１】
それぞれのモデルを用いた音素認識実験について、図９及び図１０に、モデルの状態数と母音に対する音素認識率との関係、及び同じく状態数に対する子音に対する音素認識率をそれぞれ示す。
【０１６２】
これらの図には、最大状態長３及び４のＭＬ−ＳＳＳ法によるもの、ＭＤＬ−ＳＳＳ法によるもの、並びに本実施の形態に係るＶＢ−ＳＳＳ法によるものを示す。これらの図においては、少ない状態数であり、かつ高い音素認識率となる方法が、より高性能のモデル構造作成方法となる。
【０１６３】
図９及び図１０より、ＶＢ−ＳＳＳ法では、特に母音に対しての音素認識率が、従来の方法より高い値となることが示されている。また、ＭＤＬ−ＳＳＳ法では状態数が小さいモデルが推定され、他のモデル構造作成方法によるモデルに比べて、音素認識率が低い値となっている。これは、ＭＤＬ基準が、少量の学習データでは十分なモデル構造を作成する性能を発揮しないことを示していると考えられる。
【０１６４】
さらに、切り出し音素認識実験で用いたものと同一の評価データを用いて、語彙５０００単語での単語連続認識実験を行なった。なお、評価には、音素認識実験と同様に単一分布ＨＭＭを用いた。図１１に３種類の方法による単語認識率を示す。図１１を参照して、本実施の形態に係るＶＢ−ＳＳＳ法によるモデルでは、状態数１４１９のモデルで７３パーセント近い単語認識率となった。ＭＬ−ＳＳＳ法で同程度の単語認識率を得るには、状態数２２００程度のモデルを作成する必要があることが示された。よって、本実施の形態に係る方法で作成したモデルは、ベースラインのＭＬ−ＳＳＳ法で得られたモデルの約６０％のモデルサイズで、同等の性能が得られることになる。
【０１６５】
＜変分ベイズ法を用いた混合分布数決定法についての実験＞
さらに、本実施の形態に係る、変分ベイズ（ＶＢ）法を用いた混合分布化方法により、事前分布パラメータρ0に種々の値を用いてＨＭＭの混合分布化を行ない、作成された混合分布ＨＭＭを用いた単語連続認識実験を行なった。また比較のために、ＭＬ−ＳＳＳで作成されたモデル構造に対して、最大尤度（ＭＬ）に基づき手作業での混合分布化を行なうことにより得られるモデルを用いて、同様の単語連続認識実験を行なった。
【０１６６】
それぞれのモデルを用いた認識実験について、図１２に、モデル内の混合分布を構成するガウス分布の総数（以下、「総混合分布数」と呼ぶ。）と単語認識率との関係を示す。図１２には、最大状態長３及び４のＭＬ−ＳＳＳ法によりそれぞれ作成された、状態数５００、１４００、及び２４００の単一分布ＨＭＭの各々について手作業により混合分布化されたＨＭＭによるもの、並びに本実施の形態に係るＶＢ−ＳＳＳ法により、状態数１４１９の単一分布ＨＭＭに対し、ＶＢを用いた混合分布化法で混合分布化したＨＭＭによるものを示す。この図においては、少ない総混合分布数であり、かつ高い単語認識率となる方法が、より高性能の方法となる。
【０１６７】
図１２を参照して、ＶＢ−ＳＳＳ法及びＶＢを用いた混合分布化法で作成したモデルでは、ρ0＝０．０１のとき、単語認識率が約７６．７７％となった。この単語認識率は、ＭＬ−ＳＳＳ及び手作業により作成したモデルによる単語認識率の最大値７６．５６％より高い値となった。さらに、ＭＬ−ＳＳＳ及び手作業により作成したモデルに比べて、１５％少ない混合分布数で単語認識率が最大となった。よって、ＶＢを用いた混合分布化法で作成されたモデルは、ＭＬ−ＳＳＳ及び手作業により作成したモデルに比べて高性能であることが示された。
【０１６８】
さらに、ＶＢ−ＳＳＳと、ＶＢを用いた混合分布化法とを組合せることによる効果を確認するために、次に示す４通りの組合せについて評価を行なった。すなわち、
（１）ＭＬ−ＳＳＳによる状態分割とＭＬに基づく手作業での混合分布化との組合せ、
（２）ＶＢ−ＳＳＳによる状態分割とＶＢを用いた混合分布化法との組合せ（本実施の形態に係る組合せ）、
（３）ＭＬ−ＳＳＳによる状態分割とＶＢを用いた混合分布化法との組合せ、及び、
（４）ＶＢ−ＳＳＳによる状態分割とＭＬに基づく手作業での混合分布化との組合せ、
である。
【０１６９】
なお、これらの認識実験においては、混合分布化法に応じて、次のような復号化法を用いた。すなわち、ＶＢを用いた混合分布化法による実験では、上記数式（４４）により定義される予測事後確率を用いた復号化を行なった。これに対し、ＭＬに基づく手作業での混合分布化法による実験では、ＭＬに基づく通常の復号化法を用いた。
【０１７０】
上記した４通りの組合せで作成されたモデルによる認識実験の結果について、図１３に、総混合分布数と単語認識率との関係を示す。図１３を参照して、４通りの組合せのうち、ＶＢ−ＳＳＳによる状態分割とＶＢを用いた混合分布化法との組合せが、最も高い単語認識率を示している。また、この組合せが、他の組合せより少ない総混合分布数で、最高の単語認識率に達している。よって、本実施の形態に係る組合せが、他の組合せに比べて高性能であることが示された。
【０１７１】
また、ＭＬ−ＳＳＳ及びＶＢ−ＳＳＳのいずれの方法で状態分割したモデルにおいても、ＶＢを用いた混合分布化を行なったモデルの方が、手作業で混合分布化を行なったモデルより、少ない総混合分布数でかつ高い単語認識率を示している。よって、本実施の形態に係る、ＶＢを用いた混合分布化法により、適切な混合分布数で効果的な混合分布化を行なえることが示された。
【０１７２】
今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内でのすべての変更を含む。
【図面の簡単な説明】
【０１７３】
【図１】音響モデル構造の作成における状態分割の概念を示す模式図である。
【図２】変分ベイズ法を用いた逐次状態分割法（ＶＢ−ＳＳＳ）における、確率変数間の関係を模式的に示す図である。
【図３】本発明の実施の形態に係る音声認識システムの機能的構成を示す図である。
【図４】モデル構造作成処理のアルゴリズムを示すフローチャートである。
【図５】混合分布ＨＭＭ作成処理のアルゴリズムを示すフローチャートである。
【図６】図５に示すＳ１４６における、分布の複製処理の詳細を示すフローチャートである。
【図７】モデル構造作成部８２が行なうＶＢ−ＳＳＳによる状態分割を模式的に示す図である。
【図８】混合ＨＭＭ作成部９０が行なう混合分布化を模式的に示す図である。
【図９】１個のガウス分布を有するモデルの状態数と母音に対する音素認識率との関係を示すグラフである。
【図１０】１個のガウス分布を有するモデルの状態数と子音に対する音素認識率との関係を示すグラフである。
【図１１】１個のガウス分布を有するモデルの状態数と単語認識率との関係を示すグラフである。
【図１２】混合分布を有するモデルの総混合分布数と単語認識率との関係を示すグラフである。
【図１３】状態分割の手法と混合分布化の手法の組合せによる総混合分布数と単語認識率との関係の相違を示すグラフである。
【符号の説明】
【０１７４】
４０，４２，４４，４６，４８  事前分布パラメータ、５０  状態数、５２  遷移確率の数、５４  平均ベクトル、５６  精度行列、５８  遷移確率、６０  潜在変数、６２  観察データ、７０  初期モデル、７２  学習データ、７６  入力音声、７８  認識出力、８０  音声認識装置、８２  モデル構造作成部、８４  単一分布ＨＭＭ、８６  特徴抽出部、８８  認識部、９０  混合分布ＨＭＭ作成部、９２  混合分布ＨＭＭ
【図１】
2006098425.tif 000051
【図２】
2006098425.tif 000052
【図３】
2006098425.tif 000053
【図４】
2006098425.tif 000054
【図５】
2006098425.tif 000055
【図６】
2006098425.tif 000056
【図７】
2006098425.tif 000057
【図８】
2006098425.tif 000058
【図９】
2006098425.tif 000059
【図１０】
2006098425.tif 000060
【図１１】
2006098425.tif 000061
【図１２】
2006098425.tif 000062
【図１３】
2006098425.tif 000063