(57)【特許請求の範囲】
【請求項１】
隠れマルコフモデルを作成する隠れマルコフモデル作成装置であって、
入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、ラベル情報の音素情報に従って音素隠れマルコフモデル状態毎に特徴量ベクトルを割り当てるラベル付き学習データ変換部と、
この特徴量ベクトルＯを割り当てられた、パラメータθjを持つ隠れマルコフモデル状態の構造Ｍに対して、基準関数
【数１】
0003964722.tif 000010
（ここで〈ｕ（ｙ）〉p(y)は確率分布ｐ（ｙ）に対するｕ（ｙ）の期待値を表し、ｐ（Ｏ｜θj，Ｍ）は出力確率分布であり、ｑ（θj｜Ｏ，Ｍ）は変分事後確率分布であり、ｐ（θj｜Ｍ）は事前確率分布である）を用いて、この基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割して共有構造を構築し、新たな隠れマルコフモデル状態を作成するとともに、前記基準関数の変化量が前記分割によって負となる場合には前記分割を停止するモデル構造決定部と、
前記作成された新たな隠れマルコフモデルとそれに対応する学習音声データを用いて、隠れマルコフモデルの音響モデルパラメータの学習を行い、隠れマルコフモデルを作成する音響モデルパラメータ学習部と
を有することを特徴とする隠れマルコフモデル作成装置。
【請求項２】
前記モデル構造決定部は、
前記共有構造の構築段階における隠れマルコフモデルの階層的分割に使用するための前記基準関数を計算する基準関数計算部と、
当該基準関数を用いて、前記特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対して前記基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割し、それに基づく隠れマルコフモデル状態の共有構造を構築し、新たな隠れマルコフモデル状態を作成する共有構造構築部と
を有することを特徴とする請求項１記載の隠れマルコフモデル作成装置。
【請求項３】
請求項１または２に記載の隠れマルコフモデル作成装置と、
当該隠れマルコフモデル作成装置により作成された隠れマルコフモデルに対する音響モデルパラメータを用いて未知の入力音声データを認識する認識部と
を有することを特徴とする音声認識装置。
【請求項４】
隠れマルコフモデルを作成する隠れマルコフモデル作成方法であって、
ラベル付き学習データ変換部により、入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、ラベル情報の音素情報に従って音素隠れマルコフモデル状態毎に特徴量ベクトルを割り当てる第１のステップと、
モデル構造決定部により、この特徴量ベクトルＯを割り当てられた、パラメータθjを持つ隠れマルコフモデル状態の構造Ｍに対して、基準関数
【数２】
0003964722.tif 000011
（ここで〈ｕ（ｙ）〉p(y)は確率分布ｐ（ｙ）に対するｕ（ｙ）の期待値を表し、ｐ（Ｏ｜θj，Ｍ）は出力確率分布であり、ｑ（θj｜Ｏ，Ｍ）は変分事後確率分布であり、ｐ（θj｜Ｍ）は事前確率分布である）を用いて、この基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割して共有構造を構築し、新たな隠れマルコフモデル状態を作成する第２のステップと、
前記モデル構造決定部により、前記基準関数の変化量が前記分割によって負となる場合には前記分割を停止する第３のステップと、
音響モデルパラメータ学習部により、前記作成された新たな隠れマルコフモデルとそれに対応する学習音声データを用いて、隠れマルコフモデルの音響モデルパラメータの学習を行い、隠れマルコフモデルを作成する第４のステップと
を有することを特徴とする隠れマルコフモデル作成方法。
【請求項５】
前記第２のステップは、
前記共有構造の構築段階における隠れマルコフモデルの階層的分割に使用するための前記基準関数を計算するステップと、
当該基準関数を用いて、前記特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対して前記基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割し、それに基づく隠れマルコフモデル状態の共有構造を構築し、新たな隠れマルコフモデル状態を作成するステップと
を有することを特徴とする請求項４記載の隠れマルコフモデル作成方法。
【請求項６】
請求項４または５に記載の隠れマルコフモデル作成方法と、
当該隠れマルコフモデル作成方法により作成された隠れマルコフモデルに対する音響モデルパラメータを用いて未知の入力音声データを認識するステップと
を有することを特徴とする音声認識方法。
【請求項７】
請求項４または５に記載の隠れマルコフモデル作成方法をコンピュータに実行させることを特徴とする隠れマルコフモデル作成プログラム。
【請求項８】
請求項６記載の音声認識方法をコンピュータに実行させることを特徴とする音声認識プログラム。
【請求項９】
請求項７記載の隠れマルコフモデル作成プログラムを記録したことを特徴とするコンピュータ読取り可能な記録媒体。
【請求項１０】
請求項８記載の音声認識プログラムを記録したことを特徴とするコンピュータ読取り可能な記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、隠れマルコフモデル（Hidden Markov Model、以下ＨＭＭと略称す る）を作成する隠れマルコフモデル作成装置、方法、プログラム、記録媒体および音声認識装置、方法、プログラム、記録媒体に関する。
【０００２】
【従来の技術】
まず、音声認識装置の概略を説明する。音声認識装置は主にフレーム毎にラベル付き学習データを時系列特徴ベクトルに変換するラベル付き学習データ変換部と、モデルの構造を決定するモデル構造決定部と、ラベル付き学習データ変換部で得られた学習用の時系列特徴ベクトルとラベル情報を用いて、各シンボルに対する特徴ベクトルのパターンを確率分布のパラメータとして推定する音響モデルパラメータ学習部と、そのパラメータを用いて未知入力音声の時系列特徴ベクトルに対し認識結果を与える認識部とからなる。
【０００３】
モデルの構造を決定するモデル構造決定部について説明する。通常のＨＭＭでは、音素の環境（当該音素の前後の音素）などを考慮し、音素という単位より、より詳細な単位でＨＭＭを作成することで、認識性能が向上することが知られている。しかし、このように、より細かなＨＭＭを使用する場合、あるＨＭＭを学習する学習データが少ないと、音響モデルパラメータ学習部における確率分布パラメータの推定過程で、データ数の不足による過学習問題を引き起こす。そのため通常では音響的な類似度の高いＨＭＭ状態を共有することにより、学習データの不足を回避して認識性能の劣化を抑えることを行う。このＨＭＭのモデルを詳細にしながら、かつ詳細なモデルのいくつかで状態を共有するＨＭＭを作成する手段をモデル構造の決定と呼ぶ。
【０００４】
通常、このようなモデル構造の作成には、木構造を用いて、図３のように階層的に構成される。まず、初期状態は、ある音素ＨＭＭ状態に対応する学習データを用意し、質問にしたがってＨＭＭ状態を２分割していく。このとき用いられる質問は音声学的知見により得られた先行音素、後続音素に対する２者択一の質問群である（例えば、先行音素が無声音であるか？、後続音素が摩擦音であるか等）。これらの質問をすべて採用して分割を行うことによって作成された木のリーフは、最も詳細なＨＭＭの状態に相当する。全部の質問まで使わずに途中でこの分割が終わったときのリーフは、最も細かいＨＭＭの状態のいくつかを共有していることに相当する。分割操作を分割された各状態に対して同様に行うことにより、木構造を構築していく。末端の各リーフの状態では、詳細なＨＭＭの状態を共有することにより、共有構造を構成することになる。
【０００５】
従来、木構造の構築における基準として尤度や記述長最小基準や赤池情報量基準が用いられている。具体的には、各状態に対して質問を用いて２分割し、分割する前と後での基準値の変化を求める。これをすべての質問に対して行い、基準値の増加が最も大きい質問を採用し、これを元に分割を行う。この分割操作を初期状態より始め、末端の状態まで階層的に行うことにより、木構造を構築する。また、これらの基準は木構造の停止基準にも使われる。すなわち、ある閾値より、どのような分割をしても、基準値の変化が閾値を上回らない場合、モデル構造が完成したものとする。
【０００６】
【発明が解決しようとする課題】
上述したように、共有構造の構築における基準として従来使用されている尤度基準は、停止基準を内包していないため、実験により決めたパラメータを用いて分割を停止させねばならない。このパラメータは実験状況や学習データにより実験毎に決め直さなくてはならず、モデル作成時に多くの労力が必要であった。また、記述長最小基準や赤池情報量基準を用いた手法は、停止基準を内包しているが、これらはデータ量が十分大きいという仮定の元で導かれた基準であるため、データが少ないときには適切な分割が行われないという問題が生じる。
【０００７】
本発明は、上記に鑑みてなされたもので、その目的とするところは、ＨＭＭ状態の共有問題に対して学習データに依存した状態共有や総状態数などのモデル構造を適切に決定するためにベイズ的アプローチにより導出される基準関数を用いて音響パラメータの学習を行う隠れマルコフモデル作成装置、方法、プログラム、記録媒体および音声認識装置、方法、プログラム、記録媒体を提供することにある。
【０００８】
【課題を解決するための手段】
上記目的を達成するため、第１の本発明は、隠れマルコフモデルを作成する隠れマルコフモデル作成装置であって、入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、ラベル情報の音素情報に従って音素隠れマルコフモデル状態毎に特徴量ベクトルを割り当てるラベル付き学習データ変換部と、この特徴量ベクトルＯを割り当てられた、パラメータθjを持つ隠れマルコフモデル状態の構造Ｍに対して、基準関数
【数３】
0003964722.tif 000002
（ここで〈ｕ（ｙ）〉p(y)は確率分布ｐ（ｙ）に対するｕ（ｙ）の期待値を表し、ｐ（Ｏ｜θj，Ｍ）は出力確率分布であり、ｑ（θj｜Ｏ，Ｍ）は変分事後確率分布であり、ｐ（θj｜Ｍ）は事前確率分布である）を用いて、この基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割して共有構造を構築し、新たな隠れマルコフモデル状態を作成するとともに、前記基準関数の変化量が前記分割によって負となる場合には前記分割を停止するモデル構造決定部と、前記作成された新たな隠れマルコフモデルとそれに対応する学習音声データを用いて、隠れマルコフモデルの音響モデルパラメータの学習を行い、隠れマルコフモデルを作成する音響モデルパラメータ学習部とを有することを要旨とする。
【０００９】
本発明にあっては、入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、音素ＨＭＭ状態毎に特徴量ベクトルを割り当て、特徴量ベクトルを割り当てられたＨＭＭ状態に対してベイズ的アプローチにより導出される基準関数を用いて基準関数が大きくなるようにクラスタリングして共有構造を構築し、新たな隠れマルコフモデル状態を作成し、この新たな隠れマルコフモデルと対応する学習音声データを用いてＨＭＭの音響モデルパラメータの学習を行い、ＨＭＭを作成するため、ベイズ的アプローチにより導出される基準関数を分割の基準に用いることで状態共有や総状態数などのモデル構造を適切に決定できるとともに、また学習データが少ない場合でも、その状況に応じた状態共有や総状態数などのモデル構造を適切に決めることができる。
【００１０】
また、第２の本発明に係る音声認識装置は、上記隠れマルコフモデル作成装置と、当該隠れマルコフモデル作成装置により作成された隠れマルコフモデルに対する音響モデルパラメータを用いて未知の入力音声データを認識する認識部とを有することを要旨とする。
【００１１】
更に、上記隠れマルコフモデル作成装置において、前記モデル構造決定部が、前記共有構造の構築段階における隠れマルコフモデルの階層的分割に使用するための基準関数を計算する基準関数計算部と、当該基準関数を用いて、前記特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対して前記基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割し、それに基づく隠れマルコフモデル状態の共有構造を構築し、新たな隠れマルコフモデル状態を作成する共有構造構築部とを有することを要旨とする。
【００１２】
第３の本発明は、隠れマルコフモデルを作成する隠れマルコフモデル作成方法であって、ラベル付き学習データ変換部により、入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、ラベル情報の音素情報に従って音素隠れマルコフモデル状態毎に特徴量ベクトルを割り当てる第１のステップと、モデル構造決定部により、モデル構造決定部により、この特徴量ベクトルＯを割り当てられた、パラメータθjを持つ隠れマルコフモデル状態の構造Ｍに対して、基準関数
【数４】
0003964722.tif 000003
（ここで〈ｕ（ｙ）〉p(y)は確率分布ｐ（ｙ）に対するｕ（ｙ）の期待値を表し、ｐ（Ｏ｜θj，Ｍ）は出力確率分布であり、ｑ（θj｜Ｏ，Ｍ）は変分事後確率分布であり、ｐ（θj｜Ｍ）は事前確率分布である）を用いて、この基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割して共有構造を構築し、新たな隠れマルコフモデル状態を作成する第２のステップと、前記モデル構造決定部により、前記基準関数の変化量が前記分割によって負となる場合には前記分割を停止する第３のステップと、音響モデルパラメータ学習部により、前記作成された新たな隠れマルコフモデルとそれに対応する学習音声データを用いて、隠れマルコフモデルの音響モデルパラメータの学習を行い、隠れマルコフモデルを作成する第４のステップとを有することを要旨とする。
【００１３】
本発明にあっては、入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、音素ＨＭＭ状態毎に特徴量ベクトルを割り当て、特徴量ベクトルを割り当てられたＨＭＭ状態に対してベイズ的アプローチにより導出される基準関数を用いて基準関数が大きくなるようにクラスタリングして共有構造を構築し、新たな隠れマルコフモデル状態を作成し、この新たな隠れマルコフモデルと対応する学習音声データを用いてＨＭＭの音響モデルパラメータの学習を行い、ＨＭＭを作成するため、ベイズ的アプローチにより導出される基準関数を分割の基準に用いることで状態共有や総状態数などのモデル構造を適切に決定できるとともに、また学習データが少ない場合でも、その状況に応じた状態共有や総状態数などのモデル構造を適切に決めることができる。
【００１４】
また、第４の本発明に係る音声認識方法は、上記隠れマルコフモデル作成方法と、当該隠れマルコフモデル作成方法により作成された隠れマルコフモデルに対する音響モデルパラメータを用いて未知の入力音声データを認識するステップとを有することを要旨とする。
【００１５】
更に、上記隠れマルコフモデル作成方法において、前記第２のステップが、前記共有構造の構築段階における隠れマルコフモデルの階層的分割に使用するための基準関数を計算するステップと、当該基準関数を用いて、前記特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対して前記基準関数の変化量が大きくなるように隠れマルコフモデル状態を分割し、それに基づく隠れマルコフモデル状態の共有構造を構築し、新たな隠れマルコフモデル状態を作成するステップとを有することを要旨とする。
【００１６】
第５の本発明に係る隠れマルコフモデル作成プログラムは、上記隠れマルコフモデル作成方法をコンピュータに実行させるプログラムであることを要旨とする。
【００１７】
また、第６の本発明に係る音声認識プログラムは、上記音声認識方法をコンピュータに実行させるプログラムであることを要旨とする。
【００１８】
更に、第７の本発明に係るコンピュータ読取り可能な記録媒体は、上記隠れマルコフモデル作成プログラムを記録した記録媒体であることを要旨とする。
【００１９】
本発明にあっては、上記隠れマルコフモデル作成プログラムを記録媒体に記録しているため、該記録媒体を用いて、その流通性を高めることができる。
【００２０】
第８の本発明に係るコンピュータ読取り可能な記録媒体は、上記音声認識プログラムを記録した記録媒体であることを要旨とする。
【００２１】
本発明にあっては、上記音声認識プログラムを記録媒体に記録しているため、該記録媒体を用いて、その流通性を高めることができる。
【００２２】
【発明の実施の形態】
以下、図面を用いて本発明の実施の形態を説明する。図１は、本発明の一実施形態に係る隠れマルコフモデル作成装置の構成を示すブロック図である。同図に示す隠れマルコフモデル作成装置は、ラベル付き学習データ変換部１、モデル構造決定部３、音響モデルパラメータ学習部５および認識部７を有し、モデル構造決定部３は図２に示すように共有構造構築部３１および基準関数計算部３３を有する。
【００２３】
更に詳しくは、図１に示す本実施形態の隠れマルコフモデル作成装置は、入力されたラベル付き学習データに対して波形処理、相関処理、スペクトル処理を含む入力処理を施して時系列特徴量ベクトルに変換し、ラベル情報の音素情報に従って音素隠れマルコフモデル状態毎に特徴量ベクトルを割り当てるラベル付き学習データ変換部１と、この特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対してベイズ的アプローチにより導出される基準関数を用いて、この基準関数が大きくなるように隠れマルコフモデル状態をクラスタリングして共有構造を構築し、新たな隠れマルコフモデル状態を作成するとともに、前記基準関数の値に基づき前記分割を停止するモデル構造決定部３と、このモデル構造決定部３で作成された新たな隠れマルコフモデルとそれに対応する学習音声データを用いて、隠れマルコフモデルの音響モデルパラメータの学習を行い、隠れマルコフモデルを作成する音響モデルパラメータ学習部５と、この音響モデルパラメータ学習部５で作成された隠れマルコフモデルに対する音響モデルパラメータを用いて未知の入力音声データを認識する認識部７とから構成されている。
【００２４】
また、モデル構造決定部３は、図２に示すように、共有構造の構築段階における隠れマルコフモデルのクラスタリングに使用するためのベイズ的アプローチにより導出される基準関数を計算する基準関数計算部３３と、この計算されたベイズ的アプローチにより導出される基準関数を用いて、前記特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対して前記基準関数が大きくなるように隠れマルコフモデル状態をクラスタリングし、それに基づく隠れマルコフモデル状態の共有構造を構築し、新たな隠れマルコフモデル状態を作成する共有構造構築部３１とから構成されている。
【００２５】
すなわち、図１の隠れマルコフモデル作成装置では、ラベル付き学習データ変換部１は、ラベル付き学習データを入力されると、このラベル付き学習データに対してラベル情報の音素情報に従って音素ＨＭＭ状態に特徴ベクトルを割り当てる。このラベル付き学習データ変換部１により作成されたラベル付き学習データはモデル構造決定部３に送られ、ここでＨＭＭの状態はモデル構造決定部３の共有構造構築部３１で階層的に分割され、より詳細なＨＭＭ状態が作成される。この共有構造の構築段階における各リーフでの分割の指標は、モデル構造決定部３の基準関数計算部３３におけるベイズ的アプローチにより導出される基準関数を用いて行われる。
【００２６】
このモデル構造決定部３で作成されたＨＭＭとそれに対応する学習音声データは音響モデルパラメータ学習部５に送られ、学習データを用いたＨＭＭの音響モデルパラメータの学習が行われ、ＨＭＭが出力される。認識部７では、音響モデルパラメータ学習部５で作成されたＨＭＭ状態に対する音響モデルパラメータを用いて未知の入力音声データを認識する。なお、この認識部７を含む構成は、ラベル付き学習データ変換部１、モデル構造決定部３、音響モデルパラメータ学習部５に加えて、認識部７を有する装置は、音声認識装置を構成しているものである。
【００２７】
更に詳しく説明すると、ラベル付き学習データ変換部１に入力された学習音声データは波形処理、相関処理、スペクトル処理を含む入力処理を施されて時系列特徴量ベクトルに変換される。特徴量は音素ラベルと時系列的に対応付けられている。この特徴量をＨＭＭ状態に割り当てるために、予め用意された学習データを用いて作成された音声認識装置を用いて割り当てるか、または特徴量を時系列的に等間隔にＨＭＭ状態に割り当てる。ここで、音素ＨＭＭ状態を分割し、それぞれに特徴ベクトルを割り当てる。ここで、共有構造は木構造を用いて階層的に構築される。図３に示す各状態ｍにおいて状態に割り当てられたデータの集合をΩ（ｍ）とする。初期状態ｍ＝０では、Ω（０）はすべてのデータを含む。
【００２８】
ここで、前後の音素環境に対する音声学的な知見により作成された複数の質問群Ｑを用いてΩ(０）を分割する。なお、質問を使用する代わりに、分割に対して全組合せを考えてもよい。各状態での分割数（分枝数）は２以上である。図３では分枝数を２として木構造を構築している。また、以下では分枝数を２として説明を行うが、分枝数が２以上であっても同様に説明を行うことができる。このとき分割された状態を図３に示すようにそれぞれｍ＝１，ｍ＝２とすると、これはモデル構造決定部３の基準関数計算部３３に送られる。
【００２９】
本実施例において、共有構造は木構造を用いた例を示すが、木構造以外であっても、全ての組み合わせを考慮して最も基準関数が大きくなるように状態共有を構築する手法や、ボトムアップ的に各状態を併合させ、最も基準関数が大きくなるように状態共有を構築する手法を用いてもよいことはいうまでもない。
【００３０】
モデル構造決定部３の基準関数計算部３３で使用される基準関数はベイズ的アプローチにより導出されるものである。ベイズ的アプローチとは、ベイズ推定に基いてモデル構造を選択していく手法である。ベイズ推定では、モデルに設定された未知パラメータθjを数学的変数でなく確率変数として扱い、学習データ集 合Ｏからθjに対する事後確率分布ｐ(θj｜Ｏ）を推定していく。このときモデル構造の複雑さＭを確率変数として扱うことにより、モデル構造に対する事後確率分布ｐ(Ｍ｜Ｏ）を考えることもできる。このｐ(Ｍ｜Ｏ）を最大にするようにモデルＭを選択していくことにより、事後確率最大化の意味で、最適なモデル構造を選択することができる。
【００３１】
しかし、ｐ(θj｜Ｏ），ｐ(Ｍ｜Ｏ）を解析的に求めるのは一般には困難であ るため、変分ベイズ法を用いて、モデル構造Ｍに対するパラメータの変分事後確率分布ｑ(θj｜Ｏ，Ｍ）を求める。これは変分近似により導出されるため、真の事後確率分布ｐ(θj｜Ｏ）とは異なる。次にｑ(θj｜Ｏ，Ｍ）から、ＦMを次の ように定義する。
【００３２】
【数５】
0003964722.tif 000004
ここで〈ｕ(ｙ)〉p(y)は確率分布ｐ(ｙ)に対するｕ(ｙ)の期待値を表し、ｐ(θj  ｜Ｍ）は事前確率分布である。ＦMは変分事後確率ｑ(Ｍ｜Ｏ）と次のような関係を持つ。
【００３３】
【数６】
0003964722.tif 000005
これにより、
【数７】
0003964722.tif 000006
となるモデル構造Ｍ′を求めることにより、最適なモデル構造を解析的に求めることができる。このＦMを基準関数として採用することにより、変分近似を含んだベイズ的アプローチでモデル選択を行うことができる。
【００３４】
ここで、音素ＨＭＭ状態の境界が固定である、各ＨＭＭ状態での分布を特徴量ベクトル次元の単一正規分布でモデル化し、このときの共分散行列が対角的であると仮定すると、基準関数計算部３３は分割前（Ｍ）と後（Ｍ′）で基準関数ＦMの変化を次のように計算する。
【００３５】
【数８】
0003964722.tif 000007
ｆの関数形は次のようになる。
【００３６】
【数９】
0003964722.tif 000008
ここでΓはガンマ関数である。また、Ψ0＝｛ξ0，ν0，η0，Ｒ0｝は特徴ベク トルの確率分布をＤ次元正規分布で記述する際のパラメータ（平均μ、精度Φ）に対する事前確率分布のパラメータである。ξ0，η0はスカラー、ν0はＤ次元 ベクトル、Ｒ0はＤ×Ｄ対角行列である。また、｛ξΩ，νΩ，ηΩ，ＲΩ｝は 集合Ωに含まれる特徴量ベクトルのパターンを記述する確率分布のパラメータμ，Φに対する事後確率分布のパラメータである。ξΩ，ηΩはスカラー、νΩはＤ次元ベクトル、ＲΩはＤ×Ｄ対角行列である。これはΨ0とＯ，Ｔを用いて次 のような形で表すことができる。
【００３７】
【数１０】
0003964722.tif 000009
この基準関数の差分値（６）を共有構造構築部３１に返す。
【００３８】
上述した仮定は計算時間の短縮のために設定されたものである。この仮定を取り除いた場合でも評価関数を解析的に与えることはできる。そのため前記仮定を除いた場合でも共有構造構築部３１に評価関数の値を返すことができる。
【００３９】
基準関数計算部３３によって得られた値を元に、質問を一つ採用して状態を分割するのであれば、このΔＦMが最も大きくなるような質問を採用し分割を行う。分割を全質問の組み合わせに関して同時に行う場合はそれをしたときに最もΔＦMが大きくなるような分割をする。この操作を分割された各状態Ｃ(ｍ)に対し て行い、ΔＦM＜０であれば、分割を停止してほかの状態に移り分割操作を続け る。最終的にすべての状態でこれ以上の分割が行われない（ΔＦM＜０）となっ たとき、最終的な分割を終了させる。このようにしてΔＦMが大きくなるように 木構造を構築し、それに基づくＨＭＭ状態の共有構造を構築していく。
【００４０】
音響モデルパラメータ学習部５ではＨＭＭ状態とそれに対応する学習音声データを用いて、音響モデルパラメータの学習が行われる。音響モデルパラメータはＨＭＭ状態を混合正規分布として表し、ＨＭＭ状態間の遷移確率、混合正規分布の重み係数、各混合正規分布における平均、分散をバウム−ウェルチ学習もしくはビタビ学習を用いて推定する。これにより、音響モデルパラメータを得ることができる。
【００４１】
認識部７では音響モデルパラメータ学習部により得られたＨＭＭ状態に対する音響モデルパラメータを用いて未知入力音声データに対して認識結果を出力する。
【００４２】
次に、図４に示すフローチャートを参照して、本実施形態の隠れマルコフモデル作成装置の作用について説明する。
【００４３】
ラベル付き学習データ変換部１にラベル付き学習データが入力されると、ラベル付き学習データ変換部１においては、このラベル付き学習データに対して波形処理、相関処理、スペクトル処理を含む入力処理を施して時系列特徴量ベクトルに変換し、ラベル情報の音素情報に従って音素隠れマルコフモデル状態毎に特徴量ベクトルを割り当てる（ステップＳ１１）。
【００４４】
次に、モデル構造決定部３はラベル付き学習データ変換部１で特徴量ベクトルを割り当てられた隠れマルコフモデル状態に対してベイズ的アプローチにより導出される基準関数を用いて、この基準関数が大きくなるように隠れマルコフモデル状態を階層的に分割して木構造を構築し、新たな隠れマルコフモデル状態を作成する（ステップＳ１３）。そして、基準関数の値に基づきすべての状態でこれ以上の分割が行われないとなった時、分割を停止する（ステップＳ１５）。
【００４５】
それから、ステップＳ１３で作成された新たな隠れマルコフモデルとそれに対応する学習音声データを用いて、音響モデルパラメータ学習部５で隠れマルコフモデルの音響モデルパラメータの学習を行い、隠れマルコフモデルを作成する（ステップＳ１７）。
【００４６】
このステップＳ１７で作成された隠れマルコフモデルに対する音響モデルパラメータを用いて未知の入力音声データを認識する（ステップＳ１９）。
【００４７】
なお、上記実施形態の隠れマルコフモデル作成方法の処理手順をプログラムとして例えばＣＤやＦＤなどの記録媒体に記録して、この記録媒体をコンピュータシステムに組み込んだり、または記録媒体に記録されたプログラムを通信回線を介してコンピュータシステムにダウンロードしたり、または記録媒体からインストールし、該プログラムでコンピュータシステムを作動させることにより、隠れマルコフモデル作成方法を実施する隠れマルコフモデル作成装置として機能させることができることは勿論であり、このような記録媒体を用いることにより、その流通性を高めることができるものである。
【００４８】
【発明の効果】
以上説明したように、本発明によれば、入力されたラベル付き学習データを時系列特徴量ベクトルに変換し、音素ＨＭＭ状態毎に特徴量ベクトルを割り当て、特徴量ベクトルを割り当てられたＨＭＭ状態に対してベイズ的アプローチにより導出される基準関数を用いて基準関数が大きくなるようにクラスタリングし、新たな隠れマルコフモデル状態を作成し、この新たな隠れマルコフモデルと対応する学習音声データを用いてＨＭＭの音響モデルパラメータの学習を行い、ＨＭＭを作成するので、ベイズ的アプローチにより導出される基準関数を分割の基準に用いることで状態共有や総状態数などのモデル構造を適切に決定できるとともに、また学習データが少ない場合でも、その状況に応じた状態共有や総状態数などのモデル構造を適切に決めることができる。
【図面の簡単な説明】
【図１】本発明の一実施形態に係る隠れマルコフモデル作成装置の構成を示すブロック図である。
【図２】図１に示す実施形態の隠れマルコフモデル作成装置に使用されているモデル構造決定部の構成を示すブロック図である。
【図３】共有構造（木構造）の概念を示す図である。
【図４】図１に示す実施形態の隠れマルコフモデル作成装置の作用を示すフローチャートである。
【符号の説明】
１  ラベル付き学習データ変換部
３  モデル構造決定部
５  音響モデルパラメータ学習部
７  認識部
３１  共有構造構築部
３３  基準関数計算部
【図１】
0003964722.tif 000012
【図２】
0003964722.tif 000013
【図３】
0003964722.tif 000014
【図４】
0003964722.tif 000015