(57)【特許請求の範囲】
【請求項１】
先行音素と後続音素の音素決定木による音声認識単位の決定方法において、
混合連続分布ＨＭＭ（ＨＭＭは隠れマルコフモデル）を対象としてクラスタリングによりノード分割を行い、共有化を行う末端ノードに対して新しい混合連続分布ＨＭＭを出力することを特徴とする音響モデル学習方法。
【請求項２】
請求項１記載の音響モデル学習方法において、
前記ノード分割は、音素決定木を選ぶ過程で各ノードに含まれる混合連続分布をクラスタリングして、情報量が最も向上する音素決定木を選び、その音素決定木により行われるものであることを特徴とする音響モデル学習方法。
【請求項３】
請求項１記載の音響モデル学習方法において、
前記ノード分割は、音素決定木を選ぶ過程で各ノードに含まれる混合連続分布を離散値と見なし、Ｋ−ｍｅａｎｓ法（ケイ−ミーンズ法）によりクラスタリングして、情報量が最も向上する音素決定木を選び、その音素決定木により行われるものであることを特徴とする音響モデル学習方法。
【請求項４】
請求項１乃至請求項３のいずれかに記載の音響モデル学習方法において、
前記新しい混合連続分布ＨＭＭは、共有化を行う末端ノードに対して、クラスタリングの結果求められるものであり、
クラスタリング後の共有するＨＭＭの集合を代表する出力連続分布として、全分布の平均値と分散値を結合したものからなることを特徴とする音響モデル学習方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は音響モデル学習方法に関し、特に、前後音素環境を考慮したトライフォンの音素決定木により音声認識単位を決定する方法に関する。
【０００２】
【従来の技術】
現在、音声認識に用いられる音響モデルの主流はトライフォンである。トライフォンは、先行音素と中心音素と後続音素との３音素連鎖により定義され、学習データから学習によって作成される。先行音素と後続音素が中心の音素に対するる前後音素環境をなす。
【０００３】
しかし、音素は４０種類程度あるため、トライフォン（３音素連鎖）の総異音数は数万個のオーダーに達する。また、トライフォンが学習データに出現しなかったり、出現してもその数が極めて少ないことがある。
【０００４】
上述した膨大な総異音数と、学習データに未出現や数が少ない３音素連鎖の存在のため、従来、図３に示すように、音素決定木による音声認識単位の決定手法によって、ＨＭＭ（隠れマルコフモデル）の共有化を行い、パラメータを削減することが行われている。
【０００５】
図３において、従来は、学習データから共有されていないトライフォン各状態（ＨＭＭ）の単一連続分布を学習により作成する。ステップＳ１１参照。
【０００６】
次に、共有化を許容するトライフォン各状態（ＨＭＭ）の集合（以下、ノードと呼ぶ）、つまり、中心音素が共通のＨＭＭのノードを作成する。ステップＳ１２参照。
【０００７】
次に、各ノードについて、予め設定した前後音素環境に関する複数の決定木のうち、基準となる情報量が分割前に比べて分割後に最も向上する決定木によって、ノードの分割を行う（ステップＳ１３〜Ｓ１６参照）。以下に、ノードの分割と、基準となる情報量の計算方法を説明する。
【０００８】
ノードの分割について説明する。前述のように、トライフォンは先行音素と中心音素と後続音素との３音素連鎖により定義され、ノード（トライフォンの集合）に対して音素決定木は例えば下記（１）  〜（３）  に例示するように定義される。各音素決定木により１つのノードを２つのノードに分割する。
（１）  先行音素が母音（ａ、ｉ、ｕ、ｅ、ｏ）で、後続音素は問わない。
（２）  先行音素が鼻音（ｎ、ｍ、ＮＮ）で、後続音素は問わない。
（３）  後続音素が破裂音（ｐ、ｔ、ｋ）で、先行音素は問わない。
【０００９】
基準となる情報量の計算方法について説明する。或るノードに含まれる複数のトライフォンをそれぞれ表現するパラメータから、当該ノードを代表するパラメータを求め、この代表パラメータにより、基準となる情報量を計算する。一般的には、ノードに含まれる各トライフォンを表現する連続分布から、ノード全体を表現する連続分布を求め、基準となる情報量として、学習データに対するノード全体を表現する連続分布の尤度を利用する。
【００１０】
分割後の全末端ノードに対しても、同様の分割手法で基準となる情報量が最も向上する音素決定木を選び、選んだ音素決定木によりノード分割を行う。この操作を、分割後の基準となる情報量が予め設定した閾値を超えるまで順次繰り返す（ステップＳ１７からステップＳ１３へのループ参照）。
【００１１】
全ての分割後の末端ノードにおいて基準となる情報量が閾値を超えたら、ノードの分割を停止する（ステップＳ１８参照）。
【００１２】
以上により、同じ末端ノードに属する複数のトライフォンは、１つのＨＭＭを共有することになる。このとき、共有するＨＭＭとして、一般的には、末端ノードに含まれる各トライフォンをそれぞれ構成する複数の単一連続分布のうち、１つの単一連続分布を選択して出力する。つまり、１つの単一連続分布で共有するＨＭＭを代表する。ステップＳ１９参照。
【００１３】
図４を参照すれば、従来は、共有するＨＭＭとしては、ノード１１に含まれる各トライフォン１２ａ〜１２ｎをそれぞれ構成する複数の単一連続分布１３ａ〜１３ｎのうち、いずれか１つの単一連続分布１３ｉを選択して出力する。
【００１４】
【発明が解決しようとする課題】
しかし、上述した手法は、従来、単一連続分布ＨＭＭに対して行われており、認識性能が高い混合連続分布ＨＭＭに対して音素決定木による音声認識単位の決定手法は適用されていないという第１の課題がある。
【００１５】
また、上述した従来手法では、共有するＨＭＭはノードを構成する分布の１つを選択しているため、共有する全音素環境の音響特性を表現できていないという第２の課題がある。
【００１６】
そこで、本発明の目的は、上記２つの課題を解決することにある。
【００１７】
【課題を解決するための手段】
請求項１に係る発明は、上記第１の課題を解決する音響モデル学習方法であり、先行音素と後続音素の音素決定木による音声認識単位の決定方法において、混合連続分布ＨＭＭを対象としてクラスタリングによりノード分割を行い、共有化を行う末端ノードに対して新しい混合連続分布ＨＭＭを出力することを特徴とする。請求項２に係る発明も、上記第１の課題を解決する音響モデル学習方法であり、先行音素と後続音素の音素決定木による音声認識単位の決定方法において、混合連続分布ＨＭＭを対象として、音素決定木を選ぶ過程で各ノードに含まれる混合連続分布をクラスタリングして、情報量が最も向上する音素決定木を選び、その音素決定木によりノード分割を行った後、共有化を行う末端ノードに対して新しい混合連続分布ＨＭＭを出力することを特徴とする。請求項３に係る発明も、上記第１の課題を解決する音響モデル学習方法であり、先行音素と後続音素の音素決定木による音声認識単位の決定方法において、混合連続分布ＨＭＭを対象として、音素決定木を選ぶ過程で各ノードに含まれる混合連続分布を離散値と見なし、Ｋ−ｍｅａｎｓ法（ケイ−ミーンズ法）によりクラスタリングして、情報量が最も向上する音素決定木を選び、その音素決定木によりノード分割を行った後、共有化を行う末端ノードに対して新しい混合連続分布ＨＭＭを出力することを特徴とする。請求項４に係る発明は、上記第１及び第２の課題を解決する音響モデル学習方法であり、先行音素と後続音素の音素決定木による音声認識単位の決定方法において、混合連続分布ＨＭＭを対象としてクラスタリングによりノード分割を行った後、共有化を行う末端ノードに対して、クラスタリングの結果、新しい混合連続分布ＨＭＭが求められるものであり、新しい混合連続分布ＨＭＭは、クラスタリング後の共有するＨＭＭの集合を代表する出力連続分布として、全分布の平均値と分散値を結合したものからなることを特徴とする。
【００１９】
【発明の実施の形態】
図１に本発明の一実施形態例に係る音響モデル学習方法の手順を示す。
【００２０】
図１において、まず、学習データから共有されていないトライフォン各状態（ＨＭＭ）の混合連続分布を学習により作成し、用意する。ステップＳ１参照。
【００２１】
次に、混合連続分布ＨＭＭにより構成される各トライフォンに対して、共有化を許容するＨＭＭのノードを作成する。ステップＳ２参照。
【００２２】
次に、各ノードを、先行音素と後続音素の決定木により、混合連続分布ＨＭＭを対象として、分割する。ステップＳ３〜Ｓ６参照。
【００２３】
ノード分割の際、情報量の計算に用いる混合連続分布ＨＭＭは、情報量が最大になるように構成する。その構成方法の例を以下に述べる。
【００２４】
（１）  図２に示すように、分割後のノードに含まれるトライフォンを構成する全分布を予め定めたクラスタ数にクラスタする。図２において、１はノード、２ａ〜２ｎはノード１に含まれる状態、３ａ〜３ｎは連続分布であり、各状態は複数の連続分布ＨＭＭに対応している。つまり、混合連続分布ＨＭＭとなっている。図示の例では、クラスタ数はクラスタ４ａ〜４ｃの３個である。
【００２５】
（１ａ）クラスタリングには、トップダウン式のＫ−ｍｅａｎｓ法（ケイ・ミーンズ法：離散データのクラスタリング法）、ボトムアップ式のＦｕｒｔｈｅｓｔ  Ｎｅｉｇｈｂｏｒ  法（ファーゼスト・ネイバー法：離散／連続データのクラスタリング法））等を用いる。但し、各クラスタに含まれる連続分布ＨＭＭの数は複数とし、予め下限を設けておく。
【００２６】
（１ｂ）クラスタリング時の入力データとしてはＨＭＭ各状態の学習データ中の出現回数、状態を構成する混合連続分布の分布重み、平均値及び分散が与えられ、また、近似的に各分布の出現回数が計算可能であるため、この分布出現回数を重み付けしてセントロイド計算を行う。
【００２７】
（２）  クラスタリング後、各クラスタ毎に、クラスタに含まれる全分布から新しい混合連続分布を１つ合成して代表分布とする。図２では、連続混合分布５ａ〜５ｃが各クラスタ４ａ〜４ｃ毎に新しく合成した代表分布である。
【００２８】
（２ａ）この合成される分布の平均値は、下記数１に示すように、全分布の平均値を出現回数で重み付け平均して求める。
【００２９】
【数１】
0003547349.tif 000002
【００３０】
（２ｂ）また、合成される分布の分散は、下記数２に示すように、全分布の分散（組内分散）と、分布間の分散（組間分散）と、出現回数から求める。
【００３１】
【数２】
0003547349.tif 000003
【００３２】
（２ｃ）合成される分布の分布重みは、下記数３に示すように、学習データ中の出現回数の割合から求める。
【００３３】
【数３】
0003547349.tif 000004
【００３４】
以上の手順によって求めた連続混合分布を利用して、従来と同様、基準となる情報量を計算して、分割後の基準となる情報量が分割前に比べて最も向上する決定木によって、ノードの分割を行う
【００３５】
分割後の全末端ノードに対しても、同様の分割で基準となる情報量が最も向上する音素決定木を選び、選んだ音素決定木によりノード分割を行う。この操作を、分割後の基準となる情報量が予め設定した閾値を超えるまで順次繰り返す（ステップＳ７からステップＳ３へのループ参照）。
【００３６】
全ての分割後の末端ノードにおいて基準となる情報量が閾値を超えたら、ノードの分割を停止する（ステップＳ８参照）。
【００３７】
以上により、同じ末端ノードに属するトライフォンは、１つのＨＭＭを共有することになる。このとき、共有するＨＭＭとして、共有化を行うノードに対して、前述した手順を利用してこの手順により新しい連続混合分布を合成して求め、この合成した連続混合分布を出力する。ステップＳ９参照。つまり、数１〜数３に基づき当該ノードに含まれる全分布から新しい混合連続分布を１つ合成して出力する。
【００３８】
このように、クラスタリング後の共有するＨＭＭの集合を代表する出力連続分布として、要素となる全分布の平均値と分散値を結合した新しい連続分布を求めることにより、従来は１つの分布を選択するだけのために共有する全音素環境の音響特性を表現できていないという課題を解決できる。つまり、共有する全音素環境の音響特性を表現できる。
【００３９】
また、共有するＨＭＭの集合を代表する出力連続分布として、要素となる全分布の平均値と分散値を結合した連続分布を求めるという手法を、単一連続分布ＨＭＭを対象とした従来方法に適用することにより、単一連続分布ＨＭＭを対象とした場合でも、共有する全音素環境の音響特性を表現できる。
【００４０】
【発明の効果】
以上より、本発明によれば、認識性能が高い混合連続分布ＨＭＭに対して音素決定木による音声認識単位の決定を行うことができる。
【００４１】
また、単一連続分布ＨＭＭを対象としたばあいでも、共有する全音素環境の音響特性を表現することができる。
【図面の簡単な説明】
【図１】本発明の実施形態例に係る音響モデル学習方法の手順を示す図。
【図２】本発明のの実施形態例に係るノードを表現する連続分布構成法を示す図。
【図３】従来の音響モデル学習方法の手順をを示す図。
【図４】従来のノードを表現する連続分布構成法を示す図。
【符号の説明】
１  ノード
２ａ〜２ｎ  状態
３ａ〜３ｎ  連続分布
４ａ〜４ｃ  クラスタ
５ａ〜５ｃ  クラスタ毎に新しく合成した連続混合分布
【図１】
0003547349.tif 000005
【図２】
0003547349.tif 000006
【図３】
0003547349.tif 000007
【図４】
0003547349.tif 000008