(57)【要約】【課題】所望のサイズの音響モデルを、自動的に得ることができる音響モデル自動調整装置を提供する。【解決手段】構造変更前の音響モデルと閾値とが入力され、入力された構造変更前の音響モデルの構造を変更する音響モデル構造変更部と、音響モデル構造変更部で変更した音響モデルのサイズと所望の音響モデルサイズとを比較し、変更した音響モデルのサイズと所望の音響モデルサイズに等しいか、近い値である場合、終了と判定する終了判定部と、音響モデル構造変更部に入力される閾値と、結果として得られる構造変更後の音響モデルサイズと、閾値の下限及び上限の関係から閾値を更新し、閾値の更新により音響モデル構造変更部で音響モデルサイズを変更させ音響モデルサイズを所望の値か又はそれに近い値に自動的に調整する閾値更新部を備える。【選択図】  図３
2006084789.tif 000002
【特許請求の範囲】
【請求項１】
目標とする所望の音響モデルサイズと、構造変更前の音響モデルと、音響モデルサイズの閾値とが入力され、音響モデルの構造を変更する音響モデル構造変更処理と、前記音響モデル構造変更処理時に入力される閾値と、結果として得られる構造変更後の音響モデルサイズと、閾値の下限および上限の関係から、閾値を更新する閾値更新処理とを含み、
前記音響モデル構造変更処理と前記閾値更新処理による閾値更新を繰返し実行することにより、音響モデルのサイズを所望の値か、またはそれに近い値に自動的に調整することを特徴とする音響モデルサイズ自動調整方法。
【請求項２】
請求項１記載の音響モデルサイズ自動調整方法において、前記音響モデル構造変更処理と前記閾値更新処理に伴なう閾値更新を繰返し実行することで得られる構造変更後の音響モデルサイズを記憶する音響モデルサイズ履歴記憶処理と、音響モデルサイズ履歴検査処理とを含み、
前記音響モデルサイズ履歴検査処理は、前記音響モデルサイズ履歴記憶処理で記憶された音響モデルサイズの履歴を見て、前記所望のサイズとは異なるあるサイズの構造変更後の音響モデルが、指定された一定回数以上出現していれば、その時点で正常終了と判定し、前記あるサイズの構造変更後の音響モデルを出力することを特徴とする音響モデルサイズ自動調整方法。
【請求項３】
請求項１又は２記載の何れかに記載の音響モデルサイズ自動調整方法おいて、
前記音響モデル構造変更処理時に入力されている閾値と、結果として得られる構造変更後の音響モデルサイズとの関係から、閾値の下限および上限を更新する閾値下限上限更新処理を含むことを特徴とする音響モデルサイズ自動調整方法。
【請求項４】
請求項１乃至３の何れかに記載の音響モデルサイズ自動調整方法において、
閾値下限上限履歴記憶処理と、閾値下限上限履歴検査処理とを含み、前記閾値下限上限履歴記憶処理は、前記閾値下限上限更新処理で更新される閾値の下限および上限を記憶し、閾値下限上限履歴検査処理においては、前記閾値下限上限履歴記憶処理で記憶された閾値の上限および下限の履歴を見て、閾値の上限または下限が初期値のまま、指定された一定回数の繰り返しの間変化がなければ、その時点で処理を異常終了し、目標とするサイズの指定が不正であることを通知することを特徴とする音響モデルサイズ自動調整方法。
【請求項５】
目標とする所望の音響モデルサイズと、構造変更前の音響モデルと、音響モデルサイズの閾値とが入力され、音響モデルの構造を変更する音響モデル構造変更部と、前記音響モデル構造変更処理部に入力される閾値と、結果として得られる構造変更後の音響モデルサイズと、閾値の下限および上限の関係から、閾値を更新する閾値更新部とを備え、
前記音響モデル構造変更部と前記閾値更新部による閾値更新処理を繰返し実行することにより、音響モデルのサイズを所望の値か、またはそれに近い値に自動的に調整することを特徴とする音響モデルサイズ自動調整装置。
【請求項６】
請求項５記載の音響モデルサイズ自動調整装置において、前記音響モデル構造変更部の音響モデル構造変更処理と前記閾値更新部の閾値更新処理を繰返し実行することで得られる構造変更後の音響モデルサイズを記憶する音響モデルサイズ履歴記憶部と、音響モデルサイズ履歴検査部とを備え、
前記音響モデルサイズ履歴検査部は、前記音響モデルサイズ履歴記憶部で記憶された音響モデルサイズの履歴を見て、前記所望のサイズとは異なるあるサイズの構造変更後の音響モデルが、指定された一定回数以上出現していれば、その時点で正常終了と判定し、前記あるサイズの構造変更後の音響モデルを出力することを特徴とする音響モデルサイズ自動調整装置。
【請求項７】
請求項５又は６の何れかに記載の音響モデルサイズ自動調整装置おいて、
前記音響モデル構造変更部に入力されている閾値と、結果として得られる構造変更後の音響モデルサイズとの関係から、閾値の下限および上限を更新する閾値下限上限更新部を備えることを特徴とする音響モデルサイズ自動調整装置。
【請求項８】
請求項５乃至７記載の何れかに記載の音響モデルサイズ自動調整装置において、
閾値下限上限履歴記憶部と、閾値下限上限履歴検査部とを備え、前記閾値下限上限履歴記憶部は、前記閾値下限上限更新部で更新される閾値の下限および上限を記憶し、前記閾値下限上限履歴検査部は、前記閾値下限上限履歴記憶部で記憶された閾値の上限および下限の履歴を見て、閾値の上限または下限が初期値のまま、指定された一定回数の繰り返しの間変化がなければ、その時点で処理を異常終了し、目標とするサイズの指定が不正であることを通知することを特徴とする音響モデルサイズ自動調整装置。
【請求項９】
コンピュータが解読可能なプログラム言語によって記述され、コンピュータに前記請求項５乃至８の何れかに記載の音響モデルサイズ自動調整装置として機能させる音響モデルサイズ自動調整プログラム。
【請求項１０】
コンピュータが読み取り可能な記録媒体によって構成され、この記録媒体に請求項９記載の音響モデルサイズ自動調整プログラムを記録した記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声認識装置における音響モデルの学習に関する発明であり、音響モデルを所望のサイズに自動的に調整することができる音響モデルサイズ自動調整方法、音響モデルサイズ自動調整装置、音響モデルサイズ自動調整プログラム及びこれを記録した記録媒体に関する。
【背景技術】
【０００２】
まず、図５を参照して、音声認識装置について説明する。
この図において、入力音声３３１は、音声分析部３３２において特徴ベクトル３３３の時系列に変換され、探索処理部３３５に入力される。探索処理部３３５においては、音響モデル３３４を用いて、文法３３６で表現される単語（列）と特徴ベクトル３３３の時系列との照合が行われ（探索処理）、最も尤度が高い単語（列）が認識結果３３７として出力される。
音声分析部３３２における音声分析方法としてよく用いられるのは、ケプストラム分析であり、特徴量としては、ＭＦＣＣ（Mel Frequency Cepstral Coefficient），ΔＭＦＣＣ，ΔΔＭＦＣＣ，対数パワー、Δ対数パワーなどがあり、それらが、１０〜１００次元程度の特徴量ベクトルを構成する。分析フレーム幅３０ｍｓ程度、分析フレームシフト幅１０ｍｓ程度で分析が実行される。
【０００３】
音響モデル３３４は、前記ＭＦＣＣなどの音声の特徴量を適切なカテゴリで標準パターンとして保持したものであり、入力音声のある区間の特徴量に対して、各標準パターンとの音響的な近さを尤度として計算し、それがどのカテゴリに属するかを推定する。
現在、音響モデル３３４としては、確率・統計理論に基づいてモデル化された隠れマルコフモデル（Hidden Markov Model，略してＨＭＭ）が汎用される。通常、ＨＭＭは音素カテゴリ単位で作成され、音素ＨＭＭの集合としてひとつの音響モデルが構築される。
音素ＨＭＭの種類としては、当該音素に先行および後続する音素の両方を音素環境として考慮しないmonophone-ＨＭＭ（例えば、*−ａ＋*は、音素ａのmonophone-ＨＭＭ．*は任意の音素を表す）、当該音素に先行する音素のみ音素環境として考慮する先行音素環境依存biphone-ＨＭＭ（例えば、ｐ−ａ＋*は、先行音素がｐである音素ａの先行音素環境依存biphone-ＨＭＭ）、当該音素に後続する音素のみ音素環境として考慮する後続音素環境依存biphone-ＨＭＭ（例えば、*−ａ＋ｔは、後続音素がｔである音素ａの後続音素環境依存biphone-ＨＭＭ）、当該音素に先行および後続する音素の両方を音素環境として考慮するtriphone-ＨＭＭ（例えば、ｐ−ａ＋ｔは、先行音素がｐ、後続音素がｔである音素ａのtriphone-ＨＭＭ）が最もよく用いられる。
【０００４】
また、音素ＨＭＭが表現する音素カテゴリの種類については、音響モデルの学習データに依存するが、例えば、ｔ−ｔ＋ｔなど、日本語の音素連鎖としてあり得ないものは含まれないため、一般的には、数千〜数万程度になる。
音響モデル３３４の構造について図面を用いて説明する。
まず、図６のように、状態Ｓが混合正規分布Ｍとして表現される。混合正規分布の各要素分布としては、離散確率分布と連続確率分布があるが、現在、最もよく用いられているのは、連続確率分布のひとつである多次元正規（ガウス）分布であり、そのうちでも次元間の相関がない（共分散行列の対角成分が０である）多次元無相関正規分布が最もよく用いられる。多次元正規分布の各次元は、上記特徴量ベクトルの各次元に対応する。図６では、状態Ｓが４つの多次元正規分布を要素分布とする多次元混合正規分布Ｍとして表現されている。図６では、特徴量ベクトルのある次元ｉについて示しているが、上記特徴量ベクトルの各次元について同様に表現される。
【０００５】
図６のような状態の数個〜十数個程度の確率連鎖によって、音素ＨＭＭが構築される。音素ＨＭＭが、いくつの状態のどのような確率連鎖によって構築されるかに関しては、様々なバリエーションがある。また、音素ＨＭＭごとに異なる構造をとることもある。現在、最も一般的に用いられている構造は、例えば、図７に示す音素ＨＭＭのような３状態のleft-to-right型ＨＭＭと呼ばれるもので、３つの状態Ｓ１（第１状態）、Ｓ２（第２状態）、Ｓ３（第３状態）を左から右に並べたものであり、状態の確率連鎖（状態遷移）としては、自分自身への遷移（自己遷移）Ｓ１−＞Ｓ１， Ｓ２−＞Ｓ２， Ｓ３−＞Ｓ３と次状態への遷移Ｓ１−＞Ｓ２， Ｓ２−＞Ｓ３からなる。音響モデル中の全ての音素ＨＭＭがこの３状態left-to-right型ＨＭＭの構造をとることが多い。
【０００６】
音素ＨＭＭを用いた尤度計算について説明する。
図７の音素ＨＭＭに、ある特徴ベクトルの時系列が入力されたときの尤度計算について
解説する。例えば、６フレーム分の特徴量ベクトルの時系列Ｘ＝Ｘ１，Ｘ２，Ｘ３，Ｘ４，Ｘ５，Ｘ６が、音素ＨＭＭ１のあるひとつの状態遷移系列Ｓ＝Ｓ１−＞Ｓ１−＞Ｓ２−＞Ｓ２−＞Ｓ３−＞Ｓ３から出力される
確率（尤度）Ｐ（Ｘ｜Ｓ，ＨＭＭ）は、以下のように計算される。
【数１】
2006084789.tif 000003
【０００７】
ここで、ａｊｋは、状態Ｓｊから状態Ｓｋへの遷移確率である。また、ｂｊ（Ｘｔ）は、時刻ｔ（ｔ番目のフレーム）における特徴ベクトルＸｔが状態Ｓｊを表現する混合正規分布Ｍｊから出力される確率であり、混合正規分布Ｍｊを構成するｍ番目の正規分布の出力確率Ｐｊｍ（Ｘｔ）を用いて以下ように計算される。
【数２】
2006084789.tif 000004
【０００８】
ここで、Ｍｊは混合正規分布Ｍｊを構成する正規分布の数（混合数）、Ｗｊｍは混合正規分布Ｍｊを構成するｍ番目の正規分布の分布重みである。Ｗｊｍについては以下が満たされる。
【数３】
2006084789.tif 000005
【０００９】
また、混合正規分布Ｍｊを構成する正規分布が多次元無相関正規分布の場合、Ｐｊｍ（Ｘｔ）は以下のように計算される。
【数４】
2006084789.tif 000006
【００１０】
ここで、μｊｍｉ、σｊｍｉ２は混合正規分布Ｍｊを構成するｍ番目の多次元無相関正規分布の次元iにおける平均値、分散である。Ｘｔｉは、特徴ベクトルＸｔの次元iの値である。Iは特徴ベクトル（多次元無相関正規分布）の次元数である。
上記の尤度計算は、あるひとつの状態遷移系列Ｓに対するものであるが、このような状態遷移系列は他にもあげることができる。このような状態遷移系列全てに対して、特徴ベクトルの時系列Ｘを出力する確率を計算し、それらを加算したものを音素ＨＭＭに特徴ベクトルの時系列Ｘが入力されたときの尤度とする方法はトレリス（trellis）アルゴリズムと呼ばれる。一方、全ての状態遷移系列のなかで最も高い尤度を与える状態遷移系列を特徴ベクトルの時系列によりフレーム単位で逐次的に求め、最終フレームに到達したときの尤度を音素ＨＭＭに特徴ベクトルの時系列Ｘが入力されたときの尤度とする方法をビタービ（Viterbi）アルゴリズムという。一般的には、トレリスアルゴリズムと比較して計算量を大幅に削減できるビタービアルゴリズムが用いられることが多い。
【００１１】
また、上記の尤度計算は、あるひとつの音素ＨＭＭに対するものであるが、実際には、探索処理部３３５において、探索処理を行う前に、音素ＨＭＭを連結して文法３３６で表現される単語（列）のＨＭＭのネットワーク（探索ネットワーク）が作成し、そして、入力音声の特徴ベクトル３３３の時系列と探索ネットワークで表現される単語（列）との照合が行われ（探索処理）、最も尤度が高い単語（列）が認識結果３３７として出力される。
また、上記の尤度計算では、確率値をそのまま扱ったが、実際には、アンダーフローを防ぐために、確率値の対数をとって計算を行う。
【００１２】
また、音響モデル３３４の各種パラメータ（状態遷移確率ａｊｋ、分布重みＷｊｍ、正規分布の各次元の平均μｊｍｉおよび分散σｊｍｉ２）の推定アルゴリズムとしては、バウム−ウェルチ（Baum-Welch）アルゴリズムが最もよく用いられる。また、ひとつの音響モデルの学習（パラメータ推定）には、数十〜数千時間という大量の学習データ（音声データとその発声内容ラベル）が用いられる。
前記のように、音響モデルの各種パラメータは、大量の学習データを用いて推定される。しかし、各音素ＨＭＭの出現頻度には大きな差があり、中には大量の学習データ中でもほんの数回しか出現しないものもある。この“学習データのスパースネス（sparseness）の問題”を解決するために、学習データをさらに拡大したとしても、元々低頻度である音素ＨＭＭが大量に出現することは期待できない。逆に、学習データを拡大することにより、今までになかった音素環境の低頻度音素ＨＭＭが新たに出現する可能性がある。このように、いくら大量の学習データを用いても、数千〜数万種類もある各音素ＨＭＭのパラメータ（状態遷移確率ａｊｋ、分布重みＷｊｍ、正規分布の各次元の平均μｊｍｉおよび分散σｊｍｉ２）を、統計的に十分信頼できる精度で推定するのは、現実的には不可能である。
【００１３】
この学習データのスパースネスの問題を解決する方法として、音素ＨＭＭの状態共有法が広く用いられている。図８を用いて、状態共有法の代表的な一例であるTree-basedClusteringについて説明する。一般的に、音響モデルの学習は、１混合モデル（各音素モデル各状態における混合分布数が１の音響モデル）の学習、２混合モデルの学習、３混合モデルの学習と、段階的に混合数を増加させながら行われる。Tree-based Clusteringは、１混合の“状態共有されていない”モデルに対して実行される。なお、ここでは、全ての音素ＨＭＭの構造が、図７に示すような３状態のleft-to-right型であり、各状態には学習で割り当てられたデータフレーム数（期待値）が記憶されているものとする。
【００１４】
まず、中心音素が同じ状態共有前音素モデルが集められる。図８では、中心音素がａのtriphoneのみを集めてこれらの間で状態共有を行うことを想定しているが、中心音素がａのmonophoneやbiphoneについても同時に集めて、triphone, biphone, monophone間で状態共有を行うことなども可能である。
次に、集められた中心音素がａである５つのtriphoneの第１状態のみ（状態ＩＤ＝１,４，７，１０，１３）をノード０に集める。状態あたりの分布数が１であるので、第１状態に所属する分布を集めることに相当する。次に、あらかじめ準備されている「先行音素が母音である」等の音素環境に関する質問（質問数は、数十〜１００程度）をひとつずつノード０にある５状態に与え、各状態が与えられた質問に対しＹｅｓまたはＮｏと答える形でノード０（ノード０にある５状態）をノード１（質問に対しＹｅｓと答えた状態を集めたノード）およびノード２（質問に対しＮｏと答えた状態を集めたノード）に２分割する。この処理で、ノード０を２分割するのに最も適した質問を決めるが、その尺度としては、ノード分割前後のノード代表分布の尤度差分を用いる。
【００１５】
ノード代表分布とは、ノードにある分布を統合したものであり、例えば、ノード０（ｎ０）の代表分布の次元ｉにおける平均μｎ０ｉ、分散σｎ０ｉ２、学習データフレーム数の期待値Γｎ０は、ノード０に所属する分布の次元ｉにおける平均μｋｉ、分散σｋｉ２、学習データフレーム数Γｋ（ｋ＝１，４，７，１０，１３，状態ＩＤに対応）を用いて以下のように得られる。
【数５】
2006084789.tif 000007
【００１６】
ノード０の尤度Ｌｎ０（期待値）は、下記のように得られる。
【数６】
2006084789.tif 000008
【００１７】
ノード０をノード１（ｎ１）および２（ｎ２）に２分割したときの尤度差分ΔＬ（ｎ０→ｎ１，ｎ２）は、下記のように得られる。
【数７】
2006084789.tif 000009
【００１８】
全ての質問に対してノード０の分割を試し、（９）式で得られる尤度差分ΔＬ（ｎ０→ｎ１，ｎ２）が最も大きいものを、ノード０を分割するのに最適な質問とする。図８では、最適な質問として「先行音素が母音である」が選ばれ、この質問にＹｅｓと答える２状態（状態ＩＤ＝１，４）を集めてノード１が形成され、Ｎｏと答える３状態（状態ＩＤ＝７，１０，１３）を集めてノード２が形成される。このようなノード分割を繰り返し実行することで、ノードの２分木が構築されるが、これは全ノードにある状態数が１になり、それ以上分割できなくなるまで行われる訳でなく、適当な段階でノード分割を停止する基準が導入される。
【００１９】
具体的には、（９）式で表される尤度差分に関する閾値と、（７）式で表されるノードの学習データフレーム数に関する閾値を用いる。尤度差分に関する閾値は、最適な質問によるノード分割による尤度差分がそれ以上であるか否かを判定するものであり、閾値以上であればノード分割を行い、閾値以下であればノード分割は行わない（ノード分割を停止）。ノードの学習データフレーム数に関する閾値は、あるノードを分割して得られる新たな２ノードの学習データフレーム数がそれ以上か否かであるかを判定するものであり、閾値以上であればノード分割を行い、閾値以下であればノード分割は行わない（ノード分割を停止）。
【００２０】
例えば、ノード０においては、最適な質問として「先行音素が母音である」が選ばれ、これによりノード１および２に２分割されるが、このときの尤度差分ΔＬ（ｎ０→ｎ１，ｎ２）は、２２５０．５＋２１０１．３−３２１０．８＝１１４１．０ となり、これは閾値の７５０．０よりも大きく、ノード分割の条件を満たしている。同時に、分割後のノード１および２の学習データフレーム数は、３９５．９、４１５．９であり、これらは学習データフレーム数の閾値１５０．０よりも大きく、ノード分割の条件を満たしている。
このように、ノード０からノード１および２への分割は、その二つの閾値基準を満たすために成立する。ノード１の分割においては（ノード１には状態は二つしかないため、質問を与えずとも、その分割方法は一通りしかない）、学習データフレーム数の閾値基準は満たされるが（分割後の二つのノードの学習データフレーム数は、それぞれ２０２．５、１９３．４で、両者とも閾値の１５０．０よりも大きい）、尤度差分の閾値基準を満たさないため（１３４８．７＋１１５１．８−２２５０．５＝２５０．０＜７５０．０（閾値））、ノード分割は実行されない。ノード３の分割においては（ノード３もノード１と同様、状態は二つしかないため、質問を与えずとも、その分割方法は一通りしかない）、尤度差分の閾値基準は満たすが（９５６．３＋８３２．０−１４８８．３＝８０３．１＞７５０．０（閾値））、学習データフレーム数の閾値基準は満たさないため（分割後の二つのノードの学習データフレーム数はそれぞれ１６３．０、７２．１であり、一方は閾値の１５０．０よりも大きいが、もう一方は小さい）、ノード分割は実行されない。
【００２１】
このように、全てのノードがそれ以上分割できなくなるまでノード分割処理を行った結果、葉ノード（リーフノード、最下層のノード）として、ノード１、３、４が得られる。これらの各ノードにおいて、（５）、（６）、（７）式に従って、ノードにある状態（分布）を全て統合し、新たにノードを代表する状態（分布）を作成する。ノード１においては、状態１と状態４を統合して状態１６を、ノード３においては、状態１０と状態１３を統合して状態１７を作成する。ノード４においては、もともと状態が一つしかないため（状態７）、統合処理は必要ない。
【００２２】
以上の処理によって、状態数を５（ＩＤ＝１，４，７，１０，１３）から３（１６，１７，７）に減らすことができる。同様のノード二分木の構築処理を、第２状態の集合（ＩＤ＝２，５，８，１１，１４）、第３状態の集合（ＩＤ＝３，６，９，１２，１５）に対して行うことで、状態共有後の音素ＨＭＭを得ることができる。図８の場合、もともとの１５状態から８状態にまで状態数を減らすことができたことを示している。
このように、状態数を減らすことによって、その後の学習において、各音素ＨＭＭの各状態に与えられる学習データ数の数を増加させることができ、パラメータの頑健な推定が可能となる。学習データフレーム数の閾値および尤度差分の閾値を調整することにより、共有後の状態数を調整することができる。上記の説明から明らかなように、閾値を大きく設定するほど、ノード分割は進まないため、状態数の少ない音響モデルを得ることができ、逆に閾値を小さく設定するほど、ノード分割が進むため、状態数の多い音響モデルを得ることができる。
【００２３】
すなわち、閾値はペナルティとして働くことになる。一般に、共有の度合いを強く、状態数を少なくするほど、状態あたりの学習データ数が増えるため頑健なパラメータ推定が可能になるが、音素ＨＭＭ間の違いが明確でなくなるため、入力音声の音素カテゴリへの識別能力が落ちる可能性がある。逆に、共有の度合いを弱く、状態数を多くするほど、音素ＨＭＭ間の違いを明確に表現できるが、状態あたりの学習データが少なくなるため、頑健なパラメータ推定が困難となる。共有後の状態数をどのように設定するかは、学習データ量、音素モデルの種類数、アプリケーションなどを考慮して決める。
【００２４】
また、Tree-based Clusteringにおける学習データフレーム数閾値と尤度差分閾値は、分布木ごとに設定してもよいが、それぞれどのような値を設定するかを決めるのは困難であるので、全分布木で共通とすることが多い。また、学習データフレーム数閾値と尤度差分閾値は、独立に設定してもよいが、組み合わせの数が多くなる。そこで、例えば、「尤度差分閾値は、学習データフレーム数閾値の５倍とする」というような制限の下で、状態共有を行っても問題はない。
以上のTree-based Clusteringについては、非特許文献１に開示されている。
【００２５】
また、上記の状態共有は、閾値により音響モデルの構造を変えて状態数を調整することで、モデルサイズを調整する方法であったが、閾値により音響モデルが持つ分布数を調整することにより、モデルサイズを調整する方法もある。例えば、非特許文献２では、音響モデルの各状態が同一の要素分布数を持つのは無駄であると考え、各状態に必要な数の分布のみ残し、その他の余分な分布を削除することで（分布数削減）、モデルサイズを調整する方法の一例である。
“モデルサイズ”とは、状態共有を実行する場合は音響モデルの総状態数、分布数削減を実行する場合は音響モデルの総分布数を指すものとして、以降で説明を行う。
【非特許文献１】S.J. Young, J.J. Odell and P.C. Woodland, “Tree-based state tying for high accuracy acoustic modeling,”Proc. Human Language Technology Workshop, pp.307-312, Mar. 1994.
【非特許文献２】篠田浩一、磯健一、“ＭＤＬ基準を用いたＨＭＭサイズの削減”、 日本音響学会２００２年春季研究発表会講演論文集、２−５−３，  ｐｐ．７９−８０
【発明の開示】
【発明が解決しようとする課題】
【００２６】
上記の状態共有法や分布数削減法は、音響モデルの構造を変えることにより、所望のサイズの音響モデルが得られる優れた方法である。しかし、これらの調整を行うには、「閾値と、それにより出来上がったモデルサイズの関係を見て、所望のモデルサイズを得るために再度閾値を調整する」、という操作を繰り返す必要があり、ある程度の音声認識の知識と経験があっても比較的長時間の作業を要する。また、人手により閾値を設定する場合は、例えば、上記のTree-based Clustering における学習データフレーム数閾値として、１５０．１２５８というような非常に細かい調整を行うことは困難で、せいぜい小数点一桁程度を調整する程度しかできない。このため、ある程度は目標のサイズに近いモデルを得ることは可能であるが、目標通り、または目標に非常に近いサイズのモデルをいつも得られるとは限らない。
【００２７】
本発明は、上記の状態共有法や分布数削減法における、人手で比較的長時間の作業を要するという問題点と、いつも目標通り、または、目標に非常に近いサイズのモデルを得られるとは限らないという問題点に鑑みてなされたものであり、人手をかけずに、より目標に近いサイズの音響モデルを得ることができる音響モデルサイズ自動調整装置を提供することを目的とする。
【課題を解決するための手段】
【００２８】
本発明による音響モデルサイズ自動調整装置は、所望の音響モデルサイズを入力とし、構造変更前の音響モデルと閾値を入力として音響モデルの構造を変更する音響モデル構造変更部を備え、前記音響モデル構造変更部に入力される閾値と、結果として得られる構造変更後の音響モデルのサイズと、閾値の下限および上限の関係から、閾値を更新する閾値更新部を備え、前記音響モデル構造変更部による音響モデル構造変更と、前記閾値更新部による閾値更新を繰り返し実行することにより、音響モデルのサイズを所望の値かまたはそれに近い値に自動的に調整することを特徴とする。
【００２９】
本発明による音響モデルサイズ自動調整装置は、音響モデルサイズ履歴記憶部と音響モデルサイズ履歴検査部を備え、音響モデルサイズ履歴記憶部は、前記音響モデル構造変更部による音響モデル構造変更と、前記閾値更新部による閾値更新を繰り返し実行することで得られる構造変更後の音響モデルのサイズを記憶し、音響モデルサイズ履歴検査部は、前記音響モデルサイズ履歴記憶部で記憶された音響モデルサイズの履歴を見て、所望のサイズとは異なるあるサイズの構造変更後音響モデルが指定された一定回数以上出現していれば、その時点で処理を正常終了し、前記あるサイズの構造変更後音響モデルを出力することを特徴とする。
【００３０】
本発明による音響モデルサイズ自動調整装置は、閾値下限上限更新部を備え、前記音響モデル構造変更部に入力される閾値と、結果として得られる構造変更後の音響モデルサイズの関係から、閾値の下限および上限を更新する。
本発明による音響モデルサイズ自動調整装置は、閾値の下限上限履歴記憶部と、閾値下限上限履歴検査部とを備え、前記閾値の下限および上限の初期値として無効な値を設定した場合、
閾値下限上限履歴記憶部において、前記閾値下限上限更新部により更新される閾値の下限および上限を記憶し、閾値下限上限履歴検査部において、前記閾値下限上限履歴記憶部で記憶された閾値の上限および下限の履歴を見て、閾値の上限または下限が初期の無効値のまま指定された一定回数の繰り返しの間変化しなければ、その時点で処理を異常終了し、利用者に対して所望のサイズの指定が不正であることを通知することを特徴とする。
【発明の効果】
【００３１】
本発明によれば、人手をかけることなく、然も人手で調整するよりも高い精度で所望のサイズまたはそれに近いサイズの音響モデルを得ることができる。
【発明を実施するための最良の形態】
【００３２】
本発明による音響モデルサイズ自動調整装置を実現する実施形態としてはコンピュータに本発明による音響モデルサイズ自動調整プログラムをインストールし、コンピュータに音響モデルサイズ自動調整プログラムを解読させて実行させることにより、コンピュータに本発明の音響モデルサイズ自動調整装置として機能させる実施形態が最良の実施形態である。
コンピュータが本発明による音響モデルサイズ自動調整措置として機能する場合、コンピュータは所望の音響モデルサイズを入力とし、構造変更前の音響モデルと閾値を入力として音響モデルの構造を変更する音響モデル構造変更部と、音響モデル構造変更部に入力される閾値と、結果として得られる構造変更後の音響モデルのサイズと、閾値の下限および上限の関係から、閾値を更新する閾値更新部とを備え、音響モデル構造変更部による音響モデル構造変更と、閾値更新部による閾値更新を繰り返し実行する。この動作により「音響モデルのサイズを所望の値か、またはそれに近い値に自動的に調整することができる」とする本発明の作用効果が得られる。
【実施例】
【００３３】
以下、図面を参照して本発明の実施例を説明する。
図１に本発明による音響モデルサイズ自動調整装置１０１の概略の構成を示す。本発明による音響モデルサイズ自動調整装置１０１は、音響モデル構造変更部１０２と、音響モデルサイズの更新動作を終了するか否かを判定する終了判定部１０３と、音響モデルサイズ履歴記憶部１０４と、音響モデルサイズ履歴検査部１０５と、閾値更新部１１０とを備える。閾値更新部１１０は閾値下限上限更新部１１１と、閾値下限上限履歴記憶部１１２と、閾値下限上限履歴検査部１１３と、閾値更新部１１４と、調整回数加算部１１５とによって構成される。
【００３４】
以下に図２乃至図４を用いて各部の動作を詳細に説明する。
図２に、本発明による音響モデルサイズ自動調整装置１０１における入力項目と出力項目の関係を示す。必須の入力項目は、構造変更前音響モデルＭと、所望の音響モデルサイズＳである。その他の入力項目としては、初期閾値t（１）、同一サイズモデル出現回数上限Ａ、閾値下限上限初期値不変回数上限Ｂ、閾値調整乗算係数Ｃ、閾値調整除算係数Ｄがあるが、これらは、必ずしも利用者が装置外から設定する必要はなく、装置にあらかじめ設定されているデフォルト値を用いても問題ない。上記入力項目を基に、音響モデルサイズ自動調整装置１０１により音響モデルサイズの調整を行う。正常終了であれば、所望のサイズＳの構造変更後音響モデルＭ−１かまたはそれに近いサイズＳ（ｔ）の構造変更後音響モデルＭ−２を得ることができる。異常終了の場合は、利用者に対して、所望のサイズの設定が不正であることを通知する。
【００３５】
図３及び図４に、本発明による音響モデルサイズ自動調整装置１０１における処理の流れの詳細を示す。本装置１０１は、構造変更前音響モデルＭと、所望の音響モデルサイズＳを、利用者からの入力として受け取る。図２で示したように、その他の入力項目として、初期閾値t（１）、同一サイズモデル出現回数上限Ａ、閾値下限上限初期値不変回数上限Ｂ、閾値調整乗算係数Ｃ、閾値調整除算係数Ｄを受け取ることもあるが、ここでは、これらについては、装置にあらかじめ設定されているデフォルト値を用いることとする。
まず、構造変更前音響モデルＭと、装置にデフォルトで設定されている初期閾値t（１）
（ここでは閾値はひとつであるものとする。例えば、状態共有には二つの閾値があるが、尤度差分閾値は学習データフレーム数閾値の５倍とし、学習データフレーム数閾値のみで考えることとする。装置における初期閾値のデフォルト値は、不正な値でなければ問題ない。例えば、学習データフレーム数閾値は、正の値を取るので、１００．０などとしておけばよい。）を前記の状態共有法や分布数削減法を行う装置に相当する音響モデル構造変更処理ステップ２１２に与え、この音響モデル構造変更処理ステップ２１２で構造変更後音響モデルを得る。終了判定ステップ２１４において、構造変更後音響モデルのサイズｓ（ｋ）が、所望の音響モデルサイズＳに等しければ、その時点で、処理を正常終了し、所望のサイズＳの構造変更後音響モデルＭ−１として出力する（図４に示すステップ２０９）。音響モデルサイズが所望値Ｓに等しくなければ、音響モデルサイズ履歴記憶処理ステップ２１５において、構造変更後音響モデルのサイズｓ（ｋ）を記憶する。
【００３６】
続いて、音響モデルサイズ履歴検査処理ステップ２１６において、音響モデルサイズ履歴記憶処理ステップ２１５に記憶されている構造変更後音響モデルサイズｓ（ｋ）の履歴を見て、同じサイズの音響モデルがステップ２０５（図４）で設定したある回数Ａ（＝同一サイズモデル出現回数上限）回以上出現していれば（Ａは、１以上の整数で、装置が持つＡのデフォルト値としては、例えば１０）、これ以上閾値を細かく調整しても所望のサイズＳの音響モデルは得られないと判定し、ここで処理を正常終了し、サイズｓ（ｋ）の構造変更後音響モデルを所望のサイズＳに近い構造変更後音響モデルＭ−２として出力する（図４に示すステップ２１０）。
【００３７】
同じサイズの構造変更後音響モデル２１３がＡ回以上出現していなければ、閾値下限上限更新処理ステップ２１８に進み、構造変更後音響モデル２１３のサイズ（ｓ（ｋ））が、所望の音響モデルサイズＳよりも大きい場合は、閾値下限（Ｌ（ｋ））に現在の閾値（ｔ（ｋ））を代入し、閾値上限（ｕ（ｋ））には、ひとつ前の閾値上限（ｕ（ｋ−１））を代入する。逆に、構造変更後音響モデル２１３のサイズ（ｓ（ｋ））が、所望の音響モデルサイズＳよりも小さい場合は、閾値下限（Ｌ（ｋ））には、ひとつ前の閾値下限（ｕ（ｋ−１））を閾値上限（ｕ（ｋ））に現在の閾値（ｔ（ｋ））を代入する。
【００３８】
この閾値上限下限更新処理ステップ２１８での操作により、閾値の取りうる値の範囲が徐々に狭められていく。なお、閾値下限上限は、ステップ２１７（図４）で設定した無効な値（Ｌ（０）、ｕ（０））で初期化しておく（無効な値としては、例えば、Ｌ（０）＝ｕ（０）＝−∞）。次に、閾値上限下限履歴記憶処理ステップ２１９で、閾値下限上限更新処理ステップ２１８で更新された閾値下限・上限を記憶する。
次に、閾値下限上限履歴検査処理ステップ２２０で、前記、閾値下限上限履歴記憶処理ステップ２１９で記憶された閾値下限・上限の履歴を見て、そのいずれかが初回（k＝１）から図４に示した閾値下限上限初期値不変回数設定ステップ２０６で設定したＢ回目まで変化せず（Ｂは、１以上の整数で、装置が持つＢのデフォルト値としては、例えば１０）、初期の無効値のまま変化していなければ、利用者の所望の音響モデルサイズＳの指定が不正であるために異常終了し、利用者にそのことを通知する（ステップ２１１）。閾値下限Ｌ（ｋ）が無効値のままである場合は、所望の音響モデルサイズＳの指定が不正に小さすぎることを意味し（例えば、状態共有の場合、状態数の下限値は、状態共有され得る可能性のある状態が全て共有された場合の状態数である。利用者による所望の音響モデルサイズＳの指定がこの下限値よりも小さい場合は、不正な指定である）、
閾値上限ｕ（ｋ）が無効値のままである場合は、所望の音響モデルサイズＳが不正に大きすぎることを意味する（例えば、状態共有において、構造変更前音響モデルＭの状態数が１００００の場合に、所望の音響モデルサイズＳとして、１２０００を指定する場合など）。異常終了した場合は、このような内容のメッセージを出力し、利用者に所望の音響モデルサイズＳを見直すよう促す。
【００３９】
異常終了しなかった場合は、閾値更新処理ステップ２２１に進む。ここでは、閾値下限と閾値上限のいずれかが無効値である場合と、両方有効である（無効値でない）場合で処理が分かれる。
まず、閾値下限と閾値上限のいずれかが無効値である場合であるが、構造変更後音響モデル２１３のサイズ（ｓ（ｋ））が所望のサイズＳよりも大きければ、閾値上限が初期の無効値（ｕ（０））のままであるため、次回の閾値（ｔ（ｋ＋１））として、現在の閾値（ｔ（ｋ））をステップ２０７で設定した閾値調整乗算係数Ｃ倍（Ｃは、１．０より大きい実数で、装置が持つＣのデフォルト値としては、例えば１０．０）した値を代入し、逆に、構造変更後音響モデル２１３のサイズ（ｓ（ｋ））が所望のＳよりも小さければ、閾値下限が初期の無効値（Ｌ（０））のままであるため、次回の閾値（ｔ（ｋ＋１））として、現在の閾値（ｔ（ｋ））をＤ（＝閾値調整除算係数２０８）分の１（Ｄは、１．０より大きい実数である。装置が持つＤのデフォルト値としては、例えば１０．０）した値を代入する。一方、閾値下限・上限のいずれもが有効な値であれば、次回の閾値（ｔ（ｋ＋１））として、それらの中間の値（（Ｌ（ｋ）＋ｕ（ｋ））／２）を代入する。最後に、調整回数加算処理ステップ２２２において、調整回数を加算し（ｋ ←ｋ＋１）、次の調整へと進む。
【００４０】
以上の流れのように、閾値の上限と下限を自動的に徐々に狭めることにより、閾値の精度を上げ、音響モデルを所望のサイズに徐々に近づけていくことができる。また、閾値の調整の細かさは、計算機の浮動小数点の精度に制限されるのみであり、人手で調整を行うよりも、所望のサイズＳに近い構造変更後音響モデルを得ることができる。
なお、上記の説明では、初期閾値t（１）、同一サイズモデル出現回数上限Ａ、閾値下限上限初期値不変回数上限Ｂ、閾値調整乗算係数Ｃ、閾値調整除算係数Ｄについては、装置のデフォルト値を使用するものとしたが、利用者が与えることも可能である。初期閾値t（１）については、例えば、所望のサイズＳの音響モデルを得るための閾値がある程度予想できれば、その付近の閾値を与えることで、より少ない調整回数で処理を済ませることが可能である。
【００４１】
同一サイズモデル出現回数上限Ａについては、値を大きく設定するほど、繰り返しの回数が増える、すなわち、閾値の調整を細かく行うことになるので、所望のサイズＳの音響モデルを得られる確率を高めることができる。閾値下限上限初期値不変回数上限Ｂについては、値を大きく設定するほど、繰り返しの回数が増える、すなわち、利用者の所望のサイズＳの指定が正しいものとして処理を繰り返すため、もし、指定が不正だった場合に、そのことを利用者に教えるタイミングは遅くなる。しかし、逆にＢを小さくし過ぎると、利用者の所望のサイズＳの指定が正しいにも関わらず、不正であるとのメッセージを出力する危険性がある。閾値調整乗算係数Ｃ、閾値調整除算係数Ｄについては、これらの値を大きくするほど、閾値下限Ｌ（ｋ）と閾値上限ｕ（ｋ）の有効化を早めることができるが、逆に、有効化後の閾値調整により多くの回数を必要とする可能性がある。以上のように、初期閾値t（１）、同一サイズモデル出現回数上限Ａ、閾値下限上限初期値不変回数上限Ｂ、閾値調整乗算係数Ｃ、閾値調整除算係数Ｄに対し、利用者がその意味を考えて値を設定することも可能であるが、ほとんどの場合は、例えば、上記したような、装置のデフォルト値を用いれば問題ない（例えば、t（１）＝１００．０， Ａ＝１０， Ｂ＝１０， Ｃ＝１０．０， Ｄ＝１０．０など、それぞれ不正な値でなければよい）。
【００４２】
以上説明した本発明による音響モデルサイズ自動調整装置はハードウェアによって構成することも可能であるが、それよりもむしろコンピュータに本発明で提案する音響モデルサイズ自動調整プログラムをインストールし、コンピュータに備えた中央演算処理装置にプログラムを解読させ、コンピュータに上記した音響モデルサイズ自動調整装置として機能させる実施形態が最も望ましい実施形態である。
本発明による音響モデルサイズ自動調整プログラムはコンピュータに備えた中央演算処理装置が解読可能なプログラム言語によって記述され、コンピュータにインストールされて実行される。プログラムはコンピュータが読み取り可能な例えば磁気ディスク、或はＣＤ−ＲＯＭのような記録媒体に記録され、これらの記録媒体からコンピュータにインストールするか又は通信回線を通じてインストールされる。
【図面の簡単な説明】
【００４３】
【図１】本発明による音響モデルサイズ自動調整装置の概略の構成を説明するためのブロック図。
【図２】本発明による音響モデルサイズ自動調整装置における入力項目と出力項目の関係を示した図。
【図３】本発明による音響モデルサイズ自動調整装置の処理の流れの詳細を示したフローチャート。
【図４】図３の続きを説明するためのフローチャート。
【図５】音声認識装置における音声認識の処理の流れを示したフローチャート。
【図６】音響モデルにおける状態の構造の一例を示した図。
【図７】音響モデルにおける音素ＨＭＭの構造の一例を示した図。
【図８】状態共有法の代表例であるTree-based Clusteringにおける処理の流れを示した図。
【符号の説明】
【００４４】
１０１    音響モデルサイズ自動調整装置        １１３    閾値下限上限履歴検査部
１０２    音響モデル構造変更部                １１４    閾値更新部
１０３    終了判定部                          １１５    調整回数加算部
１０４    音響モデルサイズ履歴記憶部
１０５    音響モデルサイズ履歴検査部
１１０    閾値更新部
１１１    閾値下限上限更新部
１１２    閾値下限上限履歴記憶部
【図１】
2006084789.tif 000010
【図２】
2006084789.tif 000011
【図３】
2006084789.tif 000012
【図４】
2006084789.tif 000013
【図５】
2006084789.tif 000014
【図６】
2006084789.tif 000015
【図７】
2006084789.tif 000016
【図８】
2006084789.tif 000017