(57)【要約】パターン認識。特徴ベクトルのシーケンスがディジタル化された入力信号から形成され、特徴ベクトルは特徴ベクトル成分を含み、歪み測度を計算することによって少なくとも１つの特徴ベクトルが候補パターンのテンプレートと比較される。本発明によれば、認識プロセスの少なくとも１つの時間依存変数に基づく制御信号が作られ、特徴ベクトルのベクトル成分の部分集合だけを用いて歪み測度が計算され、この部分集合は前記制御信号に従って選択される。これにより、計算に関わるベクトルの次元が効果的に減少されるので、計算複雑度が低下する。この様な次元低下により計算ニーズが減少するけれども、これは分類性能を顕著に損なわないことが見出されている。
2005521106.tif 000002
【特許請求の範囲】
【請求項１】
パターン認識方法であって、特徴ベクトル（５）のシーケンスがディジタル化された入力信号（４）から形成され、前記特徴ベクトル（５）は特徴ベクトル成分を含み、少なくとも１つの特徴ベクトルが歪み測度寄与（２３）を含む歪み測度（Ｌ）を計算することによって候補パターンのテンプレート（６）と比較されるようになっており、前記方法は、
認識プロセスの少なくとも１つの時間依存変数に基づいて制御信号（１２）を作るステップ（Ｓ１０）と、
前記の少なくとも１つの特徴ベクトルについて、前記の少なくとも１つの特徴ベクトルのベクトル成分を用いて前記歪み測度（Ｌ）寄与（２３）の部分集合（２２）だけを計算するステップ（Ｓ１４）とを含み、前記部分集合（２２）は前記制御信号（１２）に従って選択される、
ことを特徴とする方法。
【請求項２】
前記時間依存変数はプロセッサ負荷と入力信号（４）の特性とのグループに属することを特徴とする請求項１に記載の方法。
【請求項３】
マスク（２１）を適用することによって前記の少なくとも１つの特徴ベクトルのベクトル成分がマスキングされ、これにより、前記部分集合（２２）中の計算される歪み測度寄与の数を減少させることを特徴とする請求項１又は２に記載の方法。
【請求項４】
前記マスクは、前記制御信号（１２）に従って動的に計算される（Ｓ１１）ことを特徴とする請求項３に記載の方法。
【請求項５】
前記マスク（２１）は前記制御信号（１２）に従って予め定義されたマスクの集合から選択される（Ｓ１１）ことを特徴とする請求項３に記載の方法。
【請求項６】
前記の予め定義されたマスクは、前記部分集合（２２）中の計算される歪み測度寄与の数の種々の減少度を表わすことを特徴とする請求項５に記載の方法。
【請求項７】
与えられた時点における前記マスクは特徴ベクトル中の全てのベクトル成分を含んでいて、特徴ベクトルのシーケンスのデシメーションを生じさせることを特徴とする請求項３〜６の何れか一項に記載の方法。
【請求項８】
連続する特徴ベクトルの特定のベクトル成分が、その時間的特性に依存する率で使用されることを特徴とする請求項１〜７の何れか一項に記載の方法。
【請求項９】
歪み測度（Ｌ）寄与（２３）の前記部分集合（２２）は、前に計算された歪み測度からの寄与（２５）と結合されることを特徴とする請求項１〜８の何れか一項に記載の方法。
【請求項１０】
前記信号（４）は音声を表わし、前記候補パターンは発声された言葉を表わすことを特徴とする請求項１〜９の何れか一項に記載の方法。
【請求項１１】
前記テンプレート（６）は隠れマルコフ・モデル（ＨＭＭ）の混合ガウス分布密度であることを特徴とする請求項１〜１０の何れか一項に記載の方法。
【請求項１２】
前記歪み測度は対数尤度（Ｌ）に基づくことを特徴とする請求項１１に記載の方法。
【請求項１３】
ディジタル化されている入力信号から特徴ベクトル（５）のシーケンスを形成するための手段（２）を有するパターン認識装置（１）であって、
認識プロセスの少なくとも１つの時間依存変数に基づいて制御信号（１２）を作る制御信号形成手段（１１）と、
歪み測度寄与（２３）を含む歪み測度（Ｌ）を計算することにより少なくとも１つの特徴ベクトルを候補パターンのテンプレート（６）と比較するための手段（３）とを有しており、
前記比較手段は前記歪み測度寄与（２３）の部分集合（２２）だけを計算するようになっており、前記部分集合は前記制御信号（１２）に従って選択されることを特徴とする装置。
【請求項１４】
制御信号（１２）を作るための前記制御信号形成手段（１１）は前記装置（１）のプロセッサ負荷を検出するように構成されていることを特徴とする請求項１３に記載の装置。
【請求項１５】
前記の少なくとも１つの特徴ベクトルの成分にマスク（２１）を適用するための手段（３）を更に有しており、これによって前記部分集合（２２）中の歪み測度寄与の数を減少させることを特徴とする請求項１３又は１４に記載の装置。
【請求項１６】
前記制御信号（１２）に従って予め定義されたマスクの集合から前記マスクを選択するための手段（３）を更に有することを特徴とする請求項１３〜１５の何れか一項に記載の装置。
【請求項１７】
前記制御信号（１２）に従って前記マスクを動的に計算するための手段（３）を更に有することを特徴とする請求項１３〜１５の何れか一項に記載の装置。
【請求項１８】
組み込み機器として実現され、
特徴ベクトルの前記シーケンスを形成するためのフロントエンド・セクション（２）と、
歪み測度（Ｌ）の前記集合を提供するためのバックエンド・セクション（３）と、
を有することを特徴とする請求項１３〜１７の何れか一項に記載の装置。
【請求項１９】
請求項１３〜１８までに記載の装置を有することを特徴とする音声認識装置（１）。
【請求項２０】
請求項１９に記載の音声認識装置を有することを特徴とする通信装置。
【請求項２１】
ディジタル化された入力信号から特徴ベクトル（５）のシーケンスを形成するための手段（２）を有するパターン認識システムであって、
該認識プロセスの少なくとも１つの時間依存変数に基づいて制御信号（１２）を作るための手段（１１）と、
歪み測度寄与（２３）を有する歪み測度（Ｌ）を計算することにより少なくとも１つの特徴ベクトルを候補パターンのテンプレート（６）と比較するための手段（３）とを有しており、
前記比較手段は前記歪み測度寄与（２３）の部分集合（２２）だけを計算するようになっており、前記部分集合は前記制御信号（１２）に従って選択されることを特徴とするシステム。
【請求項２２】
コンピュータのメモリーに直接ロードできるコンピュータ・プログラム製品であって、該コンピュータで実行されるときに請求項１から１２までに記載されている方法のステップを実行するためのコンピュータ・プログラム・コード手段を有することを特徴とするコンピュータ・プログラム製品。
【請求項２３】
コンピュータ読み出し可能な媒体に格納された、請求項２２に記載のコンピュータ・プログラム製品。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、パターン認識に関し、このパターン認識では、特徴ベクトルの集合がディジタル化された入力信号から形成され、候補パターンのテンプレートと比較される。
【背景技術】
【０００２】
パターン認識では、入力信号はディジタル化され、特徴ベクトルのシーケンスが形成される。これらの特徴ベクトルは、例えば、その信号中の特定されるべき音響又は画像などの候補パターンのテンプレートと比較される。音声認識の場合、候補パターンは例えば電話帳中の名前を表わすことができる。
【０００３】
しかし、音声認識などのパターン認識は、計算に関して過酷である。例えば組み込み機器などで実行される場合など、多くの場合に、メモリーの量及び計算能力が限られているために、パターン認識アルゴリズムの複雑度を軽減する必要がある。
【０００４】
計算複雑度は数個の要因、即ち、サンプリングレート、候補モデル・テンプレートの数、及び特徴ベクトルの次元、に依る。これらのいずれかを減少させれば、一定のプロセッサでリーズナブルな時間で動作させることのできる高速の認識がもたらされるけれども、認識精度が悪くなる可能性がある。
【０００５】
更に、利用できる資源が普通は異なる処理で共有され、従って利用できる処理能力及びメモリー容量は変動する。まず第１に処理能力が限られている組み込み機器の認識機能が常時働かなくてはならない場合には、認識精度を失うこと無く処理要求を最小限度にするか或いは動的に調整することが決定的に重要となる。
【０００６】
パターン認識装置の複雑度は、従来、少なくとも下記の従来技術手法によって取り組まれてきている：
１．  特徴ベクトルのダウン・サンプリング
数個の連続するフレーム(時点)で、入って来る特徴ベクトルに対応する状態尤度（ＳＬ）測度を用いることによって復号の複雑度を減少させる手法。
２．  モデル・テンプレートのクラスタリング
この手法は、音響空間をオフラインでクラスタ化する。復号中、初めにクラスタの急速サーチが実行され、その後、最も良く釣り合うクラスタのメンバーについてのＳＬ測度だけが評価される。
３．  特徴ベクトルの次元の低減
ＰＣＡ、ＬＤＡなどの高度な線形変換、又はニューラル・ネットワークを用いることによって特徴ベクトルの成分の数が所定数まで減少される。
【０００７】
この第３のカテゴリーに焦点を合わせると、この手法の従来の実例は、計算複雑度を利用できるＣＰＵの能力に応じて増減する柔軟性を持っていなかった。むしろ、それは常に最悪のシナリオで検討されている。更に、スペクトル時間線形変換又はニューラル・ネットワークに基づくマッピングは、フロントエンドの、従って認識装置全体の複雑度を顕著に高める可能性がある。
【０００８】
特徴ベクトル次元減少の実例が音声通信第２５巻、ｐｐ．３−２７，１９９８年（スピーチコミュニケーション（Ｓｐｅｅｃｈ  Ｃｏｍｍｕｎｉｃａｔｉｏｎ），Ｖｏｌ．２５，ｐｐ．３−２７，１９９８）の“認識装置は耳を持つべきか”に提示されている。
【発明の開示】
【０００９】
本発明の目的は、上記の問題を解決又は軽減することである。
【００１０】
本発明の第１の側面によると、この目的は上で紹介された種類の方法により達成され、この方法は、認識プロセスの少なくとも１つの時間依存変数に基づいて制御信号を作るステップと、少なくとも１つの特徴ベクトルについて、少なくとも１つの特徴ベクトルのベクトル成分を用いて歪み測度寄与（ｄｉｓｔｏｒｔｉｏｎ  ｍｅａｓｕｒｅ  ｃｏｎｔｒｉｂｕｔｉｏｎｓ）の部分集合だけを計算するステップとを更に含み、部分集合は制御信号に従って選択される。
【００１１】
“部分集合だけ"という表現が、利用可能な歪み測度寄与の数より少ない数を示す用語であるということが強調されるべきである。換言すれば、この部分集合は、特徴ベクトルとテンプレートとの比較で定められるより少ない寄与を含む。これにより計算複雑度が低下するが、その理由は、計算に関わるベクトルの次元数が効果的に減らされることにある。この様な次元減少は計算の要求を減少させるけれども、それは音声認識装置の性能或いはノイズ・ロバストネスをあまり損なわないことが分かっている。
【００１２】
より具体的には、本発明の解決策は、計算プロセスにおける支配的な要素である例えばｂ確率などの、状態尤度の計算における操作の数を減らすことによって計算複雑度を減少させることができる。
【００１３】
更に、本発明の解決策は大量のメモリーを必要としない。事実、本発明の１つの実施態様は、実際の実施においては追加のメモリー無しで動作することさえできる。
【００１４】
一実施態様では、制御信号はプロセッサの負荷を示す。複雑度の減少は瞬時プロセッサ能力に応じて調整される。これは、本発明の潜在的な利点である。制御信号は、その代わりに、入力信号特性を示すことができる。
【００１５】
本発明の構想は、特徴ベクトル自体の何らかの成分をマスキングするものと見ることのできるものであり、その理由は、認識されるべき情報を含んでいるのは特徴ベクトルであることである。この用語では、本発明はマスキング・プロセスを含むことができ、マスクを使用することによって各特徴ベクトルの何らかの成分がマスキングされる。マスクは、ベクトルの選択された成分を省略することができ、その結果として、計算される歪み測度寄与の数が減少する。
【００１６】
少なくとも１つの無効でないマスク（ｎｏｎ−ｎｕｌｌ  ｍａｓｋ）を含む予め定義されたマスクの集合から、前記制御信号に応じて成分マスクを選択することができる。その結果として、マスクを取り扱うために要する追加処理能力が非常に僅かである実施態様が得られる。
【００１７】
代わりとして、各々の場合にマスクは制御信号に応じて動的に計算され、その結果として、メモリー効率が僅かに優れた実施態様が得られる。変化する処理ニーズに適合するようにマスクを計算できるので、この実施態様はより柔軟性に富む。
【００１８】
換言すれば、パターン認識装置のメモリーに格納されることにより、或いは必要なときにマスクを動的に作ることにより、マスクの集合が利用可能である。制御信号に依存して、このマスクの集合からのマスクを使って、計算される歪み測度寄与の数を減らす。種々のマスクを使用する結果として計算複雑度がまちまちとなるので、音声認識プロセスは、低負荷状態（及び時点）において良好な認識精度を依然として維持しながら例えば変動するプロセッサ能力に順応することができる。時間分解能が非常に高いとき（例えば１０ｍｓ毎にフレームから次のフレームへ）でもマスクの取り替えを実行することができる。従って、これはＣＰＵがアイドル状態であるときに最高性能を提供し、他の負荷が存在するときでも程々の劣化となる。
【００１９】
それが有利であると考えられる場合には、マスクは、与えられたインターバルで、特徴ベクトルの全成分をマスキングすることができ、即ちこの特徴ベクトルに関連する歪み測度全体を無くすることができ、これにより特徴ベクトルのシーケンスのデシメーション（ｄｅｃｉｍａｔｉｏｎ）を引き起こすことができる。このことは、ベクトル次元の選択的減少を特徴ベクトルのダウンサンプリングなどの時間領域複雑度減少手法と組み合わせる可能性を与える。
【００２０】
一実施態様では、連続する特徴ベクトルの特定のベクトル成分が、その時間的特性に依存する率で使用される。このことは特徴成分に固有のダウンサンプリングを達成することを可能にし、その場合、例えば時間に関してゆっくり変動する特徴成分を時間に関して急速に変動する特徴成分より大幅にダウンサンプリングすることができる。この様なダウンサンプリング方式は、マスクを計算し且つ／又は動的に選択するプロセスを適宜調整することによって実行され得る。
【００２１】
更に他の実施態様では、歪み測度寄与の部分集合は、前に計算された歪み測度からの寄与と結合される。換言すれば、計算時に飛ばされたマスキングされた成分からの寄与は、対応する成分の最近実行された計算からの寄与で置き換えられる。
【００２２】
このことは、計算されなかった寄与が最近計算された対応する寄与で近似され、計算コストを顕著に増大させることなく性能を改善することを意味する。又、この手法は、全ての歪み測度が同じ次元のベクトルに基づいて計算されることを保証する。このことは、将来の処理を簡単化し、例えば、歪み測度を比較するときのスケーリングの必要と、寄与の数に依存して定数を再計算する必要とを無くする。
【００２３】
本発明は音声認識プロセスにおいて好ましく実施され得るものであり、その場合、信号は音声を表わし、パターンは話された言葉を表わす。本発明は、移動電話などの組み込み機器で実施される音声認識システムに有利に使用され得るものである。更に、テンプレートは隠れマルコフ・モデル（ＨＭＭ）の混合ガウス分布の密度（Ｇａｕｓｓｉａｎ  ｍｉｘｔｕｒｅ  ｄｅｎｓｉｔｙ）であって良い。
【００２４】
本発明の第２の側面により、上記目的はパターン認識装置により達成され、この装置は、ディジタル化されている入力信号から特徴ベクトルのシーケンスを形成するための手段と、認識プロセスの少なくとも１つの時間依存変数に基づいて制御信号を作るための手段と、歪み測度寄与を含む歪み測度を計算することにより少なくとも１つの特徴ベクトルを候補パターンのテンプレートと比較するための手段とを含んでおり、この比較手段は歪み測度寄与の部分集合だけを計算するようになっており、この部分集合は制御信号に従って選択される。
【００２５】
本発明のこれらの側面及びその他の側面は、添付図面を参照していっそう明瞭に記載される好ましい実施態様から明らかであろう。
【発明を実施するための最良の形態】
【００２６】
以降の記述において、パターン認識プロセスは、例えば音声に基づくユーザインターフェースに使用される音声認識プロセスである。しかし、このことは本発明を限定するものと見なされるべきではなくて、本発明はパターン認識一般に向けられている。入力信号は任意のディジタル化された信号であって良く、候補パターンは音、画像、テキスト、手書き文字などを表わすものであって良い。
【００２７】
図１に示されている音声認識装置１は、一般的に、特徴抽出を行うフロントエンド処理セクション２と、候補のワード又はワードの部分のモデル・テンプレートに関しての、抽出された特徴の統計的分析を行うバック・エンド処理セクション３とを含む。これらのモデルは、オンライン・トレーニング（特定話者名前ダイヤリング（ｓｐｅａｋｅｒ−ｄｅｐｅｎｄｅｎｔ  ｎａｍｅ  ｄｉａｌｉｎｇ、ＳＤＮＤ））により、又はオフライン・トレーニング（不特定話者名前ダイヤリング（ｓｐｅａｋｅｒ−ｉｎｄｅｐｅｎｄｅｎｔ  ｎａｍｅ  ｄｉａｌｉｎｇ、ＳＩＮＤ））により作られ得るものである。
【００２８】
音声認識装置１への入力は、ディジタル的にサンプリングされた波形４から成り、この波形は、連続する、部分的に重なり合う可能性のあるセグメントに分割されている。各々のセグメントについて３つの主要な処理ステップが実行される：
Ｓ１．  特徴のベクトルを作り出す特徴抽出５。
Ｓ２．  音響モデル・テンプレート６（以下の実例ではガウス分布密度（Ｇａｕｓｓｉａｎ  ｄｅｎｓｉｔｉｅｓ）と称される）と比較される現在の特徴ベクトルについての歪み値の計算。この結果として歪みテーブル７（以下の実例ではｂ確率テーブルと称される）が得られる。
Ｓ３．  ヴィタービ（Ｖｉｔｅｒｂｉ）“復号”。即ち、ステップＳ２で計算された歪みテーブルと前の音声セグメント１０についての最良の累積歪み値とに基づいて現在の最良の累積歪み値８が得られる。許容される遷移は、認識辞書及び文法９により制約される。
【００２９】
音声入力が終わると、ヴィタービ復号ステップにより見出された現在の最良の認識仮説が通常は認識結果としてユーザに対して表示される。
【００３０】
各音響モデルが普通は隠れマルコフ・モデル（ＨＭＭ）によって表わされる。これらのＨＭＭは、出力結果の分類を可能にするための基礎的要素である。
【００３１】
ＨＭＭは、特徴ベクトルを容認／作成することのできる統計的オートマトンである。それは状態の集合と、これらの状態間の許容される遷移の集合とから成る。各遷移は、関連する確率値を有する。各状態は、特徴ベクトルの空間における確率密度関数（ＰＤＦ）により記述される。状態ＰＤＦと特徴ベクトルとにより与えられる負の対数尤度を歪み測度と見なすこともできる。オートマトンの現在の状態が与えられると、それは、現在の状態のＰＤＦにより与えられる尤度に従って現在の特徴ベクトルを容認／作成し、その後、遷移確率の集合によって制約される新しい状態へ遷移する。
【００３２】
時間中に最小の総歪みをもたらすＨＭＭが認識結果として選択される。
【００３３】
非常に過酷な計算のうちの１つは、全ての特徴ベクトルについて、認識モデルの状態への歪みを評価することから成る。前述したように、この歪みは通常は状態尤度測度（その値もｂ確率と称される）として計算される。
【００３４】
典型的な認識エンジンでは、各状態のＰＤＦは一定数のガウス分布密度の混合（例えば、８）である。各密度は、平均偏差パラメータ・ベクトル及び逆標準偏差パラメータ・ベクトルを含む。
【００３５】
認識動作中、全ての入力特徴ベクトルは、初めに、次のように対数尤度値に基づいて歪み測度を作るために各密度のパラメータ（平均偏差及び標準偏差）と突き合わされる
【数１】
2005521106.tif 000003
ここでＬは密度の対数尤度であり、
ｘiは特徴ベクトルのｉ番目のベクトル成分であり、
μi及びｉｓｔｄiはｉ番目の平均値及び逆標準偏差ベクトル成分を意味し、
Ｄは特徴成分の数（特徴ベクトルの次元）であり、
Ｃは、逆標準偏差と、１／ｓｑｒｔ（２＊π）のＤ乗との積の対数に等しい付加定数であり、Ｄは特徴ベクトルの次元である。
【００３６】
状態ｂ確率は次のように与えられ
【数２】
2005521106.tif 000004
ここでＷiとＬiとは、それぞれ、密度ｉについての対数混合重みと対数尤度とであり、Ｍは該状態での密度の数を表わし、ｂはｂ確率値である。
【００３７】
全ての状態についてｂ確率値を計算した後、結果は、ヴィタービ・アルゴリズムに必要とされるいわゆるｂ確率テーブルに格納される。このアルゴリズムは、最大尤度の意味において入力特徴ベクトルのストリームと最も良く整合するＨＭＭのシーケンスを判定するために使われる。このアルゴリズムは、動的プログラミング方法を用いて実行される。
【００３８】
ｂ確率テーブルを計算するために必要とされる掛け算及び足し算の数を次のように近似することができる：
＃掛け算＝＃全ての密度＊特徴成分＊２、
＃足し算＝＃掛け算
【００３９】
対数尤度の計算が図２ａに示されている。次元Ｎの２つのベクトル（μ及びｉｓｔｄ）を含む密度６と、次元Ｎの１つのベクトル（ｘ）を含む特徴ベクトル５とは、方程式１に従って掛け合わされてＮ個の対数尤度項２３の集合２０を形成し、これらは値Ｌを作るために方程式１に従って合計される。
【００４０】
本発明によれば、ベクトル成分のうちの幾つをマスキングし、それらが方程式１で考慮されないようにすることにより、所要の操作の数が減らされる。複雑度の減少は、マスキングされる成分の相対的個数にほぼ比例する。このことが図２ｂに示されている。この場合、マスク２１は、計算される歪み測度寄与２３の数を減らすことを許される。マスク２１の黒いセクションは、方程式１の計算されない項２３を示す。その結果として、集合２０の幾つかの項２４がマスキングされ、残りの項２２だけが計算され合計されて、対数尤度値Ｌを作る。図２ａ及び図２ｂ中のベクトル（μ、ｉｓｔｄ、ｘ）及び集合２０は概略的であり、印が付けられている各セクションは実際には数個の成分又は項を含むことができることに注意しなければならない。
【００４１】
上記のマスキングは対数尤度項２３に関連するけれども、特徴ベクトルｘ及び密度ベクトルμ及びｉｓｔｄがあたかも減少されたかのようにマスキング・プロセスを見ることもでき、このことは歪み測度寄与の数の減少につながる。このように見ると、本発明の幾つかの利点を明瞭に理解することができ、下記の、例えば図４及び５の幾つかの実例は、実際に特徴ベクトルｘのマスキングに関連する。
【００４２】
本発明によれば、マスクは時間が経つに連れて変動して良い、即ち異なるフレームにおいて異なる寄与がマスキングされる。この変動は、例えば現在のプロセッサ負荷や入力信号の特性に基づいて良い。この目的のために、図１の認識装置１にその様な負荷又は特性の検出器１１を設けて（或いはこれに結合させて）、歪み計算Ｓ２で使用される制御信号１２を作るようにすることができる。
【００４３】
図２ｃは、図２ｂの計算に使用し得る３つの異なるマスク２１を示す。各マスク２１は異なる範囲を有する、即ち、それぞれ異なる率ｘ、ｙ及びｚだけ歪み測度寄与の数を減少させることができる。
【００４４】
或る場合には、対数尤度計算（方程式１）で成分又は項の数を維持するのが有益であろう。そのときには、図２ｄに示されているように、マスキングされる項２４を、対応する、前に計算された項２５と交換して良い。
【００４５】
上記のような認識プロセスにおいて実行されるマスキングプロセスのフローチャートが図３に示されている。このフローチャートは１つの特徴ベクトルの取り扱いに関連する。
【００４６】
第１に、ステップＳ１０で、制御信号が作られる。上記のように、この制御信号は、プロセッサの負荷、又は認識プロセスの他の任意の時間依存変数を示すことができる。その後、ステップＳ１１で、適切なマスク２１が選択される。一定の予め定められた複雑度のレベル（例えば、マスキング・ファクターｘ、ｙ及びｚ）について特徴マスクを予め計算することができ、それらをフロントエンド３ソフトウェアにハードコーディングして計算オーバーヘッドを最小化することもできる。代わりとして、それぞれのインスタンスについて、又は少なくとも定期的に、適切なマスクを計算する様になっているソフトウェアが認識装置１に設けられる。その様なソフトウェアをフロントエンド２で及び／又はバックエンド３で実行することができる。
【００４７】
マスクを動的に計算することに伴う利点は、そのときマスキング・プロセスが、変動する条件により適応し得ることである。最適のマスキング・ファクターの数及び範囲は、アプリケーション、認識のタイプ、環境などに応じて変化するであろう。
【００４８】
ステップＳ１１は、各特徴ベクトルについて個別にマスク選択を行っても良いし、或いはより巧妙に特徴ベクトルを減少させるために幾つかの特徴ベクトルを考慮に入れても良い。その様な、より巧妙な方式が以下の記述で与えられる。
【００４９】
ステップＳ１２で、密度ベクトルの集合が現在の特徴ベクトルとの比較のためにスタティックメモリーから読み込まれる。
【００５０】
上記のように、方程式１の定数Ｃは、計算される対数尤度項２３の選択に依存する。従って、各々の特徴マスクについて、読み込まれた密度のために対応するＣ値が必要とされる。その様なＣ値がステップＳ１３で決定される。
【００５１】
必要とされる定数Ｃを前もって計算して認識装置のメモリーに格納しておくことができ、その場合ステップＳ１３はそれらの値からの単純な選択である。この格納の結果としての相対的メモリー増大量を：
【数３】
2005521106.tif 000005
と近似することができるが、このｄｅｌｔａは所要のメモリー増大量であり、Ｎはマスクの数であり、ｄｉｍは特徴ベクトル成分の数である。例えば複雑度８０％、６０％、及び４０％のための３つのマスクがあり、特徴ベクトルの次元が３９である現実的シナリオでは、メモリー増大量は音響モデルのサイズの３／（３９＋１）＝７．５％であろう。代わりとして、メモリーを節約するためにＣ値は格納されない。その代わりに、スタティックメモリーから密度が処理のために読み込まれる毎にＣ値をステップＳ１３で再計算することができる。その様なシナリオでは、余分のメモリーを全く必要とせずに特徴ベクトル・マスキングを実行することができる。
【００５２】
ステップＳ１４で、方程式１に従って対数尤度Ｌが計算される。マスキング・プロセスは、方程式１の合計で幾つかの項を飛ばし、このことにより図２ｂに示されているように計算の複雑度を減少させるという効果を有する。マスクは、単に、方程式１の計算のときにどの項２３を飛ばし、そしてどの項を計算するかを定める規則の集合である。
【００５３】
ステップＳ１４は、図２ｄに関して上で記載した歪み測度寄与の全体を含んでも良い。このことは、この場合にはフルスケールの合計が実行されるので、ステップＳ１３を不要にする。
【００５４】
対数尤度ＬがステップＳ１４で計算された後、ステップＳ１５はプログラム・コントロールをステップＳ１２に戻して該状態における密度ベクトルの次の集合を読み込む。これは該状態中の全ての密度について反復される。
【００５５】
状態中の全ての密度が現在の特徴ベクトルと比較された後、ステップＳ１６でｂ確率（方程式２）を計算してｂ確率テーブルに格納することができ、ステップＳ１７はプログラム・コントロールをステップＳ１２に戻して次の状態の密度ベクトルの第１集合を読み込む。これは全ての状態について反復される。
【００５６】
最後に、ステップＳ１８で、ヴィタービ・アルゴリズムが、それ自体としては公知の方法で実行される。
【００５７】
一実施態様では、選択されたフレームのベクトル全体を“マスキング”することによって特徴ダウンサンプリングの原理を包含するようにマスキングを改変することができる。特徴ダウンサンプリングは（例えば２のファクターで）特徴をデシメーションすることによって時間領域冗長性を取り除く一方で、上の記述による特徴成分マスキングは、全ての特徴サンプル中の最も役に立たない特徴ベクトル成分を無くする。
【００５８】
与えられたマスキングのパーセンテージについても、与えられた時点でマスキングを行うのに最も適する成分を選択することが可能であり、それらの成分はおそらく時間が経つに連れて変化する可能性がある。一例が図４に示されており、この場合、５つの特徴ベクトル３１−３５が交互にマスキングされ、その結果としてマスキング・ファクターは一定であるが、各４フレームを超えてマスキングされない成分は無い。
【００５９】
更に、多くのパターン認識アプリケーションにおいて、種々のソースから抽出された成分を連結することによって特徴ベクトルを形成することができる。それ故に、特徴ベクトル空間は実際には個々のソースの部分空間の積である。大半の場合に、特徴空間の分解を利用して歪み測度を数個の項に因数分解することができる。分類アルゴリズムのために特徴ベクトルのシーケンスを処理しなければならないので、本発明の他の実施態様では特徴空間は始めに２つの部分空間、即ち急速に変動する成分を有する部分空間及びゆっくり変動する成分を有する部分空間、に分割される。各密度について歪みはこの２つの部分空間の歪みを結合させることにより、場合によっては重み付けすることにより、得られるので、該方法は、ゆっくり変動する成分をダウンサンプリングすることによって計算を効果的に減少させることができる。これは、異なるフレームのために、場合によっては異なるマスキング・パーセンテージを有する僅かに異なるマスクを選択することに対応する。
【００６０】
部分空間の数は必ずしも２でなくても良い。変動の程度が大きければ、もっと精密な分解を達成することができる。図５に示されているように、各特徴ベクトル４１−４７を３つの部分、即ち、２でダウンサンプリングされる非常にゆっくり変動する部分空間ａと、３／２でダウンサンプリングされるゆっくり変動する部分空間ｂと、ダウンサンプリングされない急速に変動する部分空間ｃとに分割することができる。これは、いろいろな成分をいろいろな周期性でマスキングすることにより達成される。ｂ部分空間は３フレーム毎にマスキングされ、ａ部分空間は２フレーム毎にマスキングされる。図５に示されているように、その結果として、幾つかのフレームについてゼロ・マスク５１と組み合わされて適用される３つの異なるマスク４８−５０が得られる。
【００６１】
部分空間分解及びダウンサンプリング・レートの選択のために、次の選択肢がある：
１．  静的選択
２．  半動的選択
３．  動的選択。
【００６２】
静的選択プロセスでは、例えば特徴ストリームを分析することなどにより、認識プロセスの前に分解が行われる。最も単純なアプローチでは、各成分についてのケプストラル（ｃｅｐｓｔｒａｌ）情報に基づいて成分は適切な部分空間に割り当てられる。変動の程度はフロントエンドのデザインからも推測的に分かる可能性がある（例えば、マルチ解像度フロントエンド、或いはいろいろなタイプの特徴を組み合わせるフロントエンド）。
【００６３】
半動的選択では、静的部分空間分離に加えて、一定の部分空間について与えられた歪み測度を計算するか否かの決定を、連続する特徴間の類似性測度（ｓｉｍｉｌａｒｉｔｙ  ｍｅａｓｕｒｅ）を用いることによって制御することもできる。
【００６４】
動的な場合には、類似性測度の助けにより特徴の対又はグループについて部分空間分解が実行時に完全に行われる。全ての特徴成分について、１次元類似性測度が計算される。（類似性測度により示される）変動が最も緩やかな成分は、与えられた特徴のグループについてのゆっくり変動する部分空間に置かれる。
【００６５】
図６は、前もって定められ又は動的に計算される特徴マスクを認識装置１のプロセッサの実際の現在の負荷に応じてどの様に選択できるかを示している。スレショルドＴｈ１、Ｔｈ２、Ｔｈ３が前もって定められ、該スレショルドに達すると種々のマスキング・ファクターを有する特徴マスク１、２又は３間で切換を行うことによって確率計算の複雑度が変更される。不要時には、即ちプロセッサ負荷がスレショルド１を上回らないときには、最大精度を提供するために特徴マスキングを完全に作動不能（ｄｉｓ）にすることができる。図６は、認識エンジン自体に起因する負荷を含んでいないことに注意しなければならない。
【００６６】
マスク選択のプロセスを適応的にするようにしてもよく、その場合、どのマスクを使用するか決めるために一定のマスク選択から生じる実際の負荷が用いられる。将来のマスク選択を改善するために、学習アルゴリズムを使用することによってＣＰＵ負荷に対する種々のマスクの影響を登録するようにしてもよい。
【００６７】
本発明の他の実施態様では、特徴ベクトル・マスクの選択は、例えば時間変動、ＳＮ比などの入力信号特性に基づいて実行される。入力信号が始めに分析され、割り出された特性に応じて適切なマスクが選択される。
【００６８】
或いは、認識プロセスの結果が分析され、その結果に基づいてマスク選択が実行され且つ適応化される。特定のマスクについて、認識結果が満足できるものであるか否か判定される。否であれば、範囲の狭いマスクが選択される。マスキングが満足できるものであれば、マスクは維持されるか、或いはもっと範囲の広いマスクと交換される。換言すれば、成るべく多くのベクトル成分をマスキングしながら認識の成功が所望のレベルで維持される。
【００６９】
当業者にとっては明らかなように、添付されている請求項の範囲内で上記実施態様の幾つもの修正や変更が可能である。例えば、マスキング・プロセスを最適化するために他のタイプの制御信号を使用することができる。マスク及びマスクの範囲を選択するための他のタイプの基準も考えられる。また、本書に記載された歪み測度の計算を、本書に記載されているものとは異なるパターン認識プロセスに使用することもできる。最後に、成分部分空間からの部分的歪み値を用いることによって他のタイプの歪み測度を形成できる限りは、その様な他のタイプの歪み測度でも本書記載の方法を同様に適切に使用することができる。
【図面の簡単な説明】
【００７０】
【図１】音声認識エンジンのブロック図である。
【図２ａ】従来技術による歪み測度の計算を概略的に示した図である。
【図２ｂ】本発明の実施態様による歪み測度の計算を概略的に示した図である。
【図２ｃ】〔図２ｂ〕の計算に適するいろいろなマスクを示した図である。
【図２ｄ】本発明の第２実施態様による歪み測度の計算を概略的に示した図である。
【図３】本発明の実施態様によるマスキング・プロセスの概略フローチャートである。
【図４】本発明の別の実施態様によるマスキング・プロセスを示した図である。
【図５】本発明の更に別のマスキング・プロセスを示した図である。
【図６】プロセッサ負荷の効果を示した図である。
【図１】
2005521106.tif 000006
【図２ａ】
2005521106.tif 000007
【図２ｂ】
2005521106.tif 000008
【図２ｃ】
2005521106.tif 000009
【図２ｄ】
2005521106.tif 000010
【図３】
2005521106.tif 000011
【図４】
2005521106.tif 000012
【図５】
2005521106.tif 000013
【図６】
2005521106.tif 000014
【手続補正書】
【提出日】平成17年2月22日(2005.2.22)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項２２
【補正方法】変更
【補正の内容】
【請求項２２】
コンピュータのメモリーに直接ロードできるコンピュータ・プログラムであって、
該コンピュータで実行されるときに請求項１から１２までに記載されている方法のステップを実行するためのコンピュータ・プログラム・コード手段を有することを特徴とするコンピュータ・プログラム。
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項２３
【補正方法】変更
【補正の内容】
【請求項２３】
請求項２２に記載のコンピュータ・プログラムを格納したコンピュータ読み取り可能な記録媒体。
【国際調査報告】
2005521106.tif 000015
2005521106.tif 000016
2005521106.tif 000017