(57)【要約】【課題】  隠れ動的モデルの他のパラメータと共に境界をトレーニングすることができ、同時にそのようなトレーニングに伴う扱いにくさを克服するトレーニングシステムを提供する。【解決手段】  １）連続した値の隠れ生成関連パラメータと観察された音声の音響についてのスイッチング状態空間型モデルを定義する。２）隠れ生成関連パラメータのシーケンスと、観察された入力値のシーケンスに基づくスピーチ単位のシーケンスとの尤度を提供する事後確率を近似する。事後確率を近似する際、スピーチ単位間の境界は固定されず、最適な形で決定される。一実施形態では、混合ガウス近似を使用する。別の実施形態では、ＨＭＭの事後確率近似を使用する。【選択図】  図３
2004310098.tif 000002
【特許請求の範囲】
【請求項１】
スイッチング状態空間型モデルの事後確率を推定する方法であって、前記事後確率は、フレームのシーケンスに関連付けられた入力値に基づいて前記フレームのシーケンスについてのスピーチ単位のセットと隠れパラメータのセットの尤度を提供し、前記方法は、
個々の隠れパラメータ確率を共に乗算して前記隠れパラメータ確率の積を形成することにより、部分的には前記事後確率を近似するステップであって、個々の隠れパラメータ確率は、フレームのスピーチ単位と前記フレームのシーケンスのための前記入力値とを与えられて、前記フレームのための隠れパラメータの確率を提供するステップと、
前記隠れパラメータ確率がより良好な前記事後確率の近似を提供するように、前記隠れパラメータ確率を定義するパラメータを調整するステップと、
を具備したことを特徴とする方法。
【請求項２】
前記事後確率を近似するステップはさらに、前記隠れパラメータ確率の積とスピーチ単位確率の積とを乗算することを含み、前記スピーチ単位確率の各々は、あるフレームのスピーチ単位の確率を提供する、ことを特徴とする請求項１に記載の方法。
【請求項３】
前記スピーチ単位確率がより良好な前記事後確率の近似を提供するように前記スピーチ単位確率を調整するステップをさらに備える、ことを特徴とする請求項２に記載の方法。
【請求項４】
前記事後確率の近似を使用することにより、入力値を復号して前記フレームのシーケンスのためのスピーチ単位のシーケンスを識別するステップをさらに備える、ことを特徴とする請求項２に記載の方法。
【請求項５】
前記近似を使用するステップは、各フレームについてスピーチ単位確率が最も高いスピーチ単位を選択することにより、各フレームのスピーチ単位を選択することを含む、ことを特徴とする請求項４に記載の方法。
【請求項６】
前記近似を使用するステップは、前記スピーチ単位に持続時間制約を適用し、且つ前記持続時間制約および前記スピーチ単位確率に基づいて最良のスピーチ単位のシーケンスを選択することを含む、ことを特徴とする請求項４に記載の方法。
【請求項７】
前記事後確率を近似するステップはさらに、前記隠れパラメータ確率の積とスピーチ単位遷移確率の積とを乗算することを含み、前記スピーチ単位遷移確率の各々は、別のフレームのスピーチ単位を考慮してあるフレームにおけるスピーチ単位の確率を提供する、ことを特徴とする請求項１に記載の方法。
【請求項８】
前記スピーチ単位遷移確率がより良好な前記事後確率の近似を提供するように、前記スピーチ単位遷移確率を調整するステップをさらに含む、ことを特徴とする請求項７に記載の方法。
【請求項９】
前記事後確率の近似を使用することにより入力値を復号し、前記フレームのシーケンスのスピーチ単位のシーケンスを識別するステップをさらに含む、ことを特徴とする請求項７に記載の方法。
【請求項１０】
前記近似を使用するステップは、前記スピーチ単位遷移確率に基づいてスピーチ単位のシーケンスを選択することを含む、ことを特徴とする請求項９に記載の方法。
【請求項１１】
前記近似を使用するステップは、前記スピーチ単位に対して前記持続時間制約を適用し、且つ前記持続時間制約と前記スピーチ単位遷移確率とに基づいて最良のスピーチ単位のシーケンスを選択することを含む、ことを特徴とする請求項１０に記載の方法。
【請求項１２】
前記隠れパラメータ確率を定義するパラメータを調整するステップは、前記スイッチング状態空間型モデルのパラメータに基づいて調整されたパラメータを生成するために前記パラメータを調整するステップを含む、ことを含むことを特徴とする請求項１に記載の方法。
【請求項１３】
前記入力値はトレーニング信号から生成され、前記パラメータを調整するステップはさらに、前記隠れパラメータ確率を定義する前記調整されたパラメータに基づいて前記スイッチング状態空間型モデルのパラメータを調整することにより調整されたスイッチング状態空間型モデルパラメータを形成し、且つ前記調整されたスイッチング状態空間型モデルパラメータに基づいて前記隠れパラメータ確率を定義する前記調整されたパラメータを調整するステップと含む、ことを含むことを特徴とする請求項１２に記載の方法。
【請求項１４】
前記事後確率の近似を使用することにより、前記フレームのシーケンスについて隠れパラメータのシーケンスを識別するステップをさらに含む、ことを特徴とする請求項１に記載の方法。
【請求項１５】
隠れ生成関連パラメータのモデルを備えた隠れ動的スピーチモデルを定義するステップと、
スピーチ単位間の境界を固定することなく、入力値のシーケンスに基づいて、前記隠れ生成関連パラメータのシーケンスと前記スピーチ単位のシーケンスの尤度を提供する事後確率を近似するステップと、
を実行させるコンピュータ実行可能命令を有する、ことを特徴とするコンピュータ可読媒体。
【請求項１６】
前記事後確率を近似するステップは、あるフレームのスピーチ単位と入力値のシーケンスを与えられて、前記入力値のフレームについて前記隠れ生成関連パラメータの尤度を記述するモデルパラメータを決定するステップを含む、ことを特徴とする請求項１５に記載のコンピュータ可読媒体。
【請求項１７】
前記事後確率を近似するステップはさらに、前記入力値のシーケンスを与えられて、あるフレームについてスピーチ単位の尤度を記述するスピーチ単位確率を決定するステップを含む、ことを特徴とする請求項１６に記載のコンピュータ可読媒体。
【請求項１８】
前記スピーチ単位確率を使用することにより、あるフレームのスピーチ単位を選択するステップをさらに含む、ことを特徴とする請求項１７に記載のコンピュータ可読媒体。
【請求項１９】
前記入力値の各フレームについて、複数のスピーチ単位それぞれについてスピーチ単位確率を決定するステップをさらに含む、ことを特徴とする請求項１８に記載のコンピュータ可読媒体。
【請求項２０】
前記スピーチ単位確率を使用することによりスピーチ単位を選択するステップは、各フレームで最も高いスピーチ単位確率を持つスピーチ単位を選択するステップを含む、ことを特徴とする請求項１９に記載のコンピュータ可読媒体。
【請求項２１】
前記スピーチ単位に対して持続時間制約を適用するステップをさらに含み、前記スピーチ単位確率を使用することによりスピーチ単位を選択するステップは、前記持続時間制約と各フレームについての複数のスピーチ単位確率とに基づいて最良のスピーチ単位のシーケンスを選択するステップを含む、ことを特徴とする請求項１９に記載のコンピュータ可読媒体。
【請求項２２】
前記事後確率を近似するステップはさらに、別のフレームのスピーチ単位と前記入力値のシーケンスとを与えられて、あるフレームについてスピーチ単位の尤度を記述するスピーチ単位遷移確率を決定するステップを含む、ことを特徴とする請求項１６に記載のコンピュータ可読媒体。
【請求項２３】
前記スピーチ単位遷移確率を使用することにより、あるフレームのスピーチ単位を選択するステップをさらに含む、ことを特徴とする請求項２２に記載のコンピュータ可読媒体。
【請求項２４】
前記隠れ生成関連パラメータの尤度を記述するモデルパラメータを決定するステップは、前記隠れ動的スピーチモデルのモデルパラメータと、生成関連パラメータの尤度を記述する前記モデルパラメータの以前の値とに基づいて、前記モデルパラメータを反復的に調整するステップを含む、ことを特徴とする請求項１６に記載のコンピュータ可読媒体。
【請求項２５】
前記隠れ生成関連パラメータの尤度を記述する前記パラメータに基づいて、前記隠れ動的スピーチモデルのモデルパラメータを調整するステップをさらに含む、ことを特徴とする請求項２４に記載のコンピュータ可読媒体。
【請求項２６】
前記隠れ生成関連パラメータの尤度を記述する前記モデルパラメータに基づき、前記入力値の各フレームについて隠れ生成関連パラメータを識別するステップをさらに含む、ことを特徴とする請求項１６に記載のコンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、パターン認識(pattern  recognition)に関する。より詳細には、本発明は、音声認識(speech  recognition)に関する。
【背景技術】
【０００２】
音声認識システムなどのパターン認識システムは、入力信号を受け取り、その信号を復号してその信号によって表されるパターンを見つけることを試みる。例えば、音声認識システムでは、音声信号（しばしばテスト信号と呼ばれる）が認識システムによって受け取られ、復号されてその音声信号(speech  signal)によって表される単語のストリング(string  of  words)を識別(identify)する。
【０００３】
多くの音声認識システムでは、アコースティック単位(acoustic  unit)あるいはスピーチ単位(speech  unit)とも称されるフォネティック単位(phonetic  unit)が、つながった複数の状態(connected  states)からなる単一の層(single  tier)によって表される隠れマルコフモデル(Hidden  Markov  Model)を利用する。トレーニング信号(training  signal)を使用して、それらの状態(state)を占める確率分布(probability  distribution)と状態間を遷移する確率分布がフォネティック単位ごとに決定される。音声信号を復号するために、信号がフレーム(frame)に分割され、各フレームは特徴ベクトル(feature  vector)に変換される。次いで特徴ベクトルがそれら状態の分布と比較されて、そのフレームによって表され得る最も可能性の高いＨＭＭ状態のシーケンス(sequence  of  HMN  states)を識別(identify)する。そしてそのシーケンスに対応するフォネティック単位が選択される。
【発明の開示】
【発明が解決しようとする課題】
【０００４】
ＨＭＭに基づく認識システム(HMM-based  recognition  system)は、多くの比較的単純な音声認識タスクでは良好に機能するが、一部の重要な音声の動的な局面を直接モデル化しない（また、会話の音声など困難なタスクの場合は機能が低品質であることが知られている）。その結果、この種の認識システムは、トレーニング(training)に使用される音声信号(speech  signal)と復号される音声信号との動的(dynamic)な明瞭度(articulation)の差異に対応することができない。
【０００５】
例えば、何気ない発話の状況では、話者(speaker)は不完全な明瞭度(hypo-articulate)で、あるいは低い明瞭度(under  articulate)で彼らの音声を発する傾向がある。これは、反復的に定義された使用者の音声の明瞭度のトラジェクトリ(trajectory)が、次のターゲットに方向を変換される前に意図されるターゲットに到達しない可能性があることを意味する。トレーニング信号は通例、話者が、不完全な明瞭度で発音された音声に比べて、完全な明瞭度で発音されたスピーチマテリアル(speech  material)を提供する「読み上げ式」の発話スタイル(“reading”style  of  speech)を使用して形成されるので、不完全な明瞭度で発音された音声は、トレーニングされたＨＭＭ状態(trained  HMM  states)と一致しない。その結果、レコグナイザ(recognizer)が何気ない発話に対して提供する認識結果は理想的とは言えないものになる。
【０００６】
同様の問題は、非常に高い明瞭度(hyper-articulated)で発音された音声の場合にも生じる。非常に高い明瞭度で発音された音声では、話者は、自分の発言の異なる音が聞き分けられるように過剰に努力する。この過剰な努力は、同じような音のフォネティック単位とより区別がつくように特定のフォネティック単位の音を変える、特定のフォネティック単位の音を他より長く持続する、あるいは、それぞれの音が隣接する音と別個の音であると知覚されるように音から音への間でより急に遷移すること、などが考えられる。こうした各手法の結果、トレーニングデータにある特徴ベクトルとしばしば良好に一致しない音声信号の特徴ベクトルのセットが生じるので、こうした手法によりＨＭＭシステムを使用した音声の認識がより難しくなっている。
【０００７】
非常に高い明瞭度で発音された音声、または不十分な明瞭度で発音された音声に対応する特徴ベクトル(feature  vector)がトレーニングデータ中の特徴ベクトルと一致するとしても（これを得るには非常に高いコストがかかる可能性がある）、非常に高い明瞭度または不十分な明瞭度によって誘発される特徴ベクトルのトラジェクトリ(trajectory)の変化の根本的な原因を考慮しないＨＭＭシステムでは音声の混乱性(phonetic  confusability)が増大するので、従来のＨＭＭ技術ではやはり低品質な機能となる。この問題が本発明によって特に対処される。
【０００８】
ＨＭＭシステムは、人々が話す速度の変化への対処についても問題がある。すなわち、誰かがトレーニング信号よりも遅い、あるいは速い速度で話すと、ＨＭＭシステムは、音声信号を復号する際により多くの誤差を生じる傾向がある。
【０００９】
このＨＭＭシステムに替わるシステムが提案されている。具体的には、音声信号(speech signal)の生成関連パラメータ(production-related  parameter)の統計的に定義されたトラジェクトリ(statistically  defined  trajectory)または振る舞い(behavior)を直接モデル化することが提案されている。しかし、生成に関連した値(production-related  value)は直接測定することができないので、こうしたモデルは隠れ動的モデル（ＨＤＭ：Hidden  Dynamic  Model）と呼ばれる。この隠れ動的モデルは、スイッチング状態空間型モデル(switching  state  space  model)として知られるモデルクラスの一例であり、これは、１つまたは複数の先行するフレーム中のパラメータの値と、そのフレームについて選択された１つまたは複数の定数とに基づいて現在のフレームのパラメータ値をモデル化する。
【００１０】
ＨＤＭの問題の１つは、期待値最大化(Expectation-Maximization)アルゴリズムなどの一般的なトレーニングアルゴリズムがＨＤＭの場合は扱いにくくなるので、トレーニングするのが難しい事である。これは主として、入力値のシーケンス(sequence  of  input  value)が与えられたとき隠れパラメータ(hidden  parameter)のシーケンスについて事後確率(posterior  probability)を求めるには、すべての可能なスピーチ単位のシーケンスにわたって隠れパラメータと可能なスピーチ単位の組合せの確率を合計しなければならない事による。この結果、入力値のフレームが１つ増すごとに計算が指数関数的に増加する。
【００１１】
この問題を克服するために、一部の従来技術のシステムでは、トレーニングの際に固定されたスピーチ単位のシーケンスを想定している。ＨＤＭをトレーニングする前に、ＨＭＭトレーニングを使用することにより、そのシーケンスを定義するスピーチ単位間の境界(boundary)が設定される。これは、スピーチ単位の境界パラメータ(boundary  parameter)が隠れ動的モデル(hidden  dynamic  model)の他のパラメータと異なる基準に基づいて固定されるので、理論的には最適ではない。
【００１２】
したがって、隠れ動的モデルの他のパラメータと共に境界をトレーニングすることができ、同時にそのようなトレーニングに伴う扱いにくさを克服するトレーニングシステムが必要とされる。
【課題を解決するための手段】
【００１３】
本発明に係る方法は、隠れ生成関連パラメータ(hidden  production-related  parameter)のスイッチング状態空間型モデル(switching  state  space  model)を定義することと、入力値のシーケンス(sequence  of  input  values)に基づいて隠れ生成関連パラメータのシーケンスとスピーチ単位(speech  unit)のシーケンスとの尤度(likelihood)を提供する事後確率(posterior  probability)を近似する(approximating)ことを含む。事後確率を近似する際にはスピーチ単位の境界(boundary)は固定(fix)されない。一実施形態では混合ガウス近似(a  mixture  of  Gaussian  approximation)が使用される。別の実施形態ではＨＭＭ事後確率近似(HMM  posterior  approximation)が使用される。
【発明を実施するための最良の形態】
【００１４】
図１は、本発明を実施することが可能な適切なコンピューティングシステム環境１００の一例を示す。コンピューティングシステム環境１００は、適切なコンピューティング環境の一例に過ぎず、本発明の使用または機能性の範囲について何らの制限を示唆するものではない。また、コンピューティング環境１００は、例示的動作環境１００に示す構成要素の１つまたは組合せに関する依存性や必要性を有するものとも解釈すべきでない。
【００１５】
本発明は、多数のこの他の汎用または特殊目的のコンピューティングシステム環境または構成で動作することができる。本発明に使用するのに適する可能性があるよく知られるコンピューティングシステム、環境、および／または構成の例には、これらに限定しないが、パーソナルコンピュータ、サーバコンピュータ、ハンドヘルドまたはラップトップ機器、マルチプロセッサシステム、マイクロプロセッサを利用したシステム、セットトップボックス、プログラム可能な家電製品、ネットワークＰＣ、ミニコンピュータ、メインフレームコンピュータ、テレフォニーシステム、上記のシステムまたは機器を含む分散コンピューティング環境などがある。
【００１６】
本発明は、コンピュータによって実行されるプログラムモジュールなどのコンピュータ実行可能命令に概ね即して説明することができる。一般に、プログラムモジュールには、特定のタスクを行うか、特定の抽象データ型を実装するルーチン、プログラム、オブジェクト、コンポーネント、データ構造などが含まれる。本発明は、通信ネットワークを通じてリンクされた遠隔の処理機器によってタスクが行われる分散コンピューティング環境で実施されるように設計される。分散コンピューティング環境では、プログラムモジュールは、メモリ記憶装置を含むローカルおよびリモート両方のコンピュータ記憶媒体に配置される。
【００１７】
図１を参照すると、本発明を実施する例示的システムは、コンピュータ１１０の形態の汎用コンピューティングデバイスを含む。コンピュータ１１０の構成要素は、これに限定しないが、処理ユニット１２０、システムメモリ１３０、およびシステムメモリを含む各種のシステム構成要素を処理ユニット１２０に結合するシステムバス１２１を含むことができる。システムバス１２１は、各種のバスアーキテクチャの任意のものを使用したメモリバスまたはメモリコントローラ、周辺機器バス、およびローカルバスを含む数種のバス構造のいずれでもよい。これらに限定しないが、例として、そのようなアーキテクチャには、ＩＳＡ(Industry  Standard  Architecture)バス、ＭＣＡ(Micro  Channel  Architecture)バス、ＥＩＳＡ(Enhanced  ISA)バス、ＶＥＳＡ(Video  Electronics  Standards  Association)ローカルバス、およびメザニンバスとも称されるＰＣＩ(Peripheral  Component  Interconnect)バスが含まれる。
【００１８】
コンピュータ１１０は通例、各種のコンピュータ可読媒体を含む。コンピュータ可読媒体は、コンピュータ１１０によるアクセスが可能な任意の利用可能媒体でよく、揮発性および不揮発性の媒体、取り外し可能および取り外し不能の媒体の両方を含む。これに限定しないが、例として、コンピュータ可読媒体は、コンピュータ記憶媒体と通信媒体を含むことができる。コンピュータ記憶媒体は、コンピュータ可読命令、データ構造、プログラムモジュール、あるいはその他のデータなどの情報を記憶するための方法または技術として実施された揮発性および不揮発性、取り外し可能および取り外し不能の媒体を含む。コンピュータ記憶媒体には、これらに限定しないが、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュメモリまたは他のメモリ技術、ＣＤ−ＲＯＭ、デジタル多用途ディスク（ＤＶＤ）または他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージまたは他の磁気記憶装置、または所望の情報の記憶に使用することができ、コンピュータ１１０によるアクセスが可能な任意の他の媒体が含まれる。通信媒体は通例、コンピュータ可読命令、データ構造、プログラムモジュールまたはその他のデータを、搬送波や他の移送機構などの変調データ信号として実施し、任意の情報伝達媒体を含む。用語「変調されたデータ信号(modulated  data  signal)」とは、信号中に情報を符号化する形でその特性の１つまたは複数を設定または変化させた信号を意味する。これらに限定しないが、例として、通信媒体には、配線ネットワークや直接配線接続などの配線媒体と、音響、ＲＦ、赤外線、およびその他の無線媒体などの無線媒体が含まれる。上記の媒体の組合せもコンピュータ可読媒体の範囲に含めるべきである。
【００１９】
システムメモリ１３０は、読み取り専用メモリ（ＲＯＭ）１３１およびランダムアクセスメモリ（ＲＡＭ）１３２など揮発性および／または不揮発性のメモリ形態のコンピュータ記憶媒体を含む。起動時などにコンピュータ１１０内の要素間の情報転送を助ける基本ルーチンを含んだ基本入出力システム１３３（ＢＩＯＳ）は、通例ＲＯＭ１３１に記憶される。ＲＡＭ１３２は通例、処理ユニット１２０から即座のアクセスが可能な、および／または処理ユニット１２０によって現在操作中のデータおよび／またはプログラムモジュールを保持する。これに限定しないが、例として図１には、オペレーティングシステム１３４、アプリケーションプログラム１３５、他のプログラムモジュール１３６、およびプログラムデータ１３７を示す。
【００２０】
コンピュータ１１０は、この他の取り外し可能／取り外し不能、揮発性／不揮発性のコンピュータ記憶媒体も含むことができる。単なる例として、図１には、取り外し不能、不揮発性の磁気媒体の読み書きを行うハードディスクドライブ１４１、取り外し可能、不揮発性の磁気ディスク１５２の読み書きを行う磁気ディスクドライブ１５１、およびＣＤ−ＲＯＭや他の光学媒体などの取り外し可能、不揮発性の光ディスク１５６の読み書きを行う光ディスクドライブ１５５を示す。例示的動作環境で使用できるこの他の取り外し可能／取り外し不能、揮発性／不揮発性のコンピュータ記憶媒体には、これらに限定しないが、磁気テープカセット、フラッシュメモリカード、デジタル多用途ディスク、デジタルビデオテープ、固体ＲＡＭ、固体ＲＯＭなどがある。ハードディスクドライブ１４１は、通例、インターフェース１４０などの取り外し不能メモリインターフェースを通じてシステムバス１２１に接続され、磁気ディスクドライブ１５１および光ディスクドライブ１５５は通例、インターフェース１５０などの取り外し可能メモリインターフェースによってシステムバス１２１に接続される。
【００２１】
上述した図１に示すドライブとそれに関連付けられたコンピュータ記憶媒体は、コンピュータ１１０のコンピュータ可読命令、データ構造、プログラムモジュール、および他のデータの記憶を提供する。図１では、例えば、ハードディスクドライブ１４１にオペレーティングシステム１４４、アプリケーションプログラム１４５、他のプログラムモジュール１４６、およびプログラムデータ１４７を記憶している。これらのコンポーネントは、オペレーティングシステム１３４、アプリケーションプログラム１３５、他のプログラムモジュール１３６、およびプログラムデータ１３７と同じものでも異なるものでもよいことに留意されたい。ここでは、オペレーティングシステム１４４、アプリケーションプログラム１４５、他のプログラムモジュール１４６、およびプログラムデータ１４７には、それらが少なくとも異なるコピーであることを表すために異なる参照符合を付している。
【００２２】
ユーザは、キーボード１６２、マイクロフォン１６３、およびマウス、トラックボール、あるいはタッチパッドなどのポインティングデバイス１６１などの入力装置を通じてコンピュータ１１０にコマンドと情報を入力することができる。他の入力装置（図示せず）には、ジョイスティック、ゲームパッド、衛星受信アンテナ、スキャナなどが可能である。これらおよびその他の入力装置は、システムバスに接続されたユーザ入力インターフェース１６０を通じて処理ユニット１２０に接続されるが、パラレルポート、ゲームポート、ユニバーサルシリアルバス（ＵＳＢ）などの他のインターフェースおよびバス構造によって接続することも可能である。モニタ１９１または他のタイプの表示装置もビデオインターフェース１９０などのインターフェースを介してシステムバス１２１に接続される。モニタ以外に、コンピュータは、スピーカ１９７やプリンタ１９６などの他の周辺出力装置も含むことができ、それらは出力周辺インターフェース１９５を通じて接続することができる。
【００２３】
コンピュータ１１０は、リモートコンピュータ１８０などの１つまたは複数のリモートコンピュータとの論理接続を使用するネットワーク環境で操作される。リモートコンピュータ１８０は、パーソナルコンピュータ、ハンドヘルド機器、サーバ、ルータ、ネットワークＰＣ、ピアデバイス、またはその他の一般的なネットワークノードでよく、通例はコンピュータ１１０との関係で上記で述べた要素の多くまたはすべてを含む。図１に示す論理接続は、ローカルエリアネットワーク（ＬＡＮ）１７１およびワイドエリアネットワーク（ＷＡＮ）１７３を含むが、他のネットワークを含むことも可能である。このようなネットワーキング環境は、オフィス、企業内のコンピュータネットワーク、イントラネット、インターネットなどに一般的に見られる。
【００２４】
ＬＡＮネットワーキング環境で使用される場合、コンピュータ１１０は、ネットワークインターフェースあるいはアダプタ１７０を通じてＬＡＮ１７１に接続される。ＷＡＮネットワーク環境で使用される場合、コンピュータ１１０は通例、インターネットなどのＷＡＮ１７３を通じて通信を確立するためのモデム１７２または他の手段を含む。モデム１７２は、内蔵型でも外付け型でもよく、ユーザ入力インターフェース１６０または他の適切な機構を介してシステムバス１２１に接続されることができる。ネットワーク環境では、コンピュータ１１０との関係で図示されたプログラムモジュール、またはその一部は、遠隔のメモリ記憶装置に記憶されることができる。これに限定しないが、例として、図１ではリモートアプリケーションプログラム１８５がリモートコンピュータ１８０にある。図のネットワーク接続は例示的なものであり、コンピュータ間に通信リンクを確立する他の手段を使用してよいことは理解されよう。
【００２５】
図２は、例示的なコンピューティング環境であるモバイル機器２００のブロック図である。モバイル機器２００は、マイクロプロセッサ２０２、メモリ２０４、入出力（Ｉ／Ｏ）コンポーネント２０６、およびリモートコンピュータまたは他のモバイル機器と通信する通信インターフェース２０８を含む。一実施形態では、上述のコンポーネントは、適切なバス２１０を通じて相互と通信するように結合される。
【００２６】
メモリ２０４は、バッテリバックアップモジュール（図示せず）を備えるランダムアクセスメモリ（ＲＡＭ）などの不揮発性の電子メモリとして実施され、メモリ２０４に記憶された情報は、モバイル機器２００への全体的な電力が遮断された時に失われない。メモリ２０４の一部は、プログラム実行のためのアドレス指定可能なメモリとして割り振られることが好ましく、一方、メモリ２０４の別の部分は、ディスクドライブにおける記憶をシミュレートするなど記憶のために使用されることが好ましい。
【００２７】
メモリ２０４は、オペレーティングシステム２１２、アプリケーションプログラム２１４と、オブジェクトストア２１６を含む。動作中、オペレーティングシステム２１２は、メモリ２０４からプロセッサ２０２によって実行されることが好ましい。好ましい一実施形態で、オペレーティングシステム２１２は、マイクロソフト社から市販されるＷＩＮＤＯＷＳ（登録商標）ＣＥブランドのオペレーティングシステムである。オペレーティングシステム２１２は、モバイル機器向けに設計されることが好ましく、公開されたアプリケーションプログラミングインターフェースおよびメソッドのセットを通じてアプリケーション２１４によって利用されることができるデータベース機能を実装する。オブジェクトストア２１６のオブジェクトは、少なくとも部分的には公開されたアプリケーションプログラミングインターフェースおよびメソッドへの呼び出しに応答してアプリケーション２１４およびオペレーティングシステム２１２によって保持される。
【００２８】
通信インターフェース２０８は、モバイル機器２００が情報の送受信を行うことを可能にする多数のデバイスと技術に相当する。このデバイスには、数例を挙げると有線モデムおよび無線モデム、衛星受信機、放送チューナなどが含まれる。モバイル機器２００は、コンピュータに直接接続してコンピュータとデータを交換することもできる。そのような場合、通信インターフェース２０８は、いずれもストリーミング情報を送信することが可能な赤外線受信機、あるいはシリアルまたはパラレルの通信接続とすることができる。
【００２９】
入出力コンポーネント２０６は、タッチセンシティブな画面、ボタン、ローラ、マイクロフォンなどの各種の入力装置と、音声生成器、振動装置、およびディスプレイを含む各種の出力装置を含む。上記のデバイスは、例であり、これらすべてがモバイル機器２００にある必要はない。また、本発明の範囲内で他の入出力装置がモバイル機器２００に付加される、あるいはモバイル機器２００とともに存在することが可能である。
【００３０】
本発明は、音声の生成的なモデルを提供する。このモデルの下では、話者による試みの出力として音声が表されて、スピーチ単位のシーケンスの言語学的な定義を音声的に実施する。この試みの際に、話者は、現在のスピーチ単位に関連付けられたターゲットに向かう、（反復的なノイズと共に状態空間の形成を使用して）統計的に定義されたトラジェクトリに従う生成に関連する値を生成する。本発明の実施形態では、このトラジェクトリは、スイッチング状態空間型モデルとしてモデル化される。
【００３１】
本発明のモデルは、フレームごとにノイズが追加されて反復的にトラジェクトリが定義される特殊な形態の隠れトラジェクトリモデル(Hidden  Trajectory  Model)である。この状態空間モデルは、生成に関連する隠れパラメータ(hidden  production-related  parameter)（声道共鳴(vocal  tract  resonance)周波数など）を記述する動的モデルあるいはトラジェクトリモデルコンポーネントと、生成関連パラメータ(production-related  parameter)をＭｅｌ周波数ケプストラム係数(Mel-Frequency  Cepstral  Coefficients)などの観察可能な音響的特徴(observable  acoustic  feature)に変換するマッピングモデルコンポーネント(mapping  model  component)、の２つの層を含む。状態空間モデルの状態式(state  equation)は、生成関連パラメータ(production-related  parameter)の連続した状態値シーケンス(sequence  of  continuous  state  value)（ｘ１，．．．，ｘｎ，．．．，ｘＮ）を予測する。マッピングモデルすなわち観察式(observation  equation)は、連続した隠れた状態値(continuous  hidden  state  value)のシーケンスを与えられて、音響観察ベクトル(acoustic  observation  vector)ｙｎのシーケンスを予測する。
【００３２】
反復的に定義されたトラジェクトリとマッピングモデルは、次の２つの式によって簡潔に表されることができ、
Ｘｎ＝Ａｓｘｎ−１＋（Ｉ−Ａｓ）ｕｓ＋ｗ                                式１
ｙｎ＝Ｃｓｘｎ＋ｃｓ＋ｖ                                                式２
【００３３】
ｎおよびｓはそれぞれフレーム番号(frame  number)とスピーチ単位のインデックス(speech  unit  index)であり、ｘは隠れ生成関連パラメータ(hidden  production-related  parameter)であり、ｙは音響特徴ベクトル(acoustic  feature  vector)であり、ＡＳとＣＳはスピーチ単位に依存するシステム行列(speech-unit  dependent  system  matrix)であり、μｓはスピーチ単位に依存するターゲット(speech-unit  dependent  target)であり、Ｉは識別行列(identity  matrix)であり、ｃｓはスピーチ単位依存定数(speech-unit  dependent  constant)であり、ｗとｖはノイズ項(noise  term)である。
【００３４】
一実施形態では、式１および２のモデルは次のように確率分布(probability  distribution)の項として表され、
ｐ（ｓｎ＝ｓ｜ｓｎ−１＝ｓ’）＝πｓｓ’                                式３
ｐ（ｘｎ｜ｓｎ＝ｓ，ｘｎ−１）＝Ｎ（ｘｎ｜Ａｓｘｎ−１＋ａｓ，Ｂｓ）    式４
ｐ（ｙｎ｜ｓｎ＝ｓ，ｘｎ）＝Ｎ（ｙｎ｜Ｃｓｘｎ＋ｃｓ，Ｄｓ）            式５
【００３５】
ＢＳおよびＤＳは、精度行列(precision  matrix)（共分散行列(covariance  matrix)の逆）であり、ノイズ項ｗおよびｖに関連付けられた分散と、ａｓ＝（Ｉ−Ａｓ）μｓに基づく。
【００３６】
一般に、式３〜５のモデルパラメータをトレーニングするには反復的な２ステッププロセスが必要となる。第１のステップは推論(inference)と称され、最初のモデルパラメータのセットを与えられて事後確率ｐ（ｓ１：Ｎ，ｘ１：Ｎ｜ｙ１：Ｎ）が計算される。学習あるいはパラメータ推定(learning  or  parameter  estimation)と称される第２ステップではモデルパラメータが更新される。モデルパラメータが収束するか、または何らかの最大の反復回数に達するまで、これらのステップが繰り返される。一般化された期待値最大化トレーニング(Expectation  Maximization  training)を行う際には、Ｅステップが推論ステップ(inference  step)であり、Ｍステップが学習ステップ(learning  step)である。
【００３７】
事後確率の計算は煩瑣であるため、推論ステップは式３〜５のモデルに直接行われることはできない。本発明の一実施形態は、混合ガウスモデルを用いて事後確率の分布を近似することによりこの問題を克服する。本発明の別の実施形態では、ＨＭＭ事後確率を用いて事後分布を近似することによってこの問題を克服する。そのような近似と変分計算(variational  comutation)を使用して事後確率を推定することができる。それぞれの近似法について下記で個別に説明する。
【００３８】
混合ガウス(Mixture  Of  Gaussians)
本発明の混合ガウスの実施形態では、事後確率ｐ（ｓ１：Ｎ，ｘ１：Ｎ｜ｙ１：Ｎ）は、ｑ（ｓ１：Ｎ，ｘ１：Ｎ｜ｙ１：Ｎ）と近似され、これは次のように定義される。
【００３９】
【数１】
2004310098.tif 000003
【００４０】
ｑ（）は確率を表す。式６の近似では、フレームｎにおける生成に関連する値の確率は、他の時間フレーム中の生成関連パラメータ値に依存せず、フレームｎにおけるスピーチ単位の値のみに依存し、他フレームのスピーチ単位の値には依存しないことに留意されたい。これにより、近似値を計算するために行わなければならない計算の数が大幅に減る。
【００４１】
近似値と実際の事後分布の開きを可能な限り小さくすることにより、本発明者らは、確率ｑ（ｘｎ｜ｓｎ，ｙ１：Ｎ）が、ガウス分布
ｑ（ｘｎ｜ｓｎ，ｙ１：Ｎ）＝Ｎ（ｘｎ｜ρｓ，ｎ，Γｓ，ｎ）              式７
に従うことを発見し、平均値ρｓ，ｎと共分散Γｓ，ｎは次の式によって得られる。
【００４２】
【数２】
2004310098.tif 000004
【００４３】
γｓ，ｎ＝ｑ（ｓｎ＝ｓ｜ｙ１：Ｎ）はフレームｎにおけるあるスピーチ単位確率であり、次のように計算される。
ｌｏｇγｓ，ｎ＝ｆ１＋ｆ２＋ｆ３                                      式１０
【００４４】
ここで
【００４５】
【数３】
2004310098.tif 000005
【００４６】
＜＞は、大きさが等しい２つのベクトルまたは行列の要素単位の積を合計することによって得られるスカラー量を表し、ｓ’が合計のスピーチ単位のインデックスである。本発明の実施では、可能なシーケンスｓを強く制約するトレーニングスクリプトが利用できるため、上記の式のｓ’変数（離散状態）によって示される合計の項はトレーニング段階中に激減されている。
【００４７】
一実施形態では、推論ステップは、まず式１０とρｓ，ｎとΓｓ，ｎの以前の値を使用して各ｓ，ｎの組み合わせについてγｓ，ｎを決定することによって行われる。式１０のγｓ，ｎの計算はγｓ，ｎに依存するので、式１０は、γｓ，ｎが収束するまで繰り返し評価される。次いで、式１０で求められたγｓ，ｎの新しい値を使用して式８が評価されて、Γｓ，ｎの更新された値を生成する。次いで、式９でΓｓ，ｎの更新値をγｓ，ｎとともに使用してρｓ，ｎを決定する。式８および９は、結合一次方程式であり、疎行列の技法によって効率的に解かれることができることに留意されたい。このプロセスは反復的に繰り返されてγｓ，ｎ、Γｓ，ｎ、およびρｓ，ｎの値の精度を上げることができる。
【００４８】
推論ステップが完了すると、学習ステップでγｓ，ｎ、Γｓ，ｎ、およびρｓ，ｎの値を使用して、次の式によりモデルパラメータΘ＝｛Ａ１：Ｓ，ａ１：Ｓ，Ｂ１：Ｓ，Ｃ１：Ｓ，ｃ１：Ｓ，Ｄ１：Ｓ｝の値を設定する。
【００４９】
【数４】
2004310098.tif 000006
【００５０】
この推論および学習のステップが数回反復されてトレーニングを完了することができる。
【００５１】
ＨＭＭ事後確率(HMM  Posterior)
第２の実施形態では、次のように定義されるＨＭＭの事後確率を使用して事後確率が近似される。
【００５２】
【数５】
2004310098.tif 000007
【００５３】
混合ガウスモデルと同様に、ＨＭＭ事後確率モデルの確率ｑ（ｘｎ｜ｓｎ，ｙ１：Ｎ）は、平均値ρｓ，ｎ、共分散行列Γｓ，ｎのガウス分布である。平均値ρｓ，ｎおよび共分散行列Γｓ，ｎは、γｓ，ｎの新しい定義とともに上記の式８および９を用いて計算される。具体的には、事後遷移の確率(posterior  transition  probability)ηｓ’ｓ，ｎ＝ｑ（ｓｎ＝ｓ｜ｓｎ−１＝ｓ’，ｙ１：Ｎ）も定義するバックワード−フォワード(backward-forward)プロセスを用いてγｓ，ｎが決定される。
【００５４】
バックワード−フォワード(backward-forward)プロセスは、すべてのｓについて値ｚｓ，Ｎ＋１を１に初期化することによって開始する。バックワード(backward)パスでは、ｎ＝Ｎ，．．．，２について次の計算が行われる。
【００５５】
【数６】
2004310098.tif 000008
【００５６】
ｎ＝１について、次の計算が行われる。
【００５７】
【数７】
2004310098.tif 000009
【００５８】
フォワード(forward)パスでは、ｎ＝２，．．．，Ｎについて次の計算が行われる。
【００５９】
【数８】
2004310098.tif 000010
【００６０】
ここで、
【００６１】
【数９】
2004310098.tif 000011
【００６２】
このように、推定ステップでは、式２１〜２７のバックワード−フォワード(backward-forward)プロセスを用いてγｓ，ｎが最初に計算される。次いで、上記の式８および９と計算されたγｓ，ｎを用いて平均値ρｓ，ｎと共分散Γｓ，ｎが計算される。γｓ，ｎ、値ρｓ，ｎ、およびΓｓ，ｎの値が安定値に達するように、これらのステップを繰り返してから学習ステップを行うことができる。
【００６３】
推論ステップが完了すると、学習ステップを行って、次の式を使用してモデルパラメータΘ＝｛Ａ１：Ｓ，ａ１：Ｓ，Ｂ１：Ｓ，Ｃ１：Ｓ，ｃ１：Ｓ，Ｄ１：Ｓ｝の値を設定することができる。
【００６４】
【数１０】
2004310098.tif 000012
【００６５】
トレーニングの改善(Traning  Refinements)
当業者には認識されるように、上記で混合ガウスとＨＭＭ事後確率モデルについて述べたような反復的な局所最適化トレーニングのアルゴリズムは、モデルパラメータの初期化値がトレーニングによって識別される値に近い場合に、より良好に機能する。本発明の一部の実施形態では、生成関連パラメータの目標パラメータａｓは、ハンドラベルされた(hand-labeled)生成に関連する値(production-relate  value)に基づいて設定される。生成に関連する値が声道共鳴（ＶＴＲ）である特定の一実施形態では、目標パラメータは、話者から得られるハンドラベルされたＶＴＲデータに基づいて初期化される。
【００６６】
上記で行う近似法では音の境界は固定されないので、各フレームで音の遷移が生じる可能性がある。自然音声の場合は各音にいくらかの最小の持続時間があり、各フレームで遷移があってはならない。これに対処するために、本発明の実施形態は、各フレームで他の音に遷移する確率を提供する、時間的に変化する一続きの遷移行列を利用する。この行列は、ＨＭＭトレーニングで識別されるフォネティック単位の境界を変更することによって作成される。境界の変更には、各境界を、２つのフレーム間に存在する固定された境界から、いくつかのフレームにわたる確率的な境界に変換することが伴う。固定された境界では、各スピーチ単位のγｓ，ｎの値は、そのフレームのスピーチ単位確率が１００％であることを意味する１か、または、そのフレームのスピーチ単位確率がゼロであることを意味する０のいずれかである。変更後の境界では、γｓ，ｎの値は０から１の間の任意の数になる。
【００６７】
例えば、ＨＭＭでスピーチ単位ｓ１とスピーチ単位ｓ２の間の固定された境界を予測する場合、一実施形態では、スピーチ単位ｓ１とスピーチ単位ｓ２の確率は、固定された境界の前の３フレームと固定された境界後の３フレームについては０．５に設定される。別の実施形態では、スピーチ単位ｓ１およびｓ２の確率は、固定された境界の前後のフレームにわたり徐々に変化する。例えば、個々のフレームにわたるスピーチ単位ｓ１の確率は、［１，０．８，０．６，０．５，０．４，０．２，０］になり、一方、同じフレームにわたるスピーチ単位ｓ２の確率は［０，０．２，０．４，０．５，０．６，０．８，１］になる。あるフレームまたは隣接するフレームについて予測されないスピーチ単位は、確率がゼロになることに留意されたい。
【００６８】
境界の各側(each  side  of  the  boundary)にあるフレームの数は、３でなくともよく、ＨＭＭトレーニングによって設定される各スピーチ単位の中間点に基づくことができることに留意されたい。
【００６９】
隠れ生成パラメータの回復(Hidden  Production  Parameter  Recovery)
上記のように、本発明のモデルが基盤とする生成関連パラメータは、隠れており、直接測定されることができない。しかし、システムの性能を判断し、声道共鳴などの隠れた生成関連パラメータについてのデータを収集するために、隠れた生成関連パラメータの値を回復できることが望ましい。
【００７０】
本発明では、これは、上述の混合ガウス近似か、ＨＭＭ事後確率の近似を使用してγｓ，ｎおよびρｓ，ｎの値がトレーニングされると容易に行われることができる。これらの値が分かると、隠れ生成関連パラメータは単に次のようになる。
【００７１】
【数１１】
2004310098.tif 000013
【００７２】
音声認識(Speech  Recognition)
上記の近似法の１つを使用してモデルパラメータがトレーニングされると、そのモデルパラメータと近似値を使用して音声認識を行うことができる。これには、音声信号を表す観察特徴ベクトルのシーケンスを与えられて、音などのスピーチ単位の最も可能性の高いシーケンスを識別することが伴う。
【００７３】
混合ガウス近似の場合は、単に観察特徴ベクトル(observation  feature  vector)とトレーニングされたモデルパラメータΘ＝｛Ａ１：Ｓ，ａ１：Ｓ，Ｂ１：Ｓ，Ｃ１：Ｓ，ｃ１：Ｓ，Ｄ１：Ｓ｝に基づいてγｓ，ｎ、Γｓ，ｎ、およびρｓ，ｎを決定することによって音声認識が行われることができる。そしてフレームｎでγｓ，ｎが最大のスピーチ単位ｓがフレームｎのスピーチ単位として選択される。
【００７４】
不自然なスピーチ単位の切り替えを回避するために、この認識システムは、スピーチ単位に最小限の持続時間制約(duration  constraint)を付加する遷移行列で増強されることができる。したがって、この遷移行列では、スピーチ単位間の各遷移は関連付けられた確率を有し、少なくとも各スピーチ単位のいくらかの最小数のフレームについては、あるスピーチ単位内に留まる確率は別のスピーチ単位に遷移する確率よりも高い。この遷移行列を用いて音声認識を行うには、遷移の確率とγｓ，ｎの確率を与えられて可能なスピーチ単位を通る最も可能性の高いパスを識別するビタビデコーダが使用されることができる。
【００７５】
ＨＭＭ事後確率の近似(HMM  posterior  approximation)の場合は、観察特徴ベクトルとトレーニングされたモデルパラメータΘ＝｛Ａ１：Ｓ，ａ１：Ｓ，Ｂ１：Ｓ，Ｃ１：Ｓ，ｃ１：Ｓ，Ｄ１：Ｓ｝に基づいてγｓ，ｎ、ηｓｓ’，ｎ、Γｓ，ｎ、およびρｓ，ｎを決定することによって音声認識が行われる。次いで、最初のフレームのスピーチ単位確率(speech  unit  probability)γｓ，ｌと、遷移確率(transition  probability)ηｓｓ’，ｎがビタビ復号で使用されて、最も可能性の高いスピーチ単位のシーケンスｓを識別する。数式の形で表すと、ビタビデコーダは、次の式に従って最大のパススコア(maximum  path  score)ＶＮを見つける。
【００７６】
【数１２】
2004310098.tif 000014
【００７７】
混合ガウス近似と同様に、遷移確率を変更して他のスピーチ単位に遷移する尤度に対してスピーチ単位内に留まる尤度を上げることにより、持続時間制約がＨＭＭ事後確率の復号に付加されることができる。
【００７８】
図３は、本発明を使用することが可能な音声認識システムのブロック図を示す。図３において、トレーナまたはユーザである話者３００がマイクロフォン３０４に話しかける。マイクロフォン３０４は、１つまたは複数のノイズ源３０２から付加的なノイズも受け取る。マイクロフォン３０４で検出されたオーディオ信号は、電気信号に変換されてアナログデジタル変換器３０６に提供される。
【００７９】
Ａ／Ｄ変換器３０６は、マイクロフォン３０４からのアナログ信号を一続きのデジタル値に変換する。いくつかの実施形態では、Ａ／Ｄ変換器３０６は、１６ｋＨｚ、１サンプリングにつき１６ビットでアナログ信号をサンプリングし、それにより毎秒３２キロバイトの音声データを生成する。これらのデジタル値はフレームコンストラクタ３０７に提供され、コンストラクタ３０７は一実施形態で、この値を、１０ミリ秒ずつ間隔を空けて開始する２５ミリ秒のフレームにグループ化する。
【００８０】
フレームコンストラクタ(frame  constructor)３０７によって生成されたデータのフレームは特徴抽出器(feature   extractor)３０８に提供され、抽出器３０８は各フレームから特徴を抽出する。特徴抽出モジュールの例には、線形予測符号化（ＬＰＣ）、ＬＰＣから派生したケプストラム、知覚線形予測（ＰＬＰ）、聴覚モデル特徴抽出、およびＭｅｌ周波数ケプストラム係数（ＭＦＣＣ）特徴抽出を行うモジュールが含まれる。本発明はこれらの特徴抽出モジュールに限定されず、本発明との関連で他のモジュールを使用できることに留意されたい。
【００８１】
一続きの特徴ベクトルがトレーナ(trainer)３２４に提供され、入力信号がトレーニング信号である場合、トレーナ３２４は、その特徴ベクトルとトレーニングテキスト３２６を使用して本発明の生成モデル(generative  model)３２８をトレーニングする。例えば、上述のＥＭトレーニングアルゴリズムが使用されて生成モデルのパラメータΘ＝｛Ａ１：Ｓ，ａ１：Ｓ，Ｂ１：Ｓ，Ｃ１：Ｓ，ｃ１：Ｓ，Ｄ１：Ｓ｝をトレーニングすることができる。上記のように、生成モデル３２８をトレーニングするには、トレーナ３２４は、上記の混合ガウス近似またはＨＭＭ事後確率の近似などの近似モデル３２７をトレーニングする。
【００８２】
上述のように、ＥＭトレーニングアルゴリズムは反復的である可能性がある。そのような場合、トレーナ３２４は、近似モデル３２７をトレーニングする際には生成モデル３２８にアクセスし、生成モデル３２８をトレーニングする際には近似モデル３２７にアクセスする。
【００８３】
生成モデル３２８がトレーニングされると、入力音声信号が観察特徴ベクトルのストリームに変換される。その特徴ベクトルはトレーナ３２４に提供され、トレーナ３２４は、観察ベクトルと生成モデル３２８のパラメータに基づいて近似モデル３２７のモデルパラメータを設定する。次いで、デコーダ３１２が、特徴ベクトルのストリーム、レキシコン３１４、言語モデル３１６、近似モデル３２７、および生成モデル３２８に基づいて最も可能性の高い単語のシーケンスを識別する。一実施形態では、レキシコン３１４は、デコーダ３１２によってトラバースされて特徴ベクトルのシーケンスから単語を識別する有限状態ネットワークを定義する。上記のように、上記では遷移行列と称したこのネットワークは、単語を構成するスピーチ単位の持続時間制約を含むことができる。
【００８４】
最も可能性の高い仮説単語(hypothesis  word)のシーケンスが信頼度測定モジュール３２０に提供される。信頼度測定モジュール３２０は、部分的には第２の音響モデル（図示せず）に基づいて、音声レコグナイザによって不適当に識別された可能性が最も高い単語を識別する。信頼度測定モジュール３２０は次いで、どの単語が不適当に識別された可能性があるかを示す識別子と共に仮説単語のシーケンスを出力モジュール３２２に提供する。当業者は、信頼度測定モジュール３２０は本発明の実施に必須ではないことを理解されよう。
【００８５】
本発明について特定の実施形態を参照して説明したが、当業者には、本発明の主旨および範囲から逸脱せずに形態および詳細の変更を加えてよいことが理解されよう。
【図面の簡単な説明】
【００８６】
【図１】本発明を実施することが可能なコンピューティング環境の一例を示すブロック図である。
【図２】本発明を実施することが可能な代替のコンピューティング環境を示すブロック図である。
【図３】本発明の一実施形態における音声認識システムを示すブロック図である。
【符号の説明】
【００８７】
１００  コンピューティングシステム環境
１１０、１８０  コンピュータ
１２０  処理ユニット
１２１  システムバス
１３０  システムメモリ
１３１  ＲＯＭ
１３２  ＲＡＭ
１３３  ＢＩＯＳ
１３４、１４４、２１２  オペレーティングシステム
１３５、１４５、１８５、２１４  アプリケーションプログラム
１３６、１４６  プログラムモジュール
１３７、１４７  プログラムデータ
１４０、１５０  インターフェース
１４１  ハードディスクドライブ
１５１  磁気ディスクドライブ
１５２  磁気ディスク
１５５  光ディスクドライブ
１５６  光ディスク
１６０  ユーザ入力インターフェース
１６１  ポインティングデバイス
１６２  キーボード
１６３  マイクロフォン
１７０  アダプタ
１７１  ＬＡＮ
１７２  モデム
１７３  ＷＡＮ
１９０  ビデオインターフェース
１９１  モニタ
１９５  出力周辺インターフェース
１９６  プリンタ
１９７  スピーカ
２００  モバイル機器
２０２  マイクロプロセッサ
２０４  メモリ
２０６  Ｉ／Ｏコンポーネント
２０８  通信インターフェース
２１６  オブジェクトストア
３００  話者
３０２  ノイズ源
３０４  マイクロフォン
３０６  Ａ／Ｄ変換器
３０７  フレームコンストラクタ
３０８  抽出器
３１２  デコーダ
３１４  レキシコン
３１６  言語モデル
３２０  信頼度測定モジュール
３２４  トレーナ
３２６  トレーニングテキスト
３２７  近似モデル
３２８  生成モデル
【図１】
2004310098.tif 000015
【図２】
2004310098.tif 000016
【図３】
2004310098.tif 000017
【外国語明細書】
2004310098000001.pdf