(57)【要約】  複数パターンの同時復号化のためにマルチパターンビタビアルゴリズムを使用するシステム、デバイス、および方法。例示的な方法は、回数Ｋの信号反復の各々について時系列信号観測値の複数のセットを受信することができる。さらに、信号観測値の各セットは、時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられている。さらに、複数の時間インデックス付き点の各々において、隠れマルコフモデル（ＨＭＭ）の状態セット内の各状態について状態コストメトリックがプロセッサで計算される。加えて、状態セット内の状態ごとに、および所与の時間インデックス付き点に対して、状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供する。例示的な方法はまた、計算された状態コストメトリックを使用して状態の系列を決定し、ＨＭＭの対応する累積確率測度を決定することもできる。
2013511739.tif 000002
【特許請求の範囲】
【請求項１】
回数Ｋの信号繰り返しの各々について時系列信号観測値の複数のセットを受信することであって、信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられていること、
複数の前記時間インデックス付き点の各々において、隠れマルコフモデル（ＨＭＭ）の状態セット内の各状態について状態コストメトリックをプロセッサで計算することであって、状態の前記セット内の各状態ごと、および所与の時間インデックス付き点に対して、前記状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供すること、
前記計算された状態コストメトリックを使用して状態の系列を決定し、前記ＨＭＭの対応する累積確率測度を決定することを含む方法。
【請求項２】
前記複数の時間インデックス付き点の状態の前記セット内の各状態ごとに前記状態コストメトリックの計算を繰り返し、最尤系列および複数のＨＭＭの対応する累積確率測度を決定すること、
前記複数のＨＭＭの前記対応する累積確率測度に基づいて最尤ＨＭＭを識別することをさらに備える請求項１に記載の方法。
【請求項３】
前記複数の時間インデックス付き点の所与の１つに対し、状態の前記セット内の各状態ごとに前記状態コストメトリックが、
可能な各先行時間インデックス付き点において可能な各事前状態に関連付けられているコストメトリックを計算し、
各状態の最低コストメトリックを選択することによって、決定される請求項１または２のいずれか一項に記載の方法。
【請求項４】
所与の可能な先行状態に対して、前記状態コストメトリックは、前記所与の先行時間インデックス付き点から前記複数の時間インデックス付き点のうちの所与の１つに移動する際に増分される次元に関連付けられている観測値のみに基づく請求項３に記載の方法。
【請求項５】
状態の最尤系列を決定することは、終端時間インデックス付き点の最終状態における最低状態コストメトリックを識別することを含む請求項１から４のいずれか一項に記載の方法。
【請求項６】
前記信号観測値は信号特徴ベクトルである請求項１から５のいずれか一項に記載の方法。
【請求項７】
前記信号特徴ベクトルは、メル周波数ケプストラム係数特徴ベクトル、線形予測符号化係数、スペクトル密度、スペクトルエネルギー、雑音比、音の長さ、相対パワー、フィルタ一致から成るグループから選択される請求項６に記載の方法。
【請求項８】
前記複数の時間インデックス付き点は、Ｋ次元空間を通る対角線からのあらかじめ定められた距離に関して決定される請求項１から７のいずれか一項に記載の方法。
【請求項９】
観測値の各セットはそれぞれの時間期間を有し、前記あらかじめ定められた距離は前記それぞれの時間間隔の差異に基づく請求項８に記載の方法。
【請求項１０】
前記計算された状態コストメトリックを使用して状態の前記系列を決定することは、前記状態コストメトリックに基づいて前記時間インデックス付き点を通るバックトラッキングを備える請求項１から９のいずれか一項に記載の方法。
【請求項１１】
所与の状態の所与の状態コストメトリックを計算することは、すべての候補先行時間インデックス付き点に関連付けられているすべての状態の状態コストメトリック、各候補先行時間インデックス付き点の各状態から所与の状態に推移する確率、前記それぞれの候補先行時間インデックス付き点から推移するそれぞれの確率、および状態の前記セット内の前記状態から出力される前記観測値の同時確率に基づく請求項１から１０のいずれか一項に記載の方法。
【請求項１２】
状態の前記決定された系列は、観測値の前記セットの整合を決定する請求項１から１１のいずれか一項に記載の方法。
【請求項１３】
コンピューティングデバイスによって実行されたとき、前記コンピューティングデバイスに、
回数Ｋの信号繰り返しの各々について時系列信号観測値のＫ個のセットをメモリから取り出すことであって、信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられていること、
複数の隠れマルコフモデル（ＨＭＭ）の各々についてパラメータのセットをメモリから取り出すこと、
複数の前記時間インデックス付き点の各々において、所与のＨＭＭの状態セット内の各状態について状態コストメトリックを計算することであって、状態の前記セット内の各状態ごと、および所与の時間インデックス付き点に対して、前記状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供すること、
前記複数のＨＭＭの各々について累積確率測度を決定すること、
前記複数のＨＭＭから最尤ＨＭＭを決定することを含む操作を実行させる命令を格納したコンピュータ可読媒体を含む製造品。
【請求項１４】
メモリに格納されたソフトウェアアプリケーションを実行するプロセッサを備える装置であって、ソフトウェア命令は、
複数の前記時間インデックス付き点の各々において、所与のＨＭＭの状態セット内の各状態について状態コストメトリックを計算することであって、状態の前記セット内の各状態ごと、および所与の時間インデックス付き点に対して、前記状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供すること、
前記計算された状態コストメトリックを使用して状態の系列を決定し、前記複数のＨＭＭの各々について対応する累積確率測度を決定すること、
前記複数のＨＭＭから最尤ＨＭＭを決定することを含む、プロセッサを備える装置。
【請求項１５】
回数Ｋの信号繰り返しの各々についての時系列信号観測値の複数のセットのデジタル表現であって、信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられているデジタル表現と、
複数の隠れマルコフモデル（ＨＭＭ）の各々に対するパラメータのセットとを格納するメモリをさらに備える請求項１４に記載の装置。
【請求項１６】
音声受信機をさらに備え、前記音声受信機は、
回数Ｋの信号繰り返しの各々について時系列音声信号観測値の複数のセットを受信し、音声信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられ、
回数Ｋの信号繰り返しの各々に対する時系列音声信号観測値の複数のセットを、回数Ｋの信号繰り返しの各々に対する時系列アナログ電気信号観測値の複数のセットに変換する、請求項１４または１５のいずれか一項に記載の装置。
【請求項１７】
回数Ｋの信号繰り返しの各々に対する時系列アナログ電気信号観測値の前記複数のセットを、回数Ｋの信号繰り返しの各々に対する時系列信号観測値の複数のセットのデジタル表現に変換するアナログデジタル変換器をさらに備える請求項１４から１６のいずれか一項に記載の装置。
【請求項１８】
前記プロセッサは、回数Ｋの信号繰り返しの各々に対する時系列信号観測値の複数のセットの前記デジタル表現に基づいて特徴ベクトルの複数のセットを計算する請求項１４から１７のいずれか一項に記載の装置。
【請求項１９】
前記プロセッサは、前記計算された状態コストメトリックを使用して状態の前記系列を状態の前記系列のデジタル表現に変換する請求項１４から１８のいずれか一項に記載の装置。
【請求項２０】
状態の前記系列の前記デジタル表現を出力アナログ電気信号に変換するデジタルアナログ変換器をさらに備える請求項１４から１９のいずれか一項に記載の装置。
【発明の詳細な説明】
【背景技術】
【０００１】
日常の電話／携帯での会話において、会話中の聴取者は、発言のある部分を理解できなかったために話者に発言のそのある部分を繰り返すようにしばしば依頼することがある。そのような状況は、発言の理解度が大きく影響を受けるバックグラウンド雑音がある場合、より頻繁に生じる。音声認識システム、デバイス、および方法は、特に大音量／バースト性のバックグラウンド雑音の存在下で、そのような繰り返される情報を使用して、さまざまな応用分野のために音声をより良好に識別できるようにする。
【０００２】
自動音声認識（ＡＳＲ：Ａｕｔｏｍａｔｉｃ  Ｓｐｅｅｃｈ  Ｒｅｃｏｇｎｉｔｉｏｎ）システムのような、一部の音声認識システムは、テスト条件とトレーニング条件が同程度である場合、良好に機能する。ＡＳＲシステムの一例は、航空会社の自動コールセンタに使用される音声認識システムとすることができる。ＡＳＲシステムを含む多くの音声認識システムは、最も使用される可能性の高い音声の部分を表すデータを含むトレーニングデータを格納する。トレーニングデータは、周辺雑音、異なる話者のアクセント、または音声データに対する任意の他の負の音響効果によって影響を受けない。しかし、現実世界のテスト環境は、トレーニング条件とは異なっている。相加性雑音、音響エコー、および話者のアクセントのようなさまざまな要因は、多くの現実世界のテスト環境における音声認識のパフォーマンスに影響を及ぼすことがある。ＡＳＲは、統計的パターン認識問題として特徴付けることができるので、テストパターンが、モデルをトレーニングするために使用されたパターンとはまったく異なる場合、エラーが発生することもある。ＡＲＳ技術における頑強性を高めるために、（ｉ）モデルの変動性を減少させること、または（ｉｉ）雑音を多発する条件に適応させるように統計モデルパラメータを変更することを含むさまざまな手法が提案されてきた。しかし、パケットがドロップされることもあるパケット通信におけるような、極めて高雑音の条件またはバースト性エラーチャネルの下で、音声認識システムは、繰り返される発話を使用して音声を正確に復号する手法をとることで恩恵を受けることができる。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
本発明は、マルチパターンビタビアルゴリズムを使用して、複数パターンから信号を検出するシステム、デバイス、および方法を開示する。
【課題を解決するための手段】
【０００４】
本開示の１つの実施形態は、回数Ｋの信号の繰り返しの各々について時系列の信号観測値の複数のセットを受信する方法とすることができる。さらに、信号観測値の各セットは、時間インデックス付き点（time-indexed points）を有するＫ次元時間グリッドのそれぞれの次元に関連付けられている。さらに、複数の時間インデックス付き点の各々において、隠れマルコフモデル（ＨＭＭ）の状態セット内の各状態について（for each state in a set of states）状態コストメトリックがプロセッサで計算される。加えて、状態セット内の状態ごとに、および所与の時間インデックス付き点に対して、状態コストメトリック計算は、最尤先行状態（most-likely predecessor state）および対応する最尤先行時間インデックス付き点を提供する。１つの実施形態において、方法は、最終状態および終端時間インデックス付き点におけるコストメトリックを決定することを含む。これはまた、観測値が対応するＨＭＭによって生成された累積確率測度（cumulative probability measure）と呼ぶことができる。したがって、一部の方法はさらに、複数のＨＭＭの各々に対して終端時間インデックス付き点の最終状態におけるコストメトリックを決定すること、次いで最小のコストメトリックおよびその対応するＨＭＭを選択することをさらに含む。次いで、対応するＨＭＭは、パターン（たとえば、音声認識システムにおける語であってもよい）を識別するために使用される。一部の方法はまた、計算された状態コストメトリックを使用して状態の系列を決定すること、およびＨＭＭの対応する累積確率測度を決定することも含むことができる。
【０００５】
さらに、一部の方法は、複数の時間インデックス付き点の状態セット内の各状態ごとに状態コストの計算を繰り返すこと、および最尤系列および複数のＨＭＭの対応する累積確率測度を決定することを伴う。その後、方法は、複数のＨＭＭの、対応する累積確率測度、またはコストメトリックに基づいて、最尤ＨＭＭを識別することができる。方法はまた、複数の時間インデックス付き点の所与の１つに対して、状態セット内の状態ごとに状態コストメトリックが決定されることを含むこともでき、状態コストメトリックは、可能な先行時間インデックス付き点の各々において可能な各事前状態に関連付けられているコストメトリックを計算すること、および各状態ごとに最低のコストメトリックを選択することによって決定される。
【０００６】
一部の実施形態において、所与の可能な先行状態に対して、状態コストメトリックは、所与の先行時間インデックス付き点から、複数の時間インデックス付き点のうちの所与の１つに移動する際に増分される次元に関連付けられた観測値のみに基づく。加えて、一部の方法は、終端時間インデックス付き点の最終状態における最低状態コストを識別することにより、状態の最尤系列を決定することを含むことができる。複数の時間インデックス付き点は、使用される時間次元グリッドからの点を制限するように使用されてもよく、Ｋ次元空間を通る対角線からのあらかじめ定められた距離に関して決定されてもよい。あらかじめ定められた距離は、観測値系列のそれぞれの時間間隔の差異に基づいてもよい。
【０００７】
方法は、すべての候補先行時間インデックス付き点に関連付けられているすべての状態の状態コストメトリック、各候補先行時間インデックス付き点の各状態から所与の状態に推移する確率、それぞれの候補先行時間インデックス付き点から推移するそれぞれの確率、および状態セット内の状態から出力される観測値の同時確率に基づいて所与の状態の所与の状態コストメトリックを計算することを含むことができる。状態の決定された系列はまた、観測値のセットの整合を決定することもできる。
【０００８】
本明細書において説明される一部の実施形態は、ソリッドステートメモリ、コンパクトディスク、デジタルビデオディスクＲＯＭ、磁気記憶媒体などのようなコンピュータ可読媒体を含む製造品の形態をとることができ、コンピュータ可読媒体は、コンピューティングデバイスにより実行されたとき、コンピューティングデバイスに、回数Ｋの信号繰り返しの各々について時系列信号観測値のＫ個のセットをメモリから取り出すことであって、信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられていること、複数のＨＭＭの各々についてパラメータのセットをメモリから取り出すこと、複数の時間インデックス付き点の各々において、ＨＭＭの状態セット内の各状態について状態コストメトリックを計算することであって、状態セット内の各状態ごと、および所与の時間インデックス付き点に対して、状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供すること、複数のＨＭＭの各々について累積確率測度を決定すること、複数のＨＭＭから最尤ＨＭＭを決定することを含む、操作を実行させる命令を格納している。
【０００９】
他の実施形態において、装置は、メモリに格納されたソフトウェアアプリケーションを実行するプロセッサを備え、ソフトウェア命令は、複数の時間インデックス付き点の各々において、所与のＨＭＭの状態セット内の各状態について状態コストメトリックを計算することであって、状態セット内の各状態ごと、および所与の時間インデックス付き点に対して、状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供すること、計算された状態コストメトリックを使用して状態の系列をオプションで決定すること、複数のＨＭＭの各々について対応する累積確率測度を決定すること、複数のＨＭＭから最尤ＨＭＭを決定することを含む。
【００１０】
一部の実施形態において、装置は、回数Ｋの信号繰り返しの各々に対する時系列信号観測値の複数のセットのデジタル表現であって、信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられているデジタル表現と、複数のＨＭＭの各々に対するパラメータのセットとを格納するメモリをさらに備える。
【００１１】
他の実施形態において、装置は、回数Ｋの信号繰り返しの各々について時系列音声信号観測値の複数のセットを受信し、音声信号観測値の各セットは時間インデックス付き点を有するＫ次元時間グリッドのそれぞれの次元に関連付けられ、回数Ｋの信号繰り返しの各々に対する時系列音声信号観測値の複数のセットを、回数Ｋの信号繰り返しの各々に対する時系列アナログ電気信号観測値の複数のセットに変換する音声受信機をさらに備える。
【００１２】
さらなる他の実施形態において、装置は、回数Ｋの信号繰り返しの各々に対する時系列アナログ電気信号観測値の前記複数のセットを、回数Ｋの信号繰り返しの各々に対する時系列信号観測値の複数のセットのデジタル表現に変換するアナログデジタル変換器をさらに備える。
【００１３】
前述の課題を解決するための手段は、例示的なものに過ぎず、限定的であることは意図されていない。上記で説明される例示的な態様、実施形態、および特徴に加えて、さらなる態様、実施形態、および特徴が、図面および以下の詳細な説明を参照することにより明らかとなろう。
【図面の簡単な説明】
【００１４】
【図１】例示的な音声認識システムの隠れマルコフモデルの例を示す図である。
【図２】マルチパターンビタビアルゴリズムの態様を組み入れる例示的な音声認識アプリケーションを示す図である。
【図３】マルチパターンビタビアルゴリズムを使用する例示的な音声認識システムを示す機能ブロック図である。
【図４】マルチパターンビタビアルゴリズムを使用して、音声認識システムにより受信された複数の音声発話から音声を復号する例示的な方法を説明する例示的な流れ図である。
【図５】マルチパターンビタビアルゴリズムにおいて音声のＫ＝２パターンを使用して音声を復号するための例示的な時間経路を示す図である。
【図６】マルチパターンビタビアルゴリズムにおいて音声のＫ＝２パターンを使用して最適状態系列および最適時間経路を示す３次元グリッドである。
【図７】マルチパターンビタビアルゴリズムを使用する音声認識システム向けに構成される例示的なコンピューティングデバイス７００を示すブロック図である。
【図８】マルチパターンビタビアルゴリズムを使用して複数の信号観測値から信号を検出する例示的な方法８００を示す流れ図である。
【発明を実施するための形態】
【００１５】
以下の詳細な説明において、本明細書の一部を形成する付属の図面が参照される。図面において、文脈に特に指示がない限り、類似する符号は概して、類似する構成要素を識別する。発明を実施するための形態、図面、および特許請求の範囲において説明される例示的な実施形態は、限定的であることを意図されていない。本明細書において提示される主題の精神および範囲を逸脱することなく、他の実施形態が使用されてもよく、他の変更が行われてもよい。本明細書において概ね説明され、図面に示される本開示の態様は、多種多様な異なる構成で配置、置換え、組合せ、分離、および設計することができ、それらのすべては本明細書において明示的に企図されていることは容易に理解されよう。
【００１６】
本明細書において説明されるのは、複数パターンの同時復号のためにマルチパターンビタビアルゴリズムを使用するシステム、デバイス、および方法である。
【００１７】
全体を通じて、本明細書において説明される実施形態は、マルチパターンビタビアルゴリズム（ＭＰＶＡ）を使用する頑強な音声認識技法を組み入れる。電話を介した人の通信の似たものを考えると、聴取者は、話者の話を理解できないため発言のある部分を繰り返すように話者に依頼することがある。そのような状況は、発言の理解度が大きく影響を受けるバックグラウンド雑音がある場合、より頻繁に生じる。パケットがドロップされることもあるパケット通信におけるような、極めて高雑音の条件下またはバースト性エラーチャネル下で、音声認識システムは、音声認識技法の実施において繰り返される発話を使用する手法をとることで恩恵を受けることができる。ＭＰＶＡは音声認識および方法に使用することができるが、ＭＰＶＡはまた、複数パターンからの信号を検出する任意のシステムまたは方法において使用することができる。
【００１８】
さらに、実施形態は、移動電話技術、コマンドおよび制御アプリケーション、駅における音声認識、軍事アプリケーション、ロボット工学技術、および発音推定、ならびに多くの非音声アプリケーションを含む、さまざまなアプリケーションにおいて使用することができる。多くのアプリケーションは、著しく不利なバックグラウンド雑音の存在下にいる話者から正確に音声を識別することを必要としている。たとえば、移動電話の音声認識システムは、車両の騒音、交通騒音などのような、一過性の雑音の存在下では良好に機能しない。実施形態は、移動電話ユーザが、呼び出そうとする人物の名前を繰り返し、それにより、特に大音量／バースト性の雑音の存在下で音声認識のパフォーマンスを高めることができるようにする。さらなる実施形態は、パイロットが指示を行なおうとする雑音の多いコクピットのような、指令および制御アプリケーションに組み入れられてもよい。同様に、実施形態は、背景で多くの人々が話している（バブル雑音と呼ばれる）駅のような、雑音の多い環境において使用することができる。
【００１９】
そのような軍事アプリケーションにおいて、兵士は、音声認識システムを組み入れる自動デバイスで通信することができる。したがって、音声認識システムは、機関銃からの銃弾、大砲からの砲弾などにより、著しく高い周辺雑音がある戦場の兵士からの音声を復号する。さらに、実施形態は、ロボットが、人間の操作者からの音声の複数の繰り返しを使用して、工場または他の産業環境でコマンドを学習／認識することができるロボット工学業界技術において使用することができる。さらなる実施形態は、複数のパターンから発音を同時に推定するための発音推定に適用可能とすることができる。実施形態はまた、音声認識、バイオインフォマティクス、電気通信、言語学、画像処理、キーワードスポッティングなどのような広く使用されるさまざまなアプリケーション、および動的計画法（たとえば、ビタビアルゴリズム）が使用されうる任意のアプリケーションに組み入れられてもよい。
【００２０】
隠れマルコフモデル（ＨＭＭ）および動的計画法は、多くの音声認識技法において使用されうる。ＨＭＭは、モデル化されるシステムが、観測されていない状態のマルコフ過程であると仮定される統計モデルである。マルコフ過程は、無記憶性システムの数学モデルであり、任意の所与の瞬間における、所与の未来の状態の尤度が、いかなる過去の状態でもなく、その現在の状態にのみ依存する数学モデルである。正規のマルコフ過程において、状態は観測者がじかに見ることができるので、状態推移確率は最良のパラメータである。
【００２１】
マルコフ過程の例は、硬貨を指ではじいた結果の系列とすることができる。硬貨を指ではじいた結果は、確率変数としてモデル化することができる。硬貨を指ではじく確率変数には、各々０．５に等しい確率で表および裏という、同程度に生じる２つの結果がある。確率変数のすべての成果の確率の和は１である。さらに、ランダム過程は確率変数の系列であり、したがって、硬貨を指ではじいた結果の系列はランダム過程としてモデル化することができる。加えて、硬貨を指ではじいた結果は、以前に硬貨を指ではじいた結果には依存しないので、無記憶性として説明することができる。したがって、硬貨を指ではじいた結果の系列は、マルコフ過程としてモデル化することができる。
【００２２】
無記憶性ではないランダム過程の例は、元に戻すことをせずにバッグから色つきのビー玉を選び出した結果とすることができる。たとえば、バッグには、５つの黒いビー玉と５つの白いビー玉が入っているものとする。バッグから最初に選び出したビー玉が黒である確率は０．５である。しかし、バッグから２番目に選び出したビー玉が黒である確率は、最初に選び出したビー玉の結果によって決まる。最初に選び出したビー玉が黒であった場合、２番目に選び出したビー玉が黒である確率は、４／９＝０．４４である。逆に、最初に選び出したビー玉が白であった場合、２番目に選び出したビー玉が黒である確率は、５／９＝０．５６である。このように、ビー玉を選び出した特定の結果は、過去の結果に依存する。したがって、そのようなランダム過程は無記憶性ではない。
【００２３】
マルコフ過程とは異なり、隠れマルコフモデルにおいて、状態はじかに見えないが、その代わりに、状態に依存する出力イベントは観測される。各状態は、その状態を保つか、または別の状態に推移する推移確率を有する。さらに、各状態は、出力イベントごとに出力確率を有する。したがって、ＨＭＭによって生成される出力イベントの系列は、状態の系列に関する何らかの情報をもたらす。「隠れ（ｈｉｄｄｅｎ）」という用語は、（推移確率または出力確率のような）モデルのパラメータではなく、モデルが通過する状態系列を示す。モデルパラメータが正確に知られている場合であっても、状態は観測者には見えていないので、モデルは依然として「隠れ」である。隠れマルコフモデルは、音声、手書きの文字、身振りの認識、品詞タグ付け、楽譜を追う、部分放電、およびバイオインフォマティクスのような、一時的パターン認識におけるそれらのアプリケーションで特に知られている。
【００２４】
図１は、例示的な音声認識システムの隠れマルコフモデル１００の例を示す。ＨＭＭ１００は、たとえば、航空会社の自動コールセンタへの潜在的な発信者の音声発話をモデル化することができる。例示的な音声認識システムは、発信者の発話の中の飛行機便名を識別するために使用することができる。さらに、航空会社は、飛行機便名の数字として語られた語「Ｆｉｖｅ」を有することができる。したがって、音声認識システムに使用されるＨＭＭは、状態として「Ｆｉｖｅ」の音素を含むことができる。音素は、発話の間の有意味な差異を形成するために採用される音の最小文節単位である。たとえば、「Ｆ」、「ｉ」、「ｖｅ」は、「Ｆｉｖｅ」という語に含まれる３つの異なる音素である。
【００２５】
したがって、図１は、「Ｆｉｖｅ」という語の最初の２つの音素を表す、「Ｆ」および「ｉ」という２つの状態（１０５、１２０）を示すＨＭＭの部分を示す。さらに、ＨＭＭは、観測された出力「Ｆ」および「ｉ」（１６０、１３５）を有する。ＨＭＭ１００はまた、ある状態から次へと推移する（１１５、１７０、１８０）か、または状態を保つ（１１０、１１５）状態推移確率、および各状態から観測される出力（１４０、１４５、１５０、１５５）への出力確率を示す。出力確率は、ＨＭＭ１００の状態を所与とするイベントを観測する尤度である。状態（１１０、１７０、１１５、１２０）に入るすべての推移確率の和、および状態（１１０、１１５、１２５、１８０）から出る推移確率の和は、１と等しい。加えて、観測される出力（１４０、１４５、１５０、１５５）への出力確率の和もまた、１と等しい。図１のＨＭＭ１００は、音声認識システムにより使用されるより大規模なＨＭＭのほんの一部に過ぎない。したがって、推移１７０によって示されるように０．３の確率で「ｉ」以外の状態から状態「Ｆ」への状態推移がありうる。さらに、推移１８０によって示されるように０．３の確率で「ｉ」から「Ｆ」以外の状態への状態推移がありうる。
【００２６】
多くの場合、アプリケーションを実施するとき、ＨＭＭの状態の最尤系列は、見つけることが有益である。ＨＭＭの状態の最尤系列を見つける際に、多くのさまざまな方法を使用することができる。動的計画法は、複雑な問題を、再帰的な方法でより単純な下位の問題に分解することによって単純化する数理最適化の方法であり、ＨＭＭの状態の最尤系列を見つけるために使用することができる。さらに、ビタビアルゴリズムは、隠れマルコフモデルの観測される事象の系列を結果としてもたらす隠れ状態の最尤系列（ビタビ経路と呼ばれる）を見つけるための例示の動的計画法である。
【００２７】
本明細書において説明される実施形態は、マルチパターンビタビアルゴリズム（ＭＰＶＡ）を使用するが、これは複数のパターンを解析することができる多くの復号および信号検出アプリケーションに使用することができる新規な動的計画の方法である。そのようなアプリケーションの１つは、音声認識システムである。例示的な音声認識システムにおいて、音声パターンを認識するために複数の発話が同時に復号される。ＭＰＶＡはまた、動的計画の方法を使用することができる任意のアプリケーションにも使用されうることを、当業者であれば理解するであろう。
【００２８】
図２は、ＭＰＶＡを使用する例示的な音声認識アプリケーション２００を示す。発信者２１０は、移動電話２１５を使用して、無線通信ネットワーク２２０を介して航空会社の自動コールセンタ２２５に連絡し、通信することができる。自動コールセンタは、発信者２１０のような航空会社顧客からの電話を受信する音声認識システム２５５を有することができる。さらに、音声認識システムは、たとえば、発信者２１０の飛行情報にアクセスするために、発信者２１０に飛行機便名を要求することができる。次いで、発信者２１０は、「Ｆｉｖｅ」のような飛行機便名の数字を発話することができる。次いで、音声認識システム２５５は、発信者２１０に、発話「Ｆｉｖｅ」を繰り返すよう要求することができる。飛行機便名「Ｆｉｖｅ」の数字の発話は各々、図２においてグラフィカル表現（２３０、２４０）で示されるように、音声信号により表すことができる。
【００２９】
発信者２１０によって与えられた飛行機便名を復号するために１つまたは複数の発話を有する音声認識システム２５５の利点は、２つの発話（２３０、２４０）のグラフィカル表現で示される。発信者２１０の空港周辺地域２０５からの周辺雑音が原因となり、バースト性雑音が、各発話（２３０、２４０）において音声信号のさまざまな部分（２４５、２５０）に影響を与えることがある。したがって、単一の発話の音声信号を処理することによって、音声認識システム２５５は、発信者２１０により発せられた飛行機便名を不正確に復号する場合もある。しかし、音素の同じ系列（たとえば、飛行機便名）を含む両方の発話（２３０、２４０）を処理することにより、音声認識システム２５５は、バースト性雑音が各信号の異なる部分（２４５、２５０）に影響を与える可能性がある２つの音声信号を受信することができる。したがって、音声認識システム２１０は、２つの繰り返される発話を使用して発信者２１０により発せられた音声を正確に復号するため、ＭＰＶＡを使用することができる。
【００３０】
音声認識システムは、ＨＭＭを使用して、１つまたは複数の受信した音声信号からの音声の復号を援助することができる。音声認識システムにより受信された各受信音声信号は、さまざまな形式のうちの１つをとることができる。処理された信号は、音声認識システムに使用されるＨＭＭの観測された出力の時系列、またはより簡単に観測値として、解析することができる。音声信号の１つの例示的な処理は、音声信号のメル周波数ケプストラム係数（Ｍｅｌ−ｆｒｅｑｕｅｎｃｙ  Ｃｅｐｓｔｒａｌ  Ｃｏｅｆｆｉｃｉｅｎｔ）（ＭＦＣＣ）を計算することとすることができる。一部の実施形態において、ＭＦＣＣベクトルは、サンプリングされる音声データの２０ミリ秒ごとに計算されてもよい。一部の実施形態において、ＭＦＣＣは、音声データの２０ミリ秒を処理してから、１０ミリ秒だけシフトし、その間隔の音声データを処理することによってなど、重複間隔を使用して計算されてもよい。ケプストラム係数は、たとえばフーリエ変換をとるなど、音声信号のデシベルスペクトルを処理することによって見出されてもよい。ＭＦＣＣは、音声認識システムにおける音声信号の、多数のさまざまな特徴、または観測値のうちの１つとすることができる。特徴は、音声認識システムにおけるＨＭＭの観測された出力となりうる音響現象の個々の測定可能なヒューリスティック特性である。特徴、または観測値は、音声信号の一部のＭＦＣＣ、スペクトル密度、スペクトルエネルギー、雑音比、音の長さ、相対パワー、フィルタ一致などを含むことができる。
【００３１】
図３は、マルチパターンビタビアルゴリズム復号器を使用する例示的な音声認識システムを示す機能ブロック図である。例示的な音声認識システム３００は、航空会社の自動コールセンタに使用することができる。自動コールセンタは、要求された情報にアクセスするために、発信者に飛行機便名を要求することができる。さらに、自動コールセンタは、発信者の音声を正確に認識できるようにするため、発信者に飛行機便名を数回繰り返すよう要求することができる。
【００３２】
発信者が、「Ｆｉｖｅ」または「Ｎｉｎｅ」のような飛行機便名を発話すると、音声認識は、受信機３１０を使用することにより発信者の発話を表す音声信号を受信する。受信機３１０は、マイクロフォン、音響変換器、または音声信号をアナログ電気信号に変換する他の音声受信機であってもよい。受信機は、アナログ電気信号をアナログデジタル（ＡＤＣ）変換器３１５に転送して、アナログ電気信号を、アナログ電気信号および音声信号を表すデジタルデータに変換することができる。アナログデジタル変換器３１５は、システムメモリ３２０の信号ストレージ部分３３０にデジタルデータを格納することができる。もちろん、サンプリングされる音声データは、任意の数の手段によって提供することができ、受信機およびＡＤＣは、ハンドセットおよび／または公衆交換電話網の一部により提供することも、コンピュータワークステーションに関連付けられているマイクロフォンおよびＡＤＣにより提供することもでき、それらは必ずしもシステムの構成要素ではない。
【００３３】
加えて、プロセッサ３５０は、例示的な音声認識システムの一部であってもよい。プロセッサ３５０は、音声信号の格納済みデジタルデータにアクセスして処理し、音声認識システムの特徴ベクトルとなるべきメル周波数ケプストラム係数（ＭＦＣＣ）を取得することができるＭＦＣＣサブプロセッサ３６０を含むことができる。次いで、語または句の所与の発話の特徴ベクトルの時系列は、所与の発話の観測値の時系列を形成する。
【００３４】
プロセッサはまた、ＭＦＣＣ特徴ベクトルの形態の観測値を受信して、システムメモリ３２０のＨＭＭストレージ部分３４０からＨＭＭデータにアクセスするＭＰＶＡ復号器３７０を含むこともできる。ＨＭＭデータは、一般にλとして示されるよく知られたパラメータを含む。
【００３５】
ＭＰＶＡ復号器３７０は、メモリデバイス３２０から取り出された複数の発話から音声を復号するためにＭＰＶＡを実行する。加えて、メモリデバイス３２０は、プロセッサ３５０でのＭＰＶＡの実行を制御することができるプログラム命令を格納することができる。
【００３６】
一部の実施形態において、システムは、オプションでデジタルアナログ変換器（ＤＡＣ）３７５を含むことができる。ＤＡＣ３７５は、復号された音声を表すデジタルデータをアナログ電気信号に変換する。さらに、ＤＡＣは、アナログ電気信号をシステム出力インターフェイス３８０に転送するが、これはアナログ電気信号を復号された音声を表す音声信号に変換するスピーカまたは他の音響変換器デバイスであってもよい。したがって、音声認識システム３００は、発信者が復号された音声を確認できるよう、音声信号を発信者に復唱することができる。復号された音声が正確ではないことを発信者が示す場合、音声認識システムは、ＭＰＶＡが発信者の音声を正確に復号するためにさらに多くのデータを有することができるように、別の繰り返される発話を明瞭に発音するよう発信者に要求することができる。
【００３７】
図４は、マルチパターンビタビアルゴリズムを使用して、音声認識システムにより受信された複数の音声発話から音声を復号する例示的な方法を説明する例示的な流れ図４００である。音声の復号における予備ステップは、音声認識に使用されるべき音声信号の特徴を選択すること４０５とすることができる。音声発話の特徴の１つの例は、音声発話のメル周波数ケプストラム係数とすることができる。もう１つの予備ステップは、複数の状態、状態推移確率、および観測される出力の出力確率密度関数を含む１つまたは複数のＨＭＭをトレーニングすること４１０とすることができる。ＨＭＭは、雑音のない音声の解析から作成されてもよい。たとえば、ＨＭＭは、さまざまなアクセント（米国、英国など）を持つ、男女のさまざまな話者による音声発話「Ｖｏｉｃｅ  Ｄｉａｌｅｒ」を解析するためにトレーニングされてもよい。そのような音声発話は、各々が音声発話「Ｖ」、「ｏｉ」、「ｃｅ」、「Ｄ」、「ｉ」、「ａ」、「ｌ」、「ｅｒ」の音素に対応する、８つの状態を含むことができる。そのようなＨＭＭのトレーニング中に、音声発話「Ｖｏｉｃｅ  Ｄｉａｌｅｒ」の状態推移および出力確率を見出すことができる。１つの実施形態において、複数のＨＭＭがシステムで使用され、パターンごとに識別される別個のＨＭＭがある。音声認識システムにおいて、各々のＨＭＭは、異なる語（または句）に対応する。ＨＭＭは、トレーニングを介してシステムによって導き出されるか、またはシステムに提供されてもよい。
【００３８】
例示的な方法４００を実施する音声認識システムは、発信者からの繰り返される音声発話を表す複数の音声信号を受信することができる４１５。複数の音声信号は、音声受信機、マイクロフォン、音響変換器、または他のデバイスによって受信されてもよい。例示的な方法４００のさらなるステップは、各音声信号を、各音声信号のデジタルデータ表現に処理すること４２５とすることができる。処理は、各音声信号を、音声受信機、マイクロフォン、音響変換器などによってアナログ電気信号に変換することを含むことができる。その後、各アナログ電気信号は、アナログデジタル変換器を使用してデジタルデータに変換されてもよい。デジタルデータは、音声認識システムのメモリに格納されてもよい。１つの実施形態において、デジタル化音声データサンプルは、システムに提供されて、メモリに格納される。アナログデジタル変換、および関連する手段、ならびにサンプリングされた音声データを取得する方法は、当業者には知られており、重要ではない。
【００３９】
加えて、音声認識システムは、発話に対応する各音声信号を表すデジタルデータに基づいて、メル周波数ケプストラム係数（ＭＦＣＣ）を計算することができる４３０。プロセッサまたはサブプロセッサは、ＭＦＣＣを計算するためにシステムメモリからデジタルデータにアクセスすることができる。ＭＦＣＣは、ＭＰＶＡによって使用されるべき観測値の時系列である。さらに、ＭＰＶＡは、ＭＦＣＣの代わりに、ＬＰＣＣ、音の長さ、雑音比などのような、さまざまな特徴を使用することができる。ＬＰＣＣは、線形予測モデルの情報を使用して、圧縮形式で音声のデジタル信号のスペクトル包絡線を表す。
【００４０】
もう１つのステップ４４０において、音声認識は、システムメモリに格納されている１つまたは複数のＨＭＭを使用して、ＭＰＶＡをＭＦＣＣに適用する。ＭＰＶＡは、ソフトウェア命令を実行するプロセッサに具現されたＭＰＶＡ復号器によって実施されてもよい。ＭＰＶＡを適用する場合、音声認識システムは、それぞれＴ１、Ｔ２、．．．、ＴＫのフレーム長さの、
【００４１】
【数１】
2013511739.tif 000003
と示されるＫ個の観測値系列を受信し、ここで
【００４２】
【数２】
2013511739.tif 000004
および
【００４３】
【数３】
2013511739.tif 000005
は、時間フレームｔｉにおけるｉ番目のパターンの特徴ベクトルである。特徴ベクトルのセットは、計算されたＭＦＣＣとすることができる。Ｋ個の観測値系列は各々、同じパターンクラス（たとえば、話し言葉）に属すので、λと示される単一のＨＭＭによって復号されてもよい。しかし、音声認識システムは、各々１つの語に対応する１つまたは複数のＨＭＭを使用することができる。さらに、Ｋ個の観測値系列は、同一の話者による同一の語の異なる発話であってもよい。ＭＰＶＡは、これらのＫ個のパターンを同時に復号して、話者の音声を識別することができる。
【００４４】
ＭＰＶＡを使用して複数の受信した発話の同時復号化を視覚化するため、標準ＨＭＭ格子のＫ＋１次元への拡張を検討する、ただしＫ次元はＫ個のパターンに対応するので、Ｋ次元の時間グリッドを定義し、１つの次元は所与のＨＭＭのＨＭＭ状態セットに対応する。標準ＨＭＭの２次元格子と同様に、横断する格子グリッドはすべてのＫ時間軸、Ｔ１からＴＫ、に沿って単調である。それは、繰り返される発話の観測値が、順方向に時間を同時に進行するからである。繰り返されるパターン（たとえば、音声認識アルゴリズムの同じ語の複数の発話）が（たとえば、同じ相対時間オフセットで生じる音素のすべてと）正確に同期化された場合、最適経路がＫ次元時間インデックス付き空間を通る対角線に沿うものと予想できることが分かる。一方、予想されるように、発話が相互に完全には届かない場合、パターンの対応する部分のＫ個の観測値は、対角線に沿って並ぶことはない。確かに、観測値系列は通常、パターンまたは発話ごとに異なる長さになる。したがって、以下に説明されるように、最適経路は対角線に沿って並ばないこともあり、アルゴリズムは、（観測値の各セットはＫ時間次元のうちの１つに関連付けられているので）観測値の各セット観測値の使用または消費の異なる比率に対応する。（Ｋ＋１）次元に沿った状態推移は、（エルゴード的または左から右への）ＨＭＭ状態推移マトリクスにより決定される。
【００４５】
ＨＭＭ状態系列は、以下のように定義されうる。
【００４６】
【数４】
2013511739.tif 000006
ただし、ｑφ（ｉ）∈１：Ｎは、時間φ（ｔ）＝（ｔ１、．．．、ｔＫ）における状態インデックスであり、ここでφ（ｔ）はＫ次元グリッドの点により表され、ＮはＨＭＭ状態の数である。状態系列はφ（ｔ）の展開に依存するので、もう１つの変数は、φ（１）＝（１、．．．１）、φ（Ｔ）＝（Ｔ１、．．、ＴＫ）であるように、Ｋ次元時間空間またはグリッド（図５を参照）でΦ＝［φ（１）、Φ（２）、．．．、Φ（Ｔ）］のように定義されてもよい。Φは、Ｋ個のパターンの間の時間整合である。（Ｋ＋１）次元格子グリッドの任意の点は、｛ｑφ（ｔ）、φ（ｔ）｝により表されてもよい。さらに、ｔは、Ｋ次元グリッドの各座標に沿ったホップ数を表し（図５を参照）、φ（ｔ）＝（ｔ１、．．．、ｔＫ）は、そのＫ次元空間の単一の点を表す。さらに、ｔは１からＴまで移動し、ここでＴは（１、．．．１）から（Ｔ１、．．、ＴＫ）まで横断するために必要なホップの合計数である。Ｔの値は、横断される経路によって異なり、最適時間経路のその値は、経路のバックトラッキング後にのみ知ることができる。
【００４７】
ＭＰＶＡの３つの目的は、合計同時マルチパターン尤度、最適状態系列、および最適時間経路を決定することであってもよく、以下の式（２）〜式（６）で説明される。最適状態系列は、ＭＰＶＡが音声認識システムで使用される場合、復号化音声を明らかにする。
【００４８】
合計同時マルチパターン尤度は、以下のように定義されてもよい。
【００４９】
【数５】
2013511739.tif 000007
【００５０】
（Ｋ＋１）次元グリッドを通るすべての有効な経路を考慮すると、最適ＨＭＭ状態系列ｑ＊および最適時間経路Φ＊に沿った同時Ｋパターン尤度は、以下のように定義されてもよい。
【００５１】
【数６】
2013511739.tif 000008
【００５２】
式（２）は、所与のＨＭＭλに関してすべてのＫパターンの全確率である。さらに、最大尤度（最適）ＨＭＭ状態系列ｑ＊および最適時間経路Φ＊は、以下のように見出されてもよい。
【００５３】
【数７】
2013511739.tif 000009
【００５４】
【数８】
2013511739.tif 000010
【００５５】
【数９】
2013511739.tif 000011
【００５６】
（Φ＊、ｑ＊）は、（Ｋ＋１）次元グリッドを経由して横断することにより同時に決定される。グリッドにおいて、幅優先の方法でφ（１）からφ（Ｔ）に横断するＭＰＶＡは、単一ステップで、すべての時間軸にわたる。グリッドを経由する部分経路の再帰的更新（標準ＨＭＭビタビアルゴリズムと類似する）が計算されてもよい。項δφ（ｔ）（ｊ）は、以下のように定義されてもよい。
【００５７】
【数１０】
2013511739.tif 000012
【００５８】
δφ（ｔ）（ｊ）は、多次元グリッドを経由して横断する間の累積尤度であり、状態ｉからｊへの横断、および時間インデックス付き点φ（ｔ−１）からφ（ｔ）からの最小コストメトリックとして説明することができる。グリッドを経由して横断することは、Ｋパターンの一部がＨＭＭ状態に関して一致することを意味する。したがって、δφ（ｔ）（ｊ）は、部分パターン尤度の測度またはコストメトリックと見なされてもよい。各パターンは、長さＴ１またはＴ２または．．．Ｔｋの、ＭＦＣＣベクトルの系列である。
【００５９】
ＭＰＶＡのアプリケーションは、複数のステップを有するものとして説明することができる。それらのステップは、初期化４４５、反復４５０、終了４５５、および経路バックトラッキング４６０を含むことができるが、それらに限定されない。
【００６０】
初期化ステップ４４５において、初期確率δφ（１）（ｉ）は、以下のように示されてもよい。
【００６１】
【数１１】
2013511739.tif 000013
ここで、ｉ＝１、．．．、Ｎであり、πｉ＝Ｐ（ｑφ（ｉ）＝ｉ）は初期状態分布であり、
【００６２】
【数１２】
2013511739.tif 000014
である。したがって、δφ（１）（ｉ）は式（７）の初期値であり、最良経路（たとえば、｛１、１、１、．．．、１｝）の開始点における尤度の測度と見なされてもよく、すべての繰り返される発話からの観測値の第１のセットが使用される。開始確率は、許可されるＨＭＭ状態の各々で割り当てられ、πｉにより制御される。さらに、
【００６３】
【数１３】
2013511739.tif 000015
は、ＨＭＭ状態ｉの確率密度関数である。
【００６４】
反復ステップ４５０において、非ゼロ値を有する少なくとも１つの
【００６５】
【数１４】
2013511739.tif 000016
で
【００６６】
【数１５】
2013511739.tif 000017
となるように、
【００６７】
【数１６】
2013511739.tif 000018
である。ベクトル内の非ゼロ値の位置は、φ（ｔ−１）からφ（ｔ）への移動で、どの次元が増分されたか、または横断されたかを示す指示をもたらす。Δφ（ｔ）は、少なくとも１つの非ゼロ値、および最大Ｋ個の非ゼロ値を備えることができる。ＭＰＶＡにおいて使用されうるもう１つの制約は、時間を逆行する移動を制限することを含むことができる。すなわち、特定の可能な先行時間インデックス付き点φ（ｔ−１）は、以下で説明するように、時間インデックス付きＫ次元グリッドに状態コストメトリックδφ（ｔ）を取り込むとき、考慮から除外されてもよい。これらの制約は、多次元グリッドを横断するためのローカル連続制約（ＬＣＣ：Ｌｏｃａｌ  Ｃｏｎｔｉｎｕｉｔｙ  Ｃｏｎｓｔｒａｉｎｔ）のセットを形成する。Ｋ個のパターンの場合、φ（ｔ）ごとに、例示的なＬＣＣは、（２Ｋ−１）の可能なφ（ｔ−１）があることとすることができる。他のタイプのＬＣＣが選択されてもよい。
【００６８】
さらに、
【００６９】
【数１７】
2013511739.tif 000019
は、ＭＦＣＣベクトルのような、φ（ｔ）においてマッピングされた観測値のセットである。加えて、
【００７０】
【数１８】
2013511739.tif 000020
がセットＳφ（ｉ）内のすべての特徴ベクトルであるように、
【００７１】
【数１９】
2013511739.tif 000021
である。さらに、｛Ｏφ（ｉ）｝は、
【００７２】
【数２０】
2013511739.tif 000022
が非ゼロである
【００７３】
【数２１】
2013511739.tif 000023
のみを保持する、ベクトル
【００７４】
【数２２】
2013511739.tif 000024
の部分集合とすることができる。セットＳφ（ｉ）および｛Ｏφ（ｉ）｝は、最少１つの特徴ベクトル、および最大Ｋ個の特徴ベクトルを有することができる。ゼロである
【００７５】
【数２３】
2013511739.tif 000025
は、信号の雑音、時間歪曲などにより、その時間インデックス
【００７６】
【数２４】
2013511739.tif 000026
における特徴ベクトルが出力されないことを示すことができる。したがって、以下のことを示すことができる。
【００７７】
【数２５】
2013511739.tif 000027
φ（ｔ）は、φ（１）＝（１、．．．、１）からφ（Ｔ）＝（Ｔ１、．．．、ＴＫ）にわたり、ｉ、ｊ＝１、２、．．．、Ｎである。さらに、ａｉｊは、（標準ＨＭＭにおけるように）状態ｉから状態ｊまでの状態推移確率であり、Ｐ（φ（ｔ）／φ（ｔ−１））は、φ（ｔ−１）からφ（ｔ）への移動の確率であり、ｂｊ（｛Ｏφ（ｔ）｝）は、状態ｊによって出力される｛Ｏφ（ｔ）｝の同時確率である。さらに、ｂｊ（｛Ｏφ（ｔ）｝）は、状態ｊによって出力されるすべてのベクトル
【００７８】
【数２６】
2013511739.tif 000028
の同時確率と同じであり、ここで
【００７９】
【数２７】
2013511739.tif 000029
はセットＳφ（ｔ）のすべての特徴ベクトルから成る。したがって、ＨＭＭ状態ｊは、Δφ（ｔ）ベクトルの非ゼロ値の数に対応する、Ｋパターンからの可変数のベクトルを出力することができる。しかし、δφ（ｔ）の再帰的計算がδφ（Ｔ）に達すると、各状態ｊは、どの時間経路Φを取ったかには関わりなく、正確な数のマルチパターン特徴ベクトル＝（Ｔ１＋Ｔ２＋．．．＋ＴＫ）を出力している。
【００８０】
言い換えれば、式（９）の部分の１つの解釈は、Ｋ次元グリッドの時間インデックス付き点φ（ｔ）の各々において、ＨＭＭの各状態ｊの状態コストメトリックが決定されるということである。これは、可能な各先行点φ（ｔ−１）における各状態ｉに関連付けられているコストメトリックδφ（ｔ−１）（ｉ）、ならびにｉからｊへの状態推移確率ａｉｊ、および各候補先行点φ（ｔ−１）からφ（ｔ）への移動の推移確率を考察することによって実行される。さらに詳細には、可能な各先行時間インデックス付き点における可能な各事前状態に関連付けられているコストメトリックを計算し、次いで各状態について最低コストメトリックを選択することにより、グリッドの所与の点の状態コストメトリックを計算することができる。状態コストメトリックの計算は、最尤先行状態をもたらし、さらに対応する最尤先行時間インデックス付き点ももたらす。
【００８１】
式９は最大確率を説明するが、当業者であれば、式９が、式９の引数の対数の負をとり、「ｍａｘ」関数を「ｍｉｎ」関数に置き換えることによりコストメトリックを説明することを理解するであろう。
【００８２】
反復ステップは、Ｋ次元グリッドの各点、または少なくとも点の部分集合にδφ（ｔ）（ｊ）値を取り込む。この取り込みは、左から右、および下から上へグリッドを横断することによって行なわれる。取り込まれる点ごとに、コストメトリックは、有効な先行点から最小コストオプションを選択することにより、先行点から現行点に増分され、各グリッド点に対してさまざまな候補の先行点の中からの「最良先行」の選択は、後に経路バックトラッキングを実行するためにシステムメモリに格納されてもよい。したがって、ＭＰＶＡが実行を完了し、グリッドの最終点に到達して、すなわち｛Ｔ１、Ｔ２、．．．、Ｔｋ｝、次いで経路バックトラッキングのステップを実行するまで、ＭＰＶＡは最適状態系列または最適時間経路を識別しない場合もある。
【００８３】
図５は、マルチパターンビタビアルゴリズム５００において音声のＫ＝２パターン
【００８４】
【数２８】
2013511739.tif 000030
（ｔ１軸）
および
【００８５】
【数２９】
2013511739.tif 000031
（ｔ２軸）
を使用して音声を復号することから得られた例示的な時間経路Φを示す。図５において、座標（５、５）がφ（ｔ）であると見なされる場合、経路Φによればφ（ｔ−１）は（５、４）である。そのような経路Φは多数ある可能性があり、ＭＰＶＡはそれらの中から最適経路Φ＊を選択する必要がある。（３、３）の時点において、特徴ベクトル
【００８６】
【数３０】
2013511739.tif 000032
および
【００８７】
【数３１】
2013511739.tif 000033
は、状態ｊによって出力される。（４、３）の時点において、ベクトル
【００８８】
【数３２】
2013511739.tif 000034
がすでに使用されているので、ベクトル
【００８９】
【数３３】
2013511739.tif 000035
だけが出力される。可変数のベクトルが出力され、ベクトルは再使用されることがない。ある意味で、状態コストメトリックは、所与の先行時間インデックス点φ（ｔ−１）から所与のφ（ｔ）時間インデックス付き点に移動する際に増分される次元に関連付けられている観測値のみに基づいている。
【００９０】
図５はまた、Ｋ＝２の場合に使用されうるＬＣＣ５８０を示す。すなわち、２次元グリッドのすべての点φ（ｔ）＝（ｔ１、ｔ２）について、２Ｋ−１の先行点がある。したがって、φ（ｔ）＝（ｔ１、ｔ２）である場合、φ（ｔ−１）は、（ｔ１−１、ｔ２）、（ｔ１、ｔ２−１）、または（ｔ１−１、ｔ２−１）とすることができる。前述のように、特定の候補の先行点は、計算の複雑さを軽減するために考慮から除外されてもよい。同様に、以下で説明されるグローバル制約を含む、他の制約または簡略化を使用することができる。
【００９１】
さらに、状態および時間次元のバックトラッキングポインタは、ψφ（ｔ）（ｊ）と示されてもよく、Γφ（ｔ）（ｊ）は以下の式により見出されてもよい。
【００９２】
【数３４】
2013511739.tif 000036
ここで、φ（ｔ）は、（１、．．．、１）から（Ｔ１、．．．、ＴＫ）にわたり、ｉ、ｊ＝１、２、．．．、Ｎである。Ｐ（φ（ｔ）／φ（ｔ−１））の計算において、φ（１）＝（１、１、．．．、１）の場合、Ｐ（φ（１））＝１である。それ以外の場合、Ｐ（φ（１））＝０である。
【００９３】
Ｐ（φ（ｔ）／φ（ｔ−１））を計算する可能な方法は多数ありうる。ＭＰＶＡは、φ（ｔ−１）からφ（ｔ）に到達するためにＬＣＣをすでに定義済みとすることができる。２つの可能な方法が以下に説明されるが、他の臨時の方法を開発することもできる。
【００９４】
１つの実施形態において、１つの時点からもう１つの時点に移動する一様確率分布を仮定すると、以下の確率を見出すことができる。
【００９５】
【数３５】
2013511739.tif 000037
【００９６】
ここで、Ｌはφ（ｔ）が到達されうるφ（ｔ−１）の可能な位置の合計数である。φ（ｔ−１）の可能な値の範囲は、ＬＣＣによって定義されてもよい。φ（ｔ）が次元グリッドの境界にある場合を除いて、一般にＬ＝２Ｋ−１である。
【００９７】
もう１つの実施形態において、ＭＰＶＡは、以下の式におけるように、ＬＣＣの対角領域にさらに多くの重み付けを与えることができる。
【００９８】
【数３６】
2013511739.tif 000038
ここで、||．||は第２のノルムを表す。これは、対角線上の移動に関連付けられている推移のような、より多数の増分移動を伴う推移が好ましいことを意味する。臨時の規則を使用するもう１つの実施形態の例は、経路を中心対角線（Ｋ次元空間を通る（１、１、．．．、１）から（Ｔ１、．．．、ＴＫ）までの主対角線）に向けて経路を逆行する傾向のある推移にさらに多くの重みを与えることにより方向性偏りを含むことができる。さらになお、方向性偏り重み付けは、主対角線からの所与のφ（ｔ）の距離に比例してもよいか、または主対角線から特定の距離を超えて所与のφ（ｔ）にのみ適用されてもよい。
【００９９】
もう１つの実施形態において、ＭＰＶＡは、ｂｊ（｛Ｏφ（ｔ）｝）を計算することができる。たとえ特徴ベクトル
【０１００】
【数３７】
2013511739.tif 000039
が同じクラスからのものであっても、ＨＭＭから出力されているベクトルの同時尤度を計算するために、それらの特徴ベクトルが同じ状態ｊから生じるとされる場合、ＭＰＶＡはそれらが独立していると仮定することができる。したがって、同時確率は以下のとおりとすることができる。
【０１０１】
【数３８】
2013511739.tif 000040
ここで、
【０１０２】
【数３９】
2013511739.tif 000041
はセットＳφ（ｔ）のすべての特徴ベクトルであり
【０１０３】
【数４０】
2013511739.tif 000042
はＨＭＭの状態ｊ出力確率（ＨＭＭを所与として状態ｊにより出力された、ベクトル
【０１０４】
【数４１】
2013511739.tif 000043
の確率）であり、ｒはセットＳφ（ｔ）の濃度である。１／ｒの累乗を使用する相乗平均は、単一ベクトル尤度に相当する、ＨＭＭ状態によって出力されたｒベクトルの使用を正規化する。そのような正規化は、その時点において雑音、時間歪曲などにより、すべての特徴ベクトル、または観測値が出力されるわけではないことを考慮に入れる。したがって、ＭＰＶＡは、標準ＨＭＭにおけるように定義されるａｉｊおよびπｉを使用することができる。
【０１０５】
【数４２】
2013511739.tif 000044
が正しいＨＭＭモデルλからのその実際の状態ｊから出力される場合、ＭＰＶＡは、
【０１０６】
【数４３】
2013511739.tif 000045
が不正確なモデルの状態ｊから出力される場合の
【０１０７】
【数４４】
2013511739.tif 000046
よりも高い値を有すると期待することができる。式（１３）において与えられるマルチパターン同時尤度は、正しいモデルと正しくないモデルに関する尤度の差異をさらに強調することができる。したがって、個々の復号化と比較して精度を高める音声認識の改良がある。
【０１０８】
ＭＰＶＡは、反復を止めるために終了ステップ４５５を実行する。反復は、φ（ｔ）＝（Ｔ１、Ｔ２、．．．、ＴＫ）のような終端点において終了する。
【０１０９】
【数４５】
2013511739.tif 000047
【０１１０】
【数４６】
2013511739.tif 000048
【０１１１】
【数４７】
2013511739.tif 000049
【０１１２】
その後、ＭＰＶＡは、経路バックトラッキングのステップ４６０を実行する。
【０１１３】
【数４８】
2013511739.tif 000050
【０１１４】
【数４９】
2013511739.tif 000051
ここでφ（ｔ）は、φ（Ｔ）＝（Ｔ１、．．．、ＴＫ）からφ（１）＝（１、．．．、１）にわたる。最適時間経路の値Ｔは、バックトラッキングが完了するまで分からない。したがって、ステップ４３６において、１≦ｔ≦Ｔに対してｑ＊φ（ｔ）＊およびφ（ｔ）＊の系列は、それぞれ最適な復号化状態系列ｑ＊および最適な復号化時間経路Φ＊をもたらす。バックトラッキングは、単純な検索手順を介して実行される。終端時間インデックス点（Ｔ１、．．．、ＴＫ）について、最終状態は、式９において説明されたような、コスト関数によって決定される最高確率であると決定される。特定のコスト関数が、式９において示される量の変化または近似を使用すること、および／または本明細書において説明されるローカルまたはグローバル制約などによって値のどのセットが考慮されるかを制限することにより多くの形態をとる場合もあることを理解されたい。この目的のため、先行状態は、その対応する先行時間インデックス点と共に知られる。次いで、プロセッサは、との先行時間インデックス点においてその先行状態のデータ要素を単に取り出して、次の先行状態および次の事前先行時間インデックス点を検索し、さらに点（１、１、．．．、１）に到達するまで続ける。
【０１１５】
図５を参照すると、（語「Ｖｏｉｃｅ  Ｄｉａｌｅｒ」の）Ｋ＝２および９状態の左から右のＨＭＭの場合の、最適ＭＰＶＡ経路５００の例が示される。２つのパターンの最適な時間整合Φ＊が示される。図６は、マルチパターンビタビアルゴリズムにおいて音声のＫ＝２パターンを使用して最適状態系列および最適時間経路を示す３次元グリッドである。特に、図６は、ｚ軸に沿って最適ＨＭＭ状態系列ｑ＊６００を示すが、最適時間整合Φ＊はｘ軸およびｙ軸で示される。
【０１１６】
加えて、ＭＰＶＡは、グローバル経路制約（ＧＰＣ：Ｇｌｏｂａｌ  Ｐａｔｈ  Ｃｏｎｓｔｒａｉｎｔ）を使用して、ＭＰＶＡを実施する計算の複雑さを大幅に軽減することができる。最適経路が対角線の付近にあることが予測され、すべての時間インデックス付き点が状態コストメトリックを取り込まれる必要はないので、グローバル経路制約を使用することができる。対角線経路は、観測値が、概ね同等の比率で使用される（または消費される、または処理される）場合に横断される。１つの系列からの別の系列に対する観測値の使用の遅れは、繰り返される発話の観測値の相対時間歪曲の結果生じるものであり、観測値系列の長さが異なることにより暗示される。Ｋ次元時間グリッドを通る対角線からの最大発散は、観測値系列の時間間隔の相違に基づいてあらかじめ定められてもよいが、グローバル制約を決定するために他のメトリックを使用することができる。しかし、グローバル制約が課されるので、認識パフォーマンスは評価することが困難になることもある。式（１３）の同時復号化を通じて達成される頑強性特性により、パフォーマンス、ひいては認識精度は、パターンＫの数の増大に伴って高まると予測されうる。
【０１１７】
さらなるステップ４７０において、ＭＰＶＡを実施するプロセッサの一部である復号器は、最適（最大）同時確率および最適状態系列をシステム出力インターフェイスに提供することができる。音声認識システムには、デジタルアナログ変換器を使用してデジタルデータをアナログ電気信号に変換するように、最適経路または状態系列を表すデジタルデータが提供されてもよい。さらに、システム出力インターフェイスは、スピーカ、またはアナログ電気信号を音声信号に変換する他の音響変換器であってもよい。システム出力インターフェイスは、復号化音声の音声信号を発信者に提供して、発信者の音声発話の精度を確認することができる。
【０１１８】
図８は、マルチパターンビタビアルゴリズムを使用して複数の信号観測値から信号を検出する例示的な方法８００を示す流れ図である。例示的な方法の８１０において、回数Ｋの信号反復の各々について時系列の信号観測値の複数のセットを受信することができる。さらに、信号観測値の各セットは、時間インデックス付き点を有するＫ次元の時間グリッドのそれぞれの次元に関連付けられている。方法のさらなるステップ８２０において、複数の時間インデックス付き点の各々において、隠れマルコフモデル（ＨＭＭ）の状態セット内の各状態について状態コストメトリックがプロセッサで計算される。さらに、状態ごとに、および所与の時間インデックス付き点ごとに、状態コストメトリック計算は、最尤先行状態および対応する最尤先行時間インデックス付き点を提供する。加えて、所与の時間インデックス付き点に対して、状態ごとの状態コストメトリックは、可能な先行時間インデックス付き点の各々において可能な各事前状態に関連付けられているコストメトリックを計算すること、および各状態ごとに最低のコストメトリックを選択することによって決定される。さらに、所与の可能な先行状態に対して、状態コストメトリックは、所与の先行時間インデックス付き点から、複数の時間インデックス付き点のうちの所与の１つに移動する際に増分される次元に関連付けられた観測値のみに基づく。
【０１１９】
方法の追加のステップは、計算された状態コストメトリックを使用して状態の系列を決定すること８３０、およびＨＭＭの対応する累積確率測度を決定すること８４０とすることができる。方法は、再帰的な方法で時間インデックス付き点の状態ごとに状態コストメトリックを繰り返し計算して、Ｋ次元グリッドの終端点に到達するまで最尤の系列を決定することができる８５０。方法は、複数のＨＭＭの、対応する累積確率測度に基づいて、最尤のＨＭＭを識別することができる。さらに、状態の最尤の系列を決定することは、終端時間インデックス付き点の最終状態における最低状態コストメトリックを識別することを含む。
【０１２０】
方法において使用される信号観測値は、信号特徴ベクトルであり、メル周波数ケプストラム係数特徴ベクトル、線形予測符号化係数、スペクトル密度、スペクトルエネルギー、雑音比、音の長さ、相対パワー、フィルタ一致で構成されるグループから選択されてもよい。観測値の各セットは、それぞれの時間期間を有し、あらかじめ定められた距離は、それぞれの時間間隔の相違に基づく。
【０１２１】
さらに、計算された状態コストメトリックを使用して状態の系列を決定することは、状態コストメトリックに基づいて時間インデックス付き点を通るバックトラッキングを含むことができる。さらに、所与の状態の所与の状態コストメトリックを計算することは、（ｉ）すべての候補の先行時間インデックス付き点に関連付けられているすべての状態の状態コストメトリック、（ｉｉ）各候補先行時間インデックス付き点の各状態から所与の状態に推移する確率、（ｉｉｉ）それぞれの候補先行時間インデックス付き点から推移するそれぞれの確率、および（ｉｖ）状態セット内の状態から出力されている観測値の同時確率に基づく。
【０１２２】
加えて、状態の決定された系列は、観測値のセットの整合を決定する。複数の時間インデックス付き点は、Ｋ次元空間を通る対角線からのあらかじめ定められた距離に関して決定される。
【０１２３】
他の方法および／またはアルゴリズムと比較してＭＰＶＡのパフォーマンスを決定することに基づいて、基本ビタビアルゴリズム（ＶＡ）を含む実験Ａ１、Ａ２、Ａ３が、スピーカに依存しない孤立単語認識（ＩＷＲ：Ｉｓｏｌａｔｅｄ  Ｗｏｒｄ  Ｒｅｃｏｇｎｉｔｉｏｎ）実験のために実施されたが、その結果は本開示に提示される。実験Ａ１は、Ａ１がＫ個のパターンを使用して、Ｋパターンの最良（最大）尤度が選択されるように実施された。同じクラスに属する個々のパターンの
【０１２４】
【数５０】
2013511739.tif 000052
を所与として、
【０１２５】
【数５１】
2013511739.tif 000053
の同時尤度スコアが得られた、ただしλｊは雑音なしの語モデルであり、ＶＡは
【０１２６】
【数５２】
2013511739.tif 000054
を計算するために使用される。パターンｊ＊＝ａｒｇ  ｍａｘｊ  θｊが選択される。さらに、最高の尤度を有するパターンが選択される。実験２は、制約付きマルチパターンビタビアルゴリズム（ＣＭＰＶＡ：Ｃｏｎｓｔｒａｉｎｅｄ  Ｍｕｌｔｉ  Ｐａｔｔｅｒｎ  Ｖｉｔｅｒｂｉ  Ａｌｇｏｒｉｔｈｍ）のバージョンであり（実験Ａ２で使用される特別なバージョンはＣＭＰＶＡ−１と呼ばれる）、実験Ａ３はＭＰＶＡを使用する。Ｐ（φ（ｔ）／φ（ｔ−１））は、式（１１）を使用して計算され、ｂｊ（｛Ｏφ（ｔ）｝）は、式（１３）を使用して計算される。さらに、実験Ａ３（ＧＰＣ）は、グローバル経路制約（ＧＰＣ）と共にＭＰＶＡを使用して実施された。
【０１２７】
実験は、８ｋＨｚのサンプリングレートでデジタル化された、３６名の成人女性および３４名の成人男性話者により話され、各語が同一の話者により３回繰り返された７５語の語彙を備える、ＩＩＳｃ−ＢＰＬデータベースを使用して実施された。ＩＩＳｃ−ＢＰＬデータベースは、Ｖｏｉｃｅ  Ｄｉａｌｅｒアプリケーションに使用される、インド英語データベースである。このデータベースは、３６名の成人女性および３４名の成人男性話者により話された、英語孤立単語、英語ＴＩＭＩＴ文章、母国語（さまざまな話者で異なる）文章で構成され、ＰＳＴＮ電話（８ＫＨｚサンプリング）、コードレス市内電話（１６ＫＨｚサンプリング）、直接マイクロフォン（１６ＫＨｚサンプリング）、エリクソン（ＧＳＭ（登録商標））移動電話（８ＫＨｚサンプリング）、残響室電話（ソニー）（８ＫＨｚサンプリング）という５つの異なる録音チャネルを使用する研究室環境において録音されたものである。
【０１２８】
語彙は、Ｖｏｉｃｅ  Ｄｉａｌｅｒアプリケーションに使用される音声学的に紛らわしい相当数の語から成る。左から右のＨＭＭは、文節Ｋ平均（ＳＫＭ：Ｓｅｇｍｅｎｔａｌ  Ｋ  Ｍｅａｎｓ）アルゴリズムを使用して雑音なしの音声に対してトレーニングされる。２５名の男性および２５名の女性話者がトレーニングに使用され、各話者により各語が３回繰り返された。ＭＰＶＡは、２０名の初見の話者（１１名の女性および９名の男性）について、雑音なしおよび雑音ありの両方の場合でテストされた。テストの語は、各信号対雑音比（ＳＲＮ）における、各話者による、各語ごとの３つのパターンである。実験は、バースト性雑音の影響を受けた音声に対して実行された。バースト性雑音は、３つのすべてのパターンに対して−５ｄＢ、０ｄＢ、５ｄＢ  ＳＮＲ（ローカル）で（時間領域の）各語のフレームの１０％に追加された（残りのフレームは雑音なしであり、−５ｄＢから＋５ｄＢの範囲は、雑音に影響されたフレームの重度から軽度の劣化を示す）。バースト性雑音は、一様確率分布で話し言葉のあらゆる部分にランダムに発生した。ＭＦＣＣ、ΔＭＦＣＣ、およびΔ２ＭＦＣＣは、それらのエネルギー成分なしで使用された（３６次元）。エネルギー成分は、無視され、ケプストラム平均減算法（Ｃｅｐｓｔｒａｌ  Ｍｅａｎ  Ｓｕｂｓｔｒａｃｔｉｏｎ）が行なわれた。状態の可変な数（a variable number of states）は、各語モデルに対して使用され、すなわちトレーニングパターンの平均期間に比例し、音声の各秒ごとに、状態あたり３つのガウス混合分布で、８つのＨＭＭ状態が割り当てられた。実験はまた、さまざまなＳＮＲでＮＯＩＳＥＸ９２データベースから取られた、他の種類の機関銃雑音およびバブル雑音のような一過性の雑音に対しても実施された。
【０１２９】
実験の結果は、表１で要約する。Ｋ＝２のパターンについて、実験ＶＡ、Ａ１、Ａ２、およびＡ３の雑音なしおよび雑音ありの音声のＡＳＲパーセント精度の比較。ｂｊ（｛Ｏφ（ｔ）｝）は、式（１３）を使用して計算される。Ｐ（φ（ｔ）／φ（ｔ−１））は、式（１１）を使用して計算される。バースト性雑音は、可変ＳＮＲでフレームの１０％に追加された。バブル雑音および機関銃雑音は、全体の音声パターンに追加された。表１の列見出しは、ＶＡ  ビタビアルゴリズム、実験Ａ１−ＶＡを使用する２つのパターンのうちの最良、実験Ａ２−ＭＰＤＴＷ＋ＣＭＰＶＡ−１、実験Ａ３−ＭＰＶＡ、実験Ａ３（ＧＰＣ）−グローバル経路制約によるＭＰＶＡである。
【０１３０】
Ｋ＝２テストパターンでＭＰＶＡを使用する実験Ａ３の結果は、ＶＡよりも、２．３％のＡＳＲ精度の向上をもたらす。興味深いことに、実験Ａ１は、それぞれ雑音なしおよび雑音ありの音声について（−５ｄＢ  ＳＮＲ  １０％のバースト性雑音で）、ＶＡベンチマークに対して＝０．２％および３％の軽度の向上をもたらす。このことは、複数パターンの使用が実際に有益であるが、尤度の最大化のみは弱いことを示す。実験Ａ３もまた、認識に２つのパターンのうちの良いほうのみを考慮する、実験Ａ１よりも大幅に優れている。しかし、雑音なしの音声については、実験Ａ２とＡ３の間にＡＳＲ精度の大きな差異はない。
【０１３１】
これ以降、バースト性雑音を伴う音声の場合を検討する。表１は、５ｄＢ  ＳＮＲ、１０％バースト性雑音の音声において、提案されるＭＰＶＡを使用する語誤り率は、単一パターンＶＡを使用する場合と比較すると２８．５％減少したことを示す。さらに表１は、先に提案されたＣＭＰＶＡ−１を使用する場合（実験Ａ２）と比較すると、ＭＰＶＡを使用する（実験Ａ３）語誤り率には、１９．９％という極めて大きい減少があることを示す。統計的有意性差異のマクネマー検定を使用して、バースト性雑音の場合の実験Ａ２とＡ３（また実験ＶＡとＡ３）との結果の差異が、極めて統計的に有意であることを見出した。
【０１３２】
同様に、表１は、ＶＡと比較して実験ＭＰＶＡについて５ｄＢまたは１０ｄＢ  ＳＮＲでバブル雑音および機関銃雑音のような他の雑音の多い音声のＡＳＲ精度の向上を示している。しかし、バブルおよび機関銃雑音が使用された場合、実験Ａ２およびＡ３のパフォーマンスに大きな差異はなかった。
【０１３３】
すべてのテスト音声パターンの１００％が、５ｄＢ  ＳＮＲで付加ホワイトガウス雑音（ＡＷＧＮ：ａｄｄｉｔｉｖｅ  ｗｈｉｔｅ  Ｇａｕｓｓｉａｎ  ｎｏｉｓｅ）により影響を受ける場合、さまざまな実験が実施された。ＶＡは、２２．８９％のパーセント精度をもたらした。実験Ａ３は２１．７３％の精度をもたらし、ＶＡ精度に近似するが、わずかに劣っている。しかし、ＡＷＧＮが−５ｄＢ  ＳＮＲで追加された場合、ＶＡは３．７３％の精度をもたらし、実験３の精度は４．０９％まで向上した。したがって、ＡＷＧＮのような定常雑音について、ＭＰＶＡは、ＶＡの場合と類似するパフォーマンスをもたらす。これは、音声がＡＷＧＮ［５］に影響される場合のＶＡよりもパフォーマンスがはるかに劣るＣＭＰＶＡ−１よりも優れている。
【０１３４】
また、表１から、ＧＰＣの使用（実験Ａ３（ＧＰＣ））がＭＰＶＡのパフォーマンスを著しく変えることはないことが分かる。ＧＰＣを使用することで計算の複雑さが５０％以上軽減されるので、実験はＧＰＣを使用する正当な理由をもたらす。
【０１３５】
【表１】
2013511739.tif 000055
【０１３６】
実験Ａ１、Ａ２、およびＡ３に使用されるさまざまなアルゴリズムの計算の複雑さが考慮される。ビタビアルゴリズムの複雑さは、（指数項を持つガウス混合分布である）ｂｊ（Ｏｔ）を１つのＥｓ単位として計算することを含むことがあり、ＨＭＭはＮ個の状態を有する。ＭＡＣ（Ｍｕｌｔｉｐｌｙ−Ａｃｃｕｍｕｌａｔｅ（乗算−累積））と呼ばれるユニットが定義される。１つのＭＡＣは、１つの加算および１つの乗算演算の組み合わせである。さらに、簡単にするために、１つの最大（ｍａｘ）演算は、１つの加算演算と等価であると仮定される。格子内の各ノードにおいて、｛Ｎ−１  ｍａｘ演算、Ｎ＋１  乗算、および１  Ｅｓユニット｝＝｛Ｎ  ＭＡＣｓ、１  Ｅｓ｝がある。ビタビアルゴリズムの総計の複雑さは｛Ｔ．Ｎ２  ＭＡＣ、Ｔ．Ｎ  Ｅｓ｝であり、ここでＴはパターン内のフレームの数である。
【０１３７】
ＭＰＶＡの複雑さは、同時確率ｂｊ（｛Ｏφ（ｔ）｝）がＸ  Ｅｓユニットであると計算することを含むことができる。式（１１）のＰ（φ（ｔ）／φ（ｔ−１））は、１つの乗算演算を有する。格子内の各ノードにおいて（式（９））、｛Ｎ−１  ｍａｘ演算、２Ｎ＋１  乗算、Ｘ  Ｅｓ｝。簡単にするため、Ｔ１＝Ｔ２＝．．．、＝ＴＫ＝Ｔと仮定する。ＭＰＶＡの総計の複雑さは｛ＴＫ．Ｎ２  ＭＡＣ、ＴＫ．Ｎ２  乗算、ＴＫ．Ｎ．Ｘ  Ｅｓ｝である。
【０１３８】
実施形態は、マルチパターンビタビアルゴリズム（ＭＰＶＡ）を同時に使用してＫセットのパターンの単一の最適状態系列を決定する方法を説明する。方法は、（Ｋ＋１）次元グリッドを通る最適時間経路を決定する際に、ローカル連続制約（ＬＣＣ：Ｌｏｃａｌ  Ｃｏｎｔｉｎｕｉｔｙ  Ｃｏｎｓｔｒａｉｎｔ）があればこれを選択することを含む。ＭＰＶＡに基づいて、ＡＳＲ精度は、単一パターンのＶＡの場合に比べて大幅に向上する。ＭＰＶＡ技法はまた、雑音の存在下で、ＣＭＰＶＡ技法をしのぐパフォーマンスをもたらす。ＭＰＶＡ定式化は、ＨＭＭベースのパターン一照合の頑強性が必要とされる多くの他の問題に適用可能であるという普遍性を備える。複数パターンを同時に認識するためのＶＡの拡張と同様に、複数パターンを同時に認識するために前向き後ろ向き（Ｆｏｒｗａｒｄ  ａｎｄ  Ｂａｃｋｗａｒｄ）アルゴリズムを拡張することが可能である。
【０１３９】
図７は、ＭＰＶＡを使用する音声認識システム向けに構成される例示的なコンピューティングデバイス７００を示すブロック図である。極めて基本的な構成７０１において、コンピューティングデバイス７００は通常、１つまたは複数のプロセッサ７１０およびシステムメモリ７２０を含む。メモリバス７３０は、プロセッサ７１０とシステムメモリ７２０との間で通信するために使用することができる。望ましい構成に応じて、プロセッサ７１０は、マイクロプロセッサ（μＰ）、マイクロコントローラ（μＣ）、デジタルシグナルプロセッサ（ＤＳＰ）、またはそれらの任意の組み合わせを含む任意のタイプのものであってもよいが、これらに限定されない。プロセッサ７１０は、レベル１キャッシュ７１１およびレベル２キャッシュ７１２のような、１つまたは複数のレベルのキャッシング、プロセッサコア７１３、およびレジスタ７１４を含むことができる。プロセッサコア７１３は、演算論理装置（ＡＬＵ：ａｒｉｔｈｍｅｔｉｃ  ｌｏｇｉｃ  ｕｎｉｔ）、浮動小数点演算ユニット（ＦＰＵ：ｆｌｏａｔｉｎｇ  ｐｏｉｎｔ  ｕｎｉｔ）、デジタル信号処理コア（ＤＳＰ  Ｃｏｒｅ）、またはそれらの任意の組み合わせを含むことができる。メモリコントローラ７１５はまた、プロセッサ７１０と共に使用することができるか、または一部の実施態様において、メモリコントローラ７１５はプロセッサ７１０の内部部品であってもよい。
【０１４０】
望ましい構成に応じて、システムメモリ７２０は、（ＲＡＭのような）揮発性メモリ、（ＲＯＭ、フラッシュメモリなどのような）不揮発性メモリ、またはそれらの任意の組み合わせを含む任意のタイプのものであってもよいが、これらに限定されない。システムメモリ７２０は通常、オペレーティングシステム７２１、１つまたは複数のアプリケーション７２２、およびプログラムデータ７２４を含む。アプリケーション７２２は、本発明の開示による、電気回路に入力を供給するように構成される制御入力処理アルゴリズム７２３を含む。プログラムデータ７２４は、以下でさらに説明されるように、回路の電力消費を最小化するために有用な制御入力データ７２５を含む。一部の例示的な実施形態において、アプリケーション７２２は、電気回路による電力消費が最小に抑えられるように、オペレーティングシステム７２１でプログラムデータ７２４により動作するように構成されてもよい。この説明された基本構成は、破線７０１内の構成要素によって図７に示される。
【０１４１】
コンピューティングデバイス７００は、基本構成７０１と任意の必要とされるデバイスおよびインターフェイスとの間の通信を容易にするために、追加の特徴または機能、および追加のインターフェイスを有することができる。たとえば、バス／インターフェイスコントローラ７４０は、ストレージインターフェイスバス７４１を介して基本構成７０１と１つまたは複数のデータ記憶装置７５０との間の通信を容易にするために使用することができる。データ記憶装置７５０は、取外し式記憶装置７５１、非取外し式記憶装置７５２、またはその組み合わせであってもよい。取外し式記憶装置および非取外し式記憶装置の例は、ほんの一部をあげると、フレキシブルディスクドライブおよびハードディスクドライブ（ＨＤＤ）のような磁気ディスクデバイス、コンパクトディスク（ＣＤ）ドライブまたはデジタル多用途ディスク（ＤＶＤ）ドライブのような光ディスクドライブ、ソリッドステートドライブ（ＳＳＤ）、およびテープドライブを含む。例示的なコンピュータ記憶媒体は、コンピュータ可読命令、データ構造、プログラムモジュールおよび他のデータのような情報の格納のための任意の方法または技術で実施された揮発性および不揮発性の、取外し式および非取外し式媒体を含むことができる。
【０１４２】
システムメモリ７２０、取外し式ストレージ７５１、および非取外し式ストレージ７５２はすべて、コンピュータ記憶媒体の例である。コンピュータ記憶媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュメモリまたは他のメモリ技術、ＣＤ−ＲＯＭ、デジタル多用途ディスク（ＤＶＤ）または他の光ストレージ、磁気カセット、磁気テープ、磁気ディスクストレージまたは他の磁気記憶装置、もしくは望ましい情報を格納するために使用されうる、コンピューティングデバイス７００によってアクセスされうる任意の他の媒体を含むが、これらに限定されない。任意のそのようなコンピュータ記憶媒体は、デバイス７００の一部を構成することができる。
【０１４３】
コンピューティングデバイス７００はまた、バス／インターフェイスコントローラ７４０を介して、さまざまなインターフェイスデバイス（たとえば、出力インターフェイス、周辺インターフェイス、および通信インターフェイス）から基本構成７０１への通信を容易にするために、インターフェイスバス７４２を含むことができる。例示的な出力インターフェイス７６０は、グラフィックス処理ユニット７６１および音声処理ユニット７６２を含み、これらは１つまたは複数のＡ／Ｖポート７６３を介してディスプレイまたはスピーカのようなさまざまな外部デバイスと通信するように構成されてもよい。例示的な周辺インターフェイス７６０は、シリアルインターフェイスコントローラ７７１またはパラレルインターフェイスコントローラ７７２を含み、これらは１つまたは複数の入出力ポート７７３を介して入力デバイス（たとえば、キーボード、マウス、ペン、音声入力デバイス、タッチ入力デバイスなど）または他の周辺デバイスのような外部デバイスと通信するように構成されてもよい。例示的な通信インターフェイス７８０はネットワークコントローラ７８１を含み、これは１つまたは複数の通信ポート７８２を介するネットワーク通信上の１つまたは複数の他のコンピューティングデバイス７９０との通信を容易にするために構成されてもよい。通信接続は、通信媒体の一例である。通信媒体は通常、搬送波または他のトランスポート機構のような、変調データ信号のコンピュータ可読命令、データ構造、プログラムモジュール、または他のデータによって具現されてもよく、任意の情報配信媒体を含む。「変調データ信号」は、信号の特性の１つまたは複数が、信号内の情報を符号化するように設定または変更された信号とすることができる。限定的ではなく、一例として、通信媒体は、有線ネットワークまたは直接有線接続のような有線媒体、ならびに音響、無線周波数（ＲＦ）、赤外線（ＩＲ）および他の無線媒体のような無線媒体を含むことができるが、これらに限定されない。本明細書に使用されているコンピュータ記憶媒体という用語は、記憶媒体および通信媒体の両方を含むことができる。
【０１４４】
コンピューティングデバイス７００は、移動電話、携帯情報端末（ＰＤＡ）のような小型フォームファクターポータブル（またはモバイル）電子デバイス、パーソナルメディアプレイヤーデバイス、無線Ｗｅｂ視聴デバイス、パーソナルハンドセットデバイス、アプリケーション特有のデバイス、または上記の機能のいずれかを含む混合デバイスの一部として実施されてもよい。コンピューティングデバイス７００はまた、ラップトップコンピュータおよびラップトップコンピュータ以外の構成を含むパーソナルコンピュータとして実施されてもよい。
【０１４５】
全般として、本明細書において説明される回路が、集積回路開発技術を使用してハードウェアにおいて、またはさらに一部の他の方法、またはハードウェアと、本明細書において説明されるさまざまな機能を実施するためにソフトウェア環境において順序付けられ、パラメータ化され、接続されうるソフトウェアオブジェクトとの組み合わせを介して実施されてもよいことを理解されたい。たとえば、本出願は、揮発性または不揮発性メモリを通じてソフトウェアアプリケーションを実行する汎用または専用のプロセッサを使用して実施されてもよい。さらに、ハードウェアオブジェクトは、信号の状態がさまざまなデータを表す電気信号を使用して通信することができる。
【０１４６】
本明細書において説明されるさまざまな構成は、例示のみを目的としていることをさらに理解されたい。そのようなものとして、他の構成および他の要素（たとえば、マシン、インターフェイス、機能、順序、機能のグループ化など）を代わりに使用することができ、望ましい結果に従って一部の要素全体が省略されてもよいことを、当業者であれば理解するであろう。さらに、説明される要素の多くは、個別または分散構成要素として、または他の構成要素と併せて、任意の適切な組み合わせおよび場所で実施することができる機能エンティティである。
【０１４７】
本開示は、本出願において説明される特定の実施形態に関して限定されるべきではなく、実施形態はさまざまな態様を例示することを目的としている。当業者には明らかであるように、その精神および範囲を逸脱することなく多くの変更および変形を加えることができる。本明細書において列挙される方法および装置に加えて、本開示の範囲内の機能的に等価の方法および装置は、上記の説明から当業者には明らかとなるであろう。そのような変更および変形は、添付の特許請求の範囲内に含まれることが意図される。本開示は、添付の特許請求の範囲の条項、ならびにそのような特許請求の範囲が権利を有する均等物の全範囲によってのみ限定されるものとする。本開示が、当然変化しうるものである特定の方法、試薬、化合物組成、または生態系に限定されないことを理解されたい。さらに、本明細書において使用される用語は、特定の実施形態を説明することを目的としており、限定的であることを意図していないことも理解されたい。
【０１４８】
本明細書における実質的にすべての複数形および／または単数形の用語の使用に対して、当業者は、状況および／または用途に適切なように、複数形から単数形に、および／または単数形から複数形に変換することができる。さまざまな単数形／複数形の置き換えは、理解しやすいように、本明細書で明確に説明することができる。
【０１４９】
通常、本明細書において、特に添付の特許請求の範囲（たとえば、添付の特許請求の範囲の本体部）において使用される用語は、全体を通じて「オープンな（ｏｐｅｎ）」用語として意図されていることが、当業者には理解されよう（たとえば、用語「含む（ｉｎｃｌｕｄｉｎｇ）」は、「含むがそれに限定されない（ｉｎｃｌｕｄｉｎｇ  ｂｕｔ  ｎｏｔ  ｌｉｍｉｔｅｄ  ｔｏ）」と解釈されるべきであり、用語「有する（ｈａｖｉｎｇ）」は、「少なくとも有する（ｈａｖｉｎｇ  ａｔ  ｌｅａｓｔ）」と解釈されるべきであり、用語「含む（ｉｎｃｌｕｄｅｓ）」は、「含むがそれに限定されない（ｉｎｃｌｕｄｅｓ  ｂｕｔ  ｉｓ  ｎｏｔ  ｌｉｍｉｔｅｄ  ｔｏ）」と解釈されるべきである、など）。導入される請求項で具体的な数の記載が意図される場合、そのような意図は、当該請求項において明示的に記載されることになり、そのような記載がない場合、そのような意図は存在しないことが、当業者にはさらに理解されよう。たとえば、理解の一助として、添付の特許請求の範囲は、導入句「少なくとも１つの（ａｔ  ｌｅａｓｔ  ｏｎｅ）」および「１つまたは複数の（ｏｎｅ  ｏｒ  ｍｏｒｅ）」を使用して請求項の記載を導くことを含む場合がある。しかし、そのような句の使用は、同一の請求項が、導入句「１つまたは複数の」または「少なくとも１つの」および「ａ」または「ａｎ」などの不定冠詞を含む場合であっても、不定冠詞「ａ」または「ａｎ」による請求項の記載の導入が、そのように導入される請求項の記載を含む任意の特定の請求項を、単に１つのそのような記載を含む実施形態に限定する、ということを示唆していると解釈されるべきではない（たとえば、「ａ」および／または「ａｎ」は、「少なくとも１つの」または「１つまたは複数の」を意味すると解釈されるべきである）。同じことが、請求項の記載を導入するのに使用される定冠詞の使用にも当てはまる。また、導入される請求項の記載で具体的な数が明示的に記載されている場合でも、そのような記載は、少なくとも記載された数を意味すると解釈されるべきであることが、当業者には理解されよう（たとえば、他の修飾語なしでの「２つの記載（ｔｗｏ  ｒｅｃｉｔａｔｉｏｎｓ）」の単なる記載は、少なくとも２つの記載、または２つ以上の記載を意味する）。さらに、「Ａ、ＢおよびＣ、などの少なくとも１つ」に類似の慣例表現が使用されている事例では、通常、そのような構文は、当業者がその慣例表現を理解するであろう意味で意図されている（たとえば、「Ａ、Ｂ、およびＣの少なくとも１つを有するシステム」は、Ａのみ、Ｂのみ、Ｃのみ、ＡおよびＢを共に、ＡおよびＣを共に、ＢおよびＣを共に、ならびに／またはＡ、Ｂ、およびＣを共に、などを有するシステムを含むが、それに限定されない）。「Ａ、Ｂ、またはＣ、などの少なくとも１つ」に類似の慣例表現が使用されている事例では、通常、そのような構文は、当業者がその慣例表現を理解するであろう意味で意図されている（たとえば、「Ａ、Ｂ、またはＣの少なくとも１つを有するシステム」は、Ａのみ、Ｂのみ、Ｃのみ、ＡおよびＢを共に、ＡおよびＣを共に、ＢおよびＣを共に、ならびに／またはＡ、Ｂ、およびＣを共に、などを有するシステ���を含むが、それに限定されない）。２つ以上の代替用語を提示する事実上いかなる離接する語および／または句も、明細書、特許請求の範囲、または図面のどこにあっても、当該用語の一方（ｏｎｅ  ｏｆ  ｔｈｅ  ｔｅｒｍｓ）、当該用語のいずれか（ｅｉｔｈｅｒ  ｏｆ  ｔｈｅ  ｔｅｒｍｓ）、または両方の用語（ｂｏｔｈ  ｔｅｒｍｓ）を含む可能性を企図すると理解されるべきであることが、当業者にはさらに理解されよう。たとえば、句「ＡまたはＢ」は、「Ａ」または「Ｂ」あるいは「ＡおよびＢ」の可能性を含むことが理解されよう。
【０１５０】
加えて、本開示の特徴または態様がマーカッシュ形式のグループに関して説明される場合、それにより本開示はまた、マーカッシュ形式のグループの構成要素の任意の個々の構成要素または構成要素のサブグループに関しても説明されることを理解するであろう。
【０１５１】
書面による説明を行なうことに関してなど、任意およびすべての目的のため、当業者によって理解されるように、本明細書において開示されるあらゆる範囲はまた、任意およびすべての可能な下位範囲およびその下位範囲の組み合わせを網羅する。任意の一覧される範囲は、同範囲が少なくとも等価の２分の１、３分の１、４分の１、５分の１、１０分の１などに分割されることを十分に説明および可能にするものと容易に理解することができる。非限定的な例として、本明細書において説明される各範囲は、下３分の１、中３分の１、および上３分の１などに容易に分解することができる。さらに当業者によって理解されるように、「最大（ｕｐ  ｔｏ）」、「少なくとも（ａｔ  ｌｅａｓｔ）」、「よりも大きい（ｇｒｅａｔｅｒ  ｔｈａｎ）」、「よりも小さい（ｌｅｓｓ  ｔｈａｎ）」などのようなすべての表現は、列挙される数を含み、引き続き上記で説明されている下位範囲に分解することができる範囲を示す。最後に、当業者に理解されるように、範囲は個々の構成要素を含む。したがって、たとえば、１〜３個のセルを有するグループは、１個、２個、または３個のセルを有するグループを示す。同様に、１〜５個のセルを有するグループは、１個、２個、３個、４個、または５個のセルを有するグループを示し、以下同様である。
【０１５２】
本明細書においてさまざまな態様および実施形態が開示されたが、他の態様および実施形態は当業者には明らかとなろう。本明細書において開示されるさまざまな態様および実施形態は、説明のためのものであって、限定的であることを意図しておらず、真の範囲および精神は後段の特許請求の範囲により示される。
【図１】
2013511739.tif 000056
【図２】
2013511739.tif 000057
【図３】
2013511739.tif 000058
【図４】
2013511739.tif 000059
【図５】
2013511739.tif 000060
【図６】
2013511739.tif 000061
【図７】
2013511739.tif 000062
【図８】
2013511739.tif 000063
【国際調査報告】
2013511739.tif 000064