(57)【要約】【課題】  漸進的ベイズ学習を使用して、雑音を含む信号内の付加雑音を推定する方法および装置を提供する。【解決手段】  経時変化する事前雑音分布が想定され、先行する時間ステップで計算された事後に関する近似を使用して、ハイパーパラメータ（平均および分散）が再帰的に更新される。時間領域内の付加雑音は、漸進的ベイズ学習を適用する前に、対数スペクトラムまたはケプストラム領域内で表される。別々のフレームの各々の雑音に関する平均および分散の両方の推定結果は、同じ対数スペクトラムまたはケプストラム領域内において音声の特徴の拡張を実行するために使用される。【選択図】  図４
2004302470.tif 000002
【特許請求の範囲】
【請求項１】
雑音を含む信号内の雑音を推定する方法であって、
前記雑音を含む信号をフレームに分割すること、および、
漸進的ベイズ学習を使用して、フレームに関する平均および分散の両方を含む雑音推定を決定し、経時変化する事前雑音分布が想定され、雑音推定が、先行するフレームで計算された事後雑音に関する近似を使用して再帰的に更新されること
を備えたことを特徴とする方法。
【請求項２】
雑音推定を決定することは、
先行するフレームで計算された事後雑音に関する近似を使用して、前記雑音を含む信号の第１のフレームに関する雑音推定を決定すること、
前記雑音を含む信号の第２のフレームに関するデータ尤度推定を決定すること、および、
前記第２のフレームに関するデータ尤度推定および前記第１のフレームに関する前記雑音推定を使用して、前記第２のフレームに関する雑音推定を決定すること
を含むことを特徴とする請求項１に記載の方法。
【請求項３】
前記第２のフレームに関する前記データ尤度推定を決定することは、クリーン信号および雑音信号の非線形関数として、前記雑音を含む信号の定義に部分的に基づく数式内の前記第２のフレームに関する前記データ尤度推定を使用することを含むことを特徴とする請求項２に記載の方法。
【請求項４】
前記数式は、さらに前記非線形関数への近似に基づくことを特徴とする請求項３に記載の方法。
【請求項５】
前記近似は、前記第１のフレームに関する前記雑音推定によって部分的に定義された時点での非線形関数に等しいことを特徴とする請求項２、３または４に記載の方法。
【請求項６】
前記近似は、テイラー級数展開であることを特徴とする請求項５に記載の方法。
【請求項７】
前記近似は、さらにラプラス近似を得ることを含むことを特徴とする請求項６に記載の方法。
【請求項８】
前記第２のフレームに関する前記データ尤度推定を使用することは、非線形関数のテイラー級数展開のための展開点として、前記第１のフレームに関する前記雑音推定を使用することを含むことを特徴とする請求項２、３または４に記載の方法。
【請求項９】
前記事後雑音に関する近似を使用することは、ガウス近似を使用することを含むことを特徴とする請求項１ないし４のいずれかに記載の方法。
【請求項１０】
前記雑音推定は、ガウス近似に基づくものであることを特徴とする請求項１ないし４のいずれかに記載の方法。
【請求項１１】
前記雑音推定は、各フレームに関する雑音推定を連続して決定することを含むことを特徴とする請求項１０に記載の方法。
【請求項１２】
雑音を含む信号内の雑音を推定するための方法であって、
前記雑音を含む信号をフレームに分割すること、および、
各フレームに関して連続的に、各フレーム内の雑音を推定し、現在のフレームに関する雑音推定は、前記現在のフレームに関するデータ尤度のガウス近似、および事前フレームのシーケンスにおける雑音のガウス近似に基づくこと
を備えたことを特徴とする方法。
【請求項１３】
前記各フレーム内の雑音を推定することは、クリーン信号および雑音信号の非線形関数として、前記雑音を含む信号の定義に部分的に基づく数式を使用して、前記現在のフレーム内のデータ尤度に関する近似を決定することを含むことを特徴とする請求項１２に記載の方法。
【請求項１４】
前記数式は、さらに前記非線形関数への近似に基づくことを特徴とする請求項１３に記載の方法。
【請求項１５】
前記近似は、前のフレームに関する前記雑音推定によって部分的に定義された時点での非線形関数に等しいことを特徴とする請求項１４に記載の方法。
【請求項１６】
前記近似は、テイラー級数展開であることを特徴とする請求項１５に記載の方法。
【請求項１７】
前記近似は、ラプラス近似をさらに含むことを特徴とする請求項１６に記載の方法。
【請求項１８】
前記雑音推定は、雑音平均推定および雑音分散推定を含むことを特徴とする請求項１２ないし１７のいずれかに記載の方法。
【請求項１９】
コンピュータが読み取り可能な命令を含むコンピュータ読取り可能媒体であって、実装されると、請求項１ないし１８に記載の方法のいずれかをコンピュータに実行させることを特徴とするコンピュータ読取り可能媒体。
【請求項２０】
請求項１ないし１８に記載の方法のいずれかを実行するように適合されることを特徴とするシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、雑音推定に関する。より詳細には、本発明は、パターン認識に使用される信号の雑音推定に関する。
【背景技術】
【０００２】
音声認識システムなどのパターン認識システムは、入力信号を受け取り、信号を復号して、信号によって表されたパターンを見つけようと試みる。例えば、音声認識システムでは、認識システムによって音声信号（テスト信号と呼ばれることが多い）が受け取られ、音声信号によって表された文字列を識別するために復号される。
【０００３】
入力信号は、典型的には、何らかの形の雑音によって破壊される。パターン認識システムの性能を向上させるためには、雑音を含む信号における雑音を推定することが望ましい場合が多い。
【０００４】
過去には、いくつかのフレームワークを使用して、信号内の雑音を推定してきた。第１のフレームワークでは、バッチアルゴリズムが使用され、これは、入力信号内の他のフレーム内に見られる雑音とは無関係に、入力信号の各フレーム内の雑音を推定する。個々の雑音推定値が平均されて、すべてのフレームに関するコンセンサス雑音（consensus noise）値が形成される。第２のフレームワークでは、再帰的アルゴリズムが使用され、これは、１または複数の、以前のまたは連続するフレームの雑音推定値に基づいて、現在のフレーム内の雑音を推定する。こうした再帰的技法は、経時的にゆっくりと変化する雑音を見込む。
【発明の開示】
【発明が解決しようとする課題】
【０００５】
１つの再帰的技法では、雑音を含む信号（noisy signal）は、クリーン信号（clean signal）と雑音信号（noise signal）の非線形関数となると想定される。計算を促進するために、この非線形関数は、いくつかの展開点に関して計算された、切断テイラー級数展開によって近似されることが多い。一般にテイラー級数展開は、展開点において、関数の最良推定値を表す。従って、テイラー級数近似法の良さは、展開点の選択と同程度にすぎない。ただし、従来技術の下では、テイラー級数の展開点は、フレームごとに最適化されることはなかった。従って、再帰的アルゴリズムで生成される雑音推定値は、理想的とは言えない。
【０００６】
最尤（ＭＬ：maximum-likelihood)および最大事後(ＭＡＰ：maximum a posteriori）技法が、音響の場で反復的に線形化された非線形モデルを使用して、非定常雑音の連続点推定に使用されてきた。一般に、雑音の分布に関する単純なガウスモデルを使用して、ＭＡＰ推定は、より品質の良い雑音推定を提供した。ただし、ＭＡＰ技法では、事前ガウス雑音（Gaussian noise prior）に関連付けられた平均および分散パラメータは、各々音声フリーのテスト発声（speech-free test utterance）のセグメントから決定された。非定常雑音の場合、この近似は、実際の事前雑音統計（noise prior statistics）を適正に反映するものでない可能性がある。
【０００７】
以上に鑑みて、パターン信号の雑音推定における、より効果的な雑音推定技法が求められている。
【課題を解決するための手段】
【０００８】
非定常雑音を推定するための新しい方法は、漸進的ベイズ学習（incremental bayes learning）を使用する。一態様では、この技法は、ハイパーパラメータ（平均および分散）によって定義可能な雑音推定を、経時変化する事前雑音分布の仮定として定義することができ、事前雑音分布は、先行する時間またはフレームステップで計算された事後近似（approximation posterior）を使用して、再帰的に更新される。他の態様では、この技法は、各フレームについて連続的に、各フレーム内の雑音を推定するものとして定義して、現在のフレームの雑音推定が、現在のフレームのデータ尤度のガウス近似、および以前の一連のフレームにおける雑音のガウス近似に基づくようにすることができる。
【発明を実施するための最良の形態】
【０００９】
図１に、本発明を実施することができる好適なコンピューティングシステム環境１００の一例を示す。コンピューティングシステム環境１００は、好適なコンピューティング環境の一例を示すものに過ぎず、本発明の使用または機能の範囲に関して、どのような制限も提案することを意図するものではない。さらに、コンピューティング環境１００は、例示的オペレーティング環境１００に示された構成要素のいずれか１つまたはいずれかの組合せに関して、どのような依存性または要件をも有するものと解釈するべきではない。
【００１０】
本発明は、多数の他の汎用または特定用途向けコンピューティングシステム環境または構成でも動作可能である。本発明で使用するのに好適な、よく知られたコンピューティングシステム、環境および／または構成の例には、これに限定されないが、パーソナルコンピュータ、サーバコンピュータ、ハンドヘルドまたはラップトップデバイス、マルチプロセッサシステム、マイクロプロセッサベースシステム、セットトップボックス、プログラム可能消費家電、ネットワークＰＣ、ミニコンピュータ、メインフレームコンピュータ、電話システム、上記いずれかのシステムを含む分散コンピューティング環境などを含む。
【００１１】
本発明は、コンピュータによって実行される、プログラムモジュールなどの、コンピュータ実行可能命令の一般的な文脈で説明することができる。一般に、プログラムモジュールには、特定のタスクを実行するか、または特定の抽象データ型を実施する、ルーチン、プログラム、オブジェクト、構成要素、データストラクチャなどが含まれる。プログラムおよびモジュールによって実行されるタスクについては、以下に図を用いて説明する。当分野の技術者であれば、本明細書の記述および／または図面を、以下で論じるいずれかの形のコンピュータ読取り可能媒体上で実施可能な、コンピュータ実行可能命令として実施することができる。
【００１２】
本発明は、通信ネットワークを介してリンクされたリモート処理デバイスによってタスクが実行される、分散コンピューティング環境でも実施可能である。分散コンピューティング環境では、プログラムモジュールは、メモリ記憶デバイスを含む、ローカルおよびリモートのどちらのコンピュータ記憶媒体にも配置することができる。
【００１３】
図１を参照すると、本発明を実施するための例示的システムには、コンピュータ１１０の形式の汎用コンピューティングデバイスが含まれる。コンピュータ１１０の構成要素は、これに限定されないが、処理ユニット１２０、システムメモリ１３０、および、システムメモリを含む様々なシステム構成要素を処理ユニット１２０に結合するシステムバス１２１を含むことができる。システムバス１２１は、メモリバスまたはメモリコントローラ、周辺バス、および、様々なバスアーキテクチャのうちのいずれかを使用するローカルバスを含む、いくつかの種類のバス構造のうちのいずれであってもよい。例を挙げると、これに限定されないが、こうしたアーキテクチャは、ＩＳＡ（Industry Standard Architecture）バス、ＭＣＡ（Micro Channel Architecture）バス、ＥＩＳＡ（Enhanced ＩＳＡ）バス、ＶＥＳＡ（Video Electronics Standards Association）ローカルバス、および、メザニンバスとも呼ばれるＰＣＩ（Peripheral Component Interconnect）バスを含むことができる。
【００１４】
コンピュータ１１０は、典型的には、様々なコンピュータ読取り可能媒体を含む。コンピュータ読取り可能媒体は、コンピュータ１１０がアクセス可能な任意の使用可能媒体であってよく、揮発性および不揮発性媒体、取外し可能および取外し不能媒体の、どちらも含む。例を挙げると、コンピュータ読取り可能媒体は、コンピュータ記憶媒体および通信媒体を含むことができるが、これらに限定されない。コンピュータ記憶媒体は、コンピュータ読取り可能命令、データストラクチャ、プログラムモジュール、または他のデータなどの情報を格納するための、任意の方法または技術で実施された、揮発性および不揮発性、取外し可能および取外し不能のどちらの媒体も含む。コンピュータ記憶媒体は、これに限定されないが、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュメモリまたは他のメモリ技術、ＣＤ−ＲＯＭ、ＤＶＤ（Digital Versatile Disk）または他の光ディスク記憶装置、磁気カセット、磁気テープ、磁気ディスク記憶または他の磁気記憶デバイス、あるいは、所望の情報の格納に使用可能であり、コンピュータ１１０がアクセス可能な、任意の他の媒体を含む。通信媒体は、典型的には、コンピュータ読取り可能命令、データストラクチャ、プログラムモジュール、または他のデータを、搬送波または他の移送メカニズムなどの変調データ信号で具体化し、任意の情報送達媒体を含む。「変調データ信号」という用語は、その特徴のうちの１または複数を、信号内の情報を符号化するのと同じ方法で設定または変更した信号を意味する。例を挙げると、これらに限定されないが、通信媒体は、有線ネットワークまたはダイレクトワイヤード接続などの有線媒体、および音波、ＲＦ、赤外線、および他の無線媒体などの無線媒体を含む。コンピュータ読取り可能媒体の範囲内は、上記のいずれかの組合せも含む。
【００１５】
システムメモリ１３０は、読取り専用メモリ（ＲＯＭ）１３１およびランダムアクセスメモリ（ＲＡＭ）１３２などの、揮発性および／または不揮発性メモリの形のコンピュータ記憶媒体を含む。起動時などに、コンピュータ１１０内の要素間で情報を転送するのに役立つ、基本ルーチンを含む基本入出力システム１３３（ＢＩＯＳ）は、通常、ＲＯＭ１３１内に格納される。ＲＡＭ１３２は、典型的には、処理ユニット１２０によって即時にアクセス可能であり、および／または、現在作動中である、データおよび／またはプログラムモジュールを含む。例を挙げると、これらに限定されないが、図１は、オペレーティングシステム１３４、アプリケーションプログラム１３５、他のプログラムモジュール１３６、およびプログラムデータ１３７を示す。
【００１６】
コンピュータ１１０は、他の取外し可能／取外し不能、揮発性／不揮発性の、コンピュータ記憶媒体を含むこともできる。単なる例に過ぎないが、図１には、取外し不能の不揮発性磁気媒体から読み取るかまたはこれに書き込むハードディスクドライブ１４１、取外し可能な不揮発性磁気ディスク１５２から読み取るかまたはこれに書き込む磁気ディスクドライブ１５１、および、ＣＤ  ＲＯＭまたは他の光媒体などの取外し可能な不揮発性光ディスク１５６から読み取るかまたはこれに書き込む光ディスクドライブ１５５が示されている。例示的なオペレーティング環境で使用可能な、他の取外し可能／取外し不能、揮発性／不揮発性のコンピュータ記憶媒体は、これらに限定されないが、磁気テープカセット、フラッシュメモリカード、デジタル多用途ディスク、デジタルビデオテープ、ソリッドステートＲＡＭ、ソリッドステートＲＯＭなどを含む。ハードディスクドライブ１４１は、典型的には、インタフェース１４０などの取外し不能メモリインタフェースを介して、システムバス１２１に接続され、磁気ディスクドライブ１５１および光ディスクドライブ１５５は、典型的には、インタフェース１５０などの取外し可能メモリインタフェースによって、システムバス１２１に接続される。
【００１７】
上述し、図１に示した、ドライブおよびそれらの関連付けられたコンピュータ記憶媒体は、コンピュータ読取り可能命令、データストラクチャ、プログラムモジュール、およびコンピュータ１１０に関する他のデータの記憶域を提供するものである。例えば、図１では、ハードディスクドライブ１４１は、オペレーティングシステム１４４、アプリケーションプログラム１４５、他のプログラムモジュール１４６、およびプログラムデータ１４７を格納するものとして示されている。これらの構成要素は、オペレーティングシステム１３４、アプリケーションプログラム１３５、他のプログラムモジュール１３６、およびプログラムデータ１３７と同じであっても異なっていてもよいことに留意されたい。オペレーティングシステム１４４、アプリケーションプログラム１４５、他のプログラムモジュール１４６、およびプログラムデータ１４７には、少なくとも異なるコピーであることを示すために、ここでは異なる番号が与えられている。
【００１８】
ユーザは、キーボード１６２、マイクロフォン１６３、および、マウス、トラックボールまたはタッチパッドなどのポインティングデバイス１６１を介して、コマンドおよび情報をコンピュータ１１０に入力することができる。他の入力デバイス（図示せず）には、ジョイスティック、ゲームパッド、衛星放送用パラボラアンテナ、スキャナなどが含まれる。これらおよび他の入力デバイスは、システムバスに結合されたユーザ入力インタフェース１６０を介して、処理ユニット１２０に接続されることが多いが、パラレルポート、ゲームポート、またはユニバーサルシリアルバス（ＵＳＢ）などの、他のインタフェースおよびバス構造によって接続することもできる。モニタ１９１または他のタイプのディスプレイデバイスも、ビデオインタフェース１９０などのインタフェースを介して、システムバス１２１に接続される。コンピュータは、モニタに加えて、出力周辺インタフェース１９５を介して接続可能な、スピーカ１９７およびプリンタ１９６などの他の周辺出力デバイスを含むこともできる。
【００１９】
コンピュータ１１０は、リモートコンピュータ１８０などの１または複数のリモートコンピュータへの論理接続を使用して、ネットワーク化環境で動作可能である。リモートコンピュータ１８０は、パーソナルコンピュータ、ハンドヘルドデバイス、サーバ、ルータ、ネットワークＰＣ、ピアデバイス、または他の共通ネットワークノードであってよく、典型的には、コンピュータ１１０に関して上記で述べた要素の多くまたはすべてを含む。図１に示された論理接続には、ローカルエリアネットワーク（ＬＡＮ）１７１およびワイドエリアネットワーク（ＷＡＮ）１７３が含まれるが、他のネットワークを含むこともできる。こうしたネットワーキング環境は、オフィス、企業規模のコンピュータネットワーク、イントラネット、およびインターネットでよく見られる。
【００２０】
ＬＡＮネットワーキング環境で使用される場合、コンピュータ１１０は、ネットワークインタフェースまたはアダプタ１７０を介してＬＡＮ１７１に接続される。ＷＡＮネットワーキング環境で使用される場合、コンピュータ１１０は、通常、インターネットなどのＷＡＮ１７３を介した通信を確立するために、モデム１７２または他の手段を含む。内蔵または外付けが可能なモデム１７２は、ユーザ入力インタフェース１６０または他の適切なメカニズムを介して、システムバス１２１に接続することができる。ネットワーク化環境では、コンピュータ１１０関して示されたプログラムモジュールまたはその一部を、リモートメモリ記憶デバイスに格納することができる。例を挙げると、図１では、リモートアプリケーションプログラム１８５がリモートコンピュータ１８０上に常駐しているように示されているが、これに限定されるものではない。示されたネットワーク接続は例示的なものであり、コンピュータ間に通信リンクを確立する他の手段が使用可能であることを理解されよう。
【００２１】
図２は、例示的なコンピューティング環境である、移動デバイス２００を示す構成図である。移動デバイス２００は、マイクロプロセッサ２０２、メモリ２０４、入出力（Ｉ／Ｏ）構成要素２０６、および、リモートコンピュータまたは他の移動デバイスと通信するための通信インタフェース２０８を含む。一実施形態では、前述の構成要素は、相互に通信するために、好適なバス２１０を介して結合される。
【００２２】
メモリ２０４は、移動デバイス２００への一般的な電力が遮断されたときに、メモリ２０４に格納された情報が失われないように、バッテリバックアップモジュール（図示せず）を備えた、ランダムアクセスメモリ（ＲＡＭ）などの不揮発性電子メモリとして実装される。好ましくは、メモリ２０４の一部がアドレス可能メモリとして割り振られ、好ましくは、メモリ２０４の他の部分が、ディスクドライブ上の記憶域をシミュレートするような記憶域に使用される。
【００２３】
メモリ２０４は、オペレーティングシステム２１２、アプリケーションプログラム２１４、ならびにオブジェクトストア２１６を含む。オペレーション時には、オペレーティングシステム２１２は、好ましくは、メモリ２０４からプロセッサ２０２によって実行される。好ましい一実施形態では、オペレーティングシステム２１２は、Microsoft Corporationから市販されている、ＷＩＮＤＯＷＳ（登録商標）ＣＥブランドのオペレーティングシステムである。オペレーティングシステム２１２は、好ましくは移動デバイス用に設計され、アプリケーション２１４が、露出された（exposed）アプリケーションプログラミングインタフェースおよびメソッドのセットを介して使用可能なデータベース機能を実施する。オブジェクトストア２１６内のオブジェクトは、露出されたアプリケーションプログラミングインタフェースおよびメソッドへの呼び出しに応答して、少なくとも部分的に、アプリケーション２１４およびオペレーティングシステム２１２によって維持される。
【００２４】
通信インタフェース２０８は、移動デバイス２００が情報を送受信できるようにする、多数のデバイスおよび技術を表す。デバイスは、一例を挙げると、有線および無線モデム、衛星受信機、ならびに放送チューナを含む。移動デバイス２００は、データを交換するために、コンピュータに直接接続することもできる。このような場合には、通信インタフェース２０８は、赤外線受信機、ならびにシリアルまたはパラレル通信接続であってよく、それらはすべて、ストリーミング情報を伝送することができる。
【００２５】
入出力構成要素２０６は、タッチセンシティブスクリーン、ボタン、ローラ、およびマイクロフォンなどの様々な入力デバイス、ならびに、音声生成器、バイブレーティングデバイス、およびディスプレイを含む、様々な出力デバイスを含む。上述したデバイスは、例として示したものであって、移動デバイス２００上にすべてが存在する必要はない。さらに、他の入出力デバイスは、本発明の範囲内にある移動デバイス２００に取り付けられるか、またはこのデバイスが見つけることができる。
【００２６】
本発明の一態様の下で、パターン認識信号における雑音を推定するシステムおよび方法が提供される。これを実行するために、本発明は、再帰的アルゴリズムを使用して、少なくとも１つの隣接フレームに関して見つけられた雑音推定に部分的に基づき、雑音を含む信号の各フレームでの雑音を推定する。本発明の下では、漸進的ベイズ学習を使用することによって、単一のフレームに関する雑音を推定するが、ここでは、経時変化する事前雑音分布が想定され、雑音推定値は、先行フレームで計算された事後雑音に関する近似を使用して、再帰的に更新される。この再帰的プロセスを通して、雑音推定は非定常雑音を追跡することができる。
【００２７】
【数１】
2004302470.tif 000003
【００２８】
を、対数領域（ログスペクトラムまたはケプストラム）で表された、一連の雑音を含む音声観察データとし、普遍性を失うことなしにスカラ値付けされるものと想定する。データ
【００２９】
【数２】
2004302470.tif 000004
【００３０】
を使用して、同じデータ長さｔを持つ、破壊した雑音シーケンス
【００３１】
【数３】
2004302470.tif 000005
【００３２】
を逐次推定する。ベイズの学習フレームワークでは、雑音ｎ（未知のパラメータとして扱われる）に関する知識は、所与のｐ（ｎ）の事前分布に含まれると想定される。雑音シーケンスが定常である場合、すなわち、雑音の統計プロパティが経時的に変化しない場合、雑音パラメータｎに関する従来のベイズ推論（すなわち事後を算出する）は、いかなる時点でも、以下の「バッチモード」ベイズ規則を介して実施することが可能であり、
【００３３】
【数４】
2004302470.tif 000006
【００３４】
ここで、Θは、雑音パラメータ空間の許容領域である。
【００３５】
【数５】
2004302470.tif 000007
【００３６】
が与えられると、原則として、雑音ｎに関する任意の推定が可能である。例えば、雑音ｎに関する従来のＭＡＰ点推定は、事後
【００３７】
【数６】
2004302470.tif 000008
【００３８】
のグローバルまたはローカルの最大として計算される。最小平均二乗誤差（ＭＭＳＥ）推定は、事後
【００３９】
【数７】
2004302470.tif 000009
【００４０】
を介した期待値である。
【００４１】
ただし、雑音シーケンスが非定常であり、雑音を含む音声
【００４２】
【数８】
2004302470.tif 000010
【００４３】
のトレーニングデータが、ほとんどの実際の音声の特徴を拡張した応用の場合と同様に、逐次提示される場合、経時的に変化している雑音統計を追跡するために、新しい雑音推定技法が求められる。反復的な応用では、ベイズ規則は以下のように表すことができる。
【００４４】
【数９】
2004302470.tif 000011
【００４５】
雑音の多い音声ｙｔとその過去の
【００４６】
【数１０】
2004302470.tif 000012
【００４７】
所与のｎｔ、または
【００４８】
【数１１】
2004302470.tif 000013
【００４９】
との間に、条件付き独立性があると想定し、事後
【００５０】
【数１２】
2004302470.tif 000014
【００５１】
内が平滑であると想定すると、以前の数式は、以下のように表すことができる。
【００５２】
【数１３】
2004302470.tif 000015
【００５３】
非定常雑音の漸進的な学習を、数式（１）を以下のように繰返し使用することにより、確立することができる。初期には、雑音を含む音声データｙがなく、既知の事前ｐ（ｎ０｜ｙ０）＝ｐ（ｎ０）から事後ＰＤＦが得られるが、ここで、ｐ（ｎ０）は、既知の雑音のみのフレームの分析および推定されたガウスから取得される。次にｔ＝１の場合、式（１）を使用すると、
【００５４】
【数１４】
2004302470.tif 000016
【００５５】
が生成され、ｔ＝２の場合は、すでに数式２から計算されたｐ（ｎ１｜ｙ１）を使用して、
【００５６】
【数１５】
2004302470.tif 000017
【００５７】
が生成される。ｔ＝３の場合、式（１）は、
【００５８】
【数１６】
2004302470.tif 000018
【００５９】
となり、以下同様である。従って、このプロセスは、以下のように、再帰的に一連の事後（ｐ（ｙｔ｜ｎｔ）が使用可能であるとすると）を生成し、
【００６０】
【数１７】
2004302470.tif 000019
【００６１】
これは、非定常雑音シーケンス
【００６２】
【数１８】
2004302470.tif 000020
【００６３】
に関する、漸進的ベイズの推定を行うための基本を提供する。次に、これまで論じてきた漸進的ベイズの推定の一般原理を、事前雑音がガウスであるという単純化された想定の下で、フレーム形式のデータＰＤＦ（ｐ（ｙｔ｜ｎｔ））を供給する特定の音響ひずみモデルに適用する。
【００６４】
雑音に適用すると、漸進的ベイズの学習は、最も近い過去まで観察されたデータが与えられた事後を使用して、雑音に関する現在の「事前」分布を更新するが、これは、この事後が、現時点以前のパラメータに関する最も完全な情報であるためである。この方法が図３に示されており、第１のステップでは、雑音を含む信号３００がフレームに分割される。ステップ３０２では、各フレームについて、漸進的ベイズ学習が適用され、各フレームの雑音推定は、経時変化する事前雑音分布を想定し、雑音推定は、先行する時間フレームで計算された事後雑音に関する近似を使用して、再帰的に更新される。従って、式（３）の事後シーケンスは、（１フレームの大きさのタイムシフトを伴う）雑音分布パラメータに関して、経時変化する事前シーケンス（すなわち、事前進化）となる。一実施形態では、ステップ３０２は、式（１）で示された事後における平滑を想定する、先行フレーム、好ましくは直前のフレームにおける雑音推定を使用しながら、現在のフレームに関するデータ尤度ｐ（ｙｔ｜ｎｔ）の計算を含むことが可能である。
【００６５】
データ尤度ｐ（ｙｔ｜ｎｔ）が非ガウスである（簡単に説明する）場合、事後は、必然的に非ガウスである。式（１）を連続して適用すると、結果として、高速に展開する以前の事後の組合せとなり、処理が困難形となる。この困難を克服するために、近似法が求められる。使用される近似法は、ｙｔとｎｔの間の非線形関係を線形化するために、１次テイラー級数展開を適用することである。これにより、ｐ（ｙｔ｜ｎｔ）のガウス形となる。従って、過去のデータ履歴
【００６６】
【数１９】
2004302470.tif 000021
【００６７】
について事後から継承された、経時変化する事前雑音ＰＤＦｐ（ｎτ＋１）は、ガウスによって以下のように近似することができ、
【００６８】
【数２０】
2004302470.tif 000022
【００６９】
上式で、μｎτおよび
【００７０】
【数２１】
2004302470.tif 000023
【００７１】
は、事前ＰＤＦを特徴付けるハイパーパラメータ（平均および分散）と呼ばれる。次に、再帰的ベイズ規則である式（１）から計算された式（３）の事後シーケンスは、ハイパーパラメータの一時進化を決定する、原則的な方法を提供し、これについて以下で論じる。
【００７２】
データ尤度ｐ（ｙｔ｜ｎｔ）を計算するための音響ひずみおよびクリーン音声モデルを示す。第１に、クリーン音声ｘの対数スペクトラムについて、以下のような経時変化しないガウスモデル混合を想定する。
【００７３】
【数２２】
2004302470.tif 000024
【００７４】
次に、以下のように、対数スペクトラム領域内の単純な非線形音響ひずみモデルを、使用することができ、
exp(y)=exp(x)+exp(n)  または  y=x+g(n-x)    (6)
上式で、非線形関数は、以下のようになる。  
g(z)=log[1+exp(z)]
データ尤度ｐ（ｙｔ｜ｎｔ）に関する有用な形を得るために、テイラー級数展開を使用して、式（６）の非線形性ｇを線形化する。これにより、線形化モデル
【００７５】
【数２３】
2004302470.tif 000025
【００７６】
が与えられ、ここで、ｎ０はテイラー級数展開点であり、１次級数展開係数は、以下のように容易に計算することができる。
【００７７】
【数２４】
2004302470.tif 000026
【００７８】
式（７）の関数ｇおよびｇ’を評価する際に、クリーン音声値ｘは、「最適な」混合ガウス構成要素ｍ０の平均（μｘ（ｍ０））とみなされる。
【００７９】
式（７）は、（ｎを固定した後の）ランダム変数ｘからｙへの線形変換を定義する。この変換に基づいて、ラプラス近似法により、ｘに関するＰＤＦ（式５）から、以下のｙに関するＰＤＦが取得され、
【００８０】
【数２５】
2004302470.tif 000027
【００８１】
ここで、最適な混合構成要素は、以下のように決定され、
【００８２】
【数２６】
2004302470.tif 000028
【００８３】
ここで、近似ガウスの平均および分散は、以下のようになる。
【００８４】
【数２７】
2004302470.tif 000029
【００８５】
以下に示すように、ｐ（ｙｔ｜ｎｔ）に関するガウス推定を使用して、そのアルゴリズムを展開する。上記では、ｐ（ｙｔ｜ｎｔ）に関するガウス推定を提供するために、テイラー級数展開およびラプラス近似法を使用したが、本発明を逸脱することなくガウス推定を提供するために、他の技法も使用できることを理解されたい。例えば、式（８）のラプラス近似の使用に加えて、近似または（小数の構成要素を備えた）ガウス混合モデルに関する計算技法を使用することができる。
【００８６】
事前雑音において経時変化する平均および分散を推定するためのアルゴリズムを提供可能である。式（８）のようなｐ（ｙｔ｜ｎｔ）に関する、および数式４のような
【００８７】
【数２８】
2004302470.tif 000030
【００８８】
に関する、近似ガウス形が与えられた場合、平均μｎτおよび分散
【００８９】
【数２９】
2004302470.tif 000031
【００９０】
の経時変化するハイパーパラメータの逐次推定として表される、事前雑音進化を決定するためのアルゴリズムを提供可能である。式（４）および（８）を式（１）に代入すると、以下が得られ、
【００９１】
【数３０】
2004302470.tif 000032
【００９２】
ここで、μ1=yt-μx(m0)-gm0+g'm0n0であり、雑音が平滑であるという想定を使用した。左側および右側の平均および分散は、それぞれ、事前進化公式を取得するために、以下のように式（１０）で突き合わされ、
【００９３】
【数３１】
2004302470.tif 000033
【００９４】
ここで、
【００９５】
【数３２】
2004302470.tif 000034
【００９６】
である。式（１１）を確立する際には、雑音のテイラー級数展開点として、以前の時間の事前平均、すなわち
【００９７】
【数３３】
2004302470.tif 000035
【００９８】
が使用される。ガウス計算で適切に確立された結果（a1=g'm0に設定）も、以下のように使用した。
【００９９】
【数３４】
2004302470.tif 000036
【０１００】
単純化されても依然として効果的な想定のセットに基づいて、近似再帰的ベイズ規則の２次項突合せ（quadratic term matching）が使用され、式（１１）で要約された事前雑音進化公式を首尾よく導出する。平均雑音推定は、ＲＭＳ誤差削減によって、より正確に測定されることがわかっているが、分散情報を使用して、信頼性の基準を提供することができる。
【０１０１】
上述した雑音推定技法は、雑音正規化技法または雑音除去で使用可能である（例えば、２００２年４月５日出願、米国特許出願第１０／１１７１４２号「Method of Noise Reduction Using Correction Vectors Based on Dynamic Aspects of Speech and Noise Normalization」明細書）。本発明は、クリーン信号を生成するために、各フレームに関して識別された推定雑音が雑音を含む信号から除去される、雑音削減システムの一部として、より直接的に使用することも可能である（例えば、２００２年９月６日出願、米国特許出願第１０／２３７１６３号「Non-linear Observation Model for Removing Noise from Corrupted Signals」明細書）。
【０１０２】
図４は、雑音削減を実行することができる本発明の雑音推定技法を使用可能な環境を示すブロック図である。具体的に言えば、図４に、本発明の雑音推定技法を使用することができる音声認識システムを示す。このシステムは、音響モデルをトレーニングするために使用されるトレーニング信号における雑音を削減し、および／または、テスト信号の言語内容を識別するために音響モデルに対して再度適用されるテスト信号における雑音を削減する。
【０１０３】
図４では、トレーナまたはユーザいずれかの話し手４００が、マイクロフォン４０４に向かって話す。マイクロフォン４０４は、１または複数の雑音源からの付加雑音４０２も受け取る。マイクロフォン４０４によって検出された音波信号は、電気信号に変換され、アナログ−デジタル変換器４０６に送られる。
【０１０４】
図４の実施形態では、付加雑音４０２はマイクロフォン４０４を介して入ってくるように示されているが、他の実施形態では、付加雑音４０２が、Ａ／Ｄ変換器４０６の後のデジタル信号として、入力音声信号に追加されることもある。
【０１０５】
Ａ／Ｄ変換器４０６は、マイクロフォン４０４からのアナログ信号を、一連のデジタル値に変換する。いくつかの実施形態では、Ａ／Ｄ変換器４０６は、１６ｋＨｚおよびサンプルあたり１６ビットで、アナログ信号をサンプリングし、それにより、毎秒３２キロバイトの音声データを作成する。これらのデジタル値は、フレームコンストラクタ４０７に送られ、一実施形態では、１０ミリ秒ごとに開始される２５ミリ秒フレームに、この値をグループ化する。
【０１０６】
フレームコンストラクタ４０７によって作成されたデータのフレームは、特徴抽出器４０８に送られ、各フレームから特徴を抽出する。特徴抽出モジュールの例は、線形予測符号化（ＬＰＣ）、ＬＰＣ導出ケプストラム、知覚線形予測（ＰＬＰ）、聴覚モデル特徴抽出、およびメル周波数ケプストラム係数（ＭＦＣＣ）特徴抽出を実行するためのモジュールを含む。本発明は、これらの特徴抽出モジュールに限定されるものではなく、本発明の文脈において、他のモジュールも使用可能であることに留意されたい。
【０１０７】
特徴抽出モジュールは、それぞれが音声信号のフレームに関連付けられた、特徴ベクトルのストリームを生成する。この特徴ベクトルのストリームが雑音削減モジュール４１０に送られ、本発明の雑音推定技法を使用して、各フレーム内の雑音を推定する。
【０１０８】
雑音削減モジュール４１０の出力は、一連の「クリーン」特徴ベクトルである。入力信号がトレーニング信号の場合、この一連の「クリーン」特徴ベクトルはトレーナ４２４に送られ、「クリーン」特徴ベクトルおよびトレーニングテキスト４２６を使用して、音響モデル４１８をトレーニングする。こうしたモデルをトレーニングする技法は、当分野で知られており、本発明を理解するために、それらについて説明する必要はない。
【０１０９】
入力信号がテスト信号の場合、「クリーン」特徴ベクトルは復号器４１２に送られ、これが、特徴ベクトルのストリームに基づいて、最も可能性の高い用語のシーケンス、辞書４１４、言語モデル４１６、および音響モデル４１８を識別する。復号に使用される特定の方法は、本発明にとって重要ではなく、復号用のいくつかの知られた方法のうちのいずれも使用可能である。
【０１１０】
最も可能性の高い仮説用語のシーケンスが、信頼測度モジュール４２０に送られる。信頼測度モジュール４２０は、部分的に２次音響モデル（図示せず）に基づいて、どの用語が音声認識装置によって最も不適切に識別された可能性が高いかを識別する。次に、信頼測度モジュール４２０は、仮説用語のシーケンスを、どの用語が不適切に識別された可能性があるかを示す識別子と共に、出力モジュール４２２に送る。当分野の技術者であれば、本発明を実施するために、信頼測度モジュール４２０が必ずしも必要でないことを理解されよう。
【０１１１】
図４は音声認識システムを示しているが、本発明は、どんなパターン認識システムでも使用可能であり、音声に限定されるものではない。
【０１１２】
以上、本発明について、特定の実施形態を参照しながら説明してきたが、当分野の技術者であれば、本発明の精神および範囲を逸脱することなく、形式および詳細が変更可能であることを理解されよう。
【図面の簡単な説明】
【０１１３】
【図１】本発明を実施することができるコンピューティング環境を示すブロック図である。
【図２】本発明を実施することができる代替コンピューティング環境を示すブロック図である。
【図３】本発明の一実施形態の下で雑音を推定する方法を示す流れ図である。
【図４】本発明を使用することができるパターン認識システムを示すブロック図である。
【符号の説明】
【０１１４】
４００  話し手
４０２  付加雑音
４０４  マイクロフォン
４０６  アナログ−デジタル変換器
４０７  フレームコンストラクタ
４０８  特徴抽出噐
４１０  雑音削減モジュール
４１２  復号器
４１４  辞書
４１６  言語モデル
４１８  音響モデル
４２０  信頼測度モジュール
４２２  出力モジュール
４２４  トレーナ
４２６  トレーニングテキスト
【図１】
2004302470.tif 000037
【図２】
2004302470.tif 000038
【図３】
2004302470.tif 000039
【図４】
2004302470.tif 000040