(57)【特許請求の範囲】
【請求項１】
ノイズ含有入力信号内におけるノイズを低減するノイズ低減
方法であって、
前記ノイズ含有チャネル特徴ベクトルを混合成分にグループ化するステップと、
前記各混合成分内における前記ノイズ含有チャネル特徴ベクトルの分布を示す分布値を決定するステップと、
ノイズ含有チャネル特徴ベクトル毎に、少なくとも１つの条件付き混合確率を決定するステップであって、該条件付き混合確率が、前記ノイズ含有チャネル特徴ベクトルが与えられた場合の前記混合成分の確率を表し、前記条件付き混合確率が、前記混合成分に対する分布値に部分的に基づく、ステップと、
前記条件付き混合確率を、前記混合成分に対するスケーリング・ベクトルを決定するための線形最少二乗計算において適用するステップと、
前記条件付き混合確率を、前記混合成分に対する補正ベクトルを決定するための線形最少二乗計算において適用するステップと、
前記スケーリング・ベクトルを、ノイズ含有入力信号を表すノイズ含有入力特徴ベクトル・シーケンスのノイズ含有入力特徴ベクトルと乗算し、スケール特徴ベクトルを生成するステップと、
補正ベクトルをスケール特徴ベクトルに加算し、クリーン入力特徴ベクトルを形成するステップであって、該クリーン入力特徴ベクトルが、前記ノイズ含有入力信号よりも少ないノイズを有するクリーン入力信号を表す、ステップと、
を備えることを特徴とする方法。
【請求項２】
請求項１記載の方法において、条件付き混合確率を決定するステップは、
前記混合成分が与えられた場合にノイズ含有チャネル特徴ベクトルの確率を表す条件付き特徴ベクトル確率を決定するステップであって、前記確率が前記混合成分に対する分布値に基づく、ステップと、
前記条件付き特徴ベクトル確率を、前記混合成分の無条件確率と乗算し、確率積を求めるステップと、
前記確率積を、前記ノイズ含有チャネル特徴ベクトルの全混合成分に対して発生した確率積の和で除算するステップと、
を含む、方法。
【請求項３】
請求項２記載の方法において、条件付き特徴ベクトル確率を決定するステップは、混合成分に対する前記分布値から形成した正規分布から、前記確率を決定するステップから成る、方法。
【請求項４】
請求項３記載の方法において、分布値を決定するステップは、平均ベクトルを決定し、標準偏差ベクトルを決定するステップを含む、方法。
【請求項５】
請求項１記載の方法において、前記スケーリング・ベクトルを前記ノイズ含有入力特徴ベクトルと乗算するステップは、
前記ノイズ含有入力特徴ベクトルに対する、混合成分を特定するステップと、
前記ノイズ含有入力特徴ベクトルを、前記混合成分と関連するスケーリング・ベクトルと乗算するステップと、
を含む、方法。
【請求項６】
請求項５記載の方法において、補正ベクトルを加算するステップは、前記混合成分と関連する補正ベクトルを前記スケール特徴ベクトルに加算するステップを含む、方法。
【請求項７】
請求項６記載の方法において、混合成分を特定するステップは、前記ノイズ含有入力特徴ベクトルに最尤混合成分を特定するステップを含む、方法。
【請求項８】
請求項７記載の方法において、前記最尤混合成分を特定するステップは、
混合成分毎に、当該混合成分が与えられた場合に、この混合成分に対する前記分布値から形成した正規分布に基づいて、前記ノイズ含有入力特徴ベクトルの確率を決定するステップと、
最高の確率を与える前記混合成分を、最尤混合成分として選択するステップと、を含む、方法。
【請求項９】
ノイズ含有信号内におけるノイズを低減する方法であって、
前記ノイズ含有信号の一部を表すノイズ含有特徴ベクトルについて、最尤混合成分を特定するステップであって、
混合成分毎に、当該混合成分が与えられた場合に、前記ノイズ含有特徴ベクトルの確率を前記混合成分に割り当てたノイズ含有チャネル特徴ベクトルの分布の平均および標準偏差に基づいて、決定するステップと、
最高の確率を与える前記混合成分を、前記最尤混合成分として選択するステップとを有する、最尤混合成分を特定するステップと、
前記特定した混合成分と関連する補正ベクトルおよびスケーリング・ベクトルを検索するステップと、
前記ノイズ含有特徴ベクトルを前記スケーリング・ベクトルと乗算し、スケール特徴ベクトルを形成するステップと、
前記補正ベクトルを前記スケール特徴ベクトルに加算し、クリーン信号の一部を表すクリーン特徴ベクトルを形成するステップと、
を備えることを特徴とする方法。
【請求項１０】
請求項９記載の方法において、補正ベクトルおよびスケーリング・ベクトルを検索するステップは、ノイズ含有チャネル特徴ベクトル・シーケンス上で評価した関数を、クリーン・チャネル特徴ベクトル・シーケンスに当てはめることによって、形成した補正ベクトルおよびスケーリング・ベクトルを検索するステップから成る、方法。
【請求項１１】
請求項１０記載の方法において、前記関数を当てはめるステップは、線形最少二乗計算を実行するステップを含む、方法。
【請求項１２】
請求項１１記載の方法において、線形最少二乗計算を実行するステップは、前記線形最少二乗計算において重み値を利用するステップを含み、前記重み値が、ノイズ含有チャネル特徴ベクトルと混合成分との間の関連を示している、方法。
【請求項１３】
請求項１２記載の方法において、重み値を利用するステップは、
ノイズ含有チャネル特徴ベクトルが与えられた場合に、混合成分の条件付き確率を決定するステップと、
前記条件付き確率を、前記重み値として用いるステップと、
を含む、方法。
【請求項１４】
請求項１３記載の方法において、条件付き確率を決定するステップは、
混合成分毎に、当該混合成分の確率を決定し、当該混合成分が与えられた場合の前記ノイズ含有チャネル特徴ベクトルの確率を表す特徴確率を決定するステップと、
混合成分毎に、当該混合成分の確率をこの混合成分に対するそれぞれの特徴確率と乗算し、それぞれの確率積を得るステップと、
全ての混合成分に対する前記ノイズ含有特徴ベクトルの確率積を合計し、確率和を生成するステップと、
前記補正ベクトルおよび前記スケーリング・ベクトルと関連する前記混合成分の確率を、前記補正ベクトルおよび前記スケーリング・ベクトルと関連する前記混成成分が与えられた場合の前記ノイズ含有特徴ベクトルの確率と乗算し、第２確率積を生成するステップと、
前記第２確率積を前記確率和で除算するステップと、
を含む、方法。
【請求項１５】
入力信号からノイズを除去する補正値を発生する方法であって、
ノイズ含有チャネル信号を表すノイズチャネル・ベクトルの集合にアクセスするステップと、
クリーン・チャネル信号を表すクリーン・チャネル・ベクトルの集合にアクセスするステップと、
前記ノイズ含有チャネル・ベクトルを複数の混合成分にグループ化するステップと、
前記ノイズ含有チャネル・ベクトル集合および前記クリーン・チャネル・ベクトル集合に基づいて、混合成分毎に補正値を、前記ノイズ含有チャネル・ベクトルに基づく関数を、線形最少二乗計算を実行することによって、前記クリーン・チャネル・ベクトルに当てはめて決定するステップと、
を備えることを特徴とする方法。
【請求項１６】
請求項１５記載の方法において、線形最少二乗計算を実行するステップは、
混成成分毎に分布パラメータを決定するステップであって、前記分布パラメータが、前記各混合成分に関連するノイズ含有チャネル・ベクトルの分布を記述する、ステップと、
前記分布パラメータを用いて重み値を形成するステップと、
前記重み値を前記線形最少二乗計算において利用するステップと、
を含む、方法。
【請求項１７】
請求項１６記載の方法において、前記分布パラメータを用いて重み値を形成するステップは、前記分布パラメータを用いて、ノイズ含有チャネル・ベクトルが与えられた場合の混合成分の確率を決定するステップを含む、方法。
【請求項１８】
請求項１５記載の方法において、補正値を決定するステップは、添加補正値およびスケーリング補正値を決定するステップを含む、方法。
【請求項１９】
請求項１５記載の方法において、前記ノイズ含有チャネル・ベクトルをグループ化するステップは、混合成分毎に分布パラメータを決定するステップを含み、前記分布パラメータが、前記それぞれの混合成分に関連するノイズ含有チャネル・ベクトルの分布を記述し、補正値を決定するステップは、部分的に前記分布パラメータに基づいて補正値を決定するステップを含む、方法。
【請求項２０】
請求項１５記載の方法であって、
前記入力信号を入力ベクトルに変換するステップと、
入力ベクトル毎に最も適した混合成分を求めるステップと、
入力ベクトル毎に、当該入力ベクトルに最も適した混合成分に関連する補正値を適用するステップと、
から成るプロセスによって、前記補正値を用いて入力信号からノイズを除去するステップをさらに備えることを特徴とする、方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、ノイズ低減に関する。特に、本発明は、パターン認識に用いる信号からのノイズ除去に関する。
【０００２】
【従来の技術】
スピーチ認識システムのようなパターン認識システムは、入力信号を取り込み、この信号をデコードして、信号が表すパターンを見出そうとする。例えば、スピーチ認識システムでは、認識システムがスピーチ信号（多くの場合、検査信号とも呼ぶ）を受け取り、デコードすることによって、スピーチ信号が表す単語列を識別する。
【０００３】
入来する検査信号をデコードする際、殆どの認識システムは、当該検査信号の一部が特定のパターンを表す尤度を表す１つ以上のモデルを利用する。このようなモデルの例には、ニューラル・ネット、ダイナミック・タイム・ワーピング(Dynamic Time Warping)、セグメント・モデル、隠れマルコフ・モデルが含まれる。
【０００４】
モデルを用いて入来信号をデコードできるようになる前に、これを訓練しなければならない。これを行うには、通例では、既知の訓練パターンから発生した入力訓練信号を測定する。例えば、スピーチ認識では、既知のテキストから話者が読み上げることによって、スピーチ信号の集合を発生する。次いで、これらのスピーチ信号を用いてモデルを訓練する。
【０００５】
入力検査信号をデコードする際にモデルが最適に機能するためには、モデルを訓練するために用いる信号は、デコードする最終的な検査信号に類似していなければならない。即ち、訓練信号は、デコードする検査信号と同じ量および同じタイプのノイズを有していなければならない。
【０００６】
通例では、「クリーンな」条件下において訓練信号を収集し、比較的ノイズがないと見なす。検査信号においてこの同じ低いレベルのノイズを達成するために、多くの従来技術のシステムはノイズ低減技法を検査データに適用する。即ち、多くの従来技術のスピーチ認識システムは、スペクトル減算として知られている、ノイズ低減技法を用いている。
【０００７】
スペクトル減算では、スピーチのポーズの間にスピーチ信号からノイズ・サンプルを収集する。次いで、これらサンプルのスペクトル内容を、スピーチ信号のスペクトル表現から減算する。スペクトル値の差が、ノイズ低減スピーチ信号を表す。
【０００８】
スペクトル減算は、スピーチ信号の限られた部分において取り込んだサンプルからのノイズを推定するので、完全にノイズを除去する訳ではない。例えば、スペクトル減算は、閉まるドアや、話者の前を通過する自動車のような、急激なバースト・ノイズを除去することはできない。
【０００９】
別のノイズ除去技法では、従来技術は、２つのチャネル信号で形成されたステレオ信号から１組の補正ベクトルを特定する。各チャネルは、同じパターン信号を含む。チャネル信号の一方は「クリーン」であり、他方は添加ノイズを含む。これらチャネル信号のフレームを表す特徴ベクトルを用い、クリーン・チャネル信号の特徴ベクトルからノイズ含有チャネル信号の特徴ベクトルを減算することによって、ノイズ補正ベクトルの集合体を決定する。ノイズ含有パターン信号、訓練信号または検査信号のいずれか、の特徴ベクトルを後に受信したときに、適当な補正ベクトルを特徴ベクトルに添加し、ノイズ低減特徴ベクトルを生成する。
【００１０】
【発明が解決しようとする課題】
従来技術の下では、各補正ベクトルは混合成分と関連付けられている。混合成分を形成するために、従来技術では、クリーン・チャネルの特徴ベクトルで定義した特徴ベクトル空間を、多数の異なる混合成分に分割する。ノイズ含有パターン信号の特徴ベクトルを後に受信したときに、これを、各混合成分において、クリーン・チャネルの特徴ベクトルの分布と比較する。しかしながら、クリーン・チャネルの特徴ベクトルはノイズを含まないので、従来技術の下で発生した分散の形状は、ノイズ含有パターン信号から特徴ベクトルに最も適した混合成分を求めるには理想的とは言えない。
【００１１】
加えて、従来技術の補正ベクトルは、単にパターン信号からノイズを除去するための添加エレメントを与えるだけに過ぎない。したがって、これら従来技術のシステムは、ノイズ含有パターン信号自体と共に増減するノイズを除去するには、理想的ではない。
【００１２】
この点を考慮して、パターン信号からノイズを一層効果的に除去するノイズ低減技法が求められている。
【００１３】
【課題を解決するための手段】
パターン認識システムにおいて用いる訓練信号および／または検査信号におけるノイズを低減する方法および装置を提供する。このノイズ低減技法は、２つのチャネル信号で形成したステレオ信号を用い、各チャネルは同じパターン信号を含む。チャネル信号の一方は「クリーン」であり、他方は添加ノイズを含む。これらのチャネル信号からの特徴ベクトルを用いて、ノイズ補正およびスケーリング・ベクトルの集合体を決定する。ノイズ含有信号の特徴ベクトルを後に受信したときに、当該特徴ベクトルにとって最良のスケーリング・ベクトルをこれに乗算し、その積を最良の補正ベクトルに加算して、ノイズ低減特徴ベクトルを生成する。一実施形態の下では、最良のスケーリングおよび特徴ベクトルを特定する際に、ノイズ含有特徴ベクトルに最適な混合成分を選択する。最適混合成分は、各混合成分に関連するノイズ含有チャネル特徴ベクトルの分布に基づいて選択する。
【００１４】
【発明の実施の形態】
図１は、本発明を実施可能とするのに適した計算システム環境１００の一例を示す。計算システム環境１００は、適した計算環境の一例に過ぎず、本発明の使用または機能性の範囲に関していずれの限定をも示唆する訳ではない。また、一例の動作環境１００に示すいずれの一コンポーネントまたはコンポーネントの組み合わせに関しても、計算環境１００はいずれの依存性も要件も有するものとして解釈してはならない。
【００１５】
本発明は、多数のその他の汎用または特殊目的計算システム環境またはコンフィギュレーションと共に動作する。公知の計算システム、環境および／またはコンフィギュレーションで、本発明との使用に相応しい例は、限定ではなく、パーソナル・コンピュータ、サーバ・コンピュータ、ハンドヘルドまたはラップトップ・デバイス、マイクロプロセッサ・システム、マイクロプロセッサ系システム、セット・トップ・ボックス、プログラマブル消費者電子機器、ネットワークＰＣ、ミニコンピュータ、メインフレーム・コンピュータ、電話システム、上述のシステムまたはデバイスのいずれをも含む分散計算環境等を含む。
【００１６】
本発明の説明は、コンピュータが実行するプログラム・モジュールのようなコンピュータ実行可能命令の一般的なコンテキストで行うこととする。一般に、プログラム・モジュールは、特定のタスクを実行したり、あるいは特定の抽象的データ・タイプを使用する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造等を含む。また、本発明は、分散型計算機環境において、通信ネットワークを通じてリンクしたリモート処理デバイスによってタスクを実行するという実施も可能である。ある分散型計算機環境においては、プログラム・モジュールは、メモリ記憶素子を含むローカルおよびリモート双方のコンピュータ記憶媒体に配置することができる。
【００１７】
図１を参照すると、本発明を実施するための例示のシステムは、コンピュータ１１０の形態とした汎用計算デバイスを含む。コンピュータ１１０のコンポーネントは、処理ユニット１２０、システム・メモリ１３０、およびシステム・メモリから処理ユニット１２０までを含む種々のシステム・コンポーネントを結合するシステム・バス１２１を含むことができるが、これらに限定される訳ではない。システム・バス１２１は、種々のバス・アーキテクチャのいずれかを用いたメモリ・バスまたはメモリ・コントローラ、周辺バス、およびローカル・バスを含む、数種類のバス構造のいずれでもよい。限定ではなく一例として、このようなアーキテクチャは、業界標準アーキテクチャ（ＩＳＡ）バス、マイクロ・チャネル・アーキテクチャ（ＭＣＡ）バス、改良ＩＳＡ（ＥＩＳＡ）バス、ビデオ電子規格協会（ＶＥＳＡ）ローカル・バス、およびＭｅｚｚａｎｉｎｅバスとしても知られている周辺素子相互接続（ＰＣＩ）バスを含む。
【００１８】
コンピュータ１１０は、通例では、種々のコンピュータ読み取り可能媒体を含む。コンピュータ読み取り可能媒体は、コンピュータ１１０がアクセス可能であれば、入手可能な媒体のいずれでも可能であり、揮発性および不揮発性双方の媒体、リムーバブルおよび非リムーバブル媒体を含む。一例として、そして限定ではなく、コンピュータ読み取り可能媒体は、コンピュータ記憶媒体および通信媒体を含むことができる。コンピュータ記憶媒体は、コンピュータ読み取り可能命令、データ構造、プログラム・モジュールまたはその他のデータのような情報の格納のためのあらゆる方法または技術において使用されている揮発性および不揮発性、リムーバブルおよび非リムーバブル双方の媒体を含む。コンピュータ記憶媒体は、限定する訳ではないが、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュ・メモリまたはその他のメモリ技術、ＣＤ−ＲＯＭ、ディジタル・バーサタイル・ディスク（ＤＶＤ）、またはその他の光ディスク・ストレージ、磁気カセット、磁気テープ、磁気ディスク・ストレージ、またはその他の磁気記憶装置、あるいは所望の情報を格納するために使用可能であり、コンピュータ１００によってアクセス可能なその他のいずれの媒体でも含まれる。通信媒体は、通例では、コンピュータ読み取り可能命令、データ構造、プログラム・モジュール、またはその他データを、キャリア波またはその他のトランスポート機構のような変調データ信号におけるその他のデータを具体化し、あらゆる情報配信媒体を含む。「変調データ信号」という用語は、信号内に情報をエンコードするように、その１つ以上の特性を設定または変更した信号を意味する。一例として、そして限定ではなく、通信媒体は、有線ネットワークまたは直接有線接続のような有線媒体、ならびに音響、ＲＦ、赤外線およびその他のワイヤレス媒体のようなワイヤレス媒体を含む。前述のいずれの組み合わせでも、コンピュータ読み取り可能媒体の範囲内に当然含まれるものとする。
【００１９】
システム・メモリ１３０は、リード・オンリ・メモリ（ＲＯＭ）１３１およびランダム・アクセス・メモリ（ＲＡＭ）１３２のような揮発性および／または不揮発性メモリの形態のコンピュータ記憶媒体を含む。基本入出力システム１３３（ＢＩＯＳ）は、起動中のように、コンピュータ１１０内のエレメント間におけるデータ転送を補助する基本的なルーチンを含み、通例ではＲＯＭ１３１内に格納されている。ＲＡＭ１３２は、通例では、処理ユニット１２０が直ちにアクセス可能であるデータおよび／またはプログラム・モジュール、または現在処理ユニット１２０によって処理されているデータおよび／またはプログラム・モジュールを収容する。一例として、そして限定ではなく、図１は、オペレーティング・システム１３４、アプリケーション・プログラム１３５、その他のプログラム・モジュール１３６、およびプログラム・データ１３７を示す。
【００２０】
また、コンピュータ１１０は、その他のリムーバブル／非リムーバブル揮発性／不揮発性コンピュータ記憶媒体も含むことができる。一例としてのみ、図１は、非リムーバブル不揮発性磁気媒体からの読み取りおよびこれへの書き込みを行うハード・ディスク・ドライブ１４１、リムーバブル不揮発性磁気ディスク１５２からの読み取りおよびこれへの書き込みを行う磁気ディスク・ドライブ１５１、ならびにＣＤ  ＲＯＭまたはその他の光媒体のようなリムーバブル不揮発性光ディスク１５６からの読み取りおよびこれへの書き込みを行う光ディスク・ドライブ１５５を示す。動作環境の一例において使用可能なその他のリムーバブル／非リムーバブル、揮発性／不揮発性コンピュータ記憶媒体には、限定する訳ではないが、磁気テープ・カセット、フラッシュ・メモリ・カード、ディジタル・バーサタイル・ディスク、ディジタル・ビデオ・テープ、ソリッド・ステートＲＡＭ、ソリッド・ステートＲＯＭ等が含まれる。ハード・ディスク・ドライブ１４１は、通例では、インターフェース１４０のような非リムーバブル・メモリ・インターフェースを介してシステム・バス１２１に接続され、磁気ディスク・ドライブ１５１および光ディスク・ドライブ１５５は、通例では、インターフェース１５０のようなリムーバブル・メモリ・インターフェースによってシステム・バス１２１に接続する。
【００２１】
先に論じ図１に示すドライブおよびそれらと連動するコンピュータ記憶媒体は、コンピュータ読み取り可能命令、データ構造、プログラム・モジュール、およびコンピュータ１１０のその他のデータを格納する。図１では、例えば、ハード・ディスク・ドライブ１４１は、オペレーティング・システム１４４、アプリケーション・プログラム１４５、その他のプログラム・モジュール１４６、およびプログラム・データ１４７を格納するように示されている。尚、これらのコンポーネントは、オペレーティング・システム１３４、アプリケーション・プログラム１３５、その他のプログラム・モジュール１３６、およびプログラム・データ１３７と同じでも異なっていても可能であることを注記しておく。オペレーティング・システム１４４、アプリケーション・プログラム１４５、その他のプログラム・モジュール１４６、およびプログラム・データ１４７は、少なくともこれらが異なるコピーであることを示すために、ここでは異なる番号を与えている。
【００２２】
ユーザは、キーボード１６２、マイクロフォン１６３、およびマウス、トラックボールまたはタッチ・パッドのようなポインティング・デバイス１６１によって、コマンドおよび情報をコンピュータ１１０に入力することができる。他の入力デバイス（図示せず）は、ジョイスティック、ゲーム・パッド、衛星ディッシュ、スキャナ等を含むことができる。これらおよびその他の入力デバイスは、多くの場合、ユーザ入力インターフェース１６０を介して、処理ユニット１２０に接続されている。ユーザ入力インターフェース１６０は、システム・バスに結合されているが、パラレル・ポート、ゲーム・ポートまたはユニバーサル・シリアル・バス（ＵＳＢ）のようなその他のインターフェースおよびバス構造によって接続することも可能である。モニタ１９１またはその他の形式の表示装置も、ビデオ・インターフェース１９０のようなインターフェースを介して、システム・バス１２１に接続されている。モニタに加えて、コンピュータは、スピーカ１９７およびプリンタ１９６のようなその他の周辺出力デバイスを含むこともでき、これらは出力周辺インターフェース１９０を介して接続することができる。
【００２３】
コンピュータ１１０は、リモート・コンピュータ１８０のような１つ以上のリモート・コンピュータへの論理接続を用いて、ネットワーク環境において動作することも可能である。リモート・コンピュータ１８０は、パーソナル・コンピュータ、ハンド・ヘルド・デバイス、サーバ、ルータ、ネットワークＰＣ、ピア・デバイス、またはその他の共通ネットワーク・ノードとすることができ、通例では、コンピュータ１１０に関して先に説明したエレメントの多くまたは全てを含む。図１に示す論理接続は、ローカル・エリア・ネットワーク（ＬＡＮ）１７１およびワイド・エリア・ネットワーク（ＷＡＮ）１７３を含むが、他のネットワークも含むことができる。このようなネットワーキング環境は、事務所、企業規模のコンピュータ・ネットワーク、イントラネットおよびインターネットにおいては、一般的である。
【００２４】
ＬＡＮネットワーキング環境で用いる場合、コンピュータ１１０は、ネットワーク・インターフェースまたはアダプタ１７０を介してＬＡＮ１７１に接続する。ＷＡＮネットワーキング環境で用いる場合、コンピュータ１１０は、通例では、モデム１７２、またはインターネットのようなＷＡＮ１７３を通じて通信を確立するその他の手段を含む。モデム１７２は、内蔵でも外付けでもよく、ユーザ入力インターフェース１６０またはその他の適切な機構を介してシステム・バス１２１に接続することができる。ネットワーク環境では、コンピュータ１１０に関して図示したプログラム・モジュール、またはその一部は、リモート・メモリ記憶装置に格納することもできる。一例として、そして限定ではなく、図１は、リモート・アプリケーション・プログラム１８５がメモリ素子１８１上に常駐するものとして示している。尚、図示のネットワーク接続は一例であり、コンピュータ間で通信リンクを確立する他の手段も使用可能であることは認められよう。
【００２５】
図２は、計算環境の一例であるモバイル・デバイス２００のブロック図である。モバイル・デバイス２００は、マイクロプロセッサ２０２、メモリ２０４、入出力（Ｉ／Ｏ）コンポーネント２０６、およびリモート・コンピュータまたは別のモバイル・デバイスと通信するための通信インターフェース２０８を含む。一実施形態では、前述のコンポーネントを結合し、適切なバス２１０を通じて互いに通信し合うようにしている。
【００２６】
メモリ２０４は、バッテリ・バックアップ・モジュール（図示せず）を備えたランダム・アクセス・メモリ（ＲＡＭ）のような、不揮発性電子メモリとして実装し、メモリ２０４に格納してある情報は、モバイル・デバイス２００全体への電力を遮断した後でも失われないようにしている。メモリ２０４の一部は、プログラムの実行用にアクセス可能なメモリとして割り当てることが好ましく、一方メモリ２０４の別の一部は、ディスク・ドライブ上のストレージをシミュレートするためというように、ストレージのために用いることが好ましい。
【００２７】
メモリ２０４は、オペレーティング・システム２１２、アプリケーション・プログラム２１４、およびオブジェクト・ストア２１６を含む。動作中、オペレーティング・システム２１２は、メモリ２０４からプロセッサ２０２によって実行することが好ましい。好適な一実施形態では、オペレーティング・システムは、Microsoft Corporation（マイクロソフト社）から市販されているWINDOWS（登録商標）CEブランドのオペレーティング・システムである。オペレーティング・システム２１２は、モバイル・デバイス用に設計されていることが好ましく、１組の露出した(exposed)アプリケーション・プログラミング・インターフェースおよびメソッドを介してアプリケーション２１４が利用可能なデータベース機能を実装する。オブジェクト・ストア２１６内のオブジェクトは、少なくとも部分的に、露出したアプリケーション・プログラミング・インターフェースおよびメソッドに対するコールに応答して、アプリケーション２１４およびオペレーティング・システム２１２によって維持する。
【００２８】
通信インターフェース２０８は、モバイル・デバイス２００が情報の送信および受信を可能にする多数のデバイスおよび技術を代表する。これらのデバイスは、有線およびワイヤレス・モデム、衛星受信機および放送チューナを含み、それ以外にも多数ある。モバイル・デバイス２００は、コンピュータに直接接続し、これとデータを交換することも可能である。このような場合、通信インターフェース２０８は、赤外線送受信機、あるいはシリアルまたはパラレル接続とすることができ、これらは全てストリーミング情報を送信することができる。
【００２９】
入出力コンポーネント２０６は、接触感応スクリーン、ボタン、ローラ、およびマイクロフォンのような種々の入力デバイス、ならびに音声発生器、振動デバイス、ディスプレイを含む種々の出力デバイスを含む。ここに列挙したデバイスは一例としてであり、モバイル・デバイス２００上に全てが存在する必要はない。加えて、本発明の範囲内において、別の入出力デバイスをモバイル・デバイス２００に取り付けたり、あるいはそこに見出す場合もある。
【００３０】
本発明の下では、パターン認識信号においてノイズを低減するシステムおよび方法を提供する。このために、本発明はスケーリング・ベクトルＳkおよび補正ベクトルｒkの集合体を特定する。これらを、ノイズ含有パターン信号の一部を表す特徴ベクトルとそれぞれ乗算し、次いで加算して、「クリーン」なパターン信号の一部を表す特徴ベクトルを生成することができる。以下に、図３のフロー図および図４のブロック図を参照しながら、スケーリング・ベクトルおよび補正ベクトルの集合体を特定するモデルについて説明する。また、図５のフロー図および図６のブロック図を参照しながら、スケーリング・ベクトルおよび補正ベクトルをノイズ含有特徴ベクトルに適用する方法について、以下に説明する。
【００３１】
スケーリング・ベクトルおよび補正ベクトルを特定する方法は、図３のステップ３００にて開始し、「クリーン」チャネル信号を特徴ベクトル・シーケンスに変換する。これを行うために、図４の話者４００がマイクロフォン４０２に向かって発話すると、マイクロフォン４０２はオーディオ波を電気信号に変換する。次に、アナログ／ディジタル変換器４０４が電気信号をサンプルし、ディジタル値のシーケンスを発生する。フレーム構成部４０６が、これらを値のフレームにグループ化(group)する。一実施形態では、Ａ／Ｄ変換器４０４は、１６ｋＨｚおよびサンプル当たり１６ビットでアナログ信号をサンプルすることによって、毎秒３２キロバイトのスピーチ・データを作成し、フレーム構成部４０６は、１０ミリ秒毎に新たなフレームを作成する。これは２５ミリ秒に相当するデータを含む。
【００３２】
フレーム構成部４０６が与えるデータの各フレームを、特徴抽出部４０８が特徴ベクトルに変換する。特徴抽出モジュールの例は、線形予測符号化（ＬＰＣ）、ＬＰＣ派生ケプストラム(LPC derived cepstrum)、透視線形予測（ＰＬＰ）、可聴モデル特徴抽出、およびメル周波数ケプストラム係数（ＭＦＣＣ：Mel-Frequency Cepstrum Coefficient）特徴抽出を実行するモジュールを含む。尚、本発明はこれらの特徴抽出モジュールに限定されるという訳ではなく、他のモジュールも本発明のコンテキストにおいて使用可能であることを注記しておく。
【００３３】
図３のステップ３０２において、ノイズ含有チャネル信号を特徴ベクトルに変換する。ステップ３０２の変換は、ステップ３００の変換の後に行うように示しているが、本発明の下では、変換のいずれの部分でも、ステップ３００の前、最中または後に実行してもよい。ステップ３０２の変換は、ステップ３００について上述したプロセスと同様のプロセスによって実行する。
【００３４】
図４の実施形態では、このプロセスが開始するのは、話者４００が発生した同じスピーチ信号が第２マイクロフォン４１０に供給されたときである。この第２マイクロフォンは、添加ノイズ源４１２からの添加ノイズ信号も受け取る。マイクロフォン４１０は、スピーチおよびノイズ信号を単一の電気信号に変換し、これをアナログ／ディジタル変換器４１４がサンプルする。Ａ／Ｄ変換器４１４のサンプリング特性は、Ａ／Ｄ変換器４０４について上述したものと同一である。Ａ／Ｄ変換器４１４が与えるサンプルは、フレーム構成部４１６によって、フレームに集合化する。フレーム構成部４１６は、フレーム構成部４０６と同様に作用する。次に、これらのサンプル・フレームを特徴抽出部４１８によって特徴ベクトルに変換する。特徴抽出部４１８は、特徴抽出部４０８と同じ特徴抽出方法を用いる。
【００３５】
別の実施形態では、マイクロフォン４１０、Ａ／Ｄ変換器４１４、フレーム構成部４１６および特徴抽出部４１８がない場合もある。代わりに、マイクロフォン４０２、Ａ／Ｄ変換器４０４、フレーム構成部４０６、および特徴抽出部４０８で形成する処理チェーン内の同じ点において、格納したバージョンのスピーチ信号に添加ノイズを添加する。例えば、「クリーン」チャネル信号のアナログ・バージョンは、マイクロフォン４０２がこれを作成した後に格納することができる。次に、元の「クリーン」チャネル信号をＡ／Ｄ変換器４０４、フレーム構成部４０６、および特徴抽出部４０８に印加する。このプロセスが完了したなら、アナログ・ノイズ信号を、格納してある「クリーン」チャネル信号に付加し、ノイズ含有アナログ・チャネル信号を形成する。次に、Ａ／Ｄ変換器４０４、フレーム構成部４０６、および特徴抽出部４０８にこのノイズ含有信号を印加し、ノイズ含有チャネル信号に対する特徴ベクトルを形成する。
【００３６】
別の実施形態では、Ａ／Ｄ変換器４０４およびフレーム構成部４０６の間で、「クリーン」チャネル信号の格納したディジタル・サンプルに、ノイズのディジタル・サンプルを付加するか、あるいはフレーム構成部４０６の後段において、「クリーン」チャネル・サンプルの格納したフレームに、ディジタル・ノイズ・サンプルのフレームを付加する。更に別の実施形態では、「クリーン」チャネル・サンプルのフレームを周波数ドメインに変換し、添加ノイズのスペクトル内容を「クリーン」チャネル信号の周波数ドメイン表現に付加する。これによって、ノイズ含有チャネル信号の周波数ドメイン表現が得られ、特徴抽出に用いることができる。
【００３７】
図４におけるノイズ低減トレーナ４２０に、ノイズ含有チャネル信号および「クリーン」チャネル信号の特徴ベクトルを供給する。図３のステップ３０４において、ノイズ低減トレーナ４２０は、ノイズ含有チャネル信号の特徴ベクトルを、混合成分にグループ化する。このグループ化は、最尤訓練技法を用いて同様のノイズの特徴ベクトル同士をグループ化することによって、またはスピーチ信号の時間区分を表す特徴ベクトル同士をグループ化することによって行うことができる。特徴ベクトルをグループ化するには、他の技法も使用可能であり、先に提示した２つの技法は一例として与えたに過ぎないことは、当業者には認められよう。
【００３８】
ノイズ含有チャネル信号の特徴ベクトルを混合成分にグループ化した後、ノイズ低減トレーナ４２０は、混合成分内における特徴ベクトルの分布を示す、分散値集合を発生する。これを図３のステップ３０６として示す。多くの実施形態では、これには、各混合成分の特徴ベクトルにおけるベクトル成分毎に、平均ベクトルおよび標準偏差ベクトルを決定することを伴う。最尤訓練を用いて特徴ベクトルをグループ化する実施形態では、平均および標準偏差は、混合成分に対してグループを特定することの副産物として得られる。
【００３９】
一旦平均および標準偏差を混合成分毎に決定したなら、図３のステップ３０８において、ノイズ低減トレーナ４２０は、補正ベクトルｒkおよびスケーリング・ベクトルＳkを混合成分毎に決定する。一実施形態の下では、各混合成分のスケーリング・ベクトルのベクトル成分および補正ベクトルのベクトル成分を決定する際に、重み付け最少二乗推定技法を用いる。この技法の下では、スケーリング・ベクトル成分は以下のように計算する。
【００４０】
【数１】
0003939955.tif 000002
そして、補正ベクトル成分は以下のように計算する。
【００４１】
【数２】
0003939955.tif 000003
ここで、Ｓi,kは、混合成分ｋのスケーリング・ベクトルＳkのｉ番目のベクトル成分であり、ｒi,kは、混合成分ｋの補正ベクトルｒkのｉ番目のベクトル成分であり、ｙi,tは、ノイズ含有チャネル信号のｔ番目のフレームにおける特徴ベクトルのｉ番目のベクトルであり、ｘi,tは、「クリーン」チャネル信号のｔ番目のフレームにおける特徴ベクトルのｉ番目のベクトル成分であり、Ｔは、「クリーン」およびノイズ含有チャネル信号におけるフレーム総数であり、p(k|yi,t)は、ノイズ含有チャネル信号のｔ番目のフレームに対して特徴ベクトル成分が与えられた場合の、ｋ番目の混合成分の確率である。
【００４２】
式１および２において、p(k|yi,t)項は、重み関数を与え、ｋ番目の混合成分とチャネル信号の現フレームとの間の相対関係を示す。
p(k|yi,t)項は、ベイズの定理を用いて計算することができる。
【００４３】
【数３】
0003939955.tif 000004
ここで、p(yi,t|k)は、ｋ番目の混合成分が与えられた場合の、ノイズ含有特徴ベクトルにおけるｉ番目のベクトル成分の確率であり、p(k)は、ｋ番目の混合成分の確率である。
【００４４】
ｋ番目の混合成分が与えられた場合のノイズ含有特徴ベクトルにおけるｉ番目のベクトル成分の確率p(yi,t|k)は、図３のステップ３０６においてｋ番目の混合成分に対して決定した分布値に基づいて、正規分布を用いて決定することができる。一実施形態では、ｋ番目の混合成分の確率p(k)は、単に混合成分数の逆数である。例えば、２５６個の混合成分を有する実施形態では、混合成分の確率は、そのいずれの１つについても１／２５６となる。
【００４５】
ステップ３０８において補正ベクトルおよびスケーリング・ベクトルを混合ベクトル毎に決定した後、本発明のノイズ低減システムを訓練するプロセスは完了する。次に、各混合成分の補正ベクトル、スケーリング・ベクトル、および分布値を、図４のノイズ低減パラメータ・ストレージ４２２に格納する。
【００４６】
一旦補正ベクトルおよびスケーリング・ベクトルを混合毎に決定したなら、本発明のノイズ低減技法においてこれらのベクトルを用いることができる。即ち、補正ベクトルおよびスケーリング・ベクトルを用いて、パターン認識に用いる訓練信号および／または検査信号におけるノイズを除去することができる。
【００４７】
図５は、訓練信号および／または検査信号におけるノイズを低減する技法を説明するフロー図を提示する。図５のプロセスは、ステップ５００にて開始し、ノイズ含有訓練信号または検査信号を、特徴ベクトル列に変換する。次いで、ノイズ低減技法は、各ノイズ含有特徴ベクトルにこの混合成分が最良に一致するか判定を行う。これを行うには、ノイズ含有特徴ベクトルを、各混合成分に関連するノイズ含有チャネルの特徴ベクトルの分布に適用する。一実施形態では、この分布は、混合成分平均および標準偏差ベクトルによって規定した標準偏差の集合体である。次いで、ノイズ含有特徴ベクトルに対して最も高い確率を与える混合成分を、特徴ベクトルに対する最良の一致として選択する。この選択は次の式で表される。
【００４８】
【数４】
0003939955.tif 000005
ここで、k^は最良の一致混合成分であり、ｃkはｋ番目の混合成分の重み係数であり、N(y;μk,Σk)は、ｋ番目の混合成分の平均ベクトルμk、および標準偏差ベクトルΣk対して発生した正規分布からの個々のノイズ含有特徴ベクトルｙの値である。殆どの実施形態において、各混合成分には等しい重み係数ｃkが与えられる。
【００４９】
尚、本発明の下では、各混合成分に対する平均ベクトルおよび標準偏差ベクトルは、従来技術におけるように「クリーン」チャネル・ベクトルからではなく、ノイズ含有チャネル・ベクトルから決定する。このため、これらの平均および標準偏差に基づく正規分布は、ノイズ含有パターン・ベクトルに対して最良の混合成分を求めるのに一層適した形状となる。
【００５０】
ステップ５０２において一旦入力特徴ベクトル毎に最良の混合成分を特定したなら、これらの混合成分に対応するスケーリングおよび補正ベクトルを、個々の特徴ベクトルと（エレメント毎に）乗算し、加算することによって、「クリーン」特徴ベクトルを形成する。式で表すと、次のようになる。
【００５１】
【数５】
0003939955.tif 000006
ここで、ｘiは、個々の「クリーン」特徴ベクトルのｉ番目のベクトル成分であり、ｙiは、入力信号からの個々のノイズ含有特徴ベクトルのｉ番目のベクトル成分であり、そしてＳi,kおよびｒi,kの双方は、それぞれ、個々のノイズ含有特徴ベクトルに対して最適に選択した、スケーリング・ベクトルおよび補正ベクトルのｉ番目のベクトル成分である。ベクトル成分毎に式５の演算を繰り返す。したがって、式５は以下のようなベクトル表記で書き直すことができる。
【００５２】
【数６】
0003939955.tif 000007
ここで、ｘは「クリーン」特徴ベクトル、Ｓｋはスケーリング・ベクトル、
ｙはノイズ含有特徴ベクトル、そしてｒｋは補正ベクトルである。
【００５３】
図６は、本発明のノイズ低減技法を利用可能な環境のブロック図である。即ち、図６は、スピーチ認識システムを示し、検査信号の言語内容を識別する音響モデルを訓練するため、および／または音響モデルに対して適用する検査信号におけるノイズを低減するために用いる訓練信号におけるノイズを低減する際に、本発明のノイズ低減技法を用いる。
【００５４】
図６において、話者６００、トレーナまたはユーザのいずれかは、マイクロフォン６０４に向かって発話する。マイクロフォン６０４は１つ以上のノイズ源６０２からの添加ノイズも受け取る。マイクロフォン６０４が検出した音声信号を電気信号に変換し、アナログ／ディジタル変換器６０６に供給する。図の実施形態では、添加ノイズ６０２は、マイクロフォン６０４を介して入力するように示されているが、別の実施形態では、Ａ／Ｄ変換器６０６の後段に、ディジタル信号として添加ノイズ６０２を付加してもよい。
【００５５】
Ａ／Ｄ変換器６０６は、マイクロフォン６０４からのアナログ信号をディジタル値列に変換する。いくつかの実施形態では、Ａ／Ｄ変換器６０６は、１６ｋＨｚおよびサンプル当たり１６ビットでアナログ信号をサンプルすることによって、毎秒３２キロバイトのスピーチ・データを作成する。これらのディジタル値をフレーム構成部６０７に供給する。一実施形態では、フレーム構成部６０７は、１０ミリ秒ずつ別れて開始する２５ミリ秒のフレームに値をグループ化する。
【００５６】
フレーム構成部６０７が作成したデータ・フレームを特徴抽出部６１０に供給し、各フレームから特徴を抽出する。特徴抽出部６１０では、ノイズ低減パラメータ（混合成分のスケーリング・ベクトル、補正ベクトル、平均、および標準偏差）を訓練する際に用いたのと同じ特徴抽出を用いる。前述のように、このような特徴ベクトル抽出モジュールの例は、線形予測符号化（ＬＰＣ）、ＬＰＣ派生ケプストラム、透視線形予測（ＰＬＰ）、可聴モデル特徴抽出、およびメル周波数ケプストラム係数（ＭＦＣＣ）特徴抽出を実行するモジュールを含む。
【００５７】
特徴抽出モジュールは、特徴ベクトル・ストリームを生成する。特徴ベクトルの各々は、スピーチ信号のフレームと関連付けられている。この特徴ベクトル・ストリームを本発明のノイズ低減モジュール６１０に供給し、ノイズ低減モジュール６１０は、ノイズ低減パラメータ・ストレージ６１１に格納してあるノイズ低減パラメータを用いて、入力スピーチ信号内のノイズを低減する。具体的には、図５に示すように、ノイズ低減モジュール６１０は入力特徴ベクトル毎に単一の混合成分を選択し、次いで入力特徴ベクトルをその混合成分のスケーリング・ベクトルと乗算し、混合成分の補正ベクトルを積に加算して、「クリーン」特徴ベクトルを生成する。
【００５８】
このようにして、ノイズ低減モジュール６１０の出力は、「クリーン」特徴ベクトルの列となる。入力信号が訓練信号である場合、この「クリーン」特徴ベクトル列をトレーナ６２４に供給し、トレーナ６２４は「クリーン」特徴ベクトルおよび訓練テキスト６２６を用いて、音響モデル６１８を訓練する。このようなモデルを訓練する技法は当技術分野では公知であり、その説明は本発明の理解には不要である。
【００５９】
入力信号が検査信号である場合、「クリーン」特徴ベクトルを検出器６１２に供給し、特徴ベクトル・ストリーム、語彙６１４、言語モデル６１６、および音響モデル６１８に基づいて、最尤ワード・シーケンスを識別する。デコーディングに用いる特定の方法は、本発明には重要ではなく、いくつかの公知のデコーディング方法のいずれでも使用可能である。
【００６０】
最も確率が高い仮説単語のシーケンスを信頼性測定モジュール６２０に供給する。信頼性測定モジュール６２０は、部分的に二次音響モデル（図示せず）に基づいて、不適切に識別された可能性が最も高い単語はどれか識別する。次いで、信頼性測定モジュール６２０は、仮説単語のシーケンスを、不適切に識別された単語を示す識別子と共に、出力モジュール６２２に供給する。信頼性測定モジュール６２０は、本発明の実施には必要でないことを、当業者は認めよう。
【００６１】
図６は、スピーチ認識システムを図示するが、本発明はいずれのパターン認識システムにも使用可能であり、スピーチに限定されるのではない。
以上、特定的な実施形態を参照しながら本発明について説明したが、本発明の精神および範囲から逸脱することなく、形態および詳細において変更が可能であることを当業者は認めよう。
【図面の簡単な説明】
【図１】図１は、本発明を実施可能な一計算環境のブロック図である。
【図２】図２は、本発明を実施可能な代わりの計算環境のブロック図である。
【図３】図３は、本発明のノイズ低減システムを訓練する方法のフロー図である。
【図４】図４は、本発明の一実施形態において用い、ノイズ低減システムを訓練するためのコンポーネントのブロック図である。
【図５】図５は、本発明のノイズ低減システムを用いる方法の一実施形態のフロー図である。
【図６】図６は、本発明を使用可能なパターン認識システムのブロック図である。
【符号の説明】
１００    計算環境
１１０    コンピュータ
１２０    処理ユニット（ＣＰＵ）
１２１    システム・バス
１３０    システム・メモリ
１３１    リード・オンリ・メモリ（ＲＯＭ）
１３２    ランダム・アクセス・メモリ（ＲＡＭ）
１３３    基本入出力システム
１３４    オペレーティング・システム
１３５    アプリケーション・プログラム
１３６    プログラム・モジュール
１３７    プログラム・データ
１４０    インターフェース
１４１    ハード・ディスク・ドライブ
１４４    オペレーティング・システム
１４５    アプリケーション・プログラム
１４６    プログラム・モジュール
１４７    プログラム・データ
１５１    磁気ディスク・ドライブ
１５２    リムーバブル不揮発性磁気ディスク
１５５    光ディスク・ドライブ
１５６    リムーバブル不揮発性光ディスク
１６０    ユーザ入力インターフェース
１６１    ポインティング・デバイス
１６２    キーボード
１６３    マイクロフォン
１７１    ローカル・エリア・ネットワーク（ＬＡＮ）
１７２    モデム
１７３    ワイド・エリア・ネットワーク（ＷＡＮ）
１８０    リモート・コンピュータ
１８１    メモリ素子
１８５    リモート・アプリケーション・プログラム
１９０    ビデオ・インターフェース
１９１    モニタ
１９６    プリンタ
１９７    スピーカ
２００    モバイル・デバイス
２０２    マイクロプロセッサ
２０４    メモリ
２０６    入出力（Ｉ／Ｏ）コンポーネント
２０８    通信インターフェース
２１０    バス
２１２    オペレーティング・システム
２１４    アプリケーション・プログラム
２１６    オブジェクト・ストア
６００    話者
６０２    添加ノイズ
６０４    マイクロフォン
６０６    アナログ／ディジタル（Ａ／Ｄ）変換器
６０７    フレーム構成部
６０８    ノイズ低減モジュール
６１０    特徴抽出部
６１１    ノイズ低減パラメータ・ストレージ
６１２    デコーダ
６１４    語彙
６１６    言語モデル
６１８    音響モデル
６２０    信頼性測定モジュール
６２２    出力モジュール
６２４    トレーナ
６２６    訓練テキスト
【図１】
0003939955.tif 000008
【図２】
0003939955.tif 000009
【図３】
0003939955.tif 000010
【図４】
0003939955.tif 000011
【図５】
0003939955.tif 000012
【図６】
0003939955.tif 000013