(57)【要約】【解決手段】音声認識（ＶＲ）テンプレートの記憶を改良することにより、音声認識を改良する方法およびシステム。改良された記憶手段はより多くのＶＲモデルをメモリに記憶することができる。メモリに記憶されるＶＲモデルが多ければ多い程、ＶＲシステムはより堅固となり、それゆえ、ＶＲシステムがより正確となる。付加逆圧縮技術を用いてＶＲモデルを圧縮する。一実施の形態において、Ａ−ｌａｗ圧縮およびＡ−ｌａｗ伸張を用いてＶＲモデルを圧縮および伸張する。他の実施の形態において、Ｍｕ−ｌａｗ圧縮およびＭｕ−ｌａｗ伸張を用いてＶＲモデルを圧縮および伸張する。ＶＲモデルは訓練プロセスの期間中に圧縮され、音声認識の期間中に伸張される。【選択図】図１１
2004523788.tif 000002
【特許請求の範囲】
【請求項１】
下記を具備する音声認識の方法：
複数の発話を記録する；
前記複数の発話の特徴を抽出し、前記複数の発話の抽出された特徴を発生する；
前記複数の発話の抽出された特徴から複数のＶＲモデルを作る；および
前記複数のＶＲモデルを不可逆圧縮して複数の不可逆圧縮ＶＲモデルを発生する。
【請求項２】
前記複数の不可逆圧縮されたＶＲモデルを伸張して複数の伸張されたＶＲモデルを発生することをさらに具備する、請求項１の方法。
【請求項３】
前記複数の伸張されたＶＲモデルの１つの伸張されたＶＲモデルを１つのテスト発話の特徴と比較することをさらに具備する、請求項２の方法。
【請求項４】
テスト発話の特徴を抽出することをさらに具備する、請求項２の方法。
【請求項５】
前記テスト発話の抽出した特徴を前記複数の伸張したＶＲモデルの１つの伸張したＶＲモデルとマッチさせ、マッチを発生することをさらに具備する、請求項４の方法。
【請求項６】
マッチのための仮説を発生することをさらに具備する、請求項５の方法。
【請求項７】
前記不可逆圧縮は、前記複数のＶＲモデルのＡ−ｌａｗ圧縮であり、複数のＡ−ｌａｗ圧縮されたＶＲモデルを発生する、請求項１の方法。
【請求項８】
前記不可逆圧縮は、前記複数のＶＲモデルのｍｕ−ｌａｗ圧縮であり、複数のｍｕ−ｌａｗ圧縮されたＶＲモデルを発生する、請求項１の方法。
【請求項９】
前記作られた複数のＶＲモデルは隠れマルコフモデル（ＨＭＭｓ）である、請求項１の方法。
【請求項１０】
前記作られた複数のＶＲモデルはダイナミックタイムワーピング(Dynamic Time Warping)（ＤＴＷ）モデルである、請求項１の方法。
【請求項１１】
前記複数のＡ−ｌａｗ圧縮されたＶＲモデルから１つのＡ−ｌａｗ圧縮されたＶＲモデルを伸張することをさらに具備し、１つの伸張されたＶＲモデルを発生する、請求項７の方法。
【請求項１２】
前記複数のｍｕ−ｌａｗ圧縮されたＶＲモデルから１つのｍｕ−ｌａｗ圧縮されたＶＲモデルを伸張することをさらに具備し、１つの伸張されたＶＲモデルを発生する、請求項８の方法。
【請求項１３】
テスト発話の特徴を抽出することをさらに具備する、請求項１１の方法。
【請求項１４】
テスト発話の特徴を抽出することをさらに具備する、請求項１２の方法。
【請求項１５】
前記テスト発話の抽出された特徴を前記複数の伸張されたＶＲモデルの伸張されたＶＲモデルにマッチさせることをさらに具備し、マッチを発生する、請求項１３の方法。
【請求項１６】
前記テスト発話の抽出された特徴を前記複数の伸張されたＶＲモデルの伸張されたＶＲモデルにマッチさせることをさらに具備し、マッチを発生する、請求項１４の方法。
【請求項１７】
前記マッチに対する仮説を発生することをさらに具備する、請求項１５の方法。
【請求項１８】
前記マッチに対する仮説を発生することをさらに具備する、請求項１６の方法。
【請求項１９】
複数の発話の特徴を抽出するように構成された訓練モジュールを具備し、前記発話の抽出された特徴を発生し、前記発話の抽出された特徴から複数のＶＲモデルを作り、前記複数のＶＲモデルを不可逆圧縮して複数の不可逆圧縮されたＶＲモデルを発生する音声認識（ＶＲ）システム。
【請求項２０】
テスト発話の特徴を抽出し、テスト発話の抽出された特徴を発生するように構成された特徴抽出モジュールと；
前記複数の不加逆圧縮されたＶＲモデルから１つの不加逆圧縮されたＶＲモデルを伸張し、１つの伸張されたＶＲモデルを発生するように構成された伸張モジュールと；および
前記テスト発話の抽出された特徴を前記伸張されたＶＲモデルにマッチさせ、１つの認識仮説を発生するパターンマッチングモジュールと；
をさらに具備する、請求項１９のＶＲシステム。
【請求項２１】
下記を具備する音声認識システム：
複数の不可逆圧縮されたＶＲモデル；
テスト発話の特徴を抽出し、テスト発話の抽出された特徴を発生するように構成された特徴抽出モジュール；
前記複数の不可逆圧縮されたＶＲモデルから１つの不可逆圧縮されたＶＲモデルを伸張し、１つの伸張されたＶＲモデルを発生するように構成された伸張モジュール；および
前記テスト発話の抽出された特徴を前記伸張されたＶＲモデルにマッチさせ、１つの認識仮説を発生するパターンマッチングモジュール。
【請求項２２】
下記を具備する音声認識（ＶＲ）訓練システム：
複数の発話の特徴を抽出し、前記複数の発話の抽出した特徴に対して複数のＶＲモデルを発生するように構成された特徴抽出モジュール；および
前記複数のＶＲモデルを不可逆圧縮するように構成された圧縮モジュール。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、一般に通信の分野に関わり、特に、音声認識システムのテンプレートの記憶を改良するためのシステムと方法に関する。
【背景技術】
【０００２】
音声認識（ＶＲ）は、ユーザコマンドまたはユーザの音声によるコマンドを認識するためのシミュレートされたインテリジェンスを機械に与え、機械とのヒューマンインターフェースを容易にするための最も重要な技術の１つを表す。ＶＲはまた人間の話言葉の理解のための重要な技術も表す。音響音声信号からの言語的メッセージを再生するための技術を採用するシステムは音声認識器と呼ばれる。「音声認識器」と呼ばれる用語は、ここでは一般に何らかの口語ユーザインターフェース使用可能装置を意味するために使用される。
【０００３】
ＶＲ（一般に音声認識とも呼ばれる）は安全上の理由のためだんだん重要になってきている。例えば、ＶＲは、無線電話のキーパッド上のボタンを押すという手仕事に取って代わるために使用することができる。これは、特にユーザが車を運転しながら電話をかけるときに重要である。ＶＲなくして電話を使用すると、運転者は一方の手をハンドルから離し、電話のキーパッドを見て、その上その呼にダイアルするためにボタンを押さなければならない。これらの行為は自動車事故の可能性を増大させる。音声使用可能電話（すなわち、音声認識のために設計された電話）は運転者が道路を見つづけながら電話をかけることを可能にする。さらに、ハンズフリーカーキット（hands-free car-kit)は運転者が呼の開始の期間中に両手をハンドルに置いたままにすることができる。
【０００４】
音声認識装置は、話者特定（ＳＤ）装置または話者不特定（ＳＩ）装置として分類される。話者特定装置はより一般的であり、特定のユーザからのコマンドを認識するように訓練される。対照的に、話者不特定装置は、いずれかのユーザからの音声コマンドを受け入れることができる。話者特定、話者不特定にかかわらず、所定のＶＲシステムの性能を増大するために、訓練はシステムに有効なパラメータを備えることを必要とする。言い換えれば、システムは、最適に機能することが出来る前に学習する必要がある。
【０００５】
ハンズフリーカーキットのための例示語彙は、キーパッド上の数字、「コール」、「送信」、「ダイアル」、「キャンセル」、「クリア」、「加算」、「減算」、「ヒストリー」、「プログラム」、「イエス」、および「ノー」のキーワード、および所定数の一般に電話をかける同僚、友達、家族の名前を含めることができる。訓練が完了すると、ユーザは訓練されたキーワードを離すことにより、呼を開始することができる。ＶＲ装置は、この訓練されたキーワードを、口語の発話と（テンプレートとして記憶された）以前に訓練された発話と比較し、最良の一致を取ることにより、認識する。例えば、名前"John"が訓練された名前の１つならば、ユーザはフレーズ"Call John"を言うことにより電話を開始することができる。ＶＲシステムはワード"Call"および"John"を認識し、ユーザが以前にJohnの電話番号として入力した番号をダイアルするであろう。語彙にないすべてのワードを表すために、ガーベッジテンプレート(Garbage templates)が使用される。
【０００６】
複数のＶＲエンジンを結合すると、機能強化された精度を供給し、入力音声信号に多くの情報を使用する。ＶＲエンジンを結合するためのシステムおよび方法は、この発明の譲受人に譲渡され参照することによりここに完全に組み込まれる、２０００年７月１８日に出願された米国特許出願番号第０９／６１８，１７７（以下’１７７出願）（発明の名称：「音声認識のための結合されたエンジンシステムおよび方法」(COMBINED ENGINE SYSTEM AND METHOD FOR VOICE RECOGINITION)）および２０００年９月８日に出願された米国特許出願第０９／６５７，７６０（以下’７６０出願）（発明の名称：「マッピングを用いた自動音声認識のためのシステムおよび方法」(SYSTEM AND METHOD FOR AUTOMATIC VOICE RECOGNITION USING MAPPING)）に記載されている。
【０００７】
複数のＶＲエンジンを結合したＶＲシステムは、単一のＶＲエンジンを使用するＶＲシステムよりもより正確であるけれども、結合されたＶＲシステムの各ＶＲエンジンは雑音環境のために不正確さを含む可能性がある。入力音声信号は背景雑音のために認識されないかもしれない。背景雑音は、入力音声信号とＶＲシステムの語彙からのテンプレートとの間に一致を生じないかもしれない、または入力音声信号とＶＲシステムの語彙からのテンプレートとの間に不一致を生じるかもしれない。入力音声信号とテンプレートとの間に一致が無いなら、入力音声信号は拒絶される。入力音声信号に対応しないテンプレートがＶＲシステムにより選択されたとき、不一致が生じる。正しいテンプレートの代わりに、正しくないテンプレートが置換されるので、不一致条件はまた置換としても知られている。
【０００８】
背景雑音の場合に、ＶＲ精度を改良する実施の形態が望ましい。拒絶または不一致を生じる可能性がある背景雑音の例は、運転しながら、音声ダイアルするために携帯電話が使用されるときであり、マイクロフォンにおいて、受信される入力音声信号は、付加的な交通騒音により改悪される。付加的な交通騒音は、音声認識および精度を低下させ、拒絶または不一致を生じる可能性がある。
【０００９】
拒絶または不一致を生じる可能性のある雑音の他の例は、ひさし付きの帽子またはヘッドセットに取り付けられたマイクロフォンで受信された音声信号が、重畳歪みにさらされる時である。重畳歪みにより生じる雑音は重畳雑音および周波数不一致として知られる。重畳歪みは、口とマイクロフォンとの間の距離、マイクロフォンの周波数応答、自動者の内部の音響効果のような多くの要因に依存する。そのような条件は音声認識制度を低下させるかもしれない。
【００１０】
伝統的に、従来のＶＲシステムは重畳雑音をフィルタにかけるためにＲＡＳＴＡフィルタを含んでいた。しかしながら、背景雑音はＲＡＳＴＡフィルタによりフィルタリングされなかった。そのようなフィルタは、米国特許第５、４５０、５２２に記載されている。従って、重畳雑音と背景雑音の両方をフィルタリングするための技術の必要性がある。そのような技術はＶＲシステムの精度を改良するであろう。
【００１１】
ＶＲシステムにおいて、話者特定ＶＲシステムであろうと、話者不特定ＶＲシステムであろうと、これらのタイプのＶＲシステムの両方のメモリに記憶可能なテンプレートの数はメモリのサイズにより制限される。メモリのサイズを制限することは記憶できるテンプレートの数を制限するので、ＶＲシステムの堅固性を制限する。これらＶＲシステムのメモリに記憶させることができるテンプレートの数を増大させるシステムと方法が望まれる。
【発明の開示】
【課題を解決するための手段】
【００１２】
記載された実施の形態は、音声認識システムにおけるテンプレートの記憶を改良するためのシステムおよび方法に向けられている。１つの観点において、音声認識のためのシステムと方法は、複数の発話を記録し、複数の発話の特徴を抽出し、複数の発話の抽出された特徴を発生し、複数の発話の抽出された特徴から複数のＶＲモデルを作成し、複数のＶＲモデルを不可逆圧縮し複数の不可逆圧縮されたＶＲモデルを発生することを含む。第１の観点において、A-law圧縮および拡張が使用される。他の観点において、mu-law圧縮および拡張が使用される。第１の観点において、ＶＲモデルは隠れマルコフモデル（ＨＭＭ）である。他の観点において、ＶＲモデルは、ダイナミックタイムワーピング(Dynamic Time Warping)（ＤＴＷ）モデルである。
【００１３】
１つの観点において、音声認識（ＶＲ）システムは、複数の発話の特徴を抽出し、発話の抽出された特徴を発生し、発話の抽出された特徴から複数のＶＲモデルを作成し、複数のＶＲモデルを不可逆圧縮し、複数の不可逆圧縮されたＶＲモデルを発生するように構成された訓練モジュールを具備する。１つの観点において、ＶＲシステムはさらに、テスト発話の特徴を抽出し、テスト発話の抽出された特徴を発生するように構成された特徴抽出モジュールと、複数の不可逆圧縮されたＶＲモデルから不可逆圧縮されたＶＲモデルを伸張し、伸張したＶＲモデルを発生するように構成された伸張モジュールと、テスト発話の伸張特徴を伸張されたＶＲモデルにマッチさせ認識仮説を発生するパターンマッチングモジュールを具備する。
【発明を実施するための最良の形態】
【００１４】
ＶＲシステムは、音声セグメントを特徴づけるためにフロントエンド処理を実行するフロントエンドを含む。図１はＶＲシステムにおいて、ＶＲフロントエンド１０を示す。バーク(Bark)振幅発生モジュール１２は、Ｔミリ秒に１回、２値化されたＰＣＭ音声信号ｓ（ｎ）をｋ個のバーク振幅に変換する。一実施の形態において、Ｔは１０ミリ秒であり、ｋは１６バーク振幅である。従って、１０ｍｓｅｃごとに１６のバーク振幅がある。ｋはいかなる正の整数も取り得ることは当業者により理解されるであろう。また、Ｔに対して時間のいかなる期間も使用できることは当業者により理解されるであろう。
【００１５】
バーク(Bark)スケールはヒアリングの人間の知覚に対応する臨海帯域のワープされた周波数(warped frequency)スケールである。バーク振幅計算は技術的に知られており、参照することによりここに完全に組み込まれるLawrence Rabiner & Biing-Hwang Juang著「音声認識の基礎(Fundamentals of Speech Recognition)」（１９９３）に記載されている。バーク振幅モジュール１２はＬｏｇ圧縮モジュール１４に接続される。Ｌｏｇ圧縮モジュール１４は各バーク振幅の対数を取ることによりバーク振幅をｌｏｇ１０スケールに変関する。ＬＯＧ圧縮モジュール１４はケプストラル変換モジュール１６に接続される。ケプストラル変換モジュール１６はｊ個の静的ケプストラル係数とｊ個の動的ケプストラル係数を計算する。ケプストラル変換は技術的に良く知られているｃｏｓｉｎｅ変換である。例えば、以前に参照することにより組み込んだLawrence Rabiner & Biing-Hwang Juangを参照せよ。一実施の形態において、ｊは８である。ｊは他のいかなる正の整数を取り得ることは当業者により理解されるであろう。従って、フロントエンドモジュール１０はＴミリ秒に１回２＊ｊ係数を発生する。これらの特徴は、ＨＭＭモデルをフロントエンド特徴にマッチさせることにより音声認識を実行するＨＭＭモジュールのようなバックエンドモジュール（図示せず）により処理される。
【００１６】
ＨＭＭモデルは、ＶＲフロントエンドにおいて、「ｊ」個の静的ケプストラルパラメータと「ｊ」個の動的ケプストラルパラメータを計算することにより訓練される。訓練プロセスは、単一の状態に対応する複数のＮフレームを収集する。従って、訓練プロセスは、これらＮフレームの平均と分散を計算し、長さ２ｊの平均ベクトルと、長さ２ｊの対角線共分散を生じる。平均ベクトルと分散ベクトルは一緒になってガウス混合成分あるいは略して「混合」と呼ばれる。各状態は、Ｎガウス混合成分により表され、Ｎは正の整数である。訓練プロセスはまた遷移確率も計算する。
【００１７】
小さなメモリリソースを有する装置において、Ｎは１または他の小さな数である。最も小さいフットプリント(footprint)ＶＲシステム、すなわち最も小さいメモリＶＲシステムにおいて、１つのガウス混合成分は１つの状態を表す。より大きなＶＲシステムにおいて、１つ以上の平均ベクトルおよび対応する分散ベクトルを計算するために複数のＮフレームが使用される。例えば、１２の平均と分散のセットが計算されるなら、１つの１２ガウス混合成分ＨＭＭ状態が作成される。配信音声認識（ＤＶＲ）システム内のＶＲサーバにおいて、Ｎは３２という大きな値を取ることができる。
【００１８】
ＨＭＭモデルは入力音声信号を認識するための確率的構造である。ＨＭＭモデルにおいて、時間的特性とスペクトル特性は音声セグメントを特徴づけるために使用される。各ＨＭＭモデル（ワードの全体またはワードの要素）は一連の状態および一連の遷移確率により表される。ＨＭＭモデルはワード"oh"を表すことも出来るし、ワードの一部"Ohio"を表すこともできる。入力音声信号はビテルビ復号を用いて複数のＨＭＭモデルに比較される。最良にマッチングするＨＭＭモデルは認識仮説であると考えられる。例示ＨＭＭモデル３０は５つの状態を有する。すなわちスタート３２、エンド３４、および表現された３音のための３つの状態、すなわち状態１  ３６、状態２  ３８および状態３  ４０を有する。典型的なバックエンドにおいて、ワード全体モデルは少ない語彙のＶＲシステムと共に使用される。
【００１９】
中程度から大容量語彙システムにおいて、ワード要素モデルが使用される。典型的なワード要素単位はコンテキスト独立（ＣＩ）音とコンテキスト従属（ＣＤ）音である。背景に独立した音は左側の音および右側の音から独立している。背景に依存する音は３音とも呼ばれる。何故なら３音は、背景に依存する音の左側の音および右側の音に依存する。背景に依存する音は異音とも呼ばれる。
【００２０】
ＶＲ技術の音は音素の具現化である。ＶＲシステムにおいて、背景に依存しない音モデルと背景に依存する音モデルはＨＭＭまたは技術的に知られた他のタイプのＶＲモデルを用いて構築される。音素は与えられた言葉における最も小さな機能的音声セグメントの抽出である。ここで、機能的という単語は、知覚的に異なる音を意味する。例えば、"cat"内の"k"音を"b"音と交換することにより英語では異なる単語になる。従って、"b"および"k"は、英語では、２つの異なる音素である。
【００２１】
遷移ａｉｊは状態ｉから状態ｊへの遷移の確率である。ａｓ１はスタート状態３２から第１状態３６に遷移する。ａ１２は第１状態３６から第２状態３８に遷移する。ａ２３は第２状態３８から第３状態４０に遷移する。ａ３Ｅは第３状態４０からエンド状態３４に遷移する。ａ１１は第１状態３６から第１状態３６に遷移する。ａ２２は第２状態３８から第２状態３８に遷移する。ａ３３は第３状態４０から第３状態４０に遷移する。ａ１３は第１状態３６から第３状態４０に遷移する。
【００２２】
遷移確率の行列は全ての遷移／確率ａｉｊから構築することができる。但しｎはＨＭＭモデル内の状態の数であり、ｉ＝１，２，・・・，ｎであり、ｊ＝１，２，・・・，ｎである。状態間に遷移が無いとき、その遷移／確率はゼロである。１つの状態からの累積する遷移／確率は単一、すなわち１に等しい。
【００２３】
図３は一実施の形態に従うＶＲシステムのＨＭＭモジュールのフロントエンドを示す。バーク振幅モジュール１２はＬｏｇ圧縮モジュール１４に接続される。Ｌｏｇ圧縮モジュール１４はＲＡＳＴＡフィルタリングモジュール１８に接続される。ＲＡＳＴＡフィルタリングモジュール１８はケプストラル変換モジュール１６に接続される。ｋチャネルの各々からのｌｏｇバーク振幅は帯域通過フィルタｈ（ｉ）を用いてフィルタリングされる。一実施の形態において、ＲＡＳＴＡフィルタは約４Ｈｚの中心周波数を有する帯域通過フィルタｈ（ｉ）である。おおよそ、発話において、毎秒約４つの音節がある。それゆえ、約４Ｈｚの中心周波数を有する帯域通過フィルタは音声のような信号を保持し、非音声のような信号を減衰させる。従って、帯域通過フィルタは背景雑音および周波数不一致条件において改良された認識精度を生じる。中心周波数はタスクに応じて４Ｈｚから異ならせることができることは、当業者には理解できるであろう。
【００２４】
次に、フィルタリングされたｌｏｇバーク振幅は、Ｔミリ秒に１回、２＊ｊ係数を発生するためにケプストラル変換モジュールにより処理される。ＶＲフロントエンドにおいて、使用することができる帯域通過フィルタの例は、参照することによりここに組み込まれる１９９５年９月１２日に出願された、米国特許第５，４５０，５２２（発明の名称：「音声のパラメータ化のための聴覚モデル(Auditory Model for Parametrization of Speech)）に記載されたＲＡＳＴＡフィルタである。図３に示すフロントエンドはチャネル不一致条件の影響を低減し、ＶＲ認識精度を改良する。
【００２５】
図３に示されるフロントエンドは、背景不一致条件に対して非常に堅固でない。この理由の１つは、Ｌｏｇ圧縮プロセスはバークチャネル上に非線形の増幅効果を有することである。Ｌｏｇ圧縮はバークチャネル上の高増幅領域以上に低増幅領域が増幅される。背景雑音は典型的には、バークチャネル上の低増幅領域内にあるので、ＶＲ性能は信号対雑音比（ＳＮＲ）が減少するにつれ、低下し始める。従って、バークチャネル上の低増幅領域において線形のようであり、高増幅領域においてｌｏｇのようであるモジュールを有することが望ましい。
【００２６】
これは、国際電気通信連合（ＩＴＵ−Ｔ）推奨Ｇ．７１１（１１・８８）−音声周波数のパルス符号変調およびＧ７１１．Ｃ、Ｇ．７１１符号化／復号機能に記載されたＧ．７１１ｌｏｇ圧伸（圧縮および伸張）のようなｌｏｇ圧伸スキームを用いることにより能率的に得られる。ＩＴＵ−Ｔ（国際電気通信連合の電気通信標準化部門）は電気通信機器およびシステムのための共同規格を促進させるための主要な国際機関である。
【００２７】
２つのＧ．７１１ｌｏｇ圧伸スキームがある。ｍｕ−ｌａｗ圧伸スキームとＡ−ｌａｗ圧伸スキームである。ｍｕ−ｌａｗ圧伸スキームとＡ−ｌａｗ圧伸スキームはパルス符号変調（ＰＣＭ）方法である。すなわち、アナログ信号がサンプリングされ、各サンプリングされた信号の振幅が量子化され、すなわちデジタル値が割当てられる。ｍｕ−ｌａｗ圧伸スキームとＡ−ｌａｗ圧伸スキームはサンプリングされた信号、サンプリングされた信号の対数曲線の線形近似により量子化する。
【００２８】
ｍｕ−ｌａｗ圧伸スキームとＡ−ｌａｗ圧伸スキームは、対数曲線上で動作する。それゆえ、対数曲線はセグメントに分割され、各連続するセグメントは以前のセグメントの２倍の長さである。Ａ−ｌａｗ圧伸スキームとｍｕ−ｌａｗ圧伸スキームは異なるセグメント長を有する。何故なら、ｍｕ−ｌａｗ圧伸スキームとＡ−ｌａｗ圧伸スキームは線形近似を異なって計算するからである。
【００２９】
Ｇ．７１１規格は以下の表１に示すようにｍｕ−ｌａｗ線形近似を近似するｍｕ−ｌａｗルックアップテーブルを含む。ｍｕ−ｌａｗ圧伸スキームの下で、アナログ信号は、合計８，１５９間隔を用いて近似値が求められる。
【表１】
2004523788.tif 000003
【００３０】
Ｇ．７１１規格は、以下の表２に示すようにＡ−ｌａｗ線形近似を近似するＡ−ルックアップテーブルを含む。Ａ−ｌａｗ圧伸方式の下で、アナログ信号は合計４，０９６の間隔を用いて近似値が求められる。
【表２】
2004523788.tif 000004
【００３１】
Ｇ．７１１規格は、サンプルあたり１４ビットで量子化された音声をサンプルあたり８ビットで表すために、ｍｕ−ｌａｗ圧伸スキームを指定する。Ｇ．７１１規格はまた、サンプルあたり１３ビットで量子化された音声をサンプルあたり８ビットで表すためにＡ−ｌａｗ圧伸方式を指定する。例示８ビットデータは音声電話法である。Ｇ．７１１仕様は、ラプラシアン確率密度関数（ｐｄｆ）を用いて、音声のような信号に対して最適化される。
【００３２】
他の圧伸スキームを使用することができることは当業者により理解されるであろう。さらに、他の量子化レートを使用することができることは、当業者により理解されるであろう。
【００３３】
一実施の形態において、図４に示すように、ｌｏｇ圧伸スキームの代わりにｍｕ−ｌａｗ圧伸スキーム２０がフロントエンドにおいて使用される。図４は、ｍｕ−ｌａｗ圧伸スキーム、すなわちｍｕ−Ｌｏｇ圧伸モジュール２０を用いた実施の形態のフロントエンドを示す。バーク振幅発生モジュール１２はｍｕ−Ｌｏｇ圧縮モジュール２０に接続される。ｍｕーＬｏｇ圧縮モジュール２０はＲＡＳＴＡフィルタリングモジュール１８に接続される。ＲＡＳＴＡフィルタリングモジュール１８はケプストラル変換モジュール１６に接続される。
【００３４】
重畳歪みを含むデジタル化された音声信号ｓ（ｎ）は、バーク振幅発生モジュール１２に入力する。バーク振幅発生モジュール１２がデジタル化されたＰＣＭ音声信号ｓ（ｎ）をｋ個のバーク振幅に変換した後、重畳歪みは、倍数的に増加する歪みとなる。ｍｕ−Ｌｏｇ圧伸モジュール２０はｋ個のバーク振幅に関してｍｕ−ｌｏｇ圧縮を実行する。ｍｕ−ｌｏｇ圧縮は倍数的に増加する歪みを加法的にする。Ｒａｓｔａフィルタリングモジュール１８は静止成分をフィルタリングし、それゆえ、重畳歪みは静止成分なので、重畳歪みを除去する。ケプストラル変換モジュール１６はｊ個の静的ケプストラル係数とｊ個の動的ケプストラル係数を、ＲＡＳＴＡフィルタリングされた出力から計算する。
【００３５】
他の実施の形態において、Ａ−ｌａｗ圧縮スキーム２１は図５に示すように、ｌｏｇ圧縮スキームの代わりにフロントエンドにおいて使用される。図５はＡ−ｌａｗ圧縮スキーム、すなわちＡ−Ｌｏｇ圧縮モジュール２１を用いた実施の形態のフロントエンドを示す。バーク振幅モジュール１２はＡ−Ｌｏｇ圧縮モジュール２１に接続される。Ａ−Ｌｏｇ圧縮モジュール２１はＲＡＳＴＡフィルタリングモジュール１８に接続される。ＲＡＳＴＡフィルタリングモジュール１８はケプストラル変換モジュール１６に接続される。
【００３６】
Ｍｕ−ｌｏｇ圧縮とＡ−ｌｏｇ圧縮は共に、不可逆の圧縮技術である。ｋ個のバーク振幅を圧縮するためにいかなる不可逆圧縮技術をも使用することができる。不可逆の圧縮は、ソースの圧縮と伸張がソースに同一でないときである。不可逆の圧縮は、損失のない圧縮よりもさらに有効である。何故なら、不可逆に圧縮されたモデルを伸張することは、損失のないモデルを伸張することよりも時間がかからないからである。さらに、不可逆圧縮ソフトウエアは損失のない圧縮ソフトウエアよりコストが安い。
【００３７】
Ｇ．７１１ｍｕ−ｌａｗ圧伸を採用する実施の形態は、バーク振幅を圧縮するためのｍｕｌａｗ＿ｃｏｍｐｒｅｓｓと呼ばれる関数と、バーク振幅を形成するためにフィルタ出力を伸張するためのｍｕｌａｗ＿ｅｘｐａｎｄと呼ばれる関数の２つの関数を有する。一つの実施の形態において、ｍｕ−Ｌｏｇ圧縮モジュール２０は以下の式を用いて圧縮を実施する。
【００３８】
Ｌｏｇ＿Ｂａｒｋ（ｉ）＝｛２５５−ｍｕｌａｗ＿ｃｏｍｐｒｅｓｓ［Ｂａｒｋ（ｉ）］｝＊Ｃ、但しＣは定数である。
【００３９】
Ｃの値は定点ＶＲ実施において利用可能な分解能をうまく利用するために調節可能である。
【００４０】
図６はＣ＝５０の場合のＬｏｇ１０（）関数とｍｕーＬｏｇ関数の定点実施のプロットを示す。図６は、低い振幅信号の場合、ｍｕ−Ｌｏｇ関数はＬｏｇ１０（）関数よりもさらに線形であるのに対し、高い振幅信号の場合、ｍｕ−Ｌｏｇ関数は対数であることを示す。従って、ｍｕ−Ｌｏｇ関数は、低振幅信号と高振幅信号を異なって取り扱うので、非均一な量子化器である。
【００４１】
いくつかの認識スキームにおいて、バックエンドは静的ケプストラルパラメータおよび動的ケプストラルパラメータに関してよりもバークチャネル振幅に関して動作する。’１７７出願および’７６０出願に記載された結合されたエンジンスキームにおいて、ＤＴＷエンジンは、タイムクラスタリング(time-clustering)および振幅量子化の後バークチャネル振幅に関して動作する。ＤＴＷエンジンはテンプレートマッチングに基づく。記憶されたテンプレートは、入力音声信号の特徴にマッチされる。
【００４２】
’１７７出願および’７６０出願で記載されたＤＴＷエンジンは、チャネル不一致条件に対してよりも背景不一致条件に対してより堅固である。図７は、チャネル不一致条件に対してＤＴＷエンジンを改良する実施の形態のフロントエンドを示す。図７はｍｕ−ｌａｗ圧縮およびｍｕ−ｌａｗ伸張、すなわちｍｕ−Ｌｏｇ圧縮モジュール２０およびｍｕ−ｌａｗ伸張モジュール２２を用いた実施の形態に従うフロントエンドを示す。バーク振幅モジュール１２はｍｕ−Ｌｏｇ圧縮モジュール２０に接続される。ｍｕ−Ｌｏｇ圧縮モジュール２０はＲＡＳＴＡフィルタリングモジュール１８に接続される。ＲＡＳＴＡフィルタリングモジュール１８はｍｕ−ｌａｗ伸張モジュール２２に接続される。ｍｕーＬｏｇ圧縮モジュール２０はｋ個のバーク振幅に関してＡ−ｌｏｇ圧縮を実行する。Ｒａｓｔａフィルタリングモジュール１８はｋ個のバーク振幅から静止成分をフィルタリングし、重畳歪み成分は静止なので、それにより重畳歪みを除去する。ｍｕ−ｌｏｇ伸張モジュール２２はＲＡＳＴＡフィルタリングされたバーク振幅のｍｕ−ｌｏｇ伸張を実行する。
【００４３】
一実施の形態において、Ｍｕ−ｌｏｇ伸張は以下の式を用いて実施される。
【００４４】
Ｂａｒｋ’（ｉ）＝ｍｕｌａｗ＿ｅｘｐａｎｄ｛２５５−［Ｒ（ｉ）＊Ｄ］｝、但しＤは定数である。Ｒ（ｉ）はＲＡＳＴＡモジュールの出力であり、およびＤ＝０．０２（又は１／Ｃ）。一実施の形態において、積［Ｒ（ｉ）＊Ｄ］は０乃至１２７のレンジ内にある。Ｍｕ−Ｌｏｇ伸張はＢａｒｋ’（ｉ）をバーク振幅レンジ内に入れ、チャネル不一致条件の悪影響はＲＡＳＴＡ処理により除去される。
【００４５】
図８は、チャネル不一致条件に対してＤＴＷエンジンを改良するための実施の形態を示す。図８はＡ−ｌａｗ圧縮およびＡ−ｌａｗ伸張、すなわちＡ−Ｌｏｇ圧縮モジュール２４およびＡ−ｌａｗ伸張モジュール２６を用いた実施の形態に従うフロントエンドを示す。バーク振幅モジュール１２は、Ａ−Ｌｏｇ圧縮モジュール２４に接続される。Ａ−Ｌｏｇ圧縮モジュール２４はＲＡＳＴＡフィルタリングモジュール１８に接続される。ＲＡＳＴＡフィルタリングモジュール１８はＡ−ｌａｗ伸張モジュール２６に接続される。Ａ−Ｌｏｇ圧縮モジュール２０はｋ個のバーク振幅に関してＡ−ｌｏｇ圧縮を実行する。Ｒａｓｔａフィルタリングモジュール１８はｋ個のバーク振幅から何らかの静止成分を除去し、重畳歪み成分は静止なので、それにより重畳歪みを除去する。Ａ−ｌｏｇ伸張モジュール２６はＲＡＳＴＡフィルタリングされた振幅のＡ−ｌｏｇ伸張を実行する。
【００４６】
Ｍｕ−ｌａｗおよびＡ−ｌａｗ圧縮および伸張は、音声セグメントを特徴づけるためにＶＲシステムのフロントエンドに使用できるだけでなく、一実施の形態において、それらはＶＲモデルの状態を圧縮および伸張するために使用される。一実施の形態において、ＶＲシステムはＨＭＭモデルの平均と分散を圧縮および伸張する。他の実施の形態において、ＶＲシステムはＤＴＷモデルのテンプレートを圧縮し、伸張する。
【００４７】
ＨＭＭ  ＶＲシステムにおいて、語彙ワードは、ＨＭＭ状態の系列により表される。各状態は、平均、分散、および語彙ワード内の他の状態への遷移確率のセットから構成される。ＤＴＷ  ＶＲシステムのような、ＨＭＭに基づかない他のＶＲシステムにおいて、語彙ワードは、訓練言語資料の特徴を抽出することから得られる平均および／または分散のセットにより表される。「訓練言語資料」は多数のユーザにより記録する語彙ワードの複数の発話から構成される。一実施の形態において、語彙ワードは平均のセットによって表される。他の実施の形態において、語彙ワードは平均と分散のセットにより表される。
【００４８】
図９は、一実施の形態に従って、テンプレートとも呼ばれるモデルを発生するために訓練プロセスの入力５０、訓練モジュール５２、および出力モデル５４のフローチャートを示す。訓練プロセスは、認識期間中に語彙外（ＯＯＶ）発話を表すためにガーベッジモデルを含む、ＶＲ語彙内のすべてのワードに対してすべての状態の計算成分を含む。認識される語彙ワードの複数の発話から構成される訓練語彙資料は多数のユーザを記録することにより作られる。訓練語彙資料は、訓練モジュール５２の出力、語彙ワードのための圧縮されたモデル、および語彙外発話５４を作るために訓練語彙資料を処理する訓練モジュール５２への入力５０である。訓練モジュール５２は訓練語彙資料からモデルを作り、これらのモデルを圧縮する。一実施の形態において、訓練モジュール５２は訓練語彙資料５０からモデルを作る特徴抽出モジュール（図示せず）とこれらのモデルを圧縮する圧縮モジュール（図示せず）から構成される。
【００４９】
一実施の形態において、訓練モジュール５２はＨＭＭモデルを作り、ＨＭＭモデルのＡ−ｌａｗ圧縮を実行する。Ａ−ｌａｗ圧縮は、同量の記憶空間すなわちメモリに対して圧縮スキームを使用しない場合よりもより多くのモデルの記憶を可能にする。他の実施の形態において、訓練モジュール５２はＤＴＷモデルを作り、ＤＴＷモデルのｍｕ−ｌａｗ圧縮を実行する。ｍｕ−ｌａｗ圧縮は、同量の記憶空間、すなわちメモリに対し圧縮スキームを使用しない場合よりもより多くのモデルの記憶を可能にする。従って、モデルが話者不特定であろうと話者特定であろうと、Ａ−ｌａｗおよびｍｕ−ｌａｗ圧縮はＶＲシステムのメモリ必要条件を低減する。さらに他の実施の形態において、訓練モジュールは、モデルを圧縮するために、Ａ−ｌａｗおよびｍｕ−ｌａｗ圧縮以外の他の不可逆圧縮技術を使用する。技術的に知られたいかなるモデルＶＲ技術もＨＭＭモデルおよびＤＴＷモデルの代わりに使用することができることは当業者により理解されるであろう。
【００５０】
図１０は一実施の形態に従うＶＲシステムを示す。特徴抽出モジュール６０はテスト発話ｓ（ｎ）から特徴を抽出する。特徴は、バックエンドモジュール、すなわちパターンマッチングモジュール６２に転送される。パターンマッチングモジュール６２はその特徴を、語彙ワードおよび語彙外発話５４のためのモデルとマッチさせる。一実施の形態において、パターンマッチングモジュール６２は、その特徴をＨＭＭモデルにマッチさせ、それにより認識仮説を形成するＨＭＭモジュールである。他の実施の形態において、パターンマッチングモジュール６２は特徴をＤＴＷモデルにマッチさせ、それにより認識仮説を形成するＤＴＷモジュールである。
【００５１】
図１１は、音声認識の期間に圧縮され訓練されたモデルの伸張を使用する実施の形態に従うＶＲシステムを示す。特徴抽出モジュール７０はテスト発話から特徴を抽出する。その特徴はバックエンドモジュール、すなわちパターンマッチングモジュール７２に転送される。パターンマッチングモジュール７２は、平均と分散に対して伸張モジュール７６により処理された語彙ワードおよび語彙外発話７４に対するモデルにその特徴をマッチさせる。ＶＲアプリケーション（図示せず）により指定された文法（図示せず）を用いて、パターンマッチングモジュール６２は伸張モジュール７６からモデルを得る。ＶＲアプリケーションは典型的には、ユーザがＶＲシステムを用いたタスクを遂行可能にするサービスロジックである。サービスロジックは、加入者装置上のプロセッサにより実行可能である。サービスロジックは、加入者装置内のユーザインターフェースモジュール（図示せず）の構成要素である。
【００５２】
文法は、語彙の少ないＶＲシステムにおいて、ワードモデルを用いて、語彙の多いＶＲシステムにおいて、ワード要素モデルを用いて表現語彙を指定する。典型的な文法は、７桁の電話番号、金額、名前のセットから都市の名前を含む。典型的な文法仕様は、入力音声信号に基づいて、自信のある認識判断を行えなかった場合の条件を表すために語彙外条件を含む。
【００５３】
文法は構文を指定する。構文は抽出した特徴にマッチしたワードモデルおよびワード要素モデルの順番を制限する。パターンマッチングモジュール７２は伸張モジュール７６から、伸張する必要のあるモデルを要求する。伸張モジュール７６は、パターンマッチングモジュール７２が要求する圧縮されたモデルを伸張する。一つの実施の形態において、伸張モジュール７６はＨＭＭモデルを伸張する。他の実施の形態において、伸張モジュールはＤＴＷモデルを伸張する。モデルがＡ−ｌａｗ圧縮を用いて圧縮されたなら、そのモデルは、Ａ−ｌａｗ伸張を用いて伸張される。モデルがｍｕ−ｌａｗ圧縮を用いて圧縮されたなら、そのモデルはｍｕ−ｌａｗ伸張を用いて伸張される。
【００５４】
一実施の形態において、パターンマッチングモジュール７２は、伸張されたＨＭＭモデルに特徴をマッチさせるＨＭＭモジュールであり、それにより認識仮説を形成する。他の実施の形態において、パターンマッチングモジュール７２は、伸張されたＤＴＷモデルに特徴をマッチさせるＤＴＷモジュールであり、それにより認識仮説を形成する。
【００５５】
情報および信号は、いろいろな異なる科学技術および技法を用いて表すことができることは当業者は理解するであろう。例えば、上述で参照したデータ、命令、コマンド、情報、信号、ビット、記号、およびチップは電圧、電流、電磁波、磁界、磁性粒子、光学界、光学粒子、またはそれらのいずれかの組合せにより表現可能である。
【００５６】
当業者はさらに種々の実例となる論理ブロック、モジュール、回路、およびアルゴリズムステップは、電子ハードウエア、コンピュータソフトウエアまたは両者の組合せとして実施してもよいことを理解するであろう。ハードウエアとソフトウエアの互換性を明瞭に説明するために、種々の実例となる部品、ブロック、モジュール、回路、およびステップは一般にそれらの機能の観点から上述した。そのような機能性がハードウエアとして実施されるかまたはソフトウエアとして実施されるかは、特定の応用および全体のシステムに課せられた設計制約に依存する。当業者は各特定のアプリケーションに対してさまざまな点で記載された機能性を実現できるかもしれないが、そのような実現の判断はこの発明の範囲を逸脱させると解釈されるべきでない。
【００５７】
例として、ここに開示した実施の形態に関連して記載した種々の実例となる論理ブロック、モジュール、およびマッピングは、一連のファームウエア命令を実行するプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）または他のプログラマブル論理装置、ディスクリートゲートまたはトランジスタロジック、例えばレジスタのようなディスクリートハードウエア部品、何らかの一般的なプログラマブルソフトウエアモジュールおよびプロセッサ、またはここに記載した機能を実行するように設計されたいずれかの組合せを用いて実施または実行することができる。バーク振幅発生１２、ＲＡＳＴＡフィルタリングモジュール１８、Ｍｕ−ｌｏｇ圧縮モジュール２０、Ａ−ｌｏｇ圧縮モジュール２１、Ｍｕ−ｌｏｇ伸張２２、Ａ−ｌｏｇ伸張２６、ケプストラル変換モジュール１６、訓練モジュール５２、パターンマッチングモジュール６２および伸張モジュール７６は有利にマイクロプロセッサにより実行できるが、別の方法では、バーク振幅発生１２、ＲＡＳＴＡフィルタリングモジュール１８、Ｍｕ−ｌｏｇ圧縮モジュール２０、Ａ−ｌｏｇ圧縮モジュール２１、Ｍｕ−ｌｏｇ伸張モジュール２２、Ａ−ｌｏｇ伸張モジュール２６、ケプストラル変換モジュール１６、訓練モジュール５２、パターンマッチングモジュール６２、および伸張モジュール７６はなんらかの従来のプロセッサ、コントローラ、マイクロコントローラまたはステートマシンにおいて実行することができる。モデル／テンプレートはＲＡＭメモリ、フラッシュメモリ、ＲＯＭメモリ、ＥＰＲＯＭメモリ、ＥＥＰＲＯＭメモリ、レジスタ、ハードディスク、脱着可能ディスク、ＣＤ−ＲＯＭ、または技術的に知られている何らかの他の形態の記憶媒体に存在することができる。メモリ（図示せず）は何らかの上述したプロセッサ（図示せず）に集積することができる。プロセッサ（図示せず）とメモリ（図示せず）はＡＳＩＣ（図示せず）に存在することができる。ＡＳＩＣは電話に存在することができる。
【００５８】
この発明の実施の形態の上述の記載は当業者がこの発明を製作または使用可能にするために提供される。これらの実施の形態に対する種々の変形例は当業者には容易に明白であり、ここに定義された包括的原理は発明力の使用なしに他の実施の形態に適用できる。従って、この発明は、ここに示される実施の形態に限定されることを意図したものではなく、ここに開示した原理および新規な特徴に一致する最も広い範囲が許容されるべきである。
【図面の簡単な説明】
【００５９】
【図１】図１はＶＲシステム内のＶＲフロントエンドを示す。
【図２】図２は音声セグメントのための隠れマルコフモデル（ＨＭＭ）の一例を示す。
【図３】図３は一実施の形態に従うＶＲシステムのＨＭＭモジュールのフロントエンドを示す。
【図４】図４は、ログ圧縮の代わりにmu-law圧伸スキームを有するフロントエンドを示す。
【図５】図５はログ圧縮の代わりにA-law圧伸スキームを有するフロントエンドを示す。
【図６】図６は、Ｃ＝５０の場合のＬｏｇ１０（）関数とmu-Log関数の固定点実施のプロットを示す。
【図７】図７は、mu-law圧縮とmu-law伸張を用いて一実施の形態に従うフロントエンドを示す。
【図８】図８はA-law圧縮とA-law伸張を用いて一実施の形態に従うフロントエンドを示す。
【図９】図９は一実施の形態に従ってモデルを発生するために訓練プロセスの入力、処理、および出力のブロック図を示す。
【図１０】図１０は一実施の形態に従うＶＲシステムを示す。
【図１１】図１１は音声認識の期間中に圧縮訓練されたモデルの伸張を用いた一実施の形態に従うＶＲシステムを示す。
【図１】
2004523788.tif 000005
【図２】
2004523788.tif 000006
【図３】
2004523788.tif 000007
【図４】
2004523788.tif 000008
【図５】
2004523788.tif 000009
【図６】
2004523788.tif 000010
【図７】
2004523788.tif 000011
【図８】
2004523788.tif 000012
【図９】
2004523788.tif 000013
【図１０】
2004523788.tif 000014
【図１１】
2004523788.tif 000015
【国際公開パンフレット】
2004523788.tif 000016
2004523788.tif 000017
2004523788.tif 000018
2004523788.tif 000019
2004523788.tif 000020
2004523788.tif 000021
2004523788.tif 000022
2004523788.tif 000023
2004523788.tif 000024
2004523788.tif 000025
2004523788.tif 000026
2004523788.tif 000027
2004523788.tif 000028
2004523788.tif 000029
2004523788.tif 000030
2004523788.tif 000031
2004523788.tif 000032
2004523788.tif 000033
2004523788.tif 000034
2004523788.tif 000035
2004523788.tif 000036
2004523788.tif 000037
2004523788.tif 000038
2004523788.tif 000039
2004523788.tif 000040
2004523788.tif 000041
2004523788.tif 000042
2004523788.tif 000043
2004523788.tif 000044
2004523788.tif 000045
【国際公開パンフレット（コレクトバージョン）】
2004523788.tif 000046
【国際調査報告】
2004523788.tif 000047
2004523788.tif 000048
2004523788.tif 000049