(57)【要約】【課題】統計的スムージングを使用した統計的言語モデリングの方法を提供すること。【解決手段】統計的言語モデリングのための方法であって、所定の順序で所定の数のワードを提供するステップと、所定の数の一連のワードを含むトレーニングコーパスを提供するステップであって、該一連のワードの各々は、少なくとも１つの追加ワードが後に続く該所定の順序で提供された所定の数のワードからなる、ステップと、ワード候補を提供し、各ワード候補について、該トレーニングコーパスに基づいて、該ワード候補が該提供された所定の数のワードの後に続く確率を計算するステップと、該計算された確率が所定の閾値を超える少なくとも１つのワード候補を決定するステップとを包含する。【選択図】図１
2008046633.tif 000002
【特許請求の範囲】
【請求項１】
統計的言語モデリングのための方法であって、
所定の順序で所定の数のワードを提供するステップと、
所定の数の一連のワードを含むトレーニングコーパスを提供するステップであって、該一連のワードの各々は、少なくとも１つの追加ワードが後に続く該所定の順序で提供された所定の数のワードからなる、ステップと、
ワード候補を提供し、各ワード候補について、該トレーニングコーパスに基づいて、該ワード候補が該提供された所定の数のワードの後に続く確率を計算するステップと、
該計算された確率が所定の閾値を超える少なくとも１つのワード候補を決定するステップと
を包含し、
該ワード候補の該確率が、該トレーニングコーパスの該一連のワードについて計算された、スムージングされた最大の可能性の確率であって、該トレーニングコーパスの該一連のワードのすべてについて、該トレーニングコーパスの一連のワードの該所定の数の逆数値以下の所定の正の実数以上である確率に基づいて計算されることを特徴とする、方法。
【請求項２】
前記トレーニングコーパスの前記一連のワードの観察された頻度ｃｊのうちのいずれもが、該トレーニングコーパスの該所定の数の一連のワードのうちのすべての全体的な頻度
【数１】
2008046633.tif 000033
によって乗算された一連のワードの該所定の数の逆数値以下である前記所定の正の実数を下回らない場合には、前記ワード候補が後に続く前記所定の順序で提供された所定の数のワードを含むかまたは該ワード候補が後に続く該所定の順序で提供された所定の数のワードからなる一連のワードの各々についての前記最大の可能性の確率に基づいて、該ワード候補の各々の確率が計算される、請求項１に記載の方法。
【請求項３】
少なくとも１つのｊについてｃｊ＜ｍＳである場合であって、ｃｊは、前記トレーニングコーパスのＮ個連続するワードのうちのｊ番目のワードの観察された頻度を示し、Ｓは、該トレーニングコーパスのすべての観察された一連のワードの全体的な頻度
【数２】
2008046633.tif 000034
であり、ｍは、該一連のワードの所定の数Ｎの逆数値以下の所定の正の実数である、場合において、前記ワード候補の確率ｐｊの計算は、
ａ）
【数３】
2008046633.tif 000035
によって実数ａを計算するステップと、
ｂ）スムージングされたカウント
【数４】
2008046633.tif 000036
を計算するステップと、
ｃ）ｐｊ＝ｃｊ’／Ｓによって、スムージングされた確率ｐｊを計算するステップと、
ｄ）ｐｊ≧ｍである場合に、ｐｊから該ワード候補の各々の確率を決定するステップと
を含む、請求項２に記載の方法。
【請求項４】
前記ステップｃ）において計算された少なくとも１つのｐｊは、前記所定の正の実数ｍよりも小さく、ｍは、一連のワードの所定の数Ｎの逆数値以下である場合には、各ワード候補の前記確率は、前記最大の可能性の確率ｐｊ（０）＝ｃｊ／Ｓで始まり、ｐｊ（ｎ）＝＜（ｐｊ（ｎ−１））＞によってさらに定義される帰納的な一連の確率ｐｊ（ｎ）に従って、請求項３の前記ステップａ）〜ｃ）の反復によって決定され、ここで＜＞は、スムージングされたカウントｃｊ’の反復計算を示す、請求項３に記載の方法。
【請求項５】
前記トレーニングコーパスに含まれる前記一連のワードの各々は、バイグラムおよび／またはトライグラムおよび／またはフォーグラムからなる、請求項１〜４のいずれか１項に記載の方法。
【請求項６】
前記ワード候補の各々の前記確率は、ｎグラムおよび（ｎ−１）グラムに基づいて計算される、請求項１〜５のいずれか１項に記載の方法。
【請求項７】
音声認識のための方法であって、
ｎグラムを含むデータベースを提供することと、
話されたワードを含む言葉の発話を検出およびデジタル化することと、
請求項１〜６のいずれか１項に記載の統計的言語モデリングのための方法によって決定された前記少なくとも１つのワード候補として、該データベースの該ｎグラムに基づいて、該話されたワードのうちの少なくとも１つを認識することであって、該話されたワードのうちの該１つについて計算された確率は所定の閾値を超える、ことと
を包含する、方法。
【請求項８】
請求項１〜６のいずれか１項に記載の前記統計的言語モデリングのための方法によって決定されたワード候補のＮ個の最上位のリストからなる認識結果を生成することをさらに含み、各ワード候補には、所定の数の話されてすでに認識されたワードの後に該ワード候補が続く確率を表す確率スコアを表すスコアが割当てられる、請求項７に記載の音声認識のための方法。
【請求項９】
一連のワードを機械翻訳するための方法であって、
ｎグラムを含むデータベースを提供することと、
該一連のワードのｎ個の先立つ翻訳されたワードに基づいて、特に、該一連のワードのうちの先立つ１つまたは２つのワードに基づいて、該一連のワードのうちのｎ＋１番目のワードを、請求項１〜６のいずれか１項に記載の前記統計的言語モデリングのための方法によって決定された前記少なくとも１つのワード候補に翻訳することであって、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、ことと
を包含する、一連のワードを機械翻訳する方法。
【請求項１０】
テキストを音声に変換する処理のための方法であって、
ｎグラムを含むデータベースを提供することと、
タイピングまたは手書きされたテキストであって、ワードを含んでいるテキストを検出することと、
請求項１〜６のいずれか１項に記載の前記統計的言語モデリングのための方法によって決定された前記少なくとも１つのワード候補として、該データベースの該ｎグラムに基づいて、該検出されたタイピングまたは手書きされたテキストの該ワードのうちの少なくとも１つを認識することであって、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、ことと、
該認識された少なくとも１つのワードに基づいて、合成音声信号を出力することと
を包含する、方法。
【請求項１１】
コンピュータプログラム製品であって、請求項１〜１０のいずれか１項に記載の方法の前記ステップを実行するためのコンピュータ実行可能な命令を有する１つ以上のコンピュータ可読媒体を備える、コンピュータプログラム製品。
【請求項１２】
音声認識のためのシステムであって、
ｎグラムとワード候補とを含むデータベースと、
話されたワードを含む少なくとも１つの音声信号を検出するように構成されたインタフェースと、
該検出された少なくとも１つの音声信号をデジタル化するように構成された処理手段と、
認識手段とを備え、
該認識手段は、各ｎグラムについてのスムージングされた最大の可能性の確率に基づいて、所定の数の該話されたワードの後に該ワード候補が続く可能性を、複数のワード候補について計算するように構成されており、該スムージングされた最大の可能性の確率は、該データベースに含まれるｎグラムの数の逆数値以下である所定の正の実数以上であり、
該認識手段は、少なくとも１つのワード候補として、該話されたワードのうちの少なくとも１つを認識するように構成されており、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、音声認識のためのシステム。
【請求項１３】
前記認識手段は、前記話されたワードのうちの前記少なくとも１つとして認識されたワード候補のＮ個の最上位のリストを生成し、該Ｎ個の最上位のリストの該ワード候補の各々にスコアを割当てるように構成されており、該スコアは、該認識手段によって計算された該ワード候補の確率を表す、請求項１２に記載の音声認識のためのシステム。
【請求項１４】
車両ナビゲーションシステムであって、請求項１２または１３に記載の音声認識のためのシステムを含む、車両ナビゲーションシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、統計的スムージングを使用した統計的言語モデリングの方法に関する。本発明は、特に、スムージングされた確率の計算、および特に、観察されたイベントの確率のディスカウンティングによる、統計的言語モデリングに基づく音声認識の方法に関する。
【背景技術】
【０００２】
統計的言語モデリングは、自然言語の規則性を捉えようとする試みであり、したがって、人間とコンピュータとの相互作用についての自然言語システムの本質的な構成要素である。統計的言語モデルは、自然言語の分布を可能な限り正確に推定することを目指す。統計的言語モデルは、たとえば音声認識、機械翻訳、テキストを音声に変換するシステム、およびスペリング校正などの、種々の自然言語アプリケーションにおいて中心的な役割を果たす。
【０００３】
音声認識は、統計的言語モデリングにとって特に重要なアプリケーションと考えられ得る。音声認識システム、すなわち音響信号を一連のワードまたはストリングに変換する装置は、最近ますます普及している。ここ数年で、音声認識技術における劇的な改善によって、高性能の音声分析、認識アルゴリズム、および音声ダイアログシステムが一般に利用可能になった。現今の音声入力機能は、音声ダイアリング、コールルーティング、書類作成などを含む。音声ダイアログシステムは、たとえば、自動車の中で使用され得ることによって、ユーザが、携帯電話、カーラジオ、ナビゲーションシステム、および／またはエアコンディショナーなどの異なるデバイスを制御することを可能にする。
【０００４】
音声認識の言葉の発話の間に、単発的な複数のワードまたは連続的な音声が、たとえばマイクロホンまたは電話によってキャプチャされ、アナログ電気信号に変換され、次にアナログ電子信号はデジタル化される。デジタル信号は、通常は次にスペクトル分析を受ける。一般的に６．６ｋＨｚ〜２０ｋＨｚのレートでサンプリングされる音声波形の表現は、短期パワースペクトルから導出され、一般的に特徴パラメータと呼ばれる値を含む一連の特徴づけるベクトルを表す。特徴パラメータの値は、分析される波形の部分がたとえばボキャブラリーリストにおける特定のエントリ（すなわちワード）に対応する確率を推定するために使用される。
【０００５】
言語的な構造および理論ならびに意味論的な演繹的知識を統計的言語モデリングに組み込むいくつかの試みがなされてきており、文脈にわたる統計的情報を利用しようとするアプローチ（たとえば集計Ｍａｒｋｏｖモデルおよび中立確率的言語モデル）が現在利用可能であるが、最も人気のある非常に効率的なｎグラム言語モデリングは、言語の特有の性質に関係していない。
【０００６】
事実、ｎグラムモデリングは、すでに見られた１つ以上のワードとの関係を指定する予測的コンテキストの個別の列挙（ｄｉｓｃｒｅｔｅ  ｅｎｕｍｅｒａｔｉｏｎ）に依存し、そこでは、ワードは、深い構造および背後のある考えのない任意の記号として取られる。各ワードは、先立つｎ−１個のワードから予測される。多くの可能なｎグラムは、任意の妥当なトレーニングコーパスの中には見えず、スパースな（ｓｐａｒｓｅ）データの問題を生じる、ということが留意されるべきである。
【０００７】
通常は、センテンスｐの確率は、センテンスのｉ番目のワードＷｉについての条件付き確率の積
【０００８】
【数５】
2008046633.tif 000003
によって計算され、ここでｈｉ＝（ｗｉ，．．，Ｗｉ−１）は、履歴（ｈｉｓｔｏｒｙ）と呼ばれる。ｎグラムは、Ｍａｒｋｏｖアプローチによって、すなわち、ワードはそれに先立つ局所的な文脈（すなわち最後の数個の先立つワードｐ（ｗｉ｜ｈｉ）＝ｐ（ｗｉ｜ｗｉ−ｎ＋１、．．、ｗｉ−１））によって影響されると仮定することによって、確率問題の次元を低減する。一般的な選択は、比較的大きなトレーニングコーパス（たとえば数百万ワード）についてはトライグラム（ｎ＝３）であり、より小さなトレーニングコーパスについてはバイグラム（ｎ＝２）である。
【０００９】
しかし、大きなコーパスについてさえも、バイグラムおよびトライグラムの確率は、スパースな推定の問題を表す。なぜなら、大多数のワードの組み合わせは、非常にめったにしか起こらないからである。したがって、直接の（ｓｔｒａｉｇｈｔ−ｆｏｒｗａｒｄ）最大の可能性を推定するアプローチは、好ましくない。代わりに、クラスにクラスタ化されたワードについてのパラメータを推定するクラスベースのｎグラムモデルが提案されている。さらに、データスパースネス（ｄａｔａ  ｓｐａｒｓｅｎｅｓｓ）の問題を軽減するために、種々のスムージング技術が開発されており、該技術は、見られたイベント（ｎグラム）からいくつかの確率測定値を取り、それを見られていないイベントに再分配（ｒｅｄｉｓｔｒｉｂｕｔｅ）する、いわゆるディスカウンティング方法を含む。
【００１０】
人気のあるスムージング技術は、所与の確率分布のうちのどのくらいが、以前に見られなかったイベントを説明するために「提供」される（ｈｅｌｄ  ｏｕｔ）べきかを推定するためのＧｏｏｄ−Ｔｕｒｉｎｇ  Ｅｓｔｉｍａｔｏｒに基づいている。しかし実際には、Ｇｏｏｄ−Ｔｕｒｉｎｇスムージング方法は、統計的言語モデリングの問題に特徴的であるように、特に小さな量の観察されたデータについて、数の不安定および反直観的な確率をもたらすこともある。トレーニングデータの量に依存して、ｎグラム確率が使用され得るか、または（ｎ−１）グラム確率に対するバックオフ（ｂａｃｋ−ｏｆｆ）（Ｋａｔｚのバッキングオフ）（Ｋａｔｚ’Ｂａｃｋｉｎｇ-Ｏｆｆ）が好ましくあり得る。
【００１１】
他の一般的なスムージング方法によると、各観察されたｎグラムの確率は、定数を減ずること（絶対的ディスカウンティング）、またはもともとのカウントに比例してディスカウンティングすること（一次ディスカウンティング）によって、低減される。両方のアプローチにおいて、ディスカウンティング方法に与えられた堅実な（ｓｏｕｎｄ）数学的根拠なしに、最初に任意のパラメータが指定されなければならない。そのうえに、一次ディスカウンティングは、大きなカウントを有する見られたイベントの確率を過小評価する強い傾向を示し、一方、絶対的ディスカウンティングは、小さなカウントを有する見られたイベントの確率を正確に決定することができない。
【００１２】
従来の方法においては、場合により非常に小さな数が処理されなければならず、そのことは、不正確な計算（たとえば丸め誤差）に帰結し得るのみならず、計算時間を延長し得る、ということも留意されるべきである。
【発明の開示】
【発明が解決しようとする課題】
【００１３】
最先端技術の上述の欠点を考慮すると、統計的言語モデリングのための、および特にロバストな統計的スムージングを使用した音声認識のための、改良された方法に対するニーズがある。
【課題を解決するための手段】
【００１４】
（本発明の説明）
上述の問題は、特に項目１に従って（特に音声認識に適用可能な）統計的言語モデリングのための方法によって、解決されるかまたは少なくとも軽減され、該方法は、
所定の順序で所定の数のワードを提供するステップと、
所定の数の一連のワードを含むトレーニングコーパスを提供するステップであって、該一連のワードの各々は、少なくとも１つの追加ワードが後に続く該所定の順序で提供された所定の数のワードからなる、ステップと、
ワード候補を提供し、各ワード候補について、該トレーニングコーパスに基づいて、該ワード候補が該提供された所定の数のワードの後に続く確率を計算するステップと、
該計算された確率が所定の閾値を超える少なくとも１つのワード候補を決定するステップと
を包含し、
該ワード候補の該確率が、該トレーニングコーパスの該一連のワードについて計算された、スムージングされた（ｓｍｏｏｔｈｅｄ）最大の可能性の確率であって、該トレーニングコーパスの該一連のワードのすべてについて、該トレーニングコーパスの一連のワードの該所定の数の逆数値以下の所定の正の実数以上である確率に基づいて計算される。
【００１５】
所定の数のワードは、たとえばテキストまたは音声信号として提供される。最も単純な場合には、所定の順序のワードの所定の数は、１である。本明細書において、所定の順序のワードならびに一連のワードは、センテンスとも呼ばれる。ワードは、通常は音素を含む言語的単位として理解される。統計的言語モデリングは、言語のワードおよびセンテンスの確率分布を割当てることを指す。
【００１６】
トレーニングコーパスの一連のワードは、ｎグラムとも呼ばれ、ｎはセンテンスのワード数を示す。トレーニングコーパスは、たとえばサフィックスツリー（ｓｕｆｆｉｘ  ｔｒｅｅ）または異なるツリー構造として効率的なデータ構造に格納されるｎグラム（たとえばバイグラムおよび／またはトライグラムおよび／またはフォーグラム）を含み得る。一連のワードは、特定の頻度（カウント）でトレーニングコーパスの中に生じる。
【００１７】
所定の閾値を上回る確率を有する少なくとも１つのワード候補が決定されることによって、決定されたワード候補によって提供された所定の数のワードで始まる一連のワードを補う。所定の閾値は、ゼロと１との間の所定の実数であり得るか、またはトレーニングコーパスの一連のワードについて計算された平均確率値に対する所定の差によって与えられる相対的閾値であり得るか、または計算されたよりも低い確率値のうちの１つなどであり得る。
【００１８】
本発明によると、ワード候補の各々の確率は、トレーニングコーパスの一連のワードのスムージングされた可能性の確率に基づいて推定される（下記も参照）。ここで、スムージングされた可能性の確率は、トレーニングコーパスの一連のワードの所定の数の逆数値以下である所定の正の実数を下回らないことを保証する態様で計算される。特に、ワード候補の各々の確率は、ワード候補が後に続く提供された数のワードを含むかまたはワード候補が後に続く提供された数のワードからなるトレーニングコーパスの一連のワードのスムージングされた可能性の確率と等しいように決定され得るか、または何らかの係数によってスケールされたこのスムージングされた可能性の確率として決定され得る。
【００１９】
（計算手順の安定性に関して）ロバストで、信頼できる、統計的言語モデリングを可能にする、効率的なディスカウンティングが達成される。特に、本発明の方法は、統計的言語モデリングおよび音声認識のスパースなデータの問題を軽減するので、比較的小さなトレーニングコーパスに適切である。
【００２０】
本明細書中に開示される方法の実施形態に従って、上記トレーニングコーパスの上記一連のワードの観察された頻度（カウント）ｃｊのうちのいずれもが、該トレーニングコーパスの該所定の数の一連のワードのうちのすべての全体的な頻度
【００２１】
【数６】
2008046633.tif 000004
によって乗算された一連のワードの該所定の数の逆数値以下である上記所定の正の実数ｍを下回らない場合、すなわち、
【００２２】
【数７】
2008046633.tif 000005
である場合には、上記ワード候補が後に続く上記所定の順序で提供された所定の数のワードを含むかまたは該ワード候補が後に続く該所定の順序で提供された所定の数のワードからなる一連のワードの各々についての上記最大の可能性の確率（最大の可能性の推定値）（すなわちｃｊ／Ｓ）に基づいて、該ワード候補の各々の確率が計算される。この場合には、スムージングは必要ではなく、本方法によって得られる結果の信頼性を低下させることなく、コンピュータリソースが節約され得る。
【００２３】
さらに、少なくとも１つのｊについてｃｊ＜ｍＳである場合であって、ｃｊは、上記トレーニングコーパスのＮ個連続するワードのうちのｊ番目のワード（すなわちイベントｅｊ）の観察された頻度を示し、Ｓは、該トレーニングコーパスのすべての観察された一連のワードの全体的な頻度
【００２４】
【数８】
2008046633.tif 000006
であり、ｍは、該一連のワードの所定の数Ｎの逆数値以下の所定の正の実数である、場合において、上記ワード候補の確率ｐｊの計算は、
ａ）
【００２５】
【数９】
2008046633.tif 000007
によって実数ａを計算するステップと、
ｂ）スムージングされたカウント
【００２６】
【数１０】
2008046633.tif 000008
を計算するステップと、
ｃ）ｐｊ＝ｃｊ’／Ｓによって、スムージングされた確率ｐｊを計算するステップと、
ｄ）ｐｊ≧ｍである場合に、ｐｊから該ワード候補の各々の確率を決定するステップと
を含み得る。
【００２７】
説明されたアルゴリズムは、本発明者によって実行された実験において信頼性がありロバストであることが証明された。ワード候補の各々の確率は、ｐｊとして取られ得る。しかし、言語モデルに重みを追加するために、定数ａによってｐｊを累乗すること（すなわちｐｊａ）が好ましくあり得、ここでａは正の実数である。
【００２８】
上記ステップｃ）において計算された少なくとも１つのｐｊが上記所定の正の実数ｍよりも小さい場合であって、ｍは、トレーニングコーパスの一連のワードの所定の数Ｎの逆数値以下である、場合には、各ワード候補の上記確率は、上記最大の可能性の確率ｐｊ（０）＝ｃｊ／Ｓで始まり、ｐｊ（ｎ）＝＜（ｐｊ（ｎ−１））＞によってさらに定義される帰納的な一連の確率ｐｊ（ｎ）に従って、上記ステップａ）〜ｃ）の反復によって有利に決定され得、ここで＜＞は、スムージングされ反復して計算されたカウントｃｊ’によるｐｊ（ｎ）の反復計算を示す。このことは、スムージングされたカウント
【００２９】
【数１１】
2008046633.tif 000009
（ｊ＝１、．．、Ｎ）の計算が、
【００３０】
【数１２】
2008046633.tif 000010
に依存した
【００３１】
【数１３】
2008046633.tif 000011
と、
【００３２】
【数１４】
2008046633.tif 000012
に依存した
【００３３】
【数１５】
2008046633.tif 000013
とによって実行されることを意味する。この反復手順は、速い収束を示し、
【００３４】
【数１６】
2008046633.tif 000014
を保証する。
【００３５】
本明細書中に開示される方法の例に従うと、ワード候補の各々の確率は、ｎグラムおよび（ｎ−１）グラムに基づいて計算される。すなわち、種々のスムージング補間法技術に従って、ｐｊ［ｎ−ｇｒａｍ］＝λｃｊ［ｎ−ｇｒａｍ］／Ｓ［ｎ−ｇｒａｍ］＋（１−λ）ｐｊ［（ｎ−１）−ｇｒａｍ］（ここで０≦λ≦１であり、ｐｊは確率を示す）に従った標準的なバッキングオフまたは補間法が選択され得る（たとえばＳｔａｎｌｅｙ  Ｆ．ＣＨｅｎおよびＪｏｓｈｕａ  Ｔ．Ｇｏｏｄｍａｎによる「Ａｎ  Ｅｍｐｉｒｉｃａｌ  Ｓｔｕｄｙ  ｏｆ  Ｓｍｏｏｔｈｉｎｇ  Ｔｅｃｈｎｉｑｕｅｓ  ｆｏｒ  Ｌａｎｇｕａｇｅ  Ｍｏｄｅｌｉｎｇ」Ｔｅｃｈｎｉｃａｌ  Ｒｅｐｏｒｔ  ＴＲ−１０−９８，Ｃｏｍｐｕｔｅｒ  Ｓｃｉｅｎｃｅ  Ｇｒｏｕｐ，Ｈａｒｖａｒｄ  Ｕｎｉｖｅｒｓｉｔｙ，１９９８年を参照のこと）。特に、Ｋｎｅｓｅｒ−Ｎｅｙアルゴリズムが使用され得る。そのような技術は、本発明の方法の信頼性および全体的性能をさらに改善し得る。
【００３６】
本発明は、特に、音声認識のための方法を提供し、該方法は、
ｎグラムを含むデータベースを提供するステップと、
話されたワードを含む言葉の発話を検出およびデジタル化するステップと、
該データベースの該ｎグラムに基づいて、および上述の統計的言語モデリングのための方法の実施形態のうちの１つによって、該話されたワードのうちの少なくとも１つを認識するステップとを含む。
【００３７】
それによって、信頼性のある音声認識が利用可能になり得る。音声認識のこの方法に従うと、１つ以上の認識された先立つワードを根拠に、話されたワードのうちの少なくとも１つが認識され、該話されたワードのうちの少なくとも１つは、該少なくとも１つのワード候補と同一であり、該少なくとも１つのワード候補について計算された確率は、統計的言語モデリングのための本明細書中に開示される方法の一例に従って決定された所定の閾値を超える。この閾値は、上述の所定の正の実数ｍとは異なることが留意されるべきである。データベースのｎグラムは、トレーニングコーパスおよび（デジタル化された）話されたワードを表し、該ワードは、項目１の統計的言語モデリングのための方法の上記所定の順番の提供された所定の数のワードである。
【００３８】
音声認識のための方法は、統計的言語モデリングのための本明細書中に開示される方法の一例に従った統計的言語モデリングのための方法によって決定されたワード候補のＮ個の最上位のリストを認識結果として生成することをさらに含み得、各ワード候補には、所定の数の話されてすでに認識されたワードの後に該ワード候補が続く確率を表すスコアが割当てられる。
【００３９】
この実施形態によると、たとえば、トレーニングコーパスの一部でありかつデータベースに格納されているトライグラムの２ワードは、すでに認識されたとされ得る。認識されるべき音声信号は、まだ認識されていない第３のワードを含み得る。ワード候補について、検出された音声信号の提供されてすでに認識された２ワードの後にそれぞれのワード候補が続く確率が、トレーニングコーパスに基づいて計算され、計算された確率が所定の閾値を超えるワード候補が決定される。
【００４０】
各ワード候補の確率は、各ｎグラムについてのスムージングされた最大の可能性の確率に基づいて計算され、構成によるスムージングされた最大の可能性の確率は、データベースに格納されたｎグラムの数の逆数値以下である所定の正の実数以上である。
【００４１】
最上位Ｎのリストは、決定された確率に従ってランク付けされた一連のワード候補からなるように生成される。そのようなＮリストを提供することは、たとえば、認識結果に基づいて合成音声信号を出力する音声ダイアログシステムにおいて有利である。したがって、認識結果は、音声ダイアログシステムのユーザによって認められるかまたは却下され得る。認識結果の却下の場合には、生成された最上位Ｎのリストの次のエントリ（たとえば、最高の可能性値を有する候補ワードが却下された場合には、次に高い可能性値を有するワード候補）が、ユーザに提供され得る。
【００４２】
音声認識の他に、機械翻訳およびテキストを音声に変換する方法は、統計的言語モデリングのための方法の一例を有利に利用し得る。したがって、一連のワードの機械翻訳のための方法が提供され、該方法は、
ｎグラムを含むデータベースを提供することと、
本明細書中に開示されるような統計的言語モデリングのための方法の一例によって、該一連のワードのｎ個の先立つすでに翻訳されたワードに基づいて、特に、該一連のワードのうちの先立つ１つまたは２つのワードに基づいて、該一連のワードのうちのｎ＋１番目のワードを、翻訳することとを含む。すなわち、統計的言語モデリングのための方法の一例によって決定された少なくとも１つのワード候補が、翻訳として選択される。翻訳されるべきワードは、タイピングまたは手書きされたテキストとして、または音響音声信号の形態で提供され得る。
【００４３】
さらに、テキストを音声に変換する処理のための方法が提供され、該方法は、
ｎグラムを含むデータベースを提供することと、
タイピングまたは手書きされたテキストであって、ワードを含んでいるテキストを検出することと、
統計的言語モデリングのための方法の上述の例のうちの１つに従った上記統計的言語モデリングのための方法によって決定された上記少なくとも１つのワード候補として、該データベースの該ｎグラムに基づいて、該検出されたタイピングまたは手書きされたテキストの該ワードのうちの少なくとも１つ（特に１つ以上のすでに認識されたワードの後に続くワード）を認識することであって、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、ことと、
該認識された少なくとも１つのワード（すなわち、計算された確率が所定の閾値を超える、決定された少なくとも１つのワード候補）に基づいて、合成音声信号を出力することとを含む。
【００４４】
機械翻訳およびテキストを音声に変換する処理のための上述の方法において、データベースのｎグラムは、トレーニングコーパスを表し、ｎ個のすでに翻訳されたかまたはすでに認識されたワードは、それぞれ、項目１に記載の統計的言語モデリングのための方法の上記所定の順序の提供された所定の数のワードを表す。
【００４５】
音声認識のための方法の文脈において説明された、最上位Ｎのリストの生成はまた、機械翻訳のための方法、またはテキストを音声に変換する処理のための方法において、それぞれ実行され得る。
【００４６】
本発明はまた、上述の方法のうちのいずれか１つの一例の上記ステップを実行するためのコンピュータ実行可能な命令を有する１つ以上のコンピュータ可読媒体を備える、コンピュータプログラム製品を提供する。
【００４７】
さらに、本発明は、音声認識のためのシステムを提供し、該システムは、
ｎグラムを含むデータベースと、
話されたワードを含む少なくとも１つの音声信号を検出するように構成されたインタフェースと、
該検出された少なくとも１つの音声信号をデジタル化するように構成された処理手段と、
認識手段とを備え、
該認識手段は、各ｎグラムについてのスムージングされた最大の可能性の確率に基づいて、所定の数の該話されたワード（特に、該話されたワードのうちの所定の数のすでに認識されたワード）の後に該ワード候補が続く可能性を、複数のワード候補について計算するように構成されており、該スムージングされた最大の可能性の確率は、該データベースに含まれるｎグラムの数の逆数値以下である所定の正の実数以上であり、
該認識手段は、少なくとも１つのワード候補として、該話されたワードのうちの少なくとも１つを認識するように構成されており、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える。
【００４８】
デジタル信号は、処理手段によって実行される次のスペクトル分析を受ける。音声波形の表現は、６．６ｋＨｚ〜２０ｋＨｚのレートでサンプリングされ得、短期パワースペクトルから導出され得、一般的に特徴パラメータと呼ばれる値を含む一連の特徴づけるベクトルを表し得る。特徴パラメータの値は、当該技術分野において公知のような音声信号の分析において使用され得る。
【００４９】
認識手段は、話されたワードのうちの少なくとも１つとして認識されたワード候補の最上位Ｎのリストを生成し、最上位Ｎのリストのワード候補の各々に対してスコアを割当てるように、さらに構成され得、スコアは、認識手段によって計算されたワード候補の確率を表し得る。
【００５０】
特に、認識手段は、ｎグラムおよび（ｎ−１）グラムの両方に基づいて、ワード候補の各々の確率ｐｊを計算するように構成され得る（上記も参照）。これらのｎグラムコーパスの観察された頻度ｃｊのいずれもが、データベースＳに格納されたすべてのｎグラムの全体的な頻度によって乗算されたこれらのｎグラムの所定の数の逆数値以下である所定の正の実数ｍを下回らない場合には、認識手段はまた、話されたワードのうちの１つ以上のすでに認識されたワードを含む各ｎグラムについて、最大の可能性の確率（ｃｊ／Ｓ）に基づいてこれらの確率を計算するように構成され得る。一方、話されたワードのうちの１つ以上のすでに認識されたワードを含むｎグラムの少なくとも１つについて、ｃｊ＜ｍＳである場合には、認識手段は、上記のステップａ）〜ｃ）を計算するように構成され得る。ｐｊ≧ｍ∀ｊを達成するために、認識手段によってステップａ）〜ｃ）の反復が実行され得る。
【００５１】
音声認識のための本明細書中に開示される方法の例のインプリメンテーションは、限られたコンピュータリソースを欠点として持つことが周知である組み込み型システムにとって特に有用である。音声認識システムは、ユーザが手作業の入力によって悩まされるべきではない状況において、音声入力によるデバイスの操作にとって特に有利である。このことは、たとえば、電子ルート案内によって車両の運転者をサポートするナビゲーション支援の状況における場合である。運転者が音声入力によって車両ナビゲーションシステムを操作し得ることが望ましい。したがって、上述の例のうちの１つによる音声認識のためのシステムを含む車両ナビゲーションシステムが提供される。
【００５２】
本発明の追加の特徴および利点は、図面を参照して説明される。説明において、本発明の好ましい実施形態を図示することを意図された単一の添付の図面に対して参照がなされる。そのような実施形態は、添付の特許請求の範囲によって定義される本発明の完全な範囲を表すものではないことが理解される。
【００５３】
本発明はさらに、以下の手段を提供する。
【００５４】
（項目１）
統計的言語モデリングのための方法であって、
所定の順序で所定の数のワードを提供するステップと、
所定の数の一連のワードを含むトレーニングコーパスを提供するステップであって、該一連のワードの各々は、少なくとも１つの追加ワードが後に続く該所定の順序で提供された所定の数のワードからなる、ステップと、
ワード候補を提供し、各ワード候補について、該トレーニングコーパスに基づいて、該ワード候補が該提供された所定の数のワードの後に続く確率を計算するステップと、
該計算された確率が所定の閾値を超える少なくとも１つのワード候補を決定するステップと
を包含し、
該ワード候補の該確率が、該トレーニングコーパスの該一連のワードについて計算された、スムージングされた最大の可能性の確率であって、該トレーニングコーパスの該一連のワードのすべてについて、該トレーニングコーパスの一連のワードの該所定の数の逆数値以下の所定の正の実数以上である確率に基づいて計算されることを特徴とする、方法。
【００５５】
（項目２）
上記トレーニングコーパスの上記一連のワードの観察された頻度ｃｊのうちのいずれもが、該トレーニングコーパスの該所定の数の一連のワードのうちのすべての全体的な頻度
【００５６】
【化１】
2008046633.tif 000015
によって乗算された一連のワードの該所定の数の逆数値以下である上記所定の正の実数を下回らない場合には、上記ワード候補が後に続く上記所定の順序で提供された所定の数のワードを含むかまたは該ワード候補が後に続く該所定の順序で提供された所定の数のワードからなる一連のワードの各々についての上記最大の可能性の確率に基づいて、該ワード候補の各々の確率が計算される、項目１に記載の方法。
【００５７】
（項目３）
少なくとも１つのｊについてｃｊ＜ｍＳである場合であって、ｃｊは、上記トレーニングコーパスのＮ個連続するワードのうちのｊ番目のワードの観察された頻度を示し、Ｓは、該トレーニングコーパスのすべての観察された一連のワードの全体的な頻度
【００５８】
【化２】
2008046633.tif 000016
であり、ｍは、該一連のワードの所定の数Ｎの逆数値以下の所定の正の実数である、場合において、上記ワード候補の確率ｐｊの計算は、
ａ）
【００５９】
【化３】
2008046633.tif 000017
によって実数ａを計算するステップと、
ｂ）スムージングされたカウント
【００６０】
【化４】
2008046633.tif 000018
を計算するステップと、
ｃ）ｐｊ＝ｃｊ’／Ｓによって、スムージングされた確率ｐｊを計算するステップと、
ｄ）ｐｊ≧ｍである場合に、ｐｊから該ワード候補の各々の確率を決定するステップと
を含む、項目２に記載の方法。
【００６１】
（項目４）
上記ステップｃ）において計算された少なくとも１つのｐｊは、上記所定の正の実数ｍよりも小さく、ｍは、一連のワードの所定の数Ｎの逆数値以下である場合には、各ワード候補の上記確率は、上記最大の可能性の確率ｐｊ（０）＝ｃｊ／Ｓで始まり、ｐｊ（ｎ）＝＜（ｐｊ（ｎ−１））＞によってさらに定義される帰納的な一連の確率ｐｊ（ｎ）に従って、項目３の上記ステップａ）〜ｃ）の反復によって決定され、ここで＜＞は、スムージングされたカウントｃｊ’の反復計算を示す、項目３に記載の方法。
【００６２】
（項目５）
上記トレーニングコーパスに含まれる上記一連のワードの各々は、バイグラムおよび／またはトライグラムおよび／またはフォーグラムからなる、項目１〜４のいずれか１項に記載の方法。
【００６３】
（項目６）
上記ワード候補の各々の上記確率は、ｎグラムおよび（ｎ−１）グラムに基づいて計算される、項目１〜５のいずれか１項に記載の方法。
【００６４】
（項目７）
音声認識のための方法であって、
ｎグラムを含むデータベースを提供することと、
話されたワードを含む言葉の発話を検出およびデジタル化することと、
項目１〜６のいずれか１項に記載の統計的言語モデリングのための方法によって決定された上記少なくとも１つのワード候補として、該データベースの該ｎグラムに基づいて、該話されたワードのうちの少なくとも１つを認識することであって、該話されたワードのうちの該１つについて計算された確率は所定の閾値を超える、ことと
を包含する、方法。
【００６５】
（項目８）
項目１〜６のいずれか１項に記載の上記統計的言語モデリングのための方法によって決定されたワード候補のＮ個の最上位のリストからなる認識結果を生成することをさらに含み、各ワード候補には、所定の数の話されてすでに認識されたワードの後に該ワード候補が続く確率を表す確率スコアを表すスコアが割当てられる、項目７に記載の音声認識のための方法。
【００６６】
（項目９）
一連のワードを機械翻訳するための方法であって、
ｎグラムを含むデータベースを提供することと、
該一連のワードのｎ個の先立つ翻訳されたワードに基づいて、特に、該一連のワードのうちの先立つ１つまたは２つのワードに基づいて、該一連のワードのうちのｎ＋１番目のワードを、項目１〜６のいずれか１項に記載の上記統計的言語モデリングのための方法によって決定された上記少なくとも１つのワード候補に翻訳することであって、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、ことと
を包含する、一連のワードを機械翻訳する方法。
【００６７】
（項目１０）
テキストを音声に変換する処理のための方法であって、
ｎグラムを含むデータベースを提供することと、
タイピングまたは手書きされたテキストであって、ワードを含んでいるテキストを検出することと、
項目１〜６のいずれか１項に記載の上記統計的言語モデリングのための方法によって決定された上記少なくとも１つのワード候補として、該データベースの該ｎグラムに基づいて、該検出されたタイピングまたは手書きされたテキストの該ワードのうちの少なくとも１つを認識することであって、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、ことと、
該認識された少なくとも１つのワードに基づいて、合成音声信号を出力することと
を包含する、方法。
【００６８】
（項目１１）
コンピュータプログラム製品であって、項目１〜１０のいずれか１項に記載の方法の上記ステップを実行するためのコンピュータ実行可能な命令を有する１つ以上のコンピュータ可読媒体を備える、コンピュータプログラム製品。
【００６９】
（項目１２）
音声認識のためのシステムであって、
ｎグラムとワード候補とを含むデータベースと、
話されたワードを含む少なくとも１つの音声信号を検出するように構成されたインタフェースと、
該検出された少なくとも１つの音声信号をデジタル化するように構成された処理手段と、
認識手段とを備え、
該認識手段は、各ｎグラムについてのスムージングされた最大の可能性の確率に基づいて、所定の数の該話されたワードの後に該ワード候補が続く可能性を、複数のワード候補について計算するように構成されており、該スムージングされた最大の可能性の確率は、該データベースに含まれるｎグラムの数の逆数値以下である所定の正の実数以上であり、
該認識手段は、少なくとも１つのワード候補として、該話されたワードのうちの少なくとも１つを認識するように構成されており、該少なくとも１つのワード候補について計算された確率は所定の閾値を超える、音声認識のためのシステム。
【００７０】
（項目１３）
上記認識手段は、上記話されたワードのうちの上記少なくとも１つとして認識されたワード候補のＮ個の最上位のリストを生成し、該Ｎ個の最上位のリストの該ワード候補の各々にスコアを割当てるように構成されており、該スコアは、該認識手段によって計算された該ワード候補の確率を表す、項目１２に記載の音声認識のためのシステム。
【００７１】
（項目１４）
車両ナビゲーションシステムであって、項目１２または１３に記載の音声認識のためのシステムを含む、車両ナビゲーションシステム。
【００７２】
（摘要）
本発明は、統計的言語モデリングおよび音声認識の方法に関し、該方法は、所定の順序で所定の数のワードを提供し、所定の数の一連のワードを含むトレーニングコーパスを提供し（該一連のワードの各々は、少なくとも１つの追加ワードが後に続く該所定の順序で提供された所定の数のワードからなる）、ワード候補を提供し、各ワード候補について、該トレーニングコーパスに基づいて、該ワード候補が該提供された所定の数のワードの後に続く確率を計算し、該計算された確率が所定の閾値を超える少なくとも１つのワード候補を決定する（該ワード候補の該確率が、該トレーニングコーパスの該一連のワードについて計算された、スムージングされた最大の可能性の確率であって、該トレーニングコーパスの該一連のワードのすべてについて、該トレーニングコーパスの一連のワードの該所定の数の逆数値以下の所定の正の実数以上である確率に基づいて計算される）。
【発明を実施するための最良の形態】
【００７３】
図１に示される例に従って、話者は、３つの連続するワードａ、ｂおよびｃを含む文章を発話した。発話は、マイクロホンによって１で検出され、対応するマイクロホン信号がデジタル化され、音声認識手段に入力された。音声認識手段は、トレーニングコーパス（たとえば数多くの小説またはラジオニュース放送の写し（ｔｒａｎｓｃｒｉｐｔ）に見られるトライグラム（ｔｒｉｇｒａｍ）および／またはバイグラム（ｂｉｇｒａｍ））を含むデータベースへのアクセスを有する。
【００７４】
音声認識手段が、話者の発話の最初の２ワードであるａおよびｂを２ですでに認識したと想定する。タスクは、考慮されるトライグラムの次のワードを予測することである。トレーニングコーパスに基づいて、ワードａおよびｂで始まるＮ個の可能なトライグラム（イベント）ｅ１〜ｅＮが既知である。各トライグラムｅｊ（ｊ＝１、．．、Ｎ）は、ｃｊ（カウント数）の頻度でコーパスに中に見られる。
【００７５】
トライグラムを完成するワードｃを予測するために、音声認識手段は、ｃについての異なるワード候補の確率（すなわちａおよびｂを含む完成したトライグラムについての確率）を計算する。本発明の本例に従うと、すべてのカウントｃｊが、何らかの「底」値ｍ（すなわち全体のカウント
【００７６】
【数１７】
2008046633.tif 000019
によって乗算された所定の正の実数）によって与えられる閾値を上回るわけではない場合には、スムージングされた確率が計算される。
【００７７】
すべてのカウントが、上述の閾値を下回らないこと（すなわち
【００７８】
【数１８】
2008046633.tif 000020
であること）が３で決定された場合には、すべてのイベントｅｊについての可能性の確率（すなわちｃｊ／Ｓ）が４で計算される。しかし、カウントのうちの少なくとも１つが上述の閾値を下回る場合には、スムージングされたカウントが５で計算される。
【００７９】
この手順の背後にある考えは、イベント（すなわち本例におけるトライグラム）について計算された確率が、上述の底値によって与えられる所定の限界を決して下回らないことを保証することである。その結果、（ディスカウンティングの周知のコンセプトに従って）高い基準の確率値（たとえば最大の可能性の確率）を低い確率値に対して再分配することによって、何らかのディスカウンティングが実行される。底値については、イベント（本例においてはトライグラム）数Ｎの逆数値（ｒｅｃｉｐｒｏｃａｌ  ｖａｌｕｅ）よりも小さな任意の正の実数が選択され得る。
【００８０】
詳細には、スムージングされたカウントｃｊ’の計算は、以下のように実行される。底値ｍについての選択に基づいて、条件
【００８１】
【数１９】
2008046633.tif 000021
を満たす実数ａが計算され、ここで、
【００８２】
【数２０】
2008046633.tif 000022
である。したがって、ａは
【００８３】
【数２１】
2008046633.tif 000023
によって計算される。
【００８４】
上式の分母がゼロ、すなわち
【００８５】
【数２２】
2008046633.tif 000024
である場合には、ｍＳを超えるカウントはなく、Ｓ≦ｍＮＳが成り立ち、ｍ≧１／Ｎを意味する。一方、定義により（ｐｅｒ  ｄｅｆｉｎｉｔｉｏｎ）、ｍは１／Ｎ以下であるべきである。したがって、すべてのカウントは、ｍの各イベントの最大の可能性の確率を意味するｍＳと等しい。したがって、この場合には、最大の可能性の確率は４で計算される。なぜなら、これらの確率値はｍを下回らないことが保証されているからである。言い換えると、
【００８６】
【数２３】
2008046633.tif 000025
である場合には、スムージングは必要ではない。
【００８７】
一方、ｃｊ＜ｍＳを満たすカウントが少なくとも１つある場合には、スムージングされたカウントが
【００８８】
【数２４】
2008046633.tif 000026
によって計算される。スムージングされたカウントｃｊ’によって、各イベントｅｊについてのスムージングされた確率が、ｐｊ＝ｃｊ’／Ｓによって計算される。ｃｊ≧ｍＳを満たすすべてのｊについて、ｃｊ’≦ｃｊであり、これは本発明の確率スムージングの「ディスカウンティング」特性を説明することに留意されたい。本発明の上述の例は、ｃｊ＞ｍＳである場合には、少なくとも
【００８９】
【数２５】
2008046633.tif 000027
が（Ｓ−ｃｊ）ｃｊ／Ｓによって計算されるという意味において、最大の可能性の確率ｃｊ／Ｓに基づいたスムージングされた確率の計算を含む。
【００９０】
一部のイベントについて（すなわち一部のインデックスｊについて）、このように計算されたスムージングされた確率ｐｊが、底値ｍよりも小さい場合には、上述の計算の反復が実行されることによって、一連の確率を取得し、該一連の確率は、ｐｊ（０）＝ｃｊ／Ｓ；ｐｊ（ｎ）＝＜（ｐｊ（ｎ−１））＞によって帰納的に定義される。ここで、記号＜＞は、反復して計算されるスムージングされたカウントｃｊ’によるｐｊ（ｎ）の反復計算を示す。このことは、スムージングされたカウント
【００９１】
【数２６】
2008046633.tif 000028
（ｊ＝１、．．．、Ｎ）の計算は、
【００９２】
【数２７】
2008046633.tif 000029
から
【００９３】
【数２８】
2008046633.tif 000030
を計算し、
【００９４】
【数２９】
2008046633.tif 000031
から
【００９５】
【数３０】
2008046633.tif 000032
を計算することによって、実行されることを意味する。ｋ（＜Ｎ）回のステップの後で、少なくとも１つのインデックスｊについて、反復がｐｊ（ｋ）＜ｍに帰結する場合には、関係ｃｊ（ｋ）＜ｍＳ＜ｃｊ（ｋ＋１）が成り立ち、このことは、Ｌ（０）（≦Ｎ）回未満のステップの後で反復が静止することを意味し、Ｌ（ｎ）は、ｃｊ（ｋ）＜ｍＳを満たすすべてのカウントの数として定義される。このことは、反復が速く収束することを保証する。
【００９６】
考慮されるトライグラムのワードｃを決定するために、上述のように計算された確率に基づいて、７で最高の確率を有するトライグラムが選択され得る。
【００９７】
本明細書中に開示される方法の上述の例は、バッキングオフ戦略と有利に組み合わせられ得ることもまた留意される。バッキングオフ戦略とは、たとえば、Ｋａｔｚのバッキングオフであり、それによると、信頼できる確率値を推定するために利用可能なトレーニングコーパスが十分に大きいときには、ｎグラムの確率が計算され、そうでない場合には（ｎ−１）グラムの確率に対するバックオフが使用される。当該分野において公知のいくつかのバッキングオフ方法は、上述のスムージングと組み合わせられ得る。
【００９８】
特に、ｐｊ［ｎ−ｇｒａｍ］＝λｃｊ［ｎ−ｇｒａｍ］／Ｓ［ｎ−ｇｒａｍ］＋（１−λ）ｐｊ［（ｎ−１）−ｇｒａｍ］に従った一部の補間法。たとえば、改良型Ｋｎｅｓｅｒ−Ｎｅｙ法などの、種々のスムージング補間法技術に従って、補間定数０≦λ≦１が選択され得る（概観については、たとえばＳｔａｎｌｅｙ  Ｆ．ＣＨｅｎおよびＪｏｓｈｕａ  Ｔ．Ｇｏｏｄｍａｎによる「Ａｎ  Ｅｍｐｉｒｉｃａｌ  Ｓｔｕｄｙ  ｏｆ  Ｓｍｏｏｔｈｉｎｇ  Ｔｅｃｈｎｉｑｕｅｓ  ｆｏｒ  Ｌａｎｇｕａｇｅ  Ｍｏｄｅｌｉｎｇ」Ｔｅｃｈｎｉｃａｌ  Ｒｅｐｏｒｔ  ＴＲ−１０−９８，Ｃｏｍｐｕｔｅｒ  Ｓｃｉｅｎｃｅ  Ｇｒｏｕｐ，Ｈａｒｖａｒｄ  Ｕｎｉｖｅｒｓｉｔｙ，１９９８年を参照のこと）。Ｋｎｅｓｅｒ−Ｎｅｙアプローチというのは、より下位のモデルはカウントがより上位のモデルにおいて小さいときのみに有意である、という考えを利用しており、音声認識という文脈における場合のように、トレーニングデータの比較的小さな量にとって特に有用である。
【図面の簡単な説明】
【００９９】
【図１】図１は、ワード候補のスムージングされた確率の計算を含む、音声認識のための本発明の方法の一例を図示する。
【図１】
2008046633.tif 000037