"一連の観測値を含む既知の話者から音声入力を受け取り、該一連の観測値から生じる一連の語の尤度を音響モデルを使用して判断し、該音響モデルは、1つの語またはその一部を1つの観測値に関連付ける確率分布を記述する複数のモデルパラメータを有しており、該音響モデルは、第1の学習データを使用して学習され、かつ第2の学習データを使用して前記話者に適応されており、所与の言語に生じる一連の観測値の尤度を言語モデルを使用して判断し、前記音響モデルおよび前記言語モデルによって判断された尤度を組み合わせて前記音声入力信号から識別された一連の語を出力し、該音響モデルは前記話者に対して文脈ベースであり、該文脈ベース情報は、複数の決定木を使用して前記音響モデルに含まれており、該決定木の構造は第2の学習データに基づいていることを特徴とする、音声認識方法。前記決定木の構造は、前記第1および第2の学習データの両方に基づくことを特徴とする請求項1記載の音声認識方法。前記決定木の構造は、該決定木のノードの分割から判断され、最大事後基準を用いて算出されることを特徴とする請求項1記載の方法。前記分割は、次式によって表される最大事後基準:ただし、O’は前記第1の学習データ、Oは前記第2の学習データ、mはパラメータ結合構造、λは1セットのHMMパラメータ、は最大事後基準のパラメータ結合構造、は最大事後基準のHMMパラメータ、αは設定されるパラメータ、を用いて算出されることを特徴とする、請求項3記載の方法。前記文脈への依存性がトライフォンとして実現されることを特徴とする、先行するいずれかの請求項に記載の方法。前記音響モデルは、平均および分散によって表される確率分布を含んでおり、前記決定木は平均および共分散の両方について提供されることを特徴とする、先行するいずれかの請求項に記載の方法。前記文脈ベース情報は、音声的、言語的および韻律的な文脈から選択されることを特徴とする、先行するいずれかの請求項に記載の方法。前記決定木を、少なくとも表出型文脈、性別、年齢または音声特徴のいずれかをモデリングするために用いることを特徴とする、先行するいずれかの請求項に記載の方法。一連の語を含むテキスト入力を受け取り、該一連の語から生じる一連の音声ベクトルの尤度を音響モデルを使用して判断し、該音響モデルは、1つの語またはその一部を1つの観測値に関連付ける確率分布を記述する複数のモデルパラメータを有しており、該音響モデルは、第1の学習データを使用して学習され、かつ第2の学習データを使用して前記話者に適応されており、前記音響モデルは前記話者に対して文脈ベースであり、該文脈ベース情報は、複数の決定木を使用して前記音響モデルに含まれており、該決定木の構造は第2の学習データに基づいていることを特徴とする、テキスト音声処理方法。音声と、該音声に対応するテキストとを含む第1の学習データを受け取り、該第1の学習データを使用して第1の音響モデルを学習し、既知の話者からの第2の学習データを受け取り、該第2の学習データを使用して第2の音響モデルを形成するように該第1の音響モデルを適応させ、該第2のモデルを形成するように該第1のモデルを適応させることは、文脈依存性をモデリングするために決定木を構築することを含み、該決定木の構造は該第2の学習データに基づいていることを特徴とする、音声処理システム用の音響モデル学習方法。前記第2の音響モデルへの適応が異なる位置で実行可能になるように前記第1の音響モデルを記憶することをさらに含む、請求項10記載の方法。前記第1の音響モデルを学習することは、複数の隠れマルコフモデルを初期化し、前記第1の学習データに基づいて該HMMを再度推定し、該第1の学習データの文脈をモデリングするために決定木を構築することを含む、請求項10または11に記載の方法。前記第1のモデルの学習は、前記決定木によってクラスタリングされた前記HMMを再度推定することを含む請求項12記載の方法。前記第2のモデルの学習は、前記第2の学習データおよび前記第1の学習データについてフォワード-バックワードアルゴリズムを実行することにより該第2のモデルのHMMパラメータを導出し、パラメータを使用して該第1の学習データから取得された統計値をスケーリングし、該第1および第2の学習データを使用して決定木をそれぞれ構築することを含む、請求項10乃至13のいずれかに記載の方法。前記パラメータを試行錯誤によって判断する、請求項14記載の方法。前記第2のモデルの学習は、前記決定木によってクラスタリングされた前記HMMを再度推定することを更に含む、請求項14又は15記載の方法。先行するいずれかの請求項に記載された方法を実行するようにコンピュータを制御するためのコンピュータ可読命令を搬送する搬送媒体。一連の観測値を含む既知の話者からの音声入力を受信する受信機と、プロセッサとを備えており、該プロセッサは、音響モデルを使用して該一連の観測値から生じる一連の語の尤度を判断し、該音響モデルは、1つの語またはその一部を1つの観測値に関連付ける確率分布を記述する複数のモデルパラメータを有しており、該音響モデルは第1の学習データを使用して学習され、かつ第2の学習データを使用して前記話者に適応され、所与の言語で生じる一連の観測値の尤度を言語モデルを使用して判断し、該音響モデルおよび該言語モデルによって判断された該確率を組み合わせて前記音声入力信号から識別された一連の語を出力するように構成されており、該音響モデルは前記話者に対して文脈ベースであり、該文脈ベース情報は、複数の決定木を使用して該モデルに含まれており、該決定木の構造は第2の学習データに基づいていることを特徴とする、音声認識装置。一連の語を含むテキスト入力を受信する受信機と、プロセッサとを備えており、該プロセッサは、音響モデルを使用して該一連の語から生じる一連の音声ベクトルの尤度を判断し、該音響モデルは、1つの語またはその一部を1つの観測値に関連付ける確率分布を記述する複数のモデルパラメータを有しており、該音響モデルは第1の学習データを使用して学習され、かつ第2の学習データを使用して前記話者に適応されるように構成されており、該音響モデルは前記話者に対して文脈ベースであり、該文脈ベース情報は複数の決定木を使用して該モデルに含まれており、該決定木の構造は第2の学習データに基づいていることを特徴とする、テキスト音声システム。第1の言語の音声を認識するように構成された請求項18に記載の音声認識システムと、第1の言語で受信されたテキストを第2の言語のテキストに翻訳するように構成された翻訳モジュールと、前記第2の言語の音声を出力するように構成された請求項19に記載のテキスト音声システムとを備える、音声翻訳システム。図1は、極めて基本的な音声処理システムの概略図であり、図1のシステムは音声認識向けに構成されている。ユーザ図示せずがマイク1、または他のオーディオ信号用収集デバイスに話す。デバイス1は、事前に記録されているオーディオデータを含むメモリと置き換えられてもよく、あるいはデバイス1はリモートからオーディオデータを受信するネットワーク接続であってもよい。音声信号は次いで、図2を参照してより詳細に後述される音声プロセッサ3に送られる。音声プロセッサ3は音声信号を受け取り、該音声信号に対応するテキストに変換する。多数の異なる出力形態が使用可能である。例えば、出力は、スクリーンに出力するディスプレイ5の形態であってもよい。あるいはまた、プリンタなどに出力してもよい。また、出力は、別のシステム9に提供される電子信号の形態であってもよい。例えば、別のシステム9は、プロセッサ3から出力されたテキストを受け取り、異なる言語に変換する音声翻訳システムの一部であってもよい。変換されたテキストは、別のテキストまたは音声システムを介して出力される。あるいは、プロセッサ3によって出力されたテキストは、様々なタイプの機器を操作するために使用されてもよく、例えば、ユーザが音声を介して種々の機能をコントロールするモバイルフォンや自動車の一部であってもよい。図2は、音声認識システム向けを想定した基本アーキテクチャを示している。音声認識は、プログラム25を実行するプロセッサ23を備えている。音声認識システム21は記憶装置27を備えている。記憶装置27は、テキストを音声に変換するためのプログラム25によって使用されるデータを記憶している。テキスト音声システム21は、入力モジュール11および出力モジュール33を備えている。入力モジュール31は音声入力35に接続されている。音声入力35は音声を受信する。音声入力35は例えばマイクであってもよい。あるいはまた、音声入力35は、外部記憶媒体やネットワークから音声データを受信する手段であってもよい。テキスト出力37は出力モジュール33に接続される。テキスト出力37は、音声入力33から変換されたテキストを出力するために使用される。テキスト出力37は例えばテキストを直接出力するモニタ、プリンタであってもよく、記憶媒体やネットワークデバイスに送られるデータファイルを出力するものであってもよい。使用時において、音声認識システム21は音声入力33を介して音声を受信する。プロセッサ23で実行されるプログラム25は、記憶装置27に記憶されているデータを使用して音声をテキストデータに変換する。テキストは出力モジュール33を介してテキスト出力37に出力される。本発明はまた、音声合成ならびに音声認識に適用されてもよい。図3は、テキスト音声システム51の基本アーキテクチャを示している。テキスト音声システム51は、プログラム55を実行するプロセッサ53を備えている。テキスト音声システム51はさらに記憶装置57を備えている。記憶装置57は、テキストを音声に変換するためにプログラム55によって使用されるデータを記憶している。テキスト音声システム51はさらに入力モジュール61および出力モジュール63を備えている。入力モジュール61はテキスト入力65に接続される。テキスト入力65はテキストを受信する。テキスト入力65は例えばキーボードであってもよい。あるいはまた、テキスト入力65は、外部記憶媒体やネットワークからテキストデータを受信する手段であってもよい。オーディオ出力67が出力モジュール63に接続される。オーディオ出力67は、テキスト入力から変換された音声信号をテキスト入力63に出力するために使用される。オーディオ出力67は例えばダイレクトオーディオ出力であってもよく、例えば、話者や、記憶媒体に送信されたりネットワーク化などがされたりしてもよいオーディオデータファイルの出力であってもよい。使用中、テキスト音声システム51はテキスト入力63を介してテキストを受信する。プロセッサ53で実行されるプログラム55は、記憶装置57に記憶されているデータを使用してテキストを音声データに変換する。音声は出力モジュール65を介してオーディオ出力67に出力される。図4は、図1に示されているタイプの音声認識プロセッサ3の標準コンポーネントのブロック図である。ネットワークや記録媒体1を介してマイクから受信された音声信号はフロントエンドユニット11に向けられる。フロントエンドユニット11は受信された音声信号をディジタル化して、長さの等しいフレームに分ける。音声信号は次いでスペクトル分析を施され、音響空間にプロットされる種々のパラメータが判断される。導出されるパラメータの詳細については後述する。フロントエンドユニット11はまた、音声信号でない信号、および他の無関係な情報を除去する。一般的なフロントエンドユニットは、フィルタバンクFBANKパラメータ、メル周波数ケプストラム係数および知覚線形予測PLPパラメータを使用する装置を備える。フロントエンドユニットの出力は、n次元音響空間である入力ベクトルの形態であってもよい。入力ベクトルは次いで、音響モデル部15および言語モデル部17の両方と協働するデコーダ13に供給される。音響モデル部15は通常、隠れマルコフモデルを用いて動作する。しかしながら、コネクショニストモデルおよびハイブリッドモデルに基づいた音響モデルを使用することも可能である。音響モデルユニット15は、音響入力のみに基づいて、1つの語またはその一部に対応する一連の観測値の尤度を導出する。言語モデル部17は、所与の言語の特定の一連の語や、相互にフォローしあう語の一部の確率に関する情報を含む。一般的に静的モデルが使用される。最も一般的な方法はNグラムモデルである。デコーダ13は従来、音響モデル15および言語モデル17からの結果を使用して所与の音声発話の最良のトランスクリプションを発見するために、動的プログラミングDPアプローチを使用する。このトランスクリプションは、テキストを表示し、呈示し、例えば音声起動デバイスを制御したり音声翻訳でさらに使用するための変換を行う出力デバイス19を介して出力される。本明細書では、主に、隠れマルコフモデルHMMである音響モデルを用いる場合について説明するが、他のモデルが使用されてもよい。本実施形態で使用される実際のモデルは標準的なモデルであり、その詳細は本特許出願の範囲外である。しかしながら、このモデルは、1つの語またはその一部と関連付けられている音響ベクトルによって表されている観測値の確率に関する確率密度関数pdfの用意を必要とする。一般的に、この確率分布はn次元空間のガウス分布である。一般的なガウス分布の概略的な例が図5に示されている。ここでは、横軸は1次元の入力ベクトルのパラメータに相当し、確率分布は、観測値に関する特定の語またはその一部のものである。例えば、図5において、音響ベクトルxに対応する観測値は、確率分布が図5に示されている語に対応する確率p1を有する。ガウスの形状および位置は平均および共分散によって定義される。これらのパラメータは音響モデルの語彙の学習中に判断され、モデルパラメータと称される。HMMにおいて、モデルパラメータが判断されると、このモデルは、一連の語または語の一部に対応する一連の観測値の確率を判断するために使用可能である。図6は、観測が観測ベクトルまたは特徴ベクトルx1によって表される音響空間の概略プロットである。開放円gは、音響空間にプロットされたガウス分布関数または他の確率分布関数の平均値に対応する。復号時に音響モデルは、特徴ベクトルx1がガウス分布によって表される単語または単語の一部に対応する多数の異なる尤度を計算するであろう。それからこれらの尤度は口述されたテキストを決定するために音響モデルで使用されて、言語モデルからの確率に組み合わされる。最新技術の音声認識システムの大部分は、入力音声から抽出される特徴ベクトルとして表される一連の音声パラメータoに関する最尤単語列ωを見出す統計的フレームワークに基づいている。これは下記のように書き表され得る:ここでpωoは所定のoに関するωの事後確率分布である。pωoを直接モデル化することは困難であるので、ベイズのルールruleに基づく下記の再公式化がしばしば使用される:ここでpoはoの周辺分布しばしば痕跡evidenceと呼ばれるである。poは最大化とは無関係であるので、式4は下記のように書き換えられ得る:音声認識システムの大部分は、式5における最大を実現するための3つのモジュール、すなわちpωoに関する音響モデル、pωに関する言語モデル、および最善の単語列を探索するための復号子である3つのモジュール図4を参照のことからなる。統計的音声合成は下記のように書かれ得る:音声認識とは異なり、ベイズのルールによる変換は、図3を参照しながら説明されたユニットのタイプに関する統計的音声合成では必要とされない。基本的にこれは、音響モデルだけからなる。ここで説明される音響モデルは、音声認識および音声合成の両者に関連している。統計的音声認識および音声合成の両者において、文脈依存性隠れマルコフモデルHMMは、これの効率および性能のゆえに音響モデルとして広く使用されている。最尤ML基準は、HMMパラメータを推定し、推定されるパラメータの数を減らすためにHMM状態レベルパラメータ結合構造を定義する決定木を構築するために最もポピュラーな基準の1つである。HMMパラメータのML推定は下記のように書かれ得る:ここでλは1セットのHMMパラメータであり、Oは1セットの学習データである。ML基準に基づいて推定されたHMMは、しばしば学習データにオーバーフィットすることが知られている。オーバーフィット問題の1つの可能な解決策は、最大事後確率MAP推定を使用することである。HMMパラメータのMAP推定は下記のように書かれ得る:ここでpλOは所定のOに関するλの事後確率である。式8はベイズのルールによって下記のように再公式化され得る:ここでpλはλの事前分布である。式11の分子は最大化とは無関係であるので、これは下記のように書き換えられ得る:ML基準におけるMAP推定の主要な利点は、従来技術の分布の使用可能性である。データに関する事前知識を事前分布に組み込むことによって学習データに対するオーバーフィットを防止することができる。MAP推定は、音声認識および音声合成の両者においてML推定された話者独立性HMMを目標話者に適応させるために使用されてきた。従来からMAP推定は、パラメータ推定だけのために使用されてきた。文脈依存性HMMを学習するための本質的部分の1つである決定木ベースの文脈クラスタリングのために、ML基準が使用されてきた。本発明の方法による一実施形態では、HMMパラメータとMAP基準に基づく決定木との合同推定技法が使用される。MAP基準の使用は、モデルパラメータと決定木とを推定しながら、合同事前分布としてのHMMパラメータおよび決定木の両者に関する事前知識の組み込みを可能にする。一例として破裂音gは、これが単語ゲージを使用している2つの事例において異なって発音される。これらの音素は、破裂音b、d、g、k、p、t、摩擦音dh、th、f、v、s、sh、z、zh、鼻音m、em、n、en、ng、および識別されてきた他のグループといった異なるグループに分割されるものと考えることができる。決定木は、例えば先行および後続の音素が属するグループに関して質問することによって設定され得る。したがってこれらの決定木を構築することによって、言語のすべての事例に関してモデル化し、そして異なる文脈における音素の異なる発音に対応することが可能となる。HMMベースの音声認識および音声合成システムの両者において、文脈依存性音素HMM例えばトライフォオンHMMが広く使用されている。文脈独立性音素HMM単一音よりむしろ文脈依存性音素HMMの使用は、より高い認識性能を与えることが知られている。多数の文脈依存性HMMは音声データにおける変動を捕捉する助けとなり得るが、これはシステムにおいて推定されるべきパラメータがあまりにも多くなるという結果を招き、学習データに対するオーバーフィットの原因となる。したがってモデルの複雑さとモデルの堅牢さとの間の良好なバランスを維持することは、音響モデル化において重要である。トップダウンの決定木ベースの文脈クラスタリングの使用は、この問題に対する良好で既知の解決策である。これは、ボトムアップ式のアプローチに対して2つの利点を有する。第1に、1セットの質問に音声知識を組み込むことによって決定木の葉ノードに目に見えない文脈依存性音素を割り当てることができる。第2に、決定木の分割手順は、モデルの複雑さと堅牢さとのバランスを維持する方法を与える。決定木ベースの文脈クラスタリング技法は、学習データに対するモデルの尤度を最大化するパラメータ結合構造決定木およびモデルパラメータを見出すことを目的にしている。これは下記のように書かれ得る:ここでmはパラメータ結合構造を表す。決定木ベースのクラスタリングの手順は、これから図7を参照しながら説明されるであろう。ステップS101で、すべての文脈独立性音素HMMが決定木のルートノードにプールされる。ステップS103で、学習データに対するモデルの対数尤度が下記を使用して計算される:上記の式は1995年のケンブリッジ大学のJulianOdellの博士論文から取られている。ここで尤度はE個の例からなる学習データOを生成する1セットの分布Sを備える1セットのモデルについて計算され、またγsctは時刻tにおける状態占有であり、そしてTeはE個の例の音声の時間の全長である。ステップS105では、決定木におけるノードと文脈に関する予め決められた二値質問binaryquestionとのすべての組合せに関して学習データに対するモデルの対数尤度が、質問によってノードを分割した後に計算される。ステップS107で、対数尤度における最も大きな利得を与えるノードと質問との最善の組合せが選択される。ステップS109で、見出された質問による見出されたノードが分割され、もし対数尤度における利得が予め決められた閾値を超えればプロセスはステップS103に戻る。もし利得が予め決められた閾値より低ければ、クラスタリングはステップS111で終了する。推定されたパラメータ結合構造mとHMMパラメータλは、音声認識および音声合成のための音響モデルとして使用される。図8は、本発明の好適な実施形態による方法を示す。対照的に本発明の一実施形態による方法において。ここではML基準の代わりにMAP基準が決定木ベースの文脈クラスタリングに使用される。これは下記のように書かれ得る:ここでpm,λはパラメータ結合構造と1セットのHMMパラメータとの合同事前分布を表す。次に合同事前分布を定義する方法が説明される。HMMベースの統計的音声認識および音声合成に関するMAP推定による適応において、事前分布の特性を指定する事前分布のハイパーパラメータが通常、大量の学習データによって推定されるHMM例えば話者独立性HMMのパラメータにしたがって設定される。これは下記のように書かれ得る:ここでO’はHMMのパラメータを推定するための大量の学習データを示し、pm,λO’はモデル構造mとモデルパラメータλとの合同事後確率分布である。ベイズのルールを使用して式19は下記のように書き換えられ得る:ここでp’m,λはmとλとの合同事前分布であり、またp’O’m,λは推定される。もしp’m,λが非説明的noninformative均等分布であれば、式18の最大化問題は下記のように書き換えられ得る:なぜならばpO’およびp’m,λの両者は最大化とは無関係であるからである。実際には下記のようにOとO’との間の寄与のバランスを制御するためにパラメータαが導入される:興味深いことにこのαは、HMMパラメータのMAP推定における重み付けの項weighttermと同じ働きをする。式25は、ML基準に基づく決定木ベースの文脈クラスタリング式14とほぼ同じである。本質的な違いは、O’に対するモデルの対数尤度が加えられていることである。木構築プロセスは、前述のセクションで説明したML基準のプロセスと同じになる。木クラスタリングプロセスを図8に示す。相違点は、O’に対するモデルの対数尤度も考えられていることである。したがってこれは、決定木ベースの文脈クラスタリングの既存の実現形態に容易に組み込まれ得る。図8のステップS151においてHMMは、図7を参照して説明した方法と同じようにしてプールされる。学習データの対数尤度は、ステップS153でOおよびO’データを使用して実行される。これには式25を使用し、尤度は式14aを使用して計算される。図7と同じ方法ですべてのノード組合せに関して、ステップS155で分割が計算され、ステップS157で最大の分割を与えるノードと質問との組合せが選択される。それからステップS159でノードが分割される。もし分割による利得がある閾値を超えるならば、システムはステップS153にループバックloopbackする。もし利得が閾値を超えなければ、これは決定木が十分な程度に分割されていることを意味し、クラスタリングはステップS161で終了する。この閾値は、必要とされる精度と計算上の考慮事項とに依存して選択される。もし閾値が適度に低ければ、決定木はより大きくなるであろうし、また図8の方法を使用して構築された決定木を使用するモデルを動作させるためにより大きなコンピュータパワーが必要とされるであろう。しかしながらもしより高い閾値が使用されるならば、決定木にはより少ない質問が現れて精度の損失という結果を招くであろう。OおよびO’データを使用して学習データに対するモデルの対数尤度を計算するときにO’分布に重み付けするためにパラメータαが使用されることは前に説明されている。αは手作業で選択される。実際に多数の異なるαがテストされて、最善のαが選択されるであろう。1つの可能性は、OおよびO’のデータ量にしたがってαを設定することである。例えばもしOが1時間分の音声データを備え、O’が10時間分を備えるならば、αは0.1に等しい1/10に設定されるであろう。こうしてこの状況ではOおよびO’は想像上の同じデータ量thesameamountofdataimaginaryを有する。良好なαは、オフラインで決定されるであろう。音声合成のために、テスト文を使用して推定されたHMMセット種々のαから音声サンプルが合成されて、聴き取られるであろう。最善の主観的聴き取りテスト得点を与えるアルファが選択されるであろう。認識のために、推定されたHMMセット種々のαを有するによって音声認識子が動作させられるであろう。それは、発声をテストし、これの認識精度を検査するためである。最善の認識精度を与えるアルファが選択されるであろう。次に、本発明の一実施形態による方法を使用して音声認識子を学習する方法が図9および10を参照しながら説明されるであろう。図9の流れ図はO’データに関して実行される基本的学習に対応し、図10の流れ図はOおよびO’データを使用するデータの学習に対応する。Oデータは、モデルを最初に学習するために使用されるデータである。これは多数の話者から得られるであろう。ステップS201で、単一音HMMが初期化される。これは、初期HMMパラメータを、例えば単一音素に関するガウス分散を、確立することである。HMMを初期化することはよく知られており、すべての平均値と分散とをゼロに設定すること、各HMMに関するすべての平均値と分散とをグローバルglobal平均と分散とに設定すること、または前のデータをHMMの平均値と分散とに関する推定値として使用すること、といった多数の技法が使用され得る。ステップS203で、単一音HMMに対して埋込み再推定embeddedreestimationが実行される。これは、各セグメントに基づいて音素レベルHMMを再推定するために使用される。これは、音声認識時に各セグメントに関してパラメータが正しく推定された場合に、より高い精度が取得されるという理由で、必要とされる。好適な実施形態では埋込み再推定は、1フレームに割り当てられる状態の確率が存在する状態ごとに1フレームのソフト割り当てが存在することが仮定される場合に使用される。BaumWelchアルゴリズムまたはフォワード-バックワードアルゴリズムもこのステージで使用され得るが、これらのアルゴリズムの両者とも状態へのフレームのソフト割り当てを想定している。状態へのフレームのハード割り当てを想定するビタビアルゴリズムも使用され得る。ステップS205で、単一音HMMが文脈依存性HMMにコピーされる。文脈依存性HMM例えばトライフォンtriphoneは前に説明されている。トライフォンは、先行および後続の音素を有する中間または現在音素を備える。このステージですべての現在音素すなわち中間音素は同じ統計値を有する。それからステップS207で、文脈依存性HMMに埋込み再推定が実行される。これは、HMMが文全体に基づいて推定されることを可能にする。次にステップS209で、決定木文脈ベースのクラスタリングが実行される。これは、図7を参照しながら説明されたものと同じである。これはデータセットO’に対して実行される初期学習であるので、これは純粋にO’データに対して実行されるであろう。決定木はHMM混合体をサポートしないので、ステップS211で決定木文脈ベースのクラスタリングが実行された後に埋め込み再推定が実行される必要がある。前に示されたように、音声認識および音声合成の両者に関して音響モデルを学習するための図9のステップはよく知られている。音声合成のための音響モデルを学習するために上記が使用されているならば、一般にガウス分布の混合物がこれの大きな計算費用のゆえに音声合成の音響モデルのために使用されないので埋込み再推定ステップは省略され得る。図10は、OおよびO’モデルが推定される場合の本発明の一実施形態による方法である。OおよびO’モデルを推定するために、上記のO’モデルがOの状態レベル割り当てこれは状態/フレーム割り当てであるを取得するために使用される。これは、周知のフォワード-バックワードアルゴリズムを使用して実行される。フォワード-バックワードアルゴリズムはフォワード確率およびバックワード確率を計算する。フォワード/バックワード確率を使用して、観測ベクトルを与えるためのHMM状態の状態占有確率を計算することが可能である。この状態占有確率は上記のOの状態レベル割り当てに対応する。状態占有を取得することに加えて1次および2次統計値も取得される。HMM状態の状態占有は、下記の全学習データにおけるこのHMM状態の状態占有確率の総計値である:HMM状態に関する1次統計値は、全学習データにおけるこのHMM状態に関連する観測ベクトルに乗算された状態占有確率の総計値である。HMM状態に関する2次統計値は、全学習データにおけるこのHMM状態に関連する2乗された観測ベクトルに乗算された状態占有確率の総計値である。1次および2次統計値は下記のように平均値および分散に関連付けられる:上記を使用することによって、HMMの平均値と分散とを計算することが可能である。いったん統計値が取得されると、これらの統計値はパラメータαによってスケールscaleされる。パラメータαは、決定木の構築を参照しながら説明されたものと同じである。これらのパラメータは下記のように基準化される:占有はであり、1次統計値から導出された平均値はであり、そして2次統計値から導出された分散は下記の通りである:次に、ステップS235でOおよびO’を使用して決定木ベースの文脈クラスタリングが実行される。これは図8を参照しながら説明された仕方と同じ仕方で実行される。フォワード-バックワードアルゴリズムがO’モデルによって、またステップS209で実行された状態結合構造によって動作させられることは留意されるべきである。しかしながらステップS235の決定木ベースの文脈クラスタリングは結合されていない統計値を必要とする、すなわち各個別の文脈依存性モデルはそれ自身の占有数、それ自身にだけ累積された1次および2次統計値を有する。ステップS235が実行されたとき、クラスタリングされた文脈依存性HMMに対して埋込み再推定が実行されるステップ237が実行される。再び、混合ガウス分布は通常使用されないので音声合成のために音響モデルが使用されることになっている場合、このステップは省略され得る。第1および第2のモデルの学習は、製造業者側で行われ得る。しかしながら初期学習データによって学習されたばかりの音声処理製品が製造されることも可能である。それからこの製品は後で第2の学習データで学習され得るであろう。図11で本発明は、音声認識システムにおいて使用され得る。音声認識システムでは図11で説明されている基本ステップが実行されるであろう。ステップS301で話者からの入力音声が受信される。このシステムは好適には、話者データOを使用してこの話者に関して学習されているであろう。ステップS303で、音声入力から生じる一連の語の尤度は、図9および10を参照しながら説明されたように、学習された音響モデルを使用して決定される。次にステップS305で、所定の言語において発生する一連の観測値の尤度が言語モデルを使用して評価される。ステップS307で、一連の語を生成するために言語モデルと音響モデルとの結果が組み合わされる。ステップS309で、この一連の語が出力される。一連の語はモニタに出力され得るか、あるいは探索エンジン内に向けられ得るか、またはSatNavシステムなどに向けられ得る。一実施形態では、出力された一連の語は、それからこれが第2の言語に翻訳される翻訳システムに向けられる。図12は、音声合成のための極めて単純なシステムを示す。ステップS321でテキスト入力を受け取る。このテキスト入力はデータファイルから取得され、あるいはコンピュータに直接入力され得る。それからステップS323で、入力テキストに対応する一連の音声ベクトルを決定するために音響モデルを実行する。それからステップS325で、テキスト入力に対応するオーディオが出力される。音声対音声翻訳システムに関して図11および図12の動作は、異なる言語に翻訳されて図12のテキスト入力321として入力された図11のステップS309からの出力によって順次に実行され得るであろう。"