3(57)【特許請求の範囲】【請求項１】 複数のクラスタの統計的言語モデルを記憶する記憶手段と、所定の複数の発声音声文を含む学習用テキストデータに基づいて各発声音声文に対する統計的言語モデルを生成
して、各発声音声文が各クラスタに対応するように、上記生成した統計的言語モデルを上記記憶手段に記憶する
初期化手段と、
上記学習用テキストデータの各発声音声文について、各クラスタにおける統計的言語モデルの文生成確率を計算 10して最大の文生成確率を有するクラスタを選択してその発声音声文を所属させるように上記記憶手段に記憶する
クラスタ選択手段と、発声音声文が属するクラスタが変化したときに、各クラ
スタ毎に、上記クラスタ選択手段によって選択された発4
声音声文を用いて上記記憶手段に記憶された各統計的言語モデルを更新して、各クラスタに対応した統計的言語モデルを生成するモデル変更手段と、
上記複数の発声音声文に属するクラスタが１文も変化しなくなるまで、上記クラスタ選択手段の処理と、上記モ
デル変更手段の処理を繰り返す制御手段とを備えたことを特徴とする統計的言語モデル生成装置。
【請求項２】 請求項１記載の統計的言語モデル生成装置において、上記統計的言語モデル生成装置はさらに、
上記記憶手段に記憶された各クラスタ毎のテキストデー
タに基づいて、最尤推定法を用いて各クラスタ毎に単語のＮ−ｇｒａｍ（Ｎは２以上の自然数である。）の遷移
確率を演算する第１の演算手段と、
上記第１の演算手段によって演算された各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率の出現分布を事前知識の(2)5
所定の確率分布と仮定し、各クラスタ毎の確率分布の加重平均及び加重分散を演算した後、演算された加重平均と加重分散に基づいて事前知識の確率分布のパラメータを演算する第２の演算手段と、
上記第２の演算手段によって演算された事前知識の確率
分布のパラメータと、上記学習用テキストデータうちの
特定クラスタのテキストデータの事後知識における処理
対象の単語列の直前の単語列の出現回数と、処理対象の単語列の出現回数とに基づいて、各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を計算することにより、各クラ
スタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語モデルを生成する第３の演算手段とを備えたことを特徴とする統計的言語モデル生成装置。
【請求項３】 請求項２記載の統計的言語モデル生成装置において、上記統計的言語モデル生成装置はさらに、
上記第３の演算手段によって演算された各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率に基づいて，所定の平滑化処理を実行し、処理後の各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語モデルを生成する第１の生成手段を備えたことを特徴とする統計的言語モデ
ル生成装置。
【請求項４】 請求項３記載の統計的言語モデル生成装置において、上記統計的言語モデル生成装置はさらに、
上記学習用テキストデータに基づいて、最尤推定法を用いて単語のＮ−ｇｒａｍ（Ｎは２以上の自然数である。）の遷移確率を演算して、上記単語のＮ−ｇｒａｍの遷移確率を含む別の統計的言語モデルを生成する第２の生成手段を備えたことを特徴とする統計的言語モデル
生成装置。
【請求項５】 入力される発声音声文の音声信号に基づいて、所定の統計的言語モデルを用いて音声認識する音
声認識装置において、請求項４記載の統計的言語モデル生成装置と、上記第２の生成手段によって生成された別の統計的言語
モデルを用いて、入力される発声音声文の音声信号を音声認識して第１の認識仮説を出力する第１の音声認識手段と、上記第１の音声認識手段から出力される第１の認識仮説に応答して、上記第１の生成手段によって生成された各クラスタ毎の統計的言語モデルを用いて、入力される発声音声文の音声信号を音声認識して、文生成確率が最大のクラスタの統計的言語モデル生成装置を選択するモデ
ル選択手段と、
上記モデル選択手段によって選択されたクラスタの統計
的言語モデルを用いて、上記第１の音声認識手段から出力される第１の認識仮説に対して絞込処理を行って第２の認識仮説を生成して認識結果として出力する第２の音
声認識手段とを備えたことを特徴とする音声認識装置。
【発明の詳細な説明】【０００１】

10

特許２９３８８６６6【発明の属する技術分野】本発明は、学習用テキストデータに基づいて統計的言語モデルを生成する統計的言語
モデル生成装置、及び上記統計的言語モデルを用いて、入力される発声音声文の音声信号を音声認識する音声認識装置に関する。
【０００２】【従来の技術】近年、連続音声認識装置において、その性能を高めるために言語モデルを用いる方法が研究されている。これは、言語モデルを用いて、次単語を予測し探索空間を削減することにより、認識率の向上及び計算時間の削減の効果を狙ったものである。最近盛んに用いられている言語モデルとしてＮ−ｇｒａｍ（Ｎ−グラム；ここで、Ｎは２以上の自然数である。）がある。これは、大規模なテキストデータを学習し、直前のＮ−１個の単語から次の単語への遷移確率を統計的に与えるもLのである。複数Ｌ個の単語列ｗ1 ＝ｗ1 ，ｗ2 ，…，ｗL
Lの生成確率Ｐ（ｗ1 ）は次式で表される。
【０００３】
【数１】

20

L

30

40

50

【０００４】ここで、ｗt は単語列ｗ1 のうちｔ番目のj
１つの単語を表し、ｗi はｉ番目からｊ番目の単語列を表わす。上記数１において、確率Ｐ（ｗt ｜t‑1
t‑1
ｗt+1‑N）は、Ｎ個の単語からなる単語列ｗt+1‑Nが発声された後に単語ｗt が発声される確率であり、以下同様に、確率Ｐ（Ａ｜Ｂ）は単語又は単語列Ｂが発声された後に単語Ａが発声される確率を意味する。また、数１における「Π」はｔ＝１からＬまでの確率Ｐ（ｗtt‑1｜ｗt+1‑N）の積を意味し、以下同様である。
【０００５】ところで、近年、上記統計的言語モデルＮ−ｇｒａｍを用いて連続音声認識の性能を向上させる手法が盛んに提案されている（例えば、従来技術文献１「Ｌ．Ｒ．Ｂａｈｌ ｅｔ ａｌ．， Ａ Ｍａｘｉｍｕｍ ＬｉｋｅｌｉｈｏｏｄＡｐｐｒｏａｃｈ ｔｏＣｏｎｔｉｎｕｏｕｓ Ｓｐｅｅｃｈ Ｒｅｃｏｇｎｉｔｉｏｎ ，ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ＰａｔｔｅｒｎＡｎａｌｙｓｉｓ ａｎｄ Ｍａｃ
ｈｉｎｅ Ｉｎｔｅｌｌｉｇｅｎｃｅ，ｐｐ．１７９−
１９０，１９８３年」及び従来技術文献２「清水ほか，
単語グラフを用いた自由発話音声認識 ，電子情報通信学会技術報告，ＳＰ９５−８８，ｐｐ．４９−５４，
平成７年」参照。）。
【０００６】しかしながら、Ｎ−ｇｒａｍはパラメータ数が多く、それぞれの値を正確に求めるためには、莫大な量のテキストデータが必要とされる。この問題を解決する方法として、学習用テキストデータに出現しない単語遷移に対しても遷移確率を与える平滑化の手法（例えば、従来技術文献３「Ｆ．Ｊｅｌｉｎｅｋ ｅｔ ａ

(3)7ｌ．， Ｉｎｔｅｒｐｏｌａｔｅｄ ｅｓｔｉｍａｔｉｏｎ ｏｆ Ｍａｒｋｏｖ Ｓｏｕｒｃｅ Ｐａｒａｍｅｔｅｒｓ ｆｒｏｍ Ｓｐａｒｓｅ Ｄａｔａ ，Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ Ｗｏｒｋｓｈｏｐ Ｐａ
ｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ ｉｎ Ｐｒａｃｔｉｃｅ，ｐｐ．３８１−３８７，１９８０年」、従来
技術文献４「Ｓ．Ｍ．Ｋａｔｚ ｅｔ ａｌ．， Ｅｓｔｉｍａｔｉｏｎ ｏｆ Ｐｒｏｂａｂｉｌｉｔｉｅｓ
ｆｒｏｍ Ｓｐａｒｓｅ Ｄａｔａ ｆｏｒ ｔｈｅＬａｎｇｕａｇｅ ｍｏｄｅｌ Ｃｏｍｐｏｎｅｎｔｏｆ ａ Ｓｐｅｅｃｈ Ｒｅｃｏｇｎｉｚｅｒ ，ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ａｃｏｕｓｔｉｃｓ，Ｓｐｅｅｃｈ，ａｎｄ ＳｉｇｎａｌＰｒ
ｏｃｅｓｓｉｎｇ，ｐｐ．４００−４０１，１９８７
年」及び従来技術文献５「川端ほか， 二項事後分布に基づくＮ−ｇｒａｍ言語モデルのＢａｃｋ−ｏｆｆ平滑化 ，電子情報通信学会技術報告、ＳＰ９５−９３，ｐｐ１−６，平成７年」参照。）や、クラス分類、可変長
Ｎ−ｇｒａｍ等パラメータの数を減少させる手法（例えば、従来技術文献６「Ｐ．Ｆ．Ｂｒｏｗｎ ｅｔ ａｌ．， Ｃｌａｓｓ−Ｂａｓｅｄ ｎ−ｇｒａｍ ｍｏｄｅｌｓ ｏｆ ｎａｔｕｒａｌｌａｎｇｕａｇｅ ，Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｌｉｎｇｕｉｓｔｉｃｓ，Ｖｏｌ．１８，Ｎｏ．４，ｐｐ．４６７−４７９，
１９９２年」、従来技術文献７「Ｔ．Ｒ．Ｎｉｅｓｌｅ
ｒ ｅｔ ａｌ．， Ａ Ｖａｒｉａｂｌｅ−Ｌｅｎｇｔｈ Ｃａｔｅｇｏｒｙ−Ｂａｓｅｄ Ｎ−ｇｒａｍ
Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ ，Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ＩＣＡＳＳＰ
９６，Ｖｏｌ．１，ｐｐ．１６４−１６７，１９９６年」及び従来技術文献８「政瀧ほか， 連続音声認識のための可変長連鎖統計言語モデル ，電子情報通信学会技術報告，ＳＰ９５−７３，ｐｐ．１−６，平成７年」参照。）等が数多く提案されている。しかしながら、これらの手法を用いても、精度の良い言語モデルを構築するためには、相当量のデータを用いる必要があると考えられる。
【０００７】現在、実用化に向けて研究が行われている
連続音声認識システムは、ホテル予約・スケジューリン
グ等、タスクを限定し、システムのパフォーマンスの向上させている物が多い。しかしながら、タスク毎に大量の言語データを集めるのは困難である。特に、日本語の場合は、英語等のように単語の区切りが明確ではなく、通常人間が手作業で単語の切り出し・形態素解析の作業を行うため、大量のデータを集めるのはさらに困難である。しかしながら、データ量を増やすために、他のタスクのデータを用いるた場合、言語的特徴はタスク毎に異なるため、単純にデータを混合しても目的のタスク特有の言語特徴を効果的に表現することはできないと考えられる。
【０００８】これらの問題を解決する手段として、言語

10

20

30

40

50

特許２９３８８６６
8モデルのタスク適応を考えられている。すなわち、目的のタスク以外のデータも含めた大量のデータを学習する
ことによりデータ量の問題を解決し、得られたモデルの言語特徴を目的のタスクに適応させる方法である。タス
ク適応の手法として、従来提案されているものには大量のデータで作成したＮ−ｇｒａｍと、目的タスクのデータで作成したＮ−ｇｒａｍとを重みづけにより混合する
方法（例えば、従来技術文献９「伊藤ほか， 小量テキストによる言語モデルのタスク適応の検討 ，日本音響学会講演論文集，１−３−１９，ｐｐ．３７−３８，平成８年９月」及び従来技術文献１０，「坂本ほか， 音
声認識における統計的言語モデルの選択の効果 ，日本音響学会講演論文集，１−Ｑ−２４，ｐｐ．１５７−１
５８，平成６年３月」参照。）がある。
【０００９】例えば、従来技術文献９の手法を用いた第１の従来例のタスク適応化処理は、小量テキストに重みをかけて大量テキストと混合するものであり、次の手順によって言語モデルを作成する。
（ａ）小量テキストを、重み付きで大量テキストに加える。重み係数をｗとすると、小量テキスト中でｍ回出現
した単語は、大量テキスト中で（ｗ・ｍ）回出現した単語と同等に扱われることになる。
（ｂ）このようにしてできたテキストの中で、出現頻度が一定回数未満の単語を、未知語を表す記号に置き換える。すなわち、語彙の制限を行う。
（ｃ）テキストから統計を取り，Ｎ−ｇｒａｍモデルを構築する。
【００１０】しかしながら、第１の従来例のタスク適応化処理においては、重み係数ｗは１つのみしか使用していないので、言語モデルにおける遷移確率の予測精度はいまだ比較的低く、当該言語モデルを用いて音声認識をしたときの音声認識率は比較的低いという問題点があった。
【００１１】この第１の従来例の問題点を解決するために、本発明者は、特開平１０−１９８３９５号の特許出願（以下、第２の従来例という。）において、特定のタ
スクのＮ−ｇｒａｍ言語モデルの精度を向上させるた
め、ＭＡＰ推定（最大事後確率推定）によるタスク適応の手法を提案している。
【００１２】【発明が解決しようとする課題】しかしながら、第２の従来例の手法は単語列毎にタスク間のＮ−ｇｒａｍ遷移
確率の平均、及び分散を用いてパラメータ推定を行うた
め、テキスト全体があらかじめ複数のタスクに分割されている必要があり、単一のタスクのデータには適用できないという問題点があった。また、データ量が比較的多いタスクにおいては、タスク適応の効果が小さいという問題があった。
【００１３】本発明の目的は以上の問題点を解決し、各タスクに対する適応効果が大きく、従来例に比較して遷(4)9移確率の予測精度及び信頼性を改善することができる統計的言語モデルを生成することができる統計的言語モデ
ル生成装置、及び、当該統計的言語モデルを用いて従来例に比較して高い音声認識率で音声認識することができる音声認識装置を提供することにある。
【００１４】【課題を解決するための手段】本発明に係る請求項１記載の統計的言語モデル生成装置は、複数のクラスタの統計的言語モデルを記憶する記憶手段と、所定の複数の発声音声文を含む学習用テキストデータに基づいて各発声
音声文に対する統計的言語モデルを生成して、各発声音
声文が各クラスタに対応するように、上記生成した統計的言語モデルを上記記憶手段に記憶する初期化手段と、
上記学習用テキストデータの各発声音声文について、各クラスタにおける統計的言語モデルの文生成確率を計算
して最大の文生成確率を有するクラスタを選択してその発声音声文を所属させるように上記記憶手段に記憶する
クラスタ選択手段と、発声音声文が属するクラスタが変化したときに、各クラスタ毎に、上記クラスタ選択手段
によって選択された発声音声文を用いて上記記憶手段に記憶された各統計的言語モデルを更新して、各クラスタに対応した統計的言語モデルを生成するモデル変更手段と、上記複数の発声音声文に属するクラスタが１文も変化しなくなるまで、上記クラスタ選択手段の処理と、上記モデル変更手段の処理を繰り返す制御手段とを備えたことを特徴とする。
【００１５】また、請求項２記載の統計的言語モデル生
成装置は、請求項１記載の統計的言語モデル生成装置において、さらに、上記記憶手段に記憶された各クラスタ
毎のテキストデータに基づいて、最尤推定法を用いて各クラスタ毎に単語のＮ−ｇｒａｍ（Ｎは２以上の自然数
である。）の遷移確率を演算する第１の演算手段と、上記第１の演算手段によって演算された各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率の出現分布を事前知識の所
定の確率分布と仮定し、各クラスタ毎の確率分布の加重
平均及び加重分散を演算した後、演算された加重平均と加重分散に基づいて事前知識の確率分布のパラメータを演算する第２の演算手段と、上記第２の演算手段によって演算された事前知識の確率分布のパラメータと、上記
学習用テキストデータうちの特定クラスタのテキストデータの事後知識における処理対象の単語列の直前の単語列の出現回数と、処理対象の単語列の出現回数とに基づいて、各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を計算することにより、各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語モデルを生成する第３の演算手段とを備えたことを特徴とする。
【００１６】さらに、請求項３記載の統計的言語モデル
生成装置は、請求項２記載の統計的言語モデル生成装置
において、さらに、上記第３の演算手段によって演算された各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率に基

10

20

30

40

50

特許２９３８８６６
10
づいて，所定の平滑化処理を実行し、処理後の各クラス
タ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語モデルを生成する第１の生成手段を備えたことを特徴とする。
【００１７】またさらに、請求項４記載の統計的言語モ
デル生成装置は、請求項３記載の統計的言語モデル生成装置において、さらに、上記学習用テキストデータに基づいて、最尤推定法を用いて単語のＮ−ｇｒａｍ（Ｎは２以上の自然数である。）の遷移確率を演算して、上記
単語のＮ−ｇｒａｍの遷移確率を含む別の統計的言語モデルを生成する第２の生成手段を備えたことを特徴とする。
【００１８】本発明に係る請求項５記載の音声認識装置
は、入力される発声音声文の音声信号に基づいて、所定の統計的言語モデルを用いて音声認識する音声認識装置
において、請求項４記載の統計的言語モデル生成装置と、上記第２の生成手段によって生成された別の統計的言語モデルを用いて、入力される発声音声文の音声信号を音声認識して第１の認識仮説を出力する第１の音声認識手段と、上記第１の音声認識手段から出力される第１の認識仮説に応答して、上記第１の生成手段によって生成された各クラスタ毎の統計的言語モデルを用いて、入力される発声音声文の音声信号を音声認識して、文生成確率が最大のクラスタの統計的言語モデル生成装置を選択するモデル選択手段と、上記モデル選択手段によって選択されたクラスタの統計的言語モデルを用いて、上記
第１の音声認識手段から出力される第１の認識仮説に対して絞込処理を行って第２の認識仮説を生成して認識結果として出力する第２の音声認識手段とを備えたことを特徴とする。
【００１９】【発明の実施の形態】以下、図面を参照して本発明に係る実施形態について説明する。
【００２０】図１に本発明に係る一実施形態の連続音声認識装置のブロック図を示す。本実施形態の連続音声認
識装置は、図１において、特に、クラスタリング処理部
４０と、２つの言語モデル生成部４１，４２と、２つの単語仮説絞込部６ａ，６ｂを備えたことを特徴としている。本実施形態では、上述した第２の従来例の問題点を解決するためには、同一タスクの文でも、さまざまな内容の文が存在し、タスクという尺度よりも、文毎の内容で分類した方が言語的特徴がより明確になる考えられる。本実施形態では、これらの問題を解決し、さらに精度の高いＮ−ｇｒａｍ言語モデルを得るため、学習用テ
キストデータメモリ２０内のテキストデータのコーパス
全体をクラスタリング処理部４０によって自動的にクラスタリングし、言語モデル生成部４２において、ＭＡＰ推定を用いてそれぞれのクラスタ毎にＮ−ｇｒａｍ言語
モデルを構築する。また、精度を向上させるため、従来の単語Ｎ−ｇｒａｍに代り、可変長Ｎ−ｇｒａｍ（品詞(5)特許２９３８８６６

11と可変長単語列の複合Ｎ−ｇｒａｍ）を用いる。
【００２１】すなわち、本実施形態の連続音声認識装置
は、言語モデルの学習に用いるテキストコーパスをクラスタリングし、クラスタ毎の言語特徴を明確にさせ、言語モデルの精度を向上させる。しかしながら、入力された音声の発話文が属するクラスタをあらかじめ知ることは不可能である。このため、まず最初に、入力音声をコーパス全体で作成した言語モデルで認識を行い、次に、
認識結果からクラスタ別の言語モデルを１つのみ選択し再度認識を行う、という２段階の認識を行う。
10【００２２】中間認識結果Ｗからクラスタ別の言語モデ
ルＬＭｃの選択は、次式のように確率が最も高いものを選択することにより行う。
【００２３】【数２】

12
モデルの選択で用いる手法と同一であり、妥当な方法であると考える。以下に、クラスタリングの手順を示す。
＜ステップＳＳ１＞クラスタモデルの初期化：クラスタ数をＫとし、適当な手法によりコーパスからＫ文を選択して全クラスタに１文ずつ配置し、クラスタ毎の言語モ
デルＬＭ１、ＬＭ２、…、ＬＭＫを作成する。
＜ステップＳＳ２＞クラスタの選択：コーパスの全文について、各クラスタにおける言語モデルの文生成確率を求め、最も確率の高いクラスタを選択し、その文を所属させる。
＜ステップＳＳ３＞クラスタモデルの変更：各クラスタ
毎に、ステップＳＳ２で選択した文を用いて言語モデル
ＬＭ１、ＬＭ２、…、ＬＭＫを更新する。
＜ステップＳＳ４＞終了条件：文の属するクラスタが１文も変化しない場合、クラスタリングを終了する。それ以外の場合は、ステップＳＳ２及びＳＳ３の処理を繰り返す。ただし、ある程度の回数を繰り返してもクラスタリングが収束しない場合は強制終了させる。
【００３１】次いで、ＭＡＰ推定によるＮ−ｇｒａｍの適応について説明する。クラスタリングを行うことにより、クラスタ毎の言語的特徴は明確になるものの、クラスタ毎のデータ量は減少するため、Ｎ−ｇｒａｍのパラメータ推定の精度が低下することが考えられる。このため、第２の従来例で開示されたＭＡＰ推定を用いた適応の手法を用い、パラメータ推定の精度を向上させる。
【００３２】まず、ＭＡＰ推定法による遷移確率の算出について述べる。通常、Ｎ−ｇｒａｍの遷移確率は、Ｍ
Ｌ（Ｍａｘｉｍｕｍ Ｌｉｋｅｌｉｈｏｏｄ；最尤）推定法により算出される。最尤推定法は、観測したサンプ
ル値（すなわち、テキストデータの単語）ｘに対して、遷移確率ｐが決まったときに単語ｘとなる尤度関数ｆ（ｘ｜ｐ）を最大にさせる値として、Ｎ−ｇｒａｍ遷移
確率ｐML が次式で定められる。
【００３３】【数５】【００２４】上記式は、Ｂａｙｅｓ則を用いると、次式のように表される。
【００２５】20【数３】【００２６】ここで、Ｐ（ＬＭｋ）は、言語モデルＬＭ
ｋの事前確率である。この確率は前発話の内容等より求めることができるが、本実施形態ではこの確率に関しては考慮しない。従って、次の式によりクラスタ言語モデ
ルを選択する。
【００２７】【数４】30【００２８】すなわち、Ｋ個のクラスタのそれぞれのモ
デルＬＭｋで認識結果文Ｗに対する生成確率Ｐ（Ｗ｜Ｌ
Ｍｋ）（１≦ｋ≦Ｋ）を求め、確率の最も高いクラスタ
モデルＬＭｃを選択する。この選択処理は、言語モデル
選択部８により行われる。
【００２９】次いで、クラスタリング処理部４０によるコーパスのクラスタリングについて説明する。コーパスを自動クラスタリングするために、公知のＫ−ｍｅａｎ 40ｓ法に類似した方法を用いた。Ｋ−ｍｅａｎｓ法は、サンプルを距離が最も近いクラスタ中心に所属させる形でクラスタリングを行う手法である。この手法を文のクラスタリングに適用するため、次の２点で通常の方法と異なる。
（１）クラスタ中心ベクトルをそのクラスタに属する文で生成される言語モデルとする。
（２）距離尺度に文の生成確率Ｐ（Ｗ｜ＬＭｋ）を用いる。
【００３０】これらは、前述した認識結果からクラスタ 50【００３４】ここで、関数ａｒｇｍａｘは、ｐを変化したときに関数の引数が最大となるときのｐの値を示す関数である。議論を簡単にするため、単語ｗk からｗl へのｂｉｇｒａｍの遷移確率ｐ（ｗl ｜ｗk ）について考え、
また、以下のような変数の定義を行う。
（ａ）Ｎ：学習用テキストデータ中の単語ｗk の出現回数。
（ｂ）ｎ：学習用テキストデータ中の単語列ｗk ｗl の出
現回数。
（ｃ）ｐ：単語ｗk からｗl への遷移確率。
【００３５】このとき尤度関数ｆ（ｘ｜ｐ）は、単語ｗ
k がＮ回観測され、次に単語ｗl に続く回数がｎ回で、それ以外の単語に続く回数が（Ｎ−ｎ）回であるから、次(6)特許２９３８８６６1314式を得ることができる。
＊ 得られる分布ｇ（ｐ）に従う変数とし、この事前分布と【００３６】
実際に観測されたサンプル値とを用いて、実際の遷移確
nN‑n【数６】ｆ（ｐ）＝ｐ （１−ｐ）
率が推定される。このため、観測データで出現しない単【００３７】ｆ（ｐ）の最大化条件ｄｌｏｇｆ（ｐ）／
語遷移に対しても、事前知識により０でない遷移確率を
ｄｐ＝０を解くことにより、Ｎ−ｇｒａｍの遷移確率は与えることができる。
次式のように計算される。
【００４４】次いで、ｂｉｇｒａｍを例にとり、ＭＡＰ【００３８】
推定法によりＮ−ｇｒａｍの遷移確率を求める方法を示【数７】ｐML ＝ｎ／Ｎ
す。ただし、変数の定義は上述と同じものを用いる。ま‑1【００３９】従って、もし単語列ｗk ｗl が観測データ上ず、遷移確率ｐの事前分布としてベータ分布（ａｐα‑1で出現しない場合、ｎ＝０であるから、遷移確率は０と 10 （１−ｐ）β ，ここで、α及びβはベータ分布の正の推定されてしまう。これに対して、ＭＡＰ（Ｍａｘｉｍ
パラメータであり、ａは正規化のための正の定数であｕｍＡ−ｐｏｓｔｅｒｉｏｒｉ Ｐｒｏｂａｂｉｌｉｔ
る。）を用いる。なお、０≦ｐ≦１である。ベータ分布
ｙ；最大事後確率）推定においては、最尤推定法を用いを用いる理由は次の２点である。
て、観測したサンプル値ｘに対して、遷移確率ｐが決定（ａ）ベータ分布は２項分布の自然共役事前分布で、Ｍされる事後確率関数ｈ（ｐ｜ｘ）を最大化する値としＡＰ推定によるパラメータの解が求まりやすい。
て、Ｎ−ｇｒａｍの遷移確率が次式で求められる。
（ｂ）ベータ分布のパラメータα，βを変化させること【００４０】
により、様々な形状の分布を表すことができる。
【数８】
ここで、ベータ分布は、連続変数の確率分布の一種であり、ガンマ関数をもとにして構成されるベータ関数が表20 示に含まれる。なお、本実施形態においては、ベータ分【００４１】ここで、Ｂａｙｅｓ則を用いると、上記数布を用いるが、本発明はこれに限らず、ベータ分布に代８は次式のように変形される。
えて、ディリクレ分布を用いてもよい。ディリクレ分布【００４２】
は、ベータ分布を多変量分布に拡張したものであり、多【数９】項分布の自然共役事前分布である。
【００４５】上記数９のＭＡＰ推定法の定義に従うと、遷移確率ｐMAP は、尤度関数ｆ（ｐ）と事前分布ｇ【００４３】ここで、ｇ（ｐ）は、各クラスタのテキス（ｐ）とを用いて次式のように求められる。
トデータに基づいて予め決定される、Ｎ−ｇｒａｍの遷【００４６】
移確率ｐの事前分布である。すなわち、ＭＡＰ推定法を【数１０】用いると、Ｎ−ｇｒａｍの遷移確率はある事前知識より＊30【００４７】ここで、関数Ｌ（ｐ）が最大となるための条件ｄｌｏｇＬ（ｐ）／ｄｐ＝０をｐについて解くと、単語のｂｉｇｒａｍの遷移確率ｐMAP は次式のように求まる。
【００４８】
40【数１１】ｐMAP ＝（ｎ＋α−１）／（Ｎ＋α＋β−２）【００４９】ここで、パラメータα及びβは、事前分布であるベータ分布のパラメータであるが、これらは、次式のように求めることができる。なお、ベータ分布の平2均μ及び分散σ は以下の式となることが知られている（例えば、従来技術文献５参照。）。
【００５０】【数１２】μ＝α／（α＋β）
2
2
σ ＝（αβ）／｛（α＋β） （α＋β＋１）｝50【００５１】これらの式をα，α＋βについて解くと、次式が得られる。
【００５２】
2
2【数１３】α＝｛μ （１−μ）｝／σ −μ2α＋β＝｛μ（１−μ）｝／σ −１【００５３】以上より、観測テキストデータから頻度を計算することにより得られるパラメータＮ，ｎ、及び事2
前分布の平均μ及び分散σ により、上記数１１及び数１３を用いて、単語のｂｉｇｒａｍの遷移確率を求める
ことができる。
【００５４】これまでの議論は、単語のｂｉｇｒａｍについてのみの議論であったが、一般に、ＭＡＰ推定法に
n‑1
よるＮ−ｇｒａｍの遷移確率ｐ（ｗn ｜ｗ1）は、直n‑1
前の単語ｗk を直前の単語列ｗ1と置き換え、パラメータＮ及びｎを次のように定義すれば、同じ議論が通用(7)特許２９３８８６６1516
することは明らかである。
＊ す。不特定のクラスタのＮ−ｇｒａｍを事前知識とみな
n‑1（ａ）Ｎ：学習用テキストデータ中の単語列ｗ1の出したとき、その事前分布は、各クラスタにおけるＮ−ｇ
n‑1
現回数（ｃ（ｗ1））、すなわち、処理対象の単語列
ｒａｍ遷移確率の分布と考えることができる。ただし、の直前の単語列の出現回数である。
各クラスタにおけるＮ−ｇｒａｍ遷移確率は最尤推定法n（ｂ）ｎ：学習用テキストデータ中の単語列ｗ1 の出現により求められる。この事前分布をベータ分布と仮定しn
回数（ｃ（ｗ1 ））、すなわち、処理対象の単語列の出てＭＡＰ推定法の事前分布として用いる。このとき、事2
現回数である。
前分布の加重平均μ、及び加重分散σ は次式で求めら【００５５】次いで、ＭＡＰ推定法を用いたクラスタ適れる。
応化処理について述べる。上述のＭＡＰ推定法によるＮ【００５６】−ｇｒａｍをクラスタ適応化に応用するために、図３に 10 【数１４】
示すように、複数のクラスタより構成される大量のテキ
ストデータから構成される不特定のタスクのテキストデータに基づくＮ−ｇｒａｍを事前知識とし、目的の特定【数１５】
クラスタｉのテキストデータ２１−ｉを事後知識とみな＊

n‑1【００５７】ここで、ｃi （ｗ1）はクラスタｉにお※ い単語組に対しても、０でない遷移確率を与える必要が
n‑1
いて単語列ｗ1の出現頻度であり、ｐi （ｗn ｜ある。もう１つの問題は、本発明に係るタスク適応化処
n‑1
n‑1
ｗ1
）はクラスタｉにおける単語列ｗ1からｗn へ理は、全ての遷移確率を独立に求める手法であるため、の遷移確率である。また、事後知識を目的のクラスタの 20 遷移確率の和が１になるとは限らない。連続音声認識等
テキストデータとすると、前述のパラメータＮ及びｎはに適用する際は、問題とはならないが、パープレキシテ
次のように表される。
ィで評価する際は、１に正規化されていないと、正しい（ａ）Ｎ：目的の特定クラスタｉのテキストデータ２１
評価ができない。従って、近年盛んに用いられているＢ
n‑1−ｉ中の単語列ｗ1の出現頻度、すなわち、処理対象
ａｃｋ−Ｏｆｆ平滑化法（例えば、従来技術文献４参の単語列の直前の単語列の出現回数である。
照。）を拡張して、これらの問題を解決する方法を述べ（ｂ）ｎ：目的の特定クラスタｉのテキストデータ２１る。
nn−ｉ中の単語列ｗ1 の出現頻度、すなわち、処理対象の【００５９】単語列ｗ1 が不特定のクラスタのテキスト
単語列の出現回数である。
データ２１−ｋに含まれる場合は、上記のタスク適応化
2
n‑1
以上の加重平均μ，加重分散σ ，パラメータｎ及びＮ処理により、遷移確率ｐMAP （ｗn ｜ｗ1）を求め、チを上述の数１０及び数１２に代入することにより、ＭＡ 30 ューリング（Ｔｕｒｉｎｇ）推定法により、確率ｐMAP
n‑1
Ｐ推定法によるタスク適応後のＮ−ｇｒａｍ遷移確率が（ｗn ｜ｗ1）を軽減する。ただし、軽減係数は不特得られる。
定のクラスタのテキストデータ３１の頻度（ｃn【００５８】さらに、Ｂａｃｋ−ｏｆｆ平滑化法によるI （ｗ1 ））を用いて計算する。当該軽減により生じた
n
遷移確率の平滑化について述べる。上記でＭＡＰ推定法
確率の余剰分をｗ1 が不特定のクラスタのテキストデー
によるタスク適応の基本原理を述べたが、実際に言語モ
タ３１に含まれない単語連鎖に対して、（ｎ−１）−ｇ
デルとして使用するには、２つの問題がある。１つは、ｒａｍの遷移確率に比例して配分する。以上をまとめる
平滑化の問題である。不特定タスクの大量のテキストデと、クラスタ適応化されたＮ−ｇｒａｍの平滑化後の遷n‑1ータを用いても、出現しない単語列が存在し、ＭＡＰ推移確率Ｐｓ（ｗn ｜ｗ1）は次式で表される。
定法を用いても、Ｎ−ｇｒａｍの遷移確率が０となって【００６０】
しまう。従って、平滑化処理によりテキストに出現しな※40 【数１６】n‑1
Ｐｓ（ｗn ｜ｗ1）n‑1
n‑1
＝Ｐｈ（ｗn ｜ｗ1），ｃI （ｗ1）＞０のとき
n‑1
n‑1
n‑1
n‑1
＝α(ｗ1
)Ｐｓ(ｗn ｜ｗ2),ｃI (ｗ1)＝０,ｃI (ｗ2)＞０のときn‑1
n‑1
n‑1＝Ｐｓ（ｗn ｜ｗ2），ｃI （ｗ1）＝０，ｃI （ｗ2）＝０のときnn【００６１】上記の数１６において、Ｐｈはクラスタ適
ci （ｗ1 ）｝・ｐMAP （ｗ1 ）応化により得られる確率に軽減係数をかけたものであ【００６３】ここで、ｎc は、不特定のクラスタのテキ
り、次式で与えられる。
ストデータ３１中にｃ回出現する単語列の種類数（異なn‑1【００６２】り）であり、また、数１６で、α（ｗ1）は正規化のn‑1n【数１７】Ｐｈ（ｗn ｜ｗ1）＝｛ｃI （ｗ1 ）＋１｝
ための係数であり、次のように求められる。
nn／｛ｃI （ｗ1 ）｝×｛ｎｃI （ｗ1 ）＋１｝／｛ｎ50 【００６４】

(8)【数１８】α（ｗ1
ここで、

n‑1

17
）＝Ａａ／Ａｂ【００６５】以上のＢａｃｋ−ｏｆｆ平滑化法を応用した手法を用いることにより、学習データ上に出現しない
単語連鎖に対しても確率値を与えることができる。また、遷移確率ｐMAP が正規化されていなくても、上記数
１８においてαを求める際に正規化の計算を行うため、遷移確率の和は自動的に１になる。
【００６６】従って、本実施形態で用いるＭＡＰ推定法
によるＮ−ｇｒａｍの適応手法について要約すると、以下の通りとなる。ＭＡＰ推定法による単語列ｈから次単
語ｗへの単語Ｎ−ｇｒａｍの遷移確率Ｐ（ｗ｜ｈ）は次式により与えられる。
【００６７】【数１９】Ｐ（ｗ｜ｈ）＝｛Ｎ（ｈ，ｗ）＋α−１｝／（Ｎ（ｈ）＋α＋β−２）【００６８】ここで、Ｎ（＃）はそのクラスタでの単語（列）＃の出現頻度である。また、α及びβは事前分布‑1‑1として用いるベータ分布（ａｐα （１−ｐ）β ，ａ）のパラメータであり、次式により求められる。
【００６９】
2
2【数２０】α＝｛μ （1―μ）／σ ｝−μ2【数２１】α＋β＝｛μ（１−μ）／σ ｝−１2【００７０】上式のμ及びσ は、クラスタ毎の遷移確率Ｐ（ｗ｜ｈ）の分布の平均及び分散である。また、本実施形態で用いる可変長Ｎ−ｇｒａｍは、クラスＮ−ｇｒａｍを基本としたモデルであり、遷移確率はＰ（ｗｓ｜ｃ（ｗｓ））・Ｐ（ｃ（ｗｓ）｜ｃ（ｈ））として与えられる。ただし、ｗｓは可変長の単語列で、ｃ（＃）
は単語（列）＃の属するクラスである。Ｐ（ｃ（ｗｓ）｜ｃ（ｈ））はクラス間の遷移確率であり、上記数１９と同様に与えることができる。また、Ｐ（ｗｓ｜ｃ（ｗｓ））はその単語の属するクラスから単語の出現確率であり、ＭＡＰ推定により次式で与えられる。
【００７１】【数２２】Ｐ（ｗｓ｜ｃ（ｗｓ））＝｛Ｎ（ｗｓ）＋α−１｝／｛Ｎ（ｃ（ｗｓ））＋α＋β−２｝【００７２】また、公知のＢａｃｋ−ｏｆｆ平滑化法を用い、コーパス上に出現しなかった単語遷移に対して確率を与えるとともに、遷移確率の和が１になるよう確率の正規化を行う。
【００７３】図４は、図１のクラスタリング処理部４０
によって実行されるクラスタリング処理を示すフローチ
ャートである。図４において、まず、ステップＳ１において学習用テキストデータメモリ２０からＫ個の発声音
声文をランダムに選択し、ステップＳ２において、上記

10

20

30

40

50

特許２９３８８６６
18
選択した発声音声文を、学習用テキストデータメモリ２
１の各メモリ２１−１乃至２１−Ｋに、クラスタ１からクラスタＭへの順番に１文ずつ書き込む。次いで、ステップＳ３において学習用テキストデータメモリ２１の各クラスタのテキストデータを読み出し、ステップＳ４において上記読み出した各クラスタのテキストデータから、各クラスタ毎に統計的言語モデルを生成する。ここで、生成された統計的言語モデルはクラスタリング処理部４０の内部メモリ又は統計的言語モデルメモリ３２に記憶される。
【００７４】さらに、ステップＳ５において学習用テキ
ストデータメモリ２０から１文ずつ読み出し、ステップ
Ｓ６においてステップＳ４で生成した各統計的言語モデルに対して、ステップＳ５で読み出した文の生成確率を計算し、確率の最も高いクラスタＣを選択し、ステップ
Ｓ７においてステップＳ５で読み出した文を、学習用テ
キストデータメモリ２１のメモリ２１−ＣにクラスタＣ
として書き込む。そして、ステップＳ８においてステッ
プＳ５で読み出した文は最後の文か否かが判断され、ＮＯであるときは、次の文を処理するために、ステップＳ５に戻る。一方、ステップＳ８でＹＥＳのときは、ステップＳ９において、ステップＳ６で選択されたクラスタ
Ｃが１文でも変化したか否かが判断され、ＹＥＳのときは再度クラスタリング処理を実行するために、ステップ
Ｓ３に戻る。ステップＳ９でＮＯであるときは、当該ク
ラスタリング処理を終了する。
【００７５】図５は、図１の言語モデル生成部４１によって実行される言語モデル生成処理を示すフローチャー
トである。図５において、まず、ステップＳ１１において学習用テキストデータメモリ２０からコーパスのテキ
ストデータを読み出し、ステップＳ１２において読み出したテキストデータに基づいて最尤推定法を用いて単語
ｂｉｇｒａｍの遷移確率を数６を用いて計算する。次いで、ステップＳ１３において計算された単語ｂｉｇｒａ
ｍの遷移確率を含む統計的言語モデルを生成して、統計的言語モデルメモリ３１に記憶して当該言語モデル生成
処理を終了する。
【００７６】図６は、図１の言語モデル生成部４２によって実行される言語モデル生成処理を示すフローチャー
トである。図６において、まず、ステップＳ２１において学習用テキストデータメモリ２０から各クラスタｋの
テキストデータ２１−ｋ（ｋ＝１，２，…，Ｋ）を読み出す。次いで、ステップＳ２２において、読み出した各
クラスタｋのテキストデータ２１−ｋに基づいて最尤推定法を用いて各クラスタｋ毎に単語ｂｉｇｒａｍの遷移確率を数６を用いて計算し、ステップＳ２３において各
クラスタｋの単語ｂｉｇｒａｍの遷移確率の出現頻度分
布をベータ分布と仮定し、ベータ分布の加重平均μ及び2
加重分散σ を数１３及び数１４を用いて計算した後これらに基づいて数１２を用いてパラメータα及びβを計(9)19算する。さらに、ステップＳ２４において事前知識のパ
ラメータα及びβと、特定クラスタのテキストデータ２
１−ｉの事後知識のパラメータＮ及びｎとに基づいて数１０を用いて各クラスタｋ毎の単語ｂｉｇｒａｍの遷移確率ｐを計算する。ここで、上記ステップＳ２１からＳ
２４までの処理は、すべてのクラスタｋ＝１，２，…，
Ｋについて実行される。さらに、ステップＳ２５において各クラスタｋ毎の単語ｂｉｇｒａｍの遷移確率ｐに基づいてＢａｃｋ−ｏｆｆ平滑化処理を実行し、処理後の各クラスタｋ毎の単語ｂｉｇｒａｍの遷移確率を含む統計的言語モデルを生成して、クラスタ適応化された統計的言語モデルメモリ３２に記憶して、当該言語モデル生
成処理を終了する。
【００７７】次いで、図１に示す連続音声認識装置の構
成及び動作について説明する。図１において、単語照合
部４に接続された音素隠れマルコフモデル（以下、隠れマルコフモデルをＨＭＭという。）メモリ１１内の音素
ＨＭＭは、各状態を含んで表され、各状態はそれぞれ以下の情報を有する。
（ａ）状態番号、（ｂ）受理可能なコンテキストクラ
ス、（ｃ）先行状態、及び後続状態のリスト、（ｄ）出力確率密度分布のパラメータ、及び（ｅ）自己遷移確率
及び後続状態への遷移確率。
なお、本実施形態において用いる音素ＨＭＭは、各分布がどの話者に由来するかを特定する必要があるため、所定の話者混合ＨＭＭを変換して生成する。ここで、出力確率密度関数は３４次元の対角共分散行列をもつ混合ガ
ウス分布である。また、単語照合部４に接続された単語辞書メモリ１２内の単語辞書は、音素ＨＭＭメモリ１１
内の音素ＨＭＭの各単語毎にシンボルで表した読みを示
すシンボル列を格納する。
【００７８】図１において、話者の発声音声はマイクロ
ホン１に入力されて音声信号に変換された後、特徴抽出
部２に入力される。特徴抽出部２は、入力された音声信
号をＡ／Ｄ変換した後、例えばＬＰＣ分析を実行し、対数パワー、１６次ケプストラム係数、Δ対数パワー及び
１６次Δケプストラム係数を含む３４次元の特徴パラメータを抽出する。抽出された特徴パラメータの時系列はバッファメモリ３を介して単語照合部４に入力される。
【００７９】単語照合部４は、ワン−パス・ビタビ復号化法を用いて、バッファメモリ３を介して入力される特徴パラメータのデータに基づいて、音素ＨＭＭ１１と単語辞書１２とを用いて単語仮説を検出し尤度を計算して出力する。ここで、単語照合部４は、各時刻の各ＨＭＭの状態毎に、単語内の尤度と発声開始からの尤度を計算する。尤度は、単語の識別番号、単語の開始時刻、先行
単語の違い毎に個別にもつ。また、計算処理量の削減のために、音素ＨＭＭ１１及び単語辞書１２とに基づいて計算される総尤度のうちの低い尤度のグリッド仮説を削減する。単語照合部４は、その結果の単語仮説と尤度の

10

20

30

40

50

特許２９３８８６６20
情報を発声開始時刻からの時間情報（具体的には、例えばフレーム番号）とともにバッファメモリ５を介して単語仮説絞込部６ａに出力する。
【００８０】単語仮説絞込部６ａは、単語照合部４からバッファメモリ５を介して出力される単語仮説に基づいて、統計的言語モデルメモリ３２内の統計的言語モデル
を参照して、終了時刻が等しく開始時刻が異なる同一の単語の単語仮説に対して、当該単語の先頭音素環境毎に、発声開始時刻から当該単語の終了時刻に至る計算された総尤度のうちの最も高い尤度を有する１つの単語仮説で代表させるように単語仮説の絞り込みを行った後、絞り込み後のすべての単語仮説の単語列のうち、最大の総尤度を有する仮説の単語列を認識結果としてバッファ
メモリ７を介して言語モデル選択部８に出力する。本実
施形態においては、好ましくは、処理すべき当該単語の先頭音素環境とは、当該単語より先行する単語仮説の最終音素と、当該単語の単語仮説の最初の２つの音素とを含む３つの音素並びをいう。
【００８１】単語仮説絞込部６ａの処理においては、例
えば、図２に示すように、（ｉ−１）番目の単語Ｗi‑1の次に、音素列ａ1 ，ａ2 ，…，ａn からなるｉ番目の単語Ｗi がくるときに、単語Ｗi‑1 の単語仮説として６つの仮説Ｗａ，Ｗｂ，Ｗｃ，Ｗｄ，Ｗｅ，Ｗｆが存在している。ここで、前者３つの単語仮説Ｗａ，Ｗｂ，Ｗｃの最終音素は／ｘ／であるとし、後者３つの単語仮説Ｗｄ，Ｗｅ，Ｗｆの最終音素は／ｙ／であるとする。終了時刻
ｔe と先頭音素環境が等しい仮説（図２では先頭音素環
境が ｘ／ａ1 ／ａ2 である上から３つの単語仮説）のうち総尤度が最も高い仮説（例えば、図２において１番
上の仮説）以外を削除する。なお、上から４番めの仮説
は先頭音素環境が違うため、すなわち、先行する単語仮説の最終音素がｘではなくｙであるので、上から４番めの仮説を削除しない。すなわち、先行する単語仮説の最終音素毎に１つのみ仮説を残す。図２の例では、最終音
素／ｘ／に対して１つの仮説を残し、最終音素／ｙ／に対して１つの仮説を残す。
【００８２】次いで、言語モデル選択部８は、上述のよ
うに、数４に従ってクラスタの統計的言語モデルを統計的言語モデルメモリ３２から選択し、すなわち、Ｋ個のクラスタのそれぞれのモデルＬＭｋで認識結果文Ｗに対する生成確率Ｐ（Ｗ｜ＬＭｋ）（１≦ｋ≦Ｋ）を求め、確率の最も高いクラスタモデルＬＭｃを選択して、その選択情報を単語仮説絞込部６ｂに出力する。これに応答
して、単語仮説絞込部６ｂは、単語仮説絞込部６ａによって絞り込まれた単語仮説に対して、再度、統計的言語
モデルメモリ３２で選択された統計的言語モデルを用いて、単語仮説絞込部６ａと同様の処理を実行して、単語仮説の絞込処理を実行して、処理後の例えば最尤の絞り込んだ単語仮説（ここで、ｎ−ｂｅｓｔでもよい。）を認識結果として出力する。

(10)特許２９３８８６６

21
22【００８３】以上の実施形態においては、当該単語の先＊ 選択された１つのクラスタの統計的言語モデルを参照し
頭音素環境とは、当該単語より先行する単語仮説の最終て音声認識する第２の音声認識部とを備えることにな
音素と、当該単語の単語仮説の最初の２つの音素とを含る。
む３つの音素並びとして定義されているが、本発明はこ【００８６】
れに限らず、先行する単語仮説の最終音素と、最終音素【実施例】本発明者は、本実施形態で用いるタスク適応と連続する先行する単語仮説の少なくとも１つの音素と化された統計的言語モデルの性能を確認するため、評価を含む先行単語仮説の音素列と、当該単語の単語仮説の実験を行った。実験で用いたデータは、本特許出願人が最初の音素を含む音素列とを含む音素並びとしてもよ所有する自然発話データベース（例えば、従来技術文献
い。
１１「Ｔ．Ｍｏｒｉｍｏｔｏ ｅｔ ａｌ．， Ａ Ｓ【００８４】以上の実施形態において、特徴抽出部２10 ｐｅｅｃｈ ａｎｄ Ｌａｎｇｕａｇｅ Ｄａｔａｂａと、単語照合部４と、単語仮説絞込部６ａ，６ｂと、ク
ｓｅ ｆｏｒ Ｓｐｅｅｃｈ Ｔｒａｎｓｌａｔｉｏｎ
ラスタリング処理部４０と、言語モデル生成部４１，４Ｒｅｓｅａｒｃｈ ，ＩＣＳＬＰ，ｐｐ．１７９１−２とは、例えば、デジタル電子計算機などのコンピュー
１７９４，１９９４年」参照。）であり、本データベータで構成され、バッファメモリ３，５と、音素ＨＭＭメスのサイズは、１，３３２対話、３２，０７４文、５９
モリ１１と、単語辞書メモリ１２と、学習用テキストデ
７，６２６単語で、語彙は７、２２１語である。このうータメモリ２０，２１と、統計的言語モデルメモリ３
ち評価用として「ホテルの部屋の予約」タスクから４０
１，３２とは、例えばハードデイスクメモリなどの記憶
対話、１１６６文、１８、３８１単語を選択し、残りの装置で構成される。
データを言語モデルの学習に使用した。
【００８５】以上実施形態においては、単語照合部４と【００８７】最初にテストセットパープレキシティによ単語仮説絞込部６ａ，６ｂとを用いて音声認識を行って 20 り評価を行った。可変長Ｎ−ｇｒａｍは活用形及び活用いるが、本発明はこれに限らず、例えば、音素ＨＭＭ１型を含む１５８品詞による初期クラスから、５００クラ
１を参照する音素照合部と、例えばＯｎｅ Ｐａｓｓ
ス分離を行ったモデルを使用した。クラスタ数４、８、ＤＰアルゴリズムを用いて統計的言語モデルを参照して
１６、３２、６４の時のクラスタモデルと、データベー
単語の音声認識を行う音声認識部とで構成してもよい。
ス全体で作成したモデル（クラスタ数１）とのパープレ
ただし、本実施形態の場合、統計的言語モデルメモリ３
キシティの比較を表１に示す。
１を参照して音声認識する第１の音声認識部と、統計的【００８８】
言語モデルメモリ３２内で言語モデル選択部８によって＊【表１】
パープレキシティによる比較――――――――――――――――――――――――――――――――――
全体モデル
クラスタモデル（クラスタ数）
４
８
１６
３２
６４
――――――――――――――――――――――――――――――――――
１４．２１ １３．００ １２．３３ １１．４４ １０．４４ ９．７２――――――――――――――――――――――――――――――――――【００８９】ここで、パープレキシティとは以下のようた。また、評価に用いた「ホテルの部屋の予約」タスクに定義される。例えば、複数ｎ個の単語からなる長い単のデータは、データ量が多いために第２の従来例では、n
語列ｗ1 ＝ｗ1 ｗ2 …ｗn があるときのエントロピーＨ
タスク適応の効果は、単語ｂｉｇｒａｍで５％程度と小（ｎ）は次式で表される。
さかったが、本実施形態に係る装置では、文の内容毎に【００９０】
適応モデルを作成するため、大きな精度向上が得られた【数２３】40 と考えられる。計算量の都合のため、クラスタ数は最大nＨ（ｎ）＝−（１／ｎ）・ｌｏｇ2 Ｐ（ｗ1 ）６４としたが、さらにクラスタ数を増加させることによnn【００９１】ここで、Ｐ（ｗ1 ）は単語列ｗ1 の生成確
り、パープレキシティは減少すると考えられる。ただ率であり、パープレキシティＰＰ（ｎ）は次式で表されし、クラスタ数を多くしすぎると各クラスタのデータ量る。
が少なくなりすぎ、パラメータ推定が困難になるため、【００９２】
限界はあると考えられる。
Ｈ（ｎ）【数２４】ＰＰ（ｎ）＝２【００９４】次に、連続音声認識に適用した際の認識率【００９３】上記表１より、クラスタ数に比例してパーによって評価を行った。音響モデルにはＭＬ−ＳＳＳ法
プレキシティが減少しており、クラスタ毎の言語的特徴（従来技術文献１２「Ｍ．Ｏｓｔｅｎｄｏｒｆ ｅｔがよりできたと考えられる。クラスタ数が６４の時は、
ａｌ．， ＨＭＭ ｔｏｐｏｌｏｇｙ ｄｅｓｉｇｎ
全体モデルよりもパープレキシティが約３２％減少し50 ｕｓｉｎｇ ｍａｘｉｍｕｍｌｉｋｅｌｉｈｏｏｄ ｓ(11)特許２９３８８６６

23
24
ｕｃｃｅｓｓｉｖｅ ｓｔａｔｅ ｓｐｌｉｔｔｉｎ＊ 照。）により認識解の探索を行った。言語モデルは、コ
ｇ ，Ｃｏｍｐｕｔｅｒ Ｓｐｅｅｃｈ ａｎｄ ｌａ
ーパス全体で作成したモデルとクラスタ数４、１６、６
ｎｇｕａｇｅ，Ｎｏ．１１，ｐｐ．１７−４１，１９９４のクラスタモデルとを比較した。表２に単語認識率７年」参照。）によるＨＭＭ網（８０１状態５混合分（Ａｃｃｕｒａｃｙ）（％）及び文認識率（％）を示
布）の不特定話者モデルを用い、単語グラフサーチ法
す。
（従来技術文献１３「清水ほか， 単語グラフを用いた【００９５】
自由発話音声認識 ，電子情報通信学会研究報告，ＳＰ【表２】
９５−８８，ｐｐ．４９−５４，１９９５年１２月」参＊
連続音声認識における性能比較――――――――――――――――――――――――――――――――――
認識率の種類全体モデル
クラスタモデル（クラスタ数）４
１６６４――――――――――――――――――――――――――――――――――
単語認識率
７７．６６
７８．６９
７９．０６
７８．５４
――――――――――――――――――――――――――――――――――
文認識率
３３．４３
３５．８２
３６．１２
３７．３１
――――――――――――――――――――――――――――――――――【００９６】上記表２より、単語認識率はクラスタ数１生成した統計的言語モデルを上記記憶手段に記憶する初６の時に全体モデルより約１．４％向上（改善率約６期化手段と、上記学習用テキストデータの各発声音声文％）し、文認識率はクラスタ数６４の時に最大約３．９ 20 について、各クラスタにおける統計的言語モデルの文生％向上（改善率約６％）し、連続音声認識における有効成確率を計算して最大の文生成確率を有するクラスタを性を確認した。クラスタ数６４の時の単語認識率はクラ
選択してその発声音声文を所属させるように上記記憶手
スタ数４、１６の時よりも低下しているが、これは、誤段に記憶するクラスタ選択手段と、発声音声文が属する認識が生じた際にクラスタモデルの選択が正しく行われクラスタが変化したときに、各クラスタ毎に、上記クラないことが原因と考えられる。
スタ選択手段によって選択された発声音声文を用いて上【００９７】以上説明したように、本実施形態によれ
記記憶手段に記憶された各統計的言語モデルを更新しば、コーパスの各文をクラスタリングし、それぞれのクて、各クラスタに対応した統計的言語モデルを生成する
ラスタ毎にＭＡＰ推定によるＮ−ｇｒａｍ型の言語モデ
モデル変更手段と、上記複数の発声音声文に属するクラルを作成することにより言語特徴をより効果的に表現でスタが１文も変化しなくなるまで、上記クラスタ選択手きる手法を開示している。実験の結果、パープレキシテ 30 段の処理と、上記モデル変更手段の処理を繰り返す制御
ィは最大約３２％減少し、また、連続音声認識に適用し手段とを備える。従って、少量のテキストデータを用いた際、単語認識率及び文認識率共に最大約６％改善し、て、従来例に比較して、より高い遷移確率の予測精度及本手法の有効性を確認した。すなわち、本実施形態によび信頼性を有する統計的言語モデルを生成することがでれば、少量のテキストデータを用いて、従来例に比較しきる。
て、より高い遷移確率の予測精度及び信頼性を有する統【０１００】また、請求項２記載の統計的言語モデル生
計的言語モデルを生成することができるとともに、タス
成装置によれば、請求項１記載の統計的言語モデル生成
ク選択を自動的に行うことができ、選択された統計的言装置において、さらに、上記記憶手段に記憶された各ク語モデルを用いて音声認識することにより、従来例に比ラスタ毎のテキストデータに基づいて、最尤推定法を用較してより高い音声認識率で連続的に音声認識すること
いて各クラスタ毎に単語のＮ−ｇｒａｍ（Ｎは２以上のができる。
40 自然数である。）の遷移確率を演算する第１の演算手段【００９８】以上の実施形態において、統計的言語モデと、上記第１の演算手段によって演算された各クラスタ
ルは、Ｎ−ｇｒａｍの言語モデルを含むが、ここで、Ｎ毎の単語のＮ−ｇｒａｍの遷移確率の出現分布を事前知は２及び３に限らず、４以上の自然数であってもよい。
識の所定の確率分布と仮定し、各クラスタ毎の確率分布【００９９】の加重平均及び加重分散を演算した後、演算された加重【発明の効果】以上詳述したように本発明に係る請求項平均と加重分散に基づいて事前知識の確率分布のパラメ
１記載の統計的言語モデル生成装置によれば、複数のクータを演算する第２の演算手段と、上記第２の演算手段
ラスタの統計的言語モデルを記憶する記憶手段と、所定によって演算された事前知識の確率分布のパラメータの複数の発声音声文を含む学習用テキストデータに基づと、上記学習用テキストデータうちの特定クラスタのテ
いて各発声音声文に対する統計的言語モデルを生成しキストデータの事後知識における処理対象の単語列の直て、各発声音声文が各クラスタに対応するように、上記 50 前の単語列の出現回数と、処理対象の単語列の出現回数

(12)
25
とに基づいて、各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を計算することにより、各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語モデルを生成する第３の演算手段とを備える。従って、少量のテキスト
データを用いて、従来例に比較して、より高い遷移確率の予測精度及び信頼性を有する統計的言語モデルを生成することができる。
【０１０１】さらに、請求項３記載の統計的言語モデル
生成装置によれば、請求項２記載の統計的言語モデル生
成装置において、さらに、上記第３の演算手段によって演算された各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率に基づいて，所定の平滑化処理を実行し、処理後の各クラスタ毎の単語のＮ−ｇｒａｍの遷移確率を含む統計的言語モデルを生成する第１の生成手段を備える。従って、少量のテキストデータを用いて、従来例に比較して、より高い遷移確率の予測精度及び信頼性を有する統計的言語モデルを生成することができる。
【０１０２】またさらに、請求項４記載の統計的言語モ
デル生成装置によれば、請求項３記載の統計的言語モデ
ル生成装置において、さらに、上記学習用テキストデー
タに基づいて、最尤推定法を用いて単語のＮ−ｇｒａｍ（Ｎは２以上の自然数である。）の遷移確率を演算して、上記単語のＮ−ｇｒａｍの遷移確率を含む別の統計
的言語モデルを生成する第２の生成手段を備える。従って、少量のテキストデータを用いて、従来例に比較して、より高い遷移確率の予測精度及び信頼性を有する統計的言語モデルを生成することができる。
【０１０３】本発明に係る請求項５記載の音声認識装置によれば、入力される発声音声文の音声信号に基づいて、所定の統計的言語モデルを用いて音声認識する音声認識装置において、請求項４記載の統計的言語モデル生成装置と、上記第２の生成手段によって生成された別の統計的言語モデルを用いて、入力される発声音声文の音
声信号を音声認識して第１の認識仮説を出力する第１の音声認識手段と、上記第１の音声認識手段から出力される第１の認識仮説に応答して、上記第１の生成手段によって生成された各クラスタ毎の統計的言語モデルを用いて、入力される発声音声文の音声信号を音声認識して、文生成確率が最大のクラスタの統計的言語モデル生成装
置を選択するモデル選択手段と、上記モデル選択手段に
よって選択されたクラスタの統計的言語モデルを用いて、上記第１の音声認識手段から出力される第１の認識仮説に対して絞込処理を行って第２の認識仮説を生成して認識結果として出力する第２の音声認識手段とを備える。従って、少量のテキストデータを用いて、従来例に比較して、より高い遷移確率の予測精度及び信頼性を有する統計的言語モデルを生成することができるとともに、タスク選択を自動的に行うことができ、選択された
統計的言語モデルを用いて音声認識することにより、従

10

20

30

40

特許２９３８８６６26
来例に比較してより高い音声認識率で連続的に音声認識することができる。
【図面の簡単な説明】【図１】 本発明に係る一実施形態である連続音声認識
装置のブロック図である。
【図２】 図１の連続音声認識装置における単語仮説絞込部６ａ及び６ｂの処理を示すタイミングチャートである。
【図３】 図１の言語モデル生成部４２の処理を示すブ
ロック図である。
【図４】 図１のクラスタリング処理部４０によって実行されるクラスタリング処理を示すフローチャートである。
【図５】 図１の言語モデル生成部４１によって実行される言語モデル生成処理を示すフローチャートである。
【図６】 図１の言語モデル生成部４２によって実行される言語モデル生成処理を示すフローチャートである。
【符号の説明】
１…マイクロホン、
２…特徴抽出部、
３，５，７…バッファメモリ、
４…単語照合部、
６ａ，６ｂ…単語仮説絞込部、
８…言語モデル選択部、
１１…音素ＨＭＭメモリ、
１２…単語辞書メモリ、
２０，２１…学習用テキストデータメモリ、
２１−ｋ…各クラスタのテキストデータメモリ、
３１，３２…統計的言語モデルメモリ、
３２−ｋ…各クラスタの統計的言語モデルメモリ、
４１，４２…言語モデル生成部。
【要約】【課題】 遷移確率の予測精度及び信頼性を改善可能な
統計的言語モデルを生成し、統計的言語モデルを用いてより高い音声認識率で音声認識する。
【解決手段】 学習用テキストデータ全体をクラスタリ
ング処理部４０によって自動的にクラスタリングしてクラスタ毎のテキストデータをメモリ２１に記憶し、言語モデル生成部４２によりＭＡＰ推定法を用いて各クラス
タ毎の統計的言語モデルを生成してメモリ３２に記憶する。一方、学習用テキストデータ全体に対して統計的言語モデルを生成してメモリ３１に記憶する。単語照合部
４による単語仮説の生成の後、単語仮説絞込部６ａはメ
モリ３１内の統計的言語モデルを用いて単語仮説の絞込処理を実行した後、言語モデル選択部８はメモリ３２内の各クラスタの統計的言語モデルのうちで文生成確率が最大のモデルを選択して、単語仮説絞込部６ｂは選択されたモデルを用いて再度の絞込処理を行って認識結果を
出力する。

(13)

【図１】

【図２】

【図５】

特許２９３８８６６

(14)

【図３】

【図４】

特許２９３８８６６

【図６】

(15)
フロントページの続き(56)参考文献

特開 平６−27985（ＪＰ，Ａ)
6(58)調査した分野(Int.Cl. ，ＤＢ名)
G10L 3/00 ‑ 9/20
ＪＩＣＳＴファイル（ＪＯＩＳ)

特許２９３８８６６