(57)【特許請求の範囲】
【請求項１】
統計的言語モデルを生成する統計的言語モデル生成装置であって、
出現頻度の高くなることが予測される単語を含む直近のテキストデータを取得するテキストデータ取得手段と、
前記直近のテキストデータおよびこの直近のテキストデータよりデータ量の多い、それ以前の過去の大量テキストデータから統計的言語モデルを参照して音声を認識する音声認識手段と、
前記直近のテキストデータ、前記過去の大量テキストデータ、前記音声認識手段による認識結果、を蓄積する蓄積手段と、
ＥＭアルゴリズムにより、前記過去の大量のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第一の確率重みを算出し、前記直近のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第二の確率重みを算出し、前記認識結果の単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第三の確率重みを算出する確率重み算出手段（段落００２９〜００３２）と、
前記第一の確率重み、および前記第二の確率重み、ならびに前記第三の確率重みに基づいて、統計的言語モデルを生成する言語モデル生成手段と、
を備えたことを特徴とする統計的言語モデル生成装置。
【請求項２】
前記音声認識手段によって認識された認識結果を修正する認識結果修正手段を備え、
前記確率重み算出手段が、修正された認識結果に基づいてｎ−ｇｒａｍの第三の確率重みを算出することを特徴とする請求項１に記載の統計的言語モデル生成装置。
【請求項３】
コンピュータを、
出現頻度の高くなることが予測される単語を含む直近のテキストデータを取得するテキストデータ取得手段、
前記直近のテキストデータおよびこの直近のテキストデータよりデータ量の多い、それ以前の過去の大量テキストデータから統計的言語モデルを参照して音声を認識する音声認識手段、
前記直近のテキストデータ、および前記過去の大量テキストデータ、ならびに前記音声認識手段によって認識された認識結果を蓄積する蓄積手段、
ＥＭアルゴリズムにより、前記過去の大量のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第一の確率重みを算出し、前記直近のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第二の確率重みを算出し、前記認識結果の単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第三の確率重みを算出する確率重み算出手段、
前記第一の確率重み、および前記第二の確率重み、ならびに前記第三の確率重みに基づいて、統計的言語モデルを生成する言語モデル生成手段、
として機能させることを特徴とする統計言語モデル生成プログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、音声認識装置に供される統計的言語モデルを生成する統計的言語モデル生成装置および統計的言語モデル生成プログラムに関する。
【０００２】
【従来の技術】
従来、音声認識装置における、音声の認識性能を向上するための方法として、統計的（確率的）言語モデルを利用する方法が提唱されており、代表的なものに下記に示すようなものがある。なお、統計的言語モデルとは、言語における単語や音素間の関係が統計量に基づいてモデル化されたものである。
【０００３】
（１）キャッシュモデルによる方法（Ｒ．Ｋｕｈｎ，Ｒ．Ｄｅ  Ｍｏｒｉ“ＡＣａｃｈｅ−Ｂａｓｅｄ  Ｎａｔｕｒａｌ  Ｌａｎｇｕａｇｅ  Ｍｏｄｅｌ  ｆｏｒ  Ｓｐｅｅｃｈ  Ｒｅｃｏｇｎｉｔｉｏｎ，”ＩＥＥＥ  Ｔｒａｎｓ．ＰＡＭＩ，ｖｏｌ．１２，ｎｏ．６，１９９０，ｐｐ．５７０〜５８３）。この方法は、過去の大量の原稿（テキストデータ）から学習されたｎ−ｇｒａｍ確率値と、最近の音声認識結果における単語の出現確率とを線形補間等で結合することによって音声の認識性能を向上させる方法である。なお、念のために補足しておくと、ｎ−ｇｒａｍ確率値とは、単語の系列をマルコフ連鎖としてモデル化した単語ｎ−ｇｒａｍにおける生起確率、つまり、ある単語の生起確率は直前の（ｎ−１）単語に依存するというものである。線形補間（ｌｉｎｅａｒ  ｉｎｔｅｒｐｏｌａｔｉｏｎ）とは、ｎ−ｇｒａｍ確率値と、低次のｍ−ｇｒａｍ確率値（ｍ＜ｎ）とを線形に補間することである。
【０００４】
（２）ＭＡＰ（事後確率最大化）推定に基づく方法（小林、今井、安藤、“Ｔｉｍｅ  Ｄｅｐｅｎｄｅｎｔ  Ｌａｎｇｕａｇｅ  Ｍｏｄｅｌ  ｆｏｒ  Ｂｒｏａｄｃａｓｔ  Ｎｅｗｓ  Ｔｒａｎｓｃｒｉｐｔｉｏｎ  ａｎｄ  Ｉｔｓ  Ｐｏｓｔｃｏｒｒｅｃｔｉｏｎ，”ＩＣＳＬＰ−１９９８）。この方法は、あるタスクのｎ−ｇｒａｍ確率値を、タスクに依存しない大量の原稿に対して小量の原稿をＭＡＰ推定により得られた適当な重みにより足し合わせ、言語モデルの統計的な精度を高め、認識性能を向上させる方法である。言語モデルを生成するための語彙（コーパス）は、小量の原稿中のすべての単語と、大量の原稿の一部の単語を合わせて構成されている。なお、念のために補足しておくと、タスクとは、一般的には仕事、つまり、処理される対象であり、適当な重みとは、統計的（確率）言語モデルにおける、ある単語の出現確率が高くなるように付加された数値であり、語彙（コーパス）とは、言語モデルを生成するための元になるデータであり、一般的には通常、数十万個以上の単語を含んだテキストデータベースのことである。
【０００５】
【発明が解決しようとする課題】
しかしながら、従来のキャッシュモデルによる方法では、過去の音声認識結果を利用するため、言語モデルを生成するための語彙に登録されていない単語（最近、広く使われるようになった言葉）については考慮されていない。このため、報道番組（ニュース等）のように、一つの話題が少ない文章数で構成されている場合が多く、人名、地名、組織名といった固有名詞（新しい単語）が極めて頻繁に出現しやすいタスクにおいては、常に新しい単語を登録した語彙に基づいた言語モデルを利用しなければ、音声認識の認識性能の向上は見込めないという問題がある。
【０００６】
また、ＭＡＰ（事後確率最大化）推定に基づく方法では、実際の発話内容ではなく、書き言葉で記された原稿を利用するので、発話内容に含まれやすい単語の出現確率を上げることができないという問題がある。
【０００７】
本発明の目的は前記した従来の技術が有する課題を解消し、音声認識における認識性能を向上することができ、発話内容に含まれやすい単語の出現確率を上げることができる統計的言語モデルを生成する統計的言語モデル生成装置および統計的言語モデル生成プログラムを提供することにある。
【０００８】
請求項１記載の統計的言語モデル生成装置は、統計的言語モデルを生成する統計的言語モデル生成装置であって、出現頻度の高くなることが予測される単語を含む直近のテキストデータを取得するテキストデータ取得手段と、前記直近のテキストデータおよびこの直近のテキストデータよりデータ量の多い、それ以前の過去の大量テキストデータを音声から統計的言語モデルを参照して音声を認識する音声認識手段と、前記直近のテキストデータ、前記過去の大量テキストデータ、前記音声認識手段による認識結果、を蓄積する蓄積手段と、ＥＭアルゴリズムにより、前記過去の大量のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第一の確率重みを算出し、前記直近のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第二の確率重みを算出し、前記認識結果の単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第三の確率重みを算出する確率重み算出手段と、前記第一の確率重み、および前記第二の確率重み、ならびに前記第三の確率重みに基づいて、統計的言語モデルを生成する言語モデル生成手段と、を備えたことを特徴とする。
【０００９】
かかる構成によれば、テキストデータ取得手段によって、出現頻度の高くなることが予測される単語を含む直近のテキストデータが取得され、音声認識手段によって、直近のテキストデータおよびそれ以前の大量テキストデータが音声として認識され、蓄積手段によって、直近のテキストデータおよび過去の大量テキストデータならびに認識した認識結果が蓄積される。そして、確率重み算出手段によって、それぞれのｎ−ｇｒａｍにおける確率重みが算出され、この算出結果に基づいて言語モデル生成手段によって言語モデルが生成される。
【００１０】
なお、出現頻度の高くなることが予測される直近のテキストデータとは、例えば、放送直前または直後の放送番組に供される原稿、発売直前または直後の新聞や雑誌に掲載されている記事、等が挙げられる。また、過去の大量テキストデータとは、例えば、数年から数十年分の放送番組に供された原稿、或いは、ブラウン・コーパス、ＬＯＢコーパス等が挙げられる。
【００１１】
請求項２記載の統計的言語モデル生成装置は、請求項１に記載の統計的言語モデル生成装置において、前記音声認識手段によって認識された認識結果を修正する認識結果修正手段を備え、前記確率重み算出手段が、修正された認識結果に基づいてｎ−ｇｒａｍの第三の確率重みを算出することを特徴とする。
【００１２】
かかる構成によれば、認識結果修正手段によって、テキストデータが音声として認識された結果が修正され、この修正された認識結果に基づいて、確率重み算出手段によって、ｎ−ｇｒａｍの第三の確率重みが算出される。
【００１３】
請求項３記載の統計的言語モデル生成プログラムは、コンピュータを、出現頻度の高くなることが予測される単語を含む直近のテキストデータを取得するテキストデータ取得手段、前記直近のテキストデータおよびこの直近のテキストデータよりデータ量の多い、それ以前の過去の大量テキストデータを音声から統計的言語モデルを参照して音声を認識する音声認識手段、前記直近のテキストデータ、および前記過去の大量テキストデータ、ならびに前記音声認識手段によって認識された認識結果を蓄積する蓄積手段、ＥＭアルゴリズムにより、前記過去の大量のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第一の確率重みを算出し、前記直近のテキストデータの単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第二の確率重みを算出し、前記認識結果の単語ｎ個組の頻度に基づいて、ｎ−ｇｒａｍの第三の確率重みを算出する確率重み算出手段、前記第一の確率重み、および前記第二の確率重み、ならびに前記第三の確率重みに基づいて、統計的言語モデルを生成する言語モデル生成手段、を備えたことを特徴とする。
【００１４】
かかる構成によれば、テキストデータ取得手段によって、出現頻度の高くなることが予測される単語を含む直近のテキストデータが取得され、音声認識手段によって、直近のテキストデータおよびそれ以前の大量テキストデータが音声として認識され、蓄積手段によって、直近のテキストデータおよび過去の大量テキストデータならびに認識した認識結果が蓄積される。そして、確率重み算出手段によって、それぞれのｎ−ｇｒａｍにおける確率重みが算出され、この算出結果に基づいて言語モデル生成手段によって言語モデルが生成される。
【００１５】
【発明の実施の形態】
以下、本発明の実施形態を図面に基づいて詳細に説明する。
（統計的言語モデル生成装置：第一の実施形態）
図１に、統計的言語モデル生成装置の第一の実施形態の機能説明図を示す。
図１に示すように、統計的言語モデル生成装置１は、図示を省略した主制御部、記憶部、表示出力部、入力部、外部接続部等を備えて構成されており、過去ニュース原稿集積手段３と、直近記者原稿集積手段５と、音声認識手段７と、認識結果集積手段９と、言語モデル計算手段１１とを機能的に実現する。
【００１６】
統計的言語モデル生成装置１は、大量のテキストデータに基づいて、音声認識装置（図示せず）における音声認識時に供される統計的言語モデルを生成する装置である。なお、この実施の形態では、統計的言語モデル生成装置１は、一般的なコンピュータであり、図示を省略した各主制御部、記憶部、表示出力部、入力部、外部接続部は、ＣＰＵ、メモリ、ハードディスク、キーボード等から構成されている。
【００１７】
過去ニュース原稿集積手段３は、図示を省略した記憶部に記憶（集積）されたデータベースであって、請求項に記載した過去の大量テキストデータが集積されたものである。この過去ニュース原稿集積手段３には、過去の大量のニュース原稿がテキストファイル形式（テキストデータ）で蓄積されている。このテキストファイルは、原稿を構成する一つ一つの単語間にスペースを挟んだものである。
【００１８】
なお、この実施の形態では、ニュース原稿に含まれている句読点は、その句読点の直前の単語に一体化され取り扱われるものとする。さらに、補足しておくと、この明細書中において、記憶、集積、蓄積という語句は、実質的に差がないものとして記載している。
【００１９】
直近記者原稿集積手段５は、図示を省略した主制御部に展開するプログラムと記憶部に記憶されたデータベースとであって、出現頻度の高くなることが予測される単語を含む直近のテキストデータを取得するテキストデータ取得手段と取得された直近のテキストデータが集積されたものである。この直近記者原稿集積手段５では、まず、直近の放送番組（特に報道番組）に供される記者原稿を取得する。取得の仕方は、ニュース原稿をオペレーター（操作者）が統計的言語モデル生成装置１に入力、或いはＯＣＲ等で読みとって、その読みとった結果を外部接続部を介して入力することで行われる。
【００２０】
直近記者原稿集積手段５では、記者原稿を取得後、自動的に一定の修正が加えられ、或いは、オペレーターによって校正されて、テキストデータとして、記憶部（図示せず）の直近テキストデータベースに蓄積される。記者原稿における個々の文章は、一つの話題単位で、テキストファイル化されており、このテキストファイルは、過去ニュース原稿集積手段３と同様に、記者原稿を構成する一つ一つの単語間にスペースを挟んだものとして構成されている。
【００２１】
音声認識手段７は、テキストファイルを音声として認識する（テキストファイルを読み上げる）ものである。この音声認識手段７は、一般的なテキスト音声変換エンジン等であり、このテキスト音声変換エンジンは数十万語を格納した辞書を搭載し、まず、過去ニュース原稿集積手段３および直近記者原稿集積手段５のテキストファイルから、このファイルに含まれる単語を認識する。
【００２２】
認識結果集積手段９は、図示を省略した記憶部に記憶（集積）されたデータベースであって、音声認識手段７によって認識された認識結果に、過去ニュース原稿集積手段３および直近記者原稿集積手段５のテキストファイルが参照され、認識結果の各文章ごとに日付、時刻がタイムスタンプとして付与されて、蓄積されるものである。
【００２３】
言語モデル計算手段１１は、過去ニュース原稿集積手段３による過去の大量テキストデータと、直近記者原稿集積手段５による直近の記者原稿のテキストデータと、音声認識手段７による認識結果とに基づいて、統計的言語モデルを生成するプログラムである。この実施の形態では、言語モデルにｂｉｇｒａｍモデル（ｂｉｇｒａｍモデルを含むｎ−ｇｒａｍモデルについては、例えば、「確率モデルによる音声認識」、中川聖一、電子情報通信学会、ｐｐ．１０９参照）を用いている。
【００２４】
この言語モデル計算手段１１では、後記する数式に基づき、以下に示す順序で、種々の計算がなされる。
まず、過去の大量テキストデータと、直近の記者原稿のテキストデータと、認識結果とに基づいて、言語モデルのｂｉｇｒａｍＰ0、Ｐ1、Ｐ2を線形補間（線形補間については、例えば、「音声言語処理」、北、中村、永田共著、森北出版、ｐｐ．２９参照）によって表すと、重み付けされた言語モデルは
【００２５】
【数１】
0004340024.tif 000002
によって表される。
【００２６】
この数１において、ｙn、ｙn-1は、語彙に登録されている単語である。確率Ｐ（ｙn｜ｙn-1）は、単語ｙn-1が発声された後に、単語ｙnが発声される確率を意味する。一般にｎ−ｇｒａｍの言語モデルでは、ｎを大きくするほど長い連続単語列が取り扱われ、次の単語の認識精度は高くなる。ただし認識精度が高くなる代わりに、膨大な量（ｎ乗倍）の語彙数を含むテキストデータを必要とする。λは各言語モデルにおける確率重みを、Ｖは語彙を示すものである。
【００２７】
重み付けされた言語モデルの単語ｙn、ｙn-1に対するｂｉｇｒａｍが大きければ、この統計的言語モデル生成装置１によって生成された言語モデルが音声認識装置（図示せず）に供された場合に、当該装置の音声認識時において、それらｙnとｙn-1との組み合わせが出現しやすくなる。つまり、当該装置の音声認識時に、読み上げる文章（音声認識される文章）に対し、ｂｉｇｒａｍの積が最大となるように確率重みλの値が決定されればよいことになる。或いは、評価データ（音声認識される文章）のエントロピー（例えば、「確率モデルによる音声認識」中川聖一、電子情報通信学会、ｐｐ．１１１、および数２参照）が最小となるように確率重みλの値が決定されればよいことになる。
【００２８】
【数２】
0004340024.tif 000003
【００２９】
この数式２において、Ｎは評価テキスト中（テキストデータ）の総単語数を示すものであり、評価テキストは、評価データの単語列ｙ＝ｙ1ｙ2・・・・・・ｙNで表されるものとする。なお、この式のλは、期待値最大化アルゴリズム（ＥＭアルゴリズム（ＥＭアルゴリズムについては、例えば、「音声言語処理」、北、中村、永田共著、森北出版、ｐｐ．３１参照））を用いるものとし、数式３によって繰り返し計算により求められる。
【００３０】
【数３】
0004340024.tif 000004
【００３１】
この数式３において、λiを更新しながら、評価テキストに対するエントロピーが収束するまで繰り返し計算される。この計算によって、各言語モデルに対する確率重みλを自動的に得ることができる。ただし、読み上げる文章に最適な確率重みλを求めることは、通常、評価テキストの内容が未知であるため困難である。このため、事前に評価テキストに係る既知の発話内容の書き起こし（テキストデータ化したもの）を準備し、これを用いて確率重みλの値を実験的に求めておく。
【００３２】
次に、テキスト重みｗを求める。このテキスト重みｗの値は重み付けされた単語頻度を与えるものである。過去の大量テキストデータＧ0の総単語数をｍ0と、直近のテキストデータＧ1の総単語数をｍ1と、認識結果Ｇ2の総単語数をｍ2とすると、テキスト重みｗは、収束した確率重みλ0、λ1、λ2（ｎ−ｇｒａｍの第一の確率重み、第二の確率重み、第三の確率重み）を用いて、数式４により計算される。
【００３３】
【数４】
0004340024.tif 000005
【００３４】
この数式４において、過去の大量テキストデータＧ0に加える直近のテキストデータＧ1および認識結果Ｇ2の足し合わせ回数（テキスト重み）ｗ1、ｗ2は、確率重みλ0、λ1、λ2から計算される。この数式４では、統計的言語モデルでの確率重みλが複数のテキストデータの集合での確率重みに正規化されるものである。
【００３５】
計算されたテキスト重みｗ1、ｗ2に基づいて、直近のテキストデータがテキスト重みｗ1で、また、認識結果がテキスト重みｗ2で、重み付けされ、過去の大量テキストデータに足し合わされ、新たな語彙が求められる。つまり、ある単語の出現頻度ｆは、過去の大量テキストデータＧ0での頻度ｆ0、直近のテキストデータＧ1での頻度ｆ1、認識結果Ｇ2での頻度ｆ2とすると、
【００３６】
【数５】
0004340024.tif 000006
となる。
【００３７】
そして、頻度ｆの大きい順に、単語を語彙Ｖに登録する。ただし、語彙の登録数には、予め上限（Ｖmax）が設定されており、この上限を越えないように登録される。このため、語彙の総登録語数が制限されつつ、直近のテキストデータＧ1に含まれていた、それまで出現頻度の低かった単語が重み付けられ、語彙に登録される。
【００３８】
つまり、統計的言語モデル生成装置１の言語モデル計算手段１１では、直近のテキストデータ（最新のニュース原稿等）の中の新しい（過去の大量テキストデータに含まれていない）単語の出現頻度が高められる。しかも、音声認識手段７による認識結果も踏まえて、新たな語彙が決定されているので、この統計的言語モデル生成装置１によって生成された言語モデルを、音声認識装置（図示せず）が利用することにより、音声認識時の認識性能が向上する。なお、この実施の形態では、生成された言語モデルが音声認識手段７にフィードバックされ、音声認識の際に再び利用される。
【００３９】
（統計的言語モデル生成装置：第二の実施形態）
図２に統計的言語モデル生成装置の第二の実施形態の機能説明図を示す。この統計的言語モデル生成装置１Ａにおいて、統計的言語モデル生成装置１の構成と同じものは、同一の符号を付して、その説明は省略する。
【００４０】
統計的言語モデル生成装置１Ａの認識結果修正手段１３は、音声認識手段７の認識結果を修正するプログラムであって、例えば、音声認識手段７によってテキストデータを読み上げる際に、テキストデータにはひらがなで「あめ  が  ふる」とあった場合、「雨が降る」と読み上げたとする。つまり、この場合には“あ”にアクセントがあることになる。実際には「飴が降る」であった場合（“め”にアクセントがあることになる）、「あめ  が  ふる」の前後の文脈から類推して、認識結果を修正するものである。
【００４１】
修正認識結果集積手段１５は、図示を省略した記憶部に記憶（集積）されたデータベースであって、認識結果修正手段１３によって修正された認識結果を集積（蓄積）するものである。なお、この修正認識結果集積手段１５には、修正前の音声認識手段７による認識結果が一時的に蓄積される。
【００４２】
言語モデル計算手段１１Ａは、言語モデル計算手段１１と同様に、以下に示す順序で、種々の計算がなされる。なお、この実施の形態では、過去の大量テキストデータおよび直近のテキストデータ、ならびに、これらのテキストデータを音声認識手段７によって認識後、修正認識結果集積手段１５によって修正された認識結果（評価データ）に基づいて、下記の計算が言語モデル計算手段１１Ａによってなされる。
【００４３】
まず、過去の大量テキストデータと、直近の記者原稿のテキストデータと、修正された認識結果とに基づいて、言語モデルのｂｉｇｒａｍＰ0、Ｐ1、Ｐ2′を線形補間して表す（数式１参照）。すると、重み付けされた言語モデルの確率重みλが定義される。
【００４４】
評価するデータ（過去の大量テキストデータと、直近の記者原稿のテキストデータと、修正された認識結果）のエントロピーが最小になるように確率重みλの値が求められれば（数式２を参照）よく、この確率重みλが期待値最大化アルゴリズムを用いることにより、繰り返し計算により求められる（数式３参照）。
【００４５】
収束した確率重みλ0、λ1、λ2′（ｎ−ｇｒａｍの第一の確率重み、第二の確率重み、第三の確率重み）を用いて、テキスト重みｗ1、ｗ2′が計算される（数式４参照）。計算されたテキスト重みｗ1、ｗ2′に基づいて、直近のテキストデータがテキスト重みｗ1で、また、修正された認識結果がテキスト重みｗ2′で、重み付けされ、過去の大量テキストデータに足し合わされ、新たな語彙が求められる。
【００４６】
つまり、ある単語の出現頻度ｆは、過去の大量テキストデータＧ0での頻度ｆ0、直近のテキストデータＧ1での頻度ｆ1、修正された認識結果Ｇ2′での頻度ｆ2′とされ、テキスト重みｗ1、ｗ2′との積によって表される（数式５参照）。そして、頻度ｆの大きい順に、単語を語彙Ｖに登録する。ただし、語彙の登録数には、予め上限（Ｖmax）が設定されており、この上限を越えないように登録される。
【００４７】
つまり、統計的言語モデル生成装置１Ａの言語モデル計算手段１１Ａでは、直近のテキストデータ（最新のニュース原稿等）の中の新しい（過去の大量テキストデータに含まれていない）単語の出現頻度が高められる。しかも、音声認識手段７による認識結果を認識結果修正手段１３によって修正し、その修正した認識結果も踏まえて、新たな語彙が決定されているので、この統計的言語モデル生成装置１Ａによって生成された言語モデルを、音声認識装置（図示せず）が利用することにより音声認識時の認識性能が向上する。なお、この実施の形態では、生成された言語モデルが音声認識手段７にフィードバックされ、音声認識の際に再び利用される。
【００４８】
統計的言語モデル生成装置１Ａでは、直近記者原稿集積手段５によって、音声認識する直近のニュース番組等を対象に取得・集積され、音声認識手段７と認識結果修正手段１３とによって、音声認識の出力が修正され、認識された音声に対応する正しい文字列が作成される。このため、この統計的言語モデル生成装置１Ａによって生成された言語モデルを利用すれば、時間的にごく近い時刻の放送番組（音声認識する対象となる）に対する正しい文字列の情報を利用することになり、音声認識性能を向上することができる。
【００４９】
また、時間的にごく近い時刻の放送番組（音声認識する対象となる）に対する正しい文字列の情報を参照して、過去の大量データベースの音声認識出力に含まれる認識誤りを検出し、認識結果修正手段１３によって修正することができる。
【００５０】
（統計的言語モデル生成装置の動作）
次に、図３に示すフローチャートを参照して、統計的言語モデル生成装置１の動作を説明する。
まず、過去ニュース原稿集積手段３によって、過去の大量テキストデータが集積され（集積されている）、この過去の大量テキストデータに含まれている各単語の出現頻度に応じて初期の語彙が決定される（Ｓ１）。通常、初期の語彙は、数十万以上の単語から形成されている。一般に、言語モデルにおける語彙は、記憶部（図示せず）の記憶容量または主制御部（図示せず）の処理能力に応じて、予め登録語数が設定されており、この登録語数に収まるように、集積或いは学習されるデータ中の単語で出現頻度の高い単語順に、当該単語が語彙に登録され決定される。
【００５１】
一方、直近記者原稿集積手段５によって、直近の放送番組等に供されるテキストデータ（直近のテキストデータ）が集積されており、これらの過去の大量テキストデータおよび直近のテキストデータが音声認識手段７によって音声認識される。音声認識された認識結果が認識結果集積手段９に集積されている。
【００５２】
そして、言語モデル計算手段１１によって、まず、各言語モデル（ｂｉｇｒａｍＰ0、Ｐ1、Ｐ2）が作成され、これらのｂｉｇｒａｍＰ0、Ｐ1、Ｐ2が線形補間される（数式１参照）（Ｓ２）。これらの言語モデルの確率重みλ0、λ1、λ2をＥＭアルゴリズムによって算出（計算）し（数式３参照）（Ｓ３）、これらの確率重みλ0、λ1、λ2に基づいてテキスト重みｗ1、ｗ2が算出（計算）される（数式４参照）（Ｓ４）。
【００５３】
さらに、言語モデル計算手段１１がテキスト重みｗ1、ｗ2に基づいて、単語の出現頻度ｆを算出（計算）し（数式５参照）（Ｓ５）、この出現頻度ｆに基づいて、この出現頻度ｆの大きい単語順に、登録語数に収まるように新たな語彙が決定される（Ｓ６）。そして、新たな語彙に基づいて、言語モデルが生成される（Ｓ７）。
【００５４】
以上、実施形態に基づいて本発明を説明したが、本発明はこれに限定されるものではない。
【００５５】
例えば、統計的言語モデル生成装置１、１Ａにおいて実現した各構成を、特定の記憶媒体に記憶させたプログラムとして取り扱うことは可能である。さらに、ｂｉｇｒａｍ以上のｎ−ｇｒａｍ（ｔｒｉｇｒａｍ、４−ｇｒａｍ）については、ｂｉｇｒａｍの場合と同様に、各確率重みλを計算し、この確率重みλをテキスト重みに変換し、新たな語彙Ｖを作成して、この語彙から統計的言語モデルを生成することは可能である。
【００５６】
【発明の効果】
請求項１記載の発明によれば、テキストデータ取得手段によって、出現頻度の高くなることが予測される単語を含む直近のテキストデータが取得され、音声認識手段によって、直近のテキストデータおよびそれ以前の大量テキストデータが音声として認識され、蓄積手段によって、直近のテキストデータおよび過去の大量テキストデータならびに認識した認識結果が蓄積される。そして、確率重み算出手段によって、それぞれのｎ−ｇｒａｍにおける確率重みが算出され、この算出結果に基づいて言語モデル生成手段によって言語モデルが生成されるので、この言語モデルが音声認識装置に利用されれば、音声認識時の認識性能を向上させることができる。
【００５７】
また、直近のテキストデータに一定の確率重みを付加して、言語モデルを生成する語彙に含めているので、直近の発話内容に含まれやすい単語の出現確率を上げることができる。
【００５８】
請求項２記載の発明によれば、認識結果修正手段によって、テキストデータが音声として認識された結果が修正され、この修正された認識結果に基づいて、確率重み算出手段によって、ｎ−ｇｒａｍの第三の確率重みが算出されるので、修正された認識結果を踏まえて得られる言語モデルが音声認識装置に利用されれば、音声認識時の認識性能をさらに向上させることができる。
【００５９】
請求項３記載の発明によれば、統計的言語モデル生成プログラムのテキストデータ取得手段によって、出現頻度の高くなることが予測される単語を含む直近のテキストデータが取得され、音声認識手段によって、直近のテキストデータおよびそれ以前の大量テキストデータが音声として認識され、蓄積手段によって、直近のテキストデータおよび過去の大量テキストデータならびに認識した認識結果が蓄積される。そして、確率重み算出手段によって、それぞれのｎ−ｇｒａｍにおける確率重みが算出され、この算出結果に基づいて言語モデル生成手段によって言語モデルが生成されるので、この言語モデルが音声認識装置に利用されれば、音声認識時の認識性能を向上させることができる。
【００６０】
また、この統計的言語モデル生成プログラムを記憶させた記憶媒体として市場で流通させることも可能である。
【図面の簡単な説明】
【図１】本発明による第一の実施形態である統計的言語モデル生成装置の機能説明図である。
【図２】本発明による第二の実施形態である統計的言語モデル生成装置の機能説明図である。
【図３】統計的言語モデル生成装置の動作を説明したフローチャートである。
【符号の説明】
１、１Ａ  統計的言語モデル生成装置
３  過去ニュース原稿集積手段
５  直近記者原稿集積手段
７  音声認識手段
９  認識結果集積手段
１１、１１Ａ  言語モデル計算手段
１３  認識結果修正手段
１５  修正認識結果集積手段
【図１】
0004340024.tif 000007
【図２】
0004340024.tif 000008
【図３】
0004340024.tif 000009