(57)【要約】【課題】テキストデータにおいて、対応する実データが存在しないものが含まれる場合においても、言語モデルを高精度に識別学習できるようにすること。【解決手段】言語モデル更新装置は、テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新部を備える。【選択図】図１
2010118001.tif 000002
【特許請求の範囲】
【請求項１】
テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新部を備えることを特徴とする言語モデル更新装置。
【請求項２】
前記擬似データを合成する擬似データ合成部を備えることを特徴とする、請求項１に記載の言語モデル更新装置。
【請求項３】
前記擬似データ合成部は、認識対象として実際に収集されたデータである実データであって前記テキストデータに対応するものが存在しない場合に限り、前記擬似データを合成することを特徴とする、請求項２に記載の言語モデル更新装置。
【請求項４】
実データ及び擬似データを認識する認識部をさらに備え、
前記言語モデル更新部は、前記認識部における認識結果に基づいて前記言語モデルを更新することを特徴とする、請求項１乃至３のいずれか１項に記載の言語モデル更新装置。
【請求項５】
前記認識部における認識結果は、正例及び負例並びにこれらのスコアを含むことを特徴とする、請求項４に記載の言語モデル更新装置。
【請求項６】
前記擬似データを実データとみなした場合におけるスコアを推定し、推定したスコアに基づいて、前記擬似データに対するスコアを補正するスコア補正部を備えることを特徴とする、請求項５に記載の言語モデル更新装置。
【請求項７】
前記スコア補正部は、実データとその対立候補との間のスコア差を学習することによって得られたスコア差モデルに基づいて、前記擬似データを実データとみなした場合におけるスコアを推定することを特徴とする、請求項６に記載の言語モデル更新装置。
【請求項８】
前記認識対象は、音声であることを特徴とする、請求項１乃至７のいずれか１項に記載の言語モデル更新装置。
【請求項９】
前記認識対象は、手書き文字であることを特徴とする、請求項１乃至７のいずれか１項に記載の言語モデル更新装置。
【請求項１０】
テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新工程を含むことを特徴とする言語モデル更新方法。
【請求項１１】
前記擬似データを合成する擬似データ合成工程を含むことを特徴とする、請求項１０に記載の言語モデル更新方法。
【請求項１２】
前記擬似データ合成工程において、認識対象として実際に収集されたデータである実データであって前記テキストデータに対応するものが存在しない場合に限り、前記擬似データを合成することを特徴とする、請求項１１に記載の言語モデル更新方法。
【請求項１３】
実データ及び擬似データを認識する認識工程をさらに含み、
前記言語モデル更新工程において、前記認識工程における認識結果に基づいて前記言語モデルを更新することを特徴とする、請求項１０乃至１２のいずれか１項に記載の言語モデル更新方法。
【請求項１４】
前記認識工程における認識結果は、正例及び負例並びにこれらのスコアを含むことを特徴とする、請求項１３に記載の言語モデル更新方法。
【請求項１５】
前記擬似データを実データとみなした場合におけるスコアを推定し、推定したスコアに基づいて、前記擬似データに対するスコアを補正するスコア補正工程を含むことを特徴とする、請求項１４に記載の言語モデル更新方法。
【請求項１６】
前記スコア補正工程において、実データとその対立候補との間のスコア差を学習することによって得られたスコア差モデルに基づいて、前記擬似データを実データとみなした場合におけるスコアを推定することを特徴とする、請求項１５に記載の言語モデル更新方法。
【請求項１７】
テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新処理をコンピュータに実行させることを特徴とする言語モデル更新プログラム。
【請求項１８】
前記擬似データを合成する擬似データ合成処理をコンピュータに実行させることを特徴とする、請求項１７に記載の言語モデル更新プログラム。
【請求項１９】
前記擬似データ合成処理において、認識対象として実際に収集されたデータである実データであって前記テキストデータに対応するものが存在しない場合に限り、前記擬似データを合成する処理をコンピュータに実行させることを特徴とする、請求項１８に記載の言語モデル更新プログラム。
【請求項２０】
実データ及び擬似データを認識する認識処理をさらにコンピュータに実行させ、
前記言語モデル更新処理において、前記認識処理における認識結果に基づいて前記言語モデルを更新することを特徴とする、請求項１７乃至１９のいずれか１項に記載の言語モデル更新プログラム。
【請求項２１】
前記認識処理における認識結果は、正例及び負例並びにこれらのスコアを含むことを特徴とする、請求項２０に記載の言語モデル更新プログラム。
【請求項２２】
前記擬似データを実データとみなした場合におけるスコアを推定し、推定したスコアに基づいて、前記擬似データに対するスコアを補正するスコア補正処理をコンピュータに実行させることを特徴とする、請求項２１に記載の言語モデル更新プログラム。
【請求項２３】
前記スコア補正処理において、実データとその対立候補との間のスコア差を学習することによって得られたスコア差モデルに基づいて、前記擬似データを実データとみなした場合におけるスコアを推定することを特徴とする、請求項２２に記載の言語モデル更新プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、言語モデル更新装置、方法およびプログラムに関し、特に、識別学習に基づく言語モデル更新装置、方法およびプログラムに関する。
【背景技術】
【０００２】
言語モデルは、例えば、音声認識および手書き文字認識において一般的に用いられる。言語モデルは、コーパス中に出現する単語または単語連鎖の頻度に基づいて作成される。
【０００３】
また、近年においては、音声認識を高精度化するために、識別学習によって言語モデルを更新する手法が注目されている。非特許文献１には、言語モデルを更新する言語モデル更新装置が記載されており、特に、音声認識に用いられる言語モデルに対する言語モデル更新装置が記載されている。
【０００４】
【非特許文献１】Ｈｏｎｇ−Ｋｗａｎｇ  Ｊｅｆｆ  Ｋｕｏ  ｅｔ  ａｌ．  “ＤＩＳＣＲＩＭＩＮＡＴＩＶＥ  ＴＲＡＩＮＩＮＧ  ＯＦ  ＬＡＮＧＵＡＧＥ  ＭＯＤＥＬＳ  ＦＯＲ  ＳＰＥＥＣＨ  ＲＥＣＯＧＮＩＴＩＯＮ”  ＩＣＡＳＳＰ  ２００２
【発明の開示】
【発明が解決しようとする課題】
【０００５】
以下の分析は、本発明者によってなされたものである。
【０００６】
図５は、非特許文献１に記載された言語モデル更新装置の構成を概略的に示すブロック図である。図５を参照すると、言語モデル更新装置１４０は、音声認識部１４３および言語モデル更新部１４５を備える。
【０００７】
言語モデル更新装置１４０の動作は、次の通りである。すなわち、音声認識部１４３は、更新すべき更新前言語モデル１３３および音響モデル１３４を用いて、収録された音声データである実音声データ１３１の音声認識を行う。言語モデル更新部１４５は、音声認識部１４３による音声認識結果およびそのスコア（すなわち、確からしさ）ならびに実音声データ１３１における発声内容に対応するテキストデータ１３２を用いて、正例と負例の間のスコアの差がより大きくなるように、更新前言語モデル１３３に対する識別学習を行う。ここで、正例とは正解認識結果をいい、負例とは誤認識結果のうち認識結果として上位に挙げられたものをいう。以上により、言語モデル更新装置１４０は、更新前言語モデル１３３よりも認識精度が高い更新後言語モデル１３５を生成する。
【０００８】
ところで、言語モデルの識別学習においては、学習すべきデータの量が多いほど高精度な学習が可能となる。言語モデル学習装置１４０は、言語モデルの識別学習を行う際、書き起こし文などのテキストデータ１３２のみならず、これに対応する実データ（例えば、実音声データ１３１又は手書き文字データ）を必要とする。しかし、タスクによってはテキストデータ１３２のみが存在し、これに対応する実データが存在しない場合もある。言語モデル更新装置１４０は、テキストデータ１３２のうち対応する実データが存在しないものを識別学習に用いることができず、高精度の学習を行うことができないという問題がある。
【０００９】
そこで、テキストデータにおいて、対応する実データが存在しないものが含まれる場合においても、言語モデルを高精度に識別学習できるようにすることが課題となる。本発明の目的は、かかる課題を解決する言語モデル更新装置、方法及びプログラムを提供することにある。
【課題を解決するための手段】
【００１０】
本発明の第１の視点に係る言語モデル更新装置は、テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新部を備える。
【００１１】
本発明の第２の視点に係る言語モデル更新方法は、テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新工程を含む。
【００１２】
本発明の第３の視点に係る言語モデル更新プログラムは、テキストデータから合成したデータである擬似データを用いて言語モデルを更新する言語モデル更新処理をコンピュータに実行させる。
【発明の効果】
【００１３】
本発明に係る言語モデル更新装置、方法及びプログラムにより、テキストデータに対応する実データの存在しない場合においても、高精度な言語モデルを生成することができる。
【発明を実施するための最良の形態】
【００１４】
（第１の実施形態）
本発明の第１の実施形態に係る言語モデル更新装置について、図面を参照して説明する。図１は、本実施形態の言語モデル更新装置２０の構成を示すブロック図である。
【００１５】
図１を参照すると、言語モデル更新装置２０は、テキストデータ１２から合成したデータである擬似データ２２を用いて言語モデルを更新する言語モデル更新部２５を備える。
【００１６】
また、言語モデル更新装置２０は、擬似データ２２を合成する擬似データ合成部２１を備えることが好ましい。さらに、擬似データ合成部２１は、認識対象として実際に収集されたデータである実データ１１であってテキストデータ１２に対応するものが存在しない場合に限り、擬似データ２２を合成することが好ましい。
【００１７】
また、言語モデル更新装置２０は、実データ１１及び擬似データ２２を認識する認識部２３をさらに備え、言語モデル更新部２５は、認識部２３における認識結果に基づいて更新前言語モデル１３を更新することが好ましい。さらに、認識部２３における認識結果は、正例及び負例並びにこれらのスコアを含むことが好ましい。
【００１８】
また、言語モデル更新装置２０は、擬似データ２２を実データ１１とみなした場合におけるスコアを推定し、推定したスコアに基づいて、擬似データ２２に対するスコアを補正するスコア補正部２４を備えることが好ましい。さらに、スコア補正部２４は、実データ１１とその対立候補との間のスコア差を学習することによって得られたスコア差モデルに基づいて、擬似データ２２を実データ１１とみなした場合におけるスコアを推定することが好ましい。
【００１９】
また、言語モデル更新装置２０における認識対象は、例えば、音声であってもよいし、手書き文字であってもよい。
【００２０】
（第２の実施形態）
本発明の第２の実施形態に係る言語モデル更新装置について図面を参照して詳細に説明する。図１は、本実施形態の言語モデル更新装置２０の構成を示すブロック図である。図１を参照すると、言語モデル更新装置２０は、擬似データ合成部２１、擬似データ２２、認識部２３、スコア補正部２４および言語モデル更新部２５とを備える。
【００２１】
実データ１１は、実際に収集されたデータである。テキストデータ１２は、書き起こし文を含む。更新前言語モデル１３は、認識部２３における認識に用いられるとともに、更新の対象とされる言語モデルである。モデル１４は、認識部２３による認識において用いられる。
【００２２】
擬似データ合成部２１は、テキストデータ１２のうちの対応する実データ１１が存在しないものを入力し、（例えば、音声合成技術に基づいて）機械式にデータを合成して擬似データ２２として出力する。認識部２３は、更新前言語モデル１３とモデル１４を用いて、被認識データ（すなわち、実データ１１および擬似データ２２）の認識を行う。スコア補正部２４は、擬似データ２２を実データ１１とみなした場合のスコアを推定し、推定したスコアを用いて擬似データ２２の認識結果のスコアを適切に補正する。言語モデル更新部２５は、更新前言語モデル１３と、発声内容であるテキストデータ１２と、認識結果と、補正後のスコアとを入力し、言語モデルの識別学習を行って更新後言語モデル１５を出力する。
【００２３】
次に、図２のフローチャートを参照して本実施形態の言語モデル更新装置２０の動作について説明する。
【００２４】
まず、擬似データ合成部２１は、テキストデータ１２に対応する実データ１１が存在するか否かを判定する（ステップＳ１１）。対応する実データ１１が存在しない場合には（ステップＳ１１のＮｏ）、擬似データ合成部２１は、擬似データ２２を合成して（ステップＳ１２）、記憶部に記録する。
【００２５】
次に、認識部２３は、更新前言語モデル１３およびモデル１４を用いて、実データ１１および擬似データ２２の認識を行う（ステップＳ１３）。
【００２６】
次に、認識部２３は、認識結果が実データ１１の認識結果であるのか、擬似データ２２の認識結果であるのかを判定する（ステップＳ１４）。擬似データ２２の認識結果である場合には（ステップＳ１４のＹｅｓ）、スコア補正部２４は、実データ１１とみなした場合とのスコア差を推定し、擬似データ２２に対するスコアを補正する（ステップＳ１５）。
【００２７】
次に、言語モデル更新部２５は、更新前言語モデル１３の識別学習を行って言語モデルを更新する（ステップＳ１６）。最後に、言語モデル更新部２５は、更新後の言語モデルを更新後言語モデル１５として出力する（ステップＳ１７）。
【００２８】
なお、上記において、擬似データ合成部２１は、擬似データ２２を記憶部に一時的に記録するものとした。しかし、擬似データ合成部２１は、擬似データ２２を直接認識部２３に入力するようにしてもよい。
【００２９】
本実施形態の言語モデル更新装置２０は、擬似データ合成部２１を用いて擬似データ２２を合成するため、テキストデータ１２のうち対応する実データ１１が存在しないものも用いつつ、言語モデルの識別学習を行うことができる。したがって、本実施形態の言語モデル更新装置２０により、高精度な識別学習が可能となる。
【００３０】
また、擬似データ合成部２１により合成された擬似データ２２を用いて言語モデルの識別学習を行ったときには、機械的な合成によって生成された擬似データ２２と実際に収集された実データ１１との間で認識を行った際のスコアが大きく異なる場合がある。
【００３１】
この場合には、言語モデル更新装置２０は、言語モデルを適切に学習することができないないという問題が生じうる。しかしながら、本実施形態の言語モデル更新装置２０においては、擬似データ２２を実データ１１とみなした場合のスコアをスコア補正部２４によって推定することにより、擬似データ２２のスコアが補正される。したがって、本実施形態の言語モデル更新装置２０によると、機械的な合成によって生成された擬似データ２２を用いた場合であっても、実データ１１を用いた場合と同等の学習効果が得られる。
【実施例】
【００３２】
具体的な実施例を基づいて、本発明に係る言語モデル更新装置の動作を説明する。ここでは、音声認識に用いられる言語モデルを更新する場合を例として説明する。なお、本発明に係る言語モデル更新装置は、手書き文字認識に用いる言語モデルに関しても同様の効果を奏する。
【００３３】
ここでは、新聞記事を読み上げて得られた読み上げ音声を認識するための言語モデルについて考える。一般に、言語モデルは、新聞記事テキストデータを用いてＮ−ｇｒａｍ頻度を計数することによって作成される。また、言語モデルの識別学習を行う際には、用意された新聞記事の読み上げ音声を音声認識し、正例と負例を識別学習することによって識別的言語モデルが生成される。
【００３４】
新聞記事テキストデータは相当の年数に亘って入手することができるものの、それら全部の読み上げ音声を作成し、又は入手することは、時間的な面及びコスト的な面から困難である。すなわち、識別学習において、対応する読み上げ音声が存在する一部の新聞記事テキストデータしか用いることができない。
【００３５】
図３は、本実施例における言語モデル更新装置４０の構成を示すブロック図である。擬似音声データ合成部４１は、対応する読み上げ音声である実音声データ３１を持たない新聞記事のテキストデータ３２に対して、形態素解析等によって読み情報を与えた後、ＨＭＭ（Ｈｉｄｄｅｎ  Ｍａｒｋｏｖ  Ｍｏｄｅｌ）合成によって音声合成または特徴量合成を行い、合成された音声データまたは特徴量データを擬似音声データ４２として記憶部（非図示）に記録する。擬似音声データ合成部４１は、ＨＭＭ合成において音響モデル３４を用いてもよいし、それ以外の音響モデルを用いてもよい。
【００３６】
次に、音声認識部４３は、更新前言語モデル３３および図１のモデル１４に対応する音響モデル３４を用いて、実際の新聞記事読み上げ音声である実音声データ３１および擬似音声データ４２の音声認識を行う。このとき、音声認識部４３は、認識結果のＮ−ｂｅｓｔ出力またはワードラティスを各音素の音響スコアとともに出力する。
【００３７】
次に、スコア補正部４４は、擬似音声データ４２の認識結果の音響スコアを補正する。用いる合成手段及び音響モデルによって、擬似音声データ４２の音響スコアと実音声データ３１の音響スコアとは、大きく異なる場合があるからである。
【００３８】
スコア補正部４４は、各音素とその対立候補とのスコア差をフレームごとに平均化し、モデル化して保持する。スコア補正４４は、擬似音声データ４２の認識結果における正解音素のスコアを式（１）のように補正する。
【００３９】
2010118001.tif 000003
【００４０】
式（１）において、ｓｃは補正前のスコア、ｓｃ’は補正後のスコアである。また、ｐｃは正解音素、ｐｋは誤った対立音素、Ｋは認識結果中に現れる対立音素の数をそれぞれ表す。さらに、Ｄはスコア差モデルから得られる正解音素と対立音素とのスコア差、ｄは認識結果における正解音素と対立音素とのスコア差をそれぞれ表す。また、αは補正の度合を表すパラメータである。
【００４１】
スコア補正部４４は、スコア差モデルと実際のスコア差との差を平均化し、パラメータαを乗算したものを、補正前のスコアｓｃに足し合わせることによって音響スコアを補正する。
【００４２】
スコア補正部４４は、あらかじめ認識した実音声データ３１の正例、負例、正例のスコアおよび負例のスコアを用いて、正解音素と対立音素とのスコア差をガウス分布としてモデル化する。上記のスコア差Ｄとして、ガウス分布の平均値を用いることができる。また、αの値として、適当な値を設定しておく。
【００４３】
図４は、スコア補正の例を示す。図４を参照すると、ｐｃは／ｐ／、ｐｋは／ｔ／にそれぞれ相当する。音声合成によって作成された擬似音声データ４２においては、正解音素である／ｐ／の尤度が高く、／ｐ／と／ｔ／とのスコア差ｄは、スコア差モデルにおける／ｐ／と／ｔ／とのスコア差Ｄよりも大きい。他の対立候補においても同様の傾向である場合には、式（１）の右辺の第２項は負となる。このとき、正解音素／ｐ／の音響スコアｓｃは、その値が小さくなるように補正される。
【００４４】
言語モデル更新部４５は、音響スコアを補正した音声認識結果とテキストデータ３２を用いて、更新前言語モデル３３に対する識別学習を行って、その結果を更新後言語モデル３５として出力する。
【００４５】
以上の記載は実施例に基づいて行ったが、本発明は、上記実施例に限定されるものではない。
【産業上の利用可能性】
【００４６】
本発明は、例えば、音声認識、手書き文字認識における言語モデルを更新する際に適用することができる。
【図面の簡単な説明】
【００４７】
【図１】本発明の実施形態に係る言語モデル更新装置の構成を示すブロック図である。
【図２】本発明の実施形態に係る言語モデル更新装置の動作を示すフローチャートである。
【図３】本発明の実施例における言語モデル更新装置の構成を示すブロック図である。
【図４】スコアの補正について説明するための図である。
【図５】従来の言語モデル更新装置の構成を示すブロック図である。
【符号の説明】
【００４８】
１１  実データ
１２、３２、１３２  テキストデータ
１３、３３、１３３  更新前言語モデル
１４  モデル
１５、３５、１３５  更新後言語モデル
２０、４０、１４０  言語モデル更新装置
２１  擬似データ合成部
２２  擬似データ
２３  認識部
２４、４４  スコア補正部
２５、４５、１４５  言語モデル更新部
３１、１３１  実音声データ
３４、１３４  音響モデル
４１  擬似音声データ合成部
４２  擬似音声データ
４３、１４３  音声認識部
【図１】
2010118001.tif 000004
【図２】
2010118001.tif 000005
【図３】
2010118001.tif 000006
【図４】
2010118001.tif 000007
【図５】
2010118001.tif 000008