(57)【特許請求の範囲】
【請求項１】
処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する第１の内容推定手段と、
処理対象の前記発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が前記第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、前記第１の内容推定手段によって算出された各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する第２の内容推定手段と、
前記第１の内容推定手段によって算出された各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、前記第２の内容推定手段によって算出された各第２処理単位における第２の特定の内容それぞれについての第２のスコアとを併せて、発話内容の推定結果を示す情報として出力する推定結果出力手段とを備えた
ことを特徴とする発話内容推定装置。
【請求項２】
第１処理単位は、処理対象の発話を音声認識仮説に含まれる単語に対応した複数の時間区間に分割した処理単位であり、
第２処理単位は、前記第１処理単位と同じ処理単位、または処理対象の発話をフレームに対応した時間区間に分割した処理単位である
請求項１に記載の発話内容推定装置。
【請求項３】
第１の特定の内容が、内容推定のための特定の内容であり、
第２の特定の内容が、前記第１の特定の内容に対応する言い回し表現である
請求項１または請求項２に記載の発話内容推定装置。
【請求項４】
第１の内容推定手段は、条件付確率場モデルを用いて各第１処理単位における第１の特定の内容についての確率を示す第１のスコアを算出する際に、各特徴に対する重み係数の少なくとも１つに、第１の特定の内容によって異なる値をもつ重み係数を用いる
請求項１から請求項３のうちのいずれか１項に記載の発話内容推定装置。
【請求項５】
前記第１の特定の内容に応じた第１の内容別言語モデルを記憶する第１の内容別言語モデル記憶手段と、
前記第２の特定の内容に応じた第２の内容別言語モデルを記憶する第２の内容別言語モデル記憶手段と、
処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成する言語モデル作成手段とを備え、
前記言語モデル作成手段は、推定結果出力手段から出力される、第１の内容推定手段によって推定された各第１処理単位における第１の特定の内容それぞれについての確率を示す第１のスコアと、前記第２の内容推定手段によって推定された各第２処理単位における第２の特定の内容それぞれについての確率を示す第２のスコアと、前記第１の内容別言語モデル記憶手段に記憶されている第１の内容別言語モデルと、前記第２の内容別言語モデル記憶手段に記憶されている第２の内容別言語モデルとを用いて、処理対象の前記発話を時間区間に分割した処理単位ごとに言語モデルを作成する
請求項１から請求項４のうちのいずれか１項に記載の発話内容推定装置。
【請求項６】
処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する第１の内容推定手段と、
処理対象の前記発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が前記第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、前記第１の内容推定手段によって算出された各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する第２の内容推定手段と、
前記第１の特定の内容に応じた第１の内容別言語モデルを記憶する第１の内容別言語モデル記憶手段と、
前記第２の特定の内容に応じた第２の内容別言語モデルを記憶する第２の内容別言語モデル記憶手段と、
前記第１の内容推定手段によって推定された各第１処理単位における第１の特定の内容それぞれについての確率を示す第１のスコアと、前記第２の内容推定手段によって推定された各第２処理単位における第２の特定の内容それぞれについての確率を示す第２のスコアと、前記第１の内容別言語モデル記憶手段に記憶されている第１の内容別言語モデルと、前記第２の内容別言語モデル記憶手段に記憶されている第２の内容別言語モデルとを用いて、処理対象の前記発話を時間区間に分割した処理単位ごとに言語モデルを作成する言語モデル作成手段とを備えた
ことを特徴とする言語モデル作成装置。
【請求項７】
処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出し、
処理対象の前記発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が前記第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出し、
各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における第２の特定の内容それぞれについての第２のスコアとを併せて、発話内容の推定結果を示す情報として出力する
ことを特徴とする発話内容推定方法。
【請求項８】
処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出し、
処理対象の前記発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が前記第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出し、
各第１処理単位における前記第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における前記第２の特定の内容それぞれについての第２のスコアと、予め記憶されている前記第１の特定の内容に応じた第１の内容別言語モデルと、予め記憶されている前記第２の特定の内容に応じた第２の内容別言語モデルとを用いて、処理対象の前記発話を時間区間に分割した処理単位ごとに言語モデルを作成する
ことを特徴とする言語モデル作成方法。
【請求項９】
コンピュータに、
処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する処理、
処理対象の前記発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が前記第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する処理、および
各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における第２の特定の内容それぞれについての第２のスコアとを併せて、処理対象の前記発話の時間区間ごとの発話内容の推定結果を示す情報として出力する処理
を実行させる発話内容推定プログラム。
【請求項１０】
コンピュータに、
処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する処理、
処理対象の前記発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が前記第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する処理、および
各第１処理単位における前記第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における前記第２の特定の内容それぞれについての第２のスコアと、予め記憶されている前記第１の特定の内容に応じた第１の内容別言語モデルと、予め記憶されている前記第２の特定の内容に応じた第２の内容別言語モデルとを用いて、処理対象の前記発話を時間区間に分割した処理単位ごとに言語モデルを作成する処理
を実行させる言語モデル作成プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、発話内容を推定する発話内容推定装置、言語モデルを作成する言語モデル作成装置、発話内容推定方法、言語モデル作成方法、発話内容推定プログラム、言語モデル作成プログラムに関する。
【背景技術】
【０００２】
ユーザの発した音声（発話）から、その音声に対応する単語列を認識する音声認識装置が知られている。この種の音声認識装置の一つとして、あらかじめ記憶されている複数の内容別言語モデルに基づいて、音声認識処理を行う音声認識装置が広く知られている。
【０００３】
内容別言語モデルは、特定の内容（話題など）を表す単語列において特定の単語が出現する確率を表すモデルである。例えば、テレビ番組を内容とする単語列においては、番組名や出演者名などの単語が出現する確率が大きくなり、スポーツを内容とする単語列においては、チーム名や運動用具名、選手名などの単語が出現する確率が大きくなる。
【０００４】
ところで、ユーザの一連の発話において、ひとかたまりの発話内であってもその内容が変化する場合がある。この場合、音声認識装置が１つの内容別言語モデルにのみ基づいて音声認識処理を行った場合、単語列を認識する精度が低下するおそれがある。一般的な音声認識装置は、ユーザの一連の発話を、１つの発話ごとに逐次的に音声認識処理する構成をとる。このことにより、音声認識結果を即時に出力することができる。ここで、１つの発話とは、話者の息継ぎや会話の間などによって時間的に分けられる音声のひとかたまりであり、言語的には文や節に相当することが多い。この際、音声認識する発話ごとに内容別言語モデルを選択することにより、一連の発話における内容の変化に適応することができる。しかし、１つの発話の内部で内容が変化する場合は、このような方法では対処できないおそれがある。
【０００５】
そこで、非特許文献１に記載されている音声認識装置は、音声認識対象の発話内において、複数の内容別言語モデルを発話内の位置によって異なる重みで混合して用いるように構成されている。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】山本仁、花沢健、三木清一、「カテゴリ推定に基づく言語モデルの動的制御を用いた音声認識」、日本音響学会２００９年秋期研究発表会講演論文集、ｐ．１８１−１８４
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかし、非特許文献１に記載されている音声認識装置では、音声認識対象の発話内の位置によって異なる重みが適切に与えられない場合には、特定の内容の語句を認識する精度が低下するという問題がある。
【０００８】
そこで、本発明は、１つの発話の内部で内容が変化する場合であっても、発話に含まれる特定の内容の語句を高い精度で認識することができる発話内容推定装置、言語モデル作成装置、発話内容推定方法、言語モデル作成方法、発話内容推定プログラム、言語モデル作成プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００９】
本発明による発話内容推定装置は、処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する第１の内容推定手段と、処理対象の発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、第１の内容推定手段によって算出された各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する第２の内容推定手段と、第１の内容推定手段によって算出された各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第２の内容推定手段によって算出された各第２処理単位における第２の特定の内容それぞれについての第２のスコアとを併せて、発話内容の推定結果を示す情報として出力する推定結果出力手段とを備えたことを特徴とする。
【００１０】
また、本発明による言語モデル作成装置は、処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する第１の内容推定手段と、処理対象の発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、第１の内容推定手段によって算出された各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する第２の内容推定手段と、第１の特定の内容に応じた第１の内容別言語モデルを記憶する第１の内容別言語モデル記憶手段と、第２の特定の内容に応じた第２の内容別言語モデルを記憶する第２の内容別言語モデル記憶手段と、第１の内容推定手段によって推定された各第１処理単位における第１の特定の内容それぞれについての確率を示す第１のスコアと、第２の内容推定手段によって推定された各第２処理単位における第２の特定の内容それぞれについての確率を示す第２のスコアと、第１の内容別言語モデル記憶手段に記憶されている第１の内容別言語モデルと、第２の内容別言語モデル記憶手段に記憶されている第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成する言語モデル作成手段とを備えたことを特徴とする。
【００１１】
また、本発明による発話内容推定方法は、処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出し、処理対象の発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出し、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における第２の特定の内容それぞれについての第２のスコアとを併せて、発話内容の推定結果を示す情報として出力することを特徴とする。
【００１２】
また、本発明による言語モデル作成方法は、処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出し、処理対象の発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出し、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における第２の特定の内容それぞれについての第２のスコアと、予め記憶されている第１の特定の内容に応じた第１の内容別言語モデルと、予め記憶されている第２の特定の内容に応じた第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成することを特徴とする。
【００１３】
また、本発明による発話内容推定プログラムは、コンピュータに、処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する処理、処理対象の発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する処理、および各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における第２の特定の内容それぞれについての第２のスコアとを併せて、発話内容の推定結果を示す情報として出力する処理を実行させることを特徴とする。
【００１４】
また、本発明による言語モデル作成プログラムは、コンピュータに、処理対象の発話を音声認識仮説に含まれる所定の要素に対応した複数の時間区間に分割した処理単位である第１処理単位のそれぞれに対して、当該第１処理単位の内容が予め定められた第１の特定の内容のそれぞれである確率を示す第１のスコアを、当該第１処理単位について抽出される、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内に第１の特定の内容と同時に現れる言語情報の組に基づく特徴である共起特徴とを用いて算出する処理、処理対象の発話を複数の時間区間に分割した処理単位である第２処理単位のそれぞれに対して、当該第２処理単位の内容が第１の特定の内容と共起する内容として予め定められた第２の特定の内容それぞれである確率を示す第２のスコアを、各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、第１の特定の内容の出現に対する各第２処理単位における第２の特定の内容の出現のしやすさとに基づいて算出する処理、および各第１処理単位における第１の特定の内容それぞれについての第１のスコアと、各第２処理単位における第２の特定の内容それぞれについての第２のスコアと、予め記憶されている第１の特定の内容に応じた第１の内容別言語モデルと、予め記憶されている第２の特定の内容に応じた第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成する処理を実行させることを特徴とする。
【発明の効果】
【００１５】
本発明によれば、１つの発話の内部で内容が変化する場合であっても、発話に含まれる特定の内容の語句を高い精度で認識することができる。
【図面の簡単な説明】
【００１６】
【図１】第１の実施形態の音声認識装置の構成例を示すブロック図である。
【図２】第１の内容モデルに含まれるパラメタ（特徴情報）の例を示す説明図である。
【図３】第１の内容推定部２１が抽出する特徴量の例を示す説明図である。
【図４】第１の内容モデルに含まれるパラメタ（重み情報）の例を示す説明図である。
【図５】第１の内容推定部２１が生成する処理単位列の例を示す説明図である。
【図６】第１の内容推定部２１が生成するラティスの例を示す説明図である。
【図７】第１の内容推定部２１が算出した第１のスコアの例を示す説明図である。
【図８】第２の内容モデルを示す情報として記憶されるパラメタ（隣接処理単位への付与スコア）の例を示す説明図である。
【図９】第２の内容推定部３１が算出した第２のスコアの例を示す説明図である。
【図１０】第２の内容推定部３１が算出した第２のスコアの他の例を示す説明図である。
【図１１】第２の内容推定部３１が算出した第２のスコアの他の例を示す説明図である。
【図１２】単語リストの例を示す説明図である。
【図１３】第１の実施形態の音声認識装置の動作例を示すフローチャートである。
【図１４】本発明の概要を示すブロック図である。
【図１５】本発明の概要を示すブロック図である。
【発明を実施するための形態】
【００１７】
以下、本発明を実施するための形態について図面を参照して説明する。図１は、本発明の第１の実施形態の音声認識装置の構成例を示すブロック図である。図１に示す音声認識装置１００は、音声認識部１１と、第１の内容推定部２１と、第１の内容モデル記憶部２２と、第２の内容推定部３１と、第２の内容モデル記憶部３２と、言語モデル作成部４１と、第１の内容別言語モデル記憶部４２と、第２の内容別言語モデル記憶部４３とを備える。
【００１８】
音声認識装置１００は、例えば、中央処理装置（ＣＰＵ；ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）、記憶装置（メモリおよびハードディスク駆動装置（ＨＤＤ；Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ））、入力装置および出力装置を備えたコンピュータによって実現される。
【００１９】
出力装置は、例えば、ディスプレイ装置である。出力装置は、ＣＰＵにより出力された画像情報に基づいて、文字および図形からなる画像を表示させる。また、出力装置は、データ記憶媒体やネットワークとのインタフェース機器であってもよい。そのような場合には、データ記憶媒体やネットワークを介して、音声認識結果の情報を出力する。
【００２０】
入力装置は、例えば、マイクロホンである。入力装置は、例えば、マイクロホンの周囲（すなわち音声認識装置１００の外部）の音声信号を入力する。また、入力装置は、データ記憶媒体やネットワークとのインタフェース機器であってもよい。そのような場合には、データ記憶媒体やネットワークを介して、音声信号を入力する。
【００２１】
なお、本実施形態では、音声認識装置１００は、外部から入力装置を介して音声信号を入力し、その入力された音声信号に対応する音声認識結果を出力するように構成されているものとする。
【００２２】
本実施形態において、音声認識部１１、第１の内容推定部２１、第２の内容推定部３１、言語モデル作成部４１は、例えば、音声認識装置１００が備えるＣＰＵが、記憶装置に記憶されているプログラムに従い動作することにより実現される。または、論理回路等のハードウェアにより実現されていてもよい。また、第１の内容モデル記憶部２２、第２の内容モデル記憶部３２、第１の内容別言語モデル記憶部４２、第２の内容別言語モデル記憶部４３は、例えば、音声認識装置１００が備える記憶装置によって実現される。
【００２３】
音声認識部１１は、入力される音声信号に対して音声認識処理を行い、その音声信号に対応する音声認識仮説を出力する。本実施形態では、音声認識部１１は、第１の内容推定部２１と出力装置（図示せず）とに音声認識仮説を出力する。
【００２４】
音声認識部１１は、音声認識処理において、入力された音声信号に対して、例えば、音声認識を行うためのモデル（例えば、音響モデルや言語モデル、単語辞書等を含む）の与えるスコアに従って、音声信号に適合する単語列を探索するといった一般的な処理を行えばよい。音声認識部１１は、例えば、音響モデルとして隠れマルコフモデルを用い、言語モデルとして単語トライグラムなどを用いるようにしてもよい。なお、音声認識装置１００は、これらのモデルをあらかじめ記憶装置に記憶している。
【００２５】
また、音声認識部１１は、音声認識仮説として、例えば、音声信号に対応する語句の候補を１つの単語列として表現した結果情報（音声認識結果情報）を出力してもよい。また、例えば音声認識仮説として、複数の単語列を含む単語グラフやＮベスト単語列の形式で表現した結果情報を出力するようにしてもよい。このとき、音声認識部１１は、音声認識仮説として出力する単語列に含まれる各単語が、入力された音声信号のどの区間に対応するかを表す時間情報を含む結果情報を出力する。
【００２６】
第１の内容推定部２１は、音声認識部１１から出力された音声認識仮説を入力し、内容推定処理で用いるための処理単位列を生成し、生成した処理単位のそれぞれに対して、その内容を推定する。より具体的には、各処理単位の内容が特定の内容である確率（尤もらしさを示すスコア）を計算する。この値は、その内容が特定の内容である確率が高くなるほど大きくなる値であればよく、例えば、特定の内容の出現確率であってもよいし、特定の内容に対する尤度や重みと呼ばれる値であってもよい。
【００２７】
第１の内容推定部２１は、第１の内容モデル記憶部２２に記憶されている内容モデルに基づいて、処理単位それぞれに対して、特定の内容に対するこのスコアを求める。以下、第１の内容推定部２１が求めるスコアのことを第１のスコアと呼ぶ。第１の内容推定部２１は、求めた第１のスコアを第２の内容推定部３１と言語モデル作成部４１とに出力する。
【００２８】
第１の内容推定部２１は、内容推定用の処理単位として、音声認識対象の発話の始端から終端までを複数の区間に分割したものを用いる。処理単位である各区間は、発話内におけるその区間の始端時刻と終端時刻によって定めてもよい。
【００２９】
本実施形態では、第１の内容推定部２１は、内容推定の処理単位として、音声認識仮説の単語列に含まれる各単語に対応する区間を用いる。なお、処理単位として、音声認識仮説に含まれる文字や音素に対応する区間を用いるようにしてもよい。このようにすることで、第１の内容推定部２１は、入力された音声を、もれなく複数の区間に分割することができる。
【００３０】
また、本実施形態では、第１の内容推定部２１が推定する特定の内容として、情報検索のための検索条件を用いる場合を例に説明する。情報検索のための発話では、検索条件が異なると、発話中に特定の単語が出現（存在）する確率が異なる。例えば、テレビ番組を検索するための発話の場合の検索条件に用いられる単語には、人名（タレント名やグループ名等を含む）や、番組名、番組ジャンル名（バラエティ、スポーツ等）、放送局名、時間表現（夕方、８時等）等が用いられる。本例の場合には、「人名」、「番組名」、「番組ジャンル名」、「放送局名」、「時間表現」といった検索条件に用いられる単語の括り名称（検索ワードの項目名、種別、属性とも呼ばれる）を内容推定のための特定の内容としてもよい。以下、第１の内容推定部２１が内容推定に用いる特定の内容のことを第１の内容と呼ぶ。
【００３１】
このように、第１の内容推定部２１は、発話内容を推定するために、発話中の区間（処理単位）ごとにその区間に対応する発話内容が第１の内容である確率を表す第１のスコアを算出する。従って、発話の途中で内容が変化する場合でも、それぞれの区間ごとに発話内容を推定することができる。
【００３２】
第１の内容モデル記憶部２２は、内容推定の処理単位と、その処理単位に対応する発話内容が複数の第１の内容のそれぞれである確率との関係を表す内容モデルの情報を記憶する。
【００３３】
例えば、内容モデルとして、条件付確率場（ＣＲＦ：Ｃｏｎｄｉｔｉｏｎａｌ  Ｒａｎｄｏｍ  Ｆｉｅｌｄｓ）の理論に基づく確率モデルを用いてもよい。この内容モデルは、以下の式（１）により表される。
【００３４】
Ｐ（Ｃ｜Ｗ）＝ｅｘｐ（Λ・Φ（Ｗ，Ｃ））／Ｚ  ・・・式（１）
【００３５】
ここで、Ｗは内容推定の処理単位列である。また、Ｃは各処理単位に対応する内容のラベル列（第１の内容のラベル列）である。すなわち、式（１）の左辺Ｐ（Ｃ｜Ｗ）は、処理単位列Ｗが表す内容のラベル列がＣである確率を表す。また、Φ（Ｗ，Ｃ）は、処理単位列Ｗから抽出する特徴である。また、Λはその特徴のそれぞれの要素に対応する重み係数を表す情報である。また、Ｚは正規化項である。なお、ｅｘｐ（）は、自然対数ｅを底とする数値のべき乗を求める関数を示している。
【００３６】
第１の内容モデル記憶部２２は、上記内容モデルを示す情報として、例えば、特徴Φの定義（抽出方法）と、それぞれの特徴に対応する重みΛとを記憶してもよい。なお、重みΛは、第１の内容によって異なる値としてもよい。第１の内容ごとに異なる値を与えることで、処理単位におけるそれぞれの内容の出現確率に差をつけることができる。また、本実施形態では、各処理単位について抽出する特徴として、認識特徴と共起特徴とを用いる。
【００３７】
認識特徴は、音声認識処理の過程で得られる情報に基づく特徴である。例えば、当該区間の音声認識の信頼度を用いてもよい。音声認識の信頼度は、その音声認識結果の正しさ（正確らしさ）と相関を持つ値である。例えば、音声認識処理後に計算される単語事後確率に基づく信頼度などを用いてもよい。このような特徴を用いることにより、第１の内容推定部２１で、音声認識仮説に含まれる誤認識を検出しやすくなる。特に、情報検索のための検索条件に用いられる単語は誤認識されることが多いため、このような特徴を用いることはより好ましい。
【００３８】
共起特徴は、発話内で同時に現れる言語情報（例えば、単語や品詞）の組に基づく特徴である。例えば、各処理単位が、ある第１の内容である場合において「先行区間に”単語Ｘ”がある」というように表現される特徴である。
【００３９】
図２は、第１の内容モデル記憶部２２が記憶する特徴の情報の一例を示す説明図である。図２に示す例では、特徴の識別子であるＩＤと、その特徴の定義とが対応づけられて保持されている。例えば、図２では、ＩＤ＝１として「当該区間の音声認識の信頼度」という特徴が定義づけられている。なお、この特徴は認識特徴の例である。また、例えば、ＩＤ＝２として「先行する区間に「出」がある」という特徴が定義づけられている。この特徴は共起特徴の例である。この他にもＩＤ＝３として「後続する区間に「出」がある」という特徴や、ＩＤ＝４として「先行する区間に「浅野」がある」という特徴、ＩＤ＝５として「後続する区間に「浅野」がある」という特徴の例が示されている。なお、共起特徴に用いられる単語（本例でいう「出」や「浅野」等）には、単語辞書に含まれるあらゆる単語を用いてもよい。また、これらの単語を選別する必要がある場合には、第１の内容と共起する単語を選別することがより好ましい。
【００４０】
なお、共起特徴は、図２に示したように、ある単語について特徴抽出対象の処理区間に先行するか後続するかによって異なる特徴として扱うようにしてもよいし、前後のいずれかの区間に出現するかというように先行するか後続するかを問わず１つの特徴として扱ってもよい。また、共起特徴を、特徴抽出対象の処理区間の距離により区別して異なる特徴として扱うようにしてもよい。例えば、「隣接する」、「間に１つ挟む」、「間に２つ以上挟む」といった区別により、異なる特徴として扱うようにしてもよい。なお、この距離は、処理区間の数（すなわち、単語の数）であってもよいし、処理区間の発話内における始端時間と終端時間に基づく時間情報の形式（例えば、「３０フレーム離れている」）で表される時間長であってもよい。
【００４１】
第１の内容推定部２１は、例えば、入力された音声認識仮説において、ある処理単位の先行区間に「出」が出現している場合に、その処理単位の内容がある特定の第１の内容である場合における「先行区間に「出」が出現している」という特徴に対して、共起有りを示す特徴量＝１を与えてもよい。なお、先行区間に「出」が出現しない場合には、これらは共起していないとして、共起無しを示す特徴量＝０を与えればよい。図３は、第１の内容推定部２１が抽出した特徴量の例を示す説明図である。図３では、例えば、第１の内容推定部２１が、ある処理単位について、ＩＤ＝１として定義されている特徴（「当該区間の音声認識の信頼度」）について０．３という値（特徴量）を抽出したことを示している。また、例えば、ＩＤ＝２として定義されている特徴について１という値（特徴量）を抽出したことを示している。これは、その処理単位の先行する区間に「出」という単語が出現したことによる。また、例えば、ＩＤ＝５として定義されている特徴について０という値（特徴量）を抽出したことを示している。これは、その処理単位の後続する区間に「浅野」という単語が出現しないことによる。なお、図３では、後述する図５に示す処理単位列における処理単位３について抽出した特徴量の例を示している。
【００４２】
また、図４は、第１の内容モデル記憶部２２が記憶する重みの情報の一例を示す説明図である。図４に示す例では、特徴を識別するＩＤと、その特徴に対する第１の内容別の重みΛとが対応づけられて保持されている。なお、図４は、第１の内容が「人名」「ジャンル名」「その他」の３種類である場合の例である。例えば、図４では、ＩＤ＝１の特徴について、「人名」に対しては重みΛ＝０．４を、「ジャンル名」に対しては重みΛ＝０．３を、「その他」に対しては重みΛ＝−０．２を定めている。
【００４３】
第１の内容推定部２１は、各特徴に対して抽出した値（特徴量）と、別途第１の内容に応じて定められている重み係数（Λ）との積に基づいて、第１のスコアを計算する。なお、図４に示すように、第１の内容推定部２１で推定する第１の内容に応じて、各特徴に対する重み係数が異なっているものが含まれていることが好ましい。換言すると、第１の内容別に重み係数が異なるような特徴が多く定義されていることが好ましい。これにより、第１の内容に応じて異なるスコアが得られ、処理単位におけるそれぞれの内容の出現確率に差をつけることができる。
【００４４】
ここで、第１の内容推定部２１が発話中の区間ごとに第１のスコアを算出する方法について具体例を用いて説明する。以下では、内容推定の処理単位が音声認識仮説の各単語に対応する区間であり、かつ第１の内容モデルとしてＣＲＦを用いる場合を例示する。図５は、処理対象の発話に対して入力された音声認識仮説から生成される処理単位列の例を示す説明図である。なお、図５（ａ）は、処理対象の発話の例を示す説明図である。また、図５（ｂ）は、入力される音声認識仮説の単語列の例を示す説明図である。また、図５（ｃ）は、生成した処理単位列の例を示す説明図である。図５（ａ）に示すように、例えば、処理対象の発話が「明日のでエグザイルとかが出ている音楽番組」であった場合に、図５（ｂ）で示すような音声認識仮説が得られたとする。なお、図５（ｂ）では、音声認識仮説として示された単語列が、「浅野／出／不在／る／とか／が／出／て／いる／音楽番組」であることが示されている。ここで”／”は単語の区切りを示している。また、各単語の発話内位置が、単語１：「浅野」＝０〜３０、単語２：「出」＝３０〜４０、単語３：「不在」＝４０〜６０、単語４：「る」＝６０〜７５、単語５：「とか」＝７５〜９５、単語６：「が」＝９５〜１０５、単語７：「出」＝１０５〜１１５、単語８：「て」＝１１５〜１２５、単語９：「いる」＝１２５〜１４０、単語１０：「音楽番組」＝１４０〜２００であることが示されている。このような場合に、第１の内容推定部２１は、例えば、入力される音声認識仮説の単語列に含まれる各単語に対応する区間ごとに、処理単位を生成する。すなわち、単語１に対応する区間に対して処理単位１を生成し、単語２に対応する区間に対して処理単位２を生成し、以下繰り返しで、最後に単語１０に対応する区間に対して処理単位１０を生成することによって処理単位１〜１０からなる処理単位列を生成する。
【００４５】
次に、第１の内容推定部２１は、生成した処理単位それぞれに対して、第１の内容モデル記憶部２２に記憶されている内容モデルを参照して、各処理単位の内容が、与えられる第１の内容それぞれである確率を計算する。本例では、第１の内容推定部２１は、処理単位列Ｗ（処理単位の単語）が取りうる全ての内容Ｃの組み合わせを表現するラティス（グラフ構造）において、各ノードの事後確率を計算する。
【００４６】
例えば、内容Ｃの候補（すなわち、与えられる第１の内容）が「人名」「ジャンル名」「その他」の３種類である場合、第１の内容推定部２１は、図６に示すようなラティスを生成する。図６は、第１の内容推定部２１が生成するラティスの例を示す説明図である。図６に示す例では、各処理単位の単語が、それぞれ内容ａ：「人名」、内容ｂ：「ジャンル名」、内容ｃ：「その他」であった場合の組み合わせを表現している。
【００４７】
図６において、例えば、ノード「１ａ」は、処理単位１に対応する単語１（図５（ｂ）の例では「浅野」）が「人名」である状態を示している。また、例えばノード「１ｂ」は、処理単位１に対応する単語１が「ジャンル名」である状態を示している。また、例えばノード「１ｃ」は、処理単位１に対応する単語１が「その他」である状態を示している。同様に、例えば、ノード「３ａ」は、処理単位３に対応する単語３（図５（ｂ）の例では「不在」）が「人名」である状態を示している。
【００４８】
第１の内容推定部２１は、各ノードについて、例えば、図２に例示する特徴の定義に基づき特徴量となる値を抽出し、抽出したこれらの値（図３参照。）と、図４に例示する各特徴に対応する重み係数（ここでは、当該ノードに対応づけらえた内容に与えられた重み係数を用いる）の積に基づいて第１のスコアを計算する。
【００４９】
以下に、前述の式（１）に基づいて、各ノードにおける事後確率を求める方法の一例を示す。事後的な出現確率（事後確率）ｐ（Ｃｉ＝ｊ｜Ｗ）は、前向きアルゴリズムと後向きアルゴリズムを用いた再帰的な計算により算出する。ここで、Ｃｉ＝ｊは、ｉ番目の処理単位の内容が内容ｊであることを示す。第１の内容推定部２１は、この事後確率ｐを、当該区間における各内容の出現確率として求める。図７は、第１の内容推定部２１が算出した各処理区間の各内容の出現確率（第１のスコア）の例を示す説明図である。図７に示すように、第１の内容推定部２１は、処理単位の区間ごとにそれぞれの内容（第１の内容）の出現確率を第１のスコアとして出力する。図７に示す例では、例えば、処理単位１における「その他」の出現確率と「人名」の出現確率とが０．４〜０．５あたりの値であり、「ジャンル名」の出現確率がゼロに近い値であることが示されている。
【００５０】
なお、第１の内容モデルであるＣＲＦのモデルパラメタは、予め対応付けられたモデルの入力（Ｗ：処理単位列）と、モデルの出力（Ｃ：内容のラベル列）との組み合わせの組を学習データとして、前述の式（１）の対数尤度を最大化する基準に従って反復計算法等により最適化することによって学習されてもよい。ＣＲＦを用いた識別、識別結果の事後確率の計算、モデルパラメタの学習の具体的方法は、例えば、文献「J.Laffery, A.McCallum, F.Pereira, "Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data", Proceedings of 18th International Conference of MachineLearning, 2001, p.282-289 」（非特許文献２）に記載されている方法を用いてもよい。
【００５１】
第２の内容推定部３１は、第１の内容推定部２１が出力する各処理単位についての各内容（第１の内容）に対する第１のスコアと、第２の内容モデル記憶部３２に記憶されている第２の内容モデルとに基づいて、各処理単位それぞれに対して、その区間の内容が特定の内容である確率（尤もらしさを示すスコア）を求める。以下、第２の内容推定部３１が求めるスコアを第２のスコアと呼ぶ。第２の内容推定部３１は、求めた第２のスコアを言語モデル作成部４１に出力する。
【００５２】
第２の内容推定部３１は、処理単位として、第１の内容推定部２１と同様に、音声認識対象の発話を複数の区間に分割したものを用いる。本実施形態では、第１の内容推定部２１が生成した処理単位を用いるものとする。なお、第２の内容推定部３１は、第１の内容推定部２１が生成したものとは異なる時間区間を、スコア算出の処理単位として用いてもよい。
【００５３】
本実施形態では、第２の内容推定部３１は、推定する特定の内容として、第１の内容推定部２１で用いた特定の内容（第１の内容）と共起する内容（すなわち、前後表現）を用いる。以下、第２の内容推定部３１が内容推定に用いる特定の内容のことを第２の内容と呼ぶ。情報検索のための発話では、検索条件を表す単語の前後に、検索条件によって異なる特定の表現（言い回し）が頻出する。例えば、テレビ番組を検索するための発話の場合、「人名」の検索条件を表す単語には、「出演している」などの言い回し表現がよく現れる。本例では、第１の内容に対して、対応する言い回し表現を第２の内容として定める。
【００５４】
例えば、第１の内容推定部２１で「人名」という表現の括りを第１の内容として用いる場合、第２の内容推定部３１では、「人名の言い回し表現」を第２の内容として用いる。また、例えば、第１の内容推定部２１で、「人名」「ジャンル名」「その他」を第１の内容として用いる場合、第２の内容推定部３１は、「人名の言い回し表現」「ジャンル名の言い回し表現」を第２の内容として用いてもよい。なお、本例では「その他」については特に頻出する言い回し表現はないものとして「その他の言い回し表現」は第２の内容として用いない。
【００５５】
第２の内容モデル記憶部３２は、各処理単位における第２の内容の出現しやすさを表す情報を含む第２の内容モデルの情報を記憶する。図８は、第２の内容モデルを示す情報として記憶されるパラメタの例を示す説明図である。図８に示す例では、第２の内容モデル記憶部３２は、第２の内容ごとに、その出現しやすさに対して与えるスコア（隣接処理単位への付与スコア）を保持する。なお、第１の内容推定で用いる共起特徴として、処理単位と共起する位置関係（前後や距離）によって区別して定義する場合は、その位置関係ごとに異なる値を保持するようにしてもよい。
【００５６】
第２の内容推定部３１は、第２のスコアの算出方法として、各処理単位で最も第１のスコアが大きい第１の内容に基づき、その処理単位に隣接する処理単位における当該第１の内容に対応した第２の内容（言い回し表現）についての第２のスコアが大きくなるように、スコアを与える。例えば、各処理単位で最も第１のスコアが大きい第１の内容に対応する第２の内容に応じて定められているスコア（出現しやうさに対して付与される値）を、その隣接する処理単位に付与する処理を行うことによって、各処理単位について第２の内容である確率を示す第２のスコアを求めてもよい。
【００５７】
ここで、図５（ｃ）に示した処理単位３を例に用いて、第２の内容推定部３１での第２のスコアの算出方法について説明する。第２の内容推定部３１は、図７に示す例では、この処理単位３における最も大きい第１のスコアが「人名」のスコア（第１の確率）であるため、図８に示した第２の内容モデルに従い、この処理単位３に隣接する処理単位に０．４というスコアを与える。図９は、第２の内容推定部３１が算出した第２のスコアの例を示す説明図である。図９では、図８に示した第２の内容モデルに従って、隣接する４つの処理単位までスコアを与えている。なお、図９に示す例では、同じく「人名」のスコアが最も高い処理単位を除いてスコアを与える例を示しているが、処理単位ごとに単純に隣接する処理単位にスコアを付与してもよい。そのような場合に、例えば、処理単位ごとの隣接処理単位への付与処理によって重複してスコアが与えられる処理単位については、与えるスコア値を調整した上で付与するようにしてもよい。なお、既に説明したように、単純に２倍されるように付与してもよいし、重複してはスコアを与えないようにしてもよい。
【００５８】
また、第２の内容推定部３１は、隣接する処理単位にスコアを与える際に、第１のスコアの大きさによって、第２の内容モデルの値に重みづけてスコアを与えてもよい。例えば、ある処理単位に対して算出された第１のスコアが所定の値よりも小さい場合は、それに基づいて付与するスコアをその分小さくするなどの処理を行うようにしてもよい。また、第１の内容推定で用いる共起特徴として、処理単位と共起する位置関係（前後や距離）により区別された特徴が用いられている場合には、その位置関係ごとに第２の内容のスコアを変えて与えてもよい。例えば、先行する処理単位と後続する処理単位に異なる値を与えたり、１つ隣の処理単位と２つ以上離れた処理単位に異なる値を与えたりするようにしてもよい。
【００５９】
また、既に説明したように、第２の内容推定部３１は、第１の内容推定部２１とは異なる時間単位をスコア算出の処理単位としてもよい。そのような場合には、第２の内容推定部３１は、第１の内容推定部２１の各処理単位で最も第１のスコアが大きい第１の内容に基づき、その処理単位（第１の内容推定部２１での処理単位）に隣接する処理単位（ここでは、第２の内容推定部３１での処理単位）に対して、当該第１の内容に対応した第２の内容（言い回し表現）についての第２のスコアが大きくなるように、スコアを与えればよい。例えば、第１の内容推定部２１の処理単位を「単語」単位とし、第２の内容推定部３１の処理単位を「フレーム」単位とする場合には、その単語の前後数フレームに対して、スコアを与えるといった処理を行うことも可能である。
【００６０】
また、第２の内容推定部３１が、第１のスコアと第２のスコアの両方を出力するようにし、その際、第１の内容推定部２１で求めた第１の内容に対する各スコア（第１のスコア）と、第２の内容推定部３１で求めた第２の内容に対する各スコア（第２のスコア）を処理単位ごとに正規化して出力するようにしてもよい。正規化して出力することで、入力された処理対象の発話について、第１の内容である確率と第２の内容である確率とを総合して評価した発話内容推定結果を出力することができる。なお、第１の内容推定部２１と第２の内容推定部３１で異なる処理単位を用いる場合は小さい方の処理単位に合わせればよい。
【００６１】
なお、本発明を発話内容推定装置として実現する場合には、第１の内容推定部２１によって算出された第１のスコアと、第２の内容推定部３１によって算出された第２のスコアとを併せて、処理対象の発話内容の推定結果を示す情報として出力してもよい。例えば、推定結果出力部（図示せず。）を設けて、第１のスコアと第２のスコアとを入力し、それらに基づいて処理対象の発話内容の推定結果を示す情報を出力させてもよい。なお、推定結果出力部は、第１のスコアと第２のスコアを含む情報をそのまま処理対象の発話内容の推定結果を示す情報として出力してもよいし、上記で説明したように第１のスコアと第２のスコアを処理単位ごとに正規化したものを処理対象の発話内容の推定結果を示す情報として出力してもよい。なお、各内容推定部がこの推定結果出力部の機能を兼用し、それぞれが求めたスコアを出力してもよいし、第２の内容推定部３１がまとめて出力することで推定結果出力部を兼用してもよい。
【００６２】
図１０および図１１は、第２の内容推定部３１が算出する第２のスコアの他の例を示す説明図である。なお、図１０は、処理単位と共起する位置の関係として距離に応じて共起特徴を分類した場合の第２のスコアの付与例を示す説明図である。また、図１１は、処理単位と共起する位置の前後関係に応じて共起特徴を分類した場合の第２のスコアの付与例を示す説明図である。なお、図１０および図１１とも、「人名の言い回し表現」についての第２のスコアの付与例を示している。
【００６３】
言語モデル作成部４１は、算出された第１のスコアと、算出された第２のスコアと、第１の内容別言語モデル記憶部４２に記憶されている第１の内容別言語モデルと、第２の内容別言語モデル記憶部４３に記憶されている第２の内容別言語モデルとに基づいて、音声認識対象の発話のうち、処理単位ごとに特定の単語が出現する確率を表す言語モデルを作成する。また、言語モデル作成部４１は、作成した言語モデルを音声認識部１１に出力する。
【００６４】
第１の内容別言語モデル、第２の内容別言語モデル、言語モデル作成部４１の作成する言語モデルは、例えば、ある単語が出現する確率がその直前のＮ−１個の単語に依存すると定義したＮグラム言語モデルであってもよい。
【００６５】
Ｎグラム言語モデルにおいて、ｉ番目の単語ｗｉの出現確率はＰ（ｗｉ｜Ｗｉ−Ｎ＋１ｉ−１）により表される。ここで、条件部のＷｉ−Ｎ＋１ｉ−１は、（ｉ−Ｎ＋１）〜（ｉ−１）番目の単語列を表す。なお、Ｎ＝２のモデルをバイグラム（ｂｉｇｒａｍ）モデル、Ｎ＝３のモデルをトライグラム（ｔｒｉｇｒａｍ）モデルと呼ぶ。また、直前の単語に影響されないとの仮定に基づいて構築されたモデルをユニグラム（ｕｎｉｇｒａｍ）モデルと呼ぶ。
【００６６】
Ｎグラム言語モデルによれば、単語列Ｗｉｎ＝（ｗ１，ｗ２，・・・，ｗｎ）が出現する確率Ｐ（Ｗｉｎ）は以下の式（２）により表される。
【００６７】
Ｐ（Ｗｉｎ）＝ΠｉＰ（ｗｉ｜Ｗｉ−Ｎ＋１ｉ−１）  ・・・式（２）
【００６８】
また、このようなＮグラム言語モデルに用いられる種々の単語の種々の条件付き確率からなるパラメタは、学習用テキストデータに対する最尤推定等により求められる。
【００６９】
言語モデル作成部４１は、例えば、第１のスコアおよび第２のスコアによって示される、音声認識対象の発話の各区間における各内容（第１の内容および第２の内容）の確率と、第１の内容別言語モデル記憶部４２および第２の内容別言語モデル記憶部４３に記憶されている複数の内容別言語モデルとを用い、次の式（３）に従って、言語モデルを作成してもよい。
【００７０】
Ｐｔ（ｗｉ）＝Σｊαｊ（ｔ）Ｐｊ（ｗｉ）  ・・・式（３）
【００７１】
式（３）において、Ｐｔ（ｗｉ）は単語ｗｉが区間ｔにおいて出現する確率である。また、αｊ（ｔ）は、区間ｔにおける内容が内容ｊである確率（スコア）である。またＰｊ（ｗｉ）は内容ｊに対する内容別言語モデルにおける単語ｗｉが出現する確率である。本例では、言語モデル作成部４１は、第１の内容推定部２１および第２の内容推定部３１により計算されたスコア（発話内の各区間における内容の出現確率）を、式（３）のαｊ（ｔ）として用いる。ここで、第１の確率と第２の確率とで異なる係数をかけたものを式（３）のαｊ（ｔ）として用いるようにしてもよい。
【００７２】
ここで、式（３）のｔは、音声認識処理において用いられる時間フレームに対応する区間であってもよく、発話内の時点を表す時刻等であってもよい。
【００７３】
第１の内容別言語モデル記憶部４２に記憶されている第１の内容別言語モデルは、第１の内容それぞれを表現する単語を含む単語列を学習データとして用いる。例えば、検索条件を表現する単語リストを用意しておき、それらを含む単語列を学習データとして用いてもよい。
【００７４】
また、第２の内容別言語モデル記憶部４３に記憶されている第２の内容別言語モデルは、第２の内容それぞれを表現する単語を含む単語列を学習データとして用いる。なお、検索条件ごとに、後述するような特定の表現として選別された言い回し表現のリストを用意しておき、それらを含む単語列を学習データとして用いてもよい。
【００７５】
図１２は、単語リストの例を示す説明図である。なお、図１２（ａ）は、第１の内容の単語リストの一例を示す説明図であって、図１２（ｂ）は、第２の内容の単語リストの一例を示す説明図である。例えば、図１２（ａ）では、第１の内容「人名」については、「エグザイル」などの単語が含まれている。
【００７６】
なお、第２の内容の単語リストに関して、本例では、第２の内容に含まれる特定の表現（言い回し表現）を第１の内容モデルに従って定める。ここで、第２の内容に含まれる特定の表現とは、第２の内容である「人名の言い回し表現」という表現の括りに対して「出演している」というような具体的な表現のことである。具体的には、第１の内容モデルとして学習したＣＲＦのパラメタのうち、第１の内容ごとに、その内容の推定に寄与の大きい単語を選別する。例えば、図４に示したパラメタ（重み）の例の場合、第１の内容「人名」に対して重み係数の大きい特徴（ＩＤ＝２）に用いられている単語「出」を特定の表現とし、その他は特定の表現としない、というように選別する。なお、特定の表現は１つに限らず、いくつ定めてもよい。
【００７７】
このような場合に、言語モデル作成部４１は、第２の内容の単語リストのうち、第１の内容モデルに従って選別された特定の表現に対してのみαｊ（ｔ）に第２のスコアを反映させるようにしてもよい。例えば、図１２（ｂ）に示す例では、第２の内容「人名の言い回し表現」については、「出演する」「出ている」「司会の」といった例が示されているが、特定の表現として「出」という単語のみが選別された場合には「出」が用いられている「出ている」といった単語に対してのみ、αｊ（ｔ）に第２のスコアを反映させる。これにより、共起関係の小さい言い回し表現に対して第２のスコアが過剰に反映されることを防ぐことができる。なお、特定の表現か否かの判定は、このように単語単位で行う方法に限らず、例えば単語の一部が一致するものも含むように判定を行うことも可能である。そのような場合には、「出演する」といった単語も選別されるようになる。また、第２の内容についての特定の表現の選別は、第１の内容モデルの学習と同じタイミングで行えばよい。すなわち、本実施形態の一連の処理より前に予め行っておけばよい。なお、何を「第１の内容」および「第２の内容」とするか、すなわち「第１の内容」および「第２の内容」の選定についても、処理対象の発話の種類や内容推定の目的等に応じて予め行われているものとし、本実施形態では一連の処理を開始する際には設定値として与えられているものとする。
【００７８】
このように、内容別言語モデルを学習することにより、特定の内容を表現する単語について、異なる内容別言語モデルでは異なる出現確率が与えられるようになる。
【００７９】
なお、内容別言語モデル記憶部４２，４３は、特に認識したい単語のリストとして、上述した単語リストを記憶させていてもよい。この場合、言語モデル作成部４１は、発話内の各区間において、例えば、最もスコアが大きい内容に対する単語リストに含まれる単語が出現する確率を所定の値だけ増加させるように構成されていてもよい。
【００８０】
なお、言語モデル作成部４１は、作成した言語モデルを出力する際に、言語モデルに含まれる情報をすべて出力してもよいし、外部から指定された情報のみを出力してもよい。
【００８１】
このように、言語モデル作成部４１は、音声認識対象の発話の区間ごとに、その区間における各内容の出現確率の推定結果を重み係数として、各内容別言語モデルの重み付け言語モデルを作成する。
【００８２】
後段で、音声認識部１１が言語モデル作成部４１によって作成された言語モデルを用いることにより、区間ごとに精度のよい言語モデルを用いて音声認識処理を行うことができるため、より正確な音声認識結果を出力することができる。
【００８３】
次に、図１３に示すフローチャートを参照して、本実施形態の動作について説明する。図１３は、本実施形態の音声認識装置１００の動作の一例を示すフローチャートである。図１３に示すように、音声認識装置１００は、起動されると、記憶デバイス等から必要なデータを読み出し、音声認識部１１、第１の内容推定部２１、第２の内容推定部３１および言語モデル作成部４１から参照できるように、第１の内容モデル記憶部２２、第２の内容モデル記憶部３２、第１の内容別言語モデル記憶部４２および第２の内容別言語モデル記憶部４３にデータを展開する等の初期化処理を行う（ステップＳ１１）。
【００８４】
一方、音声認識部１１は、入力装置からの通知に応じて音声信号を受け付け、音声認識処理を行う（ステップＳ１２）。また、音声認識部１１は、音声認識処理によって得た音声認識仮説を第１の内容推定部２１に出力する。
【００８５】
次に、第１の内容推定部２１は、第１の内容モデル記憶部２２に記憶されている第１の内容モデルに基づいて、すでに述べた方法などにより、音声認識仮説から生成した処理単位列に含まれる各処理単位に対応する内容が、特定の内容（第１の内容）である確率である第１のスコアを算出する（ステップＳ１３）。
【００８６】
次に、第２の内容推定部３１は、第１の内容推定部２１により推定された各処理単位の各内容（第１の内容）の出現確率（第１のスコア）と、第２の内容モデル記憶部３２に記憶されている第２の内容モデルとに基づいて、すでに述べた方法などにより、各処理単位に対応する内容が、特定の内容（第２の内容）である確率である第２のスコアを算出する（ステップＳ１４）。
【００８７】
次に、言語モデル作成部４１は、第１の内容推定部２１および第２の内容推定部３１により推定された各処理単位の各内容（第１の内容および第２の内容）の出現確率（第１のスコアと第２のスコア）と、第１の内容別言語モデル４２および第２の内容別言語モデル４３に記憶されている内容別言語モデルとに基づいて、音声認識対象の発話内の位置ごとに、特定の単語が出現する確率を表す言語モデルを作成する（ステップＳ１５）。また、言語モデル作成部４１は、作成した言語モデルを音声認識部１１に出力する。
【００８８】
次に、音声認識部１１は、言語モデル作成部４１により作成された言語モデルを用いて、音声認識対象の発話を音声認識処理し、音声認識仮説を結果情報として出力装置に出力する（ステップＳ１６）。
【００８９】
このような一連の処理により、より正確な音声認識仮説を得ることができる。なお、音声認識部１１は、この時点の音声認識仮説を再び第１の内容推定部２１に出力してもよい（ステップＳ１３に戻る）。
【００９０】
すなわち、本実施形態によれば、音声認識対象の発話の内容を推定する際に、第１の内容（例えば、どの検索条件であるか）を推定するだけでなく、その推定結果に基づいて、第１の内容の共起する単語の表現である第２の内容（例えば、どの検索条件の言い回し表現であるか）も推定する。これにより、音声認識対象の発話内で変化する内容を誤って推定することを回避することができる。
【００９１】
これは、第２の内容推定部３１が、第１の内容推定部２１で用いた特定の内容の前後表現を第２の内容として内容推定を行うことによって、発話に対する内容の出現確率が正確になるからである。例えば、第１の内容推定部２１の出力が図７で示した出現確率の場合、処理単位１では、「その他」である確率と「人名」である確率とが同等程度となっている。これは、処理単位２に「出」があることなどの影響によって「人名」である確率が高くなることによる。仮にこの出現確率を用いて、後段で、後述する言語モデル作成部４１で作成した言語モデルを用いて音声認識部１１で音声認識を行うと、この区間では「人名」の内容別言語モデルの重みを大きくして認識するため、この区間の認識結果は「人名」の内容の単語（例えば、「浅野」）となり、認識誤り（検索条件の挿入誤り）が発生する可能性が大きくなる。
【００９２】
しかし、第２の内容推定部３１が、処理単位１に対して「人名の言い回し表現」の内容の出現確率を多く与えることにより、相対的に「人名」である確率を小さくすることができる。これにより、発話に対する内容の出現確率が正確になる。すると、後段の音声認識部１１で、正確な音声認識仮説（本例では、「明日の」）が得られるようになる。
【００９３】
情報検索のための発話では、検索条件の単語では認識誤りが多く、言い回し表現の単語は認識誤りが少ない傾向にある。また、表現のバリエーションについては前者の方が大きい傾向にある。第１の内容推定部２１では、このような発話の傾向を利用して、比較的認識しやすく、バリエーションの少ない言い回し表現を手がかりにして、検索条件の区分を推定している。このため、第１の内容推定部２１で「言い回し表現」の内容も同時に推定するのは比較的難しい。一方で、第１の内容推定部２１で「検索条件」の内容は、比較的推定しやすいため、第２の内容推定部３１では、検索条件の存在を手がかりにして、その前後に存在する言い回し表現の区間を推定することができる。
【００９４】
このように、第２の内容推定部３１は、第１の内容（検索条件）だけでなく、第２の内容（言い回し表現）についても発話内の区間ごとに出現確率を推定することにより、音声認識対象の発話に対して適切にその内容を推定することができる。
【００９５】
従って、音声認識装置１００では、発話内の特定の内容をより正確に推定することができる。この結果、音声認識装置１００は、その発話に含まれる特定の内容の語句をより正確に認識することができる。
【００９６】
次に、本発明の概要について説明する。図１４および図１５は、本発明の概要を示すブロック図である。図１４は、本発明を発話内容推定装置に適用した場合の構成例を示すブロック図である。図１４に示す発話内容推定装置は、第１の内容推定手段１０１と、第２の内容推定手段１０２と、推定結果出力手段１０３とを備える。
【００９７】
第１の内容推定手段１０１は、処理対象の発話を時間区間に分割した処理単位の内容が、第１の特定の内容である確率を推定する。なお、第１の内容推定手段１０１は、上記実施形態における第１の内容推定部２１によって実現される。
【００９８】
第２の内容推定手段１０２は、処理対象の発話を時間区間に分割した処理単位の内容が、第１の特定の内容の単語と共起する単語の内容として定めた第２の特定の内容である確率を推定する。なお、第２の内容推定手段１０２は、上記実施形態における第２の内容推定部３１によって実現される。
【００９９】
推定結果出力手段１０３は、第１の内容推定手段１０１によって推定された各処理単位における第１の特定の内容についての確率と、第２の内容推定手段１０２によって推定された各処理単位における第２の特定の内容についての確率とを併せて、発話内容の推定結果を示す情報として出力する。なお、推定結果出力手段１０３は、上記実施形態における第１の内容推定部２１および第２の内容推定部３１、または第１のスコアと第２のスコアとを併せて出力するまたは正規化して出力する第２の内容推定部３１によって実現される。
【０１００】
なお、このような発話内容推定装置において、第２の内容推定手段は、第２の特定の内容について、共起する第１の特定の内容との位置の前後に応じて、異なる確率を推定してもよい。
【０１０１】
また、第２の内容推定手段は、第２の特定の内容について、共起する第１の特定の内容との位置の距離に応じて、異なる確率を推定してもよい。
【０１０２】
また、第１の内容推定手段は、条件付確率場モデルを用いて各処理単位における第１の特定の内容についての確率を示す第１のスコアを算出する際に、各処理単位について抽出する特徴として、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内で同時に現れる言語情報の組に基づく特徴である共起特徴とを用い、かつ各特徴に対する重み係数の少なくとも１つに、第１の特定の内容によって異なる値をもつ重み係数を用い、第２の内容推定手段は、第１の内容推定手段によって算出された各処理単位における第１の特定の内容についての第１のスコアを利用して、各処理単位における第２の特定の内容についての確率を示す第２のスコアを算出してもよい。
【０１０３】
また、発話内容推定装置は、第１の特定の内容に応じた第１の内容別言語モデルを記憶する第１の内容別言語モデル記憶手段と、第２の特定の内容に応じた第２の内容別言語モデルを記憶する第２の内容別言語モデル記憶手段と、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成する言語モデル作成手段とを備え、言語モデル作成手段は、推定結果出力手段から出力される、第１の内容推定手段によって推定された各処理単位における第１の特定の内容についての確率である第１のスコアと、第２の内容推定手段によって推定された各処理単位における第２の特定の内容についての確率である第２のスコアと、第１の内容別言語モデル記憶手段に記憶されている第１の内容別言語モデルと、第２の内容別言語モデル記憶手段に記憶されている第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成してもよい。
【０１０４】
また、図１５は、本発明を言語モデル作成装置に適用した場合の構成例を示すブロック図である。図１５に示す言語作成モデルは、第１の内容推定手段１０１と、第２の内容推定手段１０２と、第１の内容別言語モデル記憶手段１０４と、第２の内容別言語モデル記憶手段１０５と、言語モデル作成手段１０６とを備える。
【０１０５】
第１の内容推定手段１０１は、処理対象の発話を時間区間に分割した処理単位の内容が、第１の特定の内容である確率を推定する。なお、第１の内容推定手段１０１は、図１４に示した第１の内容推定手段１０１と同様の手段でよい。
【０１０６】
第２の内容推定手段１０２は、処理対象の発話を時間区間に分割した処理単位の内容が、第１の特定の内容の単語と共起する単語の内容として定めた第２の特定の内容である確率を推定する。なお、第２の内容推定手段１０２は、図１４に示した第２の内容推定手段１０２と同様の手段でよい。
【０１０７】
第１の内容別言語モデル記憶手段１０４は、第１の特定の内容に応じた第１の内容別言語モデルを記憶する。なお、第１の内容別言語モデル記憶手段１０４は、上記実施形態における第１の内容別記憶部４２によって実現される。
【０１０８】
第２の内容別言語モデル記憶手段１０５は、第２の特定の内容に応じた第２の内容別言語モデルを記憶する。なお、第２の内容別言語モデル記憶手段１０５は、上記実施形態における第２の内容別記憶部４３によって実現される。
【０１０９】
言語モデル作成手段１０６は、第１の内容推定手段によって推定された各処理単位における第１の特定の内容についての確率である第１のスコアと、第２の内容推定手段によって推定された各処理単位における第２の特定の内容についての確率である第２のスコアと、第１の内容別言語モデル記憶手段に記憶されている第１の内容別言語モデルと、第２の内容別言語モデル記憶手段に記憶されている第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成する。
【０１１０】
（付記１）また、本発明による発話内容推定方法で、第２の特定の内容について、共起する第１の特定の内容との位置の前後に応じて、異なる確率を推定してもよい。
【０１１１】
（付記２）また、本発明による発話内容推定方法で、第２の特定の内容について、共起する第１の特定の内容との位置の距離に応じて、異なる確率を推定してもよい。
【０１１２】
（付記３）また、本発明による発話内容推定方法で、条件付確率場モデルを用いて各処理単位における第１の特定の内容についての確率を示す第１のスコアを算出する際に、各処理単位について抽出する特徴として、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内で同時に現れる言語情報の組に基づく特徴である共起特徴とを用い、かつ各特徴に対する重み係数の少なくとも１つに、第１の特定の内容によって異なる値をもつ重み係数を用い、また、第２のスコアを算出する際に、第１の特定の内容によって異なる値をもつ重み係数を用い、第２の内容推定手段は、処理単位として第１の内容推定手段が用いる処理単位を用い、第１の内容推定手段によって算出された各処理単位における第１の特定の内容についての第１のスコアを利用して、各処理単位における第２の特定の内容についての確率を示す第２のスコアを算出してもよい。
【０１１３】
（付記４）また、本発明による発話内容推定方法は、各処理単位における第１の特定の内容についての確率である第１のスコアと、第２の内容推定手段によって推定された各処理単位における第２の特定の内容についての確率である第２のスコアと、第１の特定の内容に応じた第１の内容別言語モデルと、第２の特定の内容に応じた第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成するステップを含んでいてもよい。
【０１１４】
（付記５）また、本発明による言語モデル作成方法に、上記付記１〜３に示した事項を適用させてもよい。
【０１１５】
（付記６）また、本発明による発話内容推定プログラムは、コンピュータに、第２のスコアを算出する処理で、第２の特定の内容について、共起する第１の特定の内容との位置の前後に応じて、異なる確率を推定させてもよい。
【０１１６】
（付記７）また、本発明による発話内容推定プログラムは、コンピュータに、第２のスコアを算出する処理で、第２の特定の内容について、共起する第１の特定の内容との位置の距離に応じて、異なる確率を推定させてもよい。
【０１１７】
（付記８）また、本発明による発話内容推定プログラムは、コンピュータに、第１のスコアを算出する処理で、条件付確率場モデルを用い、各処理単位について抽出する特徴として、音声認識処理の過程で得られる情報に基づく特徴である認識特徴と、発話内で同時に現れる言語情報の組に基づく特徴である共起特徴とを用い、かつ各特徴に対する重み係数の少なくとも１つに、第１の特定の内容によって異なる値をもつ重み係数を用いさせ、第２のスコアを算出する処理で、処理単位として第１の内容推定手段が用いる処理単位を用い、第１の内容推定手段によって算出された各処理単位における第１の特定の内容についての第１のスコアを利用して、各処理単位における第２の特定の内容についての確率を示す第２のスコアを算出させてもよい。
【０１１８】
（付記９）また、本発明による発話内容推定プログラムは、コンピュータに、各処理単位における第１の特定の内容についての確率である第１のスコアと、第２の内容推定手段によって推定された各処理単位における第２の特定の内容についての確率である第２のスコアと、第１の特定の内容に応じた第１の内容別言語モデルと、第２の特定の内容に応じた第２の内容別言語モデルとを用いて、処理対象の発話を時間区間に分割した処理単位ごとに言語モデルを作成する処理を実行させてもよい。
【０１１９】
（付記１０）また、本発明による言語モデル作成プログラムに、上記付記６〜８に示した事項を適用させてもよい。
【産業上の利用可能性】
【０１２０】
本発明は、直接に発話内容を推定する用途や言語モデルを作成する用途に限らず、発話内容の推定結果や言語モデルを利用するもの（装置、システム、方法、プログラムを問わない。）であれば好適に適用可能である。例えば、発話に含まれる特定の語句を認識する音声認識処理の用途にも好適に適用可能である。
【符号の説明】
【０１２１】
１００  音声認識装置
１０１  第１の内容推定手段
１０２  第２の内容推定手段
１０３  推定結果出力手段
１０４  第１の内容別言語モデル記憶手段
１０５  第２の内容別言語モデル記憶手段
１０６  言語モデル作成手段
１１  音声認識部
２１  第１の内容推定部
２２  第１の内容モデル記憶部
３１  第２の内容推定部
３２  第２の内容モデル記憶部
４１  言語モデル作成部
４２  第１の内容別言語モデル記憶部
４３  第２の内容別言語モデル記憶部
【図１】
0005585111.tif 000002
【図２】
0005585111.tif 000003
【図３】
0005585111.tif 000004
【図４】
0005585111.tif 000005
【図５】
0005585111.tif 000006
【図６】
0005585111.tif 000007
【図７】
0005585111.tif 000008
【図８】
0005585111.tif 000009
【図９】
0005585111.tif 000010
【図１０】
0005585111.tif 000011
【図１１】
0005585111.tif 000012
【図１２】
0005585111.tif 000013
【図１３】
0005585111.tif 000014
【図１４】
0005585111.tif 000015
【図１５】
0005585111.tif 000016