(57)【要約】  パープレキシティ算出装置５００は、テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出部５０１と、上記算出された重み係数と、上記単語出現度と、に基づいて、上記統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出部５０２と、を備える。
2011145272.tif 000002
【特許請求の範囲】
【請求項１】
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を備えるパープレキシティ算出装置。
【請求項２】
請求項１に記載のパープレキシティ算出装置であって、
前記重み係数算出手段は、前記単語重要度が大きくなるほど小さくなる値を前記重み係数として算出するように構成され、
前記パープレキシティ算出手段は、前記重み係数が小さくなるほど小さくなる値を前記パープレキシティとして算出するように構成されたパープレキシティ算出装置。
【請求項３】
請求項２に記載のパープレキシティ算出装置であって、
前記パープレキシティ算出手段は、前記重み係数を前記単語出現度に乗じた値に基づいて前記パープレキシティを算出するように構成されたパープレキシティ算出装置。
【請求項４】
請求項１乃至請求項３のいずれか一項に記載のパープレキシティ算出装置であって、
前記重み係数算出手段は、前記単語重要度に対して単調に変化する値を有する関数を用いて前記重み係数を算出するように構成されたパープレキシティ算出装置。
【請求項５】
請求項１乃至請求項４のいずれか一項に記載のパープレキシティ算出装置であって、
前記重み係数算出手段は、ｔｆ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ）値、ｉｄｆ（Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ）値、ｔｆ−ｉｄｆ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ−Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ）値、及び、前記統計的言語モデルを生成する際に用いられる、単語が重要である程度を表すスコア値、のうちの少なくとも１つに基づく値を、前記単語重要度として用いるように構成されたパープレキシティ算出装置。
【請求項６】
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記統計的言語モデルの前記テキストに対するパープレキシティを算出する、パープレキシティ算出方法。
【請求項７】
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を実現させるためのパープレキシティ算出プログラム。
【請求項８】
単語が出現する確率を表す統計的言語モデルを複数記憶する統計的言語モデル記憶手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、前記記憶されている複数の統計的言語モデルのそれぞれに対して行う重み係数算出手段と、
前記記憶されている複数の統計的言語モデルのそれぞれに対して、前記算出された重み係数と、前記単語出現度と、に基づいて、当該統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
前記算出されたパープレキシティに基づいて、前記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する統計的言語モデル選択手段と、
を備える統計的言語モデル選択装置。
【請求項９】
単語が出現する確率を表す統計的言語モデルを複数記憶する統計的言語モデル記憶手段と、
前記記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する統計的言語モデル混合手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記生成された統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を備え、
前記統計的言語モデル混合手段は、前記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、前記統計的言語モデルを生成し直すように構成された統計的言語モデル生成装置。
【請求項１０】
単語が出現する確率を表す統計的言語モデルを記憶する統計的言語モデル記憶手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記記憶されている統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
前記算出されたパープレキシティが、予め設定された閾値以下である前記テキストに基づいて前記統計的言語モデルを生成する統計的言語モデル生成手段と、
を備える統計的言語モデル生成装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、統計的言語モデルのテキストに対するパープレキシティを算出するパープレキシティ算出装置に関する。
【背景技術】
【０００２】
統計的言語モデルは、テキストにおいて単語が出現する確率（テキストにおける単語の出現しやすさ）を表す。統計的言語モデルは、音声認識、及び、機械翻訳（自動翻訳）等において幅広く利用されている。この統計的言語モデルを生成する技術は、例えば、非特許文献１等に記載されている。【０００３】
統計的言語モデルを生成する技術として、例えば、テキストに含まれる単語を所定の基準に従って分類し、分類された集合に基づいて、単語の出現しやすさをより高精度に推定する技術、並びに、単語が出現する確率を求める際、信頼性が高い値が求められない場合にスムージング処理を行う技術等の、多岐にわたる技術が存在する。【０００４】
また、これらの技術を組み合わせることにより、複数の統計的言語モデルを生成することができる。従って、生成された複数の統計的言語モデルから、統計的言語モデルを選択又は生成する処理が必要となる。このため、パープレキシティと呼ばれる指標に基づいて、統計的言語モデルがテキストを表す程度を評価する技術が知られている（例えば、非特許文献１）。【０００５】
パープレキシティは、言語を、単語を生成するための情報源として考えた場合に、求めることができる言語のエントロピーに基づく指標である。パープレキシティは、テキスト中のある位置に生成し得る単語の数の平均値に相当する。【０００６】
例えば、非特許文献１に記載の技術を用いたパープレキシティ算出装置は、統計的言語モデルとしてバイグラム（非特許文献p.58）を用いる場合、数式１及び数式２に基づいて、所定のテキストに対するパープレキシティを算出する（非特許文献１のp.37等）。数式１及び数式２において、ｗｉは、テキストに含まれる単語であり、Ｐ（ｗｉ｜ｗｉ−１）は、単語が出現する確率（単語の出現しやすさ）であり、ｌｏｇ２Ｐ（ｗｉ｜ｗｉ−１）は、単語出現度であり、Ｎは、テキストに含まれる単語の総数であり、Ｈは、テキストに含まれる単語の出現しやすさから求められる言語のエントロピーである。
【数１】
2011145272.tif 000003
【数２】
2011145272.tif 000004
【先行技術文献】
【非特許文献】
【０００７】
【非特許文献１】北研二著、「言語と計算−４  確率的言語モデル」、東京大学出版、１９９９年１１月２５日
【発明の概要】
【発明が解決しようとする課題】
【０００８】
しかしながら、上述したパープレキシティ算出装置は、単語が重要である程度を表す単語重要度に基づくことなく、単語が出現する確率（単語の出現しやすさ）に基づく単語出現度に基づいてパープレキシティを算出している。【０００９】
従って、上述したパープレキシティ算出装置においては、単語重要度を反映したパープレキシティを算出することができない。このため、例えば、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができないという問題があった。また、例えば、算出されたパープレキシティに基づいて統計的言語モデルを選択又は生成した場合において、統計的言語モデルを用いた言語処理の処理精度が、単語重要度が比較的高い単語に対して低下してしまうという問題があった。【００１０】
このため、本発明の目的は、上述した課題である「単語重要度を反映したパープレキシティを算出することができないこと」を解決することが可能なパープレキシティ算出装置を提供することにある。
【課題を解決するための手段】
【００１１】
かかる目的を達成するため本発明の一形態であるパープレキシティ算出装置は、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を備える。【００１２】
また、本発明の他の形態であるパープレキシティ算出方法は、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記統計的言語モデルの上記テキストに対するパープレキシティを算出する方法である。【００１３】
また、本発明の他の形態であるパープレキシティ算出プログラムは、
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を実現させるためのプログラムである。【００１４】
また、本発明の他の形態である統計的言語モデル選択装置は、
単語が出現する確率を表す統計的言語モデルを複数記憶する統計的言語モデル記憶手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、上記統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、上記記憶されている複数の統計的言語モデルのそれぞれに対して行う重み係数算出手段と、
上記記憶されている複数の統計的言語モデルのそれぞれに対して、上記算出された重み係数と、上記単語出現度と、に基づいて、当該統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
上記算出されたパープレキシティに基づいて、上記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する統計的言語モデル選択手段と、
を備える。【００１５】
また、本発明の他の形態である統計的言語モデル選択方法は、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、記憶装置に記憶されている複数の統計的言語モデルのそれぞれに対して行い、
上記記憶されている複数の統計的言語モデルのそれぞれに対して、上記算出された重み係数と、上記単語出現度と、に基づいて、当該統計的言語モデルの上記テキストに対するパープレキシティを算出し、
上記算出されたパープレキシティに基づいて、上記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する方法である。【００１６】
また、本発明の他の形態である統計的言語モデル選択プログラムは、
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、記憶装置に記憶されている複数の統計的言語モデルのそれぞれに対して行う重み係数算出手段と、
上記記憶されている複数の統計的言語モデルのそれぞれに対して、上記算出された重み係数と、上記単語出現度と、に基づいて、当該統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
上記算出されたパープレキシティに基づいて、上記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する統計的言語モデル選択手段と、
を実現させるためのプログラムである。【００１７】
また、本発明の他の形態である統計的言語モデル生成装置は、
単語が出現する確率を表す統計的言語モデルを複数記憶する統計的言語モデル記憶手段と、
上記記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する統計的言語モデル混合手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、上記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記生成された統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を備え、
上記統計的言語モデル混合手段は、上記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、上記統計的言語モデルを生成し直すように構成される。【００１８】
また、本発明の他の形態である統計的言語モデル生成方法は、
単語が出現する確率を表す統計的言語モデルであって、記憶装置に記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成し、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、上記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記生成された統計的言語モデルの上記テキストに対するパープレキシティを算出し、
上記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、上記統計的言語モデルを生成し直す方法である。【００１９】
また、本発明の他の形態である統計的言語モデル生成プログラムは、
情報処理装置に、
単語が出現する確率を表す統計的言語モデルであって、記憶装置に記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する統計的言語モデル混合手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、上記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記生成された統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を実現させるとともに、
上記統計的言語モデル混合手段は、上記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、上記統計的言語モデルを生成し直すように構成される。【００２０】
また、本発明の他の形態である統計的言語モデル生成装置は、
単語が出現する確率を表す統計的言語モデルを記憶する統計的言語モデル記憶手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、上記記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記記憶されている統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
上記算出されたパープレキシティが、予め設定された閾値以下である上記テキストに基づいて上記統計的言語モデルを生成する統計的言語モデル生成手段と、
を備える。【００２１】
また、本発明の他の形態である統計的言語モデル生成方法は、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表し且つ記憶装置に記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記記憶されている統計的言語モデルの上記テキストに対するパープレキシティを算出し、
上記算出されたパープレキシティが、予め設定された閾値以下である上記テキストに基づいて上記統計的言語モデルを生成する方法である。【００２２】
また、本発明の他の形態である統計的言語モデル生成プログラムは、
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表し且つ記憶装置に記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記記憶されている統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
上記算出されたパープレキシティが、予め設定された閾値以下である上記テキストに基づいて上記統計的言語モデルを生成する統計的言語モデル生成手段と、
を実現させるためのプログラムである。
【発明の効果】
【００２３】
本発明は、以上のように構成されることにより、単語が重要である程度を反映したパープレキシティを算出することができる。
【図面の簡単な説明】
【００２４】
【図１】本発明の第１実施形態に係るパープレキシティ算出装置の機能の概略を表すブロック図である。
【図２】本発明の第１実施形態に係るパープレキシティ算出装置の作動の概略を示したフローチャートである。
【図３】本発明の第２実施形態に係る統計的言語モデル選択装置の機能の概略を表すブロック図である。
【図４】本発明の第２実施形態に係る統計的言語モデル選択装置の作動の概略を示したフローチャートである。
【図５】本発明の第３実施形態に係る統計的言語モデル生成装置の機能の概略を表すブロック図である。
【図６】本発明の第３実施形態に係る統計的言語モデル生成装置の作動の概略を示したフローチャートである。
【図７】本発明の第４実施形態に係る統計的言語モデル生成装置の機能の概略を表すブロック図である。
【図８】本発明の第４実施形態に係る統計的言語モデル生成装置の作動の概略を示したフローチャートである。
【図９】本発明の第５実施形態に係るパープレキシティ算出装置の機能の概略を表すブロック図である。
【発明を実施するための形態】
【００２５】
以下、本発明に係る、パープレキシティ算出装置、パープレキシティ算出方法、パープレキシティ算出プログラム、統計的言語モデル選択装置、統計的言語モデル選択方法、統計的言語モデル選択プログラム、統計的言語モデル生成装置、統計的言語モデル生成方法、及び、統計的言語モデル生成プログラム、の各実施形態について図１〜図９を参照しながら説明する。
【００２６】
＜第１実施形態＞
（構成）
図１に示したように、第１実施形態に係るパープレキシティ算出装置１００は、情報処理装置である。例えば、パープレキシティ算出装置１００は、パーソナル・コンピュータ、携帯電話端末、ＰＨＳ（Ｐｅｒｓｏｎａｌ  Ｈａｎｄｙｐｈｏｎｅ  Ｓｙｓｔｅｍ）、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄａｔａ  Ａｓｓｉｓｔａｎｃｅ、Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）、カーナビゲーション端末、又は、ゲーム端末等であってもよい。
【００２７】
パープレキシティ算出装置１００は、図示しない中央処理装置（ＣＰＵ；Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）、及び、記憶装置（メモリ及びハードディスク駆動装置（ＨＤＤ；Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ））を備える。パープレキシティ算出装置１００は、記憶装置に記憶されているプログラムをＣＰＵが実行することにより、後述する機能を実現するように構成されている。
【００２８】
（機能）
図１は、上記のように構成されたパープレキシティ算出装置１００の機能を表すブロック図である。
パープレキシティ算出装置１００の機能は、単語重要度記憶部１０と、統計的言語モデル記憶部（統計的言語モデル記憶手段）１１と、テキスト記憶部１２と、重み係数算出部（重み係数算出手段）１０１と、パープレキシティ算出部（パープレキシティ算出手段）１０２と、を含む。なお、重み係数算出部１０１、及び、パープレキシティ算出部１０２は、パープレキシティ算出装置１００のＣＰＵがプログラムを実行することにより実現される。
【００２９】
単語重要度記憶部１０は、単語が重要である程度を表す単語重要度を予め記憶する。本例では、単語重要度は、単語が重要である程度が高くなるほど大きくなる値を有する。本例では、単語重要度は、ｔｆ−ｉｄｆ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ−Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ）値である。
【００３０】
なお、単語重要度は、ｔｆ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ）値、又は、ｉｄｆ（Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ）値、であってもよい。また、単語重要度は、統計的言語モデルを生成する際に用いられる、単語が重要である程度を表すスコア値（例えば、単語の重要らしさを出力する確率モデルの出力値等）に基づく値であってもよい。
【００３１】
統計的言語モデル記憶部１１は、単語が出現する確率（単語の出現しやすさ）を表す統計的言語モデルを予め記憶する。本例では、パープレキシティ算出装置１００は、統計的言語モデルとして、Ｎグラムモデル（Ｎ−ｇｒａｍモデル）を用いる。
【００３２】
Ｎグラムモデルは、単語列（複数の単語）からなるテキストにおける、Ｎ番目の単語の出現（生起）が、その単語の直前に配置されたＮ−１個の単語にのみ依存することを仮定することにより構築されたモデルである。Ｎグラムモデルは、Ｎ番目の単語が出現する確率を、その単語の直前に配置されたＮ−１個の単語を条件とした条件付確率により規定するモデルである。本例では、Ｎグラムモデルのうち、Ｎ＝２であるバイグラムモデルを例に説明する。
【００３３】
テキスト記憶部１２は、単語列（複数の単語）からなるテキストを予め記憶する。本例では、テキスト記憶部１２は、複数の単語からなる文の集合を、テキストとして予め記憶している。
【００３４】
重み係数算出部１０１は、テキスト記憶部１２に記憶されているテキストを構成する複数の単語（テキスト構成単語）のそれぞれに対して、重み係数を算出する。重み係数は、単語出現度を補正するための係数である。単語出現度は、統計的言語モデルに基づいた値であり、且つ、テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する。重み係数算出部１０１は、単語重要度記憶部１０に記憶されている、テキスト構成単語に対する単語重要度に基づいて、当該テキスト構成単語に対する重み係数を算出する。
【００３５】
本例では、重み係数算出部１０１は、単語重要度が大きくなるほど小さくなる値を重み係数として算出する。また、本例では、重み係数算出部１０１は、単語重要度に対して単調に変化する値を有する関数を用いて重み係数を算出する。
【００３６】
具体的には、本例では、重み係数算出部１０１は、指数関数を用いた数式３に基づいて重み係数を算出する。ｘは、単語重要度であり、ｋｉは、ｉ番目の単語に対する重み係数である。
【数３】
2011145272.tif 000005
【００３７】
なお、重み係数算出部１０１は、多項式関数、べき乗関数、又は、シグモイド関数等を用いて重み係数を算出するように構成されていてもよい。また、重み係数算出部１０１は、上限値及び下限値を有し、且つ、単調に変化する関数を用いて重み係数を算出するように構成されていてもよい。
【００３８】
パープレキシティ算出部１０２は、重み係数算出部１０１により算出された重み係数と、単語出現度と、に基づいて、統計的言語モデル記憶部１１に記憶されている統計的言語モデルの、テキスト記憶部１２に記憶されているテキストに対するパープレキシティ（テストセット・パープレキシティ（ｔｅｓｔ−ｓｅｔ  ｐｅｒｐｌｅｘｉｔｙ））を算出する。
【００３９】
本例では、パープレキシティ算出部１０２は、重み係数が小さくなるほど小さくなる値をパープレキシティとして算出する。また、本例では、パープレキシティ算出部１０２は、重み係数を単語出現度に乗じた値に基づいてパープレキシティを算出する。
【００４０】
具体的には、本例では、パープレキシティ算出部１０２は、数式４及び数式５に基づいてパープレキシティを算出する。数式４及び数式５において、ｗｉは、テキストに含まれる単語であり、Ｐ（ｗｉ｜ｗｉ−１）は、単語が出現する確率（単語の出現しやすさ）であり、ｌｏｇ２Ｐ（ｗｉ｜ｗｉ−１）は、単語出現度であり、Ｎは、テキストに含まれる単語の総数であり、Ｈ’は、テキストに含まれる単語の出現しやすさから求められる言語のエントロピーである。
【数４】
2011145272.tif 000006
【数５】
2011145272.tif 000007
【００４１】
（作動）
次に、図２に示したフローチャートを参照しながら、パープレキシティ算出装置１００の作動について説明する。
パープレキシティ算出装置１００は、記憶装置に記憶されている単語重要度、統計的言語モデル、及び、テキストを読み出すことにより入力する（ステップＳ１１）。
【００４２】
次いで、パープレキシティ算出装置１００は、入力されたテキストを構成する複数の単語（テキスト構成単語）のそれぞれに対して、重み係数を算出する（ステップＳ１２）。例えば、「東京」という単語の単語重要度が３．０である場合、「東京」という単語に対する重み係数として、パープレキシティ算出装置１００は、ｋｉ（ｗｉ）＝ｅｘｐ（−３．０）≒０．０５を算出する。
【００４３】
そして、パープレキシティ算出装置１００は、入力された統計的言語モデルに基づいて、テキスト構成単語のそれぞれに対して、単語出現度を算出する。更に、パープレキシティ算出装置１００は、算出された重み係数と、算出された単語出現度と、に基づいて、統計的言語モデルの、入力されたテキストに対するパープレキシティを算出する（ステップＳ１３）。
【００４４】
以上、説明したように、本発明の第１実施形態に係るパープレキシティ算出装置１００によれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、例えば、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。また、例えば、算出されたパープレキシティに基づいて統計的言語モデルを選択又は生成した場合において、統計的言語モデルを用いた言語処理の処理精度が、単語重要度が比較的高い単語に対して低下することを回避することができる。
【００４５】
＜第２実施形態＞
次に、本発明の第２実施形態に係る統計的言語モデル選択装置について説明する。第２実施形態に係る統計的言語モデル選択装置は、上記第１実施形態に係るパープレキシティ算出装置に対して、算出されたパープレキシティに基づいて統計的言語モデルを選択する点において相違している。従って、以下、かかる相違点を中心として説明する。
【００４６】
（構成）
統計的言語モデル選択装置は、第１実施形態に係るパープレキシティ算出装置１００と同様の構成を有する情報処理装置である。
【００４７】
（機能）
図３は、統計的言語モデル選択装置２００の機能を表すブロック図である。
統計的言語モデル選択装置２００の機能は、第１実施形態に係るパープレキシティ算出装置１００の機能に加えて、統計的言語モデル選択部（統計的言語モデル選択手段）２０１を含む。
【００４８】
第２実施形態に係る統計的言語モデル記憶部１１は、統計的言語モデルを予め複数記憶する。
第２実施形態に係る重み係数算出部１０１は、複数のテキスト構成単語のそれぞれに対して、統計的言語モデルに基づく単語出現度を補正するための重み係数を、単語重要度記憶部１０に記憶されている単語重要度に基づいて算出する処理を、統計的言語モデル記憶部１１に記憶されている複数の統計的言語モデルのそれぞれに対して行。
【００４９】
第２実施形態に係るパープレキシティ算出部１０２は、統計的言語モデル記憶部１１に記憶されている複数の統計的言語モデルのそれぞれに対して、重み係数算出部１０１により算出された重み係数と、単語出現度と、に基づいて、当該統計的言語モデルのテキストに対するパープレキシティを算出する。
【００５０】
統計的言語モデル選択部２０１は、パープレキシティ算出部１０２により算出されたパープレキシティに基づいて、統計的言語モデル記憶部１１に記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する。本例では、統計的言語モデル選択部２０１は、算出されたパープレキシティが最小の統計的言語モデルを選択する。
【００５１】
（作動）
次に、図４に示したフローチャートを参照しながら、統計的言語モデル選択装置２００の作動について説明する。
統計的言語モデル選択装置２００は、第１実施形態に係るパープレキシティ算出装置１００と同様のステップＳ１１〜ステップＳ１３を実行することにより、統計的言語モデル記憶部１１に記憶されている複数の統計的言語モデルのそれぞれに対して、パープレキシティを算出する。
【００５２】
次いで、統計的言語モデル選択装置２００は、算出されたパープレキシティが最小となる統計的言語モデルを選択する（ステップＳ２１）。そして、統計的言語モデル選択装置２００は、選択された統計的言語モデルを特定するための情報を出力する。
【００５３】
以上、説明したように、本発明の第２実施形態に係る統計的言語モデル選択装置２００によれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。この結果、単語重要度が比較的高い単語に対して適切な統計的言語モデルを選択することができる。
【００５４】
＜第３実施形態＞
次に、本発明の第３実施形態に係る統計的言語モデル生成装置について説明する。第３実施形態に係る統計的言語モデル生成装置は、上記第２実施形態に係る統計的言語モデル選択装置に対して、統計的言語モデルを生成する点において相違している。従って、以下、かかる相違点を中心として説明する。
【００５５】
（構成）
統計的言語モデル生成装置は、第２実施形態に係る統計的言語モデル選択装置２００と同様の構成を有する情報処理装置である。
【００５６】
（機能）
図５は、統計的言語モデル生成装置３００の機能を表すブロック図である。
統計的言語モデル生成装置３００の機能は、第２実施形態に係る統計的言語モデル選択装置２００の機能に加えて、統計的言語モデル混合部（統計的言語モデル混合手段）３０１を含む。
【００５７】
第３実施形態に係る統計的言語モデル記憶部１１は、統計的言語モデルを予め複数記憶する。
統計的言語モデル混合部３０１は、統計的言語モデル記憶部１１に記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する。
【００５８】
本例では、統計的言語モデル混合部３０１は、複数の統計的言語モデルのそれぞれが表す、単語が出現する確率を線形補間することにより、１つの統計的言語モデルを生成する。確率を線形補間する技術として、例えば、非特許文献２等に記載の技術を用いることができる。
【非特許文献２】鹿野清宏、他著、「音声認識システム」、オーム社、２００１年５月１５日、p.59〜61
【００５９】
なお、統計的言語モデル混合部３０１は、パープレキシティ算出部１０２により算出されるパープレキシティに基づいて、統計的言語モデルを混合するように構成されていてもよい。この技術として、例えば、非特許文献３等に記載の技術を用いることができる。
【非特許文献３】Bo-June  (Paul)  Hsu、James  Glass、「Iterative  Language  Model  Estimation:  Efficient  Data  Structure  &  Algorithms」、Proc.  Interspeech、Brisbane、Australia、２００８年９月
【００６０】
第３実施形態に係る重み係数算出部１０１は、複数のテキスト構成単語のそれぞれに対して、統計的言語モデル混合部３０１により生成された統計的言語モデルに基づく単語出現度を補正するための重み係数を、単語重要度記憶部１０に記憶されている単語重要度に基づいて算出する。
【００６１】
第３実施形態に係るパープレキシティ算出部１０２は、重み係数算出部１０１により算出された重み係数と、単語出現度と、に基づいて、統計的言語モデル混合部３０１により生成された統計的言語モデルのテキストに対するパープレキシティを算出する。
【００６２】
第３実施形態に係る統計的言語モデル選択部２０１は、パープレキシティ算出部１０２により算出されたパープレキシティが、予め設定された閾値よりも大きい場合、統計的言語モデル混合部３０１に統計的言語モデルを生成し直させる。一方、統計的言語モデル選択部２０１は、パープレキシティ算出部１０２により算出されたパープレキシティが上記閾値以下である場合、統計的言語モデル混合部３０１により生成された統計的言語モデルを特定するための情報を出力する。
【００６３】
（作動）
次に、図６に示したフローチャートを参照しながら、統計的言語モデル生成装置３００の作動について説明する。
先ず、統計的言語モデル生成装置３００は、記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する（ステップＳ３１）。
【００６４】
次いで、統計的言語モデル生成装置３００は、第２実施形態に係る統計的言語モデル選択装置２００と同様のステップＳ１１〜ステップＳ１３を実行することにより、生成された統計的言語モデルに対するパープレキシティを算出する。
【００６５】
そして、統計的言語モデル生成装置３００は、算出されたパープレキシティが閾値以下であるか否かを判定する（ステップＳ３２）。
算出されたパープレキシティが閾値以下である場合、統計的言語モデル生成装置３００は、生成された統計的言語モデルを特定するための情報を出力する。
【００６６】
一方、算出されたパープレキシティが閾値よりも大きい場合、統計的言語モデル生成装置３００は、ステップＳ３１へ戻り、ステップＳ３１〜ステップＳ３２の処理を繰り返し実行することにより、統計的言語モデルを生成し直す。
【００６７】
以上、説明したように、本発明の第３実施形態に係る統計的言語モデル生成装置３００によれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。この結果、単語重要度が比較的高い単語に対して適切な統計的言語モデルを生成することができる。
【００６８】
＜第４実施形態＞
次に、本発明の第４実施形態に係る統計的言語モデル生成装置について説明する。第４実施形態に係る統計的言語モデル生成装置は、上記第１実施形態に係るパープレキシティ算出装置に対して、パープレキシティに基づいて選択したテキストに基づいて統計的言語モデルを生成する点において相違している。従って、以下、かかる相違点を中心として説明する。
【００６９】
（構成）
統計的言語モデル生成装置は、第１実施形態に係るパープレキシティ算出装置１００と同様の構成を有する情報処理装置である。
【００７０】
（機能）
図７は、統計的言語モデル生成装置４００の機能を表すブロック図である。
統計的言語モデル生成装置４００の機能は、第１実施形態に係るパープレキシティ算出装置１００の機能に加えて、テキスト選択部（統計的言語モデル生成手段の一部）４０１と、統計的言語モデル生成部（統計的言語モデル生成手段の一部）４０２と、を含む。
【００７１】
第４実施形態に係るテキスト記憶部１２は、複数のテキストを予め記憶する。
第４実施形態に係る統計的言語モデル記憶部１１は、統計的言語モデルを予め記憶する。
第４実施形態に係る重み係数算出部１０１は、テキスト記憶部１２に記憶されている複数のテキストのそれぞれに対して、下記の重み係数算出処理を行う。
【００７２】
重み係数算出部１０１は、重み係数算出処理として、処理対象となるテキストを構成する複数のテキスト構成単語のそれぞれに対して、統計的言語モデル記憶部１１に記憶されている統計的言語モデルに基づく単語出現度を補正するための重み係数を、単語重要度記憶部１０に記憶されている単語重要度に基づいて算出する処理を行う。
【００７３】
第４実施形態に係るパープレキシティ算出部１０２は、テキスト記憶部１２に記憶されているテキストのそれぞれに対して、重み係数算出部１０１により算出された重み係数と、単語出現度と、に基づいて、統計的言語モデル記憶部１１に記憶されている統計的言語モデルの当該テキストに対するパープレキシティを算出する。
【００７４】
テキスト選択部４０１は、パープレキシティ算出部１０２により算出されたパープレキシティが、予め設定された閾値以下であるテキストを選択する。
【００７５】
統計的言語モデル生成部４０２は、テキスト選択部４０１により選択されたテキストに基づいて統計的言語モデルを生成する。例えば、統計的言語モデル生成部４０２は、非特許文献１等に記載の技術を用いて統計的言語モデルを生成する。
【００７６】
（作動）
次に、図８に示したフローチャートを参照しながら、統計的言語モデル生成装置４００の作動について説明する。
統計的言語モデル生成装置４００は、第１実施形態に係るパープレキシティ算出装置１００と同様のステップＳ１１〜ステップＳ１３を実行することにより、テキスト記憶部１２に記憶されている複数のテキストのそれぞれに対して、パープレキシティを算出する。
【００７７】
次いで、統計的言語モデル生成装置４００は、算出されたパープレキシティが上記閾値以下であるテキストを選択する（ステップＳ４１）。そして、統計的言語モデル生成装置４００は、選択されたテキストに基づいて統計的言語モデルを生成する（ステップＳ４２）。
【００７８】
以上、説明したように、本発明の第４実施形態に係る統計的言語モデル生成装置４００によれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。従って、適切に選択されたテキストに基づいて統計的言語モデルを生成することができる。この結果、単語重要度が比較的高い単語に対して適切な統計的言語モデルを生成することができる。
【００７９】
＜第５実施形態＞
次に、本発明の第５実施形態に係るパープレキシティ算出装置５００について図９を参照しながら説明する。
第５実施形態に係るパープレキシティ算出装置５００は、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出部（重み係数算出手段）５０１と、
上記算出された重み係数と、上記単語出現度と、に基づいて、上記統計的言語モデルの上記テキストに対するパープレキシティを算出するパープレキシティ算出部（パープレキシティ算出手段）５０２と、
を備える。
【００８０】
これによれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、例えば、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。また、例えば、算出されたパープレキシティに基づいて統計的言語モデルを選択又は生成した場合において、統計的言語モデルを用いた言語処理の処理精度が、単語重要度が比較的高い単語に対して低下することを回避することができる。
【００８１】
以上、上記実施形態を参照して本願発明を説明したが、本願発明は、上述した実施形態に限定されるものではない。本願発明の構成及び詳細に、本願発明の範囲内において当業者が理解し得る様々な変更をすることができる。
【００８２】
なお、上記各実施形態において、パープレキシティ算出装置、統計的言語モデル選択装置、及び、統計的言語モデル生成装置の各機能は、ＣＰＵがプログラム（ソフトウェア）を実行することにより実現されていたが、回路等のハードウェアにより実現されていてもよい。
【００８３】
また、上記各実施形態においてプログラムは、記憶装置に記憶されていたが、コンピュータが読み取り可能な記録媒体に記憶されていてもよい。例えば、記録媒体は、フレキシブルディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等の可搬性を有する媒体である。
【００８４】
また、上記実施形態の他の変形例として、上述した実施形態及び変形例の任意の組み合わせが採用されてもよい。
【００８５】
＜付記＞
上記実施形態の一部又は全部は、以下の付記のように記載され得るが、以下には限られない。
【００８６】
（付記１）
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を備えるパープレキシティ算出装置。
【００８７】
これによれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、例えば、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。また、例えば、算出されたパープレキシティに基づいて統計的言語モデルを選択又は生成した場合において、統計的言語モデルを用いた言語処理の処理精度が、単語重要度が比較的高い単語に対して低下することを回避することができる。
【００８８】
（付記２）
付記１に記載のパープレキシティ算出装置であって、
前記重み係数算出手段は、前記単語重要度が大きくなるほど小さくなる値を前記重み係数として算出するように構成され、
前記パープレキシティ算出手段は、前記重み係数が小さくなるほど小さくなる値を前記パープレキシティとして算出するように構成されたパープレキシティ算出装置。
【００８９】
（付記３）
付記２に記載のパープレキシティ算出装置であって、
前記パープレキシティ算出手段は、前記重み係数を前記単語出現度に乗じた値に基づいて前記パープレキシティを算出するように構成されたパープレキシティ算出装置。
【００９０】
（付記４）
付記１乃至付記３のいずれか一項に記載のパープレキシティ算出装置であって、
前記重み係数算出手段は、前記単語重要度に対して単調に変化する値を有する関数を用いて前記重み係数を算出するように構成されたパープレキシティ算出装置。
【００９１】
例えば、単語重要度に対して単調に変化する値を有する関数として、指数関数、多項式関数、べき乗関数、又は、シグモイド関数等を用いることができる。
【００９２】
（付記５）
付記１乃至付記４のいずれか一項に記載のパープレキシティ算出装置であって、
前記重み係数算出手段は、ｔｆ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ）値、ｉｄｆ（Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ）値、ｔｆ−ｉｄｆ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ−Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ）値、及び、前記統計的言語モデルを生成する際に用いられる、単語が重要である程度を表すスコア値、のうちの少なくとも１つに基づく値を、前記単語重要度として用いるように構成されたパープレキシティ算出装置。
【００９３】
（付記６）
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記統計的言語モデルの前記テキストに対するパープレキシティを算出する、パープレキシティ算出方法。
【００９４】
（付記７）
付記６に記載のパープレキシティ算出方法であって、
前記単語重要度が大きくなるほど小さくなる値を前記重み係数として算出し、
前記重み係数が小さくなるほど小さくなる値を前記パープレキシティとして算出する、パープレキシティ算出方法。
【００９５】
（付記８）
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を実現させるためのパープレキシティ算出プログラム。
【００９６】
（付記９）
付記８に記載のパープレキシティ算出プログラムであって、
前記重み係数算出手段は、前記単語重要度が大きくなるほど小さくなる値を前記重み係数として算出するように構成され、
前記パープレキシティ算出手段は、前記重み係数が小さくなるほど小さくなる値を前記パープレキシティとして算出するように構成されたパープレキシティ算出プログラム。
【００９７】
（付記１０）
単語が出現する確率を表す統計的言語モデルを複数記憶する統計的言語モデル記憶手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、前記記憶されている複数の統計的言語モデルのそれぞれに対して行う重み係数算出手段と、
前記記憶されている複数の統計的言語モデルのそれぞれに対して、前記算出された重み係数と、前記単語出現度と、に基づいて、当該統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
前記算出されたパープレキシティに基づいて、前記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する統計的言語モデル選択手段と、
を備える統計的言語モデル選択装置。
【００９８】
これによれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。この結果、単語重要度が比較的高い単語に対して適切な統計的言語モデルを選択することができる。
【００９９】
（付記１１）
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、記憶装置に記憶されている複数の統計的言語モデルのそれぞれに対して行い、
前記記憶されている複数の統計的言語モデルのそれぞれに対して、前記算出された重み係数と、前記単語出現度と、に基づいて、当該統計的言語モデルの前記テキストに対するパープレキシティを算出し、
前記算出されたパープレキシティに基づいて、前記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する、統計的言語モデル選択方法。
【０１００】
（付記１２）
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表す統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する処理を、記憶装置に記憶されている複数の統計的言語モデルのそれぞれに対して行う重み係数算出手段と、
前記記憶されている複数の統計的言語モデルのそれぞれに対して、前記算出された重み係数と、前記単語出現度と、に基づいて、当該統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
前記算出されたパープレキシティに基づいて、前記記憶されている複数の統計的言語モデルの中から１つの統計的言語モデルを選択する統計的言語モデル選択手段と、
を実現させるための統計的言語モデル選択プログラム。
【０１０１】
（付記１３）
単語が出現する確率を表す統計的言語モデルを複数記憶する統計的言語モデル記憶手段と、
前記記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する統計的言語モデル混合手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記生成された統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を備え、
前記統計的言語モデル混合手段は、前記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、前記統計的言語モデルを生成し直すように構成された統計的言語モデル生成装置。
【０１０２】
これによれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。この結果、単語重要度が比較的高い単語に対して適切な統計的言語モデルを生成することができる。
【０１０３】
（付記１４）
単語が出現する確率を表す統計的言語モデルであって、記憶装置に記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成し、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記生成された統計的言語モデルの前記テキストに対するパープレキシティを算出し、
前記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、前記統計的言語モデルを生成し直す、統計的言語モデル生成方法。
【０１０４】
（付記１５）
情報処理装置に、
単語が出現する確率を表す統計的言語モデルであって、記憶装置に記憶されている複数の統計的言語モデルのうちの少なくとも２つを混合した統計的言語モデルを生成する統計的言語モデル混合手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記生成された統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記生成された統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
を実現させるとともに、
前記統計的言語モデル混合手段は、前記算出されたパープレキシティが、予め設定された閾値よりも大きい場合、前記統計的言語モデルを生成し直すように構成された統計的言語モデル生成プログラム。
【０１０５】
（付記１６）
単語が出現する確率を表す統計的言語モデルを記憶する統計的言語モデル記憶手段と、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、前記記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記記憶されている統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
前記算出されたパープレキシティが、予め設定された閾値以下である前記テキストに基づいて前記統計的言語モデルを生成する統計的言語モデル生成手段と、
を備える統計的言語モデル生成装置。
【０１０６】
これによれば、単語が重要である程度が反映されたパープレキシティを算出することができる。これにより、単語重要度が比較的高い単語に対して、統計的言語モデルがテキストを表す程度を適切に評価することができる。従って、適切に選択されたテキストに基づいて統計的言語モデルを生成することができる。この結果、単語重要度が比較的高い単語に対して適切な統計的言語モデルを生成することができる。
【０１０７】
（付記１７）
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表し且つ記憶装置に記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出し、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記記憶されている統計的言語モデルの前記テキストに対するパープレキシティを算出し、
前記算出されたパープレキシティが、予め設定された閾値以下である前記テキストに基づいて前記統計的言語モデルを生成する、統計的言語モデル生成方法。
【０１０８】
（付記１８）
情報処理装置に、
テキストを構成する複数のテキスト構成単語のそれぞれに対して、単語が出現する確率を表し且つ記憶装置に記憶されている統計的言語モデルに基づいた、当該テキスト構成単語が出現する確率が高くなるほど大きくなる値を有する単語出現度を補正するための重み係数を、当該テキスト構成単語が重要である程度を表す単語重要度に基づいて算出する重み係数算出手段と、
前記算出された重み係数と、前記単語出現度と、に基づいて、前記記憶されている統計的言語モデルの前記テキストに対するパープレキシティを算出するパープレキシティ算出手段と、
前記算出されたパープレキシティが、予め設定された閾値以下である前記テキストに基づいて前記統計的言語モデルを生成する統計的言語モデル生成手段と、
を実現させるための統計的言語モデル生成プログラム。
【０１０９】
なお、本発明は、日本国にて２０１０年５月２０日に出願された特願２０１０−１１６１７１の特許出願に基づく優先権主張の利益を享受するものであり、当該特許出願にて開示された内容のすべてが本明細書に含まれるものとする。
【産業上の利用可能性】
【０１１０】
本発明は、音声認識、及び、機械翻訳（自動翻訳）等の統計的言語モデルを用いた情報処理装置等に適用可能である。
【符号の説明】
【０１１１】
１０    単語重要度記憶部
１１    統計的言語モデル記憶部
１２    テキスト記憶部
１００  パープレキシティ算出装置
１０１  重み係数算出部
１０２  パープレキシティ算出部
２００  統計的言語モデル選択装置
２０１  統計的言語モデル選択部
３００  統計的言語モデル生成装置
３０１  統計的言語モデル混合部
４００  統計的言語モデル生成装置
４０１  テキスト選択部
４０２  統計的言語モデル生成部
５００  パープレキシティ算出装置
５０１  重み係数算出部
５０２  パープレキシティ算出部
【図１】
2011145272.tif 000008
【図２】
2011145272.tif 000009
【図３】
2011145272.tif 000010
【図４】
2011145272.tif 000011
【図５】
2011145272.tif 000012
【図６】
2011145272.tif 000013
【図７】
2011145272.tif 000014
【図８】
2011145272.tif 000015
【図９】
2011145272.tif 000016
【国際調査報告】
2011145272.tif 000017
2011145272.tif 000018
2011145272.tif 000019
2011145272.tif 000020