"トピックとの対応が既知の手掛かり語を含む複数の教師あり文書データ各々が表すトピックの尤もらしさを示し、かつ前記教師あり文書データ各々に含まれる前記手掛かり語の割合に応じた教師あり事後確率を、前記教師あり文書データ毎に付与する教師あり事後確率付与ステップと、トピックモデルを表すパラメータに基づいて、前記複数の教師あり文書データ各々が表すトピックの尤もらしさを示す第1教師なし事後確率を、前記教師あり文書データ毎に推定する第1教師なし事後確率推定ステップと、前記教師あり事後確率と前記第1教師なし事後確率とを重みを用いて補間して求めた重み付き事後確率を、前記教師あり文書データ毎に付与する重み付き事後確率付与ステップと、前記トピックモデルを表すパラメータに基づいて、前記手掛かり語を含まない複数の教師なし文書データ各々が表すトピックの尤もらしさを示す第2教師なし事後確率を、前記教師なし文書データ毎に推定する第2教師なし事後確率推定ステップと、予め定めたトピック数、前記重み付き事後確率、及び前記第2教師なし事後確率に基づいて、前記トピックモデルを表すパラメータを更新する更新ステップと、を含むトピックモデル学習方法。前記更新ステップにおいて前記パラメータが収束したと判定されるまで、前記第1教師なし事後確率推定ステップ、前記重み付き事後確率付与ステップ、前記第2教師なし事後確率推定ステップ、及び前記更新ステップを繰り返すと共に、前記重み付き事後確率付与ステップにおける前記重みを、繰り返し回数に応じて、前記第1教師なし事後確率に対して前記教師あり事後確率の重みが小さくなるように定めた請求項1記載のトピックモデル学習方法。前記第1教師なし事後確率推定ステップ及び前記第2教師なし事後確率推定ステップが、EMアルゴリズムにおける期待値推定ステップであり、前記更新ステップが、前記EMアルゴリズムにおける期待値最大化ステップである請求項2記載のトピックモデル学習方法。トピックとの対応が既知の手掛かり語を含む複数の教師あり文書データ各々が表すトピックの尤もらしさを示し、かつ前記教師あり文書データ各々に含まれる前記手掛かり語の割合に応じた教師あり事後確率を、前記教師あり文書データ毎に付与する教師あり事後確率付与手段と、トピックモデルを表すパラメータに基づいて、前記複数の教師あり文書データ各々が表すトピックの尤もらしさを示す第1教師なし事後確率を、前記教師あり文書データ毎に推定する第1教師なし事後確率推定手段と、前記教師あり事後確率と前記第1教師なし事後確率とを重みを用いて補間して求めた重み付き事後確率を、前記教師あり文書データ毎に付与する重み付き事後確率付与手段と、前記トピックモデルを表すパラメータに基づいて、前記手掛かり語を含まない複数の教師なし文書データ各々が表すトピックの尤もらしさを示す第2教師なし事後確率を、前記教師なし文書データ毎に推定する第2教師なし事後確率推定手段と、予め定めたトピック数、前記重み付き事後確率、及び前記第2教師なし事後確率に基づいて、前記トピックモデルを表すパラメータを更新する更新手段と、を含むトピックモデル学習装置。コンピュータに、請求項1~請求項3のいずれか1項記載のトピックモデル学習方法の各ステップを実行させるためのトピックモデル学習プログラム。しかしながら、非特許文献1に記載の手法では、文書毎にラベルを付与して教師ありデータとする手法であり、トピックを直接制御することができないため、任意の学習方向を定めることができず、人間の直感に合致しないモデリングがなされる場合がある、という問題がある。また、非特許文献2に記載の手法では、高速なEMアルゴリズムでは解けない複雑なモデルであるため、ギブスサンプリングというサンプリング手法に基づいていており、処理負荷が増大する、という問題がある。本発明は、上記の事情を鑑みてなされたもので、少ない教師ありデータを用いた場合であっても、処理負荷を増大させることなく、人間の直感に合致したトピックモデルを学習することができるトピックモデル学習方法、装置、及びプログラムを提供することを目的とする。上記目的を達成するために、本発明のトピックモデル学習方法は、トピックとの対応が既知の手掛かり語を含む複数の教師あり文書データ各々が表すトピックの尤もらしさを示し、かつ前記教師あり文書データ各々に含まれる前記手掛かり語の割合に応じた教師あり事後確率を、前記教師あり文書データ毎に付与する教師あり事後確率付与ステップと、トピックモデルを表すパラメータに基づいて、前記複数の教師あり文書データ各々が表すトピックの尤もらしさを示す第1教師なし事後確率を、前記教師あり文書データ毎に推定する第1教師なし事後確率推定ステップと、前記教師あり事後確率と前記第1教師なし事後確率とを重みを用いて補間して求めた重み付き事後確率を、前記教師あり文書データ毎に付与する重み付き事後確率付与ステップと、前記トピックモデルを表すパラメータに基づいて、前記手掛かり語を含まない複数の教師なし文書データ各々が表すトピックの尤もらしさを示す第2教師なし事後確率を、前記教師なし文書データ毎に推定する第2教師なし事後確率推定ステップと、予め定めたトピック数、前記重み付き事後確率、及び前記第2教師なし事後確率に基づいて、前記トピックモデルを表すパラメータを更新する更新ステップと、を含む方法である。本発明のトピックモデル学習方法によれば、教師あり事後確率付与ステップで、トピックとの対応が既知の手掛かり語を含む複数の教師あり文書データ各々が表すトピックの尤もらしさを示し、かつ教師あり文書データ各々に含まれる手掛かり語の割合に応じた教師あり事後確率を、教師あり文書データ毎に付与する。また、第1教師なし事後確率推定ステップで、トピックモデルを表すパラメータに基づいて、複数の教師あり文書データ各々が表すトピックの尤もらしさを示す第1教師なし事後確率を、教師あり文書データ毎に推定する。そして、重み付き事後確率付与ステップで、教師あり事後確率と第1教師なし事後確率とを重みを用いて補間して求めた重み付き事後確率を、教師あり文書データ毎に付与する。また、第2教師なし事後確率推定ステップで、トピックモデルを表すパラメータに基づいて、手掛かり語を含まない複数の教師なし文書データ各々が表すトピックの尤もらしさを示す第2教師なし事後確率を、教師なし文書データ毎に推定する。そして、更新ステップで、予め定めたトピック数、重み付き事後確率、及び第2教師なし事後確率に基づいて、トピックモデルを表すパラメータを更新する。このように、手掛かり語を含む文書データに対する教師あり事後確率と教師なし事後確率とに基づいて、重みを用いた線形補間により重み付け事後確率を求めて、トピックモデルのパラメータ更新に用いることで、少ない教師ありデータを用いた場合であっても、処理負荷を増大させることなく、人間の直感に合致したトピックモデルを学習することができる。また、前記更新ステップにおいて前記パラメータが収束したと判定されるまで、前記第1教師なし事後確率推定ステップ、前記重み付き事後確率付与ステップ、前記第2教師なし事後確率推定ステップ、及び前記更新ステップを繰り返すと共に、前記重み付き事後確率付与ステップにおける前記重みを、繰り返し回数に応じて、前記第1教師なし事後確率に対して前記教師あり事後確率の重みが小さくなるように定めることができる。これにより、教師あり事後確率付与ステップで得られた教師あり事後確率が誤っている場合でも修正が効き、より精度良くトピックモデルを学習することができる。また、繰り返し回数に応じた重みは、第1教師なし事後確率の重みを固定して、教師あり事後確率の重みを小さくしてもよいし、教師あり事後確率の重みを固定して、第1教師なし事後確率の重みを大きくしてもよい。また、上記の補間が線型補間の場合には、第1教師なし事後確率の重みを大きくする、または教師あり事後確率の重みを小さくすることで、第1教師なし事後確率に対して教師あり事後確率の重みを小さくすることができる。また、前記第1教師なし事後確率推定ステップ及び前記第2教師なし事後確率推定ステップを、EMアルゴリズムにおける期待値推定ステップとし、前記更新ステップを、前記EMアルゴリズムにおける期待値最大化ステップとすることができる。このように、高速なEMアルゴリズムを適用することができるため、処理負荷の増大がない。また、本発明のトピックモデル学習装置は、トピックとの対応が既知の手掛かり語を含む複数の教師あり文書データ各々が表すトピックの尤もらしさを示し、かつ前記教師あり文書データ各々に含まれる前記手掛かり語の割合に応じた教師あり事後確率を、前記教師あり文書データ毎に付与する教師あり事後確率付与手段と、トピックモデルを表すパラメータに基づいて、前記複数の教師あり文書データ各々が表すトピックの尤もらしさを示す第1教師なし事後確率を、前記教師あり文書データ毎に推定する第1教師なし事後確率推定手段と、前記教師あり事後確率と前記第1教師なし事後確率とを重みを用いて補間して求めた重み付き事後確率を、前記教師あり文書データ毎に付与する重み付き事後確率付与手段と、前記トピックモデルを表すパラメータに基づいて、前記手掛かり語を含まない複数の教師なし文書データ各々が表すトピックの尤もらしさを示す第2教師なし事後確率を、前記教師なし文書データ毎に推定する第2教師なし事後確率推定手段と、予め定めたトピック数、前記重み付き事後確率、及び前記第2教師なし事後確率に基づいて、前記トピックモデルを表すパラメータを更新する更新手段と、を含んで構成することができる。また、本発明のトピックモデル学習プログラムは、コンピュータに、上記のトピックモデル学習方法の各ステップを実行させるためのプログラムである。以上説明したように、本発明のトピックモデル学習方法、装置、及びプログラムによれば、手掛かり語を含む文書データに対する教師あり事後確率と教師なし事後確率とに基づいて、重みを用いた線形補間により重み付け事後確率を求めて、トピックモデルのパラメータ更新に用いることで、少ない教師ありデータを用いた場合であっても、処理負荷を増大させることなく、人間の直感に合致したトピックモデルを学習することができる、という効果が得られる。以下、図面を参照して本発明の実施の形態を詳細に説明する。本実施の形態では、EMExpectationMaximizationアルゴリズムを用いてトピックモデルを学習する場合について説明する。本実施の形態に係るトピックモデル学習装置10は、複数の文書データを含む文書集合を入力とし、トピックモデルのパラメータを出力する。このトピックモデル学習装置10は、CPUと、RAMと、後述するトピックモデル学習処理ルーチンを実行するためのプログラムを記憶したROMとを備えたコンピュータで構成することができる。このコンピュータは、機能的には、図1に示すように、文書データ分割部12と、教師あり事後確率付与部18と、事後確率推定部20aと、事後確率推定部20bと、重み付き事後確率付与部22と、パラメータ更新部24と、収束判定部26と、出力部28とを含んだ構成で表すことができる。文書データ分割部12は、複数の文書データを含む文書集合30を入力として受け付ける。文書集合30は、例えば、各文書データに形態素解析等の処理を施し、各文書データに含まれる単語毎の出現回数をまとめたテーブルD×V行列とすることができる。ここで、Dは文書集合30に含まれる文書データの総数、Vは文書集合30に出現する単語の種類数である。テーブル中の各要素は、文書データd中に単語vが出現した回数ndvで表される。また、文書データ分割部12は、手掛かり語データベースDB32に定められた手掛かり語を参照して、文書集合30に含まれる文書データ各々を、手掛かり語を含む文書データと手掛かり語を含まない文書データとに分割する。手掛かり語DB32には、トピックとの対応が既知の単語として、手掛かり語S={S1,S2,,Sc,SC}が定められている。Cは手掛かり語のクラス数であり、各クラスは1つのトピックを表す。また、Scは各クラスに含まれる手掛かり語集合Sc={w1,w2,,wsc}であり、scはクラスcに含まれる手掛かり語の数である。すなわち、クラスcが表すトピックの手掛かり語集合として、Scが定められていることになる。文書データ分割部12は、具体的には、文書集合30を表すテーブルから対象となる文書データdの行を抽出し、この1×Vのベクトルを文書データdの表現形式とする。このベクトル内の要素のうち、手掛かり語と一致する単語vの出現回数ndvを表す要素が1以上の場合には、その文書データを手掛かり語を含む文書データ34として出力する。一方、手掛かり語と一致する単語vの出現回数ndvを表す要素が0の場合には、その文書データを手掛かり語を含まない文書データ36として出力する。教師あり事後確率付与部18は、手掛かり語を含む文書データ34を入力とし、手掛かり語DB32を参照して、手掛かり語を含む文書データ34の各々に対して、教師あり事後確率42を付与する。手掛かり語を1つ以上含む文書データ中の手掛かり語に対応するトピックの割合に応じて、アドホックにトピック事後確率を設定し、これを文書データが表すトピックの尤もらしさを示す教師あり事後確率42とする。具体的には、教師あり事後確率42は、文書データ34に含まれる各クラスの手掛かり語の割合に応じて決定される。例えば、手掛かり語が手掛かり語={NTT,フレッツ}∈通信、{野球}∈スポーツのように定められていた場合には、文書データに含まれる単語に応じて、以下のように教師あり事後確率ppが決定される。なお、通信及びスポーツはトピックを表す。pp=10if文書データ1∋{NTT,フレッツ}pp=05、p=05if文書データ2∋{NTT,野球}なお、ここではトピックを通信及びスポーツ等と表記しているが、実際にはトピックは確率変数zで表されるにすぎない。また、zは、後述する教師なし事後確率の推定で用いる確率変数zと共通であるので、教師あり事後確率と教師なし事後確率との対応をとることが可能である。教師あり事後確率付与部18は、手掛かり語を含む文書データ34の文書データd毎にZ個のトピックに対して上記のような教師あり事後確率{pp}を付与する。事後確率推定部20aは、手掛かり語を含む文書データ34の各文書データd、トピックモデルパラメータ38または初期トピックモデルパラメータ40を入力とし、文書データdが表すトピックの尤もらしさを示す教師なし事後確率44aを計算する。EMアルゴリズムのEステップに相当する処理である。ここで、トピックモデルとは、文書集合に含まれる単語vを特徴量とし、1文書をデータ点dとして確率的なクラスタリングを行うためのモデルであり、トピックモデルパラメータ38を用いて、下記1式で表されるモデルである。1式において、トピックモデルパラメータ38は、p1×Zmatrix及びpZ×Vmatrixである。zは、教師あり事後確率付与部18と同様に、トピックを表す確率変数である。pは確率変数zに対する事前確率であり、pは確率変数zの下での多項分布による確率である。ndvは文書データd中に単語vが出現した回数である。また、初期トピックモデルパラメータ40は、p及びpの初期値であり、例えば、p及びpの各値をランダムに生成し、Σzp=1、Σvp=1と正規化を行った値を用いることができる。また、パラメータの分散が極端に大きくなるのを防ぐため、各々のパラメータについてN回ランダム生成したものの平均をとるなどしてもよい。事後確率推定部20aは、具体的には、上記の入力を元に、下記2式により、手掛かり語を含む文書データ34の文書データd毎にZ個のトピックに対して教師なし事後確率{pu}を推定する。事後確率推定部20bは、事後確率推定部20aとは、入力として手掛かり語を含まない文書データ36の各文書データdを用い、文書データdが表すトピックの尤もらしさを示す教師なし事後確率44bを推定する点が異なるだけであるので、詳細な説明を省略する。重み付き事後確率付与部22は、教師あり事後確率42、教師なし事後確率44a、及び重み調整テーブル46に定められた重みを入力として、後述するパラメータ更新部24で利用するトピック事後確率を、教師あり事後確率44bと教師なし事後確率44aとを重みを用いて線形補間して求め、重み付き事後確率48として各文書データdに付与する。重み付き事後確率48を求める際に用いる重みは、重み調整テーブル46から取得する。重み調整テーブル46には、例えば、w=10,w=05,w=00のように、EMアルゴリズムの繰り返し処理において、徐々に教師あり事後確率42の重みを下げるように、重みが定められている。重み付き事後確率付与部22は、具体的には、教師あり事後確率pp、教師なし事後確率pu、現在のイテレーション数ii回目の繰り返し処理を示す、及び重み調整テーブル46から参照される重みwを用いて、下記3式により線形補間を行って、手掛かり語を含む文書データ34の文書データd毎にZ個のトピックに対して重み付き事後確率{p}を付与する。p=w×pp×pu3重み調整テーブル46に、例えば上記のようにw=1,w=05,w=00と重みが定められている場合には、1stitep=10×pp00×pu2nditep=05×pp05×pu3rditep=00×pp10×puとなる。なお、1stiteはイテレーション数が1、2nditeはイテレーション数が2、3rditeはイテレーション数が3であることを示す。パラメータ更新部24は、手掛かり語を含まない文書データ36集合についての教師なし事後確率44b、手掛かり語を含む文書データ34集合についての重み付き事後確率48を入力として、EMアルゴリズムのMステップに相当する処理を実行し、下記4式及び5式により、トピックモデルパラメータ38を更新する。なお、4式及び5式では、簡単のため教師なし事後確率44bについてもpとして表記している。文書データdが手掛かり語を含まない文書データ36の場合には、4式及び5式内のpは、puと読み替える。収束判定部26は、EMアルゴリズムの繰り返し処理について、必要なイテレーション数を繰り返したか否かにより、パラメータが収束したか否かを判定する。必要なイテレーション数を繰り返していれば、パラメータが収束したと判定する。また、Eステップで付加的に計算可能な文書データの尤度に基づいて、パラメータが収束したか否かを判定するようにしてもよい。出力部28は、収束判定部26によりパラメータが収束したと判定されたときのトピックモデルパラメータ38を出力する。次に、図2を参照して、本実施の形態のトピックモデル学習装置10により実行されるトピックモデル学習処理ルーチンについて説明する。ステップ100で、文書集合30を取得し、手掛かり語DB32に定められた手掛かり語を参照して、文書集合30に含まれる文書データ各々を、手掛かり語を含む文書データ34と手掛かり語を含まない文書データ36とに分割する。次に、ステップ102で、手掛かり語DB32を参照して、手掛かり語を含む文書データ34の文書データd毎に、文書データ34に含まれる各クラスの手掛かり語の割合に応じて、Z個のトピックに対して教師あり事後確率{pp}を付与する。次に、ステップ104で、インテレーション数iに0を設定し、次に、ステップ106で、手掛かり語を含む文書データ34の各文書データd、及び初期トピックモデルパラメータ40を用いて、2式により、手掛かり語を含む文書データ34の文書データd毎にZ個のトピックに対して教師なし事後確率{pu}を推定する。次に、ステップ108で、重み調整テーブル46から重みwを取得して、上記ステップ102で付与された教師あり事後確率ppと、上記ステップ106で推定された教師なし事後確率puとを、2式により線形補間して、手掛かり語を含む文書データ34の文書データd毎にZ個のトピックに対して重み付き事後確率{p}を付与する。次に、ステップ110で、手掛かり語を含まない文書データ36の各文書データdを用いて、上記ステップ106と同様に、教師なし事後確率{pu}を推定する。次に、ステップ112で、上記ステップ110で推定した教師なし事後確率44b、及び上記ステップ108で付与した重み付き事後確率48に基づいて、4式及び5式により、トピックモデルパラメータ38を更新する。次に、ステップ114で、イテレーション数iが予め定めた必要な繰り返し数となったか否かを判定する。イテレーション数iがまだ必要な繰り返し数に到達していない場合には、パラメータが収束していないと判定して、ステップ116へ移行して、iを1インクリメントして、ステップ106へ戻り、ステップ106~112の処理を繰り返す。繰り返し処理におけるステップ106及び110で教師なし事後確率を推定する際には、初期トピックモデルパラメータ40ではなく、前処理のステップ112で更新されたトピックモデルパラメータ38を用いる。上記ステップ114で、イテレーション数iが必要な繰り返し数に到達したと判定された場合には、パラメータが収束したと判定して、ステップ118へ移行し、上記ステップ116で更新されたトピックモデルパラメータ38、すなわち現在のトピックモデルパラメータ38を出力して、トピックモデル学習処理を終了する。以上説明したように、本実施の形態のトピックモデル学習装置によれば、文書集合の一部である手掛かり語を含む文書データに付与された教師あり事後確率と教師なし事後確率とに基づいて、重みを用いた線形補間により重み付け事後確率を求めることで、トピックモデルのパラメータ更新に用いるトピック事後確率に対してバイアスをかけることができ、任意の学習方向を定めることができる。すなわち、少ない教師ありデータを用いた場合であっても、人間の直感に合致したトピックモデルを学習することができる。また、上記実施の形態のように、例えばEMアルゴリズムのような高速なアルゴリズムを学習方法として用いることができ、モデルが複雑化することもないため、処理負荷が増大することもない。また、多項分布パラメータ自体を人為的に操作するものではないため、その多項分布を保持するトピックから文書を生成する確率が著しく低くなり、結果トピック事後確率も同様に低くなり、そのトピックがどの文書からも参照されない、というような無意味なトピックになることを防止できる。また、繰り返し処理において、重み付き事後確率を求める際に、繰り返し回数に応じて教師あり事後確率に対する重みを小さくすることで、実際の教師あり事後確率が誤っている場合でも修正が効き、より精度良くトピックモデルを学習することができる。また、トピックモデルのトピック数は事前に設定する必要があるが、基本的には手掛かり語のクラス数よりも多めに与えることが効果的である。これは手掛かり語のクラスをどれだけ網羅的に設計したとしても、文書集合の中には、いずれのクラスにも属さない文書や単語が現れる可能性は高く、それらの文書を無理に既存のトピックに当てはめようとしたところで歪みが生じてしまうためである。具体的には、その他のトピックに押されて既存のトピックが縮小してしまう現象等が見られる。なお、本発明は、上記実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。また、本願明細書中において、プログラムが予めインストールされている実施の形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。また、本発明のトピックモデル学習装置を、上記処理を実現するための半導体集積回路等のハードウエアにより構成してもよい。"