(57)【要約】【課題】短い文書からでもトピックが推定できる。【解決手段】潜在クラスタ割当部３０が、複数のユーザの各々についての文書集合に基づいて、文書の各々について、複数の潜在クラスタの何れかを割り当て、潜在トピック割当部４０が、複数のユーザの各々に対し、ユーザの文書集合に含まれる文書の各々について、文書に割り当てられた潜在クラスタに基づいて、ユーザの潜在クラスタが割り当てられた文書における、各潜在トピックが割り当てられる単語数を考慮して、単語の各々について、複数の潜在トピックの何れかを割り当てる。【選択図】図１
2016218574.tif 000002
【特許請求の範囲】
【請求項１】
複数のユーザの各々についての複数のデータからなるデータ集合に基づいて、前記データ集合に含まれるデータの各々について、複数の潜在クラスタの何れかを割り当てる潜在クラスタ割当部と、
前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々について、前記データに割り当てられた潜在クラスタに基づいて、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられる要素数を考慮して、前記データに含まれる要素の各々について、複数の潜在トピックの何れかを割り当てる潜在トピック割当部と、
を含むトピック推定装置。
【請求項２】
予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ割当部による割り当て、及び前記潜在トピック割当部による割り当てを繰り返す繰り返し判定部を更に含み、
前記潜在クラスタ割当部は、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記データに前記複数の潜在クラスタの何れかを割り当て、
前記潜在トピック割当部は、
前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々に含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てる請求項１記載のトピック推定装置。
【請求項３】
前記複数のユーザの各々についての前記データ集合に含まれる前記データの前記潜在クラスタ、及び前記複数のユーザの各々に対する前記データ集合に含まれるデータの各々に含まれる要素の各々の前記潜在トピックを初期化する初期化部を更に含み、
前記潜在クラスタ割当部は、
前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記複数の潜在クラスタの各々のクラスタ割当度を算出する潜在クラスタ推定部と、
前記ユーザの前記データ集合に含まれるデータの各々について、前記潜在クラスタ推定部により算出された前記クラスタ割当度に基づいて、前記データについて前記複数の潜在クラスタの何れかを割り当てるクラスタ割当部と、
予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ推定部による算出、及び前記クラスタ割当部による割り当てを繰り返すクラスタ割当繰り返し判定部とを含み、
前記潜在トピック割当部は、
前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、各潜在トピックのトピック割当度を算出する潜在トピック推定部と、
前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在トピック推定部により算出された前記トピック割当度に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てるトピック割当部と、
予め定めた繰り返し終了条件を満たすまで、前記潜在トピック推定部による算出、及び前記トピック割当部による割り当てを繰り返すトピック割当繰り返し判定部と、
を含む請求項１又は請求項２に記載のトピック推定装置。
【請求項４】
潜在クラスタ割当部が、複数のユーザの各々についての複数のデータからなるデータ集合に基づいて、前記データ集合に含まれるデータの各々について、複数の潜在クラスタの何れかを割り当てるステップと、
潜在トピック割当部が、前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々について、前記データに割り当てられた潜在クラスタに基づいて、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられる要素数を考慮して、前記データに含まれる要素の各々について、複数の潜在トピックの何れかを割り当てるステップと、
を含むトピック推定方法。
【請求項５】
繰り返し判定部が、予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ割当部による割り当て、及び前記潜在トピック割当部による割り当てを繰り返すステップを更に含み、
前記潜在クラスタ割当部が割り当てるステップは、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記データに前記複数の潜在クラスタの何れかを割り当て、
前記潜在トピック割当部が割り当てるステップは、
前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々に含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てる請求項４記載のトピック推定方法。
【請求項６】
初期化部が、前記複数のユーザの各々についての前記データ集合に含まれる前記データの前記潜在クラスタ、及び前記複数のユーザの各々に対する前記データ集合に含まれるデータの各々に含まれる要素の各々の前記潜在トピックを初期化するステップを更に含み、
前記潜在クラスタ割当部が割り当てるステップは、
潜在クラスタ推定部が、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記複数の潜在クラスタの各々のクラスタ割当度を算出するステップと、
クラスタ割当部が、前記ユーザの前記データ集合に含まれるデータの各々について、前記潜在クラスタ推定部により算出された前記クラスタ割当度に基づいて、前記データについて前記複数の潜在クラスタの何れかを割り当てるステップと、
クラスタ割当繰り返し判定部が、予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ推定部による算出、及び前記クラスタ割当部による割り当てを繰り返すステップとを含み、
前記潜在トピック割当部が割り当てるステップは、
潜在トピック推定部が、前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、各潜在トピックのトピック割当度を算出するステップと、
トピック割当部が、前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在トピック推定部により算出された前記トピック割当度に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てるステップと、
トピック割当繰り返し判定部が、予め定めた繰り返し終了条件を満たすまで、前記潜在トピック推定部による算出、及び前記トピック割当部による割り当てを繰り返すステップと、
を含む請求項４又は請求項５に記載のトピック推定方法。
【請求項７】
コンピュータを、請求項１〜請求項３のいずれか１項に記載のトピック推定装置の各部として機能させるためのプログラム。
【請求項８】
コンピュータを、請求項１〜請求項３のいずれか１項に記載のトピック推定装置の各部として機能させるためのプログラムを記録したコンピュータ読取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、トピック推定装置、方法、プログラム、及び記録媒体に係り、特に、要素の少ないデータからトピックを推定するためのトピック推定装置、方法、プログラム、及び記録媒体に関する。
【背景技術】
【０００２】
近年、マイクロブログなどの急速に普及にともない、大量の文書データが蓄積されている。各ユーザの全ての文書に目を通し、ユーザの趣味や思考を推定していくことは困難であるため、文書中の要素がもつ潜在トピックからそれらを推定する装置が要望されている。これまでに潜在トピック推定のための手法は数多く提案されている（例えば非特許文献１参照）
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】D. Blei, A. Y. Ng, M. Jordan, "Latent Dirichlet Allocation", Journal of Machine Learning Research 3 (2003) 993-1022
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、非特許文献１では、文書が短い場合には、文書に含まれる単語から適切にトピックを推定できない場合がある。
【０００５】
本発明は、上記問題点を解決するために成されたものであり、要素の少ないデータからであっても、精度よく、潜在トピックを推定できるトピック推定装置、方法、プログラム、及び記録媒体を提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記目的を達成するために、第１の発明に係るトピック推定装置は、複数のユーザの各々についての複数のデータからなるデータ集合に基づいて、前記データ集合に含まれるデータの各々について、複数の潜在クラスタの何れかを割り当てる潜在クラスタ割当部と、前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々について、前記データに割り当てられた潜在クラスタに基づいて、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられる要素数を考慮して、前記データに含まれる要素の各々について、複数の潜在トピックの何れかを割り当てる潜在トピック割当部と、を含んで構成されている。
【０００７】
また、第１の発明に係るトピック推定装置において、予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ割当部による割り当て、及び前記潜在トピック割当部による割り当てを繰り返す繰り返し判定部を更に含み、前記潜在クラスタ割当部は、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記データに前記複数の潜在クラスタの何れかを割り当て、前記潜在トピック割当部は、前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々に含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てるようにしてもよい。
【０００８】
また、第１の発明に係るトピック推定装置において、前記複数のユーザの各々についての前記データ集合に含まれる前記データの前記潜在クラスタ、及び前記複数のユーザの各々に対する前記データ集合に含まれるデータの各々に含まれる要素の各々の前記潜在トピックを初期化する初期化部を更に含み、前記潜在クラスタ割当部は、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記複数の潜在クラスタの各々のクラスタ割当度を算出する潜在クラスタ推定部と、前記ユーザの前記データ集合に含まれるデータの各々について、前記潜在クラスタ推定部により算出された前記クラスタ割当度に基づいて、前記データについて前記複数の潜在クラスタの何れかを割り当てるクラスタ割当部と、予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ推定部による算出、及び前記クラスタ割当部による割り当てを繰り返すクラスタ割当繰り返し判定部とを含み、前記潜在トピック割当部は、前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、各潜在トピックのトピック割当度を算出する潜在トピック推定部と、前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在トピック推定部により算出された前記トピック割当度に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てるトピック割当部と、予め定めた繰り返し終了条件を満たすまで、前記潜在トピック推定部による算出、及び前記トピック割当部による割り当てを繰り返すトピック割当繰り返し判定部と、を含むようにしてもよい。
【０００９】
第２の発明に係るトピック推定方法は、潜在クラスタ割当部が、複数のユーザの各々についての複数のデータからなるデータ集合に基づいて、前記データ集合に含まれるデータの各々について、複数の潜在クラスタの何れかを割り当てるステップと、潜在トピック割当部が、前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々について、前記データに割り当てられた潜在クラスタに基づいて、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられる要素数を考慮して、前記データに含まれる要素の各々について、複数の潜在トピックの何れかを割り当てるステップと、を含んで実行することを特徴とする。
【００１０】
また、第２の発明に係るトピック推定方法は、繰り返し判定部が、予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ割当部による割り当て、及び前記潜在トピック割当部による割り当てを繰り返すステップを更に含み、前記潜在クラスタ割当部が割り当てるステップは、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記データに前記複数の潜在クラスタの何れかを割り当て、前記潜在トピック割当部が割り当てるステップは、前記複数のユーザの各々に対し、前記ユーザの前記データ集合に含まれるデータの各々に含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てるようにしてもよい。
【００１１】
また、第２の発明に係るトピック推定方法は、初期化部が、前記複数のユーザの各々についての前記データ集合に含まれる前記データの前記潜在クラスタ、及び前記複数のユーザの各々に対する前記データ集合に含まれるデータの各々に含まれる要素の各々の前記潜在トピックを初期化するステップを更に含み、前記潜在クラスタ割当部が割り当てるステップは、潜在クラスタ推定部が、前記ユーザの前記データ集合に含まれるデータの各々について、前記ユーザの前記データ集合における前記潜在クラスタ毎のデータ数と、前記データにおける各潜在トピックが割り当てられた要素数と、前記潜在クラスタの各々に対する、前記ユーザの前記潜在クラスタが割り当てられた前記データにおける、各潜在トピックが割り当てられた要素数とに基づいて、前記複数の潜在クラスタの各々のクラスタ割当度を算出するステップと、クラスタ割当部が、前記ユーザの前記データ集合に含まれるデータの各々について、前記潜在クラスタ推定部により算出された前記クラスタ割当度に基づいて、前記データについて前記複数の潜在クラスタの何れかを割り当てるステップと、クラスタ割当繰り返し判定部が、予め定めた繰り返し終了条件を満たすまで、前記潜在クラスタ推定部による算出、及び前記クラスタ割当部による割り当てを繰り返すステップとを含み、前記潜在トピック割当部が割り当てるステップは、潜在トピック推定部が、前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在クラスタ割当部によって前記データに割り当てられた前記潜在クラスタと同じ潜在クラスタが割り当てられた前記ユーザの前記データにおける、各潜在トピックが割り当てられる要素数、及び前記要素と同じ要素における、各潜在トピックが割り当てられる要素数に基づいて、各潜在トピックのトピック割当度を算出するステップと、トピック割当部が、前記ユーザの前記データ集合に含まれるデータの各々に対し、前記データに含まれる要素の各々について、前記潜在トピック推定部により算出された前記トピック割当度に基づいて、前記要素に前記複数の潜在トピックの何れかを割り当てるステップと、トピック割当繰り返し判定部が、予め定めた繰り返し終了条件を満たすまで、前記潜在トピック推定部による算出、及び前記トピック割当部による割り当てを繰り返すステップと、を含んでもよい。
【００１２】
また、第３の発明に係るプログラムは、コンピュータを、第１の発明に係るトピック推定装置の各部として機能させるためのプログラムである。
【００１３】
また、第４の発明に係る記録媒体は、コンピュータを、第１の発明に係るトピック推定装置の各部として機能させるためのプログラムを記録したコンピュータ読取り可能な記録媒体である。
【発明の効果】
【００１４】
本発明のトピック推定装置、方法、プログラム、及び記録媒体によれば、複数のユーザの各々についてのデータ集合に基づいて、データの各々について、複数の潜在クラスタの何れかを割り当て、複数のユーザの各々に対し、ユーザのデータ集合に含まれるデータの各々について、データに割り当てられた潜在クラスタに基づいて、ユーザの潜在クラスタが割り当てられたデータにおける、各潜在トピックが割り当てられる要素数を考慮して、要素の各々について、複数の潜在トピックの何れかを割り当てることにより、要素の少ないデータからであっても、精度よく、潜在トピックを推定できる、という効果が得られる。
【図面の簡単な説明】
【００１５】
【図１】本発明の実施の形態に係るトピック推定装置の構成を示すブロック図である。
【図２】本発明の実施の形態に係るトピック推定装置におけるトピック推定処理ルーチンを示すフローチャートである。
【図３】本発明の実施の形態に係るトピック推定装置における潜在クラスタ割当処理ルーチンを示すフローチャートである。
【図４】本発明の実施の形態に係るトピック推定装置における潜在トピック割当処理ルーチンを示すフローチャートである。
【図５】本発明の実施の形態に係る手法の実験結果である。
【発明を実施するための形態】
【００１６】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００１７】
＜本発明の実施の形態に係る概要＞
【００１８】
まず、本発明の実施の形態における概要を説明する。本発明の実施の形態に係るトピック推定装置は、複数のユーザの複数の文書に潜在クラスタを割り当てる潜在クラスタ割当部と、各文書の各要素である単語に潜在トピックを割り当てる潜在トピック割当部と、を備える構成とした。潜在トピック割当部においては、同じ潜在クラスタに割り当てられた複数の文書を仮想的に１つの文書とみなして、潜在トピックを推定する。このように、仮想的な文書長を長くすることができ、短い文書でも適切にトピックを推定できるようになる。なお、文書データでなくとも、各事例が離散特徴量の集合として表現されていればよく、画像データや購買データ、音楽データなど任意のデータが対象となる。また、データを構成する要素は、文書であれば例えば単語として表現される。また、ユーザ情報でなくとも、カテゴリ情報や団体情報など、複数の事例をグループ化する情報であればよい。また、以下の例では、ベイズ推定に基づいて潜在クラスタおよび潜在トピックを割り当てる方法について述べるが、最尤推定や事後確率最大化推定、変分ベイズ推定など他の方法を用いてもよい。
【００１９】
＜本発明の実施の形態に係るトピック推定装置の構成＞
【００２０】
次に、本発明の実施の形態に係るトピック推定装置の構成について説明する。図１に示すように、本発明の実施の形態に係るトピック推定装置１００は、ＣＰＵと、ＲＡＭと、後述するトピック推定処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。このトピック推定装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、出力部６０とを備えている。
【００２１】
入力部１０は、入力データとして、複数のユーザｕの各々についての、複数の文書からなる文書集合＾Ｗ＝｛＾ｗｕ｝ｕ＝１Ｕを受け付ける。ここで、＾ｗｕはユーザｕの文書集合、Ｕはユーザ数を表す。各ユーザがＤｕ個の文書からなる文書集合をもつとき、ｓ番目の文書データは
【数１】
2016218574.tif 000003
で構成される。ここで、ｗｕｓｎはユーザｕのｓ番目の文書のｎ番目の単語、Ｎｕｓはｓ番目の文書に含まれる単語数を表す。なお、ベクトル又はベクトルからなる集合を表す場合には、記号の前に「＾」を付して表現する。
【００２２】
演算部２０は、初期化部２８と、潜在クラスタ割当部３０と、潜在トピック割当部４０と、潜在クラスタ割当記憶部５０と、潜在トピック割当記憶部５２と、繰り返し判定部５４とを含んで構成されている。
【００２３】
初期化部２８は、複数のユーザｕの各々についての文書集合＾ｗｕに含まれる文書＾ｗｕｓの潜在クラスタｙｕｓ、及び複数のユーザｕの各々に対する文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々に含まれる単語ｗｕｓｎの各々の潜在トピックｚｕｓｎを適当に初期化する。
【００２４】
潜在クラスタ割当部３０は、複数のユーザｕの各々についての文書集合＾ｗｕに基づいて、文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々について、複数の潜在クラスタの何れかを割り当てる。ここで、潜在クラスタ割当部３０の具体的な構成について説明する。潜在クラスタ割当部３０は、潜在クラスタ推定部３２と、クラスタ割当部３４と、クラスタ割当繰り返し判定部３６とを備えている。
【００２５】
潜在クラスタ推定部３２は、ユーザｕ毎に、ユーザｕの文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々について、ユーザｕの文書集合＾ｗｕにおける潜在クラスタ毎の文書数と、ｓ番目の文書＾ｗｕｓにおける各潜在トピックが割り当てられた単語数と、潜在クラスタの各々に対する、ユーザｕの当該潜在クラスタが割り当てられた文書における、各潜在トピックが割り当てられた単語数とに基づいて、複数の潜在クラスタの各々のクラスタ割当度を算出する。なお、潜在クラスタの割当は、類似した文書が同じ潜在クラスタになるように、また、類似していない文書が異なる潜在クラスタになるように、割り当てを行う。ここでは類似の条件として、単語情報を用いるが、文書が書かれた時間情報、場所情報など、他の情報も用いることができる。このように、各ユーザの文書をクラスタリングして、同じクラスタに含まれる複数の文書を仮想的に１つの長い文書であるとすることで、文書長が短いという問題を解決できる。
【００２６】
潜在クラスタ推定部３２は、具体的には、以下（１）式に従って、ｓ番目の文書＾ｗｕｓについて、新たな潜在クラスタを含むユーザｕに関する潜在クラスタｌの各々に対する、ユーザｕのｓ番目の文書＾ｗｕｓが当該潜在クラスタｌに割り当てられる度合いを表すクラスタ割当度を算出する。
【００２７】
【数２】
2016218574.tif 000004
【００２８】
ここで、＾Ｙは各潜在クラスタｙｕｓからなる潜在クラスタ集合、＾Ｚは各潜在トピックｚｕｓｎからなる潜在トピック集合、＾α及び＾γはハイパーパラメータを表す。また、＼ｕｓはユーザｕのｓ番目の文書を除いたときの数であることを表す。上記（１）式の第一項は
【００２９】
【数３】
2016218574.tif 000005
【００３０】
と表され、第二項は
【００３１】
【数４】
2016218574.tif 000006
【００３２】
と表される。ここで、
【００３３】
【数５】
2016218574.tif 000007
【００３４】
はユーザｕの文書集合における潜在クラスタｌに割り当てられた文書数、
【００３５】
【数６】
2016218574.tif 000008
【００３６】
はユーザｕの潜在クラスタｌが割り当てられた文書における、潜在トピックｋが割り当てられた単語数、Ｎｕｓｋはユーザｕのｓ番目の文書における潜在トピックｋが割り当てられた単語数である。また、
【００３７】
【数７】
2016218574.tif 000009
【００３８】
である。
【００３９】
クラスタ割当部３４は、ユーザｕ毎に、ユーザｕの文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々について、潜在クラスタ推定部３２により潜在クラスタｌの各々について算出されたクラスタ割当度に基づいて、当該文書＾ｗｕｓについて複数の潜在クラスタｌの何れかを割り当てる。ここで、割り当てる潜在クラスタｌは、当該文書＾ｗｕｓについて算出された潜在クラスタの各々のクラスタ割当度に基づいて、当該文書＾ｗｕｓに割り当てる潜在クラスタｙｕｓを、ユーザｕに関する潜在クラスタ｛１，・・・，Ｌｕ｝から決める。また、Ｌｕはユーザｕの文書集合＾ｗｕに与えられた潜在クラスタ数である。文書＾ｗｕｓが既存の潜在クラスタでモデル化できなければ、新しい潜在クラスタを与える。そして、クラスタ割当部３４は、文書＾ｗｕｓの各々に割り当てた潜在クラスタｙｕｓを、文書集合＾Ｗに対する潜在クラスタ集合＾Ｙとして潜在クラスタ割当記憶部５０に記憶する。
【００４０】
クラスタ割当繰り返し判定部３６では、予め定めた繰り返し終了条件を満たすまで、潜在クラスタ推定部３２による算出、及びクラスタ割当部３４による割り当てを繰り返す。繰り返し終了条件として、繰り返しの回数、割当回数の変化の大きさなどを用いることができる。
【００４１】
潜在トピック割当部４０は、複数のユーザｕの各々に対し、当該ユーザｕの文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々について、潜在クラスタ割当記憶部５０に記憶されている潜在クラスタ集合＾Ｙのうち当該文書＾ｗｕｓに割り当てられた潜在クラスタｙｕｓに基づいて、当該ユーザｕの当該潜在クラスタｙｕｓが割り当てられた文書における、各潜在トピックｋが割り当てられた単語数を考慮して、文書＾ｗｕｓに含まれる単語ｗｕｓｎの各々について、複数の潜在トピックの何れかを割り当てる。なお、潜在トピックの割当は、類似した単語が同じ潜在トピックになるように、また、類似していない単語が異なる潜在トピックになるように、割り当てる。また同じ潜在クラスタに属する文書の単語は、同じ潜在トピックになるように、割り当てる。同じ潜在クラスタには複数の文書が含まれるため、他の文書の情報も使うことができ、潜在トピックの割当の精度を高めることができる。
【００４２】
次に、潜在トピック割当部４０の具体的な構成について説明する。潜在トピック割当部４０は、読込部４２と、潜在トピック推定部４４と、トピック割当部４６と、トピック割当繰り返し判定部４８とを備えている。
【００４３】
読込部４２は、潜在クラスタ割当記憶部５０から潜在クラスタ集合＾Ｙを読み込む。
【００４４】
潜在トピック推定部４４では、ユーザｕ毎に、ユーザｕの文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々に対し、当該文書＾ｗｕｓに含まれる単語ｗｕｓｎの各々について、潜在クラスタ割当部３０によって当該文書＾ｗｕｓに割り当てられた潜在クラスタｙｕｓと同じ潜在クラスタが割り当てられたユーザｕの文書における、各潜在トピックｋが割り当てられる単語数、及び当該単語ｗｕｓｎと同じ単語（語彙）における、各潜在トピックｋが割り当てられる単語数に基づいて、各潜在トピックｋのトピック割当度を算出する。
【００４５】
潜在トピック推定部４４は、具体的には、潜在トピックｋの各々に対する、ユーザｕのｓ番目の文書＾ｗｕｓのｎ番目の単語ｗｕｓｎが当該潜在トピックｋに割り当てられる度合いを表すトピック割当度を算出する。例えば、ｓ番目の文書＾ｗｕが潜在クラスタｌに割り当てられたとすると、潜在トピックｋに対するトピック割当度は以下（４）式により算出できる。
【００４６】
【数８】
2016218574.tif 000010
【００４７】
ここで、＾Ｗは文書集合、βはハイパーパラメータを表す。また、＼ｕｓｎはユーザｕのｓ番目のツイートのｎ番目の単語を除いたときの数であることを表す。上式第一項は
【００４８】
【数９】
2016218574.tif 000011
【００４９】
により表される。ここで、潜在クラスタ割当記憶部５０から読み込んだ潜在クラスタ集合＾Ｙにおいて、当該文書＾ｗｕｓに割り当てられた潜在クラスタｙｕｓと同じ潜在クラスタが割り当てられたユーザｕの文書における、潜在トピックｋが割り当てられた単語数
【数１０】
2016218574.tif 000012
【００５０】
を用いる。
【００５１】
第二項は
【００５２】
【数１１】
2016218574.tif 000013
【００５３】
により表される。ここで、Ｎｋｖは語彙ｖである単語に潜在トピックｋが割り当てられた単語数であり、Ｎｋ＝ΣｖＮｋｖである。
【００５４】
潜在トピック割当部４６は、ユーザｕ毎に、ユーザｕの文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々に対し、文書＾ｗｕｓに含まれる単語ｗｕｓｎの各々について、潜在トピック推定部４４により算出された各潜在トピックｋに対するトピック割当度に基づいて、単語ｗｕｓｎに複数の潜在トピックの何れかを割り当る。ここで、当該単語ｗｕｓｎに割り当てる潜在トピックは、当該単語ｗｕｓｎについて算出された潜在トピックの各々のトピック割当度に基づいて、潜在トピックｚｕｓｎを｛１，・・・，Ｋ｝から決める。ここで、Ｋは予め定められた潜在トピック数である。そして、トピック割当部４６は、ユーザｕの文書＾ｗｕｓの各々に含まれる単語ｗｕｓｎの各々について割り当てた潜在トピックｚｕｓｎを、潜在トピック集合＾Ｚとして潜在トピック割当記憶部５２に記憶する。
【００５５】
トピック割当繰り返し判定部４８では、予め定めた繰り返し終了条件を満たすまで、潜在トピック推定部４４による算出、及びトピック割当部４６による割り当てを繰り返す。繰り返し終了条件として、繰り返しの回数、割当回数の変化の大きさなどを用いることができる。
【００５６】
繰り返し判定部５４は、予め定めた繰り返し終了条件を満たすまで、潜在クラスタ割当部３０による割り当て、及び潜在トピック割当部４０による割り当てを繰り返す。繰り返し終了条件として、繰り返しの回数、割当回数の変化の大きさなどを用いることができる。そして、繰り返し判定部５４は、繰り返し終了条件を満たした場合は、潜在トピック割当記憶部５２に記憶されている潜在トピック集合＾Ｚを出力部６０に出力し、処理を終了する。
【００５７】
＜本発明の実施の形態に係るトピック推定装置の作用＞
【００５８】
次に、本発明の実施の形態に係るトピック推定装置１００の作用について説明する。入力部１０において文書集合＾Ｗを受け付けると、トピック推定装置１００は、図２に示すトピック推定処理ルーチンを実行する。
【００５９】
まず、ステップＳ１００では、入力部１０において受け付けた文書集合＾Ｗを取得する。
【００６０】
次に、ステップＳ１０２では、複数のユーザｕの各々についての文書集合＾ｗｕに含まれる文書＾ｗｕｓの潜在クラスタｙｕｓ、及び複数のユーザｕの各々に対する文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々に含まれる単語ｗｕｓｎの各々の潜在トピックｚｕｓｎを適当に初期化する
【００６１】
ステップＳ１０４では、複数のユーザｕの各々に対し、ステップＳ１００で取得した文書集合＾Ｗにおけるユーザｕの文書集合＾ｗｕに基づいて、文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々について、複数の潜在クラスタの何れかを割り当て、文書＾ｗｕｓの各々に割り当てた潜在クラスタｙｕｓを、文書集合＾Ｗに対する潜在クラスタ集合＾Ｙとして潜在クラスタ割当記憶部５０に記憶する。
【００６２】
ステップＳ１０６では、複数のユーザｕの各々に対し、当該ユーザｕの文書集合＾ｗｕに含まれる文書＾ｗｕｓの各々について、潜在クラスタ割当記憶部５０に記憶されている潜在クラスタ集合＾Ｙのうち当該文書＾ｗｕｓに割り当てられた潜在クラスタｙｕｓに基づいて、当該ユーザｕの当該潜在クラスタｙｕｓが割り当てられた文書における、各潜在トピックｋが割り当てられる単語数を考慮して、文書に含まれる単語の各々について、複数の潜在トピックの何れかを割り当て、ユーザｕの文書＾ｗｕｓの各々に含まれる単語ｗｕｓｎの各々について割り当てた潜在トピックｚｕｓｎを、潜在トピック集合＾Ｚとして潜在トピック割当記憶部５２に記憶する。
【００６３】
ステップＳ１０８では、繰り返し終了条件を満たすかを判定し、満たすと判定された場合はステップＳ１１０へ移行し、満たさないと判定された場合は、ステップＳ１０４へ戻って、ステップＳ１０４〜ステップＳ１０６の処理を繰り返す。
【００６４】
ステップＳ１１０では、ステップＳ１０６で潜在トピック割当記憶部５２に記憶された潜在トピック集合＾Ｚを出力部６０に出力し、処理を終了する。
【００６５】
上記ステップＳ１０４は、図３に示す潜在クラスタ割当処理ルーチンによって実現される。
【００６６】
図３に示すように、まず、ステップＳ２００では、処理対象となるユーザｕを選択する。
【００６７】
ステップＳ２０２では、ステップＳ２００で選択されたユーザｕの文書集合＾ｗｕから処理対象の文書＾ｗｕｓを選択する。
【００６８】
ステップＳ２０４では、ステップＳ２０２で選択された文書＾ｗｕｓについて、潜在クラスタ毎の文書数Ｄｕｌと、当該文書＾ｗｕｓにおける各潜在トピックｋが割り当てられた単語数Ｎｕｓｋと、潜在クラスタｌの各々に対する、ユーザｕの潜在クラスタｌが割り当てられた文書＾ｗｕｓにおける、各潜在トピックｋが割り当てられた単語数Ｎｕｌｋとに基づいて、上記（１）式に従って、新たな潜在クラスタを含むユーザｕに関する複数の潜在クラスタの各々のクラスタ割当度を算出する。
【００６９】
ステップＳ２０６では、ステップＳ２０４で潜在クラスタの各々について算出されたクラスタ割当度に基づいて、ステップＳ２０２で選択された文書＾ｗｕｓに、ユーザｕに関する既存の潜在クラスタ又は新たな潜在クラスタを、潜在クラスタｙｕｓとして割り当てる。
【００７０】
ステップＳ２１２では、ユーザｕの全ての文書＾ｗｕｓについて処理を終了したかを判定し、終了していなければステップＳ２０２へ戻り次の文書＾ｗｕｓを選択し、終了していればステップＳ２１４へ移行する。
【００７１】
ステップＳ２１４では、全てのユーザｕについて処理を終了したかを判定し、終了していなければステップＳ２００へ戻り次のユーザｕを選択し、終了していればステップＳ２１６へ移行する。
【００７２】
ステップＳ２１６では、ステップＳ２１０で文書＾ｗｕｓの各々に割り当てた潜在クラスタｙｕｓを、文書集合＾ｗｕｓに対する潜在クラスタ集合＾Ｙとして潜在クラスタ割当記憶部５０に記憶する。
【００７３】
ステップＳ２１８では、繰り返し終了条件を満たすかを判定し、満たさないと判定された場合はステップＳ２００へ戻って、ステップＳ２００〜ステップＳ２１６の処理を繰り返し、満たすと判定された場合は潜在クラスタ割当処理ルーチンを終了する。
【００７４】
上記ステップＳ１０６は、図４に示す潜在トピック割当処理ルーチンによって実現される。
【００７５】
図４に示すように、まず、ステップＳ３００では、潜在クラスタ割当記憶部５０に記憶された潜在クラスタ集合＾Ｙを読み込む。
【００７６】
ステップＳ３０２では、処理対象となるユーザｕを選択する。
【００７７】
ステップＳ３０４では、ステップＳ３０２で選択されたユーザｕの文書集合＾ｗｕから処理対象の文書＾ｗｕｓを選択する。
【００７８】
ステップＳ３０６では、ステップＳ３０４で選択された文書＾ｗｕｓから処理対象の単語ｗｕｓｎを選択する。
【００７９】
ステップＳ３０８では、ステップＳ３０６で選択された単語ｗｕｓｎについて、ステップＳ３００で読み込んだ潜在クラスタ集合＾Ｙにおいて当該文書＾ｗｕｓに割り当てられた潜在クラスタｙｕｓと同じ潜在クラスタが割り当てられた処理対象のユーザｕの文書＾ｗｕｓにおける、各潜在トピックｋが割り当てられた単語数Ｎｕｌｋ、及び当該単語ｗｕｓｎと同じ単語（語彙）における、各潜在トピックｋが割り当てられた単語数Ｎｋｖに基づいて、上記（４）式に従って、各潜在トピックｋのトピック割当度を算出する。
【００８０】
ステップＳ３１０では、ステップＳ３０６で選択された単語ｗｕｓｎについて、単語ｗｕｓｎの各潜在トピックについて算出されたトピック割当度に基づいて、複数の潜在トピックから何れかの潜在トピックｚｕｓｎを割り当てる。
【００８１】
ステップＳ３１２では、文書＾ｗｕｓの全ての単語ｗｕｓｎについて処理を終了したかを判定し、終了していなければステップＳ３０６へ戻り次の単語ｗｕｓｎを選択し、終了していればステップＳ３１４へ移行する。
【００８２】
ステップＳ３１４では、ユーザｕの全ての文書＾ｗｕｓについて処理を終了したかを判定し、終了していなければステップＳ３０４へ戻り次の文書＾ｗｕｓを選択し、終了していればステップＳ３１６へ移行する。
【００８３】
ステップＳ３１６では、全てのユーザｕについて処理を終了したかを判定し、終了していなければステップＳ３０２へ戻り次のユーザｕを選択し、終了していればステップＳ３１８へ移行する。
【００８４】
ステップＳ３１８では、ステップＳ２１０で単語の各々に割り当てた潜在トピックｚｕｓｎを、潜在トピック集合＾Ｚとして潜在トピック割当記憶部５２に記憶する。
【００８５】
ステップＳ３２０では、繰り返し終了条件を満たすかを判定し、満たさないと判定された場合は、ステップＳ３０２へ戻って、ステップＳ３０２〜ステップＳ３１８の処理を繰り返し、満たすと判定された場合は、潜在トピック割当処理ルーチンを終了する。
【００８６】
＜実験結果＞
【００８７】
本発明の実施の形態に係る手法を評価するため、日本語ツイートデータセットを用いて実験を行った。比較手法として、各ユーザの全ツイートを擬似的に１文書とし、ＬＤＡ（Latent Ditichlet Allocation）（上記非特許文献１参照）を用いて潜在トピックを推定する手法との予測性能を評価した。本実施の形態に係る手法と比較手法の学習に使用する潜在トピック数を変化させたときの実験結果を図５に示す。横軸は潜在トピック数、縦軸はパープレキシティであり、パープレキシティが低いほど高い精度で予測できるよい確率モデルであることを示す。図５より、潜在トピック数が１００以上のとき、本実施の形態に係る手法（Ｐｒｏｐｏｓｅｄ）のほうが高い精度を達成していることがわかる。また、本実施の形態では潜在クラスタを推定する際に潜在トピックの情報を用いているため、適切な潜在トピック数を与えないと潜在クラスタが適切に推定できず、例えば潜在トピック数が５０のときのように従来手法よりも精度が悪くなる。
【００８８】
以上説明したように、本発明の実施の形態に係るトピック推定装置によれば、複数のユーザの各々についての文書集合に基づいて、文書の各々について、複数の潜在クラスタの何れかを割り当て、複数のユーザの各々に対し、ユーザの文書集合に含まれる文書の各々について、文書に割り当てられた潜在クラスタに基づいて、ユーザの潜在クラスタが割り当てられた文書における、各潜在トピックが割り当てられる単語数を考慮して、単語の各々について、複数の潜在トピックの何れかを割り当てることにより、短い文書からであっても、精度よく、潜在トピックを推定できる。
【００８９】
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【符号の説明】
【００９０】
１０   入力部
２０   演算部
２８   初期化部
３０   潜在クラスタ割当部
３２   潜在クラスタ推定部
３４   クラスタ割当部
３６   クラスタ割当繰り返し判定部
４０   潜在トピック割当部
４２   読込部
４４   潜在トピック推定部
４６   トピック割当部
４８   トピック割当繰り返し判定部
５０   潜在クラスタ割当記憶部
５２   潜在トピック割当記憶部
５４   繰り返し判定部
６０   出力部
１００ トピック推定装置
【図１】
2016218574.tif 000014
【図２】
2016218574.tif 000015
【図３】
2016218574.tif 000016
【図４】
2016218574.tif 000017
【図５】
2016218574.tif 000018