(57)【要約】【課題】レビューの評価値を精度よく推定するためパラメータを得ることができるようにする。【解決手段】推定用入力部１０は、複数の評価対象に関する複数の学習用レビューを受け付ける。パラメータ推定部２６は、推定用入力部１０によって受け付けた複数の学習用レビューに基づいて、評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値とが評価対象に対する全体総合評価値に依存し、学習用レビューの各様相の様相評価値が評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値に依存して、各様相についての、様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、様相の様相評価値が評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、モデルパラメータを推定する。【選択図】図３
2016207171.tif 000002
【特許請求の範囲】
【請求項１】
推定用入力部及びパラメータ推定部を含むパラメータ推定装置におけるパラメータ推定方法であって、
前記推定用入力部が、複数の様相を含む複数の評価対象に関する複数の学習用レビューであって、かつ前記評価対象に対する全体評価値と前記評価対象の各様相に対する様相評価値とが予め付与された複数の学習用レビューを受け付けるステップと、
前記パラメータ推定部が、前記推定用入力部によって受け付けた複数の前記学習用レビューに基づいて、前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの前記全体評価値とが前記評価対象に対する全体総合評価値に依存し、前記学習用レビューの各様相の様相評価値が前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの全体評価値に依存して、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、
レビュー文に割り当てられる各様相の分布を表すパラメータと、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータと、前記複数の評価対象に対する全体総合評価値の平均及び標準偏差と、各様相についての前記複数の評価対象に対する様相総合評価値の標準偏差と、前記複数の学習用レビューの全体評価値の標準偏差と、各様相についての前記複数の学習用レビューの様相評価値の標準偏差とを含むモデルパラメータを推定するステップと、
を含むパラメータ推定方法。
【請求項２】
初期化部が、前記モデルパラメータを初期化するステップを更に含み、前記パラメータ推定部が前記モデルパラメータを推定するステップでは、前記モデルパラメータと、前記複数の学習用レビューの各々の前記全体評価値及び各様相の様相評価値とに基づいて、前記複数の評価対象の各々に対する、前記評価対象の全体総合評価値の平均及び標準偏差と、前記複数の評価対象の各々に対する、各様相についての前記評価対象に対する様相総合評価値の平均及び標準偏差と、前記複数の学習用レビューの各々に対する、前記学習用レビューにおける各様相の分布を表すパラメータと、前記複数の学習用レビューの各レビュー文に対する、前記レビュー文に割り当てられる各様相の分布を表すパラメータとを含む変分パラメータを推定すること、及び
推定された前記変分パラメータに基づいて、前記モデルパラメータを推定することを、予め定められた反復終了条件を満たすまで繰り返す
請求項１に記載のパラメータ推定方法。
【請求項３】
入力部及び評価値推定部を含む評価値推定装置における評価値推定方法であって、
前記入力部が、評価対象に関するレビューを受け付けるステップと、
前記評価値推定部が、前記入力部によって受け付けた前記レビューと、請求項１又は請求項２に記載のパラメータ推定方法によって推定された前記モデルパラメータとに基づいて、前記レビューの前記評価対象に対する全体評価値、及び前記レビューの前記評価対象の各様相に対する様相評価値を推定するステップと、
を含む評価値推定方法。
【請求項４】
複数の様相を含む複数の評価対象に関する複数の学習用レビューであって、かつ前記評価対象に対する全体評価値と前記評価対象の各様相に対する様相評価値とが予め付与された複数の学習用レビューを受け付ける推定用入力部と、
前記推定用入力部によって受け付けた複数の前記学習用レビューに基づいて、前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの前記全体評価値とが前記評価対象に対する全体総合評価値に依存し、前記学習用レビューの各様相の様相評価値が前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの全体評価値に依存して、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、
レビュー文に割り当てられる各様相の分布を表すパラメータと、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータと、前記複数の評価対象に対する全体総合評価値の平均及び標準偏差と、各様相についての前記複数の評価対象に対する様相総合評価値の標準偏差と、前記複数の学習用レビューの全体評価値の標準偏差と、各様相についての前記複数の学習用レビューの様相評価値の標準偏差とを含むモデルパラメータを推定するパラメータ推定部と、
を含むパラメータ推定装置。
【請求項５】
コンピュータを、請求項４に記載のパラメータ推定装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、パラメータ推定方法、評価値推定方法、装置、及びプログラムに関する。
【背景技術】
【０００２】
商品等に対する評価や感想を記したレビューデータが広く共有・公開されるようになってきており、その商品等の購入・利用を考えるユーザにとって、対象全体（例えばレストランやホテル）の総合評価、また個別の様相（例えば食事、サービス、場所、価格）に対する評価の情報は有益なものとして捉えられている。評価値推定とは、自然言語で記述されたレビューデータから、対象全体もしくは個別の様相に対する評価値を推定することをいう。
【０００３】
評価値推定に関係する従来技術としては、以下の非特許文献１〜非特許文献３が知られている。非特許文献１は、ディリクレ分布をモデルパラメータの事前分布として利用した潜在的ディリクレ配分法について述べたものである。非特許文献２及び非特許文献３に記載の技術は、いずれも非特許文献１の方法の改良である。非特許文献２は、潜在的ディリクレ配分法を文単位で扱うＬｏｃａｌ−ＬＤＡと呼ばれる方法を述べたものであり、文中で評価可能な様相を発見するために利用することが可能である。非特許文献３は、教師ありＬＤＡモデルによって個々のレビューに対応する評価値をモデル化し、評価値を予測するための方法について述べたものである。これらの方法は、レビューの文から個々の様相ごとの評価値を直接得ることを目的としている。例えば、あるホテルについてのレビューから「食事」「サービス」といった様相を評価する表現と評価値との関係をモデル化して、評価値が未知のレビューに対して個々の様相ごとの評価値を予測するといった処理を行うものである。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】David Blei, Andrew Ng and Michael Jordan,“Latent Dirichlet Allocation.”,In JMLR 2003.In JMLR.
【非特許文献２】Samuel Brody and Noemie Elhadad,“An unsupervised aspect-sentiment model for online reviews.”,In NAACL 2010
【非特許文献３】D. Blei and J. McAuliffe,“Supervised topic models.”,In NIPS 2007.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、上記非特許文献１〜３の方法では、個々の様相ごとの評価値は独立したものとして考えられている。一方で、総合評価の高い対象については個々の様相ごとの評価値も高いことや、あるレビューの全体評価値が高ければそのレビュー中の個々の様相ごとの評価値も高いことが予想されるが、従来の方法ではそうしたことは考慮されていない。そのため、総合評価の高い対象について過度に低い様相ごとの評価値が割り当てられるようなことが起こりやすくなり、評価の一貫性が低い予測が生じる可能性がある。
【０００６】
本発明は、上記の事情を考慮してなされたもので、レビューの評価値を精度よく推定することができるパラメータ推定方法、評価値推定方法、装置、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記の目的を達成するために本発明に係るパラメータ推定方法は、推定用入力部及びパラメータ推定部を含むパラメータ推定装置におけるパラメータ推定方法であって、前記推定用入力部が、複数の様相を含む複数の評価対象に関する複数の学習用レビューであって、かつ前記評価対象に対する全体評価値と前記評価対象の各様相に対する様相評価値とが予め付与された複数の学習用レビューを受け付けるステップと、前記パラメータ推定部が、前記推定用入力部によって受け付けた複数の前記学習用レビューに基づいて、前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの前記全体評価値とが前記評価対象に対する全体総合評価値に依存し、前記学習用レビューの各様相の様相評価値が前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの全体評価値に依存して、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、レビュー文に割り当てられる各様相の分布を表すパラメータと、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータと、前記複数の評価対象に対する全体総合評価値の平均及び標準偏差と、各様相についての前記複数の評価対象に対する様相総合評価値の標準偏差と、前記複数の学習用レビューの全体評価値の標準偏差と、各様相についての前記複数の学習用レビューの様相評価値の標準偏差とを含むモデルパラメータを推定するステップと、を含む。
【０００８】
本発明に係るパラメータ推定装置は、複数の様相を含む複数の評価対象に関する複数の学習用レビューであって、かつ前記評価対象に対する全体評価値と前記評価対象の各様相に対する様相評価値とが予め付与された複数の学習用レビューを受け付ける推定用入力部と、前記推定用入力部によって受け付けた複数の前記学習用レビューに基づいて、前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの前記全体評価値とが前記評価対象に対する全体総合評価値に依存し、前記学習用レビューの各様相の様相評価値が前記評価対象に対する各様相の様相総合評価値と前記学習用レビューの全体評価値に依存して、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、レビュー文に割り当てられる各様相の分布を表すパラメータと、各様相についての、前記様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、前記様相の様相評価値が前記評価値となるレビュー文で出現する各単語の分布を表すパラメータと、前記複数の評価対象に対する全体総合評価値の平均及び標準偏差と、各様相についての前記複数の評価対象に対する様相総合評価値の標準偏差と、前記複数の学習用レビューの全体評価値の標準偏差と、各様相についての前記複数の学習用レビューの様相評価値の標準偏差とを含むモデルパラメータを推定するパラメータ推定部と、を含んで構成されている。
【０００９】
本発明に係るパラメータ推定方法は、初期化部が、前記モデルパラメータを初期化するステップを更に含み、前記パラメータ推定部が前記モデルパラメータを推定するステップでは、前記モデルパラメータと、前記複数の学習用レビューの各々の前記全体評価値及び各様相の様相評価値とに基づいて、前記複数の評価対象の各々に対する、前記評価対象の全体総合評価値の平均及び標準偏差と、前記複数の評価対象の各々に対する、各様相についての前記評価対象に対する様相総合評価値の平均及び標準偏差と、前記複数の学習用レビューの各々に対する、前記学習用レビューにおける各様相の分布を表すパラメータと、前記複数の学習用レビューの各レビュー文に対する、前記レビュー文に割り当てられる各様相の分布を表すパラメータとを含む変分パラメータを推定すること、及び推定された前記変分パラメータに基づいて、前記モデルパラメータを推定することを、予め定められた反復終了条件を満たすまで繰り返すようにすることができる。
【００１０】
本発明に係る評価値推定方法は、入力部及び評価値推定部を含む評価値推定装置における評価値推定方法であって、前記入力部が、評価対象に関するレビューを受け付けるステップと、前記評価値推定部が、前記入力部によって受け付けた前記レビューと、本発明のパラメータ推定方法によって推定された前記モデルパラメータとに基づいて、前記レビューの前記評価対象に対する全体評価値、及び前記レビューの前記評価対象の各様相に対する様相評価値を推定するステップと、を含む。
【００１１】
本発明に係るプログラムは、コンピュータを、本発明のパラメータ推定装置の各部として機能させるためのプログラムである。
【発明の効果】
【００１２】
以上説明したように、本発明によれば、複数の学習用レビューに基づいて、評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値とが評価対象に対する全体総合評価値に依存し、学習用レビューの各様相の様相評価値が評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値に依存して、各様相についての、様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、様相の様相評価値が評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、モデルパラメータを推定することにより、レビューの評価値を精度よく推定するためパラメータを得ることができる、という効果が得られる。
【図面の簡単な説明】
【００１３】
【図１】階層的事前分布に基づくトピックモデルによるレビューの生成過程を疑似コードによって表現したイメージ図である。
【図２】本発明の実施の形態に係るモデルパラメータ推定処理におけるＥ−ｓｔｅｐと初期化を表す疑似コードである。
【図３】本発明の実施の形態に係るパラメータ推定装置の構成を示す概略図である。
【図４】本発明の実施の形態に係る評価値推定装置の構成を示す概略図である。
【図５】本発明の実施の形態に係るパラメータ推定装置におけるパラメータ推定処理ルーチンの内容を示すフローチャートである。
【図６】本発明の実施の形態に係るパラメータ推定装置におけるＥ−ｓｔｅｐ処理ルーチンの内容を示すフローチャートである。
【図７】本発明の実施の形態に係るパラメータ推定装置におけるＭ−ｓｔｅｐ処理ルーチンの内容を示すフローチャートである。
【図８】本発明の実施の形態に係るパラメータ推定装置における評価値推定処理ルーチンの内容を示すフローチャートである。
【図９】本発明の実施の形態の実験結果を示す図である。
【図１０】本発明の実施の形態の実験結果を示す図である。
【発明を実施するための形態】
【００１４】
以下、図面を参照して本発明の実施の形態を詳細に説明する。以下では、まず本発明の実施の形態の概要及び原理について説明する。
【００１５】
＜本発明の実施の形態の概要＞
本発明の実施の形態は、評価対象に関するレビューデータにおける評価対象全体または評価対象の個別の様相に対する評価値を高精度に推定するためのものである。評価対象としては、例えばレストランやホテルが挙げられる。また、評価対象は複数の様相を含み、様相としては、例えば食事、サービス、場所、価格等が挙げられる。評価対象全体に対する全体総合評価値、評価対象の個別の様相に対する様相総合評価値、また個々のレビューの評価値は相互に関係があることが予想されるため、本発明の実施の形態では、潜在的ディリクレ配分法（Latent Dirichlet Allocation：LDA）に基づくトピックモデルを利用して評価値の推定を行う。
【００１６】
本発明の実施の形態では、評価対象に対する各評価値を確率変数と考え、以下の（１）〜（４）の条件を設定する。
【００１７】
なお、評価対象に対する全体総合評価値は、当該評価対象に関する複数のレビューから得られる評価対象の全体に対する評価値を表す。評価対象に対する各様相の様相総合評価値は、当該評価対象に関する複数のレビューから得られる評価対象の様相に対する評価値を表す。レビューの全体評価値は、１つのレビューにおける評価対象に対する評価値を表す。レビューの各様相の様相評価値は、１つのレビューにおける評価対象の各様相に対する評価値を表す。
【００１８】
（１）評価対象の様相ごとの様相総合評価値は、当該評価対象の全体総合評価値を平均とする確率分布に従う。
（２）各レビューの全体評価値は、評価対象の全体総合評価値を平均とする確率分布に従う。
（３）各レビューの様相ごとの様相評価値は、評価対象の様相ごとの総合評価値および当該レビューの全体評価値の重み付き和を平均とする確率分布に従う。
（４）レビュー文中の各単語は、各レビューの様相ごとの様相評価値と潜在トピックの条件付き確率分布に従う。
【００１９】
本発明の実施の形態では、各評価値は上記（１）〜（４）の条件に従うものとし、各評価値をＬＤＡ（Latent Dirichlet Allocation）に基づくトピックモデルの変数に含めることで、当該レビューの評価値の階層性を考慮することができる。
【００２０】
レビューの評価値の階層性を考慮することにより、全体総合評価値及び様相総合評価値の高低に依存して各レビューの全体評価値、レビューの様相ごとの様相評価値の高低が変化し、全体総合評価値及び様相総合評価値の高い対象に対しては平均的に高い全体評価値や様相ごとの様相評価値がつきやすくなるようなモデルを得られることが期待でき、また当該モデルが得られる結果、高いレビュー評価値の予測精度が得られることが期待できる。
【００２１】
＜原理＞
次に本発明の実施の形態の原理について説明する。
【００２２】
[１.定式化]
レビューデータとして、評価対象（例えばレストランやホテル）がＮ個あるとする。各評価対象
【００２３】
【数１】
2016207171.tif 000003
【００２４】
にはＮｉ個のレビュー
【００２５】
【数２】
2016207171.tif 000004
【００２６】
が付与されているとする。また、個々のレビューは
【００２７】
【数３】
2016207171.tif 000005
【００２８】
個の文
【００２９】
【数４】
2016207171.tif 000006
【００３０】
で記述されており、各文には
【００３１】
【数５】
2016207171.tif 000007
【００３２】
個の単語
【００３３】
【数６】
2016207171.tif 000008
【００３４】
が含まれているとする。さらに、評価対象にはＫ個の評価様相
【００３５】
【数７】
2016207171.tif 000009
【００３６】
があるとする。また、Ｖをレビューで用いられる単語（語彙）の異なり数とする。各評価対象には全体総合評価値Ｒａｌｌｉと、様相ごとの様相総合評価値をまとめたＫ次元の様相の評価値ベクトル
【００３７】
【数８】
2016207171.tif 000010
【００３８】
が付与されるものとする。各評価値は非負の実数であるとする。各レビューには全体評価値ｒａｌｌｄと、Ｋ次元の様相評価値ベクトル
【００３９】
【数９】
2016207171.tif 000011
【００４０】
が付与されるものとする。なお、表記「Ｒ」は複数のレビューを総合して得られる評価値、表記「ｒ」は個別のレビューでの評価値を表す。
【００４１】
本実施の形態では、学習データとして評価値が既知の学習用レビューデータセットを利用してモデルを学習し、評価値が未知のレビューデータに対して評価値の推定を行う。学習用レビューデータ中の各レビューは全体評価値ｒａｌｌｄと様相ごとの様相評価値＾ｒｉがすでに付与されているとする。また、本実施の形態で、評価値が未知のレビューデータに対して得られる評価値は、
【００４２】
１．評価値が未知のレビューデータ中の各評価対象についての全体総合評価値Ｒａｌｌｉ、および様相ごとの様相総合評価値＾Ｒｉ
２．評価値が未知のレビューデータ中の各レビューについての全体評価値ｒａｌｌd、および様相ごとの様相評価値ｒｄｋである。
【００４３】
[２．モデル]
本発明の実施の形態では、レビューデータにおける自然言語で記述されたレビューを評価値に応じて生成するような「階層的事前分布に基づくトピックモデル」を利用する。
【００４４】
本実施の形態における階層的事前分布に基づくトピックモデルでは、同一の評価対象や同一のレビューにおける様相ごとの様相評価値は互いに独立ではないと仮定する。また、各評価対象Ｅｉについて、当該評価対象Ｅｉの全体総合評価値Ｒａｌｌｉは、以下の式（１）に示すように、平均μ、標準偏差Σの正規分布に従って生成されるものとする。
【００４５】
【数１０】
2016207171.tif 000012
【００４６】
そして、評価対象Ｅｉの様相ごとの様相総合評価値Ｒｉｋとレビューごとの全体評価値ｒａｌｌｄとは、以下の式（２）〜（３）に示すように、それぞれ評価対象Ｅｉの全体総合評価値Ｒａｌｌｉを平均とする、標準偏差σ１とσ２の正規分布に従って生成されるものとする。
【００４７】
【数１１】
2016207171.tif 000013
【００４８】
各レビューにおける様相ごとの様相評価値ｒｄｋは、以下の式（４）に示すように、当該レビューの全体評価値ｒａｌｌｄと、当該レビューが評価する評価対象Ｅｉにおける様相ごとの様相総合評価値Ｒｉｋとを線形結合した値を平均とする、標準偏差σ３の正規分布に従って生成されるものとする。
【００４９】
【数１２】
2016207171.tif 000014
【００５０】
ここで、λはレビューｄの全体評価値ｒａｌｌｄと、評価対象Ｅｉのｋ番目の様相に対する様相総合評価値Ｒｉｋとの寄与度合いを調整するパラメータであり、予め定められた任意の定数（例えば０．５）としてもよい。
【００５１】
図１に、本実施の形態における階層的事前分布に基づくトピックモデルによるレビューの生成過程を示す。
【００５２】
レビューの各文は同一の様相に対するものであると仮定し、様相をトピックモデルにおける潜在トピックと考えることで、上記図１に示すような生成過程に基づいてレビューが生成されるものとする。つまり、レビューの各単語は、当該単語を含むレビュー文に割り当てられる様相ｚｓとレビューの様相ごとの様相評価値
【００５３】
【数１３】
2016207171.tif 000015
【００５４】
との条件付き確率分布
【００５５】
【数１４】
2016207171.tif 000016
【００５６】
とに基づいて生成される。
【００５７】
【数１５】
2016207171.tif 000017
【００５８】
は、以下の式（５）に示すように、様相ｚｓにおいて出現する単語の分布
【００５９】
【数１６】
2016207171.tif 000018
【００６０】
と、様相ｚｓにおいてレビューの様相ごとの様相評価値が
【００６１】
【数１７】
2016207171.tif 000019
【００６２】
であるときに出現する単語の分布
【００６３】
【数１８】
2016207171.tif 000020
【００６４】
との積として表現される。
【００６５】
【数１９】
2016207171.tif 000021
【００６６】
なお、
【００６７】
【数２０】
2016207171.tif 000022
【００６８】
は、上記式（５）に示すように、任意の正の実数値をとり得るが、レビューデータ中でのレビューの様相ごとの様相評価値は通常離散値であるため、
【００６９】
【数２１】
2016207171.tif 000023
【００７０】
は整数等の離散値に丸めた値を利用する。
【００７１】
本実施の形態におけるモデルの学習では、評価値が既知の学習用レビューデータにおける単語および評価値の事後確率ｐ（ｗ，ｒａｌｌｄ，ｒｄｋ｜Υ) を最大化するようなモデルパラメータΥ=｛μ，Σ，σ１，σ２，σ３，λ，α，φ，ψ｝を推定し、推定されたモデルパラメータΥを用いて、評価値が未知のレビューに対して、当該レビューの評価値
【００７２】
【数２２】
2016207171.tif 000024
【００７３】
を推定する。
【００７４】
なお、モデルパラメータΥのμは、複数の評価対象Ｅｉの全体総合評価値Ｒａｌｌｉの平均を表し、Σは、複数の評価対象Ｅｉの全体総合評価値Ｒａｌｌｉの標準偏差を表し、σ１は様相ごとの様相総合評価値Ｒｉｋの標準偏差を表し、σ２は各レビューの全体評価値ｒａｌｌｄの標準偏差を表し、σ３は各レビューの様相ごとの様相評価値ｒｄｋの標準偏差を表す。また、λは各レビューの様相ごとの様相評価値における、レビューの全体評価値と様相ごとの様相総合評価値の寄与度合いのパラメータを表す。また、αはディリクレ分布のパラメータ（Ｋ次元）を表し、φは単語ｗの出現分布（様相Ａｋのｋごとに表され、単語数次元である。）を表し、ψは単語ｗの出現分布（様相Ａｋのｋ及び様相Ａｋのｋごとの様相評価値ｒｄｋごとに表され、単語数次元である。）を表す。
【００７５】
上記図１の生成過程に基づくと、学習用レビューデータに対して求める単語および評価値の事後確率は以下の式（６）に示すようになる。
【００７６】
【数２３】
2016207171.tif 000025
【００７７】
[３．モデルの導出]
上記式（６）に示す事後確率の最大化のための必要な隠れ変数の事後確率分布を効率的に計算することは困難であるため、本実施の形態では非特許文献４（MICHAEL I. JORDAN ，ZOUBIN GHAHRAMANI，TOMMI S. JAAKKOLA，LAWRENCE K. SAUL，“An Introduction to Variational Methods for Graphical Models”，Machine Learning, Volume 37, Issue 2, p.183-233, 1999）に記載されている変分法を用いる。本実施の形態では、隠れ変数の事後確率分布を、変分法によって以下の式（７）に示す変分分布を用いて近似する。
【００７８】
【数２４】
2016207171.tif 000026
【００７９】
ここで、各レビュー文への様相の割り当てｚｓはＫ次元多項分布
【００８０】
【数２５】
2016207171.tif 000027
【００８１】
に従い、多項分布のパラメータθｄはＫ次元のディリクレ分布Ｄｉｒ（γｄ）に従い、評価対象Ｅｉの全体総合評価値Ｒａｌｌｉは平均ηｉ、標準偏差Δｉの正規分布に従い、評価対象Ｅｉの様相に対する様相総合評価値Ｒｉｋは平均βｉｋ、標準偏差δｉｋの正規分布に従う。
そして、Ｊｅｎｓｅｎの不等式によって、上記式（６）に示した事後確率の対数尤度
【００８２】
【数２６】
2016207171.tif 000028
【００８３】
の下界Ｌが以下の式（８）に示すように得られる。
【００８４】
【数２７】
2016207171.tif 000029
【００８５】
ここで、Ｈ（ｑ）＝−Ｅ［ｌｏｇ ｑ］は変分分布ｑのエントロピーである。
上記式（８）に基づき、変分パラメータ
【００８６】
【数２８】
2016207171.tif 000030
【００８７】
に対する下界Ｌを最大化する過程（Ｅ−ｓｔｅｐ）と、モデルパラメータΥ=｛μ，Σ，σ１，σ２，σ３，λ，α，φ，ψ｝に対する下界を最大化する過程（Ｍ−ｓｔｅｐ）を繰り返す、変分ＥＭ（Ｅｘｐｅｃｔａｔｉｏｎ−Ｍａｘｉｍｉｚａｔｉｏｎ：期待値最大化）と呼ばれる方法によって事後確率の最大化を行う。なお、変分パラメータΦのηは、複数の評価対象Ｅｉの各々に対する、当該評価対象Ｅｉの全体総合評価値Ｒａｌｌｉの平均ηｉからなり、Δは、複数の評価対象Ｅｉの各々に対する、当該評価対象Ｅｉの全体総合評価値Ｒａｌｌｉの標準偏差Δｉからなる。また、βは、複数の評価対象Ｅｉ及び複数の様相ｋの組み合わせの各々に対する、当該組み合わせの様相総合評価値Ｒｉｋの平均βｉｋからなり、δは、複数の評価対象Ｅｉ及び複数の様相ｋの組み合わせの各々に対する、当該組み合わせの様相総合評価値Ｒｉｋの標準偏差δｉｋからなる。γは、複数の学習用レビューｄの各々に対する、当該学習用レビューｄにおける各様相ｋの分布を表すディリクレ分布のパラメータγｄｋからなり、
【００８８】
【数２９】
2016207171.tif 000031
【００８９】
は、複数の学習用レビューの複数のレビュー文ｓに対する、当該レビュー文ｓに割り当てられる各様相ｋの分布を表す多項分布のパラメータ
【００９０】
【数３０】
2016207171.tif 000032
【００９１】
からなる。
【００９２】
［３．１  Ｅ−ｓｔｅｐ］
【００９３】
まず、Ｅ−ｓｔｅｐでは、
【００９４】
【数３１】
2016207171.tif 000033
【００９５】
を満たす最適な変分パラメータ
【００９６】
【数３２】
2016207171.tif 000034
【００９７】
を求める。図２に変分ＥＭアルゴリズムのＥ−ｓｔｅｐの計算（ｉは評価対象のＩＤ、ｄはレビューのＩＤ、ｓは文のＩＤ、ｋは様相のＩＤを表す。）と初期化についての擬似コードを示す。
【００９８】
変分パラメータΦのηｉ，Δｉ，βｉｋ，δｉｋは以下の式（９）〜（１２）に基づいて更新する。
【００９９】
【数３３】
2016207171.tif 000035
【０１００】
次に、変分パラメータΦのγｄｋ,
【０１０１】
【数３４】
2016207171.tif 000036
【０１０２】
を以下の式（１３）〜（１４）に基づいて更新する（ｋ＝1,...,Ｋ）。
【０１０３】
【数３５】
2016207171.tif 000037
【０１０４】
ここで、Ψ(・) はｌｏｇΓ関数の一次微分を表す。ηｉとβｉｋに対する微分、γと
【０１０５】
【数３６】
2016207171.tif 000038
【０１０６】
に対する微分は相互に依存するため、上記図２に示すような繰り返し手順によって計算を行う。
【０１０７】
［３．２  Ｍ−ｓｔｅｐ］
続いて、Ｍ−ｓｔｅｐでは、モデルパラメータΥ＝｛μ，Σ，σ１，σ２，σ３，λ，α，φ，ψ｝を更新して対数尤度の下界を最大化する。
【０１０８】
まず、φおよびψを以下の式（１５）〜（１６）に基づいて更新する。
【０１０９】
【数３７】
2016207171.tif 000039
【０１１０】
ただし、１(・)は条件が満たされたとき１、満たされないときに０を返す関数とする。また、φｋｗｎは、ｋ番目の様相Ａｋに対するｎ番目の単語ｗの出現確率を表し、ψｋｍｗｎは、レビューｄの様相評価値がｍであり、かつｋ番目の様相Ａｋに対するｎ番目の単語ｗの出現確率を表す。
次に、αを以下の式（１７）に基づいて更新する。
【０１１１】
【数３８】
2016207171.tif 000040
【０１１２】
以下の式（１８）に示すように、ｋに対する微分はαｋ’（ｋ≠ｋ’）に依存するため、上記非特許文献１に記述されているＮｅｗｔｏｎ−Ｒａｐｈｓｏｎ法による繰り返し処理によって最大値を求める方法を必要とする。最大値を求めるためのヘッセ行列は以下の式（１８）に示すように計算する。
【０１１３】
【数３９】
2016207171.tif 000041
【０１１４】
次に、以下の式（１９）〜（２３）に基づいてμ，Σ，σ１，σ２，σ３を更新する。
【０１１５】
【数４０】
2016207171.tif 000042
【０１１６】
［４．予測］
上述した方法によってモデルパラメータΥを推定した後に、評価値が未知のレビューデータに対する評価値Θの予測を以下の式（２４）に従って行う。
【０１１７】
【数４１】
2016207171.tif 000043
【０１１８】
Θは評価値を表し、Υはモデルパラメータを表す。ｐ（ｗ｜Θ，Υ）はパラメータｚｓ，α，θを積分消去することによって求められるが、直接計算することは難しい。そこで本実施の形態では、ｚｓをまず各レビュー文に割り当てる。
なお、ｐ（ｗ｜Θ，Υ）の最大化はｐ（ｗ｜Θ，Υ，ｚ）の最大化に置き換えられ、以下の式（２５）に示すように最大化を行う。
【０１１９】
【数４２】
2016207171.tif 000044
【０１２０】
ｐ（ｗ∈Ｅｉ｜Θｉ，Υ，ｚ）のΘの各要素に対する微分が０となるように得られる以下の式（２６）〜（２９）によって、当該レビューの評価対象Ｅiについての全体総合評価値Ｒａｌｌｉ 、および様相ごとの様相総合評価値＾Ｒｉ、当該レビューについての全体評価値ｒａｌｌd、および様相ごとの様相評価値ｒｄｋを求める。
【０１２１】
【数４３】
2016207171.tif 000045
【０１２２】
ここで、Ｔ（ｒｄｋ）は以下の式（３０）によって計算される。
【０１２３】
【数４４】
2016207171.tif 000046
【０１２４】
Θの各要素に対する微分は独立でないため、本実施の形態ではΘの全要素を０とし、上記式（２６）〜（２９）に示す更新式によって収束するまで繰り返し更新する。
【０１２５】
次に、評価対象のレビューに関するモデルパラメータを推定するパラメータ推定装置と、パラメータ推定装置によって推定されたモデルパラメータを用いて、評価値推定対象のレビューの評価値を推定する評価値推定装置に、本発明を適用した場合を例に説明する。
【０１２６】
＜パラメータ推定装置のシステム構成＞
図３に示すように、本実施の形態に係るパラメータ推定装置１００は、ＣＰＵと、ＲＡＭと、後述する学習処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。本実施の形態に係るパラメータ推定装置は、推定用入力部１０と、推定用演算部２０と、モデルパラメータ記憶部３０とを備えている。
【０１２７】
推定用入力部１０は、複数の評価対象に関する複数の学習用レビューを受け付ける。学習用レビューには、評価対象に対する全体評価値と評価対象の各様相に対する様相評価値とが予め付与されている。
【０１２８】
推定用演算部２０は、レビューデータベース２２と、初期化部２４と、パラメータ推定部２６とを備えている。
【０１２９】
レビューデータベース２２には、推定用入力部１０によって受け付けた複数の学習用レビューが格納される。
【０１３０】
初期化部２４は、各パラメータの初期値を設定する。具体的には、初期化部２４は、モデルパラメータΥの｛μ，Σ，σ１，σ２，σ３，λ，α，φ，ψ｝について、予め定められた初期値を設定し、モデルパラメータを初期化する。また、初期化部２４は、変分パラメータΦについて、以下の式に従って、初期値を設定する。
【０１３１】
【数４５】
2016207171.tif 000047
【０１３２】
パラメータ推定部２６は、レビューデータベース２２に格納された複数の学習用レビューに基づいて、上述したトピックモデルに従って、モデルパラメータΥを推定する。モデルパラメータΥには、レビュー文に割り当てられる各様相の分布を表すパラメータαと、各様相についての、様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータφと、各様相及び各評価値についての、様相が割り当てられ、かつ、様相の様相評価値が評価値となるレビュー文で出現する各単語の分布を表すパラメータψと、複数の評価対象に対する全体総合評価値の平均μ及び標準偏差Σと、各様相についての複数の評価対象に対する様相総合評価値の標準偏差σ１と、複数の学習用レビューの全体評価値の標準偏差σ２と、各様相についての複数の学習用レビューの様相評価値の標準偏差σ３とが含まれている。
【０１３３】
本実施の形態では、上記図１に示されるように、トピックモデルにおいて、評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値とが評価対象に対する全体総合評価値に依存し、学習用レビューの各様相の様相評価値が評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値に依存することが表されている。また、上記式（５）に示されるように、当該依存関係から、トピックモデルにおいてパラメータφとパラメータψとが算出されることが表されている。
【０１３４】
パラメータ推定部２６は、変分ＥＭアルゴリズムを用いて、Ｅ−ｓｔｅｐにおいて変分パラメータΦを推定し、Ｍ−ｓｔｅｐにおいてモデルパラメータΥを推定する。パラメータ推定部２６は、Ｅ−ｓｔｅｐで推定された変分パラメータΦに基づいて、モデルパラメータΥを推定することを、予め定められた反復終了条件を満たすまで繰り返す。
【０１３５】
まず、パラメータ推定部２６は、初期化され、又は前回推定されたモデルパラメータΥと、複数の学習用レビューの各々の全体評価値及び各様相の様相評価値とに基づいて、複数の評価対象Ｅｉの各々に対する、評価対象Ｅｉの全体総合評価値の平均ηｉ及び標準偏差Δｉと、複数の評価対象Ｅｉの各々に対する、各様相ｋについての評価対象Ｅｉに対する様相総合評価値の平均βｉｋ及び標準偏差δｉｋと、複数の学習用レビューｄの各々に対する、学習用レビューｄにおける各様相ｋの分布を表すパラメータγｄｋと、複数の学習用レビューの各レビュー文ｓに対する、レビュー文ｓに割り当てられる各様相ｋの分布を表すパラメータ
【０１３６】
【数４６】
2016207171.tif 000048
【０１３７】
とを含む変分パラメータΦを推定する。
【０１３８】
具体的には、パラメータ推定部２６は、Ｅ−ｓｔｅｐにおいて、上記式（１０）に従って、各評価対象ＩＤｉについて、変分パラメータΔ２ｉを更新する。次に、パラメータ推定部２６は、各評価対象ＩＤｉ及び各様相ＩＤｋについて、上記式（１２）に従って、変分パラメータδ２ｉｋを更新する。
【０１３９】
次に、パラメータ推定部２６は、上記式（１３）及び（１４）に基づいて、複数の学習用レビューｄの各々に対する、学習用レビューｄにおける各様相ｋの分布を表すパラメータγｄｋと、複数の学習用レビューの各レビュー文ｓに対する、レビュー文ｓに割り当てられる各様相ｋの分布を表すパラメータ
【０１４０】
【数４７】
2016207171.tif 000049
【０１４１】
とを更新する。パラメータ推定部２６は、更新処理が収束するまで上記式（１３）及び（１４）に基づいて更新を繰り返す。
【０１４２】
そして、パラメータ推定部２６は、上記式（９）に基づいて、各評価対象ＩＤｉについて、ηｉを更新する。また、パラメータ推定部２６は、上記式（１１）に基づいて、各評価対象ＩＤｉ及び各様相ＩＤｋについて、βｉｋを更新する。パラメータ推定部２６は、更新処理が収束するまで上記式（９）及び（１１）に基づいて更新を繰り返す。
【０１４３】
次に、パラメータ推定部２６は、Ｍ−ｓｔｅｐにおいて、Ｅ−ｓｔｅｐで推定されたパラメータ
【０１４４】
【数４８】
2016207171.tif 000050
【０１４５】
に基づいて、上記式（１５）及び（１６）に従って、パラメータφとパラメータψとを推定する。
【０１４６】
また、パラメータ推定部２６は、Ｍ−ｓｔｅｐにおいて、Ｅ−ｓｔｅｐで推定されたパラメータγに基づいて、上記式（１７）に従って、レビュー文に割り当てられる各様相の分布を表すパラメータαを推定する。
【０１４７】
また、パラメータ推定部２６は、Ｅ−ｓｔｅｐで推定された変分パラメータΦに基づいて、上記式（１９）〜（２３）に従って、｛μ，Σ，σ１，σ２，σ３｝を更新する。
【０１４８】
そして、パラメータ推定部２６は、推定されたモデルパラメータをモデルパラメータ記憶部３０に格納する。
【０１４９】
モデルパラメータ記憶部３０には、パラメータ推定部２６によって推定されたモデルパラメータΥが記憶される。
【０１５０】
＜評価値推定装置＞
図４に示すように、本実施の形態に係る評価値推定装置２００は、ＣＰＵと、ＲＡＭと、後述する評価値推定処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
【０１５１】
本実施の形態に係る評価値推定装置は、入力部４０と、モデルパラメータ記憶部５０と、演算部６０と、出力部７０とを備えている。
【０１５２】
入力部４０は、評価対象Ｅｉに関するレビューを受け付ける。
【０１５３】
モデルパラメータ記憶部５０には、上記パラメータ推定装置１００のモデルパラメータ記憶部３０に記憶されているモデルパラメータと同じモデルパラメータが記憶される。
【０１５４】
演算部６０は、評価値推定部６２を備えている。
【０１５５】
評価値推定部６２は、入力部４０によって受け付けたレビューと、モデルパラメータ記憶部５０に記憶されたモデルパラメータとに基づいて、上記式（２６）〜（２９）に従って、レビューに対する総合評価値ｒａｌｌd、レビューの評価対象の各様相に対する様相評価値ｒｄｋ、評価対象Ｅｉに対する全体総合評価値Ｒａｌｌｉ、及び評価対象Ｅｉの各様相ｋに対する様相総合評価値Ｒｉｋを推定する。評価値推定部６２は、上記式（２６）〜（２９）に示す更新式によって収束するまで繰り返し更新する。
【０１５６】
出力部７０は、評価値推定部６２によって推定された評価値を出力する。
【０１５７】
＜パラメータ推定装置の作用＞
次に、本実施の形態に係るパラメータ推定装置の作用について説明する。まず、複数の学習用レビューがパラメータ推定装置に入力されると、推定用入力部１０が複数の学習用レビューを受け付け、レビューデータベース２２に格納する。そして、パラメータ推定装置において、図５に示すパラメータ推定処理ルーチンが実行される。
【０１５８】
まず、ステップＳ１００において、初期化部２４は、各パラメータの初期値を設定する。
【０１５９】
そして、ステップＳ１０２において、パラメータ推定部２６は、レビューデータベース２２に格納された複数の学習用レビューと、上記ステップＳ１００で初期化された変分パラメータΦ又は前回の本ステップＳ１０２で前回推定された変分パラメータΦと、上記ステップＳ１００で初期化されたモデルパラメータΥ又は後述するステップＳ１０４で前回推定されたモデルパラメータΥとに基づいて、上述したトピックモデルに従って、変分パラメータΦを推定する。ステップＳ１００は、図６に示すＥ−ｓｔｅｐ処理ルーチンによって実現される。
【０１６０】
＜Ｅ−ｓｔｅｐ処理ルーチン＞
ステップＳ２００において、パラメータ推定部２６は、各評価対象ＩＤｉについて、上記ステップＳ１００で初期化されたモデルパラメータ｛Σ，σ１，σ２｝又は後述するステップＳ１０４で前回更新されたモデルパラメータ｛Σ，σ１，σ２｝に基づいて、上記式（１０）に従って、変分パラメータΔ２ｉを更新する。
【０１６１】
ステップＳ２０２において、パラメータ推定部２６は、各評価対象ＩＤｉ及び各様相ＩＤｋについて、上記ステップＳ１００で初期化されたモデルパラメータ｛σ１，σ３｝又は後述するステップＳ１０４で前回更新されたモデルパラメータ｛σ１，σ３｝に基づいて、上記式（１２）に従って、変分パラメータδ２ｉｋを更新する。
【０１６２】
ステップＳ２０４において、パラメータ推定部２６は、各レビュー文ＩＤｓ及び各様相ＩＤｋについて、上記ステップＳ１００で初期化されたモデルパラメータ｛φ，ψ｝又は後述するステップＳ１０４で前回更新されたモデルパラメータ｛φ，ψ｝と、上記ステップＳ１００で初期化された変分パラメータ｛γ｝又は後述するステップＳ２０８で前回更新された変分パラメータ｛γ｝とに基づいて、上記式（１４）に従って、
【０１６３】
【数４９】
2016207171.tif 000051
【０１６４】
を更新する。
【０１６５】
ステップＳ２０６において、パラメータ推定部２６は、上記ステップＳ２０４で更新された
【０１６６】
【数５０】
2016207171.tif 000052
【０１６７】
に基づいて、
【０１６８】
【数５１】
2016207171.tif 000053
【０１６９】
を正規化する。
【０１７０】
ステップＳ２０８において、パラメータ推定部２６は、各レビューＩＤｄ及び各様相ＩＤｋについて、上記ステップＳ２０６で得られた
【０１７１】
【数５２】
2016207171.tif 000054
【０１７２】
と、上記ステップＳ１００で初期化されたモデルパラメータ｛α｝又は後述するステップＳ１０４で前回更新されたモデルパラメータ｛α｝とに基づいて、上記式（１３）に従って、γｄｋを更新する。
【０１７３】
ステップＳ２１０において、パラメータ推定部２６は、上記ステップＳ２０４〜ステップＳ２０８の処理が収束したか否かを判定する。処理が収束した場合には、ステップＳ２１２へ進む。一方、処理が収束していない場合には、ステップＳ２０４へ戻る。
【０１７４】
ステップＳ２１２において、パラメータ推定部２６は、各評価対象ＩＤｉについて、上記ステップＳ１００で初期化されたモデルパラメータ｛μ，Σ，σ１，σ２｝又は後述するステップＳ１０４で前回更新されたモデルパラメータ｛μ，Σ，σ１，σ２｝と、上記ステップＳ１００で初期化された変分パラメータ｛β｝又は後述するステップＳ２１４で前回更新された変分パラメータ｛β｝と、レビューデータベース２２に格納された学習用レビューｄの全体評価値ｒｄａｌｌとに基づいて、上記式（９）に基づいて、変分パラメータηｉを更新する。
【０１７５】
ステップＳ２１４において、パラメータ推定部２６は、各評価対象ＩＤｉ及び各様相ＩＤｋについて、上記ステップＳ２１２で更新された変分パラメータ｛η｝と、上記ステップＳ１００で初期化されたモデルパラメータ｛σ１，σ３｝又は後述するステップＳ１０４で前回更新されたモデルパラメータ｛σ１，σ３｝と、レビューデータベース２２に格納された学習用レビューｄの全体評価値ｒｄａｌｌ及び学習用レビューｄの様相ごとの様相評価値ｒｄｋとに基づいて、上記式（１１）に従って、変分パラメータβｉｋを更新する。
【０１７６】
ステップＳ２１６において、パラメータ推定部２６は、上記ステップＳ２１２〜ステップＳ２１４の処理が収束したか否かを判定する。処理が収束した場合には、ステップＳ２１８へ進む。一方、処理が収束していない場合には、ステップＳ２１２へ戻る。
【０１７７】
ステップＳ２１８において、上記ステップＳ２００〜ステップＳ２０８及びステップＳ２１２〜ステップＳ２１４で更新された変分パラメータを結果として出力して、Ｅ−ｓｔｅｐ処理ルーチンを終了する。
【０１７８】
次にパラメータ推定処理ルーチンに戻り、ステップＳ１０４において、上記ステップＳ１０２で出力された変分パラメータΦと、レビューデータベース２２に格納された複数の学習用レビューｄとに基づいて、モデルパラメータΥを推定する。ステップＳ２０２は、図７に示すＭ−ｓｔｅｐ処理ルーチンによって実現される。
【０１７９】
＜Ｍ−ｓｔｅｐ処理ルーチン＞
ステップＳ３００において、パラメータ推定部２６は、上記ステップＳ１０２で更新された変分パラメータ
【０１８０】
【数５３】
2016207171.tif 000055
【０１８１】
と、レビューデータベース２２に格納された複数の学習用レビューｄとに基づいて、上記式（１５）及び（１６）に従って、モデルパラメータ｛φ，ψ｝を更新する。
【０１８２】
ステップＳ３０２において、パラメータ推定部２６は、上記ステップＳ１０２で更新された変分パラメータ｛γ｝と、レビューデータベース２２に格納された複数の学習用レビューｄとに基づいて、上記式（１７）及び（１８）に従って、モデルパラメータ｛α｝を推定する。
【０１８３】
ステップＳ３０４において、パラメータ推定部２６は、上記ステップＳ１０２で出力された変分パラメータΦと、レビューデータベース２２に格納された複数の学習用レビューｄとに基づいて、上記式（１９）〜（２３）に従って、｛μ，Σ，σ１，σ２，σ３｝を更新する。
【０１８４】
ステップＳ３０６において、上記ステップＳ３００〜ステップＳ３０４で更新されたモデルパラメータΥを結果として出力して、Ｍ−ｓｔｅｐ処理ルーチンを終了する。
【０１８５】
次にパラメータ推定処理ルーチンに戻り、パラメータ推定部２６は、ステップＳ１０６において、上記ステップＳ１０２〜ステップＳ１０４の処理が収束したか否かを判定する。上記ステップＳ１０２〜ステップＳ１０４の処理が収束した場合には、ステップＳ１０８へ進む。一方、上記ステップＳ１０２〜ステップＳ１０４の処理が収束していない場合には、ステップＳ１０２へ戻る。
【０１８６】
ステップＳ１０８において、パラメータ推定部２６は、上記ステップＳ１０２〜ステップＳ１０４の処理で得られたモデルパラメータΥをモデルパラメータ記憶部３０に格納して、パラメータ推定処理ルーチンを終了する。
【０１８７】
＜評価値推定装置の作用＞
次に、本実施の形態に係る音響信号分析装置の作用について説明する。まず、パラメータ推定装置１００のモデルパラメータ記憶部３０に記憶されているモデルパラメータΥが、評価値推定装置２００に入力されると、モデルパラメータ記憶部５０に格納される。そして、評価値推定対象のレビューが評価値推定装置２００に入力されると図８に示す評価値推定処理ルーチンが実行される。
【０１８８】
ステップＳ４００において、入力部４０は、評価対象Ｅiに関するレビューを受け付ける。
【０１８９】
ステップＳ４０２において、モデルパラメータ記憶部５０に記憶されたモデルパラメータΥを読み込む。
【０１９０】
ステップＳ４０４において、評価値推定部６２は、上記ステップＳ４００で受け付けたレビューと、上記ステップＳ４０２で読み込まれたモデルパラメータΥとに基づいて、上記式（２６）〜（２９）に従って、レビューの評価対象に対する総合評価値ｒａｌｌｄ、レビューの評価対象の各様相に対する様相評価値ｒｄｋ、評価対象Ｅｉに対する全体総合評価値Ｒａｌｌｉ、及び評価対象Ｅｉの各様相ｋに対する様相総合評価値Ｒｉｋを推定する。
【０１９１】
ステップＳ４０６において、評価値推定部６２は、上記ステップＳ４０４の処理が収束したか否かを判定する。上記ステップＳ４０４の処理が収束した場合には、ステップＳ４０８へ進む。一方、上記ステップＳ４０４の処理が収束していない場合には、ステップＳ４０４へ戻る。
【０１９２】
ステップＳ４０８において、上記ステップＳ４０４で推定された評価値を結果として出力して、評価値推定処理ルーチンを終了する。
【０１９３】
＜実施例＞
［データ］
本発明の実施の形態を、評価対象をホテルとするレビューデータに適用した。このレビューデータでは、各ホテルに対して全体評価値に加え、サービス、清潔さ、場所、等の７つの様相に対して１点から５点の様相評価値が付けられている。
【０１９４】
［実験設定］
（様相の同定）
約３００語のキーワードをブートストラップ法によって選択し、選択されたキーワードをＬＤＡモデルを学習させるための事前知識とした。トピックモデルの学習によって得られたトピックは各様相の内容を記述できると考えることができる。
【０１９５】
そして、ＫＬダイバージェンスを用いて、トピックモデルによって学習された各様相と、真の様相との分布間距離を測った。
【０１９６】
図９に、学習された様相と真の様相との間のＫＬダイバージェンスについての実験結果を表す。本実施の形態から得られた結果と、事前知識なしのＬＤＡ（上記非特許文献１)、ｓＬＤＡ（非特許文献３）、Ｌｏｃａｌ−ＬＤＡ（上記非特許文献２）から得られた結果とを比較したところ、本実施の形態のモデルはＬＤＡやｓＬＤＡより真の様相との距離が近く、Ｌｏｃａｌ−ＬＤＡと同等であるという結果が得られた。
【０１９７】
（評価値推定）
本発明の実施の形態による評価値推定の性能評価を行った。なお、レビューデータで定義されている様相と自動的に学習される様相とが対応するようにするため、キーワードを事前知識として利用した。評価尺度としては、推定した評価値と実際の評価値との間の平均二乗誤差（ＭＳＥ）、Mean Average Precision（ＭＡＰＮ）、情報検索の評価によく使われるＮＤＣＫＮの３つの指標を用いた。
【０１９８】
図１０に、実験から得られた評価値の推定精度を表す。図１０に示すように、本発明の実施の形態と、ＬＤＡ、ｓＬＤＡ、Ｂｏｏｔｓｔｒａｐ、ＬｏｃａｌＬＤＡとを比較した結果、本発明の実施の形態は、対象全体の評価値、様相ごとの評価値のいずれでも他手法より優れた推定精度を示した。
【０１９９】
以上説明したように、本発明の実施の形態に係るパラメータ推定装置によれば、複数の学習用レビューに基づいて、評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値とが評価対象に対する全体総合評価値に依存し、学習用レビューの各様相の様相評価値が評価対象に対する各様相の様相総合評価値と学習用レビューの全体評価値に依存して、各様相についての、様相が割り当てられたレビュー文で出現する各単語の分布を表すパラメータと、各様相及び各評価値についての、様相が割り当てられ、かつ、様相の様相評価値が評価値となるレビュー文で出現する各単語の分布を表すパラメータとが算出されることを表すトピックモデルに従って、モデルパラメータを推定することにより、レビューの評価値を精度よく推定するためパラメータを得ることができる。
【０２００】
また、本発明の実施の形態に係る評価値推定装置によれば、評価対象に関するレビュー
と、本発明の実施の形態に係るパラメータ推定装置によって推定されたモデルパラメータとに基づいて、レビューの評価対象に対する全体評価値、及びレビューの評価対象の各様相に対する様相評価値を推定することにより、レビューの評価対象に対する評価値を精度よく推定することができる。
【０２０１】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０２０２】
例えば、上記実施の形態では、パラメータ推定装置１００と評価値推定装置２００とを別々の装置として構成する場合を例に説明したが、パラメータ推定装置１００と評価値推定装置２００を１つの装置として構成してもよい。
【０２０３】
また、上述のパラメータ推定装置１００及び評価値推定装置２００は、内部にコンピュータシステムを有しているが、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
【０２０４】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【０２０５】
１０   推定用入力部
２０   推定用演算部
２２   レビューデータベース
２４   初期化部
２６   パラメータ推定部
３０   モデルパラメータ記憶部
４０   入力部
５０   モデルパラメータ記憶部
６０   演算部
６２   評価値推定部
７０   出力部
１００ パラメータ推定装置
２００ 評価値推定装置
【図３】
2016207171.tif 000056
【図４】
2016207171.tif 000057
【図５】
2016207171.tif 000058
【図６】
2016207171.tif 000059
【図７】
2016207171.tif 000060
【図８】
2016207171.tif 000061
【図１】
2016207171.tif 000062
【図２】
2016207171.tif 000063
【図９】
2016207171.tif 000064
【図１０】
2016207171.tif 000065