(57)【要約】【課題】プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定するための推定モデルを得ることができるようにする。【解決手段】学習用単語表記素性作成部２２によって、複数の学習用ユーザによって作成された学習用文書の各々について、学習用文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成する。関係学習部２３によって、複数の学習用ユーザの各々に対して予め与えられた教師データと、学習用単語表記素性作成部によって学習用文書の各々について作成された単語表記素性とに基づいて、マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習する。【選択図】図１
2014219871.tif 000002
【特許請求の範囲】
【請求項１】
複数の学習用ユーザによって作成された学習用文書の各々について、前記学習用文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成する学習用単語表記素性作成部と、
前記複数の学習用ユーザの各々に対して予め与えられた複数のプロフィール属性の各々についての属性値である教師データと、前記学習用単語表記素性作成部によって前記学習用文書の各々について作成された前記単語表記素性とに基づいて、前記単語表記素性を示す観測述語及び前記プロフィール属性の属性値を示す潜在述語を用いて前記観測述語と前記潜在述語との間各々の関係及び前記潜在述語間の各々の関係が記述された各論理式を用いて構築されるマルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）における各論理式の重みを用いて、前記マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習する学習部と、
を含むプロフィール推定モデル学習装置。
【請求項２】
推定対象のユーザによって作成された文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成する単語表記素性作成部と、
請求項１記載のプロフィール推定モデル学習装置によって学習された推定モデルに基づいて、前記単語表記素性作成部によって作成された単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定することにより、前記推定対象のユーザの前記プロフィール属性の属性値を推定する推定部と、
を含むプロフィール推定装置。
【請求項３】
前記複数のプロフィール属性は、性別、年代、職業、居住地、既婚であるか未婚であるか、飲酒の有無、及び喫煙の有無であって、
前記潜在述語間の各々の関係が記述された論理式は、
年代の属性値と職業の属性値との間の関係が記述された論理式、年代の属性値と飲酒の有無の属性値との間の関係が記述された論理式、年代の属性値と既婚であるか未婚であるかの属性値との間の関係が記述された論理式、職業の属性値と既婚であるか未婚であるかの属性値との間の関係が記述された論理式、性別の属性値と飲酒の有無の属性値との間の関係が記述された論理式、及び飲酒の有無の属性値と喫煙の有無の属性値との間の関係が記述された論理式である請求項１記載のプロフィール推定モデル学習装置。
【請求項４】
学習用単語表記素性作成部、及び学習部を含むプロフィール推定モデル学習装置におけるプロフィール推定モデル学習方法であって、
前記学習用単語表記素性作成部によって、複数の学習用ユーザによって作成された学習用文書の各々について、前記学習用文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成するステップと、
前記学習部によって、前記複数の学習用ユーザの各々に対して予め与えられた複数のプロフィール属性の各々についての属性値である教師データと、前記学習用単語表記素性作成部によって前記学習用文書の各々について作成された前記単語表記素性とに基づいて、前記単語表記素性を示す観測述語及び前記プロフィール属性の属性値を示す潜在述語を用いて前記観測述語と前記潜在述語との間各々の関係及び前記潜在述語間の各々の関係が記述された各論理式を用いて構築されるマルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）における各論理式の重みを用いて、前記マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習するステップと、
を含むプロフィール推定モデル学習方法。
【請求項５】
単語表記素性作成部、及び推定部を含むプロフィール推定装置におけるプロフィール推定方法であって、
前記単語表記素性作成部によって、推定対象のユーザによって作成された文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成するステップと、
前記推定部によって、請求項４記載のプロフィール推定モデル学習方法によって学習された推定モデルに基づいて、前記単語表記素性作成部によって作成された単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定することにより、前記推定対象のユーザの前記プロフィール属性の属性値を推定するステップと、
を含むプロフィール推定方法。
【請求項６】
前記複数のプロフィール属性は、性別、年代、職業、居住地、既婚であるか未婚であるか、飲酒の有無、及び喫煙の有無であって、
前記潜在述語間の各々の関係が記述された論理式は、
年代の属性値と職業の属性値との間の関係が記述された論理式、年代の属性値と飲酒の有無の属性値との間の関係が記述された論理式、年代の属性値と既婚であるか未婚であるかの属性値との間の関係が記述された論理式、職業の属性値と既婚であるか未婚であるかの属性値との間の関係が記述された論理式、性別の属性値と飲酒の有無の属性値との間の関係が記述された論理式、及び飲酒の有無の属性値と喫煙の有無の属性値との間の関係が記述された論理式である請求項４記載のプロフィール推定モデル学習方法。
【請求項７】
コンピュータを、請求項１又は３記載のプロフィール推定モデル学習装置、あるいは請求項２記載のプロフィール推定装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザのプロフィールを推定するためのプロフィール推定モデル学習装置、プロフィール推定装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
従来、ユーザが書いたテキスト（文書）からそのユーザのプロフィールを推定する技術が知られている。この技術は、図６に示すように、テキスト中の単語表記を手がかりに機械学習で構築した分類モデルを用いて各ユーザのプロフィールを推定するというシステムである（非特許文献１、２参照）。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】池田和史、他４名，「マーケット分析のためのＴｗｉｔｔｅｒ投稿者プロフィール推定」，情報処理学会論文誌，２０１２年３月，ｐ．８２−９３
【非特許文献２】大倉務、他２名，「スケーラブルで汎用的なブログ著者推定手法」，社団法人情報処理学会研究報告，２００７年９月
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかし、従来手法では、上記図６に示すように、男・女を推定する分類モデルと、既婚・未婚を推定する分類モデルとは独立に構築されており、各推定結果に整合性がない結果が出力されることがある。例えば、職業＝主婦にも関わらず、結婚＝未婚となってしまったり、職業＝学生にも関わらず、年齢＝３０代となってしまったりする。これらの例は必ずしもそうとは言えないが、多くの場合で成り立たないと考えられる。
【０００５】
また、従来手法では、居住地や年齢、職業などの候補数が多いプロフィールに対しては推定精度が低い。
【０００６】
本発明は、上記の事情に鑑みてなされたもので、プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定するための推定モデルを得ることができるプロフィール推定モデル学習装置、方法、及びプログラムを提供することを目的とする。
また、プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定することができるプロフィール推定装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するために、本発明のプロフィール推定モデル学習装置は、複数の学習用ユーザによって作成された学習用文書の各々について、前記学習用文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成する学習用単語表記素性作成部と、前記複数の学習用ユーザの各々に対して予め与えられた複数のプロフィール属性の各々についての属性値である教師データと、前記学習用単語表記素性作成部によって前記学習用文書の各々について作成された前記単語表記素性とに基づいて、前記単語表記素性を示す観測述語及び前記プロフィール属性の属性値を示す潜在述語を用いて前記観測述語と前記潜在述語との間各々の関係及び前記潜在述語間の各々の関係が記述された各論理式を用いて構築されるマルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）における各論理式の重みを用いて、前記マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習する学習部と、を備えている。
【０００８】
本発明のプロフィール推定モデル学習方法は、学習用単語表記素性作成部、及び学習部を含むプロフィール推定モデル学習装置におけるプロフィール推定モデル学習方法であって、前記学習用単語表記素性作成部によって、複数の学習用ユーザによって作成された学習用文書の各々について、前記学習用文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成するステップと、前記学習部によって、前記複数の学習用ユーザの各々に対して予め与えられた複数のプロフィール属性の各々についての属性値である教師データと、前記学習用単語表記素性作成部によって前記学習用文書の各々について作成された前記単語表記素性とに基づいて、前記単語表記素性を示す観測述語及び前記プロフィール属性の属性値を示す潜在述語を用いて前記観測述語と前記潜在述語との間各々の関係及び前記潜在述語間の各々の関係が記述された各論理式を用いて構築されるマルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）における各論理式の重みを用いて、前記マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習するステップと、を含む。
【０００９】
本発明のプロフィール推定装置は、推定対象のユーザによって作成された文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成する単語表記素性作成部と、上記のプロフィール推定モデル学習装置によって学習された推定モデルに基づいて、前記単語表記素性作成部によって作成された単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定することにより、前記推定対象のユーザの前記プロフィール属性の属性値を推定する推定部と、を備えている。
【００１０】
本発明のプロフィール推定方法は、単語表記素性作成部、及び推定部を含むプロフィール推定装置におけるプロフィール推定方法であって、前記単語表記素性作成部によって、推定対象のユーザによって作成された文書に含まれる単語に基づいて、単語表記の特徴を示す単語表記素性を作成するステップと、前記推定部によって、上記のプロフィール推定モデル学習方法によって学習された推定モデルに基づいて、前記単語表記素性作成部によって作成された単語表記素性を示す観測述語に対して尤もらしい、前記推定対象のユーザの前記プロフィール属性の属性値を示す潜在述語を推定することにより、前記推定対象のユーザの前記プロフィール属性の属性値を推定するステップと、を含む。
【００１１】
本発明の複数のプロフィール属性は、性別、年代、職業、居住地、既婚であるか未婚であるか、飲酒の有無、及び喫煙の有無であって、前記潜在述語間の各々の関係が記述された論理式は、年代の属性値と職業の属性値との間の関係が記述された論理式、年代の属性値と飲酒の有無の属性値との間の関係が記述された論理式、年代の属性値と既婚であるか未婚であるかの属性値との間の関係が記述された論理式、職業の属性値と既婚であるか未婚であるかの属性値との間の関係が記述された論理式、性別の属性値と飲酒の有無の属性値との間の関係が記述された論理式、及び飲酒の有無の属性値と喫煙の有無の属性値との間の関係が記述された論理式であるようにすることができる。
【００１２】
本発明に係るプログラムは、コンピュータを、本発明に係るプロフィール推定モデル学習装置、あるいは本発明に係るプロフィール推定装置の各手段として機能させるためのプログラムである。
【発明の効果】
【００１３】
以上説明したように、本発明のプロフィール推定モデル学習装置、方法、及びプログラムによれば、複数の学習用ユーザの各々に対して予め与えられた教師データと、学習用文書の各々について作成された単語表記素性とに基づいて、マルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）における各論理式の重みを用いて、マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習することにより、プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定するための推定モデルを得ることができる、という効果が得られる。
【００１４】
また、本発明のプロフィール推定装置、方法、及びプログラムによれば、マルコフ論理ネットワークにより、単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定し、推定対象のユーザのプロフィール属性の属性値を推定することにより、プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定することができる、という効果が得られる。
【図面の簡単な説明】
【００１５】
【図１】本発明の実施の形態に係るプロフィール推定モデル学習装置の構成の一例を示す図である。
【図２】マルコフ論理ネットワークの構造を説明するための概念図である。
【図３】本発明の実施の形態に係るプロフィール推定装置の構成の一例を示す図である。
【図４】本発明の実施の形態に係るプロフィール推定モデル学習処理ルーチンのフローチャートの一例である。
【図５】本発明の実施の形態に係るプロフィール推定処理ルーチンのフローチャートの一例である。
【図６】従来技術を説明するための図である。
【発明を実施するための形態】
【００１６】
＜概要＞
まず、本発明の実施の形態の概要について説明する。
【００１７】
本発明の実施の形態は、ユーザが作成した１つ以上の文書（テキスト）から、そのユーザの性別、年齢、居住地、職業、既婚・未婚などのプロフィールを推定する技術に関するものである。例えば、Ａさんが投稿したブログやツイートデータ中に「旦那」「娘」などの単語があれば、Ａさんは「女性」「既婚」であることが推定される。
【００１８】
推定対象のプロフィールに関する属性間には何らかの依存関係が存在する。例えば、職業＝主婦ならば、ほとんどの場合、結婚＝既婚となるし、年齢＝１０代ならば職業＝学生となる。逆に、職業＝学生ならば、年齢＝４０代にはなることは少ない。
【００１９】
従来の手法では、プロフィールの属性毎に推定モデル（分類モデル）を構築していたため、上記のプロフィールの属性間の関係を利用することはできなかった。
【００２０】
そこで、本実施の形態では、各プロフィールの属性間の関係を利用する方法として、統計的な変量の間にある全体的（大域的）な相互関係を協調しながら学習する統計的関係学習手法を利用する。従来手法においても、職業＝主婦のユーザと、結婚＝未婚のユーザが同じであるならば、学習データが同じになるので、関係性を考慮することの利点はないが、一方が他方の部分集合になっている場合は、学習されるモデルのパラメータが変わるため、整合性と精度向上の効果を期待することができる。
【００２１】
＜プロフィール推定モデル学習装置のシステム構成＞
以下、図面を参照して本発明の実施の形態を詳細に説明する。図１は、本実施の形態に係るプロフィール推定モデル学習装置の構成の一例を示す図である。
【００２２】
本実施の形態に係るプロフィール推定モデル学習装置１０は、ＣＰＵと、ＲＡＭと、後述するプロフィール推定モデル学習処理ルーチンを実行するためのプログラム及び各種データを記憶したＲＯＭとを備えたコンピュータで構成されている。また、記憶手段としてＨＤＤを設けてもよい。
【００２３】
このコンピュータは、機能的には、図１に示すように、学習用入力部１、学習用演算部２、及び推定モデル記憶部３を含んだ構成で表わすことができる。
【００２４】
学習用入力部１は、複数の学習用ユーザによって作成された学習用文書からなる学習用文書集合の入力を受け付ける。各学習用文書には、当該学習用文書の学習用ユーザについて人手でプロフィールを判断した情報が教師データとして付与されている。ここで、教師データは、学習用ユーザに対して予め与えられた複数のプロフィール属性の各々についての属性値である。例えば、プロフィール属性「性別」に対して、「男性」がプロフィール属性の属性値に該当する。また、学習用入力部１に入力される文書は、ｂｌｏｇ（ｍｉｃｒｏｂｌｏｇを含む)、レビュー記事など、日本語の文書である。
【００２５】
なお、入力される文書集合の各文書は形態素解析済みであってもよく、この場合には、後述する学習用形態素解析部２１を省略することができる。
【００２６】
学習用演算部２は、学習用文書データベース２０と、学習用形態素解析部２１と、学習用単語表記素性作成部２２と、関係学習部２３とを備えている。なお、関係学習部２３は、学習部の一例である。
【００２７】
学習用文書データベース２０には、学習用入力部１により入力を受け付けた学習用文書集合が格納される。
【００２８】
学習用形態素解析部２１は、周知の形態素解析技術によって、学習用入力部１により入力された文書集合の各文書を単語に区切り、各単語を出力する。例えば、学習用入力部１により入力された文書が「旦那と娘と買い物中」の場合、単語「旦那」、「と」、「娘」、「と」、「買い物」、「中」が出力される。
【００２９】
学習用単語表記素性作成部２２は、学習用文書データベース２０に格納された学習用文書の各々について、学習用形態素解析部２１により出力された当該学習用文書の各単語に基づいて、単語表記の特徴を示す素性である単語表記素性を作成する。具体的には、学習用形態素解析部２１によって出力された各単語に基づいて、単語表記の出現数をカウントし、単語表記素性として出力する。例えば、学習用文書について「旦那」「と」「娘」「と」「買い物」「中」が学習用形態素解析部２１で出力された場合、単語表記の出現数「旦那：１」「と:２」「娘:１」「買い物:１」「中:１」が単語表記素性として出力される。
【００３０】
関係学習部２３は、複数の学習用ユーザの各々に対して予め与えられた教師データと、学習用単語表記素性作成部２２によって学習用文書の各々について作成された単語表記素性とに基づいて、周知の技術である統計的関係学習手法によって、推定対象のユーザのプロフィールを推定するための推定モデルを学習する。
【００３１】
ここで、統計的関係学習手法は、統計的な変量の間にある全体的（大域的）な相互関係を協調しながら学習するものであれば何でもよい。例として、マルコフ論理ネットワーク（参考文献１（Matthew Richardson and Pedro Domingos、「Markov logic networks」、Machine Learning,Vol.62,No. 1-2、2006、p107−136）と参考文献２（吉川克正、浅原正幸、松本裕治、「Markov Logic による日本語述語項構造解析」、情報学会研究報告、2010）とを参照）が存在する。本実施の形態では、マルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）を用いて、推定モデルを作成する。
【００３２】
マルコフ論理ネットワークでは、二律背反の絶対的な制約をモデル化するｈａｒｄと実数値で選好性が与えられる制約をモデル化するｓｏｆｔの２種類の全体制約を利用することができるという利点がある。また、ｈａｒｄな制約かｓｏｆｔな制約かは指定する必要はなく、学習データから自動的に学習される。例えば、推定対象のユーザについて、年齢＝１５歳以下で、結婚＝未婚というｈａｒｄな制約と、職業＝主婦ならば、ほとんどの場合、結婚＝既婚といったｓｏｆｔな制約が同時に実現できる利点がある。
【００３３】
図２（Ａ）にマルコフ論理ネットワークの構造を説明するための概念図を示す。図２（Ａ）に示す各ノードが、述語（潜在述語を含む）に対応する。ここで、ノード内に「」が記載されているノードが観測述語に対応し、それ以外のノードが潜在述語に対応する。ノードとノード間のエッジとが論理式に対応する。
【００３４】
また、図２（Ｂ−１）に示すような論理式「主婦ならば女性である」について、例えば、重みｗ１＝３．０が与えられ、論理式「女性ならば主婦である」について、例えば、重みｗ２＝０．５が与えられている。
【００３５】
また、図２（Ｂ−２）に示すような、潜在述語と観測述語との間の関係を示す論理式「「旦那」という素性が得られたならば主婦である」について、例えば、重みｗ３＝１．５が与えられている。
【００３６】
具体的には、関係学習部２３は、学習用文書の各々についての教師データと単語表記素性とに基づいて、マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習する。
【００３７】
ここで、マルコフ論理ネットワークは、各単語表記素性を示す観測述語及び各プロフィール属性の各属性値を示す潜在述語を用いて観測述語と潜在述語との間各々の関係及び潜在述語間の各々の関係が記述された各論理式を用いて構築される。関係学習部２３は、マルコフ論理ネットワークにおける各論理式の重みを学習する。なお、各論理式は、各学習用文書について作成される単語表記素性と各学習用文書の教師データとに基づいて作成される。あるいは、観測述語と潜在述語とのあらゆる組み合わせ、及び潜在述語間のあらゆる組み合わせについて論理式を各々作成してもよい。
【００３８】
より具体的には、関係学習部２３は、各学習用ユーザに関する観測述語（単語表記素性）について行われた推論結果が、正解データとして与えられた述語の集合（教師データに基づく潜在述語を含む）に近づくように、各論理式の重みが決定される。ここで学習された論理式の重みの集合が推定モデルとなり、重みの集合を表わす推定モデルが、推定モデル記憶部３に記憶される。
【００３９】
マルコフ論理ネットワークの学習について簡単に説明する。マルコフ論理ネットワークは、述語の集合Ｘに対してある確率を示すスコアを与える。このスコアを最大化する述語の集合（潜在述語を含む）が、マルコフ論理ネットワークにおける推論結果となる。論理式には、違反を許容する重み付きの論理式と、違反を許容しない論理式を混在させることができ、制約を表わす論理式は、違反を許容しない論理式として記述される。
【００４０】
述語の集合Ｘに対するスコアは、述語を論理式中の変数に代入することで成立する(真となる)論理すべてについて重みの和をとり、exponentialを取り、正規化したものである。例えば、以下の（１）式で表される。
【００４１】
【数１】
2014219871.tif 000003
【００４２】
上記（１）式に従って、あるユーザについての述語の集合Ｘに対して、スコアｐ（Ｘ）が算出される。ここで、Ｚは正規化のための定数であり、ｗｉがｉ番目の論理式に対応する重みである。ｎｉは、ある述語の集合Ｘ上で真をとる論理式のカウント数である。
関係学習部２３によるマルコフ論理ネットワークの学習では、学習用ユーザｕ毎の述語の集合Ｘu（学習用ユーザｕに関する観測述語と潜在述語との集合）に対して算出されるスコアｐ（Ｘ）の合計が最大となるように、マルコフ論理ネットワークの各論理式の重みが学習される。
【００４３】
マルコフ論理ネットワークにおける重みの学習には条件付確率尤度の計算が必要である。本実施の形態の例では、パーセプトロンをはじめとするオンライン学習を利用した重みの推定を行った。
【００４４】
推定モデル記憶部３には、関係学習部２３によって学習された推定モデルが記憶される。
【００４５】
＜プロフィール推定装置のシステム構成＞
図３は、本発明の実施の形態に係るプロフィール推定装置１００を示すブロック図である。このプロフィール推定装置１００は、ＣＰＵと、ＲＡＭと、後述するプロフィール推定処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
【００４６】
本実施の形態に係るプロフィール推定装置１００は、図３に示すように、入力部４と、推定モデル記憶部５と、演算部６と、出力部７とを備えている。
【００４７】
入力部４は、プロフィール推定対象のユーザによって作成された文書の入力を受け付ける。ここで、入力部４に入力される文書は、ｂｌｏｇ（ｍｉｃｒｏｂｌｏｇを含む)、レビュー記事など、日本語の文書である。また、入力部４は、プロフィール推定対象のユーザが作成した複数の文書の入力を受け付けてもよい。
【００４８】
なお、入力される文書は形態素解析済みであってもよく、この場合には、後述する形態素解析部６０を省略することができる。
【００４９】
推定モデル記憶部５には、上記プロフィール推定モデル学習装置１０の推定モデル記憶部３に記憶されている推定モデルと同じ推定モデルが記憶される。
【００５０】
形態素解析部６０は、周知の形態素解析技術によって、入力部４により入力された文書を単語に区切り、各単語を出力する。例えば、入力部４により入力された文書が「旦那と娘と買い物中」の場合、単語「旦那」、「と」、「娘」、「と」、「買い物」、「中」が出力される。
【００５１】
単語表記素性作成部６１は、形態素解析部６０で出力された単語に基づいて、学習用単語表記素性作成部２２と同様に、入力された文書についての単語表記の特徴を示す素性である単語表記素性を作成する。
【００５２】
推定部６２は、推定モデル記憶部５に記憶されている予め学習された推定モデルに基づいて、単語表記素性作成部６１によって作成された単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定することにより、各プロフィール属性の属性値を推定する。学習された推定モデルを利用したマルコフ論理ネットワークによる推定により、複数のプロフィール属性の属性値の関係性（整合性）に合うように、各プロフィール属性の属性値が推定される。
【００５３】
統計的関係学習手法にマルコフ論理ネットワークを用いた場合、推定は最大事後確率(ＭＡＰ) 推定問題となる。述語の集合について算出されるスコアｐ（Ｘ）に基づいて、ＭＡＰ推定を用いて、スコアが最大となるときの述語の集合を推定し、潜在述語を推定する。このＭＡＰ推定を正確かつ効率的に行うために、Cutting Plane Inferenceを利用してもよい。ＣＰＩはまず、base solverを用意しておき、考慮すべき一部の論理式の集合に対して、そのbase solverを適用してＭＡＰ推定問題を解く。その上で、まだ考慮していない論理式のうち、考慮すべき論理式を選択的に追加しながらＭＡＰ推定を繰り返すことで、効率よく全体最適解を得る推論アルゴリズムである。Base solverとしては、整数線形計画法（ＩＬＰ）がある。
【００５４】
出力部７は、推定部６２により推定された推定対象のユーザのプロフィール属性の属性値の各々を、推定結果として出力する。
【００５５】
＜プロフィール推定モデル学習装置１０の動作＞
次に、本実施の形態に係るプロフィール推定モデル学習装置１０の作用について説明する。まず、学習用文書としての複数のユーザによって作成された複数の文書である学習用文書集合、及び当該複数のユーザについて教師データとして予め与えられた各プロフィール属性の属性値が、プロフィール推定モデル学習装置１０に入力されると、プロフィール推定モデル学習装置１０によって、入力された学習用文書集合及び教師データが、学習用文書データベース２０へ格納される。そして、プロフィール推定モデル学習装置１０によって、図４に示すプロフィール推定モデル学習処理ルーチンが実行される。
【００５６】
まず、ステップＳ１００において、学習用文書データベース２０から１つの学習用文書を取り出す。
【００５７】
そして、ステップＳ１０２において、学習用形態素解析部２１によって、上記ステップＳ１００において取り出された学習用文書に対して形態素解析処理を行い、学習用文書を単語に区切り、各単語を出力する。
【００５８】
ステップＳ１０４において、学習用単語表記素性作成部２２によって、上記ステップＳ１０２で出力された各単語に基づいて、単語表記素性を作成する。具体的には、各単語表記の出現数をカウントし、各単語表記の出現数を単語表記素性とし、学習データとしてメモリ（図示省略）に記憶する。
【００５９】
ステップＳ１０６において、学習用文書データベース２０に格納されている全ての学習用文書について、上記ステップＳ１００〜Ｓ１０４の処理を実行したか否かを判定する。そして、上記ステップＳ１００〜Ｓ１０４の処理を実行していない学習用文書が存在する場合には、上記ステップＳ１００へ戻り、当該学習用文書を取り出す。一方、全ての学習用文書について、上記ステップＳ１００〜Ｓ１０４の処理を実行した場合には、ステップＳ１０８へ進む。
【００６０】
ステップＳ１０８において、関係学習部２３によって、上記ステップＳ１００において取り出された学習用文書の各々についての、上記ステップＳ１０４で作成された単語表記素性と、当該学習用文書を作成したユーザについての教師データとして与えられた各プロフィール属性の属性値とに基づいて、マルコフ論理ネットワークによって、推定対象のユーザの各プロフィール属性を推定するための推定モデルを学習する。
【００６１】
そして、ステップＳ１１０において、関係学習部２３によって、上記ステップＳ１０８で学習された推定モデルを、推定モデル記憶部３に格納して、プロフィール推定モデル学習処理ルーチンを終了する。
【００６２】
＜プロフィール推定装置１００の動作＞
次に、本実施の形態に係るプロフィール推定装置１００の作用について説明する。まず、プロフィール推定モデル学習装置１０の推定モデル記憶部３に記憶されている推定モデルが、プロフィール推定装置１００に入力されると、推定モデル記憶部５に推定モデルが格納される。そして、プロフィール推定対象のユーザによって作成された文書がプロフィール推定装置１００に入力されると、プロフィール推定装置１００によって、図５に示すプロフィール推定処理ルーチンが実行される。
【００６３】
まず、ステップＳ２００において、入力部４によって、プロフィール推定対象のユーザによって作成された文書の入力を受け付ける。
【００６４】
ステップＳ２０２において、形態素解析部６０によって、上記ステップＳ２００で入力を受け付けた文書に対して形態素解析処理を行い、当該文書を単語に区切り、各単語を出力する。
【００６５】
ステップＳ２０４において、単語表記素性作成部６１によって、上記ステップＳ２０２で出力された単語に基づいて、上記ステップＳ２００で入力を受け付けた文書についての単語表記素性を作成する。
【００６６】
ステップＳ２０６において、推定部６２によって、推定モデル記憶部５に記憶されている推定モデルに基づいて、マルコフ論理ネットワークを用いて、上記ステップＳ２０４で作成された単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザの各プロフィール属性の属性値を示す潜在述語を推定することにより、各プロフィール属性の属性値を推定する。このとき、ＭＡＰ推定により、上記（１）式で算出されるスコアｐ（Ｘ）が最大となるときの、上記ステップＳ２０４で作成された単語表記素性を示す観測述語を含む述語の集合Ｘに含まれる、潜在述語の組み合わせを求めることにより、推定対象のユーザの各プロフィール属性の属性値を示す潜在述語を推定する。
【００６７】
ステップＳ２０８において、出力部７によって、上記ステップＳ２０６で推定された推定対象のユーザのプロフィール属性の属性値の各々を推定結果として出力して、プロフィール推定処理ルーチンを終了する。
【００６８】
＜実験結果＞
推定対象のユーザの書いた文書から、推定対象のユーザのプロフィール属性を推定するタスクにおいて、観測述語と潜在述語との間の関係を記述した局所論理式だけを利用する局所モデルと、潜在述語間の関係を記述した大域論理式も利用する大域モデルとを比較し、本実施の形態の有効性を検証した。上述の本実施の形態は、この大域論理式も利用する大域モデルである。学習と推論に関してはマルコフ論理ネットワークエンジンであるMarkov thebeastを利用した。
【００６９】
［実験データ］
本実験では、ツイートデータを用いて、推定対象のユーザが投稿した直近の１５０ツイート（１日５ツイート×３０日を想定）および自己紹介文を入力の文書として、推定対象のユーザの性別・年代・職業・居住域・既婚／未婚・飲酒の有無・喫煙の有無の７つの属性を推定する。実験に際して、ツイートをしている１，４９０の推定対象のユーザに対して上記７項目のアンケートを実施した。アンケートは各属性に用意された選択肢から１つを選択するものである。選択肢の作成に当たっては上記非特許文献１や一般的な市場調査を参考にした。各プロフィール属性の属性値（選択肢）は、性別が２個、年代が４個、職業が１０個、居住域が７個、既婚／未婚が２個、飲酒の有無が２個、喫煙の有無が２個である。アンケートに回答した１，４９０の推定対象のユーザのツイートデータを入力の文書とし、アンケート回答結果を正しく推定できるか評価した。なお実験は５分交差検定で実施した。
【００７０】
［実験結果］
性別・年代・職業・居住域・既婚／未婚・飲酒の有無・喫煙の有無の７つのプロフィール属性推定において、全てのプロフィール属性を同時に考慮しながら集合的に推定することによりどの程度推定性能が向上するか調査した。実験結果を表１に示す。なお正解率とは、システムの推定結果がどの程度正しいかを示す尺度であり、以下の通りである。
【００７１】
正解率＝正しく属性値を推定できた推定対象のユーザ数／全推定対象のユーザ数
【００７２】
【表１】
2014219871.tif 000004
【００７３】
表１では、各プロフィール属性で最も高い正解率の数値を太字で示している。提案する大域モデルは、局所モデルと比べ、全プロフィール属性で最も高い正解率であり、その有効性が確認できた。大域モデルと局所モデルを属性ごとに比較すると、大域モデルは、年代で４．１ポイント、職業で４．０ポイント、性別で３．８ポイント、既婚／未婚で３．６ポイント、飲酒の有無で１．９ポイント、喫煙の有無で０．７ポイント向上していることがわかる。一方で、居住域では局所モデルと差がない。この原因を探るべく学習されたモデルパラメータの分析を行った。学習によって大きな重みが割り当てられたプロフィール属性の属性値間の論理式の一部を以下に示す。
【００７４】
職業（高校生）    ⇒    年代（１０代）
職業（会社員）    ⇒    ¬年代（１０代）
飲酒の有無（飲む）⇒    ¬年代（１０代）
既婚／未婚（未婚）⇒    ¬年代（４０代以上）
年代（１０代）    ⇒    職業（高校生）
年代（４０代以上）⇒    ¬職業（大学生）
性別（未婚）      ⇒    ¬職業（専業主婦）
飲酒の有無（飲む）⇒    性別（男性）
年代（４０代以上）⇒    既婚／未婚（既婚）
年代（１０代）    ⇒    飲酒の有無（飲まない）
飲酒の有無（喫う）⇒    飲酒の有無（飲む）
【００７５】
例えば、職業が高校生ならば年代が１０代であることや、職業が会社員ならば年代が１０代でないなどに大きな重みが割り当てられている。これらを分析すると、１．居住域と他のプロフィール属性間の論理式に小さな重みが割り当てられていること、２．大きな重みが割り当てられた論理式に年代・職業が多いこと、がわかった。前者は、居住域と他のプロフィール属性に依存関係がないことを意味している。そのため大域モデルと局所モデルで性能に差が出なかったと考えられる。後者は、年代・職業が他のプロフィール属性と依存関係になりやすいことを意味している。上記の実験結果に鑑みると、他のプロフィール属性と依存関係になりやすいプロフィール属性ほど大域モデルの効果が大きいと考えられる。大きな重みが割り当てられた論理式には、局所モデルでは生じていた矛盾する推定結果を防ぐための式が含まれている。これらの式によって、例えば、飲酒が飲むなのに年代が１０代や職業が高校生なのに年代が３０代といった矛盾する推定結果を大域モデルでは改善できた。
【００７６】
以上説明したように、本実施の形態に係るプロフィール推定モデル学習装置によれば、複数の学習用ユーザの各々に対して予め与えられた教師データと、学習用文書の各々について作成された単語表記素性とに基づいて、マルコフ論理ネットワーク（ＭＬＮ：Markov Logic Network）における各論理式の重みを用いて、マルコフ論理ネットワークにより、推定対象のユーザが作成した文書についての単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定するための推定モデルにおける各論理式の重みを学習することにより、プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定するための推定モデルを得ることができる。
【００７７】
また、本実施の形態に係るプロフィール推定装置によれば、マルコフ論理ネットワークにより、単語表記素性を示す観測述語に対して尤もらしい、推定対象のユーザのプロフィール属性の属性値を示す潜在述語を推定し、推定対象のユーザのプロフィール属性の属性値を推定することにより、プロフィール属性の属性値間において、整合性のとれたプロフィール属性の属性値を推定することができる。
【００７８】
また、Ｗｅｂ上の評判分析サービスなどにおいて、クチコミ投稿者のセグメント（属性）を区別した分析サービスが可能となる。例えば、これまでは「ある商品に対する評判は・・・」という分析しかできなかったが、クチコミ投稿者についてのプロフィール推定結果を用いて、「ある商品に対する２０代女性の評判は・・・」という分析が可能となる。
【００７９】
また、クチコミ投稿者のセグメント（属性）を区別した分析をするためには、従来、セグメント（属性）を限定して少数のモニタを募ってアンケートを実施し、その結果を分析する方法がとられていたが、上記の実施の形態によれば、クチコミ投稿者についてのプロフィール推定結果を用いることにより、Ｗｅｂ上の多数のユーザの声を分析することが可能となる。
【００８０】
また、複数のプロフィール属性の属性値間の整合性を考慮することで、正しい推定結果と関連する別の誤った推定結果を補正でき、高精度にプロフィールを推定することが可能となる。
【００８１】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００８２】
例えば、学習用単語表記素性作成部２２及び単語表記素性作成部６１において単語から作成する単語表記素性については、単語表記の出現数をカウントし、単語表記素性として出力する場合を例に説明したが、特定の品詞についての単語表記の出現数をカウントしても良い。この場合には、学習用形態素解析部２１又は形態素解析部６０は、周知の形態素解析技術によって、学習用入力部１又は入力部４により入力された文書を単語に区切るとともに当該単語に品詞を付与する。
【００８３】
また、モデルの学習の際に、各論理式は、各学習用文書について作成される単語表記素性と各学習用文書の教師データとに基づいて作成され、あるいは、観測述語と潜在述語とのあらゆる組み合わせ、及び潜在述語間のあらゆる組み合わせについて論理式が各々作成される場合を例に説明したが、これに限定されるものではない。例えば、上記の実験結果のように、推定対象のプロフィール属性が、性別・年代・職業・居住域・既婚／未婚・飲酒の有無・喫煙の有無の７つである場合に、学習により大きな重みが割り当てられたプロフィール属性の属性値間の論理式を予め求めておき、当該属性値間の関係を記述した論理式を、潜在述語間の組み合わせについての論理式として作成してもよい。
【００８４】
また、学習用単語表記素性作成部２２及び単語表記素性作成部６１において単語から作成する単語表記素性については、単語表記の出現数をカウントし、単語表記素性として出力する場合を例に説明したが、事前に準備した単語表記のリストと一致するものに限定し、リストに記載されている単語表記の出現数をカウントしても良い。
【００８５】
また、学習用単語表記素性作成部２２及び単語表記素性作成部６１において単語から作成する単語表記素性については、出現数をカウントするのではなく、存在するか否かだけを値としても良い。この場合は、全ての単語に対して「１回」という値が付くのと同じとなる。例えば、「旦那」「と」「娘」「と」「買い物」「中」が入力の場合、「旦那：１」「と：１」「娘：１」「買い物：１」「中：１」となる。
【００８６】
また、推定部６２においては、プロフィール推定をする際に、推定対象のユーザのプロフィール属性の属性値をプロフィールとして出力したが、当該プロフィールと共に、その度合いを示す値も出力してもよい。
【００８７】
また、学習用文書データベース２０に格納される学習用文書集合の各学習用文書には、当該学習用文書の学習用ユーザについて人手でプロフィールを判断した情報が教師データとして付与されている場合を例に説明したが、これに限定されるものではなく、アンケートなどで当該学習用ユーザのプロフィールを取得した情報が教師データとして付与されていてもよい。
【００８８】
また、関係学習部２３では、オンライン学習を利用して重みの推定をする場合を例に説明したが、これに限定されるものではなく、オンラインのマージン最大化学習アルゴリズムであるＭＩＲＡ（参考文献３（Koby Crammer and Yoram Singer、「Ultraconservative online algorithms for multiclass problems」、Journal of Machine Learning Research.Vol.3、2003、p951−991）を参照）等を利用して重みの推定をしてもよい。
【００８９】
また、上述のプロフィール推定モデル学習装置は、学習用文書データベース２０及び推定モデル記憶部３を備えている場合について説明したが、例えば学習用文書データベース２０及び推定モデル記憶部３がプロフィール推定モデル学習装置の外部装置に設けられ、プロフィール推定モデル学習装置は、外部装置と通信手段を用いて通信することにより、学習用文書データベース２０及び推定モデル記憶部３を参照するようにしてもよい。
【００９０】
また、上述のプロフィール推定装置は、推定モデル記憶部５を備えている場合について説明したが、例えば推定モデル記憶部５がプロフィール推定装置の外部装置に設けられ、プロフィール推定装置は、外部装置と通信手段を用いて通信することにより、推定モデル記憶部５を参照するようにしてもよい。
【００９１】
また、上記実施の形態では、プロフィール推定モデル学習装置とプロフィール推定装置とを別々の装置として構成する場合を例に説明したが、プロフィール推定モデル学習装置とプロフィール推定装置とを１つの装置として構成してもよい。
【００９２】
また、上述のプロフィール推定装置は、内部にコンピュータシステムを有しているが、コンピュータシステムは、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
【００９３】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【００９４】
１     学習用入力部
２     学習用演算部
３、５ 推定モデル記憶部
４     入力部
６     演算部
７     出力部
１０   プロフィール推定モデル学習装置
２０   学習用文書データベース
２１   学習用形態素解析部
２２   学習用単語表記素性作成部
２３   関係学習部
６０   形態素解析部
６１   単語表記素性作成部
６２   推定部
１００ プロフィール推定装置
【図１】
2014219871.tif 000005
【図３】
2014219871.tif 000006
【図４】
2014219871.tif 000007
【図５】
2014219871.tif 000008
【図２】
2014219871.tif 000009
【図６】
2014219871.tif 000010