(57)【要約】【課題】推定対象の属性と異なる他の属性を考慮して、文書の各文のラベルを推定することができる。【解決手段】系列データ生成部２２が、文書の各文について、文をベクトル化した文ベクトルを生成し、文間の階層構造の根ノードから１つの葉ノードまでのパスについて、パス上の各文の文ベクトルを各要素とする系列データｘを生成する。推定部２６が、系列データｘに基づいて、推定対象である属性ｍ及び属性ｍと異なる属性ｋの組み合わせの各々について、潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、属性ｍと属性ｋとの組み合わせの各々についての、推定された潜在属性ラベルデータｈｍｋから得られる、系列データｘが与えられたときの出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、出力属性ラベルデータｙｍを推定する。【選択図】図２
2017102599.tif 000002
【特許請求の範囲】
【請求項１】
文間に階層構造を有する文書の各文について知識に関する属性ｍについての前記文のラベルを表す出力属性ラベルデータｙｍを推定する推定装置であって、
前記文書の各文について、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成する系列データ生成部と、
前記系列データ生成部によって生成された前記系列データｘに基づいて、推定対象である属性ｍ及び前記属性ｍと異なる属性ｋの組み合わせの各々について、
前記系列データｘ、及び前記パス上の各文の前記属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋと、前記特徴ベクトルφｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｍｋとから得られる、前記系列データｘが与えられたときの前記潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、
前記属性ｍと前記属性ｋとの組み合わせの各々についての、推定された前記潜在属性ラベルデータｈｍｋと、前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋと、前記特徴ベクトルφｙｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｙｍｋと、前記属性ｍに対する前記属性ｋの影響の度合いを表す混合変数πｍｋとから得られる、前記系列データｘが与えられたときの前記出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、前記出力属性ラベルデータｙｍを推定する推定部と、
を含む推定装置。
【請求項２】
前記推定部によって推定された、前記属性ｍの前記出力属性ラベルデータｙｍに基づいて、前記属性ｍについての特定のラベルに対応する、前記文書の文を出力する出力部を更に含む
請求項１に記載の推定装置。
【請求項３】
文間に階層構造を有する訓練用文書の各々について、前記訓練用文書の各文に対し、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成する系列データ生成部と、
前記訓練用文書の各々について、前記系列データ生成部によって生成された前記系列データｘと、知識に関する属性ｍ毎に、前記属性ｍに関する前記パス上の各文のラベルを表す正解ラベルデータとに基づいて、
前記属性ｍ毎に、
前記系列データｘ、及び前記パス上の各文の前記属性ｍとは異なる属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋの各要素の影響の大きさを表す荷重ベクトルθｍｋと、
前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記パス上の各文について前記属性ｍに関する前記文のラベルを表す出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋの各要素の影響の大きさを表す荷重ベクトルθｙｍｋと、
前記属性ｍに対する、前記属性ｋの影響の度合いを表す混合変数πｍｋとを学習するパラメタ学習部と、
を含むパラメタ学習装置。
【請求項４】
系列データ生成部、及び推定部を含み、文間に階層構造を有する文書の各文について知識に関する属性ｍについての前記文のラベルを表す出力属性ラベルデータｙｍを推定する推定装置における推定方法であって、
前記系列データ生成部が、前記文書の各文について、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成するステップと、
前記推定部が、前記系列データ生成部によって生成された前記系列データｘに基づいて、推定対象である属性ｍ及び前記属性ｍと異なる属性ｋの組み合わせの各々について、
前記系列データｘ、及び前記パス上の各文の前記属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋと、前記特徴ベクトルφｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｍｋとから得られる、前記系列データｘが与えられたときの前記潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、
前記属性ｍと前記属性ｋとの組み合わせの各々についての、推定された前記潜在属性ラベルデータｈｍｋと、前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋと、前記特徴ベクトルφｙｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｙｍｋと、前記属性ｍに対する前記属性ｋの影響の度合いを表す混合変数πｍｋとから得られる、前記系列データｘが与えられたときの前記出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、前記出力属性ラベルデータｙｍを推定するステップと、
を含む推定方法。
【請求項５】
出力部を更に含み、
前記出力部が、前記推定部によって推定された前記出力属性ラベルデータｙｍに基づいて、前記属性ｍについての特定のラベルに対応する、前記文書の文を出力するステップを更に含む請求項４に記載の推定方法。
【請求項６】
系列データ生成部、及びパラメタ学習部を含むパラメタ学習装置におけるパラメタ学習方法であって、
前記系列データ生成部が、文間に階層構造を有する訓練用文書の各々について、前記訓練用文書の各文に対し、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成するステップと、
前記パラメタ学習部が、前記訓練用文書の各々について、前記系列データ生成部によって生成された前記系列データｘと、知識に関する属性ｍ毎に、前記属性ｍに関する前記パス上の各文のラベルを表す正解ラベルデータとに基づいて、
前記属性ｍ毎に、
前記系列データｘ、及び前記パス上の各文の前記属性ｍとは異なる属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋの各要素の影響の大きさを表す荷重ベクトルθｍｋと、
前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記パス上の各文について前記属性ｍに関する前記文のラベルを表す出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋの各要素の影響の大きさを表す荷重ベクトルθｙｍｋと、
前記属性ｍに対する、前記属性ｋの影響の度合いを表す混合変数πｍｋとを学習するステップと、
を含むパラメタ学習方法。
【請求項７】
コンピュータを、請求項１又は請求項２に記載の推定装置若しくは請求項３に記載のパラメタ学習装置の各部として機能させるための、又はコンピュータに、請求項４又は請求項５に記載の推定方法若しくは請求項６に記載のパラメタ学習方法の各ステップを実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、推定装置、パラメタ学習装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
インターネット上に大量のテキストデータが利用可能になっており、文書から必要な情報を抽出する試みが数多くなされている。情報抽出の一手法として、文書と抽出したい情報に関するフレーズが与えられた時、文書から文単位で情報を抽出する手法が考えられる。これによって、例えば、ある保険商品に関する文書と抽出したい知識「支払方法」が与えられた時、文書中の支払方法について述べている「給与控除(月払い)」という文を抽出することができる。以下、特定の文書・ドメインに関して抽出したい知識を指し示す意味属性を「属性」と表記し、属性に関する情報を記述する文を「属性言及文」と表記する。例えば「給与控除(月払い)」という文は、ある保険商品の属性「支払方法」に関する属性言及文である。
【０００３】
特定のドメインに関する属性が複数与えられているとき、当該ドメインに関する文書から属性言及文を抽出する問題は、文書中の各文を対象とした、複数の属性に対する分類問題として定式化することができる。このような分類問題では、文を実数ベクトルに変換し、当該ベクトルをいずれかの属性に分類させる手法が良く用いられる。文をベクトル化する手法としては、例えばRecursive Auto Encoder（例えば、非特許文献１）を利用した手法がある。文ベクトルを分類する手法としては、訓練データ集合を用いた機械学習による手法がある。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Richard Socher, et al.，“Dynamic pooling and unfolding recursive autoencoders for paraphrase detection.”，Advances in neural information processing systems, p.801-809, 2011.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
商品のマニュアルなどの説明文書中の文に対して、複数の意味属性のいずれかに分類することを考える。例として、図１にある保険商品（以下、保険商品Ａ）に関する説明文書の一部を示す。説明文書は、一般的な文書に比べ文間に階層的な構造を多く持ち、文を葉ノードとした木構造で表現することができる。保険商品Ａの属性としては、「支払方法」や「保険期間(インターネット手続きの場合)」、「保険期間(加入依頼書手続きの場合)」などを考えることができる。
【０００６】
上記図１において、対象文「毎月１４日までの受付分は翌月１日午前０時から平成２８年４月１日午後4時まで」に対して、属性「保険期間(インターネット手続きの場合)」に関する属性言及文であると分類することを考える。ここで、当該文書中によく似ている文「毎月１５日までの受付分は翌月１日午前０時から平成２８年４月１日午後４時まで」が存在し、当該文は属性「保険期間（加入依頼書手続きの場合）」に関する属性言及文であると分類されるとする。２つの文は非常に似ているため、文のみを特徴量とする分類手法では、２つの文をはっきりと区別して分類することは難しい。この時、２つの文それぞれの親ノードにあたる、文「（ア）インターネットでお手続きの場合」と文「（イ）加入依頼書でお手続きの場合」が、属性「保険期間(インターネット手続きの場合)」と属性「保険期間(加入依頼書手続きの場合)」にそれぞれ関係する文であることが推定できれば、２つの文の位置関係を見ることでどちらの属性に分類するべきかをより判別しやすくすることが期待できる。以下、このように特定の属性について属性言及文の分類を容易にする文を、当該属性に関する「手がかり文」と表記する。
【０００７】
例えば上記図１において、属性「支払方法」に関する手がかり文は「●お支払方法」であり、属性言及文は「給与控除(月払い)」だと分類することができる。同様に、属性「支払方法(中途加入の場合)」に関する手がかり文は「●お支払方法」で、属性言及文は「※中途加入の場合は、中途加入の保険期間開始日の翌月の給与から毎月控除します。」であると分類できる。
【０００８】
ここで、属性「支払方法」の分類時は、対象文と手がかり文が文書構造上で直接の親子関係である一方で、属性「支払方法（中途加入の場合）」の場合では、対象文と手がかり文は文書構造上において直接の親子関係ではない。このように、ある属性の手がかり文は、対象文から自明に求めることは必ずしもできない。ある文をいずれかの属性へと分類するにあたって手がかり文の利用を考えるとき、まずどの文が手がかり文であるかを推定する必要がある。
【０００９】
特定の属性について手がかり文と属性言及文を推定するために、文書中の親子関係を持つ複数の文を系列データと見なし、各文に対して分類を行う系列ラベリングの手法が考えられる。系列ラベリングの代表的な手法としてＣＲＦや構造化パーセプトロンなどの手法があるが、これらの手法はマルコフ性を仮定しているために、当該属性に関する手がかり文と属性言及文が直接の親子関係ではない、つまり系列データ上に推定したいラベルが連続していない場合は効果的に学習することができない。
【００１０】
ここで、説明文書においては、ある属性に関する手がかり文と属性言及文が離れて記述されている場合、２つの文の間に位置する文は、当該属性以外の属性に関する属性言及文または手がかり文である場合が多いという特徴がある。例えば上記図１の例において、属性「支払方法(中途加入の場合)」に関する属性言及文「※中途加入の場合は、中途加入の保険期間開始日の翌月の給与から毎月控除します。」と手がかり文「●お支払方法」との間に位置する文「給与控除(月払い)」は、属性「支払方法」に関する属性言及文である。これは、類似した複数の属性に関する手がかり文や属性言及文は、文書中に近接して記述されることが多いためである。
【００１１】
本発明は、上記事情に鑑みて成されたものであり、推定対象の属性と異なる他の属性を考慮して、文書の各文の、知識に関する属性のラベルを精度よく推定することができる推定装置、方法、及びプログラムを提供することを目的とする。
【００１２】
また、推定対象の属性と異なる他の属性を考慮して、文書の各文の、知識に関する属性のラベルを精度よく推定するためのパラメタを得ることができるパラメタ学習装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１３】
上記目的を達成するために、第１の発明に係る推定装置は、文間に階層構造を有する文書の各文について知識に関する属性ｍについての前記文のラベルを表す出力属性ラベルデータｙｍを推定する推定装置であって、前記文書の各文について、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成する系列データ生成部と、前記系列データ生成部によって生成された前記系列データｘに基づいて、推定対象である属性ｍ及び前記属性ｍと異なる属性ｋの組み合わせの各々について、前記系列データｘ、及び前記パス上の各文の前記属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋと、前記特徴ベクトルφｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｍｋとから得られる、前記系列データｘが与えられたときの前記潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、前記属性ｍと前記属性ｋとの組み合わせの各々についての、推定された前記潜在属性ラベルデータｈｍｋと、前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋと、前記特徴ベクトルφｙｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｙｍｋと、前記属性ｍに対する前記属性ｋの影響の度合いを表す混合変数πｍｋとから得られる、前記系列データｘが与えられたときの前記出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、前記出力属性ラベルデータｙｍを推定する推定部と、を含んで構成されている。
【００１４】
第２の発明に係る推定方法は、系列データ生成部、及び推定部を含み、文間に階層構造を有する文書の各文について知識に関する属性ｍについての前記文のラベルを表す出力属性ラベルデータｙｍを推定する推定装置における推定方法であって、前記系列データ生成部が、前記文書の各文について、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成するステップと、前記推定部が、前記系列データ生成部によって生成された前記系列データｘに基づいて、推定対象である属性ｍ及び前記属性ｍと異なる属性ｋの組み合わせの各々について、前記系列データｘ、及び前記パス上の各文の前記属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋと、前記特徴ベクトルφｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｍｋとから得られる、前記系列データｘが与えられたときの前記潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、前記属性ｍと前記属性ｋとの組み合わせの各々についての、推定された前記潜在属性ラベルデータｈｍｋと、前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋと、前記特徴ベクトルφｙｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルθｙｍｋと、前記属性ｍに対する前記属性ｋの影響の度合いを表す混合変数πｍｋとから得られる、前記系列データｘが与えられたときの前記出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、前記出力属性ラベルデータｙｍを推定するステップと、を含んで構成されている。
【００１５】
また、第１の発明に係る推定装置及び第２の発明に係る推定方法において、前記推定部によって推定された、前記属性ｍの前記出力属性ラベルデータｙｍに基づいて、前記属性ｍについての特定のラベルに対応する、前記文書の文を出力する出力部を更に含むようにしてもよい。
【００１６】
第３の発明に係るパラメタ学習装置は、文間に階層構造を有する訓練用文書の各々について、前記訓練用文書の各文に対し、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成する系列データ生成部と、前記訓練用文書の各々について、前記系列データ生成部によって生成された前記系列データｘと、知識に関する属性ｍ毎に、前記属性ｍに関する前記パス上の各文のラベルを表す正解ラベルデータとに基づいて、前記属性ｍ毎に、前記系列データｘ、及び前記パス上の各文の前記属性ｍとは異なる属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋの各要素の影響の大きさを表す荷重ベクトルθｍｋと、前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記パス上の各文について前記属性ｍに関する前記文のラベルを表す出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋの各要素の影響の大きさを表す荷重ベクトルθｙｍｋと、前記属性ｍに対する、前記属性ｋの影響の度合いを表す混合変数πｍｋとを学習するパラメタ学習部と、を含んで構成されている。
【００１７】
第４の発明に係るパラメタ学習方法は、系列データ生成部、及びパラメタ学習部を含むパラメタ学習装置におけるパラメタ学習方法であって、前記系列データ生成部が、文間に階層構造を有する訓練用文書の各々について、前記訓練用文書の各文に対し、前記文をベクトル化した文ベクトルを生成し、前記文間の階層構造の根ノードから１つの葉ノードまでのパスについて、前記パス上の各文の前記文ベクトルを各要素とする系列データｘを生成するステップと、前記パラメタ学習部が、前記訓練用文書の各々について、前記系列データ生成部によって生成された前記系列データｘと、知識に関する属性ｍ毎に、前記属性ｍに関する前記パス上の各文のラベルを表す正解ラベルデータとに基づいて、前記属性ｍ毎に、前記系列データｘ、及び前記パス上の各文の前記属性ｍとは異なる属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋの各要素の影響の大きさを表す荷重ベクトルθｍｋと、前記系列データｘ、前記潜在属性ラベルデータｈｍｋ、及び前記パス上の各文について前記属性ｍに関する前記文のラベルを表す出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋの各要素の影響の大きさを表す荷重ベクトルθｙｍｋと、前記属性ｍに対する、前記属性ｋの影響の度合いを表す混合変数πｍｋとを学習するステップと、を含んで構成されている。
【００１８】
第５の発明に係るプログラムは、コンピュータを、上記の推定装置若しくは上記のパラメタ学習装置の各部として機能させるための、又はコンピュータに、上記の推定方法若しくは上記のパラメタ学習方法の各ステップを実行させるためのプログラムである。
【発明の効果】
【００１９】
本発明の推定装置、方法、及びプログラムによれば、文書の各文について、系列データｘに基づいて、推定対象である属性ｍ及び属性ｍと異なる属性ｋの組み合わせの各々について、属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、属性ｍと属性ｋとの組み合わせの各々についての、推定された潜在属性ラベルデータｈｍｋから得られる、系列データｘが与えられたときの出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、出力属性ラベルデータｙｍを推定することにより、推定対象の属性と異なる他の属性を考慮して、知識に関する属性のラベルを精度よく推定することができる、という効果が得られる。
【００２０】
また、本発明のパラメタ学習装置、方法、及びプログラムによれば、訓練用文書の各々について、生成された系列データｘと、知識に関する属性毎に、属性ｍに関するパス上の各文のラベルを表す正解ラベルデータとに基づいて、各文の属性ｍとは異なる属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋの各要素の影響の大きさを表す荷重ベクトルθｍｋと、系列データｘ、潜在属性ラベルデータｈｍｋ、及びパス上の各文について属性ｍに関する文のラベルを表す出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋの各要素の影響の大きさを表す荷重ベクトルθｙｍｋと、属性ｍに対する、属性ｋの影響の度合いを表す混合変数πｍｋとを学習することにより、推定対象の属性と異なる他の属性を考慮して、知識に関する属性のラベルを精度よく推定するためのパラメタを得ることができる、という効果が得られる。
【図面の簡単な説明】
【００２１】
【図１】文間に構造性を持つ文書の一例を示す図である。
【図２】本発明の実施の形態に係る推定装置の構成を示すブロック図である。
【図３】系列データの一例を示す図である。
【図４】本発明の実施の形態で用いるモデルの一例を示す図である。
【図５】本発明の実施の形態に係るパラメタ学習装置の構成を示すブロック図である。
【図６】本発明の実施の形態に係るパラメタ学習装置におけるパラメタ学習処理ルーチンを示すフローチャートである。
【図７】本発明の実施の形態に係る推定装置における推定処理ルーチンを示すフローチャートである。
【発明を実施するための形態】
【００２２】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００２３】
＜本発明の実施の形態に係る概要＞
【００２４】
まず、本発明の実施の形態における概要を説明する。
【００２５】
本発明の実施の形態は、与えられた文書中の各文について、特定の知識に関する文であるか否かを分類する技術に関する。
【００２６】
本発明の実施の形態では、文間に構造性を持つ文書と、文書中の文に関する属性集合が与えられた場合に、文書の各文を要素として持つ系列データを作成し、当該系列データに対して、まず複数の属性に関するラベルの推定し、推定した各ラベルの結果を用いて、推定対象の属性に関するラベルと属性間の影響の大きさを同時に推定する。
【００２７】
本発明の実施の形態では、文間に構造性を持つ文書の一例として説明文書を用い、この説明文書固有の特徴を利用し、複数の属性に関する系列ラベリングを多層的に解くことで、マルコフ性を持つ系列ラベリング手法を効果的に利用する手法を提案する。
【００２８】
＜本発明の実施の形態に係る推定装置の構成＞
【００２９】
次に、本発明の実施の形態に係る推定装置の構成について説明する。図２に示すように、本発明の実施の形態に係る推定装置１００は、ＣＰＵと、ＲＡＭと、後述する推定処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この推定装置１００は、機能的には図２に示すように文書入力部１０と、演算部２０と、出力部３０とを備えている。本実施の形態に係る推定装置１００は、知識に関する属性毎に、文間に階層構造を有する文書の各文についての、当該属性に関するラベルを表す出力属性ラベルデータを推定する。
【００３０】
文書入力部１０は、文間に階層構造を有する文書を受け付ける。例えば、文書入力部１０は、上記図１に示すような保険商品Ａに関する説明文書を入力として受け取る。ここで、本実施の形態では、文間に階層構造を有する文書は、各ノードが文を示している木構造で表現される。
【００３１】
演算部２０は、系列データ生成部２２と、モデルパラメタデータベース２４と、推定部２６とを備えている。
【００３２】
系列データ生成部２２は、文書入力部１０によって受け付けた文書の各文について、文をベクトル化した文ベクトルを生成する。そして、系列データ生成部２２は、文書の各文について、文間の階層構造の根ノードから１つの葉ノードまでの各パスについて、当該パス上の各文の文ベクトルを各要素とする系列データｘを生成する。
【００３３】
具体的には、系列データ生成部２２は、まず与えられた文書中の各文に対して、形態素解析の処理を加える。形態素解析の手法としては、例えば以下に示す非特許文献２に記載されている方法を利用することができる。
【００３４】
［非特許文献２］：Takeshi Fuchi and Shinichiro Takagi,“Japanese Morphological Analyzer using Word Co-occurrence ‐ JTAG.”, In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics (Volume 1), p.409-413, 1998.
【００３５】
次に、系列データ生成部２２は、形態素解析によって得られた形態素集合を用いて、文書中の各文を文ベクトルに変換する。文ベクトルの変換には、例えば上記非特許文献１に記載の方法を用いることができる。そして、系列データ生成部２２は、各文を文ベクトルに変換したのち、文書中の文間の構造をもとに系列データを作成する。１つの系列データは、文書を木構造で表現した際の、根ノードからある１つの葉ノードへのパス上に含まれる文ベクトルの配列として与えられる。
【００３６】
図３に、上記図１で示した文書から得られる系列データの例を示す。図３に示すように、上記図１の文書からは３つのパスに対する３つの系列データが得られる。
【００３７】
モデルパラメタデータベース２４には、後述するパラメタ学習装置によって予め求められた荷重ベクトル及び混合変数が格納されている。
【００３８】
推定部２６は、系列データ生成部２２によって生成された系列データｘに基づいて、知識に関する属性ｍ毎に、当該系列データｘの要素である文ベクトルに対応する各文についての、当該属性ｍに関するラベルを表す出力属性ラベルデータｙｍを推定する。
【００３９】
例えば、推定部２６は、系列データ生成部２２から複数の系列データを受けとり、各系列データの要素である文ベクトルに対応する各文に対して、与えられた複数の属性のそれぞれについて、属性言及文であるか、手がかり文であるか、または当該属性に無関係な文であるかを示すラベルを推定する。
【００４０】
ここで、本実施の形態では、ラベルの推定手法として系列ラベリングの手法を用いる。つまり、系列データｘに対して、与えられたＭ個の属性のうち属性ｍそれぞれについて、「属性言及文」か「手がかり文」か「無関係」の３つのラベルのいずれかが付与された系列データｙｍとその確率値ｐ（ｙｍ｜ｘ）を推定する。なお、ラベル「無関係」とは、当該属性に関係する文ではないことを示している。
【００４１】
ここで、ある属性に関するラベルの付与には、系列データの要素である文ベクトルと、モデルパラメタデータベース２４に格納されている、複数の属性を考慮した多層的なモデルに関するパラメタを用いる。当該モデルでは、系列データｘから直接推定したい属性のラベルを推定するのではなく、まずＫ（＝Ｍ−１）個の他属性に関する潜在的なラベルである潜在属性ラベルデータｈｋをそれぞれ求め、その推定結果も合わせて用いることで、推定対象の属性ｍに関する出力属性ラベルデータｙｍを推定する。これにより、推定対象の属性に影響する、複数の他属性に関する属性ラベルデータを考慮することができるために、推定精度の向上が期待できる。
【００４２】
図４に、系列データ生成部２２によって生成された系列データの要素数が５である場合のグラフィカルモデルの例を示す。なお、当該モデルは、系列データの要素数に応じて予め用意される。図４は、対象とする系列データｘ＝［ｘ１，ｘ７，ｘ８，ｘ９，ｘ１０］に関して、与えられたＭ個の属性のうち属性ｍに関する、出力属性ラベルデータｙｍを推定する例を示している。例えば、属性「支払方法(中途加入の場合)」に関してｙｍ＝［“無関係”，“手がかり文”，“手がかり文”，“無関係”，“属性言及文”］などが考えられる。
【００４３】
本実施の形態の形態に係るモデルは、潜在的な属性のラベルを推定する多層的なモデルであり、まず与えられたＫ（＝Ｍ−１）個の他属性のうち属性ｋに関する潜在属性ラベルデータｈｍｋをそれぞれ推定する。例えば属性ｉ「保険期間(インターネット手続きの場合)」に関してｈｍｉ＝［“関係なし”，“関係なし”，“関係なし”，“関係なし”，“関係なし”］や、属性ｊ「支払方法」に関してｈｍｊ＝［“関係なし”，“手がかり文”，“手がかり文”，“属性言及文”，“関係なし”］などの潜在属性ラベルデータを推定する。推定対象の属性を属性ｍとし、系列データｘが与えられたときのそれぞれの潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）は、以下の式（１）及び式（２）で定義される。
【００４４】
【数１】
2017102599.tif 000003
【００４５】
ここで、φｍｋは、系列データｘ及びパス上の各文の属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルである。特徴ベクトルφｍｋは、系列データｘ及び潜在属性ラベルデータｈｍｋに応じて抽出される。
【００４６】
具体的には、特徴ベクトルφｍｋ（ｘ，ｈｔｍｋ，ｈｔ−１ｍｋ）は、着目しているｔ番目の潜在属性ラベルデータｈｔｍｋとｔ−１番目の潜在属性ラベルデータｈｔ−１ｍｋに関連する特徴量と、系列データｘを要素として持つ。なお、ｔは、系列データにおける各文ベクトルのインデックスを表す。潜在属性ラベルデータｈｔｍｋに関連する特徴量としては、例えば属性ｋに関して、ｔ番目にラベル「属性言及文」が付与されていた場合１の値を取る特徴量などが考えられる。
【００４７】
また、θｍｋはモデルパラメタデータベース２４に格納されており、それぞれ特徴ベクトルφｍｋに関連する荷重ベクトルであって、かつ特徴ベクトルφｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルである。荷重ベクトルθｍｋは、後述するパラメタ学習装置２００によって予め求められる。また、Ｚｍｋは正規化項を示す。
【００４８】
従って、推定部２６は、系列データ生成部２２によって生成された複数の系列データｘに基づいて、属性ｍの各々を推定対象として、推定対象である属性ｍ及び属性ｍと異なる属性ｋの組み合わせの各々について、特徴ベクトルφｍｋとモデルパラメタデータベース２４に格納された荷重ベクトルθｍｋとから得られる、系列データｘが与えられたときの上記式（１）に示す潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定する。
【００４９】
次に、推定部２６は、属性ｍ毎に、上記式（１）に従い推定された、属性ｍに関するＫ個の潜在属性ラベルデータｈｍｋと、系列データ生成部２２によって生成された系列データｘとを用いて、出力属性ラベルデータｙｍの条件付き確率ｐ（ｙｍ｜ｘ）を、以下の式（３）〜（５）に従って求める。
【００５０】
以下の式（３）〜（５）において、φｙｍｋは、系列データｘ、潜在属性ラベルデータｈｍｋ、及び出力属性ラベルデータｙｍの特徴を表す特徴ベクトルである。特徴ベクトルφｍｋは、系列データｘ、潜在属性ラベルデータｈｍｋ、及び出力属性ラベルデータｙｍに応じて抽出される。
【００５１】
具体的には、特徴ベクトルφｙｍｋ（ｘ，ｈｍｋ，ｙｔｍ，ｙｔ−１ｍ）は、着目しているｔ番目の出力属性ラベルデータｙｔｍとｔ−１番目の出力属性ラベルデータｙｔ−１ｍに関連する特徴量と、属性ｋに関する潜在属性ラベルデータｈｍｋと、系列データｘを要素として持つ。
【００５２】
θｙｍｋはモデルパラメタデータベース２４に格納されており、それぞれφｙｍｋに関連する荷重ベクトルであって、かつ特徴ベクトルφｙｍｋの各要素の影響の大きさを表す予め求められた荷重ベクトルである。荷重ベクトルθｙｍｋは、後述するパラメタ学習装置２００によって予め求められる。また、Ｚｙｍｋは正規化項を示す。
【００５３】
【数２】
2017102599.tif 000004
【００５４】
また、上記式（３）におけるπｍｋ＝ｐ（ｚｍｋ＝１）は混合係数と呼ばれる変数で、０≦πｍｋ≦１とΣＫπｍｋ＝１の条件式を満たす。ｚｍはＫ次元の１-ｏｆ-Ｋ表現で表される確率変数であり、ｚｍｋ∈｛０，１｝である。πｍｋは推定対象である属性ｍに対する、潜在的なＫ個の属性のうち属性ｋの影響の度合いを示している。混合係数πｍｋは、後述するパラメタ学習装置２００によって予め求められ、モデルパラメタデータベース２４に格納される。
【００５５】
従って、推定部２６は、推定対象の属性ｍと他属性ｋの組み合わせの各々についての、上記式（１）に従って推定された潜在属性ラベルデータｈｍｋと、特徴ベクトルφｙｍｋと、モデルパラメタデータベース２４に格納された荷重ベクトルθｙｍｋ及び混合変数πｍｋとから得られる、上記式（３）に示す、系列データｘが与えられたときの出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）を求める。
【００５６】
例えば、上記図４に示すように、系列データが５つの要素を持つ場合、ある属性ｍの出力属性データｙｍを予測する場合のみを考えると、上記図４に示すモデルは、入力層が１つの系列、中間層がＫ個の系列、出力層が１つの系列となっているモデルと考えられる。
【００５７】
入力層と中間層との間には、系列データｘ及び潜在属性ラベルデータｈｍｋから得られたｋ個の特徴ベクトルθｍｋと対応する荷重ベクトルφｍｋとがあり、中間層と出力層との間には、系列データｘ、潜在属性ラベルデータｈｍｋ、及び出力属性ラベルデータｙｍから得られたｋ個の特徴ベクトルθｙｍｋと対応する荷重ベクトルφｙｍｋとがあることになる。
【００５８】
そして、推定部２６は、求められた条件付き確率ｐ（ｙｍ｜ｘ）に従って、出力属性ラベルデータｙｍを推定する。例えば、推定部２６は、以下の式（６）に示すように、上記式（３）に示す条件付き確率ｐ（yｍ│ｘ）が最大の値を取る出力属性ラベルデータｙ＾ｍを、系列データｘに対する属性ｍに関する分類結果として出力する。
【００５９】
【数３】
2017102599.tif 000005
【００６０】
出力部３０は、推定部２６によって推定された、属性ｍ毎の出力属性ラベルデータｙｍに基づいて、特定の属性に関する特定のラベルに対応する、文書の文を出力する。
【００６１】
例えば、出力部３０は、推定部２６から得られる、属性ｍ毎の出力属性ラベルデータｙｍに基づいて、特定の属性ｍに関する特定のラベル「属性言及文」が付与されている文を全てリスト形式で出力する。
【００６２】
上記図３に示した系列データが与えられた場合、特定の属性「支払方法(中途加入の場合)」について特定のラベル「属性言及文」が付与されている文ベクトルに対応する文「※中途加入の場合は、中途加入の保険期間開始日の翌月の給与から毎月控除します。」が出力される。
【００６３】
また、出力部３０は、属性ｍについての混合係数πｍｋが一定値以上である、属性ｋについても、推定の信頼度が高いと考え、同時に当該属性ｋに関する特定のラベル「属性言及文」が付与されている文ベクトルに対応する文を出力しても良い。例えば、出力部３０は、上記図３に示した系列データを与えられた時、属性ｋ「支払方法」について「属性言及文」のラベルが付与されている文ベクトルに対応する文「給与控除（月払い）」を出力することができる。
【００６４】
＜本発明の実施の形態に係るパラメタ学習装置の構成＞
【００６５】
次に、本発明の実施の形態に係るパラメタ学習装置の構成について説明する。図５に示すように、本発明の実施の形態に係るパラメタ学習装置２００は、ＣＰＵと、ＲＡＭと、後述するパラメタ学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。このパラメタ学習装置２００は、機能的には図５に示すように入力部５０と、演算部６０とを備えている。
【００６６】
入力部５０は、文間に階層構造を有する複数の訓練用文書と、複数の訓練用文書の各々についての、属性ｍ毎に、当該属性ｍに関する訓練用文書の各文のラベルを表す正解ラベルデータとを受け付ける。
【００６７】
演算部６０は、訓練用文書集合データベース６２と、系列データ生成部６４と、パラメタ学習部６６と、モデルパラメタデータベース６８とを備える。
【００６８】
訓練用文書集合データベース６２には、入力部５０によって受け付けた複数の訓練用文書と、訓練用文書の各々についての、当該訓練用文書中の文それぞれに対する複数の属性に関する正解ラベルデータの組み合わせが格納される。なお、１つの訓練用文書には、少なくとも１つ以上の系列データが含まれており、訓練用文書集合データベース６２には、合計Ｄ個の系列データが訓練データとして格納される。
【００６９】
系列データ生成部６４は、訓練用文書集合データベース６２に格納された訓練用文書の各々について、系列データ生成部２２と同様に、訓練用文書の各文に対し、文をベクトル化した文ベクトルを生成する。そして、系列データ生成部６４は、訓練用文書の各々について、当該訓練用文書の文間の階層構造の根ノードから１つの葉ノードまでのパスについて、パス上の各文の文ベクトルを各要素とする系列データを生成する。
【００７０】
パラメタ学習部６６は、訓練用文書集合データベース６２に格納された訓練用文書の各々について、系列データ生成部６４によって当該訓練用文書のパスについて生成された系列データｘと、当該訓練用文書に対する正解ラベルデータとに基づいて、属性ｍ毎に、属性ｍと属性ｋとの組み合わせの各々についての荷重ベクトルθｍｋと荷重ベクトルθｙｍｋと混合変数πｍｋとを学習する。
【００７１】
具体的には、パラメタ学習部６６は、訓練用文書集合データベース６２に格納されたＤ個の系列データを用いた、尤度関数を最大化する最尤法の枠組みで行う。ここで、属性ｍに関する尤度関数Ｌｍは以下の式（７）で定義される。
【００７２】
【数４】
2017102599.tif 000006
【００７３】
ここで、上記式（７）におけるｘｄ及びｙｍｄは、訓練用文書集合データベース６２に格納された、ｄ番目の系列データと、ｄ番目の系列データの、属性ｍに関する正解ラベルデータとの組を示す。上記式（７）に示す尤度関数Ｌｍは、対数の中に総和を含む式であり、そのままでは解析的に解くことができない。そのため以下の式（８）に示すような式変形を行い、ＥＭアルゴリズムの枠組みで逐次的な学習を行う。
【００７４】
【数５】
2017102599.tif 000007
【００７５】
具体的には、パラメタ学習部６６は、まずＥ−ｓｔｅｐとして以下の式（９）及び（１０）から、更新後の混合係数πｎｅｗｍｋを求める。
【００７６】
【数６】
2017102599.tif 000008
【００７７】
次に、パラメタ学習部６６は、Ｍ−ｓｔｅｐとして、以下の式（１１）を最大化する荷重ベクトルθｙｍｋ及びθｍｋを求める。
【００７８】
【数７】
2017102599.tif 000009
【００７９】
ここで、最大化手法には、例えば最急勾配法やＢＦＧＳ法などの準ニュートン法を用いることができる。
【００８０】
モデルパラメタデータベース６８には、パラメタ学習部６６によって学習された、Ｍ×Ｋ個の荷重ベクトルθｙｍｋ，θｍｋ及び混合係数πｍｋが格納される。
【００８１】
荷重ベクトルθｙｍｋ，θｍｋは、それぞれ関連する特徴ベクトルφｙｍｋ，φｍｋの各要素における影響の大きさを示し、各要素は実数の定義域を持つ。荷重ベクトルθｙｍｋ，θｍｋと混合係数πｍｋは、訓練用文書集合データベース６２から得られる訓練データを用いて、パラメタ学習部６６の処理を、あらかじめ定められた回数繰り返すことによって学習・更新される。
【００８２】
＜本発明の実施の形態に係るパラメタ学習装置の作用＞
【００８３】
次に、本発明の実施の形態に係るパラメタ学習装置２００の作用について説明する。複数の訓練用文書と正解ラベルデータとがパラメタ学習装置２００に入力されると、入力部５０が、複数の訓練用文書と正解ラベルデータとを受け付け、訓練用文書集合データベース６２に格納する。そして、パラメタ学習装置２００は、図６に示すパラメタ学習処理ルーチンを実行する。
【００８４】
まず、ステップＳ１００において、系列データ生成部６４は、訓練用文書集合データベース６２に格納された訓練用文書の各々について、訓練用文書の各文に対し、文をベクトル化した文ベクトルを生成する。そして、系列データ生成部６４は、訓練用文書の各々について、当該訓練用文書の文間の階層構造の根ノードから１つの葉ノードまでのパスについて、パス上の各文の文ベクトルを各要素とする系列データを生成する。
【００８５】
また、ステップＳ１０２において、パラメタ学習部６６は、各パラメタに対し初期値を設定する。
【００８６】
ステップＳ１０４において、パラメタ学習部６６は、Ｅ−ｓｔｅｐにおいて、属性ｍ毎に、複数の訓練用文書の各々のパスについて生成された系列データｘと、複数の訓練用文書に対する正解ラベルデータと、上記ステップＳ１０２で設定された初期値、又は後述する前回のステップＳ１０６で更新されたパラメタとに基づいて、上記式（９）及び（１０）に従って、更新後の混合係数πｎｅｗｍｋを求める。
【００８７】
ステップＳ１０６において、パラメタ学習部６６は、Ｍ−ｓｔｅｐとして、属性ｍ毎に、複数の訓練用文書の各々のパスについて生成された系列データｘと、複数の訓練用文書に対する正解ラベルデータと、上記ステップＳ１０４で得られた混合係数πｎｅｗｍｋとに基づいて、上記式（１１）を最大化する荷重ベクトルθｙｍｋ，θｍｋを求める。
【００８８】
ステップＳ１０８において、パラメタ学習部６６は、繰り返し処理が収束したか否かを判定する。繰り返し処理が収束した場合には、ステップＳ１１０へ進む。一方、繰り返し処理が収束していない場合には、ステップＳ１０４へ戻る。
【００８９】
ステップＳ１１０において、パラメタ学習部６６は、上記ステップＳ１０４で推定された混合係数πｍｋ及び上記ステップＳ１０６で推定された荷重ベクトルθｙｍｋ，θｍｋをモデルパラメタデータベース６８に格納して、パラメタ学習処理ルーチンを終了する。
【００９０】
＜本発明の実施の形態に係る推定装置の作用＞
【００９１】
次に、本発明の実施の形態に係る推定装置１００の作用について説明する。パラメタ学習装置２００によって予め求められた荷重ベクトル及び混合変数が推定装置１００に入力されると、荷重ベクトル及び混合変数が、モデルパラメタデータベース２４に格納される。そして、文書入力部１０が、文間に階層構造を有する文書を受け付けると、推定装置１００は、図７に示す推定処理ルーチンを実行する。
【００９２】
ステップＳ２００において、系列データ生成部２２は、入力された文書を取得する。
【００９３】
ステップＳ２０２において、系列データ生成部２２は、上記ステップＳ２００で受け付けた文書の各文について、文をベクトル化した文ベクトルを生成する。そして、系列データ生成部２２は、受け付けた文書の階層構造の根ノードから１つの葉ノードまでのパスについて、パス上の各文の文ベクトルを各要素とする系列データｘを生成する。
【００９４】
ステップＳ２０４において、推定部２６は、上記ステップＳ２０２で生成された系列データｘに基づいて、属性ｍの各々を推定対象として、推定対象である属性ｍ及び属性ｍと異なる属性ｋの組み合わせの各々について、特徴ベクトルφｍｋとモデルパラメタデータベース２４に格納された荷重ベクトルθｍｋとから得られる、系列データｘが与えられたときの上記式（１）に示す潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定する。
【００９５】
ステップＳ２０６において、推定部２６は、推定対象の属性ｍと他属性ｋの組み合わせの各々についての、上記ステップＳ２０４で推定された潜在属性ラベルデータｈｍｋと、特徴ベクトルφｙｍｋと、モデルパラメタデータベース２４に格納された荷重ベクトルθｙｍｋ及び混合変数πｍｋとから得られる、上記式（３）に示す、系列データｘが与えられたときの出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）を求める。そして、推定部２６は、上記式（３）に従って、出力属性ラベルデータｙｍを推定する。
【００９６】
ステップＳ２０８において、出力部３０は、上記ステップＳ２０６で推定された、属性ｍ毎の出力属性ラベルデータｙｍに基づいて、特定の属性に関する特定のラベルに対応する、文書の文を出力して、推定処理ルーチンを終了する。
【００９７】
以上説明したように、本実施の形態に係るパラメタ学習装置によれば、訓練用文書の各々について、生成された系列データｘと、知識に関する属性毎に、属性ｍに関するパス上の各文のラベルを表す正解ラベルデータとに基づいて、各文の属性ｍとは異なる属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋの特徴を表す特徴ベクトルφｍｋの各要素の影響の大きさを表す荷重ベクトルθｍｋと、系列データｘ、潜在属性ラベルデータｈｍｋ、及びパス上の各文について属性ｍに関する文のラベルを表す出力属性ラベルデータｙｍの特徴を表す特徴ベクトルφｙｍｋの各要素の影響の大きさを表す荷重ベクトルθｙｍｋと、属性ｍに対する、属性ｋの影響の度合いを表す混合変数πｍｋとを学習することにより、推定対象の属性と異なる他の属性を考慮して、知識に関する属性のラベルを精度よく推定するためのパラメタを得ることができる。
【００９８】
また、本実施の形態に係る推定装置によれば、文書の各文について、系列データｘに基づいて、推定対象である属性ｍ及び属性ｍと異なる属性ｋの組み合わせの各々について、属性ｋに関する潜在的なラベルである潜在属性ラベルデータｈｍｋに関する条件付き確率Ｐ（ｈｍｋ｜ｘ）に従って、潜在属性ラベルデータｈｍｋを推定し、属性ｍと属性ｋとの組み合わせの各々についての、推定された潜在属性ラベルデータｈｍｋから得られる、系列データｘが与えられたときの出力属性ラベルデータｙｍに関する条件付き確率ｐ（ｙｍ｜ｘ）に従って、出力属性ラベルデータｙｍを推定することにより、推定対象の属性と異なる他の属性を考慮して、知識に関する属性のラベルを精度よく推定することができる。
【００９９】
また、本発明の実施の形態によれば、文間に構造性を持つ文書と、当該文書中の文が意味しうる属性集合が与えられた際に、文書中の各文について、複数の属性の関係性を考慮した上で、各属性に関する、手がかり文または属性言及文であるかどうかを推定することができる。
【０１００】
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１０１】
例えば、上記実施の形態では、推定装置１００とパラメタ学習装置２００とを別々の装置として構成する場合を例に説明したが、推定装置１００とパラメタ学習装置２００とを１つの装置として構成してもよい。
【０１０２】
また、上記実施の形態では、パラメタ学習装置２００が、訓練用文書集合データベース６２及びモデルパラメタデータベース６８を備え、推定装置１００がモデルパラメタデータベース２４を備えている場合について説明したが、例えば各データベースの少なくとも１つが装置の外部装置に設けられ、推定装置１００又はパラメタ学習装置２００は、外部装置と通信手段を用いて通信することにより、各データベースを参照するようにしてもよい。
【０１０３】
また、上記実施の形態では、属性ｍ毎に、出力属性ラベルデータｙｍを推定する場合を例に説明したが、これに限定されるものではなく、特定の属性ｍが予め設定され、特定の属性ｍについての出力属性ラベルデータｙｍを推定するようにしてもよい。
【０１０４】
また、上述の推定装置１００及びパラメタ学習装置２００とは、内部にコンピュータシステムを有しているが、コンピュータシステムは、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
【０１０５】
また、本発明は、周知のコンピュータに媒体もしくは通信回線を介して、上記図２又は図５の構成図に示された機能を実現するプログラムをインストールすることによっても実現可能である。
【符号の説明】
【０１０６】
１０   文書入力部
２０   演算部
２２   系列データ生成部
２４   モデルパラメタデータベース
２６   推定部
３０   出力部
５０   入力部
６０   演算部
６２   訓練用文書集合データベース
６４   系列データ生成部
６６   パラメタ学習部
６８   モデルパラメタデータベース
１００ 推定装置
２００ パラメタ学習装置
【図１】
2017102599.tif 000010
【図２】
2017102599.tif 000011
【図３】
2017102599.tif 000012
【図４】
2017102599.tif 000013
【図５】
2017102599.tif 000014
【図６】
2017102599.tif 000015
【図７】
2017102599.tif 000016