(57)【要約】【課題】人が読みやすい要約を得ることができる。【解決手段】エンティティ計算部５２が、エンティティとエンティティの状態を計算する。確率推定部５３が、エンティティとエンティティの状態に基づいて、エンティティの状態ペア毎に、文書において隣接する文のうちの前文でのエンティティの状態が、後文でのエンティティの状態へ遷移する確率を表す遷移確率を推定する。文選択部５５が、文書の要約の候補を複数生成する。要約選択部５８が、遷移確率の各々と、要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約において隣接する文のうちの前文でのエンティティの状態が、後文でのエンティティの状態へ遷移する遷移確率を用いて表されるコヒーレンススコア、及びエンティティの重みとを用いて表される評価関数を最適化するように、要約の候補の各々から要約を選択する。【選択図】図２
2017211784.tif 000002
【特許請求の範囲】
【請求項１】
文書に含まれる文を選択して要約を生成する要約装置であって、
前記文書に含まれる複数の文の各々について、前記文に含まれる、エンティティと前記エンティティの状態を計算するエンティティ計算部と、
前記エンティティ計算部によって前記複数の文の各々について計算されたエンティティと前記エンティティの状態に基づいて、前記エンティティの各々について、前記エンティティの状態ペア毎に、前記文書において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する確率を表す遷移確率を推定する確率推定部と、
前記複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる前記文書の要約の候補を複数生成する文選択部と、
前記確率推定部によって推定された前記遷移確率の各々と、前記文選択部によって生成された前記要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約に含まれる前記エンティティの各々についての、前記要約において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する前記遷移確率を用いて表されるコヒーレンススコア、及び前記エンティティの重みを用いて表される評価関数を最適化するように、前記要約の候補の各々から、前記文書の要約を選択する要約選択部と、
を含む要約装置。
【請求項２】
前記文選択部は、前記複数の文から、文の長さの総和が前記予め定められた長さ以下になるようにランダムに繰り返し選択された文からなる前記文書の要約の候補を複数生成する請求項１記載の要約装置。
【請求項３】
前記エンティティ計算部は、複数の文書に含まれる複数の文の各々について、前記文に含まれる、エンティティと前記エンティティの状態を計算し、
前記確率推定部は、前記エンティティ計算部によって前記複数の文書に含まれる前記複数の文の各々について計算されたエンティティと前記エンティティの状態に基づいて、前記エンティティの各々について、前記エンティティの状態ペア毎に、前記遷移確率を推定し、
前記文選択部は、前記複数の文書に含まれる前記複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる、前記複数の文書の要約の候補を複数生成し、
前記要約選択部は、前記確率推定部によって推定された前記遷移確率の各々と、前記文選択部によって生成された前記要約の候補の各々と、複数の学習用文書と前記複数の学習用文書に対する要約の各々とから予め求められたエンティティの重みとに基づいて、前記評価関数を最適化するように、前記要約の候補の各々から、前記複数の文書の要約を選択する
請求項１又は請求項２に記載の要約装置。
【請求項４】
前記エンティティの重みは、複数の学習用文書と前記複数の学習用文書の各々に対する要約とから予め学習されたものである請求項１〜請求項３の何れか１項記載の要約装置。
【請求項５】
前記要約選択部は、評価関数を最適化するように、前記要約の候補の各々から、前記文書の要約を選択し、かつ前記要約において隣接する文で共通する単語の割合が予め定められた閾値以下となるように、前記要約を生成する
請求項１〜請求項４の何れか１項に記載の要約装置。
【請求項６】
文書に含まれる文を選択して要約を生成する要約方法であって、
エンティティ計算部が、前記文書に含まれる複数の文の各々について、前記文に含まれる、エンティティと前記エンティティの状態を計算するステップと、
確率推定部が、前記エンティティ計算部によって前記複数の文の各々について計算されたエンティティと前記エンティティの状態に基づいて、前記エンティティの各々について、前記エンティティの状態ペア毎に、前記文書において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する確率を表す遷移確率を推定するステップと、
文選択部が、前記複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる前記文書の要約の候補を複数生成するステップと、
要約選択部が、前記確率推定部によって推定された前記遷移確率の各々と、前記文選択部によって生成された前記要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約に含まれる前記エンティティの各々についての、前記要約において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する前記遷移確率を用いて表されるコヒーレンススコア、及び前記エンティティの重みを用いて表される評価関数を最適化するように、前記要約の候補の各々から、前記文書の要約を選択するステップと、
を含む要約方法。
【請求項７】
コンピュータを、請求項１〜請求項５の何れか１項に記載の要約装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、要約装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
文書の自動要約は、元の文書を短縮文字で示すことを目的としている。要約の主要なアプローチには、抽出法と抽象化法とがある。抽出法には、要約を生成するために、元の文書から文（あるいは文節等）を選択するものがある。また、もう一つの方法である抽象化法としては、要約として新規の文章を要約として生成する手法がある。
【０００３】
例えば、非特許文献１では、要約を最大ナップサック問題（ＭＫＭＣ）とみなしている。ここでの要約とは、可能な限り多くのコンセプトを網羅する複数文を抽出することである。なお、コンセプトとは、非機能語のことである。
【０００４】
また、参考文献２では、文書に含まれているエンティティを使用して、一貫性を評価する方法を説明している。機械で生成された文書は、文書におけるエンティティの有無に従って評価される。この場合、エンティティは、名詞と代名詞を指す。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】Takamura, Hiroya and Okumura, Manabu. “Text summarization model based on maximum coverage problem and its variant” Proceedings of the 12th Conference of the European Chapter of the Association for Computational Linguistics, Association for Computational Linguistics, 2009.
【非特許文献２】Barzilay, Regina and Lapata, Mirella. “Modeling local coherence: An entitybased approach” Computational Linguistics Vol 34, MIT Press, 2008.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、従来手法によると、抽出法でも抽象化法でも、必ずしも人が読み易いとは言えない文章が生成されてしまう。
【０００７】
本発明では、人が読みやすい要約を得ることができる要約装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
上記目的を達成するために、第１の発明に係る要約装置は、文書に含まれる文を選択して要約を生成する要約装置であって、前記文書に含まれる複数の文の各々について、前記文に含まれる、エンティティと前記エンティティの状態を計算するエンティティ計算部と、前記エンティティ計算部によって前記複数の文の各々について計算されたエンティティと前記エンティティの状態に基づいて、前記エンティティの各々について、前記エンティティの状態ペア毎に、前記文書において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する確率を表す遷移確率を推定する確率推定部と、前記複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる前記文書の要約の候補を複数生成する文選択部と、前記確率推定部によって推定された前記遷移確率の各々と、前記文選択部によって生成された前記要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約に含まれる前記エンティティの各々についての、前記要約において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する前記遷移確率を用いて表されるコヒーレンススコア、及び前記エンティティの重みを用いて表される評価関数を最適化するように、前記要約の候補の各々から、前記文書の要約を選択する要約選択部と、を含んで構成されている。
【０００９】
第２の発明に係る要約方法は、文書に含まれる文を選択して要約を生成する要約方法であって、エンティティ計算部が、前記文書に含まれる複数の文の各々について、前記文に含まれる、エンティティと前記エンティティの状態を計算するステップと、確率推定部が、前記エンティティ計算部によって前記複数の文の各々について計算されたエンティティと前記エンティティの状態に基づいて、前記エンティティの各々について、前記エンティティの状態ペア毎に、前記文書において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する確率を表す遷移確率を推定するステップと、文選択部が、前記複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる前記文書の要約の候補を複数生成するステップと、要約選択部が、前記確率推定部によって推定された前記遷移確率の各々と、前記文選択部によって生成された前記要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約に含まれる前記エンティティの各々についての、前記要約において隣接する文のうちの前文での前記エンティティの状態が、後文での前記エンティティの状態へ遷移する前記遷移確率を用いて表されるコヒーレンススコア、及び前記エンティティの重みを用いて表される評価関数を最適化するように、前記要約の候補の各々から、前記文書の要約を選択するステップと、を含んで構成されている。
【００１０】
また、前記文選択部は、前記複数の文から、文の長さの総和が前記予め定められた長さ以下になるようにランダムに繰り返し選択された文からなる前記文書の要約の候補を複数生成するようにすることができる。
【００１１】
また、前記エンティティ計算部は、複数の文書に含まれる複数の文の各々について、前記文に含まれる、エンティティと前記エンティティの状態を計算し、前記確率推定部は、前記エンティティ計算部によって前記複数の文書に含まれる前記複数の文の各々について計算されたエンティティと前記エンティティの状態に基づいて、前記エンティティの各々について、前記エンティティの状態ペア毎に、前記遷移確率を推定し、前記文選択部は、前記複数の文書に含まれる前記複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる、前記複数の文書の要約の候補を複数生成し、前記要約選択部は、前記確率推定部によって推定された前記遷移確率の各々と、前記文選択部によって生成された前記要約の候補の各々と、複数の学習用文書と前記複数の学習用文書に対する要約の各々とから予め求められたエンティティの重みとに基づいて、前記評価関数を最適化するように、前記要約の候補の各々から、前記複数の文書の要約を選択するようにすることができる。
【００１２】
また、前記エンティティの重みは、複数の学習用文書と前記複数の学習用文書の各々に対する要約とから予め学習されたものであるようにすることができる。
【００１３】
また、前記要約選択部は、評価関数を最適化するように、前記要約の候補の各々から、前記文書の要約を選択し、かつ前記要約において隣接する文で共通する単語の割合が予め定められた閾値以下となるように、前記要約を生成するようにすることができる。
【００１４】
また、第３の発明のプログラムは、コンピュータを、上記の要約装置の各部として機能させるためのプログラムである。
【発明の効果】
【００１５】
以上説明したように、本発明の要約装置、方法、及びプログラムによれば、複数の文の各々について計算されたエンティティとエンティティの状態に基づいて、文書において隣接する文のうちの前文でのエンティティの状態が、後文でのエンティティの状態へ遷移する確率を表す遷移確率を推定し、複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる文書の要約の候補を複数生成し、推定された遷移確率の各々と、要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約において隣接する文のうちの前文でのエンティティの状態が、後文でのエンティティの状態へ遷移する遷移確率を用いて表されるコヒーレンススコア、及びエンティティの重みを用いて表される評価関数を最適化するように、要約の候補の各々から、文書の要約を選択することにより、人が読みやすい要約を得ることができる、という効果が得られる。
【図面の簡単な説明】
【００１６】
【図１】本発明の実施の形態に係る学習装置の機能的構成を示すブロック図である。
【図２】本発明の実施の形態に係る要約装置の機能的構成を示すブロック図である。
【図３】本発明の実施の形態に係る学習装置における学習処理ルーチンを示すフローチャート図である。
【図４】本発明の実施の形態に係る要約装置における要約処理ルーチンを示すフローチャート図である。
【図５】要約装置における文選択処理ルーチンを示すフローチャート図である。
【図６】実験によって得られた要約の例を示す図である。
【発明を実施するための形態】
【００１７】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００１８】
＜本発明の実施の形態の概要＞
本実施の形態は、自然言語処理の技術に属し、文書の自動要約に関連する。本実施の形態は、従来手法と比較して、読みやすい要約を生成することを目的とする。また、本実施の形態では、要約の方法として抽出法を対象とする。
【００１９】
本実施の形態では、生成された文書の品質を評価するためにエンティティを使用して、自動複数文書要約の品質を向上させることを目的とする。ここでは、単語であるエンティティと、当該エンティティの状態を用いる。本実施の形態は、生成された文書の一貫性と情報性を評価するためにエンティティに基づいて、評価関数を設計する。本実施の形態における要約文の生成とは、評価関数の最大化により、文書から複数文を選択することである。
【００２０】
要約化は、主要な情報を網羅する一連の文を生成することである。本実施の形態は、要約を生成するために重み付き最長パス問題を使用する。また、エンティティに基づいて、要約として適切かどうかを評価する最適化関数を設計する。これにより、文書の要約は、評価関数を最大化することにより一連の文を選択する問題として扱うことができる。
【００２１】
本実施の形態は、２つの主要な部分で構成されている。一つは、要約文の評価システムであり、もう一つは、要約のための複数文選択システムである。
【００２２】
本実施の形態では、重要な情報を網羅するように文を複数選択し、選択された複数の文が一貫した文書となるように並べ替える。また、各文は、要約に重要な情報を追加し、かつ、文書の一貫性を維持するように選ばれる。
【００２３】
＜問題の設定＞
まず、本実施の形態における問題の設定と、本実施の形態で用いる文選択アルゴリズムについて説明する。
【００２４】
［重み付き最長パス問題］
合計Ｌ個の文からなるＫ個の文書があると仮定する。すなわち、Ｋ個の文書に含まれる文の数が合計Ｌ個であると仮定する。これらのＫ個の文書の要約を生成する。要約を生成するために、Ｌ個の文から複数の文を選択する。上記のＬ個の文から抽出された文書Ｔが存在すると仮定する。文書ＴがＫ個の文書の要約として、どれほど適切かを評価するために関数を設計する。
【００２５】
既知の通り、優れた要約は、１）冗長性がなく、２）重要な情報を網羅し、３）可能な限り一貫性があるものである。評価関数は、この３点を反映している必要がある。
要約Ｔは、Ｍ個のエンティティ（単語）、Ｎ個の文からなり、以下の通り、Ｎ＜Ｌとなる。
【００２６】
【数１】
2017211784.tif 000003
【００２７】
ｒｉＡは、文Ａにおけるエンティティｅｉの状態を示す。「ｓｕｂｊ」、「ｏｂｊ」、「ｐｒｅｓｅｎｔ」および「ａｂｓｅｎｔ」という４種類の状態がある。「ｓｕｂｊ」は、エンティティｅｉが文Ａにおける主語であることを示す。「ｏｂｊ」は、エンティティｅｉが文Ａにおける目的語であることを示す。エンティティｅｉが文Ａに存在し、「ｓｕｂｊ」や「ｏｂｊ」に適合しない場合は、「ｐｒｅｓｅｎｔ」が使用される。「ａｂｓｅｎｔ」は、文Ａにおいて、エンティティｅｉが存在していないことを示す。エンティティｅｉの重み付けａｉは、ソース文書セットにおける、トークンの正規化頻度である。
【００２８】
Ｓｃｏｒｅ（Ｔ）は、生成された要約Ｔの総合的評価である。Ｓｃｏｒｅ（Ｔ）は、生成された要約Ｔが要約として、どれほど適切なのかという指標となる。要約を抽出する手法は、以下の式（２）に示すように、Ｓｃｏｒｅ（Ｔ）を最大化する一連の文Ｓｅｑを検出することである。
【００２９】
【数２】
2017211784.tif 000004
【００３０】
ａｉは、エンティティｅｉの重み付けであり、Ｆｉは、抽出した文字列のコヒーレンススコアである。上記のようにコヒーレンススコアＦｉは、要約に含まれるエンティティの各々についての、要約において隣接する文のうちの前文でのエンティティｅｉの状態ｒｊｉが、後文でのエンティティｅｉの状態ｒｊｉ＋１へ遷移する遷移確率ｐｅｉ（ｒｊｉｒｊｉ＋１）を用いて表される。本実施の形態で用いるモデルは、固定長の重み付けされた最長パス問題である。この問題は、一貫性と情報の網羅を考慮する。
【００３１】
さらに、冗長性を考慮する必要がある。すなわち、要約において、多くの単語を共有している文は、隣り合うべきではない。この制約により、ローカル冗長性とグローバル冗長性を削減することができる。
【００３２】
すなわち、要約において、すべての隣接文で以下の（４）式の制約を満たしているか否かを確認する。
【００３３】
Ｒ＝Ａ’∩Ｂ’／Ａ’∪Ｂ’    （３）
（Ａ’，Ｂ’は、それぞれ文Ａ，Ｂに含まれる単語セットである。）
Ｒ≦Ｔｈｒｅｓｈｏｌｄ１      （４）
【００３４】
上記式（３）において、分子は、文Ａと文Ｂとにおいて共通する単語の種類数である。また、分母は、文Ａと文Ｂとにおいて出現する単語の種類数である。
【００３５】
なお、Ｒ＞Ｔｈｒｅｓｈｏｌｄ１である場合、Ａ−Ｂ及びＢ−Ａの文の組み合わせを要約の候補を表すグラフから削除する。これにより、共通する単語が多い文同士は、要約において隣接した位置に配置されないようになる。
【００３６】
この式には冗長性の排除、情報の網羅、文の一貫性という、優れた要約を生成する３個の重要な要素が関係する。閾値Ｔｈｒｅｓｈｏｌｄ１およびエンティティの重み付けａｉは、実験によって予め決定される。
【００３７】
［文選択アルゴリズム］
本実施の形態では、文選択アルゴリズムとして、復号化アルゴリズムを利用する。復号化アルゴリズムは、ＮＰ困難問題であり、多項式時間アルゴリズムは存在しない。ランダム化されたアルゴリズムは迅速に近似解決法を得ることができる。本実施の形態では、すべての要件を満たす一連の文をランダムに選択する。また、本実施の形態では、この作業を数回繰り返して、要約の候補を複数生成し、スコアが最大となる要約の候補を、要約とする。選択処理の詳細は、アルゴリズム１に示す。
【００３８】
アルゴリズム１  ランダムアルゴリズム
初期化:
Ｕ←｛文書セットに存在するすべての文｝
Ｓ←｛｝空集合  （要約の候補集合）
Ｃ←｛｝空集合  （文集合）
ＲＥＰＥＡＴ：（一定回数繰り返し）
（文をランダムに選択する。ｓ∈Ｕ）
ＩＦ: ｌｅｎｔｈ（ｓ）＋Σｉ ｌｅｎｔｈ（ｓｉ）<= Ｔｈｒｅｓｈｏｌｄ２; ｓｉ∈Ｃ，ＴＨＥＮ
Ｕからｓを取り除き、ｓをＣの最後に付ける。
ＥＬＳＥ
ＣをＳに追加し、Ｃ，Ｕを初期化する。
ＥＮＤ ＩＦ
Ｏ ＝ ａｒｇｍａｘＴ Ｓｃｏｒｅ（Ｔ）; Ｔ∈Ｓ
ＲＥＴＵＲＮ Ｏ
【００３９】
＜本発明の実施の形態に係る学習装置の構成＞
次に、本発明の実施の形態に係る学習装置の構成について説明する。図１に示すように、本発明の実施の形態に係る学習装置１００は、ＣＰＵと、ＲＡＭと、後述する学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この学習装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、出力部３０とを備えている。
【００４０】
入力部１０は、複数の学習用文書を受け付ける。また、入力部１０は、複数の学習用文書の各々に対して予め用意された要約の各々を受け付ける。
【００４１】
演算部２０は、文書記憶部２１と、要約記憶部２２と、エンティティ計算部２３と、回帰分析部２４と、重み記憶部２５と、を含んで構成されている。
【００４２】
文書記憶部２１には、入力部１０において受け付けた複数の学習用文書が記憶されている。
【００４３】
要約記憶部２２には、入力部１０において受け付けた複数の要約が記憶されている。
【００４４】
エンティティ計算部２３は、文書記憶部２１に記憶された複数の学習用文書の各々について、当該学習用文書に含まれるエンティティを計算する。エンティティを計算する際に必要とされる事前処理には、語幹処理、及びストップワードの削除と単純化が含まれる。最初に必要なのは、エンティティを識別し、代名詞の照応を解決することである。本実施の形態では、利用可能なエンティティ識別ツールと照応解析ツールとしてStanford CoreNLPを使用する。例えば、エンティティとしては、形容詞の単語、副詞の単語、名詞の単語、代名詞の単語、及び動詞の単語の少なくとも１つが用いられる。なお、文脈を変更した際に代名詞の意味が変わる可能性があるため、代名詞は、代名詞が示すエンティティによって置き換えられる。
【００４５】
回帰分析部２４は、エンティティ計算部２３によって複数の学習用文書の各々について計算されたエンティティと、要約記憶部２２に記憶された複数の要約とから、論理的回帰分析法を用いて、各エンティティの重みａｉを学習する。また、冗長性の閾値も、実験よって決定する。エンティティの重みａｉは、複数の学習用文書と複数の学習用文書の各々に対する要約とから予め学習される。複数の学習用文書としては、例えばＤＵＣ２００３データを使用することができる。
【００４６】
重み記憶部２５には、回帰分析部２４によって得られた各エンティティの重みａｉが格納される。
【００４７】
出力部３０は、重み記憶部２５に記憶された各エンティティの重みａｉを結果として出力する。
【００４８】
＜本発明の実施の形態に係る要約装置の構成＞
次に、本発明の実施の形態に係る要約装置の構成について説明する。図２に示すように、本発明の実施の形態に係る要約装置２００は、ＣＰＵと、ＲＡＭと、後述する要約処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この要約装置２００は、機能的には図２に示すように入力部４０と、演算部５０と、出力部６０とを備えている。要約装置２００は、文書に含まれる文を選択して要約を生成する。
【００４９】
入力部４０は、要約対象の複数の文書を受け付ける。
【００５０】
演算部５０は、文書記憶部５１と、エンティティ計算部５２と、確率推定部５３と、遷移確率記憶部５４と、文選択部５５と、要約候補記憶部５６と、重み記憶部５７と、要約選択部５８と、を含んで構成されている。
【００５１】
文書記憶部５１には、入力部４０において受け付けた複数の文書が記憶される。
【００５２】
エンティティ計算部５２は、文書記憶部５１に記憶されている複数の文書に含まれる複数の文の各々について、当該文に含まれる、エンティティと当該エンティティの状態を計算する。
【００５３】
確率推定部５３は、エンティティ計算部５２によって複数の文の各々について計算されたエンティティと当該エンティティの状態に基づいて、エンティティｅｋの各々について、エンティティｅｋの状態ペア（ｍ，ｎ）毎に、文書において隣接する文のうちの前文でのエンティティｅｋの状態ｍが、後文でのエンティティｅｋの状態ｎへ遷移する確率を表す遷移確率ｐｅｋ（ｍｎ）を推定する。
【００５４】
具体的には、確率推定部５３は、文書記憶部５１に記憶された、複数の文書からなる文書セットにおいて、各文書に含まれる各エンティティに対し、以下の式（５）に示すように、遷移確率を推定する。
【００５５】
【数３】
2017211784.tif 000005
【００５６】
＃ｅｋ（ｍ）ｅｋ（ｎ）は、隣り合う文において、前文でｅｋが状態ｍを後文でｅｋが状態ｎを示す回数を、全文書を通して数え上げた数値であり、「Ｎ−Ｍ」は、文書数Ｍ、文数Ｎのデータにおける隣接文の組み合わせ数を示す。
【００５７】
遷移確率記憶部５４には、確率推定部５３によって推定された遷移確率の各々が格納される。
【００５８】
文選択部５５は、文書記憶部５１に記憶された、複数の文書の複数の文から、文の長さの総和が予め定められた長さＴｈｒｅｓｈｏｌｄ２以下になるようにランダムに繰り返し選択された文からなる要約の候補を複数生成する。
【００５９】
具体的には、文選択部５５は、文書記憶部５１に記憶された複数の文書の複数の文から、上記アルゴリズム１に従って選択された文からなる要約の候補を複数生成する。
【００６０】
要約候補記憶部５６には、文選択部５５によって得られた複数の要約の候補が格納される。
【００６１】
重み記憶部５７には、学習装置１００によって予め求められた各エンティティの重みａｉが記憶されている。
【００６２】
要約選択部５８は、遷移確率記憶部５４に記憶された遷移確率の各々と、要約候補記憶部５６に記憶された要約の候補の各々と、重み記憶部５７に記憶されたエンティティｅｉの重みａｉとに基づいて、コヒーレンススコアＦｉ及びエンティティの重みａｉとを用いて表される評価関数Ｓｃｏｒｅ（Ｔ）を最適化するように、要約候補記憶部５６に記憶された要約の候補の各々から、要約を選択する。
【００６３】
具体的には、要約選択部５８は、上記アルゴリズム１のうちの以下の式（６）に従って、要約候補記憶部５６に記憶された要約の候補の各々から、複数の文書の要約を選択する。
【００６４】
Ｏ ＝ ａｒｇｍａｘＴ Ｓｃｏｒｅ（Ｔ）; Ｔ∈Ｓ    （６）
【００６５】
また、要約選択部５８は、上記式（３），（４）に従って、要約の候補において隣接する文で共通する単語の割合が予め定められた閾値Ｔｈｒｅｓｈｏｌｄ１以下となるように、要約を生成する。
【００６６】
出力部６０は、要約選択部５８によって選択された要約を結果として出力する。
【００６７】
＜本発明の実施の形態に係る学習装置の作用＞
次に、本発明の実施の形態に係る学習装置１００の作用について説明する。入力部１０において、複数の学習用文書を受け付けると、複数の学習用文書が文書記憶部２１に記憶される。また、入力部１０において、複数の学習用文書の各々に対する要約の各々を受け付けると、複数の要約が要約記憶部２２に記憶される。そして、学習装置１００は、図３に示す学習処理ルーチンを実行する。
【００６８】
まず、ステップＳ１００において、エンティティ計算部２３は、文書記憶部２１に記憶された複数の学習用文書の各々について、当該学習用文書に含まれるエンティティｅｉを計算する。
【００６９】
次に、ステップＳ１０２において、回帰分析部２４は、上記ステップＳ１００で複数の学習用文書の各々について計算されたエンティティｅｉと、要約記憶部２２に記憶された複数の要約とから、論理的回帰分析法を用いて、各エンティティｅｉの重みａｉを学習する。
【００７０】
そして、ステップＳ１０４において、回帰分析部２４は、上記ステップＳ１０２で得られた各エンティティｅｉの重みａｉを重み記憶部２５に格納する。
【００７１】
そして、ステップＳ１０６において、上記ステップＳ１０４で重み記憶部２５に格納された、各エンティティｅｉの重みａｉを出力部３０により出力して、学習処理ルーチンを終了する。
【００７２】
＜本発明の実施の形態に係る要約装置の作用＞
次に、本発明の実施の形態に係る要約装置２００の作用について説明する。学習装置１００によって学習された各エンティティｅｉに対する重みａｉが、要約装置２００の重み記憶部５７に格納される。また、入力部４０において要約対象の複数の文書を受け付けると、要約装置２００の文書記憶部５１に格納される。要約装置２００は、図４に示す要約処理ルーチンを実行する。
【００７３】
まず、ステップＳ２０２において、文書記憶部５１に記憶された複数の文書の各々について、当該文書に含まれる各文を単語に切り分ける。そして、エンティティ計算部５２は、複数の文書に含まれる複数の文の各々について、当該文に含まれる、エンティティと当該エンティティの状態を計算する。
【００７４】
ステップＳ２０４において、確率推定部５３は、上記ステップＳ２０４で複数の文の各々について計算されたエンティティと当該エンティティの状態に基づいて、エンティティｅｋの各々について、状態ペア（ｍ、ｎ）毎に、上記式（５）に従って、遷移確率ｐｅｋ（ｍｎ）を推定する。そして、確率推定部５３は、推定された遷移確率ｐｅｋ（ｍｎ）の各々を、遷移確率記憶部５４に格納する。
【００７５】
ステップＳ２０６において、文選択部５５は、複数の文書の複数の文から、文の長さの総和が予め定められた長さＴｈｒｅｓｈｏｌｄ２以下になるようにランダムに繰り返し選択された文からなる要約の候補を複数生成する。ステップＳ２０８は、図５に示す文選択処理ルーチンによって実現される。
【００７６】
＜文選択処理ルーチン＞
ステップＳ３００において、文選択部５５は、複数の文書に存在するすべての文の集合Ｕ、要約の候補集合Ｓ、及び文集合Ｃを初期化する。なお、集合Ｕには、複数の文書に存在するすべての文を格納することで初期化を行う。また、要約の候補集合Ｓ及び文集合Ｃについては、空集合とすることで初期化を行う。
【００７７】
ステップＳ３０２において、文選択部５５は、上記ステップＳ３００で初期化された集合Ｕ、又は後述するステップＳ３１０で初期化された集合Ｕから、文ｓをランダムに選択する。
【００７８】
ステップＳ３０４において、文選択部５５は、前回のステップまでに選択された文ｓｉの長さの総和Σｉｌｅｎｇｔｈ(ｓｉ)と、上記ステップＳ３０２で選択された文ｓの長さｌｅｎｇｔｈ(ｓ)との総和が予め定められた長さＴｈｒｅｓｈｏｌｄ２以下であるか否かを判定する。長さの総和が予め定められた長さＴｈｒｅｓｈｏｌｄ２以下である場合には、ステップＳ３０６へ進む。一方、長さの総和が予め定められた長さＴｈｒｅｓｈｏｌｄ２より大きい場合には、ステップＳ３０８へ進む。
【００７９】
ステップＳ３０６において、文選択部５５は、上記ステップＳ３００で初期化された集合Ｃ又は前回の本ステップＳ３０６で更新された集合Ｃの最後に、上記ステップＳ３０２で選択された文ｓを追加して、上記ステップＳ３０２へ戻る。
【００８０】
ステップＳ３０８において、文選択部５５は、前回のステップまでに更新された集合Ｃを、上記ステップＳ３００で初期化された集合Ｓ又は前回の本ステップＳ３０８で更新された集合Ｓに追加する。要約の候補集合Ｓは、要約候補記憶部５６に記憶される。
【００８１】
ステップＳ３１０において、文選択部５５は、集合Ｃ及び集合Ｕを初期化する。
【００８２】
ステップＳ３１２において、文選択部５５は、上記ステップＳ３０２〜上記ステップＳ３１０の処理が一定数繰り返されたか否かを判定する。上記ステップＳ３０２〜上記ステップＳ３１０の処理が一定数繰り返された場合には、ステップＳ３１４へ進む。一方、上記ステップＳ３０２〜上記ステップＳ３１０の処理が一定数繰り返されていない場合には、ステップＳ３０２へ戻る。
【００８３】
ステップＳ３１４において、要約選択部５８は、上記ステップＳ２０４で遷移確率記憶部５４に記憶された遷移確率の各々と、上記ステップＳ３０８で要約候補記憶部５６に記憶された要約の候補の各々と、重み記憶部５７に記憶されたエンティティｅｉの重みａｉとに基づいて、式（６）に従って、要約候補記憶部５６に記憶された要約の候補の各々から、要約を選択する。
【００８４】
ステップＳ３１６において、上記ステップＳ３１４で得られた要約を出力して、文選択処理ルーチンを終了する。
【００８５】
次に、要約処理ルーチンに戻り、ステップＳ２０８において、要約選択部５８は、上記ステップＳ２０６で得られた要約から、上記式（３），（４）に従って、要約において隣接する文で共通する単語の割合が予め定められた閾値Ｔｈｒｅｓｈｏｌｄ１以下となるように、要約を生成する。ステップＳ２０８の処理により要約の冗長性が排除される。
【００８６】
ステップＳ２１０において、要約選択部５８は、上記ステップＳ２０８で得られた要約を出力部６０により出力して、要約処理ルーチンを終了する。
【００８７】
＜実施例＞
次に、本実施の形態の要約装置を用いた実験の結果を示す。
【００８８】
［実験の準備］
実験は、複数文書要約タスクである、ＤＵＣ２００４要約化タスクのデータセットを使用して行った。データセットは５０個の文書クラスタがあり、各クラスタには、１０個の文書が含まれる。各クラスタに対しては、１個の要約が生成される。目標の要約長は、１００単語である。なお、エンティティの重みａｉなどの各パラメータを決定するために、トレーニングデータとして、ＤＵＣ２００３のデータセットも利用可能である。図６に、実験の結果得られた要約の例を示す。
【００８９】
なお、ＲＯＵＧＥ−１のＦスコアは、人手による解析との相関が高いことが証明されているため、本実験では、結果の検討において、ＲＯＵＧＥ−１のＦスコアに注目する。
【００９０】
［関連手法との比較］
本実施の形態に係る要約装置と、広範囲に使用されている複数のシステムとを比較する。実験結果を表１に示す。ＭＥＡＤは、ランク付けアルゴリズムを採用するツールキットであり、ＭＥＡＤに含まれるＭＭＲ（Maximal Marginal Relevance）は複数文書の要約を生成する。ＭＫＭＣは、オリジナルの最大網羅方法である。
【００９１】
【表１】
2017211784.tif 000006
【００９２】
上記表１に示すように、本実施の形態は、一貫性を、要約システムを設計する際の重要な要素とみなし、エンティティを使用することにより、最新の最先端技術による結果とほぼ同等の結果を得ることができることがわかる。
【００９３】
以上説明したように、本発明の実施の形態に係る学習装置によれば、複数の学習用文書及び複数の学習用文書の各々に対する要約から、エンティティの重みを学習することにより、人が読みやすい要約を得るためのパラメータを得ることができる。
【００９４】
また、本発明の実施の形態に係る要約装置によれば、複数の文の各々について計算されたエンティティとエンティティの状態に基づいて、文書において隣接する文のうちの前文でのエンティティの状態が、後文でのエンティティの状態へ遷移する確率を表す遷移確率を推定し、複数の文から、文の長さの総和が予め定められた長さ以下になるように選択された文からなる文書の要約の候補を複数生成し、推定された遷移確率の各々と、要約の候補の各々と、予め求められたエンティティの重みとに基づいて、要約において隣接する文のうちの前文でのエンティティの状態が、後文でのエンティティの状態へ遷移する遷移確率を用いて表されるコヒーレンススコア、及びエンティティの重みを用いて表される評価関数を最適化するように、要約の候補の各々から、文書の要約を選択することにより、人が読みやすい要約を得ることができる。
【００９５】
また、エンティティの状態の遷移を表す遷移確率を用いて表されるコヒーレンススコア及びエンティティの重みを用いて表される評価関数を最適化するように、要約を選択することにより、重要な情報が網羅され、かつ文書の一貫性が維持されている要約を得ることができる。
【００９６】
また、上記評価関数を最適化するように要約を選択し、かつ要約において隣接する文で共通する単語の割合が予め定められた閾値以下となるように、要約を生成することにより、冗長性が排除された要約を得ることができる。
【００９７】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００９８】
例えば、上記実施の形態では、複数の文書に対する要約を生成する場合を例に説明したが、これに限定されるものではなく、１つの文書から要約を生成するようにしてもよい。
【００９９】
また、上記実施の形態の要約選択部５８は、評価関数を最適化するように要約を選択し、かつ要約において隣接する文で共通する単語の割合が予め定められた閾値以下となるように、要約を生成する処理を行う場合を例に説明したが、当該処理を行わなくてもよい。また、文を選択して要約の候補を生成する際に、隣接する文で共通する単語の割合が予め定められた閾値以下となるように、要約の候補を生成し、隣接する文で共通する単語の割合が閾値より大きい要約の候補を破棄するようにしてもよい。
【０１００】
また、学習装置と要約装置とを１つの装置で構成するようにしてもよい。
【０１０１】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能であるし、ネットワークを介して提供することも可能である。
【符号の説明】
【０１０２】
１０   入力部
２０   演算部
２１   文書記憶部
２２   要約記憶部
２３   エンティティ計算部
２４   回帰分析部
２５   重み記憶部
３０   出力部
４０   入力部
５０   演算部
５１   文書記憶部
５２   エンティティ計算部
５３   確率推定部
５４   遷移確率記憶部
５５   文選択部
５６   要約候補記憶部
５７   重み記憶部
５８   要約選択部
６０   出力部
１００ 学習装置
２００ 要約装置
【図１】
2017211784.tif 000007
【図２】
2017211784.tif 000008
【図３】
2017211784.tif 000009
【図４】
2017211784.tif 000010
【図５】
2017211784.tif 000011
【図６】
2017211784.tif 000012