(57)【特許請求の範囲】
【請求項１】
複数の文の言語情報、及び前記複数の文のそれぞれについての非言語情報を含む第１の文書及び第２の文書について、前記第１の文書と前記第２の文書との間で対応付けを行い、前記第１の文書に含まれる複数の文から、前記第２の文書に含まれる文の内容に関連する文を抽出する関連文書処理装置において、
前記第１の文書に関連した文書であって、話題毎に区切られ、かつ、複数の文の言語情報、及び前記複数の文のそれぞれについての非言語情報を含む補助文書から、前記話題毎に前記非言語情報を抽出し、前記非言語情報に対する前記文の頻度分布を表したパラメータを生成する補助文書パラメータ生成部と、
前記第１の文書から文を抽出し、前記文の言語的特徴を算出し、前記文の言語的特徴を含む第１の特徴量リストを生成すると共に、前記第２の文書から文を抽出し、前記文の言語的特徴を算出し、前記文の言語的特徴を含む第２の特徴量リストを生成する特徴抽出部と、
前記第１の文書に含まれる文と前記第２の文書に含まれる文との対について、前記特徴抽出部により生成された前記第１の特徴量リストに含まれる前記文の言語的特徴及び前記第２の特徴量リストに含まれる前記文の言語的特徴を用いて、前記文間の類似度を評価するための言語スコアを算出すると共に、
前記第１の文書に含まれる前記文の非言語情報及び前記第２の文書に含まれる前記文の非言語情報に基づいて、前記第１の文書に含まれる複数の文から、前記第２の文書に含まれる文の内容に関連する候補を特定し、
前記第２の文書に含まれる複数の文のそれぞれについて、前記候補、当該候補の非言語情報、及び当該候補との対についての前記言語スコアを含む対応候補リストを生成する言語的類似度評価部と、
前記補助文書パラメータ生成部により生成されたパラメータから、前記非言語情報に対する前記文の第１分布関数を求めると共に、
前記言語的類似度評価部により生成された前記対応候補リストに含まれる前記言語スコアを頻度とし、前記第２の文書に含まれる複数の文のそれぞれを基準にして、前記候補の非言語情報に対する前記候補の第２分布関数を求め、
前記第１分布関数及び前記第２分布関数の類似度を、前記非言語情報の類似度を評価するための総合スコアとして算出し、
前記総合スコアが所定の閾値以上であり、かつ前記第２分布関数の値である前記言語スコアが所定の閾値以上である前記候補を、前記第２の文書に含まれる文の内容に関連する文として抽出する非言語情報評価部と、
を備えたことを特徴とする関連文書処理装置。
【請求項２】
請求項１に記載の関連文書処理装置において、
前記非言語情報を、文の生成時刻または配信時刻を示す時刻情報とする、ことを特徴とする関連文書処理装置。
【請求項３】
複数の文、及び前記複数の文のそれぞれについての時刻情報を含む第１の文書及び第２の文書について、前記第１の文書及び前記第２の文書の間で対応付けを行い、前記第１の文書に含まれる複数の文から、前記第２の文書に含まれる文の内容に関連する文を抽出する関連文書処理装置において、
前記第１の文書に関連した文書であって、話題毎に区切られ、かつ、複数の文の言語情報、及び前記複数の文のそれぞれについての時刻情報を含む補助文書について、前記話題毎に、話題開始点を抽出してそれ以降の文の話題出現時刻を算出し、全ての前記話題について、前記話題出現時刻に対する前記文の頻度分布を予め定義した分布関数で近似し、話題出現時刻分布パラメータを算出する補助文書パラメータ生成部と、
前記第１の文書から文を抽出して前記文の文特徴量を算出し、前記文の文特徴量を含む第１の特徴量リストを生成すると共に、前記第２の文書から文を抽出し、前記文の文特徴量を算出し、前記文の文特徴量を含む第２の特徴量リストを生成する特徴抽出部と、
前記第１の文書に含まれる文と前記第２の文書に含まれる文との対について、前記特徴抽出部により生成された前記第１の特徴量リストに含まれる前記文の文特徴量及び前記第２の特徴量リストに含まれる前記文の文特徴量を用いて、前記文間の類似度を評価するための言語スコアを算出すると共に、
前記第２の文書に含まれる文の時刻情報の時刻を基準にして、所定時間内に前記第１の文書に含まれる文が現れる時刻を出現時刻として算出し、前記第１の文書に含まれる複数の文のうち前記所定時間内に現れる各文を、前記第２の文書に含まれる文の内容に関連する候補として特定し、
前記第２の文書に含まれる複数の文のそれぞれについて、前記候補、当該候補の前記出現時刻、及び当該候補との対についての前記言語スコアを含む言語スコア付き対応候補リストを生成する言語的類似度評価部と、
前記補助文書パラメータ生成部により生成された話題出現時刻分布パラメータから、前記話題出現時刻に対する前記文の第１分布関数を求め、
前記言語的類似度評価部により生成された前記言語スコア付き対応候補リストに含まれる前記言語スコアを頻度とし、前記第２の文書に含まれる複数の文のそれぞれを基準にして、前記候補の前記出現時刻に対する前記候補の第２分布関数を求め、
前記第１分布関数及び前記第２分布関数の類似度を、前記時刻情報の類似度を評価するための総合スコアとして算出し、
前記総合スコアが所定の閾値以上であり、かつ前記第２分布関数の値である前記言語スコアが所定の閾値以上である前記候補を、前記第２の文書に含まれる文の内容に関連する文として抽出する非言語情報評価部と、
を備えたことを特徴とする関連文書処理装置。
【請求項４】
コンピュータを、請求項１から３までのいずれか一項に記載の関連文書処理装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文書間で対応付けを行い、内容が関連する文を文書から抽出する関連文書処理装置及びプログラムに関する。
【背景技術】
【０００２】
従来、複数の文により構成される文書間で対応付けを行い、内容が関連する文を文書から抽出する技術が知られている。この文抽出技術は、例えば、放送波またはインターネット回線を介して発信され、サーバ等に格納されたトピック、コンテンツ等の文書を対象とし、計算機等にてアクセス可能な状態の文書から、所望の文を抽出する際に用いられる。複数のユーザにて共有するトピック、当該トピックを取り上げたコンテンツ等の文書の集合に対してアクセスが行われ、文書の集合から所望の文が取得される。
【０００３】
このような文抽出技術として、例えばWikipedia（ウィキペディア）エントリを利用する手法が知られている（例えば、非特許文献１を参照）。この手法は、各々の文に出現した単語に基づいて、直接的な文書間類似度を算出すると共に、Wikipediaエントリを介して関連する用語を抽出することで補助的な文書間類似度を算出し、これらの文書間類似度の重み付き和を求める。そして、抽出候補となる任意の文間の最終的な類似度を定義し、当該抽出候補をその最終的な類似度の降順に並べ替えることで、内容が関連する文を抽出する。
【０００４】
このとき、抽出候補の一方の文の内容を最も適切に反映したWikipediaエントリを、ユーザ自らが手動で選定することで、当該Wikipediaエントリを、類似度を補正するための外部知識として利用する。これにより、文書間の対応付けの精度を改善することができる。
【０００５】
また、他の文抽出技術として、文書の構造情報を利用する手法も知られている（例えば、非特許文献２を参照）。この手法は、抽出候補の各々の文について、節構造、段落構成等の構造情報を抽出し、構造情報に沿って部分文字列間の対応関係を探索する。そして、探索結果から文書間の各種編集操作（削除、挿入、置換等）についてコスト関数をそれぞれ類推し、コスト関数に基づいて文書間の類似度を算出する。
【０００６】
この文抽出技術によれば、文の構造情報を文書間の類似度計算に利用することで、要素の分割または順序の入れ替わりへの対応が可能となり、結果として、文書間の対応付けの精度を改善することができる。
【０００７】
一方で、テレビとインターネットとを同時並行して利用する技術によって、今までとは異なる新たな視聴スタイルが提供されつつある。このような新たな視聴スタイルにおいて、例えば放送番組のシーンと当該放送番組に対するツイートでの発言とを対応付けるために、新たな文抽出技術の開発が進められている（例えば、非特許文献３を参照）。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】佐藤由紀、横本大輔、中崎寛之、宇津呂武仁、吉岡真治、福原知宏、神門典子、中川裕志、清田陽司、「Wikipediaを介した関連ニュース・ブログ間の対応付け−Wikipediaエントリの分析−」、情報処理学会研究報告、Vol.2009-NL-194、No.10、pp.1-8、2009年
【非特許文献２】辻尾尚樹、清水敏之、吉川正俊、「構造を利用した文書間の粒度対応付け手法」、第５回データ工学と情報マネジメントに関するフォーラム講演論文集、B2-5、2013年
【非特許文献３】松井淳、小早川健、山内結子、「発言対象の番組シーン内容に基づいたツイート・データの可視化」、電子情報通信学会総合大会、情報・システム講演論文集１、D-9-12、p.124、2016年
【発明の概要】
【発明が解決しようとする課題】
【０００９】
前述の非特許文献１に記載された手法は、文書間の類似度を算出する際に、内容が関連する語句へのリンク情報が付与されたWikipediaエントリを利用する。これにより、文書毎に異なる表記のゆらぎがあったとしても、これに伴う問題を解消できることが期待される。
【００１０】
しかしながら、Microblog（マイクロブログ）等のようなインターネット上の膨大な文書の集合を解析対象とする場合、この手法では、適切なWikipediaエントリをユーザに逐一選定させる必要がある。このため、ユーザに対し多大な労力を強いることとなるという問題があった。つまり、この手法を用いることは、省力化の観点において不十分であり、現実的ではない。
【００１１】
また、前述の非特許文献２に記載された手法は、文書から節構造、段落構成等の構造情報を正しく抽出することが前提となっている。
【００１２】
しかしながら、この手法では、インターネット上におけるツイートのログのような文書の集合を解析対象とする場合、文書から構造情報を正しく抽出することが困難であるという問題があった。ツイートのログは、一文あたりの文字数が少なく、指示語の多用、語句の省略等の言語現象を伴う砕けた文体で記述されているからである。このため、この手法を用いた場合には、文を抽出する処理が、その前処理の段階で破綻する可能性が高い。
【００１３】
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、文書間で対応付けを行い、内容が関連する文を文書から抽出する際に、ユーザに多大な労力を強いることなく、かつ文抽出処理を頑健に実現可能な関連文書処理装置及びプログラムを提供することにある。
【課題を解決するための手段】
【００１４】
前記課題を解決するために、請求項１の関連文書処理装置は、複数の文の言語情報、及び前記複数の文のそれぞれについての非言語情報を含む第１の文書及び第２の文書について、前記第１の文書と前記第２の文書との間で対応付けを行い、前記第１の文書に含まれる複数の文から、前記第２の文書に含まれる文の内容に関連する文を抽出する関連文書処理装置において、前記第１の文書に関連した文書であって、話題毎に区切られ、かつ、複数の文の言語情報、及び前記複数の文のそれぞれについての非言語情報を含む補助文書から、前記話題毎に前記非言語情報を抽出し、前記非言語情報に対する前記文の頻度分布を表したパラメータを生成する補助文書パラメータ生成部と、前記第１の文書から文を抽出し、前記文の言語的特徴を算出し、前記文の言語的特徴を含む第１の特徴量リストを生成すると共に、前記第２の文書から文を抽出し、前記文の言語的特徴を算出し、前記文の言語的特徴を含む第２の特徴量リストを生成する特徴抽出部と、前記第１の文書に含まれる文と前記第２の文書に含まれる文との対について、前記特徴抽出部により生成された前記第１の特徴量リストに含まれる前記文の言語的特徴及び前記第２の特徴量リストに含まれる前記文の言語的特徴を用いて、前記文間の類似度を評価するための言語スコアを算出すると共に、前記第１の文書に含まれる前記文の非言語情報及び前記第２の文書に含まれる前記文の非言語情報に基づいて、前記第１の文書に含まれる複数の文から、前記第２の文書に含まれる文の内容に関連する候補を特定し、前記第２の文書に含まれる複数の文のそれぞれについて、前記候補、当該候補の非言語情報、及び当該候補との対についての前記言語スコアを含む対応候補リストを生成する言語的類似度評価部と、前記補助文書パラメータ生成部により生成されたパラメータから、前記非言語情報に対する前記文の第１分布関数を求めると共に、前記言語的類似度評価部により生成された前記対応候補リストに含まれる前記言語スコアを頻度とし、前記第２の文書に含まれる複数の文のそれぞれを基準にして、前記候補の非言語情報に対する前記候補の第２分布関数を求め、前記第１分布関数及び前記第２分布関数の類似度を、前記非言語情報の類似度を評価するための総合スコアとして算出し、前記総合スコアが所定の閾値以上であり、かつ前記第２分布関数の値である前記言語スコアが所定の閾値以上である前記候補を、前記第２の文書に含まれる文の内容に関連する文として抽出する非言語情報評価部と、を備えたことを特徴とする。
【００１５】
また、請求項２の関連文書処理装置は、請求項１に記載の関連文書処理装置において、前記非言語情報を、文の生成時刻または配信時刻を示す時刻情報とする、ことを特徴とする。
【００１６】
また、請求項３の関連文書処理装置は、複数の文、及び前記複数の文のそれぞれについての時刻情報を含む第１の文書及び第２の文書について、前記第１の文書及び前記第２の文書の間で対応付けを行い、前記第１の文書に含まれる複数の文から、前記第２の文書に含まれる文の内容に関連する文を抽出する関連文書処理装置において、前記第１の文書に関連した文書であって、話題毎に区切られ、かつ、複数の文の言語情報、及び前記複数の文のそれぞれについての時刻情報を含む補助文書について、前記話題毎に、話題開始点を抽出してそれ以降の文の話題出現時刻を算出し、全ての前記話題について、前記話題出現時刻に対する前記文の頻度分布を予め定義した分布関数で近似し、話題出現時刻分布パラメータを算出する補助文書パラメータ生成部と、前記第１の文書から文を抽出して前記文の文特徴量を算出し、前記文の文特徴量を含む第１の特徴量リストを生成すると共に、前記第２の文書から文を抽出し、前記文の文特徴量を算出し、前記文の文特徴量を含む第２の特徴量リストを生成する特徴抽出部と、前記第１の文書に含まれる文と前記第２の文書に含まれる文との対について、前記特徴抽出部により生成された前記第１の特徴量リストに含まれる前記文の文特徴量及び前記第２の特徴量リストに含まれる前記文の文特徴量を用いて、前記文間の類似度を評価するための言語スコアを算出すると共に、前記第２の文書に含まれる文の時刻情報の時刻を基準にして、所定時間内に前記第１の文書に含まれる文が現れる時刻を出現時刻として算出し、前記第１の文書に含まれる複数の文のうち前記所定時間内に現れる各文を、前記第２の文書に含まれる文の内容に関連する候補として特定し、前記第２の文書に含まれる複数の文のそれぞれについて、前記候補、当該候補の前記出現時刻、及び当該候補との対についての前記言語スコアを含む言語スコア付き対応候補リストを生成する言語的類似度評価部と、前記補助文書パラメータ生成部により生成された話題出現時刻分布パラメータから、前記話題出現時刻に対する前記文の第１分布関数を求め、前記言語的類似度評価部により生成された前記言語スコア付き対応候補リストに含まれる前記言語スコアを頻度とし、前記第２の文書に含まれる複数の文のそれぞれを基準にして、前記候補の前記出現時刻に対する前記候補の第２分布関数を求め、前記第１分布関数及び前記第２分布関数の類似度を、前記時刻情報の類似度を評価するための総合スコアとして算出し、前記総合スコアが所定の閾値以上であり、かつ前記第２分布関数の値である前記言語スコアが所定の閾値以上である前記候補を、前記第２の文書に含まれる文の内容に関連する文として抽出する非言語情報評価部と、を備えたことを特徴とする。
【００１７】
さらに、請求項４のプログラムは、コンピュータを、請求項１から３までのいずれか一項に記載の関連文書処理装置として機能させることを特徴とする。
【発明の効果】
【００１８】
以上のように、本発明によれば、文書間で対応付けを行い、内容が関連する文を文書から抽出する際に、ユーザに多大な労力を強いることがなく、かつ文抽出処理を頑健に実現することができる。
【図面の簡単な説明】
【００１９】
【図１】本発明の実施形態による関連文書処理装置の構成例を示すブロック図である。
【図２】話題境界タグ付き補助文書の例を示す図である。
【図３】話題出現時刻分布パラメータの例を示す図である。
【図４】一次文書の例を示す図である。
【図５】一次文書特徴量リストの例を示す図である。
【図６】二次文書の例を示す図である。
【図７】二次文書特徴量リストの例を示す図である。
【図８】言語スコア付き対応候補リストの例を示す図である。
【図９】対応リストの例を示す図である。
【図１０】話題出現時刻推定部の処理例を示すフローチャートである。
【図１１】特徴抽出部の処理例を示すフローチャートである。
【図１２】言語的類似度評価部の処理例を示すフローチャートである。
【図１３】非言語情報評価部の処理例を示すフローチャートである。
【図１４】話題境界タグ付き補助文書の文の話題開始点を基準にして、各文の話題出現時刻の頻度分布を表した分布関数Ｑ（ｔ）の例を示す図である。
【図１５】二次文書の文の出現時刻を基準にして、一次文書の文の各候補ｄ１_ｉにおける出現時刻の頻度分布を表した分布関数Ｐ（ｔ）、閾値φ及び区間［ｔ_Ａ，ｔ_Ｂ］の例を示す図である。
【発明を実施するための形態】
【００２０】
以下、本発明を実施するための形態について図面を用いて詳細に説明する。本発明は、部分的に内容が対応する２つの異なる文書について、各々の文書を構成する複数の文のそれぞれに、時刻情報等の非言語情報が付与されていることを前提とする。本発明は、一方の文書の文と他方の文書の文との間の意味的な類似度と共に非言語情報を用いて、両文書間で対応付けを行い、一方の文書の文と内容が関連する文を他方の文書から抽出することを特徴とする。
【００２１】
これにより、時刻情報等の非言語情報を用いるようにしたから、文書間で異なる言語表現が用いられている場合であっても、文書間で高精度の対応付けを行うことができる。したがって、非特許文献１に記載されているようなユーザによる選択作業が不要となるから、ユーザに多大な労力を強いることなく文抽出処理を行うことができる。また、本発明の文抽出処理は文の構造情報を抽出するものではないから、前処理の段階で破綻することがなく、文抽出処理を頑健に実現することができる。
【００２２】
２つの異なる文書は、例えば、ユーザの情報発信（例えばツイート）の契機となる事象または特定のメディアコンテンツの内容が記述された文書、及び、当該ツイートのログ等が記述された文書である。以下、前者の文書を一次文書といい、後者の文書を二次文書という。
【００２３】
前述のとおり、二次文書は、一文あたりの文字数が一次文書よりも少ない短文で構成され、かつ一次文書よりも砕けた文体で記述されているものとする。一次文書及び二次文書は、それぞれ他方の文書の一部の内容に対応（関連）する文で構成され、かつ、両文書間で、対応関係が明示的に示されていない。
【００２４】
以下、一次文書（例えばツイートの契機となった放送番組の字幕テキスト）と二次文書（例えばツイートのログ）との間で対応付けを行い、二次文書の文について、その内容に関連する文を一次文書から抽出する文抽出処理について説明する。
【００２５】
〔全体構成〕
まず、本発明の実施形態による関連文書処理装置の全体構成について説明する。図１は、本発明の実施形態による関連文書処理装置の構成例を示すブロック図である。この関連文書処理装置１は、話題出現時刻推定部（補助文書パラメータ生成部）１０、特徴抽出部２０、言語的類似度評価部３０及び非言語情報評価部４０を備えている。
【００２６】
話題出現時刻推定部１０は、話題境界タグ付き補助文書を受け取る（入力する）。話題境界タグ付き補助文書は、後述の特徴抽出部２０等が受け取る一次文書に関連する、話題毎に区切られた文書であって、話題の寿命の長さ（時間長）が一次文書と同じものをいう。この話題境界タグ付き補助文書は、一次文書に出現するそれぞれの話題の寿命の長さに関する統計的な情報を参照するために用いられる。
【００２７】
例えば、一次文書が放送番組の字幕テキストからなる文書である場合、話題境界タグ付き補助文書は、話題毎に区切られた文書であって、同じ放送番組の異なる放送回についての字幕テキストからなる文書であってもよい。また、一次文書の放送番組に関する進行予定表や台本等のような、一次文書の内容（字幕テキスト）とその話題の境界を特定するデータが入手可能である場合には、話題境界タグ付き補助文書は、一次文書と同じ内容を含む進行予定表や台本等であってもよい。つまり、話題境界タグ付き補助文書は、話題の境界を特定可能な文書であれば、一次文書と内容が同じであってもよいし、内容が異なっていてもよい。
【００２８】
図２は、話題境界タグ付き補助文書の例を示す図である。図２の右側の枠内に、話題境界タグ付き補助文書の例が示されている。この話題境界タグ付き補助文書は、所定のタグ（話題境界タグ＃）にて話題毎に区切られた複数の文の集合からなり、複数の文のそれぞれには文の時刻（文時刻）が付与されている。話題境界タグ＃は、複数の文の集合に対応した話題毎に付与されており、その話題における先頭の文の時刻を話題開始点という。
【００２９】
図２の例では、複数の文「寒い！」「吹雪いてます！」等の文時刻は「１９：３０：０６」「１９：３０：１９」等であり、最初の話題における話題開始点は「１９：３０：０６」である。図２の左側の枠内に、話題毎の話題開始点及び後述する話題出現時刻が示されている。
【００３０】
図２の例における文時刻は、放送番組として当該文が配信された時刻（配信時刻）である。尚、文時刻は、当該文が生成された時刻（生成時刻）であってもよい。後述する図４〜図７等についても同様である。
【００３１】
図１に戻って、話題出現時刻推定部１０は、話題境界タグ付き補助文書から話題境界タグ＃を用いて話題の境界を抽出し、話題境界タグ＃で区切られた複数の文の集合からなる話題毎に、話題の起点である話題開始点を抽出する。そして、話題出現時刻推定部１０は、話題の最初の文の文時刻である話題開始点とその他の文の文時刻との間の差分を算出し、話題出現時刻を求める。図２の例では、左側の枠内に示すように、「＞」の右側の時刻が話題出現時刻である。
【００３２】
話題出現時刻推定部１０は、話題境界タグ付き補助文書全体について（全ての話題について）、話題出現時刻の頻度分布（確率分布）を予め定義した分布関数で近似してモデルパラメータを算出し、これを、話題出現時刻を推定するための話題出現時刻分布パラメータとする。そして、話題出現時刻推定部１０は、話題出現時刻分布パラメータを非言語情報評価部４０に出力する。
【００３３】
図３は、話題出現時刻分布パラメータの例を示す図である。この話題出現時刻分布パラメータは、話題出現時刻の頻度分布を特徴付けるためのガンマ分布のパラメータであり、シェープ（ｓｈａｐｅ）パラメータ及びレート（ｒａｔｅ）パラメータからなる。図３に示す話題出現時刻分布パラメータの例では、シェープパラメータが1.98859938であり、レートパラメータが0.05223303である。これらのパラメータから、話題出現時刻の頻度分布を特定することができる。シェープパラメータは、ガンマ分布の形状母数ｋであり、レートパラメータは、ガンマ分布のスケール（ｓｃａｌｅ）パラメータλの逆数である。
【００３４】
図１に戻って、特徴抽出部２０は、一次文書及び二次文書を受け取り、各文書について、文の言語的特徴及び文の非言語情報を抽出し、一次文書特徴量リスト及び二次文書特徴量リストを生成する。そして、特徴抽出部２０は、一次文書特徴量リスト及び二次文書特徴量リストを言語的類似度評価部３０に出力する。
【００３５】
図４は、一次文書の例を示す図である。一次文書は、例えば、ユーザの情報発信（例えばツイート）の契機となる事象または特定のメディアコンテンツの内容が記述された文書であり、複数の文の集合、及び複数の文のそれぞれに対応する時刻（文時刻）から構成される。
【００３６】
図４の例では、複数の文は、「タモリさん。はい。」「「長崎市」って書いてあります。ええ「長崎市」。」等であり、これらの文に対応する文時刻は、「2015/04/11 19:40:38」「2015/04/11 19:40:47」等である。
【００３７】
図５は、一次文書特徴量リストの例を示す図である。一次文書特徴量リストは、一次文書に含まれる複数の文のそれぞれについて、当該文から抽出された文特徴量である言語的特徴（言語的特徴量）、及び当該文に対応する文時刻である非言語情報から構成される。
【００３８】
図５の例では、図４に示した一次文書の文に対応する文時刻である非言語情報は、「2015/04/11 19:40:38」「2015/04/11 19:40:47」等である。また、図４に示した一次文書の文に対応する文特徴量である言語的特徴は、「0.1139・・・」「0.3839・・・」等である。
【００３９】
図６は、二次文書の例を示す図である。二次文書は、例えばツイートのログであり、複数の文の集合、複数の文のそれぞれに対応するユーザＩＤ及び文時刻から構成される。
【００４０】
図６の例では、複数の文は、「長崎のごみ収集凄い」「ドンドン坂。・・・」等であり、これらの文に対応するユーザＩＤは、「id58684176・・・」「id58684179・・・」等である。また、これらの文に対応する文時刻は、「2015/04/11 19:42:02」「2015/04/11 19:42:49」等である。
【００４１】
図７は、二次文書特徴量リストの例を示す図である。二次文書特徴量リストは、二次文書に含まれる複数の文のそれぞれについて、当該文から抽出された文特徴量である言語的特徴、及び当該文に対応するユーザＩＤ及び文時刻である非言語情報から構成される。
【００４２】
図７の例では、図６に示した二次文書の文に対応するユーザＩＤ及び文時刻である非言語情報は、「id5868417・・・，2015/04/11 19:42:02」「id58684179・・・，2015/04/11 19:42:49」等である。また、図６に示した二次文書の文に対応する文特徴量である言語的特徴は、「0.0833・・・」「0.7538・・・」等である。
【００４３】
図１に戻って、言語的類似度評価部３０は、一次文書及び二次文書を受け取ると共に、特徴抽出部２０から一次文書特徴量リスト及び二次文書特徴量リストを受け取る。そして、言語的類似度評価部３０は、一次文書及び二次文書の文の対について、一次文書特徴量リスト及び二次文書特徴量リストを用いて、言語的な類似度を評価するための言語スコアを算出する。
【００４４】
言語的類似度評価部３０は、二次文書の文の時刻を基準にして、所定時間内に一次文書の文が現れる時刻を出現時刻として算出し、二次文書の文と所定時間内に現れる一次文書の各文（候補）との間の類似度を算出し、これを言語スコアとする。言語的類似度評価部３０は、二次文書の文を基準にして、所定時間内に現れる一次文書の各文（候補）について、言語スコア及び出現時刻を含む言語スコア付き対応候補リストを生成し、これを非言語情報評価部４０に出力する。
【００４５】
図８は、言語スコア付き対応候補リストの例を示す図である。言語スコア付き対応候補リストは、二次文書に含まれる複数のユーザＩＤ、文時刻及び文のそれぞれについて、当該文時刻を基準にした所定時間内の一次文書に含まれる文時刻及び文（候補）、並びにその言語スコア及び出現時刻から構成される。出現時刻は、二次文書の文の時刻を基準にして、一次文書の文が現れる時刻を示す。
【００４６】
図８では、例えば、二次文書に含まれるユーザＩＤ、文時刻及び文「id5868417・・・，2015/04/11 19:42:02，長崎のごみ収集凄い」について、当該文時刻「2015/04/11 19:42:02」を基準にした所定時間内の一次文書に含まれる文時刻及び文（候補）、並びにその言語スコア及び出現時刻は、「(0.10141，00:01:24)  19:40:38，タモリさん。はい。」等である。「(0.10141，00:01:24)」は（言語スコア，出現時刻）を示し、「19:40:38」は一次文書に含まれる文時刻を示し、「タモリさん。はい。」は一次文書に含まれる文を示す。
【００４７】
図１に戻って、非言語情報評価部４０は、話題出現時刻推定部１０から話題出現時刻分布パラメータを受け取ると共に、言語的類似度評価部３０から言語スコア付き対応候補リストを受け取る。そして、非言語情報評価部４０は、言語スコア付き対応候補リストに含まれる二次文書の文と一次文書の文（候補）との対について、言語スコア及び出現時刻を抽出する。
【００４８】
非言語情報評価部４０は、話題出現時刻分布パラメータから話題出現時刻の分布を求めると共に、言語スコアを出現頻度とみなして、言語スコア付き対応候補リストから、二次文書の文を基準とした一次文書の各文（候補）の出現時刻の分布を求める。そして、非言語情報評価部４０は、話題出現時刻の分布と、二次文書の文を基準とした一次文書の文（候補）の出現時刻の分布との間の類似度を、非言語情報の類似度（出現時刻の類似度）を評価するための総合的なスコア（総合スコア）とする。そして、非言語情報評価部４０は、二次文書の各々の文について、総合スコアが高い一次文書の文（候補）であって、かつ言語スコアの高い文（候補）を、二次文書の文に関連する文として決定する。非言語情報評価部４０は、二次文書の文と当該文に関連する一次文書の文との対を列挙して対応リストを生成し、これを出力する。
【００４９】
図９は、対応リストの例を示す図である。対応リストは、二次文書に含まれる複数のユーザＩＤ、文時刻及び文のそれぞれについて、非言語情報による総合スコアが高く、かつ言語的類似度の高い一次文書に含まれる文時刻及び文、並びにその言語スコア及び出現時刻から構成される。
【００５０】
図９では、例えば、二次文書に含まれるユーザＩＤ、文時刻及び文「id5868417・・・，2015/04/11 19:42:02，長崎のごみ収集凄い」について、総合評価の高い一次文書に含まれる文時刻及び文、並びにその言語スコア及び出現時刻は、「(0.31436，00:00:53)  19:41:09，そう  これは坂の町の・・・」等である。「(0.31436，00:00:53) 」は（言語スコア，出現時刻）を示し、「19:41:09」は一次文書に含まれる文時刻を示し、「そう  これは坂の町の・・・」は一次文書に含まれる文を示す。
【００５１】
〔話題出現時刻推定部１０〕
次に、図１に示した話題出現時刻推定部１０について詳細に説明する。図１０は、話題出現時刻推定部１０の処理例を示すフローチャートである。話題出現時刻推定部１０は、話題境界タグ付き補助文書を受け取り（ステップＳ１００１）、話題境界タグ付き補助文書から話題境界タグ＃を抽出し、これを話題の境界として検出する（ステップＳ１００２）。以下、インデックスｉは話題の番号を示し、正の整数である。以下のステップＳ１００３〜ステップＳ１００５の処理は、ｉ＝１，２，・・・の順番に行われる。
【００５２】
話題出現時刻推定部１０は、ｉ番目の話題について、当該話題の開始点にあたる先頭の文の時刻情報を抽出し、これを話題開始点ｔ_ｉ（０）に設定する（ステップＳ１００３）。そして、話題出現時刻推定部１０は、ｉ番目の話題について、二番目以降の各文の時刻ｔ_ｉと話題開始点ｔ_ｉ（０）との間の差分Δｔ＝ｔ_ｉ− ｔ_ｉ（０）を算出し、これを二番目以降の各文の話題出現時刻に設定する（ステップＳ１００４）。
【００５３】
話題出現時刻推定部１０は、インデックスｉが終端であるか否かを判定し（ステップＳ１００５）、インデックスｉが終端でないと判定した場合（ステップＳ１００５：Ｎ）、インデックスｉをインクリメントしてステップＳ１００３へ移行する。一方、話題出現時刻推定部１０は、ステップＳ１００５において、インデックスｉが終端であると判定した場合（ステップＳ１００５：Ｙ）、ステップＳ１００６へ移行する。
【００５４】
これにより、インデックスｉが終端に至るまでの間、ステップＳ１００３及びステップＳ１００４の処理が行われ、全ての話題について、先頭の文を基準とした二番目以降の各文の話題出現時刻が算出され、話題出現時刻に関するサンプル系列｛Δｔ｝が得られる。
【００５５】
話題出現時刻推定部１０は、ステップＳ１００５から移行して、全ての話題について算出した二番目以降の各文における話題出現時刻のサンプル系列｛Δｔ｝が従う頻度分布を、分布関数Ｑ（ｔ）で近似する（ステップＳ１００６）。そして、話題出現時刻推定部１０は、分布関数Ｑ（ｔ）を表すモデルパラメータを算出し（ステップＳ１００７）、モデルパラメータを話題出現時刻分布パラメータとして非言語情報評価部４０に出力する（ステップＳ１００８）。
【００５６】
図１４は、話題境界タグ付き補助文書について、話題開始点を基準とした各文の話題出現時刻の頻度分布を表した分布関数Ｑ（ｔ）の例を示す図である。図１４において、横軸は、話題出現時刻を示し、縦軸は、話題出現時刻の文の数を正規化した頻度（Density）を示す。
【００５７】
図１４の矩形で示した頻度分布は、所定の時間幅毎に、話題出現時刻が矩形の当該時間幅の時間に含まれる文の数を頻度として表した分布である。また、曲線で示した頻度分布は、矩形で示した頻度分布が近似された分布関数Ｑ（ｔ）である。
【００５８】
分布関数Ｑ（ｔ）は、話題境界タグ付き補助文書の全ての話題について、話題開始点を基準にして、二番目以降の文が出現する頻度を時刻毎に表した分布、すなわち、話題出現時刻に対する文の頻度分布を示している。この分布関数Ｑ（ｔ）から、当該分布関数Ｑ（ｔ）を特徴付けるモデルパラメータが算出され、話題出現時刻分布パラメータが得られる。後述する非言語情報評価部４０により、話題出現時刻分布パラメータに基づいて、分布関数Ｑ（ｔ）が復元される。
【００５９】
尚、ステップＳ１００６及びステップＳ１００７の処理（全ての話題についての二番目以降の話題出現時刻に関するサンプル系列｛Δｔ｝から、分布関数Ｑ（ｔ）のモデルパラメータを算出する処理）は、一般的な分布関数に利用可能な処理であれば何でもよい。例えば、以下の非特許文献４に記載された手法（統計解析ツールＲのパッケージfitdistrplusが用意する分布推定コマンド：fitdistを利用する手法）を用いることができる。
［非特許文献４］  CRAN - Package fitdistrplus
Marie Laure Delignette-Muller, Christophe Dutang, Regis Pouillot, Jean-Baptiste Denis, “ Package‘fitdistrplus’： Help to Fit of a Parametric Distribution to Non-Censored or Censored Data,” http://cran.r-project.org/web/packages/fitdistrplus/fitdistrplus.pdf
【００６０】
〔特徴抽出部２０〕
次に、図１に示した特徴抽出部２０について詳細に説明する。図１１は、特徴抽出部２０の処理例を示すフローチャートである。特徴抽出部２０は、一次文書及び二次文書を受け取り（ステップＳ１１０１）、各文書に含まれる文を、形態素解析にて単語単位に分割する（ステップＳ１１０２）。
【００６１】
特徴抽出部２０は、ステップＳ１１０２にて分割した単語ｗの言語的特徴を、１００次元程度のベクトル（単語特徴量）ｖ∈Ｒ＾Ｎとして算出する（ステップＳ１１０３）。Ｒ＾Ｎは実数のＮ次元ベクトルを示し、
0006700987.tif 000002
である。
【００６２】
特徴抽出部２０は、単語ｗ毎に算出した単語特徴量の系列｛ｖ｝に基づいて、各文の特徴量（文特徴量）ｃ∈Ｒ＾Ｎを算出する（ステップＳ１１０４）。これにより、一次文書及び二次文書の全ての文について、文特徴量の系列｛ｃ｝が得られる。
【００６３】
特徴抽出部２０は、各文書から文の非言語情報を抽出する（ステップＳ１１０５）。これにより、一次文書から文毎に、非言語情報として文時刻が抽出され、二次文書から文毎に、非言語情報としてユーザＩＤ及び文時刻が抽出される。
【００６４】
特徴抽出部２０は、一次文書について、文の言語的特徴量（文特徴量）及び文の非言語情報（文時刻）を含む一次文書特徴量リストを生成し、一次文書特徴量リストを言語的類似度評価部３０に出力する（ステップＳ１１０６）。
【００６５】
特徴抽出部２０は、二次文書について、文の言語的特徴量（文特徴量）及び文の非言語情報（ユーザＩＤ及び文時刻）を含む二次文書特徴量リストを生成し、二次文書特徴量リストを言語的類似度評価部３０に出力する（ステップＳ１１０７）。
【００６６】
尚、ステップＳ１１０２の処理（各文書に含まれる文を単語単位に分割する処理）は、分かち書きされていない文字列を単語列に分割可能な処理であれば何でもよい。例えば、以下の非特許文献５に記載された手法（条件付き確率場を用いた単語分割手法（ＭｅＣａｂ））を用いることができる。
［非特許文献５］  条件付き確率場を用いた単語分割と品詞推定手法
Taku Kudo, Kaoru Yamamoto, Yuji Matsumoto,“ Applying Conditional Random Fields to Japanese Morphological Analysis,” Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing（EMNLP-2004）, pp.230-237, 2004年
【００６７】
また、ステップＳ１１０３の処理（単語特徴量を算出する処理）は、単語間の意味的な関係（意味が似ている、似ていない等）を平均、和、差等の算術演算にて求めることが可能な処理あれば何でもよい。
【００６８】
例えば、以下の非特許文献６に記載された手法を用いることができる。この手法は、別途与えられた大規模コーパスに出現した各々の単語について、単語間の意味的な関係（類似関係）を保持させながら、予め設定された次元数のベクトル空間にそれぞれ配置した分散表現を、ニューラルネットワークを用いて獲得することで、単語特徴量を算出する。
［非特許文献６］  ニューラルネットワークと大規模コーパスを用いた単語の分散表現獲得手法（ｗｏｒｄ２ｖｅｃ）
Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg Corrado, and Jeffrey Dean, “Distributed Representations of Words and Phrases and their Compositionality,” In Proceedings of the 27th Annual Conference on Neural Information Processing Systems(NIPS2013), 2013年
【００６９】
また、ステップＳ１１０４の処理（単語特徴量の系列｛ｖ｝に基づいて文特徴量ｃを算出する処理）は、個々の単語特徴量ｖの成分が文特徴量ｃの成分に反映され、かつ、文特徴量ｃによって任意の文間の言語的な類似関係を数理的に計算可能な処理であれば何でもよい。例えば、非特許文献６に記載された手法（ｗｏｒｄ２ｖｅｃ）を用いて単語特徴量が算出される場合には、各々の文についての単語特徴量の系列｛ｖ｝の平均値μ＝Ｅ［ｖ］を文特徴量ｃとする手法を用いることができる。
【００７０】
〔言語的類似度評価部３０〕
次に、図１に示した言語的類似度評価部３０について詳細に説明する。図１２は、言語的類似度評価部３０の処理例を示すフローチャートである。言語的類似度評価部３０は、一次文書及び二次文書を受け取ると共に（ステップＳ１２０１）、特徴抽出部２０から一次文書特徴量リスト及び二次文書特徴量リストを受け取る（ステップＳ１２０２）。そして、言語的類似度評価部３０は、二次文書の文を先頭から順番に抽出し（ステップＳ１２０３）、一次文書の文を先頭から順番に抽出する（ステップＳ１２０４）。
【００７１】
言語的類似度評価部３０は、二次文書の文及び一次文書の文について、二次文書の文を基準にした文時刻の相対的な時刻関係が所定の時間長の範囲内であるか否かを判定する（ステップＳ１２０５）。すなわち、言語的類似度評価部３０は、抽出した二次文書の文に対応する文時刻を基準にして、抽出した一次文書の文時刻が所定時間内であるか否かを判定する。
【００７２】
言語的類似度評価部３０は、ステップＳ１２０５において、文時刻の時刻関係が所定の範囲内であると判定した場合（ステップＳ１２０５：Ｙ）、二次文書の文及び一次文書の文の対について、言語的な類似度を表す意味的文間距離である言語スコアを算出する（ステップＳ１２０６）。具体的には、言語的類似度評価部３０は、二次文書特徴量リストから、二次文書の文の文特徴量ｃ_２を抽出すると共に、一次文書特徴量リストから、一次文書の文の文特徴量ｃ_１を抽出する。そして、言語的類似度評価部３０は、これらの文特徴量ｃ_１，ｃ_２に基づいて、両文の対についての言語スコアｌ（ｃ_１, ｃ_２）を算出する。
【００７３】
言語的類似度評価部３０は、二次文書の文及び一次文書の文の対について算出した言語スコアｌ（ｃ_１, ｃ_２）等を、言語スコア付き対応候補リストに記録する（ステップＳ１２０７）。
【００７４】
一方、言語的類似度評価部３０は、ステップＳ１２０５において、文時刻の時刻関係が所定の範囲内でないと判定した場合（ステップＳ１２０５：Ｎ）、一次文書の文が当該一次文書の終端であるか否かを判定する（ステップＳ１２０８）。
【００７５】
言語的類似度評価部３０は、ステップＳ１２０８において、一次文書の文が終端でないと判定した場合（ステップＳ１２０８：Ｎ）、ステップＳ１２０４へ移行し、一次文書から次の行の文を抽出する。そして、言語的類似度評価部３０は、一次文書の文が終端に至までの間、ステップＳ１２０４〜ステップＳ１２０７の処理を行う。
【００７６】
これにより、図８の例では、二次文書の文が「長崎のごみ収集凄い」の場合、当該文と、文時刻の時刻関係が所定の範囲内である二次文書の各文「タモリさん。はい。」「「長崎市」って書いて・・・」・・・「そうこうしているうちに・・・」との間の言語スコアが算出され、言語スコア付き対応候補リストに記録される。
【００７７】
図１２に戻って、言語的類似度評価部３０は、ステップＳ１２０８において、一次文書の文が終端であると判定した場合（ステップＳ１２０８：Ｙ）、二次文書の文が当該二次文書の終端であるか否かを判定する（ステップＳ１２０９）。
【００７８】
言語的類似度評価部３０は、ステップＳ１２０９において、二次文書の文が終端でないと判定した場合（ステップＳ１２０９：Ｎ）、ステップＳ１２０３へ移行し、二次文書から次の行の文を抽出する。そして、言語的類似度評価部３０は、二次文書の文が終端に至までの間、ステップＳ１２０３〜ステップＳ１２０７の処理を行う。
【００７９】
言語的類似度評価部３０は、ステップＳ１２０９において、二次文書の文が終端であると判定した場合（ステップＳ１２０９：Ｙ）、言語スコア付き対応候補リストを非言語情報評価部４０に出力する（ステップＳ１２１０）。
【００８０】
これにより、図８の例では、二次文書の文「長崎のごみ収集凄い」「ドンドン坂。・・・」「石のＵ字溝」のそれぞれについて、文時刻の時刻関係が所定の範囲内である一次文書の各文、及びこれらの文間の言語スコアを含む言語スコア付き対応候補リストが出力される。この場合、言語スコア付き対応候補リストに含まれる一次文書の各文は、二次文書の文に関連する文を採択するための候補である。
【００８１】
尚、ステップＳ１２０６の処理（二次文書の文及び一次文書の文の対について、文特徴量ｃ_１，ｃ_２に基づいて言語スコアｌ（ｃ_１, ｃ_２）を算出する処理）は、対応する一対の文の意味的な類似関係が反映され、かつ、その値域が非負となる言語スコアを算出する処理であれば何でもよい。
【００８２】
例えば、非特許文献６に記載された手法（ｗｏｒｄ２ｖｅｃ）を用いて単語特徴量が算出され、単語特徴量の平均を文特徴量とした場合を想定する。この場合、文特徴量を表す多次元ベクトルの対のコサイン類似度ｃｏｓ（ｃ_１, ｃ_２）を算出し、シグモイド関数を用いて値域が［０, １］の区間に収まるように変換した言語スコアｌ（ｃ_１, ｃ_２）を算出する手法を用いることができる。
【００８３】
コサイン類似度ｃｏｓ（ｃ_１, ｃ_２）は、以下の数式１により算出される。コサイン類似度ｃｏｓ（ｃ_１, ｃ_２）の範囲は−１〜＋１である。また、言語スコアｌ（ｃ_１, ｃ_２）は、以下の数式２により算出される。言語スコアｌ（ｃ_１, ｃ_２）の範囲は０〜１である。数式２により、数式１の範囲−１〜＋１が０〜１に変換される。これにより、後述の非言語情報評価部４０において、言語スコアｌ（ｃ_１, ｃ_２）を頻度として使用することができる。
【数１】
0006700987.tif 000003
【数２】
0006700987.tif 000004
【００８４】
〔非言語情報評価部４０〕
次に、図１に示した非言語情報評価部４０について詳細に説明する。図１３は、非言語情報評価部４０の処理例を示すフローチャートである。非言語情報評価部４０は、話題出現時刻推定部１０から話題出現時刻分布パラメータを受け取り（ステップＳ１３０１）、話題出現時刻分布パラメータに基づいて分布関数Ｑ（ｔ）を求める（ステップＳ１３０２）。前述のとおり、分布関数Ｑ（ｔ）は、話題境界タグ付き補助文書の全ての話題について、話題開始点を基準にして、二番目以降の各文が出現する頻度を時刻毎に表した分布、すなわち、話題出現時刻に対する文の頻度分布を示している。
【００８５】
非言語情報評価部４０は、言語的類似度評価部３０から言語スコア付き対応候補リストを受け取り（ステップＳ１３０３）、言語スコア付き対応候補リストに含まれる二次文書の文ｄ２_ｊに関するデータを先頭から順番に抽出する（ステップＳ１３０４）。
【００８６】
非言語情報評価部４０は、二次文書の文ｄ２_ｊについて、当該文ｄ２_ｊに対応する一次文書の文の候補｛ｄ１_１，ｄ１_２，・・・，ｄ１_ｉ，・・・｝の分布関数Ｐ（ｔ）を推定する（ステップＳ１３０５）。
【００８７】
具体的には、非言語情報評価部４０は、言語スコア付き対応候補リストから、二次文書の文ｄ２_ｊに対応する一次文書の文の各候補ｄ１_ｉにおける言語スコア{ｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）}及び出現時刻｛ｔ_ｉｊ｝を抽出する。そして、非言語情報評価部４０は、言語スコア{ｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）｝を頻度として、一次文書の文の各候補ｄ１_ｉにおける出現時刻｛ｔ_ｉｊ｝の各サンプルが従う頻度分布を、分布関数Ｐ（ｔ）で近似する。これにより、分布関数Ｐ（ｔ）が推定される。
【００８８】
分布関数Ｐ（ｔ）は、二次文書の文ｄ２_ｊについて、当該二次文書の文ｄ２_ｊの文時刻を基準にして、一次文書の文の各候補ｄ１_ｉが出現する頻度を時刻毎に表した分布、すなわち、出現時刻｛ｔ_ｉｊ｝に対する各候補ｄ１_ｉの頻度分布を示している。
【００８９】
非言語情報評価部４０は、ステップＳ１３０２にて算出した分布関数Ｑ（ｔ）とステップＳ１３０５にて推定した分布関数Ｐ（ｔ）との間の類似度Ｌを算出する（ステップＳ１３０６）。そして、非言語情報評価部４０は、類似度Ｌを、二次文書の文ｄ２_ｊに対応する一次文書の文の各候補ｄ１_ｉ全体についての総合スコアＳ_ｉｊとする。
【００９０】
非言語情報評価部４０は、総合スコアＳ_ｉｊが予め設定された閾値θ以上であるか否かを判定する（ステップＳ１３０７）。非言語情報評価部４０は、ステップＳ１３０７において、総合スコアＳ_ｉｊが閾値θ以上であると判定した場合（ステップＳ１３０７：Ｙ）、分布関数Ｐ（ｔ）が予め設定された閾値φ以上となる時刻の区間［ｔ_Ａ，ｔ_Ｂ］を特定する（ステップＳ１３０８）。これにより、分布関数Ｐ（ｔ）である言語スコアｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）が閾値φ以上となる区間［ｔ_Ａ，ｔ_Ｂ］が特定される。
【００９１】
非言語情報評価部４０は、時刻が区間［ｔ_Ａ，ｔ_Ｂ］に収まる一次文書の文の集合Ｄ＝｛・・・，ｄ１_ｉ，・・・｝を、二次文書の文ｄ２_ｊに対応（関連）する文として採択し、二次文書の文ｄ２_ｊ、一次文書の文の集合Ｄ及び言語スコア等を対応リストに記録し（ステップＳ１３０９）、ステップＳ１３１０へ移行する。
【００９２】
これにより、二次文書の文ｄ２_ｊとの間の言語スコアｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）が閾値φ以上となる一次文書の文の集合Ｄが特定され、一次文書の文の集合Ｄを含む対応リストに生成される。
【００９３】
図１５は、二次文書の文ｄ２_ｊの出現時刻を基準にして、一次文書の文の各候補ｄ１_ｉにおける出現時刻の頻度分布を表した分布関数Ｐ（ｔ）、閾値φ及び区間［ｔ_Ａ，ｔ_Ｂ］の例を示す図である。図１５において、横軸は、出現時刻を示し、縦軸は、出現時刻の文の数を正規化した頻度（Density）を示す。
【００９４】
分布関数Ｐ（ｔ）は、二次文書の文ｄ２_ｊの文時刻を基準にして、一次文書の文の各候補ｄ１_ｉとの間の言語スコアｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）を頻度とみなして、時刻毎に表した分布関数を示している。つまり、言語スコアｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）が大きい場合、頻度が高いものとみなされ、言語スコアｌ_ｉｊ＝ｌ（ｃ_1_ｉ, ｃ_２_ｊ）が小さい場合、頻度が低いものとみなされる。
【００９５】
図１５に示すように、総合スコアＳ_ｉｊが閾値θ以上の場合に、分布関数Ｐ（ｔ）が閾値φ以上となる区間［ｔ_Ａ，ｔ_Ｂ］が特定される。そして、時刻が区間［ｔ_Ａ，ｔ_Ｂ］に収まる一次文書の文の集合Ｄ＝｛・・・，ｄ１_ｉ，・・・｝が、二次文書の文ｄ２_ｊに対応（関連）する文として採択される。
【００９６】
図１３に戻って、非言語情報評価部４０は、ステップＳ１３０７において、総合スコアＳ_ｉｊが閾値θ以上でないと判定した場合（ステップＳ１３０７：Ｎ）、ステップＳ１３１０へ移行する。
【００９７】
これにより、総合スコアＳ_ｉｊが閾値θ以上でない場合、ステップＳ１３０８及びステップＳ１３０９の処理は行われず、二次文書の文ｄ２_ｊに対応する一次文書の文の候補ｄ１_ｉの全ては二次文書の文ｄ２_ｊに関連する文でないと判断される。したがって、この場合の一次文書の文の候補ｄ１_ｉは、対応リストに記録されない。
【００９８】
非言語情報評価部４０は、ステップＳ１３０７またはステップＳ１３０９から移行して、二次文書の文ｄ２_ｊが当該二次文書の終端であるか否かを判定する（ステップＳ１３１０）。
【００９９】
非言語情報評価部４０は、ステップＳ１３１０において、二次文書の文ｄ２_ｊが当該二次文書の終端でないと判定した場合（ステップＳ１３１０：Ｎ）、ステップＳ１３０４へ移行する。そして、非言語情報評価部４０は、ステップＳ１３０４において、言語スコア付き対応候補リストに含まれる二次文書の文ｄ２_ｊについて、次の文ｄ２_ｊに関するデータを抽出する。そして、非言語情報評価部４０は、二次文書の文が終端に至までの間、ステップＳ１３０４〜ステップＳ１３０９の処理を行う。
【０１００】
非言語情報評価部４０は、ステップＳ１３１０において、二次文書の文が終端であると判定した場合（ステップＳ１３１０：Ｙ）、対応リストを出力する（ステップＳ１３１１）。
【０１０１】
これにより、図９の例では、二次文書の文「長崎のごみ収集凄い」「ドンドン坂。・・・」「石のＵ字溝」のそれぞれについて、当該文に関連する一次文書の各文、及びこれらの文間の言語スコアを含む対応リストが出力される。
【０１０２】
尚、ステップＳ１３０６の処理（分布関数Ｑ（ｔ）と分布関数Ｐ（ｔ）との間の類似度Ｌである総合スコアＳ_ｉｊを算出する処理）は、２つの分布関数Ｑ（ｔ），Ｐ（ｔ）における形状の差異を定量的に評価可能な処理であれば何でもよい。例えば、２つの分布関数の差異を図る尺度として情報理論の分野で一般的なＫＬ距離（Kullback-Leibler divergence）Ｄ_KLの逆数を算出する手法を用いることができる。
【０１０３】
ＫＬ距離Ｄ_KLは、以下の数式３により算出され、総合スコアＳ_ｉｊは、以下の数式４により算出される。
【数３】
0006700987.tif 000005
【数４】
0006700987.tif 000006
【０１０４】
以上のように、本発明の実施形態の関連文書処理装置１によれば、話題出現時刻推定部１０は、一次文書に関連する話題境界タグ付き補助文書を入力し、話題毎に、話題開始点を抽出して二番目以降の文の話題出現時刻を算出する。そして、話題出現時刻推定部１０は、全ての話題について、話題出現時刻の頻度分布を予め定義した分布関数で近似し、話題出現時刻分布パラメータを算出する。
【０１０５】
特徴抽出部２０は、一次文書及び二次文書のそれぞれについて、文の言語的特徴及び文の非言語情報を抽出し、これらを含む一次文書特徴量リスト及び二次文書特徴量リストを生成する。
【０１０６】
言語的類似度評価部３０は、一次文書の文及び二次文書の文の対について、一次文書特徴量リスト及び二次文書特徴量リストに含まれる言語的特徴を用いて言語スコアを算出し、二次文書の文の時刻を基準にして、所定時間内に一次文書の文が現れる時刻を出現時刻として算出する。そして、言語的類似度評価部３０は、二次文書の文を基準にして、所定時間内に現れる一次文書の各文（候補）について、言語スコア及び出現時刻を含む言語スコア付き対応候補リストを生成する。
【０１０７】
非言語情報評価部４０は、話題出現時刻分布パラメータに基づいて話題出現時刻の分布関数Ｑ（ｔ）を算出し、言語スコア付き対応候補リストに含まれる二次文書の文を基準とした一次文書の各文（候補）との対について、その出現時刻の分布関数Ｐ（ｔ）を算出し、これらの類似度Ｌを総合スコアＳ_ｉｊとして算出する。そして、非言語情報評価部４０は、二次文書の文を基準とした一次文書の各文（候補）のうち、総合スコアＳ_ｉｊが閾値θ以上であり、かつ分布関数Ｐ（ｔ）が閾値φ以上の一次文書の文を、二次文書の文に対応（関連）する文として採択し、対応リストを生成する。
【０１０８】
このように、一次文書と二次文書との間で対応付けを行い、内容が関連する一次文書の文を二次文書の文から抽出する際に、非言語情報（時刻情報）を用いるようにした。これにより、一次文書と二次文書との間で異なる言語表現が用いられている場合であっても、非言語情報は言語表現に無関係であるから、異なる言語表現の影響を受けることなく、文書間で高精度の対応付けを行うことができる。
【０１０９】
したがって、非特許文献１に記載されているようなユーザによる選択作業が不要となるから、ユーザに多大な労力を強いることなく文抽出処理を行うことができる。また、本発明の実施形態による文抽出処理は文の構造情報を利用するものではないから、前処理の段階で破綻することがなく、文抽出処理を頑健に実現することができる。
【０１１０】
例えば、膨大な自由記述文による短文の集合であるツイートのログ等（二次文書）のMicroblog解析において、当該文書の情報発信の契機となる事象または特定のメディアコンテンツの内容が記述された文書（一次文書）をユーザが利用可能である場合、これらの文書に含まれる配信時刻等の非言語情報を利用することで、関連する文の抽出を頑健かつ自動的に実現することができる。
【０１１１】
また、二次文書の文について内容が関連する一次文書の文が存在しない場合、非言語情報評価部４０は、図１３のステップＳ１３０７において、二次文書の文に対応する一次文書の文の各候補全体についての総合スコアＳ_ｉｊが閾値θ以上でないと判定する。そして、非言語情報評価部４０は、ステップＳ１３０８及びステップＳ１３０９の処理（分布関数Ｐ（ｔ）が閾値φ以上となる区間を特定し、二次文書の文に対応（関連）する文を採択する処理）を行わない。
【０１１２】
これにより、内容の関連しない一次文書の文が対応リストに含まれることがない。したがって、対応リストを用いてデータ解析を行う行程（例えば、話題抽出のためのクラスタリング）において、無駄な処理が行われることがない。また、対応リスト内に内容の関連しない一次文書の文が含まれていることから生じる不具合を回避することができる。
【０１１３】
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。前記実施形態では、一次文書を、ユーザの情報発信（例えばツイート）の契機となる事象または特定のメディアコンテンツの内容が記述された文書とし、二次文書を、当該ツイート等のログが記述され、一文あたりの文字数の少ない短文で構成され、かつ砕けた文体で記述されている文書として説明した。本発明はこのような文書に限定されるものではなく、他の種類の文書にも適用がある。要するに、本発明は、一方の文書が、他方の文書の一部の内容に対応する文で構成され、かつ、一方の文書の文と他方の文書の文との間で、対応関係が明示的に示されていなう一次文書及び二次文書に適用がある。
【０１１４】
また、前記実施形態では、非言語情報を時刻情報として説明した。本発明は非言語情報を時刻情報に限定するものではなく、非言語情報には、ユーザ等が所在する位置情報（例えばツイートしたユーザが所在する位置の情報）等も含まれる。
【０１１５】
尚、本発明の実施形態による関連文書処理装置１のハードウェア構成としては、通常のコンピュータを使用することができる。関連文書処理装置１は、ＣＰＵ、ＲＡＭ等の揮発性の記憶媒体、ＲＯＭ等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。関連文書処理装置１に備えた話題出現時刻推定部１０、特徴抽出部２０、言語的類似度評価部３０及び非言語情報評価部４０の各機能は、これらの機能を記述したプログラムをＣＰＵに実行させることによりそれぞれ実現される。また、これらのプログラムは、磁気ディスク（フロッピー（登録商標）ディスク、ハードディスク等）、光ディスク（ＣＤ−ＲＯＭ、ＤＶＤ等）、半導体メモリ等の記憶媒体に格納して頒布することもでき、ネットワークを介して送受信することもできる。
【符号の説明】
【０１１６】
１  関連文書処理装置
１０  話題出現時刻推定部（補助文書パラメータ生成部）
２０  特徴抽出部
３０  言語的類似度評価部
４０  非言語情報評価部
【図１】
0006700987.tif 000007
【図２】
0006700987.tif 000008
【図３】
0006700987.tif 000009
【図４】
0006700987.tif 000010
【図５】
0006700987.tif 000011
【図６】
0006700987.tif 000012
【図７】
0006700987.tif 000013
【図８】
0006700987.tif 000014
【図９】
0006700987.tif 000015
【図１０】
0006700987.tif 000016
【図１１】
0006700987.tif 000017
【図１２】
0006700987.tif 000018
【図１３】
0006700987.tif 000019
【図１４】
0006700987.tif 000020
【図１５】
0006700987.tif 000021