(57)【要約】【課題】  抽出する類似文書集合の類似精度を向上させる。【解決手段】  文書データベース１００に蓄積された文書から類似文書集合を抽出する類似文書集合抽出装置１は、抽出すべき類似文書集合の個数を示す数値を入力する入力手段１０と、評価関数に基づいて、類似文書集合を抽出する動作を、入力された数値の回数実行する文書集合抽出処理部５３と、抽出した類似文書集合を出力する出力手段２０とを備える。この評価関数は、文書を特徴付ける単語ベクトルと、その文書を含む文書集合の代表ベクトルとの類似度と、文書を特徴付ける単語ベクトルと、その文書を含む既抽出文書集合の代表ベクトルとの類似度との差を文書集合に含まれる各文書に亘って合計するものであり、類似文書集合抽出処理部５３は、文書集合別に評価関数の値を求め、評価関数の値が最大となる文書集合を抽出する。【選択図】      図１
2006343843.tif 000002
【特許請求の範囲】
【請求項１】
電子的に蓄積された複数の文書に基づいて、互いに内容の類似した文書を示す類似文書集合を抽出する類似文書集合抽出装置であって、
抽出すべき類似文書集合の個数を示す数値を入力する入力手段と、
評価関数に基づいて、前記類似文書集合を抽出する動作を、入力された数値の回数実行する抽出処理手段と、
抽出した類似文書集合を出力する出力手段と、
を備え、
前記評価関数は、
前記文書を特徴付ける単語ベクトルと、前記文書を含む文書集合の代表ベクトルとの類似度と、
前記単語ベクトルと、前記文書を含む既抽出文書集合の代表ベクトルとの類似度と、の差を、
前記文書集合に含まれる各文書に亘って合計するものであり、
前記抽出処理手段は、
前記文書集合別に前記評価関数の値を求め、前記評価関数の値が少なくとも局所的に最大となる文書集合を抽出する、
ことを特徴とする類似文書集合抽出装置。
【請求項２】
前記抽出処理手段は、
前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、
所定の基準文書集合の代表ベクトルとの類似度が、前記基準文書集合に含まれる文書を含む既抽出文書集合の代表ベクトルとの類似度よりも大きい前記単語ベクトルを有する文書から構成される文書集合を探索し、この探索した文書集合で前記基準文書集合の更新を前記評価関数の値が収束するまで繰り返し、収束したときの文書集合を抽出する、
ことを特徴とする請求項１に記載の類似文書集合抽出装置。
【請求項３】
前記文書中に所定の閾値以上の数連続して出現する単語として予め定められた所定数のフレーズに基づいて、前記複数の文書を前記フレーズ別に分類して前記所定数の文書集合を生成するフレーズ分類集合生成手段をさらに備え、
前記抽出処理手段は、
前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、
前記フレーズ分類集合生成手段で生成された各文書集合の中から、前記評価関数の値が最大となる文書集合を抽出する、
ことを特徴とする請求項１または請求項２に記載の類似文書集合抽出装置。
【請求項４】
電子的に蓄積された複数の文書に基づいて、互いに内容の類似した文書を示す類似文書集合を抽出する類似文書集合抽出装置の類似文書集合抽出方法であって、
抽出すべき類似文書集合の個数を示す数値を入力する入力ステップと、
評価関数に基づいて、前記類似文書集合を抽出する動作を、入力された数値の回数実行する抽出処理ステップと、
抽出した類似文書集合を出力する出力ステップと、
を有し、
前記評価関数は、
前記文書を特徴付ける単語ベクトルと、前記文書を含む文書集の代表ベクトルとの類似度と、
前記単語ベクトルと、前記文書を含む既抽出文書集合の代表ベクトルとの類似度と、の差を、
前記文書集合に含まれる各文書に亘って合計するものであり、
前記抽出処理ステップは、
前記文書集合別に前記評価関数の値を求め、前記評価関数の値が少なくとも局所的に最大となる文書集合を抽出する、
ことを特徴とする類似文書集合抽出方法。
【請求項５】
前記抽出処理ステップは、
前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、
所定の基準文書集合の代表ベクトルとの類似度が、前記基準文書集合に含まれる文書を含む既抽出文書集合の代表ベクトルとの類似度よりも大きい前記単語ベクトルを有する文書から構成される文書集合を探索し、この探索した文書集合で前記基準文書集合の更新を前記評価関数の値が収束するまで繰り返し、収束したときの文書集合を抽出する、
ことを特徴とする請求項４に記載の類似文書集合抽出方法。
【請求項６】
前記文書中に所定の閾値以上の数連続して出現する単語として予め定められた所定数のフレーズに基づいて、前記複数の文書を前記フレーズ別に分類して前記所定数の文書集合を生成するフレーズ分類集合生成ステップをさらに有し、
前記抽出処理ステップは、
前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、
前記フレーズ分類集合生成ステップで生成された各文書集合の中から、前記評価関数の値が最大となる文書集合を抽出する、
ことを特徴とする請求項４または請求項５に記載の類似文書集合抽出方法。
【請求項７】
請求項４乃至請求項６のいずれか一項に記載の類似文書集合抽出方法をコンピュータに実行させることを特徴とする類似文書集合抽出プログラム。
【請求項８】
請求項７に記載の類似文書集合抽出プログラムが記録された記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、電子的に蓄積された文書群から、内容の類似した文書集合である類似文書集合を自動抽出する技術に関する。
【背景技術】
【０００２】
従来、複数の文書から内容の類似した文書の集合である類似文書集合を自動的に抽出するために文書クラスタリング手法が用いられている（例えば非特許文献１参照）。この文書クラスタリング手法としては様々なものが提案されており、代表的な文書クラスタリング手法の１つとして、球面Ｋ平均法（Spherical k-means Algorithm）が知られている（例えば非特許文献２参照）。
【０００３】
球面Ｋ平均法は、与えられた複数の文書を、Ｋ個の類似文書集合に排他的に分割するものである。この手法では、他の多くの手法のように排他的に分割するものなので、各文書はいずれかの類似文書集合に必ず属することになる。
また、従来の文書クラスタリング手法では、類似文書集合として抽出する集合の数（抽出文書集合数）を、事前に設定する必要があることも多い。
【非特許文献１】D. R. Cutting, et al.,"Scatter/Gather: A Cluster-based Approach to Browsing Large Document Collections" Proceedings of the Fifteenth Annual International ACM SIGIR Conference on Research and Development in Information Retrieval,1992,p.318−329
【非特許文献２】I. S. Dhillon and D. S. Modha,"CONCEPT DECOMPOSIONS FOR LARGE SPARSE TEXT DATA USING CLUSTERING",Machine Learning,2001,Vol.42,No.1,p.143−175
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来の文書クラスタリング手法のように、複数の文書集合に排他的に分割する手法では、すべての文書を分類する必要性が低い場合に、分類が困難な文書を無理に分類するために類似精度が低下するという問題がある。
【０００５】
また、従来の文書クラスタリング手法では、抽出文書集合数として適切な値を設定することが困難である。すなわち、従来、ユーザは、抽出文書集合数の適切な値を得るために、仮に決めた抽出文書集合数で試行し、抽出文書集合数を様々な値に変更したときの試行結果（抽出処理結果）を比較して、その中から望ましい数値を選択するようにしている。この作業は、ユーザにとって負担が大きい場合がある。
【０００６】
そこで、本発明では、前記した問題を解決し、類似精度を向上させることのできる類似文書集合を抽出する技術を提供することを目的とする。
【課題を解決するための手段】
【０００７】
前記課題を解決するため、請求項１に記載の類似文書集合装置は、電子的に蓄積された複数の文書に基づいて、互いに内容の類似した文書を示す類似文書集合を抽出する類似文書集合抽出装置であって、抽出すべき類似文書集合の個数を示す数値を入力する入力手段と、評価関数に基づいて、前記類似文書集合を抽出する動作を、入力された数値の回数実行する抽出処理手段と、抽出した類似文書集合を出力する出力手段と、を備え、前記評価関数は、前記文書を特徴付ける単語ベクトルと、前記文書を含む文書集合の代表ベクトルとの類似度と、前記単語ベクトルと、前記文書を含む既抽出文書集合の代表ベクトルとの類似度と、の差を、前記文書集合に含まれる各文書に亘って合計するものであり、前記抽出処理手段は、前記文書集合別に前記評価関数の値を求め、前記評価関数の値が少なくとも局所的に最大となる文書集合を抽出することを特徴とする。
【０００８】
かかる構成によれば、類似文書集合装置は、入力手段によって、抽出すべき類似文書集合の個数を示す数値を入力し、抽出処理手段によって、入力数値の回数、類似文書集合を抽出する動作を実行し、出力手段によって、抽出した類似文書集合を出力する。なお、文書集合の出力とは、例えば、集合の識別子の他、集合要素、集合要素を特徴付ける単語、文書集合に含まれる要素数等を出力することを含んでいる。抽出処理手段が抽出動作で指標とする評価関数は、文書を特徴付ける単語ベクトルと、その文書を含む文書集合の代表ベクトルとの類似度をプラス要因として考慮しているので、文書間の類似度が高く、かつ、文書数が多い集合に対して高くなる。また、この評価関数は、文書を特徴付ける単語ベクトルと、その文書を含む既抽出文書集合の代表ベクトルとの類似度をマイナス要因として考慮しているので、既に抽出した文書集合との類似度が低い集合に対して高くなる。したがって、この評価関数が最大となる文書集合を抽出すると、多数の文書から構成される類似文書集合を優先的に抽出し、既に抽出した文書集合との重複が多い文書集合の抽出を避けることができる。
【０００９】
請求項２に記載の類似文書集合装置は、請求項１に記載の類似文書集合装置において、前記抽出処理手段は、前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、所定の基準文書集合の代表ベクトルとの類似度が、前記基準文書集合に含まれる文書を含む既抽出文書集合の代表ベクトルとの類似度よりも大きい前記単語ベクトルを有する文書から構成される文書集合を探索し、この探索した文書集合で前記基準文書集合の更新を前記評価関数の値が収束するまで繰り返し、収束したときの文書集合を抽出することを特徴とする。
【００１０】
かかる構成によれば、類似文書集合装置において、抽出処理手段は、所定の基準文書集合の代表ベクトルとの類似度が、基準文書集合に含まれる文書を含む既抽出文書集合の代表ベクトルとの類似度よりも大きい単語ベクトルを有する文書から構成される文書集合を探索するので、文書間の類似度が高く、文書数が多く、既に抽出した文書集合との類似度が低い文書だけを含む文書集合を探索できる。そして、抽出処理手段は、探索した文書集合で基準文書集合の更新を、評価関数の値が収束するまで繰り返す。この探索においては、評価関数の値が大きくなるように集合が更新される。したがって、抽出処理手段は、評価関数の値を算出する過程と、評価関数の値が最大となる文書集合を抽出する過程とを並行して実行できる。
【００１１】
請求項３に記載の類似文書集合装置は、請求項１または請求項２に記載の類似文書集合装置において、前記文書中に所定の閾値以上の数連続して出現する単語として予め定められた所定数のフレーズに基づいて、前記複数の文書を前記フレーズ別に分類して前記所定数の文書集合を生成するフレーズ分類集合生成手段をさらに備え、前記抽出処理手段は、前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、前記フレーズ分類集合生成手段で生成された各文書集合の中から、前記評価関数の値が最大となる文書集合を抽出することを特徴とする。
【００１２】
かかる構成によれば、類似文書集合装置は、フレーズ分類集合生成手段によって、予め定められた所定数のフレーズに基づいて、複数の文書をフレーズ別に分類して所定数の文書集合を生成する。そして、類似文書集合装置は、抽出処理手段によって、フレーズ分類集合生成手段で生成された各文書集合の中から、評価関数の値が最大となる文書集合を抽出する。したがって、評価関数の値を算出する対象の文書集合を、フレーズ別に分類された文書集合に限定することで、類似文書集合の抽出処理を迅速に行うことができる。
【００１３】
請求項４に記載の類似文書集合抽出方法は、電子的に蓄積された複数の文書に基づいて、互いに内容の類似した文書を示す類似文書集合を抽出する類似文書集合抽出装置の類似文書集合抽出方法であって、抽出すべき類似文書集合の個数を示す数値を入力する入力ステップと、評価関数に基づいて、前記類似文書集合を抽出する動作を、入力された数値の回数実行する抽出処理ステップと、抽出した類似文書集合を出力する出力ステップと、を有し、前記評価関数は、前記文書を特徴付ける単語ベクトルと、前記文書を含む文書集の代表ベクトルとの類似度と、前記単語ベクトルと、前記文書を含む既抽出文書集合の代表ベクトルとの類似度と、の差を、前記文書集合に含まれる各文書に亘って合計するものであり、前記抽出処理ステップは、前記文書集合別に前記評価関数の値を求め、前記評価関数の値が少なくとも局所的に最大となる文書集合を抽出することを特徴とする。
【００１４】
かかる手順によれば、類似文書集合装置は、入力ステップで、抽出すべき類似文書集合の個数を示す数値を入力し、抽出処理ステップで、入力数値の回数、類似文書集合を抽出する動作を実行し、出力ステップで、抽出した類似文書集合を出力する。抽出処理ステップにおいて、抽出動作で指標とする評価関数は、文書を特徴付ける単語ベクトルと、その文書を含む文書集合の代表ベクトルとの類似度をプラス要因として考慮しているので、文書間の類似度が高く、かつ、文書数が多い集合に対して高くなる。また、この評価関数は、文書を特徴付ける単語ベクトルと、その文書を含む既抽出文書集合の代表ベクトルとの類似度をマイナス要因として考慮しているので、既に抽出した文書集合との類似度が低い集合に対して高くなる。したがって、この評価関数が最大となる文書集合を抽出すると、多数の文書から構成される類似文書集合を優先的に抽出し、既に抽出した文書集合との重複が多い文書集合の抽出を避けることができる。
【００１５】
請求項５に記載の類似文書集合抽出方法は、請求項４に記載の類似文書集合抽出方法において、前記抽出処理ステップは、前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、所定の基準文書集合の代表ベクトルとの類似度が、前記基準文書集合に含まれる文書を含む既抽出文書集合の代表ベクトルとの類似度よりも大きい前記単語ベクトルを有する文書から構成される文書集合を探索し、この探索した文書集合で前記基準文書集合の更新を前記評価関数の値が収束するまで繰り返し、収束したときの文書集合を抽出することを特徴とする。
【００１６】
かかる手順によれば、類似文書集合抽出装置は、抽出処理ステップで、所定の基準文書集合の代表ベクトルとの類似度が、基準文書集合に含まれる文書を含む既抽出文書集合の代表ベクトルとの類似度よりも大きい単語ベクトルを有する文書から構成される文書集合を探索するので、文書間の類似度が高く、文書数が多く、既に抽出した文書集合との類似度が低い文書だけを含む文書集合を探索できる。そして、抽出処理ステップでは、探索した文書集合で基準文書集合の更新を評価関数の値が収束するまで繰り返す。この探索においては、評価関数の値が大きくなるように集合が更新される。したがって、抽出処理ステップは、評価関数の値を算出する過程と、評価関数の値が最大となる文書集合を抽出する過程とを並行して実行できる。
【００１７】
請求項６に記載の類似文書集合抽出方法は、請求項４または請求項５に記載の類似文書集合抽出方法において、前記文書中に所定の閾値以上の数連続して出現する単語として予め定められた所定数のフレーズに基づいて、前記複数の文書を前記フレーズ別に分類して前記所定数の文書集合を生成するフレーズ分類集合生成ステップをさらに有し、前記抽出処理ステップは、前記評価関数の値が局所的に最大となる文書集合を抽出するものであって、前記フレーズ分類集合生成ステップで生成された各文書集合の中から、前記評価関数の値が最大となる文書集合を抽出することを特徴とする。
【００１８】
かかる手順によれば、類似文書集合抽出装置は、フレーズ分類集合生成ステップで、予め定められた所定数のフレーズに基づいて、複数の文書をフレーズ別に分類して所定数の文書集合を生成する。そして、類似文書集合装置は、抽出処理ステップで、フレーズ分類集合生成ステップで生成された各文書集合の中から、評価関数の値が最大となる文書集合を抽出する。したがって、評価関数の値を算出する対象の文書集合を、フレーズ別に分類された文書集合に限定することで、類似文書集合の抽出処理を迅速に行うことができる。
【００１９】
請求項７に記載の類似文書集合抽出プログラムは、請求項４乃至請求項６のいずれか一項に記載の類似文書集合抽出方法をコンピュータに実行させることを特徴とする。このように構成されることにより、このプログラムをインストールされたコンピュータは、プログラムに基づいた各機能を実現することができる。
【００２０】
請求項８に記載の記録媒体は、請求項７に記載の類似文書集合抽出プログラムが記録されたことを特徴とする。このように構成されることにより、この記録媒体を読み取り可能な情報処理装置は、プログラムに基づいた各機能を実現することができる。
【発明の効果】
【００２１】
本発明によれば、類似文書集合を抽出する際に類似精度を向上させることができる。また、類似文書集合を抽出する処理を迅速に行うことができる。さらに、異なる文書集合数での抽出結果の比較が容易となる。
【発明を実施するための最良の形態】
【００２２】
次に、本発明の実施形態について、適宜図面を参照しながら詳細に説明する。
以下では、まず、本実施の形態の類似文書集合抽出装置における類似文書集合抽出方法の原理について説明し、その原理に基づいて抽出を実行する類似文書集合抽出装置について順次説明していくこととする。
【００２３】
（抽出方法の原理について）
類似文書集合抽出方法においては、複数の文書集合に属する文書や、いずれの文書集合にも属さない文書の存在を許容し、１つずつ（逐次的に）文書集合を抽出するものとする。この類似文書集合抽出方法は、文書集合に応じた値を出力する評価関数を利用して、電子的に蓄積された所定の複数の文書から、評価関数の出力する値が最大となる文書集合を指定された抽出文書集合数Ｗだけ探索するものである。この評価関数は、以下に述べる類似度に基づいた重要度及びペナルティを加味して構成されている。
【００２４】
［類似度］
この評価関数で用いる類似度の定義を説明する。前提として、抽出元にＮ個の文書ｄ1，…，ｄNが蓄積されており、各文書のインデックスから成る文書集合全体をＩ＝｛ｌ，…，Ｎ｝とする。また、予め定められたＤ個の単語から成る集合を｛ｗ1，…，ｗD｝とする。このとき、文書ｄn（１≦ｎ≦Ｎ）の単語ベクトルＸnを次式（１）で定義する。
【００２５】
Ｘn＝（Ｘn,1，…，Ｘn,D）  …（１）
【００２６】
ただし、単語ベクトルＸnの各要素Ｘn,i（１≦ｉ≦Ｄ）は、文書ｄnにおける単語ｗi（１≦ｉ≦Ｄ）の重みを示しており、次式（２）に示すように、ノルム‖Ｘn‖が「１」に正規化されたｔｆ−ｉｄｆ値である。
【００２７】
【数１】
2006343843.tif 000003
【００２８】
ただし、ｔｆ（ｎ，ｉ）は文書ｄnにおける単語ｗiの出現頻度を、ｄｆ（ｉ）は単語ｗiが出現した文書数を表す。この場合、文書ｄnと文書ｄmとの間の類似度を、単語ベクトルＸnと単語ベクトルＸmとのコサイン類似度、すなわちｃｏｓ（Ｘn，Ｘm）で表すこととする。
【００２９】
［重要度］
次に、評価関数を構成する重要度を説明する。
文書ｄnと、この文書ｄnを含む文書集合Ｇとの類似度（第１類似度）αnを、次式（３）で示すように、この文書ｄnの単語ベクトルＸnと、この文書集合Ｇの代表ベクトルΨ（Ｇ）間のコサイン類似度とする。そして、この第１類似度αnを、この文書集合Ｇに含まれるすべての文書ｄnに亘って加算した、文書集合Ｇに関する関数を次式（４）に示すように重要度α（Ｇ）として定義した。
【００３０】
αn＝ｃｏｓ（Ｘn，Ψ（Ｇ））  …（３）
【００３１】
【数２】
2006343843.tif 000004
【００３２】
ただし、代表ベクトルΨ（Ｇ）は、文書集合Ｇに含まれる文書ｄnの単語ベクトルＸnの和をＬ2ノルムで正規化したベクトルであり、次式（５）で示される。
【００３３】
【数３】
2006343843.tif 000005
【００３４】
前記した式（３）で定義された重要度α（Ｇ）は、ノルム‖Ｘn‖が「１」に正規化されていることを利用すると、次式（６）のように書き換えることができる。
【００３５】
【数４】
2006343843.tif 000006
【００３６】
この式（６）の最右辺に示した｜Ｇ｜は、文書集合Ｇに含まれる文書ｄnの個数を示している。そして、この最右辺は、｜Ｇ｜に対して、文書ｄnと文書ｄm間の類似度の平均値の平方根が乗算されることを示している。したがって、重要度α（Ｇ）は、文書集合Ｇに含まれる文書数が多く、かつ、文書集合Ｇに含まれる文書間の類似度が高いほど、その値が大きくなる関数である。
【００３７】
［ペナルティ］
評価関数として重要度α（Ｇ）のみを採用した場合、重要度α（Ｇ）が最も高い文書集合として、文書集合全体Ｉが抽出され、また、重要度α（Ｇ）が２位の文書集合は、Ｉから１個の文書を除いた集合が抽出されることになり、複数種類の類似文書集合として有効な結果が得られない。
【００３８】
そこで、ｋ（１≦ｋ≦Ｗ）回目の抽出（出力）動作中に考慮している文書集合Ｇに含まれる文書ｄnと、この文書ｄnを含み既に抽出された文書集合（既抽出文書集合）Ｕn,kとの類似度（第２類似度）βnを、次式（７）で示すように、この文書ｄnの単語ベクトルＸnと、この既抽出文書集合（既抽出集合ともいう）Ｕn,kの代表ベクトルΨ（Ｕn,k）間のコサイン類似度で定義する。これはｋによって変動する量である。ただし、既抽出文書集合Ｕn,kは次式（８）の条件を満たす。
【００３９】
βn＝ｃｏｓ（Ｘn，Ψ（Ｕn,k））  …（７）
【００４０】
ｄn∈Ｕn,k，  Ｕn,k∈｛Ｔ0，…，Ｔk-1｝  …（８）
【００４１】
ここで、Ｔ0，…，Ｔk-1は、第２類似度βnを算出するときに考慮している文書ｄnに関わらず、０回目，…ｋ−１回目にそれぞれ抽出された類似文書集合を表している。また、０回目の抽出とは、すべての文書ｄnを含む文書集合全体Ｉを抽出するものと定義する（Ｔ0＝Ｉ）。これにより、ｋ（１≦ｋ≦Ｗ）回目の抽出が保証されている。また、前記した既抽出文書集合Ｕn,kは、Ｔ0，…，Ｔk-1の中でｄnを含み、かつ、最後に抽出されたものとする。
そして、式（７）の第２類似度βnを、この文書集合Ｇに含まれるすべての文書ｄnに亘って加算した、文書集合Ｇに関する関数を次式（９）に示すようにペナルティβ(k)（Ｇ）として定義した。したがって、ペナルティβ(k)（Ｇ）は、考慮している文書集合Ｇと、既抽出文書集合Ｕn,kとの類似度が高いほど、その値が大きくなる関数である。
【００４２】
【数５】
2006343843.tif 000007
【００４３】
［スコア］
ここで、次式（１０）で関数γnを定義する。
【００４４】
γn＝αn−βn  …（１０）
【００４５】
この関数γnは、式（３）で示される第１類似度αnから式（７）で示される第２類似度βnを差し引いたものである。つまり、関数γnは、着目している文書ｄnが、その文書ｄnの所属する文書集合Ｇとの類似度（第１類似度αn）が高く、かつ、ｋ（１≦ｋ≦Ｗ）回目の抽出において、既に抽出された類似文書集合との類似度が低いことを表す指標となり、その値が大きいときに、その程度が大きいことを示す。
【００４６】
そして、式（１０）の関数γnを、この文書集合Ｇに含まれるすべての文書ｄnに亘って加算した、文書集合Ｇに関する関数を次式（１１）に示すようにスコアγ(k)（Ｇ）として定義した。すなわち、スコアγ(k)（Ｇ）は、重要度α（Ｇ）からペナルティβ(k)（Ｇ）を差し引いた評価関数である。スコアγ(k)（Ｇ）の値は、文書集合Ｇに属する各文書ｄnに対して、Ｇの代表ベクトルΨ（Ｇ）との類似度と、既抽出集合Ｕn,kの代表ベクトルΨ（Ｕn,k）との類似度との差を求め、求めた値を各文書ｄnに対して合計した値である。
【００４７】
【数６】
2006343843.tif 000008
【００４８】
そして、ｋ回目の抽出では、この評価関数（スコアγ(k)（Ｇ））の値を少なくとも局所的に最大にするＧを、類似文書集合として抽出する。ペナルティβ(k)（Ｓ）の値は、既抽出文書集合Ｕn,kの代表ベクトルΨ（Ｕn,k）との類似度が高い単語ベクトルＸnの再抽出に対して高くなる。したがって、スコアγ(k)（Ｓ）の値の高い文書集合Ｇを選択すれば、既抽出文書集合Ｕn,kとの類似度が高い文書ｄnの再抽出を防止することができる。その結果、ｋ回目では、既抽出文書集合との類似度が低い文書が抽出され、類似度が高い文書が抽出される場合に比べ、新たに有効な情報が得られる可能性が高くなる。
【００４９】
以上、本発明の類似文書集合抽出方法の原理をまとめると、類似文書集合抽出方法は、単語ベクトルＸnと文書ｄnを含む文書集合Ｇの代表ベクトルΨ（Ｇ）との類似度αnと、単語ベクトルＸnと既抽出文書集合Ｕn,kの代表ベクトルΨ（Ｕn,k）との類似度βnと、の差を文書集合Ｇに含まれる各文書ｄnに亘って合計してスコアγ(k)（Ｇ）を求め、スコアγ(k)（Ｇ）の値が少なくとも局所的に最大となる文書集合Ｇを抽出するものである。
【００５０】
（第１の実施形態）
[類似文書集合抽出装置の構成]
図１は、本発明の第１の実施形態に係る類似文書集合抽出装置の構成例を示す図である。類似文書集合抽出装置１は、電子的に蓄積された複数の文書（以下、単に文書という）に基づいて、互いに内容の類似した文書を示す類似文書集合を抽出するものである。図１に示すように、類似文書集合抽出装置１では、入力手段１０と、出力手段２０と、ＲＡＭ（Random Access Memory）３０と、ＨＤＤ（Hard Disk Drive）４０と、ＣＰＵ（Central Processing Unit）５０とがバス６０を介して相互に接続されている。
【００５１】
入力手段１０は、例えばＫＢ（Key Board）、マウス、読込装置、通信インタフェース等から構成され、所定の命令や情報（文書、抽出文書集合数Ｗ）を入力するものである。この入力手段１０から入力される文書は、文書データベース１００に蓄積されている。
出力手段２０は、例えば、ＣＲＴ（Cathode Ray Tube）等の表示装置、データベース、プリンタ、通信インタフェース等から構成され、所定の情報（類似文書集合）を出力するものである。
ＲＡＭ３０は、半導体メモリや磁気メモリなどの書き換え可能な記憶手段であり、ＣＰＵ５０による演算処理等に利用されると共に、入力手段１０を介して取得した情報等を記憶するものである。
ＨＤＤ４０は、形態素辞書４１と、単語辞書４２と、処理済文書４３とを記憶するものである。
【００５２】
形態素辞書４１は、文書を形態素に分割して解析する処理（形態素解析）を実行するための辞書データである。なお、形態素とは、これ以上に細かくすると意味がなくなってしまう最小の文字列をいう。例えば、日本語の「今日の天気は晴れです」という文章は、「今日・の・天気・は・晴れ・です」等のように区切ることができる。
単語辞書４２は、文書データベース１００に蓄積された任意の文書群に亘って、所定の閾値以上の数だけ出現する単語として予め定められた所定数Ｄの単語から成る辞書データであり、単語ベクトルを生成するために用いられる。
処理済文書４３は、ＣＰＵ５０により形態素解析され、かつ、単語ベクトルが付与された文書である。
【００５３】
ＣＰＵ５０は、前記した入力手段１０、出力手段２０、ＲＡＭ３０及びＨＤＤ４０を制御すると共に、入力された複数の文書から互いに類似した類似文書集合を抽出するものであり、図１に示すように、形態素解析処理部５１と、単語ベクトル生成処理部５２と、文書集合抽出処理部５３とを備えている。
【００５４】
形態素解析処理部５１は、入力した文書を形態素辞書４１を参照して形態素解析して単語ベクトル生成処理部５２に出力するものである。
単語ベクトル生成処理部５２は、形態素解析された文書に対して式（１）で示される単語ベクトルＸnを単語辞書４２を参照して生成し、生成した単語ベクトルＸnを文書に付与するものである。この単語ベクトルＸnが付与された文書データは、処理済文書４３としてＨＤＤ４０に蓄積される。
【００５５】
文書集合抽出処理部（抽出処理手段）５３は、式（１１）で示されるスコアγ(k)（Ｇ）（評価関数）に基づいて、類似文書集合を抽出する動作（文書集合抽出処理）を、入力された抽出文書集合数Ｗの回数だけ実行するものである。
なお、前記した形態素解析処理部５１、単語ベクトル生成処理部５２及び文書集合抽出処理部５３は、ＣＰＵ５０がＨＤＤ４０に格納された所定のプログラムをＲＡＭ３０に展開して実行することにより実現されるものである。
【００５６】
[文書集合抽出処理部の構成]
図２は、図１に示した文書集合抽出処理部の構成例を示すブロック図である。この例では、文書集合抽出処理部５３は、図２に示すように、基準集合決定部５３１と、既抽出集合決定部５３２と、単語ベクトル選択部５３３と、第１類似度算出部５３４と、第２類似度算出部５３５と、評価値算出部５３６と、集合選択部５３７とを備える。
【００５７】
基準集合決定部５３１は、処理の基準となる基準文書集合（基準集合ともいう）を処理済文書４３から選択して決定し、選択した基準文書集合Ｇmの代表ベクトルΨ（Ｇm）を、式（５）に基づいて生成し、第１類似度算出部５３４に出力するものである（ｍは任意の整数を表す）。この基準集合決定部５３１は、処理済文書４３から想定できるすべての基準文書集合Ｇmを選択する。
【００５８】
既抽出集合決定部５３２は、集合選択部５３７から既抽出集合Ｕn,kの情報を取得し、単語ベクトル選択部５３３で選択されている単語ベクトルＸnに基づいて、既抽出集合Ｕn,kを決定するものである。この既抽出集合決定部５３２は、既抽出集合Ｕn,kの代表ベクトルΨ（Ｕn,k）を式（５）に基づいて生成し、第２類似度算出部５３５に出力する。
【００５９】
単語ベクトル選択部５３３は、基準集合決定部５３１によって選択された基準集合Ｇmに含まれる文書ｄnを示す単語ベクトルＸnを、処理済文書４３から選択し、第１類似度算出部５３４及び第２類似度算出部５３５にそれぞれ出力するものである。この単語ベクトル選択部５３３は、処理済文書４３から、基準集合Ｇmに含まれる文書ｄnを示すすべての単語ベクトルＸnを選択する。
【００６０】
第１類似度算出部５３４は、それぞれ入力された単語ベクトルＸnと代表ベクトルΨ（Ｇm）とのコサイン類似度αnを、式（３）に基づいて算出し、評価値算出部５３６に出力するものである。
第２類似度算出部５３５は、それぞれ入力された単語ベクトルＸnと代表ベクトルΨ（Ｕn,k）とのコサイン類似度βnを、式（７）に基づいて算出し、評価値算出部５３６に出力するものである。
【００６１】
評価値算出部５３６は、第１類似度算出部５３４及び第２類似度算出部５３５から入力したデータから、式（１０）に基づいて、コサイン類似度αnからコサイン類似度βnを差し引いた値であるγnを算出するものである。この評価値算出部５３６は、算出したγnの値を、基準集合決定部５３１で決定されている基準文書集合Ｇmについて積算したスコアγ(k)（Ｇm）をＲＡＭ３０に格納する。
【００６２】
集合選択部５３７は、基準集合決定部５３１で、すべての基準文書集合Ｇmが選択された場合に、ＲＡＭ３０に記憶されているγ(k)（Ｇm）のうち、最大値を示す文書集合Ｇmを抽出すべき類似文書集合として選択するものである。この集合選択部５３７は、選択した類似文書集合の数が抽出文書集合数Ｗになった場合に、それまでに選択したすべての類似文書集合を出力手段２０に出力する。
【００６３】
[類似文書集合抽出装置の動作]
次に、類似文書集合抽出装置の動作について図３を参照（適宜図１参照）して説明する。図３は、図１に示した類似文書集合抽出装置１の動作を示すフローチャートである。
まず、類似文書集合抽出装置１は、入力手段１０によって、抽出文書集合数Ｗを入力し（ステップＳ１：入力ステップ）、また、入力手段１０によって、文書データベース１００から文書を入力する（ステップＳ２）。なお、ステップＳ１とステップＳ２の順序は任意である。
【００６４】
文書データベース１００から文書が入力されると、類似文書集合抽出装置１は、形態素解析処理部５１によって、入力した文書を形態素解析し（ステップＳ３）、続いて、単語ベクトル生成処理部５２によって、入力した文書に付与する単語ベクトルＸnを生成し、処理済文書を出力する（ステップＳ４）。このとき、生成される単語ベクトルＸnの各要素は、式（２）に基づいて算出される。また、単語ベクトルＸnが付与された文書（処理済文書）は、ＨＤＤ４０の所定領域に格納される。
【００６５】
続いて、類似文書集合抽出装置１は、文書集合抽出処理部５３によって、後記する文書集合抽出処理を実行し（ステップＳ５）、抽出回数が抽出文書集合数Ｗになったか否かを判別する（ステップＳ６）。抽出回数が抽出文書集合数Ｗに満たない場合（ステップＳ６：Ｎｏ）、文書集合抽出処理部５３は、ステップＳ５に戻る。一方、抽出回数が抽出文書集合数Ｗになった場合（ステップＳ６：Ｙｅｓ）、類似文書集合抽出装置１は、出力手段２０によって、抽出したすべての文書集合を出力し（ステップＳ７：出力ステップ）、処理を終了する。なお、ステップＳ５及びステップＳ６が請求項に記載の抽出処理ステップに相当する。
【００６６】
[文書集合抽出処理]
次に、前記したステップＳ５の文書集合抽出処理について図４を参照（適宜図２参照）して説明する。図４は、図３に示した文書集合抽出処理を示すフローチャートである。以下の説明では、ｋ（１≦ｋ≦Ｗ）回目の抽出とする。
【００６７】
まず、文書集合抽出処理部５３は、基準集合決定部５３１によって、処理済文書４３から基準集合Ｇmを選択し（ステップＳ１１）、選択した基準集合Ｇmの情報を単語ベクトル選択部５３３に出力する。そして、基準集合決定部５３１は、選択した基準集合Ｇmの代表ベクトルΨ（Ｇm）を式（５）に基づいて生成し（ステップＳ１２）、第１類似度算出部５３４に出力する。
【００６８】
単語ベクトル選択部５３３は、基準集合決定部５３１によって選択された基準集合Ｇmに含まれる文書ｄnを示す単語ベクトルＸnを処理済文書４３から選択し（ステップＳ１３）、第１類似度算出部５３４、第２類似度算出部５３５及び既抽出集合決定部５３２にそれぞれ出力する。続いて、第１類似度算出部５３４は、それぞれ入力された単語ベクトルＸnと代表ベクトルΨ（Ｇm）とのコサイン類似度αnを式（３）に基づいて算出し（ステップＳ１４）、評価値算出部５３６に出力する。
【００６９】
また、既抽出集合決定部５３２は、集合選択部５３７から既抽出集合Ｕn,kの情報を取得し、選択されている単語ベクトルＸnに基づいて、既抽出集合Ｕn,kを決定する。そして、既抽出集合決定部５３２は、既抽出集合Ｕn,kの代表ベクトルΨ（Ｕn,k）を式（５）に基づいて生成し（ステップＳ１５）、第２類似度算出部５３５に出力する。
。第２類似度算出部５３５は、それぞれ入力された単語ベクトルＸnと代表ベクトルΨ（Ｕn,k）とのコサイン類似度βnを式（７）に基づいて算出し（ステップＳ１６）、評価値算出部５３６に出力する。
【００７０】
評価値算出部５３６は、式（１０）に基づいて、コサイン類似度αnからコサイン類似度βnを差し引いた値であるγnを算出し（ステップＳ１７）、算出したγnの値を所定値γ（初期値０）に加算した値を新たなγとしてＲＡＭ３０に格納する（ステップＳ１８）。評価値算出部５３６によってγがＲＡＭ３０に格納されると、文書集合抽出処理部５３は、単語ベクトル選択部５３３によって、基準集合Ｇmに含まれる文書ｄnを示すすべての単語ベクトルＸnを選択したか否かを判別する（ステップＳ１９）。まだ選択していない単語ベクトルＸnがある場合（ステップＳ１９：Ｎｏ）、文書集合抽出処理部５３は、ステップＳ１３に戻る。一方、すべての単語ベクトルＸnを選択した場合（ステップＳ１９：Ｙｅｓ）、文書集合抽出処理部５３は、現在選択している基準集合Ｇmに基づいたγnの算出処理を終了し、そのときＲＡＭ３０に格納されているγをγ(k)（Ｇm）として記憶する（ステップＳ２０）。
【００７１】
続いて、文書集合抽出処理部５３は、基準集合決定部５３１によって、すべての基準集合Ｇmを選択したか否かを判別する（ステップＳ２１）。まだ選択していない基準集合Ｇmがある場合（ステップＳ２１：Ｎｏ）、文書集合抽出処理部５３は、基準集合決定部５３１によって、基準集合Ｇmを更新（ｍを更新）して（ステップＳ２２）、ステップＳ１２に戻る。一方、すべての基準集合Ｇmを選択した場合（ステップＳ２１：Ｙｅｓ）、文書集合抽出処理部５３は、集合選択部５３７によって、ＲＡＭ３０に記憶されているγ(k)（Ｇm）のうち、最大値を示す文書集合Ｇmを抽出すべき類似文書集合として選択する（ステップＳ２３）。
【００７２】
第１の実施形態の類似文書集合抽出装置１によれば、多数の文書から構成される類似文書集合を優先的に抽出するが、既に抽出した文書集合との重複が多い文書集合の抽出を避けることができる。したがって、抽出された類似文書集合の類似精度を向上させることができる。また、類似文書集合抽出装置１は、抽出文書集合数Ｗに基づいて、１つずつ（逐次的に）類似文書集合を抽出することができる。つまり、類似文書集合を例えば５個抽出する過程に、４個抽出した結果や、３個抽出した結果を含むことになる。それゆえ、異なる抽出文書集合数Ｗにおける抽出結果の比較が容易となる。その結果、最適な抽出文書集合数Ｗを求め易くなる。
【００７３】
（第２の実施形態）
次に、式（１１）で示されるスコアγ(k)（Ｇ）が局所的に最大となる文書集合Ｇを、貪欲探索アルゴリズムで抽出する類似文書集合抽出装置を第２の実施形態として説明する。
［類似文書集合処理装置の構成］
図５は、本発明の第２の実施形態に係る類似文書集合抽出装置の構成例を示す図である。図５に示すように、第２の実施形態の類似文書集合抽出装置１Ａは、文書集合抽出処理部５３Ａの機能が異なる点を除いて、第１の実施形態の類似文書集合抽出装置１と同一の構成なので同一の構成の説明を省略する。
【００７４】
文書集合抽出処理部５３Ａは、所定の基準文書集合Ｇの代表ベクトルΨ（Ｇ）との類似度が、この基準文書集合Ｇに含まれる文書ｄnを含む既抽出文書集合Ｕn,kの代表ベクトルΨ（Ｕn,k）との類似度よりも大きい単語ベクトルＸnを有する文書ｄnから構成される文書集合Ｇを探索するものである。この文書集合抽出処理部５３Ａは、探索した文書集合Ｇで基準文書集合Ｇの更新をスコアγ(k)（Ｇ(t)）が収束するまで繰り返すアルゴリズムを実行する。このアルゴリズムを貪欲探索アルゴリズム（greedy search algorithm）という。そして、文書集合抽出処理部５３Ａは、収束したときの文書集合Ｇ(t)を類似文書集合として抽出する。
以下に、貪欲探索アルゴリズムの原理を説明し、その後、文書集合抽出処理部５３Ａの構成の具体例を説明する。
【００７５】
［貪欲探索アルゴリズム］
ｋ（１≦ｋ≦Ｗ）回目の抽出において、文書集合Ｇの更新手法について説明する。ｔ回更新した文書集合ＧをＧ(t)と表記する。このとき、Ｇ(t)よりＧ(t+1)を得る更新式を次式（１２）で定義する。なお、ｔには０を含み、０回更新した文書集合、すなわち、未更新の文書集合（初期値）をＧ(0)とする。
【００７６】
【数７】
2006343843.tif 000009
【００７７】
この式（１２）は、「代表ベクトルΨ（Ｇ(t)）との類似度が、代表ベクトルΨ（Ｕn,k）との類似度より大きい文書ｄnから構成される文書集合をＧ(t+1)とする」ことを意味している。この定義式（１２）と式（１１）で示されるスコアとに基づいて、次式（１３）の関係が成り立つことがわかる。
【００７８】
【数８】
2006343843.tif 000010
【００７９】
式（１３）が示すように、式（１２）の更新をスコアγ(k)（Ｇ(t)）が収束するまで繰り返すことにより、スコアγ(k)（Ｇ(t)）の値が局所的に最大となる文書集合Ｇ(t)が求まる。なお、スコアγ(k)（Ｇ(t)）の値には上限が存在するので、収束性は明らかである。
【００８０】
[類似文書集合抽出装置の構成]
図６は、本発明の第２の実施形態に係る文書集合抽出処理部の構成例を示すブロック図である。文書集合抽出処理部５３Ａは、図６に示すように、評価値判定部７００を備えると共に、単語ベクトル選択部５３３Ａ、評価値算出部５３６Ａ及び集合選択部５３７Ａの機能が異なる点を除いて、図２に示した文書集合抽出処理部５３と同一なので、同一の構成には同一の参照符号を付し、説明を省略する。
【００８１】
単語ベクトル選択部５３３Ａは、任意の文書ｄnを示す単語ベクトルＸnを処理済文書４３から選択し、第１類似度算出部５３４及び第２類似度算出部５３５にそれぞれ出力するものである。この単語ベクトル選択部５３３Ａは、処理済文書４３から、任意の文書ｄnを示すすべての単語ベクトルＸnを選択する。
【００８２】
評価値算出部５３６Ａは、第１類似度算出部５３４及び第２類似度算出部５３５から入力したデータから、式（１０）に基づいて、コサイン類似度αnからコサイン類似度βnを差し引いた値であるγnを算出し、算出したγnの値を評価値判定部７００に出力するものである。
【００８３】
評価値判定部７００は、式（１２）に基づいて、評価値算出部５３６Ａから入力されたγnの値が正（γn＞０）であるか否かを判定するものである。この評価値判定部７００は、入力されたγnの値が正の場合に、単語ベクトル選択部５３３Ａで選択されている単語ベクトルＸn（または文書を示すインデックスｎ）を文書集合Ｇ(t+1)の更新回数「ｔ＋１」と関連付けてＲＡＭ３０に格納する。
集合選択部５３７Ａは、ＲＡＭ３０に格納されている文書集合Ｇについて、その要素を比較し、同一要素の文書集合がある場合に、最大要素数の文書集合を選択するものである。
【００８４】
[類似文書集合抽出装置の動作]
第２の実施形態の類似文書集合抽出装置の動作は、文書集合抽出処理（Ｓ５：図３参照）が異なる点を除いて、第１の実施形態の類似文書集合抽出装置１の動作と同一である。以下、第２の実施形態に係る文書集合抽出処理を図７を参照（適宜図６参照）して説明する。図７は、図６に示した文書集合抽出処理部による文書集合抽出処理を示すフローチャートである。
【００８５】
図７のフローチャートにおいて、ステップＳ３１〜ステップＳ３７の各処理は、文書集合の表記がＧmの代わりにＧ(t)（ｔ回更新された集合）であることを除いて、図４に示したフローチャートのステップＳ１１〜ステップＳ１７の各処理と実質的に同一なので説明を省略する。ただし、ステップＳ３３では、単語ベクトル選択部５３３Ａは、任意の文書ｄnを示す単語ベクトルＸnを処理済文書４３から選択する。
【００８６】
ステップＳ３７に続いて、文書集合抽出処理部５３Ａは、評価値算出部５３６Ａによって、算出したγnを評価値判定部７００に出力する。そして、評価値判定部７００は、入力されたγnの値が正（γn＞０）であるか否かを判別する（ステップＳ３８）。γn＞０である場合（ステップＳ３８：Ｙｅｓ）、文書集合抽出処理部５３Ａは、現在選択している単語ベクトルＸnで特定される文書ｄnを文書集合Ｇ(t+1)の要素として記憶する（ステップＳ３９）。具体的には、評価値判定部７００は、単語ベクトル選択部５３３Ａで選択されている単語ベクトルＸnを文書集合Ｇ(t+1)の更新回数「ｔ＋１」と関連付けてＲＡＭ３０に格納する。一方、γn≦０である場合（ステップＳ３８：Ｎｏ）、文書集合抽出処理部５３Ａは、ステップＳ３９の処理をスキップしてステップＳ４０に進む。
【００８７】
ステップＳ４０では、文書集合抽出処理部５３Ａは、単語ベクトル選択部５３３Ａによって、処理済文書４３から任意の文書ｄnを示すすべての単語ベクトルＸnを選択したか否かを判別する。まだ選択していない単語ベクトルＸnがある場合（ステップＳ４０：Ｎｏ）、文書集合抽出処理部５３Ａは、ステップＳ３３に戻る。一方、すべての単語ベクトルＸnを選択した場合（ステップＳ４０：Ｙｅｓ）、文書集合抽出処理部５３Ａは、集合選択部５３７Ａによって、ＲＡＭ３０を参照し、文書集合Ｇ(t+1)の要素と文書集合Ｇ(t)の要素とが等しい（Ｇ(t+1)＝Ｇ(t)）か否かを判別する（ステップＳ４１）。
【００８８】
Ｇ(t+1)≠Ｇ(t)の場合（ステップＳ４１：Ｎｏ）、文書集合抽出処理部５３Ａは、更新回数ｔに「１」を加算（ｔ＝ｔ＋１）して（ステップＳ４２）、ステップＳ３２に戻る。すなわち、新たに更新された文書集合で同様な処理を実行する。一方、Ｇ(t+1)＝Ｇ(t)の場合（ステップＳ４１：Ｙｅｓ）、文書集合抽出処理部５３Ａは、集合選択部５３７Ａによって、ＲＡＭ３０に記憶されている文書集合Ｇ(t+1)のうち、（ｔ＋１）が最大値の文書集合Ｇ(t+1)を選択する（ステップＳ４３）。
【００８９】
ステップＳ３１の処理の説明を省略したが、ステップＳ３１では、初期値としての基準集合がＧ(t)が選択される。文書集合抽出処理部５３Ａは、この初期値を複数回変更して、前記したステップＳ３１〜ステップＳ４３の処理を繰り返し、スコアγ(k)（Ｇ）が最大となる文書集合を抽出すべき類似文書集合とする。これによって、初期値の選び方による偏りを是正することができる。なお、初期値としては１要素の集合を選択してもよい。
【００９０】
第２の実施形態によれば、分類対象の文書数（文書データベース１００に格納された文書数）が多くても、スコア（評価関数）が局所的に最大となる文書集合を短時間に求めることができる。すなわち、抽出対象とする文書集合を更新（生成）しながらスコアの値が最大となる文書集合を探索できるので、演算回数を低減することができる。
【００９１】
（第３の実施形態）
次に、対象とする文書集合を限定することで、式（１１）で示されるスコアγ(k)（Ｇ）が局所的に最大となる文書集合Ｇを抽出する類似文書集合抽出装置を第３の実施形態として説明する。
【００９２】
[類似文書集合抽出装置の構成]
図８は、本発明の第３の実施形態に係る類似文書集合抽出装置の構成例を示す図である。図８に示すように、類似文書集合抽出装置１Ｂは、フレーズ辞書４４とフレーズ分類集合生成処理部５４とをさらに備えると共に、文書集合抽出処理部５３Ｂの機能と、処理済文書４３Ｂの内容とが異なる点を除いて、第１の実施形態の類似文書集合抽出装置１と同一なので、同一の構成には同一の参照符号を付し、説明を省略する。
【００９３】
フレーズ辞書４４は、所定数Ｖのフレーズから成る辞書データであり、抽出処理対象の文書集合を限定するために用いられる。「フレーズ」とは、文書データベース１００に格納された各文書ｄn中に所定の閾値以上の数（例えば２）だけ連続して出現する単語を意味する。このフレーズ辞書４４は予め構築されている。
【００９４】
フレーズ分類集合生成処理部（フレーズ分類集合生成手段）５４は、フレーズ辞書４４に予め定められたフレーズに基づいて、文書データベース１００に格納された各文書ｄn（１≦ｎ≦Ｎ）をフレーズ別に分類して所定数Ｖの文書集合（Ｇ1〜ＧV）を生成するものである。このフレーズ分類集合生成処理部５４は、ＣＰＵ５０がＨＤＤ４０に格納された所定のプログラムをＲＡＭ３０に展開して実行することにより実現されるものである。
処理済文書４３Ｂは、形態素解析及び単語ベクトルの付与がなされた文書に基づいて、フレーズ分類集合生成処理部５４で生成された文書集合（Ｇ1〜ＧV）である。
【００９５】
文書集合抽出処理部５３Ｂは、式（１１）で示されるスコアγ(k)（Ｇ）を算出する対象数が異なる点を除いて、図２に示した文書集合抽出処理部５３と同一のものである。この文書集合抽出処理部５３Ｂは、処理済文書４３Ｂ（フレーズ分類集合生成処理部５４で生成された文書集合（Ｇ1〜ＧV））の中から、スコアγ(k)（Ｇ）の値が最大となる文書集合Ｇを抽出する。
【００９６】
[類似文書集合抽出装置の動作]
類似文書集合抽出装置１Ｂの動作は、処理済文書４３Ｂを生成する処理が追加された点を除いて、図３及び図４に示したフローチャートと同一なので、同一の処理の説明を省略する。類似文書集合抽出装置１Ｂは、単語ベクトル生成処理部５２によって、入力した文書に付与する単語ベクトルＸnを生成した後（ステップＳ４：図３参照）、フレーズ分類集合生成処理部５４によって、フレーズ辞書４４を参照し、各文書ｄn（１≦ｎ≦Ｎ）をフレーズ別に分類して所定数Ｖの文書集合（Ｇ1〜ＧV）を生成する（フレーズ分類集合生成ステップ）。これによって、図９の（ａ）に示すように、類似文書集合抽出装置１Ｂは、ＨＤＤ４０に処理済文書４３Ｂを格納する。図９の（ａ）に示した例では、文書集合Ｇを「０１」〜「０Ｖ」の識別番号でＶ個の集合に分類した。また、集合の要素は、文書ｄnのインデックスとした。なお、図９の（ａ）には示していないが、処理済文書４３Ｂには、各集合に対してフレーズが記憶され、また、各集合の要素に対して単語ベクトルＸn及び文書データが記憶されている。
【００９７】
類似文書集合抽出装置１Ｂは、この処理済文書４３に記憶されたＶ個の集合を基準集合として、文書集合抽出処理（ステップＳ５：図３参照）を実行する。その結果、図９の（ａ）に示した集合（Ｇ01〜Ｇ0V）から、図９の（ｂ）に示すようにＶ個のスコアγ(k)（Ｇ01）〜γ(k)（Ｇ0V）の値が生成されてＲＡＭ３０に格納され、最大値となる集合Ｇが類似文書集合として抽出されることとなる。
【００９８】
第３の実施形態によれば、分類対象の文書数（文書データベース１００に格納された文書数）が多くても、スコア（評価関数）が局所的に最大となる文書集合を短時間に求めることができる。すなわち、スコアを算出する対象の文書集合数は予め定められたフレーズの個数（フレーズ数）Ｖとなり（限定的）、このフレーズ数Ｖに基づいて、文書データベース１００に格納されていた全文書が探索対象となる（大域的）。したがって、スコアとして限定された解の中においても大域的最適解を求めることができる。また、抽出処理結果は、基準文書集合（初期値）に限定されずに一定となる。
【００９９】
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、その趣旨を変えない範囲で実施することができる。例えば、本実施形態では、類似文書集合を抽出する装置が、分類対象の複数の文書を形態素解析する処理と、各文書に単語ベクトルを付与する処理も実行するものとして説明したが、これらの処理を実行する専用の装置から入力される情報に基づいて類似文書集合を抽出するものとしてもよい。また、類似文書集合抽出処理において、適切な基準集合をユーザが入力するようにしてもよい。
また、第３の実施形態では、フレーズ辞書４４を備えるものとしたが、フレーズ分類集合生成処理部５４は、フレーズ辞書４４の代わりに単語辞書４２を用いて、スコアを算出する文書集合を限定するようにしてもよい。また、フレーズを人名や地名などの固有名詞に限定してもよい。
【実施例】
【０１００】
以下の説明では、本発明の類似文書集合抽出装置を、抽出された複数の類似文書集合から、ユーザが所望の文書を検索（フィルタリング）するために利用する。
前提として、ユーザが例えば沖縄に旅行するために蛇の“ハブ”について記載された文書を調べたい場合を想定して、文書データベース１００を２００件の文書で構成した。この２００件の文書は、検索エンジンｇｏｏ（登録商標）から「ハブ」をキーワード検索した場合の上位２００件の検索結果について、タイトルと概要を合わせた文字数１５０文字程度の文章で構成されている。また、類似文書集合抽出装置１の形態素解析処理部５１の機能をフリーソフト「茶筌（ＣｈａＳｅｎ）」で実現した。
【０１０１】
（第１実施例）
第２の実施形態に係る類似文書集合抽出装置１Ａ（第１実施例）は、抽出文書集合数ＷとしてＷ＝５が入力された場合に、蛇の“ハブ”に関する類似文書集合や、ネットワーク機器の“ハブ”に関する類似文書集合等を合計５つ自動抽出する。このときの処理結果を表１に示す。この表では、類似文書集合、代表ベクトルの主要単語、文書数が示されている。
【０１０２】
【表１】
2006343843.tif 000011
【０１０３】
類似文書集合は、表の上から、抽出した順番で示されている。すなわち、類似文書集合としてＴ11，Ｔ12，Ｔ13，Ｔ14，Ｔ15をこの順番に抽出した。
また、代表ベクトルの主要単語とは、抽出した類似文書集合Ｔ1j（ｊ＝１〜５）に対応する代表ベクトルΨ（Ｔ1j）の要素のうち、値が大きい上位５個の要素に対応する単語を示している。
また、文書数は抽出した類似文書集合に含まれる文書数を示している。
比較例として、球面Ｋ平均法（Spherical k-means Algorithm）を用いて類似文書集合を抽出した結果を表２に示す。なお、抽出文書集合数Ｗは同じく「５」である。
【０１０４】
【表２】
2006343843.tif 000012
【０１０５】
第１実施例の結果（表１）によれば、ユーザが沖縄に旅行するために蛇の“ハブ”について調べたい場合、類似文書集合Ｔ11の１９件の文書を調べればよいことになる。その理由は、類似文書集合Ｔ11は主要単語として「沖縄」を含むからである。この場合、ユーザにとって不要なページ、すなわち、ネットワーク機器の“ハブ”などが記載された文書は、類似文書集合Ｔ11以外の類似文書集合Ｔ12〜Ｔ15として抽出されている。
つまり、ユーザは、抽出結果に基づいて、所望の類似文書集合を選択することで、不要な文書を除去することができる。具体的には、キーワード“ハブ”を含む２００件の文書から、ユーザが所望する（蛇に関する）類似文書集合として僅か１９件の文書を参照すればよいことになる。
【０１０６】
なお、抽出漏れが心配ならば、類似文書集合Ｔ13の１６件の文書を調べればよいことになる。その理由は、類似文書集合Ｔ13は主要単語として「マングース，研究，結果，行っ，展示」を含み、このうち「マングース」は、コブラの天敵なので、コブラと同じ蛇の一種である“ハブ”について記載されている可能性があるからである。しかし、実際には、ハブ（蛇）とマングースに関する文書の他に、奄美諸島に生息するハブ（蛇）に関する文書（沖縄旅行には関係ない）や、ハブ（蛇以外も含む）の研究に関する文書が含まれていた。
【０１０７】
一方、比較例の結果（表２）によれば、ユーザは、単語「沖縄」を含む類似文書集合Ｔ21の７７件の文書を調べることになる。この比較例の類似文書集合Ｔ21の文書数（７７件）は、第１実施例の類似文書集合Ｔ11の文書数（１９件）の４倍以上の数に上っている。この理由は、比較例では、すべての文書（２００件）をいずれかの類似文書集合Ｔ21〜Ｔ25に排他的に分割するためである。この結果、例えば、類似文書集合Ｔ21には、“蛇のハブ”、“情報ネットワークのハブ”、“ハブ茶”など様々な内容の文書が含まれていた。
【０１０８】
このようなフィルタリングを考慮した場合、所望の１つの文書集合（この場合には、蛇の“ハブ”に関連した類似文書集合）が抽出さえできれば充分であり、すべての文書を分類する必要はない。第１実施例では、内容が多様な複数（２００件）の文書からすべての文書を排他的に分割することなく、主要な類似文書集合のみを抽出したので、抽出した５つの類似文書集合に含まれる全文書数は１０６件であった。したがって、抽出した類似文書集合の類似精度を比較例よりも高めることができた。
【０１０９】
なお、比較例では、別々の文書集合として抽出されたにもかかわらず、類似文書集合Ｔ23と類似文書集合Ｔ24には、“ネットワーク機器のハブ”に関する文書が多く含まれ、双方の内容が類似していた。これは、比較例が、文書全体を一様な大きさの文書集合に分割する傾向があるためであると考えられる。したがって、ユーザにとって、抽出した類似文書集合同士の相違が分かりにくくなっていた。具体的には、例えば「スイッチングハブ」について調べたい場合、ユーザはこれら類似文書集合Ｔ23と類似文書集合Ｔ24のうち、どちらを優先的に検索すべきか選ぶことが困難になる。
【０１１０】
（第２実施例）
第３の実施形態に係る類似文書集合抽出装置１Ｂ（第２実施例）は、抽出文書集合数ＷとしてＷ＝５が入力された場合に、蛇の“ハブ”に関する類似文書集合や、ネットワーク機器の“ハブ”に関する類似文書集合等を合計５つ自動抽出する。このときの処理結果を表３に示す。この表では、類似文書集合、フレーズ、文書数が示されている。また、類似文書集合としてＴ31，Ｔ32，Ｔ33，Ｔ34，Ｔ35をこの順番に抽出した。ここで、フレーズは、抽出した類似文書集合Ｔ3j（ｊ＝１〜５）を特徴付けるものである。
【０１１１】
【表３】
2006343843.tif 000013
【０１１２】
第２実施例の結果（表３）は、第１実施例の結果（表１）と比較して、３つの類似文書集合で、特徴付けが同じであった。具体的には、“ｕｓｂ”、“スイッチング”、“沖縄”が共通していた。つまり、Ｔ31とＴ12，Ｔ32とＴ14，Ｔ33とＴ11は、抽出された文書がそれぞれ類似していた。例えば、“ｕｓｂ”で特徴付けられるＴ31とＴ12では、Ｔ12に属する文書集合はすべてＴ31に含まれていた（Ｔ12⊂Ｔ31）。したがって、第１実施例と第２実施例では、抽出結果の傾向は類似しているとみなせる。つまり、類似文書集合抽出装置１Ｂ（第２実施例）は、比較例（表２）と比較した場合、第１実施例と同様な効果を奏することができる。
【０１１３】
また、第２実施例の結果（表３）によれば、ユーザが沖縄に旅行するために蛇の“ハブ”について調べたい場合、ユーザは、フレーズとして「沖縄」を含む類似文書集合Ｔ33の１２件の文書を調べればよいことになる。つまり、第２実施例では、合計文書数（１０７件）は第１実施例（１０６件）の場合よりも増加しているにもかかわらず、ユーザが選択すべき類似文書集合の要素数（１２件）が第１実施例（１９件）よりも減少している。したがって、ユーザは所望の文書を短時間で参照できる。
【０１１４】
さらに、第２実施例では、類似文書集合の特徴づけを「フレーズ（１つの単語）」としたので、第１実施例や比較例のように４個または５個の「代表ベクトルの主要単語」とする場合よりも、表現が簡潔である。その結果、ユーザが類似文書集合の内容を把握し易く、可読性が高いと言える。
【図面の簡単な説明】
【０１１５】
【図１】本発明の第１の実施形態に係る類似文書集合抽出装置の構成例を示す図である。
【図２】図１に示した文書集合抽出処理部の構成例を示すブロック図である。
【図３】図１に示した類似文書集合抽出装置の動作を示すフローチャートである。
【図４】図３に示した文書集合抽出処理を示すフローチャートである。
【図５】本発明の第２の実施形態に係る類似文書集合抽出装置の構成例を示す図である。
【図６】本発明の第２の実施形態に係る文書集合抽出処理部の構成例を示すブロック図である。
【図７】図６に示した文書集合抽出処理部による文書集合抽出処理を示すフローチャートである。
【図８】本発明の第３の実施形態に係る類似文書集合抽出装置の構成例を示す図である。
【図９】図８に示した類似文書集合抽出装置の動作の説明図であり、（ａ）は処理済文書のデータ、（ｂ）はＲＡＭのデータを示している。
【符号の説明】
【０１１６】
１（１Ａ，１Ｂ）  類似文書集合抽出装置
１０      入力手段
２０      出力手段
３０      ＲＡＭ
４０      ＨＤＤ
４１      形態素辞書
４２      単語辞書
４３（４３Ｂ）  処理済文書
４４      フレーズ辞書
５０      ＣＰＵ
５１      形態素解析処理部
５２      単語ベクトル生成処理部
５３（５３Ａ，５３Ｂ）  文書集合抽出処理部（抽出処理手段）
５４      フレーズ分類集合生成処理部（フレーズ分類集合生成手段）
６０      バス
１００    文書データベース
５３１    基準集合決定部
５３２    既抽出集合決定部
５３３（５３３Ａ）  単語ベクトル選択部
５３４    第１類似度算出部
５３５    第２類似度算出部
５３６（５３６Ａ）  評価値算出部
５３７（５３７Ａ）  集合選択部
７００    評価値判定部
【図１】
2006343843.tif 000014
【図２】
2006343843.tif 000015
【図３】
2006343843.tif 000016
【図４】
2006343843.tif 000017
【図５】
2006343843.tif 000018
【図６】
2006343843.tif 000019
【図７】
2006343843.tif 000020
【図８】
2006343843.tif 000021
【図９】
2006343843.tif 000022