(57)【要約】【課題】  電子文書を代表するに不適当な語句が適当な語句と判定されて抽出されることを抑える。【解決手段】  情報記憶部には、情報源毎に、過去の入力電子文書の情報を記憶しておく。情報差分取得部は、ある情報源からの入力電子文書全体から、該情報源について情報記憶部に記憶されていない差分情報を取り出した後、入力電子文書全体で、情報記憶部を更新する。見出し語抽出部は、得られた差分情報から見出し語を抽出する。見出し語記憶部には、情報源毎に、過去に抽出された見出し語を記憶しておく。見出し語決定部は、抽出された見出し語と、記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定し、今回の抽出見出し語を見出し語記憶部に記憶させる。特徴ベクトル化部は、決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出する。【選択図】      図１
2007149022.tif 000002
【特許請求の範囲】
【請求項１】
情報源毎に、入力された電子文書の情報を記憶する情報記憶部と、
任意の情報源から入力された電子文書全体から、該情報源について上記情報記憶部に記憶された内容にない部分を差分情報として取り出すと共に、入力された当該電子文書全体で、上記情報記憶部における当該情報源の記憶内容を更新する情報差分取得部と、
得られた上記差分情報から、電子文書を代表し得る文字列を見出し語として抽出する見出し語抽出部と、
情報源毎に、過去に抽出された見出し語を記憶する見出し語記憶部と、
上記見出し語抽出部によって抽出された見出し語と、上記見出し語記憶部に記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定すると共に、今回、上記見出し語抽出部によって抽出された見出し語を上記見出し語記憶部に記憶させる見出し語決定部と、
当該見出し語決定部で決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出する特徴ベクトル化部と
を有することを特徴とする文書特徴抽出装置。
【請求項２】
上記見出し語決定部は、上記見出し語抽出部によって抽出された見出し語のうち、上記見出し語記憶部に記憶されていないものを、今回入力された電子文書に係る見出し語に決定すると共に、今回、上記見出し語抽出部によって抽出された見出し語で上記見出し語記憶部の格納内容を更新させることを特徴とする請求項１に記載の文書特徴抽出装置。
【請求項３】
上記見出し語記憶部は、各情報源について、予め定められた期間内の各差分情報について、又は、予め定められた所定回数分の各差分情報について、上記見出し語抽出部で得られた見出し語を記憶するものであり、
上記見出し語決定部は、上記見出し語抽出部によって抽出された見出し語を、今回入力された電子文書に係る見出し語に決定すると共に、上記見出し語記憶部に記憶された過去の見出し語の情報をも用いて、見出し語として実質的な意義を表す重要度を算出し、
上記特徴ベクトル化部は、上記見出し語決定部によって決定された見出し語の値として、出現回数や出現文書数に加えて、上記重要度を反映させる
ことを特徴とする請求項１に記載の文書特徴抽出装置。
【請求項４】
情報記憶部、情報差分取得部、見出し語抽出部、見出し語記憶部、見出し語決定部及び特徴ベクトル化部とを備え、入力された電子文書の特徴を抽出する文書特徴抽出方法であって、
上記情報記憶部は、情報源毎に、入力された電子文書の情報を記憶し、
上記情報差分取得部は、任意の情報源から入力された電子文書全体から、該情報源について上記情報記憶部に記憶された内容にない部分を差分情報として取り出すと共に、入力された当該電子文書全体で、上記情報記憶部における当該情報源の記憶内容を更新し、
上記見出し語抽出部は、得られた上記差分情報から、電子文書を代表し得る文字列を見出し語として抽出し、
上記見出し語記憶部は、情報源毎に、過去に抽出された見出し語を記憶し、
上記見出し語決定部は、上記見出し語抽出部によって抽出された見出し語と、上記見出し語記憶部に記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定すると共に、今回、上記見出し語抽出部によって抽出された見出し語を上記見出し語記憶部に記憶させ、
上記特徴ベクトル化部は、上記見出し語決定部で決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出する
ことを特徴とする文書特徴抽出方法。
【請求項５】
上記見出し語決定部は、上記見出し語抽出部によって抽出された見出し語のうち、上記見出し語記憶部に記憶されていないものを、今回入力された電子文書に係る見出し語に決定すると共に、今回、上記見出し語抽出部によって抽出された見出し語で上記見出し語記憶部の格納内容を更新させることを特徴とする請求項４に記載の文書特徴抽出方法。
【請求項６】
上記見出し語記憶部は、各情報源について、予め定められた期間内の各差分情報について、又は、予め定められた所定回数分の各差分情報について、上記見出し語抽出部で得られた見出し語を記憶するものであり、
上記見出し語決定部は、上記見出し語抽出部によって抽出された見出し語を、今回入力された電子文書に係る見出し語に決定すると共に、上記見出し語記憶部に記憶された過去の見出し語の情報をも用いて、見出し語として実質的な意義を表す重要度を算出し、
上記特徴ベクトル化部は、上記見出し語決定部によって決定された見出し語の値として、出現回数や出現文書数に加えて、上記重要度を反映させる
ことを特徴とする請求項４に記載の文書特徴抽出方法。
【請求項７】
記憶装置に構築された、情報源毎に、入力された電子文書の情報を記憶する情報記憶部と、情報源毎に、過去に抽出された見出し語を記憶する見出し語記憶部とを、コンピュータがアクセスしながら、入力された電子文書の特徴を抽出させる、コンピュータが実行可能なコードで記述された文書特徴抽出プログラムであって、
任意の情報源から入力された電子文書全体から、該情報源について上記情報記憶部に記憶された内容にない部分を差分情報として取り出すと共に、入力された当該電子文書全体で、上記情報記憶部における当該情報源の記憶内容を更新する情報差分取得プログラム部分と、
得られた上記差分情報から、電子文書を代表し得る文字列を見出し語として抽出する見出し語抽出プログラム部分と、
上記見出し語抽出プログラム部分によって抽出された見出し語と、上記見出し語記憶部に記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定すると共に、今回、上記見出し語抽出プログラム部分によって抽出された見出し語を上記見出し語記憶部に記憶させる見出し語決定プログラム部分と、
当該見出し語決定プログラム部分で決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出する特徴ベクトル化プログラム部分と
を有することを特徴とする文書特徴抽出プログラム。
【請求項８】
上記見出し語決定プログラム部分は、上記見出し語抽出プログラム部分によって抽出された見出し語のうち、上記見出し語記憶部に記憶されていないものを、今回入力された電子文書に係る見出し語に決定すると共に、今回、上記見出し語抽出プログラム部分によって抽出された見出し語で上記見出し語記憶部の格納内容を更新させることを特徴とする請求項７に記載の文書特徴抽出プログラム。
【請求項９】
上記見出し語記憶部は、各情報源について、予め定められた期間内の各差分情報について、又は、予め定められた所定回数分の各差分情報について、上記見出し語抽出部で得られた見出し語を記憶するものであり、
上記見出し語決定プログラム部分は、上記見出し語抽出プログラム部分によって抽出された見出し語を、今回入力された電子文書に係る見出し語に決定すると共に、上記見出し語記憶部に記憶された過去の見出し語の情報をも用いて、見出し語として実質的な意義を表す重要度を算出し、
上記特徴ベクトル化プログラム部分は、上記見出し語決定プログラム部分によって決定された見出し語の値として、出現回数や出現文書数に加えて、上記重要度を反映させる
ことを特徴とする請求項７に記載の文書特徴抽出プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、電子文書の特徴情報を得る文書特徴抽出装置、方法及びプログラムに関し、例えば、電子文書の分類システムや検索システムに適用し得るものである。
【背景技術】
【０００２】
電子文書の分類や検索などを行う場合、その文書から特徴量を抽出して多次元のベクトルとし、ベクトル間の距離を比較することで分類や検索を行う。例えば、特許文献１に記載の従来技術では、文書中の語句を要素として、文書中でのその語句の出現頻度や全文書集合中での語句を含む文書の数からその要素の値を算出し、特徴ベクトルとしている。
【０００３】
語句によって、文書を特徴付けるような見出し語として適当な語句や、文書の主題にあまり関係なくどのような文書でも使われ易い見出し語としては不適当な語句がある。その点については、この特許文献１に記載の従来技術のように、全文書集合中で語句を含む文書の割合が多い語句は重みを小さく、割合か小さい語句は、検索の絞込み効果が大きい語句であるので、重みを大きくすることで、妥当な値となるようにしている。例えば、ｌｏｇ（＜全文書数＞／＜対象語句の出現する文書数＞）がｉｄｆと呼ばれ、語句の重みとして一般に良く使われている。
【特許文献１】特開平８−２６３５１４号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、全文書集合中での出現する文書の割合が小さい語句でも、見出し語として不適当な語句がある。
【０００５】
例えば、全文書集合がＷｅｂページ全体であり、その一部であるブログ（ｂｌｏｇ）に着目すると、記事内容に関係なく「コメント」、「トラックバック」といった文字列が出てくる。これは、内容に関係がなく、システム上の要求で挿入される文字列であり、情報検索や分類の見出し語として適当ではない。
【０００６】
しかしながら、ブログはＷｅｂページ全体の一部であり、また、「トラックバック」の文字列も「Ｔｒａｃｋ  ｂａｃｋ」と英語表記であったりして、実際に「トラックバック」と表記されている文書はＷｅｂページ全体のごく一部であり、従来手法のｉｄｆによる評価では語句の重みは高くなってしまう。
【０００７】
また、不要な語を予め定めておいて見出し語から削除する手法も知られているが、ブログではなく、ブログについての解説記事などで「トラックバック」と表記されていた場合は見出し語とする必要がある。
【０００８】
以上のように、従来の語句の重みの決定方法では、見出し語として不適当であるが一部の文書にしか出現しない語句、あるいは、出現する文書の種類によって見出し語として適当であったり適当でなかったりする語句の重みの評価が適切にできないという問題があった。
【０００９】
検索においては、ユーザが検索キーワードとしてそのような語句を入力しなければ問題が発生しないが、特許文献１の記載技術のような自動分類や、類似文書検索のように文書中に現れた語句の重みをそのまま処理装置が用いる場合には、性能低下の大きな要因となっていた。
【００１０】
そのため、電子文書を代表する語句として不適当な語句が適当な語句と判定されることを抑えることができる文書特徴抽出装置、方法及びプログラムが望まれている。
【課題を解決するための手段】
【００１１】
第１の本発明の文書特徴抽出装置は、（１）情報源毎に、入力された電子文書の情報を記憶する情報記憶部と、（２）任意の情報源から入力された電子文書全体から、該情報源について上記情報記憶部に記憶された内容にない部分を差分情報として取り出すと共に、入力された当該電子文書全体で、上記情報記憶部における当該情報源の記憶内容を更新する情報差分取得部と、（３）得られた上記差分情報から、電子文書を代表し得る文字列を見出し語として抽出する見出し語抽出部と、（４）情報源毎に、過去に抽出された見出し語を記憶する見出し語記憶部と、（５）上記見出し語抽出部によって抽出された見出し語と、上記見出し語記憶部に記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定すると共に、今回、上記見出し語抽出部によって抽出された見出し語を上記見出し語記憶部に記憶させる見出し語決定部と、（６）当該見出し語決定部で決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出する特徴ベクトル化部とを有することを特徴とする。
【００１２】
第２の本発明の文書特徴抽出方法は、情報記憶部、情報差分取得部、見出し語抽出部、見出し語記憶部、見出し語決定部及び特徴ベクトル化部とを備え、入力された電子文書の特徴を抽出するものであって、（１）上記情報記憶部は、情報源毎に、入力された電子文書の情報を記憶し、（２）上記情報差分取得部は、任意の情報源から入力された電子文書全体から、該情報源について上記情報記憶部に記憶された内容にない部分を差分情報として取り出すと共に、入力された当該電子文書全体で、上記情報記憶部における当該情報源の記憶内容を更新し、（３）上記見出し語抽出部は、得られた上記差分情報から、電子文書を代表し得る文字列を見出し語として抽出し、（４）上記見出し語記憶部は、情報源毎に、過去に抽出された見出し語を記憶し、（５）上記見出し語決定部は、上記見出し語抽出部によって抽出された見出し語と、上記見出し語記憶部に記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定すると共に、今回、上記見出し語抽出部によって抽出された見出し語を上記見出し語記憶部に記憶させ、（６）上記特徴ベクトル化部は、上記見出し語決定部で決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出することを特徴とする。
【００１３】
第２の本発明の文書特徴抽出プログラムは、記憶装置に構築された、情報源毎に、入力された電子文書の情報を記憶する情報記憶部と、情報源毎に、過去に抽出された見出し語を記憶する見出し語記憶部とを、コンピュータがアクセスしながら、入力された電子文書の特徴を抽出させる、コンピュータが実行可能なコードで記述されたものであって、（１）任意の情報源から入力された電子文書全体から、該情報源について上記情報記憶部に記憶された内容にない部分を差分情報として取り出すと共に、入力された当該電子文書全体で、上記情報記憶部における当該情報源の記憶内容を更新する情報差分取得プログラム部分と、（２）得られた上記差分情報から、電子文書を代表し得る文字列を見出し語として抽出する見出し語抽出プログラム部分と、（３）上記見出し語抽出プログラム部分によって抽出された見出し語と、上記見出し語記憶部に記憶されている過去の見出し語との異同により、今回入力された電子文書に係る見出し語を決定すると共に、今回、上記見出し語抽出プログラム部分によって抽出された見出し語を上記見出し語記憶部に記憶させる見出し語決定プログラム部分と、（４）当該見出し語決定プログラム部分で決定された見出し語に対する値を、出現回数や出現文書数に基づいて算出する特徴ベクトル化プログラム部分とを有することを特徴とする。
【発明の効果】
【００１４】
本発明によれば、電子文書の特徴を表す電子文書を代表する語句として、不適当な語句が適当な語句と判定されて抽出されることを抑えることができる。
【発明を実施するための最良の形態】
【００１５】
（Ａ）第１の実施形態
以下、本発明による文書特徴抽出装置、方法及びプログラムの第１の実施形態を、図面を参照しながら詳述する。
【００１６】
（Ａ−１）第１の実施形態の構成
図１は、第１の実施形態の文書特徴抽出装置の機能的構成を示すブロック図である（なお、図１は、第１の実施形態の文書特徴抽出方法を示すフローチャートとしてみることもできる）。
【００１７】
例えば、第１の実施形態の文書特徴抽出装置は、パソコンやプロバイダサーバ等の情報処理装置に対し、ＣＤ−ＲＯＭやフレキシブルディスク等の記録媒体に記録されている第１の実施形態の文書特徴抽出プログラム（データファイルや、データを格納するテーブル等を含む）をインストールしたり、文書特徴抽出プログラムをネットワークからダウンロードしたりすることで実現されるが、機能的には、図１で表すことができる。なお、第１の実施形態の文書特徴抽出装置は、例えば、ＡＳＩＣ等、専用的なハードウェアとして実現しても良い。
【００１８】
図１において、第１の実施形態の文書特徴抽出装置１００は、機能的には、情報取得部１０１、情報差分取得部１０２、情報記憶部１０３、見出し語抽出部１０４、見出し語差分取得部１０５、見出し語記憶部１０６及び特徴ベクトル化部１０７を有しており、当該文書特徴抽出装置１００による抽出結果である特徴ベクトルを、例えば、分類システム１９０に出力するものである。
【００１９】
情報取得部１０１は、電子文書情報を取得するものであり、その取得方法は問われないものである。情報取得部１０１は、例えば、予め定められたいくつかのサイトなどの情報源からＷｅｂページなどの文書情報を取得する。この場合であれば、情報取得部１０１は、通信部を含めた、サイトをアクセスし、Ｗｅｂページを取り出すハードウェアやソフトウェアが該当する。また、情報取得部１０１は、例えば、ＣＤ−ＲＯＭやフレキシブルディスク等の記録媒体から電子文書を読み込むものであっても良く、ＯＣＲなどによって電子文書を取り込むものであっても良い。また例えば、オペレータが電子文書をキー入力し、それを取り込むものであっても良い。このような取得時には、ＣＰＵも、取得のためのプログラム部分を実行する。
【００２０】
但し、取得する電子文書情報は、定期的又は不定期的に発行若しくは更新若しくは改訂されるものであり、情報源（例えば、サイト）などで、発行や更新などの継続性を確認できるものである。
【００２１】
情報差分取得部１０２は、情報取得部１０１により得られた情報と、以前同じ情報源から得られて情報記憶部１０３に記憶されている情報との差分を取るものである。情報差分取得部１０２は、例えば、情報取得部１０１により得られた情報の行毎に、一致する行が情報記憶部１０３に記憶されていた情報にあるか判定して、一致しない行のみを残すようにする。そして、差分が得られた後、情報取得部１０１で得られたそのままの（差分が取られていない）情報で、情報記憶部１０３を更新する。情報差分取得部１０２は、例えば、ＣＰＵ、ＲＯＭ、ＲＡＭや、ＣＰＵが実行する情報差分取得用のプログラム部分や、情報記憶部１０３（例えばハードディスクでなる）に対するアクセス構成などが該当する。
【００２２】
情報記憶部１０３は、情報取得部１０１で得られた情報を、その情報源毎に記憶するものである。情報の更新は、情報差分取得部１０２で差分を取るために参照された後に行う必要があるため、更新の処理は情報差分取得部１０２によって行われる。情報記憶部１０３は、例えばハードディスクでなる。
【００２３】
見出し語抽出部１０４は、情報差分取得部１０２で得られた差分文書（適宜、部分文書と呼ぶ）から、見出し語となる文字列と、各見出し語の出現回数を得るものである。見出し語の抽出は、形態素解析など一般的な自然言語処理技術で行うことができる。見出し語抽出部１０４は、例えば、ＣＰＵ、ＲＯＭ、ＲＡＭや、ＣＰＵが実行する見出し語抽出用のプログラム部分などが該当する。
【００２４】
見出し語差分取得部１０５は、見出し語抽出部１０４による抽出結果と、見出し語記憶部１０６に記憶されている、同じ情報源からの以前の情報（差分文書）に対する見出し語抽出部１０４による以前の抽出結果とを比較し、以前見出し語となっていなかった見出し語（文字列）のみを選択するものである。また、見出し語差分取得部１０５は、上記処理後に、今回見出し語抽出部１０４で得られた見出し語で、この情報源についての見出し語記憶部１０６を更新するものである。見出し語差分取得部１０５は、例えば、ＣＰＵ、ＲＯＭ、ＲＡＭや、ＣＰＵが実行する見出し語差分取得用のプログラム部分や、見出し語記憶部１０６（例えばハードディスクでなる）に対するアクセス構成などが該当する。
【００２５】
見出し語記憶部１０６は、各情報源毎に、見出し語抽出部１０４で得られた差分情報の見出し語を記憶するものである。また、見出し語記憶部１０６には、その情報での出現の差分中に出現した個数など特徴ベクトルを得るために必要な情報も記憶するようにして良い。見出し語差分取得部１０５で差分を取得するまで、前回分を記憶しておく必要があるため、見出し語記憶部１０６の更新は見出し語差分取得部１０５により更新される。見出し語記憶部１０６は、例えばハードディスクでなる。情報記憶部１０３と見出し語記憶部１０６とで、ハードウェア的には同じ記憶装置を適用しても良い。
【００２６】
特徴ベクトル化部１０７は、各情報源からの差分情報毎に、見出し語差分取得部１０５で得られた各見出し語を特徴ベクトルの成分とし、その成分の値を出現数などから算出して、特徴ベクトルを決定するものである。成分の値の算出方法は、見出し語の出現数（ｔｆ）や見出し語が出現する情報の数（ｄｆ）などから算出する一般的な自然言語処理技術を用いることができる。特徴ベクトル化部１０７は、例えば、ＣＰＵ、ＲＯＭ、ＲＡＭや、ＣＰＵが実行する特徴ベクトル化用のプログラム部分や、見出し語記憶部１０６（例えばハードディスクでなる）に対するアクセス構成などが該当する。
【００２７】
図１では、第１の実施形態の文書特徴抽出装置１００が得た特徴ベクトルを利用するものとして、分類システム１９０を書き出している。分類システム１９０は、特徴ベクトル化された情報の差分に基づいて、電子文書を分類したり、同様な電子文書を検索したりするものである。
【００２８】
（Ａ−２）第１の実施形態の動作
次に、第１の実施形態の文書特徴抽出装置１００の動作（第１の実施形態の文書特徴抽出方法）を、具体例を用いて説明する。
【００２９】
図２は、ある情報源Ｉ１１に係るＷｅｂページの内容を、時間順次で示したものである。図２（ａ）が古く、図２（ｂ）、図２（ｃ）の順に新しくなっている。
【００３０】
ここで、第１の実施形態の文書特徴抽出装置１００が前回に動作したときに、情報源Ｉ１１に係るＷｅｂページの内容は図２（ａ）であったとすると、その時点では、この図２（ａ）に示すＷｅｂページの内容が情報取得部１０１により得られる。そのとき、情報差分取得部１０２によって、差分文書として、図２（ａ）に示す文書部分Ｄ１１が取られたとする（なお、差分文書はワーキングエリアに記憶されている）。その後、情報差分取得部１０２によって、図２（ａ）に示す内容の全体が、情報記憶部１０３における情報源Ｉ１１についての内容として上書きされる（これにより、古い情報は消去される）。
【００３１】
差分文書Ｄ１１に対して、見出し語抽出部１０４が、見出し語として名詞「今日」、「天気」、「プール」、「○○センター」、「渇水」、「閉園」、「コメント」、「トラックバック」を得、見出し語差分取得部１０５が、これら見出し語を見出し語記憶部１０６に記憶したとする。なお、見出し語は、自立語であり、名詞に限定されるものではないが、以下では、見出し語が名詞であるとして説明を行う。
【００３２】
ここで、情報取得部１０１が同一の情報源Ｉ１１から再度得たＷｅｂページの内容が図２（ｂ）に示す内容であったとする。
【００３３】
情報差分取得部１０２は、図２（ｂ）に示す内容の各行の中から、情報記憶部１０３に記憶されている図２（ａ）に示す内容における行と一致する行として、図２（ｂ）に符号Ｓ１１とＳ１２を付与している部分の各行を得、これ以外の部分である図２（ｂ）に符号Ｄ１２を付与した部分文書Ｄ１２を差分情報とする。差分情報Ｄ１２を得た後には、情報差分取得部１０２は、図２（ｂ）に示す内容の全体をそのまま情報記憶部１０３に記憶する。
【００３４】
見出し語抽出部１０４は、差分情報Ｄ１２から、形態素解析などの手法で名詞を抽出し、「今日」、「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」、「コメント」、「トラックバック」を見出し語として得る。
【００３５】
見出し語差分取得部１０５は、これらの名詞と、先に例示した見出し語記億部１０６に記憶された見出し語を比較し、共通した「今日」、「コメント」、「トラックバック」を削除し、特徴ベクトル化部１０７には「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」を出力する。また、見出し語差分取得部１０５は、見出し語抽出部１０４から与えられた見出し語全てを見出し語記憶部１０６に記憶する。すなわち、「今日」、「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」、「コメント」、「トラックバック」を見出し語記憶部１０６に記憶する。
【００３６】
特徴ベクトル化部１０７は、「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」を要素（ベクトル成分）とし、それぞれの値に出現回数（ｔｆ）を盛り込んだベクトルを、差分情報Ｄ１２の特徴ベクトルとし、分類システム１９０に出力する。差分情報Ｄ１２の場合、各要素「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」の出現回数（ｔｆ）は「１，１，１，１，１」である。
【００３７】
特徴ベクトル化部１０７は、他の特徴ベクトルを生成するようにしても良い。例えば、要素（ベクトル成分）を上述と同様に「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」とし、値を、以下のように定めたものを特徴ベクトルとしても良い。差分情報Ｄ１２以外の他の差分情報についても、見出し語記憶部１０６を参照し、「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」を含む差分情報の数（ｄｆ）を取得し、ｔｆ・ｌｏｇ（＜全差分情報数＞／ｄｆ）を特徴ベクトルの各成分の値とするようにしても良い。すなわち、特徴ベクトル化部１０７は、一般的な検索技術による特徴ベクトルの生成方法を適用することができる。
【００３８】
（Ａ−３）第１の実施形態の効果
上記第１の実施形態によれば、電子文書を代表する語句として不適当な語句が適当な語句と判定されることを抑制することができる。
【００３９】
上述した図２（ｂ）に示す情報（Ｗｅｂページ）には、「日記ｂｌｏｇ」、「連絡先」など必ずこのサイトに含まれてしまう、内容の分類、検索には不都合な文字列が含まれている。第１の実施形態によれば、情報差分の取得動作を通じて、これらの「日記ｂｌｏｇ」、「連絡先」は、特徴ベクトルの生成元となる部分文書から排除することができる。
【００４０】
また、記事部Ｄ１２分だけを抜き出しても、記事毎に付随する「コメント」、「トラックバック」などの語が残るが、これらの文字列はシステム上で表記されることが決まっているものであり、内容には全く関係がない語句である。第１の実施形態によれば、見出し語差分の取得動作を通じて、これらの「コメント」、「トラックバック」といった不要な文字列を、特徴ベクトルの見出し語から排除することができる。
【００４１】
これにより、人手で検索語が与えられるわけではなく、特徴的な単語を装置が自動的に選ぶような分類の自動学習や類似文検索のような場合でも、文書内容を反映した見出し語が用いられ、内容に関係しない文字列は用いられなくなり、分類精度や検索精度を上げることができる。
【００４２】
（Ｂ）第２の実施形態
次に、本発明による文書特徴抽出装置、方法及びプログラムの第２の実施形態を、図面を参照しながら詳述する。
【００４３】
（Ｂ−０）第２の実施形態における技術的思想
第１の実施形態の場合、本文の内容中に現れ、かつ、たまたま２回以上連続して情報に現れた内容を反映している見出し話が見出し語から排除されたり、見出し語として良くないのにたまたま１回情報から抜けたために見出し語になったりするようなことが生じる。
【００４４】
例えば、図２（ｂ）の情報の次に図２（ｃ）の情報が同一情報源が出力したとする。図２（ｃ）における差分情報Ｄ２３の「不健康」は本文の情報にも関わらず、前回の差分情報Ｄ１２にもあるため、特徴ベクトルに反映されない。また例えば、「今日」という単語は図２の例の日記のような文体では良く使われていて見出し語として適当でないものであるが、図２（ｃ）のように現れない場合もあり、その後の日記で「今日」が使われた場合には見出し語になってしまう。
【００４５】
第２の実施形態は、相前後する情報に共通しているか否かによる判定では見出し語判定として不安定になることを鑑み、語句が見出し語として適当か否かを安定して評価することができるようにしたものである。
【００４６】
（Ｂ−１）第２の実施形態の構成
図３は、第２の実施形態の文書特徴抽出装置の機能的構成を示すブロック図であり、第１の実施形態に係る図１との同一、対応部分には同一、対応符号を付して示している（なお、図３は、第２の実施形態の文書特徴抽出方法を示すフローチャートとしてみることもできる）。
【００４７】
図３において、第２の実施形態の文書特徴抽出装置２００は、機能的には、情報取得部１０１、情報差分取得部１０２、情報記憶部１０３、見出し語抽出部２０４、見出し語統計部２０５、見出し語記憶部２０６及び特徴ベクトル化部２０７を有しており、当該文書特徴抽出装置２００による抽出結果である特徴ベクトルを、例えば、分類システム１９０に出力するものである。
【００４８】
第２の実施形態の文書特徴抽出装置２００においても、情報取得部１０１、情報差分取得部１０２及び情報記憶部１０３は、第１の実施形態のものと同様である。なお、分類システム１９０も、第１の実施形態で説明したものと同様である。
【００４９】
見出し語抽出部２０４、見出し語記憶部２０６及び特徴ベクトル化部２０７は、第１の実施形態にも対応するものが存在するが、多少、機能、処理が異なっている。見出し語統計部２０５は、第１の実施形態の見出し語差分取得部１０５に代えて設けられたものである。以下の構成説明では、見出し語抽出部２０４、見出し語統計部２０５、見出し語記憶部２０６及び特徴ベクトル化部２０７について説明する。
【００５０】
見出し語抽出部２０４は、第１の実施形態の見出し語抽出部１０４と同様に、情報の差分から見出し語を得るものであるが、見出し語記憶部１０６に、抽出された見出し語に対し、見出し語が得られた情報源及び情報取得部１０１で該情報を取得した日時を対応付けて記録するものである（具体的な対応付けは後述する）。
【００５１】
見出し語記憶部２０６は、各情報源毎に、情報が取得された日時と、その日時の情報に対して見出し語抽出部２０４によって得られた見出し語とを対応付けて記憶するものである。記憶される日時と見出し語の組は、現在から、過去側の一定期間内に日時が属するものである。また、特徴ベクトルの成分値の付与方法によっては、その情報での差分中に出現した回数など特徴ベクトルを得るために必要な情報も必要であれば記憶しても良い。
【００５２】
見出し語統計部２０５は、見出し語抽出部２０４で抽出された各見出し語について、処理対象としている情報の情報源について見出し語記憶部２０６に記憶された日時毎の出現する数に基づき、該見出し語の重要度を算出するものである。この重要度は、どの日時でも使われている単語は、その情報源では定型句であり、検索、分類において重要ではないが、一部の日時だけで使われている単語はなんらかの話題を示す単語などであって検索、分類で重要である確率が高いということを反映させた評価パラメータである。例えば、重要度として、ｌｏｇ（＜記憶されている日時の全数＞／＜該単語が出現した日時の数＞）を適用することができる。見出し語統計部２０５は、例えば、ＣＰＵ、ＲＯＭ、ＲＡＭや、ＣＰＵが実行する見出し語統計処理用のプログラム部分や、見出し語記憶部２０６（例えばハードディスクでなる）に対するアクセス構成などが該当する。
【００５３】
特徴ベクトル化部２０７は、各情報源からの情報の差分ごとに、見出し語抽出部２０４で得られた各見出し語を特徴ベクトルの成分とし、その成分の値を、一般的な自然言語処理技術で用いられる出現数（ｔｆ）や出現する情報の数（ｄｆ）の他に、見出し語統計部２０５による各見出し語の重要度も用いて算出し、特徴ベクトルを決定するものである。例えば、一般的には、その成分値はｔｆ・ｉｄｆが用いられることが多いが、さらに見出し語統計部２０５による重要度を重みとして乗算摺るようにしても良い。ここで、パラメータｉｄｆは、ｌｏｇ（＜全情報数＞／ｄｆ）など、ｄｆの逆数の対数を用いた見出し語の重みの指標である。
【００５４】
（Ｂ−２）第２の実施形態の動作
次に、第２の実施形態の文書特徴抽出装置２００の動作（第２の実施形態の文書特徴抽出方法）を、具体例を用いて説明する。
【００５５】
以下では、図２（ａ）に示す差分情報Ｄ１１に対して、見出し語抽出部２０４が、見出し語として名詞「今日」、「天気」、「プール」、「○○センター」、「渇水」、「閉園」、「コメント」、「トラックバック」を得、これらの見出し語を情報源Ｉ１１の日時Ｔ２１における見出し語として、見出し語記憶部２０６に記憶されている状態から、動作の説明を行う。
【００５６】
日時Ｔ２１より後の日時Ｔ２２において、情報源Ｉ１１の情報が図２（ｂ）に示すような内容であったとする。
【００５７】
情報取得部１０１及び情報差分取得部１０２は、第１の実施形態の場合と同様に、図２（ｂ）に示す情報に対して動作し、情報記憶部１０３の内容は、図２（ｂ）に示す情報に更新され、見出し語抽出部２０４には、図２（ｂ）に示す差分情報Ｄ１２が情報差分取得部１０２から渡される。
【００５８】
見出し語抽出部２０４は、この差分情報Ｄ１２から、「今日」、「雨」、「流行」、「オンラインゲーム」、「××」、「不健康」、「コメント」、「トラックバック」を見出し語として得、これら見出し語を情報源Ｉ１１の日時Ｔ２２における見出し語として、見出し語記憶部２０６に記憶する。
【００５９】
日時Ｔ２２における見出し語統計部２０５、特徴ベクトル化部２０７の動作の説明は省略する。
【００６０】
日時Ｔ２２より後の日時Ｔ２３において、情報源Ｉ１１の情報が図２（ｃ）に示すような内容であったとする。
【００６１】
日時Ｔ２３の情報は、情報差分取得部１０２によって、情報記憶部１０３に記憶されている図２（ｂ）に示す情報と比較され、部分文書Ｄ２３が差分情報として得られる。
【００６２】
見出し語抽出部２０４は、差分情報Ｄ２３より、形態素解析等により名詞「夏休み」、「今年」、「不健康」、「コメント」、「トラックバック」を見出し語として得、これを情報源Ｉ１１の日時Ｔ２３の見出し語として見出し語記憶部２０６に記憶する。
【００６３】
このような以前からの繰り返しにより、見出し語記憶部２０６には、情報源Ｉ１１の情報に関する見出し語情報として、図４に示すような過去８回（日時Ｔ２３を含む）の内容が記憶されているものとする。なお、図４では、説明の便宜のために、表形式で単語（見出し語）の有無を表示しているが、見出し語記憶部２０６に、同等の情報を保持できればその格納形式は問われないものである。
【００６４】
見出し語統計部２０５は、見出し語抽出部２０４で最新日時Ｔ２３について得られた見出し語「夏休み」、「今年」、「不健康」、「コメント」、「トラックバック」のそれぞれについて、見出し語記憶部２０６を参照して、見出し語としての重要度を、例えば、ｌｏｇ（＜日時の全数＝８＞／＜出現日時数＞）で算出する。なお、ここでのｌｏｇは、２を底とする対数であるとする。「夏休み」の見出し語重要度はｌｏｇ（８／１）＝２．０８、「今年」の見出し語重要度はｌｏｇ（８／３）＝０．９８、「不健康」の見出し語重要度はｌｏｇ（８／２）＝１．３９、「コメント」と「トラックバック」の見出し語重要度はｌｏｇ（８／８）＝０となる。
【００６５】
特徴ベクトル化部２０７は、日時Ｔ２３の情報についての抽出見出し語「夏休み」、「今年」、「不健康」、「コメント」、「トラックバック」を、特徴ベクトルの成分（要素）とし、各成分の値を、以下のように算出する。「夏休み」については、差分情報Ｄ２３での出現回数ｔｆ＝２に、見出し語統計部２０５によって得られた見出し語重要度２．０８を乗じた値４．１６を成分値とする。同様に、「今年」については、×０．９８＝０．９８を成分値とし、「不健康」については、１×１．３９＝１．３９を成分値とし、「コメント」及び「トラックバック」については１×０＝０を成分値とする。「コメント」及び「トラックバック」については、成分値が０であるので、実質的には特徴ベクトルに含まれていないとみなされる。
【００６６】
以上のようにして得られた特徴ベクトルが、分類システム１９０において、分類や検索での照合に用いられる。
【００６７】
（Ｂ−３）第２の実施形態の効果
第２の実施形態によれば、電子文書を代表する語句として不適当な語句が適当な語句と判定されることを抑えることができ、そのような仕組みを導入しても、適当な語句が不適当な語句と判定されることを防止することができる。
【００６８】
第１の実施形態の場合であれば、図２（ｃ）に示す情報を取得した場合は「不健康」がその直前の図２（ｂ）に示す情報にも使われているために見出し語とならない。しかしながら、第２の実施形態によれば、より長い期間での使われる頻度により重みを付けているため、説明したようにある程度の重みで見出し語として抽出される。
【００６９】
また、図２（ｃ）に示す差分情報Ｄ２３には「今日」という語句が使われていないため、直後の情報に、「今日」という語が使われた場合には、第１の実施形態では他の見出し語と同様に扱われてしまう。しかしながら、第２の実施形態では、例えば、図４の状態では「今日」の重要度は見出し語統計部２０５ではｌｏｇ（８／５）＝０．４７と、「不健康」の１．３９より充分弱い重みとなっており、分類システム１９０や検索に用いるときの影響を小さく抑えることができる。
【００７０】
（Ｃ）他の実施形態
上記では、文書特徴抽出装置が、第１の実施形態又は第２の実施形態のいずれか一方しか適用できないものを示したが、両実施形態に対応できるものであっても良い。例えば、第２の実施形態を適用できる情報の連続取得数を５回（可変設定できるようにしても良い）に定めておき、４回までの情報取得に対しては、第１の実施形態を適用し、５回以降の情報取得に対しては第２の実施形態を適用するようにしても良い。この場合において、第１の実施形態を適用している段階でも、日時情報と共に見出し語を格納することを要する。
【００７１】
上記各実施形態においては、相前後する情報の差分を行単位で取得するものを示したが、段落単位など、他の大きさの単位を基準として情報差分を取得するようにしても良い。
【００７２】
また、上記各実施形態では、抽出された見出し語を全て特徴ベクトルの成分に含めるものを示したが、成分値がある閾値以下のものは特徴ベクトルから除外するようにしても良い。
【００７３】
上記第２の実施形態では、統計処理に供する複数の情報が所定期間内に含まれるものであったが、期間の長短を問わず、所定回数分の情報（差分情報）にするようにしても良い。
【００７４】
また、上記第２の実施形態では、過去の全ての情報に含まれるような見出し語として機能しない語句も特徴ベクトルの成分とするものを示したが、成分から除外するようにして良い。除外方法としては、上述したような閾値との比較による方法の他、情報源毎に、見出し語に用いない一覧語句の記憶部を設けておき、図４の「コメント」、「トラックバック」などのように統計値が一度でも特異な値ｌｏｇ（８／８）＝０をとったものをその記憶部に登録するようにしても良い。
【００７５】
上記第１の実施形態においては、相前後する情報に共に含まされている語句を見出し語としないものを示したが、見出し語に含める語句（成分値も固定的に付与していても良い）の一覧を予め記憶した記憶部を設けておき、第１の実施形態の見出し語にしない条件に該当するものであっても、その記憶部に記憶されたものを見出し語として特徴ベクトルに含めるようにしても良い。例えば、「小泉首相」、「東京大学」などの特定人や特定機関などを表す語句は、常に、特徴ベクトルの成分に含めるようにしても良い。第２の実施形態についていえば、計算で得られた成分値を適用するのではなく、記憶部に記憶されている固定値な成分値を適用するようにしても良い。
【００７６】
本発明は、例えば、文書の検索、類似文書検索、自動分類を行う装置において、文書とキーワード間、あるいは文書間、あるいは文書と分類間の類似度を算出するために必要となる、文書の特徴ベクトルを得るために適用し得る。
【図面の簡単な説明】
【００７７】
【図１】第１の実施形態の文書特徴抽出装置の機能的構成を示すブロック図である。
【図２】第１の実施形態の文書特徴抽出装置の動作説明に用いる取得文書の例を示す説明図である。
【図３】第２の実施形態の文書特徴抽出装置の機能的構成を示すブロック図である。
【図４】第２の実施形態の文書特徴抽出装置の動作説明に用いる抽出見出し語の時系列の例を示す説明図である。
【符号の説明】
【００７８】
１００、２００…文書特徴抽出装置、１０１…情報取得部、１０２…情報差分取得部、１０３…情報記憶部、１０４、２０４…見出し語抽出部、１０５…見出し語差分取得部、１０６、２０６…見出し語記憶部、１０７、２０７…特徴ベクトル化部、２０５…見出し語統計部。
【図１】
2007149022.tif 000003
【図２】
2007149022.tif 000004
【図３】
2007149022.tif 000005
【図４】
2007149022.tif 000006