(57)【要約】【課題】精度良く関連語対を抽出することができるコンピュータプログラム、関連語抽出装置、関連語生成システム及び関連語抽出方法を提供する。【解決手段】単語列抽出部３４１は、文書データベース２１１〜２３１の文書集合から単語の切り出しを行う。順序対抽出部３４２は、抽出された単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対を順序対として抽出する。候補対抽出部３４３は、抽出された順序対に基づいて、前後に同じキーワードが出現するキーワード対を候補対として抽出する。関連語対抽出部３４４は、抽出された候補対に対して、所定の判定尺度を算出し、算出した結果に基づいて関連語であるか否かを判定し、最終的に関連語対の集合を求める。【選択図】図１
2008226016.tif 000002
【特許請求の範囲】
【請求項１】
コンピュータに、文書集合からキーワードを含む単語列を抽出させ、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出させるコンピュータプログラムにおいて、
コンピュータを、前記単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出する手段と、
抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する手段と、
抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する手段と、
算出した共通数に基づいて関連語対を抽出する手段と
して機能させることを特徴とするコンピュータプログラム。
【請求項２】
コンピュータを、算出した共通数のうち、前記候補対の前に共通に出現する単語の共通数と、前記候補対の後に共通に出現する単語の共通数との合計値に基づいて、関連語対を抽出する手段として機能させることを特徴とする請求項１に記載のコンピュータプログラム。
【請求項３】
コンピュータを、抽出した候補対の前又は後に出現する異なる単語の種類数である異なり数を算出する手段と、
算出した異なり数に基づいて関連語対を抽出する手段と
して機能させることを特徴とする請求項１又は請求項２に記載のコンピュータプログラム。
【請求項４】
コンピュータを、抽出した候補対の前に共通に出現する単語の共通数と、該候補対の前に出現する異なる単語の異なり数とに基づいて、該候補対の前に出現する単語の関連度を算出する手段と、
前記候補対の後に共通に出現する単語の共通数と、該候補対の後に出現する異なる単語の異なり数とに基づいて、該候補対の後に出現する単語の関連度を算出する手段と、
算出した各関連度に基づいて関連語対を抽出する手段と
して機能させることを特徴とする請求項３に記載のコンピュータプログラム。
【請求項５】
コンピュータを、
算出した各関連度に対して重み付けする重み付け手段として機能させることを特徴とする請求項４に記載のコンピュータプログラム。
【請求項６】
コンピュータを、前記候補対の各キーワードの出現頻度に応じて重み付けする手段として機能させることを特徴とする請求項５に記載のコンピュータプログラム。
【請求項７】
文書集合からキーワードを含む単語列を抽出し、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する関連語抽出装置において、
前記単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出する順序対抽出手段と、
該順序対抽出手段で抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する候補対抽出手段と、
該候補対抽出手段で抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する算出手段と、
該算出手段で算出した共通数に基づいて、関連語対を抽出する関連語対抽出手段と
を備えることを特徴とする関連語抽出装置。
【請求項８】
請求項７に記載の関連語抽出装置と、該関連語抽出装置で抽出した関連語対に基づいて関連語辞書を生成する関連語辞書生成装置とを備えることを特徴とする関連語生成システム。
【請求項９】
文書集合からキーワードを含む単語列を抽出し、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する関連語抽出方法において、
前記単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出し、
抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、
抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、
算出した共通数に基づいて、関連語対を抽出することを特徴とする関連語抽出方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文書集合から相互に関連性を有する関連語を抽出させるための関連語抽出装置、該関連語抽出装置を実現するためのコンピュータプログラム、前記関連語抽出装置を備える関連語生成システム及び関連語抽出方法に関する。
【背景技術】
【０００２】
与えられた文字列と似ている文字列、例えば、類義語を大規模な文書情報から検索して抽出する知識獲得に関する技術は、自然言語処理における基本的かつ重要な課題として位置づけられ、シソーラス構築又は情報検索などの幅広い分野への応用のための研究が行われている。
【０００３】
ある意味で同じような文脈で使われている単語の対である関連語対を文書情報から獲得するマイニングは、文書集合内で考えられ得るすべての単語対の中から、関連しているという見込みのある単語対を統計的に選び出す処理であり、知識獲得に関する研究のひとつである。
【０００４】
従来、関連語を抽出する手法は、例えば、以下のような一連の処理を施すことにより実現されている。すなわち、文書集合から単語を切り出し、分析対象の単語であるキーワード列を抽出する。抽出したキーワード列からキーワードの対を作成し、関連語の候補となる候補対を抽出する。抽出した候補対が関連語対であるか否かの判定尺度を算出する。この場合、関連語対であるか否かを判定する判定尺度として種々検討されている。算出した判定尺度が所定の閾値以上であれば、候補対を関連語対として抽出する。このようなシソーラスを抽出する技術は、例えば、非特許文献１に紹介されている。
【非特許文献１】梅村恭司、外１名、「リレーティッド  ワード−ペアズ  エクストラクション  ウィズアウト  ディクショナリーズ（Related Word-pairs Extraction without Dictionaries）」、LREC-2004、2004年、pp.1309-1312
【発明の開示】
【発明が解決しようとする課題】
【０００５】
しかしながら、従来の手法にあっては、キーワードの対を作成して候補対を抽出する場合に、前後に共通のキーワードが出現するキーワードの対を関連語対の候補として抽出するのみである。関連の高いキーワード対であっても前後に共通のキーワードが出現しない場合には除外されるため、抽出される関連語対が少なくなるおそれがあった。また、関連語であるか否かの判定尺度は、種々提案されているものの、さらに精度良く関連語の対を抽出することが望まれていた。
【０００６】
本発明は、斯かる事情に鑑みてなされたものであり、単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出し、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数に基づいて、関連語対を抽出することにより、従来に比べて精度良く関連語対を抽出することができる関連語抽出装置、該関連語抽出装置を実現するためのコンピュータプログラム、前記関連語抽出装置を備える関連語生成システム及び関連語抽出方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
第１発明に係るコンピュータプログラムは、コンピュータに、文書集合からキーワードを含む単語列を抽出させ、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出させるコンピュータプログラムにおいて、コンピュータを、前記単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出する手段と、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する手段と、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する手段と、算出した共通数に基づいて関連語対を抽出する手段として機能させることを特徴とする。
【０００８】
第２発明に係るコンピュータプログラムは、第１発明において、コンピュータを、算出した共通数のうち、前記候補対の前に共通に出現する単語の共通数と、前記候補対の後に共通に出現する単語の共通数との合計値に基づいて、関連語対を抽出する手段として機能させることを特徴とする。
【０００９】
第３発明に係るコンピュータプログラムは、第１発明又は第２発明において、コンピュータを、抽出した候補対の前又は後に出現する異なる単語の種類数である異なり数を算出する手段と、算出した異なり数に基づいて関連語対を抽出する手段として機能させることを特徴とする。
【００１０】
第４発明に係るコンピュータプログラムは、第３発明において、コンピュータを、抽出した候補対の前に共通に出現する単語の共通数と、該候補対の前に出現する異なる単語の異なり数とに基づいて、該候補対の前に出現する単語の関連度を算出する手段と、前記候補対の後に共通に出現する単語の共通数と、該候補対の後に出現する異なる単語の異なり数とに基づいて、該候補対の後に出現する単語の関連度を算出する手段と、算出した各関連度に基づいて関連語対を抽出する手段として機能させることを特徴とする。
【００１１】
第５発明に係るコンピュータプログラムは、第４発明において、コンピュータを、算出した各関連度に対して重み付けする重み付け手段として機能させることを特徴とする。
【００１２】
第６発明に係るコンピュータプログラムは、第５発明において、コンピュータを、前記候補対の各キーワードの出現頻度に応じて重み付けする手段として機能させることを特徴とする。
【００１３】
第７発明に係る関連語抽出装置は、文書集合からキーワードを含む単語列を抽出し、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する関連語抽出装置において、前記単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出する順序対抽出手段と、該順序対抽出手段で抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する候補対抽出手段と、該候補対抽出手段で抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する算出手段と、該算出手段で算出した共通数に基づいて、関連語対を抽出する関連語対抽出手段とを備えることを特徴とする。
【００１４】
第８発明に係る関連語生成システムは、前述の発明に係る関連語抽出装置と、該関連語抽出装置で抽出した関連語対に基づいて関連語辞書を生成する関連語辞書生成装置とを備えることを特徴とする。
【００１５】
第９発明に係る関連語抽出方法は、文書集合からキーワードを含む単語列を抽出し、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する関連語抽出方法において、前記単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出し、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数に基づいて、関連語対を抽出することを特徴とする。
【００１６】
第１発明、第７発明及び第９発明にあっては、文書集合（例えば、コーパス）からキーワードを含む単語列を抽出し、抽出した単語列に含まれるキーワード（分析対象の単語）に基づいて、出現する順序に関連があるキーワードの対である順序対を抽出する。例えば、順序対の抽出はカイ二乗検定により行うことができる。抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数に基づいて関連語対を抽出する。この場合、出現する単語には、キーワードのみならず、文脈を把握する上で有用と考えられる単語、例えば、前置詞、代名詞、関係詞なども含む。例えば、キーワードｓ、ｔからなる候補対について、キーワードｓ、ｔ両者の前に共通に出現する単語の種類数Ｇｐｒｅを算出し、キーワードｓ、ｔ両者の後に共通に出現する単語の種類数Ｇｐｏｓｔを算出する。算出した共通数Ｇｐｒｅ、Ｇｐｏｓｔに基づいて、関連語対を判定するための判定尺度を算出し、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。共通に出現する単語の種類数である共通数を用いることにより、前後に出現する共通のキーワードの有無により関連語対を抽出する場合に比べて、より多くの関連語対を抽出することができる。また、共通数を算出する際の単語には、キーワードのみならず、文脈情報として有用と考えられる単語も含まれることから、文脈での単語の使われ方の違いも考慮することができ、精度良く関連語対を抽出することができる。
【００１７】
第２発明にあっては、候補対の前に共通に出現する単語の共通数と、候補対の後に共通に出現する単語の共通数との合計値に基づいて、関連語対を抽出する。例えば、キーワードｓ、ｔからなる候補対について、キーワードｓ、ｔ両者の前に共通に出現する単語の種類数Ｇｐｒｅを算出し、キーワードｓ、ｔ両者の後に共通に出現する単語の種類数Ｇｐｏｓｔを算出する。算出した共通数Ｇｐｒｅ及びＧｐｏｓｔの合計値に基づいて、判定尺度を算出し、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。これにより、比較的簡単な演算処理で精度良く関連語対を抽出することができる。
【００１８】
第３発明にあっては、抽出した候補対の前又は後に出現する異なる単語の種類数である異なり数を算出し、算出した異なり数に基づいて関連語対を抽出する。例えば、キーワードｓ、ｔからなる候補対について、キーワードｓの前に出現し、キーワードｔの前に出現しない単語の種類数Ｈｐｒｅを算出し、キーワードｓの後に出現し、キーワードｔの後に出現しない単語の種類数Ｈｐｏｓｔを算出する。また、キーワードｓ、ｔからなる候補対について、キーワードｔの前に出現し、キーワードｓの前に出現しない単語の種類数Ｋｐｒｅを算出し、キーワードｔの後に出現し、キーワードｓの後に出現しない単語の種類数Ｋｐｏｓｔを算出する。算出した異なり数Ｈｐｒｅ、Ｈｐｏｓｔ、Ｋｐｒｅ、Ｋｐｏｓｔに基づいて、関連語対を判定するための判定尺度を算出し、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。これにより、候補対の前後の単語の共通数のみならず、候補対の前後に出現する単語が異なる場合も考慮して関連語判定を行うことができ、関連語対の適合率を向上させることができる。
【００１９】
第４発明にあっては、抽出した候補対の前に共通に出現する単語の共通数と、その候補対の前に出現する異なる単語の異なり数とに基づいて、その候補対の前に出現する単語の関連度を算出する。また、前記候補対の後に共通に出現する単語の共通数と、その候補対の後に出現する異なる単語の異なり数とに基づいて、その候補対の後に出現する単語の関連を算出する。算出した各関連度（例えば、各関連度の合計）に基づいて、関連語対を抽出する。例えば、キーワードｓ、ｔからなる候補対の前に出現する単語の関連度を、共通数Ｇｐｒｅ、異なり数Ｈｐｒｅ、Ｋｐｒｅに基づいてコサイン尺度を用いて算出する。また、キーワードｓ、ｔからなる候補対の後に出現する単語の関連度を、共通数Ｇｐｏｓｔ、異なり数Ｈｐｏｓｔ、Ｋｐｏｓｔに基づいてコサイン尺度を用いて算出する。これにより、候補対の前後の単語の共通数のみならず、候補対の前後に出現する単語が異なる場合も考慮して関連語判定を行うことができ、関連語対の適合率を向上させることができる。
【００２０】
第５発明にあっては、算出した関連度に対して重み付けする。重み付けは、例えば、キーワードｓ、ｔからなる候補対の場合、各キーワードｓ、ｔの文書集合全体の出現頻度を用いることができる。これにより、出現頻度が極端に少ないキーワードによる雑音を取り除くことができ、関連語対の抽出数を多くしつつ適合率を向上させることができる。
【００２１】
第６発明にあっては、候補対の各キーワードの出現頻度に応じて重み付けする。例えば、候補対ｓ、ｔに対して、キーワードｓ、ｔそれぞれの文書集合全体の出現頻度ｃｆ（ｓ）、ｃｆ（ｔ）のうち小さい方の値のｌｏｇ値を重み付け係数とすることができる。これにより、出現頻度が極端に少ないキーワードによる雑音を取り除くことができ、関連語対の抽出数を多くしつつ適合率を向上させることができる。
【００２２】
第８発明にあっては、抽出した関連語対に基づいて関連語辞書を生成する。これにより、シソーラスを自動構築することができ、さらに検索精度を向上させるために、同義語、類似語などを登録、編集することもできる。
【発明の効果】
【００２３】
本発明にあっては、単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出し、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数に基づいて、関連語対を抽出することにより、従来の手法に比べて、精度良く関連語対を抽出することができる。
【発明を実施するための最良の形態】
【００２４】
以下、本発明を実施の形態を示す図面に基づいて説明する。図１は本発明に係る関連語生成システムの構成を示すブロック図である。本発明に係る関連語生成システムは、関連語抽出装置としてのサーバ３０、関連語辞書を生成する関連語辞書生成装置としての辞書サーバ４０などを備えている。また、サーバ３０、辞書サーバ４０には、インターネット等のネットワークを通じて、ユーザが使用するパーソナルコンピュータ、ワークステーションなどのクライアント装置（以下、ＰＣという）１０、…、文書情報を管理するファイルサーバ２１、２２、２３などを接続してある。
【００２５】
ＰＣ１０には、例えば、Ｗｅｂブラウザが搭載され、ファイルサーバ２１、２２、２３に内蔵（あるいは外部接続）された文書データベース２１１、２２１、２３１に記録されている文書にアクセスすることが可能になっている。ユーザは、ＰＣ１０を操作して、文書データベース２１１〜２３１を検索すべくサーバ３０に対して検索要求を出力することにより、関連語を抽出してＰＣ１０で表示させることができる。この場合、ユーザは、検索条件、検索するキーワードなどを入力することができる。
【００２６】
サーバ３０は、ＰＣ１０からの検索要求に基づいて、文書データベース２１１〜２３１に記録された文書集合から関連語を抽出する。また、サーバ３０は、ユーザからの検索要求に関わらず、予め定められた条件（例えば、所定の頻度）で文書データベース２１１〜２３１にアクセスして、関連語の抽出を自動的に行う。これにより、随時更新される文書データベース２１１〜２３１に記録された文書集合から最新の関連語を抽出することができる。サーバ３０は、抽出した関連語を辞書サーバ４０へ出力する。辞書サーバ４０は、サーバ３０で抽出された関連語を、例えば、関連度合い（類似度）に応じて分類し、グループ分けして記録する。
【００２７】
サーバ３０は、サーバ３０全体を制御する制御部３１、インタフェース部３２、記憶部３３、処理部３４などを備えている。なお、制御部３１、処理部３４は、サーバ３０上のアプリケーションとして所定の手順を定めたコンピュータプログラムをＲＡＭにロードしてＣＰＵ（いずれも不図示）で実行させることにより実現される。
【００２８】
インタフェース部３２は、ＰＣ１０、…、ファイルサーバ２１〜２３、辞書サーバ４０などとの通信機能を備えている。記憶部３３は、処理部３４で処理する過程で生成される情報を記憶する。
【００２９】
処理部３４は、単語列抽出部３４１、順序対抽出部３４２、候補対抽出部３４３、関連語対抽出部３４４などを備えている。
【００３０】
単語列抽出部３４１は、文書データベース２１１〜２３１の文書集合（例えば、コーパス）から単語の切り出し（単語列の抽出）を行う。以下の説明では文書集合が英語である場合とするが、文書は英語に限定されるものではなく、日本語など他の言語の文書でもよい。単語はスペース区切りにより切り出すことができる。この場合、「＋」、「＝」などの記号は空白として取り扱う。
【００３１】
単語列抽出部３４１は、切り出した単語集合から、関連語として抽出すべき分析対象の単語であるキーワード集合（キーワード列）を抽出する。キーワード集合は、例えば、前置詞、代名詞、関係詞などの単語を取り除いたものである。なお、前置詞、代名詞、関係詞などの単語は、それ単体ではあまり意味をなさないものの、文脈を把握する上では重要な情報となるものである。
【００３２】
また、単語列抽出部３４１は、抽出したキーワードの出現頻度（例えば、コーパス全体におけるキーワードの出現頻度ｃｆ）、キーワードの前後に出現する単語（キーワードも含む）との共起出現頻度などの統計情報を算出する。
【００３３】
図２はキーワード列の一例を示す説明図である。図中、カッコ内はコーパスから抽出されたキーワードを示している。
【００３４】
順序対抽出部３４２は、単語列抽出部３４１で抽出した単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対を順序対として抽出する。出現する順序に関連があるとは、例えば、連続して出現する傾向がある（傾向が高い）という意味である。順序対抽出部３４２は、例えば、順序対の抽出をカイ二乗検定により行う。すなわち、自由度１のカイ二乗分布に従う確率変数Ｘを定義し、確率変数Ｘが所定の閾値以上であるか否かに応じて順序対を抽出する。
【００３５】
図３は順序対の抽出手法の例を示す説明図である。例えば、ｙ１、ｙ２を異なるキーワードとし、帰無仮説として「キーワードｙ１、ｙ２は関連性がない（独立である）」を考える。キーワード列を検索して、連続して出現する２つのキーワードに注目し、事象Ａ１を前者のキーワードがｙ１である場合、事象Ａ２を前者のキーワードがｙ１以外である場合、事象Ｂ１を後者のキーワードがｙ２である場合、事象Ｂ２を後者のキーワードがｙ２以外である場合とする。
【００３６】
事象Ａ１かつ事象Ｂ１である場合、すなわち、２つのキーワードの前者がｙ１で後者がｙ２であるキーワードの出現回数ｘ１１を計数する。また、事象Ａ１かつ事象Ｂ２である場合、すなわち、２つのキーワードの前者がｙ１で後者がｙ２以外であるキーワードの出現回数ｘ１２を計数する。また、事象Ａ２かつ事象Ｂ１である場合、すなわち、２つのキーワードの前者がｙ１以外で後者がｙ２であるキーワードの出現回数ｘ２１を計数する。さらに、事象Ａ２かつ事象Ｂ２である場合、すなわち、２つのキーワードの前者がｙ１以外で後者がｙ２以外であるキーワードの出現回数ｘ２２を計数する。
【００３７】
図４は各事象と出現回数の関係を示す説明図である。図中、Ｎは出現回数の総数であり、集合の全体を示す。事象Ａ１は左側の円で囲まれた領域を示し、事象Ｂ１は右側の円で囲まれた領域を示し、事象Ａ１とＢ１とは一部で重なっている。また、事象Ａ２は事象Ａ１の否定であり、集合の全体から事象Ａ１を除いた部分を示す。また、事象Ｂ２は事象Ｂ１の否定であり、集合の全体から事象Ｂ１を除いた部分を示す。
【００３８】
この場合、出現回数ｘ１１は、事象Ａ１及び事象Ｂ１が生じる場合であり、格子で示す集合となる。また、出現回数ｘ１２は、事象Ａ１及び事象Ｂ２が生じる場合であり、斜線で示す集合となる。また、出現回数ｘ２１は、事象Ａ２及び事象Ｂ１が生じる場合であり、横線で示す集合となる。さらに、出現回数ｘ２２は、事象Ａ２及び事象Ｂ２が生じる場合であり、空白で示す集合となる。
【００３９】
図３に示すように、ｘ１１＋ｘ１２＝ａ１、ｘ２１＋ｘ２２＝ａ２、ｘ１１＋ｘ２１＝ｂ１、ｘ１２＋ｘ２２＝ｂ２とすると、ａ１＋ａ２＝ｂ１＋ｂ２＝Ｎとなる。
【００４０】
ここで、自由度１のカイ二乗分布に従う確率変数Ｘを式（１）で定義する。
【００４１】
【数１】
2008226016.tif 000003
【００４２】
ｘｉｊは上述した出現回数である。また、ｅｉｊは出現回数から求められる期待値の推定量、すなわち期待度数であり、式（２）で示される。なお、式（２）を用いることも可能であるが、頻度が小さいものの推定ができないか、あるいは不安定な値となることを防止するため、ｅｉｊに予め１を加えて式（３）のように期待度数を補正することもできる。以下では、式（２）に代えて式（３）を用いている。
【００４３】
順序対抽出部３４２は、確率変数Ｘが所定の閾値以上であれば、帰無仮説を棄却してキーワードｙ１、ｙ２を順序対であるとして抽出する。これにより、従来の手法に比べて、候補対を抽出する前処理として関連の高いキーワード対を順序対として抽出し、結果的に候補対として多く抽出することができ、精度良く関連語対を抽出することができる。また、カイ二乗検定を用いることにより連続して出現する傾向のあるキーワード対を順序対として抽出することができる。
【００４４】
候補対抽出部３４３は、順序対抽出部３４２で抽出した順序対に基づいて、前後に同じキーワードが出現するキーワード対（順序対）を「同じように使用されている単語対、同じような文脈で使用されている単語対」等とみなし、候補対として抽出する。
【００４５】
以下、候補対の抽出手法について説明する。ｙ、ｃをキーワードとし、ｙの後にｃが続く順序対をｙｃと表現し、順序対の集合をCombinedで表すものとする。順序対の集合の中でキーワードｙの前に現われるキーワードｃの集合ｐｒｅ（ｙ）を式（４）で定義する。
【００４６】
【数２】
2008226016.tif 000004
【００４７】
同様に、順序対の集合の中でキーワードｙの後に現われるキーワードｃの集合ｐｏｓｔ（ｙ）を式（５）で定義する。また、キーワードｙの前に現われるキーワードｃの集合に属する各キーワードｃの後に現われるキーワードｃ’の集合Ｆｐｒｅ（ｙ）を式（６）で定義する。また、キーワードｙの後に現われるキーワードｃの集合に属する各キーワードｃの前に現われるキーワードｃ’の集合Ｂｐｏｓｔ（ｙ）を式（７）で定義する。この場合、候補対の集合Candidatesは、式（８）で求めることができる。
【００４８】
図５及び図６は候補対の抽出例を示す説明図である。図５に示すように、文書Ｄｏｃにおいて、下線で示す単語（キーワード）が順序対であるとする。いま、キーワードｙとして「discuss」に注目するとする。ｐｒｅ（ｙ）は、「customer」となる。また、ｐｏｓｔ（ｙ）は、「problem」となる。
【００４９】
キーワード「customer」の後に現われるキーワードは、「discuss」、「negotiate」の２つあるから、Ｆｐｒｅ（ｙ）は、「discuss」及び「negotiate」となる。また、キーワード「problem」の前に現われるキーワードは、「discuss」、「negotiate」の２つあるから、Ｂｐｏｓｔ（ｙ）は、「discuss」及び「negotiate」となる。Ｆｐｒｅ（ｙ）、かつＢｐｏｓｔ（ｙ）であるキーワードの集合は、「discuss」、「negotiate」であるから、候補対として「discuss」、「negotiate」が抽出される（図６参照）。
【００５０】
関連語対抽出部３４４は、候補対抽出部３４３で抽出した候補対に対して、所定の判定尺度を算出し、算出した結果に基づいて関連語であるか否かを判定し、最終的に関連語対の集合を求める。関連語の判定には、キーワードの前後に出現する単語の情報を用いる。この場合、候補対を抽出する場合と異なり、キーワードのみならず、文脈情報として有用な単語も含めて判定を行う。
【００５１】
以下、関連語対の抽出手法について説明する。関連語対の抽出は、候補対の２つのキーワードの前後に出現する単語の共通数、異なり数を算出し、算出した共通数、異なり数を用いて判定尺度を求めることにより行う。
【００５２】
具体的には、例えば、キーワードｓ、ｔからなる候補対について、キーワードｓ、ｔ両者の前に共通に出現する単語の種類数（共通数）Ｇｐｒｅを算出する。また、キーワードｓ、ｔ両者の後に共通に出現する単語の種類数（共通数）Ｇｐｏｓｔを算出する。
【００５３】
また、キーワードｓの前に出現し、キーワードｔの前に出現しない単語の種類数（異なり数）Ｈｐｒｅを算出する。また、キーワードｓの後に出現し、キーワードｔの後に出現しない単語の種類数（異なり数）Ｈｐｏｓｔを算出する。また、キーワードｔの前に出現し、キーワードｓの前に出現しない単語の種類数（異なり数）Ｋｐｒｅを算出する。さらに、キーワードｔの後に出現し、キーワードｓの後に出現しない単語の種類数（異なり数）Ｋｐｏｓｔを算出する。
【００５４】
上述で求めた共通数、異なり数を用いて判定尺度を求める。判定尺度は、いくつかの算出方法により求めることができるが、本発明の特徴は、共通数のみならず、異なり数を用いた判定尺度を使用する点にある。例えば、判定尺度ｓｃｏｒｅ１は、式（９）で算出することができる。
【００５５】
【数３】
2008226016.tif 000005
【００５６】
判定尺度ｓｃｏｒｅ１は、キーワードｓ、ｔの前後に出現した単語のうち、共通のものの数（共通数）の合計である。
【００５７】
また、別の判定尺度として、判定尺度ｓｃｏｒｅ２は、式（１０）で算出することができる。判定尺度ｓｃｏｒｅ２は、キーワードｓ、ｔの前後に出現した単語の出現関連度をそれぞれ加算している。なお、代表的な類似尺度のコサイン尺度を用いているが、これに限定されるものではなく、他の類似尺度を用いることもできる。例えば、Ｄｉｃｅ係数、Ｊａｃｃａｒｄ係数を用いた類似尺度を用いることもできる。
【００５８】
図７は単語の出現関連度を示す説明図である。図７はキーワードｓ、ｔの前に出現する単語の関連度を示すものであるが、キーワードｓ、ｔの後に出現する単語の場合も同様である。図７に示すように、キーワードｓ、ｔの前に出現する単語の関連度は、キーワードｓ、ｔ両者の前に共通に出現する単語（共通数Ｇｐｒｅ）及びキーワードｔの前に出現し、キーワードｓの前に出現しない単語（異なり数Ｋｐｒｅ）と、キーワードｓ、ｔ両者の前に共通に出現する単語（共通数Ｇｐｒｅ）及びキーワードｓの前に出現し、キーワードｔの前に出現しない単語（異なり数Ｈｐｒｅ）との関連度合いを求めるものである。
【００５９】
また、別の判定尺度として、判定尺度ｓｃｏｒｅ３は、式（１１）で算出することができる。判定尺度ｓｃｏｒｅ３は、判定尺度ｓｃｏｒｅ２を、キーワードｓ、ｔの出現頻度ｃｆ（ｓ）、ｃｆ（ｔ）で重み付けしたものである。ここで、ｃｆ（ｓ）は、コーパス全体でのキーワードｓの出現頻度であり、ｃｆ（ｔ）は、コーパス全体でのキーワードｔの出現頻度である。
【００６０】
式（１１）に示すように、重み付けはｃｆ（ｓ）、ｃｆ（ｔ）のうち小さい方の値のｌｏｇ値である。これにより、出現頻度が極端に少ないキーワードによる雑音を取り除くことができ、関連語対の抽出数を多くしつつ適合率を向上させることができる。なお、重み付けは、式（１１）に限定されるものではなく、他の式を用いることもできる。また、ｃｆ（ｓ）、ｃｆ（ｔ）を用いる代わりに、共起出現頻度などを用いてもよい。また、キーワードが出現する文書数であるｄｆ（ｓ）、ｄｆ（ｔ）などを用いることもできる。
【００６１】
関連語対抽出部３４４は、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。
【００６２】
次に本発明に係る関連語生成システム及びサーバ（関連語抽出装置）３０の動作について説明する。図８は関連語生成システムの処理手順を示すフローチャートである。なお、図中、ステップＳ１１〜Ｓ１５の処理はサーバ３０が行い、ステップＳ１６の処理は辞書サーバ４０が行う。
【００６３】
サーバ３０は、ファイルサーバ２１、２２、２３を通じて文書データベース２１１〜２３１にアクセスする（Ｓ１１）。これにより、サーバ３０は、文書集合（コーパス）を取得する。サーバ３０は、単語列抽出を行い（Ｓ１２）、抽出した単語列に基づいて、順序対を抽出する（Ｓ１３）。
【００６４】
サーバ３０は、抽出した順序対から候補対を抽出し（Ｓ１４）、抽出した候補対に基づいて、関連語対を抽出する（Ｓ１５）。なお、サーバ３０は、抽出した関連語対の集合を辞書サーバ４０へ出力する。辞書サーバ４０は、サーバ３０で抽出された関連語対に基づいて関連語辞書を生成し（Ｓ１６）、関連語生成システムの処理は終了する。以下、サーバ３０で行う各処理について説明する。
【００６５】
図９は単語列抽出の処理手順を示すフローチャートである。処理部３４は、コーパスから単語の切り出しを行い（Ｓ１０１）、関連語として抽出すべき分析対象の単語であるキーワード列（キーワードの出現順の集合）を抽出する（Ｓ１０２）。なお、前置詞、代名詞、関係詞などのキーワードでない単語は、それ単体ではあまり意味をなさないものの、文脈を把握する上では重要な情報となるものであり、単語列として抽出される。
【００６６】
処理部３４は、抽出したキーワードの出現頻度を算出し（Ｓ１０３）、キーワードの前後に出現する単語との共起出現頻度を算出し（Ｓ１０４）、処理を終了する。なお、キーワードの出現頻度は、例えば、コーパス全体におけるキーワードの出現頻度ｃｆ、キーワードが出現する文書数ｄｆなどである。
【００６７】
図１０は順序対抽出の処理手順を示すフローチャートである。処理部３４は、抽出したキーワード列において、異なる２つのキーワードｙ１、ｙ２を選択し（Ｓ１１１）、キーワード列の連続する２つのキーワードを検索する（Ｓ１１２）。
【００６８】
処理部３４は、前者がキーワードｙ１、後者がキーワードｙ２である出現回数ｘ１１を計数し（Ｓ１１３）、前者がキーワードｙ１、後者がキーワードｙ２以外である出現回数ｘ１２を計数する（Ｓ１１４）。
【００６９】
処理部３４は、前者がキーワードｙ１以外、後者がキーワードｙ２である出現回数ｘ２１を計数し（Ｓ１１５）、前者がキーワードｙ１以外、後者がキーワードｙ２以外である出現回数ｘ２２を計数する（Ｓ１１６）。
【００７０】
処理部３４は、確率変数Ｘを算出し（Ｓ１１７）、算出した確率変数が所定の閾値以上であるか否かを判定する（Ｓ１１８）。確率変数Ｘが所定の閾値以上である場合（Ｓ１１８でＹＥＳ）、処理部３４は、キーワードｙ１、ｙ２を順序対として抽出する（Ｓ１１９）。
【００７１】
処理部３４は、すべてのキーワードを選択したか否かを判定し（Ｓ１２０）、すべてのキーワードを選択していない場合（Ｓ１２０でＮＯ）、ステップＳ１１１以降の処理を続ける。一方、確率変数Ｘが所定の閾値以上でない場合（Ｓ１１８でＮＯ）、処理部３４は、ステップＳ１２０の処理を行う。すべてのキーワードを選択した場合（Ｓ１２０でＹＥＳ）、処理部３４は、処理を終了する。
【００７２】
図１１は候補対抽出の処理手順を示すフローチャートである。処理部３４は、順序対の集合から１つのキーワードｙを選択する（Ｓ１３１）。処理部３４は、キーワードｙの前に出現する前キーワードの集合ｐｒｅ（ｙ）を抽出し（Ｓ１３２）、キーワードｙの後に出現する後キーワードの集合ｐｏｓｔ（ｙ）を抽出する（Ｓ１３３）。
【００７３】
処理部３４は、集合ｐｒｅ（ｙ）の各キーワードの後に出現する後キーワードの集合Ｆｐｒｅ（ｙ）を抽出し（Ｓ１３４）、集合ｐｏｓｔ（ｙ）の各キーワードの前に出現する前キーワードの集合Ｂｐｏｓｔ（ｙ）を抽出する（Ｓ１３５）。
【００７４】
処理部３４は、集合Ｆｐｒｅ（ｙ）、集合Ｂｐｏｓｔ（ｙ）の両者に含まれるキーワードをキーワードｙの候補対として抽出する（Ｓ１３６）。処理部３４は、すべてのキーワードを選択したか否かを判定し（Ｓ１３７）、すべてのキーワードを選択していない場合（Ｓ１３７でＮＯ）、ステップＳ１３１以降の処理を続ける。すべてのキーワードを選択した場合（Ｓ１３７でＹＥＳ）、処理部３４は、処理を終了する。
【００７５】
図１２及び図１３は関連語対抽出の処理手順を示すフローチャートである。処理部３４は、候補対ｓ、ｔを選択し（Ｓ１４１）、単語列を検索する（Ｓ１４２）。処理部３４は、キーワードｓ、ｔ両者の前に共通に出現する単語の種類数Ｇｐｒｅを算出し（Ｓ１４３）、キーワードｓ、ｔ両者の後に共通に出現する単語の種類数Ｇｐｏｓｔを算出する（Ｓ１４４）。
【００７６】
処理部３４は、キーワードｓの前に出現し、キーワードｔの前に出現しない単語の種類数Ｈｐｒｅを算出し（Ｓ１４５）、キーワードｓの後に出現し、キーワードｔの後に出現しない単語の種類数Ｈｐｏｓｔを算出する（Ｓ１４６）。
【００７７】
処理部３４は、キーワードｔの前に出現し、キーワードｓの前に出現しない単語の種類数Ｋｐｒｅを算出し（Ｓ１４７）、キーワードｔの後に出現し、キーワードｓの後に出現しない単語の種類数Ｋｐｏｓｔを算出する（Ｓ１４８）。
【００７８】
処理部３４は、判定尺度ｓｃｏｒｅを算出する（Ｓ１４９）。なお、判定尺度は、上述の判定尺度ｓｃｏｒｅ１〜３のいずれでもよい。処理部３４は、判定尺度ｓｃｏｒｅが所定の閾値以上であるか否かを判定し（Ｓ１５０）、判定尺度ｓｃｏｒｅが所定の閾値以上である場合（Ｓ１５０でＹＥＳ）、候補対ｓ、ｔを関連語対として抽出する（Ｓ１５１）。
【００７９】
処理部３４は、すべての候補対を選択したか否かを判定し（Ｓ１５２）、すべての候補対を選択していない場合（Ｓ１５２でＮＯ）、ステップＳ１４１以降の処理を続ける。一方、判定尺度ｓｃｏｒｅが所定の閾値以上でない場合（Ｓ１５０でＮＯ）、処理部３４は、ステップＳ１５２の処理を行う。すべての候補対を選択した場合（Ｓ１５２でＹＥＳ）、処理部３４は、処理を終了する。
【００８０】
図１４はカイ二乗検定で順序対抽出した場合の出力結果の例を示す説明図である。使用した文書集合として、論文アブストラクトのコーパス（ＮＴＣＩＲ）から５０００文書、１００００文書、１５０００文書、２００００文書を切り出して使用した。
【００８１】
図１４に示すように、カイ二乗検定を用いて順序対抽出を行った場合（実施例）には、従来のごとくカイ二乗検定による順序対抽出を行っていない場合（比較例）に比べて、適合率を低下させることなく、抽出できる候補対の数を増加させるとともに、抽出できる関連語対の数も増大させることができた。これにより、一層多くの関連語対を得ることができる。
【００８２】
次に、上述の判定尺度ｓｃｏｒｅ１〜３を用いて関連語対を抽出した結果について説明する。文書集合として英字新聞コーパスであるEnglish Gigaword Corporaを使用した。１９９４〜１９９７、２００１、２００２年度のデータからそれぞれ１０００記事を抜き出し、判定尺度ｓｃｏｒｅ１〜３を適用したシステムに入力し処理を実行した。
【００８３】
評価方法は、既存のシソーラスであるWordNetを用いて正解となる基準類似度を予め算出しておき、この正解判定をもって関連語対抽出の適合率を求めた。
【００８４】
図１５はWordNetによる基準類似度を示す説明図である。WordNetは語の関係を木構造により具現化している。すなわち、図１５に示すように、WordNet中の語義ｗｉに対応する節点の深さをｄｉ、語義ｖｊに対応する節点の深さをｄｊとする。また、これら２節点の共通祖先の深さの最大値をＤｄｃａとする。このとき、基準類似度を式（１２）で求める。
【００８５】
【数４】
2008226016.tif 000006
【００８６】
例えば、ｓｉｍ（ｗｉ、ｖｊ）が０．６以上となった単語対を正解と判定する。また、WordNetの辞書に含まれない単語については評価対象外とする。
【００８７】
図１６はスコア１の出力結果の例を示す説明図である。判定尺度としてｓｃｏｒｅ１（スコア１）を用いた場合の出力結果である。正解と評価されたものはＯ、不正解には×、評価対象外となったものには？という評価を付与している。
【００８８】
図１６に示すように、抽出された関連語対には、同じ動詞又は助動詞の変化形の対が多く見られる。共通に出現する単語の種類数である共通数を用いることで、出現頻度の高い単語対に大きな値を与える特徴があるため、従来例のごとく前後に出現する共通のキーワードの有無により関連語対を抽出する場合に比べて、より多くの関連語対を抽出することができる。
【００８９】
図１７はスコア２の出力結果の例を示す説明図である。判定尺度としてｓｃｏｒｅ２（スコア２）を用いた場合の出力結果である。図１７に示すように、人名又は地名などの単語対が多く見られた。また、表記ゆれ又はスペルミスの対なども含まれていた。この判定尺度では、コーパス中での出現頻度が少ない固有名詞であっても大きな値を与える特徴がある。
【００９０】
図１８はスコア３の出力結果の例を示す説明図である。判定尺度としてｓｃｏｒｅ３（スコア３）を用いた場合の出力結果である。図１８に示すように、月日、単位などの似た概念の単語、言い換えが可能な単語の対、同義語の対、反意語の対などが見られた。また、表記ゆれ又はスペルミスの対なども含まれていた。この判定尺度では、出現頻度が極端に少ないキーワードによる雑音を取り除くことができ、関連語対の抽出数を多くしつつ適合率を向上させることができる。
【００９１】
図１９は各判定尺度の適合率と正解数の例を示す説明図である。図中の数字は適合率であり、カッコ内の数字は実際の正解数である。図１９に示すように、スコア１の場合には、多くの関連語対を抽出することができる。また、スコア２、３では、適合率を高めることができる。スコア２の場合、得られる関連語対の数が、他の２つのスコアに比べて少ない。これはWordNetのシソーラス辞書に登録されていない単語が多かったためである。スコア３では、単語の出現頻度による重み付けを施しているため、出現頻度が極端に少ないキーワードによる雑音を取り除くことができる。
【００９２】
関連語を抽出する対象とする文章集合の種別、属性などに応じて、スコア１、スコア２、スコア３のいずれかの判定尺度を装置に組み込み、使い分けることが可能である。
【００９３】
以上説明したように、本発明にあっては、辞書を一切使用せずに、統計的に関連語対の獲得を行うことができる。すなわち、前後に出現する共通のキーワードの有無により関連語対を抽出する場合に比べて、共通に出現する単語の種類数である共通数を用いることで、より多くの関連語対を抽出することができる。また、共通数を算出する際の単語には、キーワードのみならず、文脈情報として有用と考えられる単語も含まれることから、文脈での単語の使われ方の違いも考慮することができ、精度良く関連語対を抽出することができる。比較的簡単な演算処理で精度良く関連語対を抽出することができる。
【００９４】
また、本発明にあっては、候補対の前後の単語の共通数のみならず、候補対の前後に出現する単語が異なる場合の異なり数を用いることにより、関連語対の適合率を向上させることができる。また、出現頻度が極端に少ないキーワードによる雑音を取り除くことができ、関連語対の抽出数を多くしつつ適合率を向上させることができる。また、シソーラスを自動構築することができ、さらに検索精度を向上させるために、同義語、類似語などを登録、編集することもできる。
【００９５】
上述の実施の形態では、文書集合（コーパス）として英語の文書の例について説明したが、本発明は英語文書に限定されるものではなく、日本語、中国語など他の言語の文書にも適用することが可能である。また、文書の種類などにより限定されるものではなく、様々な分野（例えば、経済、電気、コンピュータ、医学など）における文書にも適用することができる。
【００９６】
上述の実施の形態では、関連語抽出装置としてサーバを用いた構成であるが、サーバに辞書生成機能を設けることもできる。これにより、サーバと辞書サーバを統合することもできる。
【００９７】
上述の実施の形態では、サーバ３０で単語列抽出処理、順序対抽出処理、候補対抽出処理、関連語対抽出処理をまとめて実施する構成であるが、これに限定されるものではない。例えば、本発明に係るコンピュータプログラムの処理を複数のサーバで分散処理して、各サーバが分担する処理を実施して処理結果を他のサーバへ出力し、各サーバで行った処理をまとめることで関連語対の抽出処理を実現させることもできる。
【００９８】
また、文書データベースでのデータ形式は、特に限定されるものではなく、例えば、Ｗｏｒｄ、Ｅｘｃｅｌ、ＰｏｗｅｒＰｏｉｎｔ，ＰＤＦ、ＨＴＭＬなどの文書ファイル、ＸＭＬファイル、ＣＳＶファイルなど、どのような形式であってもよい。
【００９９】
以上に開示された実施の形態及び実施例は、全ての点で例示であって制限的なものではないと考慮されるべきである。本発明の範囲は、以上の実施の形態及び実施例ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての修正や変形を含むものと意図される。
【図面の簡単な説明】
【０１００】
【図１】本発明に係る関連語生成システムの構成を示すブロック図である。
【図２】キーワード列の一例を示す説明図である。
【図３】順序対の抽出手法の例を示す説明図である。
【図４】各事象と出現回数の関係を示す説明図である。
【図５】候補対の抽出例を示す説明図である。
【図６】候補対の抽出例を示す説明図である。
【図７】単語の出現関連度を示す説明図である。
【図８】関連語生成システムの処理手順を示すフローチャートである。
【図９】単語列抽出の処理手順を示すフローチャートである。
【図１０】順序対抽出の処理手順を示すフローチャートである。
【図１１】候補対抽出の処理手順を示すフローチャートである。
【図１２】関連語対抽出の処理手順を示すフローチャートである。
【図１３】関連語対抽出の処理手順を示すフローチャートである。
【図１４】カイ二乗検定で順序対抽出した場合の出力結果の例を示す説明図である。
【図１５】WordNetによる基準類似度を示す説明図である。
【図１６】スコア１の出力結果の例を示す説明図である。
【図１７】スコア２の出力結果の例を示す説明図である。
【図１８】スコア３の出力結果の例を示す説明図である。
【図１９】各判定尺度の適合率と正解数の例を示す説明図である。
【符号の説明】
【０１０１】
２１、２２、２３  ファイルサーバ
３０  サーバ
３１  制御部
３２  インタフェース部
３３  記憶部
３４  処理部
４０  辞書サーバ
２１１、２２１、２３１  文書データベース
３４１  単語列抽出部
３４２  順序対抽出部
３４３  候補対抽出部
３４４  関連語対抽出部
４０１  関連語辞書データベース
【図１】
2008226016.tif 000007
【図２】
2008226016.tif 000008
【図３】
2008226016.tif 000009
【図４】
2008226016.tif 000010
【図５】
2008226016.tif 000011
【図６】
2008226016.tif 000012
【図７】
2008226016.tif 000013
【図８】
2008226016.tif 000014
【図９】
2008226016.tif 000015
【図１０】
2008226016.tif 000016
【図１１】
2008226016.tif 000017
【図１２】
2008226016.tif 000018
【図１３】
2008226016.tif 000019
【図１４】
2008226016.tif 000020
【図１５】
2008226016.tif 000021
【図１６】
2008226016.tif 000022
【図１７】
2008226016.tif 000023
【図１８】
2008226016.tif 000024
【図１９】
2008226016.tif 000025
【手続補正書】
【提出日】平成20年4月14日(2008.4.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
コンピュータを、文書集合からキーワードを含む単語列を抽出する手段と、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する手段として機能させるためのコンピュータプログラムにおいて、
コンピュータを、前記単語列に含まれるキーワードに関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出する手段と、
抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する手段と、
抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する手段と、
算出した共通数を用いて関連語対を抽出する手段と
して機能させることを特徴とするコンピュータプログラム。
【請求項２】
コンピュータを、算出した共通数のうち、前記候補対の前に共通に出現する単語の共通数と、前記候補対の後に共通に出現する単語の共通数との合計値が所定値より大きい場合、関連語対を抽出する手段として機能させることを特徴とする請求項１に記載のコンピュータプログラム。
【請求項３】
コンピュータを、抽出した候補対の前又は後に出現する異なる単語の種類数である異なり数を算出する手段と、
算出した異なり数を用いて関連語対を抽出する手段と
して機能させることを特徴とする請求項１又は請求項２に記載のコンピュータプログラム。
【請求項４】
コンピュータを、抽出した候補対の前に共通に出現する単語の共通数と、該候補対の前に出現する異なる単語の異なり数とを用いて、該候補対の前に出現する単語の関連度を算出する手段と、
前記候補対の後に共通に出現する単語の共通数と、該候補対の後に出現する異なる単語の異なり数とを用いて、該候補対の後に出現する単語の関連度を算出する手段と、
算出した各関連度の加算値の大小に応じて関連語対を抽出する手段と
して機能させることを特徴とする請求項３に記載のコンピュータプログラム。
【請求項５】
コンピュータを、
算出した各関連度に対して、前記候補対の各キーワードの出現頻度の大小に応じて重み付けする重み付け手段として機能させることを特徴とする請求項４に記載のコンピュータプログラム。
【請求項６】
文書集合からキーワードを含む単語列を抽出し、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する関連語抽出装置において、
前記単語列に含まれるキーワードに関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出する順序対抽出手段と、
該順序対抽出手段で抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する候補対抽出手段と、
該候補対抽出手段で抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する算出手段と、
該算出手段で算出した共通数を用いて関連語対を抽出する関連語対抽出手段と
を備えることを特徴とする関連語抽出装置。
【請求項７】
請求項６に記載の関連語抽出装置と、該関連語抽出装置で抽出した関連語対を記憶する辞書サーバとを備えることを特徴とする関連語抽出システム。
【請求項８】
文書集合からキーワードを含む単語列を抽出する手段と、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する手段とを備える関連語抽出装置で関連語対を抽出する関連語抽出方法において、
前記関連語抽出装置は、
前記単語列に含まれるキーワードに関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出し、
抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、
抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、
算出した共通数を用いて関連語対を抽出することを特徴とする関連語抽出方法。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００１
【補正方法】変更
【補正の内容】
【０００１】
本発明は、文書集合から相互に関連性を有する関連語を抽出させるための関連語抽出装置、該関連語抽出装置を実現するためのコンピュータプログラム、前記関連語抽出装置を備える関連語抽出システム及び関連語抽出方法に関する。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】変更
【補正の内容】
【０００６】
本発明は、斯かる事情に鑑みてなされたものであり、単語列に含まれるキーワードに基づいて、出現する順序に関連があるキーワードの対である順序対を抽出し、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数に基づいて、関連語対を抽出することにより、従来に比べて精度良く関連語対を抽出することができる関連語抽出装置、該関連語抽出装置を実現するためのコンピュータプログラム、前記関連語抽出装置を備える関連語抽出システム及び関連語抽出方法を提供することを目的とする。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】０００７
【補正方法】変更
【補正の内容】
【０００７】
第１発明に係るコンピュータプログラムは、コンピュータを、文書集合からキーワードを含む単語列を抽出する手段と、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する手段として機能させるためのコンピュータプログラムにおいて、コンピュータを、前記単語列に含まれるキーワードに関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出する手段と、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する手段と、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する手段と、算出した共通数を用いて関連語対を抽出する手段として機能させることを特徴とする。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
第２発明に係るコンピュータプログラムは、第１発明において、コンピュータを、算出した共通数のうち、前記候補対の前に共通に出現する単語の共通数と、前記候補対の後に共通に出現する単語の共通数との合計値が所定値より大きい場合、関連語対を抽出する手段として機能させることを特徴とする。
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】０００９
【補正方法】変更
【補正の内容】
【０００９】
第３発明に係るコンピュータプログラムは、第１発明又は第２発明において、コンピュータを、抽出した候補対の前又は後に出現する異なる単語の種類数である異なり数を算出する手段と、算出した異なり数を用いて関連語対を抽出する手段として機能させることを特徴とする。
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００１０
【補正方法】変更
【補正の内容】
【００１０】
第４発明に係るコンピュータプログラムは、第３発明において、コンピュータを、抽出した候補対の前に共通に出現する単語の共通数と、該候補対の前に出現する異なる単語の異なり数とを用いて、該候補対の前に出現する単語の関連度を算出する手段と、前記候補対の後に共通に出現する単語の共通数と、該候補対の後に出現する異なる単語の異なり数とを用いて、該候補対の後に出現する単語の関連度を算出する手段と、算出した各関連度の加算値の大小に応じて関連語対を抽出する手段として機能させることを特徴とする。
【手続補正９】
【補正対象書類名】明細書
【補正対象項目名】００１１
【補正方法】変更
【補正の内容】
【００１１】
第５発明に係るコンピュータプログラムは、第４発明において、コンピュータを、算出した各関連度に対して、前記候補対の各キーワードの出現頻度の大小に応じて重み付けする重み付け手段として機能させることを特徴とする。
【手続補正１０】
【補正対象書類名】明細書
【補正対象項目名】００１２
【補正方法】削除
【補正の内容】
【手続補正１１】
【補正対象書類名】明細書
【補正対象項目名】００１３
【補正方法】変更
【補正の内容】
【００１３】
第６発明に係る関連語抽出装置は、文書集合からキーワードを含む単語列を抽出し、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する関連語抽出装置において、前記単語列に含まれるキーワードに関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出する順序対抽出手段と、該順序対抽出手段で抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出する候補対抽出手段と、該候補対抽出手段で抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出する算出手段と、該算出手段で算出した共通数を用いて関連語対を抽出する関連語対抽出手段とを備えることを特徴とする。
【手続補正１２】
【補正対象書類名】明細書
【補正対象項目名】００１４
【補正方法】変更
【補正の内容】
【００１４】
第７発明に係る関連語抽出システムは、前述の発明に係る関連語抽出装置と、該関連語抽出装置で抽出した関連語対を記憶する辞書サーバとを備えることを特徴とする。
【手続補正１３】
【補正対象書類名】明細書
【補正対象項目名】００１５
【補正方法】変更
【補正の内容】
【００１５】
第８発明に係る関連語抽出方法は、文書集合からキーワードを含む単語列を抽出する手段と、抽出した単語列に基づいて相互に関連性を有する関連語対を抽出する手段とを備える関連語抽出装置で関連語対を抽出する関連語抽出方法において、前記関連語抽出装置は、前記単語列に含まれるキーワードに関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出し、抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数を用いて関連語対を抽出することを特徴とする。
【手続補正１４】
【補正対象書類名】明細書
【補正対象項目名】００１６
【補正方法】変更
【補正の内容】
【００１６】
第１発明、第６発明及び第８発明にあっては、文書集合（例えば、コーパス）からキーワードを含む単語列を抽出し、抽出した単語列に含まれるキーワード（分析対象の単語）に関する確率変数が閾値以上である場合、該キーワードに対応する帰無仮説を棄却して、出現する順序に関連があるキーワードの対である順序対を抽出する。例えば、順序対の抽出はカイ二乗検定により行うことができる。抽出した順序対の中から、前後に同じキーワードが出現する候補対を抽出し、抽出した候補対の前又は後に共通に出現する単語の種類数である共通数を算出し、算出した共通数を用いて関連語対を抽出する。この場合、出現する単語には、キーワードのみならず、文脈を把握する上で有用と考えられる単語、例えば、前置詞、代名詞、関係詞なども含む。例えば、キーワードｓ、ｔからなる候補対について、キーワードｓ、ｔ両者の前に共通に出現する単語の種類数Ｇｐｒｅを算出し、キーワードｓ、ｔ両者の後に共通に出現する単語の種類数Ｇｐｏｓｔを算出する。算出した共通数Ｇｐｒｅ、Ｇｐｏｓｔを用いて関連語対を判定するための判定尺度を算出し、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。共通に出現する単語の種類数である共通数を用いることにより、前後に出現する共通のキーワードの有無により関連語対を抽出する場合に比べて、より多くの関連語対を抽出することができる。また、共通数を算出する際の単語には、キーワードのみならず、文脈情報として有用と考えられる単語も含まれることから、文脈での単語の使われ方の違いも考慮することができ、精度良く関連語対を抽出することができる。
【手続補正１５】
【補正対象書類名】明細書
【補正対象項目名】００１７
【補正方法】変更
【補正の内容】
【００１７】
第２発明にあっては、候補対の前に共通に出現する単語の共通数と、候補対の後に共通に出現する単語の共通数との合計値が所定値より大きい場合、関連語対を抽出する。例えば、キーワードｓ、ｔからなる候補対について、キーワードｓ、ｔ両者の前に共通に出現する単語の種類数Ｇｐｒｅを算出し、キーワードｓ、ｔ両者の後に共通に出現する単語の種類数Ｇｐｏｓｔを算出する。算出した共通数Ｇｐｒｅ及びＧｐｏｓｔの合計値を用いて判定尺度を算出し、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。これにより、比較的簡単な演算処理で精度良く関連語対を抽出することができる。
【手続補正１６】
【補正対象書類名】明細書
【補正対象項目名】００１８
【補正方法】変更
【補正の内容】
【００１８】
第３発明にあっては、抽出した候補対の前又は後に出現する異なる単語の種類数である異なり数を算出し、算出した異なり数を用いて関連語対を抽出する。例えば、キーワードｓ、ｔからなる候補対について、キーワードｓの前に出現し、キーワードｔの前に出現しない単語の種類数Ｈｐｒｅを算出し、キーワードｓの後に出現し、キーワードｔの後に出現しない単語の種類数Ｈｐｏｓｔを算出する。また、キーワードｓ、ｔからなる候補対について、キーワードｔの前に出現し、キーワードｓの前に出現しない単語の種類数Ｋｐｒｅを算出し、キーワードｔの後に出現し、キーワードｓの後に出現しない単語の種類数Ｋｐｏｓｔを算出する。算出した異なり数Ｈｐｒｅ、Ｈｐｏｓｔ、Ｋｐｒｅ、Ｋｐｏｓｔを用いて関連語対を判定するための判定尺度を算出し、算出した判定尺度が所定の閾値より大きい場合、候補対ｓ、ｔを関連語対として抽出する。これにより、候補対の前後の単語の共通数のみならず、候補対の前後に出現する単語が異なる場合も考慮して関連語判定を行うことができ、関連語対の適合率を向上させることができる。
【手続補正１７】
【補正対象書類名】明細書
【補正対象項目名】００１９
【補正方法】変更
【補正の内容】
【００１９】
第４発明にあっては、抽出した候補対の前に共通に出現する単語の共通数と、その候補対の前に出現する異なる単語の異なり数とを用いて、その候補対の前に出現する単語の関連度を算出する。また、前記候補対の後に共通に出現する単語の共通数と、その候補対の後に出現する異なる単語の異なり数とを用いて、その候補対の後に出現する単語の関連を算出する。算出した各関連度の加算値の大小に応じて、関連語対を抽出する。例えば、キーワードｓ、ｔからなる候補対の前に出現する単語の関連度を、共通数Ｇｐｒｅ、異なり数Ｈｐｒｅ、Ｋｐｒｅを用いてコサイン尺度を用いて算出する。また、キーワードｓ、ｔからなる候補対の後に出現する単語の関連度を、共通数Ｇｐｏｓｔ、異なり数Ｈｐｏｓｔ、Ｋｐｏｓｔを用いてコサイン尺度を用いて算出する。これにより、候補対の前後の単語の共通数のみならず、候補対の前後に出現する単語が異なる場合も考慮して関連語判定を行うことができ、関連語対の適合率を向上させることができる。
【手続補正１８】
【補正対象書類名】明細書
【補正対象項目名】００２０
【補正方法】変更
【補正の内容】
【００２０】
第５発明にあっては、算出した関連度に対して、候補対の各キーワードの出現頻度の大小に応じて重み付けする。例えば、キーワードｓ、ｔからなる候補対の場合、候補対ｓ、ｔに対して、キーワードｓ、ｔそれぞれの文書集合全体の出現頻度ｃｆ（ｓ）、ｃｆ（ｔ）のうち小さい方の値のｌｏｇ値を重み付け係数とすることができる。これにより、出現頻度が極端に少ないキーワードによる雑音を取り除くことができ、関連語対の抽出数を多くしつつ適合率を向上させることができる。
【手続補正１９】
【補正対象書類名】明細書
【補正対象項目名】００２１
【補正方法】削除
【補正の内容】
【手続補正２０】
【補正対象書類名】明細書
【補正対象項目名】００２２
【補正方法】変更
【補正の内容】
【００２２】
第７発明にあっては、関連語抽出装置で抽出した関連語対を記憶する。これにより、シソーラスを自動構築することができ、さらに検索精度を向上させるために、同義語、類似語などを登録、編集することもできる。
【手続補正２１】
【補正対象書類名】明細書
【補正対象項目名】００２４
【補正方法】変更
【補正の内容】
【００２４】
以下、本発明を実施の形態を示す図面に基づいて説明する。図１は本発明に係る関連語抽出システムの構成を示すブロック図である。本発明に係る関連語抽出システムは、関連語抽出装置としてのサーバ３０、関連語辞書を生成する関連語辞書生成装置としての辞書サーバ４０などを備えている。また、サーバ３０、辞書サーバ４０には、インターネット等のネットワークを通じて、ユーザが使用するパーソナルコンピュータ、ワークステーションなどのクライアント装置（以下、ＰＣという）１０、…、文書情報を管理するファイルサーバ２１、２２、２３などを接続してある。
【手続補正２２】
【補正対象書類名】明細書
【補正対象項目名】００６２
【補正方法】変更
【補正の内容】
【００６２】
次に本発明に係る関連語抽出システム及びサーバ（関連語抽出装置）３０の動作について説明する。図８は関連語抽出システムの処理手順を示すフローチャートである。なお、図中、ステップＳ１１〜Ｓ１５の処理はサーバ３０が行い、ステップＳ１６の処理は辞書サーバ４０が行う。
【手続補正２３】
【補正対象書類名】明細書
【補正対象項目名】００６４
【補正方法】変更
【補正の内容】
【００６４】
サーバ３０は、抽出した順序対から候補対を抽出し（Ｓ１４）、抽出した候補対に基づいて、関連語対を抽出する（Ｓ１５）。なお、サーバ３０は、抽出した関連語対の集合を辞書サーバ４０へ出力する。辞書サーバ４０は、サーバ３０で抽出された関連語対に基づいて関連語辞書を生成し（Ｓ１６）、関連語抽出システムの処理は終了する。以下、サーバ３０で行う各処理について説明する。
【手続補正２４】
【補正対象書類名】明細書
【補正対象項目名】０１００
【補正方法】変更
【補正の内容】
【０１００】
【図１】本発明に係る関連語抽出システムの構成を示すブロック図である。
【図２】キーワード列の一例を示す説明図である。
【図３】順序対の抽出手法の例を示す説明図である。
【図４】各事象と出現回数の関係を示す説明図である。
【図５】候補対の抽出例を示す説明図である。
【図６】候補対の抽出例を示す説明図である。
【図７】単語の出現関連度を示す説明図である。
【図８】関連語抽出システムの処理手順を示すフローチャートである。
【図９】単語列抽出の処理手順を示すフローチャートである。
【図１０】順序対抽出の処理手順を示すフローチャートである。
【図１１】候補対抽出の処理手順を示すフローチャートである。
【図１２】関連語対抽出の処理手順を示すフローチャートである。
【図１３】関連語対抽出の処理手順を示すフローチャートである。
【図１４】カイ二乗検定で順序対抽出した場合の出力結果の例を示す説明図である。
【図１５】WordNetによる基準類似度を示す説明図である。
【図１６】スコア１の出力結果の例を示す説明図である。
【図１７】スコア２の出力結果の例を示す説明図である。
【図１８】スコア３の出力結果の例を示す説明図である。
【図１９】各判定尺度の適合率と正解数の例を示す説明図である。