(57)【要約】【課題】電子文書中に出現する単語のうち、その内容を特徴的に表し、特定の性質に関連する単語または単語の組み合わせを、その電子文書中に出現する他の単語との関連性を考慮して検出することを図る。【解決手段】特定の性質に関係する正解文書の集合と該性質に関係しない不正解文書の集合が記憶される電子文書記憶部１１０と、該性質に関係する文書を判定するための辞書登録候補である第１の語と第２の語が入力される入力部１７６と、第１の語と第２の語の組み合わせ毎に第１から第８の文書数を算出する文書数算出部１７５と、第１から第８の文書数に基づいて第１から第３の情報量基準量を算出する情報量基準量算出部１７７と、第１から第３の情報量基準量を比較して第１の語と第２の語と第１の語および第２の語の組み合わせとのうち該性質に関係する度合いが最大であるものを登録語に選択する登録語選択部１７８と、を備える。【選択図】図１
2011081626.tif 000002
【特許請求の範囲】
【請求項１】
特定の性質に関係する正解文書の集合と、当該性質に関係しない不正解文書の集合とが記憶される電子文書記憶部と、
前記性質に関係する文書を判定するための辞書登録候補である第１の語と第２の語とが入力される入力部と、
前記第１の語と前記第２の語との組み合わせ毎に、前記第１の語と前記第２の語との双方が含まれる前記正解文書の数である第１の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記正解文書の数である第２の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記正解文書の数である第３の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記正解文書の数である第４の文書数と、前記第１の語と前記第２の語との双方が含まれる前記不正解文書の数である第５の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記不正解文書の数である第６の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記不正解文書の数である第７の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記不正解文書の数である第８の文書数とを算出する文書数算出部と、
前記文書数算出部によって算出された前記第１から前記第８の文書数に基づいて、前記第１の語と前記性質との関係の度合いを示す第１の情報量基準量と、前記第２の語と前記性質との関係の度合いを示す第２の情報量基準量と、前記第１の語および前記第２の語の組み合わせと前記性質との関係の度合いを示す第３の情報量基準量とを算出する情報量基準量算出部と、
前記情報量基準量算出部によって算出された前記情報量基準量を比較して、前記第１の語と、前記第２の語と、前記第１の語および前記第２の語の組み合わせとのうち、前記性質に関係する度合いが最大であるものを登録語に選択する登録語選択部と、
を備えることを特徴とする辞書登録装置。
【請求項２】
前記第１の語と前記性質との関係の度合いを示す第１の情報量基準量「ＡＩＣ（ＤＭ１）」は、
ＭＬＬ＝（Ｎ１１＋Ｎ１２）ｌｏｇ（Ｎ１１＋Ｎ１２）＋（Ｎ１３＋Ｎ１４）ｌｏｇ（Ｎ１３＋Ｎ１４）＋（Ｎ２１＋Ｎ２２）ｌｏｇ（Ｎ２１＋Ｎ２２）＋（Ｎ２３＋Ｎ２４）ｌｏｇ（Ｎ２３＋Ｎ２４）＋（Ｎ１１＋Ｎ１３＋Ｎ２１＋Ｎ２３）ｌｏｇ（Ｎ１１＋Ｎ１３＋Ｎ２１＋Ｎ２３）＋（Ｎ１２＋Ｎ１４＋Ｎ２２＋Ｎ２４）ｌｏｇ（Ｎ１２＋Ｎ１４＋Ｎ２２＋Ｎ２４）−２×ＺｌｏｇＺ、
ＡＩＣ（ＤＭ１）＝−２×ＭＬＬ＋２×４、
なる計算式により算出される、
但し、ｌｏｇの底である１０は省略して表記し、Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４であり、Ｎ１１は前記第１の文書数、Ｎ１２は前記第２の文書数、Ｎ１３は前記第３の文書数、Ｎ１４は前記第４の文書数、Ｎ２１は前記第５の文書数、Ｎ２２は前記第６の文書数、Ｎ２３は前記第７の文書数、Ｎ２４は前記第８の文書数である、
ことを特徴とする請求項１に記載の辞書登録装置。
【請求項３】
前記第２の語と前記性質との関係の度合いを示す第２の情報量基準量「ＡＩＣ（ＤＭ２）」は、
ＭＬＬ＝（Ｎ１１＋Ｎ１３）ｌｏｇ（Ｎ１１＋Ｎ１３）＋（Ｎ１２＋Ｎ１４）ｌｏｇ（Ｎ１２＋Ｎ１４）＋（Ｎ２１＋Ｎ２３）ｌｏｇ（Ｎ２１＋Ｎ２３）＋（Ｎ２２＋Ｎ２４）ｌｏｇ（Ｎ２２＋Ｎ２４）＋（Ｎ１１＋Ｎ１２＋Ｎ２１＋Ｎ２２）ｌｏｇ（Ｎ１１＋Ｎ１２＋Ｎ２１＋Ｎ２２）＋（Ｎ１３＋Ｎ１４＋Ｎ２３＋Ｎ２４）ｌｏｇ（Ｎ１３＋Ｎ１４＋Ｎ２３＋Ｎ２４）−２×ＺｌｏｇＺ、
ＡＩＣ（ＤＭ２）＝−２×ＭＬＬ＋２×４、
なる計算式により算出される、
但し、ｌｏｇの底である１０は省略して表記し、Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４であり、Ｎ１１は前記第１の文書数、Ｎ１２は前記第２の文書数、Ｎ１３は前記第３の文書数、Ｎ１４は前記第４の文書数、Ｎ２１は前記第５の文書数、Ｎ２２は前記第６の文書数、Ｎ２３は前記第７の文書数、Ｎ２４は前記第８の文書数である、
ことを特徴とする請求項１又は請求項２に記載の辞書登録装置。
【請求項４】
前記第１の語および前記第２の語の組み合わせと前記性質との関係の度合いを示す第３の情報量基準量「ＡＩＣ（ＤＭ１２）」は、
ＭＬＬ＝Ｎ１１ｌｏｇＮ１１＋Ｎ１２ｌｏｇＮ１２＋Ｎ１３ｌｏｇＮ１３＋Ｎ１４ｌｏｇＮ１４＋Ｎ２１ｌｏｇＮ２１＋Ｎ２２ｌｏｇＮ２２＋Ｎ２３ｌｏｇＮ２３＋Ｎ２４ｌｏｇＮ２４−ＺｌｏｇＺ、
ＡＩＣ（ＤＭ１２）＝−２×ＭＬＬ＋２×７、
なる計算式により算出される、
但し、ｌｏｇの底である１０は省略して表記し、Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４であり、Ｎ１１は前記第１の文書数、Ｎ１２は前記第２の文書数、Ｎ１３は前記第３の文書数、Ｎ１４は前記第４の文書数、Ｎ２１は前記第５の文書数、Ｎ２２は前記第６の文書数、Ｎ２３は前記第７の文書数、Ｎ２４は前記第８の文書数である、
ことを特徴とする請求項１から３のいずれか１項に記載の辞書登録装置。
【請求項５】
単語の正規化処理を行う正規化処理部を備えたことを特徴とする請求項１から４のいずれか１項に記載の辞書登録装置。
【請求項６】
文書から単語を抽出する形態素解析部を備えたことを特徴とする請求項１から５のいずれか１項に記載の辞書登録装置。
【請求項７】
請求項１から６のいずれか１項に記載の辞書登録装置と、
前記辞書登録装置によって選択された登録語が特定の性質を表すラベルに対応付けて格納される辞書データベースと、
前記辞書データベースを用いて入力文書に対応するラベルを判定するラベル判定装置と、
を備えたことを特徴とする文書ラベル判定システム。
【請求項８】
特定の性質に関係する正解文書の集合と、当該性質に関係しない不正解文書の集合とが記憶される電子文書記憶部と、前記性質に関係する文書を判定するための辞書登録候補である第１の語と第２の語とが入力される入力部と、を有するコンピュータに、
前記第１の語と前記第２の語との組み合わせ毎に、前記第１の語と前記第２の語との双方が含まれる前記正解文書の数である第１の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記正解文書の数である第２の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記正解文書の数である第３の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記正解文書の数である第４の文書数と、前記第１の語と前記第２の語との双方が含まれる前記不正解文書の数である第５の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記不正解文書の数である第６の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記不正解文書の数である第７の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記不正解文書の数である第８の文書数とを算出するステップと、
前記算出された前記第１から前記第８の文書数に基づいて、前記第１の語と前記性質との関係の度合いを示す第１の情報量基準量と、前記第２の語と前記性質との関係の度合いを示す第２の情報量基準量と、前記第１の語および前記第２の語の組み合わせと前記性質との関係の度合いを示す第３の情報量基準量とを算出するステップと、
前記算出された前記情報量基準量を比較して、前記第１の語と、前記第２の語と、前記第１の語および前記第２の語の組み合わせとのうち、前記性質に関係する度合いが最大であるものを登録語に選択するステップと、
を実行させるための辞書登録プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、電子文書に含まれるテキスト情報の内容が、任意のラベルに該当するか否かを判定するために最適な単語を判定する辞書登録装置、文書ラベル判定システムおよび辞書登録プログラムに関する。
【背景技術】
【０００２】
従来、ブログ等のテキストベースのウェブコンテンツや、ワープロソフトなどによって生成される文書ファイルなどの電子文書に対して、その電子文書に含まれるテキスト情報の内容がどのような性質を持つものであるかを判定し、その内容に応じたラベルを付与して電子文書を分類する文書ラベル判定システムが利用されている。ラベルには、例えば、スポーツ、経済などの電子文書のトピックを示すラベルがある。このようなラベルのうち、任意のラベルにラベル判定対象の電子文書が該当するか否かを判定する際には、そのラベルに関連性の高い複数の索引語が対応付けられた辞書データが用いられる。例えば、ラベルが「経済」である場合には、索引語として「財務省」、「為替」などの単語が対応付けられた辞書データが予め記憶される。文書ラベル判定システムは、辞書データに含まれる索引語に一致する単語をラベル判定対象の電子文書から検出し、その一致の度合いに応じて、その電子文書が任意のラベルに該当するか否かを判定する。
【０００３】
特許文献１には、電子文書中に出現する単語を評価して、その電子文書の内容を示す特徴的な単語を検出して電子文書の要約をする技術が示されている。ここでは、電子文書中に出現する複数の単語の組み合わせに応じてその電子文書に出現する単語にスコア付けを行い、スコアに応じて単語を評価することにより、信頼性の高い単語重要度を算出している。
また、特許文献２には、情報基準量に基づくモデル検定を行って単語重要度を算出する技術が提案されている。ここでは、独立モデルにより算出するスコアから、従属モデルにより算出するスコアを差し引いて算出された値が０よりも大きな単語を、重要な単語として選び出している。
また、非特許文献１には、情報量基準に基づくモデル検定を行い、トピックに該当するかを判定する上で重要な単語のみを選出する技術が提案されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００５−１４１４２８号公報
【特許文献２】特開２００５−２８４２０９号公報
【非特許文献】
【０００５】
【非特許文献１】Kazunori Matsumoto, Kazuo Hashimoto, "Schema Design for Causal Law Mining from Incomplete Database", Discovery Science, Second International Conference, DS '99, Tokyo, Japan, December, 1999,Proceedings. Lecture Notes in Computer Science 1721 Springer, pp.92-102,1999.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、ある電子文書が特定のラベルに該当するか否かを判定する際に参照する辞書データは、ユーザにより任意に作成された辞書データが用いられる場合がある。このような辞書データでは、そのラベルに最適な索引語が対応付けられているとは限らず、また索引語が固定されるため、時事的に変化する電子文書の内容の変化に応じて柔軟に索引語を変化させるのは困難である。
そこで、特定のラベルに該当すると判定された複数の電子文書から、その電子文書に含まれる単語を事後的に解析して、その電子文書に含まれる単語に応じて辞書データの内容を再帰的に更新する方法が考えられる。例えば、電子文書中に索引語の候補となる任意の単語が出現する割合と、その他の単語との割合とに応じて候補単語にスコア付けを行い、そのスコアに応じて索引語として採用するかどうかを決定することが考えられる。ただし、この方法は、電子文書中に出現する単語がそれぞれに独立して出現する回数に応じてスコア付けを行うものであるが、電子文書中の単語は、他の単語との対応関係や関連性により意味内容や重要度が異なる場合があり、必ずしも精度の良い索引語を検出できるとはいえない。ここで、特許文献１に示される技術を応用し、索引語検出の精度を上げるために、複数の単語の組み合わせによりその単語のスコア付けを行って辞書データを生成する方法も考えられるが、これでは、索引語候補が多くなるとその組み合わせ数が爆発的に増加し、計算量が多くなるという問題がある。
【０００７】
また、特許文献１に示される技術は、スコアの計算にｘ２検定の手法を使用するものであるが、ｘ２検定による解析では、解析するデータの資質によってパラメータを調整する必要がある。また、特許文献２に示される技術では、トピックに該当するか否かを判定する上で重要である単語を検出することはできない。また、特許文献２は、特許文献１と同様に、複数の単語の組み合わせの重要度を求める際には組み合わせ数が爆発的に増大するという問題がある。
【０００８】
また、上述の非特許文献１に示される技術により、例えばひとつの単語のスコアと複数の単語の組み合わせのスコアとを算出した場合には、それぞれのスコアは尺度が異なるものとなり、ひとつの単語による索引語と複数の単語の組み合わせによる索引語との精度を比較することができない。
【０００９】
本発明は、このような状況に鑑みてなされたもので、電子文書中に出現する単語のうち、その内容を特徴的に表し、特定の性質に関連する単語または単語の組み合わせを、その電子文書中に出現する他の単語との関連性を考慮して検出することのできる辞書登録装置、文書ラベル判定システムおよび辞書登録プログラムを提供する。
【課題を解決するための手段】
【００１０】
上記の課題を解決するために、本発明に係る辞書登録装置は、特定の性質に関係する正解文書の集合と、当該性質に関係しない不正解文書の集合とが記憶される電子文書記憶部と、前記性質に関係する文書を判定するための辞書登録候補である第１の語と第２の語とが入力される入力部と、前記第１の語と前記第２の語との組み合わせ毎に、前記第１の語と前記第２の語との双方が含まれる前記正解文書の数である第１の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記正解文書の数である第２の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記正解文書の数である第３の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記正解文書の数である第４の文書数と、前記第１の語と前記第２の語との双方が含まれる前記不正解文書の数である第５の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記不正解文書の数である第６の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記不正解文書の数である第７の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記不正解文書の数である第８の文書数とを算出する文書数算出部と、前記文書数算出部によって算出された前記第１から前記第８の文書数に基づいて、前記第１の語と前記性質との関係の度合いを示す第１の情報量基準量と、前記第２の語と前記性質との関係の度合いを示す第２の情報量基準量と、前記第１の語および前記第２の語の組み合わせと前記性質との関係の度合いを示す第３の情報量基準量とを算出する情報量基準量算出部と、前記情報量基準量算出部によって算出された前記情報量基準量を比較して、前記第１の語と、前記第２の語と、前記第１の語および前記第２の語の組み合わせとのうち、前記性質に関係する度合いが最大であるものを登録語に選択する登録語選択部と、を備えることを特徴とする。
【００１１】
本発明に係る辞書登録装置において、前記第１の語と前記性質との関係の度合いを示す第１の情報量基準量「ＡＩＣ（ＤＭ１）」は、
ＭＬＬ＝（Ｎ１１＋Ｎ１２）ｌｏｇ（Ｎ１１＋Ｎ１２）＋（Ｎ１３＋Ｎ１４）ｌｏｇ（Ｎ１３＋Ｎ１４）＋（Ｎ２１＋Ｎ２２）ｌｏｇ（Ｎ２１＋Ｎ２２）＋（Ｎ２３＋Ｎ２４）ｌｏｇ（Ｎ２３＋Ｎ２４）＋（Ｎ１１＋Ｎ１３＋Ｎ２１＋Ｎ２３）ｌｏｇ（Ｎ１１＋Ｎ１３＋Ｎ２１＋Ｎ２３）＋（Ｎ１２＋Ｎ１４＋Ｎ２２＋Ｎ２４）ｌｏｇ（Ｎ１２＋Ｎ１４＋Ｎ２２＋Ｎ２４）−２×ＺｌｏｇＺ、
ＡＩＣ（ＤＭ１）＝−２×ＭＬＬ＋２×４、
なる計算式により算出される、
但し、ｌｏｇの底である１０は省略して表記し、Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４であり、Ｎ１１は前記第１の文書数、Ｎ１２は前記第２の文書数、Ｎ１３は前記第３の文書数、Ｎ１４は前記第４の文書数、Ｎ２１は前記第５の文書数、Ｎ２２は前記第６の文書数、Ｎ２３は前記第７の文書数、Ｎ２４は前記第８の文書数である、ことを特徴とする。
【００１２】
本発明に係る辞書登録装置において、前記第２の語と前記性質との関係の度合いを示す第２の情報量基準量「ＡＩＣ（ＤＭ２）」は、
ＭＬＬ＝（Ｎ１１＋Ｎ１３）ｌｏｇ（Ｎ１１＋Ｎ１３）＋（Ｎ１２＋Ｎ１４）ｌｏｇ（Ｎ１２＋Ｎ１４）＋（Ｎ２１＋Ｎ２３）ｌｏｇ（Ｎ２１＋Ｎ２３）＋（Ｎ２２＋Ｎ２４）ｌｏｇ（Ｎ２２＋Ｎ２４）＋（Ｎ１１＋Ｎ１２＋Ｎ２１＋Ｎ２２）ｌｏｇ（Ｎ１１＋Ｎ１２＋Ｎ２１＋Ｎ２２）＋（Ｎ１３＋Ｎ１４＋Ｎ２３＋Ｎ２４）ｌｏｇ（Ｎ１３＋Ｎ１４＋Ｎ２３＋Ｎ２４）−２×ＺｌｏｇＺ、
ＡＩＣ（ＤＭ２）＝−２×ＭＬＬ＋２×４、
なる計算式により算出される、
但し、ｌｏｇの底である１０は省略して表記し、Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４であり、Ｎ１１は前記第１の文書数、Ｎ１２は前記第２の文書数、Ｎ１３は前記第３の文書数、Ｎ１４は前記第４の文書数、Ｎ２１は前記第５の文書数、Ｎ２２は前記第６の文書数、Ｎ２３は前記第７の文書数、Ｎ２４は前記第８の文書数である、ことを特徴とする。
【００１３】
本発明に係る辞書登録装置において、前記第１の語および前記第２の語の組み合わせと前記性質との関係の度合いを示す第３の情報量基準量「ＡＩＣ（ＤＭ１２）」は、
ＭＬＬ＝Ｎ１１ｌｏｇＮ１１＋Ｎ１２ｌｏｇＮ１２＋Ｎ１３ｌｏｇＮ１３＋Ｎ１４ｌｏｇＮ１４＋Ｎ２１ｌｏｇＮ２１＋Ｎ２２ｌｏｇＮ２２＋Ｎ２３ｌｏｇＮ２３＋Ｎ２４ｌｏｇＮ２４−ＺｌｏｇＺ、
ＡＩＣ（ＤＭ１２）＝−２×ＭＬＬ＋２×７、
なる計算式により算出される、
但し、ｌｏｇの底である１０は省略して表記し、Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４であり、Ｎ１１は前記第１の文書数、Ｎ１２は前記第２の文書数、Ｎ１３は前記第３の文書数、Ｎ１４は前記第４の文書数、Ｎ２１は前記第５の文書数、Ｎ２２は前記第６の文書数、Ｎ２３は前記第７の文書数、Ｎ２４は前記第８の文書数である、ことを特徴とする。
【００１４】
本発明に係る辞書登録装置においては、単語の正規化処理を行う正規化処理部を備えたことを特徴とする。
本発明に係る辞書登録装置においては、文書から単語を抽出する形態素解析部を備えたことを特徴とする。
【００１５】
本発明に係る文書ラベル判定システムは、前述のいずれかの辞書登録装置と、前記辞書登録装置によって選択された登録語が特定の性質を表すラベルに対応付けて格納される辞書データベースと、前記辞書データベースを用いて入力文書に対応するラベルを判定するラベル判定装置と、を備えたことを特徴とする。
【００１６】
本発明に係る辞書登録プログラムは、特定の性質に関係する正解文書の集合と、当該性質に関係しない不正解文書の集合とが記憶される電子文書記憶部と、前記性質に関係する文書を判定するための辞書登録候補である第１の語と第２の語とが入力される入力部と、を有するコンピュータに、前記第１の語と前記第２の語との組み合わせ毎に、前記第１の語と前記第２の語との双方が含まれる前記正解文書の数である第１の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記正解文書の数である第２の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記正解文書の数である第３の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記正解文書の数である第４の文書数と、前記第１の語と前記第２の語との双方が含まれる前記不正解文書の数である第５の文書数と、前記第１の語が含まれ前記第２の語が含まれない前記不正解文書の数である第６の文書数と、前記第１の語が含まれず前記第２の語が含まれる前記不正解文書の数である第７の文書数と、前記第１の語と前記第２の語とのいずれもが含まれない前記不正解文書の数である第８の文書数とを算出するステップと、前記算出された前記第１から前記第８の文書数に基づいて、前記第１の語と前記性質との関係の度合いを示す第１の情報量基準量と、前記第２の語と前記性質との関係の度合いを示す第２の情報量基準量と、前記第１の語および前記第２の語の組み合わせと前記性質との関係の度合いを示す第３の情報量基準量とを算出するステップと、前記算出された前記情報量基準量を比較して、前記第１の語と、前記第２の語と、前記第１の語および前記第２の語の組み合わせとのうち、前記性質に関係する度合いが最大であるものを登録語に選択するステップと、を実行させるためのコンピュータプログラムであることを特徴とする。
これにより、前述の辞書登録装置がコンピュータを利用して実現できるようになる。
【発明の効果】
【００１７】
本発明によれば、特定の性質に関係する文書を判定するための辞書登録候補である第１の語と第２の語との組み合わせに関し、第１の語と、第２の語と、第１の語および第２の語の組み合わせとを同じ尺度で評価し、特定の性質に関係する度合いが最大であるものを辞書データベースに登録することができる。これにより、単語および単語の組み合わせを混在させた辞書データベースを生成することができる。この結果、電子文書中に出現する単語のうち、その内容を特徴的に表し、特定の性質に関連する単語または単語の組み合わせを、その電子文書中に出現する他の単語との関連性を考慮して検出することができるという格別の効果が得られる。
【図面の簡単な説明】
【００１８】
【図１】本発明の一実施形態による文書ラベル判定システムのシステム構成を示す図である。
【図２】同実施形態に係る２×２分割表の概念を示す図である。
【図３】同実施形態に係る２×４分割表の概念を示す図である。
【図４】同実施形態による文書ラベル判定システムの動作例を示すフローチャートである。
【発明を実施するための形態】
【００１９】
以下、本発明の一実施形態について、図面を参照して説明する。
図１は、本実施形態による文書ラベル判定システムのシステム構成を示す図である。図１において、文書ラベル判定システムは、辞書データベース３００と、ラベル判定装置２００と、辞書登録装置１００とを備えている。
【００２０】
辞書データベース３００は、辞書データが記憶される記憶装置である。辞書データは、定められた単語等のラベルと、そのラベルに関連性の高い複数の索引語とが対応付けられた情報である。例えば、ラベルが「経済」であれば、その索引語として「財務省」、「為替」、「相場」、「動向」、「ドル」・・・などの単語が対応付けられる。辞書データは、「政治」、「スポーツ」などのトピックを示すそれぞれのラベルに対応付けられた複数の索引語を含むこととして良い。さらに、「スポーツ」のなかでも「サッカー」、「野球」などに階層化されたトピックをラベルとして索引語が対応付けられた辞書データを含むこととしても良い。また、辞書データには、例えば「有害」のラベルに、１８歳未満には適切でないと思われる単語を索引語として対応付けたものを含んでも良い。辞書データベース３００に記憶される辞書データは、ラベル判定装置２００が電子文書のラベル判定処理を行う際に読み出される。辞書データベース３００は、独立したコンピュータ装置を適用しても良いし、ラベル判定装置２００にインストールされたデータベースアプリケーションなどを適用しても良い。
【００２１】
ラベル判定装置２００は、辞書データベース３００に記憶されている辞書データを読み出し、読み出した辞書データと、入力される電子文書とを比較、解析して電子文書に対応するラベルを判定するコンピュータ装置である。ここで、入力される電子文書とは、例えば、ブログ等のテキストベースのウェブコンテンツや、ワープロソフトなどによって生成される文書ファイルなどのテキストデータである。ラベル判定装置２００は、ラベル判定対象となる電子文書の入力を受付け、辞書データベース３００から読み出した辞書データに含まれるラベル毎に、そのラベルに対応する索引語に一致する単語が電子文書に含まれるか否かを判定し、その電子文書が任意のラベルに該当するか否かを判定するラベル判定処理を行う。例えば、ラベル判定装置２００は、辞書データのラベルに対応する単語を、判定対象とする電子文書に含まれるテキストデータのうちから定められた閾値を超えて検出した場合には、そのラベルをその電子文書のラベルと判定する。また、例えば、ラベル判定装置２００は、ひとつの電子文書が複数のラベルに該当するか否かをそれぞれに判定し、ひとつの電子文書に該当する複数のラベルを割り当てるようにしても良い。
【００２２】
辞書登録装置１００は、ラベル判定装置２００がラベル判定を行った電子文書とそのラベルに基づいて、そのラベルに対応する最適な索引語を再帰的に算出し、辞書データベース３００に記憶される辞書データを更新して記憶させるコンピュータ装置である。すなわち、辞書データベース３００に記憶された辞書データが、初期状態ではラベルに対して例えばユーザによって任意に定められた索引語の群が対応付けられたものであるとしても、その辞書データによりラベルに対応すると判定された電子文書から、最適な索引語を再帰的に検出して辞書データを生成することにより、例えば時事的に重要単語が変化するウェブ上のブログサイトやニュースサイトに対しても、その変化に合わせた最適なラベルを判定するための辞書データを生成することが可能となる。
【００２３】
辞書登録装置１００は、電子文書記憶部１１０と、正規化処理部１２０と、形態素解析部１３０と、形態素解析用辞書記憶部１４０と、単語分布算出部１５０と、単語分布表記憶部１６０と、索引語スコア算出部１７０と、文書数算出部１７５と、入力部１７６と、情報量基準量算出部１７７と、登録語選択部１７８と、辞書登録部１８０とを備えている。
【００２４】
電子文書記憶部１１０には、特定の性質に関係する正解文書の集合と、性質に関係しない不正解文書の集合とが記憶される。具体的には、電子文書記憶部１１０には、ラベル判定装置２００によりラベル判定が行われた電子文書と、その電子文書が特定のラベルに該当すると判定されたか否かを示すラベル判定結果が対応付けられて記憶される。ここで、電子文書記憶部１１０に記憶される電子文書には、その電子文書がブログデータである場合には、ブログ記事のテキスト本文、絵文字、ＨＴＭＬ（HyperText Markup Language）タグなどが含まれるが、画像データは含まれない。
【００２５】
正規化処理部１２０は、電子文書記憶部１１０に記憶されているラベル判定済みの電子文書とラベル判定結果とを入力とし、電子文書に含まれる文章、単語の正規化処理を行って正規化済電子文書を出力する。正規化処理部１２０が行う正規化処理は、例えば、以下の処理を含む。まず、ハイフン、マイナス記号、長音記号などの類似する記号を、定められたルールセットに従って正規化する。ここでは、例えばこれら全てをハイフンに変換することにより正規化する。また、半角文字を全て全角文字に変換する。また、タブ文字を全て空白文字に変換する。また、絵文字を特定の文字記号（例えば、０ｘＡ２Ａ２）に変換する。また、電子文書がブログ記事等のウェブデータである場合には、ウェブデータからＨＴＭＬタグを取り除く。また、日本語の小文字は大文字に変換する。ここでは、例えば、小文字である「ィ」を大文字の「イ」に変換する。ただし、後述する形態素解析用辞書記憶部１４０に記憶される単語で、形態素解析用辞書記憶部１４０には小文字が含まれる状態で記憶されている場合には、小文字から大文字への変換は行わない。また、ここでは、英文字の小文字は小文字のままとし、大文字へは変換しない。
【００２６】
形態素解析部１３０は、正規化処理部１２０により出力される正規化済電子文書と、その電子文書に対するラベル判定結果と、形態素解析用辞書記憶部１４０から読み出す形態素解析用辞書とを入力とし、正規化済電子文書の形態素解析処理を行って、ドキュメントベクトルテーブルを出力する。ここで、ドキュメントベクトルテーブルとは、例えば、電子文書に「私の名前は中村です」というテキストが含まれる場合に、これらを形態素解析し、「私」、「の」、「名前」、「は」、「中村」、「です」、などのように、テキストデータを形態素（意味のある最小単位）に分割し、またそれぞれの品詞を判定して品詞情報が対応付けられたデータである。
【００２７】
単語分布算出部１５０は、形態素解析部１３０による形態素解析処理で生成されるドキュメントベクトルテーブルに基づいて、単語分布表を生成して出力する。単語分布表は、形態素解析部１３０によってテキストデータが形態素に分割されたドキュメントベクトルテーブルから、例えば助詞や助動詞などの特定の品詞を取り除き、索引語の対象とする名詞等の単語のみを抽出した単語リストのそれぞれの単語に、電子文書中での出現頻度を示す度数が対応付けられた表である。ここで、単語分布算出部１５０は、電子文書から抽出した単語の正規化処理を行う。例えば、英単語の正規化処理を行い、英単語の小文字を大文字へ変換する。また、カタカナ単語の表記揺れの変換を行い、例えば、「タイヤモンド」なとの単語があれば、「ダイヤモンド」の文字データに変換する。このように、形態素解析処理の後に単語レベルでの正規化処理を行うことにより、例えば「西日本」などの表記がある場合、この語が「西日本」の一単語であるか、「西日」と「本」との二単語により構成される語であるのかを的確に検出することができる。
【００２８】
ここで、単語分布算出部１５０は、複数の電子文書に対してひとつの単語分布表を生成することとし、正規化後の文字列が単語分布表に含まれていなければ、その正規化済み単語を単語分布表に新たに追加する。単語分布算出部１５０が生成する単語分布表において、正規化済み単語のそれぞれに対応付けられる出現頻度の度数の計算方式には、特定の単語が同一の電子文書中に出現した回数に応じて度数を加算する方式（ｔｆ：ｔｅｒｍ  ｆｒｅｑｕｅｎｃｙ）と、同一の電子文書中に出現した回数に関わらず、特定の単語がひとつの電子文書中に出現したか否かにより度数を算出する方式（ｄｆ：ｄｏｃｕｍｅｎｔ  ｆｒｅｑｕｅｎｃｙ）とのいずれかを適用することができる。本実施形態では、複数の電子文書中のそれぞれに単語が出現したか否かにより度数を算出するｄｆの方式を適用する。単語分布算出部１５０は、生成した単語分布表を単語分布表記憶部１６０に記憶させる。
単語分布表記憶部１６０には、単語分布算出部１５０により生成される単語分布表が記憶される。単語分布表は、上述したように、索引語の候補となる単語ごとに、その単語の電子文書中での出現頻度を示す度数が対応付けられたデータ表である。
【００２９】
索引語スコア算出部１７０は、電子文書記憶部１１０に記憶されるラベル判定結果と、単語分布表記憶部１６０に記憶される単語分布表とに基づいて、単語分布表に含まれる各単語のスコアを算出する。索引語スコア算出部１７０は、ＳＳＳ算出部１７１と、ＭＳＳ算出部１７２と、ＭＤＳ算出部１７３と、ＳＤＳ算出部１７４とを備えている。
【００３０】
ＳＳＳ算出部１７１は、電子文書記憶部１１０に記憶されるラベル判定結果と、単語分布表記憶部１６０に記憶される単語分布表とを読み出し、電子文書中に特定の単語ｗが含まれるか否かについての２×２分割表を生成し、生成した２×２分割表に基づいたシングルスタティックスコアの単語リストＳＳＳ（Ｗ）を算出する。
【００３１】
図２は、ＳＳＳ算出部１７１が生成する２×２分割表の概念を示す図である。ここでは、ラベル判定装置２００により特定のラベル（以下、対象ラベルと称する）についてラベル判定対象となった全ての電子文書の数をＮＡＬＬとし、ＮＡＬＬのうち対象ラベルに該当すると判定された電子文書の数をＮＯＫとし、ＮＡＬＬのうち対象ラベルに該当しないと判定された電子文書の数をＮＮＧとする。また、単語分布表に含まれる全ての単語の集合を単語集合Ｗとし、単語集合Ｗに含まれるそれぞれの単語をｗとする。ここで、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語ｗが含まれる文書の数をａとする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語ｗが含まれる文書の数をｃとする。また、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語ｗが含まれない文書の数をｂとする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語ｗが含まれない文書の数をｄとする。
【００３２】
このとき、以下の式が成り立つ。
・ａ＋ｃ＝ｄｆ（ｗ）（ＮＡＬＬのうち、単語ｗを含む文書の数）
・ｂ＋ｄ＝ＮＡＬＬ−ｄｆ（ｗ）
・ａ＋ｂ＝ＮＯＫ
・ａ＋ｄ＝ＮＮＧ
以下の説明において、ａ＋ｃを、ｑと表す。また、ａ＋ｂを、ｒと表す。また、ａ＋ｃ＋ｂ＋ｄを、ｚと表す。
【００３３】
ＳＳＳ算出部１７１は、生成した２×２分割表に基づいて、以下式（１）により、因果関係有りと仮定した場合の対数尤度値ＭＬＬ１を求め、情報量基準量であるＡＩＣ（ＤＭ）値を算出する。以下、ｌｏｇの底である１０は省略して表記する。
【００３４】
ＭＬＬ１＝ａｌｏｇａ＋ｃｌｏｇｃ＋ｂｌｏｇｂ＋ｄｌｏｇｄ−ｚｌｏｇｚ
ＡＩＣ（ＤＭ）＝−２×ＭＬＬ１＋２×３
（但し、０ｌｏｇ０＝０とする）
・・・（１）
【００３５】
さらに、以下式（２）により、因果関係無しと仮定した場合の対数尤度値ＭＬＬ２を求め、情報量基準量であるＡＩＣ（ＩＭ）値を算出する。
【００３６】
ＭＬＬ２＝ｑｌｏｇｑ＋ｒｌｏｇｒ＋（ｚ−ｑ）ｌｏｇ（ｚ−ｑ）＋（ｚ−ｒ）ｌｏｇ（ｚ−ｒ）−２ｚｌｏｇｚ
ＡＩＣ（ＩＭ）＝−２×ＭＬＬ２＋２×２
（但し、０ｌｏｇ０＝０とする）
・・・（２）
【００３７】
ここで、上記式（１）と式（２）とによって算出されたＡＩＣ（ＩＭ）値とＡＩＣ（ＤＭ）値とに基づいて、単語重要度Ｅ（ｗ）を以下式（３）または以下式（４）により算出する。
【００３８】
ａ／（ａ＋ｃ）＞ｂ／（ｂ＋ｄ）のとき、
Ｅ（ｗ）＝ＡＩＣ（ＩＭ）−ＡＩＣ（ＤＭ）
・・・（３）
【００３９】
ａ／（ａ＋ｃ）＜ｂ／（ｂ＋ｄ）のとき、
Ｅ（ｗ）＝ＡＩＣ（ＤＭ）−ＡＩＣ（ＩＭ）
・・・（４）
【００４０】
そして、単語集合Ｗに含まれる全ての単語ｗについての単語重要度Ｅ（ｗ）を算出した後、単語重要度Ｅ（ｗ）の値を降順に並べ替えた単語リストＳＳＳ（Ｗ）を生成する。このとき、単語リストＳＳＳ（Ｗ）の単語ｗの並びは、ｗ１、ｗ２、・・・ｗＮＡＬＬとなり、ｉ番目の単語ｗｉに対するシングルスタティックスコアｓｓｓ（ｗｉ）はＥ（ｗｉ）となる。このようにして、ｓｓｓ（ｗｉ）を降順に並べた単語リストＳＳＳ（Ｗ）を生成する。
【００４１】
ＳＤＳ算出部１７４は、ＳＳＳ算出部１７１が算出した単語リストＳＳＳ（Ｗ）と、単語集合Ｗに含まれるそれぞれの単語ｗｉに対応する２×２分割表とを入力として、単語集合Ｗに含まれるそれぞれの単語ｗｉについてのシングルダイナミックスコアｓｄｓ（ｗｉ）の単語リストＳＤＳ（Ｗ）を算出する。ここで、ＳＳＳ算出部１７１によってシングルススタティックスコアｓｓｓ（ｗｉ）が降順に並べられた単語リストであるＳＳＳ（Ｗ）を、集合Ｃ（Ｃ＝｛ｗ１、ｗ２、・・・ｗＮＡＬＬ｝）とする。また、単語集合Ｗに含まれるそれぞれの単語ｗｉをｓｄｓ（ｗｉ）の値により降順に並べる単語の集合をＬとする。初期状態では、Ｌ＝｛｝（空集合）である。
【００４２】
ＳＤＳ算出部１７４は、集合Ｃの中から、ｓｓｓ（ｗｉ）が最大となるｗｉを求める。そして、Ｃからｗｉを除き（Ｃ＝Ｃ−｛ｗｉ｝）、ｓｓｓ（ｗｉ）を仮のｓｄｓ（ｗｉ）とする（ｓｄｓ（ｗｉ）＝ｓｓｓ（ｗｉ））。ここで、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語ｗｉと他の任意の単語ｗｊとが含まれる文書の数をｎ１１（ｉｊ）とする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語ｗｉと他の任意の単語ｗｊとが含まれる文書の数をｎ１２（ｉｊ）とする。また、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語ｗｉと他の任意の単語ｗｊとが含まれない文書の数をｎ２１（ｉｊ）とする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語ｗｉと他の任意の単語ｗｊとが含まれない文書の数をｎ２２（ｉｊ）とする。そして、Ｃのうちの他の単語ｗｊについて、ＳＳＳ算出部１７１が生成した２×２分割表の各値ａ，ｂ，ｃ，ｄを、以下のように更新する。
【００４３】
・ａ＝ａ−ｎ１１（ｉｊ）
・ｃ＝ｃ−ｎ１２（ｉｊ）
・ｂ＝ｂ−ｎ２１（ｉｊ）
・ｄ＝ｄ−ｎ２２（ｉｊ）
【００４４】
そして、単語ｗｊについての２×２分割表から、上記式（１）、上記式（２）、上記式（３）、上記式（４）に倣って単語重要度Ｅ（ｗｊ）を算出する。ＳＤＳ算出部１７４は、Ｃに含まれる単語のうち、単語重要度Ｅ（ｗｊ）の値が最も大きくなるｗｊを求め、単語重要度Ｅ（ｗｊ）を、ｓｄｓ（ｗｊ）として集合Ｌに追加する（Ｌ＝Ｌ＋｛ｗｊ｝）。
ＳＤＳ算出部１７４は、集合Ｃが空集合になるまで、集合Ｃの中からｓｓｓ（ｗｉ）が最大となるｗｉを求める処理から、最もｓｄｓ（ｗｊ）の値が大きくなるｗｊを集合Ｌに追加するまでの処理を繰り返す。これにより、ｓｄｓ（ｗ）を降順に並べた単語リストＳＤＳ（Ｗ）を求めることができる。この単語リストＳＤＳ（Ｗ）は、全ての単語ｗについて、その単語ｗより上位の単語の影響を除いた状態でのスコア順に並べられたリストとなる。
【００４５】
ＭＳＳ算出部１７２は、ＳＳＳ算出部１７１が算出したＳＳＳ（Ｗ）と、単語集合Ｗに含まれるそれぞれの単語ｗｉに対応する２×２分割表とを入力として、単語集合Ｗに含まれるそれぞれの単語ｗｉについてのマルチスタティックスコアの単語リストＭＳＳ（Ｗ）を算出する。ここで、単語集合Ｗに含まれる任意の単語の組み合わせωの集合をＧとする。初期状態では、Ｇ＝｛｝（空集合）である。また、Ｇに追加した組み合わせωの数を示す変数をｕとする。初期状態では、ｕ＝０である。
【００４６】
ＭＳＳ算出部１７２は、単語集合Ｗのうち、ｓｓｓ（ｗｉ）が最も大きい単語ｗｉを求める。また、単語ｗｉ以外に、シングルスタティックスコアが大きいｍ個の単語ｗ１〜ｗｍを求める（ｍは、定められた任意の数）。そして、単語ｗｉと単語ｗｊ（１≦ｊ≦ｍ）との組み合わせωｊに対する、それぞれの２×２分割表を算出する。ここでは、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語ｗｉと単語ｗｊとの組み合わせωｊが含まれる文書の数をａ（ωｊ）とする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語ｗｉと単語ｗｊとの組み合わせωｊが含まれる文書の数をｃ（ωｊ）とする。また、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語ｗｉと単語ｗｊとの組み合わせωｊが含まれない文書の数をｂ（ωｊ）とする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語ｗｉと単語ｗｊとの組み合わせωｊが含まれない文書の数をｄ（ωｊ）とする。
【００４７】
このとき、以下の式が成り立つ。
・ａ（ωｊ）＋ｃ（ωｊ）＝ｄｆ（ωｊ）（ＮＡＬＬのうち、組み合わせωｊを含む文書の数）
・ｂ（ωｊ）＋ｄ（ωｊ）＝ＮＡＬＬ−ｄｆ（ωｊ）
・ａ（ωｊ）＋ｂ（ωｊ）＝ＮＯＫ
・ａ（ωｊ）＋ｄ（ωｊ）＝ＮＮＧ
【００４８】
ここで、単語ｗｉごとに繰り返して組み合わせωｊについての２×２分割表を算出する処理中に、既にｗｉとｗｊとの組み合わせωｊに対する２×２分割表についての算出を行っている場合には、再算出しない。このように同一の組み合わせについて重複して２×２分割表を算出しないようにすれば、演算量を減らすことができる。そして、上記式（１）、上記式（２）、上記式（３）、上記式（４）に倣って算出する重要度Ｅ（ωｊ）を、ＭＳＳ（ωｊ）とし、単語ｗｉと単語ｗｊ（１≦ｊ≦ｍ）の組み合わせωｊのうち、最もＭＳＳ（ωｊ）の値が大きくなるωｊを求める。ここで、ωｊを、組み合わせ集合Ｇに追加する（Ｇ＝Ｇ＋｛ωｊ｝）。また、変数ｕをインクリメントする（ｕ＝ｕ＋１）。ここで、単語ｗｉを除く単語集合Ｗに含まれる単語ｗｋのうち、ｓｓｓ（ｗｋ）が最も大きい単語ｗｋを、重要度判定対象の単語ｗｉとして、単語ｗｉ以外にシングルスタティックスコアｓｓｓ（ｗｊ）が大きいｍ個の単語ｗ１〜ｗｍを求める処理から、最もＭＳＳ（ωｊ）の値が大きくなる単語の組み合わせを求めて組み合わせ集合Ｇに追加する処理を繰り返す。これにより、ｍｓｓ（ｗ）をスコアの降順に並べた単語リストＭＳＳ（Ｗ）を求めることができる。
【００４９】
ＭＤＳ算出部１７３は、ＭＳＳ算出部１７２が算出した単語リストＭＳＳ（Ｗ）と、Ｗに含まれる単語ｗｉと単語ｗｊとの組み合わせωｊに対する２×２分割表とを入力として、単語集合Ｗに含まれるそれぞれの単語ｗｉと他の単語との組み合わせωｉについてのマルチダイナミックスコアｍｄｓ（ωｉ）の単語リストＭＤＳ（Ｗ）を算出する。ここで、ＭＳＳ算出部１７２によってマルチスタティックスコアｓｓｓ（ｗｉ）が降順に並べられた単語リストであるＭＳＳ（Ｗ）を、集合Ｃ（Ｃ＝｛ω１、ω２、・・・ωＮＡＬＬ｝）とする。また、単語の組み合わせωについてのｍｄｓ（ωｉ）の値により降順に並べる単語の集合をＬとする。初期状態では、Ｌ＝｛｝（空集合）である。
【００５０】
ＭＤＳ算出部１７３は、集合Ｃの中から、ｍｄｓ（ωｉ）が最大となるωｉを求める。そして、Ｃからωｉを除き（Ｃ＝Ｃ−｛ωｉ｝）、ｍｓｓ（ωｉ）を仮のｍｄｓ（ωｉ）とする（ｍｄｓ（ωｉ）＝ｍｓｓ（ωｉ））。ここで、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語の組み合わせωｉと他の任意の単語の組み合わせωｊとが含まれる文書の数をｎ１１（ｉｊ）とする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語の組み合わせωｉと他の任意の単語の組み合わせωｊとが含まれる文書の数をｎ１２（ｉｊ）とする。また、対象ラベルに該当すると判定されたＮＯＫ個の電子文書のうち、単語の組み合わせωｉと他の任意の単語の組み合わせωｊとが含まれない文書の数をｎ２１（ｉｊ）とする。また、対象ラベルに該当しないと判定されたＮＮＧ個の電子文書のうち、単語の組み合わせωｉと他の任意の単語の組み合わせωｊとが含まれない文書の数をｎ２２（ｉｊ）とする。そして、Ｃのうちの他の単語の組み合わせωｊについて、ＭＳＳ算出部１７２が生成した２×２分割表の各値ａ（ωｊ），ｂ（ωｊ），ｃ（ωｊ），ｄ（ωｊ）を、以下のように更新する。
【００５１】
・ａ（ωｊ）＝ａ（ωｊ）−ｎ１１（ｉｊ）
・ｃ（ωｊ）＝ｃ（ωｊ）−ｎ１２（ｉｊ）
・ｂ（ωｊ）＝ｂ（ωｊ）−ｎ２１（ｉｊ）
・ｄ（ωｊ）＝ｄ（ωｊ）−ｎ２２（ｉｊ）
【００５２】
そして、更新した単語の組み合わせωｊについての２×２分割表から、上記式（１）、上記式（２）、上記式（３）、上記式（４）に倣って単語重要度Ｅ（ωｊ）を算出する。ＳＤＳ算出部１７４は、Ｃに含まれる単語の組み合わせのうち、単語重要度Ｅ（ωｊ）の値が最も大きくなるｗｊを求め、単語重要度Ｅ（ωｊ）を、ｍｄｓ（ωｊ）として集合Ｌに追加する（Ｌ＝Ｌ＋｛ωｊ｝）。
【００５３】
ＭＤＳ算出部１７３は、集合Ｃが空集合になるまで、集合Ｃの中からｍｓｓ（ωｉ）が最大となるωｉを求める処理から、最もｍｄｓ（ωｊ）の値が大きくなるωｊを集合Ｌに追加するまでの処理を繰り返す。これにより、ｍｄｓ（ω）を降順に並べた単語リストＭＤＳ（Ｗ）を求めることができる。この単語リストＭＤＳ（Ｗ）は、全ての単語の組み合わせωについて、その単語の組み合わせωより上位の単語の影響を除いた状態でのスコア順に並べられたリストとなる。
【００５４】
文書数算出部１７５は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせ毎に、２×４分割表を生成し、第１から第８の文書数Ｎ１１，Ｎ１２，Ｎ１３，Ｎ１４，Ｎ２１，Ｎ２２，Ｎ２３，Ｎ２４を算出する。
【００５５】
図３は、文書数算出部１７５が生成する２×４分割表の概念を示す図である。図３において、対象ラベルについてラベル判定対象となった全ての電子文書の数をＮＡＬＬとし、ＮＡＬＬのうち対象ラベルに該当すると判定された電子文書（正解文書）の数をＮＯＫとし、ＮＡＬＬのうち対象ラベルに該当しないと判定された電子文書（不正解文書）の数をＮＮＧとする。このとき、第１から第８の文書数Ｎ１１，Ｎ１２，Ｎ１３，Ｎ１４，Ｎ２１，Ｎ２２，Ｎ２３，Ｎ２４は、以下に定義されるものである。
【００５６】
第１の文書数Ｎ１１は、ＮＯＫ個の正解文書のうち、第１の単語ｗ１を含み、且つ、第２の単語ｗ２を含む文書の数である。
第２の文書数Ｎ１２は、ＮＯＫ個の正解文書のうち、第１の単語ｗ１を含み、且つ、第２の単語ｗ２を含まない文書の数である。
第３の文書数Ｎ１３は、ＮＯＫ個の正解文書のうち、第１の単語ｗ１を含まない、且つ、第２の単語ｗ２を含む文書の数である。
第４の文書数Ｎ１４は、ＮＯＫ個の正解文書のうち、第１の単語ｗ１を含まない、且つ、第２の単語ｗ２を含まない文書の数である。
【００５７】
第５の文書数Ｎ２１は、ＮＮＧ個の不正解文書のうち、第１の単語ｗ１を含み、且つ、第２の単語ｗ２を含む文書の数である。
第６の文書数Ｎ２２は、ＮＮＧ個の不正解文書のうち、第１の単語ｗ１を含み、且つ、第２の単語ｗ２を含まない文書の数である。
第７の文書数Ｎ２３は、ＮＮＧ個の不正解文書のうち、第１の単語ｗ１を含まない、且つ、第２の単語ｗ２を含む文書の数である。
第８の文書数Ｎ２４は、ＮＮＧ個の不正解文書のうち、第１の単語ｗ１を含まない、且つ、第２の単語ｗ２を含まない文書の数である。
【００５８】
このとき、以下の関係式が成り立つ。
・Ｎ１２＝「ＮＯＫ個の正解文書のうち、第１の単語ｗ１を含む文書の数ａ（ｗ１）」−Ｎ１１
・Ｎ１３＝「ＮＯＫ個の正解文書のうち、第２の単語ｗ２を含む文書の数ａ（ｗ２）」−Ｎ１１
・Ｎ２２＝「ＮＮＧ個の不正解文書のうち、第１の単語ｗ１を含む文書の数ｃ（ｗ１）」−Ｎ２１
・Ｎ２３＝「ＮＮＧ個の不正解文書のうち、第２の単語ｗ２を含む文書の数ｃ（ｗ２）」−Ｎ２１
・Ｚ＝Ｎ１１＋Ｎ１２＋Ｎ１３＋Ｎ１４＋Ｎ２１＋Ｎ２２＋Ｎ２３＋Ｎ２４
Ｚは全文書の数である。
【００５９】
ａ（ｗ１）は、索引語スコア算出部１７０で生成された、第１の単語ｗ１に係る２×２分割表のａである。ａ（ｗ２）は、索引語スコア算出部１７０で生成された、第２の単語ｗ２に係る２×２分割表のａである。ｃ（ｗ１）は、索引語スコア算出部１７０で生成された、第１の単語ｗ１に係る２×２分割表のｃである。ｃ（ｗ２）は、索引語スコア算出部１７０で生成された、第２の単語ｗ２に係る２×２分割表のｃである。このため、文書数算出部１７５は、索引語スコア算出部１７０から、第１の単語ｗ１に係る２×２分割表のａ，ｃと第２の単語ｗ２に係る２×２分割表のａ，ｃを取得し、上記関係式により文書数Ｎ１２，Ｎ１３，Ｎ２２，Ｎ２３を算出する。これにより、計算量を削減できる。
【００６０】
入力部１７６は、第１の単語ｗ１と第２の単語ｗ２を文書数算出部１７５へ入力する。ここで、第１の単語ｗ１と第２の単語ｗ２の選択方法としては、索引語スコア算出部１７０で算出された、対象ラベルに係る各単語のスコアを利用することができる。例えば、索引語スコア算出部１７０で算出された、シングルスタティックスコアの単語リストＳＳＳ（Ｗ）、シングルダイナミックスコアの単語リストＳＤＳ（Ｗ）、マルチスタティックスコアの単語リストＭＳＳ（Ｗ）及びマルチダイナミックスコアの単語リストＭＤＳ（Ｗ）のうち、いずれかの単語リストに従って、対象ラベルに係る重要単語を所定数だけ選択し、該選択した単語群の中から順次、第１の単語ｗ１と第２の単語ｗ２を選択して文書数算出部１７５へ入力する。
【００６１】
情報量基準量算出部１７７は、文書数算出部１７５によって算出された第１から第８の文書数Ｎ１１，Ｎ１２，Ｎ１３，Ｎ１４，Ｎ２１，Ｎ２２，Ｎ２３，Ｎ２４を用いて、第１から第３の情報量基準量ＡＩＣ（ＤＭ１），ＡＩＣ（ＤＭ２），ＡＩＣ（ＤＭ１２）を算出する。
【００６２】
第１の情報量基準量ＡＩＣ（ＤＭ１）は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、対象ラベルと第１の単語ｗ１との関係の度合いを示す。第１の情報量基準量ＡＩＣ（ＤＭ１）は、式（５）により算出される。なお、以下の式（５），（６），（７）において、ｌｏｇの底である１０は省略して表記している。
【００６３】
ＭＬＬ＝（Ｎ１１＋Ｎ１２）ｌｏｇ（Ｎ１１＋Ｎ１２）＋（Ｎ１３＋Ｎ１４）ｌｏｇ（Ｎ１３＋Ｎ１４）＋（Ｎ２１＋Ｎ２２）ｌｏｇ（Ｎ２１＋Ｎ２２）＋（Ｎ２３＋Ｎ２４）ｌｏｇ（Ｎ２３＋Ｎ２４）＋（Ｎ１１＋Ｎ１３＋Ｎ２１＋Ｎ２３）ｌｏｇ（Ｎ１１＋Ｎ１３＋Ｎ２１＋Ｎ２３）＋（Ｎ１２＋Ｎ１４＋Ｎ２２＋Ｎ２４）ｌｏｇ（Ｎ１２＋Ｎ１４＋Ｎ２２＋Ｎ２４）−２×ＺｌｏｇＺ
ＡＩＣ（ＤＭ１）＝−２×ＭＬＬ＋２×４
・・・（５）
【００６４】
この第１の情報量基準量ＡＩＣ（ＤＭ１）は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、第１の単語ｗ１のみを辞書登録すべきかの尺度として利用することができる。
【００６５】
第２の情報量基準量ＡＩＣ（ＤＭ２）は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、対象ラベルと第２の単語ｗ２との関係の度合いを示す。第２の情報量基準量ＡＩＣ（ＤＭ２）は、式（６）により算出される。
【００６６】
ＭＬＬ＝（Ｎ１１＋Ｎ１３）ｌｏｇ（Ｎ１１＋Ｎ１３）＋（Ｎ１２＋Ｎ１４）ｌｏｇ（Ｎ１２＋Ｎ１４）＋（Ｎ２１＋Ｎ２３）ｌｏｇ（Ｎ２１＋Ｎ２３）＋（Ｎ２２＋Ｎ２４）ｌｏｇ（Ｎ２２＋Ｎ２４）＋（Ｎ１１＋Ｎ１２＋Ｎ２１＋Ｎ２２）ｌｏｇ（Ｎ１１＋Ｎ１２＋Ｎ２１＋Ｎ２２）＋（Ｎ１３＋Ｎ１４＋Ｎ２３＋Ｎ２４）ｌｏｇ（Ｎ１３＋Ｎ１４＋Ｎ２３＋Ｎ２４）−２×ＺｌｏｇＺ
ＡＩＣ（ＤＭ２）＝−２×ＭＬＬ＋２×４
・・・（６）
【００６７】
この第２の情報量基準量ＡＩＣ（ＤＭ２）は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、第２の単語ｗ２のみを辞書登録すべきかの尺度として利用することができる。
【００６８】
第３の情報量基準量ＡＩＣ（ＤＭ１２）は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、対象ラベルと、第１の単語ｗ１および第２の単語ｗ２の組み合わせとの関係の度合いを示す。第３の情報量基準量ＡＩＣ（ＤＭ１２）は、式（７）により算出される。
【００６９】
ＭＬＬ＝Ｎ１１ｌｏｇＮ１１＋Ｎ１２ｌｏｇＮ１２＋Ｎ１３ｌｏｇＮ１３＋Ｎ１４ｌｏｇＮ１４＋Ｎ２１ｌｏｇＮ２１＋Ｎ２２ｌｏｇＮ２２＋Ｎ２３ｌｏｇＮ２３＋Ｎ２４ｌｏｇＮ２４−ＺｌｏｇＺ
ＡＩＣ（ＤＭ１２）＝−２×ＭＬＬ＋２×７
・・・（７）
【００７０】
この第３の情報量基準量ＡＩＣ（ＤＭ１２）は、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、第１の単語ｗ１と第２の単語ｗ２の組み合わせのみを辞書登録すべきかの尺度として利用することができる。
【００７１】
上記式（５），（６），（７）で算出される第１から第３の情報量基準量ＡＩＣ（ＤＭ１），ＡＩＣ（ＤＭ２），ＡＩＣ（ＤＭ１２）は、その値が小さいほど、対象ラベルとの関係の度合いが大きいことを表す。
【００７２】
登録語選択部１７８は、情報量基準量算出部１７７によって算出された第１から第３の情報量基準量ＡＩＣ（ＤＭ１），ＡＩＣ（ＤＭ２），ＡＩＣ（ＤＭ１２）に基づいて、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、第１の単語ｗ１のみを辞書登録すべきか、第２の単語ｗ２のみを辞書登録すべきか、又は、第１の単語ｗ１と第２の単語ｗ２の組み合わせのみを辞書登録すべきか、を判定する。具体的には、第１から第３の情報量基準量ＡＩＣ（ＤＭ１），ＡＩＣ（ＤＭ２），ＡＩＣ（ＤＭ１２）を比較し、この比較の結果、
第１の情報量基準量ＡＩＣ（ＤＭ１）が最小値である場合は第１の単語ｗ１のみを登録語とし、
第２の情報量基準量ＡＩＣ（ＤＭ２）が最小値である場合は第２の単語ｗ２のみを登録語とし、
第３の情報量基準量ＡＩＣ（ＤＭ１２）が最小値である場合は第１の単語ｗ１と第２の単語ｗ２の組み合わせのみを登録語とする。
【００７３】
辞書登録部１８０は、対象ラベルに関し、登録語選択部１７８によって選択された登録語を辞書データベース３００へ登録する。これにより、該登録語が該対象ラベルに対応付けて辞書データベース３００に格納される。
【００７４】
次に、図４を参照して、本実施形態に係る辞書登録装置１００が、ラベル判定結果に基づいて辞書データベース３００に記憶された辞書データを更新する動作例を説明する。
ラベル判定装置２００は、例えば、インターネットを介して取得し記憶した複数のテキストベースのウェブコンテンツを、ラベル判定対象の電子文書として読み出す。そして、ラベル判定装置２００は、辞書データベース３００から読み出した辞書データに含まれるラベルに対応する一定数以上の単語が、ラベル判定対象のウェブコンテンツに含まれるか否かを判定し、そのラベルにそのウェブコンテンツが該当するか否かを判定する。ラベル判定装置２００は、ラベル判定処理を行ったウェブコンテンツと、その判定結果を示す情報とを、電子文書記憶部１１０に記憶させる。
【００７５】
正規化処理部１２０は、電子文書記憶部１１０に記憶されているラベル判定済みのウェブコンテンツとラベル判定結果とを読み出し（ステップＳ１）、ウェブコンテンツの正規化処理を行う（ステップＳ２）。形態素解析部１３０は、ステップＳ２でウェブコンテンツが正規化された電子文書と、形態素解析用辞書記憶部１４０から読み出す形態素解析用辞書とに基づいて、正規化済電子文書の形態素解析処理を行い、ドキュメントベクトルテーブルを生成する（ステップＳ３）。
【００７６】
単語分布算出部１５０は、ステップＳ３で形態素解析部１３０により生成されたドキュメントベクトルテーブルに基づいて、単語分布表を生成する（ステップＳ４）。ここで、辞書登録装置１００は、電子文書記憶部１１０に単語分布表の更新の対象としていないウェブコンテンツと判定結果とが電子文書記憶部１１０に存在すれば（ステップＳ５：ＹＥＳ）、ステップＳ１からステップＳ４までの処理を繰り返す。
【００７７】
単語分布算出部１５０が、電子文書記憶部１１０に記憶されたウェブコンテンツと判定結果との全てに基づいて、単語分布表の更新を行った場合には（ステップＳ５：ＮＯ）、索引語スコア算出部１７０のＳＳＳ算出部１７１は、上述したＳＳＳ算出処理を行う。ＳＤＳ算出部１７４は、ＳＳＳ算出部１７１が算出したＳＳＳ（Ｗ）に基づいて、ＳＤＳ算出処理を行い、各単語のＳＤＳを求めた単語リストＳＤＳ（Ｗ）を算出する（ステップＳ７）。一方、ＭＳＳ算出部１７２は、ＳＳＳ算出部１７１が算出したＳＳＳ（Ｗ）に基づいて、ＭＳＳ算出処理を行い、各単語のＭＳＳを求めた単語リストＭＳＳ（Ｗ）を算出する（ステップＳ８）。そして、ＭＤＳ算出部１７３は、ＭＳＳ算出部１７２が算出したＭＳＳ（Ｗ）に基づいて、ＭＤＳ算出処理を行い、各単語のＭＤＳを求めた単語リストＭＤＳ（Ｗ）を算出する（ステップＳ９）。
【００７８】
次いで、ステップＳ１０では、まず、文書数算出部１７５が、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせ毎に、第１から第８の文書数Ｎ１１，Ｎ１２，Ｎ１３，Ｎ１４，Ｎ２１，Ｎ２２，Ｎ２３，Ｎ２４を算出する。そして、情報量基準量算出部１７７が、文書数算出部１７５によって算出された第１から第８の文書数Ｎ１１，Ｎ１２，Ｎ１３，Ｎ１４，Ｎ２１，Ｎ２２，Ｎ２３，Ｎ２４を用いて、第１から第３の情報量基準量ＡＩＣ（ＤＭ１），ＡＩＣ（ＤＭ２），ＡＩＣ（ＤＭ１２）を算出する。
【００７９】
次いで、ステップＳ１１では、登録語選択部１７８が、情報量基準量算出部１７７によって算出された第１から第３の情報量基準量ＡＩＣ（ＤＭ１），ＡＩＣ（ＤＭ２），ＡＩＣ（ＤＭ１２）に基づいて、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、第１の単語ｗ１と、第２の単語ｗ２と、第１の単語ｗ１および第２の単語ｗ２の組み合わせとのうち、対象ラベルに関係する度合いが最大であるものを登録語に選択する。
【００８０】
次いで、ステップＳ１２では、辞書登録部１８０が、対象ラベルに関し、登録語選択部１７８によって選択された登録語を辞書データベース３００に辞書データとして記憶させる。
【００８１】
このように、本実施形態によれば、対象ラベルに該当する文書を判定するための辞書登録候補である第１の単語ｗ１と第２の単語ｗ２との組み合わせに関し、第１の単語ｗ１と、第２の単語ｗ２と、第１の単語ｗ１および第２の単語ｗ２の組み合わせとを同じ尺度で評価し、対象ラベルに関係する度合いが最大であるものを辞書データベース３００に登録することができる。これにより、単語および単語の組み合わせを混在させた辞書データベースを生成することができる。この結果、以下に示す効果が得られる。
【００８２】
入力文書のトピック判定を行う際に、スコア付き単語（uni-gram）のみによって構成された辞書データベースを使用する場合、特定のトピックに該当する文書の取り逃しは少なくなるが、過剰検出が多くなる。一方、スコア付き単語の組み合わせ（bi-gram）のみによって構成された辞書データベースを使用する場合には、過剰検出は少なくなるが、取り逃しが多くなる。しかし、本実施形態によれば、スコア付き単語およびスコア付き単語の組み合わせを同一の辞書データベース内に混在させて利用することができるので、入力文書のトピック判定を行う際に、過剰検出および取り逃しを共に減らすことができるようになる。
【００８３】
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
例えば、上述の実施形態では、第１の単語ｗ１と第２の単語ｗ２との組み合わせを辞書登録候補としたが、本発明は、辞書登録候補として３つ以上の単語の組み合わせに対しても同様に適用可能である。
【００８４】
また、図４に示す各ステップを実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、辞書登録処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、フラッシュメモリ等の書き込み可能な不揮発性メモリ、ＤＶＤ（Digital Versatile Disk）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【００８５】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（例えばＤＲＡＭ（Dynamic Random Access Memory））のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。
【符号の説明】
【００８６】
１００…辞書登録装置、２００…ラベル判定装置、３００…辞書データベース、１１０…電子文書記憶部、１２０…正規化処理部、１３０…形態素解析部、１４０…形態素解析用辞書記憶部、１５０…単語分布算出部、１６０…単語分布表記憶部、１７０…索引語スコア算出部、１７１…ＳＳＳ算出部、１７２…ＭＳＳ算出部、１７３…ＭＤＳ算出部、１７４…ＳＤＳ算出部、１７５…文書数算出部、１７６…入力部、１７７…情報量基準量算出部、１７８…登録語選択部、１８０…辞書登録部
【図１】
2011081626.tif 000003
【図２】
2011081626.tif 000004
【図３】
2011081626.tif 000005
【図４】
2011081626.tif 000006