(57)【要約】【課題】学習データが意味的に類似するクラスを含む場合、及びそうでないクラスを含む場合のいずれであっても、語句のクラスを正しく分類可能な抽出ルールを学習し得る、語句抽出ルール生成装置、語句抽出ルール生成方法、及びプログラムを提供する。【解決手段】語句抽出ルール生成装置２は、特徴量とクラス情報とを含む学習データから、特定のクラスの語句を抽出するための語句抽出ルールを生成する装置である。語句抽出ルール生成装置２は、特徴量の種類と、特徴量の種類別に付与されている特徴量の重みとによって予め設定された各クラスの定義を用いて、学習データの特徴空間を変換する特徴空間変換部２０と、特徴空間変換部２０によって特徴空間が変換された学習データから語句抽出ルールを学習する、抽出ルール学習部２１とを備えている。【選択図】図１
2010250755.tif 000002
【特許請求の範囲】
【請求項１】
特徴量とクラス情報とを含む学習データから、特定のクラスの語句を抽出するための語句抽出ルールを生成する語句抽出ルール生成装置であって、
前記特徴量の種類と、前記特徴量の種類別に付与されている前記特徴量の重みとによって予め設定された各クラスの定義を用いて、前記学習データの特徴空間を変換する特徴空間変換部と、
前記特徴空間変換部によって前記特徴空間が変換された学習データから前記語句抽出ルールを学習する、抽出ルール学習部と、
を備えたことを特徴とする語句抽出ルール生成装置。
【請求項２】
前記学習データが、前記特徴量として、予め値が付与されている複数の単語情報を有し、
前記特徴量の種類が、前記複数の単語情報それぞれ毎に設定され、
前記特徴量の重みが、前記複数の単語情報それぞれ毎に設定された前記種類それぞれに対して設定され、
前記各クラスの定義が、正例となるクラスと、対応する負例となるクラスとを特定する情報を含み、
前記特徴空間変換部が、前記学習データの前記特徴量が有する前記複数の単語情報それぞれの値を、前記各クラスの定義を用いて変更し、これによって前記特徴空間を変換し、
前記抽出ルール学習部が、学習した前記語句抽出ルールと、前記各クラスの定義とを１組のデータとして出力する、請求項１に記載の語句抽出ルール生成装置。
【請求項３】
前記特徴量が、抽出対象語句が特定の文書に出現した箇所から得られる文脈特徴量と、抽出対象語句内から得られる語句内特徴量と、抽出対象語句と同一文書に存在する単語の情報である大域的特徴量とのうちいずれか一つ以上を含み、
前記特徴量の種類には、前記文脈特徴量の種類と、前記語句内特徴量の種類と、前記大域的特徴量の種類とのうちいずれか一つ以上が含まれている、請求項２に記載の語句抽出ルール生成装置。
【請求項４】
前記学習データの特徴量と前記特徴量の種類とに従って、前記クラスの定義毎に、前記特徴量の重みを推定する、重み推定部を、更に備えている請求項２または３に記載の語句抽出ルール生成装置。
【請求項５】
前記重み推定部が、前記クラスの定義毎に、前記種類それぞれに対して設定される前記重みの和が一定条件を満たしている制約下において、前記重みそれぞれの値を変更しながら交差検定を実施し、これにより、前記語句抽出ルールの性能を最も高くする、前記重みそれぞれの値を特定し、特定された値を有する重みを前記特徴量の重みと推定する、
請求項４に記載の語句抽出ルール生成装置。
【請求項６】
前記重み推定部が、前記語句抽出ルールの性能として、前記語句抽出ルールを用いて、前記特定のクラスの語句の抽出を行った場合の、適合率、再現率、及びＦ値のいずれか１つ以上を用いる、請求項５に記載の語句抽出ルール生成装置。
【請求項７】
上記請求項１から６に記載のいずれかの語句抽出ルール生成装置と、
前記語句抽出ルール生成装置によって生成された語句抽出ルール及び前記各クラスの定義を用いて、特定のクラスの語句を抽出する抽出装置と、
を備えている、ことを特徴とする語句抽出システム。
【請求項８】
特徴量とクラス情報とを含む学習データからの、特定のクラスの語句の抽出に利用され
る、語句抽出ルールを生成するための方法であって、
（ａ）前記特徴量の種類と、前記特徴量の種類別に付与されている前記特徴量の重みとによって予め設定された各クラスの定義を用いて、前記学習データの特徴空間を変換する、ステップと、
（ｂ）前記（ａ）のステップによって前記特徴空間が変換された学習データから前記語句抽出ルールを学習する、ステップと、を有することを特徴とする語句抽出ルール生成方法。
【請求項９】
前記学習データが、前記特徴量として、予め値が付与されている複数の単語情報を有し、
前記特徴量の種類が、前記複数の単語情報それぞれ毎に設定され、
前記特徴量の重みが、前記複数の単語情報それぞれ毎に設定された前記種類それぞれに対して設定され、
前記各クラスの定義が、正例となるクラスと、対応する負例となるクラスとを特定する情報を含む、場合において、
前記（ａ）のステップで、前記学習データの前記特徴量が有する前記複数の単語情報それぞれの値を、前記各クラスの定義を用いて変更し、これによって前記特徴空間を変換し、
前記（ｂ）のステップで、前記語句抽出ルールの学習後に、学習した前記語句抽出ルールと、前記各クラスの定義とを１組のデータとして出力する、請求項８に記載の語句抽出ルール生成方法。
【請求項１０】
前記特徴量が、抽出対象語句が特定の文書に出現した箇所から得られる文脈特徴量と、抽出対象語句内から得られる語句内特徴量と、抽出対象語句と同一文書に存在する単語の情報である大域的特徴量とのうちいずれか一つ以上を含み、
前記特徴量の種類には、前記文脈特徴量の種類と、前記語句内特徴量の種類と、前記大域的特徴量の種類とのうちいずれか一つ以上が含まれている、請求項９に記載の語句抽出ルール生成方法。
【請求項１１】
（ｃ）前記学習データの特徴量と前記特徴量の種類とに従って、前記クラスの定義毎に、前記特徴量の重みを推定する、ステップを、更に有する請求項９または１０に記載の語句抽出ルール生成方法。
【請求項１２】
前記（ｃ）のステップにおいて、前記クラスの定義毎に、前記種類それぞれに対して設定される前記重みの和が一定条件を満たしている制約下において、前記重みそれぞれの値を変更しながら交差検定を実施し、これにより、前記語句抽出ルールの性能を最も高くする、前記重みそれぞれの値を特定し、特定された値を有する重みを前記特徴量の重みと推定する、請求項１１に記載の語句抽出ルール生成方法。
【請求項１３】
前記（ｃ）のステップにおいて、前記語句抽出ルールの性能として、前記語句抽出ルールを用いて、前記特定のクラスの語句の抽出を行った場合の、適合率、再現率、及びＦ値のいずれか１つ以上を用いる、請求項１２に記載の語句抽出ルール生成方法。
【請求項１４】
コンピュータによって、特徴量とクラス情報とを含む学習データからの、特定のクラスの語句の抽出に利用される、語句抽出ルールを生成するためのプログラムであって、
前記コンピュータに、
（ａ）前記特徴量の種類と、前記特徴量の種類別に付与されている前記特徴量の重みとによって予め設定された各クラスの定義を用いて、前記学習データの特徴空間を変換する、ステップと、
（ｂ）前記（ａ）のステップによって前記特徴空間が変換された学習データから前記語句
抽出ルールを学習する、ステップと、を実行させることを特徴とするプログラム。
【請求項１５】
前記学習データが、前記特徴量として、予め値が付与されている複数の単語情報を有し、
前記特徴量の種類が、前記複数の単語情報それぞれ毎に設定され、
前記特徴量の重みが、前記複数の単語情報それぞれ毎に設定された前記種類それぞれに対して設定され、
前記各クラスの定義が、正例となるクラスと、対応する負例となるクラスとを特定する情報を含む、場合において、
前記（ａ）のステップで、前記学習データの前記特徴量が有する前記複数の単語情報それぞれの値を、前記各クラスの定義を用いて変更し、これによって前記特徴空間を変換し、
前記（ｂ）のステップで、前記語句抽出ルールの学習後に、学習した前記語句抽出ルールと、前記各クラスの定義とを１組のデータとして出力する、請求項１４に記載のプログラム。
【請求項１６】
前記特徴量が、抽出対象語句が特定の文書に出現した箇所から得られる文脈特徴量と、抽出対象語句内から得られる語句内特徴量と、抽出対象語句と同一文書に存在する単語の情報である大域的特徴量とのうちいずれか一つ以上を含み、
前記特徴量の種類には、前記文脈特徴量の種類と、前記語句内特徴量の種類と、前記大域的特徴量の種類とのうちいずれか一つ以上が含まれている、請求項１５に記載のプログラム。
【請求項１７】
（ｃ）前記学習データの特徴量と前記特徴量の種類とに従って、前記クラスの定義毎に、前記特徴量の重みを推定する、ステップを、前記コンピュータに、更に実行させる請求項１５または１６に記載のプログラム。
【請求項１８】
前記（ｃ）のステップにおいて、前記クラスの定義毎に、前記種類それぞれに対して設定される前記重みの和が一定条件を満たしている制約下において、前記重みそれぞれの値を変更しながら交差検定を実施し、これにより、前記語句抽出ルールの性能を最も高くする、前記重みそれぞれの値を特定し、特定された値を有する重みを前記特徴量の重みと推定する、請求項１７に記載のプログラム。
【請求項１９】
前記（ｃ）のステップにおいて、前記語句抽出ルールの性能として、前記語句抽出ルールを用いて、前記特定のクラスの語句の抽出を行った場合の、適合率、再現率、及びＦ値のいずれか１つ以上を用いる、請求項１８に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、テキスト中から特定の種類の語句を抽出するための語句抽出ルールを生成する、語句抽出ルール生成装置、語句抽出ルール生成方法、及びこれらを実現するためのプログラムに関する。
【背景技術】
【０００２】
近年、大量のテキスト情報の有効活用が期待されている。テキスト情報の有効活用には、テキスト中に存在する特定の種類（以下「クラス」とする。）の語句を認識する技術が重要である。例えば，テキスト中には人名、地名、組織名、動物名など、特定の意味を持った固有の表現が存在する。固有表現には、上記の名詞の他、「よい」「悪い」といった評価を表現する形容詞も含まれる。
【０００３】
これら固有表現のクラスを認識することは、質問応答システム、文書分類システム、機械翻訳システムなど、テキスト情報を活用するシステムにおいて有用である。例えば、質問応答システムに固有表現の認識機能が付加されていたとする。この場合、質問応答システムは、「日本の総理大臣は誰ですか？」という質問に対して、人名の固有表現を認識して、対応する人名を返答できるので、認識機能の付加により、応答の精度が向上することは想像に難くない。
【０００４】
そして、従来からの固有表現の認識（語句抽出）では、語句内情報と、文脈情報とを用いて、目的のクラスの語句を抽出するための語句抽出ルールの学習が行われる。語句内情報としては、語句を構成する単語の表層文字列、原形、品詞などの情報が挙げられる。また、文脈情報としては、前後に存在する幾つかの単語や、係り先の文節の語など、語句と文法的に関係する周辺の語の情報が挙げられる。なお、以降において、語句抽出ルールの学習に用いる情報をまとめて「特徴量」と呼ぶ。
【０００５】
例えば、特許文献１及び非特許文献１は、語句抽出ルールの学習技術を開示している。特許文献１及び非特許文献１に開示の技術では、アノテーション情報が付与された語句を含むテキストを用いて、抽出したい語句のクラスを正例、その他のクラスを負例として、テキスト内の語句を正例又は負例のいずれかに分類する抽出ルール又は関数が学習される。アノテーション情報には、上記の特徴量が含まれている。そして、学習された抽出ルールを用いれば、未知のテキストデータに含まれる固有表現のクラスの分類が可能となる。
【０００６】
更に、上記非特許文献に開示の技術では、学習時間の短縮を図るため、学習データにおいて、意味的に近いクラスを抽象化した親クラスが作成されて、意味的な階層構造が構築される。具体的には、意味的な階層構造を構築するため、上層から下層へと、親クラスに属する語の抽出と、親クラスとして抽出された語の子クラスへの分類とが行われ、更に、得られた子クラスを今度は親クラスとして、抽出及び分類が行われる。このような処理は、末端のクラスに至るまで繰り返し行われる。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００４−９４４３４号公報
【非特許文献】
【０００８】
【非特許文献１】新納浩幸、関根聡著、「拡張固有表現タガーの作成とその問題点の考察」言語処理学会第１２回年次大会、２００６年、ｐｐ．１０５−１０８
【発明の概要】
【発明が解決しようとする課題】
【０００９】
しかしながら、上記の特許文献１に開示されている語句抽出ルールの学習技術には、学習データが類似するクラスを含む場合と、そうでないクラスを含む場合とで、学習された抽出ルールの分類性能が、異なってしまうという問題がある。以下、この問題点について説明する。
【００１０】
先ず、意味的に類似するクラスとしては、例えば「政治家」、「芸能人」、及び「その他人名」等が挙げられる。そして、クラスが意味的に類似する語句間では、アノテーション情報である語句内情報や文脈情報も類似し、特徴量の異なる部分は、語句内の表層文字列のみとなる。従って、学習データが類似するクラスを含む場合では、語句抽出ルールは、学習データに含まれる正例だけを抽出するルールとなってしまうため、上記の問題が発生してしまう。
【００１１】
また、非特許文献１に開示にされている語句抽出ルールの学習技術でも、子クラスへの分類は、親クラスの分類の場合と同じ特徴量を用いて行われる。このため、非特許文献１に開示の学習技術を用いた場合であっても、結局、意味的に類似するクラス間の分類時には同様の問題が起こる。
【００１２】
なお、上記の問題を解決する手法として、アノテーション情報に、大域的な特徴量（文書内で共起する単語の情報など）を追加して、特徴量を増やすことも考えられる。しかし、単純に情報を増やすだけでは、分類の手がかりとして本質的でない情報も増えてしまう。この場合、語句内情報及び文脈情報が異なり、従来でも分類が容易であったクラス間に対する分類性能までもが悪化してしまう。
【００１３】
本発明の目的は、上記問題を解消し、学習データが意味的に類似するクラスを含む場合、及びそうでないクラスを含む場合のいずれであっても、語句のクラスを正しく分類可能な抽出ルールを学習し得る、語句抽出ルール生成装置、語句抽出ルール生成方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【００１４】
上記目的を達成するため、本発明における語句抽出ルール生成装置は、特徴量とクラス情報とを含む学習データから、特定のクラスの語句を抽出するための語句抽出ルールを生成する語句抽出ルール生成装置であって、
前記特徴量の種類と、前記特徴量の種類別に付与されている前記特徴量の重みとによって予め設定された各クラスの定義を用いて、前記学習データの特徴空間を変換する特徴空間変換部と、
前記特徴空間変換部によって前記特徴空間が変換された学習データから前記語句抽出ルールを学習する、抽出ルール学習部と、
を備えたことを特徴とする。
【００１５】
上記目的を達成するため、本発明における語句抽出システムは、上記本発明における語句抽出ルール生成装置と、
前記語句抽出ルール生成装置によって生成された語句抽出ルール及び前記各クラスの定義を用いて、特定のクラスの語句を抽出する抽出装置と、
を備えている、ことを特徴とする。
【００１６】
また、上記目的を達成するため、本発明における語句抽出ルール生成方法は、特徴量と
クラス情報とを含む学習データからの、特定のクラスの語句の抽出に利用される、語句抽出ルールを生成するための方法であって、
（ａ）前記特徴量の種類と、前記特徴量の種類別に付与されている前記特徴量の重みとによって予め設定された各クラスの定義を用いて、前記学習データの特徴空間を変換する、ステップと、
（ｂ）前記（ａ）のステップによって前記特徴空間が変換された学習データから前記語句抽出ルールを学習する、ステップと、を有することを特徴とする。
【００１７】
更に、上記目的を達成するため、本発明におけるプログラムは、コンピュータによって、特徴量とクラス情報とを含む学習データからの、特定のクラスの語句の抽出に利用される、語句抽出ルールを生成するためのプログラムであって、
前記コンピュータに、
（ａ）前記特徴量の種類と、前記特徴量の種類別に付与されている前記特徴量の重みとによって予め設定された各クラスの定義を用いて、前記学習データの特徴空間を変換する、ステップと、
（ｂ）前記（ａ）のステップによって前記特徴空間が変換された学習データから前記語句抽出ルールを学習する、ステップと、を実行させることを特徴とする。
【発明の効果】
【００１８】
以上の特徴により、本発明における、語句抽出ルール生成装置、語句抽出ルール生成方法、及びプログラムによれば、学習データが意味的に類似するクラスを含む場合、及びそうでないクラスを含む場合のいずれであっても、語句のクラスを正しく分類可能な抽出ルールを学習できる。
【図面の簡単な説明】
【００１９】
【図１】図１は、本発明の実施の形態１における語句抽出ルール生成装置の概略構成を示すブロック図である。
【図２】図２は、本発明の実施の形態１における語句抽出ルール生成装置の動作を示す流れ図である。
【図３】図３は、図１に示す学習データ記憶部に記憶されている学習データの具体例を示す図である。
【図４】図４は、図１に示す学習データ記憶部に記憶されている定義データを示す図であって、図４（ａ）は特徴量種別定義テーブルの具体例を示し、図４（ｂ）は重み定義テーブルの具体例を示している。
【図５】図５は、本発明の実施の形態２における語句抽出ルール生成装置の概略構成を示すブロック図である。
【図６】図６は、本発明の実施の形態２における語句抽出ルール生成装置の動作を示す流れ図である。
【図７】図７は、本発明の実施の形態における語句抽出システムの概略構成を示すブロック図である。
【図８】図８は、本発明の実施の形態１または２におけるプログラムを実行可能なコンピュータを示すブロック図である。
【発明を実施するための形態】
【００２０】
（実施の形態１）
以下、本発明の実施の形態１における語句抽出ルール生成装置及び語句抽出ルール生成方法について、図１〜図４を参照しながら説明する。最初に、本実施の形態１における語句抽出ルール生成装置の構成について図１を用いて説明する。図１は、本発明の実施の形態１における語句抽出ルール生成装置の概略構成を示すブロック図である。
【００２１】
図１に示す本実施の形態１における語句抽出ルール生成装置２は、特徴量とクラス情報とを含む学習データから、特定のクラスの語句を抽出するための語句抽出ルールを生成する装置である。図１に示すように、語句抽出ルール生成装置２は、特徴空間変換部２０と、抽出ルール学習部２１とを備えている。
【００２２】
特徴空間変換部２０は、特徴量の種類と、特徴量の種類別に付与されている特徴量の重みとによって予め設定された各クラスの定義を用いて、学習データの特徴空間を変換する。また、抽出ルール学習部２１は、特徴空間変換部２０によって特徴空間が変換された学習データから語句抽出ルールを学習する。
【００２３】
このように、語句抽出ルール生成装置２では、特徴量の種類毎に付与された重みを用いて、学習データの特徴空間が変換される。これにより、学習データが類似するクラスを含んでいても、類似するクラス間での特徴量の違いは、語句内の表層文字列以外でも生じ、明確化される。よって、語句抽出ルール生成装置２によれば、学習データが意味的に類似するクラスを含む場合、及びそうでないクラスを含む場合のいずれであっても、語句のクラスを正しく分類可能な抽出ルールを学習できる。
【００２４】
ここで、語句抽出ルール生成装置２の構成について更に具体的に説明する。本実施の形態１では、語句抽出ルール生成装置２は、正解コーパス、特徴量の種類別の重み定義、及び学習された抽出ルールを記憶する記憶装置１と共に、語句抽出ルール生成システム３を構成している。記憶装置１は、学習データを記憶する学習データ記憶部１０と、特徴量の種類別の重みを記憶する重み記憶部１１と、抽出ルールを記憶する抽出ルール記憶部１２とを備えている。
【００２５】
また、後述するように、語句抽出ルール生成装置２は、コンピュータによって実現でき、プログラム制御により動作する。更に、記憶装置１は、語句抽出ルール生成装置２を実現するコンピュータが備える記憶装置によって、又はこのコンピュータとネットワークを介して接続された別のコンピュータ等の記憶装置によって実現できる。
【００２６】
学習データ記憶部１０は、特徴量とクラスラベルとを有する学習データを記憶している。本実施の形態１において、特徴量は、抽出対象語句が特定の文書に出現した箇所から得られる文脈特徴量と、抽出対象語句内から得られる語句内特徴量と、抽出対象語句と同一文書に存在する単語の情報である大域的特徴量とのうちいずれか一つ以上を含んでいる。
【００２７】
例えば、「土田は＜日本電気：組織名＞に勤務している」の「日本電気」の学習データは、特徴量として複数の単語情報を有し、更に、クラスラベル「組織名」を有している。具体的には、学習データ「日本電気」は、１つ前の単語（BACK_1_WORD）である「は」、２つ前の単語（BACK_2_WORD）である「土田」、１つ後ろの単語（NEXT_1_WORD）である「に」、２つ後ろの単語（NEXT_2_WORD）である「勤務」、及び自分自身の単語（SELF_WORD）である「日本電気」を単語情報として有している。後述するように、各単語情報には予め値が付与されている。
【００２８】
上述の単語情報のうち、１つ前の単語（BACK_1_WORD）、２つ前の単語（BACK_2_WORD）、１つ後ろの単語（NEXT_1_WORD）、２つ前の単語（BACK_2_WORD）等は、文脈特徴量に相当する。また、自分自身の単語（SELF_WORD）は、語句内特徴量に相当する。
【００２９】
また、本実施の形態１において、学習データは、クラスの階層構造に従った分類、つまり、親クラスから子クラスへの分類の繰り返しが行われることを目的に生成されたものであっても良い。例えば、生成された語句抽出ルールに対して、「地名」、「組織名」、「芸能人」、「政治家」及び「その他人名」の語句を抽出可能であることが、求められてい
るとする。この場合、学習データは、一先ず、「地名」、「組織名」、「人名」及び「非対象語句」で分類されていれば良い。そして、「人名」と分類された語句を「芸能人」、「政治家」及び「その他人名」に分類することは、語句抽出ルールの生成の問題と捉えれば良い。このように、本実施の形態では、学習データは、正例が１つのクラスに限定されたものである要はない。学習データにおいては、正例と、それに対応する負例とは、一つのクラスの集合として表されていれば良い。
【００３０】
重み記憶部１１は、特徴量の種類と、特徴量の種類別に付与されている特徴量の重みとによって予め設定された各クラスの定義を記憶している。具体的には、重み記憶部１１は、学習データの特徴空間の変換で利用される、特徴量の種類と各種類の重みとで構成された定義データ（重み定義）を記憶している（図４（ａ）、（ｂ）参照）。また、定義データは、正例となるクラスとそれに対応する負例となるクラスとのグループ毎に、設定されている。
【００３１】
また、特徴量の種類には、文脈特徴量の種類と、語句内特徴量の種類と、大域的特徴量の種類とのうちいずれか一つ以上が含まれている。言い換えると、特徴量の種類としては、特徴量を構成する単語情報の種類であって、文脈情報、語句内情報、大域的特徴量といったものが挙げられる。本実施の形態１では、例えば、分類対象の語句の１つ前の単語の特徴量である「BACK_1_WORD」の種類が、文脈情報である「CONTEXT」と表され、この情報が重み記憶部１１に記憶される。また、分類対象の語句内の単語の特徴量である「SELF_WORD」の種類が、語句内情報である「CONTENT」と表され、この情報が重み記憶部１１に記憶される。更に、分類対象の語句と同一記事の特徴語である「TOPIC_WORD」の種類が、大域的特徴量である「GLOBAL」と表され、この情報が重み記憶部１１に記憶される。
【００３２】
また、本実施の形態１では、特徴量は階層的に定義されていても良く、この場合は、下層の特徴量の種類を上層の特徴量の種類とみなすことができる。例えば、「BACK_1_WORD」の品詞が「BACK_1_WORD_POS」の場合に、これらの種類を「BACK_1_WORD」の種類である「CONTEXT」と見なすことができ、元の特徴量の種類を継承させることができる。
【００３３】
例えば「日付」は、「Ｙ月Ｘ日」のように、語句内において特徴的な情報である。この場合は、特徴量の重みの設定は、語句内の情報であることを表す「CONTENT」の重みが大きくなるように行われる。具体的には、「POSI=日付，NEGA=(NOT日付)，CONTENT=2，CONTEXT=1」等のように、語句内情報の重みが文脈情報の２倍となる重み設定が行われる。なお、ここで、「POSI」は正例とするクラスを表し、「NEGA」は負例とするクラスを表している。
【００３４】
その他、例えば「人名」として抽出された語句を「政治家」「芸能人」「その他人名」に分類するルールを学習する場合について考える。この場合、特徴量の重み設定としては、「POSI=芸能人，NEGA=（政治家，その他人名），CONTENT=1，CONTEXT=2，GLOBAL=2」と設定することが考えられる。この例では、「芸能人」、「政治家」、及び「その他人名」の分類が、本質的には語句内情報を用いることによっては困難であるため、文脈情報の重み、及び記事の話題を表す大域的な情報の重みが増えるように、特徴量の重みが設定されている。
【００３５】
また、特徴空間変換部２０は、本実施の形態１では、先ず、学習データ記憶部１０と重み記憶部１１とからデータを読み出す。そして、特徴空間変換部２０は、学習データの特徴量とクラスラベルとを参照し、学習データの特徴量が有する複数の単語情報それぞれの値を、各クラスの定義（重み定義）を用いて変更し、これによって特徴空間を変換する。また、特徴空間の変換された学習データは、抽出ルール学習部２１に送られる。なお、特徴空間の変換は、後述するように、学習データのクラスラベルに対応し、且つ特徴量の種
類別に設定された重み定義を参照し、設定された重みを単語情報の設定値に乗算することによって行われる。
【００３６】
抽出ルール学習部２１は、本実施の形態１では、学習した語句抽出ルールと、各クラスの定義とを１組のデータとして出力する。具体的には、抽出ルール学習部２１は、特徴量変換部２０によって特徴空間が変換された学習データを受け取り、任意の学習アルゴリズムで抽出ルールを学習する。そして、抽出ルール学習部２１は、学習した抽出ルールと、特徴量の変換規則である各クラスの定義とを、抽出ルール記憶部１２へと出力する。抽出ルール記憶部１２は、抽出ルール学習部２１が学習した語句抽出ルールと、各クラスの定義とを記憶する。
【００３７】
次に、本発明の実施の形態１における語句抽出ルール生成装置２の動作について図２〜図４を用いて説明する。図２は、本発明の実施の形態１における語句抽出ルール生成装置の動作を示す流れ図である。また、本実施の形態１における語句抽出ルール生成方法は、図１に示した語句抽出ルール生成装置２を動作させることによって実施できる。よって、本実施の形態１における語句抽出ルール生成方法の説明は、以下の語句抽出ルール生成装置２の動作の説明に代える。以下の説明では、適宜図１を参酌する。
【００３８】
また、以下においては、「地名」、「組織名」、「芸能人」、「政治家」、及び「その他人名」の語句の抽出ルールを学習する例を説明する。また、「芸能人」、「政治家」、及び「その他人名」は、まとめて「人名」と見なされる。更に、先ず、「地名」、「組織名」、「人名」、及び「非対象語句」へと分類が行われ、次に「人名」の語句が「芸能人」、「政治家」、及び「その他人名」に分類されるものとする。
【００３９】
図２に示すように、まず、特徴空間変換部２０は、学習データ記憶部１０と重み記憶部１１とのそれぞれからデータを読みだす。具体的には、図３に示す学習データと、図４（ａ）及び（ｂ）に示す定義データとが読み出される。そして、特徴空間変換部２０は、各学習データのクラスに対応する定義データに従って、各特徴量の値にその種類に対応した重みを乗算し、それによって特徴空間を変換する（図２のステップＳ１）。また、特徴空間変換部２０は、特徴空間の変換が行われた学習データと特徴量の種類毎に設定された重みとを抽出ルール学習部２１に渡す。
【００４０】
ここで、学習データの具体例と、定義データの具体例について図３及び図４を用いて説明する。図３は、図１に示す学習データ記憶部に記憶されている学習データの具体例を示す図である。図３を参照すると、学習データは、クラスと特徴量とで構成されている。サブクラスは、あるクラスの下の階層のクラスであることを表している。サブクラスが存在しない場合は「null」と表示されている。
【００４１】
図３に示す特徴量を構成する文字情報において、「*」をワイルドカードとすると、「SELF_NODE_*」は抽出対象表現が含まれる文節内の情報を表している。また、「BACK_[n]_NODE_*」は「SELF_NODE_*」から見た前n個目の文節内の情報を、「NEXT_[n]_NODE」は「SELF_NODE_*」から見た後n個目の文節内の情報を、「DEP_NODE_*」は「SELF_NODE_*」が係る文節内の情報を表している。各特徴量の値、即ち、文字情報の値は、「特徴量名：値」と表現されている。
【００４２】
図４は、図１に示す学習データ記憶部に記憶されている定義データを示す図であって、図４（ａ）は特徴量種別定義テーブルの具体例を示し、図４（ｂ）は重み定義テーブルの具体例を示している。図４（ａ）に示す特徴量種別定義テーブルと、図４（ｂ）に示す重み定義テーブルとは、重み記憶部１１に記憶されている。特徴量種別定義テーブルは、特徴量を構成する複数の単語情報それぞれと、対応する特徴量の種類とを特定している。重
み定義テーブルは、各クラスの定義を表しており、正例となるクラス毎に、それに対応する負例となるクラスと、設定された重みとを特定している。重みは種類別に付与されている。
【００４３】
図４（ｂ）において、「not(クラス名)」は、その（クラス名）に該当するクラス以外のクラスであることを表している。また、図４（ａ）及び（ｂ）の例では、特徴量の種類として、語句内情報であることを示す「CONTENT」、文脈情報であることを示す「CONTEXT」、係り先文節の文節内情報が文脈情報とは別に扱われることを示す「DEP」の３種が定義されている。
【００４４】
例えば、図４（ｂ）に示すように、重み定義テーブルの１行目は、「人名」の抽出ルールを学習するためには、正例を人名、負例を人名以外として、特徴量の種類がCONTENTだったら特徴量の値を２倍に、CONTEXTだったら１倍、DEPだったら0倍にすることを表している。これは、人名の特徴は主に語句内情報に表れると考えた場合の重み設定の例となる。また、重み定義テーブルの４行目は、「芸能人」と「政治家」と「その他人名」とでは語句内情報にはあまり差がないと考え、CONTENTをCONTEXT及びDEPと比べて相対的に低く設定することを表している。
【００４５】
ステップＳ１において、特徴空間変換部２０は、図３及び図４に示したデータを読み出して特徴空間を変換する。例えば、クラスが「地名」の語句を抽出する語句抽出ルールを学習するための学習データの場合は、図３において、３行目の特徴量の「DEP_NODE_*」は、種類がDEPであり、図４で重みが０（ゼロ）と設定されている。よって、「DEP_NODE_*」の値に０（ゼロ）が乗算され、この特徴量は、特徴量としては用いられなくなる。更に、「人名」の語句抽出ルールを学習するための学習データの場合は、「DEP_NODE_*」は無効にされるが、「SELF_NODE_*」の特徴量の値は２倍とされる。これにより、特徴空間内で「SELF_NODE_*」に相当する軸のスケールは、CONTEXTに対して２倍に伸ばされ、「SELF_NODE_*」の特徴量の変化はより鮮明になる。この結果、「SELF_NODE_*」の情報は、語句抽出ルールの学習において、より使用されることとなる。
【００４６】
次に、ステップＳ１の終了後、抽出ルール学習部２１は、特徴空間変換部２０から特徴空間変換後の各学習データと、特徴空間変換用の重み定義とを受け取る。そして、抽出ルール学習部２１は、受け取った各クラスの変換済みの学習データを用いて語句抽出ルールを学習する（図２のステップＳ２）。
【００４７】
また、ステップＳ２では、抽出ルール学習部２１は、その学習結果の抽出ルールと特徴空間変換用の重み定義とを対応させて、抽出ルール記憶部１２に出力し、それに記憶させる。特徴空間変換用の重み定義と抽出ルールとを対応させて記憶させる理由は、実際に未知のテキストから語句を抽出する場合に、上述した特徴空間の変換と同じ変換を行ってから抽出ルールを適用する必要があるためである。
【００４８】
以上のように本実施の形態１では、語句抽出ルール生成装置２は、クラス毎に分類しやすいように特徴空間の変換を行ってから抽出ルールを学習する。つまり、上述したように、学習データが類似するクラスを含んでいても、類似するクラス間での特徴量の違いは、語句内の表層文字列以外でも生じるようになり、明確化される。このため、本実施の形態１によれば、意味的に類似するクラス間でもそうでないクラス間でも、別の特徴空間への変換を行うことによって分類性能（抽出性能）を両立させた抽出ルールを学習することができる。
【００４９】
（実施の形態２）
次に本発明の実施の形態２における、語句抽出ルール生成装置及び語句抽出ルール生成
方法について、図５及び図６を参照しながら説明する。最初に、本実施の形態２における学習データ生成装置の構成について図６を用いて説明する。図５は、本発明の実施の形態２における語句抽出ルール生成装置の概略構成を示すブロック図である。
【００５０】
図５に示すように、本発明の実施の形態２においては、語句抽出ルール生成システム５は、実施の形態１において図１に示した語句抽出ルール生成装置２の代わりに、語句抽出ルール生成装置４を備えている。また、語句抽出ルール生成装置４は、特徴空間変換部２０と抽出ルール学習部２１とに加えて、重み推定部２２を備えている。
【００５１】
重み推定部２２は、学習データの特徴量と特徴量の種類とに従って、クラスの定義毎に、特徴量の重みを推定することができる。具体的には、重み推定部２２は、重み記憶部１１から各特徴量の種類を特定する特徴量種別定義テーブル（図４（ａ）参照）を読みだし、学習データ記憶部１０から学習データを読み出す。そして、重み推定部２２は、学習データ内の各クラスの抽出ルールを学習するための重みを特徴量の種類別に推定し、推定した重みと、特徴量の種類と、学習データの情報とを特徴空間変換部２０に渡す。
【００５２】
なお、本実施の形態２では、重み記憶部１１は、予め、図４（ａ）に示した特徴量種別定義テーブルのみを記憶している。図４（ｂ）に示された重み定義テーブルは、本実施の形態２では、重み推定部２２によって作成される。
【００５３】
重み推定部２２による重みの推定処理としては、種類別に重みの値を少しずつ変更しながら、設定される重み毎に、交差検定を実施し、そして抽出性能（語句抽出ルールの性能）を測定し、抽出性能が最も良い重みの値を推定結果とする処理が考えられる。また、この場合、本実施の形態２では、重みの値の変更は、各特徴量の種類に対して設定される重みの和が一定条件を満たしている制約下で行われる。
【００５４】
更に、本実施の形態２では、抽出性能としては、抽出結果の中の正しさの割合である「適合率」、抽出すべき語句全体の中で実際に抽出できた割合である「再現率」、適合率と再現率との調和平均である「Ｆ値」等、任意の抽出性能を測る尺度を用いることができる。なお、「適合率」、「再現率」、及び「Ｆ値」は、学習された語句抽出ルールを用いて、特定のクラスの語句の抽出を行うことによって得られる値である。
【００５５】
次に、本発明の実施の形態２における語句抽出ルール生成装置４の動作について図６を用いて説明する。図６は、本発明の実施の形態２における語句抽出ルール生成装置の動作を示す流れ図である。また、本実施の形態２における語句抽出ルール生成方法は、図５に示した語句抽出ルール生成装置４を動作させることによって実施できる。よって、本実施の形態２における語句抽出ルール生成方法の説明も、以下の語句抽出ルール生成装置４の動作の説明に代える。以下の説明では、適宜図５を参酌する。なお、本実施の形態２においても、「地名」、「組織名」、「芸能人」、「政治家」、及び「その他人名」の語句の抽出ルールを学習する例を説明する。
【００５６】
図６に示すように、まず、重み推定部２２は、重み記憶部１１から、各特徴量の種類を特定する特徴量種別定義テーブル（図４（ａ）参照）を読みだし、学習データ記憶部１０から学習データを読み出す。そして、重み推定部２２は、学習データと特徴量種別定義テーブルとを用いて、学習データ内の各クラスの抽出ルールを学習するための重みを、各クラスの特徴量の種類別に推定する（図６のステップＳ１１）。
【００５７】
ステップＳ１１において、重み推定部２２は、推定した重みと、特徴量の種類と、学習データの情報とを特徴空間変換部２０に渡す。また、ステップＳ１１では、重みの推定は、各クラスにおいて各特徴量の種類別に付与される重みの総和が１になるという制約の中
で、少しずつ各重みの値を変化させ、学習データを用いた交差検定を行うことによって行われる。また、交差検定の結果、抽出性能が最も良い重みの値が推定結果とされる。
【００５８】
例えば、図４（ｂ）に示した重み定義テーブルを参照して説明すると、クラスが人名の場合であれば、「 CONTEXT + CONTENT + DEP = 1 」が成立する範囲内で、各重みを０．１刻みで組み合わせる。具体的には「 CONTEXT=1 , CONTENT=0 , DEP=0 」、「 CONTEXT = 0.9 , CONTENT=0.1 , DEP=0 」等のように、値を変えながら重みの組み合わせが設定される。そして、各組み合わせを用いた場合の抽出性能が交差検定によって求められる。
【００５９】
ステップＳ１１によって、最適な重みが推定されると、次に、特徴空間変換部２０は、重み推定部２２によって推定された重みを、各特徴量の値に乗算し、それによって特徴空間を変換する（図６のステップＳ１２）。続いて、抽出ルール学習部２１は、特徴空間変換部２０から特徴空間変換後の各学習データと、特徴空間変換用の重み定義とを受け取り、変換済みの学習データを用いて語句抽出ルールを学習する（図６のステップＳ１３）。なお、図６に示すステップＳ１２及びＳ１３は、実施の形態１において図２に示したステップＳ１及びＳ２と同様のステップである。
【００６０】
以上のように本実施の形態２では、語句抽出ルール生成装置４は、各クラスの抽出ルールを学習するための、特徴量の種類別の重みを推定する機能を有している。このため、人手などによって経験的に各クラス用の重みを推定する必要をなくすことができ、語句抽出ルールの分類性能の向上、及び作成コストの低減が促進される。
【００６１】
（語句抽出システム）
次に本発明の実施の形態における語句抽出システムについて、図７を参照しながら説明する。図７は、本発明の実施の形態における語句抽出システムの概略構成を示すブロック図である。
【００６２】
図７に示す語句抽出システム１０６は、実施の形態１及び実施の形態２において説明した語句抽出ルール生成装置を構成要素とするシステムである。図７に示すように、語句抽出システムは、語句抽出ルール生成システム１００と、語句抽出装置１０５と、記憶装置１０４とを備えている。語句抽出ルール生成システム１００は、実施の形態１又は実施の形態２に示した語句抽出ルール生成システムである。
【００６３】
また、図７に示すように、記憶装置１０４は、特徴量データ記憶部１０１と、抽出結果記憶部１０２とを備えている。特徴量データ記憶部１０１は、語句抽出ルールの適用対象となるテキストデータの特徴量データを記憶している。特徴量データ記憶部１０１が記憶する特徴量データは、図３に示された特徴量と同様のものである。抽出結果記憶部１０２は、語句抽出装置１０５によって得られた語句抽出結果を記憶している。
【００６４】
更に、図７に示すように、語句抽出装置１０５は、語句抽出部１０３を備えている。語句抽出部１０３は、まず、語句抽出ルール生成システム１００が備える抽出ルール記憶部１２から、抽出ルールと、この抽出ルールに対応する特徴空間変換用の重み定義とを読み出す。また、語句抽出部１０３は、特徴量データ記憶部１０１から読み出した特徴量を、読み出した重み定義に従って変換する。そして、語句抽出部１０３は、変換された特徴量を用いて、語句の抽出対象となる未知のテキストデータに、抽出ルールを適用し、これにより、特定のクラスの語句を抽出する。
【００６５】
このように、本実施の形態における語句抽出システム１０６では、本発明の語句抽出ルール生成システム（語句抽出ルール生成装置）によって、抽出ルールが学習されている。このため、適用される抽出ルールは、意味的に類似するクラス間でも、そうでないクラス
間でも分類性能（抽出性能）を両立できるので、語句抽出システム１０６によれば、とのようなテキストからも、正確、且つ安定的に語句の抽出を行うことができる。
【００６６】
また、本発明の実施の形態１及び２における語句抽出ルール生成装置及び語句抽出ルール生成方法について説明したが、本発明はコンピュータソフトウェアとしても実現可能である。ここで、実施の形態１及び２におけるプログラムについて説明する。図８は、本発明の実施の形態１または２におけるプログラムを実行可能なコンピュータを示すブロック図である。
【００６７】
図８に示すコンピュータは、本発明による語句抽出ルール生成装置をインプリメントした情報処理システムとして機能する。図８に示すように、コンピュータ（情報処理システム）は、プロセッサ３００と、プログラムメモリ３０１と、記憶媒体３０２と、外部機器に接続されるインターフェイス３０３と、表示データを出力するためのビデオカード３０４とを備えている。記憶媒体３０２としては、ＲＡＭといった各種メモリや、ハードディスク等の磁気記憶媒体を用いることができる。なお、コンピュータには、キーボード等の入力装置３０５と、液晶表示装置等の表示装置３０６とが接続されている。
【００６８】
プログラムメモリ３０１には、実施の形態１または２の語句抽出ルール生成装置で行われる処理ステップを実行するプログラムが格納されており、このプログラムによってプロセッサ３００が動作する。つまり、プログラムメモリ３０１に、例えば、図２に示すステップＳ１及びＳ３を具現化させるプログラムを格納し、このプログラムを実行すれば、実施の形態１における語句抽出ルール生成装置２が実現される。この場合、プロセッサ３００は、特徴空間変換部２０及び抽出ルール学習部２１として機能し、記憶媒体３０２は、記憶装置１として機能する。
【００６９】
また、同様に、プログラムメモリ３０１に、図５に示すステップＳ１１〜Ｓ１３を具現化させるプログラムを格納し、このプログラムを実行すれば、実施の形態２における語句抽出ルール生成装置４が実現される。この場合、プロセッサ３００は、特徴空間変換部２０、抽出ルール学習部２１及び重み推定部２２として機能する。記憶媒体３０２は、この場合も記憶装置１として機能する。なお、実施の形態１及び２において、外部の別のコンピュータの記憶媒体が、記憶装置１として機能していても良い。
【産業上の利用可能性】
【００７０】
以上のように、本発明は、情報検索システムやテキストマイニングシステムなど、テキスト情報の有効利用を目的としたシステムに有効である。本発明は、産業上の利用可能性を有している。
【符号の説明】
【００７１】
１  記憶装置（実施の形態１、２）
２  語句抽出ルール生成装置（実施の形態１）
３  語句抽出ルール生成システム（実施の形態１）
４  語句抽出ルール生成装置（実施の形態２）
５  語句抽出ルール生成システム（実施の形態２）
１０  学習データ記憶部
１１  重み記憶部
１２  抽出ルール記憶部
２０  特徴空間変換部
２１  抽出ルール学習部
２２  重み推定部
１００  語句抽出ルール生成システム
１０１  特徴量データ記憶部
１０２  抽出結果記憶部
１０３  語句抽出部
１０４  記憶装置
１０５  語句抽出装置
【図１】
2010250755.tif 000003
【図２】
2010250755.tif 000004
【図３】
2010250755.tif 000005
【図４】
2010250755.tif 000006
【図５】
2010250755.tif 000007
【図６】
2010250755.tif 000008
【図７】
2010250755.tif 000009
【図８】
2010250755.tif 000010