(57)【要約】【課題】対象語と前後を含む周辺語の特徴と正解タグの関係を学習して未知文書におけるタグ付けを高精度で実現する。【解決手段】学習処理ステップは、タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する。判定処理ステップは、対象語及び周辺語の特徴により学習された複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語の予測タグの判定を繰り返して正解タグを判定する。【選択図】　　　　　図１
2004094434.tif 000002
【特許請求の範囲】
【請求項１】
学習処理装置により、タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理ステップと、
判定処理装置により、前記複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語のタグを判定する判定処理ステップと、
を備えたことを特徴とする言語処理方法。
【請求項２】
請求項１記載の言語処理方法に於いて、前記学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、前記正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
判定器により、前記第１学習ステップで生成された第１学習結果を用いて、前記学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記学習器により、データ再構成ステップで再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、前記判定器により、前記第２学習ステップで生成された第２学習結果を用いて、前記学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ、第２学習ステップ及び前記第２判定ステップを複数回繰り返させて第２学習結果以降の複数の学習結果を生成する学習反復ステップと、
を備えたことを特徴とする言語処理方法。
【請求項３】
請求項１記載の言語処理方法に於いて、前記学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、前記正解文書データを学習器で取り扱う予測タグを含まない形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
データ変換器により、前記正解文書データを予測タグを含む学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び正解タグを予測タグとして含む周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、
を備えたことを特徴とする言語処理方法。
【請求項４】
請求項３記載の言語処理方法に於いて、前記判定処理ステップは、
前記入力装置により、外部からタグ付け対象となる未知文書データを入力する入力ステップと、
前記データ変換器により、前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
前記判定器により、前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
前記データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記判定器により、前記第２学習結果を用いて、前記データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ及び前記第２判定ステップを第２学習結果を用いて複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
出力装置により、前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とする言語処理方法。
【請求項５】
請求項２乃至４のいずれかに記載の言語処理方法に於いて、
前記学習処理ステップおよび判定処理ステップは、前記入力装置により受け取った正解文書データ又は未知文書データを解析して形態素を判定する形態素解析ステップを備え、
前記データ変換ステップは、データ変換器により、前記解析された前記形態素を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とする言語処理方法。
【請求項６】
コンピュータに、
タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理ステップと、
前記複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語のタグを判定する判定処理ステップと、
を実行させることを特徴とするプログラム。
【請求項７】
請求項６記載のプログラムに於いて、前記学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、前記正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
判定器により、前記第１学習ステップで生成された第１学習結果を用いて、前記学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記学習器により、データ再構成ステップで再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、前記判定器により、前記第２学習ステップで生成された第２学習結果を用いて、前記学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ、第２学習ステップ及び前記第２判定ステップを複数回繰り返させて第２学習結果以降の複数の学習結果を生成する学習反復ステップと、
を備えたことを特徴とするプログラム。
【請求項８】
請求項７記載のプログラムに於いて、前記判定処理ステップは、
外部からタグ付け対象となる未知文書データを入力する入力ステップと、
前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第３判定ステップと、
前記第３判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成する第２データ再構成ステップと、
前記第２学習結果を用いて、前記第２データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第４判定ステップと、
前記データ再構成ステップ及び前記第４判定ステップを第２学習結果以降の学習結果に切替ながら複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とするプログラム。
【請求項９】
タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理部と、
前記判定処理装置により、前記複数その両側の周辺語の特徴から各対象語のタグを判定する判定処理部と、
を備えたことを特徴とする言語処理装置。
【請求項１０】
請求項９記載の言語処理装置に於いて、前記学習処理部は、
外部からタグのついた正解文書データを入力する入力装置と、
前記正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換装置と、
前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習器と、判定器により、前記第１学習ステップで生成された学習結果を用いて、前記学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定器と、
データ再構成装置により、前記第１判定器で判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成装置と、
前記データ再構成装置で再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習器と、
前記第２学習器で生成された第２学習結果を用いて、前記学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定器と、
前記データ再構成装置、第２学習器及び前記第２判定器を複数回繰り返させて第２学習結果以降の複数の学習結果を生成する学習反復部と、
を備えたことを特徴とする言語処理装置。
【請求項１１】
請求項１０記載の言語処理装置に於いて、前記判定処理部は、
、外部からタグ付け対象となる未知文書データを入力する入力装置と、
前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換装置と、
前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第３判定器と、
前記データ再構成装置により、前記第３判定器で判定された予測タグを前記学習データの特徴の一部に入れて再構成する第２データ再構成装置と、
前記第２学習結果を用いて、前記第２データ再構成装置で再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第４判定器と、
前記第２データ再構成装置及び前記第４判定器を第２学習結果以降の学習結果に切替ながら複数回繰り返させて未知文書データのタグを判定させる判定反復部と、
前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力装置と、
を備えたことを特徴とする言語処理装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、タグのついた正解文書の学習結果を用いて未知文書のタグ付けを自動的に行う言語処理方法、プログラム及び装置に関し、特に、正解文書における対象語と周辺語の特徴を用いた学習結果により未知文書のタグ付けを行う言語処理方法、プログラム及び装置に関する。
【０００２】
【従来の技術】
近年、文書に含まれる語に、ある指標となるタグを付与するための言語処理の研究開発が広範に行われており、タグ付き文書を用いた機械翻訳、情報検索、質問応答、知識発見などの言語処理を応用したシステムの実用化が期待されている。
【０００３】
従来、タグづけされた正解文書データからルール（学習結果）を学習し、学習したルールを用いて未知文書に自動的にタグを付与する方法は、様々な種類のものが提案されている。例えば、以下の様なものが挙げられる。
【０００４】
（１）　Ｄ．　Ｍ．　Ｂｉｋｅｌ，　Ｓ．　Ｍｉｌｌｅｒ，　Ｒ．Ｓｃｈｗａｒｔｚ　ａｎｄ　Ｒ．　Ｗｅｉｓｈｅｄｅｌ．（１９９７）Ｎｙｍｂｌｅ：Ａ　Ｈｉｇｈ−Ｐｅｒｆｏｒｍａｎｃｅ　Ｌｅａｒｎｉｎｎｇ　Ｎａｍｅ−Ｆｉｎｄｅｒ．　Ｉｎ５ｔｈ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ａｐｐｌｉｅｄ　Ｎａｔｕｒａｌ　Ｌａｎ−ｇｕａｇｅ　Ｐｒｏｃｅｓｓｉｎｇ。ここでは、固有名詞をタグづけの問題として扱い、隠れマルコフモデルの学習によってタグ付けけをしている。
【０００５】
（２）　Ａ．　Ｂｏｒｔｈｗｉｃｋ，　Ｊ．　Ｓｔｅｒｌｉｎｇ，　Ｅ．　Ａｇｉｃ−ｈｔｅｉｎ　ａｎｄ　Ｒ．　Ｇｒｉｓｈｍａｎ．（１９９８）　　Ｅｘｐｌｏｉｔｉ−ｎｇ　Ｄｉｖｅｒｓｅ　Ｋｎｏｗｌｅｄｇｅ　Ｓｏｕｒｅｓ　ｖｉａ　Ｍａｘｉｍ−ｕｍ　Ｅｎｔｒｏｐｙ　ｉｎ　Ｎａｍｅｄ　Ｅｎｔｉｔｙ　Ｒｅｃｏｇｎｉｔｉｏｎ．Ｉｎ　Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　６ｔｈ　Ｗｏｒｋｓｈｏｐ　ｏｎ　Ｖｅｒｙ　Ｌａｒｇｅ　Ｃｏｒｐｏｒａ．ここでは、（１）と同様の問題を、複数システムの出力を特徴とするＭａｘｉｍｕｍ　Ｅｎｔｒｏｐｙ法による学習として扱っている。
【０００６】
（３）　Ｍ．　Ｃｏｌｌｉｎｓ　ａｎｄ　Ｙ．　Ｓｉｎｇｅｒ．（１９９９）
Ｕｎｓｕｐｅｒｖｉｓｅｄ　Ｍｏｄｅｌｓ　ｆｏｒ　Ｎａｍｅｄ　Ｅｎｔｉｔｙ
Ｃｌａｓｓｉｆｉｃａｔｉｏｎ．　Ｉｎ　Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ
Ｊｏｉｎｔ　ＳＩＧＤＡＴ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｅｍｐｉｌｉｃａｌ
Ｍｅｔｈｏｄｓ　ｉｎ　Ｎａｔｕｒａｌ　Ｌａｎｇｕａｇｅ　Ｐｒｏｃｅｓｓｉｎｇ
ａｎｄ　Ｖｅｒｙ　Ｌａｒｇｅ　Ｃｏｒｐｏｒａ．ここでは、タグのついていない生データを用いて精度を向上させる方法をとっている。
【０００７】
これらの方法は、タグの判定を行なうのに、対象となる単語や周辺の単語の表記などの特徴を用いているが、周辺の単語がどの様にタグづけされたかを用いていない。
【０００８】
周辺の単語に付与されたタグは、対象となる単語につけるべきタグの重要な手がかりとなる。例えば「山口」という語にタグづけをする場合、「山口」が人名のタグをとることもあれば、地名のタグをとることもある。もし「山口」の次の語が「太郎」などで、人名のタグが付与されるとわかれば、「山口」は人名だと考えられる。一方、「山口」の前に「山口県」などの単語列があり、これらに地名のタグがつくことがわかれば「山口」に地名のタグがつく手がかりとなる。
【０００９】
【発明が解決しようとする課題】
しかしながら、周辺の単語に付与されたタグは、対象語のタグの判定の重要な手がかりとなるが、未知の文書に対しては、通常、周辺のタグは知り得ないので利用できない。
【００１０】
この問題を解消する手法の１つとして次のものが知られれている。
（４）山田　寛康，工藤　拓，松本　裕治。（２００１）「Ｓｕｐｐｏｒｔ　Ｖｅ−ｃｔｏｒ　Ｍａｃｈｉｎｅｓを用いた日本語固有表現抽出」、情報処理学会自然言語処理研究会１４２−１７。
【００１１】
この日本語固有表現抽出にあっては、周辺のタグを対象語の判定をするための特徴として用いるために、動的素性という方法を用いている。動的素性を用いる方法では、学習時には、周辺のタグとして、対象となる語の左側（または右側）の正解データのタグを利用する。未知の文書に対しては、最左端（または右端）の語に関しては、周辺のタグを利用せず、それ以外の語に関しては、学習器により判定された結果を周辺のタグとして用いる。
【００１２】
この動的素性を用いる方法は有効であることが知られているが、精度の点でまだ不十分である。その原因は、２つあり、いずれも周辺のタグの取り扱い方についてである。
【００１３】
一つは、周辺のタグとして片側のタグしか用いることができない点である。もう一つは、学習時には周辺のタグとして正解データを用いているのに対し、判定時には周辺のタグとして判定した正解か否か不明な予測データを用いており、一貫していないという点である。
【００１４】
本発明は、対象語と前後を含む周辺語の特徴と正解タグの関係を学習して未知文書におけるタグ付けを高精度で実現する言語処理方法、プログラム及び装置を提供することを目的とする。
【００１５】
【課題を解決するための手段】
図１は本発明の原理説明図である。本発明の言語処理方法は、学習処理部１により、タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理ステップと、判定処理部２により、複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語のタグを判定する判定処理ステップとを備えたことを特徴とする。
【００１６】
この学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、その特徴から予測タグを判定する第１学習結果２４−１を生成する第１学習ステップと、
判定器により、第１学習ステップで生成された第１学習結果２４−１を用いて、学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
データ再構成装置により、第１判定ステップで判定された予測タグを学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
学習器により、データ再構成ステップで再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果２４−２を生成する第２学習ステップと、
判定器により、前記第２学習ステップで生成された第２学習結果２４−２を用いて、学習データに含まれる予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
データ再構成ステップ、第２学習ステップ及び前記第２判定ステップを複数回繰り返させて第２学習結果以降の複数の学習結果２４−３〜２４−Ｎを生成する学習反復ステップと、
を備えたことを特徴とする。
【００１７】
このような学習処理ステップで生成された学習結果を用いる判定処理ステップは、
入力装置により、外部からタグ付け対象となる未知文書データを入力する入力ステップと、
データ変換器により、未知文書データを学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
判定器により、第１学習結果２４−１を用いて、テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第３判定ステップと、
データ再構成装置により、第３判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成する第２データ再構成ステップと、
判定器により、前記第２学習結果２４−２を用いて、第２データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第４判定ステップと、
データ再構成ステップ及び第４判定ステップを第２学習結果以降の学習結果２４−３〜２４−Ｎに切替ながら複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
出力装置により、未知文書データを判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とする。
【００１８】
このような本発明の言語処理方法によれば、周辺の予測タグは１回目は全く分からないが、２回目以降で周辺のタグが正解すれば、有用な特徴となる。このため周辺のタグが正解することにより予測タグの精度が上がれば、より精度の高い周辺のタグを特徴として判定が行なえるので、タグ付け精度が向上する。
【００１９】
本発明の別の形態にあっては、正解文書から周辺語の特徴を用いない学習結果と周辺語の特徴を用いた学習結果の２つを生成して未知文書のタグ付けを簡略的に行う。
【００２０】
この場合、学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、正解文書データを学習器で取り扱う予測タグを含まない形式の学習データに変換するデータ変換ステップと、
学習器により、学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
データ変換器により、正解文書データを予測タグを含む学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、学習データに含まれる対象語及び正解タグを予測タグとして含む周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、
を備えたことを特徴とする。
【００２１】
この学習処理ステップで生成された第１学習結果と第２学習結果を用いた未知文書のタグ付けのため、判定処理ステップは、
入力装置により、外部からタグ付け対象となる未知文書データを入力する入力ステップと、
データ変換器により、未知文書データを学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
判定器により、第１学習結果を用いて、テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
データ再構成装置により、第１判定ステップで判定された予測タグを学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
判定器により、第２学習結果を用いて、データ再構成ステップで再構成されたテストデータに含まれる予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
データ再構成ステップ及び第２判定ステップを第２学習結果を用いて複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
出力装置により、未知文書データを判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とする。
【００２２】
この簡易的な言語処理方法にあっては、周辺の予測タグは１回目は全くわからないので、それを使用せず、判定にも予測タグを用いていない学習結果を使用する。２回目以降は、前回に判定された周辺のタグが正しいものであると仮定した学習結果を用いる。これにより周辺のタグが正解することにより予測タグの精度が上がれば、より精度の高い周辺のタグを特徴とした判定が行なえるので、タグ付け精度が向上する。
【００２３】
ここで、学習処理ステップおよび判定処理ステップは、入力装置により受け取った正解文書データ又は未知文書データを解析して形態素を判定する形態素解析ステップを備える。この場合、データ変換ステップは、解析された形態素を含めて正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換する。
【００２４】
このような形態素解析は、処理言語が日本語のように、単語毎にスペースで区切られていない言語のタグ付けに好適である。そのため英語のように、単語がスペースで区切られている言語には、形態素解析は不要である。
【００２５】
また学習処理ステップおよび判定処理ステップは、入力装置により受け取った正解文書データ又は未知文書データを外部のタグ付けシステムに渡してタグ付け結果を取得する外部タグ付けステップを備える。この場合、データ変換ステップは、データ変換器により、タグ付けシステムから取得したタグ付け結果を含めて正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換する。
【００２６】
本発明は、言語処理のためのプログラムを提供する。このプログラムは、コンピュータに、タグのついた正解文書データに含まれる対象語及その両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理ステップと、複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語のタグを判定する判定処理ステップとを実行させる。
【００２７】
本発明は、言語処理装置を提供するものであり、タグのついた正解文書データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理部と、判定処理装置により、複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及び周辺語の特徴から各対象語のタグを判定する判定処理部とを備えたことを特徴とする。
【００２８】
この言語処理のためのプログラム及び言語処理装置の詳細は、言語処理方法の場合と基本的に同じになる。
【００２９】
【発明の実施の形態】
図２は、本発明による言語処理装置の実施形態を示したブロック図である。図２の言語処理装置は、学習処理部としての機能と判定処理部としての機能を備える。即ち、学習処理部としての機能は、タグの付いた正解文書データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する。一方、判定処理部としての機能は、学習処理部により得られた複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及び周辺語の特徴から各対象語のタグを判定する。
【００３０】
図２にあっては、日本語文書を対象とした本発明の言語処理装置における学習処理部としての機能構成をブロックで示している。この学習処理部として機能する言語処理装置は、入出力装置１０、形態素解析装置１１、データ変換器１２、学習器１４、学習制御装置１６、判定器１８、判定制御装置２０、学習結果データベース２２及びデータ再構成装置２６で構成される。
【００３１】
一方、判定処理部として機能する言語処理装置は、図１０に示すように、学習器１４と学習制御装置１６を除いた装置構成を持つことになる。
【００３２】
図２のような本発明による言語処理装置は、例えば図３に示すコンピュータのハードウェア環境により実現される。図３のコンピュータにおいて、ＣＰＵ４００のバス４０１にはＲＡＭ４０２、ハードディスクドコントローラ（ソフト）４０４、フロッピィディスクドライバ（ソフト）４１０、ＣＤ−ＲＯＭドライバ（ソフト）４１４、マウスコントローラ４１８、キーボードコントローラ４２２、ディスプレイコントローラ４２６、通信用ボード４３０が接続される。
【００３３】
ハードディスクコントローラ４０４はハードディスクドライブ４０６を接続し、本発明の言語処理を実行するアプリケーションプログラムをローディングしており、コンピュータの起動時にハードディスクドライブ４０６から必要なプログラムを呼び出して、ＲＡＭ４０２上に展開し、ＣＰＵ４００により実行する。
【００３４】
フロッピィディスクドライバ４１０にはフロッピィディスクドライブ（ハード）４１２が接続され、フロッピィディスク（Ｒ）に対する読み書きができる。ＣＤ−ＲＯＭドライバ４１４に対しては、ＣＤドライブ（ハード）４１６が接続され、ＣＤに記憶されたデータやプログラムを読み込むことができる。
【００３５】
マウスコントローラ４１８はマウス４２０の入力操作をＣＰＵ４００に伝える。キーボードコントローラ４２２はキーボード４２４の入力操作をＣＰＵ４００に伝える。ディスプレイコントローラ４２６は表示部４２８に対して表示を行う。通信用ボード４３０は無線を含む通信回線４３２を使用し、インターネット等のネットワークを介して他のコンピュータやサーバとの間で通信を行う。
【００３６】
ここで図２の構成を持つ本発明の言語処理装置における学習処理部の原理を説明する。いま日本語文書を例にとって文書中の固有名詞を自動的に取り出す方法について考える。対象とする日本語文書データとして「前日に開催された通常国会で日本放送協会会長のＸＸ氏は…」という文書を例にとる。
【００３７】
この文書データは図２の形態素解析装置１１により単語単位に分解されると、例えば図４の文書データ２８のようになる。文書データ２８の中には固有名詞として、固有名２８−１である「通常国会」、組織名２８−２である「日本放送協会」、及び人名２８−３である「ＸＸ」が含まれている。
【００３８】
図４の文書データ２８の文中の固有名詞を取り出すことは、図５のようなタグ付けの問題として定義できる。図５は語３２に正解タグ３４が付された正解文書データ３０を示している。本発明にあっては、未知文書データの語にタグを自動的に付けるため、図５のように語３２に正解タグ３４が付けられた正解文書データ３０を準備し、この正解文書データ３０を用いて学習処理部を行う。
【００３９】
本発明の学習処理は、語３２の特徴と正解タグ３４を対応付けた正解文書データ３０から学習結果（学習ルール）を生成する。生成された学習結果は、語の特徴からタグを予測することができる。
【００４０】
正解文書データ３０は、例えば「放送」という語について見ると、特徴として自分自身及び前後の語と文字数などを使用し、正解タグとして「Ｉ−ＯＲＧ」を指定する。学習処理にあっては、このような正解文書データ３０における対象語及び周辺語の特徴と正解タグの対の集合を用いて特徴からタグを判定することのできる学習結果を生成する。
【００４１】
ここで対象語に対する周辺語のタグを特徴の１つとして用いることができれば、正解データとしての対象語のタグの予測に有効であることが予想される。これは固有名詞を表わすタグが連続して出易いことなどに起因している。例えば図６の未知文書データ３６を例にとると、語３８に対し正解タグ４２が分かっている場合、予測タグ４０は対象語に対する周辺タグの特徴を用いると、その予測が効果的にできる。
【００４２】
例えば語３８における「日本」、「放送」、「協会」は、いずれもタグが「Ｉ−ＯＲＧ」であるが、「協会」のタグが「Ｉ−ＯＲＧ」であることが分かっていれば、その前に位置する「日本」や「放送」のタグが「Ｉ−ＯＲＧ」であるということの重要な手がかりとなる。
【００４３】
しかしながら、本発明の言語処理装置における処理目標が未知のタグを予測することであり、このため図６の未知文書データ３６にあっては正解タグ４２は不明であり、したがって対象語に対する周辺タグは分からない。そこで本発明の言語処理方法にあっては、周辺タグとして正解文書データに基づいて学習処理により付与したタグを使用する。
【００４４】
図７，図８は、図２の本発明の言語処理装置の学習処理部の構成により実行される学習処理の手順を示した説明図である。この図７，図８における学習処理を、図２の装置構成を参照しながら説明すると、次のようになる。
【００４５】
図７において、まず入出力装置１０の入力部としての機能により正解文書データ３０を入力する。この正解文書データ３０は例えば図５に示した内容を持つ。次に、データ変換器１２によりデータ変換４４を行う。このデータ変換は、正解文書データ３０を学習器１４で取り扱うことのできる形式の学習データ４６に変換する。
【００４６】
学習データ４６は、語４８、特徴５０、予測タグ５２、正解タグ５４から構成されている。特徴５０には、この実施形態にあっては「表記」、「語長」、「文字種」、「品詞」の４つが含まれている。予測タグ５２は、初期状態にあっては「？」としている。
【００４７】
次に、学習制御装置１６により制御される学習器１４によって、学習データ４６に含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、特徴から予測タグを判定する学習結果（第１学習結果：分類ルールともいう）２４−１を生成する。
【００４８】
この学習処理６０は、例えば対象語を「放送」とすると、その前後の周辺語「日本」と「協会」について、それぞれの特徴５０と対象語である「放送」のタグ５８である「Ｉ−ＯＲＧ」の対を学習器１４に設定し、特徴データ５６の入力により正解タグ「Ｉ−ＯＲＧ」を得るためのルールを学習結果として生成する。
【００４９】
このような学習処理は、学習データ４６における先頭と最後の語「日本」及び「ＸＸ」を除く２番目から５番目の「放送」、「協会」、「会長」、「の」のそれぞれを対象語として、その周辺語の特徴と正解タグ５４の対を全て用いて繰り返し学習処理を行い、学習結果２４−１を生成する。生成された学習結果２４−１は学習結果データベース２２に格納される。
【００５０】
次に、判定制御装置２０で制御される判定器１８により、学習処理６０で生成された学習結果２４−１を用いて、学習データ４６に含まれる対象語及び周辺語の特徴から各対象語の予測タグ５２を判定する。
【００５１】
図７の判定処理６２は、学習データ４６の２番目の「放送」を対象語とし、その前後の周辺語「日本」と「協会」を含む特徴データ５６を判定器１８に入力し、学習結果２４−１を用いて判定することにより判定データ６４を得ており、この場合、対象語である「放送」の予測タグは「Ｏ」となっている。この判定データ６４における各対象語の予測タグを得るための判定処理６２は、学習データ４６における最初と最後を除く間の全ての対象語について行われ、これによって学習データ４６における予測タグ５２が全て得られる。
【００５２】
続いて、図８のデータ再構成６６をデータ再構成装置２６により行う。このデータ再構成６６は、図７の判定処理６２で判定された予測タグを学習データの予測タグ５２に更新情報として格納して再構成学習データ６８を生成する。
【００５３】
次に、学習器１４により再構成学習データ６８における予測タグ５２を含む対象語及び周辺語の特徴と正解タグ５４の対の集合を用いて、特徴から予測タグを判定する学習結果（第２学習結果）２４−２を生成する。
【００５４】
例えば対象語「放送」を例にとると、その前後の周辺語「日本」と「協会」における特徴データ７０に、図７の判定処理６２で得られた更新済みの予測タグを含めた特徴と対象語「放送」の正解タグ５８である「Ｉ−ＯＲＧ」を用いて学習処理７２を行う。この学習処理７２は、再構成学習データ６８における最初と最後の語を除く２番目から５番目の対象語のそれぞれについて同様に繰り返すことで、第２学習結果としての学習結果２４−２を生成する。
【００５５】
次に、判定器１８により学習処理７２で生成された第２学習結果としての学習結果２４−２を用いて、再構成学習データ６８に含まれる予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する。この例では、判定データ７６として、再構成学習データ６８における対象語「放送」における特徴データ７０とその正解タグ５８である「Ｉ−ＯＲＧ」の対を判定器１８に入力して、学習結果２４−２による予測タグの判定データ７６を示している。この判定処理７４は、再構成学習データ６８における先頭と最後の語を除く２番目から５番目の全てについて同様にして行われる。
【００５６】
判定処理７４が済むと、判定ステップ７８で学習回数ｉの値が予め定めた学習回数より小さいか否か判定し、小さければ再びデータ再構成６６に戻り、判定処理７４で生成された判定データ７６の予測タグを再構成学習データ６８の予測タグ５２に含める更新を行った後、この更新済みの再構成学習データ６８を対象に３回目の学習処理７２を行って、学習結果２４−３を生成する。そして、判定処理７４で学習結果２４−３を使用して再構成学習データ６８から判定データ７６の予測タグを判定する。
【００５７】
このような予測タグによるデータ再構成、再構成学習データに基づく学習処理、学習処理で得られた学習結果による判定処理を、学習回数ｉがＮ回に達するまで繰り返し、これによって学習結果データベース２２には学習結果２４−１〜２４−Ｎが格納され、判定ステップ７８で学習回数がＮ回に達することを判定して学習処理を終了する。
【００５８】
図９は、図７，図８に示した図２の言語処理装置による学習処理のフローチャートであり、このフローチャートが本発明による学習処理プログラムの処理内容を表わしている。
【００５９】
図９において、学習処理は、ステップＳ１で入出力装置１０により正解文書データを入力し、ステップＳ２でデータ変換器により特徴とタグの集合に変換し、予測タグは「？」として１番目の学習データを生成する。
【００６０】
次にステップＳ３で、学習器１４により学習データにおける対象語及び周辺語の特徴と正解タグの対の集合を用いて第１学習結果を生成する。続いてステップＳ４で、判定器１４により第１学習結果を用いて、正解データにおける対象語及び周辺語の特徴から各語のタグを予測する。このステップＳ１〜Ｓ４の処理は図７に対応している。
【００６１】
続いてステップＳ５で、データ再構成装置２６により、ステップＳ４で取得した予測タグを学習データの予測タグと入れ替えて、新たな学習データ即ち再構成学習データを生成する。次にステップＳ６で、学習器１４によりｉ番目の学習データにおける予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて第ｉ学習結果を生成する。この場合、ｉ＝２である。
【００６２】
続いてステップＳ７でｉが予め定めた回数Ｎより小さいか否かチェックし、小さければステップＳ８でｉを１つ増加した後、ステップＳ５からの処理を、ステップＳ７でｉがＮとなるまで繰り返す。このステップＳ５〜Ｓ８の処理が図８に対応している。
【００６３】
図１０は、本発明の言語処理装置において、図２の学習処理部で生成された学習結果データベース２２の学習結果２４−１〜２４−Ｎを用いて未知文書データのタグ付けを自動的に行う判定処理部の構成を示したブロック図である。この判定処理部としての構成は、図２における学習制御部１６と学習器１４の機能を除いた構成で実現される。
【００６４】
図１１，図１２は、図１０の判定処理部による処理手順の説明図であり、図１０の構成に対応して説明すると次のようになる。
【００６５】
図１１において、まず入出力装置１０の入力部の機能を利用して未知文書データ８０を入力する。この未知文書データ８０としては、例えば図４のような文書データ２８である。次にデータ変換器１２によるデータ変換８２を行う。
【００６６】
このデータ変換８２は、未知文書データ８０を学習器１４で取り扱う形式のテストデータ８４に変換する。テストデータ８４は、語８６、特徴８８及び予測タグ９０で構成されており、予測タグ９０は初期状態にあっては「？」となっている。
【００６７】
次に、判定器１８により学習結果データベース２２の最初の学習結果２４−１を用いて、テストデータ８４に含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する。具体的には、テストデータ８４における先頭と最後を除く２番目から５番目の各対象語について、例えば２番目の対象語「放送」を例にとると、その前後の周辺語「日本」、「協会」を含む特徴データ９２を判定器１８に入力し、これに学習結果２４−１を適用して判定データ９６に示す予測タグを判定し、この場合には対象語「放送」の予測タグは「Ｏ」となっている。
【００６８】
次に図１２に進み、データ再構成装置２６により図１１の判定処理９４で判定された予測タグを学習データの特徴の一部に入れるように予測タグ９０を更新し、再構成テストデータ１００を生成する。
【００６９】
続いて、判定器１８により学習結果データベース２２から２番目の学習結果２４−２を取り出し、再構成テストデータ１００に含まれる予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する。この場合の判定処理１０４にあっては、再構成テストデータ１００における対象語「放送」を例にとって、その前後の周辺語を含む特徴データ１０２を判定器１８に入力して、予測タグを判定した判定データ１０６が得られた状態を示している。
【００７０】
判定処理１０４で再構成テストデータ１００に基づく予測タグの判定が済むと、判定ステップ１０８で判定回数ｉが所定回数Ｎ未満か否かチェックし、未満であればデータ再構成９８に戻って、判定処理１０４で判定された予測タグを再構成テストデータ１００の予測タグ９０に含める更新を行った後、３番目の学習結果２４−３を用いて再構成テストデータ１００に対し判定処理１０４を行って、判定データ１０６として予測タグを判定する。
【００７１】
このようなデータ再構成、判定回数に対応した学習結果に基づく判定処理をＮ回繰り返して、一連の判定処理を終了する。この判定処理により再構成テストデータ１００における予測タグ９０が最終的に正解タグとして確定することから、データ変換器１２は、確定した判定タグを入力した未知文書データの各語に付ける逆変換を行って、タグ付きの文書データを入出力装置１０から出力することになる。
【００７２】
図１３は、図１１の判定処理９４において、対象語「放送」について得られた判定データによる未知文書データ８０であり、この第１回目の判定段階で予測タグ８８は正解タグ１１２とは異なっているが、図１２に示す２番目以降の学習結果２４−２〜２４−Ｎを使用した判定処理の繰り返しにより、対象語「放送」の予測タグ８８は正解タグ１１２の「Ｉ−ＯＲＧ」に更新され、正解タグに一致するタグを判定することができる。
【００７３】
図１４は、図１１，図１２における判定処理のフローチャートであり、このフローチャートは図９の学習処理のフローチャートによる学習処理プログラムで得られた学習結果２４−１〜２４−Ｎを用いたタグ判定の判定処理プログラムを表わしている。
【００７４】
図１４において、まずステップＳ１で入出力装置１０により未知文書データを入力した後、ステップＳ２でデータ変換器により特徴とタグの集合に変換し、予測タグは「？」とし、これを１番目のテストデータとして生成する。次にステップＳ３で、判定器１８により第１学習結果を用いてテストデータにおける対象語及び周辺語の特徴から各語のタグを予測する。このステップＳ１〜Ｓ３の処理が図１１に対応している。
【００７５】
次にステップＳ４で、データ再構成装置２６により判定器１８により取得した予測タグをテストデータの予測タグと入れ替えて、新たなテストデータ即ち再構成テストデータを生成する。続いてステップＳ５で判定器１８により第ｉ学習結果、この場合には第２学習結果を用いて、再構成済みのテストデータにおける予測タグを含む対象語及び周辺語の特徴から各語のタグを予測する。
【００７６】
ステップＳ６で処理回数ｉが所定値Ｎ未満であれば、ステップＳ７でｉを１つ増加した後、ステップＳ４からの処理を繰り返す。第Ｎ学習結果によるタグの判定が済むと、ステップＳ６でｉがＮであることから、一連の判定処理を終了する。そして、データ変換器１２で未知文書に判定したタグを付けた逆変換を行った後、入出力装置１０の出力部としての機能により処理の済んだタグ付け文書を出力する。このステップＳ４〜Ｓ７の処理が図１３に対応している。
【００７７】
図１５は、本発明による言語処理装置における学習処理部の他の実施形態であり、この実施形態にあっては正解文書データとして英語文書データを対象としている。英語文書にあっては、日本語のように単語に分ける形態素解析が不要であることから、図２の実施形態に設けていた形態素解析装置１１が除かれており、他の構成は同じである。
【００７８】
図１６，図１７は、図１５の学習処理部により英語の正解文書データを対象に行う学習処理の説明図である。
【００７９】
図１６において、入出力装置１０の入力部としての機能により英語の正解文書データ１１４を入力し、データ変換器１２で、学習器１４で取扱い可能な学習データ１１８に変換する。学習データ１１８は、語１２０、特徴１２２、予測タグ１２４及び正解タグ１２５で構成されている。特徴１２２は「表記」「語長」「大文字」の３つであり、図４の日本語正解文書データのような「品詞」は除かれている。
【００８０】
この学習データ１１８につき、学習器１４で学習処理１３０を行い、学習結果２４−１を生成する。続いて判定器１８で、判定処理１３２により学習結果２４−１を使用して学習データ１１８の各対象語ごとに例えば対象語「Ｒｅｓｅｒｖｅ」のように前後の周辺語を含む特徴データ１２８を入力し、判定データ１３４により対象語の予測タグを判定する。
【００８１】
次に図１７のデータ再構成１３６をデータ再構成装置２６により行う。即ち、学習データの中に図１６の判定処理１３２で判定した予測タグを取り込んで、更新した再構成学習データ１３８を生成する。
【００８２】
次に学習器１４により学習処理１５２を行う。学習処理１５２は、再構成学習データ１３８における対象語の特徴データ１４８に判定された予測タグ１４４を含め、これと正解タグ１４６との対の集合により学習を行って、２番目の学習結果２４−２を生成する。
【００８３】
この２番目の学習結果２４−２を用いて、判定器１８で再構成学習データ１３８の特徴１４２を入力して判定処理１５４を行い、判定データ１５６として予測タグを判定する。この処理を判定ステップ１５８で処理回数ｉが所定回数Ｎに達するまで繰り返し、これによって学習結果データベース２２には学習結果２４−１〜２４−Ｎが格納される。
【００８４】
図１８は、図１５の学習処理部で生成された学習結果データベース２２の学習結果２４−１〜２４−Ｎを用いた英文の未知文書データの各語に対するタグ付けの判定処理のブロック図であり、学習器１４及び学習制御器１６の機能が除かれており、その他の構成は同じになる。
【００８５】
図１９，図２０は、図１８の英文の未知文書データにタグ付けを行う判定処理の処理手順の説明図である。
【００８６】
図１９において、入出力装置１０の入力部の機能により英文の未知文書データ１６０を入力し、データ変換器１２で学習器１４で処理可能な形式であるテストデータ１６４に変換するデータ変換１６２を行う。次に判定器１８により１番目の学習結果２４−１を用いてテストデータ１６４から予測タグを判定し、判定データ１７６を生成する。
【００８７】
次に図２０に進み、データ再構成装置２６によりデータ再構成１７８を行い、図１９の判定処理１７４で判定した予測タグを取り入れた予測タグ１８６の更新を行った再構成テストデータ１８０を生成する。
【００８８】
次に、判定器１８により再構成テストデータ１８０の予測タグ１８６を含む対象語及び周辺語の特徴を入力し、これに２番目の学習結果２４−２を用いて判定を行い、判定データ１９２のように各対象語の予測タグを判定する。
【００８９】
このデータ再構成１７８及び判定処理を１９０を、判定ステップ１９４でｉがＮになるまで残りの学習結果２４−３〜２４−Ｎにつき繰り返し、各語の予測タグを確定する。そして、データ変換器１２による逆変換で未知の英文の文書データに判定したタグを付して外部に出力する。
【００９０】
図２０は、本発明の言語処理装置における学習処理部の他の実施形態であり、この実施形態にあっては正解文書データに基づく学習結果の生成を簡易的に行うようにしたことを特徴とする。
【００９１】
図２０の実施形態の学習処理部は、図２の学習処理部の構成における判定器１８、判定制御装置２０及びデータ再構成装置２６を除いた構成をとっている。この実施形態の学習処理部は、正解文書データについて、まず周辺語を用いることなく対象語と周辺語の特徴と、対象語の正解タグから学習結果２４０−１を生成する。次に、対象語と正解単語を予測単語とした周辺語の特徴と対象語の正解タグの集合から学習結果２４０−２を生成する。
【００９２】
図２２，図２３は、図２１の簡易式の学習処理部における処理手順の説明図であり、日本語文書を処理対象としている。
【００９３】
図２２において、まず正解文書データ１９６を入出力装置１０の入力部の機能により入力する。この正解文書データ１９６は例えば図５の正解文書データ３０と同じものである。次にデータ変換器１２により、データ変換１９８を行い、学習器１４で取り扱うことのできる学習データ２００に変換する。この学習データ２００には予測タグの項目は設けられていない。
【００９４】
次に学習器１４に学習データ２００における対象語と周辺語の特徴、例えば対象語「放送」を例にとると、前後の周辺語「日本」と「協会」を含む特徴データ２０２と対象語の正解タグ２０４である「Ｉ−ＯＲＧ」を学習器１４に入力し、学習処理２０６により、第１学習結果としての学習結果２４０−１を生成する。
【００９５】
もちろん、学習処理２０６は学習データ２００における最初と最後の語を除く、２番目から５番目の語をそれぞれ対象語として前後の周辺語を含む特徴と正解タグの次の集合について、繰り返して行うことで学習結果２４０−１を生成する。
【００９６】
次に図２３に進み、正解文書データ１９６を対象にデータ再構成２０８を行って学習データ２１０を生成する。この学習データ２１０には新たに予測タグの項目が追加される。
【００９７】
次に学習器１４により学習データ２１０における対象語及び正解タグを予測タグとした周辺語の特徴と正解タグの次の集合を用いた学習処理２１８を行って、学習結果（第２学習結果）２４０−２を生成する。
【００９８】
例えば２番目の対象語「放送」については前後の周辺語「日本」と「協会」における特徴データ２１２の中にそれぞれの正解タグを予測タグ２１４としての「Ｉ−ＯＲＧ」及び予測タグ２１６としての「Ｉ−ＯＲＧ」として取り込み、この特徴データ２１２と対象語の正解タグ２０４である「Ｉ−ＯＲＧ」を学習器１４にセットし、特徴データ２１２から予測タグを得るためのルールとしての学習結果２４０−２を生成する。もちろん学習処理２１８は学習データ２１０における最初と最後の語を除く２番目から５番目の語を対象語として繰り返し学習処理が行われる。
【００９９】
図２４は、図２１の簡易式の学習処理のフローチャートであり、これは簡易的な学習処理プログラムの内容を表している。まずステップＳ１で入出力装置１０により日本語の正解文書を入力し、ステップＳ２でデータ変換器１２により特徴とタグの集合に変換し、第１学習データを生成する。この第１学習データには予測タグは設けられていない。
【０１００】
次にステップＳ３で学習器１４により学習データにおける対象語及び周辺語の特徴と正解タグの対の集合を用いて第１学習結果を生成する。このステップＳ１〜Ｓ３の処理が図２２に対応している。
【０１０１】
次にステップＳ４でデータ変換器１２により正解文書データから特徴とタグに変換し、予測タグを新たに設けてこれを「？」として第２学習データを生成する。最終的にステップＳ５で学習器１４により第２学習データにおける対象語及び正解タグを予測タグに含む周辺語の特徴と正解タグの対を用いて第２学習結果を生成する。
【０１０２】
図２５は、図２１の簡易的な学習処理部で生成された学習結果を用いた日本語の未知文書データに対するタグを行う簡易的な判定処理部のブロック図である。この簡易的な判定処理部は基本的に図１０の実施形態と同じであるが、学習結果データベース２２に２つの学習結果２４０−１，２４０−２しかない点が相違している。
【０１０３】
図２６，図２７は、図２５の簡易的な判定処理部の処理手順の説明図である。図２６において、まず日本語の未知文書データ２２０を入出力装置１０の入出力部により入力し、データ変換器１２により判定器で取り扱い可能な形式のテストデータ２２４に変換する。
【０１０４】
次に判定器１８により、最初に得られている学習結果２４０−１を用いてテストデータ２２４に含まれる対象語、例えば「放送」及び周辺語「日本」と「協会」の特徴データ２２６から対象語の予測タグを判定処理２２８により判定し、判定データ２３０を生成する。
【０１０５】
次に図２７に進み、データ再構成装置２６により図２６の判定処理２２８で判定された予測タグを特徴データ２３６の一部に入れた再構成テストデータ２３４を生成する。
【０１０６】
次に判定器１８により、２つ目の学習結果２４０−２を用いて、再構成テストデータ２３４に含まれる予測タグを含む対象語及び周辺語の特徴、例えば対象語「放送」の場合には特徴データ２３６から対象語のタグを判定する判定処理２３８を行い、判定データ２４２を生成する。
【０１０７】
もちろん判定ステップ２４４は再構成テストデータ２３４における最初と最後を除く２番目から５番目の各対象語について学習結果２４０−２を用いて予測タグを判定する。
【０１０８】
次の判定設定２２４で処理回数ｉが所定値Ｎ未満であればデータ再構成２３２に戻り、判定処理２３８で得られた予測タグを更新して、再構成テストデータ２３４を再度作り、同様な学習結果２４０−２を用いた判定処理を繰り返し、処理回数がＮ回に達した場合には、そのとき得られている再構成テストデータ２３４の予測タグをタグの判定結果とし、データ変換器１２により入力されている未知文書データの各語に判定したタグを付ける逆変換を行った後、入出力装置１０の出力部としての機能により外部にタグ付文書データを出力する。
【０１０９】
図２８は、図２５の簡易的な判定処理部のフローチャートであり、このフローチャートが簡易的な判定処理プログラムの内容に対応している。図２８において、ステップＳ１で入出力装置１０により日本語の未知文書データを入力し、ステップＳ２でデータ変換器１２により特徴とタグの集合に変換し、予測タグは「？」とし、これを１番目のテストデータとして生成する。
【０１１０】
次にステップＳ３で判定器１４により、第１学習結果を用いてテストデータにおける対象語及び周辺語の特徴から各語のタグを予測する。このステップＳ１〜Ｓ３の処理は図２６に対応している。次にステップＳ４でデータ再構成装置２６によりステップＳ３で取得した予測タグをテストデータの予測タグに入れ替えて、新たなテストデータを再構成テストデータとして生成し、ステップＳ５で判定器１８により、第２学習結果を用いて、テストデータにおける予測タグを含む対象語及び周辺語の特徴から、各語のタグを予測する。
【０１１１】
このステップＳ４，Ｓ５もしくはＳ６で処理回数が所定回数Ｎに達するまでステップＳ７でｉをひとつずつ増加させながら繰り返す。そして、Ｎ回の判定処理が終了すると確定した各語の判定タグを未知の文書データの各語にする逆変換を行い、外部に出力する。
【０１１２】
図２９，図３０は、英文の正解文書データを対象とした図２１の実施形態と同じ簡易的な学習処理の処理手順である。この英文の正解文書データを対象とした簡易的な学習処理にあっては、図２１における形態素解析装置１１を除いた学習処理部としての構成で実現できることから、図２９，図３０の処理手順を日本語の場合と同様、図２５を参照して説明する。
【０１１３】
図２９において、入出力装置１０の入力部としての機能により英文の正解文書データ２４６を入力し、データ変換器１２により、学習器１４で取り扱い可能な学習データ２５０に変換する。
【０１１４】
続いて学習器１４により、学習データ２５０における対象語及び周辺語の特徴、例えば対象語「Ｒｅｓｅｒｖｅ」における特徴データ２５２と、その正解タグ２５４である「Ｉ−ＯＲＧ」の対を含む他の対象語における特徴を含んで学習器１４により学習処理２５６を行い、特徴データ２５２から予測タグを判定する学習結果２４０−１を生成する。
【０１１５】
続いて図３０に進み、データ変換器１２で英文の正解文書データ２４６から予測タグを含む第２の学習データ２６０を生成する。この学習データ２６０につき、学習器１４による学習処理２６８を行って学習結果２４０−２を生成する。
【０１１６】
学習処理２６８は例えば対象語「Ｒｅｓｅｒｖｅ」を例にとると、対象語及び正解タグを予測タグ２６４，２６５として含む周辺語の特徴２６２と対象語の正解タグ２６６の対を用いて、特徴データ２６２から予測タグを判定する学習結果２４０−２を生成する。このような学習は学習データ２６０の先頭と最後の語を除く２番目から５番目の各語について繰り返し行って学習結果２４０−２を得ている。
【０１１７】
図３１，図３２は、図２９，図３０の簡易的な学習処理で得られた英文を対象とした２つの学習結果２４０−１，２４０−２を用いた英文未知文書データからタグを判定する簡易的な判定処理の処理手順である。
【０１１８】
この簡易的な判定処理手順は図２５に示した日本語文書を対象とした簡易的な判定処理部と同じ構成で実現できることから、図２５を参照して英文未知文書データを対象とした簡易的な判定処理を説明すると次のようになる。
【０１１９】
図３１において、英文の未知文書データ２７０を入出力装置１０の入力部の機能により入力し、データ変換器１２で判定器１８で取り扱い可能な形式のテストデータ２７４に変換する。
【０１２０】
次に判定器１８により、最初の学習結果２４０−１を用いてテストデータ２７４の対象語及び周辺語の特徴から各対象語の予測タグを判定する判定処理２７８を行い、判定データ２８０を生成する。
【０１２１】
次に図３２に進み、データ再構成装置２６により図３１の判定処理２７８で得られた予測タグを各種データの予測タグの一部に入れて、再構成した再構成学習データ２８４を生成する。
【０１２２】
続いて、再構成学習データ２８４の特徴データ２８６を対象に２番目の学習結果２４０−２を用いて判定器１８で判定処理２８８を行い、各語の予測タグを判定した判定データ２９０を生成する。
【０１２３】
このデータ再構成２８２，判定処理２８８を判定ステップ２９２で処理回数ｉが所定回数Ｎ回に達するまで同じ学習結果２４０―２を使用して繰り返し行い、再構成テストデータ２８４の予測タグを正解タグとして確定する。
【０１２４】
そしてデータ変換器１２により入力している未知の英文文書データに判定したタグをつける逆変換を行った後、入出力装置１０の出力部の機能により処理の済んだタグ付英文文書データを外部に出力する。
【０１２５】
図３３は、本発明の文書処理装置の他の実施形態であり、この実施形態にあっては図２の実施形態に更に外部タグ付けシステムインタフェース２９６を設けている。
【０１２６】
外部タグ付けシステムインタフェース２９６は入出力装置１０の入力部の機能により、受け取った日本語の正解文書データまたは未知文書データをインターネットなどのネットワークを介して、外部タグ付けシステム２９８渡してタグ付結果を取得し、この外部タグ付けシステム２９８から取得した外部のタグを予測タグとして学習処理及び判定処理を行うようにしたことを特徴とする。
【０１２７】
また図３３は図２の日本語文書データを対象とした文書処理装置の適用を例にとっているが、形態素解析装置１１を備えてない英文文書データを言語処理装置にもそのまま適用できる。また図３３の実施形態は学習結果２４−１〜２４−Ｎを生成して用いる実施形態を例にとるものであったが、２つの学習データ２４０−１，２４０−２を生成して利用する簡易的な言語処理装置の実施形態についても同様に適用することができる。
【０１２８】
次に図２における実施形態における学習処理、及び図２の学習結果を利用した図１０の実施形態における判定処理を例にとって、学習器及び判定器における具体的な処理内容を説明する。
【０１２９】
図３４は、本発明の学習処理において正解データから１回目の学習を行って、第１学習結果としての第１分類ルールを生成する説明図である。以下の学習処理の具体例にあっては学習器として後の説明で明らかにする決定木の生成アルゴリズムを摘用した場合を例にとっている。
【０１３０】
図３４において、正解文書データ３００は語３０２に対し正解タグ３０４が付与されている。この正解文書データ３００は「２００２年にイングランド開催されたウィンブルドンは波乱の幕開けとなった。優勝候補のセレナウィリアムスは１回戦でオーストラリアのマリアグースに敗れ・・」となる文書を例にとっている。正解文書データ３００の文書は形態素解析により品詞に分けられ、図示のように配列され、それぞれに正解タグ３０４が付されている。
【０１３１】
学習器として機能する決定木生成器３０６は、正解文書データ３００を決定木アルゴリズムに従って学習することにより、第１決定木となる第１分類ルール３０８を生成する。このようにして生成された第１分類ルール３０８は図３５のように初期状態で空となっている学習結果データベース２２−１に第１分類ルールの保存３１０によって学習結果データベース２２−２に格納される。
【０１３２】
次に図３６のように、正解文書データ３００の語３０２に生成した第１分類ルール３０８を適用した判定処理により、右側に示す正解文書データ３００の予測タグ３１２−１を判定する。
【０１３３】
次に図３７の正解文書データ３００のように、図３６で判定した予測タグ３１２−１をとらえたデータ再構成を行った後、この再構成された正解文書データ３００を決定木生成器３１４に入力して、２回目の学習を行い、第２決定木としての第２分類ルール３１６を生成する。
【０１３４】
次に図３８のように、学習結果データベース２２−２に、すでに格納している第１分類ルール３０８に加え、図３７で生成した第２分類ルール３１６を保存３１８により格納する。
【０１３５】
次に図３９のように、語３０２に対し前回の予測タグ３１２−１を有する正解文書データ３００に対し、第２分類ルール３１６を適用した判定処理により、右側に示す正解文書データ３００の予測タグ３１２−２を判定して付与する。
【０１３６】
以上が図２の実施形態に示した本発明における学習処理の基本的な処理であるが、実際には３回目の学習、４回目の学習、・・・・、Ｎ回目の学習を繰り返して、更に第３分類ルール〜第Ｎ分類ルールを生成することになる。もちろん必要最小限、本発明にあっては第２分類ルールまで作成すれば良い。
【０１３７】
ここで本発明の学習処理において分類ルール、すなわち決定木を作成するアルゴリズムを説明する。
【０１３８】
図４０は、本発明の学習処理において決定木を生成する関数ＭａｋｅＴｒｅｅ３２０である。この決定木を生成する関数ＭａｋｅＴｒｅｅ３２０には複数のアルゴリズムがあるが、例えば次の決定木生成方法を使用する。
【０１３９】
本発明で使用する決定木生成方法は、Ｑｕｉｎｌａｎ　“Ｃ４．５：　Ｐｒｏ−ｇｒａｍｓ　ｆｏｒ　Ｍａｃｈｉｎｅ　　Ｌｅａｒｎｉｎｇ　“（１９９３）（日本語訳「ＡＩによるデータ解析」）等で提案されている。以下にアルゴリズムの概略を示す。ここで、カテゴリと特徴の相関は、情報量利得、相互情報量、χ２検定量などさまざまな方法がある。
【０１４０】
［決定木の生成アルゴリズムＧｅｎｅｒａｔｅｔｒｅｅ（学習セット、木））］
ステップＳ１：．学習セットが空であれば、デフォルトのカテゴリを振り、関数を抜ける。
ステップＳ２：学習セットのカテゴリがすべて同じであれば、木にそのカテゴリと判定するノードを加え、関数を抜ける。
ステップＳ３：特徴のうち、カテゴリと最も相関の強い特徴を選ぶ。
ステップＳ４：選んだ特徴での分割を木に加える。
ステップＳ５：選んだ特徴で学習セットを分割する。
ステップＳ６：分割された学習セットそれぞれを引数として、Ｇｅｎｅｒａｔｅｔｒｅｅ（）を呼ぶ。
【０１４１】
この決定木生成アルゴリズムについて、正解文書データ３００を入力した際の決定木の生成処理の主な内容は次のようになる。まずステップＳ１〜Ｓ２の処理を通じて、正解文書データ３００の文字種を選ぶ。この場合に文字種は漢字、平仮名、片仮名、英数字の４種類が含まれている。
【０１４２】
次にステップＳ４により文字種によって正解文書データ３００である学習セットを分解する。即ち、図４１のように漢字セット３００−１、平仮名セット３００−２、片仮名セット３００−３及び英数字セット３００−４に分解する。
【０１４３】
続いてステップＳ６の処理により分解された各セットを入力して、関数ＧｅｎｅｒａｔｅＴｒｅｅを呼ぶ。そしてこの関数により、例えば漢字セット３００−１を例にとノード全ての正解文書データ３００における漢字の正解タグとしては「Ｏ」のカテゴリがついているため、「Ｏ」のノードを正解タグとして加え、これを他のセットにも繰り返すことで、例えば図３４に示した第１分類ルール３０８が生成される。
【０１４４】
ここで図３４の第１分類ルール３０８にあっては、周辺語の特徴が組み入れていないが、図３７の予測タグを付与した後の第２分類ルール３１６にあっては前後の予測タグが特徴に組み入れられている。
【０１４５】
図４２は、図３４〜図３９の学習処理により生成された第１分類ルール３０８と第２分類ルール３１６を未知文書データに適用して予測タグを付与する判定処理の具体例である。
【０１４６】
図４２にあっては、未知文書データ３２２として「１９９８年のサンマリノでの試合ではミカハッキネンは惜しくも優勝を逃したが」を入力し形態素解析により品詞単位の語３２４に分けたデータとしている。
【０１４７】
この未知文書データ３２２に対し、学習結果データベース２２に格納している第１分類ルール３０８を適用した判定処理により、語３２４のそれぞれに対し予測タグ３２６−１を付与する。
【０１４８】
次に予測タグ３２６−１が付与された未知文書データ３２２に対し学習結果データベース２２の第２分類ルール３１６を適用し、語３２４のそれぞれに対し予測タグ３２６−２を付与する。
【０１４９】
図４３は、図４２の１回目の判定処理による第１分類ルール３０８の適用による予測タグの付与を未知文書データの一部である「試合ではミカハッキネンは」の部分について取り出して示している。
【０１５０】
ここで第１分類ルール３０８は木構造を持っており、例えば対象語「試合」が矢印３０８−１のように「文字種＝漢字」「語長＜＝３」及び「品詞＝その他」のノードをとることで予測タグ「Ｏ」を判定し、この場合は正解となる。
【０１５１】
一方「ミカ」は、矢印３０８−２のように「文字種＝片仮名」及び「語長＜４」のノードを通って予測タグ「Ｉ−ＬＯＣ」を判定するが、この場合、判定した予測タグは不正解となっている。
【０１５２】
図４４は、図４３の第１分類ルール３０８で判定した予測タグを特徴に加えた第２分類ルール３１６に従った判定処理の具体例である。まず対象語「試合」には、第１分類ルール３０８でも正解であるが、第２分類ルール３１６にあっても矢印３１６−２のように予測タグ「Ｏ」となり、これも正解である。
【０１５３】
一方、対象語「ミカ」は、矢印３１６−３のように「文字種＝片仮名」「語長＜４」のノードに続いて「後ろのタグ＝Ｉ−ＰＥＲ」が判別され、これにより予測タグが「Ｉ−ＰＥＲ」と判定され、この周辺語の予測タグを特徴に組み込んだ第２分類ルール３１６により正解となる。
【０１５４】
このように本発明にあっては、第１分類ルール（第１学習結果）３０８により未知文書の対象語について周辺語のタグを予測し、第２分類ルール（第２学習結果）３１６にあっては、周辺語の予測タグを特徴とした分類ルールとすることで、周辺語の予測タグとの相関から対象語のタグを高精度に判定することができる。
【０１５５】
図４５は、図４３，図４４と同じ未知文書データ中の「試合ではミカハッキネンは」に対する対象語「ハッキネン」について、タグ付を行う際の特徴情報を従来手法と本発明の手法について比較している。
【０１５６】
図４５（Ａ）は、周辺語のタグを特徴に含めていない従来手法３２８の特徴であり、前後の語がどういったタグと判定されるかは全く考慮されていない。
【０１５７】
図４５（Ｂ）は、従来技術（Ａ）に示した山田の方法３３０であり、対象語に対し片側、例えば前の周辺語の予測タグを用いている。しかしながら、この場合には対象語「ハッキネン」のタグが「Ｉ−ＰＥＲ」となる手がかりが対象語の前の語にあった場合にしか有効に働かない。例えば対象語が「ミカ」であった場合、その手がかりとなる周辺語「ハッキネン」の「Ｉ−ＰＥＲ」は後ろの語の予測タグとなるため有効に使用できない。
【０１５８】
図４５（Ｃ）は、本発明の手法３３２の特徴であり、対象語「ハッキネン」に対し、前後に一致する周辺の複数の箇所の予測タグを特徴に用いている。このため対象語の周辺のどこかに手がかりがあれば、それを用いてタグを正確に予測することができる。
【０１５９】
尚、本発明は上記の実施形態に限定されず、その目的と利点を損なうことのない適宜の変形を含む。更に本発明は上記の実施形態に示した数値による限定は受けない。
【０１６０】
ここで本発明の特徴を列挙すると、次の付記のようになる。
（付記）
（付記１）
学習処理装置により、タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理ステップと、
判定処理装置により、前記複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語のタグを判定する判定処理ステップと、
を備えたことを特徴とする言語処理方法。（１）
【０１６１】
（付記２）
付記１記載の言語処理方法に於いて、前記学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、前記正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
判定器により、前記第１学習ステップで生成された第１学習結果を用いて、前記学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記学習器により、データ再構成ステップで再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、
前記判定器により、前記第２学習ステップで生成された第２学習結果を用いて、前記学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ、第２学習ステップ及び前記第２判定ステップを複数回繰り返させて第２学習結果以降の複数の学習結果を生成する学習反復ステップと、
を備えたことを特徴とする言語処理方法。（２）
【０１６２】
（付記３）
付記２記載の言語処理方法に於いて、前記判定処理ステップは、
前記入力装置により、外部からタグ付け対象となる未知文書データを入力する入力ステップと、
前記データ変換器により、前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
前記判定器により、前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第３判定ステップと、前記データ再構成装置により、前記第３判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成する第２データ再構成ステップと、
前記判定器により、前記第２学習結果を用いて、前記第２データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第４判定ステップと、
前記データ再構成ステップ及び前記第４判定ステップを第２学習結果以降の学習結果に切替ながら複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
出力装置により、前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とする言語処理方法。（３）
【０１６３】
（付記４）
付記１記載の言語処理方法に於いて、前記学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、前記正解文書データを学習器で取り扱う予測タグを含まない形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
データ変換器により、前記正解文書データを予測タグを含む学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び正解タグを予測タグとして含む周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、
を備えたことを特徴とする言語処理方法。（４）
【０１６４】
（付記５）
付記４記載の言語処理方法に於いて、前記判定処理ステップは、
前記入力装置により、外部からタグ付け対象となる未知文書データを入力する入力ステップと、
前記データ変換器により、前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
前記判定器により、前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、前記データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記判定器により、前記第２学習結果を用いて、前記データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ及び前記第２判定ステップを第２学習結果を用いて複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
出力装置により、前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とする言語処理方法。（５）
【０１６５】
（付記６）
付記２乃至５のいずれかに記載の言語処理方法に於いて、
記学習処理ステップおよび判定処理ステップは、前記入力装置により受け取った正解文書データ又は未知文書データを解析して形態素を判定する形態素解析ステップを備え、
記データ変換ステップは、データ変換器により、前記解析された前記形態素を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とする言語処理方法。
【０１６６】
（付記７）
付記２乃至５のいずれかに記載の言語処理方法に於いて、
前記学習処理ステップおよび判定処理ステップは、前記入力装置により受け取った正解文書データ又は未知文書データを外部のタグ付けシステムに渡してタグ付け結果を取得する外部タグ付けステップを備え、
前記データ変換ステップは、データ変換器により、前記タグ付けシステムから取得したタグ付け結果を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とする言語処理方法。
【０１６７】
（付記８）
コンピュータに、
タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理ステップと、
前記複数の学習結果を用いて、タグ付け対象となる未知文書データに含まれる対象語及びその両側の周辺語の特徴から各対象語のタグを判定する判定処理ステップと、
を実行させることを特徴とするプログラム。（６）
【０１６８】
（付記９）
付記８記載のプログラムに於いて、前記学習処理ステップは、
入力装置により、外部からタグのついた正解文書データを入力する入力ステップと、
データ変換器により、前記正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
学習器により、前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
判定器により、前記第１学習ステップで生成された第１学習結果を用いて、前記学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記学習器により、データ再構成ステップで再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、
前記判定器により、前記第２学習ステップで生成された第２学習結果を用いて、前記学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ、第２学習ステップ及び前記第２判定ステップを複数回繰り返させて第２学習結果以降の複数の学習結果を生成する学習反復ステップと、
を備えたことを特徴とするプログラム。（７）
【０１６９】
（付記１０）
付記９記載のプログラムに於いて、前記判定処理ステップは、
外部からタグ付け対象となる未知文書データを入力する入力ステップと、
前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第３判定ステップと、
前記第３判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成する第２データ再構成ステップと、
前記第２学習結果を用いて、前記第２データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第４判定ステップと、
前記データ再構成ステップ及び前記第４判定ステップを第２学習結果以降の学習結果に切替ながら複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とするプログラム。（８）
【０１７０】
（付記１１）
付記８記載のプログラムに於いて、前記学習処理ステップは、
外部からタグのついた正解文書データを入力する入力ステップと、
前記正解文書データを学習器で取り扱う予測タグを含まない形式の学習データに変換するデータ変換ステップと、
前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習ステップと、
前記正解文書データを予測タグを含む学習器で取り扱う形式の学習データに変換するデータ変換ステップと、
前記学習データに含まれる対象語及び正解タグを予測タグとして含む周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習ステップと、
を備えたことを特徴とするプログラム。
【０１７１】
（付記１２）
付記１１記載のプログラムに於いて、前記判定処理ステップは、
外部からタグ付け対象となる未知文書データを入力する入力ステップと、
前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換ステップと、
前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定ステップと、
前記データ再構成装置により、前記第１判定ステップで判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成ステップと、
前記第２学習結果を用いて、前記データ再構成ステップで再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定ステップと、
前記データ再構成ステップ及び前記第２判定ステップを第２学習結果を用いて複数回繰り返させて未知文書データのタグを判定させる判定反復ステップと、
前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力ステップと、
を備えたことを特徴とするプログラム。
【０１７２】
（付記１３）
付記９乃至１２のいずれかに記載のプログラムに於いて、
前記学習処理ステップおよび判定処理ステップは、前記入力装置により受け取った正解文書データ又は未知文書データを解析して形態素を判定する形態素解析ステップを備え、
前記データ変換ステップは、データ変換器により、前記解析された前記形態素を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とするプログラム。
【０１７３】
（付記１４）
付記９乃至１２のいずれかに記載のプログラムに於いて、
前記学習処理ステップおよび判定処理ステップは、前記入力装置により受け取った正解文書データ又は未知文書データを外部のタグ付けシステムに渡してタグ付け結果を取得する外部タグ付けステップを備え、
前記データ変換ステップは、データ変換器により、前記タグ付けシステムから取得したタグ付け結果を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とするプログラム。
【０１７４】
（付記１５）
タグのついた正解文書データに含まれる対象語及びその両側の周辺語の特徴と正解タグの対の集合を用いて複数の学習結果を生成する学習処理部と、
前記判定処理装置により、前記複数その両側の周辺語の特徴から各対象語のタグを判定する判定処理部と、
を備えたことを特徴とする言語処理装置。（９）
【０１７５】
（付記１６）
付記１５記載の言語処理装置に於いて、前記学習処理部は、
外部からタグのついた正解文書データを入力する入力装置と、
前記正解文書データを学習器で取り扱う形式の学習データに変換するデータ変換装置と、
前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習器と、
判定器により、前記第１学習ステップで生成された学習結果を用いて、前記学習データに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定器と、
データ再構成装置により、前記第１判定器で判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成装置と、
前記データ再構成装置で再構成された学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習器と、
前記第２学習器で生成された第２学習結果を用いて、前記学習データに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定器と、
前記データ再構成装置、第２学習器及び前記第２判定器を複数回繰り返させて第２学習結果以降の複数の学習結果を生成する学習反復部と、
を備えたことを特徴とする言語処理装置。（１０）
【０１７６】
（付記１７）
付記１６記載の言語処理装置に於いて、前記判定処理部は、
外部からタグ付け対象となる未知文書データを入力する入力装置と、
前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換装置と、
前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第３判定器と、
前記データ再構成装置により、前記第３判定器で判定された予測タグを前記学習データの特徴の一部に入れて再構成する第２データ再構成装置と、
前記第２学習結果を用いて、前記第２データ再構成装置で再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第４判定器と、
前記第２データ再構成装置及び前記第４判定器を第２学習結果以降の学習結果に切替ながら複数回繰り返させて未知文書データのタグを判定させる判定反復部と、
前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力装置と、
を備えたことを特徴とする言語処理装置。（１１）
【０１７７】
（付記１８）
付記１５記載の言語処理装置に於いて、前記学習処理部は、
外部からタグのついた正解文書データを入力する入力装置と、
前記正解文書データを学習器で取り扱う予測タグを含まない形式の学習データに変換するデータ変換部と、
前記学習データに含まれる対象語及び周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第１学習結果を生成する第１学習器と、
前記正解文書データを予測タグを含む学習器で取り扱う形式の学習データに変換するデータ変換装置と、
前記学習データに含まれる対象語及び正解タグを予測タグとして含む周辺語の特徴と正解タグの対の集合を用いて、前記特徴から予測タグを判定する第２学習結果を生成する第２学習器と、
を備えたことを特徴とする言語処理装置。
【０１７８】
（付記１９）
付記１８記載の言語処理装置に於いて、前記判定処理部は、
外部からタグ付け対象となる未知文書データを入力する入力装置と、
前記未知文書データを前記学習器で取り扱う形式のテストデータに変換するデータ変換装置と、
前記第１学習結果を用いて、前記テストデータに含まれる対象語及び周辺語の特徴から各対象語の予測タグを判定する第１判定器と、
前記第１判定器で判定された予測タグを前記学習データの特徴の一部に入れて再構成するデータ再構成装置と、
前記第２学習結果を用いて、前記データ再構成装置で再構成されたテストデータに含まれる前記予測タグを含む対象語及び周辺語の特徴から各対象語のタグを判定する第２判定器と、
前記データ再構成装置及び第２判定器を前記第２学習結果を用いて複数回繰り返させて未知文書データのタグを判定させる判定反復部と、
前記未知文書データを前記判定されたタグの付いた文書データに逆変換して出力する出力装置と、
を備えたことを特徴とする言語処理装置。
【０１７９】
（付記２０）
付記１６乃至１９のいずれかに記載の言語処理装置に於いて、
前記学習処理部および判定処理部は、前記入力装置により受け取った正解文書データ又は未知文書データを解析して形態素を判定する形態素解析装置を備え、
前記データ変換装置は、前記解析された前記形態素を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とする言語処理装置。
【０１８０】
（付記２１）
付記１６乃至１９のいずれかの記載の言語処理装置に於いて、
前記学習処理部および判定処理部は、前記入力装置により受け取った正解文書データ又は未知文書データを外部のタグ付けシステムに渡してタグ付け結果を取得する外部タグ付けインタフェースを備え、
前記データ変換装置は、前記タグ付けシステムから取得したタグ付け結果を含めて前記正解文書データ又は未知文書データを学習器で取り扱う形式の学習データに変換することを特徴とする言語処理装置。
【０１８１】
【発明の効果】
以上説明してきたように本発明によれば、タグのついた正解文書データに含まれる対象語及び周辺語の特徴と、正解タグの対の集合を用いて複数の学習結果を生成し、この学習結果を用いて未知文書データに含まれる対象語及び周辺語の特徴から、各対象語のタグを判定するため、対象語のタグに対し相関関係のある周辺語のタグを利用して、未知文書のタグが判定でき、更に複数の学習結果を生成し、これを未知文書のタグ判定に利用して繰り返し未知文書のタグ判定を繰り返すことで、周辺タグの判定精度が高まれば、これに対応して対象語の判定タグの精度が向上し、未知文書のタグ付を高精度で行うことができる。
【図面の簡単な説明】
【図１】本発明の原理説明図
【図２】日本語の正解文書を対象とした学習処理部として機能する言語処理装置のブロック図
【図３】本発明の言語処理装置が適用されるコンピュータのハードウェア環境の説明図
【図４】形態素解析された日本語文書データの説明図
【図５】正解文書データの説明図
【図６】未知文書データの説明図
【図７】図２の学習処理部における処理機能の説明図
【図８】図７に続く処理機能の説明図
【図９】図２の学習処理のフローチャート
【図１０】図２の学習結果を用いた判定処理部として機能する言語処理装置のブロック図
【図１１】図１０の判定処理部における処理機能の説明図
【図１２】図１１に続く処理機能の説明図
【図１３】未知文書に対する判定結果の説明図
【図１４】図１１の判定処理のフローチャート
【図１５】英語の正解文書を対象とした学習処理部として機能する言語処理装置のブロック図
【図１６】図１５の学習処理部における処理機能の説明図
【図１７】図１６に続く処理機能の説明図
【図１８】図１６の学習結果を用いた判定処理部として機能する言語処理装置のブロック図
【図１９】図１８の判定処理部における処理機能の説明図
【図２０】図１９に続く処理機能の説明図
【図２１】日本語の正解文書を対象とした簡易的な学習処理部として機能する言語処理装置のブロック図
【図２２】図２１の学習処理部における処理機能の説明図
【図２３】図２２に続く処理機能の説明図
【図２４】図２１の学習処理のフローチャート
【図２５】図２１の学習結果を用いた判定処理部として機能する言語処理装置のブロック図
【図２６】図２５の判定処理部における処理機能の説明図
【図２７】図２６に続く処理機能の説明図
【図２８】図２５の判定処理のフローチャート
【図２９】英語の正解文書を対象とした簡易的な学習処理部における処理機能の説明図
【図３０】図２９に続く処理機能の説明図
【図３１】図２０と図３０の学習結果を用いた判定処理部における処理機能の説明図
【図３２】図３１に続く処理機能の説明図
【図３３】外部タグ付けけシステムにアクセスするインタフェースを備えた本発明の言語処理装置のブロック図
【図３４】正解文書データから１回目の学習を行って第１分類ルールを生成する学習処理の説明図
【図３５】図３４で生成した第１分類ルールを格納した学習結果データベースへの説明図
【図３６】正解文書データに第１分類ルールを適用して予測タグを付与する判定処理の説明図
【図３７】図３６の予測タグを付与された正解文書データから２回目の学習を行って第２分類ルールを生成する学習処理の説明図
【図３８】第１分類ルールに加え図３７で生成した第２分類ルールを格納した学習結果データベースへの説明図
【図３９】図３８の予測タグを付与された正解文書データに対し分類ルールを適用して予測タグを判定する判定学習処理の説明図
【図４０】分類ルールとなる決定木を生成する関数ＭａｋｅＴｒｅｅの説明図
【図４１】文字種で学習セットを分割する決定木生成処理の説明図
【図４２】未知文書データに第１分類ルールと第２分類ルールを続けて適用して予測タグを付与する判定処理の説明図
【図４３】未知文書データの一部を例にとって第１分類ルールの適用により予測タグを付与する判定処理の説明図
【図４４】図４３で付与した予測タグを含む未知文書データに第２分類ルールの適用により予測タグを付与する判定処理の説明図
【図４５】従来手法と本発明の手法による予測タグの付与の対比説明図
【符号の説明】
１０：入出力装置
１１：形態素解析装置
１２：データ変換器
１４：学習器
１６：学習制御器
１８：判定器
２０：判定制御器
２２：学習データベース
２４−１，２４０−１：学習結果（第１学習結果）
２４−２，２４０−２：学習結果（第２学習結果）
２４−３〜２４−Ｎ：学習結果
２６：データ再構成装置
２８：日本語文書データ
３０：正解文書データ
３２，８０，２００：学習データ
４８：語
５０：特徴
５２：予測タグ
５４：正解タグ
５６，７０：特徴データ
６４，７６，９６，１０６，１３４，１５６，１７６，１９２，２３０，２４２，２８０，２９０：判定データ
６８，１３８，２１０：再構成学習データ
８４，１６４，２２４，２５０，２７４：テストデータ
１００，１８０，２３４，２６０，２８４：再構成テストデータ
３００：外部タグ付けシステムインタフェース
【図１】
2004094434.tif 000003
【図２】
2004094434.tif 000004
【図３】
2004094434.tif 000005
【図４】
2004094434.tif 000006
【図５】
2004094434.tif 000007
【図６】
2004094434.tif 000008
【図７】
2004094434.tif 000009
【図８】
2004094434.tif 000010
【図９】
2004094434.tif 000011
【図１０】
2004094434.tif 000012
【図１１】
2004094434.tif 000013
【図１２】
2004094434.tif 000014
【図１３】
2004094434.tif 000015
【図１４】
2004094434.tif 000016
【図１５】
2004094434.tif 000017
【図１６】
2004094434.tif 000018
【図１７】
2004094434.tif 000019
【図１８】
2004094434.tif 000020
【図１９】
2004094434.tif 000021
【図２０】
2004094434.tif 000022
【図２１】
2004094434.tif 000023
【図２２】
2004094434.tif 000024
【図２３】
2004094434.tif 000025
【図２４】
2004094434.tif 000026
【図２５】
2004094434.tif 000027
【図２６】
2004094434.tif 000028
【図２７】
2004094434.tif 000029
【図２８】
2004094434.tif 000030
【図２９】
2004094434.tif 000031
【図３０】
2004094434.tif 000032
【図３１】
2004094434.tif 000033
【図３２】
2004094434.tif 000034
【図３３】
2004094434.tif 000035
【図３４】
2004094434.tif 000036
【図３５】
2004094434.tif 000037
【図３６】
2004094434.tif 000038
【図３７】
2004094434.tif 000039
【図３８】
2004094434.tif 000040
【図３９】
2004094434.tif 000041
【図４０】
2004094434.tif 000042
【図４１】
2004094434.tif 000043
【図４２】
2004094434.tif 000044
【図４３】
2004094434.tif 000045
【図４４】
2004094434.tif 000046
【図４５】
2004094434.tif 000047