(57)【特許請求の範囲】
【請求項１】
共学習に基づく概念認識方法であって、
第１の処理手段が、１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するステップと、
第２の処理手段が、サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された１つの特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するステップと、
第３の処理手段が、取得された各系列分類器を用いて、現在のテキスト文書に対する概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するステップと、
を含み、
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された１つの特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築する前記ステップで、
前記第２の処理手段は、
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築し、
各系列分類器をそれぞれ用いてサブセットに対する概念認識を実行し、新たに認識された概念を用いてサブセットの再ラベル付けを行い、
再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識を順次実行する
ことを特徴とする共学習に基づく概念認識方法。
【請求項２】
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築する前記ステップで、
前記第２の処理手段は、
サブセットに含まれるラベル付けされた各語に基づいて辞書を構築し、
辞書に含まれているラベル付けされた各語に基づいてサブセットに含まれているトレーニングデータをラベル付けし、さらに、ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づいてサブセットに対する系列分類器を構築する
ことを特徴とする請求項１に記載の共学習に基づく概念認識方法。
【請求項３】
新たに認識された概念を用いてサブセットの再ラベル付けを行う前記ステップで、
前記第２の処理手段は、
新しい概念が予め設定されたしきい値を超える頻度で出現していると判定されると新しい概念を辞書に追加し、
更新された辞書に基づいてサブセットに含まれるトレーニングデータを再ラベル付けする
ことを特徴とする請求項１に記載の共学習に基づく概念認識方法。
【請求項４】
各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定する前記ステップで、
前記第３の処理手段は、
１つ以上の系列分類器によって認識された１つの概念を現在のテキスト文書に含まれている概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念が、別の系列分類器によって認識された２番目の概念の一部である場合には、２番目の概念を現在のテキスト文書に含まれる概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念の一部が、別の系列分類器によって認識された２番目の概念の一部と同一である場合には、１番目の概念と２番目の概念を結合し、現在のテキスト文書に含まれる概念として決定する
ことを特徴とする請求項１に記載の共学習に基づく概念認識方法。
【請求項５】
前記第２の処理手段は、各サブセットに含まれるトレーニングデータと特徴語セットとに基づき、共学習によって各サブセットに対して系列分類器を構築する
ことを特徴とする請求項１から請求項４の何れかに記載の共学習に基づく概念認識方法。
【請求項６】
前記第１の処理手段は、分割後の各サブセットに含まれるトレーニングデータの量が予め設定されたしきい値を上回るように、トレーニングデータセットを各サブセットに分割する
ことを特徴とする請求項１から請求項４の何れかに記載の共学習に基づく概念認識方法。
【請求項７】
共学習に基づく概念認識装置であって、
１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するように構成された第１の処理手段と、
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するように構成された第２の処理手段と、
取得された各系列分類器を用いて、現在のテキスト文書に対する概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するように構成された第３の処理手段と、
を備え、
前記第２の処理手段は、
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築し、
各系列分類器をそれぞれ用いてサブセットに対する概念認識を実行し、新たに認識された概念を用いてサブセットの再ラベル付けを行い、
再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識を順次実行するように構成される
ことを特徴とする共学習に基づく概念認識装置。
【請求項８】
前記第３の処理手段は、
１つ以上の系列分類器によって認識された１つの概念を現在のテキスト文書に含まれている概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念が、別の系列分類器によって認識された２番目の概念の一部である場合には、２番目の概念を現在のテキスト文書に含まれる概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念の一部が、別の系列分類器によって認識された２番目の概念の一部と同一である場合には、１番目の概念と２番目の概念を結合し、現在のテキスト文書に含まれる概念として決定することにより、
各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するように構成される
ことを特徴とする請求項７に記載の共学習に基づく概念認識装置。
【発明の詳細な説明】
【背景技術】
【０００１】
本発明は、人工知能技術の分野に関し、特に共学習に基づく概念認識方法および概念認識装置に関する。
【０００２】
情報検索（ＩＲ）技術の発達に伴い、意味情報検索（セマンティックＩＲ）技術の潜在的な発達可能性は、従来のキーワードベースの情報検索技術に比べてきわめて大きなものとなった。意味情報検索技術においては、概念認識と、概念の曖昧性の解消が重要な役割を果たす。ここでいう概念認識とは、テキストを検索して１つの概念あるいは複数の概念の中の１つを表す文字列を検出することを意味する。
【０００３】
図１に示すように、従来技術の機械学習方法において、テキスト文書に対して概念認識を実行する具体的なプロセスは以下のとおりである。
【０００４】
テキスト文書記憶ユニット１０１には、ラベル付けされた多数のテキスト文書が記憶されており、ラベル付けされたこれらのテキスト文書に基づいて特徴が選択され、特徴記憶ユニット１０２に記憶される。
【０００５】
テキスト文書記憶ユニット１０１に記憶されているラベル付けされたテキスト文書と、特徴記憶ユニット１０２に記憶された特徴とに基づいて系列分類器の学習が実行され、これにより系列分類器が取得されて、系列分類器記憶ユニット１０３に記憶される。
【０００６】
系列分類器記憶ユニット１０３に記憶された系列分類器によって、テキスト文書記憶ユニット１０４に記憶されたテキスト文書に対して概念認識が実行され、認識済み概念が取得されて概念記憶ユニット１０５に記憶される。
【発明の概要】
【発明が解決しようとする課題】
【０００７】
機械学習に基づく既存のアプローチにおいては、概念認識器（すなわち、系列分類器）は主として完全にラベル付けされたトレーニングデータから構築され、この構築された系列分類器を用いて、テキスト文書において候補概念が検索される。ここでいう完全にラベル付けされたトレーニングデータとは、トレーニングデータに含まれる各テキスト文書が含むすべての概念がラベル付けされているトレーニングデータセットのことである。しかし多くの場合、利用できるトレーニングデータは、部分的にラベル付けされている（すなわち、トレーニングデータに含まれる概念の一部にしかラベル付けされていない）のが一般的である。このような場合は、完全にラベル付けされたトレーニングデータに基づいて系列分類器を構築するのと同様の方法で、部分的にラベル付けされたトレーニングデータに基づいて系列分類器を構築すると、構築された系列分類器による概念認識は低品質なものとなる。
【０００８】
本発明は、概念認識、特に部分的にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって実行される概念認識の品質を改善するために、共学習に基づく概念認識方法および装置を提供する。
【０００９】
本発明の実施例による具体的な技術的解決策は以下のとおりである。
【課題を解決するための手段】
【００１０】
本発明による共学習に基づく概念認識方法は、
第１の処理手段が、１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するステップと、
第２の処理手段が、サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された１つの特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するステップと、
第３の処理手段が、取得された各系列分類器を用いて、現在のテキスト文書に対する概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するステップとを含み、
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された１つの特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築する前記ステップで、
前記第２の処理手段は、
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築し、
各系列分類器をそれぞれ用いてサブセットに対する概念認識を実行し、新たに認識された概念を用いてサブセットの再ラベル付けを行い、
再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識を順次実行する。
【００１１】
本発明による共学習に基づく概念認識装置は、
１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するように構成された第１の処理手段と、
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するように構成された第２の処理手段と、
取得された各系列分類器を用いて、現在のテキスト文書に対する概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するように構成された第３の処理手段とを備え、
前記第２の処理手段は、
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築し、
各系列分類器をそれぞれ用いてサブセットに対する概念認識を実行し、新たに認識された概念を用いてサブセットの再ラベル付けを行い、
再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識を順次実行するように構成される。
【発明の効果】
【００１２】
本発明によれば、１つのトレーニングデータセットは２つ以上のサブセットに分割され、サブセットに含まれるラベル付けされた語を含むトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器が構築される（つまり、複数の系列分類器が構築される）。次に、当該複数の系列分類器を用いて、現在のテキスト文書に対する概念認識がそれぞれ実行され、さらに、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念が決定される。これにより、部分的にラベル付けされたトレーニングデータセットに基づいて構築された系列分類器によって概念認識を実行した場合に認識の品質が低下するという、既存の概念認識方法における技術的問題が克服される。その結果、部分的にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって概念認識が実行された場合でも、完全にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって概念認識が実行された場合と同様の効果が達成され、概念認識、特に部分的にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって実行される概念認識の品質を改善することができる。
【図面の簡単な説明】
【００１３】
【図１】従来技術による概念認識プロセスの概略図である。
【図２】本発明の１つの実施例における、共学習に基づく概念認識プロセスの概略図である。
【図３】本発明の１つの実施例における、一般的な概念認識プロセスの概略図である。
【図４】本発明の１つの実施例における、他の一般的な概念認識プロセスの概略図である。
【図５】本発明の１つの実施例における、共学習に基づく概念認識装置の構造図である。
【発明を実施するための形態】
【００１４】
概念認識におけるトレーニングデータの要件を低減し、概念認識、特に部分的にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって実行される概念認識の品質を改善するため、本発明の実施例は、共学習に基づく概念認識方法および装置を提供する。
【００１５】
具体的には、共学習アプローチは、互いに独立した２つの特徴セットに基づき、トレーニングによって２つの分類手段をそれぞれ取得する共トレーニングアプローチの変形であるが、共学習アプローチでは、複数の特徴を互いに独立した２つの特徴セットに分割する代わりに、１つのトレーニングデータセットを複数のグループに分割し、複数の視点による複数の分類器を構築する。
【００１６】
以下では、図面を参照しながら本発明の好適な実施例について詳細に説明する。
【００１７】
図２に示した共学習アプローチよる概念認識方法の具体的なフローは、以下のとおりである。
【００１８】
動作２０１は、１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割する。
【００１９】
具体的には、このトレーニングデータセットは、２つ以上のサブセットに分割されるが、分割により生成された各サブセットに含まれるトレーニングデータの総数は予め設定されたしきい値を超える。
【００２０】
実用用途においては、トレーニングデータセットは、ラベル付けされた語を含む多数のテキスト文書を含み、分割により生成された各サブセットは、当該各サブセットに含まれるテキスト文書の数が予め設定されたしきい値を超えるか、または当該各サブセットに含まれるラベル付けされた語の数が予め設定されたしきい値を超えるという条件を満たす必要がある。すなわち、各サブセットには、当該各サブセットに含まれるトレーニングデータによるトレーニングによって対応する系列分類器を取得できるほどの、十分な量のトレーニングデータが確実に存在するようにする必要がある。１つの好適な実装においては、各サブセットに含まれるトレーニングデータの量が特定のしきい値を下回るようにすることも必要となる。その目的は、各サブセットに含まれるトレーニングデータの量が過剰になると、動作時間が長くなり、系列分類器を構築する際の効率が低下するので、それを避けるためである。
【００２１】
本発明の１つの実施例においては、トレーニングデータセットに含まれるテキスト文書は、部分的にラベル付けされたテキスト文書であっても、完全にラベル付けされたテキスト文書であってもよいが、本発明は、部分的にラベル付けされたテキスト文書に対して特に効果的である。
【００２２】
動作２０２は、サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築する。
【００２３】
本発明の１つの実施例においては、各サブセットに対応する系列分類器を構築しても、あるいはサブセット群の一部に対応する系列分類器を構築してもよい。この場合、各サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって各サブセットに対応する１つの系列分類器を構築して、サブセットと系列分類器とを１対１で対応させるようにするのが望ましい。
【００２４】
また、系列分類器は、複数の構築プロセスから最終的な系列分類器を取得することにより構築できるのが望ましい。
【００２５】
本発明の１つの実施例においては、サブセットに含まれるトレーニングデータと特徴語セットとに基づき所定のアルゴリズムによってサブセットに対応する系列分類器が構築され、各系列分類器を用いてサブセットに対する概念認識が実行され、新たに認識された概念を用いてサブセットの再ラベル付けが行われ、再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき所定のアルゴリズムによって各系列分類器が再構築され、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識が順次実行される。
【００２６】
１つの実装においては、計算の複雑さを軽減するために、しきい値を予め設定することができる。この場合、新たに認識された概念の数が予め設定されたしきい値を超えたと判定された場合に限り、新しい概念を用いてサブセットが再ラベル付けされる。また、新たに認識された概念の数が予め設定されたしきい値を下回ると判定されるまでは、各系列分類器を繰り返し構築することができる。そして、新たに認識された概念の数がしきい値を下回ったと判定されると、再構築プロセスは終了し、最終的な系列分類器として現在取得されている各系列分類器を用いて、現在のテキスト文書に対する概念認識が実行される。
【００２７】
サブセットに含まれるトレーニングデータと、特徴語セットとに基づき、既定のアルゴリズムによって、サブセットに対応する系列分類器が初めて構築される際には、最初に初期化が実行されるのが望ましい。すなわち、サブセットに含まれるラベル付けされた各語に基づいて辞書が構築され、辞書に含まれるラベル付けされた各語に基づいて、各サブセットに含まれるトレーニングデータがラベル付けされ（すなわち、辞書に含まれラベル付けされているが、サブセットにおいてはラベル付けされていない語が、サブセットにおいてラベル付けされる）、さらに、サブセットに含まれるトレーニングデータと、特徴語セットとに基づき、既定のアルゴリズムによって、ラベル付けされた各サブセットに対応する系列分類器が構築されるのが望ましい。
【００２８】
現在の各系列分類器を用いて各サブセットに対する概念認識がそれぞれ実行された後で、新たに認識された概念を用いて各サブセットが再ラベル付けされる際には、予め設定されたしきい値を超える頻度で新しい概念が出現すると判定されると、新たに認識された概念がラベル付けされた語として辞書に追加され、さらに、更新された辞書に含まれているラベル付けされた語に基づいて、サブセットに含まれるトレーニングデータが再ラベル付けされるのが望ましい。本実施例においては、新たに認識された概念が予め設定されたしきい値を超える頻度で出現すると判定されると、新しい概念がラベル付けされた語として辞書に追加される。しきい値を超えなかった場合には、新しい概念は誤って認識された偽りの概念として廃棄されるため、新たに認識された概念の不正確さが低減される。系列分類器を繰り返し再構築するこのプロセスは、複数の視点による共学習を実行し、複数の不正確な分類器に対してこのプロセスに存在する暗黙の投票戦略を適用することによって、新しい概念を認識する際の不正確さを低減する。その結果、反復的な各学習プロセスで新たにラベル付けされる概念の正確さ（分類器が知識を取得する際の信頼性）が確保される。また、各分類手段が対象分野において有する知識（分類器が認識できる概念の範囲）は限定的であるが、反復的な複数のプロセスにおいて複数の系列分類器を結合することによって、テキスト文書に対して概念認識を実行する際の認識の正確さと再現率を共に改善することができる。
【００２９】
本実施例においては、系列分類器を再構築するか否かを判定するための基準として、新たに認識された概念の数が使用されるが、実用用途においては、系列分類器を再構築するか否かを判定するための基準を、新たに認識された概念の数ではなく、新たに認識された概念の辞書内に占める比率としてもよい。この場合は、新たに認識された概念の辞書内に占める比率が予め設定されたしきい値を超えれば系列分類器が再構築され、超えなければ再構築プロセスは終了する。
【００３０】
各系列分類器を構築する際に使用される所定のアルゴリズムの具体例としては、隠れマルコフモデル（ＨＭＭ）、最大エントロピーモデル、条件付き確率場（ＣＲＦ）モデルなどがある。ここで挙げたアルゴリズムは単なる例示であり、系列分類器を構築できるものであれば、その他のアルゴリズムも本実施例の範囲に含まれる。
【００３１】
ここでは、以下の擬似コードセグメントを例として、各系列分類器を構築するプロセスを説明する。
【００３２】
Ｉｎｉｔｉａｌｉｚｅ：ａ  ｄｉｃｔｉｏｎａｒｙ  Ｄ  ｉｓ  ｂｕｉｌｔ  ｂａｓｅｄ  ｕｐｏｎ  ｒｅｓｐｅｃｔｉｖｅ  ｌａｂｅｌｅｄ  ｗｏｒｄｓ  ｉｎｃｌｕｄｅｄ  ｉｎ  ｒｅｓｐｅｃｔｉｖｅ  ｓｕｂｓｅｔｓ；
Ｌｏｏｐ：
Ｔｈｅ  ｒｅｓｐｅｃｔｉｖｅ  ｓｕｂｓｅｔｓ  Ｔ１，Ｔ２……Ｔｎ  ａｒｅ  ｒｅｌａｂｅｌｅｄ  ｕｓｉｎｇ  ｔｈｅ  ｄｉｃｔｉｏｎａｒｙ  Ｄ，ｔｈａｔ  ｉｓ，ｌａｂｅｌｅｄ  ｗｏｒｄｓ  ｗｈｉｃｈ  ａｒｅ  ｉｎｃｌｕｄｅｄ  ｉｎ  ｔｈｅ  ｄｉｃｔｉｏｎａｒｙ  Ｄ  ｂｕｔ  ｎｏｔ  ｉｎｃｌｕｄｅｄ  ｉｎ  ａ  ｓｕｂｓｅｔ  ａｒｅ  ｌａｂｅｌｅｄ  ｉｎ  ｔｈｅ  ｓｕｂｓｅｔ；
Ｆｏｒ  ｉ＝１：ｎ
｛Ａ  ｓｅｑｕｅｎｃｅ  ｃｌａｓｓｉｆｉｅｒ  Ｍｉ  ｉｓ  ｂｕｉｌｔ  ｉｎ  ａ  ｐｒｅｄｅｔｅｒｍｉｎｅｄ  ａｌｇｏｒｉｔｈｍ  ｆｏｒ  ｅａｃｈ  ｓｕｂｓｅｔ  Ｔｉ；｝
Ｄｅｆｉｎｅ  Ｌ  ｆｏｒ  ｓｔｏｒｉｎｇ  ｎｅｗ  ｒｅｃｏｇｎｉｚｅｄ  ｃｏｎｃｅｐｔｓ
Ｆｏｒ  ｉ＝１：ｎ
Ｆｏｒ  ｊ＝１：ｎ
｛Ｃｏｎｃｅｐｔ  ｒｅｃｏｇｎｉｔｉｏｎ  ｉｓ  ｐｅｒｆｏｒｍｅｄ  ｏｎ  Ｔｊ  ｕｓｉｎｇ  ｔｈｅ  ｓｅｑｕｅｎｃｅ  ｃｌａｓｓｉｆｉｅｒ  Ｍｉ，ａｎｄ  ａ  ｎｅｗ  ｒｅｃｏｇｎｉｚｅｄ  ｃｏｎｃｅｐｔ  Ｃ  ｉｓ  ａｄｄｅｄ  ｔｏ  Ｌ；｝
Ｆｏｒ  ａｎｙ  ｃｏｎｃｅｐｔ  Ｃ  ｉｎ  Ｌ，ｄｅｔｅｒｍｉｎｅ  ｉｆ  Ｃ  ａｐｐｅａｒｓ  ａｔ  ａ  ｆｒｅｑｕｅｎｃｙ  ＞  ａ  ｐｒｅｓｅｔ  ｔｈｒｅｓｈｏｌｄ  α
｛Ａｄｄ  ｔｈｅ  ｎｅｗ  ｃｏｎｃｅｐｔ  Ｃ  ｔｏ  ｔｈｅ  ｄｉｃｔｉｏｎａｒｙ  Ｄ｝
Ｉｆ  ｔｈｅ  ｎｕｍｂｅｒ  ｏｆ  ｃｏｎｃｅｐｔｓ  ｉｎｃｌｕｄｅｄ  ｉｎ  Ｌ  ＜  ａ  ｐｒｅｓｅｔ  ｖａｌｕｅ  β
Ｂｒｅａｋ  ｌｏｏｐ
Ｆｉｎａｌｌｙ  ｏｕｔｐｕｔ  ｛Ｍｉ，ｉ＝１：ｎ｝
【００３３】
ここで、βは、系列分類器を１回構築するだけで最終的な系列分類器を決定できるように、大きな値に設定してもよい。
【００３４】
具体的には、系列分類器を１回のみの構築プロセスで取得して、現在のテキスト文書に対して概念認識を実行するために用いることも、あるいは、系列分類器を２回以上の構築プロセスにより取得して、現在のテキスト文書に対して概念認識を実行するために用いることもできる。
【００３５】
動作２０３は、取得された各系列分類器を用いて現在のテキスト文書に対して概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定する。
【００３６】
各系列分類器によって認識された１つの概念に基づいて現在のテキスト文書に含まれている概念を決定する際には、（i）１つ以上の系列分類器によって認識された１つの概念を現在のテキスト文書に含まれている概念として決定するか、（ii）１つの系列分類器によって認識された１番目の概念が、別の系列分類器によって認識された２番目の概念の一部である場合には、２番目の概念を現在のテキスト文書に含まれる概念として決定するか、または（iii）１つの系列分類器によって認識された１番目の概念の一部が、別の系列分類器によって認識された２番目の概念の一部と同一である場合には、１番目の概念と２番目の概念を結合し、現在のテキスト文書に含まれる概念として決定するのが望ましい。
【００３７】
本発明の１つの実施例において、現在のテキスト文書に含まれる概念は、上記のいくつかの方法に限定されることなく、各系列分類器によって認識される概念に基づいて多数の方法で決定することができる。
【００３８】
例えば、現在のテキスト文書に対して概念認識が実行された後、１番目の系列分類器によって認識された概念のセットＲ１の中に概念Ｃがあり、２番目の系列分類器によって認識された概念のセットの中にも概念Ｃがある場合には、Ｃが現在のテキスト文書に含まれる概念として決定される。
【００３９】
他の例においては、現在のテキスト文書に対して概念認識が実行された後、１番目の系列分類器によって認識された概念のセットＲ１の中に概念Ｃがあるものの、他の系列分類器によって認識された概念のセットの中には概念Ｃがない場合には、Ｃが現在のテキスト文書に含まれる概念として決定される。
【００４０】
さらに他の例においては、現在のテキスト文書に対して概念認識が実行された後、１番目の系列分類器によって認識された概念のセットＲ１の中に概念Ｃ１があり、２番目の系列分類器によって認識された概念のセットＲ２の中に概念Ｃ２があり、さらに、Ｃ１がＣ２の一部である場合には、Ｃ２が現在のテキスト文書に含まれる概念として決定される。
【００４１】
さらに他の例においては、現在のテキスト文書に対して概念認識が実行された後、１番目の系列分類器によって認識された概念のセットＲ１の中に概念Ｃ１＝ＡＢがあり、２番目の系列分類器によって認識された概念のセットＲ２の中に概念Ｃ２＝ＢＣがあり、さらに、Ｃ１とＣ２に重複部分Ｂがある場合には、Ｃ１とＣ２が結合されてＣ３＝ＡＢＣが生成され、これが現在のテキスト文書に含まれる概念として決定される。
【００４２】
次に、図３および図４を参照して、本発明の１つの実施例による概念認識の完全なプロセスを説明する。
【００４３】
まず、ラベル付けされたいくつかのテキスト文書Ｔ（すなわち、トレーニングデータ）から特徴語が選択され、特徴語セットが取得される。続いて、当該いくつかのラベル付けされたテキスト文書がトレーニングデータの複数のサブセット（例えばｎ個のサブセット）に分割される。次に、トレーニングデータの各サブセットと特徴語セットとに基づいて、学習プロセスが繰り返し実行され、複数の系列分類器が構築される。ここで、系列分類器の数は、トレーニングデータのサブセットの数と一致する。すなわち、各サブセットに対して１つの系列分類器が構築され、例えばｎ個のサブセットであれば、それに対してｎ個の系列分類器が取得される。さらに、構築された各系列分類器を用いて、テストテキスト文書に対して概念認識が実行され、予備的に認識された概念の各セットが取得される。ここで、各系列分類器は１つの概念セットに対応し、例えばｎ個の系列分類器を用いてテストテキスト文書セットＤ内の任意のテキスト文書に対して概念認識がそれぞれ実行された場合には、同一のテキスト文書に対してｎ個の概念セットが取得される。最後に、各概念セットは、予め設定された結合ルールに基づいて結合され、最終的な概念セットが生成される。例えば、同一のテキスト文書に対するｎ個の概念セットが結合され、当該テキスト文書に対する最終的な概念セットが生成される。
【００４４】
上記の原理に基づけば、本発明の１つの実施例においては、図５に示すような共学習に基づく概念認識装置がさらに提供され、この装置は概してその処理手段として、
【００４５】
１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するように構成された第１の処理ユニット５０１と、
【００４６】
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するように構成された第２の処理ユニット５０２と、
【００４７】
現在のテキスト文書に対し、取得された各系列分類器を用いて概念認識を実行し、各系列分類器によって認識された概念に基づいて現在のテキスト文書に含まれる概念を決定するように構成された第３の処理ユニット５０３とを含む。
【００４８】
第３の処理ユニット５０３は、具体的には、各系列分類器によって認識された１つの概念に基づいて現在のテキスト文書に含まれている概念を決定する際には、（i）１つ以上の系列分類器によって認識された概念を現在のテキスト文書に含まれている概念として決定するか、（ii）１つの系列分類器によって認識された１番目の概念がもう１つの系列分類器によって認識された２番目の概念の一部である場合には、２番目の概念を現在のテキスト文書に含まれる概念として決定するか、または（iii）１つの系列分類器によって認識された１番目の概念の一部がもう１つの系列分類器によって認識された２番目の概念の一部と同じである場合には、１番目の概念と２番目の概念を結合し、結合された概念を現在のテキスト文書に含まれる概念として決定するように構成される。
【００４９】
第２の処理ユニット５０２は、具体的には、各サブセットに含まれるトレーニングデータと特徴語セットとに基づき、共学習によって各サブセットに対して系列分類器を構築するように構成される。
【００５０】
第２の処理ユニット５０２は、具体的には、サブセットに含まれるトレーニングデータと特徴語セットとに基づいて各サブセットに対応する系列分類器を構築し、各系列分類器を用いてサブセットに対して概念認識をそれぞれ実行し、新たに認識された概念を用いてサブセットを再ラベル付けし、再ラベル付けされた各サブセットに含まれるトレーニングデータと特徴語セットとに基づいて各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対して概念認識を順次実行するように構成される。
【００５１】
１つの実装においては、計算の複雑さを軽減するために、しきい値を予め設定することができる。この場合、新たに認識された概念の数が予め設定されたしきい値を超えたと判定された場合に限り、新しい概念を用いてサブセットが再ラベル付けされる。また、新たに認識された概念の数が予め設定されたしきい値を下回ると判定されるまでは、各系列分類器を繰り返し構築することができる。そして、新たに認識された概念の数がしきい値を下回ったと判定されると、再構築プロセスは終了し、最終的な系列分類器として現在取得されている各系列分類器を用いて、現在のテキスト文書に対する概念認識が実行される。
【００５２】
第２の処理ユニット５０２は、具体的には、サブセットに含まれるラベル付けされた各語に基づいて辞書を構築し、辞書に含まれているラベル付けされた各語に基づいてサブセットに含まれているトレーニングデータをラベル付けし、さらに、ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づいてサブセットに対する系列分類器を構築するように構成される。
【００５３】
さらに第２の処理ユニット５０２は、具体的には、新しい概念が予め設定されたしきい値を超える頻度で出現していると判定されると新しい概念を辞書に追加し、更新された辞書に基づいてサブセットに含まれるトレーニングデータを再ラベル付けすることによって、新しい概念を用いてサブセットを再ラベル付けするように構成される。
【００５４】
第１の処理ユニット５０１は、分割された各サブセットに含まれるトレーニングデータの量が予め設定されたしきい値を上回るように、トレーニングデータセットを各サブセットに分割するように構成されることが望ましい。
【００５５】
前述の技術的解決策に基づく本発明の実施例においては、１つのトレーニングデータセットは２つ以上のサブセットに分割され、サブセットに含まれるラベル付けされた語を含むトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器が構築される（つまり、複数の系列分類器が構築される）。次に、当該複数の系列分類器を用いて、現在のテキスト文書に対する概念認識がそれぞれ実行され、さらに、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念が決定される。これにより、部分的にラベル付けされたトレーニングデータセットに基づいて構築された系列分類器によって概念認識を実行した場合に、認識の品質が低下するという、既存の概念認識方法における技術的問題が克服される。その結果、部分的にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって概念認識が実行された場合でも、完全にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって概念認識が実行された場合と同様の効果が達成され、概念認識、特に、部分的にラベル付けされたトレーニングデータに基づいて構築された系列分類器によって実行される概念認識の品質を改善することができる。また、テキスト文書に含まれる概念を決定するために、複数の系列分類器によって現在のテキスト文書に対する概念認識が実行されるので、複数の視点による概念認識が実行され、認識の正確さと再現率が共に改善される。
【００５６】
言うまでもなく、当業者は、本発明の精神および範囲を逸脱することなく、様々な変更および変形を本発明に加えることができる。したがって、本発明は、本発明に対するこれらの変更および変形が本発明の添付請求項およびその同等物の範囲内にある限り、かかる変更および改変を包含することも意図されている。
【００５７】
さらに、上記実施形態の一部又は全部は、以下の付記のようにも記載されうるが、これに限定されない。
【００５８】
（付記１）
共学習に基づく概念認識方法であって、
１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するステップと、
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された１つの特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するステップと、
取得された各系列分類器を用いて、現在のテキスト文書に対する概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するステップと
を含むことを特徴とする共学習に基づく概念認識方法。
【００５９】
（付記２）
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された１つの特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築する前記ステップが、
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築し、
各系列分類器をそれぞれ用いてサブセットに対する概念認識を実行し、新たに認識された概念を用いてサブセットの再ラベル付けを行い、
再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識を順次実行する
ことを特徴とする付記１に記載の共学習に基づく概念認識方法。
【００６０】
（付記３）
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築する前記ステップが、
サブセットに含まれるラベル付けされた各語に基づいて辞書を構築し、
辞書に含まれているラベル付けされた各語に基づいてサブセットに含まれているトレーニングデータをラベル付けし、さらに、ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づいてサブセットに対する系列分類器を構築する
ことを特徴とする付記２に記載の共学習に基づく概念認識方法。
【００６１】
（付記４）
新たに認識された概念を用いてサブセットの再ラベル付けを行う前記ステップが、
新しい概念が予め設定されたしきい値を超える頻度で出現していると判定されると新しい概念を辞書に追加し、
更新された辞書に基づいてサブセットに含まれるトレーニングデータを再ラベル付けする
ことを特徴とする付記２に記載の共学習に基づく概念認識方法。
【００６２】
（付記５）
各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定する前記ステップが、
１つ以上の系列分類器によって認識された１つの概念を現在のテキスト文書に含まれている概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念が、別の系列分類器によって認識された２番目の概念の一部である場合には、２番目の概念を現在のテキスト文書に含まれる概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念の一部が、別の系列分類器によって認識された２番目の概念の一部と同一である場合には、１番目の概念と２番目の概念を結合し、現在のテキスト文書に含まれる概念として決定する
ことを特徴とする付記１に記載の共学習に基づく概念認識方法。
【００６３】
（付記６）
各サブセットに含まれるトレーニングデータと特徴語セットとに基づき、共学習によって各サブセットに対して系列分類器を構築する
ことを特徴とする付記１から付記５の何れかに記載の共学習に基づく概念認識方法。
【００６４】
（付記７）
分割後の各サブセットに含まれるトレーニングデータの量が予め設定されたしきい値を上回るように、トレーニングデータセットを各サブセットに分割する
ことを特徴とする付記１から付記５の何れかに記載の共学習に基づく概念認識方法。
【００６５】
（付記８）
共学習に基づく概念認識装置であって、
１つのトレーニングデータセットであって、トレーニングデータセットに含まれるトレーニングデータはラベル付けされた語を含むテキスト文書であることを特徴とするトレーニングデータセットを、２つ以上のサブセットに分割するように構成された第１の処理手段と、
サブセットに含まれるトレーニングデータと、トレーニングデータセットから抽出された特徴語セットとに基づき、共学習によって２つ以上の系列分類器を構築するように構成された第２の処理手段と、
取得された各系列分類器を用いて、現在のテキスト文書に対する概念認識をそれぞれ実行し、各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するように構成された第３の処理手段と
を備えることを特徴とする共学習に基づく概念認識装置。
【００６６】
（付記９）
前記第２の処理手段は、
サブセットに含まれるトレーニングデータと特徴語セットとに基づきサブセットに対応する系列分類器を構築し、
各系列分類器をそれぞれ用いてサブセットに対する概念認識を実行し、新たに認識された概念を用いてサブセットの再ラベル付けを行い、
再ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づき各系列分類器を再構築し、再構築された各系列分類器を用いて再ラベル付けされた各サブセットに対し概念認識を順次実行するように構成される
ことを特徴とする付記８に記載の共学習に基づく概念認識装置。
【００６７】
（付記１０）
前記第２の処理手段は、
サブセットに含まれるラベル付けされた各語に基づいて辞書を構築し、
辞書に含まれているラベル付けされた各語に基づいてサブセットに含まれているトレーニングデータをラベル付けし、さらに、ラベル付けされたサブセットに含まれるトレーニングデータと特徴語セットとに基づいてサブセットに対する系列分類器を構築するように構成される
ことを特徴とする付記９に記載の共学習に基づく概念認識装置。
【００６８】
（付記１１）
前記第２の処理手段は、
新しい概念が予め設定されたしきい値を超える頻度で出現していると判定されると新しい概念を辞書に追加し、更新された辞書に基づいてサブセットに含まれるトレーニングデータを再ラベル付けすることにより、新たに認識された概念を用いてサブセットの再ラベル付けを行うように構成される
ことを特徴とする付記１０に記載の共学習に基づく概念認識装置。
【００６９】
（付記１２）
前記第３の処理手段は、
１つ以上の系列分類器によって認識された１つの概念を現在のテキスト文書に含まれている概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念が、別の系列分類器によって認識された２番目の概念の一部である場合には、２番目の概念を現在のテキスト文書に含まれる概念として決定し、あるいは
１つの系列分類器によって認識された１番目の概念の一部が、別の系列分類器によって認識された２番目の概念の一部と同一である場合には、１番目の概念と２番目の概念を結合し、現在のテキスト文書に含まれる概念として決定することにより、
各系列分類器によって認識された概念に基づいて、現在のテキスト文書に含まれる概念を決定するように構成される
ことを特徴とする付記８に記載の共学習に基づく概念認識装置。
【００７０】
（付記１３）
前記第２の処理手段は、
各サブセットに含まれるトレーニングデータと特徴語セットとに基づき、共学習によって各サブセットに対して系列分類器を構築するように構成されることを特徴とする付記８から付記１２の何れかに記載の共学習に基づく概念認識装置。
【００７１】
（付記１４）
前記第１の処理手段は、分割後の各サブセットに含まれるトレーニングデータの量が予め設定されたしきい値を上回るように、トレーニングデータセットを各サブセットに分割するよう構成されることを特徴とする付記８から付記１２の何れかに記載の共学習に基づく概念認識装置。
【符号の説明】
【００７２】
１０１：テキスト文書記憶ユニット
１０２：特徴記憶ユニット
１０３：系列分類器記憶ユニット
１０４：テキスト文書記憶ユニット
１０５：概念記憶ユニット
５０１：第１の処理ユニット
５０２：第２の処理ユニット
５０３：第３の処理ユニット
【図１】
0005523543.tif 000002
【図２】
0005523543.tif 000003
【図３】
0005523543.tif 000004
【図４】
0005523543.tif 000005
【図５】
0005523543.tif 000006