(57)【要約】【課題】抽出対象文字列に精度よくラベルを付与するためのモデルを学習できるようにする。【解決手段】辞書照合部３６によって、ラベルが付与されていない第２の学習データの文字列に対してラベルを付与し、転移学習用素性生成部３８によって、第１の学習データと第２の学習データから素性を抽出して、第１の学習データと第２の学習データについて、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性からなる素性ベクトルを生成し、モデル学習部４０によって、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性の各々に対するパラメータを学習し、共通ドメイン素性に対するパラメータを抽出することにより、抽出対象文字列に精度よくラベルを付与するためのモデルを学習する。【選択図】図１
2015176355.tif 000002
【特許請求の範囲】
【請求項１】
抽出対象の文字列に対してラベルが予め付与された文書である第１の学習データと、前記ラベルが付与されていない文書である第２の学習データとの入力を受け付ける入力部と、
前記第２の学習データの文書に含まれる文字列と、前記文字列及び前記ラベルが対応付けられて格納された辞書とを照合し、前記第２の学習データの文書において、前記辞書に前記ラベルと対応付けられて格納されている前記文字列と一致する文字列に対して、前記ラベルを付与する辞書照合部と、
前記第１の学習データから素性を抽出して目的ドメイン素性とし、前記目的ドメイン素性を複製して共通ドメイン素性とし、前記目的ドメイン素性、他ドメイン素性、及び前記共通ドメイン素性からなる素性ベクトルを生成し、前記文字列にラベルが付与された第２の学習データから前記素性を抽出して前記他ドメイン素性とし、前記他ドメイン素性を複製して前記共通ドメイン素性とし、前記素性ベクトルを生成する素性生成部と、
前記第１の学習データの前記素性ベクトル及び前記第２の学習データの前記素性ベクトルに基づいて、前記目的ドメイン素性、前記他ドメイン素性、及び前記共通ドメイン素性の各々に対するパラメータを学習し、前記学習されたパラメータのうち、前記共通ドメイン素性に対するパラメータを抽出し、前記抽出対象の文字列を抽出して前記ラベルを付与するためのモデルのパラメータとして出力する学習部と、
を備えるモデル学習装置。
【請求項２】
前記抽出対象の文字列を、固有表現とし、
前記ラベルを、固有表現分類とし、
前記モデルを、前記固有表現を抽出して前記固有表現に前記固有表現分類を付与するためのモデルとした請求項１記載のモデル学習装置。
【請求項３】
入力部が、抽出対象の文字列に対してラベルが予め付与された文書である第１の学習データと、前記ラベルが付与されていない文書である第２の学習データとの入力を受け付けるステップと、
辞書照合部が、前記第２の学習データの文書に含まれる文字列と、前記文字列及び前記ラベルが対応付けられて格納された辞書とを照合し、前記第２の学習データの文書において、前記辞書に前記ラベルと対応付けられて格納されている前記文字列と一致する文字列に対して、前記ラベルを付与するステップと、
素性生成部が、前記第１の学習データから素性を抽出して目的ドメイン素性とし、前記目的ドメイン素性を複製して共通ドメイン素性とし、前記目的ドメイン素性、他ドメイン素性、及び前記共通ドメイン素性からなる素性ベクトルを生成し、前記文字列にラベルが付与された第２の学習データから前記素性を抽出して前記他ドメイン素性とし、前記他ドメイン素性を複製して前記共通ドメイン素性とし、前記素性ベクトルを生成するステップと、
学習部が、前記第１の学習データの前記素性ベクトル及び前記第２の学習データの前記素性ベクトルに基づいて、前記目的ドメイン素性、前記他ドメイン素性、及び前記共通ドメイン素性の各々に対するパラメータを学習し、前記学習されたパラメータのうち、前記共通ドメイン素性に対するパラメータを抽出し、前記抽出対象の文字列を抽出して前記ラベルを付与するためのモデルのパラメータとして出力するステップと、
を含むモデル学習方法。
【請求項４】
コンピュータを、請求項１又は２記載のモデル学習装置を構成する各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、モデル学習装置、方法及びプログラムに係り、特に、固有表現のカテゴリを示すラベルが付与された固有表現を抽出するためのモデル学習装置、方法及びプログラムに関する。
【背景技術】
【０００２】
従来より、「ナイル川は世界で一番長い川」という文章から、自動的に「ナイル川」という固有物を指す表現、「固有表現」を抽出し、詳細なラベル（例えば「河川名」）を付与する技術が知られている（例えば、非特許文献１）。固有表現とは、固有名詞のような、特定の場所や物事を指す表現のことである。たとえば、「ＮＴＴ（登録商標）」や「大阪」は、「組織」、「場所」についての固有表現である。ここで、「組織」や「場所」は固有表現のカテゴリと呼ばれる。従来、ＩＲＥＸという会議において定義された、8つの固有表現カテゴリが、標準の固有表現カテゴリとして用いられてきた。しかしながら、「場所」や「組織」では粒度が粗く、アプリケーションによっては、より詳細なカテゴリ分類が必要なことがある。ニューヨーク大の関根らは、固有表現を細分化した、拡張固有表現という概念を提案しており、その枠組みでは、200クラスの固有表現カテゴリが定義されている（非特許文献２）。
【０００３】
また、非特許文献１では、拡張固有表現を従来の手掛かり情報（周辺文脈情報）と、機械学習法の１つであるCRFによって解いている。ここで、CRF（Conditional Random Fields）とは、形態素解析や固有表現抽出等の系列ラベリング問題を解くのに用いられる識別学習器である。
【０００４】
また、上記非特許文献１の識別学習器により、テキストに固有表現ラベルの付与された「学習データ」を用いて、固有表現を抽出し、詳細なラベルを付与するためのモデルを作成する手法が知られている（例えば、特許文献１）。
また、Wikipedia等の既存の辞書を用いて、固有表現とラベルの対から拡張固有表現の辞書を獲得する手法が知られている（例えば、非特許文献３）。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１３−２４６７９５
【非特許文献】
【０００６】
【非特許文献１】橋本、中村、「拡張固有表現タグ付きコーパスの構築-白書，書籍，Yahoo!知恵袋コアデータ-」、言語処理学会第16回年次大会、２０１０年、３月
【非特許文献２】Satoshi Sekine, Chikashi Nobata, Definition, dictionaries and tagger for Extended Named Entity Hierarchy  LREC2004 pp．1977-1980
【非特許文献３】Ryuichiro Higashinaka, Kugatsu Sadamitsu, Kuniko Saito, Toshiro Makino and Yoshihiro Matsuo, "Creating an Extended Named Entity Dictionary from Wikipedia", The 24th International Conference on Computational Linguistics (COLING 2012)
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかし、特許文献１の手法では、学習データは人手で作成するしかなく、モデルを高精度化する際にコストがかかってしまう、という課題がある。
【０００８】
また、固有表現は日々生成されるため、非特許文献３により得られる辞書だけを用いたマッチングには固有表現の再現率における課題がある。
【０００９】
本発明では、上記課題を解決するために成されたものであり、抽出対象文字列に精度よくラベルを付与するためのモデルを学習することができるモデル学習装置、方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１０】
上記目的を達成するために、本発明に係るモデル学習装置は、抽出対象の文字列に対してラベルが予め付与された文書である第１の学習データと、前記ラベルが付与されていない文書である第２の学習データとの入力を受け付ける入力部と、前記第２の学習データの文書に含まれる文字列と、前記文字列及び前記ラベルが対応付けられて格納された辞書とを照合し、前記第２の学習データの文書において、前記辞書に前記ラベルと対応付けられて格納されている前記文字列と一致する文字列に対して、前記ラベルを付与する辞書照合部と、前記第１の学習データから素性を抽出して目的ドメイン素性とし、前記目的ドメイン素性を複製して共通ドメイン素性とし、前記目的ドメイン素性、他ドメイン素性、及び前記共通ドメイン素性からなる素性ベクトルを生成し、前記文字列にラベルが付与された第２の学習データから前記素性を抽出して前記他ドメイン素性とし、前記他ドメイン素性を複製して前記共通ドメイン素性とし、前記素性ベクトルを生成する素性生成部と、前記第１の学習データの前記素性ベクトル及び前記第２の学習データの前記素性ベクトルに基づいて、前記目的ドメイン素性、前記他ドメイン素性、及び前記共通ドメイン素性の各々に対するパラメータを学習し、前記学習されたパラメータのうち、前記共通ドメイン素性に対するパラメータを抽出し、前記抽出対象の文字列を抽出して前記ラベルを付与するためのモデルのパラメータとして出力する学習部と、を含んで構成されている。
【００１１】
また、本発明に係るモデル学習装置において、前記抽出対象の文字列を、固有表現とし、前記ラベルを、固有表現分類とし、前記モデルを、前記固有表現を抽出して前記固有表現に前記固有表現分類を付与するためのモデルとしてもよい。
【００１２】
本発明に係るモデル学習方法は、入力部が、抽出対象の文字列に対してラベルが予め付与された文書である第１の学習データと、前記ラベルが付与されていない文書である第２の学習データとの入力を受け付けるステップと、辞書照合部が、前記第２の学習データの文書に含まれる文字列と、前記文字列及び前記ラベルが対応付けられて格納された辞書とを照合し、前記第２の学習データの文書において、前記辞書に前記ラベルと対応付けられて格納されている前記文字列と一致する文字列に対して、前記ラベルを付与するステップと、素性生成部が、前記第１の学習データから素性を抽出して目的ドメイン素性とし、前記目的ドメイン素性を複製して共通ドメイン素性とし、前記目的ドメイン素性、他ドメイン素性、及び前記共通ドメイン素性からなる素性ベクトルを生成し、前記文字列にラベルが付与された第２の学習データから前記素性を抽出して前記他ドメイン素性とし、前記他ドメイン素性を複製して前記共通ドメイン素性とし、前記素性ベクトルを生成するステップと、学習部が、前記第１の学習データの前記素性ベクトル及び前記第２の学習データの前記素性ベクトルに基づいて、前記目的ドメイン素性、前記他ドメイン素性、及び前記共通ドメイン素性の各々に対するパラメータを学習し、前記学習されたパラメータのうち、前記共通ドメイン素性に対するパラメータを抽出し、前記抽出対象の文字列を抽出して前記ラベルを付与するためのモデルのパラメータとして出力するステップと、を含んで実行することを特徴とする。
【００１３】
また、本発明のプログラムは、コンピュータを、上記のモデル学習装置を構成する各部として機能させるためのプログラムである。
【発明の効果】
【００１４】
以上説明したように、本発明のモデル学習装置、方法、及びプログラムによれば、辞書を用いて、ラベルが付与されていない第２の学習データの文字列に対してラベルを付与し、第１の学習データと第２の学習データから素性を抽出して、第１の学習データと第２の学習データについて、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性からなる素性ベクトルを生成して、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性の各々に対するパラメータを学習し、共通ドメイン素性に対するパラメータを抽出することにより、抽出対象文字列に精度よくラベルを付与するためのモデルを学習することができる、という効果が得られる。
【図面の簡単な説明】
【００１５】
【図１】本発明の実施の形態に係るモデル学習装置の機能的構成を示すブロック図である。
【図２】本発明の実施の形態に係るモデル学習装置におけるモデル学習処理ルーチンを示すフローチャートである。
【図３】モデルを学習する方法を説明するための図である。
【図４】目的ドメイン素性及び他ドメイン素性の複製例を示す図である。
【発明を実施するための形態】
【００１６】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００１７】
＜本発明の実施の形態の原理＞
【００１８】
本発明の実施の形態において、文字列を抽出し適切なラベルを付与するためのモデルを、転移学習により、既存の学習データと、ＷＥＢ等から得られる学習データとを用いて学習する。
【００１９】
転移学習とは、モデル学習の際、目的ドメインのデータ（例えば新聞）だけでなく、他のドメインのデータ（例えばblog）を、目的ドメインにとって効果のあるように学習する方法のことである。
【００２０】
転移学習の手法としては、非特許文献４（Hal Daume III, "Frustratingly Easy Domain Adaptation", In Proceedings of the 45th Annual Meeting of the Association of Computational Linguistics, pp.256-263 (ACL-2007)）に記載されたFeature Augmentation法を挙げることができ、本発明の実施の形態でも同様の手法を用いるものとする。
【００２１】
Feature Augmentation法は、後述する第１の学習データ（既存の学習データ）を目的ドメインとし、後述する第２の学習データ（ＷＥＢ等から得られた文書集合に疑似正解ラベルを付与したもの）を他ドメインとして、目的ドメインのモデルを、他ドメインを含めて学習するものである。Feature Augmentation法では、ドメイン毎に、多数の素性を複製することにより、ドメインを考慮した学習を行う。なお、学習方法は何を使用してもよい。
【００２２】
例えば、目的ドメインの文書から、重みが１．０となる素性aとcが得られたとする。また、他ドメインの文書からは、重みが１．０となる素性a,b,dが得られたとする。素性cとdは相反するものとする（たとえば、目的ドメインでは「を/格助詞」が必ず「が/格助詞」に修正されたが、他ドメインでは必ず「に/格助詞」に修正されたような場合をいう）。Feature Augmentation法では、素性の種類の和集合をとり、素性a,b,c,dを取り扱う。そして、素性a,b,c,dを「共通」、「目的ドメイン」、および「他ドメイン」の各々にコピーして、素性ベクトルを構築する。
【００２３】
学習時には、目的ドメインから得られた素性の場合は、「共通」および「目的ドメイン」の素性を有効にして、素性ベクトルを生成する。他ドメインから得られた素性の場合は、「共通」および「他ドメイン」の素性を有効にして、素性ベクトルを生成する。
【００２４】
このように計算された素性の値を用いて、各素性の重みを最適化すると、目的ドメイン、他ドメインに共通して現れる素性は、「共通」における当該素性の重みが大きくなる。目的ドメイン、他ドメインの片方にしか現れない素性についても、「共通」における当該素性の重みが付与される。一方、目的ドメインと他ドメインとで相反する素性については、「目的ドメイン」または「他ドメイン」における当該素性の重みが大きくなるが、「共通」における当該素性の重みは０に近づく。
【００２５】
また、本発明の実施の形態では、転移学習に用いる他ドメインである第２の学習データについて、疑似正解データを用いることを特徴とする。具体的には、ＷＥＢ等からラベル無し文書を検索し、既存の辞書（文字列とラベルの対を格納したもの）を用いて、該当箇所にラベルを付与することで、擬似的な学習データを得る。例えば「田中−人名」という文字列とラベルの対が辞書にあれば、ラベル無し文書中から「今日/田中(擬似正解＝人名)/と/会った」という学習データを得る。
【００２６】
ただし、この擬似的な学習データには次の問題点がある。
【００２７】
まず、辞書内の単語−ラベルの対応が誤っている可能性がある、という問題である。例えば、「織田信長」に「商品名」ラベルが付与されている場合がある。
【００２８】
また、単語に多義性が存在している可能性がある、という問題がある。例えば、「田中」という単語には「人名」と「地名」があるため、辞書だけでは手掛かりとなる周辺文脈を考慮できず、付与すべきラベルを判別できない。
【００２９】
また、文脈中に他のラベルが入っている可能性を考慮できない、という問題がある。例えば、「今日/田中（擬似正解＝人名）/と/吉田（正解は人名だが、辞書にはないためＮＩＬになる）/に/会った」というように、辞書にない単語にはラベルを付与できない。
【００３０】
本発明の実施の形態では、これらの問題点を解決するために、転移学習を用いて擬似的に作成されたデータを他ドメインと見なし、本来の学習データを目的ドメインとして同時に学習する。
【００３１】
なお、本発明の実施の形態においては、わかりやすさのため、固有表現抽出を例として説明する。
【００３２】
＜本発明の実施の形態に係るモデル学習装置の構成＞
【００３３】
次に、本発明の実施の形態に係るモデル学習装置の構成について説明する。図１に示すように、本発明の実施の形態に係るモデル学習装置１００は、文字列に対してラベルが付与されており、かつ、形態素解析済みの文書データを入力とし、抽出対象文字列を抽出しラベルを付与するためのモデルを学習する。このモデル学習装置１００は、ＣＰＵと、ＲＡＭと、後述するモデル学習処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。図１に示すように、モデル学習装置１００は、入力部１０と、演算部２０と、出力部５０とを備えている。
【００３４】
入力部１０は、抽出対象の文字列に対して正解ラベルが予め付与された形態素解析済みの文書の集合（教師データ）を、第１の学習データの集合として受け付ける。また、入力部１０は、ＷＥＢテキストなどの明示的ラベルが付与されていない形態素解析済みの文書の集合を、第２の学習データの集合として受け付ける。
【００３５】
演算部２０は、教師用データベース３０と、文書集合データベース３２と、辞書データベース３４と、辞書照合部３６と、転移学習用素性生成部３８と、モデル学習部４０と、モデル記憶部４２とを含んで構成されている。
【００３６】
教師用データベース３０は、第１の学習データの集合を記憶している。
【００３７】
文書集合データベース３２は、第２の学習データの集合を記憶している。
【００３８】
辞書データベース３４は、抽出対象の文字列とラベルの対を格納した辞書を記憶している。本発明の実施の形態では、人手で作成した辞書を用いる。また、非特許文献５に記載されている手法により得られる、固有表現と固有表現分類ラベルの対（利根川−Ｒｉｖｅｒの対など）を格納した拡張固有表現の辞書を用いることもできる。なお、ラベルがない辞書から、固有表現に対して仮想的ラベルを置くことで、固有表現と固有表現分類ラベルの対を格納した辞書を作成することも可能である。
【００３９】
辞書照合部３６は、文書集合データベース３２に記憶された第２の学習データの各々に対して、辞書データベース３４に記憶された辞書に含まれる文字列とラベルの対のエントリを照合して辞書引きを行う。辞書引きの結果、辞書に固有表現分類ラベルと対応付けられて格納されている文字列と一致する文字列が、第２の学習データの文書に含まれていた場合には、一致する文字列を含む第２の学習データの文書を抽出し、該当する文字列に対して疑似正解ラベルを付与する。
【００４０】
なお、擬似的な学習データの数を制御するため、次のような制約を設けてもよい。例えば、マッチングする事例数を、総事例数Ｎに制限してもよい。また、各ラベルに対するマッチング事例数Ｎ＿Ｌに制限してもよい。また、辞書の各エントリに対するマッチング事例数Ｎ＿Ｅ等に制限してもよい。例えば、Ｎ＿Ｌ＝１００の場合であれば、ラベル毎に、最大１００事例の学習データに当該ラベルを付与するようにしてもよい。
【００４１】
転移学習用素性生成部３８は、第１の学習データの各々について、当該第１の学習データの文書に含まれる各単語の素性を抽出する。抽出する素性としては従来と同様の素性を用いる（特許文献１）。固有表現を抽出する場合を例にとると、第１の学習データの文書が、「新潟/を/流れる/<River:信濃川>/は/日本一/長い/川」がであり、注目する単語が、「信濃川」、かつ固有表現分類ラベル「河川名」が付与されている場合、「当該単語は[河川名]である」といったラベル情報、「当該単語内の最後の文字は『川』である」といった単語内情報、「１つ後の単語は『は』である」といった周辺文脈情報を示す素性を生成する。これによって、図３（Ａ）に示すような素性化されたテキストが出力される。また、擬似正解ラベルが付与された第２の学習データの文書が、「関東/の/<River:利根川>/は/すごい」がであり、注目する単語が、「利根川」、かつ固有表現分類ラベル「河川名」が付与されている場合、図３（Ｂ）に示すような素性化されたテキストが出力される。なお、図３の例では、固有表現の抽出範囲の始まりの単語についてＢタグが付与され、抽出範囲の始まり以外の単語についてＩタグが付与され、それ以外の単語についてＯタグが付与されている。また、本実施の形態では、複数の固有表現が出現した場合に関する前後のシーケンシャルラベル素性は用いないものとする。
【００４２】
そして、転移学習用素性生成部３８は、第１の学習データの各単語について抽出した各素性を、目的ドメイン素性として複製し、更に、目的ドメイン素性を複製することで共通ドメイン素性を得る。具体的には、抽出した各素性に対して、素性種別を表す識別子の前にＩＮ＿、ＣＯＭＭＯＮ＿という接頭辞等を付与して、複製する（図４（Ａ）参照）。ＩＮ＿は目的ドメイン向け、ＣＯＭＭＯＮ＿は共通ドメイン向けを表す。そして、転移学習用素性生成部３８は、第１の学習データの文書の各単語について、複製した目的ドメイン素性と、値を０と置いた他ドメイン素性と、目的ドメイン素性を複製した共通ドメイン素性とからなる素性ベクトルを生成する。
【００４３】
同様に、転移学習用素性生成部３８は、第２の学習データの各々について、当該第２の学習データの文書に含まれる各単語の素性を抽出する。転移学習用素性生成部３８は、第２の学習データの各単語について抽出した各素性を、他ドメイン素性として複製し、更に、他ドメイン素性を複製することで共通ドメイン素性を得る。具体的には、抽出した各素性に対して、素性種別を表す識別子の前にＯＵＴ＿、ＣＯＭＭＯＮ＿という接頭辞等を付与して、複製する（図４（Ｂ）参照）。ＯＵＴ＿は他ドメイン向けを表す。そして、転移学習用素性生成部３８は、第２の学習データの文書の各単語について、値を０と置いた目的ドメイン素性と、複製した他ドメイン素性と、他ドメイン素性を複製した共通ドメイン素性とからなる素性ベクトルを生成する。
【００４４】
このようにして、転移学習用素性生成部３８は、第１の学習データの各単語について生成した素性ベクトルと、第２の学習データの各単語について生成した素性ベクトルとからなる転移学習用素性ファイルを生成する。
【００４５】
モデル学習部４０は、転移学習用素性生成部３８により生成された第１の学習データの各単語の素性ベクトルと第２の学習データの各単語の素性ベクトルとからなる転移学習用素性ファイルに基づいて、機械学習器により、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性の各々に対するパラメータを学習する。なお、機械学習器による学習は従来既知の手法（例えば、非特許文献１に記載の手法）を用いればよいため、説明を省略する。
【００４６】
そして、モデル学習部４０は、学習により得られた目的ドメイン素性、他ドメイン素性及び共通ドメイン素性の各々のパラメータのうち、共通ドメイン素性用のパラメータを抽出し、抽出対象の文字列を抽出してラベルを付与するためのモデルのパラメータとして、モデル記憶部４２に格納すると共に、出力部５０に出力する。
【００４７】
＜本発明の実施の形態に係るモデル学習装置の作用＞
【００４８】
次に、本発明の実施の形態に係るモデル学習装置１００の作用について説明する。入力部１０において第１の学習データの集合及び第２の学習データの集合を受け付けると、モデル学習装置１００は、図２に示すモデル学習処理ルーチンを実行する。
【００４９】
まず、ステップＳ１００では、辞書データベース３４に記憶されている辞書を読み込む。
【００５０】
次に、ステップＳ１０２では、教師用データベース３０に記憶されている第１の学習データの集合を取得する。
【００５１】
ステップＳ１０４では、文書集合データベース３２に記憶されている第２の学習データの集合から処理対象の第２の学習データを取得する。
【００５２】
ステップＳ１０６では、ステップＳ１０４で取得した第２の学習データの文書に対して、ステップＳ１００で読み込んだ辞書を用いて辞書引きを行い、辞書にラベルと対応付けられて格納されている文字列と一致する文字列が、第２の学習データの文書に含まれていた場合には、一致する文字列を含む第２の学習データの文書を抽出し、該当する文字列に対して疑似正解ラベルを付与する。
【００５３】
ステップＳ１０８では、全ての第２の学習データについて、上記ステップＳ１０６の処理を実行したか否かを判定し、上記ステップＳ１０６の処理を実行していない第２の学習データが存在する場合には、上記ステップＳ１０４へ戻り、当該第２の学習データを、処理対象とする。一方、全ての第２の学習データについて、上記ステップＳ１０６の処理を実行した場合には、ステップＳ１１０へ進む。
【００５４】
ステップＳ１１０では、入力部１０において受け付けた第１の学習データの各々に対し、当該第１の学習データの文書に含まれる各単語について、各素性を抽出する。
【００５５】
次に、ステップＳ１１２では、第１の学習データの各々の文書の各単語について、ステップＳ１１０において抽出した各素性を複製して、目的ドメイン素性及び共通ドメイン素性を得て、目的ドメイン素性と、値を０とした他ドメイン素性と、共通ドメイン素性とからなる素性ベクトルを生成する。
【００５６】
ステップＳ１１４では、ステップＳ１０６において文字列に疑似正解ラベルを付与した第２の学習データの各々に対し、当該第２の学習データの文書に含まれる各単語について、各素性を抽出する。
【００５７】
次に、ステップＳ１１６では、第２の学習データの各々の文書の各単語について、ステップＳ１１４において抽出した各素性を複製して、他ドメイン素性及び共通ドメイン素性を得て、値を０とした目的ドメイン素性と、他ドメイン素性と、共通ドメイン素性とからなる素性ベクトルを生成する。
【００５８】
ステップＳ１１８では、ステップＳ１１２において生成した第１の学習データの各単語についての素性ベクトルと、ステップＳ１１６において生成した第２の学習データの各単語についての素性ベクトルとに基づいて、機械学習器により目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性の各々に対するパラメータを学習する。
【００５９】
ステップＳ１２０では、ステップＳ１１８において学習したパラメータのうち、共通ドメイン素性に対するパラメータを抽出し、抽出対象の文字列を抽出してラベルを付与するためのモデルのパラメータとして、モデル記憶部４２に格納すると共に、出力部５０に出力して、処理を終了する。
【００６０】
そして、抽出対象の文字列を抽出してラベルを付与する処理を行う際には、解析対象データから各素性を抽出し、抽出した各素性と、抽出対象の文字列を抽出してラベルを付与するためのモデルのパラメータとに基づいて、解析対象データから、抽出対象の文字列を抽出してラベルを付与する。
【００６１】
以上説明したように、本発明の実施の形態に係るモデル学習装置によれば、辞書を用いて、ラベルが付与されていない第２の学習データの文字列に対して擬似正解ラベルを付与し、第１の学習データの各単語及び第２の学習データの各単語について素性を抽出して、第１の学習データの各単語及び第２の学習データの各単語について、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性からなる素性ベクトルを生成して、目的ドメイン素性、他ドメイン素性、及び共通ドメイン素性の各々に対するパラメータを学習し、共通ドメイン素性に対するパラメータを抽出することにより、抽出対象文字列に精度よくラベルを付与するためのモデルを学習することができる。
【００６２】
また、辞書を用いることで学習データを擬似的に拡張し、転移学習の手法を用いることで、学習データを増強させることが可能となり、高精度な文字列抽出モデルを獲得することができる。
【００６３】
また、本発明において学習したモデルを、固有表現抽出装置に適用することで、文書中から固有表現を抽出し、適切なラベルを付与することができる。
【００６４】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００６５】
例えば、上記の実施の形態では、固有表現抽出を例に説明したが、用言抽出にも適用可能であり、その場合は、学習データを用言用の学習データとし、辞書を用言用の辞書とすればよい。もっとも、学習データと辞書を目的のものとすることで固有表現抽出、用言抽出以外にも適用が可能であることは勿論である。
【００６６】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【００６７】
１０   入力部
２０   演算部
３０   教師用データベース
３２   文書集合データベース
３４   辞書データベース
３６   辞書照合部
３８   転移学習用素性生成部
４０   モデル学習部
４２   モデル記憶部
５０   出力部
１００ モデル学習装置
【図１】
2015176355.tif 000003
【図２】
2015176355.tif 000004
【図４】
2015176355.tif 000005
【図３】
2015176355.tif 000006