(57)【特許請求の範囲】
【請求項１】
コンピュータを、
複数の検出手法を用いて学習対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて生成される特徴量に、正解及び不正解のラベルを付与して学習情報を生成する生成手段と、
前記正解のラベルが付与された候補を正例として採用し、前記複数の検出手法のうちの一の検出手法において確信度が予め定められた上位で不正解のラベルが付与された候補を負例として採用して、前記学習情報の正例と負例の数を最適化する最適化手段と、
前記最適化された学習情報を用いて機械学習を実行し識別モデルを生成する学習手段と、
前記複数の検出方法を用いて識別対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて算出される特徴量を、前記学習手段が生成した前記識別モデルを用いて分類するとともに順位付けする識別手段と、
識別結果として得られた予め定めた上位の候補のうち、前記一の検出手法の予め定めた上位の候補と重複する候補の順位を繰り上げて識別結果を修正する修正手段として機能させるための学習プログラム。
【請求項２】
前記最適化手段は、交差検定を用いて前記一の検出手法を選択して、前記負例を採用する請求項１に記載の学習プログラム。
【請求項３】
前記識別手段は、前記識別結果を分類平面からの距離により順位付けする請求項１又は２に記載の学習プログラム。
【請求項４】
複数の検出手法を用いて学習対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて生成される特徴量に、正解及び不正解のラベルを付与して学習情報を生成する生成手段と、
前記正解のラベルが付与された候補を正例として採用し、前記複数の検出手法のうちの一の検出手法において確信度が予め定められた上位で不正解のラベルが付与された候補を負例として採用して、前記学習情報の正例と負例の数を最適化する最適化手段と、
前記最適化された学習情報を用いて機械学習を実行し識別モデルを生成する学習手段と、
前記複数の検出方法を用いて識別対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて算出される特徴量を、前記学習手段が生成した前記識別モデルを用いて分類するとともに順位付けする識別手段と、
識別結果として得られた予め定めた上位の候補のうち、前記一の検出手法の予め定めた上位の候補と重複する候補の順位を繰り上げて識別結果を修正する修正手段とを有する情報処理装置。
【請求項５】
コンピュータを、
複数の検出手法を用いて学習対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて生成される特徴量に、正解及び不正解のラベルを付与して学習情報を生成する生成手段と、
前記正解のラベルが付与された候補を正例として採用し、前記複数の検出手法のうちの一の検出手法において確信度が予め定められた上位で不正解のラベルが付与された候補を負例として採用して、前記学習情報の正例と負例の数を最適化する最適化手段と、
前記最適化された学習情報を用いて機械学習を実行し識別モデルを生成する学習手段として機能させるための学習プログラム。
【請求項６】
複数の検出方法を用いて識別対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて算出される特徴量を、学習手段が生成した識別モデルを用いて分類するとともに順位付けする識別手段と、
識別結果として得られた予め定めた上位の候補のうち、前記学習手段が学習の際に負例として採用した候補を検出した一の検出手法の予め定めた上位の候補と重複する候補の順位を繰り上げて識別結果を修正する修正手段として機能させるための学習プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、学習プログラム及び情報処理装置に関する。
【背景技術】
【０００２】
従来の技術として、学習データから外れ値を有するデータを除いて学習する学習プログラムが提案されている（例えば、特許文献１参照）。
【０００３】
特許文献１に開示された学習プログラムは、複数のサンプル画像のそれぞれについて被検出対象が含まれている確からしさを示す値を算出し、一のサンプル画像について確からしさを示す値が予め定められた閾値に比べて小さい場合に複数のサンプル画像から当該一のサンプル画像を削除して学習データとし、再学習する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−１１７８６１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明の目的は、単一の検出手法を用いた場合に比べて、被検出対象を検出する検出精度を向上する学習プログラム及び情報処理装置を提供することにある。
【課題を解決するための手段】
【０００６】
本発明の一態様は、上記目的を達成するため、以下の学習プログラム及び情報処理装置を提供する。
【０００７】
［１］コンピュータを、
複数の検出手法を用いて学習対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて生成される特徴量に、正解及び不正解のラベルを付与して学習情報を生成する生成手段と、
前記正解のラベルが付与された候補を正例として採用し、前記複数の検出手法のうちの一の検出手法において確信度が予め定められた上位で不正解のラベルが付与された候補を負例として採用して、前記学習情報の正例と負例の数を最適化する最適化手段と、
前記最適化された学習情報を用いて機械学習を実行し識別モデルを生成する学習手段と、
前記複数の検出方法を用いて識別対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて算出される特徴量を、前記学習手段が生成した前記識別モデルを用いて分類するとともに順位付けする識別手段と、
識別結果として得られた予め定めた上位の候補のうち、前記一の検出手法の予め定めた上位の候補と重複する候補の順位を繰り上げて識別結果を修正する修正手段として機能させるための学習プログラム。
［２］前記最適化手段は、交差検定を用いて前記一の検出手法を選択して、前記負例を採用する前記［１］に記載の学習プログラム。
［３］前記識別手段は、前記識別結果を分類平面からの距離により順位付けする前記［１］又は［２］に記載の学習プログラム。
［４］複数の検出手法を用いて学習対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて生成される特徴量に、正解及び不正解のラベルを付与して学習情報を生成する生成手段と、
前記正解のラベルが付与された候補を正例として採用し、前記複数の検出手法のうちの一の検出手法において確信度が予め定められた上位で不正解のラベルが付与された候補を負例として採用して、前記学習情報の正例と負例の数を最適化する最適化手段と、
前記最適化された学習情報を用いて機械学習を実行し識別モデルを生成する学習手段と、
前記複数の検出方法を用いて識別対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて算出される特徴量を、前記学習手段が生成した前記識別モデルを用いて分類するとともに順位付けする識別手段と、
識別結果として得られた予め定めた上位の候補のうち、前記一の検出手法の予め定めた上位の候補と重複する候補の順位を繰り上げて識別結果を修正する修正手段とを有する情報処理装置。
［５］コンピュータを、
複数の検出手法を用いて学習対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて生成される特徴量に、正解及び不正解のラベルを付与して学習情報を生成する生成手段と、
前記正解のラベルが付与された候補を正例として採用し、前記複数の検出手法のうちの一の検出手法において確信度が予め定められた上位で不正解のラベルが付与された候補を負例として採用して、前記学習情報の正例と負例の数を最適化する最適化手段と、
前記最適化された学習情報を用いて機械学習を実行し識別モデルを生成する学習手段として機能させるための学習プログラム。
［６］複数の検出方法を用いて識別対象情報から検出される被検出対象の候補及び当該候補の確信度に基づいて算出される特徴量を、学習手段が生成した識別モデルを用いて分類するとともに順位付けする識別手段と、
識別結果として得られた予め定めた上位の候補のうち、前記学習手段が学習の際に負例として採用した候補を検出した一の検出手法の予め定めた上位の候補と重複する候補の順位を繰り上げて識別結果を修正する修正手段として機能させるための学習プログラム。
【発明の効果】
【０００８】
請求項１、４又は６に係る発明によれば、単一の検出手法を用いた場合に比べて、被検出対象を検出する検出精度を向上することができる。
請求項２に係る発明によれば、交差検定を用いて一の検出手法を選択することができる。
請求項３に係る発明によれば、識別結果を分類平面からの距離により順位付けすることができる。
請求項５に係る発明によれば、単一の検出手法を用いた場合に比べて、被検出対象を検出する検出精度を向上する識別モデルを生成することができる。
【図面の簡単な説明】
【０００９】
【図１】図１は、実施の形態に係る情報処理装置の構成例を示すブロック図である。
【図２】図２（ａ）−（ｃ）は、情報処理装置の学習動作を説明するための図である。
【図３】図３は、学習情報の構成例を示す概略図である。
【図４】図４（ａ）−（ｃ）は、情報処理装置の識別動作を説明するための図である。
【図５】図５（ａ）−（ｃ）は、情報処理装置の識別結果の修正動作を説明するための図である。
【図６】図６は、情報処理装置の学習動作の一例を示すフローチャートである。
【図７】図７は、情報処理装置の識別動作の一例を示すフローチャートである。
【図８】図８（ａ）及び（ｂ）は、本願発明の識別結果及び従来技術の識別結果を比較した概略図である。
【発明を実施するための形態】
【００１０】
［実施の形態］
（情報処理装置の構成）
図１は、実施の形態に係る情報処理装置の構成例を示すブロック図である。
【００１１】
情報処理装置１は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）等から構成され、各部を制御するとともに、各種のプログラムを実行する制御部１０と、フラッシュメモリ等の記憶媒体から構成され情報を記憶する記憶部１１と、ネットワークを介して外部と通信する通信部１２とを備える。
【００１２】
制御部１０は、後述する学習プログラム１１０を実行することで、検出手法実行手段１００、学習情報生成手段１０１、学習情報最適化手段１０２、機械学習手段１０３、識別手段１０４及び識別結果修正手段１０５等として機能する。
【００１３】
検出手法実行手段１００は、検出手法を実行する。ここで、検出手法とは、任意の被検出対象を検出する方法であり、被検出対象として確からしさを示すスコア（以下、「確信度」という。）とともに被検出対象の候補を出力する方法をいう。ここで、検出手法実行手段１００は、検出手法の一例として、くずれた表記の文である学習対象情報１１１から確信度とともに正しい表記を被検出対象の候補として検出する。
【００１４】
例えば、学習対象情報１１１としてマイクロブログに投稿された文等が挙げられ、「食堂がうるせー」のうち辞書に載っていない「うるせー」がくずれた表記であり、これに対して辞書に載っている「うるさい」が正しい表記、つまり被検出対象である。学習対象情報１１１は、くずれた表記「うるせー」と正しい表記「うるさい」のセットである。また、他の例として、ユーザ認証を行う手法であり、入力されたユーザに対して、許可されたユーザ群のユーザとの類似度を確信度として出力する手法を実行するものであってもよい。
【００１５】
学習情報生成手段１０１は、各手法の確信度が上位数件の候補を取得し、素性化して各候補に対する特徴量を得るとともに、学習対象情報１１１を参照して当該候補が正解の場合には正解のラベルを付与し、それ以外の場合には不正解のラベルを付与して学習情報１１２を生成する。例えば、候補「うるさい」に対する特徴量には正解のラベルが付与され、候補「うるさ」や「うーん」に対する特徴量には不正解のラベルが付与される。
【００１６】
学習情報最適化手段１０２は、学習情報生成手段１０１が生成した学習情報１１２から、正解のラベルが付与された候補及びその特徴量を正例として採用するとともに、不正解のラベルが付与された候補であって、特定の検出手法において確信度が上位の候補及びその特徴量を負例として採用し、負例の数を正例の数と一致するように調整して学習情報１１２を最適化する。特定の検出手法の採用には、一例として、交差検定を用いる。特定の検出手法は1つに限定してもよいし、複数指定してもよい。また、特定の検出手法は利用者が選ぶものであってもよい。
【００１７】
機械学習手段１０３は、学習情報最適化手段１０２が最適化した学習情報１１２を用いて機械学習を実行し、識別モデル１１３を生成する。機械学習手法として、例えば、正しい表記の集合の絞り込みを、Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ（ＳＶＭ）による分類問題として定義する。ＳＶＭにより、入力された候補がくずれた表記に対応する正しい表記か否かを分類する。上記した特徴量はＳＶＭの入力として与えられる。
【００１８】
識別手段１０４は、識別段階において検出手法実行手段１００によって識別対象情報１１４から検出された被検出対象の候補及び確信度から特徴量を生成して、識別モデル１１３を用いて正解か不正解かに分類し、識別結果情報１１５を生成する。なお、識別結果情報１１５は、分類時のスコアで順位付けされており、当該スコアは任意の方法で算出されるが、一例として、分類平面からの距離を用いる。
【００１９】
識別結果修正手段１０５は、識別結果情報１１５に含まれる候補のうち、学習情報生成手段１０１が負例として採用した候補と共通する候補の順位を繰り上げて識別結果情報１１５を修正し、修正結果情報１１６を出力する。
【００２０】
記憶部１１は、制御部１０を上述した各手段１００−１０６として動作させる学習プログラム１１０、学習対象情報１１１、学習情報１１２、識別モデル１１３、識別対象情報１１４、識別結果情報１１５及び修正結果情報１１６等を記憶する。なお、学習対象情報１１１及び識別対象情報１１４は通信部１２を介して外部から取得するものであってもよい。
【００２１】
（情報処理装置の動作）
次に、本実施の形態の作用を、（１）学習動作、（２）識別動作に分けて説明する。
【００２２】
（１）学習動作
図６は、情報処理装置１の学習動作の一例を示すフローチャートである。図２（ａ）−（ｃ）は、情報処理装置１の学習動作を説明するための図である。
【００２３】
まず、検出手法実行手段１００は、くずれた表記として図２（ａ）に示す学習対象情報１１１ａ１「うるせー」に対し、複数の被検出対象検出手法を実行して（Ｓ１）、図２に示すように、確信度とともに被検出対象の候補１００１、１００２、…１００ｎを検出する。なお、候補１００１、１００２、…１００ｎは、検出手法毎に確信度で順位付けされる。なお、くずれた表記「うるせー」に対する正しい表記は正解１１１ａ２の「うるさい」である。
【００２４】
次に、学習情報生成手段１０１は、各手法の確信度が上位ｍ件の候補を取得し、素性化して各候補の特徴量を得る（Ｓ２）。素性化は以下に示す図３のように行う。上位ｍ件として、例えば、５件以内に入る場合を考える。
【００２５】
図３は、学習情報１１２の構成例を示す概略図である。
【００２６】
図３に示す候補「うるさい」は検出手法２及び検出手法Ｎで２位であり、「うーん」は検出手法２で１位である。これらの候補の各検出手法における確信度を横に並べてベクトル化したものが候補に対する特徴量である。なお、上記候補を検出していない検出手法については確信度を「０」としている。
【００２７】
次に、学習情報生成手段１０１は、当該候補のうち正解１１１ａ２「うるさい」と一致するものに正解のラベルを付与し、正解以外の候補に不正解のラベルを付与して学習情報１１２を生成する（Ｓ３）。
【００２８】
次に、学習情報最適化手段１０２は、正解のラベルが付与された候補及びその特徴量を正例１１２ａとして選択する（Ｓ４）。
【００２９】
次に、学習情報最適化手段１０２は、不正解のラベルが付与されている候補であって、特定の検出手法において確信度が上位の候補を負例として採用する（Ｓ５）。例えば、「検出手法２」の候補である「うーん」は、不正解のラベルが付与されており、確信度が検出手法２において１位であるため、これを負例の学習情報１１２ｂとして採用する。なお、特定の検出手法の採用には、一例として、交差検定を用いる。特定の検出手法は1つに限定してもよいし、複数指定してもよい。
【００３０】
次に、学習情報最適化手段１０２は、学習情報１１２ａ及び１１２ｂのように、負例の数を正例の数と一致するように調整して学習情報１１２を最適化する（Ｓ６）。
【００３１】
次に、機械学習手段１０３は、学習情報１１２ａ及び１１２ｂを用いて機械学習を実行し、識別モデル１１３を生成し、記憶部１１に格納する（Ｓ８）。
【００３２】
（２）識別動作
図７は、情報処理装置１の識別動作の一例を示すフローチャートである。図４（ａ）−（ｃ）は、情報処理装置１の識別動作を説明するための図である。
【００３３】
まず、検出手法実行手段１００は、識別対象情報１１４に対して複数の検出手法を実行し、検出結果として被検出対象の候補及びその確信度を得る（Ｓ１１）。例えば、図４（ａ）に示すように、「ねんむ」という識別対象情報１１４ａから、図４（ｂ）に示すように、確信度とともに被検出対象の候補１００１１、１００１２、…１００１ｎとして検出する。
【００３４】
次に、識別手段１０４は、被検出対象の候補１００１１、１００１２、…１００１ｎを素性化して特徴量を生成して（Ｓ１２）、候補と特徴量のセットを、識別モデル１１３を用いて正解か不正解かに分類して識別処理を実行する（Ｓ１３）。
【００３５】
次に、識別手段１０４は、図４（ｃ）に示すように、識別結果をスコア順に、例えば、分類平面からの距離の順に並べて識別結果情報１１５を生成する（Ｓ１４）。
【００３６】
図５（ａ）−（ｃ）は、情報処理装置１の識別結果の修正動作を説明するための図である。
【００３７】
次に、図５（ａ）及び（ｂ）に示すように、識別結果修正手段１０５は、学習情報生成手段１０１が選択した負例を出力した検出手法２の上位の候補１００１２と、統合手法の候補１１５ａとの共通候補である候補１０６ａ「ねむい」及び「ねむ」の順位を繰り上げて識別結果情報１１５ａを修正し（Ｓ１５）、図５（ｃ）に示す修正結果情報１１６ａとして記憶部１１に格納する（Ｓ１６）。なお、複数の被検出対象検出手法を本実施の形態のように統合した手法を「統合手法」と呼ぶ。
【００３８】
（実施の形態の作用・効果）
上記した実施の形態によれば、学習段階において「正解」である正例と確信度の高い「一部の不正解」である負例を用いて学習し、識別段階において識別モデルの識別結果と負例を採用した特定の検出手法の出力する候補の積集合を候補の上位に繰り上げたため、特定の検出手法の「一部の不正解」である不適切な候補をフィルタリングすることができ、単一の検出手法を用いた場合に比べて、被検出対象を検出する検出精度を向上することができる。以下において、実際の識別結果を説明する。
【００３９】
図８（ａ）及び（ｂ）は、本願発明の識別結果及び従来技術の識別結果を比較した概略図である。
【００４０】
図８（ａ）は、学習動作及び識別動作においてそれぞれ用いた学習対象情報１１１及び識別対象情報１１４の数であり、それぞれＴｗｉｔｔｅｒ  Ｓｔｒｅａｍｉｎｇ  ＡＰＩより日本語のＴｗｅｅｔを収集した。学習動作において用いた学習対象情報１１１とそれに対応するくずれた表記と正しい表記のペアの数が１３０４であって収集期間は２０１１年５月から２０１１年８月である。また、識別動作において用いた識別対象情報１１４とそれに対応するくずれた表記と正しい表記のペアの数が１１５６であって収集期間は２０１３年１０月から２０１３年１２月である。
【００４１】
図８（ｂ）に示すように、複数の検出手法としてＪａｚｚｙ  ｓｐｅｌｌ  ｃｈｅｃｋｅｒ（ http://jazzy.sourceforge.net/）とＶｉｓｕａｌ  ｐｒｉｍｉｎｇ（“A broad-coverage normalization system for social media language”, Fei Liu, Fuliang Weng, and Xiao Jiang）の２つの検出手法を用いた。なお、１−ｂｅｓｔ、３−ｂｅｓｔ、１０−ｂｅｓｔとは、各手法の推定上位１，３，１０位までに崩れた表記に対する正しい表記を含む場合を正解とし、評価データの１１５６件に対する正解の割合を示す。
【００４２】
１−ｂｅｓｔ、３−ｂｅｓｔ、１０−ｂｅｓｔのいずれの結果においても、本願発明の統合手法は正解の割合が他の手法に比べて向上していることがわかる。また、従来技術の統合手法は、ランダムサンプリングにより正例と負例の数を最適化したものであり、３−ｂｅｓｔ、１０−ｂｅｓｔでは向上しているものの、１−ｂｅｓｔでは低下している。
【００４３】
［他の実施の形態］
なお、本発明は、上記実施の形態に限定されず、本発明の趣旨を逸脱しない範囲で種々な変形が可能である。
【００４４】
上記実施の形態では制御部１０の各手段１００〜１０６の機能をプログラムで実現したが、各手段の全て又は一部をＡＳＩＣ等のハードウエアによって実現してもよい。また、上記実施の形態で用いたプログラムをＣＤ−ＲＯＭ等の記録媒体に記憶して提供することもできる。また、上記実施の形態で説明した上記ステップの入れ替え、削除、追加等は本発明の要旨を変更しない範囲内で可能である。
【符号の説明】
【００４５】
１     情報処理装置
１０   制御部
１１   記憶部
１２   通信部
１００ 検出手法実行手段
１０１ 出力統合手段
１０２ 学習情報生成手段
１０３ 学習情報最適化手段
１０４ 機械学習手段
１０５ 識別手段
１０６ 識別結果修正手段
１１０ 学習プログラム
１１１ 学習対象情報
１１２ 学習情報
１１３ 識別モデル
１１４ 識別対象情報
１１５ 識別結果情報
１１６ 修正結果情報
【図１】
0006365010.tif 000002
【図２】
0006365010.tif 000003
【図３】
0006365010.tif 000004
【図４】
0006365010.tif 000005
【図５】
0006365010.tif 000006
【図６】
0006365010.tif 000007
【図７】
0006365010.tif 000008
【図８】
0006365010.tif 000009