(57)【特許請求の範囲】
【請求項１】
複数の初期モデル学習用事例と、前記複数の初期モデル学習用事例に予め対応付けられた正解クラスとに基づいて、事例が分類されるクラスを予測するための予測モデルを生成する初期モデル生成部と、
前記複数の初期モデル学習用事例の正解クラス、又は前記予測モデルに基づいて、前記クラスの各々の事例頻度を計算する事例頻度計算部と、
複数の事例の各々について、前記事例と前記初期モデル生成部によって生成された前記予測モデルとに基づいて、前記クラスの各々に対し、前記事例が前記クラスに分類される確率である分類確率を推定する確率推定部と、
前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択する事例選択部と、
を含む事例選択装置。
【請求項２】
前記事例選択部は、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記事例頻度が最小のクラスに対する前記分類確率が最大である前記事例を、前記正解クラスの付与対象となる学習用事例としてｈ個だけ選択する
請求項１に記載の事例選択装置。
【請求項３】
前記事例選択部は、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記事例頻度が最小のクラスに対する前記分類確率と、前記事例頻度が最大のクラスに対する前記分類確率との差が最大となる前記事例を、前記正解クラスの付与対象となる学習用事例としてｈ個だけ選択する
請求項１に記載の事例選択装置。
【請求項４】
請求項１〜請求項３の何れか１項に記載の事例選択装置によって選択された前記学習用事例と、該学習用事例に付与された正解クラスとに基づいて、前記予測モデルを生成する予測モデル生成部を含む
分類装置。
【請求項５】
初期モデル生成部、確率推定部、事例頻度計算部、及び事例選択部を含む事例選択装置における事例選択方法であって、
前記初期モデル生成部が、複数の初期モデル学習用事例と、前記複数の初期モデル学習用事例に予め対応付けられた正解クラスとに基づいて、事例が分類されるクラスを予測するための予測モデルを生成するステップと、
前記確率推定部が、前記複数の初期モデル学習用事例の正解クラス、又は前記予測モデルに基づいて、前記クラスの各々の事例頻度を計算するステップと、
前記事例頻度計算部が、複数の事例の各々について、前記事例と前記初期モデル生成部によって生成された前記予測モデルとに基づいて、前記クラスの各々に対し、前記事例が前記クラスに分類される確率である分類確率を推定するステップと、
前記事例選択部が、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択するステップと、
を含む事例選択方法。
【請求項６】
予測モデル生成部を含む分類装置における分類方法であって、
前記予測モデル生成部が、請求項５に記載の事例選択方法によって選択された前記学習用事例と、該学習用事例に付与された正解クラスとに基づいて、前記予測モデルを生成するステップを含む
分類方法。
【請求項７】
コンピュータを、請求項１〜請求項３の何れか１項に記載の事例選択装置の各部として機能させるためのプログラム。
【請求項８】
コンピュータを、請求項４に記載の分類装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、事例選択装置、分類装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
教師有り学習による分類問題とは、事前に与えられた正解クラス付きのデータを利用して、正解クラスが与えられていないデータのクラスを予測する問題であり、広い分野（メールのスパムフィルタや、画像の自動分類、加速度データを利用した行動認識など）で実用化されている。
【０００３】
また、能動学習とは、教師データを作成する際に最大の効果を発揮するように教師とするデータを選択する方法についての研究分野である。一般的に事例にアノテーションを付与することは高いコストが要求されるため、どのデータに正解ラベルを付与すればより高精度な学習器が作成出来るか、という事例の選択手法はアノテーションコストを下げる意味で重要である。能動学習による事例選択の従来技術は、予測モデルにおける確信度が低い事例を選択して優先的にアノテーションを与えることが、次のイテレーションにおける分類精度を向上させるという考えに基づいている。具体的には、あるイテレーションにおいて、各クラスに分類される確率を事例ごとに計算し、その確率が最大となるクラスの予測確率が最低の事例を選択する手法（Least confident法）が提案されている（非特許文献１）。また、このLeast confident法をベースとして、確率が２番に大きいクラスも考慮に入れるMargin sampling法や、特徴空間における密度も考慮に入れるDensity weighted等の手法が提案されている（非特許文献１）。
【０００４】
ここでは、能動学習の枠組みでイテレーションごとに事例選択・モデル生成を行う際、クラスの頻度にばらつきがあるデータ（不均衡データ）を扱うことを考える。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】Settles, B. (2010). “Active learning literature survey.”, University of Wisconsin, Madison, Comput. Sci. Tech. Rep. 648, 2010.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
能動学習の枠組みで不均衡データを扱う際、従来技術では各クラスの頻度の差を考慮していないために、アノテーションを付与する際に低頻度のクラスの事例が選ばれづらいおそれがある。その結果、少ないアノテーション数で、低頻度クラスの事例に対するアノテーションを十分に付与することが難しくなり、低頻度クラスの分類精度が下がるおそれがある。また、ある分類精度に達することを要件とした際に、必要となるアノテーション回数が多くなるおそれがある。この問題は低頻度クラスの分類精度を重視するようなタスクの場合、特に重要である。
【０００７】
本発明は、上記の事情を鑑みてなされたもので、事例頻度が低いクラスに属する事例を学習データに含ませて、アノテーションを行うことができる事例選択装置、方法、及びプログラムを提供することを目的とする。
また、事例頻度が低いクラスに属する事例から予測モデルを生成することができる分類装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
上記の目的を達成するために本発明の事例選択装置は、複数の初期モデル学習用事例と、前記複数の初期モデル学習用事例に予め対応付けられた正解クラスとに基づいて、事例が分類されるクラスを予測するための予測モデルを生成する初期モデル生成部と、前記複数の初期モデル学習用事例の正解クラス、又は前記予測モデルに基づいて、前記クラスの各々の事例頻度を計算する事例頻度計算部と、複数の事例の各々について、前記事例と前記初期モデル生成部によって生成された前記予測モデルとに基づいて、前記クラスの各々に対し、前記事例が前記クラスに分類される確率である分類確率を推定する確率推定部と、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択する事例選択部と、を含んで構成されている。
【０００９】
本発明の事例選択方法は、初期モデル生成部、確率推定部、事例頻度計算部、及び事例選択部を含む事例選択装置における事例選択方法であって、前記初期モデル生成部が、複数の初期モデル学習用事例と、前記複数の初期モデル学習用事例に予め対応付けられた正解クラスとに基づいて、事例が分類されるクラスを予測するための予測モデルを生成するステップと、前記確率推定部が、前記複数の初期モデル学習用事例の正解クラス、又は前記予測モデルに基づいて、前記クラスの各々の事例頻度を計算するステップと、前記事例頻度計算部が、複数の事例の各々について、前記事例と前記初期モデル生成部によって生成された前記予測モデルとに基づいて、前記クラスの各々に対し、前記事例が前記クラスに分類される確率である分類確率を推定するステップと、前記事例選択部が、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択するステップと、を含んで構成されている。
【００１０】
また、本発明の前記事例選択部は、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記事例頻度が最小のクラスに対する前記分類確率が最大である前記事例を、前記正解クラスの付与対象となる学習用事例としてｈ個だけ選択するようにすることができる。
【００１１】
また、本発明の前記事例選択部は、前記事例頻度計算部によって計算された前記クラスの各々についての事例頻度と、前記確率推定部によって推定された前記事例の各々についての前記クラスの各々に対する前記分類確率とに基づいて、前記事例頻度が最小のクラスに対する前記分類確率と、前記事例頻度が最大のクラスに対する前記分類確率との差が最大となる前記事例を、前記正解クラスの付与対象となる学習用事例としてｈ個だけ選択するようにすることができる。
【００１２】
また、本発明の分類装置は、上記の事例選択装置によって選択された前記学習用事例と、該学習用事例に付与された正解クラスとに基づいて、前記予測モデルを生成する予測モデル生成部を含んで構成されている。
【００１３】
また、本発明の分類方法は、予測モデル生成部を含む分類装置における分類方法であって、前記予測モデル生成部が、上記の事例選択方法によって選択された前記学習用事例と、該学習用事例に付与された正解クラスとに基づいて、前記予測モデルを生成するステップを含んで構成されている。
【００１４】
本発明の第１のプログラムは、コンピュータを、本発明の事例選択装置の各部として機能させるためのプログラムである。
【００１５】
本発明の第２のプログラムは、コンピュータを、本発明の分類装置の各部として機能させるためのプログラムである。
【発明の効果】
【００１６】
以上説明したように、本発明の事例選択装置、方法、及びプログラムによれば、クラスの各々についての事例頻度と、事例の各々についてのクラスの各々に対する分類確率とに基づいて、複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択することにより、事例頻度が低いクラスに属する事例を学習データに含ませて、アノテーションを行うことができる、という効果が得られる。
【００１７】
また、本発明の分類装置、方法、及びプログラムによれば、選択された学習用事例と、学習用事例に付与された正解クラスとに基づいて、予測モデルを生成することにより、事例頻度が低いクラスに属する事例から予測モデルを生成することができる、という効果が得られる。
【図面の簡単な説明】
【００１８】
【図１】アノテータによるアノテーションを説明するための説明図である。
【図２】従来技術による事例の選択の一例を示す図である。
【図３】バリアデータとバリアデータのクラスとの組み合わせの一例を示す図である。
【図４】本発明の実施の形態の事例選択装置の一構成例を示すブロック図である。
【図５】モデル構築用データベース２２のデータ構造の一部の例を示す図である。
【図６】正解アノテーションデータベース２４のデータ構造の例を示す図である。
【図７】事例頻度データベース３０のデータ構造の例を示す図である。
【図８】分類確率データベース３４のデータ構造の例を示す図である。
【図９】予測モデルデータベース４０のデータ構造の例を示す図である。
【図１０】本発明の実施の形態の事例選択装置における能動的クラス分類処理ルーチンの内容を示すフローチャートである。
【図１１】本発明の実施の形態の事例選択装置における初期モデル生成処理ルーチンの内容を示すフローチャートである。
【図１２】本発明の実施の形態の事例選択装置における事例頻度計算処理ルーチンの内容を示すフローチャートである。
【図１３】本発明の実施の形態の事例選択装置における確率推定処理ルーチンの内容を示すフローチャートである。
【図１４】本発明の実施の形態の事例選択装置における事例選択理ルーチンの内容を示すフローチャートである。
【図１５】本発明の実施の形態の事例選択装置における予測モデル生成処理ルーチンの内容を示すフローチャートである。
【発明を実施するための形態】
【００１９】
以下、図面を参照して本発明の実施の形態を詳細に説明する。本発明の実施は、教師有り学習の枠組みでデータ群をあらかじめ定められたクラスに分類する技術分野に属するものである。
【００２０】
＜概要＞
教師有り学習の枠組みの中で、出来るだけ少ない学習データ数の学習データを用いて出来るだけ高い精度の分類器を作成するための事例選択手法が存在する。
【００２１】
具体的には、事例選択手法においては、図１に示すように、ラベルなしデータから事例が選択され、アノテータにより正解クラスが付与される。そして、正解クラスが付与された事例に基づいて、予測モデルの更新が行われる。
【００２２】
従来技術では、学習データの中からランダムに選ぶよりは良い方法があるだろうという前提のもと、能動学習によるアノテーションコストの低減を目的としている。
【００２３】
また、従来技術では、現在の予測モデルで確信度が低い事例（データ）を選択するアルゴリズムがベースとなっている。例えば、上記非特許文献１に記載のleast confidentに関する技術では、確率が最大のラベルの分類確率が最も低い事例が選ばれる。予測モデルとしてマージン分類器（例えば、ＳＶＭ）を用いる場合、図２に示すように、分離超平面に近い事例が選ばれる。確率が最大のラベルの分類確率が最も低い事例が選ばれることは、以下の式によって表される。なお、ｘは事例を表し、Ｐ（ｙｉ｜ｘ）は、ある事例ｘがｉ番目のラベルｙｉに分類される分類確率を表す。
【００２４】
【数１】
0006509717.tif 000002
【００２５】
また、上記非特許文献１に記載のmargin samplingに関する技術では、最大の分類確率と２番目の分類確率との差が最小の事例が選ばれる。
【００２６】
また、上記非特許文献１に記載のdensity weightedに関する技術では、事例の密集している部分から事例がより選ばれやすくなる。
【００２７】
しかし、従来技術では各ラベルの頻度を考慮していないため、例えば図３に示すようなバリアデータなどの不均衡データでは、低頻度である段差の検出率がなかなか上がらないおそれがある。例えば、毎回選択した事例のクラスが「Flat」だと、クラス「Step」やクラス「Slope」の検出率がなかなか上がらない。
【００２８】
そこで、本発明の実施の形態では、あるエリアで分類器を継続的に更新しながら精度を向上させる状況を想定して能動学習の適用を考える。具体的には、本発明の実施の形態では、頻度の少ないクラスに対応する事例を優先的に選択する。より詳細には、本発明の実施の形態では、以下の式（１）に従って、頻度が最小のクラスｙｍｉｎの分類確率Ｐ（ｙｍｉｎ｜ｘ）が最も大きい事例ｘを選択する。
【００２９】
【数２】
0006509717.tif 000003
【００３０】
また、本発明の実施の形態では、以下の式（２）に従って、頻度が最小クラスｙｍｉｎの分類確率Ｐ（ｙｍｉｎ｜ｘ）と、頻度が最大のクラスｙｍａｘの分類確率Ｐ（ｙｍａｘ｜ｘ）との差が最も大きい事例ｘを選択する。
【００３１】
【数３】
0006509717.tif 000004
【００３２】
また、上記式（１）及び式（２）を組み合わせて、事例を選択することもできる。
【００３３】
本実施の形態では、複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択する事例選択装置に本発明を適用した場合を例に説明する。また、本実施の形態では、人の加速度データを用いた行動推定を、能動学習の枠組みで行う場合の例を用いて説明する。
【００３４】
＜事例選択装置のシステム構成＞
以下、図面を参照して本発明の第１の実施の形態を詳細に説明する。図４は、本発明の実施の形態の事例選択装置１００を示すブロック図である。事例選択装置１００は、ＣＰＵと、ＲＡＭと、事例選択処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
【００３５】
本実施の形態の事例選択装置１００は、図４に示すように、入力部１０と、正解入力部１２と、演算部２０と、出力部５０とを備えている。
【００３６】
入力部１０は、複数の初期モデル学習用事例と、複数の初期モデル学習用事例に予め対応付けられた正解クラスとを受け付ける。初期モデル学習用事例は、後述する初期モデル生成部２６により予測モデルを学習させるための事例である。
【００３７】
また、入力部１０は、正解クラスが未知の複数の事例を受け付ける。後述する事例選択部３６により、複数の事例から、正解クラスの付与対象となる学習用事例が選択される。
【００３８】
そして、入力部１０は、複数の初期モデル学習用事例と複数の事例とを、後述するモデル構築用データベース２２に格納する。また、入力部１０は、複数の初期モデル学習用事例に予め対応付けられた正解クラスを、後述する正解アノテーションデータベース２４に格納する。
【００３９】
正解入力部１２は、後述する事例選択部３６によって選択された学習用事例に対する、正解クラスの入力を受け付ける。正解クラスは、例えばユーザによって入力される。
【００４０】
演算部２０は、モデル構築用データベース２２と、正解アノテーションデータベース２４と、初期モデル生成部２６と、事例頻度計算部２８と、事例頻度データベース３０と、確率推定部３２と、分類確率データベース３４と、事例選択部３６と、予測モデル生成部３８と、予測モデルデータベース４０とを備えている。
【００４１】
モデル構築用データベース２２には、入力部１０によって受け付けられた、複数の初期モデル学習用事例と複数の事例とが格納される。
【００４２】
モデル構築用データベース２２のデータ構造の一部の例を図５に示す。なお、図５はモデル構築用データベース２２に格納される初期モデル学習用事例の例を示している。モデル構築用データベース２２には、図５に示すように、複数の初期モデル学習用事例が、学習に用いるデータ候補として格納される。
【００４３】
本実施の形態では、人の加速度データを用いた行動推定を行うためのモデルを学習する場合を想定する。加速度データが取得された時刻と、ある時間窓（本実施の形態では約１秒）で区切った際の加速度データ系列から特徴ベクトル｛ｘ１’，ｘ２’,...,ｘＮ’｝Ｔを抽出した値が、初期モデル学習用事例及び事例として格納されている。
【００４４】
なお、モデル構築用データベース２２のデータには、上記図５に示すように、外部からレコードを指定するために各レコードにデータＩＤが付与されている。なお、加速度系列から特徴ベクトルを抽出する際は、各時間窓内での平均値や分散を計算するほか、ＦＦＴ（Fast Fourier Transform）によって得られたパワースペクトルのヒストグラム情報を用いる手法などが存在する（例えば、参考文献１を参照）。
【００４５】
参考文献１：Brajdic, A., & Harle, R. (2013). “Walk detection and step counting on unconstrained smartphones.” In Proceedings of the 2013 ACM International Joint Conference on Pervasive and ubiquitous computing (pp. 225-234).
【００４６】
正解アノテーションデータベース２４には、入力部１０によって受け付けられた、複数の初期モデル学習用事例に予め対応付けられた正解クラスが、正解アノテーションデータとして格納される。
【００４７】
正解アノテーションデータベース２４のデータ構造の例を図６に示す。正解アノテーションデータベース２４は、図６に示すように、モデル構築用データベース２２のデータＩＤに対応する初期モデル学習用事例における時刻情報と正解クラスのＩＤ情報が格納されている。
【００４８】
上記図６の例ではクラスＩＤが１から３までの値が格納されており、それぞれ歩行動作、階段歩行動作、スロープ歩行動作のクラスが対応する。なお通常の能動学習の枠組みでは、上記図１に示すように、イテレーションごとに、オラクルと呼ばれるアノテータによって正解のクラスが随時付与されることを想定している。
【００４９】
本実施の形態では、図４で示した構成図のように、後述する事例選択部３６によって選択された事例のみに対し、正解入力部１２からユーザにより正解クラスを入力することで、オラクルの存在を表現する。
【００５０】
初期モデル生成部２６は、モデル構築用データベース２２に格納された複数の初期モデル学習用事例と、正解アノテーションデータベース２４に格納された複数の初期モデル学習用事例に予め対応付けられた正解クラスとに基づいて、教師あり学習を用いて、事例が分類されるクラスを予測するための予測モデルを生成する。初期モデル生成部２６は、事例選択の際に用いる予測モデルを生成するための機能を有する。
【００５１】
本実施の形態では、初期モデル学習用事例の特徴ベクトルの情報と当該特徴ベクトルの情報に対応するクラスとを用いて、マルチクラス分類を行う予測モデルの生成を想定している。マルチクラス分類を行う予測モデルの構築には、例えばロジスティック回帰モデルやサポートベクターマシーンなどを利用することができる。ロジスティック回帰モデルやサポートベクターマシーン以外にもマルチクラス分類ができる教師あり機械学習手法であれば、任意の方法を用いることができる。
【００５２】
事例頻度計算部２８は、正解アノテーションデータベース２４に格納された複数の初期モデル学習用事例の正解クラスに基づいて、クラスの各々の事例頻度を計算する。
【００５３】
具体的には、事例頻度計算部２８は、初期モデル学習用事例の各々に対応する正解クラスを正解アノテーションデータベース２４から取得し、クラスの各々の事例頻度を計算する。
【００５４】
なお、事例頻度のカウントには、正解クラスが付与された初期モデル学習用事例の事例頻度を利用することができる他、予測モデルを利用して推定された、正解クラスが未知のテストデータの各々についてのクラス分類から、クラスの各々の事例頻度を計算するようにしてもよい。テストデータとしては、例えば、モデル構築用データベース２２に格納された複数の事例を用いることができる。この場合、事例頻度計算部２８は、初期モデル生成部２６によって生成された予測モデルに基づいて、複数の事例の各々のクラス分類を推定し、クラスの各々の事例頻度を計算する。
【００５５】
本実施の形態では、初期モデル学習用事例の各々に対応する正解クラスを正解アノテーションデータベース２４から取得し、クラスの各々の事例頻度を計算する場合について説明する。
【００５６】
そして、事例頻度計算部２８は、計算したクラスの各々の事例頻度に基づいて、クラスＩＤと当該クラスＩＤに対応する事例頻度との組み合わせを事例頻度データベース３０に格納する。
【００５７】
事例頻度データベース３０には、事例頻度計算部２８によって計算された、クラスＩＤと当該クラスＩＤに対応する事例頻度との組み合わせが格納される。事例頻度データベース３０のデータ構造の例を図７に示す。
【００５８】
図７に示すように、事例頻度データベース３０には、各クラスＩＤに対応する事例頻度が格納されている。上記図７の例では、歩行クラスの事例頻度が１０であるのに比べて、階段歩行とスロープ歩行の事例頻度がそれぞれ１、２となっており、不均衡なデータとなっている。
【００５９】
確率推定部３２は、モデル構築用データベース２２に格納された複数の事例の各々について、初期モデル生成部２６によって生成された予測モデルに基づいて、クラスの各々に対し、当該事例が当該クラスに分類される確率である分類確率を推定する。
【００６０】
具体的には、まず、確率推定部３２は、初期モデル生成部２６の結果得られた予測モデルＣを取得する。次に、確率推定部３２は、モデル構築用データベース２２に格納された複数の事例の各々について、予測モデルＣから各クラスｙにデータＩＤ＝ｘの事例が分類される確率である分類確率Ｐ（ｙ｜ｘ）を計算する。
【００６１】
この分類確率の計算方法は、用いる予測モデルによって変わる。予測モデルがロジスティック回帰モデルの場合は、計算途中に出てくる分類確率をそのまま用いることができる。また、予測モデルが、サポートベクターマシーンのような２値分類器の場合でも、以下の参考文献２に記載された方法で、マルチクラス分類での各クラスの分類確率を求めることができる。
【００６２】
参考文献２：Wu, T. F., Lin, C. J., & Weng, R. C. (2004). “Probability estimates for multi-class classification by pairwise coupling.” The Journal of Machine Learning Research, 5, 975-1005.
【００６３】
そして、確率推定部３２は、モデル構築用データベース２２に格納された各事例のデータＩＤと計算した分類確率Ｐ（ｙ｜ｘ）との組み合わせを分類確率データベース３４に格納する。
【００６４】
分類確率データベース３４には、モデル構築用データベース２２に格納された各事例のデータＩＤと確率推定部３２によって計算された分類確率Ｐ（ｙ｜ｘ）との組み合わせが格納される。分類確率データベース３４のデータ構造の例を図８に示す。分類確率データベース３４は、各クラスに分類される分類確率をデータＩＤごとに格納したものである。
【００６５】
事例選択部３６は、事例頻度データベース３０に格納されたクラスの各々についての事例頻度と、分類確率データベース３４に格納された事例の各々についてのクラスの各々に対する分類確率とに基づいて、モデル構築用データベース２２に格納された複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択する。事例選択部３６は、事例頻度データベース３０と分類確率データベース３４とを入力として、正解クラスを与える事例を学習用事例として選択する機能を有する。
【００６６】
具体的には、まず、事例選択部３６は、事例頻度データベース３０からクラスの各々についての事例頻度を読み込み、集合Ｘとする。また、事例選択部３６は、分類確率データベース３４から事例の各々についてのクラスの各々に対する分類確率を読み込み、集合Ｐとする。
【００６７】
次に、事例選択部３６は、集合Ｘの中で事例頻度が最小のクラスをｙｍｉｎとする。
【００６８】
そして、事例選択部３６は、事例頻度が最小のクラスに対する分類確率が最大である事例を、正解クラスの付与対象となる学習用事例としてｈ個だけ選択し、選択事例集合Ｘ’とする。具体的には、事例選択部３６は、集合Ｐの中で、ｙｍｉｎに分類される確率Ｐ（ｙｍｉｎ｜ｘ）が上位ｈ個の事例を学習用事例として抽出する。学習用事例として選択される事例ｘ＊は、以下の式（３）で表せる。
【００６９】
【数４】
0006509717.tif 000005
【００７０】
予測モデル生成部３８は、事例選択部３６によって選択された学習用事例と、正解入力部１２によって受け付けた、学習用事例に付与された正解クラスとに基づいて、予測モデルを生成する。
【００７１】
具体的には、予測モデル生成部３８は、モデル構築用データベース２２に格納されている初期モデル学習用事例、及び事例選択部３６によって選択された学習用事例を合わせて訓練事例集合Ｅとする。
【００７２】
次に、予測モデル生成部３８は、訓練事例集合Ｅと、正解アノテーションデータベース２４に格納された初期モデル学習用事例のクラスと、正解入力部１２で受け付けた選択事例集合Ｘ’の各学習用事例の正解クラスとに基づいて、予測モデルＣ’を生成する。予測アルゴリズムは、初期モデル生成部２６で用いたものと同じものを利用してもいいし、異なるものを利用してもよい。本実施の形態では、説明の簡単ため、特徴ベクトルと同じ次元の重みベクトルの内積によって予測を行う線形識別モデルによって予測モデルを表現するが、利用可能なアルゴリズムは線形識別モデルに限定されない。非線形モデルを適用する場合には、予測モデルデータベース４０のデータ構造をアルゴリズムに合わせたスキーマに変更する。
【００７３】
そして、予測モデル生成部３８は、予測モデルＣ’のパラメータを予測モデルデータベース４０に格納する。
【００７４】
予測モデルデータベース４０には、予測モデル生成部３８によって生成された予測モデルのパラメータが格納される。
【００７５】
予測モデルデータベース４０のデータ構造の例を図９に示す。図９に示すように、予測モデルデータベース４０には、Ｎ次元の重みベクトルが分類するクラスごとに格納されている。
【００７６】
本実施の形態では、予測モデルとして線形識別モデル（例えば、参考文献３を参照）を用いた例で説明するため、この例では線形識別モデルのパラメータを格納している。線形識別モデルにて複数のクラス分類を行う際は、各クラスに対応する重みベクトルを予測モデルとして保持し、入力特徴ベクトルに対して内積の和が最大であるクラスに分類するという方法を用いることが出来る。そのため、クラスの数だけＮ次元の重みベクトルを格納する必要がある。
【００７７】
参考文献３：Cortes, C., & Vapnik, V. (1995). “Support-vector networks.” Machine learning, 20(3), 273-297.
【００７８】
出力部５０は、予測モデルデータベース４０に格納された予測モデルのパラメータを、結果として出力する。
【００７９】
＜事例選択装置１００の作用＞
次に、本実施の形態の事例選択装置１００の作用について説明する。まず、複数の初期モデル学習用事例と、複数の事例とが事例選択装置１００に入力されると、入力部１０によって、入力された複数の初期モデル学習用事例及び複数の事例が、モデル構築用データベース２２へ格納される。また、複数の初期モデル学習用事例に予め対応付けられた正解クラスが事例選択装置１００に入力されると、入力部１０によって、複数の初期モデル学習用事例に予め対応付けられた正解クラスが正解アノテーションデータベース２４に格納される。そして、事例選択装置１００によって、図１０に示す能動的クラス分類処理ルーチンが実行される。
【００８０】
まず、ステップＳ１００において、初期モデル生成部２６は、モデル構築用データベース２２に格納された複数の初期モデル学習用事例と、正解アノテーションデータベース２４に格納された複数の初期モデル学習用事例に予め対応付けられた正解クラスとに基づいて、教師あり学習を用いて、事例が分類されるクラスを予測するための予測モデルを生成する。当該ステップＳ１００は、図１１に示す初期モデル生成処理ルーチンによって実現される。
【００８１】
＜初期モデル生成処理ルーチン＞
まず、ステップＳ２００において、初期モデル生成部２６は、モデル構築用データベース２２から初期モデル学習用事例の各々を取得する。
【００８２】
次に、ステップＳ２０２において、初期モデル生成部２６は、正解アノテーションデータベース２４から、上記ステップＳ２００で得られた初期モデル学習用事例の各々のデータＩＤと対応する正解クラスを取得する。
【００８３】
ステップＳ２０４において、初期モデル生成部２６は、上記ステップＳ１００で得られた初期モデル学習用事例の各々と、上記ステップＳ２０２で得られた正解クラスの各々とを用いて予測モデルを生成する。
【００８４】
次に、能動的クラス分類処理ルーチンのステップＳ１０２に戻り、ステップＳ１０２において、事例頻度計算部２８は、正解アノテーションデータベース２４に格納された複数の初期モデル学習用事例の正解クラスに基づいて、クラスの各々の事例頻度を計算する。当該ステップＳ１０２は、図１２に示す事例頻度計算処理ルーチンによって実現される。
【００８５】
＜事例頻度計算処理ルーチン＞
まず、ステップＳ３００において、事例頻度計算部２８は、モデル構築用データベース２２に格納された初期モデル学習用事例の各々を取得する。
【００８６】
次に、ステップＳ３０２において、事例頻度計算部２８は、上記ステップＳ３００で得られた初期モデル学習用事例の各々に対応する正解クラスを、正解アノテーションデータベース２４から取得し、クラスの各々の事例頻度を計算する。
【００８７】
ステップＳ３０４において、事例頻度計算部２８は、上記ステップＳ３０２で計算したクラスの各々の事例頻度に基づいて、クラスＩＤと当該クラスＩＤに対応する事例頻度との組み合わせを事例頻度データベース３０に格納する。
【００８８】
次に、能動的クラス分類処理ルーチンのステップＳ１０４に戻り、ステップＳ１０４において、確率推定部３２は、モデル構築用データベース２２に格納された複数の事例の各々について、初期モデル生成部２６によって生成された予測モデルに基づいて、クラスの各々に対し、当該事例が当該クラスに分類される確率である分類確率を推定する。当該ステップＳ１０４は、図１３に示す確率推定処理ルーチンによって実現される。
【００８９】
＜確率推定処理ルーチン＞
まず、ステップＳ４００において、確率推定部３２は、上記ステップＳ１００で得られた予測モデルＣを取得する。
【００９０】
次に、ステップＳ４０２において、確率推定部３２は、モデル構築用データベース２２に格納された複数の事例の各々について、上記ステップＳ４００で取得した予測モデルＣから各クラスｙにデータＩＤ＝ｘの事例が分類される確率である分類確率Ｐ（ｙ｜ｘ）を計算する。
【００９１】
ステップＳ４０４において、確率推定部３２は、モデル構築用データベース２２に格納された各事例のデータＩＤと、上記ステップＳ４０３で計算した分類確率Ｐ（ｙ｜ｘ）との組み合わせを分類確率データベース３４に格納する。
【００９２】
次に、能動的クラス分類処理ルーチンのステップＳ１０６に戻り、ステップＳ１０６において、事例選択部３６は、事例頻度データベース３０に格納されたクラスの各々についての事例頻度と、分類確率データベース３４に格納された事例の各々についてのクラスの各々に対する分類確率とに基づいて、モデル構築用データベース２２に格納された複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択する。当該ステップＳ１０６は、図１４に示す事例選択処理ルーチンによって実現される。
【００９３】
＜事例選択処理ルーチン＞
まず、ステップＳ５００において、事例選択部３６は、事例頻度データベース３０からクラスの各々についての事例頻度を読み込み、集合Ｘとする。また、事例選択部３６は、分類確率データベース３４から事例の各々についてのクラスの各々に対する分類確率を読み込み、集合Ｐとする。
【００９４】
次に、ステップＳ５０２において、事例選択部３６は、上記ステップＳ５００で得られた集合Ｘの中で事例頻度が最小のクラスをｙｍｉｎとする。
【００９５】
ステップＳ５０４において、事例選択部３６は、上記ステップＳ５０２で得られたクラスｙｍｉｎに対する分類確率Ｐ（ｙｍｉｎ｜ｘ）が上位ｈ個の事例を、上記式（３）に従って、学習用事例としてｈ個だけ選択し、選択事例集合Ｘ’とする。
【００９６】
次に、能動的クラス分類処理ルーチンのステップＳ１０７に戻り、上記ステップＳ５０４で得られた選択事例集合Ｘ’を表示部（図示省略）によりユーザに提示する。そして、ユーザは、選択事例集合Ｘ’のｈ個の学習用事例の各々に対し、正解クラスを入力する。そして、正解入力部１２は、ユーザにより入力された正解クラスの各々を受け付ける。
【００９７】
ステップＳ１０８において、予測モデル生成部３８は、事例選択部３６によって選択された選択事例集合Ｘ’と、上記ステップＳ１０７で受け付けた正解クラスの各々とに基づいて、予測モデルを生成する。当該ステップＳ１０８は、図１５に示す予測モデル生成処理ルーチンによって実現される。
【００９８】
＜予測モデル生成処理ルーチン＞
まず、ステップＳ６００において、予測モデル生成部３８は、モデル構築用データベース２２に格納されている初期モデル学習用事例、及び事例選択部３６によって選択された選択事例集合Ｘ’を合わせて訓練事例集合Ｅとする。
【００９９】
次に、ステップＳ６０２において、予測モデル生成部３８は、上記ステップＳ６００で得られた訓練事例集合Ｅと、正解アノテーションデータベース２４に格納された初期モデル学習用事例のクラスと、上記ステップＳ１０７で受け付けた選択事例集合Ｘ’の各学習用事例の正解クラスとに基づいて、予測モデルＣ’を生成する。
【０１００】
ステップＳ６０４において、予測モデル生成部３８は、上記ステップＳ６０２で生成された予測モデルＣ’のパラメータを予測モデルデータベース４０に格納する。
【０１０１】
次に、能動的クラス分類処理ルーチンのステップＳ１１０に戻り、出力部５０は、予測モデルデータベース４０に格納された予測モデルのパラメータを、結果として出力して、能動的クラス分類処理ルーチンを終了する。
【０１０２】
以上説明したように、本実施の形態の事例選択装置によれば、クラスの各々についての事例頻度と、事例の各々についてのクラスの各々に対する分類確率とに基づいて、複数の事例から、事例頻度が低いクラスに対する分類確率が高い事例を、正解クラスの付与対象となる学習用事例として選択することにより、事例頻度が低いクラスに属する事例を学習データに含ませて、アノテーションを行うことができる。
【０１０３】
また、選択された学習用事例と、学習用事例に付与された正解クラスとに基づいて、予測モデルを生成することにより、事例頻度が低いクラスに属する事例から予測モデルを生成することができる。
【０１０４】
また、クラスごとに事例頻度を計算し、事例頻度が低いクラスにおいて分類確率が高い事例を選択することで、事例頻度が低いクラスに属する事例に対し優先的にアノテーションを与えることが可能となる。この結果、少ないアノテーションコストで事例頻度が低いクラスの事例に対するアノテーションを十分に付与することが可能となり、事例頻度が低いクラスの分類精度が低下することを防ぎ、必要となるアノテーション回数を抑制することができる。
【０１０５】
また、逐次的にアノテーションを与える事例を選択することで、予測モデルの精度要件を満たすまでにかかるアノテーションコストを低減することができる。その結果、アノテーションを人手で付与する際に支払うコストを低減することができる。
【０１０６】
また、本実施の形態の事例選択装置が事例頻度計算部２８と事例選択部３６とを有することにより、少ないイテレーション数で低頻度クラスの事例に対するアノテーションを十分に付与することが可能となる。さらに、多くの低頻度クラスの正解情報を考慮に入れて重みを計算することが可能となり、その重みを利用した予測モデルを作成することが可能となるため、少ないアノテーションコストで高精度な予測を行う予測モデルを生成することが可能となる。
【０１０７】
また、本実施の形態の事例選択装置の事例選択部３６が、事例頻度が最小のクラスに対する分類確率が最大である事例を、正解クラスの付与対象となる学習用事例としてｈ個だけ選択する機能を有することにより、各クラスの事例頻度と分類確率から、低頻度の事例を積極的に選択することが可能となる。
【０１０８】
なお、本実施の形態では、初期モデル生成部２６で予測モデルを一度生成した後に、事例選択部３６によってアノテーションを付与する事例を選択し、予測モデル生成部３８によって予測モデルを一度更新する場合について説明した。一方で、予測モデル生成部３８の結果を、再度事例頻度計算部２８と確率推定部３２とに入力することによって、再帰的に予測モデルを更新することも可能である。
【０１０９】
［第２の実施の形態］
＜システム構成＞
次に、本発明の第２の実施の形態について説明する。なお、第２の実施の形態に係る事例選択装置の構成は、第１の実施の形態と同様の構成となるため、同一符号を付して説明を省略する。
【０１１０】
第２の実施の形態では、事例頻度が最小のクラスに対する分類確率と、事例頻度が最大のクラスに対する分類確率との差が最大となる事例を、正解クラスの付与対象となる学習用事例として選択する点が、第１の実施の形態と異なっている。
【０１１１】
第２の実施の形態に係る事例選択装置の事例選択部３６は事例頻度データベース３０に格納されたクラスの各々についての事例頻度と、分類確率データベース３４に格納された事例の各々についてのクラスの各々に対する分類確率とに基づいて、事例頻度が最小のクラスに対する分類確率と、事例頻度が最大のクラスに対する分類確率との差が最大となる事例を、正解クラスの付与対象となる学習用事例としてｈ個だけ選択する。
【０１１２】
具体的には、まず、事例選択部３６は、第１の実施の形態と同様に、事例頻度データベース３０からクラスの各々についての事例頻度を読み込み、集合Ｘとする。また、事例選択部３６は、分類確率データベース３４から事例の各々についてのクラスの各々に対する分類確率を読み込み、集合Ｐとする。
【０１１３】
次に、事例選択部３６は、集合Ｘの中で事例頻度が最小のクラスをｙｍｉｎとする。そして、事例選択部３６は、集合Ｘの中で事例頻度が最大のクラスをｙｍａｘとする。
【０１１４】
そして、事例選択部３６は、集合Ｐの中で、クラスｙｍｉｎに分類される分類確率とクラスｙｍａｘ分類される分類確率との差が最も大きい事例を抽出する。選択される事例ｘ＊は、以下の式（４）で表せる。
【０１１５】
【数５】
0006509717.tif 000006
【０１１６】
以上の方法で上位ｈ件の事例を選択し、選択事例集合Ｘ’とする。
【０１１７】
なお、第２の実施の形態に係る事例選択装置の他の構成及び作用については、第１の実施の形態と同様であるため、説明を省略する。
【０１１８】
以上説明したように、第２の実施の形態に係る事例選択装置によれば、事例頻度が最小のクラスに対する前記分類確率と、前記事例頻度が最大のクラスに対する前記分類確率との差が最大となる前記事例を、前記正解クラスの付与対象となる学習用事例として選択することにより、事例頻度が最大のクラスに分類される分類確率が、事例頻度が最小のクラスに分類される分類確率よりもが相対的に小さい事例を選択することができる。つまり、事例頻度が最大のクラスに分類される分類確率が大きい事例が選ばれづらくなる効果がある。
【０１１９】
［第３の実施の形態］
＜システム構成＞
次に、本発明の第３の実施の形態について説明する。なお、第３の実施の形態に係る事例選択装置の構成は、第１の実施の形態と同様の構成となるため、同一符号を付して説明を省略する。
【０１２０】
第３の実施の形態では、事例頻度が最小のクラスに対する分類確率と、事例頻度が最大のクラスに対する分類確率とを組み合わせて、正解クラスの付与対象となる学習用事例を選択する点が、第１又は第２の実施の形態と異なっている。
【０１２１】
第３の実施の形態に係る事例選択装置の事例選択部３６は、第１の実施の形態における事例の選択方法と、第２の実施の形態における事例の選択方法との両方を利用して、事例を選択する。
【０１２２】
第１及び第２の実施の形態における事例の選択方法の利用方法としては、例えば予め定めた上位ｈ件の選択事例集合のうち、上位半分を第１の実施の形態における事例の選択方法を用いて事例を選択し、下位半分を第２の実施の形態における事例の選択方法を用いて事例を選択することが考えられる。
【０１２３】
また、上位奇数番目を第１の実施の形態における事例の選択方法を用いて事例を選択し、上位偶数番目を第２の実施の形態における事例の選択方法を用いて事例を選択するなどの方法も考えられる。
【０１２４】
これにより、第１の実施の形態における事例の選択方法と第２の実施の形態における事例の選択方法との両者の異なる観点で事例を選択することで、事例の特徴空間上で多様な事例を選択することができる効果がある。
【０１２５】
なお、第３の実施の形態に係る事例選択装置の他の構成及び作用については、第１又は第２の実施の形態と同様であるため、説明を省略する。
【０１２６】
以上説明したように、第２の実施の形態に係る事例選択装置によれば、事例頻度が最小のクラスに対する分類確率と、事例頻度が最大のクラスに対する分類確率とを組み合わせて、正解クラスの付与対象となる学習用事例を選択することにより、多様な事例を選択することができる。
【０１２７】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１２８】
例えば、本実施の形態では、人の加速度データを用いた行動推定を行うためのモデルを学習する場合を例に説明したが、この用途に限定されるものではなく、能動学習の枠組みで教師有り学習を行うタスク（例えば、テキストデータを用いたスパム判定や、画像データを用いた種別分類など）に対しても適用することができる。
【０１２９】
また、上記実施の形態における、事例選択部３６と予測モデル生成部３８とを別々の装置として構成してもよい。その場合には、事例選択部３６を含んで事例選択装置を構成し、予測モデル生成部３８を含んで分類装置を構成する。
【０１３０】
また、モデル構築用データベース２２、正解アノテーションデータベース２４、事例頻度データベース３０、分類確率データベース３４、及び予測モデルデータベース４０の少なくとも１つは、事例選択装置の外部に設けられ、事例選択装置とネットワークで接続されていてもよい。
【０１３１】
上述の事例選択装置は、内部にコンピュータシステムを有しているが、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
【０１３２】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【０１３３】
１０   入力部
１２   正解入力部
２０   演算部
２２   モデル構築用データベース
２４   正解アノテーションデータベース
２６   初期モデル生成部
２８   事例頻度計算部
３０   事例頻度データベース
３２   確率推定部
３４   分類確率データベース
３６   事例選択部
３８   予測モデル生成部
４０   予測モデルデータベース
５０   出力部
１００ 事例選択装置
【図１】
0006509717.tif 000007
【図２】
0006509717.tif 000008
【図３】
0006509717.tif 000009
【図４】
0006509717.tif 000010
【図５】
0006509717.tif 000011
【図６】
0006509717.tif 000012
【図７】
0006509717.tif 000013
【図８】
0006509717.tif 000014
【図９】
0006509717.tif 000015
【図１０】
0006509717.tif 000016
【図１１】
0006509717.tif 000017
【図１２】
0006509717.tif 000018
【図１３】
0006509717.tif 000019
【図１４】
0006509717.tif 000020
【図１５】
0006509717.tif 000021