(57)【要約】      （修正有）【課題】識別精度の低下を抑制しながら、識別時間を短縮できる識別辞書学習装置を提供する。【解決手段】複数のクラスのいずれかに属するデータ値を複数のクラスのいずれかに分類する、複数の識別器を、データ値を使用して学習する学習手段と、誤ったクラス分類における学習サンプルが属するクラスと、分類されたクラスとの組み合わせの、クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、複数の識別器の各々の最適化指標を計算する指標計算手段１１３と、識別器のうち、最適化指標が、識別精度が最も高いことを表す識別器を弱識別器として選択し、弱識別器を、識別辞書記憶手段１２２に格納されている、弱識別器の集合である識別辞書に追加する決定手段１１４と、追加されるのに応じて、最適化指標係数の更新をルールに基づいて行う係数更新手段１１６と、を備える。【選択図】図１１
2016062249.tif 000002
【特許請求の範囲】
【請求項１】
複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習手段と、
誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算手段と、
学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定手段と、
前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新手段と、
を備える識別辞書学習装置。
【請求項２】
前記クラス分類は、前記認識対象から得られる前記データ値がいずれかに属する前記クラスである、複数のポジティブ系クラス、及び、前記認識対象から得られない前記データ値が属する前記クラスであるネガティブ系クラスのいずれかに、前記データ値を分類することであり、
前記識別辞書学習装置は、さらに、
異なる２つの前記ポジティブ系クラスの前記組み合わせである同系セットの前記最適化指標への寄与の大きさが、前記ポジティブ系クラス及び前記ネガティブ系クラスの前記組み合わせである異系セットの前記最適化指標への寄与の大きさより小さくなるよう、前記複数の最適化指標係数の各々の、前記更新が行われる前に前記最適化指標の導出に使用される値である初期値を設定する初期化を行う初期化手段
を備える請求項１に記載の識別辞書学習装置。
【請求項３】
前記初期化手段は、前記同系セットの各々の前記最適化指標への寄与が、無くなる又はほぼ無くなるように、前記初期化を行う
請求項２に記載の識別辞書学習装置。
【請求項４】
前記係数更新手段は、前記同系セットの各々の前記最適化指標への寄与の大きさが増加するように、前記更新を行う
請求項１乃至３のいずれかに記載の識別辞書学習装置。
【請求項５】
前記係数更新手段は、前記同系セットの各々の前記最適化指標への寄与の大きさが、前記異系セットの前記最適化指標への寄与の大きさに近づくように前記更新を行う
請求項１乃至４のいずれかに記載の識別辞書学習装置。
【請求項６】
少なくともいずれかの前記同系セットの前記最適化指標の更新における前記ルールを受信する更新設定手段を備え、
前記係数更新手段は、受信された前記ルールに従って前記更新を行う、
請求項１乃至５のいずれかに記載の識別辞書学習装置。
【請求項７】
前記学習手段は、１つ以上の前記クラスを含むクラス集合と、前記学習サンプルに基づき導出される特徴量の種類との、異なる複数の組み合わせの各々について、当該組み合わせと前記複数の学習サンプルとに基づいて前記弱識別器の学習を行う
請求項１乃至６のいずれかに記載の識別辞書学習装置。
【請求項８】
識別装置と、請求項１乃至７のいずれかに記載の識別辞書学習装置と、を含み、
前記識別辞書学習装置は、
前記識別辞書記憶手段をさらに備え、
前記決定手段は、選択された前記弱識別器を前記識別辞書に追加し、
前記識別装置は、
前記データ値である識別サンプルを受信する設定手段と、
前記識別辞書に含まれる複数の前記弱識別器による前記識別サンプルの前記クラス分類の結果の各々を統合することにより、前記識別サンプルの前記クラス分類を行う判定手段と、
を備える、
識別システム。
【請求項９】
複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習し、
誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算し、
学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加し、
前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う、
識別辞書学習方法。
【請求項１０】
コンピュータを、
複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習手段と、
誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算手段と、
学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定手段と、
前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新手段と、
して動作させる識別辞書学習プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、認識辞書を学習する技術に関する。
【背景技術】
【０００２】
物体検出においてよく利用される統計的パターン識別技術の１つに、Ｂｏｏｓｔｉｎｇと呼ばれる手法がある。Ｂｏｏｓｔｉｎｇは、多数の単純な識別器を組み合わせることによって、識別の精度を向上させる技術である。Ｂｏｏｓｔｉｎｇにおいて、単純な識別器は弱識別器と呼ばれる。弱識別器を組み合わせることによって作られる高精度な識別器は、強識別器と呼ばれる。Ｂｏｏｓｔｉｎｇに基づく技術の例が、例えば、非特許文献１乃至４に記載されている。
【０００３】
非特許文献１には、Ｂｏｏｓｔｉｎｇの一つであるＡｄａＢｏｏｓｔを物体検出に利用する例が記載されている。非特許文献２には、ＡｄａＢｏｏｓｔを改良したＲｅａｌＡｄａＢｏｏｓｔと呼ばれるＢｏｏｓｔｉｎｇ手法が記載されている。非特許文献３には、ＡｄａＢｏｏｓｔを改良した手法の１つであるＧｅｎｔｌｅＡｄａＢｏｏｓｔが記載されている。非特許文献１、非特許文献２、及び非特許文献３に記載されている技術は、例えば、画像における、例えば顔や車などの特定の物体の検出に適用することが可能である。例えば、画像の部分領域がその特定の物体の像であるか否かを、非特許文献１、非特許文献２、又は非特許文献３に記載されている技術を使用して識別することができる。
【０００４】
非特許文献４には、例えば方向などの違いによる外観の変動が大きい物体を識別する技術の例が記載されている。非特許文献４に記載されている技術では、識別の対象である１つの物体に対して、外観のバリエーションに応じた複数のカテゴリ（すなわちクラス）と、識別の対象である物体以外の対象のカテゴリとが生成される。
【０００５】
特許文献１には、オブジェクトを複数のクラスのいずれかに分類する、マルチクラスの判別を行う判別器を生成する判別器生成装置が記載されている。特許文献１の判別器生成装置は、複数の弱判別器を組み合わせることによって判別器を生成する。特許文献１の判別器生成装置は、複数のクラス間における弱判別器に、特徴量のみを共有する学習を行う。
【０００６】
特許文献２には、学習モデルのパラメータを最適化する学習モデル生成装置が記載されている。特許文献２の学習モデル生成装置は、認識対象毎に分類器を生成する。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２０１１−１８１０１６号公報
【特許文献２】特開２０１２−０３８２４４号公報
【非特許文献】
【０００８】
【非特許文献１】P. Viola and M. Jones, ”Robust real-time object detection”, IJCV, 57(2), pp. 137-154, 2004
【非特許文献２】R. Schapire, Y. Singer, ”Improved boosting algorithms using confidence-rated predictions”, Proc. of 11th conference on Computational Learning Theory, 1998
【非特許文献３】J.Friedman, T. Hastie, R. Tibshirani, ”Additive logistic regression: a statistical view of boosting”, Annals of statistics, 28(2), pp. 337-374, 2000
【非特許文献４】A. Torralba, K. P. Murphy, W. T. Freeman, ”Sharing visual features for multiclass and multiview object detection”, PAMI2006
【発明の概要】
【発明が解決しようとする課題】
【０００９】
非特許文献１乃至３に記載されている技術では、識別したい物体の外観のバリエーションが大きい場合、識別したい物体から得られる学習サンプルのばらつきも大きい。すなわち、識別したい物体のクラスに分類される学習サンプルのばらつきが大きい。そのため、非特許文献１乃至３に記載されている技術では、学習の結果として生成される識別器によって高い識別精度が得られない。
【００１０】
外観のバリエーションが大きい、識別したい物体に複数のクラスを割り当てる場合、識別したい物体に割り当てられる複数のクラスと、識別したい物体以外の対象に割り当てられるクラスとを識別できれば、その物体を識別できる。すなわち、物体の識別のために識別することが必要なクラスの組み合わせは限られる。しかし、非特許文献４、特許文献１及び特許文献２に記載されている技術では、検出したい物体の外観のバリエーションに応じて生成されるクラスと、検出したい物体でない対象のクラスとが区別されずに、学習が行われる。従って、非特許文献４、特許文献１及び特許文献２の技術によって学習された識別辞書に基づく識別では、上述のように識別が必要なクラスの組み合わせが限られる場合であっても、その識別辞書に伴う全ての計算を完了させる必要がある。例えば、その計算を途中で打ち切った場合、識別精度が低下する可能性がある。すなわち、非特許文献４、特許文献１及び特許文献２に記載されている技術では、識別対象の外観のバリエーションが大きい場合、識別精度の低下を抑制しながら、例えば識別処理を打ち切ることによって識別時間を短縮させることができる識別辞書は得られない。なお、識別辞書は、例えば、学習の結果として得られる、識別器を表す、例えば識別子及びパラメータなどのデータ値の集合である。
【００１１】
本発明の目的の一つは、外観のバリエーションが大きい物体が識別の対象である場合における、外観のバリエーションが小さい場合と比較した、識別精度の低下を抑制しながら、識別時間を短縮できる識別辞書を作成できる識別辞書学習装置を提供することにある。
【課題を解決するための手段】
【００１２】
本発明の一態様に係る識別辞書学習装置は、複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習手段と、誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算手段と、学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定手段と、前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新手段と、を備える。
【００１３】
本発明の一態様に係る識別辞書学習方法は、複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習し、誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算し、学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加し、前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う。
【００１４】
本発明の一態様に係る識別辞書学習プログラムは、コンピュータを、複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習手段と、誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算手段と、学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定手段と、前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新手段と、して動作させる。
【発明の効果】
【００１５】
本発明には、外観のバリエーションが大きい物体が識別の対象である場合における、外観のバリエーションが小さい場合と比較した、識別精度の低下を抑制しながら、識別時間を短縮できる識別辞書を作成できるという効果がある。
【図面の簡単な説明】
【００１６】
【図１】図１は、本発明の第１の実施形態に係る識別辞書学習システム１００の構成の例を表すブロック図である。
【図２】図２は、重み記憶部１２３が記憶する重みの例を模式的に表す図である。
【図３】図３は、サンプル記憶部１２４が記憶するラベルの例を模式的に表す図である。
【図４Ａ】図４Ａは、ヒストグラムの例を表す第１の図である。
【図４Ｂ】図４Ｂは、ヒストグラムの例を表す第２の図である。
【図５Ａ】図５Ａは、最適化指標テーブルの例を表す第１の図である。
【図５Ｂ】図５Ｂは、最適化指標テーブルの例を表す第２の図である。
【図６】図６は、更新に伴う最適化指標係数の変化を模式的に表す図である。
【図７】図７は、本発明の第１の実施形態に係る識別辞書学習装置１１０の動作の例を表すフローチャートである。
【図８】図８は、階層的な多クラスに分類される、識別の対象の例を模式的に表す図である。
【図９】図９は、本発明の第２の実施形態に係る物体検出システム３００の構成を表すブロック図である。
【図１０】図１０は、本発明の第２の実施形態の物体検出装置３１０の動作の例を表すフローチャートである。
【図１１】図１１は、本発明の第３の実施形態の識別辞書学習装置１００Ａの構成を表すブロック図である。
【図１２】図１２は、本発明の各実施形態に係る装置を実現することができる、コンピュータ１０００のハードウェア構成の一例を表す図である。
【発明を実施するための形態】
【００１７】
以下では、まず、本発明との比較のために、画像において物体を検出する技術について説明する。
【００１８】
画像において、特定の種類の物体を検出し、その物体の像が存在する領域の位置を決める技術として、テンプレートマッチングと呼ばれる技術が古くから利用されている。テンプレートマッチングは、画像中に設定された探索窓と、あらかじめ用意されたテンプレート画像とのマッチング計算を、探索窓を変更しながら多数回繰り返すことによって、テンプレート画像と類似している領域を特定する探索手法である。テンプレート画像は、例えば、検出される物体のみの画像である。この際、単純にテンプレート画像の画素値と画像中の画素値を利用してマッチングした場合、マッチングの精度は低い。マッチングの精度を高めるために、周辺画素との勾配情報や２次微分情報等を計算することによって、画素値を、よりマッチングしやすい、特徴量と呼ばれる数値列に変換する手法がよく利用される。さらに、精度を高めるために、統計的パターン識別技術を用いて、識別処理に使用されるパラメータ群を最適化し（すなわち学習し）、その辞書を用いてマッチングの計算を行う手法がよく利用される。識別処理に使用されるパラメータ群は、一般に、「辞書」とも呼ばれる。この場合の辞書は、検出したい特定の物体のクラスである物体クラス（ポジティブクラス）と、検出したい特定の物体以外のクラスである非物体クラス（ネガティブクラス）の２クラス識別をすることができるように、ある決められた指標について最適化される。この指標は、利用される統計的パターン識別技術によって異なる。
【００１９】
物体検出においてよく利用される統計的パターン識別技術の１つに、Ｂｏｏｓｔｉｎｇと呼ばれる手法がある。Ｂｏｏｓｔｉｎｇは、多数の単純な識別器（弱識別器）を組み合わせることによって、高精度な識別器（強識別器）を構成する手法の１つである。よく使われるＡｄａＢｏｏｓｔと呼ばれる手法による識別処理では、多数の弱識別器を順に実行することによって得られる、個々の弱識別器の出力スコアを、重み付きで足し合わせた値が、強識別器の出力スコアとして導出される。ＡｄａＢｏｏｓｔによる学習処理では、弱識別器を１つずつ学習し、学習した弱識別器を強識別器に使用される弱識別器に追加していくことにより、１つの強識別器を構築する。弱識別器を学習する際、既に追加されている弱識別器が誤識別しやすい学習データ（学習サンプル）に対して、大きな重みを付与することによって、その学習サンプルを重視した学習が行われる。
【００２０】
なお、学習サンプルは、例えば、既知の識別対象を観測することによって得られるデータ値のうち、学習部１１２による学習に使用されるデータである。また、識別データは、例えば、属するクラスを識別しようとする識別対象が観測されることによって得られたデータ値である。以下の説明において、識別データは、単に「サンプル」とも表記される。識別対象は、あらかじめ定められたいずれかのクラスに属する。以下の説明において、「学習サンプルが属するクラス」は、観測によってその学習サンプルが得られた識別対象が属するクラスを指す。同様に、「識別データ（サンプル）が属するクラス」は、観測によってその識別データ（サンプル）が得られた識別対象が属するクラスを指す。例えば、観測によって学習サンプルＡが得られた識別対象がクラスＢに属する場合、「学習サンプルＡがクラスＢに属する」と表記する。
【００２１】
上述のように、非特許文献１によって、Ｂｏｏｓｔｉｎｇを物体検出に効果的に利用した例が開示されている。非特許文献１に開示されている手法は、広く知られている手法である。特徴量として、ＲｅｃｔａｎｇｌｅＦｉｌｔｅｒを利用することによって高速に計算できるＨａａｒウェーブレットが採用されている。Ｂｏｏｓｔｉｎｇの弱識別器として、特徴量の１つに対して単純に閾値処理を行うだけの処理（Ｄｅｃｉｓｉｏｎ−Ｓｔｕｍｐ）が採用されている。そのため、弱識別器の学習処理では、１つの特徴量が選択され、選択された特徴量に対して適切な閾値が１つ決定される。強識別器の生成にはＡｄａＢｏｏｓｔが採用されている。非特許文献２によって、ＡｄａＢｏｏｓｔが改良された、ＲｅａｌＡｄａＢｏｏｓｔと呼ばれるＢｏｏｓｔｉｎｇ手法が開示されている。この手法では、単純なＤｅｃｉｓｉｏｎ−Ｓｔｕｍｐではなく、ポジティブクラスの特徴量の出現確率とネガティブクラスの特徴量の出現確率に基づいた弱識別が行われる。そのため、学習データさえ大量にあれば、高精度な物体検出が実現される。また、非特許文献３によって、ＧｅｎｔｌｅＡｄａＢｏｏｓｔと呼ばれる、ＡｄａＢｏｏｓｔが改良した手法の１つが開示されている。この手法は、学習処理において最適化する指標（損失）の定義を修正することによって、安定的に学習ができ、そして、ＲｅａｌＡｄａＢｏｏｓｔと同等以上の精度を得られることで知られている。前述の非特許文献１に開示されている技術によって、特定の物体（例：顔や車）を画像から高精度に検出することが可能である。また、非特許文献１に開示されている技術と非特許文献２または非特許文献３に開示されている技術とを組み合わせることで、特定の物体（例：顔や車）を画像から高精度に検出することが可能である。しかし、これらの場合、検出したい物体の見た目のバリエーションが大きい場合には、高い検出精度を得られない。
【００２２】
画像上で見た目のバリエーションが大きい物体を検出する場合、見た目のバリエーションの種類毎に識別辞書を１つ用意し、それぞれの見た目のバリエーションの種類について検出処理を行う方式がよく利用される。しかし、この方式では見た目の種類の数だけ処理時間が増加してしまう問題がある。これに対して、非特許文献４には、見た目のバリエーションを分類して別々のカテゴリ（クラス）とみなし、複数のクラス間で特徴量と弱識別器を共有できるように学習する枠組みが開示されている。この手法では、弱識別器を共有できるため、処理時間が単純にクラス数倍には増加せず、比較的高速な処理を実現できる。しかし、見た目が１つの場合と比較して、弱識別器の個数が増加する傾向があるため、高速化の度合いは大きくない。
【００２３】
統計的パターン識別分野において多クラス識別手法は多数存在する。見た目のバリエーションが大きい、例えば物体等の識別対象を検出する多クラス識別では、識別対象のクラス構成が、階層的な多クラス構成である点において、特殊である。識別対象は、その識別対象がどのクラスに属するかが判定される対象である。階層的な多クラス構成は、例えば、識別対象の全体がポジティブ系のクラスとネガティブ系のクラスとに分類され、さらに、ポジティブ系のクラスは複数のサブクラスに分けられる多クラス構成である（図８参照）。以下の説明において、ポジティブ系のクラス（すなわち、上述のサブクラス）の各々を、「ポジティブクラス」、「ポジティブ系クラス」又は「物体クラス」とも表記する。ポジティブ系のクラスを、「ネガティブクラス」、「ネガティブ系クラス」又は「非物体クラス」とも表記する。
【００２４】
図８は、階層的な多クラスに分類される、識別対象の例を模式的に表す図である。図８において、同じクラスに含まれる識別対象は、同じ図形によって表されている。図形の位置は、その図形によって表される識別対象の画像から抽出された特徴量の、特徴空間内の位置を模式的に表す。特徴空間は、特徴量の空間を表す。図８に示す例では、識別対象は、検出される物体のクラスであるポジティブクラスと、検出される物体ではない対象のクラスであるネガティブクラスとのいずれかに分類される。図８に示す例では、ポジティブ系のクラスは、さらに、３つのサブクラス（ポジティブクラス）に分かれている。そして、３つのポジティブクラスは、「Ｐｏｓ１」、「Ｐｏｓ２」、及び「Ｐｏｓ３」と名付けられている。検出対象の物体が顔である場合、例えば、Ｐｏｓ１に正面顔が割り当てられ、Ｐｏｓ２に斜め顔が割り当てられ、Ｐｏｓ３に横顔が割り当てられるように、ポジティブクラスの各々に、撮影の方向が異なる顔が割り当てられる。他にも、検出対象が顔である場合、Ｐｏｓ１に人間の正面顔が割り当てられ、Ｐｏｓ２に人形の正面顔が割り当てられるといった割り当てもあり得る。このような方式を評価するには、２種類の精度が考えられる。１つは見た目に関わらずとにかく物体を検出できる精度（以下、第１の精度）である。第１の精度は、ポジティブ系のクラス全体とネガティブクラスとの間の識別する能力に関わる。もう１つは物体の見た目を正しく分類できる精度（以下、第２の精度）である。第２の精度は、ポジティブ系のクラス間を識別する能力に関わる。物体検出では、前述の第１の精度が高いことは必須である。そして、用途によっては、第２の精度も重要である。なお、図８に示すポジティブ系のクラスとネガティブクラスとの境界は、概念的に物体と非物体の境界を示す。
【００２５】
非特許文献４では、個々のポジティブ系クラスとネガティブクラスとを分類できるように学習が行われ、各ポジティブ系クラスのスコアが出力される。そのため、結果的に階層的なクラスの分類が可能である。さらに、学習時にポジティブ系クラスのラベルの一部をポジティブでもネガティブでもないラベルに設定することによって、ポジティブ系クラス全体とネガティブクラスとの間の識別を特に優先させることが可能である。しかし、その優先の度合いは固定であり任意には調整できない。
【００２６】
次に、以下の説明の便宜上、本実施の形態により作成された識別辞書を用いた多クラス識別処理の枠組みについて先に説明する。識別辞書には学習された多数の弱識別器の情報が記憶されている。それらの弱識別器を１つずつ順に実行することによって、全体的な識別結果が得られる。上述のように、このように弱識別器を組み合わせた処理は機械学習・パターン認識分野では強識別器と呼ばれる。この枠組みはＢｏｏｓｔｉｎｇと呼ばれる枠組みの一変種である。弱識別器それぞれは１つまたは複数のポジティブ系クラスをサポートしている。弱識別器は、入力データに対して、その弱識別器がサポートしているポジティブ系クラスのスコアと、その弱識別器がサポートしていないポジティブ系クラスのスコアの、２種類のスコアが出力するよう設計されていてもよい。その場合、１つの弱識別器によって計算されるスコアの値は、その弱識別器がサポートしているポジティブ系クラスについては同一の値であり、残りのポジティブ系クラスについては別の同一の値である。言い換えると、各弱識別器は、入力データに対して、その弱識別器がサポートするポジティブ系クラスのスコアとして、同一の値を出力する。各弱識別器は、さらに、その入力データに対して、その弱識別器がサポートするポジティブ系クラス以外のクラスのスコアとして、他の同一の値を出力する。弱識別器が、その弱識別器がサポートするポジティブ系クラスのスコアとして出力するスコアは、例えば、入力データによって表される識別対象が、その弱識別器がサポートするポジティブ系クラスのいずれかに属する可能性の程度を表す。弱識別器が、その弱識別器がサポートするポジティブ系クラス以外のクラスのスコアとして出力するスコアは、例えば、入力データによって表される識別対象が、その弱識別器がサポートするポジティブ系クラスのいずれにも属しない可能性の程度を表す。
【００２７】
そして、弱識別器の各々が出力するスコアの、ポジティブ系クラス毎の累積和が計算される。計算された累積和が、強識別器の出力（強識別スコア）である。つまり、強識別スコアはポジティブ系クラス毎に求まる。従って、入力データを、強識別スコアの最大値をとるポジティブ系クラスに分類することができる。以下では、個々の弱識別器がサポートしているポジティブ系クラスを簡潔に表現するために、１つまたは複数のポジティブ系クラスからなる、ポジティブ系クラスの集合を、単集合Ｓｎと表記する（n=1,…,集合の数）。
【００２８】
前記強識別器の出力は数１に示す式を使用して計算される。数１に示す式において、ｃはポジティブ系クラスに付与される番号を表す。Ｈｃ及びｈｍｃは、それぞれ、ポジティブ系クラスｃらしさを表す、強識別器の出力値及びｍ番目の弱識別器の出力値を表す。ＮＭは弱識別器の個数であり、ｍは弱識別器番号である。強識別器は、各ポジティブ系クラスｃに関して、個別に出力値（Ｈｃ）を出力する。また、各弱識別器ｍも、各ポジティブ系クラスｃに関して、個別に出力値（ｈｍｃ）を出力する。すべてのポジティブ系クラス(c=1, ... , NC)分だけ出力する。NCは、ポジティブ系クラスの数（ポジティブ系クラス数）である。つまり、ポジティブ系クラス数個の数値が出力される。
【００２９】
【数１】
2016062249.tif 000003
【００３０】
なお、このような強識別器を用いて識別処理を行う際には、必ずしも全ての弱識別器の出力値の計算を行う必要はない。弱識別器の一部（例えば、付与されている弱識別器番号mが1からNM’ (NM’ < NM)までの弱識別器）のみの出力値を計算して得られる中間出力値を取り出してもよい。例えば、弱識別器の出力値を順次計算する過程において、取り出された中間出力値を閾値処理することによって識別器への入力がネガティブクラスであることを判定できれば、残りの計算を省略できる。特に物体検出を行う場合には、識別器への入力がネガティブクラス（非物体クラス）である確率が非常に高い。そのため、少ない弱識別器が計算されている段階で、識別器への入力がネガティブクラスだと判定することができれば、計算コストが非常に小さくなるので、高速な物体の検出が可能になる。
【００３１】
＜第１の実施形態＞
次に、本発明の第１の実施形態である識別辞書学習システム１００について添付図面を参照して説明する。
【００３２】
図１は、本発明の第１の実施形態に係る識別辞書学習システム１００の構成の例を表すブロック図である。
【００３３】
図１を参照すると、本実施形態に係る識別辞書学習システム１００は、識別辞書学習装置１１０と、記憶装置１２０とを備える。
【００３４】
識別辞書学習装置１１０は、初期化部１１１と、学習部１１２と、指標計算部１１３と、決定部１１４と、重み更新部１１５と、係数更新部１１６とを有する。識別辞書学習装置１１０は、さらに、係数記憶部１２１と、重み記憶部１２３と、を有していてもよい。識別辞書学習装置１１０は、さらに、サンプル記憶部１２４を有していてもよい。
【００３５】
記憶装置１２０は、識別辞書記憶部１２２を有する。識別辞書学習装置１１０ではなく記憶装置１２０が、さらに、係数記憶部１２１と、重み記憶部１２３と、を有していてもよい。識別辞書学習装置１１０ではなく記憶装置１２０が、さらに、サンプル記憶部１２４を有していてもよい。識別辞書学習装置１１０が、記憶装置１２０を含んでいてもよい。
【００３６】
前述の各記憶部には、それぞれ以下のデータが記憶される。
【００３７】
係数記憶部１２１には、本実施形態の識別辞書学習装置１１０の動作中に利用される最適化指標係数の数値群が記憶される。最適化指標係数は、０．０以上の数値である。係数記憶部１２１は、最適化指標係数の数値群を、最適化指標係数テーブルとして、テーブルの形態で記憶してもよい。この最適化指標係数テーブルには、学習サンプルが属するクラスと、その学習サンプルが分類されたポジティブ系クラスとの組み合わせに対して適用される最適化指標係数が記憶される。それら組み合わせに対して、それぞれ１つの最適化指標係数が記憶される。学習サンプルは、複数のポジティブ系クラス及びネガティブ系クラスのいずれかに属する。そのため、テーブル中の最適化指標係数の個数は、「総クラス数×ポジティブ系クラス数」個である。総クラス数は、ポジティブ系クラス数とネガティブクラス数との和のことである。ネガティブクラス数は、必ず１である。この最適化指標係数テーブルに格納されている最適化指標係数の値は、学習処理の繰り返し応じて変化する。すなわち、最適化指標係数の値は、学習処理の繰り返し回数ｔに応じて変化する。
【００３８】
重み記憶部１２３は、本実施形態の識別辞書学習装置１１０の動作中に利用される学習用データ（学習サンプル）の重みを表す数値を記憶する。重み記憶部１２３が記憶する重みは、「サンプル重み」とも表記される。この重みは、個々の学習サンプルについて、ポジティブ系クラス別に設定される。重み記憶部１２３は、１つの学習サンプルに対して、１つの重みではなく、ポジティブ系クラス数個の重みを記憶する。このため、重み記憶部１２３が記憶する重みの個数は、「全ての学習サンプルの個数×ポジティブ系クラス数」である。この重みは、個々のポジティブ系クラスに関する分類の失敗しやすさを表す。重視して学習すべき学習サンプルほど、その学習サンプルに設定される重みは大きな値となる。サンプル重みの例を図２に示す。
【００３９】
図２は、重み記憶部１２３が記憶する重みの例を模式的に表す図である。図２に示す例では、３つのポジティブ系クラスが存在する。それらのポジティブ系クラスは、「Ｐｏｓ１」、「Ｐｏｓ２」、及び「Ｐｏｓ３」によって表される。そして、重み記憶部１２３には、１から８までのサンプル番号が付与されている学習サンプルに設定されている重みが格納されている。図２の２行目は、学習サンプルが属するクラスを表す。
【００４０】
識別辞書記憶部１２２は、本発明を実行することによって得られる強識別器のパラメータである識別辞書を記憶する。識別辞書学習装置１１０によって得られる強識別器のパラメータが、識別辞書として、識別辞書記憶部１２２に格納される。強識別器は弱識別器の集合である。そのため、強識別器のパラメータは、実質的には複数の弱識別器のパラメータと同等である。識別辞書記憶部１２２は、弱識別器１個分のパラメータとして、例えば、以下を記憶する。
【００４１】
（１）弱識別器に使われる特徴量として選択された特徴量の種類を特定する情報、
（２）学習サンプルの特徴値に基づく、後述する弱識別器の出力値の計算に使用できるルックアップテーブル、
（３）弱識別器がサポートするポジティブ系クラスの集合Snを特定する情報。
【００４２】
特徴量は、学習サンプルの特徴を表す値である。学習サンプルは、識別対象を観測することによって得られるデータ値である。学習サンプルは、特徴量を含んでいてもよい。学習サンプルが特徴量であってもよい。なお、以下の説明において、特徴量は、「特徴の値」又は「特徴の数値」とも表記される。特徴量は、例えば色、画素値、勾配（画素値の１次微分）、画素値の２次微分等である。特徴量の種類を特定する情報は、例えば、弱識別器において使われる特徴量としてどの種類の特徴量が選択されたかを特定するデータ値である。例えば、学習サンプルから複数の種類の特徴量が抽出され、抽出される特徴量の種類の各々に通し番号等が付与されている場合、特徴量の種類を特定するデータ値は、その通し番号等であってもよい。特徴量の種類を特定するデータ値は、その特徴量を抽出するために使用されるパラメータであってもよい。上述のルックアップテーブルは、学習サンプルの特徴量に基づく、弱識別器の出力値の計算に使用できる参照表である。識別辞書記憶部１２２は、例えば、特徴量の種類と、ポジティブ系クラスの集合とに応じた、特徴量に基づいて出力値を計算するのに使用されるパラメータを、上述のルックアップテーブルとして記憶していればよい。ルックアップテーブルについての詳細な説明は後述する。識別辞書記憶部１２２は、ルックアップテーブルの代わりに、特徴量の種類と、ポジティブ系クラスの集合とに応じた、特徴量に基づいて出力値を計算するのに使用されるパラメータを、ルックアップテーブルではない形態で記憶していてもよい。
【００４３】
弱識別器がサポートするポジティブクラスは、例えば、ポジティブ系クラスの集合Ｓｎによって表される。弱識別器がサポートするポジティブクラスを特定する情報は、例えば、ポジティブ系クラスの集合Ｓｎを特定するデータ値によって表される。弱識別器がサポートするポジティブクラスを特定する情報は、例えば、ポジティブ系クラスの集合Ｓｎに付与されている、集合の番号ｎであってもよい。
【００４４】
上述のように、本実施形態では、各弱識別器は、入力データに基づいて、その弱識別器がサポートするポジティブ系クラスについてのスコアと、その弱識別器がサポートするポジティブ系クラス以外のクラスについてのスコアとを計算する。本実施形態では、弱識別器がサポートするポジティブ系クラスについてのスコアを計算する計算式は、その弱識別器がサポートするポジティブ系クラス以外のクラスについてのスコアを計算する計算式と異なる。本実施形態において、弱識別器は、クラスについてのスコアを、その弱識別子がサポートするポジティブ系クラスを表すＳｎに、そのクラスが含まれるか否かに応じて、異なる計算式に基づいて計算する。本実施形態に係る識別辞書学習装置１１０によって得られた識別辞書に基づいて動作する強識別器の一部である弱識別器は、スコアを算出する際、例えば、その弱識別子がサポートするSnを特定する情報を、識別辞書記憶部１２２から読み出せばよい。そして、その弱識別器は、識別辞書記憶部１２２から読み出した、その弱識別器がサポートするSnを特定する情報によって特定されるＳｎにクラスが含まれるか否かに応じて定まる計算式に基づく計算方法に従って、クラス毎にスコアを計算すればよい。識別辞書記憶部１２２には、決定部１１４が弱識別器を繰り返し決定する度に、決定部１１４によって、決定された弱識別器に関するパラメータが、順次格納される。識別辞書学習装置１１０による、弱識別器の決定及びパラメータの格納の動作が完了すると、全てのパラメータが記録された識別辞書が完成する。
【００４５】
サンプル記憶部１２４は、学習サンプルを記憶する。学習サンプルは、例えば、既知の検出対象の画像から抽出された特徴量の集合である。サンプル記憶部１２４は、さらに、後述されるラベルを記憶していてもよい。例えば、識別辞書学習装置１１０の管理者が、学習サンプルをあらかじめサンプル記憶部１２４に格納しておけばよい。例えば、識別辞書学習装置１１０の管理者は、さらに、ラベルを、あらかじめサンプル記憶部１２４に格納しておけばよい。
【００４６】
次に、本実施形態の詳細についての理解を容易にするため、学習時におけるラベルの設定について先に説明する。
【００４７】
本実施形態では、１つの学習サンプルが属するクラスは１つである。しかし、１つの学習サンプルに、全ポジティブ系クラス数分のラベルが設定される。ラベルは、後述されるように、学習時に用いられる。ラベルの値は、＋１または−1である。ラベルは、学習サンプルが属するクラスの情報に基づいて、一意に決定される。ラベルは、学習サンプルの各々について、あらかじめ、決定されていればよい。ラベルは、学習サンプルの各々に、あらかじめ付与されていればよい。そして、学習サンプルの各々に付与されたラベルは、あらかじめ、例えばサンプル記憶部１２４に格納されていればよい。
【００４８】
図３は、サンプル記憶部１２４が記憶するラベルの例を模式的に表す図である。図３に示す例のように、例えば、学習サンプルには、その学習サンプルが属するクラスのラベルとして、＋１が設定される。また、学習サンプルには、その学習サンプルが属さないクラスのラベルとして、−１が設定される。図８に示す例では、例えば、サンプル番号が１及び２である学習サンプルは、ポジティブ系クラスであるクラス「Ｐｏｓ１」に属する。
図３に示す例では、サンプル番号が１及び２である学習サンプルは、ポジティブ系クラスの１つである、クラス「Ｐｏｓ１」に属する。サンプル番号が１及び２である学習サンプルに対して、それらの学習サンプルが属するクラス「Ｐｏｓ１」のラベルとして、＋１のラベルが設定されている。その他のポジティブ系のクラス（「Ｐｏｓ２」と「Ｐｏｓ３」）及びネガティブクラス（「Ｎｅｇ」）に属する学習サンプルには、それらの学習サンプルが属しないクラス「Ｐｏｓ１」のラベルとして、−１のラベルが設定されている。
【００４９】
初期化部１１１は、最適化指標係数テーブル記憶部１２１に保持される最適化指標係数の初期値を設定する。前述のように、学習サンプルが属するクラスと、その学習サンプルが分類されるポジティブ系クラスとの組み合わせに対して、１つの最適化指標係数が設定される。すなわち、２つのクラスの組み合わせに対して、１つの最適化指標係数が設定される。２つのクラスの組み合わせは、異なる２つのポジティブ系クラスの組み合わせ、ネガティブ系クラスとポジティブ系クラスとの組み合わせ、又は、同じポジティブ系クラスの組み合わせである。以下の説明において、異なる２つのポジティブ系クラスの組み合わせに対して設定される最適化指標係数を、「異なるポジティブ系クラス間の係数」とも表記する。また、２つのポジティブ系クラスの組み合わせを、「同系セット」とも表記する。ネガティブ系クラスとポジティブ系クラスとの組み合わせに対して設定される最適化指標係数を、「ポジティブ系クラス−ネガティブクラス間の係数」とも表記する。ポジティブ系クラスとネガティブクラスとの組み合わせを、「異系セット」とも表記する。同じポジティブ系クラスの組み合わせに対して設定される最適化指標係数を、「同じポジティブ系クラス間の係数」とも表記する。異なるポジティブ系クラス間の係数は、学習サンプルをいずれかのクラスに分類するクラス分類の誤りにおいて、学習サンプルが属するポジティブ系クラスと学習サンプルが分類されたポジティブ系クラスとの組み合わせの、最適化指標への寄与の大きさを表す。異なるポジティブ系クラス間の係数には、ポジティブ系クラス‐ネガティブクラス間の係数より小さい値が設定される。初期化部１１１は、異なるポジティブ系クラス間の係数の初期値として、例えば、０．０を設定すればよい。初期化部１１１は、ポジティブ系クラス‐ネガティブクラス間の係数として、例えば、１．０を設定すればよい。初期化部１１１は、同じポジティブ系クラス間の係数の初期値として、例えば、１．０を設定すればよい。
【００５０】
学習部１１２は、弱識別器の候補として、１つのポジティブ系クラスの集合Ｓｎをサポートし、１つの特徴量が入力である識別器を学習（すなわち作成）する。学習部１１２は、ポジティブ系クラスの集合Ｓｎと特徴量との組み合わせの各々について、弱識別器の候補として識別器を学習する。以下の説明において、弱識別器の候補としての識別器を学習することを、「弱識別器を学習する」とも表記する。学習部１１２が、ポジティブ系クラスの集合Ｓｎと特徴量との組み合わせの数と同じ回数、識別器の学習を繰り返すことによって、ポジティブ系クラスの集合Ｓｎと特徴量との組み合わせの数と同じ数の、弱識別器の候補が作成される。前述のように、弱識別器の学習は、弱識別器の候補として識別器を作成することである。具体的には、弱識別器の学習は、例えば、入力された学習サンプルの特徴量に基づいて出力値を計算するのに使用される、識別器のパラメータを求めることである。本実施形態の弱識別器として、ポジティブ系クラス毎に値を出力するさまざまな識別器を採用することができる。本実施形態の弱識別器は、例えば、以下の数２に示す計算式に従って出力値を計算する識別器であってもよい。以下では、数２に示す計算式に基づく弱識別器の候補の学習について説明する。
【００５１】
【数２】
2016062249.tif 000004
【００５２】
数２に示す式において、c（c=1, ... , NC）はポジティブ系クラスの番号であり、j（j = 1, ... , NJ）は特徴量が取りうる値の範囲が区切られた区間（ビン）の番号であり、hjcは弱識別器の出力値である。NCはポジティブ系クラスの数であり、NJはビンの数である。ポジティブ系クラスの数は、ポジティブ系クラスの集合Snに応じて定まる。ビンの構成は、特徴量の種類に応じてあらかじめ定められていればよい。ビンの数NJは、特徴量の種類によって異なっていてもよい。入力である特徴量が、番号がjであるビンに含まれる場合、弱識別器は、ポジティブ系クラスcに関する出力値として、hjcを出力する。関数δ（・）は、引数として与えた数式が真である場合、値が１であり、引数として与えた数式が偽である場合、値が０である関数である。記号iは、学習サンプルの番号であり、zicは学習サンプルiに付与されている、ポジティブ系クラスcに関するラベルであり、xiは、弱識別器に入力される、学習サンプルiの特徴量を表す。Dicは、i番目の学習サンプルの、クラスcに関する重みである。Xjは、番号がjである、前述の、特徴量が取りうる値の範囲が区切られた区間（ビン）を表す。Snは、前述のように、番号がnであるクラスの集合を表し、εは小さな定数値である。数２及び後述される数３において、重みと関数δ（・）との間、及び、２つの関数δ（・）の間にある記号「・」は、掛け算を表す演算子である。
【００５３】
学習部１１２は、与えられた学習サンプル（すなわち、例えばサンプル記憶部１２４に格納されている全ての学習サンプル）を使用して、数２に示す式に従って、hjcを計算する。その場合、学習部１１２は、ポジティブ系クラスの集合Snに含まれるポジティブ系クラスに関する出力値hjcを、数２の上段の式に従って導出する。その結果、それぞれのビンについて、hjcが得られる。学習部１１２が算出する出力値hjcは、ポジティブ系クラスの集合Snに含まれるポジティブ系クラスにおいて共通である。従って、ポジティブ系クラスの集合Snに含まれるポジティブ系クラスに関して、NJ個のhjcが得られる。ポジティブ系クラスの集合Snに含まれるポジティブ系クラスに関する出力値hjcは、クラスに依存しないので、以下の説明において、「hj」とも表記される。以下の説明において、出力値hjcは、「スコア」又は「スコアhjc」とも表記される。また、学習部１１２は、数２の下段に示す式に従って、ポジティブ系クラスの集合Snに含まれないポジティブ系クラスの各々について、スコアhjcを計算する。集合Snに含まれないポジティブ系クラスのスコアhjcは、各ビンで共通である。従って、集合Snに含まれないポジティブ系クラス毎に、１つのスコアhjcが得られる。集合Snに含まれないポジティブ系クラスのスコアhjcとして、集合Snに含まれないポジティブ系クラスの数と同じ数のスコアhjcが得られる。集合Snに含まれないポジティブ系クラスに関する出力値hjcは、特徴量の区間に依存しない（ビンに依存しない）ので、以下の説明において、「hc」とも表記される。
【００５４】
以上のように、特徴量の種類と集合Snとの組み合わせについて、学習サンプルを使用してhjcを計算することが、前述の、弱識別器の候補としての、識別器の学習（すなわち生成）である。学習された識別器は、特徴量の種類を特定する情報と、集合Snを特定する情報と、計算された上述のhjcによって表される。
【００５５】
学習部１１２は、学習サンプルにおいて得られるいずれかの特徴量の種類と、ポジティブ系クラスの集合Snとの組合せの各々について、上述のように、例えば数２に示す式に従って、hjcを計算する。すなわち、学習部１１２は、特徴量の種類及びポジティブ系クラスの集合Snの組み合わせを順次選択しながら、選択された組み合わせについてのスコアhjcの計算を、可能な全ての組み合わせが選択されるまで繰り返せばよい。なお、後述されるように、指標計算部１１３は、学習サンプルにおいて得られる特徴量の種類のいずれかと、ポジティブ系クラスの集合Snとの組合せの各々について、スコアhjcを使用して、最適化指標を計算する。さらに、後述されるように、決定部１１４は、計算された最適化指標が最小である、特徴量と集合Snとの組み合わせを選択する。そして、決定部１１４は、選択した特徴量の種類を特定する情報と、選択した集合Snを特定する情報と、選択した特徴量の種類と集合Snとの組み合わせについて計算されたhjcとを、弱識別器を表すパラメータとして、識別辞書記憶部１２２に格納する。その際、決定部１１４は、集合Snに含まれるポジティブ系クラスについての、NJ個の、それぞれビンの番号jに関連付けられたスコアhjcを、例えば上述のルックアップテーブルの一部として、識別辞書記憶部１２２に格納すればよい。決定部１１４は、さらに、集合Snに含まれないポジティブ系クラスの各々について、ポジティブ系クラスの番号cに関連付けられたスコアhjcを、例えば上述のルックアップテーブルの一部として、識別辞書記憶部１２２に格納すればよい。
【００５６】
参考までに、以下では、本実施形態の識別辞書学習装置１１０による識別辞書の学習の結果を用いた、識別処理における弱識別について説明する。クラス集合Ｓｎに含まれるポジティブ系クラスのスコアを導出する際、弱識別器として動作する装置は、識別対象を観測することによって得られるサンプル（すなわち上述の識別データ）に基づいて導出される特徴量が含まれるビンを特定する。その装置は、例えば、前述の参照表（ルックアップテーブル）を参照することによって、特定したビンの番号jに関連付けられている、数２に示す上段の式に基づいて算出されたスコアを特定する。そのスコアが、前述のサンプルの弱識別の結果である、クラス集合Ｓｎに含まれる各ポジティブ系クラスのスコアである。その装置は、Snに含まれないポジティブ系クラスのスコアを、例えば、数２に示す下段の式に基づいて算出されたスコアを、前述の参照表において特定すればよい。このように、識別処理において、学習時に識別辞書記憶部１２２に格納した参照表を参照することによって、１つの弱識別の結果として各ポジティブ系クラスのスコアを求めることが出来る。
【００５７】
以下では、数２に示す式に基づいてスコアを計算する具体的な処理の例について、詳しく説明する。集合Snに含まれるポジティブ系クラスについてのスコアを導出する際、学習部１１２は、特徴量の出現頻度を、サンプル重み付きでカウントすることによって、ラベル＋１のヒストグラムとラベル−1のヒストグラムとを作成する。「ラベル＋１のヒストグラム」は、集合Snに含まれるポジティブ系クラスに関するラベルが＋１である学習サンプルの特徴量の、特徴量の区間毎の重み付き出現頻度を表すヒストグラムである。ラベル＋１のヒストグラムは、「ラベル＋１の重み付きヒストグラム」とも表記される。「ラベル−１のヒストグラム」は、集合Snに含まれるポジティブ系クラスに関するラベルが−１である学習サンプルの特徴量の、特徴量の区間毎の重み付き出現頻度を表すヒストグラムである。ラベル−１のヒストグラムは、「ラベル−１の重み付きヒストグラム」とも表記される。重み付き出現頻度は、特徴量の区間毎の、その特徴量の区間に特徴量が含まれる学習サンプルに付与されている重みの和である。ヒストグラムを作成する際、学習部１１２は、学習サンプルに付与されている重みを、重み記憶部１２３から読み出す。学習部１１２は、これらの２つのヒストグラムにおいて、特徴量の区間の設定を同じにする。学習部１１２は、これらの２つのヒストグラムを作成する際、特徴量を同じ範囲で区切る。さらに、学習部１１２は、これらの２つのヒストグラムの、特徴量の範囲が同じビンにおいて、カウントされた出現頻度の比の対数を、識別対象の特徴量がそのビンに含まれる場合の出力値として計算する。学習部１１２は、全ての特徴量の区間（例えば、ビンの番号jが１からNJまで）の出力値（すなわちスコア）を計算する。集合Snに含まれないポジティブ系クラスのスコアを導出する際、学習部１１２は、ラベルが＋１である学習サンプルの重み付き個数と、ラベルが−１である学習サンプルの重み付き個数を計算する。学習部１１２は、さらに、前述の２種類のラベルの各々について計算した重み付き個数の比の対数を、出力値として計算する。集合Snに含まれないポジティブ系クラスのスコアは特徴量の区間には依存しない。
【００５８】
図４Ａ及び図４Ｂは、前述のヒストグラムの例を表す図である。図４Ａは、は、ラベル＋１の重み付きヒストグラムである。図４Ｂは、ラベル−1の重み付きヒストグラムである。通常のヒストグラムはサンプル１つにつき１を加算することによって計算されるのに対し、重み付きヒストグラムは、サンプル１つにつきそのサンプルに付与されている重みの値を加算することによって計算されるヒストグラムである。図４Ａ及び図４Ｂに示すヒストグラムの縦軸は、重み付きの出現頻度を表す。図４Ａ及び図４Ｂに示すヒストグラムの横軸は、特徴の値すなわち特徴量を表す。例えば、特徴量が０から２５５までの整数値であり、ヒストグラムのビン幅が５である場合、特徴量の区間は、０〜４、５〜９、…、２４５〜２４９、２５０以上、のように設定される。特徴量の区間の番号jは、例えば、特徴量の大きさに応じた昇順で付与される。上述の例では、特徴量の区間は、特徴量の大きさが小さい方から、X1、X2、X3、...、Xj、...、XJのように表される。ビンの番号はそのビンが表す特徴量の区間と同じ番号に設定される。
【００５９】
学習部１１２は、例えば図４Ａ及び図４Ｂに示すようなヒストグラムにおいて、番号jが同じビンの出現頻度の値の比の対数を計算することによって、出力値ｈｊを算出すればよい。数２に従って計算される出力値hjcは、ラベルが＋１である学習サンプルの出現頻度が高く、ラベルが−1である学習サンプルの出現頻度が低いほど、大きい。言い換えると、あるサンプルの特徴量が区間jの中に含まれる場合、集合Snに含まれるポジティブ系クラスに関する出力値hjcの値が大きければ、そのサンプルは、集合Snに含まれるいずれかのポジティブ系クラスに属する確率が高いといえる。
【００６０】
補足として、数２の意味についてさらに詳しく説明する。数２の上段の式は、学習サンプルの特徴量が得られている条件の下で、その学習サンプルがラベル＋１クラスに属するらしい確率とラベル−１のクラスに属するらしい確率との比を計算する式に相当する。そして、数２の上段の式を計算することによって得られる値は、ラベル＋１クラスに属するらしい学習サンプルほど高い値になる。なお、「ラベル＋１クラス」は、学習サンプル付与されているラベルが＋１であるポジティブ系クラスを表す。「ラベル−１クラス」は、学習サンプル付与されているラベルが−１であるクラスを表す。以下では、数２の上段の式が確率の比であると解釈できる理由を説明する。前述のラベル＋１のヒストグラムのビンにおける重み付き出現頻度を、学習サンプルの重みの総和で除算することによって、ラベルが＋１であるサンプルが、そのビンが割り当てられている区間に含まれる特徴値をとりうる尤度が得られる。同様に、前述のラベル−１のヒストグラムのビンにおける重み付き出現頻度を、学習サンプルの重みの総和で除算することによって、ラベルが−１であるサンプルが、そのビンが割り当てられている区間に含まれる特徴値をとりうる尤度が得られる。事前確率がどのラベルでも均しいと仮定した場合、統計学のベイズの公式より、以下が成り立つ。ラベル＋１のヒストグラムの、学習サンプルの特徴量が含まれる区間に割り当てられているビンについて得られる尤度を、そのビンについての尤度の総和で除算することによって、その学習サンプルがラベル＋１のクラスに属するらしい確率が得られる。同様に、ラベル−１のヒストグラムの、学習サンプルの特徴量が含まれる区間に割り当てられているビンについて得られる尤度を、そのビンについての尤度の総和で除算することによって、その学習サンプルがラベル−１のクラスに属するらしい確率が得られる。さらに、これらの確率の比を計算する場合、これらの確率の比を表す式において、分母側と分子側それぞれにある、前述の尤度の総和による除算がキャンセルされる。従って、これらの確率の比を表す式は、数２によって表される。
【００６１】
実用上は、学習サンプルの個数やバリエーションが十分でない場合、前記の重み付き出現頻度が数値的に０になる恐れがある。近接するビンの値から補間、または平滑化することによって、値が０になるリスクを低減できる。
【００６２】
本実施形態の弱識別器は、前述の数２の代わりに、数３に示す計算式に従って出力値を計算する識別器であってもよい。数２は確率の比の対数を計算することに相当するのに対し、数３は確率の差分を計算することに相当する。数２に示す出力値hjcと同様に、数３に示す出力値hjcも、ラベルが＋１であるサンプルの出現頻度が高く、ラベルが−1であるサンプルの出現頻度が低いほど、大きい。サンプルの特徴量が区間jに含まれる場合、出力値hjcの値が大きければ、そのサンプルの、クラスcに関するラベルが＋１である確率が高いといえる。
【００６３】
【数３】
2016062249.tif 000005
【００６４】
指標計算部１１３は、弱識別器の候補の出力値に基づいて、その弱識別器の候補に関する最適化指標を計算する。指標計算部１１３は、弱識別器の候補の各々について、最適化指標を計算する。前述のように、入力として使用される特徴量と、サポートされるポジティブ系クラスの集合Snとの組み合わせ１つに対して、１つの弱識別器の候補が学習される。すなわち、弱識別器の候補は、入力として使用される特徴量と、サポートされるポジティブ系クラスの集合Snとの組み合わせに、一意に関連付けられる。最適化指標は、学習によって得られる弱識別器の候補の性能の程度を表す指標である。数４は、最適化指標の例を表す式である。指標計算部１１３は、例えば、数４に従って、最適化指標Lを計算する。最適化指標は、パターン認識の分野において、損失、又は交差エントロピー損失、等と呼ばれる指標に相当する。最適化指標Lが数４によって計算される場合、最適化指標Lが小さいほど、識別の精度が高い。
【００６５】
【数４】
2016062249.tif 000006
【００６６】
数４において、前述のように、cはポジティブ系クラスの番号であり、iは学習サンプルの番号である。NCはポジティブ系クラスの数であり、Nxは学習サンプルの数である。数４における値hicは、サンプルiの特徴量が含まれる区間に割り当てられているビンjについての、弱識別器の候補による出力値hjcを表す。Ricは、最適化指標係数である。最適化指標係数は、例えば、「弱識別器の候補が学習サンプルiをクラスcに分類すること」が、その弱識別器の候補の最適化指標に対して与える影響の大きさを表す。最適化指標係数Ricは、係数記憶部１２１に格納されている。本実施形態では、最適化指標係数は、学習サンプルiが属するクラスと、その学習サンプルiが分類されたポジティブ系クラスcとによって定まる。以下の説明において、学習サンプルが属するクラスを「正しいクラス」と表記する。さらに、学習サンプルが分類されるクラスを、「分類クラス」または「分類結果のクラス」と表記する。係数記憶部１２１は、正しいクラスと分類クラスとの組み合わせの各々について、正しいクラスと分類クラスとの組み合わせに関連付けられている最適化指標係数Ricを記憶していればよい。係数記憶部１２１は、例えば最適化指標係数テーブルの形態で、最適化指標係数Ricを記憶していればよい。
【００６７】
図５Ａ及び図５Ｂは、上述の最適化指標係数テーブルの例を表す図である。図５Ａは、最適化指標係数テーブルの初期値の例を表す。図５Ｂに示すテーブルは、後述されるように更新された最適化指標係数テーブルの例である。図５Ｂは、最適化指標係数テーブルに含まれる最適化指標係数の各々の最大値の例を表す。
【００６８】
指標計算部１１３は、最適化指標Lを算出する際、例えば、最適化指標係数テーブルと学習サンプルが属するクラスとクラスcとに基づいて、最適化指標係数テーブルにおいて、最適化指標係数Ricを特定すればよい。指標計算部１１３は、特定した最適化指標係数を係数記憶部１２１から読み出し、読み出した最適化指標係数を使用して、最適化指標を計算すればよい。
【００６９】
指標計算部１１３は、例えば、特徴量とポジティブ系クラスの集合Snとの組み合わせから、１つの組み合わせを選択すればよい。そして、指標計算部１１３は、選択した組み合わせについて最適化指標Lを計算すればよい。指標計算部１１３は、特徴量とポジティブ系クラスの集合Snとの組み合わせの全てが選択されるまで、組み合わせの選択、及び、最適化指標Lの計算を繰り返せばよい。以上により、弱識別器の候補の各々について、最適化指標Lが計算される。
【００７０】
決定部１１４は、化指標計算部１１３が計算した最適化指標値Ｌが最も小さい、ポジティブ系クラスの集合Snと特徴量との組み合わせを特定する。決定部１１４は、特定した組み合わせに含まれる特徴量が入力であり、特定した組み合わせに含まれるポジティブ系クラスの集合Snをサポートする弱識別器の候補を、弱識別器として決定する。以下の説明において、弱識別器として決定された、弱識別器の候補（識別器）を、「決定された弱識別器」とも表記する。決定部１１４は、決定した弱識別器を、強識別器を構成する複数の弱識別器の集合を表す識別辞書に追加する。すなわち、決定部１１４は、弱識別器のパラメータを、識別辞書記憶部１２２に格納する。前述のように、弱識別器のパラメータは、前述のように、特徴量の種類を特定する情報と、特徴量に基づいて出力値を計算するのに使用されるパラメータと、ポジティブ系クラスの集合Snを特定する情報とを含む。決定部１１４は、前述のように、特徴量に基づいて出力値を計算するのに使用されるパラメータを、ルックアップテーブルとして、識別辞書記憶部１２２に格納してもよい。決定部１１４は、弱識別器のパラメータを識別辞書記憶部１２２に格納する際、識別辞書記憶部１２２に格納されている弱識別器のパラメータを上書きせずに、弱識別器のパラメータを識別辞書記憶部１２２内に追加する。
【００７１】
重み更新部１１５は、重み記憶部１２３に格納されている、学習サンプルに付与されている重みを、決定部１１４によって決定された弱識別器が出力する出力値hicを使って更新する。重み更新部１１４は、例えば、数５に従って、各学習サンプルに付与されている重みを更新すればよい。具体的には、学習サンプルiの重みを更新する際、重み更新部１１５は、例えば、学習サンプルiの特徴量に基づいて計算される、決定部１１４によって決定された弱識別器の出力値hjcを計算する。重み更新部１１５は、計算されたhjcと、重み記憶部１２３に格納されている、学習サンプルiの重みDicと、例えばサンプル記憶部１２４に格納されている、学習サンプルiに付与されているラベルzicとに基づいて数５の左辺の値を計算する。重み更新部１１５は、重み記憶部１２３に格納されている、学習サンプルiの重みDicを、計算した、数５の左辺の値によって上書きする。数４における記号eは、自然対数の底（すなわちネイピア数）である。
【００７２】
【数５】
2016062249.tif 000007
【００７３】
係数更新部１１６は、係数記憶部１２１に保持されている最適化指標係数を、例えば次の条件が満たされるように更新する。まず、１つ目の条件は、異なるポジティブ系クラス間の係数は、ポジティブ系クラス−ネガティブクラス間の係数を超えないことである。「異なるポジティブ系クラス間の係数」は、関連付けられている「正しいクラス」と「分類クラス」とが、異なる２つのポジティブ系クラスである、最適化指標係数である。「ポジティブ系クラス−ネガティブクラス間の係数」は、ネガティブクラスである正しいクラスと、ポジティブ系クラスである分類されたクラスとに関連付けられている最適化指標係数である。さらに、２つ目の条件は、異なるポジティブ系クラス間の係数は、係数更新部１１６による更新の度に、単調増加することである。係数更新部１１６は、異なるポジティブ系クラス間の係数が広義の単調増加（すなわち単調非減少）するように、更新を行ってもよい。係数更新部１１６は、異なるポジティブ系クラス間の係数を、例えばあらかじめ定められた規則（すなわちルール）に従って増加させればよい。識別辞書学習装置１１０ユーザは、異なるポジティブ系クラス間の係数が、１回の更新において増加する量（更新の大きさ）を設定することが可能であってもよい。
【００７４】
図６は、更新に伴う最適化指標係数の変化を模式的に表す図である。図６に示すグラフの横軸は、更新の回数（すなわち学習の繰り返しの回数t）を表す。図６に示すグラフの縦軸は、最適化指標係数の値を表す。図６に示すグラフ中の破線は、ポジティブ系クラス−ネガティブクラス間の最適化指標係数の推移を表す。図６に示すグラフにおいて、実線によって描かれている曲線は、異なるポジティブ系クラス間の最適化指標係数の推移を表す。異なるポジティブ系クラス間の最適化指標係数の初期値は、例えば０であればよい。係数更新部１１６は、学習の繰り返しによって、図６に示すように、異なるポジティブ系クラス間の最適化指標係数が極限値に漸近するように異なるポジティブ系クラス間の最適化指標係数を更新してもよい。係数更新部１１６は、学習の繰り返しによって、異なるポジティブ系クラス間の最適化指標係数が最大値に達するように、異なるポジティブ系クラス間の最適化指標係数を更新してもよい。図６に示す例は、係数更新部１１６が、ポジティブ系クラス間の係数が、シグモイド関数従って単調増加するよう更新した場合の、異なるポジティブ系クラス間の最適化指標係数の推移の例を表す。シグモイド関数は、例えば以下の数６によって表される関数である。
【００７５】
【数６】
2016062249.tif 000008
【００７６】
係数更新部１１６は、学習の繰り返し（すなわち更新の回数）に応じて、tを所定量ずつ増加させればよい。係数更新部１１６は、そのtを使用して、最適化指標係数を算出すればよい。ユーザは、例えば、数６のa及びbを、例えば独立に、増加又は減少させることによって、増加の度合いなどを設定すればよい。異なるポジティブ系クラス間の最適化指標係数は、異なる２つのポジティブ系クラスの組み合わせによらず同一であってもよい。異なるポジティブ系クラス間の最適化指標係数は、異なる２つのポジティブ系クラスの組み合わせに応じて異なっていてもよい。例えば、それぞれのポジティブ系クラスが物体（例えば顔）の異なる姿勢に割り当てられている場合、異なる２つのポジティブ系クラスの間の、物体の姿勢の角度の差が大きいほど、大きな最適化指標係数を割り当てられていればよい。その場合、顔の姿勢について大きく誤った分類が起きにくいように学習を行うことができる。例えば、図６において実線によって描かれている３本の曲線は、顔の姿勢の角度差に応じた係数の推移の例を表す。
【００７７】
更新設定部１１７は、異なるポジティブ系クラス間の係数を増加させる規則（すなわちルール）を、例えば、端末装置１４０から受信する。更新設定部１１７は、異なるポジティブ系クラス間の係数を増加させる規則（ルール）を表すパラメータを、端末装置１４０から受信すればよい。異なるポジティブ系クラス間の係数を増加させる規則（ルール）を表すパラメータは、例えば、上述の、シグモイド関数のパラメータである、a及びbの少なくともいずれかである。識別辞書学習装置１１０のユーザは、端末装置１４０を操作することによって、異なるポジティブ系クラス間の係数を増加させる規則（ルール）を表すパラメータを入力すればよい。
【００７８】
次に、本実施形態の識別辞書学習装置１１０の動作について、図面を参照して詳細に説明する。
【００７９】
図７は、識別辞書学習装置１１０の動作の例を表すフローチャートである。
【００８０】
以下の説明では、前述のようにNCはポジティブ系クラスの個数を表し、Nfは特徴量の数を表す。本発明の各実施形態では、特徴量は、特定の特徴量に限定されない。
【００８１】
はじめに、初期化部１１１が、最適化指標係数テーブルを初期化する（ステップＳ１１１）。初期化部１１１は、図５Ａに示す例のように、異なるポジティブ系クラスの組み合わせに関連付けられている最適化指標係数の初期値として、例えば０を設定すればよい。初期化部１１１は、異なるポジティブ系クラスの組み合わせに関連付けられている最適化指標係数の初期値として、十分小さい値（すなわち、ほぼ０である値）を設定してもよい。初期化部１１１は、他の最適化指標係数の初期値として、例えば１を設定すればよい。このあとの処理では、可能な全てのポジティブ系クラスの集合Snについて、後述する最適化指標が良好なものが探索される。全てのSnを特定する情報が、あらかじめ学習部１１２に与えられていてもよい。学習部１１２が、サンプル記憶部１２４に格納されている学習サンプルが属するクラスに基づいて、全てのSnを特定してもよい。
【００８２】
次に、学習部１１２は、ポジティブ系クラスの集合から、選択されていない、ポジティブ系クラスの集合Snを１つ選択する（ステップＳ１１２−１）。学習部１１２は、さらに、あらかじめ定められている特徴量の種類全てから、ステップＳ１１２−１において選択された集合Snに関して選択されていない、１つの特徴量の種類を選択する（ステップＳ１１２−２）。そして、学習部１１２は、上述のように、弱識別器の候補を学習する（ステップＳ１１２−３）。
【００８３】
次に、最適化指標計算部１１３は、ステップＳ１１２−３において学習された弱識別器の候補に関する最適化指標Ｌを計算する（ステップＳ１１３−１）。
【００８４】
例えば学習部１１２は、全ての特徴量が選択されたか判定する（ステップＳ１１３−２）。全ての特徴量が選択されていない場合（ステップＳ１１３−２においてＮｏ）、ステップＳ１１２−２からステップＳ１１３−２までの動作が繰り返される。全ての特徴量が選択された場合（ステップＳ１１３−２においてＹｅｓ）、例えば学習部１１２は、全ての集合Snが選択されたか判定する（ステップＳ１１３−３）。選択されていない集合Snが存在すれば（ステップＳ１１３−３においてＮｏ）、ステップＳ１１２−１からステップＳ１１３−３までの動作が繰り返される。ステップＳ１１２−１からステップＳ１１３−３までの動作は、全ての集合Snが選択されるまで（ステップＳ１１３−３においてＹｅｓ）繰り返される。
【００８５】
以上の動作では、ステップＳ１１２−２からＳ１１３−２までの動作は、特徴量の数Nfと同じ回数繰り返される。ステップＳ１１２−２からＳ１１３−２までの動作の繰り返しが、さらにポジティブ系クラスの集合Snの数と同じ回数繰り返される。これにより、特徴量と、ポジティブ系クラスの集合Snとの組み合わせ各々に関連付けられている弱識別器候補の、最適化指標値Ｌが計算される。
【００８６】
また、集合Snの数は、NC個から重複しないように選ばれる任意の個数の組合せの数である。そのため、ポジティブ系クラス数が多い場合、集合Snの数は膨大な数になる。従って、集合Sn全てについてステップＳ１１２−１からステップＳ１１３−３までの動作を繰り返す場合、特にステップＳ１１２−３及びステップＳ１１３−１の動作を繰り返す回数は膨大な数になる。そのため、すべてのSnについて上述の動作を繰り返すのではなく、以下のように、弱識別器の候補の探索範囲を限定してもよい。例えば、まず、学習部１１２は、１つの特徴量を選択してもよい。そして、学習部１１２は、１つのポジティブ系クラスからなる集合Snについて、弱識別器の候補の学習を行えばよい。指標計算部１１３は、学習部１１２によって学習された弱識別器の候補について、最適化指標の計算を行えばよい。学習部１１２は、１つのポジティブ系クラスからなる集合Snの中で、関連する弱識別器の候補の最も最適化指標Ｌが良好な（小さい）集合Snを特定すればよい。学習部１１２は、特定した集合Snに含まれるクラスを、集合Ｓｎを構成するクラスとして確定すればよい。学習部１１２は、同様に、確定したクラスと他の１つのポジティブ系クラスとによって構成される集合Snについて、弱識別器の候補の学習と、前述の、集合Snの特定と、集合Snを構成するクラスの確定とを繰り返せばよい。その場合、繰り返し回数はポジティブ系クラスの数NCにほぼ比例する。そのため、識別辞書学習装置１１０は、少ない繰り返し回数で、近似解（すなわち近似的な最小の最適化指標を持つ弱識別器の候補）を見つけることができる。
【００８７】
次に、決定部１１４が、弱識別器の候補の中で、ステップＳ１１４の動作において求められた最適化指標値Ｌが最も小さい弱識別器の候補を、弱識別器として決定する（ステップＳ１１４）。決定部１１４は、決定した弱識別器を、識別辞書記憶部１２２に格納されている識別辞書（すなわち、決定した弱識別器の集合）に追加する。最適化指標値Ｌが最も小さい弱識別器の候補の選択は、最適化指標値Ｌが最も小さい、特徴量の種類とポジティブ系クラスの組合せSnとを選択することである。決定された弱識別器は、その弱識別器がサポートする集合Snに含まれるポジティブ系クラスの各々について、入力である、選択された種類の特徴量に基づいて同一の出力値を出力する。これは、言い換えれば、ポジティブ系クラスの組み合わせＳｎに属するクラス間では、弱識別器（と特徴量）が共有されていると解釈することもできる。決定部１１４は、採用された弱識別器のパラメータを、識別辞書記憶部１２２に格納されている、識別辞書（すなわち、決定された弱識別器のパラメータの集合）に追加する。具体的には、決定部１１４は、学習サンプルの特徴量を特定する情報と、弱識別器の出力値を得るのに使用する参照表と、弱識別器がサポートするポジティブ系クラスの集合とを、識別辞書記憶部１２２に格納されている識別辞書に追加する。
【００８８】
次に、重み更新部１１５は、学習サンプルにクラス別に付与されている重みを更新する（ステップＳ１１５）。
【００８９】
次に、係数更新部１１６は、例えば最適化指標係数テーブルの形態で係数記憶部１２１に格納されている最適化指標係数を更新する（ステップＳ１１６）。
【００９０】
次に、学習部１１２は、学習を終了するか判定する終了判定を行う（ステップＳ１１７）。ステップＳ１１７における終了判定において学習部１１２が学習処理を終了すると判定する条件は、例えば、収容判定の回数が所定の回数を超えることであってもよい。学習部１１２が学習処理を終了すると判定する条件は、決定された弱識別器に基づく強識別器の最適化指標Lの、最後に決定された弱識別器が追加されない強識別器の最適化指標からの減少量が所定の閾値を下回ることであってもよい。また、学習部１１２が学習処理を終了すると判定する条件は、あらかじめ用意された、学習用データを含まない、評価用サンプルの集合である評価用データセットに対する、強識別器の識別の精度が、所定の基準に達することであってもよい。学習部１１２は、評価用データセットを、決定された弱識別器に基づく強識別器に識別させることによって得られる、最適化指標Ｌの絶対値または識別誤り率によって、識別の精度を判定してもよい。学習処理の終了が判定されない場合（ステップＳ１１７−１においてＮｏ）、識別辞書学習装置１１０は、ステップＳ１１１からＳ１１７−１までの動作をさらに繰り返す。学習処理の終了が判定された場合（ステップＳ１１７−１においてＹｅｓ）、図７に示す識別辞書学習装置１１０の動作は終了する。
【００９１】
次に、本実施の形態の効果について説明する。
【００９２】
本実施形態には、外観のバリエーションが大きい物体が識別の対象である場合における、外観のバリエーションが小さい場合と比較した、識別精度の低下を抑制しながら、識別時間を短縮できる識別辞書を作成できるという効果がある。
【００９３】
その理由は、係数更新部１１６が、弱識別器が追加されるのに応じて、最適化指標係数を更新するからである。最適化指標係数は、学習サンプルが属するクラスと、その学習サンプルが分類されたクラスとの組み合わせの、最適化指標への寄与の大きさを表す。学習時において、最適化指標に基づいて識別の精度が最も高い弱識別子が選択される。従って、最適化指標係数は、その最適化指標係数が付与される、２つのクラスの組み合わせにおいて、その２つのクラス間の識別の精度の向上が、学習時において重視される度合いを表す。係数更新部１１６は、弱識別器を順次選択する過程において、２つのクラス間の識別の精度を重視する度合いに応じて、その２つのクラスに付与される最適化指標係数を更新することができる。従って、係数更新部１１６による最適化指標係数の更新によって、例えば、序盤では、ネガティブクラスに属する学習サンプルとそれ以外の学習サンプルとを識別する精度が、他の弱識別器の候補と比較して高い識別器の候補を、弱識別器に決定することができる。同様に、係数更新部１１６による最適化指標係数の更新によって、後の段階では、異なるポジティブ系クラス間の識別精度が、他の弱識別器の候補より高い弱識別器の候補を、弱識別器に決定することができる。本実施形態の識別辞書学習装置１１０によって以上のようにして得られた識別辞書を使用する、物体を検出する処理において、決定された順に弱識別器を使用することによって、次の効果が得られる。識別処理の序盤では、ネガティブクラスに属するサンプルと他のサンプルとを精度よく識別できる。すなわち、外観のバリエーションが小さい場合と比較した、外観のバリエーションが大きい物体の識別精度の低下を抑制することが可能である。さらに、サンプルがネガティブクラスに属すると識別された場合、残りの識別処理を省略することができる。従って、残りの識別処理を省略しない場合と比較して、物体を検出する処理（すなわち、サンプルが物体を観測することによって得られたサンプルであるか否かを判定する処理）を高速化することができる。すなわち、識別処理を省略しない場合と比較して、識別処理に要する時間を削減することができる。上述の場合、さらに、識別処理が進むに従って、異なるポジティブクラスに属するサンプルの識別精度が向上する。
【００９４】
上述の、各特許文献及び各非特許文献に記載されている技術では、上述の本実施形態の効果を得ることはできない。それらの技術では、ポジティブ系クラスとネガティブクラスとの分類と、ポジティブ系クラス間のそれぞれの分類について、どれの精度をどの程度重視して学習するかという優先度合いを設定することが困難である。または、それらの技術では、その優先度合いが固定である。上述のように、例えば最適化指標係数により、分類精度の優先度合いを設定することによって、上述の本実施形態の効果が得られる。分類精度の優先度合いを設定することができない場合、上述の本実施形態の効果を得ることは困難である。
【００９５】
以下では、本実施形態の効果について、さらに詳しく説明する。
【００９６】
本実施形態の識別辞書学習装置１１０は、ネガティブクラスとポジティブ系クラスとの分類の優先度合いを設定できる初期化部１１１を備える。本実施形態の識別辞書学習装置１１０は、さらに、最適化指標係数を学習の繰り返し番号mの値が大きくなるにつれて変化させる係数更新部１１６を備える。本実施形態の識別辞書学習装置１１０は、さらに、更新された最適化指標係数に応じて強識別器を学習できる学習部１１２、指標計算部１１３、決定部１１４、及び、重み更新部１１５を備える。そのため、識別辞書学習装置１１０が学習した識別辞書を用いることによって、高い検出率かつ高速な物体検出処理を実現できる。
【００９７】
以下では、この効果が得られる理由について説明する。
【００９８】
本実施形態では、最適化指標係数を用いることで、ポジティブ系クラス−ネガティブクラス間の識別と、ポジティブ系クラス間のそれぞれの識別と、について精度の優先度合いを自由に設計できる。異なるポジティブ系クラス間の係数にポジティブ系クラス−ネガティブクラス間の係数より小さい値が設定される場合、ポジティブ系クラスのサンプルを他のポジティブ系クラスに誤分類した場合の最適化指標（損失）が小さくなる。そして、その場合、ポジティブ系クラス−ネガティブクラス間の識別を重視した学習が行われる。
【００９９】
例えば、異なるポジティブ系クラス間の係数を単調増加するように更新を繰り返すことによって、更新の回数が増加するのに応じて、ポジティブ系クラス間の識別も重視した学習が行われるようになる。その学習の結果を使用して識別処理を行う装置等は、学習において決定された順で、弱識別器の出力値を算出すればよい。そして、その装置等は、弱識別器の出力値を算出する度に、算出した弱識別器の出力値を強識別器の出力値に加算する、強識別器の出力値の更新を行えばよい。その装置等は、強識別器の出力値を更新する度に、更新した、強識別器の出力値に基づいて、サンプルがいずれのクラスに属するか識別する識別処理を行えばよい。
【０１００】
このように学習及び識別処理が行われる場合、識別処理における序盤（例えば、数１のmが小さい時）では、ポジティブ系クラス全体とネガティブクラスとの間の識別が優先される。そのため、mが小さい段階における強識別器の出力値に基づいて、サンプルがいずれのクラスに属するかを識別する識別処理を行う場合、ネガティブクラスに属するサンプルの識別精度が高くなる。この場合、識別処理を行う上述の装置は、例えば、強識別器の出力値を更新する度に、あらかじめ定められた基準に基づいて、サンプルがネガティブクラスに属するか否かを判定すればよい。上述の装置は、識別の対象であるサンプルがネガティブクラスに属すると判定した場合、残りの識別処理を省略すればよい。上述のように学習を行うことによって、ｍが小さい段階であっても、サンプルがネガティブクラスに属するか否かを判定する識別処理において、高い精度が得られる。従って、識別処理を行う装置等を、以上のように設計することによって、検出率の低下を低く抑えつつ、検出処理を大幅に高速にすることができる。しかも、識別処理が、mが大きい段階まで実行されれば、ポジティブ系クラス間の識別精度も高くなる。
【０１０１】
なお、本実施形態では、２つのポジティブ系クラスの組み合わせ毎に、ポジティブ系クラス間の識別の優先度合いもそれぞれ設定できる。そのため、最終的に得られるポジティブ系クラス間の識別精度の調整も可能である。例えば、ポジティブ系クラスとして顔の方向（正面方向、斜め方向、横方向）がそれぞれ割り当てられている場合、本来の顔の向きは連続的な変化であるので、正面方向と斜め方向の境界は曖昧である。そのため、正面方向クラスと斜め方向クラス間の優先度合いが下がるように最適化指標係数を調整することによって、顔向きの大まかな分類に適した識別器を実現できる。例えば、識別器が、運転中における人物の脇見の検知に使用される場合、顔の方向が正面方向である場合に、顔の方向が斜め方向であると判定することは、顔の方向が横方向である場合に、顔の方向が正面方向であると判定する程の大きな誤りでない。そのため、以上のように調整できることには利点がある。
【０１０２】
＜第２の実施形態＞
次に、本発明の第２の実施の形態について、図面を参照して詳細に説明する。本実施形態に係る物体検出システムは、本発明の第１の実施の形態に係る識別辞書学習装置１１０によって学習された識別辞書を用いた物体検出システムの例である。
【０１０３】
図９は、本実施形態に係る物体検出システム３００の構成を表すブロック図である。
【０１０４】
図９を参照すると、本実施形態の物体検出システム３００は、物体検出装置３１０と記憶装置１２０徒を含む。物体検出システム３００は、さらに、識別辞書学習装置１１０を含んでいてもよい。本実施形態の識別辞書学習装置１１０及び記憶装置１２０は、第１の実施形態の識別辞書学習装置１１０及び記憶装置１２０と同じである。従って、識別辞書学習装置１１０及び記憶装置１２０に関する詳細な説明は省略する。なお、記憶装置１２０が含む識別辞書記憶部１２２は、識別辞書学習装置１１０によって学習された識別辞書を記憶する。本実施形態において、物体検出システム３００は、識別システム３００とも表記される。
【０１０５】
物体検出装置３１０は設定部３１１と、抽出部３１２と、弱識別部３１３と、識別スコア計算部３１４と、判定部３１５とを有する。図９において、識別辞書学習装置１１０及び物体検出装置３１０は、別の装置として描かれている。しかし、同じ装置が、識別辞書学習装置１１０及び物体検出装置３１０として動作してもよい。さらにその同じ装置が、記憶装置１２０を含んでいてもよい。
【０１０６】
設定部３１１には、物体が撮影された画像が入力される。設定部３１１は、その画像を受信する。そして、設定部３１１は、受信した画像の、探索窓として設定されていない部分を含む一部分に、探索窓を設定する。設定部３１１は、受信した画像の全ての部分が少なくとも１回探索窓に設定されるまで、探索窓として設定する部分を変えながら、探索窓の設定を繰り返せばよい。探索窓に含まれる部分画像が、前述のサンプルである。
【０１０７】
抽出部３１２は、探索窓に設定された部分画像において、特徴量を抽出する。抽出部３１２は、少なくともいずれかの弱識別器によって使用される、全ての特徴量を抽出すればよい。弱識別器の各々が使用する特徴量は、識別辞書記憶部１２２が記憶する識別辞書に記録されている。抽出部３１２は、例えば、決定された順番が早い弱識別器から順に、弱識別器を選択してもよい。そして、抽出部３１２は、選択した弱識別器が使用する特徴量が抽出されていない場合、その特徴量を抽出してもよい。
【０１０８】
弱識別部３１３は、抽出された特徴量を使用して、識別辞書に記録されている弱識別器の出力値を計算する。弱識別部３１３は、抽出された特徴量を使用して、識別辞書に記録されている弱識別器の各々の出力値を計算してもよい。弱識別部３１３は、抽出された特徴量を使用して、識別辞書に記録されている弱識別器のうち、抽出部３１２によって選択された弱識別器の出力値を計算してもよい。
【０１０９】
スコア計算部３１４は、計算された、弱識別器の各々の出力値に基づいて、強識別器の出力値を計算してもよい。スコア計算部３１４は、計算された、弱識別器の各々の出力値に基づいて、強識別器の出力値（すなわち識別スコア）を計算してもよい。
【０１１０】
判定部３１５は、探索窓に含まれる画像の領域に含まれる部分画像が、物体であるか非物体であるかを判定する。すなわち、判定部３１５は、識別スコアに基づいて、探索窓に含まれる部分画像が、ネガティブクラスに属するか否かを判定する。判定部３１５は、探索窓に含まれる部分画像が、ネガティブクラスに属すると判定した場合、その探索窓に関する識別を打ち切ると判定する。
【０１１１】
図１０は、本実施形態の物体検出装置３１０の動作の例を表すフローチャートである。
【０１１２】
まず、設定部３１１は、画像中の一部分に探索窓を設定する（ステップＳ３１１）。設定部３１１は、探索窓として設定されていない部分を含む、画像の、例えば所定サイズである一部を、探索窓に設定する。設定部３１１は、図１０に示すステップＳ３１１からステップＳ３１６−２までの動作の繰り返しにおいて、例えば、画像中をラスタスキャンするように探索窓を移動させながら、探索窓を設定すればよい。設定部３１１は、探索窓が、前に設定した探索窓と重ならないように、所定の間隔で探索窓を設定してもよい。設定部３１１は、探索窓が、前に設定した探索窓と重なるように、所定の間隔で探索窓を設定してもよい。以下の説明において、物体検出装置３１０は、設定した探索窓に含まれる部分画像が、物体の画像であるか否かを判定する。物体の画像のクラスが、ポジティブ系クラスである、物体の画像ではない画像（非物体の画像）のクラスが、ネガティブクラスである。
【０１１３】
物体検出装置３１０は、後述のステップＳ３１２−１からステップＳ３１５までの動作を通して、探索窓が設定された部分の画像が、特定の物体であるか否かを識別する。特にステップＳ３１２−３及びステップＳ３１３は、１つの弱識別器による弱識別の処理に相当する。選択された弱識別器による出力値を計算する、ステップＳ３１２−３及びステップＳ３１３の動作は、選択される弱識別器を変更しながら、繰り返される。得られる弱識別器の出力値は、ステップＳ３１４において、順次、強識別器の出力値に足される。結果として強識別器の出力値（識別スコア）が計算される。数１が、この識別スコアの計算式である。以下では、以上についてさらに詳しく説明する。
【０１１４】
抽出部３１２は、選択されていない弱識別器の中で、決定された順番が最も早い弱識別器を選択する（ステップＳ３１２−１）。抽出部３１２は、選択された弱識別器の入力である特徴量が抽出されているか判定する（ステップＳ３１２−２）。選択された弱識別器の入力である特徴量が抽出されている場合（ステップＳ３１２−２においてＹｅｓ）、抽出部３１２は、その特徴量を抽出しなくてよい。選択された弱識別器の入力である特徴量が抽出されていない場合（ステップＳ３１２−２においてＮｏ）、抽出部３１２は、その特徴量を抽出する（ステップＳ３１２−３）。弱識別器の入力である特徴量の種類を特定する情報は、識別辞書記憶部１２２に格納されている。
【０１１５】
次に、弱識別部３１３が弱識別の計算を行う（ステップＳ３１３）。すなわち、弱識別部３１３は、選択された弱識別器の出力値を計算する。その際、弱識別部３１３は、選択された弱識別器の入力である特徴量に基づいて、識別辞書記憶部１２２に格納されている、弱識別器の出力値の計算に使用される上述のルックアップテーブルを用いて、選択された弱識別器の出力値を求めればよい。なお、弱識別部３１３は、弱識別器の出力値として、ポジティブ系クラス別の出力値を計算する。
【０１１６】
次に、スコア計算部３１４は、計算した、選択された弱識別器の出力値を、強識別器の出力値に加算する（ステップＳ３１４）。全ての弱識別器が選択されている場合、ステップＳ３１４において、数１に示す総和（すなわち最終的な識別スコア）Hcが、各ポジティブ系クラスcについて計算される。選択されていない弱識別器が存在する場合、ステップＳ３１４において、数１に示す識別スコアの演算の中間結果Hcが、各ポジティブ系クラスcについて計算される。識別スコアの演算の中間結果は、弱識別器の一部の出力値の和を表す。
【０１１７】
次に、判定部３１５は、探索窓に含まれる部分画像に関する識別処理を打ち切るか否かを判定する打ち切り判定を行う（ステップＳ３１５）。判定部３１５は、計算したHcの値に基づいて、探索窓に含まれる部分画像がネガティブクラスに属するか否かを判定する。例えば、Hcの値が大きいほど、探索窓に含まれる部分画像が物体の画像らしい場合、判定部３１５は、Hcの値が所定の閾値より小さい場合、探索窓に含まれる部分画像がネガティブクラスに属すると判定すればよい。探索窓に含まれる部分画像がネガティブクラスに属すると判断された場合、識別処理をそれ以上続行する必要はない。判定部３１５は、探索窓に含まれる部分画像がネガティブクラスに属すると判定した場合、その探索窓に関する識別処理を打ち切る（すなわち「打ち切り」）と判定する（ステップＳ３１６−１においてＹｅｓ）。その場合、画像の全ての部分が探索窓として設定されていなければ（ステップＳ３１６−２においてＮｏ）、物体検出装置３１０は、再び、ステップＳ３１１以降の動作を行う。すなわち、物体検出装置３１０による処理は、次の探索窓についての処理に移る。「打切り」と判定されなかった場合（ステップＳ３１６−１においてＮｏ）、物体検出装置３１０は、再び、ステップＳ３１２−１以降の動作を行う。すなわち、物体検出装置３１０は、次の弱識別器についての計算を行う。なお、前述のようにHcはクラスc毎に計算される。従って、Ｓ３１５において、判定部３１５は、ステップＳ３１４において計算されたHcの最大値maxc(Hc)と、所定の閾値とを比較すればよい。また、Ｓ３１５において使用される閾値は、クラスc毎に、あらかじめ実験的に求められた、部分画像が明らかにネガティブクラスに属すると判断できる値が設定されていてもよい。その場合、判定部３１５は、ステップＳ３１４において計算されたHcの最大値maxc(Hc)と、クラスcに関して実験的に求められた閾値とを比較すればよい。そして、判定部３１５は、比較の結果、探索窓に含まれる部分画像がネガティブクラスに属すると判定した場合、その探索窓に関する識別処理を打ち切ると判定すればよい。
【０１１８】
また、判定部３１５は、「打ち切り」と判定されず、かつ、Hcの値が、ポジティブ系クラスの閾値としてあらかじめ設定されている閾値より大きい場合、判定部３１５は、探索窓に含まれる部分画像がポジティブ系クラスに属すると判定すればよい。すなわち、判定部３１５は、設定されている探索窓に物体が検出されたと判定すればよい。複数のポジティブ系クラスが存在する場合、複数のクラスcのHcがポジティブ系クラスの閾値を越えた場合、判定部３１５は、探索窓に含まれる部分画像は、Hcの値が最も大きいクラスcに属すると判定すればよい。Hcがポジティブ系クラスの閾値を越えたポジティブ系クラスが存在しない場合、判定部３１５は、探索窓に含まれる部分画像がネガティブクラスに属すると判定すればよい。すなわち、判定部３１５は、探索窓に物体は検出されないと判定すればよい。
【０１１９】
＜第３の実施形態＞
次に、本発明の第３の実施形態について、図面を参照して詳細に説明する。第３の実施形態は、上述した各実施形態に共通する概念を表す。
【０１２０】
図１１は、本実施形態の識別辞書学習装置１００Ａの構成を表すブロック図である。
【０１２１】
図１１を参照すると、本実施形態の識別辞書学習装置１００Ａは、複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習部１１２と、誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算部１１３と、学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定部１１４と、前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新部１１６と、を備える。
【０１２２】
＜他の実施形態＞
識別辞書学習システム１００、識別辞書学習装置１１０、識別辞書学習装置１００Ａ、記憶装置１２０、物体検出システム３００、及び物体検出装置３１０は、それぞれ、コンピュータ及びコンピュータを制御するプログラム、専用のハードウェア、又は、コンピュータ及びコンピュータを制御するプログラムと専用のハードウェアの組合せにより実現することができる。
【０１２３】
図１２は、識別辞書学習システム１００、識別辞書学習装置１１０、識別辞書学習装置１００Ａ、記憶装置１２０、物体検出システム３００、及び物体検出装置３１０を実現することができる、コンピュータ１０００のハードウェア構成の一例を表す図である。図１２を参照すると、コンピュータ１０００は、プロセッサ１００１と、メモリ１００２と、記憶装置１００３と、Ｉ／Ｏ（Ｉｎｐｕｔ／Ｏｕｔｐｕｔ）インタフェース１００４とを含む。また、コンピュータ１０００は、記録媒体１００５にアクセスすることができる。メモリ１００２と記憶装置１００３は、例えば、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、ハードディスクなどの記憶装置である。記録媒体１００５は、例えば、ＲＡＭ、ハードディスクなどの記憶装置、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、可搬記録媒体である。記憶装置１００３が記録媒体１００５であってもよい。プロセッサ１００１は、メモリ１００２と、記憶装置１００３に対して、データやプログラムの読み出しと書き込みを行うことができる。プロセッサ１００１は、Ｉ／Ｏインタフェース１００４を介して、例えば、端末装置１４０などにアクセスすることができる。プロセッサ１００１は、記録媒体１００５にアクセスすることができる。記録媒体１００５には、コンピュータ１０００を、識別辞書学習装置１１０、識別辞書学習装置１００Ａ、又は物体検出装置３１０として動作させるプログラムが格納されている。
【０１２４】
プロセッサ１００１は、記録媒体１００５に格納されている、コンピュータ１０００を、識別辞書学習装置１１０、識別辞書学習装置１００Ａ、又は物体検出装置３１０として動作させるプログラムを、メモリ１００２にロードする。そして、プロセッサ１００１が、メモリ１００２にロードされたプログラムを実行することにより、コンピュータ１０００は、識別辞書学習装置１１０、識別辞書学習装置１００Ａ、又は物体検出装置３１０として動作する。
【０１２５】
初期化部１１１、学習部１１２、指標計算部１１３、決定部１１４、重み更新部１１５、係数更新部１１６、更新設定部１１７、設定部３１１、抽出部３１２、弱識別部３１３、スコア計算部３１４、及び、判定部３１５は、例えば、プログラムを記憶する記録媒体１００５からメモリ１００２に読み込まれた、各部の機能を実現することができる専用のプログラムと、そのプログラムを実行するプロセッサ１００１により実現することができる。また、係数記憶部１２１、識別辞書記憶部１２２、重み記憶部１２３、及び、サンプル記憶部１２４は、コンピュータ１０００が含むメモリ１００２やハードディスク装置等の記憶装置１００３により実現することができる。あるいは、初期化部１１１、学習部１１２、指標計算部１１３、決定部１１４、重み更新部１１５、係数更新部１１６、更新設定部１１７、係数記憶部１２１、識別辞書記憶部１２２、重み記憶部１２３、サンプル記憶部１２４、設定部３１１、抽出部３１２、弱識別部３１３、スコア計算部３１４、及び、判定部３１５の一部又は全部を、各部の機能を実現する専用の回路によって実現することもできる。
【０１２６】
また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【０１２７】
（付記１）
複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習手段と、
誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算手段と、
学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定手段と、
前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新手段と、
を備える識別辞書学習装置。
【０１２８】
（付記２）
前記クラス分類は、前記認識対象から得られる前記データ値がいずれかに属する前記クラスである、複数のポジティブ系クラス、及び、前記認識対象から得られない前記データ値が属する前記クラスであるネガティブ系クラスのいずれかに、前記データ値を分類することであり、
前記識別辞書学習装置は、さらに、
異なる２つの前記ポジティブ系クラスの前記組み合わせである同系セットの前記最適化指標への寄与の大きさが、前記ポジティブ系クラス及び前記ネガティブ系クラスの前記組み合わせである異系セットの前記最適化指標への寄与の大きさより小さくなるよう、前記複数の最適化指標係数の各々の、前記更新が行われる前に前記最適化指標の導出に使用される値である初期値を設定する初期化を行う初期化手段
を備える付記１に記載の識別辞書学習装置。
【０１２９】
（付記３）
前記初期化手段は、前記同系セットの各々の前記最適化指標への寄与が、無くなる又はほぼ無くなるように、前記初期化を行う
付記２に記載の識別辞書学習装置。
【０１３０】
（付記４）
前記係数更新手段は、前記同系セットの各々の前記最適化指標への寄与の大きさが増加するように、前記更新を行う
付記１乃至３のいずれかに記載の識別辞書学習装置。
【０１３１】
（付記５）
前記係数更新手段は、前記同系セットの各々の前記最適化指標への寄与の大きさが、前記異系セットの前記最適化指標への寄与の大きさに近づくように前記更新を行う
付記１乃至４のいずれかに記載の識別辞書学習装置。
【０１３２】
（付記６）
少なくともいずれかの前記同系セットの前記最適化指標の更新における前記ルールを受信する更新設定手段を備え、
前記係数更新手段は、受信された前記ルールに従って前記更新を行う、
付記１乃至５のいずれかに記載の識別辞書学習装置。
【０１３３】
（付記７）
前記学習手段は、１つ以上の前記クラスを含むクラス集合と、前記学習サンプルに基づき導出される特徴量の種類との、異なる複数の組み合わせの各々について、当該組み合わせと前記複数の学習サンプルとに基づいて前記弱識別器の学習を行う
付記１乃至６のいずれかに記載の識別辞書学習装置。
【０１３４】
（付記８）
識別装置と、付記１乃至７のいずれかに記載の識別辞書学習装置と、を含み、
前記識別辞書学習装置は、
前記識別辞書記憶手段をさらに備え、
前記決定手段は、選択された前記弱識別器を前記識別辞書に追加し、
前記識別装置は、
前記データ値である識別サンプルを受信する設定手段と、
前記識別辞書に含まれる複数の前記弱識別器による前記識別サンプルの前記クラス分類の結果の各々を統合することにより、前記識別サンプルの前記クラス分類を行う判定手段と、
を備える、
識別システム。
【０１３５】
（付記９）
複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習し、
誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算し、
学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加し、
前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う、
識別辞書学習方法。
【０１３６】
（付記１０）
前記クラス分類は、前記認識対象から得られる前記データ値がいずれかに属する前記クラスである、複数のポジティブ系クラス、及び、前記認識対象から得られない前記データ値が属する前記クラスであるネガティブ系クラスのいずれかに、前記データ値を分類することであり、
さらに、
異なる２つの前記ポジティブ系クラスの前記組み合わせである同系セットの前記最適化指標への寄与の大きさが、前記ポジティブ系クラス及び前記ネガティブ系クラスの前記組み合わせである異系セットの前記最適化指標への寄与の大きさより小さくなるよう、前記複数の最適化指標係数の各々の、前記更新が行われる前に前記最適化指標の導出に使用される値である初期値を設定する初期化を行う
付記９に記載の識別辞書学習方法。
【０１３７】
（付記１１）
前記同系セットの各々の前記最適化指標への寄与が、無くなる又はほぼ無くなるように、前記初期化を行う
付記１０に記載の識別辞書学習方法。
【０１３８】
（付記１２）
前記同系セットの各々の前記最適化指標への寄与の大きさが増加するように、前記更新を行う
付記９乃至１２のいずれかに記載の識別辞書学習方法。
【０１３９】
（付記１３）
前記同系セットの各々の前記最適化指標への寄与の大きさが、前記異系セットの前記最適化指標への寄与の大きさに近づくように前記更新を行う
付記９乃至１２のいずれかに記載の識別辞書学習方法。
【０１４０】
（付記１４）
少なくともいずれかの前記同系セットの前記最適化指標の更新における前記ルールを受信し、
受信された前記ルールに従って前記更新を行う、
付記９乃至１３のいずれかに記載の識別辞書学習方法。
【０１４１】
（付記１５）
１つ以上の前記クラスを含むクラス集合と、前記学習サンプルに基づき導出される特徴量の種類との、異なる複数の組み合わせの各々について、当該組み合わせと前記複数の学習サンプルとに基づいて前記弱識別器の学習を行う
付記９乃至１４のいずれかに記載の識別辞書学習方法。
【０１４２】
（付記１６）
コンピュータを、
複数のクラスのいずれかに属するデータ値を前記複数のクラスのいずれかに分類するクラス分類を行う、複数の識別器を、複数の、前記データ値である学習サンプルを使用して学習する学習手段と、
誤った前記クラス分類における前記学習サンプルが属する前記クラスと、分類されたクラスとの組み合わせの、前記クラス分類の識別精度を表す最適化指標への寄与の大きさを各々表す複数の最適化指標係数に基づいて、前記複数の識別器の各々の前記最適化指標を計算する指標計算手段と、
学習された前記識別器のうち、前記最適化指標が、識別精度が最も高いことを表す前記識別器を弱識別器として選択し、当該弱識別器を、識別辞書記憶手段に格納されている、前記弱識別器の集合である識別辞書に追加する決定手段と、
前記弱識別器が追加されるのに応じて、前記最適化指標係数の更新をルールに基づいて行う係数更新手段と、
して動作させる識別辞書学習プログラム。
【０１４３】
（付記１７）
前記クラス分類は、前記認識対象から得られる前記データ値がいずれかに属する前記クラスである、複数のポジティブ系クラス、及び、前記認識対象から得られない前記データ値が属する前記クラスであるネガティブ系クラスのいずれかに、前記データ値を分類することであり、
コンピュータを、
異なる２つの前記ポジティブ系クラスの前記組み合わせである同系セットの前記最適化指標への寄与の大きさが、前記ポジティブ系クラス及び前記ネガティブ系クラスの前記組み合わせである異系セットの前記最適化指標への寄与の大きさより小さくなるよう、前記複数の最適化指標係数の各々の、前記更新が行われる前に前記最適化指標の導出に使用される値である初期値を設定する初期化を行う初期化手段と
して動作させる付記１６に記載の識別辞書学習プログラム。
【０１４４】
（付記１８）
コンピュータを、
前記同系セットの各々の前記最適化指標への寄与が、無くなる又はほぼ無くなるように、前記初期化を行う前記初期化手段と、
して動作させる付記１７に記載の識別辞書学習プログラム。
【０１４５】
（付記１９）
コンピュータを、
前記同系セットの各々の前記最適化指標への寄与の大きさが増加するように、前記更新を行う前記係数更新手段と、
して動作させる付記９乃至１８のいずれかに記載の識別辞書学習プログラム。
【０１４６】
（付記２０）
コンピュータを、
前記同系セットの各々の前記最適化指標への寄与の大きさが、前記異系セットの前記最適化指標への寄与の大きさに近づくように前記更新を行う前記係数更新手段と、
して動作させる付記９乃至１９のいずれかに記載の識別辞書学習プログラム。
【０１４７】
（付記２１）
コンピュータを、
少なくともいずれかの前記同系セットの前記最適化指標の更新における前記ルールを受信する更新設定手段と、
受信された前記ルールに従って前記更新を行う前記係数更新手段と、
して動作させる付記９乃至２０のいずれかに記載の識別辞書学習プログラム。
【０１４８】
（付記２２）
コンピュータを、
１つ以上の前記クラスを含むクラス集合と、前記学習サンプルに基づき導出される特徴量の種類との、異なる複数の組み合わせの各々について、当該組み合わせと前記複数の学習サンプルとに基づいて前記弱識別器の学習を行う前記学習手段と、
して動作させる付記９乃至２１のいずれかに記載の識別辞書学習プログラム。
【０１４９】
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【産業上の利用可能性】
【０１５０】
本発明によれば、映像から特定の物体を検出する用途に適用できる。特に画像上での見た目のバリエーションが大きな物体である、例えば、人物の頭部、顔、人体、自動車等に関する検出用途に、実用的に適用できる。
【符号の説明】
【０１５１】
１００    識別辞書学習システム
１１０    識別辞書学習装置
１１０Ａ    識別辞書学習装置
１１１    初期化部
１１２    学習部
１１３    指標計算部
１１４    決定部
１１５    重み更新部
１１６    係数更新部
１１７    更新設定部
１２０    記憶装置
１２１    係数記憶部
１２２    識別辞書記憶部
１２３    重み記憶部
１２４    サンプル記憶部
１４０    端末装置
３００    物体検出システム
３１０    物体検出装置
３１１    設定部
３１２    抽出部
３１３    弱識別部
３１４    スコア計算部
３１５    判定部
１０００    コンピュータ
１００１    プロセッサ
１００２    メモリ
１００３    記憶装置
１００４    Ｉ／Ｏインタフェース
１００５    記録媒体
【図１】
2016062249.tif 000009
【図２】
2016062249.tif 000010
【図３】
2016062249.tif 000011
【図４Ａ】
2016062249.tif 000012
【図４Ｂ】
2016062249.tif 000013
【図５Ａ】
2016062249.tif 000014
【図５Ｂ】
2016062249.tif 000015
【図６】
2016062249.tif 000016
【図７】
2016062249.tif 000017
【図８】
2016062249.tif 000018
【図９】
2016062249.tif 000019
【図１０】
2016062249.tif 000020
【図１１】
2016062249.tif 000021
【図１２】
2016062249.tif 000022