(57)【要約】【課題】識別性能を向上させるパターン認識装置を提供する。【解決手段】パターン認識装置５０は、局所特徴計算部５２、入力部５４、特徴量子化部５６、識別部５８、統合部６０、最終識別部６２、出力部６４から構成され、参照ウィンドウ内の部分画像から得られる局所特徴に加えて、近傍ウィンドウの予測ラベルから空間的な配置に関する配置特徴を研鑽し、これらの複数の特徴の中から識別に有効な組合せを逐次選択する。【選択図】      図２
2008217589.tif 000002
【特許請求の範囲】
【請求項１】
対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習装置において、
学習のための複数のサンプル画像を格納するサンプル画像蓄積部と、
前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算部と、
前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成部と、
を有し、
前記弱識別器生成部は、
（Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記          注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
（２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算部と、
（Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択部と、
（Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算部と、
を有する学習装置。
【請求項２】
前記格納された各サンプル画像の各領域の識別クラスを格納する識別クラス蓄積部と、
前記各サンプル画像の各領域と前記各領域の識別クラスとから構成された学習サンプルに対し、前記弱識別器で識別する場合に前記学習サンプルの重要度を表す重みを前記一つの弱識別器毎に設定する重み設定部と、
を有し、
前記識別パラメータ計算部は、前記組合せ情報と前記重みに基づいて、前記弱識別器の識別パラメータを計算する、
請求項１記載の学習装置。
【請求項３】
前記組合せ情報生成部は、前記複数の組合せ情報の中で、前記サンプル画像に対する識別誤り率が最も小さい前記一つの組合せ情報を選択する、
請求項１記載の学習装置。
【請求項４】
前記局所情報計算部は、前記領域毎に複数種類の前記局所情報を計算する、
請求項１記載の学習装置。
【請求項５】
前記配置情報計算部は、前記注目領域に対してそれぞれ異なる位置にある複数の周囲領域を用いて、複数種類の前記配置情報を計算する、
請求項１記載の学習装置。
【請求項６】
前記配置情報計算部は、前記サンプル画像の領域毎に真値として予め与えられた識別クラスを用いて前記配置情報を計算する、
請求項１記載の学習装置。
【請求項７】
前記配置情報計算部は、既に生成された弱識別器から出力された出力値を用いて前記配置情報を計算する、
請求項１記載の学習装置。
【請求項８】
対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識装置において、
前記対象画像を入力する入力部と、
前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算部と、
前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算部と、
前記Ｔ個の配置情報計算部のそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算部から入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、
前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別部と、
を有するパターン認識装置。
【請求項９】
前記弱識別器の識別パラメータは、
（１）前記対象画像を識別するためのサンプル画像の領域毎の前記局所情報と、（２）前記サンプル画像の領域毎の配置情報とを組み合わせた組合せ情報に基づいて生成されている、
請求項８記載のパターン認識装置。
【請求項１０】
前記Ｔ個の弱識別器の中の第ｔ（但し、１＜ｔ＝＜Ｔである）弱識別器で用いる第ｔ配置情報を計算する際に、前記第ｔ弱識別器以外の弱識別器の出力値を統合して前記第ｔ配置情報とする、
請求項８記載のパターン認識装置。
【請求項１１】
前記Ｔ個の弱識別器の中の第ｔ（但し、１＜ｔ＝＜Ｔである）弱識別器で用いる第ｔ配置情報を計算する際に、前記第１〜第（ｔ−１）弱識別器の統合結果から前記第ｔ配置情報を計算し、
前記最終識別部は、前記Ｔ個の弱識別器の出力値を統合して最終的な識別クラスとする、
請求項８記載のパターン認識装置。
【請求項１２】
対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習方法において、
学習のための複数のサンプル画像を格納するサンプル画像蓄積ステップと、
前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算ステップと、
前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成ステップと、
を有し、
前記弱識別器生成ステップは、
（Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記          注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
（２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算ステップと、
（Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択ステップと、
（Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算ステップと、
を有する学習方法。
【請求項１３】
対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識方法において、
前記対象画像を入力する入力ステップと、
前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算ステップと、
前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算ステップと、
前記Ｔ個の配置情報計算ステップのそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算ステップから入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、
前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別ステップと、
を有するパターン認識方法。
【請求項１４】
対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習プログラムにおいて、
学習のための複数のサンプル画像を格納するサンプル画像蓄積機能と、
前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算機能と、
前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成機能と、
をコンピュータによって実現し、
前記弱識別器生成機能は、
（Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記          注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
（２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算機能と、
（Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択機能と、
（Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算機能と、
を実現する学習プログラム。
【請求項１５】
対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識プログラムにおいて、
前記対象画像を入力する入力機能と、
前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算機能と、
前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算機能と、
前記Ｔ個の配置情報計算機能のそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算機能から入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、
前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別機能と、
をコンピュータによって実現する認識プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、入力画像から特定のパターンを検出したり、入力画像を既知の識別クラス毎に領域分割するための学習装置及びパターン認識装置に関する。
【背景技術】
【０００２】
入力画像に含まれる特定のパターンを検出したり、複数のパターンを既知のクラスに識別する技術は、パターン認識（あるいは識別）技術と呼ばれる。
【０００３】
パターン認識は、まず帰属クラスが既知のサンプルデータをうまく識別できるような識別関数を学習することが必要となる。そうした学習方式の１つであるＡｄａＢｏｏｓｔでは、識別性能の低い識別器（弱識別器）を複数個学習し、それらを統合することにより高い識別性能を持つ識別器（強識別器）を構成する。ＡｄａＢｏｏｓｔによるパターン認識は、認識性能が高く、かつ、計算コストも実用的であることから広く用いられている（例えば、非特許文献１参照）。
【０００４】
非特許文献１の方法では、識別に用いる特徴量としては、高速に計算可能な複数の矩形領域の明度差を採用し、各弱識別器は単一の特徴量に基づいて識別を行う。
【０００５】
各弱識別器につき単一の特徴量を用いると、特徴同士の相関を有効に評価できず識別性能が低くなる場合があるが、特願２００５−５４７８０では、各弱識別器で複数の特徴の組合せに基づいて識別を行う方法が開示されている。
【非特許文献１】P.Viola and M.Jones,「Rapid Object Detection using a Boosted Cascade of Simple Features 」, IEEE conf. on Computer Vision and PatternRecognition (CVPR),2001
【発明の開示】
【発明が解決しようとする課題】
【０００６】
上記の２つの方法を含む従来方法では、入力画像に所定の大きさの矩形（参照ウィンドウと呼ぶ）を設定し、参照ウィンドウ内の部分画像から計算される特徴量を用いて識別を行う。このため、極めて局所的な情報から識別することになり識別性能が上がらない場合がある。また、識別に有用と考えられる近傍の点の識別結果は従来方式では考慮されていない。さらに、一般の物体認識を考えると、「机の近くには椅子があることが多い」、といった識別に有効と考えられる識別クラス間の相互関係を上記の方法では組み込むことができず、識別精度の向上に限界があるという問題点がある。
【０００７】
そこで本発明は上記問題点に鑑み、識別性能を向上させる学習装置、及び、その学習装置を用いて得られた識別器を用いたパターン認識装置を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明は、対象画像の中の領域の画像が属する識別クラスを識別するための複数の弱識別器を生成する学習装置において、
学習のための複数のサンプル画像を格納するサンプル画像蓄積部と、
前記各サンプル画像の分割された領域の局所画像毎に、前記局所画像の識別に用いる一または複数の局所情報をそれぞれ計算する局所情報計算部と、
前記複数の弱識別器の中の一つの弱識別器を前記複数のサンプル画像の前記各局所情報を用いて生成する弱識別器生成部と、
を有し、
前記弱識別器生成部は、
（Ａ）（１）前記サンプル画像の複数の領域の中の注目する一つの注目領域と、前記          注目領域の周囲にある一または複数の周囲領域との位置関係情報、及び、
（２）前記周囲領域に対する予め格納、または、予め識別された識別クラス、を用いて、前記注目領域の周囲にある前記周囲領域の識別クラスの配置を表す配置情報を前記注目領域毎にそれぞれ計算する配置情報計算部と、
（Ｂ）前記一または複数の局所情報と前記配置情報とを組み合わせた複数の組合せ情報の中から、一つの組合せ情報を選択する組合せ情報選択部と、
（Ｃ）前記組合せ情報に基づいて、前記一つの弱識別器の識別パラメータを計算する識別パラメータ計算部と、
を有する学習装置である。
【０００９】
また、本発明は、対象画像の中の領域が、複数の識別クラス中のどの識別クラスに属するかを複数の弱識別器を用いて識別するパターン認識装置において、前記対象画像を入力する入力部と、前記対象画像の中の領域毎に識別に用いる局所情報を計算する局所情報計算部と、前記対象画像の複数の領域の中で注目する一つの注目領域の周囲にある一または複数の周囲領域の推定識別クラスと、前記注目領域と前記周囲領域の位置関係情報とに基づいた配置情報を前記注目領域毎に計算するＴ個（但し、Ｔ＞＝２である）の配置情報計算部と、前記Ｔ個の配置情報計算部のそれぞれに対応して設けられ、前記対象画像の領域毎の前記局所情報と前記対応する配置情報計算部から入力された配置情報とに基づいて、どの識別クラスであるかを前記領域毎に識別するＴ個の弱識別器と、前記Ｔ個の弱識別器からそれぞれ出力された前記領域毎の出力値に基づいて、前記領域毎の最終的な識別クラスを求める最終識別部と、を有するパターン認識装置である。
【発明の効果】
【００１０】
本発明によれば、従来より精度の高いパターン認識が可能である。言い換えれば、従来よりも低い計算コストで同等の性能を得ることができる。
【発明を実施するための最良の形態】
【００１１】
以下で図１〜図６を参照しながら、本発明の一実施形態の学習装置１０、及びその学習装置１０で生成した識別器を用いたパターン認識装置５０を説明する。
【００１２】
なお、本実施形態では２クラスの識別問題、例えば、車に搭載した画像から、道路領域を抽出する問題、すなわち、入力画像を対象画像として、この対象画像に写っている道路と非道路とを２つの領域に分割する問題を想定している。
【００１３】
まず、学習装置１０について説明し、次に、パターン認識装置５０について説明する。
【００１４】
（学習装置１０）
本実施形態の学習装置１０について図１、図３〜図６を参照して説明する。
【００１５】
学習装置１０は学習アルゴリズムとしてＡｄａＢｏｏｓｔを採用する。ＡｄａＢｏｏｓｔは逐次的に学習サンプルの重みを変化させながら異なる識別器（弱識別器と呼ぶ）を生成し、これら複数の弱識別器を組合せて精度の高い識別器（強識別器と呼ぶ）を構成する学習方法である。
【００１６】
（１）学習装置１０の構成
図１は、学習装置１０のブロック図である。
【００１７】
学習装置１０は、図１に示すように、データ蓄積部１２、重み初期化部１４、局所特徴計算部１６、配置特徴計算部１８、弱識別器選択部２０、記憶部２２、重み更新部２４を備えており、弱識別器選択部２０はさらに量子化部２６、組合せ生成部２８、確率分布計算部３０、組合せ選択部３２から構成される。
【００１８】
各部１２〜３２の各機能は、コンピュータの記録媒体に格納されたプログラムによっても実現可能である。
【００１９】
なお、数１から数１２ではベクトル量を太字で表し、スカラー量を標準字で表すが、明細書では太字は表現できないため、ベクトル量を示すときは、「ベクトルｘ」「ベクトルｌ」「ベクトルｇ」のように表現する。また、スカラー量は「ｘ」「ｙ」「ｉ」「ｌ」のように表現する。
【００２０】
（２）データ蓄積部１２
データ蓄積部１２は認識対象が含まれるサンプル画像を多数格納する。例えば、道路が撮影されている画像をサンプル画像として格納する。
【００２１】
ここでは切り出された部分画像をクラス毎に保存するのではなく、元画像をサンプル画像として保持する。サンプル画像には通常、複数の識別対象が混在しているため、各点（各画素）がどの識別クラスに属するかを示すクラスラベルを輝度と共に蓄積しておく。各点のクラスラベルは適当な手段で与える。例えば手動で与える。
【００２２】
以下の説明においては、データ蓄積部１２に蓄積されたサンプル画像から得たＮ個の学習サンプル（ベクトルｘ１  ，ｙ１  ），（ベクトルｘ２  ，ｙ２  ）・・・，（ベクトルｘＮ  ，ｙＮ  ）を訓練データとして、これらに付加した重みを変化させながらＴ個の弱識別器ｈ１(ベクトルｘ），ｈ２(ベクトルｘ），・・・，ｈＴ  （ベクトルｘ）を逐次学習し、学習した弱識別器で構成される強識別器Ｈ（ベクトルｘ）を求めるものとする。
【００２３】
ここでｉは全サンプル画像の各点に通して割り当てられたインデックス番号であり、ベクトルｘｉ  ( ｉ＝１，２，・・・，Ｎ）は後に説明する特徴ベクトル、ｙｉ  ( ｉ＝１，２，・・・，Ｎ）はそのクラスラベルである。２つの識別クラスのラベルを−１、＋１とすると、ｙｉ  ( ｉ＝１，２，・・・，Ｎ）が取り得る値は−１または＋１であり、各弱識別器、強識別器の出力値はいずれもクラスラベルであるから、これらの取り得る値も−１か＋１である。
【００２４】
（３）重み初期化部１４
重み初期化部１４は個々の学習サンプルの重みを初期化する。この重みとは、一つの弱識別器で識別する場合に学習サンプルの重要度を表す係数である。
【００２５】
例えば、全ての学習サンプルに対して均一な重みを設定する場合には、ｉ番目の学習サンプルの重みは、
Ｄ１(ｉ）＝１／Ｎ      （１）
により与えられる。この重みは第１の弱識別器ｈ１(ベクトルｘ）を学習する際に用いられ、後に説明する重み更新部２４で逐次更新される。
【００２６】
（４）局所特徴計算部１６
局所特徴計算部１６は、データ蓄積部１２に蓄積されたサンプル画像上の点毎に、その点を中心とする図４に示すような矩形ウィンドウを用いて、パターン認識に必要な局所情報である複数の局所特徴を抽出する。
【００２７】
ここで計算する局所特徴は、その点の２次元の画像座標（ｕ，ｖ）、ウィンドウ内の輝度平均、ウィンドウ内の輝度分散、ウィンドウ内の輝度勾配の平均、ウィンドウ内の輝度勾配の分散、その他、識別に有効と予想される特徴量を計算する。
【００２８】
後に説明する識別処理で、ある特徴が識別にとって無効であると分かれば、パターン認識装置５０ではその特徴の計算を省けばよいので、ここでは識別に有効である可能性のある特徴量をできるだけ多く計算する。
【００２９】
その特徴の総数をＬ個とし、これらをまとめてＬ次元ベクトルｌは、
ベクトルｌ＝（ｌ１  ，ｌ２  ・・・ｌＬ  ）        （２）
で表す。このベクトルを局所特徴ベクトルと呼ぶ。局所特徴計算部１６は、データ蓄積部１２に蓄積された全ての画像の各点ｉに対してｌｉ  を計算し、Ｎ本の局所特徴ベクトルを出力する。
【００３０】
（５）配置特徴計算部１８
配置特徴計算部１８は、データ蓄積部１２に蓄積されたサンプル画像上の画素毎、すなわち、点毎に配置情報である配置特徴を計算する。配置特徴とは、上記従来の問題点で説明したように局所的な情報だけでは識別精度の向上に限界があるため、注目点を中心としてその周囲の領域の識別クラスに関する情報も前記注目点の識別に用いるものである。言い換えれば、配置情報、すなわち、配置特徴とは、注目点の周囲の領域の識別クラスを特定している。
【００３１】
配置特徴は各点の近傍の点のクラスラベルから計算する。図３を用いて配置特徴を説明する。
【００３２】
図３左に４近傍の配置特徴の例を示す。４近傍の配置特徴は注目点の上下左右のクラスラベルから計算する。クラスラベルは−１か＋１であるが、配置特徴計算部１８においては処理の簡単化のため−１を０と置き換える。この例では（１１００）２  ＝１２が４近傍の配置特徴量となる。
【００３３】
図３右は８近傍の配置特徴の例であり、この場合の配置特徴量は（０１１００１０１）２  ＝１０９となる。
【００３４】
識別クラス数が２の場合の４近傍及び８近傍の配置特徴量は各々４ビット、８ドット階調で表現される。一般化すると識別クラス数がＮの場合には、Ｆ近傍配置特徴量はＦ桁のＮ進数で表現される。
【００３５】
なお、同一の配置であっても０と１をどの順序で２進数表現するかによって値が異なる。例えば、図３の４近傍配置特徴量は（上左右下）の順序で２進表現しているが、この順序を変えると値が異なる。このため、各配置に対して予め定めた順序を用いることとし、パターン認識装置５０においても同一の順序を用いる。この順序が位置関係、すなわち、配置を特定している。
【００３６】
配置特徴計算部１８は上記の４近傍や８近傍などのＧ種類の配置特徴量を計算する。これらＧ個の配置特徴量をまとめてＧ次元の配置特徴ベクトルｇは、
ベクトルｇ＝（ｇ１  ，ｇ２  ・・・ｇＧ  ）        （３）
で表す。
【００３７】
配置特徴計算部１８では、データ蓄積部１２に蓄積された画像の各点ｉに対してｇｉ  を計算する。
【００３８】
なお、ここでは４近傍と８近傍の例を説明したが、上下や左右の２点で配置特徴を定義したり、上や下の１点だけで定義してもよい。また、配置を定義する点が自身の近傍に限定される必要もなく任意の配置であってよい。
【００３９】
局所特徴計算部１６で計算した局所特徴ベクトルと、配置特徴計算部１８で計算した配置特徴ベクトルをまとめて、
ベクトルｘ＝（ベクトルｌ，ベクトルｇ）
＝（ｌ１  ，ｌ２  ・・・ｌＬ  ，ｇ１  ，ｇ２  ・・・ｇＧ  ）
＝（ｘ１  ，ｘ２  ・・・ｘｄ  ）        （４）
とし、このｄ次元のベクトルｘを特徴ベクトルｘと呼ぶ。なお、ｄ＝Ｌ＋Ｇである。ベクトルｘとそのクラスラベルｙ（識別クラスの真値）を合わせた（ベクトルｘ，ｙ）が前記した学習サンプルである。
【００４０】
なお、上記では配置特徴計算の際に学習サンプルに与えられたクラスラベルを用いたが、既に求められた弱識別器によって推定されるクラスラベルｙ’  ｉ  を用いることもできる。例えば、ｔ番目の弱識別器の学習を開始する時点で１，２，・・・ｔ−１番目の弱識別器は既知であるから、それらの弱識別器から学習サンプルのベクトルｘｉ  のクラスラベルｙ’  ｉ  を推定し、
【数１】
2008217589.tif 000003
【００４１】
ｙ’  ｉ  （ｉ＝１，２，・・・，Ｎ）を用いて配置特徴を計算して、ｔ番目の弱識別器の学習の際に用いてもよい。クラスラベルｙｉ  （ｉ＝１，２，・・・，Ｎ）は定数であるが、予測ラベルｙ’  ｉ  （ｉ＝１，２，・・・，Ｎ）は学習の過程で変化する。
【００４２】
なお、予測ラベルｙ’  ｉ  （ｉ＝１，２，・・・，Ｎ）はそれまでに学習した弱識別器を用いるので第１の弱識別器を学習する際には用いることはできない。
【００４３】
（６）弱識別器選択部２０
弱識別器選択部２０は、図１に示すように、量子化部２６、組合せ生成部２８、確率分布計算部３０、組合せ選択部３２から構成され、Ｎ個の学習サンプルのベクトルｘｉ  （ｉ＝１，２，・・・，Ｎ）とそれに付加された重みＤｔ  （ｉ）を考慮して、弱識別器ｈｔ  （ベクトルｘ）を選択する。以下その詳細について説明する。
【００４４】
（６−１）量子化部２６
量子化部２６でまず最初に各特徴量（特徴ベクトルの各要素）の確率分布を識別クラス毎に求める。この確率分布は学習サンプルの個数ではなく、重みに基づいて計算する。図５に確率分布の例を示す。１本の曲線が１つの識別クラスの確率分布に対応しており、本実施形態では２クラスの識別問題を想定しているので、１つの特徴に対して２つの確率分布を求めることとなる。
【００４５】
次に、この確率分布に基づいて各特徴量を量子化する。識別誤り率を最小にする閾値を１つ求めて２段階に量子化する場合を示す。識別誤り率は、確率分布をある閾値で分割した時の狭い方の領域（図５でクラス１の分布では点線で示した閾値の右側の領域、クラス２の分布では左側の領域）の面積に一致するので、それら２つの面積の和が最小となる境界を求める。
【００４６】
このようにして求めた閾値を用いて、各特徴量を量子化する。すなわち、各特徴量が閾値よりも小さい場合は０、大きい場合は１というように閾値に対する大小関係を表す符号で特徴量を置き換える。
【００４７】
なお、ここでは１つの閾値と大小関係によって量子化する方法について説明したが、２つの閾値で上限と下限を設定し、その範囲内ならば０、それ範囲外ならば１、等としてもよい。また３つ以上の段階で量子化してもよい。
【００４８】
（６−２）組合せ生成部２８
組合せ生成部２８では特徴の組合せを生成する。
【００４９】
組合せを生成する方法としては、まず第１に、全ての組合せを生成する方法が考えられる。この場合の組合せの総数Ｋは、全部でｄ個の特徴から１，２，・・・，ｄ個の特徴を抽出して得られる組合せの総数なので次式で与えられる。
【数２】
2008217589.tif 000004
【００５０】
この組合せの総数Ｋは、特に特徴数ｄが大きい場合に非常に大きな数字となり、大幅に計算回数が増加する。これを回避するための何個かの特徴を組み合わせるかを予め決めておいたり、組み合わせる特徴の数に上限や下限を設定しておいてもよい。また、量子化部２６で各特徴量を符号化する際に識別誤り率が求められているので、これに基づいて特徴量を識別性能が高い（識別誤り率が低い）順にソートし、識別性能が高い特徴を優先的に用いて一定数の組合せを生成してもよい。
【００５１】
（６−３）確率分布計算部３０
確率分布計算部３０では、組合せ生成部２８で生成したＫ種類の特徴の組合せ各々から組合せ特徴量を求め、組合せ特徴量の確率分布を識別クラス毎に求める。
【００５２】
Ｋ個の特徴の組合せをｃｋ  （ｋ＝１，２，・・・，Ｋ）とし、各ｃｋ  について下記の計算を行う。
【００５３】
（６−３−１）ステップ１
ｃｋ  の構成要素がｆ個の特徴量ｖ１,ｖ２  ，・・・ｖｆ  であるとする。これらｆ個の特徴量は量子化部２６で量子化された符号である。各々異なる段階で量子化されている可能性があるが、説明の簡素化のため全て２段階で量子化されているものとする。この場合、全ての特徴量は０か１の２値符号であるから、そのｆ個の組合せはｆビット階調のスカラー量φで表現できる。このスカラー量φを組合せ特徴量と呼ぶ。
【数３】
2008217589.tif 000005
【００５４】
（６−３−２）ステップ２
組合せ特徴量φの確率分布を識別クラス毎に求める。本実施形態では識別クラス数は２だから２つの分布Ｗ１  ｋ  （φ），Ｗ２  ｋ  （φ）を次式により求める。
【数４】
2008217589.tif 000006
【００５５】
（６−３−３）ステップ３
Ｗ１  ｋ  （φ），Ｗ２  ｋ  （φ）は各々全体の総和が１になるように正規化しておく。
【００５６】
図６上の確率分布の例を示す。ある組合せ特徴量φが得られた時、この確率分布を参照することによって（つまりＷ１  ｋ  （φ）とＷ２  ｋ  （φ）の大小関係によって）、特徴量φがどちらかのクラスに属する確率が高いかを判定することができる。
【００５７】
なお、２つの確率分布から、図６下に示すような比較結果（クラスラベル）をテーブルとして作成してもよい。以下ではこれを比較テーブルと呼び、Ｗ０  ｋ  （φ）と表現する。
【００５８】
（６−４）組合せ選択部３２
組合せ選択部３２では、生成されたＫ種類の組合せ各々の識別誤り率を求め、識別誤り率が最小となる組合せとして選択する。
【数５】
2008217589.tif 000007
【００５９】
但し、ｈｋ  （ｘ）＝ｓｉｇｎ（Ｗ１  ｋ  （φ）−Ｗ２  ｋ  （φ））である。
【００６０】
（７）記憶部２２
記憶部２２は学習が終了した弱識別器に関する識別パラメータを逐次記憶する。
【００６１】
具体的には、特徴量の量子化の際に用いた閾値、選択された特徴量の組合せｃｋ  、及びその確率分布Ｗ１  ｋ  （φ），Ｗ２  ｋ  （φ）等が識別パラメータとなる。また、識別パラメータとして、比較テーブルＷ０  ｋ  （φ）を記憶してもよい。
【００６２】
以下ではｔ番目の弱識別器に対応する識別パラメータという意味でｃｔ  ，Ｗ１  ｔ  （φ）−Ｗ２  ｔ  （φ），Ｗ０  ｔ  （φ）と表記する。
【００６３】
（８）データ重み更新部２４
データ重み更新部２４では各学習サンプルの重みを更新する。ｉ番目の学習サンプル（ｘｉ  ，ｙｉ  ）の重みは次式により与えられる。
【数６】
2008217589.tif 000008
【００６４】
αｔ  は次式により与えられる。
【数７】
2008217589.tif 000009
【数８】
2008217589.tif 000010
【００６５】
で与えられる。また、Ｚｔ  は重みの総和を１とするための正規化係数であり、次式により与えられる。
【数９】
2008217589.tif 000011
【００６６】
Ｄｔ  （ｉ）の初期値Ｄ１(ｉ）は式（１）で求められている。
【００６７】
重み更新部２４が、弱識別器ｈｔ  （ｘ）によって正しく識別されなかったサンプルデータの重みを大きく、正しく認識されたデータに対しては重みを小さくすることにより、次の弱識別器ｈｔ＋１(ｘ）が前回識別できなかったサンプルデータに対する識別性能が高いものとなり、これら複数の弱識別器を統合することで全体として高性能の識別器を得る。最終的な識別器はＴ個の弱識別器ｈｔ  （ｘ）（ｔ＝１，２，・・・，Ｔ）を式（１１）で与えられる信頼度αｔ  で重み付けて多数決をとった
【数１０】
2008217589.tif 000012
【００６８】
となる。
【００６９】
（パターン認識装置５０）
次に本実施形態のパターン認識装置５０について図面を参照して説明する。
【００７０】
（１）パターン認識装置５０の構成
図２は、本実施形態におけるパターン認識装置５０のブロック図を示すもので、局所特徴計算部５２、入力部５４、特徴量子化部５６、識別部５８、統合部６０、最終識別部６２、出力部６４から構成されている。
【００７１】
図２の点線矩形内の、複数の特徴量子化部５６と識別部５８をまとめて弱識別器６６と呼び、上から順に第１弱識別器６６−１、第２弱識別器６６−２、・・・、第Ｔ弱識別器６６−Ｔとする。ここで符号６６を付けて弱識別器を説明する場合は装置の意味であり、ｈ（ｘ）を付けて弱識別器を説明する場合は識別関数としての意味である。これらの弱識別器ｈ（ｘ）は前述の学習装置１０により学習されたものであり、処理の際に必要な閾値等の識別パラメータは既に求められているものとする。
【００７２】
（２）局所特徴計算部５２
局所特徴計算部５２は、入力された画像上を原点位置から所定のステップ幅で走査し、各点に対して局所特徴を求める。この局所特徴は、前述の学習装置１０の局所特徴計算部１６で用いたＬ個の局所特徴ｌ１  ，ｌ２  ・・・ｌＬ  と同一のものである。学習装置１０と同様にＬ次元のベクトルｌは、
ベクトルｌ＝（ｌ１  ，ｌ２  ・・・ｌＬ  ）      （１５）
と表記する。
【００７３】
この局所特徴ベクトルｌは入力画像上で識別を行う点毎に計算するものであり、識別を行う点がＮ個存在する場合には、Ｎ本の局所特徴ベクトルｌｉ  （ｉ＝１，２，・・・，Ｎ）が局所特徴計算部５２から出力される。
【００７４】
なお、これらの特徴に基づいて識別計算を行うが、Ｌ個の局所特徴の中に、どの弱識別器においても使われない特徴が存在する場合には、その特徴は識別にとって無効であり、以下の処理では不要であるので計算せず、適当なデフォルト値を代入しておく。これにより計算コストを削減することができる。
【００７５】
（３）入力部５４
入力部５４は、図２に示すように各弱識別器６６に対して備えられており、局所特徴計算部５２で計算したＮ本のＬ次元局所特徴ベクトルｌと、統合部６０で算出されるＧ次元の配置特徴ベクトルｇを各弱識別器６６にそれぞれ入力する。
【００７６】
配置特徴ベクトルｇは基本的には前述の学習装置１０で使用したものと同一であるが、パターン認識装置５０では後に説明する統合部６０で算出される。
【００７７】
学習装置１０では各学習サンプルのクラスラベルが既知であるから、その既知ラベルから配置特徴を計算することもできたが、パターン認識装置５０においてはクラスラベルが未知であるから、逐次推定されるラベルを用いて配置特徴を計算する。これら２種類のベクトルはいずれもＮ本生成されており、各々から１本ずつ入力していく。学習装置１０と同様に、局所特徴ベクトルと空間配置ベクトルから生成されるｄ次元のベクトルｘを特徴ベクトルとし、ベクトルｘが弱識別器６６に入力されるものとする。
【００７８】
ベクトルｘ＝（ベクトルｌ，ベクトルｇ）
＝（ｌ１  ，ｌ２  ・・・ｌＬ  ，ｇ１  ，ｇ２  ・・・ｇＧ  ）
＝（ｘ１  ，ｘ２  ・・・ｘｄ  ）    （１６）
但し、ｄ＝Ｌ＋Ｇである。
【００７９】
なお、第１弱識別器６６−１への入力は局所特徴ベクトルｌのみであるが、この場合には空間配置ベクトルの各要素を適当なデフォルト値、例えば−１で初期化しておく。すなわち、
ベクトルｘ＝（ベクトルｌ，ベクトルｇ）
＝（ｘ１  ，ｘ２  ・・・ｘｄ  ，−１，−１，・・・，−１）
（１７）
とする。
【００８０】
以下では全ての弱識別器６６にｄ次元の特徴ベクトルｘ＝（ｘ１  ，ｘ２  ・・・ｘｄ  ）が入力されると考える。
【００８１】
（４）弱識別器６６
以下に各弱識別器６６について説明する。
【００８２】
Ｔ個の弱識別器６６は識別に用いる特徴の組合せ、量子化の際に用いる閾値等は各々異なるが、その基本的な動作は共通である。
【００８３】
（４−１）特徴量子化部５６
各弱識別器６６が具備する複数の特徴量子化部５６は、各弱識別器６６内では互いに異なる特徴に対応しており、対応する特徴を複数の段階に量子化する。各特徴量子化部５６が量子化する特徴や量子化の際に用いる閾値、何段階に量子化するかは、前述の学習装置１０によって求められている。
【００８４】
例えば、ある特徴量子化部５６が閾値ｔｈｒで特徴量を２段階に量子化する場合の出力値θは次式で計算される。
【数１１】
2008217589.tif 000013
【００８５】
特徴量子化部５６の個数をＦとするとそれらからＦ個の出力θｆ  （ｆ＝１，２，・・・，Ｆ）が求められる。
【００８６】
（４−２）識別部５８
識別部５８は、Ｆ個の量子化特徴θｆ  （ｆ＝１，２，・・・，Ｆ）を入力し、識別結果を出力する。
【００８７】
本実施形態では２クラスの識別問題を考えており、出力値は−１か＋１の２値である。
【００８８】
まず、識別は、Ｆ個の量子化特徴θｆ  （ｆ＝１，２，・・・，Ｆ）の組合せから前述の学習装置１０で説明した組合せ特徴量φを計算する。
【００８９】
次に、組合せ特徴量φが各識別クラスから観測される確率を、前述の学習装置１０の記憶部２２で記憶した各識別クラスの確率分布Ｗ１  ｔ  （φ），Ｗ２  ｔ  （φ）を参照し、その大小関係によって識別クラスを決定する。
【００９０】
なお、２つの確率分布の代わりに比較テーブルＷ０  ｔ  （φ）を参照してもよい。
【００９１】
（５）統合部６０
統合部６０では各弱識別器６６から出力される識別結果を順次統合し、各点の配置特徴ｇを計算する。
【００９２】
例えば、第ｔ弱識別器６６−ｔ、（但し、１＝＜ｔ＝＜Ｔである）の処理が終了した時点を考える。
【００９３】
まず、学習が終了したｔ個の弱識別器ｈｉ  （ベクトルｘ）（ｉ＝１，２，・・・，ｔ）から次式により統合値ｓ（ベクトルｘ）を求める。
【数１２】
2008217589.tif 000014
【００９４】
αｉ  （ｉ＝１，２，・・・，ｔ）は弱識別器６６毎に定められたパラメータであり、各弱識別器６６の信頼度を表す。このパラメータは前述の学習装置１０により求められている。
【００９５】
次に、統合値ｓ（ｘ）からデータｘのクラスラベルβ（ベクトルｘ）を推定する。例えば、ｓ（ベクトルｘ）の正負でβ（ベクトルｘ）を推定する。Ｎ本の特徴ベクトルｙ（ベクトルｘｉ  ）（ｉ＝１，２，・・・，Ｎ）について推定すると、Ｎ個のクラスラベルβ（ｘｉ  ）（ｉ＝１，２，・・・，Ｎ）を得る。このＮ個のクラスラベルβ（ベクトルｘｉ  ）（ｉ＝１，２，・・・，Ｎ）から前述の学習装置１０で用いた配置特徴を計算する。
【００９６】
なお、局所特徴の計算と同様に、いずれの弱識別器６６においても使用されない配置特徴が存在する場合には、その配置特徴は識別にとって無効な特徴であるから計算する必要はない。
【００９７】
第Ｔ弱識別器６６−Ｔからの識別結果が入力されると、各特徴ベクトルに対する統合値を最終識別部６２に出力する。
【００９８】
（６）最終識別部６２
最終識別部６２は、各点の最終統合値ｓＴ  （ベクトルｘ）から各点の識別クラスを最終判断する。２クラスの識別の場合は通常、ｓＴ  （ベクトルｘ）の正負でクラスラベルを決定する。
【００９９】
（７）出力部６４
出力部６４は最終的に識別された各点のクラスラベル値を出力する。
【０１００】
（８）効果
以上のようにして、複数の局所特徴と配置特徴の組合せに基づいて識別処理を行うことにより、従来より精度の高いパターン認識が可能となる。換言すれば、本実施形態によって従来よりも低い計算コストで同等の識別性能を得ることができる。
【０１０１】
（変更例）
本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。その他、本発明の要旨を逸脱しない範囲で変形を実施できる。
【０１０２】
（１）変更例１
本実施形態では２クラスの識別問題を想定したが、例えば、複数の強識別器を組み合わせることにより、一般の他のクラスの識別問題に適用することも可能である。
【０１０３】
（２）変更例２
上記実施形態では学習アルゴリズムとしてＡｄａＢｏｏｓｔを採用したが、他のＢｏｏｓｔｉｎｇ手法を用いることもできる。
【０１０４】
例えば、非特許文献２（R.E.Schapire and Y.Singer,「Improved Boosting Algorithms Using Confidence-rated Predictions 」, Machine Learning,37,pp.297-336,1999）に記載されているＲｅａｌ  ＡｄａＢｏｏｓｔと呼ばれる方法を用いてもよい。
【図面の簡単な説明】
【０１０５】
【図１】本発明の一実施形態の学習装置のブロック図である。
【図２】同じくパターン認識装置のブロック図である。
【図３】空間配置特徴を説明するための図である。
【図４】局所特徴を説明するための図である。
【図５】閾値の決定方法を説明するための図である。
【図６】確率分布と比較テーブルの関係を説明するための図である。
【符号の説明】
【０１０６】
１０    学習装置
１２    データ蓄積部
１４    重み初期化部
１６    局所特徴計算部
１８    配置特徴計算部
２０    弱識別器選択部
２２    記憶部
２４    重み更新部
２６    量子化部
２８    組合せ生成部
３０    確率分布計算部
３２    組合せ選択部
５０    パターン認識装置
５２    局所特徴計算部
５４    入力部
５６    特徴量子化部
５８    識別部
６０    統合部
６２    最終識別部
６４    出力部
６６    弱識別器
【図１】
2008217589.tif 000015
【図２】
2008217589.tif 000016
【図３】
2008217589.tif 000017
【図４】
2008217589.tif 000018
【図５】
2008217589.tif 000019
【図６】
2008217589.tif 000020