(57)【特許請求の範囲】
【請求項１】
入力画像における複数の部分領域と、前記部分領域の各々と対応した位置にある登録画像の各部分領域との複数のパターン間距離値を算出するパターン間距離算出手段と、
前記複数のパターン間距離値に基づき前記入力画像を識別する識別手段と、を含む画像認識システムであって、
一枚の画像を姿勢変化および照明変化させた複数の変動画像に変換して前記登録画像とする変換画像生成手段を含み、
前記パターン間距離算出手段は、画像全体に配置された部分領域について前記パターン間距離値を算出し、
前記識別手段は、これら算出された前記パターン間距離値の中から距離値の小さい順に所定の数だけを用いて算出された一つの統合距離値に基づいて前記入力画像を識別することを特徴とする画像認識システム。
【請求項２】
認識対象画像が人間の顔の画像であることを特徴とする請求項1に記載の画像認識システム。
【請求項３】
入力画像における複数の部分領域と、前記部分領域の各々と対応した位置にある登録画像の各部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
前記複数のパターン間距離値に基づき前記入力画像を識別する識別ステップと、を含む画像認識方法であって、
一枚の画像を姿勢変化および照明変化させた複数の変動画像に変換して前記登録画像とする変換画像生成ステップを含み、
前記パターン間距離算出ステップは、画像全体に配置された部分領域について前記パターン間距離値を算出し、
前記識別ステップは、これら算出された前記パターン間距離値の中から距離値の小さい順に所定の数だけを用いて算出された一つの統合距離値に基づいて前記入力画像を識別することを特徴とする画像認識方法。
【請求項４】
認識対象画像が人間の顔の画像であることを特徴とする請求項3に記載の画像認識方法。
【請求項５】
入力画像における複数の部分領域と、前記部分領域の各々と対応した位置にある登録画像の各部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
前記複数のパターン間距離値に基づき前記入力画像を識別する識別ステップと、を含む画像認識方法をコンピュータに実行させるためのプログラムであって、
一枚の画像を姿勢変化および照明変化させた複数の変動画像に変換して前記登録画像とする変換画像生成処理を含み、
前記パターン間距離算出ステップは、画像全体に配置された部分領域について前記パターン間距離値を算出し、
前記識別ステップは、これら算出された前記パターン間距離値の中から距離値の小さい順に所定の数だけを用いて算出された一つの統合距離値に基づいて前記入力画像を識別することを特徴とするプログラム。
【請求項６】
認識対象画像が人間の顔の画像であることを特徴とする請求項５に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像を用いた画像認識システム及びその認識方法並びにプログラムに関し、特に画像に撮影された対象物体が、辞書に登録された物体かどうかを識別する、あるいは辞書に登録された複数のカテゴリ中の一つに分類する画像認識システム及びその認識方法並びにプログラムに関する。
【背景技術】
【０００２】
従来の画像による認識システムの一例として、顔画像照合装置（たとえば、特許文献１参照）がある。これは人間の顔画像を照合するものであり、画像全体をフーリエ解析したフーリエスペクトルパタンの固有ベクトルを用いて照合を行う。
【０００３】
また、パターン認識装置およびその方法（たとえば、特許文献２参照）には複数の入力画像から求められる部分空間と、登録された画像によって張られる部分空間との角度（相互部分空間類似度）によって照合を行う手法が述べられている。図２９に従来の画像認識システムの一例の構成図を示す。従来の画像認識システムの一例は画像入力部２１０と、部分空間間の角度計算部２１１と、認識部２１２と、辞書記憶部２１３とから構成されている。
【０００４】
このような構成を有する従来の画像認識システムはつぎのように動作する。すなわち、画像入力部２１０によって、複数方向で撮影された複数の画像を入力する。次に部分空間間の角度計算部２１１において、部分空間間の角度を計算する。
【０００５】
まず入力画像群をＮ次元部分空間で表現する。具体的には画像全体を１次元特徴データとみなして主成分分析し、Ｎ個の固有ベクトルを抽出する。辞書記憶部２１３には、予めＭ次元の部分空間で表現された辞書データが、カテゴリごとに用意されている。部分空間間の角度計算部２１１において、さらに入力画像のＮ次元部分空間と辞書のＭ次元部分空間との角度を、カテゴリごとに計算する。認識部２１２は、部分空間間の角度計算部２１１において算出された角度を比較し、角度が最も小さいカテゴリを認識結果として出力する。
【０００６】
辞書部分空間の基底ベクトルをΦｍ（ｍ＝１，・．Ｍ）とし、入力部分空間の基底ベクトルをΨｎ（ｎ＝１，・Ｎ）とすると、式（１）または式（２）のｘｉｊを要素に持つ行列Ｘを計算する。
【０００７】
【数１】
0005574033.tif 000002
【０００８】
【数２】
0005574033.tif 000003
部分空間間の角度Θの、余弦の二乗は、行列Ｘの最大固有値として求められる。角度が小さいということは、余弦の２乗が大きいことを意味する。すなわち余弦の２乗はパターンの類似度と言い換えることができる。従来の画像認識システムでは行列Ｘの最大固有値を類似度とし、類似度が最大のカテゴリに分類する。
【０００９】
これら従来の画像認識システムに共通するのは、照合時の類似度計算あるいは距離計算を、画像全体から抽出した特徴を用いて一度だけ行うという点である。
【００１０】
また、２次元画像と３次元データとの照合に関する発明が特許文献３に開示されている。これは予め登録された個人の３次元データを用いて照明変動および姿勢変動処理を行うものである。また、この種の他の画像認識システムの例が特許文献４〜９に開示されている。
【先行技術文献】
【特許文献】
【００１１】
【特許文献１】特開平０５−０２０４４２号公報
【特許文献２】特開平１０−１９９１２８号公報
【特許文献３】特開２００１−２８３２１６号公報
【特許文献４】特開平０３−０４３８７７号公報
【特許文献５】特開平０７−２８７７５３号公報
【特許文献６】特開２０００−２５９８３８号公報
【特許文献７】特開２００１−０５２１８２号公報
【特許文献８】特開２００１−２３６５０８号公報
【特許文献９】特開平１０−２３２９３８号公報
【発明の概要】
【発明が解決しようとする課題】
【００１２】
しかし、対象画像が照明変動によって一部が黒つぶれしている場合や、オクルージョンが発生した場合（対象物体の一部が物陰に隠れている場合）には、画像全体から取得した特徴量が異常になり、正確に照合できないという問題があった。
【００１３】
一方、特許文献３に開示の発明は照明変動および姿勢変動処理の公知例であるが、本発明では１枚の画像から標準３次元データを用いて複数の変動画像群を生成しているので、特許文献３に開示の発明は認識システムとしては本発明と全く異なる発明である。また、特許文献４〜９のいずれにも上記本発明の構成は開示されていない。
【００１４】
そこで本発明の目的は、照明変動やオクルージョンの状態に関係なく、入力画像を正しく分類する画像認識システムを提供することにある。
【課題を解決するための手段】
【００１５】
前記課題を解決するため本発明による画像認識システムは、
入力画像における複数の部分領域と、前記部分領域の各々と対応した位置にある登録画像の各部分領域との複数のパターン間距離値を算出するパターン間距離算出手段と、
前記複数のパターン間距離値に基づき前記入力画像を識別する識別手段と、を含む画像認識システムであって、
一枚の画像を姿勢変化および照明変化させた複数の変動画像に変換して前記登録画像とする変換画像生成手段を含み、
前記パターン間距離算出手段は、画像全体に配置された部分領域について前記パターン間距離値を算出し、
前記識別手段は、これら算出された前記パターン間距離値の中から距離値の小さい順に所定の数だけを用いて算出された一つの統合距離値に基づいて前記入力画像を識別することを特徴とする。
【００１６】
本発明による画像認識方法は、
入力画像における複数の部分領域と、前記部分領域の各々と対応した位置にある登録画像の各部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
前記複数のパターン間距離値に基づき前記入力画像を識別する識別ステップと、を含む画像認識方法であって、
一枚の画像を姿勢変化および照明変化させた複数の変動画像に変換して前記登録画像とする変換画像生成ステップを含み、
前記パターン間距離算出ステップは、画像全体に配置された部分領域について前記パターン間距離値を算出し、
前記識別ステップは、これら算出された前記パターン間距離値の中から距離値の小さい順に所定の数だけを用いて算出された一つの統合距離値に基づいて前記入力画像を識別することを特徴とする。
【００１７】
本発明によるプログラムは、
入力画像における複数の部分領域と、前記部分領域の各々と対応した位置にある登録画像の各部分領域との複数のパターン間距離値を算出するパターン間距離算出ステップと、
前記複数のパターン間距離値に基づき前記入力画像を識別する識別ステップと、を含む画像認識方法をコンピュータに実行させるためのプログラムであって、
一枚の画像を姿勢変化および照明変化させた複数の変動画像に変換して前記登録画像とする変換画像生成処理を含み、
前記パターン間距離算出ステップは、画像全体に配置された部分領域について前記パターン間距離値を算出し、
前記識別ステップは、これら算出された前記パターン間距離値の中から距離値の小さい順に所定の数だけを用いて算出された一つの統合距離値に基づいて前記入力画像を識別することを特徴とする。
【発明の効果】
【００１８】
本発明によれば、照明変動やオクルージョンの状態に関係なく、入力画像を正しく分類することが可能となる。
【図面の簡単な説明】
【００１９】
【図１】本発明に係る画像認識システムの第１の実施の形態の構成図である。
【図２】本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。
【図３】パターン間距離算出手段４０の構成図である。
【図４】パターン間距離算出手段５０の構成図である。
【図５】本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。
【図６】領域距離値統合手段７０の構成図である。
【図７】領域距離値統合手段８０の構成図である。
【図８】本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。
【図９】識別手段９０の構成図である。
【図１０】辞書格納手段１００の構成図である。
【図１１】照合部２１の構成図である。
【図１２】照合部３１の構成図である。
【図１３】パターン間距離算出手段６０の構成図である。
【図１４】本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。
【図１５】本発明に係る画像認識システムの全体の動作を示すフローチャートである。
【図１６】辞書データ学習の動作を示すフローチャートである。
【図１７】本発明の第２の実施の形態の構成図である。
【図１８】入力画像部分領域抽出手段１１０の構成図である。
【図１９】特徴抽出手段１３０の構成図である。
【図２０】入力画像部分領域抽出手段１２０の構成図である。
【図２１】姿勢補正方法を示す概念図である。
【図２２】楕円体モデルの一例を示す図である。
【図２３】標準３次元顔モデルの一例を示す図である。
【図２４】登録画像部分領域抽出手段１６０の構成図である。
【図２５】登録画像部分領域抽出手段１７０の構成図である。
【図２６】登録画像部分領域抽出手段１８０の構成図である。
【図２７】辞書データ生成手段１９０の構成図である。
【図２８】変動画像生成方法を示す概念図である。
【図２９】従来の画像認識システムの一例の構成図である。
【発明を実施するための形態】
【００２０】
以下、本発明の実施の形態について添付図面を参照しながら説明する。図１は本発明に係る画像認識システムの第１の実施の形態の構成図である。同図を参照すると、画像認識システムは、入力画像から対象を認識する照合部１と、照合に用いる辞書を格納する辞書格納手段５と、画像から部分領域を抽出するための位置情報を格納した部分領域情報記憶手段６と、登録画像から辞書を生成する登録部７とを含んで構成されている。入力画像の一例として人間の顔画像が挙げられる。この場合、顔パターンの画像中の位置、大きさは予め一定であることが望ましい。
【００２１】
なお、ここで述べる入力画像とは、実世界を撮影した自然画像だけでなく、空間フィルタを作用させたものやコンピュータグラフィクスで生成されたものを含む２次元のパターン全般を含んでいる。
【００２２】
次に照合部１の動作について説明する。照合部１は、入力画像部分領域抽出手段２と、パターン間距離算出手段３と、領域距離値統合手段１０と、識別手段４とから構成されている。入力された画像に対し、入力画像部分領域抽出手段２において、Ｐ個（Ｐは２以上の整数）の部分領域を設定し、それぞれの部分領域に属する画素値を元に特徴ベクトルを算出する。これを領域別入力特徴ベクトルと呼ぶ。領域別入力特徴ベクトルの一例として、画素値を要素とする特徴ベクトルがあげられる。その他の領域別入力特徴ベクトルを生成する例については後述する。
【００２３】
部分領域の設定に際しては部分領域情報記憶手段６から各部分領域の位置と大きさと形状に関する情報を取得する。
【００２４】
次に部分領域の抽出について説明する。図２は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。同図を参照すると、入力画像３００は、Ｐ個の矩形の部分領域に均等に分割されている（部分領域分割結果３０２参照）。部分領域分割結果３０２は、一例として横５個、縦４個の、均等に配置された大きさの等しい２０個の部分領域である。部分領域の形状は矩形ではなく、楕円形や、任意の閉曲線で定義することができる。またそれぞれの大きさは均一である必要はない。また、それぞれの部分領域が一部重なり合うように定義することが可能である。部分領域分割結果３０２のように、均一の大きさの矩形が、画像全体に均等に配置された部分領域が定義されているときは、画像処理が簡潔になり高速化されるという利点がある。
【００２５】
部分領域に含まれる画素数は少なくとも２画素以上が必要である。なぜならば、１画素の部分領域とは、所詮１画素に過ぎず、従来の方法と原理的に同等となり、性能向上が図れないからである。実験的な結果からは部分領域の画素数は１６画素程度以上が望ましい。
【００２６】
次にパターン間距離算出手段３の動作について説明する。パターン間距離算出手段３においては、部分領域に分割して得られた領域別入力特徴ベクトルを用いて、登録された各カテゴリの部分領域ごとの辞書データとの間のパターン間距離を算出する。辞書データは辞書格納手段５から読み取る。パターン間距離算出手段３は、Ｐ個の部分領域ごとにパターン間距離値ｄｐ（ｐ＝１，・，Ｐ）を算出する。
【００２７】
パターン間距離算出手段３の一例として、図３に示すパターン間距離算出手段４０がある。同図を参照すると、パターン間距離算出手段４０はノルム算出手段４１を含んで構成されている。ノルム距離算出手段４１は、部分領域ごとに、入力特徴ベクトルｘ（ｉ）と辞書特徴ベクトルｙ（ｉ）との差分のノルムを算出する。ノルムの例としてＬ２ノルムがある。Ｌ２ノルムによる距離はユークリッド距離であり、算出方法を式（３）に示す。ただしベクトルの次元数をｎとする。
【００２８】
【数３】
0005574033.tif 000004
ノルムのもう一つの例としてＬ１ノルムがある。Ｌ１ノルムによる距離の算出方法を式（４）に示す。Ｌ１ノルムによる距離は市街地距離と呼ばれる。
【００２９】
【数４】
0005574033.tif 000005
次に、図２を用いてパターン間距離算出手段４０における部分領域ごとの照合について説明する。同図を参照すると、入力画像３００は識別対象として入力された画像である。登録画像３０１はあらかじめ辞書として登録されている画像である。入力画像３００はＰ個の部分領域に分割され、入力画像領域分割結果３０２が得られる。登録画像３０１も同じＰ個の部分領域に分割され、登録画像領域分割結果３０３が得られる。
【００３０】
入力画像３００の、Ｐ個のそれぞれの部分領域に属する画像データが１次元特徴ベクトルとして抽出され、領域別入力特徴ベクトル３０９として記憶される。Ｐ個の中の一つである部分領域Ａに注目すると、部分領域Ａ入力画像３０４が１次元ベクトルとして部分領域Ａ入力特徴ベクトル３０７に変換される。
【００３１】
同様に登録画像３０１の、Ｐ個のそれぞれの部分領域に属する画像データが１次元特徴ベクトルとして抽出され、領域別辞書特徴ベクトル３１０として記憶される。Ｐ個の中の一つである部分領域A に注目すると、部分領域Ａ登録画像３０５が１次元ベクトルとして部分領域Ａ辞書特徴ベクトル３０８に変換される。
【００３２】
パターン間距離計算は、部分領域ごとに行われる。例えば部分領域Ａ入力特徴データ３０７は、部分領域Ａ辞書特徴ベクトル３０８と比較され、ノルム距離を算出する。このように、Ｐ個すべての部分領域についてノルム距離が独立に算出される。
【００３３】
パターン間距離算出手段３の他の一例として、図４のパターン間距離算出手段５０がある。同図を参照すると、パターン間距離算出手段５０は部分空間投影距離算出手段５１を含んで構成されている。部分空間投影距離算出手段５１は、部分領域ごとに、部分空間投影距離を算出する。
【００３４】
部分空間投影距離によるパターンマッチングは部分空間法と呼ばれており、例えば文献１（前田、村瀬、"カーネル非線形部分空間法によるパターン認識"、電子情報通信学会論文誌，Ｄ−ＩＩ，Ｖｏｌ．Ｊ８２−Ｄ−ＩＩ，Ｎｏ．４，ｐｐ．６００−６１２，１９９９）などに記載されている。部分空間投影距離は、辞書登録された特徴データ群が張る部分空間と、入力特徴ベクトルとの距離値を定義したものである。部分空間投影距離の算出方法の例について述べる。入力特徴ベクトルをＸとする。辞書登録された特徴ベクトル群の平均ベクトルをＶとする。辞書登録された特徴ベクトル群を主成分分析し、固有値の大きなＫ個の固有ベクトルを列とする行列をΨｉ（ｉ＝１、、、Ｋ）とする。本文では、この平均ベクトルＶとＫ個の固有ベクトルによる行列Ψｉを合わせたものを主成分データと呼ぶ。このとき部分空間投影距離ｄｓは式（５）によって算出される。
【００３５】
【数５】
0005574033.tif 000006
次に、パターン間距離算出手段５０における部分領域ごとの照合について説明する。図５は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。同図を参照すると、入力画像３４０は識別対象として入力された画像である。登録画像シーケンス３４１は、あらかじめ辞書として登録された、ある１つのカテゴリに属する画像シーケンスである。登録画像シーケンス３４１はＪ個（Ｊは２以上の整数）の登録画像からなる。入力画像３４０はＰ個の部分領域に分割され、入力画像領域分割結果３４２が得られる。登録画像シーケンス３４１も同様にＰ個の部分領域に分割され、登録画像領域分割結果３４３が得られる。
【００３６】
入力画像３４０の、Ｐ個のそれぞれの部分領域に属する画像データが１次元特徴ベクトルとして抽出され、領域別入力特徴ベクトル３４９として記憶される。Ｐ個の中の一つである部分領域Ａに注目すると、部分領域Ａ入力画像３４４が１次元ベクトルとして部分領域Ａ入力特徴ベクトル３４７に変換される。
【００３７】
登録画像シーケンス３４１のＪ個の画像から、それぞれの部分領域ごとに１次元特徴ベクトルが抽出される。抽出されたＪ個の特徴ベクトルから主成分データを算出し、領域別辞書主成分データ３５０として記憶される。Ｐ個の領域の一つである部分領域Ａに注目すると、部分領域Ａに属する特徴データ列である部分領域Ａ登録シーケンス３４５を用いて、部分領域Ａ辞書主成分データ３４８を算出する。
【００３８】
パターン間距離計算は、部分領域ごとに行われる。例えば部分領域Ａ入力特徴データ３４７は、部分領域Ａ辞書主成分ベクトル３４８と比較されて、部分空間投影距離が算出される。このように、Ｐ個すべての部分領域について部分空間投影距離が独立に算出される。
【００３９】
次に領域距離値統合手段１０において、カテゴリごとにＰ個の距離値を用いて、ある関数Ｆ（ｄ１，ｄ２，ｄ３・ｄｐ）を作用させ、一つの統合距離値を算出する。
【００４０】
距離値統合手段１０の一例として、図６の領域距離値統合手段７０がある。領域距離値統合手段は加重平均値算出手段７１を含んで構成されている。領域距離値統合手段７０は、Ｐ個の部分領域の距離値が与えられると、加重平均値算出手段７１は、Ｐ個の距離値の加重平均値Ｄｗを計算して統合距離値として出力する。加重平均値Ｄｗの計算式を式（６）に示す。
【００４１】
【数６】
0005574033.tif 000007
各領域に対応する重み値ｗは予め決められた値を用いることができるし、領域内の画像データに適当な関数を作用させて求めても良い。
【００４２】
次に、距離値統合手段１０の他の例として、図７に示す領域距離値統合手段８０がある。領域距離値統合手段は、距離値ソート手段８２と、距離値上位平均算出手段８１から構成されている。領域距離値統合手段８０は、Ｐ個の部分領域の距離値が与えられると、距離値ソート手段８２においてＰ個の距離値を小さい順にソートし、距離値上位平均算出手段８１において距離値の小さいＰ・個（Ｐ・はＰ未満の整数）の平均値Ｄｐを計算し、統合距離値として出力する。Ｐ・の値については、Ｐの値に応じて予め決めておく方法がある。またＰ・を各部分領域の距離値の関数として定義することにより、Ｐ・の値を動的に変化させる方法がある。また画像全体の明るさ、コントラストに応じてＰ・の値を可変にすることができる。
【００４３】
また、距離値統合手段１０の更に他の例として、Ｐ個の部分領域の距離値の中で予め与えられたしきい値よりも小さいＰ・個（Ｐ・はＰ未満の整数）の平均値を算出するものがある。
【００４４】
次に、距離値統合手段８０で、部分領域の距離値が小さいものだけを用いて統合距離を算出する方法の利点について図８を用いて説明する。図８は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。入力画像４００と、登録画像４０１を比較することを考える。登録画像４０１は照明の影響で左側に影があり、左側の画像パターンが大きく異なっている。部分領域ごとに距離値を計算した結果を濃淡値で図示すると、部分領域距離値マップ４０４が得られる。黒い領域は距離値が大きく（照合スコアは低い）、白い領域は距離値が小さい（照合スコアは高い）。登録画像左側の影が写った部分領域の照合スコアは低くなっている。直感的に、不明瞭な左側の部分領域を無視して右側の部分領域だけで照合するほうが、より正確な照合結果が得られることがわかる。よって距離値統合手段８０のように、照合スコアの高い（距離値の低い）部分領域のみを考慮した距離値統合手段が有効である。
【００４５】
次に、識別手段４は、距離値統合手段１０から得られた各カテゴリの統合距離値を比較し、最終的に入力画像が属するカテゴリを出力する。識別手段４の一例として図９に示す識別手段９０がある。同図を参照すると、識別手段９０は、最小値算出手段９１と、しきい値処理手段９２とを含んで構成される。まず最小値算出手段９１において、各カテゴリとの統合距離値の最小値を算出する。次にしきい値処理手段９２において最小値をしきい値と比較し、しきい値よりも小さいときは、最小値が得られたカテゴリを識別結果として出力する。しきい値よりも大きいときは、辞書には存在しないという結果を出力する。
【００４６】
次に登録部７の動作について説明する。登録部７は、登録画像部分領域抽出手段９と、辞書データ生成手段８とを含んで構成されている。登録部７へは登録画像と対応するカテゴリのＩＤ（Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ）とが入力される。この画像はカテゴリＩＤによって指定されたカテゴリに属するものとする。登録画像に対し、登録画像部分領域抽出手段９は、部分領域情報６を参照して、Ｐ個の部分領域を設定し、それぞれの部分領域に属する画素値を元に領域別辞書特徴ベクトルを生成する。領域別辞書特徴ベクトルの一例として、画素値を要素とする特徴ベクトルがあげられる。その他の領域別辞書特徴ベクトルを生成する例については後述する。
【００４７】
そして辞書データ生成手段８では領域別辞書特徴ベクトルを、適切な保存形式に変換し、辞書格納手段５に出力する。辞書として主成分データが必要な場合は、辞書特徴ベクトル群の主成分分析を行う。保存形式の一例が図１０に示されている。
【００４８】
辞書データ生成手段８の一例として、図２７の辞書データ生成手段１９０がある。辞書データ生成手段１９０は主成分データ生成手段１９１を含む。主成分データ生成手段１９１は、入力された複数の領域別辞書特徴ベクトル群の主成分分析を行い、領域別主成分データを生成する。
【００４９】
図１０に辞書格納手段５の一例である辞書格納手段１００の構成図を示す。図１０（Ａ）は辞書格納手段１００の全体構成図、図１０（Ｂ）はレコード記憶部１０１の構成図である。辞書格納手段１００はＣ個のレコード記憶部１０１を持ち、各レコードには、レコード番号１０２、領域別辞書データ１０３、カテゴリＩＤ１０４を記憶することができる。領域別辞書データは、Ｐ個の部分領域別の辞書データからなっている。辞書格納手段１００は、同じカテゴリＩＤを持つ複数の辞書レコードを格納することが可能である。領域別辞書データ１０３の具体的なデータは、パターン間距離算出手段３の距離計算方式に依存し、例えばパターン間距離算出手段４０を用いるときは１次元の特徴ベクトルとなり、パターン間距離算出手段５０やパターン間距離算出手段６０を用いるときは、平均ベクトルＶとＫ個の固有ベクトルからなる主成分データとなる。
【００５０】
図１１に、ビデオシーケンスなどの複数枚の入力画像から対象を認識する実施例である照合部２１の構成を示す。本実施例の入力としては、ビデオ映像などの動画像や、同じ物体を撮影した複数枚の静止画像が含まれている。なお、図１と同様の構成部分には同一番号を付し、その説明を省略する。照合部２１は、入力画像列を平均化し、１枚の入力画像を生成する入力画像列平滑化手段２２と、入力画像部分領域抽出手段２と、パターン間距離算出手段３と、識別手段４とを含んで構成されている。照合部２１は、はじめにＮ枚（Ｎは２以上の整数）の入力画像が入力されると、画素ごとにＮ枚の平均を取り、１枚の入力平均画像を生成する。この入力平均画像を入力画像として照合部１と同等の動作を行う。
【００５１】
図１２に、ビデオシーケンスなどの複数枚の入力画像から対象を認識するもう一つの実施例である照合部３１の構成を示す。本実施例の入力としては、ビデオ映像などの動画像や、同じ物体を撮影した複数枚の静止画像が含まれている。なお、図１と同様の構成部分には同一番号を付し、その説明を省略する。照合部３１は、入力画像部分領域抽出手段２と、入力主成分生成部３２と、パターン間距離算出手段３３と、識別手段４とを含んで構成されている。照合部３１は、Ｎ枚の入力画像が入力されると、各画像に対し、入力画像部分領域抽出手段２において、Ｐ個の部分領域を設定し、それぞれの部分領域に属する画像データを抽出する。部分領域の設定に際しては部分領域情報記憶手段６から各部分領域の位置と大きさと形状に関する情報を取得する。次に入力主成分生成部３２において、部分領域ごとの入力主成分データである領域別入力主成分データを算出する。パターン間距離算出手段３３では、得られたＰ個の入力主成分データと、辞書データとを用いて、各カテゴリとの距離値を計算する。各カテゴリとの距離値を元に識別手段において、入力画像列が、どのカテゴリに属するかを判断し、認識結果を出力する。
【００５２】
パターン間距離算出手段３３の例として、図１３に示すパターン間距離算出手段６０がある。パターン間距離算出手段６０は、部分空間間距離算出手段６１とから構成されている。部分空間間距離算出手段６１は、領域別入力主成分データと領域別辞書主成分データを入力として、部分領域ごとに距離値を算出する。
【００５３】
部分空間間距離算出手段６１の実現方法として、部分空間同士の距離を求める方法がある。一例を以下に述べる。辞書主成分データは、辞書平均ベクトルＶ１とＫ個の辞書固有ベクトルΨｉとからなる。入力主成分データは、入力平均ベクトルＶ２とＬ個の入力固有ベクトルΦｉとからなる。まず入力平均ベクトルＶ２と辞書固有ベクトルで張られる部分空間との距離値ｄＭ１を式（７）によって算出する。
【００５４】
【数７】
0005574033.tif 000008
次に辞書平均ベクトルＶ１と、入力固有ベクトルで張られる部分空間との距離値ｄＭ２を式（８）によって算出する。
【００５５】
【数８】
0005574033.tif 000009
入力と辞書の部分空間同士の距離は、ｄＭ１とｄＭ２の関数Ｇ（ｄＭ１，ｄＭ２）によって算出される。
【００５６】
関数Ｇの一例として式（９）などがある。
【００５７】
【数９】
0005574033.tif 000010
ただしαは定数である。
【００５８】
次に、図１４を用いてパターン間距離算出手段６０における部分領域ごとの照合について説明する。図１４は本発明に係る画像認識システムのパターン間距離算出方式を示す概念図である。同図を参照すると、入力画像３２０は識別対象として入力された画像シーケンスである。登録画像シーケンス３２１は、あらかじめ辞書として登録された、ある１つのカテゴリに属する画像シーケンスである。入力画像シーケンスはＮ枚、登録画像シーケンス３２１はＪ枚の登録画像からなる。入力画像シーケンス３２０の各画像はＰ個の部分領域に分割され、入力画像領域分割結果３２２が得られる。登録画像シーケンス３４１も同様にＰ個の部分領域に分割され、登録画像領域分割結果３２３が得られる。
【００５９】
入力画像シーケンス３２０の、Ｎ枚の画像から、Ｐ個それぞれの部分領域ごとに１次元特徴ベクトルが抽出される。抽出されたＮ個の特徴ベクトルから主成分データを算出し、領域別入力主成分データ３２９として記憶される。Ｐ個の領域の一つである部分領域Ａに注目すると、部分領域Ａに属する特徴データ列である部分領域Ａ入力シーケンス３２４を用いて、部分領域Ａ入力主成分データ３２６が算出される。
【００６０】
一方、登録画像シーケンス３２１のＪ枚の画像から、Ｐ個それぞれの部分領域ごとに１次元特徴ベクトルが抽出される。抽出されたＪ個の特徴ベクトルから主成分データを算出し、領域別辞書主成分データ３３０として記憶される。Ｐ個の領域の一つである部分領域Ａに注目すると、部分領域Ａに属する特徴データ列である部分領域Ａ登録シーケンス３２５を用いて、部分領域Ａ辞書主成分データ３２７が算出される。
【００６１】
パターン間距離計算は、部分領域ごとに行われる。例えば部分領域Ａ入力主成分データ３２６は、部分領域Ａ辞書主成分データ３２７と比較され、部分空間間距離が例えば式（９）によって算出される。Ｐ個すべての部分領域について部分空間間距離が独立に算出される。
【００６２】
次に、入力画像部分領域抽出手段２について詳細に説明する。入力画像部分領域抽出手段２の一例として、図１８の入力画像部分領域抽出手段１１０がある。入力画像部分領域抽出手段１１０は、部分画像取得手段１１１と、特徴抽出手段１１２とを含んでいる。部分画像取得手段１１１は、部分領域情報記憶手段６に格納された部分領域情報を参照し、部分画像の画素値を取得する。特徴抽出手段１１２は、得られた部分画像データを１次元特徴ベクトルに変換する。特徴抽出手段１１２の例として、部分画像の画素値を要素とするベクトルを生成するものがある。また特徴抽出手段１１２の例として、部分画像の画素値に対し、画素値の濃度正規化、ヒストグラム平坦化、フィルタリング等の補正処理を加えたものを特徴ベクトルとするものがある。また、フーリエ変換、ＤＣＴ、ウェーブレット変換を利用した周波数特徴を抽出するものがある。周波数特徴は一般に位置ずれに頑強である。なお周波数特徴への変換は画素値ベクトルに対するフィルタリングの一種である。
【００６３】
周波数特徴を出力する特徴抽出手段１１２の一例として、図１９に示す特徴抽出手段１３０がある。特徴抽出手段１３０は、フーリエスペクトル変換手段１３１を含む。フーリエスペクトル変換手段１３１は、部分領域の画素値のベクトルに対し離散フーリエ変換を施す。特徴抽出手段１３０は、画素値の離散フーリエ変換係数を要素とする特徴ベクトルを出力する。
【００６４】
入力画像部分領域抽出手段２の他の一例として、図２０の入力画像部分領域抽出手段１２０がある。入力画像部分領域抽出手段１２０は、姿勢補正手段１２１と、部分画像取得手段１１１と、特徴抽出手段１１２とを含む。入力画像部分領域抽出手段１２０は、姿勢補正手段１２１によって、特徴を抽出する前に入力画像中の物体の姿勢を適切に補正する。画像中の物体の姿勢を補正するというのは、具体的には、入力画像中の物体が、予め定められた固定方向からカメラで観察した状態になるように、入力画像データ自身を変換することである。姿勢補正手段１２１によって、一定の姿勢に変換された画像データに対し、部分画像取得手段１１１と特徴抽出手段１１２を用いて、領域別入力特徴ベクトルを生成する。入力画像の姿勢を補正することにより、画像中の物体の姿勢変化による照合精度の劣化を改善することができる。また登録側の画像を、入力と同じパラメータの姿勢に補正することで、照合精度を向上させることができる。
【００６５】
図２１を参照して、姿勢補正方法について説明する。一般に姿勢補正のパラメータは、ＸＹＺ軸に沿った移動とＸＹＺ軸回りの回転の合計６個である。図２１では顔画像を例として、様々な方向を向いた顔画像を入力画像として示している。入力画像Ａ１４０は上向き、入力画像Ｂ１４１は右向き、入力画像Ｃ１４２は下向き、入力画像Ｄ１４３は左向きである。それに対して姿勢補正画像１４４は、前記入力画像を、正面向き画像に変換したものである。
【００６６】
前記姿勢補正画像１４４への変換のような姿勢補正方法の一例として、画像データをアフィン変換する方法がある。アフィン変換によって物体の姿勢補正する方法は、たとえば特開２０００−９０１９０号公報に示されている。
【００６７】
また、その他の姿勢補正方法の一例として、図２２及び図２３に示す３次元モデルを使用する方法がある。図２２及び図２３には、人間の顔を想定した３次元モデルが示されており、図２２が楕円体モデル１５０、図２３が標準３次元顔モデル１５１である。標準３次元顔モデルは標準的な人間の顔の形状を表す３次元モデルであり、３次元ＣＡＤソフトや、レンジファインダーによる測定を利用して得ることができる。姿勢補正は、入力画像を３次元モデル上にテクスチャマッピングした後、３次元モデルを移動回転させることによって実現することができる。
【００６８】
次に、登録画像部分領域抽出手段９について詳細に説明する。登録部分領域抽出手段９の一例として、図２４の登録部分領域抽出手段１６０がある。登録部分領域抽出手段１６０は、部分画像取得手段１１１と、特徴抽出手段１１２とを含んでいる。部分画像取得手段１１１と特徴抽出手段１１２の動作についてはすでに述べた。登録部分領域抽出手段１６０は登録画像から領域別辞書特徴ベクトルを生成する。
【００６９】
登録画像部分領域抽出手段９の他の一例として、図２５の登録画像部分領域抽出手段１７０がある。登録画像部分領域抽出手段１７０は、姿勢補正手段１２１と、部分画像取得手段１１１と、特徴抽出手段１１２とを含む。登録画像部分領域抽出手段１７０は、姿勢補正手段１２１によって特徴を抽出する前に登録画像中の物体の姿勢を適切に補正する。
【００７０】
姿勢補正手段１２１によって一定の姿勢に変換された画像データに対し、部分画像取得手段１１１と特徴抽出手段１１２を用いて、領域別辞書特徴ベクトルを生成する。登録画像の姿勢を補正することにより、画像中の物体の姿勢変化による照合精度の劣化を改善することができる。
【００７１】
登録画像部分領域抽出手段９の他の一例として、図２６の登録画像部分領域抽出手段１８０がある。登録画像部分領域抽出手段１８０は、変動画像生成手段１８１と、部分画像取得手段１１１と、特徴抽出手段１１２とを含む。変動画像生成手段１８１は、入力された登録画像を、それ自身を含む複数の変動画像に変換する。変動画像は、入力された画像に対し、姿勢変動、照明変動など、様々な要因によって起こる対象物の見えの変化をシミュレートして変換した画像である。
【００７２】
図２８に、人間の顔を対象とした変動画像の例を示す。入力画像２５０に対し、それ自身を含む７種類の変動画像が生成されている。姿勢変動画像Ａ２５１は、顔を上向きに変換した画像である。姿勢変動画像Ｂ２５２は、顔を右向きに変換した画像である。姿勢変動画像Ｃ２５３は、顔を下向きに変換した画像である。姿勢変動画像Ｄ２５４は、顔を左向きに変換した画像である。これらの姿勢変動画像は、前記姿勢補正手段１２１に用いられた方法を利用して変換することができる。照明変動画像２５５は、入力画像２５０に対して照明による明暗の変化を付加した画像であり、例えば入力画像２５０の画素値を全体的に明るく、または暗くする方法で実現することができる。表情変動画像２５６は、顔の表情を変化させて笑顔に変換した画像である。変換方法は、例えば両方の口もとを上にあげて両目を細くするなどの変形を加えることで実現することができる。元画像２５７は入力画像そのままのデータである。
【００７３】
また変動画像生成手段１８１は、同じ変動でもパラメータを複数段階に変化させたものを複数出力することができる。例えば右向きの姿勢変動の場合には、右１５度回転と右３０度回転と右４５度回転の３種類の変換画像を同時に出力することができる。また、姿勢変動と照明変動など、異なる変動要因を組み合わせた変換を施した画像を出力することができる。
【００７４】
変動画像生成手段１８１によって生成された複数の変動画像群は、部分画像取得手段１１１と特徴抽出手段１１２によって、領域別辞書特徴ベクトル群に変換される。
【００７５】
登録画像部分領域抽出手段１８０によって生成された領域別辞書特徴ベクトル群は、辞書データ生成手段８によって複数の辞書レコードに変換されるか、あるいは図２７に示す辞書データ生成手段１９０によって、主成分データが生成される。主成分データが生成された場合は、図５の概念図に示された方法によって入力画像を照合する。
【００７６】
辞書登録側で変動画像を生成しておくことにより、入力画像中の物体の姿勢や照明環境が変化しても、登録側にあらかじめ想定された変動画像が登録されているため、正確に照合することができる。
【００７７】
次に、図１５を参照して本実施形態の全体の動作について詳細に説明する。図１５は本発明に係る画像認識システムの全体の動作を示すフローチャートである。まず、識別対象の入力画像データを入力する（ステップＡ１）。次に入力画像をＰ個の部分領域に分割し、部分領域ごとに特徴ベクトルの抽出を行う（ステップＡ２）。次に辞書データを参照し、部分領域ごとに登録画像との距離を算出する（ステップＡ３）。次に、Ｐ個の部分領域ごとの距離値を用いて、１つの統合距離値を算出する（ステップＡ４）。登録カテゴリの中で最小の距離値を算出する（ステップＡ５）。次に最小距離がしきい値より小さいかどうかを判定する（ステップＡ６）。最小距離がしきい値よりも小さいときは、最小距離を持つカテゴリを認識結果として出力する（ステップＡ７）。最小距離がしきい値よりも大きいときは、該当カテゴリなしを出力する（ステップＡ８）。
【００７８】
次に図１６を参照して本実施形態の辞書データ学習の動作について説明する。図１６は辞書データ学習の動作を示すフローチャートである。登録画像データと対応するカテゴリＩＤを入力する（ステップＢ１）。次に登録画像をＰ個の部分領域に分割する（ステップＢ２）。次に各部分領域に属する画像データを用いて、部分領域ごとに辞書データを生成する（ステップＢ３）。辞書データを辞書データ格納手段に保存する（ステップＢ４）。以上の動作を必要なだけ繰り返す。
【００７９】
次に、本発明の第２の実施の形態について図面を参照して詳細に説明する。図１７は本発明の第２の実施の形態の構成図である。本発明の第２の実施の形態は、プログラム制御により動作するコンピュータ２００と、画像認識プログラムを記録した記録媒体２０１と、カメラ２０４と、操作卓２０２と、表示装置２０３とから構成されている。この記録媒体２０１は磁気ディスク、半導体メモリ、その他の記録媒体であってもよい。
【００８０】
コンピュータ２００は、照合部１と登録部７と辞書格納手段５と部分領域情報記憶手段６とを実現するプログラムをロードして実行する。プログラムは記憶媒体２０１に保存され、コンピュータ２００は記憶媒体２０１からプログラムを読み出して実行する。プログラムは図１５と図１６のフローチャートに示す動作を行う。本実施例では入力画像はカメラ２０４から入力され、認識結果は表示装置２０３に表示される。認識の指示、学習の指示は操作卓２０２からオペレータが行う。
【００８１】
本発明による画像認識システムによれば、前記入力画像の部分領域とこれと対応する前記登録画像の部分領域とのパターン間距離を算出し、各部分領域の前記パターン間距離に基づき前記入力画像を識別する照合手段を含むため、照明変動や、オクルージョンの状態に関係なく、入力画像を正しく分類することが可能となる。又、本発明による画像認識方法及びプログラムも上記画像認識システムと同様の効果を奏する。
【００８２】
具体的に説明すると、本発明の効果は、画像中の複数の部分領域を独立に照合し、それらの結果を統合することにより、照明変動や、オクルージョンの影響を低減し、入力画像を正しく識別できることである。その理由は、照明変動やオクルージョンによってスコアが異常となる部分領域を、距離値統合時に排除することができるからである。
【符号の説明】
【００８３】
１  照合部
２  入力画像部分領域抽出手段
３  パターン間距離算出手段
４  識別手段
５  辞書格納手段
６  部分領域情報記憶手段
７  登録部
８  登録画像部分領域抽出手段
９  辞書データ生成手段
１０  領域距離値統合手段
２１  照合部
２２  入力画像列平滑化部
３１  照合部
３２  入力主成分生成部
３３  パターン間距離算出手段
４０  パターン間距離算出手段
４１  ノルム算出手段
５０  パターン間距離算出手段
５１  部分空間投影距離算出手段
６０  パターン間距離算出手段
６１  部分空間間距離算出手段
７０  領域距離値統合手段
７１  加重平均値算出手段
８０  領域距離値統合手段
８１  距離値ソート手段
８２  距離値上位平均算出手段
９０  識別手段
９１  最小値算出手段
９２  しきい値処理手段
１００  辞書格納手段
１０１  レコード記憶部
１０２  レコード番号
１０３  領域別辞書データ
１０４  カテゴリＩＤ
１１０  入力画像部分領域抽出手段
１１１  部分画像取得手段
１１２  特徴抽出手段
１２０  入力画像部分領域抽出手段
１２１  姿勢補正手段
１３０  特徴抽出手段
１３１  フーリエスペクトル変換手段
１４０  入力画像Ａ
１４１  入力画像Ｂ
１４２  入力画像Ｃ
１４３  入力画像Ｄ
１４４  姿勢補正画像
１５０  楕円体モデル
１５１  標準３次元顔モデル
１６０  登録画像部分領域抽出手段
１７０  登録画像部分領域抽出手段
１８０  登録画像部分領域抽出手段
１８１  変動画像生成手段
１９０  辞書データ生成手段
１９１  主成分データ生成手段
２００  コンピュータ
２０１  記憶媒体
２０２  操作卓
２０３  表示装置
２０４  カメラ
２１０  画像入力部
２１１  部分空間間の角度計算部
２１２  認識部
２１３  辞書記憶部
２５０  入力画像
２５１  姿勢変動画像Ａ
２５２  姿勢変動画像Ｂ
２５３  姿勢変動画像Ｃ
２５４  姿勢変動画像Ｄ
２５５  照明変動画像
２５６  表情変動画像
２５７  元画像
３００  入力画像
３０１  登録画像
３０２  入力画像領域分割結果
３０３  登録画像領域分割結果
３０４  部分領域Ａ入力画像
３０５  部分領域Ａ登録画像
３０６  照合対
３０７  部分領域Ａ入力特徴ベクトル
３０８  部分領域Ａ辞書特徴ベクトル
３０９  領域別入力特徴ベクトル
３１０  領域別辞書特徴ベクトル
３２０  入力画像シーケンス
３２１  登録画像シーケンス
３２２  入力画像領域分割結果
３２３  登録画像領域分割結果
３２４  部分領域Ａ入力シーケンス
３２５  部分領域Ａ登録シーケンス
３２６  部分領域Ａ入力主成分データ
３２７  部分領域Ａ辞書主成分データ
３２８  照合対
３２９  領域別入力主成分データ
３３０  領域別辞書主成分データ
３４０  入力画像
３４１  登録画像シーケンス
３４２  入力画像領域分割結果
３４３  登録画像領域分割結果
３４４  部分領域Ａ入力画像
３４５  部分領域Ａ登録シーケンス
３４６  照合対
３４７  部分領域Ａ入力特徴ベクトル
３４８  部分領域Ａ辞書主成分データ
３４９  領域別入力特徴ベクトル
３５０  領域別辞書主成分データ
４００  入力画像
４０１  登録画像
４０２  低照合スコア部分領域群
４０３  高照合スコア部分領域群
４０４  部分領域距離値マップ
【図１】
0005574033.tif 000011
【図２】
0005574033.tif 000012
【図３】
0005574033.tif 000013
【図４】
0005574033.tif 000014
【図５】
0005574033.tif 000015
【図６】
0005574033.tif 000016
【図７】
0005574033.tif 000017
【図８】
0005574033.tif 000018
【図９】
0005574033.tif 000019
【図１０】
0005574033.tif 000020
【図１１】
0005574033.tif 000021
【図１２】
0005574033.tif 000022
【図１３】
0005574033.tif 000023
【図１４】
0005574033.tif 000024
【図１５】
0005574033.tif 000025
【図１６】
0005574033.tif 000026
【図１７】
0005574033.tif 000027
【図１８】
0005574033.tif 000028
【図１９】
0005574033.tif 000029
【図２０】
0005574033.tif 000030
【図２１】
0005574033.tif 000031
【図２２】
0005574033.tif 000032
【図２３】
0005574033.tif 000033
【図２４】
0005574033.tif 000034
【図２５】
0005574033.tif 000035
【図２６】
0005574033.tif 000036
【図２７】
0005574033.tif 000037
【図２８】
0005574033.tif 000038
【図２９】
0005574033.tif 000039