(57)【特許請求の範囲】
【請求項１】
結像光学系による像を撮像して画像情報を繰り返し出力する撮像手段と、
基準とする像に関する基準画像情報を記憶する記憶手段と、
前記画像情報の中の複数の部分画像情報と前記基準画像情報とが類似しているか否かを判断するためのしきい値を設定するしきい値設定手段と、
前記画像情報の中の複数の部分画像情報のそれぞれと前記基準画像情報との色情報の差を検出する検出手段と、
前記複数の部分画像情報に対して検出される複数の前記差の内の最小値が前記しきい値より小さい場合に、前記差の最小値が得られる前記部分画像情報を前記基準画像情報と類似していると認識する認識手段と、
前記認識手段により類似していると認識された場合に、前記部分画像情報を前記記憶手段に記憶するように制御する制御手段とを備え、
前記しきい値設定手段は、前記記憶手段に記憶された前記基準画像情報の色情報に基づいて前記しきい値を設定し、
前記基準画像の色が有彩色であるとき、前記基準画像の色が無彩色であるときよりも前記しきい値が高くなるように変更することを特徴とする画像認識装置。
【請求項２】
請求項１に記載の画像認識装置において、
前記基準画像情報の色情報は、前記基準画像情報における像のＲＧＢ値、色差および彩度の内のいずれか１または複数の値であり、
前記しきい値設定手段は、前記基準画像情報における像の前記値に応じて前記しきい値を設定することを特徴とする画像認識装置。
【請求項３】
請求項２に記載の画像認識装置において、
前記しきい値設定手段は、前記基準画像情報における像の前記値の最大値が所定値を超え、前記最大値と前記所定値の差が大きくなるほど前記しきい値を大きくすることを特徴とする画像認識装置。
【請求項４】
請求項１〜３のいずれか１項に記載の画像認識装置を備えることを特徴とする撮像装置。
【請求項５】
結像光学系による第１画像を撮像し、前記第１画像よりも後に第２画像を撮像する撮像部と、
前記第１画像のうち追尾対象に対応する部分の画像を基準画像として記憶する記憶部と、
前記第２画像の一部である部分画像と前記基準画像とが類似するか否かを判断するためのしきい値を設定する設定部と、
前記部分画像と前記基準画像との色の差を検出する検出部と、
前記部分画像と前記基準画像との色の差が前記しきい値より小さいとき、前記部分画像が前記基準画像に類似すると判断する判断部と、
前記判断部により前記部分画像が前記基準画像に類似すると判断されたとき、前記部分画像を基準画像として前記記憶部に記憶するように前記記憶部を制御する制御部と、
前記基準画像の色に基づいて前記しきい値を変更する変更部とを備え、
前記基準画像の色が有彩色であるとき、前記基準画像の色が無彩色であるときよりも前記しきい値が高くなるように変更することを特徴とする画像追尾装置。
【請求項６】
請求項５に記載された画像追尾装置であって、
前記設定部は、前記第２画像の一部である複数の部分画像のうち、前記基準画像との色の差が最も小さい部分画像と前記基準画像とが類似するか否かを判断するための前記しきい値を設定し、
前記検出部は、前記第２画像の一部である複数の部分画像のうち、前記基準画像との色の差が最小となる部分画像と前記基準画像との色の差を検出し、
前記判断部は、前記第２画像の一部である複数の部分画像のうち、前記基準画像との色の差が最も小さい部分画像と前記基準画像との色の差が前記しきい値より小さいとき、前記部分画像が前記基準画像に類似すると判断し、
前記制御部は、前記判断部により前記部分画像が前記基準画像に類似すると判断されたとき、前記第２画像の一部である複数の部分画像のうち前記基準画像との色の差が最も小さい部分画像を基準画像として前記記憶部に記憶するように前記記憶部を制御することを特徴とする画像追尾装置。
【請求項７】
請求項５または請求項６に記載の画像追尾装置を備えることを特徴とする撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像認識装置、画像追尾装置および撮像装置に関する。
【背景技術】
【０００２】
ピントを合わせる対象の画像を基準画像（テンプレート画像）として記憶しておき、繰り返し撮影される画像の中から基準画像に相当する画像をテンプレートマッチング処理により検出し、対象を追尾するオートフォーカスシステムが知られている（例えば、特許文献１参照）。
【０００３】
この出願の発明に関連する先行技術文献としては次のものがある。
【特許文献１】特開２００６−０５８４３１号公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、画像の色に基づいてテンプレートマッチングを行う場合は、撮影された画像とテンプレート画像との類似判定に際して誤判定することがある。
【０００５】
例えば、被写体が鮮やかな有彩色の場合には、被写体に当たる光具合が少し変化しただけでもテンプレート画像との色の差が大きくなり、実際には同じ被写体であるにも拘わらず色の差が類似していると判定するしきい値を超え、類似していないと誤判定することがある。逆に、被写体が無彩色に近い場合には、テンプレート画像との色の差が元々少ないため、実際には異なる被写体であるにも拘わらず色の差が類似判定しきい値以下になり、類似していると誤判定することがある。
【課題を解決するための手段】
【０００６】
請求項１の画像認識装置の発明は、結像光学系による像を撮像して画像情報を繰り返し出力する撮像手段と、基準とする像に関する基準画像情報を記憶する記憶手段と、前記画像情報の中の複数の部分画像情報と前記基準画像情報とが類似しているか否かを判断するためのしきい値を設定するしきい値設定手段と、前記画像情報の中の複数の部分画像情報のそれぞれと前記基準画像情報との色情報の差を検出する検出手段と、前記複数の部分画像情報に対して検出される複数の前記差の内の最小値が前記しきい値より小さい場合に、前記差の最小値が得られる前記部分画像情報を前記基準画像情報と類似していると認識する認識手段と、前記認識手段により類似していると認識された場合に、前記部分画像情報を前記記憶手段に記憶するように制御する制御手段とを備え、前記しきい値設定手段は、前記記憶手段に記憶された前記基準画像情報の色情報に基づいて前記しきい値を設定し、前記基準画像の色が有彩色であるとき、前記基準画像の色が無彩色であるときよりも前記しきい値が高くなるように変更することを特徴とする。
請求項５の画像追尾装置の発明は、結像光学系による第１画像を撮像し、前記第１画像よりも後に第２画像を撮像する撮像部と、前記第１画像のうち追尾対象に対応する部分の画像を基準画像として記憶する記憶部と、前記第２画像の一部である部分画像と前記基準画像とが類似するか否かを判断するためのしきい値を設定する設定部と、前記部分画像と前記基準画像との色の差を検出する検出部と、前記部分画像と前記基準画像との色の差が前記しきい値より小さいとき、前記部分画像が前記基準画像に類似すると判断する判断部と、前記判断部により前記部分画像が前記基準画像に類似すると判断されたとき、前記部分画像を基準画像として前記記憶部に記憶するように前記記憶部を制御する制御部と、前記基準画像の色に基づいて前記しきい値を変更する変更部とを備え、前記基準画像の色が有彩色であるとき、前記基準画像の色が無彩色であるときよりも前記しきい値が高くなるように変更することを特徴とする。
【発明の効果】
【０００７】
本発明によれば、テンプレートマッチングに際して撮影画像とテンプレート画像との類似判定を正確に行うことができ、被写体追尾性能を向上させることができる。
【発明を実施するための最良の形態】
【０００８】
撮影画面内に設定された複数の焦点検出エリアにおいて撮影レンズの焦点調節状態（この一実施の形態ではデフォーカス量）を検出し、いずれかのエリアのデフォーカス量に基づいて撮影レンズを合焦駆動する自動焦点調節（ＡＦ）機能と、撮影画像の中の追尾対象の被写体の画像をテンプレート画像（基準画像）として記憶し、繰り返し撮像される画像の中でテンプレート画像と同一または類似した画像の位置を検索しながら（テンプレートマッチング）追尾対象の被写体を追尾する画像追尾機能とを備え、ＡＦ機能と画像追尾機能により撮影レンズを駆動しながら対象を追尾する画像認識装置、焦点調節装置および撮像装置（一眼レフデジタルスチルカメラ）の一実施の形態を説明する。
【０００９】
図１は、一実施の形態の画像認識装置および焦点調節装置を備えた撮像装置（一眼レフデジタルスチルカメラ）１の構成を示す。なお、図１では本願発明と直接関係のないカメラの機器および回路についての図示と説明を省略する。一実施の形態のカメラ１は、カメラ本体２に交換レンズ３が交換可能に装着される。カメラ本体２には被写体像を撮像して画像を記録するための第１撮像素子４が設けられる。この第１撮像素子４はＣＣＤやＣＭＯＳなどにより構成することができる。撮影時にはクイックリターンミラー５およびサブミラー６が実線で示す撮影光路外の位置に退避してシャッター７が開放され、撮影レンズ８により第１撮像素子４の受光面に被写体像が結像される。
【００１０】
カメラ本体２の底部には、撮影レンズ８の焦点調節状態を検出するための焦点検出光学系９と測距素子１０が設けられている。この一実施の形態では、瞳分割型位相差検出方式による焦点検出方法を採用した例を示す。焦点検出光学系９は、撮影レンズ８を通過した対の焦点検出用光束を測距素子１０の受光面へ導き、対の光像を結像させる。測距素子１０は例えば対のＣＣＤラインセンサーを備え、対の光像に応じた焦点検出信号を出力する。撮影前にはクイックリターンミラー５およびサブミラー６が破線で示すような撮影光路内の位置に設定されており、撮影レンズ８からの対の焦点検出用光束はクイックリターンミラー５のハーフミラー部を透過し、サブミラー６により反射されて焦点検出光学系９および測距素子１０へ導かれる。
【００１１】
カメラ本体２の上部にはファインダー光学系が設けられている。撮影前にはクイックリターンミラー５およびサブミラー６が破線で示す位置にあり、撮影レンズ８からの被写体光はクイックリターンミラー５に反射されて焦点板１１へ導かれ、焦点板１１上に被写体像が結像する。液晶表示素子１２は、焦点板１１上に結像された被写体像に焦点検出エリアマークなどの情報を重畳表示するとともに、被写体像外の位置に露出値などの種々の撮影情報を表示する。焦点板１１上の被写体像はペンタダハプリズム１３および接眼レンズ１４を介して接眼窓１５へ導かれ、撮影者が被写体像を視認することができる。
【００１２】
また、カメラ本体２上部のファインダー光学系には、被写体追尾や測光のために被写体像を撮像する第２撮像素子１６が設けられる。焦点板１１に結像した被写体像は、ペンタダハプリズム１３、プリズム１７および結像レンズ１８を介して第２撮像素子１６の受光面に再結像される。第２撮像素子１６は被写体像に応じた画像信号を出力する。詳細を後述するが、この第２撮像素子１６により撮像された被写体像に基づいて追尾制御と露出演算が行われる。
【００１３】
カメラ本体２にはまた、ボディ駆動制御装置１９、操作部材２０などが設けられる。ボディ駆動制御装置１９は、詳細を後述するマイクロコンピューターとメモリ、Ａ／Ｄ変換器などの周辺部品から構成され、カメラ１の種々の制御と演算を行う。操作部材２０には、シャッターボタン、焦点検出エリア選択スイッチ、撮影モード選択スイッチなどのカメラ１を操作するためのスイッチやセレクターが含まれる。
【００１４】
交換レンズ３には、ズーミングレンズ８ａ、フォーカシングレンズ８ｂ、絞り２１、レンズ駆動制御装置２２などが設けられる。なお、この一実施の形態では撮影レンズ８をズーミングレンズ８ａ、フォーカシングレンズ８ｂおよび絞り２１で体表的に表すが、撮影レンズ８の構成は図１に示す構成に限定されない。レンズ駆動制御装置２２は図示しないマイクロコンピューターとメモリ、駆動回路、アクチュエーターなどの周辺部品から構成され、レンズ８ａ、８ｂおよび絞り２１の駆動制御とそれらの設定位置検出を行う。レンズ駆動制御装置２２に内蔵されるメモリには、交換レンズ３の焦点距離や開放絞り値などのレンズ情報が記憶されている。
【００１５】
ボディ駆動制御装置１９とレンズ駆動制御装置２２はレンズマウント部の接点２３を介して通信を行い、ボディ駆動制御装置１９からレンズ駆動制御装置２２へレンズ駆動量や絞り値などの情報を送信し、レンズ駆動制御装置２２からボディ駆動制御装置１９へレンズ情報や絞り情報を送信する。
【００１６】
図２はボディ駆動制御装置１９の詳細な構成を示す。なお、本願発明と直接関係のない制御機能については図示と説明を省略する。ボディ駆動制御装置１９は素子制御回路１９ａ、Ａ／Ｄ変換器１９ｂ、マイクロコンピューター１９ｃ、メモリ１９ｄなどを備えている。素子制御回路１９ａは第２撮像素子１６の電荷の蓄積と読み出しを制御する。Ａ／Ｄ変換器１９ｂは、第２撮像素子１６から出力されるアナログ画像信号をデジタル画像信号に変換する。マイクロコンピューター１９ｃは、ソフトウエア形態により追尾制御部１９ｅ、露出制御部１９ｆ、焦点検出演算部１９ｇおよびレンズ駆動量演算部１９ｈを構成する。メモリ１９ｄは、画像追尾用のテンプレート画像やデフォーカス量などの情報、撮影レンズ８の焦点距離、開放Ｆ値、絞り値、像ズレ量からデフォーカス量への変換係数などのレンズ情報、あるいは詳細を後述する類似判定しきい値の初期値ｉＤｔｈおよび色しきい値ＭaxThなどを記憶する。
【００１７】
追尾制御部１９ｅは、第２撮像素子１６により撮像した被写体像の内、撮影者が手動で指定した追尾対象位置、あるいはカメラ１が自動で設定した追尾対象位置に対応する画像をテンプレート画像(基準画像）としてメモリ１９ｄに記憶させ、その後に繰り返し撮影される画像の中からテンプレート画像と一致または類似する画像領域を検索することによって対象の位置を認識する。露出演算部１９ｆは、第２撮像素子１６により撮像した画像信号に基づいて露出値を演算する。
【００１８】
焦点検出演算部１９ｇは、測距素子１０から出力される対の光像に応じた焦点検出信号に基づいて撮影レンズ８の焦点調節状態、ここではデフォーカス量を検出する。なお、詳細を後述するが、撮影レンズ８の撮影画面内には複数の焦点検出エリアが設定されており、測距素子１０は焦点検出エリアごとに対の光像に応じた焦点検出信号を出力し、焦点検出演算部１９ｇは焦点検出エリアごとに対の光像に応じた焦点検出信号に基づいてデフォーカス量を検出する。レンズ駆動量演算部１９ｈは検出されたデフォーカス量をレンズ駆動量に変換する。
【００１９】
図３は第２撮像素子１６の詳細な構成を示す正面図である。第２撮像素子１６は、マトリクス状に配列された複数の画素（光電変換素子）２６（ここでは横１６個×縦１２個＝１９２個）を備えている。各画素２６は図４に示すように３個の部分２６ａ、２６ｂ、２６ｃに分割され、これらの部分２６ａ、２６ｂ、２６ｃにはそれぞれ赤Ｒ、緑Ｇ、青Ｂの原色フィルターが設けられている。これにより、各画素２６ごとに被写体像のＲＧＢ信号を出力することができる。
【００２０】
次に、一実施の形態の被写体追尾動作を説明する。図５〜図７は一実施の形態の被写体追尾方法を説明するための図、図８〜図１０は一実施の形態の被写体追尾処理を示すフローチャートである。シャッターボタンを全押しして撮影を行うとき以外は、クイックリターンミラー５が図１に破線で示す撮影光路内に設定されており、撮影レンズ８から入射した被写体光は焦点板１１上に結像される。そして、焦点板１１上の被写体像はペンタダハプリズム１３、プリズム１７および結像レンズ１８を介して第２撮像素子１６へ導かれ、第２撮像素子１６から被写体像信号が繰り返し出力される。
【００２１】
撮影レンズ８の撮影画面には複数の焦点検出エリアが設定されており、液晶表示素子１２により焦点板１１上の被写体像にエリアマークを重畳し、各焦点検出エリアの位置を表示する。この一実施の形態では、図５に示すように、撮影画面内の７カ所に焦点検出エリア４５ａ〜４５ｇ（図中にはａ〜ｇと表記）が設定された例を示す。また、操作部材２０の焦点検出エリア選択スイッチにより任意のエリアを選択すると、そのエリアのマークが点灯表示される。
【００２２】
図５に示すように操作部材２０の焦点検出エリア選択スイッチにより焦点検出エリア４５ｂが選択され、この状態で操作部材２０のシャッターボタンが半押しされると、焦点検出エリア４５ｂが初回ＡＦエリアとしてメモリ１９ｄに記憶される。これにより、追尾対称の被写体が指定される。なお、ここでは撮影者が初回ＡＦエリアを選択して追尾対象の被写体を手動で指定する例を示すが、例えば自動的に被写体を認識する機能を備えたカメラでは被写体認識結果に基づいて初回ＡＦエリアおよび追尾対象被写体を設定してもよい。
【００２３】
ステップ１において、第２撮像素子１６により追尾初期画像（画像追尾処理を開始して最初に取得する画像）を取得する。この追尾初期画像は画素ごとにＲＧＢ値で表す。
【００２４】
Ｒ[ｘ,ｙ]、Ｇ[ｘ,ｙ]、Ｂ[ｘ,ｙ]  ・・・（１）
このＲＧＢ値に基づいて各画素の色情報と輝度情報を算出する。この一実施の形態では、色情報として、色の偏り具合を示す値であるＲＧ、ＢＧを用いるとともに、輝度情報として、画像を取得したときの露光時間Ｔ、ゲインＧain、色合成係数Ｋｒ、Ｋｇ、Ｋｂにより算出したＬを用いる。
【００２５】
ＲＧ[ｘ,ｙ]＝Log２（Ｒ[ｘ,ｙ]）−Log２（Ｇ[ｘ,ｙ]），
ＢＧ[ｘ,ｙ]＝Log２（Ｂ[ｘ,ｙ]）−Log２（Ｇ[ｘ,ｙ]），
Ｌ[ｘ,ｙ]＝Log２（Ｋｒ×Ｒ[ｘ,ｙ]＋Ｋｇ×Ｇ[ｘ,ｙ]＋Ｋｂ×Ｂ[ｘ,ｙ]）−Log２（Ｔ）−Log２（Ｇain）  ・・・（２）
ここで、色の偏り具合を示す値であるＲＧ、ＢＧは、（２）式からも明らかなように、ＲＧの値が大きければテンプレート画像は赤みが強く、ＢＧの値が大きければ青みが強いことを示す。ここでは、緑色を基準にした赤色と青色への色の偏り具合いＲＧ、ＢＧを色情報とする例を示すが、基準色とその基準色と比較される色はこの一実施の形態の色に限定されない。なお、ＲＧ、ＢＧ以外の色を色情報として採用する場合には、図４に示す第２撮像素子１６の画素２６に用いるフィルターの色を、色情報として採用する色に合わせて変更する必要がある。
【００２６】
続くステップ２では、図９に示す追尾制御初期処理を実行する。図９のステップ１０１において、第２撮像素子１６で取得した追尾初期画像の中の焦点検出エリア４５ｂの位置に対応する位置の画像を、被写体色情報（色情報および輝度情報）として記憶する。ステップ１０２では、図６(ａ)に示すように、追尾初期画像の中の焦点検出エリア４５ｂ（図５参照）の位置周辺部において被写体色情報と同様な色情報を示す同色情報領域を検出し、続くステップ１０３で同色情報領域を初期の追尾被写体領域４７とする。
【００２７】
なお、ここでは被写体色情報に基づいて追尾被写体領域４７を決定する例を示すが、処理の簡素化を図るために一律に３×３画素のように追尾被写体領域のサイズを統一したり、さらに撮影レンズ８の距離情報に応じて被写体領域のサイズを決定してもよい。
【００２８】
ステップ１０４において、追尾初期画像の中の追尾被写体領域４７の画像を画像追尾処理に用いるテンプレート画像４８（図６(ｂ)参照）としてメモリ１９ｄに記憶する。例えば、追尾被写体領域４７の始点位置が図６(ａ)に示すように(ｘ,ｙ)＝(４,５)の場合には、テンプレート画像４８の色情報ＲＧref、ＢＧrefと輝度情報Ｌrefは次のように表される。なお、図６(ａ)では横軸をｘ、縦軸をｙとし、図６(ｂ)では横軸をｒｘ、縦軸をｒｙとする。
【００２９】
ＲＧref[ｒｘ,ｒｙ]＝ＲＧ[ｘ,ｙ]、
ＢＧref[ｒｘ,ｒｙ]＝ＢＧ[ｘ,ｙ]、
Ｌref[ｒｘ,ｒｙ]＝Ｌ[ｘ,ｙ]  （ｒｘ,ｒｙ＝１〜３、ｘ＝４〜６、ｙ＝５〜７）  ・・・（３）
次に、ステップ１０５で追尾被写体領域４７を中心に前後左右に所定画素（ここでは２画素とする）ずつ拡大した領域を探索領域４９に設定する。図６(ａ)に示す例では、探索領域４９は、ｘ＝２〜８、ｙ＝３〜９の領域になる。
【００３０】
追尾制御の初期処理が終了したら図８のステップ３へ進み、操作部材２０のシャッターボタンが全押しされたか否か、つまりシャッターレリーズ操作が行われたか否かを確認する。シャッターレリーズ操作がない場合はステップ４へ進み、第２撮像素子１６から追尾次画像を取得し、ステップ１の処理と同様に色情報ＲＧ[ｘ,ｙ]、ＢＧ[ｘ,ｙ]および輝度情報Ｌ[ｘ,ｙ]を算出し、メモリ１９ｄに記憶する。同時に、測距素子１０により、各焦点検出エリア４５ａ〜４５ｇごとに焦点検出用の対の光像に応じた焦点検出信号を取得する。
【００３１】
ステップ５において、追尾次画像の中の探索領域４９からテンプレート画像４８と同じサイズの領域を順次切り出し、切り出した画像とテンプレート画像４８の対応する画素ごとに色情報の差分Ｄiffを算出する。図７(ａ)に太い破線で示すように、探索領域４９の中で１画素ずつ領域をずらしながらテンプレート画像４８との色情報の差分Ｄiffを算出する。
【００３２】
今、図７(ａ)に示すように探索領域４９の始点位置が(scｘ,scｙ)＝(２,３)であるとすると、差分Ｄiffの演算は次のようにして行う。
【００３３】
Ｄiff[ｄｘ,ｄｙ]＝ΣΣ｛ＡＢＳ（ＲＧ[scｘ＋ｄｘ−１＋ｒｘ，scｙ＋ｄｙ−１＋ｒｙ]−ＲＧref[ｒｘ,ｒｙ]）＋ＡＢＳ（ＢＧ[scｘ＋ｄｘ−１＋ｒｘ，scｙ＋ｄｙ−１＋ｒｙ]−ＢＧref[ｒｘ,ｒｙ]）＋ＡＢＳ（Ｌ[scｘ＋ｄｘ−１＋ｒｘ，scｙ＋ｄｙ−１＋ｒｙ]−Ｌref[ｒｘ,ｒｙ]）｝  ・・・（４）
（４）式において、ｄｘ，ｄｙ＝１〜５、ｒｘ，ｒｙ＝１〜３、scｘ＝２、scｙ＝３、ΣΣはｒｘ＝１〜３およびｒｙ＝１〜３の総和演算である。
【００３４】
次に、（４）式により算出したすべての差分Ｄiffの内、値が最小の差分を最小差分MinＤiffとする。図７(ａ)に示す例では、最小差分MinＤiffとなる位置（minｘ,minｙ）は探索領域４９内の（４,４）である。この最小差分MinＤiffの値が小さいほど、テンプレート画像４８との類似性が高いことになる。
【００３５】
ステップ６において、図１０に示す類似しきい値設定サブルーチンを実行し、類似判定しきい値Ｄthを設定する。この一実施の形態では、テンプレート画像４８の色情報に基づいてテンプレートマッチング結果の類似判定に用いるしきい値Ｄｔｈを設定する。図１０のステップ２０１において、ステップ１０４でメモリ１９ｄに記憶したテンプレート画像４８の色情報（色差）ＲＧref、ＢＧrefの中から最大値ＲＧmax、ＢＧmaxと最小値ＲＧmin、ＢＧminを検索する。
【００３６】
ＲＧmax＝ＭＡＸ（ＲＧref[ｒｘ,ｒｙ]），
ＲＧmin＝ＭＩＮ（ＲＧref[ｒｘ,ｒｙ]），
ＢＧmax＝ＭＡＸ（ＢＧref[ｒｘ,ｒｙ]），
ＢＧmin＝ＭＩＮ（ＢＧref[ｒｘ,ｒｙ]）  ・・・（５）
（５）式において、ｒｘ，ｒｙ＝１〜３である。
【００３７】
続くステップ２０２で、色情報の最大値ＲＧmax、ＢＧmaxと最小値ＲＧmin、ＢＧminの内、絶対値が最大のものを色最大値ＭaxClとする。
【００３８】
ＭaxCl＝ＭＡＸ｛ＡＢＳ（ＲＧmax），ＡＢＳ（ＲＧmin），ＡＢＳ（ＢＧmax），ＡＢＳ（ＢＧmin）｝  ・・・（６）
ステップ２０３では色最大値ＭaxClを所定の色しきい値ＭaxThと比較し、色最大値ＭaxClが色しきい値ＭaxThより大きい場合はステップ２０４へ進み、類似判定しきい値Ｄｔｈの値を大きくする。この一実施の形態では次式により類似判定しきい値Ｄｔｈを変更する。
【００３９】
Ｄｔｈ＝ｉＤｔｈ＋Ｋ・（ＭaxCl−ＭaxTh）  ・・・（７）
（７）式において、ｉＤｔｈは類似判定しきい値の初期値である。また、Ｋは、色最大値ＭaxClと色しきい値ＭaxThとの差に乗ずるゲイン定数である。
【００４０】
一方、色最大値ＭaxClが色しきい値ＭaxTh以下の場合はステップ２０５へ進み、テンプレート画像４８には色鮮やかな被写体はないと判断し、類似判定しきい値Ｄｔｈを初期値ｉＤｔｈのままとする。類似判定しきい値Ｄｔｈを設定した後、図８のステップ７へリターンする。なお、類似判定しきい値の初期値ｉＤｔｈおよび色しきい値ＭaxThは、通常の撮影シーンにおいて一般的にテンプレート画像に採用される代表的な画像に基づいて設定し、予めメモリ１９ｄに記憶しておく。
【００４１】
図８のステップ７において、ステップ５で求めた最小差分MinＤiffを類似判定しきい値Ｄthと比較する。最小差分MinＤiffが類似判定しきい値Ｄthより大きい場合は、最小差分値MinＤiffが求められた領域の画像はテンプレート画像４８と類似していないと判断し、ステップ３へ戻って上述した処理を繰り返す。一方、最小差分値MinＤiffが類似判定しきい値Ｄth以下の場合は、最小差分値MinＤiffが求められた領域の画像はテンプレート画像４８と類似していると判断し、ステップ８へ進む。
【００４２】
ステップ８では、最小差分値MinＤiffが求められた領域を新しい追尾被写体領域４７に決定する。図７(ｂ)に示す例では、始点位置が（ｘ,ｙ）＝（５,６）の破線枠で示す領域を新追尾被写体領域４７とする。続くステップ９において、新追尾被写体領域４７の画像情報を用いてテンプレート画像を更新する。この一実施の形態では、例えば次式に示すように、現在のテンプレート画像４８の画像情報８割に対し、新追尾被写体領域４７の画像情報２割を加算し、新しいテンプレート画像４８の色情報ＲＧref、ＢＧrefと輝度情報Ｌrefを生成してメモリ１９ｄに記憶し直す。
【００４３】
ＲＧref[ｒｘ,ｒｙ]＝０．８・ＲＧref[ｒｘ,ｒｙ]＋０．２・ＲＧ[ｘ,ｙ]，
ＢＧref[ｒｘ,ｒｙ]＝０．８・ＢＧref[ｒｘ,ｒｙ]＋０．２・ＢＧ[ｘ,ｙ]，
Ｌref[ｒｘ,ｒｙ]＝０．８・Ｌref[ｒｘ,ｒｙ]＋０．２・Ｌ[ｘ,ｙ]，
（ｒｘ，ｒｙ＝１〜３、ｘ＝５〜７、ｙ＝６〜８）  ・・・（８）
なお、テンプレート画像４８を更新する際の今までのテンプレート画像における画像情報と新追尾被写体領域４７の画像情報との割合は、上述した固定値としてもよいし、最小差分MinＤiffに応じて可変にしてもよい。
【００４４】
ステップ１０において、新しい追尾被写体領域４７を中心に前後左右に所定画素（ここでは２画素とする）づつ拡大した領域を新しい探索領域４９に設定する。ここでは、図７(ｂ)に示すように、ｘ＝３〜９、ｙ＝４〜１０の領域を新しい探索領域４９とする。
【００４５】
続くステップ１１では、図５に示す焦点検出エリア４５ａ〜４５ｇの内、新追尾被写体領域４７内にある焦点検出エリア、もしくは新追尾被写体領域４７の近傍にある焦点検出エリアにおいて、ステップ４で取得した焦点検出信号に基づいて周知の焦点検出演算を行い、その焦点検出エリアのデフォーカス量を算出する。そして、新追尾被写体領域４７内または近傍の焦点検出エリアで検出されたデフォーカス量をレンズ駆動量に変換し、レンズ駆動制御装置２２によりフォーカシングレンズ８ｂを駆動して焦点調節を行う。その後、ステップ３へ戻って上述した処理を繰り返す。
【００４６】
焦点調節後のステップ３でレリーズボタンの全押しを確認する。シャッターボタンが半押しされている間、ステップ４〜１１の処理を繰り返し実行し、シャッターボタンが全押しされるとステップ１２へ進み、撮影処理を実行する。なお、撮像処理に際しては、ステップ８で決定した新追尾被写体領域４７の輝度情報に基づいて露出演算を行い、絞り値とシャッター速度を算出する。これらの露出値にしたがってシャッター７および絞り２１を駆動制御し、第１撮像素子４により撮像を行う。
【００４７】
このように、一実施の形態では、撮影レンズ８による像を撮像して画像情報を繰り返し出力する第２撮像素子１６と、基準とするテンプレート画像に関する基準画像情報を記憶するメモリ１９ｄと、画像情報の中の複数の部分情報のそれぞれと基準画像情報との差Ｄiffを検出し、複数の部分情報に対して検出される複数の差Ｄiffの内の最小値MinＤiffがしきい値Ｄｔｈより小さい場合に、差の最小値MinＤiffが得られる部分情報を基準画像情報に相当する情報と認識するとともに、基準画像情報の色に応じてしきい値Ｄｔｈを変更するボディ駆動制御装置１９を備える。これにより、テンプレート画像が鮮やかな有彩色であったり、逆に無彩色に近い状態であっても、テンプレートマッチングに際して画像情報とテンプレート画像の基準画像情報との類似判定を正確に行うことができ、特に上述したような画像追尾装置に適用した場合には被写体追尾性能を向上させることができる。
【００４８】
なお、基準画像情報の大きさが画像情報に対して大きい場合などには、基準画像情報の一部分（中央部など）の色に応じてしきい値Ｄｔｈを変更するようにする。これにより、目的とする被写体の色をより適切に反映したしきい値を設定することができ、被写体追尾性能をより向上させることができる。
【００４９】
また、一実施の形態によれば、差の最小値MinＤiffがしきい値Ｄｔｈより小さい場合に、差の最小値MinＤiffが得られる部分情報に基づいてテンプレート画像の基準画像情報を更新するようにしたので、基準とする像が移動したり、色や輝度の変化があっても、基準とする像の基準画像情報を正確に取得して最新の情報に更新することができ、特に上述したような画像追尾装置に適用した場合には被写体追尾性能を向上させることができる。
【００５０】
一実施の形態によれば、画像情報の中の基準画像情報に相当すると認識された部分情報に対応する焦点検出エリアで検出された焦点調節状態にしたがって、撮影レンズ８の焦点調節を行うようにしたので、基準とする像に正確に焦点調節を行うことができ、基準とする像にピントが合った画像を取得することができる。
【００５１】
なお、上述した一実施の形態では、テンプレート画像における色情報として色の偏り具合を示す値ＲＧ、ＢＧを用い、ＲＧとＢＧの最大値ＭaxClに応じて類似判定しきい値Ｄｔｈを変更する例を示したが、テンプレート画像のＲＧＢ値の最大値に応じて類似判定しきい値Ｄｔｈを変更するようにしてもよい。例えば、ＲＧＢ値の最大値ＭaxRGBが所定値ＭaxRGB_Thよりも大きい場合には、次式により類似判定しきい値Ｄｔｈを変更する。
【００５２】
Ｄｔｈ＝ｉＤｔｈ＋Ｋ’・（ＭaxRGB−ＭaxRGB_Th）  ・・・（９）
（９）式において、Ｋ’は、ＲＧＢ値の最大値ＭaxRGBと所定値ＭaxRGB_Thとの差に乗ずるゲイン定数である。さらに、テンプレート画像のＲＧＢ値に限定されず、１または複数の色の値の最大値に応じて類似判定しきい値Ｄｔｈを変更してもよい。
【００５３】
また、テンプレート画像における色情報として、ＹＣbＣrなどの色差や彩度の値を用い、それらの値が大きくなるほど類似判定しきい値Ｄｔｈが大きくなるようにしてもよい。あるいはまた、テンプレート画像のＲＧＢ値、色差および彩度の内のいずれか１または複数の値に基づいて類似判定しきい値Ｄｔｈを変更してもよい。
【００５４】
上述した一実施の形態では、撮像用の第１撮像素子４とは別個に設けた焦点検出光学系９と測距素子１０により焦点検出を行う例を示したが、第１撮像素子４に、二次元状に配列された撮像画素の一部に焦点検出画素を配列した構成の撮像素子を用い、焦点検出光学系９と測距素子１０を設けずに第１撮像素子４のみで撮像と焦点検出とを行うようにしてもよい。
【図面の簡単な説明】
【００５５】
【図１】一実施の形態の画像認識装置および焦点調節装置を備えた撮像装置（一眼レフデジタルスチルカメラ）の構成を示す図
【図２】ボディ駆動制御装置の詳細な構成を示す図
【図３】第２撮像素子の詳細な構成を示す正面図
【図４】第２撮像素子の各画素の詳細を示す正面図
【図５】一実施の形態の被写体追尾方法を説明するための図
【図６】一実施の形態の被写体追尾方法を説明するための図
【図７】一実施の形態の被写体追尾方法を説明するための図
【図８】一実施の形態の被写体追尾処理を示すフローチャート
【図９】一実施の形態の追尾制御の初期処理を示す示すフローチャート
【図１０】一実施の形態の類似しきい値設定処理を示す示すフローチャート
【符号の説明】
【００５６】
８；撮影レンズ、９；焦点検出光学系、１０；測距素子、１６；第２撮像素子、１９；ボディ駆動制御装置、１９ｄ；メモリ、１９ｃ；マイコン、２２；レンズ駆動制御装置
【図１】
0005176483.tif 000002
【図２】
0005176483.tif 000003
【図３】
0005176483.tif 000004
【図４】
0005176483.tif 000005
【図５】
0005176483.tif 000006
【図６】
0005176483.tif 000007
【図７】
0005176483.tif 000008
【図８】
0005176483.tif 000009
【図９】
0005176483.tif 000010
【図１０】
0005176483.tif 000011