(57)【要約】【課題】撮影環境が変化する場合であっても対象物の像を安定して追跡することが可能な画像処理装置を提供する。【解決手段】画像処理装置１０は、初期領域に関する情報と第１画像の撮影環境に対応する第１変換パラメータとを記憶する記憶部１７と、第２画像の撮影環境に応じて第２変換パラメータを算出する変換パラメータ算出部１２と、第１変換パラメータと第２変換パラメータとを用いて第１および第２画像の少なくとも一方を変換する第１画像変換部１３と、第１画像変換部１３による変換後の画像を用いて初期領域の特徴量に類似する特徴量を有する領域を探索することにより対象物の像を追跡する追跡処理部１５と、連続して撮影された画像間における変化量が第２変換パラメータよりも抑制された第３変換パラメータを用いて第２画像を変換する第２画像変換部１４と、第２画像変換部１４による変換後の画像と探索結果とを出力する出力部１６とを備える。【選択図】図１
2010263584.tif 000002
【特許請求の範囲】
【請求項１】
連続して撮影された画像において追跡の対象となる対象物の像を追跡し、追跡結果を利用して、オートフォーカス処理、自動露出処理、並びにカメラ制御によるフレーミング処理および自動撮影処理のうち少なくとも１つを実行する電子カメラであって、
第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部と、
前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出部と、
前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出部によって算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換部と、
前記第１画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第２画像において探索することにより、前記対象物の像を追跡する追跡処理部と、
前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換部と、
前記第２画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える
電子カメラ。
【請求項２】
前記第１、第２および第３変換パラメータは、撮影された画像から検出される色温度、露光、露出、および輝度値の少なくとも１つに応じて、前記画像を構成する複数の画素が有する画素値を変換するためのパラメータである
請求項１に記載の電子カメラ。
【請求項３】
前記第１画像変換部は、前記第１および第２変換パラメータの比を用いて、前記第１および第２画像の一方を変換する
請求項１または２に記載の電子カメラ。
【請求項４】
前記第１画像変換部は、前記第１画像を変換する場合、前記第１画像のうち前記初期領域に含まれる画像のみを変換する
請求項１〜３のいずれか１項に記載の電子カメラ。
【請求項５】
前記特徴量は、画像を構成する画素が有する色の頻度分布を表す色ヒストグラムであり、
前記追跡処理部は、前記初期領域の色ヒストグラムと重なる部分の割合が最も大きい色ヒストグラムを有する領域を前記第２画像において探索する
請求項１〜４のいずれか１項に記載の電子カメラ。
【請求項６】
連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置であって、
第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部と、
前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出部と、
前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出部によって算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換部と、
前記第１画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第２画像において探索することにより、前記対象物の像を追跡する追跡処理部と、
前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換部と、
前記第２画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える
画像処理装置。
【請求項７】
連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置において用いられる画像処理方法であって、
前記画像処理装置は、
第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部を備え、
前記画像処理方法は、
前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出ステップと、
前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出ステップにおいて算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換ステップと、
前記第１画像変換ステップにおいて変換された後の画像を用いて、初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を探索することにより、前記対象物の像を追跡する追跡処理ステップと、
前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換ステップと、
前記第２画像変換ステップにおいて変換された後の画像と、前記追跡処理ステップにおいて探索された領域を示す情報とを出力する出力ステップとを含む
画像処理方法。
【請求項８】
連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置が備える集積回路であって、
前記画像処理装置は、
第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部を備え、
前記集積回路は、
前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出部と、
前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出部によって算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換部と、
前記第１画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第２画像において探索することにより、前記対象物の像を追跡する追跡処理部と、
前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換部と、
前記第２画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える
集積回路。
【請求項９】
連続して撮影された画像において追跡の対象となる対象物の像を追跡するコンピュータ実行可能なプログラムであって、
前記コンピュータは、
第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部を備え、
前記プログラムは、
前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出ステップと、
前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出ステップにおいて算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換ステップと、
前記第１画像変換ステップにおいて変換された後の画像を用いて、初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を探索することにより、前記対象物の像を追跡する追跡処理ステップと、
前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換ステップと、
前記第２画像変換ステップにおいて変換された後の画像と、前記追跡処理ステップにおいて探索された領域を示す情報とを出力する出力ステップとをコンピュータに実行させる
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、電子カメラ、画像処理装置等に関し、特に、入力画像において追跡の対象となる対象物の像を追跡する電子カメラ、画像処理装置等に関する。
【背景技術】
【０００２】
近年、電子カメラは、ＡＦ（オートフォーカス：Ａｕｔｏ−Ｆｏｃｕｓ）、ＡＥ（自動露出：Ａｕｔｏｍａｔｉｃ  Ｅｘｐｏｓｕｒｅ）または逆光補正機能の位置合わせ手段として物体追跡機能を有する。なお、電子カメラとは、静止画像を撮影するカメラまたは動画像を撮影するカメラである。
【０００３】
例えば、電子カメラは、指定された対象物の像の色情報を初期特徴量として登録する。そして、電子カメラは、対象物の像が指定された後に撮影された画像において、初期特徴量と類似する領域を探索することにより、対象物の像の追跡を行う。具体的には、電子カメラは、色の情報を用いたテンプレートマッチングを実行する、あるいは色相のヒストグラムの重複する割合を算出することにより対象物の像が含まれる対象領域を探索する。
【０００４】
ところで、監視用途の据え置きカメラは、撮影される場所がほぼ固定であり、日照条件および時間変化の情報などを容易に取得することができる。そこで、監視用途の据え置きカメラは、日照条件および時間変化の情報などを用いて周囲の環境を推定する。そして、監視用途の据え置きカメラは、推定した環境に応じて、例えばテンプレートマッチングにおけるテンプレートの色を変更することができる。
【０００５】
しかし、デジタルビデオカメラなど民生機器は、様々な環境において様々な対象が撮影されるため、現在の環境を推定することが難しい。つまり、電子カメラは、追跡の対象となる対象物を撮影するときの周囲の環境（以下、「撮影環境」という。）が変化した場合、電子カメラが環境の変化に追従できないために、誤った物体を追跡し続ける、あるいは追跡が中断されるなどといった問題が生じる。例えば、電子カメラが暗い場所から明るい場所へ移動された場合、追跡の対象となる対象物の像の明るい部分の階調が失われる（白とび）ため、テンプレートマッチングができないという問題が生じる。
【０００６】
そこで、従来の電子カメラは、撮影環境が変化した場合、撮影された画像において、変化した環境に応じて露光または色温度などを補正する（例えば、特許文献１を参照）。特許文献１に記載の方法では、画面内に位置を変化させながら設定された検出領域内外の輝度成分の差を用いて、画面内の輝度パターンが判定される。そして、判定された輝度パターンに適した位置に設定された測光領域を用いて露光制御が行われる。
【０００７】
また、色相情報を用いずに、ＲＧＢ（Ｒｅｄ  Ｇｒｅｅｎ  Ｂｌｕｅ）の各色と輝度Ｙとを用いて算出される予測係数を用いて目標を追尾することにより、照明によって色が変化した場合でも目標を確実に追尾する方法が提案されている（例えば、特許文献２を参照）。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特許第２５６８１６１号公報
【特許文献２】特開平７−０９５５９８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００９】
しかしながら、特許文献１に示すような従来の方法では、時間的に連続する画像において明るさあるいは色などを変換する変換パラメータが急激に変化しないように、徐々に環境に適した値へ変更される。これは、例えば、明るさまたは色温度などが変化した場合に、画像の明るさまたは色温度を変換する変換パラメータが環境に合わせて大きく変化されれば、ユーザに違和感あるいは不快感を与えるからである。このように、変換パラメータが徐々に変更されるため、特にロバストな特徴量である色を特徴量として利用した場合には、電子カメラは対象物の追跡を失敗する。
【００１０】
また、特許文献２に示すような従来の方法では、予測係数を用いて対象物を追跡するため、予測が間違った場合には正しく追跡できない。
【００１１】
そこで、本発明は、上記従来の課題を鑑みてなされたものである。本発明は、撮影環境が変化することによって対象物の像を示す特徴量が変動する場合であっても、対象物の像を安定して追跡することが可能な電子カメラ、画像処理装置等を提供することを目的とする。
【課題を解決するための手段】
【００１２】
上記目的を達成するために、本発明に係る電子カメラは、連続して撮影された画像において追跡の対象となる対象物の像を追跡し、追跡結果を利用して、オートフォーカス処理、自動露出処理、並びにカメラ制御によるフレーミング処理および自動撮影処理のうち少なくとも１つを実行する電子カメラであって、第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部と、前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出部と、前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出部によって算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換部と、前記第１画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第２画像において探索することにより、前記対象物の像を追跡する追跡処理部と、前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換部と、前記第２画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える。
【００１３】
これによって、撮影環境が変化することによって対象物の像を示す特徴量が変動した場合であっても、撮影環境に対応した変換パラメータを用いて変換した画像を利用して対象物の像を追跡することにより、対象物の像を安定して追跡することが可能となる。さらに、撮影環境の変化に徐々に対応する変換パラメータを用いて変換した画像を出力することにより、ユーザが画像を見たときの違和感あるいは不快感を低減することも可能となる。
【００１４】
また、前記第１、第２および第３変換パラメータは、撮影された画像から検出される色温度、露光、露出、および輝度値の少なくとも１つに応じて、前記画像を構成する複数の画素が有する画素値を変換するためのパラメータであるとしてもよい。
【００１５】
これによって、色温度、露光、露出、および輝度値が変化した場合であっても、対象物の像を安定して追跡することが可能となる。
【００１６】
また、前記第１画像変換部は、前記第１および第２変換パラメータの比を用いて、前記第１および第２画像の一方を変換するとしてもよい。
【００１７】
これによって、第１および第２画像の一方を変換すればよいので、画像を変換する処理の負荷を軽減することが可能となる。
【００１８】
また、前記第１画像変換部は、前記第１画像を変換する場合、前記第１画像のうち前記初期領域に含まれる画像のみを変換するとしてもよい。
【００１９】
これによって、第１画像の一部の領域に含まれる画像を変換すればよいので、画像を変換する処理の負荷をさらに軽減することが可能となる。
【００２０】
また、前記特徴量は、画像を構成する画素が有する色の頻度分布を表す色ヒストグラムであり、前記追跡処理部は、前記初期領域の色ヒストグラムと重なる部分の割合が最も大きい色ヒストグラムを有する領域を前記第２画像において探索するとしてもよい。
【００２１】
これによって、ロバスト性の高い色ヒストグラムを用いて対象物の像を追跡できるので、対象物の像をより安定して追跡することが可能となる。
【００２２】
また、本発明に係る画像処理装置は、連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置であって、第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部と、前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出部と、前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出部によって算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換部と、前記第１画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第２画像において探索することにより、前記対象物の像を追跡する追跡処理部と、前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換部と、前記第２画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える。
【００２３】
また、本発明に係る集積回路は、連続して撮影された画像において追跡の対象となる対象物の像を追跡する画像処理装置が備える集積回路であって、前記画像処理装置は、第１画像において前記対象物の像を含む領域である初期領域に関する情報と、前記第１画像が撮影されたときの撮影環境に対応するパラメータであって前記第１画像を所定の画質を有する画像に変換するためのパラメータである第１変換パラメータとを記憶する記憶部を備え、前記集積回路は、前記第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、前記第２画像を前記所定の画質を有する画像に変換するための第２変換パラメータを算出する変換パラメータ算出部と、前記記憶部に記憶された第１変換パラメータと前記変換パラメータ算出部によって算出された第２変換パラメータとを用いて、前記第１および第２画像の少なくとも一方を変換する第１画像変換部と、前記第１画像変換部によって変換された後の画像を用いて、前記初期領域の特徴を定量的に示す特徴量に類似する特徴量を有する領域を前記第２画像において探索することにより、前記対象物の像を追跡する追跡処理部と、前記第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを用いて、前記第２画像を変換する第２画像変換部と、前記第２画像変換部によって変換された後の画像と、前記追跡処理部によって探索された領域を示す情報とを出力する出力部とを備える。
【００２４】
なお、本発明は、このような画像処理装置として実現するだけでなく、このような画像処理装置が備える特徴的な構成部の動作をステップとする画像処理方法として実現してもよい。また、本発明は、そのような画像処理方法に含まれるステップをコンピュータに実行させるプログラムとして実現してもよい。そして、そのようなプログラムは、ＣＤ−ＲＯＭ等の記録媒体またはインターネット等の伝送媒体を介して配信してもよい。
【発明の効果】
【００２５】
以上の説明から明らかなように、本発明に係る電子カメラ、画像処理装置等は、追跡の対象となる対象物を撮影する環境が変化した場合でも、環境変化に応じた変換パラメータを用いて画像を変換することにより対象物の像を安定して追跡することが可能となる。さらに、本発明に係る電子カメラ、画像処理装置等は、撮影環境の変化に徐々に対応する変換パラメータを用いて変換した画像を出力することにより、ユーザが画像を見たときの違和感あるいは不快感を低減することも可能となる。
【図面の簡単な説明】
【００２６】
【図１】本発明の実施の形態に係る画像処理装置の機能構成を示すブロック図である。
【図２】本発明の実施の形態に係る画像処理装置の具体例である電子カメラの構成を示すブロック図である。
【図３】本発明の実施の形態に係る画像処理装置の動作を示すフローチャートである。
【図４】本発明の実施の形態に係る画像処理装置における動作の具体例を説明するための図である。
【図５】（ａ）〜（ｃ）は、本発明の実施の形態に係る画像処理装置における探索に関する動作の具体例を説明するための図である。
【発明を実施するための形態】
【００２７】
以下に、本発明の実施の形態について、図面を参照しながら説明する。
図１は、本発明の実施の形態に係る画像処理装置の機能構成を示すブロック図である。図１に示すように、画像処理装置１０は、初期領域取得部１１と、変換パラメータ算出部１２と、第１画像変換部１３と、第２画像変換部１４と、追跡処理部１５と、出力部１６と、記憶部１７とを備える。
【００２８】
初期領域取得部１１は、第１画像において対象物の像を含む領域である初期領域に関する情報を取得する。そして、初期領域取得部１１は、取得した初期領域に関する情報を記憶部１７に登録する。具体的には、初期領域取得部１１は、例えば、初期領域の位置および大きさを示す情報を取得する。
【００２９】
なお、例えば、撮影している画像または撮影しようとしている画像を表示する手段としてタッチパネルを電子カメラが備える場合、初期領域取得部１１は、ユーザがタッチパネルにタッチすることにより受け付けられた初期領域の位置の情報を取得する。また例えば、表示画面の中央などのあらかじめ定められた領域に追跡したい物体が写るように電子カメラの向きを合わせた後にユーザが追跡ボタンを押した場合に、初期領域取得部１１は、当該領域を初期領域として取得してもよい。
【００３０】
さらに、初期領域取得部１１は、第１画像が撮影されたときの撮影環境に応じて画像を変換するためのパラメータであって、第１画像を所定の画質（以下、単に「目的画質」という。）を有する画像（以下、単に「目的画質画像」という。）に変換するためのパラメータである第１変換パラメータを取得する。そして、初期領域取得部１１は、取得した第１変換パラメータを記憶部１７に登録する。
【００３１】
ここで、目的画質とは、画像が所定の条件を満たす色または輝度を有することをいう。例えば、目的画質とは、画像が、あらかじめ定められた所定の色分布または輝度分布となることをいう。具体的には、例えば、目的画質とは、白色の被写体が撮影された画像において、光源の色温度に関わらず当該被写体の像の色が白色となることをいう。また、目的画質とは、例えば、明るい被写体の像が階調を失わない（白とびしない）ことをいう。
【００３２】
変換パラメータ算出部１２は、第１画像より後に撮影された画像である第２画像が撮影されたときの撮影環境に応じて、第２画像を目的画質画像に変換するための第２変換パラメータを算出する。ここで、所定の画質は、上述した第１変換パラメータにおける所定の画質と同一である。
【００３３】
また、変換パラメータ算出部１２は、第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを算出する。つまり、変換パラメータ算出部１２は、撮影された画像を、撮影環境の変化に徐々に追随する画像へ変換するための第３変換パラメータを算出する。
【００３４】
具体的には、変換パラメータ算出部１２は、第２画像よりも時間的に１つ前の画像における第３変換パラメータ（以下、単に「旧第３変換パラメータ」という。）と第２画像における第３変換パラメータとの差分値が、旧第３変換パラメータと第２画像における第２変換パラメータとの差分値以下となるように第３変換パラメータを算出する。
【００３５】
第１画像変換部１３は、記憶部１７に記憶された第１変換パラメータと変換パラメータ算出部１２によって算出された第２変換パラメータとを用いて、第１および第２画像の少なくとも一方を変換する。つまり、第１画像変換部１３は、変換後の画像が同等の画質を有するように、第１および第２画像の少なくとも一方を変換する。具体的には、例えば、第１画像変換部１３は、第１変換パラメータと第２変換パラメータとの比を用いて、第１画像を変換する。
【００３６】
第２画像変換部１４は、第３変換パラメータを用いて第２画像を変換する。
追跡処理部１５は、第１画像変換部１３によって変換された後の画像を用いて、初期領域の特徴を定量的に示す特徴量と最も類似する特徴量を有する領域を第２画像において探索することにより、対象物の像を追跡する。具体的には、例えば、追跡処理部１５は、第２画像内の位置および大きさを変更しながら選択した領域の特徴量を抽出する。そして、追跡処理部１５は、算出した特徴量のうち初期領域の特徴量と最も差分が小さい特徴量を有する領域を対象領域として特定する。なお、対象領域とは、対象物の像を含む領域である。
【００３７】
ここで、特徴量とは、例えば、領域内における画素の色の頻度分布を示す色ヒストグラムである。また、特徴量とは、例えば、領域内において検出されるエッジであってもよい。また、特徴量とは、例えば、領域を構成する画素が有する輝度値であってもよい。
【００３８】
出力部１６は、第２画像変換部１４によって変換された後の画像と、追跡処理部１５によって探索された領域を示す情報とを出力する。具体的には、出力部１６は、例えば、電子カメラなどが有する表示部に表示させるために、第２画像変換部１４によって変換された後の画像と対象領域を示す枠などとを含む画像を記憶部１７に登録する。
【００３９】
記憶部１７は、初期領域に関する情報と第１変換パラメータとを記憶する。
なお、上記において、第１、第２および第３変換パラメータは、撮影された画像から検出される色温度、露光、露出、および輝度値の少なくとも１つに応じて、画像を構成する複数の画素が有する画素値を変換するためのパラメータである。具体的には、第１、第２および第３変換パラメータは、例えば、各画素のＲＧＢごとの輝度値を変換する変換係数である。
【００４０】
図２は、本発明の実施の形態に係る画像処理装置の具体例である電子カメラの構成を示すブロック図である。図２に示すように、電子カメラ１００は、撮影レンズ１０１と、シャッター１０２と、撮像素子１０３と、ＡＤ変換器１０４と、タイミング発生回路１０５と、画像処理回路１０６と、メモリ制御回路１０７と、画像表示メモリ１０８と、ＤＡ変換器１０９と、画像表示部１１０と、メモリ１１１と、リサイズ回路１１２と、システム制御回路１１３と、露光制御部１１４と、測距制御部１１５と、ズーム制御部１１６と、バリア制御部１１７と、フラッシュ１１８と、保護部１１９と、メモリ１２０と、表示部１２１と、不揮発性メモリ１２２と、モードダイアルスイッチ１２３と、シャッタースイッチ１２４と、電源制御部１２５と、コネクタ１２６および１２７と、電源１２８と、インタフェース１２９および１３０と、コネクタ１３１および１３２と、記録媒体１３３と、光学ファインダ１３４と、通信部１３５と、アンテナ１３６と、初期領域取得回路１３７と、変換パラメータ算出回路１３８と、第１画像変換回路１３９と、第２画像変換回路１４０と、追跡処理回路１４１と、追跡結果描画回路１４２と、カメラ制御回路１４３とを備える。なお、電源１２８および記録媒体１３３は、取り外し可能でもよい。
【００４１】
撮影レンズ１０１は、ズーミングおよびフォーカシング機能を有するレンズであり、入射する光を撮像素子１０３上に結像させる。
【００４２】
シャッター１０２は、絞り機能を備え、撮像素子１０３に入射する光の量を調節する。
撮像素子１０３は、入射した光が結像して得られる光学像を電気信号（画像データ）に変換する。
【００４３】
ＡＤ変換器１０４は、撮像素子１０３から出力されるアナログ信号をデジタル信号に変換する。ＡＤ変換器１０４は、デジタル信号に変換された画像データを、メモリ制御回路１０７を介して、画像表示メモリ１０８またはメモリ１１１に書き込む。または、ＡＤ変換器１０４は、デジタル信号に変換された画像データを画像処理回路１０６に出力する。
【００４４】
タイミング発生回路１０５は、撮像素子１０３、ＡＤ変換器１０４およびＤＡ変換器１０９にクロック信号または制御信号を供給する。タイミング発生回路１０５は、メモリ制御回路１０７およびシステム制御回路１１３により制御される。
【００４５】
画像処理回路１０６は、ＡＤ変換器１０４から出力される画像データまたはメモリ制御回路１０７から出力される画像データに対して、所定の画像補間処理または色変換処理などを行う。また、画像処理回路１０６は、入力される画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御回路１１３が露光制御部１１４および測距制御部１１５に対して制御を行う。
【００４６】
メモリ制御回路１０７は、ＡＤ変換器１０４、タイミング発生回路１０５、画像処理回路１０６、画像表示メモリ１０８、ＤＡ変換器１０９、メモリ１１１およびリサイズ回路１１２を制御する。
【００４７】
画像表示メモリ１０８は、表示用の画像データを記憶する。
ＤＡ変換器１０９は、メモリ制御回路１０７を介して、画像表示メモリ１０８から表示用の画像データを取得し、デジタル信号からアナログ信号に変換する。
【００４８】
画像表示部１１０は、ＤＡ変換器１０９でアナログ信号に変換された表示用の画像データを表示する。また、画像表示部１１０は、ユーザから追跡の対象となる対象物が写っている領域（初期領域）を特定するための情報を受け付けてもよい。画像表示部１１０は、例えば、ＴＦＴＬＣＤ（Ｔｈｉｎ  Ｆｉｌｍ  Ｔｒａｎｓｉｓｔｏｒ  Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）、タッチパネルなどのディスプレイである。
【００４９】
メモリ１１１は、ＡＤ変換器１０４から得られる画像データ、および、画像処理回路１０６で処理された画像データを記憶する。さらに、メモリ１１１は、初期領域取得回路１３７によって取得された初期領域に関する情報など追跡処理に必要な情報を記憶する。なお、メモリ１１１は、図１の記憶部１７に相当する。
【００５０】
リサイズ回路１１２は、撮影して得られた画像から低解像度の画像を生成する。なお、リサイズ回路１１２は、用途に応じて所定の複数の解像度を選択することができる。リサイズ回路１１２は、メモリ１１１に格納された画像データを読み込み、読み込んだ画像データに対してリサイズ処理を行い、処理を終えたデータをメモリ１１１に書き込む。
【００５１】
なお、リサイズ回路１１２は、撮像素子１０３の画素数と異なる画素数（サイズ）で記録媒体１３３などに画像データを記録したい場合などに利用される。また、画像表示部１１０の表示可能な画素数は、撮像素子１０３の画素数よりもかなり小さい。したがって、リサイズ回路１１２は、撮影した画像データを画像表示部１１０に表示する場合の表示用画像を生成する場合にも利用される。
【００５２】
システム制御回路１１３は、電子カメラ１００全体の各処理部および各処理回路を制御することによって、撮影処理を行う。撮影処理は、露光処理、現像処理および記録処理などからなる。露光処理とは、撮像素子１０３から読み出した画像データをＡＤ変換器１０４およびメモリ制御回路１０７を介してメモリ１１１に書き込む処理である。現像処理とは、画像処理回路１０６およびメモリ制御回路１０７での演算処理である。記録処理とは、メモリ１１１から画像データを読み出し、記録媒体１３３に画像データを書き込む処理である。
【００５３】
露光制御部１１４は、絞り機能を備えるシャッター１０２を制御する。また、露光制御部１１４は、フラッシュ１１８と連携することによりフラッシュ調光機能も有する。
【００５４】
測距制御部１１５は、撮影レンズ１０１のフォーカシングを制御する。ズーム制御部１１６は、撮影レンズ１０１のズーミングを制御する。バリア制御部１１７は、保護部１１９の動作を制御する。
【００５５】
フラッシュ１１８は、被写体に対してフラッシュ光を照射する。フラッシュ１１８は、さらに、ＡＦ補助光の投光機能およびフラッシュ調光機能も有する。
【００５６】
保護部１１９は、電子カメラ１００の撮影レンズ１０１、シャッター１０２および撮像素子１０３などを含む撮像部を覆うことにより、撮像部の汚れまたは破損を防止するバリアである。
【００５７】
メモリ１２０は、システム制御回路１１３の動作用の定数、変数およびプログラムなどを記録する。
【００５８】
表示部１２１は、システム制御回路１１３でのプログラムの実行に応じて、文字、画像または音声などを用いて動作状態またはメッセージなどを表示する液晶表示装置またはスピーカーなどである。表示部１２１は、電子カメラ１００の操作部近辺の視認しやすい単数または複数の箇所に設置される。表示部１２１は、例えば、ＬＣＤ、ＬＥＤ（Ｌｉｇｈｔ  Ｅｍｉｔｔｉｎｇ  Ｄｉｏｄｅ）、または、発音素子などの組み合わせにより構成されている。
【００５９】
不揮発性メモリ１２２は、電気的に証拠・記録可能なメモリであり、電子カメラ１００の動作設定データまたは利用者固有の情報などを記憶する。不揮発性メモリ１２２は、例えば、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ  Ｅｒａｓａｂｌｅ  ａｎｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）などである。
【００６０】
モードダイアルスイッチ１２３は、自動撮影モード、撮影モード、パノラマ撮影モードおよびＲＡＷモードなどの各機能モードを切り替え、設定することができる。
【００６１】
シャッタースイッチ１２４は、シャッターボタン（図示せず）の操作途中でＯＮとなりＡＦ処理、ＡＥ処理およびＡＷＢ（Ａｕｔｏ  Ｗｈｉｔｅ  Ｂａｌａｎｃｅ）処理などの動作開始を指示する。また、シャッタースイッチ１２４は、露光処理、現像処理および記録処理という一連の処理の動作の開始を指示する。
【００６２】
電源制御部１２５は、電池検出回路、ＤＣ−ＤＣコンバータ、および、通電するブロックを切り替えるスイッチ回路などにより構成されている。電源制御部１２５は、電池の装着の有無、電池の種類および電池残量の検出を行う。さらに、電源制御部１２５は、検出結果およびシステム制御回路１１３の指示に基づいてＤＣ−ＤＣコンバータを制御し、必要な電圧を帰還させ、記録媒体１３３を含む各処理部へ電圧を、コネクタ１２６および１２７を介して供給する。
【００６３】
コネクタ１２６および１２７は、電源制御部１２５と、電源１２８との接続を行うコネクタである。
【００６４】
電源１２８は、アルカリ電池もしくはリチウム電池などの一次電池、ＮｉＣｄ電池、ＮｉＭＨ電池もしくはＬｉ電池などの二次電池、または、ＡＣアダプタなどである。
【００６５】
インタフェース１２９および１３０は、記録媒体１３３とメモリ１１１などとの間で画像データなどの送受信を行うためのインタフェースである。
【００６６】
コネクタ１３１および１３２は、インタフェース１２９とインタフェース１３０とを介した記録媒体１３３との接続を行うコネクタである。
【００６７】
記録媒体１３３は、画像データを記録するメモリカードまたはハードディスクなどの記録媒体である。
【００６８】
光学ファインダ１３４は、撮影者が被写体を確認するために使用するファインダである。撮影者は、画像表示部１１０による電子ファインダ機能を使用することなく、光学ファインダ１３４のみを用いて撮影を行うことが可能である。
【００６９】
通信部１３５は、ＲＳ２３２Ｃ、ＵＳＢ、ＩＥＥＥ１３９４、モデム、ＬＡＮ、または無線通信などの各種通信機能を有する。
【００７０】
アンテナ１３６は、通信部１３５により電子カメラ１００を他の機器と接続されるコネクタまたは無線通信の場合のアンテナである。
【００７１】
初期領域取得回路１３７は、タッチパネルがユーザから受け付けた位置、あるいはユーザがシャッタースイッチ１２４を押すことによって設定されるＡＦ領域等によって特定された初期領域に関する情報を取得し、取得した情報をメモリ１１１に書き込む。なお、初期領域取得回路１３７は、図１の初期領域取得部１１に相当する。
【００７２】
変換パラメータ算出回路１３８は、ユーザが視覚を通じて認識する色または明るさと同等の色または明るさを有する画像に入力画像を変換するための変換パラメータを算出する。具体的には、変換パラメータ算出回路１３８は、例えば、対象物を照らす光の色温度を検出し、検出した色温度に応じて入力画像の色を変換する変換パラメータを算出する。なお、変換パラメータ算出回路１３８は、図１の変換パラメータ算出部１２に相当する。
【００７３】
第１画像変換回路１３９は、メモリ１１１から初期領域に含まれる画像を読み込む。さらに、第１画像変換回路１３９は、変換パラメータ算出回路１３８によって算出された変換パラメータを用いて、読み込んだ画像を変換する。なお、第１画像変換回路１３９は、図１の第１画像変換部１３に相当する。
【００７４】
第２画像変換回路１４０は、メモリ１１１から入力画像を読み込む。さらに、第２画像変換回路１４０は、変換パラメータ算出回路１３８によって算出された変換パラメータを用いて、読み込んだ画像を変換する。なお、第２画像変換回路１４０は、図１の第２画像変換部１４に相当する。
【００７５】
追跡処理回路１４１は、メモリ１１１から第１画像変換回路１３９によって変換された画像を読み込み、読み込んだ画像の特徴量を算出する。そして、追跡処理回路１４１は、算出した特徴量と最も類似する特徴量を有する領域を入力画像において探索することにより、対象物の像の追跡処理を行う。さらに、追跡処理回路１４１は、追跡結果（座標データ、評価値など）をメモリ１１１に書き込む。なお、追跡処理回路１４１は、図１の追跡処理部１５に相当する。
【００７６】
追跡結果描画回路１４２は、メモリ１１１に書き込まれた追跡結果を表示部１２１に表示させるために、画像表示メモリ１０８に書き込まれた表示用の画像データを加工する。具体的には、追跡結果描画回路１４２は、画像データに対して、例えば、追跡枠、モザイク化、文字、表示色の変更、ぼかしなどの加工を行う。なお、追跡結果描画回路１４２は、図１の出力部１６に相当する。
【００７７】
カメラ制御回路１４３は、メモリ１１１に書き込まれた追跡結果（対象領域）の位置と大きさとに基づいて、対象領域に写っている対象物に焦点が合うように、ＡＦ処理を制御する。具体的には、カメラ制御回路１４３は、例えば、対象領域に写っている対象物のコントラストを利用して、コントラストが高くなるように撮影レンズ１０１を制御する。
【００７８】
また、カメラ制御回路１４３は、対象領域に写っている対象物の露出が適正となるように、ＡＥ処理または逆光補正処理を制御してもよい。具体的には、カメラ制御回路１４３は、例えば、シャッター速度優先、または絞り値優先などモードにしたがって、露光制御部１１４を介して、絞り機能を備えるシャッター１０２のシャッター速度または絞り値を制御してもよい。
【００７９】
さらに、カメラ制御回路１４３は、対象物が画像内の一定の位置または一定の大きさとなるように（例えば、対象物である顔が画像の中央に写るように、あるいは、対象物である人物の全身が写るようになど）電子カメラ１００を制御してもよい。
【００８０】
なお、電子カメラ１００が初期領域取得回路１３７、変換パラメータ算出回路１３８、第１画像変換回路１３９、第２画像変換回路１４０、追跡処理回路１４１、追跡結果描画回路１４２、およびカメラ制御回路１４３のいずれかの回路を備えない場合、システム制御回路１１３が、ソフトウェア処理によって追跡処理などを行ってもよい。
【００８１】
次に、以上のように構成された画像処理装置における各種動作について説明する。
図３は、本発明の実施の形態に係る画像処理装置の動作を示すフローチャートである。
【００８２】
まず、初期領域取得部１１は、初期領域に関する情報と第１変換パラメータとを取得する（ステップＳ１０１）。具体的には、初期領域取得部１１は、例えば、初期領域の位置を示す座標と初期領域の大きさを示す値とを初期領域に関する情報として取得する。また、初期領域取得部１１は、例えば、光源の色温度に関わらず対象物の色を正確に表す画像へ第１画像を変換するための色温度パラメータを第１変換パラメータとして取得する。続いて、初期領域取得部１１は、取得した初期領域に関する情報と第１変換パラメータとを記憶部１７に登録する（ステップＳ１０２）。
【００８３】
その後、画像処理装置１０は、第１画像より後に撮影された画像において、対象領域を特定する処理を繰り返す。対象領域を特定する処理は、以下のとおりである。
【００８４】
まず、変換パラメータ算出部１２は、処理対象となる画像（以下、「第２画像」という。）を目的画質画像へ変換するための第２変換パラメータを算出する（ステップＳ１０３）。具体的には、変換パラメータ算出部１２は、例えば、光源の色温度に関わらず対象物の色を正確に表す画像へと第２画像を変換するための色温度パラメータを、第２変換パラメータとして算出する。
【００８５】
次に、第１画像変換部１３は、記憶部１７に記憶されている第１変換パラメータと変換パラメータ算出部１２によって算出された第２変換パラメータとを用いて、第１画像を変換する（ステップＳ１０４）。具体的には、第１画像変換部１３は、例えば、記憶部１７から第１画像と第１変換パラメータとを読み出す。そして、第１画像変換部１３は、例えば、変換パラメータ算出部１２によって算出された第２変換パラメータにより第１変換パラメータが除された値を、読み出した第１画像を構成する各画素の画素値に乗じる。
【００８６】
続いて、追跡処理部１５は、ステップＳ１０４において変換された画像から初期領域の特徴量を抽出する（ステップＳ１０５）。具体的には、追跡処理部１５は、例えば、記憶部１７に記憶されている初期領域の位置を示す座標および大きさを示す値を読み出す。そして、追跡処理部１５は、例えば、読み出した座標および大きさを示す値を用いて初期領域を構成する複数の画素を特定する。そして、追跡処理部１５は、特定した各画素が有する色の頻度分布を表す色ヒストグラムを特徴量として抽出する。
【００８７】
次に、追跡処理部１５は、抽出した特徴量と最も類似する特徴量を有する領域を第２画像において探索することにより、対象物の像を含む領域である対象領域を特定する（ステップＳ１０６）。すなわち、追跡処理部１５は、対象領域を特定することによって、対象物の追跡を行う。具体的には、追跡処理部１５は、例えば、第２画像において位置および大きさを変更しながら領域を選択し、選択した領域の特徴量と初期領域の特徴量とを比較する。そして、追跡処理部１５は、比較した結果、選択した領域のうち最も特徴量の差異が小さい領域を対象領域として特定する。
【００８８】
また、変換パラメータ算出部１２は、第２変換パラメータよりも、連続して撮影された画像間における変化量が抑制された第３変換パラメータを算出する（ステップＳ１０７）。具体的には、変換パラメータ算出部１２は、旧第３変換パラメータと第３変換パラメータとの差分値が、旧第３変換パラメータと第２変換パラメータとの差分値以下となるように第３変換パラメータを算出する。
【００８９】
次に、第２画像変換部１４は、変換パラメータ算出部１２によって算出された第３変換パラメータを用いて、第２画像を変換する（ステップＳ１０８）。なお、ステップＳ１０７およびステップＳ１０８に示す処理は、ステップＳ１０４〜ステップＳ１０６に示す処理よりも先に実行されてもよい。また、ステップＳ１０７およびステップＳ１０８に示す処理は、ステップＳ１０４〜ステップＳ１０６に示す処理と並行して実行されてもよい。
【００９０】
最後に、出力部１６は、ステップＳ１０６において探索された対象領域を示す情報と、ステップＳ１０８において変換された後の画像とを出力する（ステップＳ１０９）。具体的には、出力部１６は、例えば、ステップＳ１０８において変換された後の画像に、対象領域の位置を示す枠を付加した画像を記憶部１７に登録する。
【００９１】
以上のステップＳ１０３〜Ｓ１０９までの処理を連続して撮影された画像ごとに繰り返すことにより、画像処理装置１０は、対象物の像を追跡することができる。
【００９２】
次に、各画素が有する色を変換するためのＲＧＢごとの変換係数を変換パラメータとして用いる場合の、画像処理装置１０における各種動作の具体例について説明する。
【００９３】
図４は、本発明の実施の形態に係る画像処理装置における動作の具体例を説明するための図である。具体的には、図４は、被写体である犬が屋外から屋内に移動することにより、犬を照らす光が太陽光から蛍光灯による光に変化した場合の処理を説明するための図である。
【００９４】
図４において、１行目には、撮像素子などから得られる画像である原画像が示されている。また、２行目には、目的画質を有する画像へ原画像を変換した場合の目的画質画像が示されている。なお、目的画質画像は、実際には生成される必要がない画像であるが、変換パラメータを説明するために示されている。また、３行目には、対象領域を探索する際に用いるために原画像４００を変換した画像である探索用画像が示されている。また、４行目には、表示部に表示するために原画像を変換した画像である出力用画像が示されている。
【００９５】
原画像４００は、第１画像に相当する画像であり、撮影開始時に撮影された画像である。また、原画像４００は、太陽光に照らされた犬が撮影された画像である。原画像４００において、追跡の対象となる対象物の像を含む領域として初期領域４０３がユーザによって指定されている。この初期領域４０３は、例えば、画像が表示されたタッチパネルにおいて、対象物の像をユーザがタッチすることにより指定される。
【００９６】
目的画質画像４０１は、第１変換パラメータＰ１を用いて第１画像を変換した場合の画像である。説明の便宜のため、図４において、目的画質画像４０１と原画像４００とは同一の画像である。
【００９７】
ここで第１変換パラメータＰ１は、変換パラメータ算出部１２によって算出される変換パラメータであり、光源の色温度に関わらず被写体の色を正確に写し出すためのＲＧＢごとの変換係数である。具体的には、変換パラメータ算出部１２は、例えば、既知の色域との相関を利用して、原画像４００から色温度パラメータを算出する（例えば、非特許文献１「センサ相関法によるシーン照明の色温度推定（電子情報通信学会論文誌Ｄ−ＩＩ、富永ら）」を参照）。なお、目的画質画像４０１を構成する各画素の画素値Ｖ２は、原画像４００を構成する各画素の画素値Ｖ１と第１変換パラメータＰ１とを用いて、（式１）のように表される。
【００９８】
【数１】
2010263584.tif 000003
【００９９】
出力用画像４０２は、第２画像変換部１４によって原画像４００が変換された画像であり、表示部に表示するための画像である。なお、原画像４００が撮影開始時の画像であるので、第３変換パラメータは第１変換パラメータと同一となる。したがって、第２画像変換部１４は、第１変換パラメータＰ１を用いて原画像４００を出力用画像４０２へ変換する。
【０１００】
原画像４１０は、第２画像に相当する画像であり、原画像４００の次に撮影された画像である。また、原画像４１０は、原画像４００と同一の犬が同一の背景において撮影された画像である。ただし、原画像４１０の光源は、原画像４００の光源とは異なり、蛍光灯である。つまり、原画像４１０は、原画像４００と異なる撮影環境において撮影された画像である。したがって、原画像４１０は、原画像４００と異なる画質の画像であり、原画像４００と同一の被写体像であっても異なる色を有する。
【０１０１】
目的画質画像４１１は、第２変換パラメータＰ２を用いて第１画像を変換した場合の画像である。ここで第２変換パラメータＰ１は、第１変換パラメータＰ１と同様に、変換パラメータ算出部１２によって算出される変換パラメータであり、光源の色温度に関わらず被写体の色を正確に写し出すためのＲＧＢごとの変換係数である。
【０１０２】
探索用画像４１２は、第１変換パラメータＰ１と第２変換パラメータＰ２との比を用いて、第１画像変換部１３により原画像４００が変換された画像である。つまり、探索用画像４１２は、原画像４１０と同等の画質を有する画像へ原画像４００が変換されたものである。具体的には、第１画像変換部１３は、（式２）にしたがって、ＲＧＢごとの各画素の画素値として画素値Ｖ１を有する原画像４００を、ＲＧＢごとの各画素の画素値として画素値Ｖ３を有する探索用画像４１２へ変換する。
【０１０３】
【数２】
2010263584.tif 000004
【０１０４】
追跡処理部１５は、このように変換された探索用画像４１２において、原画像４００における初期領域４０３と同等の位置および大きさの領域である領域４１５が有する特徴量を抽出する。そして、追跡処理部１５は、抽出した特徴量と最も類似する特徴量を有する領域を原画像４１０の中から探索する。探索の結果、追跡処理部１５は、原画像４１０内に示すように対象領域４１４を特定する。
【０１０５】
出力用画像４１３は、第３変換パラメータＰ３を用いて第２画像変換部１４により原画像４１０が変換された画像であって、原画像４１０において探索された対象領域４１４を示す情報である枠４１６が含まれる画像である。この第３変換パラメータＰ３は、第２変換パラメータＰ２よりも、旧第３変換パラメータＰ３ｐｒ（ここでは、第１変換パラメータＰ１）からの変化量が抑制された変換パラメータである。具体的には、第３変換パラメータＰ３は、例えば、（式３）を満たすパラメータである。なお、（式３）は、旧第３変換パラメータと第３変換パラメータとの間におけるＲＧＢごとの差分の絶対値の和が、第２変換パラメータと第３変換パラメータとのＲＧＢごとの差分の絶対値の和以下となることを示す。
【０１０６】
【数３】
2010263584.tif 000005
【０１０７】
より具体的には、第２変換パラメータＰ２と旧第３変換パラメータＰ３ｐｒとの変化量があらかじめ定められた閾値以下の場合は、変換パラメータ算出部１２は、第２変換パラメータＰ２を第３変換パラメータＰ３として算出する。一方、第２変換パラメータＰ２と旧第３変換パラメータＰ３ｐｒとの変化量があらかじめ定められた閾値より大きい場合は、変換パラメータ算出部１２は、第２変換パラメータＰ２と旧第３変換パラメータＰ３ｐｒとの変化量が当該閾値と等しくなる値を第３変換パラメータＰ３として算出する。
【０１０８】
原画像４２０および４３０は、原画像４１０と同一の撮影環境において、原画像４１０よりも時間的に後に撮影された画像である。また、目的画質画像４２１および４３１と探索用画像４２２および４３２と出力用画像４２３および４３３とは、原画像４２０および４３０に対応する画像である。
【０１０９】
すなわち、第２画像変換部１４は、時間的な変化量が抑制された第３変換パラメータを用いて、原画像４１０、４２０および４３０を、出力用画像４１３、４２３および４３３へ変換する。したがって、出力部１６は、図４に示すように、人間が異なる環境に徐々に適応する場合に認識する像と同様に、徐々に目的画質画像に変化する画像（出力用画像４１３、４２３および４３３）を出力することができる。
【０１１０】
次に、特徴量として色ヒストグラムを利用した場合における探索処理の具体例について説明する。
【０１１１】
図５（ａ）〜図５（ｃ）は、本発明の実施の形態に係る画像処理装置における探索に関する動作の具体例を説明するための図である。図５（ａ）には、第１画像５００と初期領域５０１とが示されている。初期色ヒストグラム５０２は、第１画像変換部１３によって変換された後の画像からを生成された初期領域５０１の色ヒストグラムである。
【０１１２】
なお、色ヒストグラムは、画像または画像の一部領域を構成する複数の画素が有する色の頻度の分布を示す情報である。例えば、色ヒストグラムの横軸は、ＨＳＶ（Ｈｕｅ  Ｓａｔｕｒａｔｉｏｎ  Ｖａｌｕｅ）色空間の色相（Ｈ）の値（０〜３６０）を２０分割したときの色の区分を示す。また、色ヒストグラムの縦軸は、各区分に属する画素の数（度数）を示す。各画素がどの色の区分に属するかは、各画素の色相（Ｈ）の値を区分の数で除したときの値の整数部分を用いて決定されればよい。
【０１１３】
また、区分の数は、必ずしも２０である必要はなく、１以上であればどのような数でもよい。ただし、初期領域に含まれる色が多いほど、区分の数が多くなることが好ましい。これにより、初期領域に含まれる色が多い場合には、小さな区分ごとの度数を用いて類似する領域を探索できるので、対象領域の特定の精度を向上させることができる。一方、初期領域に含まれる色が少ない場合には、大きな区分ごとの度数が記憶されるので、メモリの使用量を少なくすることができる。
【０１１４】
次に、図５（ｂ）に示すように、追跡処理部１５は、第１画像５００と時間的に連続する次の第２画像５１０において、探索領域５１１を決定する。具体的には、追跡処理部１５は、第１画像５００における対象領域（ここでは、初期領域５０１）を含み、かつ対象領域（ここでは、初期領域５０１）よりも大きい矩形領域を探索領域５１１と決定する。さらに具体的には、追跡処理部１５は、記憶部１７に格納されている、初期領域５０１の辺の長さおよび中心位置の座標を読み出す。そして、追跡処理部１５は、読み出した辺の長さよりも大きな矩形領域であって読み出した中心位置の座標を中心とする矩形領域を、探索領域と決定する。
【０１１５】
なお、探索領域の形状は、矩形である必要はなく、円形、六角形等の任意の形状でもよい。また、探索領域の大きさは、あらかじめ定められた大きさであってもよいし、フレームレートまたはシャッター速度が小さいほど大きくなるような大きさであってもよい。
【０１１６】
そして、追跡処理部１５は、探索領域５１１よりも小さな領域であって探索領域５１１内の領域である選択領域５１２を選択する。そして、追跡処理部１５は、選択した選択領域５１２の色ヒストグラムである選択色ヒストグラム５１３を抽出する。このとき、選択色ヒストグラム５１３は、初期色ヒストグラム５０２を用いて正規化されることが好ましい。具体的には、追跡処理部１５は、選択領域の色ヒストグラムにおける各区分の度数を、初期色ヒストグラム５０２の各区分の度数で除することにより、選択色ヒストグラム５１３を正規化することが好ましい。
【０１１７】
続いて、図５（ｃ）に示すように、追跡処理部１５は、初期色ヒストグラム５０２と選択色ヒストグラム５１３とが重なる部分である重複部分５２０の割合を類似度として算出する。具体的には、追跡処理部１５は、（式４）にしたがって類似度を算出する。
【０１１８】
【数４】
2010263584.tif 000006
【０１１９】
ここで、Ｒｉは、初期色ヒストグラム５０２におけるｉ番目の区分の度数である。一方、Ｉｉは、選択色ヒストグラム５１３におけるｉ番目の区分の度数である。ここでは、２０分割されているので、ｉは０から１９までの値となる。なお、重複部分５２０の割合が大きいほど類似度が示す類似度合いは高く、小さいほど類似度が示す類似度合いは低いことを示す。
【０１２０】
追跡処理部１５は、このように探索領域５１１内において位置および大きさを変更しながら選択領域５１２の選択および選択色ヒストグラム５１３の抽出を繰り返し、色ヒストグラムが重複部分５２０の割合が最も大きい選択領域５１２を対象領域として特定する。そして、追跡処理部１５は、対象領域の辺の長さおよび中心位置の座標を記憶部１７に登録する。
【０１２１】
以上のように、本実施の形態に係る画像処理装置１０は、撮影環境が変化することによって対象物の像を示す特徴量が変動した場合であっても、撮影環境に対応した第１および第２変換パラメータを用いて第１画像を変換した探索用画像を利用して対象領域を探索する。つまり、画像処理装置１０は、撮影環境の変化に徐々に追随するパラメータではなく、撮影環境の変化に即座に追随するパラメータを用いて、第２画像と同等の画質を有する画像となるように第１画像を変換した探索用画像を利用して対象領域を探索する。その結果、画像処理装置１０は、撮影環境の変化に関わらず、対象物の像を安定して追跡することが可能になる。
【０１２２】
さらに、画像処理装置１０は、撮影環境の変化に徐々に対応する第３変換パラメータを用いて変換した画像を出力することにより、ユーザが画像を見たときの違和感あるいは不快感を低減することも可能となる。
【０１２３】
また、画像処理装置１０は、第１および第２画像のうち第１画像のみを探索用画像へ変換するので、第１および第２画像の両方を変換するよりも、画像を変換する処理の負荷を軽減することが可能となる。
【０１２４】
また、画像処理装置１０は、ロバスト性の高い色ヒストグラムを用いて対象物の像を追跡できるので、対象物の像をより安定して追跡することが可能となる。
【０１２５】
以上、本発明に係る画像処理装置または電子カメラについて、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものも、本発明の範囲内に含まれる。
【０１２６】
例えば、上記実施の形態において、第１画像変換部１３は、第１画像を変換していたが、第１画像と同等の画質を有する画像となるように第２画像を変換してもよい。また、第１画像変換部１３は、変換後の画像の画質が互いに同等となるように第１画像および第２画像の両方を目的画質画像へ変換してもよい。具体的には、例えば、第１画像および第２画像のうち第２画像のみを変換する場合、第１画像変換部１３は、（式５）にしたがって、ＲＧＢごとの各画素の画素値として画素値Ｖ４を有する原画像４１０（第２画像）を、ＲＧＢごとの各画素の画素値として画素値Ｖ５を有する探索用画像へ変換する。そして、追跡処理部１５は、このように変換された探索用画像において、原画像４００における初期領域４０３から抽出される特徴量と最も類似する領域を探索する。
【０１２７】
【数５】
2010263584.tif 000007
【０１２８】
また、上記実施の形態において、第１画像変換部１３は、第１画像のすべてを変換していたが、第１画像のうち初期領域に含まれる画像のみを変換してもよい。これにより、画像処理装置１０は、第１画像変換部１３の処理の負荷を軽減させることができる。またこの場合、記憶部１７には、初期領域に関する情報として、初期領域を構成する各画素の画素値が記憶されればよい。これにより、画像処理装置１０は、第１画像のすべてを記憶する場合よりも、記憶部１７の記憶容量を削減できる。
【０１２９】
また、記憶部１７には、初期領域に関する情報として、初期領域から抽出される特徴量が記憶されてもよい。この場合、第１画像変換部１３は、第１画像を変換する代わりに、初期領域の特徴量を変換する。これにより、追跡処理部１５は、撮影された画像において対象領域を探索するたびに初期領域の特徴量を抽出する必要がなくなるので、追跡処理部１５の負荷を軽減できる。
【０１３０】
また、上記実施の形態において、追跡処理部１５は、特徴量として色ヒストグラムを抽出していたが、例えば、輝度ヒストグラムを特徴量として抽出してもよい。この場合、追跡処理部１５は、初期領域から得られる輝度ヒストグラムと選択領域から得られる輝度ヒストグラムとを比較することにより、類似度を算出する。
【０１３１】
また、上記の画像処理装置を構成する構成要素の一部または全部は、１個のシステムＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ：大規模集積回路）から構成されてもよい。システムＬＳＩは、複数の構成部を１個のチップ上に集積して製造された超多機能ＬＳＩであり、具体的には、マイクロプロセッサ、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）およびＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）などを含んで構成されるコンピュータシステムである。例えば、図１に示すように、初期領域取得部１１と、変換パラメータ算出部１２と、第１画像変換部１３と、第２画像変換部１４と、追跡処理部１５と、出力部１６とは、１個のシステムＬＳＩ３０から構成されてもよい。
【０１３２】
また、本発明は、上記のような画像処理装置として実現するだけでなく、図２に示すように、画像処理装置が備える特徴的な構成部を備える電子カメラとして実現してもよい。またさらに、本発明は、画像処理装置が備える特徴的な構成部の動作をステップとする画像処理方法として実現してもよい。また、本発明は、そのような画像処理方法に含まれるステップをコンピュータに実行させるプログラムとして実現してもよい。そして、そのようなプログラムは、ＣＤ−ＲＯＭ等の記録媒体またはインターネット等の伝送媒体を介して配信してもよい。
【産業上の利用可能性】
【０１３３】
本発明に係る電子カメラまたは撮像装置等は、追跡の対象となる対象物が写っている領域を特定することにより対象物の像を追跡する、デジタルビデオカメラ、デジタルスチルカメラ、監視用カメラ、車載用カメラ、またはカメラ機能を備えた携帯電話などに有用である。
【符号の説明】
【０１３４】
１０  画像処理装置
１１  初期領域取得部
１２  変換パラメータ算出部
１３  第１画像変換部
１４  第２画像変換部
１５  追跡処理部
１６  出力部
１７  記憶部
３０  システムＬＳＩ
１００  電子カメラ
１０１  撮影レンズ
１０２  シャッター
１０３  撮像素子
１０４  ＡＤ変換器
１０５  タイミング発生回路
１０６  画像処理回路
１０７  メモリ制御回路
１０８  画像表示メモリ
１０９  ＤＡ変換器
１１０  画像表示部
１１１、１２０  メモリ
１１２  リサイズ回路
１１３  システム制御回路
１１４  露光制御部
１１５  測距制御部
１１６  ズーム制御部
１１７  バリア制御部
１１８  フラッシュ
１１９  保護部
１２１  表示部
１２２  不揮発性メモリ
１２３  モードダイアルスイッチ
１２４  シャッタースイッチ
１２５  電源制御部
１２６、１２７、１３１、１３２  コネクタ
１２８  電源
１２９、１３０  インタフェース
１３３  記録媒体
１３４  光学ファインダ
１３５  通信部
１３６  アンテナ
１３７  初期領域取得回路
１３８  変換パラメータ算出回路
１３９  第１画像変換回路
１４０  第２画像変換回路
１４１  追跡処理回路
１４２  追跡結果描画回路
１４３  カメラ制御回路
４００、４１０、４２０、４３０  原画像
４０１、４１１、４２１、４３１  目的画質画像
４０２、４１３、４２３、４３３  出力用画像
４０３  初期領域
４１２、４２２、４３２  探索用画像
４１４  対象領域
４１５  領域
４１６  枠
５０１  初期領域
５０２  初期色ヒストグラム
５１１  探索領域
５１２  選択領域
５１３  選択色ヒストグラム
５２０  重複部分
【図１】
2010263584.tif 000008
【図２】
2010263584.tif 000009
【図３】
2010263584.tif 000010
【図４】
2010263584.tif 000011
【図５】
2010263584.tif 000012