(57)【要約】  画像処理装置は、抽出部、分割部、指定部を備える。抽出部は、第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する。分割部は、前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する。指定部は、前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する。
2011141990.tif 000002
【特許請求の範囲】
【請求項１】
第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する抽出部と、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する分割部と、
前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する指定部、
を有する画像処理装置。
【請求項２】
請求項１に記載の画像処理装置であって、
前記分割部は、前記注目点の位置に応じて決まる探索開始画素から前記注目領域の輪郭を探索する輪郭探索処理を、前記注目領域の外周から内側方向に向かって順番に、新たな輪郭を探索できなくなるまで実行し、最後に探索した輪郭のための探索開始画素の位置に基づいて前記第１の部分領域を検出する
ことを特徴とする画像処理装置。
【請求項３】
請求項２に記載の画像処理装置であって、
前記分割部は、前記最後に探索した輪郭のための探索開始画素の位置、および前記輪郭探索処理により探索した輪郭の数に基づいて、前記第１の部分領域を検出する
ことを特徴とする画像処理装置。
【請求項４】
請求項２または３に記載の画像処理装置であって、
前記指定部は、前記分割部が最後に探索した輪郭のための探索開始画素を、前記第２の画像フレームの注目点として指定する
ことを特徴とする画像処理装置。
【請求項５】
請求項１に記載の画像処理装置であって、
前記分割部は、前記注目領域の外周から内側方向に向かって順番に、前記注目点の位置に応じて決まる探索開始画素から前記注目領域の輪郭探索を開始して２以上の輪郭を探索する輪郭探索処理において、各輪郭の画素数をカウントし、前記画素数の変化が所定の条件を満たしたときの輪郭に基づいて前記第１の部分領域を検出する
ことを特徴とする画像処理装置。
【請求項６】
請求項５に記載の画像処理装置であって、
前記指定部は、前記画素数の変化が所定の条件を満たしたときの輪郭の内側領域の中心位置の画素を、前記第２の画像フレームの注目点として指定する
ことを特徴とする画像処理装置。
【請求項７】
請求項１〜６のいずれか１つに記載の画像処理装置であって、
前記第１の画像フレームは、第１の撮影時刻における撮影により生成され、
前記第２の画像フレームは、前記第１の撮影時刻の次の撮影時刻における撮影により生成される
ことを特徴とする画像処理装置。
【請求項８】
コンピュータに、
第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する工程、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する工程、
前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する工程、
を実行させることを特徴とする画像処理プログラム。
【請求項９】
画像入力部と、
前記画像入力部による生成された第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する抽出部と、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する分割部と、
前記第１の部分領域内の所定の画素を、前記画像入力部により生成される第２の画像フレームの注目点として指定する指定部と、
前記第１の部分領域に基づいて前記画像入力部を制御する制御部、
を有するデジタルカメラ。
【請求項１０】
第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出し、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割し、
前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する、
ことを特徴とする画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタルカメラにより得られる画像データを処理する画像処理装置および画像処理プログラムに係わる。
【背景技術】
【０００２】
従来より、移動する被写体を追尾する機能を備えるデジタルカメラ（または、電子カメラ）が知られている。このようなデジタルカメラは、例えば、ユーザが所望する被写体が動く場合であっても、その被写体を追尾してフォーカスを保持することができる。【０００３】
従来技術として、無彩色を含む複数の色成分領域を持つ動領域の検出・追尾を安定的に行う動領域自動追尾装置が知られている。この動領域自動追尾装置は、動領域検出手段、色特徴抽出手段、色領域再構成手段、色特徴・位置情報登録手段、色特徴マッチング動物体検出手段、カメラ制御部を備える。動領域検出手段は、撮像された時間的に異なる複数フレームからフレーム間差分処理で複数の動領域を検出する。色特徴抽出手段は、各動領域を小領域に分割し、動物体の面積が所定割合以上を占める小領域の色特徴を抽出する。色領域再構成手段は、抽出された色特徴から、検出した動領域を複数の色領域からなる動領域として再構成する。色特徴・位置情報登録手段は、再構成された動領域の色特徴と位置を登録する。色特徴マッチング動物体検出手段は、登録された色特徴と位置とから新たな動領域を検出するとともに当該動領域を色特徴・位置情報登録手段に出力する。カメラ制御部は、新たな動領域からＣＣＤカメラ２の制御条件を決定して追尾処理を行う。（例えば、特許文献１）【０００４】
また、関連技術として、複数個の粒状物体が接触した画像から種々形状の各粒状物体を分離する方法が知られている。この方法によれば、撮像装置により撮像された薬剤の画像は二値化される。デジタル画像解析判定手段は、二値画像において薬剤に対応する塊領域の輪郭線の近傍部位に複数個の参照点を分散して配置した後、互いに他の参照点同士を連結した連結線分を生成したときにどの連結線分も塊領域の外を通らない参照点の組合せを１つのグループとしてすべての参照点にグループを対応付けるグループ化を行い、参照点のグループと二値画像内における薬剤の画像領域である個別領域とを一対一に対応付けることにより、薬剤に関する検査項目を検査する。（例えば、特許文献２）【０００５】
さらに、他の関連技術として、正確に細菌を判定する形状判定方法が知られている。この方法は、撮像した画像から形状判定を行う検査対象物の領域を抽出し、前記検査対象物の輪郭を算出し、前記検査対象物の中心線を算出し、前記中心線の形状から前記検査対象物の曲がり部分を検出し、前記曲がり部分を除く領域の前記検査対象物の太さを、前記輪郭算出工程で算出した輪郭から算出し、前記太さの平均値を算出し、前記太さのばらつき度合いを算出し、前記中心線の長さから前記検査対象物の長さを算出し、前記太さ平均値と、前記太さばらつき度合いと、前記検査対象物の長さから前記検査対象物の形状を判定する。（例えば、特許文献３）
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開平１１−１３６６６４号公報
【特許文献２】特開２００４−２３４１３２号公報
【特許文献３】特開２００８−２９８７０６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
従来の技術においては、画像データ上に同一または類似の色成分を有する複数の領域が存在する場合、各領域を適切に認識できないことがある。例えば、追尾対象の第１の被写体および追尾対象でない第２の被写体がデジタルカメラで撮像される場合を考える。ここで、第１および第２の被写体の色が互いに類似しているものとする。そして、動体追尾装置は、デジタルカメラで得られた画像データの色成分を利用して、第１の被写体を追尾するものとする。この場合、第１および第２の被写体に対応する色領域が画像データ上で重なり合うと、１つの色領域が検出されることとなり、第１の被写体を第２の被写体から識別して追尾することは困難である。また、第１および第２の被写体に対応する色領域が画像データ上でいったん重なり合った後に分離すると、動体追尾装置は、以降、誤って第２の被写体を追尾してしまうおそれがある。【０００８】
なお、上述した関連技術においては、被写体の形状または大きさが既知である場合が想定されている。すなわち、被写体の形状が未知である場合は、目標物体を正しく追尾できないことがある。【０００９】
本発明の課題は、画像データを利用する動体追尾において、追尾対象の物体に対応する画像領域を精度よく検出することである。
【課題を解決するための手段】
【００１０】
本発明の１つの態様に係る画像処理装置は、第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する抽出部と、前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する分割部と、前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する指定部、を有する。
【発明の効果】
【００１１】
開示の装置または方法によれば、画像データを利用する動体追尾において、追尾対象の物体に対応する画像領域を精度よく検出できる。
【図面の簡単な説明】
【００１２】
【図１】実施形態の画像処理装置を含むデジタルカメラの構成を示す図である。
【図２】デジタルカメラによる動体追尾について説明する図である。
【図３】実施形態の画像処理方法を示すフローチャートである。
【図４】抽出部により抽出された注目領域の一例を示す図である。
【図５Ａ】動体追尾方法の実施例について説明する図（その１）である。
【図５Ｂ】動体追尾方法の実施例について説明する図（その２）である。
【図５Ｃ】動体追尾方法の実施例について説明する図（その３）である。
【図５Ｄ】動体追尾方法の実施例について説明する図（その４）である。
【図５Ｅ】動体追尾方法の実施例について説明する図（その５）である。
【図５Ｆ】動体追尾方法の実施例について説明する図（その６）である。
【図５Ｇ】動体追尾方法の実施例について説明する図（その７）である。
【図６】図５Ａ〜図５Ｇに示す画像フレームの次の画像フレームを示す図である。
【図７】第１の実施形態の画像処理方法を示すフローチャートである。
【図８】第２の実施形態において追尾対象領域を抽出する方法を説明する図である。
【図９】第２の実施形態の画像処理方法を示すフローチャートである。
【図１０】実施形態の画像処理装置のハードウェア構成を示す図である。
【発明を実施するための形態】
【００１３】
図１は、実施形態の画像処理装置を含むデジタルカメラ１の構成を示す図である。デジタルカメラ（電子カメラ）１は、画像入力部１１、制御部１２、動体追尾部１３、出力部１４を備える。
【００１４】
画像入力部１１は、例えば、ＣＣＤセンサまたはＣＭＯＳセンサ等の撮像素子を含み、撮影によって画像データを生成する。このとき、画像入力部１１は、所定の時間間隔で画像データを取得する。すなわち、画像入力部１１は、撮影時刻の異なる画像データを次々と生成して出力する。この時間間隔は、特に限定されるものではないが、例えば、３０フレーム／秒程度である。また、画像入力部１１は、制御部１２からのフォーカス指示に従って焦点距離を調節する機能を備えている。なお、画像入力部１１は、画像データを一時的に保存する画像メモリを備えてもよい。
【００１５】
制御部１２は、デジタルカメラ１の動作を制御する。すなわち、制御部１２は、動体追尾部１３を起動すると共に、画像入力部１１から出力される画像データを動体追尾部１３に転送して動体追尾処理を依頼する。そして、制御部１２は、動体追尾部１３による追尾結果に基づいて、画像入力部１１に対してフォーカス指示を送る。また、制御部１２は、画像入力部１１により得られる画像データおよび動体追尾部１３による追尾結果を出力部１４に送信する。
【００１６】
なお、制御部１２は、他の制御動作も実行する。例えば、制御部１２は、ユーザインタフェースを提供し、ユーザからの指示に従ってデジタルカメラ１の動作を制御する。さらに、制御部１２は、デジタルカメラ１が備える各種センサを利用して、デジタルカメラ１の動作を制御するようにしてもよい。
【００１７】
出力部１４は、例えば液晶ディスプレイであり、画像入力部１１により得られる画像データを表示する。このとき、出力部１４は、画像入力部１１により得られる画像データに動体追尾部１３による追尾結果を重ねて表示することができる。なお、画像入力部１１により得られる画像データに追尾結果を表す画像データを合成する処理は、制御部１２により実行されてもよいし、出力部１４により実行されてもよい。また、出力部１４は、タッチパネル素子を利用して、ユーザの指示を受け付ける機能を提供するようにしてもよい。出力部１４に表示される画像データは、画像入力部１１により得られた画像データであるが、この画像データが実際に撮影された画像データとして記憶されなくても良い。すなわち、出力部１４は、画像入力部１１により得られた画像データをファインダ画像として表示できる。
【００１８】
動体追尾部１３は、画像入力部１１から出力される画像データを利用して、動体追尾処理を実行する。すなわち、動体追尾部１３は、画像処理装置により実現される。ここで、画像処理装置は、例えば、動体追尾手順を記述した画像処理プログラムを実行するプロセッサを含む１または複数の半導体チップにより実現される。或いは、画像処理装置は、動体追尾手順を実現するハードウェア回路により実現されてもよい。さらに、画像処理装置は、ハードウェアおよびソフトウェアを含んでもよい。
【００１９】
図２は、デジタルカメラ１による動体追尾について説明する図である。ここでは、画像入力部１１により時刻Ｔ、Ｔ＋１、Ｔ＋２において撮影が行われ、画像フレームｎ、ｎ＋１、ｎ＋２が生成される。このとき、出力部１４は、画像フレームｎ、ｎ＋１、ｎ＋２を順番に表示する。また、各画像フレームには、被写体Ａおよび物体Ｂに対応する画像領域が形成されている。この例では、被写体Ａは動体であり、物体Ｂは非動体である。
【００２０】
ユーザは、例えば、出力部１４に表示される画像を見ながら、フォーカスしたい被写体を指定するものとする。ここでは、ユーザは、被写体Ａを選択するものとする。そして、被写体Ａを選択するユーザ指示は、制御部１２により受け付けられる。そうすると、制御部１２は、このユーザ指示に応じて、画像入力部１１に対してフォーカス指示を与える。これにより、画像入力部１１は、被写体Ａに対応する焦点距離で次の撮影を行う。また、制御部１２は、出力部１４に対して、フォーカスマークの表示を指示する。これにより、出力部１４により表示される画像において、被写体Ａに重ねてフォーカスマーク３１が表示される。
【００２１】
動体追尾部１３は、画像入力部１１から出力される画像データを利用して、ユーザにより指定された被写体Ａを追尾する。このとき、動体追尾部１３は、各画像フレームｎ、ｎ＋１、ｎ＋２において、それぞれ被写体Ａに対応する画像領域を検出する。そして、動体追尾部１３による追尾結果は、制御部１２に送られる。
【００２２】
制御部１２は、上述したように、動体追尾部１３による追尾結果に応じて画像入力部１１へフォーカス指示を送ると共に、その追尾結果を出力部１４に通知する。これにより、画像入力部１１は、被写体Ａが動いている場合であっても、被写体Ａに対するフォーカスを維持しながら撮影動作を継続することができる。また、出力部１４により表示される画像において、フォーカスマーク３１の表示位置は、被写体Ａの動きに応じて制御される。すなわち、図２に示すように、被写体Ａに対応する画像領域にフォーカスマーク３１が重ねて表示される状態が維持される。
【００２３】
図３は、実施形態の画像処理方法を示すフローチャートである。このフローチャートの処理は、動体追尾部１３により実行される。また、このフローチャートの処理は、画像入力部１１により得られる各画像フレームに対して実行される。
【００２４】
ステップＳ１においては、領域抽出処理が実行される。すなわち、動体追尾部１３は、入力画像フレームにおいて、所定の条件を満たす画像領域を抽出する。なお、領域抽出処理は、例えば、公知の方法を利用して実現してもよい。
【００２５】
ステップＳ２においては、物体範囲判別処理が実行される。すなわち、動体追尾部１３は、ステップＳ１で抽出された画像領域から、追尾対象物体の画像領域を判別する。
ステップＳ１の領域抽出処理は、例えば、所定の色成分を有する画像領域を抽出する。ここで、図２に示す被写体Ａおよび物体Ｂに対応する画像領域の色成分が互いに類似しているものとする。この場合、ステップＳ１において、被写体Ａに対応する画像領域を抽出しようとすると、被写体Ａに対応する画像領域および物体Ｂに対応する画像領域の双方が抽出される。そうすると、ステップＳ２の物体範囲判別処理は、ステップＳ１で抽出された画像領域から、追尾対象物体である被写体Ａに対応する画像領域の範囲を判別する。
【００２６】
動体追尾部１３は、上述の画像処理方法を提供するために、抽出部２１、分割部２２、指定部２３を備える。また、動体追尾部１３は、図示しないが、画像フレームを一時的に格納するメモリ、および抽出部２１、分割部２２、指定部２３が画像処理のための作業領域として使用するメモリを備えている。
【００２７】
抽出部２１は、入力画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する。注目点は、後で詳しく説明するが、直前の画像フレームにおいて指定された画素（または、座標）である。ただし、注目点の初期値は、例えば、ユーザにより指定される。ユーザは、出力部１４に表示される画像を見ながら、フォーカスしたい被写体を指定することができる。この場合、注目点の初期値として、ユーザにより指定された被写体に対応する画像領域の中心（または、重心）が使用される。
【００２８】
「所定の条件」は、この例では、画素の特徴量により表わされる。画素の特長量としては、例えば、輝度成分および／または色差成分が使用される。そして、抽出部２１は、注目点の画素と同じまたは類似する特徴量を有する画素を抽出する。一例として、画素の輝度成分が０〜２５５で表わされるときに、注目点の画素の輝度成分が「２１０」であるものとする。この場合、抽出部２１は、例えば、入力画像フレームにおいて、輝度成分の値が２００から２２０の範囲にある画素を抽出する。また一例として、画素の色成分がＲＧＢのそれぞれについて０〜２５５で表わされるときに、注目点の画素のＲ成分が「１００」、Ｇ成分が「１４０」、Ｂ成分が「８５」であるものとする。この場合、抽出部２１は、例えば、入力画像フレームにおいて、Ｒ成分の値が９０から１１０の範囲、Ｇ成分が１３０から１５０の範囲、Ｂ成分が７５から９５の範囲の３つの条件を満たす画素を抽出する。また一例として、画素の色成分が輝度、彩度、色相の３成分から表されるときに、同様に各成分の範囲を決めて、その範囲の条件を満たす画素を抽出するようにしてもよい。
【００２９】
このとき、抽出部２１は、注目点を含む連続する画像領域を抽出する。したがって、抽出部２１は、例えば、以下の手順により注目領域を抽出する。
（１）注目点画素の特徴量を検出する。
（２）注目点の隣接画素（上、下、右、左）の特徴量と、注目点画素の特徴量との差分が閾値よりも小さければ、その隣接画素を注目領域に属する画素として抽出する。
（３）上記手順（２）により抽出された画素の隣接画素について、上記手順（２）と同様の抽出処理を行う。
（４）入力画像フレーム全域に渡って上記手順（２）〜（３）の処理を実行する。
【００３０】
上記手順（１）〜（４）により、入力画像フレームにおいて、注目点画素と類似する特徴量を有する連続した画素領域（すなわち、注目領域）が抽出される。なお、注目領域の抽出は、特に限定されるものではないが、公知の方法により実現することができる。
【００３１】
図４は、抽出部２１により抽出された注目領域の一例を示す図である。図４において、★印は、注目点を表している。また、斜線で描かれている領域は、抽出部２１により抽出された注目領域を表している。この例では、注目領域３２は、注目点を含む四角形領域３２ａ、大きな四角形領域３２ｂ、および四角形領域３２ａ、３２ｂ間を接続する接続領域３２ｃを含んでいる。なお、接続領域３２ｃの幅（図４においては、高さ）は、注目領域３２の他の領域（すなわち、四角形領域３２ａ、３２ｂ）と比較して、狭くなっている。
【００３２】
ここで、追尾対象物体としての被写体が移動し、画像フレーム上で、追尾対象物体に対応する画像領域が、他の物体に対応する画像領域に接近して接するまたは重なる状況について考える。一例として、図２において、被写体Ａに対応する画像領域および物体Ｂに対応する画像領域の色成分が互いに類似しているものとする。そして、注目点は、被写体Ａの画像領域内に配置されているものとする。なお、以下の説明では、被写体Ａに対応する画像領域を「画像領域Ａ」と呼び、物体Ｂに対応する画像領域を「画像領域Ｂ」と呼ぶことにする。
【００３３】
この場合、図２に示す画像フレームｎ、ｎ＋１においては、注目領域として画像領域Ａが抽出される。すなわち、画像領域Ａおよび画像領域Ｂが互いに離れた位置に配置されているので、抽出部２１は、画像領域Ｂを抽出することなく、画像領域Ａのみを抽出することができる。
【００３４】
ところが、画像フレームｎ＋２においては、画像領域Ａおよび画像領域Ｂが互いに接している。そうすると、抽出部２１は、注目領域として、画像領域Ａおよび画像領域Ｂを抽出する。このとき、画像領域Ａおよび画像領域Ｂが互いに接する領域の幅は、一般に、注目領域の他の領域（すなわち、画像領域Ａまたは画像領域Ｂ）の幅と比較して狭くなる。換言すれば、注目領域において幅が狭い領域が存在する場合は、注目領域が、追尾対象物体に対応する画像領域および他の物体に対応する画像領域を含んでいる可能性が高い。さらに、この注目領域を、幅が狭い部分で分割すれば、追尾対象物体に対応する画像領域および他の物体に対応する画像領域が互いに分離されることになる。
【００３５】
動体追尾部１３の分割部２２は、上述の画像領域の分割を実行する。すなわち、分割部２２は、注目領域の幅が狭い部分で、その注目領域を、注目点を含む第１の部分領域および注目点を含まない第２の部分領域に分割する。例えば、図４に示す注目領域３２が抽出されている場合には、「注目領域の幅が狭い部分」は、接続領域３２ｃに相当する。そうすると、分割部２２は、注目領域３２を接続領域３２ｃにおいて分割することにより、四角形領域３２ａおよび四角形領域３２ｂを生成する。ここで、注目点は、四角形領域３２ａに配置されている。よって、この場合、分割部２２は、四角形領域３２ａを、追尾対象物体に対応する画像領域（あるいは、追尾対象物体の一部に対応する画像領域）と判定する。このように、分割部２２は、入力画像フレームにおいて、追尾対象に対応する画像領域を検出する。以下、このようにして検出される追尾対象に対応する画像領域を「追尾対象領域」と呼ぶことがある。
【００３６】
指定部２３は、分割部２２により特定された第１の部分領域内の所定の画素を、次の画像フレームの注目点として指定する。図４に示す例では、指定部２３は、四角形領域３２ａ内の所定の画素を、次の画像フレームの注目点として指定する。このとき、指定部２３は、例えば、四角形領域３２ａの中心画素（または、重心画素）を、次の画像フレームに対する画像処理おいて使用する注目点として指定する。
【００３７】
このように、指定部２３は、入力画像フレームにおいて検出される追尾対象領域内の所定の画素を、次の画像フレームで使用する注目点として指定する。このとき、画像入力部１１は、短い時間間隔で時系列に画像フレームを生成する。このため、追尾対象としての被写体が動いている場合であっても、連続する２枚の画像フレーム間で、その被写体の画像領域の位置の差異は小さい。したがって、各画像フレームにおいて次の画像フレームのための注目点として指定される画素は、次の画像フレームにおいて追尾対象領域内に配置される可能性が高い。
【００３８】
動体追尾部１３は、各画像フレームに対して上述の処理を実行する。すなわち、動体追尾部１３は、直前の画像フレームに対する処理により指定された注目点を利用して、入力画像フレームにおいて追尾対象領域を検出し、さらに、新たに検出した追尾対象領域に基づいて次の画像フレームの注目点を指定する。したがって、動体追尾部１３は、各画像フレームにおいて追尾対象領域を検出することができる。すなわち、動体の追尾が実現される。
【００３９】
このように、動体追尾部１３は、各画像フレームにおいて追尾対象領域を検出し、検出した追尾対象領域を追尾結果として制御部１２に通知する。ここで、動体追尾部１３は、追尾結果を出力する出力部を備える。すなわち、出力部は、各画像フレームについて分割部２２により検出される追尾対象領域を、順次、制御部１２に通知する。そうすると、制御部１２は、通知された追尾対象領域に対応する被写体に焦点を合わせるためのフォーカス指示を画像入力部１１に与える。これにより、画像入力部１１は、追尾対象としての被写体が動いている場合であっても、その被写体に対するフォーカスを維持しながら撮影動作を継続することができる。
【００４０】
なお、動体追尾部１３の分割部２２が注目領域から追尾対象の画像領域を検出する方法は、特に限定されるものではなく、いくつかの手順が考えられる。以下では、第１の実施形態および第２の実施形態について説明する。
【００４１】
＜第１の実施形態＞
図５Ａ〜図５Ｇは、動体追尾方法の実施例について説明する図である。ここでは、直前の画像フレームに対する画像処理により、入力画像フレームに対する注目点が指定されているものとする。入力画像フレームに対する注目点は、図５Ａにおいては、★印で表わされている。また、入力画像フレームにおいて、抽出部２１により注目領域３２が抽出されている。注目領域３２は、例えば、注目点の画素と同じまたは類似の色成分を有する画像領域として抽出される。なお、以下の説明においても、図４と同様に、注目領域３２は、四角形領域３２ａ、３２ｂ、接続領域３２ｃにより形成されているものとする。
【００４２】
分割部２２は、まず、図５Ａに示すように、注目領域３２の輪郭上で、注目点から最も近い地点の画素を抽出する。以下の説明では、このようにして抽出される画素を「探索開始画素」と呼ぶことにする。探索開始画素は、例えば、注目点から上方向、右上方向、右方向、右下方向、下方向、左下方向、左方向、左上方向に向かってそれぞれ注目領域３２の端部画素（すなわち、輪郭画素）を探索したときに、注目点からの距離が最小となる端部画素を選択することで検出される。図５Ａに示す例では、探索開始画素Ｐ１が検出されている。
【００４３】
分割部２２は、第１回目の輪郭探索を行う。すなわち、分割部２２は、図５Ｂに示すように、探索開始画素Ｐ１から注目領域３２の輪郭上の各画素を抽出する。このとき、輪郭探索は、例えば、探索開始画素Ｐ１からスタートして反時計回りに注目領域３２の外周を辿って探索開始画素Ｐ１に戻る経路により実現される。あるいは、時計回りに注目領域３２の外周を辿る経路であってもよい。これにより、注目領域３２の輪郭が検出される。なお、以下の説明では、第１回目の輪郭探索で得られる輪郭を「輪郭１」と呼ぶ。また、第ｉ回目の輪郭探索で得られる輪郭を「輪郭ｉ」と呼ぶことがある。
【００４４】
続いて、分割部２２は、第２回目の輪郭探索を行う。すなわち、分割部２２は、図５Ｂに示す輪郭１の内側に隣接する各画素を抽出する。このとき、探索開始画素Ｐ２は、例えば、第１回目の輪郭探索と同じ方法で決定される。あるいは、第２回目の探索開始画素Ｐ２として、第１回目の輪郭探索における探索開始画素Ｐ１から見て注目領域の内側方向に隣接する画素が選択されてもよい。これにより、図５Ｃに示すように、輪郭２が検出される。
【００４５】
さらに、分割部２２は、第３回目の輪郭探索を行う。すなわち、分割部２２は、図５Ｃに示す輪郭２の内側に隣接する各画素を抽出する。このとき、探索開始画素Ｐ３は、例えば、第２回目の輪郭探索と同様の方法で決定される。この例では、図５Ｄに示すように、第３回目の輪郭探索における探索開始画素Ｐ３は、注目点画素と一致している。
【００４６】
第３回目の輪郭探索においては、上述したように、図５Ｃに示す輪郭２の内側に隣接する各画素が抽出される。ところが、図５Ｃに示すように、接続領域３２ｃにおいては、四角形領域３２ａから四角形領域３２ｂへ向かう輪郭２および四角形領域３２ｂから四角形領域３２ａへ向かう輪郭２が互いに接しており、輪郭２の「内側」に画素は存在しない。したがって、探索開始画素Ｐ３から輪郭探索を開始すると、輪郭３は、図５Ｄに示すように、四角形領域３２ｂにまで伸びることなく、四角形領域３２ａ内の画素を抽出しながら探索開始画素Ｐ３に戻ることになる。
【００４７】
この後、分割部２２は、探索開始画素を抽出できなくなるまで、上述の輪郭探索を繰り返し実行する。すなわち、分割部２２は、第４回目の輪郭探索として、図５Ｄに示す輪郭３の内側に隣接する各画素を抽出する。この例では、図５Ｅに示す探索開始画素Ｐ４から輪郭探索が行われ、輪郭４が検出される。さらに、分割部２２は、第５回目の輪郭探索として、図５Ｅに示す輪郭４の内側に隣接する各画素を抽出する。この例では、図５Ｆに示す探索開始画素Ｐ５から輪郭探索が行われ、輪郭５が検出される。
【００４８】
ここで、図５Ｆに示す輪郭５の「内側」には、画素は存在しない。このため、分割部２２は、輪郭５の内側に隣接する画素を抽出することはできず、また、次の輪郭探索のための探索開始画素を抽出することもできない。そうすると、分割部２２は、輪郭探索を終了する。
【００４９】
続いて、分割部２２は、最後の輪郭探索において使用した探索開始画素を基準画素Ｒとして、追尾対象領域を作成する。この例では、第５回目の輪郭探索で使用された図５Ｆに示す検索開始画素Ｐ５が基準画素Ｒとして指定される。このとき、基準画素Ｒは、追尾対象物体の代表位置座標に相当する。
【００５０】
追尾対象領域は、上述の基準画素Ｒを中心として、輪郭探索の得られた輪郭の数に対応する画素範囲に相当する。この実施例では、第１〜第５回目の輪郭探索により輪郭１〜５が得られている。したがって、図５Ｇに示すように、基準画素Ｒの周りに周辺画素領域Ｘ１〜Ｘ５を生成することで、追尾対象領域が作成される。
【００５１】
周辺領域Ｘ１は、基準画素Ｒに隣接する画素を抽出することにより得られる。また、周辺領域Ｘ２は、周辺領域Ｘ１の外側に隣接する画素を抽出することにより得られる。同様に、周辺領域Ｘ３、Ｘ４、Ｘ５は、それぞれ、周辺領域Ｘ２、Ｘ３、Ｘ４の外側に隣接する画素を抽出することにより得られる。
【００５２】
このように、分割部２２は、図５Ｇに示す追尾対象領域を作成する。ここで、この追尾対象領域は、注目領域３２の一部である四角形領域３２ａに一致（または、ほぼ一致）する。このため、注目領域３２から追尾対象領域を作成する処理は、実質的に、注目領域３２を、四角形領域３２ａとその他の領域に分割する処理に相当する。或いは、注目領域３２から追尾対象領域を作成する処理は、実質的に、注目領域３２から、四角形領域３２ａを抽出する処理に相当する。
【００５３】
上述のようにして追尾対象領域が作成されると、指定部２３は、次の画像フレームのための注目点を指定する。このとき、指定部２３は、追尾対象領域を作成するために使用した基準画素Ｒを、次の画像フレームのための注目点として指定する。すなわち、分割部２２が最後に探索した輪郭５のための探索開始画素Ｐ５が、次の画像フレームのための注目点として指定される。
【００５４】
図６は、図５Ａ〜図５Ｇに示す画像フレームの次の画像フレームを示す図である。図６において、★印で表わされる注目点は、図５Ｇに示す基準画素Ｒ（すなわち、探索開始画素Ｐ５）と同じ位置である。
【００５５】
動体追尾部１３は、この注目点を基準として、注目領域を抽出する。図６に示す実施例では、注目領域３３が抽出されている。また、注目領域３３は、四角形領域３３ａ、四角形領域３３ｂ、接続領域３３ｃにより形成されている。
【００５６】
さらに、動体追尾部１３は、注目領域３３に対して輪郭探索を実行することにより、追尾対象領域を作成する。このとき、注目点は、四角形領域３３ａに配置されている。したがって、図５Ａ〜図５Ｇに示す実施例と同様に、注目領域３３から四角形領域３３ａを抽出することにより、追尾対象領域が特定される。
【００５７】
ここで、四角形領域３３ｂは、図５Ａに示す四角形領域３２ｂと同じ位置に配置されている。この場合、四角形領域３２ｂ、３３ｂは、静止している物体に対応する画像領域と考えられる。一方、四角形領域３３ａは、図５Ａに示す四角形領域３２ａに対して、少しだけ右下方向に移動している。この場合、四角形領域３２ａ、３３ａは、動いている物体に対応する画像領域と考えられる。
【００５８】
このように、実施形態の画像処理方法によれば、追尾対象領域として、図５Ａ〜図５Ｇに示す画像フレームにおいて四角形領域３２ａが検出され、図６に示す次の画像フレームにおいて四角形領域３３ａが検出される。すなわち、動体の追尾が実現される。
【００５９】
また、実施形態の画像処理方法によれば、画像フレーム上で追尾対象領域が他の物体に対応する領域に重なる場合には、注目領域の狭い部分でその注目領域を分割することで、追尾対象領域が検出される。よって、追尾対象物体が動いても、追尾対象物体の代表位置および追尾対象領域を安定して検出できる。さらに、実施形態の画像処理方法によれば、追尾対象物体の大きさ及び形状について制限はなく、任意の大きさ及び形状の物体を追尾することができる。
【００６０】
図７は、第１の実施形態の画像処理方法を示すフローチャートである。このフローチャートの処理は、各画像フレームに対して動体追尾部１３により実行される。
ステップＳ１１において、抽出部２１は、指定されている注目点に基づいて注目領域を抽出する。入力画像フレームの注目点は、直前の画像フレームに対するステップＳ２０の処理により指定される。また、抽出部２１は、注目領域として抽出した各画素に「１」を割り当て、画像フレーム内の他の画素に「０」を割り当てることにより、画像フレームを２値化する。なお、動体追尾が開始された直後の最初の入力画像フレームに対しては、注目点は、例えば、ユーザからの指示に基づいて与えられる。
【００６１】
ステップＳ１２において、抽出部２１は、注目領域の大きさを検出する。この実施例では、上述の２値化画像フレームにおいて、「１」が割り当てられている画素の数をカウントすることで注目領域の大きさが検出される。そして。注目領域の大きさがゼロでなければ、処理はステップＳ１３に移行する。一方、注目領域の大きさがゼロのときは、処理はステップＳ２１に移行する。なお、注目領域が所定の閾値サイズよりも小さいときに処理がステップＳ２１に移行するようにしてもよい。
【００６２】
ステップＳ１３において、分割部２２は、輪郭カウンタを初期化する。すなわち、輪郭カウンタにゼロが設定される。なお、輪郭カウンタは、図５Ａ〜図５Ｆを参照しながら説明した輪郭探索で検出される輪郭の数をカウントするための変数である。
【００６３】
ステップＳ１４において、分割部１４は、注目領域の輪郭上で、注目点に最も近い画素を「探索開始画素」として抽出する。図５Ａに示す例では、探索開始画素Ｐ１が抽出される。
【００６４】
ステップＳ１５において、分割部２２は、探索開始画素が抽出されたか否か判定する。なお、ステップＳ１４が実行された直後にステップＳ１５が実行されるときは、ステップＳ１５の判定は「Ｙｅｓ」となる。
【００６５】
ステップＳ１６において、分割部２２は、輪郭カウンタをインクリメントする。続いてステップＳ１７において、分割部２２は、探索開始画素から注目領域の輪郭を辿る輪郭探索を実行し、注目領域の輪郭上に位置する各画素の画素データを「１」から「０」に更新する。すなわち、ステップＳ１７は、実質的に、注目領域の外周端の画素を除去する処理に相当する。なお、探索開始画素は、ステップＳ１４またはＳ１８で抽出される。
【００６６】
ステップＳ１８において、分割部２２は、次の輪郭探索の探索開始画素として、直前の輪郭探索で使用した探索開始画素の内側に隣接する画素をサーチする。このサーチにおいて対応する画素が抽出されたか否かは、ステップＳ１５により判定される。このとき、次の輪郭探索の探索開始画素が抽出されると、分割部２２は、ステップＳ１６〜Ｓ１８を実行する。一方、次の輪郭探索の探索開始画素が抽出されなければ、処理はステップＳ１９に移行する。
【００６７】
このように、分割部２２は、輪郭探索を実行する毎に、次の輪郭探索の探索開始画素をサーチする。そして、分割部２２は、次の輪郭探索の探索開始画素を抽出できなくなるまで、ステップＳ１６〜Ｓ１８の処理を繰り返し実行する。このとき、輪郭探索が実行されるごとに、輪郭カウンタは１ずつインクリメントされる。図５Ａ〜図５Ｆに示す例では、５回目の輪郭探索が実行された時点で、次の輪郭探索の探索開始画素が抽出されなくなっている。よって、この場合、輪郭カウンタは「５」までカウントアップされる。
【００６８】
ステップＳ１５〜Ｓ１８のループ処理において、次の輪郭探索の探索開始画素が抽出されなければ、ステップＳ１９が実行される。ステップＳ１９において、分割部２２は、最後の輪郭探索の探索開始画素を中心として、追尾対象領域を検出する。このとき、探索開始画素から上方向、右上方向、右方向、右下方向、下方向、左下方向、左方向、左上方向にそれぞれ輪郭カウンタが示す画素数だけ広がる領域が、追尾対象領域と判定される。図５Ｇに示す例では、第５回目の輪郭探索の探索開始画素Ｐ５を基準として周辺領域Ｘ１〜Ｘ５を設けることで、追尾対象領域が作成されている。
【００６９】
ステップＳ２０において、指定部２３は、最後の輪郭探索の探索開始画素を、次の画像フレームの注目点として指定する。ステップＳ２０で指定される注目点は、次の画像フレームに対して図７に示す画像処理が実行されるときに、ステップＳ１１で注目領域を抽出する際に使用される。
【００７０】
ステップＳ２１は、注目領域が適切に抽出されなかったときに実行される。ステップＳ２１において、抽出部２１は、追尾対象領域の抽出に失敗した旨を表すエラーメッセージを出力する。このエラーメッセージは、制御部１２に送られる。制御部１２は、例えば、所定数以上の連続する画像フレームにおいて上記エラーメッセージを受信すると、動体追尾が失敗したと判定する。この場合、例えば、画像入力部１１は自動焦点制御を中止し、出力部１４はフォーカスマークの表示を停止する。
【００７１】
＜第２の実施形態＞
第２の実施形態の画像処理方法においても、第１の実施形態と同様に、入力画像フレームから注目領域が抽出され、その注目領域の外周から内側方向に向かって順番に輪郭が検出される。このとき、各輪郭探索で検出される輪郭上の画素数がカウントされる。
【００７２】
例えば、図５Ａに示すように、入力画像フレームにおいて注目領域３２が抽出され、探索開始画素Ｐ１が指定されたものとする。この場合、分割部２２は、第１の実施形態と同様に、図５Ｂに示す輪郭１を検出する。このとき、第２の実施形態においては、分割部２２は、輪郭１の画素数Ｃ(1)をカウントする。この実施例では、Ｃ(1)＝１２１である。なお、輪郭の画素数は、実質的には、その輪郭の「長さ」を表す。
【００７３】
続いて、分割部２２は、第１の実施形態と同様に、第２回目の輪郭探索を実行し、図５Ｃに示す輪郭２を検出する。このとき、分割部２２は、輪郭２の画素数Ｃ(2)をカウントする。この実施例では、Ｃ(2)＝１１３である。
【００７４】
さらに、分割部２２は、画素数Ｃ(1)と画素数Ｃ(2)との比率が、所定の閾値Ｔを超えているか否かを判定する。即ち「Ｃ(1)／Ｃ(2) ＞ Ｔ」或いは「Ｃ(2) ＜ Ｃ(1)／Ｔ」が満たされているか否かが判定される。閾値Ｔは、特に限定されるものではないが、例えば「３」である。
【００７５】
この実施例では、上述のように、Ｃ(1)＝１２１、Ｃ(2)＝１１３である。よって、閾値Ｔが「３」であるものとすると、上記条件は満足していない。この場合、分割部２２は、第１の実施形態と同様に、さらに輪郭探索を実行する。
【００７６】
分割部２２は、第１の実施形態と同様に、第３回目の輪郭探索を実行し、図５Ｄに示す輪郭３を検出する。このとき、分割部２２は、輪郭３の画素数Ｃ(3)をカウントする。この実施例では、Ｃ(3)＝１９である。
【００７７】
さらに、分割部２２は、画素数Ｃ(2)と画素数Ｃ(3)との比率が、閾値Ｔを超えているか否かを判定する。この実施例では、Ｃ(2)＝１１３、Ｃ(3)＝１９である。よって、閾値Ｔが「３」であるものとすると、上記条件は満たされている。そうすると、分割部２２は、さらなる輪郭探索を行うことなく、追尾対象物体に対応する領域を検出する処理に移る。
【００７８】
このように、分割部２２は、輪郭ｉを検出する毎に、直前の輪郭探索で検出された画素数Ｃ(i-1)と今回の輪郭探索で検出された画素数Ｃ(i)との比率が、所定の条件を満たすか否かを判定する。この判定の意味は、次の通りである。
【００７９】
画素数Ｃ(i-1)と画素数Ｃ(i)との比率が「１」に近く、閾値Ｔ（＝３）よりも小さいときは、輪郭ｉ−１および輪郭ｉが類似している。例えば、図５Ｂに示す輪郭１および図５Ｃに示す輪郭２に注目すると、「Ｃ(1)／Ｃ(2)」は約１．０７であり、閾値Ｔよりも小さい。このとき、輪郭１および輪郭２は、互いに類似している。具体的には、輪郭１および輪郭２は、いずれも、四角形領域３２ａ、３２ｂ双方を含む範囲の形状を表している。
【００８０】
これに対して、画素数Ｃ(i-1)と画素数Ｃ(i)との比率が閾値Ｔよりも大きいときは、輪郭ｉ−１および輪郭ｉが互いに大きく異なっている。例えば、図５Ｃに示す輪郭２および図５Ｄに示す輪郭３に注目すると、「Ｃ(2)／Ｃ(3)」は約５．９５であり、閾値Ｔよりも大きい。このとき、輪郭２は、四角形領域３２ａ、３２ｂ双方を含む範囲の形状を表している。一方、輪郭３は、四角形領域３２ａの形状を表している。
【００８１】
このように、注目領域に対して外周端から内側方向に向かって順番に輪郭ｉを検出していく手順において「Ｃ(i-1)／Ｃ(i)」が閾値Ｔを超えると、その注目領域の一部が切り離されたと考えられる。図５Ａ〜図５Ｄに示す例では、変数ｉ＝３において注目領域３２から四角形領域３２ａが抽出され、四角形領域３２ｂが取り残されている。このように、第２の実施形態の画像処理方法は、輪郭ｉを検出する毎に画素数の比率「Ｃ(i-1)／Ｃ(i)」を算出し、その比率に応じて注目領域から追尾対象領域が抽出されたか否かを検出する。
【００８２】
閾値Ｔは、上述のように、輪郭ｉ−１から輪郭ｉへ移行する際に注目領域の分割が発生するか否かを判定するために使用される。ここで、注目領域の分割が発生しない場合であって、比率「Ｃ(i-1)／Ｃ(i)」が最大となるのは、例えば、図５Ｅ〜図５Ｆに示すケースである。このとき、図５Ｅに示す輪郭４の画素数Ｃ(4)は「１２」であり、図５Ｆに示す輪郭５の画素数Ｃ(5)は「４」である。すなわち、比率Ｃ(4)／Ｃ(5)＝３である。換言すれば、注目領域の分割が発生しないケースでは、画素数の比率は３以下となる。したがって、画素数の比率が「３」よりも大きい場合は、注目領域の分割が発生していると考えられる。
【００８３】
第２の実施形態では、上述の理由で閾値Ｔ＝３としているが、他の方法で閾値Ｔを決定するようにしてもよい。例えば、実験またはシミュレーションによって閾値Ｔの最適値を決定するようにしてもよい。なお、閾値Ｔが小さ過ぎると（すなわち、閾値Ｔが１に近いと）、例えば、図５Ｂ〜図５Ｃにおいて、四角形領域３２ａ、３２ｂ双方を含む領域を１つの追尾対象領域と判定してしまうおそれがある。この場合、追尾対象が四角形領域３２ａから四角形領域３２ｂに移ってしまうおそれがある。一方、閾値Ｔが大きすぎると、例えば、図５Ｃ〜図５Ｄにおいて、四角形領域３２ａが抽出されない。この場合、動体の追尾に失敗するおそれがある。
【００８４】
また、例えば、上記説明の通り、注目領域の分割が発生しないケースでは、比率は「１」に近くなる。従って、分割が発生しないケースでは、輪郭ｉ−１から輪郭ｉへ移行する際の比率の変化はほぼ同様に推移する。これに対して、分割が発生すると、輪郭ｉ−１から輪郭ｉへ移行する際の比率の変化は、分割が発生していない時の変化とは異なり、変化幅が大きい。そこで、注目領域の外周から内側方向に向かって順番に輪郭を検出した結果として各周ごとに得られる、比率「Ｃ(i-1)／Ｃ(i)」の変化率を算出し、その変化率が最大であった時のｉで、注目領域の分割が発生していると見なしても良い。この場合には、最大であった変化率がＴに相当することになる。
【００８５】
分割部２２は、上述のようにして輪郭画素数の比率が閾値Ｔを超えたときは、最後に探索した輪郭の内側領域、および探索した輪郭の数に応じて、追尾対象領域を抽出する。例えば、図５Ａ〜図５Ｄに示す実施例において、輪郭１〜３が探索されたものとする。そして、輪郭３が探索されたときに、輪郭２、３間の画素数の比率が閾値Ｔを超えたものとする。この場合、最後に探索された輪郭３の内側に、図８に示す選択領域３４が得られる。
【００８６】
続いて、分割部２２は、選択領域３４の周囲に外周領域Ｙ３、Ｙ２、Ｙ１を形成することによって、追尾対象領域を作成する。外周領域Ｙ３は、選択領域３４に隣接する画素を抽出することにより得られる。また、外周領域Ｙ２は、外周領域Ｙ３の外側に隣接する画素を抽出することにより得られる。同様に、外周領域Ｙ１は、外周領域Ｙ２の外側に隣接する画素を抽出することにより得られる。
【００８７】
また、分割部２２は、注目領域３２の中で外周領域Ｙ１〜Ｙ３の外側に接している画素列を「注目領域３２の幅が狭い部分」と判定する。図８に示す例では、外周領域Ｙ１の外側に接している切断領域３５が「注目領域３２の幅が狭い部分」と判定される。
【００８８】
ここで、選択領域３４は、注目領域３２の四角形領域３２ａの中央領域に相当する。また、外周領域Ｙ１〜Ｙ３は、それぞれ、輪郭１〜３に相当する。したがって、選択領域３４および外周領域Ｙ１〜Ｙ３により形成される追尾対象領域は、四角形領域３２ａと一致する。
【００８９】
さらに、分割部２２は、注目領域３２を切断領域３５において分割する。これにより、注目領域３２は、四角形領域３２ａ（選択領域３４および外周領域Ｙ１〜Ｙ３）および他の領域（四角形領域３２ｂ、接続領域３２ｃ）に分割される。ここで、注目点は、四角形領域３２ａに配置されている。したがって、分割部２２は、注目領域３２を切断領域３５で分割することにより得られる２つの領域のうち、注目点を含む四角形領域３２ａ（選択領域３４および外周領域Ｙ１〜Ｙ３）を、追尾対象領域として抽出する。
【００９０】
この後、指定部２３は、第１の実施形態と同様に、次の画像フレームのための注目点を指定する。このとき、指定部２３は、追尾対象領域として抽出された領域の中心または重心を、次の画像フレームのための注目点として指定する。図８に示す例では、四角形領域３２ａ（または、選択領域３４）の中心または重心が、次の画像フレームのための注目点として指定される。
【００９１】
図９は、第２の実施形態の画像処理方法を示すフローチャートである。このフローチャートの処理は、第１の実施形態と同様に、各画像フレームに対して動体追尾部１３により実行される。
【００９２】
ステップＳ３１〜Ｓ３２は、第１の実施形態のステップＳ１１〜Ｓ１２と同じである。すなわち、抽出部２１により注目領域が抽出される。ステップＳ３３において、分割部２２は、輪郭カウンタを初期化すると共に、「前回輪郭画素数」を初期化する。前回輪郭画素数は、前回の輪郭探索で検出された輪郭の画素数を表す。
【００９３】
ステップＳ３４は、第１の実施形態のステップＳ１４と同じである。すなわち、探索開始画素が抽出される。
ステップＳ３５〜Ｓ３９では、第１の実施形態のステップＳ１５〜Ｓ１８に類似した処理が実行される。ただし、ステップＳ３７では、分割部２２は、探索対象の輪郭上の各画素の画素データを「０」に更新すると共に、その輪郭の画素数をカウントする。また、ステップＳ３８では、分割部２２は、ステップＳ３７で新たにカウントした輪郭画素数と前回輪郭画素数との比率が所定の条件を満たしているか否かを判定する。この実施例で使用する条件は、「輪郭画素数＜（前回輪郭画素数／３）」である。そして、画素数の比率が上記条件を満たしていたときは、処理はステップＳ４１へ移行する。一方、画素数の比率が上記条件を満たしていなければ、ステップＳ３９で次の輪郭探索の探索開始画素をサーチした後に、処理はステップＳ３５に戻る。
【００９４】
このように、分割部２２は、新たにカウントした輪郭画素数と前回輪郭画素数との比率が所定の条件を満たすまで、ステップＳ３５〜Ｓ３９の処理を繰り返し実行する。このとき、輪郭探索が実行されるごとに、輪郭カウンタは１ずつインクリメントされる。図５Ａ〜図５Ｄに示す例では、第３回目の輪郭探索が実行された時点で、比率Ｃ(2)／Ｃ(3)が閾値Ｔよりも大きくなっている。したがって、この場合、輪郭カウンタは「３」までカウントアップされる。なお、ステップＳ３８で「Ｎｏ」と判定されると、次の輪郭の画素数をカウントするために、今回の輪郭探索で得られた輪郭画素数が前回輪郭画素数に設定される。
【００９５】
新たにカウントした輪郭画素数と前回輪郭画素数との比率が上述の条件を満たすことなく、ステップＳ３５で「Ｎｏ」と判定されたときは、処理はステップＳ４０へ移行する。このような状況は、例えば、図２に示す画像フレームｎにおいて発生し得る。画像フレームｎにおいては、追尾対象領域（画像領域Ａ）が、類似する色成分を有する他の領域（画像領域Ｂ）に接していない。この場合、この追尾対象領域の外周端から内側方向に向かって順番に輪郭を探索したときに、輪郭画素数の減少率は緩やかであり、ステップＳ３８の条件を満たすことはない。そうすると、輪郭は徐々に小さくなってゆき、最終的に輪郭開始画素を検出できなくなるので、ステップＳ３５において「Ｎｏ」と判定される。そうすると、分割部２２は、ステップＳ４０において、ステップＳ３１で抽出された注目領域を追尾対象領域と判定する。
【００９６】
ステップＳ３５〜Ｓ３９の処理ループにおいて、輪郭画素数の減少率が閾値よりも大きくなると、ステップＳ４１〜Ｓ４４が実行される。ステップＳ４１〜Ｓ４３において、分割部２２は、輪郭カウンタがゼロになるまで、輪郭カウンタをカウントダウンする毎に外周領域を抽出する。このとき、外周領域は、最後に探索された輪郭の内側領域を囲むように抽出される。図５Ａ〜図５Ｄに示すでは、輪郭カウンタは３までカウントアップされている。したがって、図８に示すように、外周領域Ｙ１〜Ｙ３が抽出される。
【００９７】
ステップＳ４４において、分割部２２は、最後に抽出した外周領域と接している部分で注目領域を分割する。図８に示す例では、最後に抽出された外周領域Ｙ１に接する切断領域３５において注目領域３２が分割される。そして、分割部２２は、この分割により得られる２つの部分領域のうち、注目点を含む部分領域を追尾対象領域と判定する。
【００９８】
ステップＳ４５において、指定部２３は、第１の実施形態と同様に、次の画像フレームの注目点を指定する。このとき、第２の実施形態の指定部２３は、ステップＳ４４で追尾対象領域と判定された領域の中心を、次の画像フレームの注目点として指定する。ただし、ステップＳ４０が実行されたときは（すなわち、注目領域が分割されなかったときは）、最後の輪郭探索の探索開始画素が次の画像フレームの注目点として指定される。
【００９９】
なお、注目領域が適切に抽出されなかったときは（ステップＳ３２：Ｙｅｓ）、第１の実施形態のステップＳ２１と同様に、ステップＳ４６においてエラー処理が行われる。
【０１００】
＜その他＞
上述の実施例では、画像フレーム上で追尾対象物体と他の物体とが少しだけ重なっており、注目領域の細い部分でその注目領域を分割することで追尾対象領域が抽出される。実施形態の画像処理方法によれば、画像フレーム上で追尾対象物体の近傍に類似する色成分を有する他の物体が存在しない場合においても、追尾対象領域は検出される。このような場合は、例えば、図９のステップＳ４０において、注目領域全体が追尾対象領域と判定される。また、画像フレーム上で追尾対象物体および上述の他の物体が互いに大きく重なる場合には、両者の境界付近に「影」が存在することが多い。このため、両者の境界付近に異なる色領域が形成され、結果として、追尾対象領域と他の物体に対応する領域との間で注目領域は細くなる。したがって、追尾対象物体および上述の他の物体が互いに大きく重なる場合であっても、追尾対象領域を抽出可能である。
【０１０１】
また、上述の実施例における動体追尾部１３の処理として、以下の処理を加えることも考えられる。すなわち、ｉ番目の画像において所定の色成分を有する画像領域を抽出する際に、ｉよりも前の撮影時間に撮影された画像として、例えばｉ−１番目の画像における注目領域の大きさに応じて、ｉ番目の画像全体を縮小することが考えられる。そして、縮小後のｉ番目の画像を利用して画像領域を抽出するようにすることが考えられる。このような処理を加えることで、動体追尾部１３による画像領域を抽出する処理では、より小さな画像から所定の色成分を有する画像領域を抽出すればよいので、抽出処理に掛かる時間を短縮化させることが可能になる。
【０１０２】
また、上述の実施例では、実施形態に係る画像処理装置は、デジタルカメラ内に設けられているが、デジタルカメラの外部に設けられてもよい。すなわち、実施形態に係る画像処理装置は、例えば、サーバコンピュータに設けられる。この場合、デジタルカメラから出力される画像データはサーバコンピュータへ送信される。そうすると、サーバコンピュータは、動体追尾処理を実行し、その結果をデジタルカメラへ返送する。そして、デジタルカメラは、サーバコンピュータから受信した追尾結果に応じて、例えば、焦点距離を制御する。
【０１０３】
＜ハードウェア構成＞
図１０は、各実施形態の画像処理装置のハードウェア構成を示す図である。図１０において、ＣＰＵ１０１は、メモリ１０３を利用して画像処理プログラムを実行する。記憶装置１０２は、画像処理プログラムを格納する。なお、記憶装置１０２は、外部記憶装置であってもよい。メモリ１０３は、例えば半導体メモリであり、ＲＡＭ領域およびＲＯＭ領域を含んで構成される。また、メモリ１０３は、例えば、画像フレームを一時的に格納するために使用されてもよい。このように、実施形態の画像処理装置は、プロセッサおよびメモリを含むコンピュータ（または、プロセッサシステム）により実現される。
【０１０４】
読み取り装置１０４は、ＣＰＵ１０１の指示に従って可搬型記録媒体１０５にアクセスする。可搬型記録媒体１０５は、例えば、半導体デバイス、磁気的作用により情報が入出力される媒体、光学的作用により情報が入出力される媒体を含むものとする。通信インタフェース１０６は、ＣＰＵ１０１の指示に従って、ネットワークを介してデータを送受信する。入出力装置１０７は、この実施例では、表示装置、ユーザからの指示を受け付けるデバイス等に相当する。ただし、実施形態の画像処理装置は、通信インタフェース１０６および／または入出力装置１０７を含まなくてもよい。
【０１０５】
実施形態に係わる画像処理プログラムは、例えば、下記の形態で提供される。
（１）記憶装置１０２に予めインストールされている。
（２）可搬型記録媒体１０５により提供される。
（３）プログラムサーバ１１０からダウンロードする。
そして、上記構成のコンピュータで画像処理プログラムを実行することにより、実施形態に係わる動体追尾部１３（すなわち、抽出部２１、分割部２２、指定部２３）の少なくとも一部が実現される。
【図１】
2011141990.tif 000003
【図２】
2011141990.tif 000004
【図３】
2011141990.tif 000005
【図４】
2011141990.tif 000006
【図５Ａ】
2011141990.tif 000007
【図５Ｂ】
2011141990.tif 000008
【図５Ｃ】
2011141990.tif 000009
【図５Ｄ】
2011141990.tif 000010
【図５Ｅ】
2011141990.tif 000011
【図５Ｆ】
2011141990.tif 000012
【図５Ｇ】
2011141990.tif 000013
【図６】
2011141990.tif 000014
【図７】
2011141990.tif 000015
【図８】
2011141990.tif 000016
【図９】
2011141990.tif 000017
【図１０】
2011141990.tif 000018
【手続補正書】
【提出日】平成24年8月24日(2012.8.24)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する抽出部と、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する分割部と、
前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する指定部、
を有する画像処理装置。
【請求項２】
請求項１に記載の画像処理装置であって、
前記分割部は、前記注目点の位置に応じて決まる探索開始画素から前記注目領域の輪郭を探索する輪郭探索処理を、前記注目領域の外周から内側方向に向かって順番に、新たな輪郭を探索できなくなるまで実行し、最後に探索した輪郭のための探索開始画素の位置に基づいて前記第１の部分領域を検出する
ことを特徴とする画像処理装置。
【請求項３】
請求項１に記載の画像処理装置であって、
前記分割部は、前記注目領域の外周から内側方向に向かって順番に、前記注目点の位置に応じて決まる探索開始画素から前記注目領域の輪郭探索を開始して２以上の輪郭を探索する輪郭探索処理において、各輪郭の画素数をカウントし、前記画素数の変化が所定の条件を満たしたときの輪郭に基づいて前記第１の部分領域を検出する
ことを特徴とする画像処理装置。
【請求項４】
コンピュータに、
第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する工程、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する工程、
前記第１の部分領域内の所定の画素を、第２の画像フレームの注目点として指定する工程、
を実行させることを特徴とする画像処理プログラム。
【請求項５】
画像入力部と、
前記画像入力部による生成された第１の画像フレームにおいて、注目点を含み且つ所定の条件を満たす注目領域を抽出する抽出部と、
前記注目領域の幅が狭い部分で、前記注目領域を、前記注目点を含む第１の部分領域および前記注目点を含まない第２の部分領域に分割する分割部と、
前記第１の部分領域内の所定の画素を、前記画像入力部により生成される第２の画像フレームの注目点として指定する指定部と、
前記第１の部分領域に基づいて前記画像入力部を制御する制御部、
を有するデジタルカメラ。
【国際調査報告】
2011141990.tif 000019
2011141990.tif 000020
2011141990.tif 000021