(57)【要約】【課題】  継続的な主要被写体領域の抽出を、容易かつ的確に行うこと。【解決手段】  処理対象の画像データを取得する取得部と、前記画像データにより示される画像の特徴量を算出し、特徴量に基づいて定まる被写体領域を検出する領域検出部と、領域検出部による過去の検出結果に応じた参照情報に基づいて、次回の領域検出部による被写体領域の検出方法を決定する制御部とを備える。【選択図】    図１
2014039098.tif 000002
【特許請求の範囲】
【請求項１】
処理対象の画像データを取得する取得部と、
前記画像データにより示される画像の特徴量を算出し、前記特徴量に基づいて定まる被写体領域を検出する領域検出部と、
前記領域検出部による過去の検出結果に応じた参照情報に基づいて、次回の前記領域検出部による前記被写体領域の検出方法を決定する制御部と
を備えることを特徴とする画像処理装置。
【請求項２】
請求項１に記載の画像処理装置において、
前記領域検出部は、前記複数の画像のうち、少なくとも２枚の画像において前記領域検出部により検出された前記被写体領域を比較することにより、主要な被写体領域を検出し、
前記制御部は、前記領域検出部により検出された前記主要な被写体領域に応じて前記参照情報を決定する
ことを特徴とする画像処理装置。
【請求項３】
請求項１に記載の画像処理装置において、
前記領域検出部は、前記被写体領域を検出する際に、前記被写体領域に関する評価値を算出し、
前記制御部は、前記評価値が所定の閾値より高い場合に、前記評価値の算出対象となった前記被写体領域に応じて前記参照情報を決定する
ことを特徴とする画像処理装置。
【請求項４】
請求項１から請求項３の何れか1項に記載の画像処理装置において、
前記制御部は、前記参照情報に基づいて、前記特徴量の算出方法を決定する
ことを特徴とする画像処理装置。
【請求項５】
請求項４に記載の画像処理装置において、
前記制御部は、前記参照情報に基づいて、前記特徴量を算出する際に用いる前記画像の色情報を決定する
ことを特徴とする画像処理装置。
【請求項６】
請求項４に記載の画像処理装置において、
前記領域検出部は、前記特徴量として、画像内の所定の基準点からの距離に基づく特徴量を算出し、
前記制御部は、前記参照情報に基づいて、前記領域検出部により前記特徴量を算出する際の前記基準点の位置を決定する
ことを特徴とする画像処理装置。
【請求項７】
請求項６に記載の画像処理装置において、
前記制御部は、前記基準点の位置を決定する際に、前記画像の中心部の一部の領域に限定して前記基準点の位置を決定する
ことを特徴とする画像処理装置。
【請求項８】
請求項１から請求項３の何れか項１項に記載の画像処理装置において、
前記領域検出部は、前記被写体領域を検出する際に、予め定められた重点評価領域内に存在する前記被写体領域を優先的に検出し、
前記制御部は、前記参照情報に基づいて、前記重点評価領域を決定する
ことを特徴とする画像処理装置。
【請求項９】
請求項８に記載の画像処理装置において、
前記制御部は、前記重点評価領域を決定する際に、前記重点評価領域の位置と大きさと形状との少なくとも一つに制限を設ける
ことを特徴とする画像処理装置。
【請求項１０】
請求項８または請求項９に記載の画像処理装置において、
前記領域検出部は、前記特徴量として複数の特徴量を算出するとともに、前記複数の特徴量のうち、第１の特徴量に基づいて定まる第１の領域と、前記第１の特徴量とは異なる第２の特徴量に基づいて定まる第２の領域とが重なる重複領域のうち、前記重点評価領域内に存在する前記被写体領域を検出し、
前記制御部は、前記重複領域に基づいて前記被写体を検出する際には、前記重点評価領域を、前回の検出時から変更しない
ことを特徴とする画像処理装置。
【請求項１１】
請求項１０に記載の画像処理装置において、
前記制御部は、前記重点評価領域を決定する際に、所定の中央領域を含むように前記重点評価領域を決定する
ことを特徴とする画像処理装置。
【請求項１２】
請求項１から請求項１１の何れか１項に記載の画像処理装置において、
前記領域検出部は、複数の前記特徴量を算出し、
前記制御部は、前記参照情報に基づいて、前記複数の特徴量における優先度を決定し、決定した前記優先度に基づいて前記領域検出部による前記被写体領域の検出を行う
ことを特徴とする画像処理装置。
【請求項１３】
光学系による像を撮像して画像データを生成する撮像部と、
前記画像データにより示される画像の特徴量を算出し、前記特徴量に基づいて定まる被写体領域を検出する領域検出部と、
前記領域検出部により過去に検出した前記被写体領域に応じた参照情報に基づいて、次回の前記領域検出部による前記被写体領域の検出方法を決定する制御部と
を備えることを特徴とする撮像装置。
【請求項１４】
コンピュータに、
処理対象の画像データを取得する取得手順と、
前記画像データにより示される画像の特徴量を算出し、前記特徴量に基づいて定まる被写体領域を検出する領域検出手順と、
前記領域検出手順において過去に検出した前記被写体領域に応じた参照情報に基づいて、次回の前記領域検出手順における前記被写体領域の検出方法を決定する制御部と
を実行させるための画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、撮像装置、および画像処理プログラムに関する。
【背景技術】
【０００２】
従来、被写体抽出に関する様々な技術が考えられている。例えば、特許文献１の発明では、被写体形状の変化量に応じてＡＦ測距枠を変形することにより、被写体がカメラ方向に移動する場合でも、被写体に対して最適に自動焦点調節する撮像装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００９−０６９７４８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１に開示された撮像装置は、被写体形状の変化量に応じてＡＦ測距枠を変形するため、被写体がカメラ方向に移動する場合に良好な効果を得ることができる。しかし、実際の被写体は、様々な動きをすることがあるとともに、撮影を行うユーザの目的も様々であり、必ずしもユーザにとって望ましい被写体に対して焦点調節が行われない場合もある。
【０００５】
本発明は、前記の点に鑑みてなされたものであり、継続的な主要被写体領域の抽出を、容易かつ的確に行うことを目的とする。
【課題を解決するための手段】
【０００６】
本発明の画像処理装置は、処理対象の画像データを取得する取得部と、前記画像データにより示される画像の特徴量を算出し、前記特徴量に基づいて定まる被写体領域を検出する領域検出部と、前記領域検出部による過去の検出結果に応じた参照情報に基づいて、次回の前記領域検出部による前記被写体領域の検出方法を決定する制御部とを備えることを特徴とする。
【０００７】
なお、前記領域検出部は、前記複数の画像のうち、少なくとも２枚の画像において前記領域検出部により検出された前記被写体領域を比較することにより、主要な被写体領域を検出し、前記制御部は、前記領域検出部により検出された前記主要な被写体領域に応じて前記参照情報を決定しても良い。
【０００８】
また、前記領域検出部は、前記被写体領域を検出する際に、前記被写体領域に関する評価値を算出し、前記制御部は、前記評価値が所定の閾値より高い場合に、前記評価値の算出対象となった前記被写体領域に応じて前記参照情報を決定しても良い。
【０００９】
また、前記制御部は、前記参照情報に基づいて、前記特徴量の算出方法を決定しても良い。
【００１０】
また、前記制御部は、前記参照情報に基づいて、前記特徴量を算出する際に用いる前記画像の色情報を決定しても良い。
【００１１】
また、前記領域検出部は、前記特徴量として、画像内の所定の基準点からの距離に基づく特徴量を算出し、前記制御部は、前記参照情報に基づいて、前記領域検出部により前記特徴量を算出する際の前記基準点の位置を決定しても良い。
【００１２】
また、前記制御部は、前記基準点の位置を決定する際に、前記画像の中心部の一部の領域に限定して前記基準点の位置を決定しても良い。
【００１３】
また、前記領域検出部は、前記被写体領域を検出する際に、予め定められた重点評価領域内に存在する前記被写体領域を優先的に検出し、前記制御部は、前記参照情報に基づいて、前記重点評価領域を決定しても良い。
【００１４】
また、前記制御部は、前記重点評価領域を決定する際に、前記重点評価領域の位置と大きさと形状との少なくとも一つに制限を設けても良い。
【００１５】
また、前記領域検出部は、前記特徴量として複数の特徴量を算出するとともに、前記複数の特徴量のうち、第１の特徴量に基づいて定まる第１の領域と、前記第１の特徴量とは異なる第２の特徴量に基づいて定まる第２の領域とが重なる重複領域のうち、前記重点評価領域内に存在する前記被写体領域を検出し、前記制御部は、前記重複領域に基づいて前記被写体を検出する際には、前記重点評価領域を、前回の検出時から変更しなくても良い。
【００１６】
また、前記制御部は、前記重点評価領域を決定する際に、所定の中央領域を含むように前記重点評価領域を決定しても良い。
【００１７】
また、前記領域検出部は、複数の前記特徴量を算出し、前記制御部は、前記参照情報に基づいて、前記複数の特徴量における優先度を決定し、決定した前記優先度に基づいて前記領域検出部による前記被写体領域の検出を行っても良い。
【００１８】
本発明の撮像装置は、光学系による像を撮像して画像データを生成する撮像部と、前記画像データにより示される画像の特徴量を算出し、前記特徴量に基づいて定まる被写体領域を検出する領域検出部と、前記領域検出部により過去に検出した前記被写体領域に応じた参照情報に基づいて、次回の前記領域検出部による前記被写体領域の検出方法を決定する制御部とを備える。
【００１９】
本発明の画像処理プログラムは、コンピュータに、処理対象の画像データを取得する取得手順と、前記画像データにより示される画像の特徴量を算出し、前記特徴量に基づいて定まる被写体領域を検出する領域検出手順と、前記領域検出手順において過去に検出した前記被写体領域に応じた参照情報に基づいて、次回の前記領域検出手順における前記被写体領域の検出方法を決定する制御部とを実行させる。
【発明の効果】
【００２０】
本発明によれば、継続的な主要被写体領域の抽出を、容易かつ的確に行うことができる。
【図面の簡単な説明】
【００２１】
【図１】レンズ鏡筒１０と、撮像装置２０と、記憶媒体４０との構成を示すブロック図である。
【図２】自動検出モード実行時のＣＰＵ２６の動作を示すフローチャートである。
【図３】自動検出モード実行時のＣＰＵ２６の動作を示す別のフローチャートである。
【図４】マスク抽出処理（Ｉ）について説明する図である。
【図５】マスク抽出処理（Ｉ）について説明する別の図である。
【図６】マスク抽出処理（Ｉ）について説明する別の図である。
【図７】マスク抽出処理（Ｉ）について説明する別の図である。
【図８】マスク抽出処理（Ｉ）について説明する別の図である。
【図９】マスク抽出処理（II）について説明する図である。
【図１０】マスク抽出処理（II）について説明する別の図である。
【図１１】重点評価領域の変更例を示す図である。
【発明を実施するための形態】
【００２２】
以下、実施形態について図面を参照して詳細に説明する。
【００２３】
本実施形態では、図１に示すようなレンズ鏡筒１０と、撮像装置２０と、記録媒体４０とからなる装置を例に挙げて説明する。
【００２４】
撮像装置２０は、レンズ鏡筒１０から入射される光学像を撮像する。得られた画像は静止画又は動画の画像として、記憶媒体４０に記憶される。
【００２５】
レンズ鏡筒１０は、焦点調整レンズ（以下、「ＡＦ（Ａｕｔｏ  Ｆｏｃｕｓ）レンズ」と称する）１１と、レンズ駆動部１２と、ＡＦエンコーダ１３と、鏡筒制御部１４とを備える。なお、レンズ鏡筒１０は、撮像装置２０に着脱可能に接続されてもよいし、撮像装置２０と一体であってもよい。
【００２６】
撮像装置２０は、撮像部２１と、画像処理装置２２と、表示部２３と、バッファメモリ部２４と、記憶部２５と、ＣＰＵ２６と、操作部２７と、通信部２８とを備える。撮像部２１は、撮像素子２９と、Ａ／Ｄ（Ａｎａｌｏｇ／Ｄｉｇｉｔａｌ）変換部３０とを備える。撮像部２１は、設定された撮像条件（例えば絞り値、露出値等）に従って、ＣＰＵ２６により制御される。
【００２７】
レンズ鏡筒１０において、ＡＦレンズ１１は、レンズ駆動部１２により駆動され、撮像装置２０の撮像素子２９の受光面（光電変換面）に、光学像を導く。ＡＦエンコーダ１３は、ＡＦレンズ１１の移動を検出し、ＡＦレンズ１１の移動量に応じた信号を、鏡筒制御部１４に出力する。ここで、ＡＦレンズ１１の移動量に応じた信号とは、例えば、ＡＦレンズ１１の移動量に応じて位相が変化するサイン（ｓｉｎ）波信号であってもよい。
【００２８】
鏡筒制御部１４は、撮像装置２０のＣＰＵ２６から入力される駆動制御信号に応じて、レンズ駆動部１２を制御する。ここで、駆動制御信号とは、ＡＦレンズ１１を光軸方向に駆動させる制御信号である。鏡筒制御部１４は、駆動制御信号に応じて、例えば、レンズ駆動部１２に出力するパルス電圧のステップ数を変更する。また、鏡筒制御部１４は、ＡＦレンズ１１の移動量に応じた信号に基づいて、レンズ鏡筒１０におけるＡＦレンズ１１の位置（フォーカスポジション）を、撮像装置２０のＣＰＵ２６に出力する。ここで、鏡筒制御部１４は、例えば、ＡＦレンズ１１の移動量に応じた信号を、ＡＦレンズ１１の移動方向に応じて積算することで、レンズ鏡筒１０におけるＡＦレンズ１１の移動量（位置）を算出してもよい。レンズ駆動部１２は、鏡筒制御部１４の制御に応じてＡＦレンズ１１を駆動し、ＡＦレンズ１１をレンズ鏡筒１０内で光軸方向に移動させる。
【００２９】
撮像装置２０において、撮像素子２９は、光電変換面を備え、レンズ鏡筒１０（光学系）により光電変換面に結像された光学像を電気信号に変換して、Ａ／Ｄ変換部３０に出力する。撮像素子２９は、例えば、ＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）などの光電変換素子で構成される。また、撮像素子２９は、光電変換面の一部の領域について、光学像を電気信号に変換するようにしてもよい（画像切り出し）。また、撮像素子２９は、操作部２７を介してユーザからの撮影指示を受け付けた際に得られる画像を、Ａ／Ｄ変換部３０および通信部２８を介して記憶媒体４０に出力する。一方、撮像素子２９は、操作部２７を介してユーザからの撮影指示を受け付ける前の状態において、連続的に得られる画像をスルー画像として、バッファメモリ部２４及び表示部２３に、Ａ／Ｄ変換部３０を介して出力する。
【００３０】
Ａ／Ｄ変換部３０は、撮像素子２９によって変換された電気信号をデジタル化して、デジタル信号である画像をバッファメモリ部２４等に出力する。
【００３１】
画像処理装置２２は、記憶部２５に記憶されている画像処理条件に基づいて、バッファメモリ部２４に一時的に記憶されている画像に対する画像処理を行う。そして、画像処理後の画像は、通信部２８を介して記憶媒体４０に記憶される。また、画像処理装置２２は、バッファメモリ部２４に一時的に記憶されている画像に対して、マスク抽出処理を行う（詳細は後述する）。そして、抽出したマスクに関する情報は、ＣＰＵ２６に出力されるとともに、記憶部２５や記憶媒体４０等に記憶される。
【００３２】
表示部２３は、例えば液晶ディスプレイであって、撮像部２１によって生成された画像、及び操作画面等を表示する。バッファメモリ部２４は、撮像部２１によって生成された画像を一時的に記憶する。記憶部２５は、撮像条件や、各種判定の際にＣＰＵ２６によって参照される判定条件などを記憶する。
【００３３】
ＣＰＵ２６は、画像処理部２２や記憶部２５などから適宜必要な情報を取得し、取得した情報に基づいて、撮像装置２０内の各部を統括的に制御する。ＣＰＵ２６による制御には、焦点調整（ＡＦ）の設定、露出調整（ＡＥ）の設定、ホワイトバランス調整（ＡＷＢ）の設定、閃光の発光量の変更の設定、被写体追尾の設定、各種撮影モードの設定、各種画像処理の設定、各種表示の設定、ズーム倍率に連動した明るさの最適化の設定などが含まれる。また、ＣＰＵ２６は、操作部２７の操作状態を監視するとともに、表示部２３への画像データの出力を行う。
【００３４】
操作部２７は、例えば、電源スイッチ、シャッタボタン、マルチセレクタ（十字キー）、又はその他の操作キーを備え、ユーザによって操作されることでユーザの操作入力を受け付け、操作入力に応じた信号をＣＰＵ２６に出力する。
【００３５】
通信部２８は、カードメモリ等の取り外しが可能な記憶媒体４０と接続され、この記憶媒体４０への情報（画像データ、領域の情報など）の書込み、読み出し、あるいは消去を行う。
【００３６】
記憶媒体４０は、撮像装置２０に対して着脱可能に接続される記憶部であって、情報（画像データ、領域の情報など）を記憶する。なお、記憶媒体４０は、撮像装置２０と一体であってもよい。
【００３７】
撮像装置２０は、撮影時に、焦点調節情報に基づいて主要被写体領域を検出する通常モードの他に、自動で主要被写体領域を検出する自動検出モードを備える。自動検出モードは、構図確認用のスルー画像等に基づいて、主要被写体領域を自動で継続的に検出し、検出した主要被写体領域の情報を表示部２３に表示するとともに、バッファメモリ部２４や記憶部２５等に記憶するモードである。この自動検出モードは操作部２７を介したユーザ操作により設定可能であっても良いし、ＣＰＵ２６により自動で設定可能であっても良い。
【００３８】
以下、自動検出モード実行時のＣＰＵ２６の動作の概要について、図２のフローチャートを参照して説明する。
【００３９】
ステップＳ１０１において、ＣＰＵ２６は、撮像部２１を制御して、スルー画像の取得を開始する。取得されたスルー画像の画像情報はバッファメモリ部２４に一時的に記憶される。このスルー画像は、所定の時間間隔で連続して生成される。そして、ＣＰＵ２６によるスルー画像の取得は、時間的に連続して順次行われる。
【００４０】
ステップＳ１０２において、ＣＰＵ２６は、画像処理装置２２を制御して通常の画像処理を行う。通常の画像処理とは、ホワイトバランス調整、補間処理、色調補正処理、階調変換処理などである。各処理の具体的な方法は公知技術と同様であるため説明を省略する。画像処理装置２２は、バッファメモリ部２４から対象となる画像の画像データを取得し、画像処理を施した後に、再びバッファメモリ部２４に出力する。
【００４１】
ステップＳ１０３において、ＣＰＵ２６は、参照情報があるか否かを判定する。ＣＰＵ２６は、参照情報があると判定すると後述するステップＳ１０５に進む。一方、参照情報がないと判定すると、ＣＰＵ２６は、ステップＳ１０４に進む。
【００４２】
参照情報とは、過去の被写体検出の結果に応じて、被写体の検出方法（マスクの抽出方法）を変更する際に参照する情報である。参照情報には、例えば、過去の被写体検出において、安定して検出された被写体の情報や、過去の被写体検出において、検出に関する評価値の高い被写体の情報などが含まれる。参照情報の具体例、および、被写体の検出方法の変更の具体例については後述する。
【００４３】
ステップＳ１０４において、ＣＰＵ２６は、画像処理装置２２を制御してマスク抽出処理（Ｉ）を行う。マスク抽出処理とは、画像における特徴量を算出し、特徴量に基づいて被写体領域を検出するための一手法である。例えば、画像処理装置２２は、画像における特徴量を求め、同様の特徴量を有する連続領域を求めることによりマスク抽出を行う。また、マスク抽出処理（Ｉ）とは、ステップＳ１０３において参照情報がないと判定された場合に行われるマスク抽出処理である。画像処理装置２２は、例えば、ステップＳ１０２で通常の画像処理を施した画像をバッファメモリ部２４から読み出し、適宜リサイズ処理および色空間変換処理を行い、ＹＵＶ（例えば、ＹＣｂＣｒ）画像を生成する。そして、生成したＹＵＶ画像に基づいて複数のマスク画像を作成し、作成した複数のマスクに対して、不要なマスクを排除する。なお、この際に、画像処理装置２２は、各処理後の各マスクに優先度を決定しても良い。優先度とは、作成した複数のマスクから、実際に被写体領域の抽出に用いるマスクを決定する際の優先度合を示す。優先度の具体例は後述する。そして、画像処理装置２２は、一定評価値以上のマスクを求め、被写体領域を抽出するためのマスクとする。なお、被写体領域を抽出するためのマスクを選択する方法は、公知技術などどのような方法であっても良い。また、上述した優先度が決定されている場合、画像処理装置２２は、これらの優先度に応じて、優先度の高い各マスクを優先しつつ、一定評価値以上のマスクを求め、被写体領域を抽出するためのマスクとする。そして、画像処理装置２２は、選択したマスクに基づいて被写体領域を抽出する。
【００４４】
ステップＳ１０５において、ＣＰＵ２６は、画像処理装置２２を制御してマスク抽出処理（II）を行う。マスク抽出処理（II）とは、ステップＳ１０３において参照情報があると判定された場合に行われるマスク抽出処理であり、上述した参照情報に基づいて行われるマスク抽出処理である。
【００４５】
ＣＰＵ２６は、参照情報に基づいて、画像処理装置２２によるマスク抽出処理の方法を変更する。具体的には、ＣＰＵ２６は、参照情報に基づいて、過去に検出した被写体をより安定して継続的に検出できるように、マスク抽出において算出する特徴量の算出方法や、算出した特徴量に基づく被写体の検出方法を決定し、画像処理装置２２によるマスク抽出処理を行う。マスク抽出処理（II）の具体例については後述する。
【００４６】
ステップＳ１０６において、ＣＰＵ２６は、ステップＳ１０４のマスク抽出処理(Ｉ)またはステップＳ１０５のマスク抽出処理(II)により抽出した被写体領域に関する被写体情報を、バッファメモリ部２４や記憶部２５等に記録する。なお、この被写体情報には、ステップＳ１０４またはステップＳ１０５のマスク抽出処理の抽出条件（色区分やマスク区分など）、マスクの位置、マスクの大きさや形状などの情報が含まれる。
【００４７】
ステップＳ１０７において、ＣＰＵ２６は、ステップＳ１０４のマスク抽出処理(Ｉ)またはステップＳ１０５のマスク抽出処理(II)により被写体領域を抽出できたか否かを判定する。ＣＰＵ２６は、被写体領域を抽出できたと判定するとステップＳ１０８に進む。一方、被写体領域を抽出できないと判定すると、ＣＰＵ２６は、ステップＳ１０２に戻り、次のフレームの画像に対してステップＳ１０２以降の処理を行う。
【００４８】
被写体領域を抽出できたか否かとは、すなわち、ステップＳ１０４のマスク抽出処理(Ｉ)またはステップＳ１０５のマスク抽出処理(II)によりマスク抽出が成功したか否かということである。例えば、ステップＳ１０４のマスク抽出処理(Ｉ)またはステップＳ１０５のマスク抽出処理(II)において、特徴量が算出できなかったり、評価値が低すぎたりした場合には、マスク抽出が失敗し、被写体領域を抽出できないことになる。被写体領域を抽出できない場合、ＣＰＵ２６は、以降の処理を行わずに、被写体領域を抽出できるまで、ステップＳ１０２からステップＳ１０６の処理を繰り返す。
【００４９】
ステップＳ１０８において、ＣＰＵ２６は、新たな参照情報があるか否かを判定する。ＣＰＵ２６は、新たな参照情報があると判定するとステップＳ１０９に進む。一方、新たな参照情報がないと判定すると、ＣＰＵ２６は、後述するステップＳ１１０に進む。
【００５０】
新たな参照情報とは、ステップＳ１０４のマスク抽出処理(Ｉ)またはステップＳ１０５のマスク抽出処理(II)の結果に基づく情報であり、以降の処理において参照情報と成り得る情報である。ステップＳ１０３で説明したように、参照情報には、過去の被写体検出において安定して検出された被写体の情報や、過去の被写体検出において検出に関する評価値の高い被写体の情報などが含まれる。そのため、ステップＳ１０４のマスク抽出処理(Ｉ)またはステップＳ１０５のマスク抽出処理(II)によって、新たに、ある被写体が安定して検出された場合や、評価値の高い被写体が検出された場合には、新たな参照情報があると判定することができる。
【００５１】
ステップＳ１０９において、ＣＰＵ２６は、新たな参照情報をバッファメモリ部２４や記憶部２５等に記録する。
【００５２】
ステップＳ１１０において、ＣＰＵ２６は、撮影指示が行われたか否かを判定する。ＣＰＵ２６は、撮影指示が行われたと判定するとステップＳ１１１に進む。一方、撮影指示が行われないと判定すると、ＣＰＵ２６は、ステップＳ１０２に戻り、次のフレームの画像に対してステップＳ１０２以降の処理を行う。撮影指示は、操作部２７のシャッタボタンを介したユーザ操作により行われる。このユーザ操作は、いわゆる半シャッタと全シャッタの何れであっても良い。
【００５３】
ステップＳ１１１において、ＣＰＵ２６は、各部を制御して撮影を実行する。このとき、ＣＰＵ２６は、ステップＳ１０６で記録した被写体情報に基づいて、焦点調整（ＡＦ）の設定処理、露出調整（ＡＥ）の設定処理、ホワイトバランス調整処理（ＡＷＢ）の３Ａ処理を行うとともに、画像処理装置２２における各種画像処理の条件等を決定する。なお、被写体情報が記録される前に撮影指示が行われた場合や、記録された撮影情報が撮影に用いるのに不適当な情報である場合には、ＣＰＵ２６は、通常の３Ａ処理を行って、焦点調整（ＡＦ）の設定処理、露出調整（ＡＥ）の設定処理、ホワイトバランス調整処理（ＡＷＢ）の３Ａ処理を行うとともに、画像処理装置２２における各種画像処理の条件等を決定すると良い。
【００５４】
ステップＳ１１１において、ＣＰＵ２６は、撮像により生成した画像を、通信部２８を介して記憶媒体４０に記録して一連の処理を終了する。
【００５５】
次に、参照情報が、「安定マスク情報」である場合のＣＰＵ２６の具体的な動作について、図３のフローチャート、および図４から図１１の模式図を参照して説明する。
【００５６】
ステップＳ２０１およびステップＳ２０２において、ＣＰＵ２６は、図２のステップＳ１０１およびステップＳ１０２と同様の処理を行う。
【００５７】
ステップＳ２０３において、ＣＰＵ２６は、動き量を検出する。動き量の検出は、どのように行われても良い。例えば、撮像装置２０により連続して取得された少なくとも２枚の画像に基づいて、公知技術と同様に、画像解析、フレーム差分、マッチング誤差、動きベクトルなどによって動き量を検出しても良い。また、撮像装置２０自体の動きを検出する動きセンサ（例えば、加速度センサ）を撮像装置２０に予め備え、この動きセンサの出力に応じて動き量を検出しても良い。
【００５８】
ステップＳ２０４において、ＣＰＵ２６は、ステップＳ２０３で検出した動き量が所定の閾値Ｔａ以上であるか否かを判定する。ＣＰＵ２６は、ステップＳ２０３で検出した動き量が所定の閾値Ｔａ以上であると判定するとステップＳ２０２に戻る。一方、ステップＳ２０３で検出した動き量が所定の閾値Ｔａ未満であると判定すると、ＣＰＵ２６は、ステップＳ２０５に進む。
【００５９】
この判定は、撮像装置２０自体の動きや主要被写体の動きがある程度少ないか否かを判定するためのものである。動き量が多い場合には、撮像装置２０が速い速度で動いている可能性や、急速なズームが行われている可能性や、主要被写体の動きが大きい可能性が高い。このような場合には、自動検出に相応しい状態でないため、ＣＰＵ２６は、以降の処理を行わずにステップＳ２０２に戻る。
【００６０】
ステップＳ２０５において、ＣＰＵ２６は、ステップＳ２０３で検出した動き量を、バッファメモリ部２４や記憶部２５等に記録する。なお、ここで記録した動き量を、後述するステップＳ２０７のマスク抽出処理(Ｉ)またはステップＳ２０８のマスク抽出処理(II)に利用しても良い。
【００６１】
ステップＳ２０６において、ＣＰＵ２６は、安定マスク情報があるか否かを判定する。ＣＰＵ２６は、安定マスク情報があると判定すると後述するステップＳ２０８に進む。一方、安定マスク情報がないと判定すると、ＣＰＵ２６は、ステップＳ２０７に進む。
【００６２】
安定マスク情報とは、参照情報の一つである。安定マスク情報とは、安定マスクが（過去に）存在することを示す情報であり、その安定マスクのマスク情報も含む。マスク情報には、例えば、マスク抽出処理の抽出条件（色区分やマスク区分など）、マスクの位置、マスクの大きさや形状などの情報が含まれる。過去のマスク抽出処理において、連続あるいは間欠連続の複数のフレームにおいて、略同色、略同サイズ、略同じ位置の被写体が検出された場合には、検出に用いたマスクを、上述した「安定マスク」と見なす。
【００６３】
安定マスクであるか否かの判定は、どのような方法を用いても良い。例えば、ｎ回（ｎフレーム）以上連続して同一のマスクを抽出したか否かに基づいて、安定マスクであるか否かを判定しても良い。なお、上述したｎは所定の閾値（例えば、ｎ＝７）であり、撮像部２１による撮像時のフレームレート、レンズ鏡筒１０におけるズーム倍率、操作部２７を介したユーザ操作などに基づいて適宜変更可能としても良い。さらに、上述したマスク情報等に基づいて、さらに過去に行われたマスク抽出の傾向（抽出されたマスクの種類、出現頻度など）を求め、この傾向に応じて上述したｎの値を適宜変更可能としても良い。例えば、過去に高い頻度で抽出されたマスクについては、ｎの値を小さめに変更しても良い。
【００６４】
また、例えば、前回まで連続して同一のマスクを抽出したか否かを加味して安定マスクであるか否かの判定を行っても良い。このような判定を行うことにより、一時の未抽出が発生した場合については、それまでの蓄積を単純に無効にしてしまうことがない。
【００６５】
このように安定マスクが存在する場合には、ＣＰＵ２６は、安定マスクが存在することと、その安定マスクのマスク情報とを、参照情報としてバッファメモリ部２４や記憶部２５等に記録する。安定マスク情報の記録については、後述するステップＳ２１２で説明する。
【００６６】
ステップＳ２０７において、ＣＰＵ２６は、画像処理装置２２を制御してマスク抽出処理（I）を行う。マスク抽出処理（I）とは、図２のステップＳ１０４で説明した通り、ステップＳ１０３において参照情報がない（ここでは安定マスク情報がない）と判定された場合に行われるマスク抽出処理である。
【００６７】
画像処理装置２２は、図４に示すように、上述したＹＵＶ画像のＹ画像、Ｃｂ画像およびＣｒ画像のそれぞれからＹマスクＭ[Ｙ]、ＣｂマスクＭ[Ｃｂ]およびＣｒマスクＭ[Ｃｒ]を作成する。画像処理装置２２は、Ｙ画像から、例えば、Ｙ画像の中心の４画素における平均画素値Ｙａｖｅに対して、所定の範囲（例えば、Ｙａｖｅ＋Ｋ・σ）の２値化画像を生成する。そして、生成したＹ２値化画像に対してラベリング処理を施すことによりＹマスクＭ[Ｙ]を作成する。なお、上述したＫは所定の係数（例えば、Ｋ＝０．６）であり、σはＹａｖｅからの偏差である。また、２値化処理およびラベリング処理は公知技術と同様であるため説明を省略する。画像処理装置２２は、同様の処理を行ってＣｂ画像からＣｂマスクＭ[Ｃｂ]を作成し、Ｃｒ画像からＣｒマスクＭ[Ｃｒ]を作成する。
【００６８】
また、画像処理装置２２は、図４に示すように、作成したＹマスクＭ[Ｙ]、ＣｂマスクＭ[Ｃｂ]およびＣｒマスクＭ[Ｃｒ]から中心マスクＭ[ａ]を作成する。中心マスクＭ[ａ]は、ＹマスクＭ[Ｙ]、ＣｂマスクＭ[Ｃｂ]およびＣｒマスクＭ[Ｃｒ]が重なる重複領域からなるマスクである。なお、中心マスクＭ[ａ]を作成する際には、領域を例えば所定の中央領域に限定して重複領域を求める。中央領域は、図４に示すようにＡｃとする。以降の処理では、最終的に作成した中心マスクＭ[ａ]のみを使用する。
【００６９】
また、画像処理装置２２は、図５に示すように、Ｙ画像から３種類の輝度マスクを作成する（ただし、Ｙ画像から４種類以上のマスクを作成しても良い。）。画像処理装置２２は、Ｙ画像の各画素値を入力値とし、補正（例えばガンマ補正）後の各画素値を出力値とする。そして、出力値に応じて３つの区分の２値化画像を生成する。図５に示すように、Ｙ画像のハイライト部分からはＹハイライト２値化画像が生成され、Ｙ画像の中間以上の部分からはＹ中間以上２値化画像が生成され、Ｙ画像のシャドー部分からはＹシャドー２値化画像が生成される。そして、画像処理装置２２は、生成した３種類の２値化画像のそれぞれに対してラベリング処理を施すことにより、ＹハイライトマスクＭ[Ｙ１]、Ｙ中間以上マスクＭ[Ｙ２]およびＹシャドーマスクＭ[Ｙ３]の各輝度マスクを作成する。
【００７０】
また、画像処理装置２２は、図６に示すように、Ｃｂ画像およびＣｒ画像のそれぞれから、３種類ずつの色マスクを作成する。画像処理装置２２は、Ｃｂ画像に対して、上述した図５の例と同様に、出力値に応じて３つの所定区分の２値化画像を生成する。図６に示すように、Ｃｂ画像からは、青側を中心としたＣｂ青側２値化画像、中間成分を中心としたＣｂ中間２値化画像、黄側を中心としたＣｂ黄側２値化画像が生成される。同様に、Ｃｒ画像からは、赤側を中心としたＣｒ赤側２値化画像、中間成分を中心としたＣｒ中間２値化画像、緑側を中心としたＣｒ緑側２値化画像が生成される。そして、画像処理装置２２は、生成した６種類の２値化画像のそれぞれに対してラベリング処理を施すことにより、Ｃｂ青側マスクＭ[Ｃｂ１]、Ｃｂ中間マスクＭ[Ｃｂ２]、Ｃｂ黄側マスクＭ[Ｃｂ３]、Ｃｒ赤側マスクＭ[Ｃｒ１]、Ｃｒ中間マスクＭ[Ｃｒ２]、Ｃｒ緑側マスクＭ[Ｃｒ３]の６種類の色マスクを作成する。
【００７１】
また、画像処理装置２２は、図７に示すように、Ｃｂ画像およびＣｒ画像から例えば、純色赤マスクＭ[Ｒ]を作成する。なお、純色赤マスクＭ[Ｒ]以外の純色マスクをさらに作成しても良い。純色マスクとは、任意の一定の領域を有する「絶対的に純度の高い被写体」を抽出したマスクである。純色マスクの作成は、公知技術と同様に行われるため説明を省略する。
【００７２】
なお、上述した各マスクの作成時には、適宜２値化画像を生成する例を示したが、２値化画像を生成することなく、各画像から多値化画像に対するラベリングマスクを直接作成する構成としても良い。
【００７３】
以上説明した処理により、画像処理装置２２は、図４に示した１種類のマスク（中心マスクＭ[ａ]）と、図５に示した３種類の輝度マスクと、図６に示した６種類の色マスクと、図７に示した１種類の純色マスクの合計１１種類のマスクを作成する。
【００７４】
次に、画像処理装置２２は、作成した１１種類のマスクに対して、不要なマスクを排除する。なお、この際に、画像処理装置２２は、各処理後の各マスクに優先度を決定しても良い。優先度とは、１１種類のマスクから、実際に被写体領域の抽出に用いるマスクを決定する際の優先度合を示す。
【００７５】
一般的な画像を対象とした通常のマスク抽出処理であるマスク抽出処理（I）においては、例えば、図８に示すように、３段階の優先度が予め定められる。優先度１位は、４種類の純色マスクである純色赤マスクＭ[Ｒ]であり、優先度２位は、色マスクのうちＣｂ青側マスクＭ[Ｃｂ１]およびＣｂ黄側マスクＭ[Ｃｂ３]であり、優先度３位はその他のマスクである。なお、図８に示す優先度は一例であり、複数段階であれば何段階であっても良い。また、図８における各マスクの各優先度への振り分けは一例である。図８に示すように、優先度は、色情報に関するマスクの優先度が相対的に高く決定されている。
【００７６】
最後に、画像処理装置２２は、上述した１１種類のマスクのうち、一定評価値以上のマスクを求め、被写体領域を抽出するためのマスクとする。なお、被写体領域を抽出するためのマスクを選択する方法は、公知技術などどのような方法であっても良い。なお、上述した優先度が決定されている場合、画像処理装置２２は、これらの優先度に応じて、優先度の高い各マスクを優先しつつ、一定評価値以上のマスクを求め、被写体領域を抽出するためのマスクとする。そして、画像処理装置２２は、選択したマスクに基づいて被写体領域を抽出し、後述するステップＳ２０９に進む。
【００７７】
ステップＳ２０８において、ＣＰＵ２６は、画像処理装置２２を制御してマスク抽出処理（II）を行う。マスク抽出処理（II）とは、図２のステップＳ１０５で説明した通り、ステップＳ１０３において参照情報がある（ここでは安定マスク情報がある）と判定された場合に行われるマスク抽出処理である。マスク抽出処理（II）は、参照情報に基づいて行われるマスク抽出処理である。
【００７８】
ＣＰＵ２６は、安定マスク情報に基づいて、画像処理部２２によるマスク抽出処理の方法を変更する。具体的には、ＣＰＵ２６は、安定マスク情報に基づいて、過去に検出した被写体をより安定して継続的に検出できるように、マスク抽出において算出する特徴量の算出方法や、算出した特徴量に基づく被写体の検出方法をステップＳ２０７で説明したマスク抽出処理（I）から変更し、画像処理部２２によるマスク抽出処理を行う。画像処理装置２２は、下記の（ａ）から（ｄ）のうち、少なくとも１つを実行することにより、マスク抽出処理の内容をマスク抽出処理（I）から変更し、マスク抽出処理（II）を行う。
【００７９】
（ａ）新たな区分のマスクの追加
画像処理装置２２は、ステップＳ２０７で説明した１１種類のマスクを作成する際に、さらに、安定マスク情報に基づいて、新たな区分のマスクを作成する。例えば、安定マスクがＣｒ赤側マスクＭ[Ｃｒ１]である場合には、画像処理装置２２は、図９に示すように、Ｃｒ画像のうち、Ｃｒ赤側マスクＭ[Ｃｒ１]により抽出される被写体領域Ａｅに相当する画素における平均画素値Ｃｒａｖｅに対して、所定の範囲（例えば、Ｃｒａｖｅ±Ｋ１・σ）の２値化画像を生成する。そして、生成したＣｒ安定２値化画像に対してラベリング処理を施すことによりＣｒ安定マスクＭ[Ｃｒ−Ｓ]を作成する。なお、上述したＫ１は所定の係数（例えば、Ｋ＝３．０）であり、σはＣｒａｖｅからの偏差である。
【００８０】
上述した新しい区分は、過去の検出において、安定マスクにより抽出された被写体領域を、より確実かつ安定して検出するための新たな区分である。画像処理装置２２は、このような新しい区分を設けることにより、参照情報である安定マスク情報に基づいて、特徴量を算出する際に用いる画像の色情報を決定している。
【００８１】
なお、上述した新たな区分マスクの作成方法は一例であり、本発明はこの例に限定されない。安定マスク情報に基づいて、一度検出された被写体を、より安定して検出することが可能と考えられるマスクであれば、どのようなマスクをどのような方法で作成しても良い。
【００８２】
（ｂ）優先度の変更
マスク抽出において、上述した優先度が決定されている場合、画像処理装置２２は、
安定マスク情報に基づいて、ステップＳ２０７および図８で説明した優先度を変更する。例えば、安定マスクがＹ中間以上マスクＭ[Ｙ２]である場合には、画像処理装置２２は、このマスクの優先度を、マスク抽出処理（I）の場合よりも上げ、例えば、色マスクのうちＣｂ青側マスクＭ[Ｃｂ１]およびＣｂ黄側マスクＭ[Ｃｂ３]と同様の優先度２位とする。このように優先度を決定するのは、過去の検出において、安定マスクにより抽出された被写体領域を、より確実かつ安定して検出するためである。画像処理装置２２は、このように優先度を決定することにより、参照情報である安定マスク情報に基づいて、複数の特徴量における優先度を決定している。
【００８３】
なお、上述した優先度の変更方法は一例であり、本発明はこの例に限定されない。安定マスク情報に基づいて、一度検出された被写体を、より安定して検出することが可能と考えられる優先度の変更であれば、どのような方法でも良い。
【００８４】
（ｃ）モーメント評価値に関する基準点の変更
マスク抽出処理（I）およびマスク抽出処理（II）において特徴量を算出する際に、いわゆるモーメント評価値を算出する場合、画像処理装置２２は、マスク抽出処理（II）において、モーメント評価値の算出の基準となる基準点を変更する。モーメント評価値とは、画像内の所定の基準点からの距離に基づく特徴量である。マスク抽出処理（I）において、画像処理装置２２は、図１０Ａに示すように、画像内の所定の位置（例えば、中心位置）を基準点Ｂ１としてモーメント評価値を算出する。一方、マスク抽出処理（II）において、画像処理装置２２は、図１０Ｂに示すように、基準点をＢ２に変更する。なお、基準点Ｂ２は、安定マスク情報に基づいて決定される。例えば、安定マスクにより抽出される被写体領域が、図１０Ａに示した被写体領域Ａｆである場合、画像処理装置２２は、図１０Ｂに示すように、被写体領域Ａｆの中心位置を基準点Ｂ２とする。このように基準点Ｂ２を決定することにより、過去のマスク抽出処理に基づいて検出した被写体が多少変化しても、その変化を吸収することができるので、ノイズとして除外されることがない。
【００８５】
ただし、基準点を変更する際に、変更後の基準点が中心から大きく離れてしまうと、正しい特徴量の算出を行うことができない。例えば、図１０Ｃに示すように、基準点Ｂ３が画像内の中心位置から大きく離れている場合、例えば、被写体領域Ａｇのように、画像の周辺部分に存在するが、面積が比較的大きい被写体領域が検出されてしまう場合がある。このような問題を回避するために、画像処理装置２２は、基準点の位置を変更する際に、画像の中心部の一部の領域に限定して変更後の基準点の位置を決定する。画像処理装置２２は、例えば、安定マスクにより抽出される被写体領域の位置や大きさなどに応じて、図１０Ｂの範囲Ｌ１のように制限領域を設け、その領域内で基準位置を変更する。なお、画像処理装置２２は、範囲Ｌ１を設定する際に、レンズ鏡筒１０におけるズーム倍率を加味しても良い。例えば、レンズ鏡筒１０におけるズーム倍率がテレ側の時には、範囲Ｌ１を広めに設定し、ワイド側の時には、範囲Ｌ１を狭めに設定すると良い。
【００８６】
（ｄ）重点評価領域の変更
マスク抽出処理（I）およびマスク抽出処理（II）において特徴量を算出する際、または、作成した複数のマスクから実際に被写体領域の抽出に用いるマスクを決定する際に、重点評価領域が設定されている場合、画像処理装置２２は、マスク抽出処理（II）において、上述した重点評価領域を変更する。重点評価領域とは、特徴量を算出する際や複数のマスクから実際に被写体領域の抽出に用いるマスクを決定する際に優先される領域である。マスク抽出処理（I）において、画像処理装置２２は、図１１Ａに示すように、画像内の所定の位置（例えば、中心位置）に重点評価領域Ｅ１を設ける。一方、マスク抽出処理（II）において、画像処理装置２２は、図１１Ｂに示すように、優先される領域を重点評価領域Ｅ２に変更する。なお、重点評価領域Ｅ２は、安定マスク情報に基づいて変更される。また、重点評価領域Ｅ２は、重点評価領域Ｅ１と比較して、位置と大きさと形状とのうち少なくとも１つが異なる。なお、大きさについては、より安定したマスク抽出処理を行うために拡張するのが好ましい。例えば、安定マスクにより抽出される被写体領域が、図１１Ａに示した被写体領域Ａｈである場合、画像処理装置２２は、図１１Ｂに示すように、被写体領域Ａｈの位置や大きさ等に基づいて重点評価領域Ｅ２を決定する。このように重点評価領域Ｅ２を決定することにより、過去のマスク抽出処理に基づいて検出した被写体が多少変化しても、その変化を吸収することができるので、ノイズとして除外されることがない。
【００８７】
ただし、重点評価領域を変更する際に、変更後の重点評価領域が中心から大きく離れた画像の周辺部に存在すると、正しい特徴量の算出や、実際に被写体領域の抽出に用いるマスクの正しい決定を行うことができない。そこで、画像処理装置２２は、重点評価領域を決定する際に、重点評価領域の位置と大きさと形状との少なくとも一つに制限を設ける。例えば、位置については、上述した（ｃ）の場合と同様に、画像の中心部の一部の領域に限定し、大きさについては、画像サイズに対する比率（例えば、８０％未満など）で限定する。
【００８８】
さらに、中心マスクＭ[ａ]については、マスク抽出処理（I）およびマスク抽出処理（II）において重点評価領域を変更しない。図４で説明したように、中心マスクＭ[ａ]は、ＹマスクＭ[Ｙ]、ＣｂマスクＭ[Ｃｂ]およびＣｒマスクＭ[Ｃｒ]が重なる重複領域のうち、中央領域Ａｃに存在するマスクである。したがって、この中央領域Ａｃは重点評価領域の１つである。しかし、この中央領域の位置、大きさ、形状などを変更してしまうと、正しい中心マスクＭ[ａ]を作成することができなくなる。そこで、画像処理装置２２は、中心マスクＭ[ａ]については、マスク抽出処理（I）およびマスク抽出処理（II）において重点評価領域である中央領域Ａｃを変更しない。
【００８９】
なお、ステップＳ２０７またはステップＳ２０８で説明した各マスク抽出処理において、画像処理装置２２は、１つの被写体領域のみ抽出しても良いし、複数の被写体領域を抽出しても良い。
【００９０】
ステップＳ２０９において、ＣＰＵ２６は、ステップＳ２０７のマスク抽出処理(I)またはステップＳ２０８のマスク抽出処理（II）により抽出した被写体領域に関する被写体情報を、バッファメモリ部２４や記憶部２５等に記録する。なお、この被写体情報には、ステップＳ２０７またはステップＳ２０８のマスク抽出処理の抽出条件（色区分やマスク区分など）、マスクの位置、マスクの大きさや形状などの情報が含まれる。
【００９１】
ステップＳ２１０において、ＣＰＵ２６は、ステップＳ２０７のマスク抽出処理(I)またはステップＳ２０８のマスク抽出処理（II）により被写体領域を抽出できたか否かを判定する。ＣＰＵ２６は、被写体領域を抽出できたと判定するとステップＳ２１１に進む。一方、被写体領域を抽出できないと判定すると、ＣＰＵ２６は、ステップＳ２０２に戻り、次のフレームの画像に対してステップＳ２０２以降の処理を行う。
【００９２】
ステップＳ２１１において、ＣＰＵ２６は、安定マスクがあるか否かを判定する。ＣＰＵ２６は、安定マスクがあると判定するとステップＳ２１２に進む。一方、安定マスクがないと判定すると、ＣＰＵ２６は、後述するステップＳ２１３に進む。
【００９３】
安定マスクとは、上述したステップＳ２０６で説明したものである。ＣＰＵ２６は、マスク抽出処理において、連続あるいは間欠連続の複数のフレームにおいて、略同色、略同サイズのマスクが、略同じ位置の被写体が検出されると、安定マスクがあると判定する。
【００９４】
ステップＳ２１２において、ＣＰＵ２６は、安定マスク情報をバッファメモリ部２４や記憶部２５等に記録する。安定マスク情報には、安定マスクが（過去に）存在することを示す情報と、その安定マスクのマスク情報（例えば、マスク抽出処理の抽出条件（色区分やマスク区分など）、マスクの位置、マスクの大きさや形状などの情報）が含まれる。
【００９５】
ステップＳ２１３において、ＣＰＵ２６は、撮影指示が行われたか否かを判定する。ＣＰＵ２６は、撮影指示が行われたと判定するとステップＳ２１４に進む。一方、撮影指示が行われないと判定すると、ＣＰＵ２６は、ステップＳ２０２に戻り、次のフレームの画像に対してステップＳ２０２以降の処理を行う。撮影指示は、操作部２７のシャッタボタンを介したユーザ操作により行われる。このユーザ操作は、いわゆる半シャッタと全シャッタの何れであっても良い。
【００９６】
ステップＳ２１４において、ＣＰＵ２６は、各部を制御して撮影を実行する。このとき、ＣＰＵ２６は、ステップＳ２０９で記録した被写体情報に基づいて、焦点調整（ＡＦ）の設定処理、露出調整（ＡＥ）の設定処理、ホワイトバランス調整処理（ＡＷＢ）の３Ａ処理を行うとともに、画像処理装置２２における各種画像処理の条件等を決定する。なお、被写体情報が記録される前に撮影指示が行われた場合や、記録された撮影情報が撮影に用いるのに不適当な情報である場合には、ＣＰＵ２６は、通常の３Ａ処理を行って、焦点調整（ＡＦ）の設定処理、露出調整（ＡＥ）の設定処理、ホワイトバランス調整処理（ＡＷＢ）の３Ａ処理を行うとともに、画像処理装置２２における各種画像処理の条件等を決定すると良い。
【００９７】
ステップＳ２１５において、ＣＰＵ２６は、撮像により生成した画像を、通信部２８を介して記憶媒体４０に記録して一連の処理を終了する。
【００９８】
＜変形例＞
なお、上述した例では、過去のマスク抽出処理において、連続あるいは間欠連続の複数のフレームにおいて、略同色、略同サイズのマスクが、略同じ位置の被写体が検出された場合に、検出に用いたマスクを上述した「安定マスク」と見なすものとし、具体例として、ｎ回（ｎフレーム）以上連続して同一のマスクを抽出したか否かや、前回まで連続して同一のマスクを抽出したかなどの判定を行う例を示したが、本発明はこの例に限定されない。
【００９９】
例えば、一旦安定マスクが検出された後は、数フレーム（例えば、２〜３フレーム）において安定マスクが検出されなくても、対象の安定マスクを継続的に利用しても良い。
【０１００】
ただし、このような場合には、所定のタイミングでマスク抽出処理(II)の内容を初期化する構成とすると良い。例えば、一定以上の数のフレームに渡って安定マスクが検出できない場合、対象の被写体が消失したか、マスク抽出処理の条件が適切でないと考えられる。このような場合には、マスク抽出処理(II)の内容を初期化し、マスク抽出処理(I)の内容の処理を行うことにより、被写体の検出を再度はじめから行うと良い。また、マスク抽出処理(II)により、安定マスクのみならず、その他のどのようなマスクも適切に抽出できない場合にも、マスク抽出処理の条件が適切でないと考えられる。したがって、このような場合にも、マスク抽出処理(II)の内容を初期化し、マスク抽出処理(I)の内容の処理を行うことにより、被写体の検出を再度はじめから行うと良い。
【０１０１】
また、上述した例では、安定マスク情報を参照情報とする例を示したが、少なくとも１回の過去のマスク抽出処理の結果に基づくものであれば、どのような参照情報であっても良い。例えば、過去のマスク抽出処理において、抽出対象の被写体領域に関する評価値を求め、その評価値が所定の閾値以上のマスクが存在する場合には、そのマスクの情報を参照情報としても良い。
【０１０２】
また、上述した例では、マスク抽出処理（II）の例として、図３のステップＳ２０８において、（ａ）から（ｄ）のうち、少なくとも１つを実行する例を示したが、本発明はこの例に限定されない。過去の被写体検出に関する参照情報に基づいて、被写体領域の検出方法を決定するものであれば、どのような処理であっても良い。例えば、どのような特徴量をどのように算出しても良いし、複数のマスクから被写体領域を抽出するためのマスクをどのように選択しても良い。
【０１０３】
以上説明したように、本実施形態によれば、取得した画像データにより示される画像の特徴量を算出し、算出した特徴量に基づいて定まる被写体領域を検出する領域検出部を備える。そして、過去の検出結果に応じた参照情報に基づいて、次回の領域検出部による被写体領域の検出方法を決定する。
【０１０４】
通常、撮影において画角がほぼ変わらず、被写体自体の変化も少ない場合には、主要被写体領域の抽出が安定して継続的に行われることが望ましい。本実施形態によれば、上述の構成により、多少の画角変化や手ぶれなどの外乱に対する耐性を向上させつつ、継続的な主要被写体領域の抽出を、容易かつ的確に行うことができる。また、参照情報を用いて、統計的な観点を加味して処理を行うことにより、継続的な主要被写体領域の抽出を行うことができるので、被写体領域の抽出がコマ飛びしたり、抽出される被写体領域がばらつくという問題を抑えることができる。
【０１０５】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【０１０６】
また、上記の各実施形態においては、構図確認用のスルー画像に基づいて、一連の処理を行う例を示したが、本発明はこの例に限定されない。例えば、一眼レフカメラなどにおいて生成される構図確認用のライブビュー画像を対象とする場合にも、本発明を同様に適用することができる。また、記録媒体４０等に記録された動画像を対象とする場合にも、本発明を同様に適用することができる。
【０１０７】
また、上記の各実施形態においては、すべてのフレームを対象として一連の処理を行う例を示したが、本発明はこの例に限定されない。例えば、時間的に離散して生成された複数の画像を対象としても良い。具体的には、適宜フレーム間引きを行った複数の画像を対象としても良い。この場合、上記の各実施形態における一連の処理は間引きされた複数の画像を対象として実行しつつ、すべての画像について表示を行っても良い。このような処理を行うことにより、処理負荷を軽減することができる。
【０１０８】
また、コンピュータと画像処理プログラムとからなる「コンピュータシステム」により、上述した各実施形態で説明した画像処理をソフトウェア的に実現しても良い。この場合、各実施形態で説明したフローチャートの処理の一部または全部をコンピュータシステムで実行する構成とすれば良い。例えば、図２のステップＳ１０１からステップＳ１１１の処理の一部または全部をコンピュータで実行しても良い。また、図３のステップＳ２０１からステップＳ２１２の処理の一部または全部をコンピュータで実行しても良い。このような構成とすることにより、上述した各実施形態と同様の処理を実施することが可能になる。
【０１０９】
また、「コンピュータシステム」は、ｗｗｗシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。また、コンピュータ読み取り可能な記録媒体とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、フラッシュメモリ等の書き込み可能な不揮発性メモリ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【０１１０】
さらにコンピュータ読み取り可能な記録媒体とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（例えばＤＲＡＭ（Ｄｙｎａｍｉｃ  Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ））のように、一定時間プログラムを保持しているものも含むものとする。
【０１１１】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
【０１１２】
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。
【符号の説明】
【０１１３】
２０…撮像装置、２１…撮像部、２２…画像処理装置、２３‥表示部、２６…ＣＰＵ
【図１】
2014039098.tif 000003
【図２】
2014039098.tif 000004
【図３】
2014039098.tif 000005
【図４】
2014039098.tif 000006
【図５】
2014039098.tif 000007
【図６】
2014039098.tif 000008
【図７】
2014039098.tif 000009
【図８】
2014039098.tif 000010
【図９】
2014039098.tif 000011
【図１０】
2014039098.tif 000012
【図１１】
2014039098.tif 000013