(57)【特許請求の範囲】
【請求項１】
入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスを出力する出力手段を備える
画像処理装置。
【請求項２】
前記背景領域内の各領域におけるエッジ強度を抽出して前記部分領域評価値を算出する部分領域評価値算出手段をさらに備える
請求項１に記載の画像処理装置。
【請求項３】
前記入力画像の前記背景領域内の各領域におけるエッジ強度に基づいて、前記入力画像の各前記端近傍の領域におけるエッジ強度を算出するエッジ強度算出手段をさらに備える
請求項１に記載の画像処理装置。
【請求項４】
前記入力画像の全体から所定の特徴の特徴量を抽出し、前記特徴量に基づいて前記入力画像の見映えの評価を示す全体領域評価値を算出する全体領域評価値算出手段をさらに備え、
前記出力手段は、前記全体領域評価値が第３の閾値以下である場合、前記全体領域評価値に対して予め定められた前記アドバイスを出力する
請求項２に記載の画像処理装置。
【請求項５】
前記部分領域評価値算出手段は、
前記入力画像上の被写体の領域が有する特徴の特徴量を、前記入力画像の各領域から抽出することで前記入力画像上の前記被写体の領域を特定する被写体領域特定手段と、
前記入力画像上の前記被写体の含まれない領域を前記背景領域として、前記背景領域内の各領域におけるエッジ強度に基づいて前記部分領域評価値を算出する算出手段と
を備える請求項４に記載の画像処理装置。
【請求項６】
前記出力手段は、前記部分領域評価値が前記第１の閾値以下である場合、前記入力画像の背景をぼかすべき旨の前記アドバイスを出力する
請求項４に記載の画像処理装置。
【請求項７】
前記出力手段は、前記入力画像における互いに対向する２つの前記端近傍の領域におけるエッジ強度が前記第２の閾値以上である場合、前記構図を変更すべき旨の前記アドバイスとして、被写体側に近寄って撮像すべき旨の前記アドバイスを出力する
請求項４に記載の画像処理装置。
【請求項８】
前記出力手段は、前記入力画像における互いに対向する２つの前記端近傍の領域のうちの一方の前記端近傍の領域のエッジ強度が前記第２の閾値以上であり、他方の前記端近傍の領域のエッジ強度が前記第２の閾値より小さい場合、前記構図を変更すべき旨の前記アドバイスとして、前記他方の前記端近傍の領域側に寄って撮像すべき旨の前記アドバイスを出力する
請求項４に記載の画像処理装置。
【請求項９】
前記全体領域評価値算出手段は、前記入力画像の全体におけるぼけの度合いに基づく前記全体領域評価値を算出し、
前記出力手段は、前記全体領域評価値が前記第３の閾値以下である場合、ピント調整すべき旨の前記アドバイスを出力する
請求項４に記載の画像処理装置。
【請求項１０】
前記全体領域評価値算出手段は、前記入力画像の全体における、色の分布、彩度の平均、または彩度の分散の少なくとも何れかに基づく前記全体領域評価値を算出し、
前記出力手段は、前記全体領域評価値が前記第３の閾値以下である場合、ホワイトバランスを調整すべき旨の前記アドバイスを出力する
請求項４に記載の画像処理装置。
【請求項１１】
入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスを出力する出力手段を備える画像処理装置の画像処理方法であって、
前記出力手段が、前記部分領域評価値が前記第１の閾値以下であり、かつ前記端近傍の領域のエッジ強度が前記第２の閾値以上である場合、前記構図を変更すべき旨の前記アドバイスを出力する
ステップを含む画像処理方法。
【請求項１２】
入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスを出力する
ステップを含む処理をコンピュータに実行させるプログラム。
【請求項１３】
入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスを出力する
ステップを含む処理をコンピュータに実行させるプログラムが記録されているコンピュータが読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は画像処理装置および方法、並びにプログラムに関し、特に、ユーザがより見映えのよい画像を撮像できるようにした画像処理装置および方法、並びにプログラムに関する。
【背景技術】
【０００２】
従来、画像を撮像するにあたり、より見映えのよい画像を撮像することができるように、ユーザに対して撮像時のアドバイスをする撮像装置が提案されている。
【０００３】
そのような撮像装置には、撮像する画像から人物の顔の位置を検出し、検出された顔が画像内の予め定められた位置に配置されるように、修正すべき撮像装置の向きを音声により出力するものがある（例えば、特許文献１参照）。
【０００４】
また、ユーザの指示により予め撮像されたプレ画像と、撮像しようとする画像との構図のずれを検出し、その検出結果に応じて、撮像装置を動かすべき方向を示す画像を表示させる撮像装置もある（例えば、特許文献２参照）。この撮像装置では、表示された画像の示す方向に撮像装置を向ければ、ユーザは、プレ画像と同じ構図の画像を得ることができる。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００５−２６９５６２号公報
【特許文献２】特開２００６−２２２６９０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、上述した技術では、ユーザがより見映えのよい画像を撮像することができるように、的確なアドバイスを提示することは困難であった。
【０００７】
例えば、画像内の人物の顔の位置により、撮像装置を向けるべき方向を音声で出力する撮像装置では、被写体が人物ではない場合には、ユーザに対してアドバイスをすることができなかった。また、この撮像装置では、決められた構図の画像しか撮像することができない。
【０００８】
さらに、プレ画像との構図のずれを検出する撮像装置では、プレ画像と同じ構図を再現することができるが、プレ画像自体はユーザにより撮像された画像であるため、プレ画像が一般的な評価の高い画像、つまり見映えのよい画像であるとは限らない。したがって、ユーザが撮像装置により提示されるアドバイスに従って画像を撮像しても、必ずしも見映えのよい画像が得られる訳ではなかった。
【０００９】
本発明は、このような状況に鑑みてなされたものであり、ユーザがより見映えのよい画像を撮像できるように、より的確なアドバイスを提示することができるようにするものである。
【課題を解決するための手段】
【００１０】
本発明の一側面の画像処理装置は、入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスを出力する出力手段を備える。
【００１１】
画像処理装置には、前記背景領域内の各領域におけるエッジ強度を抽出して前記部分領域評価値を算出する部分領域評価値算出手段をさらに設けることができる。
画像処理装置には、前記入力画像の前記背景領域内の各領域におけるエッジ強度に基づいて、前記入力画像の各前記端近傍の領域におけるエッジ強度を算出するエッジ強度算出手段をさらに設けることができる。
【００１２】
画像処理装置には、前記入力画像の全体から所定の特徴の特徴量を抽出し、前記特徴量に基づいて前記入力画像の見映えの評価を示す全体領域評価値を算出する全体領域評価値算出手段をさらに設け、前記出力手段には、前記全体領域評価値が第３の閾値以下である場合、前記全体領域評価値に対して予め定められた前記アドバイスを出力させることができる。
【００１３】
前記部分領域評価値算出手段には、前記入力画像上の被写体の領域が有する特徴の特徴量を、前記入力画像の各領域から抽出することで前記入力画像上の前記被写体の領域を特定する被写体領域特定手段と、前記入力画像上の前記被写体の含まれない領域を前記背景領域として、前記背景領域内の各領域におけるエッジ強度に基づいて前記部分領域評価値を算出する算出手段とを設けることができる。
【００１４】
前記出力手段には、前記部分領域評価値が前記第１の閾値以下である場合、前記入力画像の背景をぼかすべき旨の前記アドバイスを出力させることができる。
【００１５】
前記出力手段には、前記入力画像における互いに対向する２つの前記端近傍の領域におけるエッジ強度が前記第２の閾値以上である場合、前記構図を変更すべき旨の前記アドバイスとして、被写体側に近寄って撮像すべき旨の前記アドバイスを出力させることができる。
【００１６】
前記出力手段には、前記入力画像における互いに対向する２つの前記端近傍の領域のうちの一方の前記端近傍の領域のエッジ強度が前記第２の閾値以上であり、他方の前記端近傍の領域のエッジ強度が前記第２の閾値より小さい場合、前記構図を変更すべき旨の前記アドバイスとして、前記他方の前記端近傍側に寄って撮像すべき旨の前記アドバイスを出力させることができる。
【００１７】
前記全体領域評価値算出手段には、前記入力画像の全体におけるぼけの度合いに基づく前記全体領域評価値を算出させ、前記出力手段には、前記全体領域評価値が前記第３の閾値以下である場合、ピント調整すべき旨の前記アドバイスを出力させることができる。
【００１８】
前記全体領域評価値算出手段には、前記入力画像の全体における、色の分布、彩度の平均、または彩度の分散の少なくとも何れかに基づく前記全体領域評価値を算出させ、前記出力手段には、前記全体領域評価値が前記第３の閾値以下である場合、ホワイトバランスを調整すべき旨の前記アドバイスを出力させることができる。
【００１９】
本発明の一側面の画像処理方法、プログラム、または記録媒体に記録されたプログラムは、入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスを出力するステップを含む。
【００２０】
本発明の一側面においては、入力画像の背景領域内の各領域におけるエッジ強度を抽出することで算出された、前記背景領域におけるエッジの複雑さに基づく部分領域評価値であって、前記入力画像の見映えの評価を示す部分領域評価値が第１の閾値以下であり、かつ前記入力画像の端近傍の領域のエッジ強度が第２の閾値以上である場合、前記入力画像の見映えの評価をより高くするための前記入力画像の撮像時のアドバイスとして、構図を変更すべき旨のアドバイスが出力される。
【発明の効果】
【００２１】
本発明の一側面によれば、ユーザがより見映えのよい画像を撮像できるように、より的確なアドバイスを提示することができる。
【図面の簡単な説明】
【００２２】
【図１】本発明を適用した画像処理装置の一実施の形態の構成例を示す図である。
【図２】ぼけ度得点算出部の構成例を示す図である。
【図３】輝度得点算出部の構成例を示す図である。
【図４】被写体抽出部の構成例を示す図である。
【図５】輝度情報抽出部の構成例を示す図である。
【図６】色情報抽出部の構成例を示す図である。
【図７】エッジ情報抽出部の構成例を示す図である。
【図８】顔情報抽出部の構成例を示す図である。
【図９】動き情報抽出部の構成例を示す図である。
【図１０】エッジ得点算出部の構成例を示す図である。
【図１１】彩度得点算出部の構成例を示す図である。
【図１２】撮像処理を説明するフローチャートである。
【図１３】ぼけ度得点算出処理を説明するフローチャートである。
【図１４】エッジマップの生成について説明する図である。
【図１５】ローカルマックスの生成について説明する図である。
【図１６】エッジの構造の例を示す図である。
【図１７】ぼけ度スコアの変換テーブルの例を示す図である。
【図１８】ぼけ度スコアに対する得点の定め方を説明する図である。
【図１９】輝度得点算出処理を説明するフローチャートである。
【図２０】被写体マップ生成処理を説明するフローチャートである。
【図２１】輝度情報抽出処理を説明するフローチャートである。
【図２２】色情報抽出処理を説明するフローチャートである。
【図２３】エッジ情報抽出処理を説明するフローチャートである。
【図２４】顔情報抽出処理を説明するフローチャートである。
【図２５】動き情報抽出処理を説明するフローチャートである。
【図２６】エッジ得点算出処理を説明するフローチャートである。
【図２７】彩度得点算出処理を説明するフローチャートである。
【図２８】アドバイス生成処理を説明するフローチャートである。
【図２９】コンピュータの構成例を示す図である。
【発明を実施するための形態】
【００２３】
以下、図面を参照して、本発明を適用した実施の形態について説明する。
【００２４】
［画像処理装置の構成］
図１は、本発明を適用した画像処理装置の一実施の形態の構成例を示す図である。
【００２５】
この画像処理装置１１は、例えばカメラなどの撮像装置であり、取り込まれた入力画像について、その入力画像が上手く撮れているか否か、つまり入力画像の撮れ具合（入力画像の見映え）の評価を示す得点を算出する。そして、画像処理装置１１は、得られた入力画像の得点に基づいて、より見映えのよい入力画像が得られるようにするためのアドバイスを表示する。
【００２６】
ここで、入力画像の評価は、その入力画像が、より写真の専門家により撮像された画像に近いほど高くなり、入力画像の得点の値も大きくなるものとされる。すなわち、得点が高い入力画像ほど、より上手く撮れた画像であるとされる。また、入力画像の得点は、入力画像から抽出される特徴、つまり評価の指標ごとに求められる。
【００２７】
画像処理装置１１は、撮像部２１、取得部２２、ぼけ度得点算出部２３、輝度得点算出部２４、エッジ得点算出部２５、彩度得点算出部２６、アドバイス生成部２７、表示制御部２８、および表示部２９から構成される。
【００２８】
撮像部２１は、撮像素子などからなり、ユーザの操作に応じて入力画像を撮像して、撮像により得られた入力画像を取得部２２および表示制御部２８に供給する。例えば、入力画像は、各画素が画素値としてＲ（赤），Ｇ（緑），およびＢ（青）の成分の値を有する動画像とされる。
【００２９】
取得部２２は、撮像部２１から供給された入力画像の１フレーム分をキャプチャして、これにより得られた入力画像（静止画像）をぼけ度得点算出部２３乃至彩度得点算出部２６に供給する。また、取得部２２は、ユーザの指示に応じて、キャプチャした入力画像を撮像された静止画像として図示せぬ記録部に供給し、記録させる。
【００３０】
ぼけ度得点算出部２３乃至彩度得点算出部２６は、取得部２２から供給された入力画像から、予め定められた特徴の特徴量を抽出し、その特徴に基づく、入力画像に対する見映えの評価を示す特徴別の得点を算出する。
【００３１】
すなわち、ぼけ度得点算出部２３は、予め定められた特徴の特徴量として、入力画像からエッジ強度を抽出し、そのエッジ強度に基づいて、入力画像のぼけ具合を指標とするぼけ度の得点を算出する。輝度得点算出部２４は、予め定められた特徴の特徴量として、入力画像から輝度値を抽出し、その輝度値に基づいて、入力画像の被写体部分（前景部分）における輝度値の分布に基づく評価を示す輝度の得点を算出する。
【００３２】
エッジ得点算出部２５は、予め定められた特徴の特徴量として、入力画像からエッジ強度を抽出し、そのエッジ強度に基づいて、入力画像の背景部分におけるエッジの複雑さに基づく評価を示すエッジの得点を算出する。彩度得点算出部２６は、予め定められた特徴の特徴量として、入力画像から彩度を抽出し、その彩度に基づいて、入力画像における彩度の分布の平均および分散に基づく評価を示す彩度の得点を算出する。
【００３３】
ぼけ度得点算出部２３乃至彩度得点算出部２６は、算出したぼけ度の得点、輝度の得点、エッジの得点、および彩度の得点をアドバイス生成部２７に供給する。なお、以下、ぼけ度の得点、輝度の得点、エッジの得点、および彩度の得点のそれぞれを特に区別する必要のない場合、単に特徴別の得点とも称する。
【００３４】
アドバイス生成部２７は、ぼけ度得点算出部２３乃至彩度得点算出部２６から供給された特徴別の得点に基づいて、ユーザがより見映えのよい入力画像を撮像できるようにするためのアドバイスを生成し、表示制御部２８に供給する。例えば、アドバイスは、文字メッセージを表示させるためのデータとされ、入力画像から抽出される特徴（特徴別の得点）ごとに、予め定められたアドバイスが用意されている。
【００３５】
表示制御部２８は、撮像部２１から供給された入力画像を表示部２９に供給して表示させるとともに、アドバイス生成部２７からのアドバイスを表示部２９に供給し、アドバイスを表示部２９に表示させる。表示部２９は、例えば液晶ディスプレイなどからなり、表示制御部２８の制御に従って入力画像やアドバイスを表示する。
【００３６】
表示部２９に表示される入力画像は、画像処理装置１１に取り込まれた、いわゆるプレビュー画像であり、ユーザは、表示部２９に表示されている入力画像を見ながら画像処理装置１１を動かして、画像処理装置１１の被写体に対する向きを変えて構図を決定する。
【００３７】
そして、ユーザは、構図を決定すると、画像処理装置１１を操作して、撮像を指示する。すると、取得部２２は、撮像が指示された時点での入力画像のフレームをキャプチャし、その結果得られた１フレーム分の入力画像を、撮像された入力画像として記録させる。
【００３８】
このとき、ユーザが、表示部２９に表示されるアドバイスに従って、入力画像の構図を変更したり、画像処理装置１１を操作してホワイトバランス等の調整を行ったりしてから撮像を指示すると、より見映えのよい入力画像が得られる。
【００３９】
［ぼけ度得点算出部の構成］
また、図１のぼけ度得点算出部２３は、より詳細には、図２に示すように構成される。
【００４０】
すなわち、ぼけ度得点算出部２３は、エッジマップ生成部６１、ダイナミックレンジ検出部６２、演算パラメータ調整部６３、ローカルマックス生成部６４、エッジポイント抽出部６５、抽出量判定部６６、エッジ分析部６７、ぼけ度検出部６８、および変換部６９から構成される。
【００４１】
エッジマップ生成部６１は、取得部２２から供給された入力画像に基づいて、互いに大きさが異なる３種類のブロック単位で入力画像のエッジの強度（エッジ強度）を検出し、検出したエッジ強度を画素値とするエッジマップを生成する。このエッジマップは、ブロックの大きさごとに生成され、ブロックの小さいものから順番に、スケールＳＣ１乃至スケールＳＣ３のエッジマップとされる。エッジマップ生成部６１は、生成したこれらの３つのエッジマップを、ダイナミックレンジ検出部６２およびローカルマックス生成部６４に供給する。
【００４２】
ダイナミックレンジ検出部６２は、エッジマップ生成部６１からのエッジマップを用いて、入力画像のエッジ強度の最大値と最小値の差であるダイナミックレンジを検出し、その検出結果を演算パラメータ調整部６３に供給する。
【００４３】
演算パラメータ調整部６３は、ダイナミックレンジ検出部６２から供給された検出結果に基づいて、入力画像のぼけ具合の検出に用いるエッジポイントの抽出量（以下、エッジポイント抽出量とも称する）が適切な値になるように、エッジポイントの抽出に用いる演算パラメータを調整する。ここで、エッジポイントとは、画像内のエッジを構成する画素をいう。
【００４４】
また、演算パラメータには、エッジポイントであるか否かの判定に用いるエッジ基準値、およびエッジポイント抽出量が適切であるか否かの判定に用いる抽出基準値が含まれる。演算パラメータ調整部６３は、エッジ基準値をエッジポイント抽出部６５および抽出量判定部６６に供給し、抽出基準値を抽出量判定部６６に供給する。
【００４５】
ローカルマックス生成部６４は、エッジマップ生成部６１から供給されたエッジマップを、それぞれ所定の大きさのブロックに分割し、各ブロックの画素値の最大値を抽出することによりローカルマックスを生成する。ローカルマックスは、エッジマップのスケールごとに生成され、ローカルマックス生成部６４からエッジポイント抽出部６５およびエッジ分析部６７に供給される。以下、スケールＳＣ１乃至スケールＳＣ３のエッジマップから生成されたローカルマックスを、それぞれローカルマックスＬＭ１乃至ローカルマックスＬＭ３と称する。
【００４６】
エッジポイント抽出部６５は、演算パラメータ調整部６３からのエッジ基準値、およびローカルマックス生成部６４からのローカルマックスに基づいて、入力画像からエッジポイントを抽出する。また、エッジポイント抽出部６５は、抽出したエッジポイントの情報を示すエッジポイントテーブルを生成し、抽出量判定部６６に供給する。なお、以下、ローカルマックスＬＭ１乃至ローカルマックスＬＭ３のそれぞれから得られたエッジポイントテーブルを、エッジポイントテーブルＥＴ１乃至エッジポイントテーブルＥＴ３と称する。
【００４７】
抽出量判定部６６は、エッジポイント抽出部６５からのエッジポイントテーブル、および演算パラメータ調整部６３からの抽出基準値に基づいて、エッジポイント抽出量が適切であるか否かを判定する。抽出量判定部６６は、エッジポイント抽出量が適切でない場合、エッジポイント抽出量が適切でない旨を演算パラメータ調整部６３に通知し、エッジポイント抽出量が適切である場合、そのときのエッジ基準値およびエッジポイントテーブルをエッジ分析部６７に供給する。
【００４８】
エッジ分析部６７は、抽出量判定部６６からのエッジポイントテーブルに基づいて、入力画像のエッジポイントの分析を行い、その分析結果をぼけ度検出部６８に供給する。ぼけ度検出部６８は、エッジポイントの分析結果に基づいて、入力画像のぼけ具合を示す指標であるぼけ度を検出し、そのぼけ度をぼけ度スコアとして変換部６９に供給する。ここで、ぼけ度スコアは、入力画像のぼけの度合いを示しており、その値が大きいほど入力画像全体がぼけていることを示している。
【００４９】
変換部６９は、予め保持している変換テーブルを用いて、ぼけ度検出部６８から供給されたぼけ度スコアを、ぼけ度の得点に変換し、アドバイス生成部２７に供給する。ぼけ度の得点は、ぼけ度スコア、つまりぼけの度合いを指標とした入力画像に対する見映えの評価であり、入力画像がぼけているほど、その得点の値は小さくなる。
【００５０】
［輝度得点算出部の構成］
また、図１の輝度得点算出部２４は、より詳細には図３に示すように構成される。
【００５１】
すなわち、輝度得点算出部２４は、平均輝度算出部９１、被写体抽出部９２、乗算部９３、ヒストグラム生成部９４、正規化部９５、スコア算出部９６、および変換部９７から構成される。また、取得部２２からの入力画像は、平均輝度算出部９１、被写体抽出部９２、および乗算部９３に供給される。
【００５２】
平均輝度算出部９１は、取得部２２から供給された入力画像に基づいて、入力画像の各画素の輝度値の平均値である平均輝度を算出し、変換部９７に供給する。
【００５３】
被写体抽出部９２は、取得部２２から供給された入力画像に基づいて、入力画像における被写体の含まれる領域を抽出するための被写体マップを生成し、乗算部９３に供給する。
【００５４】
例えば、被写体マップの画素の画素値は、その画素と同じ位置にある入力画像の領域が、被写体を含む領域であると推定される場合には「１」とされ、その画素と同じ位置にある入力画像の領域が、被写体を含まない領域であると推定される場合には「０」とされる。また、ここでいう被写体は、ユーザが入力画像を一瞥した場合に、ユーザが注目すると推定される入力画像上の物体、つまりユーザが目を向けると推定される物体とされる。したがって、被写体は必ずしも人に限られる訳ではない。
【００５５】
乗算部９３は、取得部２２からの入力画像の画素の画素値に、被写体抽出部９２からの被写体マップの画素の画素値を乗算することにより、入力画像における被写体の領域の画像である被写体画像を生成し、ヒストグラム生成部９４に供給する。被写体画像において、被写体部分の画素の画素値は、その画素と同じ位置の入力画像の画素の画素値と同じ値となり、被写体画像において、被写体を含まない背景部分の画素の画素値は０とされる。つまり、乗算部９３における乗算処理によって、入力画像における被写体の領域が特定（抽出）され、その被写体の部分からなる被写体画像が生成される。
【００５６】
ヒストグラム生成部９４は、乗算部９３からの被写体画像に基づいて、被写体画像の輝度値のヒストグラムを生成し、正規化部９５に供給する。正規化部９５は、ヒストグラム生成部９４からのヒストグラムを正規化し、スコア算出部９６に供給する。
【００５７】
また、スコア算出部９６は、正規化部９５から供給されたヒストグラムに基づいて輝度スコアを算出し、変換部９７に供給する。ここで、輝度スコアは、予め用意された見映えのよい画像の前景部分の輝度分布に対する、入力画像の前景部分の輝度分布の類似の度合いを示している。
【００５８】
変換部９７は、予め保持している変換テーブルを用いて、スコア算出部９６からの輝度スコアを輝度の得点に変換する。変換により得られる輝度の得点は、入力画像の前景部分の輝度分布を指標とした、入力画像の見映えの評価を示す値である。また、変換部９７は、変換により得られた輝度の得点と、平均輝度算出部９１からの平均輝度とをアドバイス生成部２７に供給する。
【００５９】
［被写体抽出部の構成］
ここで、図３の被写体抽出部９２は、より詳細には図４に示すように構成される。
【００６０】
すなわち、被写体抽出部９２は、輝度情報抽出部１２１、色情報抽出部１２２、エッジ情報抽出部１２３、顔情報抽出部１２４、動き情報抽出部１２５、および被写体マップ生成部１２６から構成される。また、取得部２２からの入力画像は、被写体抽出部９２の輝度情報抽出部１２１乃至動き情報抽出部１２５に供給される。
【００６１】
輝度情報抽出部１２１乃至動き情報抽出部１２５は、取得部２２から供給された入力画像から被写体の領域がより多く有する特徴の特徴量を抽出して、入力画像の各領域における被写体の領域らしさを示す情報マップを生成する。
【００６２】
具体的には、輝度情報抽出部１２１は、入力画像から輝度値を抽出して、入力画像の各領域における、輝度に関する情報を示す輝度情報マップを生成し、被写体マップ生成部１２６に供給する。色情報抽出部１２２は、入力画像から所定の色の成分を抽出して、入力画像の各領域における、色に関する情報を示す色情報マップを生成し、被写体マップ生成部１２６に供給する。
【００６３】
エッジ情報抽出部１２３は、入力画像からエッジ強度を抽出して、入力画像の各領域における、エッジに関する情報を示すエッジ情報マップを生成し、被写体マップ生成部１２６に供給する。顔情報抽出部１２４は、入力画像から人の顔の有する特徴の特徴量を抽出して、入力画像の各領域における、被写体としての人の顔に関する情報を示す顔情報マップを生成し、被写体マップ生成部１２６に供給する。動き情報抽出部１２５は、入力画像から動きベクトルを抽出して、入力画像の各領域における、動きに関する情報を示す動き情報マップを生成し、被写体マップ生成部１２６に供給する。
【００６４】
なお、以下、輝度情報抽出部１２１乃至動き情報抽出部１２５から出力される、輝度情報マップ乃至動き情報マップのそれぞれを個々に区別する必要のない場合、単に情報マップとも称する。これらの情報マップに含まれる情報は、被写体の含まれる領域により多く含まれる特徴の特徴量を示す情報とされ、その情報が入力画像の各領域に対応させて並べられたものが情報マップとされる。つまり、情報マップは、入力画像の各領域における特徴量を示す情報であるといえる。
【００６５】
したがって、各情報マップにおける、より情報量の多い領域、つまり特徴量の多い領域に対応する入力画像上の領域は、より被写体が含まれる可能性の高い領域となり、各情報マップにより入力画像における被写体の含まれる領域を特定することができる。
【００６６】
被写体マップ生成部１２６は、輝度情報抽出部１２１乃至動き情報抽出部１２５から供給された情報マップを線形結合し、被写体マップを生成する。すなわち、輝度情報マップ乃至動き情報マップの各領域の情報（特徴量）が、同じ位置にある領域ごとに重み付き加算されて被写体マップが生成される。被写体マップ生成部１２６は、生成した被写体マップを乗算部９３に供給する。
【００６７】
［輝度情報抽出部の構成］
次に、図５乃至図９を参照して、図４の輝度情報抽出部１２１乃至動き情報抽出部１２５のより詳細な構成について説明する。
【００６８】
図５は、輝度情報抽出部１２１のより詳細な構成例を示す図である。
【００６９】
輝度情報抽出部１２１は、輝度画像生成部１５１、ピラミッド画像生成部１５２、差分算出部１５３、および輝度情報マップ生成部１５４から構成される。
【００７０】
輝度画像生成部１５１は、取得部２２から供給された入力画像を用いて、入力画像の画素の輝度値を、画素の画素値とする輝度画像を生成し、ピラミッド画像生成部１５２に供給する。ここで、輝度画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素の輝度値を示している。
【００７１】
ピラミッド画像生成部１５２は、輝度画像生成部１５１から供給された輝度画像を用いて、互いに解像度の異なる複数の輝度画像を生成し、それらの輝度画像を輝度のピラミッド画像として差分算出部１５３に供給する。
【００７２】
例えば、レベルＬ１乃至レベルＬ８までの８つの解像度の階層のピラミッド画像が生成され、レベルＬ１のピラミッド画像が最も解像度が高く、レベルＬ１からレベルＬ８まで順番にピラミッド画像の解像度が低くなるものとする。
【００７３】
この場合、輝度画像生成部１５１により生成された輝度画像が、レベルＬ１のピラミッド画像とされる。また、レベルＬｉ（但し、１≦ｉ≦７）のピラミッド画像における、互いに隣接する４つの画素の画素値の平均値が、それらの画素と対応するレベルＬ（ｉ＋１）のピラミッド画像の１つの画素の画素値とされる。したがって、レベルＬ（ｉ＋１）のピラミッド画像は、レベルＬｉのピラミッド画像に対して縦横半分（割り切れない場合は切り捨て）の大きさの画像となる。
【００７４】
差分算出部１５３は、ピラミッド画像生成部１５２から供給された複数のピラミッド画像のうち、互いに階層の異なる２つのピラミッド画像を選択し、選択したピラミッド画像の差分を求めて輝度の差分画像を生成する。なお、各階層のピラミッド画像は、それぞれ大きさ（画素数）が異なるので、差分画像の生成時には、より小さい方のピラミッド画像が、より大きいピラミッド画像に合わせてアップコンバートされる。
【００７５】
差分算出部１５３は、予め定められた数だけ輝度の差分画像を生成すると、生成したそれらの差分画像を正規化し、輝度情報マップ生成部１５４に供給する。輝度情報マップ生成部１５４は、差分算出部１５３から供給された差分画像に基づいて輝度情報マップを生成し、被写体マップ生成部１２６に供給する。
【００７６】
［色情報抽出部の構成］
図６は、図４の色情報抽出部１２２のより詳細な構成例を示す図である。
【００７７】
色情報抽出部１２２は、ＲＧ差分画像生成部１８１、ＢＹ差分画像生成部１８２、ピラミッド画像生成部１８３、ピラミッド画像生成部１８４、差分算出部１８５、差分算出部１８６、色情報マップ生成部１８７、および色情報マップ生成部１８８から構成される。
【００７８】
ＲＧ差分画像生成部１８１は、取得部２２から供給された入力画像を用いて、入力画像の画素のＲ（赤）成分とＧ（緑）成分との差分を、画素の画素値とするＲＧ差分画像を生成し、ピラミッド画像生成部１８３に供給する。ＲＧ差分画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素のＲの成分と、Ｇの成分との差分の値を示している。
【００７９】
ＢＹ差分画像生成部１８２は、取得部２２から供給された入力画像を用いて、入力画像の画素のＢ（青）成分とＹ（黄）成分との差分を、画素の画素値とするＢＹ差分画像を生成し、ピラミッド画像生成部１８４に供給する。ＢＹ差分画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素のＢ（青）成分と、Ｙ（黄）成分との差分の値を示している。
【００８０】
ピラミッド画像生成部１８３およびピラミッド画像生成部１８４は、ＲＧ差分画像生成部１８１およびＢＹ差分画像生成部１８２から供給されたＲＧ差分画像およびＢＹ差分画像を用いて、互いに解像度の異なる複数のＲＧ差分画像およびＢＹ差分画像を生成する。
そして、ピラミッド画像生成部１８３およびピラミッド画像生成部１８４は、生成したそれらのＲＧ差分画像およびＢＹ差分画像を、ＲＧの差分のピラミッド画像、およびＢＹの差分のピラミッド画像として差分算出部１８５および差分算出部１８６に供給する。
【００８１】
例えば、ＲＧの差分のピラミッド画像、およびＢＹの差分のピラミッド画像として、輝度のピラミッド画像の場合と同様に、それぞれレベルＬ１乃至レベルＬ８までの８つの解像度の階層のピラミッド画像が生成される。
【００８２】
差分算出部１８５および差分算出部１８６は、ピラミッド画像生成部１８３およびピラミッド画像生成部１８４から供給された複数のピラミッド画像のうち、互いに階層の異なる２つのピラミッド画像を選択し、選択したピラミッド画像の差分を求めてＲＧの差分の差分画像、およびＢＹの差分の差分画像を生成する。なお、各階層のピラミッド画像は、それぞれ大きさが異なるので、差分画像の生成時には、より小さい方のピラミッド画像がアップコンバートされて、より大きい方のピラミッド画像と同じ大きさとされる。
【００８３】
差分算出部１８５および差分算出部１８６は、予め定められた数だけＲＧの差分の差分画像、およびＢＹの差分の差分画像を生成すると、生成したそれらの差分画像を正規化し、色情報マップ生成部１８７および色情報マップ生成部１８８に供給する。色情報マップ生成部１８７および色情報マップ生成部１８８は、差分算出部１８５および差分算出部１８６から供給された差分画像に基づいて色情報マップを生成し、被写体マップ生成部１２６に供給する。色情報マップ生成部１８７ではＲＧの差分の色情報マップが生成され、色情報マップ生成部１８８ではＢＹの差分の色情報マップが生成される。
【００８４】
［エッジ情報抽出部の構成］
図７は、図４のエッジ情報抽出部１２３のより詳細な構成例を示す図である。
【００８５】
エッジ情報抽出部１２３は、エッジ画像生成部２１１乃至エッジ画像生成部２１４、ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８、差分算出部２１９乃至差分算出部２２２、およびエッジ情報マップ生成部２２３乃至エッジ情報マップ生成部２２６から構成される。
【００８６】
エッジ画像生成部２１１乃至エッジ画像生成部２１４は、取得部２２から供給された入力画像に対して、ガボアフィルタを用いたフィルタ処理を施し、例えば０度、４５度、９０度、および１３５度の方向のエッジ強度を画素の画素値とするエッジ画像を生成し、ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８に供給する。
【００８７】
例えば、エッジ画像生成部２１１により生成されるエッジ画像の任意の画素の画素値は、その画素と同じ位置にある入力画像の画素における０度の方向のエッジ強度を示している。なお、各エッジの方向とは、ガボアフィルタを構成するガボア関数における角度成分により示される方向をいう。
【００８８】
ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８は、エッジ画像生成部２１１乃至エッジ画像生成部２１４から供給された各方向のエッジ画像を用いて、互いに解像度の異なる複数のエッジ画像を生成する。そして、ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８は、生成したそれらの各方向のエッジ画像を、エッジの各方向のピラミッド画像として差分算出部２１９乃至差分算出部２２２に供給する。
【００８９】
例えば、エッジの各方向のピラミッド画像として、輝度のピラミッド画像の場合と同様に、それぞれレベルＬ１乃至レベルＬ８までの８つの階層のピラミッド画像が生成される。
【００９０】
差分算出部２１９乃至差分算出部２２２は、ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８から供給された、複数のピラミッド画像のうち、互いに階層の異なる２つのピラミッド画像を選択し、選択したピラミッド画像の差分を求めてエッジの各方向の差分画像を生成する。なお、各階層のピラミッド画像は、それぞれ大きさが異なるので、差分画像の生成時には、より小さい方のピラミッド画像がアップコンバートされる。
【００９１】
差分算出部２１９乃至差分算出部２２２は、予め定められた数だけエッジの各方向の差分画像を生成すると、生成したそれらの差分画像を正規化し、エッジ情報マップ生成部２２３乃至エッジ情報マップ生成部２２６に供給する。エッジ情報マップ生成部２２３乃至エッジ情報マップ生成部２２６は、差分算出部２１９乃至差分算出部２２２から供給された差分画像に基づいて、各方向のエッジ情報マップを生成し、被写体マップ生成部１２６に供給する。
【００９２】
［顔情報抽出部の構成］
図８は、図４の顔情報抽出部１２４のより詳細な構成例を示す図である。
【００９３】
顔情報抽出部１２４は、顔検出部２５１および顔情報マップ生成部２５２から構成される。
【００９４】
顔検出部２５１は、取得部２２から供給された入力画像から被写体としての人の顔の領域を検出し、その検出結果を顔情報マップ生成部２５２に供給する。顔情報マップ生成部２５２は、顔検出部２５１からの検出結果に基づいて顔情報マップを生成し、被写体マップ生成部１２６に供給する。
【００９５】
［動き情報抽出部の構成］
図９は、図４の動き情報抽出部１２５のより詳細な構成例を示す図である。
【００９６】
動き情報抽出部１２５は、ローカルモーションベクタ抽出部２８１、グローバルモーションベクタ抽出部２８２、差分算出部２８３、および動き情報マップ生成部２８４から構成される。
【００９７】
ローカルモーションベクタ抽出部２８１は、取得部２２から供給された入力画像と、その入力画像とは撮像時刻の異なる他の入力画像とを用いて、入力画像の各画素の動きベクトルをローカルモーションベクタとして検出し、差分算出部２８３に供給する。グローバルモーションベクタ抽出部２８２は、取得部２２から供給された入力画像と、その入力画像とは撮像時刻の異なる他の入力画像とを用いて、入力画像の各画素の動きベクトルを求め、さらに例えば、それらの各画素の動きベクトルの平均値をグローバルモーションベクタとし、差分算出部２８３に供給する。このグローバルモーションベクタは、入力画像全体の動きの方向を示している。
【００９８】
差分算出部２８３は、ローカルモーションベクタ抽出部２８１からのローカルモーションベクタと、グローバルモーションベクタ抽出部２８２からのグローバルモーションベクタとの差分の絶対値を求めて動きの差分画像を生成し、動き情報マップ生成部２８４に供給する。ここで、動きの差分画像における任意の画素の画素値は、その画素と同じ位置にある入力画像の画素のローカルモーションベクタと、入力画像全体のグローバルモーションベクタとの差分の絶対値を示している。したがって、動きの差分画像の画素の画素値は、入力画像の画素に表示される物体（または前景）の入力画像全体に対する、つまり背景に対する相対的な動き量を示している。
【００９９】
動き情報マップ生成部２８４は、差分算出部２８３からの動きの差分画像に基づいて動き情報マップを生成し、被写体マップ生成部１２６に供給する。
【０１００】
［エッジ得点算出部の構成］
さらに、図１のエッジ得点算出部２５は、より詳細には図１０に示すように構成される。
【０１０１】
すなわち、エッジ得点算出部２５は、被写体抽出部３１１、反転部３１２、フィルタ処理部３１３、正規化部３１４、乗算部３１５、領域エッジ強度算出部３１６、ヒストグラム生成部３１７、スコア算出部３１８、および変換部３１９から構成される。
【０１０２】
被写体抽出部３１１は、取得部２２から供給された入力画像に基づいて被写体マップを生成し、反転部３１２に供給する。なお、この被写体抽出部３１１は、図４の被写体抽出部９２と同様の構成とされるため、その説明は省略する。
【０１０３】
反転部３１２は、被写体抽出部３１１から供給された被写体マップの画素の画素値を反転させて乗算部３１５に供給する。すなわち、被写体マップにおいて、画素値が１である画素は、その画素の画素値が０とされ、反対に、画素値が０である画素は、その画素の画素値が１とされる。したがって、反転後の被写体マップの画素の画素値は、その画素と同じ位置にある入力画像の領域が、被写体が含まれると推定される領域である場合には「０」とされ、その画素と同じ位置にある入力画像の領域が、被写体が含まれないと推定される領域である場合には「１」とされる。つまり、反転後の被写体マップは、入力画像における被写体が含まれない背景領域を特定するためのマップとなる。
【０１０４】
フィルタ処理部３１３は、取得部２２から供給された入力画像に、ラプラシアンフィルタを用いたフィルタ処理を施すことにより、入力画像の各領域におけるエッジ強度を画素の画素値とするラプラシアン画像を生成し、正規化部３１４に供給する。正規化部３１４は、フィルタ処理部３１３からのラプラシアン画像を正規化し、乗算部３１５に供給する。
【０１０５】
乗算部３１５は、正規化部３１４からのラプラシアン画像の画素の画素値に、反転部３１２からの反転された被写体マップの画素の画素値を乗算することにより、入力画像における背景の領域のエッジ強度の画像である背景画像を生成する。乗算部３１５は、生成した背景画像を、領域エッジ強度算出部３１６およびヒストグラム生成部３１７に供給する。
【０１０６】
背景画像において、被写体を含まない背景部分の画素の画素値は、その画素と同じ位置のラプラシアン画像の画素の画素値と同じ値となり、背景画像において、被写体部分の画素の画素値は０となる。つまり、乗算部３１５における乗算処理によって、入力画像における背景の領域が特定（抽出）され、その背景部分におけるエッジ強度からなる背景画像が生成される。
【０１０７】
領域エッジ強度算出部３１６は、乗算部３１５から供給された背景画像に基づいて、背景画像の各端近傍の領域における領域エッジ強度を算出する。
【０１０８】
例えば、入力画像を表示部２９に表示させた場合に、ユーザが、表示部２９の表示画面を正面から見たときに、ユーザから見た入力画像の上側の端および右側の端に対応する背景画像上の端を、上端および右端と呼ぶこととする。また、背景画像上の互いに直交する方向をｘ方向およびｙ方向とし、背景画像のｘ方向側の端が右端であり、背景画像のｙ方向側の端が上端であるとする。さらに、背景画像のｘ方向と反対方向側の端を左端とし、背景画像のｙ方向とは反対方向側の端を下端とする。
【０１０９】
この場合、領域エッジ強度算出部３１６は、背景画像の上端近傍の領域、下端近傍の領域、左端近傍の領域、および右端近傍の領域を、それぞれ上端領域、下端領域、左端領域、および右端領域とし、それらの各領域内の画素の画素値の合計値を、各領域の領域エッジ強度とする。
【０１１０】
例えば、背景画像上において、ｘ方向に連続して並ぶ画素からなる画素の列をｘ方向のラインと呼ぶこととすると、領域エッジ強度算出部３１６は、背景画像の上端からｙ方向と反対方向に連続して並ぶ１０個のｘ方向のラインからなる領域を、上端領域とする。そして、領域エッジ強度算出部３１６は、上端領域内に含まれる画素の画素値の合計値を、上端領域の領域エッジ強度とする。
【０１１１】
同様に、背景画像の下端からｙ方向に連続して並ぶ１０個のｘ方向のラインからなる領域が、下端領域とされる。また、背景画像上において、ｙ方向に連続して並ぶ画素からなる画素の列をｙ方向のラインと呼ぶこととすると、背景画像の左端からｘ方向に連続して並ぶ１０個のｙ方向のラインからなる領域が左端領域とされる。さらに、背景画像の右端からｘ方向と反対方向に連続して並ぶ１０個のｙ方向のラインからなる領域が右端領域とされる。
【０１１２】
背景画像の画素の画素値はエッジ強度の値であるので、各領域エッジ強度は、入力画像の端近傍の領域のうちの背景部分の領域のエッジ強度を示している。領域エッジ強度算出部３１６は、算出した各領域の領域エッジ強度を変換部３１９に供給する。
【０１１３】
ヒストグラム生成部３１７は、乗算部３１５からの背景画像に基づいて、背景画像のエッジ強度のヒストグラムを生成し、スコア算出部３１８に供給する。スコア算出部３１８は、ヒストグラム生成部３１７からのヒストグラムに基づいてエッジスコアを算出し、変換部３１９に供給する。ここで、エッジスコアは、入力画像の背景部分におけるエッジの複雑さを示している。
【０１１４】
変換部３１９は、予め保持している変換テーブルを用いて、スコア算出部３１８からのエッジスコアをエッジの得点に変換する。変換により得られるエッジの得点は、入力画像の背景部分のエッジの複雑さを指標とした、入力画像の見映えの評価を示す値である。また、変換部３１９は、変換により得られたエッジの得点と、領域エッジ強度算出部３１６からの領域エッジ強度とをアドバイス生成部２７に供給する。
【０１１５】
［彩度得点算出部の構成］
さらに、図１の彩度得点算出部２６は、より詳細には図１１に示すように構成される。
【０１１６】
すなわち、彩度得点算出部２６は、変換部３４１、ヒストグラム生成部３４２、スコア算出部３４３、および変換部３４４から構成される。
【０１１７】
変換部３４１は、取得部２２から供給された、Ｒ，Ｇ，Ｂの各成分からなる入力画像を、Ｈ（色相），Ｓ（彩度），Ｖ（明度）の各成分の値からなる入力画像に変換し、ヒストグラム生成部３４２に供給する。
【０１１８】
ヒストグラム生成部３４２は、変換部３４１から供給された入力画像の画素のうち、特定の条件を満たす画素の彩度の成分のヒストグラムを生成し、スコア算出部３４３に供給する。スコア算出部３４３は、ヒストグラム生成部３４２からのヒストグラムに基づいて彩度スコアを算出し、変換部３４４に供給する。ここで、彩度スコアは、入力画像全体の彩度成分の平均値および分散値からなる。
【０１１９】
変換部３４４は、予め保持している変換テーブルを用いて、スコア算出部３４３からの彩度スコアを彩度の得点に変換し、アドバイス生成部２７に供給する。変換により得られる彩度の得点は、入力画像の彩度成分の平均値および分散値を指標とした、入力画像の見映えの評価を示す値である。
【０１２０】
［撮像処理の説明］
ところで、ユーザが図１の画像処理装置１１を操作し、入力画像を撮像する撮像モードを選択すると、画像処理装置１１は、ユーザの指示に応じて撮像処理を開始する。
【０１２１】
以下、図１２のフローチャートを参照して、画像処理装置１１による撮像処理について説明する。
【０１２２】
ステップＳ１１において、取得部２２は、撮像部２１により撮像された入力画像を取得して、ぼけ度得点算出部２３乃至彩度得点算出部２６に供給する。
【０１２３】
例えば、取得部２２は、入力画像の１フレーム分の画像データを撮像部２１から取得する。また、表示制御部２８は、撮像部２１から供給された入力画像を表示部２９に供給し、表示部２９に入力画像を表示させる。これにより、ユーザは、表示された入力画像を見ながら、撮像しようとする入力画像の構図を決めることができる。
【０１２４】
ステップＳ１２において、ぼけ度得点算出部２３は、ぼけ度得点算出処理を行って、入力画像に対するぼけ度の得点を算出し、アドバイス生成部２７に供給する。また、ステップＳ１３において、輝度得点算出部２４は、輝度得点算出処理を行って、入力画像に対する輝度の得点および平均輝度を算出し、アドバイス生成部２７に供給する。
【０１２５】
ステップＳ１４において、エッジ得点算出部２５は、エッジ得点算出処理を行って、入力画像に対するエッジの得点および領域エッジ強度を算出し、アドバイス生成部２７に供給する。ステップＳ１５において、彩度得点算出部２６は、彩度得点算出処理を行って、入力画像に対する彩度の得点を算出し、アドバイス生成部２７に供給する。
【０１２６】
なお、ステップＳ１２乃至ステップＳ１５において行われる、ぼけ度得点算出処理乃至彩度得点算出処理の詳細は後述する。
【０１２７】
ステップＳ１６において、アドバイス生成部２７は、アドバイス生成処理を行って、ぼけ度得点算出部２３乃至彩度得点算出部２６から供給された、特徴別の得点、平均輝度、および領域エッジ強度に基づき、アドバイスを生成する。基本的には、特徴別の得点が閾値と比較され、その比較結果に応じて、特徴別に予め用意されたアドバイスが生成される。生成されたアドバイスは、アドバイス生成部２７から表示制御部２８に供給される。なお、アドバイス生成処理の詳細は後述する。
【０１２８】
ステップＳ１７において、表示制御部２８は、アドバイス生成部２７からのアドバイスを表示部２９に供給し、表示部２９にアドバイスを表示させる。表示されるアドバイスは、入力画像の特徴別の得点がより高くなるようにするために、どうするべきかを示す文字メッセージとされる。具体的には、例えば、表示部２９に「フラッシュをオンして下さい」などの文字メッセージがアドバイスとして表示される。
【０１２９】
このようにして表示されたアドバイスに従って、入力画像を撮像すれば、ユーザは、より得点の高い入力画像、つまりより見映えのよい入力画像を得ることができる。ユーザがアドバイスに従って、画像処理装置１１を操作した場合には、画像処理装置１１は、その操作に応じた処理を適宜行う。例えば、ホワイトバランスが調整されるように、ユーザにより操作がされた場合、画像処理装置１１はユーザの操作に応じて、入力画像のホワイトバランスの調整を行う。
【０１３０】
ステップＳ１８において、取得部２２は、ユーザにより入力画像の撮像が指示されたか否かを判定する。ステップＳ１８において、撮像が指示されたと判定された場合、ステップＳ１９において、撮像部２１は入力画像を撮像する。取得部２２は、撮像部２１から供給された入力画像のうち、撮像が指示された時刻におけるフレームをキャプチャし、その結果得られた画像を撮像された入力画像とする。そして、取得部２２は、得られた入力画像を図示せぬ記録部に供給し、記録させる。なお、このとき撮像された入力画像が表示部２９に表示されるようにしてもよい。
【０１３１】
これに対して、ステップＳ１８において、撮像が指示されなかったと判定された場合、入力画像の撮像は行われず、処理はステップＳ２０に進む。
【０１３２】
ステップＳ１８において撮像が指示されなかったと判定されたか、またはステップＳ１９において入力画像が撮像された場合、ステップＳ２０において、画像処理装置１１は、処理を終了するか否かを判定する。例えば、ユーザにより撮像モードの終了が指示された場合、処理を終了すると判定される。
【０１３３】
ステップＳ２０において、処理を終了しないと判定された場合、処理はステップＳ１１に戻り、上述した処理が繰り返される。すなわち、新たな時刻のフレームの入力画像が表示され、その入力画像に対して生成されたアドバイスが表示される。
【０１３４】
一方、ステップＳ２０において、終了すると判定された場合、画像処理装置１１は、行っている処理を停止し、撮像処理は終了する。
【０１３５】
このようにして、画像処理装置１１は、入力画像から特徴別の得点を求め、それらの得点から、より見映えのよい画像を撮像するためのアドバイスを生成して表示させる。このように、特徴別の得点からアドバイスを生成して表示することにより、より的確なアドバイスを提示することができる。
【０１３６】
すなわち、入力画像から各特徴の特徴量を抽出し、それらの特徴に基づく指標により入力画像を評価することで、入力画像の構図や被写体によらず、より確実に入力画像を評価することができる。そして、例えば、いくつかの特徴別の得点のうち、１つの得点だけが低ければ、その特徴を指標とする評価が悪いため、入力画像の見映えが悪くなっているということである。そのような場合には、その特徴に対して予め定められたアドバイス、つまりその特徴の得点が高くなるようなアドバイスを提示すれば、入力画像の見映えをよりよいものとすることが可能となる。
【０１３７】
画像処理装置１１では、特徴別に入力画像に対する見映えが評価され、その評価に応じてアドバイスが提示されるので、入力画像の被写体が人物である場合だけでなく、どのような被写体であっても、より適切なアドバイスを提示することができる。また、特徴別に入力画像を評価するので、入力画像の構図も特定のものに限定されてしまうことはない。
【０１３８】
なお、以上においては、入力画像の撮像時にアドバイスが提示される例について説明したが、既に撮像された入力画像に対してアドバイスが提示されるようにしてもよい。そのような場合、記録されている入力画像が指定され、指定された入力画像を対象として図１２のステップＳ１２乃至ステップＳ１７の処理が行われ、入力画像に対してアドバイスが提示される。
【０１３９】
［ぼけ度得点算出処理の説明］
次に、図１３のフローチャートを参照して、図１２のステップＳ１２の処理に対応するぼけ度得点算出処理について説明する。
【０１４０】
ステップＳ５１において、エッジマップ生成部６１は、取得部２２から供給された入力画像を用いてエッジマップを生成する。
【０１４１】
具体的には、エッジマップ生成部６１は、入力画像を２×２画素の大きさのブロックに分割して、次式（１）乃至式（６）により、各ブロック内の画素間の画素値の差分の絶対値ＭTL-TR乃至絶対値ＭBL-BRを算出する。
【０１４２】
【数１】
0005397059.tif 000002
【０１４３】
なお、式（１）乃至式（６）において、ａ，ｂ，ｃ，ｄのそれぞれは、入力画像の２×２画素の大きさのブロック内の画素の画素値を示している。例えば、図１４に示すように、画素値ａはブロック内の図中、左上の画素の画素値を示している。また、画素値ｂは、図中、ブロック内の右上の画素の画素値を示しており、画素値ｃはブロック内の左下の画素の画素値を示しており、画素値ｄはブロック内の右下の画素の画素値を示している。
【０１４４】
したがって、絶対値ＭTL-TR乃至絶対値ＭBL-BRのそれぞれは、ブロック内の各方向に隣接する画素同士の画素値の差分の絶対値、つまり各方向のエッジ強度を示している。
【０１４５】
次に、エッジマップ生成部６１は、次式（７）により、絶対値ＭTL-TR乃至絶対値ＭBL-BRの平均値ＭAveを算出する。この平均値ＭAveは、ブロック内の上下、左右および斜め方向のエッジ強度の平均値を示している。
【０１４６】
【数２】
0005397059.tif 000003
【０１４７】
エッジマップ生成部６１は、算出した各ブロックの平均値ＭAveを、入力画像の対応するブロックと同じ順序に並べることにより、スケールＳＣ１のエッジマップを生成する。
【０１４８】
さらに、エッジマップ生成部６１は、スケールＳＣ２およびスケールＳＣ３のエッジマップを生成するために、次式（８）により、スケールＳＣ２およびスケールＳＣ３の平均化画像を生成する。
【０１４９】
【数３】
0005397059.tif 000004
【０１５０】
なお、式（８）において、Ｐi（ｘ，ｙ）は、スケールＳＣｉ（但し、ｉ＝１，２）の平均化画像における座標（ｘ，ｙ）に位置する画素の画素値を示している。また、Ｐi+1（ｘ，ｙ）は、スケールＳＣｉ＋１の平均化画像における座標（ｘ，ｙ）に位置する画素の画素値を示している。なお、スケールＳＣ１の平均化画像は入力画像であるとする。
【０１５１】
したがって、スケールＳＣ２の平均化画像は、入力画像を２×２画素の大きさのブロックに分割した各ブロック内の画素の画素値の平均値を、１つの画素の画素値とした画像である。また、スケールＳＣ３の平均化画像は、スケールＳＣ２の平均化画像を２×２画素の大きさのブロックに分割した各ブロック内の画素の画素値の平均値を、１つの画素の画素値とした画像である。
【０１５２】
エッジマップ生成部６１は、スケールＳＣ２およびスケールＳＣ３の平均化画像に対して、それぞれ式（１）乃至式（７）を用いて入力画像に対して行ったのと同様の処理を行い、スケールＳＣ２およびスケールＳＣ３のエッジマップを生成する。
【０１５３】
したがって、スケールＳＣ１乃至スケールＳＣ３のエッジマップは、それぞれ異なる周波数帯域のエッジ成分を入力画像から抽出して得られた画像となる。なお、スケールＳＣ１のエッジマップの画素数は入力画像の１／４（縦1/2×横1/2）となり、スケールＳＣ２のエッジマップの画素数は入力画像の１／１６（縦1/4×横1/4）となり、スケールＳＣ３のエッジマップの画素数は入力画像の１／６４（縦1/8×横1/8）となる。
【０１５４】
エッジマップ生成部６１は、生成したスケールＳＣ１乃至スケールＳＣ３のエッジマップをダイナミックレンジ検出部６２およびローカルマックス生成部６４に供給する。このように、異なる大きさのブロック単位で、異なるスケールのエッジマップを生成することにより、エッジ強度のばらつきを抑えることができる。
【０１５５】
ステップＳ５２において、ダイナミックレンジ検出部６２は、エッジマップ生成部６１から供給されたエッジマップを用いて、入力画像のダイナミックレンジを検出し、その検出結果を演算パラメータ調整部６３に供給する。
【０１５６】
具体的には、ダイナミックレンジ検出部６２は、スケールＳＣ１乃至スケールＳＣ３のエッジマップのなかから画素値の最大値と最小値を検出し、検出した画素値の最大値から最小値を引いた値を入力画像のエッジ強度のダイナミックレンジとする。すなわち、入力画像のエッジ強度の最大値と最小値の差がダイナミックレンジとして検出される。
【０１５７】
なお、上述した方法以外にも、例えば、エッジマップごとにダイナミックレンジを検出し、検出したダイナミックレンジの最大値や平均値などを実際に使用するダイナミックレンジとして採用することも考えられる。
【０１５８】
ステップＳ５３において、演算パラメータ調整部６３は、ダイナミックレンジ検出部６２から供給されたダイナミックレンジに応じて、演算パラメータの初期値を設定する。
【０１５９】
すなわち、演算パラメータ調整部６３は、ダイナミックレンジが所定の閾値未満である場合、入力画像をローダイナミックレンジの画像とし、ダイナミックレンジが閾値以上である場合、入力画像をハイダイナミックレンジの画像とする。
【０１６０】
そして、演算パラメータ調整部６３は、入力画像がローダイナミックレンジの画像である場合、演算パラメータにローダイナミックレンジの画像用の初期値を設定する。また、演算パラメータ調整部６３は、入力画像がハイダイナミックレンジの画像である場合、演算パラメータにハイダイナミックレンジの画像用の初期値を設定する。
【０１６１】
ここで、ローダイナミックレンジの画像は、ハイダイナミックレンジの画像と比較してエッジが少なく、抽出されるエッジポイントの量が少ないと推定される。したがって、入力画像のぼけ度の検出精度を一定のレベル以上とするのに充分な量のエッジポイントを抽出できるように、ローダイナミックレンジの画像用のエッジ基準値の初期値は、ハイダイナミックレンジの画像用のエッジ基準値の初期値と比較して小さい値とされる。また、ローダイナミックレンジの画像用の抽出基準値の初期値は、ハイダイナミックレンジの画像用の抽出基準値の初期値と比較して小さい値とされる。
【０１６２】
演算パラメータ調整部６３は、ダイナミックレンジに応じて設定したエッジ基準値をエッジポイント抽出部６５に供給し、エッジ基準値および抽出基準値を抽出量判定部６６に供給する。
【０１６３】
ステップＳ５４において、ローカルマックス生成部６４は、エッジマップ生成部６１から供給されたエッジマップを用いてローカルマックスを生成し、エッジポイント抽出部６５およびエッジ分析部６７に供給する。
【０１６４】
例えば、ローカルマックス生成部６４は、図１５の左側に示すように、スケールＳＣ１のエッジマップを２×２画素のブロックに分割する。そして、ローカルマックス生成部６４は、エッジマップの各ブロックの最大値を抽出して、抽出した最大値を対応するブロックと同じ順序に並べることにより、スケールＳＣ１のローカルマックスＬＭ１を生成する。つまり、各ブロック内の画素の画素値の最大値が抽出される。
【０１６５】
また、ローカルマックス生成部６４は、図中、中央に示すように、スケールＳＣ２のエッジマップを４×４画素のブロックに分割する。そして、ローカルマックス生成部６４は、エッジマップの各ブロックの最大値を抽出して、抽出した最大値を対応するブロックと同じ順序に並べることにより、スケールＳＣ２のローカルマックスＬＭ２を生成する。
【０１６６】
さらにローカルマックス生成部６４は、図中、右側に示すように、スケールＳＣ３のエッジマップを８×８画素のブロックに分割する。そして、ローカルマックス生成部６４は、エッジマップの各ブロックの最大値を抽出して、抽出した最大値を対応するブロックと同じ順序に並べることにより、スケールＳＣ３のローカルマックスＬＭ３を生成する。
【０１６７】
ステップＳ５５において、エッジポイント抽出部６５は、演算パラメータ調整部６３からのエッジ基準値、およびローカルマックス生成部６４から供給されたローカルマックスを用いて、入力画像からエッジポイントを抽出する。
【０１６８】
具体的には、エッジポイント抽出部６５は、入力画像の画素を１つ選択し、注目画素とする。また、エッジポイント抽出部６５は、選択した注目画素の入力画像上におけるｘｙ座標系の座標を（ｘ，ｙ）として、次式（９）により、注目画素に対応するローカルマックスＬＭ１の画素の座標（ｘ１，ｙ１）を求める。
【０１６９】
（ｘ１，ｙ１）＝（ｘ／４，ｙ／４）                      ・・・（９）
【０１７０】
なお、式（９）において、ｘ／４およびｙ／４の値の小数点以下は切り捨てられるものとする。
【０１７１】
ローカルマックスＬＭ１の１つの画素は、入力画像の４×４画素のブロックから生成されるため、入力画像の注目画素に対応するローカルマックスＬＭ１の画素の座標は、注目画素のｘ座標およびｙ座標をそれぞれ１／４にした値となる。
【０１７２】
同様に、エッジポイント抽出部６５は、次式（１０）および式（１１）により、注目画素に対応するローカルマックスＬＭ２の画素の座標（ｘ２，ｙ２）、および注目画素に対応するローカルマックスＬＭ３の画素の座標（ｘ３，ｙ３）を求める。
【０１７３】
（ｘ２，ｙ２）＝（ｘ／１６，ｙ／１６）          ・・・（１０）
【０１７４】
（ｘ３，ｙ３）＝（ｘ／６４，ｙ／６４）          ・・・（１１）
【０１７５】
なお、式（１０）および式（１１）において、ｘ／１６、ｙ／１６、ｘ／６４、およびｙ／６４の値の小数点以下は切り捨てられるものとする。
【０１７６】
さらに、エッジポイント抽出部６５は、ローカルマックスＬＭ１の座標（ｘ１，ｙ１）の画素の画素値がエッジ基準値以上である場合、注目画素をローカルマックスＬＭ１におけるエッジポイントとして抽出する。そして、エッジポイント抽出部６５は、注目画素の座標（ｘ，ｙ）とローカルマックスＬＭ１の座標（ｘ１，ｙ１）の画素値を対応づけて記憶する。
【０１７７】
同様に、エッジポイント抽出部６５は、ローカルマックスＬＭ２の座標（ｘ２，ｙ２）の画素の画素値がエッジ基準値以上である場合、注目画素をローカルマックスＬＭ２におけるエッジポイントとして抽出し、注目画素の座標（ｘ，ｙ）とローカルマックスＬＭ２の座標（ｘ２，ｙ２）の画素値を対応づけて記憶する。また、エッジポイント抽出部６５は、ローカルマックスＬＭ３の座標（ｘ３，ｙ３）の画素の画素値がエッジ基準値以上である場合、注目画素をローカルマックスＬＭ３におけるエッジポイントとして抽出し、注目画素の座標（ｘ，ｙ）とローカルマックスＬＭ３の座標（ｘ３，ｙ３）の画素値を対応づけて記憶する。
【０１７８】
エッジポイント抽出部６５は、入力画像上の全ての画素が注目画素とされるまで以上の処理を繰り返す。
【０１７９】
これにより、ローカルマックスＬＭ１に基づいて、入力画像上の４×４画素のブロックのうち、エッジ強度がエッジ基準値以上となるブロックに含まれる画素がエッジポイントとして抽出される。
【０１８０】
同様に、ローカルマックスＬＭ２に基づいて、入力画像上の１６×１６画素のブロックのうち、ブロック内のエッジ強度がエッジ基準値以上となるブロックに含まれる画素がエッジポイントとして抽出される。また、ローカルマックスＬＭ３に基づいて、入力画像上の６４×６４画素のブロックのうち、ブロック内のエッジ強度がエッジ基準値以上となるブロックに含まれる画素がエッジポイントとして抽出される。
【０１８１】
したがって、エッジ強度がエッジ基準値以上となる入力画像の４×４画素、１６×１６画素、または６４×６４画素のブロックの少なくとも１つに含まれる画素がエッジポイントとして抽出される。
【０１８２】
エッジポイント抽出部６５は、ローカルマックスＬＭ１に基づいて抽出したエッジポイントの座標（ｘ，ｙ）と、そのエッジポイントに対応するローカルマックスＬＭ１の画素の画素値とが対応づけられたテーブルであるエッジポイントテーブルＥＴ１を生成する。
【０１８３】
同様に、エッジポイント抽出部６５は、ローカルマックスＬＭ２に基づいて抽出したエッジポイントの座標（ｘ，ｙ）と、そのエッジポイントに対応するローカルマックスＬＭ２の画素の画素値とが対応づけられたエッジポイントテーブルＥＴ２を生成する。また、エッジポイント抽出部６５は、ローカルマックスＬＭ３に基づいて抽出したエッジポイントの座標（ｘ，ｙ）と、そのエッジポイントに対応するローカルマックスＬＭ３の画素の画素値とが対応づけられたエッジポイントテーブルＥＴ３も生成する。
【０１８４】
そして、エッジポイント抽出部６５は、生成したそれらのエッジポイントテーブルを、抽出量判定部６６に供給する。
【０１８５】
ステップＳ５６において、抽出量判定部６６は、エッジポイント抽出部６５から供給されたエッジポイントテーブルを用いて、エッジポイント抽出量が適切であるか否かを判定する。例えば、抽出量判定部６６は、抽出されたエッジポイントの合計数、すなわちエッジポイントテーブルＥＴ１乃至エッジポイントテーブルＥＴ３のデータ数の合計が、演算パラメータ調整部６３から供給された抽出基準値未満である場合、エッジポイント抽出量が適切でないと判定する。
【０１８６】
ステップＳ５６において、エッジポイント抽出量が適切でないと判定された場合、抽出量判定部６６は、エッジポイント抽出量が適切でない旨を演算パラメータ調整部６３に通知し、処理はステップＳ５７に進む。
【０１８７】
ステップＳ５７において、演算パラメータ調整部６３は、抽出量判定部６６からの通知に応じて演算パラメータを調整する。
【０１８８】
例えば、演算パラメータ調整部６３は、現時点よりも、より多くのエッジポイントが抽出されるように、エッジ基準値を、現時点において設定されている値から所定の値だけ小さくする。演算パラメータ調整部６３は、調整したエッジ基準値をエッジポイント抽出部６５および抽出量判定部６６に供給する。
【０１８９】
演算パラメータが調整されると、その後、処理は、ステップＳ５５に戻り、エッジポイント抽出量が適切であると判定されるまで、上述した処理が繰り返される。
【０１９０】
また、ステップＳ５６において、エッジポイント抽出量が適切であると判定された場合、抽出量判定部６６は、演算パラメータ調整部６３からのエッジ基準値と、エッジポイントテーブルとをエッジ分析部６７に供給し、処理はステップＳ５８に進む。
【０１９１】
以上の処理により、ぼけ度の検出精度を向上させるために、ローダイナミックレンジの入力画像については、ぼけ度の検出精度を一定のレベル以上とするのに充分な量のエッジポイントを確保できるよう、エッジ強度の弱いブロックからもエッジポイントが抽出される。一方、ハイダイナミックレンジの入力画像については、より強いエッジを構成するエッジポイントが抽出されるように、できるだけエッジ強度の強いブロックからエッジポイントが抽出されるようになる。
【０１９２】
ステップＳ５８において、エッジ分析部６７は、抽出量判定部６６から供給されたエッジ基準値およびエッジポイントテーブルと、ローカルマックス生成部６４から供給されたローカルマックスとを用いて、エッジ分析を行う。
【０１９３】
具体的には、エッジ分析部６７は、エッジポイントテーブルＥＴ１乃至エッジポイントテーブルＥＴ３に基づいて、入力画像から抽出されたエッジポイントのうちの１つを注目画素とする。そして、エッジ分析部６７は、注目画素のｘｙ座標系の座標を（ｘ，ｙ）とし、上述した式（９）乃至（１１）により、注目画素に対応するローカルマックスＬＭ１乃至ローカルマックスＬＭ３の画素の座標（ｘ１，ｙ１）乃至座標（ｘ３，ｙ３）を求める。
【０１９４】
エッジ分析部６７は、ローカルマックスＬＭ１の座標（ｘ１，ｙ１）の画素を左上隅の画素とするｍ×ｍ画素（例えば、４×４画素）のローカルマックスＬＭ１上のブロック内の画素の画素値の最大値をLocal Max1(x1,y1)に設定する。また、エッジ分析部６７は、ローカルマックスＬＭ２の座標（ｘ２，ｙ２）の画素を左上隅の画素とするｎ×ｎ画素（例えば、２×２画素）のブロック内の画素値の最大値をLocal Max2(x2,y2)に設定し、ローカルマックスＬＭ３の座標（ｘ３，ｙ３）の画素値をLocal Max3(x3,y3)に設定する。
【０１９５】
なお、Local Max1(x1,y1)の設定に用いるｍ×ｍ、および、Local Max2(x2,y2)の設定に用いるｎ×ｎのパラメータは、ローカルマックスＬＭ１乃至ローカルマックスＬＭ３の１画素に対応する入力画像のブロックの大きさの差を調整するためのパラメータである。
【０１９６】
エッジ分析部６７は、Local Max1(x1,y1)、Local Max2(x2,y2)およびLocal Max3(x3,y3)が以下の条件式（１２）を満足するか否かを判定する。Local Max1(x1,y1)、Local Max2(x2,y2)およびLocal Max3(x3,y3)が条件式（１２）を満足する場合、エッジ分析部６７は、変数Nedgeの値を１つインクリメントする。
【０１９７】
【数４】
0005397059.tif 000005
【０１９８】
なお、条件式（１２）を満足するエッジポイントは、図１６Ａ乃至図１６Ｄに示すエッジなど、その構造に関わらず、一定以上の強度を有するエッジを構成するエッジポイントであると推定される。
【０１９９】
ここで、図１６Ａに示すエッジは、急峻なインパルス状のエッジとされ、図１６Ｂに示すエッジは、図１６Ａのエッジよりは傾きが緩やかなパルス状のエッジとされ、図１６Ｃに示すエッジは、傾きがほぼ垂直な階段状のエッジとされている。また、図１６Ｄに示すエッジは、図１６Ｃのエッジよりは傾きが緩やかな、階段状のエッジとされている。
【０２００】
エッジ分析部６７は、Local Max1(x1,y1)、Local Max2(x2,y2)およびLocal Max3(x3,y3)が条件式（１２）を満足する場合、さらに、以下の条件式（１３）または条件式（１４）を満足するか否かを判定する。Local Max1(x1,y1)、Local Max2(x2,y2)およびLocal Max3(x3,y3)が条件式（１３）または条件式（１４）を満足する場合、エッジ分析部６７は、変数Nsmallblurの値を１つインクリメントする。
【０２０１】
【数５】
0005397059.tif 000006
【０２０２】
なお、条件式（１２）を満足し、かつ条件式（１３）または条件式（１４）を満足するエッジポイントは、一定以上の強度を有するが、図１６Ａまたは図１６Ｃのエッジと比較して強度の弱い、図１６Ｂまたは図１６Ｄの構造を有するエッジを構成するエッジポイントであると推定される。
【０２０３】
さらに、エッジ分析部６７は、Local Max1(x1,y1)、Local Max2(x2,y2)およびLocal Max3(x3,y3)が条件式（１２）を満足し、かつ条件式（１３）または条件式（１４）を満足する場合、Local Max1(x1,y1)が、以下の条件式（１５）を満足するか否かを判定する。Local Max1(x1,y1)が条件式（１５）を満足する場合、エッジ分析部６７は、変数Nlargeblurの値を１つインクリメントする。
【０２０４】
【数６】
0005397059.tif 000007
【０２０５】
なお、条件式（１２）を満足し、かつ条件式（１３）または条件式（１４）を満足し、かつ条件式（１５）を満足するエッジポイントは、一定以上の強度の図１６Ｂまたは図１６Ｄの構造を有するエッジのうち、ぼけが発生し、鮮明さを失ったエッジを構成するエッジポイントであると推定される。換言すれば、そのエッジポイントにおいてぼけが発生していると推定される。
【０２０６】
エッジ分析部６７は、入力画像から抽出された全てのエッジポイントが注目画素とされるまで、以上の処理を繰り返す。これにより、抽出されたエッジポイントのうち、エッジポイントの数Nedge、エッジポイントの数Nsmallblur、およびエッジポイントの数Nlargeblurが求められる。
【０２０７】
ここで、数Nedgeは、条件式（１２）を満足するエッジポイントの数であり、数Nsmallblurは、条件式（１２）を満足し、かつ、条件式（１３）または条件式（１４）を満足するエッジポイントの数である。また、数Nlargeblurは、条件式（１２）を満足し、かつ、条件式（１３）または条件式（１４）を満足し、かつ、条件式（１５）を満足するエッジポイントの数である。
【０２０８】
エッジ分析部６７は、算出した数Nsmallblurおよび数Nlargeblurをぼけ度検出部６８に供給する。
【０２０９】
ステップＳ５９において、ぼけ度検出部６８は、エッジ分析部６７からの数Nsmallblurおよび数Nlargeblurを用いて次式（１６）を計算し、入力画像のぼけ具合の指標となるぼけ度BlurEstimationを、ぼけ度スコアとして求める。
【０２１０】
【数７】
0005397059.tif 000008
【０２１１】
すなわち、ぼけ度BlurEstimationは、一定以上の強度の図１６Ｂまたは図１６Ｄの構造を有するエッジを構成すると推定されるエッジポイントのうち、ぼけが発生しているエッジを構成すると推定されるエッジポイントが占める比率である。したがって、ぼけ度BlurEstimationが大きいほど、入力画像のぼけ具合は大きいと推定される。
【０２１２】
ぼけ度検出部６８は、ぼけ度スコアを求めると、求められたぼけ度スコアを変換部６９に供給する。ぼけ度スコアの算出時には、入力画像に応じて、エッジポイントを抽出する条件、およびエッジポイントの抽出量が適切に制御されるので、より高い精度で入力画像のぼけ具合を検出することができる。
【０２１３】
ステップＳ６０において、変換部６９は、予め保持している変換テーブルを用いて、ぼけ度検出部６８からのぼけ度スコアをぼけ度の得点に変換し、アドバイス生成部２７に供給する。
【０２１４】
例えば、ぼけ度スコアのとり得る値が０乃至１であり、ぼけ度スコアの値が、より大きいほど入力画像全体がぼけているものとすると、変換部６９は、図１７に示すぼけ度スコアの変換テーブルにより、ぼけ度の得点を得る。
【０２１５】
すなわち、ぼけ度スコアが0.2未満である場合、ぼけ度の得点は１０とされ、ぼけ度スコアが0.2以上0.3未満である場合、ぼけ度の得点は９とされ、ぼけ度スコアが0.3以上0.5未満である場合、ぼけ度の得点は８とされる。
【０２１６】
また、ぼけ度スコアが0.5以上0.7未満である場合、ぼけ度の得点は７とされ、ぼけ度スコアが0.7以上0.9未満である場合、ぼけ度の得点は５とされ、ぼけ度スコアが0.9以上である場合、ぼけ度の得点は０とされる。
【０２１７】
ここで、ぼけ度スコアの各範囲の値に対して定まる得点は、予め用意されたプロ画像およびアマ画像から得られたぼけ度スコアに基づいて定められる。なお、プロ画像とは、写真の専門家により撮像された、一般的な評価が高い（見映えのよい）画像をいい、アマ画像とは、素人により撮像された、一般的な評価が低い（見映えの悪い）画像をいう。
【０２１８】
例えば、複数のプロ画像およびアマ画像についてぼけ度スコアを求め、図１８に示す結果が得られたとする。なお、図中、縦軸はサンプルとされたプロ画像またはアマ画像の数を示しており、横軸はぼけ度スコアの値を示している。
【０２１９】
図１８では、図中、上側はプロ画像のぼけ度スコアの分布を示しており、図中、下側はアマ画像のぼけ度スコアの分布を示している。
【０２２０】
プロ画像のぼけ度スコアは、殆どのサンプルが0.3未満となっており、ぼけ度スコアが0.8以上となるサンプルはない。つまり、画像のぼけ具合が小さいほど、ぼけ度スコアも小さくなるので、プロ画像には、ぼけた画像が殆どないことになる。
【０２２１】
これに対して、アマ画像のぼけ度スコアは、殆どのサンプルが0.4未満であるが、0.4以上のものもいくつか存在する。つまり、アマ画像には、全体がぼけた画像もいくつか含まれている。
【０２２２】
プロ画像のぼけ度スコアと、アマ画像のぼけ度スコアとを比較すると、プロ画像の分布における矢印Ａ１１により示される範囲、つまりぼけ度スコアが0.8以上であるプロ画像は１つもない。これに対し、アマ画像の分布における矢印Ａ１２により示される範囲、つまりぼけ度スコアが0.8以上であるアマ画像はいくつか存在する。
【０２２３】
したがって、入力画像について求めたぼけ度スコアが、0.8以上である場合には、その入力画像はアマ画像、つまり撮れ具合のよくない、見映えの悪い画像である可能性が高い。そこで、ぼけ度スコアが0.8以上である場合、つまり入力画像がアマ画像である可能性が高い場合には、ぼけ度の得点による評価が低くなるように、ぼけ度の得点が小さい値に定められる。また、一般的に、全体的にぼけのない画像ほど見映えのよい画像とされるため、ぼけ度スコアが小さいほど、ぼけ度の得点が大きい値となるようにされる。
【０２２４】
なお、他の特徴別スコアについても、予め用意されたプロ画像およびアマ画像の特徴別スコアを比較することで、各特徴別スコアの値の範囲に対する得点の値が定められ、特徴別スコアごとの変換テーブルが予め求められている。
【０２２５】
このとき、プロ画像とアマ画像とで特徴別スコアの分布の違いが顕著な値の範囲に対しては、その違いに応じて、より大きい得点またはより小さい得点を定めることで、より適切（正確）に入力画像の見映えを評価できるようになる。つまり、評価の精度を向上させることができる。
【０２２６】
図１３のフローチャートの説明に戻り、変換テーブルによりぼけ度スコアがぼけ度の得点に変換されると、ぼけ度得点算出処理は終了し、その後、処理は、図１２のステップＳ１３に進む。
【０２２７】
以上のように、ぼけ度得点算出部２３は、入力画像からぼけ度を検出し、その検出結果に基づいて、ぼけの度合いを指標とする入力画像の見映えの評価を示すぼけ度の得点を算出する。なお、以上においては、入力画像の全体のぼけ具合をぼけ度スコアとして求めると説明したが、入力画像における被写体部分のみを対象として、被写体部分のぼけ具合をぼけ度スコアとして求めてもよい。
【０２２８】
［輝度得点算出処理の説明］
次に、図１９のフローチャートを参照して、図１２のステップＳ１３の処理に対応する輝度得点算出処理について説明する。
【０２２９】
ステップＳ８１において、平均輝度算出部９１は、取得部２２から供給された入力画像から入力画像の平均輝度を算出し、変換部９７に供給する。例えば、平均輝度算出部９１は、入力画像の各画素について、画素の画素値から画素の輝度値を算出し、さらに各画素の輝度値の平均値を平均輝度として算出する。
【０２３０】
ステップＳ８２において、被写体抽出部９２は、被写体マップ生成処理を行って、取得部２２から供給された入力画像から被写体マップを生成し、乗算部９３に供給する。なお、被写体マップ生成処理の詳細は後述する。
【０２３１】
ステップＳ８３において、乗算部９３は、取得部２２から供給された入力画像に、被写体抽出部９２から供給された被写体マップを乗算して、被写体画像を生成し、ヒストグラム生成部９４に供給する。すなわち、被写体画像の注目する画素を注目画素とすると、注目画素と同じ位置にある、被写体マップの画素の画素値と入力画像の画素の画素値との積が注目画素の画素値とされる。この被写体画像は、入力画像における被写体部分だけが表示される画像である。
【０２３２】
ステップＳ８４において、ヒストグラム生成部９４は、乗算部９３から供給された被写体画像に基づいて、被写体画像の画素の輝度値の範囲をビンとした輝度のヒストグラムを生成し、正規化部９５に供給する。また、正規化部９５は、ヒストグラム生成部９４からのヒストグラムを正規化して、スコア算出部９６に供給する。
【０２３３】
ステップＳ８５において、スコア算出部９６は、正規化部９５から供給されたヒストグラムに基づいて、K-NN（K-Nearest Neighbor）法などにより輝度スコアを算出し、変換部９７に供給する。
【０２３４】
例えば、スコア算出部９６は、予め用意されたプロ画像およびアマ画像について、ステップＳ８２乃至ステップＳ８４の処理と同様の処理により生成された輝度のヒストグラムを複数保持している。スコア算出部９６は、予め保持している複数のプロ画像およびアマ画像のそれぞれのヒストグラムと、正規化部９５からのヒストグラムとの距離を算出する。
【０２３５】
すなわち、スコア算出部９６は、被写体画像の輝度のヒストグラムと、予め保持している１つのヒストグラムとの各ビンの頻度値の差分の合計値を、それらのヒストグラム同士の距離とする。つまり、同じ代表値のビン同士の頻度値の差分が求められ、各ビンについて求めた差分の総和がヒストグラム同士の距離とされる。
【０２３６】
そして、スコア算出部９６は、被写体画像のヒストグラムと、予め保持しているヒストグラムとの距離のなかから、その距離の値の小さい順にＫ個の距離を選択する。
【０２３７】
さらに、スコア算出部９６は、選択したＫ個の距離のうち、被写体画像とプロ画像のヒストグラムの距離の数から、被写体画像とアマ画像のヒストグラムの距離の数を減算し、その結果得られた値を輝度スコアとする。
【０２３８】
ここで、被写体画像のヒストグラムと、プロ画像またはアマ画像のヒストグラムとの距離は、各ビンの頻度値の差分の総和であるので、それらの画像同士の輝度の分布が似ているほど、距離の値は小さくなる。つまり、距離が小さいほど、被写体画像は、処理対象となっているプロ画像またはアマ画像に近いことになる。
【０２３９】
そして、プロ画像のヒストグラムとの距離の数と、アマ画像のヒストグラムとの距離の数との差分が輝度スコアとされるため、被写体画像に輝度の分布が類似するプロ画像がより多いほど、輝度スコアの値は大きくなる。すなわち、この輝度スコアは、被写体画像のプロ画像に対する輝度分布の類似の度合いを示しており、輝度スコアの値が大きい入力画像ほど、より撮れ具合の評価の高い画像、つまり見映えのよい画像となる。
【０２４０】
ステップＳ８６において、変換部９７は、予め保持している変換テーブルを用いて、スコア算出部９６からの輝度スコアを輝度の得点に変換する。例えば、変換部９７は、図２の変換部６９が保持している変換テーブルと同様にして予め求められた変換テーブルを保持しており、変換テーブルを用いて、輝度スコアを輝度の得点に変換する。輝度スコアの値が大きいほど、被写体部分の輝度分布がプロ画像に近いので、輝度スコアの値が大きいほど、その輝度スコアは、より値の大きい得点に変換される。
【０２４１】
変換部９７により輝度スコアが輝度の得点に変換されると、変換部９７は、得られた輝度の得点と、平均輝度算出部９１からの平均輝度とをアドバイス生成部２７に供給して輝度得点算出処理は終了し、その後、処理は図１２のステップＳ１４に進む。
【０２４２】
以上のようにして、輝度得点算出部２４は、入力画像から被写体の領域を抽出し、その被写体の領域における輝度の分布と、予め用意されたプロ画像およびアマ画像の被写体の領域における輝度分布とを比較して、輝度スコアを算出する。そして、輝度得点算出部２４は、得られた輝度スコアを、変換テーブルにより輝度の得点に変換する。
【０２４３】
このように、入力画像の被写体の領域のみを対象として輝度分布を比較し、輝度の得点を算出することで、前景（被写体）部分の輝度分布を指標として、より適切に入力画像の見映えを評価することができるようになる。
【０２４４】
例えば、一般に、画像における被写体部分の輝度が明るい画像は、背景部分が暗くても上手く撮れた評価の高い画像とされる。この場合に、画像全体を処理の対象とし、輝度分布を指標として画像の見映えを評価すると、被写体の部分の輝度分布は、プロ画像の被写体部分の輝度分布に近いにも関わらず、背景部分の輝度分布が異なると、その画像の評価は低いものとなってしまう。
【０２４５】
このように、輝度分布を指標として画像の見映えを評価する場合、画像のうちの被写体の領域の輝度分布が重要であり、背景部分の輝度分布は必ずしも評価に必要とされない。つまり、被写体部分の輝度分布から充分に入力画像の評価は可能であり、背景部分の輝度分布を考慮すると、逆に、評価方法が複雑になってしまったり、誤った評価がされてしまったりする恐れもある。
【０２４６】
そこで、輝度得点算出部２４において、入力画像の被写体の領域のみを処理対象として輝度の得点を算出することで、より簡単かつより適切に入力画像の見映えを評価することができるようになる。
【０２４７】
［被写体マップ生成処理の説明］
さらに、図２０のフローチャートを参照して、図１９のステップＳ８２の処理に対応する被写体マップ生成処理について説明する。
【０２４８】
ステップＳ１１１において、輝度情報抽出部１２１は、輝度情報抽出処理を行って、取得部２２から供給された入力画像に基づいて輝度情報マップを生成し、被写体マップ生成部１２６に供給する。そして、ステップＳ１１２において、色情報抽出部１２２は、色情報抽出処理を行って、取得部２２から供給された入力画像に基づいて色情報マップを生成し、被写体マップ生成部１２６に供給する。
【０２４９】
ステップＳ１１３において、エッジ情報抽出部１２３は、エッジ情報抽出処理を行って、取得部２２から供給された入力画像に基づいてエッジ情報マップを生成し、被写体マップ生成部１２６に供給する。また、ステップＳ１１４において、顔情報抽出部１２４は、顔情報抽出処理を行って、取得部２２から供給された入力画像に基づいて顔情報マップを生成し、被写体マップ生成部１２６に供給する。さらに、ステップＳ１１５において、動き情報抽出部１２５は、動き情報抽出処理を行って、取得部２２から供給された入力画像に基づいて動き情報マップを生成し、被写体マップ生成部１２６に供給する。
【０２５０】
なお、これらの輝度情報抽出処理、色情報抽出処理、エッジ情報抽出処理、顔情報抽出処理、および動き情報抽出処理の詳細は後述する。
【０２５１】
ステップＳ１１６において、被写体マップ生成部１２６は、輝度情報抽出部１２１乃至動き情報抽出部１２５から供給された輝度情報マップ乃至動き情報マップを用いて、被写体マップを生成し、図３の乗算部９３に供給する。
【０２５２】
例えば、被写体マップ生成部１２６は、情報マップごとに予め求められている重みである、情報重みＷｂを用いて各情報マップを線形結合し、さらに、その結果得られたマップの画素値に、予め求められた重みである、被写体重みＷｃを乗算して正規化し、被写体マップとする。
【０２５３】
つまり、これから求めようとする被写体マップ上の注目する画素を注目画素とすると、注目画素と同じ位置の各情報マップの画素の画素値に、情報マップごとの情報重みＷｂが乗算され、情報重みＷｂの乗算された画素値の総和が、注目画素の画素値とされる。さらに、このようにして求められた被写体マップの各画素の画素値に、被写体マップに対して予め求められた被写体重みＷｃが乗算されて正規化され、最終的な被写体マップとされる。
【０２５４】
なお、より詳細には、色情報マップとして、ＲＧの差分の色情報マップと、ＢＹの差分の色情報マップとが用いられ、エッジ情報マップとして、０度、４５度、９０度、１３５度のそれぞれの方向のエッジ情報マップが用いられて、被写体マップが生成される。また、被写体重みＷｃは予め学習により求められており、正規化は、被写体マップの各画素の画素値が、０または１の何れかの値となるようになされる。すなわち、正規化では、所定の閾値を用いた閾値処理により、各画素の画素値が２値化される。
【０２５５】
このようにして被写体マップが生成されて乗算部９３に供給されると、被写体マップ生成処理は終了し、その後、処理は図１９のステップＳ８３に進む。
【０２５６】
以上のようにして、被写体抽出部９２は、入力画像の領域から各情報を抽出し、被写体マップを生成する。
【０２５７】
［輝度情報抽出処理の説明］
次に、図２１乃至図２５のフローチャートを参照して、図２０のステップＳ１１１乃至ステップＳ１１５の処理のそれぞれに対応する処理について説明する。
【０２５８】
まず、図２１のフローチャートを参照して、図２０のステップＳ１１１の処理に対応する輝度情報抽出処理について説明する。
【０２５９】
ステップＳ１５１において、輝度画像生成部１５１は、取得部２２から供給された入力画像を用いて輝度画像を生成し、ピラミッド画像生成部１５２に供給する。例えば、輝度画像生成部１５１は、入力画像の画素のＲ、Ｇ、およびＢの各成分の値に、成分ごとに予め定められた係数を乗算し、係数の乗算された各成分の値の和を、入力画像の画素と同じ位置にある輝度画像の画素の画素値とする。つまり、輝度成分（Ｙ）および色差成分（Ｃｂ，Ｃｒ）からなるコンポーネント信号の輝度成分が求められる。なお、画素のＲ、Ｇ、およびＢの各成分の値の平均値が、輝度画像の画素の画素値とされてもよい。
【０２６０】
ステップＳ１５２において、ピラミッド画像生成部１５２は、輝度画像生成部１５１から供給された輝度画像に基づいて、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部１５３に供給する。
【０２６１】
ステップＳ１５３において、差分算出部１５３は、ピラミッド画像生成部１５２から供給されたピラミッド画像を用いて差分画像を生成して正規化し、輝度情報マップ生成部１５４に供給する。正規化は、差分画像の画素の画素値が、例えば０乃至２５５の間の値となるように行われる。
【０２６２】
具体的には、差分算出部１５３は、各階層の輝度のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、合計５つの輝度の差分画像が得られる。
【０２６３】
例えば、レベルＬ６およびレベルＬ３の組み合わせの差分画像が生成される場合、レベルＬ６のピラミッド画像が、レベルＬ３のピラミッド画像の大きさに合わせてアップコンバートされる。つまり、アップコンバート前のレベルＬ６のピラミッド画像の１つの画素の画素値が、その画素に対応する、アップコンバート後のレベルＬ６のピラミッド画像の互いに隣接するいくつかの画素の画素値とされる。そして、レベルＬ６のピラミッド画像の画素の画素値と、その画素と同じ位置にあるレベルＬ３のピラミッド画像の画素の画素値との差分が求められ、その差分が差分画像の画素の画素値とされる。
【０２６４】
これらの差分画像を生成する処理は、輝度画像にバンドパスフィルタを用いたフィルタ処理を施して、輝度画像から所定の周波数成分を抽出することと等価である。このようにして得られた差分画像の画素の画素値は、各レベルのピラミッド画像の輝度値の差、つまり入力画像における所定の画素における輝度と、その画素の周囲の平均的な輝度との差分を示している。
【０２６５】
一般的に、画像において周囲との輝度の差分の大きい領域は、その画像を見る人の目を引く領域であるので、その領域は被写体の領域である可能性が高い。したがって、各差分画像において、より画素値の大きい画素が、より被写体の領域である可能性の高い領域であることを示しているということができる。
【０２６６】
ステップＳ１５４において、輝度情報マップ生成部１５４は、差分算出部１５３から供給された差分画像に基づいて輝度情報マップを生成し、被写体マップ生成部１２６に供給する。輝度情報マップが輝度情報マップ生成部１５４から被写体マップ生成部１２６に供給されると、輝度情報抽出処理は終了し、処理は図２０のステップＳ１１２に進む。
【０２６７】
例えば、輝度情報マップ生成部１５４は、供給された５つの差分画像を、予め求められた差分画像ごとの重みである差分重みＷａにより重み付き加算し、１つの画像を求める。すなわち、各差分画像の同じ位置にある画素の画素値のそれぞれに差分重みＷａが乗算されて、差分重みＷａが乗算された画素値の総和が求められる。
【０２６８】
なお、輝度情報マップの生成時において、各差分画像が同じ大きさとなるように、差分画像のアップコンバートが行われる。
【０２６９】
このようにして、輝度情報抽出部１２１は、入力画像から輝度画像を求め、その輝度画像から輝度情報マップを生成する。輝度情報抽出部１２１では、入力画像の各領域の輝度と、その領域の周囲の領域の平均的な輝度との差分が特徴量として抽出されて、その特徴量を示す輝度情報マップが生成される。このようにして得られた輝度情報マップによれば、入力画像において、輝度の差の大きい領域、つまり入力画像を一瞥した観察者の目に付きやすい領域を簡単に検出することができる。
【０２７０】
［色情報抽出処理の説明］
次に、図２２のフローチャートを参照して、図２０のステップＳ１１２の処理に対応する色情報抽出処理について説明する。
【０２７１】
ステップＳ１８１において、ＲＧ差分画像生成部１８１は、取得部２２から供給された入力画像を用いて、ＲＧ差分画像を生成し、ピラミッド画像生成部１８３に供給する。
【０２７２】
ステップＳ１８２において、ＢＹ差分画像生成部１８２は、取得部２２から供給された入力画像を用いてＢＹ差分画像を生成し、ピラミッド画像生成部１８４に供給する。
【０２７３】
ステップＳ１８３において、ピラミッド画像生成部１８３およびピラミッド画像生成部１８４は、ＲＧ差分画像生成部１８１からのＲＧ差分画像、およびＢＹ差分画像生成部１８２からのＢＹ差分画像を用いて、ピラミッド画像を生成する。
【０２７４】
例えば、ピラミッド画像生成部１８３は、解像度の異なる複数のＲＧ差分画像を生成することにより、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部１８５に供給する。同様に、ピラミッド画像生成部１８４は、解像度の異なる複数のＢＹ差分画像を生成することにより、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部１８６に供給する。
【０２７５】
ステップＳ１８４において、差分算出部１８５および差分算出部１８６は、ピラミッド画像生成部１８３およびピラミッド画像生成部１８４から供給されたピラミッド画像に基づいて差分画像を生成して正規化し、色情報マップ生成部１８７および色情報マップ生成部１８８に供給する。差分画像の正規化では、例えば、画素の画素値が０乃至２５５の間の値となるようにされる。
【０２７６】
例えば、差分算出部１８５は、各階層のＲＧの差分のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、合計５つのＲＧの差分の差分画像が得られる。
【０２７７】
同様に、差分算出部１８６は、各階層のＢＹの差分のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、合計５つのＢＹの差分の差分画像が得られる。
【０２７８】
これらの差分画像を生成する処理は、ＲＧ差分画像またはＢＹ差分画像にバンドパスフィルタを用いたフィルタ処理を施して、ＲＧ差分画像またはＢＹ差分画像から所定の周波数成分を抽出することと等価である。このようにして得られた差分画像の画素の画素値は、各レベルのピラミッド画像の特定の色成分の差、つまり入力画像の画素における特定の色の成分と、その画素の周囲の平均的な特定の色の成分との差分を示している。
【０２７９】
一般的に、画像において周囲と比べて目立つ色の領域、つまり特定の色成分の周囲との差分の大きい領域は、その画像を見る人の目を引く領域であるので、その領域は被写体の領域である可能性が高い。したがって、各差分画像において、より画素値の大きい画素が、より被写体の領域である可能性の高い領域であることを示しているということができる。
【０２８０】
ステップＳ１８５において、色情報マップ生成部１８７および色情報マップ生成部１８８は、差分算出部１８５および差分算出部１８６からの差分画像を用いて色情報マップを生成し、被写体マップ生成部１２６に供給する。
【０２８１】
例えば、色情報マップ生成部１８７は、差分算出部１８５から供給されたＲＧの差分の差分画像を、予め求められた差分画像ごとの差分重みＷａにより重み付き加算して、１つのＲＧの差分の色情報マップとする。
【０２８２】
同様に、色情報マップ生成部１８８は、差分算出部１８６から供給されたＢＹの差分の差分画像を、予め求められた差分重みＷａにより重み付き加算して、１つのＢＹの差分の色情報マップとする。なお、色情報マップの生成時において、各差分画像が同じ大きさとなるように、差分画像のアップコンバートが行われる。
【０２８３】
色情報マップ生成部１８７および色情報マップ生成部１８８が、このようにして得られたＲＧの差分の色情報マップ、およびＢＹの差分の色情報マップを被写体マップ生成部１２６に供給すると、色情報抽出処理は終了し、処理は図２０のステップＳ１１３に進む。
【０２８４】
このようにして、色情報抽出部１２２は、入力画像から特定の色の成分の差分の画像を求め、その画像から色情報マップを生成する。すなわち、色情報抽出部１２２では、入力画像の各領域の特定の色成分と、その領域の周囲の領域の平均的な特定の色成分との差分が特徴量として抽出されて、その特徴量を示す色情報マップが生成される。このようにして得られた色情報マップによれば、入力画像において、特定の色成分の差の大きい領域、つまり入力画像を一瞥した観察者の目に付きやすい領域を簡単に検出することができる。
【０２８５】
なお、色情報抽出部１２２では、入力画像から抽出される色の情報として、Ｒ（赤）の成分と、Ｇ（緑）の成分の差分、およびＢ（青）の成分と、Ｙ（黄）の成分との差分が抽出されると説明したが、色差成分Ｃｒと色差成分Ｃｂなどが抽出されるようにしてもよい。ここで、色差成分Ｃｒは、Ｒ成分と輝度成分との差分であり、色差成分Ｃｂは、Ｂ成分と輝度成分との差分である。
【０２８６】
［エッジ情報抽出処理の説明］
図２３は、図２０のステップＳ１１３の処理に対応するエッジ情報抽出処理を説明するフローチャートである。以下、このエッジ情報抽出処理について説明する。
【０２８７】
ステップＳ２１１において、エッジ画像生成部２１１乃至エッジ画像生成部２１４は、取得部２２から供給された入力画像に対して、ガボアフィルタを用いたフィルタ処理を施し、０度、４５度、９０度、および１３５度の方向のエッジ強度を画素の画素値とするエッジ画像を生成する。そして、エッジ画像生成部２１１乃至エッジ画像生成部２１４は、生成されたエッジ画像をピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８に供給する。
【０２８８】
ステップＳ２１２において、ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８は、エッジ画像生成部２１１乃至エッジ画像生成部２１４からのエッジ画像を用いて、ピラミッド画像を生成し、差分算出部２１９乃至差分算出部２２２に供給する。
【０２８９】
例えば、ピラミッド画像生成部２１５は、解像度の異なる複数の０度方向のエッジ画像を生成することにより、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成し、差分算出部２１９に供給する。同様に、ピラミッド画像生成部２１６乃至ピラミッド画像生成部２１８は、レベルＬ１乃至レベルＬ８の各階層のピラミッド画像を生成して差分算出部２２０乃至差分算出部２２２に供給する。
【０２９０】
ステップＳ２１３において、差分算出部２１９乃至差分算出部２２２は、ピラミッド画像生成部２１５乃至ピラミッド画像生成部２１８からのピラミッド画像を用いて差分画像を生成して正規化し、エッジ情報マップ生成部２２３乃至エッジ情報マップ生成部２２６に供給する。差分画像の正規化では、例えば、画素の画素値が０乃至２５５の間の値となるようにされる。
【０２９１】
例えば、差分算出部２１９は、ピラミッド画像生成部２１５から供給された、各階層の０度方向のエッジのピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の組み合わせのピラミッド画像の差分を求める。これにより、合計５つのエッジの差分画像が得られる。
【０２９２】
同様に、差分算出部２２０乃至差分算出部２２２は、各階層のピラミッド画像のうち、レベルＬ６およびレベルＬ３、レベルＬ７およびレベルＬ３、レベルＬ７およびレベルＬ４、レベルＬ８およびレベルＬ４、並びにレベルＬ８およびレベルＬ５の各階層の組み合わせのピラミッド画像の差分を求める。これにより、各方向のエッジについて、それぞれ合計５つの差分画像が得られる。
【０２９３】
これらの差分画像を生成する処理は、エッジ画像にバンドパスフィルタを用いたフィルタ処理を施して、エッジ画像から所定の周波数成分を抽出することと等価である。このようにして得られた差分画像の画素の画素値は、各レベルのピラミッド画像のエッジ強度の差、つまり入力画像の所定の位置のエッジ強度と、その位置の周囲の平均的なエッジ強度との差を示している。
【０２９４】
一般的に、画像において周囲と比べてエッジ強度の強い領域は、その画像を見る人の目を引く領域であるので、その領域は被写体の領域である可能性が高い。したがって、各差分画像において、より画素値の大きい画素が、より被写体の領域である可能性の高い領域であることを示しているということができる。
【０２９５】
ステップＳ２１４において、エッジ情報マップ生成部２２３乃至エッジ情報マップ生成部２２６は、差分算出部２１９乃至差分算出部２２２からの差分画像を用いて各方向のエッジ情報マップを生成し、被写体マップ生成部１２６に供給する。
【０２９６】
例えば、エッジ情報マップ生成部２２３は、差分算出部２１９から供給された差分画像を、予め求められた差分重みＷａにより重み付き加算して０度方向のエッジ情報マップとする。
【０２９７】
同様に、エッジ情報マップ生成部２２４乃至エッジ情報マップ生成部２２６は、差分算出部２２０乃至差分算出部２２２からの差分画像を差分重みＷａにより重み付き加算して、４５度、９０度、および１３５度の各方向のエッジ情報マップを生成する。なお、エッジ情報マップの生成時において、各差分画像が同じ大きさとなるように、差分画像のアップコンバートが行われる。
【０２９８】
エッジ情報マップ生成部２２３乃至エッジ情報マップ生成部２２６が、このようにして得られた各方向の合計４つのエッジ情報マップを被写体マップ生成部１２６に供給すると、エッジ情報抽出処理は終了し、処理は図２０のステップＳ１１４に進む。
【０２９９】
このようにして、エッジ情報抽出部１２３は、入力画像から特定の方向のエッジの差分画像を求め、その差分画像からエッジ情報マップを生成する。すなわち、エッジ情報抽出部１２３では、入力画像の各領域における特定方向のエッジ強度と、その領域の周囲の領域の平均的な特定方向のエッジ強度との差分が特徴量として抽出されて、その特徴量を示すエッジ情報マップが生成される。このようにして得られた方向ごとのエッジ情報マップによれば、入力画像において、周囲の領域と比べて、特定の方向へのエッジ強度の大きい領域、つまり入力画像を一瞥した観察者の目に付きやすい領域を簡単に検出することができる。
【０３００】
なお、エッジ情報抽出処理では、エッジの抽出にガボアフィルタが用いられると説明したが、その他、Sobelフィルタや、Robertsフィルタなどのエッジ抽出フィルタが用いられるようにしてもよい。
【０３０１】
［顔情報抽出処理の説明］
次に、図２４のフローチャートを参照して、図２０のステップＳ１１４の処理に対応する顔情報抽出処理について説明する。
【０３０２】
ステップＳ２４１において、顔検出部２５１は、取得部２２から供給された入力画像から、人の顔の領域を検出し、その検出結果を顔情報マップ生成部２５２に供給する。例えば、顔検出部２５１は、入力画像に対してガボアフィルタを用いたフィルタ処理を施し、入力画像から人の目、口、鼻などの特徴的な領域を抽出することにより、入力画像における顔の領域を検出する。
【０３０３】
ステップＳ２４２において、顔情報マップ生成部２５２は、顔検出部２５１からの検出結果を用いて顔情報マップを生成し、被写体マップ生成部１２６に供給する。
【０３０４】
例えば、入力画像からの顔の検出結果として、顔が含まれると推定される入力画像上の矩形の領域（以下、候補領域と称する）が複数検出されたとする。ここで、入力画像上の所定の位置近傍に複数の候補領域が検出され、それらの候補領域の一部が互いに重なることもあることとする。すなわち、例えば、入力画像上の１つの顔の領域に対して、その顔を含む複数の領域が候補領域として得られた場合には、それらの候補領域の一部が互いに重なることになる。
【０３０５】
顔情報マップ生成部２５２は、顔の検出により得られた候補領域に対して、候補領域ごとに、入力画像と同じ大きさの検出画像を生成する。この検出画像は、検出画像上における処理対象の候補領域と同じ領域内の画素の画素値が、候補領域とは異なる領域内の画素の画素値よりも大きい値とされる。
【０３０６】
また、検出画像上の画素の画素値は、より人の顔が含まれる可能性が高いと推定された候補領域の画素と同じ位置の画素ほど、画素値が大きくなる。顔情報マップ生成部２５２は、このようにして得られた検出画像を足し合わせて、１つの画像を生成して正規化し、顔情報マップとする。したがって、顔情報マップ上において、入力画像上の複数の候補領域の一部が重なる領域と同じの領域の画素の画素値は大きくなり、より顔が含まれる可能性が高いことになる。なお、正規化は、顔情報マップの画素の画素値が、例えば０乃至２５５の間の値となるようにされる。
【０３０７】
顔情報マップが生成されると、顔情報抽出処理は終了し、処理は図２０のステップＳ１１５に進む。
【０３０８】
このようにして、顔情報抽出部１２４は、入力画像から顔を検出し、その検出結果から顔情報マップを生成する。このようにして得られた顔情報マップによれば、入力画像において、被写体としての人の顔の領域を簡単に検出することができる。
【０３０９】
［動き情報抽出処理の説明］
次に、図２５のフローチャートを参照して、図２０のステップＳ１１５の処理に対応する動き情報抽出処理について説明する。
【０３１０】
ステップＳ２７１において、ローカルモーションベクタ抽出部２８１は、取得部２２から供給された入力画像を用いて、勾配法などにより入力画像の各画素のローカルモーションベクタを検出し、差分算出部２８３に供給する。
【０３１１】
ステップＳ２７２において、グローバルモーションベクタ抽出部２８２は、取得部２２から供給された入力画像を用いてグローバルモーションベクタを検出し、差分算出部２８３に供給する。
【０３１２】
ステップＳ２７３において、差分算出部２８３は、ローカルモーションベクタ抽出部２８１からのローカルモーションベクタと、グローバルモーションベクタ抽出部２８２からのグローバルモーションベクタとの差分の絶対値を求めて動きの差分画像を生成する。そして、差分算出部２８３は、生成した動きの差分画像を動き情報マップ生成部２８４に供給する。
【０３１３】
ステップＳ２７４において、動き情報マップ生成部２８４は、差分算出部２８３から供給された差分画像を正規化して動き情報マップとし、被写体マップ生成部１２６に供給する。ここで、差分画像の正規化は、各画素の画素値が、例えば０乃至２５５の間の値となるようにされる。動き情報マップが生成されると、動き情報抽出処理は終了し、処理は図２０のステップＳ１１６に進む。
【０３１４】
このようにして、動き情報抽出部１２５は、入力画像から動きを検出し、その検出結果から動き情報マップを生成する。このようにして得られた動き情報マップによれば、入力画像において、動きのある物体の領域を簡単に検出することができる。入力画像において、動きのある物体の領域は、入力画像を一瞥した観察者の目に付きやすい領域であり、被写体である可能性が高い。
【０３１５】
図４の被写体抽出部９２では、以上のようにして各情報マップが生成され、それらの情報マップから被写体マップが生成される。
【０３１６】
［エッジ得点算出処理の説明］
また、以下、図２６乃至図２８を参照して、図１２のステップＳ１４乃至ステップＳ１６の処理に対応する、エッジ得点算出処理、彩度得点算出処理、およびアドバイス生成処理について説明する。
【０３１７】
まず、図２６のフローチャートを参照して、図１２のステップＳ１４の処理に対応するエッジ得点算出処理について説明する。この処理は、図１０のエッジ得点算出部２５により行われる。
【０３１８】
ステップＳ３０１において、被写体抽出部３１１は、被写体マップ生成処理を行って、取得部２２から供給された入力画像から被写体マップを生成し、反転部３１２に供給する。なお、この被写体マップ生成処理は、図２０を参照して説明した被写体マップ生成処理と同様の処理であるため、その説明は省略する。
【０３１９】
ステップＳ３０２において、反転部３１２は、被写体抽出部３１１から供給された被写体マップに反転処理を施して、乗算部３１５に供給する。すなわち、被写体マップの各画素の画素値が、１から０に、または０から１に反転される。これにより、反転後の被写体マップを用いれば、入力画像における背景部分の抽出が可能となる。
【０３２０】
ステップＳ３０３において、フィルタ処理部３１３は、取得部２２から供給された入力画像に、ラプラシアンフィルタを用いたフィルタ処理を施してラプラシアン画像を生成し、正規化部３１４に供給する。また、正規化部３１４は、フィルタ処理部３１３からのラプラシアン画像を正規化し、乗算部３１５に供給する。
【０３２１】
ステップＳ３０４において、乗算部３１５は、正規化部３１４からのラプラシアン画像に、反転部３１２からの反転された被写体マップを乗算して背景画像を生成し、領域エッジ強度算出部３１６およびヒストグラム生成部３１７に供給する。すなわち、同じ位置にあるラプラシアン画像および被写体マップの画素の画素値の積が求められ、その積が背景画像の画素の画素値とされる。このようにして得られる背景画像は、入力画像における被写体の領域ではない部分、つまり背景部分のエッジ強度を示す画像である。
【０３２２】
ステップＳ３０５において、領域エッジ強度算出部３１６は、乗算部３１５から供給された背景画像を用いて、背景画像の上端領域、下端領域、左端領域、および右端領域のそれぞれの領域エッジ強度を算出し、変換部３１９に供給する。例えば、領域エッジ強度算出部３１６は、背景画像の上端領域内の画素の画素値の合計値を、上端領域の領域エッジ強度として算出する。
【０３２３】
ステップＳ３０６において、ヒストグラム生成部３１７は、乗算部３１５から供給された背景画像を用いて、入力画像の背景部分におけるエッジの複雑さを示すヒストグラムを生成する。
【０３２４】
すなわち、まずヒストグラム生成部３１７は、背景画像に対して閾値処理を施す。具体的には、背景画像の画素のうち、画素値が閾値以上の画素は、画素値をそのままの値とし、画素値が閾値未満の画素は、その画素の画素値を０とする。
【０３２５】
次に、ヒストグラム生成部３１７は、閾値処理を施した背景画像について、背景画像の画素の画素値の範囲、つまりエッジ強度の値の範囲をビンとしたエッジのヒストグラムを生成する。そして、ヒストグラム生成部３１７は、生成したエッジのヒストグラムをスコア算出部３１８に供給する。
【０３２６】
ステップＳ３０７において、スコア算出部３１８は、ヒストグラム生成部３１７から供給されたヒストグラムを用いてエッジスコアを算出し、変換部３１９に供給する。
【０３２７】
例えば、閾値処理後の背景画像の画素値の取り得る値の範囲が０から１までであるとする。このとき、スコア算出部３１８は、ヒストグラムのうち、画素値（エッジ強度）「０．１」乃至「０．２」の範囲に含まれる１または複数のビンのうち、最も頻度値が高いビンの頻度値を、最大頻度値Maとして抽出する。つまり、ビンの代表値が０．１から０．２の間であるビンのうち、最も頻度値が大きいビンが選択され、そのビンの頻度値が最大頻度値Maとされる。
【０３２８】
また、スコア算出部３１８は、ヒストグラムのうち、画素値（エッジ強度）「０．８」乃至「０．９」の範囲に含まれる１または複数のビンのうち、最も頻度値が低いビンの頻度値を、最小頻度値Mbとして抽出する。つまり、ビンの代表値が０．８から０．９の間であるビンのうち、最も頻度値が小さいビンが選択され、そのビンの頻度値が最小頻度値Mbとされる。
【０３２９】
そして、スコア算出部３１８は、最大頻度値Maから最小頻度値Mbを減算し、その結果得られた値をエッジスコアとする。このようにして得られるエッジスコアは、入力画像の背景部分における、エッジ強度の小さい画素の数と、エッジ強度の大きい画素の数との差、つまり背景部分におけるエッジの複雑さを示している。
【０３３０】
一般に、アマ画像では、背景部分のエッジが複雑であり、最大頻度値Maが大きくなり最小頻度値Mbは小さくなることが多い。つまり、アマ画像に近い画像のエッジスコアは、大きい値となる可能性が高い。一方、プロ画像では、背景部分のエッジが簡素、すなわちエッジ強度の大きい画素が少なく、最大頻度値Maと最小頻度値Mbは小さくなることが多い。つまり、プロ画像に近い画像のエッジスコアは、小さい値となる可能性が高い。したがって、エッジスコアは、その値が小さいほど、入力画像の見映えの評価が高いことを示している。
【０３３１】
ステップＳ３０８において、変換部３１９は、予め保持している変換テーブルを用いて、スコア算出部３１８からのエッジスコアをエッジの得点に変換する。例えば、変換部３１９は、図２の変換部６９が保持している変換テーブルと同様にして予め求められた変換テーブルを保持しており、変換テーブルを用いて、エッジスコアをエッジの得点に変換する。エッジスコアの値が小さいほど、背景部分のエッジの複雑さが簡素でプロ画像に近いので、エッジスコアの値が小さいほど、そのエッジスコアは、より値の大きい得点に変換される。
【０３３２】
変換部３１９によりエッジスコアがエッジの得点に変換されると、変換部３１９は、得られたエッジの得点と、領域エッジ強度算出部３１６からの領域エッジ強度とをアドバイス生成部２７に供給してエッジ得点算出処理は終了し、その後、処理は図１２のステップＳ１５に進む。
【０３３３】
このようにして、エッジ得点算出部２５は、入力画像から背景部分を抽出し、背景部分のエッジ強度に基づいて、背景部分のエッジ強度の複雑さを示すエッジスコアを算出する。そして、エッジ得点算出部２５は、エッジスコアを変換テーブルによりエッジの得点に変換する。
【０３３４】
このように、背景部分のみを処理対象として、エッジの得点を算出することで、より適切に入力画像の見映えを評価することができるようになる。
【０３３５】
すなわち、アマ画像は背景部分のエッジが複雑となり、プロ画像は背景部分のエッジが簡素となる傾向がある。そこで、そのような傾向を利用し、背景部分のみのエッジの複雑さを示すエッジスコアを求め、エッジスコアを得点に変換することで、被写体部分におけるエッジが複雑か否かに関わらず、より簡単かつ適切に入力画像の見映えを評価することができるようになる。
【０３３６】
［彩度得点算出処理の説明］
次に、図２７のフローチャートを参照して、図１２のステップＳ１５の処理に対応する彩度得点算出処理について説明する。
【０３３７】
ステップＳ３３１において、変換部３４１は、取得部２２から供給された入力画像を、Ｈ（色相），Ｓ（彩度），Ｖ（明度）の各成分の値からなる入力画像に変換し、ヒストグラム生成部３４２に供給する。
【０３３８】
ステップＳ３３２において、ヒストグラム生成部３４２は、変換部３４１から供給された入力画像を用いて、彩度の成分のヒストグラムを生成し、スコア算出部３４３に供給する。例えば、ヒストグラム生成部３４２は、入力画像の画素のうち、Ｈ（色相）成分が所定の閾値ｔｈ１以上であり、かつＶ（明度）成分が所定の閾値ｔｈ２以上である画素を抽出し、抽出した画素を用いて、画素のＳ（彩度）成分の値の範囲をビンとするヒストグラムを生成する。
【０３３９】
ステップＳ３３３において、スコア算出部３４３は、ヒストグラム生成部３４２から供給された彩度のヒストグラムを用いて彩度スコアを算出し、変換部３４４に供給する。
【０３４０】
例えば、スコア算出部３４３は、彩度のヒストグラムに対してＧＭＭ（Gaussian Mixture Model）による近似を行い、１または複数の分布について、各分布の重要度、平均値、および分散を求める。なお、ここでいう分布とは、近似により得られた全体の分布曲線における１つのピークを有する部分をいう。
【０３４１】
スコア算出部３４３は各分布のうち、最も重要度の高い分布の分散および平均値のそれぞれを、彩度スコアとする。このようにして得られた彩度スコアは、入力画像全体の彩度成分の平均値および分散を示しており、これらの平均値および分散の値によって、入力画像が、よりプロ画像に近いか、またはよりアマ画像に近いかを特定することができる。したがって、彩度スコアにより、入力画像の見映えを評価することができる。
【０３４２】
ステップＳ３３４において、変換部３４４は、予め保持している変換テーブルを用いて、スコア算出部３４３からの彩度スコアを彩度の得点に変換する。
【０３４３】
例えば、変換部３４４は、図２の変換部６９が保持している変換テーブルと同様にして予め求められた変換テーブルを、彩度スコアとしての平均値および分散ごとに保持しており、変換テーブルを用いて、彩度スコアを得点に変換する。これにより、彩度の得点として、平均値の得点、および分散の得点が得られる。
【０３４４】
例えば、入力画像の彩度成分の平均値および分散が、よりプロ画像の平均値および分散に近いほど、平均値の得点および分散の得点の値が大きくなるように、彩度スコアが変換される。つまり、彩度成分の平均値および分散を評価の指標とした場合、平均値の得点および分散の得点が高いほど、入力画像はプロ画像に近いことになる。つまり、より入力画像の見映えがよいことになる。
【０３４５】
彩度の得点が算出されると、変換部３４４は、算出した彩度の得点をアドバイス生成部２７に供給し、彩度得点算出処理は終了する。そして、その後、処理は図１２のステップＳ１６に進む。
【０３４６】
以上のようにして、彩度得点算出部２６は、入力画像における彩度の平均値および分散を彩度スコアとして算出し、変換テーブルにより彩度スコアを彩度の得点に変換する。このように入力画像全体を対象として、彩度の平均値および分散を求めて彩度の得点を算出することにより、より適切に入力画像の見映えを評価することができるようになる。
【０３４７】
すなわち、彩度を指標として画像の見映えを評価する場合、画像全体を見る必要があるため、入力画像全体を対象として、彩度の平均値および分散を算出することで、より適切に入力画像の見映えを評価することができるようになる。
【０３４８】
［アドバイス生成処理の説明］
次に、図２８のフローチャートを参照して、図１２のステップＳ１６の処理に対応するアドバイス生成処理について説明する。
【０３４９】
ステップＳ３６１において、アドバイス生成部２７は、ぼけ度得点算出部２３から供給されたぼけ度の得点が、予め定められた閾値ｔｈｂ以下であるか否かを判定する。
【０３５０】
ステップＳ３６１において、ぼけ度の得点が閾値ｔｈｂ以下でないと判定された場合、処理はステップＳ３６５に進む。
【０３５１】
ぼけ度の得点は、入力画像全体のぼけの度合いが小さいほど高くなるので、ぼけ度の得点が所定の閾値ｔｈｂよりも大きい場合、入力画像は全体としてぼけていないことになる。したがって、入力画像のぼけを改善する必要はないので、ぼけ度を指標とした得点をより高くするためのアドバイスは出力されない。
【０３５２】
一方、ステップＳ３６１において、ぼけ度の得点が閾値ｔｈｂ以下であると判定された場合、ステップＳ３６２において、アドバイス生成部２７は、エッジ得点算出部２５からのエッジの得点が予め定められた閾値ｔｈｅ以下であるか否かを判定する。
【０３５３】
ステップＳ３６２において、エッジの得点が閾値ｔｈｅ以下であると判定された場合、ステップＳ３６３において、アドバイス生成部２７は、被写体にピントを合わせるべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３５４】
エッジの得点は、入力画像の背景部分のエッジが複雑なほど低くなるので、エッジの得点がある程度以下である場合、入力画像の背景部分にピント（焦点）が合った状態であるということができる。
【０３５５】
したがって、ぼけ度の得点が所定の閾値ｔｈｂ以下であり、かつエッジの得点が閾値ｔｈｅ以下であるということは、入力画像の全体がある程度ぼけているが、背景部分にはある程度ピントが合っている状態である。つまり、入力画像の前景（被写体）はぼけていて、背景にピントが合った状態である。
【０３５６】
そこで、このような場合、アドバイス生成部２７は、ぼけ度の得点をより高くするためのアドバイスとして、被写体にピントを合わせるべきである旨のアドバイスを生成する。このアドバイスに従って焦点調節を行えば、ユーザは、被写体にピントの合った、より見映えのよい画像を得ることができる。
【０３５７】
これに対して、ステップＳ３６２において、エッジの得点が閾値ｔｈｅ以下でないと判定された場合、ステップＳ３６４において、アドバイス生成部２７は、ピントを合わせるべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３５８】
ぼけ度の得点が所定の閾値ｔｈｂ以下であり、かつエッジの得点が閾値ｔｈｅより大きい場合、入力画像の全体がぼけており、背景部分もぼけている状態である。つまり、入力画像内のどの部分にもピント（焦点）が合っていない状態である。
【０３５９】
そこで、このような場合には、アドバイス生成部２７は、入力画像のぼけを改善するべく、ピントを合わせるべきである旨のアドバイスを生成する。このアドバイスに従って焦点調節を行えば、ユーザは、所望する被写体にピントの合った、より見映えのよい画像を得ることができる。
【０３６０】
ステップＳ３６１において、ぼけ度の得点が閾値ｔｈｂ以下でないと判定された場合、またはステップＳ３６３若しくはステップＳ３６４においてアドバイスが生成された場合、処理はステップＳ３６５に進む。
【０３６１】
ステップＳ３６５において、アドバイス生成部２７は、エッジ得点算出部２５からのエッジの得点が予め定められた閾値ｔｈｅ以下であるか否かを判定する。
【０３６２】
ステップＳ３６５において、エッジの得点が閾値ｔｈｅ以下でないと判定された場合、処理はステップＳ３６８に進む。
【０３６３】
エッジの得点は、入力画像の背景部分が簡素なほど高くなり、その得点が高いほど、よりプロ画像に近い画像、つまりより見映えのよい画像であるとされる。したがって、エッジの得点が所定の閾値ｔｈｅよりも大きい場合、入力画像の背景のエッジは簡素であり、エッジの複雑さを指標とした場合には、入力画像は充分に見映えのよい画像である。そのため、入力画像の背景のエッジの複雑さを改善する必要はなく、エッジの複雑さを指標とした得点をより高くするためのアドバイスは出力されない。
【０３６４】
これに対して、ステップＳ３６５において、エッジの得点が閾値ｔｈｅ以下であると判定された場合、ステップＳ３６６において、アドバイス生成部２７は、背景をぼかすべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３６５】
エッジの得点が閾値ｔｈｅ以下である入力画像は、入力画像の背景部分のエッジが複雑であるために、見映えが悪くなっている画像である。そこで、アドバイス生成部２７は、背景のエッジの複雑さを指標とする見映えの評価をより高いものとするために、背景をぼかすべきである旨のアドバイスを生成する。このアドバイスに従って焦点調節を行えば、ユーザは、背景が簡素な、より見映えのよい画像を得ることができる。
【０３６６】
また、ステップＳ３６７において、アドバイス生成部２７は、必要に応じて、エッジ得点算出部２５から供給された領域エッジ強度を用いて、入力画像の構図を変更すべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３６７】
すなわち、アドバイス生成部２７は、上端領域、下端領域、左端領域、および右端領域のそれぞれの領域エッジ強度と、予め定められた閾値とを比較して、その比較結果に応じて、構図を変更すべき旨のアドバイスを、適宜、出力する。
【０３６８】
各領域の領域エッジ強度は、背景画像の各領域内の画素のエッジ強度の合計であるので、領域エッジ強度の値が大きい領域ほど、より背景部分のエッジが複雑な領域である。
【０３６９】
例えば、左端領域の領域エッジ強度も、右端領域の領域エッジ強度も、閾値以上である場合、背景にはエッジの複雑なものが含まれているので、アドバイス生成部２７は、背景が簡素な構図となるようにアドバイスを生成する。具体的には、「もっと被写体に寄って下さい」など、被写体側に近寄って撮像すべきである旨のアドバイスが生成される。
【０３７０】
このアドバイスに従って撮像を行えば、入力画像における被写体の占める割合が大きく、背景がよりぼける構図となるので、ユーザは、背景が簡素な、より見映えのよい画像を得ることができる。つまり、背景のエッジの複雑さを指標とした場合に、より評価の高い入力画像を得ることができる。
【０３７１】
また、例えば、左端領域の領域エッジ強度は閾値より小さいが、右端領域の領域エッジ強度が閾値以上である場合、入力画像の背景の左端側はエッジが簡素であるが、反対の右端側の領域は、エッジが複雑になってしまっている。
【０３７２】
そのような場合、アドバイス生成部２７は、入力画像の右端側の背景の領域がより簡素になるように構図を変更すべきである旨のアドバイスを生成する。具体的には、例えば、「カメラを左に寄せて下さい」など、ユーザから見て左側に移動すべきである旨のアドバイスが生成される。このアドバイスに従って撮像を行えば、入力画像の背景の両端の領域においてエッジが簡素な構図となるので、ユーザは、背景のエッジの複雑さを指標とした場合に、より評価の高い入力画像を得ることができる。
【０３７３】
また、ステップＳ３６５において、エッジの得点が閾値ｔｈｅ以下でないと判定されたか、またはステップＳ３６７においてアドバイスが生成されると、処理はステップＳ３６８に進む。ステップＳ３６８おいて、アドバイス生成部２７は、輝度得点算出部２４から供給された輝度の得点が、予め定められた閾値ｔｈｌ以下であるか否かを判定する。
【０３７４】
ステップＳ３６８において、輝度の得点が閾値ｔｈｌ以下でないと判定された場合、処理はステップＳ３７４に進む。
【０３７５】
輝度の得点は、入力画像の前景部分の輝度分布がプロ画像により近いほど高くなり、その得点が高いほど、より見映えのよい画像であるとされる。したがって、輝度の得点が所定の閾値ｔｈｌよりも大きい場合、入力画像の前景の輝度分布は、一般的な評価の高いプロ画像に類似しており、前景の輝度分布を指標とした場合には、入力画像は充分に見映えのよい画像である。そのため、入力画像の前景の輝度分布を改善する必要はなく、輝度の得点をより高くするためのアドバイスは出力されない。
【０３７６】
これに対して、ステップＳ３６８において、輝度の得点が閾値ｔｈｌ以下であると判定された場合、ステップＳ３６９において、アドバイス生成部２７は、輝度得点算出部２４から供給された平均輝度が、予め定められた閾値ｔｈｄ以下であるか否かを判定する。
【０３７７】
ステップＳ３６９において、平均輝度が閾値ｔｈｄ以下であると判定された場合、ステップＳ３７０において、アドバイス生成部２７は、フラッシュをオンすべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３７８】
輝度の得点が閾値ｔｈｌ以下である場合、入力画像は、プロ画像と前景の輝度分布が類似していない画像である。このような入力画像は、前景部分が明るすぎるか、または暗すぎる画像である場合が多い。また、入力画像の平均輝度が所定の閾値ｔｈｄ以下である場合、入力画像全体が暗いということである。
【０３７９】
したがって、輝度の得点が閾値ｔｈｌ以下であり、かつ平均輝度が閾値ｔｈｄ以下である入力画像は、前景部分だけでなく、入力画像全体が暗すぎる画像である可能性が高い。そこで、アドバイス生成部２７は、入力画像全体が明るくなるように、フラッシュをオンすべきである旨のアドバイスを生成する。このアドバイスに従って撮像を行えば、撮像時のフラッシュにより、少なくとも入力画像の前景部分は充分明るくなるので、前景の輝度分布を指標とした場合に、より評価の高い入力画像を得ることができる。
【０３８０】
これに対して、ステップＳ３６９において、平均輝度が閾値ｔｈｄ以下でないと判定された場合、ステップＳ３７１において、アドバイス生成部２７は、平均輝度が、予め定められた閾値ｔｈｕ以上であるか否かを判定する。ここで、閾値ｔｈｕは、閾値ｔｈｄよりも大きい値であり、入力画像全体が明るすぎるか否かを判定するための閾値とされる。
【０３８１】
ステップＳ３７１において、平均輝度が閾値ｔｈｕ以上であると判定された場合、ステップＳ３７２において、アドバイス生成部２７は、明るさを抑えるようにホワイトバランスを調整すべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３８２】
輝度の得点が閾値ｔｈｌ以下であり、かつ平均輝度が閾値ｔｈｕ以上である入力画像は、入力画像全体が明るすぎる画像である可能性が高い。そこで、アドバイス生成部２７は、入力画像全体の明るさが抑えられるように、ホワイトバランスを調整すべきである旨のアドバイスを生成する。このアドバイスに従ってホワイトバランスの調整を行えば、入力画像全体の明るさが抑えられて、前景の輝度分布を指標とした場合に、より評価の高い入力画像を得ることができる。
【０３８３】
一方、ステップＳ３７１において、平均輝度が閾値ｔｈｕ以上でないと判定された場合、ステップＳ３７３において、アドバイス生成部２７は、被写体部分のホワイトバランスを調整すべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３８４】
輝度の得点が閾値ｔｈｌ以下であり、かつ平均輝度が閾値ｔｈｄより大きく、閾値ｔｈｕ未満である入力画像は、入力画像の前景部分だけが明るすぎるか、または暗すぎる画像である可能性が高い。そこで、アドバイス生成部２７は、前景部分、つまり被写体の輝度が適切になるように、被写体部分のホワイトバランスを調整すべきである旨のアドバイスを生成する。このアドバイスに従って前景のホワイトバランスの調整を行えば、入力画像の被写体の明るさが適度な明るさとなり、前景の輝度分布を指標とした場合に、より評価の高い入力画像を得ることができる。
【０３８５】
また、ステップＳ３６８において輝度の得点が閾値ｔｈｌ以下でないと判定されたか、または、ステップＳ３７０、ステップＳ３７２、若しくはステップＳ３７３においてアドバイスが生成されると、処理はステップＳ３７４に進む。
【０３８６】
ステップＳ３７４において、アドバイス生成部２７は、彩度得点算出部２６から供給された彩度の得点が、予め定められた閾値ｔｈｓ以下であるか否かを判定する。
【０３８７】
より詳細には、アドバイス生成部２７は、彩度の得点としての彩度成分の平均値の得点が、閾値ｔｈｓ１以下であるか否か、および彩度の得点としての彩度成分の分散の得点が、閾値ｔｈｓ２以下であるか否かを判定する。
【０３８８】
そして、アドバイス生成部２７は、少なくとも平均値の得点または分散の得点の何れか一方が、閾値ｔｈｓ１または閾値ｔｈｓ２以下である場合、彩度の得点が閾値ｔｈｓ以下であると判定する。
【０３８９】
ステップＳ３７４において、彩度の得点が閾値ｔｈｓ以下でないと判定された場合、アドバイス生成処理は終了し、処理は図１２のステップＳ１７に進む。
【０３９０】
彩度の得点は、入力画像の彩度成分の分散および平均値が、プロ画像により近いほど高くなり、その得点が高いほど、全体が鮮やかな見映えのよい画像であるとされる。したがって、彩度の得点が所定の閾値ｔｈｓよりも大きい場合、入力画像の彩度成分の分散および平均値は、一般的な評価の高いプロ画像に類似しており、彩度を指標とした場合には、入力画像は色鮮やかな見映えのよい画像である。そのため、入力画像の鮮やかさを改善する必要はなく、彩度の得点をより高くするためのアドバイスは出力されない。
【０３９１】
一方、ステップＳ３７４において、彩度の得点が閾値ｔｈｓ以下であると判定された場合、ステップＳ３７５において、アドバイス生成部２７は、被写体の色が目立つようにホワイトバランスを調整すべき旨のアドバイスを生成し、表示制御部２８に供給する。
【０３９２】
彩度の得点が閾値ｔｈｓ以下である場合、入力画像は、プロ画像と彩度の平均値または分散が類似していない画像である。このような入力画像は、全体的に色がくすんだ感じの精彩感のない画像である場合が多い。そこで、アドバイス生成部２７は、入力画像全体、特に被写体の部分の色が目立つように、ホワイトバランスを調整するべきである旨のアドバイスを生成する。このアドバイスに従って被写体のホワイトバランスの調整を行えば、被写体を中心に入力画像全体が色鮮やかになり、彩度を指標とした場合に、より評価の高い入力画像を得ることができる。
【０３９３】
なお、ステップＳ３７５において、ホワイトバランスの調整ではなく、入力画像を明るくするために、露出の調整をすべきである旨のアドバイスが出力されるようにしてもよい。
【０３９４】
被写体の色が目立つようにホワイトバランスを調整すべき旨のアドバイスが出力されると、アドバイス生成処理は終了し、その後、処理は図１２のステップＳ１７に進む。
【０３９５】
このようにして、アドバイス生成部２７は、特徴別の得点に応じて、予め用意されたアドバイスを出力する。このように、特徴別の得点に応じて、その得点がより高くなるようなアドバイスを出力することで、各特徴の得点をより高くすることができ、その結果、より見映えのよい入力画像を撮像することができるようになる。すなわち、より適切なアドバイスをユーザに対して提示することができる。
【０３９６】
なお、その他、評価の指標として、入力画像全体における色の分布が用いられるようにしてもよい。そのような場合、例えば、入力画像とプロ画像またはアマ画像との色の分布の類似度等から、色の分布の得点が算出され、その得点に応じてアドバイスが出力される。例えば、色分布を用いれば、ホワイトバランスをどのように調整すべきかをアドバイスすることが可能となる。
【０３９７】
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【０３９８】
図２９は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【０３９９】
コンピュータにおいて、CPU（Central Processing Unit）６０１，ROM（Read Only Memory）６０２，RAM（Random Access Memory）６０３は、バス６０４により相互に接続されている。
【０４００】
バス６０４には、さらに、入出力インターフェース６０５が接続されている。入出力インターフェース６０５には、キーボード、マウス、マイクロホンなどよりなる入力部６０６、ディスプレイ、スピーカなどよりなる出力部６０７、ハードディスクや不揮発性のメモリなどよりなる記録部６０８、ネットワークインターフェースなどよりなる通信部６０９、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア６１１を駆動するドライブ６１０が接続されている。
【０４０１】
以上のように構成されるコンピュータでは、CPU６０１が、例えば、記録部６０８に記録されているプログラムを、入出力インターフェース６０５及びバス６０４を介して、RAM６０３にロードして実行することにより、上述した一連の処理が行われる。
【０４０２】
コンピュータ（CPU６０１）が実行するプログラムは、例えば、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等）、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア６１１に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
【０４０３】
そして、プログラムは、リムーバブルメディア６１１をドライブ６１０に装着することにより、入出力インターフェース６０５を介して、記録部６０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部６０９で受信し、記録部６０８にインストールすることができる。その他、プログラムは、ROM６０２や記録部６０８に、あらかじめインストールしておくことができる。
【０４０４】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０４０５】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【０４０６】
１１  画像処理装置，  ２３  ぼけ度得点算出部，  ２４  輝度得点算出部，  ２５  エッジ得点算出部，  ２６  彩度得点算出部，  ２７  アドバイス生成部，  ２８  表示制御部，  ９１  平均輝度算出部，  ９２  被写体抽出部，  ３１６  領域エッジ強度算出部
【図１】
0005397059.tif 000009
【図２】
0005397059.tif 000010
【図３】
0005397059.tif 000011
【図４】
0005397059.tif 000012
【図５】
0005397059.tif 000013
【図６】
0005397059.tif 000014
【図７】
0005397059.tif 000015
【図８】
0005397059.tif 000016
【図９】
0005397059.tif 000017
【図１０】
0005397059.tif 000018
【図１１】
0005397059.tif 000019
【図１２】
0005397059.tif 000020
【図１３】
0005397059.tif 000021
【図１４】
0005397059.tif 000022
【図１５】
0005397059.tif 000023
【図１６】
0005397059.tif 000024
【図１７】
0005397059.tif 000025
【図１８】
0005397059.tif 000026
【図１９】
0005397059.tif 000027
【図２０】
0005397059.tif 000028
【図２１】
0005397059.tif 000029
【図２２】
0005397059.tif 000030
【図２３】
0005397059.tif 000031
【図２４】
0005397059.tif 000032
【図２５】
0005397059.tif 000033
【図２６】
0005397059.tif 000034
【図２７】
0005397059.tif 000035
【図２８】
0005397059.tif 000036
【図２９】
0005397059.tif 000037