(57)【要約】【課題】複数の撮影画像を合成することにより画像ぶれを補正する際に、画像ぶれの推定結果の誤差を抑制し、画像ぶれ補正の精度を向上させる。【解決手段】画像処理装置１は、複数の撮影画像Ｐ１〜Ｐｎに生じている画像ぶれの評価結果に基づいて複数の撮影画像Ｐ１〜Ｐｎ（又はこれらにフィルタ処理を行った後の複数の撮影画像）を合成することで補正画像ＣＰを生成する。さらに、画像処理装置１は、補正画像ＣＰを新たな参照画像として複数の撮影画像Ｐ１〜Ｐｎの画像ぶれを反復的に評価し、反復的に生成される画像ぶれの評価結果に基づいて補正画像ＣＰを反復的に生成する。【選択図】図２
2010161521.tif 000002
【特許請求の範囲】
【請求項１】
複数の撮影画像に生じている画像ぶれを評価する画像ぶれ評価部と、
前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成する合成部と、を備え、
前記画像ぶれ評価部は、前記補正画像を参照画像として前記画像ぶれを反復的に評価し、
前記合成部は、反復的に生成される前記画像ぶれの評価結果に基づいて前記補正画像を反復的に生成する、
画像処理装置。
【請求項２】
前記画像ぶれ評価部は、前記補正画像が存在しない状態で最初の画像ぶれ評価を行う際に、前記複数の撮影画像から選択された１の画像を参照画像として前記画像ぶれを評価する、請求項１に記載の画像処理装置。
【請求項３】
反復的に生成される前記画像ぶれの評価結果に基づいて、前記複数の撮影画像に対するフィルタ処理を反復的に行うフィルタ部をさらに備え、
前記合成部は、前記フィルタ部によるフィルタ処理後の複数の撮影画像を合成する、請求項１又は２に記載の画像処理装置。
【請求項４】
請求項１〜３のいずれか１項に記載の画像処理装置と、
前記複数の撮影画像を生成する撮像部と、
を備える撮像装置。
【請求項５】
複数の撮影画像に生じている画像ぶれを評価すること、
前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成すること、
前記補正画像を参照画像として前記画像ぶれの評価を反復的に実行すること、及び
反復的に生成される前記画像ぶれの評価結果に基づいて、前記補正画像の生成を反復的に実行すること、
を含む画像ぶれの補正方法。
【請求項６】
前記補正画像が存在しない状態で最初の画像ぶれ評価を行う際に、前記複数の撮影画像から選択された１の画像を参照画像として用いる、請求項５に記載の方法。
【請求項７】
反復的に生成される前記画像ぶれの評価結果に基づいて前記複数の撮影画像に対するフィルタ処理を反復的に行うことをさらに含み、
前記前記補正画像の生成は、フィルタ処理後の複数の撮影画像を合成することにより行われる、請求項５又は６に記載の方法。
【請求項８】
複数の撮影画像に生じている画像ぶれを評価すること、
前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成すること、及び
前記補正画像を参照画像として前記画像ぶれの評価を反復的に実行すること、
反復的に生成される前記画像ぶれの評価結果に基づいて、前記補正画像の生成を反復的に実行すること、
を含む画像ぶれの補正処理をコンピュータに実行させるためのプログラム。
【請求項９】
前記補正画像が存在しない状態で最初の画像ぶれ評価を行う際に、前記複数の撮影画像から選択された１の画像を参照画像として用いる、請求項８に記載のプログラム。
【請求項１０】
前記補正処理は、反復的に生成される前記画像ぶれの評価結果に基づいて前記複数の撮影画像に対するフィルタ処理を反復的に行うことをさらに含み、
前記前記補正画像の生成は、フィルタ処理後の複数の撮影画像を合成することにより行われる、請求項８又は９に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタルスチルカメラ等の撮像装置によって撮影された撮影画像の画像ぶれを補正する画像処理技術に関する。
【背景技術】
【０００２】
ＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサ、ＣＣＤ（Charge Coupled Device）イメージセンサ等によって生成される電気信号をデジタル信号に変換して画像データを得る撮像装置において、撮影者の手ぶれ等に起因して画像データに生じるぶれ（以下、画像ぶれと呼ぶ）を補正する技術が知られている。このような画像ぶれ補正技術の１つに、連続して撮影された複数の撮影画像を画像ぶれを打ち消すように重ね合わせることによって画像ぶれを補正する（すなわち撮影画像の明瞭さ・先鋭度を向上させる）技術が知られている（例えば、特許文献１及び２を参照）。
【０００３】
特許文献１に開示された補正方法は、連続して撮影された複数の撮影画像の画像ぶれの向き及び大きさ（以下、動きベクトルと呼ぶ）を算出し、算出した動きベクトルを打ち消すように画素位置をずらして複数の撮影画像を重ね合わせ合成する。これにより、特許文献１に開示された撮像装置は、画像ぶれが軽減された画像を得る。
【０００４】
また、特許文献２には、以下に述べる補正方法が開示されている。（ｉ）始めに、複数の撮影画像の中から１の参照画像を選択する。参照画像の選択方法としては、最も手ぶれが小さい画像、具体的にはコントラストが最も大きい画像を選択することが記載されている。（ｉｉ）次に、参照画像とその他の撮影画像との比較によって動きベクトルを算出し、さらに、動きベクトルを用いて"点広がり関数ＰＳＦ（Point Spread Function）"を算出する。ＰＳＦは、一点から出た光がどのように広がるかを表す関数であり、複数の撮影画像の画像ぶれの向き及び大きさの情報を含む。（ｉｉｉ）続いて、複数の撮影画像の各々に対して、算出されたＰＳＦを用いて画像ぶれを補正するためのフィルタ処理を行う。（ｉｖ）最後に、フィルタ処理の複数の撮影画像を合成することによって、最終的な補正画像を生成する。画像合成を行うことによってＰＳＦ推定誤差の影響を抑えることができる。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００７−１２９４７６号公報
【特許文献２】特開２００７−６０４５号公報
【特許文献３】特開２００８−２２４２８号公報
【特許文献４】特開平３−１６０５７５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
上述した特許文献１及び２に開示された画像ぶれ補正技術は、複数の撮影画像の間の比較によって画像ぶれの向き及び大きさ（動きベクトル、ＰＳＦ等）を推定し、当該推定果に基づいて複数の撮影画像を合成して補正画像を得る。しかしながら、これらの文献に開示された画像ぶれ補正技術では、画像ぶれの影響によりぼやけた像を含む撮影画像を基準として画像ぶれの向き及び大きさを推定する。このため、画像ぶれの向き及び大きさの推定結果の誤差が大きくなり、結果的に画像ぶれを十分に補正できないおそれがある。
【０００７】
なお、特許文献３は、ＪＰＥＧ（Joint Photographic Experts Group）等によって符号化された符号化画像を復号する際に使用するフィルタの特性を適応的に決定する技術を開示している。また、特許文献４は、画像データに対するフィルタ処理を行った後に画像表示する表示装置を開示している。しかしながら、これらの文献は、上述した特許文献１及び２に開示された画像ぶれ補正技術が有する問題点の改善手法を何ら示唆するものではない。
【０００８】
本発明は、上述した知見に基づいてなされたものであって、複数の撮影画像を合成することにより画像ぶれを補正する際に、画像ぶれの推定結果の誤差を抑制し、画像ぶれ補正の精度を向上させることを目的とする。
【課題を解決するための手段】
【０００９】
本発明の一態様にかかる画像処理装置は、画像ぶれ評価部及び合成部を有する。前記画像ぶれ評価部は、複数の撮影画像に生じている画像ぶれを評価する。また、前記合成部は、前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成する。さらに、前記画像ぶれ評価部及び合成部は、前記補正画像を参照画像として前記画像ぶれを反復的に評価し、反復的に生成される前記画像ぶれの評価結果に基づいて前記補正画像を反復的に生成する。
【発明の効果】
【００１０】
本発明により、複数の撮影画像を合成することにより画像ぶれを補正する際に、画像ぶれの推定結果の誤差を抑制し、画像ぶれ補正の精度を向上させることができる。
【図面の簡単な説明】
【００１１】
【図１】発明の実施の形態１にかかる画像処理装置のブロック図である。
【図２】発明の実施の形態１にかかる画像処理装置による画像ぶれ補正処理の実行手順を示すフローチャートである。
【図３】発明の実施の形態１にかかる画像処理装置を用いた撮像装置の構成例を示すブロック図である。
【図４】発明の実施の形態２にかかる画像処理装置のブロック図である。
【図５】発明の実施の形態２にかかる画像処理装置による画像ぶれ補正処理の実行手順を示すフローチャートである。
【発明を実施するための形態】
【００１２】
以下では、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。各図面において、同一要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。
【００１３】
＜発明の実施の形態１＞
図１は、本実施の形態にかかる画像処理装置１の構成例を示すブロック図である。図１において、合成部１０は、撮影画像Ｐ１〜Ｐｎを入力し、これらを合成して補正画像ＣＰを生成する。ここで、合成部１０による画像合成は、撮影画像Ｐ１〜Ｐｎに生じている画像ぶれを打ち消すように撮影画像Ｐ１〜Ｐｎの画素位置をずらして重ね合わせ合成することにより行われる。より具体的には、合成部１０は、参照画像ＲＰを基準として、撮影画像Ｐ１〜Ｐｎの各々が参照画像ＲＰに重なるように合成すればよい。
【００１４】
画像ぶれ評価部１１は、合成部１０が画像合成を行う際に必要な、撮影画像Ｐ１〜Ｐｎの各々に対する位置シフトの向き及び大きさ（シフトベクトル）を計算する。位置シフトの向き及び大きさは、参照画像ＲＰに対する撮影画像Ｐ１〜Ｐｎの各々の画像ぶれの方向及び大きさ（つまり、動きベクトル）から得ることができる。例えば、画像ぶれ評価部１１は、参照画像ＲＰと撮影画像Ｐ１〜Ｐｎの各々との間の相互相関度を計算し、相互相関度が大きくなるようにシフトベクトルを決定すればよい。
【００１５】
参照画像選択部１２は、画像ぶれ評価部１１に供給される参照画像ＲＰを決定する。より具体的に述べると、参照画像選択部１２は、合成部１０によって生成された補正画像ＣＰが存在しない初期状態では、撮影画像Ｐ１〜Ｐｎの中から参照画像ＲＰを選択する。なお、上述したように、参照画像ＲＰは画像ぶれ評価および画像合成の基準として利用される。このため、参照画像選択部１２は、撮影画像Ｐ１〜Ｐｎのうち最も画像ぼけが少ないと推定される画像を参照画像ＲＰに選出するとよい。参照画像ＲＰの画像ぼけが少ない、言い換えると参照画像ＲＰの先鋭度が高いほど画像ぶれの評価精度が向上するためである。画像ぼけが少ない画像の選択は、例えば、最もコントラストの高い画像を選択することによって行えばよい。
【００１６】
さらに、参照画像選択部１２は、合成部１０によって補正画像ＣＰが生成されている場合には、合成部１０によって繰り返し生成される補正画像ＣＰのうち最新のものを参照画像ＲＰとして選択する。これにより、画像ぶれ評価部１１は、補正画像ＣＰを新たな参照画像ＲＰとして画像ぶれを反復的に評価する。また、合成部１０は、反復的に生成される画像ぶれの評価結果に基づいて補正画像ＣＰの生成を繰り返し行う。
【００１７】
出力部１３は、画像ぶれ補正後の撮影画像を出力する。例えば、出力部１３は、合成部１０および画像ぶれ評価部１１によって反復的に行われる画像補正処理の繰り返し回数が予め定められた回数に到達した場合に、このときの最新の補正画像ＣＰを出力すればよい。
【００１８】
続いて以下では、画像処理装置１による画像ぶれ補正の実行手順の具体例について図２のフローチャートを参照して説明する。
【００１９】
ステップＳ１０１では、参照画像選択部１２が初期参照画像を決定する。初期参照画像は、撮影画像Ｐ１〜Ｐｎの中から選択される。上述したように、参照画像選択部１２は、撮影画像Ｐ１〜Ｐｎのうち最も画像ぼけが少ないと推定される画像を選択すればよい。また、参照画像選択部１２は、撮影画像Ｐ１〜Ｐｎのうち任意の１枚を選択してもよい。例えば、参照画像選択部１２は、撮影画像Ｐ１〜Ｐｎのうち最初に撮影された画像を選択してもよい。
【００２０】
ステップＳ１０２において、画像ぶれ評価部１１は参照画像ＲＰに基づいて撮影画像Ｐ１〜Ｐｎに含まれる画像ぶれを評価する。
【００２１】
ステップＳ１０３では、合成部１０が、撮影画像Ｐ１〜Ｐｎに含まれる画像ぶれが打ち消されるように撮影画像Ｐ１〜Ｐｎを重ね合わせて合成し、補正画像ＣＰを生成する。
【００２２】
補正画像ＣＰの反復生成回数が所定回数に到達していない場合、最新の補正画像ＣＰを新たな参照画像ＲＰに選択し、上述したステップＳ１０２及びＳ１０３の処理を繰り返す（ステップＳ１０４及びＳ１０５）。そして、補正画像ＣＰの反復生成回数が所定回数に到達した場合、出力部１３は、最新の補正画像ＣＰを画像ぶれ補正済みの撮影画像として出力する（ステップＳ１０６）。
【００２３】
なお、補正画像ＣＰの反復生成の終了は、処理回数ではなく処理時間によって判定してもよい。つまり、画像処理装置１は、許容される処理時間の中で補正画像ＣＰの反復生成を繰り返し、許容される処理時間が経過した場合にその時点における最新の補正画像ＣＰを出力してもよい。
【００２４】
上述したように本実施の形態にかかる画像処理装置１は、撮影画像Ｐ１〜Ｐｎの合成によって得られた補正画像ＣＰを参照画像として用いて、画像ぶれの評価と評価結果に基づく画像合成を繰り返し行う。撮影画像Ｐ１〜Ｐｎの合成によって画像ぶれが改善されるため、補正画像ＣＰのコントラスト、補正画像ＣＰに含まれるエッジの先鋭度は、撮影画像Ｐ１〜Ｐｎに比べて向上する。このように目標画像（理想画像）に徐々に近づいていく補正画像ＣＰを用いて画像ぶれを反復的に評価することで、画像ぶれの評価精度を向上させることができる。よって、補正画像ＣＰを重ね合わせ合成の基準となる参照画像ＣＰとして再利用しながら画像合成を繰り返すことで、補正画像ＣＰの明瞭さを徐々に向上させることができる。
【００２５】
上述した画像処理装置１が行う画像ぶれの評価および評価結果に基づく画像合成は、ＡＳＩＣ、ＤＳＰ等の半導体処理装置を用いて実現してもよい。また、当該処理は、図２を用いて説明した処理手順を記述したプログラムをマイクロプロセッサ等のコンピュータに実行させることによって実現してもよい。この制御プログラムは、様々な種類の記憶媒体に格納することが可能であり、また、通信媒体を介して伝達されることが可能である。ここで、記憶媒体には、例えば、フレキシブルディスク、ハードディスク、磁気ディスク、光磁気ディスク、ＣＤ−ＲＯＭ、ＤＶＤ、ＲＯＭカートリッジ、バッテリバックアップ付きＲＡＭメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性ＲＡＭカートリッジ等が含まれる。また、通信媒体には、電話回線等の有線通信媒体、マイクロ波回線等の無線通信媒体等が含まれ、インターネットも含まれる。
【００２６】
本実施の形態にかかる画像処理装置１は、撮像素子を有するデジタルスチルカメラ等の電子機器に搭載することができる。図３は、撮像素子及び画像処理装置１を有する撮像装置の構成例を示すブロック図である。図３において、撮像部５０は、撮像素子５１及び信号処理部５２を含む。撮像素子５１は、ＣＣＤイメージセンサ又はＣＭＯＳイメージセンサ等である。信号処理部５２は、撮像素子５１によって得られたアナログ画像データをデジタル画像データに変換し、ホワイトバランスの調整、画素毎にＲＧＢ信号を得るための補間処理等を行って、ＲＧＢ画像データを出力する。なお、撮像部５０は、これらの他にも撮像素子５１の露光時間を制御する電子シャッタ機構、絞り制御機構、撮像信号の信号レベルを調整する利得制御機構等を備えている。
【００２７】
メモリ５３は、撮像部５０によって撮影された撮影画像Ｐ１〜Ｐｎを記憶する。画像処理装置１は、メモリ５３から撮影画像Ｐ１〜Ｐｎを読み出し、上述した画像ぶれ補正を実行する。
【００２８】
＜発明の実施の形態２＞
図４は、本実施の形態にかかる画像処理装置２の構成を示すブロック図である。画像処理装置２が有するフィルタ部２０は、撮影画像Ｐ１〜Ｐｎを合成するに先立って撮影画像Ｐ１〜Ｐｎに対するフィルタ処理を実行する。フィルタ部２０によるフィルタ処理は、合成部１０による補正画像ＣＰの反復生成と同様に繰り返し行われる。
【００２９】
画像ぶれ評価部２１は、上述した画像ぶれ評価部１１と同様に、合成部１０における画像合成の基準となる画像ぶれの評価結果を生成する。さらに、画像ぶれ評価部２１は、フィルタ部２０に適用されるフィルタ特性を決定する。フィルタ特性の決定は、反復的に生成される補正画像ＣＰのうち最新のものを基準として行われる。
【００３０】
図４の例では、画像ぶれ評価部２１は、フィルタ推定部２１０、ＰＳＦ推定部２１１、及び動きベクトル推定部２１２を含む。フィルタ推定部２１０は、参照画像選択部１２から供給される参照画像ＲＰに基づいて、撮影画像Ｐ１〜Ｐｎをフィルタリングするためのフィルタ関数（例えばウィナーフィルタなど）を推定する。このフィルタ関数の推定においては、ぼけの少ない画像を有力情報としてフィルタを推定する手法が知られている。この手法では、有力情報として使用する画像のぼけが少ないほど、フィルタ推定の精度が上がる。本実施の形態では、参照画像選択部１２が、最新の補正画像ＣＰを参照画像ＲＰに選択する。繰り返し生成される補正画像ＣＰは、撮影画像Ｐ１〜Ｐｎに比べて画像ぼけの少ない改良された画像であるため、最新の補正画像ＣＰに基づいてフィルタ関数を推定することによりフィルタ関数の推定精度を向上させることができる。
【００３１】
ＰＳＦ推定部２１１は、参照画像選択部１２から供給される参照画像ＲＰに基づいてＰＳＦを推定する。推定されたＰＳＦはフィルタ部２０に供給される。フィルタ部２０は、ＰＳＦの逆特性を有するフィルタ（ウィナーフィルタなど）によって撮影画像Ｐ１〜Ｐｎをフィルタリングし、撮影画像Ｐ１〜Ｐｎの劣化（画像ぼけ）を改善する。ＰＳＦの推定に関しても、ぼけの少ない画像を参照画像として用いてＰＳＦを推定する手法が知られている。本実施の形態では、最新の補正画像ＣＰを参照画像ＲＰに選択し、最新の補正画像ＣＰに基づいてＰＳＦを推定することによりＰＳＦの推定精度を向上させることができる。図４の例におけるフィルタ部２０は、フィルタ推定部２１０及びＰＳＦ推定部２１１により推定されたフィルタ関数およびＰＳＦを使用して、撮影画像Ｐ１〜Ｐｎに対するフィルタリングを行う。
【００３２】
動きベクトル推定部２１２は、参照画像ＲＰに対する撮影画像Ｐ１〜Ｐｎの各々の画像ぶれの方向及び大きさを示す動きベクトルを生成する。例えば、画像ぶれ評価部１１は、フィルタ部２０によるフィルタリング後の撮影画像Ｐ１〜Ｐｎの各々と参照画像ＲＰの間の相互相関度を計算し、相互相関度に基づいて動きベクトルを決定すればよい。フィルタリング後の撮影画像Ｐ１〜Ｐｎは、画像ぼけが改善されているため、撮影画像Ｐ１〜Ｐｎそのものを使用する場合に比べて、相互相関度の判定精度を向上させることができる。
【００３３】
合成部１０は、フィルタリング後の撮影画像Ｐ１〜Ｐｎを重ね合わせ合成することにより補正画像ＣＰを生成する。
【００３４】
以下では、フィルタ推定部２１０及びＰＳＦ推定部２１１に適用可能なフィルタ関数推定法およびＰＳＦ推定法の具体例の１つについてその概要を述べる。
f(x, y) を理想画像データ、g(x, y) を取得された画像データ（撮影画像）としたとき、画像ぶれ等により劣化した撮影画像g(x, y) と理想画像f(x, y) との関係は以下の（１）式によって表わすことができる。
2010161521.tif 000003
ここで、h(x, y, x', y') はＰＳＦであり、n(x, y) はランダムノイズである。
【００３５】
さらに、ＰＳＦが撮影画像内の位置に依存しないとみなした場合、（１）式を以下の（２）式のように変形できる。特に、手ぶれの場合等は、画像全体が同じ方向に移動している場合が一般的であり、画像内の位置への依存度が小さいと考えられる。
2010161521.tif 000004
【００３６】
（２）式を空間周波数領域で表現すると以下の（３）式が得られる。G(u, v)、F(u, v)、H(u, v)、N(u, v) はそれぞれg(x, y)、f(x, y)、h(x, y)、n(x, y) の空間周波数である。（３）式からF(u, v) を求めるためにフィルタリングを行うにあたり、例えば（４）式に示すウィナーフィルタを使用することができる。
2010161521.tif 000005
2010161521.tif 000006
ここで、H(u, v) はＰＳＦの空間周波数、H*(u, v)はＰＳＦの空間周波数の複素共役、Pn / Ps はノイズと信号のパワースペクトルの比である。（４）式のウィナーフィルタを使用する場合、参照画像ＲＰの情報をPs(u, v) に入力すればよい。なお、（４）式のウィナーフィルタは一例にすぎず、参照画像ＲＰの情報を使用する他のフィルタを用いてもよい。
【００３７】
また、H(u, v) の推定方法に関しても、いろいろな手法が考案されている。一例として、以下の（５）及び（６）式を用いた計算によりH(u, v) を推定する方法が考案されている。
2010161521.tif 000007
2010161521.tif 000008
ここでＫＧ及びＫＦ'はスケーリングパラメータと呼ばれる定数である。Ｓ｛｝は、スムージングフィルタと呼ばれるフィルタである。F ' (u, v) は、F(u, v) にできるだけ近い空間周波数を意味する。また、Lnは自然対数を取ることを意味する。本実施の形態において（５）及び（６）式を用いたH(u, v) の推定を行う場合、参照画像ＲＰの情報をF ' (u, v) に入力すればよい。なお、（５）及び（６）式を用いた推定方法に代えて、参照画像ＲＰの情報を使用する他のＰＳＦ推定法を用いてもよい。
【００３８】
続いて以下では、画像処理装置２による画像ぶれ補正の実行手順の具体例について図５のフローチャートを参照して説明する。図５のステップＳ２０１では、画像ぶれ評価部２１が、撮影画像Ｐ１〜Ｐｎに含まれる画像ぶれを評価する。具体的には、上述したように、参照画像ＲＰを基準として、フィルタ推定、ＰＳＦ推定、動きベクトル推定などを行えばよい。
【００３９】
ステップＳ２０２では、フィルタ部２０が、画像ぶれ評価部２１によって推定されたフィルタ関数およびＰＳＦを用いて撮影画像Ｐ１〜Ｐｎに対するフィルタ処理を行う。ステップＳ２０３では、合成部１０が、フィルタ処理後の撮影画像Ｐ１〜Ｐｎを合成し、補正画像ＣＰを生成する。
【００４０】
なお、図５示すステップＳ１０１およびＳ１０４〜Ｓ１０６にける処理内容は、先に説明した図２のフローチャートで説明したのと同様である。つまり、補正画像の生成回数が所定回数に到達するまで、フィルタ部２０および合成部１０は、最新の補正画像ＣＰによって参照画像ＲＰを更新しながら、撮影画像Ｐ１〜Ｐｎに対するフィルタ処理及び画像合成処理を繰り返し行い、補正画像ＣＰを徐々に改良していく。
【００４１】
上述したように、本実施の形態にかかる画像処理装置２は、撮影画像Ｐ１〜Ｐｎの各々の画像ぼけを改善するためのフィルタ処理を重ね合わせによる画像合成に先立って行う。画像ぼけが改善された撮影画像Ｐ１〜Ｐｎを重ね合わせることにより、補正画像ＣＰの補正をより効果的に行うことができる。
【００４２】
また、画像処理装置２は、重ね合わせ合成に必要な動きベクトルの評価を、画像ぼけが改善された撮影画像Ｐ１〜Ｐｎを用いて行う。このため、動きベクトルの推定精度を向上させることができる。
【００４３】
さらに、画像処理装置２は、フィルタ部２０によるフィルタ処理を繰り返し実行する際に、最新の補正画像ＣＰを参照画像ＲＰとしてフィルタ特性の決定を行う。上述したように、参照画像ＲＰの画像ぼけが少ないほどフィルタ関数及びＰＳＦの推定精度が向上する。このため、本実施の形態によれば、最新の補正画像ＣＰを基準としてフィルタ特性を更新しながらフィルタ処理を繰り返すことで、フィルタリングの精度を段階的に向上させることができる。
【００４４】
なお、画像処理装置２が行うフィルタ処理及び画像合成処理は、図５を用いて説明した処理手順を記述したプログラムをＡＳＩＣ、ＤＳＰ、マイクロプロセッサ等のコンピュータに実行させることによって実現してもよい。
【００４５】
さらに、本発明は上述した実施の形態のみに限定されるものではなく、既に述べた本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【符号の説明】
【００４６】
１、２  画像処理装置
１０  合成部
１１  画像ぶれ評価部
１２  参照画像選択部
１３  出力部
２０  フィルタ部
２１  画像ぶれ評価部
５０  撮像部
５１  撮像素子
５２  信号処理部
５３  メモリ
２１０  フィルタ推定部
２１１  ＰＳＦ推定部
２１２  動きベクトル推定部
【図１】
2010161521.tif 000009
【図２】
2010161521.tif 000010
【図３】
2010161521.tif 000011
【図４】
2010161521.tif 000012
【図５】
2010161521.tif 000013