(57)【要約】【課題】移動（手振れ）ベクトルの算出解像度を、１画素以下の精度で求める。【解決手段】第１画面画像から基準画像を切り出し、切出ブロックを所定複数画素数ｎづつずらしながら第２画面画像から比較画像を切り出し、各比較画像と基準画像との相関性を演算し第２画面画像の第１画面画像に対する移動ベクトルを求めるとき、第２画面画像を画素数ｎより少ない画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらした複数の第２画像（以下、第２―１画像，第２―２画像，…という。）を作成してメモリに格納し、比較画像を切り出すとき、第２―１画像，第２―２画像，…の各画像から複数の比較画像を切り出し、各比較画像と基準画像との相関性を求める。【選択図】図６
2008167216.tif 000002
【特許請求の範囲】
【請求項１】
第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める画面間の移動ベクトル算出方法において、前記比較画像を切り出す前記第２画像を前記所定画素数ｎより少ない所定画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらした複数の第２画像（以下、第２―１画像，第２―２画像，…という。）を作成してメモリに格納し、前記比較画像を前記比較画像切出ブロックで切り出すとき、同一比較画像切出ブロックにより前記第２―１画像，第２―２画像，…の各画像から複数の比較画像を切り出し、各比較画像と前記基準画像との相関性を求めることを特徴とする画面間の移動ベクトル算出方法。
【請求項２】
第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める画面間の移動ベクトル算出方法において、前記第１画像，第２画像を夫々同一複数領域の部分画像（以下、第１ａ画像，第１ｂ画像，…、第２ａ画像，第２ｂ画像，…という。）に分割すると共に、前記第２画像をメモリに格納するとき第２ａ画像，第２ｂ画像，…を夫々前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらしてメモリに格納し、前記第２ａ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ａ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求め、前記第２ｂ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ｂ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求め、以下同様にして前記複数領域数と同数の部分画像の移動ベクトルを求め、該複数領域数の移動ベクトルから前記第２画像の前記第１画像に対する画面間の移動ベクトルを求めることを特徴とする画面間の移動ベクトル算出方法。
【請求項３】
前記第１画像の部分画像である第１ａ画像，第１ｂ画像，…も夫々前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらしてメモリに格納し、各部分画像から基準画像を切り出すことを特徴とする請求項２に記載の画面間の移動ベクトル算出方法。
【請求項４】
前記部分画像の移動ベクトルの中から異常値を示す移動ベクトルを除外し、残りの部分画像の移動ベクトルを重み付き平均することで前記画面間の移動ベクトルを求めることを特徴とする請求項２または請求項３に記載の画面間の移動ベクトル算出方法。
【請求項５】
連続するフレーム画像として前記第１画像，第２画像が順に取り込まれ前記第１画像に対する前記第２画像の移動ベクトルが前記算出方法により算出された後の次フレームとして第３画像が取り込まれたとき、前記第２画像から基準画像を切り出し、前記第３画像から比較画像を切り出して前記算出方法と同一方法により前記第３画像の前記第２画像に対する画面間の移動ベクトルを算出することを特徴とする請求項１乃至請求項４のいずれかに記載の画面間の移動ベクトル算出方法。
【請求項６】
前記メモリには元画像を縦および／または横に縮小した画像として格納し、該縮小画像上で１画素づつずらして前記比較画像を切り出し、同一縮小倍率で縮小した第１画像から切り出された基準画像と該比較画像とを比較し相関性を求めることを特徴とする請求項１乃至請求項５のいずれかに記載の画面間の移動ベクトル算出方法。
【請求項７】
前記縮小画像は、縦横共に１／ｎに縮小することを特徴とする請求項６に記載の画面間の移動ベクトル算出方法。
【請求項８】
前記ｐは、ｐ＝２ｉ（ここで、ｉ＝１，２，…）であることを特徴とする請求項１乃至請求項７のいずれかに記載の画面間の移動ベクトル算出方法。
【請求項９】
第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める画面間の移動ベクトル算出装置において、前記比較画像を切り出す前記第２画像を前記所定画素数ｎより少ない所定画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらした複数の第２画像（以下、第２―１画像，第２―２画像，…という。）を格納するメモリと、前記比較画像を前記比較画像切出ブロックで切り出すとき同一比較画像切出ブロックにより前記第２―１画像，第２―２画像，…の各画像から複数の比較画像を切り出す切出回路と、各比較画像と前記基準画像との相関性を求める演算手段とを備えることを特徴とする画面間の移動ベクトル算出装置。
【請求項１０】
第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める画面間の移動ベクトル算出装置において、前記第１画像，第２画像を夫々同一複数領域の部分画像（以下、第１ａ画像，第１ｂ画像，…、第２ａ画像，第２ｂ画像，…という。）に分割すると共に前記第２画像をメモリに格納するとき第２ａ画像，第２ｂ画像，…を夫々前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらして格納するメモリと、前記第２ａ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ａ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求めると共に、前記第２ｂ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ｂ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求め、以下同様にして前記複数領域数と同数の部分画像の移動ベクトルを求める第１演算手段と、該複数領域数の移動ベクトルから前記第２画像の前記第１画像に対する画面間の移動ベクトルを求める第２演算手段とを備えることを特徴とする画面間の移動ベクトル算出装置。
【請求項１１】
前記第１画像の部分画像である第１ａ画像，第１ｂ画像，…を夫々前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらして格納するメモリを備え、各部分画像から基準画像を切り出すことを特徴とする請求項１０に記載の画面間の移動ベクトル算出装置。
【請求項１２】
前記第２演算手段は、前記部分画像の移動ベクトルの中から異常値を示す移動ベクトルを除外し、残りの部分画像の移動ベクトルを重み付き平均することで前記画面間の移動ベクトルを求めることを特徴とする請求項１０または請求項１１に記載の画面間の移動ベクトル算出装置。
【請求項１３】
連続するフレーム画像として前記第１画像，第２画像が順に取り込まれ前記第１画像に対する前記第２画像の移動ベクトルが算出された後の次フレームとして第３画像が取り込まれたとき、前記第２画像から基準画像を切り出し、前記第３画像から比較画像を切り出す切出回路スイッチ手段を備え、前記第３画像の前記第２画像に対する画面間の移動ベクトルを算出させることを特徴とする請求項９乃至請求項１２のいずれかに記載の画面間の移動ベクトル算出装置。
【請求項１４】
前記メモリに元画像を縦および／または横に縮小した画像として格納する画素間引手段を備え、該縮小画像上で１画素づつずらして前記比較画像を切り出し、同一縮小倍率で縮小した第１画像から切り出された基準画像と該比較画像とを比較し相関性を求めることを特徴とする請求項９乃至請求項１３のいずれかに記載の画面間の移動ベクトル算出装置。
【請求項１５】
前記縮小画像は、縦横共に１／ｎに縮小することを特徴とする請求項１４に記載の画面間の移動ベクトル算出装置。
【請求項１６】
前記ｐは、ｐ＝２ｉ（ここで、ｉ＝１，２，…）であることを特徴とする請求項９乃至請求項１５のいずれかに記載の画面間の移動ベクトル算出装置。
【請求項１７】
第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める計算処理をコンピュータに行わせる画面間の移動ベクトル算出プログラムにおいて、前記比較画像を切り出す前記第２画像を前記所定画素数ｎより少ない所定画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらした複数の第２画像（以下、第２―１画像，第２―２画像，…という。）を作成するステップと、前記比較画像を前記比較画像切出ブロックで切り出すとき同一比較画像切出ブロックにより前記第２―１画像，第２―２画像，…の各画像から複数の比較画像を切り出すステップと、各比較画像と前記基準画像との相関性を求めるステップとを備えることを特徴とする画面間の移動ベクトル算出プログラム。
【請求項１８】
第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める計算処理をコンピュータに行わせる画面間の移動ベクトル算出プログラムにおいて、
前記第１画像を複数領域に分割した部分画像（以下、第１ａ画像，第１ｂ画像，…という。）を生成するステップと、
前記第２画像を前記複数領域と同一複数領域に分割すると共に各分割領域毎に前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらした部分画像（以下、第２ａ画像，第２ｂ画像，…という。）を生成するステップと、
前記第２ａ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ａ画像から切り出された各基準画像との相関性から該部分画像の移動ベクトルを求め、前記第２ｂ画像から前記所定画素数ｎづつずらしながら切り出された各比較画像と前記第１ｂ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求め、以下同様にして前記複数領域数と同数の部分画像の移動ベクトルを求めるステップと、
該複数領域数の移動ベクトルから前記第２画像の前記第１画像に対する画面間の移動ベクトルを求めるステップ
とを備えることを特徴とする画面間の移動ベクトル算出プログラム。
【請求項１９】
前記第１画像の部分画像である第１ａ画像，第１ｂ画像，…も夫々前記所定画素数ｎより少ない異なる画素数づつずらした部分画像とし、各部分画像から基準画像を切り出すことを特徴とする請求項１８に記載の画面間の移動ベクトル算出プログラム。
【請求項２０】
前記部分画像の移動ベクトルの中から異常値を示す移動ベクトルを除外し、残りの部分画像の移動ベクトルを重み付き平均することで前記画面間の移動ベクトルを求めることを特徴とする請求項１８または請求項１９に記載の画面間の移動ベクトル算出プログラム。
【請求項２１】
連続するフレーム画像として前記第１画像，第２画像が順に取り込まれ前記第１画像に対する前記第２画像の移動ベクトルが算出された後の次フレームとして第３画像が取り込まれたとき、前記第２画像から基準画像を切り出し、前記第３画像から比較画像を切り出して前記第３画像の前記第２画像に対する画面間の移動ベクトルを算出することを特徴とする請求項１７乃至請求項２０のいずれかに記載の画面間の移動ベクトル算出プログラム。
【請求項２２】
前記基準画像を切り出す元画像と前記比較画像を切り出す元画像とが夫々縦および／または横に縮小された画像であり、縮小された元画像から切り出される前記比較画像が縮小画像上で１画素づつずらしながら切り出され同一縮小倍率で縮小された元画像から切り出された前記基準画像と比較され相関性が演算されることを特徴とする請求項１７乃至請求項２１のいずれかに記載の画面間の移動ベクトル算出プログラム。
【請求項２３】
前記縮小画像は、縦横共に１／ｎに縮小されることを特徴とする請求項２２に記載の画面間の移動ベクトル算出プログラム。
【請求項２４】
前記ｐは、ｐ＝２ｉ（ここで、ｉ＝１，２，…）であることを特徴とする請求項１７乃至請求項２３のいずれかに記載の画面間の移動ベクトル算出プログラム。
【請求項２５】
請求項１乃至請求項８のいずれかに記載の画面間の移動ベクトル算出方法により算出された手振れベクトルを用い、前記第１画像の出力後に前記第２画像を出力するとき該第２画像を手振れ補正することを特徴とする電子式手振れ補正方法。
【請求項２６】
請求項９乃至請求項１６のいずれかに記載の画面間の移動ベクトル算出装置により算出された画面間の移動ベクトルを用い、前記第１画像の出力後に前記第２画像を出力するとき該第２画像を手振れ補正して出力させる手段を備えることを特徴とする電子式手振れ補正装置。
【請求項２７】
請求項１７乃至請求項２４のいずれかに記載の画面間の移動ベクトル算出プログラムに、該移動ベクトル算出プログラムで算出した画面間の移動ベクトルを用い前記第１画像の出力後に前記第２画像を出力するとき該第２画像を手振れ補正して出力させるステップを加えたことを特徴とする電子式手振れ補正プログラム。
【請求項２８】
固体撮像素子と、該固体撮像素子による撮像画像データを画像処理して出力する画像処理出力手段と、前記撮像画像データを取り込み前記画像処理出力手段の出力データを補正する請求項２６に記載の電子式手振れ補正装置とを備えることを特徴とする撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画面間の移動ベクトル（以下、手振れベクトルともいう。）を検出する移動ベクトル検出方法及びその装置並びに移動ベクトル検出プログラムと、検出した移動ベクトルに基づき電子的に手振れ補正を行う電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと、この電子式手振れ補正装置を搭載した撮像装置に関する。
【背景技術】
【０００２】
例えば、動画撮影機能を有するデジタルスチルカメラやビデオカメラ等を手に持ち動画を撮影する場合、カメラを持つ手が振れると、あるフレームの画像中に映っている静止物画像の位置が次フレームの画面では移動してしまい、見づらい動画になってしまう。そこで、あるフレームの画像に対して次フレームの画像の手振れベクトルを検出し、画像が揺れない様に手ぶれ補正を行うことが行われている。
【０００３】
図８は、手振れ補正を行うときの手振れベクトルを検出する原理を示す説明図である。図８（ａ）に示すＮフレーム目の画像１中の所定アドレスで示されるブロック２内の画像を基準画像とすると、図８（ｂ）に示す（Ｎ＋１）フレーム目の画像３中の同一所定アドレスで示されるブロック４によって切り出された画像が基準画像と同一であれば、画像１に対して画像３は振れていないことになる。
【０００４】
しかし、手振れが発生していれば、ブロック２内の基準画像とブロック４で切り出された画像は一致しない。そこで、画像３中のブロック４を、４ａ，４ｂ，４ｃ，…と、Ｘ方向（水平方向），Ｙ方向（垂直方向）に１画素づつずらしながら、各ブロック４ａ，４ｂ，４ｃ，…内の夫々の画像を基準画像と比較し、基準画像と最も相関性が高い比較画像を切り出したブロック位置を求める。
【０００５】
図８（ｂ）に示す例で、ブロック２の基準画像に対し最も相関性の高い比較画像がブロック４ｃで切り出されたとすると、画像１に対する画像３の差は「ｋ」となる。このｋが２画面間の手振れベクトルであり、画像１を表示した次に、画像３を移動ベクトルｋだけ逆方向に移動させて表示すれば、手振れの無い画像を表示することができる。
【０００６】
しかし、図８で説明した方法は検出原理であり、検出できるのは、切出ブロック２で切り出された画像の移動ベクトルに過ぎない。つまり、切出ブロックで切り出された画像が移動物体（例えば動き回る小動物）の画像の場合には、検出された移動ベクトルはこの移動物体の移動ベクトルであり、画面間の移動ベクトルつまり手振れベクトルではない。
【０００７】
そこで、実際には、図９（ａ）に示す様に、１画面を複数画面（図示する例では４行４列の計１６個の画面♯１〜♯１６）に分割し、各分割画面毎に、図８で説明した原理で夫々図９（ｂ）に示す移動ベクトルｋ１〜ｋ１６を検出する。そして、この中から異常値を示すベクトル（図示する例ではｋ１１，ｋ１４）を除外し、残りの移動ベクトルの平均値を求め、この平均値を手振れベクトルとすることが行われる。
【０００８】
この様に、複数の分割画面毎に基準画像と比較画像の相関性を求める演算を行うのであるが、この演算は、基準画像と比較画像の１画素１画素を比較し各差分のブロック内総画素の総和の最小値を求めることで行うため、演算負荷が高く、演算に要する時間も長くなり、次フレームの表示までに移動ベクトル算出が間に合わなくなってしまう。そこで、ブロック４ａ，４ｂ，４ｃ，…を１画素づつずらすのではなく、例えば８画素づつずらし、演算処理の負荷軽減を図ると共に、演算時間の短縮を図るようにしている。
【０００９】
尚、手振れ補正に関連する従来技術として、下記特許文献１，２等がある。
【００１０】
【特許文献１】特開２００３―３３１２９２号公報
【特許文献２】特開２００４―１４６９９５号公報
【発明の開示】
【発明が解決しようとする課題】
【００１１】
２画面間の手振れベクトルを検出するために、基準画像と比較する比較画像の切り出しブロックを画面内で複数画素（例えば８画素）単位でずらせば、演算負荷の軽減と演算時間の短縮を図ることができる。
【００１２】
しかし、上記例の様に、切出ブロックの移動量を８画素単位にするということは、図１０に示すように、移動量の検出最小単位（解像度すなわち分解能）が、Ｘ方向，Ｙ方向ともに８画素単位に量子化されるということを意味し、量子化誤差が発生してしまう。つまり、移動量の解像度を８画素以下にできないため、２画面間の揺れを８画素以下に抑制することができず、高精度の手振れ補正ができないという問題が生じる。
【００１３】
本発明の目的は、比較画像の切出ブロックのずらし単位を複数画素単位としたときでも手振れベクトルの解像度を１画素単位またはそれ以下の単位にすることができ、高精度に画面間の移動ベクトルを検出することができる移動ベクトル算出方法及びその装置並びに移動ベクトル算出プログラムと、算出した移動ベクトルに基づき電子的に手振れ補正を行う電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと、この電子式手振れ補正装置を搭載した撮像装置を提供することにある。
【課題を解決するための手段】
【００１４】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムは、第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める場合に、前記比較画像を切り出す前記第２画像を前記所定画素数ｎより少ない所定画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらした複数の第２画像（以下、第２―１画像，第２―２画像，…という。）を作成してメモリに格納し、前記比較画像を前記比較画像切出ブロックで切り出すとき、同一比較画像切出ブロックにより前記第２―１画像，第２―２画像，…の各画像から複数の比較画像を切り出し、各比較画像と前記基準画像との相関性を求めることを特徴とする。
【００１５】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムは、第１画面の全体画像（以下、第１画像という。）から基準画像切出ブロックにより基準画像を切り出し、前記基準画像切出ブロックと同一大きさの比較画像切出ブロックを所定複数画素（以下、画素数ｎとする。）づつずらしながら第２画面の全体画像（以下、第２画像という。）から比較画像を切り出し、前記所定画素数ｎづつずらしながら切り出された各比較画像と前記基準画像との相関性を夫々演算し該相関性が最も高い比較画像を切り出した比較画像切出ブロックの位置と前記基準画像切出ブロックの位置とから前記第２画像の前記第１画像に対する移動ベクトルを求める場合に、前記第１画像，第２画像を夫々同一複数領域の部分画像（以下、第１ａ画像，第１ｂ画像，…、第２ａ画像，第２ｂ画像，…という。）に分割すると共に、前記第２画像をメモリに格納するとき第２ａ画像，第２ｂ画像，…を夫々前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらしてメモリに格納し、前記第２ａ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ａ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求め、前記第２ｂ画像から前記所定画素数ｎづつずらしながら切り出された比較画像と前記第１ｂ画像から切り出された基準画像との相関性から該部分画像の移動ベクトルを求め、以下同様にして前記複数領域数と同数の部分画像の移動ベクトルを求め、該複数領域数の移動ベクトルから前記第２画像の前記第１画像に対する画面間の移動ベクトルを求めることを特徴とする。
【００１６】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムは、前記第１画像の部分画像である第１ａ画像，第１ｂ画像，…も夫々前記所定画素数ｎより少ない異なる画素数〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらしてメモリに格納し、各部分画像から基準画像を切り出すことを特徴とする。
【００１７】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムは、前記部分画像の移動ベクトルの中から異常値を示す移動ベクトルを除外し、残りの部分画像の移動ベクトルを重み付き平均することで前記画面間の移動ベクトルを求めることを特徴とする。
【００１８】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムは、連続するフレーム画像として前記第１画像，第２画像が順に取り込まれ前記第１画像に対する前記第２画像の移動ベクトルが前記算出方法により算出された後の次フレームとして第３画像が取り込まれたとき、前記第２画像から基準画像を切り出し、前記第３画像から比較画像を切り出して前記算出方法と同一方法により前記第３画像の前記第２画像に対する画面間の移動ベクトルを算出することを特徴とする。
【００１９】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムでは、前記メモリには元画像を縦および／または横に縮小した画像として格納し、該縮小画像上で１画素づつずらして前記比較画像を切り出し、同一縮小倍率で縮小した第１画像から切り出された基準画像と該比較画像とを比較し相関性を求めることを特徴とする。
【００２０】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムでは、前記縮小画像は、縦横共に１／ｎに縮小することを特徴とする。
【００２１】
本発明の画面間の移動ベクトル算出方法及びその装置並びにプログラムでは、前記ｐは、ｐ＝２ｉ（ここで、ｉ＝１，２，…）であることを特徴とする。
【００２２】
本発明の電子式手振れ補正方法及びその装置並びにプログラムは、上記のいずれかに記載の画面間の移動ベクトル算出方法により算出された手振れベクトルを用い、前記第１画像の出力後に前記第２画像を出力するとき該第２画像を手振れ補正することを特徴とする。
【００２３】
本発明の撮像装置は、固体撮像素子と、該固体撮像素子による撮像画像データを画像処理して出力する画像処理出力手段と、前記撮像画像データを取り込み前記画像処理出力手段の出力データを補正する上記記載の電子式手振れ補正装置とを備えることを特徴とする。
【発明の効果】
【００２４】
本発明によれば、画素ずらしするとき〔ｍ＋１／ｐ〕（ここで、ｍ＝０，１，２，…であり、ｐ＝２，３，…である。）づつずらし、１／ｐが１画素より小さな値となるため、１画素以下の検出精度を得ることが可能となる。
【発明を実施するための最良の形態】
【００２５】
以下、本発明の一実施形態について、図面を参照して説明する。
【００２６】
先ず、本発明の実施形態で用いる画素ずらしの原理を説明する。図１は、画素ずらしによる手振れベクトル検出装置の機能ブロック図である。この手振れベクトル検出装置は、第１画面の画像を取り込み格納するメモリ１０と、該メモリ１０の格納データから所定アドレス位置の基準画像を切り出す基準画像切出回路１１と、第１画面と比較する第２画面の画像を取り込み−２画素ずらして格納するメモリ１２と、前記第２画面の画像を取り込み＋２画素ずらして格納するメモリ１３とを備える。
【００２７】
この装置は更に、メモリ１２の格納データから指定ブロック位置の比較画像Ａを切り出す切出回路１４と、メモリ１３の格納データから指定ブロック位置の比較画像Ｂを切り出す切出回路１５と、比較画像Ａと基準画像とを比較演算して両者の相関量を算出する比較演算回路１６と、比較画像Ｂと基準画像とを比較演算して両者の相関量を算出する比較演算回路１７と、比較演算回路１６，１７から出力される相関量を取り込み第１画面に対する第２画面の手振れベクトルを求める移動量演算回路１８とを備える。
【００２８】
斯かる手振れベクトル検出装置に第１画面の画像が入力されると、この画像データはメモリ１０に取り込まれ格納される。切出回路１１は、このメモリ１０内の画像データから、所定アドレスのブロックにより基準画像を切り出し、基準画像を比較演算回路１６，１７に出力する。
【００２９】
次に、第１画面と比較する第２画面の画像が入力されると、この画像データは２つのメモリ１２，１３に並列に格納される。メモリ１２には、入力画像を水平方向に−２画素ずらしながら格納され、メモリ１３には、入力画像を水平方向に＋２画素ずらしながら格納される。
【００３０】
切出回路１４は、メモリ１２の格納データを切り出して比較演算回路１６に出力し、切出回路１５は、メモリ１３の格納データを切り出して比較演算回路１７に出力する。両切出回路１５は、同一の指定切出位置（ブロック）から比較画像を切り出す。
【００３１】
切出回路１４は、図２に示す様に、切出ブロック２０によってメモリ１３の画像データを切り出すが、この画像データ自体が予め−２画素分だけＸ方向にずらされているため、実際に切り出される比較画像Ａは、元画像上では、指定ブロック２０の位置から＋２画素だけずれた画像となっている。同様に、切出回路１５によって切り出される比較画像Ｂは、元画像上では、指定ブロック２０の位置から−２画素だけずれた画像となっている。
【００３２】
比較演算回路１６は基準画像と比較画像Ａとの相関量を求め、比較演算回路１７は基準画像と比較画像Ｂとの相関量を求める。この両者の演算は、並列処理で行われる。切出回路１４，１５は、８画素単位に次々とずらされる指定ブロック位置の比較画像Ａ，Ｂを切り出し、比較演算回路１６，１７は夫々のブロック位置における相関量を算出し、移動量演算回路１８は、比較演算回路１６，１７から出力される多数の相関量算出結果を取り込み、第２画面の第１画面に対する手振れベクトルを求め出力する。
【００３３】
この例では、８画素単位で比較画像切出ブロック位置を移動させるが、実際には、４画素単位でずれた比較画像Ａ，Ｂを基準画像と比較するため、移動量の量子化は、図３に示す様に、４画素単位となる。つまり、４画素ずれた比較画像Ａと比較画像Ｂとが、８画素単位で移動される結果、求まる移動量の解像度は４画素になる。
【００３４】
尚、上述した説明では、説明を簡単にするため水平方向のみ−２画素，＋２画素ずらしたが、Ｙ方向の解像度も４画素に上げるには、垂直方向にも−２画素，＋２画素ずらせばよいことになる。
【００３５】
図４は、本発明の一実施形態に係る電子式手振れ補正処理装置を搭載したデジタルカメラの構成図である。このデジタルカメラでは、上述した画素ずらしを、図５に示す様に、水平方向に−０．５画素，＋０．５画素，−１．５画素，＋１．５画素づつずらすことで、水平方向の検出精度を０．５画素としている。また、同様に、垂直方向にも−０．５画素，＋０．５画素，−１．５画素，＋１．５画素づつずらし、垂直方向の検出精度も０．５画素にしている。
【００３６】
また、１画面を、図９（ａ）に示す様に、♯１〜♯１６の１６個の分割画面（部分領域）に分け、各分割画面毎に、移動ベクトルを算出し、この１６個の移動ベクトルから手振れベクトルを算出する構成になっている。
【００３７】
検出精度を０．５画素にするには、水平方向，垂直方向ともに−０．５画素，＋０．５画素，−１．５画素，＋１．５画素づつずらした画像をメモリに格納する必要があり、基準画像に対して、夫々画素ずらしした比較画像を比較演算することで検出精度が０．５画素の移動ベクトルの算出が可能となる。しかし、斯かる方法を、１６個の分割画面♯１〜♯１６に夫々適用しても良いが、演算時間が長くなるため、次の様に図６（ａ），図６（ｂ）に示す方法を採用する。
【００３８】
図６（ａ）はＮフレーム目の画像を示し、図６（ｂ）は、Ｎ＋１フレーム目の画像を示す。両方とも、図１０と同様に４×４＝１６の分割画面♯１〜♯１６に分けられている。
【００３９】
画像データは、水平走査されながら入力されてくるため、先ず、第１行（図１０参照）の４つの分割画面♯１〜♯４の画像データがメモリ内に格納される。このとき、Ｎフレーム目の画像の場合、図６（ａ）に示す様に、第１行の分割画面♯１〜♯４の入力画像データをＸ方向に−０．５画素ずらしながらメモリに格納する。
【００４０】
次の第２行の分割画面♯５〜♯８の入力画像データは、Ｘ方向に＋１．５画素ずらしながらメモリに格納し、第３行の分割画面♯９〜♯１２の入力画像データは、Ｘ方向に−１．５画素ずらしながらメモリに格納し、第４行の分割画面♯１３〜♯１６の入力画像データは、Ｘ方向に＋０．５画素ずらしながらメモリに格納する。
【００４１】
−０．５画素ずらすということは、水平方向に−０．５画素ずれた位置の画素データを求めこれをメモリに格納することを意味する。−０．５画素ずれた位置の画素データは、元画像上の当該位置の画素データと水平方向に−１画素ずれた位置の画素データとの単純加算平均により求めることができる。＋０．５画素ずれた位置の画素データは、元画像上の当該位置の画素データと水平方向に＋１画素ずれた位置の画像データの単純加算平均により求めることができる。
【００４２】
同様に、−１．５画素ずれた位置の画素データは、−１画素ずれた位置の画素データと−２画素ずれた位置の画素データとの単純加算平均により求めることができ、＋１．５画素ずれた位置の画素データは、＋１画素ずれた位置の画素データと＋２画素ずれた位置の画素データとの単純加算平均により求めることができる。
【００４３】
通常は、ある位置の画素データを周りの画素データで補間演算で求める場合、当該位置の垂直方向に隣接する２つの画素データ及び水平方向に隣接する２つの画素データの計４つの画素データの平均値として求める。しかし、本実施形態では、水平方向に画素ずらしを行う場合の画素データ補間演算は、水平方向に隣接する２つの画素データの加算平均で求めるだけでよく、演算処理の高速化を図ることができる。
【００４４】
次に入力されるＮ＋１フレーム目の画像データをメモリに格納する場合は、図６（ｂ）に示す様にする。即ち、第１行第１列の分割画面♯１の入力画像データは、Ｙ方向に−０．５画素ずらしながらメモリに格納し、第１行第２列の分割画面♯２の入力画像データは、Ｙ方向に＋１．５画素ずらしながらメモリに格納し、第１行第３列の分割画面♯３の入力画像データは、Ｙ方向に−１．５画素ずらしながらメモリに格納し、第１行第４列の分割画面♯４の入力画像データは、Ｙ方向に＋０．５画素ずらしながらメモリに格納する。
【００４５】
以下、同様に、第２行，第３行，第４行の各部分領域の画像データをメモリに格納する。これにより、第１列，第２列，第３列，第４列の各部分領域の画像データは、Ｙ方向に−０．５，＋１．５，−１．５，＋０．５画素づつずれた画像となる。
【００４６】
垂直方向に０．５画素単位で画素ずらしした画素データは、水平方向と同様に、画素ずらし位置に対し垂直方向に隣接する２つの画素データの単純加算平均で算出する。
【００４７】
そして、図６（ａ）に示す画像を基準画像とする場合には、例えば図６（ａ）の♯１分割画面の中央ブロック（点線で示したブロック）から基準画像を切り出し、これと比較する図６（ｂ）の♯１分割画面の中央に示した切出ブロック（点線で示したブロック）から比較画像を切り出し、比較演算を行う。この比較演算の次に、比較画像切出用の切出ブロックを水平方向または垂直方向に複数画素、この例では４画素ずらし、同様に基準画像との比較演算を行い、更に切出ブロックを４画素ずらして比較演算を行うという処理を繰り返し、基準画像と相関性の最も高い切出ブロック位置を求め、♯１分割画面における移動ベクトルを求める。
【００４８】
♯２分割画面においても上記と同様にして比較演算を行いながら、♯２分割画面における移動ベクトルを求め、以下同様にして、１６個の分割画面毎の移動ベクトルを求める。そして、１６個の移動ベクトルを求めた後に、画面全体の手振れベクトルを算出する。
【００４９】
この様にして算出される分割画面毎の移動ベクトルは、４画素単位の分解能（解像度）しかないが、分割画面毎に比較する画像が少しずつずれているため、１６個の分割画面毎に求まる移動ベクトルを平均して画面間の手振れベクトルを求めると、この画面間の手振れベクトルの検出精度は元画像上での０．５画素単位となる。
【００５０】
Ｎフレーム目の画像に対してＮ＋１フレーム目の画像の手振れベクトルが算出された後は、次に、Ｎ＋１フレーム目の画像に対するＮ＋２フレーム目の画像の手振れベクトルを同様に算出する。この場合には、図６（ｂ）に示す画像が基準画像切出用の画像となり、図６（ａ）に示す画像が比較画像切出用の画像となる。
【００５１】
上述した原理に基づき構成された本実施形態に係る２画面間の手振れベクトル検出装置は、図４に示す動画撮影機能を搭載したデジタルスチルカメラの電子式手振れ補正処理装置５０内に設けられる。この電子式手振れ補正処理装置５０は、デジタルカメラに通常搭載されているシステム制御部（ＣＰＵ）が、電子式手振れ補正プログラムを実行することで、配下のデジタル信号処理装置（ＤＳＰ）やフレームメモリ等により構成される。
【００５２】
図４に示すデジタルスチルカメラは、固体撮像素子３０と、固体撮像素子３０により撮像された画像データのうち偶数フレーム画像と奇数フレーム画像を交互に書き換えながら格納する２面のフレームメモリ３１，３２と、フレームメモリ３１，３２内の格納画像データを画像処理し例えばＪＰＥＧ画像等にして出力する画像処理出力部３３と、画像処理出力部３３から出力される画像データを表示する表示部３４やこの画像データを蓄積する図示しない記録メディアを備える。
【００５３】
このデジタルスチルカメラに搭載される電子式手振れ補正処理装置５０は、フレームメモリ３１，３２に格納される入力画像データを並行して取り込み、Ｎフレーム画像に対する（Ｎ＋１）フレーム画像の画面間の手振れベクトルを算出し、算出した画面間の手振れベクトルを画像処理出力部３３に出力する様になっている。
【００５４】
この手振れ補正処理装置５０は、奇数フレームの画像データを取り込みＸ方向の画素ズラシ（上述した−０．５，＋１．５，−１．５，＋０．５の画素ズラシ）を行う画素ずらし回路３５と、画素ずらし回路３５の出力画像データをＸ方向，Ｙ方向共に１／４に縮小（４×４＝１６画素を１画素に縮小）する画素間引回路３６と、画素間引きされた奇数フレームの画像データを格納するメモリ３７とを備える。
【００５５】
また、この手振れ補正処理装置５０は、偶数フレームの画像データを取り込みＹ方向の画素ズラシ（上述した−０．５，＋１．５，−１．５，＋０．５の画素ズラシ）を行う画素ずらし回路３８と、画素ずらし回路３８の出力画像データをＸ方向，Ｙ方向共に１／４に縮小（４×４＝１６画素を１画素に縮小）する画素間引回路３９と、画素間引きされた偶数フレームの画像データを格納するメモリ４０とを備える。
【００５６】
本実施形態では、画素間引回路３６，３９を設け、Ｘ方向，Ｙ方向を夫々１／４に間引きしている。切出ブロックを元画像で４画素単位に移動させることは、縮小画像で１画素づつ移動させることに相当する。また、比較画像，基準画像共に縮小された画像を用いるため、１画素毎に行う比較演算処理の負荷が軽減されると共に処理時間の短縮が図れ、また、メモリ３７，３９の容量削減を図ることができる。尚、縦横共に同一倍率で縮小する必要はなく、また、縦だけまたは横だけ縮小するだけでも良い。
【００５７】
更にこの手振れ補正処理装置５０は、所定アドレスのブロックによって基準画像を切り出す基準画像切出回路４１と、切出ブロックによって比較画像を切り出す比較画像切出回路４２と、メモリ３７，４０と切出回路４１，４２との接続をフレーム切替信号によって切り替えるスイッチ回路４３と、切出回路４１，４２の出力画像データを取り込み基準画像と比較画像との比較演算処理を行い分割画面毎の移動ベクトルを算出する比較演算器４４と、各分割画面毎の移動ベクトルから画面間の手振れベクトルを算出し画像出力部３３に出力する手振れベクトル演算器４５とを備える。比較演算器４４は、比較画像切出回路４２に対して切出ブロックの切出位置移動指令を出力すると共に、各切出回路４１，４２に対して対象とする分割画面のアドレスを指示する。
【００５８】
斯かる構成の電子式手振れ補正処理装置５０では、Ｎフレーム目の画像が入力してくると、図６（ａ）に示す様に、第１行の４つの分割画面♯１〜♯４の画像データに対しては画素ずらし回路３５がＸ方向に−０．５画素分だけ画素ズラシを行い、画素間引回路３６が画像縮小を行い、メモリ３７に縮小画像が格納される。同様に、第２行の４つの分割画面♯５〜♯８の画像データに対しては、画素ずらし回路３５がＸ方向に＋１．５画素分だけ画素ずらしを行い、画素間引回路３６が画像縮小を行い、メモリ３７に縮小画像が格納される。以下、同様にして、Ｎフレーム目の、画素ズラシ及び画素間引きされた縮小画像データがメモリ３７に格納される。
【００５９】
Ｎ＋１フレーム目の画像が入力してくると、図６（ｂ）で説明した様に、今度はＹ方向に画素ズラシされ更に画素間引きされた縮小画像データがメモリ４０に格納される。図６（ｂ）の第１行の４つの分割画面♯１〜♯４の縮小画像がメモリ４０に格納されると、この４つの分割画面♯１〜♯４における移動ベクトル算出の比較演算処理が実行可能となるため、第２行以下の分割画面の縮小画像のメモリ４０への格納と並行して、４つの分割画面の移動ベクトル算出処理が同時並列的に実行される。
【００６０】
即ち、基準画像切出回路４１がメモリ３７内の４つの分割画面から夫々の基準画像を切り出して比較演算器４４に出力すると共に、比較画像切出回路４２がメモリ４０内の４つの分割画面から比較画像を切り出して比較演算器４４に出力し、比較演算器４４は、４つの分割画面毎に、基準画像と比較画像との相関量を算出する。１つの比較画像との比較演算が終了すると、縮小画像で１画素ずれた比較画像を比較画像切出回路４２に切出要求する。
【００６１】
各分割画面毎に、相関量の最も高い切出ブロック位置が求まると、夫々の分割画面における基準画像切出ブロックとの位置の差がその分割画面における移動ベクトルとなり、これが手振れベクトル演算器４５に出力される。
【００６２】
第１行の４つ分割画面♯１〜♯４の各移動ベクトルが求まると、次に第２行の４つ分割画面♯５〜♯８の各移動ベクトルを並列処理で求め、更に第３行，第４行と同様に進めると、手振れベクトル演算器４５には、１６個の分割画面移動ベクトルが入力される。
【００６３】
手振れベクトル演算器４５は、この１６個の移動ベクトルを後述するように処理して画面間の手振れベクトルを算出し、この画面間の手振れベクトルを画像処理出力部３３に出力する。
【００６４】
画像処理出力部３３は、例えば奇数フレームの画像をフレームメモリ３２から読み出して表示部３４に表示した後、偶数フレームの画像をフレームメモリ３１から読み出して表示部３４に表示するとき、画面間の手振れベクトルを用いて偶数フレームの画像をずらした後、表示部３４に表示する。
【００６５】
偶数フレームの画像をずらして表示部３４に表示するとき、次の奇数フレームの画像データが入力され、奇数フレームメモリ３１が書き換えられる。これと同時に奇数フレームの画像がＸ方向画素ずらし回路３５，画素間引回路３６と通って新たな縮小画像がメモリ３７に書き込まれる。また、このとき、スイッチ回路４３にフレーム切替信号が入力するため、メモリ４０が基準画像切出回路４１に接続替えされ、メモリ３７が比較画像切出回路４２に接続替えされる。
【００６６】
以後、メモリ４０内の画像が基準画像となり、メモリ３７内の画像が比較画像として切り出され、次フレーム画像の画面間の手振れベクトルが算出され、画像処理出力部３３は、次フレームの画像をこの手振れベクトルによってずらし、表示部３４に表示する。この様な制御を行うことで、表示部３４の画面に表示される動画は、手振れが抑制された画像となる。
【００６７】
図７は、１６個の分割画面毎の移動ベクトルから画面間の移動ベクトル（手振れベクトル）を算出する原理説明図である。基準画像（元画像）に対して比較画像（元画像）を１画素単位にずらして相関量を求め、分割画面毎の移動ベクトルを求めた場合、各移動ベクトル間に誤差が生じていると、それは１画素単位のバラバラな誤差となる。これを図に例示すると、図７（ａ）に示す様になる（移動ベクトルの先端を点で示す。）。
【００６８】
これに対し、基準画像（１／４の縮小画像）に対して比較画像（１／４の縮小画像）を縮小画像の１画素単位にずらして相関量を求め、分割画面毎の移動ベクトルを求めた場合、各移動ベクトル間に誤差が生じていると、それは元画像では４画素単位のバラバラな誤差となる。つまり、図７（ｂ）に示す４つの座標点（Ｘ，Ｙ）、（Ｘ＋４，Ｙ）、（Ｘ，Ｙ＋４）、（Ｘ＋４，Ｙ＋４）のいずれかにばらける。
【００６９】
ここで、ある分割画面内で動物が動いていたとき、この分割画面の移動ベクトルは、この４つの座標点から大きく外れた座標点Ｃを示すことになる。画面間の手振れベクトルを算出する場合、このような異常値を示す移動ベクトルは除外する。そこで、残りの分割画面の移動ベクトルを用いて画面間の移動ベクトルを算出する。
【００７０】
画面中の画像に動きが無い場合には、移動ベクトルは画面間の移動ベクトルだけとなり、各分割画面毎の移動ベクトルは同一となるはずであるが、本実施形態では、各部分領域で比較演算する基準画像，比較画像を元画像上で±０．５，±１．５と画素ずらししているため、分割画面の移動ベクトルは、真の移動ベクトル位置Ｄ点の周りの４つの座標点にばらける。
【００７１】
手振れベクトル演算回路４５は、１６個の移動ベクトルを解析して上記の４座標点に集約している移動ベクトルだけを取り出し（４座標点以外の座標点にばらける移動ベクトルＣは異常ベクトルとして除外する）、各座標点の移動ベクトル数で重み付けした移動ベクトルの平均値を求め、これを画面間の移動ベクトルとして算出する。この様にして算出された画面間の手振れベクトルは、画素ずらし量が±０．５画素，±１．５画素であるため、図７（ｂ）にＤ点として示す真の移動ベクトルに対して、０．５画素の検出精度を持つことになる。
【００７２】
以上述べた様に、上述した実施形態によれば、基準画像に対して１画素以下の単位で画素ずらしした比較画像を用いてパターンマッチング処理で２画面間の手振れベクトルを算出するため、１画素以下の精度で手振れベクトルを算出することが可能となる。このため、パターンマッチング処理を高速化するために縮小画像を生成し縮小画像を用いてパターンマッチング処理する場合でも、縮小しない画像を用いたパターンマッチング処理と同じ精度で手振れベクトルを算出することが可能となる。
【００７３】
尚、上述した実施形態では、デジタルカメラ内部での処理として説明したが、固体撮像素子３０から出力される画像データを全て記録しておき、これを外部のパーソナルコンピュータ等に取り込み、パーソナルコンピュータが手振れベクトル検出プログラムや電子式手振れ補正プログラムを実行することでも同様に処理が可能であることはいうまでもない。
【００７４】
更に、上述した実施形態では、検出精度を０．５画素にしたが、画素ずらしを、±０．２５画素単位で行ったり、±０．１２５画素単位で行うことで、更に手振れベクトルの検出精度を向上させることが可能となる。この場合、画素ずらしした位置の画素データは、次の様に重み付け加算平均で求める。
【００７５】
＋１画素位置の画素データと＋２画素位置の画素データの単純加算平均値は＋１．５画素位置の画素データとなるが、例えば＋１画素位置の画素データを重みとして３倍し、この３倍した画素データと、＋２画素位置の画素データとの加算平均を求めれば、それは＋１．２５画素位置の画素データになる。
【００７６】
上述した実施形態では、動画を例に説明したが、あるフレームの画像と、次フレームの画像とを合成して静止画像を生成する場合にも、上記実施形態を適用可能である。例えば、低感度撮影と高感度撮影を連続して行い、両フレームの画像を合成することでダイナミックレンジの広い静止画像を撮像することがあるが、この場合にも上述した実施形態を適用して両フレームの画像がずれないように合成することができる。
【００７７】
尚、分割画面毎に算出した移動ベクトルから異常ベクトルを除外した残りの移動ベクトルを加算平均して手振れベクトルを求める例を実施形態で説明したが、分割画面毎に算出した移動ベクトルから手振れベクトルを算出する方法はこれに限るものではない。
【産業上の利用可能性】
【００７８】
本発明に係る手振れベクトル算出方法等は精度の高い手振れベクトルを短時間に算出できるため、動画撮影機能をもったデジタルカメラや、２枚の画像を合成して１枚の画像を生成するデジタルカメラ等に適用したり、デジタルカメラ等で撮影した画像をコンピュータで高速処理するのに有用である。
【図面の簡単な説明】
【００７９】
【図１】本発明の検出原理の一例を説明する画素ずらしによる手振れベクトル算出装置の構成図である。
【図２】画素ずらしの説明図である。
【図３】画素ずらしを行うことになる解像度アップの説明図である。
【図４】本発明の一実施形態に係る手振れベクトル算出方法を用いて電子式手振れ補正を行うデジタルカメラのブロック構成図である。
【図５】図４に示すデジタルカメラで行う画素ずらしの説明図である。
【図６】本発明の一実施形態で１画面を４行４列の１６個の画面に分割したときの画素ずらしの説明図である。
【図７】本発明の一実施形態で算出した分割画面毎の移動ベクトルから手振れベクトルを算出する原理説明図である。
【図８】手振れベクトルの検出原理説明図である。
【図９】手振れベクトルの検出原理説明図である。
【図１０】比較画像切出ブロックの移動量を複数画素単位で行ったときの量子化誤差の説明図である。
【符号の説明】
【００８０】
３０  固体撮像素子
３１，３２  フレームメモリ
３３  画像処理出力部
３４  表示部
３５，３８  画素ずらし回路
３６，３９  間引き回路
４３  切替スイッチ
４１  基準画像切出回路
４２  比較画像切出回路
４４  比較演算器
４５  重み付け演算器
５０  電子式手振れ補正処理装置
【図１】
2008167216.tif 000003
【図２】
2008167216.tif 000004
【図３】
2008167216.tif 000005
【図４】
2008167216.tif 000006
【図５】
2008167216.tif 000007
【図６】
2008167216.tif 000008
【図７】
2008167216.tif 000009
【図８】
2008167216.tif 000010
【図９】
2008167216.tif 000011
【図１０】
2008167216.tif 000012