(57)【特許請求の範囲】
【請求項１】
撮像手段による歪曲像の撮像により生成された入力画像に対して像振れ補正を行う画像処理装置であって、
前記入力画像としての連続した複数の画像間で動きベクトルを検出し、該動きベクトルから第１の動き量を取得する第１の動き量取得手段と、
前記撮像における前記撮像手段の動きを検出する動き検出手段の出力から第２の動き量を取得する第２の動き量取得手段と、
前記第１の動き量と前記第２の動き量とを所定比率で使用して第３の動き量を取得し、該第３の動き量を用いて前記像振れ補正のための補正量を取得する補正量取得手段とを有し、
前記補正量取得手段は、前記入力画像における像高、前記撮像における前記撮像手段の動き量および前記撮像における被写体距離のうち少なくとも１つに応じて前記所定比率を変更することを特徴とする画像処理装置。
【請求項２】
前記撮像手段の射影方式が像高が高いほど前記歪曲像の歪曲率が高くなる方式である場合において、前記補正量取得手段は、前記像高が高いほど前記所定比率における前記第１の動き量の比率を低くして前記第２の動き量の比率を高くすることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記撮像手段の射影方式が像高が低いほど前記歪曲像の歪曲率が高くなる方式である場合において、前記補正量取得手段は、前記像高が低いほど前記所定比率における前記第１の動き量の比率を低くして前記第２の動き量の比率を高くすることを特徴とする請求項１に記載の画像処理装置。
【請求項４】
前記補正量取得手段は、前記動き量が大きいほど前記所定比率における前記第１の動き量の比率を低くして前記第２の動き量の比率を高くすることを特徴とする請求項１に記載の画像処理装置。
【請求項５】
前記補正量取得手段は、前記被写体距離が遠いほど前記所定比率における前記第１の動き量の比率を低くして前記第２の動き量の比率を高くすることを特徴とする請求項１に記載の画像処理装置。
【請求項６】
前記像振れ補正量取得手段は、前記像振れ補正量が所定値より小さくなるように、前記第３の動き量の増加に対する前記像振れ補正量の増加を制限することを特徴とする請求項１から５のいずれか一項に記載の画像処理装置。
【請求項７】
前記像振れ補正がなされた前記入力画像のうち指定された像高の部分画像を歪曲補正して切り出す画像生成手段を有することを特徴とする請求項１から６のいずれか一項に記載の画像処理装置。
【請求項８】
請求項１から７のいずれか一項に記載の画像処理装置と、
前記撮像手段とを有することを特徴とする撮像装置。
【請求項９】
撮像手段による歪曲像の撮像により生成された入力画像に対して像振れ補正を行う画像処理をコンピュータに実行させるコンピュータプログラムであって、
前記画像処理は、
前記入力画像としての連続した複数の画像間で動きベクトルを検出し、該動きベクトルから第１の動き量を取得する処理と、
前記撮像における前記撮像手段の動きを検出する動き検出手段の出力から第２の動き量を取得する処理と、
前記第１の動き量と前記第２の動き量とを所定比率で使用して第３の動き量を取得し、該第３の動き量を用いて前記像振れ補正のための補正量を取得する補正量取得処理とを含み、
前記補正量取得処理において、前記入力画像における像高、前記撮像における前記撮像手段の動き量および前記撮像における被写体距離のうち少なくとも１つに応じて前記所定比率を変更することを特徴とする画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、光学系を通した撮像により生成された画像に対する像振れ補正を行う画像処理技術に関する。
【背景技術】
【０００２】
撮像により画像を生成する際に、連続した複数の画像（フレーム）から検出した動きベクトルやジャイロセンサ等の動きセンサからの出力を用いて像振れを補正するための画像処理を行うカメラが従来提案されている。特許文献１には、魚眼光学系を用いた撮像において動きベクトルを用いて像振れ量を検出するカメラが開示されている。この特許文献１のカメラでは、像高によって被写体像の歪曲率が異なることを考慮し、像高に応じて魚眼画像のうち動きベクトルを検出する領域（切り出し領域）を変更する。以下の説明において、被写体像の歪曲率が高いことを、該被写体像を撮像して生成された画像の圧縮率が高いという。また、特許文献２には、魚眼光学系を用いた撮像により生成された魚眼画像間の像振れ量を検出し、該像振れ量が所定値以下のときに画素ずらし（シフト）を行うカメラが開示されている。この特許文献２のカメラは、該カメラの所定量以上の回転運動を検出したときにのみ動きセンサにより検出された動き量に応じて切り出し領域を変更する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−２９５６２６号公報
【特許文献２】特開平８−３０７７５３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１にて開示されたカメラでは、動きベクトルのみを用いて像振れ補正を行うので、画像の圧縮率が高い高像高領域で動きベクトルを検出すると、動きベクトルの検出精度が低くなり、結果として像振れ補正精度が低下してしまう。また、特許文献２にて開示されたカメラでは、画像から取得したシフト量と動きセンサにより検出された動き量の両方を用いて像振れ補正を行うが、シフト量と動き量のそれぞれの特性を考慮して組み合わせた像振れ補正までは行われない。
【０００５】
本発明は、歪曲像の撮像により生成された画像に対して、動きベクトルの検出結果と動きセンサによる動きの検出結果とを併せ用いて像振れ補正を行う場合に、より高精度な像振れ補正を行うことが可能な画像処理装置等を提供する。
【課題を解決するための手段】
【０００６】
本発明の一側面としての画像処理装置は、撮像手段による歪曲像の撮像により生成された入力画像に対して像振れ補正を行う画像処理装置であって、前記入力画像としての連続した複数の画像間で動きベクトルを検出し、該動きベクトルから第１の動き量を取得する第１の動き量取得手段と、前記撮像における前記撮像手段の動きを検出する動き検出手段の出力から第２の動き量を取得する第２の動き量取得手段と、前記第１の動き量と前記第２の動き量とを所定比率で使用して第３の動き量を取得し、該第３の動き量を用いて前記像振れ補正のための補正量を取得する補正量取得手段とを有し、前記補正量取得手段は、前記入力画像における像高、前記撮像における前記撮像手段の動き量および前記撮像における被写体距離のうち少なくとも１つに応じて前記所定比率を変更することを特徴とする。
【０００７】
なお、上記画像処理装置と撮像手段とを有する撮像装置も、本発明の他の一側面を構成する。
【０００８】
また、本発明の他の一側面としての画像処理プログラムは、撮像手段による歪曲像の撮像により生成された入力画像に対して像振れ補正を行う画像処理をコンピュータに実行させるコンピュータプログラムであって、前記画像処理は、前記入力画像としての連続した複数の画像間で動きベクトルを検出し、該動きベクトルから第１の動き量を取得する処理と、前記撮像における前記撮像手段の動きを検出する動き検出手段の出力から第２の動き量を取得する処理と、前記第１の動き量と前記第２の動き量とを所定比率で使用して第３の動き量を取得し、該第３の動き量を用いて前記像振れ補正のための補正量を取得する補正量取得処理とを含み、前記補正量取得処理において、前記入力画像における像高、前記撮像における前記撮像手段の動き量および前記撮像における被写体距離のうち少なくとも１つに応じて前記所定比率を変更することを特徴とする。
【発明の効果】
【０００９】
本発明によれば、歪曲像の撮像により生成された画像に対して、動きベクトルの検出結果と動きセンサによる動きの検出結果とを併せ用いて像振れ補正を行う場合に、より高精度な像振れ補正を行うことができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施例１である画像処理装置の構成を示すブロック図。
【図２】実施例１における画像処理を示すフローチャート。
【図３】実施例１における第１および第２の動き量の検出比率を算出する処理を示すフローチャート。
【図４】実施例１における苦手条件ごとの検出比率を説明する図。
【図５】本発明の実施例２における検出比率を算出する処理を示すフローチャート。
【図６】実施例１における動きベクトルの検出方法を説明する図。
【図７】実施例１における像振れ補正量の制限を説明する図。
【図８】実施例１においてジャイロセンサによる動き量検出と動きベクトルによる動き検出が苦手とする条件を示す図。
【発明を実施するための形態】
【００１１】
以下、本発明の実施例について図面を参照しながら説明する。
【実施例１】
【００１２】
図１には、本発明の実施例１である画像処理装置１００を含む撮像装置の構成を示している。撮像光学系Ｌは、不図示の被写体からの光束を結像させて被写体像を形成する。本実施例における撮像光学系Ｌは、魚眼光学系（例えば全周魚眼光学系）であり、被写体の歪曲像である魚眼被写体像を形成する。撮像素子１１０は、ＣＣＤセンサやＣＭＯＳセンサ等の光電変換素子により構成され、被写体像を電気信号（アナログ信号）に変換する。撮像光学系Ｌおよび撮像素子１１０により撮像手段が構成される。
【００１３】
Ａ／Ｄ変換器１２０は、撮像素子１１０から出力されたアナログ信号をデジタル信号としての撮像信号に変換して画像処理装置１００に入力する。画像処理装置１００において、制御部１０８は、画像信号処理部１１０、記憶部１１２、動き検出部１１４、振れ情報取得部１１６、像振れ補正量算出部１１８、像振れ補正部１２０および画像切り出し部１２２の動作とこれらにおけるデータの流れとを制御する。画像信号処理部１１０は、Ａ／Ｄ変換器１２０から入力された撮像信号に対して、同時化処理、ホワイトバランス処理、γ処理およびノイズリダクション処理等の画像信号処理を行って画像データ、すなわち入力画像としての撮像画像を生成する。本実施例にいう撮像画像は、魚眼光学系である撮像光学系Ｌを通した撮像により生成された魚眼画像（例えば、全周魚眼画像）である。また、本実施例にいう撮像画像は、動画を構成する連続した複数のフレーム画像や連続撮像により生成された複数の静止画像を含む。記憶部１１２は、画像信号処理部１１０にて生成された撮像画像を記憶（保持）したり、像振れ補正部１２０にて像振れ補正がなされた画像（以下、像振れ補正画像という）を記憶したりする。
【００１４】
動き検出部（第１の動き量取得手段）１１４は、記憶部１１２に記憶された撮像画像を用いて、画像処理装置１００を含む撮像装置の動き量を検出する。
【００１５】
振れ情報取得部（第２の動き量取得手段）１１６は、撮像装置の振れ（動き）を検出する振れセンサ（動き検出手段）を含み、該振れセンサからの信号を用いて撮像装置の振れ量（動き量）の情報を取得する。本実施例の振れ情報取得部１１６は、ジャイロセンサを用いる。
【００１６】
像振れ補正量算出部（補正量取得手段）１１８は、後述するように動き検出部１１４にて検出された動き量と振れ情報取得部１１６にて取得された振れ量とを用いて像振れ補正量を決定する。
【００１７】
像振れ補正部（補正手段）１２０は、像振れ補正量算出部１１８で決定された像振れ補正量を用いて撮像画像に対する像振れ補正を行う。以下では、この像振れ補正がなされた撮像画像を像振れ補正画像という。
【００１８】
画像切り出し部（画像生成手段）１２２は、像振れ補正部１２０にて生成された像振れ補正画像のうちユーザにより指定された位置（像高）を中心とした部分画像を歪曲補正して切り出す（以下、この部分画像を切り出し画像という）。画像処理装置１００は、この切り出し画像を出力する。
【００１９】
図２のフローチャートには、画像処理装置１００が行う画像処理を示す。コンピュータによって構成された画像処理装置１００は、コンピュータプログラムとしての画像処理プログラムに従ってこの画像処理を実行する。画像処理の制御は制御部１０８が行う。
【００２０】
まず、ステップＳ２００で、画像信号処理部１１０は、記憶部１１２に記憶された撮像画像（複数のフレーム画像または複数の静止画像：以下、これらをまとめて連続画像という）を読み込む。
【００２１】
次に、ステップＳ２０２で、動き検出部１１４は、連続画像のうち、後のステップＳ２１０にて画像切り出し部１２２が像振れ補正画像から切り出す切り出し画像に対応する画像領域で動きベクトルを検出（算出）する。
【００２２】
動きベクトルの検出方法は種々提案されているが、本実施例の動き検出部１１４は、図６に示すテンプレートマッチングを利用する。テンプレートマッチングを用いる動き検出部１１４は、基準画像６１０内にテンプレート領域６０１を設定する。そして、テンプレート領域６０１の画像（以下、テンプレート画像という）を参照画像６１２上で走査し、参照画像６１２のうちテンプレート画像との類似度が最も高い画像領域をテンプレート画像に対応する画像領域（以下、対応画像という）として検出する。類似度は、例えば差分絶対値和ＳＡＤ（Sum Of Difference）を用いる。すなわち、参照画像６１２内の複数の画像領域のうち、テンプレート画像との画素値の差分の絶対値和が最も小さくなる画像領域をそのテンプレート画像に対する対応画像とする。そして、動き検出部１１４は、基準画像６１０上でのテンプレート画像の位置（座標）と参照画像６１２上での対応画像の位置との差分から動きベクトル６２１を算出する。
【００２３】
本実施例では、図６に点線で示すように、テンプレート領域６０１を複数（図では１２個）設定し、テンプレート領域６０１ごとに上述した動きベクトルを算出する。
【００２４】
ただし、図中のテンプレート領域６０２のように低コントラストな領域は、動きベクトルを高精度に算出することできないため、動きベクトルの算出対象から除外する。この結果、図６の例では、参照画像６１２上に示したように７つの動きベクトルが算出される。そして、これら７つの動きベクトルが示す動き量のうち最頻値を第１の動き量とする。また、第１の動き量の水平成分をＸ１とし、垂直成分をＹ１とする。
【００２５】
さらに、ステップＳ２０４において、振れ情報取得部１１６は、ジャイロセンサからの角速度信号を積分して振れ角度を算出する。本実施例では、水平（Ｙａｗ）方向および垂直（Ｐｉｔｃｈ）方向のそれぞれについて像振れ補正を行う。水平方向での振れ角度をβとし、垂直方向での振れ角度をγとする。このとき、水平方向の振れ量Ｘ２と垂直方向の振れ量Ｙ２はそれぞれ以下の式（１），（２）で算出される。
【００２６】
Ｘ２＝ｆ・ｔａｎβ   (１)
Ｙ２＝ｆ・ｔａｎγ   (２)
以下、これら振れ量Ｘ２，Ｙ２をまとめて第２の動き量とする。
【００２７】
次に、ステップＳ２０６では、画像信号処理部１１０は、動き検出部１１４により検出された第１の動き量と振れ情報取得部１１６により取得された第２の動き量とを用いて、像振れ補正量を算出（取得）する補正量取得処理を行う。図３のフローチャートには、本ステップで行う処理を示している。
【００２８】
ここで、上述したように、動き検出部１１４は動きベクトルの検出によって第１の動き量を取得し、振れ情報取得部１１６はジャイロセンサによる振れの検出によって第２の動き量を取得するが、それぞれの検出精度が低くなる４つの条件（苦手条件）がある。図８には、これら４つの苦手条件を示している。なお、本実施例では、該４つの苦手条件のうち像高に関する条件について説明し、他の３つの条件については後述する実施例２において説明する。
【００２９】
本実施例では、撮像光学系Ｌとして全周魚眼光学系を用いるが、全周魚眼光学系は、正射影、等距離射影、立体射影および等立体角射影の４種類の射影方式で被写体像を形成する。正射影および等立体角射影は、像高が高くなるほど被写体像の歪曲率（つまりは画像の圧縮率）が高くなる射影方式であり、立体射影は像高が低くなるほど歪曲率が高くなる射影方式である。また、等距離射影は、像高によらず被写体像の歪曲率が不変となる射影方式である。
【００３０】
本実施例では、図６を用いて説明した通り、動きベクトルをテンプレートマッチングを利用して算出する。しかし、正射影や等立体角射影のように像高が高くなるにつれて画像の圧縮率が高くなる射影方式での高像高では、被写体像の変形量が大きいために、テンプレートマッチングを行った際の類似度が低下し、高い精度で動きベクトルを検出することができない。また、立体射影のように像高が低くなるにつれて画像の圧縮率が高くなる射影方式での低像高でも、同様の理由により高い精度で動きベクトルを検出することができない。この結果、動きベクトルを用いた第１の動き量の検出精度は、連続画像において動きベクトルを検出する画像領域の像高、つまりは切り出し画像の像高である切り出し像高によって影響を受ける。これに対して、ジャイロセンサによる第２の動き量の検出精度はこのような像高による影響を受けない。
【００３１】
図８の「像高」の欄には、正射影や等立体角射影のように像高が高くなるにつれて画像の圧縮率が高くなる射影方式での苦手条件として、切り出し像高が「高像高」である場合を示している。本実施例では、切り出し像高が高いと動きベクトル（つまりは第１の動き量）の検出精度が低くなることを考慮して後述する検出比率を設定する。立体射影のように像高が低くなるにつれて画像の圧縮率が高くなる射影方式においては、切り出し像高が低くなるにつれて動きベクトル（つまりは第１の動き量）の検出精度が低くなることを考慮して検出比率を設定すればよい。
【００３２】
図３のステップＳ３００で、像振れ補正量算出部１１８は、動きベクトルの検出に対する条件（パラメータ）としての切り出し像高（ユーザ指定された像高）に応じて第１の動き量（Ｘ１，Ｙ１）と第２の動き量（Ｘ２，Ｙ２）との検出比率を選択（設定）する。本実施例では、第１の動き量と第２の動き量とを所定比率で使用（合成）して第３の動き量を算出する。この所定比率を本実施例では検出比率（あるいは使用比率または合成比率）という。
【００３３】
切り出し像高が高いほど第１の動き量の検出精度が低下する本実施例では、図４（ａ）に示すように、切り出し像高が高いほど第１の動き量を使用する比率が低くなり、第２の動き量を使用する比率が高くなるように検出比率αを算出する。
【００３４】
そして、ステップＳ３０２で、像振れ補正量算出部１１８は、検出比率αを用いて以下の式（３），（４）により第３の動き量（水平成分Ｘ３および垂直成分Ｙ３）を算出する。
【００３５】
Ｘ３＝α・Ｘ１＋（１-α）・Ｘ２  （３）
Ｙ３＝α・Ｙ１＋（１-α）・Ｙ２  （４）
続いて、ステップＳ３０４で、像振れ補正量算出部１１８は、第３の動き量（Ｘ３，Ｙ３）を用いて像振れ補正量（−Ｘ３，−Ｙ３）を算出する。こうして像振れ補正量が決定されると、処理が図２のステップＳ２０８に進む。
【００３６】
ステップＳ２０８では、像振れ補正部１２０は、ステップＳ２０６で決定された像振れ補正量を用いて撮像画像の像振れ補正を行う。具体的には、撮影画像を像振れ補正量（−Ｘ３，−Ｙ３）だけ並行シフトさせる。
【００３７】
ここで、ステップＳ２０８での像振れ補正では撮像画像のうち切り出し画像に対応する領域の周辺に存在する画素を補正用画像として使用するが、像振れ補正量が大きすぎると、撮像画像内で補正用画素を確保できなくなる。このため、図７に示すように、像振れ補正量が所定値と等しいか又はこれよりも小さくなるように、第３の動き量の増加に対する像振れ補正量の増加を制限してもよい。
【００３８】
次に、ステップＳ２１０で、画像切り出し部１２２は、ステップＳ２０８で生成された像振れ補正画像（魚眼画像）からユーザ指定の像高の部分画像を歪曲補正して切り出して切り出し画像を生成する。魚眼画像から部分画像を歪曲補正して切り出す方法は、どのような方法でもよいが、例えば特開２０１０−２２４６９１号公報にて開示されているように、正像変換式を用いる方法を採用してもよい。
【００３９】
制御部１０８は、切り出し画像を画像処理装置１００から出力する。切り出し画像の出力は、有線や無線の通信で不図示のパーソナルコンピュータや、プロジェクタ、モニタ等の表示装置に対して行われたり、半導体メモリや光ディスク等の記録媒体への保存として行われたりする。
【００４０】
次に、ステップＳ２１２で、制御部１０８は、別の切り出し画像の生成および出力を行うか否かを判定し、行う場合はステップＳ２００に戻り、ステップＳ２００〜Ｓ２１０の処理を繰り返す。別の切り出し画像の生成および出力を行わない場合は本画像処理を終了する。
【００４１】
本実施例では、動きベクトルから得られる第１の動き量とジャイロセンサにより得られる第２の動き量とを切り出し像高に応じた検出比率で使用して第３の動き量を求め、該第３の動き量から像振れ補正量を設定する。これにより、像高に応じて圧縮率（歪曲率）が変化する魚眼画像から良好に像振れ補正がなされ、かつ歪曲補正がなされた切り出し画像を生成することができる。
【実施例２】
【００４２】
次に、本発明の実施例２である画像処理装置が行う画像処理について、図５を用いて説明する。本実施例における画像処理は、実施例１において図２に示したフローチャートのうちステップＳ２０６で行う補正量取得処理として、図３のフローチャートに示した処理に代えて図５のフローチャート示す処理を行う。また、本実施例における画像処理は、実施例１（図１）の画像処理装置１００と同様の構成を有するコンピュータとしての画像処理装置によりコンピュータプログラムである画像処理プログラムに従って実行される。画像処理装置における実施例１と共通する構成要素には、実施例１と同符号を付す。また、実施例１では、動きベクトル（つまりは第１の動き量）の検出に対して像高に関する苦手条件があることを説明したが、ジャイロセンサを用いた振れ量（第２の動き量）の検出に対しても苦手条件がある。また、動きベクトルの検出に対しても、像高以外の苦手条件がある。
【００４３】
まず、振れ周波数に関する苦手条件について説明する。ジャイロセンサは一般に高周波の振れの検出性能に対して、低周波の振れの検出性能が劣る。一方、動きベクトルの検出については、このような振れ周波数による検出精度の低下はそれほどない。このため、本実施例では、ジャイロセンサを用いた第２の動き量の検出に関しては振れ周波数が低いと検出精度が低くなることを考慮して第１および第の動き量の検出比率を設定する。
【００４４】
次に、手振れ等による撮像装置の振れ量（以下、カメラ振れ量という）に関する苦手条件について説明する。本実施例でも、実施例１で説明したように、動きベクトルをテンプレートマッチングを用いて算出する。また、魚眼画像では、像高によって圧縮率が変化する。このため、カメラ振れ量が大きいと、同じ被写体を撮像しても像高による圧縮率の変化によって連続画像間での被写体の形状が変化し、この結果、テンプレートマッチングにおける類似度が低下して動きベクトルの検出精度が低下する。これに対し、ジャイロセンサによる振れ検出には、カメラ振れ量による検出精度の低下は特にない。このため、本実施例では、動きベクトルを用いた第１の動き量の検出に関してはカメラ振れ量が大きいと検出精度が低くなることを考慮して第１および第の動き量の検出比率を設定する。
【００４５】
次に、被写体距離に関する苦手条件について説明する。被写体距離が遠くなるほど像振れ量における並進成分が減少し、回転成分が増加する。このため、遠い被写体を撮像して得られた撮像画像の複数の位置で検出される複数の動きベクトルはいずれも回転方向に沿った動きを示す。したがって、実施例１で説明したようにそれらの動きベクトルが示す動き量の最頻値を求めても、画像全体の像振れを表す動きベクトルを精度良く取得することが難しい。これに対し、ジャイロセンサによる振れ検出には、被写体距離による検出精度の低下は特にない。このため、本実施例では、動きベクトルを用いた第１の動き量の検出に関しては被写体距離が遠いと検出精度が低くなることを考慮して第１および第の動き量の検出比率を設定する。
【００４６】
このように、本実施例では、動きベクトルの検出に対する条件である切り出し像高、カメラ振れ量および被写体距離と、ジャイロセンサによる振れ検出に対する条件である振れ周波数とに応じて第１および第２の動き量の検出比率を変更する。
【００４７】
図５のステップＳ５００では、像振れ補正量算出部１１８は、図３のステップＳ３００で図４（ａ）を用いて説明したように第１および第２の動き量の検出比率を算出する。すなわち、切り出し像高が高いほど第１の動き量を使用する比率が低くなり、第２の動き量を使用する比率が高くなるように検出比率を算出する。ここで算出される検出比率を第１の検出比率α１とする。
【００４８】
次に、ステップＳ５０２では、像振れ補正量算出部１１８は、図４（ｂ）に示すように振れ周波数が高いほど第１の動き量を使用する比率が低くなり、第２の動き量を使用する比率が高くなるように第１および第２の動き量の検出比率を算出する。ここで算出される検出比率を第２の検出比率α２とする。
【００４９】
次に、ステップＳ５０４では、像振れ補正量算出部１１８は、図４（ｃ）に示すようにカメラ振れ量が大きいほど第１の動き量を使用する比率が低くなり、第２の動き量を使用する比率が高くなるように第１および第２の動き量の検出比率を算出する。ここで算出される検出比率を第３の検出比率α３とする。
【００５０】
次に、ステップＳ５０６では、像振れ補正量算出部１１８は、図４（ｄ）に示すように被写体距離が遠いほど第１の動き量を使用する比率が低くなり、第２の動き量を使用する比率が高くなるように第１および第２の動き量の検出比率を算出する。ここで算出される検出比率を第４の検出比率α４とする。
【００５１】
次に、ステップＳ５０８では、像振れ補正量算出部１１８は、第１、第２、第３および第４の検出比率α１，α２，α３，α４を用いて最終的な検出比率αを算出し、その算出比率αを用いて第３の動き量を算出する。さらに、第３の動き量から像振れ補正量を決定する。最終的な検出比率αは、例えば以下の式（５）に示すようにα１〜α４の積の比から算出する。
α＝α１・α２・α３・α４
／［α１・α２・α３・α４＋（１−α１）（１−α２）（１−α３）（１−α４）］
（５）
また、以下の式（６）に示すように、α１，α２，α３，α４の加重加算の結果の比から算出してもよい。
α＝(ｋ１・α１＋ｋ２・α２＋ｋ３・α３＋ｋ４・α４)
／［ｋ１・α１＋ｋ２・α２＋ｋ３・α３＋ｋ４・α４
＋ｋ１・（１−α１）＋ｋ２×（１−α２）
＋ｋ３・（１−α３）＋ｋ４・（１−α４）］
＝(ｋ１・α１＋ｋ２・α２＋ｋ３・α３＋ｋ４・α４)／（ｋ１＋ｋ２＋ｋ３＋ｋ４）
（６）
ここで、ｋ１，ｋ２，ｋ３，ｋ４はα１，α２，α３，α４に対する重み係数である。
【００５２】
なお、式（５），（６）ではα１，α２，α３，α４の全てを用いて最終的な検出比率αを算出する場合について説明した。しかし、α１，α２，α３，α４のうち少なくとも１つ（または少なくとも２つ）を選択して使用して検出比率αを算出してもよい。
【００５３】
本実施例では、動きベクトルから得られる第１の動き量とジャイロセンサにより得られる第２の動き量とを、切り出し像高、振れ周波数、カメラ振れ量および被写体距離に応じた検出比率で使用して第３の動き量を求め、該第３の動き量から像振れ補正量を設定する。これにより、魚眼画像から良好に像振れ補正がなされ、かつ歪曲補正がなされた切り出し画像を生成することができる。
【００５４】
上記実施例１，２では撮像装置に設けられた画像処理装置について説明したが、パーソナルコンピュータ等、撮像装置とは別体の画像処理装置であってもよい。
【００５５】
また、上記実施例１，２では魚眼画像から画像切り出しを行う場合について説明したが、他の歪を有する画像（歪曲像を形成する撮像光学系を通した撮像により生成された画像）から画像切り出しを行う場合に、実施例１，２で説明した画像処理を行ってもよい。
（その他の実施例）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【００５６】
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
【符号の説明】
【００５７】
１００  画像処理装置
１１４  動き検出部
１１６  振れ情報取得部
１１８  像振れ補正量算出部
１２０  像振れ補正部
１２２  画像切り出し部
【図１】
0006604783.tif 000002
【図２】
0006604783.tif 000003
【図３】
0006604783.tif 000004
【図４】
0006604783.tif 000005
【図５】
0006604783.tif 000006
【図６】
0006604783.tif 000007
【図７】
0006604783.tif 000008
【図８】
0006604783.tif 000009