(57)【要約】  本発明の画像処理装置は、第１の画像の後に撮影された第２の画像の第１の画像に対する３軸周り方向の位置ずれ量を示す第１移動量を推定する移動量推定部（２２）と、第１の画像と第１補正画像とのそれぞれに対して、第１の画像および第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定部（２３）と、第１の画像と第１補正画像とから、設定された領域を切り出した第１切り出し画像と第２切り出し画像とを生成し、第１切り出し画像に対する第２切り出し画像の位置ずれ量を示す第２移動量を推定する後処理部（２４）と、推定された第１移動量および第２移動量に基づき、第１の画像と第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成部（２５）とを備える。
2012063468.tif 000002
【特許請求の範囲】
【請求項１】
時間的に連続して撮影された複数の画像間の位置ずれを補正するための画像処理装置であって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定部と、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定部と、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理部と、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成部とを備える
画像処理装置。
【請求項２】
前記移動量推定部は、
前記第１の画像と前記第２の画像とからそれぞれ特徴点を抽出する特徴点抽出部と、
前記特徴点抽出部により抽出された前記第１の画像および前記第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する歪み補正部と、
前記歪み補正部により歪みを補正された当該第１の画像の特徴点と当該第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する特徴点マッチング部とを備える
請求項１に記載の画像処理装置。
【請求項３】
前記後処理部は、
前記第１の画像と前記第１補正画像とのそれぞれから、前記第１の画像と前記第１補正画像とに設定された前記領域を切り出すことにより第１切り出し画像と第２切り出し画像とを生成する切り出し画像生成部と、
前記切り出し画像生成部により生成された前記第１切り出し画像の領域と前記第２切り出し画像の領域とでマッチングを行うことにより、前記第１切り出し画像に対する前記第２切り出し画像の第２移動量を推定する切り出し画像位置合わせ部とを備える
請求項１または２に記載の画像処理装置。
【請求項４】
前記領域設定部は、
前記移動量推定部で前記第１の画像および前記第２の画像から抽出された特徴点のうち前記第１移動量の推定時に用いられた特徴点に基づいて、前記第１の画像と前記第１補正画像とそれぞれに対して後処理で用いる領域を設定する
請求項１〜３のいずれか１項に記載の画像処理装置。
【請求項５】
前記領域設定部は、
前記移動量推定部により推定された前記第１移動量を用いて前記第２の画像の位置ずれを補正した第１補正画像を生成する補正画像生成部と、
前記移動量推定部で前記第１の画像および前記第２の画像から抽出された特徴点のうち前記第１移動量の推定時に用いられた第１特徴点に基づき、前記第１の画像と前記第１補正画像とそれぞれに対して、所定の領域を設定する後処理用領域設定部と、
前記後処理用領域設定部により設定された前記第１補正画像の領域に、前記第１特徴点の数が閾値以上含まれているか否かを判定し、当該領域に前記第１特徴点の数が閾値以上含まれていると判定する場合に、当該領域を後処理で用いる領域とする判定部とを備える
請求項４に記載の画像処理装置。
【請求項６】
前記第１移動量の推定時に用いられた特徴点は、ｉｎｌｉｅｒである
請求項４または５に記載の画像処理装置。
【請求項７】
前記複数の画像は、魚眼光学系を用いて撮影されており、
前記移動量推定部は、さらに、前記特徴点抽出部により抽出された前記第１の画像の特徴点と前記第２の画像の特徴点との座標を魚眼光学系の射影方式に応じた座標に変換する特徴点座標変換部を備え、
前記特徴点マッチング部は、前記座標変換部により変換された座標の前記第１の画像の特徴点と前記第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の位置ずれ量を示す移動量を推定する
請求項３〜６のいずれか１項に記載の画像処理装置。
【請求項８】
前記画像処理装置は、さらに、前記領域設定部により前記第１の画像と前記第１補正画像とそれぞれに対して設定された後処理で用いる領域の座標を、魚眼光学系の射影方式に応じた座標に変換する後処理領域座標変換部を備え、
前記切り出し画像生成部は、前記後処理領域座標変換部により変換された前記第１の画像と前記第１補正画像との後処理で用いるそれぞれの領域を切り出して第１切り出し画像と第２切り出し画像とを生成する
請求項７に記載の画像処理装置。
【請求項９】
前記画像処理装置は、さらに、撮影に用いた光学系の光軸周りの回転角度または前記光学系の光軸に対して互いに垂直な２軸のうち少なくとも１つの軸周りの回転角度を計測し、計測した前記回転角度を、前記第２の画像の前記第１の画像に対する３軸周り方向の位置ずれ量を示す移動量と推定するセンサ推定部を備える
請求項２〜８のいずれか１項に記載の画像処理装置。
【請求項１０】
前記センサ推定部は、角加速度センサ、角速度センサ、加速度センサおよび方位センサのうち少なくとも１種類のセンサによって構成される
請求項９に記載の画像処理装置。
【請求項１１】
前記移動量推定部は、さらに、前記特徴点マッチング部によって推定された第１移動量または前記センサ推定部によって推定された第１移動量を、前記複数の画像間の位置ずれを補正するために用いる第１移動量と決定し、決定した第１移動量を領域設定部および移動量合成部に出力する補正手段決定部を備える
請求項９に記載の画像処理装置。
【請求項１２】
前記画像処理装置は、さらに、
前記領域設定部の前段に前記第１移動量の算出が成功したか否かを判定する移動量判定部をさらに備え、
前記移動量判定部は、前記第１移動量の算出が成功したと判定する場合には、当該第１移動量を前記領域設定部に出力し、
前記移動量判定部は、前記第１移動量の算出が失敗したと判定する場合には、当該第１移動量を、位置ずれがないことを示すゼロ値に代えて、前記領域設定部および前記移動量合成部に出力し、前記移動量合成部に、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を当該ゼロ値に決定させる
請求項１に記載の画像処理装置。
【請求項１３】
前記画像処理装置は、さらに、
前記後処理部の後段に前記第２移動量の算出が成功したか否かを判定する後処理判定部を備え、
前記後処理判定部は、前記第２移動量の算出が成功したと判定する場合には、前記移動量合成部に当該第２移動量を出力し、
前記後処理判定部は、前記第２移動量の算出が失敗したと判定する場合には、当該第２移動量を位置ずれがないことを示すゼロ値に代えて前記移動量合成部に出力する
請求項１に記載の画像処理装置。
【請求項１４】
時間的に連続して撮影された複数の画像間の位置ずれを補正するための画像処理方法であって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定ステップと、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とそれぞれに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定ステップと、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理ステップと、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成ステップと、を含む
画像処理方法。
【請求項１５】
時間的に連続して撮影された複数の画像間の位置ずれを補正するためのプログラムであって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定ステップと、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とそれぞれに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定ステップと、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理ステップと、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成ステップと、
をコンピュータに実行させるプログラム。
【請求項１６】
時間的に連続して撮影された複数の画像間の位置ずれを補正するための集積回路であって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定部と、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とそれぞれに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定部と、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理部と、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成部と、を備える
集積回路。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、デジタルスチルカメラ、ビデオカメラ、ウェアラブルカメラなどで撮影した映像の補正技術に関する。
【背景技術】
【０００２】
カメラで撮影された映像（動画像）の揺れを画像処理で補正する方法がある。例えば、それは、時間的に連続して撮影された２枚の画像を用い、画像間で共通に写っている対象の情報を利用し、ＭＰＥＧ技術などに代表される動きベクトルを検出することで、フレーム間（画像間）のカメラの揺れを推定して補正する方法である。このような動きベクトルを用いた方法では、動きベクトルを検出するために画像の領域を利用するというアルゴリズムの性質上、精度および計算コスト面での制限が存在する。そのため、検出可能なカメラの揺れの大きさの上限は事前に設定されており、例えば歩行時に撮影された映像や、ファインダレスで撮影された映像に含まれる揺れのような大きな揺れに対しては揺れの検出ができなかった。つまり、動きベクトルを用いた手法では扱えない大きさの揺れがあり、そのような大きさの揺れについては揺れを補正ができないという課題があった。【０００３】
それに対して、動きベクトルを用いた手法では扱えない大きさの揺れを補正する方式として、特徴点ベースのマッチング手法がある。これは時間的に連続して撮影された２枚の画像間で共通に存在する被写体上のいくつかの特徴的な点を用いる。【０００４】
ここで、特徴点ベースのマッチング手法（特徴点マッチングとも記載）について具体的に説明する。【０００５】
図１Ａ〜図１Ｄは、特徴点ベースのマッチング手法を説明するための図である。以下、２枚の画像のうち、時間的に先に撮影された画像を画像ｔ−１、時間的に後に撮影された画像を画像ｔと表記する。【０００６】
図１Ａは、画像ｔ−１と、画像ｔ−１より時間的に後に撮影された画像ｔとを表す図である。図１Ｂは、図１Ａに示す画像ｔ−１、画像ｔから抽出された特徴点を表す図である。図１Ｃは、図１Ｂに示す画像ｔ−１、画像ｔから抽出された特徴点の性質の種類を示す図である。図１Ｄは、図１Ｂに示す画像ｔ−１、画像ｔから抽出された特徴点のマッチングを示す図である。ここで、特徴点とは、上述したように、画像処理によって検出可能な画像上の特徴的な点である。【０００７】
図１Ａに示す画像ｔ−１、画像ｔ上のコントラストの高い画素が、図１Ｂに示す特徴点として選択される。図１Ｂに示すように、コントラストが極めて高いようなコーナーに存在する特徴点は画像間（画像ｔ−１および画像ｔ）で共通して抽出されやすいが、コントラストがそれほど高くないような特徴点は画像間（画像ｔ−１および画像ｔ）で共通して抽出されにくい。【０００８】
図１Ｂに示す特徴点には、画像間（画像ｔ−１および画像ｔ）で共通に写っている領域から得られた特徴点（図１Ｃ中に○で示す特徴点）と、画像間（画像ｔ−１および画像ｔ）で共通に写っている領域から得られているが画像間（画像ｔ−１および画像ｔ）で位置が変わっている特徴点（図１Ｃ中に△で示す特徴点）とがある。また、図１Ｂに示す特徴点には、画像間（画像ｔ−１および画像ｔ）で共通に写っていない領域から得られた特徴点（図１Ｃ中に×で示す特徴点）も存在する。図１Ｂに示す特徴点のうちマッチング可能な特徴点は、画像間（画像ｔ−１および画像ｔ）で共通に写っている領域から得られた特徴点である（図１Ｃ中に○で示す特徴点）。【０００９】
しかし、画像間（画像ｔ−１および画像ｔ）で共通して写っている領域から得られた特徴点の位置や比は、マッチング前には未知であるため、どの特徴点が画像間（画像ｔ−１および画像ｔ）で共通に写っている領域から得られた特徴点であるかも未知である。そのため、ＲＡＮＳＡＣ（ＲＡＮｄｏｍ  ＳＡｍｐｌｅ  Ｃｏｎｓｅｎｓｕｓ）などの手法を使い、画像ｔ−１で抽出された特徴点と画像ｔで抽出された特徴点とからそれぞれ特徴点の組合せを選び出し、事前に設定した評価関数でそれぞれの特徴点の組合せの評価値を求める（図１Ｄ）。この評価値は、画像間（画像ｔ−１および画像ｔ）で共通に写っている領域から得られている特徴点の組合せ（以下、ｉｎｌｉｅｒと表記する）であった場合に高くなりやすいように設計される。【００１０】
具体的には、画像ｔ−１で抽出された特徴点と画像ｔで抽出された特徴点とから選んだ２組の特徴点の組合せから回転行列を生成する。そして、生成した回転行列が正しいかどうかを検算するために、選んだ特徴点の組合せ以外の画像ｔ−１の特徴点を生成した回転行列で回転させ、回転させた後の画像ｔ−１の特徴点が画像ｔの特徴点と一致するかを確認する。回転させた後の画像ｔ−１の特徴点が画像ｔの特徴点と一致していれば、生成した回転行列が正しい画像間の揺れ量（位置ずれの程度）を表している可能性が高い事が分かるため、この一致度合を評価値とした評価関数を設定する。この評価関数を用いて規定回数探索を行った段階で探索を打ち切り、その時点で最大の評価値を得たｉｎｌｉｅｒを用いて回転行列を推定する。なお、このｉｎｌｉｅｒは図１Ｃ中で○に示す特徴点のような画像間で共通に存在する特徴点であり、主に撮影された画像内における遠景領域から得られる特徴点である。そして、遠景特徴点であるｉｎｌｉｅｒから推定された回転行列を用いて画像の揺れを補正する。遠景領域とは、撮影された画面の中で、背景に相当する部分の領域であり、画面内で遠方となる部分の領域である。【００１１】
一般的には、このような処理により、特徴点マッチングが行われる。つまり、特徴点マッチングは、画像間（画像ｔ−１および画像ｔ）で生じた揺れを、画像ｔ−１と画像ｔとで共通に写っている領域から得られる画像ｔ−１の特徴点の分布と画像ｔの特徴点の分布とができるだけ一致するように反復的に探索を行う手法であり、画像ｔ−１と画像ｔとの共通に写っている領域から得られる特徴点分布が最も一致する時の移動量を画像間（画像ｔ−１および画像ｔ）の揺れ量とを推定する手法である。そして、この特徴点マッチングを行い、画像間（フレーム間）で生じた揺れ量を毎画像で推定し続けることで、推定した揺れ量を用いて映像（毎画像）の揺れを補正することができる。【００１２】
また、特徴点マッチングでは、一般的なアルゴリズムの特性として、特徴点分布における画像間（フレーム間）の類似性を用いるため、画像の部分的な領域情報を扱う動きベクトルを用いた手法と比較すると計算コストが低いという特徴がある。さらに、特徴点マッチングでは、画像全体の特徴点を用いたマッチングを行うことが可能であるため、ある程度の大きな揺れ量の推定も可能である。そのため、特徴点マッチングを適用することで、歩行時に撮影された映像やファインダレスで撮影された映像に含まれる大きな揺れであっても推定可能である。つまり、特徴点マッチングでは、動きベクトルを用いた手法では扱えない大きさの揺れを補正することができる。【００１３】
しかしながら、特徴点マッチングでは揺れ量の推定精度が十分ではないという課題がある。すなわち、特徴点マッチングでは、画像上の特徴点位置を用いて揺れ量（画像間の位置ずれ量）の推定を行うため、フレーム間（画像間）で揺れ量の推定に用いられる特徴点の位置が変わってしまう場合にはフレーム間（画像間）の揺れ量を十分な精度では推定できないという課題がある。【００１４】
このフレーム間（画像間）の特徴点位置の変化は、照明条件の変化、近景の変化、カメラが動くことによる見え方の変化など、何らかの変化がフレーム間（画像間）で生じた場合に発生し得る。これは、画像を用いている限りにおいては避けられない。結果として推定精度が低下した場合、フレーム間（画像間）におけるおおよその揺れ量は補正されているものの、若干の揺れが残留してしまう。そして、人は、この若干の揺れでさえ、敏感に感じ取ってしまい、画像が揺れていると捉えてしまうという現実がある。【００１５】
そのため、特徴点マッチングの推定精度を改善する方式が必要となる。その方式の１つとして、特徴点マッチング後に後処理を追加して精度を改善する方式が考えられる。この後処理を実現する方法としてはセンサを利用する方法または画像処理を利用する方法の２種類の方法が候補として挙げられる。ただし、例えば歩行時に撮影された映像などには歩行時に発生する衝撃があるため、センサを利用する方法だと、この衝撃がセンサに加わるため、推定精度が低下する。このような使用場面を考慮して、画像処理を利用して後処理を実現するのが好ましい。すなわち特徴点マッチング後に、追加の画像処理を行い、特徴点マッチングの推定精度低下を補間することで高精度な映像の揺れ量の推定を行うのが好ましい。後処理を実現する画像処理としては、例えば動きベクトル検出や特定オブジェクトのトレースなどの方法を利用する方法がある。これは、もともと生じている大きな揺れであっても、特徴点マッチングによる補正後では誤差程度の小さな揺れ量となっているため、動きベクトルなどの検出方法の適用が現実的になっていることによる。【００１６】
特徴点マッチングの推定精度の低下を、画像処理を利用する後処理で補う場合、後処理として画像中のどの領域を用いて画像処理を行うかが非常に重要である。なぜなら、画像中には様々な被写体が写っているため、画像処理を利用する後処理で揺れ量を推定するための領域が不適切だとかえって推定精度が落ちる結果を招くこととなるからである。【００１７】
このように、画像処理で揺れ量を推定するための適切な領域を選択することは重要であり、これまでいくつかの手法が提案されている。例えば、特許文献１では、画像中で特定オブジェクトが存在することが既知の場合に、その特定オブジェクトに特有の画像特徴を抽出した領域を揺れ量推定領域として設定する方法が開示されている。また例えば特許文献２および特許文献３では、画像中の消失点を検出し消失点周辺の領域を揺れ量推定領域として設定する方法が開示されている。
【先行技術文献】
【特許文献】
【００１８】
【特許文献１】特開２００３−２５０８０４号公報
【特許文献２】特開２０００−３３９４７３号公報
【特許文献３】特許第３６７９９８８号公報
【発明の概要】
【発明が解決しようとする課題】
【００１９】
しかしながら、上記従来の技術を特徴点マッチングの推定精度の低下を補うための後処理に適用したとしても、映像の揺れを高精度に補正することができない。【００２０】
具体的には、特許文献１に開示される特有のオブジェクトを用いる技術を後処理に適用したとしても、映像の揺れを高精度に補正することができない。なぜなら、例えば歩行時などに撮影された映像を想定してみるとわかるように、撮影された映像内に特有のオブジェクトが常に写りこんでいるとの期待はできないためである。【００２１】
また、特許文献２および３に開示される画像中の消失点などを検出する技術を後処理に適用したとしても、映像の揺れを高精度に補正することができない。なぜなら、消失点を求めるための計算コストが比較的高く、写っている被写体によっては消失点が検出できないことがあるからである。例えば歩行時などに撮影された映像を想定してみるとわかるように常に消失点を検出できるとは限らないので、映像の揺れを高精度に補正することができるとは限らない。【００２２】
このように、上記従来の技術を特徴点マッチングの推定精度の低下を補うための後処理に適用したとしても、後処理としてどの領域を用いるべきかの基準が不明である場面あり、映像の揺れを高精度に補正することができない場合がある。【００２３】
本発明は、上述の事情を鑑みてなされたもので、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる画像処理装置、画像処理方法、プログラムを提供することを目的とする。
【課題を解決するための手段】
【００２４】
上記目的を達成するために、本発明の画像処理装置の一態様は、時間的に連続して撮影された複数の画像間の位置ずれを補正するための画像処理装置であって、第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定部と、前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定部と、前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理部と、推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成部とを備える。【００２５】
この構成により、第１移動量（回転移動量）を推定時に用いられた遠景特徴点のｉｎｌｉｅｒを用いて後処理で用いる領域を好適に設定できるので、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる画像処理装置を実現することができる。【００２６】
なお、本発明は、装置として実現するだけでなく、このような装置が備える処理手段を備える集積回路として実現したり、その装置を構成する処理手段をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを示す情報、データまたは信号として実現したりすることもできる。そして、それらプログラム、情報、データおよび信号は、ＣＤ−ＲＯＭ等の記録媒体やインターネット等の通信媒体を介して配信してもよい。
【発明の効果】
【００２７】
本発明によれば、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる画像処理装置、画像処理方法、プログラムを実現することができる。【００２８】
具体的には、本発明の画像処理装置、画像処理方法、プログラムによれば、回転移動量を推定時に用いられた遠景特徴点（ｉｎｌｉｅｒ）を用いて画像処理の後処理用の領域設定を行うことにより、映像の揺れを高精度に補正することができる。
【図面の簡単な説明】
【００２９】
【図１Ａ】図１Ａは、特徴点ベースのマッチング手法を説明するための図である。
【図１Ｂ】図１Ｂは、特徴点ベースのマッチング手法を説明するための図である。
【図１Ｃ】図１Ｃは、特徴点ベースのマッチング手法を説明するための図である。
【図１Ｄ】図１Ｄは、特徴点ベースのマッチング手法を説明するための図である。
【図２】図２は、本発明の実施の形態１における全体構成を示すブロック図である。
【図３】図３は、本発明の実施の形態１における領域設定部の構成を示すブロック図である。
【図４】図４は、ｉｎｌｉｅｒを用いて設定された後処理で用いるための領域の例を示す図である。
【図５】図５は、本発明の実施の形態１における後処理部の構成を示すブロック図である。
【図６】図６は、本発明の実施の形態１における画像処理装置の処理の流れについて説明するためのフローチャートである。
【図７】図７は、本発明の実施の形態１における画像処理装置の処理の流れについて説明するためのフローチャートである。
【図８Ａ】図８Ａは、本発明の実施の形態１における画像処理装置の処理を説明するための図である。
【図８Ｂ】図８Ｂは、本発明の実施の形態１における画像処理装置の処理を説明するための図である。
【図８Ｃ】図８Ｃは、本発明の実施の形態１における画像処理装置の処理を説明するための図である。
【図９Ａ】図９Ａは、本発明の実施の形態１における画像処理装置の処理を説明するための図である。
【図９Ｂ】図９Ｂは、本発明の実施の形態１における画像処理装置の処理を説明するための図である。
【図９Ｃ】図９Ｃは、本発明の実施の形態１における画像処理装置の処理を説明するための図である。
【図１０】図１０は、本発明の実施の形態２における全体構成を示すブロック図である。
【図１１】図１１は、本発明の実施の形態２における画像処理装置の処理の流れについて説明するためのフローチャートである。
【図１２】図１２は、本発明の実施の形態３における全体構成を示すブロック図である。
【図１３】図１３は、魚眼光学系を用いて撮影された場合に画像処理装置が行う画像処理の例を示す図である。
【図１４Ａ】図１４Ａは、魚眼光学系を用いて撮影された場合に画像処理装置が行う画像処理の例を示す図である。
【図１４Ｂ】図１４Ｂは、魚眼光学系を用いて撮影された場合に画像処理装置が行う画像処理の例を示す図である。
【図１４Ｃ】図１４Ｃは、魚眼光学系を用いて撮影された場合に画像処理装置が行う画像処理の例を示す図である。
【図１５】図１５は、本発明の実施の形態３における画像処理装置の処理の流れについて説明するためのフローチャートである。
【発明を実施するための形態】
【００３０】
以下、本発明の各実施の形態について図面を参照しながら説明する。
【００３１】
（実施の形態１）
図２は、本発明の実施の形態１における全体構成を示すブロック図である。
【００３２】
撮像部１０は、例えばデジタルスチルカメラやデジタルビデオカメラなどＣＣＤやＣＭＯＳセンサ等の撮像素子を備えたカメラであり、映像を撮影して電気信号として出力する。
【００３３】
画像処理装置２０は、時間的に連続して撮影された複数の画像間の位置ずれを補正するための画像処理装置であって、画像処理部２０ａと画像取得部２１とを備える。
【００３４】
画像取得部２１は、処理対象の画像データを取得する。具体的には、画像取得部２１は、撮像部１０で時間的に連続して撮影された複数の画像のうち第１の画像（画像ｔ−１）と、第１の画像（画像ｔ−１）の時間的に後に撮影された第２の画像（画像ｔ）の２枚の画像データを取得する。
【００３５】
ここで、画像ｔ−１は第１の画像の例であり、画像ｔは第２の画像の例である。また、説明を簡単にするため、画像ｔ−１は（第１の画像）時系列上で画像ｔ（第２の画像）の直前に撮影された画像であり、画像ｔは画像ｔ−１が撮影された直後に撮影された画像であるとする。この画像ｔ−１および画像ｔの画像データは一般的なＪＰＥＧ形式で圧縮符号化されたものでも良いし、ＭＰＥＧ４等の動画形式で記録されたものでも良い。
【００３６】
画像処理部２０ａは、移動量推定部２２と、領域設定部２３と、後処理部２４と、移動量合成部２５と、画像補正部２６とを備え、画像取得部２１により取得した画像データを画像処理する。
【００３７】
移動量推定部２２は、特徴点抽出部２２１と、歪み補正部２２２と、特徴点マッチング部２２３と備え、第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す回転移動量を推定する。
【００３８】
特徴点抽出部２２１は、第１の画像と第２の画像とからそれぞれ特徴点を抽出する。具体的には、特徴点抽出部２２１は、画像取得部２１により取得された画像ｔ−１、画像ｔが入力され、入力された画像ｔ−１および画像ｔの特徴点の抽出を行い、それぞれ特徴点データｔ−１および特徴点データｔを生成する。
【００３９】
ここで特徴点とは、上述したように、画像処理によって検出可能な画像上の特徴的な点であり、例えば画像中の縦方向・横方向のエッジが共に強く出ているエッジの交差した点、ローカルの近傍に２つの異なる方向を向いた強いエッジの存在する点などである。特徴点は、時系列上で連続した画像ｔ−１と画像ｔとの２枚の画像間で共通に写っている点から安定的に検出（推定）できるもの（ｉｎｌｉｅｒ）が好ましい。しかし、特徴点抽出部２２１が特徴点を抽出する際、画像ｔ−１と画像ｔの正確な位置関係は未知である。そのため、何らかの基準を用いて共通に存在する特徴点を抽出する必要がある。
【００４０】
以下、共通に存在する特徴点を抽出するために用いる基準について説明する。
【００４１】
例えば、特徴点の抽出にＨａｒｒｉｓを用いた場合、画像のエッジを基準として縦・横のエッジが交差するようなコーナー点が抽出される。
【００４２】
具体的には、特徴点抽出部２２１は、画素ごとにエッジの交差度を表す特徴点スコアを算出することにより上記のコーナー点を抽出する。ここで、理論上は、特徴点抽出部２２１により画素ごとに特徴点スコアが算出され存在することになる。しかし、例えば組込み系などリソース制限のある環境で画像処理装置２０が実装される場合、後段の特徴点マッチング部２２３でマッチング処理に用いる特徴点数に上限が存在する場合がある。これを考慮すると、特徴点抽出部２２１で算出された全ての特徴点を用いて、特徴点マッチング部２２３でマッチング処理を行うことは計算コストおよび演算精度の面から好ましくない。そのため、特徴点スコアの高いものから順に規定数に達するまでを特徴点として採用した上でマッチング処理を行うことが好ましい。
【００４３】
ここで、特徴点スコアの高いものから順に規定数に達するまでを特徴点として採用するのが好ましい理由について説明する。Ｈａｒｒｉｓで使用されるエッジは画像のコントラスト（輝度値）変化を反映するため、照明条件が多少変化する程度である場合は画像のコントラストは保存され、エッジは消失しない。つまり、遮蔽によって障害物などに隠され、エッジ自体が消失する場合を除いては、エッジは画像間（画像フレーム間）で消失する可能性は低いからである。そのため、エッジ情報をベースとした特徴点スコアの高い点は、画像ｔ−１と画像ｔとにおいて特徴点として共通して存在する可能性が高い。
【００４４】
以上から、共通に存在する特徴点を抽出するために用いる基準として特徴点スコアを使用する場合は、特徴点抽出部２２１は、ある特定の閾値よりもスコアの高い特徴点を抽出することになる。ここで、特徴点スコアを用いて特徴点を抽出する場合、上記の特定の閾値は画像内の平均スコアの値を用いてもよいし、複数の画像の時系列上でのスコアの平均などを基に決めた値を用いてもよい。また、上記の特定の閾値は、画像全体で１つの閾値を用いる必要はなく、領域ごとに生成される閾値を用いるとしてもよい。さらに、この領域ごとに生成される閾値は単一の画像を基に決めるとしてもよいし、時系列上の複数の画像を利用して決めるとしてもよい。
【００４５】
また、特徴点スコアは、何らかのオブジェクトの認識を行った場合のオブジェクトのスコアを基に決めるとしてもよい。
【００４６】
なお、この特徴点抽出部２２１を実現する代表的な方法としては、この他にＳＩＦＴ、ＳＵＲＦなどの方法が存在する。
【００４７】
歪み補正部２２２は、特徴点抽出部２２１により抽出された第１の画像および第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する。ここで、歪みとは、撮影された複数の画像の特徴点の座標を撮影に用いた光学系の光学歪みに起因する座標位置ずれである。
【００４８】
なお、撮影に用いた光学系の光学歪みに起因する歪みを補正しないとしてもよい。その場合には、移動量推定部２２は、歪み補正部２２２を構成しないとし、特徴点抽出部２２１により抽出された第１の画像と第２の画像との特徴点とを、直接、特徴点マッチング部２２３に入力させる。
【００４９】
特徴点マッチング部２２３は、歪み補正部２２２により歪みを補正された第１の画像の特徴点と第２の画像の特徴点とでマッチングを行うことにより、第１の画像に対する第２の画像の互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す回転移動量を推定する。
【００５０】
具体的には、特徴点マッチング部２２３は、画像ｔ−１の特徴点データｔ−１と画像ｔの特徴点データｔとの間のマッチングすなわち対応関係の推定を行う。ここで、特徴点データｔ−１は、前フレーム期間で画像ｔ−１から特徴点抽出部２２１が抽出し、例えばメモリ２２４に記憶させていたものを用いるとする。また、特徴点データｔは、現フレーム期間で画像ｔから特徴点抽出部２２１が抽出した特徴点データｔを用いるとする。ここで、垂直な３軸の軸周り方向（３軸周り方向）の回転位置ずれ量を示す回転移動量は、典型的には、後述するｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの回転成分から構成される。
【００５１】
特徴点マッチング部２２３は、これら特徴点データｔ−１と特徴点データｔとを用いて画像ｔ−１および画像ｔの間に生じたカメラの動きを示す回転行列の推定を行う。ここで、回転行列の算出方法はＲＡＮＳＡＣ（ＲＡＮｄｏｍ  ＳＡｍｐｌｅ  Ｃｏｎｓｅｎｓｕｓ）などの手法を用いる。この回転行列からはフレーム間すなわち画像間で発生したカメラの揺れ量を表すｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの回転成分が得られる。なお、回転行列の推定に失敗した場合には、ｒｏｌｌ、ｐｉｔｃｈ、ｙａｗには０を設定し、画像間では回転がなかったとして取り扱う。
【００５２】
なお、移動量推定部２２が歪み補正部２２２を構成しない場合には、特徴点マッチング部２２３は、特徴点抽出部２２１により抽出された第１の画像と第２の画像の特徴点とについて直接マッチングを行う。すなわち、特徴点マッチング部２２３は、特徴点抽出部２２１により抽出された第１の画像の特徴点と第２の画像との特徴点でマッチングを行うことにより、第１の画像に対する第２の画像の３軸周り方向の位置ずれ量を示す回転移動量を推定する。
【００５３】
以上のように、移動量推定部２２は構成される。
【００５４】
領域設定部２３は、図３に示すように、補正画像生成部２３１と、後処理用領域設定部２３２と、判定部２３３とを備える。領域設定部２３は、第１の画像および第２の画像から抽出された特徴点に基づき、第１の画像と、推定された回転移動量を用いて第２の画像の位置ずれを補正した第１補正画像とそれぞれに対して、後処理で用いる領域を設定する。具体的には、領域設定部２３は、第１の画像および第１補正画像それぞれに対して、移動量推定部で前記第１の画像および前記第２の画像から抽出された特徴点のうち第１移動量の推定時に用いられた特徴点に基づき後処理で用いる領域を設定する。ここで、第１移動量の推定時に用いられた特徴点は、ｉｎｌｉｅｒである。つまり、領域設定部２３は、特徴点マッチング部２２３で得られた例えば画像ｔ上の遠景特徴点のｉｎｌｉｅｒを用い、後処理部２４で移動量の推定に使用する領域の設定を行う。なお、図３は、本発明の実施の形態１における領域設定部２３の構成を示すブロック図である。
【００５５】
補正画像生成部２３１は、移動量推定部２２により推定された第１移動量を用いて第２の画像の位置ずれを補正した第１補正画像を生成する。つまり、補正画像生成部２３１は、特徴点マッチング部２２３で推定された回転移動量（例えば上述した回転行列）、第２の画像の３軸周り方向の位置ずれを補正した第１補正画像を生成する。
【００５６】
後処理用領域設定部２３２は、移動量推定部２２で第１の画像および第２の画像から抽出された特徴点のうち第１移動量の推定時に用いられた第１特徴点に基づき、第１の画像と第１補正画像とそれぞれに対して所定の領域を設定する。
【００５７】
判定部２３３は、後処理用領域設定部２３２により設定された第１補正画像の領域に、第１特徴点の数が閾値以上含まれているか否かを判定し、当該領域に第１特徴点の数が閾値以上含まれていると判定する場合に、当該領域のｉｎｌｉｅｒは遠景特徴点であると判定し、当該領域を後処理で用いる領域とする。
【００５８】
ここで、領域設定部２３が特徴点マッチング部２２３で得られた画像ｔ上の遠景特徴点のｉｎｌｉｅｒを用いて、後処理部２４で用いる領域の設定を行う理由について説明する。
【００５９】
すなわち、特徴点マッチング部２２３で推定された画像間（フレーム間）の揺れ量が完璧に正しい場合には、推定した揺れ量の値に誤差は存在せず画像ｔ−１と画像ｔとにおけるｉｎｌｉｅｒの座標は一致する。しかし、実際には画像ｔ−１と画像ｔとにおけるｉｎｌｉｅｒの座標には誤差が生じるため、この誤差を後処理部２４で抑える必要がある。そのため、領域設定部２３は、後処理部２４で用いる領域の設定を行う。
【００６０】
また、特徴点マッチング部２２３で得られたｉｎｌｉｅｒは、マッチングが成功している場合、フレーム間（画像間）で共通に存在する遠景領域から抽出された特徴点である可能性が高い。そのため、領域設定部２３すなわち後処理用領域設定部２３２は、このｉｎｌｉｅｒを用いて遠景領域に後処理部２４が後処理で用いる領域を設定する。
【００６１】
次に、ｉｎｌｉｅｒを用いて遠景領域に後処理部２４が後処理で用いる領域を設定する理由を説明する。仮に後処理部２４が後処理で用いる領域を近景領域に設定された場合、後処理部２４は、カメラの動きとは異なる被写体の動きを推定することになってしまい、フレーム間（画像間）で発生したカメラの揺れ量を正しく推定できない。一方、後処理部２４が後処理で用いる領域を遠景領域に設定された場合は、カメラの動きと大きさは同じで逆方向の動きをする背景領域の動きを推定することになるため、カメラの揺れ量を正しく推定することができる。そのため、遠景領域に後処理部２４が後処理で用いる領域を設定するのが好ましい。
【００６２】
ただし、特徴点マッチング部２２３で得られるｉｎｌｉｅｒは、遠景領域の特徴点である可能性が高いが、ＲＡＮＳＡＣの評価関数の設定などにより確率的にｉｎｌｉｅｒが遠景領域の特徴点ではない場合も存在する。そのため、ｉｎｌｉｅｒが遠景領域の特徴点でないことを避けるため、後処理用領域設定部２３２により後処理で用いるために設定された領域が遠景領域内にある確率を高める必要がある。つまり、領域設定部２３すなわち後処理用領域設定部２３２は、ｉｎｌｉｅｒ単体ではなく一定数以上のｉｎｌｉｅｒを用いて、図４に示すように第１の画像（画像ｔ−１）と第１補正画像（画像ｔの補正画像）とにおける遠景領域に後処理部２４が後処理で用いる領域を設定する。
【００６３】
なお、図４は、ｉｎｌｉｅｒを用いて設定された後処理で用いるための領域の例を示す図である。ここで、図４の左図（画像ｔ−１）の領域の方が、図４の右図（画像ｔの補正画像）の領域の方が大きく設定されている。これは後処理で画像ｔ−１と画像ｔの補正画像との位置ずれの比較をし易くするために、ｉｎｌｉｅｒの座標に生じる誤差を考慮して一方の領域を大きくしているからである。ここで、領域を大きくするのは、後処理の計算コストとのトレードオフになるが、特徴点マッチング後に生じる誤差量を基準として設定し、例えば２〜３％程度だけ大きくするのが好ましい。
【００６４】
なお、後処理用領域設定部２３２がある一定数以上のｉｎｌｉｅｒを用いた領域の設定方法としては、次のようなものが例示される。複数のｉｎｌｉｅｒの重心座標を中心とした一定領域として設定する方法、画像中の特定領域を設定しその領域内の複数ｉｎｌｉｅｒの重心座標を中心とした一定領域として設定する方法、特定カラーの領域内の複数ｉｎｌｉｅｒの重心座標を中心とした一定領域として設定する方法、特定オブジェクトの領域内の複数ｉｎｌｉｅｒの重心座標を中心とした一定領域として設定する方法、などである。いずれの方法を用いた場合も、後処理用領域設定部２３２は、後処理部２４で特徴点マッチング部２２３が推定した揺れ量の精度を向上させるために、特徴点マッチング部２２３で推定されたフレーム間（画像間）の揺れ量で実際に画像ｔの各ｉｎｌｉｅｒの座標を補正した後の座標を用いて領域を設定する。
【００６５】
以上のように領域設定部２３は、構成される。
【００６６】
後処理部２４は、図５に示すように、切り出し画像生成部２４１と、切りだし画像位置合わせ部２４２とを備える。図５は、本発明の実施の形態１における後処理部の構成を示すブロック図である。
【００６７】
後処理部２４は、第１の画像と第１補正画像とのそれぞれに設定された領域から、第１切り出し画像と第２切り出し画像とを生成し、第１切り出し画像に対する第２切り出し画像の位置ずれ量を示す第２移動量を推定する後処理を行う。具体的には、後処理部２４は、領域設定部２３で設定された画像ｔの補正画像（第２の画像）の領域と、画像ｔの補正画像（第２の画像）で設定された領域の座標値を用いて設定される画像ｔ−１（第１の画像）の領域との２枚の画像（第１切り出し画像および第２切り出し画像）を用いて、後処理を行う。これは、上述したように、特徴点マッチング部２２３で推定されたフレーム間（画像間）の揺れ量の推定精度を向上させる目的で後処理部２４により行われる。
【００６８】
切り出し画像生成部２４１は、第１の画像と第１補正画像とのそれぞれから、第１の画像と第１補正画像とに設定された前記領域を切り出すことにより第１切り出し画像と第２切り出し画像とを生成する。
【００６９】
切りだし画像位置合わせ部２４２は、切り出し画像生成部２４１により生成された第１切り出し画像の領域と第２切り出し画像の領域とでマッチング（切りだし画像位置合わせ）を行うことにより、第１切り出し画像に対する第２切り出し画像の第２移動量を推定する。
【００７０】
なお、後処理部２４が行う具体的な処理の内容としては、並進推定、回転推定、傾き推定などの処理に加え、これらの処理の組合せでも構わない。つまり、第２移動量とは、並進移動量、回転移動量、傾き移動量のいずれでも構わない。例えば、第２移動量が並進推定から推定される並進移動量の場合は、第１切り出し画像および第２切り出し画像の２枚の画像から動きベクトルを算出して並進移動量成分ｘ、ｙを推定する。そして、後段の移動量合成部２５で、移動量推定部２２（具体的には特徴点マッチング部２２３）で推定された回転移動量（第１移動量）であるｒｏｌｌ、ｐｉｔｃｈ、ｙａｗと、並進移動量（第２移動量）であるｘ、ｙを移動量が合成される。
【００７１】
以上のように後処理部２４は、構成される。
【００７２】
移動量合成部２５は、推定された第１移動量および第２移動量に基づき、第１の画像と第２の画像との間の位置ずれ量を示す移動量を合成する。具体的には、移動量合成部２５は、後処理部２４で推定された第１移動量と特徴点マッチング部２２３で推定された回転移動量とを合成し、映像の揺れ量を示す移動量を得る。
【００７３】
ここで、移動量合成部２５は、移動量の合成を、ｒｏｌｌ、ｐｉｔｃｈ、ｙａｗを変換して並進移動成分ｘ、ｙで表す２軸のパラメータでも行うとしても構わない。また、並進移動量成分ｘ、ｙを回転移動量成分ｒｏｌｌ、ｐｉｔｃｈ、ｙａｗに変換して最終的に３軸のパラメータで行うとしても構わないし、さらには、移動量成分ｘ、ｙおよび回転移動量成分ｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの５軸のパラメータで行うとしても構わない。
【００７４】
例えば、後処理部２４が回転推定の処理を行う場合は、特徴点マッチング部２２３で用いていた特徴点の情報は画像間（フレーム間）で位置の変更が起こりやすく推定精度が低下するため、特徴点マッチング部２２３で用いていた点ベースの評価関数ではなく領域ベースの評価関数で再計算を行うとしてもよい。その場合、後処理部２４は、特徴点マッチング部２２３で推定した揺れ量の誤差を、回転移動成分ｒｏｌｌ、ｐｉｔｃｈ、ｙａｗで推定し、移動量合成部２５で、特徴点マッチング部２２３で推定した揺れ量に加算する合成を行うことで、最終的に３軸のパラメータから構成される移動量を合成すればよい。
【００７５】
また、例えば、後処理部２４が下記のような理由から傾き推定の処理を行うとしても良い。特徴点マッチング部２２３で推定される揺れ量はあくまでフレーム間（画像間）の相対的な値であるため、ある基準のフレーム（画像）からの揺れ量は取得可能であるが絶対的な揺れ量は取得できない。つまり、特徴点マッチング部２２３で推定される揺れ量には推定誤差が生じる。この誤差が積算されると実態とかけ離れることが起こってしまう。
【００７６】
また、特徴点マッチング部２２３で推定されるｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの３パラメータのうち、画像の傾きを表すｒｏｌｌでこの誤差が積算されると補正された画像が傾いてしまうため、この誤差をリセットすることが好ましい。これが傾き推定の処理を行うとする理由である。したがって、後処理部２４は、画像の傾きを表すｒｏｌｌの誤差をリセットする目的で画像処理から傾き角度を推定する必要がある場合に、領域設定部２３で設定された遠景領域から、画像中の構造物上に存在する線分情報を利用して画像の傾き角度ｒｏｌｌを推定する。そして、移動量合成部２５は、後処理部２４はで推定されたｒｏｌｌのみを特徴点マッチング部２２３で推定される揺れ量に加算することで、最終的に３軸のパラメータからなる移動量を合成するとしてもよい。なお、後処理部２４での推定が失敗した場合には、推定した移動量を０と設定する。
【００７７】
以上のようにして、移動量合成部２５は映像の揺れ量を示す移動量を合成する。
【００７８】
画像補正部２６は、移動量合成部２５で合成された複数の画像間の位置ずれを補正するための画像間の位置ずれ量（揺れ量）を示す移動量（最終的な補正値）を用いて画像を補正する。具体的には、画像補正部２６は、移動量合成部２５で合成された移動量（揺れ量）を用いて、画像ｔ−１（第１の画像）、画像ｔ（第２の画像）の画像間（フレーム間）で生じたカメラの動きによる位置ずれ（揺れ量）を補正する。
【００７９】
例えば、画像補正部２６は、移動量合成部２５で合成された移動量（揺れ量）が並進移動量成分すなわちｘ、ｙの２軸からなる場合は、合成されたｘ、ｙに応じた平行移動を画像ｔ（第２の画像）に行うことで画像ｔ（第２の画像）の画像ｔ−１（第１の画像）に対する補正を行う。また、例えば、画像補正部２６は、移動量合成部２５で合成された移動量（揺れ量）が回転移動量成分すなわちｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの３軸からなる場合は、合成されたｒｏｌｌ、ｐｉｔｃｈ、ｙａｗでアフィン変換を画像ｔ（第２の画像）に行うことで補正を行う。また、例えば、画像補正部２６は、移動量合成部２５で合成された移動量（揺れ量）が並進移動量成分および回転移動量成分すなわちｘ、ｙ、ｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの５軸からなる場合は、ｘ、ｙに応じて画像ｔ（第２の画像）に平行移動を行った後にさらにｒｏｌｌ、ｐｉｔｃｈ、ｙａｗでアフィン変換を行う事で補正を行う。
【００８０】
次に、以上のように構成された画像処理装置２０の処理の流れについて説明する。
【００８１】
図６および図７は、本発明の実施の形態１における画像処理装置２０の処理の流れについて説明するためのフローチャートである。図８Ａ〜図９Ｃは、本発明の実施の形態１における画像処理装置２０の処理を説明するための図である。
【００８２】
まず、画像処理装置２０は、画像取得部２１で処理対象の画像データを取得する。具体的には、画像取得部２１は、撮像部１０から得られる画像ｔおよび画像ｔ−１の画像データをそれぞれ読み込む。
【００８３】
次に、移動量推定部２２は、第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する３軸周り方向の位置ずれ量を示す回転移動量を推定する（Ｓ１０）。具体的には、特徴点抽出部２２１は、第１の画像と第２の画像とからそれぞれ特徴点を抽出する（Ｓ１０１）。歪み補正部２２２は、特徴点抽出部２２１により抽出された第１の画像および第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する。次いで、特徴点マッチング部２２３は、歪み補正部２２２により歪みを補正された第１の画像の特徴点と第２の画像の特徴点とのマッチングを行うことにより、第１の画像に対する第２の画像の３軸周り方向の位置ずれ量を示す回転移動量を推定する（Ｓ１０２）。Ｓ１０２において、より詳細には、特徴点マッチング部２２３は、例えば図８Ａまたは図９Ａに示すように画像ｔ−１の特徴点データｔ−１と画像ｔの特徴点データｔとの間のマッチングすなわち対応関係の推定を行う。そして、特徴点マッチング部２２３は、○で示す共通の特徴点（ｉｎｌｉｅｒ）を用いて画像ｔに対する画像ｔ−１の間の回転移動量（例えばｒｏｌｌ、ｐｉｔｃｈ、ｙａｗの回転成分）を推定する。なお、図８Ａと図９Ａはそれぞれ、画像ｔ−１と画像ｔにおいて抽出された特徴点の種類を示す異なる例を示している。
【００８４】
次に、領域設定部２３は、第１の画像と、推定された回転移動量を用いて第２の画像の位置ずれを補正した第１補正画像とそれぞれに対して、第１の画像および第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する（Ｓ２０）。具体的には、まず、補正画像生成部２３１は、移動量推定部２２により推定された第１移動量を用いて第２の画像の位置ずれを補正した第１補正画像を生成する（Ｓ２０１）。次いで、後処理用領域設定部２３２は、移動量推定部２２で第１の画像および第２の画像から抽出された特徴点のうち第１移動量の推定時に用いられた第１特徴点（ｉｎｌｉｅｒ）に基づき、特徴点マッチング部２２３は、例えば図８Ｂまたは図９Ｂに示すように第１の画像と第１補正画像とそれぞれに対して所定の領域を設定する（Ｓ２０２）。ここで、図８Ｂと図９Ｂはそれぞれ、後処理用領域設定部により画像ｔの補正画像に、一旦後処理用の領域が設定された異なる例を示している。次いで、判定部２３３は、後処理用領域設定部２３２により設定された第１補正画像の領域に、第１特徴点（ｉｎｌｉｅｒ）の数が閾値以上含まれているか否かを判定する（Ｓ２０３）。判定部２３３は、当該領域に第１特徴点の数が閾値以上含まれていると判定する場合に、当該領域のｉｎｌｉｅｒは遠景特徴点であると判定し、例えば図９Ｃに示すように当該領域を後処理で用いる領域として、Ｓ３０に進む。ここで、図９Ｃは、画像ｔの補正画像に設定された後処理用の所定の領域が条件を満たし、後処理領域が設定されたことを示す図である。なお、判定部２３３は、該領域に第１特徴点（遠景特徴点すなわちｉｎｌｉｅｒ）の数が閾値以上含まれていないと判定する場合には、当該領域のｉｎｌｉｅｒは遠景特徴点ではないと判定し、後処理部２４での処理は行わない旨（例えばゼロ値）を移動量合成部２５に伝達する（例えば図８Ｃ）。ここで、図８Ｃは、画像ｔの補正画像に設定された後処理用の所定の領域が条件を満たさず、後処理領域が設定されなかったことを示す図である。
【００８５】
次に、第１の画像と第１補正画像とそれぞれから、領域設定部２３に設定された領域を切り出した第１切り出し画像と第２切り出し画像とを生成し、第１切り出し画像に対する第２切り出し画像の位置ずれ量を示す第２移動量を推定する後処理を行う（Ｓ３０）。具体的には、切り出し画像生成部２４１は、第１の画像と第１補正画像とそれぞれから、設定された前記領域を切り出した第１切り出し画像と第２切り出し画像とを生成する（Ｓ３０１）。切りだし画像位置合わせ２４２は、切り出し画像生成部により生成された第１切り出し画像の領域と第２切り出し画像の領域とでマッチング（切りだし画像位置合わせ）を行うことにより、第１切り出し画像に対する第２切り出し画像の第２移動量を推定する（Ｓ３０２）。
【００８６】
次に、移動量合成部２５は、推定された第１移動量および第２移動量に基づき、第１の画像と第２の画像との間の位置ずれ量を示す移動量を合成する。なお、移動量合成部２５は、判定部２３３により後処理部２４での処理は行わない旨を伝達された場合には、第２移動量をゼロ値として第１の画像と第２の画像との間の位置ずれ量を示す移動量を合成する。
【００８７】
次に、画像補正部２６は、移動量合成部２５で合成された移動量を用いて、画像ｔ−１（第１の画像）、画像ｔ（第２の画像）の画像間で生じたカメラの動きによる位置ずれ（揺れ量）を補正する。つまり、画像補正部２６は、移動量合成部２５で合成された移動量を用いて、映像の揺れを補正する。
【００８８】
以上のようにして、画像処理装置２０は処理を行う。
【００８９】
以上のように、特徴点マッチングにより推定された画像ｔ−１（第１の画像）および画像ｔ（第２の画像）におけるｉｎｌｉｅｒの座標には誤差を包含する可能性が高いため、移動量推定部２２により推定された第１移動量（回転移動量）には誤差がある可能性が高い。そのため、本実施の形態における後処理部２４を設け、第１移動量（回転移動量）の誤差を抑えるための第２移動量を推定する。具体的には、第１移動量（回転移動量）を推定時に用いられた遠景特徴点のｉｎｌｉｅｒを用いて画像処理の後処理用の領域設定を行うことにより、映像の揺れを高精度に補正することができる。
【００９０】
したがって、実施の形態の画像処理装置および画像処理方法によれば、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる。
【００９１】
なお、上記では、画像処理装置２０は、画像取得部２１と画像処理部２０ａとを備えるとしたがそれに限られない。画像処理装置２０の最小構成として、画像処理部２０ａを備えていればよい。画像処理装置２０は、この画像処理部２０ａを少なくとも備えることにより、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる。
【００９２】
（実施の形態２）
実施の形態１では、第１移動量（回転移動量）を移動量推定部２２で画像処理を行うことにより推定していたが、それに限らない。第１移動量（回転移動量）をセンサでも同時に推定するとしてもよい。以下、本発明の実施の形態２における画像処理装置および画像処理方法について、図を参照しながら説明する。
【００９３】
図１０は、本発明の実施の形態２における全体構成を示すブロック図である。図２と同様の構成要素については同じ符号を用いて説明を省略し、異なる構成要素についてのみ説明を行う。
【００９４】
図１０に示す本実施の形態の画像処理部３０ａは、図３に示す実施の形態１の画像処理部２０ａに対して、移動量推定部の構成が異なる。具体的には、本実施の形態の移動量推定部３２は、実施の形態１の移動量推定部２２に対して、センサ推定部３２３、補正手段決定部３２４をさらに備える点で異なる。
【００９５】
センサ推定部３２３は、撮影に用いた光学系の光軸周りの回転角度または前記光学系の光軸に対して互いに垂直な２軸のうち少なくとも１つの軸周りの回転角度を計測し、計測した前記回転角度を、前記第２の画像の前記第１の画像に対する３軸周り方向の第１移動量と推定する。具体的には、センサ推定部３２３は、センサを用いて画像間（フレーム間）のカメラの揺れ量（３軸周り方向の回転移動量）を推定する。ここで、センサ推定部３２３は、角加速度センサ、角速度センサ、加速度センサ、ジャイロセンサおよび方位センサのうち少なくとも１種類のセンサによって構成される。なお、センサは、上記のうちいずれか、またはいくつかのセンサを用いて、画像間（フレーム間）に生じたカメラの揺れ量（３軸周り方向の回転移動量）を計測する。
【００９６】
補正手段決定部３２４は、特徴点マッチング部によって推定された第１移動量またはセンサ推定部３２３によって推定された第１移動量を、前記複数の画像間の位置ずれを補正するために用いる第１移動量と決定し、決定した第１移動量を領域設定部および移動量合成部に出力する。具体的には、補正手段決定部３２４は、判定部２３３で画像処理の結果が適用不可能と判定された場合に、センサ推定部３２３で推定された画像間（フレーム間）の揺れ量（移動量）が適用可能かを決定する。具体的には、補正手段決定部３２４は、加速度センサもしくはジャイロセンサなどのセンサを用いて、画像間（フレーム間）または複数画像（複数フレーム）における挙動を観測することにより、センサ推定部３２３で推定された揺れ量（移動量）を用いるか用いないかを決定する。
【００９７】
なお、画像間（フレーム間）または複数画像（複数フレーム）における挙動の観測は、例えば複数画像間（フレーム間）でセンサの値が激しく揺らいでいる場合にはカメラの揺れ量（回転移動量）が大きいと判定することができる。そのため、補正手段決定部３２４は、センサの値が激しく揺らいでいる場合にセンサの推定精度が下がるとしてセンサ推定部３２３で推定された揺れ量（移動量）を用いての補正は行わないことを決定するとしてもよい。反対に、逆にセンサの挙動が安定している場合にはカメラが静止状態にあるとしてセンサ推定部３２３で推定された揺れ量（移動量）を用いての補正を行うことを決定するとしてもよい。
【００９８】
以上のように画像処理装置３０は構成される。
【００９９】
なお、本発明の実施の形態２を用いた場合でも、特徴点マッチング部２２３から得られる遠景特徴点であるｉｎｌｉｅｒが利用可能であるため、領域設定部２３を用いて領域を設定し、後処理によって高精度に移動量（揺れ量）を算出することが可能である。
【０１００】
次に、本実施の形態における画像処理装置３０の処理の流れについて説明する。
【０１０１】
図１１は、本発明の実施の形態２における画像処理装置３０の処理の流れについて説明するためのフローチャートである。なお、図７と同様の要素には同一の符号を付しており、詳細な説明は省略する。
【０１０２】
すなわち、Ｓ１０において、まず、移動量推定部２２では、Ｓ１０１〜Ｓ１０２で、特徴点マッチング部２２３が第１移動量（回転移動量）を推定する。それとともに、移動量推定部２２では、Ｓ１０３で、センサ推定部３２３が第１移動量（回転移動量）を推定する。次いで、移動量推定部２２では、補正手段決定部３２４が特徴点マッチング部２２３により推定された第１移動量またはセンサ推定部３２３により推定された第１移動量を、画像間の位置ずれを補正するために用いる第１移動量と決定し、決定した第１移動量を領域設定部２３および移動量合成部２５に出力する（Ｓ１０４）。
【０１０３】
以降のＳ２０〜Ｓ５０については、実施の形態１でのＳ２０〜Ｓ５０の処理と同様のため説明を省略する。
【０１０４】
以上のようにして、画像処理装置３０は、処理を行う。
【０１０５】
以上、本実施の形態によれば、第１移動量（回転移動量）を推定時に用いられた遠景特徴点のｉｎｌｉｅｒを用いて画像処理の後処理用の領域設定を行うことにより、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる画像処理装置および画像処理方法を実現することできる。
【０１０６】
（実施の形態３）
実施の形態３では、撮影された映像すなわち時間的に連続して撮影された複数の画像が魚眼光学系を用いて撮影された場合の例について説明する。以下、本発明の実施の形態３における画像処理装置および画像処理方法について、図を参照しながら説明する。
【０１０７】
図１２は、本発明の実施の形態３における全体構成を示すブロック図である。なお、図２または図１０と同様の構成要素については同じ符号を用い、説明を省略し、異なる構成要素についてのみ説明を行う。図１３は、魚眼光学系を用いて撮影された場合に画像処理装置４０が行う画像処理の例を示す図である。図１３（ａ）は魚眼レンズで撮影された画像を示しており、図１３（ｂ）は、図１３（ａ）に示す画像の一部を切り出した画像を示している。
【０１０８】
図１２に示す本実施の形態の画像処理部４０ａは、図１０に示す実施の形態２の画像処理部３０ａに対して、特徴点座標変換部４２５と後処理領域座標変換部４７をさらに備える点で構成が異なる。
【０１０９】
実施の形態１および２では、撮影された映像すなわち時間的に連続して撮影された複数の画像が通常画角の光学系もしくは広角の光学系を用いて撮影された場合の例について説明した。それに対して本実施の形態では、撮影された映像すなわち時間的に連続して撮影された複数の画像が魚眼レンズ等の魚眼光学系を用いて撮影された場合の例を説明する。
【０１１０】
魚眼レンズを用いる場合、図１３（ａ）に示す魚眼レンズで撮影された画像からわかるように、通常画角の光学系とは射影方式が異なるため、採用している射影方式に応じて外界からの光がレンズに入射する経路が変化する。画像処理で画像（フレーム間）のカメラの揺れ量を推定する場合は、カメラが外界に対してどのように動いたかを知る必要がある。言い換えると、正しいカメラの揺れ量を求めるには、各画素が外界のどの位置から得られたかを知る必要がある。そのため、魚眼レンズで用いられている射影方式に応じた座標変換を行う必要がある（例えば図１３（ｂ）の画像）。
【０１１１】
特徴点座標変換部４２５は、特徴点抽出部２２１により抽出された第１の画像の特徴点と第２の画像の特徴点との座標を魚眼光学系の射影方式に応じた座標に変換する。具体的には、特徴点座標変換部４２５は、時間的に連続して撮影された複数の画像が魚眼光学系を用いて撮影された場合に、撮影された複数の画像の特徴点の座標を魚眼レンズで採用されている射影方式に応じた特徴点の座標に変換する座標変換を行う。それに対応して、特徴点マッチング部２２３は、特徴点座標変換部４２５により変換された第１の画像の特徴点の座標と第２の画像の特徴点の座標とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の位置ずれ量を示す移動量を推定する。
【０１１２】
なお、このような座標変換を行うのは、上述したように、魚眼光学系の超広角光学系で採用している射影方式によって入力画像から得られる特徴点座標の位置と外界における位置が異なるからである。そのため、正しいカメラの揺れ量を画像から推定するために、入力画像から得られる特徴点座標の位置と外界における位置とを一致させる必要がある。そこで、特徴点座標変換部４２５は、入力画像から得られる特徴点の座標に対して射影変換の逆変換を行い、各特徴点の外界での位置を算出する。なお、この座標変換は、少なくとも特徴点マッチング部２２３から得られる遠景特徴点のｉｎｌｉｅｒの座標に対して行われるが、遠景特徴点のｉｎｌｉｅｒの座標に対する座標変換のみに限らず、画像全体の座標変換を行うとしてもよい。
【０１１３】
後処理領域座標変換部４７は、領域設定部２３により第１の画像と第１補正画像とそれぞれに対して設定された後処理で用いる領域の座標を、魚眼光学系の射影方式に応じた座標に変換する。つまり、後処理領域座標変換部４７は、後処理部２４では切り出し後の映像に対して揺れ量の推定を行う必要があるため、領域設定部２３で設定された後処理用の領域の座標変換を行う。それに対応して、切り出し画像生成部２４１は、後処理領域座標変換部４７により変換された第１の画像と第１補正画像との後処理で用いるそれぞれの領域を切り出して第１切り出し画像と第２切り出し画像とを生成する。このように、魚眼レンズを用いて撮影された映像の揺れを補正する場合、魚眼レンズで撮影された映像の一部を切り出し画像生成部２４１で切り出して補正のための移動量を推定する。
【０１１４】
次に、以上のように構成された、実施の形態３における画像処理装置４０の処理の流れについて説明する。
【０１１５】
図１４Ａ〜図１４Ｃは、魚眼光学系を用いて撮影された場合に画像処理装置４０が行う画像処理の例を示す図である。図１４Ａは図１３（ａ）に対して特徴点が抽出された時の画像を示しており、図１４Ｂは図１３（ａ）を推定された揺れ量で補正した画像（第１補正画像）の一部を切り出し、中心付近の遠景特徴点であるｉｎｌｉｅｒを抽出した画像を示している。図１４Ｃは、図１４Ｂのｉｎｌｉｅｒの重心座標を中心に後処理用の領域が設定された場合の例を示している。
【０１１６】
図１５は、本発明の実施の形態３における画像処理装置４０の処理の流れについて説明するためのフローチャートである。図７および図１１と同様の要素には同一の符号を付しており、詳細な説明は省略する。
【０１１７】
すなわち、Ｓ１０において、まず、Ｓ１０１において、例えば図１４Ａに示すように、特徴点抽出部２２１は第１の画像と第２の画像とからそれぞれ特徴点を抽出する。次いで、Ｓ１０１ａにおいて、特徴点座標変換部４２５は、特徴点抽出部２２１により抽出された第１の画像の特徴点と第２の画像の特徴点との座標を魚眼光学系の射影方式に応じた座標に変換する。次いで、Ｓ１０２ａにおいて、特徴点マッチング部２２３は、特徴点座標変換部４２５により変換された第１の画像の特徴点の座標と前記第２の画像の特徴点の座標とでマッチングを行うことにより、第１の画像に対する第２の画像の位置ずれ量を示す移動量を推定する。次いで、移動量推定部２２は、補正手段決定部３２４で特徴点マッチング部２２３によって推定された第１移動量またはセンサ推定部３２３によって推定された第１移動量を、画像間の位置ずれを補正するために用いる第１移動量と決定し、決定した第１移動量を領域設定部２３および移動量合成部２５に出力する（Ｓ１０４）。
【０１１８】
次に、領域設定部２３は、第１の画像と、推定された回転移動量を用いて第２の画像の位置ずれを補正した第１補正画像とそれぞれに対して、第１の画像および第２の画像から抽出される特徴点に基づいて後処理で用いる領域を設定する（Ｓ２０）。つまり、領域設定部２３は、第１移動量が推定される時に用いられた遠景特徴点のｉｎｌｉｅｒ（例えば図１４Ｂ）を用いて画像処理の後処理用の領域（例えば図１４Ｃ）を設定する。
【０１１９】
次に、後処理領域座標変換部４７は、前記領域設定部２３により第１の画像と第１補正画像とそれぞれに対して設定された後処理で用いる領域の座標を、魚眼光学系の射影方式に応じた座標に変換する（Ｓ２５）。
【０１２０】
次に、Ｓ３０において、切り出し画像生成部２４１は、後処理領域座標変換部４７により変換された第１の画像と第１補正画像との後処理で用いるそれぞれの領域を切り出して第１切り出し画像と第２切り出し画像とを生成する（Ｓ３０１ａ）。
【０１２１】
なお、以降のＳ３０２、Ｓ４０、Ｓ５０については、図７に示す処理と同様のため説明を省略する。
【０１２２】
以上のようにして、画像処理装置４０は、処理を行う。
【０１２３】
なお、魚眼レンズで撮影された映像の一部を切り出さずに補正する場合には、後処理領域座標変換部４７は不要である。
【０１２４】
以上、本実施の形態によれば、第１移動量（回転移動量）を推定時に用いられた遠景特徴点（ｉｎｌｉｅｒ）を用いて画像処理の後処理用の領域設定を行うことにより、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる画像処理装置および画像処理方法を実現することできる。
【０１２５】
以上、本発明によれば、時間的に連続して撮影された複数の画像間の揺れ量を高精度に補正することができる画像処理装置および画像処理方法を実現することできる。
【０１２６】
なお、回転移動量を示す第１移動量や第２移動量の推定に失敗する場合も考えられる。その場合、第１移動量や第２移動量が０であったとして取り扱えればよい。
【０１２７】
具体的には、本発明の画像処理装置において、領域設定部２３の前段に、第１移動量の算出が成功したか否かを判定する移動量判定部をさらに備えるとしてもよい。その場合には、移動量判定部は、第１移動量の算出が成功したと判定する場合に、当該第１移動量を領域設定部２３に出力する。移動量判定部は、移動量判定部は、第１移動量の算出が失敗したと判定する場合に、当該第１移動量を、画像間に位置ずれがないことを示すゼロ値に代えて、領域設定部２３および移動量合成部２５に出力し、移動量合成部２５に、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を当該ゼロ値に決定させるとすればよい。また、本発明の画像処理装置において、後処理部２４の後段に第２移動量の算出が成功したか否かを判定する後処理判定部を備えるとしてもよい。その場合には、後処理判定部は、第２移動量の算出が成功したと判定する場合には、移動量合成部２５に当該第２移動量を出力し、第２移動量の算出が失敗したと判定する場合には、当該第２移動量を位置ずれがないことを示すゼロ値に代えて移動量合成部２５に出力するとすればよい。
【０１２８】
また、本発明における画像処理装置は、補正を行う画像がいつ撮影されたものであるかは関知しない。また、上述の画像処理装置は、デジタルスチルカメラやデジタルビデオカメラに内蔵し、撮像画像をその場で補正する構成をとっているがそれに限られない。例えば、パーソナルコンピュータ上でアプリケーションとして実装するなど、撮像装置とは別に、画像処理装置を用意し、カメラなどの記録デバイスと直接ケーブル等で接続して撮像画像を入力するような構成にしてもよいし、ＳＤメモリカード等の記録媒体やネットワークを介して画像データを読み込んでもよい。
【０１２９】
以上、本発明の画像処理装置、画像処理方法、プログラムについて、実施の形態に基づいて説明してきたが、本発明は、これらの実施の形態に限定されないのはもちろんである。以下のような場合も本発明に含まれる。
【０１３０】
（１）上記の各装置は、具体的には、マイクロプロセッサ、ＲＯＭ、ＲＡＭ、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記ＲＡＭまたはハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
【０１３１】
（２）上記の各装置を構成する構成要素の一部または全部は、１個のシステムＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ：大規模集積回路）から構成されているとしてもよい。システムＬＳＩは、複数の構成部を１個のチップ上に集積して製造された超多機能ＬＳＩであり、具体的には、マイクロプロセッサ、ＲＯＭ、ＲＡＭなどを含んで構成されるコンピュータシステムである。前記ＲＡＭには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、システムＬＳＩは、その機能を達成する。
【０１３２】
（３）上記の各装置を構成する構成要素の一部または全部は、各装置に脱着可能なＩＣカードまたは単体のモジュールから構成されているとしてもよい。前記ＩＣカードまたは前記モジュールは、マイクロプロセッサ、ＲＯＭ、ＲＡＭなどから構成されるコンピュータシステムである。前記ＩＣカードまたは前記モジュールは、上記の超多機能ＬＳＩを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、前記ＩＣカードまたは前記モジュールは、その機能を達成する。このＩＣカードまたはこのモジュールは、耐タンパ性を有するとしてもよい。
【０１３３】
（４）本発明は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
【０１３４】
また、本発明は、前記コンピュータプログラムまたは前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、ＣＤ−ＲＯＭ、ＭＯ、ＤＶＤ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、ＢＤ（Ｂｌｕ−ｒａｙ  Ｄｉｓｃ）、半導体メモリなどに記録したものとしてもよい。また、これらの記録媒体に記録されている前記デジタル信号であるとしてもよい。
【０１３５】
また、本発明は、前記コンピュータプログラムまたは前記デジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
【０１３６】
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムにしたがって動作するとしてもよい。
【０１３７】
また、前記プログラムまたは前記デジタル信号を前記記録媒体に記録して移送することにより、または前記プログラムまたは前記デジタル信号を、前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。
【０１３８】
（５）上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
【産業上の利用可能性】
【０１３９】
本発明にかかる画像処理装置は、特徴点マッチングから算出された遠景特徴点を用いて画像処理の後処理用の領域設定を行う事で、映像の揺れを高精度に補正することができる。これらの構成は、例えばデジタルスチルカメラ、ビデオカメラ、ウェアラブルカメラやパーソナルコンピュータのソフトウェア等の映像補正処理装置として有用である。
【符号の説明】
【０１４０】
１０  撮像部
２０、３０、４０  画像処理装置
２０ａ、３０ａ、４０ａ  画像処理部
２１  画像取得部
２２、３２  移動量推定部
２３  領域設定部
２４  後処理部
２５  移動量合成部
２６  画像補正部
４７  後処理領域座標変換部
２２１  特徴点抽出部
２２２  歪み補正部
２２３  特徴点マッチング部
２３１  補正画像生成部
２３２  後処理用領域設定部
２３３  判定部
２４１  切り出し画像生成部
２４２  切りだし画像位置合わせ部
３２３  センサ推定部
３２４  補正手段決定部
４２５  特徴点座標変換部
【図１Ａ】
2012063468.tif 000003
【図１Ｂ】
2012063468.tif 000004
【図１Ｃ】
2012063468.tif 000005
【図１Ｄ】
2012063468.tif 000006
【図２】
2012063468.tif 000007
【図３】
2012063468.tif 000008
【図４】
2012063468.tif 000009
【図５】
2012063468.tif 000010
【図６】
2012063468.tif 000011
【図７】
2012063468.tif 000012
【図８Ａ】
2012063468.tif 000013
【図８Ｂ】
2012063468.tif 000014
【図８Ｃ】
2012063468.tif 000015
【図９Ａ】
2012063468.tif 000016
【図９Ｂ】
2012063468.tif 000017
【図９Ｃ】
2012063468.tif 000018
【図１０】
2012063468.tif 000019
【図１１】
2012063468.tif 000020
【図１２】
2012063468.tif 000021
【図１３】
2012063468.tif 000022
【図１４Ａ】
2012063468.tif 000023
【図１４Ｂ】
2012063468.tif 000024
【図１４Ｃ】
2012063468.tif 000025
【図１５】
2012063468.tif 000026
【手続補正書】
【提出日】平成24年2月22日(2012.2.22)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
時間的に連続して撮影された複数の画像間の位置ずれを補正するための画像処理装置であって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定部と、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定部と、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理部と、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成部とを備え、
前記移動量推定部は、
前記第１の画像と前記第２の画像とからそれぞれ特徴点を抽出する特徴点抽出部と、
前記特徴点抽出部により抽出された前記第１の画像および前記第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する歪み補正部と、
前記歪み補正部により歪みを補正された当該第１の画像の特徴点と当該第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する特徴点マッチング部とを備える
画像処理装置。
【請求項２】
（削除）
【請求項３】
前記後処理部は、
前記第１の画像と前記第１補正画像とのそれぞれから、前記第１の画像と前記第１補正画像とに設定された前記領域を切り出すことにより第１切り出し画像と第２切り出し画像とを生成する切り出し画像生成部と、
前記切り出し画像生成部により生成された前記第１切り出し画像の領域と前記第２切り出し画像の領域とでマッチングを行うことにより、前記第１切り出し画像に対する前記第２切り出し画像の第２移動量を推定する切り出し画像位置合わせ部とを備える
請求項１に記載の画像処理装置。
【請求項４】
前記領域設定部は、
前記移動量推定部で前記第１の画像および前記第２の画像から抽出された特徴点のうち前記第１移動量の推定時に用いられた特徴点に基づいて、前記第１の画像と前記第１補正画像とそれぞれに対して後処理で用いる領域を設定する
請求項１または３に記載の画像処理装置。
【請求項５】
前記領域設定部は、
前記移動量推定部により推定された前記第１移動量を用いて前記第２の画像の位置ずれを補正した第１補正画像を生成する補正画像生成部と、
前記移動量推定部で前記第１の画像および前記第２の画像から抽出された特徴点のうち前記第１移動量の推定時に用いられた第１特徴点に基づき、前記第１の画像と前記第１補正画像とそれぞれに対して、所定の領域を設定する後処理用領域設定部と、
前記後処理用領域設定部により設定された前記第１補正画像の領域に、前記第１特徴点の数が閾値以上含まれているか否かを判定し、当該領域に前記第１特徴点の数が閾値以上含まれていると判定する場合に、当該領域を後処理で用いる領域とする判定部とを備える
請求項４に記載の画像処理装置。
【請求項６】
前記第１移動量の推定時に用いられた特徴点は、ｉｎｌｉｅｒである
請求項４または５に記載の画像処理装置。
【請求項７】
前記複数の画像は、魚眼光学系を用いて撮影されており、
前記移動量推定部は、さらに、前記特徴点抽出部により抽出された前記第１の画像の特徴点と前記第２の画像の特徴点との座標を魚眼光学系の射影方式に応じた座標に変換する特徴点座標変換部を備え、
前記特徴点マッチング部は、前記座標変換部により変換された座標の前記第１の画像の特徴点と前記第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の位置ずれ量を示す移動量を推定する
請求項３〜６のいずれか１項に記載の画像処理装置。
【請求項８】
前記画像処理装置は、さらに、前記領域設定部により前記第１の画像と前記第１補正画像とそれぞれに対して設定された後処理で用いる領域の座標を、魚眼光学系の射影方式に応じた座標に変換する後処理領域座標変換部を備え、
前記切り出し画像生成部は、前記後処理領域座標変換部により変換された前記第１の画像と前記第１補正画像との後処理で用いるそれぞれの領域を切り出して第１切り出し画像と第２切り出し画像とを生成する
請求項７に記載の画像処理装置。
【請求項９】
前記画像処理装置は、さらに、撮影に用いた光学系の光軸周りの回転角度または前記光学系の光軸に対して互いに垂直な２軸のうち少なくとも１つの軸周りの回転角度を計測し、計測した前記回転角度を、前記第２の画像の前記第１の画像に対する３軸周り方向の位置ずれ量を示す移動量と推定するセンサ推定部を備える
請求項１、３〜８のいずれか１項に記載の画像処理装置。
【請求項１０】
前記センサ推定部は、角加速度センサ、角速度センサ、加速度センサおよび方位センサのうち少なくとも１種類のセンサによって構成される
請求項９に記載の画像処理装置。
【請求項１１】
前記移動量推定部は、さらに、前記特徴点マッチング部によって推定された第１移動量または前記センサ推定部によって推定された第１移動量を、前記複数の画像間の位置ずれを補正するために用いる第１移動量と決定し、決定した第１移動量を領域設定部および移動量合成部に出力する補正手段決定部を備える
請求項９に記載の画像処理装置。
【請求項１２】
前記画像処理装置は、さらに、
前記領域設定部の前段に前記第１移動量の算出が成功したか否かを判定する移動量判定部をさらに備え、
前記移動量判定部は、前記第１移動量の算出が成功したと判定する場合には、当該第１移動量を前記領域設定部に出力し、
前記移動量判定部は、前記第１移動量の算出が失敗したと判定する場合には、当該第１移動量を、位置ずれがないことを示すゼロ値に代えて、前記領域設定部および前記移動量合成部に出力し、前記移動量合成部に、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を当該ゼロ値に決定させる
請求項１に記載の画像処理装置。
【請求項１３】
前記画像処理装置は、さらに、
前記後処理部の後段に前記第２移動量の算出が成功したか否かを判定する後処理判定部を備え、
前記後処理判定部は、前記第２移動量の算出が成功したと判定する場合には、前記移動量合成部に当該第２移動量を出力し、
前記後処理判定部は、前記第２移動量の算出が失敗したと判定する場合には、当該第２移動量を位置ずれがないことを示すゼロ値に代えて前記移動量合成部に出力する
請求項１に記載の画像処理装置。
【請求項１４】
時間的に連続して撮影された複数の画像間の位置ずれを補正するための画像処理方法であって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定ステップと、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とそれぞれに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定ステップと、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理ステップと、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成ステップと、を含み、
前記移動量推定ステップは、
前記第１の画像と前記第２の画像とからそれぞれ特徴点を抽出する特徴点抽出ステップと、
前記特徴点抽出ステップにおいて抽出された前記第１の画像および前記第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する歪み補正ステップと、
前記歪み補正ステップにおいて歪みを補正された当該第１の画像の特徴点と当該第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する特徴点マッチングステップとを含む
画像処理方法。
【請求項１５】
時間的に連続して撮影された複数の画像間の位置ずれを補正することをコンピュータに実行させるプログラムであって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定ステップと、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とそれぞれに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定ステップと、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理ステップと、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成ステップとを含み、
前記移動量推定ステップは、
前記第１の画像と前記第２の画像とからそれぞれ特徴点を抽出する特徴点抽出ステップと、
前記特徴点抽出ステップにおいて抽出された前記第１の画像および前記第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する歪み補正ステップと、
前記歪み補正ステップにおいて歪みを補正された当該第１の画像の特徴点と当該第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する特徴点マッチングステップとを含む、
プログラム。
【請求項１６】
時間的に連続して撮影された複数の画像間の位置ずれを補正するための集積回路であって、
第１の画像の時間的に後に撮影された第２の画像の前記第１の画像に対する互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する移動量推定部と、
前記第１の画像と、推定された前記第１移動量を用いて前記第２の画像の位置ずれが補正された第１補正画像とそれぞれに対して、前記第１の画像および前記第２の画像から抽出される特徴点に基づき後処理で用いる領域を設定する領域設定部と、
前記第１の画像と前記第１補正画像とのそれぞれに設定された前記領域から、第１切り出し画像と第２切り出し画像とを生成し、前記第１切り出し画像に対する前記第２切り出し画像の位置ずれ量を示す第２移動量を推定する前記後処理を行う後処理部と、
推定された前記第１移動量および前記第２移動量に基づき、前記第１の画像と前記第２の画像との間の位置ずれ量を示す移動量を合成する移動量合成部と、を備え、
前記移動量推定部は、
前記第１の画像と前記第２の画像とからそれぞれ特徴点を抽出する特徴点抽出部と、
前記特徴点抽出部により抽出された前記第１の画像および前記第２の画像の特徴点における撮影に用いた光学系の光学歪みに起因する歪みを補正する歪み補正部と、
前記歪み補正部により歪みを補正された当該第１の画像の特徴点と当該第２の画像の特徴点とでマッチングを行うことにより、前記第１の画像に対する前記第２の画像の互いに垂直な３軸の軸周り方向の回転位置ずれ量を示す第１移動量を推定する特徴点マッチング部とを備える
集積回路。
【国際調査報告】
2012063468.tif 000027
2012063468.tif 000028
2012063468.tif 000029
2012063468.tif 000030