(57)【要約】  所望の運動を指定して補正することのできる画像処理装置、画像処理プログラム及び画像処理方法を提供することを目的とする。  画像処理装置は、動画における、特定の被写体を含む特定領域の動きを示すグローバル運動を、動画に含まれる複数のフレーム画像から推定するグローバル運動推定手段と、動画における、特定の被写体の動きを示すローカル運動を、複数のフレーム画像から推定するローカル運動推定手段と、推定されたグローバル運動及びローカル運動に基づいて、動画における特定の被写体又は特定領域の動きを補正する画像補正手段と、を備える。
2018212272.tif 000002
【特許請求の範囲】
【請求項１】
動画における、特定の被写体を含む特定領域の動きを示すグローバル運動を、前記動画に含まれる複数のフレーム画像から推定するグローバル運動推定手段と、
前記動画における、前記特定の被写体の動きを示すローカル運動を、前記複数のフレーム画像から推定するローカル運動推定手段と、
推定されたグローバル運動及びローカル運動に基づいて、前記動画における前記特定の被写体又は前記特定領域の動きを補正する画像補正手段と、
を備える画像処理装置。
【請求項２】
前記ローカル運動推定手段は、前記特定の被写体が含まれる領域における特定点の移動量を用いてローカル運動を推定する、請求項１記載の画像処理装置。
【請求項３】
前記特定点は、前記被写体の重心である、請求項２記載の画像処理装置。
【請求項４】
前記画像補正手段は、推定された前記グローバル運動に対応する射影変換行列を作成し、
推定された前記ローカル運動に基づいて前記射影変換行列を補正し、
前記補正された射影変換行列に基づいて、前記動画における前記特定の被写体又は前記特定領域の動きを補正する、請求項１乃至３記載の画像処理装置。
【請求項５】
前記グローバル運動推定手段及び前記ローカル運動推定手段は、入力画像を縮小した画像を用いてグローバル運動及びローカル運動を推定する、請求項１乃至４記載の画像処理装置。
【請求項６】
動画における、特定の被写体を含む特定領域の動きを示すグローバル運動を、前記動画に含まれる複数のフレーム画像から推定するグローバル運動推定を実行するステップと、
前記動画における、前記特定の被写体の動きを示すローカル運動を、前記複数のフレーム画像から推定するローカル運動推定を実行するステップと、
推定されたグローバル運動及びローカル運動に基づいて、前記動画における前記特定の被写体又は前記特定領域の動きを補正する画像補正を実行するステップと、
をコンピュータに実行させる画像処理プログラム。
【請求項７】
動画における、特定の被写体を含む特定領域の動きを示すグローバル運動を、前記動画に含まれる複数のフレーム画像から推定するグローバル運動推定を実行するステップと、
前記動画における、前記特定の被写体の動きを示すローカル運動を、前記複数のフレーム画像から推定するローカル運動推定を実行するステップと、
推定されたグローバル運動及びローカル運動に基づいて、前記動画における前記特定の被写体又は前記特定領域の動きを補正する画像補正を実行するステップと、
を有する画像処理方法。
【請求項８】
動画を撮影する撮影用カメラと、前記動画の画像を処理する画像処理装置と、画像処理された前記動画の画像を表示する表示装置を有する画像処理システムであって、
前記画像処理装置は、前記動画における、特定の被写体を含む特定領域の動きを示すグローバル運動を、前記動画に含まれる複数のフレーム画像から推定するグローバル運動推定手段と、
前記動画における、前記特定の被写体の動きを示すローカル運動を、前記複数のフレーム画像から推定するローカル運動推定手段と、
推定されたグローバル運動及びローカル運動に基づいて、前記動画における前記特定の被写体又は前記特定領域の動きを補正する画像補正手段と、を備える画像処理装置である、
画像処理システム。
【請求項９】
推定されたグローバル運動若しくはローカル運動又はその両方に基づいて、前記撮影用カメラの動作を調整するカメラ動作調整装置を有する請求項８記載の画像処理システム。
【請求項１０】
推定されたグローバル運動若しくはローカル運動又はその両方に基づいて、前記特定の被写体の位置を調整する被写体位置調整装置を有する請求項８又は９記載の画像処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理プログラム及び画像処理方法に関する。
【背景技術】
【０００２】
一般に、動画においては、カメラ等の動きに起因した画像の特定領域（画像全体でもよい）の動きを示すグローバル運動と、特定の被写体の動きを示すローカル運動とが存在することが知られている。【０００３】
従来、グローバル運動を推定する方法として、ブロック毎に得られた動きベクトルの平均値やメジアン値、最頻値を取る処理が簡易方法として用いられてきた。また、画面全体をひとつの大きなブロックとして画面全体の動きベクトルを推定する画像処理装置が知られている。【０００４】
下記特許文献１には、映像処理による歪み補正を行う方法が開示されているが、画像特徴点を用いる方法であり、映像の揺れによる平行移動成分と歪み成分の両者を別々に推定する技術思想が開示されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１３−０１７１５５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、上記の従来技術では、グローバル運動やローカル運動のうち、所望の運動を指定して補正することができないという問題が生じていた。【０００７】
本発明はこのような事情に鑑みてなされたものであり、所望の運動を指定して補正することのできる画像処理装置、画像処理プログラム及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明の一側面に係る画像処理装置は、動画における、特定の被写体を含む特定領域（画像全体でもよい）の動きを示すグローバル運動を、動画に含まれる複数のフレーム画像から推定するグローバル運動推定手段と、動画における、特定の被写体の動きを示すローカル運動を、複数のフレーム画像から推定するローカル運動推定手段と、推定されたグローバル運動及びローカル運動に基づいて、動画における特定の被写体又は特定領域の動きを補正する画像補正手段と、を備える。【０００９】
また、本発明の一側面に係る画像処理プログラムは、動画における、特定の被写体を含む特定領域（画像全体でもよい）の動きを示すグローバル運動を、動画に含まれる複数のフレーム画像から推定するグローバル運動推定を実行するステップと、動画における、特定の被写体の動きを示すローカル運動を、複数のフレーム画像から推定するローカル運動推定を実行するステップと、推定されたグローバル運動及びローカル運動に基づいて、動画における特定の被写体又は前記特定領域の動きを補正する画像補正を実行するステップと、を備える。【００１０】
また、本発明の一側面に係る画像処理方法は、動画における、特定の被写体を含む特定領域（画像全体でもよい）の動きを示すグローバル運動を、動画に含まれる複数のフレーム画像から推定するグローバル運動推定を実行するステップと、動画における、特定の被写体の動きを示すローカル運動を、複数のフレーム画像から推定するローカル運動推定を実行するステップと、推定されたグローバル運動及びローカル運動に基づいて、動画における特定の被写体又は前記特定領域の動きを補正する画像補正を実行するステップと、を備える。
【発明の効果】
【００１１】
本発明によれば、指定した運動を補正することにより、所望の画像処理を行うことが可能となる。
【図面の簡単な説明】
【００１２】
【図１】本発明の一実施形態による画像処理システム１の概略図
【図２】本発明の一実施形態による画像処理装置１０の概念図
【図３】空間上の点とカメラ運動に対応する画像内画素点の対応関係
【図４】空間中の３次元の運動に起因する２次元画像運動の概要図
【図５】本発明の一実施形態によるグローバル運動推定部２００の概念図
【図６】対応点列メモリの概要図
【図７】本発明の一実施形態による対応点選択部２３０の処理の概要図
【図８】特定の被写体の輪郭及び重心点の抽出の概要図
【図９】本発明の一実施形態によるローカル運動推定部３００の概念図
【図１０】本発明の一実施形態による画像補正部４００の概念図
【図１１】カメラ運動によるカメラ軸変化の模式図
【図１２】並列処理を可能とした画像処理装置１０の概念図
【図１３】画像処理装置１０による画像処理に起因してブラックエリアが発生する場合の概念図
【図１４】カメラ動作調整装置を組み合わせた画像処理システム１の概念図
【図１５】被写体位置調整装置を組み合わせた画像処理システム１の概念図
【図１６】画像処理装置１０を適用した医療用映像処理システム２の概念図
【発明を実施するための形態】
【００１３】
以下、本発明の実施形態について図面を参照して説明する。
【００１４】
図１は、本発明の一実施形態による画像処理システム１の概略図である。画像処理システム１は、画像処理装置１０、撮影用カメラ２０及び表示装置３０を備える。撮影用カメラ２０は、所定の撮影対象を撮影した画像を示す入力画像データを生成し、画像処理装置１０に送信する。画像処理装置１０は、撮影用カメラ２０から受信した入力画像データに所定の処理を行い、出力画像データを表示装置３０に送信する。表示装置３０は、画像処理装置１０から受信した出力画像データに基づいて、所定の画像を表示する。
【００１５】
図２は、本発明の一実施形態による画像処理装置１０の概念図である。画像処理装置１０は、画像縮小部１００、グローバル運動推定部２００、ローカル運動推定部３００及び画像補正部４００を備える。
【００１６】
画像縮小部１００は、入力画像データを所望の処理画像データに縮小して、後段のグローバル運動推定処理及びローカル運動推定処理の高速化を図るものである。分解能の高い画像データによる画像処理は、所定のビデオレートに対応する処理時間内での処理を困難とすることがある。そのため、入力画像データを直接用いず、射影変換行列などを算出するための計算処理用の画像データとして所定サイズに分離縮小することにより、処理の効率化を図ることができる。画像サイズを縮小するとともに、入力画像データを所定の画像形式に変換してもよい。なお、後述のとおり、画像補正部４００による画像補正の対象とする画像としては、入力画像データそのものを利用する。
【００１７】
グローバル運動推定部２００は、対象とするフレームの画像データと対象フレームよりも前のフレーム（例えば１フレーム前の画像データ）とに基づいてグローバル運動を推定する。グローバル運動推定部２００に含まれる各構成の詳細については後述する。
【００１８】
ローカル運動推定部３００は、対象とするフレームの画像データと対象フレームよりも前のフレーム（例えば１フレーム前の画像データ）とに基づいてローカル運動を推定する。ローカル運動推定部３００に含まれる各構成の詳細については後述する。なお、ローカル運動の補償を要しない場合には、ローカル運動推定部３００の機能をオフにしてもよい。
【００１９】
画像補正部４００は、推定されたグローバル運動及びローカル運動に基づいて、射影変換行列を作成し、動画における特定の被写体又は特定領域（画像全体でもよい）の動きを補正する。画像補正部４００に含まれる各構成の詳細については後述する。
【００２０】
画像処理装置１０による画像処理の概要を説明する前提として、まず、動画像中における運動について以下説明する。
【００２１】
図３に、３次元空間上の点Ｐｉと対応するカメラ位置ｂ（第ｂフレームにおけるカメラ位置としてもよい。）における画像の画素点ｐｉｂ、カメラ位置ｎ（第ｎフレームにおけるカメラ位置としてもよい。）における画像の画素点ｐｉｎ及びカメラ位置ｒ（第ｒフレームにおけるカメラ位置としてもよい。）の画像の画素点ｐｉｒの関係を示す。ここで、ｉは画素点の番号を示す。
【００２２】
空間上の点Ｐｉとスクリーン上の点ｐｉｎの間の関係を、同次座標を用いてベクトル式で記述すると以下のとおりである。
【００２３】
【数１】
2018212272.tif 000003
【００２４】
ただし、ＭＩ及びＭＥはそれぞれカメラの内部パラメータ及び外部パラメータを示す。内部パラメータはカメラのレンズ系に依存した情報であり、外部パラメータは、空間内におけるカメラの位置及び撮像方向を示す情報である。式（１）を要素に展開すると、以下のとおりとなる。
【００２５】
【数２】
2018212272.tif 000004
【００２６】
ただし、Ｘｉ、Ｙｉ及びＺｉは被写体の特定点の三次元座標を、ｘｉｎ及びｙｉｎはカメラ位置ｎにおける前記被写体の特定点に対応する画素点を示す。また、ｆｘ及びｆｙは焦点距離を、ｃｘ及びｃｙは中心からの光軸のずれを、Ｒｎ及びｔｎはそれぞれカメラ位置番号ｎにおけるカメラ座標系への回転及び平行移動を示す。また、画素位置が（ｘｉｎ，ｙｉｎ，１）と正規化されるよう予めスケール情報であるλｉｎ倍している。
【００２７】
内部パラメータ及び外部パラメータを射影変換行列Ｈｎにまとめると、式（３）を得る。
【００２８】
【数３】
2018212272.tif 000005
【００２９】
カメラ位置ｒに関しても、以上と同様に式（４）及び式（５）が得られる。
【００３０】
【数４】
2018212272.tif 000006
【数５】
2018212272.tif 000007
【００３１】
Ｈｎは３行４列の行列であり、この一般化逆行列（Ｈｎ）−は、式（６）のとおりである。なお、一般化逆行列（Ｈｎ）−は、４行３列の行列である。
【数６】
2018212272.tif 000008
【００３２】
これにより、カメラ位置ｎの画素点とカメラ位置ｒの画素点の間の対応は、式（７）のとおり表すことができる。
【数７】
2018212272.tif 000009
【００３３】
カメラ位置ｎの画像の画素位置を、運動後のカメラ位置ｒの画像の対応する画素位置へ変換する射影変換行列をＨｎ２ｒとして式（７）を変換すると、以下の式（８）が得られる。
【数８】
2018212272.tif 000010
【００３４】
なお、カメラ位置ｒ及びｎで用いられるカメラが同一カメラの場合には、内部パラメータＭＩは相殺され射影変換行列Ｈｎ２ｒに含まれない。
【００３５】
次に、画像の運動（画像中の物体の運動）について説明する。３次元空間中で輪郭を持つ実体は、２次元投影された画像中においても、２次元物体としての輪郭を有する。画像中のこれらの２次元物体がフレーム毎に画像上で占める位置を変えることを画像の運動（正確には画像中の物体の運動）という。画像の運動は、その発生要因に応じて表１のとおりに分類することができる。なお、「運動の周波数」とは、厳密には運動軌跡の空間周波数を指す。
【００３６】
【表１】
2018212272.tif 000011
【００３７】
まず、カメラ等の動きに起因した画像の特定領域（画像全体でもよい）の動きを示すグローバル運動が存在する。カメラの運動を要因とする画像の運動は全被写体が同じ方向（消失点）に一律に運動する。グローバル運動の要因であるカメラの運動はカメラの方向を選択するパン／チルト等の意図的な運動と、振動等の意図しない運動要因に分かれる。一方、空間中の物体の個別の運動は画像中の特定の部分のみが運動するローカル運動である。通常、画像中の運動はグローバル運動にローカル運動が重ね合わされたものとなる。
【００３８】
図４は、空間中の３次元の運動に起因する２次元画像運動を、対応する画素の動きを用いて示すものである。図４（ａ）はカメラ等の運動に起因する画像のグローバル運動を示した模式図である。ある時刻（例えば第ｎフレーム）の特定の画素ｉ及びｓに対応する画素点ｐｉｎ及びｐｓｎが、それぞれ次のある時刻で対応する画素位置ｐｉｎ＋１及びｐｓｎ＋１に移動したことを示している。運動は矢印の移動量ベクトルで示される。
【００３９】
図４（ｂ）はより多くの画素点についての移動量ベクトルを図示したものである。グローバル運動の特徴は、ベクトルの方向が均一に射影変換されて消失点の方向を向くということである。また、図４（ｂ）は空間中の物体の自立的な運動とカメラの運動が同時に起こった場合の様子を示している。つまり、グローバル運動以外に、一部の特定の画像部分でローカル運動が存在する。図中、消失点と異なる方向を向く破線で示された矢印が、ローカル運動の移動量ベクトルである。
【００４０】
次に、画像処理装置１０による画像処理の概要を説明する。
【００４１】
画像縮小部１００は、入力画像データを所望のサイズに縮小した画像データを得る。
【００４２】
グローバル運動推定部２００によるグローバル運動の推定について、以下説明する。
【００４３】
図５は、グローバル運動推定部２００の構成例を示している。グローバル運動推定部２００は、例えば輝度画像生成部２１０、対応点検出部２２０及び対応点選択部２３０を備える。
【００４４】
輝度画像生成部２１０は、入力された画像データ（縮小されたサイズの画像でもよい。）をグレースケール画像（モノクロの輝度画像で例えば８ビット）に変換する。
【００４５】
対応点検出部２２０は、２つのフレームにおける画像データ（例えば対象となるフレームにおける画像データ及びその１つ前のフレームの画像データ）において、対応点がどのように動いたかを検出する。対応点の特定は、適宜の方法で行うことができるが、例えば注目する画像の輝度と周囲の輝度勾配が類似している点を対応点として認識することで行う。対応点検出部は、検出した対応点に関する情報を、対応点列メモリ情報として出力する。図６に、対応点列メモリの概要を示す。
【００４６】
対応点選択部２３０は、対応点検出部２２０が検出した対応点の中から、適宜の対応点を選択する。後述するように、射影変換行列を解くためには４点以上の対応点が必要となる。図７に、対応点選択部２３０の処理の概要を示す。選択された対応点の情報は、画像補正部４００へ出力される。
【００４７】
ローカル運動推定部３００によるローカル運動の推定について、以下説明する。なお、ローカル運動の推定は、適宜の方法により行うことができるが、以下では、特定の被写体の重心の移動量に基づくローカル運動の推定について説明する。図８に、特定の被写体の輪郭及び重心点の抽出の概要を示す。
【００４８】
図９は、ローカル運動推定部３００の構成例を示している。ローカル運動推定部３００は、領域抽出部３１０、重心計算部３２０及び移動量計算部３３０を備える。
【００４９】
領域抽出部３１０は、ローカル運動をする特定の被写体が占める領域を抽出する。領域の抽出は適宜の方法によって行うことができるが、例えば、特定の色相を持つ領域を抽出することで行う。
【００５０】
重心計算部３２０は、領域抽出部３１０で抽出された領域について、適宜の方法で輪郭線を構成する点列の座標（（ｘ１ｎ，ｙ１ｎ），…，（ｘｉｎ，ｙｉｎ），…，（ｘＮｎ，ｙＮｎ））を作成し、以下の式（９）に従い、特定の被写体の重心位置を求める。なお、二値化画像として処理してもよい。
【００５１】
【数９】
2018212272.tif 000012
【００５２】
１つ前のフレームとの間の移動量ベクトルは、以下の式（１０）で求められる。移動量ベクトルの値は、画像補正部４００へ出力される。
【数１０】
2018212272.tif 000013
【００５３】
次に、画像補正部４００による画像の補正について説明する。
【００５４】
図１０は、画像補正部４００の構成例を示している。画像補正部４００は、読出部４１０、射影変換行列計算部４２０及び画像処理部４３０を備える。
【００５５】
読出部４１０は、グローバル運動の対応点情報及びローカル運動の移動量ベクトル情報を読み出し、射影変換行列計算部４２０に送る。
【００５６】
射影変換行計算部４２０は、まず、グローバル運動の対応点情報に基づいて、グローバル運動に関連する射影変換行列を作成する。前述のとおり、カメラ位置ｎ（すなわち第ｎフレーム）の画像の画素位置を、運動後のカメラ位置ｒ（すなわち第ｒフレーム）の画像の対応する画素位置へ変換する射影変換行列は、式（８）のとおりである。
【００５７】
Ｈｎ２ｒは３行３列であるので高々９個の未知数を持つ。ｐ〜ｉｎ及びｐ〜ｉｒは既知であるので、対となる複数の対応点列を用いて連立方程式を解けば、未知のＨｎ２ｒを求めることができる。同次座標系を用いた関係式であり、射影変換行列は３行３列の行列でスケールが未定であるため、自由度は８となる。したがって、Ｈｎ２ｒは以下のように表現することができ、行列形式の未知数は８要素となる。
【００５８】
【数１１】
2018212272.tif 000014
【００５９】
Ｈｎ２ｒは、追跡点数が４点以上あれば解くことができる。以下、追跡点が４点である場合について説明する。まず、各追跡点の第ｎフレームと第ｒフレームの位置関係は、以下のように示すことができる。
【００６０】
【数１２】
2018212272.tif 000015
【００６１】
式（１２）を要素で書き換えると、以下のとおりとなる。
【００６２】
【数１３】
2018212272.tif 000016
【００６３】
式（１３）を通常の連立方程式に整理すると、以下のとおりとなる。
【００６４】
【数１４】
2018212272.tif 000017
【００６５】
式（１４）に示された方程式を解けば、Ｈｎ２ｒの未知の各要素を算出することができる。
【００６６】
次に、射影変換行列計算部４２０は、ローカル運動推定部３００から受け取った移動量ベクトルの値に基づいて、Ｈｎ２ｒを以下のように補正する。ここで、Ｗｉｄｔｈは画像の横方向の画素数を、Ｈｅｉｇｈｔは縦方向の画素数を示す。
【００６７】
【数１５】
2018212272.tif 000018
【００６８】
射影変換行列計算部は、以下のとおり、第ｎフレームから第ｒフレームへの射影変換行列Ｈｎ２ｒと、第ｂフレームから第ｎフレームへの射影変換行列Ｈｂ２ｎから、第ｂフレームから第ｒフレームへの射影変換行列Ｈｂ２ｒを算出する。
【００６９】
【数１６】
2018212272.tif 000019
【００７０】
射影変換行列Ｈｂ２ｒは、一フレームごとに累積的に計算することとしてもよい。すなわち、式（１６）において、ｎを（ｎ−１）に、ｒをｎに置き換えれば、第ｎ−１フレームから第ｎフレームへの射影変換行列Ｈ（ｎ−１）２ｎと、第ｂフレームから第ｎ−１フレームへの射影変換行列Ｈｂ２（ｎ−１）から、第ｂフレームから第ｎフレームへの射影変換行列Ｈｂ２ｎを算出することができる。同様に、第ｂフレームから第ｎ−１フレームへの射影変換行列Ｈｂ２（ｎ−１）についても、第ｎ−２フレームから第ｎ−１フレームへの射影変換行列Ｈ（ｎ−２）２（ｎ−１）と、第ｂフレームから第ｎ−２フレームへの射影変換行列Ｈｂ２（ｎ−２）から算出される。このように、射影変換行列計算部４２０は、第ｂフレームから１フレーム毎に１つ前のフレームからの射影変換行列を累積的に乗算することにより、累積的に射影変換行列を作成するものとすることができる。
【００７１】
なお、射影変換行列計算部は、基準となるフレームを所定の周期毎に更新する基準画像周期を設定してもよい。基準画像周期を設定することにより、運動の周波数が低い意図的グローバル運動と、運動の周波数が高い非意図的グローバル運動とを区別して検出することが可能となる。カメラ運動によるカメラ軸変化の模式図を図１１に示す。カメラのパンやチルトのような意図的グローバル運動の長周期波形に、手ぶれや振動等のような非意図的グローバル運動の短周期波形が重畳される。短い基準画像周期を設定することにより、意図的グローバル運動を補償しないようにすることができる。
【００７２】
画像処理部４３０は、第ｂフレームから第ｎフレームへの（累積）射影変換行列Ｈｂ２ｎを用いて、第ｎフレームの入力画像データに対し、以下のとおり補償を行う。ただし、入力画像データの画素をｐｉｒ、変換後の画素をｐｉｂ’とする。なお、ここでの補償に用いる入力画像データは、縮小された画像データではなく、元のサイズの入力画像データを用いることができる。
【００７３】
【数１７】
2018212272.tif 000020
【００７４】
以上、画像処理装置１０の例示的な実施形態について説明した。画像処理装置１０の基本的な実施形態では、動画における、特定の被写体を含む特定領域の動きを示すグローバル運動を、動画に含まれる複数のフレーム画像から推定するグローバル運動推定部２００と、動画における、特定の被写体の動きを示すローカル運動を、複数のフレーム画像から推定する推定部３００と、推定されたグローバル運動及びローカル運動に基づいて、動画における特定の被写体又は前定領域の動きを補正する画像補正部４００と、を備える。これにより、所望の運動を指定して画像を補正することができる。
【００７５】
ローカル運動推定部３００は、特定の被写体が含まれる領域における特定点の移動量を用いてローカル運動を推定することとしてもよい。また、ローカル運動推定部３００が用いる特定点は、被写体の重心としてもよい。これにより、特定の被写体の重心点が停止し、他の部分が相対的に運動する画像を生成することができる。
【００７６】
画像補正部４００は、推定されたグローバル運動に対応する射影変換行列を作成し、推定されたローカル運動に基づいて射影変換行列を補正し、補正された射影変換行列に基づいて、動画における特定の被写体又は特定領域の動きを補正することとしてもよい。これにより、グローバル運動とローカル運動とを同時に補償することができる。
【００７７】
グローバル運動推定部２００及び前記ローカル運動推定部３００は、入力画像を縮小した画像を用いてグローバル運動及びローカル運動を推定することとしてもよい。これにより、射影変換行列を算出するための処理を効率化することができる。
【００７８】
画像処理装置１０は、並列的処理を行うこととしてもよい。図１２に一例を示す。メモリ部５００は、入力画像データを例えば第ｎフレームの入力画像データＩｍａｇｅｎ及び１つ前の第ｎ−１フレームの入力画像データＩｍａｇｅｎ−１を保持する。メモリ部５００は、Ｉｍａｇｅｎをグローバル運動推定部２００及びローカル運動推定部３００へ出力する。グローバル運動推定部２００及びローカル運動推定部３００は、第ｎフレームの入力画像データＩｍａｇｅｎについて所定の推定処理を行い、メモリ部６００に対し、それぞれ第ｎフレームの入力画像データＩｍａｇｅｎに関するグローバル運動の対応点情報及びローカル運動の移動量ベクトル情報を出力する。なお、メモリ部６００は、１つ前の第ｎ−１フレームの入力画像データＩｍａｇｅｎ−１に関するグローバル運動の対応点情報及びローカル運動の移動量ベクトル情報も保持する。
【００７９】
以上の処理を実行するのと並列的に、画像補正部４００は、第ｎ−１フレームの入力画像データＩｍａｇｅｎ−１について、画像補正を実行する。具体的には、読出部４１０は、メモリ部６００が保持している第ｎ−１フレームの入力画像データＩｍａｇｅｎ−１に関するグローバル運動の対応点情報及びローカル運動の移動量ベクトル情報を読み出し、射影変換行列計算部４２０へ出力する。射影変換行列計算部４２０は、第ｂフレームから第ｎ−１フレームへの射影変換行列Ｈｂ２（ｎ−１）を算出し、画像処理部４３０へ出力する。画像処理部４３０は、メモリ部５００から出力される第ｎ−１フレームの入力画像データＩｍａｇｅｎ−１と、第ｂフレームから第ｎ−１フレームへの射影変換行列Ｈｂ２（ｎ−１）を用いて、第ｎ−１フレームの入力画像データＩｍａｇｅｎ−１に対し、画像補正を実行する。
【００８０】
上述のような構成により、複数フレーム分の入力画像データを並列的に処理することができ、画像処理装置１０の処理を効率化することができる。
【００８１】
ところで、画像処理装置１０による画像処理を行う場合、補償対象のグローバル運動やローカル運動が大きいと、画像処理後の出力画像データの一部に、未定義の領域すなわちブラックエリアが発生することがある。図１３に、画像処理装置１０による画像処理に起因してブラックエリアが発生する場合の概念図を示す。図１３（ａ）は、ある基準フレーム（第ｂフレーム）における特定の被写体１０００、撮像範囲１１００及び出力画像データの出力範囲１２００の関係を示している。図１３（ｂ）は、当該基準フレームより後のフレーム（第ｎフレーム）における特定の被写体１０００、撮像範囲１１００、出力画像データの出力範囲１２００及びブラックエリア１３００の関係を示している。第ｎフレームでは、第ｂフレームからグローバル運動若しくはローカル運動又はその両方が発生したことに起因して、特定の被写体１０００の画面上の位置が移動している。この場合、画像処理装置１０による画像処理を行うと、例えば特定の被写体１０００が出力画像データの中心部に位置するように補正されるところ、出力画像データの出力範囲１２００には、ブラックエリア１３００が含まれることとなる。
【００８２】
そこで、このような問題を解消するため、画像処理システムにおいては、画像処理装置１０とともに、物理的な動作調整装置と組み合わせて利用してもよい。例えば、グローバル運動やローカル運動に基づいてカメラの動作を調整するカメラ動作調整装置を用いてもよいし、グローバル運動やローカル運動に基づいて被写体の位置を調整する被写体位置調整装置を用いることとしてもよい。
【００８３】
図１４は、カメラ動作調整装置を組み合わせた画像処理システム１の概念図である。撮影用カメラ２０には、カメラ動作調整用のアクチュエーター４１が取り付けられる。画像処理装置１０は、特定の被写体１０００を撮影する撮影用カメラ２０から受信した入力画像データを基にグローバル運動若しくはローカル運動又はその両方を推定するとともに、推定されたグローバル運動若しくはローカル運動又はその両方に基づき算定される制御情報をアクチュエーター４１に送信する。アクチュエーター４１は、受信した前記制御情報に基づいて、撮影用カメラの動作（例えば、向きや傾きの変更、及び水平移動や垂直移動が含まれるが、これらに限られない。）を調整する。
【００８４】
また、図１５は、被写体位置調整装置を組み合わせた画像処理システム１の概念図である。特定の被写体１０００は、撮影用ステージ２０００に置かれており、撮影用ステージ２０００には、被写体位置調整用のアクチュエーター４２が取り付けられる。画像処理装置１０は、特定の被写体１０００を撮影する撮影用カメラ２０から受信した入力画像データを基にグローバル運動若しくはローカル運動又はその両方を推定するとともに、推定されたグローバル運動若しくはローカル運動又はその両方に基づき算定される制御情報を被写体位置調整用のアクチュエーター４２に送信する。アクチュエーター４２は、受信した前記制御情報に基づいて、撮影用ステージ２０００の位置を調整する。
【００８５】
図１５において、撮影用カメラ２０は、例えば顕微鏡であり、特定の被写体１０００は例えば微生物等の動く物体である。特定の被写体１０００が動いた場合であっても、特定の被写体１０００を含む所望の領域が顕微鏡の視野内に位置するように、アクチュエーター４２が撮影用ステージ２０００の位置を調整する。
【００８６】
次に、上記実施形態における画像処理システム１の適用例について説明する。
【００８７】
図１６は、画像処理装置１０を適用した医療用映像処理システム２の概念図である。医療用映像処理システム２は、画像処理装置１０、医療用カメラ２１及び画像表示モニター３１を備える。ここで、医療用カメラ２１は、例えば内視鏡カメラ、天井に設置される手術用記録カメラ、医療用顕微鏡等である。画像処理装置１３は、医療用カメラ２１から入力された入力画像データを処理し、画像表示モニター３１に出力する。画像表示モニター３１は、手術等の医療行為の実施にあたり医師らが必要とする映像等を出力する。
【００８８】
なお、以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更／改良され得るととともに、本発明にはその等価物も含まれる。すなわち、各実施形態に当業者が適宜設計変更を加えたものも、本発明の特徴を備えている限り、本発明の範囲に包含される。例えば、各実施形態が備える各要素およびその配置、材料、条件、形状、サイズなどは、例示したものに限定されるわけではなく適宜変更することができる。また、各実施形態は例示であり、異なる実施形態で示した構成の部分的な置換または組み合わせが可能であることは言うまでもなく、これらも本発明の特徴を含む限り本発明の範囲に包含される。
【符号の説明】
【００８９】
１  画像処理システム
２  医療用画像処理システム
１０  画像処理装置
２０  撮影用カメラ
２１  医療用カメラ
３０  表示装置
３１  画像表示モニター
４１  カメラ動作調整用のアクチュエーター
４２  被写体位置調整用のアクチュエーター
１００  画像縮小部
２００  グローバル運動推定部
２１０  輝度画像生成部
２２０  対応点検出部
２３０  対応点選択部
３００  ローカル運動推定部
３１０  領域抽出部
３２０  重心計算部
３３０  移動量計算部
４００  画像補正部
４１０  読出部
４２０  射影変換行列計算部
４３０  画像処理部
５００，６００  メモリ部
１０００  特定の被写体
１１００  撮像範囲
１２００  出力画像データの出力範囲
１３００  ブラックエリア
２０００  撮影用ステージ
【図１】
2018212272.tif 000021
【図２】
2018212272.tif 000022
【図３】
2018212272.tif 000023
【図４】
2018212272.tif 000024
【図５】
2018212272.tif 000025
【図６】
2018212272.tif 000026
【図７】
2018212272.tif 000027
【図８】
2018212272.tif 000028
【図９】
2018212272.tif 000029
【図１０】
2018212272.tif 000030
【図１１】
2018212272.tif 000031
【図１２】
2018212272.tif 000032
【図１３】
2018212272.tif 000033
【図１４】
2018212272.tif 000034
【図１５】
2018212272.tif 000035
【図１６】
2018212272.tif 000036
【国際調査報告】
2018212272.tif 000037
2018212272.tif 000038
2018212272.tif 000039
2018212272.tif 000040