(57)【特許請求の範囲】
【請求項１】
揺らぎが互いに非同期の複数の蛍光灯またはＬＥＤ光源が存在する照明環境下で取得された画像の連続する複数フレームについて、各フレームごとに対応する複数の領域に分割された前記領域ごとに、明るさを算出する工程と、
前記分割された領域ごとに、前記連続する複数フレームについて、明るさの平均値を求める工程と、
前記連続する複数フレームの中の補正対象フレームについて、前記分割された領域ごとに、その領域の明るさとこれに対応する領域の前記明るさの平均値との差異に基づいて、前記その領域の各画素の明るさを補正する工程を有し、
前記工程はそれぞれ、
分割された前記領域ごとに独立して前記複数の領域間で同時に並列処理され、かつ、ＲＧＢごとに独立して前記ＲＧＢ間で同時に並列処理される
ことを特徴とするフリッカーを除去する画像処理方法。
【請求項２】
請求項１に記載のフリッカーを除去する画像処理方法において、
前記連続する複数フレームは、直前の連続した数フレーム〜数十フレームである
ことを特徴とするフリッカーを除去する画像処理方法。
【請求項３】
請求項１または請求項２に記載のフリッカーを除去する画像処理方法において、
前記ＲＧＢの並列処理と、前記複数の領域間の並列処理と、が同時に並列処理される
ことを特徴とするフリッカーを除去する画像処理方法。
【請求項４】
請求項１乃至請求項３のいずれか一項に記載のフリッカーを除去する画像処理方法において、
前記連続する複数フレームは、直前の一秒間に対応するフレーム数である
ことを特徴とするフリッカーを除去する画像処理方法。
【請求項５】
揺らぎが互いに非同期の複数の蛍光灯またはＬＥＤ光源が存在する照明環境下で取得された画像の連続する複数フレームについて、各フレームごとに対応する複数の領域に分割された前記領域ごとに、明るさを算出する明るさ算出部と、
前記分割された領域ごとに、前記連続する複数フレームについて、明るさの平均値を求める平均値算出部と、
前記連続する複数フレームの中の補正対象フレームについて、前記分割された領域ごとに、その領域の明るさとこれに対応する領域の前記明るさの平均値との差異に基づいて、前記その領域の各画素の明るさを補正する補正部とを有し、
分割された前記領域ごとに独立して前記複数の領域間で同時に並列処理され、かつ、ＲＧＢごとに独立して前記ＲＧＢ間で同時に並列処理される
ことを特徴とするフリッカーを除去する画像処理装置。
【請求項６】
請求項５に記載のフリッカーを除去する画像処理装置において、
前記連続する複数フレームは、直前の連続した数フレーム〜数十フレームである
ことを特徴とするフリッカーを除去する画像処理装置。
【請求項７】
請求項５または請求項６に記載のフリッカーを除去する画像処理装置において、
前記ＲＧＢの並列処理と、前記複数の領域間の並列処理と、が同時に並列処理される
ことを特徴とするフリッカーを除去する画像処理装置。
【請求項８】
請求項５乃至請求項７のいずれか一項に記載のフリッカーを除去する画像処理装置において、
前記連続する複数フレームは、直前の一秒間に対応するフレーム数である
ことを特徴とするフリッカーを除去する画像処理装置。
【請求項９】
請求項１乃至請求項４のいずれか一項に記載のフリッカーを除去する画像処理方法において、
分割された前記複数の領域の数の３倍に相当する複数の各処理部において、前記領域ごとに明るさを算出する工程と、前記明るさの平均値を求める工程と、前記各画素の明るさを補正する工程と、がＲＧＢごとに独立して同時に並列処理される
ことを特徴とするフリッカーを除去する画像処理方法。
【請求項１０】
請求項５乃至請求項８のいずれか一項に記載のフリッカーを除去する画像処理装置において、
前記明るさ算出部と前記平均値算出部と前記補正部とは、分割された前記複数の領域の数の３倍に相当する組数を備える
ことを特徴とするフリッカーを除去する画像処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、取得された動画像に対しても適用可能な、フリッカーを除去する画像処理方法とその画像処理装置に関する。
【背景技術】
【０００２】
照明装置それ自体でフリッカーの発生を抑制する手段として、照明装置に電源インバータ装置を設け、高周波で点灯させることが知られている。この方法によれば、照明装置が比較的高額となるので、公共の施設やスポーツ施設で積極的に採用されることは難しい。また、より高い周波数の高周波を求めると、価格もより高くなってしまう。一方で、カメラによる動画撮影の観点からは、より高い周波数で点灯する照明であることが好ましい。
【０００３】
一方、カメラ側におけるフリッカーへの対応として、揺らぎの原因となる照明電源の周波数に合わせて、カメラの撮像周期であるシャッターかフレームレートを同期させることが知られている。この場合には、撮像カメラの電源を照明の電源と同一とし、同一の電源から（すなわち、同期した周期及び揺らぎタイミングの電源から）電力を得る必要があるため、二次電池等で稼働される独立したカメラの場合には対応できない難点がある。
【０００４】
また、照明装置の揺らぎの周波数に対して、カメラの撮像周波数やシャッターの周期を同期させる方法や、フリッカーが生じた映像について連続した複数のフレーム間で映像を重ね合わせて、フィルター処理を遂行する方法も知られている。
【０００５】
しかし、取得された撮影後の動画像を重ね合わせると二重像が形成されることとなるので、エッジや輪郭、細部の映像が損なわれることが懸念される。また、フリッカーをより完全に除去するためにフレーム間の重ね合わせを増大すれば、これにより二重像がより強くなり、かつ輪郭と細部の損失をより増大させることとなる。このため、フレームの重ね合わせは、一般には静止画に対してのみ有効な手法であることが認識されている。
【０００６】
また、撮影後に画像処理により、撮影した映像中のフリッカーを低減する方法等には種々のものが知られている。例えば、ディジタル信号処理方式のビデオカメラなどにおける蛍光灯フリッカーを抑圧する蛍光灯フリッカー補正装置に関する発明が下記特許文献１に開示されている。
【０００７】
特許文献１は、撮像管、ＭＯＳ型撮像素子等を用いたカメラであっても、蛍光灯フリッカー成分を除去することができる優れた蛍光灯フリッカー補正装置を提供することを目的とする。
【０００８】
そして、入力映像信号の垂直強度分布を求め、複数フィールド（またはフレーム、以下同様）の垂直強度分布（垂直方向強度の強度分布）から現フィールドにおける垂直方向に変化するフリッカー成分を求める。それにより、現フィールドの垂直方向のフリッカー成分を補正する蛍光灯フリッカー補正装置とすることが特許文献１に開示されている。
【０００９】
これにより、入力映像信号の垂直強度分布から垂直方向に変化するフリッカー成分を求めるようにしたことにより、従来不可能であった垂直方向に変化する蛍光灯フリッカー成分の補正を行うことができる蛍光灯フリッカー補正装置を提供できる。
【先行技術文献】
【特許文献】
【００１０】
【特許文献１】特開平１１−１２２５１３号公報
【特許文献２】特開２００８−１０９３７０号公報
【発明の概要】
【発明が解決しようとする課題】
【００１１】
動画像に対しても有効であり、かつ迅速にリアルタイム処理が可能なフリッカーを除去する画像処理装置は、従来知られていない。
【００１２】
本発明は、上述の問題点に鑑み為されたものであり、動画像に対しても有効であり、さらに好ましくは迅速にリアルタイム処理が可能な、フリッカーを除去する画像処理方法とその画像処理装置とを提供することを目的とする。
【課題を解決するための手段】
【００１３】
本発明のフリッカーを除去する画像処理方法は、取得された画像の連続する複数フレームについて、各フレームごとに対応する複数の領域に分割された領域ごとに、明るさを算出する工程と、分割された領域ごとに、連続する複数フレームについて、明るさの平均値を求める工程と、連続する複数フレームの中の補正対象フレームについて、分割された領域ごとに、その領域の明るさとこれに対応する領域の明るさの平均値との差異に基づいて、その領域の各画素の明るさを補正する工程を有することを特徴とする。
【００１４】
また、本発明のフリッカーを除去する画像処理方法は好ましくは、各工程が、ＲＧＢそれぞれについて遂行されることを特徴とする。
【００１５】
また、本発明のフリッカーを除去する画像処理方法はさらに好ましくは、各工程が、分割された領域ごとに独立して、複数の領域間で同時に並列処理されることを特徴とする。
【００１６】
また、本発明のフリッカーを除去する画像処理方法はさらに好ましくは、各工程が、ＲＧＢごとに独立して、ＲＧＢ間で同時に並列処理されることを特徴とする。
【００１７】
また、本発明のフリッカーを除去する画像処理装置は、取得された画像の連続する複数フレームについて、各フレームごとに対応する複数の領域に分割された領域ごとに、明るさを算出する明るさ算出部と、分割された領域ごとに、連続する複数フレームについて、明るさの平均値を求める平均値算出部と、連続する複数フレームの中の補正対象フレームについて、分割された領域ごとに、その領域の明るさとこれに対応する領域の明るさの平均値との差異に基づいて、その領域の各画素の明るさを補正する補正部とを備えることを特徴とする。
【００１８】
また、本発明のフリッカーを除去する画像処理装置は、好ましくはＲＧＢそれぞれについて処理することを特徴とする。
【００１９】
また、本発明のフリッカーを除去する画像処理装置は、さらに好ましくは、分割された領域ごとに独立して、複数の領域間で同時に並列処理するように、少なくとも一フレームの領域数に対応する、明るさ算出部と平均値算出部と補正部との組を備えることを特徴とする。
【００２０】
また、本発明のフリッカーを除去する画像処理装置は、さらに好ましくは、ＲＧＢそれぞれについて同時並列に処理するように、明るさ算出部と平均値算出部と補正部とを少なくとも三組備えることを特徴とする。
【発明の効果】
【００２１】
動画像に対しても有効であり、かつ迅速にリアルタイム処理が可能な、フリッカーを除去する画像処理方法とその画像処理装置とを提供できる。
【図面の簡単な説明】
【００２２】
【図１】本発明のフリッカーを除去する画像処理装置の構成概要を説明するブロック図である。
【図２】フリッカーを除去する画像処理装置の補正処理概要を順次説明するフロー図である。
【図３】（ａ）が取得された画像の一フレーム１Ｆを４×６＝２４分割した状態を説明する概念図であり、（ｂ）が連続した複数フレームの領域３１００（１，１）についての明るさ変動を説明する概念図である。
【図４】（ａ）が図３（ｂ）に示した連続した複数フレームの領域３１００（１，１）についての明るさ変動とその時間平均値との関係を説明する概念図であり、（ｂ）が一つの任意のフレーム４４００中において、領域Ａ４５００と領域Ｂ４６００とでは、フリッカーの特性が異なっていることを説明する概念図である。
【発明を実施するための形態】
【００２３】
（実施形態の概要）
照明装置の揺らいだ照明環境で撮影されたこと等によりフリッカーが生じた映像を取得した場合においても、当該フリッカーをリアルタイムで除去できる画像処理装置等を提供する。また、照明装置の揺らぎによるフリッカー等により画像中の色も変化した場合においても、リアルタイムで除去できる画像処理装置等を提供する。また、複数の照明装置による複数の異なる揺らぎが同期せずに存在する場合においても、フリッカーとこれに伴う色の揺らぎを除去できる画像処理装置等を提供する。
【００２４】
このため、実施形態においては連続する複数の静止画像の一領域について、明るさの変化を例えば一秒間（数十フレーム相当時間）観測し、その明るさ（領域平均値）の時間平均値と領域の明るさ（領域平均値）との差分を補正量として、領域中の各画素の明るさを当該差分に対応する値だけ増減処理する。（これにより、補正処理後の当該一領域の明るさ（一領域の各画素の明るさの一領域全体での領域平均値）は該明るさの平均値（時間平均値）となる）
【００２５】
また、この処理はＲＧＢ毎に実施するものとする。これにより、ＲＧＢのそれぞれの明るさ変化に対応した補正を実行できる。また、静止画像全体を複数に分割し、分割した各領域毎に上述の演算処理を遂行する。また、取得された映像信号がＹ信号（輝度色差信号）等であった場合には、ＲＧＢ信号に換算した上でＲＧＢそれぞれについて処理を行うことで、フリッカー除去精度を向上させることができる。
【００２６】
また、スポーツや各種イベントや報道目的等、カメラが比較的速い動きの被写体を撮影する場合には、カメラのシャッター速度が速くなるのでフリッカーがより顕著に生じる傾向にある。また、スポーツイベントや動植物・昆虫の撮影等で最近多用されている高速度カメラでは、フリッカーが特に激しく生じることが知られている。一方、監視カメラの映像の場合であっても、走って逃走する犯人を鮮明に捕らえる性能が求められる。本実施形態では、連続したフレーム映像の明るさの平均値と比較し差分値を求め直接レベルを補正する。
【００２７】
（実施形態）
図１は、本発明のフリッカーを除去する画像処理装置１０００の構成概要を説明するブロック図である。図１に示すように、フリッカーを除去する画像処理装置１０００は、不図示の撮像カメラが取得した画像が入力されて該画像を複数の領域に分割し、分割された領域の明るさ（領域平均値）を算出する明るさ算出部１１００を備える。
【００２８】
また、フリッカーを除去する画像処理装置１０００は、領域平均値を連続する複数フレームに亘って平均値（時間平均値）を算出する平均値算出部１２００を備える。すなわち、平均値算出部１２００は、数フレーム〜数十フレーム、好ましくは約１秒間相当程度についての領域平均値の平均値（時間平均値）を算出する。
【００２９】
また、フリッカーを除去する画像処理装置１０００は、時間平均値と領域平均値との差異を補正すべき量として、当該領域内に存在する各画素に対して差異対応分の明るさ増減補正する補正部１３００を備える。明るさ増減補正は、説明の便宜上以下において単純な数値レベルの加算・減算処理として説明しているが、当該差異に基づいた任意の明るさの調整演算による処理方法としてもよい。
【００３０】
明るさ算出部１１００が算出する領域平均値とは、分割された領域内に存在する各画素の明るさのレベルについて総和を算出し、領域内に存在する画素数で除算した値となる。ここで、図３（ａ）は、取得された画像の一フレーム１Ｆを４×６＝２４分割した状態を説明する概念図である。
【００３１】
図３に示すように、一フレームを、領域３１００（１，１）、領域３１００（１，２）、領域３１００（１，３）、領域３１００（１，４）、・・、領域３１００（１，６）、領域３１００（２，１）、・・領域３１００（４，１）、・・領域３１００（４，６）の２４領域に分割し、領域３１００（１，１）・・領域３１００（４，６）の２４領域それぞれについて、明るさ算出部１１００が明るさの平均値を算出する。そして、明るさ算出部１１００は、取得画像に含まれる好ましくは全てのフレームについて明るさの平均値（領域平均値）を算出する。
【００３２】
また、平均値算出部１２００は、補正対象となるフレームの好ましくは約１秒前〜直前までの連続したすべてのフレーム（例えば６０フレーム）について、各領域の平均値（時間平均値）を算出する。ここで、図３（ｂ）は、連続した複数フレームの領域３１００（１，１）についての明るさ変動を説明する概念図である。また、図４（ａ）は、図３（ｂ）に示した連続した複数フレームの領域３１００（１，１）についての明るさ変動とその時間平均値との関係を説明する概念図である。
【００３３】
図３（ｂ）に示すように、例えば、１フレーム目の領域３１００（１，１）の明るさ、すなわち１Ｆ３１００（１，１）の領域平均値はレベル１であり、２フレーム目の領域３１００（１，１）の明るさ、すなわち２Ｆ３１００（１，１）の領域平均値はレベル２であり、３フレーム目の領域３１００（１，１）の明るさ、すなわち３Ｆ３１００（１，１）の領域平均値はレベル３であり、４フレーム目の領域３１００（１，１）の明るさ、すなわち４Ｆ３１００（１，１）の領域平均値はレベル４であるものとする。
【００３４】
これを数十フレーム分について横軸を時間軸としてプロットすると、図４（ａ）に示すように、フリッカーにより周期的な明るさ変動が生じているものとなる。図４（ａ）においては、数十フレーム相当分の明るさの時間平均値レベルを説明の便宜上、±０として示している。平均値算出部１２００は、上述のように各領域ごとに、補正対象フレームの連続する直前の数フレーム〜数十フレームについて、明るさの時間平均値を算出する。
【００３５】
また、補正部１３００は、明るさの時間平均値と補正対象領域の領域平均値との差異を算出し、その差異を補正すべき明るさレベルとして、当該領域内の全ての画素について明るさレベルの増減補正処理を遂行する。
【００３６】
例えば、図３（ｂ）乃至図４（ａ）から理解できるように、フレーム１Ｆの領域３１００（１，１）に対する補正は、各画素の明るさレベルを１だけ減算処理する補正とすることができる。また、例えば、フレーム２Ｆの領域３１００（１，１）に対する補正は、各画素の明るさレベルを２だけ減算処理する補正とすることができる。また、例えば、フレーム３Ｆの領域３１００（１，１）に対する補正は、各画素の明るさレベルを３だけ減算処理する補正とすることができる。また、例えば、フレーム４Ｆの領域３１００（１，１）に対する補正は、各画素の明るさレベルを４だけ減算処理する補正とすることができる。
【００３７】
なお、上述の説明においては、説明の便宜上、領域３１００（１，１）の時間平均値が、各フレーム１Ｆ〜４Ｆいずれにおいても±０で変わらないものと仮定して説明したが、各フレーム１Ｆ〜４Ｆについてそれぞれ直前の１秒間のフレームの時間平均値とする場合には、時間平均値を算出する対象フレームが互いに異なることとなるので、時間平均値がそれぞれ異なる場合もある。
【００３８】
また、フリッカーを除去する画像処理装置１０００は、明るさ算出部１１００と平均値算出部１２００と補正部１３００とを、例えば４×６×３（ＲＧＢ分）＝７２組備えていることが好ましい。すなわち、一フレームを分割する数×３組だけ備えていることで、各分割領域のＲＧＢそれぞれの色について、別途独立にかつ同時並列処理を遂行することが可能となるので、補正処理に要する時間が短縮されることとなり極めて好ましいものとなる。そして、ＲＧＢそれぞれについて独立に上述した補正を遂行することで、フリッカーに起因する色相の変動が生じている場合でも、これを適切に補正処理することが可能となる。
【００３９】
換言すれば、領域分割により画像空間内のフリッカーの不均一性に適切に対応する補正処理を可能とし、ＲＧＢ各単独処理により、フリッカーによる色相変化に適切に対応する補正処理を可能とする。また、フリッカーを除去する画像処理装置１０００は、一つの装置として構成してもよいし、撮像カメラ等にその機能を組み入れて構成してもよい。
【００４０】
また、図２は、フリッカーを除去する画像処理装置１０００の補正処理概要を順次説明するフロー図である。そこで、図２に示す各ステップに基づいて、フリッカーを除去する画像処理装置１０００の補正処理について以下に説明する。
【００４１】
（ステップＳ２１００）
フリッカーを除去する画像処理装置１０００の明るさ算出部１１００は、入力された取得画像の分割された各領域について、明るさレベル（領域平均値）を算出する。例えば、明るさ算出部１１００は、領域内に存在する全てのＲ画素の明るさレベルの総和を、当該領域内のＲ画素数で除算して、Ｒ画素に関する明るさ平均値（Ｒ画素の領域平均値）を算出する。明るさ算出部１１００は、Ｇ画素、Ｂ画素についても同様に遂行する。また、一フレームのみならず、補正対象フレームの直前の数フレーム〜数十フレーム分について、好ましくは約１秒間相当分のフレームについて、明るさ算出部１１００が領域平均値を算出する。なお、算出した各フレームの各領域のＲＧＢ各画素の領域平均値を、当該フレームアドレスと領域アドレス等との関連付けの下で記憶する不図示の領域平均値記憶部を適宜備えてもよい。
【００４２】
（ステップＳ２２００）
平均値算出部１２００は、補正対象フレームの直前の数フレーム〜数十フレーム分について、各領域の時間平均値を算出する。明るさ算出部１１００による領域平均値の算出を追いかけるように、平均値算出部１２００による時間平均値の算出を、順次追いかけ処理をしてもよい。
【００４３】
すなわち、仮に、明るさ算出部１１００による領域平均値の算出が第１フレームから第６０フレームまで完了すればその時点で、平均値算出部１２００が第１フレームから第６０フレームまでの時間平均値を算出し、次に明るさ算出部１１００による領域平均値の算出が第６１フレームまで完了した時点で、平均値算出部１２００が第２フレームから第６１フレームまでの時間平均値を算出し・・と追いかけ処理をすることができる。この追いかけ処理は、補正部１３００の処理についても同様に遂行できる。
【００４４】
（ステップＳ２３００）
補正部１３００は、時間平均値と領域平均値との差分を算出する。例えば、補正部１３００は、平均値算出部１２００が算出した第１フレームから第６０フレームまでの該当領域３１００（１，１）の時間平均値と、明るさ算出部１１００が算出した第６１フレームの該当領域３１００（１，１）の領域平均値と、の差分を算出する。
【００４５】
（ステップ２４００）
補正部１３００は、ステップＳ２３００で算出した差分を、当該領域３１００（１，１）の全ての画素（但し、Ｒ画素対象の補正処理の場合には全てのＲ画素との意味であり、Ｇ画素対象の補正処理の場合には全てのＧ画素との意味であり、以下同様）に対する補正量として、明るさレベルの増減補正処理を遂行する。このような処理を、ＲＧＢのそれぞれについて独立に遂行する。これにより、フリッカー及びフリッカーに起因する色相の揺らぎを適切かつ迅速に除去する補正処理が可能となる。
【００４６】
また、図４（ｂ）は、一つの任意のフレーム４４００中において、領域Ａ４５００と領域Ｂ４６００とでは、フリッカーの特性が異なっていることを説明する概念図である。図４から理解できるように、例えば領域Ａ４５００においては太陽光の影響が強くあり太陽光に起因する揺らぎが反映されているのに対し、例えば領域Ｂ４６００においては蛍光灯の影響が強くあり蛍光灯に起因するフリッカーが反映されている。本実施形態においては、このように一つのフレーム中に異なる特性のフリッカーが存在する場合においても、複数の領域ごとに独立処理するので、またＲＧＢそれぞれについて独立に処理するので、適切に除去補正処理を遂行できるものとなる。
【００４７】
本発明のフリッカーを除去する画像処理方法は、取得された画像の連続する複数フレームについて、各フレームごとに対応する複数の領域に分割された領域ごとに、明るさを算出する工程と、分割された領域ごとに、連続する複数フレームについて、明るさの平均値を求める工程と、連続する複数フレームの中の補正対象フレームについて、分割された領域ごとに、その領域の明るさとこれに対応する領域の明るさの平均値との差異に基づいて、その領域の各画素の明るさを補正する工程を有することを特徴とする。
【００４８】
これにより、照明装置のフリッカーが反映された映像を取得した場合においても、適切に当該フリッカーのみを除去する事が可能となる。特に、取得映像内に複数の照明装置が存在し、その複数の照明装置のフリッカー周期が互いに異なる場合や、取得映像内にフリッカーを有する照明装置とフリッカーを有さない光源（典型的には例えば太陽、月等）が存在する場合でも、フリッカーのみを適切に除去できる。周期的に発生するフリッカーの複数の周期（好ましくは、数十周期以上）に対応する複数フレームについて、明るさの平均値を算出して、当該平均値になるように画像の明るさを平滑化するように補正するので、フリッカーを適切に除去できるものとなる。
【００４９】
また、画像を複数の領域（エリア）に分割し、分割された領域毎に独立に補正量を算出するので、画像内におけるフリッカーの有無大小やフリッカーの特性の異同に偏りやバラツキが存在したとしても、領域ごとに最適な補正量を算出することができる。また、経時的には、数十周期以上であって好ましくは１秒間程度に相当するフレームに亘って明るさの平均値をとって補正するので、明るさの突発的な変動を緩和する一方で撮影シーンの変更（例えば、室内から屋外へと撮影アングルを変更した場合）などを反映した補正を実現できる。なお、複数の領域に分割された領域ごとに、明るさを算出する工程においては、当該領域内の各画素の明るさを全て加算して画素数で除算するものとし、すなわち当該領域内の明るさの平均値を算出するものとする。
【００５０】
また、本発明のフリッカーを除去する画像処理方法は好ましくは、各工程が、ＲＧＢそれぞれについて遂行されることを特徴とする。これにより、ＲＧＢの各波長について、仮にフリッカー特性が互いに異なる場合であっても、ＲＧＢそれぞれについて独立に補正量を算出して明るさ補正をするので、適切なフリッカー除去が可能となる。一般にフリッカーは、明るさの周期変動が生じるだけではなく、色の周期変動すなわちＲＧＢ各波長の相対的な強度揺れも生じることが知られているが、本発明によればＲＧＢそれぞれについて適切に補正することが可能となる。
【００５１】
また、本発明のフリッカーを除去する画像処理方法はさらに好ましくは、各工程が、分割された領域ごとに独立して、複数の領域間で同時に並列処理されることを特徴とする。これにより、同時並列的に複数の領域が補正処理されるので、全体の補正時間を短縮して迅速な処理を遂行することが可能となる。さらに好ましくは、分割された領域数に対応する数の補正処理部（例えば４×６分割した場合には２４組の補正処理部）を備えることにより、極めて迅速なフリッカー除去補正処理が可能となる。
【００５２】
また、本発明のフリッカーを除去する画像処理方法はさらに好ましくは、各工程が、ＲＧＢごとに独立して、ＲＧＢ間で同時に並列処理されることを特徴とする。これにより、同時並列的にＲＧＢが補正処理されるので、全体の補正時間を短縮して迅速な処理を遂行することが可能となる。さらに好ましくは、ＲＧＢそれぞれについて分割された領域数に対応する数の補正処理部（例えば４×６分割した場合には２４組×３＝７２組の補正処理部）を備えることにより、極めて迅速なフリッカー除去補正処理が可能となる。
【００５３】
また、本発明のフリッカーを除去する画像処理装置は、取得された画像の連続する複数フレームについて、各フレームごとに対応する複数の領域に分割された領域ごとに、明るさを算出する明るさ算出部と、分割された領域ごとに、連続する複数フレームについて、明るさの平均値を求める平均値算出部と、連続する複数フレームの中の補正対象フレームについて、分割された領域ごとに、その領域の明るさとこれに対応する領域の明るさの平均値との差異に基づいて、その領域の各画素の明るさを補正する補正部とを備えることを特徴とする。
【００５４】
これにより、照明装置のフリッカーが反映された映像を取得した場合においても、適切に当該フリッカーのみを除去する事が可能となる。特に、取得映像内に複数の照明装置が存在し、その複数の照明装置のフリッカー周期が互いに異なる場合や、取得映像内にフリッカーを有する照明装置とフリッカーを有さない光源（典型的には例えば太陽、月等）が存在する場合でも、フリッカーのみを適切に除去できる。周期的に発生するフリッカーの複数の周期（好ましくは、数十周期以上）に対応する複数フレームについて、明るさの平均値を算出して、当該平均値になるように画像の明るさを平滑化するように補正するので、フリッカーを適切に除去できるものとなる。
【００５５】
また、画像を複数の領域（エリア）に分割し、分割された領域毎に独立に補正量を算出するので、画像内におけるフリッカーの有無大小やフリッカーの特性の異同に偏りやバラツキが存在したとしても、領域ごとに最適な補正量を算出することができる。また、経時的には、数十周期以上であって好ましくは１秒間程度に相当するフレームに亘って明るさの平均値をとるので、明るさの突発的な変動を緩和する一方で撮影シーンの変更（例えば、室内から屋外へと撮影アングルを変更した場合）などを反映した補正を実現できる。なお、複数の領域に分割された領域ごとに、明るさを算出する工程においては、当該領域内の各画素の明るさを全て加算して画素数で除算するものとし、すなわち当該領域内の明るさの平均値を算出するものとする。
【００５６】
また、本発明のフリッカーを除去する画像処理装置は、好ましくはＲＧＢそれぞれについて処理することを特徴とする。これにより、ＲＧＢの各波長について、仮にフリッカー特性が互いに異なる場合であっても、ＲＧＢそれぞれについて独立に補正量を算出して明るさ補正をするので、適切なフリッカー除去が可能となる。一般にフリッカーは、明るさの周期変動が生じるだけではなく、色の周期変動すなわちＲＧＢ各波長の相対的な強度揺れも生じることが知られているが、本発明によればＲＧＢそれぞれについて適切に補正することが可能となる。
【００５７】
また、本発明のフリッカーを除去する画像処理装置は、さらに好ましくは、分割された領域ごとに独立して、複数の領域間で同時に並列処理するように、少なくとも一フレームの領域数に対応する、明るさ算出部と平均値算出部と補正部との組を備えることを特徴とする。これにより、同時並列的に複数の領域が補正処理されるので、全体の補正時間を短縮して迅速な処理を遂行することが可能となる。さらに好ましくは、分割された領域数に対応する数の補正処理部（例えば４×６分割した場合には２４組の補正処理部）を備えることにより、極めて迅速なフリッカー除去補正処理が可能となる。
【００５８】
また、本発明のフリッカーを除去する画像処理装置は、さらに好ましくは、ＲＧＢそれぞれについて同時並列に処理するように、明るさ算出部と平均値算出部と補正部とを少なくとも三組備えることを特徴とする。これにより、同時並列的にＲＧＢが補正処理されるので、全体の補正時間を短縮して迅速な処理を遂行することが可能となる。さらに好ましくは、ＲＧＢそれぞれについて分割された領域数に対応する数の補正処理部（例えば４×６分割した場合には２４組×３＝７２組の補正処理部）を備えることにより、極めて迅速なフリッカー除去補正処理が可能となる。
【００５９】
上述の実施形態で例示したフリッカーを除去する画像処理装置等は、実施形態での説明に限定されるものではなく、実施形態で説明する技術思想の範囲内かつ自明な範囲内で、適宜その構成や動作及び動作方法等を変更することができる。また、説明の便宜上実施形態においては個別に説明しているが、本発明の技術思想の範囲内で実施形態の構成を適宜組み合わせて適用し、またその動作も適宜組み合わせてアレンジしてもよい。
【産業上の利用可能性】
【００６０】
本発明は、画像／映像分野全般に適用可能であり、特に、フリッカー除去補正処理に関しては画像処理装置のみならず撮像装置内に組み入れて適用することができる。
【符号の説明】
【００６１】
１０００・・画像処理装置、１１００・・明るさ算出部、１２００・・平均値算出部、１３００・・補正部。
【図１】
0006415638.tif 000002
【図２】
0006415638.tif 000003
【図３】
0006415638.tif 000004
【図４】
0006415638.tif 000005