(57)【要約】【課題】個々のレンズ固有のＰＳＦを精度よく推定することができる画像処理装置及び画像処理方法を提供する。【解決手段】本発明による画像処理装置は、撮像素子、画像抽出部、参照画像生成部、推定部、合成部を備える。撮像素子は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する。画像抽出部は、撮像素子の画素配列における画素ごとに、前記チャート上の図形を表す撮像画像を抽出する。参照画像生成部は、前記チャート上の図形に対応した参照画像を生成する。推定部は、前記画素配列における画素ごとに、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する。合成部は、前記推定部により推定された点広がり関数のうち、同色成分の点広がり関数を合成する。【選択図】図１
2016163314.tif 000002
【特許請求の範囲】
【請求項１】
所定の画素配列を有し、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する撮像素子と、
前記所定の画素配列における各画素の色成分ごとに、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を分離して抽出する画像抽出部と、
前記チャート上の図形に対応した参照画像を生成する参照画像生成部と、
前記所定の画素配列における各画素の色成分ごとに、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する推定部と、
前記推定部により推定された点広がり関数のうち、前記所定の画素配列における同色成分の複数の点広がり関数を合成する合成部と、
を備えた画像処理装置。
【請求項２】
前記所定の画素配列は、ベイヤー配列であり、
前記抽出部は、前記チャート上の図形を表す撮像画像を、前記ベイヤー配列におけるＲ成分とＧｂ成分とＧｒ成分とＢ成分とに分離して抽出し、
前記推定部は、前記ベイヤー配列におけるＲ成分とＧｂ成分とＧｒ成分とＢ成分とのそれぞれについて前記点広がり関数を推定し、
前記合成部は、前記Ｇｂ成分と前記Ｇｒ成分のそれぞれについて推定された点広がり関数を合成することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記図形は、環状の図形であることを特徴とする請求項１または２に記載の画像処理装置。
【請求項４】
前記推定部は、前記点広がり関数を用いて前記参照画像を畳み込み演算することにより得られる画像と前記撮像画像との差分が小さくなるように、前記点広がり関数の係数を演算することを特徴とする請求項１から３の何れか１項に記載の画像処理装置。
【請求項５】
所定の画素配列を有し、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、
前記所定の画素配列における各画素の色成分ごとに、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を分離して抽出する第２段階と、
前記チャート上の図形に対応した参照画像を生成する第３段階と、
前記所定の画素配列における各画素の色成分ごとに、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第４段階と、
前記推定部により推定された点広がり関数のうち、前記所定の画素配列における同色成分の複数の点広がり関数を合成する第５段階と、
を含む画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【０００２】
デジタルカメラ等の光学系を構成するレンズの特性を表す関数の一つに点広がり関数（ＰＳＦ：Ｐｏｉｎｔ  Ｓｐｒｅａｄ  Ｆｕｎｃｔｉｏｎ）がある。通常、デジタルカメラの光学系は、サイズ、コスト、絞り開口サイズなどに対してＰＳＦがインパルス応答特性を示し、かつ、変調伝達関数（ＭＴＦ）が最大になるように設計されている。
【０００３】
ここで、設計は同一であっても、製造された個々のレンズは、個体の公差などにより、固有のレンズ特性を有しており、レンズ間でＰＳＦにばらつきが存在する。ＰＳＦのばらつきを低減させるための手法の例としては、特許文献１に示されるように、目標仕様に合わせて光学系を調整する手法もあるが、光学系の調整には限界がある。
【０００４】
また、特許文献１に示された技術は、ＰＳＦを推定する手段を備えており、周波数領域において光学的伝達関数（ＯＴＦ）を推測し、その逆２次元フーリエ変換によってＰＳＦを解析的に求めている。しかしながら、その推定法によれば、レンズを含む光学系の各パラメータ（例えば、焦点距離、絞り値、多数の像高など）に対して、個々のレンズ固有のＰＳＦを正確に推定することはできない。従って、特許文献１に示された技術によれば、個々のレンズのＰＳＦのばらつきに起因したレンズ特性の劣化を補正することは困難である。
【０００５】
特許文献２に示された従来技術は、個々のレンズのＰＳＦを推定する手段を備えており、３次収差である球面収差・コマ収差・非点収差等の基本収差量や焦点ずれ量の大きさを得ることによって、ＰＳＦを推定している。しかしながら、その推定法の詳細については特許文献２に明確に開示されていない。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特表２００９−５３４７２２号公報
【特許文献２】特開２０１０−１７７９１８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
本発明は、上記課題に鑑みてなされたものであり、個々のレンズ固有のＰＳＦを精度よく推定することができる画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明の一態様による画像処理装置は、所定の画素配列を有し、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する撮像素子と、前記所定の画素配列における各画素の色成分ごとに、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を分離して抽出する画像抽出部と、前記チャート上の図形に対応した参照画像を生成する参照画像生成部と、前記所定の画素配列における各画素の色成分ごとに、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する推定部と、前記推定部により推定された点広がり関数のうち、前記所定の画素配列における同色成分の複数の点広がり関数を合成する合成部と、を備えた画像処理装置の構成を有する。
【０００９】
本発明の一態様による画像処理方法は、所定の画素配列を有し、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、前記所定の画素配列における各画素の色成分ごとに、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を分離して抽出する第２段階と、前記チャート上の図形に対応した参照画像を生成する第３段階と、前記所定の画素配列における各画素の色成分ごとに、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第４段階と、前記推定部により推定された点広がり関数のうち、前記所定の画素配列における同色成分の複数の点広がり関数を合成する第５段階と、を含む画像処理方法の構成を有する。
【発明の効果】
【００１０】
本発明によれば、個々のレンズ固有のＰＳＦを精度よく推定することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の実施形態による画像処理装置の構成例を示すブロック図である。
【図２】本発明の実施形態による参照チャートの一例を示す図であり、（Ａ）は、参照チャートの全体を示し、（Ｂ）は参照チャートの詳細を示し、（Ｃ）は、画素配列の一例を示す図である。
【図３】本発明の実施形態による画像処理装置に備えられた推定部の動作例を説明するためのフローチャートである。
【図４】本発明の実施形態による画像処理装置に備えられた推定部の動作を補足説明するための図であり、赤色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【図５】本発明の実施形態による画像処理装置における撮像画像の一例を示す図であり、（Ａ）は、撮像素子の画素配列におけるＧ成分の画素による撮像画像を示し、（Ｂ）は、撮像素子のＧｒ成分の画素による撮像画像を示し、（Ｃ）は、撮像素子のＧｂ成分の画素による撮像画像を示す図である。
【図６】本発明の実施形態による画像処理装置に備えられた推定部の動作を説明するための図であり、Ｇｒ成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【図７】本発明の実施形態による画像処理装置に備えられた推定部の動作を説明するための図であり、Ｇｂ成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【発明を実施するための形態】
【００１２】
図面を参照しながら、本発明の実施形態による画像処理装置を説明する。
図１は、本発明の実施形態による画像処理装置１の構成例を示すブロック図である。画像処理装置１は、図示しないデジタルカメラなどの撮像装置の光学系を構成するレンズＢを通して所定の参照チャートＡ上の図形（後述の図２）を撮像したときにレンズＢによって結像される光像からレンズＢのＰＳＦを推定するための装置である。
【００１３】
詳細に説明すると、画像処理装置１は、撮像素子１２０、画像抽出部１３１，１３２Ａ，１３２Ｂ，１３３、画像抽出制御部１４０、参照画像生成部１５０、推定部１６１，１６２Ａ，１６２Ｂ，１６３、合成部１７０を備える。ここで、撮像素子１２０は、所定の参照チャートＡ上の図形を、図示しない撮像装置の光学系を構成するレンズＢを通して撮像し、上記光学系により結像された光像をＲＧＢ表色系の電気信号に光電変換するための要素である。撮像素子１２０は、レンズＢが装着される撮像装置に備えられた撮像素子に対応する要素である。
【００１４】
本実施形態では、画像処理装置１の撮像素子１２０の画素配列はベイヤー(bayer)配列であるものとする。撮像素子１２０は、ベイヤー配列における赤色成分（以下、Ｒ成分と称す。）、緑色成分（以下、Ｇ成分と称す。）、青色成分（以下、Ｂ成分と称す。）の各電気信号を出力する。このうち、Ｇ成分の電気信号は、Ｇｒ成分の電気信号とＧｂ成分の電気信号とに分離されて出力される。
【００１５】
画像抽出部１３１，１３２Ａ，１３２Ｂ，１３３は、上記ベイヤー配列における各画素の色成分ごとに、撮像素子１２０により光電変換された電気信号によって形成される画像から、参照チャートＡ上の図形を表す撮像画像を分離して抽出するための要素である。画像抽出制御部１４０は、画像抽出部１３１，１３２Ａ，１３２Ｂ，１３３による画像抽出を制御するための要素である。
参照画像生成部１５０は、参照チャートＡ上の図形に対応した参照画像を生成するための要素である。この参照画像は、レンズＢのＰＳＦを推定する際の基準となる画像であるが、その詳細については後述する。
【００１６】
推定部１６１，１６２Ａ，１６２Ｂ，１６３は、撮像素子１２０の画素配列（ベイヤー配列）における各画素の色成分ごとに、参照画像生成部１５０により生成された参照画像にＰＳＦを適用して得られる画像が、画像抽出部１３１，１３２Ａ，１３２Ｂ，１３３により抽出された撮像画像に近似するように、上記ＰＳＦを推定するための要素である。
【００１７】
合成部１７０は、推定部１６１，１６２Ａ，１６２Ｂ，１６３により推定されたＰＳＦのうち、撮像素子１２０の画素配列（ベイヤー配列）における同色成分の複数のＰＳＦを合成するための要素である。ここで、画素配列における同色成分とは、画素配列の基本単位の配列において、色の種類が共通する成分を意味し、ベイヤー配列の場合、共にＧ成分に区分されるＧｒ成分とＧｂ成分との二つの成分を指す。
【００１８】
従って、本実施形態では、合成部１７０は、撮像素子１２０のベイヤー配列における同色成分であるＧｒ成分とＧｂ成分との二つの点広がり関数を合成する。
ただし、この例に限定されず、撮像素子１２０の画素配列の種類に応じて、その画素配列における同色成分の色の種類は任意に定義することができ、その同色成分の個数も任意に設定し得る。
【００１９】
図２は、本発明の実施形態による参照チャートＡの一例を模式的に示す図であり、図２（Ａ）は、参照チャートＡの全体を示し、（Ｂ）は参照チャートＡの詳細を示し、（Ｃ）は、撮像素子１２０の画素配列の一例(ベイヤー配列)を示す。
【００２０】
参照チャートＡは、ＰＳＦ推定用の特殊なチャートである。参照チャートＡ上には、図２（Ａ）に例示するように、同一の所定形状を有する複数の図形が１５×１５の行列状に配置されている。上記複数の図形のそれぞれは、環状の形状を有する図形であり、具体的には、図２（Ｂ）に例示するように、黒色の下地に形成された白色の円形リングである。本実施形態では、参照チャートＡ上の１５×１５個の円形リングの撮像画像から、Ｒ成分、Ｇ成分、Ｂ成分のそれぞれについて、１５×１５個のＰＳＦを推定する。
【００２１】
また、図２（Ｃ）に例示するように、撮像素子１２０の画素配列は、ベイヤー配列であり、Ｒ成分の画素とＢ成分の画素が対角線方向に交互に隣接するように配列されると共に、Ｇｒ成分の画素とＧｂ成分の画素が対角線方向に交互に隣接するように配列されている。従って、撮像素子１２０の単位受光面積あたりのＧ成分の画素の個数は、Ｒ成分またはＢ成分の画素の個数の２倍である。
【００２２】
なお、図２（Ａ）および図２（Ｂ）に示す例に限定されず、参照チャートＡ上の図形の形状は、ＰＳＦを推定することができることを限度として任意であり、例えば環状の三角形リングや四角形リングなどの多角形のリングであってもよく、多重リングであってもよく、ジーメンススターチャートであってもよい。また、参照チャートＡ上に配列される図形の個数や配置間隔等も任意に設定し得る。
また、図２（Ａ）に示す例では、複数の円形リングのそれぞれに対し、矩形の黒色の下地が個別的に設けられているが、参照チャートＡの全面に亘って黒色の下地が形成されていてもよい。また、リングの白と下地の黒とが逆転していてもよい。
【００２３】
次に、本発明の実施形態による画像処理装置１の動作を説明する。
レンズＢを備えた図示しないデジタルカメラなどの撮像装置により通常の被写体を撮像する場合、被写体の光像がレンズＢによりデジタルカメラの撮像素子の受光面上に結像される。そして、その撮像素子から出力される信号を処理することにより被写体の画像が形成される。
【００２４】
このように撮像装置において被写体の画像が生成される過程で、レンズＢは、各種の収差によりボケやひずみなどの画像の劣化を引き起こす。そこで、本実施形態では、画像処理装置１によりレンズＢのＰＳＦを推定する。本実施形態では、次に説明するように、撮像画像からレンズＢのＰＳＦを精度よく推定することにより、その推定値を用いて、レンズＢを備えた図示しないデジタルカメラ等の撮像装置により得られた画像を補正し、劣化のない画像を復元することを可能とする。
【００２５】
レンズＢのＰＳＦの推定に着目して画像処理装置１の動作を詳細に説明する。
画像処理装置１によりレンズＢのＰＳＦを推定する場合、レンズＢの光軸上に被写体として所定の参照チャートＡを配置する。この状態で、参照チャートＡからの光がレンズＢを通して画像処理装置１の撮像素子１２０に入射され、撮像素子１２０の受光面上に参照チャートＡ上の複数の図形（円形リング）の光像が結像される。
【００２６】
撮像素子１２０はその受光面に結像された光像を光電変換し、その光像の光量に応じた電荷量を示す電気信号を出力する。このときに撮像素子１２０から出力される電気信号は、ＰＳＦ推定用の参照チャートＡ上の複数の図形（円形リング）の撮像画像のＲＡＷデータであり、このＲＡＷデータは、Ｒ成分の信号Ｓｒ、Ｇｒ成分の信号Ｓｇｒ、Ｇｂ成分の信号Ｓｇｂ、Ｂ成分の信号Ｓｂを含んでいる。
【００２７】
画像抽出制御部１４０は、上記ＲＡＷデータ（Ｓｒ，Ｓｇｒ，Ｓｇｂ，Ｓｂ）によって形成される画像において、図２に示す参照チャートＡ上に配列された１５×１５個の各図形の像高に対応する画像領域を特定する。画像抽出部１３１，１３２Ａ，１３２Ｂ，１３３は、それぞれ、画像抽出制御部１４０によって特定された画像領域の撮像画像を抽出する。この場合、画像抽出部１３１は、Ｒ成分の信号Ｓｒによって形成される撮像画像を抽出し、画像抽出部１３２Ａは、Ｇｒ成分の信号Ｓｇｒによって形成される撮像画像を抽出し、画像抽出部１３２Ｂは、Ｇｂ成分の信号Ｓｇｂによって形成される撮像画像を抽出し、画像抽出部１３３は、Ｂ成分の信号Ｓｂによって形成される撮像画像を抽出する。この抽出された撮像画像の詳細については後述する。
【００２８】
参照画像生成部１５０は、参照チャートＡ上の図形（円形リング）に対応した参照画像を生成する。参照画像生成部１５０は、参照チャートＡ上の図形のＲ成分、Ｇｒ成分、Ｇｂ成分、Ｂ成分の各色成分に対応した参照画像を生成する。この際に、参照画像生成部１５０は、生成した参照画像の図形が、撮像素子１２０によって取得される撮像画像の図形とサイズが概ね一致するようにリサイズする。この参照画像は、上述のように、ＰＳＦを推定する際の基準となる画像であり、例えば後述の図４に示すＲ成分の参照画像ＰＲ１ｒに相当するが、その詳細は後述する。
【００２９】
推定部１６１，１６２Ａ，１６２Ｂ，１６３は、次に説明するように、画像抽出部１３１，１３２Ａ，１３２Ｂ，１３３によって抽出された撮像画像と参照画像生成部１５０により生成された参照画像とから、図２（Ａ）に示す参照チャートＡ上に行列状に配列された複数の図形のそれぞれに対応した各領域のＰＳＦを推定する。
【００３０】
ここでは、説明の簡略化のため、Ｒ成分とＧ成分のＰＳＦを推定する場合を説明する。
（１）Ｒ成分のＰＳＦの推定
図３は、本発明の実施形態による画像処理装置１に備えられた推定部１６１の動作例を説明するためのフローチャートである。図４は、本発明の実施形態による画像処理装置１に備えられた推定部１６１の動作例を補足説明するための図であり、Ｒ成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【００３１】
図３において、参照画像ＰＲ１ｒは、上述の参照画像生成部１５０によって生成されたＲ成分の画像を表している。参照画像ＰＲ１ｒは、レンズＢのＰＳＦが理想的なインパルス応答を示す場合の撮像画像に相当し、レンズ特性に劣化がない場合の仮想的な画像である。参照画像ＰＲ１ｒは、参照画像生成部１５０によって生成することができる画像の分解能の範囲内で、可能な限り、参照チャートＡの図形（円形リング）に近似した形状を有している。
【００３２】
また、図３において、畳込画像ＰＲ２ｒは、推定部１６１においてＲ成分のＰＳＦを推定する過程で、仮想的に設定されたＰＳＦを参照画像ＰＲ１ｒに畳み込み演算することにより生成される中間画像である。ＰＳＦを推定する過程で畳み込み演算の回数に応じて畳込画像ＰＲ２ｒは変化する。
【００３３】
更に、図３において、撮像画像ＰＲ３ｒは、画像抽出部１３１によって抽出されたレンズ中心におけるＲ成分のＲＡＷデータの画像である。この例では、撮像画像ＰＲ３ｒは、ベイヤー配列における４画素のうちのＲ成分の１画素である。従って、撮像画像ＰＲ３ｒは、ベイヤー配列におけるＧ成分（Ｇｒ，Ｇｂ）とＢ成分の画素が欠落した歯抜け状態の画像となっている。これに対し、上述の参照画像ＰＲ１ｒは、ベイヤー配列を有する画素による画像ではなく、歯抜け状態の画像でもないことに留意されたい。
【００３４】
初期状態では、推定部１６１には、Ｒ成分の仮想的なＰＳＦの係数（以下、ＰＳＦ値と称す。）の初期値が設定される。Ｒ成分の１つの仮想的なＰＳＦ値は、例えば、２９×２９画素相当のＲ成分の画像領域に対応するＰＳＦの係数である。この初期状態における仮想的なＰＳＦ値はランダム値であってもよい。
【００３５】
ただし、複数の仮想的なＰＳＦ値に対応する複数の画面領域の配列は、上述の参照画像ＰＲ１ｒと同様に、ベイヤー配列のような歯抜け状態の配列ではなく、好ましくは、参照チャートＡの画像の図形（円形リング）に近似した形状を呈する配列である。このように、参照画像ＰＲ１ｒはベイヤー配列ではなく、推定部１６１において設定される仮想的なＰＳＦ値に対応する画面領域の配列もベイヤー配列のような歯抜けに設定されない。
【００３６】
推定部１６１は、概略的には、仮想的に設定されたＰＳＦを用いて参照画像ＰＲ１ｒを畳み込み演算することにより得られる畳込画像ＰＲ２ｒ（中間画像）と撮像画像ＰＲ３ｒとの差分が小さくなるように、ＰＳＦの係数を演算する。
【００３７】
詳細に説明すると、推定部１６１は、仮想的なＰＳＦ値と参照画像生成部１５０によって生成された参照画像ＰＲ１ｒとの畳み込み演算を行い（ステップＳＴ１）、その演算の結果として畳込画像ＰＲ２ｒを生成する（ステップＳＴ２）。続いて、推定部１６１は、畳み込み演算により得られた畳込画像ＰＲ２ｒと、画像抽出部１３１により抽出された歯抜け状態の画像である撮像画像ＰＲ３ｒとの２乗誤差を演算し、この２乗誤差が所定範囲内であるかどうかを判定する（ステップＳＴ３）。ここで、上記の所定範囲は、畳込画像ＰＲ２ｒと撮像画像ＰＲ３ｒとが一致（または近似）したことを判定するための基準を与え、必要とする推定精度に応じて任意に設定し得る。
【００３８】
上記２乗誤差が所定範囲内でなければ（ステップＳＴ３：ＮＯ）、推定部１６１は、畳み込み演算により得られる畳込画像ＰＲ２ｒが、歯抜け状態の画像である撮像画像ＰＲ３ｒと一致（または近似）する方向、即ち、畳込画像ＰＲ２ｒと撮像画像ＰＲ３ｒとの差分が小さくなる方向に、仮想的なＰＳＦ値を更新する（ステップＳＴ４）。
【００３９】
上述の仮想的なＰＳＦ値を更新する手法は、畳込画像ＰＲ２ｒを撮像画像ＰＲ３ｒと一致（または近似）させる方向に仮想的なＰＳＦ値を更新することができることを限度として任意の手法を用いることができ、例えば最急降下法や遺伝的アルゴリズムなどの一般的な最適化手法を用いることができる。
【００４０】
推定部１６１は、上記２乗誤差が所定範囲内になるまで、上述のステップＳＴ１〜ＳＴ３を繰り返し実施する。そして、推定部１６１は、畳込画像ＰＲ２ｒと撮像画像ＰＲ３ｒとの２乗誤差が所定範囲内になった場合（ステップＳＴ３：ＹＥＳ）、そのときの仮想的なＰＳＦ値をレンズＢの赤色成分のＰＳＦの推定値ＰＳＦｒとして確定する。
【００４１】
ここで、参照画像ＰＲ１ｒは、レンズＢのＰＳＦが理想的なインパルス応答を示す場合の画像に相当するから、上述の推定部１６１により推定されたＲ成分のＰＳＦの推定値ＰＳＦｒは、レンズＢ固有のＲ成分のＰＳＦを表す。また、撮像画像ＰＲ３は、図示しない撮像装置の光学系を構成するレンズＢを通して得られた画像であり、レンズごとに取得される画像である。したがって、画像処理装置１によれば、個々のレンズ固有のＲ成分のＰＳＦを精度よく推定することができる。
【００４２】
なお、Ｂ成分の撮像画像を抽出するための画像抽出部１３３についても、上述のＲ成分の撮像画像を抽出する画像抽出部１３１と同様に説明される。また、Ｂ成分のＰＳＦを推定するための推定部１６３についても、上述のＲ成分のＰＳＦを推定するための推定部１６１と同様に説明される。この場合、推定部１６３はＢ成分のＰＳＦの推定値ＰＳＦｂを出力する。
【００４３】
（２）Ｇ成分のＰＳＦの推定
次に、Ｇ成分のＰＳＦの推定について説明する。
基本的に、Ｇ成分の撮像画像を抽出するための画像抽出部１３２Ａ，１３２Ｂも、上述のＲ成分の撮像画像を抽出する画像抽出部１３１と同様に説明され、推定部１６２Ａ，１６２Ｂも、上述の赤色成分のＰＳＦを推定するための推定部１６１と同様に説明される。ただし、Ｇ成分のＰＳＦの推定では、次に説明するように、Ｇ成分の撮像画像をＧｒ成分とＧｂ成分とに分離し、Ｇｒ成分の推定値ＰＳＦｇｒとＧｂ成分の推定値ＰＳＦｇｂとを分離して独立に求める。これら推定値ＰＳＦｇｒ，ＰＳＦｇｂは、合成部１７０により合成されてＧ成分の推定値ＰＳＦｇとされる。
【００４４】
図５は、本発明の実施形態による画像処理装置１における撮像画像の一例を示す図であり、（Ａ）は、撮像素子１２０の画素配列におけるＧ成分の画素による撮像画像ＰＲ３ｇを示し、（Ｂ）は、撮像素子１２０のＧｒ成分の撮像画像ＰＲ３ｇｒを示し、（Ｃ）は、撮像素子１２０のＧｂ成分の画素による撮像画像ＰＲ３ｇｂを示す図である。
【００４５】
ここで、図５（Ａ）に示すＧ成分の撮像画像ＰＲ３ｇは、図５（Ｂ）に示すＧｒ成分の撮像画像ＰＲ３ｇｒと図５（Ｃ）に示すＧｂ成分の撮像画像ＰＲ３ｇｂとを重ね合わせて得られる画像である。従って、図５（Ａ）に示すＧ成分の撮像画像ＰＲ３ｇは、図５（Ｂ）に示すＧｒ成分の撮像画像ＰＲ３ｇｒと、図５（Ｃ）に示すＧｂ成分の撮像画像ＰＲ３ｇｂとに分離することができる。
【００４６】
次に説明するように、図５（Ｂ）に示すＧｒ成分の撮像画像は、Ｇｒ成分のＰＳＦの推定値ＰＳＦｇｒを求める過程で、上述のＲ成分のＰＳＦの推定値ＰＳＦｒを推定するのに用いられた撮像画像ＰＲ３ｒに対応する画像として用いられる。同様に、図５（Ｃ）に示すＧｂ成分の撮像画像は、Ｇｂ成分のＰＳＦの推定値ＰＳＦｇｂを求める過程で、上述のＲ成分のＰＳＦの推定値ＰＳＦｒを推定するのに用いられた撮像画像ＰＲ３ｒに対応する画像として用いられる。
【００４７】
図６を参照して、図５（Ｂ）に示すＧｒ成分の撮像画像を用いてＧｒ成分のＰＳＦの推定値ＰＳＦｇｒを求めるための画像処理装置１の動作を説明する。
図６は、本発明の実施形態による画像処理装置１に備えられた推定部１６２Ａの動作を説明するための図であり、Ｇｒ成分のＰＳＦを推定するために用いられる画像の一例を示す図である。ここで、図６に示す参照画像ＰＲ１ｇ、畳込画像ＰＲ２ｇｒ、撮像画像ＰＲ３ｇｒは、それぞれ、上述の図４に示す参照画像ＰＲ１ｒ、畳込画像ＰＲ２ｒ、撮像画像ＰＲ３ｒに対応する画像である。
【００４８】
基本的には、Ｇｒ成分のＰＳＦの推定値ＰＳＦｇｒは、上述のＲ成分のＰＳＦの推定値ＰＳＦｒを求める図３に示すフローと同様のフローに従って求められる。
即ち、推定部１６２Ａは、仮想的に設定されたＧｒ成分のＰＳＦを用いて参照画像ＰＲ１ｇｒを畳み込み演算することにより得られる畳込画像ＰＲ２ｇｒ（中間画像）と撮像画像ＰＲ３ｇｒとの差分が小さくなるように、ＰＳＦの係数を演算する。
【００４９】
具体的には、推定部１６２Ａは、Ｇｒ成分の仮想的なＰＳＦ値と参照画像生成部１５０によって生成された参照画像ＰＲ１ｇｒとの畳み込み演算を行い（図３のステップＳＴ１に相当するステップ）、その演算の結果として畳込画像ＰＲ２ｇｒを生成する（図３のステップＳＴ２に相当するステップ）。続いて、推定部１６２Ａは、畳込画像ＰＲ２ｇｒと、画像抽出部１３２Ａにより抽出された撮像画像ＰＲ３ｒとの２乗誤差を演算し、この２乗誤差が所定範囲内であるかどうかを判定する（図３のステップＳＴ３に相当するステップ）。
【００５０】
上記２乗誤差が所定範囲内でなければ（図３のステップＳＴ３：ＮＯに相当するステップ）、推定部１６２Ａは、畳込画像ＰＲ２ｇｒが、撮像画像ＰＲ３ｇｒと一致（または近似）する方向、即ち、畳込画像ＰＲ２ｇｒと撮像画像ＰＲ３ｇｒとの差分が小さくなる方向に、仮想的なＰＳＦ値を更新する（図３のステップＳＴ４に相当するステップ）。この場合のＰＳＦの更新の手法も、上述のＲ成分のＰＳＦの更新の手法と同様である。
【００５１】
推定部１６２Ａは、上記２乗誤差が所定範囲内になるまで、上述の図３に示すステップＳＴ１〜ＳＴ３に相当するステップを繰り返し実施する。そして、推定部１６２Ａは、畳込画像ＰＲ２ｒと撮像画像ＰＲ３ｒとの２乗誤差が所定範囲内になった場合（図３のステップＳＴ３：ＹＥＳに相当するステップ）、そのときの仮想的なＰＳＦ値をレンズＢのＲ成分のＰＳＦの推定値ＰＳＦｇｒとして確定する。
【００５２】
次に、図７を参照して、図５（Ｃ）に示すＧｂ成分の撮像画像を用いてＧｂ成分のＰＳＦの推定値ＰＳＦｇｂを求めるための画像処理装置１の動作を説明する。
図７は、本発明の実施形態による画像処理装置１に備えられた推定部１６２Ｂの動作を説明するための図であり、Ｇｂ成分のＰＳＦを推定するために用いられる画像の一例を示す図である。ここで、図７に示す参照画像ＰＲ１ｇ、畳込画像ＰＲ２ｇｂ、撮像画像ＰＲ３ｇｂは、それぞれ、上述の図４に示す参照画像ＰＲ１ｒ、畳込画像ＰＲ２ｒ、撮像画像ＰＲ３ｒに対応する画像である。
【００５３】
上述のＧｒ成分のＰＳＦの推定値ＰＳＦｇｒと同様に、基本的には、Ｇｂ成分のＰＳＦの推定値ＰＳＦｇｒは、上述のＲ成分のＰＳＦの推定値ＰＳＦｒを求める図３に示すフローと同様のフローに従って求められる。
即ち、推定部１６２Ｂは、仮想的に設定されたＧｒ成分のＰＳＦを用いて参照画像ＰＲ１ｇｂを畳み込み演算することにより得られる畳込画像ＰＲ２ｇｂ（中間画像）と撮像画像ＰＲ３ｇｂとの差分が小さくなるように、ＰＳＦの係数を演算する。
【００５４】
具体的には、推定部１６２Ｂは、Ｇｂ成分の仮想的なＰＳＦ値と参照画像生成部１５０によって生成された参照画像ＰＲ１ｇｂとの畳み込み演算を行い（図３のステップＳＴ１に相当するステップ）、その演算の結果として畳込画像ＰＲ２ｇｂを生成する（図３のステップＳＴ２に相当するステップ）。続いて、推定部１６２Ｂは、畳込画像ＰＲ２ｇｂと、画像抽出部１３２Ｂにより抽出された撮像画像ＰＲ３ｂとの２乗誤差を演算し、この２乗誤差が所定範囲内であるかどうかを判定する（図３のステップＳＴ３に相当するステップ）。
【００５５】
上記２乗誤差が所定範囲内でなければ（図３のステップＳＴ３：ＮＯに相当するステップ）、推定部１６２Ｂは、畳込画像ＰＲ２ｇｂが、撮像画像ＰＲ３ｇｂと一致（または近似）する方向、即ち、畳込画像ＰＲ２ｇｂと撮像画像ＰＲ３ｇｂとの差分が小さくなる方向に、仮想的なＰＳＦ値を更新する（図３のステップＳＴ４に相当するステップ）。この場合のＰＳＦの更新の手法も、上述のＲ成分のＰＳＦの更新の手法と同様である。
【００５６】
推定部１６２Ｂは、上記２乗誤差が所定範囲内になるまで、上述の図３に示すステップＳＴ１〜ＳＴ３に相当するステップを繰り返し実施する。そして、推定部１６２Ｂは、畳込画像ＰＲ２ｇｂと撮像画像ＰＲ３ｇｂとの２乗誤差が所定範囲内になった場合（図３のステップＳＴ３：ＹＥＳに相当するステップ）、そのときの仮想的なＰＳＦ値をレンズＢのＧｂ成分のＰＳＦの推定値ＰＳＦｇｂとして確定する。
【００５７】
次に、本実施形態では、合成部１７０が、上述の推定部１６２Ａにより得られたＧｒ成分の推定値ＰＳＦｇｒと、推定部１６２Ｂにより得られたＧｂ成分の推定値ＰＳＦｇｂとを合成して、Ｇ成分のＰＳＦの推定値ＰＳＦｇを生成する。
そして、推定部１６１により得られたＲ成分のＰＳＦの推定値ＰＳＦｒと、合成部１７０により得られたＧ成分のＰＳＦの推定値ＰＳＦｇと、推定部１６３により得られたＢ成分の推定値ＰＳＦｂとが、最終的なレンズＢのＰＳＦの推定結果として画像処理装置１から出力される。
【００５８】
上述の推定部１６１、合成部１７０、推定部１６３から出力される各色成分のＰＳＦの推定値から、例えばレンズＢのＰＳＦの逆関数を取得し、この逆関数を用いてデジタルカメラなどの画像を補正することにより、レンズＢのＰＳＦに起因した劣化が抑制された画像を復元することができる。
【００５９】
本実施形態の画像処理装置１によれば、図２（Ａ）に示す１５×１５個の各像高に対して、Ｒ成分、Ｇ成分、Ｂ成分のそれぞれについて、レンズ固有のＰＳＦ値（２９×２９画素の画像領域のＰＳＦの係数）を精度よく推定することができる。このように個々のレンズ固有のＰＳＦを高精度に推定することができれば、レンズのＰＳＦのばらつきに起因した画像の劣化を補正することができ、画像の復元を高品質に行うことが可能になる。
【００６０】
また、本実施形態の画像処理装置１によれば、Ｇ成分のＰＳＦを推定する場合、図５（Ｂ）に示すＧｒ成分の撮像画像ＰＲ３ｇｒと図５（Ｃ）に示すＧｂ成分の撮像画像ＰＲ３ｇｂとを用いて、Ｇｒ成分のＰＳＦとＧｂ成分のＰＳＦとを独立に推定し、これらの推定値を合成してＧ成分のＰＳＦの推定結果とするので、例えば無線通信分野における検波後合成ダイバーシチ効果と類似した効果を得ることができる。従って、図５（Ａ）に示すＧ成分の撮像画像ＰＲ３ｇを用いてＧ成分のＰＳＦを推定する場合に比較して、図５（Ｂ），（Ｃ）に示す撮像画像ＰＲ３ｇｒ，ＰＲ３ｇｂを用いることによりＰＳＦの推定精度を改善することができる。
【００６１】
なお、前述の特許文献１に開示された技術もＰＳＦを推定する手段を備えているが、特許文献１の技術では、周波数領域において光学的伝達関数（ＯＴＦ）を推測し、その２次元フーリエ変換を実施することにより解析的にＰＳＦを推定している。しかしながら、特許文献１のＰＳＦの推定法によれば、レンズ固体の公差などによるＰＳＦのばらつきが存在する場合、個々のレンズのＰＳＦを正確に推定することは困難である。
【００６２】
上述の実施形態では、本発明を画像処理装置１として表現したが、本発明は、画像処理方法として表現することもできる。この場合、本発明による画像処理方法は、所定の画素配列を有し、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、前記所定の画素配列における各画素の色成分ごとに、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を分離して抽出する第２段階と、前記チャート上の図形に対応した参照画像を生成する第３段階と、前記所定の画素配列における各画素の色成分ごとに、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第４段階と、前記推定部により推定された点広がり関数のうち、前記所定の画素配列における同色成分の複数の点広がり関数を合成する第５段階と、を含む画像処理方法として表現することができる。
【００６３】
以上、本発明の実施形態を説明したが、本発明は上述の実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲で、種々の変形、修正、置換などが可能である。
例えば、レンズＢを備えたデジタルカメラなどの撮像装置のＲＡＷ画像と、画像処理装置１により得られるＰＳＦの推定値ＰＳＦｒ，ＰＳＦｇ，ＰＳＦｂに関する情報をネットワークに転送し、ネットワーク上のクラウドで撮像装置のレンズＢによる画像の劣化を補正する処理を実施することも可能である。この場合、メモリ量や演算処理量の制約を受けることのないクライド上の環境で効果的に画質の補正を行うことが可能になる。
【００６４】
更にまた、上述の実施形態では、推定部１６１〜１６３は、Ｒ成分、Ｇ成分、Ｂ成分のいわゆるＲＧＢ表色系の信号を用いてレンズＢのＰＳＦを推定するものとしたが、任意の表色系を用いてＰＳＦを推定することができる。
【符号の説明】
【００６５】
１…画像処理装置、１２０…撮像素子、１３１，１３２Ａ，１３２Ｂ，１３３…画像抽出部、１４０…画像抽出制御部、１５０…参照画像生成部、１６１，１６２Ａ，１６２Ｂ，１６３…推定部、１７０…合成部、Ａ…参照チャート、Ｂ…レンズ、ＳＴ１〜ＳＴ４…処理ステップ。
【図１】
2016163314.tif 000003
【図３】
2016163314.tif 000004
【図２】
2016163314.tif 000005
【図４】
2016163314.tif 000006
【図５】
2016163314.tif 000007
【図６】
2016163314.tif 000008
【図７】
2016163314.tif 000009