(57)【要約】【課題】個々のレンズ固有のＰＳＦを精度よく推定することができる画像処理装置及び画像処理方法を提供する。【解決手段】本発明による画像処理装置は、撮像素子、画像抽出部、参照画像生成部、画像修正部、推定部を備える。撮像素子は、所定のチャート上の図形を撮像し、前記光学系により結像された光像を電気信号に光電変換する。画像抽出部は、前記電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する。参照画像生成部は、前記チャート上の図形に対応した参照画像を生成する。画像修正部は、前記光学系の歪曲収差に関する情報に基づき前記撮像画像および前記参照画像の一方を修正する。推定部は、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する。【選択図】図１
2016163312.tif 000002
【特許請求の範囲】
【請求項１】
所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する撮像素子と、
前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する画像抽出部と、
前記チャート上の図形に対応した参照画像を生成する参照画像生成部と、
前記光学系の歪曲収差に関する情報に基づき前記撮像画像および前記参照画像の一方を修正する画像修正部と、
前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する推定部と、
を備えた画像処理装置。
【請求項２】
前記画像修正部は、前記光学系の歪曲収差による歪みを前記参照画像に付与することにより前記参照画像を修正することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記画像修正部は、前記光学系の歪曲収差による歪みを相殺する歪みを前記撮像画像に付与することにより前記撮像画像を修正することを特徴とする請求項１に記載の画像処理装置。
【請求項４】
前記図形は、環状の図形であることを特徴とする請求項１から３の何れか１項に記載の画像処理装置。
【請求項５】
前記推定部は、前記点広がり関数を用いて前記参照画像を畳み込み演算することにより得られる画像と前記撮像画像との差分が小さくなるように、前記点広がり関数の係数を演算することを特徴とする請求項１から４の何れか１項に記載の画像処理装置。
【請求項６】
所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、
前記光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する第２段階と、
前記チャート上の図形に対応した参照画像を生成する第３段階と、
前記光学系の歪曲収差に関する情報に基づき前記撮像画像および前記参照画像の一方を修正する第４段階と、
前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第５段階と、
前記推定部により推定された点広がり関数の逆関数を取得する第６段階と、
を含む画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【０００２】
デジタルカメラ等の光学系を構成するレンズの特性を表す関数の一つに点広がり関数（ＰＳＦ：Ｐｏｉｎｔ  Ｓｐｒｅａｄ  Ｆｕｎｃｔｉｏｎ）がある。通常、デジタルカメラの光学系は、サイズ、コスト、絞り開口サイズなどに対してＰＳＦがインパルス応答特性を示し、かつ、変調伝達関数（ＭＴＦ）が最大になるように設計されている。
【０００３】
ここで、設計は同一であっても、製造された個々のレンズは、個体の公差などにより、固有のレンズ特性を有しており、レンズ間でＰＳＦにばらつきが存在する。ＰＳＦのばらつきを低減させるための手法の例としては、特許文献１に示されるように、目標仕様に合わせて光学系を調整する手法もあるが、光学系の調整には限界がある。
【０００４】
また、特許文献１に示された技術は、ＰＳＦを推定する手段を備えており、周波数領域において光学的伝達関数（ＯＴＦ）を推測し、その逆２次元フーリエ変換によってＰＳＦを解析的に求めている。しかしながら、その推定法によれば、レンズを含む光学系の各パラメータ（例えば、焦点距離、絞り値、多数の像高など）に対して、個々のレンズ固有のＰＳＦを正確に推定することはできない。従って、特許文献１に示された技術によれば、個々のレンズのＰＳＦのばらつきに起因したレンズ特性の劣化を補正することは困難である。
【０００５】
特許文献２に示された従来技術は、個々のレンズのＰＳＦを推定する手段を備えており、３次収差である球面収差・コマ収差・非点収差等の基本収差量や焦点ずれ量の大きさを得ることによって、ＰＳＦを推定している。しかしながら、その推定法の詳細については特許文献２に明確に開示されていない。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特表２００９−５３４７２２号公報
【特許文献２】特開２０１０−１７７９１８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
本発明は、上記課題に鑑みてなされたものであり、個々のレンズ固有のＰＳＦを精度よく推定することができる画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明の一態様による画像処理装置は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する撮像素子と、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する画像抽出部と、前記チャート上の図形に対応した参照画像を生成する参照画像生成部と、前記光学系の歪曲収差に関する情報に基づき前記撮像画像および前記参照画像の一方を修正する画像修正部と、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する推定部と、
を備えた画像処理装置の構成を有する。
【０００９】
本発明の一態様による画像処理方法は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、前記光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する第２段階と、前記チャート上の図形に対応した参照画像を生成する第３段階と、前記光学系の歪曲収差に関する情報に基づき前記撮像画像および前記参照画像の一方を修正する第４段階と、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第５段階と、前記推定部により推定された点広がり関数の逆関数を取得する第６段階と、を含む画像処理方法の構成を有する。
【発明の効果】
【００１０】
本発明によれば、個々のレンズ固有のＰＳＦを精度よく推定することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の第１の実施形態による画像処理装置の構成例を示すブロック図である。
【図２】本発明の第１の実施形態による参照チャートの一例を示す図であり、（Ａ）は、参照チャートの全体を示し、（Ｂ）は参照チャートの詳細を示す図である。
【図３】本発明の第１の実施形態による画像処理装置の撮像素子による撮像画像の一例を示す図であり、レンズの歪曲収差を含む撮像画像の一例を示す図である。
【図４】本発明の第１の実施形態による画像処理装置に備えられた推定部の動作例を説明するためのフローチャートである。
【図５】本発明の第１の実施形態による画像処理装置に備えられた画像修正部および推定部の動作を補足説明するための図であり、緑色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【図６】本発明の第１の実施形態による画像処理装置の効果の一例を説明するための図であり、（Ａ）は、レンズ中心部での赤色成分の期待値を示し、（Ｂ）は、レンズ中心部での赤色成分のＰＳＦ推定結果を示し、（Ｃ）は、レンズ中心部での緑色成分の期待値を示し、（Ｄ）は、レンズ中心部での緑色成分のＰＳＦ推定結果を示し、（Ｅ）は、レンズ中心部での青色成分の期待値を示し、（Ｆ）は、レンズ中心部での青色成分のＰＳＦ推定結果を示す図である。
【図７】本発明の第２の実施形態による画像処理装置の構成例を示すブロック図である。
【図８】本発明の第２の実施形態による画像処理装置に備えられた画像修正部および推定部の動作を補足説明するための図であり、緑色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【発明を実施するための形態】
【００１２】
（第１の実施形態）
図面を参照しながら、本発明の第１の実施形態による画像処理装置を説明する。
図１は、本発明の第１の実施形態による画像処理装置１の構成例を示すブロック図である。画像処理装置１は、図示しないデジタルカメラなどの撮像装置の光学系を構成するレンズＢを通して所定の参照チャートＡ上の図形（後述の図２）を撮像したときにレンズＢによって結像される光像からレンズＢのＰＳＦを推定するための装置である。
【００１３】
詳細に説明すると、画像処理装置１は、撮像素子１２０、画像抽出部１３１，１３２，１３３、画像抽出制御部１４０、参照画像生成部１５０、画像修正部１５５、推定部１６１，１６２，１６３を備える。ここで、撮像素子１２０は、所定の参照チャートＡ上の図形を、図示しない撮像装置の光学系を構成するレンズＢを通して撮像し、上記光学系により結像された光像をＲＧＢ表色系の電気信号に光電変換するための要素である。撮像素子１２０は、レンズＢが装着される撮像装置に備えられた撮像素子に対応する要素である。
【００１４】
第１の実施形態では、画像処理装置１の撮像素子１２０の赤色成分、緑色成分、青色成分の各画素の配列はベイヤー(bayer)配列であるものとする。画像抽出部１３１，１３２，１３３は、撮像素子１２０により光電変換された電気信号によって形成される画像から、参照チャートＡ上の図形を表す撮像画像を抽出するための要素である。画像抽出制御部１４０は、画像抽出部１３１，１３２，１３３による画像抽出を制御するための要素である。
【００１５】
参照画像生成部１５０は、参照チャートＡ上の図形に対応した参照画像を生成するための要素である。この参照画像は、レンズＢのＰＳＦを推定する際の基準となる画像であるが、その詳細については後述する。
画像修正部１５５は、レンズＢを含む図示しない撮像装置の光学系の歪曲収差に関する情報Ｓに基づき上記参照画像を修正するための要素である。上記歪曲収差に関する情報Ｓは、例えば、レンズＢを含む撮像装置の光学系の設計情報から取得される。画像修正部１５５には、例えば利用者により、レンズＢの歪曲収差に関する情報Ｓが入力される。第１の実施形態では、画像修正部１５５は、上記光学系の歪曲収差による歪みを上記参照画像に付与することにより上記参照画像を修正する。
推定部１６１，１６２，１６３は、画像修正部１５５により修正された参照画像にＰＳＦを適用して得られる画像が、画像抽出部１３１，１３２，１３３により抽出された撮像画像に近似するように、上記ＰＳＦを推定するための要素である。
【００１６】
図２は、本発明の第１の実施形態による参照チャートＡの一例を模式的に示す図であり、図２（Ａ）は、参照チャートＡの全体を示し、図２（Ｂ）は参照チャートＡの詳細を示す。
【００１７】
参照チャートＡは、ＰＳＦ推定用の特殊なチャートである。参照チャートＡ上には、図２（Ａ）に例示するように、同一の所定形状を有する複数の図形が１５×１５の行列状に配置されている。上記複数の図形のそれぞれは、環状の形状を有する図形であり、具体的には、図２（Ｂ）に例示するように、黒色の下地に形成された白色の円形リングである。第１の実施形態では、参照チャートＡ上の１５×１５個の円形リングの撮像画像から、赤色成分、緑色成分、青色成分のそれぞれについて、１５×１５個のＰＳＦを推定する。
【００１８】
なお、図２（Ａ）および図２（Ｂ）に示す例に限定されず、参照チャートＡ上の図形の形状は、ＰＳＦを推定することができることを限度として任意であり、例えば環状の三角形リングや四角形リングなどの多角形のリングであってもよく、多重リングであってもよく、ジーメンススターチャートであってもよい。また、参照チャートＡ上に配列される図形の個数や配置間隔等も任意に設定し得る。
また、図２（Ａ）に示す例では、複数の円形リングのそれぞれに対し、矩形の黒色の下地が個別的に設けられているが、参照チャートＡの全面に亘って黒色の下地が形成されていてもよい。また、リングの白と下地の黒とが逆転していてもよい。
【００１９】
図３は、本発明の第１の実施形態による画像処理装置１の撮像素子１２０により得られる撮像画像の一例を示す図であり、レンズＢの歪曲収差を含む撮像画像の一例を示す。図３に例示するように、レンズＢを通して結像された光像を撮像素子１２０で光電変換して得られる撮像画像の周辺部は、レンズＢの歪曲収差により歪みが顕著になる。このため、図２（Ａ）に例示する参照チャートＡの周辺部に位置する図形（円形リング）は、撮像画像上では楕円状に変形される。
【００２０】
次に、本発明の第１の実施形態による画像処理装置１の動作を説明する。
レンズＢを備えた図示しないデジタルカメラなどの撮像装置により通常の被写体を撮像する場合、被写体の光像がレンズＢによりデジタルカメラの撮像素子の受光面上に結像される。そして、撮像素子１２０から出力される信号を処理することにより被写体の画像が形成される。
【００２１】
このように撮像装置において被写体の画像が生成される過程で、レンズＢは、各種の収差によりボケやひずみなどの画像の劣化を引き起こす。そこで、第１の実施形態では、画像処理装置１によりレンズＢのＰＳＦを推定する。第１の実施形態では、次に説明するように、歪曲収差により撮像画像の周辺部に歪みが存在しても、その撮像画像からレンズＢのＰＳＦを精度よく推定することにより、その推定値を用いて、レンズＢを備えた図示しないデジタルカメラ等の撮像装置により得られた画像を補正し、劣化のない画像を復元することを可能とする。
【００２２】
レンズＢのＰＳＦの推定に着目して画像処理装置１の動作を詳細に説明する。
画像処理装置１によりレンズＢのＰＳＦを推定する場合、レンズＢの光軸上に被写体として所定の参照チャートＡを配置する。この状態で、参照チャートＡからの光がレンズＢを通して画像処理装置１の撮像素子１２０に入射され、撮像素子１２０の受光面上に参照チャートＡ上の複数の図形（円形リング）の光像が結像される。
【００２３】
撮像素子１２０はその受光面に結像された光像を光電変換し、その光像の光量に応じた電荷量を示す電気信号を出力する。このときに撮像素子１２０から出力される電気信号は、ＰＳＦ推定用の参照チャートＡ上の複数の図形（円形リング）の撮像画像のＲＡＷデータであり、このＲＡＷデータは、赤色成分の信号Ｓｒ、緑色成分の信号Ｓｇ、青色成分の信号Ｓｂを含んでいる。
【００２４】
画像抽出制御部１４０は、上記ＲＡＷデータ（Ｓｒ，Ｓｇ，Ｓｂ）によって形成される画像において、図３に示す撮像画像上に配列された１５×１５個の各図形の像高に対応する画像領域を特定する。画像抽出部１３１，１３２，１３３は、それぞれ、画像抽出制御部１４０によって特定された画像領域の撮像画像を抽出する。この場合、画像抽出部１３１は、赤色成分の信号Ｓｒによって形成される撮像画像を抽出し、画像抽出部１３２は、緑色成分の信号Ｓｇによって形成される撮像画像を抽出し、画像抽出部１３３は、青色成分の信号Ｓｂによって形成される撮像画像を抽出する。この抽出された撮像画像の詳細については後述する。
【００２５】
参照画像生成部１５０は、参照チャートＡ上の１個の図形（円形リング）に対応した参照画像を生成する。参照画像生成部１５０は、参照チャートＡ上の図形の赤色、緑色、青色の各色成分に対応した上記参照画像を生成する。この参照画像は、上述のように、ＰＳＦを推定する際の基準となる画像であり、後述の図５に示す参照画像ＰＲ１に相当するが、その詳細は後述する。
【００２６】
画像修正部１５５には、事前にレンズＢの歪曲収差に関する情報Ｓが入力される。画像修正部１５５は、レンズＢの歪曲収差に関する情報Ｓに基づいて、参照画像生成部１５０により生成された参照画像の図形（円形リング）に対し、画像抽出部１３１，１３２，１３３によって抽出された各撮像画像に含まれる図形（円形リング）の像高に応じてレンズＢの歪曲収差による歪みを付与することにより、上記参照画像を修正する。この際に、参照画像生成部１５０は、修正した参照画像の図形が、撮像素子１２０によって取得される撮像画像の図形とサイズが概ね一致するようにリサイズする。修正後の参照画像が有する図形は、後述の図５において参照画像ＰＲ２として例示するように、上述の図３に示す歪曲収差による歪みを含む撮像画像中の図形に対応して変形される。
【００２７】
推定部１６１，１６２，１６３は、次に説明するように、画像抽出部１３１，１３２，１３３によって抽出された撮像画像と画像修正部１５５により修正された参照画像とから、図２（Ａ）に示す参照チャートＡ上に行列状に配列された複数の図形のそれぞれに対応した各領域のＰＳＦを推定する。
【００２８】
ここでは、説明の簡略化のため、緑色成分のＰＳＦを推定する場合を説明する。
図４は、本発明の第１の実施形態による画像処理装置１に備えられた推定部１６２の動作例を説明するためのフローチャートである。図５は、本発明の第１の実施形態による画像処理装置１に備えられた画像修正部１５５及び推定部１６２の動作を補足説明するための図であり、緑色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【００２９】
図５において、参照画像ＰＲ１は、上述の参照画像生成部１５０によって生成された緑色成分の画像を表している。参照画像ＰＲ１は、レンズＢのＰＳＦが理想的なインパルス応答を示す場合の撮像画像に相当し、レンズ特性に劣化がない場合の仮想的な画像である。参照画像ＰＲ１は、参照画像生成部１５０によって生成することができる画像の分解能の範囲内で、可能な限り、参照チャートＡの画像の図形（円形リング）に近似した形状を有している。
【００３０】
参照画像ＰＲ２は、画像修正部１５５により参照画像ＰＲ１を修正して得られる修正後の参照画像である。参照画像ＰＲ２の像高は、ＰＳＦの推定対象として注目されている像高である。
また、図５において、畳込画像ＰＲ３は、推定部１６２において緑色成分のＰＳＦを推定する過程で、仮想的に設定されたＰＳＦを修正後の参照画像ＰＲ２に畳み込み演算することにより生成される中間画像である。ＰＳＦを推定する過程で畳み込み演算の回数に応じて畳込画像ＰＲ２は変化する。
【００３１】
更に、図５において、撮像画像ＰＲ４は、画像抽出部１３２によって抽出された緑色成分のＲＡＷデータの画像である。撮像画像ＰＲ４の像高は、ＰＳＦの推定対象として注目されている像高であり、上述の参照画像ＰＲ２と同じ像高である。この例では、撮像画像ＰＲ４は、ベイヤー配列における４画素のうちの緑色成分の１画素である。従って、撮像画像ＰＲ４は、ベイヤー配列における赤色成分と青色成分の画素が欠落した歯抜け状態の画像となっている。これに対し、修正前の参照画像ＰＲ１と修正後の参照画像ＰＲ２は、ベイヤー配列を有する画素による画像ではなく、歯抜け状態の画像でもないことに留意されたい。
【００３２】
初期状態では、推定部１６２には、緑色成分の仮想的なＰＳＦの係数（以下、ＰＳＦ値と称す。）の初期値が設定される。緑色成分の１つの仮想的なＰＳＦ値は、例えば、２９×２９画素相当の緑色成分の画像領域に対応するＰＳＦの係数である。この初期状態における仮想的なＰＳＦ値はランダム値であってもよい。
【００３３】
ただし、複数の仮想的なＰＳＦ値に対応する複数の画面領域の配列は、上述の参照画像ＰＲ１，ＰＲ２と同様に、ベイヤー配列のような歯抜け状態の配列ではなく、好ましくは、レンズＢの歪曲収差を含む参照チャートＡの図形（円形リング）に近似した形状を呈する配列である。このように、参照画像ＰＲ１，ＰＲ２はベイヤー配列ではなく、推定部１６２において設定される仮想的なＰＳＦ値に対応する画面領域の配列もベイヤー配列のような歯抜けに設定されない。
【００３４】
推定部１６２は、概略的には、仮想的に設定されたＰＳＦを用いて参照画像ＰＲ２を畳み込み演算することにより得られる畳込画像ＰＲ３（中間画像）と撮像画像ＰＲ４との差分が小さくなるように、ＰＳＦの係数を演算する。
【００３５】
詳細に説明すると、推定部１６２は、仮想的なＰＳＦ値と画像修正部１５５によって修正された参照画像ＰＲ２との畳み込み演算を行い（ステップＳＴ１）、その演算の結果として畳込画像ＰＲ３を生成する（ステップＳＴ２）。続いて、推定部１６２は、畳み込み演算により得られた畳込画像ＰＲ３と、画像抽出部１３２により抽出された歯抜け状態の画像である撮像画像ＰＲ４との２乗誤差を演算し、この２乗誤差が所定範囲内であるかどうかを判定する（ステップＳＴ３）。ここで、上記の所定範囲は、畳込画像ＰＲ３と撮像画像ＰＲ４とが一致（または近似）したことを判定するための基準を与え、必要とする推定精度に応じて任意に設定し得る。
【００３６】
上記２乗誤差が所定範囲内でなければ（ステップＳＴ３：ＮＯ）、推定部１６２は、畳み込み演算により得られる畳込画像ＰＲ３が、歯抜け状態の画像である撮像画像ＰＲ４と一致（または近似）する方向、即ち、畳込画像ＰＲ３と撮像画像ＰＲ４との差分が小さくなる方向に、仮想的なＰＳＦ値を更新する（ステップＳＴ４）。
【００３７】
上述の仮想的なＰＳＦ値を更新する手法は、畳込画像ＰＲ３を撮像画像ＰＲ４と一致（または近似）させる方向に仮想的なＰＳＦ値を更新することができることを限度として任意の手法を用いることができ、例えば最急降下法や遺伝的アルゴリズムなどの一般的な最適化手法を用いることができる。
【００３８】
推定部１６２は、上記２乗誤差が所定範囲内になるまで、上述のステップＳＴ１〜ＳＴ３を繰り返し実施する。そして、推定部１６２は、畳込画像ＰＲ３と撮像画像ＰＲ４との２乗誤差が所定範囲内になった場合（ステップＳＴ３：ＹＥＳ）、そのときの仮想的なＰＳＦ値をレンズＢの緑色成分のＰＳＦの推定値ＰＳＦｇとして確定する。
【００３９】
ここで、修正後の参照画像ＰＲ２は、レンズＢの歪曲収差が存在する状況においてレンズＢのＰＳＦが理想的なインパルス応答を示す場合の画像に相当するから、上述の推定部１６２により推定された緑色成分のＰＳＦの推定値ＰＳＦｇは、歪曲収差を有するレンズＢに固有の緑色成分のＰＳＦを表す。また、撮像画像ＰＲ４は、図示しない撮像装置の光学系を構成するレンズＢを通して得られた画像であり、レンズごとに取得される画像である。したがって、画像処理装置１によれば、歪曲収差を有する個々のレンズ固有の緑色成分のＰＳＦを精度よく推定することができる。
【００４０】
なお、赤色成分の撮像画像を抽出するための画像抽出部１３１と、青色成分の撮像画像を抽出するための画像抽出部１３３についても、上述の緑色成分の撮像画像を抽出する画像抽出部１３２と同様に説明される。また、赤色成分のＰＳＦを推定するための推定部１６１と、青色成分のＰＳＦを推定するための推定部１６３についても、上述の緑色成分のＰＳＦを推定するための推定部１６２と同様に説明される。この場合、推定部１６１はレンズＢの赤色成分のＰＳＦの推定値ＰＳＦｒを出力し、推定部１６３は青色成分のＰＳＦの推定値ＰＳＦｂを出力する。
【００４１】
上述の推定部１６１〜１６３によって推定された各色成分のＰＳＦの推定値から、歪曲収差を有するレンズＢのＰＳＦの逆関数を取得し、この逆関数を用いてデジタルカメラなどの画像を補正することにより、レンズＢのＰＳＦに起因した劣化が抑制された画像を復元することができる。
【００４２】
次に、第１の実施形態による画像処理装置１の効果をシミュレーションにより検証した結果の一例を説明する。
図６は、本発明の第１の実施形態による画像処理装置１の効果の一例を説明するための図である。ここで、図６（Ａ）は、レンズ中心部での赤色成分（Ｒ成分）の期待値を示し、図６（Ｂ）は、レンズ中心部での赤色成分のＰＳＦ推定結果を示す。図６（Ｃ）は、レンズ中心部での緑色成分（Ｇ成分）の期待値を示し、図６（Ｄ）は、レンズ中心部での緑色成分のＰＳＦ推定結果を示す。図６（Ｅ）は、レンズ中心部での青色成分（Ｂ成分）の期待値を示し、図６（Ｆ）は、レンズ中心部での青色成分のＰＳＦ推定結果を示す。
【００４３】
図５に示すシミュレーション結果では、ＰＳＦのカーネル（１つのＰＳＦ値に対応する画像領域）を２９×２９画素としている。図５に示すように、図６（Ｂ）に示す赤色成分のＰＳＦの推定値が図６（Ａ）に示す期待値とほぼ一致している。また、図６（Ｄ）に示す緑色成分のＰＳＦの推定値が図５（Ｃ）に示す期待値とほぼ一致している。更に、図６（Ｆ）に示す青色成分のＰＳＦの推定値が図６（Ｅ）に示す期待値とほぼ一致している。
【００４４】
図６に示すシミュレーション結果から理解されるように、第１の実施形態の画像処理装置１によれば、レンズＢが歪曲収差を有していても、図２（Ａ）に示す１５×１５個の各像高に対して、赤色成分、緑色成分、青色成分のそれぞれについて、レンズ固有のＰＳＦ値（２９×２９画素の画像領域のＰＳＦの係数）を精度よく推定することができる。このように個々のレンズ固有のＰＳＦを高精度に推定することができれば、レンズのＰＳＦのばらつきに起因した画像の劣化を補正することができ、画像の復元を高品質に行うことが可能になる。
【００４５】
なお、前述の特許文献１に開示された技術もＰＳＦを推定する手段を備えているが、特許文献１の技術では、周波数領域において光学的伝達関数（ＯＴＦ）を推測し、その２次元フーリエ変換を実施することにより解析的にＰＳＦを推定している。しかしながら、特許文献１のＰＳＦの推定法によれば、レンズ固体の公差などによるＰＳＦのばらつきが存在する場合、個々のレンズのＰＳＦを正確に推定することは困難である。
【００４６】
（第２の実施形態）
次に、本発明の第２の実施形態を説明する。
上述の第１の実施形態では、参照画像ＰＲ１を修正して、レンズＢの歪曲収差による歪みが付与された参照画像ＰＲ２を生成するものとしたが、第２の実施形態では、レンズＢの歪曲収差による歪みを相殺する歪みを撮像画像ＰＲ４（後述の図８）に付与することにより撮像画像ＰＲ４を修正して撮像画像ＰＲ５（後述の図８）を生成する。そして、この修正後の撮像画像ＰＲ５と、参照画像ＰＲ１の畳込画像とが一致（または近似）するように、レンズＢのＰＳＦの推定値を算出する。
【００４７】
図７は、本発明の第２の実施形態による画像処理装置２の構成例を示すブロック図である。画像処理装置２は、上述の図１に示す第１の実施形態による画像処理装置１の構成において、画像修正部１５５に代えて、撮像素子１２０の後段（画像抽出部１３１，１３２，１３３の前段）に画像修正部１７１，１７２，１７３を備えると共に画像修正制御部１８０を備えている。その他は第１実施形態と同様である。
【００４８】
画像修正部１７１，１７２，１７３は、画像修正制御部１８０の制御の下、例えば利用者等により予め入力されたレンズＢの歪曲収差に関する情報Ｓに基づき、撮像素子１２０により取得された撮像画像ＰＲ４（後述の図８）を修正するための要素である。第２実施形態では、画像修正部１７１，１７２，１７３は、レンズＢの歪曲収差による歪みを相殺する歪みを上記撮像画像ＰＲ４に付与することにより上記撮像画像ＰＲ４を修正する。画像修正部１７１，１７２，１７３は、それぞれ、撮像素子１２０により取得される撮像画像の赤色成分、緑色成分、青色成分を修正する。
【００４９】
画像修正制御部１８０は、画像修正部１７１，１７２，１７３による画像修正を制御するための要素である。画像修正制御部１８０には、利用者等からレンズＢの歪曲収差に関する情報Ｓが入力される。画像修正制御部１８０は、上記情報Ｓに基づいて、画像修正部１７１，１７２，１７３による画像修正を制御する。即ち、画像修正制御部１８０は、像高に応じたレンズＢの歪曲収差による画像の変形量を算出し、その変形量を相殺する変形量が撮像画像ＰＲ４に付与されるように画像修正部１７１，１７２，１７３を制御する。
【００５０】
次に、画像修正部１７１，１７２，１７３と推定部１６１，１６２，１６３に着目して、画像処理装置２の動作を説明する。ここでは、説明の簡略化のため、緑色成分のＰＳＦを推定する場合を主として説明する。
図８は、本発明の第２の実施形態による画像処理装置に備えられた画像修正部１７１，１７２，１７３および推定部１６１，１６２，１６３の動作を補足説明するための図であり、緑色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【００５１】
図８において、参照画像ＰＲ１および撮像画像ＰＲ４は、それぞれ、上述の第１の実施形態における図５に示す参照画像ＰＲ１および撮像画像ＰＲ４である。撮像画像ＰＲ５は、画像修正部１７２によって撮像画像ＰＲ４を修正することにより得られた緑色成分のＲＡＷデータの画像である。
【００５２】
画像修正部１７２は、撮像素子１２０によって撮像された緑色成分の撮像画像を修正する。即ち、画像修正部１７２は、レンズＢの歪曲収差による歪みを相殺する歪みを、撮像素子１２０によって撮像された緑色成分の撮像画像に付与する。これにより、図２（Ａ）に示す参照チャートＡの図形（歪曲収差による歪みを含まない図形）に対応し、参照画像ＰＲ１と近似した形状の複数の図形を有する撮像画像が得られる。
【００５３】
図８に示す撮像画像ＰＲ５は、画像修正部１７２においてレンズＢの歪曲収差による歪みを相殺する歪みが付与された緑色成分の撮像画像であり、参照画像ＰＲ１の図形と近似した形状を有している。ただし、撮像画像ＰＲ５は、撮像画像ＰＲ４と同様に、ベイヤー配列における４画素のうちの緑色成分の１画素である。従って、撮像画像ＰＲ５は、ベイヤー配列における赤色成分と青色成分の画素が欠落した歯抜け状態の画像である。
【００５４】
画像修正部１７２と同様に、画像修正部１７１は、赤色成分の撮像画像を修正し、画像修正部１７３は、青色成分の撮像画像を修正する。このような画像修正部１７１，１７２，１７３による撮像画像の修正は、図３に示す歪曲収差を有する複数の図形のそれぞれについて実施される。これにより、各色成分について、参照画像ＰＲ１の図形（円形リング）と形状が近似した複数の図形を有する撮像画像が得られる。
【００５５】
画像抽出部１３２は、画像抽出制御部１４０の制御の下、画像修正部１７２により修正された緑色成分の撮像画像から推定対象の各像高の図形（円形リング）を抽出する。ここで、図８に例示する撮像画像ＰＲ５は、画像抽出部１３２によって抽出された撮像画像に相当する。画像抽出部１３２と同様に、画像抽出部１３１は、各像高の赤色成分の撮像画像を抽出し、画像抽出部１３３は、各像高の青色成分の撮像画像を抽出する。
【００５６】
推定部１６２は、第１の実施形態と同様に、仮想的に設定されたＰＳＦを参照画像ＰＲ１に畳み込み演算することにより、緑色成分の中間画像である畳込画像ＰＲ６を生成する。そして、推定部１６２は、第１の実施形態における図３に示すフローと同様の処理を行い、畳込画像ＰＲ６と、画像抽出部１３２により抽出された修正後の撮像画像ＰＲ５とから、緑色成分のＰＳＦの推定値ＰＳＦｇを取得する。推定部１６２と同様に、推定部１６１は、各像高の赤色成分のＰＳＦの推定値ＰＳＦｒを取得し、推定部１６３は、各像高の青色成分のＰＳＦの推定値ＰＳＦｂを取得する。
【００５７】
前述した第１の実施形態では、参照画像ＰＲ１を修正することにより、レンズＢの歪曲収差の影響を回避してＰＳＦを推定しているのに対し、第２の実施形態では、撮像画像ＰＲ４を修正することにより、レンズＢの歪曲収差の影響を回避してＰＳＦを推定している。従って、第２の実施形態によっても、第１の実施形態と同様に、レンズＢに歪曲収差が存在していても、レンズＢに固有のＰＳＦを精度よく推定することができる。
【００５８】
上述の第１および第２の実施形態では、本発明を画像処理装置１として表現したが、本発明は、画像処理方法として表現することもできる。この場合、本発明による画像処理方法は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、前記光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する第２段階と、前記チャート上の図形に対応した参照画像を生成する第３段階と、前記光学系の歪曲収差に関する情報に基づき前記撮像画像および前記参照画像の一方を修正する第４段階と、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第５段階と、前記推定部により推定された点広がり関数の逆関数を取得する第６段階と、を含む画像処理方法として表現することができる。
【００５９】
以上、本発明の実施形態を説明したが、本発明は上述の実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲で、種々の変形、修正、置換などが可能である。
例えば、レンズＢを備えたデジタルカメラなどの撮像装置のＲＡＷ画像と、画像処理装置１により得られるＰＳＦの推定値ＰＳＦｒ，ＰＳＦｇ，ＰＳＦｂに関する情報をネットワークに転送し、ネットワーク上のクラウドで撮像装置のレンズＢによる画像の劣化を補正する処理を実施することも可能である。この場合、メモリ量や演算処理量の制約を受けることのないクライド上の環境で効果的に画質の補正を行うことが可能になる。
【００６０】
更にまた、上述の実施形態では、推定部１６１〜１６３は、赤色成分、緑色成分、青色成分のいわゆるＲＧＢ表色系の信号を用いてレンズＢのＰＳＦを推定するものとしたが、任意の表色系を用いてＰＳＦを推定することができる。
【符号の説明】
【００６１】
１，２…画像処理装置、１２０…撮像素子、１３１，１３２，１３３…画像抽出部、１４０…画像抽出制御部、１５０…参照画像生成部、１５５…画像修正部、１６１，１６２，１６３…推定部、１７１，１７２，１７３…画像修正部、１８０…画像修正制御部、Ａ…参照チャート、Ｂ…レンズ、ＳＴ１〜ＳＴ４…処理ステップ。
【図１】
2016163312.tif 000003
【図３】
2016163312.tif 000004
【図４】
2016163312.tif 000005
【図７】
2016163312.tif 000006
【図２】
2016163312.tif 000007
【図５】
2016163312.tif 000008
【図６】
2016163312.tif 000009
【図８】
2016163312.tif 000010