(57)【要約】【課題】個々のレンズ固有のＰＳＦを精度よく推定することができる画像処理装置及び画像処理方法を提供する。【解決手段】本発明による画像処理装置は、撮像素子、画像抽出部、参照画像生成部、推定部、逆関数取得部を備える。撮像素子は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する。画像抽出部は、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する。参照画像生成部は、前記チャート上の図形に対応した参照画像を生成する。推定部は、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する。逆関数取得部は、前記推定部により推定された点広がり関数の逆関数を取得する。【選択図】図１
2016162413.tif 000002
【特許請求の範囲】
【請求項１】
所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する撮像素子と、
前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する画像抽出部と、
前記チャート上の図形に対応した参照画像を生成する参照画像生成部と、
前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する推定部と、
前記推定部により推定された点広がり関数の逆関数を取得する逆関数取得部と、
を備えた画像処理装置。
【請求項２】
前記光学系により結像された被写体の光像を前記撮像素子が光電変換することにより得られる電気信号に対し所定の信号処理を実施して画像を生成する画像信号処理部と、
前記逆関数を用いて前記画像信号処理部により生成された画像を補正する補正部と、
を更に備えたことを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記図形は、環状の図形であることを特徴とする請求項１または２に記載の画像処理装置。
【請求項４】
前記推定部は、前記点広がり関数を用いて前記参照画像を畳み込み演算することにより得られる画像と前記撮像画像との差分が小さくなるように、前記点広がり関数の係数を演算することを特徴とする請求項１から３の何れか１項に記載の画像処理装置。
【請求項５】
所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、
前記光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する第２段階と、
前記チャート上の図形に対応した参照画像を生成する第３段階と、
前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第４段階と、
前記推定部により推定された点広がり関数の逆関数を取得する第５段階と、
を含む画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【０００２】
デジタルカメラ等の光学系を構成するレンズの特性を表す関数の一つに点広がり関数（ＰＳＦ：Ｐｏｉｎｔ  Ｓｐｒｅａｄ  Ｆｕｎｃｔｉｏｎ）がある。通常、デジタルカメラの光学系は、サイズ、コスト、絞り開口サイズなどに対してＰＳＦがインパルス応答特性を示し、かつ、変調伝達関数（ＭＴＦ）が最大になるように設計されている。
【０００３】
ここで、設計は同一であっても、製造された個々のレンズは、個体の公差などにより、固有のレンズ特性を有しており、レンズ間でＰＳＦにばらつきが存在する。ＰＳＦのばらつきを低減させるための手法の例としては、特許文献１に示されるように、目標仕様に合わせて光学系を調整する手法もあるが、光学系の調整には限界がある。
【０００４】
また、特許文献１に示された技術は、ＰＳＦを推定する手段を備えており、周波数領域において光学的伝達関数（ＯＴＦ）を推測し、その逆２次元フーリエ変換によってＰＳＦを解析的に求めている。しかしながら、その推定法によれば、レンズを含む光学系の各パラメータ（例えば、焦点距離、絞り値、多数の像高など）に対して、個々のレンズ固有のＰＳＦを正確に推定することはできない。従って、特許文献１に示された技術によれば、個々のレンズのＰＳＦのばらつきに起因したレンズ特性の劣化を補正することは困難である。
【０００５】
特許文献２に示された従来技術は、個々のレンズのＰＳＦを推定する手段を備えており、３次収差である球面収差・コマ収差・非点収差等の基本収差量や焦点ずれ量の大きさを得ることによって、ＰＳＦを推定している。しかしながら、その推定法の詳細については特許文献２に明確に開示されていない。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特表２００９−５３４７２２号公報
【特許文献２】特開２０１０−１７７９１８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
本発明は、上記課題に鑑みてなされたものであり、個々のレンズ固有のＰＳＦを精度よく推定することができる画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明の一態様による画像処理装置は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する撮像素子と、前記撮像素子により光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する画像抽出部と、前記チャート上の図形に対応した参照画像を生成する参照画像生成部と、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する推定部と、前記推定部により推定された点広がり関数の逆関数を取得する逆関数取得部と、を備えた画像処理装置の構成を有する。
【０００９】
本発明の一態様による画像処理方法は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、前記光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する第２段階と、前記チャート上の図形に対応した参照画像を生成する第３段階と、前記参照画像に点広がり関数を適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第４段階と、前記推定部により推定された点広がり関数の逆関数を取得する第５段階と、を含む画像処理方法の構成を有する。
【発明の効果】
【００１０】
本発明によれば、個々のレンズ固有のＰＳＦを精度よく推定することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の実施形態による画像処理装置の構成例を示すブロック図である。
【図２】本発明の実施形態による参照チャートの一例を示す図であり、（Ａ）は、参照チャートの全体を示し、（Ｂ）は参照チャートの詳細を示す図である。
【図３】本発明の実施形態による画像処理装置に備えられた推定部の動作例を説明するためのフローチャートである。
【図４】本発明の実施形態による画像処理装置に備えられた推定部の動作例を補足説明するための図であり、赤色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【図５】本発明の実施形態による画像処理装置の効果の一例を説明するための図であり、（Ａ）は、レンズ中心部での赤色成分の期待値を示し、（Ｂ）は、レンズ中心部での赤色成分のＰＳＦ推定結果を示し、（Ｃ）は、レンズ中心部での緑色成分の期待値を示し、（Ｄ）は、レンズ中心部での緑色成分のＰＳＦ推定結果を示し、（Ｅ）は、レンズ中心部での青色成分の期待値を示し、（Ｆ）は、レンズ中心部での青色成分のＰＳＦ推定結果を示す図である。
【発明を実施するための形態】
【００１２】
以下、図面を参照しながら、本発明の実施形態による画像処理装置を説明する。
図１は、本発明の実施形態による画像処理装置１の構成例を示すブロック図である。
本実施形態では、画像処理装置１は、ＰＳＦ推定装置１００と、デジタルカメラなどの撮像装置２００とから構成されている。
【００１３】
ＰＳＦ推定装置１００は、撮像装置２００の光学系を構成するレンズ２１０を通して所定の参照チャートＡ上の図形（後述の図２）を撮像したときにレンズ２１０によって結像される光像からレンズ２１０のＰＳＦを推定するための装置である。また、撮像装置２００は、通常の被写体Ｂを撮像するための装置であり、上述のＰＳＦ推定装置１００により推定されたレンズ２１０のＰＳＦの逆関数を用いて画像を補正する機能を有している。
【００１４】
なお、本実施形態では、画像処理装置１は、ＰＳＦ推定装置１００と撮像装置２００とを別体として備えるものとするが、ＰＳＦ推定装置１００を撮像装置２００の構成要素とし、ＰＳＦ推定装置１００を備えた撮像装置２００を画像処理装置１として定義してもよい。また、ＰＳＦ推定装置１００のみを画像処理装置１としてもよい。即ち、ＰＳＦ推定装置１００の機能を有することを限度に、画像処理装置１を任意に定義することが可能である。
【００１５】
詳細に説明すると、ＰＳＦ推定装置１００は、撮像素子１２０、画像抽出部１３１，１３２，１３３、画像抽出制御部１４０、参照画像生成部１５０、推定部１６１，１６２，１６３、逆関数取得部１７０を備える。ここで、撮像素子１２０は、所定の参照チャートＡ上の図形を、撮像装置２００の光学系を構成するレンズ２１０を通して撮像し、上記光学系により結像された光像をＲＧＢ表色系の電気信号に光電変換するための要素である。
【００１６】
本実施形態では、ＰＳＦ推定装置１００の撮像素子１２０は、撮像装置２００の構成要素である後述の撮像素子２２０と共用され、撮像素子１２０の赤色成分、緑色成分、青色成分の各画素の配列はベイヤー(bayer)配列であるものとする。画像抽出部１３１，１３２，１３３は、撮像素子１２０により光電変換された電気信号によって形成される画像から、参照チャートＡ上の図形を表す撮像画像を抽出するための要素である。画像抽出制御部１４０は、画像抽出部１３１，１３２，１３３による画像抽出を制御するための要素である。
【００１７】
参照画像生成部１５０は、参照チャートＡ上の図形に対応した参照画像を生成するための要素である。この参照画像は、レンズ２１０のＰＳＦを推定する際の基準となる画像であるが、その詳細については後述する。推定部１６１，１６２，１６３は、参照画像生成部１５０により生成された参照画像にＰＳＦを適用して得られる画像が、画像抽出部１３１，１３２，１３３により抽出された撮像画像に近似するように、上記ＰＳＦを推定するための要素である。逆関数取得部１７０は、推定部１６１，１６２，１６３により推定されたＰＳＦの逆関数を取得するための要素である。
【００１８】
撮像装置２００は、光学系を構成するレンズ２１０、撮像素子２２０、画像信号処理部２３０、補正部２４０を備える。このうち、撮像素子２２０は、上述したように、ＰＳＦ推定装置１００と撮像装置２００とで共用される要素である。画像信号処理部２３０は、レンズ２１０により結像された被写体Ｂの光像を撮像素子１２０が光電変換することにより得られる電気信号に対し所定の信号処理を実施して画像を生成するための要素である。補正部２４０は、上述のＰＳＦ推定装置１００の逆関数取得部１７０により取得された逆関数を用いて、画像信号処理部２３０により生成された画像を補正するための要素である。
【００１９】
図２は、本発明の実施形態による参照チャートＡの一例を模式的に示す図であり、図２（Ａ）は、参照チャートＡの全体を示し、図２（Ｂ）は参照チャートＡの詳細を示す。
【００２０】
参照チャートＡは、ＰＳＦ推定用の特殊なチャートである。参照チャートＡ上には、図２（Ａ）に例示するように、同一の所定形状の複数の図形が１５×１５の行列状に配置されている。上記複数の図形のそれぞれは、環状の形状を有する図形であり、具体的には、図２（Ｂ）に例示するように、黒色の下地に形成された白色の円形リングである。本実施形態では、参照チャートＡ上の１５×１５個の円形リングの撮像画像から、赤色成分、緑色成分、青色成分のそれぞれについて、１５×１５個のＰＳＦを推定する。
【００２１】
なお、図２（Ａ）および図２（Ｂ）に示す例に限定されず、参照チャートＡ上の図形の形状は、ＰＳＦを推定することができることを限度として任意であり、例えば環状の三角形リングや四角形リングなどの多角形のリングであってもよく、多重リングであってもよく、ジーメンススターチャートであってもよい。また、参照チャートＡ上に配列される図形の個数や配置間隔等も任意に設定し得る。
また、図２（Ａ）に示す例では、複数の円形リングのそれぞれに対し、矩形の黒色の下地が個別的に設けられているが、参照チャートＡの全面に亘って黒色の下地が形成されていてもよい。また、リングの白と下地の黒とが逆転していてもよい。
【００２２】
次に、本発明の実施形態による画像処理装置１の動作を説明する。
撮像装置２００により通常の被写体Ｂを撮像する場合、被写体Ｂの光像がレンズ２１０により撮像素子２２０の受光面上に結像される。撮像素子２２０は、受光面上の光像を光電変換し、受光量に応じた電荷量を示す電気信号を発生させる。この電気信号は画像信号処理部２３０に入力され、画像信号処理部２３０において画像が形成される。
【００２３】
このように撮像装置において被写体の画像が生成される過程で、レンズ２１０は、収差によりボケやひずみなどの画像の劣化を引き起こす。そこで、次に説明するように、本実施形態では、事前にＰＳＦ推定装置１００により撮像装置２００のレンズ２１０のＰＳＦを推定して、その逆関数を取得しておき、その逆関数を用いて、画像信号処理部２３０により得られた画像を補正することにより、劣化のない画像を復元する。
【００２４】
レンズ２１０のＰＳＦの推定に着目して画像処理装置１の動作を詳細に説明する。
ＰＳＦ推定装置１００により撮像装置２００のレンズ２１０のＰＳＦを推定する場合、レンズ２１０の光軸上に被写体として所定の参照チャートＡを配置する。この状態で、参照チャートＡからの光がレンズ２１０を通してＰＳＦ推定装置１００の撮像素子１２０（２２０）に入射され、撮像素子１２０の受光面上に参照チャートＡ上の複数の図形（円形リング）の光像が結像される。
【００２５】
撮像素子１２０はその受光面に結像された光像を光電変換し、その光像の光量に応じた電荷量を示す電気信号を出力する。このときに撮像素子１２０から出力される電気信号は、ＰＳＦ推定用の参照チャートＡ上の複数の図形（円形リング）の撮像画像のＲＡＷデータであり、このＲＡＷデータは、赤色成分の信号Ｓｒ、緑色成分の信号Ｓｇ、青色成分の信号Ｓｂを含んでいる。
【００２６】
画像抽出制御部１４０は、上記ＲＡＷデータ（Ｓｒ，Ｓｇ，Ｓｂ）によって形成される画像において、図２に示す参照チャートＡ上に配列された１５×１５個の各図形の像高に対応する画像領域を特定する。画像抽出部１３１，１３２，１３３は、それぞれ、画像抽出制御部１４０によって特定された画像領域の撮像画像を抽出する。この場合、画像抽出部１３１は、赤色成分の信号Ｓｒによって形成される撮像画像を抽出し、画像抽出部１３２は、緑色成分の信号Ｓｇによって形成される撮像画像を抽出し、画像抽出部１３３は、青色成分の信号Ｓｂによって形成される撮像画像を抽出する。この抽出された撮像画像の詳細については後述する。
【００２７】
参照画像生成部１５０は、参照チャートＡ上の図形（円形リング）に対応した参照画像を生成する。参照画像生成部１５０は、参照チャートＡ上の図形の赤色、緑色、青色の各色成分に対応した参照画像を生成する。この際に、参照画像生成部１５０は、生成した参照画像の図形が、撮像素子１２０によって取得される撮像画像の図形とサイズが概ね一致するようにリサイズする。この参照画像は、上述のように、ＰＳＦを推定する際の基準となる画像であり、後述の図４に示す参照画像ＰＲ１に相当するが、その詳細は後述する。
【００２８】
推定部１６１，１６２，１６３は、次に説明するように、画像抽出部１３１，１３２，１３３によって抽出された撮像画像と参照画像生成部１５０により生成された参照画像とから、図２（Ａ）に示す参照チャートＡ上に行列状に配列された複数の図形のそれぞれに対応した各領域のＰＳＦを推定する。
【００２９】
ここでは、説明の簡略化のため、赤色成分のＰＳＦを推定する場合を説明する。
図３は、本発明の実施形態による画像処理装置１に備えられた推定部１６１の動作例を説明するためのフローチャートである。図４は、本発明の実施形態による画像処理装置１に備えられた推定部１６１の動作例を補足説明するための図であり、赤色成分のＰＳＦを推定するために用いられる画像の一例を示す図である。
【００３０】
図３において、参照画像ＰＲ１は、上述の参照画像生成部１５０によって生成された赤色成分の画像を表している。参照画像ＰＲ１は、レンズ２１０のＰＳＦが理想的なインパルス応答を示す場合の撮像画像に相当し、レンズ特性に劣化がない場合の仮想的な画像である。参照画像ＰＲ１は、参照画像生成部１５０によって生成することができる画像の分解能の範囲内で、可能な限り、参照チャートＡの図形（円形リング）に近似した形状を有している。
【００３１】
また、図３において、畳込画像ＰＲ２は、推定部１６１において赤色成分のＰＳＦを推定する過程で、仮想的に設定されたＰＳＦを参照画像ＰＲ１に畳み込み演算することにより生成される中間画像である。ＰＳＦを推定する過程で畳み込み演算の回数に応じて畳込画像ＰＲ２は変化する。
【００３２】
更に、図３において、撮像画像ＰＲ３は、画像抽出部１３１によって抽出されたレンズ中心における赤色成分のＲＡＷデータの画像である。この例では、撮像画像ＰＲ３は、ベイヤー配列における４画素のうちの赤色成分の１画素である。従って、撮像画像ＰＲ３は、ベイヤー配列における緑色成分と青色成分の画素が欠落した歯抜け状態の画像となっている。これに対し、上述の参照画像ＰＲ１は、ベイヤー配列を有する画素による画像ではなく、歯抜け状態の画像でもないことに留意されたい。
【００３３】
初期状態では、推定部１６１には、赤色成分の仮想的なＰＳＦの係数（以下、ＰＳＦ値と称す。）の初期値が設定される。赤色成分の１つの仮想的なＰＳＦ値は、例えば、２９×２９画素相当の赤色成分の画像領域に対応するＰＳＦの係数である。この初期状態における仮想的なＰＳＦ値はランダム値であってもよい。
【００３４】
ただし、複数の仮想的なＰＳＦ値に対応する複数の画面領域の配列は、上述の参照画像ＰＲ１と同様に、ベイヤー配列のような歯抜け状態の配列ではなく、好ましくは、参照チャートＡの画像の図形（円形リング）に近似した形状を呈する配列である。このように、参照画像ＰＲ１はベイヤー配列ではなく、推定部１６１において設定される仮想的なＰＳＦ値に対応する画面領域の配列もベイヤー配列のような歯抜けに設定されない。
【００３５】
推定部１６１は、概略的には、仮想的に設定されたＰＳＦを用いて参照画像ＰＲ１を畳み込み演算することにより得られる畳込画像ＰＲ２（中間画像）と撮像画像ＰＲ３との差分が小さくなるように、ＰＳＦの係数を演算する。
【００３６】
詳細に説明すると、推定部１６１は、仮想的なＰＳＦ値と参照画像生成部１５０によって生成された参照画像ＰＲ１との畳み込み演算を行い（ステップＳＴ１）、その演算の結果として畳込画像ＰＲ２を生成する（ステップＳＴ２）。続いて、推定部１６１は、畳み込み演算により得られた畳込画像ＰＲ２と、画像抽出部１３１により抽出された歯抜け状態の画像である撮像画像ＰＲ３との２乗誤差を演算し、この２乗誤差が所定範囲内であるかどうかを判定する（ステップＳＴ３）。ここで、上記の所定範囲は、畳込画像ＰＲ２と撮像画像ＰＲ３とが一致（または近似）したことを判定するための基準を与え、必要とする推定精度に応じて任意に設定し得る。
【００３７】
上記２乗誤差が所定範囲内でなければ（ステップＳＴ３：ＮＯ）、推定部１６１は、畳み込み演算により得られる畳込画像ＰＲ２が、歯抜け状態の画像である撮像画像ＰＲ３と一致（または近似）する方向、即ち、畳込画像ＰＲ２と撮像画像ＰＲ３との差分が小さくなる方向に、仮想的なＰＳＦ値を更新する（ステップＳＴ４）。
【００３８】
上述の仮想的なＰＳＦ値を更新する手法は、畳込画像ＰＲ２を撮像画像ＰＲ３と一致（または近似）させる方向に仮想的なＰＳＦ値を更新することができることを限度として任意の手法を用いることができ、例えば最急降下法や遺伝的アルゴリズムなどの一般的な最適化手法を用いることができる。
【００３９】
推定部１６１は、上記２乗誤差が所定範囲内になるまで、上述のステップＳＴ１〜ＳＴ３を繰り返し実施する。そして、推定部１６１は、畳込画像ＰＲ２と撮像画像ＰＲ３との２乗誤差が所定範囲内になった場合（ステップＳＴ３：ＹＥＳ）、そのときの仮想的なＰＳＦ値をレンズ２１０の赤色成分のＰＳＦの推定値ＰＳＦｒとして確定する。
【００４０】
ここで、参照画像ＰＲ１は、レンズ２１０のＰＳＦが理想的なインパルス応答を示す場合の画像に相当するから、上述の推定部１６１により推定された赤色成分のＰＳＦの推定値ＰＳＦｒは、レンズ２１０固有の赤色成分のＰＳＦを表す。また、撮像画像ＰＲ３は、撮像装置２００の光学系を構成するレンズ２１０を通して得られた画像であり、レンズごとに取得される画像である。したがって、画像処理装置１によれば、個々のレンズ固有の赤色成分のＰＳＦを精度よく推定することができる。
【００４１】
なお、緑色成分の撮像画像を抽出するための画像抽出部１３２と、青色成分の撮像画像を抽出するための画像抽出部１３３についても、上述の赤色成分の撮像画像を抽出する画像抽出部１３１と同様に説明される。また、緑色成分のＰＳＦを推定するための推定部１６２と、青色成分のＰＳＦを推定するための推定部１６３についても、上述の赤色成分のＰＳＦを推定するための推定部１６１と同様に説明される。この場合、推定部１６２はレンズ２１０の緑色成分のＰＳＦの推定値ＰＳＦｇを出力し、推定部１６３は青色成分のＰＳＦの推定値ＰＳＦｂを出力する。
【００４２】
逆関数取得部１７０は、上述の推定部１６１〜１６３によって推定された各色成分のＰＳＦの推定値から、レンズ２１０のＰＳＦの逆関数を取得する。例えば、逆関数取得部１７０は、上記ＰＳＦの推定値から、レンズ２１０のＰＳＦの逆フィルタの係数を近似して求める。この逆フィルタの係数によって表されるＰＳＦの逆関数は、レンズ２１０のＰＳＦによるレンズ特性の劣化を相殺するように作用する関数である。したがって、次に説明する撮像装置２００の撮像画像に上記逆関数を適用することにより、レンズ２１０のＰＳＦに起因した劣化が抑制された画像を復元することができる。
【００４３】
次に、撮像装置２００の動作を説明する。
撮像装置２００の補正部２４０には、撮影前に、上述のＰＳＦ推定装置１００によって取得された逆関数に関する情報ＨＤが格納される。
【００４４】
撮像装置２００により通常の被写体Ｂを撮像すると、その光像がレンズ２１０を通して撮像素子２２０の受光面に結像される。撮像素子２２０は、レンズ２１０により結像された光像を光電変換して、赤色成分、緑色成分、青色成分の各電気信号（Ｓｒ，Ｓｇ，Ｓｂ）を出力する。画像信号処理部２３０は、撮像素子２２０から出力された電気信号に対し所定の信号処理を実施して画像信号ＰＡを生成する。
【００４５】
補正部２４０は、画像信号処理部２３０により生成された画像信号ＰＡを、ＰＳＦ推定装置１００の逆関数取得部１７０によって取得された上記逆関数を用いて補正して画像信号ＰＢを出力する。この画像信号ＰＢを用いて画像を表示させることにより、レンズ２１０のＰＳＦに起因した劣化が抑制された画像を復元することができる。
【００４６】
次に、本実施形態による画像処理装置１の効果をシミュレーションにより検証した結果の一例を説明する。
図５は、本発明の実施形態による画像処理装置１の効果の一例を説明するための図である。ここで、図５（Ａ）は、レンズ中心部での赤色成分（Ｒ成分）の期待値を示し、図５（Ｂ）は、レンズ中心部での赤色成分のＰＳＦ推定結果を示す。図５（Ｃ）は、レンズ中心部での緑色成分（Ｇ成分）の期待値を示し、図５（Ｄ）は、レンズ中心部での緑色成分のＰＳＦ推定結果を示す。図５（Ｅ）は、レンズ中心部での青色成分（Ｂ成分）の期待値を示し、図５（Ｆ）は、レンズ中心部での青色成分のＰＳＦ推定結果を示す。
【００４７】
図５に示すシミュレーション結果では、ＰＳＦのカーネル（１つのＰＳＦ値に対応する画像領域）を２９×２９画素としている。図５に示すように、図５（Ｂ）に示す赤色成分のＰＳＦの推定値が図５（Ａ）に示す期待値とほぼ一致している。また、図５（Ｄ）に示す緑色成分のＰＳＦの推定値が図５（Ｃ）に示す期待値とほぼ一致している。更に、図５（Ｆ）に示す青色成分のＰＳＦの推定値が図５（Ｅ）に示す期待値とほぼ一致している。
【００４８】
図５に示すシミュレーション結果から理解されるように、本実施形態の画像処理装置１によれば、図２（Ａ）に示す１５×１５個の各像高に対して、赤色成分、緑色成分、青色成分のそれぞれについて、レンズ固有のＰＳＦ値（２９×２９画素の画像領域のＰＳＦの係数）を精度よく推定することができる。このように個々のレンズ固有のＰＳＦを高精度に推定することができれば、レンズ２１０のＰＳＦのばらつきに起因した画像の劣化を補正することができ、画像の復元を高品質に行うことが可能になる。
【００４９】
なお、前述の特許文献１に開示された技術もＰＳＦを推定する手段を備えているが、特許文献１の技術では、周波数領域において光学的伝達関数（ＯＴＦ）を推測し、その２次元フーリエ変換を実施することにより解析的にＰＳＦを推定している。しかしながら、特許文献１のＰＳＦの推定法によれば、レンズ固体の公差などによるＰＳＦのばらつきが存在する場合、個々のレンズのＰＳＦを正確に推定することは困難である。
【００５０】
上述の実施形態では、本発明を画像処理装置１として表現したが、本発明は、画像処理方法として表現することもできる。この場合、本発明による画像処理方法は、所定のチャート上の図形を、光学系を通して撮像し、前記光学系により結像された光像を電気信号に光電変換する第１段階と、前記光電変換された電気信号によって与えられる画像から、前記チャート上の図形を表す撮像画像を抽出する第２段階と、前記チャート上の図形に対応した参照画像を生成する第３段階と、点広がり関数を前記参照画像に適用して得られる画像が前記撮像画像に近似するように、前記点広がり関数を推定する第４段階と、前記推定部により推定された点広がり関数の逆関数を取得する第５段階と、を含む画像処理方法として表現することができる。
【００５１】
以上、本発明の実施形態を説明したが、本発明は上述の実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲で、種々の変形、修正、置換などが可能である。
例えば、上述した実施形態では、ＰＳＦの推定を行うＰＳＦ推定装置１００の推定結果を撮像装置２００で利用する場合を説明したが、この例に限定されず、撮像装置２００のＲＡＷ画像と、ＰＳＦ推定装置１００により得られる逆関数に関する情報ＨＤをネットワークに転送し、ネットワーク上のクラウドで撮像装置２００のレンズ２１０による画像の劣化を補正することも可能である。この場合、メモリ量や演算処理量の制約を受けることのない環境で効果的に画質の補正を行うことが可能になる。
【００５２】
また、上述の実施形態では、ＰＳＦ推定装置１００の撮像素子１２０として、撮像装置２００の撮像素子２２０を共用するものとしたが、レンズ２１０の固有のＰＳＦを推定することができることを限度に、ＰＳＦ推定装置１００の撮像素子１２０として、撮像装置２００の撮像素子２２０とは異なる素子を用いてもよい。
【００５３】
更に、上述の実施形態では、ＰＳＦ推定装置１００の構成要素と撮像装置２００の構成要素を形式的に分離して実現したが、ＰＳＦ推定装置１００の画像抽出部１３１〜１３３、画像抽出制御部１４０、参照画像生成部１５０、推定部１６１〜１６３、逆関数取得部１７０の一部または全部を、撮像装置２００の画像信号処理部２３０または補正部２４０の構成要素と一体化して実現してもよい。
【００５４】
更にまた、上述の実施形態では、逆関数取得部１７０をＰＳＦ推定装置１００の構成要素としたが、逆関数取得部１７０を撮像装置２００の構成要素としてもよい。この場合、ＰＳＦ推定装置１００は、ＰＳＦの推定値ＰＳＦｒ，ＰＳＦｇ，ＰＳＦｂに関する情報を撮像装置２００に出力する。
【００５５】
更にまた、上述の実施形態では、推定部１６１〜１６３は、赤色成分、緑色成分、青色成分のいわゆるＲＧＢ表色系の信号を用いてレンズ２１０のＰＳＦを推定するものとしたが、任意の表色系を用いてＰＳＦを推定することができる。
【符号の説明】
【００５６】
１…画像処理装置、１００…ＰＳＦ推定装置、１２０…撮像素子、１３１，１３２，１３３…画像抽出部、１４０…画像抽出制御部、１５０…参照画像生成部、１６１，１６２，１６３…推定部、１７０…逆関数取得部、２００…撮像装置、２１０…レンズ、２２０…撮像素子、２３０…画像信号処理部、２４０…補正部、Ａ…参照チャート、Ｂ…被写体、ＳＴ１〜ＳＴ４…処理ステップ。
【図１】
2016162413.tif 000003
【図３】
2016162413.tif 000004
【図２】
2016162413.tif 000005
【図４】
2016162413.tif 000006
【図５】
2016162413.tif 000007