(57)【特許請求の範囲】
【請求項１】
光学系を介して撮像された画像を処理する画像処理装置であって、
前記画像に対して、前記光学系の伝達関数に応じたフィルタリングを実行するフィルタ処理部を備え、
前記フィルタ処理部は、前記画像中の光軸中心に対応する位置から処理対象の位置までの距離に応じた係数を、光学系の光軸の方向に入射した光の伝達関数に対応する第１のフィルタ及び前記光軸に対して一定の角度をもって入射した光の伝達関数に対応する第２のフィルタにかけて線形結合することにより、前記画像中の処理対象の位置に応じて異なるフィルタデータを生成し、前記生成したフィルタデータを用いて、フィルタリングを実行する、
画像処理装置。
【請求項２】
前記フィルタ処理部は、予め記録された前記光学系の伝達関数に対応するフィルタを示すフィルタデータを前記画像中の処理対象の位置に応じて補正し、当該補正したフィルタデータを用いて、前記フィルタリングを実行する、請求項１に記載の画像処理装置。
【請求項３】
前記フィルタ処理部は、
前記フィルタを前記画像中の光軸中心に対応する点から処理対象の位置への方向に応じて補正し、当該補正したフィルタのフィルタデータを用いて、前記フィルタリングを実行する、請求項１または２に記載の画像処理装置。
【請求項４】
前記フィルタ処理部は、予め記録された、前記光学系における入射角の異なる光それぞれに応じた複数の伝達関数に対応する複数のフィルタのフィルタデータのうち、前記画像中の処理対象の位置に応じたフィルタのフィルタデータを用いて前記フィルタリングを実行する、請求項１に記載の画像処理装置。
【請求項５】
前記フィルタ処理部は、前記画像を複数の領域に分割し、当該複数の領域ごとに適用する前記フィルタのフィルタデータを、予め記録された前記伝達関数に応じたフィルタのフィルタデータから生成または選択し、当該生成または選択したフィルタデータを用いて領域ごとにフィルタリング処理を実行する、請求項１〜４のいずれか１項に記載の画像処理装置。
【請求項６】
前記複数の領域は、前記画像中の光軸中心に対応する位置に対して放射状に配置される、請求項５に記載の画像処理装置。
【請求項７】
前記画像中の光軸中心に対応する位置から遠いほど、前記領域の面積が小さくなるよう前記複数の領域が設定される、請求項５または６に記載の画像処理装置。
【請求項８】
コンピュータに、光学系を介して撮像された画像を処理させる画像処理プログラムであって、
前記画像に対して、前記光学系の伝達関数に応じたフィルタリングを実行するフィルタ処理をコンピュータに実行させ、
前記フィルタ処理は、前記画像中の光軸中心に対応する位置から処理対象の位置までの距離に応じた係数を、光学系の光軸の方向に入射した光の伝達関数に対応する第１のフィルタ及び前記光軸に対して一定の角度をもって入射した光の伝達関数に対応する第２のフィルタにかけて線形結合することにより、前記画像中の処理対象の位置に応じて異なるフィルタデータを生成し、前記生成したフィルタデータを用いて、フィルタリングを実行する
ことを特徴とする、画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、光学系によって撮像された画像に対して処理を実行する画像処理装置に関する。
【背景技術】
【０００２】
従来、光学系によって撮像された画像から、ボケを取り除く方法として、種々の画像処理方法が提案されている（例えば、特許文献１〜３参照）。特許文献１では、カラー画像に対して色滲みを軽減する処理において、軽減対象とする色滲み、及び色滲みの量の推定方方法を、画像の特性及び撮像条件に応じて変更することが開示されている。特許文献２では、ベイヤー配列の撮像素子による画像に対してデコンボリューションをかける方法が開示されている。特許文献３では、透明に近い生体材料を試料とし、試料透過光の減衰量から立体像を得る三次元画像取得装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００９−１２４５９８号公報
【特許文献２】特開２００９−８９０８２号公報
【特許文献３】特許４２３６１２３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上記従来技術では、光学系のＰＳＦ（Point Spread Function）に応じた画像復元フィルタリングに基づいた処理が実行される。しかしながら、光学系のＰＳＦは、入射する光の角度（方向）によって変化することが多い。上記従来技術では、入射する光の角度によるＰＳＦの変化を対応することができる画像復元フィルタリングは困難である。
【０００５】
ゆえに、本発明は、入射する光の角度によるＰＳＦの変化にも対応できる画像処理を可能にすることを目的する。
【課題を解決するための手段】
【０００６】
本願開示の画像処理装置は、光学系を介して撮像された画像を処理する画像処理装置であって、前記画像に対して、前記光学系の伝達関数に応じたフィルタリングを実行するフィルタ処理部を備え、前記フィルタ処理部は、前記画像中の光軸中心に対応する位置から処理対象の位置までの距離に応じた係数を、光学系の光軸の方向に入射した光の伝達関数に対応する第１のフィルタ及び前記光軸に対して一定の角度をもって入射した光の伝達関数に対応する第２のフィルタにかけて線形結合することにより、前記画像中の処理対象の位置に応じて異なるフィルタデータを生成し、前記生成したフィルタデータを用いて、フィルタリングを実行する。
【発明の効果】
【０００７】
本願明細書の開示によれば、画角によるＰＳＦの変化にも対応できる画像処理が可能になる。
【図面の簡単な説明】
【０００８】
【図１】図１は、第１の実施形態における画像処理装置を含む撮像装置の概略構成を示す機能ブロック図である。
【図２】図２は、光学系に入射する光の経路の例を示す図である。
【図３】図３の（ａ）、（ｂ）、（ｃ）は、それぞれ、図２の（ａ）、（ｂ）及び（ｃ）に示す光束のＰＳＦの計算例を示している。
【図４】図４の（ａ）、（ｂ）、（ｃ）は、それぞれ、図２の（ａ）、（ｂ）及び（ｃ）に示す光束のＭＴＦ（Modulation Transfer Function）の計算例を示している。
【図５】図５は、画像処理装置の詳細な構成の一例を示す機能ブロック図である。
【図６】図６は、フィルタ処理部の動作例を示すフローチャートである。
【図７】図７は、画像領域におけるデコンボリューション分布の例を示す図である。
【図８】図８は、デコンボリューション分布を説明するための図である。
【図９】図９も、デコンボリューション分布を説明するための図である。
【図１０】図１０は、リファレンス分布計算の一例を示すフローチャートである。
【図１１】光学系における光軸中心光束と、最外画角光束の例を示す図である。
【図１２】図１２は、第２の実施形態にかかるフィルタ処理部の動作例を示すフローチャートである。
【図１３】図１３は、画像に予め設定される複数のゾーンの一例を示す図である。
【図１４】図１４は、画像に予め設定される複数のゾーンの他の例を示す図である。
【発明を実施するための形態】
【０００９】
（第１の実施形態）
［撮像装置の構成例］
図１は、第１の実施形態における画像処理装置を含む撮像装置の概略構成を示す機能ブロック図である。図１に示す撮像装置は、被写体Ｋからの光を像面に集光する光学系１、光学系１によって集光された被写体からの光を電子信号（アナログ信号）に変換する撮像素子２、撮像画像のアナログ信号をデジタル信号に変換するＡＦＥ（Analog front end）３、デジタル信号の画像に対してフィルタリング処理を実行する機能を含む画像処理装置４、フィルタリング処理を経た画像に対して更に必要な処理を施して表示画像を生成する後処理部５、後処理部５が生成した画像を表示する表示部９を備える。また、撮像装置は、さらに、光学系１を制御する駆動制御装置６と、ＡＦＥ３、画像処理装置４及び後処理装置５を制御する制御装置７をさらに備える。
【００１０】
光学系１は、レンズ１１ａ、１１ｂ、１１ｃ、及び絞り１２を含む。レンズ１１ａ、１１ｂ、１１ｃ、及び絞り１２は、被写体Ｋからの光を撮像素子１の撮像面に集光させて被写体の像を結像する。駆動制御装置６は、レンズ１１ａ、１１ｂ、１１ｃの位置や絞り１２の絞り度合い等を制御することができる。なお、光学系１の構成は特定のものに限定されない。撮像素子２は、例えば、ＣＣＤ／ＣＭＯＳ等の二次元撮像素子を含み、二次元撮像素子は、被写体の像を電子信号（画像信号）に変換してＡＦＥ３へ出力する。
【００１１】
ＡＦＥ３は、Ａ／Ｄ（アナログデジタル）コンバータ３１及びタイミングジェネレータ３２を含む。タイミングジェネレータ３２は、制御装置７からの制御信号に基づいて、撮像素子２の駆動に用いられるタイミングパルスを生成し、撮像素子２及びＡ／Ｄコンバータ３１へ出力する。
【００１２】
画像処理装置４は、Ａ／Ｄコンバータ３１でデジタル信号に変換された画像（ＲＡＷ画像）を記録するＲＡＷメモリ４１と、その画像に対して、光学系１の伝達関数（ＰＳＦまたはＯＴＦ（Optical Transfer Function））に応じたフィルタデータを用いて、フィルタリングを実行するフィルタ処理部４２を含む。フィルタ処理部４２でフィルタリングを施された画像は画像メモリ８に記録される。
【００１３】
フィルタ処理部４２では、画像中の処理対象の位置に応じて異なるフィルタデータを用いて、それぞれの位置においてフィルタリングを実行する。このように、画像中の位置に応じてフィルタを変えることで、光学系における光の入射角の違いによるＯＴＦの違いにも対応したフィルタリングが可能になる。
【００１４】
フィルタ処理部４２は、例えば、予め記録された光学系１の伝達関数に対応するフィルタを示すフィルタデータを、画像中の処理対象の位置に応じて補正し、当該補正したフィルタデータを用いて、画像中の処理対象の位置におけるフィルタリングを実行することができる。これにより、予め記録されるフィルタデータの量を抑えながらも、画像中の位置に応じて柔軟にフィルタを変えることができる。フィルタリング処理の詳細例については、後述する。
【００１５】
フィルタデータは、例えば、デコンボリューションカーネルのように、フィルタリングに必要なパラメータの集合とすることができる。デコンボリューションカーネルは、具体的には、ＰＳＦに応じた円形の被写体の像の分布する領域と、領域における各画素の重みを表すデータ（このようなデータをデコンボリューション分布と称する）で表すことができる。リファレンス分布は、例えば、光学系１のＰＳＦを基に計算することができる。ファイルデータは、フィルタ処理部の内部または外部のメモリに予め記録されていることが好ましい。
【００１６】
後処理部５は、フィルタリングされた画像を画像メモリ８から読み出して、フィルタリング以外に必要な処理を行って、表示するための画像を生成し、表示部９へ出力する。表示部９は、例えば、画像を記録するＶＲＡＭ、及びＶＲＡＭの画像を出力するディスプレイを含む。なお、撮像装置は、表示機能を必ずしも備えなくてもよく、表示部９の替わりに、表示用の画像を記録する記録部（例えば、ＶＲＡＭ等）が設けられてもよい。
【００１７】
画像処理装置４は、例えば、ＤＳＰ（Digital Signal Processor）により構成することができる。この場合、ＲＡＷメモリ４１は、ＤＳＰ内蔵メモリであってもよいし、外部のメモリであってもよい。また、後処理部５、画像メモリ８、表示のためのＶＲＡＭ等が画像処理装置４とともに一体のＤＳＰで構成されてもよいし、画像処理装置４のフィルタ処理部のみが１つのＤＳＰで構成されてもよい。あるいは、ＤＳＰのような特定処理専用プロセッサでなく、ＣＰＵ等の汎用プロセッサが、所定のプログラムを実行することにより画像処理装置４の機能を実現することもできる。駆動制御装置６、制御装置７及び後処理部５も同様に、少なくとも１台の、特定処理専用プロセッサまたは汎用プロセッサにより構成することができる。
【００１８】
なお、プロセッサを画像処理装置４として機能させるプログラムやそれを記録した記録媒体も本発明の実施形態に含まれる。この記録媒体は、一過性でない（non-transitory）ものであり、信号そのものような一過性の媒体は含まれない。
【００１９】
［光学系１における光の入射角による伝達関数の変化について］
図２は、光学系１に入射する光の経路の例を示す図である。図２では、（ａ）は、光学系１の光軸とほぼ同じ方向に入射する光束、すなわち、像面に垂直な方向に入射する光束、（ｂ）は、光軸に対して一定の角度をもって入射する光束、（ｃ）は、光軸に対する角度が最大となる場合の光束を示す。
【００２０】
図３の（ａ）、（ｂ）及び（ｃ）は、それぞれ、図２の（ａ）、（ｂ）及び（ｃ）に示す光束のＰＳＦの計算例を示している。図３に示す例では、光束の光軸に対する角度が大きくなるにつれて、ＰＳＦの分布範囲が広がっている。このように、光学系１に入射する光の角度が変わると、ＰＳＦも変化する。
【００２１】
図４の（ａ）、（ｂ）及び（ｃ）は、それぞれ、図２の（ａ）、（ｂ）及び（ｃ）に示す光束のＭＴＦ（Modulation Transfer Function）の計算例を示している。図４に示す例では、光束の光軸に対する角度が大きくなるにつれて、レスポンスが劣化している。
【００２２】
このように、光学系１に入射する光の角度が変化すると光の伝達関数が変化する。本実施形態では、画像処理装置４のフィルタ処理部４２において、画像中に位置に応じて適用するフィルタを変化させている。そのため、光の角度の変化による伝達関数の変化にも対応できるフィルタリングが可能になる。
【００２３】
［フィルタリング処理の具体例］
ここで、フィルタ処理部４２によるフィルタリング処理の具体例について説明する。なお、下記の処理は一例であり、フィルタ処理部４２の動作は、下記の例に限定されない。図５は、画像処理装置４の詳細な構成の一例を示す機能ブロック図である。図５に示す画像処理装置４では、フィルタ処理部４２は、コンボリューション演算部４４及びコンボリューション制御部４５を含む。コンボリューション演算部４４は、画像処理装置４が備えるメモリ４３に格納されたフィルタデータを用いて、ＲＡＷメモリ４１に格納された画像に対するデコンボリューション処理を実行する。コンボリューション制御部４５は、コンボリューション演算部４４の動作を制御する。メモリ４３は、例えば、リファレンス分布及び画像中の位置に対応する係数を含むフィルタデータを記録するレジスタである。
【００２４】
図６は、フィルタ処理部４２の動作例を示すフローチャートである。図６に示す例では、コンボリューション演算部４４が、ＲＡＷメモリ４１から画像を取得すると（Ｏｐ１）、コンボリューション制御部４５は、取得した画像中の処理対象位置、すなわち、フィルタをかける位置を決定する（Ｏｐ２）。例えば、ラスタ走査の順に画素または局所領域を選択することにより、順次、処理対象位置を決定することができる。処理対象位置は、例えば、画素の座標または局所領域を示す座標で表すことができる。
【００２５】
処理対象位置が決定すると、コンボリューション制御部４５は、その処理対象位置の光軸中心からの距離を算出する（Ｏｐ３）。光軸中心は、光学系１の光軸が撮像面に交わる点に対応する画像上の点とすることができる。光学系１の光軸は、例えば、レンズ１１などの光学素子の回転対称軸であることが多い。この場合、光軸中心は、画像の中心の画素とすることができる。
【００２６】
コンボリューション制御部４５は、Ｏｐ３で算出した光軸中心から距離を基に、その処理対象位置におけるフィルタを特定するフィルタデータを設定する（Ｏｐ４）。ここでは、一例として、メモリ４３に、予めリファレンス分布Ａ、リファレンス分布Ｂ及び処理対象位置と係数との対応を示すマップデータが格納されている場合の例を説明する。リファレンス分布Ａは、光学系１の光軸の方向に入射した光の伝達関数に対応する第１のフィルタを示すデータの一例であり、リファレンス分布Ｂは、光軸に対して一定の角度をもって入射した光の伝達関数に対応する第２のフィルタを示すデータの一例である。処理対象位置と係数とのマップデータは、光軸中心から処理対象の位置までの距離に応じた係数の一例を示すデータである。
【００２７】
デコンボリューション分布は、例えば、円形の被写体であれば、撮影した画像にコンボリューション演算をおこなうことにより、元の円形に復元される分布を表すデータである。本実施形態では、画像における複数の基準となる領域（ここでは、光軸中心と最外位置）におけるデコンボリューション分布が、リファレンス分布Ａ、Ｂとして、予めメモリ４３に記録される。リファレンス分布Ａ、Ｂにそれぞれ距離ｌに依存する係数ａ、ｂを掛けたものの和がデコンボリューション分布として算出される。このデコンボリューション分布が、光軸中心から距離ｌの位置におけるデコンボリューションカーネル（逆フィルタ）として、デコンボリューション処理に用いられる。このように、本実施形態では、光軸中心から処理対象位置までの距離ｌにより、リファレンス分布の係数ａ、ｂが決定される。
【００２８】
図７は、画像領域Ｒにおけるデコンボリューション分布の例を示す図である。図７に示す例では、光軸中心Ｐからの距離ｌ、光軸中心の周りの回転角θの位置におけるデコンボリューション分布Ｄ２が示されている。なお、デコンボリューション分布Ｄ１は、距離ｌ、回転角９０度の場合、デコンボリューション分布Ｄ３は、距離ｌ、回転角０度の場合を示している。このように、デコンボリューション分布は、光軸中心Ｐからの距離と、光軸中心周りの回転角によって変化するものとして扱うことができる。これにより、光の入射角変化によるＰＳＦ変化に対応したデコンボリューション分布をデータで表すことが可能になる。
【００２９】
図８及び図９に示すように、デコンボリューション分布は、二重の楕円で表されるリファレンス分布Ａと、それより大きい楕円で表されるリファレンス分布Ｂにそれぞれ距離ｌに依存する係数ａ＝ｆ1（ｌ）、ｂ＝ｆ2（ｌ）をかけて線形結合した形で表すことができる。また、図９に示すように、デコンボリューション分布は、処理対象位置の回転角θに応じて回転されることで、処理対象位置をさらに考慮した分布とすることができる。
【００３０】
コンボリューション制御部４５は、メモリ４３の処理対象位置と係数とのマップデータを参照し、Ｏｐ３で算出した距離ｌに対応する係数ａ、ｂの値を取得する。この場合、マップデータとして、距離ｌと係数ａ、ｂとの対応関係を示すデータが予め記録されている。例えば、図５に示すメモリ４３のマップデータの係数（a1,b1）、（a2,b2）、（a3,b3）、・・・に対応付けられる位置１、位置２、位置３・・・を、距離ｌ1、ｌ2、ｌ3、・・・のように距離を示す値にするができる。
【００３１】
そして、係数ａとリファレンス分布Ａとの積に、係数ｂとリファレンス分布Ｂとの積を加えたものに、回転角θに応じた回転処理を加えることで、その処理対象位置におけるデコンボリューション分布（デコンボリューションカーネル）を算出することができる。これにより、その処理対象位置におけるフィルタが決定される。
【００３２】
なお、上記例では、リファレンス分布を距離ｌ及び回転角θの双方に基づいて補正することで処理対象位置でのデコンボリューション分布を算出しているが、距離ｌ及び回転角θの少なくともいずれか一方のみでリファレンス分布を補正することによっても処理対象位置に応じたフィルタを設定することはできる。
【００３３】
デコンボリューション演算部４４は、Ｏｐ４にて設定されたフィルタを用いて、処理対象位置におけるデコンボリューション処理を実行する（Ｏｐ５）。デコンボリューション処理は、例えば、デコンボリューション分布をフィルタとして用いたフィルタリング処理である。
【００３４】
上記Ｏｐ２〜Ｏｐ５の処理は、取得した画像の領域Ｒすべてについて終了するまで（Ｏｐ６でＹｅｓと判定されるまで）繰り返される。これにより、取得した画像の領域Ｒについて、画像中の位置に応じて適切なフィルタを用いたフィルタリング処理が実行される。
【００３５】
なお、フィルタリング処理は上記例に限られない。例えば、フィルタの設定処理において、画像の全域を網羅するように、複数の位置ごとにデコンボリューションカーネルデータを予め記録しておき、処理対象位置の光軸中心Ｐからの距離に応じて、デコンボリューションカーネルデータを選択して、デコンボリューション処理を行ってもよい。あるいは、処理対象位置の光軸中心からの距離に応じて、係数ｋの値を選択し、予め記録されたデコンボリューションカーネル劣化データを係数倍した結果を、リファレンス分布のようなデコンボリューションカーネル基準データから減算してもよい。これによっても、処理対象位置に応じたフィルタデータを生成することができる。
【００３６】
［リファレンス分布の計算例］
ここで、リファレンス分布のコンピュータによる計算例を説明する。図１０は、リファレンス分布計算の一例を示すフローチャートである。図１０に示す例では、予め計算された、光学系１における光軸に沿った光束（光軸中心光束）のＰＳＦ（Ａ）と、画角の最外側に沿った光束（最外画角光束）のＰＳＦ（Ｂ）とが入力データとなる。
【００３７】
図１１は、光学系１における光軸中心光束Ｆ１と、最外画角光束Ｆ２の例を示す図である。図１１に示す例では、光軸中心光束Ｆ１は、レンズ１１ａ、１１ｂ、１１ｃの回転対称軸に一致する光軸に沿って入射する光である。最外画角光束は、撮像面に対する入射角が最大となる光である。すなわち、光軸中心光束の像は画像の中心に対応し、最外画角光束の像は画像の外側に対応する。これらの光軸中心光束のＰＳＦ（Ａ）及び最外画角光束のＰＳＦ（Ｂ）は、例えば、市販の光学系の設計支援ソフトウエアを用いたシミュレーションにより計算することができる。
【００３８】
被写体の理想的な像をｆと、光学系１を経て撮像された画像をｇとすると、ＰＳＦ（Ａ）及びＰＳＦ（Ｂ）は、下記式の関係を有する。下記式において、＊はコンボリューションを表す。
【００３９】
ｇ＝ＰＳＦ（Ａ）＊ｆ
ｇ＝ＰＳＦ（Ｂ）＊ｆ
図１０のＯｐ１１において、コンピュータは、入力したＰＳＦ（Ａ）とＰＳＦ（Ｂ）のフーリエ変換値を算出するｆとｇのフーリエ変換値をそれぞれＦ、Ｇとすると、ＰＳＦ（Ａ）及びＰＳＦ（Ｂ）のフーリエ変換値Ｈ（Ａ）、Ｈ（Ｂ）は、下記式の関係を有する。
【００４０】
Ｇ＝Ｈ（Ａ）×Ｆ
Ｇ＝Ｈ（Ｂ）×Ｆ
Ｏｐ１２において、コンピュータは、Ｈ（Ａ）、Ｈ（Ｂ）それぞれについて逆数処理をして、例えば、下記式の関係を満たすようなＨ-1（Ａ）、Ｈ-1（Ｂ）を算出する。
【００４１】
Ｆ＝Ｈ-1（Ａ）×Ｇ
Ｆ＝Ｈ-1（Ｂ）×Ｇ
Ｏｐ１３において、コンピュータは、Ｈ-1（Ａ）、Ｈ-1（Ｂ）の逆フーリエ変換値ｈ-1（Ａ）、ｈ-1（Ｂ）をそれぞれ算出する。このｈ-1（Ａ）、ｈ-1（Ｂ）をそれぞれ、上記のリファレンス分布（Ａ）、リファレンス分布（Ｂ）として用いることができる。このように、本実施形態では、光学系１における代表的な複数の光束について、それぞれデコンボリューションカーネル（ここでは、リファレンス分布）を計算して記録しておくことができる。これにより、フィルタ処理部４２は、画像中の処理対象位置に合うように、代表的なデコンボリューションカーネルの内挿あるいは外挿を計算してデコンボリューションカーネルを生成し、それを用いてデコンボリューション処理を実行することができる。
【００４２】
なお、リファレンス分布（Ａ）、（Ｂ）として用いられるデータは上記例に限られない。例えば、上記２つの光束に加えて、さらに他の光束についてのＰＳＦからリファレンス分布を計算して、３つ以上のリファレンス分布をメモリ４３に予め記録しておくこともできる。また、リファレンス分布の基になるＰＳＦの光束の組み合わせは、上記のように光軸中心と最外画角の組に限られず、光軸中心と最外画角の中間の光束のＰＳＦを基にリファレンス分布を作成してもよい。
【００４３】
（第２の実施形態）
図１２は、第２の実施形態にかかるフィルタ処理部４２の動作例を示すフローチャートである。図１２において、図６と同じステップには同じ番号を付している。また、フィルタ処理部４２を含む画像処理装置４及び撮像装置の構成は、第１の実施形態と同様にすることができる。
【００４４】
図１２に示す例では、コンボリューション演算部４４が画像を取得すると（Ｏｐ１）、コンボリューション制御部４５は、処理対象となる領域（ゾーン）を画像中に設定する（Ｏｐ２ａ）。以降のＯｐ３〜Ｏｐ５の処理は、Ｏｐ２ａで設定されたゾーンごとに実行される。Ｏｐ２ａにおいて、コンボリューション制御部４５は、予め設定された画像中の複数のゾーンから処理対象となるゾーンを順次選択し、選択したゾーンに対してフィルタリング処理が繰り返される。
【００４５】
Ｏｐ３では、処理対象のゾーンの代表点と光軸中心との距離ｌが算出される。各ゾーンの代表点は、特に限定されず、例えば、ゾーンの中心の位置座標でよいし、ゾーンの境界上の点でもよい。
【００４６】
Ｏｐ４では、上記第１の実施形態と同様に、ゾーンの代表点の光軸中心Ｐからの距離ｌと当該代表点の光軸中心に垂直な軸周りの回転角θに基づいて、リファレンス分布（Ａ）（Ｂ）を補正して、デコンボリューションカーネルを生成する処理が実行される。Ｏｐ５では、Ｏｐ４で生成されたデコンボリューションカーネルを用いてフィルタリングが実行される。
【００４７】
このように、本実施形態では、画像を複数の領域に分割し、当該複数の領域（ゾーン）ごとに適用するフィルタのフィルタデータを変えて、フィルタリング処理が実行される。これにより、ゾーンごとに、ＰＳＦの変化に対応した適切なフィルタリングを実行することが可能になる。また、上記例では、各ゾーンにおけるフィルタデータは、Ｏｐ４において、リファレンス分布（Ａ）、（Ｂ）を、距離ｌ、回転角θを使って補正することで生成されているが、各ゾーンのフィルタの設定方法はこれに限られない。例えば、ゾーンごとに予めデコンボリューションカーネルなどのフィルタデータをメモリ４３に記録しておき、処理対象のゾーンが決定したら、そのゾーンに対応するデコンボリューションカーネルをメモリ４３から読み出してフィルタリングに用いることもできる。
【００４８】
図１３は、画像に予め設定される複数のゾーンの一例を示す図である。図１３に示す例では、取得画像領域Ｒを、光軸中心点Ｐを中心とする複数の同心円と、径方向に放射状に延びる直線とによってゾーンが区切られている。すなわち、補正対象とする画像領域が放射状に分割される。このように、複数のゾーンが放射状に配置されることによって、光軸中心から放射状に変化するＰＳＦに応じたフィルタの設定が可能になる。
【００４９】
図１４は、画像に予め設定される複数のゾーンの他の例を示す図である。図１４に示す例では、各ゾーンは矩形になるように画像が分割される。また、画像中の光軸中心に対応する位置から遠いほど、ゾーンの面積が小さくなるよう各ゾーンが設定される。すなわち、光軸中心からの距離に応じて補正対象とする画像領域の面積を小さくすることができる。これにより、画像の周辺部ほどフィルタ設定を細かく変えることができる。ＰＳＦの変化の度合いは、光軸中心から離れるに従って大きくなる傾向がある。そのため、光軸中心から遠いゾーンほど面積を小さく設定することで、ＰＳＦの変化度合いにさらに適応したフィルタリングが可能になる。なお、図１３、図１４では、取得画像領域Ｒの４分の１の部分のみゾーンを示しており、その他のゾーンは省略している。
【００５０】
以上、本発明の実施形態について説明した。上記実施形態によれば、画像中の位置に応じて適切なフィルタリングを施すことが可能になるので、ＰＳＦの変化に対応したボケ復元が可能になる。そのため、例えば、ＰＳＦの変化を抑えるための位相変調素子等を光学系１に挿入しなくても、フィルタリングによる画像の復元効果を得ることができる。その結果、光学系の簡素化も可能になる。すなわち、簡素な光学系を用いて取得画像の解像度を向上させることができる。
【００５１】
なお、本発明は、上記第１〜第２の具体的な実施形態に限定されない。
【００５２】
上記のように、画像処理装置に、光学系、撮像素子を加えた撮像装置も本発明の実施形態に含まれる。この撮像装置の用途は特に限定されない。上記撮像装置は、例えば、デジタルスチルカメラ、携帯電話搭載カメラ、携帯情報端末搭載カメラ、画像検査装置、自動制御用産業カメラ、情報コード読取装置等に用いることができる。
【図１】
0005633218.tif 000002
【図２】
0005633218.tif 000003
【図３】
0005633218.tif 000004
【図４】
0005633218.tif 000005
【図５】
0005633218.tif 000006
【図６】
0005633218.tif 000007
【図７】
0005633218.tif 000008
【図８】
0005633218.tif 000009
【図９】
0005633218.tif 000010
【図１０】
0005633218.tif 000011
【図１１】
0005633218.tif 000012
【図１２】
0005633218.tif 000013
【図１３】
0005633218.tif 000014
【図１４】
0005633218.tif 000015