(57)【要約】【課題】光学系を簡単化でき、コスト低減を図ることができ、しかも撮影する被写体に対して最適な復元処理を施すことが可能な撮像装置およびその方法を提供する。【解決手段】合焦位置でもピントを結ばないがその前後でほぼＰＳＦ（点広がり関数）が一定になるように設計された光学系１１０と、光学系の像をとらえる撮像素子１２０と、ボケ復元処理を行うボケ処理部１６０と、撮像素子により得られた画像データの振幅相関値を検出する焦点ボケ量検出回路１９０と、光学系の焦点位置を基準としてデフォーカス量に応じた点広がり関数から算出されたボケ復元フィルタ群１８０と、撮像素子によって得られた画像データに、任意の前記ボケ復元フィルタによるフィルタリング処理を施した後に振幅相関値を検出した検出結果に応じたフィルタをボケ復元フィルタ群１８０から選択して再度フィルタリング処理を行うように制御する制御部２００とを有する。【選択図】図１
2008211679.tif 000002
【特許請求の範囲】
【請求項１】
光波面変調素子を含む光学系と、
前記光学系によって得られた像を電気信号に変換する撮像素子と、
前記撮像素子により得られた画像のボケ量を検出する機能を有する演算手段と、
前記光学系の焦点位置を基準としてデフォーカス量に応じた点広がり関数から算出された複数のボケ復元フィルタと、
前記複数のボケ復元フィルタのいずれか一つで前記画像データをフィルタリング処理するフィルタ手段と、
前記撮像素子によって得られた画像データに、任意の前記ボケ復元フィルタによるフィルタリング処理を施した後に前記画像のボケ量を検出した検出結果に応じたフィルタを前記複数のボケ復元フィルタから再度選択して前記フィルタリング処理を行うように制御する制御手段と
を有する撮像装置。
【請求項２】
前記画像のボケ量の検出は、画像データの振幅相関値とエッジの微分値の何れか若しくは両方に基づいて行う
請求項１記載の撮像装置。
【請求項３】
前記制御手段は、
前記画像のボケ量からデフォーカス量の推定を行い、前記推定デフォーカス量に対して最適となるフィルタを選択する
請求項１または２に記載の撮像装置。
【請求項４】
前記任意のボケ復元フィルタは、
前記撮像光学系の撮影距離範囲において、至近側の限界位置に対しても、無限位置に対しても、略同等の焦点ボケ量が得られる被写体距離に対して最適となるボケ復元フィルタである
請求項１から３のいずれか一に記載の撮像装置。
【請求項５】
前記光学系の焦点位置は無限遠に設定されている
請求項１から４のいずれか一に記載の撮像装置。
【請求項６】
前記画像データの振幅相関値とエッジの微分値の何れか若しくは両方は画面内の所定の領域に対して検出を行う
請求項２から５のいずれか一に記載の撮像装置。
【請求項７】
前記画面内の所定の領域は任意に設定が可能である
請求項６に記載の撮像装置。
【請求項８】
光波面変調素子を含む光学系を通過した被写体像を撮像素子により撮像し、
前記撮像素子によって得られた画像データに、任意のボケ復元フィルタによるフィルタリング処理を施し、
フィルタリング処理を受けた後に前記撮像素子により得られた画像のボケ量を検出し、
検出結果に応じたフィルタを複数のボケ復元フィルタから選択して前記フィルタリング処理を行う
撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像素子を用い、光学系を有したデジタルスチルカメラや携帯電話搭載カメラ、携帯情報端末搭載カメラ、画像検査装置、自動制御用産業カメラ等の撮像装置およびその方法に関するものである。
【背景技術】
【０００２】
近年急峻に発展を遂げている情報のデジタル化に相俟って映像分野においてもその対応が著しい。
特に、デジタルカメラに象徴されるように撮像面は従来のフィルムに変わって固体撮像素子であるＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅ），ＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）センサが使用されているのが大半である。
【０００３】
このように、撮像素子にＣＣＤやＣＭＯＳセンサを使った撮像レンズ装置は、被写体の映像を光学系により光学的に取り込んで、撮像素子により電気信号として抽出するものであり、デジタルスチルカメラの他、ビデオカメラ、デジタルビデオユニット、パーソナルコンピュータ、携帯電話機、携帯情報端末（ＰＤＡ：Ｐｅｒｓｏｎａｌ  ＤｉｇｉｔａｌＡｓｓｉｓｔａｎｔ）、画像検査装置、自動制御用産業カメラ等に用いられている。
【０００４】
図２８は、一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
この撮像レンズ装置１は、光学系２とＣＣＤやＣＭＯＳセンサ等の撮像素子３とを有する。
光学系は、物体側レンズ２１，２２、絞り２３、および結像レンズ２４を物体側（ＯＢＪＳ）から撮像素子３側に向かって順に配置されている。
【０００５】
撮像レンズ装置１においては、図２８に示すように、ベストフォーカス面を撮像素子面上に合致させている。
図２９（Ａ）〜（Ｃ）は、撮像レンズ装置１の撮像素子３の受光面でのスポット像を示している。
【０００６】
また、位相板（Ｗａｖｅｆｒｏｎｔ  Ｃｏｄｉｎｇ  ｏｐｔｉｃａｌ  ｅｌｅｍｅｎｔ）等により光束を規則的に分散し、デジタル処理により復元させ被写界深度の深い画像撮影を可能にする等の撮像装置が提案されている（たとえば非特許文献１，２、特許文献１〜６参照）。
また、伝達関数を用いたフィルタ処理を行うデジタルカメラの自動露出制御システムが提案されている（たとえば特許文献７参照）。
【０００７】
また、特許文献８には、被写体像を結像する光学系の光路上に、透明弾性膜を対向させた内部に透明液体を封入して、レンズ形状を形成した可変焦点集光手段を構成し、外部から透明液体に所定の周期で圧力変化を与え、透明弾性膜の曲面の曲率を変化させて焦点距離を変化させ、視覚で残像現象が生じる全ての位置に焦点があった像を捕らえるカメラ装置が提案されている（たとえば特許文献７参照）。
【０００８】
【非特許文献１】"Wavefront Coding;jointly optimized optical and digital imaging systems",Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama.
【非特許文献２】"Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems",Edward R.Dowski,Jr.,Gregory E.Johnson.
【特許文献１】ＵＳＰ６，０２１，００５
【特許文献２】ＵＳＰ６，６４２，５０４
【特許文献３】ＵＳＰ６，５２５，３０２
【特許文献４】ＵＳＰ６，０６９，７３８
【特許文献５】特開２００３−２３５７９４号公報
【特許文献６】特開２０００−９８３０１号公報
【特許文献７】特開２００４−１５３４９７号公報
【特許文献８】特開平９−２３０２５２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００９】
上述した各文献にて提案された撮像装置においては、その全ては通常光学系に上述の位相板を挿入した場合のＰＳＦ（Ｐｏｉｎｔ−Ｓｐｒｅａｄ−Ｆｕｎｃｔｉｏｎ）が一定になっていることが前提であり、ＰＳＦが変化した場合は、その後のカーネルを用いたコンボリューションにより、被写界深度の深い画像を実現することは極めて難しい。
したがって、単焦点でのレンズではともかく、ズーム系やＡＦ系などのレンズでは、その光学設計の精度の高さやそれに伴うコストアップが原因となり採用するには大きな問題を抱えている。
換言すれば、従来の撮像装置においては、適正なコンボリューション演算を行うことができず、ワイド（Ｗｉｄｅ）時やテレ（Ｔｅｌｅ）時のスポット（ＳＰＯＴ）像のズレを引き起こす非点収差、コマ収差、ズーム色収差等の各収差を無くす光学設計が要求される。
しかしながら、これらの収差を無くす光学設計は光学設計の難易度を増し、設計工数の増大、コスト増大、レンズの大型化の問題を引き起こす。
【００１０】
また、上述した各文献に開示された深度拡張システムにおいては、基本的に一律（１回）の復元処理を施す。この場合、深度拡張するための光学系を組み合わせるが、レンズの設定物体距離と、それ以外の物体距離では少なからず画像差が出てくる。この微小な画像差のため、復元処理を施しても、完全な復元にはならない。
したがって、一般的な深度拡張システムにおいては、撮影する被写体に対して最適な復元処理を施すことができないという不利益がある。
【００１１】
本発明の目的は、光学系を簡単化でき、コスト低減を図ることができ、しかも撮影する被写体に対して最適な復元処理を施すことが可能な撮像装置およびその方法を提供することにある。
【課題を解決するための手段】
【００１２】
本発明の第１の観点の撮像装置は、光波面変調素子を含む光学系と、前記光学系によって得られた像を電気信号に変換する撮像素子と、前記撮像素子により得られた画像のボケ量を検出する機能を有する演算手段と、前記光学系の焦点位置を基準としてデフォーカス量に応じた点広がり関数から算出された複数のボケ復元フィルタと、前記ボケ復元フィルタのいずれか一つで前記画像データをフィルタリング処理するフィルタ手段と、前記撮像素子によって得られた画像データに、任意の前記ボケ復元フィルタによるフィルタリング処理を施した後に前記ボケ量を検出した検出結果に応じたフィルタを前記複数のボケ復元フィルタから再度選択して前記フィルタリング処理を行うように制御する制御手段とを有する。
【００１３】
好適には、前記画像のボケ量の検出は、画像データの振幅相関値とエッジの微分値の何れか若しくは両方に基づいて行う。
【００１４】
好適には、前記制御手段は、前記画像のボケ量からデフォーカス量の推定を行い、前記推定距離に対して最適となるフィルタを選択する。
【００１５】
好適には、前記任意のボケ復元フィルタは、前記撮像光学系の撮影距離範囲において、至近側の限界位置に対しても、無限位置に対しても、略同等の焦点ボケ量が得られる被写体距離に対して最適となるボケ復元フィルタである。
【００１６】
好適には、前記光学系の焦点位置は無限遠に設定されている。
【００１７】
好適には、前記画像データの振幅相関値とエッジの微分値の何れか若しくは両方は画面内の所定の領域に対して検出を行う。
【００１８】
好適には、前記画面内の所定の領域は任意に設定が可能である。
【００１９】
本発明の第２の観点の撮像方法は、光波面変調素子を含む光学系を通過した被写体像を撮像素子により撮像し、前記撮像素子によって得られた画像データに、任意のボケ復元フィルタによるフィルタリング処理を施し、フィルタリング処理を受けた後に前記撮像素子により得られた画像データの振幅相関値とエッジの微分値の何れか若しくは両方を検出し、検出結果に応じたフィルタを複数のボケ復元フィルタから選択して前記フィルタリング処理を行う。
【発明の効果】
【００２０】
本発明によれば、光学系を簡単化でき、コスト低減を図ることができ、しかも撮影する被写体に対して最適な復元処理を施すことができる。
【発明を実施するための最良の形態】
【００２１】
以下、本発明の実施形態を添付図面に関連付けて説明する。
【００２２】
図１は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。
【００２３】
本実施形態に係る撮像装置１００は、光学系１１０、撮像素子１２０、アナログデジタルコンバータ（Ａ／Ｄ）１３０、信号処理部１４０、第１メモリ１５０、ボケ復元処理部１６０、第２メモリ１７０、復元フィルタ部１８０、振幅相関値（画像データのエッジの微分値）を検出する焦点ボケ量検出回路１９０、制御部２００、デジタルアナログコンバータ（Ｄ／Ａ）２１０、およびモニタ装置２２０を有している。
【００２４】
本実施形態の撮像装置１００は、基本的に、光波面変調素子により規則的に分散した画像をデジタル処理により、光学系１１０を移動させずにピントの合った画像に復元する波面収差制御光学系システム、あるいは深度拡張光学系システム（ＤＥＯＳ：Ｄｅｐｔｈ  Ｅｘｐａｎｔｉｏｎ  Ｏｐｔｉｃａｌ  ｓｙｓｔｅｍ）を採用しており、この復元処理を制御部２００の制御の下、ボケ復元処理部１６０で行う。
【００２５】
そして、ＤＥＯＳを採用した本実施形態の撮像装置１００は、撮影深度を深くする画像処理系において、最適な処理ルーチンを施すことにより、より良い画像作成することが可能な撮影システムとして構成されている。
【００２６】
通常の深度拡張システムにおける画像復元処理は、一律（１回）の復元処理を施す。この場合、深度拡張するための光学系を組み合わせるが、レンズの設定物体距離と、それ以外の物体距離では少なからず画像差が出てくる。この微小な画像差のため、復元処理を施しても、完全な復元にはならない。
そのため、本実施形態においては、撮影する被写体に対しての最適な復元処理を施すことができるように、一度復元処理を行った後、その被写体像の情況に合わせ、最適な画像復元量を算出し、その最適な復元処理にて再度復元する。
【００２７】
図２は、本実施形態に係る復元処理の基本概念を説明するためのフローチャートである。
【００２８】
図２に示すように、被写体を撮影し（ＳＴ１）、一度規定のフィルタリング処理を施し復元処理を行う（ＳＴ２）。
フィルタリング処理を受けた後に撮像素子により得られた被写体の画像データの振幅相関値とエッジの微分値の何れか若しくは両方を検出し（ＳＴ３）、たとえば被写体の物体距離（復元処理係数）を決定する（ＳＴ４）。
そして、この決定に応じたフィルタをボケ復元フィルタ群から選択して新復元係数で再度フィルタリング処理による復元処理を行う（ＳＴ５）。
これにより、撮影する被写体に対しての最適な復元処理を施すことができる。
【００２９】
この画像復元処理を行うレンズは、測距によるレンズ駆動部が無いためレンズを固定する。今システムでは、レンズを無限位置に配置し、基本的な性能確保するために、無限の高周波被写体側で設置する。
【００３０】
光学系１１０は、被写体物体ＯＢＪを撮影した像を撮像素子１２０に供給する。
本実施形態の光学系１１０は、後述するように、光波面変調素子を含み、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成されている。
【００３１】
撮像素子１２０は、光学系１１０で取り込んだ像が結像され、結像１次画像情報を電気信号の１次画像信号ＦＩＭとして、アナログデジタルコンバータ部１３０を介して信号処理部１４０に出力するＣＣＤやＣＭＯＳセンサからなる。
本実施形態では、撮像素子１２０の撮像面は、光学系１１０のレンズの無限位置に配置されている。
【００３２】
アナログデジタルコンバータ１３０は、撮像素子１２０で得られるアナログ画像信号ＦＩＭをデジタル信号に変換して信号処理部１４０に出力する。
信号処理部１４０は、デジタル画像信号の処理の画像処理を施して第１メモリ１５０に格納する。
【００３３】
ボケ復元処理部１６０は、第１メモリ１５０に可能された撮像画像のデジタル信号を入力し、二次元のコンボリューション処理を施し、第２メモリ１７０に格納する。
ボケ復元処理部１６０は、制御部２００の露出情報や被写体画像データの振幅相関値（エッジの微分値）に基づくボケ復元デジタルフィルタの選定結果に応じたデジタルフィルタを復元フィルタ１８０として用いて、光学的伝達関数（ＯＴＦ）を介して撮像された画像データに対してフィルタ処理を行って、ボケ復元処理を行い、ボケ復元処理後の画像を第２メモリ１７０に格納する。
ボケ復元処理部１６０は、撮像素子１２０からの画像の焦点のボケを補正して復元した画像信号を生成する。より具体的には、ボケ復元処理部１６０は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する機能を有する。
【００３４】
復元フィルタ部１８０は、ボケ復元処理部１６０においてボケ復元処理に用いる複数のデジタルフィルタが用意され、制御部２００の指示に従ったデジタルフィルタがボケ復元処理部１６０で用いられる。
【００３５】
焦点ボケ量検出回路１９０は、第２メモリ１７０に格納されたボケ復元処理画像を読み出して、制御部２００の制御の下、１回目の復元処理を受けた被写体画像データの振幅相関値（エッジの微分値）を検出してその結果を制御部２００に出力する。
焦点ボケ量検出回路１９０は、第２メモリ１７０に格納されたボケ復元処理画像を読み出して、制御部２００の制御の下、２回目の復元処理を受けた被写体画像データの場合には、再度復元処理を受けた画像データを制御部２００に入力させる。
【００３６】
制御部２００は、露出制御を行うとともに、操作部などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、システム全体の調停制御を司るものである。
制御部２００は、焦点ボケ量検出回路１９０により供給されたボケ復元処理が施された画像に対して、カラー補間、ホワイトバランス、ＹＣｂＣｒ変換処理、圧縮、ファイリング等の所定の画像処理を行い、図示しないメモリへの格納やモニタ装置２２０への画像表示制御等を行う。
制御部２００は、複数のデジタルフィルタを用い、各デジタルフィルタでのボケ復元処理を行わせ、焦点ボケ量検出回路１９０の検出結果に応じて２復元処理に用いる最適なフィルタを選択させる。
【００３７】
デジタルアナログコンバータ２１０は、制御部２００で処理されたデジタルデータをアナログデータに変換してモニタ装置２２０に出力する。
【００３８】
モニタ装置２２０は、たとえば液晶表示装置により形成され、制御部２００で所定の画像処理を受けた画像やデコード等を表示する。
【００３９】
ここで、図３〜図８に関連付けて、本実施形態におけるピントの合った最適な画像を得るためのボケ復元用のデジタルフィルタの選択処理について説明する。
【００４０】
前述したように、この画像復元処理を行うレンズは、測距によるレンズ駆動部が無いためレンズを固定する。今システムでは、レンズを無限位置に配置し、基本的な性能確保するために、無限の高周波被写体側で設置する。
【００４１】
レンズの設置位置が無限とわかっているため、ボケ像は近距離側の後ピンのみとなり、距離によるレンズのボケ具合の情報は予めシステムで持っていて、撮影後に一定の復元処理を施せば、その像のコントラストよりデフォーカス量が推定され、その推定されたデフォーカス量に見合う復元画像処理を行う。
【００４２】
本実施形態の特徴は、一回復元処理を施すことにより、デフォーカス量の推定精度を高めることができることにあり、それにより、撮影された物体像ボケに合わせた復元処理を行うことである。
この最適な処理を施すことで、測距駆動系のいらない撮影システムが出来る。特に、Ｆ値の小さいレンズ系になればより効果が発揮される。
【００４３】
レンズ光学系は、光の伝達関数とも表され、通常、図３に示すような特性を持つ。つまり、レンズ光学系の光のコントラストは、周波数と逆比例関係を持つ。
【００４４】
また、自然界の景観の中において、周波数と距離は一般的に比例関係にあるといえる。つまり、同じ被写体であれば、図４に示すように、距離が遠くなればなるほど高周波数帯になる。
【００４５】
ボケ量の検出は画像データの振幅相関値とエッジの微分値の何れか若しくは両方に基づいて行うことが可能である。
通常、画像のボケ状態（ピントの状態）は振幅相関値（コントラストの強弱）に相関があるが、これは被写体の明るさに影響を受ける。自動露出制御で受光量は一定の明るさになるように制御されてはいるが、何らかの条件の変化等で絶対値が変化することは否めない。
このような場合でも画像のエッジの微分値を用いれば、明るさの影響を受けることなく絶対値検出が可能である。もちろんこれらを組み合わせて使い、ボケ量の検出をすることも可能である。
【００４６】
本実施形態においては、撮像素子（センサ）１２０をレンズの無限位置に配置している。このことは、低コントラストになりがちな無限像（高周波）に常にピントの中心があることを意味する。よって、通常撮影においては、全て近距離側（無限像より低周波）の像がボケることになり、元々低周波のコントラストは高周波より高いため、一定復元処理された像から、撮影したい本来の物体のデフォーカス量（復元フィルタ係数）を類推を行いやすくしている。
【００４７】
画像復元のイメージとして、図５〜図７に示すような順になる。
図５〜図７は、撮影されたエリア内の画素エリアに対し、エッジ部の輝度差（微分値）を表したもので、微分値が大きいほうがエッジがくっきりしていることを表す。
図５は、規定エリア内においての撮影画像のエッジ部の特性を示す図である。
図６は、上記画像に規定のフィルタ処理を施した後の、同エッジ部の特性を示す図である。
図７は、規定フィルタ処理後のエッジ特性から、最適なフィルタ選択し、特定したフィルタにて画像処理を行ったエッジ部の特性を示す図である。
【００４８】
なお、画像データのピントのボケ量は、たとえば図８（Ａ）〜（Ｃ）に示すように、モニタ２０に表示される画面内の処理の領域（図中、破線で示す領域ＡＲ１，ＡＲ２，ＡＲ３）に対して検出を行うように構成することも可能である。
図８（Ａ）はたとえば初期設定領域ＡＲ１を示している。
図８（Ｂ）は主要被写体をカバーするように、設定領域をＡＲ１からＡＲ２に拡大した場合を示している。
図８（Ｃ）は主要被写体に併せて設定領域をＡＲ１からＡＲ３に移動した場合を示している。
【００４９】
以下に、本実施形態の光学系の基本的な機能およびボケ画像復元の有無に応じた基本的な処理について説明した後、本実施形態の特徴である光学系１１０とボケ復元処理部１６０のさらに具体的な構成および機能について具体的に説明する。
【００５０】
ここでは、ベストフォーカス（焦点）位置で光線が集中する一般的な結像光学系を比較例として挙げる。
図９は、一般的な結像光学系の光線高さとデフォーカスとの関係を示す図である。
また、図１０は、本実施形態の光学系の結像付近の光学特性を示す図である。
【００５１】
図９に示すように、一般的な結像光学系においては、ベストフォーカスの位置では光線が最も密に集中し、ベストフォーカス位置から離れていくとそのデフォーカス量にほぼ比例してボケ径が広がる。
これに対し、本実施形態の光学系１１０は、図１０に示すように、一般的な結像系光学系と異なり、ベストフォーカスの位置で光線が集中しないため、ベストフォーカス位置であってもボケている。しかしながら、本実施形態の光学系１１０は、このベストフォーカス近傍では、デフォーカス量に対してボケの形（ＰＳＦ）の変化が鈍感になるように設計されている。
したがって、ベストフォーカス位置のＰＳＦに応じたボケ復元処理を行えば、ベストフォーカス点はもちろんその前後もボケを除去し鮮明な画像を得ることができる。
これが本実施形態で採用している深度拡大の原理である。
【００５２】
次に、ボケ画像復元処理について説明する。
図１１、一般的な光学系のベストフォーカス（ＢｅｓｔＦｏｒｃｕｓ）位置でのＭＴＦ（Modulation Transfer Function：振幅伝達関数）特性図である。
図１２は、本実施形態の光学系のＭＴＦ特性を示す図である。
【００５３】
本実施形態の光学系１１０を通過して撮像素子１２０で得られた撮像画像はボケているため中域〜高域にかけてＭＴＦが低下している。このＭＴＦを演算によって上昇させる。レンズ単体の振幅特性であるＭＴＦに対し、画像処理を含めたトータルの振幅特性はＳＦＲ（Spatial Frequency Response）と呼ばれている。
ボケ画像を発生させるＰＳＦの周波数特性がＭＴＦであるので、これから所望のＳＦＲ特性まで引き上げるゲイン特性に設計してできたものがボケ復元フィルタである。どの程度のゲインにするかはノイズや偽像とのバランスで決めていく。
【００５４】
このボケ復元フィルタを元画像にデジタルフィルタリングする方法は、画像をフーリエ変換し周波数領域でフィルタと周波数毎に積を取る方法と、空間領域でコンボリューション（Convolution）演算（畳み込み演算）を行なう方法がある。ここでは後者での実現方法を説明する。コンボリューション演算は下記の式で表される。
【００５５】
【数１】
2008211679.tif 000003
【００５６】
ただし、ｆはフィルタ（ｆｉｌｔｅｒ）カーネルを示している（ここでは計算を容易にするために１８０度回転済みのものを使用している）。
また、Ａは元画像、Ｂはフィルタリングされた画像（ボケ復元画像）を示している。
この式から分かる通り、ｆを画像に重ねて各タップ同士の積和した結果をその重ねた中心座標の値とすることである。
【００５７】
次に、図１３（Ａ）〜（Ｃ）に関連付けて３＊３のフィルタを例に挙げ具体的に説明する。
図１３（Ａ）の復元フィルタ（既に１８０度回転済み）を図１３（Ｂ）に示すボケ画像のＡ(i,j)上にフィルタの中心ｆ(0,0)を重ね、各タップ同士の積をとりこの９個の総和値を図１３（Ｃ)に示すボケ復元画像のＢ(i,j)とする。
(i,j)を画像全体に渡ってスキャンすると新たなＢ画像が生成される。これがデジタルフィルタである。ここではフィルタがボケ復元目的であるので、この処理を行なうことでボケ復元処理を実施することができる。
【００５８】
以下、本実施形態の光学系、画像処理装置の構成および機能についてさらに具体的には説明する。
【００５９】
図１４は、本実施形態に係る光学系１１０の構成例を模式的に示す図である。
【００６０】
図１４の光学系１１０は、物体側ＯＢＪＳに配置された物体側レンズ１１１と、撮像素子１２０に結像させるための結像レンズ１１２と、物体側レンズ１１１と結像レンズ１１２間に配置され、結像レンズ１１２による撮像素子１２０の受光面への結像の波面を変形させる、たとえば３次元的曲面を有する位相板（Ｃｕｂｉｃ  Ｐｈａｓｅ  Ｐｌａｔｅ）からなる光波面変調素子（波面形成用光学素子：Ｗａｖｅｆｒｏｎｔ  Ｃｏｄｉｎｇ  Ｏｐｔｉｃａｌ  Ｅｌｅｍｅｎｔ）群１１３を有する。また、物体側レンズ１１１と結像レンズ１１２間には図示しない絞りが配置される。
たとえば、本実施形態においては、可変絞りが設けられ、露出制御（装置）において可変絞りの絞り度（開口度）を制御する。
【００６１】
なお、本実施形態においては、位相板を用いた場合について説明したが、本発明の光波面変調素子としては、波面を変形させるものであればどのようなものでもよく、厚みが変化する光学素子（たとえば、上述の３次の位相板）、屈折率が変化する光学素子（たとえば屈折率分布型波面変調レンズ）、レンズ表面へのコーディングにより厚み、屈折率が変化する光学素子（たとえば、波面変調ハイブリッドレンズ）、光の位相分布を変調可能な液晶素子（たとえば、液晶空間位相変調素子）等の光波面変調素子であればよい。
【００６２】
図で示された位相板１１３ａは、光学系により収束される光束を規則正しく分散する光学レンズである。この位相板を挿入することにより、撮像素子１２０上ではピントのどこにも合わない画像を実現する。
換言すれば、位相板１１３ａによって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）を形成している。
前述したように、この規則的に分光した画像をデジタル処理により、ピントの合った画像に復元する手段を、前述した波面収差制御光学系システム（ＤＥＯＳ：Ｄｅｐｔｈ  Ｅｘｐａｎｔｉｏｎ  Ｏｐｔｉｃａｌ  ｓｙｓｔｅｍ）といい、この処理をボケ復元処理部１６０において行う。
【００６３】
ここで、ＤＥＯＳの基本原理について説明する。
図１５に示すように、被写体の画像ｆがＤＥＯＳ光学系Ｈに入ることにより、ｇ画像が生成される。
これは、次のような式で表される。
【００６４】
（数２）
ｇ＝Ｈ＊ｆ
ただし、＊はコンボリューションを表す。
【００６５】
生成された画像から被写体を求めるためには、次の処理を要する。
【００６６】
（数３）
ｆ＝Ｈ−１＊ｇ
【００６７】
ここで、Ｈに関するカーネルサイズと演算係数について説明する。
ズームポジションをＺＰｎ，ＺＰｎ−１・・・とする。また、それぞれのＨ関数をＨｎ，Ｈｎ−１、・・・・とする。
各々のスポット像が異なるため、各々のＨ関数は、次のようになる。
【００６８】
【数４】
2008211679.tif 000004
【００６９】
この行列の行数および／または列数の違いをカーネルサイズ、各々の数字を演算係数とする。
ここで、各々のＨ関数はメモリに格納しておいても構わないし、ＰＳＦをピントのボケ量（物体距離）の関数としておき、物体距離によって計算し、Ｈ関数を算出することによって任意の物体距離に対して最適なフィルタを作るように設定できるようにしても構わない。また、Ｈ関数を物体距離の関数として、物体距離によってＨ関数を直接求めても構わない。
【００７０】
本実施形態においては、図１に示すように、光学系１１０からの像を撮像素子１２０で受像して、ボケ復元処理部１６０に入力させ、光学系に応じた変換係数を取得して、取得した変換係数をもって撮像素子１２０からの分散画像信号より分散のない画像信号を生成するように構成している。
【００７１】
なお、本実施形態において、分散とは、上述したように、位相板１１３ａを挿入することにより、撮像素子１２０上ではピントのどこにも合わない画像を形成し、位相板１１３ａによって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）を形成する現象をいい、像が分散してボケ部分を形成する振る舞いから収差と同様の意味合いが含まれる。したがって、本実施形態においては、収差として説明する場合もある。
【００７２】
次に、ボケ復元処理部１６０の構成および処理について説明する。
【００７３】
ボケ復元処理部１６０は、図１６に示すように、生（ＲＡＷ）バッファメモリ１６１、二次元コンボリューション演算部１６２、記憶手段としてのカーネルデータ格納ＲＯＭ１６３、およびコンボリューション制御部１６４を有する。
【００７４】
コンボリューション制御部１６４は、コンボリューション処理のオンオフ、画面サイズ、カーネルデータの入れ替え等の制御を行い、たとえば制御部２００により制御される。
【００７５】
また、カーネルデータ格納ＲＯＭ１６３には、図１７または図１８に示すように予め用意されたそれぞれの光学系のＰＳＦにより算出されたコンボリューション用のカーネルデータが格納されており、制御部２００によって露出設定時に決まる露出情報を取得し、コンボリューション制御部１６４を通じてカーネルデータを選択制御する。
なお、露出情報には、絞り情報が含まれる。
【００７６】
図１７の例では、カーネルデータＡは光学倍率（×１．５）、カーネルデータＢは光学倍率（×５）、カーネルデータＣは光学倍率（×１０）に対応したデータとなっている。
【００７７】
また、図１８の例では、カーネルデータＡは絞り情報としてのＦナンバ（２．８）、カーネルデータＢはＦナンバ（４）、カーネルデータＣはＦナンバ（５．６）に対応したデータとなっている。
【００７８】
図１８の例のように、絞り情報に応じたフィルタ処理を行うのは以下の理由による。
絞りを絞って撮影を行う場合、絞りによって光波面変調素子を形成する位相板１１３ａが覆われてしまい、位相が変化してしまうため、適切な画像を復元することが困難となる。
そこで、本実施形態においては、本例のように、露出情報中の絞り情報に応じたフィルタ処理を行うことによって適切な画像復元を実現している。
【００７９】
以上は露出情報のみに応じて二次元コンボリューション演算部１６２においてフィルタ処理を行う例を説明したが、たとえば被写体距離情報、ズーム情報、あるいは撮影モード情報と露出情報とを組み合わせることにより適した演算係数の抽出、あるいは演算を行うことが可能となる。
【００８０】
図１９は、被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図１９は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置３００の構成例を示している。
【００８１】
画像処理装置３００は、図１９に示すように、コンボリューション装置３０１、カーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【００８２】
この画像処理装置３００においては、被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【００８３】
上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置４００により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
【００８４】
前記の画像処理はコンボリューション演算により行うが、これを実現するには、たとえばコンボリューション演算の演算係数を共通で１種類記憶しておき、焦点距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
【００８５】
焦点距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成、焦点距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
【００８６】
図１９の構成に対応付けると次のような構成をとることができる。
【００８７】
変換係数記憶手段としてのレジスタ３０２に被写体距離に応じて少なくとも位相板１１３ａに起因する収差に対応した変換係数を少なくとも２以上予め記憶する。画像処理演算プロセッサ３０３が、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された情報に基づき、レジスタ３０２から被写体までの距離に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置３０１が、係数選択手段としての画像処理演算プロセッサ３０３で選択された変換係数によって、画像信号の変換を行う。
【００８８】
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３が、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された情報に基づき変換係数を演算し、レジスタ３０２に格納する。
そして、変換手段としてのコンボリューション装置３０１が、変換係数演算手段としての画像処理演算プロセッサ３０３で得られレジスタ３０２に格納された変換係数によって、画像信号の変換を行う。
【００８９】
または、補正値記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた少なくとも１以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第２変換係数記憶手段としても機能するレジスタ３０２に、位相板１１３ａに起因する収差に対応した変換係数を予め記憶する。
そして、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された距離情報に基づき、補正値選択手段としての画像処理演算プロセッサ３０３が、補正値記憶手段としてのレジスタ３０２から被写体までの距離に応じた補正値を選択する。
変換手段としてのコンボリューション装置３０１が、第２変換係数記憶手段としてのレジスタ３０２から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ３０３により選択された補正値とに基づいて画像信号の変換を行う。
【００９０】
図２０は、撮影モード情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図２０は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置３００Ａの構成例を示している。
【００９１】
画像処理装置３００Ａは、図１９と同様に、図２０に示すように、コンボリューション装置３０１、記憶手段としてのカーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【００９２】
この画像処理装置３００Ａにおいては、物体概略距離情報検出装置５００から読み出した被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【００９３】
この場合も上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、上記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置５００により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
【００９４】
上記の画像処理はコンボリューション演算により行うが、これを実現するには、コンボリューション演算の演算係数を共通で１種類記憶しておき、物体距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成、物体距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成、物体距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
【００９５】
本実施形態においては、上述したように、ＤＳＣのモード設定（ポートレイト、無限遠（風景）、マクロ）に応じて画像処理を変更する。
【００９６】
図２０の構成に対応付けると次のような構成をとることができる。
【００９７】
前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３を通して操作部の撮影モード設定部６００により設定される各撮影モードに応じて異なる変換係数を変換係数記憶手段としてのレジスタ３０２に格納する。
画像処理演算プロセッサ３０３が、撮影モード設定部６００の操作スイッチ６０１により設定された撮影モードに応じて、被写体距離情報生成手段としての物体概略距離情報検出装置５００により生成された情報に基づき、変換係数記憶手段としてのレジスタ３０２から変換係数を抽出する。このとき、たとえば画像処理演算プロセッサ３０３が変換係数抽出手段とて機能する。
そして、変換手段としてのコンボリューション装置３０１が、レジスタ３０２に格納された変換係数によって、画像信号の撮影モードに応じた変換処理を行う。
【００９８】
なお、図１４の光学系は一例であり、本発明は図１４の光学系に対して用いられるものとは限らない。また、図１７および図１８のカーネルデータ格納ＲＯＭに関しても、光学倍率、Ｆナンバやそれぞれのカーネルのサイズ、値に対して用いられるものとは限らない。また用意するカーネルデータの数についても３個とは限らない。
【００９９】
なお、上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
【０１００】
本実施形態においては、ＤＥＯＳを採用し、高精細な画質を得ることが可能で、しかも、光学系を簡単化でき、コスト低減を図ることが可能となっている。
以下、この特徴について説明する。
【０１０１】
図２１（Ａ）〜（Ｃ）は、撮像素子１２０の受光面でのスポット像を示している。
図２１（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、図２１（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、図２１（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示している。
図２１（Ａ）〜（Ｃ）からもわかるように、本実施形態に係る撮像装置１００においては、位相板１１３ａを含む波面形成用光学素子群１１３によって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）が形成される。
【０１０２】
このように、本実施形態の撮像装置１００において形成された１次画像ＦＩＭは、深度が非常に深い光束条件にしている。
【０１０３】
図２２（Ａ），（Ｂ）は、本実施形態に係る撮像レンズ装置により形成される１次画像の変調伝達関数（ＭＴＦ：Ｍｏｄｕｌａｔｉｏｎ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）について説明するための図であって、図２２（Ａ）は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、図２２（Ｂ）が空間周波数に対するＭＴＦ特性を示している。
本実施形態においては、高精細な最終画像は後段の、たとえばデジタルシグナルプロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）からなる画像処理装置１６０の補正処理に任せるため、図２２（Ａ），（Ｂ）に示すように、１次画像のＭＴＦは本質的に低い値になっている。
【０１０４】
画像処理装置１６０は、上述したように、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成する。
【０１０５】
画像処理装置１６０のＭＴＦ補正処理は、たとえば図２３の曲線Ａで示すように、本質的に低い値になっている１次画像のＭＴＦを、空間周波数をパラメータとしてエッジ強調、クロマ強調等の後処理にて、図２３中曲線Ｂで示す特性に近づく（達する）ような補正を行う。
図２３中曲線Ｂで示す特性は、たとえば本実施形態のように、波面形成用光学素子を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
【０１０６】
本実施形態においては、図２３に示すように、光学的に得られる空間周波数に対するＭＴＦ特性曲線Ａに対して、最終的に実現したいＭＴＦ特性曲線Ｂを達成するためには、それぞれの空間周波数に対し、エッジ強調等の強弱を付け、元の画像（１次画像）に対して補正をかける。
たとえば、図２３のＭＴＦ特性の場合、空間周波数に対するエッジ強調の曲線は、図２４に示すようになる。
【０１０７】
すなわち、空間周波数の所定帯域内における低周波数側および高周波数側でエッジ強調を弱くし、中間周波数領域においてエッジ強調を強くして補正を行うことにより、所望のＭＴＦ特性曲線Ｂを仮想的に実現する。
【０１０８】
このように、実施形態に係る撮像装置１００は、基本的に、１次画像を形成する光学系１１０および撮像素子１２０と、１次画像を高精細な最終画像に形成するボケ復元処理部１６０からなり、光学系システムの中に、波面成形用の光学素子を新たに設けるか、またはガラス、プラスチックなどのような光学素子の面を波面成形用に成形したものを設けることにより、結像の波面を変形（変調）し、そのような波面をＣＣＤやＣＭＯＳセンサからなる撮像素子１２０の撮像面（受光面）に結像させ、その結像１次画像を、ボケ復元処理部１６０を通して高精細画像を得る画像形成システムである。
本実施形態では、撮像素子１２０による１次画像は深度が非常に深い光束条件にしている。そのために、１次画像のＭＴＦは本質的に低い値になっており、そのＭＴＦの補正を画像処理装置１５０で行う。
【０１０９】
ここで、本実施形態における撮像装置１００における結像のプロセスを、波動光学的に考察する。
物点の１点から発散された球面波は結像光学系を通過後、収斂波となる。そのとき、結像光学系が理想光学系でなければ収差が発生する。波面は球面でなく複雑な形状となる。幾何光学と波動光学の間を取り持つのが波面光学であり、波面の現象を取り扱う場合に便利である。
結像面における波動光学的ＭＴＦを扱うとき、結像光学系の射出瞳位置における波面情報が重要となる。
ＭＴＦの計算は結像点における波動光学的強度分布のフーリエ変換で求まる。その波動光学的強度分布は波動光学的振幅分布を２乗して得られるが、その波動光学的振幅分布は射出瞳における瞳関数のフーリエ変換から求まる。
さらにその瞳関数はまさに射出瞳位置における波面情報（波面収差）そのものからであることから、その光学系１１０を通して波面収差が厳密に数値計算できればＭＴＦが計算できることになる。
【０１１０】
したがって、所定の手法によって射出瞳位置での波面情報に手を加えれば、任意に結像面におけるＭＴＦ値は変更可能である。
本実施形態においても、波面の形状変化を波面形成用光学素子で行うのが主であるが、まさにｐｈａｓｅ（位相、光線に沿った光路長）に増減を設けて目的の波面形成を行っている。
そして、目的の波面形成を行えば、射出瞳からの射出光束は、図２１（Ａ）〜（Ｃ）に示す幾何光学的なスポット像からわかるように、光線の密な部分と疎の部分から形成される。
この光束状態のＭＴＦは空間周波数の低いところでは低い値を示し、空間周波数の高いところまでは何とか解像力は維持している特徴を示している。
すなわち、この低いＭＴＦ値（または、幾何光学的にはこのようなスポット像の状態）であれば、エリアジングの現象を発生させないことになる。
つまり、ローパスフィルタが必要ないのである。
そして、後段のＤＳＰ等からなる画像処理装置１６０でＭＴＦ値を低くしている原因のフレアー的画像を除去すれば良いのである。それによってＭＴＦ値は著しく向上する。
【０１１１】
次に、本実施形態および従来光学系のＭＴＦのレスポンスについて考察する。
【０１１２】
図２５は、従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンス（応答）を示す図である。
図２６は、光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンスを示す図である。
また、図２７は、本実施形態に係る撮像装置のデータ復元後のＭＴＦのレスポンスを示す図である。
【０１１３】
図からもわかるように、光波面変調素子を有する光学系の場合、物体が焦点位置から外れた場合でもＭＴＦのレスポンスの変化が光波面変調素子を挿入してない光学径よりも少なくなる。
この光学系によって結像された画像を、コンボリューションフィルタによる処理によって、ＭＴＦのレスポンスが向上する。
【０１１４】
以上説明したように、本実施形態によれば、合焦位置でもピントを結ばないがその前後でほぼＰＳＦ（Point Spread Function 点広がり関数）が一定になるように設計された光学系１１０と、光学系の像をとらえる撮像素子１２０と、ボケ復元処理を行うボケ処理部１６０と、前記撮像素子により得られた画像データの振幅相関値を検出する焦点ボケ量検出回路１９０と、光学系の焦点位置を基準としてデフォーカス量に応じた点広がり関数から算出されたボケ復元フィルタ群１８０と、撮像素子によって得られた画像データに、任意の前記ボケ復元フィルタによるフィルタリング処理を施した後に振幅相関値を検出した検出結果に応じたフィルタをボケ復元フィルタ群１８０から選択して再度フィルタリング処理を行うように制御する制御部２００とを有することから、画像処理にて深度拡張するシステムにて画像復元するより、より最適な処理を施すことによって、より忠実な画像復元を行うことができる。
【０１１５】
そして、本実施形態に係る撮像装置１００は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたズームレンズのＤＥＯＳに使用することが可能である。
【０１１６】
また、本実施形態においては、結像レンズ１１２による撮像素子１２０の受光面への結像の波面を変形させる波面形成用光学素子を有する撮像レンズ系と、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成するボケ復元処理部１６０とを有することから、高精細な画質を得ることが可能となるという利点がある。
また、光学系１１０の構成を簡単化でき、製造が容易となり、コスト低減を図ることができる。
【０１１７】
ところで、ＣＣＤやＣＭＯＳセンサを撮像素子として用いた場合、画素ピッチから決まる解像力限界が存在し、光学系の解像力がその限界解像力以上であるとエリアジングのような現象が発生し、最終画像に悪影響を及ぼすことは周知の事実である。
画質向上のため、可能な限りコントラストを上げることが望ましいが、そのことは高性能なレンズ系を必要とする。
【０１１８】
しかし、上述したように、ＣＣＤやＣＭＯＳセンサを撮像素子として用いた場合、エリアジングが発生する。
現在、エリアジングの発生を避けるため、撮像レンズ装置では、一軸結晶系からなるローパスフィルタを併用し、エリアジングの現象の発生を避けている。
このようにローパスフィルタを併用することは、原理的に正しいが、ローパスフィルタそのものが結晶でできているため、高価であり、管理が大変である。また、光学系に使用することは光学系をより複雑にしているという不利益がある。
【０１１９】
以上のように、時代の趨勢でますます高精細の画質が求められているにもかかわらず、高精細な画像を形成するためには、従来の撮像レンズ装置では光学系を複雑にしなければならない。複雑にすれば、製造が困難になったりし、また高価なローパスフィルタを利用したりするとコストアップにつながる。
しかし、本実施形態によれば、ローパスフィルタを用いなくとも、エリアジングの現象の発生を避けることができ、高精細な画質を得ることができる。
【０１２０】
なお、本実施形態において、光学系の波面形成用光学素子を絞りより物体側レンズよりに配置した例を示したが、絞りと同一あるいは絞りより結像レンズ側に配置しても前記と同様の作用効果を得ることができる。
【図面の簡単な説明】
【０１２１】
【図１】本発明に係る撮像装置の一実施形態を示すブロック構成図である。
【図２】本実施形態に係る復元処理の基本概念を説明するためのフローチャートである。
【図３】レンズ光学系の周波数特性を示す図である。
【図４】一般的な被写体の距離と周波数との関係を示す図である。
【図５】規定エリア内においての撮影画像のエッジ部の特性を示す図である。
【図６】画像に規定のフィルタ処理を施した後の、同エッジ部の特性を示す図である。
【図７】規定フィルタ処理後のエッジ特性から、最適なフィルタ選択し、特定したフィルタにて画像処理を行ったエッジ部の特性を示す図である。
【図８】振幅相関値の検出領域の設定例を示す図である。
【図９】一般的な結像光学系の光線高さとデフォーカスとの関係を示す図である。
【図１０】本実施形態の光学系の結像付近の光学特性を示す図である。
【図１１】一般的な光学系のベストフォーカス（ＢｅｓｔＦｏｒｃｕｓ）位置でのＭＴＦ（Modulation Transfer Function  振幅伝達関数）特性図である。
【図１２】本実施形態の光学系のＭＴＦ特性を示す図である。
【図１３】本実施形態におけるボケ復元処理の説明図である。
【図１４】本実施形態に係る撮像レンズ装置の光学系の構成例を模式的に示す図である。
【図１５】ＤＥＯＳの原理を説明するための図である。
【図１６】本実施形態に係るボケ復元処理部の構成例を示すブロック図である。
【図１７】カーネルデータＲＯＭの格納データの一例（光学倍率）を示す図である。
【図１８】カーネルデータＲＯＭの格納データの他例（Ｆナンバ）を示す図である。
【図１９】被写体距離情報と露出情報とを組み合わせるボケ復元処理部の構成例を示す図である。
【図２０】撮影モード情報と露出情報とを組み合わせる画像処理装置の構成例を示図である。
【図２１】本実施形態に係る撮像素子の受光面でのスポット像を示す図であって、（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示す図である。
【図２２】本実施形態に係る撮像素子により形成される１次画像のＭＴＦについて説明するための図であって、（Ａ）は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、（Ｂ）が空間周波数に対するＭＴＦ特性を示している。
【図２３】本実施形態に係る画像処理装置におけるＭＴＦ補正処理を説明するための図である。
【図２４】本実施形態に係る画像処理装置におけるＭＴＦ補正処理を具体的に説明するための図である。
【図２５】従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンス（応答）を示す図である。
【図２６】光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンスを示す図である。
【図２７】本実施形態に係る撮像装置のデータ復元後のＭＴＦのレスポンスを示す図である。
【図２８】一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
【図２９】図２８の撮像レンズ装置の撮像素子の受光面でのスポット像を示す図であって、（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示す図である。
【符号の説明】
【０１２２】
１００・・・撮像装置、１１０・・・光学系、１２０・・・撮像素子、１３０・・・アナログデジタルコンバータ（Ａ／Ｄ）、１４０・・・信号処理部、１５０・・・第１メモリ、１６０・・・ボケ復元処理部、１７０・・・第２メモリ、１８０・・・復元フィルタ部、１９０・・・焦点ボケ量検出回路、２００・・・制御部、２１０・・・デジタルアナログコンバータ（Ｄ／Ａ）、２２０・・・モニタ装置、１１１・・・物体側レンズ、１１２・・・結像レンズ、１１３・・・波面形成用光学素子、１１３ａ・・・位相板（光波面変調素子）、１６２・・・二次元コンボリューション演算部、１６３・・・カーネルデータＲＯＭ、１６４・・・コンボリューション制御部。
【図１】
2008211679.tif 000005
【図２】
2008211679.tif 000006
【図３】
2008211679.tif 000007
【図４】
2008211679.tif 000008
【図５】
2008211679.tif 000009
【図６】
2008211679.tif 000010
【図７】
2008211679.tif 000011
【図８】
2008211679.tif 000012
【図９】
2008211679.tif 000013
【図１０】
2008211679.tif 000014
【図１１】
2008211679.tif 000015
【図１２】
2008211679.tif 000016
【図１３】
2008211679.tif 000017
【図１４】
2008211679.tif 000018
【図１５】
2008211679.tif 000019
【図１６】
2008211679.tif 000020
【図１７】
2008211679.tif 000021
【図１８】
2008211679.tif 000022
【図１９】
2008211679.tif 000023
【図２０】
2008211679.tif 000024
【図２１】
2008211679.tif 000025
【図２２】
2008211679.tif 000026
【図２３】
2008211679.tif 000027
【図２４】
2008211679.tif 000028
【図２５】
2008211679.tif 000029
【図２６】
2008211679.tif 000030
【図２７】
2008211679.tif 000031
【図２８】
2008211679.tif 000032
【図２９】
2008211679.tif 000033