(57)【要約】【課題】深度拡張光学系において、変調素子の切り替え機構が不要で、ズームポジションの変化に応じた的確な変調パターンを実現できる撮像装置および撮像方法を提供する。【解決手段】光波面変調機能を有し、光波面変調パターンが調整可能な光波面変調素子１１４を含むズーム光学系１１０と、ズーム光学系を通過した被写体像を撮像する撮像素子１２０と、光波面変調素子の光波面変調パターンを制御する変調機能（パターン）制御部２００と、撮像素子１２０からの被写体の画像信号に対して所定の処理を施す画像処理部１４０と、を有し、ズーム光学系１１０は、レンズを光軸方向に移動させるレンズ稼動式のズーム光学系であり、変調機能（パターン）制御部２００は、ズーム光学系のレンズの稼動に関する情報に応じて光波面変調素子の光波面変調パターンを制御する。【選択図】図１
2008268937.tif 000002
【特許請求の範囲】
【請求項１】
光波面変調機能を有し、当該光波面変調パターンが調整可能な光波面変調素子を含むズーム光学系と、
前記ズーム光学系を通過した被写体像を撮像する撮像素子と、
前記ズーム光学系の焦点距離に応じて前記光波面変調素子の光波面変調パターンを制御する変調パターン制御部と、
前記撮像素子からの被写体の画像信号に対して所定の処理を施す画像処理部と、
を有する撮像装置。
【請求項２】
前記ズーム光学系は、
レンズを光軸方向に移動させることによって焦点距離を可変とするレンズ稼動式のズーム光学系である
請求項１記載の撮像装置。
【請求項３】
前記光波面変調素子の光波面変調パターンの制御は、前記レンズの位置情報またはレンズの駆動情報を含む前記レンズの稼動に関する情報を用いて行なわれる
請求項２記載の撮像装置。
【請求項４】
前記ズーム光学系は、可変焦点距離レンズを含み、
レンズの位置は固定され、可変焦点距離レンズを制御することによって焦点距離を可変とするレンズ非稼動式のズーム光学系であり、
前記変調パターン制御部は、
前記可変焦点距離レンズの制御に関する情報に応じて前記光波面変調素子の光波面変調パターンを制御する
請求項１記載の撮像装置。
【請求項５】
前記光波面変調素子は、
光波面変調パターンの制御が外部に依存する外部依存型光波面変調素子である
請求項１から４のいずれか一に記載の撮像装置。
【請求項６】
前記光波面変調素子は、
光波面変調パターンの制御が外部からの外部電圧に依存する外部依存型光波面変調素子であり、
前記ズーム制御に関する情報にはズームポジション毎の電圧値を含み、
前記変調パターン制御部は、
前記ズームポジション毎の電圧値に応じた電圧を前記外部電圧として前記外部依存型光波面変調素子に印加し光波面変調パターンを制御する
請求項４記載の撮像装置。
【請求項７】
前記画像処理部は、
所定の情報に応じて光学的伝達関数（ＯＴＦ）に対してフィルタ処理を行う機能を有し、
前記変調パターン制御部の変調パターンの制御が、前記画像処理部に作用するフィルタの切り替えとリンクしている
請求項１から６のいずれか一に記載の撮像装置。
【請求項８】
ズーム制御に応じて光波面変調素子の光波面変調パターンを制御する第１ステップと、
前記光波面変調素子を含むズーム光学系を通過した被写体像を撮像素子で撮像する第２ステップと、
前記撮像素子からの被写体の画像信号に対して所定の処理を施す第３ステップと
を有する撮像方法。
【請求項９】
前記ズーム光学系は、
レンズを光軸方向に移動させるレンズ稼動式のズーム光学系であり、
前記第１ステップにおいて、
前記ズーム光学系のレンズの稼動に関する情報に応じて前記光波面変調素子の光波面変調パターンを制御する
請求項８記載の撮像方法。
【請求項１０】
前記ズーム光学系は、
レンズの位置が固定されたレンズ非稼動式のズーム光学系であり、
前記第１ステップにおいて、
前記ズーム光学系のズーム制御に関する情報に応じて前記光波面変調素子の光波面変調パターンを制御する
請求項８記載の撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像素子を用い、光学系を備えたデジタルスチルカメラや携帯電話搭載カメラ、携帯情報端末搭載カメラ、画像検査装置、自動制御用産業カメラ等の撮像装置および撮像方法に関するものである。
【背景技術】
【０００２】
近年急峻に発展を遂げている情報のデジタル化に相俟って映像分野においてもその対応が著しい。
特に、デジタルカメラに象徴されるように撮像面は従来のフィルムに変わって固体撮像素子であるＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅ），ＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）センサが使用されているのが大半である。
【０００３】
このように、撮像素子にＣＣＤやＣＭＯＳセンサを使った撮像レンズ装置は、被写体の映像を光学系により光学的に取り込んで、撮像素子により電気信号として抽出するものであり、デジタルスチルカメラの他、ビデオカメラ、デジタルビデオユニット、パーソナルコンピュータ、携帯電話機、携帯情報端末（ＰＤＡ：Ｐｅｒｓｏｎａｌ  ＤｉｇｉｔａｌＡｓｓｉｓｔａｎｔ）、画像検査装置、自動制御用産業カメラ等に用いられている。
【０００４】
図２５は、一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
この撮像レンズ装置１は、光学系２とＣＣＤやＣＭＯＳセンサ等の撮像素子３とを有する。
光学系は、物体側レンズ２１，２２、絞り２３、および結像レンズ２４を物体側（ＯＢＪＳ）から撮像素子３側に向かって順に配置されている。
【０００５】
撮像レンズ装置１においては、図２５に示すように、ベストフォーカス面を撮像素子面上に合致させている。
図２６（Ａ）〜（Ｃ）は、撮像レンズ装置１の撮像素子３の受光面でのスポット像を示している。
【０００６】
また、位相板により光束を規則的に分散し、デジタル処理により復元させ被写界深度の深い画像撮影を可能にする等の撮像装置が提案されている（たとえば非特許文献１，２、特許文献１〜５参照）。
また、伝達関数を用いたフィルタ処理を行うデジタルカメラの自動露出制御システムが提案されている（たとえば特許文献６参照）。
【非特許文献１】“Wavefront Coding;jointly optimized optical and digital imaging systems”,Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama.
【非特許文献２】“Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems”,Edward R.Dowski,Jr.,Gregory E.Johnson.
【特許文献１】ＵＳＰ６，０２１，００５
【特許文献２】ＵＳＰ６，６４２，５０４
【特許文献３】ＵＳＰ６，５２５，３０２
【特許文献４】ＵＳＰ６，０６９，７３８
【特許文献５】特開２００３−２３５７９４号公報
【特許文献６】特開２００４−１５３４９７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００７】
上述した各文献にて提案された撮像装置においては、その全ては通常光学系に上述の位相板を挿入した場合のＰＳＦ（Ｐｏｉｎｔ−Ｓｐｒｅａｄ−Ｆｕｎｃｔｉｏｎ）が一定になっていることが前提であり、ＰＳＦが変化した場合は、その後のカーネルを用いたコンボリューションにより、被写界深度の深い画像を実現することは極めて難しい。
したがって、単焦点でのレンズではともかく、ズーム系やＡＦ系などのレンズでは、その光学設計の精度の高さやそれに伴うコストアップが原因となり採用するには大きな問題を抱えている。
換言すれば、従来の撮像装置においては、適正なコンボリューション演算を行うことができず、ワイド（Ｗｉｄｅ）時やテレ（Ｔｅｌｅ）時のスポット（ＳＰＯＴ）像のズレを引き起こす非点収差、コマ収差、ズーム色収差等の各収差を無くす光学設計が要求される。
しかしながら、これらの収差を無くす光学設計は光学設計の難易度を増し、設計工数の増大、コスト増大、レンズの大型化の問題を引き起こす。
【０００８】
また、上記技術では、ズームレンズにおいてズームポジションが変化すると波面収差も異なってくる。ズームポジションごとに復元フィルタを用意すると２焦点ズームである場合には、２つのフィルタの切り替えでよい。
ところが、リニアズームとなるとかなりの量の復元フィルタが必要となる。さらにズームポジションごとに位相変調素子を切り替えるとなると、切り替えの駆動機構が必要となり、部品点数も増えてしまう。
【０００９】
本発明の目的は、深度拡張光学系において、変調素子の切り替え機構が不要で、ズームポジションの変化に応じた的確な変調パターンを実現でき、また、光学系を簡単化でき、コスト低減を図ることができ、適切な画質の、ノイズの影響が小さく、良好な復元画像を得ることが可能な撮像装置および撮像方法を提供することにある。
【課題を解決するための手段】
【００１０】
本発明の第１の観点の撮像装置は、光波面変調機能を有し、当該光波面変調パターンが調整可能な光波面変調素子を含むズーム光学系と、前記ズーム光学系を通過した被写体像を撮像する撮像素子と、前記ズーム光学系の焦点距離に応じて前記光波面変調素子の光波面変調パターンを制御する変調パターン制御部と、前記撮像素子からの被写体の画像信号に対して所定の処理を施す画像処理部とを有する。
【００１１】
好適には、前記ズーム光学系は、レンズを光軸方向に移動させることによって焦点距離を可変とするレンズ稼動式のズーム光学系である。
【００１２】
好適には、前記光波面変調素子の光波面変調パターンの制御は、前記レンズの位置情報またはレンズの駆動情報を含む前記レンズの稼動に関する情報を用いて行なわれる。
【００１３】
好適には、前記ズーム光学系は、可変焦点距離レンズを含み、レンズの位置は固定され、可変焦点距離レンズを制御することによって焦点距離を可変とするレンズ非稼動式のズーム光学系であり、前記変調パターン制御部は、前記可変焦点距離レンズの制御に関する情報に応じて前記光波面変調素子の光波面変調パターンを制御する。
【００１４】
好適には、前記光波面変調素子は、光波面変調パターンの制御が外部に依存する外部依存型光波面変調素子である。
【００１５】
好適には、前記光波面変調素子は、光波面変調パターンの制御が外部からの外部電圧に依存する外部依存型光波面変調素子であり、前記ズーム制御に関する情報にはズームポジ
ション毎の電圧値を含み、前記変調パターン制御部は、前記ズームポジション毎の電圧値に応じた電圧を前記外部電圧として前記外部依存型光波面変調素子に印加し光波面変調パターンを制御する。
【００１６】
好適には、前記画像処理部は、所定の情報に応じて光学的伝達関数（ＯＴＦ）に対してフィルタ処理を行う機能を有し、前記変調パターン制御部の変調パターンの制御が、前記画像処理部に作用するフィルタの切り替えとリンクしている。
【００１７】
本発明の第２の観点の撮像方法は、ズーム制御に応じて光波面変調素子の光波面変調パターンを制御する第１ステップと、前記光波面変調素子を含むズーム光学系を通過した被写体像を撮像素子で撮像する第２ステップと、前記撮像素子からの被写体の画像信号に対して所定の処理を施す第３ステップとを有する。
【発明の効果】
【００１８】
本発明によれば、深度拡張光学系において、光変調素子の切り替え機構が不要で、ズームポジションの変化に応じた的確な変調パターンを実現でき、また、復元画が良好となるようなボカシを実現できる。
また、光学系を簡単化でき、コスト低減を図ることができ、しかも適切な画質の、ノイズの影響が小さく、良好な復元画像を得ることができる利点がある。
【発明を実施するための最良の形態】
【００１９】
以下、本発明の実施形態を添付図面に関連付けて説明する。
【００２０】
図１は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。
【００２１】
本実施形態に係る撮像装置１００は、ズーム光学系１１０、撮像素子１２０、アナログフロントエンド部（ＡＦＥ）１３０、画像処理装置１４０、カメラ信号処理部１５０、画像表示メモリ１６０、画像モニタリング装置１７０、操作部１８０、露出制御装置７８１、および変調パターン制御部としての変調機能制御部２００を有している。
【００２２】
本実施形態において、ズーム光学系は、レンズを光軸方向に移動させるレンズ稼動式のズーム光学系、あるいはレンズの位置が固定されたレンズ非稼動式のズーム光学系として構成することが可能である。
【００２３】
図１のズーム光学系１１０は、レンズ稼動式のズーム光学系として構成されており、被写体物体ＯＢＪを撮影した像を撮像素子１２０に供給する。
図１のズーム光学系１１０は、たとえば物体側ＯＢＪＳから順に配置された第１レンズ１１１と、第２レンズ１１２、絞り１１３、外部依存型光波面変調素子１１４、第３レンズ１１５、および第４レンズ１１６を有する。
第３レンズ１１５および第４レンズ１１６は接合され、撮像素子１２０に結像させるための結像レンズとして機能する。
外部依存型光波面変調素子１１４は、結像レンズによる撮像素子１２０の受光面への結像の波面を変形させる光波面変調機能の変調パターン（変調量や変調の度合い）が外部信号電圧に依存する。
外部依存型光波面変調素子１１４は、変調機能制御部２００により光波面変調機能が発現状態に制御されているときは光学系１１０が複数焦点状態となる。
図１の撮像装置１００においては、変調機能制御部２００は、ズーム光学系１１０のレンズの稼動に関する情報に応じて外部依存型光波面変調素子１１４の光波面変調パターンを制御する。ここで、レンズの稼動に関する情報にはレンズの位置情報またはレンズの駆動信号の情報を含む。
なお、外部依存型光波面変調素子１１４は、変調機能制御部２００により光波面変調機能が非発現状態に制御することも可能であり、この場合、光学系１１０が１焦点状態となって良好な結像性能を有するように構成することも可能である。
【００２４】
図２（Ａ）および（Ｂ）は、本実施形態に係る外部依存型光波面変調素子の構成例および機能を説明するための図である。
【００２５】
外部依存型光波面変調素子１１４は、図２（Ａ），（Ｂ）に示すように、たとえば液晶素子１１４ａにより構成することが可能である。
この液晶素子１１４ａは、素子に与える電圧を切り替えることで、光線の集光状態を変化させることができる。
たとえば、変調機能制御部２００により電圧を印加されると、図２（Ａ）に示すように、液晶素子１１４ａは光波面変調機能が発現状態に制御され、光学系１１０が複数焦点状態となる。そして、印加する電圧を変化させることにより、変調パターンを所望のパターンに切り替えることができる。
一方、変調機能制御部２００により電圧印加が停止（あるいは発現状態より低レベルに設定）されると、図２（Ｂ）に示すように、液晶素子１１４ａは光波面変調機能が非発現状態に制御され、光学系１１０が１焦点状態となる。
【００２６】
また、ズーム光学系１１０Ａは、図３に示すように、レンズ非稼動式のズーム光学系として構成することも可能である。
図３のズーム光学系１１０Ａは、光学ズーム用レンズとして液体レンズ２１０を有している。液体レンズ２１０は、たとえばズーム光学系１１０の最も被写体ＯＢＪ側に配置することも可能である。
液体レンズ２１０において、レンズ面となるのは、容器に封入した水溶液とオイルの界面である。この界面の形状を変調機能制御部２００Ａにより印加される電圧によって変化させることで、所望の屈折力を得るように構成され、ズーム機能を有するようになる。
この場合、変調機能制御部２００Ａは、ズーム光学系１１０Ａのズーム制御に関する情報に応じて光波面変調素子としても機能する液体レンズ２１０の光波面変調パターンを制御する。
ここで、ズーム制御に関する情報にはズームポジション毎の電圧値を含み、変調機能制御部２００Ａは、ズームポジション毎の電圧値に応じた電圧を外部電圧として外部依存型光波面変調素子としての液体レンズ２１０に印加し光波面変調パターンを制御する。
【００２７】
撮像装置１２０は、ズーム光学系１１０で取り込んだ像が結像され、結像１次画像情報を電気信号の１次画像信号ＦＩＭとして、アナログフロントエンド部１３０を介して画像処理装置１４０に出力するＣＣＤやＣＭＯＳセンサからなる。
図１および図３においては、撮像素子１２０を一例としてＣＣＤとして記載している。
【００２８】
アナログフロントエンド部１３０は、タイミングジェネレータ１３１、アナログ／デジタル（Ａ／Ｄ）コンバータ１３２と、を有する。
タイミングジェネレータ１３１では、撮像素子１２０のＣＣＤの駆動タイミングを生成しており、Ａ／Ｄコンバータ１３２は、ＣＣＤから入力されるアナログ信号をデジタル信号に変換し、画像処理装置１４０に出力する。
【００２９】
画像処理部の一部を構成する画像処理装置（二次元コンボリューション手段）１４０は、前段のＡＦＥ１３０からくる撮像画像のデジタル信号を入力し、二次元のコンボリューション処理を施し、後段のカメラ信号処理部（ＤＳＰ）１５０に渡す。
画像処理装置１４０は、たとえば露出制御装置１９０の露出情報に応じて、光学的伝達関数（ＯＴＦ）に対してフィルタ処理を行うと共に、色収差補正を行って色収差を改善す
る画像劣化の復元処理を行う。なお、露出情報として絞り情報を含む。
画像処理装置１４０は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する機能を有する。また、画像処理部は、最初のステップでノイズ低減フィルタリングを施す機能を有する。
画像処理装置１４０の処理については後でさらに詳述する。
【００３０】
カメラ信号処理部（ＤＳＰ）１５０は、カラー補間、ホワイトバランス、ＹＣｂＣｒ変換処理、圧縮、ファイリング等の処理を行い、メモリ１６０への格納や画像モニタリング装置１７０への画像表示等を行う。画像モニタリング装置１７０は、カメラ信号処理部１５０の制御の下、カラー出力あるいは白黒出力が可能である。
【００３１】
カメラ信号処理部１５０は、露出制御装置１９０と変調機能制御部２００との協働により、変調機能制御部２００による光波面変調機能（逆光波面変調機能）の発現、非発現とフィルタ（カーネル）の適用の切り替えとのリンク、カラー出力あるいは白黒出力の切り替えとのリンク、色収差補正機能の切り替えとのリンク制御等を行う。
【００３２】
露出制御装置１９０は、露出制御を行うとともに、操作部１８０などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、ＡＦＥ１３０、画像処理装置１４０、ＤＳＰ１５０等を制御し、システム全体の調停制御を司るものである。
【００３３】
図１の変調機能制御部２００は、カメラ信号処理部１５０の指示に応じて外部依存型光波面変調素子１１４の光波面変調パターンを電圧により制御する。
この場合、前述したように、変調機能制御部２００は、ズーム光学系１１０のレンズの稼動に関する情報に応じて外部依存型光波面変調素子１１４の光波面変調パターンを制御する。ここで、レンズの稼動に関する情報にはレンズの位置情報またはレンズの駆動信号の情報を含む。
【００３４】
図３の変調機能制御部２００Ａは、カメラ信号処理部１５０の指示に応じて外部依存型光波面変調素子としての液体レンズ２１０のズーム機能および光波面変調パターンを電圧により制御する。
この場合、前述したように、変調機能制御部２００Ａは、ズーム光学系１１０Ａのズーム制御に関する情報に応じて光波面変調素子としても機能する液体レンズ２１０の光波面変調パターンを制御する。
ここで、ズーム制御に関する情報にはズームポジション毎の電圧値を含み、変調機能制御部２００Ａは、ズームポジション毎の電圧値に応じた電圧を外部電圧として外部依存型光波面変調素子としての液体レンズ２１０に印加し光波面変調パターンを制御する。
【００３５】
以下、本実施形態の光学系、画像処理装置の構成および機能について具体的に説明する。
【００３６】
なお、本実施形態においては、外部依存型の光波面変調素子を用いた場合について説明したが、本発明の光波面変調素子としては、波面を変形させるものであればどのようなものでもよく、厚みが変化する光学素子（たとえば、上述の３次の位相板）、屈折率が変化する光学素子（たとえば屈折率分布型波面変調レンズ）、レンズ表面へのコーディングにより厚み、屈折率が変化する光学素子（たとえば、波面変調ハイブリッドレンズ）、光の位相分布を変調可能な液晶素子（たとえば、液晶空間位相変調素子）等の光波面変調素子であればよい。
光波面変調素子は、光学系により収束される光束を規則正しく分散する光学部品である。この位相板を挿入することにより、撮像素子１２０上ではピントのどこにも合わない画像を実現する。
換言すれば、光波面変調素子によって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）を形成している。
【００３７】
この規則的に分散した画像をデジタル処理により、光学系１１０や１１０Ａを移動させずにピントの合った画像に復元する手段を波面収差制御光学系システム、あるいは深度拡張光学系システム（ＤＥＯＳ：Ｄｅｐｔｈ  Ｅｘｐａｎｔｉｏｎ  Ｏｐｔｉｃａｌ  ｓｙｓｔｅｍ）といい、この処理を画像処理装置１４０において行う。
【００３８】
ここで、ＤＥＯＳの基本原理について説明する。
図４に示すように、被写体の画像ｆがＤＥＯＳ光学系Ｈに入ることにより、ｇ画像が生成される。
これは、次のような式で表される。
【００３９】
（数１）
ｇ＝Ｈ＊ｆ
ただし、＊はコンボリューションを表す。
【００４０】
生成された画像から被写体を求めるためには、次の処理を要する。
【００４１】
（数２）
ｆ＝Ｈ−１＊ｇ
【００４２】
ここで、Ｈに関するカーネルサイズと演算係数について説明する。
ズームポジションをＺＰｎ，ＺＰｎ−１・・・とする。また、それぞれのＨ関数をＨｎ，Ｈｎ−１、・・・・とする。
各々のスポット像が異なるため、各々のＨ関数は、次のようになる。
【００４３】
【数３】
2008268937.tif 000003
【００４４】
この行列の行数および／または列数の違いをカーネルサイズ、各々の数字を演算係数とする。
ここで、各々のＨ関数はメモリに格納しておいても構わないし、ＰＳＦを物体距離の関数としておき、物体距離によって計算し、Ｈ関数を算出することによって任意の物体距離に対して最適なフィルタを作るように設定できるようにしても構わない。また、Ｈ関数を物体距離の関数として、物体距離によってＨ関数を直接求めても構わない。
【００４５】
本実施形態においては、図１や図３に示すように、光学系１１０や１１０Ａからの像を撮像素子１２０で受像して、画像処理装置１４０に入力させ、光学系に応じた変換係数を取得して、取得した変換係数をもって撮像素子１２０からの分散画像信号より分散のない画像信号を生成するように構成している。
【００４６】
なお、本実施形態において、分散とは、上述したように、光波面変調素子１１４や１１２ａを挿入することにより、撮像素子１２０上ではピントのどこにも合わない画像を形成し、位相板１１３によって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）を形成する現象をいい、像が分散してボケ部分を形成する振る舞いから収差と同様の意味合いが含まれる。したがって、本実施形態においては、収差として説明する場合もある。
【００４７】
たとえば、図１に示す光学系１１０においては、結像レンズによる撮像素子１２０の受光面への結像の波面を変形させる光波面変調機能の変調パターンが外部に依存する外部依存型光波面変調素子１１４を設けている。
外部依存型光波面変調素子１１４は、変調機能制御部２００により光波面変調機能が非発現状態に制御されているときは、光学系１１０が１焦点状態となって良好な結像性能を有し、発現状態に制御されているときは光学系１１０が複数焦点状態となる。
【００４８】
本実施形態においては、液晶素子１１４ａへの電圧を変化させ、光波面（たとえば）位相変調作用を生じさせる。このとき、液晶素子１１４ａは複数焦点状態とする。この複数焦点状態画像を復元することで、深度拡張作用を生じさせることを実現できる。
【００４９】
このように、図１の光学系１１０を有する撮像装置１００は、液晶素子１１４ａにかかる電圧の切り替えにより光波面変調パターンを変化させている。このとき、光波面（位相）変調と画像復元の有無（フィルタ（カーネル）の適用の切り替え）とをリンクするように制御することも可能である。
【００５０】
図５（Ａ）および（Ｂ）は、レンズ稼動式のズーム光学系における液晶素子にかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能をも切り替える例とフィルタ（カーネル）の機能を切り替えない例を示す図である。
【００５１】
図５（Ａ）に示すように、液晶素子１１４ａが光波面変調機能（作用）を発現している（有している）場合であって、たとえば液晶素子１１４ａが撮像素子１２０側に移動しているときは、この位置情報に応じて液晶素子１１４ａへの印加電圧を制御して所望の変調パターンを形成させ、かつ、フィルタを機能させ、画像を復元させる。それにより、深度拡張された復元画像が得られる。
一方、図５（Ｂ）に示すように、液晶素子１１４ａが位相変調機能（作用）を発現している（有している）場合であって、たとえば液晶素子１１４ａが光学系１１０の略中央に位置するときは、この位置情報に応じて液晶素子１１４ａへの印加電圧を制御して所望の変調パターンを形成させるが、フィルタを機能させ、画像を復元させる。この場合、図５（Ａ）の場合と異なるサイズのカーネルを用いる。
【００５２】
図６（Ａ）および（Ｂ）は、レンズ稼動式のズーム光学系における液晶素子にかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能を切り替えない例を示す図である。
【００５３】
図６（Ａ）に示すように、液晶素子１１４ａが光波面変調機能（作用）を発現している（有している）場合であって、たとえば液晶素子１１４ａが撮像素子１２０側に移動しているときは、この位置情報に応じて液晶素子１１４ａへの印加電圧を制御して所望の変調パターンを形成させるが、フィルタを機能させ、画像を復元させる。それにより、深度拡張された復元画像が得られる。
一方、図６（Ｂ）に示すように、液晶素子１１４ａが光波面変調機能（作用）を発現している（有している）場合であって、たとえば液晶素子１１４ａが光学系１１０の略中央に位置するときは、この位置情報に応じて液晶素子１１４ａへの印加電圧を制御して所望の変調パターンを形成させるが、フィルタを機能させ、画像を復元させる。この場合、図６（Ａ）の場合と同一のカーネルを用いる。
【００５４】
図７（Ａ）および（Ｂ）は、レンズ非稼動式のズーム光学系における液体レンズにかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能をも切り替える例を示す図である。
【００５５】
図７（Ａ）に示すように、液体レンズ２１０がズーム機能および光波面変調機能（作用）を発現している（有している）場合であって、たとえば液体レンズ１１２が第１のズームポジションに制御されるときは、この第１のズームポジションの情報に応じて液体レンズ２１０への印加電圧を制御して所望の変調パターンを形成させ、かつ、フィルタを機能させ、画像を復元させる。それにより、深度拡張された復元画像が得られる。
一方、図７（Ｂ）に示すように、液体レンズ２１０が光波面変調機能（作用）を発現している（有している）場合であって、たとえば液体レンズ２１０が第２のズームポジションに制御されるときは、この第２のズームポジションの情報に応じて液体レンズ２１０への印加電圧を制御して所望の変調パターンを形成させるが、フィルタを機能させ、画像を復元させる。この場合、図７（Ａ）の場合と異なるサイズのカーネルを用いる。
【００５６】
図８（Ａ）および（Ｂ）は、レンズ非稼動式のズーム光学系における液体レンズにかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能を切り替えない例を示す図である。
【００５７】
図８（Ａ）に示すように、液体レンズ２１０がズーム機能および光波面変調機能（作用）を発現している（有している）場合であって、たとえば液体レンズ２１０が第１のズームポジションに制御されるときは、この第１のズームポジションの情報に応じて液体レンズ２１０への印加電圧を制御して所望の変調パターンを形成させるが、フィルタを機能させ、画像を復元させる。それにより、深度拡張された復元画像が得られる。
一方、図８（Ｂ）に示すように、液体レンズ２１０がズーム機能および光波面変調機能（作用）を発現している（有している）場合であって、たとえば液体レンズ２１０が第２のズームポジションに制御されるときは、この第２のズームポジションの情報に応じて液体レンズ２１０への印加電圧を制御して所望の変調パターンを形成させるが、フィルタを機能させ、画像を復元させる。この場合、図８（Ａ）の場合と同一のカーネルを用いる。
【００５８】
なお、図５乃至図８における光学系１１０や１１０Ａは、構成を一部省略しているが、図１や図３の光学系１１０や１１０Ａと同様の構成であるものとする。
【００５９】
次に、画像処理装置１４０の構成および処理について説明する。
【００６０】
画像処理装置１４０は、図１に示すように、生（ＲＡＷ）バッファメモリ１４１、コンボリューション演算器１４２、記憶手段としてのカーネルデータ格納ＲＯＭ１４３、およびコンボリューション制御部１４４を有する。
【００６１】
コンボリューション制御部１４４は、コンボリューション処理のオンオフ、画面サイズ、カーネルデータの入れ替え等の制御を行い、露出制御装置１９０により制御される。
【００６２】
また、カーネルデータ格納ＲＯＭ１４３には、図９に示すように予め用意されたそれぞれの光学系のＰＳＦにより算出されたコンボリューション用のカーネルデータが格納されており、前述したズーム光学系のズーム情報、および、または露出制御装置１９０によって露出設定時に決まる露出情報を取得し、コンボリューション制御部１４４を通じてカーネルデータを選択制御する。
なお、露出情報には、絞り情報が含まれる。以下、露出情報を加味してカーネルデータ
を選択制御する場合を例に説明する。
【００６３】
また、図９の例では、カーネルデータＡは絞り情報としてのＦナンバ（２．８）、カーネルデータＢはＦナンバ（４）、カーネルデータＣはＦナンバ（５．６）に対応したデータとなっている。
【００６４】
図９の例のように、絞り情報に応じたフィルタ処理を行うのは以下の理由による。
絞りを絞って撮影を行う場合、絞りによって光波面変調素子が覆われてしまい、位相が変化してしまうため、適切な画像を復元することが困難となる。
そこで、本実施形態においては、本例のように、露出情報中の絞り情報に応じたフィルタ処理を行うことによって適切な画像復元を実現している。
【００６５】
図１０は、露出制御装置１９０の露出情報（絞り情報を含む）により切り替え処理のフローチャートである。
まず、露出情報（ＲＰ）が検出されコンボリューション制御部１４４に供給される（ＳＴ１０１）。
コンボリューション制御部１４４においては、露出情報ＲＰから、カーネルサイズ、数値演係数がレジスタにセットされる（ＳＴ１０２）。
そして、撮像素子１２０で撮像され、ＡＦＥ１３０を介して二次元コンボリューション演算部１４２に入力された画像データに対して、レジスタに格納されたデータに基づいてコンボリューション演算が行われ、演算され変換されたデータがカメラ信号処理部１５０に転送される（ＳＴ１０３）。
【００６６】
コンボリューション演算は下記の式で表される。
【００６７】
【数４】
2008268937.tif 000004
【００６８】
ただし、ｆはフィルタ（ｆｉｌｔｅｒ）カーネルを示している（ここでは計算を容易にするために１８０度回転済みのものを使用している）。
また、Ａは元画像、Ｂはフィルタリングされた画像（ボケ復元画像）を示している。
この式から分かる通り、ｆを画像に重ねて各タップ同士の積和した結果をその重ねた中心座標の値とすることである。
【００６９】
上述したように、コンボリューション処理は画像処理装置１４０で行われる。撮像素子１２０からの画素データは式４に従いコンボリュージョン処理される。
【００７０】
画像処理装置１４０は、はじめに位相変調素子によるボケを位相変調素子によるボケ復元フィルタを用いて、換言すれば、カーネルデータ格納ＲＯＭ１４３から位相変調素子によるボケ復元用のフィルタ係数を読み込み、このフィルタ係数により復元処理を行う。
すると処理後は位相変調素子によるボケは改善される。
【００７１】
以下に画像処理装置１４０の信号処理部とカーネルデータ格納ＲＯＭについてさらに具体的な例について説明する。
【００７２】
図１１は、信号処理部とカーネルデータ格納ＲＯＭについての第１の構成例を示す図で
ある。なお、簡単化のためにＡＦＥ等は省略している。
図１１の例は露出情報に応じたフィルタカーネルを予め用意した場合のブロック図である。
【００７３】
露出設定時に決まる露出情報を取得し、コンボリューション制御部１４４を通じてカーネルデータを選択制御する。２次元コンボリューション演算部１４２においては、カーネルデータを用いてコンボリューション処理を施す。
【００７４】
図１２は、信号処理部とカーネルデータ格納ＲＯＭについての第２の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図１２の例は、信号処理部の最初にノイズ低減フィルタ処理のステップを有し、フィルタカーネルデータとして露出情報に応じたノイズ低減フィルタ処理ＳＴ１を予め用意した場合のブロック図である。
【００７５】
露出設定時に決まる露出情報を取得し、コンボリューション制御部１４４を通じてカーネルデータを選択制御する。
２次元コンボリューション演算部１４２においては、前記ノイズ低減フィルタＳＴ１を施した後、カラーコンバージョン処理ＳＴ２によって色空間を変換、その後カーネルデータを用いてコンボリューション処理ＳＴ３を施す。
再度ノイズ処理ＳＴ４を行い、カラーコンバージョン処理ＳＴ５によって元の色空間に戻す。カラーコンバージョン処理は、たとえばＹＣｂＣｒ変換が挙げられるが、他の変換でも構わない。
なお、再度のノイズ処理ＳＴ４は省略することも可能である。
【００７６】
図１３は、信号処理部とカーネルデータ格納ＲＯＭについての第３の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図１３の例は、露出情報に応じたＯＴＦ復元フィルタを予め用意した場合のブロック図である。
【００７７】
露出設定時に決まる露出情報を取得し、コンボリューション制御部１４４を通じてカーネルデータを選択制御する。
２次元コンボリューション演算部１４２は、ノイズ低減処理ＳＴ１１、カラーコンバージョン処理ＳＴ１２の後に、前記ＯＴＦ復元フィルタを用いてコンボリューション処理ＳＴ１３を施す。
再度ノイズ処理ＳＴ１４を行い、カラーコンバージョン処理ＳＴ１５によって元の色空間に戻す。カラーコンバージョン処理は、たとえばＹＣｂＣｒ変換が挙げられるが、他の変換でも構わない。
なお、ノイズ低減処理ＳＴ１１、ＳＴ１４は、いずれか一方のみでもよい。
【００７８】
図１４は、信号処理部とカーネルデータ格納ＲＯＭについての第４の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図１４の例は、ノイズ低減フィルタ処理のステップを有し、フィルタカーネルデータとして露出情報に応じたノイズ低減フィルタを予め用意した場合のブロック図である。
なお、再度のノイズ処理ＳＴ４は省略することも可能である。
露出設定時に決まる露出情報を取得し、コンボリューション制御部１４４を通じてカーネルデータを選択制御する。
２次元コンボリューション演算部１４２においては、ノイズ低減フィルタ処理ＳＴ２１を施した後、カラーコンバージョン処理ＳＴ２２によって色空間を変換、その後カーネルデータを用いてコンボリューション処理ＳＴ２３を施す。
再度、露出情報に応じたノイズ処理ＳＴ２４を行い、カラーコンバージョン処理ＳＴ２
５によって元の色空間に戻す。カラーコンバージョン処理は、たとえばＹＣｂＣｒ変換が挙げられるが、他の変換でも構わない。
なお、ノイズ低減処理ＳＴ２１は省略することも可能である。
【００７９】
以上は露出情報のみに応じて２次元コンボリューション演算部１４２においてフィルタ処理を行う例を説明したが、たとえば被写体距離情報、ズーム情報、あるいは撮影モード情報と露出情報とを組み合わせることにより適した演算係数の抽出、あるいは演算を行うことが可能となる。
【００８０】
図１５は、被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図１５は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成するが画像処理装置３００の構成例を示している。
【００８１】
画像処理装置３００は、図１５に示すように、コンボリューション装置３０１、カーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【００８２】
この画像処理装置３００においては、物体概略距離情報検出装置４００から読み出した被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【００８３】
上述のように、光波面変調機能を備えた撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置４００により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
【００８４】
上記の画像処理はコンボリューション演算により行うが、これを実現するには、たとえばコンボリューション演算の演算係数を共通で１種類記憶しておき、焦点距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
【００８５】
焦点距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成、焦点距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
【００８６】
図１５の構成に対応付けると次のような構成をとることができる。
【００８７】
変換係数記憶手段としてのレジスタ３０２に被写体距離に応じて少なくとも位相板１１３に起因する収差に対応した変換係数を少なくとも２以上予め記憶する。画像処理演算プロセッサ３０３が、被写体距離情報生成手段としての物体概略距離情報検出装置４００に
より生成された情報に基づき、レジスタ３０２から被写体までの距離に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置３０１が、係数選択手段としての画像処理演算プロセッサ３０３で選択された変換係数によって、画像信号の変換を行う。
【００８８】
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３が、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された情報に基づき変換係数を演算し、レジスタ３０２に格納する。
そして、変換手段としてのコンボリューション装置３０１が、変換係数演算手段としての画像処理演算プロセッサ３０３で得られレジスタ３０２に格納された変換係数によって、画像信号の変換を行う。
【００８９】
または、補正値記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた少なくとも１以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第２変換係数記憶手段としても機能するレジスタ３０２に、位相板１１３に起因する収差に対応した変換係数を予め記憶する。
そして、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された距離情報に基づき、補正値選択手段としての画像処理演算プロセッサ３０３が、補正値記憶手段としてのレジスタ３０２から被写体までの距離に応じた補正値を選択する。
変換手段としてのコンボリューション装置３０１が、第２変換係数記憶手段としてのレジスタ３０２から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ３０３により選択された補正値とに基づいて画像信号の変換を行う。
【００９０】
図１６は、ズーム情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図１６は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成するが画像処理装置３００Ａの構成例を示している。
【００９１】
画像処理装置３００Ａは、図１５と同様に、図１６に示すように、コンボリューション装置３０１、カーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【００９２】
この画像処理装置３００Ａにおいては、ズーム情報検出装置５００から読み出したズーム位置またはズーム量に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、露出情報およびそのズーム位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値演算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【００９３】
上述したように、光波面変調素子としての位相板をズーム光学系に備えた撮像装置に適用する場合、ズーム光学系のズーム位置によって生成されるスポット像が異なる。このため、位相板より得られる焦点ズレ画像（スポット画像）を後段のＤＳＰ等でコンボリューション演算する際、適性な焦点合わせ画像を得るためには、ズーム位置に応じて異なるコンボリューション演算が必要となる。
そこで、本実施形態においては、ズーム情報検出装置５００を設け、ズーム位置に応じて適正なコンボリューション演算を行い、ズーム位置によらず適性な焦点合わせ画像を得るように構成されている。
【００９４】
画像処理装置３００Ａにおける適正なコンボリーション演算には、コンボリューションの演算係数をレジスタ３０２に共通で１種類記憶しておく構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
【００９５】
各ズーム位置に応じて、レジスタ３０２に補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成、各ズーム位置に応じて、レジスタ３０２にカーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算行う構成、ズーム位置に応じた演算係数を関数としてレジスタ４０２に予め記憶しておき、ズーム位置によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等を採用することが可能である。
【００９６】
図１５の構成に対応付けると次のような構成をとることができる。
【００９７】
変換係数記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた光波面変調素子１１４に起因する収差に対応した変換係数を少なくとも２以上予め記憶する。画像処理演算プロセッサ３０３が、ズーム情報生成手段としてのズーム情報検出装置６００により生成された情報に基づき、レジスタ３０２からズーム光学系１１０のズ−ム位置またはズーム量に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置３０１が、係数選択手段としての画像処理演算プロセッサ３０３で選択された変換係数によって、画像信号の変換を行う。
【００９８】
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３が、ズーム情報生成手段としてのズーム情報検出装置５００により生成された情報に基づき変換係数を演算し、レジスタ３０２に格納する。
そして、変換手段としてのコンボリューション装置３０１が、変換係数演算手段としての画像処理演算プロセッサ３０３で得られレジスタ３０２に格納された変換係数によって、画像信号の変換を行う。
【００９９】
または、補正値記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた少なくとも１以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第２変換係数記憶手段としても機能するレジスタ３０２に、光波面変調素子１１４に起因する収差に対応した変換係数を予め記憶する。
そして、ズーム情報生成手段としてのズーム情報検出装置５００により生成されたズーム情報に基づき、補正値選択手段としての画像処理演算プロセッサ３０３が、補正値記憶手段としてのレジスタ３０２からズーム光学系のズーム位置またはズーム量に応じた補正値を選択する。
変換手段としてのコンボリューション装置３０１が、第２変換係数記憶手段としてのレジスタ３０２から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ３０３により選択された補正値とに基づいて画像信号の変換を行う。
【０１００】
図１７に、露出情報と、物体距離情報と、ズーム情報とを用いた場合のフィルタの構成例を示す。
この例では、物体距離情報とズーム情報で２次元的な情報を形成し、露出情報が奥行きのような情報を形成している。
【０１０１】
なお、図１７のように３次元、さらには４次元以上とすることで格納量が多くなるが、種々の条件を考慮してより適したものを選択することができるようになる。情報としては、上述した露出情報、物体距離情報、ズーム情報等であればよい。
【０１０２】
なお、上述のように、光波面変調素子を有する撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
【０１０３】
本実施形態においては、ＤＥＯＳを採用し、高精細な画質を得ることが可能で、しかも、光学系を簡単化でき、コスト低減を図ることが可能となっている。
以下、この特徴について説明する。
【０１０４】
図１８（Ａ）〜（Ｃ）は、撮像素子１２０の受光面でのスポット像を示している。
図１８（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、図１８（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、図１８（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示している。
図１８（Ａ）〜（Ｃ）からもわかるように、本実施形態に係る撮像装置１００においては、光波面変調機能によって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）が形成される。
【０１０５】
このように、本実施形態の撮像装置１００において形成された１次画像ＦＩＭは、深度が非常に深い光束条件にしている。
【０１０６】
図１９（Ａ），（Ｂ）は、本実施形態に係る撮像レンズ装置により形成される１次画像の変調伝達関数（ＭＴＦ：Ｍｏｄｕｌａｔｉｏｎ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）について説明するための図であって、図１９（Ａ）は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、図１９（Ｂ）が空間周波数に対するＭＴＦ特性を示している。
本実施形態においては、高精細な最終画像は後段の、たとえばデジタルシグナルプロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）からなる画像処理装置１４０の補正処理に任せるため、図１９（Ａ），（Ｂ）に示すように、１次画像のＭＴＦは本質的に低い値になっている。
【０１０７】
画像処理装置１４０は、上述したように、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成する。
【０１０８】
画像処理装置１４０のＭＴＦ補正処理は、たとえば図２０の曲線Ａで示すように、本質的に低い値になっている１次画像のＭＴＦを、空間周波数をパラメータとしてエッジ強調、クロマ強調等の後処理にて、図２０中曲線Ｂで示す特性に近づく（達する）ような補正を行う。
図２０中曲線Ｂで示す特性は、たとえば本実施形態のように、光波面変調機能を発現させずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
【０１０９】
本実施形態においては、図２０に示すように、光学的に得られる空間周波数に対するＭＴＦ特性曲線Ａに対して、最終的に実現したいＭＴＦ特性曲線Ｂを達成するためには、それぞれの空間周波数に対し、エッジ強調等の強弱を付け、元の画像（１次画像）に対して補正をかける。
たとえば、図２０のＭＴＦ特性の場合、空間周波数に対するエッジ強調の曲線は、図２１に示すようになる。
【０１１０】
すなわち、空間周波数の所定帯域内における低周波数側および高周波数側でエッジ強調を弱くし、中間周波数領域においてエッジ強調を強くして補正を行うことにより、所望のＭＴＦ特性曲線Ｂを仮想的に実現する。
【０１１１】
このように、実施形態に係る撮像装置１００は、基本的に、１次画像を形成する光学系１１０および撮像素子１２０と、１次画像を高精細な最終画像に形成する画像処理装置１４０からなり、光学系システムの中に、光波面変調機能の発現、非発現を切り替え可能な光学素子を新たに設けるか、光波面変調機能を有する光学系に光波面変調機能を相殺可能な逆光波面変調素子を設けることにより、結像の波面を変形（変調）し、そのような波面をＣＣＤやＣＭＯＳセンサからなる撮像素子１２０の撮像面（受光面）に結像させ、その結像１次画像を、画像処理装置１４０を通して高精細画像を得る画像形成システムである。
本実施形態では、撮像素子１２０による１次画像は深度が非常に深い光束条件にしている。そのために、１次画像のＭＴＦは本質的に低い値になっており、そのＭＴＦの補正を画像処理装置１４０で行う。
【０１１２】
ここで、本実施形態における撮像装置１００における結像のプロセスを、波動光学的に考察する。
物点の１点から発散された球面波は結像光学系を通過後、収斂波となる。そのとき、結像光学系が理想光学系でなければ収差が発生する。波面は球面でなく複雑な形状となる。幾何光学と波動光学の間を取り持つのが波面光学であり、波面の現象を取り扱う場合に便利である。
結像面における波動光学的ＭＴＦを扱うとき、結像光学系の射出瞳位置における波面情報が重要となる。
ＭＴＦの計算は結像点における波動光学的強度分布のフーリエ変換で求まる。その波動光学的強度分布は波動光学的振幅分布を２乗して得られるが、その波動光学的振幅分布は射出瞳における瞳関数のフーリエ変換から求まる。
さらにその瞳関数はまさに射出瞳位置における波面情報（波面収差）そのものからであることから、その光学系１１０を通して波面収差が厳密に数値計算できればＭＴＦが計算できることになる。
【０１１３】
したがって、所定の手法によって射出瞳位置での波面情報に手を加えれば、任意に結像面におけるＭＴＦ値は変更可能である。
本実施形態においても、波面の形状変化を波面形成用光学素子で行うのが主であるが、まさにｐｈａｓｅ（位相、光線に沿った光路長）に増減を設けて目的の波面形成を行っている。
そして、目的の波面形成を行えば、射出瞳からの射出光束は、図１８（Ａ）〜（Ｃ）に示す幾何光学的なスポット像からわかるように、光線の密な部分と疎の部分から形成される。
この光束状態のＭＴＦは空間周波数の低いところでは低い値を示し、空間周波数の高いところまでは何とか解像力は維持している特徴を示している。
すなわち、この低いＭＴＦ値（または、幾何光学的にはこのようなスポット像の状態）であれば、エリアジングの現象を発生させないことになる。
つまり、ローパスフィルタが必要ないのである。
そして、後段のＤＳＰ等からなる画像処理装置１４０でＭＴＦ値を低くしている原因のフレアー的画像を除去すれば良いのである。それによってＭＴＦ値は著しく向上する。
【０１１４】
次に、本実施形態および従来光学系のＭＴＦのレスポンスについて考察する。
【０１１５】
図２２は、従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンス（応答）を示す図である。
図２３は、光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンスを示す図である。
また、図２４は、本実施形態に係る撮像装置のデータ復元後のＭＴＦのレスポンスを示す図である。
【０１１６】
図からもわかるように、光波面変調素子を有する光学系の場合、物体が焦点位置から外れた場合でもＭＴＦのレスポンスの変化が光波面変調素子を挿入してない光学径よりも少なくなる。
この光学系によって結像された画像を、コンボリューションフィルタによる処理によって、ＭＴＦのレスポンスが向上する。
【０１１７】
以上説明したように、本実施形態によれば、光波面変調機能を有し、光波面変調パターンが調整可能な光波面変調素子１１４を含むズーム光学系１１０と、ズーム光学系を通過した被写体像を撮像する撮像素子１２０と、光波面変調素子の光波面変調パターンを制御する変調機能（パターン）制御部２００と、撮像素子１２０からの被写体の画像信号に対して所定の処理を施す画像処理部１４０と、を有し、ズーム光学系１１０は、レンズを光軸方向に移動させるレンズ稼動式のズーム光学系であり、変調機能（パターン）制御部２００は、ズーム光学系のレンズの稼動に関する情報に応じて光波面変調素子の光波面変調パターンを制御し、あるいは、ズーム光学系１１０Ａは、レンズの位置が固定されたレンズ非稼動式のズーム光学系であり、変調機能（パターン）制御部２００Ａは、ズーム光学系のズーム制御に関する情報に応じて光波面変調素子の光波面変調パターンを制御する。
したがって、以下の効果を得ることができる。
【０１１８】
深度拡張光学系において、光変調素子の切り替え機構が不要で、ズームポジションの変化に応じた的確な変調パターンを実現でき、また、復元画が良好となるようなボカシを実現できる。
また、フォーカス調整はＤＥＯＳ技術を用いることから画像全体にピントの合った復元画像を提供できる。特に監視カメラのような電子画像機器システムには最適な光学システムと言える。
【０１１９】
また、画像処理装置１４０において、露出制御装置１９０からの露出情報に応じて光学的伝達関数（ＯＴＦ）に対してフィルタ処理を行うことから、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることができる利点がある。
また、コンボリューション演算時に用いるカーネルサイズやその数値演算で用いられる係数を可変とし、操作部１８０等の入力により知り、適性となるカーネルサイズや上述した係数を対応させることにより、倍率やディフォーカス範囲を気にすることなくレンズ設計ができ、かつ精度の高いコンボリュ−ションによる画像復元が可能となる利点がある。
また、難度が高く、高価でかつ大型化した光学レンズを必要とせずに、かつ、レンズを駆動させること無く、撮影したい物体に対してピントが合い、背景はぼかすといった、いわゆる自然な画像を得ることができる利点がある。
そして、本実施形態に係る撮像装置１００は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたズームレンズのＤＥＯＳに使用することが可能である。
【０１２０】
また、本実施形態においては、結像レンズ１１２による撮像素子１２０の受光面への結像の波面を変形させる波面形成用光学素子を有する撮像レンズ系と、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる
所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成する画像処理装置１４０とを有することから、高精細な画質を得ることが可能となるという利点がある。
また、光学系１１０の構成を簡単化でき、製造が容易となり、コスト低減を図ることができる。
【０１２１】
ところで、ＣＣＤやＣＭＯＳセンサを撮像素子として用いた場合、画素ピッチから決まる解像力限界が存在し、光学系の解像力がその限界解像力以上であるとエリアジングのような現象が発生し、最終画像に悪影響を及ぼすことは周知の事実である。
画質向上のため、可能な限りコントラストを上げることが望ましいが、そのことは高性能なレンズ系を必要とする。
【０１２２】
しかし、上述したように、ＣＣＤやＣＭＯＳセンサを撮像素子として用いた場合、エリアジングが発生する。
現在、エリアジングの発生を避けるため、撮像レンズ装置では、一軸結晶系からなるローパスフィルタを併用し、エリアジングの現象の発生を避けている。
このようにローパスフィルタを併用することは、原理的に正しいが、ローパスフィルタそのものが結晶でできているため、高価であり、管理が大変である。また、光学系に使用することは光学系をより複雑にしているという不利益がある。
【０１２３】
以上のように、時代の趨勢でますます高精細の画質が求められているにもかかわらず、高精細な画像を形成するためには、従来の撮像レンズ装置では光学系を複雑にしなければならない。複雑にすれば、製造が困難になったりし、また高価なローパスフィルタを利用したりするとコストアップにつながる。
しかし、本実施形態によれば、ローパスフィルタを用いなくとも、エリアジングの現象の発生を避けることができ、高精細な画質を得ることができる。
【０１２４】
なお、本実施形態において、光学系の波面形成用光学素子を絞りより物体側レンズよりに配置した例を示したが、絞りと同一あるいは絞りより結像レンズ側に配置しても前記と同様の作用効果を得ることができる。
【図面の簡単な説明】
【０１２５】
【図１】本発明に係る撮像装置の一実施形態を示すブロック構成図である。
【図２】本実施形態に係る外部依存型光波面変調素子の構成例および機能を説明するための図である。
【図３】本実施形態に係る光学系の他の構成例を説明するための図である。
【図４】ＤＥＯＳの原理を説明するための図である。
【図５】レンズ稼動式のズーム光学系における液晶素子にかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能をも切り替える例とフィルタ（カーネル）の機能を切り替えない例を示す図である。
【図６】レンズ稼動式のズーム光学系における液晶素子にかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能を切り替えない例を示す図である。
【図７】レンズ非稼動式のズーム光学系における液体レンズにかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能をも切り替える例とフィルタ（カーネル）の機能を切り替えない例を示す図である。
【図８】レンズ非稼動式のズーム光学系における液体レンズにかかる電圧の切り替えと同時に、フィルタ（カーネル）の機能を切り替えない例を示す図である。
【図９】カーネルデータＲＯＭの格納データの他例（Ｆナンバ）を示す図である。
【図１０】露出制御装置の光学系設定処理の概要を示すフローチャートである。
【図１１】信号処理部とカーネルデータ格納ＲＯＭについての第１の構成例を示す図である。
【図１２】信号処理部とカーネルデータ格納ＲＯＭについての第２の構成例を示す図である。
【図１３】信号処理部とカーネルデータ格納ＲＯＭについての第３の構成例を示す図である。
【図１４】信号処理部とカーネルデータ格納ＲＯＭについての第４の構成例を示す図である。
【図１５】被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
【図１６】ズーム情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
【図１７】露出情報と、物体距離情報と、ズーム情報とを用いた場合のフィルタの構成例を示す図である。
【図１８】本実施形態に係る撮像素子の受光面でのスポット像を示す図であって、（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、（Ｂ）は合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、（Ｃ）は焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示す図である。
【図１９】本実施形態に係る撮像素子により形成される１次画像のＭＴＦについて説明するための図であって、（Ａ）は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、（Ｂ）が空間周波数に対するＭＴＦ特性を示す図である。
【図２０】本実施形態に係る画像処理装置におけるＭＴＦ補正処理を説明するための図である。
【図２１】本実施形態に係る画像処理装置におけるＭＴＦ補正処理を具体的に説明するための図である。
【図２２】従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンス（応答）を示す図である。
【図２３】光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンスを示す図である。
【図２４】本実施形態に係る撮像装置のデータ復元後のＭＴＦのレスポンスを示す図である。
【図２５】一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
【図２６】図２５の撮像レンズ装置の撮像素子の受光面でのスポット像を示す図であって、（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示す図である。
【符号の説明】
【０１２６】
１００，１００Ａ・・・撮像装置、１１０，１１０Ａ・・・光学系、１２０・・・撮像素子、１３０・・・アナログフロントエンド部（ＡＦＥ）、１４０・・・画像処理装置、１５０・・・カメラ信号処理部、１８０・・・操作部、１９０・・・露出制御装置、２００，２００Ａ・・・変調機能制御部、１１１・・・第１レンズ、１１２・・・第２レンズ、１１２ａ・・・光波面変調素子、１１３・・・絞り、１１４・・・外部依存型光波面変調素子、１１４ａ・・・光波面変調機能を発現可能な液晶素子、１１５・・・第３レンズ、１１６・・・第４レンズ、１１７・・・外部依存型逆光波面変調素子、１１７ａ・・・逆光波面変調機能を発現可能な液晶素子、１４２・・・コンボリューション演算器、１４３・・・カーネルデータＲＯＭ、１４４・・・コンボリューション制御部、２１０・・・液体レンズ。
【図１】
2008268937.tif 000005
【図２】
2008268937.tif 000006
【図３】
2008268937.tif 000007
【図４】
2008268937.tif 000008
【図５】
2008268937.tif 000009
【図６】
2008268937.tif 000010
【図７】
2008268937.tif 000011
【図８】
2008268937.tif 000012
【図９】
2008268937.tif 000013
【図１０】
2008268937.tif 000014
【図１１】
2008268937.tif 000015
【図１２】
2008268937.tif 000016
【図１３】
2008268937.tif 000017
【図１４】
2008268937.tif 000018
【図１５】
2008268937.tif 000019
【図１６】
2008268937.tif 000020
【図１７】
2008268937.tif 000021
【図１８】
2008268937.tif 000022
【図１９】
2008268937.tif 000023
【図２０】
2008268937.tif 000024
【図２１】
2008268937.tif 000025
【図２２】
2008268937.tif 000026
【図２３】
2008268937.tif 000027
【図２４】
2008268937.tif 000028
【図２５】
2008268937.tif 000029
【図２６】
2008268937.tif 000030