(57)【要約】【課題】高フレームレートを保持しつつ、高価なぼけ復元処理ハードウェアを必要とすることなく、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることが可能な撮像装置およびその方法を提供する。【解決手段】スルー画の時は画像処理装置１５０のボケ復元処理を切替部１４０でパスしてカメラ信号処理部１６０のカメラ信号処理を行い、キャプチャ時のみ画像処理装置１５０でボケ復元処理を行った後、カメラ信号処理部１６０でカメラ信号処理を行って画像を表示する。【選択図】図１
2007181193.tif 000002
【特許請求の範囲】
【請求項１】
合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系と、
前記光学系を通過した被写体像を撮像する撮像素子と、
前記撮像素子からの画像の焦点のボケを補正して復元した画像信号を生成する変換手段と、
画像信号に所定の画像処理を行う信号処理手段と、
前記撮像素子による画像信号または前記変換手段による画像信号を選択的に前記信号処理手段に入力する切替手段と、
前記信号処理手段の処理画像を記録する記録手段と、
画像記録を指示するトリガ信号を生成するトリガ信号生成手段と、
前記信号処理手段の処理画像を表示する画像モニタ手段と、
スルー画中は前記切替手段を通して前記撮像素子による画像信号を前記信号処理手段に入力させ、前記トリガ信号生成手段によるトリガ信号を受けると前記変換手段による画像信号を前記信号処理手段に入力させる制御手段と
を有する撮像装置。
【請求項２】
前記焦点のボケ量は前記画像モニタ手段の分解能を上限として設定されている
請求項１記載の撮像装置。
【請求項３】
前記画像モニタ手段の分解能は、当該画像モニタ手段の画素ピッチの２倍以下に設定されている
請求項１または２記載の撮像装置。
【請求項４】
前記制御手段は、前記トリガ信号を受けてキャプチャした画像に対しては、前記変換手段で復元した後、前記信号処理手段で処理した後の画像を前記画像モニタ手段に表示させる
請求項１から３のいずれか一に記載の撮像装置。
【請求項５】
前記制御手段は、前記スルー画表示中は前記画像モニタ手段の分解能で必要十分な分解能をもった画像を前記撮像素子から出力させる
請求項１から４のいずれか一に記載の撮像装置。
【請求項６】
前記光学系またはその近傍に絞りを有し、
前記制御手段は、スルー画表示の際に前記絞りを絞るように制御する
請求項１から５のいずれか一に記載の撮像装置。
【請求項７】
前記光学系に光波面変調素子を含み、
前記制御手段は、光波面変調素子の変調面の影響を排除し得る部分まで前記絞りを絞るように制御する
請求項６記載の撮像装置。
【請求項８】
前記光学系は、光波面変調素子およびズーム光学系を含み、
前記ズーム光学系のズーム位置またズーム量に相当する情報を生成するズーム情報生成手段を有し、
前記変換手段は、前記ズーム情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する
請求項１から７のいずれか一に記載の撮像装置。
【請求項９】
被写体までの距離に相当する情報を生成する被写体距離情報生成手段を有し、
前記変換手段は、前記被写体距離情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する
請求項１から７のいずれか一に記載の撮像装置。
【請求項１０】
被写体までの距離に相当する情報を生成する被写体距離情報生成手段と、
前記被写体距離情報生成手段により生成された情報に基づき変換係数を演算する変換係数演算手段と、を有し、
前記変換手段は、前記変換係数演算手段から得られた変換係数によって、画像信号の変換を行い分散のない画像信号を生成する
請求項１から７のいずれか一に記載の撮像装置。
【請求項１１】
撮影する被写体の撮影モードを設定する撮影モード設定手段を有し、
前記変換手段は、前記撮影モード設定手段により設定された撮影モードに応じて異なる変換処理を行う
請求項１から１０のいずれか一に記載の撮像装置。
【請求項１２】
前記撮像装置は、複数のレンズを交換可能であって、
前記撮像素子は、前記複数のレンズの内少なくともーのレンズおよび光波面変調素子を通過した被写体収差像を撮像可能で、さらに、
前記一のレンズに応じた変換係数を取得する変換係数取得手段を有し、
前記変換手段は、前記変換係数取得手段から得られた変換係数によって、画像信号の変換を行う
請求項１から１１のいずれか一に記載の撮像装置。
【請求項１３】
露出制御を行う露出制御手段を有し、
前記信号処理手段は、前記露出制御手段からの露出情報に応じて光学的伝達関数（OTF）に対してフィルタ処理を行う
請求項１から１２のいずれか一に記載の撮像装置。
【請求項１４】
合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系を通過した被写体像を撮像素子により撮像し、
スルー画中は、前記撮像素子による画像信号に対して所定の画像処理を行い、
画像記録を指示するトリガ信号を受けると、前記撮像素子からの画像の焦点のボケを補正して復元し、復元した画像信号に対して前記所定の画像処理を行う
撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像素子を用い、光学系を有したデジタルスチルカメラや携帯電話搭載カメラ、携帯情報端末搭載カメラ、画像検査装置、自動制御用産業カメラ等の撮像装置およびその方法に関するものである。
【背景技術】
【０００２】
近年急峻に発展を遂げている情報のデジタル化に相俟って映像分野においてもその対応が著しい。
特に、デジタルカメラに象徴されるように撮像面は従来のフィルムに変わって固体撮像素子であるＣＣＤ（Ｃｈａｒｇｅ  Ｃｏｕｐｌｅｄ  Ｄｅｖｉｃｅ），ＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ  Ｍｅｔａｌ  Ｏｘｉｄｅ  Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）センサが使用されているのが大半である。
【０００３】
このように、撮像素子にＣＣＤやＣＭＯＳセンサを使った撮像レンズ装置は、被写体の映像を光学系により光学的に取り込んで、撮像素子により電気信号として抽出するものであり、デジタルスチルカメラの他、ビデオカメラ、デジタルビデオユニット、パーソナルコンピュータ、携帯電話機、携帯情報端末（ＰＤＡ：Ｐｅｒｓｏｎａｌ  ＤｉｇｉｔａｌＡｓｓｉｓｔａｎｔ）、画像検査装置、自動制御用産業カメラ等に用いられている。
【０００４】
図３５は、一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
この撮像レンズ装置１は、光学系２とＣＣＤやＣＭＯＳセンサ等の撮像素子３とを有する。
光学系は、物体側レンズ２１，２２、絞り２３、および結像レンズ２４を物体側（ＯＢＪＳ）から撮像素子３側に向かって順に配置されている。
【０００５】
撮像レンズ装置１においては、図３５に示すように、ベストフォーカス面を撮像素子面上に合致させている。
図３６（Ａ）〜（Ｃ）は、撮像レンズ装置１の撮像素子３の受光面でのスポット像を示している。
【０００６】
また、位相板（Ｗａｖｅｆｒｏｎｔ  Ｃｏｄｉｎｇ  ｏｐｔｉｃａｌ  ｅｌｅｍｅｎｔ）により光束を規則的に分散し、デジタル処理により復元させ被写界深度の深い画像撮影を可能にする等の撮像装置が提案されている（たとえば非特許文献１，２、特許文献１〜５参照）。
また、伝達関数を用いたフィルタ処理を行うデジタルカメラの自動露出制御システムが提案されている（たとえば特許文献６参照）。
【非特許文献１】"Wavefront Coding;jointly optimized optical and digital imaging systems",Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama.
【非特許文献２】"Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems",Edward R.Dowski,Jr.,Gregory E.Johnson.
【特許文献１】ＵＳＰ６，０２１，００５
【特許文献２】ＵＳＰ６，６４２，５０４
【特許文献３】ＵＳＰ６，５２５，３０２
【特許文献４】ＵＳＰ６，０６９，７３８
【特許文献５】特開２００３−２３５７９４号公報
【特許文献６】特開２００４−１５３４９７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００７】
上述した各文献にて提案された撮像装置においては、その全ては通常光学系に上述の位相板を挿入した場合のＰＳＦ（Ｐｏｉｎｔ−Ｓｐｒｅａｄ−Ｆｕｎｃｔｉｏｎ）が一定になっていることが前提であり、ＰＳＦが変化した場合は、その後のカーネルを用いたコンボリューションにより、被写界深度の深い画像を実現することは極めて難しい。
したがって、単焦点でのレンズではともかく、ズーム系やＡＦ系などのレンズでは、その光学設計の精度の高さやそれに伴うコストアップが原因となり採用するには大きな問題を抱えている。
換言すれば、従来の撮像装置においては、適正なコンボリューション演算を行うことができず、ワイド（Ｗｉｄｅ）時やテレ（Ｔｅｌｅ）時のスポット（ＳＰＯＴ）像のズレを引き起こす非点収差、コマ収差、ズーム色収差等の各収差を無くす光学設計が要求される。
しかしながら、これらの収差を無くす光学設計は光学設計の難易度を増し、設計工数の増大、コスト増大、レンズの大型化の問題を引き起こす。
【０００８】
また、上述した各文献に開示された装置においては、たとえば暗所における撮影で、信号処理によって画像を復元する際、ノイズも同時に増幅してしまう。
したがって、たとえば上述した位相板等の光波面変調素子とその後の信号処理を用いるような、光学系と信号処理を含めた光学システムでは、暗所での撮影を行う場合、ノイズが増幅してしまい、復元画像に影響を与えてしまうという不利益がある。
【０００９】
また、被写界深度を深くするためのＦ値（絞り）を絞る方法は、絞り機構が必要であったり、絞ることによりレンズが暗くなり、輝度に対してダイナミックレンジが取れなかったり、シャッタースピードが低下して手振れ、被写体振れを起こしやすいといった不利益がある。
【００１０】
また、画像処理によってピントずれ（ぼけ）復元処理を行う方法はその処理が非常に重いため、スルー画中も常にぼけ復元を行うためには必要なリソースは大規模になり高価なハードウェアが必要になる。あるいはその処理能力に応じてフレームレートが上げられないといった制約が発生し、かなりフレームレートを低下させた場合はシャッタータイミングを逃すおそれも生ずる。
【００１１】
本発明の目的は、高フレームレートを保持しつつ、高価なぼけ復元処理ハードウェアを必要とすることなく、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることが可能な撮像装置およびその方法を提供することにある。
【課題を解決するための手段】
【００１２】
本発明の観点の第１の観点の撮像装置は、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系と、前記光学系を通過した被写体像を撮像する撮像素子と、前記撮像素子からの画像の焦点のボケを補正して復元した画像信号を生成する変換手段と、画像信号に所定の画像処理を行う信号処理手段と、前記撮像素子による画像信号または前記変換手段による画像信号を選択的に前記信号処理手段に入力する切替手段と、前記信号処理手段の処理画像を記録する記録手段と、画像記録を指示するトリガ信号を生成するトリガ信号生成手段と、前記信号処理手段の処理画像を表示する画像モニタ手段と、スルー画中は前記切替手段を通して前記撮像素子による画像信号を前記信号処理手段に入力させ、前記トリガ信号生成手段によるトリガ信号を受けると前記変換手段による画像信号を前記信号処理手段に入力させる制御手段とを有する。
【００１３】
好適には、前記焦点のボケ量は前記画像モニタ手段の分解能を上限として設定されている。
【００１４】
好適には、前記画像モニタ手段の分解能は、当該画像モニタ手段の画素ピッチの２倍以下に設定されている。
【００１５】
好適には、前記制御手段は、前記トリガ信号を受けてキャプチャした画像に対しては、前記変換手段で復元した後、前記信号処理手段で処理した後の画像を前記画像モニタ手段に表示させる。
【００１６】
好適には、前記制御手段は、前記スルー画表示中は前記画像モニタ手段の分解能で必要十分な分解能をもった画像を前記撮像素子から出力させる。
【００１７】
好適には、前記光学系またはその近傍に絞りを有し、前記制御手段は、スルー画表示の際に前記絞りを絞るように制御する。
【００１８】
好適には、前記光学系に光波面変調素子を含み、前記制御手段は、光波面変調素子の変調面の影響を排除し得る部分まで前記絞りを絞るように制御する。
【００１９】
好適には、前記光学系は、光波面変調素子およびズーム光学系を含み、前記ズーム光学系のズーム位置またズーム量に相当する情報を生成するズーム情報生成手段を有し、前記変換手段は、前記ズーム情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する。
【００２０】
好適には、被写体までの距離に相当する情報を生成する被写体距離情報生成手段を有し、前記変換手段は、前記被写体距離情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する。
【００２１】
好適には、被写体までの距離に相当する情報を生成する被写体距離情報生成手段と、前記被写体距離情報生成手段により生成された情報に基づき変換係数を演算する変換係数演算手段と、を有し、前記変換手段は、前記変換係数演算手段から得られた変換係数によって、画像信号の変換を行い分散のない画像信号を生成する。
【００２２】
好適には、撮影する被写体の撮影モードを設定する撮影モード設定手段を有し、前記変換手段は、前記撮影モード設定手段により設定された撮影モードに応じて異なる変換処理を行う。
【００２３】
好適には、前記撮像装置は、複数のレンズを交換可能であって、前記撮像素子は、前記複数のレンズの内少なくともーのレンズおよび光波面変調素子を通過した被写体収差像を撮像可能で、さらに、前記一のレンズに応じた変換係数を取得する変換係数取得手段を有し、前記変換手段は、前記変換係数取得手段から得られた変換係数によって、画像信号の変換を行う。
【００２４】
好適には、露出制御を行う露出制御手段を有し、前記信号処理手段は、前記露出制御手段からの露出情報に応じて光学的伝達関数（OTF）に対してフィルタ処理を行う。
【００２５】
本発明の第２の観点の撮像方法は、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系を通過した被写体像を撮像素子により撮像し、スルー画中は、前記撮像素子による画像信号に対して所定の画像処理を行い、画像記録を指示するトリガ信号を受けると、前記撮像素子からの画像の焦点のボケを補正して復元し、復元した画像信号に対して前記所定の画像処理を行う。
【発明の効果】
【００２６】
本発明によれば、高フレームレートを保持しつつ、高価なぼけ復元処理ハードウェアを必要とすることなく、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることができる利点がある。
【発明を実施するための最良の形態】
【００２７】
以下、本発明の実施形態を添付図面に関連付けて説明する。
【００２８】
図１は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。
【００２９】
本実施形態に係る撮像装置１００は、光学系１１０、撮像素子１２０、アナログフロントエンド部（ＡＦＥ）１３０、切替部１４０、変換手段としての画像処理装置１５０、カメラ信号処理部１６０、画像表示メモリ１７０、画像モニタリング装置１８０、操作部１９０、および制御手段としての露出制御装置２００を有している。
【００３０】
光学系１１０は、被写体物体ＯＢＪを撮影した像を撮像素子１２０に供給する。
本実施形態の光学系１１０は、後述するように、光波面変調素子を含み、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成されている。
この焦点のボケ量は画像モニタリング装置１８０の分解能を上限として設定されている。
また、光学系１１０は、可変絞り１１０ａが配置されている。この可変絞り１１０ａは、たとえばスルー画表示の際に絞るように制御される。より具体的には、露出制御装置２００の制御の下、スルー画表示の際に、光学系１１０に含まれる光波面変調素子の変調面の変調作用の影響を排除し得る部分まで絞るようにされる。
なお、本実施形態では、可変絞り１１０ａを光学系１１０内に配置したが、光学系１１０の被写体側の近傍に配置しても良い。
【００３１】
撮像素子１２０は、光学系１１０で取り込んだ像が結像され、結像１次画像情報を電気信号の１次画像信号ＦＩＭとして、アナログフロントエンド部１３０を介して切替部１４０に出力するＣＣＤやＣＭＯＳセンサからなる。
図１においては、撮像素子１２０を一例としてＣＣＤとして記載している。
【００３２】
アナログフロントエンド部１３０は、タイミングジェネレータ１３１、アナログ／デジタル（Ａ／Ｄ）コンバータ１３２と、を有する。
タイミングジェネレータ１３１では、撮像素子１２０のＣＣＤの駆動タイミングを生成しており、Ａ／Ｄコンバータ１３２は、ＣＣＤから入力されるアナログ信号をデジタル信号に変換し、切替部１４０に出力する。
【００３３】
切替部１４０は、露出制御装置２００による切替制御信号ＳＣＴＬに応じてＡＦＥ１３０を介した撮像素子１２０の撮像画像信号を画像処理装置１５０またはカメラ信号処理部１６０に選択的に入力する。
切替部１４０において、固定接点ａがＡＦＥ１３０のＡ／Ｄコンバータ１３２の出力ラインに接続され、作動接点ｂが画像処理装置１５０の入力ラインに接続され、作動接点ｃがカメラ信号処理部１６０の信号入力ラインに接続されている。
切替部１４０は、たとえばスルー画を画像モニタリング装置１８０に表示しているときは、スルー画中として固定接点ａが作動接点ｃに接続するように制御される。一方、画像をキャプチャしてメモリ１７０に画像を記録するときは、固定接点ａが作動接点ｂに接続されるように制御される。
【００３４】
変換手段として機能する画像処理装置（二次元コンボリューション手段）１５０は、前段のＡＦＥ１３０からくる撮像画像のデジタル信号を入力し、二次元のコンボリューション処理を施し、後段のカメラ信号処理部（ＤＳＰ）１６０に渡す。
画像処理装置１５０、露出制御装置２００の露出情報に応じて、光学的伝達関数（OTF）に対してフィルタ処理を行う。なお、露出情報として絞り情報を含む。
画像処理装置１５０は、撮像素子１２０からの画像の焦点のボケを補正して復元した画像信号を生成する。より具体的には、画像処理装置１５０は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する機能を有する。また、画像処理装置１５０は、最初のステップ（処理）でノイズ低減フィルタリングを施す機能を有する。
画像処理装置１５０の処理については後でさらに詳述する。
【００３５】
カメラ信号処理部（ＤＳＰ）１６０は、カラー補間、ホワイトバランス、ＹＣｂＣｒ変換処理、圧縮、ファイリング等の所定の画像処理を行い、メモリ１７０への格納や画像モニタリング装置１８０への画像表示等を行う。
【００３６】
画像モニタリング装置１８０は、たとえば液晶表示装置により形成され、カメラ信号処理部１６０により所定の画像処理を受けたスルー画やキャプチャ画像を表示する。
画像モニタリング装置１８０の分解能は、たとえば画像モニタリング装置１８０の画素ピッチの２倍以下に設定されている。
【００３７】
メモリ１７０は、カメラ信号処理部１６０で所定の画像処理を受けたキャプチャ画像等が記録される。
【００３８】
操作部１９０は、露出制御装置２００に対して所定の機能制御を行うように指示する入力スイッチ等により構成される。操作部１９０は、たとえばシャッタボタン、レリーズボタン、拡大ボタン、移動キー上、移動キー下、移動キー右、移動キー左、等の各スイッチを含む。
操作部１９０は、たとえばユーザによりシャッタボタンあるいはレリーズボタンが操作されると、所望のスルー画部分をキャプチャし、メモリ１７０に記録することを指示するトリガ信号を生成し露出制御装置２００に出力するトリガ信号生成機能を有する。
【００３９】
露出制御装置２００は、露出制御を行うとともに、操作部１９０などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、ＡＦＥ１３０、画像処理装置１５０、ＤＳＰ１６０等を制御し、システム全体の調停制御を司るものである。
露出制御装置２００は、スルー画中は、切替制御信号ＣＴＬにより切替部１４０の固定接点ａと作動接点ｃとを接続させて、復元処理がされていない撮像素子１２０の撮像画像信号をカメラ信号処理部１６０の直接入力させる。
一方、露出制御装置２００は、操作部１９０によりトリガ信号を受けると、画像をキャプチャしてメモリ１７０に画像を記録するモードであると判断し、切替制御信号ＳＣＴＬにより切替部１４０の固定接点ａと作動接点ｂとを接続させて、復元処理を施すべく画像処理装置１５０に入力させる。
すなわち、露出制御装置２００は、トリガ信号を受けてキャプチャした画像に対しては、画像処理装置１５０で復元処理した後、カメラ信号処理部１６０で所定の画像処理を施した後の画像を画像モニタリング装置１８０に表示させる。
また、露出制御装置２００は、たとえばカメラ信号処理部１６０を通して、画像モニタリング装置１８０にスルー画を表示中は画像モニタリング装置１８０の分解能で必要十分な分可能をもった画像を撮像素子１２０から出力させるようにタイミングジェネレータ１３１に指示を出す。
【００４０】
また、露出制御装置２００は、スルー画表示の際には、制御信号Ｓ２００により絞り１１０ａを絞るように制御する。より具体的には、露出制御装置２００は、制御信号Ｓ２００により、スルー画表示の際に位相面の影響を排除し得る部分まで絞り１１０ａを絞るように制御する。
このように、露出制御装置２００が、スルー画表示の際には、制御信号Ｓ２００により絞り１１０ａを絞るように制御することにより、スルー画表示時に位相面の影響を受けないため、ある程度はボケないような画像を表示できるようになる。
なお、絞り１１０ａを絞ると画面表示が暗くなるが、画像モニタリング装置１８０の画面表示用の信号のゲインを上げることで、明るさの問題は解消することが可能である。
【００４１】
以下に、本実施形態の光学系の基本的な機能およびボケ画像復元の有無に応じた基本的な処理について説明した後、本実施形態の特徴である光学系１１０と変換手段として機能する画像処理装置１５０のさらに具体的な構成および機能について具体的に説明する。
【００４２】
ここでは、ベストフォーカス（焦点）位置で光線が集中する一般的な結像光学系を比較例として挙げる。
図２は、一般的な結像光学系の光線高さとデフォーカスとの関係を示す図である。
また、図３は、本実施形態の光学系の結像付近の光学特性を示す図である。
【００４３】
図２に示すように、一般的な結像光学系においては、ベストフォーカスの位置では光線が最も密に集中し、ベストフォーカス位置から離れていくとそのデフォーカス量にほぼ比例してボケ径が広がる。
これに対し、本実施形態の光学系１１０は、図３に示すように、一般的な結像系光学系と異なり、ベストフォーカスの位置で光線が集中しないため、ベストフォーカス位置であってもボケている。しかしながら、本実施形態の光学系１１０は、このベストフォーカス近傍では、デフォーカス量に対してボケの形（ＰＳＦ）の変化が鈍感になるように設計されている。
したがって、ベストフォーカス位置のＰＳＦに応じたボケ復元処理を行えば、ベストフォーカス点はもちろんその前後もボケを除去し鮮明な画像を得ることができる。
これが本実施形態で採用している深度拡大の原理である。
【００４４】
次に、ボケ画像復元処理について説明する。
図４は、一般的な光学系のベストフォーカス（ＢｅｓｔＦｏｒｃｕｓ）位置でのＭＴＦ（Modulation Transfer Function：振幅伝達関数）特性図である。
図５は、本実施形態の光学系のＭＴＦ特性を示す図である。
【００４５】
本実施形態の光学系１１０を通過して撮像素子１２０で得られた撮像画像はボケているため中域〜高域にかけてＭＴＦが低下している。このＭＴＦを演算によって上昇させる。レンズ単体の振幅特性であるＭＴＦに対し、画像処理を含めたトータルの振幅特性はＳＦＲ（Spatial Frequency Response）と呼ばれている。
ボケ画像を発生させるＰＳＦの周波数特性がＭＴＦであるので、これから所望のＳＦＲ特性まで引き上げるゲイン特性に設計してできたものがボケ復元フィルタである。どの程度のゲインにするかはノイズや偽像とのバランスで決めていく。
【００４６】
このボケ復元フィルタを元画像にデジタルフィルタリングする方法は、画像をフーリエ変換し周波数領域でフィルタと周波数毎に積を取る方法と、空間領域でコンボリューション（Convolution）演算（畳み込み演算）を行なう方法がある。ここでは後者での実現方法を説明する。コンボリューション演算は下記の式で表される。
【００４７】
【数１】
2007181193.tif 000003
【００４８】
ただし、ｆはフィルタ（ｆｉｌｔｅｒ）カーネルを示している（ここでは計算を容易にするために１８０度回転済みのものを使用している）。
また、Aは元画像、Bはフィルタリングされた画像（ボケ復元画像）を示している。
この式から分かる通り、ｆを画像に重ねて各タップ同士の積和した結果をその重ねた中心座標の値とすることである。
【００４９】
次に、図６（Ａ）〜（Ｃ）に関連付けて３＊３のフィルタを例に挙げ具体的に説明する。
図６（Ａ）の復元フィルタ（既に１８０度回転済み）を図６（Ｂ）に示すボケ画像のＡ(i,j)上にフィルタの中心ｆ(0,0)を重ね、各タップ同士の積をとりこの９個の総和値を図６（Ｃ)に示すボケ復元画像のＢ(i,j)とする。
(i,j)を画像全体に渡ってスキャンすると新たなＢ画像が生成される。これがデジタルフィルタである。ここではフィルタがボケ復元目的であるので、この処理を行なうことでボケ復元処理を実施することができる。
【００５０】
理論的、技術的には、この処理を常時適用して、スルー画表示中においてもボケ復元処理を施した画像を表示させることは可能である。
しかしながら、このコンボリューション演算を、たとえば３０ｆｐｓなどの高いレートを維持したままリアルタイムで処理しようとすれば、フィルタサイズに応じたラインバッファや非常にたくさんの乗算器が必要となり、高コストで大きな消費電力が発生しあまり現実的でない。
そこで、本実施形態においては、スルー画中など必要でない期間はコンボリューション演算を実行せず、キャプチャ実行のトリガが入力された時のみコンボリューション演算を施すようにしている。
【００５１】
本実施形態においては、光学系１１０を通して像は撮像素子１２０によって光電変換され、ＡＦＥ１３０で変換されてデジタル画像データを生成する。
そして、スルー画中は、撮像素子１２０による画像信号は、切替部１４０により画像処理装置１５０のボケ画像復元処理をパスしてカメラ信号処理部１６０に送られる。
カメラ信号処理部１６０においては、たとえばＢａｙｅｒカラーの場合、デモザイク処理、ホワイトバランス処理、ガンマ変換、ＹＵＶ変換等を行いモニタにリアルタイムで画像を出力する。
次に、たとえば操作部１９０のレリーズボタン等が操作されてトリガ信号が露出制御装置２００に入力されると、撮像素子１２０、ＡＦＥ１３０からのデジタルデータを切替部１４０により画像処理装置１５０に入力して前述のボケ画像復元処理にかけてその出力をカメラ信号処理部１６０でカメラ信号処理を施す。カメラ信号処理が施されたが像は、メモリ１７０に記録されたり、画像モニタリング装置１８０に表示されたりする。
ここで拡大ボタンが押下されればキャプチャ画を拡大してモニタに映し出したり、その状態で移動キーの操作によって拡大部分の位置を変えることもできる。
【００５２】
また、本実施形態においては、前記ＰＳＦのボケ幅は、画像モニタリング装置１８０の分解能を上限として設定していることから、スルー画表示中は処理を軽くするため、上述したボケ復元処理を実施しないようにしても、ボケが目立たないようなモニタ表示が可能となる。
【００５３】
さらに、本実施形態においては、ボケ幅の大きさを画像モニタリング装置１８０の画素ピッチの２倍程度以下に設定してあることから、スルー画中のライブ画像は実質的にボケてはいない。
【００５４】
画像ピッチの２倍程度以下として表示が実質的にボケないのは、一般的にモニタ装置でカラー表示を行う場合、光の３原色であるＲ，Ｇ，Ｂを１画素ずつに割り当て、最低でもこの３画素を１ユニットとしてカラー表示が行われることに起因する。
図７（Ａ）〜（Ｄ）に示すように、画素の配列には、ストライプ配列、ダイアゴナル配列、デルタ配列、レクタリング配列といった複数の手法があるが、いずれの手法も最低でも正方が画素の２×２のサイズを最小ユニットとして構成されている。
よって、モニタ表示画像の分解能としては画素ピッチの２倍以下であれば実質的に問題のないレベルであるといえる。
【００５５】
また、本実施形態においては、ボケ画像を画像処理装置１５０で復元処理し、カメラ信号処理部１６０でカメラ信号処理が終わったところで自動的に画像モニタリング装置１８０にボケ復元画像を出力するようにしたので、ボケ復元処理にある程度時間がかかっても処理終了と同時に見ることができ、撮影者が復元処理を実行させるための特別な操作を行う必要はない。
【００５６】
また、本実施形態においては、スルー画中は画像モニタリング装置１８０の分解能で必要十分な小さいサイズの画像を撮像素子１２０ボケ変換手段としての画像処理装置１５０を通さずにカメラ信号処理を行って画像モニタリング装置１８０に出力するようにしたので、画像処理に負担がかからずリアルタイムで高速な処理が可能となる。
【００５７】
以下、本実施形態の光学系、画像処理装置の構成および機能についてさらに具体的には説明する。
【００５８】
図８は、本実施形態に係るズーム光学系１１０の構成例を模式的に示す図である。この図は広角側を示している。
また、図９は、本実施形態に係る撮像レンズ装置の望遠側のズーム光学系の構成例を模式的に示す図である。
そして、図１０は、本実施形態に係るズーム光学系の広角側の像高中心のスポット形状を示す図であり、図１１は、本実施形態に係るズーム光学系の望遠側の像高中心のスポット形状を示す図である。
【００５９】
図８および図９のズーム光学系１１０は、物体側ＯＢＪＳに配置された物体側レンズ１１１と、撮像素子１２０に結像させるための結像レンズ１１２と、物体側レンズ１１１と結像レンズ１１２間に配置され、結像レンズ１１２による撮像素子１２０の受光面への結像の波面を変形させる、たとえば３次元的曲面を有する位相板（Ｃｕｂｉｃ  Ｐｈａｓｅ  Ｐｌａｔｅ）からなる光波面変調素子（波面形成用光学素子：Ｗａｖｅｆｒｏｎｔ  Ｃｏｄｉｎｇ  Ｏｐｔｉｃａｌ  Ｅｌｅｍｅｎｔ）群１１３を有する。また、物体側レンズ１１１と結像レンズ１１２間には図示しない絞りが配置される。
たとえば、本実施形態においては、可変絞りが設けられ、露出制御（装置）において可変絞りの絞り度（開口度）を制御する。
【００６０】
なお、本実施形態においては、位相板を用いた場合について説明したが、本発明の光波面変調素子としては、波面を変形させるものであればどのようなものでもよく、厚みが変化する光学素子（たとえば、上述の３次の位相板）、屈折率が変化する光学素子（たとえば屈折率分布型波面変調レンズ）、レンズ表面へのコーディングにより厚み、屈折率が変化する光学素子（たとえば、波面変調ハイブリッドレンズ）、光の位相分布を変調可能な液晶素子（たとえば、液晶空間位相変調素子）等の光波面変調素子であればよい。
【００６１】
図８および図９のズーム光学系１１０は、デジタルカメラに用いられる３倍ズームに光学位相板１１３ａを挿入した例である。
図で示された位相板１１３ａは、光学系により収束される光束を規則正しく分散する光学レンズである。この位相板を挿入することにより、撮像素子１２０上ではピントのどこにも合わない画像を実現する。
換言すれば、位相板１１３ａによって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）を形成している。
この規則的に分散した画像をデジタル処理により、ピントの合った画像に復元する手段を波面収差制御光学系システム、あるいは深度拡張光学系システム（ＤＥＯＳ：Ｄｅｐｔｈ  Ｅｘｐａｎｔｉｏｎ  Ｏｐｔｉｃａｌ  ｓｙｓｔｅｍ）といい、この処理を画像処理装置１５０において行う。
【００６２】
ここで、ＤＥＯＳの基本原理について説明する。
図１２に示すように、被写体の画像ｆがＤＥＯＳ光学系Ｈに入ることにより、ｇ画像が生成される。
これは、次のような式で表される。
【００６３】
（数２）
ｇ＝Ｈ＊ｆ
ただし、＊はコンボリューションを表す。
【００６４】
生成された画像から被写体を求めるためには、次の処理を要する。
【００６５】
（数３）
ｆ＝Ｈ-１＊ｇ
【００６６】
ここで、Ｈに関するカーネルサイズと演算係数について説明する。
ズームポジションをＺＰｎ，ＺＰｎ−１・・・とする。また、それぞれのＨ関数をＨｎ，Ｈｎ−１、・・・・とする。
各々のスポット像が異なるため、各々のＨ関数は、次のようになる。
【００６７】
【数４】
2007181193.tif 000004
【００６８】
この行列の行数および／または列数の違いをカーネルサイズ、各々の数字を演算係数とする。
ここで、各々のＨ関数はメモリに格納しておいても構わないし、ＰＳＦを物体距離の関数としておき、物体距離によって計算し、Ｈ関数を算出することによって任意の物体距離に対して最適なフィルタを作るように設定できるようにしても構わない。また、Ｈ関数を物体距離の関数として、物体距離によってＨ関数を直接求めても構わない。
【００６９】
本実施形態においては、図１に示すように、光学系１１０からの像を撮像素子１２０で受像して、画像処理装置１５０に入力させ、光学系に応じた変換係数を取得して、取得した変換係数をもって撮像素子１２０からの分散画像信号より分散のない画像信号を生成するように構成している。
【００７０】
なお、本実施形態において、分散とは、上述したように、位相板１１３ａを挿入することにより、撮像素子１２０上ではピントのどこにも合わない画像を形成し、位相板１１３ａによって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）を形成する現象をいい、像が分散してボケ部分を形成する振る舞いから収差と同様の意味合いが含まれる。したがって、本実施形態においては、収差として説明する場合もある。
【００７１】
また、図１３は、本実施形態の光波面変調素子を含む光学系の光軸をｚ軸とし、互いに直交する２軸をｘ、ｙとしたとき、下記式で表される波面収差の形状である。
【００７２】
【数５】
2007181193.tif 000005
【００７３】
波面収差が０．５λ以下の範囲では位相の変化が小さく、通常の光学系と変わらないＯＴＦを持つ。したがってスルー画表示時に波面収差が０．５λ程度になるまで絞るように制御すれば良い。
図１４は、前記波面収差の形状と０．５λ以下の範囲を太線で表したものである。
ただし、λはたとえば可視光領域、赤外領域の波長を用いる。
【００７４】
なお、図１３に示す形状は、一例であって、光波面変調素子が、光学系の光軸をｚ軸とし、互いに直交する２軸をｘ、ｙとしたとき、位相が下記式で表されるものであれば適用可能である。
【００７５】
【数６】
2007181193.tif 000006
【００７６】
画像処理装置１４０は、上述したように、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成する。
【００７７】
次に、画像処理装置１５０の構成および処理について説明する。
【００７８】
画像処理装置１５０は、図１に示すように、生（ＲＡＷ）バッファメモリ１５１、コンボリューション演算器１５２、記憶手段としてのカーネルデータ格納ＲＯＭ１５３、およびコンボリューション制御部１５４を有する。
【００７９】
コンボリューション制御部１５４は、コンボリューション処理のオンオフ、画面サイズ、カーネルデータの入れ替え等の制御を行い、露出制御装置２００により制御される。
【００８０】
また、カーネルデータ格納ＲＯＭ１５３には、図１５または図１６に示すように予め用意されたそれぞれの光学系のＰＳＦにより算出されたコンボリューション用のカーネルデータが格納されており、露出制御装置２００によって露出設定時に決まる露出情報を取得し、コンボリューション制御部１５４を通じてカーネルデータを選択制御する。
なお、露出情報には、絞り情報が含まれる。
【００８１】
図１５の例では、カーネルデータＡは光学倍率（×１．５）、カーネルデータＢは光学倍率（×５）、カーネルデータＣは光学倍率（×１０）に対応したデータとなっている。
【００８２】
また、図１６の例では、カーネルデータＡは絞り情報としてのＦナンバ（２．８）、カーネルデータＢはＦナンバ（４）、カーネルデータＣはＦナンバ（５．６）に対応したデータとなっている。
【００８３】
図１６の例のように、絞り情報に応じたフィルタ処理を行うのは以下の理由による。
絞りを絞って撮影を行う場合、絞りによって光波面変調素子を形成する位相板１１３ａが覆われてしまい、位相が変化してしまうため、適切な画像を復元することが困難となる。
そこで、本実施形態においては、本例のように、露出情報中の絞り情報に応じたフィルタ処理を行うことによって適切な画像復元を実現している。
【００８４】
図１７は、露出制御装置２００の露出情報（絞り除去を含む）により切り替え処理のフローチャートである。
まず、露出情報（ＲＰ）が検出されコンボリューション制御部１５４に供給される（ＳＴ１０１）。
コンボリューション制御部１５４においては、露出情報ＲＰから、カーネルサイズ、数値演算係数がレジスタにセットされる（ＳＴ１０２）。
そして、撮像素子１２０で撮像され、ＡＦＥ１３０を介して二次元コンボリューション演算部１５２に入力された画像データに対して、レジスタに格納されたデータに基づいてコンボリューション演算が行われ、演算され変換されたデータがカメラ信号処理部１６０に転送される（ＳＴ１０３）。
【００８５】
以下に画像処理装置１５０の信号処理部とカーネルデータ格納ROMについてさらに具体的な例について説明する。
【００８６】
図１８は、信号処理部とカーネルデータ格納ＲＯＭについての第１の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図１８の例は露出情報に応じたフィルタカーネルを予め用意した場合のブロック図である。
【００８７】
露出設定時に決まる露出情報を取得し、コンボリューション制御部１５４を通じてカーネルデータを選択制御する。２次元コンボリューション演算部１５２においては、カーネルデータを用いてコンボリューション処理を施す。
【００８８】
図１９は、信号処理部とカーネルデータ格納ＲＯＭについての第２の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図１９の例は、信号処理部の最初にノイズ低減フィルタ処理のステップを有し、フィルタカーネルデータとして露出情報に応じたノイズ低減フィルタ処理ＳＴ１を予め用意した場合のブロック図である。
【００８９】
露出設定時に決まる露出情報を取得し、コンボリューション制御部１５４を通じてカーネルデータを選択制御する。
２次元コンボリューション演算部１５２においては、前記ノイズ低減フィルタＳＴ１を施した後、カラーコンバージョン処理ＳＴ２によって色空間を変換、その後カーネルデータを用いてコンボリューション処理ＳＴ３を施す。
再度ノイズ処理ＳＴ４を行い、カラーコンバージョン処理ＳＴ５によって元の色空間に戻す。カラーコンバージョン処理は、たとえばＹＣｂＣｒ変換が挙げられるが、他の変換でも構わない。
なお、再度のノイズ処理ＳＴ４は省略することも可能である。
【００９０】
図２０は、信号処理部とカーネルデータ格納ＲＯＭについての第３の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図２０の例は、露出情報に応じたＯＴＦ復元フィルタを予め用意した場合のブロック図である。
【００９１】
露出設定時に決まる露出情報を取得し、コンボリューション制御部１５４を通じてカーネルデータを選択制御する。
２次元コンボリューション演算部１５２は、ノイズ低減処理ＳＴ１１、カラーコンバージョン処理ＳＴ１２の後に、前記ＯＴＦ復元フィルタを用いてコンボリューション処理ＳＴ１３を施す。
再度ノイズ処理ＳＴ１４を行い、カラーコンバージョン処理ＳＴ１５によって元の色空間に戻す。カラーコンバージョン処理は、たとえばＹＣｂＣｒ変換が挙げられるが、他の変換でも構わない。
なお、ノイズ低減処理ＳＴ１１、ＳＴ１４は、いずれか一方のみでもよい。
【００９２】
図２１は、信号処理部とカーネルデータ格納ＲＯＭについての第４の構成例を示す図である。なお、簡単化のためにＡＦＥ等は省略している。
図２１の例は、ノイズ低減フィルタ処理のステップを有し、フィルタカーネルデータとして露出情報に応じたノイズ低減フィルタを予め用意した場合のブロック図である。
なお、再度のノイズ処理ＳＴ２４は省略することも可能である。
露出設定時に決まる露出情報を取得し、コンボリューション制御部１５４を通じてカーネルデータを選択制御する。
２次元コンボリューション演算部１５２においては、ノイズ低減フィルタ処理ＳＴ２１を施した後、カラーコンバージョン処理ＳＴ２２によって色空間を変換、その後カーネルデータを用いてコンボリューション処理ＳＴ２３を施す。
再度、露出情報に応じたノイズ処理ＳＴ２４を行い、カラーコンバージョン処理ＳＴ２５によって元の色空間に戻す。カラーコンバージョン処理は、たとえばＹＣｂＣｒ変換が挙げられるが、他の変換でも構わない。
なお、ノイズ低減処理ＳＴ２１は省略することも可能である。
【００９３】
以上は露出情報のみに応じて２次元コンボリューション演算部１５２においてフィルタ処理を行う例を説明したが、たとえば被写体距離情報、ズーム情報、あるいは撮影モード情報と露出情報とを組み合わせることにより適した演算係数の抽出、あるいは演算を行うことが可能となる。
【００９４】
図２２は、被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図２２は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置３００の構成例を示している。
【００９５】
画像処理装置３００は、図２２に示すように、コンボリューション装置３０１、カーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【００９６】
この画像処理装置３００においては、物体概略距離情報検出装置４００から読み出した被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【００９７】
上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置４００により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
【００９８】
前記の画像処理はコンボリューション演算により行うが、これを実現するには、たとえばコンボリューション演算の演算係数を共通で１種類記憶しておき、焦点距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
【００９９】
焦点距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成、焦点距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
【０１００】
図２２の構成に対応付けると次のような構成をとることができる。
【０１０１】
変換係数記憶手段としてのレジスタ３０２に被写体距離に応じて少なくとも位相板１１３ａに起因する収差に対応した変換係数を少なくとも２以上予め記憶する。画像処理演算プロセッサ３０３が、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された情報に基づき、レジスタ３０２から被写体までの距離に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置３０１が、係数選択手段としての画像処理演算プロセッサ３０３で選択された変換係数によって、画像信号の変換を行う。
【０１０２】
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３が、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された情報に基づき変換係数を演算し、レジスタ３０２に格納する。
そして、変換手段としてのコンボリューション装置３０１が、変換係数演算手段としての画像処理演算プロセッサ３０３で得られレジスタ３０２に格納された変換係数によって、画像信号の変換を行う。
【０１０３】
または、補正値記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた少なくとも１以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第２変換係数記憶手段としても機能するレジスタ３０２に、位相板１１３ａに起因する収差に対応した変換係数を予め記憶する。
そして、被写体距離情報生成手段としての物体概略距離情報検出装置４００により生成された距離情報に基づき、補正値選択手段としての画像処理演算プロセッサ３０３が、補正値記憶手段としてのレジスタ３０２から被写体までの距離に応じた補正値を選択する。
変換手段としてのコンボリューション装置３０１が、第２変換係数記憶手段としてのレジスタ３０２から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ３０３により選択された補正値とに基づいて画像信号の変換を行う。
【０１０４】
図２３は、ズーム情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図２３は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置３００Ａの構成例を示している。
【０１０５】
画像処理装置３００Ａは、図２２と同様に、図２３に示すように、コンボリューション装置３０１、カーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【０１０６】
この画像処理装置３００Ａにおいては、ズーム情報検出装置５００から読み出したズーム位置またはズーム量に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、露出情報およびそのズーム位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値演算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【０１０７】
上述したように、光波面変調素子としての位相板をズーム光学系に有した撮像装置に適用する場合、ズーム光学系のズーム位置によって生成されるスポット像が異なる。このため、位相板より得られる焦点ズレ画像（スポット画像）を後段のＤＳＰ等でコンボリューション演算する際、適性な焦点合わせ画像を得るためには、ズーム位置に応じて異なるコンボリューション演算が必要となる。
そこで、本実施形態においては、ズーム情報検出装置５００を設け、ズーム位置に応じて適正なコンボリューション演算を行い、ズーム位置によらず適性な焦点合わせ画像を得るように構成されている。
【０１０８】
画像処理装置３００Ａにおける適正なコンボリーション演算には、コンボリューションの演算係数をレジスタ３０２に共通で１種類記憶しておく構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
【０１０９】
各ズーム位置に応じて、レジスタ３０２に補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成、各ズーム位置に応じて、レジスタ３０２にカーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算行う構成、ズーム位置に応じた演算係数を関数としてレジスタ３０２に予め記憶しておき、ズーム位置によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
【０１１０】
図２３の構成に対応付けると次のような構成をとることができる。
【０１１１】
変換係数記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた位相板１１３ａに起因する収差に対応した変換係数を少なくとも２以上予め記憶する。画像処理演算プロセッサ３０３が、ズーム情報生成手段としてのズーム情報検出装置５００により生成された情報に基づき、レジスタ３０２からズーム光学系１１０のズ−ム位置またはズーム量に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置３０１が、係数選択手段としての画像処理演算プロセッサ３０３で選択された変換係数によって、画像信号の変換を行う。
【０１１２】
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３が、ズーム情報生成手段としてのズーム情報検出装置５００により生成された情報に基づき変換係数を演算し、レジスタ３０２に格納する。
そして、変換手段としてのコンボリューション装置３０１が、変換係数演算手段としての画像処理演算プロセッサ３０３で得られレジスタ３０２に格納された変換係数によって、画像信号の変換を行う。
【０１１３】
または、補正値記憶手段としてのレジスタ３０２にズーム光学系１１０のズーム位置またはズーム量に応じた少なくとも１以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第２変換係数記憶手段としても機能するレジスタ３０２に、位相板１１３ａに起因する収差に対応した変換係数を予め記憶する。
そして、ズーム情報生成手段としてのズーム情報検出装置５００により生成されたズーム情報に基づき、補正値選択手段としての画像処理演算プロセッサ３０３が、補正値記憶手段としてのレジスタ３０２からズーム光学系のズーム位置またはズーム量に応じた補正値を選択する。
変換手段としてのコンボリューション装置３０１が、第２変換係数記憶手段としてのレジスタ３０２から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ３０３により選択された補正値とに基づいて画像信号の変換を行う。
【０１１４】
図２３に、露出情報と、物体距離情報と、ズーム情報とを用いた場合のフィルタの構成例を示す。
この例では、物体距離情報とズーム情報で２次元的な情報を形成し、露出情報が奥行きのような情報を形成している。
【０１１５】
図２５は、撮影モード情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図２５は、撮像素子１２０からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置３００Ｂの構成例を示している。
【０１１６】
画像処理装置３００Ｂは、図２２および図２３と同様に、図２５に示すように、コンボリューション装置３０１、記憶手段としてのカーネル・数値演算係数格納レジスタ３０２、および画像処理演算プロセッサ３０３を有する。
【０１１７】
この画像処理装置３００Ｂにおいては、物体概略距離情報検出装置６００から読み出した被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ３０３では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ３０２に格納し、その値を用いて演算するコンボリューション装置３０１にて適正な演算を行い、画像を復元する。
【０１１８】
この場合も上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、上記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置６００により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
【０１１９】
上記の画像処理はコンボリューション演算により行うが、これを実現するには、コンボリューション演算の演算係数を共通で１種類記憶しておき、物体距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成、物体距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成、物体距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
【０１２０】
本実施形態においては、上述したように、ＤＳＣのモード設定（ポートレイト、無限遠（風景）、マクロ）に応じて画像処理を変更する。
【０１２１】
図２５の構成に対応付けると次のような構成をとることができる。
【０１２２】
前述したように、変換係数演算手段としての画像処理演算プロセッサ３０３を通して操作部１９０の撮影モード設定部７００により設定される各撮影モードに応じて異なる変換係数を変換係数記憶手段としてのレジスタ３０２に格納する。
画像処理演算プロセッサ３０３が、撮影モード設定部７００の操作スイッチ７０１により設定された撮影モードに応じて、被写体距離情報生成手段としての物体概略距離情報検出装置６００により生成された情報に基づき、変換係数記憶手段としてのレジスタ３０２から変換係数を抽出する。このとき、たとえば画像処理演算プロセッサ３０３が変換係数抽出手段として機能する。
そして、変換手段としてのコンボリューション装置３０１が、レジスタ３０２に格納された変換係数によって、画像信号の撮影モードに応じた変換処理を行う。
【０１２３】
なお、図８や図９の光学系は一例であり、本発明は図８や図９の光学系に対して用いられるものとは限らない。また、スポット形状についても図１０および図１１は一例であり、本実施形態のスポット形状は、図１０および図１１に示すものとは限らない。
また、図１５および図１６のカーネルデータ格納ＲＯＭに関しても、光学倍率、Ｆナンバやそれぞれのカーネルのサイズ、値に対して用いられるものとは限らない。また用意するカーネルデータの数についても３個とは限らない。
図２３のように３次元、さらには４次元以上とすることで格納量が多くなるが、種々の条件を考慮してより適したものを選択することができるようになる。情報としては、上述した露出情報、物体距離情報、ズーム情報、撮像モード情報等であればよい。
【０１２４】
なお、上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
【０１２５】
本実施形態においては、ＤＥＯＳを採用し、高精細な画質を得ることが可能で、しかも、光学系を簡単化でき、コスト低減を図ることが可能となっている。
以下、この特徴について説明する。
【０１２６】
図２６（Ａ）〜（Ｃ）は、撮像素子１２０の受光面でのスポット像を示している。
図２６（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、図２６（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、図２６（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示している。
図２６（Ａ）〜（Ｃ）からもわかるように、本実施形態に係る撮像装置１００においては、位相板１１３ａを含む波面形成用光学素子群１１３によって深度の深い光束（像形成の中心的役割を成す）とフレアー（ボケ部分）が形成される。
【０１２７】
このように、本実施形態の撮像装置１００において形成された１次画像ＦＩＭは、深度が非常に深い光束条件にしている。
【０１２８】
図２７（Ａ），（Ｂ）は、本実施形態に係る撮像レンズ装置により形成される１次画像の変調伝達関数（ＭＴＦ：Ｍｏｄｕｌａｔｉｏｎ  Ｔｒａｎｓｆｅｒ  Ｆｕｎｃｔｉｏｎ）について説明するための図であって、図２７（Ａ）は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、図２７（Ｂ）が空間周波数に対するＭＴＦ特性を示している。
本実施形態においては、高精細な最終画像は後段の、たとえばデジタルシグナルプロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）からなる画像処理装置１５０の補正処理に任せるため、図２７（Ａ），（Ｂ）に示すように、１次画像のＭＴＦは本質的に低い値になっている。
【０１２９】
画像処理装置１５０は、上述したように、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成する。
【０１３０】
画像処理装置１５０のＭＴＦ補正処理は、たとえば図２８の曲線Ａで示すように、本質的に低い値になっている１次画像のＭＴＦを、空間周波数をパラメータとしてエッジ強調、クロマ強調等の後処理にて、図２８中曲線Ｂで示す特性に近づく（達する）ような補正を行う。
図２８中曲線Ｂで示す特性は、たとえば本実施形態のように、波面形成用光学素子を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
【０１３１】
本実施形態においては、図２８に示すように、光学的に得られる空間周波数に対するＭＴＦ特性曲線Ａに対して、最終的に実現したいＭＴＦ特性曲線Ｂを達成するためには、それぞれの空間周波数に対し、エッジ強調等の強弱を付け、元の画像（１次画像）に対して補正をかける。
たとえば、図２８のＭＴＦ特性の場合、空間周波数に対するエッジ強調の曲線は、図２９に示すようになる。
【０１３２】
すなわち、空間周波数の所定帯域内における低周波数側および高周波数側でエッジ強調を弱くし、中間周波数領域においてエッジ強調を強くして補正を行うことにより、所望のＭＴＦ特性曲線Ｂを仮想的に実現する。
【０１３３】
このように、実施形態に係る撮像装置１００は、基本的に、１次画像を形成する光学系１１０および撮像素子１２０と、１次画像を高精細な最終画像に形成する画像処理装置１５０からなり、光学系システムの中に、波面成形用の光学素子を新たに設けるか、またはガラス、プラスチックなどのような光学素子の面を波面成形用に成形したものを設けることにより、結像の波面を変形（変調）し、そのような波面をＣＣＤやＣＭＯＳセンサからなる撮像素子１２０の撮像面（受光面）に結像させ、その結像１次画像を、画像処理装置１５０を通して高精細画像を得る画像形成システムである。
本実施形態では、撮像素子１２０による１次画像は深度が非常に深い光束条件にしている。そのために、１次画像のＭＴＦは本質的に低い値になっており、そのＭＴＦの補正を画像処理装置１５０で行う。
【０１３４】
ここで、本実施形態における撮像装置１００における結像のプロセスを、波動光学的に考察する。
物点の１点から発散された球面波は結像光学系を通過後、収斂波となる。そのとき、結像光学系が理想光学系でなければ収差が発生する。波面は球面でなく複雑な形状となる。幾何光学と波動光学の間を取り持つのが波面光学であり、波面の現象を取り扱う場合に便利である。
結像面における波動光学的ＭＴＦを扱うとき、結像光学系の射出瞳位置における波面情報が重要となる。
ＭＴＦの計算は結像点における波動光学的強度分布のフーリエ変換で求まる。その波動光学的強度分布は波動光学的振幅分布を２乗して得られるが、その波動光学的振幅分布は射出瞳における瞳関数のフーリエ変換から求まる。
さらにその瞳関数はまさに射出瞳位置における波面情報（波面収差）そのものからであることから、その光学系１１０を通して波面収差が厳密に数値計算できればＭＴＦが計算できることになる。
【０１３５】
したがって、所定の手法によって射出瞳位置での波面情報に手を加えれば、任意に結像面におけるＭＴＦ値は変更可能である。
本実施形態においても、波面の形状変化を波面形成用光学素子で行うのが主であるが、まさにｐｈａｓｅ（位相、光線に沿った光路長）に増減を設けて目的の波面形成を行っている。
そして、目的の波面形成を行えば、射出瞳からの射出光束は、図２６（Ａ）〜（Ｃ）に示す幾何光学的なスポット像からわかるように、光線の密な部分と疎の部分から形成される。
この光束状態のＭＴＦは空間周波数の低いところでは低い値を示し、空間周波数の高いところまでは何とか解像力は維持している特徴を示している。
すなわち、この低いＭＴＦ値（または、幾何光学的にはこのようなスポット像の状態）であれば、エリアジングの現象を発生させないことになる。
つまり、ローパスフィルタが必要ないのである。
そして、後段のＤＳＰ等からなる画像処理装置１５０でＭＴＦ値を低くしている原因のフレアー的画像を除去すれば良いのである。それによってＭＴＦ値は著しく向上する。
【０１３６】
次に、本実施形態および従来光学系のＭＴＦのレスポンスについて考察する。
【０１３７】
図３０は、従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンス（応答）を示す図である。
図３１は、光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンスを示す図である。
また、図３２は、本実施形態に係る撮像装置のデータ復元後のＭＴＦのレスポンスを示す図である。
【０１３８】
図からもわかるように、光波面変調素子を有する光学系の場合、物体が焦点位置から外れた場合でもＭＴＦのレスポンスの変化が光波面変調素子を挿入してない光学径よりも少なくなる。
この光学系によって結像された画像を、コンボリューションフィルタによる処理によって、ＭＴＦのレスポンスが向上する。
【０１３９】
以上説明したように、本実施形態によれば、合焦位置でもピントを結ばないがその前後でほぼＰＳＦ（Point  Spread Function 点広がり関数）が一定になるように設計された光学系１１０と、光学系の像をとらえる撮像素子１２０と、ボケ復元処理を行う画像処理装置１５０と、最終画像を得るためのカメラ信号処理部１６０と、カメラ信号処理部１６０から出力された画像を表示し、画角やキャプチャタイミングを決定するためにスルー画を表示したり、撮影した画像を表示したりする画像モニタリング装置１８０と、画像をキャプチャするトリガ信号を生成可能な操作部１９０と、スルー画中はボケ復元処理を行う画像処理装置１５を通さずに撮像素子の画像信号をカメラ信号処理部１６０に直接入力させ、トリガ信号を受けてキャプチャした画像に対しては画像処理装置１５０でＰＳＦに応じたボケ復元処理を行ってカメラ信号処理部１６０に出力するように制御する制御装置２００とを有することから、以下の効果を得ることができる。
構図を決めるスルー画中は高いフレームレートを維持しつつ、キャプチャ時はボケ復元処理にある程度の時間をかけられるので、高価なハードウェアの必要がない。またキャプチャ画を拡大や拡大場所移動の操作を行ってもキャプチャ画についてはフル画像をボケ復元しているので、きめ細かく細部に渡って確認することができ、操作と見栄えに不自然さは発生しない。
【０１４０】
また、前記ＰＳＦのボケ幅は画像モニタリング装置１８０の画素ピッチの２倍程度以下に設定したので、たとえボケたままのスルー画とは言ってもモニタの細かさと同レベルであるので実質モニタ上では気になるようなボケは生じない。
また、トリガ信号を受けてキャプチャした画像に対してはボケ復元処理を行う画像処理装置１５０の中で前記ＰＳＦに応じたボケ復元処理の終了後カメラ処理を行った後にモニタに画像を出力するようにしたので、ボケ復元処理にある程度時間がかかってもユーザは画像が自動的に現れるので待てばよく、操作しても画が出ないと不満を解消できる。
また、スルー画中はモニタで必要な画像サイズレベルの小さい画像を撮像素子１２０から出力するようにしたので、スルー画中は高いフレームレートを実現でき、リソースに余裕が生まれるので消費電力を低減できる。
また、スルー画表示の際には、絞り１１０ａを絞るように制御することにより、スルー画表示時に光波面変調素子の変調面の変調作用の影響を受けないため、ある程度はボケないような画像を表示できるようになる。
【０１４１】
また、本実施形態によれば、１次画像を形成する光学系１１０および撮像素子１２０と、１次画像を高精細な最終画像に形成する画像処理装置１５０とを含み、画像処理装置１５０において、露出制御装置２００からの露出情報に応じて光学的伝達関数（OTF）に対してフィルタ処理を行うことから、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることができる利点がある。
また、コンボリューション演算時に用いるカーネルサイズやその数値演算で用いられる係数を可変とし、操作部１９０等の入力により知り、適性となるカーネルサイズや上述した係数を対応させることにより、倍率やデフォーカス範囲を気にすることなくレンズ設計ができ、かつ精度の高いコンボリュ−ションによる画像復元が可能となる利点がある。
また、難度が高く、高価でかつ大型化した光学レンズを必要とせずに、かつ、レンズを駆動させること無く、撮影したい物体に対してピントが合い、背景はぼかすといった、いわゆる自然な画像を得ることができる利点がある。
そして、本実施形態に係る撮像装置１００は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたズームレンズのＤＥＯＳに使用することが可能である。
【０１４２】
また、本実施形態においては、結像レンズ１１２による撮像素子１２０の受光面への結像の波面を変形させる波面形成用光学素子を有する撮像レンズ系と、撮像素子１２０による１次画像ＦＩＭを受けて、１次画像の空間周波数におけるＭＴＦをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像ＦＮＬＩＭを形成する画像処理装置１５０とを有することから、高精細な画質を得ることが可能となるという利点がある。
また、光学系１１０の構成を簡単化でき、製造が容易となり、コスト低減を図ることができる。
【０１４３】
ところで、ＣＣＤやＣＭＯＳセンサを撮像素子として用いた場合、画素ピッチから決まる解像力限界が存在し、光学系の解像力がその限界解像力以上であるとエリアジングのような現象が発生し、最終画像に悪影響を及ぼすことは周知の事実である。
画質向上のため、可能な限りコントラストを上げることが望ましいが、そのことは高性能なレンズ系を必要とする。
【０１４４】
しかし、上述したように、ＣＣＤやＣＭＯＳセンサを撮像素子として用いた場合、エリアジングが発生する。
現在、エリアジングの発生を避けるため、撮像レンズ装置では、一軸結晶系からなるローパスフィルタを併用し、エリアジングの現象の発生を避けている。
このようにローパスフィルタを併用することは、原理的に正しいが、ローパスフィルタそのものが結晶でできているため、高価であり、管理が大変である。また、光学系に使用することは光学系をより複雑にしているという不利益がある。
【０１４５】
以上のように、時代の趨勢でますます高精細の画質が求められているにもかかわらず、高精細な画像を形成するためには、従来の撮像レンズ装置では光学系を複雑にしなければならない。複雑にすれば、製造が困難になったりし、また高価なローパスフィルタを利用したりするとコストアップにつながる。
しかし、本実施形態によれば、ローパスフィルタを用いなくとも、エリアジングの現象の発生を避けることができ、高精細な画質を得ることができる。
【０１４６】
なお、本実施形態において、光学系の波面形成用光学素子を絞りより物体側レンズよりに配置した例を示したが、絞りと同一あるいは絞りより結像レンズ側に配置しても前記と同様の作用効果を得ることができる。
【０１４７】
また、図８や図９の光学系は一例であり、本発明は図８や図９の光学系に対して用いられるものとは限らない。また、スポット形状についても図１０および図１１は一例であり、本実施形態のスポット形状は、図１０および図１１に示すものとは限らない。
また、図１５および図１６のカーネルデータ格納ＲＯＭに関しても、光学倍率、Ｆナンバやそれぞれのカーネルのサイズ、値に対して用いられるものとは限らない。また用意するカーネルデータの数についても３個とは限らない。
【０１４８】
なお、以上の実施形態は光学系が一つの場合を例に説明したが、光学系を複数有する撮像装置に対しても本発明は適用可能である。
【０１４９】
図３３は、本発明に係る光学系を複数有する撮像装置の一実施形態を示すブロック構成図である。
【０１５０】
本撮像装置１００Ａと図１の撮像装置１００と異なる点は、光学ユニット１１０Ａは、複数（本実施形態では２）の光学系１１０−１，１１０−２を露出制御装置２００の代わりシステム制御装置２００Ａを設け、さらに光学系切替制御部２０１を設けたことにある。
【０１５１】
光学ユニット１１０Ａは、複数（本実施形態では２）の光学系１１０−１，１１０−２を有し、光学系切替制御部２０１の切り替え処理に応じて被写体物体ＯＢＪを撮影した像を順番に撮像素子１２０に供給する。
各光学系１１０−１，１１０−２は、光学倍率が異なり、撮像対象物体（被写体）ＯＢＪの映像を光学的に取り込む。
【０１５２】
システム制御装置２００Ａは、基本的に露出制御装置と同様の機能を有し、操作部１９０などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、光学系切替制御部２１０、ＡＦＥ１３０、切替部１４０、画像処理装置１５０、ＤＳＰ１６０等を制御し、システム全体の調停制御を司るものである。
【０１５３】
その他の構成は図１と同様である。
【０１５４】
図３４は、システム制御装置２００Ａの光学系設定処理の概要を示すフローチャートである。
まず、光学系を確認し（ＳＴ１１１）、カーネルデータをセットする（ＳＴ１１２）。
そして、操作部１９０の操作により光学系の切り替え指示がなされると（ＳＴ１１３）、光学系切替制御部２０１により光学ユニット１１０Ａの光学系の出力を切り替え、ステップＳＴ１１１の処理を行う（ＳＴ１１４）。
【０１５５】
図３３の実施形態によれば、前述した図１の撮像装置の効果に加えて以下の効果を得ることができる。
すなわち、図３３の撮像装置においては、１次画像を形成する倍率の異なる複数の光学系１１０−１，２を含む光学ユニット１１０Ａおよび撮像素子１２０と、１次画像を高精細な最終画像に形成する画像処理装置１５０とを含み、画像処理装置１５０において、光学系の倍率に応じて、コンボリューション演算時に用いるカーネルサイズやその数値演算で用いられる係数を可変とし、操作部１９０等の入力により知り、その光学系の倍率に応じた適性となるカーネルサイズや上述した係数を対応させることにより、倍率やデフォーカス範囲を気にすることなくレンズ設計ができ、かつ精度の高いコンボリュ−ションによる画像復元が可能となる利点がある。
また、難度が高く、高価でかつ大型化した光学レンズを必要とせずに、かつ、レンズを駆動させること無く、撮影したい物体に対してピントが合い、背景はぼかすといった、いわゆる自然な画像を得ることができる利点がある。
そして、本実施形態に係る撮像装置１００Ａは、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたズームレンズのＤＥＯＳに使用することが可能である。
【図面の簡単な説明】
【０１５６】
【図１】本発明に係る撮像装置の一実施形態を示すブロック構成図である。
【図２】一般的な結像光学系の光線高さとデフォーカスとの関係を示す図である。
【図３】本実施形態の光学系の結像付近の光学特性を示す図である。
【図４】一般的な光学系のベストフォーカス（ＢｅｓｔＦｏｒｃｕｓ）位置でのＭＴＦ（Modulation Transfer Function  振幅伝達関数）特性図である。
【図５】本実施形態の光学系のＭＴＦ特性を示す図である。
【図６】本実施形態におけるボケ復元処理の説明図である。
【図７】モニタの画素配列の例を示す図である。
【図８】本実施形態に係る撮像レンズ装置の広角側のズーム光学系の構成例を模式的に示す図である。
【図９】本実施形態に係る撮像レンズ装置の望遠側のズーム光学系の構成例を模式的に示す図である。
【図１０】広角側の像高中心のスポット形状を示す図である。
【図１１】望遠側の像高中心のスポット形状を示す図である。
【図１２】ＤＥＯＳの原理を説明するための図である。
【図１３】本実施形態の光波面変調素子を含む光学系の光軸をｚ軸とし、互いに直交する２軸をｘ、ｙとしたとき、式で表される波面収差の形状を示す図である。
【図１４】波面収差の形状と０．５λ以下の範囲を太線で表した図である。
【図１５】カーネルデータＲＯＭの格納データの一例（光学倍率）を示す図である。
【図１６】カーネルデータＲＯＭの格納データの他例（Ｆナンバ）を示す図である。
【図１７】露出制御装置の光学系設定処理の概要を示すフローチャートである。
【図１８】信号処理部とカーネルデータ格納ＲＯＭについての第１の構成例を示す図である。
【図１９】信号処理部とカーネルデータ格納ＲＯＭについての第２の構成例を示す図である。
【図２０】信号処理部とカーネルデータ格納ＲＯＭについての第３の構成例を示す図である。
【図２１】信号処理部とカーネルデータ格納ＲＯＭについての第４の構成例を示す図である。
【図２２】被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
【図２３】ズーム情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
【図２４】露出情報と、物体距離情報と、ズーム情報とを用いた場合のフィルタの構成例を示す図である。
【図２５】撮影モード情報と露出情報とを組み合わせる画像処理装置の構成例を示図である。
【図２６】本実施形態に係る撮像素子の受光面でのスポット像を示す図であって、（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示す図である。
【図２７】本実施形態に係る撮像素子により形成される１次画像のＭＴＦについて説明するための図であって、（Ａ）は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、（Ｂ）が空間周波数に対するＭＴＦ特性を示している。
【図２８】本実施形態に係る画像処理装置におけるＭＴＦ補正処理を説明するための図である。
【図２９】本実施形態に係る画像処理装置におけるＭＴＦ補正処理を具体的に説明するための図である。
【図３０】従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンス（応答）を示す図である。
【図３１】光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのＭＴＦのレスポンスを示す図である。
【図３２】本実施形態に係る撮像装置のデータ復元後のＭＴＦのレスポンスを示す図である。
【図３３】本発明に係る光学系を複数有する撮像装置の一実施形態を示すブロック構成図である。
【図３４】図３３のシステム制御装置の光学系設定処理の概要を示すフローチャートである。
【図３５】一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
【図３６】図３５の撮像レンズ装置の撮像素子の受光面でのスポット像を示す図であって、（Ａ）は焦点が０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝０．２ｍｍ）、（Ｂ）が合焦点の場合（Ｂｅｓｔ  ｆｏｃｕｓ）、（Ｃ）が焦点が−０．２ｍｍずれた場合（Ｄｅｆｏｃｕｓ＝−０．２ｍｍ）の各スポット像を示す図である。
【符号の説明】
【０１５７】
１００…撮像装置、１１０…光学系、１２０…撮像素子、１３０…アナログフロントエンド部（ＡＦＥ）、１４０…切替部、１５０…画像処理装置、１６０…カメラ信号処理部、１９０…操作部、２００…露出制御装置、２００Ａ…システム制御装置、１１１…物体側レンズ、１１２…結像レンズ、１１３…波面形成用光学素子、１１３ａ…位相板（光波面変調素子）、１５２…コンボリューション演算器、１５３…カーネルデータＲＯＭ、１５４…コンボリューション制御部。
【図１】
2007181193.tif 000007
【図２】
2007181193.tif 000008
【図３】
2007181193.tif 000009
【図４】
2007181193.tif 000010
【図５】
2007181193.tif 000011
【図６】
2007181193.tif 000012
【図７】
2007181193.tif 000013
【図８】
2007181193.tif 000014
【図９】
2007181193.tif 000015
【図１０】
2007181193.tif 000016
【図１１】
2007181193.tif 000017
【図１２】
2007181193.tif 000018
【図１３】
2007181193.tif 000019
【図１４】
2007181193.tif 000020
【図１５】
2007181193.tif 000021
【図１６】
2007181193.tif 000022
【図１７】
2007181193.tif 000023
【図１８】
2007181193.tif 000024
【図１９】
2007181193.tif 000025
【図２０】
2007181193.tif 000026
【図２１】
2007181193.tif 000027
【図２２】
2007181193.tif 000028
【図２３】
2007181193.tif 000029
【図２４】
2007181193.tif 000030
【図２５】
2007181193.tif 000031
【図２６】
2007181193.tif 000032
【図２７】
2007181193.tif 000033
【図２８】
2007181193.tif 000034
【図２９】
2007181193.tif 000035
【図３０】
2007181193.tif 000036
【図３１】
2007181193.tif 000037
【図３２】
2007181193.tif 000038
【図３３】
2007181193.tif 000039
【図３４】
2007181193.tif 000040
【図３５】
2007181193.tif 000041
【図３６】
2007181193.tif 000042