(57)【要約】【課題】非合焦領域においてもボケの少ない画像を取得すること。【解決手段】撮像装置は、撮影光学系を通過する第１の光束を受光して第１の信号を生成する第１の光電変換部と、前記撮影光学系を通過する第２の光束を受光して第２の信号を生成する第２の光電変換部と、を有する画素が複数配置される撮像素子と、前記第１の信号により、画像信号に用いられる前記画素の信号を生成する信号生成部と、を備える。【選択図】図２
2017108404.tif 000002
【特許請求の範囲】
【請求項１】
撮影光学系を通過する第１の光束を受光して第１の信号を生成する第１の光電変換部と、前記撮影光学系を通過する第２の光束を受光して第２の信号を生成する第２の光電変換部と、を有する画素が複数配置される撮像素子と、
前記第１の信号により、画像信号生成に用いられる前記画素の信号を生成する信号生成部と、
を備える撮像装置。
【請求項２】
請求項１に記載の撮像装置において、
前記信号生成部は、複数の前記画素のうちの一部の画素について、前記第１の信号により、前記画像信号生成に用いられる前記画素の信号を生成する撮像装置。
【請求項３】
請求項２に記載の撮像装置において、
撮影画面内において、デフォーカス量が予め定められた閾値よりも大きい非合焦領域を、デフォーカス量に基づき区別する区分部をさらに備え、
前記一部の画素は、非合焦領域の画素である撮像装置。
【請求項４】
請求項３に記載の撮像装置において、
前記一部の画素は、第１の色成分に対応する第１の画素と、第２の色成分に対応する第２の画素とを含み、
前記第１の画素が有する前記第１の光電変換部及び前記第２の光電変換部は、前記第１の色成分の前記第１の信号及び前記第１の色成分の前記第２の信号をそれぞれ生成し、
前記第２の画素が有する前記第１の光電変換部及び前記第２の光電変換部は、前記第２の色成分の前記第１の信号及び前記第２の色成分の前記第２の信号をそれぞれ生成し、
前記信号生成部は、前記第１の色成分の前記第１の信号により前記第２の色成分の前記第１の信号を補間する撮像装置。
【請求項５】
撮影光学系を通過した第１及び第２の光束を受光して第１及び第２の信号をそれぞれ生成する画素が配置される撮像素子と、
予め定められた方向に配置された複数の前記画素から出力される複数の前記第１の信号及び複数の前記第２の信号のズレ量を検出して、撮影画面上の種々の位置におけるデフォーカス量を検出する焦点検出部と、
前記デフォーカス量に基づき、前記撮影画面を合焦領域と非合焦領域とに区分する区分部と、
前記合焦領域の前記画素については前記第１の信号と前記第２の信号とを加算した画像信号を生成し、前記非合焦領域の前記画素については前記第１の信号と前記第２の信号との一方の信号により画像信号を生成する第１の画像信号生成部と、
を備える撮像装置。
【請求項６】
請求項５に記載の撮像装置において、
前記撮影画面全体の前記画素について、前記第１の信号と前記第２の信号とを加算した加算信号によって画像信号を生成する第２の画像信号生成部を更に備える撮像装置。
【請求項７】
請求項６に記載の撮像装置において、
前記第１の画像信号生成部により生成された画像信号に基づき、被写体画像の解析処理を行う画像解析部と、
前記第２の画像信号生成部により生成された画像信号に基づき、スルー画像を表示部に表示させる表示制御部と、
を更に備える撮像装置。
【請求項８】
請求項７に記載の撮像装置において、
前記解析処理は、前記被写体画像からエッジを検出するエッジ検出処理および前記被写体画像内の顔を認識する顔認識処理の少なくとも一方である、撮像装置。
【請求項９】
請求項５〜８のいずれか一項に記載の撮像装置において、
前記画素は、マイクロレンズと前記撮影光学系を通過した前記第１及び第２の光束を前記マイクロレンズを介して受光して前記第１及び第２の信号をそれぞれ生成する第１及び第２の光電変換部を有し、
前記撮像装置は、前記撮影光学系の瞳位置の情報に基づきケラレが前記第１及び第２の光束のどちらに多く生じるかを判定し、前記第１及び第２の光電変換部のうち、前記ケラレの少ない方の光束を受光する光電変換部を選択するケラレ判定部をさらに備え、
前記第１の画像信号生成部は、前記非合焦領域の前記画素について、前記ケラレ判定部によって選択された光電変換部の信号によって画像信号を生成する、撮像装置。
【請求項１０】
請求項５〜９のいずれか一項に記載の撮像装置において、
前記画素は、前記第１及び第２の光束の第１の色成分に関する分光感度特性を有する第１の画素と、前記第１及び第２の光束の前記第１の色成分と異なる第２の色成分に関する分光感度特性を有する第２の画素と、を含み、
前記第１の画像信号生成部は、前記第１の画素については、前記第２の色成分の画像信号を周辺の前記第２の画素の信号に基づき補間処理により生成し、前記第２の画素については、前記第１の色成分の画像信号を周辺の前記第１の画素の信号に基づき補間処理により生成し、
前記第１の画像信号生成部は、前記非合焦領域の前記画素について、前記第１の信号によって画像信号を生成する場合には、周辺の前記画素における前記第１の信号に基づき前記補間処理を行い、前記第２の信号によって画像信号を生成する場合には、周辺の前記画素における前記第２の信号に基づき前記補間処理を行う、撮像装置。
【請求項１１】
請求項１０に記載の撮像装置において、
前記画素は、マイクロレンズと前記撮影光学系を通過した前記第１及び第２の信号を前記マイクロレンズを介して受光して前記第１及び第２の信号をそれぞれ生成する第１及び第２の光電変換部を有し、
前記第１の画像信号生成部は、前記非合焦領域の前記画素について、前記第１及び第２の光電変換部の並び方向に配置される画素の信号と、前記並び方向の直交方向に配置される画素の信号とに基づき前記補間処理を行う際、前記並び方向に配置される画素の信号に比べて前記直交方向に配置される画素の信号に乗算する重み付け係数を大きくする、撮像装置。
【請求項１２】
撮影光学系を通過する第１及び第２の光束をそれぞれ受光して第１の色成分の第１の信号及び第２の信号をそれぞれ生成する第１の光電変換部及び第２の光電変換部を有する第１の画素と、前記撮影光学系を通過する前記第１及び第２の光束をそれぞれ受光して第２の色成分の第３の信号及び第４の信号をそれぞれ生成する第３の光電変換部及び第４の光電変換部を有する第２の画素と、をそれぞれ複数有する撮像素子と、
前記第３の信号と前記第４の信号とを加算した信号により、前記第１の画素の位置における前記第２の色成分の信号を補間する第１の補間処理部と、
前記第３の信号により、前記第１の画素の位置における前記第２の色成分の信号を補間する第２の補間処理部と、
を備える撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置に関する。
【背景技術】
【０００２】
像面位相差方式による焦点検出が可能な撮像素子が知られている（特許文献１参照）。非合焦領域に対応する画素では、画像がボケてしまうため、用途によっては適さない場合があった。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００１−８３４０７号公報
【発明の概要】
【０００４】
請求項１に記載の撮像装置は、撮影光学系を通過する第１の光束を受光して第１の信号を生成する第１の光電変換部と、前記撮影光学系を通過する第２の光束を受光して第２の信号を生成する第２の光電変換部と、を有する画素が複数配置される撮像素子と、前記第１の信号により、画像信号に用いられる前記画素の信号を生成する信号生成部と、を備える。
請求項５に記載の撮像装置は、撮影光学系を通過した第１及び第２の光束を受光して第１及び第２の信号をそれぞれ生成する画素が配置される撮像素子と、予め定められた方向に配置された複数の前記画素から出力される複数の前記第１の信号及び複数の前記第２の信号のズレ量を検出して、撮影画面上の種々の位置におけるデフォーカス量を検出する焦点検出部と、前記デフォーカス量に基づき、前記撮影画面を合焦領域と非合焦領域とに区分する区分部と、前記合焦領域の前記画素については前記第１の信号と前記第２の信号とを加算した画像信号を生成し、前記非合焦領域の前記画素については前記第１の信号と前記第２の信号との一方の信号により画像信号を生成する第１の画像信号生成部と、を備える。
請求項１２に記載の撮像装置は、撮影光学系を通過する第１及び第２の光束をそれぞれ受光して第１の色成分の第１の信号及び第２の信号をそれぞれ生成する第１の光電変換部及び第２の光電変換部を有する第１の画素と、前記撮影光学系を通過する前記第１及び第２の光束をそれぞれ受光して第２の色成分の第３の信号及び第４の信号をそれぞれ生成する第３の光電変換部及び第４の光電変換部を有する第２の画素と、をそれぞれ複数有する撮像素子と、前記第３の信号と前記第４の信号とを加算した信号により、前記第１の画素の位置における前記第２の色成分の信号を補間する第１の補間処理部と、前記第３の信号により、前記第１の画素の位置における前記第２の色成分の信号を補間する第２の補間処理部と、を備える。
【図面の簡単な説明】
【０００５】
【図１】本発明の一実施の形態によるデジタルカメラの構成を示す図である。
【図２】ボディ駆動制御装置の構成を示す図である。
【図３】撮像素子の詳細な構成を示す図である。
【図４】撮像素子の詳細な構成を示す図である。
【図５】画素の構成を示す図である。
【図６】瞳分割型位相差検出方式の焦点検出光学系の構成を示す図である。
【図７】合焦状態における模式的な光路図である。
【図８】非合焦状態における模式的な光路図である。
【図９】略合焦領域に対応する画素の画像信号の並びを例示する図である。
【図１０】Ｇ成分の補間処理を説明する図である。
【図１１】Ｒ成分の補間処理を説明する図である。
【図１２】非合焦領域に対応する画素において、光電変換部の出力信号の並びを例示する図である。
【図１３】Ｇ成分の補間処理を説明する図である。
【図１４】Ｒ成分の補間処理を説明する図である。
【図１５】交換レンズの射出瞳の位置とケラレとの関係を説明する図である。
【発明を実施するための形態】
【０００６】
以下、図面を参照して本発明を実施するための形態について説明する。図１は、本実施形態の撮像装置の一例であるレンズ交換式のデジタルカメラの構成を示す図である。デジタルカメラ２０１は、交換レンズ２０２とカメラボディ２０３から構成される。種々の交換レンズ２０２がマウント部２０４を介してカメラボディ２０３に装着される。
【０００７】
交換レンズ２０２は、レンズ２０９、ズーミング用レンズ２０８、フォーカシング用レンズ２１０、絞り２１１、レンズ駆動制御装置２０６などを備える。レンズ駆動制御装置２０６は、不図示のマイクロコンピュータ、メモリ、駆動制御回路などから構成される。レンズ駆動制御装置２０６は、フォーカシング用レンズ２１０の焦点調節と絞り２１１の開口径調節のための駆動制御や、ズーミング用レンズ２０８、フォーカシング用レンズ２１０および絞り２１１の状態検出などを行う。また、レンズ駆動制御装置２０６は、後述するボディ駆動制御装置２１４との通信によりレンズ情報の送信とカメラ情報の受信を行う。絞り２１１は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。
【０００８】
カメラボディ２０３は、撮像素子２１２、ボディ駆動制御装置２１４、液晶表示素子駆動回路２１５、液晶表示素子２１６、接眼レンズ２１７などを備える。また、カメラボディ２０３には、メモリカード２１９が装着される。
【０００９】
ボディ駆動制御装置２１４は、マイクロコンピュータ、メモリ、駆動制御回路などから構成される。ボディ駆動制御装置２１４は、撮像素子２１２の駆動制御と撮像素子２１２からの出力信号の読み出しと、該出力信号に基づく焦点検出演算と交換レンズ２０２の焦点調節を繰り返し行うとともに、該出力信号に基づく画像処理演算と記録、カメラの動作制御などを行う。また、ボディ駆動制御装置２１４は、電気接点２１３を介してレンズ駆動制御装置２０６と通信を行い、レンズ情報の受信とカメラ情報（デフォーカス量や絞り値など）の送信を行う。
【００１０】
液晶表示素子２１６は電子ビューファインダー（ＥＶＦ：Electronic View Finder）として機能する。液晶表示素子駆動回路２１５は、撮像素子２１２によるスルー画像を液晶表示素子２１６に表示する。撮影者は、接眼レンズ２１７を介してスルー画像を観察することができる。メモリカード２１９は、撮像素子２１２により撮像された画像を記憶する画像ストレージである。
【００１１】
交換レンズ２０２を通過した光束により、撮像素子２１２の受光面上に被写体像が形成される。この被写体像は撮像素子２１２の各画素で光電変換され、各画素の出力信号がボディ駆動制御装置２１４へ送られる。
【００１２】
ボディ駆動制御装置２１４は、撮像素子２１２の出力信号に基づいてデフォーカス量を算出し、このデフォーカス量をレンズ駆動制御装置２０６へ送る。また、ボディ駆動制御装置２１４は、撮像素子２１２の出力信号を処理して画像データを生成し、メモリカード２１９に格納するとともに、撮像素子２１２からのスルー画像信号を液晶表示素子駆動回路２１５へ送り、スルー画像を液晶表示素子２１６に表示させる。さらに、ボディ駆動制御装置２１４は、レンズ駆動制御装置２０６へ絞り制御情報を送って絞り２１１の開口制御を行う。
【００１３】
レンズ駆動制御装置２０６は、フォーカシング状態、ズーミング状態、絞り設定状態、絞り開放Ｆ値などに応じてレンズ情報を更新する。具体的には、ズーミング用レンズ２０８とフォーカシング用レンズ２１０の位置と絞り２１１の絞り値を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択する。
【００１４】
レンズ駆動制御装置２０６は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ２１０を合焦位置へ駆動する。また、レンズ駆動制御装置２０６は受信した絞り値に応じて絞り２１１を駆動する。
【００１５】
図２は、ボディ駆動制御装置２１４の構成を示すブロック図である。ボディ駆動制御装置２１４は、焦点検出部２３０、区分部２３１、第１の画像信号生成部２３２、第２の画像信号生成部２３３、画像解析部２３４、表示制御部２３５、記録制御部２３６、およびケラレ判定部２３７を機能的に備える。
【００１６】
焦点検出部２３０は、撮像素子２１２の出力信号に基づいて後述する処理を行って、焦点検出を行う。区分部２３１は、撮影画面を略合焦領域と非合焦領域に区分し、或いは略合焦領域および非合焦領域のうちの少なくとも一方を抽出する。第１の画像信号生成部２３２は、撮像素子２１２の出力信号に基づいて後述する処理を行って、画像解析用の画像信号を生成する。なお、画像解析用の画像信号は、画像として出力されることを目的として生成される複数の画素信号に限られない。画像解析用の画像信号は、撮像素子２１２の複数の画素における複数の光電変換部が出力する複数の出力信号の生データとして得られる複数の画素信号や、それらの生データをもとに、画像として出力されることなく画像解析用データとして生成される複数の画素信号であってもよい。第２の画像信号生成部２３３は、撮像素子２１２の出力信号に基づいて後述する処理を行って、表示用画像（スルー画像）や記録用画像を構成する複数の画素信号からなる画像信号を生成する。画像解析部２３４は、第１の画像信号生成部２３２により生成された画像信号に基づき、被写体画像の解析処理を行う。表示制御部２３５は、第２の画像信号生成部２３３により生成された画像信号に基づき、液晶表示素子２１６にスルー画像を表示する。記録制御部２３６は、第２の画像信号生成部２３３により生成された画像信号に基づき、メモリカード２１９に画像データを記録する。ケラレ判定部２３７は、交換レンズ２０２のレンズ情報（射出瞳位置の情報）に基づいて、ケラレの状況を判定する。なお、これらの各部について詳しくは後述する。
【００１７】
図３および図４は、撮像素子２１２の詳細な構成を示す正面図であり、撮像素子２１２の一部を拡大して示した図である。図３は、画素３１１のレイアウトを示す図である。複数の画素３１１は、行方向（水平方向）および列方向（垂直方向）において二次元状に配列されている。各画素３１１は、マイクロレンズ（不図示）と一対の光電変換部１３、１４とを有する。図３において、一対の光電変換部１３、１４は水平方向に並んで配置されている。図４は、図３に示す画素３１１の配列における色フィルタの配列を示した図である。画素３１１には、ベイヤー配列の規則に従って色フィルタ（Ｒ：赤色フィルタ、Ｇ：緑色フィルタ、Ｂ：青色フィルタ）が配置されている。すなわち、画素３１１として、赤色成分に関する分光感度特性を有する（すなわち赤色フィルタが配置された）Ｒ画素と緑色成分に関する分光感度特性を有する（すなわち緑色フィルタが配置された）Ｇ画素と青色成分に関する分光感度特性を有する（すなわち青色フィルタが配置された）Ｂ画素とが設けられている。画素３１１は、撮影用画素と焦点検出用画素とを兼ねており、画素３１１が撮像素子２１２の全面に配置されている。したがって、撮影画面上の任意の位置で焦点検出を行うことが可能である。
【００１８】
図５は、画素３１１の構成を示す断面図である。画素３１１において、一対の光電変換部１３、１４の前方にマイクロレンズ１０が配置される。一対の光電変換部１３、１４は半導体回路基板２９上に形成される。また、色フィルタ（不図示）はマイクロレンズ１０と一対の光電変換部１３、１４の中間に配置される。このような構成により一対の光電変換部１３，１４は、交換レンズ２０２の射出瞳の一対の測距瞳を通過する一対の光束をそれぞれ受光する。
【００１９】
図６は、マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す。図６において、射出瞳９０は、交換レンズ２０２（図１参照）の予定結像面に配置されたマイクロレンズ１０から前方の距離ｄの位置に設定されている。図６には他に、交換レンズの光軸９１、マイクロレンズ１０、光電変換部１３、１４、画素３１１、光束７３、７４が示されている。
【００２０】
測距瞳９３，９４は、射出瞳９０のうちの互いに異なる部分領域であり、水平方向に並ぶとともに、光軸９１を通る垂直線に対して線対称な形状となっている。光電変換部１３は、測距瞳９３を通過して画素３１１のマイクロレンズ１０に向かう光束７３によりマイクロレンズ１０上に形成される像の強度に対応した信号を生成して出力する。また、光電変換部１４は、測距瞳９４を通過して画素３１１のマイクロレンズ１０に向う光束７４によりマイクロレンズ１０上に形成される像の強度に対応した信号を生成して出力する。
【００２１】
図６では、光軸９１近傍の隣接する５つの画素３１１を模式的に例示しているが、画面周辺に配置された画素３１１においても、各光電変換部１３、１４は、それぞれ対応した測距瞳９３、９４から各マイクロレンズに到来する光束を受光するように構成されている。マイクロレンズ１０により、一対の光電変換部１３、１４と上述した互いに異なる部分領域、すなわち一対の測距瞳９３、９４とが互いに共役関係になる。
【００２２】
所定の焦点検出エリアにおいて水平方向に配列した複数の画素３１１の光電変換部１３の出力信号の列と光電変換部１４の出力信号の列とによって、測距瞳９３と測距瞳９４をそれぞれ通過する光束７３、７４が画素３１１の配列上に形成する一対の像の強度分布に関する情報が得られる。焦点検出部２３０は、光電変換部１３の出力信号の列と光電変換部１４の出力信号の列とのズレ量を公知の像ズレ検出演算処理（相関演算処理、位相差検出処理）によって検出することによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量を検出する。焦点検出部２３０は、この像ズレ量に基づいて、予定結像面に対する現在の結像面の偏差（デフォーカス量）を算出する。
【００２３】
図７は、被写体にピントが合っている状態、すなわち合焦状態における模式的な光路図である。図７では、光軸９１近傍の隣接する５つの画素３１１１〜３１１５を模式的に例示している。図７において被写体上の点Ｐから出射して、射出瞳９０上の点９５を通過した光７５は、画素３１１３の光電変換部１３に入射する。一方、被写体上の点Ｐから出射して、射出瞳９０上の点９６を通過した光７６は、画素３１１３の光電変換部１４に入射する。このように、合焦状態では、同じ点Ｐから出射され、射出瞳９０上で異なる箇所を通過した光７５、７６がそれぞれ同じ画素３１１３の光電変換部１３、１４に入射する。
【００２４】
図８は、被写体にピントが合っていない状態、すなわち非合焦状態における模式的な光路図である。図８は、被写体より前側にピントが合っている、いわゆる前ピンの状態を示している。また、図８では、光軸９１近傍の隣接する５つの画素３１１１〜３１１５を模式的に例示している。図８において被写体上の点Ｐから出射して、射出瞳９０上の点９５を通過した光７５は、画素３１１２の光電変換部１３に入射する。一方、被写体上の点Ｐから出射して、射出瞳９０上の点９６を通過した光７６は、画素３１１４の光電変換部１４に入射する。このように、非合焦状態では、同じ点Ｐから出射され、射出瞳９０上で異なる箇所を通過した光７５、７６がそれぞれ異なる画素３１１２、３１１４の光電変換部１３，１４に入射される。この点をふまえると、非合焦状態では、同じ画素３１１内の光電変換部１３、１４に、それぞれ被写体上の異なる点から出射された光が入射されることとなる。なお、被写体より後側にピントが合っている、いわゆる後ピンの状態でも同様である。
【００２５】
各画素３１１において光電変換部１３の出力信号と光電変換部１４の出力信号とを加算して画像信号を生成する場合、非合焦領域に対応する画素では、被写体上の異なる点から出射された出力信号が加算されることになるのでボケた画像となる。画像の解析処理を行う際にはできるだけボケの少ない画像の方が好ましい。そこで、本実施形態では、解析用の画像を生成する際、略合焦領域に対応する画素３１１では光電変換部１３、１４の出力信号を加算して画像信号を生成し、非合焦領域に対応する画素３１１では光電変換部１３、１４の出力信号のいずれか一方を用いて画像信号を生成する。なお、スルー画像または記録用の画像を生成する際には、ボケを生かした画像とするため、撮影画面全体に対応する画素３１１について、光電変換部１３、１４の出力信号を加算して画像信号を生成する。このような画像信号の生成処理について、以下、詳細に説明する。
【００２６】
（解析用の画像信号の生成）
解析用の画像信号の生成処理について説明する。まず、焦点検出部２３０は、撮影画面を多数の領域に分割し、これらの領域に対応するデフォーカス量を上述した処理によって検出することで、撮影画面上の種々の位置におけるデフォーカス量を検出し、合焦状態の分布を示すデフォーカス量のマップを作成する。そして、区分部２３１は、このデフォーカス量のマップに基づき、撮影画面を略合焦領域と非合焦領域とに区分するか、または略合焦領域および非合焦領域のうちの少なくとも一方を抽出する。なお、略合焦領域はデフォーカス量が所定閾値よりも小さい領域（小デフォーカス領域）であり、非合焦領域はデフォーカス量が所定閾値よりも大きい領域（大デフォーカス領域）である。
【００２７】
＜略合焦領域の画像信号の生成＞
第１の画像信号生成部２３２は、区分部２３１により区分または抽出された略合焦領域に対応する画素３１１については、光電変換部１３の出力信号ａと光電変換部１４の出力信号ｂとを加算して平均した、（ａ＋ｂ）／２を画像信号として生成する。図９は、このようにして生成された略合焦領域に対応する画素３１１の画像信号の並びを例示する図である。画素３１１の画像信号は、各画素位置に対応して、ベイヤー配列の規則にしたがってＲ、Ｇ、Ｂのいずれかの色成分を有し、配置された色フィルタの色成分と異なる色成分の画像信号が不足する。第１の画像信号生成部２３２は、光電変換部１３、１４の出力信号を加算して生成した画像信号について、周辺の画素位置の画像信号を用いて不足する色成分の画像信号を生成する色補間処理（デモザイク）を行う。この色補間処理の際には、画像構造、例えばエッジや線状構造等のテクスチャの方向判定を実施し、縦方向、横方向のどちらに構造を持っているかによって補間方法を変える。
【００２８】
図９において、補間対象とする画素位置（以下注目位置と呼ぶ）（Ｉ，Ｊ）を斜線で示す。第１の画像信号生成部２３２は、注目位置（Ｉ，Ｊ）において、不足する色成分であるＧ成分に関して画像構造の方向判定を行う。第１の画像信号生成部２３２は、注目位置（Ｉ，Ｊ）に上下左右に隣接する４つの画素位置、（Ｉ−１，Ｊ）、（Ｉ＋１，Ｊ）、（Ｉ，Ｊ−１）、（Ｉ，Ｊ＋１）の画像信号（Ｇ信号）を用いて次式（１）〜（４）により方向判定を行う。なお、図９では上記４つの位置を丸印で示す。
【００２９】
|G(I-1,J)-G(I+1,J)|>th_1且つ|G(I,J-1)-G(I,J+1)|<th_2  ・・・（１）
|G(I-1,J)-G(I+1,J)|<th_1且つ|G(I,J-1)-G(I,J+1)|>th_2  ・・・（２）
|G(I-1,J)-G(I+1,J)|>th_1且つ|G(I,J-1)-G(I,J+1)|>th_2  ・・・（３）
|G(I-1,J)-G(I+1,J)|<th_1且つ|G(I,J-1)-G(I,J+1)|<th_2  ・・・（４）
ただし、閾値th_1およびth_2は、所定値である。
【００３０】
第１の画像信号生成部２３２は、上記式（１）が成立する場合は、注目位置（Ｉ，Ｊ）に対して横（行）方向にエッジがあると判定する。第１の画像信号生成部２３２は、上記式（２）が成立する場合は、注目位置（Ｉ，Ｊ）に対して縦（列）方向にエッジがあると判定する。第１の画像信号生成部２３２は、上記式（３）が成立する場合は、注目位置（Ｉ，Ｊ）に対してエッジの角があると判定する。第１の画像信号生成部２３２は、上記式（４）が成立する場合は、注目位置（Ｉ，Ｊ）がエッジ上にないと判定する。
【００３１】
図１０は、Ｇ成分の補間処理を説明する図である。第１の画像信号生成部２３２は、上記方向判定において横（行）方向にエッジがあると判定した場合は、図１０（ａ）に示すように、注目位置（Ｉ，Ｊ）に縦方向に隣接する２つの画素位置（Ｉ，Ｊ−１）、（Ｉ，Ｊ＋１）の画像信号（Ｇ信号）に基づき、次式（５）を用いて、注目位置（Ｉ，Ｊ）のＧ信号を求める。
G(I,J)={G(I,J-1)+G(I,J+1)}/2  ・・・（５）
【００３２】
また、第１の画像信号生成部２３２は、上記方向判定において縦（列）方向にエッジがあると判定した場合は、図１０（ｂ）に示すように、太枠で示す注目位置（Ｉ，Ｊ）に横方向に隣接する２つの画素位置（Ｉ−１，Ｊ）、（Ｉ＋１，Ｊ）の画像信号（Ｇ成分の信号）に基づき、次式（６）を用いて、注目位置（Ｉ，Ｊ）のＧ成分の信号を求める。
G(I,J)={G(I-1,J)+G(I+1,J)}/2  ・・・（６）
【００３３】
また、第１の画像信号生成部２３２は、上記方向判定においてエッジの角があるまたはエッジがないと判定した場合は、図１０（ｃ）に示すように、注目位置（Ｉ，Ｊ）に縦横方向に隣接する４つの画素位置（Ｉ−１，Ｊ）、（Ｉ＋１，Ｊ）、（Ｉ，Ｊ−１）、（Ｉ，Ｊ＋１）の画像信号（Ｇ成分の信号）に基づき、次式（７）を用いて、注目位置（Ｉ，Ｊ）のＧ成分の信号を求める。
G(I,J)={G(I-1,J)+G(I+1,J)+G(I,J-1)+G(I,J+1)}/4  ・・・（７）
【００３４】
第１の画像信号生成部２３２は、Ｂ成分の位置およびＲ成分の位置においてそれぞれ上述したようにＧ成分の信号を補間する処理を行うことで、略合焦領域に対応する各画素３１１の位置においてＧ成分の信号を得ることができる。
【００３５】
図１１は、Ｒ成分の補間処理を説明する図である。図１１（ａ）は、図９からＲ成分の信号を抽出した図である。第１の画像信号生成部２３２は、図９におけるＢ色成分およびＧ色成分の位置を順番に注目位置として、注目位置の周囲に位置する４つのＲ成分の信号を用いて注目位置におけるＲ成分の信号を補間処理によって生成する。Ｒ成分の信号の補間処理において、まず、第１の画像信号生成部２３２は、Ｇ成分の信号とＲ色成分の信号とに基づいて、図１１（ｂ）に示すように色差成分Ｃｒの信号を算出する。
【００３６】
そして、第１の画像信号生成部２３２は、図１１（ｂ）の太枠で示す注目位置（Ｉ＋１，Ｊ＋１）において、斜め方向に隣接して位置する４つの画素位置（Ｉ，Ｊ）、（Ｉ＋２，Ｊ）、（Ｉ，Ｊ＋２）、（Ｉ＋２，Ｊ＋２）の色差成分Ｃｒの信号に基づき、次式（８）により、注目位置（Ｉ＋１，Ｊ＋１）における色差成分Ｃｒの信号を算出する。
Cr(I+1,J+1)={Cr(I,J)+Cr(I+2,J)+Cr(I,J＋2)+Cr(I+2,J+2)}/4  ・・・（８）
【００３７】
また、第１の画像信号生成部２３２は、図１１（ｃ）の太枠で示す注目位置（Ｉ＋１，Ｊ＋２）において、上下左右に隣接して位置する４つの画素位置（Ｉ＋１，Ｊ＋１）、（Ｉ，Ｊ＋２）、（Ｉ＋１，Ｊ＋３）、（Ｉ＋２，Ｊ＋２）の色差成分Ｃｒの信号に基づき、次式（９）により、注目位置（Ｉ＋１，Ｊ＋２）における色差成分Ｃｒの信号を算出する。
Cr(I+1,J+2)={Cr(I+1,J+1)+Cr(I,J+2)+Cr(I+1,J＋3)+Cr(I+2,J+2)}/4  ・・・（９）
【００３８】
第１の画像信号生成部２３２は、このようにして各画素３１１の位置において色差成分Ｃｒの信号を得たのち、各画素３１１の位置に対応させてＧ成分の信号を加算することにより、各画素３１１の位置においてＲ成分の信号を得ることができる。
【００３９】
また、第１の画像信号生成部２３２は、図９におけるＲ色成分およびＧ色成分の位置を順番に注目位置として、注目位置の周囲に位置する４つのＢ成分の信号を用いて注目位置におけるＢ成分の信号を補間処理によって生成する。Ｂ成分の信号の補間処理は、各画素３１１の位置において、色差Ｃｂの信号を得たのち、Ｇ成分の信号を加算することにより行う。これは、Ｒ成分の信号の補間処理と同様に行えばよいので、詳細な説明は省略する。
【００４０】
このようにして、第１の画像信号生成部２３２は、略合焦領域に対応する画素３１１について、ＲＧＢ成分の画像信号を得ることができる。
【００４１】
＜非合焦領域の画像信号の生成＞
第１の画像信号生成部２３２は、区分部２３１により区分または抽出された非合焦領域に対応する画素３１１については、光電変換部１３の出力信号および光電変換部１４の出力信号のいずれか一方の出力信号に基づき画像信号を生成する。なお、画像信号の生成に用いる光電変換部として、光電変換部１３、１４のどちらを選択してもよいが、連続する非合焦領域内において、選択する光電変換部は統一する。以下では、光電変換部１３の出力信号に基づき画像信号を生成する例を説明するが、光電変換部１４の出力信号に基づき画像信号を生成する場合も同様である。
【００４２】
図１２は、非合焦領域に対応する画素３１１において、光電変換部１３、１４の出力信号の並びを例示する図である。光電変換部１３、１４の出力信号は、各画素位置に対応して、ベイヤー配列の規則にしたがってＲ、Ｇ、Ｂのいずれかの色成分を有し、配置された色フィルタの色成分と異なる色成分の信号が不足する。ここでは、第１の画像信号生成部２３２は、非合焦領域に対応する画素３１１について、光電変換部１３の出力信号を画像信号とする。そのため第１の画像信号生成部２３２は、周辺の画素３１１の光電変換部１３の出力信号を用いて不足する色成分の信号を生成する色補間処理を行う。この色補間処理の際にも、画像構造の方向判定を実施し、縦方向、横方向のどちらに構造を持っているかによって補間方法を変える。
【００４３】
図１２において、補間対象とする画素位置における光電変換部１３に対応する位置（以下注目位置と呼ぶ）（ｉ，ｊ）を斜線で示す。第１の画像信号生成部２３２は、注目位置（ｉ，ｊ）において、不足する色成分であるＧ成分に関して画像構造の方向判定を行う。第１の画像信号生成部２３２は、補間対象とする画素位置に上下左右に隣接する画素における光電変換部１３に対応する４つの位置、（ｉ−２，ｊ）、（ｉ＋２，ｊ）、（ｉ，ｊ−１）、（ｉ，ｊ＋１）の光電変換信号（Ｇ信号）を用いて次式（１０）〜（１３）により方向判定を行う。なお、図１２では上記４つの位置を丸印で示す。
【００４４】
|G(i-2,j)-G(i+2,j)|>th_1且つ|G(i,j-1)-G(i,j+1)|<th_2  ・・・（１０）
|G(i-2,j)-G(i+2,j)|<th_1且つ|G(i,j-1)-G(i,j+1)|>th_2  ・・・（１１）
|G(i-2,j)-G(i+2,j)|>th_1且つ|G(i,j-1)-G(i,j+1)|>th_2  ・・・（１２）
|G(i-2,j)-G(i+2,j)|<th_1且つ|G(i,j-1)-G(i,j+1)|<th_2  ・・・（１３）
ただし、閾値th_1およびth_2は、所定値である。
【００４５】
第１の画像信号生成部２３２は、上記式（１０）が成立する場合は、注目位置（ｉ，ｊ）に対して横（行）方向にエッジがあると判定する。第１の画像信号生成部２３２は、上記式（１１）が成立する場合は、注目位置（ｉ，ｊ）に対して縦（列）方向にエッジがあると判定する。第１の画像信号生成部２３２は、上記式（１２）が成立する場合は、注目位置（ｉ，ｊ）に対してエッジの角があると判定する。第１の画像信号生成部２３２は、上記式（１３）が成立する場合は、注目位置（ｉ，ｊ）がエッジ上にないと判定する。
【００４６】
図１３は、Ｇ成分の補間処理を説明する図である。図１３（ａ）は、上記方向判定において横（行）方向にエッジがあると判定された場合を説明する図である。この場合、第１の画像信号生成部２３２は、図１３（ａ）において太枠で示す注目位置（ｉ，ｊ）に対応する画素に縦方向に隣接する画素の光電変換部１３に対応する２つの位置（ｉ，ｊ−１）、（ｉ，ｊ＋１）の出力信号（Ｇ成分の信号）を次式（１４）のように単純平均することにより、注目位置（ｉ，ｊ）のＧ成分の信号を求める。
G(i,j)={G(i,j-1)+G(i,j+1)}/2  ・・・（１４）
【００４７】
図１３（ｂ）は、上記方向判定において縦（列）方向にエッジがあると判定した場合を説明する図である。この場合、第１の画像信号生成部２３２は、図１３（ｂ）において太枠で示す注目位置（ｉ，ｊ）に対応する画素に横方向に隣接する画素の光電変換部１３に対応する２つの位置（ｉ−２，ｊ）、（ｉ＋２，ｊ）の出力信号（Ｇ成分の信号）を次式（１５）のように単純平均することにより、注目位置（ｉ，ｊ）のＧ成分の信号を求める。
G(i,j)={G(i-2,j)+G(i+2,j)}/2  ・・・（１５）
【００４８】
図１３（ｃ）は、上記方向判定においてエッジの角があるまたはエッジがないと判定した場合を説明する図である。この場合、第１の画像信号生成部２３２は、図１３（ｃ）において太枠で示す注目位置（ｉ，ｊ）に対応する画素に縦横方向に隣接する画素の光電変換部１３に対応する４つの位置（ｉ−２，ｊ）、（ｉ＋２，ｊ）、（ｉ，ｊ−１）、（ｉ，ｊ＋１）の出力信号（Ｇ成分の信号）を、次式（１６）に示すように加重平均することにより、注目位置（ｉ，ｊ）のＧ成分の信号を求める。
G(i,j)={G(i-2,j)+G(i+2,j)+2*G(i,j-1)+2*G(i,j+1)}/6  ・・・（１６）
【００４９】
式（１６）では、注目位置と上記４つの位置との間の距離に応じて重み付け係数を変えている。横方向に隣接する画素の光電変換部１３に対応する位置（ｉ−２，ｊ）、（ｉ＋２，ｊ）よりも、縦方向に隣接する画素の光電変換部１３に対応する位置（ｉ，ｊ−１）、（ｉ，ｊ＋１）の方が注目位置（ｉ，ｊ）との距離が近いので、Ｇ（ｉ−２，ｊ）、Ｇ（ｉ＋２，ｊ）よりもＧ（ｉ，ｊ−１）、（ｉ，ｊ＋１）に乗算する重み付け係数を大きくしている。
【００５０】
第１の画像信号生成部２３２は、Ｂ成分の位置およびＲ成分の位置においてそれぞれ上述したようにＧ成分の信号を補間する処理を行うことで、非合焦領域に対応する各画素３１１の位置においてＧ成分の信号を得ることができる。
【００５１】
図１４は、Ｒ成分の補間処理を説明する図である。図１４（ａ）は、図１２からＲ成分の信号を抽出した図である。第１の画像信号生成部２３２は、図１２におけるＢ色成分およびＧ色成分の位置を順番に注目位置として、注目位置の周囲に位置する４つのＲ成分の信号を用いて注目位置におけるＲ成分の信号を補間処理によって生成する。Ｒ成分の信号の補間処理において、まず、第１の画像信号生成部２３２は、Ｇ成分の信号とＲ色成分の信号とに基づいて、図１４（ｂ）に示すように色差成分Ｃｒの信号を算出する。
【００５２】
そして、第１の画像信号生成部２３２は、図１４（ｂ）の太枠で示す注目位置（ｉ＋２，ｊ＋１）に対応する画素に斜め方向に隣接する画素の光電変換部１３に対応する４つの位置（ｉ，ｊ）、（ｉ，ｊ＋２）、（ｉ＋４，ｊ）、（ｉ＋４，ｊ＋２）の色差成分Ｃｒの信号に基づき、次式（１７）により、注目位置（ｉ＋２，ｊ＋１）における色差成分Ｃｒの信号を算出する。
Cr(i+2,j+1)={Cr(i,j)+Cr(i,j+2)+Cr(i+4,j)+Cr(i+4,j+2)}/4  ・・・（１７）
【００５３】
また、第１の画像信号生成部２３２は、図１４（ｃ）の太枠で示す注目位置（ｉ＋２，ｊ＋２）に対応する画素に縦横方向に隣接する画素の光電変換部１３に対応する４つの位置（ｉ＋２，ｊ＋１）、（ｉ，ｊ＋２）、（ｉ＋２，ｊ＋３）、（ｉ＋４，ｊ＋２）の色差成分Ｃｒの信号に基づき、次式（１８）により、注目位置（ｉ＋２，ｊ＋２）における色差成分Ｃｒの信号を算出する。
Cr(i+2,j+2)={Cr(i+2,j+1)+Cr(i,j+2)+Cr(i+2,j＋3)+Cr(i+4,J+2)}/4  ・・・（１８）
【００５４】
第１の画像信号生成部２３２は、このようにして各画素３１１の位置において色差成分Ｃｒの信号を得たのち、各画素３１１の位置に対応させてＧ成分の信号を加算することにより、各画素３１１の位置においてＲ成分の信号を得ることができる。
【００５５】
また、第１の画像信号生成部２３２は、図１２におけるＲ色成分およびＧ色成分の位置を順番に注目位置として、注目位置の周囲に位置する４つのＢ成分の信号を用いて注目位置におけるＢ成分の信号を補間処理によって生成する。Ｂ成分の信号の補間処理は、各画素３１１の位置において、色差Ｃｂの信号を得たのち、Ｇ成分の信号を加算することにより行う。これは、Ｒ成分の信号の補間処理と同様に行えばよいので、詳細な説明は省略する。
【００５６】
このようにして、第１の画像信号生成部２３２は、非合焦領域に対応する画素３１１についても、ＲＧＢ成分の画像信号を得ることができる。
【００５７】
以上のように、第１の画像信号生成部２３２は、略合焦領域に対応する画素３１１については、光電変換部１３、１４の出力信号を加算した加算信号に基づき画像信号を生成し、非合焦領域に対応する画素３１１については、光電変換部１３、１４のいずれか一方の出力信号に基づき画像信号を生成する。
【００５８】
＜ケラレの判定＞
上述では、非合焦領域に対応する画素３１１において、光電変換部１３の出力信号を用いて画像信号を生成する場合について説明したが、ケラレの状況に基づいて光電変換部１３、１４のいずれか一方を選択して画像信号を生成するようにしてもよい。
【００５９】
図１５は、交換レンズ２０２の射出瞳の位置とケラレとの関係を説明する図である。撮像素子２１２上の画素エリア１０１、１０２には一対の測距瞳９３、９４を通過する光束により一対の像が形成され、当該一対の像に対応する信号を各画素エリア１０１、１０２に配置された画素３１１が出力することになる。一対の測距瞳９３、９４は、交換レンズ２０２の射出瞳９０の測距瞳面に位置し、その測距瞳面は、交換レンズ２０２の予定結像面に配置されたマイクロレンズ１０の前方の距離ｄの位置に設定されている。距離ｄは、標準として設定した交換レンズ２０２における射出瞳９０からマイクロレンズ１０までの距離であり、以下、標準距離と呼ぶ。なお、カメラボディ２０３には種々の交換レンズ２０２が装着可能であり、装着する交換レンズ２０２によっては射出瞳９０がマイクロレンズ１０から標準距離ｄ以外の位置にある場合も想定される。
【００６０】
測距瞳９３を通る光束２７２と測距瞳９４を通る光束２７３が、画素エリア１０１に一対の像を形成する。測距瞳９３を通る光束２８２と測距瞳９４を通る光束２８３が、画素エリア１０２に一対の像を形成する。交換レンズ２０２の射出瞳の位置が標準距離ｄの位置にある場合は、画素エリア１０１の光電変換部１３、１４が受光する光束２７２、２７３および画素エリア１０２の光電変換部１３、１４が受光する光束２８２、２８３は制限されない（すなわちケラレが生じない）。
【００６１】
光軸９１上にある画素エリア１０１に属する画素３１１については交換レンズ２０２の射出瞳の位置が標準距離ｄ以外の位置にあっても、光電変換部１３、１４が受光する光束２７２、２７３は光軸９１に対して対称に制限されるので、画像信号を生成する際、光電変換部１３、１４のどちらを選択してもよい。
【００６２】
一方、光軸９１から離れた（撮影画面の周辺に位置する）画素エリア１０２に属する画素３１１については、交換レンズ２０２の射出瞳の位置によって光電変換部１３、１４が受光する光束２８２、２８３の制限のされ方が異なるので、より光束が制限されていない（ケラレが少ない、すなわち一様輝度における出力が大きい）方の光電変換部を選択して、画像信号を生成する。
【００６３】
例えば交換レンズ２０２の射出瞳が標準距離ｄより短い距離ｄ１の瞳面１０５にあった場合、光束２８３より光束２８２の方がケラレが少ないので、光束２８２を受光する光電変換部１３を選択して画像信号を生成する。
【００６４】
また交換レンズ２０２の射出瞳が標準距離ｄより長い距離ｄ２の瞳面１１０にあった場合、光束２８２より光束２８３の方がケラレが少ないので、光束２８３を受光する光電変換部１４を選択して画像信号を生成する。
【００６５】
なお、画素エリア１０２と光軸９１に対して反対側にある画素エリアに関しては、画素エリア１０２と一対の光束のケラレ方が逆になる。すなわち交換レンズ２０２の射出瞳が標準距離ｄより短い距離ｄ１の瞳面１０５にあった場合は光電変換部１４を選択し、交換レンズ２０２の射出瞳が標準距離ｄより長い距離ｄ２の瞳面１１０にあった場合、光電変換部１３を選択する。
【００６６】
このようにケラレ判定部２３７は、交換レンズ２０２の射出瞳の位置情報に基づき、非合焦領域に対応する画素３１１の位置において、ケラレの状況、すなわちケラレが一対の光束のどちらに多く生じるかを判定し、光電変換部１３、１４のうち、ケラレの少ない方の光束を受光する光電変換部を選択する。第１の画像信号生成部２３２は、非合焦領域に対応する画素３１１の位置において、ケラレ判定部２３７によって選択された光電変換部の出力信号に基づき画像信号を生成する。なお、光電変換部１３、１４が受光する一対の光束において、ケラレが同程度である場合、もしくは両方ともケラレが生じない場合には、光電変換部１３、１４のどちらを選択するようにしてもよい。
【００６７】
また、交換レンズ２０２の射出瞳の位置情報は、交換レンズ２０２のレンズ駆動制御装置２０６から電気接点２１３を介して通信により取得すればよい。また、ケラレ判定部２３７は、交換レンズ２０２の射出瞳の位置情報に加え、交換レンズ２０２の絞り値（Ｆ値）の情報を用いて、上記ケラレの状況を判定してもよい。
【００６８】
＜画像の解析＞
画像解析部２３４は、第１の画像信号生成部２３２により生成された画像信号に基づき、被写体画像の解析処理を行う。上述したように当該画像信号は、非合焦領域について光電変換部１３、１４のいずれか一方の出力信号を用いていることにより、非合焦領域についてもボケの少ない画像となるので、被写体画像の解析処理を精度よく行うことができる。
【００６９】
画像解析部２３４は、被写体画像の解析処理として、たとえば、被写体画像からエッジを検出するエッジ検出処理、および被写体画像内の顔を認識する顔認識処理の少なくとも一方を行う。顔認識処理としては、たとえば、被写体画像内の顔を検出し、その顔が所定人物の顔であるか否かを識別する顔認証処理などを行う。顔認証処理では、被写体画像に含まれる顔の特徴量と、あらかじめカメラボディ２０３内の不図示の記憶部に登録されている登録ユーザーの顔の特徴量とを比較し、被写体画像に含まれる顔が登録ユーザーの顔であるか否かを識別する。エッジ検出処理および顔認識処理は、公知の技術であるため、詳細な説明は省略する。
【００７０】
（スルー画像および記録用の画像信号の生成）
第２の画像信号生成部２３３は、撮影画面全体に対応する画素３１１について、光電変換部１３の出力信号ａと光電変換部１４の出力信号ｂとを加算して平均した、（ａ＋ｂ）／２を、スルー画像または記録用の画像信号として生成する。この画像信号の生成処理は、上述した第１の画像信号生成部２３２において、略合焦領域に対応する画素の画像信号の生成処理と同様に行うため、詳細な説明を省略する。
【００７１】
表示制御部２３５は、第２の画像信号生成部２３３により生成された画像信号に基づき、液晶表示素子２１６にスルー画像を表示させる。また、不図示のシャッターボタンが全押し操作された場合は、記録制御部２３６は、第２の画像信号生成部２３３により生成された画像信号に基づき、メモリカード２１９に画像を記録する。
【００７２】
このようにスルー画像または記録用の画像を生成する際には、ボケを生かした画像とするため、解析用の画像と異なり、非合焦領域においても光電変換部１３、１４の出力信号を加算して画像信号を生成する。
【００７３】
上述した実施の形態によれば、次の作用効果が得られる。
（１）デジタルカメラ２０１において、撮像素子２１２には、マイクロレンズ１０と交換レンズ２０２の瞳の一対の領域を通過した一対の光束をマイクロレンズ１０を介してそれぞれ受光して一対の出力信号をそれぞれ生成する一対の光電変換部１３、１４を有する画素３１１が二次元状に配置される。焦点検出部２３０は、横方向に配置された複数の画素３１１から出力される一対の出力信号の列のズレ量を検出して、撮影画面上の種々の位置におけるデフォーカス量を検出する。区分部２３１は、デフォーカス量に基づき、前記撮影画面を略合焦領域と非合焦領域とに区分する。第１の画像信号生成部２３２は、略合焦領域の画素３１１については、光電変換部１３の出力信号と光電変換部１４の出力信号とを加算した加算信号によって画像信号を生成し、非合焦領域の画素３１１については、光電変換部１３の出力信号と光電変換部１４の出力信号とのいずれか一方の出力信号によって画像信号を生成する。このような構成により、非合焦領域においてもボケの少ない画像、すなわち撮影画面全体が鮮明な画像を取得することができる。
【００７４】
（２）デジタルカメラ２０１において、第２の画像信号生成部２３３は、撮影画面全体の画素３１１について、光電変換部１３の出力信号と光電変換部１４の出力信号とを加算した加算信号によって画像信号を生成する。このような構成により、非合焦領域のボケを生かした画像を取得することができる。
【００７５】
（３）デジタルカメラ２０１において、画像解析部２３４は、第１の画像信号生成部２３２により生成された画像信号に基づき、被写体画像の解析処理を行い、表示制御部２３５は、第２の画像信号生成部２３３により生成された画像信号に基づき、スルー画像を液晶表示素子２１６に表示させる。このような構成により、非合焦領域においてボケの少ない画像を用いて被写体画像の解析処理を行うので当該解析処理を精度よく行うことができ、スルー画像としては非合焦領域のボケを生かした画像を表示することができる。
【００７６】
（４）デジタルカメラ２０１において、ケラレ判定部２３７は、交換レンズ２０２の瞳位置の情報に基づきケラレが一対の光束のどちらに多く生じるかを判定し、光電変換部１３、１４のうち、ケラレの少ない方の光束を受光する光電変換部を選択する。第１の画像信号生成部２３２は、非合焦領域の画素３１１について、ケラレ判定部２３７によって選択された光電変換部の出力信号によって画像信号を生成する。このような構成により、ケラレが少ない、すなわち一様輝度における出力が大きい方の光電変換部を用いて画像信号を生成することができる。
【００７７】
（５）デジタルカメラ２０１において、第１の画像信号生成部２３２は、非合焦領域の画素３１１について、光電変換部１３の出力信号によって画像信号を生成する場合には、周辺の画素３１１における光電変換部１３の出力信号に基づき色補間処理を行い、光電変換部１４の出力信号によって画像信号を生成する場合には、周辺の画素３１１における光電変換部１４の出力信号に基づき色補間処理を行う。このような構成により、色補間処理を精度よく行うことができる。
【００７８】
（６）デジタルカメラ２０１は、撮像素子２１２と、第１の画像信号生成部２３２とを有する。撮像素子２１２には、交換レンズ２０２の射出瞳９０の一対の測距瞳９３および９４を通過した一対の光束である第１および第２の光束７３、７４をそれぞれ受光して第１の出力信号を生成する第１の光電変換部１３と第２の出力信号を生成する第２の光電変換部１４とを有する画素が複数配置される。第１の画像信号生成部２３２は、第１の出力信号により、画像信号生成に用いられる画素３１１の信号を生成する。このような構成により、ボケの少ない鮮明な画像を取得することができる。
【００７９】
（７）デジタルカメラ２０１は、撮像素子２１２と、第１の画像信号生成部２３２とを有する。撮像素子２１２は、第１の画素３１１とその周辺の第２の画素３１１とをそれぞれ複数有する。第１の画素３１１は、交換レンズ２０２の射出瞳９０の一対の測距瞳９３および９４を通過した一対の光束である第１および第２の光束をそれぞれ受光して第１の色成分の第１の信号及び第２の信号をそれぞれ生成する第１の光電変換部１３及び第２の光電変換部１４を有する。第２の画素３１１は、交換レンズ２０２の射出瞳９０の一対の測距瞳９３および９４を通過した一対の光束である第１および第２の光束をそれぞれ受光して第２の色成分の第３の信号及び第４の信号をそれぞれ生成する第３の光電変換部１３及び第４の光電変換部１４を有する。第１の画像信号生成部２３２は、略合焦領域では、第３の信号と第４の信号とを加算して生成した画像信号により、第１の画素３１１の位置における第２の色成分の信号を補間する。第１の画像信号生成部２３２は、非合焦領域では、第３の信号により、第１の画素３１１の位置における第２の色成分の信号を補間する。このような構成により、色補間処理を使い分けることができる。また、ボケを生かした画像とボケの少ない画像とを適宜作成することができる。
【００８０】
次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施形態と組み合わせることも可能である。
（変形例１）
ボディ駆動制御装置２１４は、第１の画像信号生成部２３２を、スルー画像または記録用画像生成のための画像信号の生成部としても用いることができる。この場合、スルー画像または記録用の画像は、非合焦領域においてもボケの少ない画像となる。
【００８１】
その場合、ボディ駆動制御装置２１４は、第１の画像信号生成部２３２により画像を生成するモードと第２の画像信号生成部２３３により画像を生成するモードとをたとえばユーザー操作に応じて切り替えることによって、好適なスルー画像または記録用の画像を生成してもよい。これにより、非合焦領域においてもボケの少ない画像を撮影するか、ボケを生かした画像を撮影するかをユーザーの所望に応じて選択することができる。
【００８２】
また、ボディ駆動制御装置２１４は、第１の画像信号生成部２３２により生成された画像信号により生成された画像信号を用いたスルー画像または記録用の画像を生成するとともに、第２の画像信号生成部２３３により生成された画像信号を用いたスルー画像または記録用の画像を生成することにより、２種類の画像を生成してもよい。これにより、１回の撮影において、２種類の画像、すなわち非合焦領域においてもボケの少ない画像とボケを生かした画像との両方を取得することができる。ユーザーは、これら２種類の画像を、所望に応じて適宜利用することができる。
【００８３】
（変形例２）
第１の画像信号生成部２３２は、略合焦領域に対応する画素３１１及び非合焦領域に対応する画素３１１の両方について、光電変換部１３の出力信号および光電変換部１４の出力信号のいずれか一方の出力信号に基づき画像信号を生成することとしてもよい。光電変換部１３、１４の出力信号は、各画素位置に対応して、ベイヤー配列の規則にしたがってＲ、Ｇ、Ｂのいずれかの色成分を有し、配置された色フィルタの色成分と異なる色成分の信号が不足する。そのため、第１の画像信号生成部２３２は、光電変換部１３の出力信号を画像信号とするときは、周辺の画素３１１の光電変換部１３の出力信号を用いて不足する色成分の信号を生成し、光電変換部１４の出力信号を画像信号とするときは、周辺の画素３１１の光電変換部１４の出力信号を用いて不足する色成分の信号を生成する色補間処理を行う。
【００８４】
こうした第１の画像信号生成部２３２による画像信号生成処理と色補間処理とに基づき、解析用の画像信号が生成される。さらに、こうした第１の画像信号生成部２３２による画像信号生成処理と色補間処理とに基づき、スルー画像および記録用の画像信号が生成されることとしてもよい。この場合、スルー画像または記録用の画像は、非合焦領域においてもボケの少ない画像となる。
【００８５】
（変形例３）
撮影画面を略合焦領域と非合焦領域とに区分する区分部２３１を設けないこととしてもよい。この場合において、第１の画像信号生成部２３２は、撮影画面内の領域に対応する画素３１１の光電変換部１３、１４の出力信号を加算して画像信号を生成する。その際、第１の画像信号生成部２３２は、周辺の画素３１１の光電変換部１３、１４の出力信号を加算して不足する色成分の信号を生成する第１の補間処理を行う。こうして第１の画像信号生成部２３２により生成された画像信号は、解析用の画像信号として用いてもよいし、スルー画像および記録用の画像信号として用いてもよい。
【００８６】
第２の画像信号生成部２３３は、撮影画面内の領域に対応する画素３１１の光電変換部１３の出力信号および光電変換部１４の出力信号のいずれか一方の出力信号に基づき画像信号を生成する。その際、第２の画像信号生成部２３３は、光電変換部１３の出力信号を画像信号とするときは、周辺の画素３１１の光電変換部１３の出力信号を用いて不足する色成分の信号を生成し、光電変換部１４の出力信号を画像信号とするときは、周辺の画素３１１の光電変換部１４の出力信号を用いて不足する色成分の信号を生成する第２の補間処理を行う。こうして第２の画像信号生成部２３３により生成された画像信号は、解析用の画像信号として用いてもよいし、スルー画像および記録用の画像信号として用いてもよい。
【００８７】
（変形例４）
色補間処理の方法は、上述した例に限らない。たとえば、図１３（ｃ）に示したＧ成分の補間処理において、注目位置に対応する画素に縦横方向に隣接する画素の光電変換部１３に対応する４つの位置の出力信号（Ｇ成分の信号）を単純平均することで、注目位置におけるＧ成分の信号を求めるようにしてもよい。
【００８８】
また、たとえば、Ｇ成分の補間処理において、横方向または縦方向にエッジがあると判定された場合も、注目位置に対応する画素に縦横方向に隣接する４つの画素の出力信号を加重平均することにより、注目位置のＧ成分の信号を求めるようにしてもよい。この場合、横方向にエッジがあると判定された場合は、縦方向に隣接する２つの画素の出力信号に乗算する重みづけ係数を大きくし、横方向に隣接する２つの画素の出力信号に乗算する重みづけ係数を小さくする。一方、縦方向にエッジがあると判定された場合は、横方向に隣接する２つの画素の出力信号に乗算する重みづけ係数を大きくし、縦方向に隣接する２つの画素の出力信号に乗算する重みづけ係数を小さくする。
【００８９】
（変形例５）
上述した実施の形態では、画素３１１の例として、１画素当たり２つの光電変換部を有する２ＰＤ構成を例に説明したが、複数の光電変換部の数は２つに限らず、４ＰＤでも１６ＰＤでも構わない。
【００９０】
（変形例６）
上述した実施の形態では、撮像素子２１２の例として、撮像面の全域に焦点検出用の画素（一対の光電変換部を有する画素）が設けられる例について説明した。しかしながら、撮像素子２１２において、焦点検出エリアに対応する位置にのみ焦点検出用の画素が配置され、その他の位置には通常の画素（１つの光電変換部を有する画素）が配置されていてもよい。
【００９１】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【符号の説明】
【００９２】
１０…マイクロレンズ、１３、１４…光電変換部、２０１…デジタルカメラ、２０２…交換レンズ、２０３…カメラボディ、２１２…撮像素子、２１４…ボディ駆動制御装置、２１６…液晶表示素子、２１９…メモリカード、２３０…焦点検出部、２３１…区分部、２３２…第１の画像信号生成部、２３３…第２の画像信号生成部、２３４…画像解析部、２３５…表示制御部、２３６…記録制御部、２３７…ケラレ判定部、３１１…画素
【図１】
2017108404.tif 000003
【図２】
2017108404.tif 000004
【図３】
2017108404.tif 000005
【図４】
2017108404.tif 000006
【図５】
2017108404.tif 000007
【図６】
2017108404.tif 000008
【図７】
2017108404.tif 000009
【図８】
2017108404.tif 000010
【図９】
2017108404.tif 000011
【図１０】
2017108404.tif 000012
【図１１】
2017108404.tif 000013
【図１２】
2017108404.tif 000014
【図１３】
2017108404.tif 000015
【図１４】
2017108404.tif 000016
【図１５】
2017108404.tif 000017