(57)【要約】【課題】  撮像装置において、消費電力を増やすことなく画質劣化を抑えながら、高速読み出しを可能にすること。【解決手段】  それぞれ複数の光電変換部を備える、複数の単位画素からなる撮像素子（１１０１）と、予め決められた複数の単位画素ずつ、複数の光電変換部のうちの一部の光電変換部の信号を加算して読み出す第１の駆動方法と、複数の光電変換部の信号を加算して読み出す第２の駆動方法とで撮像素子を駆動して画素信号を読み出すことが可能な読み出し手段と、デフォーカス量を求める検出手段（１１０４）と、デフォーカス量が予め決められた閾値より大きい場合に、第２の駆動方法で読み出した信号を選択し、デフォーカス量が閾値以内の場合に、第２の駆動方法で読み出した画素信号と、第１の駆動方法で読み出した画素信号を用いて得られた信号のいずれかを、読み出した画素信号ごとに選択する選択手段（１１０４）とを有する。【選択図】  図２
2016058877.tif 000002
【特許請求の範囲】
【請求項１】
複数のマイクロレンズそれぞれに対して複数の光電変換部を備える、複数の単位画素からなる撮像素子と、
予め決められた複数の単位画素ずつ、前記複数の光電変換部のうちの一部の光電変換部の信号を加算して読み出す第１の駆動方法と、前記予め決められた複数の単位画素ずつ、前記複数の光電変換部の信号を加算して読み出す第２の駆動方法とで前記撮像素子を駆動して画素信号を読み出すことが可能な読み出し手段と、
デフォーカス量を求める検出手段と、
前記デフォーカス量が予め決められた閾値より大きい場合に、前記第２の駆動方法で読み出した信号を選択し、前記デフォーカス量が前記閾値以内の場合に、前記第２の駆動方法で読み出した画素信号と、前記第１の駆動方法で読み出した画素信号を用いて得られた信号とのいずれか大きい方を、読み出した画素信号ごとに選択する選択手段と
を有することを特徴とする撮像装置。
【請求項２】
前記選択手段は、前記デフォーカス量が前記閾値以内の場合に、前記第２の駆動方法で読み出した画素信号と、前記第１の駆動方法で読み出した画素信号を複数倍した信号のうち、いずれか大きい方を選択することを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記複数の単位画素は、原色のカラーフィルタで覆われ、
前記選択手段は、Ｒ及びＢの画素信号の場合は、前記デフォーカス量に関わらず前記第２の駆動方法で読み出した画素信号を選択し、Ｇの画素信号の場合に、前記デフォーカス量に基づく選択を行うことを特徴とする請求項１または２に記載の撮像装置。
【請求項４】
前記選択手段は、前記デフォーカス量が前記閾値以内の場合に、前記第２の駆動方法で読み出した画素信号と、前記第１の駆動方法で読み出した画素信号及び前記第２の駆動方法で読み出した画素信号を加重平均した信号とのうち、いずれか大きい方を選択することを特徴とする請求項１に記載の撮像装置。
【請求項５】
前記選択手段は、複数フレーム分の前記デフォーカス量に基づいて前記加重平均の重みを変え、前記デフォーカス量が前記閾値以内のフレームが連続していくに従って、前記第１の駆動方法で読み出した画素信号に対する重みをより大きくすることを特徴とする請求項４に記載の撮像装置。
【請求項６】
前記検出手段は、前記第１の駆動方法で読み出した画素信号と、前記第２の駆動方法で読み出した画素信号とに基づいて、デフォーカス量を算出することを特徴とする請求項１乃至５のいずれか１項に記載の撮像装置。
【請求項７】
前記検出手段は、前記撮像素子と異なる光電変換部を有し、当該異なる光電変換部から得られた信号に基づいて、前記デフォーカス量を求めることを特徴とする請求項１乃至５のいずれか１項に記載の撮像装置。
【請求項８】
前記撮像装置は、静止画撮影と動画撮影が可能であって、
前記読み出し手段は、前記動画撮影において、前記第１の駆動方法及び前記第２の駆動方法で駆動し、前記静止画撮影において、前記複数の単位画素それぞれから、前記複数の光電変換部のうちの一部の光電変換部の信号を読み出す第３の駆動方法と、前記複数の単位画素それぞれから、前記複数の光電変換部の信号を加算して読み出す第４の駆動方法とで駆動することを特徴とする請求項１乃至７のいずれか１項に記載の撮像装置。
【請求項９】
前記選択手段は、前記動画撮影において、１フレーム前のタイミングで得られたデフォーカス量に基づいて、選択を行うことを特徴とする請求項８に記載の撮像装置。
【請求項１０】
複数のマイクロレンズそれぞれに対して複数の光電変換部を備える、複数の単位画素からなる撮像素子を有する撮像装置の制御方法であって、
読み出し手段が、予め決められた複数の単位画素ずつ、前記複数の光電変換部のうちの一部の光電変換部の信号を加算して読み出す第１の駆動方法により、前記撮像素子を駆動して画素信号を読み出す第１の読み出し工程と、
前記読み出し手段が、前記予め決められた複数の単位画素ずつ、前記複数の光電変換部の信号を加算して読み出す第２の駆動方法により、前記撮像素子を駆動して画素信号を読み出す第２の読み出し工程と、
検出手段が、デフォーカス量を求める検出工程と、
選択手段が、前記デフォーカス量が予め決められた閾値より大きい場合に、前記第２の駆動方法で読み出した信号を選択し、前記デフォーカス量が前記閾値以内の場合に、前記第２の駆動方法で読み出した画素信号と、前記第１の駆動方法で読み出した画素信号を用いて得られた信号とのいずれか大きい方を、読み出した画素信号ごとに選択する選択工程と
を有することを特徴とする撮像装置の制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置及びその制御方法に関する。
【背景技術】
【０００２】
近年、デジタルビデオカメラやデジタルスチルカメラ等の撮像装置では、撮像素子の感度向上や画像処理の高度化、メモリ容量の増加に伴い、高画素数、高速読み出しによる高フレームレートでの撮影が可能となってきている。高フレームレートでの撮影はＡＦの高速化や動画の品質改善など様々な恩恵があり、さらなる高フレームレート化が求められている。
【０００３】
一方、高画素数の撮像装置を用いて比較的低画素数の動画を高フレームレートで撮影するための低画素化手法として、画素加算平均手法が知られている。画素加算平均手法では、特定周期の複数画素の加算平均を撮像素子内で行うことでデータレートを下げ、高フレームレート化している。特許文献１には、行選択回路によって複数画素行を同時に選択し、出力させることで、複数行の画素信号の加算平均出力を行うことが開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１０−２５９０２７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、複数画素行を同時に選択して接続した場合、ダイナミックレンジが確保できなくなることがある。特に同時接続する画素間の信号差が大きい場合に顕著となる。このため、特許文献１では同時接続する行数に応じて信号出力を行う画素を駆動する電流値を増加させ、増幅回路の駆動能力を上げることでダイナミックレンジを確保している。しかし、画素を駆動するための電流値を上げることにより読み出し時の消費電力が増加してしまうという問題がある。
【０００６】
本発明は上記問題点を鑑みてなされたものであり、撮像装置において、消費電力を増やすことなく画質劣化を抑えながら、高速読み出しを可能にすることを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するために、本発明の撮像装置は、複数のマイクロレンズそれぞれに対して複数の光電変換部を備える、複数の単位画素からなる撮像素子と、予め決められた複数の単位画素ずつ、前記複数の光電変換部のうちの一部の光電変換部の信号を加算して読み出す第１の駆動方法と、前記予め決められた複数の単位画素ずつ、前記複数の光電変換部の信号を加算して読み出す第２の駆動方法とで前記撮像素子を駆動して画素信号を読み出すことが可能な読み出し手段と、デフォーカス量を求める検出手段と、前記デフォーカス量が予め決められた閾値より大きい場合に、前記第２の駆動方法で読み出した信号を選択し、前記デフォーカス量が前記閾値以内の場合に、前記第２の駆動方法で読み出した画素信号と、前記第１の駆動方法で読み出した画素信号を用いて得られた信号とのいずれか大きい方を、読み出した画素信号ごとに選択する選択手段とを有する。
【発明の効果】
【０００８】
本発明によれば、撮像装置において、消費電力を増やすことなく画質劣化を抑えながら、高速読み出しを可能にすることができる。
【図面の簡単な説明】
【０００９】
【図１】本発明の実施形態における撮像装置の撮影レンズの射出瞳から出た光束が単位画素に入射する概念を示す図。
【図２】実施形態における撮像装置の機能構成を示すブロック図。
【図３】実施形態における撮像素子の構成を示す図。
【図４】実施形態における撮像装置の単位画素の回路図。
【図５】第１の実施形態における処理を示すフローチャート。
【図６】実施形態に係る、画素とデフォーカス領域の関係を表す概念図。
【図７】第２の実施形態における処理を示すフローチャート。
【図８】第３の実施形態における画像信号を算出するための条件を表す図。
【発明を実施するための形態】
【００１０】
以下、添付図面を参照して本発明を実施するための形態を詳細に説明する。なお、以下の説明に用いる図面において、同一の要素部品は同じ参照番号により示している。
【００１１】
＜第１の実施形態＞
はじめに、通常の被写体撮像用の撮像素子で位相差検出方式の焦点検出を実現する原理について説明する。図１は、撮影レンズの射出瞳から出た光束が撮像素子が有する単位画素の１つに入射する様子を模式的に示した図である。単位画素１００は、第１のフォトダイオード（ＰＤ）１０１Ａ及び第２のフォトダイオード（ＰＤ）１０１Ｂを有し、カラーフィルタ３０２及びマイクロレンズ３０３により覆われている。
【００１２】
マイクロレンズ３０３を有する画素に対して、撮影レンズの射出瞳３０４の中心を光軸３０５とする。射出瞳３０４を通過した光は、光軸３０５を中心として単位画素１００に入射する。また、図１に示すように、撮影レンズの射出瞳３０４の一部領域である瞳領域３０６を通過する光束はマイクロレンズ３０３を通して、第１のＰＤ１０１Ａで受光される。同様に、射出瞳３０４の一部領域である瞳領域３０７を通過する光束はマイクロレンズ３０３を通して、第２のＰＤ１０１Ｂで受光される。従って、第１のＰＤ１０１Ａと第２のＰＤ１０１Ｂはそれぞれ、射出瞳３０４の別々の領域を通過した光を受光している。従って、第１のＰＤ１０１Ａと第２のＰＤ１０１Ｂの信号を比較することで位相差の検知が可能となる。
【００１３】
以下、第１のＰＤ１０１Ａから得られる信号をＡ像信号、第２のＰＤ１０１Ｂから得られる信号をＢ像信号と呼ぶ。また、第１のＰＤ１０１Ａの信号と第２のＰＤ１０１Ｂの信号とを加算して読み出した信号は（Ａ＋Ｂ）像信号として、撮影画像に用いることができる。
【００１４】
次に、本第１の実施形態における撮像装置の構成を図２のブロック図に示す。撮影レンズ１１１１はレンズ駆動回路１１１０によってズーム制御、フォーカス制御、絞り制御などが行われ、被写体の光学像を撮像素子１１０１に結像させる。撮像素子１１０１には図１で示した構成を有する複数の単位画素１００が行列状に配置され、撮像素子１１０１に結像された被写体の像は、電気的な画像信号に変換されて撮像素子１１０１から出力される。信号処理回路１１０３は、撮像素子１１０１から出力される画像信号に各種の補正を行ったり、データを圧縮したりする。また、信号処理回路１１０３では、撮像素子１１０１から取得したＡ像信号と（Ａ＋Ｂ）像信号の差分信号としてＢ像信号の生成も行う。
【００１５】
タイミング発生回路１１０２は、撮像素子１１０１を駆動するタイミング信号を出力する。全体制御・演算回路１１０４は、各種演算を行うとともに、撮像素子１１０１の動作を含む撮像装置全体の動作を制御する。全体制御・演算回路１１０４は、更に、Ａ像信号及びＢ像信号を用いた位相差検出方式の焦点検出動作やデフォーカス量の算出も行う。信号処理回路１１０３が出力する画像データは、メモリ１１０５に一時的に記憶される。不揮発性メモリ１１０６はプログラムや種々の閾値、撮像装置ごとに異なる調整値などが記憶されている。表示回路１１０７は、各種情報や撮影した画像を表示する。記録回路１１０８は、画像データの記録または読み出しを行うための半導体メモリ等の着脱可能な記録媒体に対して読み書きを行う回路である。操作回路１１０９は、スイッチ、ボタン、タッチパネルなどを代表とする入力デバイス群を含み、撮像装置に対するユーザ指示を受け付ける。
【００１６】
次に、撮像素子１１０１の構成例を図３及び図４を用いて説明する。図３は、撮像素子１１０１の全体構成例を示す図である。撮像素子１１０１は、画素領域１、垂直走査回路２、読み出し回路３、水平走査回路４、出力アンプ５を含む。画素領域１には、複数の単位画素１００が行列状に配置されている。ここでは、説明を簡単にするために４×４の１６画素の配列を示してあるが、実際には数１００万以上の単位画素が行列状に配置される。図１で説明したように、各単位画素１００は、第１のＰＤ１０１Ａ及び第２のＰＤ１０１Ｂを備える。本実施形態では、垂直走査回路２は、画素領域１の画素を１行単位で選択し、選択行の画素に対して駆動信号を送出する。読み出し回路３は、列毎に列読み出し回路を備え、単位画素１００からの出力信号を増幅し、その出力信号をサンプルホールドする。水平走査回路４は、読み出し回路３でサンプルホールドされた信号を列毎に順次出力アンプ５に出力するための信号を送出する。出力アンプ５は、水平走査回路４の動作により、読み出し回路３から出力された信号を信号処理回路１１０３に出力する。垂直走査回路２、読み出し回路３、水平走査回路４は、タイミング発生回路１１０２からのタイミング信号により駆動される。
【００１７】
図４は、任意の列に接続された単位画素１００の構成例を示す回路図である。以下、ｎ行目の画素回路について説明するが、ｎ＋１行目以降の単位画素１００も同様の構成を有するため、図中では省略して示している。駆動信号に関しては行の区別を行うため、各駆動信号に対してそれぞれ行番号の添え字を付している。
【００１８】
第１のＰＤ１０１Ａ、第２のＰＤ１０１Ｂには、第１の転送スイッチ１０２Ａ、第２の転送スイッチ１０２Ｂがそれぞれ接続されている。また、第１の転送スイッチ１０２Ａ及び第２の転送スイッチ１０２Ｂの出力は、フローティングディフュージョン（ＦＤ）領域１０３を通じて増幅部１０４に接続されている。ＦＤ領域１０３にはリセットスイッチ１０５が接続され、増幅部１０４のソースには選択スイッチ１０６が接続される。
【００１９】
第１のＰＤ１０１Ａ、第２のＰＤ１０１Ｂは、同一のマイクロレンズ３０３を通過した光を受光し、その受光量に応じた信号電荷を生成する光電変換部として機能する。第１の転送スイッチ１０２Ａ及び第２の転送スイッチ１０２Ｂは、それぞれ第１のＰＤ１０１Ａ、第２のＰＤ１０１Ｂで発生した電荷を共通のＦＤ領域１０３に転送する転送部として機能する。また、第１の転送スイッチ１０２Ａ及び第２の転送スイッチ１０２Ｂは、それぞれ垂直走査回路２からの転送パルス信号ＰＴＸＡｎ、ＰＴＸＢｎによって制御される。
【００２０】
ＦＤ領域１０３は、第１のＰＤ１０１Ａ、第２のＰＤ１０１Ｂから転送された電荷を一時的に保持するとともに、保持した電荷を電圧信号に変換する電荷電圧変換部として機能する。増幅部１０４は、ソースフォロワＭＯＳトランジスタであり、ＦＤ領域１０３により変換された電圧信号を増幅して、画素信号として出力する。
【００２１】
転送パルス信号ＰＴＸＡｎがＨ、ＰＴＸＢｎがＬの場合、ＦＤ領域１０３には第１のＰＤ１０１Ａの電荷のみが転送され、増幅部１０４を介してＡ像信号を読み出すことができる。また、転送パルス信号ＰＴＸＡｎ、ＰＴＸＢｎを共にＨに制御すると、ＦＤ領域１０３に第１のＰＤ１０１Ａ、第２のＰＤ１０１Ｂぞれぞれの電荷が転送される。そのため、増幅部１０４を介してＡ像信号とＢ像信号の加算信号、すなわち（Ａ＋Ｂ）像信号を読み出すことができる。信号処理回路１１０３では、読み出されたＡ像信号と（Ａ＋Ｂ）像信号の差分からＢ像信号を算出し、公知の位相差演算によりデフォーカス量を算出する。
【００２２】
リセットスイッチ１０５は、垂直走査回路２からのリセットパルス信号ＰＲＥＳｎによって制御され、ＦＤ領域１０３の電位を基準電位ＶＤＤ１０８にリセットする。
【００２３】
静止画撮影のように解像度の高い画像が求められる場合、垂直走査回路２により垂直選択パルス信号ＰＳＥＬｎによって各列１つ（すなわち、１行分）の選択スイッチ１０６を制御する。そして、増幅部１０４で増幅された電圧信号を垂直出力線１０７に画素信号として出力する。垂直出力線１０７に出力された画素信号は、読み出し回路３に読み出され、水平走査回路４の動作により読み出し回路３から出力された信号は、出力アンプ５を通して順次読み出される。同様にｎ＋１行目、ｎ＋２行目、…、と続けることで、各単位画素から画素信号が読み出される。この読み出しはＡ像信号を読み出すとき（第３の駆動方法）も（Ａ＋Ｂ）像信号を読み出す時（第４の駆動方法）も同様である。
【００２４】
一方、動画撮影では時間解像度の高い画像が求められるため、読み出しの高速化のための画素数の圧縮を目的として垂直方向のいくつかの画素を同時に選択し、加算平均出力を得る。例えば、カラーフィルタ３０２が公知のベイヤー配列の原色カラーフィルタで３画素加算の場合、垂直走査回路２により垂直選択パルス信号ＰＳＥＬｎ、ＰＳＥＬｎ＋２、ＰＳＥＬｎ＋４のように列あたり３つの選択スイッチ１０６を同時にＯＮする。このようにすることで、ｎ＋２行目を画素重心とする画素信号として、それぞれの増幅部１０４を介して電圧信号の加算平均出力を垂直出力線１０７に出力する。そして、次行の画素出力を得るには、垂直走査回路２により、例えば垂直選択パルス信号ＰＳＥＬｎ＋３、ＰＳＥＬｎ＋５、ＰＳＥＬｎ＋７を同時にＨとする。この場合の画素信号の画素重心はｎ＋５行目となり、画素重心が３行間隔となるので、垂直方向に１／３に圧縮された画像信号を読み出すことができる。この読み出しはＡ像信号を読み出すとき（第１の駆動方法）も（Ａ＋Ｂ）像信号を読み出す時（第２の駆動方法）も同様である。
【００２５】
なお、高解像度が求められていない静止画を撮影するときも、動画撮影と同様の読み出し方法で読み出せばよい。
【００２６】
次に、動画撮影を例にとって、第１の実施形態における画像形成の方法に関して、図５のフローチャートを用いて説明する。
【００２７】
動画開始の指示がなされると、Ｓ５０１でフレーム数Ｎを１にリセットする。次にＳ５０２で第１フレームのＡ像信号と（Ａ＋Ｂ）像信号を取得する。ここで第Ｎフレームにおける座標（ｘ，ｙ）の画素のＡ像信号出力をＡ（ｘ，ｙ，Ｎ）、（Ａ＋Ｂ）像信号出力をＡＢ（ｘ，ｙ，Ｎ）、さらにデフォーカス量をＤ（ｘ，ｙ，Ｎ）とする。通常デフォーカス量は図６のように領域ごとに定義されることが多いので、その場合は当該座標の画素が属する領域（図６中の太枠の領域）のデフォーカス量とする。
【００２８】
Ｓ５０３で第１フレームのＡ像信号と、（Ａ＋Ｂ）像信号からＡ像信号を引いた差分であるＢ像信号とからデフォーカス量Ｄ（ｘ，ｙ，１）を算出する。続けてＳ５０４で第Ｎ＋１フレーム（１回目のルーチンでは第２フレーム）のＡ像信号と（Ａ＋Ｂ）像信号を取得し、Ｓ５０５でデフォーカス量Ｄ（ｘ，ｙ，Ｎ＋１）を算出する。
【００２９】
Ｓ５０６で第Ｎフレームの各画素のデフォーカス量Ｄ（ｘ，ｙ，Ｎ）に基づいて第Ｎ＋１フレームにおける最終的な画像信号Ｐ（ｘ，ｙ，Ｎ＋１）を決定する。本第１の実施形態では、第Ｎフレームのデフォーカス量Ｄ（ｘ，ｙ，Ｎ）が予め決められた閾値Ｄｔｈより大きい、あるいは算出できない場合、
Ｐ（ｘ，ｙ，Ｎ＋１）＝ＡＢ（ｘ，ｙ，Ｎ＋１）
とする。なお、閾値Ｄｔｈは、例えば撮影レンズ１１１１の焦点距離や被写界深度等に応じて、合焦あるいはほぼ合焦していると見做せる値とするなど、適宜設定する。
【００３０】
第Ｎフレームのデフォーカス量Ｄ（ｘ，ｙ，Ｎ）が閾値Ｄｔｈ以内であれば、
Ｐ（ｘ，ｙ，Ｎ＋１）
＝Ｍａｘ｛ＡＢ（ｘ，ｙ，Ｎ＋１），２×Ａ（ｘ，ｙ，Ｎ＋１）｝
とする。以上のことを第Ｎ＋１フレーム中の画像出力に関わるすべての座標（ｘ，ｙ）の画素について行う。
【００３１】
なお、ここで１フレーム前のデフォーカス量Ｄ（ｘ，ｙ，Ｎ）を用いる理由は、通信時間や演算処理の都合上、直ちに第Ｎ＋１フレームのデフォーカス量Ｄ（ｘ，ｙ，Ｎ＋１）を用いることが難しいからである。しかしながら、例えば低解像度の静止画を処理する場合には、第Ｎ＋１フレームのデフォーカス量Ｄ（ｘ，ｙ，Ｎ＋１）を用いることも可能である。
【００３２】
通常、デフォーカス量が小さいところでは、Ａ像信号とＢ像信号の出力はほぼ等しい。しかし、画素加算対象となる画素間の信号差が大きければ、所望の加算平均出力が得られないことがあり、２つのフォトダイオード１０１Ａ、１０１Ｂの加算出力となる（Ａ＋Ｂ）像信号の方が顕著に現れる。そこで、本来の画像信号である（Ａ＋Ｂ）像信号とＡ像信号の２倍のうち、大きい方の信号出力を第Ｎ＋１フレームの最終的な画像信号Ｐ（ｘ，ｙ，Ｎ＋１）としている。
【００３３】
そして、動画撮影終了の指示がされるまで、Ｓ５０７でフレーム数ＮをインクリメントしてＳ５０４へ戻る。
【００３４】
以上のように、デフォーカス量に基づいて画素信号を決定することで、消費電力を増やすこと無く、加算平均出力時に生じるダイナミックレンジの損失を補うことができる。
【００３５】
＜第２の実施形態＞
次に、本発明の第２の実施形態における画像形成の方法について、図７のフローチャートを用いて説明する。第１の実施形態との違いは、Ｓ５０６で行っていた、最終的な画像信号をＡ像信号の２倍で置き換える動作を、第２の実施形態ではＧ画素に限定して行う点にある。通常、撮像素子１１０１は人間の比視感度に合わせているため、撮像素子１１０１が原色のカラーフィルタ３０２により覆われている場合、Ｇ画素の感度が最も高い。このため、加算平均出力を得る際にダイナミックレンジの損失が発生しやすいＧ画素のみ置き換えを実施する。なお、図７において図５と同様の処理には同じステップ番号を付している。
【００３６】
動画撮影開始の指示がなされると、Ｓ５０１でフレーム数Ｎを１にリセットする。次に、Ｓ５０２で第１フレームのＡ像信号と（Ａ＋Ｂ）像信号を取得する。Ｓ５０３で第１フレームのＡ像信号と、（Ａ＋Ｂ）像信号からＡ像信号を引いて得たＢ像信号とからデフォーカス量Ｄ（ｘ，ｙ，１）を算出する。続けてＳ５０４において、第Ｎ＋１フレームのＡ像信号と（Ａ＋Ｂ）像信号を取得し、Ｓ５０５でデフォーカス量Ｄ（ｘ，ｙ，Ｎ＋１）を算出する。
【００３７】
次に、Ｓ７０６で第Ｎフレームの各画素のデフォーカス量Ｄ（ｘ，ｙ，Ｎ）に基づいて第Ｎ＋１フレームにおける最終的な画像信号Ｐ（ｘ，ｙ，Ｎ＋１）を決定する。本第２の実施形態では、画像信号Ｐ（ｘ，ｙ，Ｎ＋１）のうち、Ｒ画素をＲ（ｘ，ｙ，Ｎ＋１）、Ｇ画素をＧ（ｘ，ｙ，Ｎ＋１）、Ｂ画素をＢ（ｘ，ｙ，Ｎ＋１）とする。Ｒ画素とＢ画素についてはデフォーカス量Ｄ（ｘ，ｙ，Ｎ）に関わらず、第Ｎ＋１フレームの（Ａ＋Ｂ）像信号であるＡＢ（ｘ，ｙ，Ｎ＋１）をそのまま最終的な画像信号とする。一方、Ｇ画素については第Ｎフレームのデフォーカス量Ｄ（ｘ，ｙ，Ｎ）が閾値Ｄｔｈより大きい、あるいは算出できない場合、
Ｇ（ｘ，ｙ，Ｎ＋１）＝ＡＢ（ｘ，ｙ，Ｎ＋１）
とする。また、第Ｎフレームのデフォーカス量Ｄ（ｘ，ｙ，Ｎ）が閾値Ｄｔｈ以内であれば、
Ｇ（ｘ，ｙ，Ｎ＋１）
＝Ｍａｘ｛ＡＢ（ｘ，ｙ，Ｎ＋１），２×Ａ（ｘ，ｙ，Ｎ＋１）｝
とする。以上の処理を第Ｎ＋１フレーム中の画像出力に関わるすべての座標の画素について行う。
【００３８】
そして、動画撮影終了の指示がされるまで、Ｓ５０７でフレーム数ＮをインクリメントしてＳ５０４へ戻る。
【００３９】
以上のように、Ｇ画素についてはデフォーカス量を参照することで加算平均出力時に生じるダイナミックレンジの損失を補うが、Ｒ画素やＢ画素については本来の画像信号である（Ａ＋Ｂ）像信号をそのまま画像出力として用いる。これにより、画質の劣化を必要最小限に止めながら、加算平均出力特有の画質劣化を抑えることができる。
【００４０】
＜第３の実施形態＞
次に、本発明の第３の実施形態について説明する。第３の実施形態では、第１の実施形態のＳ５０６で行っていた、最終的な画像信号をＡ像信号の２倍（複数倍）で置き換える動作を（Ａ＋Ｂ）像信号とＡ像信号の加重平均で置き換え、さらにフレーム間で連続的に重みづけを変えていくことを特徴としている。
【００４１】
図８は第３の実施形態においてＳ５０６で最終的な画像信号Ｐ（ｘ，ｙ，Ｎ＋１）を算出するための条件表である。「フレーム」の列は、各フレームにおけるデフォーカス量の状態を記号で表しており、それぞれの条件に対する画像信号Ｐ（ｘ，ｙ，Ｎ＋１）の算出式を右欄に記載している。
【００４２】
例えば、３行目の条件は第Ｎ−１フレームから２フレーム続けてデフォーカス量がＤｔｈ以下である場合、Ｐ（ｘ，ｙ，Ｎ＋１）の値をＡＢ（ｘ，ｙ，Ｎ＋１）と｛ＡＢ（ｘ，ｙ，Ｎ＋１）＋４×Ａ（ｘ，ｙ，Ｎ＋１）｝／３のうち大きい方とする。後者の値は（Ａ＋Ｂ）像信号（ｘ，ｙ，Ｎ＋１）とＡ像信号Ａ（ｘ，ｙ，Ｎ＋１）の２倍を１：２で加重平均したものである。
【００４３】
これにより、本来の画像信号である（Ａ＋Ｂ）像信号ＡＢ（ｘ，ｙ，Ｎ＋１）が大きい場合は常にその出力が優先される。一方、そうでない場合はデフォーカス量がＤｔｈ以下のフレーム、つまり合焦しているフレームが続くほど、徐々にＡ像信号の２倍の出力に近づくよう重みづけを変えている。
【００４４】
このように、複数フレーム分のデフォーカス量を用いて最終的な画素信号を決定することで、第１の実施形態と同様の効果に加えて、合焦したフレームの次のフレームから突然色が変化したといったような違和感を抑制することができる。
【００４５】
また、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。上述した第１〜第３の実施形態では、Ａ像信号が視差を有しており、かつ（Ａ＋Ｂ）像信号に比べて低感度であることから、撮像素子から得られるデフォーカス量を元にＡ像信号への置き換えを行う構成とした。しかし、撮像素子とは異なる撮像光学系に配された位相差センサから得られるデフォーカス量に基づいてＡ像信号への置き換えを行う構成としても、同様の効果を得ることができる。
【符号の説明】
【００４６】
１００：単位画素、１０１Ａ：第１のフォトダイオード、１０１Ｂ：第２のフォトダイオード、３０３：マイクロレンズ、１１０１：撮像素子、１１０２：タイミング発生回路、１１０３：信号処理回路、１１０４：全体制御・演算回路
【図１】
2016058877.tif 000003
【図２】
2016058877.tif 000004
【図３】
2016058877.tif 000005
【図４】
2016058877.tif 000006
【図５】
2016058877.tif 000007
【図６】
2016058877.tif 000008
【図７】
2016058877.tif 000009
【図８】
2016058877.tif 000010