(57)【要約】  本開示は、画像の復元精度を向上させることができるようにする撮像装置、露出制御方法、プログラム、及び、撮像素子に関する。撮像装置は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子と、前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御部とを備える。本開示は、例えば、撮像レンズを用いずに撮像を行う撮像装置に適用することができる。
2019078333.tif 000002
【特許請求の範囲】
【請求項１】
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子と、
前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御部と
を備える撮像装置。
【請求項２】
前記非指向性画素出力単位は、前記指向性画素出力単位より受光感度が高い
請求項１に記載の撮像装置。
【請求項３】
前記露出制御部は、前記非指向性検出信号に基づいて、前記被写体と前記撮像素子の受光面との間へのＮＤ（Neutral Density）フィルタの挿脱を制御する
請求項１に記載の撮像装置。
【請求項４】
前記露出制御部は、前記非指向性検出信号に基づいて、前記撮像素子への入射光を減光する可変ＮＤ（Neutral Density）フィルタの減光度を調整する
請求項１に記載の撮像装置。
【請求項５】
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露光時間を制御する
請求項１に記載の撮像装置。
【請求項６】
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位から出力される検出信号に対するゲインを制御する
請求項１に記載の撮像装置。
【請求項７】
前記指向性画素出力単位は、
１つのフォトダイオードと、
前記入射光の一部の前記フォトダイオードへの入射を遮る遮光膜と
を備え、
前記非指向性画素出力単位は、１つのフォトダイオードを備える
請求項１に記載の撮像装置。
【請求項８】
前記指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードのうち一部のフォトダイオードが寄与する１つの検出信号を出力し、
前記非指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードが全て寄与する１つの検出信号を出力する
請求項１に記載の撮像装置。
【請求項９】
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位の露出制御を、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて行う露出制御ステップを
含む露出制御方法。
【請求項１０】
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子を備える撮像装置のコンピュータに、
前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御ステップを
含む処理を実行させるためのプログラム。
【請求項１１】
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、
撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えておらず、前記指向性画素出力単位より受光感度が高く、前記複数の指向性画素出力単位の露出制御に用いられる非指向性画素出力単位と
を備える撮像素子。
【請求項１２】
前記複数の指向性画素出力単位から出力される検出信号により、前記被写体の像が結像されていない検出画像を生成する
請求項１１に記載の撮像素子。
【請求項１３】
前記指向性画素出力単位は、
１つのフォトダイオードと、
前記入射光の一部の前記フォトダイオードへの入射を遮る遮光膜と
を備え、
前記非指向性画素出力単位は、１つのフォトダイオードを備える
請求項１１に記載の撮像素子。
【請求項１４】
前記指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードのうち一部のフォトダイオードが寄与する１つの検出信号を出力し、
前記非指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードが全て寄与する１つの検出信号を出力する
請求項１１に記載の撮像素子。
【請求項１５】
前記複数の指向性画素出力単位には、カラーフィルタがそれぞれ設けられ、
前記非指向性画素出力単位には、白色又は透明の光学フィルタが設けられるか、カラーフィルタが設けられない
請求項１１に記載の撮像素子。
【請求項１６】
前記複数の指向性画素出力単位には、赤、緑、又は、青のいずれかのカラーフィルタそれぞれが設けられ、前記複数の指向性画素出力単位は所定の配列に従った位置に並べられ、
前記非指向性画素出力単位は、前記所定の配列において青のカラーフィルタが設けられる前記指向性画素出力単位が配置される位置のうちの一部に、前記指向性画素出力単位の代わりに配置される
請求項１５に記載の撮像素子。
【請求項１７】
前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御部を
さらに備える請求項１１に記載の撮像素子。
【請求項１８】
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露光時間を制御する
請求項１７に記載の撮像素子。
【請求項１９】
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位から出力される検出信号に対するゲインを制御する
請求項１７に記載の撮像素子。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、撮像装置、露出制御方法、プログラム、及び、撮像素子に関し、特に、画像の復元精度を向上させるようにした撮像装置、露出制御方法、プログラム、及び、撮像素子に関する。
【背景技術】
【０００２】
従来、撮像レンズを用いずに、撮像素子の受光面を覆う格子状の光学フィルタや回折格子からなる光学フィルタにより被写体からの光を変調して撮像し、所定の演算処理により被写体の像が結像された画像を復元する撮像装置が提案されている（例えば、非特許文献１、特許文献１、２参照）。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】M. Salman Asif、他４名、“Flatcam: Replacing lenses with masks and computation”、“2015 IEEE International Conference on Computer Vision Workshop (ICCVW)”、2015年、663-666ページ
【特許文献】
【０００４】
【特許文献１】特表２０１６-５１０９１０号公報
【特許文献２】国際公開第２０１６／１２３５２９号
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、非特許文献１や特許文献１、２に示される撮像装置では、撮像素子の各画素から出力される全ての検出信号を用いて演算処理を行うため、１つでも画素の飽和が発生すると、その影響が全体に及び、画像の復元精度が低下する。その結果、復元した画像の画質が低下する。【０００６】
本開示は、このような状況に鑑みてなされたものであり、画像の復元精度を向上させるようにするものである。
【課題を解決するための手段】
【０００７】
本開示の第１の側面の撮像装置は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子と、前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御部とを備える。【０００８】
本開示の第２の側面の露出制御方法は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位の露出制御を、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて行う露出制御ステップを含む。【０００９】
本開示の第３の側面のプログラムは、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子を備える撮像装置のコンピュータに、前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御ステップを含む処理理を実行させる。【００１０】
本開示の第４の側面の撮像素子は、像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えておらず、前記指向性画素出力単位より受光感度が高く、前記複数の指向性画素出力単位の露出制御に用いられる非指向性画素出力単位とを備える。【００１１】
本開示の第１の側面乃至第３の側面においては、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位の露出制御が、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて行われる。【００１２】
本開示の第４の側面においては、被写体からの入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、前記入射角指向性を持たせるための構成を備えておらず、前記指向性画素出力単位より受光感度が高く、前記複数の指向性画素出力単位の露出制御に用いられる非指向性画素出力単位とにより、撮像レンズ及びピンホールのいずれも介さずに前記入射光が受光される。
【発明の効果】
【００１３】
本開示の第１の側面乃至第４の側面によれば、画像の復元精度を向上させることができる。【００１４】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１５】
【図１】本開示の技術を適用した撮像装置における撮像の原理を説明する図である。
【図２】本開示の技術を適用した撮像装置の基本的な構成例を示すブロック図である。
【図３】図２の撮像素子の画素アレイ部の構成例を示す図である。
【図４】図２の撮像素子の第１の構成例を説明する図である。
【図５】図２の撮像素子の第２の構成例を説明する図である。
【図６】入射角指向性の発生の原理を説明する図である。
【図７】オンチップレンズを利用した入射角指向性の変化を説明する図である。
【図８】遮光膜のタイプの例を示す図である。
【図９】入射角指向性の設計を説明する図である。
【図１０】オンチップレンズと撮像レンズとの違いを説明する図である。
【図１１】オンチップレンズと撮像レンズとの違いを説明する図である。
【図１２】オンチップレンズと撮像レンズとの違いを説明する図である。
【図１３】被写体距離と入射角指向性を示す係数との関係を説明する図である。
【図１４】狭画角画素と広画角画素との関係を説明する図である。
【図１５】狭画角画素と広画角画素との関係を説明する図である。
【図１６】狭画角画素と広画角画素との関係を説明する図である。
【図１７】狭画角画素と広画角画素の画質の違いを説明するための図である。
【図１８】狭画角画素と広画角画素の画質の違いを説明するための図である。
【図１９】複数の画角の画素を組み合わせる例を説明する図である。
【図２０】図２の撮像装置による撮像処理を説明するフローチャートである。
【図２１】処理負荷の低減方法を説明する図である。
【図２２】処理負荷の低減方法を説明する図である。
【図２３】処理負荷の低減方法を説明する図である。
【図２４】処理負荷の低減方法を説明する図である。
【図２５】処理負荷の低減方法を説明する図である。
【図２６】図２の撮像素子の回路の構成例を示すブロック図である。
【図２７】図２６の画素アレイ部の構成例を示す図である。
【図２８】図２６の撮像素子により実行される撮像処理を説明するフローチャートである。
【図２９】図２の撮像装置の処理を説明するタイミングチャートである。
【図３０】図２の信号処理制御部により実行される露出制御及び復元処理を説明するフローチャートである。
【図３１】復元用画素の露光時間の設定方法を説明するための図である。
【図３２】図２６の画素アレイ部の構成の変形例を示す図である。
【図３３】撮像装置の第２の実施の形態の構成例を示すブロック図である。
【図３４】図５の撮像素子の変形例を示す図である。
【図３５】画素出力単位の変形例を説明する図である。
【発明を実施するための形態】
【００１６】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を適宜省略する。
【００１７】
また、以下の順序で説明を行う。
１．本開示の撮像装置の概要
２．本開示の撮像装置の基本的な構成例
３．第１の実施の形態：撮像素子の露光時間を制御する例
４．第２の実施の形態：ＮＤフィルタを用いた例
５．変形例
６．その他
【００１８】
＜＜１．本開示の撮像装置の概要＞＞
まず、本開示の撮像装置の概要について説明する。
【００１９】
本開示の撮像装置においては、図１の左上に示されるように、各画素の検出感度に入射角指向性を持たせた撮像素子５１が用いられる。ここで、各画素の検出感度に入射角指向性を持たせるとは、各画素への入射光の入射角度に応じた受光感度特性を画素毎に異なるものとすることである。ただし、全ての画素の受光感度特性が完全に異なるものである必要はなく、一部の画素の受光感度特性が同一であってもよい。
【００２０】
ここで、例えば、全ての被写体は点光源の集合であり、各点光源からあらゆる方向に光が出射されているものとする。例えば、図１の左上の被写体の被写体面３１が、点光源ＰＡ乃至点光源ＰＣにより構成され、点光源ＰＡ乃至点光源ＰＣが、それぞれ光強度ａ乃至光強度ｃの複数の光線を周囲に発しているものとする。また、以下、撮像素子５１は、位置Ｐａ乃至位置Ｐｃに入射角指向性がそれぞれ異なる画素（以下、画素Ｐａ乃至画素Ｐｃと称する）を備えるものとする。
【００２１】
この場合、図１の左上に示されるように、同一の点光源より発せられた同一の光強度の光線が、撮像素子５１の各画素に入射される。例えば、点光源ＰＡから発せられた光強度ａの光線が、撮像素子５１の画素Ｐａ乃至画素Ｐｃにそれぞれ入射される。一方、同一の点光源より発せられた光線は、画素毎にそれぞれ異なる入射角度で入射される。例えば、点光源ＰＡからの光線は、画素Ｐａ乃至画素Ｐｃにそれぞれ異なる入射角度で入射される。
【００２２】
ここで、画素Ｐａ乃至画素Ｐｃの入射角指向性がそれぞれ異なるため、同一の点光源より発せられた同一の光強度の光線が、各画素で異なる感度で検出される。その結果、同一の光強度の光線が画素毎に異なる検出信号レベルで検出される。例えば、点光源ＰＡからの光強度ａの光線に対する検出信号レベルが、画素Ｐａ乃至画素Ｐｃでそれぞれ異なる値になる。
【００２３】
そして、各点光源からの光線に対する各画素の受光感度レベルは、その光線の光強度に、その光線の入射角度に対する受光感度（すなわち、入射角指向性）を示す係数を乗じることにより求められる。例えば、点光源ＰＡからの光線に対する画素Ｐａの検出信号レベルは、点光源ＰＡの光線の光強度ａに、当該光線の画素Ｐａへの入射角度に対する画素Ｐａの入射角指向性を示す係数を乗じることにより求められる。
【００２４】
従って、画素Ｐｃ，Ｐｂ，Ｐａの検出信号レベルＤＡ，ＤＢ，ＤＣは、それぞれ以下の式（１）乃至式（３）で表される。
【００２５】
ＤＡ＝α１×ａ＋β１×ｂ＋γ１×ｃ
・・・（１）
ＤＢ＝α２×ａ＋β２×ｂ＋γ２×ｃ
・・・（２）
ＤＣ＝α３×ａ＋β３×ｂ＋γ３×ｃ
・・・（３）
【００２６】
ここで、係数α１は、点光源ＰＡから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、α１×ａは、点光源ＰＡからの光線に対する画素Ｐｃの検出信号レベルを示している。
【００２７】
係数β１は、点光源ＰＢから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、β１×ｂは、点光源ＰＢからの光線に対する画素Ｐｃの検出信号レベルを示している。
【００２８】
係数γ１は、点光源ＰＣから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、γ１×ｃは、点光源ＰＣからの光線に対する画素Ｐｃの検出信号レベルを示している。
【００２９】
このように、画素Ｐａの検出信号レベルＤＡは、画素Ｐｃにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α１，β１，γ１との積和により求められる。
【００３０】
同様に、画素Ｐｂの検出信号レベルＤＢは、式（２）に示されるように、画素Ｐｂにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α２，β２，γ２との積和により求められる。また、画素Ｐｃの検出信号レベルＤＣは、式（３）に示されるように、画素Ｐａにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α２，β２，γ２との積和により求められる。
【００３１】
ただし、画素Ｐａ，Ｐｂ，Ｐｃの検出信号レベルＤＡ、ＤＢ、ＤＣは、式（１）乃至式（３）に示されるように、点光源ＰＡ，ＰＢ，ＰＣのそれぞれより発せられた光線の光強度ａ，ｂ，ｃが入り交じっている。従って、図１の右上に示されるように、撮像素子５１における検出信号レベルは、被写体面３１上の各点光源の光強度とは異なる。従って、撮像素子５１により得られる画像は、被写体面３１の像が結像されたものとは異なるものとなる。
【００３２】
一方、式（１）乃至式（３）からなる連立方程式を作成し、作成した連立方程式を解くことにより、各点光源ＰＡ乃至点光源ＰＣの光線の光強度ａ乃至光強度ｃが求められる。そして、求めた光強度ａ乃至光強度ｃに応じた画素値を有する画素を点光源ＰＡ乃至点光源ＰＣの配置（相対位置）に合わせて並べることにより、図１の右下に示されるように、被写体面３１の像が結像された復元画像が復元される。
【００３３】
なお、以下、連立方程式を構成する式毎に係数をまとめたもの（例えば、係数α１、β１、γ１）を係数セットと称する。また、以下、連立方程式に含まれる複数の式に対応する複数の係数セットをまとめたもの（例えば、係数セットα１、β１、γ１、係数セットα２、β２、γ２、係数セットα３、β３、γ３）を係数セット群と称する。
【００３４】
このようにして、撮像レンズ、ピンホール、並びに、特許文献１及び非特許文献１（以下、特許文献等と称する）に示される光学フィルタを必要とせず、各画素において入射角指向性を有する撮像素子５１を必須構成とする撮像装置を実現することが可能となる。結果として、撮像レンズ、ピンホール、及び、特許文献等に記載の光学フィルタが必須構成とならないので、撮像装置の低背化、すなわち、撮像機能を実現する構成における光の入射方向に対する厚さを薄くすることが可能になる。
【００３５】
また、必須構成が撮像素子５１のみになるので、設計の自由度を向上させることが可能となる。例えば、従来の撮像レンズを用いた撮像装置では、撮像レンズにより被写体の像が結像される位置に合わせて、撮像素子の画素を２次元のアレイ状に配置する必要があるが、撮像素子５１を用いた撮像装置では、その必要がない。そのため、各画素の配置の自由度が向上し、例えば、被写体からの光が入射する範囲内において、各画素を自由に配置することが可能になる。例えば、各画素を円形の領域内に並べたり、中空方形（ロの字型）の領域内に並べたり、複数の領域に分散して配置したりすることが可能になる。
【００３６】
そして、各画素の配置に関わらず、被写体面３１上の各点光源からの光線の各画素への入射角度に応じた係数を用いて、上述した式（１）乃至式（３）で示されるような連立方程式を作成し、解くことにより、各点光源からの光線の光強度を求めることができる。そして、求めた各点光源の光強度に応じた画素値を有する画素を被写体面３１上の各点光源の配置に合わせて並べることにより、被写体面３１の像が結像された復元画像を復元することができる。
【００３７】
＜＜２．本開示の撮像装置の基本的な構成例＞＞
次に、図２乃至図２５を参照して、本開示の撮像装置の基本的な構成例について説明する。
【００３８】
＜撮像装置１０１の構成例＞
図２は、本開示の技術を適用した基本的な撮像装置である撮像装置１０１の構成例を示すブロック図である。
【００３９】
撮像装置１０１は、撮像素子１２１、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、記録媒体１３０、及び、通信部１３１を備える。また、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、記録媒体１３０、及び、通信部１３１により、信号処理や撮像装置１０１の制御等を行う信号処理制御部１１１が構成される。なお、撮像装置１０１は、撮像レンズを含まない（撮像レンズフリー）。
【００４０】
また、撮像素子１２１、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、及び、通信部１３１は、バスＢ１を介して相互に接続されており、バスＢ１を介してデータの送受信等を行う。なお、以下、説明を簡単にするために、撮像装置１０１の各部がバスＢ１を介してデータの送受信等を行う場合のバスＢ１の記載を省略する。例えば、入力部１２４がバスＢ１を介して制御部１２３にデータを供給する場合、入力部１２４が制御部１２３にデータを供給すると記載する。
【００４１】
撮像素子１２１は、図１を参照して説明した撮像素子５１に対応するものであり、入射角指向性を有する画素を含み、入射光の光量に応じた検出信号レベルを示す検出信号からなる画像を復元部１２２又はバスＢ１に出力する撮像素子である。
【００４２】
より具体的には、撮像素子１２１は、基本的な構造において、一般の、例えば、CMOS（Complementary Metal Oxide Semiconductor）イメージセンサなどの撮像素子からなるものと同様のものであっても良い。ただし、撮像素子１２１は、画素アレイを構成する各画素の構成が一般のものと異なり、例えば、図３乃至図５を参照して後述するように、入射角指向性を持たせる構成を有している。そして、撮像素子１２１は、画素毎に入射光の入射角度に応じて受光感度が異なり（変化し）、画素単位で入射光の入射角度に対する入射角指向性を有している。
【００４３】
なお、撮像素子１２１が出力する画像は、上述した図１の右上に示されるように被写体の像が結像されていない検出信号により構成される画像となるので、目視により被写体を認識することができない。すなわち、撮像素子１２１が出力する検出信号からなる検出画像は、画素信号の集合ではあるが、ユーザが目視しても被写体を認識できない（被写体を視認不可能な）画像である。
【００４４】
そこで、以降においては、図１の右上に示されるように被写体の像が結像されていない検出信号より構成される画像、すなわち、撮像素子１２１により撮像される画像を、検出画像と称するものとする。
【００４５】
尚、撮像素子１２１は、画素アレイとして構成されなくてもよく、例えば、ラインセンサとして構成されてもよい。また、入射角指向性は必ずしも画素単位で全て異なる必要はなく、入射角指向が同じ画素を含んでいてもよい。
【００４６】
復元部１２２は、例えば、図１における撮像素子５１から被写体面３１（復元画像に対応する被写体面）までの距離に相当する被写体距離に対応し、上述した係数α１乃至α３，β１乃至β３，γ１乃至γ３に相当する係数セット群を記憶部１２８から取得する。また、復元部１２２は、撮像素子１２１から出力される検出画像の各画素の検出信号レベルと、取得した係数セット群とを用いて、上述した式（１）乃至式（３）で示されるような連立方程式を作成する。そして、復元部１２２は、作成した連立方程式を解くことにより、図１の右下に示される被写体の像が結像された画像を構成する各画素の画素値を求める。これにより、ユーザが目視して被写体を認識できる（被写体を視認可能な）画像が検出画像から復元される。以降においては、この検出画像から復元される画像を復元画像と称するものとする。ただし、撮像素子１２１が紫外線などの視認可能な波長帯域以外の光のみに感度を有する場合、復元画像も通常の画像のように被写体を識別できるような画像とはならないが、この場合も復元画像と称する。
【００４７】
また、以降においては、被写体の像が結像された状態の画像である復元画像であって、デモザイク処理等の色分離や同時化処理前の画像をRAW画像と称し、撮像素子１２１により撮像された検出画像については、色フィルタの配列に従った画像ではあるが、RAW画像ではないものとして区別する。
【００４８】
尚、撮像素子１２１の画素数と、復元画像を構成する画素の画素数とは、必ずしも同一である必要はない。
【００４９】
また、復元部１２２は、必要に応じて、復元画像に対してデモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。そして、復元部１２２は、復元画像をバスＢ１に出力する。
【００５０】
制御部１２３は、例えば、各種のプロセッサを備え、撮像装置１０１の各部を制御する。
【００５１】
入力部１２４は、撮像装置１０１の操作や、処理に用いるデータの入力等を行うための入力デバイス（例えば、キー、スイッチ、ボタン、ダイヤル、タッチパネル、リモートコントローラ等）を備える。入力部１２４は、操作信号や入力されたデータ等をバスＢ１に出力する。
【００５２】
検出部１２５は、撮像装置１０１や被写体の状態等の検出に用いる各種のセンサ等を備える。例えば、検出部１２５は、撮像装置１０１の姿勢や動きを検出する加速度センサやジャイロセンサ、撮像装置１０１の位置を検出する位置検出センサ（例えば、ＧＮＳＳ（Global Navigation Satellite System）受信機等）、被写体距離を検出する測距センサ等を備える。検出部１２５は、検出結果を示す信号をバスＢ１に出力する。
【００５３】
関連付け部１２６は、撮像素子１２１により得られる検出画像と、検出画像に対応するメタデータとの関連付けを行う。メタデータは、例えば、対象となる検出画像を用いて復元画像を復元するための係数セット群や被写体距離等を含む。
【００５４】
なお、検出画像とメタデータを関連付ける方法は、検出画像とメタデータとの対応関係を特定することができれば、特に限定されない。例えば、検出画像を含む画像データにメタデータを付与したり、検出画像とメタデータに同じＩＤを付与したり、検出画像とメタデータを同じ記録媒体１３０に記録させたりすることにより、検出画像とメタデータが関連付けられる。
【００５５】
表示部１２７は、例えば、ディスプレイにより構成され、各種の情報（例えば、復元画像等）の表示を行う。なお、表示部１２７が、スピーカ等の音声出力部を備え、音声の出力を行うようにすることも可能である。
【００５６】
記憶部１２８は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、フラッシュメモリ等の記憶装置を１つ以上備え、例えば、撮像装置１０１の処理に用いられるプログラムやデータ等を記憶する。例えば、記憶部１２８は、様々な被写体距離に対応付けて、上述した係数α１乃至α３，β１乃至β３，γ１乃至γ３に相当する係数セット群を記憶している。より具体的には、例えば、記憶部１２８は、各被写体距離における被写体面３１毎に、被写体面３１上に設定した各点光源に対する撮像素子１２１の各画素１２１ａに対する係数を含む係数セット群を記憶している。
【００５７】
記録再生部１２９は、記録媒体１３０へのデータの記録、及び、記録媒体１３０に記録されているデータの再生（読み出し）を行う。例えば、記録再生部１２９は、復元画像を記録媒体１３０に記録したり、記録媒体１３０から読み出したりする。また、例えば、記録再生部１２９は、検出画像及び対応するメタデータを、記録媒体１３０に記録したり、記録媒体１３０から読み出したりする。
【００５８】
記録媒体１３０は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、磁気ディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等のいずれか、又は、それらの組合せなどからなる。
【００５９】
通信部１３１は、所定の通信方式により、他の機器（例えば、他の撮像装置や信号処理装置等）と通信を行う。なお、通信部１３１の通信方式は、有線又は無線のいずれであってもよい。また、通信部１３１が複数の通信方式に対応することも可能である。
【００６０】
＜撮像素子１２１の第１の構成例＞
次に、図３及び図４を参照して、図２の撮像装置１０１の撮像素子１２１の第１の構成例について説明する。
【００６１】
図３は、撮像素子１２１の画素アレイ部の一部の正面図を示している。尚、図３においては、画素アレイ部の画素数が縦６画素×横６画素である場合の例を示しているが、画素アレイ部の画素数は、これに限るものではない。
【００６２】
図３の撮像素子１２１では、画素１２１ａ毎に、そのフォトダイオードの受光領域（受光面）の一部を覆うように変調素子の１つである遮光膜１２１ｂが設けられており、各画素１２１ａに入射する入射光が、入射角度に応じて光学的に変調される。そして、例えば、画素１２１ａ毎に異なる範囲に遮光膜１２１ｂを設けることにより、画素１２１ａ毎に入射光の入射角度に対する受光感度が異なるものとなり、各画素１２１ａが異なる入射角指向性を有するようになる。
【００６３】
例えば、画素１２１ａ−１と画素１２１ａ−２とでは、設けられている遮光膜１２１ｂ−１と遮光膜１２１ｂ−２とによりフォトダイオードの受光領域を遮光する範囲が異なる（遮光する領域（位置）、および遮光する面積の少なくともいずれかが異なる）。すなわち、画素１２１ａ−１においては、フォトダイオードの受光領域の左側の一部を所定の幅だけ遮光するように遮光膜１２１ｂ−１が設けられている。一方、画素１２１ａ−２においては、受光領域の右側の一部を所定の幅だけ遮光するように遮光膜１２１ｂ−２が設けられている。なお、遮光膜１２１ｂ−１がフォトダイオードの受光領域を遮光する幅と、遮光膜１２１ｂ−２がフォトダイオードの受光領域を遮光する幅とは、異なっていてもよいし、同じであってもよい。その他の画素１２１ａにおいても、同様に、遮光膜１２１ｂが、画素毎に受光領域の異なる範囲を遮光するように、画素アレイ内でランダムに配置されている。
【００６４】
尚、遮光膜１２１ｂが各画素の受光領域を覆い隠す割合が大きくなるほど、フォトダイオードが受光できる光量が少ない状態となる。従って、遮光膜１２１ｂの面積は、所望の光量が確保できる程度の面積とすることが望ましく、例えば、最大で受光領域の３／４程度までといった制限を加えるようにしてもよい。このようにすることで、所望量以上の光量を確保することが可能となる。ただし、各画素において、受光する光の波長に相当する幅の遮光されていない範囲が設けられていれば、最小限の光量を受光することは可能である。すなわち、例えば、B画素（青色画素）の場合、波長は500nm程度となるが、この波長に相当する幅以上に遮光されていなければ、最小限の光量を受光することは可能である。
【００６５】
図４の上段は、撮像素子１２１の第１の構成例における側面断面図であり、図４の中段は、撮像素子１２１の第１の構成例における上面図である。また、図４の上段の側面断面図は、図４の中段におけるＡＢ断面となる。さらに、図４の下段は、撮像素子１２１の回路構成例である。
【００６６】
図４の上段の撮像素子１２１においては、図中の上方から下方に向けて入射光が入射する。隣接する画素１２１ａ−１，１２１ａ−２は、それぞれ図中の最下層に配線層Ｚ１２が設けられており、その上に光電変換層Ｚ１１が設けられている、いわゆる、裏面照射型である。
【００６７】
尚、画素１２１ａ−１，１２１ａ−２を区別する必要がない場合、符号の末尾の数字の記載を省略し、単に、画素１２１ａと称する。以下、明細書内において、他の構成についても、同様に符号の末尾の数字を省略する場合がある。
【００６８】
また、図４においては、撮像素子１２１の画素アレイを構成する２画素分の側面図および上面図のみを示しており、いうまでもなく、これ以上の数の画素１２１ａが配置されているが図示が省略されている。
【００６９】
さらに、画素１２１ａ−１，１２１ａ−２は、それぞれ光電変換層Ｚ１１にフォトダイオード１２１ｅ−１，１２１ｅ−２を備えている。また、フォトダイオード１２１ｅ−１，１２１ｅ−２の上には、それぞれ上からオンチップレンズ１２１ｃ−１，１２１ｃ−２、およびカラーフィルタ１２１ｄ−１，１２１ｄ−２が積層されている。
【００７０】
オンチップレンズ１２１ｃ−１，１２１ｃ−２は、入射光をフォトダイオード１２１ｅ−１，１２１ｅ−２上に集光させる。
【００７１】
カラーフィルタ１２１ｄ−１，１２１ｄ−２は、例えば、赤色、緑色、青色、赤外および白色等の特定の波長の光を透過させる光学フィルタである。尚、白色の場合、カラーフィルタ１２１ｄ−１，１２１ｄ−２は、透明のフィルタでもよいし、無くてもよい。
【００７２】
画素１２１ａ−１，１２１ａ−２の光電変換層Ｚ１１における、それぞれ画素間の境界には、遮光膜１２１ｇ−１乃至１２１ｇ−３が形成されており、例えば、図４に示されるように、入射光Ｌが隣接する画素に入射し、クロストークが発生するのを抑制する。
【００７３】
また、図４の上段及び中段に示されるように、遮光膜１２１ｂ−１，１２１ｂ−２が、上面から見て受光面Ｓの一部を遮光している。画素１２１ａ−１，１２１ａ−２におけるフォトダイオード１２１ｅ−１，１２１ｅ−２の受光面Ｓにおいては、遮光膜１２１ｂ−１，１２１ｂ−２により、それぞれ異なる範囲が遮光されており、これにより異なる入射角指向性が画素毎に独立に設定される。ただし、遮光される範囲は、撮像素子１２１の全画素１２１ａで異なっている必要はなく、一部で同一の範囲が遮光される画素１２１ａが存在していてもよい。
【００７４】
なお、図４の上段に示されるように、遮光膜１２１ｂ−１と遮光膜１２１ｇ−１とは互いに接続されており、側面から見てＬ字型に構成されている。同様に、遮光膜１２１ｂ−２と遮光膜１２１ｇ−２とは互いに接続されており、側面から見てＬ字型に構成されている。また、遮光膜１２１ｂ−１、遮光膜１２１ｂ−２、及び、遮光膜１２１ｇ−１乃至１２１ｇ−３は、金属により構成されており、例えば、タングステン（W）、アルミニウム（Al）、またはAlと銅（Cu）との合金により構成される。また、遮光膜１２１ｂ−１、遮光膜１２１ｂ−２、及び、遮光膜１２１ｇ−１乃至１２１ｇ−３は、半導体プロセスにおける配線が形成されるプロセスと同一のプロセスで、配線と同一の金属により同時に形成されるようにしてもよい。尚、遮光膜１２１ｂ−１、遮光膜１２１ｂ−２、及び、遮光膜１２１ｇ−１乃至１２１ｇ−３の膜厚は、位置に応じて同一の厚さにしなくてもよい。
【００７５】
また、図４の下段に示されるように、画素１２１ａは、フォトダイオード１６１（フォトダイオード１２１ｅに対応する）、転送トランジスタ１６２、ＦＤ（Floating Diffusion：フローティングディフュージョン）部１６３、選択トランジスタ１６４、増幅トランジスタ１６５、およびリセットトランジスタ１６６を備え、垂直信号線１６７を介して電流源１６８に接続されている。
【００７６】
フォトダイオード１６１は、アノード電極が接地され、カソード電極が、転送トランジスタ１６２を介して増幅トランジスタ１６５のゲート電極に接続されている。
【００７７】
転送トランジスタ１６２は、転送信号ＴＧに従って駆動する。例えば、転送トランジスタ１６２のゲート電極に供給される転送信号ＴＧがハイレベルになると、転送トランジスタ１６２はオンとなる。これにより、フォトダイオード１６１に蓄積されている電荷が転送トランジスタ１６２を介してＦＤ部１６３に転送される。
【００７８】
増幅トランジスタ１６５は、フォトダイオード１６１での光電変換によって得られる信号を読み出す読出し回路であるソースフォロワの入力部となり、ＦＤ部１６３に蓄積されている電荷に応じたレベルの画素信号を垂直信号線１６７に出力する。すなわち、増幅トランジスタ１６５は、ドレイン端子が電源ＶＤＤに接続され、ソース端子が選択トランジスタ１６４を介して垂直信号線１６７に接続されることで、垂直信号線１６７の一端に接続される電流源１６８とソースフォロワを構成する。
【００７９】
ＦＤ部１６３は、転送トランジスタ１６２と増幅トランジスタ１６５との間に設けられる電荷容量Ｃ１を有する浮遊拡散領域であり、転送トランジスタ１６２を介してフォトダイオード１６１から転送される電荷を一時的に蓄積する。ＦＤ部１６３は、電荷を電圧に変換する電荷検出部であって、ＦＤ部１６３に蓄積されている電荷が増幅トランジスタ１６５において電圧に変換される。
【００８０】
選択トランジスタ１６４は、選択信号ＳＥＬに従って駆動し、ゲート電極に供給される選択信号ＳＥＬがハイレベルになるとオンとなって、増幅トランジスタ１６５と垂直信号線１６７とを接続する。
【００８１】
リセットトランジスタ１６６は、リセット信号ＲＳＴに従って駆動する。例えば、リセットトランジスタ１６６は、ゲート電極に供給されるリセット信号ＲＳＴがハイレベルになるとオンとなり、ＦＤ部１６３に蓄積されている電荷を電源ＶＤＤに排出して、ＦＤ部１６３をリセットする。
【００８２】
例えば、図４の下段に示される画素回路は以下のように動作する。
【００８３】
すなわち、第一動作として、リセットトランジスタ１６６および転送トランジスタ１６２がオンにされ、ＦＤ部１６３に蓄積されている電荷を電源ＶＤＤに排出して、ＦＤ部１６３をリセットする。
【００８４】
第二動作として、リセットトランジスタ１６６および転送トランジスタ１６２がオフにされ、露光期間となり、フォトダイオード１６１により、入射光の光量に応じた電荷が蓄積される。
【００８５】
第三動作として、リセットトランジスタ１６６がオンにされて、ＦＤ部１６３がリセットされた後、リセットトランジスタ１６６がオフにされる。この動作により、ＦＤ部１６３が基準電位に設定される。
【００８６】
第四動作として、リセットされた状態のＦＤ部１６３の電位が、基準電位として増幅トランジスタ１６５より出力される。
【００８７】
第五動作として、転送トランジスタ１６２がオンにされて、フォトダイオード１６１に蓄積された電荷がＦＤ部１６３に転送される。
【００８８】
第六動作として、フォトダイオードの電荷が転送されたＦＤ部１６３の電位が、信号電位として増幅トランジスタ１６５より出力される。
【００８９】
そして、ＣＤＳ（相関二重サンプリング）により信号電位から基準電位が減算された信号が、画素１２１ａの検出信号（画素信号）として出力される。この検出信号の値（出力画素値）は、被写体からの入射光の入射角に応じて変調されており、入射角により特性（指向性）が異なる（入射角指向性を有する）。
【００９０】
＜撮像素子１２１の第２の構成例＞
図５は、撮像素子１２１の第２の構成例を示す図である。図５の上段には、第２の構成例である撮像素子１２１の画素１２１ａの側面断面図が示されており、図５の中段には、撮像素子１２１の上面図が示されている。また、図５の上段の側面断面図は、図５の中段におけるＡＢ断面となる。さらに、図５の下段は、撮像素子１２１の回路構成例である。
【００９１】
図５の撮像素子１２１は、１つの画素１２１ａに４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４が形成され、遮光膜１２１ｇがフォトダイオード１２１ｆ−１乃至１２１ｆ−４同士を分離する領域に形成されている点で、図４の撮像素子１２１と異なる構成となっている。即ち、図５の撮像素子１２１では、遮光膜１２１ｇは、上面から見て「＋」形状に形成されている。なお、それらの共通の構成については図４と同一の符号を付しており、詳細な説明は省略する。
【００９２】
図５の撮像素子１２１では、遮光膜１２１ｇによりフォトダイオード１２１ｆ−１乃至１２１ｆ−４が分離されることによって、フォトダイオード１２１ｆ−１乃至１２１ｆ−４間の電気的および光学的なクロストークの発生が防止される。すなわち、図５の遮光膜１２１ｇは、図４の撮像素子１２１の遮光膜１２１ｇと同様にクロストークを防止するためのものであって、入射角指向性を与えるためのものではない。
【００９３】
また、図５の撮像素子１２１では、１個のＦＤ部１６３が４個のフォトダイオード１２１ｆ−１乃至１２１ｆ−４で共有される。図５の下段は、１個のＦＤ部１６３を４個のフォトダイオード１２１ｆ−１乃至１２１ｆ−４で共有するようにした回路構成例を示している。尚、図５の下段において、図４の下段と同一の構成については、その説明を省略する。
【００９４】
図５の下段において、図４の下段の回路構成と異なる点は、フォトダイオード１６１（図４の上段におけるフォトダイオード１２１ｅに対応する）および転送トランジスタ１６２に代えて、フォトダイオード１６１−１乃至１６１−４（図５の上段におけるフォトダイオード１２１ｆ−１乃至１２１ｆ−４に対応する）および転送トランジスタ１６２−１乃至１６２−４を設け、ＦＤ部１６３を共有する構成としている点である。
【００９５】
このような構成により、フォトダイオード１２１ｆ−１乃至１２１ｆ−４に蓄積された電荷は、フォトダイオード１２１ｆ−１乃至１２１ｆ−４と増幅トランジスタ１６５のゲート電極との接続部に設けられる所定の容量を有する共通のＦＤ部１６３に転送される。そして、ＦＤ部１６３に保持されている電荷のレベルに応じた信号が検出信号（画素信号）として読み出される（ただし、上述したようにＣＤＳ処理が行われる）。
【００９６】
このため、フォトダイオード１２１ｆ−１乃至１２１ｆ−４で蓄積された電荷を様々な組み合わせで選択的に画素１２１ａの出力、すなわち検出信号に寄与させることができる。すなわち、フォトダイオード１２１ｆ−１乃至１２１ｆ−４毎に独立して電荷を読み出すことができる構成とし、出力に寄与するフォトダイオード１２１ｆ−１乃至１２１ｆ−４（フォトダイオード１２１ｆ−１乃至１２１ｆ−４が出力に寄与する度合い）を互いに異ならせることで、異なる入射角指向性を得ることができる。
【００９７】
例えば、フォトダイオード１２１ｆ−１とフォトダイオード１２１ｆ−３の電荷をＦＤ部１６３に転送し、それぞれを読み出して得られる信号を加算することにより、左右方向の入射角指向性を得ることができる。同様に、フォトダイオード１２１ｆ−１とフォトダイオード１２１ｆ−２の電荷をＦＤ部１６３に転送し、それぞれを読み出して得られる信号を加算することにより、上下方向の入射角指向性を得ることができる。
【００９８】
また、４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４より独立して選択的に読み出される電荷に基づいて得られる信号は、検出画像を構成する１画素分に相当する検出信号となる。
【００９９】
なお、各フォトダイオード１２１ｆ（の電荷）の検出信号への寄与は、例えば、各フォトダイオード１２１ｆの電荷（検出値）をＦＤ部１６３に転送するか否かだけでなく、電子シャッタ機能を用いてＦＤ部１６３への転送前にフォトダイオード１２１ｆに蓄積された電荷をリセットすること等でも実現することができる。例えば、ＦＤ部１６３への転送直前にフォトダイオード１２１ｆの電荷をリセットすれば、そのフォトダイオード１２１ｆは、検出信号に全く寄与しない状態となる。一方、フォトダイオード１２１ｆの電荷をリセットとＦＤ部１６３への電荷の転送との間に時間を持たせることにより、そのフォトダイオード１２１ｆは、部分的に検出信号に寄与する状態となる。
【０１００】
以上のように、図５の撮像素子１２１の場合、４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４のうち、検出信号に用いるものの組み合わせを変更することで、画素毎に異なる入射角指向性を持たせることができる。また、図５の撮像素子１２１の各画素１２１ａから出力される検出信号は、被写体からの入射光の入射角に応じて変調された値（出力画素値）となり、入射角により特性（指向性）が異なる（入射角指向性を有する）。
【０１０１】
なお、以下、検出画像の１画素分に相当する検出信号を出力する単位を画素出力単位と称する。画素出力単位は、少なくとも１つ以上のフォトダイオードを備え、通常は、撮像素子１２１の各画素１２１ａが、それぞれ１つの画素出力単位に相当する。
【０１０２】
例えば、図４の撮像素子１２１では、１つの画素１２１ａにそれぞれ１つのフォトダイオード１２１ｅが設けられているため、１つの画素出力単位がそれぞれ１つのフォトダイオード１２１ｅを備えることになる。換言すれば、１つのフォトダイオード１２１ｅにより、１つの画素出力単位が構成される。
【０１０３】
そして、各画素１２１ａの遮光膜１２１ｂによる遮光の状態をそれぞれ異なるものとすることで、各画素出力単位の入射角指向性を異なるものとすることができる。そして、図４の撮像素子１２１では、遮光膜１２１ｂを用いて各画素１２１ａへの入射光が光学的に変調され、その結果、各画素１２１ａのフォトダイオード１２１ｅから出力される信号により、入射角指向性を反映した検出画像の１画素分の検出信号が得られる。すなわち、図４の撮像素子１２１は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光する複数の画素出力単位を備え、各画素出力単位が１つのフォトダイオード１２１ｅを備え、被写体からの入射光の入射角に対する特性（入射角指向性）が画素出力単位毎に設定されている。
【０１０４】
一方、図５の撮像素子１２１では、１つの画素１２１ａにそれぞれ４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４が設けられているため、１つの画素出力単位がそれぞれ４つのフォトダイオード１２１ｅを備えることになる。換言すれば、４つのフォトダイオード１２１ｆにより、１つの画素出力単位が構成される。一方、各フォトダイオード１２１ｅ単体により、個別の画素出力単位が構成されることはない。
【０１０５】
そして、上述したように４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４のうち検出信号に寄与するフォトダイオード１２１ｆを画素１２１ａ毎に異なるものとすることで、画素出力単位毎の入射角指向性が異なるものとなる。すなわち、図５の撮像素子１２１では、４個のフォトダイオード１２１ｆ−１乃至１２１ｆ−４のうち出力（検出信号）に寄与しない範囲が遮光された領域と同様に機能する。そして、フォトダイオード１２１ｆ−１乃至１２１ｆ−４から出力される信号の組合せにより、入射角指向性を反映した検出画像の１画素分の検出信号が得られる。すなわち、図５の撮像素子１２１は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光する複数の画素出力単位を備え、各画素出力単位が複数のフォトダイオード（例えば、フォトダイオード１２１ｆ−１乃至１２１ｆ−４）を備え、出力に寄与するフォトダイオード（の度合い）を異ならせることで、被写体からの入射光の入射角に対する各画素出力単位の特性（入射角指向性）が互いに異なる。
【０１０６】
なお、図５の撮像素子１２１では、入射光が光学的に変調されずに全てのフォトダイオード１２１ｆ−１乃至１２１ｆ−４に入射されるため、検出信号は、光学的な変調により得られる信号ではない。また、以降において、検出信号に寄与しないフォトダイオード１２１ｆのことを、画素出力単位又は出力に寄与しないフォトダイオード１２１ｆとも称する。
【０１０７】
なお、図５には、画素出力単位（画素１２１ａ）の受光面を４等分して、各領域にそれぞれ受光面が同じ大きさのフォトダイオード１２１ｆを配置した例、すなわち、フォトダイオードを４等分した例を示しているが、フォトダイオードの分割数や分割位置は任意に設定することが可能である。
【０１０８】
例えば、フォトダイオードを必ずしも等分する必要はなく、画素出力単位毎にフォトダイオードの分割位置を異ならせてもよい。これにより、例えば、複数の画素出力単位間で同じ位置のフォトダイオード１２１ｆを出力に寄与させるようにしたとしても、画素出力単位間で入射角指向性が異なるようになる。また、例えば、画素出力単位間で分割数を異なるものとすることにより、より自由に入射角指向性を設定することが可能になる。さらに、例えば、画素出力単位間で分割数及び分割位置の両方を異ならせるようにしてもよい。
【０１０９】
また、図４の撮像素子１２１及び図５の撮像素子１２１のいずれも、各画素出力単位が入射角指向性を独立に設定可能な構成を有している。一方、上述した非特許文献１や特許文献１、２に示される撮像装置では、撮像素子の各画素出力単位が入射角指向性を独立に設定可能な構成を有していない。なお、図４の撮像素子１２１では、各画素出力単位の入射角指向性が、遮光膜１２１ｂにより製造時に設定される。一方、図５の撮像素子１２１では、各画素出力単位のフォトダイオードの分割数や分割位置は製造時に設定されるが、各画素出力単位の入射角指向性（出力に寄与させるフォトダイオードの組合せ）は使用時（例えば、撮像時）に設定することができる。なお、図４の撮像素子１２１及び図５の撮像素子１２１のいずれにおいても、必ずしも全ての画素出力単位が、入射角指向性を持たせる構成を備える必要はない。
【０１１０】
なお、上述したように、通常は、撮像素子の各画素が、それぞれ１つの画素出力単位に相当するが、後述するように、複数の画素により、１つの画素出力単位が構成される場合もある。以降においては、特に記載がない限り、撮像素子の各画素が、それぞれ１つの画素出力単位に相当するものとして、説明を行う。
【０１１１】
＜入射角指向性を生じさせる原理について＞
撮像素子１２１の各画素の入射角指向性は、例えば、図６に示されるような原理により発生する。尚、図６の左上部および右上部は、図４の撮像素子１２１における入射角指向性の発生原理を説明する図であり、図６の左下部および右下部は、図５の撮像素子１２１における入射角指向性の発生原理を説明する図である。
【０１１２】
図６の左上部および右上部の画素は、いずれも１個のフォトダイオード１２１ｅを備える。これに対して、図６の左下部および右下部の画素は、いずれも２個のフォトダイオード１２１ｆを備える。尚、ここでは、１画素が２個のフォトダイオード１２１ｆを備える例を示しているが、これは説明の便宜上であり、１画素が備えるフォトダイオード１２１ｆの数は、その他の個数であってもよい。
【０１１３】
図６の左上部の画素においては、フォトダイオード１２１ｅ−１１の受光面の右半分を遮光するように遮光膜１２１ｂ−１１が形成されている。また、図６の右上部の画素においては、フォトダイオード１２１ｅ−１２の受光面の左半分を遮光するように遮光膜１２１ｂ−１２が形成されている。尚、図中の一点鎖線は、フォトダイオード１２１ｅの受光面の水平方向の中心を通り、受光面に対して垂直な補助線である。
【０１１４】
例えば、図６の左上部の画素においては、図中の一点鎖線に対して入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｅ−１１の遮光膜１２１ｂ−１１により遮光されていない左半分の範囲により受光され易い。これに対して、図中の一点鎖線に対して入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｅ−１１の遮光膜１２１ｂ−１１により遮光されていない左半分の範囲により受光されにくい。したがって、図６の左上部の画素は、図中の右上方からの入射光に対して受光感度が高く、左上方からの入射光に対して受光感度が低い入射角指向性を備えることになる。
【０１１５】
一方、例えば、図６の右上部の画素においては、入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｅ−１２の遮光膜１２１ｂ−１２により遮光されている左半分の範囲により受光されにくい。これに対して、入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｅ−１２の遮光膜１２１ｂ−１２により遮光されていない右半分の範囲により受光され易い。したがって、図６の右上部の画素は、図中の右上方からの入射光に対して受光感度が低く、左上方からの入射光に対して受光感度が高い入射角指向性を備えることになる。
【０１１６】
また、図６の左下部の画素は、図中の左右にフォトダイオード１２１ｆ−１１，１２１ｆ−１２が設けられており、いずれか一方の検出信号を読み出すようにすることで、遮光膜１２１ｂを設けることなく入射角指向性を有する構成とされている。
【０１１７】
すなわち、図６の左下部の画素では、図中の左側に設けられたフォトダイオード１２１ｆ−１１の信号のみを読み出すようにすることで、図６の左上部の画素と同様の入射角指向性を得ることができる。すなわち、図中の一点鎖線に対して入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｆ−１１に入射し、受光量に対応する信号がフォトダイオード１２１ｆ−１１から読み出されるため、この画素から出力される検出信号に寄与する。これに対して、図中の一点鎖線に対して入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｆ−１２に入射するが、フォトダイオード１２１ｆ−１２から読み出されないため、この画素から出力される検出信号に寄与しない。
【０１１８】
同様に、図６の右下部の画素のように、２個のフォトダイオード１２１ｆ−１３，１２１ｆ−１４を備える場合、図中の右側に設けられたフォトダイオード１２１ｆ−１４の信号のみを読み出すようにすることで、図６の右上部の画素と同様の入射角指向性を得ることができる。すなわち、入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｆ−１３に入射するが、フォトダイオード１２１ｆ−１３から信号が読み出されないため、この画素から出力される検出信号に寄与しない。これに対して、入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｆ−１４に入射し、受光量に対応する信号がフォトダイオード１２１ｆ−１４から読み出されるため、この画素から出力される検出信号に寄与する。
【０１１９】
尚、図６の上部の画素においては、画素（フォトダイオード１２１ｅの受光面）の水平方向の中心位置で遮光される範囲と遮光されない範囲が分かれる例を示したが、その他の位置で分かれるようにしてもよい。また、図６の下部の画素においては、画素の水平方向の中心位置で、２つのフォトダイオード１２１ｆが分かれる例を示したが、その他の位置で分かれるようにしてもよい。このように、遮光範囲又はフォトダイオード１２１ｆが分かれる位置を変えることにより、異なる入射角指向性を生じさせることができる。
【０１２０】
＜オンチップレンズを含む構成における入射角指向性について＞
次に、図７を参照して、オンチップレンズ１２１ｃを含めた構成における入射角指向性について説明する。
【０１２１】
図７の上段のグラフは、図７の中段及び下段の画素の入射角指向性を示している。なお、横軸が入射角度θであり、縦軸が検出信号レベルを示している。なお、入射角度θは、入射光の方向が、図７の中段左側の一点鎖線と一致する場合を０度とし、図７の中段左側の入射角度θ２１側を正の方向とし、図７の中段右側の入射角度θ２２側を負の方向とする。したがって、オンチップレンズ１２１ｃに対して、右上方より入射する入射光については、左上方より入射する入射光よりも入射角度が大きくなる。すなわち入射角度θは、入射光の進行方向が左に傾くほど大きくなり（正の方向に大きくなり）、右に傾くほど小さくなる（負の方向に大きくなる）。
【０１２２】
また、図７の中段左部の画素は、図６の上段左部の画素に、入射光を集光するオンチップレンズ１２１ｃ−１１、及び、所定の波長の光を透過させるカラーフィルタ１２１ｄ−１１を追加したものである。すなわち、この画素では、オンチップレンズ１２１ｃ−１１、カラーフィルタ１２１ｄ−１１、遮光膜１２１ｂ−１１、フォトダイオード１２１ｅ−１１が、図中上方の光の入射方向から順に積層されている。
【０１２３】
同様に、図７の中段右部の画素、図７の下段左部の画素、及び、図７の下段右部の画素は、それぞれ、図６の上段右部の画素、図６の下段左部の画素、及び、図６の下段右部の画素に、オンチップレンズ１２１ｃ−１１及びカラーフィルタ１２１ｄ−１１、又は、オンチップレンズ１２１ｃ−１２及びカラーフィルタ１２１ｄ−１２を追加したものである。
【０１２４】
図７の中段左部の画素では、図７の上段の実線の波形で示されるように、入射光の入射角度θに応じてフォトダイオード１２１ｅ−１１の検出信号レベル（受光感度）が変化する。すなわち、図中の一点鎖線に対して入射光のなす角である入射角度θが大きいほど（入射角度θが正の方向に大きいほど（図中の右方向に傾くほど））、遮光膜１２１ｂ−１１が設けられていない範囲に光が集光されることで、フォトダイオード１２１ｅ−１１の検出信号レベルが大きくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど（図中の左方向に傾くほど））、遮光膜１２１ｂ−１１が設けられている範囲に光が集光されることで、フォトダイオード１２１ｅ−１１の検出信号レベルが小さくなる。
【０１２５】
また、図７の中段右部の画素では、図７の上段の点線の波形で示されるように、入射光の入射角度θに応じてフォトダイオード１２１ｅ−１２の検出信号レベル（受光感度）が変化する。すなわち、入射光の入射角度θが大きいほど（入射角度θが正の方向に大きいほど）、遮光膜１２１ｂ−１２が設けられている範囲に光が集光されることで、フォトダイオード１２１ｅ−１２の検出信号レベルが小さくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、遮光膜１２１ｂ−１２が設けられていない範囲に光が入射することで、フォトダイオード１２１ｅ−１２の検出信号レベルが大きくなる。
【０１２６】
この図７の上段に示される実線および点線の波形は、遮光膜１２１ｂの範囲に応じて変化させることができる。従って、遮光膜１２１ｂの範囲により、画素単位で相互に異なる入射角指向性を持たせることが可能となる。
【０１２７】
上述したように、入射角指向性とは、入射角度θに応じた各画素の受光感度の特性であるが、これは、図７の中段の画素では、入射角度θに応じた遮光値の特性であるとも言える。すなわち、遮光膜１２１ｂは、特定の方向の入射光は高いレベルで遮光するが、それ以外の方向からの入射光は十分に遮光できない。この遮光できるレベルの変化が、図７の上段に示されるような入射角度θに応じた異なる検出信号レベルを生じさせる。したがって、各画素において最も高いレベルで遮光可能な方向を各画素の遮光方向と定義すると、画素単位で相互に異なる入射角指向性を持つということは、換言すれば、画素単位で相互に異なる遮光方向を持つということになる。
【０１２８】
また、図７の下段左部の画素では、図６の下段左部の画素と同様に、図中左部のフォトダイオード１２１ｆ−１１のみの信号を用いるようにすることで、図７の中段左部の画素と同様の入射角指向性を得ることができる。すなわち、入射光の入射角度θが大きくなると（入射角度θが正の方向に大きくなると）、信号が読み出されるフォトダイオード１２１ｆ−１１の範囲に光が集光されることで、検出信号レベルが大きくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、信号が読み出されないフォトダイオード１２１ｆ−１２の範囲に光が集光されることで、検出信号レベルが小さくなる。
【０１２９】
また、同様に、図７の下段右部の画素では、図６の下段右部の画素と同様に、図中右部のフォトダイオード１２１ｆ−１４のみの信号を用いるようにすることで、図７の中段右部の画素と同様の入射角指向性を得ることができる。すなわち、入射光の入射角度θが大きくなると（入射角度θが正の方向に大きくなると）、出力（検出信号）に寄与しないフォトダイオード１２１ｆ−１３の範囲に光が集光されることで、画素単位の検出信号のレベルが小さくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、出力（検出信号）に寄与するフォトダイオード１２１ｆ−１４の範囲に光が集光されることで、画素単位の検出信号のレベルが大きくなる。
【０１３０】
なお、図７の下段の画素のように、画素内に複数のフォトダイオードを設け、出力に寄与するフォトダイオードを変更可能な画素において、各フォトダイオードに入射光の入射角に対する指向性を持たせ、画素単位での入射角指向性を生じさせるために、各画素にオンチップレンズ１２１ｃが必須構成となる。
【０１３１】
尚、入射角指向性については、画素単位でランダム性が高い方が望ましい。例えば、隣り合う画素間で同一の入射角指向性を持つと、上述した式（１）乃至式（３）または、後述する式（４）乃至式（６）が相互に同一の式となる恐れがあり、その結果、連立方程式の解となる未知数に対して式の数が不足し、復元画像を構成する画素値を求められなくなる恐れがあるためである。
【０１３２】
なお、以下の説明では、図４の画素１２１ａのように、遮光膜１２１ｂを用いて入射角指向性を実現する画素１２１ａを用いる場合の例を中心に説明する。ただし、遮光膜１２１ｂが必須となる場合を除いて、基本的にフォトダイオードを分割して入射角指向性を実現する画素１２１ａを用いることも可能である。
【０１３３】
＜遮光膜の構成について＞
以上においては、図３に示されるように、撮像素子１２１の各画素１２１ａの遮光膜１２１ｂの構成として、垂直方向に対しては受光面全体を遮光し、水平方向の遮光幅や位置を変化させる例を示したが、当然のことながら、水平方向に対して受光面全体を遮光し、垂直方向の幅（高さ）や位置を変化させるようにして、各画素１２１ａに入射角指向性を持たせるようにしてもよい。
【０１３４】
尚、以降においては、図３の例のように、垂直方向に対しては画素１２１ａの受光面全体を遮光し、水平方向に対して所定の幅で受光面を遮光する遮光膜１２１ｂを、横帯タイプの遮光膜１２１ｂと称する。また、水平方向に対しては画素１２１ａの受光面全体を遮光し、垂直方向に対して所定の高さで受光面を遮光する遮光膜１２１ｂを、縦帯タイプの遮光膜１２１ｂと称する。
【０１３５】
また、図８の左部に示されるように、縦帯タイプと横帯タイプの遮光膜１２１ｂを組み合わせて、例えば、ベイヤ配列のそれぞれの画素に対して、Ｌ字型のような遮光膜１２１ｂを設けるようにしてもよい。
【０１３６】
尚、図８においては、黒色の範囲が遮光膜１２１ｂを表しており、特に断りがない限り、以降の図面においても同様に表示する。また、図８の例では、ベイヤ配列となるＧ（緑色）画素の画素１２１ａ−２１，１２１ａ−２４、Ｒ（赤色）画素の画素１２１ａ−２２、およびＢ（青色）画素の画素１２１ａ−２３のそれぞれに対して、Ｌ字型の遮光膜１２１ｂ−２１乃至１２１ｂ−２４が設けられている。
【０１３７】
この場合、各画素１２１ａは、図８の右部に示されるような入射角指向性を有することになる。すなわち、図８の右部においては、各画素１２１ａの受光感度の分布が示されており、横軸が入射光の水平方向（ｘ方向）の入射角度θｘを表し、縦軸が入射光の垂直方向（ｙ方向）の入射角度θｙを表している。そして、範囲Ｃ４内の受光感度が、範囲Ｃ４の外よりも高く、範囲Ｃ３内の受光感度が、範囲Ｃ３の外よりも高く、範囲Ｃ２内の受光感度が、範囲Ｃ２の外よりも高く、範囲Ｃ１内の受光感度が、範囲Ｃ１の外よりも高くなる。
【０１３８】
従って、各画素１２１ａにおいて、水平方向（ｘ方向）の入射角度θｘと、垂直方向（ｙ方向）の入射角度θｙとが範囲Ｃ１内となる入射光に対する検出信号レベルが最も高くなる。そして、入射角度θｘと入射角度θｙが範囲Ｃ２内、範囲Ｃ３内、範囲Ｃ４内、および、範囲Ｃ４以外の範囲となる入射光の順に検出信号レベルが低くなる。尚、図８の右部に示される受光感度の強度分布は、ベイヤ配列とは無関係に、各画素１２１ａにおける遮光膜１２１ｂにより遮光される範囲により決定されるものである。
【０１３９】
尚、以降においては、図８のＬ字型の遮光膜１２１ｂ−２１乃至１２１ｂ−２４のように、縦帯タイプの遮光膜と横帯タイプの遮光膜をそれぞれの端部でつなぎ合わせた形状の遮光膜１２１ｂを、Ｌ字タイプの遮光膜１２１ｂと総称するものとする。
【０１４０】
＜入射角指向性の設定方法＞
次に、図９を参照して、入射角指向性の設定方法の例について説明する。
【０１４１】
例えば、図９の上段に示されるように、遮光膜１２１ｂの水平方向の遮光範囲が、画素１２１ａの左端部から位置Ａまでの範囲とし、垂直方向の遮光範囲が、画素１２１ａの上端部から位置Ｂまでの範囲である場合について考える。
【０１４２】
この場合、各画素の水平方向の中心位置からの入射角度θｘ（ｄｅｇ）に応じた重みであって、水平方向の入射角指向性の指標となる０乃至１の重みＷｘを設定する。より詳細には、位置Ａに対応する入射角度θｘ＝θａにおいて、重みＷｘが０．５になると仮定した場合、入射角度θｘ＜θａ−αにおいて重みＷｘが１となり、θａ−α≦入射角度θｘ≦θａ＋αにおいて、重みＷｘが（−（θｘ−θａ）／２α＋０．５）となり、入射角度θｘ＞θａ＋αにおいて重みＷｘが０となるように重みＷｘを設定する。
【０１４３】
同様に、各画素の垂直方向の中心位置からの入射角度θｙ（ｄｅｇ）に応じた重みであって、垂直方向の入射角指向性の指標となる０乃至１の重みＷｙを設定する。より詳細には、位置Ｂに対応する入射角度θｙ＝θｂにおいて、重みＷｙが０．５になると仮定した場合、入射角度θｙ＜θｂ−αにおいて重みＷｙが０となり、θｂ−α≦入射角度θｙ≦θｂ＋αにおいて、重みＷｙが（（θｙ−θｂ）／２α＋０．５）となり、入射角度θｙ＞θｂ＋αにおいて重みＷｙが１となるように重みＷｙを設定する。
【０１４４】
尚、重みＷｘ及び重みＷｙが、図９のグラフのように変化するのは、理想的な条件が満たされる場合となる。
【０１４５】
そして、このようにして求められた重みＷｘ，Ｗｙを用いることにより、それぞれの画素１２１ａの入射角指向性、すなわち、受光感度特性に対応する係数を求めることができる。例えば、被写体面３１のある点光源からの入射光の入射角度θｘに対応する重みＷｘと、入射角度θｙに対応する重みＷｙとを乗じた値が、その点光源に対する係数に設定される。
【０１４６】
また、このとき、水平方向の重みＷｘおよび垂直方向の重みＷｙが０．５前後となる範囲における重みの変化を示す傾き（１／２α）は、焦点距離の異なるオンチップレンズ１２１ｃを用いることで設定することができる。
【０１４７】
例えば、図９の下段の実線で示されるように、オンチップレンズ１２１ｃの焦点距離が遮光膜１２１ｂの表面に合っている場合、水平方向の重みＷｘ及び垂直方向の重みＷｙの傾き（１／２α）は、急峻になる。すなわち、重みＷｘおよび重みＷｙは、値が０．５付近となる水平方向の入射角度θｘ＝θａ、および、垂直方向の入射角度θｙ＝θｂの境界付近において、急激に０または１に変化する。
【０１４８】
また、例えば、図９の下段の点線で示されるように、オンチップレンズ１２１ｃの焦点距離がフォトダイオード１２１ｅの表面に合っている場合、水平方向の重みＷｘ及び垂直方向の重みＷｙの傾き（１／２α）は、緩やかになる。すなわち、重みＷｘおよび重みＷｙは、値が０．５付近となる水平方向の入射角度θｘ＝θａ、および、垂直方向の入射角度θｙ＝θｂの境界付近において、緩やかに０または１に変化する。
【０１４９】
例えば、オンチップレンズ１２１ｃの焦点距離は、オンチップレンズ１２１ｃの曲率により変化する。従って、曲率の異なるオンチップレンズ１２１ｃを用いて、オンチップレンズ１２１ｃの焦点距離を変化させることで異なる入射角指向性、すなわち、異なる受光感度特性を得ることができる。
【０１５０】
したがって、画素１２１ａの入射角指向性は、遮光膜１２１ｂによりフォトダイオード１２１ｅが遮光される範囲と、オンチップレンズ１２１ｃの曲率との組み合わせにより調整することができる。尚、オンチップレンズの曲率は、撮像素子１２１の全ての画素１２１ａで同一にしてもよいし、一部の画素１２１ａで異なるようにしてもよい。
【０１５１】
例えば、撮像素子１２１の各画素１２１ａの入射角指向性を表す指標として、各画素１２１ａの位置、各画素１２１ａの遮光膜１２１ｂの形状、位置、範囲、オンチップレンズ１２１ｃの曲率等に基づいて、図９のグラフのような重みＷｘ及び重みＷｙの特性が画素１２１ａ毎に設定される。また、所定の被写体距離の被写体面３１上のある点光源と、撮像素子１２１のある画素１２１ａとの位置関係に基づいて、当該点光源から当該画素１２１ａへの光線の入射角度が求められる。そして、求めた入射角度、並びに、当該画素１２１ａの重みＷｘ及び重みＷｙの特性に基づいて、当該点光源に対する当該画素１２１ａの係数が求められる。
【０１５２】
同様に、被写体面３１上の各点光源と撮像素子１２１の各画素１２１ａとの組み合わせについて、上述したように係数を求めることにより、上述した式（１）乃至式（３）の係数セットα１，β１，γ１，係数セットα２，β２，γ２，係数セットα３，β３，γ３のような、被写体面３１に対する撮像素子１２１の係数セット群を求めることができる。
【０１５３】
なお、図１３を参照して後述するように、被写体面３１から撮像素子１２１の受光面までの被写体距離が異なると、被写体面３１の各点光源からの光線の撮像素子１２１への入射角が異なるため、被写体距離毎に異なる係数セット群が必要となる。
【０１５４】
また、同じ被写体距離の被写体面３１であっても、設定する点光源の数や配置が異なると、各点光源からの光線の撮像素子１２１への入射角が異なる。従って、同じ被写体距離の被写体面３１に対して、複数の係数セット群が必要となる場合がある。また、各画素１２１ａの入射角指向性は、上述した連立方程式の独立性を確保できるように設定する必要がある。
【０１５５】
＜オンチップレンズと撮像レンズとの違い＞
本開示の撮像装置１０１においては、撮像素子１２１は、撮像レンズからなる光学ブロックやピンホールを必要としない構成であるが、上述したように、オンチップレンズ１２１ｃは設けられる。ここで、オンチップレンズ１２１ｃと撮像レンズとは、物理的作用が異なるものである。
【０１５６】
例えば、図１０に示されるように、点光源Ｐ１０１から発せられた拡散光のうち撮像レンズ１５２に入射した光は、撮像素子１５１上の画素位置Ｐ１１１において集光する。すなわち、撮像レンズ１５２は、点光源Ｐ１０１から異なる角度で入射する拡散光を、画素位置Ｐ１１１に集光し、点光源Ｐ１０１の像を結像させるように設計されている。この画素位置Ｐ１１１は、点光源Ｐ１０１と撮像レンズ１５２の中心とを通る主光線Ｌ１０１により特定される。
【０１５７】
また、例えば、図１１に示されるように、点光源Ｐ１０１とは異なる点光源Ｐ１０２から発せられた拡散光のうち撮像レンズ１５２に入射した光は、撮像素子１５１上の画素位置Ｐ１１１とは異なる画素位置Ｐ１１２において集光する。すなわち、撮像レンズ１５２は、点光源Ｐ１０２から異なる角度で入射する拡散光を、画素位置Ｐ１１２に集光し、点光源Ｐ１０２の像を結像させるように設計されている。この画素位置Ｐ１１２は、点光源Ｐ１０２と撮像レンズ１５２の中心とを通る主光線Ｌ１０２により特定される。
【０１５８】
このように、撮像レンズ１５２は、撮像素子１５１上の異なる画素位置Ｐ１１１，Ｐ１１２に、それぞれ主光線が異なる点光源Ｐ１０１，Ｐ１０２の像を結像させる。
【０１５９】
さらに、図１２に示されるように、点光源Ｐ１０１が無限遠に存在する場合、点光源Ｐ１０１から発せられた拡散光の一部が、主光線Ｌ１０１に平行な平行光として撮像レンズ１５２に入射する。例えば、主光線Ｌ１０１に対して平行な光線Ｌ１２１と光線Ｌ１２２の間の光線からなる平行光が撮像レンズ１５２に入射する。そして、撮像レンズ１５２に入射した平行光は、撮像素子１５１上の画素位置Ｐ１１１に集光する。すなわち、撮像レンズ１５２は、無限遠に存在する点光源Ｐ１０１からの平行光を、画素位置Ｐ１１１に集光し、点光源Ｐ１０１の像を結像させるように設計されている。
【０１６０】
従って、撮像レンズ１５２は、例えば、主光線入射角θ１を持つ点光源からの拡散光を画素（画素出力単位）Ｐ１に入射させ、主光線入射角θ１とは異なる主光線入射角θ２を持つ点光源からの拡散光を、画素Ｐ１とは異なる画素（画素出力単位）Ｐ２に入射させる集光機能を持つ。すなわち、撮像レンズ１５２は、主光線の入射角が異なる光源からの拡散光を、互いに隣接する複数の画素（画素出力単位）へ入射させるための集光機能を持つ。ただし、例えば、互いに近接している点光源や、無限遠に存在しており実質的に近接している点光源からの光は、同じ画素（画素出力単位）に入射する場合がある。
【０１６１】
これに対して、例えば、図４，図５を参照して説明したように、オンチップレンズ１２１ｃを通る光は、対応する画素（画素出力単位）を構成するフォトダイオード１２１ｅまたはフォトダイオード１２１ｆの受光面のみに入射される。換言すれば、オンチップレンズ１２１ｃは、画素（画素出力単位）毎に設けられ、自身に入射する入射光を対応する画素（画素出力単位）のみに集光する。すなわち、オンチップレンズ１２１ｃは、異なる点光源からの光を、異なる画素（画素出力単位）へ入射させるための集光機能を持たない。
【０１６２】
なお、ピンホールを用いた場合、各画素（画素出力単位）の位置と光の入射角の関係が一意に定まる。したがって、ピンホールと従来の撮像素子を用いた構成の場合、各画素に対して、入射角指向性を独立して自由に設定することができない。
【０１６３】
＜被写体面と撮像素子との距離の関係＞
次に、図１３を参照して、被写体面と撮像素子１２１との距離の関係について説明する。
【０１６４】
なお、図１３の左上に示されるように、撮像素子１２１（図１の撮像素子５１と同様）と被写体面３１までの被写体距離が距離ｄ１である場合、撮像素子１２１上の画素Ｐｃ，Ｐｂ，Ｐａにおける検出信号レベルＤＡ，ＤＢ，ＤＣが、上述した式（１）乃至式（３）と同一の式で表されるものとする。
【０１６５】
ＤＡ＝α１×ａ＋β１×ｂ＋γ１×ｃ
・・・（１）
ＤＢ＝α２×ａ＋β２×ｂ＋γ２×ｃ
・・・（２）
ＤＣ＝α３×ａ＋β３×ｂ＋γ３×ｃ
・・・（３）
【０１６６】
また、図１３の左下に示されるように、撮像素子１２１との被写体距離が距離ｄ１よりもｄだけ大きな距離ｄ２である被写体面３１’、すなわち、撮像素子１２１から見て、被写体面３１よりも奥の被写体面３１’について考える場合も、撮像素子１２１上の画素Ｐｃ，Ｐｂ，Ｐａにおける検出信号レベルは、図１３の下段中央部に示されるように、検出信号レベルＤＡ，ＤＢ，ＤＣで同様になる。
【０１６７】
しかしながら、この場合、被写体面３１’上の点光源ＰＡ’，ＰＢ’，ＰＣ’からの光強度ａ’，ｂ’，ｃ’の光線が撮像素子１２１の各画素において受光される。また、撮像素子１２１への光強度ａ’，ｂ’，ｃ’の光線の入射角度が異なる（変化する）ので、それぞれ異なる係数セット群が必要となる。従って、各画素Ｐａ，Ｐｂ，Ｐｃにおける検出信号レベルＤＡ，ＤＢ，ＤＣは、例えば、以下の式（４）乃至式（６）で表される。
【０１６８】
ＤＡ＝α１１×ａ’＋β１１×ｂ’＋γ１１×ｃ’
・・・（４）
ＤＢ＝α１２×ａ’＋β１２×ｂ’＋γ１２×ｃ’
・・・（５）
ＤＣ＝α１３×ａ’＋β１３×ｂ’＋γ１３×ｃ’
・・・（６）
【０１６９】
ここで、係数セットα１１，β１１，γ１１，係数セットα１２，β１２，γ１２，係数セットα１３，β１３，γ１３からなる係数セット群は、被写体面３１に対する係数セットα１，β１，γ１，係数セットα２，β２，γ２，係数セットα３，β３，γ３に対応する被写体面３１’に対する係数セット群である。
【０１７０】
従って、式（４）乃至式（６）からなる連立方程式を、予め設定された係数セット群α１１，β１１，γ１１，α１２，β１２，γ１２，α１３，β１３，γ１３を用いて解くことで、被写体面３１の点光源ＰＡ，ＰＢ，ＰＣからの光線の光強度ａ，ｂ，ｃを求める場合と同様の手法で、図１３の右下に示されるように、被写体面３１’の点光源ＰＡ’，ＰＢ’，ＰＣ’からの光線の光強度ａ’，ｂ’，ｃ’を求めることができる。その結果、被写体面３１’の復元画像を復元することが可能となる。
【０１７１】
従って、図２の撮像装置１０１においては、撮像素子１２１からの被写体面までの距離（被写体距離）毎の係数セット群を予め用意しておき、被写体距離毎に係数セット群を切り替えて連立方程式を作成し、作成した連立方程式を解くことで、１個の検出画像に基づいて、様々な被写体距離の被写体面の復元画像を得ることが可能となる。例えば、検出画像を１回撮像し、記録した後、記録した検出画像を用いて、被写体面までの距離に応じて係数セット群を切り替えて、復元画像を復元することにより、任意の被写体距離の被写体面の復元画像を生成することが可能である。
【０１７２】
また、被写体距離や画角が特定できるような場合については、全ての画素を用いずに、特定された被写体距離や画角に対応した被写体面の撮像に適した入射角指向性を有する画素の検出信号を用いて、復元画像を生成するようにしてもよい。これにより、特定された被写体距離や画角に対応した被写体面の撮像に適した画素の検出信号を用いて復元画像を生成することができる。
【０１７３】
例えば、図１４の上段に示されるように、４辺のそれぞれの端部から幅ｄ１だけ遮光膜１２１ｂにより遮光されている画素１２１ａと、図１４の下段に示されるように、４辺のそれぞれの端部から幅ｄ２（＞ｄ１）だけ遮光膜１２１ｂにより遮光されている画素１２１ａ’とを考える。
【０１７４】
図１５は、撮像素子１２１の中心位置Ｃ１への被写体面３１からの入射光の入射角度の例を示している。なお、図１５においては、水平方向の入射光の入射角度の例を示しているが、垂直方向についてもほぼ同様となる。また、図１５の右部には、図１４における画素１２１ａ，１２１ａ’が示されている。
【０１７５】
例えば、図１４の画素１２１ａが撮像素子１２１の中心位置Ｃ１に配置されている場合、被写体面３１から画素１２１ａへの入射光の入射角の範囲は、図１５の左部に示されるように角度Ａ１となる。従って、画素１２１ａは、被写体面３１の水平方向の幅Ｗ１分の入射光を受光することができる。
【０１７６】
これに対して、図１４の画素１２１ａ’が撮像素子１２１の中心位置Ｃ１に配置されている場合、画素１２１ａ’は画素１２１ａよりも遮光される範囲が広いため、被写体面３１から画素１２１ａ’への入射光の入射角の範囲は、図１５の左部に示されるように角度Ａ２（＜Ａ１）となる。従って、画素１２１ａ’は、被写体面３１の水平方向の幅Ｗ２（＜Ｗ１）分の入射光を受光することができる。
【０１７７】
つまり、遮光範囲が狭い画素１２１ａは、被写体面３１上の広い範囲を撮像するのに適した広画角画素であるのに対して、遮光範囲が広い画素１２１ａ’は、被写体面３１上の狭い範囲を撮像するのに適した狭画角画素である。尚、ここでいう広画角画素および狭画角画素は、図１４の画素１２１ａ，１２１ａ’の両者を比較する表現であって、その他の画角の画素を比較する上ではこの限りではない。
【０１７８】
従って、例えば、画素１２１ａは、図１４の画像Ｉ１を復元するために用いられる。画像Ｉ１は、図１６の上段の被写体となる人物Ｈ１０１の全体を含み、被写体幅Ｗ１に対応する画角ＳＱ１の画像である。これに対して、例えば、画素１２１ａ’は、図１４の画像Ｉ２を復元するために用いられる。画像Ｉ２は、図１６の上段の人物Ｈ１０１の顔の周辺がズームアップされた被写体幅Ｗ２に対応する画角ＳＱ２の画像である。
【０１７９】
また、例えば、図１６の下段に示されるように、撮像素子１２１の点線で囲まれた範囲ＺＡに、図１４の画素１２１ａを、一点鎖線で囲まれた範囲ＺＢに画素１２１ａ’を、それぞれ所定画素数ずつ集めて配置することが考えられる。そして、例えば、被写体幅Ｗ１に対応する画角ＳＱ１の画像を復元するときには、範囲ＺＡ内の各画素１２１ａの検出信号を用いるようにすることで、適切に画角ＳＱ１の画像を復元することができる。一方、被写体幅Ｗ２に対応する画角ＳＱ２の画像を復元するときには、範囲ＺＢ内の各画素１２１ａ’の検出信号を用いるようにすることで、適切に画角ＳＱ２の画像を復元することができる。
【０１８０】
なお、画角ＳＱ２は、画角ＳＱ１よりも狭いので、画角ＳＱ２と画角ＳＱ１の画像を同一の画素数で復元する場合、画角ＳＱ１の画像よりも、画角ＳＱ２の画像を復元する方が、より高画質な復元画像を得ることができる。
【０１８１】
つまり、同一画素数を用いて復元画像を得ることを考えた場合、より画角の狭い画像を復元する方が、より高画質な復元画像を得ることができる。
【０１８２】
例えば、図１７の右部は、図１６の撮像素子１２１の範囲ＺＡ内の構成例を示している。図１７の左部は、範囲ＺＡ内の画素１２１ａの構成例を示している。
【０１８３】
図１７において、黒色で示された範囲が遮光膜１２１ｂであり、各画素１２１ａの遮光範囲は、例えば、図１７の左部に示される規則に従って決定される。
【０１８４】
図１７の左部の主遮光部Ｚ１０１（図１７の左部の黒色部）は、各画素１２１ａにおいて共通に遮光される範囲である。具体的には、主遮光部Ｚ１０１は、画素１２１ａの左辺及び右辺から画素１２１ａ内に向かって、それぞれ幅ｄｘ１の範囲、並びに、画素１２１ａの上辺及び下辺から画素１２１ａ内に向かって、それぞれ高さｄｙ１の範囲である。そして、各画素１２１ａにおいて、主遮光部Ｚ１０１の内側の範囲Ｚ１０２内に、遮光膜１２１ｂにより遮光されない矩形の開口部Ｚ１１１が設けられる。従って、各画素１２１ａにおいて、開口部Ｚ１１１以外の範囲が、遮光膜１２１ｂにより遮光される。
【０１８５】
ここで、各画素１２１ａの開口部Ｚ１１１は規則的に配置されている。具体的には、各画素１２１ａ内における開口部Ｚ１１１の水平方向の位置は、同じ垂直方向の列の画素１２１ａ内において同一になる。また、各画素１２１ａ内における開口部Ｚ１１１の垂直方向の位置は、同じ水平方向の行の画素１２１ａ内において同一になる。
【０１８６】
一方、各画素１２１ａ内における開口部Ｚ１１１の水平方向の位置は、画素１２１ａの水平方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａの位置が右方向に進むに従って、開口部Ｚ１１１の左辺が、画素１２１ａの左辺からそれぞれ幅ｄｘ１、ｄｘ２、・・・、ｄｘｎだけ右方向にずれた位置に移動する。幅ｄｘ１と幅ｄｘ２の間隔、幅ｄｘ２と幅ｄｘ３の間隔、・・・、幅ｄｘｎ−１と幅ｄｘｎの間隔は、それぞれ範囲Ｚ１０２の水平方向の幅から開口部Ｚ１１１の幅を引いた長さを水平方向の画素数ｎ−１で割った値となる。
【０１８７】
また、各画素１２１ａ内における開口部Ｚ１１１の垂直方向の位置は、画素１２１ａの垂直方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａの位置が下方向に進むに従って、開口部Ｚ１１１の上辺が、画素１２１ａの上辺からそれぞれ高さｄｙ１、ｄｙ２、・・・、ｄｙｎだけ下方向にずれた位置に移動する。高さｄｙ１と高さｄｙ２の間隔、高さｄｙ２と高さｄｙ３の間隔、・・・、高さｄｙｎ−１と高さｄｙｎの間隔は、それぞれ範囲Ｚ１０２の垂直方向の高さから開口部Ｚ１１１の高さを引いた長さを垂直方向の画素数ｍ−１で割った値となる。
【０１８８】
図１８の右部は、図１６の撮像素子１２１の範囲ＺＢ内の構成例を示している。図１８の左部は、範囲ＺＢ内の画素１２１ａ’の構成例を示している。
【０１８９】
図１８において、黒色で示された範囲が遮光膜１２１ｂ’であり、各画素１２１ａ’の遮光範囲は、例えば、図１８の左部に示される規則に従って決定される。
【０１９０】
図１８の左部の主遮光部Ｚ１５１（図１８に左部の黒色部）は、各画素１２１ａ’において共通に遮光される範囲である。具体的には、主遮光部Ｚ１５１は、画素１２１ａ’の左辺及び右辺から画素１２１ａ’内に向かって、それぞれ幅ｄｘ１’の範囲、並びに、画素１２１ａ’の上辺及び下辺から画素１２１ａ’内に向かって、それぞれ高さｄｙ１’の範囲である。そして、各画素１２１ａ’において、主遮光部Ｚ１５１の内側の範囲Ｚ１５２内に、遮光膜１２１ｂ’により遮光されない矩形の開口部Ｚ１６１が設けられる。従って、各画素１２１ａ’において、開口部Ｚ１６１以外の範囲が、遮光膜１２１ｂ’により遮光される。
【０１９１】
ここで、各画素１２１ａ’の開口部Ｚ１６１は、図１７の各画素１２１ａの開口部Ｚ１１１と同様に、規則的に配置されている。具体的には、各画素１２１ａ’内における開口部Ｚ１６１の水平方向の位置は、同じ垂直方向の列の画素１２１ａ’内において同一になる。また、各画素１２１ａ’内における開口部Ｚ１６１の垂直方向の位置は、同じ水平方向の行の画素１２１ａ’内において同一になる。
【０１９２】
一方、各画素１２１ａ’内における開口部Ｚ１６１の水平方向の位置は、画素１２１ａ’の水平方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａ’の位置が右方向に進むに従って、開口部Ｚ１６１の左辺が、画素１２１ａ’の左辺からそれぞれ幅ｄｘ１’、ｄｘ２’、・・・、ｄｘｎ’だけ右方向にずれた位置に移動する。幅ｄｘ１’と幅ｄｘ２’の間隔、幅ｄｘ２’と幅ｄｘ３’の間隔、・・・、幅ｄｘｎ−１’と幅ｄｘｎ’の間隔は、それぞれ範囲Ｚ１５２の水平方向の幅から開口部Ｚ１６１の幅を引いた長さを水平方向の画素数ｎ−１で割った値となる。
【０１９３】
また、各画素１２１ａ’内における開口部Ｚ１６１の垂直方向の位置は、画素１２１ａ’の垂直方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａ’の位置が下方向に進むに従って、開口部Ｚ１６１の上辺が、画素１２１ａ’の上辺からそれぞれ高さｄｙ１’，ｄｙ２’、・・・、ｄｙｎ’だけ下方向にずれた位置に移動する。高さｄｙ１’と高さｄｙ２’の間隔、高さｄｙ２’と高さｄｙ３’の間隔、・・・、高さｄｙｎ−１’と高さｄｙｎ’の間隔は、それぞれ範囲Ｚ１５２の垂直方向の高さから開口部Ｚ１６１の高さを引いた長さを垂直方向の画素数ｍ−１で割った値となる。
【０１９４】
ここで、図１７の画素１２１ａの範囲Ｚ１０２の水平方向の幅から開口部Ｚ１１１の幅を引いた長さは、図１８の画素１２１ａ’の範囲Ｚ１５２の水平方向の幅から開口部Ｚ１６１の幅を引いた幅より大きくなる。従って、図１７の幅ｄｘ１、ｄｘ２・・・ｄｘｎの変化の間隔は、図１８の幅ｄｘ１’、ｄｘ２’・・・ｄｘｎ’の変化の間隔より大きくなる。
【０１９５】
また、図１７の画素１２１ａの範囲Ｚ１０２の垂直方向の高さから開口部Ｚ１１１の高さを引いた長さは、図１８の画素１２１ａ’の範囲Ｚ１５２の垂直方向の高さから開口部Ｚ１６１の高さを引いた長さより大きくなる。従って、図１７の高さｄｙ１、ｄｙ２・・・ｄｙｎの変化の間隔は、図１８の高さｄｙ１’、ｄｙ２’・・・ｄｙｎ’の変化の間隔より大きくなる。
【０１９６】
このように、図１７の各画素１２１ａの遮光膜１２１ｂの開口部Ｚ１１１の水平方向および垂直方向の位置の変化の間隔と、図１８の各画素１２１ａ’の遮光膜１２１ｂ’の開口部Ｚ１６１の水平方向および垂直方向の位置の変化の間隔とは異なる。そして、この間隔の違いが、復元画像における被写体分解能（角度分解能）の違いとなる。すなわち、図１８の各画素１２１ａ’の遮光膜１２１ｂ’の開口部Ｚ１６１の水平方向および垂直方向の位置の変化の間隔の方が、図１７の各画素１２１ａの遮光膜１２１ｂの開口部Ｚ１１１の水平方向および垂直方向の位置の変化の間隔より狭くなる。従って、図１８の各画素１２１ａ’の検出信号を用いて復元される復元画像は、図１７の各画素１２１ａの検出信号を用いて復元される復元画像より、被写体分解能が高くなり、高画質となる。
【０１９７】
このように、主遮光部の遮光範囲と開口部の開口範囲との組み合わせを変化させることで、様々な画角の（様々な入射角指向性を持った）画素からなる撮像素子１２１を実現することが可能となる。
【０１９８】
尚、以上においては、画素１２１ａと画素１２１ａ’を範囲ＺＡと範囲ＺＢに分けて配置する例を示したが、これは説明を簡単にするためであり、異なる画角に対応する画素１２１ａが同じ領域内に混在して配置されることが望ましい。
【０１９９】
例えば、図１９に示されるように、点線で示される２画素×２画素からなる４画素を１個の単位Ｕとして、それぞれの単位Ｕが、広画角の画素１２１ａ−Ｗ、中画角の画素１２１ａ−Ｍ、狭画角の画素１２１ａ−Ｎ、極狭画角の画素１２１ａ−ＡＮの４画素から構成されるようにする。
【０２００】
この場合、例えば、全画素１２１ａの画素数がＸである場合、４種類の画角ごとにＸ／４画素ずつの検出画像を用いて復元画像を復元することが可能となる。この際、画角毎に異なる４種類の係数セット群が使用されて、４種類の異なる連立方程式により、それぞれ異なる画角の復元画像が復元される。
【０２０１】
従って、復元する復元画像の画角の撮像に適した画素から得られる検出画像を用いて復元画像を復元することで、４種類の画角に応じた適切な復元画像を得ることが可能となる。
【０２０２】
また、４種類の画角の中間の画角や、その前後の画角の画像を、４種類の画角の画像から補間生成するようにしてもよく、様々な画角の画像をシームレスに生成することで、疑似的な光学ズームを実現するようにしてもよい。
【０２０３】
尚、例えば、画角の広い画像を復元画像として得る場合、広画角画素を全て用いるようにしてもよいし、広画角画素の一部を用いるようにしてもよい。また、例えば、画角の狭い画像を復元画像として得る場合、狭画角画素を全て用いるようにしてもよいし、狭画角画素の一部を用いるようにしてもよい。
【０２０４】
＜撮像装置１０１による撮像処理＞
次に、図２０のフローチャートを参照して、図２の撮像装置１０１による撮像処理について説明する。
【０２０５】
ステップＳ１において、撮像素子１２１は、被写体の撮像を行う。これにより、異なる入射角指向性を備える撮像素子１２１の各画素１２１ａから、被写体からの入射光の光量に応じた検出信号レベルを示す検出信号が出力され、撮像素子１２１は、各画素１２１ａの検出信号からなる検出画像を復元部１２２に供給する。
【０２０６】
ステップＳ２において、復元部１２２は、画像の復元に用いる係数を求める。具体的には、復元部１２２は、復元対象となる被写体面３１までの距離、すなわち被写体距離を設定する。なお、被写体距離の設定方法には、任意の方法を採用することができる。例えば、復元部１２２は、入力部１２４を介してユーザにより入力された被写体距離、又は、検出部１２５により検出された被写体距離を、復元対象となる被写体面３１までの距離に設定する。
【０２０７】
次に、復元部１２２は、設定した被写体距離に対応付けられている係数セット群を記憶部１２８から読み出す。
【０２０８】
ステップＳ３において、復元部１２２は、検出画像及び係数を用いて、画像の復元を行う。具体的には、復元部１２２は、検出画像の各画素の検出信号レベルと、ステップＳ２の処理で取得した係数セット群とを用いて、上述した式（１）乃至式（３）、または、式（４）乃至式（６）を参照して説明した連立方程式を作成する。次に、復元部１２２は、作成した連立方程式を解くことにより、設定した被写体距離に対応する被写体面３１上の各点光源の光強度を算出する。そして、復元部１２２は、算出した光強度に応じた画素値を有する画素を被写体面３１の各点光源の配置に従って並べることにより、被写体の像が結像された復元画像を生成する。
【０２０９】
ステップＳ４において、撮像装置１０１は、復元画像に対して各種の処理を行う。例えば、復元部１２２は、必要に応じて、復元画像に対して、デモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。また、復元部１２２は、例えば、必要に応じて、復元画像を表示部１２７に供給し、表示させたり、記録再生部１２９に供給し、記録媒体１３０に記録させたり、通信部１３１を介して、他の機器に出力したりする。
【０２１０】
その後、撮像処理は終了する。
【０２１１】
尚、以上においては、撮像素子１２１と被写体距離に対応付けられた係数セット群を用いて、検出画像から復元画像を復元する例について説明してきたが、例えば、被写体距離に加えて、上述したように、復元画像の画角に対応する係数セット群をさらに用意して、被写体距離および画角に応じた係数セット群を用いて、復元画像を復元するようにしても良い。尚、被写体距離および画角に対する分解能は、用意される係数セット群の数によるものとなる。
【０２１２】
また、図２０のフローチャートを用いた処理の説明においては、検出画像に含まれる全ての画素の検出信号を用いる例について説明してきたが、撮像素子１２１を構成する画素のうち、特定された被写体距離および画角に対応する入射角指向性を備えた画素の検出信号からなる検出画像を生成し、これを用いて復元画像を復元するようにしても良い。このような処理により、求めようとする復元画像の被写体距離や画角に適した検出画像で復元画像を復元することが可能となり、復元画像の復元精度や画質が向上する。すなわち、特定された被写体距離および画角に対応する画像が、例えば、図１６における画角ＳＱ１に対応する画像である場合、画角ＳＱ１に対応する入射角指向性を備えた画素１２１ａを選択し、これらから得られる検出画像で復元画像を復元することにより、画角ＳＱ１の画像を高い精度で復元することが可能となる。
【０２１３】
以上の処理により、各画素に入射角指向性を持たせるようにした撮像素子１２１を必須構成とした撮像装置１０１を実現することが可能となる。
【０２１４】
結果として、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタが不要となるため、装置の設計の自由度を高めることが可能になると共に、撮像素子１２１と別体で構成され、撮像装置として構成する段階で撮像素子１２１と合わせて搭載されることが想定される光学素子が不要となるため、入射光の入射方向に対する装置の小型化を実現することが可能となり、製造コストを低減することが可能となる。また、フォーカスレンズなどのような、光学像を結像させるための撮像レンズに相当するレンズが不要となる。ただし、倍率を変化させるズームレンズは設けられていてもよい。
【０２１５】
なお、以上においては、検出画像の撮像を行った後、すぐに所定の被写体距離に対応する復元画像を復元する処理について説明したが、例えば、すぐに復元処理を行わずに、検出画像を記録媒体１３０に記録したり、通信部１３１を介して、他の機器に出力したりした後、所望のタイミングで検出画像を用いて、復元画像を復元するようにしてもよい。この場合、復元画像の復元は、撮像装置１０１で行ってもよいし、他の装置で行ってもよい。この場合、例えば、任意の被写体距離や画角に応じた係数セット群を用いて作成した連立方程式を解いて復元画像を求めることで、任意の被写体距離や画角の被写体面に対する復元画像を得ることができ、リフォーカス等を実現することができる。
【０２１６】
例えば、撮像レンズと従来の撮像素子からなる撮像装置を用いた場合、様々な焦点距離や画角の画像を得るためには、焦点距離や画角を様々に変化させながら、撮像しておく必要がある。一方、撮像装置１０１においては、このように係数セット群を切り替えて任意の被写体距離や画角の復元画像を復元させることができるので、焦点距離（すなわち、被写体距離）や画角を様々に変化させながら繰り返し撮像するといった処理が不要になる。
【０２１７】
この場合、例えば、ユーザは、異なる被写体距離や画角に対応する係数セット群を切り替えながら、復元された復元画像をそれぞれ表示部１２７に表示させながら、所望の被写体距離や画角の復元画像を得ることも可能である。
【０２１８】
なお、検出画像を記録する場合、復元時の被写体距離や画角が決まっているとき、復元に用いるメタデータを検出画像と関連付けるようにしてもよい。例えば、検出画像を含む画像データにメタデータを付与したり、検出画像とメタデータに同じＩＤを付与したり、検出画像とメタデータを同じ記録媒体１３０に記録させたりすることにより、検出画像とメタデータが関連付けられる。
【０２１９】
なお、検出画像とメタデータに同じＩＤが付与された場合は、検出画像とメタデータを異なる記録媒体に記録したり、個別に撮像装置１０１から出力したりすることが可能である。
【０２２０】
また、メタデータには、復元に用いる係数セット群を含んでいてもよいし、含んでいなくてもよい。後者の場合、例えば、復元時の被写体距離や画角がメタデータに含まれ、復元時に、その被写体距離や画角に対応する係数セット群が記憶部１２８等から取得される。
【０２２１】
さらに、撮像時にすぐに復元画像の復元を行う場合、例えば、記録したり外部に出力したりする画像を、検出画像及び復元画像の中から選択することが可能である。例えば、両方の画像を記録又は外部に出力してもよいし、一方の画像のみを記録又は外部に出力してもよい。
【０２２２】
また、動画を撮像する場合も同様に、撮像時の復元画像の復元の有無や、記録又は外部に出力する画像の選択が可能である。例えば、動画の撮像を行いながら、各フレームの復元画像をすぐに復元するとともに、復元画像及び復元前の検出画像の両方又は一方を記録したり、外部に出力したりすることが可能である。この場合、撮像時に各フレームの復元画像をスルー画として表示させることも可能である。或いは、例えば、撮像時には復元処理を行わずに、各フレームの検出画像を記録したり、外部に出力したりすることが可能である。
【０２２３】
さらに、動画の撮像時には、例えば、復元画像の復元の有無や、記録又は外部に出力する画像の選択をフレーム毎に行うことができる。例えば、フレーム毎に復元画像の復元の有無を切り替えることが可能である。また、例えば、フレーム毎に、検出画像の記録の有無、及び、復元画像の記録の有無を個別に切り替えることが可能である。また、例えば、後で使用する可能性のある有用なフレームの検出画像にメタデータを付与しながら、全てのフレームの検出画像を記録するようにしてもよい。
【０２２４】
また、撮像レンズを用いる撮像装置のように、オートフォーカス機能を実現することも可能である。例えば、復元画像に基づいてコントラストＡＦ（Auto Focus）方式と同様の山登り方式で最適な被写体距離を決定することで、オートフォーカス機能を実現することができる。
【０２２５】
さらに、上述した特許文献等に記載の光学フィルタと従来の撮像素子とからなる撮像装置などと比較して、画素単位で入射角指向性を持った撮像素子１２１により撮像される検出画像を用いて復元画像を生成することができるので、多画素化を実現したり、高解像度かつ高角度分解能の復元画像を得たりすることが可能となる。一方、光学フィルタと従来の撮像素子とからなる撮像装置では、画素を微細化しても、光学フィルタの微細化が難しいため、復元画像の高解像度化等の実現が難しい。
【０２２６】
また、本開示の撮像装置１０１は、撮像素子１２１が必須構成であり、例えば、上述した特許文献等に記載の光学フィルタ等を必要としないので、使用環境が高温になって、光学フィルタが熱で歪むといったことがなく、環境耐性の高い撮像装置を実現することが可能となる。
【０２２７】
さらに、本開示の撮像装置１０１においては、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタを必要としないので、撮像する機能を備えた構成の設計の自由度を向上させることが可能となる。
【０２２８】
＜処理負荷の低減方法＞
ところで、撮像素子１２１の各画素１２１ａの遮光膜１２１ｂの遮光範囲（すなわち、入射角指向性）にランダム性を持たせている場合、遮光範囲の違いの乱雑さが大きいほど、復元部１２２による処理の負荷は大きなものとなる。そこで、各画素１２１ａの遮光膜１２１ｂの遮光範囲の変化の一部を規則的なものとして、乱雑さを低減させることで、処理負荷を低減させるようにしてもよい。
【０２２９】
例えば、縦帯タイプと横帯タイプとを組み合わせたＬ字タイプの遮光膜１２１ｂを構成するようにして、所定の列方向に対しては、同一幅の横帯タイプの遮光膜１２１ｂを組み合わせ、所定の行方向に対しては、同一の高さの縦帯タイプの遮光膜１２１ｂを組み合わせる。これにより、各画素１２１ａの遮光膜１２１ｂの遮光範囲が、列方向および行方向で規則性を持ちつつ、画素単位ではランダムに変化するようになる。その結果、各画素１２１ａの遮光膜１２１ｂの遮光範囲の違い、すなわち入射角指向性の違いの乱雑さを低減させ、復元部１２２の処理負荷を低減させることができる。
【０２３０】
具体的には、例えば、図２１の撮像素子１２１’’に示されるように、範囲Ｚ１３０で示される同一列の画素については、いずれも同一の幅Ｘ０の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５０で示される同一行の画素については、同一の高さＹ０の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
【０２３１】
同様に、範囲Ｚ１３０に隣接する範囲Ｚ１３１で示される同一列の画素については、いずれも同一の幅Ｘ１の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５０に隣接する範囲Ｚ１５１で示される同一行の画素については、同一の高さＹ１の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
【０２３２】
さらに、範囲Ｚ１３１に隣接する範囲Ｚ１３２で示される同一列の画素については、いずれも同一の幅Ｘ２の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５１に隣接する範囲Ｚ１５２で示される同一行の画素については、同一の高さＹ２の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
【０２３３】
このようにすることで、遮光膜１２１ｂの水平方向の幅および位置、並びに、垂直方向の高さおよび位置に規則性を持たせつつ、画素単位で遮光膜の範囲を異なる値に設定することができるので、入射角指向性の変化の乱雑さを抑え込むことができる。結果として、係数セットのパターンを低減させることが可能となり、復元部１２２における演算処理の処理負荷を低減させることが可能となる。
【０２３４】
より詳細には、図２２の右上部に示されるように、Ｎ画素×Ｎ画素の検出画像ＰｉｃからＮ×Ｎ画素の復元画像を求める場合、（Ｎ×Ｎ）行×１列の復元画像の各画素の画素値を要素とするベクトルＸ、（Ｎ×Ｎ）行×１列の検出画像の各画素の画素値を要素とするベクトルＹ、および、係数セット群からなる（Ｎ×Ｎ）行×（Ｎ×Ｎ）列の行列Ａにより、図２２の左部に示されるような関係が成立する。
【０２３５】
すなわち、図２２においては、係数セット群からなる（Ｎ×Ｎ）行×（Ｎ×Ｎ）列の行列Ａの各要素と、復元画像を表す（Ｎ×Ｎ）行×１列のベクトルＸとを乗算した結果が、検出画像を表す（Ｎ×Ｎ）行×１列のベクトルＹとなることが示されている。そして、この関係から、例えば、上述した式（１）乃至式（３）または式（４）乃至式（６）に対応する連立方程式が構成される。
【０２３６】
尚、図２２においては、行列Ａの範囲Ｚ２０１で示される１列目の各要素が、ベクトルＸの１行目の要素に対応しており、行列Ａの範囲Ｚ２０２で示されるＮ×Ｎ列目の各要素が、ベクトルＸのＮ×Ｎ行目の要素に対応していることを示している。
【０２３７】
なお、ピンホールを用いた場合、及び、撮像レンズ等の同じ方向から入射した入射光を互いに隣接する画素出力単位の双方へ入射させるための集光機能を用いた場合、各画素の位置と光の入射角度の関係が一意に定まるので、行列Ａは、右下がりの対角成分が全て１となる対角行列となる。逆に、図２の撮像装置１０１のようにピンホールおよび撮像レンズのいずれも用いない場合、各画素の位置と光の入射角度の関係は一意に定まらないので、行列Ａは対角行列にならない。
【０２３８】
換言すれば、図２２に示される行列式に基づいた連立方程式を解いて、ベクトルＸの各要素を求めることにより復元画像が求められる。
【０２３９】
ところで、一般的に、図２２の行列式は、両辺に行列Ａの逆行列Ａ-1を左から乗じることにより、図２３に示されるように変形され、検出画像のベクトルＹに逆行列Ａ-1を左から乗じることで、検出画像であるベクトルＸの各要素が求められる。
【０２４０】
しかしながら、現実には、行列Ａを正確に求められなかったり、行列Ａを正確に測定できなかったり、行列Ａの基底ベクトルが線形従属に近いケースで解けなかったり、および、検出画像の各要素にノイズが含まれたりする。そして、それらの理由のいずれか、または、それらの組み合わせで、連立方程式を解くことができないことがある。
【０２４１】
そこで、例えば、様々な誤差に対してロバストな構成を考え、正則化最小二乗法の概念を用いた次式（７）が用いられる。
【０２４２】
【数１】
2019078333.tif 000003
・・・（７）
【０２４３】
ここで、式（７）のｘの上部に「＾」が付されたものはベクトルＸを、Ａは行列Ａを、ＹはベクトルＹを、γはパラメータを、||Ａ||はL2ノルム（二乗和平方根）を表している。ここで、右辺の第一項は、図２２の両辺を最小にするときのノルムであり、右辺の第二項は正則化項である。
【０２４４】
この式（７）をｘについて解くと、以下の式（８）となる。
【０２４５】
【数２】
2019078333.tif 000004
・・・（８）
【０２４６】
ここで、Ａtは行列Ａの転置行列であり、Ｉは単位行列である。
【０２４７】
しかしながら、行列Ａは、膨大なサイズであるので、計算量や必要なメモリ量が大きくなる。
【０２４８】
そこで、例えば、図２４に示されるように、行列Ａを、Ｎ行×Ｎ列の行列ＡＬと、Ｎ行×Ｎ列の行列ＡＲTとに分解し、それぞれ復元画像を表すＮ行×Ｎ列の行列Ｘの前段と後段とから掛けた結果が、検出画像を表すＮ行×Ｎ列の行列Ｙとなるようにする。これにより、要素数（Ｎ×Ｎ）×（Ｎ×Ｎ）の行列Ａに対して、要素数が（Ｎ×Ｎ）の行列ＡＬ、ＡＲTとなり、各行列の要素数が１／（Ｎ×Ｎ）になる。結果として、計算量や必要なメモリ量を低減させることができる。
【０２４９】
図２４に示される行列式は、例えば、式（８）のカッコ内の行列を行列ＡＬとし、行列Ａの転置行列の逆行列を行列ＡＲTとすることで実現される。
【０２５０】
図２４に示されるような計算では、図２５に示されるように、行列Ｘにおける注目要素Ｘｐに対して、行列ＡＬの対応する列の各要素群Ｚ２２１を乗算することで、要素群Ｚ２２２が求められる。さらに、要素群Ｚ２２２と行列ＡＲTの注目要素Ｘｐに対応する行の要素とを乗算することで、注目要素Ｘｐに対応する２次元応答Ｚ２２４が求められる。そして、行列Ｘの全要素に対応する２次元応答Ｚ２２４が積算されることで行列Ｙが求められる。
【０２５１】
そこで、例えば、行列ＡＬの各列の要素群Ｚ２２１には、図２１に示される撮像素子１２１の列毎に同一の幅に設定される横帯タイプの画素１２１ａの入射角指向性に対応する係数が用いられる。
【０２５２】
同様に、例えば、行列ＡＲTの各行の要素群Ｚ２２３には、図２１に示される撮像素子１２１の行毎に同一の高さに設定される縦帯タイプの画素１２１ａの入射角指向性に対応する係数が用いられる。
【０２５３】
この結果、検出画像に基づいて、復元画像を復元する際に使用する行列を小さくすることが可能となるので、計算量が低減し、処理速度を向上させ、計算に係る電力消費を低減させることが可能となる。また、行列を小さくできるので、計算に使用するメモリの容量を低減させることが可能となり、装置コストを低減させることが可能となる。
【０２５４】
尚、図２１には、水平方向、および垂直方向に所定の規則性を持たせつつ、画素単位で遮光範囲（受光範囲）を変化させる例が示されているが、本開示においては、このように画素単位で遮光範囲（受光範囲）が、完全にランダムに設定されてはいないものの、ある程度ランダムに設定されるものについても、ランダムに設定されるものとみなす。換言すれば、本開示においては、画素単位で遮光範囲（受光範囲）が完全にランダムに設定される場合のみならず、ある程度ランダムなもの（例えば、全画素のうち、一部については規則性を持たせた範囲を含むが、その他の範囲はランダムである場合）、または、ある程度規則性がなさそうなもの（全画素のうち、図２１を参照して説明したような規則に従って配置されていることが確認できない配置の場合）についてもランダムであるものとみなす。
【０２５５】
＜＜３．第１の実施の形態＞＞
次に、図２６乃至図３１を参照して、本開示の第１の実施の形態について説明する。
【０２５６】
上述したように、撮像装置１０１では、上述した式（１）乃至式（３）又は式（４）乃至式（６）で示されるような連立方程式を解くことにより、復元画像の各画素の画素値が算出される。従って、例えば、被写体からの入射光の光強度が大きくて、撮像素子１２１の画素１２１ａが１つでも飽和してしまうと、その影響が復元画像の全ての画素に及び、復元画像の復元精度が低下する。その結果、復元画像の画質が低下する。
【０２５７】
これに対して、この第１の実施の形態では、撮像素子１２１の画素１２１ａの飽和の発生を抑制するように、撮像装置１０１の露出制御が行われる。
【０２５８】
なお、第１の実施の形態では、図２の撮像装置１０１が用いられる。ただし、第１の実施の形態では、後述するように、画素アレイ部の構成等が変更される。
【０２５９】
＜撮像素子１２１の構成例＞
図２６は、図２の撮像素子１２１の回路の構成例を示すブロック図である。
【０２６０】
撮像素子１２１は、画素アレイ部３０１、垂直駆動回路３０２、カラム信号処理回路３０３、水平駆動回路３０４、出力回路３０５、及び、制御回路３０６を備える。
【０２６１】
画素アレイ部３０１には、図３を参照して上述したように、入射角指向性を有する画素１２１ａが行列状に配置されている。ただし、図２７を参照して後述するように、画素アレイ部３０１には、入射角指向性を有していない画素１２１ａが一部配置されている。
【０２６２】
画素アレイ部３０１の各画素１２１ａは、行毎に水平信号線３１１を介して垂直駆動回路３０２に接続され、列毎に垂直信号線３１２を介してカラム信号処理回路３０３に接続されている。各画素１２１ａは、上述したように検出信号をそれぞれ出力する。
【０２６３】
垂直駆動回路３０２は、例えば、水平信号線３１１を介して各画素１２１ａに駆動信号を供給し、画素アレイ部３０１の各画素１２１ａを行毎に駆動し（転送、選択、リセットなど）、各画素１２１ａの露光時間、読出し走査等の制御を行う。例えば、垂直駆動回路３０２は、画素アレイ部３０１の複数の行の画素１２１ａの露光を一斉に開始し、一斉に停止する一括露光を行わせることができる。また、垂直駆動回路３０２は、各画素１２１ａの露光時間を個別に制御したり、各画素１２１ａの検出信号の読み出しタイミングを個別に制御したりすることが可能である。
【０２６４】
なお、撮像素子１２１の露光方式は、ローリングシャッタ方式又はグローバルシャッタ方式のいずれでもよい。以下では、主に撮像素子１２１の露光方式にグローバルシャッタ方式を適用した場合について説明する。また、各画素１２１ａの露光時間の個別制御については、例えば、特開２０１５−１２１７５１号公報に記載されている。また、各画素１２１ａの信号の読み出しタイミングの個別制御については、例えば、特開２０１３−２２３０５４号公報に記載されている。
【０２６５】
カラム信号処理回路３０３は、画素アレイ部３０１の各画素１２１ａから垂直信号線３１２を介して出力される検出信号に対してＣＤＳ（Correlated Double Sampling：相関２重サンプリング）を施すことにより、検出信号のＡＤ変換を行うとともにリセットノイズを除去する。例えば、カラム信号処理回路３０３は、各画素１２１ａの列数に応じた複数のカラム処理部（不図示）を備え、画素アレイ部３０１の列毎に並列にＣＤＳを行うことができる。
【０２６６】
水平駆動回路３０４は、例えば、カラム信号処理回路３０３に駆動信号を供給することにより、検出信号を列毎に順次カラム信号処理回路３０３から出力信号線３１３に出力させる。
【０２６７】
出力回路３０５は、水平駆動回路３０４からの駆動信号に基づくタイミングで、カラム信号処理回路３０３から出力信号線３１３を介して供給される検出信号を増幅し、後段（例えば、図２の復元部１２２又はバスＢ１）に出力する。
【０２６８】
制御回路３０６は、撮像素子１２１内の各部の制御を行う。
【０２６９】
図２７は、図２６の画素アレイ部３０１の一部の正面図を、図３と同様に示している。尚、図２７においては、縦６画素×横６画素の画素１２１ａが画素アレイ部３０１に配列されている場合の例を示しているが、画素の配列は、これに限るものではない。
【０２７０】
画素アレイ部３０１には、復元用画素１２１ａＡと露出用画素１２１ａＢとが混在して配置されている。
【０２７１】
復元用画素１２１ａＡは、指向性画素により構成される。指向性画素とは、上述した図４又は図５の画素１２１ａのように、入射角指向性を持たせるための構成を備える画素のことである。また、各復元用画素１２１ａＡには、必要に応じて、赤色、緑色、青色等のカラーフィルタがそれぞれ設けられる。
【０２７２】
露出用画素１２１ａＢは、非指向性画素により構成される。非指向性画素とは、入射角指向性を持たせるための構成を備えていない画素のことである。例えば、図４の画素１２１ａから遮光膜１２１ｂの受光面Ｓを遮光する部分を削除した画素が、非指向性画素として用いられる。或いは、例えば、図５の画素１２１ａのように、画素内に複数のフォトダイオードを備える画素であって、複数のフォトダイオードが全て寄与する１つの検出信号を出力する画素が、非指向性画素として用いられる。また、露出用画素１２１ａＢには、白色又は透明のカラーフィルタが設けられるか、或いは、カラーフィルタが設けられない。従って、露出用画素１２１ａＢは、復元用画素１２１ａＡより受光感度が高くなる。なお、露出用画素１２１ａＢは、復元用画素１２１ａＡより受光感度が高ければ、白及び透明以外のカラーフィルタが設けられてもよい。
【０２７３】
なお、以下、復元用画素１２１ａＡの検出信号を復元用信号と称し、露出用画素１２１ａＢの検出信号を露出用信号と称する。
【０２７４】
＜撮像装置１０１の処理＞
次に、図２８乃至図３１を参照して、撮像装置１０１の処理について説明する。
【０２７５】
まず、図２８のフローチャート及び図２９のタイミングチャートを参照して、撮像装置１０１の撮像素子１２１により実行される撮像処理について説明する。なお、この処理は、例えば、撮像装置１０１の電源がオンされたとき開始され、オフされたとき終了する。
【０２７６】
ステップＳ１０１において、撮像素子１２１は、露光を開始する。例えば、図２９の時刻ｔ１において、垂直駆動回路３０２は、制御回路３０６の制御の下に、画素アレイ部３０１の各画素１２１ａ、すなわち、各復元用画素１２１ａＡ及び各露出用画素１２１ａＢの露光を開始させる。これにより、画素アレイ部３０１の各画素１２１ａにおいて、一斉に電荷の蓄積が開始される。
【０２７７】
ステップＳ１０２において、撮像素子１２１は、露出用画素１２１ａＢの露光を停止する。例えば、図２９の時刻ｔ２において、垂直駆動回路３０２は、制御回路３０６の制御の下に、画素アレイ部３０１の各露出用画素１２１ａＢの露光を一斉に停止させる。
【０２７８】
ステップＳ１０３において、撮像素子１２１は、露出用画素１２１ａＢの検出信号を出力する。例えば、図２９の時刻ｔ２から時刻ｔ３までの期間において、撮像素子１２１は、以下の処理を行う。
【０２７９】
垂直駆動回路３０２は、制御回路３０６の制御の下に、画素アレイ部３０１の各露出用画素１２１ａＢから検出信号（すなわち、露出用信号）を行単位でカラム信号処理回路３０３に出力させる。
【０２８０】
カラム信号処理回路３０３は、制御回路３０６の制御の下に、各露出用画素１２１ａＢの露出用信号に対してＣＤＳを施すことにより、露出用信号のＡＤ変換及びリセットノイズの除去を行う。
【０２８１】
水平駆動回路３０４は、制御回路３０６の制御の下に、出力信号線３１３を介してカラム信号処理回路３０３から出力回路３０５に露出用信号を列毎に順次出力させる。
【０２８２】
出力回路３０５は、各露出用画素１２１ａＢの露出用信号を増幅して、制御部１２３に供給する。
【０２８３】
制御部１２３は、後述する図３０のステップＳ１２１において、各露出用画素１２１ａＢの露出用信号を取得し、ステップＳ１２２において、取得した露出用信号に基づいて、復元用画素の露光時間を設定する。また、制御部１２３は、ステップＳ１２３において、設定した露光時間が経過した時点で、復元用画素１２１ａＡの露光の停止を指示する信号を撮像素子１２１の制御回路３０６に供給する。
【０２８４】
ステップＳ１０４において、撮像素子１２１は、指示に従って、復元用画素１２１ａＡの露光を停止する。例えば、図２９の時刻ｔ１から、制御部１２３により設定された露光時間が経過した時刻ｔ５において、制御回路３０６は、復元用画素１２１ａＡの露光の停止を指示する信号を制御部１２３から取得する。垂直駆動回路３０２は、制御回路３０６の制御の下に、画素アレイ部３０１の各復元用画素１２１ａＡの露光を一斉に停止させる。
【０２８５】
ステップＳ１０５において、撮像素子１２１は、ステップＳ１０３と同様の処理により、復元用画素１２１ａＡの検出信号（復元用信号）を出力する。ただし、ステップＳ１０３の処理と異なり、各復元用画素１２１ａＡの復元用信号は、復元部１２２に供給される。
【０２８６】
その後、処理はステップＳ１０１に戻り、ステップＳ１０１以降の処理が繰り返し実行される。これにより、例えば、図２９の時刻ｔ７乃至時刻ｔ１４において、時刻ｔ１乃至時刻ｔ５と同様の処理が、撮像素子１２１により実行される。
【０２８７】
なお、撮像素子１２１の露光方式にローリングシャッタ方式を適用した場合には、例えば、各復元用画素１２１ａＡ及び各露出用画素１２１ａＢの露光が行単位で順次開始される。また、各露出用画素１２１ａＢの露光が行単位で順次停止される。さらに、各復元用画素１２１ａＡの露光が行単位で順次停止される。
【０２８８】
次に、図３０のフローチャート及び図２９のタイミングチャートを参照して、図２８の撮像処理に対応して、撮像装置１０１の信号処理制御部１１１により実行される露出制御及び復元処理について説明する。
【０２８９】
ステップＳ１２１において、制御部１２３は、露出用画素１２１ａＢの検出信号を取得する。すなわち、制御部１２３は、上述した図２８のステップＳ１０３において、撮像素子１２１から出力された各露出用画素１２１ａＢの露出用信号を取得する。
【０２９０】
ステップＳ１２２において、制御部１２３は、露出用画素１２１ａＢの検出信号に基づいて、復元用画素１２１ａＡの露光時間を設定する。例えば、図２９の時刻ｔ３から時刻ｔ４の期間において、制御部１２３は、以下の処理を行う。
【０２９１】
例えば、制御部１２３は、各露出用画素１２１ａＢの露出用信号の検出信号レベルの平均値を算出する。
【０２９２】
次に、制御部１２３は、露出用信号の検出信号レベルの平均値に基づいて、露出用信号の検出信号レベルの増加率を算出する。
【０２９３】
図３１は、復元用画素１２１ａＡ及び露出用画素１２１ａＢの検出信号レベルの推移の例を示している。図３１の横軸は露光時間を示し、縦軸は検出信号レベルを示している。
【０２９４】
例えば、図３１の露出用画素１２１ａＢの露光期間Ｔ１の間（例えば、図２９の時刻ｔ１から時刻ｔ２までの期間）に露出用信号の検出信号レベルの平均値がレベルＬ１に達した場合、露出用信号の検出信号レベルの増加率は、Ｌ１／Ｔ１となる。
【０２９５】
次に、制御部１２３は、露出用信号の検出信号レベルの増加率に基づいて、復元用信号の検出信号レベルの増加率を推測する。例えば、露出用信号の検出信号レベルの増加率と復元用信号の検出信号レベルの増加率との比（以下、増加率比と称する）は、実験や計算等により予め設定されている。制御部１２３は、算出した露出用信号の検出信号レベルの増加率、及び、予め設定されている増加率比に基づいて、復元用信号の検出信号レベルの増加率を推測する。
【０２９６】
なお、増加率比は、例えば、復元用画素１２１ａＡのうち最も感度の高い復元用画素１２１ａＡを基準にして設定される。ここで、最も感度の高い復元用画素１２１ａＡとは、例えば、最も遮光膜１２１ｂの遮光面積が小さい復元用画素１２１ａＡ等である。
【０２９７】
次に、制御部１２３は、推定した復元用信号の検出信号レベルの増加率に基づいて、復元用画素１２１ａＡの検出信号レベルが所定のレベルＬ２に到達する露光時間Ｔ２を予測する。レベルＬ２は、例えば、画素１２１ａが飽和した場合の検出信号レベルＬｓａｔより低い値に設定される。なお、レベルＬ２は、復元用画素１２１ａＡが飽和しない範囲において、できるだけ高い値に設定することが望ましい。
【０２９８】
そして、制御部１２３は、算出した露光時間Ｔ２を復元用画素１２１ａＡの露光時間に設定する。
【０２９９】
ステップＳ１２３において、制御部１２３は、設定した露光時間が経過した時点で、復元用画素１２１ａＡの露光を停止させる。例えば、制御部１２３は、図２９の時刻ｔ１から、図３１の露光時間Ｔ２が経過した時刻ｔ５において、復元用画素１２１ａＡの露光の停止を指示する信号を撮像素子１２１の制御回路３０６に供給する。そして、上述した図２８のステップＳ１０４において、撮像素子１２１の制御回路３０６は、復元用画素１２１ａＡの露光を停止する。
【０３００】
ステップＳ１２４において、復元部１２２は、復元用画素１２１ａＡの検出信号を取得する。すなわち、復元部１２２は、上述した図２８のステップＳ１０５において、撮像素子１２１から出力された各復元用画素１２１ａＡの復元用信号からなる検出画像を取得する。
【０３０１】
ステップＳ１２５において、復元部１２２は、上述した図２０のステップＳ１０３の処理と同様に、復元用画素１２１ａＡの検出信号（検出画像）及び係数を用いて、画像の復元を行う。
【０３０２】
ステップＳ１２６において、上述した図２０のステップＳ１０４の処理と同様に、復元画像に対して各種の処理が行われる。
【０３０３】
なお、図２９では、時刻ｔ６から時刻ｔ８までの期間に、復元画像の復元処理が行われ、時刻ｔ１１から時刻ｔ１３までの期間に、復元画像に対する各種の処理が行われる例が示されている。しかし、撮像素子１２１の処理と復元部１２２の処理は、独立して並行に実行することが可能であるため、復元画像の復元処理、及び、復元画像に対する各種の処理が行われるタイミングは、この例に限定されるものではない。
【０３０４】
また、復元画像の復元処理は、必ずしも撮像時に行う必要はなく、例えば、検出画像を記憶部１２８に記録しておき、撮像後の所望のタイミングで復元処理を行うようにしてもよい。
【０３０５】
その後、処理はステップＳ１２１に戻り、ステップＳ１２１以降の処理が実行される。
【０３０６】
以上のようにして、復元用画素１２１ａＡの飽和の発生が抑制されるため、復元画像の復元精度が向上する。また、図３１のレベルＬ２を適切に調整することにより、復元用画素１２１ａＡが飽和しない範囲で、復元用画素１２１ａＡの受光量をできる限り大きくすることができ、復元画像（検出画像）のＳＮ比が向上する。その結果、復元画像の画質が向上する。
【０３０７】
また、上述したように、撮像装置１０１には撮像レンズが設けられないため、撮像素子１２１の各画素１２１ａへの入射光の光強度は、被写体の輝度の分布や画素１２１ａの位置に関わらず、ほぼ等しくなる。すなわち、被写体の輝度の分布により、各画素１２１ａへの入射光の光強度のばらつきがほとんど生じない。従って、復元用画素１２１ａＡより感度が高い露出用画素１２１ａＢの検出信号レベルに基づいて、復元用画素１２１ａＡの露光時間を制御することにより、被写体の輝度の分布に関わらず、確実に復元用画素１２１ａＡの飽和の発生を抑制することができる。
【０３０８】
＜露出用画素１２１ａＢの設置数や配置について＞
露出用画素１２１ａＢは、画素アレイ部３０１内に最低１つ設ければよい。ただし、ノイズ等の影響を避けるために、複数の露出用画素１２１ａＢを設けるようにすることが望ましい。一方、上述したように、被写体の輝度の分布に関わらず、撮像素子１２１の各画素１２１ａへの入射光の光強度がほぼ等しくなるため、露出用画素１２１ａＢの受光量のばらつきをほとんど考慮する必要がない。従って、露出用画素１２１ａＢの数を少なく抑えることができる。
【０３０９】
また、原理的には、画素アレイ部３０１の各画素１２１ａに入射する入射光の光強度はほぼ一様であるが、画素アレイ部３０１の中央ほど、入射光の光強度が大きくなる場合がある。従って、露出用画素１２１ａＢは、画素アレイ部３０１の中央に近い位置に配置することが望ましい。また、複数の露出用画素１２１ａＢを設ける場合、各露出用画素１２１ａＢをあまり近い位置に配置せずに、ある程度間隔を空けて配置することが望ましい。
【０３１０】
さらに、本開示は、モノクロの画像を撮像する場合、及び、カラーの画像を撮像する場合のいずれにも適用することができる。そして、各画素１２１ａにカラーフィルタを設ける場合、復元画像を復元する際に影響の少ない色の画素１２１ａの位置に露出用画素１２１ａＢを配置することが望ましい。
【０３１１】
例えば、図３２は、復元用画素１２１ａＡがベイヤ配列に従って配置されている場合の露出用画素１２１ａＢの配置例を示している。なお、図内のＲで示される復元用画素１２１ａＡは、赤色のカラーフィルタが設けられた復元用画素１２１ａＡであり、以下、単に赤色の復元用画素１２１ａＡと称する。Ｇで示される復元用画素１２１ａＡは、緑色のカラーフィルタが設けられた復元用画素１２１ａＡであり、以下、単に緑色の復元用画素１２１ａＡと称する。Ｂで示される復元用画素１２１ａＡは、青色のカラーフィルタが設けられた復元用画素１２１ａＡであり、以下、単に青色の復元用画素１２１ａＡと称する。また、図内の黒色の部分は、遮光膜１２１ｂを示している。
【０３１２】
この例では、ベイヤ配列において青色の復元用画素１２１ａＡが配置される位置のうちの一部に、青色の復元用画素１２１ａＡの代わりに露出用画素１２１ａＢが配置されている。これは、青色の復元用画素１２１ａＡは輝度に対する寄与度が低く、復元画素において青色の画素の復元精度が少し低下しても、目立ちにくいためである。
【０３１３】
なお、例えば、復元用画素１２１ａＡを画素アレイ部３０１内の矩形の領域内に配置し、露出用画素１２１ａＢをその領域の周囲に配置するようにしてもよい。
【０３１４】
＜第１の実施の形態の変形例＞
以上の説明では、復元用画素１２１ａＡと露出用画素１２１ａＢの露光を同時に開始する例を示したが、必ずしも同時である必要はない。例えば、先に露出用画素１２１ａＢの露光を行い、露出用画素１２１ａＢの露光が停止した後、復元用画素１２１ａＡの露光を行うようにしてもよい。
【０３１５】
また、以上の説明では、各復元用画素１２１ａＡの露光期間を合わせる例を示したが、１行又は複数行毎に復元用画素１２１ａＡの露光期間をシフトしていく場合にも、本開示を適用することが可能である。
【０３１６】
さらに、以上の説明では、同じフレーム期間内に露出用画素１２１ａＢから出力された露出用信号に基づいて、復元用画素１２１ａＡの露光時間を制御する例を示したが、１以上前のフレーム期間に露出用画素１２１ａＢから出力された露出用信号に基づいて、復元用画素１２１ａＡの露光時間を制御するようにしてもよい。
【０３１７】
また、復元用画素１２１ａＡの露光時間を、例えば、画素毎又は行毎に制御するようにしてもよい。この場合、例えば、各復元用画素１２１ａＡの検出信号レベルを（最大露光時間／実際の露光時間）倍することにより、各復元用画素１２１ａＡを最大露光時間だけ露光した場合のレベルに各復元用画素１２１ａＡの検出信号レベルを換算してから（正規化してから）、画像の復元が行われる。
【０３１８】
さらに、露出用画素１２１ａＢの露出用信号を、画像の復元に用いてもよい。この場合、例えば、露出用画素１２１ａＢの検出信号レベルを（復元用画素１２１ａＡの露光時間／露出用画素１２１ａＢの露光時間）倍することにより、露出用画素１２１ａＢを復元用画素１２１ａＡの露光時間と等しい時間だけ露光した場合のレベルに露出用画素１２１ａＢの検出信号レベルを換算してから、画像の復元が行われる。
【０３１９】
＜＜４．第２の実施の形態＞＞
次に、図３３を参照して、本開示の第２の実施の形態について説明する。
【０３２０】
上述した第１の実施の形態では、復元用画素１２１ａＡの露光時間を制御することにより、復元用画素１２１ａＡの飽和の発生を抑制する例を示したが、第２の実施の形態では、ＮＤ（Neutral Density）フィルタを用いて露出制御を行うことにより、復元用画素１２１ａＡの飽和の発生が抑制される。
【０３２１】
＜撮像装置４０１の構成例＞
図３３は、本開示の第２の実施の形態に係る撮像装置４０１の構成例を示すブロック図である。なお、図中、図２の撮像装置１０１と対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
【０３２２】
撮像装置４０１は、撮像装置１０１と比較して、ＮＤ（Neutral Density）フィルタ４１１が設けられている点が異なる。
【０３２３】
ＮＤフィルタ４１１は、被写体と撮像素子１２１の受光面との間に配置され、撮像素子１２１に入射するほぼ全ての波長帯域の入射光の光強度をほぼ均等に低下させる。
【０３２４】
なお、ＮＤフィルタ４１１は、減光率が固定式でも可変式でもよい。減光率が可変式の場合、ＮＤフィルタ４１１は、例えば、減光率を電子制御により変更可能な電子式可変ＮＤフィルタにより構成される。
【０３２５】
例えば、ＮＤフィルタ４１１の減光率が固定式の場合、ＮＤフィルタ４１１を被写体と撮像素子１２１の受光面との間に挿入したり、被写体と撮像素子１２１の受光面との間から外したりする挿脱機構（不図示）を備えている。そして、制御部１２３は、露出用画素１２１ａＢの露出用信号の検出信号レベルに基づいて、挿脱機構を制御して、ＮＤフィルタ４１１の挿脱を制御する。
【０３２６】
例えば、制御部１２３は、各露出用画素１２１ａＢの露出用信号の検出信号レベルの平均値が所定の閾値未満の場合、挿脱機構を制御して、ＮＤフィルタ４１１を被写体と撮像素子１２１の受光面との間から外す。これにより、ＮＤフィルタ４１１により復元用画素１２１ａＡの受光量が減衰することが防止され、その結果、検出画像（復元画像）のＳＮ比が向上する。
【０３２７】
一方、制御部１２３は、各露出用画素１２１ａＢの露出用信号の検出信号レベルの平均値が所定の閾値以上の場合、挿脱機構を制御して、ＮＤフィルタ４１１を被写体と撮像素子１２１の受光面との間に挿入する。これにより、撮像素子１２１への入射光の光強度が低下し、撮像素子１２１の各復元用画素１２１ａＡの飽和の発生が抑制される。
【０３２８】
また、ＮＤフィルタ４１１が電子式可変ＮＤフィルタにより構成される場合、例えば、制御部１２３は、露出用画素１２１ａＢの露出用信号の検出信号レベルに基づいて、ＮＤフィルタ４１１の減光率を制御する。
【０３２９】
例えば、制御部１２３は、各露出用画素１２１ａＢの露出用信号の検出信号レベルの平均値が所定の閾値未満の場合、ＮＤフィルタ４１１の減光率を０に設定し、ＮＤフィルタ４１１への入射光をそのまま減光せずに撮像素子１２１へ入射させる。これにより、ＮＤフィルタ４１１により復元用画素１２１ａＡの受光量が減衰し、その結果、検出画像（復元画像）のＳＮ比が低下することが抑制される。
【０３３０】
一方、制御部１２３は、各露出用画素１２１ａＢの露出用信号の検出信号レベルの平均値が所定の閾値以上の場合、その平均値に基づいて、ＮＤフィルタ４１１の減光率を調整する。これにより、撮像素子１２１への入射光の光強度が低下し、撮像素子１２１の各復元用画素１２１ａＡの飽和の発生が抑制される。また、ＮＤフィルタ４１１の減光率を適切に調整することにより、復元用画素１２１ａＡの受光量をできる限り大きくすることができ、検出画像（復元画像）のＳＮ比が向上する。
【０３３１】
なお、ＮＤフィルタ４１１は、単独で設けられてもよいし、ズームレンズ等の交換レンズとともに設けられてもよい。後者の場合、例えば、ＮＤフィルタ４１１は交換レンズ内に設けられたり、交換レンズと撮像装置４０１の間に装着されたりする。なお、ＮＤフィルタ４１１が電子式可変ＮＤフィルタにより構成される場合、ＮＤフィルタ４１１は、必ずしも撮像装置４０１に挿脱可能である必要はなく、撮像装置４０１に固定して設けられていてもよい。
【０３３２】
＜＜５．変形例＞＞
以下、上述した本開示の実施の形態の変形例について説明する。
【０３３３】
＜露出制御に関する変形例＞
例えば、制御部１２３又は撮像素子１２１制御回路３０６は、各露出用画素１２１ａＢの露出用信号の検出信号レベルの平均値に基づいて、各復元用画素１２１ａＡから出力される復元用信号に対して、カラム信号処理回路３０３のＡＤ変換部（不図示）に入力される前に適用するアナログゲインの値を調整するようにしてもよい。これにより、被写体からの入射光の光強度が大きくて、アナログゲインにより増幅した後の復元用信号の検出信号レベルが、ＡＤ変換部のダイナミックレンジを超えることにより、復元用信号の飽和が発生することが抑制される。
【０３３４】
また、露出用信号の検出信号レベルの平均値以外の値、例えば、露出用信号の検出信号レベルの最大値や中間値を用いて、上述した露出制御を行うようにしてもよい。
【０３３５】
さらに、以上の説明では、撮像素子１２１（復元用画素１２１ａＡ）の露出制御を制御部１２３が主となって行う例を示したが、例えば、撮像素子１２１（復元用画素１２１ａＡ）の制御回路３０６が主となって露出制御を行うようにしてもよい。
【０３３６】
＜撮像素子１２１に関する変形例＞
例えば、各画素１２１ａの遮光膜１２１ｂの形状には、上述した横帯タイプ、縦帯タイプ、Ｌ字タイプ、矩形の開口部を設けたタイプ以外の形状を採用することが可能である。
【０３３７】
また、例えば、図５を参照して上述した撮像素子１２１では、１つの画素１２１ａ内に２行×２列の４つのフォトダイオード１２１ｆを設ける例を示したが、フォトダイオード１２１ｆの数や配置は、この例に限定されるものではない。
【０３３８】
例えば、図３４に示されるように、１つの画素１２１ａにおいて、１個のオンチップレンズ１２１ｃに対して、３行×３列に並べられた９個のフォトダイオード１２１ｆ−１１１乃至１２１ｆ−１１９を設けるようにしてもよい。すなわち、１つの画素出力単位が、９個のフォトダイオード１２１ｆを備えるようにしてもよい。
【０３３９】
そして、例えば、フォトダイオード１２１ｆ−１１１，１２１ｆ−１１４，１２１ｆ−１１７乃至１２１ｆ−１１９の５画素の信号を読み出さないようにすることで、実質的に、フォトダイオード１２１ｆ−１１１，１２１ｆ−１１４，１２１ｆ−１１７乃至１２１ｆ−１１９の範囲に遮光膜１２１ｂが設定されたＬ字タイプの遮光膜１２１ｂを備える画素１２１ａと同様の入射角特性を得ることができる。
【０３４０】
このようにして、遮光膜１２１ｂを設けることなく、遮光膜１２１ｂを設けた場合と同様の入射角特性を得ることができる。また、信号を読み出さないフォトダイオード１２１ｆのパターンを切り替えることにより、遮光膜１２１ｂにより遮光される位置と範囲を変えた場合と同様に、入射角指向性を変化させることができる。
【０３４１】
また、以上の説明では、１つの画素１２１ａにより１つの画素出力単位が構成される例を示したが、複数の画素１２１ａにより１つの画素出力単位を構成することも可能である。
【０３４２】
例えば、図３５に示されるように、３行×３列に並べられた画素１２１ａ−１１１乃至画素１２１ａ−１１９により１つの画素出力単位５０１ｂを構成することが可能である。なお、画素１２１ａ−１１１乃至画素１２１ａ−１１９は、例えば、それぞれ１つのフォトダイオードを備え、オンチップレンズを備えていない。
【０３４３】
例えば、各画素１２１ａからの画素信号を加算することにより、検出画像の１画素分の検出信号を生成するともに、一部の画素１２１ａからの画素信号の出力を停止したり、加算しないようにすることにより、画素出力単位５０１ｂの入射角指向性を実現することができる。例えば、画素１２１ａ−１１２、画素１２１ａ−１１３、画素１２１ａ−１１５、及び、画素１２１ａ−１１６の画素信号を加算して検出信号を生成することにより、画素１２１ａ−１１１、画素１２１ａ−１１４、及び、画素１２１ａ−１１７乃至画素１２１ａ−１１９の範囲にＬ字タイプの遮光膜１２１ｂを設けた場合と同様の入射角指向性を得ることができる。
【０３４４】
また、画素信号を検出信号に加算する画素１２１ａのパターンを切り替えることにより、遮光膜１２１ｂにより遮光される位置と範囲を変えた場合と同様に、入射角指向性を異なる値に設定することができる。
【０３４５】
さらに、この場合、例えば、画素１２１ａの組合せを変更することにより、画素出力単位の範囲を変更することが可能である。例えば、画素１２１ａ−１１１、画素１２１ａ−１１２、画素１２１ａ−１１４、及び、画素１２１ａ−１１５からなる２行×２列の画素１２１ａにより画素出力単位５０１ｓを構成することができる。
【０３４６】
また、例えば、全ての画素１２１ａの画素信号を記録しておき、画素１２１ａの組合せを後で設定することにより、画素出力単位の範囲を後で設定することが可能である。さらに、設定した画素出力単位内の画素１２１ａのうち、画素信号を検出信号に加算する画素１２１ａを選択することにより、画素出力単位の入射角指向性を後で設定することが可能である。
【０３４７】
＜その他の変形例＞
また、本開示は、赤外光等可視光以外の波長の光の撮像を行う撮像装置や撮像素子にも適用することが可能である。この場合、復元画像は、ユーザが目視して被写体を認識できる画像とはならず、ユーザが被写体を視認できない画像となる。なお、通常の撮像レンズは遠赤外光を透過することが困難であるため、本技術は、例えば、遠赤外光の撮像を行う場合に有効である。したがって、復元画像は遠赤外光の画像であっても良く、また、遠赤外光に限らず、その他の可視光や非可視光の画像であっても良い。
【０３４８】
さらに、例えば、ディープラーニング等の機械学習を適用することにより、復元後の復元画像を用いずに、復元前の検出画像を用いて画像認識等を行うようにすることも可能である。この場合も、本技術を用いることにより、復元前の検出画像を用いた画像認識の精度が向上する。換言すれば、復元前の検出画像の画質が向上する。
【０３４９】
＜＜６．その他＞＞
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータ（例えば、制御部１２３等）などが含まれる。
【０３５０】
コンピュータが実行するプログラムは、例えば、パッケージメディア等としての記録媒体（例えば、記録媒体１３０等）に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０３５１】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０３５２】
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０３５３】
例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０３５４】
さらに、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０３５５】
また、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０３５６】
尚、本開示は、以下のような構成も取ることができる。
【０３５７】
（１）
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、 前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子と、
前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御部と
を備える撮像装置。
（２）
前記非指向性画素出力単位は、前記指向性画素出力単位より受光感度が高い
前記（１）に記載の撮像装置。
（３）
前記露出制御部は、前記非指向性検出信号に基づいて、前記被写体と前記撮像素子の受光面との間へのＮＤ（Neutral Density）フィルタの挿脱を制御する
前記（１）又は（２）に記載の撮像装置。
（４）
前記露出制御部は、前記非指向性検出信号に基づいて、前記撮像素子への入射光を減光する可変ＮＤ（Neutral Density）フィルタの減光度を調整する
前記（１）又は（２）に記載の撮像装置。
（５）
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露光時間を制御する
前記（１）乃至（４）のいずれかに記載の撮像装置。
（６）
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位から出力される検出信号に対するゲインを制御する
前記（１）乃至（５）のいずれかに記載の撮像装置。
（７）
前記指向性画素出力単位は、
１つのフォトダイオードと、
前記入射光の一部の前記フォトダイオードへの入射を遮る遮光膜と
を備え、
前記非指向性画素出力単位は、１つのフォトダイオードを備える
前記（１）乃至（６）のいずれかに記載の撮像装置。
（８）
前記指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードのうち一部のフォトダイオードが寄与する１つの検出信号を出力し、
前記非指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードが全て寄与する１つの検出信号を出力する
前記（１）乃至（６）のいずれかに記載の撮像装置。
（９）
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位の露出制御を、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて行う露出制御ステップを
含む露出制御方法。
（１０）
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えていない非指向性画素出力単位とを備える撮像素子を備える撮像装置のコンピュータに、
前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御ステップを
含む処理を実行させるためのプログラム。
（１１）
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を備える複数の指向性画素出力単位と、
撮像レンズ及びピンホールのいずれも介さず入射する前記入射光を受光し、前記入射角指向性を持たせるための構成を備えておらず、前記指向性画素出力単位より受光感度が高く、前記複数の指向性画素出力単位の露出制御に用いられる非指向性画素出力単位と
を備える撮像素子。
（１２）
前記複数の指向性画素出力単位から出力される検出信号により、前記被写体の像が結像されていない検出画像を生成する
前記（１１）に記載の撮像素子。
（１３）
前記指向性画素出力単位は、
１つのフォトダイオードと、
前記入射光の一部の前記フォトダイオードへの入射を遮る遮光膜と
を備え、
前記非指向性画素出力単位は、１つのフォトダイオードを備える
前記（１１）又は（１２）に記載の撮像素子。
（１４）
前記指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードのうち一部のフォトダイオードが寄与する１つの検出信号を出力し、
前記非指向性画素出力単位は、複数のフォトダイオードを備え、前記複数のフォトダイオードが全て寄与する１つの検出信号を出力する
前記（１１）又は（１２）に記載の撮像素子。
（１５）
前記複数の指向性画素出力単位には、カラーフィルタがそれぞれ設けられ、
前記非指向性画素出力単位には、白色又は透明の光学フィルタが設けられるか、カラーフィルタが設けられない
前記（１１）乃至（１４）のいずれかに記載の撮像素子。
（１６）
前記複数の指向性画素出力単位には、赤、緑、又は、青のいずれかのカラーフィルタそれぞれが設けられ、前記複数の指向性画素出力単位は所定の配列に従った位置に並べられ、
前記非指向性画素出力単位は、前記所定の配列において青のカラーフィルタが設けられる前記指向性画素出力単位が配置される位置のうちの一部に、前記指向性画素出力単位の代わりに配置される
前記（１５）に記載の撮像素子。
（１７）
前記非指向性画素出力単位から出力される検出信号である非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露出制御を行う露出制御部を
さらに備える前記（１１）乃至（１６）のいずれかに記載の撮像素子。
（１８）
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位の露光時間を制御する
前記（１７）に記載の撮像素子。
（１９）
前記露出制御部は、前記非指向性検出信号に基づいて、前記複数の指向性画素出力単位から出力される検出信号に対するゲインを制御する
前記（１７）又は（１８）に記載の撮像素子。
【０３５８】
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
【符号の説明】
【０３５９】
１０１  撮像装置，  １１１  信号処理制御部，  １２１  撮像素子，  １２１ａ，１２１ａ’  画素，  １２１ａＡ  復元用画素，  １２１ａＢ  露出用画素，  １２１Ａ  受光面，  １２１ｂ  遮光膜，  １２１ｃ  オンチップレンズ，  １２１ｅ，１２１ｆ  フォトダイオード，  １２２  復元部，  １２３  制御部，  １２５  検出部，  １２６  関連付け部，  ３０１  画素アレイ部，  ３０２  垂直駆動回路，  ３０３  カラム信号処理回路，  ３０４  水平駆動回路，  ３０６  制御回路，  ４０１  撮像装置，  ４１１  ＮＤフィルタ，  ５０１ｂ，５０１ｓ  画素出力単位
【図１】
2019078333.tif 000005
【図２】
2019078333.tif 000006
【図３】
2019078333.tif 000007
【図４】
2019078333.tif 000008
【図５】
2019078333.tif 000009
【図６】
2019078333.tif 000010
【図７】
2019078333.tif 000011
【図８】
2019078333.tif 000012
【図９】
2019078333.tif 000013
【図１０】
2019078333.tif 000014
【図１１】
2019078333.tif 000015
【図１２】
2019078333.tif 000016
【図１３】
2019078333.tif 000017
【図１４】
2019078333.tif 000018
【図１５】
2019078333.tif 000019
【図１６】
2019078333.tif 000020
【図１７】
2019078333.tif 000021
【図１８】
2019078333.tif 000022
【図１９】
2019078333.tif 000023
【図２０】
2019078333.tif 000024
【図２１】
2019078333.tif 000025
【図２２】
2019078333.tif 000026
【図２３】
2019078333.tif 000027
【図２４】
2019078333.tif 000028
【図２５】
2019078333.tif 000029
【図２６】
2019078333.tif 000030
【図２７】
2019078333.tif 000031
【図２８】
2019078333.tif 000032
【図２９】
2019078333.tif 000033
【図３０】
2019078333.tif 000034
【図３１】
2019078333.tif 000035
【図３２】
2019078333.tif 000036
【図３３】
2019078333.tif 000037
【図３４】
2019078333.tif 000038
【図３５】
2019078333.tif 000039
【国際調査報告】
2019078333.tif 000040
2019078333.tif 000041