"入射光を電気信号に光電変換する、二次元的に配列された光電変換素子と、少なくとも一部の前記光電変換素子のそれぞれに一対一に対応して設けられたカラーフィルタと、少なくとも一部の前記光電変換素子のそれぞれに一対一に対応して設けられたフォトニック結晶偏光子とを備える撮像素子。前記フォトニック結晶偏光子は、前記カラーフィルタが設けられていない前記光電変換素子に対応して設けられている請求項1に記載の撮像素子。前記フォトニック結晶偏光子は、同一色の前記カラーフィルタに対応して設けられている請求項1に記載の撮像素子。隣接するn個の前記光電変換素子を一組とする光電変換素子群が、互いに異なる波長帯域を透過させる前記カラーフィルタのカラーフィルタパターンの少なくとも1パターンと、互いに異なる方位角を有する前記フォトニック結晶偏光子が少なくとも4つ組み合わせて成る偏光子パターンの少なくとも1パターンを含んで、周期的に配列されている請求項1から3のいずれか1項に記載の撮像素子。少なくとも2つの視差画像データを出力するように、前記光電変換素子の少なくとも一部のそれぞれに一対一に対応して設けられた開口マスクを備え、前記フォトニック結晶偏光子は、前記開口マスクが設けられていない前記光電変換素子に対応して設けられている請求項1から4のいずれか1項に記載の撮像素子。請求項1から5のいずれか1項に記載の撮像素子を備える撮像装置。前記撮像素子からの出力信号を取得して、被写体像であるカラー画像データと、被写体表面の反射の偏光状態を表す偏光画像データとを生成する画像処理部を備える請求項6に記載の撮像装置。前記偏光画像データに基づいて、前記カラー画像データにおける前記被写体像の輪郭情報を抽出する輪郭抽出部を備える請求項7に記載の撮像装置。被写体空間に対して予め定められた複数の測距領域を有するAFユニットとを備え、前記フォトニック結晶偏光子は、前記撮像素子において前記複数の測距領域に対応した領域に設けられている請求項6から8のいずれか1項に記載の撮像装置。上記のカメラによれば、一度の撮影動作により得られる画像データは、偏光情報が取得できる偏光画像データのみであった。したがって、当該偏光画像データに対応するカラー画像データは得られなかった。偏光画像データを出力するカメラと、通常のカラー画像データを出力するカメラとを並べて撮影したとしても、撮影タイミングの同期、画角の調整などが困難であった。本発明の第1の態様における撮像素子は、入射光を電気信号に光電変換する、二次元的に配列された光電変換素子と、少なくとも一部の前記光電変換素子のそれぞれに一対一に対応して設けられたカラーフィルタと、少なくとも一部の前記光電変換素子のそれぞれに一対一に対応して設けられたフォトニック結晶偏光子とを備える。本発明の第2の態様における撮像装置は、上記の撮像素子を備える。なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。撮像装置の一形態である本実施形態に係るデジタルカメラは、1つのシーンに対してカラー画像データと偏光画像データを一度の撮影により生成できるように構成されている。偏光画像データは、被写体表面の反射光の偏光状態を表す画像データである。また、本実施形態に係るデジタルカメラは、追加的な機能として、視差画像データを生成できる。互いに視点の異なるそれぞれの画像を視差画像と呼ぶ。図1は、本発明の実施形態に係るデジタルカメラ10の構成を説明する図である。デジタルカメラ10は、撮影光学系としての撮影レンズ20を備え、光軸21に沿って入射する被写体光束を撮像素子100へ導く。撮影レンズ20は、デジタルカメラ10に対して着脱できる交換式レンズであっても構わない。デジタルカメラ10は、撮像素子100、制御部201、A/D変換回路202、メモリ203、駆動部204、画像処理部205、メモリカードIF207、操作部208、表示部209、LCD駆動回路210およびAFセンサ211を備える。なお、図示するように、撮像素子100へ向かう光軸21に平行な方向をz軸プラス方向と定め、z軸と直交する平面において紙面手前へ向かう方向をx軸プラス方向、紙面上方向をy軸プラス方向と定める。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。撮影レンズ20は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図1では撮影レンズ20を説明の都合上、瞳近傍に配置された仮想的な1枚のレンズで代表して表している。撮像素子100は、撮影レンズ20の焦点面近傍に配置されている。撮像素子100は、二次元的に複数の光電変換素子が配列された、例えばCCD、CMOSセンサ等のイメージセンサである。撮像素子100は、駆動部204によりタイミング制御されて、受光面上に結像された被写体像を画像信号に変換してA/D変換回路202へ出力する。A/D変換回路202は、撮像素子100が出力する画像信号をデジタル画像信号に変換してメモリ203へ出力する。画像処理部205は、メモリ203をワークスペースとして種々の画像処理を施し、画像データを生成する。特に、画像処理部205は、偏光画像データを処理して被写体像の輪郭を抽出する輪郭抽出部231を有する。具体的な処理の詳細については、後述する。画像処理部205は、他にも、撮像素子100の画素配列に即して、入力される画像信号からカラー画像データおよび偏光画像データを生成したり、選択された画像フォーマットに従って画像データを調整したりする機能も担う。生成された画像データは、LCD駆動回路210により表示信号に変換され、表示部209に表示され得る。また、メモリカードIF207に装着されているメモリカード220に記録され得る。AFユニットのAFセンサ211は、被写体空間に対して複数の測距領域が設定された位相差センサであり、それぞれの測距領域において被写体像のデフォーカス量を検出する。一連の撮影シーケンスは、操作部208がユーザの操作を受けて、制御部201へ操作信号を出力することにより開始される。撮影シーケンスに付随するAF,AE等の各種動作は、制御部201に制御されて実行される。例えば、制御部201は、AFセンサ211の検出信号を解析して、撮影レンズ20の一部を構成するフォーカスレンズを移動させる合焦制御を実行する。次に、撮像素子100の構成について詳細に説明する。図2は、本発明の実施形態に係る撮像素子100の断面を表す概略図である。撮像素子100は、被写体側から順に、偏光子101、カラーフィルタ102、開口マスク103、配線層105および光電変換素子108が配列されて構成されている。光電変換素子108は、入射する光を電気信号に変換するフォトダイオードにより構成される。光電変換素子108は、基板109の表面に二次元的に複数配列されている。光電変換素子108により変換された画像信号、光電変換素子108を制御する制御信号等は、配線層105に設けられた配線106を介して送受信される。また、各光電変換素子108に一対一に対応して設けられた開口部104を有する開口マスク103が、配線層に接して設けられている。開口部104は、後述するように、対応する光電変換素子108ごとにシフトさせて、相対的な位置が厳密に定められている。詳しくは後述するが、この開口部104を備える開口マスク103の作用により、光電変換素子108が受光する被写体光束に視差が生じる。一方、視差を生じさせない光電変換素子108上には、開口マスク103が存在しない。別言すれば、対応する光電変換素子108に対して入射する被写体光束を制限しない、つまり有効光束の全体を通過させる開口部104を有する開口マスク103が設けられているとも言える。視差を生じさせることはないが、実質的には配線106によって形成される開口107が入射する被写体光束を規定するので、配線106を、視差を生じさせない有効光束の全体を通過させる開口マスクと捉えることもできる。開口マスク103は、各光電変換素子108に対応して別個独立に配列しても良いし、カラーフィルタ102の製造プロセスと同様に複数の光電変換素子108に対して一括して形成しても良い。カラーフィルタ102は、開口マスク103上に設けられている。カラーフィルタ102は、各光電変換素子108に対して特定の波長帯域を透過させるように着色された、光電変換素子108のそれぞれに一対一に対応して設けられるフィルタである。カラー画像を出力するには、互いに異なる少なくとも2種類のカラーフィルタが配列されれば良いが、より高画質のカラー画像を取得するには3種類以上のカラーフィルタを配列すると良い。例えば赤色波長帯を透過させる赤フィルタ、緑色波長帯を透過させる緑フィルタ、および青色波長帯を透過させる青フィルタを格子状に配列すると良い。また、特定の光電変換素子108には、対応するカラーフィルタ102を設けなくても良い。あるいは、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタを配列しても良い。具体的な配列については後述する。偏光子101は、カラーフィルタ102上に設けられている。偏光子101は、入射される被写体光束を偏光方向により透過率を異ならせて射出する光学素子である。偏光子101は、光電変換素子108のそれぞれに一対一に対応して設けられている。偏光子101は、対応する光電変換素子108により、透過させる偏光方向が異なるように設けられている。また、対応する光電変換素子108によっては、特定方向への偏光特性を有さない偏光子101が設けられている。なお、本実施形態においては、特定方向への偏光特性を有さない場合も、以下のように偏光特性を有する偏光子と共に形成されるので、便宜上、偏光子101として説明する。偏光子101は、フォトニック結晶偏光子により構成される。フォトニック結晶偏光子は、屈折率の異なる光学材料が周期的に並んだ構造体である。特に面内方向に微細な凹凸溝を設けると、入射光に対して面内異方性を生じさせる。すなわち、凹凸溝に沿った方向に偏光成分を有する入射光ほど良く透過させる。この方向を方位角という。凹凸溝を設けない場合は、特定方向への偏光特性を有さない偏光子101となる。つまり、方位角を有さない。フォトニック結晶偏光子は、具体的には、SiO2、Nb2O5、Al2O5などのスパッタ成膜可能な材料を用いて自己クローニング成膜技術等により形成される。特に、一つ一つの光電変換素子108に対応させて、凹凸溝の方向を変えることができる。また、凹凸溝を設けず、特定方向への偏光特性を与えないこともできる。したがって、フォトニック結晶偏光子は、異なる偏光特性を有する偏光子101も、特定方向への偏光特性を有さない偏光子101も纏めて一体的に形成することができる。このように、各々の光電変換素子108に対応して一対一に設けられる開口マスク103、カラーフィルタ102および偏光子101の一単位を画素と呼ぶ。特に、視差を生じさせる開口マスク103が設けられた画素を視差画素、視差を生じさせる開口マスク103が設けられていない画素を視差なし画素と呼ぶ。また、特定方向への偏光特性を有する偏光子101が設けられた画素を偏光画素、特定方向への偏光特性を有さない偏光子101が設けられた画素を偏光なし画素と呼ぶ。例えば、撮像素子100の有効画素領域が24mm×16mm程度の場合、画素数は1200万程度に及ぶ。なお、個々の画素に対応させて、入射する被写体光束のより多くを光電変換素子108へ導くための集光レンズであるマイクロレンズを設けることもできる。マイクロレンズは、撮影レンズ20の瞳中心と光電変換素子108の相対的な位置関係を考慮して、より多くの被写体光束が光電変換素子108に導かれるようにその光軸がシフトされていても良い。また、裏面照射型イメージセンサの場合は、配線層105が光電変換素子108とは反対側に設けられる。偏光子101について更に説明する。図3は、偏光子パターンに対する明暗パターンを説明する図である。特に図3aは、偏光子パターンを示す図であり、図3bは、入射する被写体光束の光量を概念的に示す図である。上述のように、偏光子101は、形成された凹凸溝の方向により、入射される被写体光束をその偏光方向によって透過率を異ならせて射出する。本実施形態においては、図示するように、それぞれ0°、45°、90°、135°の方向に方位角を有する4つの偏光子101が組み合わされて、一組の偏光子パターンが形成される。この偏光子パターンを通過する被写体光束は、様々な明暗パターンを生成する。例えば、0°方向の直線偏光から成る被写体光束は、0°の方位角を有する偏光子101に対してほぼ透過するのに対して、45°および135°の方位角を有する偏光子101に対しては半減し、90°の方位角を有する偏光子101に対してはほぼ遮断される。また、円偏光から成る被写体光束は、いずれの偏光子101に対しても半減する。つまり、入射光束が、入射する偏光子101の方位角成分をどれだけ含むかにより、光電変換素子108へ届く光量が変化する。図4は、偏光子101の方位角と光電変換素子108の受光光量との関係を示す図である。具体的には、互いに近接する0°、45°、90°、135°の方位角をそれぞれ有する偏光画素の受光光量を示す。なお、これらの偏光画素は、同色のカラーフィルタ102に対応して設けられているものとする。横軸は、偏光子101の方位角であり、サンプリングポイントである0°、45°、90°、135°を明示的に示す。縦軸は、光電変換素子108の受光光量であり、ひいては光電変換された電荷量を示す。ここでは、例として被写体光束B1と被写体光束B2を受光した場合について説明する。被写体光束B1の場合、各偏光画素は、白丸で示される光量を受光する。この白丸を滑らかに繋ぐコサインカーブを当てはめると、f1θとなる。このとき、f1θの最大値はF1となる。また、被写体光束B2の場合、各偏光画素は、黒丸で示される光量を受光する。この黒丸を滑らかに繋ぐコサインカーブを当てはめると、f2θとなる。このとき、f2θの最大値はF2となる。それぞれのコサインカーブは、偏光情報を含む。当てはめられたコサインカーブは、一般化すると、fθ=A×cos{π/2θ2φ}Mで、表される。ここで、fθの最大値となるAMは、偏光子101が無い場合の受光光量とみなすことができる。また、偏光状態は、A、M、φから決定される。したがって、上述のように、偏光子パターンが0°、45°、90°、135°の偏光子101を含めば、それぞれの偏光画素の出力から、偏光子101が設けられていない場合の受光光量と、被写体光束の偏光状態が決定される。このようにして、被写体光束の偏光状態が決定されると、反射面である被写体表面の法線方向を推定することができる。それぞれの偏光画素の出力を寄せ集めれば、被写体像に対応する法線マップを生成することができる。法線方向に対応する色を割り当てれば、視覚化された偏光マップを生成することもできる。偏光マップは、被写体像を被写体表面の法線方向で視覚化した画像である。例えば、法線方向が不連続となる部分は、割り当てられた色の変化も急激となるので、色の急激な変化として表現される境界により互いに異なる被写体として認識できる。したがって、画像処理における被写体分離において、法線マップまたは偏光マップを活用できる。なお、本実施形態においては、法線マップを被写体表面の反射光の偏光状態を表す偏光画像データとして扱う。次に視差画素について説明する。図5は、視差画素の配列パターンを説明する説明図である。ここでは、説明を簡単にすべく、カラーフィルタ102の配色については後に言及を再開するまで考慮しない。カラーフィルタ102の配色に言及しない以下の説明においては、同色のカラーフィルタ102を有する視差画素のみを寄せ集めたイメージセンサであると捉えることができる。したがって、以下に説明する繰り返しパターンは、同色のカラーフィルタ102における隣接画素として考えても良い。なお、本実施形態においては、偏向画素と視差画素は排他的に配列される。すなわち、視差を生じさせる開口部104を持つ画素は、方位角を有する偏光子101を有さない。図5に示すように、開口マスク103の開口部104は、それぞれの画素の中心に対して相対的にシフトして設けられている。そして、隣接する画素同士を比較しても、それぞれの開口部104は互いに変位した位置に設けられている。図の例においては、それぞれの画素に対する開口部104の位置として、互いに左右方向にシフトした6種類の開口マスク103が用意されている。そして、撮像素子100の全体は、紙面左側から右側へ徐々にシフトする開口マスク103をそれぞれ有する6つの視差画素を一組とする光電変換素子群が、二次元的かつ周期的に配列されている。つまり、撮像素子100は、一組の光電変換素子群を含む繰り返しパターン110が、周期的に敷き詰められて構成されていると言える。なお、例えば左右方向にシフトした3種類の開口マスク103をそれぞれ有する3つの視差画素を一組とする場合、真ん中の画素の開口部104は、画素の中心に対してシフトしない。しかし、このような場合も、隣接する開口部104と開口面積を一致させるなどにより、後述の手法によって互いに視差を与える視差画像を生成することができる。したがって、このように奇数種類の開口マスク103に対応する組み合わせに対しても、繰り返しパターン110を定義することができる。図6は、視差画素と被写体の関係を説明する概念図である。特に図6aは撮像素子100のうち撮影光軸21と直交する中心に配列されている繰り返しパターン110tの光電変換素子群を示し、図6bは周辺部分に配列されている繰り返しパターン110uの光電変換素子群を模式的に示している。図6a、bにおける被写体30は、撮影レンズ20に対して合焦位置に存在する。図6cは、図6aに対応して、撮影レンズ20に対して非合焦位置に存在する被写体31を捉えた場合の関係を模式的に示している。まず、撮影レンズ20が合焦状態に存在する被写体30を捉えている場合の、視差画素と被写体の関係を説明する。被写体光束は、撮影レンズ20の瞳を通過して撮像素子100へ導かれるが、被写体光束が通過する全体の断面領域に対して、6つの部分領域Pa~Pfが規定されている。そして、例えば繰り返しパターン110t、110uを構成する光電変換素子群の紙面左端の画素は、拡大図からもわかるように、部分領域Pfから射出された被写体光束のみが光電変換素子108へ到達するように、開口マスク103の開口部104fの位置が定められている。同様に、右端の画素に向かって、部分領域Peに対応して開口部104eの位置が、部分領域Pdに対応して開口部104dの位置が、部分領域Pcに対応して開口部104cの位置が、部分領域Pbに対応して開口部104bの位置が、部分領域Paに対応して開口部104aの位置がそれぞれ定められている。別言すれば、例えば部分領域Pfと左端画素の相対的な位置関係によって定義される、部分領域Pfから射出される被写体光束の主光線Rfの傾きにより、開口部104fの位置が定められていると言っても良い。そして、合焦位置に存在する被写体30からの被写体光束を、開口部104fを介して光電変換素子108が受光する場合、その被写体光束は、点線で図示するように、光電変換素子108上で結像する。同様に、右端の画素に向かって、主光線Reの傾きにより開口部104eの位置が、主光線Rdの傾きにより開口部104dの位置が、主光線Rcの傾きにより開口部104cの位置が、主光線Rbの傾きにより開口部104bの位置が、主光線Raの傾きにより開口部104aの位置がそれぞれ定められていると言える。図6aで示すように、合焦位置に存在する被写体30のうち、光軸21と交差する被写体30上の微小領域Otから放射される光束は、撮影レンズ20の瞳を通過して、繰り返しパターン110tを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン110tを構成する光電変換素子群の各画素は、それぞれ6つの部分領域Pa~Pfを介して、一つの微小領域Otから放射される光束を受光している。微小領域Otは、繰り返しパターン110tを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。同様に、図6bで示すように、合焦位置に存在する被写体30のうち、光軸21から離間した被写体30上の微小領域Ouから放射される光束は、撮影レンズ20の瞳を通過して、繰り返しパターン110uを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン110uを構成する光電変換素子群の各画素は、それぞれ6つの部分領域Pa~Pfを介して、一つの微小領域Ouから放射される光束を受光している。微小領域Ouも、微小領域Otと同様に、繰り返しパターン110uを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。つまり、被写体30が合焦位置に存在する限りは、撮像素子100上における繰り返しパターン110の位置に応じて、光電変換素子群が捉える微小領域が異なり、かつ、光電変換素子群を構成する各画素は互いに異なる部分領域を介して同一の微小領域を捉えている。そして、それぞれの繰り返しパターン110において、対応する画素同士は同じ部分領域からの被写体光束を受光している。つまり、図においては、例えば繰り返しパターン110t、110uのそれぞれの左端の画素は、同じ部分領域Pfからの被写体光束を受光している。撮影光軸21と直交する中心に配列されている繰り返しパターン110tにおいて左端画素が部分領域Pfからの被写体光束を受光する開口部104fの位置と、周辺部分に配列されている繰り返しパターン110uにおいて左端画素が部分領域Pfからの被写体光束を受光する開口部104fの位置は厳密には異なる。しかしながら、機能的な観点からは、部分領域Pfからの被写体光束を受光するための開口マスクという点で、これらを同一種類の開口マスクとして扱うことができる。したがって、図6の例では、撮像素子100上に配列される視差画素のそれぞれは、6種類の開口マスクの一つを備えると言える。次に、撮影レンズ20が非合焦状態に存在する被写体31を捉えている場合の、視差画素と被写体の関係を説明する。この場合も、非合焦位置に存在する被写体31からの被写体光束は、撮影レンズ20の瞳の6つの部分領域Pa~Pfを通過して、撮像素子100へ到達する。ただし、非合焦位置に存在する被写体31からの被写体光束は、光電変換素子108上ではなく他の位置で結像する。例えば、図6cに示すように、被写体31が被写体30よりも撮像素子100に対して遠い位置に存在すると、被写体光束は、光電変換素子108よりも被写体31側で結像する。逆に、被写体31が被写体30よりも撮像素子100に対して近い位置に存在すると、被写体光束は、光電変換素子108よりも被写体31とは反対側で結像する。したがって、非合焦位置に存在する被写体31のうち、微小領域Otから放射される被写体光束は、6つの部分領域Pa~Pfのいずれを通過するかにより、異なる組の繰り返しパターン110における対応画素に到達する。例えば、部分領域Pdを通過した被写体光束は、図6cの拡大図に示すように、主光線Rdとして、繰り返しパターン110tに含まれる、開口部104dを有する光電変換素子108へ入射する。そして、微小領域Otから放射された被写体光束であっても、他の部分領域を通過した被写体光束は、繰り返しパターン110tに含まれる光電変換素子108へは入射せず、他の繰り返しパターンにおける対応する開口部を有する光電変換素子108へ入射する。換言すると、繰り返しパターン110tを構成する各光電変換素子108へ到達する被写体光束は、被写体31の互いに異なる微小領域から放射された被写体光束である。すなわち、開口部104dに対応する108へは主光線をRdとする被写体光束が入射し、他の開口部に対応する光電変換素子108へは主光線をRa、Rb、Rc、Re、Rfとする被写体光束が入射するが、これらの被写体光束は、被写体31の互いに異なる微小領域から放射された被写体光束である。このような関係は、図6bにおける周辺部分に配列されている繰り返しパターン110uにおいても同様である。すると、撮像素子100の全体で見た場合、例えば、開口部104aに対応する光電変換素子108で捉えた被写体像Aと、開口部104dに対応する光電変換素子108で捉えた被写体像Dは、合焦位置に存在する被写体に対する像であれば互いにずれが無く、非合焦位置に存在する被写体に対する像であればずれが生じることになる。そして、そのずれは、非合焦位置に存在する被写体が合焦位置に対してどちら側にどれだけずれているかにより、また、部分領域Paと部分領域Pdの距離により、方向と量が定まる。つまり、被写体像Aと被写体像Dは、互いに視差像となる。この関係は、他の開口部に対しても同様であるので、開口部104aから104fに対応して、6つの視差像が形成されることになる。したがって、このように構成されたそれぞれの繰り返しパターン110において、互いに対応する画素の出力を寄せ集めると、視差画像が得られる。つまり、6つの部分領域Pa~Pfうちの特定の部分領域から射出された被写体光束を受光した画素の出力は、視差画像を形成する。図7は、視差画像を生成する処理を説明する概念図である。図は、左列から順に、開口部104fに対応する視差画素の出力を集めて生成される視差画像データIm_fの生成の様子、開口部104eの出力による視差画像データIm_eの生成の様子、開口部104dの出力による視差画像データIm_dの生成の様子、開口部104cの出力による視差画像データIm_cの生成の様子、開口部104bの出力による視差画像データIm_bの生成の様子、開口部104aの出力による視差画像データIm_aの生成の様子を表す。まず開口部104fの出力による視差画像データIm_fの生成の様子について説明する。6つの視差画素を一組とする光電変換素子群から成る繰り返しパターン110は、横一列に配列されている。したがって、開口部104fを有する視差画素は、撮像素子100上において、左右方向に6画素おき、かつ、上下方向に連続して存在する。これら各画素は、上述のようにそれぞれ異なる微小領域からの被写体光束を受光している。したがって、これらの視差画素の出力を寄せ集めて配列すると、視差画像が得られる。しかし、本実施形態における撮像素子100の各画素は正方画素であるので、単に寄せ集めただけでは、横方向の画素数が1/6に間引かれた結果となり、縦長の画像データが生成されてしまう。そこで、このように縦横のアスペクト比が本来のアスペクト比と異なるような場合には、補間処理を施す。図の例によれば、横方向に6倍の画素数とする補間処理を施すことにより、本来のアスペクト比の画像として視差画像データIm_fを生成する。ただし、そもそも補間処理前の視差画像データが横方向に1/6に間引かれた画像であるので、横方向の解像度は、縦方向の解像度よりも低下している。つまり、生成される視差画像データの数と、解像度の向上は相反関係にあると言える。同様にして、視差画像データIm_e~視差画像データIm_aが得られる。すなわち、デジタルカメラ10は、横方向に視差を有する6視点の視差画像を生成することができる。なお、上記の例では、横一列を繰り返しパターン110として周期的に配列される例を説明したが、繰り返しパターン110はこれに限らない。縦一列の繰り返しパターンであっても、斜め方向を組み合わせた繰り返しパターンであっても構わない。図8は、ベイヤー配列と他の配列のカラーフィルタパターンを説明する図である。図8aは、いわゆるベイヤー配列であり、図8bは、他のカラーフィルタ配列の例である。図8aに示すように、ベイヤー配列は、緑フィルタが左上と右下の2画素に、赤フィルタが左下の1画素に、青フィルタが右上の1画素に割り当てられる配列である。ここでは、緑フィルタが割り当てられた左上の画素をGb画素とし、同じく緑色フィルタが割り当てられた右下の画素をGr画素とする。また、赤色フィルタが割り当てられた画素をR画素と、青色が割り当てられた画素をB画素とする。また、図8bに示すように、他のカラーフィルタ配列は、図8aで示したベイヤー配列のGr画素を緑フィルタが割り当てられるG画素として維持する一方、Gb画素をカラーフィルタが割り当てられないW画素に変更した配列である。なお、W画素は、上述のように、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタが配列されていても良い。このようなW画素を含むカラーフィルタ配列を採用すれば、撮像素子が出力するカラー情報の精度は若干低下するものの、カラーフィルタが設けられている場合に比較して受光する光量を多くすることができる。このようなカラーフィルタ102の配列に対して、視差画素と視差なし画素を、および偏向画素と偏光なし画素を、何色の画素にどのような周期で割り振っていくかにより、膨大な数の繰り返しパターン110が設定され得る。撮像素子100からは、設定される繰り返しパターン110の違いにより、性質の異なる画像データが出力される。図9は、撮像素子100の出力と、生成される画像データの関係を示す概念図である。例えば撮像素子100の有効画素が1200万画素の場合、画素出力も1200万であるが、いかなる構造の画素からの出力であるかにより、出力値の意味合いが異なる。例えばR画素であって偏光なし画素かつ視差なし画素である画素からの出力であれば、出力値は、被写体光束の赤色成分としての単独出力を表す。一方、例えばG画素であって45°の方位角を有する偏向画素かつ視差なし画素であれば、被写体光束の緑色成分と45°方向の偏光成分が重なった重畳出力を表す。更に、例えばB画素であって偏光なし画素かつ視差画素であれば、被写体光束のうち青色成分であって特定入射角成分である重畳出力を表す。したがって、重畳出力をその意味に即して分離したり、周辺画素の出力から補間したりする処理を施すことにより、撮像素子からの出力から、カラー2D画像データ、偏光画像データおよび視差画像データを生成することができる。カラー2D画像データは、被写体像を視差のない通常のカラー画像として捉えた画像データである。偏光画像データは、上述のように、被写体表面の反射光の偏光状態を表す画像データである。本実施形態においては、法線マップを偏光画像データとして扱う。また、視差画像データは、例えばいわゆる立体視の場合、L画像データとR画像データの2つの画像データを含む。もちろん、撮像素子100が視差画素を含まない場合は、視差画像データは生成されない。繰り返しパターン110において、単独出力となる画素を相対的に増やせば、解像度の高いカラー2D画像を出力させることができる。この場合、偏向画素および視差画素は相対的に少ない割合となるので、偏光画像データの精度、視差画像の画質は低下する。多くのカラー画素を偏向画素とすれば、偏光画像データの精度は上がるが、受光光量低下に伴ってカラー2D画像の画質が低下する。また、視差画素の割合を増やせば、視差画像としては画質が向上するが、視差なし画素は相対的に減少するので、解像度の低い2D画像が出力される。このようなトレードオフの関係において、何れの画素を偏向画素とするか、あるいは偏光なし画素とするか、また、何れの画素を視差画素とするか、あるいは視差なし画素とするかにより、様々な特徴を有する繰り返しパターン110が設定される。以下に特徴的な配列について順次説明する。なお、以下の例において視差画素を配列する場合は、開口部104が画素中心よりも左側に偏心した視差L画素と、同じく右側に偏心した視差R画素の2種類を想定する。つまり、このような視差画素から出力される2視点の視差画像は、いわゆる立体視を実現する。上述のように異なる視点による複数の視差画像を出力させたい場合には、視差画素の種類を増やせば良い。図10は、撮像素子100における第1配列を説明する説明図である。第1配列のカラーフィルタ配列はベイヤー配列である。そして、Rフィルタ、Gフィルタ、Bフィルタが配列されるいずれの画素にも偏光子が配列されている。また、x,yの画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の同一色上に設けられた各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。カラーフィルタ配列と偏光子配列の組み合わせから成る、最小繰り返し単位である繰り返しパターン110は、図示するように4画素×4画素により規定される。なお、第1配列は、視差画素を含まない。このような配列において、画像データの生成について説明する。パターン1101は、R画素を中心とする四隅がB画素のパターンである。四隅のB画素は4種の方位角を有する偏向画素である。そこで、四隅のB画素の出力から図4を用いて説明した分離アルゴリズムにより、中心のR画素の座標における青色の光量値を算出する。なお、この座標における青色の光量値の算出には、R画素の出力を用いない。パターン1102は、G画素を中心とする四隅がG画素のパターンである。この場合も、パターン1101の場合と同様に、四隅の出力から中心座標における緑色の光量値を算出する。パターン1103は、B画素を中心とする四隅がR画素のパターンである。この場合も、パターン1101の場合と同様に、四隅の出力から中心座標における赤色の光量値を算出する。このようにして算出された各座標における赤色、緑色、青色のいずれかの光量値による画像データは、ベイヤー配列相当の画像データとなる。したがって、この画像データに、ベイヤー配列に対する格子補間処理を施せば、カラー2D画像データを生成することができる。このような配列においては、偏光画像データも、パターン1101、1102、1103の各単位において生成される。例えば、パターン1101においては、四隅のB画素の出力に分離アルゴリズムを適用することにより、中心のR画素の座標における青色の偏光情報を算出できる。このようにして、ベイヤー配列相当の偏光情報を算出できれば、さらに格子補間処理を施して、偏光画像データを生成することができる。図11は、撮像素子における第2配列を説明する説明図である。第2配列のカラーフィルタ配列は、図8bで示す他のカラーフィルタ配列である。そして、Wフィルタが配列される画素に偏光子が配列されている。また、Gフィルタが配列される画素に視差L画素または視差R画素が配列されている。また、パターン1201で示すように、x,yのG画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。カラーフィルタ配列、偏光子配列および視差画素配列の組み合わせから成る、最小繰り返し単位である繰り返しパターン110は、図示するように4画素×4画素により規定される。このような配列において、画像データの生成について説明する。パターン1202は、W画素を中心とする四隅がG画素のパターンである。四隅のG画素は視差L画素の2画素と視差R画素の2画素から成る。そこで、これらの光量値の平均を算出し、中心のW画素の座標における緑色の光量値とする。このようにしてW画素の座標における緑色の光量値を算出したら、さらに、パターン1201における中心画素の緑色の光量値として、四隅の緑色の光量値の平均を算出して適用する。このようにして算出された各座標における赤色、緑色、青色のいずれかの光量値による画像データは、ベイヤー配列相当の画像データとなる。したがって、この画像データに、ベイヤー配列に対する格子補間処理を施せば、カラー2D画像データを生成することができる。このような配列において偏光画像データは、例えば、パターン1101においては、四隅のW画素の出力に分離アルゴリズムを適用することにより、中心のG画素の座標における偏光情報を算出できる。第2配列の場合、偏光画素は、W画素に重ねて配列されているので、色成分の重畳のない精度の高い偏光画像データが生成される。図12は、撮像素子における第3配列を説明する説明図である。第3配列のカラーフィルタ配列はベイヤー配列である。そして、RフィルタおよびBフィルタが配列される画素に偏光子が配列されている。x,yのR画素またはB画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。また、Gフィルタが配列される画素に視差L画素または視差R画素が配列されている。カラーフィルタ配列、偏光子配列および視差画素配列の組み合わせから成る、最小繰り返し単位である繰り返しパターン110は、図示するように4画素×4画素により規定される。このような配列において、画像データの生成について説明する。パターン1301は、R画素を中心とする四隅がB画素のパターンである。四隅のB画素は4種の方位角を有する偏向画素である。そこで、四隅のB画素の出力から図4を用いて説明した分離アルゴリズムにより、中心のR画素の座標における青色の光量値を算出する。なお、この座標における青色の光量値の算出には、R画素の出力を用いない。パターン1302は、B画素を中心とする四隅がR画素のパターンである。この場合も、パターン1301の場合と同様に、四隅の出力から中心座標における赤色の光量値を算出する。また、左上と右下の関係で隣接する視差L画素と視差R画素は、それぞれG画素であるので、それぞれの座標における緑色の光量値をこれら2画素の平均値とする。このようにして算出された各座標における赤色、緑色、青色のいずれかの光量値による画像データは、ベイヤー配列相当の画像データとなる。したがって、この画像データに、ベイヤー配列に対する格子補間処理を施せば、カラー2D画像データを生成することができる。このような配列においては、偏光画像データも、パターン1301、1302の各単位において生成される。例えば、パターン1301においては、四隅のB画素の出力に分離アルゴリズムを適用することにより、中心のR画素の座標における青色の偏光情報を算出できる。図13は、撮像素子における第4配列を説明する説明図である。第4配列のカラーフィルタ配列はベイヤー配列である。そして、Gフィルタが配列される画素に偏光子が配列されている。x,yのG画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。また、RフィルタおよびBフィルタが配列される画素にそれぞれ視差L画素および視差R画素が配列されている。カラーフィルタ配列、偏光子配列および視差画素配列の組み合わせから成る、最小繰り返し単位である繰り返しパターン110は、図示するように4画素×4画素により規定される。このような配列において、画像データの生成について説明する。パターン1401は、G画素を中心とする四隅がG画素のパターンである。四隅のG画素は4種の方位角を有する偏向画素である。そこで、四隅のG画素の出力から図4を用いて説明した分離アルゴリズムにより、中心のG画素の座標における緑色の光量値を算出する。なお、この座標における緑色の光量値の算出には、中心のG画素の出力を用いない。R画素は視差画素であるので、開口サイズ分のゲイン調整を行うことにより、簡易的に視差なし画素の赤色の光量値とする。同様に、B画素も視差画素であるので、開口サイズ分のゲイン調整を行うことにより、簡易的に視差なし画素の青色の光量値とする。このようにして算出された各座標における赤色、緑色、青色のいずれかの光量値による画像データは、ベイヤー配列相当の画像データとなる。したがって、この画像データに、ベイヤー配列に対する格子補間処理を施せば、カラー2D画像データを生成することができる。このような配列においては、偏光画像データも、パターン1401の単位において生成される。例えば、パターン1401においては、四隅のG画素の出力に分離アルゴリズムを適用することにより、中心のG画素の座標における緑色の偏光情報を算出できる。図14は、撮像素子における第5配列を説明する説明図である。第5配列のカラーフィルタ配列はベイヤー配列である。そして、Rフィルタ、Gフィルタ、Bフィルタが配列されるいずれの画素にも偏光子が配列されている。ただし、Gフィルタについては、ベイヤー配列における2つのGフィルタの一方に偏光子が配列される。偏光子が配列されない他方には、視差L画素または視差R画素が配列される。また、パターン1501で示すように、x,yのR画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。同様に、パターン1502で示すように、x,yのG画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。同様に、パターン1503で示すように、x,yのB画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。カラーフィルタ配列、偏光子配列および視差画素配列の組み合わせから成る、最小繰り返し単位である繰り返しパターン110は、図示するように4画素×4画素により規定される。このような配列において、画像データの生成について説明する。パターン1501は、R画素を中心とする四隅がB画素のパターンである。四隅のB画素は4種の方位角を有する偏向画素である。そこで、四隅のB画素の出力から図4を用いて説明した分離アルゴリズムにより、中心のR画素の座標における青色の光量値を算出する。なお、この座標における青色の光量値の算出には、R画素の出力を用いない。パターン1502は、G画素を中心とする四隅がG画素のパターンである。この場合も、パターン1501の場合と同様に、四隅の出力から中心座標における緑色の光量値を算出する。パターン1503は、B画素を中心とする四隅がR画素のパターンである。この場合も、パターン1501の場合と同様に、四隅の出力から中心座標における赤色の光量値を算出する。また、パターン1504は、G画素を中心とする四隅がG画素のパターンである。四隅のG画素は視差L画素の2画素と視差R画素の2画素から成る。そこで、これらの光量値の平均を算出し、中心のG画素の座標における緑色の光量値とする。このようにして算出された各座標における赤色、緑色、青色のいずれかの光量値による画像データは、ベイヤー配列相当の画像データとなる。したがって、この画像データに、ベイヤー配列に対する格子補間処理を施せば、カラー2D画像データを生成することができる。このような配列においては、偏光画像データも、パターン1501、1502、1503の各単位において生成される。例えば、パターン1501においては、四隅のB画素の出力に分離アルゴリズムを適用することにより、中心のR画素の座標における青色の偏光情報を算出できる。図15は、撮像素子における第6配列を説明する説明図である。第6配列は第3配列に対して視差画素の配列が若干異なる。画像データの生成については第3配列における生成と同様であるので、説明を省略する。図16は、撮像素子における第7配列を説明する説明図である。第7配列のカラーフィルタ配列はベイヤー配列である。そして、ベイヤー配列における2つのGフィルタの一方に偏光子が配列されている。偏光子が配列されない他方には、視差L画素または視差R画素が配列される。パターン1701で示すように、x,yのG画素に着目した場合、x-1,y1、x1,y1、x-1,y-1x-1,y1の各画素の偏光子は、0°、45°、90°、135°のいずれかの方位角を有する。また、Rフィルタ、Bフィルタが配列される画素にも視差L画素または視差R画素が配列されている。カラーフィルタ配列、偏光子配列および視差画素配列の組み合わせから成る、最小繰り返し単位である繰り返しパターン110は、図示するように4画素×4画素により規定される。このような配列において、画像データの生成について説明する。パターン1701は、G画素を中心とする四隅がG画素のパターンである。四隅のG画素は4種の方位角を有する偏向画素である。そこで、四隅のG画素の出力から図4を用いて説明した分離アルゴリズムにより、中心のG画素の座標における緑色の光量値を算出する。なお、この座標における緑色の光量値の算出には、中心のG画素の出力を用いない。x,yにおけるR画素は視差画素であるが、x-2,yおよびx2,yのR画素の出力と平均処理を行うことにより、x,yの赤色の光量値を算出する。同様に、x,yにおけるB画素は視差画素であるが、x-2,yおよびx2,yのB画素の出力と平均処理を行うことにより、x,yの青色の光量値を算出する。パターン1702は、G画素を中心とする四隅がG画素のパターンである。四隅のG画素は視差L画素の2画素と視差R画素の2画素から成る。そこで、これらの光量値の平均を算出し、中心のG画素の座標における緑色の光量値とする。このようにして算出された各座標における赤色、緑色、青色のいずれかの光量値による画像データは、ベイヤー配列相当の画像データとなる。したがって、この画像データに、ベイヤー配列に対する格子補間処理を施せば、カラー2D画像データを生成することができる。このような配列においては、偏光画像データも、パターン1701の単位において生成される。例えば、パターン1701においては、四隅のG画素の出力に分離アルゴリズムを適用することにより、中心のG画素の座標における緑色の偏光情報を算出できる。次に、上述のような撮像素子100を備えるデジタルカメラ10における画像処理について説明する。上述のように、デジタルカメラ10は、撮像素子100からの出力信号を取得して、被写体像であるカラー2D画像データと、被写体表面の反射の偏光状態を表す偏光画像データとを生成する。また、撮像素子100が視差画素を備えるのであれば、視差画像データも生成する。これらの画像処理は、画像処理部205が実行する。ここでは、特に偏光画像データを利用して被写体像の輪郭情報を抽出する画像処理について説明する。図17は、輪郭抽出処理を示すフロー図である。フローは、例えば露光動作を終え撮像素子100が画像信号を出力する時点から開始する。ステップS101において、画像処理部205は、撮像素子100の出力信号を取得する。そしてステップS102で、画像処理部205は、上述の手法により、カラー2D画像データおよび偏光画像データを生成する。ステップS103では、画像処理部205の輪郭抽出部231は、偏光画像データに対して微分処理を実行する。偏光画像データは、上述のように、被写体表面の法線方向を示す法線マップを含み、輪郭抽出部231は、この法線マップに対して微分処理を施す。被写体の境界においては、被写体表面の法線方向が急激に変化するので、輪郭抽出部231は、微分処理を施すことにより、被写体の境界線を抽出することができる。ステップS104へ進み、輪郭抽出部231は、抽出した境界線の相互の連続性等を考慮してこれらを繋ぎ合わせ、被写体の輪郭を決定する処理を実行する。ステップS105へ進み、輪郭抽出部231は、カラー2D画像データの画像と偏光画像データの画像の間でマッチング処理を実行し、それぞれの画像間の対応関係を取得する。そして、輪郭抽出部231は、ステップS106へ進み、ステップS104で決定した被写体の輪郭をカラー2D画像に当てはめ、カラー2D画像データにおける輪郭情報を確定し、一連の処理を終了する。なお、上述のフローによれば、輪郭抽出部231は、偏光画像データから被写体の輪郭を決定したが、視差画像データの情報を加味して決定しても良い。視差画像データは、被写体像間の奥行き差に応じた視差を生じているので、奥行き情報であるいわゆるデプスマップを微分処理すれば、同様に被写体の輪郭情報を取得できる。したがって、両者の輪郭情報を合成処理すれば、より精確な被写体輪郭を決定することができる。次に、AFセンサ211と撮像素子100の関係について説明する。図18は、光学ファインダから観察される被写体像および測距領域460を示す図である。AFセンサ211は、被写体空間に対して二次元的かつ離散的に配置される複数の測距領域460を有する。図の例の場合、11点の測距領域460が、全体として略菱形形状に離散的に配置されている。AFセンサ211は、それぞれの測距領域460に対応するデフォーカス量を独立に出力することができる。制御部201は、例えば近点優先等のアルゴリズムにより選択された測距領域460のデフォーカス量を検出して、合焦に至るフォーカスレンズの移動量および移動方向を決定する。さらに制御部201は、これらの情報に従ってフォーカスレンズを移動させる。上述の説明においては、撮像素子100の偏光子101は、2次元的な平面上に繰り返しパターン110をもって均等に配列されていた。しかし、重要な被写体は合焦される被写体であることを考慮すれば、撮像素子100における偏光子101の配列領域を、AFセンサ211の複数の測距領域に対応する領域に限っても良い。このように構成すれば、偏光画素を削減できるので、カラー2D画像データの画質向上が望める。以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段より前に、先立って等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上まず、、次に、等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。"