"それぞれ異なる可視光波長帯域に感度を有する少なくとも3つの可視光画素および赤外波長帯域に感度を有する赤外画素が2次元的に配列された受光面を有する撮像素子と、前記撮像素子の前記受光面側に配置され、前記少なくとも3つの可視光画素が感度を有する波長帯域および前記赤外画素が感度を有する波長帯域の何れか一方の波長帯域の光に対して所定の形状の開口として作用し、他方の波長帯域の光をそのまま透過させる符号化開口と、前記撮像素子から得られた画像を処理する処理部とを備える撮像装置。前記処理部は、前記撮像素子から得られた画像に基づいて、デプスマップを生成するデプスマップ生成部を有することを特徴とする請求項1に記載の撮像装置。前記処理部は、前記赤外画素から得られた画像を参照画像として、前記可視光画素から得られた可視光画像のボケ画像を生成する補間画像生成部と、前記デプスマップを用いて前記ボケ画像の被写界深度を変更した画像を生成する被写界深度変更画像生成部とを備え、前記符号化開口は前記赤外画素が感度を有する波長帯域の光に対して作用することを特徴とする請求項2に記載の撮像装置。前記赤外画素は、前記少なくとも3つの可視光画素の各画素と比べ、画素密度が等しいかまたは高いことを特徴とする請求項3に記載の撮像装置。前記デプスマップ生成部は、前記少なくとも3つの可視光画素のうちの一の可視光画素および前記赤外画素から得られた画像を用いて、前記デプスマップを生成し、前記一の可視光画素および前記赤外画素は、前記少なくとも3つの可視光画素のうち前記一の可視光画素を除く何れの画素よりも画素密度が高いことを特徴とする請求項2または3に記載の撮像装置。前記デプスマップ生成部で生成した前記デプスマップに基づいて、撮像レンズを駆動してフォーカス調整を行う請求項2~5の何れか一項に記載の撮像装置。前記処理部は、前記少なくとも3つの可視光画素のうちの一の可視光画素から得られた画像を参照画像として、前記可視光画像のボケ画像を生成する補間画像生成部と、前記デプスマップを用いて前記ボケ画像の被写界深度を変更した画像を生成する被写界深度変更画像生成部とを備え、前記符号化開口は前記少なくとも3つの可視光画素が感度を有する波長帯域の光に対して作用することを特徴とする請求項2に記載の撮像装置。前記処理部は、前記少なくとも3つの可視光画素のうちの一の可視光画素から得られた画像を参照画像として、前記可視光画像の補間画像を生成する補間画像生成部と、前記デプスマップを用いて前記補間画像の被写界深度を変更したボケ画像を生成する被写界深度変更画像生成部とを備え、前記符号化開口は前記赤外画素が感度を有する波長帯域の光に対して作用することを特徴とする請求項2に記載の撮像装置。前記撮像素子は、4つ以上の可視光画素を備えることを特徴とする請求項1~8の何れか一項に記載の撮像装置。前記符号化開口は、前記赤外画素が感度を有する波長帯域と前記少なくとも3つの可視光画素が感度を有する波長帯域との間で、作用する波長帯域を切り換え可能に構成されていることを特徴とする請求項1または2に記載の撮像装置。しかしながら、符号化開口をその都度変えて複数枚の撮影を行う方法では、動きのある被写体には対応できない。また、複数台の撮像装置を用いて撮影する方法では、コストや装置の大きさなどの面で実用的ではない。さらに、符号化開口を用いずに、撮影する波長帯域の違いにより得られる2枚のボケ画像を用いてデプスマップを得る手法では、ボケの違いが十分ではなく、符号化開口により得られるほどのボケの違いを生じないためにデプスマップの精度が低かった。すなわち、従来技術によれば、動きのある被写体に対するボケ画像の処理ができないか、あるいは、処理精度が低かった。したがって、これらの点に着目してなされた本発明の目的は、動きのある被写体に対してボケ画像処理の精度を向上した撮像装置を提供することにある。上記目的を達成する第1の観点に係る撮像装置の発明は、それぞれ異なる可視光波長帯域に感度を有する少なくとも3つの可視光画素および赤外波長帯域に感度を有する赤外画素が2次元的に配列された受光面を有する撮像素子と、前記撮像素子の前記受光面側に配置され、前記少なくとも3つの可視光画素が感度を有する波長帯域および前記赤外画素が感度を有する波長帯域の何れか一方の波長帯域の光に対して所定の形状の開口として作用し、他方の波長帯域の光をそのまま透過させる符号化開口と、前記撮像素子から得られた画像を処理する処理部と、を備えることを特徴とするものである。このようにすることによって、撮影自体は1回にも関わらず、ボケ具合の異なる2枚分の情報を得ることが可能となり、取得した画像に対して以下のデプスマップの生成や全焦点画像の生成を行うことが可能になる。第2の観点に係る発明は、第1の観点に係る撮像装置において、前記処理部は、前記撮像素子から得られた画像に基づいて、デプスマップを生成するデプスマップ生成部を有することを特徴とするものである。このようにすることによって、撮影自体は1回にも関わらず、ボケ具合の異なる2枚分の情報を得ることが可能となり、1回の撮影画像からデプスマップを生成することが可能となる。これによって、撮影後に被写界深度を拡大した全焦点画像生成や、フォーカス位置を変更するリフォーカス等のボケ画像の処理が可能となる。第3の観点に係る発明は、第2の観点に係る撮像装置において、前記処理部は、前記赤外画素から得られた画像を参照画像として、前記可視光画素から得られた可視光画像のボケ画像を生成する補間画像生成部と、前記デプスマップを用いて前記ボケ画像の被写界深度を変更した画像を生成する被写界深度変更画像生成部とを備え、前記符号化開口は前記赤外画素が感度を有する波長帯域の光に対して作用することを特徴とするものである。このようにすることによって、1回の撮影から補間画像生成部でぼけ画像を生成し、これとデプスマップとを用いて、被写界深度変更画像生成部により全焦点画像を生成することができる。また、符号化開口は可視光の波長帯域には作用しないので、可視光画素を用いてライブビュー表示用の通常開口の画像も取得可能となる。第4の観点に係る発明は、第3の観点に係る撮像装置において、前記赤外画素は、前記少なくとも3つの可視光画素の各画素と比べ、画素密度が等しいかまたは高いことを特徴とするものである。このようにすることによって、赤外画素の画素密度が高いことにより、符号化開口によるボケを保持した参照画像の精度が高くなるので、参照画像を用いて生成される可視光画像のボケ画像生成の精度も向上する。第5の観点に係る発明は、第2または第3の観点に係る撮像装置において、前記デプスマップ生成部は、前記少なくとも3つの可視光画素のうちの一の可視光画素および前記赤外画素から得られた画像を用いて、前記デプスマップを生成し、前記一の可視光画素および前記赤外画素は、前記少なくとも3つの可視光画素のうち前記一の可視光画素を除く何れの画素よりも画素密度が高いことを特徴とするものである。画素密度が高い一の可視光画素および赤外画素を用いることで、これら画素から得られる画像データに基づいて算出される、デプスマップの精度が向上する。さらに、赤外画素の画素密度が高いことにより、符号化開口によるボケを保持した参照画像の精度が高くなるので、参照画像を用いて生成される可視光画像のボケ画像生成の精度も向上する。第6の観点に係る発明は、第2~第5の何れかの観点に係る撮像装置において、前記デプスマップ生成部で生成した前記デプスマップに基づいて、撮像レンズを駆動してフォーカス調整を行うことを特徴とするものである。このようにすることによって、得られるデプスマップの情報から、フォーカス調整をすることができるので、AFオートフォーカス専用のセンサを必要とせず、コントラストAFよりも高速であり、レンズの駆動がないために動画撮影時のふらつきがない、等の利点が得られる。第7の観点に係る発明は、第2の観点に係る撮像装置において、前記処理部は、前記少なくとも3つの可視光画素のうちの一の可視光画素から得られた画像を参照画像として、前記可視光画像のボケ画像を生成する補間画像生成部と、前記デプスマップを用いて前記ボケ画像の被写界深度を変更した画像を生成する被写界深度変更画像生成部とを備え、前記符号化開口は前記少なくとも3つの可視光画素が感度を有する波長帯域の光に対して作用することを特徴とするものである。このようにすることによって、符号化開口によるボケを持つ画像を参照画像として補間画像を生成することで、符号化開口によりボケたマルチスペクトル画像を生成できる。可視光領域のみボケた画像となるので、全焦点画像生成用の画像の精度が高い。第8の観点に係る発明は、第2の観点に係る撮像装置において、前記処理部は、前記少なくとも3つの可視光画素のうちの一の可視光画素から得られた画像を参照画像として、前記可視光画像の補間画像を生成する補間画像生成部と、前記デプスマップを用いて前記補間画像の被写界深度を変更したボケ画像を生成する被写界深度変更画像生成部とを備え、前記符号化開口は前記赤外画素が感度を有する波長帯域の光に対して作用することを特徴とするものである。こうすることによって、ボケのない補間画像に対して簡易的な処理によりボケを追加することができ、例えば背景領域をぼかした画像等を生成することが可能となる。第9の観点に係る発明は、第1~第8の何れかの観点に係る撮像装置において、前記撮像素子は、4つ以上の可視光画素を備えることを特徴とするものである。このようにすることによって、マルチスペクトル画像を取得可能となり、被写体のより詳細な分光情報を取得記録することができ、色再現性の向上が実現できる。第10の観点に係る発明は、第1または第2の観点に係る撮像装置において、前記符号化開口は、前記赤外画素が感度を有する波長帯域と前記少なくとも3つの可視光画素が感度を有する波長帯域との間で、作用する波長帯域を切り換え可能に構成されていることを特徴とするものである。このようにすることによって、使用者の用途に応じて、全焦点画像生成用のボケ画像を優先するか、通常画像またはライブビュー画像を優先するか、を選択可能となる。本発明によれば、符号化開口が、少なくとも3つの可視光画素および赤外画素のいずれかの画素が感度を有する波長帯域の光に対して所定の形状の開口として作用し、他の画素が感度を有する波長帯域の光をそのまま透過させるので、撮影自体は1回にも関わらず、ボケ具合の異なる2枚分の画像の情報を得ることが可能となり、1回の撮影画像からデプスマップを生成することが可能となる。これによって、撮影後に被写界深度を拡大した全焦点画像生成や、フォーカス位置を変更するリフォーカス等のボケ画像の処理の精度が向上する。以下、本発明の実施の形態について、図面を参照して説明する。第1実施の形態第1の実施の形態では、1回の撮影画像からデプスマップを生成し、さらに符号化開口によるボケ画像を擬似的に生成することで、全焦点画像を生成する例について説明する。図1は、本発明の第1実施の形態に係る撮像装置の構成を示すブロック図である。撮像装置101は、符号化開口機構102を備えた各種レンズ撮像レンズから構成される撮像レンズ系103、撮像レンズ系103の伸縮駆動やレンズ系内のズームレンズ及びフォーカスレンズの駆動を行うためのレンズ駆動機構104、レンズ駆動機構を制御するためのレンズドライバ105、レンズ系の絞り及びシャッタ内を制御するための露出制御機構106、露出制御機構を制御するための露出制御ドライバ107、被写体像を光電変換するための4バンド以上の異なる分光感度特性を有するカラーフィルタを内蔵したマルチバンドイメージセンサ108、イメージセンサを駆動するためのイメージセンサドライバ109、アナログアンプ及びA/D変換器等を含むプリプロセス回路110、記録画像生成のための色信号処理、圧縮伸張処理、その他各種のデジタル処理を行うためのデジタルプロセス回路111、外部の記録媒体であるメモリカードとのインタフェースであるカードインタフェース112、LCD画像表示系113、レリーズスイッチ、設定ボタンなど各種スイッチからなる操作スイッチ系114、操作状態及びモード状態等を表示するための操作表示系115、各種設定情報等を記録するための不揮発性メモリ116、および、各部を統括的に制御するためのシステムコントローラ117、を備えている。ここでマルチバンドイメージセンサ108はCCDやCMOSセンサなどの固体撮像素子を用いて構成することができる。<作用>本実施形態の撮像装置においては、システムコントローラ117が全ての制御を統括的に行っており、レンズドライバ105、露出制御ドライバ107及びイメージセンサドライバ109によるイメージセンサ108の駆動を制御して露光電荷蓄積及び信号の読み出しを行い、それをプリプロセス回路110を介してA/D変換した後にデジタルプロセス回路111に取り込み、デジタルプロセス回路内で各種信号処理を施した後にカードインタフェースを介してメモリカード118に記録するようになっている。マルチバンド画像データを記録する場合には、後で画像を再生する処理が行われる際に参照される色再現情報がタグ情報として付加される。色再現情報としては、撮影レンズの分光透過率、撮像素子の分光感度、撮影時に被写体を照射していた光撮影照明光の分光放射輝度、被写体の分光反射率を推定する処理に際して参照される被写体固有の統計情報、などを含むことが可能である。デジタルプロセス回路111には、図示のように、本実施形態の特徴である、1回の撮影での全焦点画像データを生成するための構成として、補間画像生成部119、デプスマップ生成部120、被写界深度変更画像生成部121が設けられている。補間画像生成部119では、イメージセンサ108からメモリ122に蓄えられたRAWデータの各画素に対して、後述する赤外領域に分光感度を有する画素赤外画素の情報を参照画像として全色のデモザイキング処理を行うことで、擬似的に符号化開口によるボケ画像を生成する。デプスマップ生成部120では、可視光領域に分光感度を有する画素可視光画素から得られるエッジ情報と、赤外領域に分光感度を有する画素から得られるエッジ情報を用いてデプスマップの生成を行う。被写界深度変更画像生成部121では、補間画像生成部119で得られたボケ画像と、デプスマップ生成部120で得られたデプスマップを用いて、画像内全ての領域に焦点を合わせた画像を生成する。そして信号処理部123において、色信号生成処理等の各種のデジタル処理を行った後、最終的な処理結果画像を生成する。図2はマルチバンドイメージセンサ108を構成する各受光素子上に配置される4バンド以上の異なる分光感度特性を有するカラーフィルタ配置の例として、6バンドの分光感度特性を有するカラーフィルタの配置CFAを示している。マルチバンドイメージセンサ108には、このような4×4のカラーフィルタの配列が、図2の上下左右方向に2次元的に繰り返し配列され、各カラーフィルタC1~C6が、それぞれ受光素子に対応している。ここでは、カラーフィルタC1及びC2は輝度の空間解像力を重視し、カラーフィルタC3~C6に比べて高い密度で配置されている。また、図3はC1~C6の各カラーフィルタの分光感度特性の例を示している。3バンドのイメージセンサでは通常RGBの3色が用いられるが、4バンド以上の場合には任意の色が用いられ、例えばRGBに加えてCyシアンやOrオレンジが用いられる。さらに、本実施形態では1枚でのデプスマップデータ生成のために、赤外領域に分光感度を持つカラーフィルタC2が1色用いられている。各受光素子とその上に配置された個々のカラーフィルタC1~C6とは画素を構成する。以下、カラーフィルタC1~C6に対応する画素を、それぞれ、第1~第6の画素と呼ぶ。ここで第1の画素は、一の可視光画素に対応する。図4は撮像レンズ系103における符号化開口機構102の形状の一例を示している。図4における黒色部分は赤外カットの特性を持っている。このため、可視領域の光に対してはこの符号化開口の形状は反映されず、通常の円形の開口で撮影した際のデータが得られる。一方、赤外領域の光に対しては符号化開口の形状が反映され、ボケたデータが得られることになる。ここで、通常の円形開口と符号化開口におけるボケ復元の違いを説明する。一般にボケはレンズと絞りからなるレンズ光学系により劣化した画像とみなすことができる。この劣化課程はボケカーネルhx,y、原画像fx,y、ノイズ成分nx,yの畳み込みにより以下のように表される。ここで、ボケカーネルhx,yは、開口形状により定まる関数であり、ノイズ成分nx,yは、画像に含まれるノイズに応じて設定され、処理対象画像のノイズ成分を観測したものを使用する。あるいは、ISO感度などに応じて予め求めておいたノイズ成分を使用しても良い。ボケ画像であるgから畳み込みの影響を除去する計算はフーリエ変換を行うことで簡略化することができる。ここで、G、H、F、Nはそれぞれg、h、f、nのフーリエ変換である。この式からボケを除去した推定原画像のフーリエ変換は以下のように求められる。図5は、デジタルプロセス回路における、全焦点画像生成の処理フローを示している。補間画像生成部119が、イメージセンサ108から得られたRAWデータの読み込みを行い、密度の高いカラーフィルタC1に対応する第1の画素およびカラーフィルタC2に対応する第2の画素赤外画素により得られる画像データについてアップサンプリングを行い、補間画像を生成する。さらに、符号化開口によりボケている第2の画素の画像データの補間画像を参照画像とし、他の画素、すなわち、第1および第3~第6の画素可視光画素により得られる画像データに対してデモザイキング処理を行い、5バンドのフルカラー画像を生成するステップS503。この画像は第2の画素赤外画素から得られる画像を参照画像として補間しているため、第2の画素赤外画素から得られる画像と同様のボケ具合を保持している。すなわち、符号化開口によりボケた5バンド画像を擬似的に生成したことになる。一方、ステップS502で生成した第1の画素と第2の画素赤外画素のそれぞれから得られる画素信号による補間画像のエッジ成分のボケ具合の違いから、デプスマップを生成するステップS504。さらに、ステップS503で得られた5バンドのボケ画像と、ステップS504で得られたデプスマップとから、画像内の全ての領域で合焦するように処理を行うことで、全焦点画像を生成するステップS505。次に、ステップS502での補間画像生成方法について説明する。既存の補間手法として、ガウシアン補間GIが広く知られている。これは、画素値を推定したい画素位置周辺の局所的な情報の重み付き平均として画素値を推定する方法であり、画素位置Xpに対する、それぞれの推定された解は下記のように表される.ここで、NXpは画素位置Xpの周辺画素の画素位置集合を、SXiは画素位置Xiのサンプル値を、MXiは画素位置Xiのバイナリマスクを、kXi-Xpは画素位置Xpからの距離に基づく重みを、ωは正規化係数、すなわち重みの和をそれぞれ表す。バイナリマスクはサンプル値が存在する場所で1、それ以外で0となる。本実施形態ではこのGIによる補間処理を第1の画素および第2の画素赤外画素から得られる画像データに対して実施し、全画素位置に第1の画素および第2の画素赤外画素の情報を持った補間画像を生成する。説明の簡略化のためにGIでの説明を行ったが、本発明はこれに限られるものではなく、例えば画素値の微分情報を用いた補間などでも可能である。次に、ステップS503での参照画像を用いた補間画像生成について説明する。参照画像を用いた既存の補間手法として、ガイデッドフィルタが知られている。ここで参照画像とは、補間したい低解像度画像に対応する画像構造を有する高解像度画像である。ガイデッドフィルタは、出力画像は参照画像の線形変換で表されるという考えに基づき、画素値を推定したい画素Xp周辺の局所領域のコスト関数Eを最小化するように最小二乗法により係数aXp,bXpが算出される。ここで、ωkは注目画素周辺に存在する信号成分の要素数を、Miはバイナリマスクを、ak,bkは算出されるべきパラメータであり、計算開始時には適当な初期値が用いられる。Iiは周囲画素に対応する参照画像の画素値を、piは信号成分の画素値を、εは所定の平滑化パラメータをそれぞれ表す。全画素に対する係数ak,bkが算出されると、対象となる信号成分を有さない画素に対して式6により出力画素値が算出される。本実施形態では、参照画像としてステップS502で得られた第2の画素赤外画素による画像データの補間画像を用い、補間対象の画像として第1、第3~第6の画素可視光画素の各画像データをそれぞれ用いて補間処理を行う。参照画像を用いた補間を行うことで、参照画像のボケ具合を保持した補間画像を生成することが可能である。なお、本説明では参照画像は全て第2の画素赤外画素の画像データの補間画像として説明したが、分光感度特性の相関を利用し、まずは第1の画素の画像データの補間を行い、次にその第1の画素の画像データの補間画像を参照画像として第4、第5の画素の画像データの補間を行い、第4の画素の画像データの補間画像を参照画像として第3の画素の画像データの補間を、第5の画素の画像データの補間画像を参照画像として第6の画素の画像データの補間を行うように、参照画像を切り替えながら画像データの補間を行うような処理も可能である。次に、ステップS504でのボケ具合の異なる2枚の画像からのデプスマップ生成について説明する。ボケの状態が異なる2枚の画像から、これらのデータ間におけるボケの相関量を示すパラメータであるボケ相関量σを所定の画素毎に算出し、算出したボケ相関量σと所定のテーブルとを対照することで、対象画素における測距を行うDepthfromDefocusDFD方式が提案されている。ここでボケ相関量とは、光学系の点像分布関数PSFの分散と相関を有する値である。PSFとは理想的な点像が光学系を通過した場合の光線の広がりを示す関数である。また、所定のテーブルとは、例えば図6に示すようにボケ相関量σと合焦時のフォーカスレンズ位置DFD_LFとの対応関係を示すルックアップテーブルであり、設計データに基づいて予め作成されている。本実施形態において、撮影自体は1枚のみであるが、可視光画素、特にカラーフィルタC1に対応する第1の画素で円形開口による画像データが得られ、カラーフィルタC2に対応する第2の画素赤外画素で符号化開口による画像データが得られることから、ボケ具合の異なる2枚分の撮影情報が得られるためにDFD方式でのデプスマップ生成が可能となる。図7は、デプスマップ生成部120におけるデプスマップ生成処理を説明する図である。第1および第2の画素の補間画像を読み込みステップS701、電気的なノイズを除去するためのローパスフィルタ処理、像倍率補正処理、輝度分布の補正処理等の正規化処理を施すステップS702。そして、それら2つの画像データの互いに対応する画素の輝度情報について差分を算出するステップS703。また、2つの画像データの各々について二次微分処理を施すステップS704。そして、第1の画素の画像データについての二次微分処理結果と、第2の画素赤外画素の画像データについての二次微分処理結果との平均値を算出するステップS705。その後、ステップS703において算出された輝度情報についての差分値から、ステップS705において算出された二次微分処理結果の平均値を除算し、PSFの分散と相関を有するボケ相関量σを算出する。なお、ボケ相関量σと被写体距離とは、被写体距離の逆数に線形な関係を示す。そして、ステップS706で算出されたボケ相関量σをルックアップテーブルと照合することで、対象画素における被写体距離を導出するステップS707。図8は、実画像と実画像に対応するデプスマップの例を示す図である。図8aは、実画像を示し、図8bは図8aに対応するデプスマップである。デプスマップは、被写体の距離を、例えば輝度で表すものである。図8bにおいては、被写体に対応する画像の色が白色に近いほど、被写体までの距離が短いことを示している。なお、被写体距離と合焦時のフォーカスレンズ位置とは一対一に対応するので、図6に示すようにボケ相関量σと合焦時のフォーカスレンズ位置との関係が一対一対応で得られれば、当然ながらそれらに対応する被写体距離を得ることが出来る。また、ルックアップテーブルは予めデプスマップ生成部120内に記憶されている。ところで、このルックアップテーブルは任意の被写体に対して算出したボケ相関量σに対応する合焦レンズ位置を参照可能とするが、該当するボケ相関量σがルックアップテーブル上に存在しない場合には、補間演算によって対応する合焦レンズ位置を算出する。本説明では説明の簡略化のために、各画素を独立して計算するものとしたが、測距精度を安定化させるために対象画素の近傍画素の情報を含めた画素領域として被写体距離を求めるものであっても構わない。次に、ステップS505での全焦点画像生成について説明する。図9は、被写界深度変更画像生成部121における、全焦点画像生成の処理フローを示している。補間画像生成部119により得られた全色に対するボケ画像を読み込みステップS801、予め求められている開口形状データを読み込むステップS802。このデータはこの後の処理に用いるために開口形状ax,yに対するフーリエ変換Aの形式で読み込む。さらに、デプスマップ生成部120により得られたデプスマップデータを読み込むステップS803。ボケの復元には処理対象の領域において一様な奥行きである必要があるため、画像を細かい処理対象領域に分割し処理を行うステップS804。そして、処理対象となる領域に対して開口形状データとデプスマップデータを用いてボケカーネルの算出を行うステップS805。ボケカーネルhx,yは前述のように、開口形状に対して相似の図形であり式7のように表すことができる。この処理は画像を互いに重なり合う小領域に分割して処理し、各領域の中央に近いほど重みが高くするなどの重み付けを行いながら画像全体を統合するものでも構わない。次に、撮像装置101を用いて、ボケ復元用ではない通常の画像生成を行う場合について説明する。通常画像生成時には図10に示すようにデジタルプロセス回路111内での処理が異なる。通常画像表示時には符号化開口102によるボケ情報は一切用いず、可視光領域に分光感度を有する第1、第3~第6の画素のみの情報を使って、画像を生成する。まず、イメージセンサ108から得られたRAWデータの間引き読み出しを行い、密度の高い第1の画素から得られる画像データについてアップサンプリングを行い、補間画像を生成する。この第1の画素から得られた補間画像を参照画像とし、他の第3~第6の画素から得られる画像データに対してデモザイキング処理を行い、5バンドのフルカラー画像を生成する。第2の画素赤外画素の画像データの補間画像を参照画像とする場合と異なり、第1の画素の補間画像は通常開口で得られたボケていない画像であり、これを参照画像とすることで、第3~第6の画素もボケていない補間画像を生成することが可能である。その後、信号処理部123において、色変換処理、圧縮処理等の各種処理を行い出力画像を生成する。次に、ライブビュー表示用の画像生成について説明する。ライブビュー表示時も通常画像生成時と同じく符号化開口102によるボケ情報は一切用いず、可視光領域に分光感度を有する第1、第3~第6の画素の情報を使って、画像を生成する。処理の高速化のためにイメージセンサ108から得られたRAWデータの間引き読み出しを行い、通常画像と同様に補間画像を生成する。そして、LCD113が多原色モニタの場合、この補間画像は信号処理部123においてノイズリダクション等の各種処理を行った後、色変換処理が行われる。この色変換処理時には予め取得されている多原色モニタのモニタプロファイル情報、および、図示しない照明分光分布情報センサから得られる観察環境の照明光の情報をもとに色変換処理することで、被写体があたかも多原色モニタを観察している照明で照射されているかのような色合いで再生され、多原色モニタを観察している観察者は、リアリティのより高められた再生画像を観察することが可能となる。また、LCD113がRGBモニタの場合、色変換処理として、マルチバンドの画像データからRGBの画像データに変換され、色ガンマ処理が行われる。この色ガンマ処理時には予め取得されているRGBモニタのプロファイル情報をもとに処理が行われる。以上説明したように、本実施の形態によれば、符号化開口が、第2の画素赤外画素が感度を有する波長帯域の光に対して所定の形状の開口として作用し、可視光画素が感度を有する波長帯域の光をそのまま透過させるので、1回の撮影でボケ具合の異なる2枚分の画像の情報を得ることが可能となり、デプスマップを生成することが可能になる。これによって、特に被写体が動いている場合や、撮影に時間をかけられない場合、動画での撮影などにおいて、1回の撮影で、マルチスペクトルかつ全焦点画像が取得可能となる。さらに、全焦点画像データを取得しながら、マルチスペクトル画像のライブビュー表示にも対応可能となる。なお、本実施の形態では図3のような分光感度特性を有するカラーフィルタを用いるものとしたが、現実のカラーフィルタを用いた場合、可視光の帯域を透過させる各カラーフィルタは、図11に示すように赤外領域の光も一部透過させる。このため、カラーフィルタC2に対応する第2の画素赤外画素以外の各画素上には、カラーフィルタC1,C3~C6に加え赤外線をカットするIRカットフィルタを配置することが望ましい。また、本実施形態では、全焦点画像の生成を行ったが、任意の距離のみが合焦するように処理し、その他の距離に属する領域には、合焦領域からの距離の差に応じたボケを付加することで、フォーカス位置を任意に変化させるリフォーカス画像の生成も当然可能である。第2実施の形態図12は、第2実施の形態に係る撮像装置の構成を示すブロック図である。第1実施の形態では撮像レンズ系103に符号化開口機構102が搭載されていたが、本実施の形態では撮像装置のイメージセンサ108の前に符号化開口機構102が搭載されている点で第1実施の形態と異なる。もしくは、外付けオプション機構として、符号化開口のみが独立しているものでも構わない。また、例えば液晶チューナブルフィルタのような、電気的に透過波長帯域を変更することができるフィルタを用い、符号化開口を制御することができる。その他の構成は、第1実施の形態と同様なので、同一構成要素には同一参照符号を付して説明を省略する。このような構成にすることによって、符号化開口機構102が搭載された特殊なレンズを用いなくても、本発明の効果を得ることが可能となる。さらに第1実施の形態では、符号化開口機構102がレンズ103に搭載されているため、符号化開口が適用される波長帯域を変更することは困難であったが、本実施の形態の場合、電気的に波長帯域を変更するフィルタを用いて符号化開口を制御することで、用途に応じて、赤外波長帯域にのみ作用する符号化開口および可視光帯域にのみ作用する符号化開口のいずれを用いるか選択可能にすることも可能である。第3実施の形態図13は、第3実施の形態に係る全焦点画像生成処理を説明する図である。第1実施の形態では、赤外波長帯域にのみ作用する符号化開口を用いたが、本実施の形態では、可視光領域にのみ作用する符号化開口を用いる。その他の構成は、第1実施の形態と同様である。この場合、可視光領域に感度を有する第1および第3~第6の画素からは符号化開口によりぼけた画像が得られ、赤外領域に感度を有する第2の画素赤外画素からは通常開口の画像が得られる。このため、補間画像生成部119では、全焦点画像生成処理において、第1実施の形態におけるステップS503に代えて、ステップS503’で符号化開口によりボケている第1の画素の画像データの補間画像を参照画像とし、第1および第3~第6の画素可視光画素により得られる画像データに対してデモザイキング処理を行う。その他の処理は、第1実施の形態と同様である。本実施の形態によれば、第1および第3~第6の画素可視光画素から得られる画像は予めボケているので、この画像を用いてボケ画像を生成する場合、ボケ画像の精度が上がるためにより正確なリフォーカス処理が可能となる。一方で、通常画像、ライブビュー表示用の画像は第2の画素赤外画素の画像データの補間画像から生成することになるため、精度が落ちるので適していない。なお、本実施の形態の全焦点画像生成処理を、第2実施の形態の構成に適用することも可能である。第4の実施の形態第4実施例では、1回の撮影画像からデプスマップを生成し、デプスマップの情報を参照し撮影画像に適当なボケを付加することで、簡易的に被写界深度を変更した画像を生成する例について説明する。本実施の形態に係る撮像装置101の構成は、第1実施の形態の構成と同様であり、デジタルプロセス回路111内での処理が異なっている。具体的には、補間画像生成部119内での処理、および、被写界深度変更画像生成部121内での処理が異なる。補間画像生成部119では、イメージセンサ108からメモリ122に蓄えられたRAWデータの各画素から得られる画像データに対して、第1実施の形態における通常画像生成時の処理と同様に、符号化開口102によりボケた画像の情報は一切使わず、第1の画素から得られる補間画像を参照画像として、可視光領域の全色の補間画像を生成する。これにより、符号化開口102での開口情報を反映しない通常画像が生成される。デプスマップ生成部120では、第1実施の形態と同様にデプスマップの生成を行う。被写界深度変更画像生成部121では、補間画像生成部119で得られた通常画像と、デプスマップ生成部120で得られたデプスマップを用いて、被写体と異なる距離に位置する任意の領域に対してボケ情報を付加する。これにより、擬似的にレンズの被写界深度を浅くした画像を生成することが可能となる。そして信号処理部123において、色信号生成処理等の各種のデジタル処理を行った後、最終的な処理結果画像を生成する。図14は、上述の被写界深度変更画像生成処理を説明する図である。まず、補間画像生成部119において、マルチバンドイメージセンサ108から得られたRAWデータの読み込みを行いステップS1101、密度の高い第1の画素および第2の画素赤外画素の画像データについてアップサンプリングを行い、補間画像を生成するステップS1102。符号化開口が作用しない、すなわち通常開口による第1の画素の補間画像を参照画像とし、第1、第3~第6の画素の画像に対してデモザイキング処理を行い、5バンドのフルカラー画像を生成するステップS1103。一方、デプスマップ生成部120により、ステップS1102で生成した第1の画素および第2の画素赤外画素の補間画像のエッジ成分のボケ具合からデプスマップを生成するステップS1104。さらに、被写界深度変更画像生成部121において、ステップS1103で得られた5バンドの通常画像と、ステップS1104で得られたデプスマップから被写界深度変更用のデータを生成するステップS1105。次に、デプスマップの情報から主要被写体領域と背景領域との画像領域の分割を行うステップS1106。例えば、デプスマップに基づいて、図15に示すような被写体距離と画素数とのヒストグラムを求め、最も画素数の多い距離に主要被写体があるとして、主要被写体領域を求めることが可能である。そして、主要被写体と異なる距離に位置する領域に対して任意のボケを付加することで、擬似的に被写界深度を浅くした画像を生成するステップS1107。ステップS1107で付加するボケは、例えばガウシアンのようなボケであり、第1実施の形態のように符号化開口により得られるボケとは異なるが、簡易的な処理により背景領域をぼかした画像を生成することが可能となる。ただし、第1実施の形態と異なり、ボケを付与することは可能だが、ボケを除去する効果は得られない。第5の実施の形態第5実施の形態では、1枚の撮影画像からデプスマップを生成し、オートフォーカスAF処理に適用する例について説明する。図16は、本発明の第5実施の形態に係る撮像装置の構成を示すブロック図である。本実施の形態に係る撮像装置101は、第1実施の形態の構成と比べ、デジタルプロセス回路111内での機能ブロックの構成および処理が異なっている。具体的には、補間画像生成部119内での処理が異なり、さらに被写界深度変更画像生成部121に代えて合焦位置決定部124を設けている。その他の構成は、第1実施の形態と同様であるので、同一構成要素には同一参照符号を付して説明を省略する。図17はAF動作処理を説明する図である。補間画像生成部119で、イメージセンサ108から得られたRAWデータの読み込みを行いステップS1401、密度の高い第1および第2の画素から得られる画像データについてアップサンプリングを行い、補間画像を生成するステップS1402。その際、処理を高速化するために、間引き読み出ししたデータに対してアップサンプリングを行っても構わない。そして、ステップS1402で生成した第1の画素および第2の画素赤外画素の補間画像から、エッジ成分のボケ具合によりデプスマップを生成するステップS1403。図5に示した第1実施の形態の処理フローでは、ステップS503としてデモザイキング処理が必要だったが、AF動作のみについて処理する場合には、デプスマップの情報だけ求められれば良いため、デモザイキング処理のステップは省略されている。次にデプスマップの距離情報から合焦位置を求めるステップS1404。ステップS1404での処理として、例えば、第4実施の形態における主要被写体領域の検出と同様に、被写体距離と画素数とのヒストグラム図15参照から、最も画素数の多い距離に主要被写体があるとして、合焦位置を求めることが可能である。そして、レンズドライバ105により実際に撮像レンズ系103のレンズを駆動し合焦動作を完了するステップS1405。これらの処理により、位相差AF等の専用のセンサを用いることなく、かつコントラスト方式のAFに比べて高速なAF処理が可能となる。さらにレンズ位置を合焦位置に収束させるためのレンズ駆動を必要としないので、動画撮影中にピントがふらつくような現象が生じないという利点も得られる。なお、本実施の形態では、第1実施の形態の被写界深度変更画像生成部に代えて、合焦位置決定部を有するとしたが、同一の撮像装置で被写界深度変更画像生成部と合焦位置決定部との双方を有し、第1実施の形態の被写界深度変更画像の生成と本実施の形態のAF動作の双方を行えるようにすることができる。なお、本発明は、上記実施の形態にのみ限定されるものではなく、幾多の変形または変更が可能である。たとえば、デジタルプロセス回路111内の、補間画像生成部119の一部の機能や、デプスマップ生成部120、被写界深度変更画像生成部121等は、撮像装置101とは別に設けられた処理装置内に設けることもできる。その場合、撮像装置101は、例えば、可視光画像および赤外画像のRAWデータを当該処理装置に引き渡し、この処理装置でデプスマップの生成、全焦点画像の生成等の処理を行う。"