"撮影レンズの瞳分割領域に対応した被写体光の進行方向の情報が得られる撮像光学系を用いて撮像素子から取得される画像信号に適用される画像処理装置であって、前記撮像素子から取得される画像信号を用いて被写体の画像を再構築する仮想像面の位置を設定する仮想像面位置設定手段と、前記撮像素子の欠陥画素の画像信号を前記撮像素子の他の画素の画像信号を用いて補正する補正手段とを備え、前記補正手段は、前記仮想像面位置設定手段によって設定された前記仮想像面の位置と前記被写体光の進行方向の情報に基づいて、前記欠陥画素の画像信号の補正に使用する前記他の画素を決定することを特徴とする画像処理装置。前記補正手段は、前記欠陥画素に入射する被写体光が通過する前記仮想像面上の位置と同じ位置の進行方向の情報を有する被写体光が入射する画素から前記他の画素を選択し、当該選択された画素の画素信号を用いて前記欠陥画素の画像信号の補正値を生成することを特徴とする請求項1に記載の画像処理装置。前記選択される画素は、前記欠陥画素に入射する被写体光が通過する前記仮想像面上の位置と同じ位置の進行方向の情報を有する被写体光のうち、前記欠陥画素に入射する被写体光が射出される瞳分割領域に隣接する瞳分割領域からの被写体光が入射する画素であることを特徴とする請求項2に記載の画像処理装置。前記補正手段は、前記他の画素の画像信号の算術平均により前記欠陥画素の画像信号の補正値を生成することを特徴とする請求項1乃至3のいずれか一項に記載の画像処理装置。前記補正手段は、前記瞳分割領域の位置に応じて対応する画素の画像信号に重み付けを用いた加重平均により前記欠陥画素の画像信号の補正値を生成することを特徴とする請求項1乃至3のいずれか一項に記載の画像処理装置。撮影レンズの瞳分割領域に対応した被写体光の進行方向の情報が得られる撮像光学系を用いて撮像素子から取得される画像信号に適用される画像処理装置の制御方法であって、前記撮像素子から取得される画像信号を用いて被写体の画像を再構築する仮想像面の位置を設定する仮想像面位置設定ステップと、前記撮像素子の欠陥画素の画像信号を前記撮像素子の他の画素の画像信号を用いて補正する補正ステップとを備え、前記補正ステップは、前記仮想像面位置設定ステップで設定された前記仮想像面の位置と前記被写体光の進行方向の情報に基づいて、前記欠陥画素の画像信号の補正に使用する前記他の画素を決定することを特徴とする制御方法。コンピュータを、撮影レンズの瞳分割領域に対応した被写体光の進行方向の情報が得られる撮像光学系を用いて撮像素子から取得される画像信号に適用される画像処理装置の制御方法において、前記撮像素子から取得される画像信号を用いて被写体の画像を再構築する仮想像面の位置を設定する仮想像面位置設定手段と、前記撮像素子の欠陥画素の画像信号を前記撮像素子の他の画素の画像信号を用いて補正する補正手段として機能させ、さらに前記補正手段を、前記仮想像面位置設定手段によって設定された仮想像面の位置と前記被写体光の進行方向の情報に基づいて、前記欠陥画素の画像信号の補正に使用する前記他の画素を決定手段として機能させるプログラム。請求項7のプログラムを記録したコンピュータが読み取り可能な記録媒体。コンピュータを、請求項1乃至5のいずれか一項に記載された画像処理装置の各手段として機能させるプログラム。撮影レンズの瞳分割領域に対応した被写体光の進行方向の情報が得られる撮像光学系と、前記撮像光学系により結像された被写体光を光電変換して画像信号を出力する撮像素子と、請求項1乃至5のいずれか一項に記載の画像処理装置とを備えることを特徴とする撮像装置。前記撮像光学系は、前記撮影レンズと前記撮像素子との間に、前記瞳分割領域に対応したマイクロレンズアレイを備え、各マイクロレンズに対応する前記撮像素子の画素配列に含まれる各画素は前記撮影レンズの各瞳分割領域に対応すること特徴とする請求項10に記載の撮像装置。非特許文献1に記載されているようなライトフィールドカメラでは、リフォーカス面で結像した複数の光線は複数の画素に別々に受光されている。さらに、リフォーカス面の位置がマイクロレンズアレイの位置から離れるほど、前記複数の光線はより離れた位置にある画素にそれぞれ受光されている。そのため、従来のように欠陥画素の画素値を光電変換素子上で隣接する画素の画素値を使って補正する方法では、必ずしも好適な補正ができないという問題があった。そこで本発明の目的は、光の進行方向の情報を含むようにして取得した撮像信号に対して、常に適切な欠陥画素の補正処理を施すことが可能な画像処理装置を提供することである。前記目的を達成するために、本発明の画像処理装置は、撮影レンズの瞳分割領域に対応した被写体光の進行方向の情報が得られる撮像光学系を用いて撮像素子から取得される画像信号に適用される画像処理装置であって、撮像素子から取得される画像信号を用いて被写体の画像を再構築する仮想像面の位置を設定する仮想像面位置設定手段と、撮像素子の欠陥画素の画像信号を撮像素子の他の画素の画像信号を用いて補正する補正手段とを備え、補正手段は、仮想像面位置設定手段によって設定された仮想像面の位置と被写体光の進行方向情報に基づいて、欠陥画素の画像信号の補正に使用する他の画素を決定する。本発明によれば、リフォーカス画像を生成するための撮像画像に対して適切な欠陥画素補正を行うことができる。以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。図1は本発明の実施形態に係る撮像装置全体のブロック図である。図において、101は撮影レンズであり、撮影レンズ101を通過した被写体光は撮影レンズ101の焦点位置の近傍に像を形成する。102はマイクロレンズアレイであり、複数のマイクロレンズ113で構成され、撮影レンズとともに撮像光学系を構成する。マイクロレンズアレイ102は撮影レンズ101の焦点位置近傍に配置される。撮影レンズ101の異なる瞳領域を通過した光はマイクロレンズアレイ102に入射して瞳分割領域ごとに分離して出射される。103は撮像素子であり、マイクロレンズアレイ102によって分離して出射された光が入射する。撮像素子103は、例えば、CCDイメージセンサやCMOSイメージセンサを用いて構成され、マイクロレンズアレイ102の焦点位置付近に配置される。104はアナログフロントエンドAFEであり、撮像素子103からの画像信号に対して基準レベルの調整クランプ処理やアナログデジタル変換処理等を行う。105はデジタルフロントエンドDFEであり、AFE104から出力されたデジタル画像信号に対して、微小な基準レベルのずれ等のデジタル補正処理を行なう。106は画像処理部であり、DFE105からのデジタル画像信号に対して所定の画像処理を施し、画像データを生成、出力する。記憶部107は欠陥画素情報座標等等を保持しておくための不揮発性メモリで構成されている。108は制御部であり、撮像装置全体を統括的に制御し、周知のCPUなどを内蔵し、図示しないメモリに記憶されたプログラムをロードして実行することにより各部の動作および各種処理の実行を制御する。109は操作部であり、デジタルカメラにある操作部材の操作を電気的に受け付ける構成を有する。ユーザーは操作部109を使ってリフォーカス画像を生成するための任意のリフォーカス面位置を設定できるようになっている仮想像面位置設定手段。なお、このリフォーカス面位置の設定は、制御部108がカメラパラメータ等を用いて自動で設定するようにしてもよい110は画像等を表示するための表示部である。111はメモリカードやハードディスクなどの記録媒体である。112はタイミング発生回路TGであり、撮像素子103を駆動するための各種タイミング信号を生成する。なお、本実施例の画像処理部106は、図6に示すように欠陥補正部601と再構築部602を有している。欠陥補正部601は撮像データの欠陥画素の補正処理を行う。本発明はこの欠陥補正部に特徴を有しており、この詳細については後述する。また、図6の再構築部602ではLightFieldPhotographyと呼ばれる手法を用いた演算処理を行うことにより、撮像データから、設定した焦点位置リフォーカス面に画像を再構築するようになっている。なお、この再構築部602の詳細についても後述する。次に、本実施例の撮像装置に含まれる撮影レンズ101、マイクロレンズアレイ102および撮像素子103の構成について説明する。図2は、撮像素子103とマイクロレンズアレイ102の構成を説明するための概念図である。同図は、撮像素子103およびマイクロレンズアレイ102を図1の光軸Zの方向から観察した場合の両者の配置関係を示す概念図である。複数の画素201以下、単に画素と記すに対して1つのマイクロレンズ113が対応するように配置されている。1つのマイクロレンズ後方にある複数の画素201をまとめて画素配列200と定義する。なお、本実施例では画素配列200は、画素201が5行5列に計25個が配列されたものとする。図3は、撮影レンズ101から出射された光束が1つのマイクロレンズ113を通過して撮像素子103で受光される様子を光軸Zに対して垂直な方向から観察した場合の概念図である。撮影レンズの各瞳領域a1~a5から出射され、マイクロレンズ113を通過した被写体光は、後方の対応する画素p1~p5それぞれの受光面に結像する。即ち、異なる瞳分割領域p1~p5から射出された光束は、一つのマイクロレンズ113を通過して異なる画素で光電変換されることにより、被写体光の進行方向の情報を有することになる。図4aは撮影レンズの開口を光軸Zの方向から見たときの概念図である。図4bは1つのマイクロレンズ113とその後方に配置された画素配列200を光軸Zの方向から見たときの概念図である。図4aに示すように撮影レンズ101の瞳領域を1つのマイクロレンズ下にある画素配列に含まれる画素と同数の領域に分割した場合、1つの画素には撮影レンズの1つの瞳分割領域からの光が結像されることになる。ただし、ここでは撮影レンズ101とマイクロレンズ113のFナンバーがほぼ一致しているものとする。図4aに示す撮影レンズ101の瞳分割領域a11~a55と図4bに示す画素p11~p55との対応関係は、光軸Zの方向から見て点対称となる。したがって、撮影レンズ101の瞳分割領域a11から出射した光は、マイクロレンズ113の後方にある画素配列200に含まれる画素p11に結像する。これと同様に、瞳分割領域a11から出射し、別のマイクロレンズ113を通過する光も、そのマイクロレンズ後方にある画素配列200の中の画素p11に結像する。次に、上記撮影レンズ101、マイクロレンズアレイ102および撮像素子103からなる撮像系によって取得された撮像信号に対して、任意に設定した仮想像面リフォーカス面における画像の再構築処理について説明する。再構築処理は、図6に示す再構築部602において、LightFieldPhotographyと呼ばれる手法を用いて作成された制御プログラムに基づいて制御部108の制御の下で行なわれる。図5は、任意に設定したリフォーカス面上のある画素を通過する光束が、撮影レンズ101のどの瞳分割領域から出射され、どのマイクロレンズ113へ入射するかを光軸Zに対して垂直な方向から見た場合の概念図である。同図において、撮影レンズ面上の瞳分割領域の位置の座標をu,v、リフォーカス面上の画素位置の座標をx,y、マイクロレンズのマイクロレンズアレイ面上の位置の座標をx’,y’とする。また、撮影レンズ面からマイクロレンズアレイ面までの距離をF、撮影レンズ面からリフォーカス面までの距離をαFとする。αはリフォーカス面の位置を決定するためのリフォーカス係数であり、ユーザが任意に設定できるα≠0。なお、図5ではu、x、x’の方向のみを示し、それに垂直なv、y、y’については省略してある。図5に示すように、座標u,vと座標x,yを通過した光束は、マイクロレンズアレイ上の座標x’,y’に到達する。この座標x’,y’は式1のように表すことができる。そして、この光束が受光される画素の出力をLx’,y’,u,vとすると、リフォーカス面上の座標x,yで得られる出力Ex,yは、Lx’,y’,u,vを撮影レンズの瞳領域に関して積分したものとなるため、式2のようになる。式1において、リフォーカス係数αはユーザによって決定されるため、x,y、u,vを与えれば、光束の入射するマイクロレンズの位置x’,y’がわかる。そして、そのマイクロレンズに対応する画素配列200からu,vの位置に対応する画素がわかる。この画素の出力がLx’,y’,u,vとなる。この出力をすべての瞳分割領域について取得し、取得した画素出力を式2に従って合計積分することでEx,yが算出できる。なお、u,vを撮影レンズの瞳分割領域の代表座標とすれば離散値、式2の積分は単純加算Σにより計算することができる。以上のようにして式2の演算処理を行うことで、任意の焦点位置における画像を再構築することができる。次に、本発明の特徴である欠陥補正部601における欠陥補正動作について説明する。本動作は、システムに記憶されたプログラムに従った制御部108による制御の下で実行される。図7は、欠陥補正部601における欠陥補正動作のフローチャートを示す図である。欠陥補正部601は、撮像素子103の各画素から得られた画像信号について、画素が欠陥画素であるかどうかを判定しながら、欠陥画素である場合に素の画像信号を補正する。なお、欠陥補正部601に入力される画像信号は、予めメモリに記憶されている欠陥画素の座標情報などにより欠陥画素からの画像信号か正常画素からの画像信号かの区別がなされているものとする。ステップS701では、操作部109などを介して設定された仮想像面の位置に基づいてリフォーカス係数αを取得する。ステップS702では、入力された撮像データの中の画素が欠陥画素か正常画素かを判定する。画素が欠陥画素であれば、ステップS703へ移行し、正常画素であれば、ステップS706へ移行する。ステップS703では、欠陥画素と判定された画素の補正値を作成するために、補正値生成に使用する画素の選択を行う。まず、欠陥画素がリフォーカス面上のどの座標での画像の再構築に使用されるかを求める。そして、求めたリフォーカス面上の座標での画像の再構築に使用される別の画素の座標を算出し、それらの画素から補正値の生成に使用する画素を選択する。ステップS704ではS703で選択された補正値生成用画素からの画像信号を使用して欠陥画素を補正するための補正値を作成する。本実施例では、補正値生成用画素の算術平均を補正値とする。しかし、これに限らず、選択された補正値生成用画素の画素配列200内の位置に応じて、図11に示すような重み付け係数を用いた加重平均値を補正値にしてもよい。なお、図11は、図4bに示す画素配列200に対応する重み付け係数の例である。図4bにおいて撮影レンズの有効な瞳領域以外の領域に対応する画素配列200内の画素例えば、p11、p15、p51、p55の重み付け係数を小さく設定すれば、補正値生成の際にノイズの影響を少なくすることが可能となる。ステップS705では、欠陥画素の出力をS704で算出した補正値に置き換えることで補正を行う。ステップS706では、すべての画素についてS702~705の処理を行なったかどうかを判定する。すべての画素について行なっていない場合は、S702に戻り、次の画素が欠陥画素かどうかを判定する。最終画素である場合は、欠陥補正動作を終了する。次に、ステップS703における補正値を作成するために使用する画素の選択方法について詳しく述べる。ここでは、マイクロレンズアレイ上の座標xk’,yk’にあるマイクロレンズに対応する画素配列200に含まれる画素のうち、撮影レンズの瞳分割領域uk,pkに対応する画素が欠陥画素であるものとして説明する。撮影レンズ面の瞳分割領域uk,pkから出射され、マイクロレンズアレイ面上の座標xk’,yk’にあるマイクロレンズに入射して欠陥画素に結像される光束が通過する仮想像面上の位置をxk、ykとする。まず、この座標xk、ykを算出する。図8は、撮影レンズ面の瞳分割領域uk,pkから出射され、マイクロレンズアレイ面上の座標xk’,yk’にあるマイクロレンズに入射する光束が、リフォーカス面上のどの座標を通過するかを説明するための概念図である。同図でも図5と同様に、u、x、x’の方向のみを示し、それに垂直なv、y、y’については省略する。図8からわかるように、リフォーカス面上の光束が通過する座標xk、ykは式3のように表すことができる。したがって、式3に示すリフォーカス面上の同じ位置xk,ykを通過する各光束を受光する画素が、画像の再構築の際に欠陥画素とともに積分される画素である。これらの画素出力をLx’,y’,u,v,と表すと、Lx’,y’,u,v,は式1を用いて式4のように表すことができる。ここで、u,vは欠陥画素に入射する瞳分割領域uk,vk以外の瞳分割領域の代表座標である。すなわち、式2の積分を単純加算により計算することとする。例えば、欠陥画素とともに画像の再構築に使用される画素のうち、撮像素子上で欠陥画素に近い位置にある上下左右4画素の平均値から補正値を作成する。この場合、式4のu,vに対して、ukd,vk、uk-d,vk、uk,vkd、uk,vk-dのそれぞれを代入して得られる4つの画素出力から補正値を算出すればよい。なお、dは撮影レンズの隣接する瞳分割領域の代表座標同士の間隔である。ここで、撮影レンズ101からマイクロレンズアレイ102までの距離をF、マイクロレンズアレイから撮像素子103までの距離をf、撮像素子の画素ピッチをsとし、撮影レンズとマイクロレンズのFナンバーが等しい場合、dは式5のようにすればよい。ところで、リフォーカス面をマイクロレンズアレイ面上に設定した場合、即ちα=1の場合は、式は演算不可能となる。この場合、撮影レンズの像はマイクロレンズにより対応する画素配列上に結像されるので、画素配列上で欠陥画素の隣接画素を補正値の計算方法に従って補正用画素として選ぶことが可能である。上記の方法によって選択される補正値作成用の画素の例を図9および図10に示す。図9は、撮影レンズ101の各分割瞳領域から出射された光束が、マイクロレンズアレイ102を通過して撮像素子103の各画素に入射する様子を示す概念図である。図10は、撮像素子103とマイクロレンズアレイ102を光軸の方向から見たときの概念図である。図9aは、リフォーカス面をマイクロレンズアレイと同じ位置に設定した場合α=1の光束を示す。この場合、リフォーカス面上の座標x,yにおける再構築画像の画素信号を生成するために使用する画素は、図10aに画素A、B、Cで示した画素となる。マイクロレンズアレイ上にリフォーカス面を設定した場合には、ある座標の再構築に使用される画素はすべて同じ画素配列内の画素となる。図10において画素Bが欠陥画素であった場合、欠陥画素Bの補正値作成用の画素は欠陥画素Bに隣接する4つの画素Cとなる。そして、欠陥画素Bの出力を4つの画素Cの平均値で置き換えることで補正する。他方、リフォーカス面をマイクロレンズアレイよりも撮影レンズ側に設定した場合0<α<1の光束は、図9bに示すようになる。この場合、リフォーカス面上の座標x,yにおける再構築画像の画素信号を生成するために使用する画素は、例えば、図10bに画素A、B、Cで示すような離れた位置にある画素となる。ここで、画素Bが欠陥画素であった場合、欠陥画素Bの補正値作成用に使用する画素は、画像の再構築に使用する画素のうち、欠陥画素Bに近い4つの画素Cとなる。そして、欠陥画素Bの出力を4つの画素Cの平均値で置き換えることで補正する。図9および図10に示すように、同じ位置の欠陥画素の補正であっても、設定した仮想像面の位置によって欠陥画素を補正するために使用する画素が異なってくる。本件発明はこのような状況に対応して、適切な欠陥画素の補正を行なうことを可能とする。また、上記欠陥補正処理は再構築部602の中で行う構成にしてもよい。つまり、再構築部602で式2に示す再構築処理を順次行い、画像の再構築に使用される画素の中に欠陥があった場合に、式4で表される画素値から補正値を作成するようにすればよい。以上説明したように、本実施例では、まず、欠陥画素がリフォーカス面上のどの座標の再構築に使用されるかを求める。そして、求めたリフォーカス面上の座標での画像の再構築に使用される他の画素の座標を算出し、算出された座標の画素の出力値から補正値を作成する。こうすることで、リフォーカス画像を再構築するための撮像画像に対して、欠陥画素の補正を適切に行なうことが可能となる。なお、システム制御部108の制御は、1つのハードウェアが行ってもよいし、複数のハードウェアが処理を分担することで、装置全体の制御を行ってもよい。また、上述した実施例では撮像装置を例に本件発明を説明したが、本件発明はPC等の処理装置において記録媒体などから提供される画像信号の処理に適応できることも明らかである。前述した本発明の実施形態における撮像装置を構成する各手段、並びに欠陥画素補正の各工程は、コンピュータのRAMやROMなどに記憶されたプログラムが動作することによって実現できる。このプログラム及び前記プログラムを記憶したコンピュータ読み取り可能な記憶媒体は本発明に含まれる。また、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、一つの機器からなる装置に適用してもよい。なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム実施形態では図7に示すフローチャートに対応したプログラムを、システムまたは装置に直接、または遠隔から供給する場合も含む。そして、そのシステムまたは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどがある。さらに、MO、CD-ROM、CD-R、CD-RW、磁気テープ、不揮発性のメモリカード、ROM、DVDDVD-ROM、DVD-Rなどもある。その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する方法がある。そして、前記ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記憶媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。また、その他の方法として、本発明のプログラムを暗号化してCD-ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。さらに、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現され得る。さらに、その他の方法として、まず記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。そして、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現される。なお、上記実施形態は、本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。"