"予め決められた第1の画素配列を有する複数枚の画像を撮像する撮影手段と、前記撮影された複数枚の画像から1枚の画像を基準画像を選択するとともに、前記複数枚の画像のうち前記基準画像以外の画像を非基準画像とする画像選択手段と、前記基準画像が有する画素の座標を前記非基準画像が有する画素の座標に変換する座標変換係数を算出し、該算出した座標変換係数を記憶手段に記憶する変換係数算出手段と、前記基準画像を予め決められた拡大倍率で拡大して拡大基準画像とする画像拡大手段と、前記拡大基準画像が有する画素のうち、前記第1の画素配列上に配置されている画素を第1の非欠落画素、該第1の画素配列上に配置されていない画素を第1の欠落画素として決定して該拡大基準画像を記憶手段に記憶する拡大基準画像記憶手段と、前記拡大基準画像が有する前記基準画像の画素のうち、前記基準画像が有する画素配列と同じ画素配列上に配置されていない画素を第2の非欠落画素として有し、該拡大基準画像が有する画素のうち、前記第2の非欠落画素以外の画素を第2の欠落画素として有する保存用画像を生成して記憶手段に記憶する保存用画像生成手段と、前記基準画像の拡大倍率と前記座標変換係数とを用いて、前記拡大基準画像が有する第1の欠落画素の座標を変換して参照座標とし、各々の非基準画像が有する画素のうち、前記参照座標との距離が最も近い画素を前記第1の欠落画素に対応する近傍画素として決定する近傍画素決定手段と、予め決められた第2の画素配列と前記第1の欠落画素の座標とに基づいて、該第1の欠落画素の色を判別し、判別した該第1の欠落画素の色が前記近傍画素の色と同じであるかを判断する色判断処理を行う色判断手段と、前記第1の欠落画素の色が前記近傍画素の色と同じであると判断された場合に、非基準画像が有する近傍画素のうち、対応する前記参照座標との距離が最も近い近傍画素を第1の参照画素として決定する第1参照画素決定手段と、前記第1の欠落画素の色が前記近傍画素の色と同じでないと判断された場合に、該第1の欠落画素の色と、該近傍画素の色と、前記非基準画像が有する近傍画素と前記第1の参照座標との距離とに応じた、前記近傍画素の評価値を算出する評価値算出手段と、非基準画像が有する近傍画素のうち、前記算出された評価値が最も大きい近傍画素を第2の参照画素として決定する第2参照画素決定手段と、前記第1の参照画素を前記第1の欠落画素に挿入する第1の画素挿入手段と、前記第2の参照画素を前記第2の欠落画素に挿入する第2の画素挿入手段とを備えることを特徴とする画像処理装置。前記第1の参照画素が前記第1の欠落画素に挿入された前記拡大基準画像と、前記第2の参照画素が前記第2の欠落画素に挿入された前記保存用画像とに基づいて、色同時化処理を行う色同時化手段を備えることを特徴とする請求項1に記載の画像処理装置。前記画像拡大手段は、前記第1の画素配列が維持されるように前記基準画像を前記拡大倍率で拡大することを特徴とする請求項1または請求項2に記載の画像処理装置。前記第1および第2の画素配列がベイヤー配列であることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。前記第1の画素配列がベイヤー配列であり、前記画像拡大手段は、前記撮影された画像の枚数に応じて、前記基準画像を、第1の拡大方法、第2の拡大方法または第3の拡大方法のいずれかで拡大し、前記第1の拡大方法は、前記基準画像が有するベイヤー配列が維持されるように該基準画像を前記拡大倍率で拡大して第1の拡大基準画像を生成し、前記第2の拡大方法は、前記基準画像をG成分の画像とRB成分の画像に分離し、G成分の画像を水平方向垂直方向共に前記拡大倍率で拡大を行って第2の拡大基準画像を生成するとともに、前記基準画像のRB成分の画像をR成分とB成分とが市松状に配置されるように水平方向垂直方向共に前記拡大倍率で拡大することによって、第3の拡大基準画像を生成し、前記第3の拡大方法は、前記基準画像を色成分毎に分離した画像を作成し、作成した各々の画像を水平方向垂直方向共に前記拡大倍率で拡大することによって、第4、5、および6の拡大基準画像を生成し、前記色判断手段は、前記第1の拡大基準画像については、前記第2の画素配列としてベイヤー配列を用いて前記色判断処理を実行し、前記第2の拡大基準画像については、前記第2の画素配列としてG成分のみの画素が配置される配列を用いて前記色判断処理を実行し、前記第3の拡大基準画像については、前記第2の画素配列としてR成分とB成分とが市松状に配置される画素配列を用いて前記色判断処理を実行し、前記第4の拡大基準画像については、前記第2の画素配列としてG成分のみの画素が配置される配列を用いて前記色判断処理を実行し、前記第5の拡大基準画像については、前記第2の画素配列としてR成分のみの画素が配置される配列を用いて前記色判断処理を実行し、前記第6の拡大基準画像については、前記第2の画素配列としてB成分のみの画素が配置される配列を用いて前記色判断処理を実行することを特徴とする請求項1または請求項2に記載の画像処理装置。予め決められた第1の画素配列を有する複数枚の画像を撮像する工程と、前記撮影された複数枚の画像から1枚の画像を基準画像を選択するとともに、前記複数枚の画像のうち前記基準画像以外の画像を非基準画像とする工程と、前記基準画像が有する画素の座標を前記非基準画像が有する画素の座標に変換する座標変換係数を算出し、該算出した座標変換係数を記憶手段に記憶する工程と、前記基準画像を予め決められた拡大倍率で拡大して拡大基準画像とする工程と、前記拡大基準画像が有する画素のうち、前記第1の画素配列上に配置されている画素を第1の非欠落画素、該第1の画素配列上に配置されていない画素を第1の欠落画素として決定して該拡大基準画像を記憶手段に記憶する工程と、前記拡大基準画像が有する前記基準画像の画素のうち、前記基準画像が有する画素配列と同じ画素配列上に配置されていない画素を第2の非欠落画素として有し、該拡大基準画像が有する画素のうち、前記第2の非欠落画素以外の画素を第2の欠落画素として有する保存用画像を生成して記憶手段に記憶する工程と、前記基準画像の拡大倍率と前記座標変換係数とを用いて、前記拡大基準画像が有する第1の欠落画素の座標を変換して参照座標とし、各々の非基準画像が有する画素のうち、前記参照座標との距離が最も近い画素を前記第1の欠落画素に対応する近傍画素として決定する工程と、予め決められた第2の画素配列と前記第1の欠落画素の座標とに基づいて、該第1の欠落画素の色を判別し、判別した該第1の欠落画素の色が前記近傍画素の色と同じであるかを判断する色判断処理を行う工程と、前記第1の欠落画素の色が前記近傍画素の色と同じであると判断された場合に、非基準画像が有する近傍画素のうち、対応する前記参照座標との距離が最も近い近傍画素を第1の参照画素として決定する工程と、前記第1の欠落画素の色が前記近傍画素の色と同じでないと判断された場合に、該第1の欠落画素の色と、該近傍画素の色と、前記非基準画像が有する近傍画素と前記第1の参照座標との距離とに応じた、前記近傍画素の評価値を算出する工程と、非基準画像が有する近傍画素のうち、前記算出された評価値が最も大きい近傍画素を第2の参照画素として決定する工程と、前記第1の参照画素を前記第1の欠落画素に挿入する工程と、前記第2の参照画素を前記第2の欠落画素に挿入する工程とを有することを特徴とする画像処理方法。請求項6に記載の画像処理方法をコンピュータに実行させることを特徴とするコンピュータプログラム。出力と同じ解像度を有する画像を色成分毎に作成し複数枚超解像の処理を行う従来技術では、メモリを大量に使用してしまうという問題がある。また、この従来技術では、色成分毎の画像を出力と同じ解像度で必要とするので、欠落画素の補間に必要な低解像度画像の枚数が多くなるという問題がある。また、特許文献1が開示する画像処理システムでは、色成分毎に高解像度化の効果が大きく異なるという問題がある。本発明は、従来の複数枚超解像の方法よりもメモリの使用量を削減し、少ない枚数の低解像度画像で高解像化を行う画像処理装置の提供を目的とする。本発明の一実施形態の画像処理装置は、予め決められた第1の画素配列を有する複数枚の画像を撮像する撮影手段と、前記撮影された複数枚の画像から1枚の画像を基準画像を選択するとともに、前記複数枚の画像のうち前記基準画像以外の画像を非基準画像とする画像選択手段と、前記基準画像が有する画素の座標を前記非基準画像が有する画素の座標に変換する座標変換係数を算出し、該算出した座標変換係数を記憶手段に記憶する変換係数算出手段と、前記基準画像を予め決められた拡大倍率で拡大して拡大基準画像とする画像拡大手段と、前記拡大基準画像が有する画素のうち、前記第1の画素配列上に配置されている画素を第1の非欠落画素、該第1の画素配列上に配置されていない画素を第1の欠落画素として決定して該拡大基準画像を記憶手段に記憶する拡大基準画像記憶手段と、前記拡大基準画像が有する前記基準画像の画素のうち、前記基準画像が有する画素配列と同じ画素配列上に配置されていない画素を第2の非欠落画素として有し、該拡大基準画像が有する画素のうち、前記第2の非欠落画素以外の画素を第2の欠落画素として有する保存用画像を生成して記憶手段に記憶する保存用画像生成手段と、前記基準画像の拡大倍率と前記座標変換係数とを用いて、前記拡大基準画像が有する第1の欠落画素の座標を変換して参照座標とし、各々の非基準画像が有する画素のうち、前記参照座標との距離が最も近い画素を前記第1の欠落画素に対応する近傍画素として決定する近傍画素決定手段と、予め決められた第2の画素配列と前記第1の欠落画素の座標とに基づいて、該第1の欠落画素の色を判別し、判別した該第1の欠落画素の色が前記近傍画素の色と同じであるかを判断する色判断処理を行う色判断手段と、前記第1の欠落画素の色が前記近傍画素の色と同じであると判断された場合に、非基準画像が有する近傍画素のうち、対応する前記参照座標との距離が最も近い近傍画素を第1の参照画素として決定する第1参照画素決定手段と、前記第1の欠落画素の色が前記近傍画素の色と同じでないと判断された場合に、該第1の欠落画素の色と、該近傍画素の色と、前記非基準画像が有する近傍画素と前記第1の参照座標との距離とに応じた、前記近傍画素の評価値を算出する評価値算出手段と、非基準画像が有する近傍画素のうち、前記算出された評価値が最も大きい近傍画素を第2の参照画素として決定する第2参照画素決定手段と、前記第1の参照画素を前記第1の欠落画素に挿入する第1の画素挿入手段と、前記第2の参照画素を前記第2の欠落画素に挿入する第2の画素挿入手段とを備える。本発明の画像処理装置によれば、従来の複数枚超解像の方法よりもメモリの使用量を削減し、少ない枚数の低解像度画像で高解像化を行うことができる。図1は、本実施形態の画像処理装置の構成例を示す図である。この画像処理装置は、複数枚の低解像度の画像から1枚の高解像度の画像を生成する。この画像処理装置は、光学系101、撮像素子102、A変換部103、画像処理部104、システム制御部105、操作部106、表示部107、記録部108を備える。光学系101は、ズームレンズやフォーカスレンズから構成されるレンズ群、絞り調整装置、および、シャッター装置を備える。光学系101は、撮像素子102に到達する被写体像の倍率やピント位置、あるいは、光量を調整する。撮像素子102は、光学系101を通過した被写体の光束を光電変換し、電気信号に変換するCCDやCMOSセンサ等の光電変換素子である。CCDは、ChargeCoupledDeiceの略称である。また、CMOSは、ComplementaryMetalOxideSemiconcuctorの略称である。本実施形態では、撮像素子102は、ベイヤー配列の色フィルタを備えた単板式の撮像素子である。すなわち、撮像素子102は、予め決められた第1の画素配列ベイヤー配列を有する複数枚の画像を撮影する撮影手段として機能する。A/D変換部103は、入力された映像信号をデジタルの画像に変換する。画像処理部104は、通常の信号処理の他に、入力された複数枚の画像を用いて超解像処理を行う。画像処理部104はA/D変換部103から出力された画像のみでなく、記録部108から読み出した画像に対しても同様の画像処理を行うことができる。システム制御部105は、画像処理装置全体の動作を制御、統括する制御機能部である。画像処理部104で処理された画像から得られる輝度値や操作部106から送信された指示に基づいて、光学系101や撮像素子102の駆動制御も行う。表示部107は、液晶ディスプレイや有機ELElectroLuminescenceディスプレイを有する。表示部107は、撮像素子102が生成した画像や、記録部108から読み出した画像を表示する。記録部108は、画像を記録する機能を有する。記録部108は、例えば、半導体メモリが搭載されたメモリカードや光磁気ディスク等の回転記録体を収容したパッケージなどを用いた情報記録媒体を備える。記録部108に、この情報記録媒体が着脱可能であってもよい。バス109は、画像処理部104、システム制御部105、表示部107、および、記録部108の間で画像をやり取りするために用いられる。図2は、画像処理部の一部の構成を示す図である。図2に、画像処理部104が実行する超解像処理に関わる処理部を示す。画像処理部104は、基準画像選択部201、メモリ部202、座標変換係数算出部203、画像生成部204、画素間距離算出部205、評価値算出部206、欠落画素判定部207、画素挿入部208、RGB同時化部209、YUV変換部210を備える。本実施形態の画像処理方法は、図2に示す画像処理部104が備える処理部の機能によって実現される。また、本実施形態のコンピュータプログラムは、この画像処理方法をコンピュータに実行させることを特徴とする。基準画像選択部201は、画像処理部104に入力された複数枚の画像から1枚の画像を基準画像を選択するとともに、複数枚の画像のうち基準画像以外の画像を非基準画像とする画像選択手段として機能する。メモリ部202は、基準画像選択部201乃至RGB同時化部209が実行する処理に関する画像データを記憶する記憶手段として機能する。座標変換係数算出部203は、基準画像に対する非基準画像の位置合わせを行い、該位置合わせ結果をメモリ部202に記憶する位置合わせ手段として機能する。具体的には、座標変換係数算出部203は、変換係数算出手段として機能する。すなわち、座標変換係数算出部203は、基準画像が有する画素の座標を非基準画像が有する画素の座標に変換する座標変換式の係数を算出し、該算出した座標変換式の係数を位置合わせ結果とする。画像生成部204は、基準画像を予め決められた拡大倍率で拡大して拡大基準画像を生成する画像拡大手段として機能する。また、画像生成部204は、拡大基準画像が有する画素のうち、第1の画素配列上すなわちベイヤー配列上に配置されている画素を第1の非欠落画素として決定する。また、画像生成部204は、該第1の画素配列上に配置されていない画素を第1の欠落画素として決定する。そして、画像生成部204は、拡大基準画像をメモリ部202に記憶する拡大基準画像記憶手段として機能する。また、画像生成部204は、保存用画像を生成してメモリ部202に記憶する保存用画像生成手段として機能する。保存用画像は、拡大基準画像が有する基準画像の画素のうち、基準画像が有する画素配列ベイヤー配列と同じ画素配列上に配置されていない画素を第2の非欠落画素として有する。また、保存用画像は、拡大基準画像が有する画素のうち、第2の非欠落画素以外の画素を第2の欠落画素として有する。画素間距離算出部205は、基準画像の拡大倍率とメモリ部202内の座標変換式とを用いて、拡大基準画像が有する第1の欠落画素の座標を変換して参照座標とする。そして、画素間距離算出部205は、参照画素と参照座標との距離dを算出する。参照座標は、拡大基準画像が有する欠落画素に対応する、非基準画像上の座標である。参照画素は、非基準画像が有する画素のうち、参照座標との距離が最も近い画素近傍画素である。具体的には、画素間距離算出部205は、基準画像の拡大倍率とメモリ部202内の座標変換式とを用いて、拡大基準画像が有する欠落画素の座標を変換して参照座標とする。そして、画素間距離算出部205は、各々の非基準画像について参照画素を決定し、決定した参照画素と参照座標との距離dを算出する。すなわち、画素間距離算出部205は、各々の非基準画像が有する画素のうち、参照座標との距離が最も近い画素を第1の欠落画素に対応する近傍画素として決定する近傍画素決定手段として機能する。また、画素間距離算出部205は、以下の色判断処理を実行する色判断手段として機能する。すなわち、画素間距離算出部205は、予め決められた第2の画素配列例えば、ベイヤー配列と第1の欠落画素の座標とに基づいて、該第1の欠落画素の色を判別し、判別した該第1の欠落画素の色が参照画素近傍画素の色と同じであるかを判断する。そして、画素間距離算出部205は、第1の欠落画素の色が参照画素の色と同じであると判断した場合に、非基準画像が有する参照画素のうち、対応する参照座標との距離が最も近い参照画素を第1の参照画素として決定する第1参照画素決定手段として機能する。評価値算出部206は、第1の欠落画素の色が参照画素近傍画素の色と同じでないと判断された場合に、近傍画素の評価値を算出する評価値算出手段として機能する。評価値算出部206は、第1の欠落画素の色と、近傍画素の色と、非基準画像が有する近傍画素と第1の参照座標との距離dとに応じた評価値を、近傍画素の評価値として算出する。また、評価値算出部206は、非基準画像が有する近傍画素のうち、算出された評価値が最も大きい近傍画素を第2の参照画素として決定する第2参照画素決定手段として機能する。欠落画素判定部207は、メモリ部202から拡大基準画像を読み出し、読み出した拡大基準画像の着目画素すなわち処理対象の画素が欠落画素であるかを判断する。また、欠落画素判定部207は、メモリ部202から保存用画像を読み出し、読み出した保存用画像の着目画素すなわち処理対象の画素が欠落画素であるかを判断する。欠落画素判定部207は、拡大基準画像の着目画素について欠落画素であるかを判断した後、当該拡大基準画像の着目画素と同じ位置にある保存用画像の着目画素について、欠落画素であるかを判断する。画素挿入部208は、欠落画素判定部207が、拡大基準画像の着目画素が欠落画素であると判断した場合に、第1の参照画素を第1の欠落画素に挿入する第1の画素挿入手段として機能する。また、画素挿入部208は、欠落画素判定部207が、保存用画像の着目画素が欠落画素であると判断した場合に、第2の参照画素を第2の欠落画素に挿入する第2の画素挿入手段として機能する。画素挿入部208は、参照画素が挿入された拡大基準画像、保存用画像をメモリ部202に記憶する。RGB同時化部209は、第1の参照画素が第1の欠落画素に挿入された拡大基準画像をメモリ部202から読み出す。また、RGB同時化部209は、第2の参照画素が第2の欠落画素に挿入された保存用画像をメモリ部202から読み出す。そして、RGB同時化部209は、読み出した拡大基準画像と保存用画像とに基づいて、色同時化処理を行う色同時化手段として機能する。YUV変換部210は、色同時化処理後の画像が有する画素のRGB信号をYUV信号に変換して出力画像として出力する。実施例1図3は、実施例1の画像処理を説明するフローチャートである。実施例1では、画像処理装置は、ベイヤー配列の低解像度画像を複数枚用いて、水平、垂直方向それぞれ3倍に画素数を拡大したベイヤー配列の高解像度画像を生成し、高解像度化を実現する。まず、A/D変換部103が、画像処理部104に対して、n枚の低解像度の画像を入力するステップS301。ここで、n枚の画像は、手持ち状態で連続撮像された画像とする。なお、入力する低解像度の画像は、手持ち状態で撮像された画像に限らず、撮像者の意図した動きパンニングまたはズーミング、あるいはカメラの光学装置や撮像素子に機械的に動きを与える構成から得てもよい。次に、基準画像選択部201が、超解像処理により高解像度画像とする対象となる画像を基準画像として選択するステップS302。そして、残りの画像を非基準画像としてメモリ部202に保存する。ここでは、基準画像選択部201は、はじめに入力された画像を基準画像とし、残りのn-1枚の画像を非基準画像とする。なお、基準画像の選択基準はこの方法に限らず、基準画像選択部201が、はじめに入力された画像以外から選択するようにしてもよい。次に、座標変換係数算出部203が、基準画像と非基準画像間の位置合わせに必要な座標変換式の係数を算出するステップS303。本実施例では、座標変換式として射影変換の式を用いる。画像の予め決められた位置例えば中心の位置の座標を0,0とすると、基準画像の着目画素の座標x、yに対応する非基準画像の座標x’,y’を表す射影変換の式は、下記の式1である。基準画像の着目画素の座標x、yに対応する非基準画像の座標x’,y’を参照座標と呼称する。式1の射影変換係数座標変換係数の算出方法については、基準画像と非基準画像間でパターンマッチングによって求めた動きベクトルから連立方程式を用いて解くのが一般的である。しかし、座標変換係数算出部203が、撮影時のジャイロデータを用いて、射影変換係数を求めるようにしてもよい。次に、座標変換係数算出部203が、算出した座標変換係数を、非基準画像の枚数分、メモリ部202に保存するステップS304。保存した座標変換係数は、ステップS306において用いられる。次に、画像生成部204が、基準画像を水平方向、垂直方向それぞれ3倍に拡大するステップS305。本実施例では、画像生成部204は、ベイヤー配列を維持したまま、基準画像を拡大する。なお、ステップS305の処理は、ステップS303の処理の前に行ってもよい。図4は、ステップS305における基準画像の拡大方法を説明する図である。図4Aは、拡大前の基準画像である。この基準画像は、水平画素数W、垂直画素数Hのベイヤー配列を有する。画像生成部204は、図4Aに示す基準画像を水平方向、垂直方向それぞれ3倍に拡大して、拡大基準画像を生成する。図4Bは、拡大基準画像である。画像生成部204は、拡大基準画像が含む画素のうち、基準画像が有する画素すなわちベイヤー配列上に配置されている画素を第1の非欠落画素とする。画像生成部204は、拡大基準画像が含む画素のうち、基準画像が有する画素以外の画素、すなわちベイヤー配列上に配置されてない画素を第1の欠落画素とする。画像生成部204は、第1の欠落画素に、値として0を挿入し、拡大基準画像をメモリ部202に記憶する。図4Bのように、水平画素数W×2、垂直画素数H×2のベイヤー配列の基準画像を作成すると、拡大前の基準画像の画素のうち、G成分の画素を非欠落画素として残すことができる。しかし、R成分,B成分の画素に関しては、それぞれ拡大基準画像のG成分の箇所に位置するので、非欠落画素として残した場合、拡大基準画像はベイヤー配列を維持できない。ここで、後で色同時化処理を行う場合に、非欠落画素の情報が多い方が良い。従って、R,Bの画素を拡大基準画像とは別に保存する必要がある。すなわち、画像生成部204は、ベイヤー配列が維持される拡大基準画像とは別に、図4Cに示すような、水平画素数W×2、垂直画素数H×2の保存用画像を生成する。画像生成部204は、保存用画像の画素のうち、図4Cに示すR成分、B成分の画素を第2の非欠落画像とする。また、画像生成部204は、保存用画像の画素のうち、図4Cに示すR成分、B成分の画素以外の画素を第2の非欠落画像とする。画像生成部204は、第2の欠落画素に、値として0を挿入し、保存用画像をメモリ部202に記憶する。図3に戻り、ステップS306において、画像処理装置が、n-1枚の非基準画像から挿入対象の第1の参照画素の候補pixと、第2の参照画素の候補sub_pixを選択する挿入画素選択処理を実行する。図5は、図3のステップS306における挿入画素選択処理を説明するフローチャートの例である。まず、画素間距離算出部205が、変数iを初期化するステップS501。変数iは、n-1枚の非基準画像を一意に識別する識別情報である。本実施例では、i1枚目の非基準画像を非基準画像[i]、非基準画像[i]に対応する座標変換係数を座標変換係数[i]とする。なお、ステップS505以降で使用するd[i]、pix[i]、e[i]、sub_pix[i]、color_id[i]は、それぞれ、非基準画像[i]に対応するd,pix、e、sub_pix、color_idを示す。次に、画素間距離算出部205が、非基準画像[i]をメモリ部202から読み込むステップS502。続いて、画素間距離算出部205が、非基準画像[i]に対応する座標変換係数[i]をメモリ部202から読み込むステップS503。次に、画素間距離算出部205が、ステップS503で読み込んだ座標変換係数[i]を用いて、基準画像の着目画素の座標x、yに対応する非基準画像[i]の参照座標x’,y’を算出するステップS504。具体的には、画素間距離算出部205は、上述した式1で示す射影変換の式を用いて、参照座標を算出する。次に、画素間距離算出部205が、ステップS504で算出した非基準画像[i]の参照座標x’,y’に対し、最近傍にある非基準画像[i]の画素nx,nyを参照画素近傍画素とする。そして、画素間距離算出部205が、参照画素と参照座標との距離d[i]を算出するステップS505。図6は、図5のステップS505における距離d[i]の算出処理を説明する図である。図6Aは拡大画像を示す。図6Bは、非基準画像を示す。図6Aの拡大基準画像上の着目画素601の座標x、yに対し、対応する非基準画像図6Bの参照座標602は、x’,y’である。画素間距離算出部205は、参照座標602を包含し、かつ参照座標602の最近傍に位置する画素である画素603を当該参照座標602に対応する参照画素として決定する。参照画素603の座標は、nx,nyであるものとすると、画素間距離算出部205は、参照画素と参照座標との距離dを、以下の式2を用いて算出する。上記のようにして、画素間距離算出部205は、非基準画像[i]の参照座標x’,y’に対応する非基準画像[i]の参照画素nx,nyを決定する。また、画素間距離算出部205は、非基準画像[i]の参照座標x’,y’に対応する距離d[i]を算出する。図5に戻って、画素間距離算出部205が、非基準画像[i]の参照画素と拡大基準画像の着目画素と同色であるかを判断色判断処理を実行するステップS506。着目画素が参照画素と同色である場合は、ステップS507に進む。着目画素が参照画素と同色でない場合は、ステップS508に進む。図7は、色判断処理を説明する図である。図7中には、水平画素数W×3、垂直画素数H×3の拡大基準画像の各画素の色を示す。すなわち、この拡大基準画像はベイヤー配列を有する。欠落画素を非欠落画素に置き換えるためには、欠落画素の位置に記載されている色の画素で置き換えなければならない。拡大基準画像の最も左上の画素の座標を0,0、最も右下の画素の座標を2W-1,2H-1とする。画素間距離算出部205は、着目画素x、yの色を、下記の式3で判別する。x1=0かつy1=0ならRx1=1かつy1=0、またはx1=0かつy1=1ならGx1=1かつy1=1ならB式3上記の式x1,y1は、x座標、y座標がそれぞれ偶数であるか、奇数であるかを判別する式である。x1,y1の値が0である時は、x,y座標が偶数、値が1である時は、x,y座標が奇数であることを示す。なお、画素間距離算出部205は、非基準画像[i]の参照画素nx、nyの色についても、最も左上の画素の座標を0,0、最も右下の画素の座標をW-1,H-1として、式3を用いて判別する。そして、画素間距離算出部205は、判別した着目画素x,yの色が参照画素nx,nyの色と同色であるかを判断する。つまり、画素間距離算出部205は、第2の画素配列としてベイヤー配列を用いて色判断処理を実行する。図5に戻って、画素間距離算出部205が、基準画像の着目画素と同色であると判断された非基準画像[i]の参照画素をpix[i]として、ステップS505で算出したd[i]と共に、メモリ部202に保存するステップS507。そして、処理がステップS510に進む。ステップS508においては、評価値算出部206が、拡大基準画像の着目画素の色と、該着目画像の色と同色でないと判断された非基準画像[i]の参照画素の色と、ステップS505で算出した距離d[i]に応じて、評価値e[i]を算出する。評価値e[i]は、非基準画像[i]の参照画素近傍画素に対する、第2の参照画素として選択する基準となる基準値である。評価値が高い参照画素ほど、第2の参照画素として選択され易くなる。また、評価値は、参照座標との距離dが近いほど高くなる。図9は、評価値e[i]の算出を説明する図である。評価値算出部206は、図9A、B、またはCに示すグラフに従って、距離d[i]に応じた評価値e[i]を算出する。図9中に示すグラフの横軸は距離d[i]であり、縦軸は評価値e[i]である。グラフ中のR,G,Bは、それぞれのグラフ線に対応する非基準画像[i]の参照画素の色である。図9Aは、基準画像の着目画素がRの場合のグラフであり、このグラフ中のGは、非基準画像の参照画像がGである場合の、距離d[i]と評価値e[i]との関係を示す。このグラフ中のBは、非基準画像の参照画像がBである場合の、距離d[i]と評価値e[i]との関係を示す。図9Bは、基準画像の着目画素がGの場合のグラフであり、このグラフ中のR,Bは、非基準画像の参照画像がRまたはBである場合の、距離d[i]と評価値e[i]との関係を示す。図9Cは、基準画像の着目画素がBの場合のグラフであり、このグラフ中のGは、非基準画像の参照画像がGである場合の、距離d[i]と評価値e[i]との関係を示す。このグラフ中のRは、非基準画像の参照画像がRである場合の、距離d[i]と評価値e[i]との関係を示す。本実施例では、保存用画像の欠落画素を、輝度系信号の寄与する割合の大きいGの非欠落画素と多く置き換えることができるようにするために、参照画素がGの場合は、R、Bの時よりも評価値[i]が大きくなるように、予めグラフを設定する。例えば、図9A、Cに示すグラフのように、非基準画像[i]の参照画素の色がRまたはBの時よりもGの方が評価値e[i]の値が大きくなるようにグラフを設定する。図5に戻って、評価値算出部206が、非基準画像[i]の参照画素の色をcolor_id[i]、画素値をsub_pix[i]として、ステップS508で算出した評価値e[i]と共にメモリ部202に保存するステップS509。color_id[i]は、0から2までの値が代入される。color_id[i]の値0は、G成分を示す。color_id[i]の値1は、R成分を示す。color_id[i]の値2は、B成分を示す。次に、評価値算出部206が、n-1枚全ての非基準画像について処理を完了したかを判断するステップS508。処理を完了していない非基準画像がある場合、評価値算出部206が、iをインクリメントしてステップS509、ステップS502に戻る。全ての非基準画像について処理を完了している場合は、ステップS512に進む。次に、評価値算出部206が、メモリ部202に保存した評価値e[i]の中で最大の値である評価値e[i]の値をe_maxとして選択するステップS512。メモリ部202に保存した評価値e[i]が1つもない場合、評価値算出部206が、e_maxに、設定可能な最小値例えば0を代入する。次に、評価値算出部206が、ステップS512で選択されたe_maxe[i]に対応する参照画素sub_pix[i]を非欠落画素の候補sub_pixとして選択するステップS513。メモリ部202に保存したe[i]が1つもない場合、評価値算出部206は、sub_pixの値に0を代入する。次に、評価値算出部206が、ステップS512で選択されたe_maxに対応する参照画素の色color_id[i]を非欠落画素の候補sub_pixの色を示すcolor_idとして選択するステップS514。メモリ部202に保存したe[i]が1つもない場合、評価値算出部206は、color_idの値に0を代入する。次に、評価値算出部206が、メモリ部202に保存した距離d[i]の中で最小の値である距離d[i]の値を、d_minとして選択するステップS515。メモリ部202に保存した距離d[i]が1つもない場合、評価値算出部206が、d_minに、設定可能な最大値例えば、1を代入する。次に、評価値算出部206が、ステップS515で選択された距離d_minに対応する参照画素pix[i]を非欠落画素の候補pixとして選択するステップS516。メモリ部202に保存した距離d[i]が1つもない場合、評価値算出部206は、pixの値に0を代入する。続いて、評価値算出部206が、e_max、sub_pix、color_id、d_min、pixを出力するステップS517。図3に戻って、画素挿入部208が、画素挿入処理を実行するステップS307。具体的には、画素挿入部208が、拡大基準画像の第1の欠落画素の値を、第1の参照画像であるpixの値に置き換える処理を行う。また、画素挿入部208が、保存用画像の第2の欠落画素の値を、第2の参照画像であるsub_pixの値に置き換える処理を行う。図8は、画素挿入処理の一例を説明するフローチャートを示す図である。まず、画素挿入部208が、基準画像の着目画素が欠落画素であるかを判断するステップS801。基準画像の着目画素が欠落画素である場合は、ステップS802に進む。基準画像の着目画素が欠落画素でない場合は、ステップS804に進む。ステップS802において、画素挿入部208が、d_minの値が閾値TH_d未満であるかを判断するステップS802。閾値TH_dは、予め決められる。閾値TH_dとして、経験則または実験によって求めた値を用いてもよい。ステップS803において、画素挿入部208が、基準画像の着目画素を非欠落画素の候補pixと置き換える。ステップS804においては、画素挿入部208は、基準画像の着目画素を非欠落画素の候補pixと置き換えない。そして、処理がステップS805に進む。ステップS805乃至S808の処理は、保存用画像の着目画素に対して行う処理である。処理対象となる保存用画像の着目画素の位置は、ステップS801乃至S804において処理対象となった基準画像の着目画素の位置と同じである。まず、画素挿入部208が、保存用画像の着目画素が欠落画素であるかを判断するステップS805。保存用画像の着目画素が欠落画素である場合は、ステップS806に進む。保存用画像の着目画素が欠落画素でない場合は、ステップS808に進む。ステップS806において、画素挿入部208が、e_maxの値が閾値TH_e以上であるかを判断するステップS806。閾値TH_dは、予め決められる。閾値TH_dとして、経験則または実験によって求めた値を用いてもよい。e_maxの値が閾値TH_e以上である場合は、ステップS807に進む。e_maxの値が閾値TH_e未満である場合は、ステップS808に進む。ステップS807において、画素挿入部208が、保存用画像の着目画素を非欠落画素の候補sub_pixと置き換えるステップS807。また、ステップS808において、画素挿入部208が、保存用画像の着目画素を非欠落画素の候補pixと置き換えない。そして、処理が終了する。図3に戻って、画素挿入部208が、基準画像と保存用画像における全ての画素を処理したかを判断するステップS308。基準画像と保存用画像における全ての画素を処理した場合は、ステップS309に進む。基準画像と保存用画像において未処理の画素がある場合は、着目画素を変更して、ステップS306に戻る。次に、RGB同時化部209が、画素挿入処理後の拡大基準画像と保存用画像とに基づいて、R,G,B同時化処理色同時化処理を実行するステップS309。図10は、R,G,B同時化処理の例を説明する図である。図10Aは、画素挿入処理後の拡大基準画像である。この例では、当該拡大基準画像は、水平画素数W×2、垂直画素数H×2のベイヤー配列の画像である。図10Bは、画素挿入処理後の保存用画像である。RGB同時化部209は、図10Aに示す拡大基準画像と、図10Bに示す保存用画像を用いて、R,G,B同時化処理を行って、図10C乃至Eに示す画像を得る。具体的には、RGB同時化部209は、水平画素数W×2、垂直画素数H×2の画像をR,G,B毎に作成する。R,G,B同時化処理を行う際には、水平画素数W×2、垂直画素数H×2のプレーンの画素に、拡大基準画像、保存用画像それぞれの非欠落画素を設定していく。設定対象の画素について、拡大基準画像にも保存用画像にも同色の非欠落画素が存在しない場合には、RGB同時化部209は当該画素の画素値を、画素周辺にある非欠落画素を線形補間した値によって作成する。本実施例では線形補間を使用するが、RGB同時化部209が、適応補間によって同時化処理を行うようにしてもよい。図3に戻って、YUV変換部210が、R,G,B同時化処理後の画像に基づいて、YUV画像を生成するステップS310。ステップS310においては、YUV変換部210は、R,G,B同時化処理によって得られるR,G,Bの画像を用いて、画素毎にRGB信号からYUV信号への変換を行う。これにより、水平画素数W×2、垂直画素数H×2のYUV画像が作成される。YUV変換部210は、下記の式4を用いて、RGB信号からYUV信号に変換する。Y=0.299R0.587G0.114BU=-0.169R-0.331G0.500BV=0.500R-0.419G-0.081B式4YUV変換部210は、ステップS310で生成したYUV画像を出力信号として超解像処理を終了とする。本実施例の画像処理装置は、ベイヤー配列の低解像度画像を複数枚用いて、水平、垂直方向それぞれ3倍に画素数を拡大したベイヤー配列の高解像度画像を生成し、高解像度化を実現する超解像処理を行うことができる。すなわち、本実施例の画像処理装置は、1枚の拡大基準画像をメモリ部202に記憶させておき、この拡大基準画像の欠落画素を、ベイヤー配列を有する非基準画像を用いて、当該拡大基準画像においてベイヤー配列が維持されるように埋めていく。従って、本実施例の画像処理装置によれば、出力と同じ解像度を有する画像を色成分毎に作成する従来の複数枚超解像の方法よりも、メモリの使用量を削減し、少ない枚数の低解像度画像で高解像化を行うことができる。また、本実施例の画像処理装置は、拡大基準画像が有する基準画像の画素のうち、基準画像が有する画素配列ベイヤー配列と同じ画素配列上に配置されていない画素を非欠落画素として有する保存用画像を、拡大基準画像とは別に生成して保存する。画像処理装置は、拡大基準画像の着目画素の色が非基準画像の参照画素の色と同色でない場合に、所定の評価値に基づいて挿入対象の参照画素を決定し、決定した参照画素を保存用画像の着目画素に挿入する。そして、画像処理装置は、画素挿入処理後の拡大基準画像と保存用画像とに基づいてR,G,B同時化処理を実行する。このように、本実施例の画像処理装置は、拡大基準画像と、基準画像の画素を非欠落画素として有する保存用画像とを用いてR,G,B同時化処理を実行するので、拡大基準画像のみを用いてR,G,B同時化処理を実行する場合よりも高解像度化を実現できる。なお、本実施例の画像処理方法は、基準画像の拡大率を2倍にする場合のみならず、3倍、4倍に水平垂直方向に基準画像を拡大する場合に適用することができる。実施例2実施例2の画像処理装置は、画像処理部104に入力される低解像度画像の枚数に応じて、基準画像の拡大方法を変更する。実施例2の画像処理装置の構成は、実施例1の画像処理装置の構成と同様である。また、実施例2の画像処理部の構成は、実施例1の画像処理部の構成と同様である。図11は、実施例2の画像処理を説明するフローチャートである。ステップS1101乃至S1104は、図3のステップS301乃至S304と同様である。ステップS1104において、画像生成部204が、ステップS1101で入力された低解像度画像の枚数が閾値TH1未満であるかを判断するステップS1105。閾値TH1は、予め決められる。閾値TH1として、経験則または実験によって求めた値を用いてもよい。ステップS1101で入力された低解像度画像の枚数が閾値TH1未満である場合は、ステップS1107に進む。ステップS1101で入力された低解像度画像の枚数が閾値TH1未満でない場合は、画像生成部204が、ステップS1101で入力された低解像度画像の枚数が閾値TH2未満であるかを判断するステップS1106。閾値TH2は、閾値TH1より大きい値であって、予め決められる。閾値TH2として、経験則または実験によって求めた値を用いてもよい。ステップS1101で入力された低解像度画像の枚数が閾値TH2未満である場合は、ステップS1108に進む。ステップS1101で入力された低解像度画像の枚数が閾値TH2未満でない場合は、ステップS1109に進む。ステップS1107において、画像生成部204が、基準画像について、第1の拡大方法を用いた拡大処理を実行する。第1の拡大方法を用いた拡大処理は、基準画像が有するベイヤー配列が維持されるように該基準画像を予め決められた拡大倍率で拡大して第1の拡大基準画像を生成する処理である。図12は、基準画像の拡大処理を説明する図である。図12Aは、拡大前の基準画像である。画像生成部204が第1の拡大方法を用いた拡大処理を実行する場合、画像生成部204は、図12Bに示すように、基準画像が有するベイヤー配列が維持されるように、基準画像を2倍に拡大する。これにより、1プレーンの第1の拡大基準画像が生成される。図12B中のハッチングが施されていない画素が非欠落画素である。ステップS1108において、画像生成部204が、基準画像について、第2の拡大方法を用いた拡大処理を実行する。第2の拡大方法を用いた拡大処理を行う場合、画像生成部204は、基準画像をG成分の画像とRB成分の画像に分離する。画像生成部204は、G成分の画像を水平方向垂直方向共に2倍に拡大して第2の拡大基準画像を生成する。また、画像生成部204は、基準画像のRB成分の画像をR成分とB成分とが市松状に配置されるように水平方向垂直方向共に2倍に拡大することによって、第3の拡大基準画像を生成する。図12C、Dは、第2の拡大方法を用いて生成される2プレーンの拡大基準画像を示す。図12Cは、第2の拡大基準画像である。第2の拡大基準画像は、G成分のみの画素が配置される画素配列を有する。図12Dは、第3の拡大基準画像である。第3の拡大基準画像は、R成分とB成分とが市松状に配置される画素配列を有する。図12Cに示すように、第2の拡大基準画像は、図12Bに示す第1の拡大基準画像よりも、G成分の非欠落画素の数が多い。従って、第2の拡大基準画像に基づいて生成されるG成分の高解像度画像は、図12Bに示す第1の拡大基準画像に基づいて生成されるG成分の高解像度画像よりも、解像度が高くなる。ステップS1109において、画像生成部204が、基準画像について、第3の拡大方法を用いた拡大処理を実行する。第3の拡大方法を用いた拡大処理を行う場合、画像生成部204は、基準画像を色成分毎に分離した画像を作成する。そして、画像生成部204は、作成した各々の画像を水平方向垂直方向共に所定の拡大倍率で拡大することによって、第4、5、および6の拡大基準画像を生成する。具体的には、画像生成部204は、G成分の画像を2倍に拡大することによって、第4の拡大基準画像を生成する。画像生成部204は、R成分の画像を2倍に拡大することによって、第5の拡大基準画像を生成する。また、画像生成部204は、B成分の画像を2倍に拡大することによって、第6の拡大基準画像を生成する。図12E乃至Gは、第3の拡大方法を用いて生成される3プレーンの拡大基準画像を示す。図12Eは、第4の拡大基準画像である。第4の拡大基準画像は、G成分のみの画素が配置される画素配列を有する。第5の拡大基準画像は、R成分のみの画素が配置される画素配列を有する。第6の拡大基準画像は、B成分のみの画素が配置される画素配列を有する。図11のステップS1110以降の処理は、図3のステップS306以降の処理と同様である。なお、ステップS1110の挿入画素選択処理において行われる色判断処理は、以下のようにして実行される。画素間距離算出部205は、第1の拡大基準画像については、第2の画素配列としてベイヤー配列を用いて色判断処理を実行する。画素間距離算出部205は、第2の拡大基準画像については、第2の画素配列としてG成分のみの画素が配置される配列を用いて色判断処理を実行する。すなわち、第2の拡大基準画像の着目画素の色を全てGとした上で、参照画素の色と比較する。画素間距離算出部205は、第3の拡大基準画像については、第2の画素配列としてR成分とB成分とが市松状に配置される画素配列を用いて色判断処理を実行する。すなわち、画素間距離算出部205は、第3の拡大基準画像の着目画素の色を、当該R成分とB成分とが市松状に配置される画素配列に応じて決まる色に決定した上で、参照画素の色と比較する。画素間距離算出部205は、第4の拡大基準画像については、第2の画素配列としてG成分のみの画素が配置される配列を用いて色判断処理を実行する。すなわち、第2の拡大基準画像の着目画素の色を全てGとした上で、参照画素の色と比較する。画素間距離算出部205は、第5の拡大基準画像については、第2の画素配列としてR成分のみの画素が配置される配列を用いて色判断処理を実行する。すなわち、第2の拡大基準画像の着目画素の色を全てRとした上で、参照画素の色と比較する。画素間距離算出部205は、第6の拡大基準画像については、第2の画素配列としてB成分のみの画素が配置される配列を用いて色判断処理を実行する。すなわち、第2の拡大基準画像の着目画素の色を全てBとした上で、参照画素の色と比較する。第3の拡大方法を用いた拡大処理結果に基づく色判断処理を実行することによって、以下の効果が得られる。参照画素の色は、3プレーンの拡大基準画像のそれぞれにおける同じ位置の着目画素のいずれかと同色となる。従って、当該着目画素が欠落画素である場合には、3プレーンの拡大基準画像のうちのいずれかのプレーンの当該着目画素に参照画素が挿入される。これにより、効率的に拡大基準画像の欠落画素を埋めていくことができる。さらに、低解像度画像の枚数が多いほど、参照画素の提供元である非基準画像の数が多くなるので、拡大基準画像を3プレーンとしても、欠落画素が埋まりやすくなる。その結果、後に実行されるR,G,B同時化処理において、RGB同時化部209の処理負荷を減らすことができる。本実施例の画像処理装置によれば、入力される低解像度画像の枚数に応じて、メモリの使用量を抑えるか、G成分の解像度を高くするか、R,G,B同時化処理の負荷を減らすかのいずれかを実現することができる。その他の実施例また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェアプログラムを、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータまたはCPUやMPU等がプログラムを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。"