"同一被写体を撮影して得られた複数枚のカラーフィルタアレイ画像を合成する画像処理装置であって、前記複数枚のカラーフィルタアレイ画像中、一枚の画像を基準画像とし、前記一枚の画像と異なる画像を参照画像として、前記基準画像に対する前記参照画像の位置ずれ量を算出する位置ずれ量算出部と、前記位置ずれ量算出部で算出された前記位置ずれ量に基づき、前記基準画像および前記参照画像の、対応しあう画素位置の画素である基準画像画素および参照画像画素の画素値をもとに合成処理をして合成カラーフィルタアレイ画像を生成する合成処理部であって、前記対応しあう画素の色が前記基準画像画素と前記参照画像画素とで異なる場合、前記基準画像画素の色と同じ色の画素値を前記参照画像から補間処理によって生成し、前記補間処理によって生成した画素値と前記基準画像画素の画素値とをもとに合成処理をする合成処理部とを備えることを特徴とする画像処理装置。前記複数枚のカラーフィルタアレイ画像は、n枚n:3以上の整数のカラーフィルタアレイ画像を含み、前記合成処理部は、二枚のカラーフィルタアレイ画像から一枚の合成カラーフィルタアレイ画像を生成する合成処理をn-1回にわたって繰り返し行い、2回目以降の合成処理においては、一つ前に行われた合成処理で生成された合成カラーフィルタアレイ画像を前記基準画像とすることを特徴とする請求項1に記載の画像処理装置。前記カラーフィルタアレイ画像は、縦方向にr画素、横方向にc画素r、cは共に任意の正の整数から構成される画素色配列単位を有するカラーフィルタアレイを備える撮像素子から出力されたものであり、前記位置ずれ量算出部は、前記位置ずれ量として縦方向の位置ずれ画素数と横方向の位置ずれ画素数とを算出し、前記合成処理部は、前記補間処理によって画素値を生成する際に、前記縦方向の位置ずれ画素数をrで除したときの剰余と、前記横方向の位置ずれ画素数をcで除したときの剰余との組み合わせに基づいて決定される補間方法を用いることを特徴とする請求項1または2に記載の画像処理装置。前記合成カラーフィルタアレイ画像に対してデモザイク処理をし、フルカラー化画像を生成するデモザイク処理部をさらに備えることを特徴とする請求項1から3のいずれか一つに記載の画像処理装置。同一被写体を撮影して得られた複数枚のカラーフィルタアレイ画像を合成する画像処理方法であって、前記複数枚のカラーフィルタアレイ画像中、一枚の画像を基準画像とし、前記一枚の画像と異なる画像を参照画像として、前記基準画像に対する前記参照画像の位置ずれ量を算出する位置ずれ算出手順と、前記位置ずれ算出手順で算出された前記位置ずれ量に基づき、前記基準画像および前記参照画像の、対応しあう画素位置の画素である基準画像画素および参照画像画素の画素値をもとに合成する処理をして合成カラーフィルタアレイ画像を生成する合成処理手順であって、前記対応しあう画素の色が前記基準画像画素と前記参照画像画素とで異なる場合、前記基準画像画素の色と同じ色の画素値を前記参照画像から補間処理によって生成し、前記補間処理によって生成した画素値と前記基準画像画素の画素値とをもとに合成する合成処理手順とを有することを特徴とする画像処理方法。同一被写体を撮影して得られた複数枚のカラーフィルタアレイ画像を合成する画像処理プログラムであって、前記複数枚のカラーフィルタアレイ画像中、一枚の画像を基準画像とし、前記一枚の画像と異なる画像を参照画像として、前記基準画像に対する前記参照画像の位置ずれ量を算出する位置ずれ量算処理と、前記位置ずれ量算出処理で算出された前記位置ずれ量に基づき、前記基準画像および前記参照画像の、対応しあう画素位置の画素である基準画像画素および参照画像画素の画素値をもとに合成する処理をして合成カラーフィルタアレイ画像を生成する合成処理であって、前記対応しあう画素の色が前記基準画像画素と前記参照画像画素とで異なる場合、前記基準画像画素の色と同じ色の画素値を前記参照画像から補間処理によって生成し、前記補間処理によって生成した画素値と前記基準画像画素の画素値とをもとに合成する合成処理とをコンピュータに実行させるための画像処理プログラム。画像合成処理に際しての処理負荷は、できるだけ減じられるようにすることが、処理のレスポンスを向上させたり、要求されるハードウェアスペックの高度化を抑制したりする上で望ましい。特許文献1に開示される技術では、各画素でRGB各色の情報が得られるので、1画素の精度で位置合わせをすることができる反面、処理すべき情報量が増加するので、処理負荷が増す。特許文献2に開示される技術では、デモザイク処理前の画像間で位置ずれが検出されて画像の合成が行われるので、処理すべき情報量の低減が期待できる。しかし、特許文献2に開示される技術では、二つの画像間の位置ずれ量を検出する際に、縦横2画素×2画素の4画素を配列単位とするベイヤー配列の複数のカラーフィルタアレイ画像間において同一の色配置を有する画素ユニット同士で比較する。そして、複数の画像における同一の色成分の画素間で位置ずれを求めることによって、複数の画像の相互間における位置ずれを検出する。そのため、位置ずれの検出精度最小単位は縦方向、横方向共に2画素となってしまう。結果として、画像を合成する処理をする際の合成精度も2画素の最小単位となってしまう。色再現性の向上を目的としてオンチップカラーフィルタの色数を増した場合、カラーフィルタアレイの配列単位はさらに大きくなり、それに伴って位置ずれ検出精度、合成精度はさらに低下する。本発明は、上記の課題に鑑みてなされたものであり、画像の合成処理に際してデモザイク画像の生成を不要としながら、複数枚のカラーフィルタアレイ画像間で位置合わせをして合成する際の精度を高めることを可能とする技術を提供することを目的とする。本発明のある態様によれば、同一被写体を撮影して得られた複数枚のカラーフィルタアレイ画像を合成する画像処理装置が、前記複数枚のカラーフィルタアレイ画像中、一枚の画像を基準画像とし、前記一枚の画像と異なる画像を参照画像として、前記基準画像に対する前記参照画像の位置ずれ量を算出する位置ずれ量算出部と、前記位置ずれ量算出部で算出された前記位置ずれ量に基づき、前記基準画像および前記参照画像の、対応しあう画素位置の画素である基準画像画素および参照画像画素の画素値をもとに合成処理をして合成カラーフィルタアレイ画像を生成する合成処理部であって、前記対応しあう画素の色が前記基準画像画素と前記参照画像画素とで異なる場合、前記基準画像画素の色と同じ色の画素値を前記参照画像から補間処理によって生成し、前記補間処理によって生成した画素値と前記基準画像画素の画素値とをもとに合成処理をする合成処理部とを備える。本発明のある態様によれば、同一被写体を撮影して得られた複数枚のカラーフィルタアレイ画像を合成する画像処理方法が、前記複数枚のカラーフィルタアレイ画像中、一枚の画像を基準画像とし、前記一枚の画像と異なる画像を参照画像として、前記基準画像に対する前記参照画像の位置ずれ量を算出する位置ずれ算出手順と、前記位置ずれ算出手順で算出された前記位置ずれ量に基づき、前記基準画像および前記参照画像の、対応しあう画素位置の画素である基準画像画素および参照画像画素の画素値をもとに合成する処理をして合成カラーフィルタアレイ画像を生成する合成処理手順であって、前記対応しあう画素の色が前記基準画像画素と前記参照画像画素とで異なる場合、前記基準画像画素の色と同じ色の画素値を前記参照画像から補間処理によって生成し、前記補間処理によって生成した画素値と前記基準画像画素の画素値とをもとに合成する合成処理手順とを有する。本発明のある態様によれば、同一被写体を撮影して得られた複数枚のカラーフィルタアレイ画像を合成する処理をコンピュータに実行させる画像処理プログラムが、前記複数枚のカラーフィルタアレイ画像中、一枚の画像を基準画像とし、前記一枚の画像と異なる画像を参照画像として、前記基準画像に対する前記参照画像の位置ずれ量を算出する位置ずれ量算処理と、前記位置ずれ量算出処理で算出された前記位置ずれ量に基づき、前記基準画像および前記参照画像の、対応しあう画素位置の画素である基準画像画素および参照画像画素の画素値をもとに合成する処理をして合成カラーフィルタアレイ画像を生成する合成処理であって、前記対応しあう画素の色が前記基準画像画素と前記参照画像画素とで異なる場合、前記基準画像画素の色と同じ色の画素値を前記参照画像から補間処理によって生成し、前記補間処理によって生成した画素値と前記基準画像画素の画素値とをもとに合成する合成処理とを備える。本発明によれば、複数のカラーフィルタアレイ画像を、デモザイク処理を経ずに合成することにより、画像合成に際しての処理負荷の低減が可能で、画像を合成する際の位置合わせ精度を高めることが可能となる。図1は、画像処理部の概略的構成を説明するブロック図である。画像処理部100は、カラーフィルタアレイ画像取得部以下、CFA画像取得部と称する102と、記憶部104と、位置ずれ量算出部106と、合成処理部108と、現像処理部112と、出力部114とを備える。CFA画像取得部102は、同一被写体を撮像して得られた複数枚のCFA画像を取得する。複数枚のCFA画像は、同一の被写体を比較的短い時間の中で時系列に撮像することにより得られる。あるいは、複数の撮像ユニットを用いて同一の被写体を略同時に撮像することにより得られる。複数のCFA画像が互いに異なる露光量で得られたものである場合、それらのCFA画像を合成することによって、いわゆるHDRHighDynamicRangeの画像を得ることが可能となる。また、低輝度下の撮影条件で、被写体の輝度や撮像素子の感度等によって決まる標準的な露光量よりも少なめの露光量短めの露光時間で得た複数枚のCFA画像を合成することにより、手ぶれ、被写体ぶれや、ノイズの減じられた画像を得ることが可能となる。記憶部104は、SDRAM等の、比較的高速のアクセス速度を有するメモリを備えて構成され、CFA画像取得部102で取得した複数枚のCFA画像を一時的に記憶する。記憶部104はまた、合成処理部108のワークエリアとしても用いられる。位置ずれ量算出部106は、複数枚のCFA画像中、一枚の画像を基準画像とし、この基準画像と異なるCFA画像を参照画像として、基準画像に対する参照画像の位置ずれ量を算出する。位置ずれ量の算出方法としては、様々な方法を利用可能である。基準画像と参照画像とで、画像全体を一つの領域として両者の比較を行い、位置ずれ量を算出することも可能であるが、以下ではブロックマッチングによって部分領域ごとに位置ずれ量を算出する例について説明する。図2は、ブロックマッチングに際して基準画像中で設定される部分領域の例を示している。図2では、縦方向列方向に6画素、横方向行方向に6画素の36画素からなる部分領域が設定される例が示されている。また、本実施の形態において、CFA画像はいわゆるベイヤーCFA画像であるものとする。ベイヤーCFA画像では、縦方向に2画素、横方向に2画素の4画素で一つの画素配列単位が形成される。CFA画像でブロックマッチングを行う際に、位置ずれ量算出部106は、基準画像中で選択された部分領域の画像をテンプレートとして、参照画像中を探索し、一致度が最大相違度が最小となる部分領域画像の位置を導出する。本例では、比較の対照となる基準画像および参照画像の両方の部分画像で、対応しあう画素位置にある画素値間の差の絶対値または差の二乗を各画素位置に対応して求め、それらの総和を相違度として扱うものとする。つまり、総和の値が最も小さくなったとき、一致度が最大相違度が最小となる。このとき、CFA画像は1画素に対して1色分の色情報しか有していないので、基準画像の部分領域と同じ画素色の配列パターンを有する部分領域の画像が参照画像から抽出されて比較される。すなわち、図2に示される例において、基準画像から選択された部分領域の画像の画素色の配列は、上から数えて奇数行にはR、G、R、G、...の色が、偶数行にはG、B、G、B、...の色が配列されたものとなっている。これに対応し、参照画像中で選択される部分領域の画素色の配列も、上記と同じものとする。そのようにしないと、被写体上のある一点における明るさおよび色を、どの色の画素で検出するかによって画素値は異なり、比較する二つの画像間で正しい相関が取れなくなる場合があるからである。結果として、ブロックマッチングで検出される位置ずれ量の精度最小単位はCFA画像の画素色の配列単位に依存する。本例では縦方向に2画素、横方向に2画素からなる画素色の配列単位となっており、したがって画像の縦方向列方向、横方向行方向の双方に2画素の精度で位置ずれ量が検出される。一般化した表現を用いて説明すると、CFA画像の画素色の配列単位が、縦方向にr画素、横方向にc画素r、cは共に任意の正の整数である場合、検出される位置ずれ量の最小単位は、縦方向にr画素、横方向にc画素となる。つまり、CFA画像の画素色の配列単位が大きくなる色数が増すほど、検出される位置ずれ量の最小単位が増加する。CFA画像の画素色配列単位縦r画素、横c画素よりも細かい精度で位置ずれ量を求めるため、位置ずれ量算出部106はサブピクセル位置推定を行う。サブピクセル位置推定の手法としては、等角直線フィッティング、パラボラフィッティング等がある。図3に、パラボラフィッティングを用いたサブピクセル推定の例を示す。図3において、横軸には位置ずれ量単位:画素、縦軸には相違度をとり、参照画像中における部分領域の位置をずらしながら算出して得た相違度がプロットされている。ここで、画像を左右にずらしながら相違度を求める例について説明すると、基準画像および参照画像双方の部分領域画像を、位置をずらさない状態で重ねたときの位置ずれ量を0[画素]とする。その状態から、基準画像は固定したまま、参照画像の部分領域画像を左方向に2画素分ずらしたとき、位置ずれ量を-2[画素]とする。逆に、参照画像を右方向に2画素分ずらしたとき、位置ずれ量を2[画素]とする。上記のように位置をずらしながら、基準画像および参照画像の同じ画素位置にある画素間で画素値の差を各画素位置に対応して求め、それらの差の絶対値の総和、あるいは二乗和各画素位置に対応して求めた差を二乗したものの総和を求める。相違度は、これら絶対値の総和または二乗和の大きさに対応した値となる。はじめに、このようにして求められた相違度のうち、最小相違度の位置ずれ量相違度が最も小さい値を示す位置ずれ量を求める。図3の例においては、最小相違度の位置ずれ量は2画素である。次に、その最小相違度の位置ずれ量の相違度と、その左右の位置ずれ量の相違度の3つの相違度を通る放物線の式を求める。その式から放物線の頂点を求め、その頂点の座標を、サブピクセル推定された、相違度が最小となるときの位置ずれ量として求めることが出来る。本例では1画素の単位分解能で位置ずれ量を求めれば良いので、サブピクセル位置推定によって得られた位置ずれ量を、四捨五入等によって整数にする。位置ずれ量算出部106による上述した位置ずれの算出は、画像の上下方向および左右方向のそれぞれで行われる。このようにして、CFA画像の画素色の配列単位を構成する縦、横の画素数ベイヤーCFA画像では縦、横、各2画素によらず、1画素の分解能で位置ずれ量が算出される。位置ずれ量算出部106で算出された、縦方向、横方向の位置ずれ量に関する情報位置ずれ量情報は、合成処理部108に出力される。合成処理部108は、この位置ずれ量情報に基づき、基準画像と参照画像とを合成して合成画像を生成する処理を行う。図4は、基準画像中で設定された部分領域の画像PRI1と、位置ずれ量算出部106で算出された位置ずれ量に基づいて参照画像中で特定された部分領域の画像PRI2との、画素色の配列関係を示す図である。以下では、基準画像中で設定された部分領域の画像を部分領域画像PRI1と称し、参照画像中で特定された部分領域の画像を部分領域画像PRI2と称する。ここで、位置ずれ量算出部106で算出された横方向の位置ずれ量をdx、縦方向の位置ずれ量をdyとする。合成処理に際して基準画像中で設定される部分領域は、位置ずれ量算出部106で位置ずれ量を算出する際に設定された部分領域と同一であっても異なっていてもよい。本例では、位置ずれ量算出部106において基準画像中で設定された部分領域の画像と部分領域画像PRI1とは同一であるものとする。位置ずれ量算出部106で、先に説明したように1画素の分解能で位置ずれ量dx、dyが求められた結果、これらの位置ずれ量dx、dyの値としては、0を含む正負の整数となり得る。部分領域画像PRI1と、部分領域画像PRI2とを画素単位で比較したとき、位置ずれ量dx、dyの値によっては画素色が同じとなる場合と異なる場合とがある。本例では、CFA画像が縦横2画素ずつで構成される配列単位となっている。したがって、位置ずれ量dx、dyの組み合わせが偶数0は偶数であるものとすると奇数とのいずれかの組み合わせ、すなわちdx、dyの組み合わせが、偶数、偶数、偶数、奇数、奇数、偶数、および奇数、奇数の4通り組み合わせのうち、いずれであるかに応じて、部分領域画像PRI1、PRI2の対応し合う画素位置の画素色の異同が生じる。上記に関して一般化した表現を用いて説明する。CFA画像の画素色の配列単位が、縦方向にr画素、横方向にc画素r、cは共に任意の正の整数から構成されるものとする。横方向の位置ずれ量位置ずれ画素数dx整数値をcで除したときの剰余と、縦方向の位置ずれ量位置ずれ画素数dy整数値をrで除したときの剰余との組み合わせに応じて部分領域画像PRI1、PRI2の対応し合う画素位置の画素色の異同が生じる。例えば、CFA画像の画素色の配列単位が、縦方向および横方向に2画素から構成される場合、縦方向、横方向のそれぞれに対応して求められる剰余は0、1の2通りとなる。したがって、縦方向、横方向に対応する剰余の組み合わせに応じて、4通りのパターンを生じる。また、CFA画像の画素色の配列単位が、縦方向および横方向に3画素から構成される場合、縦方向、横方向のそれぞれに対応して求められる剰余は0、1、2の3通りとなる。したがって、縦方向、横方向に対応する剰余の組み合わせに応じて、9通りのパターンを生じる。図4には、本実施の形態において、部分領域画像PRI2の画素色の配列として生じうる四つのパターンがパターン1、パターン2、パターン3、およびパターン4として示される。なお、基準画像中部分領域画像PRI1のパターンはパターン1であるものとする。パターン1は、位置ずれ量dx、dyが共に偶数dxをcで、dyをrで除したときの剰余が共に0である場合に対応し、部分領域画像PRI1の画像と部分領域画像PRI2とで、対応する画素位置の画素色は同じとなっている。パターン2は、位置ずれ量dxが奇数、dyが偶数dxをcで除したときの剰余が1、dyをrで除したときの剰余が0である場合に対応し、パターン1の配列を基準として横方向に1画素分、画素色の配列がずれたパターンとなっている。部分領域画像PIR2の画素色の配列がパターン2となっている場合、部分領域画像PRI1と部分領域画像PRI2とで、対応する画素位置の画素色は全て異なる。パターン3は、位置ずれ量dxが偶数、dyが奇数dxをcで除したときの剰余が0、dyをrで除したときの剰余が1である場合に対応し、パターン1の配列を基準として縦方向に1画素分、画素色の配列がずれたパターンとなっている。部分領域画像PIR2の画素色の配列がパターン3となっている場合、部分領域画像PRI1と部分領域画像PRI2とで、対応する画素位置の画素色は全て異なる。パターン4は、位置ずれ量dx、dyが共に奇数dxをcで、dyをrで除したときの剰余が共に1である場合に対応し、パターン1の配列を基準として縦、横の両方向に1画素分、画素色の配列がずれたパターンとなっている。部分領域画像PIR2の画素色の配列がパターン4となっている場合、部分領域画像PRI1と部分領域画像PRI2とで、G色の画素のみ、対応する画素位置の画素色が同じとなっている。部分領域画像PRI1およびPRI2を、対応する画素位置の画素同士で合成をする際に、画素色が同じ場合には問題なく合成ができる。しかし、画素色が異なる場合には、異なる色の画素値を単純に合成しただけでは適切な合成結果を得ることができない。適切な合成結果を得られるようにするため、合成処理部108内の補間処理部110は以下に説明する補間処理を行う。この補間処理によって、部分領域画像PRI1の画素色の配列と同じ配列を有する画像補間画像が、部分領域画像PRI2をもとに生成される。図5A、図5Bは、基準画像中で設定された部分領域画像PRI1と、参照画像中の部分領域画像PRI2とで、これらの部分領域画像を構成する画素の画素色配列パターンの違いがある場合に、その違いに応じた補間処理が行われて補間画像が生成される様子を説明する図である。図5A、図5Bのa、d、hは、基準画像中の部分領域画像PRI1を構成する画素の画素色配列パターン例を示す。a、d、hに例示されるパターンはいずれも同じものであり、ここでは図4を参照して先に説明したパターン1であるものとする。a、d、hにおいて、R、G、B各色の画素には、色を示すR、G、またはBのアルファベットと、それに続く数字を付して各画素を区別する。b、e、iは、参照画像中の部分領域画像PRI2を構成する画素の画素色配列パターンを示す。b、e、iに示されるパターンは、パターン1と異なるものとなっており、図4を参照して先に説明したパターン2、パターン3、パターン4を有するものとして示される。b、e、iにおいて、R、G、B各色の画素には、色を示すr、g、またはbのアルファベットと、それに続く数字を付して区別をする。c、f、jは、b、e、iに示される画素色配列パターン2、3、4の部分領域画像PRI2に対し、補間処理部110で以下に説明する補間処理が行われて、パターン1の画素色配列パターンを有する補間画像が生成される様子を示している。c、f、jにおいて、R、G、B各色の画素には、色を示すrr、gg、またはbbのアルファベットと、それに続く数字を付して区別をする。図5Aのa、b、cを参照し、パターン2の画素色配列パターンを有する部分領域画像PRI2から補間画像が生成される例を説明する。図5Aのbに例示される、パターン2の画素色配列パターンを有する部分領域画像PRI2に対して補間処理が行われる場合、例えばG色の画素g1の画素位置に対応して、補間画像中のR色の画素rr1の画素値が生成される。同様に、R色の画素r1の画素位置に対応して、補間画像中のG色の画素gg1の画素値が生成される。以下、パターン2の画素色配列パターンに対応する補間処理の具体例について説明する。ここでは、ベイヤー配列に従う画素色配列パターンの、一組の画素色配列単位を構成する画素rr5、gg8、gg11、bb5それぞれの画素値を補間処理によって生成する場合を例に説明する。以下に説明する補間処理を、参照画像中の他の配列単位にも繰り返し行うことにより、補間画像を生成することができる。以下では、補間処理部110で行われる処理の例として、2種類の補間方法について説明する。以下ではこれらの補間方法を補間方法1、補間方法2と称して説明する。補間方法1は、比較的単純な線形補間を用いる方法で、処理を高速化することが可能となる。補間方法2は、補間対象となる画素の近傍に存在する複数の画素の相関の高さを参酌した、より高度な補間方法であり、画像の鮮鋭度低下を抑制可能となる。[パターン2補間方法1]図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第3行、左から第3列の位置にある画素rr5の画素値を線形補間により生成する例について説明する。図5Aのbに示される、参照画像中の部分領域画像PRI2において、第3行、第3列の位置にあるのは画素g8であり、この画素値をそのまま画素rr5の画素値とすることはできない。そこで、画素g8の左右両隣に位置するR色の画素r4、r5の画素値の平均値を画素rr5の画素値とする。すなわち、以下の式1-1aによって画素rr5の画素値を求める。rr52...式1-1a図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第3行、左から第4列の位置にある画素gg8の画素値を線形補間により生成する例について説明する。図5Aのbに示される、参照画像中の部分領域画像PRI2において、第3行、第4列の位置にあるのは画素r5であり、この画素値をそのまま画素gg8の画素値とすることはできない。そこで、画素r5の上下左右の両隣に位置するG色の画素g5、g11、g8、g9の画素値の平均値を画素gg8の画素値とする。すなわち、以下の式1-1bによって画素gg8の画素値を求める。gg84...式1-1b図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第4行、左から第3列の位置にある画素gg11の画素値を線形補間により生成する例について説明する。図5Aのbに示される、参照画像中の部分領域画像PRI2において、第4行、第3列の位置にあるのは画素b5であり、この画素値をそのまま画素gg11の画素値とすることはできない。そこで、画素gg11の上下左右の両隣に位置するG色の画素g8、g14、g10、g11の画素値の平均値を画素gg11の画素値とする。すなわち、以下の式1-1cによって画素gg11の画素値を求める。gg114...式1-1c図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第4行、左から第4列の位置にある画素bb5を線形補間により生成する例について説明する。図5Aのbに示される、参照画像中の部分領域画像PRI2において、第4行、第4列の位置にあるのは画素g11であり、この画素値をそのまま画素bb5の画素値とすることはできない。そこで、画素g11の左右両隣に位置するB色の画素b5、b6の画素値の平均値を画素bb5の画素値とする。すなわち、以下の式1-1dによって画素bb5の画素値を求める。bb52...式1-1d以上のように、補間方法1によれば、比較的単純な計算によって補間画像の各画素値を生成することが可能となる。[パターン2補間方法2]図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第3行、左から第3列の位置にある画素rr5の画素値を生成する例について説明する。本例では、図5Aのbに示される、参照画像中の部分領域画像PRI2における第3行、第3列の位置の画素g8、および画素g8の近傍に存在する画素の画素値が参照されて以下の式1-2aにより画素rr5の画素値を求める。rr5r44r542g8...式1-2a画素r4、画素r5は、画素g8の左右両隣に位置する画素である。画素g4、g10、g7、g8は、画素r4の上下左右に位置する画素であり、画素g5、g11、g8、g9は画素r5の上下左右に位置する画素である。つまり、上記の式の右辺における、r44は、画素r4の画素値つまり、R色の値と、画素r4の位置におけるG色の推定値画素g4、g7、g8、g10の平均値との差、すなわち画素r4の位置におけるR色とG色との色差R-G色差を求めている。同じく、r54は、画素r5の画素値つまり、R色の値と、画素r5の位置におけるG色の推定値画素g5、g8、g9、g11の平均値との差、すなわち画素r5の位置におけるR-G色差を求めている。画素r4、画素r5の位置それぞれにおけるR-G色差の平均値をとると、それは画素g8の位置におけるR-G色差の推定値として利用可能である。このR-G色差の平均値と画素g8の画素値とを加算することにより、画素g8の位置におけるR色の画素値をより正確に推定することが可能となる。図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第3行、左から第4列の位置にある画素gg8の画素値を、より高度な補間により生成する例について説明する。この場合、図5Aのbに示される、参照画像中の部分領域画像PRI2における第3行、第4列の位置にある画素r5および画素r5の上下左右に位置する画素の画素値が参照されて以下の式1-2bまたは式1-2cで画素gg8の画素値が求められる。g5g11<g8g9の場合、gg82λ...式1-2bg5g11≧g8g9の場合、gg82λ...式1-2cここで、条件式g5g11<g8g9に合致するということは、横方向の相関よりも縦方向の相関の方が高いことを意味する。縦方向の相関の方がより高い場合、式1-2bの右辺第1項の2によって、画素r5の上下方向の両隣に位置するG色画素である画素g5および画素g11の画素値の平均値が求められる。また、式1-2bの右辺第2項のにより、画素r5の位置を中心として縦方向に並ぶR色の画素r2、r5、r8が参照される。この項は、縦方向に並ぶR色の画素r2、r5、r8の画素値の変化に非線形性を有する場合、その非線形性を画素g5および画素g11の画素値の平均から求めた画素値に加味するためのものである。ここでλは、この項を加味する割合を示し、通常λ=025やλ=01などの値を固定値として利用する以下のλも同様。一方、条件式g5g11≧g8g9に合致するということは、縦方向の相関よりも横方向の相関の方が高いことを意味する縦、横両方向の相関が等しい場合も含む。横方向の相関の方がより高い場合、式1-2cの右辺第1項の2によって、画素r5の左右方向の両隣に位置するG色画素である画素g8および画素g9の画素値の平均が求められる。また、式1-2cの右辺第2項のにより、画素r5の位置を中心として横方向に並ぶR色の画素r4、r5、r6が参照される。この項は、横方向に並ぶR色の画素r4、r5、r6の画素値の変化に非線形性を有する場合、その非線形性を画素g8および画素g9の画素値の平均から求めた画素値に加味するためのものである。このように、G色の画素gg8の画素値を求める際に、周囲に存在する画素の画素値の縦方向および横方向の相関を比較して、相関がより高いと判定される方向に並ぶ隣接画素から線形補間によって画素値を求めることにより、より正確な画素値の推定を行うことが可能となる。このときに、異なる色成分の近傍画素を参照して、画素位置の変化に伴う画素値の変化に非線形成があるときにはその非線形性が加味されることにより、画素値の推定をより正確に推定することが可能となる。図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第4行、左から第3列の位置にある画素gg11の画素値を、より高度な補間により生成する例について説明する。この場合、図5Aのbに示される、参照画像中の部分領域画像PRI2における第4行、第3列の位置にある画素b5および画素b5の上下左右に位置する画素の画素値が参照されて以下の式1-2dまたは式1-2eで画素gg11の画素値が求められる。g8g14<g10g11の場合gg112λ...式1-2dg8g14≧g10g11の場合gg112λ...式1-2e上記の条件式g8g14<g10g11に合致するということは、横方向の相関よりも縦方向の相関の方が高いことを意味する。縦方向の相関の方がより高い場合、式1-2dの右辺第1項の2によって、画素b5の上下方向の両隣に位置するG色画素である画素g8および画素g14の画素値の平均値が求められる。また、式1-2dの右辺第2項のにより、画素b5の位置を中心として縦方向に並ぶB色の画素b2、b5、b8が参照される。この項は、縦方向に並ぶB色の画素b2、b5、b8の画素値の変化に非線形性を有する場合、その非線形性を画素g8および画素g14の画素値の平均から求めた画素値に加味するためのものである。一方、条件式g8g14≧g10g11に合致するということは、縦方向の相関よりも横方向の相関の方が高いことを意味する縦、横両方向の相関が等しい場合も含む。横方向の相関の方がより高い場合、式1-2eの右辺第1項の2によって、画素b5の左右方向の両隣に位置するG色画素である画素g10および画素g11の画素値の平均が求められる。また、式1-2eの右辺第2項のにより、画素b5の位置を中心として横方向に並ぶB色の画素b4、b5、b6が参照される。この項は、横方向に並ぶB色の画素b4、b5、b6の画素値の変化に非線形性を有する場合、その非線形性を画素g10および画素g11の画素値の平均から求めた画素値に加味するためのものである。このように、G色の画素gg11の画素値を求める際に、周囲に存在する画素の画素値の縦方向および横方向の相関を比較して、相関がより高いと判定される方向に並ぶ隣接画素から線形補間によって画素値を求めることにより、より正確な画素値の推定を行うことが可能となる。このときに、異なる色成分の近傍画素を参照して、画素位置の変化に伴う画素値の変化に非線形成があるときにはその非線形性が加味されることにより、画素値の推定をより正確に推定することが可能となる。図5Aのcにおいて、補間処理によって生成される部分領域画像中、上から第4行、左から第4列の位置にある画素bb5の画素値を、より高度な補間により生成する例について説明する。本例では、図5Aのbに示される、参照画像中の部分領域画像PRI2における第4行、第4列の位置の画素g11、および画素g11の周囲に存在する画素の画素値が参照されて以下の式1-2fにより画素bb5の画素値を求める。bb5b54b642g11...式1-2f画素b5、画素b6は、画素g11の左右両隣に位置する画素である。画素g8、g14、g10、g11は、画素b5の上下左右に位置する画素であり、画素g9、g15、g11、g12は画素b6の上下左右に位置する画素である。つまり、上記の式の右辺における、b54は、画素b5の画素値つまり、B色の値と、画素b5の位置におけるG色の推定値画素g8、g10、g11、g14の平均値との差、すなわち画素b5の位置におけるB-G色差を求めている。同じく、b64は、画素b6の画素値つまり、B色の値と、画素b6の位置におけるG色の推定値画素g9、g11、g12、g15の平均値との差、すなわち画素b6の位置におけるB-G色差を求めている。画素b5、画素b6の位置それぞれにおけるB-G色差の平均値をとると、それは画素g11の位置におけるB-G色差の推定値として利用可能である。この平均値と画素g11の画素値とを加算することにより、画素g11の位置におけるB色の画素値をより正確に推定することが可能となる。以上に説明した、補間方法1または補間方法2の補間処理により、図5Aのbに示される、パターン2の画素色配列パターンを有する部分領域画像PRI2から、図5Aのcに示される、パターン1の画素色配列パターンを有する補間画像が生成される。図5Aのd、e、fを参照し、パターン3の画素色配列パターンを有する部分領域画像PRI2から補間画像が生成される例を説明する。本例においても、ベイヤー配列による画素色配列パターンの一組の画素色配列単位である画素rr5、gg8、gg11、bb5それぞれの画素値を補間処理によって生成する場合を例に説明する。以下に説明する補間処理を、参照画像中の他の配列単位にも繰り返し行うことにより、補間画像を生成することができる。図5Aのa、b、cを参照しての説明と同様、補間方法1および補間方法2について説明する。[パターン3補間方法1]補間方法1については、参照画像中の部分領域画像PRI2がパターン2を有する場合で説明したのと同様に行われる。すなわち、補間処理によって生成される部分領域画像中、上から第3行、左から第3列の位置にある画素rr5の画素値を線形補間により生成する場合、以下の式2-1aが用いられる。つまり、図5Aのeに示される、参照画像中の部分領域画像PRI2において、第3行、第3列の位置にある画素g8の上下方向に隣接するR色の画素である画素r2、画素r5の画素値が参照されて画素rr5の画素値が導出される。rr52...式2-1a補間処理によって生成される部分領域画像中、上から第3行、左から第4列の位置にある画素gg8の画素値を線形補間により生成する場合、以下の式2-1bが用いられる。つまり、図5Aのeに示される、参照画像中の部分領域画像PRI2において、第3行、第4列の位置にある画素b5の上下左右方向に隣接するG色の画素である画素g5、画素g11、画素g8、画素g9の画素値が参照されて画素gg8の画素値が導出される。gg84...式2-1b補間処理によって生成される部分領域画像中、上から第4行、左から第3列の位置にある画素gg11の画素値を線形補間により生成する場合、以下の式2-1cが用いられる。つまり、図5Aのeに示される、参照画像中の部分領域画像PRI2において、第4行、第3列の位置にある画素r5の上下左右方向に隣接するG色の画素である画素g8、画素g14、画素g10、画素g11の画素値が参照されてgg11の画素値が導出される。gg114...式2-1c補間処理によって生成される部分領域画像中、上から第4行、左から第4列の位置にある画素bb5の画素値を線形補間により生成する場合、以下の式2-1dが用いられる。つまり、図5Aのeに示される、参照画像中の部分領域画像PRI2において、第4行、第4列の位置にある画素g11の上下方向に隣接するB色の画素である画素b5、画素b8の画素値が参照されて画素bb5の画素値が導出される。bb52...式2-1d[パターン3補間方法2]参照画像中の部分領域画像PRI2がパターン2を有する場合について、より高度な補間を行うために、式1-2a、式1-2b、式1-2c、式1-2d用いて画素rr5、gg8、gg11、bb5の画素値を求める例について先に説明したが、参照画像中の部分領域画像PRI2が図5Aのeに示されるパターン3を有する本例においても同様の処理が行われる。以下に、上記の式1-2a、式1-2b、式1-2c、式1-2dに対応する式2-2a、2-2b、式2-2c、式2-2dを示す。それぞれの式がもつ意味については、式1-2a、式1-2b、式1-2c、式1-2dについて説明したのと同様であるのでその説明を省略する。補間処理によって生成される部分領域画像中、上から第3行、左から第3列の位置にある画素rr5の画素値を線形補間により生成する場合、以下の式2-2aが用いられる。rr5r24r542g8...式2-2a補間処理によって生成される部分領域画像中、上から第3行、左から第4列の位置にある画素gg8の画素値を線形補間により生成するためには、以下の式2-2bまたは式2-2cが用いられる。g5g11<g8g9の場合、gg82λ...式2-2bg5g11≧g8g9の場合、gg82λ...式2-2c補間処理によって生成される部分領域画像中、上から第4行、左から第3列の位置にある画素gg11の画素値を線形補間により生成するためには、以下の式2-2dまたは式2-2eが用いられる。g8g14<g10g11の場合、gg112λ...式2-2dg8g14≧g10g11の場合、gg112λ...式2-2e補間処理によって生成される部分領域画像中、上から第4行、左から第4列の位置にある画素bb5の画素値を線形補間により生成する場合、以下の式2-2fが用いられる。bb5b54b842g11...式2-2f以上に説明した、補間方法1または補間方法2の補間処理により、図5Aのeに示される、パターン3の画素色配列パターンを有する部分領域画像PRI2から、図5Aのfに示される、パターン1の画素色配列パターンを有する補間画像が生成される。図5Bのh、i、jを参照し、パターン4の画素色配列パターンを有する部分領域画像PRI2から補間画像が生成される例を説明する。本例においても、ベイヤー配列による画素色配列パターンの一組の配列単位を構成する画素rr5、gg8、gg11、bb5それぞれの画素値を補間処理によって生成する場合を例に説明する。以下に説明する補間処理を、参照画像中の他の配列単位にも繰り返し行うことにより、補間画像を生成することができる。図5Aのa、b、cを参照しての説明と同様、補間方法1および補間方法2について説明する。[パターン4補間方法1]補間方法1による補間処理は、参照画像中の部分領域画像PRI2がパターン2、パターン3を有する場合で説明したのと同様処理が行われる。すなわち、補間処理によって生成される部分領域画像中、上から第3行、左から第3列の位置にある画素rr5の画素値を線形補間により生成する場合、以下の式3-1aが用いられる。つまり、図5Bのiに示される、参照画像中の部分領域画像PRI2において、第3行、第3列の位置にある画素b5を基準として、対角方向の上下左右に隣接するR色の画素である画素r1、画素r2、画素r4、画素r5の画素値が参照されて画素rr5の画素値が算出される。rr54...式3-1a補間処理によって生成される部分領域画像中、上から第3行、左から第4列の位置にある画素gg8の画素値を線形補間により生成する場合、以下の式3-1bが用いられる。つまり、図5Bのiに示される、参照画像中の部分領域画像PRI2において、第3行、第4列の位置にある画素は、画素gg8と同じ色を有するG色の画素g8である。したがって、画素g8の画素値がそのまま画素gg8の画素値として用いられる。gg8g8...式3-1b補間処理によって生成される部分領域画像中、上から第4行、左から第3列の位置にある画素gg11の画素値を線形補間により生成する場合、以下の式3-1cが用いられる。つまり、図5Bのiに示される、参照画像中の部分領域画像PRI2において、第4行、第3列の位置にある画素は、画素gg11と同じ色を有するG色の画素g11である。したがって、画素g11の画素値がそのまま画素gg11の画素値として用いられる。gg11g11...式3-1c補間処理によって生成される部分領域画像中、上から第4行、左から第4列の位置にある画素bb5の画素値を線形補間により生成する場合、以下の式3-1dが用いられる。つまり、図5Bのiに示される、参照画像中の部分領域画像PRI2において、第4行、第4列の位置にある画素r5を基準として、対角方向の上下左右に隣接するB色の画素である画素b5、画素b6、画素b8、画素b9の画素値が参照される。そして、下記の式3-1dにより画素bb5の画素値が算出される。bb54...式3-1d[パターン4補間方法2]部分領域画像PRI2がパターン2を有する場合について、より高度な補間を行うために、式1-2a、式1-2b、式1-2c、式1-2d用いて画素rr5、gg8、gg11、bb5の画素値を求める例について先に説明したが、参照画像中の部分領域画像PRI2がパターン4を有する本例においても同様の処理が行われる。以下に、パターン4に対応する式3-2a、3-2b、式3-2c、式3-2dを示す。補間処理によって生成される部分領域画像中、上から第3行、左から第3列の位置にある参照画像中の画素rr5の画素値は、以下の式3-2aを用いて求められる。rr5r14r24r44r5444...式3-2a上記の式3-2aにおいて、右辺のr14、r24、r44、r54について説明する。図5Bのiに示される、参照画像中の部分領域画像PRI2において、第3行、第3列の位置にある画素b5を基準として、対角方向の上下左右には画素r1、r2、r4、r5が隣接して存在する。上記の四つの式は、これら四つのR色画素の画素位置に対応するG色成分の画素値を、上記各R色画素の周囲にあるG色画素値からそれぞれ補間によって求め、R-G色差を計算している。また、上記の式3-2aにおける4は、画素b5の位置におけるG色画素値を、画素b5の周囲に位置する四つのG色画素g5、g7、g8、g11の値から補間により求めている。そして、上述した四つのR-G色差値の平均と、画素b5の位置におけるG色画素値とを加算することにより、画素b5の位置におけるR色の画素値を得る。補間処理によって生成される部分領域画像中、上から第3行、左から第4列の位置にある参照画像中の画素gg8の画素値は、以下の式3-2bを用いて求められる。つまり、図5Bのiに示される、参照画像中の部分領域画像PRI2において、第3行、第4列の位置にある画素は、画素gg8と同じ色を有するG色の画素g8である。したがって、下記の式3-2bに示されるように、画素g8の画素値がそのまま画素gg8の画素値として用いられる。gg8g8...式3-2b補間処理によって生成される部分領域画像中、上から第4行、左から第3列の位置にある参照画像中の画素gg11の画素値は、以下の式3-2cを用いて求められる。つまり、図5Bのiに示される、参照画像中の部分領域画像PRI2において、第4行、第3列の位置にある画素は、画素gg11と同じ色を有するG色の画素g11である。したがって、下記の式3-2cに示されるように、画素g11の画素値がそのまま画素gg11の画素値として用いられる。gg11=g11...式3-2c図5Bのiに示される、参照画像中の部分領域画像PRI2において、第4行、第4列の位置にある画素bb5の画素値は、以下の式3-2dを用いて求められる。bb5b54b64b84b9444...式3-2d上記の式3-2dにおいて、右辺のb54、b64、b84、b94について説明する。図5Bのiに示される、参照画像中の部分領域画像PRI2において、第4行、第4列の位置にある画素r5を基準として、対角方向の上下左右には画素b5、b6、b8、b9が隣接して存在する。上記の四つの式は、これら四つのB色画素の画素位置に対応するG色成分の画素値を、各B色画素の周囲に存在するG色画素値からそれぞれ補間によって求め、B-G色差を計算している。また、上記の式3-2dにおける4は、画素r5の位置におけるG色画素値を、画素r5の周囲に位置するG色画素g8、g11、g12、g14の画素値から補間により求めている。そして、上述した四つのB-G色差値の平均と、画素r5の位置におけるG色画素値とを加算することにより、画素r5の位置におけるB色の画素値を得る。以上で説明した補間処理を行うことにより、基準画像の部分領域画像PRI1に対応する位置の画像として参照画像中から抽出された部分領域画像PRI2の画素色配列パターンによらず、基準画像の部分領域画像PRI1と同じ画素色配列パターンの補間画像部分領域画像を生成することが可能となる。したがって、基準画像と補間画像との合成をより好適な形で行うことが可能となる。なお、参照画像の部分領域画像PRI2の画素色の配列が基準画像の部分領域画像PRI1と同じパターン1である場合には、以上で説明したパターン2~パターン4に対応する補間処理は不要となり、参照画像の画素値をそのまま利用することが可能である。つまり、補間による画素値の生成処理を省くことが可能となる。以上では、より簡便な方法として補間方法1、より高度な方法として補間方法2による補間処理を行う例を示したが、他の補間方法も利用可能である。すなわち、CFA画像中、所与の画素位置にある画素の画素値を推定する場合に、推定対象の画素の近傍に位置する画素の画素値から、上記所与の画素位置にある画素の本来の画素色と異なる色の画素値を生成可能な補間方法であれば、以上に例示した以外の任意の補間方法を利用可能である。図6は、画像処理部100で行われるCFA画像合成処理の処理手順を説明するフローチャートである。画像処理部100が例えばデジタルカメラに内蔵されるものである場合、デジタルカメラで撮像動作が行われて同一被写体を撮影したn枚のCFA画像が得られたときに図6に示す処理が行われる。あるいは、n枚のCFA画像を得る際に連続撮影が行われる場合、一連の連続撮影動作が完了する前に図6に示す処理が開始されてもよい。以下では、同一被写体を撮影して2枚のベイヤーCFA画像が得られたときに図6の処理が開始されるものとして説明をする。S600において画像処理部100は、2枚のCFA画像を入力する。これらのCFA画像のうちの一枚が基準画像、もう一枚が参照画像とされる。最初の撮像動作で得られたCFA画像、次の撮像動作で得られたCFA画像のうち、いずれを基準画像とするかは任意に設定可能である。S602において画像処理部100は、基準画像中に部分領域を設定する。この部分領域は、任意の分割方法によって設定可能であり、画面全体を一つの領域として設定することも可能である。本例では、図4、図5A、図5Bを参照して説明したように縦に6画素、横に6画素の36画素からなる矩形の領域が設定されるものとする。基準画像中で縦横6画素のサイズの矩形ウィンドウを順次移動させて、部分領域の位置を変化させながら以下で説明する処理を繰り返し行うことにより、画面全体の合成処理が行われる。S604において画像処理部100は、S502で設定された部分領域の画像、すなわち部分領域画像PRI1をテンプレートとして、一致度の高い部分領域を参照画像中で探索する。そして、図3、図4を参照して説明したように、1画素の分解能で縦方向および横方向の位置ずれ量dx、dyを算出する。S606において画像処理部100は、S604で算出された縦方向および横方向の位置ずれ量dx、dyのそれぞれについて、2で除したときの剰余2の剰余を計算する。この計算の結果、横方向位置ずれ量dx,縦方向位置ずれ量dyの、2の剰余の組み合わせとしては、0,0、1,0、0,1、1,1のいずれかとなる。S608において画像処理部100は、S606で算出された2の剰余の組み合わせ0,0、1,0、0,1、1,1から、基準画像中で設定された部分領域PRI1に対応する、参照画像中の部分領域画像PRI2の画素色の配列パターンを判定する。上記2の剰余の組み合わせが、0,0のとき、パターン1と判定され、1,0のとき、パターン2と判定され、0,1のとき、パターン3と判定され、1,1のとき、パターン4と判定される。S608でパターン1と判定されたとき、部分領域画像PRI1とPRI2とは同じ画素色の配列パターンを有するので、部分領域画像PRI2に補間処理をする必要はなく、部分領域画像PRI2内の各画素値をそのまま利用可能である。一方、パターン2、パターン3、パターン4のいずれかであると判定されたとき、判定されたパターンに対応する補間処理がS610、S612、およびS614のいずれかで行われて補間画像補間画素値が生成される。S610、S612、S614で行われる補間処理に際しては、先に説明した補間方法1および補間方法2のうち、いずれの補間方法を用いることも可能である。また、補間方法1、補間方法2以外の補間方法によって補間処理が行われてもよい。このとき、予め用意される複数の補間方法の中からユーザがいずれかの補間方法を選択可能に構成されていてもよい。基準画像データ中の部分領域画像PRI1と、以上のようにして生成された補間画像データパターン1のときには部分領域画像PRI2を構成する各画素値とがS616で合成されて合成画像が生成される。ここで生成される合成画像は、部分領域画像PRI1と同じ画素数のCFA画像である。合成処理としては様々な方法を行うことが可能であるが、ここでは加算による合成をする例について説明する。加算による合成をする場合、例えば、部分領域画像PRI1と補間画像とで画素毎に所定の混合比M:Nで加算合成をすることが可能である。具体例としては、基準画像データの部分領域画像PRI1中の画素の画素値をP1、当該画素に対応する補間画像中の画素の画素値をP2、合成後の画素値をP3とすると、以下の式4を用いて加算合成することが可能である。P3=M×P1N×P2/MN...式4上記式4において、M、Nは任意の実数とすることが可能である。単純な加算合成の例ではM=1、N=1とすることにより、画素値P1およびP2の和を2で除したものとすることができる。M、Nのいずれかを負の値とすることにより、両画素値の差分をとることもできる。また、M、Nのいずれかを0とすることができる。つまり、画素値P1およびP2のいずれかを合成後の画素値P3として選択することもできる。S618において画像処理部100は、すべての部分領域に対応する処理を完了したか否かを判定する。S618での判定が否定される間、上述したS602からS616までの処理が繰り返し行われる。全ての部分領域での処理が完了するとS618の判定が肯定され、処理はS620に進む。画像処理部100は、S620で合成画像を出力し、一連の処理を完了する。以上、画像処理部100による複数枚のCFA画像入力、位置ずれ量算出、補間、画像合成の処理について図6のフローチャートを参照して説明した。図6では、CFA画像が、縦横2画素の画素色配列単位からなるベイヤーCFA画像である場合を例に説明したが、本発明はこの例に限られない。つまり、CFA画像の画素色の配列単位が、縦方向にr画素、横方向にc画素から構成される場合、S606では横方向の位置ずれ量dxをcで除したときの剰余と、縦方向の位置ずれ量dyをrで除したときの剰余とを計算する。S608では縦、横方向それぞれに対応する剰余の組み合わせから、参照画像中の部分領域画像PRI2の画素色の配列パターンを判定する。画素色の配列単位が、縦方向にr画素、横方向にc画素から構成される場合、剰余の組み合わせはr×c通りとなる。S608では、参照画像の色配列パターンがc×r通りの色配列パターンのうちのいずれかと判定される。S608での判定結果に応じた補間処理が続いて行われる。このとき、縦、横の剰余の組み合わせが0,0である場合に対応するパターン1と判定された場合、補間処理は省略可能となる。図5A、図5B、図6を参照しての以上の説明では、参照画像の色配列パターンに応じた補間方法で補間画像を生成し、その上で基準画像と補間画像とを合成するものとして説明したが、以下に説明するように点順次で補間画素値を算出し、合成処理をすることも可能である。すなわち、S608で参照画像の色配列パターンが判定されると、参照画像の画素値をそのまま用いて合成するのかパターン1のケース、補間処理をして生成した画素値を基準画像の対応する画素値と合成するのかパターン2、パターン3、パターン4のケースが決まる。参照画像の色配列パターンがパターン2からパターン4のいずれかで補間処理をする必要がある場合には、基準画像の部分領域画像PRI1中の各画素R1、G1、R2、...、G18、B9に対応する画素値rr1、gg1、...、gg18、bb9を点順次に算出しながら合成処理をすることが可能となる。点順次に処理をする際の処理順や走査方向は任意に設定可能である。また、図6を参照しての以上の説明では、2枚のCFA画像が合成処理される例について説明したが、3枚以上のCFA画像を合成処理することも可能である。3枚以上のCFA画像を合成する場合、以下で図7、図8を参照して説明するような方法等を用いて合成処理をすることが可能となる。図7に示される合成処理では、複数枚のCFA画像のうち、選択された2枚のCFA画像の一方を基準画像、他方を参照画像として位置ずれ量算出、補間、画像合成の処理が行われて合成画像1が生成される。図7の例では1枚目の画像が基準画像1に設定され2枚目の画像が参照画像1に設定される。そして、生成された合成画像1を新たな基準画像とし、未処理のCFA画像中の一つを新たな参照画像として、位置ずれ量算出、補間、画像合成の処理が行われて合成画像が生成される。図7の例では3枚目の画像が参照画像2、合成画像1が基準画像2とされて、合成画像2が生成される。入力されたCFA画像の枚数に応じて、これらの処理が繰り返し行われ、n枚のCFA画像がn-1枚、n-2枚と減じられて、最終的に1枚の合成画像が生成される。図7の例では合成画像3が最終的に得られる合成画像である。図7中に、矩形の枠で囲われた数字を示してあるが、これらは二つの画像を合成する際に設定される合成比率の例を示している。つまり、基準画像1と参照画像1とを合成して合成画像1を生成する場合、基準画像1と参照画像1との合成比率を1:1とすることを意味する。基準画像2と参照画像2とを合成して合成画像2を生成する場合、基準画像2と参照画像2との合成比率を2:1とする。つまり、2枚の画像を合成して得た基準画像2の合成比率を、参照画像1の合成比率の2倍に設定する。基準画像3と参照画像3とを合成して合成画像3を生成する場合、基準画像3と参照画像3との合成比率を3:1とする。つまり、3枚の画像を合成して得た基準画像3の合成比率を、参照画像3の合成比率の3倍に設定する。このように、基準画像が何枚の画像を合成して得られたものかに応じて基準画像と参照画像との合成比率を変化させることにより、一定の合成比率で合成をする場合に比して、より後に合成される参照画像の影響度が相対的に高まるのを抑制可能となる。あるいは、以下に説明するように合成処理を行うことも可能である。例えば4枚のCFA画像が入力される場合、1枚目の入力画像を基準画像1とし、2枚目の入力画像を参照画像1として、これらの画像から合成画像1を得る。また、3枚目の入力画像を基準画像2とし、4枚目の入力画像を参照画像2として、これらの画像から合成画像2を得る。続いて、合成画像1を基準画像3、合成画像2を参照画像3として得られた合成画像を最終的に得られる合成画像としてもよい。この場合には、合成される各画像の合成比率を常に1:1として、最終的に得られる合成画像中における各入力画像の影響度を均一に揃えることが可能となる。無論、各入力画像に対して異なる合成比率が設定されるようにしてもよい。図8を参照して、図7に示されるのとは異なる合成処理の手順について説明する。図8に示される合成処理の例では、入力されるn枚のCFA画像のうち、1枚の画像が基準画像とされて、残りのn-1枚のCFA画像は参照画像1、参照画像2、...、参照画像n-1とされる。そして、基準画像と参照画像1、基準画像と参照画像2、...、基準画像と参照画像n-1、それぞれの組み合わせに対応して位置ずれ量の算出、補間画像生成の処理が行われる。その結果、n-1枚の補間画像が生成される。図7の例では4枚の入力CFA画像から3枚の補間画像、すなわち補間画像1、補間画像2、補間画像3が生成される。そして、生成された各補間画像と、基準画像とを合成して合成画像が生成される。このとき、各補間画像および基準画像それぞれの合成比率は任意に設定可能である。図7、図8を参照しての上記説明においては、入力された複数枚のCFA画像中、1枚目のCFA画像を基準画像とする例について説明したが、入力されたCFA画像中の任意の画像を基準画像とすることが可能である。また、合成処理される対象となるCFA画像の組み合わせも任意に設定可能である。以上に説明した手順により、位置ずれ量算出、補間処理、合成処理を行う場合の処理負荷は、デモザイク処理をしてフルカラー化した画像データを生成し、位置ずれ量の算出、合成処理を行う場合の処理負荷に比べて軽くなる。つまり、元のCFA画像を一板の画像とし、補間処理によって生成される画像を別の一板の画像とするならば、いわば二板化の処理で済んでいる、ということになる。つまり、ベイヤー配列のCFA画像をデモザイク処理してR、G、B各カラープレーンの三板化したフルカラーの画像データを生成する場合に比べて約半分の処理量で済むデモザイク処理を経る場合には二板分の画像データを追加生成するところ、本実施の形態では一板分の画像データの追加生成処理で済むことになる。加えて、上述した補間処理では、参照画像から抽出された部分領域画像PRI2を構成する画素中、基準画像の部分領域画像PRI1を構成する画素と画素色が異なる場合のみ補間処理が行われる。つまり、必要なときにのみ補間処理が行われるので、処理負荷をさらに軽減することが可能となる。以上のように処理負荷を軽減することが可能となるのに加えて、1画素精度で位置ずれ量が求められて補間処理、合成処理が行われるので、デモザイク処理をした後の画像を用いて合成をする場合と同様の精度で合成処理をすることが可能となる。また、合成処理して得られた画像データをRAW画像データとして保存することも可能となるので、後でレタッチ等の画像処理をした際に生じる画質の低下を抑制可能となる。加えて、RAW画像データでは、8ビットのビット深度を超す情報量を各画素に対応する画素値として維持することも可能となり、この点でも後でレタッチ等をした際に生じる画質の低下を抑制可能となる。以上に説明した画像処理部100は、デジタルカメラや、カメラを内蔵する携帯電話や携帯情報端末等の内部に備えられたものとすることが可能である。あるいは、記録媒体に記録された画像処理プログラムがコンピュータのCPUにより読み出されて実行され、画像処理部100としての機能が実装されてもよい。以下、その例について説明する。図9は、以上に説明した画像処理部100を備えるデジタルカメラ200の概略的内部構成を説明するブロック図である。デジタルカメラ200は、スチルカメラであってもムービーカメラであってもよい。あるいは、携帯電話や携帯情報端末等に組み込まれるカメラであってもよい。デジタルカメラ200がスチルカメラまたはムービーカメラであるとき、撮影レンズが固定式のものであっても、交換可能に構成されるものであってもよい。デジタルカメラ200は、撮影光学系202と、撮像部204と、画像処理部100と、メモリカードインターフェース206と、CPU208と、表示部210と、操作部212と、メモリ214とを備える。撮影光学系202は、被写体像を撮像部204の受光エリア上に形成する。撮影光学系202は、単焦点の光学系であっても、可変焦点距離の光学系であってもよい。撮像部204は、シャッタ、撮像素子、アナログフロントエンド等を含んで構成される。撮影光学系202を透過した被写体光は、シャッタが開いている間、撮像素子に入射する。撮像素子の受光エリア上に形成される被写体像が光電変換され、画像信号が生成される。なお、撮像素子が電気的に露光時間光電変換時間の制御を行うことが可能な、電子シャッタの機能を有する場合、シャッタは必ずしも備えられていなくてもよい。撮像素子の受光面上にはオンチップカラーフィルタが配置される。撮像部204は、同一被写体に対して複数の露光動作を行い、複数枚のCFA画像データを生成可能に構成される。あるいは、撮影光学系202および撮像部204を複数組備え、複数の撮影動作が略同時に行われて複数のCFA画像データを生成可能に構成されていてもよい。このとき、例えば、各CFA画像データを得るのに対応して異なるシャッタ秒時を設定すると、露光量の異なる複数枚のCFA画像データを得ることが可能となる。これらの画像データを合成することにより、いわゆるHDR合成画像を得ることが可能となる。操作部212は、プッシュスイッチ、スライドスイッチ、ダイヤルスイッチ、タッチパネル等のうちいずれか一種類または複数種類を備え、ユーザの操作を受け付け可能に構成される。表示部210は、TFT液晶表示パネルとバックライト装置、あるいは有機EL表示素子等の自発光式表示素子を備え、画像や文字等の情報を表示可能に構成される。メモリ214は、フラッシュメモリやRAM等を備えて構成される。フラッシュメモリには、CPU208により実行される制御プログラムファームウェアや、調整パラメータ、あるいはデジタルカメラ200の電源が入っていない状態でも保持する必要のある情報等が記憶される。RAMはCPU208および画像処理部100の双方からアクセス可能に構成され、CPU208および画像処理部100のワークエリアとして機能する。CPU208は、フラッシュメモリからRAMに転送されたファームウェアを解釈実行してデジタルカメラ200の動作を統括的に制御する。メモリカードインターフェース206は、着脱自在に装着されるメモリカードMCへの情報の書き込みと、メモリカードMCからの情報の読み出しが可能に構成される。ユーザがデジタルカメラ200の電源をオンに切り換え、操作部212を操作してデジタルカメラ200を撮影モードに切り換える。ユーザがさらに操作部212を操作して、動作モードを例えばHDR撮影モードに設定し、デジタルカメラ200を被写体に向けてレリーズ操作をすると、一連の複数枚のCFA画像データが生成されて画像処理部100に入力される。画像処理部100は、先に説明したようにCFA画像の合成処理を行い、合成画像データを生成する。この合成画像データはCFA画像データである。この合成画像データを可逆圧縮し、撮影情報等のメタデータを付加し、RAW画像ファイルとしてメモリカードMCに記録することができる。また、合成画像データにデモザイキングの処理をしてフルカラー画像データを生成することも可能である。このフルカラー画像データをもとに、表示部210に画像を表示することができる。さらに、フルカラー画像データにJPEG等の非可逆圧縮をしてメタデータを付加し、JPEG画像ファイルとしてメモリカードMCに記録することもできる。あるいは、撮像部204で生成された複数枚のCFA画像データを画像処理部100で合成処理することなく、メモリカードMCに記録することも可能である。この場合、デジタルカメラ200が再生モードに切り換えられたときに当該の複数枚のCFA画像データがメモリカードMCからメモリ214に読み込まれる。そして、画像処理部100で合成処理をした後にデモザイク処理をしてフルカラー化し、表示部210に画像を表示することができる。メモリカードMCに記録された一連の複数枚のCFA画像データは、他の機器、例えばコンピュータやビデオレコーダ等にメモリカードMCやインターフェースケーブル等を介して転送され、これらのコンピュータやビデオレコーダ等の内部で合成処理することも可能である。図10は、情報処理装置300のCPU302によって画像処理プログラムが実行されることにより、画像処理部100が実現される例を説明するブロック図である。情報処理装置300は、CPU302と、メモリ304と、補助記憶装置306と、システムバス308とを備える。情報処理装置300はまた、メモリカードインターフェース310と、光ディスクドライブ312と、ネットワークインターフェース314と、ビデオインターフェース316とを備える。情報処理装置300は、必要に応じて有線または無線の通信インターフェースを備えていても良い。メモリ304は、SDRAM等で構成されていて比較的高速のアクセス速度を有し、CPU302がプログラムを実行する際のワークエリアとして用いられる。補助記憶装置306は、ハードディスクドライブやSSDSolidStateDrive等を備え、CPU302で実行されるプログラムや、画像ファイル等を記憶可能に構成される。メモリカードインターフェース310は、装着されたメモリカードMCからの情報の読み出しと、メモリカードMCへの情報の書き込みとを可能に構成される。メモリカードMCは、画像ファイルやプログラムファイル等を記憶可能な記憶媒体であり、デジタルカメラ200に装着することも可能に構成される。光ディスクドライブ312は、装着された光ディスクODから画像ファイルやプログラムファイル等を読み出し可能に構成される。光ディスクドライブ312はまた、画像ファイルや各種情報等を光ディスクODに書き込み可能に構成されていてもよい。ネットワークインターフェース314は、有線または無線の形態でネットワークNWに接続可能に構成される。そして、ネットワークNWに接続されるサーバ等へ情報の出力およびサーバ等からの情報の入力が可能に構成される。ビデオインターフェース316は、カラー液晶表示装置等のフラットパネルディスプレイやCRT等の表示装置を接続可能に構成される。接続されたこれらの表示装置には、文字等の情報や画像等が表示される。上述したメモリ304、補助記憶装置306、メモリカードインターフェース310、光ディスクドライブ312、ネットワークインターフェース314、ビデオインターフェース316は、システムバス308を介してCPU302と相互に接続される。画像処理部100は、補助記憶装置306、メモリカードMC、光ディスクOD等の非一時的なコンピュータ可読記憶媒体から読み出されてメモリ304にロードされた画像処理プログラムをCPU302が実行することによって実現される。画像処理部100は、補助記憶装置306、メモリカードMC、光ディスクOD等のいずれかから一連の複数枚のCFA画像を読み出して、先に説明した合成処理をすることができる。そして、合成して得られたCFA画像をRAW画像データとして補助記憶装置306、メモリカードMC、光ディスクOD等のいずれかに記録することができる。また、合成して得られたCFA画像にデモザイク処理をしてフルカラー化した画像データを生成することもできる。生成されたフルカラー画像データはさらに処理されて表示用画像データや記録用画像データが生成され、表示や記録の処理が行われる。本発明は、放送用据え置き型カメラ、ENGカメラ、民生用ハンディカメラ、デジタルカメラ等の製品に適用可能である。また、画像編集装置やビデオレコーダ等に適用することも可能である。さらに、動画や静止画を処理する画像処理プログラムに適用することも可能である。以上、いくつかの実施形態に基づいて本発明について説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。また、上記実施形態からは種々の発明が抽出され得る。例えば、実施形態に示される全構成要件から幾つかの構成要件が削除されても、効果が得られるのであればこの構成要件が削除された構成もまた発明として抽出され得る。"