(57)【特許請求の範囲】
【請求項１】
２次元状に配置され、被写体像を所定の視差を持ってそれぞれ形成する複数の撮影光学系と、
前記撮影光学系各々の背後に配置される複数のマイクロレンズと、
前記マイクロレンズ各々の背後に配置される複数の受光素子と、
前記受光素子の出力から、前記撮影光学系毎に画像合成を行う第１の合成手段と、
前記第１の合成手段によって前記画像合成された画像を、前記撮影光学系相互の視差を考慮して合成する第２の合成手段と、を備えることを特徴とする撮像装置。
【請求項２】
請求項１に記載の撮像装置において、
前記マイクロレンズと前記マイクロレンズに対応する前記受光素子との間隔は、前記マイクロレンズの焦点距離にほぼ等しく、
前記撮影光学系の焦点距離は前記マイクロレンズの焦点距離に比べて十分に大きいことを特徴する撮像装置。
【請求項３】
請求項１または２に記載の撮像装置において、
前記撮影光学系の各々はレンズを含み、
前記撮影光学系の前記レンズと前記複数のマイクロレンズとは、単一のガラス媒体に形成され、
前記単一のガラス媒体は、前面に前記レンズとして作用する複数の凸面を有し、後面に前記マイクロレンズとして作用する複数の凸面を有することを特徴とする撮像装置。
【請求項４】
請求項１〜３のいずれかに１項に記載の撮像装置において、
前記複数の撮影光学系によって前記所定の視差を持って形成される前記被写体像を、前記マイクロレンズを介して受光する前記受光素子の出力に基づき、前記被写体の相対的なずれ量を算出し、前記ずれ量に基づき被写体距離を算出する被写体距離算出手段を更に備えることを特徴とする撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の撮像画素出力の合成により１枚の画像を出力する撮像装置に関する。
【背景技術】
【０００２】
従来の撮像装置は、主要被写体にピントを合わせるために焦点調節を必要とする。ユーザ入力により主要被写体を特定すると自動的に焦点調節を行う撮像装置もある。いずれの撮像装置においても、主要被写体までの距離が変化するたびに焦点調節が必要である。他方、一回の撮影で任意の被写体にピントの合った画像を合成できる撮像装置が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００７−４４７１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１に開示された撮像装置を小型化しようとした場合、撮像素子のサイズが小さくなるとともに、撮影レンズの焦点距離も短くなる。そのため、焦点深度が深くなり、撮像装置のごく近い距離から無限遠までの範囲に位置するほとんどの被写体にピントの合う、いわゆるパンフォーカスの画像になってしまう。そのため、主要被写体にピントが合う一方、前景、背景のぼけた、いわゆる焦点深度の浅い画像を合成することができないという問題がある。
【課題を解決するための手段】
【０００５】
請求項１に記載の撮像装置は、２次元状に配置され、複数の被写体像を所定の視差を持ってそれぞれ形成する複数の撮影光学系と、撮影光学系の各々の所定の結像面付近に配置され、撮影光学系の各々に対応する複数のマイクロレンズと、複数のマイクロレンズの各々の背後に配置され、マイクロレンズの各々に対応する複数の受光素子と、撮影光学系の各々による被写体像を形成する被写体光束が複数のマイクロレンズを透過して受光素子に入射した場合に、当該受光素子の出力を合成する第１の合成手段と、複数の撮影光学系によって所定の視差を持って形成される複数の被写体像を、マイクロレンズを介して受光する受光素子の出力を合成する第２の合成手段とを備えることを特徴とする。
【発明の効果】
【０００６】
本発明によれば、焦点深度の浅い画像を合成することができる小型の撮像装置を実現できる。
【図面の簡単な説明】
【０００７】
【図１】本実施の形態の撮像装置の機能構成を例示するブロック図である。
【図２】複数の撮像画素で構成される撮像素子、複数のマイクロレンズで構成されるマイクロレンズアレイおよび複数の撮影レンズで構成される撮影レンズアレイの位置関係を示す断面図である。
【図３】撮影レンズアレイの平面図である。
【図４】マイクロレンズアレイの平面図である。
【図５】矩形の撮影レンズに外接する円形の撮影レンズを仮定した例を示す図である。
【図６】被写体光によって撮像素子上に投影される１つのマイクロレンズの円形の影と、円形の影の領域を分割する６つの撮影レンズ１４１０の矩形の影との関係を示す図である。
【図７】撮影レンズ毎の画像合成処理に対応する撮像画素を示す断面図である。
【図８】被写体光束の入射側から撮像素子を観察した場合の平面図である。
【図９】撮影レンズアレイにより被写体を撮影する際に、互いに隣接する撮影レンズ間の視差Δを示す断面図である。
【図１０】複数の撮影レンズ個々による画像合成処理を説明する図である。
【図１１】撮影レンズ単位の合成画像のうちの隣接する２枚の合成画像を示した図である。
【図１２】本発明による撮像装置の制御装置の行う処理を示すフローチャートである。
【発明を実施するための形態】
【０００８】
図１〜１２を参照して、本発明による撮像装置の一実施の形態を説明する。図１は、本実施の形態の撮像装置１０の機能構成を例示するブロック図である。制御装置１１０は、撮像装置１０を構成する各機能ブロックを制御するとともに、後述する画像合成処理を行う。撮像素子１２０、記憶装置１５０、入力装置１６０および表示装置１７０の各々は、制御装置１１０とバス接続されている。被写体光は、撮影レンズアレイ１４０およびマイクロレンズアレイ１３０を透過して撮像素子１２０に入射する。図１においては、被写体光に含まれる被写体光線５０が例示されている。
【０００９】
撮像素子１２０が被写体光を受光する受光面上には、受光信号を電気信号に変換する光電変換素子を含む撮像画素が所定の配列に従って配置されている。撮像素子１２０、マイクロレンズアレイ１３０および撮影レンズアレイ１４０の構成および位置関係については、図２を用いて後述する。各撮像画素が出力する電気信号は、撮像素子１２０全体の撮像画素データとして、制御装置１１０によって撮像素子１２０から読み出される。
【００１０】
記憶装置１５０は、制御装置１１０によって撮像素子１２０から読み出された撮像画素データを記憶するとともに、後述するように、制御装置１１０による撮影処理を通じて生成される結像位置データ、視差データおよび合成画像データを記憶する。記憶装置１５０は、後述するように、撮影レンズと撮像画素との対応関係を予め記憶する。記憶装置１５０は、撮影レンズおよびマイクロレンズアレイ１３０を構成するマイクロレンズの焦点距離およびレンズ配置間隔等のレンズ特性を予め記憶する。
【００１１】
入力装置１６０は、主要被写体を決定する際のユーザ入力、シャッタレリーズを行う際のユーザ入力およびその他のユーザ入力を受け付ける入力装置であり、たとえば、押ボタン式スイッチあるいはタッチパネルである。
【００１２】
表示装置１７０は、入力装置１６０を介して主要被写体を決定することをユーザに促すメッセージ、およびシャッタレリーズをユーザに促すメッセージ等の各種メッセージを画面に表示するとともに、撮影画像を表示する。
【００１３】
図２は、複数の撮像画素１２１０で構成される撮像素子１２０、複数のマイクロレンズ１３１０で構成されるマイクロレンズアレイ１３０および複数の撮影レンズ１４１０で構成される撮影レンズアレイ１４０の位置関係を示す断面図である。図２（ａ）において、撮像素子１２０、マイクロレンズアレイ１３０および撮影レンズアレイ１４０は略平行に配置される。撮像素子１２０は２次元的に配列された複数の撮像画素１２１０を含み、マイクロレンズアレイ１３０は２次元的に配列された複数のマイクロレンズ１３１０を含む。撮影レンズアレイ１４０は２次元的に配列された複数の撮影レンズ１４１０を含む。
【００１４】
図２（ａ）において、１つのマイクロレンズ１３１０の背後の距離ｇの略焦点位置には複数の撮像画素１２１０があり、１つのマイクロレンズ１３１０による撮像画素領域１２５を構成する。
【００１５】
図２（ａ）において、各撮影レンズ１４１０が覆う複数のマイクロレンズ１３１０を部分マイクロレンズアレイ１３５として表している。撮影レンズアレイ１４０とマイクロレンズアレイ１３０との間の距離ｆは、各撮影レンズ１４１０の焦点距離と略等しい。距離ｆは距離ｇよりも極めて大きい。したがって、撮像素子１２０の位置に対して、撮影レンズアレイ１４０の位置は略無限遠の位置とみなすことができる。その結果、撮像素子１２０と撮影レンズアレイ１４０とは、マイクロレンズアレイ１３０に関して光学的にほぼ共役な位置関係を有している、とみなすことができる。
【００１６】
なお、マイクロレンズアレイ１３０および撮影レンズアレイ１４０は、図２（ａ）に示すようにディスクリートな素子として構成してもよいが、図２（ｂ）に示すように単一の透明部材で構成することもできる。この場合、撮影レンズアレイ１４０は、透明部材の前面、すなわち被写体光の入射側の面に、１つ１つが撮影レンズ１４１０として作用する複数の凸面を設けることにより形成される。マイクロレンズアレイ１３０は、透明部材の後面、すなわち撮影レンズアレイ１４０の形成される面の裏面に、１つ１つがマイクロレンズ１３１０として作用する複数の凸面を設けることにより形成される。透明部材は、ガラス、プラスチック等で形成できる。
【００１７】
図３は、図２において矢印２００の方向から撮影レンズアレイ１４０を観察した場合の平面図を示す。撮影レンズアレイ１４０は矩形の撮影レンズ１４１０を二次元状に密に配置して構成される。図３（ａ）では、簡単のために、撮影レンズ１４１０を４×４の１６個のみ図示した。図３（ｂ）に示す撮影レンズ１４１０各々の背後には、図３（ｃ）に示すように、部分マイクロレンズアレイ１３５を構成する複数のマイクロレンズ１３１０が位置している。図３（ｃ）では、１つの撮影レンズ１４１０が、２４×３２の７６８個のマイクロレンズを覆っている。
【００１８】
図４は、図２において矢印２００の方向からマイクロレンズアレイ１３０を観察した場合の平面図を示す。マイクロレンズアレイ１３０に含まれる各々のマイクロレンズ１３１０の形状は、図４に示すように、たとえば円形である。勿論、矩形、六角形等、他の形状であっても良い。図４に示すように、各マイクロレンズ１３１０の背後には、撮像画素１２１０を含む撮像画素領域１２５が位置している。図４に示すように、マイクロレンズ１３１０は撮像画素１２１０よりも大きい。
【００１９】
図４（ａ）は、マイクロレンズアレイ１３０の一部の領域を示している。マイクロレンズアレイ１３０を構成する１つのマイクロレンズ１３１０を拡大して図４（ｂ）に示す。マイクロレンズ１３１０の背後にある撮像画素領域１２５を構成する撮像画素１２１０を図４（ｃ）に示した。マイクロレンズ１３１０が覆う撮像画素１２１０の数は、図４（ｃ）に示すように、２４×２４の５７６個である。
【００２０】
図５は、矩形の撮影レンズ１４１０に外接する円形の撮影レンズ１４２０を仮定した例を示す図である。この仮定した撮影レンズ１４２０の絞り値とマイクロレンズ１３１０の絞り値とが略等しくなるように、撮影レンズ１４１０とマイクロレンズ１３１０とが設けられる。これにより、ある撮影レンズ１４１０を透過し、かつあるマイクロレンズ１３１０を透過した被写体光と、他の撮影レンズ１４１０を透過し、かつ他のマイクロレンズ１３１０を透過した被写体光とを、同一の撮像画素１２１０が混合して受光することを防止できる。
【００２１】
次に、撮影レンズ毎の画像合成処理について説明する。この撮影レンズ毎の画像合成処理には、特開２００７−４４７１号公報に開示された画像合成方法を適用する。図６は、被写体光によって撮像素子１２０上に投影される１つのマイクロレンズ１３１０の円形の影１３１０ａと、円形の影１３１０ａの領域を分割する６つの撮影レンズ１４１０の矩形の影１４１０ａ、１４１０ｂ、１４１０ｃ、１４１０ｄ、１４１０ｅおよび１４１０ｆとの関係を示す図である。複数の撮影レンズ１４１０、すなわち図６に示す例では６個の撮影レンズ１４１０ａ〜１４１０ｆを通った光束が、円形の影１３１０ａに対応する１つのマイクロレンズを通り、撮像素子１２０上に達することを示している。勿論、図６は一例を示すものであって、マイクロレンズと撮影レンズと撮像素子との位置関係および被写体距離によって、受光素子１２０上で受光される光束がいずれの撮影レンズを通過したのかは、すなわち経路は異なる。円形の影１３１０ａの領域分割により、たとえば円形の影１３１０ａと矩形の影１４１０ａとの共通領域に配列されている複数の撮像画素１２１０は、矩形の影１４１０ａに対応する撮影レンズ１４１０に対応付けられる。撮像画素１２１０と撮影レンズの１４１０との間のこうした対応関係は、撮像装置１０の製造時に一意に定まるため、その対応関係を各マイクロレンズ１３１０毎に予め記憶装置１５０に記憶させておく。撮影レンズ毎の画像合成処理においては、その撮影レンズ１４１０に対応付けられた撮像画素１２１０の出力する電気信号が用いられる。図６は一例を示したに過ぎず、影１３１０ａの領域を分割する６つの撮影レンズ１４１０の影の個数は６つとは限らない。
【００２２】
図７は、撮影レンズ１４１０毎の画像合成処理に対応する撮像画素１２１０を示す断面図である。上述したように、撮影レンズ１４１０を含む撮影レンズアレイ１４０とマイクロレンズアレイ１３０との間においては距離ｆの間隔が設けられ、マイクロレンズアレイ１３０と撮像素子１２０との間においては距離ｇの間隔が設けられている。被写体光束７００は、撮影レンズ１４１０の左方に位置する不図示の被写体のうちの１点から到来している。上述したように、撮影レンズ１４１０の焦点は必ずしもマイクロレンズアレイ１３０の位置に等しいとは限らない。図７において、被写体光束７００は、焦点面７１０上に位置する焦点Ｆｐで１点に集まり、その先の３枚のマイクロレンズ１３１０ｘ１、１３１０ｘ２および１３１０ｘ３を透過し、撮像素子１２０表面の受光領域ｘ１、ｘ２およびｘ３に配置された複数の撮像画素１２１０に入射している。
【００２３】
図８は、図７において被写体光束７００の入射側から撮像素子１２０を観察した場合の平面図を示している。図示することを省略したが、上述したように、撮像素子１２０上には複数の撮像画素１２１０が２次元的に配列されている。図７は断面図のため、３つのマイクロレンズ１３１０ｘ１、１３１０ｘ２および１３１０ｘ３を示したが、図８においては、９つのマイクロレンズ１３１０の影１３１０ａ１、１３１０ａ２、１３１０ａ３、１３１０ａ４、１３１０ａ５、１３１０ａ６、１３１０ａ７、１３１０ａ８および１３１０ａ９を、９つの破線の円で示している。同様に、図８においては、９つの受光領域ｘ１、ｘ２、ｘ３、ｘ４、ｘ５、ｘ６、ｘ７、ｘ８およびｘ９を示している。この９つの受光領域ｘ１、ｘ２、ｘ３、ｘ４、ｘ５、ｘ６、ｘ７、ｘ８およびｘ９に配置された複数の撮像画素１２１０が出力する電気信号を、上述した画像合成方法の適用により積算すると、図７の焦点Ｆｐに結像される被写体像の画像上の１画素の画素データが得られる。同様にして、図７の焦点面７１０上の各点に対応する各画素の画素データが得られる結果として、図７の焦点面７１０上に結像される被写体像全体の画像データが撮影レンズ単位で合成される。
【００２４】
次に、撮影レンズが複数ある場合の撮影レンズアレイ１４０による撮影画像の画像合成処理について説明する。図９は、撮影レンズアレイ１４０により被写体９１０を撮影する際に、互いに隣接する撮影レンズ１４１０間の視差Δを示す断面図である。被写体９１０からの光束に含まれる光線９２０の一部が５つの撮影レンズ１４１０各々の頂部を透過し、さらにマイクロレンズアレイ１３０を透過して撮像素子１２０上に入射する。被写体９１０と撮影レンズアレイ１４０との間の距離を被写体距離ｄとする。通常、被写体距離ｄに比して、マイクロレンズアレイ１３０を構成するマイクロレンズ１３１０の焦点距離と略等しい距離ｇは極めて小さいため、撮影レンズアレイ１４０と撮像素子１２０との間の距離を、撮影レンズアレイ１４０を構成する撮影レンズ１４１０の焦点距離と略等しい、すなわち距離ｆに略等しいと考えることができる。
【００２５】
光線９２０の一部のうち、中央の光線９２０ｘ１は、撮影レンズ１４１０ｘ１の頂部を透過し、撮像素子１２０上の受光点ｃ１に入射している。撮影レンズ１４１０ｘ１に隣接する撮影レンズ１４１０ｘ２の頂部を透過する光線９２０ｘ２は、撮像素子１２０上の受光点ｃ２に入射している。視差Δは、受光点ｃ１と受光点ｃ２との間の距離から撮影レンズ１４１０のレンズ配置間隔Ｌを差し引いた値に等しく、式（１）により算出される。
【数１】
0005488221.tif 000002
【００２６】
したがって、上述した撮影レンズ単位で合成された画像データを、隣接する撮影レンズ１４１０ｘ１および撮影レンズ１４１０ｘ２の各々について生成し、得られた２枚の合成画像データを重ね合わせると、被写体像が視差Δだけずれることとなる。視差Δは、式（１）に示されるように、被写体距離ｄに応じて変化する。したがって、主要被写体の被写体距離ｄ１と背景の被写体距離ｄ２とが異なる値の場合、各々に対応する視差Δ１とΔ２とは異なる値となる。
【００２７】
図１０は、複数の撮影レンズ個々による画像合成処理を説明する図である。図１０（ａ）は、図９に示した５つの撮影レンズ１４１０の各々について得られた合成画像データに基づく合成画像Ｐ１、Ｐ２、Ｐ３、Ｐ４およびＰ５を、被写体像９１０ａを基準として重ね合わせた様子を示している。隣接する撮影レンズ毎の各合成画像Ｐ１、Ｐ２、Ｐ３、Ｐ４およびＰ５が、互いに、水平方向および垂直方向に相対的ずれ量Δ０だけずれている。相対的ずれ量Δ０は、図９における視差Δを画像上の画素数に換算して得られる。
【００２８】
図１０（ａ）に示した５枚の合成画像Ｐ１、Ｐ２、Ｐ３、Ｐ４およびＰ５を、相対的ずれ量Δ０ずつずらして重ね合わせて得られる、複数の撮影レンズによる合成画像１０１０を図１０（ｂ）に示す。上述したように、式（１）に示される視差Δは、主要被写体と背景とで異なるため、図１０（ｂ）に示す複数の撮影レンズによる合成画像１０１０は主要被写体の被写体像９１０ａにピントが合っている一方で、背景はぼけることとなる。
【００２９】
視差Δに対応する相対的ずれ量Δ０を求める際、上述したように画像上の画素数へ換算されるため、画像上の画素単位に量子化されてしまうと、相対的ずれ量Δ０が画素単位の端数のずれ量の場合、撮影レンズ個々による合成画像を重ね合わせても主要被写体のピントが合わなくなることが考えられる。そこで、量子化前の相対的ずれ量Δ０がたとえば２．２画素分である場合、撮影レンズ単位の合成画像に基づき、内挿により相対的ずれ量Δ０が２画素に対応する撮影レンズ単位の合成画像を生成し、２画素ずらして重ね合わせるようにしても良い。内挿に用いる内挿演算アルゴリズムは、単純比例内挿の他、バイキュービック法などの公知の手法によるものを用いて良い。
【００３０】
上述した内挿演算アルゴリズムを用いて、たとえば相対的ずれ量Δ０を０．５画素単位とする撮影レンズ単位の合成画像を生成し、量子化単位を０．５画素単位とすることにより、解像度を２倍に向上することもできる。上述した５枚に限らず多くの撮影レンズ単位の合成画像Ｐ１，Ｐ２，．．．，Ｐｎを考慮することにより、解像度をさらに高く向上することもできる。
【００３１】
次に、複数の撮影レンズによる合成画像生成の際の、図９に示した視差Δを算出する方法、および撮影レンズ単位の合成画像生成の際の、図７に示した焦点面７１０の位置を算出する方法を説明する。
【００３２】
図１１は、撮影レンズ単位の合成画像Ｐ１，Ｐ２，．．．，Ｐｎのうちの隣接する２枚の合成画像ＰｘおよびＰｘ＋１を示した図である。合成画像ＰｘおよびＰｘ＋１には被写体像９１０ａが相対的ずれ量Δ０だけずれて位置している。相対的ずれ量Δ０が求まれば、視差Δに換算できる。制御装置１１０は、この換算により得られた視差Δと、記憶装置１５０から読み出した撮影レンズ１４１０の焦点距離ｆおよびレンズ配置間隔Ｌとを、式（１）に代入することにより被写体距離ｄを求めることができる。上述した量子化前の相対的ずれ量Δ０が求まれば、被写体距離ｄの精度が高まる。
【００３３】
量子化前の相対的ずれ量Δ０は、以下のようにして求められる。ユーザによる入力装置１６０を介した主要被写体の被写体像を決定する処理は、具体的には、図１１の合成画像ＰｘおよびＰｘ＋１における等しい位置の検出画素列１１１０が選択されることにより行われる。選択された合成画像ＰｘおよびＰｘ＋１における検出画素列１１１０を、各々Ａ列｛ａｉ｝およびＢ列｛ｂｉ｝（１≦ｉ≦ｍ）とする。Ａ列｛ａｉ｝およびＢ列｛ｂｉ｝の位相を互いに整数ｋ（−ｍ≦ｋ≦ｍ）ずつずらして積算した相関値Ｓ（ｋ）は、式（２）で示される。
【数２】
0005488221.tif 000003
【００３４】
整数ｋの変化に応じて変化するＳ（ｋ）は離散値となるが、式（２）において、Ｓ（ｋ）の最小値を与えるｋ＝ｊを求め、Ｓ（ｊ−１）、Ｓ（ｊ）およびＳ（ｊ＋１）による３点内挿により、離散値Ｓ（ｋ）を結んで連続関数Ｓ（ｘ）を求めた場合のＳ（ｘ）の最小値を与えるｘ＝ｘ０を得ることができる。すなわち、量子化前の相対的ずれ量Δ０＝ｘ０である。
【００３５】
このようにして求められた量子化前の相対的ずれ量Δ０を換算して図９に示した視差Δを算出することにより、上述した複数の撮影レンズによる画像合成処理が可能となる。さらに、量子化前の相対的ずれ量Δ０に基づき、上述したように被写体距離ｄが得られるので、記憶装置１５０に予め記憶されたレンズ特性を読み出すことにより、図７に示した焦点面７１０の位置を算出することができる。
【００３６】
図１２は、本発明による撮像装置１０の制御装置１１０が行う処理を示すフローチャートである。本処理が開始されると、制御装置１１０は、ステップＳ１２１１において、撮像素子１２０からの撮像画素データの周期読み出しを開始する。ステップＳ１２１３において、初期設定に基づくスルー画像を合成して表示装置１７０の画面に表示する。主要被写体が決定していないので、表示されるスルー画像は、初期設定に基づいて合成された暫定的なものである。
【００３７】
ステップＳ１２１５において、主要被写体が決定される。表示装置１７０の画面に主要被写体を決定することをユーザに促すメッセージを表示し、上述したように、ユーザにより入力装置１６０を介して主要被写体が決定されたか否かを判定する。否定判定の場合は、肯定判定が得られるまで処理を待機する。肯定判定が得られると、量子化前の相対的ずれ量Δ０が求まるので、ステップＳ１２１７において、視差Δを算出する。ステップＳ１２１９において、主要被写体までの被写体距離ｄを算出する。この被写体距離ｄに基づき、ステップＳ１２２１において、主要被写体の被写体像が結像される焦点面位置を算出する。算出された焦点面位置に基づき、ステップＳ１２２３において、主要被写体位置に応じたスルー画像を合成して表示装置１７０の画面に表示する。
【００３８】
ステップＳ１２２５において、シャッタレリーズをユーザに促すメッセージを表示装置１７０の画面に表示し、ユーザによって入力装置１６０を介してシャッタレリーズがされたか否かを判定する。否定判定の場合は、肯定判定が得られるまで処理を待機する。肯定判定が得られると、記録用画像を合成するために、ステップＳ１２２７において、撮像素子１２０から撮像画素データを読み出す。ステップＳ１２２９において、上述した撮影レンズ１４１０毎の画像合成処理を行う。ステップＳ１２３１において、上述した複数の撮影レンズ、すなわち撮影レンズアレイ１４０による画像を生成する画像合成処理を行う。ステップＳ１２３３において、生成した合成画像を表示装置１７０に表示するとともに記憶装置１５０に記録すると、本処理は終了する。
【００３９】
本実施の形態の撮像装置１０においては、撮影レンズ１４１０毎の画像合成処理による複数の合成画像の視差を考慮して、複数の撮影レンズによる画像を合成するようにした。これにより、主要被写体にピントが合い、かつ背景が適度にぼけた画像を合成することができるので、小型の画像合成撮像装置を実現できる。
【００４０】
上述した実施の形態の撮像装置１０においては、撮影レンズ１４１０が単玉であるので、球面収差を画像処理により補正することが好ましい。したがって変形例としては、撮影レンズ１４１０毎の画像合成処理に際しては、像高に応じた像面湾曲の曲面に基づく画像合成処理を行っても良い。さらに色収差を補正するためには、ＲＧＢの色毎に像面湾曲の曲面に基づく画像合成処理を行っても良い。
【００４１】
また、撮影レンズ１４０、マイクロレンズアレイ１３０、および撮像素子１２０の間隔に関して、距離ｆはマイクロレンズアレイ１３０を構成するマイクロレンズ１３１０の焦点距離、距離ｇは撮影レンズアレイ１４０を構成する撮影レンズ１４１０の焦点距離に夫々厳密に設定しなくてもよい。厳密に設定しないことによるずれは、個別に画像処理で補正することができる。さらに、光軸と垂直な方向でのずれも画像処理により個別に補正できる。
【００４２】
上述した実施の形態および変形例を組み合わせてもよい。
【符号の説明】
【００４３】
１０  撮像装置、５０、９２０  光線、１１０  制御装置、
１２０  撮像素子、１２５  撮像画素領域、
１３０  マイクロレンズアレイ、１３５  部分マイクロレンズアレイ、
１４０  撮影レンズアレイ、
１５０  記憶装置、１６０  入力装置、１７０  表示装置、２００  矢印、
７００  被写体光束、７１０  焦点面、１０１０  合成画像、１１１０  検出画素列、
１２１０  撮像画素、１３１０  マイクロレンズ、１４１０、１４２０  撮影レンズ
【図１】
0005488221.tif 000004
【図２】
0005488221.tif 000005
【図３】
0005488221.tif 000006
【図４】
0005488221.tif 000007
【図５】
0005488221.tif 000008
【図６】
0005488221.tif 000009
【図７】
0005488221.tif 000010
【図８】
0005488221.tif 000011
【図９】
0005488221.tif 000012
【図１０】
0005488221.tif 000013
【図１１】
0005488221.tif 000014
【図１２】
0005488221.tif 000015