(57)【要約】      （修正有）【課題】複数の撮像部により撮像される複数の画像を用いて画質を向上させる画像処理装置、および画像処理方法、並びにプログラムを提供する。【解決手段】高解像度撮像部３１により撮像された低感度な高解像度画像からなるメイン画像と、高感度撮像部３３により撮像された低解像度だが高感度画像からなるサブ画像とを用いて、相互の視差の有無を求め、視差があるときは、探索合成処理によりメイン画像の各画素について、サブ画像内を探索して類似した画素と合成し、視差がないときは最適合成処理で同一位置の画素間で画素を合成する。【選択図】図１
2017069926.tif 000002
【特許請求の範囲】
【請求項１】
第１の画像を撮像する第１の撮像部と、
第２の画像を撮像する第２の撮像部と、
前記第１の画像および前記第２の画像の視差の有無を判定する視差判定部と、
前記視差判定部の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成する合成部とを含む
画像処理装置。
【請求項２】
前記第１の撮像部、および前記第２の撮像部は、同一面上で、かつ、それぞれの光軸が平行である
請求項１に記載の画像処理装置。
【請求項３】
前記第１の画像、および前記第２の画像は、画像特性が異なる
請求項１に記載の画像処理装置。
【請求項４】
前記第１の画像、および前記第２の画像は、画素数、画角、波長帯域、またはカラーフィルタの配列の少なくともいずれかの前記画像特性が異なる
請求項３に記載の画像処理装置。
【請求項５】
前記視差量判定部は、前記第１の画像および前記第２の画像の画素単位、または、複数の画素からなる、複数の領域に分割された領域単位で視差の有無を判定する
請求項１に記載の画像処理装置。
【請求項６】
前記合成部は、
前記視差判定部が、前記視差がないと判定した場合、前記第１の画像および前記第２の画像のそれぞれの対応する位置の画素を合成し、
前記視差判定部が、前記視差があると判定した場合、前記第１の画像の各画素について、前記第２の画像上において、類似した画素を探索し、探索した画素と合成する
請求項１に記載の画像処理装置。
【請求項７】
前記第１の画像および前記第２の画像の特性を一致するように調整する特性調整部をさらに含み、
前記視差判定部は、前記特性調整部により前記特性が一致するように調整された前記第１の画像および前記第２の画像について、前記視差の有無を判定する
請求項１に記載の画像処理装置。
【請求項８】
前記特性調整部は、前記第１の画像および前記第２の画像の、解像度、感度、空間周波数特性、または、光軸の方向、もしくは、レンズ歪みを修正する平行化処理のうちの少なくともいずれかを一致するように調整する
請求項１に記載の画像処理装置。
【請求項９】
前記第１の画像に対して、前記第２の画像を平行移動して視差を低減する平行移動部をさらに含み、
前記平行移動部は、前記第２の画像の画像全体、または、前記第２の画像における画素単位で平行移動して視差を低減する
請求項１に記載の画像処理装置。
【請求項１０】
前記平行移動部は、前記第１の撮像部から、前記合焦面までの距離、前記第１の撮像部および前記第２の撮像部の配置、光学特性、および解像度に応じて求められる視差量、前記第１の撮像部の焦点距離を合わせた設定値から事前に設定されたテーブルを参照することで求められる視差量、前記第１の画像および前記第２の画像の共通する特徴点間のズレとして求められる視差量、前記第１の画像および前記第２の画像のそれぞれに応じた奥行きマップが与えられたときに、奥行きに応じて求める視差量、または、予め設定された所定の視差量だけ、前記第２の画像の画像全体、または、前記第２の画像における画素単位で平行移動する
請求項９に記載の画像処理装置。
【請求項１１】
第１の画像を撮像し、
第２の画像を撮像し、
前記第１の画像および前記第２の画像の視差の有無を判定し、
前記視差の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成するステップを含む
画像処理方法。
【請求項１２】
第１の画像を撮像する第１の撮像部と、
第２の画像を撮像する第２の撮像部と、
前記第１の画像および前記第２の画像の視差の有無を判定する視差判定部と、
前記視差判定部の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成する合成部としてコンピュータを機能させる
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、画像処理装置、および画像処理方法、並びにプログラムに関し、特に、複数の撮像系で撮像された画像を合成することで、画像の高画質化を実現できるようにした画像処理装置、および画像処理方法、並びにプログラムに関する。
【背景技術】
【０００２】
複数の異なる撮像系から構成される複眼カメラで撮影された画像を合成し、高画質化する技術が提案されている（特許文献１，２参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００４−３２８１３７号公報
【特許文献２】特開２０１０−１５７８６３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上述した特許文献１，２に代表される、これまでの手法では、異なる撮像系の間に存在する視差が無視された状態で合成されていた。
【０００５】
視差は被写体の撮像系からの距離に応じて変化するため、画素ごとに視差を正確に求めることは、コストが大きく、また、視差がある状態で複数の画像を合成するとアーティファクトや偽色を生じさせてしまう恐れがあった。
【０００６】
本開示は、このような状況に鑑みてなされたものであり、特に、複数の撮像系により撮像された画像を、視差を考慮して合成することで、画像の高画質化を実現できるようにするものである。
【課題を解決するための手段】
【０００７】
本開示の一側面の画像処理装置は、第１の画像を撮像する第１の撮像部と、第２の画像を撮像する第２の撮像部と、前記第１の画像および前記第２の画像の視差の有無を判定する視差判定部と、前記視差判定部の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成する合成部とを含む画像処理装置である。
【０００８】
前記第１の撮像部、および前記第２の撮像部は、同一面上で、かつ、それぞれの光軸を平行とすることができる。
【０００９】
前記第１の画像、および前記第２の画像は、画像特性が異なるようにすることができる。
【００１０】
前記第１の画像、および前記第２の画像は、画素数、画角、波長帯域、またはカラーフィルタの配列の少なくともいずれかの前記画像特性が異なるようにすることができる。
【００１１】
前記視差量判定部には、前記第１の画像および前記第２の画像の画素単位、または、複数の画素からなる、複数の領域に分割された領域単位で視差の有無を判定させるようにすることができる。
【００１２】
前記合成部には、前記視差判定部が、前記視差がないと判定した場合、前記第１の画像および前記第２の画像のそれぞれの対応する位置の画素を合成させ、前記視差判定部が、前記視差があると判定した場合、前記第１の画像の各画素について、前記第２の画像上において、類似した画素を探索させ、探索した画素と合成させるようにすることができる。
【００１３】
前記第１の画像および前記第２の画像の特性を一致するように調整する特性調整部をさらに含ませるようにすることができ、前記視差判定部には、前記特性調整部により前記特性が一致するように調整された前記第１の画像および前記第２の画像について、前記視差の有無を判定させるようにすることができる。
【００１４】
前記特性調整部には、前記第１の画像および前記第２の画像の、解像度、感度、空間周波数特性、または、光軸の方向、もしくは、レンズ歪みを修正する平行化処理のうちの少なくともいずれかを一致するように調整させるようにすることができる。
【００１５】
前記第１の画像に対して、前記第２の画像を平行移動して視差を低減する平行移動部をさらに含ませるようにすることができ、前記平行移動部には、前記第２の画像の画像全体、または、前記第２の画像における画素単位で平行移動して視差を低減させるようにすることができる。
【００１６】
前記平行移動部には、前記第１の撮像部から、前記合焦面までの距離、前記第１の撮像部および前記第２の撮像部の配置、光学特性、および解像度に応じて求められる視差量、前記第１の撮像部の焦点距離を合わせた設定値から事前に設定されたテーブルを参照することで求められる視差量、前記第１の画像および前記第２の画像の共通する特徴点間のズレとして求められる視差量、前記第１の画像および前記第２の画像のそれぞれに応じた奥行きマップが与えられたときに、奥行きに応じて求める視差量、または、予め設定された所定の視差量だけ、前記第２の画像の画像全体、または、前記第２の画像における画素単位で平行移動させるようにすることができる。
【００１７】
本開示の一側面の画像処理方法は、第１の画像を撮像し、第２の画像を撮像し、前記第１の画像および前記第２の画像の視差の有無を判定し、前記視差の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成するステップを含む画像処理方法である。
【００１８】
本開示の一側面のプログラムは、第１の画像を撮像する第１の撮像部と、第２の画像を撮像する第２の撮像部と、前記第１の画像および前記第２の画像の視差の有無を判定する視差判定部と、前記視差判定部の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成する合成部としてコンピュータを機能させるプログラムである。
【００１９】
本開示の一側面においては、第１の画像が撮像され、第２の画像が撮像され、前記第１の画像および前記第２の画像の視差の有無が判定され、前記視差の有無の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素が合成される。
【発明の効果】
【００２０】
本開示の一側面によれば、２枚の画像を視差に応じて適切に合成することができるので、複数の撮像部により同一の範囲を撮像して重ね合わせるといった合成により、適切な高画質化を実現させることが可能となる。
【図面の簡単な説明】
【００２１】
【図１】本開示を適用した画像処理装置の構成例を説明する図である。
【図２】図１の画像処理装置による画像処理を説明するフローチャートである。
【図３】視差を説明する図である。
【図４】視差量の求め方を説明する図である。
【図５】被写体距離と視差量との関係を説明する図である。
【図６】図２の判定値算出処理を説明するフローチャートである。
【図７】評価値と判定値との関係を説明する図である。
【図８】図２の探索合成処理を説明するフローチャートである。
【図９】探索合成処理を説明する図である。
【図１０】垂直方向に視差が発生したときの探索範囲を説明する図である。
【図１１】水平方向に視差が発生したときの探索範囲を説明する図である。
【図１２】図２の最適合成処理を説明するフローチャートである。
【図１３】図２のブレンド合成処理を説明するフローチャートである。
【図１４】本開示を適用した画像処理装置の第１の応用例を説明する図である。
【図１５】本開示を適用した画像処理装置の第２の応用例を説明する図である。
【図１６】図１５の画像処理装置による画像処理を説明するフローチャートである。
【図１７】図１６の探索合成処理を説明するフローチャートである。
【図１８】図１６の最適合成処理を説明するフローチャートである。
【図１９】汎用のパーソナルコンピュータの構成例を説明する図である。
【発明を実施するための最良の形態】
【００２２】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００２３】
また、以下の順序で説明を行う。
１．本開示の実施の形態
２．第１の応用例
３．第２の応用例
【００２４】
＜＜１．第１の実施の形態＞＞
＜画像処理装置の構成例＞
図１は、本開示を適用した複数の撮像系により撮像された画像を合成して（重ね合わせて）、画像を高画質化する画像処理装置の一実施の形態の構成例である。
【００２５】
図１の画像処理装置１１は、高解像度撮像部３１、特性変換部３２、高感度撮像部３３、特性変換部３４、平行移動部３５、視差判定部３６、および２眼合成部３７を備えている。
【００２６】
撮像方向に対して同一の面上であって、光軸が平行に構成された、例えば、CMOS（Complementary Metal Oxide Semiconductor）イメージセンサなどからなる高解像度撮像部３１および高感度撮像部３３が設けられている。高解像度撮像部３１は、図中左上部で示されるようなBayer配列の画像を撮像し、特性変換部３２に供給する。一方、高感度撮像部３３は、図中左下部で示されるような同じくBayer配列の画像を撮像し、特性変換部３２に供給する。
【００２７】
高解像度撮像部３１により撮像される画像は、高感度撮像部３３により撮像される画像と比較して、高解像度であるが、低感度の画像である。一方、高感度撮像部３３により撮像される画像は、高解像度撮像部３１により撮像される画像と比較して、高感度であるが、低解像度の画像である。また、高解像度撮像部３１および高感度撮像部３３は、同一面上で、かつ、それぞれの光軸が平行となるように設けられている。
【００２８】
尚、以降においては、高解像度撮像部３１により撮像される画像を、高感度撮像部３３により撮像された画像で高画質化する例について説明を進めるものとする。そこで、高解像度撮像部３１により撮像される画像を基準とするため、以降においては、メイン画像とも称するものとし、同様に、高感度撮像部３４により撮像された画像をサブ画像とも称するものとする。
【００２９】
特性変換部３２，３４は、それぞれ高解像度撮像部３１により撮像された高解像度のメイン画像の画像特性と、高感度撮像部３３により撮像された高感度のサブ画像の画像特性とを、相互に比較して一致しない場合、揃えるように変換し、視差判定部３６に出力する。ここでは、メイン画像とサブ画像との解像度が異なり、メイン画像の方が高解像度であるため、特性変換部３２は、高解像度のメイン画像の解像度を下げることで、低解像度のサブ画像に揃える。また、メイン画像は、サブ画像より低感度の画像であるため、特性変換部３２は、メイン画像の感度を、サブ画像の感度に合わせるように調整する。さらに、特性変換部３２，３４は、高解像度撮像部３１および高感度撮像部３３の光学特性や、組立ばらつきなどを補償するために平行化も行う。尚、すでにメイン画像とサブ画像の特性が揃っている場合、特性変換部３２，３４は、いずれも何も処理を行わない。
【００３０】
平行移動部３５は、予めわかっている高解像度撮像部３１、および高感度撮像部３３のそれぞれの光学特性などから生じる視差量の情報を入手できる場合、視差量を補正する方向にメイン画像およびサブ画像を平行移動させる。尚、高解像度撮像部３１、および高感度撮像部３３の光学特性などからなる視差量の情報については、必ずしも取得できないこともあるため、平行移動部３５は、視差量の情報が取得できた場合にのみ、この視差量の情報を利用して、メイン画像およびサブ画像のいずれか一方の画像の位置を基準として、他方の画像を平行移動させる。
【００３１】
視差判定部３６は、後述するメイン画像とサブ画像とを合成する手法を切り替えるために視差量を求め、合成方法を調整する。すなわち、メイン画像とサブ画像との視差が存在する画素を合成すると、アーティファクトや偽色が生じる原因となる。そのため、視差判定部３６は、視差量に応じて、合成方法を判定し、判定結果となる合成方法を２眼合成部３７に供給する。
【００３２】
２眼合成部３７は、視差判定部３６の判定結果に基づいて特定された合成方法で、特性が揃えられたメイン画像とサブ画像とを重ね合わせるようにして合成し、合成した画像を出力する。
【００３３】
＜図１の画像処理装置により画像合成処理＞
次に、図２のフローチャートを参照して、図１の画像処理装置１１による画像を合成する画像合成処理について説明する。
【００３４】
ステップＳ１１において、高解像度撮像部３１および高感度撮像部３３は、それぞれメイン画像およびサブ画像を撮像し、特性変換部３２，３４にそれぞれ出力する。
【００３５】
ステップＳ１２において、特性変換部３２，３４は、相互に入力されたメイン画像およびサブ画像の画像特性を比較し、画像特性が異なるか否かを判定する。ステップＳ１２において、この例においては、メイン画像がサブ画像に対して高解像度であり、特性が異なるので、処理は、ステップＳ１３に進む。
【００３６】
ステップＳ１３において、特性変換部３２，３４は、メイン画像およびサブ画像の画像特性を一致するように調整する。そして、特性変換部３２は、特性を調整したメイン画像を視差判定部３６に供給する。また、特性変換部３４は、サブ画像を平行移動部３５に供給する。調整対象となる特性としては、例えば、メイン画像およびサブ画像の解像度、感度、空間周波数特性、または、光軸の方向、もしくは、レンズ歪みの平行化処理等を含むものである。
【００３７】
より詳細には、ここでは、メイン画像がサブ画像に対して、高解像度で有り、かつ、低感度であるため、特性変換部３２が、メイン画像の解像度を、サブ画像の解像度に揃えると共に、メイン画像の感度をサブ画像の感度に調整することにより、メイン画像とサブ画像との特性を揃える。この他にも、特性変換部３２，３４は、高解像度撮像部３１および高感度撮像部３３の光学特性や、組立ばらつきなどを補償するために、メイン画像およびサブ画像を平行化する。ここでは、メイン画像の解像度をサブ画像に合わせる例について説明するものとするが、サブ画像をアップサンプルして、高解像度画像を作成し、サブ画像の解像度をメイン画像に揃えるようにしてもよい。
【００３８】
尚、ステップＳ１１において、メイン画像およびサブ画像の画像特性が一致している場合、ステップＳ１２の処理がスキップされる。
【００３９】
ステップＳ１４において、平行移動部３５は、高解像度撮像部３１および高感度撮像部３３の光学特性などからなる視差量を求めることができる情報（例えば、レンズ焦点距離などの情報）が取得できる状態であるか否かを判定する。予め高解像度撮像部３１および高感度撮像部３３の光学特性などの視差量を求めるために必要とされる情報が入力されていたり、または、高解像度撮像部３１および高感度撮像部３３などから通信等により視差量を求めるために必要とされる情報が取得できるような場合、処理は、ステップＳ１５に進む。
【００４０】
ステップＳ１５において、平行移動部３５は、視差量の情報を利用して、メイン画像を基準位置として、サブ画像を平行移動させる。
【００４１】
すなわち、高解像度撮像部３１および高感度撮像部３３からなる２眼のカメラで撮像した場合、図３で示されるように、メイン画像Ｐ１とサブ画像Ｐ２との間には視差が生じる。視差量は、注目領域の撮像位置からの距離、すなわち、奥行に応じて、異なるもので有り、例えば、図３の場合、メイン画像Ｐ１およびサブ画像Ｐ２の左部の家Ｃの左端部が注目領域であるとした場合、視差は、視差ｄ１となるが、右部の人物Ｄの左端部が注目領域であるとした場合、視差はｄ２となる。これは、高解像度撮像部３１および高感度撮像部３３の撮像位置からみて家Ｃが、人物Ｄよりも遠い位置に存在することにより生じるものである。
【００４２】
より詳細には、高解像度撮像部３１および高感度撮像部３３が、同一平面上かつ水平方向に設置された場合、高解像度撮像部３１および高感度撮像部３３のそれぞれで撮像された被写体は、それぞれ高解像度撮像部３１のイメージセンサ３１ａ上の位置x_l、および、高感度撮像部３３のイメージセンサ３３ａ上の位置x_rで結像される。この時の位置のずれが視差として現れ、視差量δ（＝x_l−x_r）は以下の式（１）で表される。ここで、図３においては、イメージセンサ３１ａからなる高解像度撮像部３１の視線方向がＱ１であり、イメージセンサ３３ａからなる高感度撮像部３３の視線方向がＱ２である。
【００４３】
【数１】
2017069926.tif 000003
・・・（１）
【００４４】
ここで、δは視差量、fはレンズの焦点距離、Tは撮像系間の距離、Zは被写体までの距離であり、いずれも単位は[mm]である。
【００４５】
高解像度撮像部３１および高感度撮像部３３のイメージセンサ３１ａ，３３ａにおける画素ピッチがp[mm/pixel]である場合、画像での視差δ_p[pixel]は式（２）で表される。
【００４６】
【数２】
2017069926.tif 000004
・・・（２）
【００４７】
図５は、式（２）の関係を表したものであり、焦点距離fおよび撮像系間の距離Tが不変であるならば、視差量δは被写体までの距離に反比例する。
【００４８】
例えば、所定の被写体に合焦しており、その被写体までの距離が既知の場合、式（１），式（２）から画像上における視差量を求めることができる。そこで、平行移動部３５は、上述した式（１），式（２）より視差量を求め、求めた視差量δだけ、メイン画像に対してサブ画像を平行移動することで、合焦位置の奥行に存在する被写体のメイン画像とサブ画像との視差を０にする。
【００４９】
尚、ステップＳ１４において、視差量を求めるための情報がない場合、ステップＳ１５の処理はスキップされ、平行移動部３５は、平行移動を行わず、サブ画像をそのまま視差判定部３６に出力する。また、仮に視差量を求めるための情報が直接得られない場合であっても、例えば、無限遠を基準として視差量を求めるようにして、平行移動するようにしてもよい。また、以上においては、画像全体を平行移動する例について説明してきたが、画素単位に平行移動するようにしてもよい。
【００５０】
尚、平行移動については、上述したように、合焦面までの距離、高解像度撮像部３１、および高感度撮像部３３の配置、光学特性、および解像度に応じて求められる視差量に応じて行うようにしてもよいが、平行移動ができればよいので、他の手法であってもよい。
【００５１】
例えば、高解像度撮像部３１の焦点距離を合わせた設定値から事前に設定されたテーブルを参照することで求められる視差量分だけ平行移動するようにしてもよい。また、メイン画像およびサブ画像の共通する特徴点間のズレとして求められる視差量分だけ平行移動するようにしてもよい。さらに、メイン画像およびサブ画像のそれぞれに応じた奥行きマップが与えられたときに、奥行きに応じて求められる視差量分だけ平行移動するようにしてもよいし、予め設定された所定の視差量だけ平行移動するようにしてもよい。
【００５２】
ステップＳ１６において、視差判定部３６は、以降において画素単位での処理となるため、メイン画像とサブ画像とのそれぞれ対応する画素位置について、未処理の画素のいずれかを処理対象となる注目画素に設定する。
【００５３】
ステップＳ１７において、視差判定部３６は、判定値算出処理を実行し、画素単位でのメイン画素とサブ画素の合成方法を判定するために必要となる画素単位の判定値αを算出する。
【００５４】
＜判定値算出処理＞
ここで、図６のフローチャートを参照して判定値αを算出する判定値算出処理について説明する。
【００５５】
ステップＳ３１において、視差判定部３６は、メイン画像およびサブ画像のそれぞれについて、注目画素の輝度値を算出する。
【００５６】
【数３】
2017069926.tif 000005
・・・（３）
【００５７】
ここで、ＲＧＢは、注目画素の画素位置におけるＲＧＢのそれぞれの補間画素値であり、Ｌは、輝度値である。
【００５８】
ステップＳ３２において、視差判定部３６は、メイン画像およびサブ画像のそれぞれについて求められた輝度値を用いて、高解像度撮像部３１および高感度撮像部３３の特性よりノイズの上限値および下限値を設定する。
【００５９】
ステップＳ３３において、視差判定部３６は、ノイズの上限値および下限値に基づいて、判定値を求めるための関数を設定する。ここで、判定値を求めるための関数とは、例えば、図７で示される関数である。図７のグラフにおいては、横軸がノイズの評価値Ｅであり、縦軸が判定値αである。ここで、ノイズの評価値における閾値ｔｈ１、ｔｈ２は、それぞれノイズの下限値および上限値である。後述する処理により求められるメイン画像およびサブ画像の注目画素におけるＲＧＢの画素間差分が、ノイズレベルの下限値よりも小さいとき、判定値αが０とされ、上限値よりも大きいとき、判定値αが１とされ、その間については、画素間差分に応じた０乃至１の値とされる。
【００６０】
ステップＳ３４において、視差判定部３６は、注目画素におけるＲＧＢのそれぞれのメイン画像とサブ画像との画素間差分値を算出し、その最大値を評価値Ｅとして算出する。すなわち、メイン画像の注目画素のＲＧＢの画素値が（Ｒｍ，Ｇｍ，Ｂｍ）であり、サブ画像の注目画素のＲＧＢの画素値が（Ｒｓ，Ｇｓ，Ｂｓ）であるとき、画素間差分値として、（｜Ｒｍ−Ｒｓ｜，｜Ｇｍ−Ｇｓ｜，｜Ｂｍ−Ｂｓ｜）が算出され、このうちの最大値が評価値Ｅとして算出される。尚、評価値Ｅは、メイン画像とサブ画像の同一位置の画素間の差分が求められればよいものであるので、画素間差分値（｜Ｒｍ−Ｒｓ｜，｜Ｇｍ−Ｇｓ｜，｜Ｂｍ−Ｂｓ｜）の最大値ではなく、例えば、平均値などでもよい。
【００６１】
ステップＳ３５において、視差判定部３６は、ステップＳ３３において設定された関数における、評価値Ｅに対応する判定値αを注目画素の判定値として求める。
【００６２】
すなわち、図７で示されるように、評価値Ｅが、推定したノイズの下限値ｔｈ１より差分が小さければ、注目画素におけるメイン画像とサブ画像との間には視差が存在しない領域であるものと判定し、判定値αが０とされる。また、評価値Ｅがノイズの下限値ｔｈ１と上限値ｔｈ２の間の場合、判定値αは、評価値に対応した０乃至１の値とされる。さらに、評価値Ｅが、ノイズの上限値ｔｈ２より大きければ、注目画素におけるメイン画像とサブ画像との間には視差が存在する領域であるものと判定し、判定値αが１とされる。
【００６３】
ここで、図２のフローチャートの説明に戻る。
【００６４】
ステップＳ１７において、合成方法を判定するための判定値αが求められると、ステップＳ１８において、視差判定部３６は、判定値αが１であるか否かを判定する。ステップＳ１８において、判定値αが１である場合、処理は、ステップＳ１９に進む。
【００６５】
ステップＳ１９において、視差判定部３６は、注目画素の合成方法を探索合成とし、２眼合成部３７に供給して探索合成処理を実行させて、注目画素を合成させる。
【００６６】
すなわち、判定値αが１であるということは、メイン画像とサブ画像との同一位置の画素の画素値が大きく異なり、同一の画素ではないと見なされ、視差が生じているものと見なされる。そこで、メイン画像における注目画素と同一の画素をサブ画像から探索し、探索された画素と合成する探索合成処理が選択される。尚、探索合成処理については、詳細を後述する。
【００６７】
また、ステップＳ１８において、判定値αが１ではない場合、処理は、ステップＳ２０に進む。
【００６８】
ステップＳ２０において、視差判定部３６は、判定値αが０であるか否かを判定し、判定値αが０である場合、処理は、ステップＳ２１に進む。
【００６９】
ステップＳ２１において、視差判定部３６は、注目画素の合成方法を最適合成とし、２眼合成部３７に供給して最適合成処理を実行させて、注目画素を合成させる。
【００７０】
すなわち、判定値αが０であるということは、メイン画像とサブ画像との同一位置の画素の画素値はほぼ同一であるものとみなされ、視差が生じていないものと見なされる。そこで、メイン画像における注目画素と同一位置のサブ画像の画素とを合成する最適合成処理が選択される。尚、最適合成処理については、詳細を後述する。
【００７１】
ステップＳ２０において、判定値αが０ではない場合、すなわち、判定値αが０＜α＜１である場合、処理は、ステップＳ２２に進む。
【００７２】
ステップＳ２２において、視差判定部３６は、注目画素の合成方法を探索合成と最適合成とを判定値αを用いてブレンドするブレンド合成とし、２眼合成部３７に供給してブレンド合成処理を実行させて注目画素を合成する。
【００７３】
すなわち、判定値αが０乃至１の範囲内であるということは、メイン画像における注目画素とサブ画像上の同一位置の画素とは、同一ではないので視差が生じてはいる疑いがあるが、比較的近い画素値であり、差分が視差であるかノイズであるかを判定できない画素である。そこで、探索合成画素と最適合成画素とを判定値αに応じてブレンドするブレンド合成処理が選択される。尚、ブレンド合成処理については、詳細を後述する。
【００７４】
すなわち、判定値αの値に応じて、合成方法が設定されて、設定された合成方法で画素が合成される。
【００７５】
ステップＳ２３において、視差判定部３６は、未処理の画素が存在するか否かを判定し、未処理の画素が存在する場合、処理は、ステップＳ１６に戻る。すなわち、ステップＳ１６乃至Ｓ２３の処理が、全ての画素が合成されるまで同様の処理が繰り返される。そして、ステップＳ２３において、全ての画素が合成されて、未処理の画素が存在しない場合、処理は、ステップＳ２４に進む。
【００７６】
ステップＳ２４において、２眼合成部３７は、メイン画像とサブ画像とを合成した画素からなる合成画像を出力し、処理を終了する。
【００７７】
以上の処理により、メイン画像およびサブ画像を合成することが可能となる。
【００７８】
＜図１の画像処理装置における探索合成処理＞
次に、図８のフローチャートを参照して、探索合成処理について説明する。
【００７９】
ステップＳ４１において、２眼合成部３７は、メイン画像のSNR（Signal to Noise Ratio）を向上させるため、注目画素を中心とした、所定の範囲、例えば、3×3画素の範囲を探索してノイズリダクションを掛ける。より具体的には、以下の式（４）で示されるフィルタ処理を施す。
【００８０】
【数４】
2017069926.tif 000006
・・・（４）
【００８１】
ここで、Pm,nmは、メイン画像における注目画素（m，n）の画素信号であり、σは、ノイズ推定値であり、Prefmは新たな基準信号（注目画素の画素信号）である。
【００８２】
式（４）で示される処理は、例えば、図９で示されるような、メイン画像の注目画素Pm,nmに対応する点線で囲まれる３×３画素の範囲にεフィルタ処理を施す処理である。
【００８３】
ステップＳ４２において、２眼合成部３７は、メイン画像の注目画素の画素信号を基準画素信号として、サブ画像内の基準画素信号と類似した画素信号を探索し、探索された画素の画素信号と、メイン画像の注目画素の画素信号である基準画素信号とを合成することで、探索合成画素として出力する。より具体的には、以下の式（５）で示される演算により探索合成画素が求められる。
【数５】
2017069926.tif 000007
・・・（５）
【００８４】
ここで、Pm,nSは、サブ画像における画素（m、n）の画素信号であり、σは、ノイズ推定値であり、Poutは探索合成画素の画素信号である。
【００８５】
すなわち、探索合成処理は、メイン画像の画素を基準画素信号とし、サブ画像内の基準画素信号と類似した画素信号を双方の類似度を求めて探索し、探索した注目画素と類似したサブ画像の画素と、メイン画像の注目画素の画素信号と合成する処理である。尚、探索に当たり利用される類似度としては、例えば、画素間の類似度の重みに応じる加重平均や、注目画素を中心とした３×３画素の範囲における対応する画素間の差分絶対値和などである。
【００８６】
このような合成処理が施されることにより、メイン画像に対してノイズリダクション掛けることが可能となる。サブ画像の信号がより高感度であれば、高いノイズリダクションの効果が期待できる。
【００８７】
メイン画像における注目画素の画素信号と類似した画素信号と判定する基準は、視差判定部における評価値を求める処理と同じ手法であり、まずノイズの値が推定され、ノイズの推定値と、基準画素信号とサブ画像の画素との差分信号を比較することで有意性を判定する。
【００８８】
視差のあるサブ画像を同一画素として合成した場合、アーティファクトや偽色が生じる可能性が高いため、視差のあるサブ画像の画素と合成され難いようにノイズ推定値を小さく計算されるように高解像度撮像部３１および高感度撮像部３３の光学系の特性を調整する。
【００８９】
メイン画像とサブ画像の感度差が顕著に大きい場合、基準画素信号は相対的にノイズを多く含むことになり、基準画素信号とサブ画像の各画素の真値が等しいかどうか判断することが困難になる。そこで、ステップＳ４１の処理により、メイン画像のSNRを向上させることを目的に、事前処理としてメイン画素のみで3x3の範囲で探索しノイズリダクションが行われている。
【００９０】
尚、注目画素と類似した画素を探索するサブ画像内の探索の初期位置は、メイン画像と同じ座標でもよいし、所定値分だけ移動させた位置を初期位置としてもよい。所定値としては、合焦面で視差０となるように算出した既出の視差量、または、メイン画像とサブ画像に共通して存在する特徴点（共通して存在するオブジェクトの同一の画素位置など）に対応する位置の視差量を利用するようにしてもよい。
【００９１】
また、この時、サブ画像の探索範囲は、垂直方向と水平方向をパラメータで調整するようにしてもよく、例えば、視差が垂直方向に存在すれば、図１０の点線で囲まれた範囲で示されるように、垂直方向の探索範囲を広くし、視差が水平方向に存在すれば、図１１の点線で囲まれた範囲で示されるように水平方向の探索範囲を広くすることで、効率的な探索を実現することが可能となり、演算量を抑制することが可能となる。
【００９２】
＜図１の画像処理装置による最適合成処理＞
次に、図１２のフローチャートを参照して、最適合成処理について説明する。
【００９３】
ステップＳ５１において、２眼合成部３７は、メイン画像における注目画素と対応する位置のサブ画像における画素とを合成するための、混合比βを、例えば、以下の式（６）を演算することにより算出する。
【００９４】
【数６】
2017069926.tif 000008
・・・（６）
【００９５】
ここで、σmainは、メイン画像のノイズ分散推定値であり、σsubは、サブ画像のノイズ分散推定値であり、βは、メイン画像における注目画素の画素信号と、サブ画像における注目画素に対応する位置の画素の画素信号との混合比である。
【００９６】
ステップＳ５２において、２眼合成部３７は、以下の式（７）を演算することにより、算出した混合比βでメイン画像における注目画素の画素信号と、サブ画像における注目画素に対応する位置の画素の画素信号とを合成し、最適合成信号として算出する。
【００９７】
【数７】
2017069926.tif 000009
・・・（７）
【００９８】
最適合成は、合成後の信号のSNRが最大となるように合成する手法である。すなわち、最適合成は、メイン画像とサブ画像の視差やブラー、および飽和画素がないときの合成を想定している。つまり、サブ画像をメイン画像と入れ替えるような処理をしても、アーティファクトや偽色が生じない状況での合成である。
【００９９】
また、最適合成処理は、繰り返しの演算がないため、探索合成処理と比較すると演算量を低減することが可能となる。また、予め視差判定処理により、最適合成処理で問題のある画素だけを探索合成処理で対応することができ、それ以外の画素については、最適合成処理により対応するようにすることで、全画素に探索合成処理を掛けずに済ますことが可能となるので、演算量を低減させることが可能になると共に、SNRを最大にして合成することが可能となる。
【０１００】
＜図１の画像処理装置によるブレンド合成処理＞
次に、図１３のフローチャートを参照して、ブレンド合成処理について説明する。
【０１０１】
ステップＳ７１において、２眼合成部３７は、メイン画像の注目画素について、サブ画像の対応する画素と探索合成処理により合成画素を生成する。尚、探索合成処理については、図８のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０１０２】
ステップＳ７２において、２眼合成部３７は、メイン画像の注目画素について、サブ画像の対応する画素と最適合成処理により合成画素を生成する。尚、最適合成処理については、図１２のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
【０１０３】
ステップＳ７３において、２眼合成部３７は、判定値αを混合比として、探索合成処理により求められた画素信号と、最適合成処理により求められた画素信号とを混合することで合成し、ブレンド合成画素として出力する。より具体的には、２眼合成部３７は、例えば、以下の式（８）の演算により、判定値αを混合比として、探索合成処理により求められた画素信号と、最適合成処理により求められた画素信号とを合成する。
【０１０４】
【数８】
2017069926.tif 000010
・・・（８）
【０１０５】
ここで、OUTは、ブレンド合成信号であり、OUTsearchは、探索合成処理により求められた画素信号であり、OUToptは、最適合成処理により求められた画素信号であり、αは、判定値（0＜α＜1）である。
【０１０６】
尚、判定値αが切り替わる閾値となる、ノイズの下限値ｔｈ１、および上限値ｔｈ２が同値であれば、最適合成処理および探索合成処理が急峻に切り替わることとなり、実質的にブレンド合成処理なくなり、探索合成処理または最適合成処理のいずれかにより画素が合成されることになる。
【０１０７】
また、サブ画像をメイン画像に合わせて、視差量分だけ平行移動させる処理は、高解像度撮像部３１および高感度撮像部３３の光学系の視差量を得るための情報が得られる場合にのみなされるものであるので、平行移動部３５は、省略するようにしてもよい。
【０１０８】
＜２．第１の応用例＞
以上においては、メイン画像およびサブ画像の入力を、いずれもBayer配列の画像としてきたが、例えば、図１４で示されるように、メイン画像およびサブ画像における各画素にＲＧＢの３色がそろった画像を利用するようにしてもよい。この場合、ＲＧＢの各画像に対して処理が必要となるため、演算量が増加するが、各画素についてＲＧＢの３色のそれぞれが揃った状態で処理がなされるため、よりメイン画像の高感度化を実現することが可能となる。
【０１０９】
また、以上の実施例は、感度が異なる構成でSNRの向上を目的に合成する手法について説明してきたが、感度が低い信号値の感度差分を補償して合成することで、HDR（ハイダイナミックレンジ）機能を実現することも可能となる。
【０１１０】
＜３．第２の応用例＞
さらに、以上においては、メイン画像およびサブ画像の画角が同一の画像である場合について説明してきたが、必ずしも同一の画角からなる画像同士でなくてもよく、例えば、それぞれ広角画像および望遠画像とするようにしてもよい。
【０１１１】
すなわち、図１５で示されるように、高解像度撮像部３１にメイン画像として広角画像を入力し、高感度撮像部３３にサブ画像として望遠画像を入力するようにしてもよい。
【０１１２】
図１５は、高解像度撮像部３１にメイン画像として広角画像を入力し、高感度撮像部３３にサブ画像として望遠画像を入力するようにした画像処理装置１１の構成例を示している。尚、図１５の画像処理装置１１において、図１の画像処理装置１１と同一の機能を備えた構成については、同一の名称、および同一の符号を付すものとし、その説明は適宜省略するものとする。
【０１１３】
すなわち、図１５の画像処理装置１１において、図１の画像処理装置と異なるのは、視差判定部３６、および２眼合成部３７に代えて、視差判定部１０１、および２眼合成部１０２を備えている点である。
【０１１４】
視差判定部１０１は、基本的には視差判定部３６と同様の機能を備えているが、さらに、画角が異なるメイン画像たる広角画像とサブ画像たる望遠画像のうち、メイン画像とサブ画像との画角が重なる範囲の画素のみの視差判定を行う。
【０１１５】
２眼合成部１０２は、メイン画像たる広角画像とサブ画像たる望遠画像との画角が重なる領域において、サブ画像における高周波成分を抽出して、広角画像のうち、望遠画像の領域となる範囲に加算することで、広角画像であって、望遠画像に対応する領域を高精細な画像とする。
【０１１６】
＜図１５の画像処理装置による画像合成処理＞
次に、図１６のフローチャートを参照して、図１５の画像処理装置による画像合成処理について説明する。尚、図１６のステップＳ９１乃至Ｓ９５，Ｓ９８，Ｓ９９，Ｓ１０１、Ｓ１０４，Ｓ１０５の処理は、図２のステップＳ１１乃至Ｓ１５，Ｓ１７，Ｓ１８，Ｓ２０，Ｓ２３，Ｓ２４の処理と同様であるので、適宜省略するものとする。
【０１１７】
すなわち、ステップＳ９６においては、視差判定部３６は、以降において画素単位での処理となるため、メイン画像の画素位置について、未処理の画素のいずれかを処理対象となる注目画素に設定する。
【０１１８】
ステップＳ９７において、視差判定部３６は、注目画素がサブ画像における画角内の画素であるか否かを判定する。すなわち、ここでは、メイン画像が広角画像であり、サブ画像が望遠画像であるため、サブ画像は、メイン画像の一部となる。このため、処理が可能なのは、メイン画像とサブ画像の画角がいずれも重なる領域となるため、それ以外の領域は、処理範囲から除外するため、注目画素がサブ画像の画角内の画素であるか否かを判定する。ステップＳ９７において、注目画素がサブ画像の画角内の画素である場合、処理は、ステップＳ９８に進む。
【０１１９】
ステップＳ９８において、判定値算出処理がなされることにより、メイン画像である注目画素と、対応する画素位置のサブ画像の画素との間に視差の有無を判定するための判定値αが算出されることになる。尚、判定値算出処理は、図６のフローチャートを参照して説明した処理と同様であるので、ここでは省略するものとする。
【０１２０】
そして、ステップＳ９９において、判定値αが１であり、視差があると判定された場合、処理は、ステップＳ１００に進む。
【０１２１】
ステップＳ１００において、２眼合成部１０１は、探索合成処理を実行し、注目画素に対して、サブ画像上の類似する画素を探索し、探索した画素の高周波成分を加算する。
【０１２２】
すなわち、判定値αが１であるということは、メイン画像上の注目画素と、同一位置のサブ画像の画素は、視差により同一ではないことになるため、サブ画像上で注目画素と類似する画素を探索し、探索されたサブ画像上の画素を用いた処理が必要となる。
【０１２３】
＜図１５の画像処理装置による探索合成処理＞
ここで、図１７のフローチャートを参照して、図１５の画像処理装置１１による探索合成処理について説明する。
【０１２４】
ステップＳ１２１において、２眼合成部１０２は、メイン画像のSNR（Signal to Noise Ratio）を向上させるため、注目画素を中心とした、所定の範囲、例えば、3×3画素の範囲を探索してノイズリダクションを掛ける。この処理は、上述した図８におけるステップＳ４１の処理と同様である。
【０１２５】
ステップＳ１２２において、２眼合成部１０２は、サブ画像内であって、探索範囲内において、現在の注目画素と最も類似する画素を探索する。ここで、注目画素と最も類似するサブ画像上の画素とは、例えば、画素間の類似度の重みに応じる加重平均や、注目画素と探索画素とのそれぞれを中心とした３画素×３画素の範囲における画素間差分絶対値和などである。
【０１２６】
ステップＳ１２３において、２眼合成部１０２は、注目画素と最も類似度の高いサブ画像上の画素の高周波成分を抽出する。
【０１２７】
ステップＳ１２４において、２眼合成部１０２は、注目画素の画素値に、抽出した高周波成分を加算して合成結果として記憶する。
【０１２８】
すなわち、このような処理により、メイン画像のうち、視差があるとみなされた画素に対して、サブ画像内で類似度の高い画素が探索されることにより、視差による影響を低減して、サブ画像の高周波成分をメイン画像におけるサブ画像と同一の画角領域の画素に加算することが可能となる。
【０１２９】
ここで、図１６の説明に戻る。
【０１３０】
一方、ステップＳ１０１において、判定値αが０である場合については、メイン画像上の注目画素と、対応するサブ画像上の画素に視差が生じていないとみなされることになるので、処理は、ステップＳ１０２に進み、最適合成処理がなされて、対応する位置のサブ画像における高周波成分が注目画素の画素値に加算される。
【０１３１】
＜図１５の画像処理装置による最適合成処理＞
ここで、図１８のフローチャートを参照して、図１５の画像処理装置による最適合成処理について説明する。
【０１３２】
ステップＳ１４１において、２眼合成部１０２は、メイン画像における注目画素と対応するサブ画像上の位置の画素の高周波成分を抽出する。
【０１３３】
ステップＳ１４２において、２眼合成部１０２は、メイン画像における注目画素の画素値に抽出した、サブ画像上の注目画素に対応する位置の画素の高周波成分を加算して記憶する。
【０１３４】
以上の処理により、メイン画像上の注目画素と対応する位置のサブ画像上の画素は、視差がないものとみなされて、サブ画像上の画素の高周波成分が、そのまま注目画素に加算されることになる。
【０１３５】
ここで、図１６のフローチャートの説明に戻る。
【０１３６】
さらに、判定値αが０乃至１の範囲内である場合、ステップＳ１０３において、ブレンド合成処理が実行されて、探索合成処理で高周波成分が加算された画素と、最適合成処理で高周波成分が加算された画素とが、判定値αを用いた混合比でブレンドされる。尚、この処理については、図１３のフローチャートを参照して説明した処理と同様であるので、その説明は省略するものとする。
【０１３７】
そして、ステップＳ９７において、注目画素のうち、サブ画像の画角外であるとみなされた場合、処理は、ステップＳ１０４に進む。すなわち、この場合、注目画素については、処理が施されないまま記憶される。そして、メイン画像の全画素について処理がなされると、ステップＳ１０５において、２眼合成部１０２により記憶された画素値からなる画像が出力される。
【０１３８】
この結果、広角画像たるメイン画像のうち、望遠画像たるサブ画像の領域内に、サブ画像の高周波成分が加算されることになるので、広角画像であって、かつ、望遠画像に対応する領域を高精細な画像とすることが可能となる。
【０１３９】
尚、メイン画像とサブ画像の組み合わせはこれ以外のものであってもよく、例えば、メイン画像をBayer画像とし、サブ画像をモノクロ画像とするようにしてもよいし、また、メイン画像をBayer画像とし、サブ画像を近赤外線画像とするようにしてもよい。
【０１４０】
すなわち、メイン画像をBayer配列のセンサにより撮像された画像として、サブ画像をモノクロのセンサにより撮像された画像にすることで、高解像度な合成結果の取得が可能になる。この構成の場合、光学系をメイン画像とサブ画像とで同一にすることができるため、全画角において合成することが可能である。
【０１４１】
モノクロ画像のセンサはBayer配列のセンサと比べると、輝度が高解像度である点と感度がよい点が特徴である。結果として、合成画像は、高解像度の効果とSNRを向上させるようにすることができる。
【０１４２】
また、メイン画像をBayer配列のセンサ、サブ画像の近赤外画像に感度を持つセンサにすることで、可視光では撮影することができない画像をメイン画像に合成することが可能である。血中のヘモグロビンを撮像することが可能となる。
【０１４３】
視差がある領域と視差がない領域をあらかじめ切り分けることで、視差有無に応じて処理を切り替え、演算量の削減を図ることが可能となる。
【０１４４】
また、メイン画像とサブ画像の探索の演算範囲を、視差方向に垂直な方向は狭く、平行な方向は広く範囲を持つことで、演算量を抑えつつ、高画質化することが可能となる。
【０１４５】
注目する領域の視差を最小にすることによって、特性を最大化して合成することが可能となる。
【０１４６】
さらに、以上においては、画素単位での視差の有無を求める判定値を求める例について説明してきたが、視差の有無は、画素単位でなくてもよく、例えば、画像全体を複数の画素単位の領域に分割し、分割された領域毎に視差の有無を求め、判定値を求めるようにし、領域単位で合成するようにしてもよい。
【０１４７】
また、以上においては、平行移動部３５における動作は、高解像度撮像部３１および高感度撮像部３３の合焦面までの距離といった光学特性など視差を求めるのに必要な情報を外部から取得し、それぞれの合焦面までの距離、配置、光学特性、および解像度に応じて求められる視差量分だけ平行移動させる例について説明してきたが、視差を低減できるようにする平行移動であれば、他の方法でもよく、例えば、一方の撮像部の焦点距離を合わせた設定値から事前に設定されたテーブルを参照することで求められる視差量、２の画像の共通する特徴点間のズレとして求められる視差量、２の画像のそれぞれに応じた奥行きマップが与えられたときに、奥行きに応じて求める視差量、または、予め設定された所定の視差量だけ平行移動して視差を低減させるようにしてもよい。
【０１４８】
＜ソフトウェアにより実行させる例＞
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
【０１４９】
図１９は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)１００１を内蔵している。CPU１００１にはバス１００４を介して、入出力インタ-フェイス１００５が接続されている。バス１００４には、ROM(Read Only Memory)１００２およびRAM(Random Access Memory)１００３が接続されている。
【０１５０】
入出力インタ-フェイス１００５には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部１００６、処理操作画面や処理結果の画像を表示デバイスに出力する出力部１００７、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部１００８、LAN（Local Area Network）アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部１００９が接続されている。また、磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む）、光磁気ディスク（ＭＤ(Mini Disc)を含む）、もしくは半導体メモリなどのリムーバブルメディア１０１１に対してデータを読み書きするドライブ１０１０が接続されている。
【０１５１】
CPU１００１は、ROM１００２に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア１０１１ら読み出されて記憶部１００８にインストールされ、記憶部１００８からRAM１００３にロードされたプログラムに従って各種の処理を実行する。RAM１００３にはまた、CPU１００１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【０１５２】
以上のように構成されるコンピュータでは、CPU１００１が、例えば、記憶部１００８に記憶されているプログラムを、入出力インタフェース１００５及びバス１００４を介して、RAM１００３にロードして実行することにより、上述した一連の処理が行われる。
【０１５３】
コンピュータ（CPU１００１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア１０１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０１５４】
コンピュータでは、プログラムは、リムーバブルメディア１０１１をドライブ１０１０に装着することにより、入出力インタフェース１００５を介して、記憶部１００８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部１００９で受信し、記憶部１００８にインストールすることができる。その他、プログラムは、ROM１００２や記憶部１００８に、あらかじめインストールしておくことができる。
【０１５５】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０１５６】
また、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０１５７】
なお、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【０１５８】
例えば、本開示は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０１５９】
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０１６０】
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０１６１】
尚、本開示は、以下のような構成も取ることができる。
＜１＞  第１の画像を撮像する第１の撮像部と、
第２の画像を撮像する第２の撮像部と、
前記第１の画像および前記第２の画像の視差の有無を判定する視差判定部と、
前記視差判定部の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成する合成部とを含む
画像処理装置。
＜２＞  前記第１の撮像部、および前記第２の撮像部は、同一面上で、かつ、それぞれの光軸が平行である
＜１＞に記載の画像処理装置。
＜３＞  前記第１の画像、および前記第２の画像は、画像特性が異なる
＜１＞または＜２＞に記載の画像処理装置。
＜４＞  前記第１の画像、および前記第２の画像は、画素数、画角、波長帯域、またはカラーフィルタの配列の少なくともいずれかの前記画像特性が異なる
＜３＞に記載の画像処理装置。
＜５＞  前記視差量判定部は、前記第１の画像および前記第２の画像の画素単位、または、複数の画素からなる、複数の領域に分割された領域単位で視差の有無を判定する
＜１＞乃至＜４＞のいずれかに記載の画像処理装置。
＜６＞  前記合成部は、
前記視差判定部が、前記視差がないと判定した場合、前記第１の画像および前記第２の画像のそれぞれの対応する位置の画素を合成し、
前記視差判定部が、前記視差があると判定した場合、前記第１の画像の各画素について、前記第２の画像上において、類似した画素を探索し、探索した画素と合成する
＜１＞乃至＜５＞のいずれかに記載の画像処理装置。
＜７＞  前記第１の画像および前記第２の画像の特性を一致するように調整する特性調整部をさらに含み、
前記視差判定部は、前記特性調整部により前記特性が一致するように調整された前記第１の画像および前記第２の画像について、前記視差の有無を判定する
＜１＞乃至＜６＞のいずれかに記載の画像処理装置。
＜８＞  前記特性調整部は、前記第１の画像および前記第２の画像の、解像度、感度、空間周波数特性、または、光軸の方向、もしくは、レンズ歪みを修正する平行化処理のうちの少なくともいずれかを一致するように調整する
＜１＞乃至＜７＞のいずれかに記載の画像処理装置。
＜９＞  前記第１の画像に対して、前記第２の画像を平行移動して視差を低減する平行移動部をさらに含み、
前記平行移動部は、前記第２の画像の画像全体、または、前記第２の画像における画素単位で平行移動して視差を低減する
＜１＞乃至＜８＞のいずれかに記載の画像処理装置。
＜１０＞  前記平行移動部は、前記第１の撮像部から、前記合焦面までの距離、前記第１の撮像部および前記第２の撮像部の配置、光学特性、および解像度に応じて求められる視差量、前記第１の撮像部の焦点距離を合わせた設定値から事前に設定されたテーブルを参照することで求められる視差量、前記第１の画像および前記第２の画像の共通する特徴点間のズレとして求められる視差量、前記第１の画像および前記第２の画像のそれぞれに応じた奥行きマップが与えられたときに、奥行きに応じて求める視差量、または、予め設定された所定の視差量だけ、前記第２の画像の画像全体、または、前記第２の画像における画素単位で平行移動する
＜９＞に記載の画像処理装置。
＜１１＞  第１の画像を撮像し、
第２の画像を撮像し、
前記第１の画像および前記第２の画像の視差の有無を判定し、
前記視差の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成するステップを含む
画像処理方法。
＜１２＞  第１の画像を撮像する第１の撮像部と、
第２の画像を撮像する第２の撮像部と、
前記第１の画像および前記第２の画像の視差の有無を判定する視差判定部と、
前記視差判定部の判定結果に応じて、前記第１の画像および前記第２の画像のそれぞれの画素を合成する合成部としてコンピュータを機能させる
プログラム。
【符号の説明】
【０１６２】
１１  画像処理装置，  ３１  高解像度撮像部，  ３２  特性変換部，  ３３  高感度撮像部，  ３４  特性変換部，  ３５  平行移動部，  ３６  視差判定部，  ３７  ２眼合成部
【図１】
2017069926.tif 000011
【図２】
2017069926.tif 000012
【図３】
2017069926.tif 000013
【図４】
2017069926.tif 000014
【図５】
2017069926.tif 000015
【図６】
2017069926.tif 000016
【図７】
2017069926.tif 000017
【図８】
2017069926.tif 000018
【図９】
2017069926.tif 000019
【図１０】
2017069926.tif 000020
【図１１】
2017069926.tif 000021
【図１２】
2017069926.tif 000022
【図１３】
2017069926.tif 000023
【図１４】
2017069926.tif 000024
【図１５】
2017069926.tif 000025
【図１６】
2017069926.tif 000026
【図１７】
2017069926.tif 000027
【図１８】
2017069926.tif 000028
【図１９】
2017069926.tif 000029