(57)【特許請求の範囲】
【請求項１】
第１の撮像部及び第２の撮像部の２つの撮像部を少なくとも有し、前記第１の撮像部と前記第２の撮像部のそれぞれの焦点位置を制御する焦点制御部と、前記第１の撮像部と前記第２の撮像部とによりそれぞれ撮像された第１の画像と第２の画像とを含む画像データを画像処理する画像処理装置と、を有する撮像装置であって、
前記第１の画像と第２の画像から被写体までの距離情報を算出する距離情報算出部と、
前記第１の画像と前記第２の画像とを合成する画像合成部と、
前記画像合成部は前記第１の画像と前記第２の画像とのいずれを合成するかを、合焦範囲と前記距離情報と合焦状態に基づいて判定する画像判定部と、
前記第１の画像と前記第２の画像とを合成して合焦画像を生成する合焦画像生成部と、を有し、
前記焦点制御部は、前記第１の撮像部と前記第２の撮像部の焦点距離を異なる合焦位置に制御し、
前記合焦画像生成部は、前記画像判定部による判定結果に基づいて、合焦画像を生成することを特徴とする撮像装置。
【請求項２】
前記画像判定部は、
被写体の周辺部に関して、前記第１の画像と前記第２の画像との間で合焦状態を検出し、焦点の合っている方の画像を抽出することを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記画像判定部は、画像を合成する境界付近において合成する画像を判別する際に、合成する複数の画像の合焦状態を検出し、両者の合焦状態に差がない場合には、近景に合焦している画像を優先して抽出することを特徴とする請求項１又は２に記載の撮像装置。
【請求項４】
前記距離情報算出部は、
距離情報の算出前に画像を縮小する画像縮小部をさらに備えるとともに、
前記画像合成部は、
前記距離情報と、前記画像縮小部における画像を縮小する際の縮小率とに基づいて、前記第１又は前記第２の画像を拡大する画像拡大部をさらに備え、
前記合焦画像生成部は、前記第１または第２の画像のうち近景に合焦している領域を前記画像拡大部により拡大して合成することを特徴とする請求項１から３までのいずれか１項に記載の撮像装置。
【請求項５】
第１の撮像部及び第２の撮像部と、前記第１の撮像部と前記第２の撮像部との焦点位置を制御する焦点制御部と、を有する撮像装置によりそれぞれ撮像された第１の画像と第２の画像とを含む画像データを画像処理する画像処理装置であって、
前記第１の画像と前記第２の画像との２枚の画像から距離情報を算出する距離情報算出部と、
前記第１の画像と第２の画像との２枚の画像を合成する画像合成部と、
前記画像合成部は前記第１の画像と前記第２の画像とのいずれを合成するかを、合焦範囲と前記距離情報と合焦状態に基づいて判定する画像判定部と、
前記第１の画像と前記第２の画像とを合成して合焦画像を生成する合焦画像生成部と、を更に有し、
前記撮像装置により撮像された入力画像の合焦状態が異なる際に、
前記距離情報算出部は、前記第１の画像と前記第２の画像から距離情報を算出すると共に、
前記合焦画像生成部は、前記画像判定部による判定結果に基づいて、前記第１の画像と前記第２の画像とを合成することを特徴とする画像処理装置。
【請求項６】
第１の撮像部及び第２の撮像部と、前記第１の撮像部と前記第２の撮像部のそれぞれの焦点位置を制御する焦点制御部と、を有する撮像装置によりそれぞれ撮像された第１の画像と第２の画像とを含む画像データを画像処理する画像処理方法であって、
前記第１の画像と第２の画像から被写体までの距離情報を算出する距離情報算出ステップと、前記第１の画像と前記第２の画像とを合成する画像合成ステップと、
前記画像合成ステップは前記第１の画像と前記第２の画像とのいずれを合成するかを、合焦範囲と前記距離情報と合焦状態に基づいて判定する画像判定ステップと、
前記第１の画像と前記第２の画像とを合成して合焦画像を生成する合焦画像生成ステップと、を有し、
前記撮像装置により撮像された入力画像の合焦状態が異なる際に、前記合焦画像生成ステップは、前記画像判定ステップによる判定結果に基づいて、合焦画像を生成することを特徴とする画像処理方法。
【請求項７】
請求項６に記載の画像処理方法を、コンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の撮像光学系を備え、撮像素子によって取得された画像から距離情報を算出し、距離情報をもとに手前から奥まで幅広い範囲においてフォーカスの合った画像を生成する撮像装置に関する。
【背景技術】
【０００２】
従来、２つの撮像光学系により右目画像、左目画像を撮影してステレオ画像を生成することが可能な撮像装置や、２つ以上の様々な視点位置からの映像を取得する多眼撮像装置など、複数の撮像光学系を用いた撮像装置が知られている。このような撮像装置において、各カメラの焦点距離を変えて被写体を撮像することにより、様々な奥行距離にある被写体に合焦させ鮮明な状態で撮像する為の様々な方法が提案されている。
【０００３】
例えば、被写体となる外界の風景、人物等の入射光をハーフミラーにより分光した後、これを２つ以上の焦点合わせの異なるテレビ撮像カメラを用いて撮像し、各カメラ出力信号の各画素を比較し焦点位置の合った方の信号を演算選択処理する手段をもつテレビ撮像機がある。これにより、遠景にも近景にも合焦したぼけの少ない画像を生成することを可能としている（下記特許文献１参照）。
【０００４】
また、互いに重複しない識別情報ｎ（ｎ＝１、２、３、…）の付与された複数の撮像光学系を備え、各撮像光学系におけるフォーカスレンズの各々のピント位置を、Ｈ／（２ｎ−１）以上の被写体距離Ｌに対応するレンズ位置に設定して、撮像指示に応じて各撮像光学系の受光被写体像を各々に対応する撮像素子で同時に画像データに変換する同時撮像を行うことで、撮像光学系の数に比例して、より広い距離範囲で合焦画像が得られる撮像装置がある。同時に様々な距離にピントのあった画像を取得できる為、撮影しようとする被写体の距離に関わらずピントの合った映像の撮影が可能となる（下記特許文献２参照）。
【０００５】
また、第１センサ出力をもたらす第１イメージセンサ及びその上に視野内光景の画像を発現させる第１レンズを有する第１撮像部と、第２センサ出力をもたらす第２イメージセンサ及びその上に視野内光景の第２画像を発現させる第２レンズを有する第２撮像部とを備え、２つの撮像部における出力のうち一方を撮像出力信号として選定する一方、もう一方で被写体焦点位置を検出するほか、二眼の情報から距離マップを生成する距離マップ生成型マルチレンズカメラがある。これにより、静止画や動画撮影時に映像撮影に使用していない撮像部で焦点合わせを行う為、高速にピントを合わせる事が可能となるほか、二眼で距離情報の算出を可能としている（下記特許文献３参照）
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開昭６３−２２４５５７号公報
【特許文献２】特開２０１０−２０４４８３号公報
【特許文献３】特表２０１０−５２４２７９号広報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
上述のように、従来から、様々な距離にある被写体を鮮明に撮影したいという要望は多い。
しかしながら、特許文献１に記載の技術は、ハーフミラーを使用した特殊な構成を用いており、光量の低下や、構成が複雑で通常のモジュールを用いる事が出来ないといった問題がある。
【０００８】
また、特許文献２に記載の技術においては、様々な距離にある被写体に合焦した画像を取得することができるが、各撮像光学系で撮像した画像から該当する画像を特定する必要があり、全ての被写体に合焦した映像を得る事は出来ない。
【０００９】
また、特許文献３に記載の技術においては、複数の撮像光学系を備え、撮影用の撮像光学系と焦点調節用の撮像光学系を分離する事で素早く被写体に合焦させているが、合焦させるまでに多少の時間は要するという問題がある上に、特許文献２と同様に、全ての被写体に合焦した映像を得ることは難しい。
【００１０】
本発明は、以上のような問題点を解決するためになされたものであって、より簡易な構成で、全ての距離の被写体に合焦したぼけのない鮮明な映像を取得する撮像装置を提供することを目的とする。
【課題を解決するための手段】
【００１１】
本発明の一観点によれば、第１の撮像部及び第２の撮像部の２つの撮像部を少なくとも有し、前記第１の撮像部と前記第２の撮像部のそれぞれの焦点位置を制御する焦点制御部と、前記第１の撮像部と前記第２の撮像部とによりそれぞれ撮像された第１の画像と第２の画像とを含む画像データを画像処理する画像処理装置と、を有する撮像装置であって、前記第１の画像と第２の画像から被写体までの距離情報を算出する距離情報算出部と、前記第１の画像と前記第２の画像とを合成する画像合成部と、を有し、前記焦点制御部は、前記第１の撮像部と前記第２の撮像部の焦点距離を異なる合焦位置に制御し、前記画像合成部は、前記距離情報に基づいて画像を合成することを特徴とする撮像装置が提供される。
【００１２】
前記第１の画像と前記第２の画像を補正する画像補正部をさらに有し、前記画像補正部により被写体の大きさが同一となるよう補正し、前記第１の画像と前記第２の画像を置き換えることを特徴とする。
【００１３】
第１の画像と第２の画像のエピポーラ線を水平化することで、画角の違いも補正され、各撮像部で撮像された被写体の大きさは同一のサイズとなり、両画像間の対応点が同一ライン上に位置することとなる。
【００１４】
前記画像合成部は、前記補正後の第１の画像と前記補正後の第２の画像とのいずれを合成するかを合焦範囲と算出した前記距離情報とに基づいて判定する画像判定部と、前記判定結果に基づいて、合焦画像を作成する合焦画像生成部と、を有することが好ましい。
【００１５】
まず近景に合焦している方の画像から、視差情報を利用して合焦している近景の被写体を抽出する。その際の撮像装置の焦点位置に応じて、被写体の合焦範囲が予めわかるため、この合焦範囲に該当する視差値を保持しておく。その合焦範囲を視差に基づいて規定すると、画像判定部は、この視差値を保持しておき、この値に基づいて視差値が規定の値以上の領域を判定することができる。
【００１６】
前記画像判定部は、被写体の周辺部に関して、前記第１の画像と前記第２の画像との間で合焦状態を検出し、焦点の合っている方の画像を抽出することが好ましい。
【００１７】
前記画像判定部は、画像を合成する境界付近において合成する画像を判別する際に、合成する複数の画像の合焦状態を検出し、両者の合焦状態に差がない場合には、近景に合焦している画像を優先して合成することが好ましい。
【００１８】
視差の膨張領域が存在する為、コントラストを判別する際にカメラ画像を拡大しているため、エッジの位置が一致していない。そこで、拡大率に応じて合成する境界付近で判定処理を行う領域を拡大する。これにより、計算量を抑えつつ合成の境界付近で自然な合成画像とすることが可能となる。
【００１９】
前記距離情報算出部は、距離情報の算出前に画像を縮小する画像縮小部と、距離情報の算出後に画像を拡大する視差拡大部と、をさらに備えるようにしても良い。
【００２０】
縮小して算出した視差マップなどの距離マップを、元画像における各画素の視差に対応するよう視差拡大部により拡大処理を行う。
【００２１】
前記画像合成部は、前記距離情報と前記縮小率とに基づいて、前記第１又は第２の画像のうち近景に合焦している領域を拡大して抽出する画像拡大部と、前記画像拡大部において拡大された画像と、前記第１又は第２の画像のうち遠景に合焦している画像との合成境界の周辺でどちらの画像を合成するかを判定する処理を行う画像判定部と、前記画像判定部により判定された判定情報に従い、前記拡大された画像と拡大されていない画像との合成画像を生成する合焦画像生成部と、を有することが好ましい。
【００２２】
複数の撮像光学系の撮像画像を合成する際に、近景に合焦している画像を拡大して合成することができる。
【００２３】
前記画像判定部は、合成する画像の判定時に、合成する複数の画像の合焦状態に加え、色情報を用いて判定することが好ましい。
【００２４】
拡大画像の使用によりエッジが一致していないことから単純にコントラストのみでどちらの画像を使用するかを判定すると、判断を誤る可能性がある。そこで、画像判定部は、コントラストに優先する形で色情報を利用する。撮像画像間で色情報の差分をとり、色情報があらかじめ設定した閾値以下の差しかない場合には、コントラストの高い方の画像を判定する。一方、閾値以上の差がある場合には、近景を撮影した画像を合成画像として判定する。色情報の差分はＲＧＢの画素値の差分を取り、この絶対値の合計値でよい。あるいは輝度と色差信号に分けて、色差で判断しても良く、他にも様々な方法がある。
【００２５】
このように、コントラストだけでは判断できない可能性がある場合に、色情報を用いることにより、近景を撮影した画像を確実に選定することが可能となり、合成する境界で画像が不自然になるのを防止することができる。
【００２６】
前記焦点制御部により、前記第１の撮像部及び第２の撮像部との合焦位置を同一、あるいは異なる状態に制御を切り替える動作設定部を有することが好ましい。
【００２７】
これにより、前記動作設定部において３Ｄ撮影モードが選択された場合には、前記焦点制御部は前記第１の撮像装置と前記第２の撮像装置の合焦位置を同一の設定とし、前記画像合成部は画像の合成を行わず３Ｄ撮影が可能となり、全焦点カメラモード設定時は全焦点画像の生成が可能となるなど、様々な動作を撮像装置に備える事が可能となる。
【００２８】
また、本発明は、第１の撮像部及び第２の撮像部と、前記第１の撮像部と前記第２の撮像部との焦点位置を制御する焦点制御部と、を有する撮像装置によりそれぞれ撮像された第１の画像と第２の画像とを含む画像データを画像処理する画像処理装置であって、前記第１の画像と前記第２の画像との２枚の画像から距離情報を算出する距離情報算出部と、前記第１の画像と第２の画像との２枚の画像を合成する画像合成部とを更に有し、前記撮像装置により撮像された入力画像の合焦状態が異なる際に、前記距離情報算出部は、前記第１の画像と前記第２の画像から距離情報を算出すると共に、前記画像合成部は、前記距離情報に基づいて、前記第１の画像と前記第２の画像とを合成することを特徴とする画像処理装置である。
【００２９】
本発明の他の観点によれば、第１の撮像部及び第２の撮像部の２つの撮像部を少なくとも有し、前記第１の撮像部と前記第２の撮像部のそれぞれの焦点位置を制御する焦点制御部と、前記第１の撮像部と前記第２の撮像部とによりそれぞれ撮像された第１の画像と第２の画像とを含む画像データを画像処理する画像処理方法であって、前記第１の画像と第２の画像から被写体までの距離情報を算出する距離情報算出ステップと、前記第１の画像と前記第２の画像とを合成する画像合成ステップと、を有し、前記焦点制御部は、前記第１の撮像部と前記第２の撮像部の焦点距離を異なる合焦位置に制御し、前記画像合成ステップにおいて、前記距離情報に基づいて画像を合成することを特徴とする画像処理方法が提供される。
【００３０】
前記第１の画像と前記第２の画像を補正する画像補正ステップをさらに有し、前記画像補正ステップにより被写体の大きさが同一となるよう補正し、前記第１の画像と前記第２の画像を置き換えることが好ましい。
【００３１】
さらに、前記補正後の第１の画像と前記補正後の第２の画像とのいずれを合成するかを合焦範囲と算出した前記距離情報とに基づいて判定する画像判定ステップを有し、前記画像判定ステップは、被写体の周辺部に関して、前記補正後の第１の画像と前記補正後の第２の画像との間で合焦状態を検出し、合焦している方の画像を抽出する画像と判定することが好ましい。
【００３２】
本発明は、上記に記載の画像処理方法を、コンピュータに実行させるためのプログラムであっても良く、当該プログラムを記録するコンピュータ読み取り可能な記録媒体であっても良い。
【発明の効果】
【００３３】
本発明の撮像装置によれば、簡易な構成で全ての距離における被写体に合焦した鮮明な映像を生成することが可能となる。
【図面の簡単な説明】
【００３４】
【図１】本発明の第１の実施の形態による撮像装置の一構成例を示す機能ブロック図である。
【図２】左カメラ画像と右カメラ画像との概要を示す図である。
【図３】エピポーラ線の説明に関する図である。
【図４】補正後の左右カメラ画像の概要を示す図である。
【図５】ＳＡＤによるステレオマッチングの概要を示す図である。
【図６】視差情報の例を示す図である。
【図７】画像合成部の一構成例を示す機能ブロック図である。
【図８】左右カメラ画像間の視差について説明する図である。
【図９】左右カメラ画像の合成時の境界部分を示す図である。
【図１０】オクルージョンについて説明するための図である。
【図１１】全焦点カメラモードにおける処理の流れを示すフローチャート図である。
【図１２】図１１の合成画像作成処理の流れを示すフローチャート図である。
【図１３】図１２の右画像と遠景に合焦している左画像との合成処理の流れを示すフローチャート図である。
【図１４】本発明の第２の実施の形態による撮像装置の一構成例を示す機能ブロック図である。
【図１５】本実施の形態における視差算出部の一構成例を示す機能ブロック図である。
【図１６】本実施の形態における画像合成部の一構成例を示す機能ブロック図である。
【図１７】画像合成部における拡大の効果を示す図である。
【図１８】視差算出処理の流れを示すフローチャート図である。
【図１９】図１８の画像合成処理に詳細な一例を示すフローチャート図である。
【発明を実施するための形態】
【００３５】
以下に、本発明の実施形態について、図面を参照しながら説明する。
（第１の実施の形態）
図１は、本発明の第１の実施の形態における撮像装置１００の一構成例を示す機能ブロック図である。また、図１１は、全焦点カメラモードにおける処理の流れを示すフローチャート図である。図１２は、図１１の合成画像作成処理の流れを示すフローチャート図である。図１３は、図１２の右画像と遠景に合焦している左画像との合成処理の流れを示すフローチャート図である。画像処理は、例えば、図１の撮像装置１００のうち、左カメラ１０１、右カメラ１０２による撮像部分を除く画像データの処理装置により実行される。
【００３６】
図１において、撮像装置１００は、例えば、２つのカメラを備えた携帯電話機やスマートフォン、デジタルカメラなどである。固定焦点のレンズとフォーカス調整機能（合焦機能）を持ち、左側に配置される左カメラ１０１と、左カメラ１０１と同様の機能を持ち、右側に配置される右カメラ１０２と、左右のカメラ画像をそれぞれ補正する画像補正部１０３と、各カメラ１０１、１０２のレンズを調整する等してフォーカスを制御する焦点制御部１０４と、左右カメラ画像を補正した画像から、撮像装置１００から被写体までの距離情報を算出する距離情報算出部の一例である視差を算出する視差算出部１０５と、左右カメラ画像を合成する画像合成部１０６と、撮像装置１００の動作モードを設定する動作設定部１０７と、を有している。
【００３７】
まず、処理を開始する（図１１：ステップＳ１）ため、動作設定部１０７により動作モードを設定する。動作設定部１０７で設定する動作モードは、ここでは３Ｄ撮影モードと全焦点カメラモードとを有する。３Ｄ撮影モードについては後述する。以下では、全焦点カメラモードについて説明を行う。
【００３８】
焦点制御部１０４は、動作設定部１０７により全焦点カメラモードが設定された場合には、左カメラ１０１と右カメラ１０２のレンズを制御し合焦位置を変更する（図１１：ステップＳ２）。左カメラ１０１と右カメラ１０２は、その内部にレンズ調整用のモータを備えている。本実施の形態では、制御用モータはＶＣＭ（ボイスコイルモータ）であるとするが、これ以外のモータ、例えばステッピングモータやピエゾモータなどであっても良い。このＶＣＭを制御することにより、レンズを前後に移動することができ、カメラの合焦位置を変更することが可能となる。合焦位置とは被写体を鮮明に撮影する事が出来るカメラと被写体の位置とする。
【００３９】
焦点制御部１０４は、左カメラ１０１の合焦位置を遠景に、右カメラ１０２の合焦位置を近景に設定する。このときＶＣＭにより設定する各カメラのレンズ位置はあらかじめ決められた固定値であるものとし、焦点制御部１０４はこの情報保持しているものとし、該当位置にそれぞれレンズを移動する。
【００４０】
左カメラ１０１はカメラから遠い距離にある被写体に合焦した画像を、右カメラ１０２はカメラから近い距離にある被写体に合焦した画像を出力する。図２は、この撮像画像例を示した図２である。図２（ａ）が左カメラ画像であり（ｂ）が右カメラ画像である。四角で示す被写体１０８と円形で示す被写体１０９とが各カメラ画像上に撮影されていることを示しており、焦点の合っている被写体を実線で、焦点が合っておらず、ぼけている被写体を点線で示している。また、背景部分には被写体１０９の後方に一様な壁が存在しているものとし、充分遠景にあり視差は０であるとする。
【００４１】
右カメラ１０２の方が手前の距離に合焦している為、像距離が長くなる。像距離とは、レンズの焦点距離とレンズの繰り出し量を加えた長さである。焦点距離は、レンズ中心から無限遠の位置にある被写体に対してピントが合う位置までの距離であり、被写体が近くなるほどレンズを繰り出す必要があるため像距離は長くなる。そのため、画角が狭くなり被写体が大きく撮像される。図における被写体を除く横方向の点線はこれを示すためのものである。左カメラ画像上の被写体における特定の点に着目すると、その対応点が右カメラ画像上の同一ライン上になく、被写体が大きく撮影されている事がわかる。
【００４２】
この合焦位置の違いによる画角の違いがあると、視差算出部１０５で実施する視差算出処理が複雑となるため、画像補正部１０３はレクティフィケーションと呼ばれるエピポーラ線の平行化処理を行う。ここでエピポーラ線について図３を参照しながら説明する。
【００４３】
エピポーラ線とは、２つのカメラがあった場合に、図３に示すように空間中の特徴点１１０と、２つのカメラのレンズ中心１１１、１１２の３点によってできる平面（エピポーラ平面）１１３と、それぞれのカメラの画像平面１１４、１１５との交線が対応する線であり、図３では、符号１１６、１１７で示す点線である。カメラの光軸を平行に配置する平行配置で、配置される高さや特性が同じであるカメラ２眼の場合は、このエピポーラ線１１６、１１７は、同じ高さの水平な直線となり、２つの画像において１ライン上で対応点探索を行えばよい。しかし、平行配置でなく輻輳がある場合や焦点距離が異なる場合、上下方向の位置ずれや傾き等が存在する場合等には、エピポーラ線は水平にならず、同一直線上にならない。そこで、水平の同一直線上になるように画像を補正する処理を画像補正部１０３で行う。
【００４４】
この補正処理は、カメラパラメータを使用して行う。カメラパラメータは、各カメラの焦点距離やレンズ歪みパラメータなどの内部パラメータ、および各カメラ間の位置関係を表す外部パラメータであり、この情報を画像補正部１０３で予め保持しているものとする。これらのカメラパラメータは、キャリブレーションと呼ばれる処理を利用して算出可能である。格子模様や等間隔ドットを印刷したキャリブレーションパターンを撮影し、特徴点抽出により各パラメータを算出することができる。画像補正部１０３は、カメラパラメータを使用して画像の幾何学変換（座標変換）を行い、左カメラ画像と右カメラ画像のエピポーラ線を水平化する（図１１：ステップＳ３）。これにより、図２に示した画角の違いも補正され、図４に示すように各カメラで撮像された被写体の大きさは同一のサイズとなり、両画像間の対応点が同一ライン上に位置することとなる。そして、この補正後の左右カメラ画像を視差算出部１０５と画像合成部１０６へと送る。
【００４５】
視差算出部１０５は、画像補正部１０３より送られる補正後の左右カメラ画像から視差の算出を行う（図１１：ステップＳ４）。視差はカメラの基線長や焦点距離といった情報を元にカメラからの距離に換算可能な距離情報である。ここで視差の算出方法の例について説明する。視差を算出する方法としては、ステレオマッチングと呼ばれる手法が一般的に知られており、ＳＡＤ（Sum of Absolute Differences）やＳＳＤ（Sum of Squared Difference）と呼ばれる手法がある。
【００４６】
図５を参照しながら、ステレオマッチングの一種であるＳＡＤによるブロックマッチングについて説明する。図５（ａ）に示す左カメラ画像１１８と右カメラ画像１１９において、エピポーラ線は画像補正部１０３における補正により一致しているので、左右カメラ画像上の対応点は水平方向に同一ライン上にあるものとして対応点探索を行う。対応点探索では、左カメラ画像１１８上で視差を算出したい画素を中心に３×３のサイズを持つウインドウ１２０を設定する。ウインドウ１２０は、左カメラ画像１１８の右端からＬ画素の位置とする。右カメラ画像１１９において、このウインドウ１２０と同一ライン上で画像右端からＬ+Ｎの距離離れた位置のウインドウ１２１から、画像右端からＬの位置にあるウインドウ１２２まで、１画素ずつウインドウの位置をずらしながら左カメラ画像のウインドウ１２０に対する相関値を計算することにより、対応点を特定することが可能となる。
【００４７】
図５（ｂ）、（ｃ）は、それぞれウインドウ１２０、１２１を示しており、Ｘ０、Ｘ’０などＸやＸ’に数値を付与した記号は、各画素におけるＧの画素値を示している。図５（ｄ）に示す数式に従い、ウインドウごとの相関値であるＳＡＤ値を算出する。これを、ウインドウ１２０は固定し、右カメラ画像上でウインドウを移動しながら相関値を算出していき、ＳＡＤ値が最も小さくなる位置がウインドウ１２０に対する対応点となり、この位置情報から視差が算出される。このような操作を、左カメラ画像１１８の全ての画像に対して行うことで、左カメラ画像１１８における視差マップを算出することができる。視差マップとは、画像の各画素に対して視差を算出したマップである。
【００４８】
なお、ここではウインドウサイズは３×３で説明したが、５×５、９×９など、より大きなサイズのものを用いてもよく、ウインドウの重心位置が中央からはずれるが４×４などの偶数のウインドウでもよく、縦横でサイズが異なっていてもよく、ここで示したサイズに限定されるものではない。
【００４９】
探索範囲であるＮは、カメラ基線長や被写体の距離などの条件に従い、任意に設定することが可能である。また、探索方向も、ここではウインドウ１２１からウインドウ１２２の方向へ探索を行っているが、ウインドウ１２２からウインドウ１２１の方向へ探索を行うようにしても良い。探索範囲は、左カメラ画像１１８を基準に探索しているため、ウインドウ１２１からウインドウ１２２までの範囲としているが、この範囲に限定されるものではない。また、図５（ｂ）において、Ｘ０等の値はＧの画素値としたが、Ｒ（赤）やＢ（青）など他の色のいずれか１つや合計値、あるいは各画素の輝度値、またＲＧＢ３色全ての値を用いてもよく、これに限定されるものではない。
【００５０】
視差算出部１０５は、上述のようにステレオマッチングにより対応点を探索し視差の算出を行う。ここでは、ウインドウサイズを１５×１５で行うものとする。ＳＡＤにより視差を算出する場合、被写体のエッジと視差の切替り位置が一致せず、視差の切替り位置が被写体の外側に位置する可能性がある。これはウインドウサイズが大きいほど、被写体よりも広い範囲が被写体の視差値となる傾向にあるためである。ＳＡＤにより算出した視差マップの例を図６に示す。図６（ａ）において、近景にある被写体に対応する視差値ほど大きく（色の濃淡が薄い）、遠景にあるカメラからの距離が遠い被写体の視差値ほど小さくなる（色の濃淡が濃い）ことを示しており、被写体１０８（領域１２３）の視差値は５０、被写体１０９（領域１２４）の視差値は１０、背景（領域１２３、１２４を除く領域）の視差値は０とする。図６（ｂ）に、図４で示した画像補正後の被写体１０８の撮影サイズと、視差マップ上の被写体１０８に対応した視差値の算出された領域１２３のサイズとを比較して示す。図６（ｂ）に示すように、領域１２３は被写体１０８よりも大きく、視差値が算出された領域が被写体に対して膨張していることがわかる。この算出した視差情報（視差マップとウインドウサイズ等）を視差算出部１０５は画像合成部１０６に送る。
【００５１】
画像合成部１０６は、補正後の左カメラ画像と右カメラ画像とを画像補正部１０３から取得し、視差情報を視差算出部１０５から取得する。画像合成部１０６は、視差情報を利用して補正後の左カメラ画像と右カメラ画像から、全ての距離の被写体に合焦した１枚の画像を生成する（図１１：ステップＳ５）。
【００５２】
以下に、画像合成処理の詳細について説明する。図７は、画像合成部１０６の詳細な構成例を示す機能ブロック図であり、画像合成部１０６は、画像判定部１２５と合焦画像生成部１２６とを有している。画像判定部１２５は、視差情報や後述するコントラスト等によって各カメラ画像のうちどちらを合成するかを判定し、合焦画像生成部１２６は、画像判定部１２５の出力である判定情報に従って画像の合成を行う。
【００５３】
まず近景に合焦している右カメラ画像から、視差情報を利用して合焦している近景の被写体を抽出する（図１２：ステップＳ１１）。右カメラの焦点距離に応じて、被写体の合焦距離が予めわかるため、この合焦範囲に該当する視差値を保持しておくものとする（図１２：ステップＳ１２）。例えば、右カメラ画像の合焦範囲が視差３０以上であったとすると、画像判定部１２５はこの視差値を保持しておき、この値に基づいて視差値３０以上の領域を判定する（図１２：ステップＳ１３）。すなわち、図６における領域１２３で示す視差領域が選択される。視差マップは、左カメラ画像基準の視差マップが算出されているため、領域１２３で示す領域の各座標から視差値分左方向に移動させた座標の右カメラ画像を抽出することで、右カメラ画像から合焦した近景の被写体を抽出することが可能となる（図１２：ステップＳ１３）。図８は、これを説明する図であり、上側の図は左カメラ画像であり、下側の図が右カメラ画像を示している。図８中に示す被写体１０８の各画像間の視差ｄは５０である。このようにして、右カメラ画像から近景の領域を抽出し、左カメラ画像と合成する（図１２：ステップＳ１４）。
【００５４】
しかし、このように視差情報のみで判定を行い合成した画像は、図６（ｂ）で説明したように視差マップが被写体よりも膨張しているため、近景の被写体１０８の周囲は合焦している左カメラ画像ではなくぼけている右カメラ画像が合成されてしまう。図９に示すように、そのままでは被写体１０８の周辺、被写体１０８と視差５０の領域１２３との間の部分はボケており違和感のある不自然な画像となってしまう。よって、画像判定部１２５は以下の処理を行いこの不自然さを解消する。
【００５５】
まず、処理を開始し（図１３：ステップＳ２１）、画像の合成を行う被写体の周辺部は、単純に置き換えを行う前に左カメラ画像と右カメラ画像との間で合焦状態の判別を行う。合焦状態を判別する手法としてコントラストの検出を行う（図１３：ステップＳ２２）。コントラストの検出方法としては、注目画素の画素値と周辺の画素の視差値の差分の絶対値をとり、この値の合計値で比較する方法がある。例えば、注目画素の左右上下の画素値と注目画素の画素値において、差分の絶対値をとって合計値を算出し、左カメラ画像と右カメラ画像でそれぞれ比較を行い、値が大きい方のカメラ画像の方がコントラストが大きいと判断できる。このコントラストの比較を行う領域は、膨張している領域のみで比較すればよいため、ユーザが視差値により抽出した領域の内側５ピクセルなどと自由に設定できるようにしてもよく、ウインドウサイズの大きさにより膨張領域の幅はほぼ特定できウインドウサイズの半分が膨張する傾向にあるため、ウインドウサイズの半分、あるいは余裕を持ってウインドウサイズ分の領域で比較するようにすれば良い。このように比較領域を限定することにより、計算量の増加を防止するとともに、必要ない領域で比較を行い誤って合成することも防止することが可能となる。ここでは視差情報から得られたウインドウサイズの約半分とし、８ピクセルにおいて比較を行うこととする。
【００５６】
被写体周辺８ピクセルにおいて、コントラストを比較し、コントラストの高いほうの画像、すなわち合焦している画像を抽出するようにする（図１３：ステップＳ２３）。このように合焦領域を優先して処理することにより、被写体周辺のボケを抑制することが可能である。なお、両者のコントラスト値に差がない場合、右カメラ画像を合成すればよい（図１３：ステップＳ２４）。差がないかどうかを判断するには、あらかじめ閾値を決めておき、閾値以下の差の場合に差がないと判断する方法がある。なお、コントラスト値に差がない場合に右カメラ画像を優先することにより、オクルージョンの影響を低減することができる。オクルージョンとは、各カメラの視点位置の違いにより発生するもので、片方のカメラのみで撮像されている領域である。図１０に示すように、上側の左カメラ映像には映っていないが、下側の右カメラ映像には映っている斜線の領域１２７がオクルージョン領域である。このオクルージョン領域においては、左カメラ画像は背景で、右カメラ画像では手前の被写体側面となる為、コントラスト計算の際にどちらもコントラスト値が高く検出される場合があるが、右カメラ画像、すなわち近景を優先して合成することにより、この領域での誤った合成を防止し、自然な画像とすることが可能となる。
【００５７】
なお、図１における動作設定部１０７において３Ｄ撮影モードが選択された場合には、焦点制御部１０４は左カメラ１０１、右カメラ１０２の合焦位置を同一の設定とし、画像合成部１０６は画像の合成を行わず、視差情報と左カメラ画像と右カメラ画像を出力するものとする。これにより、３Ｄ撮影と視差情報の算出が可能となる。
【００５８】
以上のように、２つのカメラの合焦範囲を変え、視差によって２つの画像を合成することにより、幅広い範囲で合焦した被写界深度の深い画像を得ることが可能となる。また、合成時にコントラストの高い画像を合成するとともに、差がない場合は右カメラ画像を優先することにより、自然な合成画像を得ることが可能となる。
【００５９】
なお、ここでは視差算出のため画像補正部１０３においてレクティフィケーションをすることとしたが、各カメラの光軸が平行で、上下方向の高さが一致している場合には、左右カメラ画像は大きさが異なるだけである。焦点制御部による各制御値により大きさがどれだけ異なるかはあらかじめ計算により算出しておくことが可能なため、レンズ位置に応じた位置あわせのための縮小、あるいは拡大率を保持しておき、単純に拡大・縮小で位置補正をするようにしても良い。上下方向の高さが異なる場合も、各カメラの光軸が平行であれば拡大縮小で両者の大きさをあわせた後、上下方向に画像の切り出し位置を変え、高さ方向の違いを吸収するようにすることが可能である。
【００６０】
また、本実施の形態において、視差算出にＳＡＤを使用する例について説明したが、視差算出に用いるのはＳＡＤに限ることはなく、この改良手法やＳＳＤ、あるいはグラフカットと呼ばれる領域毎に視差を算出する手法など、様々な手法を利用可能である。
【００６１】
また、ここでは固定焦点のレンズを持つカメラ２眼としたが、固定焦点に限らずズームレンズなどを用いた２眼であっても良い。
【００６２】
以上に説明したように、本実施の形態によれば、簡易な構成で全ての距離における被写体に合焦した鮮明な映像を生成することが可能となる。
【００６３】
（第２の実施の形態）
次に、本発明の第２の実施の形態について、図面を参照しながら説明する。図１４は、本実施の形態における撮像装置２００の一構成例を示す機能ブロック図である。なお、図１４において、第１の実施の形態と同様の機能を有するものについては同一の記号を付与している。図１８及び図１９は、本実施の形態における処理の流れを示すフローチャート図である。
【００６４】
本実施の形態における撮像装置２００は、２眼カメラ部２０１とパーソナルコンピュータ（ＰＣ）で構成される画像処理部２０２と、を有している。この画像処理部が、第１の実施の形態の画像処理装置Ａに対応する。２眼カメラ部２０１は、フォーカス調整機能を持つ左カメラ１０１と、同様の機能を持つ右カメラ１０２と、各カメラのレンズを調整しフォーカスを制御する焦点制御部１０４と、を有して構成される。画像処理部２０２は、左右カメラ画像を補正する画像補正部１０３と、左右カメラ画像を補正した画像から視差を算出する視差算出部２０３と、左右カメラ画像を合成する画像合成部２０４と、撮像装置１００の動作モードを設定する動作設定部１０７と、を有している。
【００６５】
本実施の形態では、２眼カメラ部２０１と画像処理部２０２とに分割して構成されているが、基本的な処理の流れは第１の実施の形態の場合と同様であるため、その説明を省略する。以下に、第１の実施の形態と異なる動作を行う視差算出部２０３と画像合成部２０４との動作について説明する。
【００６６】
処理が開始されると（図１８：ステップＳ３１）視差算出部２０３は、画像補正部１０３から補正左カメラ画像と補正右カメラ画像を取得する（図１８：ステップＳ３２）。この二つの映像を第１の実施の形態と同様にステレオマッチングによって視差を算出するが、この際に、画像を縮小して視差の算出を行う（図１８：ステップＳ３３）。
【００６７】
図１５は、視差算出部２０３の一構成例を示す機能ブロック図であり、画像縮小部２０５により画像を縮小して一般的な視差算出部２０６で視差マップ算出を行う。例えば、入力される画像サイズが１９２０×１０８０ピクセルであるとすると、画像縮小部２０５は、入力画像を４８０×２７０ピクセルに縮小する。このときの縮小率は、あらかじめ固定しておいても良く、ユーザにより設定できるように構成されていても良い。
【００６８】
左カメラ画像と右カメラ画像とは、第１の実施の形態でも説明したように、距離に応じて合焦状態が異なっている。そのため、片方のカメラにおけるぼけた領域と、他方のカメラの鮮明な領域とでステレオマッチングをすることとなる。この際、ぼけの影響により、視差を正しく算出できないことがある。この影響を低減するために、画像の縮小処理を行う。縮小処理を行うことで、数画素の情報が１画素に統合されるため、ぼけていた画像のエッジが鮮明になり視差が算出しやすくなるほか、計算量も低減することができるという効果がある。しかしながら、一方で、縮小することにより視差の算出精度が低下する。ピクセル精度で視差の算出を行うとすると、４８０×２７０の画像サイズで算出した視差値１は、１９２０×１０８０上で、視差値４ずつの精度で算出することと等価であり、±２ピクセルの誤差が存在することとなる。例えば、被写体の元画像サイズでの視差値が５０とすると、縮小画像上での視差値はその１／４となる１２．５である。しかし、ピクセル精度で算出すると視差は１２、あるいは１３と算出され、これを元画像サイズの視差値に直すと４８、もしくは５２となる。そこで、画像合成時にはこの誤差を考慮する必要がある。
【００６９】
視差算出部２０３は、縮小して算出した視差マップを、元画像における各画素の視差に対応するよう視差拡大部２０７により拡大処理を行い（図１８：ステップＳ３４）、視差情報と視差マップを算出した際の縮小率を画像合成部２０４へと送る（図１８：ステップＳ３５）。なおこの際の視差値の補間方法としては、画像の拡大と同様にニアレストネイバー補間やバイリニア補間、バイキュービック補間といった周囲の値を元にした補間方法を用いればよい。これにより、元画像の画像サイズと同一の視差マップとなる。また、視差値自体の拡大も行う。元画像サイズ１９２０×１０８０、視差算出画像サイズが４８０×２７０とすると、算出された視差１は元画像サイズ上で４に相当する為、視差値を４倍する。これにより、元画像における視差値に換算できる。
【００７０】
画像合成部２０４は、画像補正部１０３から補正後左カメラ画像と補正後の右カメラ画像を取得し、視差算出部２０３から取得した視差情報と縮小率に関する情報を使用して画像の合成を行う（図１８：ステップＳ３６）。
【００７１】
図１６は画像合成部２０４の一構成例を示した図であり、画像拡大部２０８と画像判定部２０９、合焦画像生成部２１０により構成される。図１９は画像合成処理のフローを示し、ステップＳ３６−１で処理が開始される。
【００７２】
画像拡大部２０８は、視差情報に基づいて近景に合焦している領域を抽出する（ステップＳ３６−２）。この動作は第１の実施の形態の画像判定部で行う動作と同様であり、補正後の画像が図４で視差が図６であったとすると、視差３０以上の領域を特定する。この領域を右カメラ画像から切出して画像判定部２０９へと送るが、この際、縮小率の情報に基づき画像の拡大を行う（ステップＳ３６−３）。これは、前述の通り、視差精度が縮小処理により低下しているため、正確な視差が算出出来ていないために、合成位置がずれ、画像が不自然になるのを防ぐ効果がある。例えば、前述のように±２画素の視差精度低下がある場合、合成する画像をこの±２画素の誤差をカバーするようなサイズに拡大して合成することとなる。図１７（ａ）はこれを示す図であり、領域２１１は右カメラ画像から抽出した被写体１０８を示しており、点線の領域２１２は左カメラ画像のぼけた被写体１０８を示している。図に示すように視差の誤差によりエッジが一致せず合成画像が不自然になる可能性があるが、図１７（ｂ）に示すように、被写体１０８を領域２１３のように拡大し、後述の画像判定部２０９で適切に判別して合成する事により、これを防止することが可能となる。尚、近景の画像の拡大は視差マップを縮小して算出していない際にも効果があり、拡大して合成することにより被写体エッジ周辺で視差に誤りがあった際にも、被写体エッジ周辺で合成画像が不自然になるのを防止する効果がある。
【００７３】
画像判定部２０９は、左カメラ画像と拡大した近景の右カメラ画像を取得する（ステップＳ３６−４）。視差情報から近景の右カメラ画像を合成する位置を決定する（ステップＳ３６−５）。そして、合成境界の周辺でどちらの画像を合成するかを判定する処理を行う。第１の実施の形態と同様に、視差の膨張領域が存在する為、同様にコントラストの判別を行うが、右カメラ画像を拡大している為エッジの位置が一致していない。そのため、拡大率に応じて合成する境界付近で判定処理を行う領域を拡大する（ステップＳ３６−６）。これにより、計算量を抑えつつ合成の境界付近で自然な合成画像とすることが可能となる（ステップＳ３６−７）。また、拡大画像の使用によりエッジが一致していないことから単純にコントラストのみでどちらの画像を使用するかを判定すると、判断を誤る可能性がある。そこで、画像判定部２０９は、コントラストに優先する形で色情報を利用する。左カメラ画像と右カメラ画像で色情報の差分をとり、色情報があらかじめ設定した閾値以下の差しかない場合には、コントラストの高い方の画像を判定する。一方、閾値以上の差がある場合には、右カメラ画像の画像を合成画像として判定する。色情報の差分はＲＧＢの画素値の差分を取り、この絶対値の合計値でよい。あるいは輝度と色差信号に分けて、色差で判断しても良く、他にも様々な方法がある。このように、コントラスト情報のみで判断すると左カメラ画像の被写体エッジ外側周辺では、左カメラ画像では合焦した背景が、右カメラ画像では拡大された被写体が存在することになることから、コントラストだけでは判断できない可能性があるが、色情報を用いる事により、右カメラ画像を確実に選定する事が可能となり、合成する境界で画像が不自然になるのを防止することが可能となる。
【００７４】
合焦画像生成部２１０は、画像判定部２０９により判別された判定情報に従い、各画素毎に拡大された右カメラ画像と左カメラ画像との合成を行い、全ての距離における被写体が合焦した鮮明な画像を生成することが可能となる。
【００７５】
尚、ここでは、画像の縮小処理を行い、ぼけの影響を低減するようにしたが、ＳＡＤを用いて視差を算出する場合には、代わりにウインドウサイズを大きくするようにしても良い。このようにすると、計算量が増加するが幅広い領域の情報から対応点を判断する為、対応点を検出し易くするという効果がある。
【００７６】
尚、本発明の各実施形態では、２眼のカメラによって構成される例を示したが、３眼のカメラなど、より多くのカメラを用いたシステムであっても良い。例えば、３眼でそれぞれ合焦範囲を変えた画像を用いる場合、基準カメラを一つ決めておき、基準カメラに対して視差情報を他の２つのカメラに対してそれぞれ算出する。そして、視差情報を元に各カメラのどの映像を使用するかを本実施形態と同様に判別して合成する事で実現できる。数が多いほど、より被写体が鮮明になった合成画像を生成できる。
【００７７】
また、視差情報を２眼カメラから算出する手法を示しているが、距離情報を取得する特殊なカメラを用いて、距離情報から視差情報に変換しても良い、距離情報を取得するカメラとしては、赤外線方式のカメラなどがあり、赤外線を照射し出た光が対象物で反射し、センサに届くまでの光の飛行時間と光の速度から、被写体までの距離を得るTOF（Time of flight）法の距離センサなどがある。距離がわかれば、カメラの基線長と焦点距離から視差情報に変換することが出来る。
【００７８】
また、ここでは視差値を縮小して算出したあと、元画像サイズの視差値になるよう視差値を縮小の倍率をかけて戻す例を記載したが、戻さず縮小して算出した視差値で処理しても良い。右カメラの合焦範囲が元画像サイズで３０以上とすると、縮小画像上での視差値は実施形態２の場合では１／４にすると７．５となり、すなわち縮小画像で算出した視差値８以上の視差値を持つ領域を合成することとなる。
【００７９】
また、ここでは右カメラの合焦範囲は視差３０以上、近距離の被写体の視差値は５０として、近距離の被写体全体が合焦範囲にあるものとしたが、この境界の視差値３０をまたがる形で被写体が存在する事もある。例えば、平面上のノートのような被写体が斜めに置かれている場合、最も手前側の視差値が３５、奥側の視差値が２５といった形になりうる。このような場合、視差値３０以上の部分を抽出して合成すると、特に縮小画像で視差値を算出している場合視差の誤差が存在する可能性が高いため、この境界付近で不自然に合成されてしまう可能性がある。連続的に視差値が変化する領域が存在する場合には、この部分を合成処理の対象から外すようにしてもよい。このようにする事で、多少のボケが残ってしまうものの、全体としての不自然さを抑える効果がある。
【００８０】
また、合焦位置を変えても大きさが同一となるよう撮像装置側で補正されて出力される場合には、画像処理による補正は不要となる。
【００８１】
また、本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的部を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【００８２】
また、本実施の形態で説明した機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。尚、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
【００８３】
また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
【００８４】
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また前記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【産業上の利用可能性】
【００８５】
本発明は、２つの撮像光学系により右目画像、左目画像を撮影してステレオ画像を生成することが可能な撮像装置や、２つ以上の様々な視点位置からの映像を取得する多眼撮像装置など、複数の撮像光学系を用いた撮像装置及びその画像処理装置に利用可能である。
【符号の説明】
【００８６】
１００…撮像装置、１０１…左カメラ、１０２…右カメラ、１０３…画像補正部、１０４…焦点制御部、１０５…視差算出部（距離情報算出部）、１０６…画像合成部、１０７…動作設定部、１２５…画像判定部、１２６…合焦画像生成部、２００…撮像装置、２０１…カメラ、２０２…ＰＣ（画像処理部）、２０３…視差算出部、２０４…画像合成部、２０５…画像縮小部、２０６…視差算出部、２０７…視差拡大部、２０８…画像拡大部、２０９…画像判定部、２１０…合焦画像生成部。
【図１】
0005889022.tif 000002
【図２】
0005889022.tif 000003
【図３】
0005889022.tif 000004
【図４】
0005889022.tif 000005
【図５】
0005889022.tif 000006
【図６】
0005889022.tif 000007
【図７】
0005889022.tif 000008
【図８】
0005889022.tif 000009
【図９】
0005889022.tif 000010
【図１０】
0005889022.tif 000011
【図１１】
0005889022.tif 000012
【図１２】
0005889022.tif 000013
【図１３】
0005889022.tif 000014
【図１４】
0005889022.tif 000015
【図１５】
0005889022.tif 000016
【図１６】
0005889022.tif 000017
【図１７】
0005889022.tif 000018
【図１８】
0005889022.tif 000019
【図１９】
0005889022.tif 000020