(57)【要約】【課題】３Ｄアダプタの着用や複雑かつ高価な光学ズーム機能を備えることを必要とせず、２つの撮像部からの画像のずれが生じるのを防ぐことができる３Ｄデジタルカメラを提供する。【解決手段】略眼幅離して配置された主撮像部及び従撮像部を備えた３Ｄ撮像可能なデジタルカメラであって、前記主撮像部及び従撮像部から得られる主画像信号及び従画像信号の間に生じる視差を抽出し、前記主画像信号から主画像を生成し、前記主画像信号から、前記抽出した視差に基づいて従画像を生成することにより、３Ｄ画像を生成するデジタルカメラ。【選択図】  図１
2005020606.tif 000002
【特許請求の範囲】
【請求項１】
略眼幅離して配置された主撮像部及び従撮像部を備えた３Ｄ撮像可能なデジタルカメラであって、
前記主撮像部及び従撮像部から得られる主画像信号及び従画像信号の間に生じる視差を抽出し、
前記主画像信号から主画像を生成し、
前記主画像信号から、前記抽出した視差に基づいて従画像を生成することにより、３Ｄ画像を生成するデジタルカメラ。
【請求項２】
略眼幅離して配置された主撮像部及び従撮像部と、
前記主撮像部及び従撮像部から得られる主画像信号及び従画像信号を合成する画像合成部と、を備えた３Ｄ撮像可能なデジタルカメラであって、
前記画像合成部は、
前記主画像信号及び従画像信号の間に生じる視差を抽出する視差抽出手段と、
前記抽出した視差に基づいて、前記主画像信号の画素を再配置した画像データを生成する画素再配置手段と、
前記主画像信号から主画像を生成し、前記画素を再配置した画像データから従画像を生成することにより、３Ｄ画像を生成するデジタルカメラ。
【請求項３】
前記視差抽出手段は、主画像信号及び従画像信号の対応する画素間で濃度値の差を算出し、その差が所定の値を超える場合に視差が生じていると判断することを特徴とする請求項２に記載のデジタルカメラ。
【請求項４】
前記視差抽出手段は、さらに、前記視差が生じていると判断した画素について、主画像信号及び従画像信号間での水平方向の視差を抽出することを特徴とする請求項３に記載のデジタルカメラ。
【請求項５】
前記画素再配置手段は、前記抽出した水平方向の視差の値分、前記主画像信号の画素を水平方向にオフセットして画素を再配置した画像データを生成することを特徴とする請求項２から４のいずれか１項に記載のデジタルカメラ。
【請求項６】
前記画素再配置手段は、さらに、視差が生じているにも拘わらず視差が抽出されなかった画素について、該画素の水平方向前後の画素の視差の値を用いて補間を行うことを特徴とする請求項５に記載のデジタルカメラ。
【請求項７】
前記従撮像部は、前記主撮像部の光学ズーム動作に連動して、電子ズームによりその切り出し位置を水平方向にシフトさせることにより、前記主撮像部及び従撮像部の撮像画角を一致させることができることを特徴とする請求項２から６のいずれか１項に記載のデジタルカメラ。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、立体視を含む動画や静止画の映像・画像を生成可能なデジタルカメラに関し、特に、２つの光学系から取得される画像信号を合成して３Ｄ画像として撮像するデジタルカメラに関するものである。
【０００２】
以下、本発明に関して、「デジタルカメラ」とは、静止画を撮像するデジタルカメラと、静止画及び動画を撮像するデジタルビデオカメラの両方を含むものとする。
【０００３】
【従来の技術】
まず、従来知られている３Ｄ撮像デジタルカメラの代表的な例を挙げて、その構成及び機能について説明する。
【０００４】
図９は、従来の３Ｄ撮像デジタルカメラの内部構成を概略的に示す機能ブロック図である。図９において、３Ｄ撮像デジタルカメラは、右撮像部６１、左撮像部６２、画像合成部６３、及びメディア変換部６４から構成されている。
【０００５】
右撮像部６１及び左撮像部６２はそれぞれ光学系６１１，６２１、撮像素子６１２，６２２、撮像素子駆動部６１３，６２３、カメラ信号処理部６１４，６２４、カメラ制御部６１５，６２５、メモリ６１６，６２６、並びに光学系駆動部６１７，６２７を含む構成となっている。また、右撮像部６１及び左撮像部６２は、略眼幅離で配置されている。
【０００６】
カメラ制御部６１５，６２５は、それぞれ、右撮像部６１、左撮像部６２の各構成部分を制御する。撮像素子駆動部６１３，６２３は、それぞれ、撮像素子６１２，６２２を駆動する。光学系駆動部６１７，６２７は、それぞれ、光学系６１１，６２１を駆動し、フォーカス、ズーム、絞り、シャッター制御などの機能を実現する。その他の構成部分については、一般的に知られたデジタルカメラの構成と同様であるものとする。
【０００７】
このような構成を有する３Ｄ撮像デジタルカメラで画像を撮像すると、被写体像および被写体の周囲像と背景が、光学系６１１，６２１を通じて、撮像素子６１２，６２２に結像される。撮像素子６１２，６２２は結像した光学像を、所定のタイミングで電気信号に変換する。カメラ信号処理部６１４，６２４は、光学像から変換された電気信号に対して、レベル変換、ホワイトバランス、ガンマ変換等の必要な各種処理を施して、画像信号を生成する。このとき、必要に応じて、メモリ６１６，６２６を用いて電子ズームなどの機能を実現することもできる。カメラ信号処理部６１４，６２４において生成された画像信号は、それぞれ、画像合成部６３に出力される。
【０００８】
画像合成部６３では、右撮像部６１からの画像信号と左撮像部６２からの画像信号とを、立体視可能な３Ｄ画像に合成する。メディア変換部６４は、合成した３Ｄ画像を、出力先に応じたデータ形式に変換して出力する。例えば、テープ記録用画像、コンピュータ画像などの記録メディア用フォーマットに変換したり、ＴＶモニタやＬＣＤモニタなどの表示装置用フォーマットに変換したりする。
【０００９】
図１０は、図９に示す従来の３Ｄ撮像デジタルカメラの画像合成部６３の内部構成を詳細に示す機能ブロック図である。図１０において、画像合成部６３は、水平圧縮部７１，７３、ラインメモリ７２，７４、同期制御部７５及び水平再配置部７６を含んで構成されている。
【００１０】
水平圧縮部７１，７３は、右撮像部から入力される右画像信号及び左撮像部から入力される左画像信号の水平方向を、それぞれ、１／２に圧縮する。これは略眼幅離した２つの撮像部６１及び６２から生じる視差を持つ２つの画像信号を用いて、１つの画像を合成するために必要な処理である。ラインメモリ７２，７４は水平方向で１／２に圧縮された右画像信号及び左画像信号を、それぞれ異なるタイミングで水平再配置部７６に出力する。水平再配置部７６は、入力された右画像信号と左画像信号を用いて１枚の３Ｄ合成画像を生成する。同期制御部７５は、画像信号に同期したタイミング信号を生成する。このタイミング信号は、図９のメディア変換部６４で合成画像の形式変換に使用される。
【００１１】
上記したような従来の３Ｄ撮像装置の実施例としては、以下のようなものが開示されている。
【００１２】
特許文献１に記載の撮像装置は、適切な視野角が与えられた左眼用画像光及び右眼画像光を複数の反射板を用いて撮像レンズに導く光学圧縮部（３Ｄアダプタ）と、略眼幅に並べた二つのアナモフィックレンズ部と、信号処理部と、記録再生部と、３Ｄ表示部とから構成されている。
【００１３】
特許文献２に記載の立体映像撮像装置は、略眼幅離して配設した２台のカメラ（撮像素子）を含み、一方の撮像レンズにズームレンズを、他方の撮像レンズに該ズームレンズの倍率の範囲内の倍率の固定倍率レンズをそれぞれ使用して、２Ｄ撮影又は３Ｄ撮影を行うことを可能にしたものである。
【００１４】
特許文献３に記載の三次元画像データ作成方法では、２Ｄ撮影された画像から擬似的に右画像及び左画像を生成し３Ｄ画像とすることが提案されている。
【００１５】
【特許文献１】
特開平９−３３１５５１号公報
【特許文献２】
特開平９−２１５０１２号公報
【特許文献３】
特開平９−１８５７１２号公報
【００１６】
【発明が解決しようとする課題】
上述したような従来技術において、例えば光学圧縮部（３Ｄアダプタ）を使用する撮像装置の場合、撮像装置と共に３Ｄアダプタを常時携帯していないと３Ｄ撮影ができない。また、ユーザが３Ｄアダプタを紛失したりすることも想定される。３Ｄ撮影の際には、ユーザが３Ｄアダプタをカメラ本体に装着するために時間を要するため、シャッターチャンスを逃してしまうという不便さがあった。
【００１７】
また、デジタルカメラ本体の光学ズームを変化させると、３Ｄアダプタ上の光軸が適切に撮像素子上に入射されなくなり、場合によっては右画像と左画像で被写体の位置が大きくずれてしまうことになる。このようなずれを補正する機能として、例えば、光軸を補正するためのモータ等を３Ｄアダプタに備えることも可能であるが、装置が大型化、重量化、高コスト化してしまうことになる。
【００１８】
そこで、従来の２つの撮像部を備えた３Ｄデジタルカメラでは、３Ｄ撮影をする際には両撮像部の光学ズームを所定の焦点距離に固定して、ユーザが光学ズームを操作できないようにしている。
【００１９】
光学ズームを動作させた時の問題を図１１及び図１２を用いて説明する。
図１１に示すように右光学系８１１と左光学系８２１とが略眼幅離で配置されており、その距離がｄであると仮定する。このとき、右光学系８１１の光軸と左光学系８２１の光軸とが、カメラから距離αの地点で交差すると仮定する。このとき、右光学系８１１の光軸と左光学系８２１の光軸とがなす角はｔａｎ−１（ｄ／α）で与えられる。通常、３Ｄデジタルカメラでは、この角度を一定の値に固定している。
【００２０】
例えば、図１１において、右光学系８１１の光軸と左光学系８２１の光軸とが、被写体距離ａの被写体Ａの位置で交差する場合に、光学ズームを動作させながら被写体Ａを撮像しても、図１２ａ及び図１２ｂに示すように、被写体像が撮像画面上で大きさを変えるだけで左右にずれることはない。このとき生成される３Ｄ画像は画面の中央に被写体Ａが収まり良好な画像が期待できる。
【００２１】
しかしながら、図１１に示す被写体距離ｂの被写体Ｂ、あるいは被写体距離ｃの被写体Ｃを、この３Ｄデジタルカメラで光学ズームを動作させながら撮像すると、図１２ｃから図１２ｆに示すように、撮像画面上で被写体Ｂ，Ｃは大きさを変えるだけでなく左右に変移を生じてしまう。例えば、右光学系８１１の光軸上に被写体Ｂ，Ｃを捕らえると、右撮像画面上で被写体は左右の変移は起こらないが、左光学系８２１で撮像した左撮像画面上では、光学ズーム動作に応じて、被写体Ｂは右に変移し（図１２ｃ及び図１２ｄ参照）、被写体Ｃは左に変移する（図１２ｅ及び図１２ｆ参照）。
【００２２】
このような状態で３Ｄ画像を生成しても被写体の周囲像が左右に均等配置されず良好な画像にならない。つまり、上記のような３Ｄデジタルカメラでは光学ズームを動作可能な被写体距離が限定されてしまう。その結果、３Ｄ画像生成時には焦点距離を固定して光学ズームを動作させないようにしていることが多い。
【００２３】
以上説明したように、従来の３Ｄデジタルカメラでは、撮影時に光学ズーム可能な立体視画像を得るためには、複雑で高価な３Ｄアダプタを用いたり、光学ズーム動作に同期してそれぞれの光軸がなす角を変移させることが可能な複雑で高価な２個の光学系を備えたりすることが必要となってしまう。
【００２４】
他方で、ズーム手段として電子ズームを使用する場合には、画質劣化という別の問題が発生する。２つの撮像系がなす角を光学ズームに連動して変化させることにより、上記のような問題を回避することも考えられるが、このような機能を実現するためには複雑な光学系を用いなければならず、また、その光学調整は簡便なものとはならない。結果的に、高価で複雑な操作を必要とする３Ｄデジタルカメラとならざるを得ない。
【００２５】
さらに、２つの撮像部を備える３Ｄデジタルカメラでは、それぞれの撮像部から右画像信号と左画像信号を得て、両画像信号を合成して３Ｄ画像を得るが、それぞれの撮像部の特性差が合成した３Ｄ画像の右画像及び左画像に反映されてしまうという問題点もある。ここで、特性差とは、例えば、明るさ、ノイズレベル、色合いの差として表れるものであり、３Ｄ画像の品質を低下させる原因となる。
【００２６】
また、２Ｄ画像から擬似的に３Ｄ画像を生成する方法では、上記光学ズームに伴う問題や２個の撮像部を有するカメラ特有の諸問題は発生しないが、基となる２Ｄ画像１枚の中から被写体や背景の分離等の複雑かつ困難な処理を必要とし、誤判定や処理の遅れ等が伴うため、確実性、安定性に不安が残る。
【００２７】
そこで、本発明は、このような実情に鑑みて、３Ｄアダプタの着用や複雑かつ高価な光学ズーム機能を備えることを必要とせず、２つの撮像部からの画像信号のずれが合成画像に影響してしまうのを防ぐことができる３Ｄデジタルカメラを提供しようとするものである。
【００２８】
【課題を解決するための手段】
上記解決課題に鑑みて鋭意研究の結果、本発明者は、２つの撮像部を利用し、実際の画像を合成するのはそのうち１つの画像のみを利用して立体視が可能な３Ｄ画像を生成することにより、従来の３Ｄデジタルカメラにおける光学ズームを使用できないという問題点を解決することができることに想到した。
【００２９】
すなわち、本発明は、略眼幅離して配置された主撮像部及び従撮像部を備えた３Ｄ撮像可能なデジタルカメラであって、前記主撮像部及び従撮像部から得られる主画像信号及び従画像信号の間に生じる視差を抽出し、前記主画像信号から主画像を生成し、前記主画像信号から、前記抽出した視差に基づいて従画像を生成することにより、３Ｄ画像を生成するデジタルカメラを提供するものである。
【００３０】
本発明は、また、略眼幅離して配置された主撮像部及び従撮像部と、前記主撮像部及び従撮像部から得られる主画像信号及び従画像信号を合成する画像合成部と、を備えた３Ｄ撮像可能なデジタルカメラであって、前記画像合成部は、前記主画像信号及び従画像信号の間に生じる視差を抽出する視差抽出手段と、前記抽出した視差に基づいて、前記主画像信号の画素を再配置した画像データを生成する画素再配置手段と、前記主画像信号から主画像を生成し、前記画素を再配置した画像データから従画像を生成することにより、３Ｄ画像を生成するデジタルカメラを提供するものである。
【００３１】
本発明のデジタルカメラにおいて、前記視差抽出手段は、主画像信号及び従画像信号の対応する画素間で濃度値の差を算出し、その差が所定の値を超える場合に視差が生じていると判断することを特徴とする。
【００３２】
本発明のデジタルカメラにおいて、前記視差抽出手段は、さらに、前記視差が生じていると判断した画素について、主画像信号及び従画像信号間での水平方向の視差を抽出することを特徴とする。
【００３３】
本発明のデジタルカメラにおいて、前記画素再配置手段は、前記抽出した水平方向の視差の値分、前記主画像信号の画素を水平方向にオフセットして画素を再配置した画像データを生成することを特徴とする。
【００３４】
本発明のデジタルカメラにおいて、前記画素再配置手段は、さらに、視差が生じているにも関わらず視差が抽出されなかった画素について、該画素の水平方向前後の画素の視差の値を用いて補間を行うことを特徴とする。
【００３５】
本発明のデジタルカメラにおいて、前記従撮像部は、前記主撮像部の光学ズーム動作に連動して、電子ズームによりその切り出し位置を水平方向にシフトさせることにより、前記主撮像部及び従撮像部の撮像画角を一致させることができることを特徴とする。
【００３６】
本発明のデジタルカメラは、以上のような構成により、従来の３Ｄデジタルカメラにおける光学ズームを使用できないという問題点を解決することができる。
【００３７】
【発明の実施の形態】
以下、添付図面を参照しながら、本発明の実施の形態を詳細に説明する。
【００３８】
図１〜図８は、本発明の実施の形態を例示する図であり、これらの図において、同一の符号を付した部分は同一物を表わし、基本的な構成及び動作は、図９及び図１０に示す従来の３Ｄデジタルカメラと同様であるものとする。
【００３９】
図１は、本発明の一実施形態にかかる３Ｄデジタルカメラの内部構成を概略的に示す機能ブロック図である。図１において、本実施形態の３Ｄデジタルカメラは、主たる撮像部（以下、「主撮像部」という）１１、従たる撮像部（以下、「従撮像部」という）１２、画像合成部１３、合成制御部１４、メモリ１５及びメディア変換部１６から構成されている。
【００４０】
主撮像部１１及び従撮像部１２は、それぞれ、光学系１１１，１２１、撮像素子１１２，１２２、撮像素子駆動部１１３，１２３、カメラ信号処理部１１４，１２４、カメラ制御部１１５，１２５、メモリ１１６，１２６、及び光学系駆動部１１７，１２７を含んでいる。また、主撮像部１１及び従撮像部１２は、略眼幅離して配置されている。
【００４１】
カメラ制御部１１５，１２５は、それぞれ、主撮像部１１及び従撮像部１２の各構成部分を制御する。撮像素子駆動部１１３，１２３は、それぞれ、撮像素子１１２，１２２を駆動する。光学系駆動部１１７，１２７は、それぞれ、光学系１１１，１２１を駆動し、フォーカス、ズーム、絞り、シャッター制御などの機能を実現する。本実施形態の３Ｄデジタルカメラの他の構成部分については、一般的に知られたデジタルカメラの構成と同様であるものとする。
【００４２】
このような構成を有する３Ｄデジタルカメラで画像を撮像すると、被写体像および被写体の周囲像と背景が、光学系１１１，１２１を通じて、撮像素子１１２，１２２に結像される。撮像素子１１２，１２２は結像した光学像を、所定のタイミングで電気信号に変換する。カメラ信号処理部１１４，１２４は、光学像から変換された電気信号に対して、レベル変換、ホワイトバランス、ガンマ変換等の必要な各種処理を施して、画像信号を生成する。このとき、必要に応じて、メモリ１１６，１２６を用いて電子ズームなどの機能を実現することもできる。カメラ信号処理部１１４，１２４において生成された画像信号は、それぞれ、画像合成部１３に出力される。
【００４３】
画像合成部１３では、主撮像部１１からの主画像信号と従撮像部１２からの従画像信号とを用いて、立体視可能な３Ｄ画像を合成する。また、画像合成部１３は、画像合成前の原画像信号をメモリ１５に出力し、メモリ１５はこの原画像信号を記憶しておく。合成制御部１４は、３Ｄ画像合成時の制御を行う。メディア変換部１６は、合成した３Ｄ画像を、出力先に応じたデータ形式に変換して出力する。例えば、テープ記録用画像、コンピュータ画像などの記録メディア用フォーマットに変換したり、ＴＶモニタやＬＣＤモニタなどの表示装置用フォーマットに変換したりする。
【００４４】
ここで、主撮像部１１及び従撮像部１２それぞれの光学系１１１，１２１について言及する。後段の画像合成部１３で効果的な３Ｄ合成画像を生成するためには、少なくとも主撮像部１１の光学系１１１がとる撮像画角と従撮像部１２の光学系１２１がとる撮像画角とは、一致している必要がある。そのため従来の３Ｄデジタルカメラでは、３Ｄ撮像を行う場合には、光学ズームをある焦点距離位置に固定することとし、ユーザが光学ズームを動作できないようにしていた。
【００４５】
これに対して、本発明の３Ｄデジタルカメラは、３Ｄ撮像時にもユーザによる光学ズーム動作が可能であることを特徴としている。すなわち、主撮像部１１では、ユーザによる光学ズーム動作を可能とし、従撮像部１２では、光学ズームをワイド端で固定するとともに電子ズームを動作可能としている。これにより、主撮像部１１の光学系制御上のフォーカス情報に連動させて、従撮像部１２の電子ズームの水平位置を補正することができる。具体的には、主撮像部１１の光学系制御フォーカス情報による被写体距離が、主撮像部１１と従撮像部１２の光軸同士が交差する位置よりも近いときは、主撮像部１１が右眼配置であれば右に、主撮像部１１が左眼配置であれば左に、光学ズームによる切り出し水平位置をシフトさせる。
【００４６】
図２は、図１に示す本実施形態の３Ｄデジタルカメラの画像合成部１３の内部構成を詳細に示す機能ブロック図である。図２において、画像合成部１３は、一対の水平圧縮部２０１，２０３、一対のラインメモリ２０２，２０４、同期制御部２０５、メモリ制御部２０６、ＤＭＡ２０７、差分回路２０８、視差抽出部２０９、画素再配置部２１０及びマイコンインターフェース２１１を含んで構成されている。これらの構成部分のうち、ラインメモリ２０２，２０４、メモリ制御部２０６、ＤＭＡ２０７、差分回路２０８、視差抽出部２０９及び画素再配置部２１０は、データバスで接続されており、データの送受信が行えるようになっている。
【００４７】
水平圧縮部２０１，２０３は、主撮像部１１から入力される主画像信号及び従撮像部１２から入力される従画像信号を、それぞれ水平方向において１／２に圧縮する。これは略眼幅離した２つの撮像部１１及び１２から生じる視差を持つ２つの画像信号を用いて、１つの画像を合成するために必要な処理である。ラインメモリ２０２，２０４は、水平方向で１／２に圧縮された主画像信号及び従画像信号を、それぞれ異なるタイミングでデータバスに出力する。メモリ制御部２０６は、データバス上に送出された画像信号データを外部メモリに書き込み、あるいは外部メモリに保持された画像信号データをデータバス上に読み出すことができる。ＤＭＡ２０７は、データバスに接続されている各構成部分の入出力タイミング制御を行うことにより、データバス上でのデータの衝突を回避する。
【００４８】
差分回路２０８は、データバス上に出力された主画像信号及び従画像信号の差分演算を行う。差分回路２０８が算出した差分情報は、マイコンインターフェース２１１を介して合成制御部に送信され、視差情報抽出制御に用いられる。視差抽出部２０９は、主画像信号及び従画像信号に含まれる被写体像、周囲像および背景について視差がどのように発生しているかを解析する。視差抽出部２０９が解析した視差情報は、マイコンインターフェース２１１を介して合成制御部に送信され、３Ｄ画像合成の制御に用いられる。画素再配置部２１０は、主画像信号及び従画像信号を用いて３Ｄ画像を合成し、メディア変換部１６に出力する。同期制御部２０５は、メディア変換部１６で使用される画像信号に同期したタイミングを生成している。
【００４９】
次に、図２に示す本実施形態の３Ｄデジタルカメラの画像合成部１３において、撮像データから３Ｄ画像を生成する際の動作を詳細に説明する。以下、主撮像部１１が右眼側に、従撮像部１２が左眼側に配置されているものとして説明する。また、図３〜図８において用いる各パラメータは次のように定義されているものとする。
ｄ（ｉ，ｊ）：水平位置ｉ垂直位置ｊにおける主画像信号及び従画像信号間の差分情報。
ｉｄ（ｉ，ｊ）：水平位置ｉ垂直位置ｊにおける主画像信号及び従画像信号間の視差。
ｍ（ｉ，ｊ）：水平位置ｉ垂直位置ｊにおける主画像信号の画素の濃度値。
ｓ（ｉ，ｊ）：水平位置ｉ垂直位置ｊにおける従画像信号の画素の濃度値。
Ｔｈ：差分情報の閾値。
ｇ（ｉ，ｊ）：水平位置ｉ垂直位置ｊにおける主画像信号の画素再配置により生成される画素の濃度値。
【００５０】
また、最終的に合成される３Ｄ画像の大きさを水平Ｘ（Ｘは２の倍数）、垂直Ｙとし、原画像信号である主画像信号及び従画像信号は、それぞれ、水平圧縮部２０１，２０３において、水平Ｘ／２、垂直Ｙの大きさに圧縮されている。
【００５１】
（１）  差分情報取得ステップ
まず、３Ｄ画像の撮像データとして、所定の処理を施された主画像信号及び従画像信号がデータバス上に出力されると、差分回路２０８は、主画像信号及び従画像信号の各画素ごとに差分を演算して、主画像信号と従画像信号との間に視差が生じている箇所を特定する（差分情報の取得）。主画像信号と従画像信号との差分については、予め閾値を設定しておき、演算結果の差分値が０又は閾値に満たない画素は視差を生じていない画素とし、演算結果の差分値が閾値以上の画素は視差を生じている画素として、各画素についての判断結果を合成制御部１４に出力する（あるいは、メモリ制御部２０６を通じて、外部メモリ等に一時的に記憶するようにしてもよい）。視差を生じていると判断された画素は、次の視差抽出ステップでの処理対象となる。
【００５２】
図３は、この差分情報取得ステップの処理の流れを示すフローチャートである。図３において、各位置（ｉ，ｊ）における画素ごとに、主画像信号内の画素濃度値ｍ（ｉ，ｊ）と従画像信号内の画素濃度値ｓ（ｉ，ｊ）との差の絶対値と、差分情報の閾値Ｔｈとを比較し、差分があると判断した画素については、ｄ（ｉ，ｊ）の値を１にセットし、差分がないと判断した画素についてはｄ（ｉ，ｊ）の値を０にセットする処理が行われている。
【００５３】
（２）  視差抽出ステップ
視差抽出部２０９は、主画像信号及び従画像間信号で視差が生じている画素について、水平方向の視差を抽出する。具体的には、対象となる従画像信号内の画素と、その同一垂直位置にある複数個（例えば３個）画素とを基準モデルとして用い、主画像信号内の対象画素と同一垂直位置にある全ての画素群（基準モデルと同数）と比較する。ここでは、対象となる画素の位置座標が（ｉ，ｊ）であるとすると、従画像信号内のｓ（ｉ＋１，ｊ）、ｓ（ｉ＋２，ｊ）、ｓ（ｉ＋３，ｊ）という画素群を上記基準モデルとし、これらを主画像信号内の同一垂直位置ｊにある各画素群ｍ（０，ｊ）〜ｍ（３，ｊ）、ｍ（１，ｊ）〜ｍ（４，ｊ）、ｍ（２，ｊ）〜ｍ（５，ｊ）．．．と比較してゆく。
【００５４】
ここで、基準モデルの濃度値の配列とほぼ一致する主画像信号内の画素群が検出されれば、従画像信号内の対象画素の水平位置と、検出された主画像信号内の画素群の水平位置（上記の例では一番値が小さい水平座標）との差を演算し、これを視差として抽出する。これを位置（ｉ，ｊ）における画素の視差として合成制御部１４に出力する（あるいは、メモリ制御部２０６を通じて、外部メモリ等に一時的に記憶するようにしてもよい）。
【００５５】
図４は、この視差抽出ステップの処理の流れを示すフローチャートである。図４において、視差抽出対象となる画素（ｄ（ｉ，ｊ）の値が１となっている画素）について、その主画像信号内の画素濃度値ｓ（ｉ，ｊ）とこれに隣接する３つの画素濃度値ｓ（ｉ＋１，ｊ）、ｓ（ｉ＋２，ｊ）、ｓ（ｉ＋３，ｊ）を基準モデルとして用い、従画像信号内の同垂直位置の画素群の濃度値との比較を行い、濃度値がほぼ等しくなる画素位置を検出している。この比較処理において、ｉｄ０，ｉｄ１，ｉｄ２，ｉｄ３の全てが０となるかどうかが分岐の条件となっているが、上記差分情報取得ステップと同様に、それぞれが一定の閾値内にあるかどうかを分岐の条件に設定することもできる。
【００５６】
（３）  画素再配置ステップ
画素再配置部２１０は、各画素ごとに抽出した視差に基づいて、主画像信号から右眼画像（主画像）および左眼画像（従画像）を生成し、３Ｄ画像とする。ここでは、主撮像部１１が右眼光学系として配置されているので、右眼画像には主画像信号をそのまま用い、左眼画像には抽出した視差に基づいて主画像信号から生成した画像を用いる。逆に、主撮像部１１が左眼光学系として配置されていれば、左眼画像には主画像信号をそのまま用い、右眼画像には抽出した視差に基づいて主画像信号から生成した画像を用いればよい。
【００５７】
視差に基づいて生成される側の画像は、主画像信号の画素配列に対して、抽出された視差の値分、水平方向にオフセットして再配置したものである。このとき、視差の値が抽出されなかった画素が生じていることも想定されるが、このような画素については、水平方向で隣接する画素から補間して埋め込みを行うことができる。
【００５８】
図５は、この画素再配置ステップの処理の流れを示すフローチャートである。図５において、画素再配置の対象となる画素（ｉ，ｊ）について、視差の値が存在する場合（すなわちｉｄ（ｉ，ｊ）＝Ｚでない場合）には、主画像信号内で位置（ｉ，ｊ）から視差の値ｉｄ（ｉ，ｊ）分ずらした（オフセットした）位置の画素データ（ｍ（ｉ＋ｉｄ（ｉ，ｊ），ｊ））をｇ（ｉ，ｊ）とする。また、位置（ｉ，ｊ）における視差の値をｉｄｌというパラメータに格納しておく。一方で、画素再配置の対象となる画素（ｉ，ｊ）について、視差の値が存在しない場合（すなわちｉｄ（ｉ，ｊ）＝Ｚとなる場合）には、画素（ｉ，ｊ）の水平方向前後における有効な視差の値（Ｚ以外の値）を検索し、これらのうち値の小さい方を画素（ｉ，ｊ）の視差として使用することにより、視差の値を持たない画素に対しての補間を行うこととしている。
【００５９】
上記した（１）  差分情報取得ステップ、（２）  視差抽出ステップ及び（３）  画素再配置ステップのそれぞれについて、実際のプログラム記述例を図６〜図８に示すが、これらは基本的動作のみを記述したものであり、ソースコードとして完成したものを示しているわけではない。尚、これらの処理ステップの実現方法については、図６〜図８に示すものに限定されるわけではなく、使用するプログラム言語、プロセッサ、デジタルカメラのハードウェア部分によって、適当な方法を取ることができる。
【００６０】
以上説明した本実施形態のデジタルカメラによれば、３Ｄ画像を合成することで主撮像部から得た主画像信号のみから、視差を持つ３Ｄ画像を合成することができる。
【００６１】
以上、本発明のデジタルカメラについて、具体的な実施の形態を示して説明したが、本発明はこれらに限定されるものではない。当業者であれば、本発明の要旨を逸脱しない範囲内において、上記各実施形態又は他の実施形態にかかる発明の構成及び機能に様々な変更・改良を加えることが可能である。
【００６２】
【発明の効果】
以上、説明したように、本発明のデジタルカメラによれば、２つの撮像部を利用し、実際の画像を合成するのはそのうち１つの画像信号のみを利用して立体視が可能な３Ｄ画像を生成することにより、従来の３Ｄデジタルカメラにおける光学ズームを使用できないという問題点を解決することができる。また、２つの撮像部間の画質上の差が合成画像に反映されないため、良質な３Ｄ画像が生成される。
【図面の簡単な説明】
【図１】本発明の一実施形態にかかる３Ｄデジタルカメラの内部構成を概略的に示す機能ブロック図である。
【図２】図１に示す本実施形態の３Ｄデジタルカメラの画像合成部１３の内部構成を詳細に示す機能ブロック図である。
【図３】図２に示す差分回路２０８により行われる差分情報取得ステップの処理の流れを示すフローチャートである。
【図４】図２に示す視差抽出部２０９により行われる視差抽出ステップの処理の流れを示すフローチャートである。
【図５】図２に示す画素再配置部２１０により行われる画素再配置ステップの処理の流れを示すフローチャートである。
【図６】図３に示す差分情報取得ステップのプログラム記述例を示す図である。
【図７】図４に示す視差抽出ステップのプログラム記述例を示す図である。
【図８】図５に示す画素再配置ステップのプログラム記述例を示す図である。
【図９】従来の３Ｄ撮像デジタルカメラの内部構成を概略的に示す機能ブロック図である。
【図１０】図９に示す従来の３Ｄ撮像デジタルカメラの画像合成部６３の内部構成を詳細に示す機能ブロック図である。
【図１１】従来の２つの撮像部を備えた３Ｄデジタルカメラで、光学ズームを動作させながら３Ｄ撮像する場合の動作を説明する図である。
【図１２】従来の２つの撮像部を備えた３Ｄデジタルカメラで、光学ズームを動作させながら３Ｄ撮像する場合の動作を説明する図である。
【符号の説明】
１１  主撮像部
１２  従撮像部
１１１，１２１    光学系
１１２，１２２    撮像素子
１１３，１２３    撮像素子駆動部
１１４，１２４    カメラ信号処理部
１１５，１２５    カメラ制御部
１１６，１２６    メモリ
１１７，１２７    光学系駆動部
１３  画像合成部
１４  合成制御部
１５  メモリ
１６  メディア変換部
２０１，２０３    水平圧縮部
２０２，２０４    ラインメモリ
２０５    同期制御部
２０６    メモリ制御部
２０７    ＤＭＡ
２０８    差分回路
２０９    視差抽出部
２１０    画素再配置部
２１１    マイコンインターフェース
６１  右撮像部
６２  左撮像部
６１１，６２１    光学系
６１２，６２２    撮像素子
６１３，６２３    撮像素子駆動部
６１４，６２４    カメラ信号処理部
６１５，６２５    カメラ制御部
６１６，６２６    メモリ
６１７，６２７    光学系駆動部
６３  画像合成部
６４  メディア変換部
７１，７３    水平圧縮部
７２，７４    ラインメモリ
７５  同期制御部
７６  水平再配置部
８１１    右光学系
８２１    左光学系
【図１】
2005020606.tif 000003
【図２】
2005020606.tif 000004
【図３】
2005020606.tif 000005
【図４】
2005020606.tif 000006
【図５】
2005020606.tif 000007
【図６】
2005020606.tif 000008
【図７】
2005020606.tif 000009
【図８】
2005020606.tif 000010
【図９】
2005020606.tif 000011
【図１０】
2005020606.tif 000012
【図１１】
2005020606.tif 000013
【図１２】
2005020606.tif 000014