(57)【要約】      （修正有）【課題】立体像の視差に応じて画像を強調するパラメータを変更することで書割感を改善し、立体像本来の奥行き感を再現する。【解決手段】視差画像を処理する画像処理装置において、フレームバッファに蓄積された右眼用映像および左眼用映像からの映像信号を受信し、両映像のステレオマッチングに基づいて視差量を算出し、要素毎の視差の変化率を取得する視差変化率取得手段と、取得した視差の変化率が高い要素に対して、強調処理を弱めるように画像データに強調処理をする強調手段とを備える。【選択図】図１
2014011492.tif 000002
【特許請求の範囲】
【請求項１】
画像を構成する要素毎の視差の変化率を取得する視差変化率取得手段と、
前記取得した視差の変化率に応じて前記画像を示す画像データに強調処理をする強調手段と
を備えることを特徴とする画像処理装置。
【請求項２】
前記強調手段は、前記視差の変化率が高い要素に対して前記強調処理を弱めることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記視差変化率取得手段は、前記視差の変化率を前記要素毎の視差の視差量に基づいて取得することを特徴とする請求項１または２に記載の画像処理装置。
【請求項４】
前記強調手段は、前記視差量にさらに応じて前記強調処理をすることを特徴とする請求項３に記載の画像処理装置。
【請求項５】
前記画像に含まれるオブジェクトを抽出する抽出手段をさらに備え、
前記強調手段は、前記抽出されたオブジェクトにさらに応じて前記強調処理をすることを特徴とする請求項１から４のいずれかに記載の画像処理装置。
【請求項６】
前記強調手段は、
空間フィルタを施すフィルタ手段、階調強調を施す階調強調手段、または視差量を強調する視差量強調手段のいずれかであることを特徴とする請求項１から５のいずれかに記載の画像処理装置。
【請求項７】
画像を構成する要素毎の視差の変化率を取得する視差変化率取得ステップと、
前記取得した視差の変化率に応じて前記画像を示す画像データに強調処理をする強調ステップと
を備えることを特徴とする画像処理方法。
【請求項８】
コンピュータを、請求項１から６のいずれかに記載の画像処理装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、立体像の立体感を改善するための画像処理装置および画像処理方法に関する。
【背景技術】
【０００２】
立体像を表示する技術として、フレームシーケンシャル方式や偏光方式で２視差画像を表示する技術、あるいはパララックスバリアやレンチキュラーを用いて多視差画像を表示する方式の普及に伴い、立体像の画質向上が課題となっている。ここで、立体像の画質を改善する技術として、例えば特許文献１の様に複数の視差画像の輝度を整合させる手法や、特許文献２の様にステレオ画像生成に於いて周波数強調を行うものがある。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平１１−１２７４５６号公報
【特許文献２】特開２０００−１１１３２１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ここで立体像の画質課題のうち、重要な課題の一つとして書割現象がある。書割現象の原因としては、視差の不足や不適切な輻輳設定といった原因もあるが、別の原因として融像の手がかりとなる画像構造に於ける高周波成分の喪失がある。周波数成分と奥行き知覚の関係として、画像周波数が低くなると視覚が検知できる視差（Disparity）が大きくなることが知られている。他方、画像の周波数成分は撮像時の光学ローパスフィルタやレンズのMＴＦ（Modulation Transform Function）特性により高周波成分を喪失する。従って、画像の高周波成分が喪失することにより視覚が検知できる視差が大きくなるので、被写体の微妙な視差の変化を検知できなくなり、その結果、立体像の奥行きを知覚しにくくなる。
【０００５】
特許文献１の技術は輝度を整合させるのみであるため、高周波成分を回復させることによる奥行き感の改善は期待できない。また特許文献２の技術は視差画像に対してコントラスト強調あるいは周波数強調を施しているが、光沢部を強調することでの立体感増強を目的としているため、例えば光沢の無い画像に対しては奥行き感が改善されない。他方で単純に全体に高域強調フィルタを施す場合には、画像全体でノイズやエッジを強調してしまうため、好適な画像が得られない場合が存在する。
【課題を解決するための手段】
【０００６】
本発明に係る画像処理装置は、画像を構成する要素毎の視差の変化率を取得する視差変化率取得手段と、前記取得した視差の変化率に応じて前記画像を示す画像データに強調処理をする強調手段とを備えることを特徴とする。
【発明の効果】
【０００７】
本発明によれば、立体像の視差に応じて画像を強調するパラメータを変更することで書割感を改善し、立体像本来の奥行き感を再現することができる。また、本発明によれば、画像全体でのノイズ増幅や過度のエッジ強調などを抑えつつ、立体感を向上させることができる。
【図面の簡単な説明】
【０００８】
【図１】本発明の実施例１における視差画像処理装置全体のシステム構成例を示すブロック図である。
【図２】本発明の実施例１における映像強調量算出回路の構成例を示すブロック図である。
【図３】本発明の実施例１におけるパラメータテーブルの一例を示す模式図である。
【図４】本発明の実施例１における映像強調回路の構成例を示すブロック図である。
【図５】本発明の実施例２における映像強調回路の構成例を示すブロック図である。
【図６】本発明の実施例２における階調処理係数テーブルのデータの一例を示す模式図である。
【図７】本発明の実施例２におけるコントラスト強調回路の構成例を示すブロック図である。
【図８】本発明の実施例３における映像強調量算出回路の構成例を示すブロック図である。
【図９】本発明の実施例４における映像強調量算出回路の構成例を示すブロック図である。
【図１０】本発明の実施例４における視差量のヒストグラムの一例を示す模式図である。
【図１１】本発明の実施例４における映像強調回路の構成例を示すブロック図である。
【発明を実施するための形態】
【０００９】
以下、図面を参照して各実施例について説明する。
【実施例１】
【００１０】
本実施例は、立体像の視差の変化率に応じて、その変化率に適した画像強調を施すことで書割感を改善し、立体像本来の奥行き感を再現するための画像処理を実現するものである。本実施例によれば、視差の変化率を考慮して画像強調量を制御することにより、緩やかな凹凸の立体感の再現を向上させ書割感改善といった立体感の向上効果を得ることができる。また、視差の変化率に応じて適応的に画像強調を可変させるため、画像全体でのノイズ増幅や過度のエッジ強調なども抑えられる。
【００１１】
図１は実施例１の視差画像処理装置全体のシステム構成を示すブロック図である。視差画像処理装置は、視差映像信号を受信してＬＣＤ(Liquid Crystal Display)にＳｅｑｕｅｎｔｉａｌ方式で表示する視差映像表示装置１０１と、液晶シャッターメガネ１０２とからなる。ここで視差映像信号とは、例えば符号化された視差映像信号やＬｉｎｅ−ｂｙ−Ｌｉｎｅ／Ｓｉｄｅ−ｂｙ−Ｓｉｄｅ／Ｓｅｑｕｅｎｔｉａｌ方式などによる映像を指す。また液晶シャッターメガネ１０２は視差映像表示に同期して右眼シャッターと左眼シャッターとを開閉する。なお、本明細書において信号はデータと同様の意味を有するものとする。
【００１２】
視差映像表示装置１０１は次の装置から構成される。端子１０３は、Ｌｉｎｅ−ｂｙ−Ｌｉｎｅ／Ｓｉｄｅ−ｂｙ−Ｓｉｄｅ／Ｓｅｑｕｅｎｔｉａｌ方式などの視差映像信号を受信する。端子１０４は、符号化された視差映像信号する。デコーダ１０５は、符号化された視差映像信号を復号し、ステレオ映像分離回路１０６に視差映像信号を出力する。
【００１３】
ステレオ映像分離回路１０６は、端子１０３またはデコーダ１０５からの視差映像信号を、右眼用映像信号と左眼用映像信号とに分離し、右眼用映像信号をフレームバッファ１０７に、左眼用映像信号をフレームバッファ１０８に出力する。フレームバッファ１０７と１０８は、後段の装置での処理同期を取るため、映像信号を一時蓄積しておくためのバッファである。
【００１４】
フレームバッファ１０７に蓄積された右眼用映像信号は、所定のタイミングと同期して出力され、色処理回路１０９にて階調補正や記憶色補正などの色処理が施される。色処理回路１０９から出力された右眼用映像信号は、さらに映像強調回路１１０にて強調処理を施されたのちに映像合成回路１１５に入力される。映像強調処理には、例えば高域強調、コントラスト強調、超解像強調などの強調処理が含まれる。フレームバッファ１０８に蓄積された左眼用映像信号も、右眼用映像信号と同様、色処理回路１１１にて階調補正や記憶色補正などの色処理が、映像強調回路１１２にて強調処理が施されたのち、映像合成回路１１５へと入力される。ここで映像強調回路１１０および映像強調回路１１２は同一の内部構成であり、映像強調量算出回路１１４からの出力により処理強度が制御される。映像強調回路１１０，１１２の内部構成については後述で詳しく説明する。
【００１５】
また視差量算出回路１１３は、フレームバッファ１０７に蓄積された右眼用映像およびフレームバッファ１０８に蓄積された左眼用映像からの映像信号を受信し、両映像のステレオマッチングに基づいて視差量を２次元視差量マップとして算出する。視差量算出回路１１３で算出された視差量は、映像強調量算出回路１１４に入力され、映像の各座標位置に対する強調量がパラメータとして算出される。算出されたパラメータが、先述のように映像強調回路１１０，１１２に出力されて映像処理強度が制御される。映像強調量算出回路１１４の内部構成についても、後述で詳しく説明する。
【００１６】
映像合成回路１１５は、映像強調回路１１０からの映像強調処理された右眼用映像信号と映像強調回路１１２からの映像強調処理された左眼用映像信号とを受信する。そして、フレームシーケンシャル方式で右眼用フレームと左眼用フレームとを交互にγ処理回路１１６に出力する。γ処理回路１１６は、ＬＣＤパネル１１８のＶ−Ｔ特性を補正するγ変換を施し、ＬＣＤコントローラ１１７へ映像信号を出力する。ＬＣＤコントローラ１１７は、この映像信号に応じてＬＣＤパネル１１８駆動用の制御信号を生成してＬＣＤパネル１１８に出力する。ＬＣＤパネル１１８は駆動用制御信号に基づいて映像を表示する。
【００１７】
シャッター同期回路１１９は、ＬＣＤコントローラの動作と同期して液晶シャッターメガネ１０２に対する同期信号を赤外線エミッタ１２０に送信する。赤外線エミッタ１２０は、シャッター同期回路１１９からの信号を赤外線に変換して液晶シャッターメガネ１０２に伝送する。
【００１８】
以下の装置は、視差映像表示装置１０１を適切に作動させる為の各種制御を行う。ＭＰＵ１２１は、各構成の処理全てに関わり、ＲＯＭ１２２やＲＡＭ１２３に格納された命令を順に読み込み処理を実行する。そして、システムバス１２５を介して各構成を制御する。また、ＲＯＭ１２２とＲＡＭ１２３は、その処理に必要なプログラム、データ、作業領域などをＭＰＵ１２１に提供する。またＭＰＵ１２１は、デコーダ１０５からγ処理回路１１６までの装置群に対する設定パラメータをＲＯＭ１２２から読み出して設定する。コントロールパネル１２４は、検知したユーザーの操作入力をＭＰＵ１２１に通知する。ＭＰＵ１２１は通知内容に応じ、視差映像表示装置１０１内の全装置のＯｎ／Ｏｆｆ、端子１０３からの視差映像信号入力と端子１０４からの符号化視差映像信号入力の選択などを行う。
【００１９】
視差量算出回路１１３について説明する。視差量算出回路１１３は、ｍフレーム目の右眼用映像IRm(x,y)と左眼用映像ILm(x,y)とに基づき、階層的ブロックマッチングを用いる。そして各映像を構成する画素についての視差量（Binocular disparity）をそれぞれの映像毎に算出する。階層的ブロックマッチングにおいては、基準映像と参照映像との相関を計算する処理が行われる。すなわち、基準映像と参照映像とのマッチング処理を行い、基準映像の測定ブロックとマッチング度の最も高い参照映像の参照ブロックを検出する。そして、測定ブロックと参照ブロックとの位置関係により視差量を算出する。
【００２０】
視差量算出は、１／４ピクセル精度にて、角度ではなくｐｉｘｅｌ量として行われる。但し、原理的に視差は水平方向のみに発生するため、ブロックマッチングは水平方向のみに対して行い、ブロックマッチング結果もスカラー表現で記憶することができる。なお以下では、説明のため、ブロックマッチングにより算出した、右眼用映像を基準とするmフレーム目のマッチング移動量をVRm(x,y)、左眼用映像を基準とするmフレーム目のマッチング移動量をVLm(x,y)と表記する。これらは視差マップというもことができる。視差量算出回路１１３は視差量として、算出したVRm(x,y)とをVLm(x,y)とを出力する。なお階層的ブロックマッチングを用いるステレオマッチング手法には、電子情報通信学会等の各種学会で公開されている手法を用いればよい。さらに、ブロックマッチングではなく、公知のパターンマッチング手法などを用いて視差量を算出してもよい。
【００２１】
本実施例における映像強調量算出回路１１４について、図２を用いて説明する。端子２０１は、視差量算出回路１１３で算出された視差量であるVRm(x,y)とVLm(x,y)とを受信する。バッファ２０２は、視差量の情報をいったん蓄積する。視差変化率算出回路２０３は、次式で示す視差変化率取得例の様に視差量VRm(x,y)と視差量VLm(x,y)とに対する視差変化率を算出し、強調パラメータ算出回路２０４に出力する。ここで、視差量VRm(x,y)に対する視差変化率をDRm(x,y)、視差量VLm(x,y)に対する視差変化率をDLm(x,y)と表記する。
【００２２】
【数１】
2014011492.tif 000003
【００２３】
【数２】
2014011492.tif 000004
【００２４】
強調パラメータ算出回路２０４は、視差変化率DRm(x,y)とVLm(x,y)とに基づき、右眼用映像と左眼用映像の画素位置に対応した映像強調パラメータを、パラメータテーブル２０８より読みだす。映像強調パラメータは、映像強調回路１１２において映像強調処理の際の映像強調量を制御するために用いられるものである。パラメータテーブル２０８から読みだされたパラメータ値は、映像の各画素に対応したパラメータマップとして算出される。ここで、mフレーム目の右眼用映像に対する映像強調パラメータをPRm(x,y)、左眼用映像に対する映像強調パラメータをPLm(x,y)と表記する。
【００２５】
パラメータテーブル２０８は、例えばルックアップテーブルであり、映像強調のパラメータ値を８ｂｉｔで記憶している。このテーブル値は、端子２０６とバスインタフェース２０７と通じ、ＭＰＵ１２１により設定される。テーブル値の一例をグラフとして図３に示す。図３から明らかなように、視差変化率が小さい場合には映像強調のパラメータを強く、視差変化率が大きい場合には映像強調のパラメータを弱くしている。これにより、視差変化率が大きい場合、すなわち奥行きが大きく変わる領域については、映像強調を弱めて書割感を改善して立体感を向上させることができる。また、視差変化率が小さい場合、すなわち奥行きがそれほど変わらない領域については、映像強調を強めて画質を向上させることができる。
【００２６】
本実施例における映像強調回路１１０，１１２について、図４を用いて説明する。端子４０１は、色処理回路１０９からの右眼用映像信号、もしくは色処理回路１１１からの左眼用映像信号が入力される。入力された映像信号はフレームバッファ４０２に一旦蓄積されたのち、フィルタ回路４０３にて映像強調処理として下式の様なフィルタ処理を施される。ここで、i(x,y)はフィルタ回路５０３への入力であり、右眼用映像信号もしくは左眼用映像信号が入力される。f(x,y)はフィルタのインパルス応答であり、右眼用映像／左眼用映像の画素に応じたインパルス応答がフィルタ係数設定回路４０７により設定される。o(x,y)はフィルタの出力である。
【００２７】
【数３】
2014011492.tif 000005
【００２８】
端子４０５は、映像強調量算出回路１１４からの映像強調パラメータが入力され、入力された映像強調パラメータはパラメータバッファ４０６に一旦蓄積される。フィルタ係数設定回路４０７は、フィルタ回路４０３の動作と同期してパラメータバッファ４０６より所定の画素位置に対する映像強調パラメータの値を読み出す。さらに読みだしたパラメータ値に基づいてフィルタテーブル４０８を参照して、さらにフィルタ係数を読みだす。読みだしたフィルタ係数は、フィルタ回路４０３へと出力される。フィルタテーブル４０８は、例えばルックアップテーブルであり、映像強調パラメータに応じた３×３のフィルタ係数を３２ｂｉｔで記憶している。このテーブル値は、端子４１０とバスインタフェース４０９と通じ、ＭＰＵ１２１により設定される。
【００２９】
以下では、パラメータ値とフィルタ係数との関係を、一例として説明する。mindex(x,y)の index値は対応するパラメータ値を示し、x,yはフィルタ係数の空間座標を表す。値域を[0,1]で正規化したパラメータ強度をiとすると、フィルタ係数mindex(x,y)を次のように算出する。  
mindex(0,0) = 1 + i
mindex(x,y) = - i/8 ;x∈{-1,0,1}, y∈{-1,0,1},x=y=0は除く      式４
式から明らかなように、これはオールパスフィルタと８近傍ラプラシアンフィルタとをiに基づいて線形に加算したものである。
【００３０】
なお映像強調回路としては、本実施例の様な線形フィルタのほかにεフィルタのような適応型フィルタ、あるいは最尤推定や再構成型超解像処理を用いてもよい。なお、本実施例では２つの映像強調パラメータの導出と、フィルタ係数の導出とにおいてそれぞれルックアップテーブルを用いる例を説明したが、視差の変化量に応じたフィルタ係数が設定されたルックアップテーブルを用いて処理をしてもよい。また、ルックアップテーブルを用いることなく、演算処理によってフィルタ係数を算出することもできる。
【００３１】
以上本実施例によれば、画像全体でのノイズ増幅を抑えつつ書割感を改善することができる。
【実施例２】
【００３２】
実施例１では映像強調回路１１０、１１２での処理として空間フィルタを用いた空間画像処理を採用していた。しかし、このような空間画像処理を用いる場合、ノイズが必要以上に強調され画質が低下する場合がある。そこで本実施例では、映像強調回路として空間画像処理に代わり、階調補正処理回路を用いて、階調強調する例について説明する。
【００３３】
以下、実施例１からの変更箇所である映像強調回路１１０，１１２ついて、図５を用いて説明する。端子５０１は、色処理回路１０９からの右眼用映像信号、もしくは色処理回路１１１からの左眼用映像信号が入力される。入力された映像信号はフレームバッファ５０２に一旦蓄積されたのち、コントラスト強調回路５０３にて、平均輝度を変化させずに局所的コントラストを強調する。コントラスト強調処理の処理強度については、階調処理係数設定回路５０７により設定される。なお、コントラスト強調回路５０３の内部構成については、後述で説明する。
【００３４】
端子５０５は、映像強調量算出回路１１４からの映像強調パラメータが入力され、入力された映像強調パラメータはパラメータバッファ５０６に一旦蓄積される。階調処理係数設定回路５０７は、コントラスト強調回路５０３の動作と同期してパラメータバッファ５０６より所定の画素位置に対する映像強調パラメータの値を読み出し、読みだしたパラメータ値に基づいて階調処理係数テーブル５０８を参照して係数値を読みだす。読みだした階調処理係数の係数値は、コントラスト強調回路５０３へと出力される。階調処理係数テーブルは、例えばルックアップテーブルであり、映像強調パラメータに対する階調処理係数の係数値を３２ｂｉｔで記憶している。
【００３５】
階調処理係数テーブルの一例を、グラフとして図６に示す。図から明らかなように、映像強調パラメータと階調処理係数とを単調増加な関係に設定している。つまり、映像強調パラメータが大きい場合、すなわち、視差変化率が低い場合、階調処理係数が大きく設定される。また、映像強調パラメータが小さい場合、すなわち、視差変化率が高い場合、階調処理係数が小さく設定される。視差変化率が高い場合に強めの階調処理を施すことによる書割感が生じることを抑制するためである。
【００３６】
コントラスト強調回路５０３について、図７を用いて説明する。端子７０１は、フレームバッファ５０２から右眼用映像信号または左眼用映像信号が入力される。入力された映像信号はＹＵＶ変換回路７０３により、ＲＧＢ値からＹＵＶ値へと次式により変換される。  
Y = 0.299R + 0.587G + 0.114B        式５
U = -0.169R - 0.331G + 0.500B        式６
V = 0.500R - 0.419G - 0.081B          式７
【００３７】
変換された映像のうち、Ｙ成分は輝度平均算出回路７０４に、ＵＶ成分はＲＧＢ変換回路７０７へと出力される。輝度平均算出回路７０４は、画素(x,y)の近傍の輝度平均値Yave(x,y)を算出する。
【００３８】
べき乗演算回路７０５には、画素(x,y)の輝度値Y (x,y)がＹＵＶ変換回路７０３より入力され、画素(x,y)近傍の輝度平均値Yave(x,y)が輝度平均算出回路７０４より入力される。また画素(x,y)の階調処理係数値mが端子７０２を通して階調処理係数設定回路５０７より入力される。これらの値を用い、下式の様なべき乗演算を行って係数値αを算出する。
【００３９】
【数４】
2014011492.tif 000006
【００４０】
輝度値乗算回路７０６は、画素(x,y)の輝度値Y (x,y)がYUV変換回路７０３より、係数値αがべき乗演算回路７０５より入力され、新輝度値Ynew(x,y)を次のように算出する。
Ynew(x,y)=α× Y (x,y)          式９
【００４１】
なお、輝度平均算出回路７０４、べき乗演算回路７０５、輝度値乗算回路７０６の演算を式としてまとめると、次式のようになる。
【００４２】
【数５】
2014011492.tif 000007
【００４３】
ＲＧＢ変換回路７０７は、ＹＵＶ変換回路７０３からのＵＶ成分と輝度値乗算回路７０６からのＹ成分を合成してＹＵＶ値を形成し、さらにＹＵＶ値を次式に従ってＲＧＢ値に変換する。  
R = 1.000Y + 1.402V                 式１１
G = 1.000Y - 0.344U - 0.714V        式１２
B = 1.000Y + 1.772U                 式１３
【００４４】
変換したＲＧＢ値は、端子７０８を通して端子５０４へと出力され、映像合成回路１１５に出力される。
【００４５】
実施例２では、視差の変化率を考慮して階調補正処理を行うことにより、緩やかな凹凸の立体感の再現を向上させ書割感改善といった立体感の向上効果を得ることができる。また、視差の変化率に応じて適応的に階調補正の度合いを可変させるため、画像全体でのノイズ増幅や過度のエッジ強調なども抑えられる。
【実施例３】
【００４６】
実施例１および実施例２では、映像強調量算出回路１１４における映像強調量算出において、視差変化率に基づいて映像強調パラメータを算出していた。ここで主被写体は一般的に前面にあるため、視差の情報も映像強調パラメータ算出に利用して映像強調量を算出すると、たとえば背景像に対する映像強調を弱めることで画像障害発生の可能性を小さくすることができる。そこで本実施例では、視差量と視差変化率の両情報を用い、映像強調量を算出するものである。
【００４７】
以下、実施例１からの変更箇所である映像強調量算出回路１１４について、図８を用いて説明する。
【００４８】
端子８０１は、視差量算出回路１１３で算出された視差量であるVRm(x,y)とVLm(x,y)とを受信する。バッファ８０２は、視差量の情報をいったん蓄積する。視差変化率算出回路８０３は、視差変化率算出回路２０３と同様にして視差変化率DRm(x,y)とDLm(x,y)とを算出し、強調パラメータ算出回路８０４に出力する。強調パラメータ算出回路８０４は、視差量VRm(x,y)およびVLm(x,y)と、視差変化率DRm(x,y)およびDLm(x,y)とに基づき、映像強調パラメータをパラメータテーブル８０８より読みだす。具体的には、視差量をv、視差変化率をdとしたとき、視差変化率dに最も近い値d1と、視差量vを包含する区間[v1,v2]を求める。ここでv1とv2は、ルックアップテーブルの参照位置と一致する値である。続いてv1とd1に基づいて映像強調パラメータ値P1を、またv1とd2に基づいて映像強調パラメータ値P2を、パラメータテーブル８０８より読みだす。この後、視差量vに応じて映像強調パラメータ値Pを次のように補間する。
【００４９】
【数６】
2014011492.tif 000008
【実施例４】
【００５０】
実施例１から３では、映像強調量算出回路１１４における映像強調量算出において、視差変化率もしくは視差量に基づいて映像強調パラメータを算出していた。ここで本実施例では、さらに視差量に基づいて被写体を抽出し、この抽出結果に基づいて映像強調量を算出する。本実施例によれば、被写体毎に映像強調量を調節するため、より良好に立体感を改善できる。
【００５１】
また、実施例１から３では、映像強調回路１１２に空間／階調の画像処理を用いていた。このような画像処理では忠実な立体感が得られる一方、ノイズ強調などの画像障害の発生の惧れもある。そこで本実施例では、映像強調回路として視差強調処理を用い立体感を強調するものである。本実施例によれば、ノイズ強調等の画像障害を抑えつつ、立体感を向上させることが可能となる。
【００５２】
以下、実施例１からの変更箇所のみについて述べる。
【００５３】
映像強調量算出回路１１４は、図９の様に構成される。端子９０１は、視差量算出回路１１３で算出された視差量であるVRm(x,y)とVLm(x,y)とを受信する。バッファ９０２は、視差量の情報をいったん蓄積する。視差変化率算出回路９０３は、視差変化率算出回路２０３と同様にして視差変化率DRm(x,y)とDLm(x,y)とを算出しバッファ９０４に出力する。
【００５４】
ヒストグラム算出回路９０５は、視差量VRm(x,y)とVLm(x,y)とに対するヒストグラムを算出する。オブジェクト抽出回路９０６は、ヒストグラムに基づいてオブジェクトである被写体を抽出し、各画素に対してオブジェクトのＩＤを対応付けるとともに、各オブジェクトの最頻値での視差量を算出する。ヒストグラム算出回路９０５により算出された例えば図１０の様なヒストグラムに対し、オブジェクト抽出回路９０６はヒストグラムから極大点Tnと極小点Bnを抽出する。これらに基づいて、Tnを包含する区間RnをBnを用いて決定し、この区間に基づいて各画素に対してＩＤを対応付ける。また、各オブジェクトの最頻値での視差量を算出する。
【００５５】
バッファ９０７は、ヒストグラム算出回路９０５からの出力を一時蓄積する。なお、オブジェクト抽出には、画像の構成要素などに基づいて領域分割を行う処理などを用いても良い。強調パラメータ算出回路９０８は、視差変化率DRm(x,y)およびVLm(x,y)と、オブジェクトＩＤとに基づき、右眼用映像と左眼用映像のそれぞれの画素位置に対する映像強調パラメータを、パラメータテーブル９１０より読みだして算出する。
【００５６】
まず視差量vを、画素が属するオブジェクトの最頻値の視差量で与え、また視差変化率dをDRm(x,y)もしくはVLm(x,y)から与える。視差変化率dに最も近い値d1と、視差量vを包含する区間[v1,v2]を求める。ここでv1とv2は、ルックアップテーブルの参照位置と一致する値である。続いてv1とd1に基づいて映像強調パラメータ値P1を、v1とd2に基づいて映像強調パラメータ値P2を、パラメータテーブル９１０より読みだす。この後、vに応じて映像強調パラメータ値Pを次のように補間する。
【００５７】
【数７】
2014011492.tif 000009
【００５８】
パラメータテーブル９１０は、パラメータテーブル８０８と同様の構造を有する２次元ルックアップテーブルであり、映像強調のパラメータ値を８ｂｉｔで記憶している。このテーブル値は、端子９１２とバスインタフェース９１１とを通じ、ＭＰＵ１２１により設定される。
【００５９】
映像強調回路１１０，１１２ついて、図１１を用いて説明する。端子１１０１は、色処理回路１０９からの右眼用映像信号、もしくは色処理回路１１１からの左眼用映像信号が入力される。入力された映像信号はフレームバッファ１１０２に一旦蓄積されたのち、視差量強調回路１１０３にて、視差を強調する。視差の強調については、例えばモーフィングの様な画像変形技術を用いても良いし、動きベクトル補償の様な技術を応用しても良い。視差量強調処理の処理強度については、視差強調量設定回路１１０７により設定される。端子１１０５は、映像強調量算出回路１１４からの映像強調パラメータが入力され、入力された映像強調パラメータはパラメータバッファ１１０６に一旦蓄積される。視差強調量設定回路１１０７は、視差量強調回路１１０３の動作と同期してパラメータバッファ１１０６より所定の画素位置に対する視差強調パラメータの値を読み出し、読みだしたパラメータ値に基づいて視差強調量テーブル１１０８を参照して係数値を読みだす。読みだした視差強調量は、視差量強調回路１１０３へと出力される。
【００６０】
＜その他の実施例＞
以上説明した例では、対象を映像信号として説明したが、静止画の画像信号を対象として同様の処理を行っても良い。すなわち、視差画像データに対して、上述した実施例の処理を行っても良い。
【００６１】
また、視差量や視差変化率については所定の要素毎に算出することができる。本実施例では、所定の要素として画素を用いる例について説明したが、例えば、複数の画素が集まったブロック単位で視差量や視差変化率を算出してもよい。
【００６２】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア（プログラム）を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ（またはＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。
【図１】
2014011492.tif 000010
【図２】
2014011492.tif 000011
【図３】
2014011492.tif 000012
【図４】
2014011492.tif 000013
【図５】
2014011492.tif 000014
【図６】
2014011492.tif 000015
【図７】
2014011492.tif 000016
【図８】
2014011492.tif 000017
【図９】
2014011492.tif 000018
【図１０】
2014011492.tif 000019
【図１１】
2014011492.tif 000020