(57)【要約】  マルチビュー画像では、画像間には大量の冗長性がある。積層深度映像フォーマットは、マルチビュー画像をフォーマットするための周知のフォーマッティングソリューションであり、画像間の冗長情報の量を低減する。ＬＤＶでは、参照中央画像が選択され、中央画像の領域が主にオクルードされたマルチビュー画像の他の画像によってもたらされた情報が提供される。しかし、ＬＤＶフォーマットは、単一の水平オクルージョン層を含み、従って、複数層ディスオクルージョンをあらわにする視点のレンダリングに失敗する。本発明は、あらゆる方向における視差を提供し、考慮される画像のビュー方向とは異なる多数の方向における視点の変更を可能にする、光出願されたコンテンツを使用し、広い軸間距離で見られる複雑な場面で起こり得る複数層ディスオクルージョンをあらわにし得る視点のレンダリングを可能にする。【選択図】図５Ａ
2019527425.tif 000002
【特許請求の範囲】
【請求項１】
場面の積層深度データを生成するためのコンピュータ実装方法であって、
−  前記場面を表す光照射野コンテンツからの画像の深度マップを演算することであって、前記画像が、所定のビュー方向に従って見られる、演算することと、
−  前記光照射野コンテンツからの前記画像の前記ビュー方向とは異なる第１の方向において、前記光照射野コンテンツからの前記画像と関連付けられた第１のオクルージョン情報セットを演算することと、
−  前記光照射野コンテンツからの前記画像の前記ビュー方向及び前記第１の方向とは異なる少なくとも第２の方向において、前記光照射野コンテンツからの前記画像と関連付けられた少なくとも第２のオクルージョン情報セットを演算することと、
−  前記場面の前記積層深度データを生成するために、前記されたコンテンツからの前記画像、前記深度マップ、前記第１のオクルージョン情報セット及び前記第２のオクルージョン情報セットを集約することと
を含む、方法。
【請求項２】
前記第１のオクルージョン情報セット及び前記第２のオクルージョン情報セットが、第３のオクルージョン情報セットを生成するために共にマージされ、前記第３の情報セットが、前記場面の前記積層深度データを生成するために、前記光照射野コンテンツからの前記画像及び前記深度マップと集約される、請求項１に記載の方法。
【請求項３】
前記第１及び前記第２のオクルージョン情報セットを演算することが、前記第１及び前記第２のそれぞれの方向において、前記光照射野コンテンツからの前記画像を前記光照射野コンテンツからの別の隣接画像と比較することにある、請求項１又は２に記載の方法。
【請求項４】
場面の積層深度データを生成するための装置であって、
−  前記場面を表す光照射野コンテンツからの画像の深度マップを演算することであって、前記画像が、所定のビュー方向に従って見られる、演算することと、
−  前記光照射野コンテンツからの前記画像の前記ビュー方向とは異なる第１の方向において、前記光照射野コンテンツからの前記画像と関連付けられた第１のオクルージョン情報セットを演算することと、
−  前記光照射野コンテンツからの前記画像の前記ビュー方向及び前記第１の方向とは異なる少なくとも第２の方向において、前記光照射野コンテンツからの前記画像と関連付けられた少なくとも第２のオクルージョン情報セットを演算することと、
−  前記場面の前記積層深度データを生成するために、前記光照射野コンテンツからの前記画像、前記深度マップ、前記第１のオクルージョン情報セット及び前記第２のオクルージョン情報セットを集約することと
を行うように構成されたプロセッサを含む、装置。
【請求項５】
前記第１のオクルージョン情報セット及び前記第２のオクルージョン情報セットが、第３のオクルージョン情報セットを生成するために共にマージされ、前記第３の情報セットが、前記場面の前記積層深度データを生成するために、前記光照射野コンテンツからの前記画像及び前記深度マップと集約される、請求項４に記載の装置。
【請求項６】
前記第１及び前記第２のオクルージョン情報セットを演算することが、前記第１及び前記第２のそれぞれの方向において、前記コンテンツ光照射野の前記画像を前記光照射野コンテンツからの別の隣接画像と比較することにある、請求項４又は５に記載の装置。
【請求項７】
場面を表す光照射野コンテンツを処理するための方法であって、前記場面の前記光照射野コンテンツと関連付けられた前記場面の積層深度データに基づいて前記光照射野コンテンツを処理することを含む、方法であり、前記積層深度データが、前記光照射野コンテンツからの画像の深度マップと、前記光照射野コンテンツからの前記画像と関連付けられた第１のオクルージョン情報セットであって、前記光照射野コンテンツからの前記画像のビュー方向とは異なる第１の方向において演算された第１のオクルージョン情報セットと、前記光照射野コンテンツからの前記画像と関連付けられた第２のオクルージョン情報セットであって、少なくとも前記光照射野コンテンツからの前記画像のビュー方向とは異なる第２の方向において演算された少なくとも第２のオクルージョン情報セットとを含む、方法。
【請求項８】
場面の積層深度データの生成が可能な第１の装置によって、前記場面の前記積層深度データの処理が可能な第２の装置に送信される信号であって、前記場面の前記積層深度データを含むメッセージを伝える信号であり、前記積層深度データが、前記場面の光照射野コンテンツからの画像の深度マップと、前記光照射野コンテンツからの前記画像と関連付けられた第１のオクルージョン情報セットであって、前記光照射野コンテンツからの前記画像のビュー方向とは異なる第１の方向において演算された第１のオクルージョン情報セットと、前記光照射野コンテンツからの前記画像と関連付けられた第２のオクルージョン情報セットであって、前記光照射野コンテンツからの前記画像のビュー方向とは異なる第２の方向において演算された少なくとも第２のオクルージョン情報セットとを含み、前記第２の装置による前記捕捉画像の前記処理が、前記積層深度データに基づく、信号。
【請求項９】
プログラムがプロセッサによって実行されると、請求項１から３のいずれか一項に記載の場面の積層深度データを生成するための方法を実装するためのプログラムコード命令を含むことを特徴とするコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
技術分野
本発明は、積層深度データに関し、より正確には、光照射野コンテンツのプロパティを利用する積層フォーマットに関し、それらの光照射野コンテンツは、映像かピクチャかを問わない。
【背景技術】
【０００２】
背景
ステレオ又はマルチビューシステムでは、データをフォーマットする際、場面の水平寸法のみが考慮される。例えば、カメラが水平に位置合わせされるカメラリグから構成される取得システムの事例では、３Ｄビュー間の水平視差しか抽出することができない。深度画像ベースのレンダリング技法は、捕捉されたものの間の中間ビューを補間することでよく知られているが、それは常に水平方向におけるものである。
【０００３】
マルチビュー画像では、画像間には大量の冗長性がある。積層深度映像フォーマット又はＬＤＶは、マルチビュー画像をフォーマットするための周知のフォーマッティングソリューションであり、画像間の冗長情報の量を低減する。ＬＤＶでは、参照中央画像が選択され、中央画像の領域が主にオクルードされたマルチビュー画像の他の画像によってもたらされた情報が提供される。次いで、ＬＤＶフォーマットは、マルチビュー画像を処理するために必要な情報を表す４つの層から構成される。
−  選択された中央画像
−  選択された中央画像と関連付けられた深度マップ
−  オクルージョン画像
−  深度オクルージョンマップ
【０００４】
従って、冗長ではない情報のみがレンダリングデバイスに送信される。これらの情報は、深度オクルージョンマップから生成されるオクルージョンマスクに含まれる。
【０００５】
マルチビューコンテキストにおいて使用される他のフォーマットに当てはまるように、ＬＤＶフォーマットは、単一の水平オクルージョン層を含み、従って、広い軸間距離で見られる複雑な場面で起こり得る複数層ディスオクルージョンをあらわにする視点のレンダリングに失敗する。
【０００６】
本発明は、前述事項を念頭において考案された。
【発明の概要】
【０００７】
発明の概要
本発明の第１の態様によれば、場面の積層深度データを生成するためのコンピュータ実装方法であって、
−  場面を表す光照射野コンテンツからの画像の深度マップを演算することであって、前記画像が、所定のビュー方向に従って見られる、演算することと、
−  光照射野コンテンツからの画像のビュー方向とは異なる第１の方向において、光照射野コンテンツからの画像と関連付けられた第１のオクルージョン情報セットを演算することと、
−  光照射野コンテンツからの画像のビュー方向及び第１の方向とは異なる少なくとも第２の方向において、光照射野コンテンツからの画像と関連付けられた少なくとも第２のオクルージョン情報セットを演算することと、
−  場面の積層深度データを生成するために、光照射野コンテンツからの画像、深度マップ、第１のオクルージョン情報セット及び第２のオクルージョン情報セットを集約することと
を含む、方法が提供される。
【０００８】
本発明の実施形態による方法は、光学デバイスによって直接取得される光照射野コンテンツに限定されない。これらのコンテンツは、所定の場面記述に対してコンピュータによって完全に又は部分的にシミュレーションされたコンピュータグラフィックス画像（ＣＧＩ）であり得る。光照射野コンテンツの別の供給源は、光学デバイス又はＣＧＩから得られた修正済みの（例えば、カラーグレーディング済みの）光照射野コンテンツである撮影後のデータであり得る。また、現在では、映画産業において、光学取得デバイスを使用して取得されたデータとＣＧＩデータとの両方が混ざったデータを有することは一般的である。
【０００９】
本発明の実施形態による方法は、あらゆる方向における視差を提供し、考慮される画像のビュー方向とは異なる多数の方向における視点の変更を可能にする、光照射野コンテンツの使用に依存する。
【００１０】
光照射野コンテンツの使用に依存するそのような方法は、広い軸間距離で見られる複雑な場面で起こり得る複数層ディスオクルージョンをあらわにする視点のレンダリングを可能にする。
【００１１】
上記で言及される方法に従って生成される積層深度データは、光照射野コンテンツからの画像、前記画像と関連付けられた深度マップ、前記画像と関連付けられた第１のオクルージョン情報セット及び第２のオクルージョン情報セットを少なくとも含む。
【００１２】
本発明の実施形態では、光出願されたコンテンツは、映像コンテンツであり得る。
【００１３】
積層深度データを生成するための方法の実施形態によれば、第１のオクルージョン情報セット及び第２のオクルージョン情報セットは、第３のオクルージョン情報セットを生成するために共にマージされ、前記第３の情報セットは、場面の積層深度データを生成するために、光照射野コンテンツからの画像及び深度マップと集約される。
【００１４】
第１及び第２のオクルージョン情報セットをマージすることにより、送信データの量及び受信機側における処理データの量を低減することができる。第１及び第２のオクルージョン情報セットをマージすることにより、第３のオクルージョン情報セットが生成され、第３のオクルージョン情報セットは、独特のオクルージョン情報の形態を取り得、２つの考慮される方向におけるオクルージョン情報を表す。
【００１５】
積層深度データを生成するための方法の実施形態によれば、第１及び第２のオクルージョン情報セットを演算することは、第１及び第２のそれぞれの方向において、コンテンツ光照射野の画像を光照射野コンテンツからの別の隣接画像と比較することにある。
【００１６】
例えば、第１の方向が光照射野コンテンツからの画像のビュー方向に対して水平方向であると考慮すると、第１のオクルージョン情報セットは、水平方向において、光出願されたコンテンツの画像を光照射野コンテンツからの隣接画像と比較することによって得られる。
【００１７】
例えば、第２の方向が光照射野コンテンツからの画像のビュー方向に対して垂直方向であると考慮すると、第２のオクルージョン情報セットは、垂直方向において、光出願されたコンテンツの画像を光照射野コンテンツからの隣接画像と比較することによって得られる。
【００１８】
本発明の別の目的は、場面の積層深度データを生成するための装置であって、
−  場面を表す光照射野コンテンツからの画像の深度マップを演算することであって、前記画像が、所定のビュー方向に従って見られる、演算することと、
−  光照射野コンテンツからの画像のビュー方向とは異なる第１の方向において、光照射野コンテンツからの画像と関連付けられた第１のオクルージョン情報セットを演算することと、
−  光照射野コンテンツからの画像のビュー方向及び第１の方向とは異なる少なくとも第２の方向において、光照射野コンテンツからの画像と関連付けられた少なくとも第２のオクルージョン情報セットを演算することと、
−  場面の積層深度データを生成するために、光照射野コンテンツからの画像、深度マップ、第１のオクルージョン情報セット及び第２のオクルージョン情報セットを集約することと
を行うように構成されたプロセッサを含む、装置に関係する。
【００１９】
場面の積層深度データを生成するための装置の実施形態によれば、第１のオクルージョン情報セット及び第２のオクルージョン情報セットは、第３のオクルージョン情報セットを生成するために共にマージされ、前記第３の情報セットは、場面の積層深度データを生成するために、光照射野コンテンツからの画像及び深度マップと集約される。
【００２０】
場面の積層深度データを生成するための装置の実施形態によれば、第１及び第２のオクルージョン情報セットを演算することは、第１及び第２のそれぞれの方向において、コンテンツ光照射野の画像を光照射野コンテンツからの別の隣接画像と比較することにある。
【００２１】
本発明の別の目的は、場面を表す光照射野コンテンツを処理するための方法であって、場面の光照射野コンテンツと関連付けられた場面の積層深度データに基づいて前記光照射野コンテンツを処理することを含む、方法であり、積層深度データが、光照射野コンテンツからの画像の深度マップと、光照射野コンテンツからの画像と関連付けられた第１のオクルージョン情報セットであって、光照射野コンテンツからの画像のビュー方向とは異なる第１の方向において演算された第１のオクルージョン情報セットと、光照射野コンテンツからの画像と関連付けられた第２のオクルージョン情報セットであって、光照射野コンテンツからの画像のビュー方向とは異なる第２の方向において演算された少なくとも第２のオクルージョン情報セットとを含む、方法に関係する。
【００２２】
本発明の別の目的は、場面の積層深度データの生成が可能な第１の装置によって、場面の前記積層深度データの処理が可能な第２の装置に送信される信号であって、場面の積層深度データを含むメッセージを伝える信号であり、前記積層深度データが、場面の光照射野コンテンツからの画像の深度マップと、光照射野コンテンツからの画像と関連付けられた第１のオクルージョン情報セットであって、光照射野コンテンツからの画像のビュー方向とは異なる第１の方向において演算された第１のオクルージョン情報セットと、光照射野コンテンツからの画像と関連付けられた第２のオクルージョン情報セットであって、光照射野コンテンツからの画像のビュー方向とは異なる第２の方向において演算された少なくとも第２のオクルージョン情報セットとを含み、第２の装置による捕捉画像の処理が、前記積層深度データに基づく、信号に関係する。
【００２３】
本発明の要素によって実装されるいくつかのプロセスは、コンピュータ実装することができる。それに従って、そのような要素は、完全なハードウェア実施形態、完全なソフトウェア実施形態（ファームウェア、常駐ソフトウェア、マイクロコードなどを含む）又は本明細書ではすべてを「回路」、「モジュール」若しくは「システム」と一般的に呼ぶことができるソフトウェア態様とハードウェア態様とを組み合わせた実施形態の形態を取ることができる。その上、そのような要素は、コンピュータ使用可能プログラムコードがその媒体で具体化される任意の有形表現媒体で具体化されるコンピュータプログラム製品の形態を取ることができる。
【００２４】
本発明の要素はソフトウェアにおいて実装できるため、本発明は、任意の適切なキャリア媒体上のプログラム可能装置に提供するためのコンピュータ可読コードとして具体化することができる。有形キャリア媒体は、フロッピーディスク、ＣＤ−ＲＯＭ、ハードディスクドライブ、磁気テープデバイス又はソリッドステートメモリデバイス及び同様のものなどの記憶媒体を含み得る。一時的なキャリア媒体は、電気信号、電子信号、光信号、音響信号、磁気信号又は電磁信号（例えば、マイクロ波若しくはＲＦ信号）などの信号を含み得る。
【００２５】
図面の簡単な説明
ここでは、単なる例示として、以下の図面を参照して、本発明の実施形態を説明する。
【図面の簡単な説明】
【００２６】
【図１Ａ】プレノプティックカメラを概略的に表す。
【図１Ｂ】カメラリグの概略図を表す。
【図２Ａ】少なくとも５つのカメラを含むカメラのアレイの水平方向に位置合わせされた３つのカメラＣ１、Ｃ２、Ｃ３及びこれらのカメラによって取得された空間の部分を表す。
【図２Ｂ】少なくとも５つのカメラを含むカメラのアレイの垂直方向に位置合わせされた３つのカメラＣ４、Ｃ２、Ｃ５及びこれらのカメラによって取得された空間の部分を示す。
【図３】本開示の実施形態による、場面の積層深度データを得るための装置の例を示す概略ブロック図である。
【図４】本発明の実施形態による、場面の積層深度データを生成するためのプロセスを説明するためのフローチャートである。
【図５Ａ】本発明の第１の実施形態に従って生成された場面の積層深度データを表す。
【図５Ｂ】本発明の第２の実施形態に従って生成された場面の積層深度データを表す。
【発明を実施するための形態】
【００２７】
詳細な説明
当業者によって理解されるように、本原理の態様は、システム、方法又はコンピュータ可読媒体として具体化することができる。それに従って、本原理の態様は、完全なハードウェア実施形態、完全なソフトウェア実施形態（ファームウェア、常駐ソフトウェア、マイクロコードなどを含む）又は本明細書ではすべてを「回路」、「モジュール」若しくは「システム」と一般的に呼ぶことができるソフトウェア態様とハードウェア態様とを組み合わせた実施形態の形態を取ることができる。その上、本原理の態様は、コンピュータ可読記憶媒体の形態を取ることができる。１つ又は複数のコンピュータ可読記憶媒体のいかなる組合せも利用することができる。
【００２８】
プレノプティックカメラは、メインレンズとセンサとの間にマイクロレンズアレイを配置することによって、センサと交差する各光線束に沿って進む光の量を測定することができる。そのようなカメラによって取得されたデータは、光照射野データ又は光照射野コンテンツと呼ばれる。これらの光照射野データは、異なる視点から場面の画像を再構築するために後処理することができる。光照射野データは、各々が異なるリフォーカス深度を有する画像の集合体を含むフォーカルスタックを生成するために使用することができる。その結果、ユーザは、画像の焦点を変更することができる。従来のカメラと比べて、プレノプティックカメラは、後処理によって異なる視点及びリフォーカス深度からの場面の画像の再構築を達成するための追加の情報を得ることができる。
【００２９】
従って、積層深度映像のコンテキストにおける光照射野データのこれらの特異性の使用が可能である。
【００３０】
図１Ａは、プレノプティックカメラ１００を概略的に表す図である。光照射野カメラは、四次元（又は４Ｄ）光照射野データの記録が可能である。プレノプティックカメラ１００は、メインレンズ１０１、マイクロレンズアレイ１０２及び画像センサ１０４を含む。
【００３１】
図１Ｂは、カメラリグ１１０の概略図を表す。カメラリグ１１０は、多数のセンサ１１４を含み、その各々は、レンズ１１２と関連付けられる。
【００３２】
図１Ａに示されるようなプレノプティックカメラ１００の例では、メインレンズ１０１は、メインレンズ１０１の物体フィールドの物体（図示せず）から光を受信し、メインレンズ１０１の画像フィールドに光を通す。マイクロレンズアレイ１０２は、二次元アレイ状に配置された多数のマイクロレンズ１０３を含む。
【００３３】
光照射野カメラによって捕捉されたデータは、異なる視点から場面の画像を再構築するために後処理することができる。光照射野カメラは、わずかに変更した視点から同じ場面の部分ビューの集合体の捕捉が可能であるため、それらの異なる部分ビューを組み合わせることによって、焦点面がカスタマイズされた画像を作成することができる。
【００３４】
図２Ａ及び図２Ｂは、水平方向に位置合わせされた３つのカメラＣ１、Ｃ２、Ｃ３及び垂直方向に位置合わせされた３つのカメラＣ４、Ｃ２、Ｃ５を含むカメラのアレイ並びにこれらのカメラによって取得された空間の部分を表す。当然ながら、カメラの数は５つに限定されず、カメラのアレイに埋め込まれた５つ未満のカメラ又は５つを超えるカメラが存在し得る。
【００３５】
図２Ａでは、カメラＣ１、Ｃ２、Ｃ３は、水平軸に沿って位置合わせされる。画面２０の第１のエリア２００は、カメラＣ１からは見えるが、カメラＣ２、Ｃ３からは見えず、画面２０の第２のエリア２０１は、カメラＣ３からは見えるが、カメラＣ２、Ｃ１からは見えない。
【００３６】
図２Ａの参照２０２は、カメラＣ１から見えた場面の画像である。画像２０２の第１の部分２０２０は、カメラＣ１とカメラＣ２の両方から見えたものである。画像２０２の第２の部分２０２１は、カメラＣ１からは見え、カメラＣ２からはオクルードされたものである。
【００３７】
図２Ａの参照２０３は、カメラＣ２から見えた場面の画像である。
【００３８】
図２Ａの参照２０４は、カメラＣ３から見えた場面の画像である。画像２０４の第１の部分２０４０は、カメラＣ３とカメラＣ２の両方から見えたものである。画像２０４の第２の部分２０４１は、カメラＣ３からは見え、カメラＣ２からはオクルードされたものである。
【００３９】
図２Ｂでは、カメラＣ４、Ｃ２、Ｃ５は、水平軸に沿って位置合わせされる。画面２０の第１のエリア２１０は、カメラＣ４からは見えるが、カメラＣ２からは見えず、画面２０の第２のエリア２１１は、カメラＣ５からは見えるが、カメラＣ２からは見えない。
【００４０】
図２Ｂの参照２１２は、カメラＣ４から見えた場面の画像である。画像２１２の第１の部分２１２０は、カメラＣ４とカメラＣ２の両方から見えたものである。画像２１２の第２の部分２１２１は、カメラＣ４からは見え、カメラＣ２からはオクルードされたものである。
【００４１】
図２Ｂの参照２０３は、カメラＣ２から見えた場面の画像である。
【００４２】
図２Ｂの参照２１４は、カメラＣ５から見えた場面の画像である。画像２１４の第１の部分２１４０は、カメラＣ５とカメラＣ２の両方から見えたものである。画像２１４の第２の部分２１４１は、カメラＣ５からは見え、カメラＣ２からはオクルードされたものである。
【００４３】
図３は、本開示の実施形態による、場面の積層深度データを生成するための装置の例を示す概略ブロック図である。
【００４４】
装置３００は、プロセッサ３０１、格納ユニット３０２、入力デバイス３０３、表示デバイス３０４及びインタフェースユニット３０５を含み、それらは、バス３０６によって接続される。当然ながら、コンピュータ装置３００の構成要素は、バス接続以外の接続によって接続することができる。
【００４５】
プロセッサ３０１は、装置３００の動作を制御する。格納ユニット３０２は、プロセッサ３０１によって実行される少なくとも１つのプログラムや、光照射野カメラによって捕捉され提供された４Ｄ光照射野画像のデータ、プロセッサ３０１によって実行される演算によって使用されたパラメータ、プロセッサ３０１によって実行される演算の中間データなどを含む様々なデータを格納する。プロセッサ３０１は、いかなる公知の適切なハードウェア若しくはソフトウェア、又は、ハードウェアとソフトウェアの組合せによっても形成することができる。例えば、プロセッサ３０１は、処理回路などの専用ハードウェアによって又はそのメモリに格納されたプログラムを実行するＣＰＵ（中央処理装置）などのプログラム可能処理ユニットによって形成することができる。
【００４６】
格納ユニット３０２は、いかなる適切な記憶装置又はコンピュータ可読方式でプログラム、データ若しくは同様のものの格納が可能な手段によっても形成することができる。格納ユニット３０２の例は、半導体メモリデバイス、並びに、読取及び書込ユニットにロードされた磁気、光又は光磁気記録媒体などの非一時的なコンピュータ可読記憶媒体を含む。プログラムは、図５を参照して以下で説明されるように、本開示の実施形態による、画像のぼやけ度を表す登録エラーマップを得るためのプロセスをプロセッサ３０１に実行させる。
【００４７】
入力デバイス３０３は、コマンドを入力して、リフォーカス表面を定義するために使用される対象物体の三次元（又は３Ｄ）モデルに対するユーザの選択を行うためにユーザが使用するためのキーボード、マウスなどのポインティングデバイス又は同様のものによって形成することができる。出力デバイス３０４は、例えば、グラフィカルユーザインタフェース（ＧＵＩ）など、本開示の実施形態に従って生成される画像を表示するための表示デバイスによって形成することができる。入力デバイス３０３及び出力デバイス３０４は、例えば、タッチスクリーンパネルによって一体化して形成することができる。
【００４８】
インタフェースユニット３０５は、装置３００と外部の装置との間のインタフェースを提供する。インタフェースユニット３０５は、ケーブル又は無線通信を介して外部の装置と通信可能であり得る。実施形態では、外部の装置は、光照射野カメラであり得る。この事例では、光照射野カメラによって捕捉される４Ｄ光照射野画像のデータは、光照射野カメラからインタフェースユニット３０５を通じて装置３００に入力し、次いで、格納ユニット３０２に格納することができる。
【００４９】
この実施形態では、装置３００は、光照射野カメラから分離され、ケーブル又は無線通信を介して互いに通信可能なものとして例示的に論じられているが、装置３００は、そのような光照射野カメラと統合できることに留意すべきである。この後者の事例では、装置３００は、例えば、光照射野カメラを埋め込むタブレット又はスマートフォンなどのポータブルデバイスであり得る。
【００５０】
図４は、本開示の実施形態による、場面の積層深度データを生成するためのプロセスを説明するためのフローチャートである。
【００５１】
ステップ４０１では、装置３００のプロセッサ３０１は、光照射野カメラによって捕捉され提供されるか又は装置３００の格納ユニット３０２に格納された場面の光照射野コンテンツを回収する。この後者の事例では、光照射野コンテンツは、例えば、所定の場面記述に対してコンピュータによって完全に又は部分的にシミュレーションされたコンピュータグラフィックス画像（ＣＧＩ）である。
【００５２】
ステップ４０２では、装置３００のプロセッサ３０１は、回収された光照射野コンテンツの少なくとも１つの視点に対する深度マップを演算する。光照射野コンテンツからの考慮される視点は、場面の所定のビュー方向に相当する。所定の画像に対し、深度についての情報は、ビュー間視差に関連する。ビュー間視差は、光照射野コンテンツを取得するために使用された実際の又は仮想の光照射野カメラの光学系の焦点距離及び軸間距離に応じた倍率に対する深度の逆関数である。ビュー間視差は、例えば、“A precise real-time stereo algorithm”, V. Drazic, N. Sabater, Proceedings of the 27th Conference on Image and Vision Computing New Zealandで説明されるような対応分析を実行することによって、ピクセル数に基づいて階層的に推定される。演算済みの深度マップにおいてスムーズな深度変動と共に鮮明な縁を提示するため、適切な正則化コストを使用して深度マップの演算の間に、又は、例えば、バイラテラルフィルタリングを用いて後処理として、正則化を実行することができる。
【００５３】
深度マップは、利用可能なあらゆるビュー方向に対して演算される。例えば、図２Ａ及び２Ｂで表されるように、光照射野コンテンツがカメラのアレイによって取得される際は、考慮される画像は、カメラＣ２によって取得された画像２０２である。左から右への視差推定は、カメラＣ２の左側に位置するカメラＣ１によって取得された画像２０２に対応する深度マップを得るために実行される。右から左への視差推定は、カメラＣ２の右側に位置するカメラＣ３によって取得された画像２０４に対応する深度マップを得るために実行される。
【００５４】
次いで、上から下への視差推定は、カメラＣ２の上側に位置するカメラＣ４によって取得された画像２１２に対応する深度マップを得るために実行される。下から上への視差推定は、カメラＣ２の下側に位置するカメラＣ５によって取得された画像２１４に対応する深度マップを得るために実行される。
【００５５】
ステップ４０３では、プロセッサ３０１は、画像２０３のビュー方向とは異なる第１の方向において、画像２０３と関連付けられた第１のオクルージョン情報セットを演算する。
【００５６】
オクルージョンは、例えば、画像２０２及び２０３などの２つの隣接画像と関連付けられた深度マップを比較することによって検出される。オクルージョンは、２つの隣接画像２０３及び２０２と関連付けられた深度マップが一致しないエリアで起こる。これらは、カメラＣ１からは見え、カメラＣ２からはオクルードされた画像２０２の第２の部分２０２１に相当する。画像２０２の部分２０２１に相当する深度マップのそのような部分は、対応分析によって推定された深度は信頼できないため、空としてラベル付けされ、次いで、例えば、深度勾配及び湾曲を保存する背景伝播に基づく従来の方法で埋められる。
【００５７】
ステップ４０３の間、画像２０３及び２０４などの２つの隣接画像と関連付けられた深度マップを比較することによって、別のオクルージョン情報セットを演算することができる。
【００５８】
ステップ４０４では、プロセッサ３０１は、画像２０３のビュー方向及び第１の方向とは異なる第２の方向において、画像２０３と関連付けられた第２のオクルージョン情報セットを演算する。
【００５９】
例えば、画像２１２及び２０３などの２つの隣接画像と関連付けられた深度マップが演算される。オクルージョンは、２つの隣接画像２０３及び２１２と関連付けられた深度マップが一致しないエリアで起こる。これらは、カメラＣ４からは見え、カメラＣ２からはオクルードされた画像２１２の第２の部分２１２１に相当する。
【００６０】
ステップ４０４の間、画像２１３及び２１４などの２つの隣接画像と関連付けられた深度マップを比較することによって、別のオクルージョン情報セットを演算することができる。
【００６１】
プロセッサ３０１は、画像２０３のビュー方向及び第１の方向とは異なる他の方向において、画像２０３と関連付けられた２つを超えるオクルージョン情報セットを演算することができる。ステップ４０５では、プロセッサ３０１は、場面の積層深度データを生成する。上記で言及される方法に従って生成される積層深度データは、光照射野コンテンツからの画像、前記画像と関連付けられた深度マップ、前記画像と関連付けられた第１のオクルージョン情報セット及び第２のオクルージョン情報セットを少なくとも含む。
【００６２】
本発明の実施形態では、光出願されたコンテンツは、映像コンテンツであり得る。
【００６３】
図５Ａで表される第１の実施形態では、場面の積層深度データは、画像２０３、画像２０３と関連付けられた深度マップ５０、オクルージョンマスク５１の形態の第１のオクルージョン情報セット及びオクルージョンマスク５２の形態の第２のオクルージョン情報セットを集約することによって生成される。図５Ｂで表される第２の実施形態では、場面の積層深度データは、画像２０３、画像２０３と関連付けられた深度マップ５０及びオクルージョンマスク５３の形態の第３のオクルージョン情報セットを集約することによって生成される。
【００６４】
この第３のオクルージョン情報セットは、第１のオクルージョン情報及び第２のオクルージョン情報セットをマージすることによって演算される。
【００６５】
例えば、第３のオクルージョン情報セットは、第１及び第２のオクルージョン情報の平均値を含み得る。２つを超えるオクルージョン情報セットが利用可能な事例では、プロセッサ３０１は、例えば、関連信頼基準に基づいて、積層深度データを生成するために使用されるオクルージョン情報セットとして、それらのうちの１つを選択することができる。
【００６６】
次いで、ステップ４０６では、レンダリングデバイス又は処理デバイスに向けて積層深度データが送信される。
【００６７】
本発明は、上記では、特定の実施形態に関して説明されているが、本発明は、特定の実施形態に限定されず、変更形態は、当業者には明らかであり、本発明の範囲内にある。
【００６８】
多くのさらなる変更形態及び変形形態は、前述の例示的な実施形態を参照する際にそれら自体を当業者に示唆し、前述の例示的な実施形態は、単なる例示として提供され、本発明の範囲を制限することを意図せず、本発明の範囲は、添付の請求項によってのみ決定される。特に、異なる実施形態からの異なる特徴は、適切な場合に、交換可能であり得る。
【図１Ａ】
2019527425.tif 000003
【図１Ｂ】
2019527425.tif 000004
【図２Ａ】
2019527425.tif 000005
【図２Ｂ】
2019527425.tif 000006
【図３】
2019527425.tif 000007
【図４】
2019527425.tif 000008
【図５Ａ】
2019527425.tif 000009
【図５Ｂ】
2019527425.tif 000010
【国際調査報告】
2019527425.tif 000011
2019527425.tif 000012
2019527425.tif 000013