(57)【要約】【課題】【解決手段】複数の他の既存ビューから任意ビューを生成するための技術が開示されている。いくつかの実施形態において、任意ビュー生成は：第１視点を有する第１画像および第２視点を有する第２画像をリトリーブし；第１画像および第２画像の各々を第３視点に変換し；変換された第１画像からのピクセルの少なくとも一部および変換された第２画像からのピクセルの少なくとも一部を統合することによって、第３視点を有する第３画像を生成することを含む。【選択図】図１
2019516202.tif 000002
【特許請求の範囲】
【請求項１】
システムであって、
プロセッサであって、
第１視点を有する第１画像および第２視点を有する第２画像をリトリーブし、
前記第１画像および前記第２画像の各々を第３視点に変換し、
前記変換された第１画像からのピクセルの少なくとも一部および前記変換された第２画像からのピクセルの少なくとも一部を統合することによって、前記第３視点を有する第３画像を生成するよう構成された、プロセッサと、
前記プロセッサに接続され、前記プロセッサに命令を提供するよう構成されたメモリと、
を備える、システム。
【請求項２】
請求項１に記載のシステムであって、
前記第１視点、前記第２視点、および、前記第３視点はすべて、異なる視点を含む、システム。
【請求項３】
請求項１に記載のシステムであって、
前記第１画像および前記第２画像は、既存の画像を含む、システム。
【請求項４】
請求項１に記載のシステムであって、
前記第３視点を有する前記第３画像は、異なる視点を有する複数の既存の画像から生成される、システム。
【請求項５】
請求項１に記載のシステムであって、
各画像の前記視点は、各画像の生成に関連したカメラ特性によって規定される、システム。
【請求項６】
請求項５に記載のシステムであって、
前記カメラ特性は、位置、向き、回転、角度、奥行、焦点距離、絞り、および、ズームレベルの内の１または複数を含む、システム。
【請求項７】
請求項１に記載のシステムであって、
カメラ特性が、前記第１画像および前記第２画像の各々と共に格納されており、各画像について既知である、システム。
【請求項８】
請求項１に記載のシステムであって、
前記第３画像を生成することは、前記第３画像の１または複数のピクセルを補間することを含む、システム。
【請求項９】
請求項１に記載のシステムであって、
前記第１画像、前記第２画像、および、前記第３画像は、異なる視点を有する同じシーンの画像を含む、システム。
【請求項１０】
請求項９に記載のシステムであって、
前記シーンは、単一のオブジェクトまたは複数のオブジェクトを含む、システム。
【請求項１１】
請求項９に記載のシステムであって、
前記シーンは、仮想環境を含む、システム。
【請求項１２】
請求項１に記載のシステムであって、
前記第１画像は第１オブジェクトを含み、前記第２画像は第２オブジェクトを含み、前記第３画像は前記第１オブジェクトおよび前記第２オブジェクトを含む、システム。
【請求項１３】
請求項１に記載のシステムであって、
前記第１画像は第１シーンを含み、前記第２画像は第２シーンを含み、前記第３画像は前記第１シーンおよび前記第２シーンのアンサンブルを含む、システム。
【請求項１４】
請求項１３に記載のシステムであって、
各シーンは、単一のオブジェクト、複数のオブジェクト、または、仮想環境を含む、システム。
【請求項１５】
請求項１に記載のシステムであって、
前記第１画像、前記第２画像、および、前記第３画像は、静止画像を含む、システム。
【請求項１６】
請求項１に記載のシステムであって、
前記第１画像、前記第２画像、および、前記第３画像は、三次元空間のビューを含む、システム。
【請求項１７】
請求項１に記載のシステムであって、
前記第１画像、前記第２画像、および、前記第３画像は、アニメーションまたはビデオシーケンスのフレームを含む、システム。
【請求項１８】
請求項１に記載のシステムであって、
前記プロセッサは、さらに、前記第３視点とは異なる視点を有する１または複数のさらなる画像をリトリーブし、前記１または複数のさらなる画像を前記第３視点に変換し、前記変換された１または複数のさらなる画像から少なくとも一部のピクセルを前記第３画像の生成に用いるよう構成されている、システム。
【請求項１９】
方法であって、
第１視点を有する第１画像および第２視点を有する第２画像をリトリーブする工程と、
前記第１画像および前記第２画像の各々を第３視点に変換する工程と、
前記変換された第１画像からのピクセルの少なくとも一部および前記変換された第２画像からのピクセルの少なくとも一部を統合することによって、前記第３視点を有する第３画像を生成する工程と、
を備える、方法。
【請求項２０】
コンピュータプログラム製品であって、持続性のコンピュータ読み取り可能な記憶媒体内に具現化され、
第１視点を有する第１画像および第２視点を有する第２画像をリトリーブするためのコンピュータ命令と、
前記第１画像および前記第２画像の各々を第３視点に変換するためのコンピュータ命令と、
前記変換された第１画像からのピクセルの少なくとも一部および前記変換された第２画像からのピクセルの少なくとも一部を統合することによって、前記第３視点を有する第３画像を生成するためのコンピュータ命令と、
を備える、コンピュータプログラム製品。
【発明の詳細な説明】
【背景技術】
【０００１】
既存のレンダリング技術は、品質および速度という相反する目標の間のトレードオフに直面している。高品質なレンダリングは、かなりの処理リソースおよび時間を必要とする。しかしながら、遅いレンダリング技術は、インタラクティブなリアルタイムアプリケーションなど、多くのアプリケーションで許容できない。通例は、低品質だが高速なレンダリング技術が、かかるアプリケーションでは好まれる。例えば、比較的高速なレンダリングのために品質を犠牲にして、ラスタ化が、リアルタイムグラフィックスアプリケーションによって一般に利用される。したがって、品質も速度も大きく損なうことのない改良技術が求められている。
【図面の簡単な説明】
【０００２】
以下の詳細な説明と添付の図面において、本発明の様々な実施形態を開示する。
【０００３】
【図１】シーンの任意ビューを生成するためのシステムの一実施形態を示すハイレベルブロック図。
【０００４】
【図２】データベースアセットの一例を示す図。
【０００５】
【図３】任意視点を生成するための処理の一実施形態を示すフローチャート。
【発明を実施するための形態】
【０００６】
本発明は、処理、装置、システム、物質の組成、コンピュータ読み取り可能な格納媒体上に具現化されたコンピュータプログラム製品、および／または、プロセッサ（プロセッサに接続されたメモリに格納および／またはそのメモリによって提供される命令を実行するよう構成されたプロセッサ）を含め、様々な形態で実装されうる。本明細書では、これらの実装または本発明が取りうる任意の他の形態を、技術と呼ぶ。一般に、開示された処理の工程の順序は、本発明の範囲内で変更されてもよい。特に言及しない限り、タスクを実行するよう構成されるものとして記載されたプロセッサまたはメモリなどの構成要素は、ある時間にタスクを実行するよう一時的に構成された一般的な構成要素として、または、タスクを実行するよう製造された特定の構成要素として実装されてよい。本明細書では、「プロセッサ」という用語は、１または複数のデバイス、回路、および／または、コンピュータプログラム命令などのデータを処理するよう構成された処理コアを指すものとする。
【０００７】
以下では、本発明の原理を示す図面を参照しつつ、本発明の１または複数の実施形態の詳細な説明を行う。本発明は、かかる実施形態に関連して説明されているが、どの実施形態にも限定されない。本発明の範囲は、特許請求の範囲によってのみ限定されるものであり、本発明は、多くの代替物、変形物、および、等価物を含む。以下の説明では、本発明の完全な理解を提供するために、多くの具体的な詳細事項が記載されている。これらの詳細事項は、例示を目的としたものであり、本発明は、これらの具体的な詳細事項の一部または全てがなくとも特許請求の範囲に従って実施可能である。簡単のために、本発明に関連する技術分野で周知の技術事項については、本発明が必要以上にわかりにくくならないように、詳細には説明していない。
【０００８】
シーンの任意ビューを生成するための技術が開示されている。本明細書に記載の実例は、非常に低い処理または計算オーバヘッドを伴いつつ、高精細度出力も提供し、レンダリング速度と品質との間の困難なトレードオフを効果的に排除する。開示されている技術は、インタラクティブなリアルタイムグラフィックスアプリケーションに関して、高品質出力を非常に高速に生成するために特に有効である。かかるアプリケーションは、提示されたインタラクティブなビューまたはシーンのユーザ操作に応答してそれに従って、好ましい高品質出力を実質的に即時に提示することに依存する。
【０００９】
図１は、シーンの任意ビューを生成するためのシステム１００の一実施形態を示すハイレベルブロック図である。図に示すように、任意ビュー生成器１０２が、任意ビューの要求を入力１０４として受信し、既存のデータベースアセット１０６に基づいて要求された視点を生成し、入力された要求に応答して、生成された視点を出力１０８として提供する。様々な実施形態において、任意ビュー生成器１０２は、中央処理装置（ＣＰＵ）またはグラフィックス処置装置（ＧＰＵ）などのプロセッサを備えてよい。図１に示すシステム１００の構成は、説明のために提示されている。一般に、システム１００は、記載した機能を提供する任意の他の適切な数および／または構成の相互接続された構成要素を備えてもよい。例えば、別の実施形態において、任意ビュー生成器１０２は、異なる構成の内部構成要素１１０〜１１６を備えてもよく、任意ビュー生成器１０２は、複数の並列物理および／または仮想プロセッサを備えてもよく、データベース１０６は、複数のネットワークデータベースまたはアセットのクラウドを備えてもよい、などである。
【００１０】
任意ビュー要求１０４は、シーンの任意の視点の要求を含む。いくつかの実施形態において、シーンの要求された視点は、シーンの他の視点すなわちビューポイントを含むアセットデータベース１０６内にまだ存在してはいない。様々な実施形態において、任意ビュー要求１０４は、プロセスまたはユーザから受信されてよい。例えば、入力１０４は、提示されたシーンまたはその一部のユーザ操作（提示されたシーンのカメラビューポイントのユーザ操作など）に応答して、ユーザインターフェスから受信されうる。別の例において、任意ビュー要求１０４は、シーンのフライスルーなど、仮想環境内での運動または移動の経路の指定に応答して受信されてもよい。いくつかの実施形態において、要求できるシーンの可能な任意ビューは、少なくとも部分的に制約されている。例えば、ユーザは、提示されたインタラクティブシーンのカメラビューポイントを任意のランダムな位置に操作することができなくてもよく、シーンの特定の位置または視点に制約される。
【００１１】
データベース１０６は、格納された各アセットの複数のビューを格納する。所与の文脈において、アセットとは、仕様が複数のビューとしてデータベース１０６に格納されている個々のシーンのことである。様々な実施形態において、シーンは、単一のオブジェクト、複数のオブジェクト、または、リッチな仮想環境を含みうる。具体的には、データベース１０６は、各アセットの異なる視点すなわちビューポイントに対応する複数の画像を格納する。データベース１０６に格納された画像は、高品質の写真または写実的レンダリングを含む。データベース１０６に投入するかかる高精細度すなわち高解像度の画像は、オフライン処理中にキャプチャまたはレンダリングされるかもしくは外部ソースから取得されてよい。いくつかの実施形態において、対応するカメラ特性が、データベース１０６に格納された各画像と共に格納される。すなわち、相対的な位置または場所、向き、回転、奥行情報、焦点距離、絞り、ズームレベルなどのカメラ属性が、各画像と共に格納される。さらに、シャッター速度および露出などのカメラの光学情報が、データベース１０６に格納された各画像と共に格納されてもよい。
【００１２】
様々な実施形態において、アセットの任意の数の異なる視点がデータベース１０６に格納されてよい。図２は、データベースアセットの一例を示す。与えられた例では、椅子オブジェクトの周りの異なる角度に対応する７３のビューがキャプチャまたはレンダリングされ、データベース１０６に格納される。ビューは、例えば、椅子の周りでカメラを回転させるかまたはカメラ前でイスを回転させることによってキャプチャされてよい。相対的なオブジェクトおよびカメラの位置および向きの情報が、生成された各画像と共に格納される。図２は、１つのオブジェクトを含むシーンのビューを具体的に示している。データベース１０６は、複数のオブジェクトまたはリッチな仮想環境を含むシーンの仕様も格納してよい。かかるケースにおいては、シーンまたは三次元空間の中の異なる位置または場所に対応する複数のビューがキャプチャまたはレンダリングされ、対応するカメラ情報と共にデータベース１０６に格納される。一般に、データベース１０６に格納された画像は、二または三次元を含んでよく、アニメーションまたはビデオシーケンスのスチールまたはフレームを含んでよい。
【００１３】
すでにデータベース１０６に存在しないシーンの任意のビューの要求１０４に応答して、任意のビュー生成器１０２は、データベース１０６に格納されたシーンの複数の他の既存ビューから、要求された任意ビューを生成する。図１の構成例では、任意ビュー生成器１０２のアセット管理エンジン１１０が、データベース１０６を管理する。例えば、アセット管理エンジン１１０は、データベース１０６におけるデータの格納およびリトリーブを容易にしうる。シーン１０４の任意ビューの要求に応答して、アセット管理エンジン１１０は、データベース１０６からシーンの複数の他の既存ビューを特定して取得する。いくつかの実施形態において、アセット管理エンジン１１０は、データベース１０６からシーンのすべての既存ビューをリトリーブする。あるいは、アセット管理エンジン１１０は、既存ビューの一部（例えば、要求された任意ビューに最も近いビュー）を選択してリトリーブしてもよい。かかるケースにおいて、アセット管理エンジン１１０は、要求された任意ビューを生成するためのピクセルの収集元になりうる一部の既存ビューをインテリジェントに選択するよう構成される。様々な実施形態において、複数の既存ビューが、アセット管理エンジン１１０によって一緒にリトリーブされてもよいし、任意ビュー生成器１０２のその他の構成要素によって必要になり次第リトリーブされてもよい。
【００１４】
アセット管理エンジン１１０によってリトリーブされた各既存ビューの視点は、任意ビュー生成器１０２の視点変換エンジン１１２によって、要求された任意ビューの視点に変換される。上述のように、正確なカメラ情報が既知であり、データベース１０６に格納された各画像と共に格納されている。したがって、既存ビューから要求された任意ビューへの視点変更は、単純な幾何マッピングまたは幾何変換を含む。様々な実施形態において、視点変換エンジン１１２は、既存ビューの視点を任意ビューの視点に変換するために、任意の１または複数の適切な数学的手法を用いてよい。要求されたビューがどの既存ビューとも同一ではない任意ビューを含む場合、任意ビューの視点への既存ビューの変換は、少なくともいくつかのマッピングされていないピクセルまたは失われたピクセル、すなわち、既存ビューに存在しない任意ビューに導入された角度または位置にあるピクセルを含むことになる。
【００１５】
単一の視点変換された既存ビューからのピクセル情報では、別のビューのすべてのピクセルを埋めることができない。しかしながら、多くの場合、すべてではないが、要求された任意ビューのほとんどのピクセルが、複数の視点変換された既存ビューから収集されうる。任意ビュー生成器１０２のマージエンジン１１４が、複数の視点変換された既存ビューからのピクセルを組み合わせて、要求された任意ビューを生成する。理想的には、任意ビューを構成するすべてのピクセルが既存ビューから収集される。これは、例えば、考慮対象となる十分に多様なセットの既存ビューまたはアセットの視点が利用可能である場合、および／または、要求された視点が既存の視点とはそれほど異なっていない場合に、可能でありうる。
【００１６】
複数の視点変換された既存ビューからのピクセルを統合またはマージして、要求された任意ビューを生成するために、任意の適切な技術が用いられてよい。一実施形態において、要求された任意ビューに最も近い第１既存ビューが、データベース１０６から選択されてリトリーブされ、要求された任意ビューの視点に変換される。次いで、ピクセルが、この視点変換された第１既存ビューから収集され、要求された任意ビュー内の対応するピクセルを埋めるために用いられる。第１既存ビューから取得できなかった要求された任意ビューのピクセルを埋めるために、これらの残りのピクセルの少なくとも一部を含む第２既存ビューが、データベース１０６から選択されてリトリーブされ、要求された任意ビューの視点へ変換される。次いで、第１既存ビューから取得できなかったピクセルは、この視点変換された第２既存ビューから収集され、要求された任意ビュー内の対応するピクセルを埋めるために用いられる。この処理は、要求された任意ビューのすべてのピクセルが埋められるまで、および／または、すべての既存ビューが使い果たされるかまたは所定の閾値数の既存ビューが利用されるまで、任意の数のさらなる既存ビューについて繰り返されてよい。
【００１７】
いくつかの実施形態において、要求された任意ビューは、どの既存ビューからも取得できなかったいくつかのピクセルを含みうる。かかる場合、補間エンジン１１６が、要求された任意ビューのすべての残りのピクセルを埋めるよう構成されている。様々な実施形態において、要求された任意ビュー内のこれらの埋められていないピクセルを生成するために、任意の１または複数の適切な補間技術が補間エンジン１１６によって用いられてよい。利用可能な補間技術の例は、例えば、線形補間、最近隣補間などを含む。ピクセルの補間は、平均法または平滑化を導入する。全体の画像品質は、ある程度の補間によって大きい影響を受けることはないが、過剰な補間は、許容できない不鮮明さを導入しうる。したがって、補間は、控えめに用いることが望ましい場合がある。上述のように、要求された任意ビューのすべてのピクセルを既存ビューから取得できる場合には、補間は完全に回避される。しかしながら、要求された任意ビューが、どのビューからも取得できないいくつかのピクセルを含む場合には、補間が導入される。一般に、必要な補間の量は、利用可能な既存ビューの数、既存ビューの視点の多様性、および／または、任意ビューの視点が既存ビューの視点に関してどれだけ異なるか、に依存する。
【００１８】
図２に示した例に関して、椅子オブジェクトの周りの７３のビューが、椅子の既存ビューとして格納される。格納されたビューとのいずれとも異なるすなわち特有の椅子オブジェクトの周りの任意ビューが、もしあったとしても好ましくは最小限の補間で、複数のこれらの既存ビューを用いて生成されうる。しかしながら、既存ビューのかかる包括的なセットを生成して格納することが、効率的でなかったり望ましくなかったりする場合がある。いくつかの場合、その代わりに、十分に多様なセットの視点を網羅する十分に少ない数の既存ビューが生成および格納されてもよい。例えば、椅子オブジェクトの７３のビューが、椅子オブジェクトの周りの少数のビューの小さいセットに縮小されてもよい。
【００１９】
上述のように、いくつかの実施形態において、要求できる可能な任意ビューが、少なくとも部分的に制約されてもよい。例えば、ユーザは、インタラクティブなシーンに関連する仮想カメラを特定の位置に動かすことから制限されうる。図２で与えられた例に関して、要求できる可能な任意ビューが、椅子オブジェクトの周りの任意の位置に制限されてよいが、例えば、椅子オブジェクトの底部のために存在するピクセルデータが不十分であるので、椅子オブジェクトの下の任意の位置を含まなくてよい。許容される任意ビューについてのかかる制約は、要求された任意ビューを任意ビュー生成器１０２によって既存データから生成できることを保証する。
【００２０】
任意ビュー生成器１０２は、入力された任意ビュー要求１０４に応答して、要求された任意ビュー１０８を生成して出力する。生成された任意ビュー１０８の解像度または品質は、既存ビューからのピクセルが任意ビューを生成するために用いられているので、それを生成するために用いられた既存ビューの品質と同じであるかまたは同等である。したがって、ほとんどの場合に高精細度の既存ビューを用いると、高精細度の出力が得られる。いくつかの実施形態において、生成された任意ビュー１０８は、関連シーンの他の既存ビューと共にデータベース１０６に格納され、後に、任意ビューに対する将来の要求に応答して、そのシーンの他の任意ビューを生成するために用いられてよい。入力１０４がデータベース１０６内の既存ビューの要求を含む場合、要求されたビューは、上述のように、他のビューから生成される必要がなく；その代わり、要求されたビューは、簡単なデータベースルックアップを用いてリトリーブされ、出力１０８として直接提示される。
【００２１】
任意ビュー生成器１０２は、さらに、記載した技術を用いて任意アンサンブルビューを生成するよう構成されてもよい。すなわち、入力１０４は、複数のオブジェクトを単一のカスタムビューに統合するための要求を含んでよい。かかる場合、上述の技術は、複数のオブジェクトの各々に対して実行され、複数のオブジェクトを含む単一の統合されたビューすなわちアンサンブルビューを生成するように統合される。具体的には、複数のオブジェクトの各々の既存ビューが、アセット管理エンジン１１０によってデータベース１０６から選択されてリトリーブされ、それらの既存ビューは、視点変換エンジン１１２によって、要求されたビューの視点に変換され、視点変換された既存ビューからのピクセルが、マージエンジン１１４によって、要求されたアンサンブルビューの対応するピクセルを埋めるために用いられ、アンサンブルビュー内の任意の残りの埋められていないピクセルが、補間エンジン１１６によって補間される。いくつかの実施形態において、要求されたアンサンブルビューは、アンサンブルを構成する１または複数のオブジェクトのためにすでに存在する視点を含みうる。かかる場合、要求された視点に対応するオブジェクトアセットの既存ビューは、オブジェクトの他の既存ビューから要求された視点を最初に生成する代わりに、アンサンブルビュー内のオブジェクトに対応するピクセルを直接埋めるために用いられる。
【００２２】
複数のオブジェクトを含む任意アンサンブルビューの一例として、図２の椅子オブジェクトおよび別個に撮影またはレンダリングされたテーブルオブジェクトを考える。椅子オブジェクトおよびテーブルオブジェクトは、両方のオブジェクトの単一のアンサンブルビューを生成するために、開示されている技術を用いて統合されてよい。したがって、開示された技術を用いて、複数のオブジェクトの各々の別個にキャプチャまたはレンダリングされた画像またはビューが、複数のオブジェクトを含み所望の視点を有するシーンを生成するために、矛盾なく統合されうる。上述のように、各既存ビューの奥行情報は既知である。各既存ビューの視点変換は、奥行変換を含んでおり、複数のオブジェクトが、アンサンブルビュー内で互いに対して適切に配置されることを可能にする。
【００２３】
任意アンサンブルビューの生成は、複数の単一オブジェクトをカスタムビューに組み合わせることに限定されない。むしろ、複数のオブジェクトまたは複数のリッチな仮想環境を有する複数のシーンが、同様にカスタムアンサンブルビューに統合されてもよい。例えば、複数の別個に独立して生成された仮想環境（おそらくは異なるコンテンツ生成源に由来し、おそらくは異なる既存の個々の視点を有する）が、所望の視点を有するアンサンブルビューに統合されてよい。したがって、一般に、任意ビュー生成器１０２は、おそらくは異なる既存ビューを含む複数の独立したアセットを、所望のおそらくは任意の視点を有するアンサンブルビューに矛盾なく統合または調和させるよう構成されてよい。すべての統合されたアセットが同じ視点に正規化されるので、完璧に調和した結果としてのアンサンブルビューが生成される。アンサンブルビューの可能な任意視点は、アンサンブルビューを生成するために利用可能な個々のアセットの既存ビューに基づいて制約されうる。
【００２４】
図３は、任意視点を生成するための処理の一実施形態を示すフローチャートである。処理３００は、例えば、図１の任意ビュー生成器１０２によって用いられてよい。様々な実施形態において、処理３００は、所定のアセットの任意ビューまたは任意アンサンブルビューを生成するために用いられてよい。
【００２５】
処理３００は、任意視点の要求が受信される工程３０２で始まる。いくつかの実施形態において、工程３０２で受信された要求は、シーンのどの既存の利用可能な視点とも異なる所定のシーンの任意視点の要求を含みうる。かかる場合、例えば、任意視点要求は、そのシーンの提示されたビューの視点の変更を要求されたことに応じて受信されてよい。視点のかかる変更は、カメラのパン、焦点距離の変更、ズームレベルの変更など、シーンに関連する仮想カメラの変更または操作によって促されてよい。あるいは、いくつかの実施形態において、工程３０２で受信された要求は、任意アンサンブルビューの要求を含んでもよい。一例として、かかる任意アンサンブルビュー要求は、複数の独立したオブジェクトの選択を可能にして、選択されたオブジェクトの統合された視点修正済みのアンサンブルビューを提供するアプリケーションに関して受信されうる。
【００２６】
工程３０４で、要求された任意視点の少なくとも一部を生成する元となる複数の既存画像が、１または複数の関連アセットデータベースからリトリーブされる。複数のリトリーブされた画像は、工程３０２で受信された要求が所定のアセットの任意視点の要求を含む場合には、所定のアセットに関連してよく、また、工程３０２で受信された要求が任意アンサンブルビューの要求を含む場合には、複数のアセットに関連してよい。
【００２７】
工程３０６で、異なる視点を有する工程３０４でリトリーブされた複数の既存画像の各々が、工程３０２で要求された任意視点に変換される。工程３０４でリトリーブされた既存画像の各々は、関連する視点情報を含む。各画像の視点は、相対位置、向き、回転、角度、奥行、焦点距離、絞り、ズームレベル、照明情報など、その画像の生成に関連するカメラ特性によって規定される。完全なカメラ情報が各画像について既知であるので、工程３０６の視点変換は、単純な数学演算を含む。いくつかの実施形態において、工程３０６は、任意選択的に、すべての画像が同じ所望の照明条件に一貫して正規化されるような光学変換をさらに含む。
【００２８】
工程３０８で、工程３０２で要求された任意視点を有する画像の少なくとも一部が、視点変換済みの既存画像から収集されたピクセルで埋められる。すなわち、複数の視点補正済みの既存画像からのピクセルが、要求された任意視点を有する画像を生成するために用いられる。
【００２９】
工程３１０で、要求された任意視点を有する生成された画像が完成したか否かが判定される。要求された任意視点を有する生成された画像が完成していないと工程３１０で判定された場合、生成された画像の任意の残りの埋められていないピクセルを取得するためのさらなる既存画像が利用可能であるか否かが工程３１２で判定される。さらなる既存画像が利用可能であると工程３１２で判定された場合、１または複数のさらなる既存画像が工程３１４でリトリーブされ、処理３００は工程３０６に進む。
【００３０】
要求された任意視点を有する生成された画像が完成していないと工程３１０で判定され、かつ、もはや既存画像が利用できないと工程３１２で判定された場合、生成された画像のすべての残りの埋められていないピクセルが工程３１６で補間される。任意の１または複数の適切な補間技術が、工程３１６で用いられてよい。
【００３１】
要求された任意視点を有する生成された画像が完成したと工程３１０で判定された場合、または、工程３１６ですべての残りの埋められていないピクセルを補間した後、要求された任意視点を有する生成済みの画像が工程３１８で出力される。その後、処理３００は終了する。
【００３２】
上述のように、開示した技術は、他の既存の視点に基づいて任意視点を生成するために用いられてよい。カメラ情報が各既存視点と共に保存されているので、異なる既存の視点を共通の所望の視点に正規化することが可能である。所望の視点を有する結果としての画像は、視点変換された既存画像からピクセルを取得することで構築できる。開示した技術を用いた任意視点の生成に関連する処理は、高速でほぼ即時であるだけでなく、高品質の出力も生み出すため、開示した技術は、インタラクティブなリアルタイムグラフィックスアプリケーションに対して特に強力な技術となっている。
【００３３】
上述の実施形態は、理解しやすいようにいくぶん詳しく説明されているが、本発明は、提供された詳細事項に限定されるものではない。本発明を実施する多くの代替方法が存在する。開示された実施形態は、例示であり、限定を意図するものではない。
【図１】
2019516202.tif 000003
【図２】
2019516202.tif 000004
【図３】
2019516202.tif 000005
【国際調査報告】
2019516202.tif 000006