(57)【要約】  マルチビュー方式により受信した撮影された映像から補間映像の生成、または、補外映像の生成時に発生する、撮影された映像と補間映像および補外映像との間に不連続性が現れ、画質が低下する問題点を解決することを目的とする。  レンダリング装置は、複数の参照ビューをレンダリングして複数の予測ビューを生成し、ホール集合部は、生成されたそれぞれの予測ビューに存在するホールを用いて１つの基準ホールレイヤを生成し、ホール復元部は、生成された基準ホールレイヤの基準ホールを復元し、マルチビュー生成部は、基準ホールの復元された基準ホールレイヤを用いて各予測ビューに存在するホールを除去する。
2013545149.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも１つの参照ビューをレンダリングして複数の予測ビューを生成するレンダリング部と、
前記それぞれの予測ビューに存在するホールの集合を示す基準ホールを生成するホール集合部と、
前記基準ホールを復元するホール復元部と、
前記復元された基準ホールを用いて、前記各予測ビューに存在するホールを除去するマルチビュー生成部と、
を含むことを特徴とするマルチビュー生成のための装置。
【請求項２】
前記予測ビューは、連続する２つの参照ビューの間に位置する補間ビューであることを特徴とする請求項１に記載のマルチビュー生成のための装置。
【請求項３】
前記補間ビューは、連続的な補間ビューであることを特徴とする請求項２に記載のマルチビュー生成のための装置。
【請求項４】
前記ホール集合部は、
前記基準ホールを含む基準ホールレイヤを生成し、
前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有することを特徴とする請求項２に記載のマルチビュー生成のための装置。
【請求項５】
前記基準ホールは、前記各補間ビューに存在するそれぞれのホールよりも大きい大きさを有することを特徴とする請求項２に記載のマルチビュー生成のための装置。
【請求項６】
前記マルチビュー生成部は、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去することを特徴とする請求項２に記載のマルチビュー生成のための装置。
【請求項７】
前記予測ビューは、
前記少なくとも１つの参照ビューの外側に位置する補外ビューであることを特徴とする請求項１に記載のマルチビュー生成のための装置。
【請求項８】
前記補外ビューは、１つの参照ビューをレンダリングして生成されることを特徴とする請求項７に記載のマルチビュー生成のための装置。
【請求項９】
前記補外ビューは、連続的な補外ビューであることを特徴とする請求項７に記載のマルチビュー生成のための装置。
【請求項１０】
前記ホール集合部は、
前記基準ホールを含む基準ホールレイヤを生成し、
前記基準ホールレイヤは、前記各補外ビューと同一の大きさを有することを特徴とする請求項７に記載のマルチビュー生成のための装置。
【請求項１１】
前記基準ホールは、前記各補外ビューに存在するそれぞれのホールよりも大きい大きさを有することを特徴とする請求項７に記載のマルチビュー生成のための装置。
【請求項１２】
前記マルチビュー生成部は、前記各補外ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去することを特徴とする請求項７に記載のマルチビュー生成のための装置。
【請求項１３】
前記それぞれの予測ビューに存在するホールを検出するホール検出部をさらに含むことを特徴とする請求項１に記載のマルチビュー生成のためのレンダリング装置。
【請求項１４】
少なくとも１つの参照ビューをレンダリングして複数の予測ビューを生成するステップと、
前記それぞれの予測ビューに存在するホールの集合を示す基準ホールを生成するステップと、
前記基準ホールを復元するステップと、
前記復元された基準ホールを用いて前記各予測ビューに存在するホールを除去するステップと、
を含むことを特徴とするマルチビュー生成方法。
【請求項１５】
前記予測ビューは、連続する２つの参照ビューの間に位置する補間ビューであることを特徴とする請求項１４に記載のマルチビュー生成方法。
【請求項１６】
前記補間ビューは、連続的な補間ビューであることを特徴とする請求項１５に記載のマルチビュー生成方法。
【請求項１７】
前記基準ホールを生成するステップは、
前記基準ホールを含む基準ホールレイヤを生成し、
前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有することを特徴とする請求項１５に記載のマルチビュー生成方法。
【請求項１８】
前記基準ホールは、前記各補間ビューに存在するそれぞれのホールよりも大きい大きさを有することを特徴とする請求項１５に記載のマルチビュー生成方法。
【請求項１９】
前記各予測ビューに存在する前記ホールを除去するステップは、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去することを特徴とする請求項１５に記載のマルチビュー生成方法。
【請求項２０】
前記予測ビューは、
前記少なくとも１つの参照ビューの外側に位置する補外ビューであることを特徴とする請求項１４に記載のマルチビュー生成方法。
【請求項２１】
前記補外ビューは、１つの参照ビューをレンダリングして生成されることを特徴とする請求項２０に記載のマルチビュー生成方法。
【請求項２２】
前記補外ビューは、連続的な補外ビューであることを特徴とする請求項２０に記載のマルチビュー生成方法。
【請求項２３】
前記基準ホールを生成するステップは、
前記基準ホールを含む基準ホールレイヤを生成し、
前記基準ホールレイヤは、前記各補外ビューと同一の大きさを有することを特徴とする請求項２０に記載のマルチビュー生成方法。
【請求項２４】
前記基準ホールは、前記各補外ビューに存在するそれぞれのホールよりも大きい大きさを有することを特徴とする請求項２０に記載のマルチビュー生成方法。
【請求項２５】
前記各補外ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去することを特徴とする請求項２０に記載のマルチビュー生成方法。
【請求項２６】
マルチビュー生成のためのレンダリング装置において、
メモリと、
複数の予測ビューに存在するホールを用いて前記各予測ビューに存在するホールの集合を示す基準ホールを生成し、前記基準ホールを復元し、前記復元された基準ホールを用いて前記各予測ビューに存在する前記ホールを除去するように構成されたプロセッサと、
を含むことを特徴とするマルチビュー生成のためのレンダリング装置。
【請求項２７】
マルチビュー生成のための装置を含むマルチビューディスプレイ装置において、
マルチビューを生成するための装置に含まれ、複数の予測ビューに存在するホールを用いて前記各予測ビューに存在するホールの集合を示す基準ホールを生成し、前記基準ホールを復元し、前記復元された基準ホールを用いて前記各予測ビューに存在する前記ホールを除去するように構成されたプロセッサと、
前記予測ビューに基づいたマルチビューイメージをディスプレイするマルチビューディスプレイと、
を含むことを特徴とするマルチビュー生成のためのマルチビューディスプレイ装置。
【請求項２８】
前記マルチビューを生成するための装置は、
前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去することを特徴とする請求項２７に記載のマルチビュー生成のためのマルチビューディスプレイ装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、マルチビュー生成のためのレンダリング装置およびその方法に関し、より詳しくは、生成されるビューの間の不連続性を減らすか取り除くことができる、マルチビュー生成のためのレンダリング装置およびその方法に関する。
【背景技術】
【０００２】
立体映像は、深さおよび空間に対する形状情報を同時に提供する３次元映像である。３次元映像を表示する３次元ディスプレイは、２つ以上の映像を同時に出力するマルチビュー方式を使用する。これは、同一の映像を異なる方向、すなわち、異なる視点から見たものと同じ効果の映像を提供するためである。
【０００３】
マルチビュー方式は、撮影された映像がディスプレイ装置に送信されれば、ディスプレイ装置が受信した撮影された映像から補間映像（Ｉｎｔｅｒｐｏｌａｔｉｏｎ  Ｖｉｅｗ）を生成したり、補外映像（Ｅｘｔｒａｐｏｌａｔｉｏｎ  Ｖｉｅｗ）を生成したりして、実際に撮影された映像よりも多くの映像を生成する。このような場合、撮影された映像と補間映像および補外映像との間に不連続性が現れ、画質低下が発生する。例えば、連続する２つの補間映像の色の差異によって、同一の背景が互いに異なって表現される。これは、２つの補間映像に存在するホール（ｈｏｌｅ）をそれぞれ復元するためである。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
本発明の実施形態によりマルチビュー生成のためのレンダリング装置およびその方法を提供する。
【０００５】
本発明の実施形態により生成された複数の予測ビューに含まれたホールをそれぞれ復元せず、１つの基準ホールに集合して復元するマルチビュー生成のためのレンダリング装置およびその方法を提供する。
【０００６】
本発明の実施形態により復元された基準ホール、すなわち、同一の基準ホールを用いて予測ビューに含まれたホールを除去することにより、ビューとビューの間に発生する不連続性を解消し、画質を向上させるレンダリング装置およびその方法を提供する。
【課題を解決するための手段】
【０００７】
本発明の一実施形態に係るマルチビュー生成のための装置は、少なくとも１つの参照ビューをレンダリングして複数の予測ビューを生成するレンダリング部と、前記それぞれの予測ビューに存在するホールの集合を示す基準ホールを生成するホール集合部と、前記基準ホールを復元（ｉｎｐａｉｎｔｉｎｇ）するホール復元部と、前記復元された基準ホールを用いて前記各予測ビューに存在するホールを除去するマルチビュー生成部と、を含む。
【０００８】
前記予測ビューは、連続する２つの参照ビューの間に位置する補間ビューであってもよい。前記補間ビューは、連続的な補間ビューであってもよい。
【０００９】
前記ホール集合部は、前記基準ホールを含む基準ホールレイヤを生成し、前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有してもよい。
【００１０】
前記マルチビュー生成部は、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去する。
【００１１】
前記予測ビューは、前記少なくとも１つの参照ビューの外側に位置する補外ビューであってもよい。前記補外ビューは、１つの参照ビューをレンダリングして生成される。
【００１２】
前記ホール集合部は、前記基準ホールを含む基準ホールレイヤを生成し、前記基準ホールレイヤは、前記各補外ビューと同一の大きさを有してもよい。
【００１３】
前記マルチビュー生成部は、前記各補外ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去する。
【００１４】
前記レンダリング装置は、それぞれの予測ビューに存在するホールを検出するホール検出部をさらに含んでもよい。
【００１５】
本発明の一実施形態に係るマルチビュー生成方法は、少なくとも１つの参照ビューをレンダリングして複数の予測ビューを生成するステップと、前記それぞれの予測ビューに存在するホールの集合を示す基準ホールを生成するステップと、前記基準ホールを復元するステップと、前記復元された基準ホールを用いて前記各予測ビューに存在するホールを除去するステップと、を含む。
【００１６】
前記予測ビューは、連続する２つの参照ビューの間に位置する補間ビューであってもよい。前記補間ビューは、連続的な補間ビューであってもよい。
【００１７】
前記基準ホールを生成するステップは、前記基準ホールを含む基準ホールレイヤを生成し、前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有してもよい。
【００１８】
前記各予測ビューに存在する前記ホールを除去するステップは、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去する。
【００１９】
本発明の一実施形態に係るマルチビュー生成のためのレンダリング装置は、メモリと、複数の予測ビューに存在するホールを用いて前記各予測ビューに存在するホールの集合を示す基準ホールを生成し、前記基準ホールを復元し、前記復元された基準ホールを用いて前記各予測ビューに存在する前記ホールを除去するように構成されたプロセッサと、を含んでもよい。
【００２０】
本発明の一実施形態に係るマルチビュー生成のための装置を含むマルチビューディスプレイ装置は、マルチビューを生成するための装置に含まれ、複数の予測ビューに存在するホールを用いて前記各予測ビューに存在するホールの集合を示す基準ホールを生成し、前記基準ホールを復元し、前記復元された基準ホールを用いて前記各予測ビューに存在する前記ホールを除去するように構成されたプロセッサと、前記予測ビューに基づいたマルチビューのイメージをディスプレイするマルチビューディスプレイと、を含んでもよい。
【００２１】
このとき、前記マルチビューを生成するための装置は、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去してもよい。
【発明の効果】
【００２２】
マルチビュー生成のためのレンダリング装置およびその方法によれば、生成された複数の予測ビューに含まれたホールをそれぞれ復元せず、１つの基準ホールに集合して復元してもよい。復元された基準ホール、すなわち、同一の基準ホールを用いて予測ビューに含まれたホールを除去することにより、ビューとビューの間に発生する不連続性を解消して、画質を向上させることができる。
【図面の簡単な説明】
【００２３】
【図１】本発明の一実施形態に係るマルチビュー生成のためのレンダリング装置を示すブロック図である。
【図２】復元方式を説明するための図である。
【図３】本発明の一実施形態に係る予測ビューが補間ビューである場合、マルチビューを生成する例を示す図である。
【図４】本発明の一実施形態に係る予測ビューが補外ビューである場合、マルチビューを生成する例を示す図である。
【図５】本発明の一実施形態に係るレンダリング装置のマルチビュー生成方法を説明するためのフローチャートである。
【図６】本発明の一実施形態に係るマルチビュー生成のための装置を含むマルチビューディスプレイ装置を示すブロック図である。
【発明を実施するための形態】
【００２４】
以下、本発明の実施形態を添付された図面を参照して詳細に説明する。
【００２５】
図１は、マルチビュー生成のためのレンダリング装置１００を示したブロック図である。図１のレンダリング装置１００は、ステレオ方式とマルチビュー方式を使用して、３Ｄ映像を提供する装置に適用される。ステレオ方式は、左映像と右映像を用いて３Ｄ映像を提供する方式である。マルチビュー方式は、３つ以上の異なる視点に該当する映像を用いて３Ｄ映像を提供する方式である。
【００２６】
図１を参照すると、マルチビュー生成のためのレンダリング装置１００は、レンダリング部１１０、ホール検出部１２０、ホール集合部１３０、ホール復元部１４０およびマルチビュー生成部１５０を含んでもよい。
【００２７】
レンダリング部１１０は、少なくとも１つの参照ビュー（Ｒｅｆｅｒｅｎｃｅ  Ｖｉｅｗ）をレンダリングして、複数の予測ビューを生成することができる。参照ビューは、１つの映像を互いに異なる位置で撮影して獲得したビューであって、視点が互いに異なる。特に、レンダリング部１１０は、参照ビューの画素のカラー値と視差（ｄｉｓｐａｒｉｔｙ）のうち少なくとも１つをレンダリングして、予測ビューを生成することができる。視差は、連続する２つの参照ビューの間の差であって、画素値の差、画素の位置の差などが例として挙げられる。
【００２８】
予測ビューは、補間技法によって生成される補間ビューと、補外技法によって生成される補外ビューとを含んでもよい。レンダリング部１１０は、連続する２つの参照ビューのカラー値と視差とを用いて、補間ビューを生成することができる。また、レンダリング部１１０は、複数の参照ビューのうち最左側または最右側に位置する参照ビューのカラー値を用いて、補外ビューを生成することができる。したがって、補外ビューは、参照ビューの外側のビューである。例えば、最左側の参照ビュー（最左側に位置する参照ビュー）を用いて生成される補外ビューは、最左側の参照ビューよりもさらに左側の視点に対応する。
【００２９】
ホール検出部１２０は、レンダリング部１１０で生成されるそれぞれの予測ビューに存在するホールを検出することができる。ホールは、画素値が存在しない領域、または、画素のカラー値が満たさない領域である。予測ビューは、参照ビューとは異なる視点に対応するビューであって、参照ビューのオブジェクトが任意方向へ移動したように見られることもある。したがって、参照ビューにおいて、オブジェクトにより遮られた背景が予測ビューで見られる場合、前記遮られた後に見られる背景は、ホールとして再現されることもある。また、上述した視差のエラーによって予測ビューはホールを有することもある。
【００３０】
ホール集合部１３０は、それぞれの予測ビューに存在するホールを用いて１つの基準ホールレイヤを生成することができる。具体的に、ホール集合部１３０は、複数の予測ビューのうち連続的に生成された予測ビューに対して１つの基準ホールレイヤを生成することができる。基準ホールレイヤは、予測ビューと同一の大きさであり、基準ホールを含んでもよい。
【００３１】
ホール集合部１３０は、レンダリング部１１０で生成された予測ビューが補間ビューである場合と補外ビューである場合に、互いに異なる基準を用いて基準ホールレイヤを生成することができる。
【００３２】
予測ビューが補間ビューである場合、ホール集合部１３０は、複数の補間ビューのうち連続的に生成された補間ビューに対して、１つの基準ホールレイヤを生成することができる。連続的に生成された補間ビューは、複数の参照ビューのうち連続する２つの参照ビューの間に位置してもよい。これは、連続的に生成された補間ビューは、連続する２つの参照ビューから補間によって生成されたビューであるためである。
【００３３】
ホール集合部１３０は、連続する複数の補間ビューで検出されたホールを集合して基準ホールを生成する。例えば、２つの参照ビューをそれぞれ左側参照ビューおよび右側参照ビューとすれば、レンダリング部１１０は、左側参照ビューと右側参照ビューとの間に位置する補間ビューを生成する。ホール検出部１２０が補間ビューからホールを検出した場合、ホール集合部１３０は、検出されたホールを集合して基準ホールを生成する。
【００３４】
したがって、基準ホールは、各補間ビューに存在するホールの集合を示す。集合する間、２つ以上の補間ビュー内の共通のホールは一度計算される。基準ホールは、補間ビューに存在するホールの集合を示すので、連続する領域を有しても有さなくてもよい。
【００３５】
また、ホール集合部１３０は、生成された基準ホールを含む基準ホールレイヤを生成する。基準ホールレイヤは、各補間ビューと同一の大きさを有し、基準ホールは、検出されたホールの集合と同一の大きさを有する。
【００３６】
一方、予測ビューが補外ビューである場合、ホール集合部１３０は、複数の補外ビューのうち連続的に生成された補外ビューに対して、１つの基準ホールレイヤを生成することができる。連続的に生成された補外ビューは、複数の参照ビューのうち最左側の参照ビューから生成されるビューであってもよく、または、最右側の参照ビューから生成されるビューであってもよい。ホール集合部１３０は、連続する補外ビューに存在するホールを１つに集合して１つの基準ホールを生成する。補間ビューのための基準ホールのように補外ビューのための基準ホールも、連続する領域を有しても有さなくてもよい。
【００３７】
また、ホール集合部１３０は、生成された基準ホールを含む基準ホールレイヤを生成することができる。基準ホールレイヤは、各補外ビューと同一の大きさを有する。
【００３８】
ホール復元部１４０は、ホール集合部１３０で生成された基準ホールレイヤの基準ホールを周知の画素情報を用いて復元することができる。例えば、ホール復元部１４０は、周知の復元方式を用いて基準ホールを復元してもよい。
【００３９】
図２は、復元方式を説明するための図である。図２を参照すると、復元方式は、ホールの周辺に位置する周知の領域の画素値を、ホールに伝播（ｐｒｏｐａｇａｔｉｏｎ）させ、ホールに画素値を満たす方式である。
【００４０】
数式（１）は、復元方式を用いてホールに位置する画素の画素値を予測するための式である。
【００４１】
【数１】
2013545149.tif 000003
数式（１）において、ｑは周知の領域に位置する画素の座標、ｐはホールに位置する画素の座標、Ｉは画素値、
【００４２】
【数２】
2013545149.tif 000004
は勾配（ｇｒａｄｉｅｎｔ）である。すなわち、ホール復元部１４０は、画素の座標ｐ、周辺画素の座標ｑおよび周辺画素の画素値Ｉ（ｑ）を用いてホールを復元してもよい。
【００４３】
また、ホール復元部１４０は、座標ｐの画素値を求めるために、周知の領域のすべての画素値を、数式（２）を用いてホールを復元してもよい。
【００４４】
【数３】
2013545149.tif 000005
数式（２）において、
【００４５】
【数４】
2013545149.tif 000006
は座標ｑが位置する周知の領域、
【００４６】
【数５】
2013545149.tif 000007
は相対的な加重値を意味する。
【００４７】
【数６】
2013545149.tif 000008
は、周知の領域に位置するすべての座標に付与された加重値であって、座標ｐ毎に異なる値を有してもよい。
【００４８】
また、ホール復元部１４０は、上述した復元方式だけでなく、映像内の標本を用いて映像を復元する周知のＥｘｅｍｐｌａｒ−ｂａｓｅｄ  Ｉｎｐａｉｎｔｉｎｇ方式を用いてホールを復元してもよい。
【００４９】
マルチビュー生成部１５０は、基準ホールの復元された基準ホールレイヤを用いて各予測ビューに存在するホールを除去してもよい。予測ビューが補間ビューである場合、マルチビュー生成部１５０は、各補間ビューのホールに復元された基準ホールの対応する部分を挿入する。同様に、予測ビューが補外ビューである場合、マルチビュー生成部１５０は、各補外ビューのホールに基準ホールの対応する部分を挿入する。したがって、マルチビュー生成部１５０は、補間ビューと補外ビューのホールに復元された基準ホールの対応する部分を満たすことにより、マルチビューを生成する。
【００５０】
以下では、予測ビューが補間ビューである場合と補外ビューである場合に、マルチビューを生成する方法について図３および図４を参照して説明する。
【００５１】
図３は、予測ビューが補間ビューである場合、マルチビューを生成する一実施形態を説明するための図である。図３を参照すると、左側参照ビューと右側参照ビューは、複数の参照ビューのうち連続するビューである。左側参照ビューと右側参照ビューは、互いに異なる視点に対応するビューであり、類似する背景を有する。識別番号「３１０Ｌ」と「３１０Ｒ」は同一のオブジェクトであり、「３２０Ｌ」と「３２０Ｒ」は同一のオブジェクトである。
【００５２】
レンダリング部１１０は、左側参照ビューと右側参照ビューに補間技法を適用して、第１補間ビューと第２補間ビューを生成する。このとき、第１補間ビューは、オブジェクト３１０Ｌ、３２０Ｌが左側に「ｄ」だけ移動したのと同じ結果を示し、これにより、ホールｈ１を含むようになる。第２補間ビューは、オブジェクト３１０Ｒ、３２０Ｒが右側に移動したのと同じ結果を示し、これにより、ホールｈ２を含むようになる。
【００５３】
ホール検出部１２０は、第１補間ビューと第２補間ビューに含まれたホールｈ１，ｈ２を検出し、ホール集合部１３０は、検出されたホールｈ１，ｈ２を１つに集合して基準ホールｈ３を生成する。基準ホールｈ３の大きさは、検出されたホールｈ１，ｈ２のうち最も大きなホールｈ２と同一である。集合する間、検出されたホールｈ１，ｈ２の全体領域は一度計算される。基準ホールｈ３の大きさは、一般的に検出されたホールｈ１，ｈ２のそれぞれよりも大きい。稀に、検出されたホールｈ２が検出されたホールｈ１を完全にカバーする場合、基準ホールｈ３の大きさは、検出されたホールｈ２と同一である。ホール集合部１３０は、基準ホールｈ３を含む基準ホールレイヤを生成し、基準ホールｈ３を復元する。これにより、復元された基準ホールｈ４を含む基準ホールレイヤ、すなわち、復元された基準ホールレイヤが生成される。
【００５４】
マルチビュー生成部１５０は、第１補間ビューの検出されたホールｈ１に復元された基準ホールｈ４の対応する部分を挿入することにより、ホールｈ１を満たす。第１補間ビューに位置するホールｈ１と復元された基準ホールレイヤに位置する復元された基準ホールｈ４との対応する部分の相対的な位置が同一である。したがって、マルチビュー生成部１５０は、復元された基準ホールｈ４のうちホールｈ１にマッチングする領域の画素値をホールｈ１に挿入することにより、ホールｈ１を満たすことができる。これにより、第１マルチビューが生成される。これは、第２補間ビューについても同一であるため、詳細な説明は省略する。
【００５５】
図４は、予測ビューが補外ビューである場合、マルチビューを生成する一実施形態を説明するための図である。図４を参照すると、左側参照ビューは、複数の参照ビューのうち最も左側に位置するビューである。識別番号「４１０」はオブジェクトである。レンダリング部１１０は、左側参照ビューに補外技法を適用して第１補外ビューと第２補外ビューを順次生成する。このとき、第１補外ビューは、オブジェクト４１０が右側に「ｄ１」だけ移動したのと同じ結果を示し、これにより、ホールｈ５を含むようになる。第２補外ビューは、オブジェクト４１０が右側に「ｄ２」だけ移動したのと同じ結果を示し、これにより、ホールｈ６を含むようになる。
【００５６】
ホール検出部１２０は、第１補外ビューと第２補外ビューに含まれたホールｈ５、ｈ６を検出し、ホール集合部１３０は、検出されたホールｈ５、ｈ６を１つに集合して基準ホールｈ７を生成する。基準ホールｈ７の大きさは、検出されたホールｈ５、ｈ６のうち最も外郭に位置するホールｈ６と同一である。集合する間、検出されたホールｈ５，ｈ６の共通領域は一度計算される。基準ホールｈ７の大きさは、一般的に検出されたホールｈ５，ｈ６のそれぞれよりも大きい。しかし、検出されたホールｈ６が検出されたホールｈ５を完全にカバーする場合、基準ホールｈ７の大きさは、検出されたホールｈ６と同一である。ホール集合部１３０は、基準ホールｈ７を含む基準ホールレイヤを生成して、基準ホールｈ７を復元する。これにより、復元された基準ホールｈ８を含む基準ホールレイヤ、すなわち、復元された基準ホールレイヤが生成される。
【００５７】
マルチビュー生成部１５０は、第１補外ビューの検出されたホール５に復元された基準ホールの対応する部分を挿入することにより、ホールｈ５を満たし、これにより、第３マルチビューが生成される。これは、第２補外ビューについても同一であるため、詳細な説明は省略する。
【００５８】
上述したレンダリング装置１００は、上述した動作を行うために、動作プログラムを格納するメモリと、プロセッサと、制御部とをさらに備えてもよい。プロセッサまたは制御部は、複数の予測ビューに存在するホールを用いて１つの基準ホールレイヤを生成し、生成された基準ホールレイヤの基準ホールを復元し、基準ホールの復元された基準ホールレイヤを用いて各予測ビューに存在するホールを満たすように構成されてもよい。
【００５９】
また、レンダリング装置１００がディスプレイ装置に備えられる場合、生成されたマルチビューは、表示可能な信号に処理されて画面に表示される。
【００６０】
図５は、マルチビュー生成方法を説明するためのフローチャートである。図５のマルチビュー生成方法は、図１を参照して説明したレンダリング装置１００、またはレンダリング装置１００のプロセッサや制御部によって、実現または動作される。
【００６１】
ステップＳ５１０において、レンダリング装置は、少なくとも１つの参照ビューをレンダリングすることで、または、少なくとも１つの参照ビューのカラー値と視差をレンダリングすることで、予測ビューを生成することができる。生成される予測ビューは、補間技法による補間ビューであってもよく、補外技法による補外ビューであってもよく、また、補間ビューと補外ビューとの組み合わせであってもよい。
【００６２】
ステップＳ５２０において、レンダリング装置は、生成された連続する予測ビューに存在するホールを検出することができる。
【００６３】
ステップＳ５３０において、レンダリング装置は、検出されたホールを１つに集合して１つの基準ホールを生成し、基準ホールを含む１つの基準ホールレイヤを生成することができる。このとき、レンダリング装置は、複数の予測ビューのうち連続する予測ビュー毎に１つの基準ホールレイヤを生成してもよい。
【００６４】
基準ホールレイヤは、予測ビューと同一の大きさを有する。基準ホールは、各補間ビューに存在するそれぞれのホールよりも大きい大きさを有する。補間ビューのいずれの共通したホールもないとき、基準ホールは補間ビューに存在する各ホールの合計と同一の大きさを有する。稀に、ある補間ビューに存在するホールが残りの補間ビューに存在するホールを完全にカバーする場合、基準ホールは、ある補間ビューに存在するホールの合計と同一の大きさを有する。基準ホールは、補間ビューに存在するホールの集合を示すので、連続する領域を有しても有さなくてもよい。
【００６５】
ステップＳ５４０において、レンダリング装置は、基準ホールレイヤの基準ホールを復元することができる。
【００６６】
ステップＳ５５０において、レンダリング装置は、復元された基準ホールを有する基準ホールレイヤを、ホールの検出された予測ビューに挿入することにより、各予測ビューで検出されたホールを除去することができる。
【００６７】
ステップＳ５６０において、レンダリング装置は、各予測ビューでホールが除去されたマルチビューを生成する。
【００６８】
本発明の実施形態による方法は、多様なコンピュータ手段によって実行することのできるプログラム命令形態で実現され、コンピュータ読取可能な媒体に記録される。前記コンピュータ読取可能な媒体は、プログラム命令、データファイル、データ構造などを単独または組み合わせて含むことができる。前記媒体に記録されるプログラム命令は、本発明のために特別に設計して構成されたものであるか、コンピュータソフトウェア当業者に公知されて使用可能なものであってもよい。
【００６９】
図６は、マルチビュー生成のための装置を含むマルチビューディスプレイ装置６００を示すブロック図である。図６を参照すれば、マルチビューディスプレイ装置６００は、制御部６０１とマルチビューを生成するための装置６０５とを含む。
【００７０】
マルチビューディスプレイ装置６００は、３Ｄイメージを示すために、３Ｄディスプレイの形態であってもよく、３つまたはそれ以上の他の視点を出力するために、マルチビュー技術を用いてもよい。または、マルチビューディスプレイ装置６００は、左右イメージを出力するステレオスコピックディスプレイ（ｓｔｅｒｅｏｓｃｏｐｉｃ  ｄｉｓｐｌａｙ）の形態であってもよい。
【００７１】
制御部６０１は、マルチビューディスプレイ装置６００を制御し、マルチビューディスプレイ装置６００によってディスプレイされるように１つ以上の制御信号を生成してもよい。制御部６０１は、１つ以上のプロセッサを含んでもよい。
【００７２】
マルチビューを生成するための装置６０５は、マルチビューディスプレイ装置６００のためにマルチビューイメージを生成するが、レンダリング部６１０、ホール検出部６２０、ホール集合部６３０、ホール復元部６４０、及びマルチビュー生成部６５０を含んでもよい。このとき、６１０から６５０までの装置は、図６に図示されない。しかし、６１０から６５０までの装置の各々は、図１に類似する名称の装置として説明されたので、その詳細な説明は省略することにする。
【００７３】
マルチビューを生成するための装置６０５は、マルチビューディスプレイ装置６００の内部に設けられてもよく、マルチビューディスプレイ装置６００に取り付けられ、または、マルチビューディスプレイ装置６００から離れて実現されてもよい。物理的な構成と関係なく、マルチビューを生成するための装置６０５は、上述した全ての機能を有する。マルチビューを生成するための装置６０５は、１つ以上の内部プロセッサを含んでもよく、または、制御部６０１が含む１つ以上のプロセッサのようにマルチビューディスプレイ装置６００に含まれた１つ以上のプロセッサによって含まれてもよい。
【００７４】
上述したように、本発明では、限定された実施形態および図面によって説明したが、本発明は、前記の実施形態に限定されるものではなく、本発明が属する分野で通常の知識を有する者であれば、このような記載から多様な修正および変形が可能である。
【００７５】
したがって、本発明の範囲は説明した実施形態に限定して決定されてはならず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等なもの等によって定められなければならない。
【符号の説明】
【００７６】
１００  レンダリング装置
１１０  レンダリング部
１２０  ホール検出部
１３０  ホール集合部
１４０  ホール復元部
１５０  マルチビュー生成部
【図１】
2013545149.tif 000009
【図２】
2013545149.tif 000010
【図３】
2013545149.tif 000011
【図４】
2013545149.tif 000012
【図５】
2013545149.tif 000013
【図６】
2013545149.tif 000014
【国際調査報告】
2013545149.tif 000015
2013545149.tif 000016