(57)【要約】  本開示は、３Ｄモデルの生成に適したデプス画像の視点を選択することができるようにする画像処理装置および画像処理方法に関する。視点決定部は、候補となる視点の画面に投影された３Ｄモデルに基づいて、候補となる視点を３Ｄモデルのデプス画像の視点に決定する。本開示は、例えば、被写体の３Ｄモデルの複数の視点のカラー画像とデプス画像から所定の視点のカラー画像とデプス画像を生成し、符号化する符号化装置等に適用することができる。
2018070266.tif 000002
【特許請求の範囲】
【請求項１】
候補となる視点の画面に投影された３Ｄモデルに基づいて、前記候補となる視点を前記３Ｄモデルのデプス画像の視点に決定する視点決定部
を備える画像処理装置。
【請求項２】
前記視点決定部は、前記３Ｄモデルのカラー画像の視点数が前記デプス画像の視点数より少ない場合、前記３Ｄモデルを構成する各ポリゴンが投影された前記画面上の領域の面積の一様度が高い前記候補となる視点を、前記デプス画像の視点に決定する
ように構成された
請求項１に記載の画像処理装置。
【請求項３】
前記視点決定部は、前記３Ｄモデルのカラー画像の視点数が前記デプス画像の視点数より多い場合、前記画面に投影された前記３Ｄモデルを構成するポリゴンの数が多い前記候補となる視点を、前記デプス画像の視点に決定する
ように構成された
請求項１に記載の画像処理装置。
【請求項４】
表示画像の視点に基づいて、３Ｄモデルの複数の視点のデプス画像から所定の視点のデプス画像を選択する選択部と、
前記選択部により選択された前記所定の視点のデプス画像と前記３Ｄモデルのカラー画像とを用いて、前記表示画像を生成する生成部と
を備える画像処理装置。
【請求項５】
前記表示画像の視点に基づいて、前記複数の視点のそれぞれに対して優先順位を決定する優先順位決定部
をさらに備え、
前記選択部は、前記優先順位決定部により決定された前記優先順位と前記画像処理装置のリソース情報とに基づいて、前記所定の視点のデプス画像を選択する
ように構成された
請求項４に記載の画像処理装置。
【請求項６】
前記優先順位決定部は、前記表示画像の視点と位置または角度が近い視点の前記優先順位が高くなるように、前記優先順位を決定する
ように構成された
請求項５に記載の画像処理装置。
【請求項７】
前記選択部は、複数の視点の前記カラー画像から所定の視点のカラー画像を選択し、
前記生成部は、前記選択部により選択された前記所定の視点のデプス画像と前記所定の視点のカラー画像とを用いて、前記表示画像を生成する
ように構成された
請求項４に記載の画像処理装置。
【請求項８】
画像処理装置が、
表示画像の視点に基づいて、３Ｄモデルの複数の視点のデプス画像から所定の視点のデプス画像を選択する選択ステップと、
前記選択ステップの処理により選択された前記所定の視点のデプス画像と前記３Ｄモデルのカラー画像とを用いて、前記表示画像を生成する生成ステップと
を含む画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、画像処理装置および画像処理方法に関し、特に、３Ｄモデルの生成に適したデプス画像の視点を選択することができるようにした画像処理装置および画像処理方法に関する。
【背景技術】
【０００２】
複数のカメラにより撮影されたカラー画像とデプス画像から被写体の３Ｄモデルを生成する技術がある(例えば、非特許文献１参照)。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】Saied Moezzi, Li-Cheng Tai, Philippe Gerard, “Virtual View Generation for 3D Digital Video”, University of California, San Diego
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、３Ｄモデルの生成に用いるデプス画像の視点として、３Ｄモデルの生成に適した視点を選択することは考えられていなかった。従って、例えば、冗長な視点のデプス画像や重要度の低い視点のデプス画像を用いて３Ｄモデルを生成することにより、３Ｄモデルの生成速度が低下する場合がある。【０００５】
本開示は、このような状況に鑑みてなされたものであり、３Ｄモデルの生成に適したデプス画像の視点を選択することができるようにするものである。
【課題を解決するための手段】
【０００６】
本開示の第１の側面の画像処理装置は、候補となる視点の画面に投影された３Ｄモデルに基づいて、前記候補となる視点を前記３Ｄモデルのデプス画像の視点に決定する視点決定部を備える画像処理装置である。【０００７】
本開示の第１の側面の画像処理方法は、本開示の第１の側面の画像処理装置に対応する。【０００８】
本開示の第１の側面においては、候補となる視点の画面に投影された３Ｄモデルに基づいて、前記候補となる視点を前記３Ｄモデルのデプス画像の視点が決定される。【０００９】
本開示の第２の側面の画像処理装置は、表示画像の視点に基づいて、３Ｄモデルの複数の視点のデプス画像から所定の視点のデプス画像を選択する選択部と、前記選択部により選択された前記所定の視点のデプス画像と前記３Ｄモデルのカラー画像とを用いて、前記表示画像を生成する生成部とを備える画像処理装置である。【００１０】
本開示の第２の側面の画像処理方法は、本開示の第２の側面の画像処理装置に対応する。【００１１】
本開示の第２の側面においては、表示画像の視点に基づいて、３Ｄモデルの複数の視点のデプス画像から所定の視点のデプス画像が選択され、選択された前記所定の視点のデプス画像と前記３Ｄモデルのカラー画像とを用いて、前記表示画像が生成される。【００１２】
なお、第１の側面および第２の側面の画像処理装置は、コンピュータにプログラムを実行させることにより実現することができる。【００１３】
また、第１の側面および第２の側面の画像処理装置を実現するために、コンピュータに実行させるプログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
【発明の効果】
【００１４】
本開示の第１および第２の側面によれば、３Ｄモデルの生成に適したデプス画像の視点を選択することができる。【００１５】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１６】
【図１】本開示を適用した画像処理システムの第１実施の形態の構成例を示すブロック図である。
【図２】変換部の構成例を示すブロック図である。
【図３】デプス画像の視点の決定方法を説明する図である。
【図４】仮想視点情報のうちの外部パラメータの構成例を示す図である。
【図５】符号化処理を説明するフローチャートである。
【図６】再構成部の構成例を示すブロック図である。
【図７】デプス画像の仮想カメラの優先順位の決定方法を説明する図である。
【図８】復号処理を説明するフローチャートである。
【図９】コンピュータのハードウエアの構成例を示すブロック図である。
【図１０】車両制御システムの概略的な構成の一例を示すブロック図である。
【図１１】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【００１７】
以下、本開示を実施するための形態（以下、実施の形態という）について説明する。なお、説明は以下の順序で行う。
１．第１実施の形態：画像処理システム（図１乃至図８）
２．第２実施の形態：コンピュータ（図９）
３．応用例（図１０および図１１）
【００１８】
＜第１実施の形態＞
（画像処理システムの第１実施の形態の構成例）
図１は、本開示を適用した画像処理システムの第１実施の形態の構成例を示すブロック図である。
【００１９】
図１の画像処理システム１０は、撮像装置１１、符号化装置１２（画像処理装置）、復号装置１３（画像処理装置）、および表示装置１４により構成される。画像処理システム１０は、撮像装置１１により取得されたカラー画像とデプス画像を用いて、表示視点のカラー画像を生成し、表示する。
【００２０】
具体的には、画像処理システム１０の撮像装置１１は、例えば、マルチカメラ、測距測定器、および画像処理部により構成される。撮像装置１１のマルチカメラは、複数のカメラにより構成され、各カメラで少なくとも一部が共通する被写体のカラー画像の動画像を撮像する。測距測定器は、例えば、各カメラに設けられ、そのカメラと同一の視点のデプス画像の動画像を生成する。
【００２１】
撮像装置１１の画像処理部は、フレーム単位で、各カメラのカラー画像およびデプス画像の動画像、並びに、各カメラの外部パラメータおよび内部パラメータを用いて、Visual Hull等を算出することにより、被写体の３Ｄモデルを生成する。画像処理部は、３Ｄモデルを構成する各ポリゴンメッシュの頂点（Vertex）の３次元位置と頂点間のつながりとを示す形状情報（Geometry）と、各ポリゴンメッシュの色情報とを、被写体の３Ｄデータとして生成する。なお、３Ｄデータは、形状情報と各カメラのカラー画像とにより構成されてもよい。
【００２２】
画像処理部における３Ｄデータの生成方法としては、例えば、非特許文献１等に記載されている方法を採用することができる。画像処理部は、３Ｄデータを符号化装置１２に供給する。
【００２３】
符号化装置１２は、変換部２１、符号化部２２、記憶部２３、および送信部２４により構成される。
【００２４】
符号化装置１２の変換部２１は、生成する所定の視点数のカラー画像の視点とデプス画像の視点を決定する。生成するカラー画像の視点数とデプス画像の視点数は、異なっていても、同一であってもよい。生成するカラー画像の視点数とデプス画像の視点数は、ユーザ入力、符号化装置１２と復号装置１３の間の伝送路の状況等に応じて決定され、ここでは、撮像装置１１のマルチカメラの視点数より少ない数であるものとする。
【００２５】
変換部２１は、決定されたカラー画像の視点およびデプス画像の視点の仮想カメラの外部パラメータおよび内部パラメータを生成する。変換部２１は、カラー画像の各仮想カメラの外部パラメータおよび内部パラメータに基づいて、撮像装置１１から供給されるフレーム単位の３Ｄデータから、各仮想カメラにより撮影されるフレーム単位のカラー画像を生成する。また、変換部２１は、デプス画像の各仮想カメラの外部パラメータおよび内部パラメータに基づいて、フレーム単位の３Ｄデータから、各仮想カメラにより撮影されるフレーム単位のカラー画像に対応するデプス画像を生成する。
【００２６】
３Ｄデータからカラー画像やデプス画像を生成する方法としては、例えば、谷本正幸、「究極の映像通信を目指して」電子情報通信学会技術研究報告. CS, 通信方式 110(323), 73-78, 2010-11-25等に記載されている方法を採用することができる。変換部２１は、各仮想カメラのカラー画像とデプス画像を符号化部２２に供給する。また、変換部２１は、カラー画像とデプス画像のそれぞれに対応する各仮想カメラの外部カメラパラメータおよび内部パラメータを仮想視点情報として記憶部２３に供給する。
【００２７】
符号化部２２は、変換部２１から供給される各仮想カメラのカラー画像とデプス画像を符号化する。符号化方式としては、AVC（Advanced Video Coding）方式、HEVC（High Efficiency Video Coding）方式等を採用することができる。符号化部２２は、符号化の結果得られる符号化ストリームを記憶部２３に供給する。
【００２８】
記憶部２３は、変換部２１から供給される仮想視点情報と、符号化部２２から供給される符号化ストリームとを記憶する。
【００２９】
送信部２４は、記憶部２３に記憶されている仮想視点情報と符号化ストリームを読み出し、復号装置１３に送信する。
【００３０】
復号装置１３は、受信部３１、復号部３２、再構成部３３、および描画部３４により構成される。復号装置１３には、表示装置１４を視聴するユーザから表示視点の外部パラメータおよび内部パラメータが入力され、表示視点情報として再構成部３３と描画部３４に供給される。
【００３１】
復号装置１３の受信部３１は、符号化装置１２の送信部２４から伝送されてくる仮想視点情報と符号化ストリームを受信する。受信部３１は、仮想視点情報を再構成部３３に供給し、符号化ストリームを復号部３２に供給する。
【００３２】
復号部３２は、受信部３１から供給される符号化ストリームを、符号化部２２における符号化方式に対応する方式で復号する。復号部３２は、その結果得られる各仮想カメラのカラー画像とデプス画像を再構成部３３に供給する。
【００３３】
再構成部３３は、仮想視点情報と表示視点情報とに基づいて、各仮想カメラの優先順位を決定する。再構成部３３は、復号装置１３のリソース情報に基づいて、３Ｄモデルの生成に用いるカラー画像とデプス画像の視点数を決定する。再構成部３３は、カラー画像の各仮想カメラの優先順位に基づいて、決定されたカラー画像の視点数のカラー画像の仮想カメラを、カラー画像用選択カメラとして選択する。また、再構成部３３は、デプス画像の各仮想カメラの優先順位に基づいて、決定されたデプス画像の視点数のデプス画像の仮想カメラを、デプス画像用選択カメラとして選択する。
【００３４】
再構成部３３は、仮想視点情報のうちのカラー画像用選択カメラとデプス画像用選択カメラの内部パラメータおよび外部パラメータ、並びに、カラー画像用選択カメラのカラー画像およびデプス画像用選択カメラのデプス画像を用いて、撮像装置１１の画像処理部と同様に、３Ｄデータを再構成する。再構成部３３は、３Ｄデータを描画部３４に供給する。
【００３５】
描画部３４（生成部）は、表示視点情報に基づいて、変換部２１と同様に、再構成部３３から供給される３Ｄデータから、表示視点のカラー画像を表示画像として生成し、表示装置１４に供給する。
【００３６】
表示装置１４は、２次元ヘッドマウントディスプレイ（ＨＭＤ）や２次元モニタなどにより構成される。表示装置１４は、再構成部３３から供給される表示画像に基づいて表示画像を２次元表示する。
【００３７】
なお、表示装置１４は、３次元ヘッドマウントディスプレイや３次元モニタなどにより構成されてもよい。この場合、描画部３４は、表示視点情報に基づいて、変換部２１と同様に、３Ｄデータから表示視点のデプス画像を生成し、表示装置１４に供給する。表示装置１４は、描画部３４から供給される表示画像とデプス画像に基づいて表示画像を３次元表示する。
【００３８】
また、図１の例では、３ＤモデルがVisual Hull等を算出することにより生成されたが、ポイントクラウドにより生成されるようにしてもよい。この場合、３Ｄデータは、各ポイントクラウドの３次元位置および色情報、または、各ポイントクラウドの３次元位置および各カメラのカラー画像により構成される。
【００３９】
（変換部の構成例）
図２は、図１の変換部２１の構成例を示すブロック図である。
【００４０】
図２の変換部２１は、視点決定部４１と画像生成部４２により構成される。
【００４１】
変換部２１の視点決定部４１は、候補となる視点の中から、等間隔で、生成する３Ｄモデルのカラー画像の視点数の視点を選択し、カラー画像の視点に決定する。
【００４２】
また、視点決定部４１は、生成する３Ｄモデルのカラー画像の視点数とデプス画像の視点数の大小関係と図１の撮像装置１１から供給される３Ｄデータとに基づいて、生成する３Ｄモデルのデプス画像の視点数のデプス画像の視点を決定する。
【００４３】
具体的には、視点決定部４１は、生成する３Ｄモデルのカラー画像の視点数がデプス画像の視点数より少ない場合、３Ｄデータに基づいて、候補となる視点ごとに、その視点の画面へ３Ｄモデルを投影する。そして、視点決定部４１は、３Ｄモデルを構成する各ポリゴンメッシュが投影された画面上の領域の面積の分布を計算する。視点決定部４１は、分布の一様度が最も高い視点から順にデプス画像の視点数の視点を選択し、デプス画像の視点に決定する。
【００４４】
これにより、決定されたデプス画像の各視点の画面に投影されるポリゴンメッシュの画面上の領域の面積が均等になる。その結果、復号装置１３において、ポイントクラウドにより３Ｄモデルを生成する場合、ポイントクラウドの粗密の発生を抑制し、３Ｄモデルの形状の精度を向上させることができる。従って、視点決定部４１により決定されるデプス画像の視点は、３Ｄモデルの生成に適したデプス画像の視点である。
【００４５】
以上のように、カラー画像の視点数がデプス画像の視点数より少ない場合、カラー画像で表現される３Ｄモデルの領域が、デプス画像で表現される３Ｄモデルの領域に比べて少ないため、デプス画像の精度を向上させるように、デプス画像の視点が決定される。その結果、３Ｄモデルを高精度で再構成することができる。
【００４６】
また、視点決定部４１は、生成する３Ｄモデルのカラー画像の視点数がデプス画像の視点数より多い場合、３Ｄデータに基づいて、候補となる視点ごとに、その視点の画面へ３Ｄモデルを投影する。そして、視点決定部４１は、画面に投影された３Ｄモデルを構成する各ポリゴンメッシュに付与されているＩＤなどに基づいて、画面に投影されたポリゴンメッシュの数を求める。視点決定部４１は、画面に投影されたポリゴンメッシュの数が最も多い視点から順に、デプス画像の視点数の視点を選択し、デプス画像の視点に決定する。
【００４７】
これにより、決定されたデプス画像の各視点のオクルージョン領域が少なくなる。その結果、３Ｄモデルの形状の精度を向上させることができる。従って、視点決定部４１により決定されるデプス画像の視点は、３Ｄモデルの生成に適したデプス画像の視点である。
【００４８】
以上のように、カラー画像の視点数がデプス画像の視点数より多い場合、カラー画像で表現される３Ｄモデルの領域が、デプス画像で表現される３Ｄモデルの領域に比べて多いため、デプス画像で表現される３Ｄモデルの領域が大きくなるように、デプス画像の視点が決定される。その結果、３Ｄモデルを高精度で再構成することができる。
【００４９】
さらに、カラー画像の視点数とデプス画像の視点数が同一である場合、視点決定部４１は、カラー画像の視点を、デプス画像の視点に決定する。これにより、デプス画像の視点は、等間隔の視点になる。従って、デプス画像の視点は、冗長な視点を含まず、３Ｄモデルの生成に適している。
【００５０】
視点決定部４１は、決定されたカラー画像の視点とデプス画像の視点の外部パラメータおよび内部パラメータを仮想視点情報として生成し、画像生成部４２と図１の記憶部２３に供給する。また、視点決定部４１は、３Ｄデータを画像生成部４２に供給する。
【００５１】
画像生成部４２は、視点決定部４１から供給される仮想視点情報のうちのカラー画像の各視点の外部パラメータと内部パラメータに基づいて、３Ｄデータから各視点のカラー画像を生成し、図１の符号化部２２に供給する。また、画像生成部４２は、仮想視点情報のうちのデプス画像の各視点の外部パラメータと内部パラメータに基づいて、３Ｄデータから各視点のデプス画像を生成し、符号化部２２に供給する。
【００５２】
なお、カラー画像の視点の候補とデプス画像の視点の候補は、撮像装置１１のマルチカメラの各視点と同一であってもよいし、異なっていてもよい。カラー画像の視点の候補とデプス画像の視点の候補が、撮像装置１１のマルチカメラの各視点と同一である場合、変換部２１により、撮像装置１１により取得されたカラー画像とデプス画像が間引かれたことになる。従って、この場合、撮像装置１１により取得されたカラー画像とデプス画像の符号化ストリームを全て復号装置１３に送信する場合に比べて、伝送量を削減することができる。その結果、符号化ストリームの送信速度が向上し、復号装置１３において、高フレームレートの表示画像を生成することができる。
【００５３】
（デプス画像の視点の決定方法の説明）
図３は、カラー画像とデプス画像の視点数が同一である場合のデプス画像の視点の決定方法を説明する図である。
【００５４】
図３の例では、図３の左側に示すように、３Ｄモデル６１のデプス画像の候補となる視点の仮想カメラは、等間隔で並ぶＮ＋１個の仮想カメラ７１−０乃至７１−Ｎ（Ｎは３の倍数）である。
【００５５】
カラー画像とデプス画像の視点数が同一である場合、視点決定部４１は、カラー画像の視点と同様に、図３の右上に示すように、各仮想カメラの視点間の間隔が等間隔になるように、仮想カメラ７１−０乃至７１−Ｎの視点からデプス画像の視点を決定する。図３の例では、視点決定部４１は、仮想カメラ７１−０乃至７１−Ｎの視点を２つおきに選択し、選択された仮想カメラ７１−０、仮想カメラ７１−３、仮想カメラ７１−６、...、仮想カメラ７１−Ｎの視点をデプス画像の視点に決定している。この場合、間隔が狭い視点どうしは、デプス画像の視点に決定されないため、デプス画像の視点の冗長性を抑制することができる。
【００５６】
なお、視点決定部４１は、図３の右下に示すように、デプス画像の隣接する視点のどうしの間隔を３Ｄモデル６１に基づいて決定し、決定された間隔に基づいて、仮想カメラ７１−０乃至７１−Ｎの視点からデプス画像の視点を決定するようにしてもよい。
【００５７】
この場合、例えば、視点決定部４１は、画面に投影される３Ｄモデル６１の形状が複雑である視点と、その視点に隣接する視点との間隔が狭くなるように、デプス画像の各視点の間隔を決定する。図３の例では、仮想カメラ７１−６の視点の画面に投影される３Ｄモデル６１の形状が最も複雑になっている。従って、図３の例では、仮想カメラ７１−４乃至７１−６が連続して、デプス画像の視点に決定されている。
【００５８】
なお、デプス画像の隣接する視点どうしの間隔を決定する際に用いられる情報は、視聴者において重要な度合を表す情報であれば、３Ｄモデル６１の形状の複雑度以外であってもよい。例えば、視点決定部４１は、候補となる各視点の画面に投影される３Ｄモデル６１の誘目度などに基づいて、誘目度が高い視点ほど、隣接する視点との間隔が狭くなるように、デプス画像の各視点の間隔を決定してもよい。
【００５９】
また、図３の右下に示すようにデプス画像の視点が決定される場合、カラー画像の視点は、デプス画像の視点と同一であってもよいし、等間隔の視点であってもよい。
【００６０】
（外部パラメータの構成例）
図４は、仮想視点情報のうちの外部パラメータの構成例を示す図である。
【００６１】
図４に示すように、仮想視点情報のうちの外部パラメータは、カラー画像とデプス画像の各仮想カメラに固有のＩＤであるカメラＩＤに、その仮想カメラの外部パラメータである回転行列Ｒと位置ベクトルＴを対応付けることにより構成される。なお、図示は省略するが、仮想視点情報のうちの内部パラメータも、外部パラメータと同様に、カメラＩＤに対応付けることにより構成される。
【００６２】
（符号化装置の処理の説明）
図５は、図１の符号化装置１２の符号化処理を説明するフローチャートである。この符号化処理は、例えば、撮像装置１１からフレーム単位で３Ｄデータが供給されたとき、開始される。
【００６３】
図５のステップＳ１０において、変換部２１の視点決定部４１（図２）は、所定の方法で、候補となる視点の中から、生成するカラー画像の視点数のカラー画像の視点を決定する。
【００６４】
ステップＳ１１において、視点決定部４１は、生成するカラー画像の視点数とデプス画像の視点数の大小関係と撮像装置１１から供給される３Ｄデータとに基づいて、生成するデプス画像の視点数のデプス画像の視点を決定する。
【００６５】
ステップＳ１２において、視点決定部４１は、ステップＳ１０で決定されたカラー画像の視点とステップＳ１１で決定されたデプス画像の視点の外部パラメータおよび内部パラメータを仮想視点情報として生成し、画像生成部４２と記憶部２３に供給する。また、視点決定部４１は、３Ｄデータを画像生成部４２に供給する。
【００６６】
ステップＳ１３において、記憶部２３は、視点決定部４１から供給される仮想視点情報を記憶する。
【００６７】
ステップＳ１４において、画像生成部４２は、視点決定部４１から供給される仮想視点情報に基づいて、３Ｄデータから、ステップＳ１０で決定された各視点のカラー画像と、ステップＳ１１で決定された各視点のデプス画像を生成する。画像生成部４２は、各視点のカラー画像とデプス画像を符号化部２２に供給する。
【００６８】
ステップＳ１５において、符号化部２２は、変換部２１から供給される各視点のカラー画像とデプス画像を符号化する。符号化部２２は、符号化の結果得られる符号化ストリームを記憶部２３に供給する。
【００６９】
ステップＳ１６において、記憶部２３は、符号化部２２から供給される符号化ストリームを記憶する。
【００７０】
ステップＳ１７において、送信部２４は、記憶部２３に記憶されている仮想視点情報と符号化ストリームを読み出し、復号装置１３に送信する。そして、処理は終了する。
【００７１】
なお、図５の例では、フレームごとにカラー画像とデプス画像の視点が変化するようにしたが、カラー画像とデプス画像の視点の更新間隔は、フレームごとに限定されない。
【００７２】
以上のように、符号化装置１２は、候補となる視点の画面に投影された３Ｄモデルに基づいて、候補となる視点を３Ｄモデルのデプス画像の視点に決定する。従って、符号化装置１２は、候補となる視点から、３Ｄモデルの生成に適したデプス画像の視点を選択することができる。その結果、符号化装置１２は、３Ｄモデルの生成に適した視点のデプス画像のみを復号装置１３に送信することができる。従って、復号装置１３は、そのデプス画像を用いて３Ｄモデルを生成することにより、３Ｄモデルの生成に適していないデプス画像も用いて３Ｄモデルを生成する場合に比べて、３Ｄモデルの生成処理の負荷を軽減し、３Ｄモデルの生成速度を向上させることができる。
【００７３】
なお、生成するカラー画像とデプス画像の視点数の大小関係は、常に同一であってもよい。即ち、生成するカラー画像の視点数は、生成するデプス画像の視点数より常に多くてもよいし、生成するカラー画像の視点数は、生成するデプス画像の視点数より常に少なくてもよい。
【００７４】
（再構成部の構成例）
図６は、図１の再構成部３３の構成例を示すブロック図である。
【００７５】
図６の再構成部３３は、リソース情報取得部８１、優先順位決定部８２、選択部８３、および形状復元部８４により構成される。
【００７６】
再構成部３３のリソース情報取得部８１は、復号装置１３の再構成部３３や描画部３４等を実現するCPU（Central Processing Unit）やGPU(Graphics Processing Unit)等のリソースの負荷状況を示すリソース情報を取得し、優先順位決定部８２に供給する。
【００７７】
優先順位決定部８２は、図１の受信部３１から供給される仮想視点情報と、復号装置１３に入力される表示視点情報とに基づいて、各仮想カメラの優先順位を決定する。優先順位決定部８２は、リソース情報取得部８１から供給されるリソース情報に基づいて、３Ｄデータのリアルタイム生成に用いることが可能なカラー画像とデプス画像のデータ量を算出する。優先順位決定部８２は、そのデータ量に対応するカラー画像とデプス画像の視点数を、３Ｄデータの生成に用いるカラー画像とデプス画像の視点数として決定する。
【００７８】
優先順位決定部８２は、カラー画像の各仮想カメラの優先順位に基づいて、優先順位の高い方から順に、決定されたカラー画像の視点数のカラー画像の仮想カメラをカラー画像用選択カメラとして選択する。同様に、優先順位決定部８２は、デプス画像の仮想カメラをデプス画像用選択カメラとして選択する。優先順位決定部８２は、カラー画像用選択カメラとデプス画像用選択カメラのカメラＩＤを選択部８３に供給し、内部パラメータおよび外部パラメータを形状復元部８４に供給する。
【００７９】
なお、カラー画像用選択カメラの数は、カラー画像の仮想カメラの総数以下であり、デプス画像用選択カメラの数は、デプス画像の仮想カメラの総数以下である。カラー画像用選択カメラ（デプス画像用選択カメラ）の数がカラー画像（デプス画像）の仮想カメラの総数より小さい場合、後述する選択部８３は、カラー画像（デプス画像）を間引くことになる。カラー画像用選択カメラとデプス画像用選択カメラの数は、同一であっても、異なっていてもよい。
【００８０】
選択部８３は、優先順位決定部８２から供給されるカラー画像用選択カメラのカメラＩＤに基づいて、図１の復号部３２から供給されるカラー画像から、カラー画像用選択カメラの視点のカラー画像を選択し、形状復元部８４に供給する。選択部８３は、優先順位決定部８２から供給されるデプス画像用選択カメラのカメラＩＤに基づいて、復号部３２から供給されるデプス画像から、デプス画像用選択カメラの視点のデプス画像を選択し、形状復元部８４に供給する。
【００８１】
形状復元部８４は、優先順位決定部８２から供給される内部パラメータおよび外部パラメータ、並びに、選択部８３から供給されるカラー画像およびデプス画像を用いて、撮像装置１１の画像処理部と同様に、３Ｄデータを再構成する。形状復元部８４は、３Ｄデータを図１の描画部３４に供給する。
【００８２】
（優先順位の決定方法）
図７は、図６の優先順位決定部８２によるデプス画像の仮想カメラの優先順位の決定方法を説明する図である。
【００８３】
図７の例では、デプス画像の仮想カメラが、Ｍ個の仮想カメラ９１−０乃至９１−Ｍであり、表示視点情報に対応する仮想カメラが、仮想カメラ１００である。
【００８４】
この場合、優先順位決定部８２は、例えば、図７の左側に示すように、仮想カメラ１００と撮影角度が近い仮想カメラの優先順位が高くなるように、仮想カメラ９１−０乃至９１−Ｍのそれぞれに対して優先順位を決定する。これにより、仮想カメラ９１−０乃至９１−Ｍのうちの、仮想カメラ１００とのなす角が最も小さいθ５である仮想カメラ９１−５の優先順位が１番に決定され、次に小さいθ４である仮想カメラ９１−４の仮想順位が２番に決定される。以降も同様に行われ、仮想カメラ１００とのなす角が最も大きいθＭである仮想カメラ９１−Ｍの優先順位がＭ番に決定される。なお、図７において、三角形は仮想カメラを示し、仮想カメラを示す三角形の中の番号は、その仮想カメラの優先順位である。
【００８５】
ここで、優先順位決定部８２が、リソース情報に基づいて、３Ｄデータの生成に用いるデプス画像の視点数を４に決定すると、図７の右側に示すように、優先順位が１乃至４である仮想カメラ９１−３乃至９１−６をデプス画像用選択カメラとして選択する。その結果、仮想カメラ９１−３乃至９１−６のみを用いて３Ｄモデル１０１の３Ｄデータが再構成される。この場合、３Ｄモデル１０１の側面や裏面は高精度で再構成することができないが、表示画像には投影されないため問題はない。
【００８６】
なお、優先順位の決定に用いられる情報は、仮想カメラ１００との近さを示す情報であれば、撮影角度に限定されない。例えば、優先順位決定部８２は、仮想カメラ１００と位置が近い仮想カメラ、即ち仮想カメラ１００とのユークリッド距離が小さい仮想カメラの優先順位が高くなるように、仮想カメラ９１−０乃至９１−Ｍのそれぞれに対して優先順位を決定するようにしてもよい。また、優先順位決定部８２は、仮想カメラ９１−０乃至９１−Ｍの撮影角度および位置の両方に基づいて、仮想カメラ９１−０乃至９１−Ｍの優先順位を決定するようにしてもよい。
【００８７】
以上のように、優先順位決定部８２は、仮想カメラ１００とのなす角やユークリッド距離が近い仮想カメラの優先順位が高くなるように、仮想カメラ９１−０乃至９１−Ｍの優先順位を決定する。従って、優先順位決定部８２は、表示画像に投影される３Ｄモデル１０１の領域を画面に投影する仮想カメラを優先的に用いて、３Ｄモデル１０１を再構成することができる。その結果、符号化ストリームに対応する全てのデプス画像を用いて３Ｄモデル１０１をリアルタイムで再構成することができない場合であっても、部分的に再構成された３Ｄモデル１０１を用いて、高画質の表示画像をリアルタイムで生成することができる。
【００８８】
カラー画像の仮想カメラの優先順位の決定方法およびカラー画像用選択カメラの選択方法は、デプス画像の仮想カメラの優先順位の決定方法およびデプス画像用選択カメラの選択方法と同一であるので、説明は省略する。
【００８９】
（復号装置の処理の説明）
図８は、図１の復号装置１３の復号処理を説明するフローチャートである。この復号処理は、例えば、符号化装置１２の送信部２４からフレーム単位で符号化ストリームと仮想視点情報が伝送されてきたとき、開始される。
【００９０】
図８のステップＳ３１において、復号装置１３の受信部３１は、送信部２４から伝送されてくる仮想視点情報と符号化ストリームを受信する。受信部３１は、仮想視点情報を再構成部３３に供給し、符号化ストリームを復号部３２に供給する。
【００９１】
ステップＳ３２において、復号部３２は、受信部３１から供給される符号化ストリームを、符号化部２２における符号化方式に対応する方式で復号する。復号部３２は、その結果得られる各仮想カメラのカラー画像とデプス画像を再構成部３３に供給する。
【００９２】
ステップＳ３３において、再構成部３３のリソース情報取得部８１（図６）は、リソース情報を取得し、優先順位決定部８２に供給する。
【００９３】
ステップＳ３４において、優先順位決定部８２は、受信部３１から供給される仮想視点情報と復号装置１３に入力される表示視点情報とに基づいて、各仮想カメラの優先順位を決定する。
【００９４】
ステップＳ３５において、優先順位決定部８２は、リソース情報に基づいて、３Ｄデータのリアルタイム生成に用いることが可能なカラー画像とデプス画像のデータ量に対応する視点数を、３Ｄデータの生成に用いるカラー画像とデプス画像の視点数として決定する。
【００９５】
ステップＳ３６において、優先順位決定部８２は、カラー画像の各仮想カメラの優先順位に基づいて、優先順位の高い方から順に、ステップＳ３５で決定されたカラー画像の視点数のカラー画像の仮想カメラをカラー画像用選択カメラとして選択する。同様に、優先順位決定部８２は、デプス画像の仮想カメラをデプス画像用選択カメラとして選択する。優先順位決定部８２は、カラー画像用選択カメラとデプス画像用選択カメラのカメラＩＤを選択部８３に供給し、内部パラメータおよび外部パラメータを形状復元部８４に供給する。
【００９６】
ステップＳ３７において、選択部８３は、優先順位決定部８２から供給されるカラー画像用選択カメラのカメラＩＤに基づいて、復号部３２から供給されるカラー画像から、カラー画像用選択カメラのカラー画像を選択し、形状復元部８４に供給する。選択部８３は、優先順位決定部８２から供給されるデプス画像用選択カメラのカメラＩＤに基づいて、復号部３２から供給されるデプス画像から、デプス画像用選択カメラのデプス画像を選択し、形状復元部８４に供給する。
【００９７】
ステップＳ３８において、形状復元部８４は、優先順位決定部８２から供給される内部パラメータおよび外部パラメータ、並びに、ステップＳ３７で選択されたカラー画像およびデプス画像を用いて、撮像装置１１の画像処理部と同様に、３Ｄデータを再構成する。形状復元部８４は、３Ｄデータを描画部３４に供給する。
【００９８】
ステップＳ３９において、描画部３４は、表示視点情報に基づいて、変換部２１と同様に、再構成部３３から供給される３Ｄデータから、表示視点のカラー画像を表示画像として生成し、表示装置１４に供給する。そして、処理は終了する。
【００９９】
以上のように、復号装置１３は、表示視点情報に基づいて、符号化装置１２から伝送されてくる符号化ストリームに対応する複数の視点のデプス画像から所定の視点のデプス画像を選択する。従って、復号装置１３は、表示画像の生成に用いられる３Ｄモデルの生成に適した視点のデプス画像を選択することができる。
【０１００】
また、復号装置１３は、選択された所定の視点のデプス画像を用いて３Ｄモデルを再構成するので、例えば、３Ｄモデルの再構成に用いるデプス画像を、符号化ストリームに対応するデプス画像から間引くことができる。これにより、３Ｄモデルの生成処理速度を向上させることができる。その結果、高フレームレートの表示画像を生成することができる。
【０１０１】
さらに、復号装置１３は、選択されたデプス画像を用いて再構成された３Ｄモデルを用いて表示画像を生成するので、高画質の表示画像を生成することができる。
【０１０２】
＜第２実施の形態＞
（本開示を適用したコンピュータの説明）
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【０１０３】
図９は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【０１０４】
コンピュータ２００において、CPU（Central Processing Unit）２０１，ROM（Read Only Memory）２０２，RAM（Random Access Memory）２０３は、バス２０４により相互に接続されている。
【０１０５】
バス２０４には、さらに、入出力インタフェース２０５が接続されている。入出力インタフェース２０５には、入力部２０６、出力部２０７、記憶部２０８、通信部２０９、及びドライブ２１０が接続されている。
【０１０６】
入力部２０６は、キーボード、マウス、マイクロフォンなどよりなる。出力部２０７は、ディスプレイ、スピーカなどよりなる。記憶部２０８は、ハードディスクや不揮発性のメモリなどよりなる。通信部２０９は、ネットワークインタフェースなどよりなる。ドライブ２１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア２１１を駆動する。
【０１０７】
以上のように構成されるコンピュータ２００では、CPU２０１が、例えば、記憶部２０８に記憶されているプログラムを、入出力インタフェース２０５及びバス２０４を介して、RAM２０３にロードして実行することにより、上述した一連の処理が行われる。
【０１０８】
コンピュータ２００（CPU２０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア２１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【０１０９】
コンピュータ２００では、プログラムは、リムーバブルメディア２１１をドライブ２１０に装着することにより、入出力インタフェース２０５を介して、記憶部２０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部２０９で受信し、記憶部２０８にインストールすることができる。その他、プログラムは、ROM２０２や記憶部２０８に、あらかじめインストールしておくことができる。
【０１１０】
なお、コンピュータ２００が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０１１１】
＜応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
【０１１２】
図１０は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図１０に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller  Area  Network）、ＬＩＮ（Local  Interconnect  Network）、ＬＡＮ（Local  Area  Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
【０１１３】
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図１０では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
【０１１４】
駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock  Brake  System）又はＥＳＣ（Electronic  Stability  Control）等の制御装置としての機能を有してもよい。
【０１１５】
駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
【０１１６】
ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【０１１７】
バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
【０１１８】
車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time  Of  Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
【０１１９】
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light  Detection  and  Ranging、Laser  Imaging  Detection  and  Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
【０１２０】
ここで、図１１は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【０１２１】
なお、図１１には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
【０１２２】
車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０〜７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
【０１２３】
図１０に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
【０１２４】
また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
【０１２５】
車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
【０１２６】
統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal  Digital  Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
【０１２７】
記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read  Only  Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random  Access  Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard  Disc  Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
【０１２８】
汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（Global  System  of  Mobile  communications）、ＷｉＭＡＸ、ＬＴＥ（Long  Term  Evolution）若しくはＬＴＥ−Ａ（LTE−Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer  To  Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine  Type  Communication）端末）と接続してもよい。
【０１２９】
専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless  Access  in  Vehicle  Environment）、ＤＳＲＣ（Dedicated  Short  Range  Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle  to  Vehicle）通信、路車間（Vehicle  to  Infrastructure）通信、車両と家との間（Vehicle  to  Home）の通信及び歩車間（Vehicle  to  Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
【０１３０】
測位部７６４０は、例えば、ＧＮＳＳ（Global  Navigation  Satellite  System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global  Positioning  System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
【０１３１】
ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
【０１３２】
車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near  Field  Communication）又はＷＵＳＢ（Wireless  USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal  Serial  Bus）、ＨＤＭＩ（High-Definition  Multimedia  Interface）、又はＭＨＬ（Mobile  High-definition  Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
【０１３３】
車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
【０１３４】
統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced  Driver  Assistance  System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
【０１３５】
マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
【０１３６】
音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図１０の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented  Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
【０１３７】
なお、図１０に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
【０１３８】
なお、図１乃至８を用いて説明した本実施形態に係る画像処理システム１０の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
【０１３９】
以上説明した車両制御システム７０００において、図１乃至８を用いて説明した本実施形態に係る画像処理システム１０は、図１０に示した応用例の車両制御システム７０００に適用することができる。例えば、撮像装置１１は、撮像部７４１０に相当し、符号化装置１２および復号装置１３は、一体化されて統合制御ユニット７６００に相当し、表示装置１４は表示部７７２０に相当する。
【０１４０】
また、図１乃至８を用いて説明した符号化装置１２および復号装置１３の少なくとも一部の構成要素は、図１０に示した統合制御ユニット７６００のためのモジュール（例えば、一つのダイで構成される集積回路モジュール）において実現されてもよい。あるいは、図１乃至８を用いて説明した画像処理システム１０が、図１０に示した車両制御システム７０００の複数の制御ユニットによって実現されてもよい。
【０１４１】
さらに、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０１４２】
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
【０１４３】
また、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【０１４４】
例えば、本開示は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０１４５】
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０１４６】
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０１４７】
なお、本開示は、以下のような構成もとることができる。
【０１４８】
（１）
候補となる視点の画面に投影された３Ｄモデルに基づいて、前記候補となる視点を前記３Ｄモデルのデプス画像の視点に決定する視点決定部
を備える画像処理装置。
（２）
前記視点決定部は、前記３Ｄモデルのカラー画像の視点数が前記デプス画像の視点数より少ない場合、前記３Ｄモデルを構成する各ポリゴンが投影された前記画面上の領域の面積の一様度が高い前記候補となる視点を、前記デプス画像の視点に決定する
ように構成された
前記（１）に記載の画像処理装置。
（３）
前記視点決定部は、前記３Ｄモデルのカラー画像の視点数が前記デプス画像の視点数より多い場合、前記画面に投影された前記３Ｄモデルを構成するポリゴンの数が多い前記候補となる視点を、前記デプス画像の視点に決定する
ように構成された
前記（１）または（２）に記載の画像処理装置。
（４）
表示画像の視点に基づいて、３Ｄモデルの複数の視点のデプス画像から所定の視点のデプス画像を選択する選択部と、
前記選択部により選択された前記所定の視点のデプス画像と前記３Ｄモデルのカラー画像とを用いて、前記表示画像を生成する生成部と
を備える画像処理装置。
（５）
前記表示画像の視点に基づいて、前記複数の視点のそれぞれに対して優先順位を決定する優先順位決定部
をさらに備え、
前記選択部は、前記優先順位決定部により決定された前記優先順位と前記画像処理装置のリソース情報とに基づいて、前記所定の視点のデプス画像を選択する
ように構成された
前記（４）に記載の画像処理装置。
（６）
前記優先順位決定部は、前記表示画像の視点と位置または角度が近い視点の前記優先順位が高くなるように、前記優先順位を決定する
ように構成された
前記（５）に記載の画像処理装置。
（７）
前記選択部は、複数の視点の前記カラー画像から所定の視点のカラー画像を選択し、
前記生成部は、前記選択部により選択された前記所定の視点のデプス画像と前記所定の視点のカラー画像とを用いて、前記表示画像を生成する
ように構成された
前記（４）乃至（６）のいずれかに記載の画像処理装置。
（８）
画像処理装置が、
表示画像の視点に基づいて、３Ｄモデルの複数の視点のデプス画像から所定の視点のデプス画像を選択する選択ステップと、
前記選択ステップの処理により選択された前記所定の視点のデプス画像と前記３Ｄモデルのカラー画像とを用いて、前記表示画像を生成する生成ステップと
を含む画像処理方法。
【符号の説明】
【０１４９】
１２  符号化装置,  １３  復号装置,  ３４  描画部,  ４１  視点決定部,  ８２  優先順位決定部,  ８３  選択部,  ９１−０乃至９１−Ｍ  仮想カメラ,  １００  仮想カメラ,  １０１  ３Ｄモデル
【図１】
2018070266.tif 000003
【図２】
2018070266.tif 000004
【図３】
2018070266.tif 000005
【図４】
2018070266.tif 000006
【図５】
2018070266.tif 000007
【図６】
2018070266.tif 000008
【図７】
2018070266.tif 000009
【図８】
2018070266.tif 000010
【図９】
2018070266.tif 000011
【図１０】
2018070266.tif 000012
【図１１】
2018070266.tif 000013
【国際調査報告】
2018070266.tif 000014
2018070266.tif 000015