(57)【要約】  三次元データ符号化方法は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化し（Ｓ５９０３、Ｓ５９０４）、符号化では、第１情報を、第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する。
2020075861.tif 000002
【特許請求の範囲】
【請求項１】
第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化し、
前記符号化では、前記第１情報を、前記第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する
三次元データ符号化方法。
【請求項２】
前記第１符号化パターンは、前記第１情報の符号化に用いる符号化テーブルを選択するための符号化パターンであり、
前記第２符号化パターンは、前記第２情報の符号化に用いる符号化テーブルを選択するための符号化パターンであり、
前記符号化では、
複数の方向において前記第１対象ノードに空間的に隣接する複数の第１隣接ノードの第１隣接情報から前記第１符号化パターンを生成し、
前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第２隣接ノードの第２隣接情報から前記第２符号化パターンを生成する
請求項１に記載の三次元データ符号化方法。
【請求項３】
前記第１符号化パターンの生成では、複数の方向のうちの所定の方向において前記第１対象ノードに空間的に隣接する１以上の第１隣接ノードを示す１以上のビットであって、それぞれが点群により占有されていないことを示す１以上のビットからなる第１ビットパターンと、前記複数の方向のうちの前記所定の方向以外の方向において前記第１対象ノードに空間的に隣接する複数の第２隣接ノードを示す複数のビットからなる第２ビットパターンとにより構成される６ビットの第３ビットパターンを含む前記第１符号化パターンを生成し、
前記第２符号化パターンの生成では、前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第３隣接ノードを示す複数のビットからなる６ビットの第４ビットパターンを含む前記第２符号化パターンを生成する
請求項１または２に記載の三次元データ符号化方法。
【請求項４】
前記符号化では、
前記第１符号化パターンに基づいて第１符号化テーブルを選択し、選択された第１符号化テーブルを用いて、前記第１情報をエントロピー符号化し、
前記第２符号化パターンに基づいて第２符号化テーブルを選択し、選択された第２符号化テーブルを用いて、前記第２情報をエントロピー符号化する
請求項１から３のいずれか１項に記載の三次元データ符号化方法。
【請求項５】
前記符号化では、前記第１対象ノードをＮ分割して得られたＮ個の第１サブ空間のそれぞれに前記第１三次元点が含まれるか否かを示す前記第１情報を符号化することで、前記第１情報に対応するＮビットからなる第１ビット列と、（８−Ｎ）ビットからなる無効な第２ビット列とにより構成される８ビットからなる第３ビット列を含むビットストリームを生成する
請求項１から４のいずれか１項に記載の三次元データ符号化方法。
【請求項６】
さらに、
前記符号化の対象が前記第１情報であるか、前記第２情報であるかを示す識別情報を含むビットストリームを生成する
請求項１から５のいずれか１項に記載の三次元データ符号化方法。
【請求項７】
前記第１三次元点群は、平面上に配置されている点群であり、
前記第２三次元点群は、前記平面の周囲に配置されている点群である
請求項１から６のいずれか１項に記載の三次元データ符号化方法。
【請求項８】
第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を復号し、
前記復号では、前記第１情報を、前記第２情報の復号で用いる第２復号パターンと共通の第１復号パターンを用いて復号する
三次元データ復号方法。
【請求項９】
前記第１復号パターンは、前記第１情報の復号に用いる復号テーブルを選択するための復号パターンであり、
前記第２復号パターンは、前記第２情報の復号に用いる復号テーブルを選択するための復号パターンであり、
前記復号では、
複数の方向において前記第１対象ノードに空間的に隣接する複数の第１隣接ノードの第１隣接情報から前記第１復号パターンを生成し、
前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第２隣接ノードの第２隣接情報から前記第２復号パターンを生成する
請求項８に記載の三次元データ復号方法。
【請求項１０】
前記第１復号パターンの生成では、複数の方向のうちの所定の方向において前記第１対象ノードに空間的に隣接する１以上の第１隣接ノードを示す１以上のビットであって、それぞれが点群により占有されていないことを示す１以上のビットからなる第１ビットパターンと、前記複数の方向のうちの前記所定の方向以外の方向において前記第１対象ノードに空間的に隣接する複数の第２隣接ノードを示す複数のビットからなる第２ビットパターンとにより構成される６ビットの第３ビットパターンを含む前記第１復号パターンを生成し、
前記第２復号パターンの生成では、前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第３隣接ノードを示す複数のビットからなる６ビットの第４ビットパターンを含む前記第２復号パターンを生成する
請求項８または９に記載の三次元データ復号方法。
【請求項１１】
前記復号では、
前記第１復号パターンに基づいて第１復号テーブルを選択し、選択された第１復号テーブルを用いて、前記第１情報をエントロピー復号し、
前記第２復号パターンに基づいて第２復号テーブルを選択し、選択された第２復号テーブルを用いて、前記第２情報をエントロピー復号する
請求項８から１０のいずれか１項に記載の三次元データ復号方法。
【請求項１２】
前記復号では、Ｎビットからなる第１ビット列と、（８−Ｎ）ビットからなる無効な第２ビット列とにより構成される８ビットからなる第３ビット列を含むビットストリームを取得し、前記ビットストリームの前記第１ビット列から、前記第１対象ノードをＮ分割して得られたＮ個の第１サブ空間のそれぞれに前記第１三次元点が含まれるか否かを示す前記第１情報を復号する
請求項８から１１のいずれか１項に記載の三次元データ復号方法。
【請求項１３】
前記ビットストリームは、符号化の対象が前記第１情報であるか、前記第２情報であるかを示す識別情報を含み、
前記復号では、前記識別情報が前記第１情報であることを示す場合、前記ビットストリームのうちの前記第１ビット列を復号する
請求項１２に記載の三次元データ復号方法。
【請求項１４】
前記第１三次元点群は、平面上に配置されている点群であり、
前記第２三次元点群は、前記平面の周囲に配置されている点群である
請求項８から１３のいずれか１項に記載の三次元データ復号方法。
【請求項１５】
プロセッサと、
メモリとを備え、
前記プロセッサは、前記メモリを用いて、
第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化し、
前記符号化では、前記第１情報を、前記第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する
三次元データ符号化装置。
【請求項１６】
プロセッサと、
メモリとを備え、
前記プロセッサは、前記メモリを用いて、
第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を復号し、
前記復号では、前記第１情報を、前記第２情報の復号で用いる第２復号パターンと共通の第１復号パターンを用いて復号する
三次元データ復号装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置に関する。
【背景技術】
【０００２】
自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。【０００３】
三次元データの表現方法の１つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像（一例として、ＭＰＥＧで規格化されたＭＰＥＧ−４  ＡＶＣ又はＨＥＶＣなどがある）と同様に、符号化によるデータ量の圧縮が必須となる。【０００４】
また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ（Ｐｏｉｎｔ  Ｃｌｏｕｄ  Ｌｉｂｒａｒｙ）などによって一部サポートされている。【０００５】
また、三次元の地図データを用いて、車両周辺に位置する施設を検索し、表示する技術が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】国際公開第２０１４／０２０６６３号
【発明の概要】
【発明が解決しようとする課題】
【０００７】
三次元データの符号化処理では、符号化効率を向上できることが望まれている。【０００８】
本開示は、符号化効率を向上できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、又は三次元データ復号装置を提供することを目的とする。
【課題を解決するための手段】
【０００９】
本開示の一態様に係る三次元データ符号化方法は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化し、前記符号化では、前記第１情報を、前記第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する。【００１０】
本開示の一態様に係る三次元データ復号方法は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を復号し、前記復号では、前記第１情報を、前記第２情報の復号で用いる第２復号パターンと共通の第１復号パターンを用いて復号する。
【発明の効果】
【００１１】
本開示は、符号化効率を向上できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、又は三次元データ復号装置を提供できる。
【図面の簡単な説明】
【００１２】
【図１】図１は、実施の形態１に係る符号化三次元データの構成を示す図である。
【図２】図２は、実施の形態１に係るＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。
【図３】図３は、実施の形態１に係るレイヤ間の予測構造の一例を示す図である。
【図４】図４は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。
【図５】図５は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。
【図６】図６は、実施の形態１に係る三次元データ符号化装置のブロック図である。
【図７】図７は、実施の形態１に係る符号化処理のフローチャートである。
【図８】図８は、実施の形態１に係る三次元データ復号装置のブロック図である。
【図９】図９は、実施の形態１に係る復号処理のフローチャートである。
【図１０】図１０は、実施の形態１に係るメタ情報の一例を示す図である。
【図１１】図１１は、実施の形態２に係るＳＷＬＤの構成例を示す図である。
【図１２】図１２は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１３】図１３は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１４】図１４は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１５】図１５は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１６】図１６は、実施の形態２に係る三次元データ符号化装置のブロック図である。
【図１７】図１７は、実施の形態２に係る符号化処理のフローチャートである。
【図１８】図１８は、実施の形態２に係る三次元データ復号装置のブロック図である。
【図１９】図１９は、実施の形態２に係る復号処理のフローチャートである。
【図２０】図２０は、実施の形態２に係るＷＬＤの構成例を示す図である。
【図２１】図２１は、実施の形態２に係るＷＬＤの８分木構造の例を示す図である。
【図２２】図２２は、実施の形態２に係るＳＷＬＤの構成例を示す図である。
【図２３】図２３は、実施の形態２に係るＳＷＬＤの８分木構造の例を示す図である。
【図２４】図２４は、実施の形態３に係る車両間の三次元データの送受信の様子を示す模式図である。
【図２５】図２５は、実施の形態３に係る車両間で伝送される三次元データの一例を示す図である。
【図２６】図２６は、実施の形態３に係る三次元データ作成装置のブロック図である。
【図２７】図２７は、実施の形態３に係る三次元データ作成処理のフローチャートである。
【図２８】図２８は、実施の形態３に係る三次元データ送信装置のブロック図である。
【図２９】図２９は、実施の形態３に係る三次元データ送信処理のフローチャートである。
【図３０】図３０は、実施の形態３に係る三次元データ作成装置のブロック図である。
【図３１】図３１は、実施の形態３に係る三次元データ作成処理のフローチャートである。
【図３２】図３２は、実施の形態３に係る三次元データ送信装置のブロック図である。
【図３３】図３３は、実施の形態３に係る三次元データ送信処理のフローチャートである。
【図３４】図３４は、実施の形態４に係る三次元情報処理装置のブロック図である。
【図３５】図３５は、実施の形態４に係る三次元情報処理方法のフローチャートである。
【図３６】図３６は、実施の形態４に係る三次元情報処理方法のフローチャートである。
【図３７】図３７は、実施の形態５に係る三次元データの送信処理を説明するための図である。
【図３８】図３８は、実施の形態５に係る三次元データ作成装置のブロック図である。
【図３９】図３９は、実施の形態５に係る三次元データ作成方法のフローチャートである。
【図４０】図４０は、実施の形態５に係る三次元データ作成方法のフローチャートである。
【図４１】図４１は、実施の形態６に係る表示方法のフローチャートである。
【図４２】図４２は、実施の形態６に係るフロントガラス越しに見える周辺環境の例を示す図である。
【図４３】図４３は、実施の形態６に係るヘッドアップディスプレイの表示例を示す図である。
【図４４】図４４は、実施の形態６に係る調整後のヘッドアップディスプレイの表示例を示す図である。
【図４５】図４５は、実施の形態７に係るシステムの構成を示す図である。
【図４６】図４６は、実施の形態７に係るクライアント装置のブロック図である。
【図４７】図４７は、実施の形態７に係るサーバのブロック図である。
【図４８】図４８は、実施の形態７に係るクライアント装置による三次元データ作成処理のフローチャートである。
【図４９】図４９は、実施の形態７に係るクライアント装置によるセンサ情報送信処理のフローチャートである。
【図５０】図５０は、実施の形態７に係るサーバによる三次元データ作成処理のフローチャートである。
【図５１】図５１は、実施の形態７に係るサーバによる三次元マップ送信処理のフローチャートである。
【図５２】図５２は、実施の形態７に係るシステムの変形例の構成を示す図である。
【図５３】図５３は、実施の形態７に係るサーバ及びクライアント装置の構成を示す図である。
【図５４】図５４は、実施の形態８に係る三次元データ符号化装置のブロック図である。
【図５５】図５５は、実施の形態８に係る予測残差の例を示す図である。
【図５６】図５６は、実施の形態８に係るボリュームの例を示す図である。
【図５７】図５７は、実施の形態８に係るボリュームの８分木表現の例を示す図である。
【図５８】図５８は、実施の形態８に係るボリュームのビット列の例を示す図である。
【図５９】図５９は、実施の形態８に係るボリュームの８分木表現の例を示す図である。
【図６０】図６０は、実施の形態８に係るボリュームの例を示す図である。
【図６１】図６１は、実施の形態８に係るイントラ予測処理を説明するための図である。
【図６２】図６２は、実施の形態８に係る回転及び並進処理を説明するための図である。
【図６３】図６３は、実施の形態８に係るＲＴ適用フラグ及びＲＴ情報のシンタックス例を示す図である。
【図６４】図６４は、実施の形態８に係るインター予測処理を説明するための図である。
【図６５】図６５は、実施の形態８に係る三次元データ復号装置のブロック図である。
【図６６】図６６は、実施の形態８に係る三次元データ符号化装置による三次元データ符号化処理のフローチャートである。
【図６７】図６７は、実施の形態８に係る三次元データ復号装置による三次元データ復号処理のフローチャートである。
【図６８】図６８は、実施の形態９に係る木構造の一例を示す図である。
【図６９】図６９は、実施の形態９に係るオキュパンシー符号の一例を示す図である。
【図７０】図７０は、実施の形態９に係る三次元データ符号化装置の動作を模式的に示す図である。
【図７１】図７１は、実施の形態９に係る幾何情報の一例を示す図である。
【図７２】図７２は、実施の形態９に係る幾何情報を用いた符号化テーブルの選択例を示す図である。
【図７３】図７３は、実施の形態９に係る構造情報を用いた符号化テーブルの選択例を示す図である。
【図７４】図７４は、実施の形態９に係る属性情報を用いた符号化テーブルの選択例を示す図である。
【図７５】図７５は、実施の形態９に係る属性情報を用いた符号化テーブルの選択例を示す図である。
【図７６】図７６は、実施の形態９に係るビットストリームの構成例を示す図である。
【図７７】図７７は、実施の形態９に係る符号化テーブルの一例を示す図である。
【図７８】図７８は、実施の形態９に係る符号化テーブルの一例を示す図である。
【図７９】図７９は、実施の形態９に係るビットストリームの構成例を示す図である。
【図８０】図８０は、実施の形態９に係る符号化テーブルの一例を示す図である。
【図８１】図８１は、実施の形態９に係る符号化テーブルの一例を示す図である。
【図８２】図８２は、実施の形態９に係るオキュパンシー符号のビット番号の一例を示す図である。
【図８３】図８３は、実施の形態９に係る幾何情報を用いた符号化処理のフローチャートである。
【図８４】図８４は、実施の形態９に係る幾何情報を用いた復号処理のフローチャートである。
【図８５】図８５は、実施の形態９に係る構造情報を用いた符号化処理のフローチャートである。
【図８６】図８６は、実施の形態９に係る構造情報を用いた復号処理のフローチャートである。
【図８７】図８７は、実施の形態９に係る属性情報を用いた符号化処理のフローチャートである。
【図８８】図８８は、実施の形態９に係る属性情報を用いた復号処理のフローチャートである。
【図８９】図８９は、実施の形態９に係る幾何情報を用いた符号化テーブル選択処理のフローチャートである。
【図９０】図９０は、実施の形態９に係る構造情報を用いた符号化テーブル選択処理のフローチャートである。
【図９１】図９１は、実施の形態９に係る属性情報を用いた符号化テーブル選択処理のフローチャートである。
【図９２】図９２は、実施の形態９に係る三次元データ符号化装置のブロック図である。
【図９３】図９３は、実施の形態９に係る三次元データ復号装置のブロック図である。
【図９４】図９４は、実施の形態１０に係る８分木構造における参照関係を示す図である。
【図９５】図９５は、実施の形態１０に係る空間領域における参照関係を示す図である。
【図９６】図９６は、実施の形態１０に係る隣接参照ノードの例を示す図である。
【図９７】図９７は、実施の形態１０に係る親ノードとノードとの関係を示す図である。
【図９８】図９８は、実施の形態１０に係る親ノードのオキュパンシー符号の例を示す図である。
【図９９】図９９は、実施の形態１０に係る三次元データ符号化装置のブロック図である。
【図１００】図１００は、実施の形態１０に係る三次元データ復号装置のブロック図である。
【図１０１】図１０１は、実施の形態１０に係る三次元データ符号化処理のフローチャートである。
【図１０２】図１０２は、実施の形態１０に係る三次元データ復号処理のフローチャートである。
【図１０３】図１０３は、実施の形態１０に係る符号化テーブルの切替え例を示す図である。
【図１０４】図１０４は、実施の形態１０の変形例１に係る空間領域における参照関係を示す図である。
【図１０５】図１０５は、実施の形態１０の変形例１に係るヘッダ情報のシンタックス例を示す図である。
【図１０６】図１０６は、実施の形態１０の変形例１に係るヘッダ情報のシンタックス例を示す図である。
【図１０７】図１０７は、実施の形態１０の変形例２に係る隣接参照ノードの例を示す図である。
【図１０８】図１０８は、実施の形態１０の変形例２に係る対象ノード及び隣接ノードの例を示す図である。
【図１０９】図１０９は、実施の形態１０の変形例３に係る８分木構造における参照関係を示す図である。
【図１１０】図１１０は、実施の形態１０の変形例３に係る空間領域における参照関係を示す図である。
【図１１１】図１１１は、実施の形態１１に係る三次元データ符号化方法の概略を説明するための図である。
【図１１２】図１１２は、実施の形態１１に係る、傾いて検出された平面をＸ−Ｙ平面に変換する変換方法について説明するための図である。
【図１１３】図１１３は、実施の形態１１に係る、平面と各方法において選択される点群との関係を示す図である。
【図１１４】図１１４は、実施の形態１１に係る、第１の方法における、三次元点群から検出された平面と平面の周囲の点群（平面点群の候補）との間の量子化された距離の度数分布を示す図である。
【図１１５】図１１５は、実施の形態１１に係る、第２の方法における、三次元点群から検出された平面と平面の周囲の点群との間の量子化された距離の度数分布を示す図である。
【図１１６】図１１６は、実施の形態１１に係る、二次元空間を４つのサブ空間に分割する例を示す図である。
【図１１７】図１１７は、実施の形態１１に係る、二次元空間での４つのサブ空間を、三次元空間での８つのサブ空間に適用する例を示す図である。
【図１１８】図１１８は、実施の形態１１に係る、平面上に配置された第１三次元点群の三次元点の隣接関係を示す図である。
【図１１９】図１１９は、実施の形態１１に係る、三次元空間上に配置された三次元点群の三次元点の隣接関係を示す図である。
【図１２０】図１２０は、実施の形態１１に係る三次元データ符号化装置の構成を示すブロック図である。
【図１２１】図１２１は、実施の形態１１に係る、第１の方法を用いる４分木符号化部の詳細な構成を示すブロック図である。
【図１２２】図１２２は、実施の形態１１に係る、第２の方法を用いる４分木符号化部の詳細な構成を示すブロック図である。
【図１２３】図１２３は、実施の形態１１に係る三次元データ復号装置の構成を示すブロック図である。
【図１２４】図１２４は、実施の形態１１に係る、第１の方法を用いる４分木復号部の詳細な構成を示すブロック図である。
【図１２５】図１２５は、実施の形態１１に係る、第２の方法を用いる４分木復号部の詳細な構成を示すブロック図である。
【図１２６】図１２６は、実施の形態１１に係る三次元データ符号化方法のフローチャートである。
【図１２７】図１２７は、実施の形態１１に係る三次元データ復号方法のフローチャートである。
【図１２８】図１２８は、実施の形態１１に係る４分木符号化処理のフローチャートである。
【図１２９】図１２９は、実施の形態１１に係る８分木符号化処理のフローチャートである。
【図１３０】図１３０は、実施の形態１１に係る４分木復号処理のフローチャートである。
【図１３１】図１３１は、実施の形態１１に係る８分木復号処理のフローチャートである。
【発明を実施するための形態】
【００１３】
本開示の一態様に係る三次元データ符号化方法は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化し、前記符号化では、前記第１情報を、前記第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する。
【００１４】
これによれば、当該三次元データ符号化方法は、８分木構造の情報の符号化と共通する符号化パターンを用いてＮ分木構造の情報を符号化することにより、処理負荷を低減することができる。
【００１５】
例えば、前記第１符号化パターンは、前記第１情報の符号化に用いる符号化テーブルを選択するための符号化パターンであり、前記第２符号化パターンは、前記第２情報の符号化に用いる符号化テーブルを選択するための符号化パターンであり、前記符号化では、複数の方向において前記第１対象ノードに空間的に隣接する複数の第１隣接ノードの第１隣接情報から前記第１符号化パターンを生成し、前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第２隣接ノードの第２隣接情報から前記第２符号化パターンを生成してもよい。
【００１６】
例えば、前記第１符号化パターンの生成では、複数の方向のうちの所定の方向において前記第１対象ノードに空間的に隣接する１以上の第１隣接ノードを示す１以上のビットであって、それぞれが点群により占有されていないことを示す１以上のビットからなる第１ビットパターンと、前記複数の方向のうちの前記所定の方向以外の方向において前記第１対象ノードに空間的に隣接する複数の第２隣接ノードを示す複数のビットからなる第２ビットパターンとにより構成される６ビットの第３ビットパターンを含む前記第１符号化パターンを生成し、前記第２符号化パターンの生成では、前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第３隣接ノードを示す複数のビットからなる６ビットの第４ビットパターンを含む前記第２符号化パターンを生成してもよい。
【００１７】
例えば、前記符号化では、前記第１符号化パターンに基づいて第１符号化テーブルを選択し、選択された第１符号化テーブルを用いて、前記第１情報をエントロピー符号化し、前記第２符号化パターンに基づいて第２符号化テーブルを選択し、選択された第２符号化テーブルを用いて、前記第２情報をエントロピー符号化してもよい。
【００１８】
例えば、前記符号化では、前記第１対象ノードをＮ分割して得られたＮ個の第１サブ空間のそれぞれに前記第１三次元点が含まれるか否かを示す前記第１情報を符号化することで、前記第１情報に対応するＮビットからなる第１ビット列と、（８−Ｎ）ビットからなる無効な第２ビット列とにより構成される８ビットからなる第３ビット列を含むビットストリームを生成してもよい。
【００１９】
例えば、さらに、前記符号化の対象が前記第１情報であるか、前記第２情報であるかを示す識別情報を含むビットストリームを生成してもよい。
【００２０】
例えば、前記第１三次元点群は、平面上に配置されている点群であり、前記第２三次元点群は、前記平面の周囲に配置されている点群であってもよい。
【００２１】
本開示の一態様に係る三次元データ復号方法は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を復号し、前記復号では、前記第１情報を、前記第２情報の復号で用いる第２復号パターンと共通の第１復号パターンを用いて復号する。
【００２２】
これによれば、当該三次元データ復号方法は、８分木構造の情報の復号と共通する復号パターンを用いてＮ分木構造の情報を復号することにより、処理負荷を低減することができる。
【００２３】
例えば、前記第１復号パターンは、前記第１情報の復号に用いる復号テーブルを選択するための復号パターンであり、前記第２復号パターンは、前記第２情報の復号に用いる復号テーブルを選択するための復号パターンであり、前記復号では、複数の方向において前記第１対象ノードに空間的に隣接する複数の第１隣接ノードの第１隣接情報から前記第１復号パターンを生成し、前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第２隣接ノードの第２隣接情報から前記第２復号パターンを生成してもよい。
【００２４】
例えば、前記第１復号パターンの生成では、複数の方向のうちの所定の方向において前記第１対象ノードに空間的に隣接する１以上の第１隣接ノードを示す１以上のビットであって、それぞれが点群により占有されていないことを示す１以上のビットからなる第１ビットパターンと、前記複数の方向のうちの前記所定の方向以外の方向において前記第１対象ノードに空間的に隣接する複数の第２隣接ノードを示す複数のビットからなる第２ビットパターンとにより構成される６ビットの第３ビットパターンを含む前記第１復号パターンを生成し、前記第２復号パターンの生成では、前記複数の方向において前記第２対象ノードに空間的に隣接する複数の第３隣接ノードを示す複数のビットからなる６ビットの第４ビットパターンを含む前記第２復号パターンを生成してもよい。
【００２５】
例えば、前記復号では、前記第１復号パターンに基づいて第１復号テーブルを選択し、選択された第１復号テーブルを用いて、前記第１情報をエントロピー復号し、前記第２復号パターンに基づいて第２復号テーブルを選択し、選択された第２復号テーブルを用いて、前記第２情報をエントロピー復号してもよい。
【００２６】
例えば、前記復号では、Ｎビットからなる第１ビット列と、（８−Ｎ）ビットからなる無効な第２ビット列とにより構成される８ビットからなる第３ビット列を含むビットストリームを取得し、前記ビットストリームの前記第１ビット列から、前記第１対象ノードをＮ分割して得られたＮ個の第１サブ空間のそれぞれに前記第１三次元点が含まれるか否かを示す前記第１情報を復号してもよい。
【００２７】
例えば、前記ビットストリームは、符号化の対象が前記第１情報であるか、前記第２情報であるかを示す識別情報を含み、前記復号では、前記識別情報が前記第１情報であることを示す場合、前記ビットストリームのうちの前記第１ビット列を復号してもよい。
【００２８】
例えば、前記第１三次元点群は、平面上に配置されている点群であり、前記第２三次元点群は、前記平面の周囲に配置されている点群であってもよい。
【００２９】
また、本開示の一態様に係る三次元データ符号化装置は、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化し、前記符号化では、前記第１情報を、前記第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する。
【００３０】
これによれば、当該三次元データ符号化方法は、８分木構造の情報の符号化と共通する符号化パターンを用いてＮ分木構造の情報を符号化することにより、処理負荷を低減することができる。
【００３１】
本開示の一態様に係る三次元データ復号装置は、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を復号し、前記復号では、前記第１情報を、前記第２情報の復号で用いる第２復号パターンと共通の第１復号パターンを用いて復号する。
【００３２】
これによれば、当該三次元データ復号方法は、８分木構造の情報の復号と共通する復号パターンを用いてＮ分木構造の情報を復号することにより、処理負荷を低減することができる。
【００３３】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【００３４】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００３５】
（実施の形態１）
まず、本実施の形態に係る符号化三次元データ（以下、符号化データとも記す）のデータ構造について説明する。図１は、本実施の形態に係る符号化三次元データの構成を示す図である。
【００３６】
本実施の形態では、三次元空間は、動画像の符号化におけるピクチャに相当するスペース（ＳＰＣ）に分割され、スペースを単位として三次元データが符号化される。スペースは、さらに、動画像符号化におけるマクロブロックなどに相当するボリューム（ＶＬＭ）に分割され、ＶＬＭを単位として予測及び変換が行われる。ボリュームは、位置座標が対応付けられる最小単位である複数のボクセル（ＶＸＬ）を含む。なお、予測とは、二次元画像で行われる予測と同様に、他の処理単位を参照し、処理対象の処理単位と類似する予測三次元データを生成し、当該予測三次元データと処理対象の処理単位との差分を符号化することである。また、この予測は、同一時刻の他の予測単位を参照する空間予測のみならず、異なる時刻の予測単位を参照する時間予測を含む。
【００３７】
例えば、三次元データ符号化装置（以下、符号化装置とも記す）は、ポイントクラウドなどの点群データにより表現される三次元空間を符号化する際には、ボクセルのサイズに応じて、点群の各点、又は、ボクセル内に含まれる複数点をまとめて符号化する。ボクセルを細分化すれば点群の三次元形状を高精度に表現でき、ボクセルのサイズを大きくすれば点群の三次元形状をおおまかに表現できる。
【００３８】
なお、以下では、三次元データがポイントクラウドである場合を例に説明を行うが、三次元データはポイントクラウドに限定されず、任意の形式の三次元データでよい。
【００３９】
また、階層構造のボクセルを用いてもよい。この場合、ｎ次の階層では、ｎ−１次以下の階層（ｎ次の階層の下層）にサンプル点が存在するかどうかを順に示してもよい。例えば、ｎ次の階層のみを復号する際において、ｎ−１次以下の階層にサンプル点が存在する場合は、ｎ次階層のボクセルの中心にサンプル点が存在するとみなして復号できる。
【００４０】
また、符号化装置は、点群データを、距離センサ、ステレオカメラ、単眼カメラ、ジャイロ、又は慣性センサなどを用いて取得する。
【００４１】
スペースは、動画像の符号化と同様に、単独で復号可能なイントラ・スペース（Ｉ−ＳＰＣ）、単方向の参照のみ可能なプレディクティブ・スペース（Ｐ−ＳＰＣ）、及び、双方向の参照が可能なバイディレクショナル・スペース（Ｂ−ＳＰＣ）を含む少なくとも３つの予測構造のいずれかに分類される。また、スペースは復号時刻と表示時刻との２種類の時刻情報を有する。
【００４２】
また、図１に示すように、複数のスペースを含む処理単位として、ランダムアクセス単位であるＧＯＳ（Ｇｒｏｕｐ  Ｏｆ  Ｓｐａｃｅ）が存在する。さらに、複数のＧＯＳを含む処理単位としてワールド（ＷＬＤ）が存在する。
【００４３】
ワールドが占める空間領域は、ＧＰＳ又は緯度及び経度情報などにより、地球上の絶対位置と対応付けられる。この位置情報はメタ情報として格納される。なお、メタ情報は、符号化データに含まれてもよいし、符号化データとは別に伝送されてもよい。
【００４４】
また、ＧＯＳ内では、全てのＳＰＣが三次元的に隣接してもよいし、他のＳＰＣと三次元的に隣接しないＳＰＣが存在してもよい。
【００４５】
なお、以下では、ＧＯＳ、ＳＰＣ又はＶＬＭ等の処理単位に含まれる三次元データに対する、符号化、復号又は参照等の処理を、単に、処理単位を符号化、復号又は参照する等とも記す。また、処理単位に含まれる三次元データは、例えば、三次元座標等の空間位置と、色情報等の特性値との少なくとも一つの組を含む。
【００４６】
次に、ＧＯＳにおけるＳＰＣの予測構造について説明する。同一ＧＯＳ内の複数のＳＰＣ、又は、同一ＳＰＣ内の複数のＶＬＭは、互いに異なる空間を占めるが、同じ時刻情報（復号時刻及び表示時刻）を持つ。
【００４７】
また、ＧＯＳ内で復号順で先頭となるＳＰＣはＩ−ＳＰＣである。また、ＧＯＳにはクローズドＧＯＳとオープンＧＯＳとの２種類が存在する。クローズドＧＯＳは、先頭Ｉ−ＳＰＣから復号開始する際に、ＧＯＳ内の全てのＳＰＣを復号できるＧＯＳである。オープンＧＯＳでは、ＧＯＳ内で先頭Ｉ−ＳＰＣよりも表示時刻が前となる一部のＳＰＣは異なるＧＯＳを参照しており、当該ＧＯＳのみで復号を行うことができない。
【００４８】
なお、地図情報などの符号化データでは、ＷＬＤを符号化順とは逆方向から復号することがあり、ＧＯＳ間に依存性があると逆方向再生が困難である。よって、このような場合には、基本的にはクローズドＧＯＳが用いられる。
【００４９】
また、ＧＯＳは、高さ方向にレイヤ構造を有し、下のレイヤのＳＰＣから順に符号化又は復号が行われる。
【００５０】
図２はＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。図３はレイヤ間の予測構造の一例を示す図である。
【００５１】
ＧＯＳ内には１つ以上のＩ−ＳＰＣが存在する。三次元空間内には、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などのオブジェクトが存在するが、特にサイズが小さいオブジェクトはＩ−ＳＰＣとして符号化すると有効である。例えば、三次元データ復号装置（以下、復号装置とも記す）は、ＧＯＳを低処理量又は高速に復号する際には、ＧＯＳ内のＩ−ＳＰＣのみを復号する。
【００５２】
また、符号化装置は、ＷＬＤ内のオブジェクトの粗密さに応じてＩ−ＳＰＣの符号化間隔又は出現頻度を切替えてもよい。
【００５３】
また、図３に示す構成において、符号化装置又は復号装置は、複数のレイヤを下層（レイヤ１）から順に符号化又は復号する。これにより、例えば自動走行車などにとってより情報量の多い地面付近のデータの優先度を上げることができる。
【００５４】
なお、ドローンなどで用いられる符号化データでは、ＧＯＳ内において高さ方向で上のレイヤのＳＰＣから順に符号化又は復号してもよい。
【００５５】
また、符号化装置又は復号装置は、復号装置が荒くＧＯＳを把握でき、徐々に解像度を上げるようにできるように、複数のレイヤを符号化又は復号してもよい。例えば、符号化装置又は復号装置は、レイヤ３、８、１、９…の順に符号化又は復号してもよい。
【００５６】
次に、静的オブジェクト及び動的オブジェクトの扱い方について説明する。
【００５７】
三次元空間には、建物又は道路など静的なオブジェクト又はシーン（以降、まとめて静的オブジェクトと呼ぶ）と、車又はヒトなどの動的なオブジェクト（以降、動的オブジェクトと呼ぶ）とが存在する。オブジェクトの検出は、ポイントクラウドのデータ、又は、ステレオカメラなどのカメラ映像などから特徴点を抽出するなどして、別途行われる。ここでは、動的オブジェクトの符号化方法の例について説明する。
【００５８】
第１方法は、静的オブジェクトと動的オブジェクトとを区別せずに符号化する方法である。第２方法は、静的オブジェクトと動的オブジェクトとを識別情報により区別する方法である。
【００５９】
例えば、ＧＯＳが識別単位として用いられる。この場合、静的オブジェクトを構成するＳＰＣを含むＧＯＳと、動的オブジェクトを構成するＳＰＣを含むＧＯＳとが、符号化データ内、又は符号化データとは別途格納される識別情報により区別される。
【００６０】
または、ＳＰＣが識別単位として用いられてもよい。この場合、静的オブジェクトを構成するＶＬＭを含むＳＰＣと、動的オブジェクトを構成するＶＬＭを含むＳＰＣとが、上記識別情報により区別される。
【００６１】
または、ＶＬＭ或いはＶＸＬが識別単位として用いられてもよい。この場合、静的オブジェクトを含むＶＬＭ又はＶＸＬと、動的オブジェクトを含むＶＬＭ又はＶＸＬとが上記識別情報により区別される。
【００６２】
また、符号化装置は、動的オブジェクトを１以上のＶＬＭ又はＳＰＣとして符号化し、静的オブジェクトを含むＶＬＭ又はＳＰＣと、動的オブジェクトを含むＳＰＣとを、互いに異なるＧＯＳとして符号化してもよい。また、符号化装置は、動的オブジェクトのサイズに応じてＧＯＳのサイズが可変となる場合には、ＧＯＳのサイズをメタ情報として別途格納する。
【００６３】
また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに独立に符号化し、静的オブジェクトから構成されるワールドに対して、動的オブジェクトを重畳してもよい。このとき、動的オブジェクトは１以上のＳＰＣから構成され、各ＳＰＣは、当該ＳＰＣが重畳される静的オブジェクトを構成する１以上のＳＰＣに対応付けられる。なお、動的オブジェクトをＳＰＣではなく、１以上のＶＬＭ又はＶＸＬにより表現してもよい。
【００６４】
また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに異なるストリームとして符号化してもよい。
【００６５】
また、符号化装置は、動的オブジェクトを構成する１以上のＳＰＣを含むＧＯＳを生成してもよい。さらに、符号化装置は、動的オブジェクトを含むＧＯＳ（ＧＯＳ＿Ｍ）と、ＧＯＳ＿Ｍの空間領域に対応する静的オブジェクトのＧＯＳとを同一サイズ（同一の空間領域を占める）に設定してもよい。これにより、ＧＯＳ単位で重畳処理を行うことができる。
【００６６】
動的オブジェクトを構成するＰ−ＳＰＣ又はＢ−ＳＰＣは、符号化済みの異なるＧＯＳに含まれるＳＰＣを参照してもよい。動的オブジェクトの位置が時間的に変化し、同一の動的オブジェクトが異なる時刻のＧＯＳとして符号化されるケースでは、ＧＯＳを跨いだ参照が圧縮率の観点から有効となる。
【００６７】
また、符号化データの用途に応じて、上記の第１方法と第２方法とを切替えてもよい。例えば、符号化三次元データを地図として用いる場合は、動的オブジェクトを分離できることが望ましいため、符号化装置は、第２方法を用いる。一方、符号化装置は、コンサート又はスポーツなどのイベントの三次元データを符号化する場合に、動的オブジェクトを分離する必要がなければ、第１方法を用いる。
【００６８】
また、ＧＯＳ又はＳＰＣの復号時刻と表示時刻とは符号化データ内、又はメタ情報として格納できる。また、静的オブジェクトの時刻情報は全て同一としてもよい。このとき、実際の復号時刻と表示時刻は、復号装置が決定するものとしてもよい。あるいは、復号時刻として、ＧＯＳ、あるいは、ＳＰＣ毎に異なる値が付与され、表示時刻として全て同一の値が付与されてもよい。さらに、ＨＥＶＣのＨＲＤ（Ｈｙｐｏｔｈｅｔｉｃａｌ  Ｒｅｆｅｒｅｎｃｅ  Ｄｅｃｏｄｅｒ）など動画像符号化におけるデコーダモデルのように、デコーダが所定のサイズのバッファを有し、復号時刻に従って所定のビットレートでビットストリームを読み込めば破綻なく復号できることを保証するモデルを導入してもよい。
【００６９】
次に、ワールド内におけるＧＯＳの配置について説明する。ワールドにおける三次元空間の座標は、互いに直交する３本の座標軸（ｘ軸、ｙ軸、ｚ軸）により表現される。ＧＯＳの符号化順に所定のルールを設けることで、空間的に隣接するＧＯＳが符号化データ内で連続するように符号化を行える。例えば、図４に示す例では、ｘｚ平面内のＧＯＳを連続的に符号化する。あるｘｚ平面内の全てのＧＯＳの符号化終了後にｙ軸の値を更新する。すなわち、符号化が進むにつれて、ワールドはｙ軸方向に伸びていく。また、ＧＯＳのインデックス番号は符号化順に設定される。
【００７０】
ここで、ワールドの三次元空間は、ＧＰＳ、或いは緯度及び経度などの地理的な絶対座標と１対１に対応付けておく。或いは、予め設定した基準位置からの相対位置により三次元空間が表現されてもよい。三次元空間のｘ軸、ｙ軸、ｚ軸の方向は、緯度及び経度などに基づいて決定される方向ベクトルとして表現され、当該方向ベクトルはメタ情報として符号化データと共に格納される。
【００７１】
また、ＧＯＳのサイズは固定とし、符号化装置は、当該サイズをメタ情報として格納する。また、ＧＯＳのサイズは、例えば、都市部か否か、又は、室内か外かなどに応じて切替えられてもよい。つまり、ＧＯＳのサイズは、情報としての価値があるオブジェクトの量又は性質に応じて切替えられてもよい。あるいは、符号化装置は、同一ワールド内において、オブジェクトの密度などに応じて、ＧＯＳのサイズ、又は、ＧＯＳ内のＩ−ＳＰＣの間隔を適応的に切替えてもよい。例えば、符号化装置は、オブジェクトの密度が高いほど、ＧＯＳのサイズを小さくし、ＧＯＳ内のＩ−ＳＰＣの間隔を短くする。
【００７２】
図５の例では、３番目から１０番目のＧＯＳの領域では、オブジェクトの密度が高いため、細かい粒度でのランダムアクセスを実現するために、ＧＯＳが細分化されている。なお、７番目から１０番目のＧＯＳは、それぞれ、３番目から６番目のＧＯＳの裏側に存在する。
【００７３】
次に、本実施の形態に係る三次元データ符号化装置の構成及び動作の流れを説明する。図６は、本実施の形態に係る三次元データ符号化装置１００のブロック図である。図７は、三次元データ符号化装置１００の動作例を示すフローチャートである。
【００７４】
図６に示す三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。この三次元データ符号化装置１００は、取得部１０１と、符号化領域決定部１０２と、分割部１０３と、符号化部１０４とを備える。
【００７５】
図７に示すように、まず、取得部１０１は、点群データである三次元データ１１１を取得する（Ｓ１０１）。
【００７６】
次に、符号化領域決定部１０２は、取得した点群データに対応する空間領域のうち、符号化対象の領域を決定する（Ｓ１０２）。例えば、符号化領域決定部１０２は、ユーザ又は車両の位置に応じて、当該位置の周辺の空間領域を符号化対象の領域に決定する。
【００７７】
次に、分割部１０３は、符号化対象の領域に含まれる点群データを、各処理単位に分割する。ここで処理単位とは、上述したＧＯＳ及びＳＰＣ等である。また、この符号化対象の領域は、例えば、上述したワールドに対応する。具体的には、分割部１０３は、予め設定したＧＯＳのサイズ、又は、動的オブジェクトの有無或いはサイズに基づいて、点群データを処理単位に分割する（Ｓ１０３）。また、分割部１０３は、各ＧＯＳにおいて符号化順で先頭となるＳＰＣの開始位置を決定する。
【００７８】
次に、符号化部１０４は、各ＧＯＳ内の複数のＳＰＣを順次符号化することで符号化三次元データ１１２を生成する（Ｓ１０４）。
【００７９】
なお、ここでは、符号化対象の領域をＧＯＳ及びＳＰＣに分割した後に、各ＧＯＳを符号化する例を示したが、処理の手順は上記に限らない。例えば、一つのＧＯＳの構成を決定した後にそのＧＯＳを符号化し、その後、次のＧＯＳの構成を決定する等の手順を用いてもよい。
【００８０】
このように、三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）に分割し、第１処理単位（ＧＯＳ）を複数の第２処理単位（ＳＰＣ）に分割し、第２処理単位（ＳＰＣ）を複数の第３処理単位（ＶＬＭ）に分割する。また、第３処理単位（ＶＬＭ）は、位置情報が対応付けられる最小単位である１以上のボクセル（ＶＸＬ）を含む。
【００８１】
次に、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）の各々を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を符号化する。また、三次元データ符号化装置１００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を符号化する。
【００８２】
例えば、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）がクローズドＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）を参照して符号化する。つまり、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照しない。
【００８３】
一方、処理対象の第１処理単位（ＧＯＳ）がオープンＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）、又は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照して符号化する。
【００８４】
また、三次元データ符号化装置１００は、処理対象の第２処理単位（ＳＰＣ）のタイプとして、他の第２処理単位（ＳＰＣ）を参照しない第１タイプ（Ｉ−ＳＰＣ）、他の一つの第２処理単位（ＳＰＣ）を参照する第２タイプ（Ｐ−ＳＰＣ）、及び他の二つの第２処理単位（ＳＰＣ）を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い処理対象の第２処理単位（ＳＰＣ）を符号化する。
【００８５】
次に、本実施の形態に係る三次元データ復号装置の構成及び動作の流れを説明する。図８は、本実施の形態に係る三次元データ復号装置２００のブロックのブロック図である。図９は、三次元データ復号装置２００の動作例を示すフローチャートである。
【００８６】
図８に示す三次元データ復号装置２００は、符号化三次元データ２１１を復号することで復号三次元データ２１２を生成する。ここで、符号化三次元データ２１１は、例えば、三次元データ符号化装置１００で生成された符号化三次元データ１１２である。この三次元データ復号装置２００は、取得部２０１と、復号開始ＧＯＳ決定部２０２と、復号ＳＰＣ決定部２０３と、復号部２０４とを備える。
【００８７】
まず、取得部２０１は、符号化三次元データ２１１を取得する（Ｓ２０１）。次に、復号開始ＧＯＳ決定部２０２は、復号対象のＧＯＳに決定する（Ｓ２０２）。具体的には、復号開始ＧＯＳ決定部２０２は、符号化三次元データ２１１内、又は符号化三次元データとは別に格納されたメタ情報を参照して、復号を開始する空間位置、オブジェクト、又は、時刻に対応するＳＰＣを含むＧＯＳを復号対象のＧＯＳに決定する。
【００８８】
次に、復号ＳＰＣ決定部２０３は、ＧＯＳ内で復号するＳＰＣのタイプ（Ｉ、Ｐ、Ｂ）を決定する（Ｓ２０３）。例えば、復号ＳＰＣ決定部２０３は、（１）Ｉ−ＳＰＣのみを復号するか、（２）Ｉ−ＳＰＣ及びＰ−ＳＰＣを復号するか、（３）全てのタイプを復号するかを決定する。なお、全てのＳＰＣを復号するなど、予め復号するＳＰＣのタイプが決定している場合は、本ステップは行われなくてもよい。
【００８９】
次に、復号部２０４は、ＧＯＳ内で復号順（符号化順と同一）で先頭となるＳＰＣが符号化三次元データ２１１内で開始するアドレス位置を取得し、当該アドレス位置から先頭ＳＰＣの符号化データを取得し、当該先頭ＳＰＣから順に各ＳＰＣを順次復号する（Ｓ２０４）。なお、上記アドレス位置は、メタ情報等に格納されている。
【００９０】
このように、三次元データ復号装置２００は、復号三次元データ２１２を復号する。具体的には、三次元データ復号装置２００は、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）の符号化三次元データ２１１の各々を復号することで第１処理単位（ＧＯＳ）の復号三次元データ２１２を生成する。より具体的には、三次元データ復号装置２００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を復号する。また、三次元データ復号装置２００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を復号する。
【００９１】
以下、ランダムアクセス用のメタ情報について説明する。このメタ情報は、三次元データ符号化装置１００で生成され、符号化三次元データ１１２（２１１）に含まれる。
【００９２】
従来の二次元の動画像におけるランダムアクセスでは、指定した時刻の近傍となるランダムアクセス単位の先頭フレームから復号を開始していた。一方、ワールドにおいては、時刻に加えて、空間（座標又はオブジェクトなど）に対するランダムアクセスが想定される。
【００９３】
そこで、少なくとも座標、オブジェクト、及び時刻の３つの要素へのランダムアクセスを実現するために、各要素とＧＯＳのインデックス番号とを対応付けるテーブルを用意する。さらに、ＧＯＳのインデックス番号とＧＯＳの先頭となるＩ−ＳＰＣのアドレスを対応付ける。図１０は、メタ情報に含まれるテーブルの一例を示す図である。なお、図１０に示す全てのテーブルが用いられる必要はなく、少なくとも一つのテーブルが用いられればよい。
【００９４】
以下、一例として、座標を起点とするランダムアクセスについて説明する。座標（ｘ２、ｙ２、ｚ２）にアクセスする際には、まず、座標−ＧＯＳテーブルを参照して、座標が（ｘ２、ｙ２、ｚ２）である地点は２番目のＧＯＳに含まれることが分かる。次に、ＧＯＳアドレステーブルを参照し、２番目のＧＯＳにおける先頭のＩ−ＳＰＣのアドレスがａｄｄｒ（２）であることが分かるため、復号部２０４は、このアドレスからデータを取得して復号を開始する。
【００９５】
なお、アドレスは、論理フォーマットにおけるアドレスであっても、ＨＤＤ又はメモリの物理アドレスであってもよい。また、アドレスの代わりにファイルセグメントを特定する情報が用いられてもよい。例えば、ファイルセグメントは、１つ以上のＧＯＳなどをセグメント化した単位である。
【００９６】
また、オブジェクトが複数のＧＯＳに跨る場合には、オブジェクト−ＧＯＳテーブルにおいて、オブジェクトが属するＧＯＳを複数示してもよい。当該複数のＧＯＳがクローズドＧＯＳであれば、符号化装置及び復号装置は、並列に符号化又は復号を行うことができる。一方、当該複数のＧＯＳがオープンＧＯＳであれば、複数のＧＯＳが互いに参照しあうことでより圧縮効率を高めることができる。
【００９７】
オブジェクトの例としては、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などがある。例えば、三次元データ符号化装置１００は、ワールドの符号化時に三次元のポイントクラウドなどからオブジェクトに特有の特徴点を抽出し、当該特徴点に基づきオブジェクトを検出し、検出したオブジェクトをランダムアクセスポイントとして設定できる。
【００９８】
このように、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）と、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている三次元座標とを示す第１情報を生成する。また、符号化三次元データ１１２（２１１）は、この第１情報を含む。また、第１情報は、さらに、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示す。
【００９９】
三次元データ復号装置２００は、符号化三次元データ２１１から第１情報を取得し、第１情報を用いて、指定された三次元座標、オブジェクト又は時刻に対応する第１処理単位の符号化三次元データ２１１を特定し、当該符号化三次元データ２１１を復号する。
【０１００】
以下、その他のメタ情報の例について説明する。ランダムアクセス用のメタ情報の他に、三次元データ符号化装置１００は、以下のようなメタ情報を生成及び格納してもよい。また、三次元データ復号装置２００は、このメタ情報を復号時に利用してもよい。
【０１０１】
三次元データを地図情報として用いる場合などには、用途に応じてプロファイルが規定され、当該プロファイルを示す情報がメタ情報に含まれてもよい。例えば、市街地或いは郊外向け、又は、飛行物体向けのプロファイルが規定され、それぞれにおいてワールド、ＳＰＣ又はＶＬＭの最大又は最小サイズなどが定義される。例えば、市街地向けでは、郊外向けよりも詳細な情報が必要なため、ＶＬＭの最小サイズが小さく設定される。
【０１０２】
メタ情報は、オブジェクトの種類を示すタグ値を含んでもよい。このタグ値はオブジェクトを構成するＶＬＭ、ＳＰＣ、又はＧＯＳと対応付けられる。例えば、タグ値「０」は「人」を示し、タグ値「１」は「車」を示し、タグ値「２」は「信号機」を示す、などオブジェクトの種類ごとにタグ値が設定されてもよい。または、オブジェクトの種類が判定しにくい又は判定する必要がない場合はサイズ、又は、動的オブジェクトか静的オブジェクトかなどの性質を示すタグ値が用いられてもよい。
【０１０３】
また、メタ情報は、ワールドが占める空間領域の範囲を示す情報を含んでもよい。
【０１０４】
また、メタ情報は、符号化データのストリーム全体、又は、ＧＯＳ内のＳＰＣなど、複数のＳＰＣに共通のヘッダ情報として、ＳＰＣ又はＶＸＬのサイズを格納してもよい。
【０１０５】
また、メタ情報は、ポイントクラウドの生成に用いた距離センサ或いはカメラなどの識別情報、又は、ポイントクラウド内の点群の位置精度を示す情報を含んでもよい。
【０１０６】
また、メタ情報は、ワールドが静的オブジェクトのみから構成されるか、動的オブジェクトを含むかを示す情報を含んでもよい。
【０１０７】
以下、本実施の形態の変形例について説明する。
【０１０８】
符号化装置又は復号装置は、互いに異なる２以上のＳＰＣ又はＧＯＳを並列で符号化又は復号してもよい。並列で符号化又は復号するＧＯＳは、ＧＯＳの空間位置を示すメタ情報などに基づいて決定できる。
【０１０９】
三次元データを車又は飛行物体などが移動する際の空間地図として用いる、又はこのような空間地図を生成するケースなどでは、符号化装置又は復号装置は、ＧＰＳ、経路情報、又はズーム倍率などに基づいて特定される空間に含まれるＧＯＳ又はＳＰＣを符号化又は復号してもよい。
【０１１０】
また、復号装置は、自己位置又は走行経路に近い空間から順に復号を行ってもよい。符号化装置又は復号装置は、自己位置又は走行経路から遠い空間を、近い空間に比べて優先度を落として符号化又は復号してもよい。ここで、優先度を落とすとは、処理順を下げる、解像度を下げる（間引いて処理する）、又は、画質を下げる（符号化効率を上げる。例えば、量子化ステップを大きくする。）等である。
【０１１１】
また、復号装置は、空間内で階層的に符号化されている符号化データを復号する際は、低階層のみを復号してもよい。
【０１１２】
また、復号装置は、地図のズーム倍率又は用途に応じて、低階層から優先的に復号してもよい。
【０１１３】
また、車又はロボットの自律走行時に行う自己位置推定又は物体認識などの用途では、符号化装置又は復号装置は、路面から特定高さ以内の領域（認識を行う領域）以外は解像度を落として符号化又は復号を行ってもよい。
【０１１４】
また、符号化装置は、室内と室外との空間形状を表現するポイントクラウドをそれぞれ個別に符号化してもよい。例えば、室内を表現するＧＯＳ（室内ＧＯＳ）と室外を表現するＧＯＳ（室外ＧＯＳ）とを分けることで、復号装置は、符号化データを利用する際に、視点位置に応じて復号するＧＯＳを選択できる。
【０１１５】
また、符号化装置は、座標が近い室内ＧＯＳと室外ＧＯＳとを、符号化ストリーム内で隣接するように符号化してもよい。例えば、符号化装置は、両者の識別子を対応付け、符号化ストリーム内、又は別途格納されるメタ情報内に対応付けた識別子を示す情報を格納する。これにより、復号装置は、メタ情報内の情報を参照して、座標が近い室内ＧＯＳと室外ＧＯＳとを識別できる。
【０１１６】
また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ＧＯＳ又はＳＰＣのサイズを切替えてもよい。例えば、符号化装置は、室内では室外に比べてＧＯＳのサイズを小さく設定する。また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ポイントクラウドから特徴点を抽出する際の精度、又はオブジェクト検出の精度などを変更してもよい。
【０１１７】
また、符号化装置は、復号装置が動的オブジェクトを静的オブジェクトと区別して表示するための情報を符号化データに付加してもよい。これにより、復号装置は、動的オブジェクトと赤枠又は説明用の文字などとを合わせて表示できる。なお、復号装置は、動的オブジェクトの代わりに赤枠又は説明用の文字のみを表示してもよい。また、復号装置は、より細かいオブジェクト種別を表示してもよい。例えば、車には赤枠が用いられ、ヒトには黄色枠が用いられてもよい。
【０１１８】
また、符号化装置又は復号装置は、動的オブジェクトの出現頻度、又は、静的オブジェクトと動的オブジェクトとの割合などに応じて、動的オブジェクトと静的オブジェクトとを異なるＳＰＣ又はＧＯＳとして符号化又は復号するかどうかを決定してもよい。例えば、動的オブジェクトの出現頻度又は割合が閾値を超える場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容され、動的オブジェクトの出現頻度又は割合が閾値を超えない場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容されない。
【０１１９】
動的オブジェクトをポイントクラウドではなく、カメラの二次元画像情報から検出する際には、符号化装置は、検出結果を識別するための情報（枠又は文字など）とオブジェクト位置とを別途取得し、これらの情報を三次元の符号化データの一部として符号化してもよい。この場合、復号装置は、静的オブジェクトの復号結果に対して、動的オブジェクトを示す補助情報（枠又は文字）を重畳して表示する。
【０１２０】
また、符号化装置は、静的オブジェクトの形状の複雑さなどに応じて、ＳＰＣにおけるＶＸＬ又はＶＬＭの粗密さを変更してもよい。例えば、符号化装置は、静的オブジェクトの形状が複雑なぼど、ＶＸＬ又はＶＬＭを密に設定する。さらに、符号化装置は、空間位置又は色情報を量子化する際の量子化ステップなどをＶＸＬ又はＶＬＭの粗密さに応じて決定してもよい。例えば、符号化装置は、ＶＸＬ又はＶＬＭが密なほど量子化ステップを小さく設定する。
【０１２１】
以上のように、本実施の形態に係る符号化装置又は復号装置は、座標情報を有するスペース単位で空間の符号化又は復号を行う。
【０１２２】
また、符号化装置及び復号装置は、スペース内において、ボリューム単位で符号化又は復号を行う。ボリュームは、位置情報が対応付けられる最小単位であるボクセルを含む。
【０１２３】
また、符号化装置及び復号装置は、座標、オブジェクト、及び時間等を含む空間情報の各要素とＧＯＰとを対応付けたテーブル、又は各要素間を対応付けたテーブルにより任意の要素間を対応付けて符号化又は復号を行う。また、復号装置は、選択された要素の値を用いて座標を判定し、座標からボリューム、ボクセル又はスペースを特定し、当該ボリューム又はボクセルを含むスペース、又は特定されたスペースを復号する。
【０１２４】
また、符号化装置は、特徴点抽出又はオブジェクト認識により、要素により選択可能なボリューム、ボクセル又はスペースを判定し、ランダムアクセス可能なボリューム、ボクセル又はスペースとして符号化する。
【０１２５】
スペースは、当該スペース単体で符号化又は復号可能なＩ−ＳＰＣと、任意の１つの処理済みスペースを参照して符号化又は復号されるＰ−ＳＰＣと、任意の二つの処理済みスペースを参照して符号化又は復号されるＢ−ＳＰＣとの３種類のタイプに分類される。
【０１２６】
１以上のボリュームが、静的オブジェクト又は動的なオブジェクトに対応する。静的オブジェクトを含むスペースと動的オブジェクトを含むスペースとは互いに異なるＧＯＳとして符号化又は復号される。つまり、静的オブジェクトを含むＳＰＣと、動的オブジェクトを含むＳＰＣとが異なるＧＯＳに割り当てられる。
【０１２７】
動的オブジェクトはオブジェクトごとに符号化又は復号され、静的オブジェクトを含む１以上のスペースに対応付けられる。つまり、複数の動的オブジェクトは個別に符号化され、得られた複数の動的オブジェクトの符号化データは、静的オブジェクトを含むＳＰＣに対応付けられる。
【０１２８】
符号化装置及び復号装置は、ＧＯＳ内のＩ−ＳＰＣの優先度を上げて、符号化又は復号を行う。例えば、符号化装置は、Ｉ−ＳＰＣの劣化が少なくなるように（復号後に元の三次元データがより忠実に再現されるように）符号化を行う。また、復号装置は、例えば、Ｉ−ＳＰＣのみを復号する。
【０１２９】
符号化装置は、ワールド内のオブジェクトの疎密さ又は数（量）に応じてＩ−ＳＰＣを用いる頻度を変えて符号化を行ってもよい。つまり、符号化装置は、三次元データに含まれるオブジェクトの数又は粗密さに応じて、Ｉ−ＳＰＣを選択する頻度を変更する。例えば、符号化装置は、ワールド内のオブジェクトが密であるほどＩスペースを用いる頻度を上げる。
【０１３０】
また、符号化装置は、ランダムアクセスポイントをＧＯＳ単位で設定し、ＧＯＳに対応する空間領域を示す情報をヘッダ情報に格納する。
【０１３１】
符号化装置は、ＧＯＳの空間サイズとして、例えば、デフォルト値を使用する。なお、符号化装置は、オブジェクト又は動的オブジェクトの数（量）又は粗密さに応じてＧＯＳのサイズを変更してもよい。例えば、符号化装置は、オブジェクト或いは動的オブジェクトが密なぼど、又は数が多いほど、ＧＯＳの空間サイズを小さくする。
【０１３２】
また、スペース又はボリュームは、デプスセンサ、ジャイロ、又はカメラ等のセンサで得られた情報を用いて導出された特徴点群を含む。特徴点の座標はボクセルの中心位置に設定される。また、ボクセルの細分化により位置情報の高精度化を実現できる。
【０１３３】
特徴点群は、複数のピクチャを用いて導出される。複数のピクチャは、実際の時刻情報と、スペースに対応付けられた複数のピクチャで同一の時刻情報（例えば、レート制御等に用いられる符号化時刻）との少なくとも２種類の時刻情報を有する。
【０１３４】
また、１以上のスペースを含むＧＯＳ単位で符号化又は復号が行われる。
【０１３５】
符号化装置及び復号装置は、処理済みのＧＯＳ内のスペースを参照して、処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
【０１３６】
または、符号化装置及び復号装置は、異なるＧＯＳを参照せず、処理対象のＧＯＳ内の処理済スペースを用いて処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
【０１３７】
また、符号化装置及び復号装置は、１以上のＧＯＳを含むワールド単位で符号化ストリームを送信又は受信する。
【０１３８】
また、ＧＯＳは少なくともワールド内で１方向にレイヤ構造を持ち、符号化装置及び復号装置は、下位レイヤから符号化又は復号を行う。例えば、ランダムアクセス可能なＧＯＳは最下位レイヤに属する。上位レイヤに属するＧＯＳは同一レイヤ以下に属するＧＯＳを参照する。つまり、ＧＯＳは、予め定められた方向に空間分割され、各々が１以上のＳＰＣを含む複数のレイヤを含む。符号化装置及び復号装置は、各ＳＰＣを、当該ＳＰＣと同一レイヤ又は当該ＳＰＣより下層のレイヤに含まれるＳＰＣを参照して符号化又は復号する。
【０１３９】
また、符号化装置及び復号装置は、複数のＧＯＳを含むワールド単位内で、連続してＧＯＳを符号化又は復号する。符号化装置及び復号装置は、符号化又は復号の順序（方向）を示す情報をメタデータとして書き込む又は読み出す。つまり、符号化データは、複数のＧＯＳの符号化順を示す情報を含む。
【０１４０】
また、符号化装置及び復号装置は、互いに異なる２以上のスペース又はＧＯＳを並列で符号化又は復号する。
【０１４１】
また、符号化装置及び復号装置は、スペース又はＧＯＳの空間情報（座標、サイズ等）を符号化又は復号する。
【０１４２】
また、符号化装置及び復号装置は、ＧＰＳ、経路情報、又は倍率など、自己の位置又は／及び領域サイズに関する外部情報に基づいて特定される特定空間に含まれるスペース又はＧＯＳを符号化又は復号する。
【０１４３】
符号化装置又は復号装置は、自己の位置から遠い空間は、近い空間に比べて優先度を落として符号化又は復号する。
【０１４４】
符号化装置は、倍率又は用途に応じて、ワールドのある１方向を設定し、当該方向にレイヤ構造を持つＧＯＳを符号化する。また、復号装置は、倍率又は用途に応じて設定されたワールドのある１方向にレイヤ構造を持つＧＯＳを、下位レイヤから優先的に復号する。
【０１４５】
符号化装置は、室内と室外とでスペースに含まれる特徴点抽出、オブジェクト認識の精度、又は空間領域サイズなどを変化させる。ただし、符号化装置及び復号装置は、座標が近い室内ＧＯＳと室外ＧＯＳとをワールド内で隣接して符号化又は復号し、これらの識別子も対応付けて符号化又は復号する。
【０１４６】
（実施の形態２）
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
【０１４７】
本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報のみを送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元復号方法及び三次元データ装置について説明する。
【０１４８】
特徴量を一定以上持つボクセル（ＶＸＬ）を特徴ボクセル（ＦＶＸＬ）と定義し、ＦＶＸＬで構成されるワールド（ＷＬＤ）をスパースワールド（ＳＷＬＤ）と定義する。図１１は、スパースワールド及びワールドの構成例を示す図である。ＳＷＬＤには、ＦＶＸＬで構成されるＧＯＳであるＦＧＯＳと、ＦＶＸＬで構成されるＳＰＣであるＦＳＰＣと、ＦＶＸＬで構成されるＶＬＭであるＦＶＬＭと含まれる。ＦＧＯＳ、ＦＳＰＳ及びＦＶＬＭのデータ構造及び予測構造はＧＯＳ、ＳＰＳ及びＶＬＭと同様であっても構わない。
【０１４９】
特徴量とは、ＶＸＬの三次元位置情報、又はＶＸＬ位置の可視光情報を表現する特徴量であり、特に立体物のコーナー及びエッジ等で多く検出される特徴量である。具体的には、この特徴量は、下記のような三次元特徴量又は可視光の特徴量であるが、その他、ＶＸＬの位置、輝度、又は色情報などを表す特徴量であれば、どのようなものでも構わない。
【０１５０】
三次元特徴量として、ＳＨＯＴ特徴量（Ｓｉｇｎａｔｕｒｅ  ｏｆ  Ｈｉｓｔｏｇｒａｍｓ  ｏｆ  ＯｒｉｅｎＴａｔｉｏｎｓ）、ＰＦＨ特徴量（Ｐｏｉｎｔ  Ｆｅａｔｕｒｅ  Ｈｉｓｔｏｇｒａｍｓ）、又はＰＰＦ特徴量（Ｐｏｉｎｔ  Ｐａｉｒ  Ｆｅａｔｕｒｅ）が用いられる。
【０１５１】
ＳＨＯＴ特徴量は、ＶＸＬ周辺を分割し、基準点と分割された領域の法線ベクトルとの内積を計算してヒストグラム化することで得られる。このＳＨＯＴ特徴量は、次元数が高く、特徴表現力が高いという特徴を有する。
【０１５２】
ＰＦＨ特徴量は、ＶＸＬ近傍の多数の２点組を選択し、その２点から法線ベクトル等を算出してヒストグラム化することで得られる。このＰＦＨ特徴量は、ヒストグラム特徴なので、多少の外乱に対してロバスト性を有し、特徴表現力も高いという特徴を有する。
【０１５３】
ＰＰＦ特徴量は、２点のＶＸＬ毎に法線ベクトル等を用いて算出される特徴量である。このＰＰＦ特徴量には、全ＶＸＬが使われるため、オクルージョンに対してロバスト性を有する。
【０１５４】
また、可視光の特徴量として、画像の輝度勾配情報等の情報を用いたＳＩＦＴ（Ｓｃａｌｅ−Ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅ  Ｔｒａｎｓｆｏｒｍ）、ＳＵＲＦ（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅｓ）、又はＨＯＧ（Ｈｉｓｔｏｇｒａｍ  ｏｆ  Ｏｒｉｅｎｔｅｄ  Ｇｒａｄｉｅｎｔｓ）等を用いることができる。
【０１５５】
ＳＷＬＤは、ＷＬＤの各ＶＸＬから上記特徴量を算出し、ＦＶＸＬを抽出することで生成される。ここで、ＳＷＬＤはＷＬＤが更新される度に更新しても構わないし、ＷＬＤの更新タイミングに関わらず、一定時間経過後に定期的に更新するようにしても構わない。
【０１５６】
ＳＷＬＤは特徴量毎に生成しても構わない。例えば、ＳＨＯＴ特徴量に基づくＳＷＬＤ１とＳＩＦＴ特徴量に基づくＳＷＬＤ２とのように、特徴量毎に別々のＳＷＬＤが生成され、用途に応じてＳＷＬＤを使い分けるようにしても構わない。また、算出した各ＦＶＸＬの特徴量を特徴量情報として各ＦＶＸＬに保持するようにしても構わない。
【０１５７】
次に、スパースワールド（ＳＷＬＤ）の利用方法について説明する。ＳＷＬＤは特徴ボクセル（ＦＶＸＬ）のみを含むため、全てのＶＸＬを含むＷＬＤと比べて一般的にデータサイズが小さい。
【０１５８】
特徴量を利用して何らかの目的を果たすアプリケーションにおいては、ＷＬＤの代わりにＳＷＬＤの情報を利用することで、ハードディスクからの読み出し時間、並びにネットワーク転送時の帯域及び転送時間を抑制することができる。例えば、地図情報として、ＷＤＬとＳＷＬＤとをサーバに保持しておき、クライアントからの要望に応じて、送信する地図情報をＷＬＤ又はＳＷＬＤに切り替えることにより、ネットワーク帯域及び転送時間を抑制することができる。以下、具体的な例を示す。
【０１５９】
図１２及び図１３は、ＳＷＬＤ及びＷＬＤの利用例を示す図である。図１２に示すように、車載装置であるクライアント１が自己位置判定用途として地図情報を必要な場合は、クライアント１はサーバに自己位置推定用の地図データの取得要望を送る（Ｓ３０１）。サーバは、当該取得要望に応じてＳＷＬＤをクライアント１に送信する（Ｓ３０２）。クライアント１は、受信したＳＷＬＤを用いて自己位置判定を行う（Ｓ３０３）。この際、クライアント１はレンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法でクライアント１の周辺のＶＸＬ情報を取得し、得られたＶＸＬ情報とＳＷＬＤとから自己位置情報を推定する。ここで自己位置情報は、クライアント１の三次元位置情報及び向き等を含む。
【０１６０】
図１３に示すように、車載装置であるクライアント２が三次元地図等の地図描画の用途として地図情報が必要な場合は、クライアント２はサーバに地図描画用の地図データの取得要望を送る（Ｓ３１１）。サーバは、当該取得要望に応じてＷＬＤをクライアント２に送信する（Ｓ３１２）。クライアント２は、受信したＷＬＤを用いて地図描画を行う（Ｓ３１３）。この際、クライアント２は、例えば、自己が可視光カメラ等で撮影した画像と、サーバから取得したＷＬＤとを用いてレンダリング画像を作成し、作成した画像をカーナビ等の画面に描画する。
【０１６１】
上記のように、サーバは、自己位置推定のような各ＶＸＬの特徴量を主に必要とする用途ではＳＷＬＤをクライアントに送信し、地図描画のように詳細なＶＸＬ情報が必要な場合はＷＬＤをクライアントに送信する。これにより、地図データを効率よく送受信することが可能となる。
【０１６２】
なお、クライアントは、自分でＳＷＬＤとＷＬＤのどちらが必要かを判断し、サーバへＳＷＬＤ又はＷＬＤの送信を要求しても構わない。また、サーバは、クライアント又はネットワークの状況に合わせて、ＳＷＬＤかＷＬＤのどちらを送信すべきかを判断しても構わない。
【０１６３】
次に、スパースワールド（ＳＷＬＤ）とワールド（ＷＬＤ）との送受信を切り替える方法を説明する。
【０１６４】
ネットワーク帯域に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１４は、この場合の動作例を示す図である。例えば、ＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）環境下等の使用できるネットワーク帯域が限られている低速ネットワークが用いられている場合には、クライアントは、低速ネットワーク経由でサーバにアクセスし（Ｓ３２１）、サーバから地図情報としてＳＷＬＤを取得する（Ｓ３２２）。一方、Ｗｉ‐Ｆｉ（登録商標）環境下等のネットワーク帯域に余裕がある高速ネットワークが用いられている場合には、クライアントは、高速ネットワーク経由でサーバにアクセスし（Ｓ３２３）、サーバからＷＬＤを取得する（Ｓ３２４）。これにより、クライアントは、当該クライアントのネットワーク帯域に応じて適切な地図情報を取得することができる。
【０１６５】
具体的には、クライアントは、屋外ではＬＴＥ経由でＳＷＬＤを受信し、施設等の屋内に入った場合はＷｉ‐Ｆｉ（登録商標）経由でＷＬＤを取得する。これにより、クライアントは、屋内のより詳細な地図情報を取得することが可能となる。
【０１６６】
このように、クライアントは、自身が用いるネットワークの帯域に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身が用いるネットワークの帯域を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントのネットワーク帯域を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
【０１６７】
また、移動速度に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１５は、この場合の動作例を示す図である。例えば、クライアントが高速移動をしている場合は（Ｓ３３１）、クライアントはＳＷＬＤをサーバから受信する（Ｓ３３２）。一方、クライアントが低速移動をしている場合は（Ｓ３３３）、クライアントはＷＬＤをサーバから受信する（Ｓ３３４）。これにより、クライアントは、ネットワーク帯域を抑制しながら、速度に合った地図情報を取得することができる。具体的には、クライアントは、高速道路を走行中にはデータ量の少ないＳＷＬＤを受信することにより、大まかな地図情報を適切な速度で更新することができる。一方、クライアントは、一般道路を走行中にはＷＬＤを受信することにより、より詳細な地図情報を取得することが可能となる。
【０１６８】
このように、クライアントは、自身の移動速度に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身の移動速度を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントの移動速度を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
【０１６９】
また、クライアントは、最初にＳＷＬＤをサーバより取得し、その中で重要な領域のＷＬＤを取得しても構わない。例えば、クライアントは、地図データを取得する際に、最初に大まかな地図情報をＳＷＬＤで取得し、そこから建物、標識、又は人物等の特徴が多く出現する領域を絞り込み、絞り込んだ領域のＷＬＤを後から取得する。これにより、クライアントは、サーバからの受信データ量を抑制しつつ、必要な領域の詳細な情報を取得することが可能となる。
【０１７０】
また、サーバは、ＷＬＤから物体毎に別々のＳＷＬＤを作成し、クライアントは、用途に合わせて、それぞれを受信してもよい。これにより、ネットワーク帯域を抑制できる。例えば、サーバは、ＷＬＤから予め人又は車を認識し、人のＳＷＬＤと車のＳＷＬＤを作成する。クライアントは、周囲の人の情報を取得したい場合には人のＳＷＬＤを、車の情報を取得したい場合には車のＳＷＬＤを受信する。また、このようなＳＷＬＤの種類はヘッダ等に付加された情報（フラグ又はタイプ等）によって区別するようにしても構わない。
【０１７１】
次に、本実施の形態に係る三次元データ符号化装置（例えばサーバ）の構成及び動作の流れを説明する。図１６は、本実施の形態に係る三次元データ符号化装置４００のブロック図である。図１７は、三次元データ符号化装置４００による三次元データ符号化処理のフローチャートである。
【０１７２】
図１６に示す三次元データ符号化装置４００は、入力三次元データ４１１を符号化することで符号化ストリームである符号化三次元データ４１３及び４１４を生成する。ここで、符号化三次元データ４１３はＷＬＤに対応する符号化三次元データであり、符号化三次元データ４１４はＳＷＬＤに対応する符号化三次元データである。この三次元データ符号化装置４００は、取得部４０１と、符号化領域決定部４０２と、ＳＷＬＤ抽出部４０３と、ＷＬＤ符号化部４０４と、ＳＷＬＤ符号化部４０５とを備える。
【０１７３】
図１７に示すように、まず、取得部４０１は、三次元空間内の点群データである入力三次元データ４１１を取得する（Ｓ４０１）。
【０１７４】
次に、符号化領域決定部４０２は、点群データが存在する空間領域に基づいて、符号化対象の空間領域を決定する（Ｓ４０２）。
【０１７５】
次に、ＳＷＬＤ抽出部４０３は、符号化対象の空間領域をＷＬＤと定義し、ＷＬＤに含まれる各ＶＸＬから特徴量を算出する。そして、ＳＷＬＤ抽出部４０３は、特徴量が予め定められた閾値以上のＶＸＬを抽出し、抽出したＶＸＬをＦＶＸＬと定義し、当該ＦＶＸＬをＳＷＬＤへ追加することで、抽出三次元データ４１２を生成する（Ｓ４０３）。つまり、入力三次元データ４１１から特徴量が閾値以上の抽出三次元データ４１２が抽出される。
【０１７６】
次に、ＷＬＤ符号化部４０４は、ＷＬＤに対応する入力三次元データ４１１を符号化することでＷＬＤに対応する符号化三次元データ４１３を生成する（Ｓ４０４）。このとき、ＷＬＤ符号化部４０４は、符号化三次元データ４１３のヘッダに、当該符号化三次元データ４１３がＷＬＤを含むストリームであることを区別するための情報を付加する。
【０１７７】
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤに対応する抽出三次元データ４１２を符号化することでＳＷＬＤに対応する符号化三次元データ４１４を生成する（Ｓ４０５）。このとき、ＳＷＬＤ符号化部４０５は、符号化三次元データ４１４のヘッダに、当該符号化三次元データ４１４がＳＷＬＤを含むストリームであることを区別するための情報を付加する。
【０１７８】
なお、符号化三次元データ４１３を生成する処理と、符号化三次元データ４１４を生成する処理との処理順は上記と逆でもよい。また、これらの処理の一部又は全てが並列に行われてもよい。
【０１７９】
符号化三次元データ４１３及び４１４のヘッダに付与される情報として、例えば、「ｗｏｒｌｄ＿ｔｙｐｅ」というパラメータが定義される。ｗｏｒｌｄ＿ｔｙｐｅ＝０の場合はストリームがＷＬＤを含むことを表し、ｗｏｒｌｄ＿ｔｙｐｅ＝１の場合はストリームがＳＷＬＤを含むことを表す。更にその他の多数の種別を定義する場合には、ｗｏｒｌｄ＿ｔｙｐｅ＝２のように割り当てる数値を増やすようにしても構わない。また、符号化三次元データ４１３及び４１４の一方に特定のフラグが含まれてもよい。例えば、符号化三次元データ４１４に、当該ストリームがＳＷＬＤを含むことを含むフラグが付与されてもよい。この場合、復号装置は、フラグの有無によりＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別できる。
【０１８０】
また、ＷＬＤ符号化部４０４がＷＬＤを符号化する際に使用する符号化方法と、ＳＷＬＤ符号化部４０５がＳＷＬＤを符号化する際に使用する符号化方法とは異なってもよい。
【０１８１】
例えば、ＳＷＬＤではデータが間引かされているため、ＷＬＤに比べ、周辺のデータとの相関が低くなる可能性がある。よって、ＳＷＬＤに用いられる符号化方法では、ＷＬＤに用いられる符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
【０１８２】
また、ＳＷＬＤに用いられる符号化方法とＷＬＤに用いられる符号化方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
【０１８３】
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより小さくなるように符号化を行う。例えば、上述したようにＳＷＬＤは、ＷＬＤに比べ、データ間の相関が低くなる可能性がある。これにより、符号化効率が下がり、符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより大きくなる可能性がある。よって、ＳＷＬＤ符号化部４０５は、得られた符号化三次元データ４１４のデータサイズが、ＷＬＤの符号化三次元データ４１３のデータサイズより大きい場合には、再符号化を行うことで、データサイズを低減した符号化三次元データ４１４を再生成する。
【０１８４】
例えば、ＳＷＬＤ抽出部４０３は、抽出する特徴点の数を減らした抽出三次元データ４１２を再生成し、ＳＷＬＤ符号化部４０５は、当該抽出三次元データ４１２を符号化する。または、ＳＷＬＤ符号化部４０５における量子化の程度をより粗くしてもよい。例えば、後述する８分木構造において、最下層のデータを丸め込むことで、量子化の程度を粗くすることができる。
【０１８５】
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズをＷＬＤの符号化三次元データ４１３のデータサイズより小さくできない場合は、ＳＷＬＤの符号化三次元データ４１４を生成しなくてもよい。または、ＷＬＤの符号化三次元データ４１３がＳＷＬＤの符号化三次元データ４１４にコピーされてもよい。つまり、ＳＷＬＤの符号化三次元データ４１４としてＷＬＤの符号化三次元データ４１３がそのまま用いられてもよい。
【０１８６】
次に、本実施の形態に係る三次元データ復号装置（例えばクライアント）の構成及び動作の流れを説明する。図１８は、本実施の形態に係る三次元データ復号装置５００のブロック図である。図１９は、三次元データ復号装置５００による三次元データ復号処理のフローチャートである。
【０１８７】
図１８に示す三次元データ復号装置５００は、符号化三次元データ５１１を復号することで復号三次元データ５１２又は５１３を生成する。ここで、符号化三次元データ５１１は、例えば、三次元データ符号化装置４００で生成された符号化三次元データ４１３又は４１４である。
【０１８８】
この三次元データ復号装置５００は、取得部５０１と、ヘッダ解析部５０２と、ＷＬＤ復号部５０３と、ＳＷＬＤ復号部５０４とを備える。
【０１８９】
図１９に示すように、まず、取得部５０１は、符号化三次元データ５１１を取得する（Ｓ５０１）。次に、ヘッダ解析部５０２は、符号化三次元データ５１１のヘッダを解析し、符号化三次元データ５１１がＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別する（Ｓ５０２）。例えば、上述したｗｏｒｌｄ＿ｔｙｐｅのパラメータが参照され、判別が行われる。
【０１９０】
符号化三次元データ５１１がＷＬＤを含むストリームである場合（Ｓ５０３でＹｅｓ）、ＷＬＤ復号部５０３は、符号化三次元データ５１１を復号することでＷＬＤの復号三次元データ５１２を生成する（Ｓ５０４）。一方、符号化三次元データ５１１がＳＷＬＤを含むストリームである場合（Ｓ５０３でＮｏ）、ＳＷＬＤ復号部５０４は、符号化三次元データ５１１を復号することでＳＷＬＤの復号三次元データ５１３を生成する（Ｓ５０５）。
【０１９１】
また、符号化装置と同様に、ＷＬＤ復号部５０３がＷＬＤを復号する際に使用する復号方法と、ＳＷＬＤ復号部５０４がＳＷＬＤを復号する際に使用する復号方法とは異なってもよい。例えば、ＳＷＬＤに用いられる復号方法では、ＷＬＤに用いられる復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
【０１９２】
また、ＳＷＬＤに用いられる復号方法とＷＬＤに用いられる復号方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
【０１９３】
次に、三次元位置の表現手法である８分木表現について説明する。三次元データに含まれるＶＸＬデータは８分木構造に変換された後、符号化される。図２０は、ＷＬＤのＶＸＬの一例を示す図である。図２１は、図２０に示すＷＬＤの８分木構造を示す図である。図２０に示す例では、点群を含むＶＸＬ（以下、有効ＶＸＬ）である３つＶＸＬ１〜３が存在する。図２１に示すように、８分木構造はノードとリーフで構成される。各ノードは最大で８つのノードまたはリーフを持つ。各リーフはＶＸＬ情報を持つ。ここで、図２１に示すリーフのうち、リーフ１、２、３はそれぞれ図２０に示すＶＸＬ１、ＶＸＬ２、ＶＸＬ３を表す。
【０１９４】
具体的には、各ノード及びリーフは三次元位置に対応する。ノード１は、図２０に示す全体のブロックに対応する。ノード１に対応するブロックは８つのブロックに分割され、８つのブロックのうち、有効ＶＸＬを含むブロックがノードに設定され、それ以外のブロックはリーフに設定される。ノードに対応するブロックは、さらに８つのノードまたはリーフに分割され、この処理が木構造の階層分繰り返される。また、最下層のブロックは、全てリーフに設定される。
【０１９５】
また、図２２は、図２０に示すＷＬＤから生成したＳＷＬＤの例を示す図である。図２０に示すＶＸＬ１及びＶＸＬ２は特徴量抽出の結果、ＦＶＸＬ１及びＦＶＸＬ２と判定され、ＳＷＬＤに加えられている。一方で、ＶＸＬ３はＦＶＸＬと判定されず、ＳＷＬＤに含まれていない。図２３は、図２２に示すＳＷＬＤの８分木構造を示す図である。図２３に示す８分木構造では、図２１に示す、ＶＸＬ３に相当するリーフ３が削除されている。これにより、図２１に示すノード３が有効ＶＸＬを持たなくなり、リーフに変更されている。このように一般的にＳＷＬＤのリーフ数はＷＬＤのリーフ数より少なくなり、ＳＷＬＤの符号化三次元データもＷＬＤの符号化三次元データより小さくなる。
【０１９６】
以下、本実施の形態の変形例について説明する。
【０１９７】
例えば、車載装置等のクライアントは、自己位置推定を行う場合に、ＳＷＬＤをサーバから受信し、ＳＷＬＤを用いて自己位置推定を行い、障害物検知を行う場合は、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法を用いて自分で取得した周辺の三次元情報に基づいて障害物検知を実施してもよい。
【０１９８】
また、一般的にＳＷＬＤには平坦領域のＶＸＬデータが含まれにくい。そのため、サーバは、静的な障害物の検知用に、ＷＬＤをサブサンプルしたサブサンプルワールド（ｓｕｂＷＬＤ）を保持し、ＳＷＬＤとｓｕｂＷＬＤをクライアントに送信してもよい。これにより、ネットワーク帯域を抑制しつつ、クライアント側で自己位置推定及び障害物検知を行うことができる。
【０１９９】
また、クライアントが三次元地図データを高速に描画する際には、地図情報がメッシュ構造である方が便利な場合がある。そこで、サーバは、ＷＬＤからメッシュを生成し、メッシュワールド（ＭＷＬＤ）として予め保持してもよい。例えばクライアントは、粗い三次元描画を必要としている場合にはＭＷＬＤを受信し、詳細な三次元描画を必要としている場合にはＷＬＤを受信する。これにより、ネットワーク帯域を抑制することができる。
【０２００】
また、サーバは、各ＶＸＬのうち、特徴量が閾値以上であるＶＸＬをＦＶＸＬに設定したが、異なる方法にてＦＶＸＬを算出しても構わない。例えば、サーバは、信号又は交差点などを構成するＶＸＬ、ＶＬＭ、ＳＰＳ、又はＧＯＳを、自己位置推定、運転アシスト、又は自動運転等に必要と判断し、ＦＶＸＬ、ＦＶＬＭ、ＦＳＰＳ、ＦＧＯＳとしてＳＷＬＤに含めるようにしても構わない。また、上記判断は手動で行われてもよい。なお、特徴量に基づき設定されたＦＶＸＬ等に、上記方法で得られたＦＶＸＬ等を加えてもよい。つまり、ＳＷＬＤ抽出部４０３は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出してもよい。
【０２０１】
また、それらの用途に必要な旨を特徴量とは別にラベリングするようにしても構わない。また、サーバは、ＳＷＬＤの上位レイヤ（例えばレーンワールド）として、信号又は交差点などの自己位置推定、運転アシスト、又は自動運転等に必要なＦＶＸＬを別途保持してもよい。
【０２０２】
また、サーバは、ＷＬＤ内のＶＸＬにもランダムアクセス単位又は所定の単位毎に属性を付加してもよい。属性は、例えば、自己位置推定に必要或いは不要かを示す情報、又は、信号或いは交差点などの交通情報として重要かどうかなどを示す情報を含む。また、属性は、レーン情報（ＧＤＦ：Ｇｅｏｇｒａｐｈｉｃ  Ｄａｔａ  Ｆｉｌｅｓなど）におけるＦｅａｔｕｒｅ（交差点又は道路など）との対応関係を含んでもよい。
【０２０３】
また、ＷＬＤ又はＳＷＬＤの更新方法として下記のような方法を用いても構わない。
【０２０４】
人、工事、又は並木（トラック向け）の変化などを示す更新情報が点群又はメタデータとしてサーバにアップロードされる。サーバは、当該アップロードに基づき、ＷＬＤを更新し、その後、更新したＷＬＤを用いてＳＷＬＤを更新する。
【０２０５】
また、クライアントは、自己位置推定時に自身で生成した三次元情報とサーバから受信した三次元情報との不整合を検知した場合、自身で生成した三次元情報を更新通知とともにサーバに送信してもよい。この場合、サーバは、ＷＬＤを用いてＳＷＬＤを更新する。ＳＷＬＤが更新されない場合、サーバは、ＷＬＤ自体が古いと判断する。
【０２０６】
また、符号化ストリームのヘッダ情報として、ＷＬＤかＳＷＬＤかを区別する情報が付加されるとしたが、例えば、メッシュワールド又はレーンワールド等、多種類のワールドが存在する場合には、それらを区別する情報がヘッダ情報に付加されても構わない。また、特徴量が異なるＳＷＬＤが多数存在する場合には、それぞれを区別する情報がヘッダ情報に付加されても構わない。
【０２０７】
また、ＳＷＬＤは、ＦＶＸＬで構成されるとしたが、ＦＶＸＬと判定されなかったＶＸＬを含んでもよい。例えば、ＳＷＬＤは、ＦＶＸＬの特徴量を算出する際に使用する隣接ＶＸＬを含んでもよい。これにより、ＳＷＬＤの各ＦＶＸＬに特徴量情報が付加されない場合でも、クライアントは、ＳＷＬＤを受信した際にＦＶＸＬの特徴量を算出することができる。なお、その際には、ＳＷＬＤは各ＶＸＬがＦＶＸＬかＶＸＬかを区別するための情報を含んでもよい。
【０２０８】
以上のように、三次元データ符号化装置４００は、入力三次元データ４１１（第１三次元データ）から特徴量が閾値以上の抽出三次元データ４１２（第２三次元データ）を抽出し、抽出三次元データ４１２を符号化することで符号化三次元データ４１４（第１符号化三次元データ）を生成する。
【０２０９】
これによれば、三次元データ符号化装置４００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４を生成する。これにより、入力三次元データ４１１をそのまま符号化する場合に比べてデータ量を削減できる。よって、三次元データ符号化装置４００は、伝送するデータ量を削減できる。
【０２１０】
また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１を符号化することで符号化三次元データ４１３（第２符号化三次元データ）を生成する。
【０２１１】
これによれば、三次元データ符号化装置４００は、例えば、使用用途等に応じて、符号化三次元データ４１３と符号化三次元データ４１４とを選択的に伝送できる。
【０２１２】
また、抽出三次元データ４１２は、第１符号化方法により符号化され、入力三次元データ４１１は、第１符号化方法とは異なる第２符号化方法により符号化される。
【０２１３】
これによれば、三次元データ符号化装置４００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した符号化方法を用いることができる。
【０２１４】
また、第１符号化方法では、第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
【０２１５】
これによれば、三次元データ符号化装置４００は、隣接するデータ間の相関が低くなりやすい抽出三次元データ４１２に対して、インター予測の優先度を上げることができる。
【０２１６】
また、第１符号化方法と第２符号化方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２符号化方法では、８分木により三次元位置が表現され、第１符号化方法では、三次元座標により三次元位置を表現される。
【０２１７】
これによれば、三次元データ符号化装置４００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
【０２１８】
また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。つまり、当該識別子は、符号化三次元データがＷＬＤの符号三次元データ４１３であるかＳＷＬＤの符号化三次元データ４１４であるかを示す。
【０２１９】
これによれば、復号装置は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
【０２２０】
また、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量が符号化三次元データ４１３のデータ量より小さくなるように抽出三次元データ４１２を符号化する。
【０２２１】
これによれば、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量を符号化三次元データ４１３のデータ量より小さくできる。
【０２２２】
また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出する。例えば、予め定められた属性を有する物体とは、自己位置推定、運転アシスト、又は自動運転等に必要な物体であり、信号又は交差点などである。
【０２２３】
これによれば、三次元データ符号化装置４００は、復号装置で必要となるデータを含む符号化三次元データ４１４を生成できる。
【０２２４】
また、三次元データ符号化装置４００（サーバ）は、さらに、クライアントの状態に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
【０２２５】
これによれば、三次元データ符号化装置４００は、クライアントの状態に応じて適切なデータを送信できる。
【０２２６】
また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
【０２２７】
また、三次元データ符号化装置４００は、さらに、クライアントの要求に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
【０２２８】
これによれば、三次元データ符号化装置４００は、クライアントの要求に応じて適切なデータを送信できる。
【０２２９】
また、本実施の形態に係る三次元データ復号装置５００は、上記三次元データ符号化装置４００により生成された符号化三次元データ４１３又は４１４を復号する。
【０２３０】
つまり、三次元データ復号装置５００は、入力三次元データ４１１から抽出された特徴量が閾値以上の抽出三次元データ４１２が符号化されることで得られた符号化三次元データ４１４を第１復号方法により復号する。また、三次元データ復号装置５００は、入力三次元データ４１１が符号化されることで得られた符号化三次元データ４１３を、第１復号方法とは異なる第２復号方法により復号する。
【０２３１】
これによれば、三次元データ復号装置５００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４と、符号化三次元データ４１３とを、例えば、使用用途等に応じて選択的に受信できる。これにより、三次元データ復号装置５００は、伝送するデータ量を削減できる。さらに、三次元データ復号装置５００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した復号方法を用いることができる。
【０２３２】
また、第１復号方法では、第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
【０２３３】
これによれば、三次元データ復号装置５００は、隣接するデータ間の相関が低くなりやすい抽出三次元データに対して、インター予測の優先度を上げることができる。
【０２３４】
また、第１復号方法と第２復号方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２復号方法では、８分木により三次元位置が表現され、第１復号方法では、三次元座標により三次元位置を表現される。
【０２３５】
これによれば、三次元データ復号装置５００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
【０２３６】
また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。三次元データ復号装置５００は、当該識別子を参照して、符号化三次元データ４１３及び４１４を識別する。
【０２３７】
これによれば、三次元データ復号装置５００は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
【０２３８】
また、三次元データ復号装置５００は、さらに、クライアント（三次元データ復号装置５００）の状態をサーバに通知する。三次元データ復号装置５００は、クライアントの状態に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
【０２３９】
これによれば、三次元データ復号装置５００は、クライアントの状態に応じて適切なデータを受信できる。
【０２４０】
また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
【０２４１】
また、三次元データ復号装置５００は、さらに、符号化三次元データ４１３及び４１４の一方をサーバに要求し、当該要求に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
【０２４２】
これによれば、三次元データ復号装置５００は、用途に応じた適切なデータを受信できる。
【０２４３】
（実施の形態３）
本実施の形態では、車両間での三次元データを送受信する方法について説明する。
【０２４４】
図２４は、自車両６００と周辺車両６０１との間での三次元データ６０７の送受信の様子を示す模式図である。
【０２４５】
自車両６００に搭載されたセンサ（レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せなど）により三次元データを取得する場合、周辺車両６０１などの障害物により自車両６００のセンサ検知範囲６０２内であるものの三次元データを作成できない領域（以降、これをオクルージョン領域６０４という）が発生する。また、三次元データを取得する空間が大きくなると自律動作の精度が高まるが、自車両６００のみのセンサ検知範囲は有限である。
【０２４６】
自車両６００のセンサ検知範囲６０２は、三次元データを取得可能な領域６０３とオクルージョン領域６０４とを含む。自車両６００が、三次元データを取得したい範囲は、自車両６００のセンサ検知範囲６０２とそれ以外の領域とを含む。また、周辺車両６０１のセンサ検知範囲６０５は、オクルージョン領域６０４と、自車両６００のセンサ検知範囲６０２に含まれない領域６０６とを含む。
【０２４７】
周辺車両６０１は、周辺車両６０１が検知した情報を自車両６００に伝送する。自車両６００は、前走車などの周辺車両６０１が検知した情報を取得することで、オクルージョン領域６０４、及び、自車両６００のセンサ検知範囲６０２以外の領域６０６の三次元データ６０７を取得することが可能となる。自車両６００は、周辺車両６０１が取得した情報を用いて、オクルージョン領域６０４及びセンサ検知範囲外の領域６０６の三次元データを補完する。
【０２４８】
車両、又はロボットの自律動作における三次元データの用途は、自己位置推定、周辺状況の検知、またはその両方である。例えば、自己位置推定には、自車両６００のセンサ情報に基づき自車両６００で生成した三次元データが使用される。周辺状況の検知には、自車両６００で生成した三次元データに加え、周辺車両６０１から取得した三次元データも使用される。
【０２４９】
三次元データ６０７を自車両６００に伝送する周辺車両６０１は、自車両６００の状態に応じて決定されてもよい。例えば、この周辺車両６０１は、自車両６００の直進時には前走車であり、自車両６００の右折時には対向車であり、自車両６００の後退時には後方車である。また、自車両６００のドライバが、三次元データ６０７を自車両６００に伝送する周辺車両６０１を直接指定してもよい。
【０２５０】
また、自車両６００は、三次元データ６０７を取得したい空間内に含まれる、自車両６００で取得できない領域の三次元データを所有している周辺車両６０１を探索してもよい。自車両６００で取得できない領域とは、オクルージョン領域６０４又はセンサ検知範囲６０２外の領域６０６などである。
【０２５１】
また、自車両６００は、オクルージョン領域６０４を自車両６００のセンサ情報に基づいて特定してもよい。例えば、自車両６００は、自車両６００のセンサ検知範囲６０２内に含まれる、三次元データを作成できない領域をオクルージョン領域６０４であると特定する。
【０２５２】
以下、三次元データ６０７を伝送するのが前走車である場合の動作例を説明する。図２５は、この場合の伝送される三次元データの一例を示す図である。
【０２５３】
図２５に示すように、前走車から伝送される三次元データ６０７は、例えば、ポイントクラウドのスパースワールド（ＳＷＬＤ）である。つまり、前走車は、当該前走車のセンサで検知した情報からＷＬＤの三次元データ（ポイントクラウド）を作成し、ＷＬＤの三次元データから特徴量が閾値以上のデータを抽出することでＳＷＬＤの三次元データ（ポイントクラウド）を作成する。そして、前走車は、作成したＳＷＬＤの三次元データを自車両６００に伝送する。
【０２５４】
自車両６００は、ＳＷＬＤを受け取り、自車両６００で作成したポイントクラウドに、受け取ったＳＷＬＤをマージする。
【０２５５】
伝送されるＳＷＬＤは絶対座標（三次元マップの座標系におけるＳＷＬＤの位置）の情報を持っている。自車両６００は、この絶対座標に基づいて、自車両６００で生成したポイントクラウドを上書きすることによりマージ処理を実現できる。
【０２５６】
周辺車両６０１から伝送されるＳＷＬＤは、自車両６００のセンサ検知範囲６０２外かつ周辺車両６０１のセンサ検知範囲６０５内の領域６０６のＳＷＬＤ、或いは、自車両６００にとってのオクルージョン領域６０４のＳＷＬＤ、又は、その両方のＳＷＬＤでもよい。また、伝送されるＳＷＬＤは、上記のＳＷＬＤのうち、周辺車両６０１が周辺状況の検知に使用している領域のＳＷＬＤでもよい。
【０２５７】
また、周辺車両６０１は、自車両６００と周辺車両６０１との速度差に基づく通信可能時間に応じて、伝送されるポイントクラウドの密度を変化させてもよい。例えば、速度差が大きく通信可能時間が短い場合は、周辺車両６０１は、ＳＷＬＤの中から、特徴量の大きな三次元点を抽出することで、ポイントクラウドの密度（データ量）を低くしてもよい。
【０２５８】
また、周辺状況の検知とは、人、車両、及び道路工事用の機材などの存在の有無を判定し、その種類を特定し、その位置、移動方向、及び移動速度などを検知することである。
【０２５９】
また、自車両６００は、周辺車両６０１で生成された三次元データ６０７の代わりに、又は、三次元データ６０７に加え、周辺車両６０１の制動情報を取得してもよい。ここで、周辺車両６０１の制動情報とは、例えば、周辺車両６０１のアクセル或いはブレーキが踏まれたこと、又はその度合いを示す情報である。
【０２６０】
また、各車両で生成されるポイントクラウドでは、車両間の低遅延通信を考慮して、ランダムアクセス単位に三次元空間が細分化される。一方で、サーバからダウンロードされる地図データである三次元地図等は、三次元空間が、車両間通信の場合と比べて大きなランダムアクセス単位に分割される。
【０２６１】
前走車の前方の領域又は後走車の後方の領域などのオクルージョン領域になりやすい領域のデータは低遅延向けデータとして、細かいランダムアクセス単位に分割される。
【０２６２】
高速走行時には正面の重要性が高まるため、各車両は、高速走行時には、視野角を狭めた範囲のＳＷＬＤを細かいランダムアクセス単位で作成する。
【０２６３】
前走車が伝送用に作成したＳＷＬＤ内に自車両６００でポイントクラウドの取得が可能な領域が含まれる場合、前走車は、その領域のポイントクラウドを取り除くことにより伝送量を削減してもよい。
【０２６４】
次に、本実施の形態に係る三次元データ受信装置である三次元データ作成装置６２０の構成及び動作を説明する。
【０２６５】
図２６は、本実施の形態に係る三次元データ作成装置６２０のブロック図である。この三次元データ作成装置６２０は、例えば、上述した自車両６００に含まれ、三次元データ作成装置６２０が作成した第１三次元データ６３２に、受信した第２三次元データ６３５を合成することで、より密な第３三次元データ６３６を作成する。
【０２６６】
この三次元データ作成装置６２０は、三次元データ作成部６２１と、要求範囲決定部６２２と、探索部６２３と、受信部６２４と、復号部６２５と、合成部６２６とを備える。図２７は、三次元データ作成装置６２０の動作を示すフローチャートである。
【０２６７】
まず、三次元データ作成部６２１は、自車両６００が備えるセンサで検知したセンサ情報６３１を用いて第１三次元データ６３２を作成する（Ｓ６２１）。次に、要求範囲決定部６２２は、作成した第１三次元データ６３２の中でデータが不足している三次元空間範囲である要求範囲を決定する（Ｓ６２２）。
【０２６８】
次に、探索部６２３は、要求範囲の三次元データを所有する周辺車両６０１を探索し、探索により特定した周辺車両６０１に要求範囲を示す要求範囲情報６３３を送信する（Ｓ６２３）。次に、受信部６２４は、周辺車両６０１から、要求範囲の符号化ストリームである符号化三次元データ６３４を受信する（Ｓ６２４）。なお、探索部６２３は、特定範囲に存在する全ての車両に対し、無差別にリクエストを出し、応答があった相手から符号化三次元データ６３４を受信してもよい。また、探索部６２３は、車両に限らず、信号機又は標識などの物体にリクエストを出し、当該物体から符号化三次元データ６３４を受信してもよい。
【０２６９】
次に、復号部６２５は、受信した符号化三次元データ６３４を復号することで第２三次元データ６３５を取得する（Ｓ６２５）。次に、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで、より密な第３三次元データ６３６を作成する（Ｓ６２６）。
【０２７０】
次に、本実施の形態に係る三次元データ送信装置６４０の構成及び動作を説明する。図２８は、三次元データ送信装置６４０のブロック図である。
【０２７１】
三次元データ送信装置６４０は、例えば、上述した周辺車両６０１に含まれ、周辺車両６０１が作成した第５三次元データ６５２を自車両６００が要求する第６三次元データ６５４に加工し、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成し、符号化三次元データ６３４を自車両６００に送信する。
【０２７２】
三次元データ送信装置６４０は、三次元データ作成部６４１と、受信部６４２と、抽出部６４３と、符号化部６４４と、送信部６４５とを備える。図２９は、三次元データ送信装置６４０の動作を示すフローチャートである。
【０２７３】
まず、三次元データ作成部６４１は、周辺車両６０１が備えるセンサで検知したセンサ情報６５１を用いて第５三次元データ６５２を作成する（Ｓ６４１）。次に、受信部６４２は、自車両６００から送信された要求範囲情報６３３を受信する（Ｓ６４２）。
【０２７４】
次に、抽出部６４３は、第５三次元データ６５２から、要求範囲情報６３３で示される要求範囲の三次元データを抽出することで、第５三次元データ６５２を第６三次元データ６５４に加工する（Ｓ６４３）。次に、符号化部６４４は、第６三次元データ６５４を符号化することで、符号化ストリームである符号化三次元データ６３４を生成する（Ｓ６４４）。そして、送信部６４５は、自車両６００へ符号化三次元データ６３４を送信する（Ｓ６４５）。
【０２７５】
なお、ここでは、自車両６００が三次元データ作成装置６２０を備え、周辺車両６０１が三次元データ送信装置６４０を備える例を説明するが、各車両が、三次元データ作成装置６２０と三次元データ送信装置６４０との機能を有してもよい。
【０２７６】
以下、三次元データ作成装置６２０が、自車両６００の周辺状況の検知処理を実現する周辺状況検知装置である場合の構成及び動作を説明する。図３０は、この場合の三次元データ作成装置６２０Ａの構成を示すブロック図である。図３０に示す三次元データ作成装置６２０Ａは、図２６に示す三次元データ作成装置６２０の構成に加え、さらに、検知領域決定部６２７と、周辺状況検知部６２８と、自律動作制御部６２９とを備える。また、三次元データ作成装置６２０Ａは、自車両６００に含まれる。
【０２７７】
図３１は、三次元データ作成装置６２０Ａによる自車両６００の周辺状況検知処理のフローチャートである。
【０２７８】
まず、三次元データ作成部６２１は、自車両６００が備えるセンサで検知した、自車両６００の検知範囲のセンサ情報６３１を用いてポイントクラウドである第１三次元データ６３２を作成する（Ｓ６６１）。なお、三次元データ作成装置６２０Ａは、さらに、センサ情報６３１を用いて自己位置推定を行ってもよい。
【０２７９】
次に、検知領域決定部６２７は、周辺状況を検知したい空間領域である検知対象範囲を決定する（Ｓ６６２）。例えば、検知領域決定部６２７は、自車両６００の走行方向及び速度などの自律動作（自動運転）の状況に応じて、自律動作を安全に行うための周辺状況検知に必要な領域を算出し、当該領域を検知対象範囲に決定する。
【０２８０】
次に、要求範囲決定部６２２は、オクルージョン領域６０４と、自車両６００のセンサの検知範囲外であるが周辺状況検知に必要な空間領域とを要求範囲をとして決定する（Ｓ６６３）。
【０２８１】
ステップＳ６６３において決定された要求範囲が存在する場合（Ｓ６６４でＹｅｓ）、探索部６２３は、要求範囲に関する情報を所有する周辺車両を探索する。例えば、探索部６２３は、周辺車両に、要求範囲に関する情報を所有しているか問合せてもよいし、要求範囲と周辺車両との位置に基づき、当該周辺車両が要求範囲に関する情報を所有しているかを判断してもよい。次に、探索部６２３は、探索により特定した周辺車両６０１に対して、三次元データの伝送を依頼する依頼信号６３７を送信する。そして、探索部６２３は、周辺車両６０１から送信された、依頼信号６３７の依頼を受ける旨を示す許可信号を受信した後、要求範囲を示す要求範囲情報６３３を周辺車両６０１に送信する（Ｓ６６５）。
【０２８２】
次に、受信部６２４は、要求範囲に関する情報である送信データ６３８の伝送通知を検知し、当該送信データ６３８を受信する（Ｓ６６６）。
【０２８３】
なお、三次元データ作成装置６２０Ａは、リクエストを送る相手を探索することなく、特定範囲に存在する全ての車両に対し、無差別にリクエストを出し、要求範囲に関する情報を持っていると応答があった相手から送信データ６３８を受信してもよい。また、探索部６２３は、車両に限らず、信号機又は標識などの物体にリクエストを出し、当該物体から送信データ６３８を受信してもよい。
【０２８４】
また、送信データ６３８は、周辺車両６０１で生成された、要求範囲の三次元データが符号化された符号化三次元データ６３４、及び、要求範囲の周辺状況検知結果６３９の少なくとも一方を含む。周辺状況検知結果６３９は、周辺車両６０１が検知した人及び車両の位置、移動方向及び移動速度等を示す。また、送信データ６３８は、周辺車両６０１の位置及び動き等を示す情報を含んでもよい。例えば、送信データ６３８は、周辺車両６０１の制動情報を含んでもよい。
【０２８５】
受信された送信データ６３８に符号化三次元データ６３４が含まれる場合（Ｓ６６７でＹｅｓ）、復号部６２５は、符号化三次元データ６３４を復号することでＳＷＬＤの第２三次元データ６３５を取得する（Ｓ６６８）。つまり、第２三次元データ６３５は、第４三次元データ（ＷＬＤ）から特徴量が閾値以上のデータが抽出されることで生成された三次元データ（ＳＷＬＤ）である。
【０２８６】
次に、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで第３三次元データ６３６を生成する（Ｓ６６９）。
【０２８７】
次に、周辺状況検知部６２８は、周辺状況検知に必要な空間領域のポイントクラウドである第３三次元データ６３６を用いて、自車両６００の周辺状況を検知する（Ｓ６７０）。なお、受信された送信データ６３８に周辺状況検知結果６３９が含まれる場合には、周辺状況検知部６２８は、第３三次元データ６３６に加えて周辺状況検知結果６３９を用いて、自車両６００の周辺状況を検知する。また、受信された送信データ６３８に周辺車両６０１の制動情報が含まれる場合には、周辺状況検知部６２８は、第３三次元データ６３６に加えて当該制動情報を用いて、自車両６００の周辺状況を検知する。
【０２８８】
次に、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。なお、ＵＩ（ユーザインタフェース）などを通して周辺状況検知結果がドライバに提示されてもよい。
【０２８９】
一方、ステップＳ６６３において要求範囲が存在しない場合、（Ｓ６６４でＮｏ）、つまり、周辺状況検知に必要な全ての空間領域の情報を、センサ情報６３１に基づき作成できた場合、周辺状況検知部６２８は、周辺状況検知に必要な空間領域のポイントクラウドである第１三次元データ６３２を用いて、自車両６００の周辺状況を検知する（Ｓ６７２）。そして、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。
【０２９０】
また、受信された送信データ６３８に符号化三次元データ６３４が含まれない場合（Ｓ６６７でＮｏ）、つまり、送信データ６３８に、周辺車両６０１の周辺状況検知結果６３９又は制動情報のみが含まれる場合、周辺状況検知部６２８は、第１三次元データ６３２と、周辺状況検知結果６３９又は制動情報を用いて、自車両６００の周辺状況を検知する（Ｓ６７３）。そして、自律動作制御部６２９は、周辺状況検知部６２８による周辺状況検知結果に基づき自車両６００の自律動作（自動運転）を制御する（Ｓ６７１）。
【０２９１】
次に、上記三次元データ作成装置６２０Ａに送信データ６３８を送信する三次元データ送信装置６４０Ａについて説明する。図３２は、この三次元データ送信装置６４０Ａのブロック図である。
【０２９２】
図３２に示す三次元データ送信装置６４０Ａは、図２８に示す三次元データ送信装置６４０の構成に加え、さらに、伝送可否判定部６４６を備える。また、三次元データ送信装置６４０Ａは、周辺車両６０１に含まれる。
【０２９３】
図３３は、三次元データ送信装置６４０Ａの動作例を示すフローチャートである。まず、三次元データ作成部６４１は、周辺車両６０１が備えるセンサで検知したセンサ情報６５１を用いて第５三次元データ６５２を作成する（Ｓ６８１）。
【０２９４】
次に、受信部６４２は、自車両６００から、三次元データの伝送要求を依頼する依頼信号６３７を受信する（Ｓ６８２）。次に、伝送可否判定部６４６は、依頼信号６３７で示される依頼に応じるかどうかを決定する（Ｓ６８３）。例えば、伝送可否判定部６４６は、ユーザにより予め設定されている内容に基づき、依頼に応じるかどうかを決定する。なお、受信部６４２が要求範囲などの相手のリクエストを先に受け取り、伝送可否判定部６４６は、その内容によって依頼に応じるかどうか決定してもよい。例えば、伝送可否判定部６４６は、要求範囲の三次元データを所持している場合に、依頼に応じると決定し、要求範囲の三次元データを所持していない場合に、依頼に応じないと決定してもよい。
【０２９５】
依頼に応じる場合（Ｓ６８３でＹｅｓ）、三次元データ送信装置６４０Ａは許可信号を自車両６００に送信し、受信部６４２は要求範囲を示す要求範囲情報６３３を受信する（Ｓ６８４）。次に、抽出部６４３は、ポイントクラウドである第５三次元データ６５２から要求範囲のポイントクラウドを切り出し、切り出したポイントクラウドのＳＷＬＤである第６三次元データ６５４を含む送信データ６３８を作成する（Ｓ６８５）。
【０２９６】
つまり、三次元データ送信装置６４０Ａは、センサ情報６５１から第７三次元データ（ＷＬＤ）を作成し、第７三次元データ（ＷＬＤ）から特徴量が閾値以上のデータを抽出することで第５三次元データ６５２（ＳＷＬＤ）を作成する。なお、三次元データ作成部６４１が予めＳＷＬＤの三次元データを作成しておき、抽出部６４３においてＳＷＬＤの三次元データから要求範囲のＳＷＬＤの三次元データが抽出されてもよいし、抽出部６４３が、要求範囲のＷＬＤの三次元データから要求範囲のＳＷＬＤの三次元データを生成してもよい。
【０２９７】
また、送信データ６３８は、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報を含んでもよい。また、送信データ６３８は、第６三次元データ６５４を含まず、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報のうちの少なくとも一方のみを含んでもよい。
【０２９８】
送信データ６３８が第６三次元データ６５４を含む場合（Ｓ６８６でＹｅｓ）、符号化部６４４は、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成する（Ｓ６８７）。
【０２９９】
そして、送信部６４５は、符号化三次元データ６３４を含む送信データ６３８を自車両６００に送信する（Ｓ６８８）。
【０３００】
一方、送信データ６３８が第６三次元データ６５４を含まない場合（Ｓ６８６でＮｏ）、送信部６４５は、周辺車両６０１による要求範囲の周辺状況検知結果６３９、及び、周辺車両６０１の制動情報の少なくとも一方を含む送信データ６３８を自車両６００に送信する（Ｓ６８８）。
【０３０１】
以下、本実施の形態の変形例について説明する。
【０３０２】
例えば、周辺車両６０１から伝送される情報は、周辺車両が作成した三次元データ又は周辺状況検知結果でなくてもよく、周辺車両６０１自身の正確な特徴点情報であってもよい。自車両６００は、この周辺車両６０１の特徴点情報を用いて、自車両６００で取得したポイントクラウド内の前走車の特徴点情報を補正する。これにより、自車両６００は、自己位置推定時のマッチング精度を向上できる。
【０３０３】
また、前走車の特徴点情報は、例えば、色情報及び座標情報からなる三次元点情報である。これにより、自車両６００のセンサがレーザセンサであっても、ステレオカメラであっても、その種類に依存することなく前走車の特徴点情報を使用できる。
【０３０４】
なお、自車両６００は、伝送時に限らず、自己位置推定時の精度を算出する際に、ＳＷＬＤのポイントクラウドを用いてもよい。例えば、自車両６００のセンサがステレオカメラなどの撮像装置である場合、自車両６００がカメラで撮影した画像上で二次元点を検出し、その二次元点を用いて自己位置を推定する。また、自車両６００は、自己位置と同時に周辺物体のポイントクラウドを作成する。自車両６００は、その中のＳＷＬＤの三次元点を二次元画像上に再投影し、二次元画像上での検出点と再投影点との誤差に基づき自己位置推定の精度を評価する。
【０３０５】
また、自車両６００のセンサがＬＩＤＡＲなどのレーザセンサである場合、自車両６００は、作成したポイントクラウドのＳＷＬＤと、三次元地図のＳＷＬＤとを用いてＩｔｅｒａｔｉｖｅ  Ｃｌｏｓｅｓｔ  Ｐｏｉｎｔにより算出した誤差に基づき自己位置推定の精度を評価する。
【０３０６】
また、５Ｇなど基地局又はサーバ経由の通信状態が悪い場合には、自車両６００は、周辺車両６０１から三次元地図を取得してもよい。
【０３０７】
また、自車両６００の周辺の車両から取得できない遠方の情報を車車間通信により取得してもよい。例えば、自車両６００は、数百メートル、又は数キロ先の発生直後の交通事故情報などを対向車からのすれ違い通信、又は周辺車両に順次伝えていくリレー方式などにより取得してもよい。この時、伝送されるデータのデータ形式が、動的三次元地図の上位レイヤのメタ情報として伝送される。
【０３０８】
また、周辺状況の検知結果、及び自車両６００が検知した情報が、ユーザインタフェースを通じてユーザに提示されてもよい。例えば、カーナビの画面、又はフロントウィンドウへの重畳によりこれらの情報の提示が実現される。
【０３０９】
また、自動運転をサポートしておらず、クルーズコントロールを有する車両は、自動運転モードで走行中の周辺車両を発見し、当該周辺車両を追尾してもよい。
【０３１０】
また、自車両６００は、三次元地図を取得できない、又はオクルージョン領域が多過ぎるなどの理由から自己位置推定が不可能な場合に動作モードを、自動運転モードから周辺車両の追尾モードに切り替えてもよい。
【０３１１】
また、追尾される車両には、追尾されていることをユーザに警告し、追尾を許可するかどうかをユーザが指定できるユーザインタフェースが搭載されてもよい。その際、追尾する車両に広告表示し、追尾される側にインセンティブを支払うなどの仕組みが設けられてもよい。
【０３１２】
また、伝送される情報は、三次元データであるＳＷＬＤを基本とするが、自車両６００に設定されている要求設定又は前走車の公開設定に応じた情報であってもよい。例えば、伝送される情報は、密なポイントクラウドであるＷＬＤでもよいし、前走車による周辺状況の検知結果でもよいし、前走車の制動情報でもよい。
【０３１３】
また、自車両６００は、ＷＬＤを受信し、ＷＬＤの三次元データを視覚化し、視覚化した三次元データをＧＵＩを用いてドライバに提示してもよい。その際、自車両６００は、自車両６００で作成したポイントクラウドと受信したポイントクラウドとをユーザが区別できるように、情報に色分けなどを施して提示してもよい。
【０３１４】
また、自車両６００は、自車両６００で検知した情報と周辺車両６０１の検知結果とをＧＵＩでドライバに提示する場合、自車両６００で検知した情報と受信した検知結果とをユーザが区別できるのうように、情報に色分けなどを施して提示してもよい。
【０３１５】
以上のように、本実施の形態に係る三次元データ作成装置６２０では、三次元データ作成部６２１は、センサで検知したセンサ情報６３１から第１三次元データ６３２を作成する。受信部６２４は、第２三次元データ６３５が符号化された符号化三次元データ６３４を受信する。復号部６２５は、受信した符号化三次元データ６３４を復号することで第２三次元データ６３５を取得する。合成部６２６は、第１三次元データ６３２と第２三次元データ６３５とを合成することで第３三次元データ６３６を作成する。
【０３１６】
これによれば、三次元データ作成装置６２０は、作成した第１三次元データ６３２と、受信した第２三次元データ６３５とを用いて、詳細な第３三次元データ６３６を作成できる。
【０３１７】
また、合成部６２６は、第１三次元データ６３２と第２三次元データ６３５を合成することで、第１三次元データ６３２及び第２三次元データ６３５よりも密度が高い第３三次元データ６３６を作成する。
【０３１８】
また、第２三次元データ６３５（例えばＳＷＬＤ）は、第４三次元データ（例えばＷＬＤ）から特徴量が閾値以上のデータが抽出されることで生成された三次元データである。
【０３１９】
これによれば、三次元データ作成装置６２０は、伝送される三次元データのデータ量を削減できる。
【０３２０】
また、三次元データ作成装置６２０は、さらに、符号化三次元データ６３４の送信元である送信装置を探索する探索部６２３を含む。受信部６２４は、探索された送信装置から符号化三次元データ６３４を受信する。
【０３２１】
これによれば、三次元データ作成装置６２０は、例えば、必要な三次元データを所有する送信装置を探索により特定できる。
【０３２２】
また、三次元データ作成装置は、さらに、三次元データを要求する三次元空間の範囲である要求範囲を決定する要求範囲決定部６２２を備える。探索部６２３は、要求範囲を示す要求範囲情報６３３を送信装置に送信する。第２三次元データ６３５は、要求範囲の三次元データを含む。
【０３２３】
これによれば、三次元データ作成装置６２０は、必要な三次元データを受信できるとともに、伝送される三次元データのデータ量を削減できる。
【０３２４】
また、要求範囲決定部６２２は、センサで検知できないオクルージョン領域６０４を含む空間範囲を要求範囲に決定する。
【０３２５】
また、本実施の形態に係る三次元データ送信装置６４０では、三次元データ作成部６４１は、センサで検知したセンサ情報６５１から第５三次元データ６５２を作成する。抽出部６４３は、第５三次元データ６５２の一部を抽出することで第６三次元データ６５４を作成する。符号化部６４４は、第６三次元データ６５４を符号化することで符号化三次元データ６３４を生成する。送信部６４５は、符号化三次元データ６３４を送信する。
【０３２６】
これによれば、三次元データ送信装置６４０は、自身が作成した三次元データを他の装置に送信できるとともに、伝送される三次元データのデータ量を削減できる。
【０３２７】
また、三次元データ作成部６４１は、センサで検知したセンサ情報６５１から第７三次元データ（例えばＷＬＤ）を作成し、第７三次元データから特徴量が閾値以上のデータを抽出することで第５三次元データ６５２（例えばＳＷＬＤ）を作成する。
【０３２８】
これによれば、三次元データ送信装置６４０は、伝送される三次元データのデータ量を削減できる。
【０３２９】
また、三次元データ送信装置６４０は、さらに、受信装置から、三次元データを要求する三次元空間の範囲である要求範囲を示す要求範囲情報６３３を受信する受信部６４２を含む。抽出部６４３は、第５三次元データ６５２から、要求範囲の三次元データを抽出することで第６三次元データ６５４を作成する。送信部６４５は、受信装置に符号化三次元データ６３４を送信する。
【０３３０】
これによれば、三次元データ送信装置６４０は、伝送される三次元データのデータ量を削減できる。
【０３３１】
（実施の形態４）
本実施の形態では、三次元マップに基づく自己位置推定における異常系の動作について説明する。
【０３３２】
車の自動運転、又は、ロボット、或いはドローンなどの飛行体などの移動体を自律的に移動させるなどの用途が今後拡大すると予想される。このような自律的な移動を実現する手段の一例として、移動体が、三次元マップ内における自らの位置を推定（自己位置推定）しながら、マップに従って走行する方法がある。
【０３３３】
自己位置推定は、三次元マップと、自車に搭載したレンジファインダー（ＬｉＤＡＲなど）又はステレオカメラなどのセンサにより取得した自車周辺の三次元情報（以降、自車検知三次元データ）とをマッチングして、三次元マップ内の自車位置を推定することで実現できる。
【０３３４】
三次元マップは、ＨＥＲＥ社が提唱するＨＤマップなどのように、三次元のポイントクラウドだけでなく、道路及び交差点の形状情報など二次元の地図データ、又は、渋滞及び事故などの実時間で変化する情報を含んでもよい。三次元データ、二次元データ、実時間で変化するメタデータなど複数のレイヤから三次元マップが構成され、装置は、必要なデータのみを取得、又は、参照することも可能である。
【０３３５】
ポイントクラウドのデータは、上述したＳＷＬＤであってもよいし、特徴点ではない点群データを含んでもよい。また、ポイントクラウドのデータの送受信は、１つ、または、複数のランダムアクセス単位を基本として行われる。
【０３３６】
三次元マップと自車検知三次元データとのマッチング方法として以下の方法を用いることができる。例えば、装置は、互いのポイントクラウドにおける点群の形状を比較し、特徴点間の類似度が高い部位が同一位置であると決定する。また、装置は、三次元マップがＳＷＬＤから構成される場合、ＳＷＬＤを構成する特徴点と、自車検知三次元データから抽出した三次元特徴点とを比較してマッチングを行う。
【０３３７】
ここで、高精度に自己位置推定を行うためには、（Ａ）三次元マップと自車検知三次元データが取得できており、かつ、（Ｂ）それらの精度が予め定められた基準を満たすことが必要となる。しかしながら、以下のような異常ケースでは、（Ａ）又は（Ｂ）が満たせない。
【０３３８】
（１）三次元マップを通信経由で取得できない。
【０３３９】
（２）三次元マップが存在しない、又は、三次元マップを取得したが破損している。
【０３４０】
（３）自車のセンサが故障している、又は、悪天候のために、自車検知三次元データの生成精度が十分でない。
【０３４１】
これらの異常ケースに対処するための動作を、以下で説明する。以下では、車を例に動作を説明するが、以下の手法は、ロボット又はドローンなど、自律的に移動する動物体全般に対して適用できる。
【０３４２】
以下、三次元マップ又は自車検知三次元データにおける異常ケースに対応するための、本実施の形態に係る三次元情報処理装置の構成及び動作を説明する。図３４は、本実施の形態に係る三次元情報処理装置７００の構成例を示すブロック図である。図３５は、三次元情報処理装置７００による三次元情報処理方法のフローチャートである。
【０３４３】
三次元情報処理装置７００は、例えば、自動車等の動物体に搭載される。図３４に示すように、三次元情報処理装置７００は、三次元マップ取得部７０１と、自車検知データ取得部７０２と、異常ケース判定部７０３と、対処動作決定部７０４と、動作制御部７０５とを備える。
【０３４４】
なお、三次元情報処理装置７００は、二次元画像を取得するカメラ、又は、超音波或いはレーザーを用いた一次元データのセンサなど、自車周辺の構造物又は動物体を検知するための図示しない二次元又は一次元のセンサを備えてもよい。また、三次元情報処理装置７００は、三次元マップを４Ｇ或いは５Ｇなどの移動体通信網、又は、車車間通信或いは路車間通信により取得するための通信部（図示せず）を備えてもよい。
【０３４５】
図３５に示すように、三次元マップ取得部７０１は、走行経路近傍の三次元マップ７１１を取得する（Ｓ７０１）。例えば、三次元マップ取得部７０１は、移動体通信網、又は、車車間通信或いは路車間通信により三次元マップ７１１を取得する。
【０３４６】
次に、自車検知データ取得部７０２は、センサ情報に基づいて自車検知三次元データ７１２を取得する（Ｓ７０２）。例えば、自車検知データ取得部７０２は、自車が備えるセンサにより取得されたセンサ情報に基づき、自車検知三次元データ７１２を生成する。
【０３４７】
次に、異常ケース判定部７０３は、取得した三次元マップ７１１及び自車検知三次元データ７１２の少なくとも一方に対して予め定められたチェックを実施することで異常ケースを検出する（Ｓ７０３）。つまり、異常ケース判定部７０３は、取得した三次元マップ７１１及び自車検知三次元データ７１２の少なくとも一方が異常であるかを判定する。
【０３４８】
ステップＳ７０３において、異常ケースが検出された場合（Ｓ７０４でＹｅｓ）、対処動作決定部７０４は、異常ケースに対する対処動作を決定する（Ｓ７０５）。次に、動作制御部７０５は、三次元マップ取得部７０１など、対処動作の実施に必要となる各処理部の動作を制御する（Ｓ７０６）。
【０３４９】
一方、ステップＳ７０３において、異常ケースが検出されない場合（Ｓ７０４でＮｏ）、三次元情報処理装置７００は、処理を終了する。
【０３５０】
また、三次元情報処理装置７００は、三次元マップ７１１と自車検知三次元データ７１２とを用いて、三次元情報処理装置７００を有する車両の自己位置推定を行う。次に、三次元情報処理装置７００は、自己位置推定の結果を用いて、当該車両を自動運転する。
【０３５１】
このように、三次元情報処理装置７００は、第１の三次元位置情報を含むマップデータ（三次元マップ７１１）を通信路を介して取得する。例えば、第１の三次元位置情報は、三次元の座標情報を有する部分空間を単位として符号化され、各々が１以上の部分空間の集合体であり、各々を独立に復号可能な複数のランダムアクセス単位を含む。例えば、第１の三次元位置情報は、三次元の特徴量が所定の閾値以上となる特徴点が符号化されたデータ（ＳＷＬＤ）である。
【０３５２】
また、三次元情報処理装置７００は、センサで検知した情報から第２の三次元位置情報（自車検知三次元データ７１２）を生成する。次に、三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報に対して異常判定処理を実施することで、第１の三次元位置情報又は前記第２の三次元位置情報が異常であるかどうかを判定する。
【０３５３】
三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報が異常であると判定された場合、当該異常に対する対処動作を決定する。次に、三次元情報処理装置７００は、対処動作の実施に必要となる制御を実施する。
【０３５４】
これにより、三次元情報処理装置７００は、第１の三次元位置情報又は第２の三次元位置情報の異常を検知し、対処動作を行うことができる。
【０３５５】
以下、異常ケース１である、三次元マップ７１１が通信経由で取得できない場合に対する対処動作について説明する。
【０３５６】
自己位置推定には三次元マップ７１１が必要であるが、車両は、目的地までの経路に対応する三次元マップ７１１を予め取得していない場合には、三次元マップ７１１を通信により取得する必要がある。しかしながら、通信路の輻輳又は電波受信状態の悪化などにより、車両が、走行系路上の三次元マップ７１１を取得できないことがある。
【０３５７】
異常ケース判定部７０３は、目的地までの経路上の全ての区間、又は、現在位置から所定の範囲内の区間における三次元マップ７１１が取得済みであるかを確認し、取得できていない場合は異常ケース１と判定する。つまり、異常ケース判定部７０３は、三次元マップ７１１（第１の三次元位置情報）を通信路を介して取得できるかどうかを判定し、三次元マップ７１１を通信路を介して取得できない場合、三次元マップ７１１が異常であると判定する。
【０３５８】
異常ケース１と判定された場合、対処動作決定部７０４は、（１）自己位置推定を継続する、及び、（２）自己位置推定を停止する、の２つのタイプの対処動作のうち一方を選択する。
【０３５９】
まず、（１）自己位置推定を継続する場合の対処動作の具体例について説明する。自己位置推定を継続する場合には、目的地までの経路上の三次元マップ７１１が必要となる。
【０３６０】
例えば、車両は、三次元マップ７１１を取得済みの範囲内で通信路が利用可能な場所を判定し、その場所まで移動して、三次元マップ７１１を取得する。このとき、車両は、目的地までの全ての三次元マップ７１１を取得してもよいし、自車のメモリ或いはＨＤＤなどの記録部に保持できる上限サイズ内でランダムアクセス単位毎に三次元マップ７１１を取得してもよい。
【０３６１】
なお、車両は、経路上の通信状態を別途取得し、経路上の通信状態が不良となることが予測できる場合には、通信状態が不良である区間に到達する前に当該区間の三次元マップ７１１を予め取得しておく、又は、取得可能な最大限の範囲の三次元マップ７１１を取得しておくように動作してもよい。つまり、三次元情報処理装置７００は、車両が通信状態が悪い領域に進入するかを予測する。三次元情報処理装置７００は、車両が通信状態が悪い領域に進入すると予測された場合、当該車両が当該領域に侵入するまえに、三次元マップ７１１を取得する。
【０３６２】
また、車両は、通常時よりも狭い範囲となる、経路上の自己位置推定に必要な最小限の三次元マップ７１１を構成するランダムアクセス単位を特定し、特定したランダムアクセス単位を受信してもよい。つまり、三次元情報処理装置７００は、三次元マップ７１１（第１の三次元位置情報）を通信路を介して取得できない場合、第１の三次元位置情報より狭い範囲の第３の三次元位置情報を通信路を介して取得してもよい。
【０３６３】
また、車両は、三次元マップ７１１の配信サーバへのアクセスができない場合において、自車周辺を走行中の他車など、目的地までの経路上の三次元マップ７１１を取得済みであり、かつ、自車と通信可能な移動体から、三次元マップ７１１を取得してもよい。
【０３６４】
次に、（２）自己位置推定を停止する場合の対処動作の具体例を説明する。この場合、目的地までの経路上の三次元マップ７１１は不要である。
【０３６５】
例えば、車両は、自己位置推定に基づく自動運転などの機能が継続できない旨を運転者に通知し、動作モードを、運転者が運転を行うマニュアルモードに移行する。
【０３６６】
通常、自己位置推定を行う際は、人の介在度に応じたレベルの違いはあるものの、自動運転が行われる。一方で、自己位置推定の結果は、人が運転する際のナビゲーション等としての利用することも可能である。よって、自己位置推定の結果は、必ずしも自動運転に使用されてなくてもよい。
【０３６７】
また、車両は、４Ｇ又は５Ｇなどの移動体通信網など通常使用する通信路が利用できない場合は、路車間のＷｉ‐Ｆｉ（登録商標）或いはミリ波通信、又は、車車間の通信など、別の通信路経由で三次元マップ７１１を取得できるかどうかを確認し、使用する通信路を、三次元マップ７１１を取得可能な通信路に切り替えてもよい。
【０３６８】
また、車両は、三次元マップ７１１を取得できない場合には、二次元マップを取得し、二次元マップと自車検知三次元データ７１２を用いて自動運転を継続してもよい。つまり、三次元情報処理装置７００は、三次元マップ７１１を通信路を介して取得できない場合、二次元位置情報を含むマップデータ（二次元マップ）を通信路を介して取得し、二次元位置情報と自車検知三次元データ７１２とを用いて車両の自己位置推定を行ってもよい。
【０３６９】
具体的には、車両は、自己位置推定には、二次元マップと自車検知三次元データ７１２を使用し、周辺の車両、歩行者、及び障害物などの検知には自車検知三次元データ７１２を用いる。
【０３７０】
ここで、ＨＤマップなどの地図データには、三次元のポイントクラウドなどから構成される三次元マップ７１１と共に、二次元の地図データ（二次元マップ）と、二次元の地図データから道路形状或いは交差点などの特徴的な情報を抜き出した簡易版の地図データと、渋滞、事故又は工事などの実時間情報を表すメタデータとを含めることができる。例えば、地図データは、下位レイヤから順に、三次元データ（三次元マップ７１１）、二次元データ（二次元マップ）、メタデータが配置されたレイヤ構造を有する。
【０３７１】
ここで、二次元のデータは、三次元のデータに比べてデータサイズが小さい。よって、通信状態が悪くても車両は二次元マップを取得できる場合がある。または、車両は、通信状態が良い区間においてまとめて広い範囲の二次元マップを取得できる。従って、車両は、通信路の状態が悪く、三次元マップ７１１の取得が困難である場合は、三次元マップ７１１を受信せずに、二次元マップを含むレイヤを受信してもよい。なお、メタデータはデータサイズが小さいため、例えば、車両は、メタデータを通信状態によらず常に受信する。
【０３７２】
二次元マップと自車検知三次元データ７１２を用いた自己位置推定の方法には、例えば、以下の２通りの方法がある。
【０３７３】
第１の方法は、二次元特量のマッチングを行う方法である。具体的には、車両は、自車検知三次元データ７１２から二次元の特徴量を抽出し、抽出した二次元の特徴量と二次元マップとのマッチングを行う。
【０３７４】
例えば、車両は、自車検知三次元データ７１２を二次元マップと同一の平面に投影し、得られた二次元データと、二次元マップとをマッチングする。マッチングは、両者から抽出された二次元の画像特徴量を用いて行われる。
【０３７５】
三次元マップ７１１がＳＷＬＤを含む場合は、三次元マップ７１１は、三次元空間内の特徴点における三次元特徴量とともに、二次元マップと同一平面における二次元の特徴量を格納しておいてもよい。例えば、二次元の特徴量には識別情報が付与される。または、二次元の特徴量は、三次元データ及び二次元マップとは別レイヤに格納され、車両は、二次元マップと共に、二次元の特徴量のデータを取得する。
【０３７６】
二次元マップが道路内の白線、ガードレール及び建物など、地上からの高さが異なる（同一平面内にない）位置の情報を同一マップ内に示す場合には、車両は、自車検知三次元データ７１２における複数の高さのデータから特徴量を抽出する。
【０３７７】
また、二次元マップにおける特徴点と三次元マップ７１１における特徴点との対応関係を示す情報が、地図データのメタ情報として格納されてもよい。
【０３７８】
第２の方法は、三次元特徴量のマッチングを行う方法である。具体的には、車両は、二次元マップにおける特徴点に対応する三次元特徴量を取得し、取得した三次元特徴量と、自車検知三次元データ７１２の三次元特徴量とをマッチングする。
【０３７９】
具体的には、二次元マップにおける特徴点に対応する三次元特徴量が地図データに格納される。車両は、二次元マップの取得時に、この三次元特徴量を合わせて取得する。なお、三次元マップ７１１がＳＷＬＤを含む場合は、ＳＷＬＤにおける特徴点のうち、二次元マップの特徴点に対応する特徴点を識別する情報を付与することで、車両は、識別情報に基づいて、二次元マップと合わせて取得する三次元特徴量を決定できる。なお、この場合、二次元位置を表現できればよいので、三次元位置を表現する場合に比べて、データ量を削減できる。
【０３８０】
また、二次元マップを使用して自己位置推定する際には、三次元マップ７１１よりも自己位置推定の精度が低下する。従って、車両は、推定精度が低下しても自動運転を継続できるかどうか判定し、継続可と判定された場合にのみ、自動運転を継続してもよい。
【０３８１】
自動運転が継続できるかは、車両が走行中の道路が市街地、又は、高速道路など他の車両又は歩行者の進入が少ない道路であるか、道幅或いは道路の混雑度（車両又は歩行者の密度）などの走行環境にも影響される。さらに、事業所の敷地、街、又は建物内などには、カメラなどのセンサで認識するためのマーカーを配置することも可能である。これら特定エリアにおいては、二次元のセンサによってマーカーを高精度に認識できるため、例えば、二次元マップ内にマーカーの位置情報を含めることで、自己位置推定を高精度に実施できる。
【０３８２】
また、マップ内に各エリアが特定エリアであるかどうかを示す識別情報を含めることなどにより、車両は、当該車両が特定エリア内に存在するかを判定できる。車両は、当該車両が特定エリア内に存在する場合には、自動運転を継続すると判定する。このように、車両は、二次元マップ使用時の自己位置推定の精度、又は車両の走行環境に基づいて、自動運転継続の可否を判定してもよい。
【０３８３】
このように、三次元情報処理装置７００は、車両の走行環境（移動体の移動環境）に基づき、二次元マップと自車検知三次元データ７１２とを用いた車両の自己位置推定の結果を用いた車両の自動運転を行うか否かを判定する。
【０３８４】
また、車両は、自動運転継続の可否でなはなく、自己位置推定の精度又は車両の走行環境に応じて、自動運転のレベル（モード）を切り替えてもよい。ここで自動運転のレベル（モード）を切り替えるとは、例えば、速度を制限する、ドライバーの操作量を増やす（自動運転の自動レベルを下げる）、前方を走る車の運転情報を得てそれを参考に運転するモードに切り替える、同一の目的地を設定している車の運転情報を得てそれを用いて自動運転するモードに切り替える、などである。
【０３８５】
また、マップは、位置情報と対応付けられた、二次元マップを用いて自己位置推定する場合の自動運転の推奨レベルを示す情報を含んでもよい。推奨レベルは、交通量などに応じて動的に変化するメタデータであってもよい。これにより、車両は、周辺の環境等に応じて逐次レベルを判定することなく、マップ内の情報を取得するだけでレベルを決定できる。また、複数の車両が同一マップを参照することで、個々の車両の自動運転のレベルを一定に保つことができる。なお、推奨レベルは、推奨ではなく、遵守が必須であるレベルであってもよい。
【０３８６】
また、車両は、運転者の有無（有人及び無人のいずれであるか）に応じて、自動運転のレベルの切り替えを行ってもよい。例えば、車両は、有人であれば自動運転のレベルを下げ、無人の場合には停止する。車両は、安全に停止できる位置を、周辺の通行者、車両及び交通標識を認識することによって判定する。または、マップは、車両が安全に停止できる位置を示す位置情報を含み、車両は当該位置情報を参照して安全に停止できる位置を判定してもよい。
【０３８７】
次に、異常ケース２である、三次元マップ７１１が存在しない、又は、三次元マップ７１１を取得したが破損している場合に対する対処動作について説明する。
【０３８８】
異常ケース判定部７０３は、（１）目的地までの経路上の一部或いは全ての区間における三次元マップ７１１が、アクセス先となる配信サーバなどに存在せず、取得できない、又は、（２）取得済みの三次元マップ７１１の一部或いは全てが破損している、のいずれかに当てはまるかを確認し、当てはまる場合には異常ケース２と判定する。つまり、異常ケース判定部７０３は、三次元マップ７１１のデータが完全であるかどうかを判定し、三次元マップ７１１のデータが完全でない場合、三次元マップ７１１が異常であると判定する。
【０３８９】
異常ケース２と判定された場合、以下の対処動作が行われる。まず、（１）三次元マップ７１１を取得できない場合の対処動作の例を説明する。
【０３９０】
例えば、車両は、三次元マップ７１１が存在しない区間を通らない経路を設定する。
【０３９１】
また、車両は、代替の経路が存在しない、又は、代替の経路が存在するが距離が大幅に増加するなどの理由から、代替の経路が設定できない場合は、三次元マップ７１１が存在しない区間を含む経路を設定する。また、車両は、当該区間では運転者に、運転モードを切り替える旨を通知し、運転モードをマニュアルモードに切り替える。
【０３９２】
（２）取得済みの三次元マップ７１１の一部或いは全てが破損している場合には以下の対処動作が行われる。
【０３９３】
車両は、三次元マップ７１１における破損部位を特定し、通信により破損部位のデータを要求し、当該破損部位のデータを取得して、取得したデータを用いて三次元マップ７１１を更新する。このとき、車両は、破損部位を、三次元マップ７１１における絶対座標又は相対座標などの位置情報により指定してもよいし、破損部位を構成するランダムアクセス単位のインデックス番号などにより指定してもよい。この場合、車両は、破損部位を含むランダムアクセス単位を、取得したランダムアクセス単位で置き換える。
【０３９４】
次に、異常ケース３である、自車のセンサが故障又は悪天候のために、自車検知三次元データ７１２が生成できない場合に対する対処動作について説明する。
【０３９５】
異常ケース判定部７０３は、自車検知三次元データ７１２の生成誤差が許容範囲内であるかを確認し、許容範囲でなければ異常ケース３と判定する。つまり、異常ケース判定部７０３は、自車検知三次元データ７１２のデータの生成精度が基準値以上であるかどうかを判定し、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、自車検知三次元データ７１２が異常であると判定する。
【０３９６】
自車検知三次元データ７１２の生成誤差が許容範囲内であるかどうかの確認方法としては以下の方法を用いることができる。
【０３９７】
レンジファインダー又はステレオカメラなど自車の三次元センサにおける奥行き方向及びスキャン方向の分解能、又は、生成可能な点群の密度などに基づいて、正常動作時の自車検知三次元データ７１２の空間分解能が予め決定される。また、車両は、三次元マップ７１１の空間分解能を、三次元マップ７１１に含まれるメタ情報などから取得する。
【０３９８】
車両は、両者の空間分解能を用いて、自車検知三次元データ７１２と三次元マップ７１１とを、三次元特徴量などに基づいてマッチングする際のマッチング誤差の基準値を推定する。マッチング誤差としては、特徴点毎の三次元特徴量の誤差、複数の特徴点間の三次元特徴量の誤差の平均値などの統計量、又は、複数の特徴点間の空間的な距離の誤差などを利用できる。基準値からのズレの許容範囲は予め設定される。
【０３９９】
車両は、走行開始前又は走行中に生成した自車検知三次元データ７１２と三次元マップ７１１とのマッチング誤差が許容範囲内でなければ、異常ケース３と判定する。
【０４００】
または、車両は、精度チェック用の既知の三次元形状を有するテストパターンを用いて、走行開始前などにテストパターンに対する自車検知三次元データ７１２を取得し、形状誤差が許容範囲内であるかに基づいて異常ケース３であるかを判定してもよい。
【０４０１】
例えば、車両は、走行開始前に毎回、上記判定を行う。または、車両は、走行中に一定の時間間隔などで上記判定を行うことで、マッチング誤差の時系列変化を取得する。車両は、マッチング誤差が増加傾向にある際には、誤差が許容範囲内であっても異常ケース３と判定してもよい。また、車両は、時系列変化に基づいて、異常となることが予測できる場合には、検査又は修理を促す旨のメッセージを表示するなど、ユーザーに異常となることが予測されたことを通知してもよい。また、車両は、悪天候など一過性の要因に基づく異常と、センサの故障に基づく異常とを、時系列変化により判定し、センサの故障に基づく異常のみをユーザーに通知してもよい。
【０４０２】
また、車両は、異常ケース３と判定された場合、（１）非常用の代替センサを作動させる（レスキューモード）、（２）運転モードを切り替える、（３）三次元センサの動作補正を行う、の３つのタイプの対処動作のいずれか、又はこれらを選択的に行う。
【０４０３】
まず、（１）非常用の代替センサを作動する場合について説明する。車両は、通常運転時に使用する三次元センサとは異なる、非常用の代替センサを作動させる。つまり、三次元情報処理装置７００は、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、通常のセンサとは異なる代替センサで検知した情報から自車検知三次元データ７１２（第４の三次元位置情報）を生成する。
【０４０４】
具体的には、車両が、複数のカメラ又はＬｉＤＡＲを併用して自車検知三次元データ７１２を取得する場合には、車両は、自車検知三次元データ７１２のマッチング誤差が許容範囲を超える方向などに基づいて、動作不良のセンサを特定する。そして、車両は、動作不良のセンサに対応する代替センサを作動する。
【０４０５】
代替センサは、三次元センサであってもよいし、二次元画像を取得できるカメラであってもよいし、超音波などの一次元センサなどであってもよい。代替センサが三次元センサ以外のセンサの場合には、自己位置推定の精度が低下する、又は、自己位置推定ができないことがあるため、車両は、代替センサの種類に応じて自動運転のモードを切り替えてもよい。
【０４０６】
例えば、車両は、代替センサが三次元センサである場合には自動運転モードを継続する。また、車両は、代替センサが二次元センサである場合には、完全自動運転から人の運転操作を前提とする準自動運転モードに運転モードを変更する。また、車両は、代替センサが一次元センサである場合には、自動的な制動制御を行わないマニュアルモードに運転モードを切り替える。
【０４０７】
また、車両は、走行環境に基づいて自動運転モードを切り替えてもよい。例えば、車両は、代替センサが二次元センサである場合において、高速道路を走行中であれば完全自動運転モードを継続し、市街地を走行中であれば運転モードを準自動運転モードに切り替える。
【０４０８】
また、車両は、代替センサが存在しない場合であっても、正常に動作しているセンサのみで十分な数の特徴点が取得できれば、自己位置推定を継続してもよい。ただし、特定方向に対する検知が不能になるため、車両は、運転モードを、準自動運転又はマニュアルモードに切り替える。
【０４０９】
次に、（２）運転モードを切り替える対処動作について説明する。車両は、自動運転モードからマニュアルモードに運転モードを切り替える。または、車両は、路肩などの安全に停止できる場所まで自動運転を継続し、停止してもよい。また、車両は、停止後に運転モードをマニュアルモードに切り替えてもよい。このように、三次元情報処理装置７００は、自車検知三次元データ７１２の生成精度が基準値以上でない場合、自動運転のモードを切り替える。
【０４１０】
次に（３）三次元センサの動作補正を行う対処動作について説明する。車両は、マッチング誤差が発生する方向などから動作不良の三次元センサを特定し、特定したセンサのキャリブレーションを行う。具体的には、センサとして、複数のＬｉＤＡＲ又はカメラが使用され場合には、各センサにより再構成される三次元空間の一部がオーバーラップする。すなわち、オーバーラップ部分のデータは、複数のセンサにより取得される。正常なセンサと動作不良のセンサとでは、オーバーラップ部分に対して取得される三次元の点群データが異なる。従って、車両は、動作不良のセンサが正常なセンサと同等の三次元の点群データを取得できるように、ＬｉＤＡＲの原点補正を行う、又は、カメラの露出或いはフォーカスなど、予め定めた箇所の動作を調整する。
【０４１１】
車両は、調整後に、マッチング誤差が許容範囲内に収まれば、直前の運転モードを継続する。一方、調整後も、マッチング精度が許容範囲内に収まらなければ、車両は、上記（１）非常用の代替センサを作動する対処動作、又は（２）運転モードを切り替える対処動作を行う。
【０４１２】
このように、三次元情報処理装置７００は、自車検知三次元データ７１２のデータの生成精度が基準値以上でない場合、センサの動作補正を行う。
【０４１３】
以下、対処動作の選択方法について説明する。対処動作は、運転者などのユーザーが選択してもよいし、ユーザーを介さずに車両が自動的に選択してもよい。
【０４１４】
また、車両は、運転者が同乗しているかどうかに応じて制御を切り替えてもよい。例えば、運転者が同乗している場合には、車両は、マニュアルモードへの切り替えを優先する。一方、運転者が同乗しない場合には、車両は、安全な場所に移動して停止するモードを優先する。
【０４１５】
停止場所を示す情報は、三次元マップ７１１にメタ情報として含まれてもよい。または、車両は、自動運転者の運行情報を管理するサービスに対して停止場所の回答要求を発行し、停止場所を示す情報を取得してもよい。
【０４１６】
また、車両が既定の路線を運行する場合などでは、通信路を介してオペレータが車両の運行を管理するモードに車両の運転モードが移行されてもよい。特に、完全自動運転モードで走行中の車両における自己位置推定機能の異常は、危険性が高い。従って、車両は、異常ケースの検出時、又は、検出した異常を修正できない場合には、通信路を介して、運行情報を管理するサービスに対して異常の発生を通知する。当該サービスは、当該車両の周辺を走行中の車両などに、異常発生車両の存在を通知する、又は、近傍の停止場所を空けるように指示してもよい。
【０４１７】
また、車両は、異常ケースの検出時には、通常時よりも走行速度を落としてもよい。
【０４１８】
車両が、タクシーなどの配車サービスを行う自動運転車であり、当該車両に異常ケースが発生した場合には、当該車両は、運行管理センターに連絡を行い、安全な場所に停止する。また、配車サービスは、代わりの車両は配車する。または、配車サービスの利用者が車両を運転してもよい。これらのケースでは、料金の割引又は特典ポイントの付与なども併用されてもよい。
【０４１９】
また、異常ケース１の対処方法において、二次元マップに基づいて自己位置推定を行う方法について述べたが、通常時においても、二次元マップを用いて自己位置推定を行ってもよい。図３６は、この場合の自己位置推定処理のフローチャートである。
【０４２０】
まず、車両は、走行経路近傍の三次元マップ７１１を取得する（Ｓ７１１）。次に、車両は、センサ情報に基づいて自車検知三次元データ７１２を取得する（Ｓ７１２）。
【０４２１】
次に、車両は、自己位置推定に三次元マップ７１１が必要かどうかを判定する（Ｓ７１３）。具体的には、車両は、二次元マップ使用時の自己位置推定の精度と、走行環境に基づいて、三次元マップ７１１の要否を判定する。例えば、上述した異常ケース１の対処方法と同様の方法が用いられる。
【０４２２】
三次元マップ７１１が必要でないと判定された場合（Ｓ７１４でＮｏ）、車両は、二次元マップを取得する（Ｓ７１５）。このとき、車両は、異常ケース１の対処方法で述べたような付加情報を合わせて取得してもよい。また、車両は、三次元マップ７１１から二次元マップを生成してもよい。例えば、車両は、三次元マップ７１１からに任意の平面を切り出すことで二次元マップを生成してもよい。
【０４２３】
次に、車両は、自車検知三次元データ７１２と二次元マップとを用いて自己位置推定を行う（Ｓ７１６）。なお、二次元マップを用いた自己位置推定の方法は、例えば、上述した異常ケース１の対処方法で述べて方法と同様である。
【０４２４】
一方、三次元マップ７１１が必要であると判定された場合（Ｓ７１４でＹｅｓ）、車両は、三次元マップ７１１を取得する（Ｓ７１７）。次に、車両は、自車検知三次元データ７１２と三次元マップ７１１とを用いて自己位置推定を行う（Ｓ７１８）。
【０４２５】
なお、車両は、自車の通信機器の対応する速度、又は通信路の状況に応じて、二次元マップを基本として用いるか、三次元マップ７１１を基本として用いるかを切り替えてもよい。例えば、三次元マップ７１１を受信しながら走行する際に必要となる通信速度が予め設定され、車両は、走行時の通信速度が設定値以下の場合には二次元マップを基本として用い、走行時の通信速度が設定より大きい場合には三次元マップ７１１を基本として用いてもよい。なお、車両は、二次元マップ、または三次元マップのいずれを採用するか切り替える判定をせずに、二次元マップを基本として用いてもよい。
【０４２６】
（実施の形態５）
本実施の形態では、後続車両への三次元データ送信方法等について説明する。図３７は、後続車両等に送信する三次元データの対象空間の例を示す図である。
【０４２７】
車両８０１は、車両８０１の前方の車両８０１から距離Ｌにある幅Ｗ、高さＨ、深さＤの直方体の空間８０２に含まれるポイントクラウド（点群）等の三次元データを、Δｔの時間間隔で、道路状況を監視する交通監視クラウド又は後続車両へ送信する。
【０４２８】
車両８０１は、外部から空間８０２に車両又は人が進入するなどして過去に送信済みの空間８０２に含まれる三次元データに変化が生じた場合には、変化が生じた空間の三次元データについても送信する。
【０４２９】
なお、図３７では、空間８０２の形状が直方体である例を示すが、空間８０２は、後続車両から死角となっている前方道路上の空間を含んでいればよく、必ずしも直方体でなくてもよい。
【０４３０】
距離Ｌは、三次元データを受信した後続車両が安全に停止できる距離に設定されることが望ましい。例えば、距離Ｌは、後続車両が、三次元データの受信に要する間に移動する距離と、後続車両が、受信したデータに応じて減速を開始するまでに移動する距離と、後続車両が原則を開始してから安全に停止するのに要する距離との和に設定される。これらの距離は速度に応じて変化するので、Ｌ＝ａ×Ｖ＋ｂ（ａ、ｂは定数）のように、距離Ｌが車両の速度Ｖに応じて変化してもよい。
【０４３１】
幅Ｗは、少なくとも車両８０１が走行している車線の幅よりも大きな値に設定される。更に望ましくは、幅Ｗは、左右の車線或いは路側帯など、隣接する空間が含まれる大きさに設定される。
【０４３２】
深さＤは固定値でも良いが、Ｄ＝ｃ×Ｖ＋ｄ（ｃ、ｄは定数）のように、車両の速度Ｖに応じて変化してもよい。また、Ｄ＞Ｖ×ΔｔとなるようにＤを設定することで、送信する空間を過去に送信済みの空間と重複させることができる。これにより、車両８０１は、より確実に走路上の空間を漏れなく後続車両等に送信することができる。
【０４３３】
このように、車両８０１が送信する三次元データを後続車両にとって有用な空間に限定することで、送信する三次元データの容量を効果的に削減でき、通信の低遅延化及び低コスト化を実現できる。
【０４３４】
次に、本実施の形態に係る三次元データ作成装置８１０の構成を説明する。図３８は、本実施の形態に係る三次元データ作成装置８１０の構成例を示すブロック図である。この三次元データ作成装置８１０は、例えば、車両８０１に搭載される。三次元データ作成装置８１０は、外部の交通監視クラウド、前走車両又は後続車両と三次元データの送受信を行うとともに、三次元データを作成及び蓄積する。
【０４３５】
三次元データ作成装置８１０は、データ受信部８１１と、通信部８１２と、受信制御部８１３と、フォーマット変換部８１４と、複数のセンサ８１５と、三次元データ作成部８１６と、三次元データ合成部８１７と、三次元データ蓄積部８１８と、通信部８１９と、送信制御部８２０と、フォーマット変換部８２１と、データ送信部８２２とを備える。
【０４３６】
データ受信部８１１は、交通監視クラウド又は前走車両から三次元データ８３１を受信する。三次元データ８３１は、例えば、自車両のセンサ８１５で検知不能な領域を含む、ポイントクラウド、可視光映像、奥行き情報、センサ位置情報、又は速度情報などの情報を含む。
【０４３７】
通信部８１２は、交通監視クラウド又は前走車両と通信し、データ送信要求などを交通監視クラウド又は前走車両に送信する。
【０４３８】
受信制御部８１３は、通信部８１２を介して、対応フォーマット等の情報を通信先と交換し、通信先との通信を確立する。
【０４３９】
フォーマット変換部８１４は、データ受信部８１１が受信した三次元データ８３１にフォーマット変換等を行うことで三次元データ８３２を生成する。また、フォーマット変換部８１４は、三次元データ８３１が圧縮又は符号化されている場合には、伸張又は復号処理を行う。
【０４４０】
複数のセンサ８１５は、ＬＩＤＡＲ、可視光カメラ又は赤外線カメラなどの、車両８０１の外部の情報を取得するセンサ群であり、センサ情報８３３を生成する。例えば、センサ情報８３３は、センサ８１５がＬＩＤＡＲなどのレーザセンサである場合、ポイントクラウド（点群データ）等の三次元データである。なお、センサ８１５は複数でなくてもよい。
【０４４１】
三次元データ作成部８１６は、センサ情報８３３から三次元データ８３４を生成する。三次元データ８３４は、例えば、ポイントクラウド、可視光映像、奥行き情報、センサ位置情報、又は速度情報などの情報を含む。
【０４４２】
三次元データ合成部８１７は、自車両のセンサ情報８３３に基づいて作成された三次元データ８３４に、交通監視クラウド又は前走車両等が作成した三次元データ８３２を合成することで、自車両のセンサ８１５では検知できない前走車両の前方の空間も含む三次元データ８３５を構築する。
【０４４３】
三次元データ蓄積部８１８は、生成された三次元データ８３５等を蓄積する。
【０４４４】
通信部８１９は、交通監視クラウド又は後続車両と通信し、データ送信要求などを交通監視クラウド又は後続車両に送信する。
【０４４５】
送信制御部８２０は、通信部８１９を介して、対応フォーマット等の情報を通信先と交換し、通信先と通信を確立する。また、送信制御部８２０は、三次元データ合成部８１７で生成された三次元データ８３２の三次元データ構築情報と、通信先からのデータ送信要求とに基づき、送信対象の三次元データの空間である送信領域を決定する。
【０４４６】
具体的には、送信制御部８２０は、交通監視クラウド又は後続車両からのデータ送信要求に応じて、後続車両のセンサでは検知できない自車両の前方の空間を含む送信領域を決定する。また、送信制御部８２０は、三次元データ構築情報に基づいて送信可能な空間又は送信済み空間の更新有無等を判断することで送信領域を決定する。例えば、送信制御部８２０は、データ送信要求で指定された領域であり、かつ、対応する三次元データ８３５が存在する領域を送信領域に決定する。そして、送信制御部８２０は、通信先が対応するフォーマット、及び送信領域をフォーマット変換部８２１に通知する。
【０４４７】
フォーマット変換部８２１は、三次元データ蓄積部８１８に蓄積されている三次元データ８３５のうち、送信領域の三次元データ８３６を、受信側が対応しているフォーマットへ変換することで三次元データ８３７を生成する。なお、フォーマット変換部８２１は、三次元データ８３７を圧縮又は符号化することでデータ量を削減してもよい。
【０４４８】
データ送信部８２２は、三次元データ８３７を交通監視クラウド又は後続車両に送信する。この三次元データ８３７は、例えば、後続車両の死角になる領域を含む、自車両の前方のポイントクラウド、可視光映像、奥行き情報、又はセンサ位置情報などの情報を含む。
【０４４９】
なお、ここでは、フォーマット変換部８１４及び８２１にてフォーマット変換等が行われる例を述べたが、フォーマット変換は行われなくてもよい。
【０４５０】
このような構成により、三次元データ作成装置８１０は、自車両のセンサ８１５では検知できない領域の三次元データ８３１を外部から取得し、三次元データ８３１と自車両のセンサ８１５で検知したセンサ情報８３３に基づく三次元データ８３４とを合成することで三次元データ８３５を生成する。これにより、三次元データ作成装置８１０は、自車両のセンサ８１５で検知できない範囲の三次元データを生成できる。
【０４５１】
また、三次元データ作成装置８１０は、交通監視クラウド又は後続車両からのデータ送信要求に応じて、後続車両のセンサでは検知できない自車両の前方の空間を含む三次元データを、交通監視クラウド又は後続車両等へ送信できる。
【０４５２】
次に、三次元データ作成装置８１０における後続車両への三次元データの送信手順について説明する。図３９は、三次元データ作成装置８１０による交通監視クラウド又は後続車両へ三次元データを送信する手順の一例を示すフローチャートである。
【０４５３】
まず、三次元データ作成装置８１０は、自車両８０１の前方道路上の空間８０２を含む空間の三次元データ８３５を生成及び更新する（Ｓ８０１）。具体的には、三次元データ作成装置８１０は、自車両８０１のセンサ情報８３３に基づいて作成した三次元データ８３４に、交通監視クラウド又は前走車両等が作成した三次元データ８３１を合成するなどして、自車両のセンサ８１５では検知できない前走車両の前方の空間も含む三次元データ８３５を構築する。
【０４５４】
次に、三次元データ作成装置８１０は、送信済みの空間に含まれる三次元データ８３５が変化したかを判定する（Ｓ８０２）。
【０４５５】
送信済みの空間に外部から車両又は人が進入するなどして、当該空間に含まれる三次元データ８３５に変化が生じた場合には（Ｓ８０２でＹｅｓ）、三次元データ作成装置８１０は、変化が生じた空間の三次元データ８３５を含む三次元データを交通監視クラウド又は後続車両に送信する（Ｓ８０３）。
【０４５６】
なお、三次元データ作成装置８１０は、変化が生じた空間の三次元データを、所定間隔で送信する三次元データの送信タイミングに合わせて送信してもよいが、変化を検知した後すぐに送信してもよい。つまり、三次元データ作成装置８１０は、変化が生じた空間の三次元データを、所定間隔で送信する三次元データよりも優先して送信してもよい。
【０４５７】
また、三次元データ作成装置８１０は、変化が生じた空間の三次元データとして、変化が生じた空間の三次元データの全てを送信してもよいし、三次元データの差分（例えば出現又は消失した三次元点の情報、又は三次元点の変位情報など）のみを送信してもよい。
【０４５８】
また、三次元データ作成装置８１０は、変化が生じた空間の三次元データに先行して、急制動警報など自車両の危険回避動作に関するメタデータを後続車両へ送信してもよい。これによれば、後続車両は前走車両の急制動などを早期に認知でき、より早期に減速などの危険回避動作を開始できる。
【０４５９】
送信済みの空間に含まれる三次元データ８３５に変化が生じていない場合（Ｓ８０２でＮｏ）、又は、ステップＳ８０３の後、三次元データ作成装置８１０は、自車両８０１の前方距離Ｌにある所定の形状の空間に含まれる三次元データを、交通監視クラウド又は後続車両へ送信する（Ｓ８０４）。
【０４６０】
また、例えば、ステップＳ８０１〜Ｓ８０４の処理は、所定の時間間隔で繰り返し行われる。
【０４６１】
また、三次元データ作成装置８１０は、現在の送信対象の空間８０２の三次元データ８３５と、三次元地図とに差がない場合には、空間８０２の三次元データ８３７を送信しなくてもよい。
【０４６２】
図４０は、この場合の三次元データ作成装置８１０の動作を示すフローチャートである。
【０４６３】
まず、三次元データ作成装置８１０は、自車両８０１の前方道路上の空間８０２を含む空間の三次元データ８３５を生成及び更新する（Ｓ８１１）。
【０４６４】
次に、三次元データ作成装置８１０は、生成した空間８０２の三次元データ８３５に、三次元地図からの更新があるかを判定する（Ｓ８１２）。つまり、三次元データ作成装置８１０は、生成した空間８０２の三次元データ８３５と、三次元地図とに差があるかを判定する。ここで、三次元地図とは、交通監視クラウド等のインフラ側の装置で管理されている三次元の地図情報である。例えば、この三次元地図は、三次元データ８３１として取得される。
【０４６５】
更新がある場合（Ｓ８１２でＹｅｓ）、三次元データ作成装置８１０は、上記と同様に、空間８０２に含まれる三次元データを、交通監視クラウド又は後続車両へ送信する（Ｓ８１３）。
【０４６６】
一方、更新がない場合（Ｓ８１２でＮｏ）、三次元データ作成装置８１０は、空間８０２に含まれる三次元データを、交通監視クラウド及び後続車両へ送信しない（Ｓ８１４）。なお、三次元データ作成装置８１０は、空間８０２の体積をゼロに設定することで、空間８０２の三次元データが送信されないように制御してもよい。また、三次元データ作成装置８１０は、空間８０２に更新がないことを示す情報を、交通監視クラウド又は後続車両へ送信してもよい。
【０４６７】
以上により、例えば、道路上に障害物が無い場合には、生成された三次元データ８３５とインフラ側の三次元地図とに差が生じず、データの送信は行われない。このように、不要なデータの送信を抑制できる。
【０４６８】
なお、上記説明では、三次元データ作成装置８１０が車両に搭載される例を述べたが、三次元データ作成装置８１０は車両に限らず、任意の移動体に搭載されてもよい。
【０４６９】
以上のように、本実施の形態に係る三次元データ作成装置８１０は、センサ８１５と、三次元データを外部と送受信する通信部（データ受信部８１１又はデータ送信部８２２等）とを備える移動体に搭載される。三次元データ作成装置８１０は、センサ８１５で検知されたセンサ情報８３３と、データ受信部８１１が受信した三次元データ８３１（第１三次元データ）とに基づいて三次元データ８３５（第２三次元データ）を作成する。三次元データ作成装置８１０は、三次元データ８３５の一部である三次元データ８３７を外部に送信する。
【０４７０】
これにより、三次元データ作成装置８１０は、自車両で検知できない範囲の三次元データを生成できる。また、三次元データ作成装置８１０は、他の車両等が検知できない範囲の三次元データを、当該他の車両に送信できる。
【０４７１】
また、三次元データ作成装置８１０は、三次元データ８３５の作成と、三次元データ８３７の送信とを、所定の間隔で繰り返し行う。三次元データ８３７は、現在の車両８０１の位置から、車両８０１の移動方向前方の所定距離Ｌに位置する所定サイズの小空間８０２の三次元データである。
【０４７２】
これにより、送信される三次元データ８３７の範囲が制限されるので、送信される三次元データ８３７のデータ量を削減できる。
【０４７３】
また、所定距離Ｌは、車両８０１の移動速度Ｖに応じて変化する。例えば、移動速度Ｖが大きくなるほど、所定距離Ｌは長くなる。これにより、車両８０１は、車両８０１の移動速度Ｖに応じた適切な小空間８０２を設定し、当該小空間８０２の三次元データ８３７を後続車両等に送信できる。
【０４７４】
また、所定サイズは、車両８０１の移動速度Ｖに応じて変化する。例えば、移動速度Ｖが大きくなるほど、所定サイズは大きくなる。例えば、移動速度Ｖが大きくなるほど、小空間８０２の車両の移動方向の長さである深さＤは大きくなる。これにより、車両８０１は、車両８０１の移動速度Ｖに応じた適切な小空間８０２を設定し、当該小空間８０２の三次元データ８３７を後続車両等に送信できる。
【０４７５】
また、三次元データ作成装置８１０は、送信済みの三次元データ８３７に対応する小空間８０２の三次元データ８３５に変化があるかを判定する。三次元データ作成装置８１０は、変化があると判定した場合、変化がある三次元データ８３５の少なくとも一部である三次元データ８３７（第４三次元データ）を外部の後続車両等に送信する。
【０４７６】
これにより、車両８０１は、変化があった空間の三次元データ８３７を後続車両等に送信できる。
【０４７７】
また、三次元データ作成装置８１０は、変化のあった三次元データ８３７（第４三次元データ）を、定期的に送信する通常の三次元データ８３７（第３三次元データ）よりも優先して送信する。具体的には、三次元データ作成装置８１０は、定期的に送信する通常の三次元データ８３７（第３三次元データ）の送信よりも前に変化のあった三次元データ８３７（第４三次元データ）を送信する。つまり、三次元データ作成装置８１０は、変化のあった三次元データ８３７（第４三次元データ）を、定期的に送信する通常の三次元データ８３７の送信を待たずに、非定期に送信する。
【０４７８】
これにより、車両８０１は、変化があった空間の三次元データ８３７を後続車両等に優先的に送信できるので、後続車両等は、三次元データに基づく判断を迅速に行える。
【０４７９】
また、変化のあった三次元データ８３７（第４三次元データ）は、送信済みの三次元データ８３７に対応する小空間８０２の三次元データ８３５と、変化後の三次元データ８３５との差分を示す。これにより、送信される三次元データ８３７のデータ量を削減できる。
【０４８０】
また、三次元データ作成装置８１０は、小空間８０２の三次元データ８３７と、小空間８０２の三次元データ８３１とに差がない場合、小空間８０２の三次元データ８３７を送信しない。さらに、三次元データ作成装置８１０は、小空間８０２の三次元データ８３７と、小空間８０２の三次元データ８３１とに差がないことを示す情報を外部に送信してもよい。
【０４８１】
これにより、不要な三次元データ８３７が送信されることを抑制できるので、送信される三次元データ８３７のデータ量を削減できる。
【０４８２】
（実施の形態６）
本実施の形態では、三次元マップ等から得られた情報を表示する表示装置及び表示方法、並びに、三次元マップ等の保存装置及び保存方法について説明する。
【０４８３】
車又はロボット等の移動体は、車の自動運転又はロボットの自律移動のために、サーバ又は他車との通信により得られる三次元マップ及び自車に搭載したセンサから得られる二次元映像或いは自車検知三次元データを活用する。これらのデータのうちユーザが視聴又は保存したいデータは状況により異なると考えられる。以下では状況に応じて表示を切り替える表示装置について説明する。
【０４８４】
図４１は、表示装置による表示方法の概要を示すフローチャートである。表示装置は、車又はロボット等の移動体に搭載される。なお、以下では、移動体が車両（自動車）である例を説明する。
【０４８５】
まず、表示装置は、車両の運転状況に応じて、二次元周辺情報と三次元周辺情報とのいずれを表示するかを決定する（Ｓ９０１）。なお、二次元周辺情報は第１周辺情報に対応し、三次元周辺情報は第２周辺情報に対応する。ここで、周辺情報とは、移動体の周辺を示す情報であり、例えば、車両から所定の方向を見た映像、又は、車両の周辺の地図である。
【０４８６】
二次元周辺情報とは、二次元データを用いて生成された情報である。ここで二次元データとは、二次元の地図情報又は映像である。例えば、二次元周辺情報は、二次元マップから得られた車両周辺の地図、又は、車両に搭載されたカメラにより得られた映像である。また、二次元周辺情報は、例えば、三次元の情報を含まない。つまり、二次元周辺情報が車両周辺の地図である場合には、当該地図には高さ方向の情報が含まれない。また、二次元周辺情報がカメラにより得られた映像である場合には、当該映像は奥行き方向の情報を含まない。
【０４８７】
また、三次元周辺情報とは、三次元データを用いて生成された情報である。ここで、三次元データとは、例えば、三次元マップである。なお、三次元データは、他車両又はサーバから取得した、又は、自車両で検知した、車両周辺の対象物の三次元位置又は三次元形状を示す情報等であってもよい。例えば、三次元周辺情報は、三次元マップを用いて生成された、車両周辺の二次元又は三次元の映像又は地図である。また、三次元周辺情報は、例えば、三次元の情報を含む。例えば、三次元周辺情報が車両前方の映像である場合には、当該映像は当該映像内の対象物までの距離を示す情報を含む。または、当該映像において、例えば、前方の車両の奥に存在する歩行者等が表示される。また、三次元周辺情報は、車両に搭載されたセンサから得られる映像に、これらの距離又は歩行者等を示す情報が重畳されたものでもよい。また、三次元周辺情報は、二次元の地図に高さ方向の情報が重畳されたものであってもよい。
【０４８８】
また、三次元データが三次元表示されてもよいし、三次元データから得られた二次元映像又は二次元地図が二次元のディスプレイ等に表示されてもよい。
【０４８９】
ステップＳ９０１において三次元周辺情報を表示すると決定された場合（Ｓ９０２でＹｅｓ）、表示装置は、三次元周辺情報を表示する（Ｓ９０３）。一方、ステップＳ９０１において二次元周辺情報を表示すると決定された場合（Ｓ９０２でＮｏ）、表示装置は、二次元周辺情報を表示する（Ｓ９０４）。このように表示装置は、ステップＳ９０１で表示すると決定された三次元周辺情報又は二次元周辺情報を表示する。
【０４９０】
以下、具体例を説明する。第１の例では、表示装置は、車両が自動運転されているか、手動運転されているかに応じて、表示する周辺情報を切り替える。具体的には、自動運転時には、運転手は、詳細な周辺の道路情報を詳しく知る必要がないため、表示装置は、二次元周辺情報（例えば二次元マップ）を表示する。一方、手動運転時は安全な運転のために周辺の道路情報の詳細が分かるよう三次元周辺情報（例えば三次元マップ）を表示する。
【０４９１】
また、自動運転時は、自車がどのような情報に基づき運転を行っているかをユーザに示すため、表示装置は、運転操作に影響をあたえた情報（例えば、自己位置推定に利用したＳＷＬＤ、車線、道路標識、及び周辺状況検知結果等）を表示してもよい。例えば、表示装置は、これらの情報を二次元マップに加えて表示してもよい。
【０４９２】
なお、上記自動運転時及び手動運転時に表示する周辺情報はあくまで一例であり、表示装置は、自動運転時に三次元周辺情報を表示し、手動運転時に二次元周辺情報を表示してもよい。また、表示装置は、自動運転時及び手動運転時の少なくとも一方において、二次元又は三次元の地図又は映像に加えて、メタデータ又は周辺状況検知結果を表示してもよいし、二次元又は三次元の地図又は映像の代わりにメタデータ又は周辺状況検知結果を表示してもよい。ここで、メタデータとは、サーバ又は他車両から取得した対象物の三次元位置又は三次元形状を示す情報である。また、周辺状況検知結果は、自車両で検知した対象物の三次元位置又は三次元形状を示す情報である。
【０４９３】
第２の例では、表示装置は、運転環境に応じて表示する周辺情報を切り替える。例えば、表示装置は、外界の明るさに応じて表示する周辺情報を切り替える。具体的には、表示装置は、自車周辺が明るい場合は、自車に搭載のカメラで得られる二次元映像、又は当該二次元映像を用いて作成された三次元周辺情報を表示する。一方、表示装置は、自車周辺が暗い場合は、自車に搭載のカメラから得られる二次元映像は暗くて視聴しにくいため、ライダー又はミリ波レーダーを用いて作成された三次元周辺情報を表示する。
【０４９４】
また、表示装置は、現在の自車両が存在する領域である運転領域によって表示する周辺情報を切り替えてもよい。例えば、表示装置は、観光地、都心部、又は目的地付近などでは周辺の建物の情報などをユーザに提供できるよう三次元周辺情報を表示する。一方、表示装置は、山間部、又は郊外などでは周辺の詳細情報が必要ないケースが多いと考えられるため、二次元周辺情報を表示する。
【０４９５】
また、表示装置は、天候状態に基づき表示する周辺情報を切り替えてもよい。例えば、表示装置は、晴天の場合はカメラ又はライダーを用いて作成した三次元周辺情報を表示する。一方、表示装置は、雨又は濃霧の場合はカメラ又はライダーによる三次元周辺情報にはノイズが含まれやすくなるためミリ波レーダーを用いて作成した三次元周辺情報を表示する。
【０４９６】
また、これら表示の切り替えはシステムが自動で実施してもよいし、ユーザが手動で実施してもよい。
【０４９７】
また、三次元周辺情報は、ＷＬＤに基づいて生成される密点群データ、ＭＷＬＤに基づいて生成されるメッシュデータ、ＳＷＬＤに基づいて生成されるスパースデータ、レーンワールドに基づいて生成されるレーンデータ、道路及び交差点の三次元の形状情報などを含む二次元の地図データ、並びに、実時間で変化する三次元位置又は三次元形状情報を含むメタデータ又は自車両検知結果のいずれか１つ以上のデータから生成される。
【０４９８】
なお、上述したようにＷＬＤとは、三次元の点群データであり、ＳＷＬＤは、ＷＬＤから特徴量が閾値以上である点群が抽出されることで得られたデータである。また、ＭＷＬＤは、ＷＬＤから生成されたメッシュ構造を有するデータである。レーンワールドは、ＷＬＤから、特徴量が閾値以上であり、かつ、自己位置推定、運転アシスト、又は自動運転等に必要な点群が抽出されることで得られたデータである。
【０４９９】
ここで、ＭＷＬＤ及びＳＷＬＤは、ＷＬＤに比べデータ量が少ない。よって、より詳細データが必要な場合には、ＷＬＤを用い、そうでない場合にはＭＷＬＤ又はＳＷＬＤを用いることで、通信データ量、及び処理量を適切に削減できる。また、レーンワールドは、ＳＷＬＤに比べデータ量が少ない。よって、レーンワールドを用いることで、通信データ量、及び処理量をさらに削減できる。
【０５００】
また、上記では二次元周辺情報と三次元周辺情報とを切り替える例を述べたが、表示装置は、上記の条件に基づき、三次元周辺情報の生成に使用するデータの種別（ＷＬＤ、ＳＷＬＤ等）を切り替えてもよい。つまり、上記説明において、表示装置は、三次元周辺情報を表示するケースでは、よりデータ量の多い第１データ（例えばＷＬＤ又はＳＷＬＤ）から生成された三次元周辺情報を表示し、二次元周辺情報を表示するケースでは、二次元周辺情報の代わりに上記第１データよりデータ量の少ない第２データ（例えばＳＷＬＤ又はレーンワールド）から生成された三次元周辺情報を表示してもよい。
【０５０１】
また、表示装置は、二次元周辺情報又は三次元周辺情報を、例えば、自車に搭載された二次元ディスプレイ、ヘッドアップディスプレイ、又はヘッドマウントディスプレイに表示する。または、表示装置は、無線通信によりスマートフォンのようなモバイル端末に二次元周辺情報又は三次元周辺情報を転送し表示してもよい。つまり、表示装置は、移動体に搭載されるものに限らず、移動体と連携し、動作するものであればよい。例えば、スマートフォン等の表示装置を所持するユーザが移動体に搭乗した場合、又は移動体を運転する場合に、移動体の自己位置推定に基づく移動体の位置などの移動体の情報が表示装置に表示される、又は、これらの情報が周辺情報と共に表示装置に表示される。
【０５０２】
また、表示装置は、三次元マップを表示する際は、三次元マップをレンダリングし二次元データとして表示しても、三次元ディスプレイ又は三次元ホログラムを利用して三次元データとして表示してもよい。
【０５０３】
次に、三次元マップの保存方法について説明する。車又はロボット等の移動体は、車の自動運転又はロボットの自律移動のために、サーバ又は他車との通信により得られる三次元マップ、及び自車に搭載したセンサから得られる二次元映像、或いは自車検知三次元データを活用する。これらのデータのうちユーザが視聴又は保存したいデータは状況により異なると考えられる。以下では状況に応じたデータの保存方法について説明する。
【０５０４】
保存装置は、車又はロボット等の移動体に搭載される。なお、以下では、移動体が車両（自動車）である例を説明する。また、保存装置は、上述した表示装置に含まれてもよい。
【０５０５】
第１の例では、保存装置は、地域に基づき三次元マップを保存するか否かを決定する。ここで、三次元マップを自車の記憶媒体に保存することにより、保存した空間内ではサーバとの通信なしで自動運転が可能になる。しかし記憶容量に限界があるため限られたデータしか保存できない。そのため、保存装置は、以下に示すように保存する地域を限定する。
【０５０６】
例えば、保存装置は、通勤経路、又は自宅周辺など頻繁に通過する地域の三次元マップを優先的に保存する。これにより、頻繁に利用する地域のデータをその都度取得する必要がなくなるので、通信データ量を効果的に削減できる。なお、優先的に保存するとは、予め定められた記憶容量内により優先度の高いデータを保存することである。例えば、記憶容量内に新たなデータを保存できない場合には、当該新たなデータより優先度の低いデータが削除される。
【０５０７】
または、保存装置は、通信環境が悪い地域の三次元マップを優先的に保存する。これにより、通信環境が悪い地域において、通信によりデータを取得する必要がなくなるので、通信不良により三次元マップを取得できないケースの発生を抑制できる。
【０５０８】
または、保存装置は、交通量の多い地域の三次元マップを優先的に保存する。これにより、事故の発生が多い地域の三次元マップを優先的に保存できる。よって、このような地域において、通信不良により三次元マップが取得できず、自動運転又は運転支援の精度が低下することを抑制できる。
【０５０９】
または、保存装置は、交通量の少ない地域の三次元マップを優先的に保存する。ここで、交通量の少ない地域では、前走車を自動追従する自動運転モードが使用できない可能性が高くなる。これにより、より詳細な周辺情報が必要になるケースがある。よって、交通量の少ない地域の三次元マップを優先的に保存することで、このような地域における自動運転又は運転支援の精度を向上できる。
【０５１０】
なお、上記の複数の保存方法を組み合わせてもよい。また、これらの三次元マップを優先的に保存する地域はシステムにより自動的に決定されてもよいし、ユーザにより指定されてもよい。
【０５１１】
また、保存装置は、保存した後に所定期間が過ぎた三次元マップを削除してもよいし、最新のデータに更新してもよい。これにより、古い地図データが利用されないようにできる。また、保存装置は、地図データを更新する際は、古い地図と新しい地図とを比較することで、差分がある空間領域である差分領域を検出し、古い地図に、新しい地図の差分領域のデータを加える、又は古い地図から差分領域のデータを取り除くことにより、変化があった領域のデータのみを更新してもよい。
【０５１２】
また、この例では、保存された三次元マップは自動運転に利用される。よって、この三次元マップとしてＳＷＬＤを用いることで、通信データ量等を削減できる。なお、三次元マップはＳＷＬＤに限らず、ＷＬＤ等の他の種別のデータであってもよい。
【０５１３】
第２の例では、保存装置は、イベントに基づき三次元マップを保存する。
【０５１４】
例えば、保存装置は、走行中に遭遇する特別なイベントを三次元マップとして保存する。これにより、ユーザは、後にイベントの詳細を視聴することなどが可能になる。以下に三次元マップとして保存するイベント例を示す。なお、保存装置は、三次元マップから生成された三次元周辺情報を保存してもよい。
【０５１５】
例えば、保存装置は、衝突事故の前後、又は危険察知時などに三次元マップを保存する。
【０５１６】
または、保存装置は、きれいな景色、人だかりの多い場所、又は観光地など、特徴的なシーンの三次元マップを保存する。
【０５１７】
これら保存するイベントはシステムにより自動的に決定されてもよいし、ユーザが事前に指定してもよい。例えば、これらのイベントを判定する方法として、機械学習が用いられてもよい。
【０５１８】
また、この例では、保存された三次元マップは視聴に利用される。よって、この三次元マップとしてＷＬＤを用いることで、高画質な映像を提供できる。なお、三次元マップはＷＬＤに限らず、ＳＷＬＤ等の他の種別のデータであってもよい。
【０５１９】
以下、表示装置が、ユーザに応じて表示を制御する方法について説明する。表示装置が、車車間通信で得られる周辺状況検知結果を地図に重畳し表示する際には、周辺車両をワイヤーフレームで表現する、又は周辺車両に透明度を付与して表現するなどして、周辺車両の奥にある検知物体を見えるようにする。あるいは、表示装置は、上空からの視点の映像表示し、自車、周辺車両及び周辺状況検知結果を俯瞰的に見えるようにしてもよい。
【０５２０】
図４２に示すようなフロントガラス越しに見える周辺環境に、ヘッドアップディスプレイを用いて周辺状況検知結果又は点群データを重畳する場合、ユーザの姿勢、体型又は目の位置の違いにより情報を重畳する位置がずれる可能性がある。図４３は、位置がずれている場合のヘッドアップディスプレイの表示例を示す図である。
【０５２１】
このようなズレを補正するため、表示装置は、車内カメラ又は座席シートに搭載されたセンサ情報を利用しユーザの姿勢、体型又は目の位置を検出する。表示装置は、検知したユーザの姿勢、体型又は目の位置に応じて情報を重畳する位置を調整する。図４４は、調整後のヘッドアップディスプレイの表示例を示す図である。
【０５２２】
なお、このような重畳位置の調整を、車に搭載された制御装置を用いてユーザが手動で行ってもよい。
【０５２３】
また、表示装置は、災害時に安全な場所を地図上に示し、ユーザに提示してもよい。あるいは、車両は、災害内容及び安全な場所へ行く旨をユーザに伝え、安全な場所まで自動運転を行ってもよい。
【０５２４】
例えば、車両は、地震発生時には津波に巻き込まれないよう海抜高度が高い地域を目的に設定する。この際、車両は、サーバとの通信により地震により通行困難となった道路情報を獲得し、その道路を避けるルートをとるなど災害内容に応じた処理を行ってもよい。
【０５２５】
また、自動運転には移動モード、及びドライブモードなど複数のモードが含まれてもよい。
【０５２６】
移動モードでは、車両は、到着時間の早さ、料金の安さ、走行距離の短さ、及び消費エネルギーの低さなどを考慮し、目的地までのルートを決定し、決定したルートに従い自動運転を行う。
【０５２７】
ドライブモードでは、車両は、ユーザが指定した時間に目的地に着くよう自動的にルートを決定する。例えば、ユーザが目的地と到着時間を設定すると、車両は、周辺観光地をめぐり、設定時間に目的地に到着できるようなルートを決定し、決定したルートに従い自動運転を行う。
【０５２８】
（実施の形態７）
実施の形態５において、車両等のクライアント装置が、他の車両又は交通監視クラウド等のサーバに三次元データを送信する例を説明した。本実施の形態では、クライアント装置は、サーバ又は他のクライアント装置にセンサで得られたセンサ情報を送信する。
【０５２９】
まず、本実施の形態に係るシステムの構成を説明する。図４５は、本実施の形態に係る三次元マップ及びセンサ情報の送受信システムの構成を示す図である。このシステムは、サーバ９０１と、クライアント装置９０２Ａ及び９０２Ｂを含む。なお、クライアント装置９０２Ａ及び９０２Ｂを特に区別しない場合には、クライアント装置９０２とも記す。
【０５３０】
クライアント装置９０２は、例えば、車両等の移動体に搭載される車載機器である。サーバ９０１は、例えば、交通監視クラウド等であり、複数のクライアント装置９０２と通信可能である。
【０５３１】
サーバ９０１は、クライアント装置９０２に、ポイントクラウドから構成される三次元マップを送信する。なお、三次元マップの構成はポイントクラウドに限定されず、メッシュ構造等、他の三次元データを表すものであってもよい。
【０５３２】
クライアント装置９０２は、サーバ９０１に、クライアント装置９０２が取得したセンサ情報を送信する。センサ情報は、例えば、ＬＩＤＡＲ取得情報、可視光画像、赤外画像、デプス画像、センサ位置情報及び速度情報のうち少なくとも一つを含む。
【０５３３】
サーバ９０１とクライアント装置９０２との間で送受信されるデータは、データ削減のために圧縮されてもよいし、データの精度を維持するために非圧縮のままでも構わない。データを圧縮する場合、ポイントクラウドには例えば８分木構造に基づく三次元圧縮方式を用いることができる。また、可視光画像、赤外画像、及びデプス画像には二次元の画像圧縮方式を用いることできる。二次元の画像圧縮方式とは、例えば、ＭＰＥＧで規格化されたＭＰＥＧ−４  ＡＶＣ又はＨＥＶＣ等である。
【０５３４】
また、サーバ９０１は、クライアント装置９０２からの三次元マップの送信要求に応じてサーバ９０１で管理する三次元マップをクライアント装置９０２に送信する。なお、サーバ９０１はクライアント装置９０２からの三次元マップの送信要求を待たずに三次元マップを送信してもよい。例えば、サーバ９０１は、予め定められた空間にいる１つ以上のクライアント装置９０２に三次元マップをブロードキャストしても構わない。また、サーバ９０１は、一度送信要求を受けたクライアント装置９０２に、一定時間毎にクライアント装置９０２の位置に適した三次元マップを送信してもよい。また、サーバ９０１は、サーバ９０１が管理する三次元マップが更新される度にクライアント装置９０２に三次元マップを送信してもよい。
【０５３５】
クライアント装置９０２は、サーバ９０１に三次元マップの送信要求を出す。例えば、クライアント装置９０２が、走行時に自己位置推定を行いたい場合に、クライアント装置９０２は、三次元マップの送信要求をサーバ９０１に送信する。
【０５３６】
なお、次のような場合に、クライアント装置９０２はサーバ９０１に三次元マップの送信要求を出してもよい。クライアント装置９０２の保持する三次元マップが古い場合に、クライアント装置９０２はサーバ９０１に三次元マップの送信要求を出してもよい。例えば、クライアント装置９０２が三次元マップを取得してから一定期間が経過した場合に、クライアント装置９０２はサーバ９０１に三次元マップの送信要求を出してもよい。
【０５３７】
クライアント装置９０２が保持する三次元マップで示される空間から、クライアント装置９０２が外に出る一定時刻前に、クライアント装置９０２はサーバ９０１に三次元マップの送信要求を出してもよい。例えば、クライアント装置９０２が、クライアント装置９０２が保持する三次元マップで示される空間の境界から予め定められた距離以内に存在する場合に、クライアント装置９０２はサーバ９０１に三次元マップの送信要求を出してもよい。また、クライアント装置９０２の移動経路及び移動速度が把握できている場合には、これらに基づき、クライアント装置９０２が保持する三次元マップで示される空間から、クライアント装置９０２が外に出る時刻を予測してもよい。
【０５３８】
クライアント装置９０２がセンサ情報から作成した三次元データと三次元マップとの位置合せ時の誤差が一定以上の場合に、クライアント装置９０２はサーバ９０１に三次元マップの送信要求を出してもよい。
【０５３９】
クライアント装置９０２は、サーバ９０１から送信されたセンサ情報の送信要求に応じて、サーバ９０１にセンサ情報を送信する。なお、クライアント装置９０２はサーバ９０１からのセンサ情報の送信要求を待たずにセンサ情報をサーバ９０１に送ってもよい。例えば、クライアント装置９０２は、一度サーバ９０１からセンサ情報の送信要求を得た場合、一定期間の間、定期的にセンサ情報をサーバ９０１に送信してもよい。また、クライアント装置９０２は、クライアント装置９０２がセンサ情報を元に作成した三次元データと、サーバ９０１から得た三次元マップとの位置合せ時の誤差が一定以上の場合、クライアント装置９０２の周辺の三次元マップに変化が生じた可能性があると判断し、その旨とセンサ情報とをサーバ９０１に送信してもよい。
【０５４０】
サーバ９０１は、クライアント装置９０２にセンサ情報の送信要求を出す。例えば、サーバ９０１は、クライアント装置９０２から、ＧＰＳ等のクライアント装置９０２の位置情報を受信する。サーバ９０１は、クライアント装置９０２の位置情報に基づき、サーバ９０１が管理する三次元マップにおいて情報が少ない空間にクライアント装置９０２が近づいていると判断した場合、新たな三次元マップを生成するためにクライアント装置９０２にセンサ情報の送信要求を出す。また、サーバ９０１は、三次元マップを更新したい場合、積雪時或いは災害時などの道路状況を確認したい場合、渋滞状況、或いは事件事故状況等を確認したい場合に、センサ情報の送信要求を出してもよい。
【０５４１】
また、クライアント装置９０２は、サーバ９０１から受け取るセンサ情報の送信要求の受信時における通信状態又は帯域に応じて、サーバ９０１に送信するセンサ情報のデータ量を設定してもよい。サーバ９０１に送信するセンサ情報のデータ量を設定するというのは、例えば、当該データそのものを増減させること、又は圧縮方式を適宜選択することである。
【０５４２】
図４６は、クライアント装置９０２の構成例を示すブロック図である。クライアント装置９０２は、サーバ９０１からポイントクラウド等で構成される三次元マップを受信し、クライアント装置９０２のセンサ情報に基づいて作成した三次元データからクライアント装置９０２の自己位置を推定する。また、クライアント装置９０２は、取得したセンサ情報をサーバ９０１に送信する。
【０５４３】
クライアント装置９０２は、データ受信部１０１１と、通信部１０１２と、受信制御部１０１３と、フォーマット変換部１０１４と、複数のセンサ１０１５と、三次元データ作成部１０１６と、三次元画像処理部１０１７と、三次元データ蓄積部１０１８と、フォーマット変換部１０１９と、通信部１０２０と、送信制御部１０２１と、データ送信部１０２２とを備える。
【０５４４】
データ受信部１０１１は、サーバ９０１から三次元マップ１０３１を受信する。三次元マップ１０３１は、ＷＬＤ又はＳＷＬＤ等のポイントクラウドを含むデータである。三次元マップ１０３１には、圧縮データ、及び非圧縮データのどちらが含まれていてもよい。
【０５４５】
通信部１０１２は、サーバ９０１と通信し、データ送信要求（例えば、三次元マップの送信要求）などをサーバ９０１に送信する。
【０５４６】
受信制御部１０１３は、通信部１０１２を介して、対応フォーマット等の情報を通信先と交換し、通信先との通信を確立する。
【０５４７】
フォーマット変換部１０１４は、データ受信部１０１１が受信した三次元マップ１０３１にフォーマット変換等を行うことで三次元マップ１０３２を生成する。また、フォーマット変換部１０１４は、三次元マップ１０３１が圧縮又は符号化されている場合には、伸張又は復号処理を行う。なお、フォーマット変換部１０１４は、三次元マップ１０３１が非圧縮データであれば、伸張又は復号処理を行わない。
【０５４８】
複数のセンサ１０１５は、ＬＩＤＡＲ、可視光カメラ、赤外線カメラ、又はデプスセンサなど、クライアント装置９０２が搭載されている車両の外部の情報を取得するセンサ群であり、センサ情報１０３３を生成する。例えば、センサ情報１０３３は、センサ１０１５がＬＩＤＡＲなどのレーザセンサである場合、ポイントクラウド（点群データ）等の三次元データである。なお、センサ１０１５は複数でなくてもよい。
【０５４９】
三次元データ作成部１０１６は、センサ情報１０３３に基づいて自車両の周辺の三次元データ１０３４を作成する。例えば、三次元データ作成部１０１６は、ＬＩＤＡＲで取得した情報と、可視光カメラで得られた可視光映像とを用いて自車両の周辺の色情報付きのポイントクラウドデータを作成する。
【０５５０】
三次元画像処理部１０１７は、受信したポイントクラウド等の三次元マップ１０３２と、センサ情報１０３３から生成した自車両の周辺の三次元データ１０３４とを用いて、自車両の自己位置推定処理等を行う。なお、三次元画像処理部１０１７は、三次元マップ１０３２と三次元データ１０３４とを合成することで自車両の周辺の三次元データ１０３５を作成し、作成した三次元データ１０３５を用いて自己位置推定処理を行ってもよい。
【０５５１】
三次元データ蓄積部１０１８は、三次元マップ１０３２、三次元データ１０３４及び三次元データ１０３５等を蓄積する。
【０５５２】
フォーマット変換部１０１９は、センサ情報１０３３を、受信側が対応しているフォーマットへ変換することでセンサ情報１０３７を生成する。なお、フォーマット変換部１０１９は、センサ情報１０３７を圧縮又は符号化することでデータ量を削減してもよい。また、フォーマット変換部１０１９は、フォーマット変換をする必要がない場合は処理を省略してもよい。また、フォーマット変換部１０１９は、送信範囲の指定に応じて送信するデータ量を制御してもよい。
【０５５３】
通信部１０２０は、サーバ９０１と通信し、データ送信要求（センサ情報の送信要求）などをサーバ９０１から受信する。
【０５５４】
送信制御部１０２１は、通信部１０２０を介して、対応フォーマット等の情報を通信先と交換し、通信を確立する。
【０５５５】
データ送信部１０２２は、センサ情報１０３７をサーバ９０１に送信する。センサ情報１０３７は、例えば、ＬＩＤＡＲで取得した情報、可視光カメラで取得した輝度画像、赤外線カメラで取得した赤外画像、デプスセンサで取得したデプス画像、センサ位置情報、及び速度情報など、複数のセンサ１０１５によって取得した情報を含む。
【０５５６】
次に、サーバ９０１の構成を説明する。図４７は、サーバ９０１の構成例を示すブロック図である。サーバ９０１は、クライアント装置９０２から送信されたセンサ情報を受信し、受信したセンサ情報に基づいて三次元データを作成する。サーバ９０１は、作成した三次元データを用いて、サーバ９０１が管理する三次元マップを更新する。また、サーバ９０１は、クライアント装置９０２からの三次元マップの送信要求に応じて、更新した三次元マップをクライアント装置９０２に送信する。
【０５５７】
サーバ９０１は、データ受信部１１１１と、通信部１１１２と、受信制御部１１１３と、フォーマット変換部１１１４と、三次元データ作成部１１１６と、三次元データ合成部１１１７と、三次元データ蓄積部１１１８と、フォーマット変換部１１１９と、通信部１１２０と、送信制御部１１２１と、データ送信部１１２２とを備える。
【０５５８】
データ受信部１１１１は、クライアント装置９０２からセンサ情報１０３７を受信する。センサ情報１０３７は、例えば、ＬＩＤＡＲで取得した情報、可視光カメラで取得した輝度画像、赤外線カメラで取得した赤外画像、デプスセンサで取得したデプス画像、センサ位置情報、及び速度情報などを含む。
【０５５９】
通信部１１１２は、クライアント装置９０２と通信し、データ送信要求（例えば、センサ情報の送信要求）などをクライアント装置９０２に送信する。
【０５６０】
受信制御部１１１３は、通信部１１１２を介して、対応フォーマット等の情報を通信先と交換し、通信を確立する。
【０５６１】
フォーマット変換部１１１４は、受信したセンサ情報１０３７が圧縮又は符号化されている場合には、伸張又は復号処理を行うことでセンサ情報１１３２を生成する。なお、フォーマット変換部１１１４は、センサ情報１０３７が非圧縮データであれば、伸張又は復号処理を行わない。
【０５６２】
三次元データ作成部１１１６は、センサ情報１１３２に基づいてクライアント装置９０２の周辺の三次元データ１１３４を作成する。例えば、三次元データ作成部１１１６は、ＬＩＤＡＲで取得した情報と、可視光カメラで得られた可視光映像とを用いてクライアント装置９０２の周辺の色情報付ポイントクラウドデータを作成する。
【０５６３】
三次元データ合成部１１１７は、センサ情報１１３２を元に作成した三次元データ１１３４を、サーバ９０１が管理する三次元マップ１１３５に合成することで三次元マップ１１３５を更新する。
【０５６４】
三次元データ蓄積部１１１８は、三次元マップ１１３５等を蓄積する。
【０５６５】
フォーマット変換部１１１９は、三次元マップ１１３５を、受信側が対応しているフォーマットへ変換することで三次元マップ１０３１を生成する。なお、フォーマット変換部１１１９は、三次元マップ１１３５を圧縮又は符号化することでデータ量を削減してもよい。また、フォーマット変換部１１１９は、フォーマット変換をする必要がない場合は処理を省略してもよい。また、フォーマット変換部１１１９は、送信範囲の指定に応じて送信するデータ量を制御してもよい。
【０５６６】
通信部１１２０は、クライアント装置９０２と通信し、データ送信要求（三次元マップの送信要求）などをクライアント装置９０２から受信する。
【０５６７】
送信制御部１１２１は、通信部１１２０を介して、対応フォーマット等の情報を通信先と交換し、通信を確立する。
【０５６８】
データ送信部１１２２は、三次元マップ１０３１をクライアント装置９０２に送信する。三次元マップ１０３１は、ＷＬＤ又はＳＷＬＤ等のポイントクラウドを含むデータである。三次元マップ１０３１には、圧縮データ、及び非圧縮データのどちらが含まれていてもよい。
【０５６９】
次に、クライアント装置９０２の動作フローについて説明する。図４８は、クライアント装置９０２による三次元マップ取得時の動作を示すフローチャートである。
【０５７０】
まず、クライアント装置９０２は、サーバ９０１へ三次元マップ（ポイントクラウド等）の送信を要求する（Ｓ１００１）。このとき、クライアント装置９０２は、ＧＰＳ等で得られたクライアント装置９０２の位置情報を合わせて送信することで、その位置情報に関連する三次元マップの送信をサーバ９０１に要求してもよい。
【０５７１】
次に、クライアント装置９０２は、サーバ９０１から三次元マップを受信する（Ｓ１００２）。受信した三次元マップが圧縮データであれば、クライアント装置９０２は、受信した三次元マップを復号して非圧縮の三次元マップを生成する（Ｓ１００３）。
【０５７２】
次に、クライアント装置９０２は、複数のセンサ１０１５で得られたセンサ情報１０３３からクライアント装置９０２の周辺の三次元データ１０３４を作成する（Ｓ１００４）。次に、クライアント装置９０２は、サーバ９０１から受信した三次元マップ１０３２と、センサ情報１０３３から作成した三次元データ１０３４とを用いてクライアント装置９０２の自己位置を推定する（Ｓ１００５）。
【０５７３】
図４９は、クライアント装置９０２によるセンサ情報の送信時の動作を示すフローチャートである。まず、クライアント装置９０２は、サーバ９０１からセンサ情報の送信要求を受信する（Ｓ１０１１）。送信要求を受信したクライアント装置９０２は、センサ情報１０３７をサーバ９０１に送信する（Ｓ１０１２）。なお、クライアント装置９０２は、センサ情報１０３３が複数のセンサ１０１５で得られた複数の情報を含む場合、各情報を、各情報に適した圧縮方式で圧縮することでセンサ情報１０３７を生成してもよい。
【０５７４】
次に、サーバ９０１の動作フローについて説明する。図５０は、サーバ９０１によるセンサ情報の取得時の動作を示すフローチャートである。まず、サーバ９０１は、クライアント装置９０２へセンサ情報の送信を要求する（Ｓ１０２１）。次に、サーバ９０１は、当該要求に応じてクライアント装置９０２から送信されたセンサ情報１０３７を受信する（Ｓ１０２２）。次に、サーバ９０１は、受信したセンサ情報１０３７を用いて三次元データ１１３４を作成する（Ｓ１０２３）。次に、サーバ９０１は、作成した三次元データ１１３４を三次元マップ１１３５に反映する（Ｓ１０２４）。
【０５７５】
図５１は、サーバ９０１による三次元マップの送信時の動作を示すフローチャートである。まず、サーバ９０１は、クライアント装置９０２から三次元マップの送信要求を受信する（Ｓ１０３１）。三次元マップの送信要求を受信したサーバ９０１は、クライアント装置９０２へ三次元マップ１０３１を送信する（Ｓ１０３２）。このとき、サーバ９０１は、クライアント装置９０２の位置情報に合わせてその付近の三次元マップを抽出し、抽出した三次元マップを送信してもよい。また、サーバ９０１は、ポイントクラウドで構成される三次元マップを、例えば８分木構造による圧縮方式等を用いて圧縮し、圧縮後の三次元マップを送信してもよい。
【０５７６】
以下、本実施の形態の変形例について説明する。
【０５７７】
サーバ９０１は、クライアント装置９０２から受信したセンサ情報１０３７を用いてクライアント装置９０２の位置付近の三次元データ１１３４を作成する。次に、サーバ９０１は、作成した三次元データ１１３４と、サーバ９０１が管理する同エリアの三次元マップ１１３５とのマッチングを行うことによって、三次元データ１１３４と三次元マップ１１３５との差分を算出する。サーバ９０１は、差分が予め定められた閾値以上の場合は、クライアント装置９０２の周辺で何らかの異常が発生したと判断する。例えば、地震等の自然災害によって地盤沈下等が発生した際などに、サーバ９０１が管理する三次元マップ１１３５と、センサ情報１０３７を基に作成した三次元データ１１３４との間に大きな差が発生することが考えられる。
【０５７８】
センサ情報１０３７は、センサの種類、センサの性能、及びセンサの型番のうち少なくとも一つを示す情報を含んでもよい。また、センサ情報１０３７に、センサの性能に応じたクラスＩＤ等が付加されてもよい。例えば、センサ情報１０３７がＬＩＤＡＲで取得された情報である場合、数ｍｍ単位の精度で情報を取得できるセンサをクラス１、数ｃｍ単位の精度で情報を取得できるセンサをクラス２、数ｍ単位の精度で情報を取得できるセンサをクラス３のように、センサの性能に識別子を割り当てることが考えられる。また、サーバ９０１は、センサの性能情報等を、クライアント装置９０２の型番から推定してもよい。例えば、クライアント装置９０２が車両に搭載されている場合、サーバ９０１は、当該車両の車種からセンサのスペック情報を判断してもよい。この場合、サーバ９０１は、車両の車種の情報を事前に取得していてもよいし、センサ情報に、当該情報が含まれてもよい。また、サーバ９０１は取得したセンサ情報１０３７を用いて、センサ情報１０３７を用いて作成した三次元データ１１３４に対する補正の度合いを切り替えてもよい。例えば、センサ性能が高精度（クラス１）である場合、サーバ９０１は、三次元データ１１３４に対する補正を行わない。センサ性能が低精度（クラス３）である場合、サーバ９０１は、三次元データ１１３４に、センサの精度に応じた補正を適用する。例えば、サーバ９０１は、センサの精度が低いほど補正の度合い（強度）を強くする。
【０５７９】
サーバ９０１は、ある空間にいる複数のクライアント装置９０２に同時にセンサ情報の送信要求を出してもよい。サーバ９０１は、複数のクライアント装置９０２から複数のセンサ情報を受信した場合に、全てのセンサ情報を三次元データ１１３４の作成に利用する必要はなく、例えば、センサの性能に応じて、利用するセンサ情報を選択してもよい。例えば、サーバ９０１は、三次元マップ１１３５を更新する場合、受信した複数のセンサ情報の中から高精度なセンサ情報（クラス１）を選別し、選別したセンサ情報を用いて三次元データ１１３４を作成してもよい。
【０５８０】
サーバ９０１は、交通監視クラウド等のサーバのみに限定されず、他のクライアント装置（車載）であってもよい。図５２は、この場合のシステム構成を図である。
【０５８１】
例えば、クライアント装置９０２Ｃが近くにいるクライアント装置９０２Ａにセンサ情報の送信要求を出し、クライアント装置９０２Ａからセンサ情報を取得する。そして、クライアント装置９０２Ｃは、取得したクライアント装置９０２Ａのセンサ情報を用いて三次元データを作成し、クライアント装置９０２Ｃの三次元マップを更新する。これにより、クライアント装置９０２Ｃは、クライアント装置９０２Ａから取得可能な空間の三次元マップを、クライアント装置９０２Ｃの性能を活かして生成できる。例えば、クライアント装置９０２Ｃの性能が高い場合に、このようなケースが発生すると考えられる。
【０５８２】
また、この場合、センサ情報を提供したクライアント装置９０２Ａは、クライアント装置９０２Ｃが生成した高精度な三次元マップを取得する権利が与えられる。クライアント装置９０２Ａは、その権利に従ってクライアント装置９０２Ｃから高精度な三次元マップを受信する。
【０５８３】
また、クライアント装置９０２Ｃは近くにいる複数のクライアント装置９０２（クライアント装置９０２Ａ及びクライアント装置９０２Ｂ）にセンサ情報の送信要求を出してもよい。クライアント装置９０２Ａ又はクライアント装置９０２Ｂのセンサが高性能である場合には、クライアント装置９０２Ｃは、この高性能なセンサで得らえたセンサ情報を用いて三次元データを作成できる。
【０５８４】
図５３は、サーバ９０１及びクライアント装置９０２の機能構成を示すブロック図である。サーバ９０１は、例えば、三次元マップを圧縮及び復号する三次元マップ圧縮／復号処理部１２０１と、センサ情報を圧縮及び復号するセンサ情報圧縮／復号処理部１２０２とを備える。
【０５８５】
クライアント装置９０２は、三次元マップ復号処理部１２１１と、センサ情報圧縮処理部１２１２とを備える。三次元マップ復号処理部１２１１は、圧縮された三次元マップの符号化データを受信し、符号化データを復号して三次元マップを取得する。センサ情報圧縮処理部１２１２は、取得したセンサ情報から作成した三次元データの代わりに、センサ情報そのものを圧縮し、圧縮したセンサ情報の符号化データをサーバ９０１へ送信する。この構成により、クライアント装置９０２は、三次元マップ（ポイントクラウド等）を復号する処理を行う処理部（装置又はＬＳＩ）を内部に保持すればよく、三次元マップ（ポイントクラウド等）の三次元データを圧縮する処理を行う処理部を内部に保持する必要がない。これにより、クライアント装置９０２のコスト及び消費電力等を抑えることができる。
【０５８６】
以上のように、本実施の形態に係るクライアント装置９０２は、移動体に搭載され、移動体に搭載されたセンサ１０１５により得られた、移動体の周辺状況を示すセンサ情報１０３３から、移動体の周辺の三次元データ１０３４を作成する。クライアント装置９０２は、作成された三次元データ１０３４を用いて移動体の自己位置を推定する。クライアント装置９０２は、取得したセンサ情報１０３３をサーバ９０１又は他の移動体９０２に送信する。
【０５８７】
これによれば、クライアント装置９０２は、センサ情報１０３３をサーバ９０１等に送信する。これにより、三次元データを送信する場合に比べて、送信データのデータ量を削減できる可能性がある。また、三次元データの圧縮又は符号化等の処理をクライアント装置９０２で行う必要がないので、クライアント装置９０２の処理量を削減できる。よって、クライアント装置９０２は、伝送されるデータ量の削減、又は、装置の構成の簡略化を実現できる。
【０５８８】
また、クライアント装置９０２は、さらに、サーバ９０１に三次元マップの送信要求を送信し、サーバ９０１から三次元マップ１０３１を受信する。クライアント装置９０２は、自己位置の推定では、三次元データ１０３４と三次元マップ１０３２とを用いて、自己位置を推定する。
【０５８９】
また、センサ情報１０３３は、レーザセンサで得られた情報、輝度画像、赤外画像、デプス画像、センサの位置情報、及びセンサの速度情報のうち少なくとも一つを含む。
【０５９０】
また、センサ情報１０３３は、センサの性能を示す情報を含む。
【０５９１】
また、クライアント装置９０２は、センサ情報１０３３を符号化又は圧縮し、センサ情報の送信では、符号化又は圧縮後のセンサ情報１０３７を、サーバ９０１又は他の移動体９０２に送信する。これによれば、クライアント装置９０２は、伝送されるデータ量を削減できる。
【０５９２】
例えば、クライアント装置９０２は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０５９３】
また、本実施の形態に係るサーバ９０１は、移動体に搭載されるクライアント装置９０２と通信可能であり、移動体に搭載されたセンサ１０１５により得られた、移動体の周辺状況を示すセンサ情報１０３７をクライアント装置９０２から受信する。サーバ９０１は、受信したセンサ情報１０３７から、移動体の周辺の三次元データ１１３４を作成する。
【０５９４】
これによれば、サーバ９０１は、クライアント装置９０２から送信されたセンサ情報１０３７を用いて三次元データ１１３４を作成する。これにより、クライアント装置９０２が三次元データを送信する場合に比べて、送信データのデータ量を削減できる可能性がある。また、三次元データの圧縮又は符号化等の処理をクライアント装置９０２で行う必要がないので、クライアント装置９０２の処理量を削減できる。よって、サーバ９０１は、伝送されるデータ量の削減、又は、装置の構成の簡略化を実現できる。
【０５９５】
また、サーバ９０１は、さらに、クライアント装置９０２にセンサ情報の送信要求を送信する。
【０５９６】
また、サーバ９０１は、さらに、作成された三次元データ１１３４を用いて三次元マップ１１３５を更新し、クライアント装置９０２からの三次元マップ１１３５の送信要求に応じて三次元マップ１１３５をクライアント装置９０２に送信する。
【０５９７】
また、センサ情報１０３７は、レーザセンサで得られた情報、輝度画像、赤外画像、デプス画像、センサの位置情報、及びセンサの速度情報のうち少なくとも一つを含む。
【０５９８】
また、センサ情報１０３７は、センサの性能を示す情報を含む。
【０５９９】
また、サーバ９０１は、さらに、センサの性能に応じて、三次元データを補正する。これによれば、当該三次元データ作成方法は、三次元データの品質を向上できる。
【０６００】
また、サーバ９０１は、センサ情報の受信では、複数のクライアント装置９０２から複数のセンサ情報１０３７を受信し、複数のセンサ情報１０３７に含まれるセンサの性能を示す複数の情報に基づき、三次元データ１１３４の作成に用いるセンサ情報１０３７を選択する。これによれば、サーバ９０１は、三次元データ１１３４の品質を向上できる。
【０６０１】
また、サーバ９０１は、受信したセンサ情報１０３７を復号又は伸張し、復号又は伸張後のセンサ情報１１３２から、三次元データ１１３４を作成する。これによれば、サーバ９０１は、伝送されるデータ量を削減できる。
【０６０２】
例えば、サーバ９０１は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０６０３】
（実施の形態８）
本実施の形態では、インター予測処理を用いた三次元データの符号化方法及び復号方法について説明する。
【０６０４】
図５４は、本実施の形態に係る三次元データ符号化装置１３００のブロック図である。この三次元データ符号装置１３００は、三次元データを符号化することで符号化信号である符号化ビットストリーム（以下、単にビットストリームとも記す）を生成する。図５４に示すように、三次元データ符号化装置１３００は、分割部１３０１と、減算部１３０２と、変換部１３０３と、量子化部１３０４と、逆量子化部１３０５と、逆変換部１３０６と、加算部１３０７と、参照ボリュームメモリ１３０８と、イントラ予測部１３０９と、参照スペースメモリ１３１０と、インター予測部１３１１と、予測制御部１３１２と、エントロピー符号化部１３１３とを備える。
【０６０５】
分割部１３０１は、三次元データに含まれる各スペース（ＳＰＣ）を符号化単位である複数のボリューム（ＶＬＭ）に分割する。また、分割部１３０１は、各ボリューム内のボクセルを８分木表現化（Ｏｃｔｒｅｅ化）する。なお、分割部１３０１は、スペースとボリュームを同一サイズとし、スペースを８分木表現化してもよい。また、分割部１３０１は、８分木化に必要な情報（深度情報など）をビットストリームのヘッダ等に付加してもよい。
【０６０６】
減算部１３０２は、分割部１３０１から出力されたボリューム（符号化対象ボリューム）と、後述するイントラ予測又はインター予測によって生成される予測ボリュームとの差分を算出し、算出された差分を予測残差として変換部１３０３に出力する。図５５は、予測残差の算出例を示す図である。なお、ここで示す符号化対象ボリューム及び予測ボリュームのビット列は、例えば、ボリュームに含まれる三次元点（例えばポイントクラウド）の位置を示す位置情報である。
【０６０７】
以下、８分木表現とボクセルのスキャン順について説明する。ボリュームは８分木構造に変換（８分木化）された後、符号化される。８分木構造はノードとリーフとで構成される。各ノードは８つのノード又はリーフを持ち、各リーフはボクセル（ＶＸＬ）情報を持つ。図５６は、複数のボクセルを含むボリュームの構造例を示す図である。図５７は、図５６に示すボリュームを８分木構造に変換した例を示す図である。ここで、図５７に示すリーフのうち、リーフ１、２、３はそれぞれ図５６に示すボクセルＶＸＬ１、ＶＸＬ２、ＶＸＬ３を表し、点群を含むＶＸＬ（以下、有効ＶＸＬ）を表現している。
【０６０８】
８分木は、例えば０、１の二値列で表現される。例えば、ノード又は有効ＶＸＬを値１、それ以外を値０とすると、各ノード及びリーフには図５７に示す二値列が割当てられる。そして、幅優先又は深さ優先のスキャン順に応じて、この二値列がスキャンされる。例えば幅優先でスキャンされた場合、図５８のＡに示す二値列が得られる。深さ優先でスキャンした場合は図５８のＢに示す二値列が得られる。このスキャンにより得られた二値列はエントロピー符号化によって符号化され情報量が削減される。
【０６０９】
次に、８分木表現における深度情報について説明する。８分木表現における深度は、ボリューム内に含まれるポイントクラウド情報を、どの粒度まで保持するかをコントロールするために使用される。深度を大きく設定すると、より細かいレベルまでポイントクラウド情報を再現することができるが、ノード及びリーフを表現するためのデータ量が増える。逆に深度を小さく設定すると、データ量が減少するが、複数の異なる位置及び色の異なるポイントクラウド情報が同一位置かつ同一色であるとみなされるため、本来のポイントクラウド情報が持つ情報を失うことになる。
【０６１０】
例えば、図５９は、図５７に示す深度＝２の８分木を、深度＝１の８分木で表現した例を示す図である。図５９に示す８分木は図５７に示す８分木よりデータ量が少なくなる。つまり、図５９に示す８分木は図５９に示す８分木より二値列化後のビット数が少ない。ここで、図５７に示すリーフ１とリーフ２が図５８に示すリーフ１で表現されることになる。つまり、図５７に示すリーフ１とリーフ２とが異なる位置であったという情報が失われる。
【０６１１】
図６０は、図５９に示す８分木に対応するボリュームを示す図である。図５６に示すＶＸＬ１とＶＸＬ２が図６０に示すＶＸＬ１２に対応する。この場合、三次元データ符号化装置１３００は、図６０に示すＶＸＬ１２の色情報を、図５６に示すＶＸＬ１とＶＸＬ２との色情報から生成する。例えば、三次元データ符号化装置１３００は、ＶＸＬ１とＶＸＬ２との色情報の平均値、中間値、又は重み平均値などをＶＸＬ１２の色情報として算出する。このように、三次元データ符号化装置１３００は、８分木の深度を変えることで、データ量の削減を制御してもよい。
【０６１２】
三次元データ符号化装置１３００は、８分木の深度情報を、ワールド単位、スペース単位、及びボリューム単位のいずれの単位で設定しても構わない。またその際、三次元データ符号化装置１３００は、ワールドのヘッダ情報、スペースのヘッダ情報、又はボリュームのヘッダ情報に深度情報を付加してもよい。また、時間の異なる全てのワールド、スペース、及びボリュームで深度情報して同一の値を使用してもよい。この場合、三次元データ符号化装置１３００は、全時間のワールドを管理するヘッダ情報に深度情報を付加してもよい。
【０６１３】
ボクセルに色情報が含まれる場合には、変換部１３０３は、ボリューム内のボクセルの色情報の予測残差に対し、直交変換等の周波数変換を適用する。例えば、変換部１３０３は、あるスキャン順で予測残差をスキャンすることで一次元配列を作成する。その後、変換部１３０３は、作成した一次元配列に一次元の直交変換を適用することで一次元配列を周波数領域に変換する。これにより、ボリューム内の予測残差の値が近い場合には低域の周波数成分の値が大きくなり、高域の周波数成分の値が小さくなる。よって、量子化部１３０４においてより効率的に符号量を削減することができる。
【０６１４】
また、変換部１３０３は、一次元ではなく、二次元以上の直交変換を用いてもよい。例えば、変換部１３０３は、あるスキャン順で予測残差を二次元配列にマッピングし、得られた二次元配列に二次元直交変換を適用する。また、変換部１３０３は、複数の直交変換方式から使用する直交変換方式を選択してもよい。この場合、三次元データ符号化装置１３００は、どの直交変換方式を用いたかを示す情報をビットストリームに付加する。また、変換部１３０３は、次元の異なる複数の直交変換方式から使用する直交変換方式を選択してもよい。この場合、三次元データ符号化装置１３００は、どの次元の直交変換方式を用いたかをビットストリームに付加する。
【０６１５】
例えば、変換部１３０３は、予測残差のスキャン順を、ボリューム内の８分木におけるスキャン順（幅優先又は深さ優先など）に合わせる。これにより、予測残差のスキャン順を示す情報をビットストリームに付加する必要がないので、オーバーヘッドを削減できる。また、変換部１３０３は、８分木のスキャン順とは異なるスキャン順を適用してもよい。この場合、三次元データ符号化装置１３００は、予測残差のスキャン順を示す情報をビットストリームに付加する。これにより、三次元データ符号化装置１３００は、予測残差を効率よく符号化することができる。また、三次元データ符号化装置１３００は、８分木のスキャン順を適用するか否かを示す情報（フラグ等）をビットストリームに付加し、８分木のスキャン順を適用しない場合に、予測残差のスキャン順を示す情報をビットストリームに付加してもよい。
【０６１６】
変換部１３０３は、色情報の予測残差だけでなく、ボクセルが持つその他の属性情報を変換してもよい。例えば、変換部１３０３は、ポイントクラウドをＬｉＤＡＲ等で取得した際に得られる反射度等の情報を変換し、符号化してもよい。
【０６１７】
変換部１３０３は、スペースが色情報等の属性情報を持たない場合は、処理をスキップしてもよい。また、三次元データ符号化装置１３００は、変換部１３０３の処理をスキップするか否かを示す情報（フラグ）をビットストリームに付加してもよい。
【０６１８】
量子化部１３０４は、変換部１３０３で生成された予測残差の周波数成分に対し、量子化制御パラメータを用いて量子化を行うことで量子化係数を生成する。これにより情報量が削減される。生成された量子化係数はエントロピー符号化部１３１３に出力される。量子化部１３０４は、量子化制御パラメータを、ワールド単位、スペース単位、又はボリューム単位で制御してもよい。その際には、三次元データ符号化装置１３００は、量子化制御パラメータをそれぞれのヘッダ情報等に付加する。また、量子化部１３０４は、予測残差の周波数成分毎に、重みを変えて量子化制御を行ってもよい。例えば、量子化部１３０４は、低周波数成分は細かく量子化し、高周波成分は粗く量子化してもよい。この場合、三次元データ符号化装置１３００は、各周波数成分の重みを表すパラメータをヘッダに付加してもよい。
【０６１９】
量子化部１３０４は、スペースが色情報等の属性情報を持たない場合は、処理をスキップしてもよい。また、三次元データ符号化装置１３００は、量子化部１３０４の処理をスキップするか否かを示す情報（フラグ）をビットストリームに付加してもよい。
【０６２０】
逆量子化部１３０５は、量子化制御パラメータを用いて、量子化部１３０４で生成された量子化係数に逆量子化を行うことで予測残差の逆量子化係数を生成し、生成した逆量子化係数を逆変換部１３０６に出力する。
【０６２１】
逆変換部１３０６は、逆量子化部１３０５で生成された逆量子化係数に対し逆変換を適用することで逆変換適用後予測残差を生成する。この逆変換適用後予測残差は、量子化後に生成された予測残差であるため、変換部１３０３が出力した予測残差とは完全には一致しなくてもよい。
【０６２２】
加算部１３０７は、逆変換部１３０６で生成された逆変換適用後予測残差と、量子化前の予測残差の生成に用いられた、後述するイントラ予測又はインター予測により生成された予測ボリュームとを加算して再構成ボリュームを生成する。この再構成ボリュームは、参照ボリュームメモリ１３０８、又は、参照スペースメモリ１３１０に格納される。
【０６２３】
イントラ予測部１３０９は、参照ボリュームメモリ１３０８に格納された隣接ボリュームの属性情報を用いて、符号化対象ボリュームの予測ボリュームを生成する。属性情報とは、ボクセルの色情報又は反射度を含む。イントラ予測部１３０９は、符号化対象ボリュームの色情報又は反射度の予測値を生成する。
【０６２４】
図６１は、イントラ予測部１３０９の動作を説明するための図である。例えば、イントラ予測部１３０９は、図６１に示す、符号化対象ボリューム（ボリュームｉｄｘ＝３）の予測ボリュームを、隣接ボリューム（ボリュームｉｄｘ＝０）から生成する。ここで、ボリュームｉｄｘとはスペース内のボリュームに対し付加される識別子情報であり、各ボリュームに異なる値が割当てられる。ボリュームｉｄｘの割当ての順番は符号化順と同じ順番であってもよいし、符号化順とは異なる順番であってもよい。例えば、イントラ予測部１３０９は、図６１に示す符号化対象ボリュームの色情報の予測値として、隣接ボリュームであるボリュームｉｄｘ＝０内に含まれるボクセルの色情報の平均値を用いる。この場合、符号化対象ボリューム内に含まれる各ボクセルの色情報から、色情報の予測値が差し引かれることで予測残差が生成される。この予測残差に対して変換部１３０３以降の処理が行われる。また、この場合、三次元データ符号化装置１３００は、隣接ボリューム情報と、予測モード情報とをビットストリームに付加する。ここで隣接ボリューム情報とは、予測に用いた隣接ボリュームを示す情報であり、例えば、予測に用いた隣接ボリュームのボリュームｉｄｘを示す。また、予測モード情報とは、予測ボリュームの生成に使用したモードを示す。モードとは、例えば、隣接ボリューム内のボクセルの平均値から予測値を生成する平均値モード、又は隣接ボリューム内のボクセルの中間値から予測値を生成する中間値モード等である。
【０６２５】
イントラ予測部１３０９は、予測ボリュームを、複数の隣接ボリュームから生成してもよい。例えば、図６１に示す構成において、イントラ予測部１３０９は、ボリュームｉｄｘ＝０のボリュームから予測ボリューム０を生成し、ボリュームｉｄｘ＝１のボリュームから予測ボリューム１を生成する。そして、イントラ予測部１３０９は、予測ボリューム０と予測ボリューム１の平均を最終的な予測ボリュームとして生成する。この場合、三次元データ符号化装置１３００は、予測ボリュームの生成に使用した複数のボリュームの複数のボリュームｉｄｘをビットストリームに付加してもよい。
【０６２６】
図６２は、本実施の形態に係るインター予測処理を模式的に示す図である。インター予測部１３１１は、ある時刻Ｔ＿Ｃｕｒのスペース（ＳＰＣ）を、異なる時刻Ｔ＿ＬＸの符号化済みスペースを用いて符号化（インター予測）する。この場合、インター予測部１３１１は、異なる時刻Ｔ＿ＬＸの符号化済みスペースに回転及び並進処理を適用して符号化処理を行う。
【０６２７】
また、三次元データ符号化装置１３００は、異なる時刻Ｔ＿ＬＸのスペースに適用した回転及び並進処理に関わるＲＴ情報をビットストリームに付加する。異なる時刻Ｔ＿ＬＸとは、例えば、前記ある時刻Ｔ＿Ｃｕｒより前の時刻Ｔ＿Ｌ０である。このとき、三次元データ符号化装置１３００は、時刻Ｔ＿Ｌ０のスペースに適用した回転及び並進処理に関わるＲＴ情報ＲＴ＿Ｌ０をビットストリームに付加してもよい。
【０６２８】
または、異なる時刻Ｔ＿ＬＸとは、例えば、前記ある時刻Ｔ＿Ｃｕｒより後の時刻Ｔ＿Ｌ１である。このとき、三次元データ符号化装置１３００は、時刻Ｔ＿Ｌ１のスペースに適用した回転及び並進処理に関わるＲＴ情報ＲＴ＿Ｌ１をビットストリームに付加してもよい。
【０６２９】
または、インター予測部１３１１は、異なる時刻Ｔ＿Ｌ０及び時刻Ｔ＿Ｌ１の両方のスペースを参照して符号化（双予測）を行う。この場合には、三次元データ符号化装置１３００は、それぞれのスペースに適用した回転及び並進に関わるＲＴ情報ＲＴ＿Ｌ０及びＲＴ＿Ｌ１の両方をビットストリームに付加してもよい。
【０６３０】
なお、上記ではＴ＿Ｌ０をＴ＿Ｃｕｒより前の時刻、Ｔ＿Ｌ１をＴ＿Ｃｕｒより後の時刻としたが、必ずしもこれに限らない。例えば、Ｔ＿Ｌ０とＴ＿Ｌ１は共にＴ＿Ｃｕｒより前の時刻でもよい。または、Ｔ＿Ｌ０とＴ＿Ｌ１は共にＴ＿Ｃｕｒより後の時刻でもよい。
【０６３１】
また、三次元データ符号化装置１３００は、複数の異なる時刻のスペースを参照して符号化を行う場合には、それぞれのスペースに適用した回転及び並進に関わるＲＴ情報をビットストリームに付加してもよい。例えば、三次元データ符号化装置１３００は、参照する複数の符号化済みスペースを２つの参照リスト（Ｌ０リスト及びＬ１リスト）で管理する。Ｌ０リスト内の第１の参照スペースをＬ０Ｒ０とし、Ｌ０リスト内の第２の参照スペースをＬ０Ｒ１とし、Ｌ１リスト内の第１の参照スペースをＬ１Ｒ０とし、Ｌ１リスト内の第２の参照スペースをＬ１Ｒ１とした場合、三次元データ符号化装置１３００は、Ｌ０Ｒ０のＲＴ情報ＲＴ＿Ｌ０Ｒ０と、Ｌ０Ｒ１のＲＴ情報ＲＴ＿Ｌ０Ｒ１と、Ｌ１Ｒ０のＲＴ情報ＲＴ＿Ｌ１Ｒ０と、Ｌ１Ｒ１のＲＴ情報ＲＴ＿Ｌ１Ｒ１とをビットストリームに付加する。例えば、三次元データ符号化装置１３００は、これらのＲＴ情報をビットストリームのヘッダ等に付加する。
【０６３２】
また、三次元データ符号化装置１３００は、複数の異なる時刻の参照スペースを参照して符号化を行う場合、参照スペース毎に回転及び並進を適用するか否かを判定する。その際、三次元データ符号化装置１３００は、参照スペース毎に回転及び並進を適用したか否かを示す情報（ＲＴ適用フラグ等）をビットストリームのヘッダ情報等に付加してもよい。例えば、三次元データ符号化装置１３００は、符号化対象スペースから参照する参照スペース毎にＩＣＰ（Ｉｎｔｅｒａｃｔｉｖｅ  Ｃｌｏｓｅｓｔ  Ｐｏｉｎｔ）アルゴリズムを用いてＲＴ情報、及びＩＣＰエラー値を算出する。三次元データ符号化装置１３００は、ＩＣＰエラー値が、予め定められた一定値以下の場合は、回転及び並進を行う必要がないと判定してＲＴ適用フラグをオフに設定する。一方、三次元データ符号化装置１３００は、ＩＣＰエラー値が上記一定値より大きい場合は、ＲＴ適用フラグをオンに設定し、ＲＴ情報をビットストリームに付加する。
【０６３３】
図６３は、ＲＴ情報及びＲＴ適用フラグをヘッダに付加するシンタックス例を示す図である。なお、各シンタックスに割当てるビット数は、そのシンタックスが取りうる範囲で決定してもよい。例えば、参照リストＬ０内に含まれる参照スペース数が８つの場合、ＭａｘＲｅｆＳｐｃ＿ｌ０には３ｂｉｔが割当てられてもよい。割当てるビット数を、各シンタックスが取りうる値に応じて可変にしてもよいし、取りうる値に関わらず固定にしてもよい。割り当てるビット数を固定にする場合は、三次元データ符号化装置１３００は、その固定ビット数を別のヘッダ情報に付加してもよい。
【０６３４】
ここで、図６３に示す、ＭａｘＲｅｆＳｐｃ＿ｌ０は、参照リストＬ０内に含まれる参照スペース数を示す。ＲＴ＿ｆｌａｇ＿ｌ０［ｉ］は、参照リストＬ０内の参照スペースｉのＲＴ適用フラグである。ＲＴ＿ｆｌａｇ＿ｌ０［ｉ］が１の場合、参照スペースｉに回転及び並進が適用される。ＲＴ＿ｆｌａｇ＿ｌ０［ｉ］が０の場合、参照スペースｉに回転及び並進が適用されない。
【０６３５】
Ｒ＿ｌ０［ｉ］及びＴ＿ｌ０［ｉ］は、参照リストＬ０内の参照スペースｉのＲＴ情報である。Ｒ＿ｌ０［ｉ］は、参照リストＬ０内の参照スペースｉの回転情報である。回転情報は、適用された回転処理の内容を示し、例えば、回転行列、又はクォータニオン等である。Ｔ＿ｌ０［ｉ］は、参照リストＬ０内の参照スペースｉの並進情報である。並進情報は、適用された並進処理の内容を示し、例えば、並進ベクトル等である。
【０６３６】
ＭａｘＲｅｆＳｐｃ＿ｌ１は、参照リストＬ１内に含まれる参照スペース数を示す。ＲＴ＿ｆｌａｇ＿ｌ１［ｉ］は、参照リストＬ１内の参照スペースｉのＲＴ適用フラグである。ＲＴ＿ｆｌａｇ＿ｌ１［ｉ］が１の場合、参照スペースｉに回転及び並進が適用される。ＲＴ＿ｆｌａｇ＿ｌ１［ｉ］が０の場合、参照スペースｉに回転及び並進が適用されない。
【０６３７】
Ｒ＿ｌ１［ｉ］及びＴ＿ｌ１［ｉ］は、参照リストＬ１内の参照スペースｉのＲＴ情報である。Ｒ＿ｌ１［ｉ］は、参照リストＬ１内の参照スペースｉの回転情報である。回転情報は、適用された回転処理の内容を示し、例えば、回転行列、又はクォータニオン等である。Ｔ＿ｌ１［ｉ］は、参照リストＬ１内の参照スペースｉの並進情報である。並進情報は、適用された並進処理の内容を示し、例えば、並進ベクトル等である。
【０６３８】
インター予測部１３１１は、参照スペースメモリ１３１０に格納された符号化済みの参照スペースの情報を用いて符号化対象ボリュームの予測ボリュームを生成する。上述したように、インター予測部１３１１は、符号化対象ボリュームの予測ボリュームを生成する前に、符号化対象スペースと参照スペースの全体的な位置関係を近づけるために、符号化対象スペースと参照スペースでＩＣＰ（Ｉｎｔｅｒａｃｔｉｖｅ  Ｃｌｏｓｅｓｔ  Ｐｏｉｎｔ）アルゴリズムを用いてＲＴ情報を求める。そして、インター予測部１３１１は、求めたＲＴ情報を用いて参照スペースに回転及び並進処理を適用することで参照スペースＢを得る。その後、インター予測部１３１１は、符号化対象スペース内の符号化対象ボリュームの予測ボリュームを参照スペースＢ内の情報を用いて生成する。ここで、三次元データ符号化装置１３００は、参照スペースＢを得るために用いられたＲＴ情報を符号化対象スペースのヘッダ情報等に付加する。
【０６３９】
このように、インター予測部１３１１は、参照スペースに回転及び並進処理を適用することにより符号化対象スペースと参照スペースとの全体的な位置関係を近づけてから、参照スペースの情報を用いて予測ボリュームを生成することで予測ボリュームの精度を向上できる。また、予測残差を抑制できるので符号量を削減できる。なお、ここでは、符号化対象スペースと参照スペースとを用いてＩＣＰを行う例を示したが、必ずしもこれに限らない。例えば、インター予測部１３１１は、処理量を削減するために、ボクセル又はポイントクラウド数を間引いた符号化対象スペース、及び、ボクセル又はポイントクラウド数を間引いた参照スペースの少なくとも一方を用いてＩＣＰを行うことで、ＲＴ情報を求めてもよい。
【０６４０】
また、インター予測部１３１１は、ＩＣＰの結果得られるＩＣＰエラー値が、予め定められた第１閾値より小さい場合、つまり、例えば符号化対象スペースと参照スペースの位置関係が近い場合には、回転及び並進処理は必要ないと判断し、回転及び並進を行わなくてもよい。この場合、三次元データ符号化装置１３００は、ＲＴ情報をビットストリームに付加しないことによりオーバーヘッドを抑制してもよい。
【０６４１】
また、インター予測部１３１１は、ＩＣＰエラー値が、予め定められた第２閾値より大きい場合には、スペース間の形状変化が大きいと判断し、符号化対象スペースの全てのボリュームにイントラ予測を適用してもよい。以下、イントラ予測を適用するスペースをイントラスペースと呼ぶ。また、第２閾値は上記第１閾値より大きい値である。また、ＩＣＰに限定せず、２つのボクセル集合、又は、２つのポイントクラウド集合からＲＴ情報を求める方法であれば、どのような手法を適用してもよい。
【０６４２】
また、三次元データに形状又は色等の属性情報が含まれる場合には、インター予測部１３１１は、符号化対象スペース内の符号化対象ボリュームの予測ボリュームとして、例えば参照スペース内で符号化対象ボリュームと最も形状又は色等の属性情報が近いボリュームを探索する。また、この参照スペースは、例えば、上述した回転及び並進処理が行われた後の参照スペースである。インター予測部１３１１は、探索により得られたボリューム（参照ボリューム）から予測ボリュームを生成する。図６４は、予測ボリュームの生成動作を説明するための図である。インター予測部１３１１は、図６４に示す符号化対象ボリューム（ボリュームｉｄｘ＝０）を、インター予測を用いて符号化する場合、参照スペース内の参照ボリュームを順にスキャンしながら、符号化対象ボリュームと参照ボリュームとの差分である予測残差が一番小さいボリュームを探索する。インター予測部１３１１は、予測残差が一番小さいボリュームを予測ボリュームとして選択する。符号化対象ボリュームと予測ボリュームとの予測残差が変換部１３０３以降の処理により符号化される。ここで、予測残差とは、符号化対象ボリュームの属性情報と予測ボリュームの属性情報との差分である。また、三次元データ符号化装置１３００は、予測ボリュームとして参照した参照スペース内の参照ボリュームのボリュームｉｄｘをビットストリームのヘッダ等に付加する。
【０６４３】
図６４に示す例では、参照スペースＬ０Ｒ０のボリュームｉｄｘ＝４の参照ボリュームが符号化対象ボリュームの予測ボリュームとして選択される。そして、符号化対象ボリュームと参照ボリュームとの予測残差と、参照ボリュームｉｄｘ＝４とが符号化されてビットストリームに付加される。
【０６４４】
なお、ここでは属性情報の予測ボリュームを生成する例を説明したが、位置情報の予測ボリュームについても同様の処理が行われてもよい。
【０６４５】
予測制御部１３１２は、符号化対象ボリュームをイントラ予測、及びインター予測のいずれを用いて符号化するかを制御する。ここで、イントラ予測、及びインター予測を含むモードを予測モードと呼ぶ。例えば、予測制御部１３１２は、符号化対象ボリュームをイントラ予測で予測した場合の予測残差と、インター予測で予測した場合の予測残差とを評価値として算出し、評価値が小さい方の予測モードを選択する。なお、予測制御部１３１２は、イントラ予測の予測残差とインター予測の予測残差とに、それぞれ直交変換、量子化、及び、エントロピー符号化を適用することで実際の符号量を算出し、算出した符号量を評価値として予測モードを選択してもよい。また、評価値に予測残差以外のオーバーヘッド情報（参照ボリュームｉｄｘ情報など）を加えるようにしてもよい。また、予測制御部１３１２は、符号化対象スペースをイントラスペースで符号化すると予め決定されている場合には、常にイントラ予測を選択してもよい。
【０６４６】
エントロピー符号化部１３１３は、量子化部１３０４からの入力である量子化係数を可変長符号化することにより符号化信号（符号化ビットストリーム）を生成する。具体的には、エントロピー符号化部１３１３は、例えば、量子化係数を二値化し、得られた二値信号を算術符号化する。
【０６４７】
次に、三次元データ符号化装置１３００により生成された符号化信号を復号する三次元データ復号装置について説明する。図６５は、本実施の形態に係る三次元データ復号装置１４００のブロック図である。この三次元データ復号装置１４００は、エントロピー復号部１４０１と、逆量子化部１４０２と、逆変換部１４０３と、加算部１４０４と、参照ボリュームメモリ１４０５と、イントラ予測部１４０６と、参照スペースメモリ１４０７と、インター予測部１４０８と、予測制御部１４０９とを備える。
【０６４８】
エントロピー復号部１４０１は、符号化信号（符号化ビットストリーム）を可変長復号する。例えば、エントロピー復号部１４０１は、符号化信号を算術復号して二値信号を生成し、生成した二値信号から量子化係数を生成する。
【０６４９】
逆量子化部１４０２は、エントロピー復号部１４０１から入力された量子化係数を、ビットストリーム等に付加された量子化パラメータを用いて逆量子化することで逆量子化係数を生成する。
【０６５０】
逆変換部１４０３は、逆量子化部１４０２から入力された逆量子化係数を逆変換することで予測残差を生成する。例えば、逆変換部１４０３は、逆量子化係数を、ビットストリームに付加された情報に基づいて逆直交変換することで予測残差を生成する。
【０６５１】
加算部１４０４は、逆変換部１４０３で生成された予測残差と、イントラ予測又はインター予測により生成された予測ボリュームとを加算して再構成ボリュームを生成する。この再構成ボリュームは、復号三次元データとして出力されるとともに、参照ボリュームメモリ１４０５、又は、参照スペースメモリ１４０７に格納される。
【０６５２】
イントラ予測部１４０６は、参照ボリュームメモリ１４０５内の参照ボリュームとビットストリームに付加された情報とを用いてイントラ予測により予測ボリュームを生成する。具体的には、イントラ予測部１４０６は、ビットストリームに付加された隣接ボリューム情報（例えばボリュームｉｄｘ）と、予測モード情報とを取得し、隣接ボリューム情報で示さる隣接ボリュームを用いて、予測モード情報で示されるモードにより予測ボリュームを生成する。なお、これらの処理の詳細は、ビットストリームに付与された情報が用いられる点を除き、上述したイントラ予測部１３０９による処理と同様である。
【０６５３】
インター予測部１４０８は、参照スペースメモリ１４０７内の参照スペースとビットストリームに付加された情報とを用いてインター予測により予測ボリュームを生成する。具体的には、インター予測部１４０８は、ビットストリームに付加された参照スペース毎のＲＴ情報を用いて参照スペースに対して回転及び並進処理を適用し、適用後の参照スペースを用いて予測ボリュームを生成する。なお、参照スペース毎のＲＴ適用フラグがビットストリーム内に存在する場合には、インター予測部１４０８は、ＲＴ適用フラグに応じて参照スペースに回転及び並進処理を適用する。なお、これらの処理の詳細は、ビットストリームに付与された情報が用いられる点を除き、上述したインター予測部１３１１による処理と同様である。
【０６５４】
予測制御部１４０９は、復号対象ボリュームをイントラ予測で復号するか、インター予測で復号するかを制御する。例えば、予測制御部１４０９は、ビットストリームに付加された、使用する予測モードを示す情報に応じてイントラ予測又はインター予測を選択する。なお、予測制御部１４０９は、復号対象スペースをイントラスペースで復号すると予め決定されている場合は、常にイントラ予測を選択してもよい。
【０６５５】
以下、本実施の形態の変形例について説明する。本実施の形態ではスペース単位で回転及び並進が適用される例を説明したが、より細かい単位で回転及び並進が適用されてもよい。例えば、三次元データ符号化装置１３００は、スペースをサブスペースに分割し、サブスペース単位で回転及び並進を適用してもよい。この場合、三次元データ符号化装置１３００は、サブスペース毎にＲＴ情報を生成し、生成したＲＴ情報をビットストリームのヘッダ等に付加する。また、三次元データ符号化装置１３００は、符号化単位であるボリューム単位で回転及び並進を適用してもよい。この場合、三次元データ符号化装置１３００は、符号化ボリューム単位でＲＴ情報を生成し、生成したＲＴ情報をビットストリームのヘッダ等に付加する。さらに、上記を組み合わせてもよい。つまり、三次元データ符号化装置１３００は、大きい単位で回転及び並進を適用し、その後、細かい単位で回転及び並進を適用してもよい。例えば、三次元データ符号化装置１３００は、スペース単位で回転及び並進を適用し、得られたスペースに含まれる複数のボリュームの各々に対して、互いに異なる回転及び並進を適用してもよい。
【０６５６】
また、本実施の形態では参照スペースに回転及び並進を適用する例を説明したが、必ずしもこれに限らない。例えば、三次元データ符号化装置１３００は、例えば、スケール処理を適用して三次元データの大きさを変化させてもよい。また、三次元データ符号化装置１３００は、回転、並進及びスケールのうち、いずれか１つ又は２つを適用してもよい。また、上記のように多段階で異なる単位で処理を適用する場合には、各単位に適用される処理の種類が異なってもよい。例えば、スペース単位では回転及び並進が適用され、ボリューム単位では並進が適用されてもよい。
【０６５７】
なお、これらの変形例については、三次元データ復号装置１４００に対しても同様に適用できる。
【０６５８】
以上のように、本実施の形態に係る三次元データ符号化装置１３００は、以下の処理を行う。図６５は、三次元データ符号化装置１３００によるインター予測処理のフローチャートである。
【０６５９】
まず、三次元データ符号化装置１３００は、対象三次元データ（例えば符号化対象スペース）と異なる時刻の参照三次元データ（例えば参照スペース）に含まれる三次元点の位置情報を用いて予測位置情報（例えば予測ボリューム）を生成する（Ｓ１３０１）。具体的には、三次元データ符号化装置１３００は、参照三次元データに含まれる三次元点の位置情報に回転及び並進処理を適用することで予測位置情報を生成する。
【０６６０】
なお、三次元データ符号化装置１３００は、回転及び並進処理を第１の単位（例えばスペース）で行い、予測位置情報の生成を第１の単位より細かい第２の単位（例えばボリューム）で行ってもよい。例えば、三次元データ符号化装置１３００は、回転及び並進処理後の参照スペースに含まれる複数のボリュームのうち、符号化対象スペースに含まれる符号化対象ボリュームと位置情報の差が最小となるボリュームを探索し、得られたボリュームを予測ボリュームとして用いる。なお、三次元データ符号化装置１３００は、回転及び並進処理と、予測位置情報の生成とを同一の単位で行ってもよい。
【０６６１】
また、三次元データ符号化装置１３００は、参照三次元データに含まれる三次元点の位置情報に第１の単位（例えばスペース）で第１回転及び並進処理を適用し、第１回転及び並進処理により得られた三次元点の位置情報に、第１の単位より細かい第２の単位（例えばボリューム）で第２回転及び並進処理を適用することで予測位置情報を生成してもよい。
【０６６２】
ここで、三次元点の位置情報及び予測位置情報は、例えば図５８に示すように、８分木構造で表現される。例えば、三次元点の位置情報及び予測位置情報は、８分木構造における深度と幅とのうち、幅を優先したスキャン順で表される。または、三次元点の位置情報及び予測位置情報は、８分木構造における深度と幅とのうち、深度を優先したスキャン順で表される。
【０６６３】
また、図６３に示すように、三次元データ符号化装置１３００は、参照三次元データに含まれる三次元点の位置情報に回転及び並進処理を適用するか否かを示すＲＴ適用フラグを符号化する。つまり、三次元データ符号化装置１３００は、ＲＴ適用フラグを含む符号化信号（符号化ビットストリーム）を生成する。また、三次元データ符号化装置１３００は、回転及び並進処理の内容を示すＲＴ情報を符号化する。つまり、三次元データ符号化装置１３００は、ＲＴ情報を含む符号化信号（符号化ビットストリーム）を生成する。なお、三次元データ符号化装置１３００は、ＲＴ適用フラグにより回転及び並進処理を適用することが示される場合にＲＴ情報を符号化し、ＲＴ適用フラグにより回転及び並進処理を適用しないことが示される場合にＲＴ情報を符号化しなくてもよい。
【０６６４】
また、三次元データは、例えば、三次元点の位置情報と、各三次元点の属性情報（色情報等）とを含む。三次元データ符号化装置１３００は、参照三次元データに含まれる三次元点の属性情報を用いて予測属性情報を生成する（Ｓ１３０２）。
【０６６５】
次に、三次元データ符号化装置１３００は、対象三次元データに含まれる三次元点の位置情報を、予測位置情報を用いて符号化する。例えば、三次元データ符号化装置１３００は、図５５に示すように対象三次元データに含まれる三次元点の位置情報と予測位置情報との差分である差分位置情報を算出する（Ｓ１３０３）。
【０６６６】
また、三次元データ符号化装置１３００は、対象三次元データに含まれる三次元点の属性情報を、予測属性情報を用いて符号化する。例えば、三次元データ符号化装置１３００は、対象三次元データに含まれる三次元点の属性情報と予測属性情報との差分である差分属性情報を算出する（Ｓ１３０４）。次に、三次元データ符号化装置１３００は、算出された差分属性情報に変換及び量子化を行う（Ｓ１３０５）。
【０６６７】
最後に、三次元データ符号化装置１３００は、差分位置情報と、量子化後の差分属性情報とを符号化（例えばエントロピー符号化）する（Ｓ１３０６）。つまり、三次元データ符号化装置１３００は、差分位置情報と差分属性情報とを含む符号化信号（符号化ビットストリーム）を生成する。
【０６６８】
なお、三次元データに属性情報が含まれない場合には、三次元データ符号化装置１３００は、ステップＳ１３０２、Ｓ１３０４及びＳ１３０５を行わなくてもよい。また、三次元データ符号化装置１３００は、三次元点の位置情報の符号化と、三次元点の属性情報の符号化とのうち、一方のみを行ってもよい。
【０６６９】
また、図６６に示す処理の順序は一例であり、これに限定されない。例えば、位置情報に対する処理（Ｓ１３０１、Ｓ１３０３）と、属性情報に対する処理（Ｓ１３０２、Ｓ１３０４、Ｓ１３０５）とは互いに独立しているため、任意の順序で行われてもよいし、一部が並列処理されてもよい。
【０６７０】
以上により、本実施の形態に三次元データ符号化装置１３００は、対象三次元データと異なる時刻の参照三次元データに含まれる三次元点の位置情報を用いて予測位置情報を生成し、対象三次元データに含まれる三次元点の位置情報と予測位置情報との差分である差分位置情報を符号化する。これにより、符号化信号のデータ量を削減できるので符号化効率を向上できる。
【０６７１】
また、本実施の形態に三次元データ符号化装置１３００は、参照三次元データに含まれる三次元点の属性情報を用いて予測属性情報を生成し、対象三次元データに含まれる三次元点の属性情報と予測属性情報との差分である差分属性情報を符号化する。これにより、符号化信号のデータ量を削減できるので符号化効率を向上できる。
【０６７２】
例えば、三次元データ符号化装置１３００は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０６７３】
図６５は、三次元データ復号装置１４００によるインター予測処理のフローチャートである。
【０６７４】
まず、三次元データ復号装置１４００は、符号化信号（符号化ビットストリーム）から、差分位置情報と差分属性情報とを復号（例えばエントロピー復号）する（Ｓ１４０１）。
【０６７５】
また、三次元データ復号装置１４００は、符号化信号から、参照三次元データに含まれる三次元点の位置情報に回転及び並進処理を適用するか否かを示すＲＴ適用フラグを復号する。また、三次元データ復号装置１４００は、回転及び並進処理の内容を示すＲＴ情報を復号する。なお、三次元データ復号装置１４００は、ＲＴ適用フラグにより回転及び並進処理を適用することが示される場合にＲＴ情報を復号し、ＲＴ適用フラグにより回転及び並進処理を適用しないことが示される場合にＲＴ情報を復号しなくてもよい。
【０６７６】
次に、三次元データ復号装置１４００は、復号された差分属性情報に逆量子化及び逆変換を行う（Ｓ１４０２）。
【０６７７】
次に、三次元データ復号装置１４００は、対象三次元データ（例えば復号対象スペース）と異なる時刻の参照三次元データ（例えば参照スペース）に含まれる三次元点の位置情報を用いて予測位置情報（例えば予測ボリューム）を生成する（Ｓ１４０３）。具体的には、三次元データ復号装置１４００は、参照三次元データに含まれる三次元点の位置情報に回転及び並進処理を適用することで予測位置情報を生成する。
【０６７８】
より具体的には、三次元データ復号装置１４００は、ＲＴ適用フラグにより回転及び並進処理を適用することが示される場合に、ＲＴ情報で示される参照三次元データに含まれる三次元点の位置情報に回転及び並進処理を適用する。一方、ＲＴ適用フラグにより回転及び並進処理を適用しないことが示される場合には、三次元データ復号装置１４００は、参照三次元データに含まれる三次元点の位置情報に回転及び並進処理を適用しない。
【０６７９】
なお、三次元データ復号装置１４００は、回転及び並進処理を第１の単位（例えばスペース）で行い、予測位置情報の生成を第１の単位より細かい第２の単位（例えばボリューム）で行ってもよい。なお、三次元データ復号装置１４００は、回転及び並進処理と、予測位置情報の生成とを同一の単位で行ってもよい。
【０６８０】
また、三次元データ復号装置１４００は、参照三次元データに含まれる三次元点の位置情報に第１の単位（例えばスペース）で第１回転及び並進処理を適用し、第１回転及び並進処理により得られた三次元点の位置情報に、第１の単位より細かい第２の単位（例えばボリューム）で第２回転及び並進処理を適用することで予測位置情報を生成してもよい。
【０６８１】
ここで、三次元点の位置情報及び予測位置情報は、例えば図５８に示すように、８分木構造で表現される。例えば、三次元点の位置情報及び予測位置情報は、８分木構造における深度と幅とのうち、幅を優先したスキャン順で表される。または、三次元点の位置情報及び予測位置情報は、８分木構造における深度と幅とのうち、深度を優先したスキャン順で表される。
【０６８２】
三次元データ復号装置１４００は、参照三次元データに含まれる三次元点の属性情報を用いて予測属性情報を生成する（Ｓ１４０４）。
【０６８３】
次に、三次元データ復号装置１４００は、符号化信号に含まれる符号化位置情報を予測位置情報を用いて復号することで対象三次元データに含まれる三次元点の位置情報を復元する。ここで、符号化位置情報とは、例えば、差分位置情報であり、三次元データ復号装置１４００は、差分位置情報と予測位置情報とを加算することで対象三次元データに含まれる三次元点の位置情報を復元する（Ｓ１４０５）。
【０６８４】
また、三次元データ復号装置１４００は、符号化信号に含まれる符号化属性情報を予測属性情報を用いて復号することで対象三次元データに含まれる三次元点の属性情報を復元する。ここで、符号化属性情報とは、例えば、差分属性情報であり、三次元データ復号装置１４００は、差分属性情報と予測属性情報とを加算することで対象三次元データに含まれる三次元点の属性情報を復元する（Ｓ１４０６）。
【０６８５】
なお、三次元データに属性情報が含まれない場合には、三次元データ復号装置１４００は、ステップＳ１４０２、Ｓ１４０４及びＳ１４０６を行わなくてもよい。また、三次元データ復号装置１４００は、三次元点の位置情報の復号と、三次元点の属性情報の復号とのうち、一方のみを行ってもよい。
【０６８６】
また、図６７に示す処理の順序は一例であり、これに限定されない。例えば、位置情報に対する処理（Ｓ１４０３、Ｓ１４０５）と、属性情報に対する処理（Ｓ１４０２、Ｓ１４０４、Ｓ１４０６）とは互いに独立しているため、任意の順序で行われてもよいし、一部が並列処理されてもよい。
【０６８７】
（実施の形態９）
本実施の形態では、８分木のオキュパンシー符号に対する適応的なエントロピー符号化（算術符号化）について説明する。
【０６８８】
図６８は、４分木の木構造の一例を示す図である。図６９は、図６８に示す木構造のオキュパンシー符号を示す図である。図７０は、本実施に形態に係る三次元データ符号化装置の動作を模式的に示す図である。
【０６８９】
本実施の形態に係る三次元データ符号化装置は、８分木における８ビットのオキュパンシー符号化をエントロピー符号化する。また、三次元データ符号化装置は、オキュパンシー符号のエントロピー符号化処理において、符号化テーブルを更新する。また、三次元データ符号化装置は、単一の符号化テーブルを用いるのではなく、三次元点の類似性情報を利用するために適応的な符号化テーブルを用いる。つまり、三次元テータ符号化装置は、複数の符号化テーブルを用いる。
【０６９０】
また、類似性情報とは、例えば、三次元点の幾何情報、８分木の構造情報、又は、三次元点の属性情報である。
【０６９１】
なお、図６８〜図７０では、４分木を例に示したが、２分木、８分木、１６分木等のＮ分木の場合に同様の手法を適用してもよい。例えば、三次元データ符号化装置は、８分木の場合は８ビットのオキュパンシー符号、４分木の場合は４ビットのオキュパンシー符号、１６分木の場合は１６ビットのオキュパンシー符号に対して、適応的テーブル（ａｄａｐｔｉｖｅ  ｔａｂｌｅ：符号化テーブルとも呼ぶ）を用いてエントロピー符号化を行う。
【０６９２】
以下、三次元点（ポイントクラウド）の幾何情報（ｇｅｏｍｅｔｒｙ  ｉｎｆｏｒｍａｔｉｏｎ）を用いた適応的なエントロピー符号化処理について説明する。
【０６９３】
木構造内の２つのノードにおいて、各ノードの周辺の幾何学的な配置が類似する場合、子ノードの占有状態（つまり、三次元点が含まれるか否かの状態）が類似する可能性がある。よって、三次元データ符号化装置は、親ノードの周辺の幾何学的な配置を用いて、グループ化を行う。これにより、三次元データ符号化装置は、子ノードの占有状態をグループ化し、グループ毎に異なる符号化テーブルを用いることができる。よって、エントロピー符号化の符号化効率を向上できる。
【０６９４】
図７１は、幾何情報の一例を示す図である。幾何情報は対象ノードの複数の隣接ノードの各々が占有されているか否か（つまり三次元点を含むか否か）を示す情報を含む。例えば、三次元データ符号化装置は、対象ノードの周辺の幾何学的な配置（Ｌｏｃａｌ  ｇｅｏｍｅｔｒｙ）を、隣接ノードに三次元点が含まれるか否か（ｏｃｃｕｐｉｅｄ  ｏｒ  ｎｏｎ−ｏｃｃｕｐｉｅｄ）の情報を用いて算出する。隣接ノードとは、例えば対象ノードの空間的に周囲に存在するノード、または、対象ノードとは異なる時間の同一位置、もしくはその空間的に周囲に存在するノードである。
【０６９５】
図７１において、ハッチングの立方体は符号化対象の対象ノードを示す。白い立方体は隣接ノードであり、かつ三次元点を含むノードを示す。図７１において、（２）に示す幾何パターンは（１）に示す幾何パターンを回転した形を表す。よって、三次元データ符号化装置は、これらの幾何パターンは、幾何類似性（ｇｅｏｍｅｔｒｙ  ｓｉｍｉｌａｒｉｔｙ）が高いと判断し、これらの幾何パターンに対しては同一の符号化テーブルを用いてエントロピー符号化を行う。また、三次元データ符号化装置は、（３）及び（４）の幾何パターンに対しては幾何類似性が低いと判断し、別の符号化テーブルを用いてエントロピー符号化を行う。
【０６９６】
図７２は、図７１に示す（１）〜（４）の幾何パターンにおける対象ノードのオキュパンシー符号と、エントロピー符号化に用いられる符号化テーブルの例を示す図である。三次元データ符号化装置は、上記のように幾何パターン（１）と（２）については同じ幾何グループに含まれると判断し、同一の符号化テーブルＡを用いる。また、三次元データ符号化装置は、幾何パターン（３）及び（４）にはそれぞれ符号化テーブルＢ及び符号化テーブルＣを用いる。
【０６９７】
また、図７２に示すように、同一の幾何グループに含まれる幾何パターン（１）と（２）の対象ノードのオキュパンシー符号が同一になる場合がある。
【０６９８】
次に、木構造の構造情報（ｓｔｒｕｃｔｕｒｅ  ｉｎｆｏｒｍａｔｉｏｎ）を用いた適応的なエントロピー符号化処理について説明する。例えば、構造情報は対象ノードが属する層を示す情報を含む。
【０６９９】
図７３は、木構造の一例を示す図である。一般に局所的な物体の形状は、探索の尺度に依存する。例えば、木構造において、下層は上層よりも疎になる傾向がある。よって、三次元データ符号化装置は、図７３に示すように上層と下層とで異なる符号化テーブルを用いることで、エントロピー符号化の符号化効率を向上できる。
【０７００】
つまり、三次元データ符号化装置は、各層のオキュパンシー符号を符号化する際に、層毎に異なる符号化テーブルを用いてもよい。例えば、図７３に示す木構造に対して、三次元データ符号化装置は、層Ｎ（Ｎ＝０〜６）のオキュパンシー符号の符号化には層Ｎ用の符号化テーブルを用いてエントロピー符号化を行ってもよい。これにより、三次元データ符号化装置は、層毎のオキュパンシー符号の出現パターンに応じて符号化テーブルを切替えることができるので符号化効率を向上できる。
【０７０１】
また、三次元データ符号化装置は、図７３に示すように、層０から層２までのオキュパンシー符号には符号化テーブルＡを用い、層３から層６までのオキュパンシー符号には符号化テーブルＢを用いてもよい。これにより、三次元データ符号化装置は、各層群毎のオキュパンシー符号の出現パターンに応じて符号化テーブルを切替えることができるので符号化効率を向上できる。また、三次元データ符号化装置は、各層で用いる符号化テーブルの情報をビットストリームのヘッダに付加してもよい。または、各層で用いる符号化テーブルが規格等で予め定められていてもよい。
【０７０２】
次に、三次元点の属性情報（ｐｒｏｐｅｒｔｙ  ｉｎｆｏｒｍａｔｉｏｎ）を用いた適応的なエントロピー符号化処理について説明する。例えば、属性情報は対象ノードが含まれる物体の情報、又は対象ノードが保持する法線ベクトルの情報を含む。
【０７０３】
三次元点の属性情報を用いて、類似する幾何学的な配置を有する三次元点をグループ化することができる。例えば、三次元点が有する共通の属性情報として、各三次元点の方向を表す法線ベクトル（ｎｏｒｍａｌ  ｖｅｃｔｏｒ）を用いることができる。法線ベクトルを用いることで、木構造内の類似するオキュパンシー符号に関連する幾何学的な配置を見つけることができる。
【０７０４】
また、属性情報として、色又は反射率（反射度）が用いられてもよい。例えば、三次元データ符号化装置は、三次元点の色又は反射度を用いて、類似する幾何学的な配置を有する三次元点をグループ化し、グループ毎に符号化テーブルを切替える等の処理を行う。
【０７０５】
図７４は、法線ベクトルに基づく符号化テーブルの切り替えを説明するための図である。図７４に示すように、対象ノードの法線ベクトルが属する法線ベクトル群が異なる場合、異なる符号化テーブルが用いられる。例えば、予め定められた範囲に含まれる法線ベクトルが１つの法線ベクトル群に分類される。
【０７０６】
また、対象物の分類が異なる場合、オキュパンシー符号も異なる可能性が高い。よって、三次元データ符号化装置は、対象ノードが属する対象物の分類に応じて、符号化テーブルを選択してもよい。図７５は、対象物の分類に基づく符号化テーブルの切り替えを説明するための図である。図７５に示すように、対象物の分類が異なる場合、異なる符号化テーブルが用いられる。
【０７０７】
以下、本実施の形態に係るビットストリームの構成例について説明する。図７６は、本実施の形態に係る三次元データ符号化装置により生成されるビットストリームの構成例を示す図である。図７６に示すようにビットストリームは、符号化テーブル群と、テーブルインデクスと、符号化オキュパンシーとを含む。符号化テーブル群は、複数の符号化テーブルを含む。
【０７０８】
テーブルインデックスは、後続の符号化オキュパンシーのエントロピー符号化に用いられた符号化テーブルを示すインデックスである。符号化オキュパンシーは、エントロピー符号化後のオキュパンシー符号である。また、図７６に示すようにビットストリームは、テーブルインデックスと符号化オキュパンシーとの組を複数含む。
【０７０９】
例えば、図７６に示す例の場合、符号化オキュパンシー０は、テーブルインデックス０で示されるコンテキストモデル（以下コンテキストとも呼ぶ）を用いてエントロピー符号化されたデータである。また、符号化オキュパンシー１は、テーブルインデックス１で示されるコンテキストを用いてエントロピー符号化されたデータである。また、予め規格等で符号化オキュパンシー０を符号化するためのコンテキストを規定しておき、三次元データ復号装置は、符号化オキュパンシー０の復号時にそのコンテキストを使用してもよい。これにより、テーブルインデックスをビットストリームに付加する必要がなくなるので、オーバヘッドを削減できる。
【０７１０】
また、三次元データ符号化装置は、ヘッダ内に各コンテキストを初期化するための情報を付加してもよい。
【０７１１】
三次元データ符号化装置は、対象ノードの幾何情報、構造情報又は属性情報を用いて符号化テーブルを決定し、決定した符号化テーブルを用いてオキュパンシー符号を符号化する。三次元データ符号化装置は、符号化結果と符号化に用いた符号化テーブルの情報（テーブルインデクス等）をビットストリームに付加し、当該ビットストリームを三次元データ復号装置に送信する。これにより、三次元データ復号装置は、ヘッダに付加された符号化テーブルの情報を用いてオキュパンシー符号を復号できる。
【０７１２】
また、三次元データ符号化装置は、符号化に用いた符号化テーブルの情報をビットストリームに付加せず、三次元データ復号装置は、復号後の対象ノードの幾何情報、構造情報又は属性情報を用いて符号化テーブルを三次元データ符号化装置と同じ方法で決定し、決定した符号化テーブルを用いてオキュパンシー符号を復号してもよい。これにより、ビットストリームに符号化テーブルの情報を付加する必要がなくなるので、オーバヘッドを削減できる。
【０７１３】
図７７及び図７８は、符号化テーブルの例を示す図である。図７７及び図７８に示すように、１つの符号化テーブルは、８ビットのオキュパンシー符号の値毎に、当該値に対応するコンテキストモデル及びコンテキストモデルタイプを示す。
【０７１４】
図７７に示す符号化テーブルのように、複数のオキュパンシー符号に同一のコンテキストモデル（コンテキスト）が適用されてもよい。また、各オキュパンシー符号に別々のコンテキストモデルが割り当てられてもよい。これにより、オキュパンシー符号の出現確率に応じてコンテキストモデルを割り当てることができるので、符号化効率を向上することができる。
【０７１５】
また、コンテキストモデルタイプは、例えば、コンテキストモデルが、オキュパンシー符号の出現頻度に応じて確率テーブルを更新するコンテキストモデルであるか、確率テーブルを固定したコンテキストモデルであるか等を示す。
【０７１６】
次に、ビットストリーム及び符号化テーブルの別の例を示す。図７９は、ビットストリームの変形例の構成例を示す図である。図７９に示すようにビットストリームは、符号化テーブル群と、符号化オキュパンシーとを含む。符号化テーブル群は、複数の符号化テーブルを含む。
【０７１７】
図８０及び図８１は、符号化テーブルの例を示す図である。図８０及び図８１に示すように、１つの符号化テーブルは、オキュパンシー符号に含まれる１ビット毎に、当該１ビットに対応するコンテキストモデル及びコンテキストモデルタイプを示す。
【０７１８】
図８２は、オキュパンシー符号と、オキュパンシー符号のビット番号との関係の一例を示す図である。
【０７１９】
このように、三次元データ符号化装置は、オキュパンシー符号をバイナリデータとして扱い、ビット毎に別々のコンテキストモデルを割り当ててオキュパンシー符号をエントロピー符号化してもよい。これにより、オキュパンシー符号の各ビットの出現確率に応じてコンテキストモデルを割り当てることができるので、符号化効率を向上することができる。
【０７２０】
具体的には、オキュパンシー符号の各ビットは、対象ノードに対応する空間ブロックを分割したサブブロックに対応する。よって、ブロック内の同じ空間位置のサブブロックに同様の傾向がある場合に符号化効率を向上できる。例えば、地面又は道路の表面がブロック内を横断する場合、８分木では、下の４つのブロックには三次元点が含まれ、上の４つのブロックには三次元点が含まれない。また、水平方向に並ぶ複数のブロックにおいて同様のパターンが現れる。よって、上記のようにビット毎にコンテキストを切り替えることで符号化効率を向上できる。
【０７２１】
また、オキュパンシー符号の各ビットの出現頻度に応じて確率テーブルを更新するコンテキストモデルが用いられてもよい。また、確率テーブルを固定したコンテキストモデルが用いられてもよい。
【０７２２】
次に、本実施の形態に係る三次元データ符号化処理及び三次元データ復号処理の流れを説明する。
【０７２３】
図８３は、幾何情報を用いた適応的なエントロピー符号化処理を含む三次元データ符号化処理のフローチャートである。
【０７２４】
分解処理では、三次元点の初期バウンダリングボックスから８分木が生成される。バウンダリングボックス内の三次元点の位置に応じてバウンダリングボックスは分割される。具体的には、空でないサブ空間はさらに分割される。次に、サブ空間に三次元点が含まれるか否かを示す情報がオキュパンシー符号に符号化される。なお、図８５及び図８７に示す処理においても同様の処理が行われる。
【０７２５】
まず、三次元データ符号化装置は、入力された三次元点を取得する（Ｓ１９０１）。次に、三次元データ符号化装置は、単位長の分解処理が完了したか否かを判定する（Ｓ１９０２）。
【０７２６】
単位長の分解処理が完了していない場合（Ｓ１９０２でＮｏ）、三次元データ符号化装置は、対象ノードに分解処理を行うことで８分木を生成する（Ｓ１９０３）。
【０７２７】
次に、三次元データ符号化装置は、幾何情報を取得し（Ｓ１９０４）、取得した幾何情報に基づき符号化テーブルを選択する（Ｓ１９０５）。ここで幾何情報とは、例えば、上述したように、対象ノードの周辺ブロックの占有状態の幾何学的な配置等を示す情報である。
【０７２８】
次に、三次元データ符号化装置は、選択された符号化テーブルを用いて、対象ノードのオキュパンシー符号をエントロピー符号化する（Ｓ１９０６）。
【０７２９】
上記ステップＳ１９０３〜Ｓ１９０６の処理が単位長の分解処理が完了するまで繰り返えされる。単位長の分解処理が完了した場合（Ｓ１９０２でＹｅｓ）、三次元データ符号化装置は、生成した情報を含むビットストリームを出力する（Ｓ１９０７）。
【０７３０】
三次元データ符号化装置は、対象ノードの幾何情報、構造情報又は属性情報を用いて符号化テーブルを決定し、決定した符号化テーブルを用いてオキュパンシー符号のビット列を符号化する。三次元データ符号化装置は、符号化結果と符号化に用いた符号化テーブルの情報（テーブルインデックスなど）をビットストリームに付加し、当該ビットストリームを三次元データ復号装置に送信する。これにより、三次元データ復号装置は、ヘッダに付加された符号化テーブルの情報を用いてオキュパンシー符号を復号できる。
【０７３１】
また、三次元データ符号化装置は、符号化に用いた符号化テーブルの情報をビットストリームに付加せず、三次元データ復号装置は、復号後の対象ノードの幾何情報、構造情報又は属性情報を用いて符号化テーブルを三次元データ符号化装置と同じ方法で決定し、決定した符号化テーブルを用いてオキュパンシー符号を復号してもよい。これにより、ビットストリームに符号化テーブルの情報を付加する必要がなくなるので、オーバヘッドを削減できる。
【０７３２】
図８４は、幾何情報を用いた適応的なエントロピー復号処理を含む三次元データ復号処理のフローチャートである。
【０７３３】
復号処理に含まれる分解処理は、上述した符号化処理に含まれる分解処理と同様であるが、以下の点が異なる。三次元データ復号装置は、復号したオキュパンシー符号を用いて、初期バウンダリングボックスを分割する。三次元データ復号装置は、単位長の処理を終了した場合、バウンダリングボックスの位置を三次元点と位置として保存する。なお、図８６及び図８８に示す処理においても同様の処理が行われる。
【０７３４】
まず、三次元データ復号装置は、入力されたビットストリームを取得する（Ｓ１９１１）。次に、三次元データ復号装置は、単位長の分解処理が完了したか否かを判定する（Ｓ１９１２）。
【０７３５】
単位長の分解処理が完了していない場合（Ｓ１９１２でＮｏ）、三次元データ復号装置は、対象ノードに分解処理を行うことで８分木を生成する（Ｓ１９１３）。
【０７３６】
次に、三次元データ復号装置は、幾何情報を取得し（Ｓ１９１４）、取得した幾何情報に基づき符号化テーブルを選択する（Ｓ１９１５）。ここで幾何情報とは、例えば、上述したように、対象ノードの周辺ブロックの占有状態の幾何学的な配置等を示す情報である。
【０７３７】
次に、三次元データ復号装置は、選択された符号化テーブルを用いて、対象ノードのオキュパンシー符号をエントロピー復号する（Ｓ１９１６）。
【０７３８】
上記ステップＳ１９１３〜Ｓ１９１６の処理が単位長の分解処理が完了するまで繰り返えされる。単位長の分解処理が完了した場合（Ｓ１９１２でＹｅｓ）、三次元データ復号装置は、三次元点を出力する（Ｓ１９１７）。
【０７３９】
図８５は、構造情報を用いた適応的なエントロピー符号化処理を含む三次元データ符号化処理のフローチャートである。
【０７４０】
まず、三次元データ符号化装置は、入力された三次元点を取得する（Ｓ１９２１）。次に、三次元データ符号化装置は、単位長の分解処理が完了したか否かを判定する（Ｓ１９２２）。
【０７４１】
単位長の分解処理が完了していない場合（Ｓ１９２２でＮｏ）、三次元データ符号化装置は、対象ノードに分解処理を行うことで８分木を生成する（Ｓ１９２３）。
【０７４２】
次に、三次元データ符号化装置は、構造情報を取得し（Ｓ１９２４）、取得した構造情報に基づき符号化テーブルを選択する（Ｓ１９２５）。ここで構造情報とは、例えば、上述したように、対象ノードが属する層等を示す情報である。
【０７４３】
次に、三次元データ符号化装置は、選択された符号化テーブルを用いて、対象ノードのオキュパンシー符号をエントロピー符号化する（Ｓ１９２６）。
【０７４４】
上記ステップＳ１９２３〜Ｓ１９２６の処理が単位長の分解処理が完了するまで繰り返えされる。単位長の分解処理が完了した場合（Ｓ１９２２でＹｅｓ）、三次元データ符号化装置は、生成した情報を含むビットストリームを出力する（Ｓ１９２７）。
【０７４５】
図８６は、構造情報を用いた適応的なエントロピー復号処理を含む三次元データ復号処理のフローチャートである。
【０７４６】
まず、三次元データ復号装置は、入力されたビットストリームを取得する（Ｓ１９３１）。次に、三次元データ復号装置は、単位長の分解処理が完了したか否かを判定する（Ｓ１９３２）。
【０７４７】
単位長の分解処理が完了していない場合（Ｓ１９３２でＮｏ）、三次元データ復号装置は、対象ノードに分解処理を行うことで８分木を生成する（Ｓ１９３３）。
【０７４８】
次に、三次元データ復号装置は、構造情報を取得し（Ｓ１９３４）、取得した構造情報に基づき符号化テーブルを選択する（Ｓ１９３５）。ここで構造情報とは、例えば、上述したように、対象ノードが属する層等を示す情報である。
【０７４９】
次に、三次元データ復号装置は、選択された符号化テーブルを用いて、対象ノードのオキュパンシー符号をエントロピー復号する（Ｓ１９３６）。
【０７５０】
上記ステップＳ１９３３〜Ｓ１９３６の処理が単位長の分解処理が完了するまで繰り返えされる。単位長の分解処理が完了した場合（Ｓ１９３２でＹｅｓ）、三次元データ復号装置は、三次元点を出力する（Ｓ１９３７）。
【０７５１】
図８７は、属性情報を用いた適応的なエントロピー符号化処理を含む三次元データ符号化処理のフローチャートである。
【０７５２】
まず、三次元データ符号化装置は、入力された三次元点を取得する（Ｓ１９４１）。次に、三次元データ符号化装置は、単位長の分解処理が完了したか否かを判定する（Ｓ１９４２）。
【０７５３】
単位長の分解処理が完了していない場合（Ｓ１９４２でＮｏ）、三次元データ符号化装置は、対象ノードに分解処理を行うことで８分木を生成する（Ｓ１９４３）。
【０７５４】
次に、三次元データ符号化装置は、属性情報を取得し（Ｓ１９４４）、取得した属性情報に基づき符号化テーブルを選択する（Ｓ１９４５）。ここで属性情報とは、例えば、上述したように、対象ノードの法線ベクトル等を示す情報である。
【０７５５】
次に、三次元データ符号化装置は、選択された符号化テーブルを用いて、対象ノードのオキュパンシー符号をエントロピー符号化する（Ｓ１９４６）。
【０７５６】
上記ステップＳ１９４３〜Ｓ１９４６の処理が単位長の分解処理が完了するまで繰り返えされる。単位長の分解処理が完了した場合（Ｓ１９４２でＹｅｓ）、三次元データ符号化装置は、生成した情報を含むビットストリームを出力する（Ｓ１９４７）。
【０７５７】
図８８は、属性情報を用いた適応的なエントロピー復号処理を含む三次元データ復号処理のフローチャートである。
【０７５８】
まず、三次元データ復号装置は、入力されたビットストリームを取得する（Ｓ１９５１）。次に、三次元データ復号装置は、単位長の分解処理が完了したか否かを判定する（Ｓ１９５２）。
【０７５９】
単位長の分解処理が完了していない場合（Ｓ１９５２でＮｏ）、三次元データ復号装置は、対象ノードに分解処理を行うことで８分木を生成する（Ｓ１９５３）。
【０７６０】
次に、三次元データ復号装置は、属性情報を取得し（Ｓ１９５４）、取得した属性情報に基づき符号化テーブルを選択する（Ｓ１９５５）。ここで属性情報とは、例えば、上述したように、対象ノードの法線ベクトル等を示す情報である。
【０７６１】
次に、三次元データ復号装置は、選択された符号化テーブルを用いて、対象ノードのオキュパンシー符号をエントロピー復号する（Ｓ１９５６）。
【０７６２】
上記ステップＳ１９５３〜Ｓ１９５６の処理が単位長の分解処理が完了するまで繰り返えされる。単位長の分解処理が完了した場合（Ｓ１９５２でＹｅｓ）、三次元データ復号装置は、三次元点を出力する（Ｓ１９５７）。
【０７６３】
図８９は、幾何情報を用いた符号化テーブルの選択処理（Ｓ１９０５）のフローチャートである。
【０７６４】
三次元データ符号化装置は、幾何情報として、例えば木構造の幾何グループの情報を用いてオキュパンシー符号のエントロピー符号化に用いる符号化テーブルを切替えてもよい。ここで幾何グループの情報とは、対象ノードの幾何パターンが含まれる幾何グループを示す情報である。
【０７６５】
図８９に示すように、幾何情報で示される幾何グループが幾何グループ０である場合（Ｓ１９６１でＹｅｓ）、三次元データ符号化装置は符号化テーブル０を選択する（Ｓ１９６２）。幾何情報で示される幾何グループが幾何グループ１である場合（Ｓ１９６３でＹｅｓ）、三次元データ符号化装置は符号化テーブル１を選択する（Ｓ１９６４）。それ以外の場合（Ｓ１９６３でＮｏ）、三次元データ符号化装置は符号化テーブル２を選択する（Ｓ１９６５）。
【０７６６】
なお、符号化テーブルの選択方法は上記に限らない。例えば、三次元データ符号化装置は、幾何情報で示される幾何グループが幾何グループ２である場合には、符号化テーブル２を用いるなど、幾何グループの値に応じて更に符号化テーブルを切り替えてもよい。
【０７６７】
例えば、幾何グループは、対象ノードに隣接するノードに点群が含まれるか否かを示す占有情報を用いて決定される。また、回転等の変換を適用することで同じ形状になる幾何パターンは、同一の幾何グループに含まれてもよい。また、三次元データ符号化装置は、対象ノードに隣接する、又は対象ノードの周囲に位置する、対象ノードと同一層に属するノードの占有情報を用いて幾何グループを選択してもよい。また、三次元データ符号化装置は、対象ノードとは別の層に属するノードの占有情報を用いて幾何グループを選択してもよい。例えば、三次元データ符号化装置は、親ノード、又は、親ノードに隣接する、或いは親ノードの周囲に位置するノードの占有情報を用いて幾何グループを選択してもよい。
【０７６８】
なお、三次元データ復号装置における幾何情報を用いた符号化テーブルの選択処理（Ｓ１９１５）も上記と同様である。
【０７６９】
図９０は、構造情報を用いた符号化テーブルの選択処理（Ｓ１９２５）のフローチャートである。
【０７７０】
三次元データ符号化装置は、構造情報として、例えば木構造の層の情報を用いてオキュパンシー符号のエントロピー符号化に用いる符号化テーブルを切替えてもよい。ここで、層の情報は、例えば、対象ノードが属する層を示す。
【０７７１】
図９０に示すように、対象ノードが層０に属する場合（Ｓ１９７１でＹｅｓ）、三次元データ符号化装置は符号化テーブル０を選択する（Ｓ１９７２）。対象ノードが層１に属する場合（Ｓ１９７３でＹｅｓ）、三次元データ符号化装置は符号化テーブル１を選択する（Ｓ１９７４）。それ以外の場合（Ｓ１９７３でＮｏ）、三次元データ符号化装置は符号化テーブル２を選択する（Ｓ１９７５）。
【０７７２】
なお、符号化テーブルの選択方法は上記に限らない。例えば、三次元データ符号化装置は、対象ノードが層２に属する場合には、符号化テーブル２を用いるなど、対象ノードが属する層に応じて更に符号化テーブルを切り替えてもよい。
【０７７３】
また、三次元データ復号装置における構造情報を用いた符号化テーブルの選択処理（Ｓ１９３５）も上記と同様である。
【０７７４】
図９１は、属性情報を用いた符号化テーブルの選択処理（Ｓ１９４５）のフローチャートである。
【０７７５】
三次元データ符号化装置は、属性情報として、例えば対象ノードが属する対象物の情報、又は対象ノードの法線ベクトルの情報を用いてオキュパンシー符号のエントロピー符号化に用いる符号化テーブルを切替えてもよい。
【０７７６】
図９１に示すように、対象ノードの法線ベクトルが法線ベクトル群０に属する場合（Ｓ１９８１でＹｅｓ）、三次元データ符号化装置は符号化テーブル０を選択する（Ｓ１９８２）。対象ノードの法線ベクトルが法線ベクトル群１に属する場合（Ｓ１９８３でＹｅｓ）、三次元データ符号化装置は符号化テーブル１を選択する（Ｓ１９８４）。それ以外の場合（Ｓ１９８３でＮｏ）、三次元データ符号化装置は符号化テーブル２を選択する（Ｓ１９８５）。
【０７７７】
なお、符号化テーブルの選択方法は上記に限らない。例えば、三次元データ符号化装置は、対象ノードの法線ベクトルが法線ベクトル群２に属する場合には、符号化テーブル２を用いるなど、対象ノードの法線ベクトルが属する法線ベクトル群に応じて更に符号化テーブルを切り替えてもよい。
【０７７８】
例えば、三次元データ符号化装置は、法線ベクトル群を、対象ノードが持つ法線ベクトルの情報を用いて選択する。例えば、三次元データ符号化装置は、法線ベクトル間の距離が予め定められた閾値以下である法線ベクトルを同一の法線ベクトル群と判定する。
【０７７９】
また、対象ノードが属する対象物の情報とは、例えば人物、車、又は建物等の情報であってもよい。
【０７８０】
以下、本実施の形態に係る三次元データ符号化装置１９００及び三次元データ復号装置１９１０の構成を説明する。図９２は、本実施の形態に係る三次元データ符号化装置１９００のブロック図である。図９２に示す三次元データ符号化装置１９００は、８分木生成部１９０１と、類似性情報算出部１９０２と、符号化テーブル選択部１９０３と、エントロピー符号化部１９０４とを備える。
【０７８１】
８分木生成部１９０１は、入力された三次元点からから、例えば８分木を生成し、８分木に含まれる各ノードのオキュパンシー符号を生成する。類似性情報算出部１９０２は、例えば、対象ノードの幾何情報、構造情報、又は属性情報である類似性情報を取得する。符号化テーブル選択部１９０３は、対象ノードの類似性情報に応じて、オキュパンシー符号のエントロピー符号化に用いるコンテキストを選択する。エントロピー符号化部１９０４は、選択されたコンテキストを用いてオキュパンシー符号をエントロピー符号化することでビットストリームを生成する。なお、エントロピー符号化部１９０４は、選択されたコンテキストを示す情報をビットストリームに付加してもよい。
【０７８２】
図９３は、本実施の形態に係る三次元データ復号装置１９１０のブロック図である。図９３に示す三次元データ復号装置１９１０は、８分木生成部１９１１と、類似性情報算出部１９１２と、符号化テーブル選択部１９１３と、エントロピー復号部１９１４とを備える。
【０７８３】
８分木生成部１９１１は、エントロピー復号部１９１４から得た情報を用いて、例えば下層から上層へと順に８分木を生成する。類似性情報算出部１９１２は、対象ノードの幾何情報、構造情報、又は属性情報である類似性情報を取得する。符号化テーブル選択部１９１３は、対象ノードの類似性情報に応じて、オキュパンシー符号のエントロピー復号に用いるコンテキストを選択する。エントロピー復号部１９１４は、選択されたコンテキストを用いてオキュパンシー符号をエントロピー復号することで、三次元点を生成する。なお、エントロピー復号部１９１４は、ビットストリームに付加された、選択されたコンテキストの情報を復号して取得し、当該情報で示されるコンテキストを用いてもよい。
【０７８４】
以上、図８０〜図８２に示すように、オキュパンシー符号の各ビットに対して複数のコンテキストが設けられる。つまり、三次元データ符号化装置は、三次元データに含まれる複数の三次元点のＮ（Ｎは２以上の整数）分木構造を表すビット列を複数の符号化テーブルから選択された符号化テーブルを用いてエントロピー符号化する。ビット列は、Ｎ分木構造におけるノード毎にＮビットの情報を含む。Ｎビットの情報は、対応するノードのＮ個の子ノードの各々に三次元点が存在するか否かを示す１ビットの情報をＮ個含む。複数の符号化テーブルの各々において、Ｎビットの情報の各ビットに対してコンテキストが設けられている。三次元データ符号化装置は、エントロピー符号化では、Ｎビットの情報の各ビットを、選択された符号化テーブルにおいて当該ビットに対して設けられているコンテキストを用いてエントロピー符号化する。
【０７８５】
これによれば、三次元データ符号化装置は、ビット毎にコンテキストを切り替えることで符号化効率を向上できる。
【０７８６】
例えば、三次元データ符号化装置は、エントロピー符号化では、対象のノードに隣接する複数の隣接ノードの各々に三次元点が存在するかに基づき、複数の符号化テーブルから使用する符号化テーブルを選択する。これによれば、三次元データ符号化装置は、隣接ノードに三次元点が存在するか否かに基づき符号化テーブルを切り替えることで符号化効率を向上できる。
【０７８７】
例えば、三次元データ符号化装置は、エントロピー符号化では、複数の隣接ノードのうち三次元点が存在する隣接ノードの配置位置を示す配置パターンに基づき符号化テーブルを選択し、配置パターンのうち、回転により同一の配置パターンとなる配置パターンに対しては、同一の符号化テーブルを選択する。これによれば、三次元データ符号化装置は、符号化テーブルの増加を抑制できる。
【０７８８】
例えば、三次元データ符号化装置は、エントロピー符号化では、対象のノードが属する層に基づき、複数の符号化テーブルから使用する符号化テーブルを選択する。これによれば、三次元データ符号化装置は、対象ノードが属する層に基づき符号化テーブルを切り替えることで符号化効率を向上できる。
【０７８９】
例えば、三次元データ符号化装置は、エントロピー符号化では、対象のノードの法線ベクトルに基づき、複数の符号化テーブルから使用する符号化テーブルを選択する。これによれば、三次元データ符号化装置は、法線ベクトルに基づき符号化テーブルを切り替えることで符号化効率を向上できる。
【０７９０】
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０７９１】
また、三次元データ復号装置は、三次元データに含まれる複数の三次元点のＮ（Ｎは２以上の整数）分木構造を表すビット列を複数の符号化テーブルから選択された符号化テーブルを用いてエントロピー復号する。ビット列は、Ｎ分木構造におけるノード毎にＮビットの情報を含む。Ｎビットの情報は、対応するノードのＮ個の子ノードの各々に三次元点が存在するか否かを示す１ビットの情報をＮ個含む。複数の符号化テーブルの各々において、Ｎビットの情報の各ビットに対してコンテキストが設けられている。三次元データ復号装置は、エントロピー復号では、Ｎビットの情報の各ビットを、選択された符号化テーブルにおいて当該ビットに対して設けられているコンテキストを用いてエントロピー復号する。
【０７９２】
これによれば、三次元データ復号装置は、ビット毎にコンテキストを切り替えることで符号化効率を向上できる。
【０７９３】
例えば、三次元データ復号装置は、エントロピー復号では、対象のノードに隣接する複数の隣接ノードの各々に三次元点が存在するかに基づき、複数の符号化テーブルから使用する符号化テーブルを選択する。これによれば、三次元データ復号装置は、隣接ノードに三次元点が存在するか否かに基づき符号化テーブルを切り替えることで符号化効率を向上できる。
【０７９４】
例えば、三次元データ復号装置は、エントロピー復号では、複数の隣接ノードのうち三次元点が存在する隣接ノードの配置位置を示す配置パターンに基づき符号化テーブルを選択し、配置パターンのうち、回転により同一の配置パターンとなる配置パターンに対しては、同一の符号化テーブルを選択する。これによれば、三次元データ復号装置は、符号化テーブルの増加を抑制できる。
【０７９５】
例えば、三次元データ復号装置は、エントロピー復号では、対象のノードが属する層に基づき、複数の符号化テーブルから使用する符号化テーブルを選択する。これによれば、三次元データ復号装置は、対象ノードが属する層に基づき符号化テーブルを切り替えることで符号化効率を向上できる。
【０７９６】
例えば、三次元データ復号装置は、エントロピー復号では、対象のノードの法線ベクトルに基づき、複数の符号化テーブルから使用する符号化テーブルを選択する。これによれば、三次元データ復号装置は、法線ベクトルに基づき符号化テーブルを切り替えることで符号化効率を向上できる。
【０７９７】
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０７９８】
（実施の形態１０）
本実施の形態では、オキュパンシー符号の符号化時における参照の制御方法について説明する。なお、以下では、主に三次元データ符号化装置の動作を説明するが、三次元データ復号装置においても同様の処理が行われてもよい。
【０７９９】
図９４及び図９５は、本実施の形態に係る参照関係を示す図である。図９４は、参照関係を８分木構造上で示す図であり、図９５は、参照関係を空間領域上で示す図である。
【０８００】
本実施の形態では、三次元データ符号化装置は、符号化対象のノード（以下、対象ノードと呼ぶ）の符号化情報を符号化する際に、対象ノードが属する親ノード（ｐａｒｅｎｔ  ｎｏｄｅ）内の各ノードの符号化情報を参照する。ただし、親ノードと同一層の他のノード（以下、親隣接ノード）内の各ノードの符号化情報は参照しない。つまり、三次元データ符号化装置は、親隣接ノードの参照を不可に設定する、又は参照を禁止にする。
【０８０１】
なお、三次元データ符号化装置は、親ノードが属する親ノード（以下、祖父ノード（ｇｒａｎｄｐａｒｅｎｔ  ｎｏｄｅ）と呼ぶ）内の符号化情報の参照を許可してもよい。つまり、三次元データ符号化装置は、対象ノードが属する親ノード及び祖父ノードの符号化情報を参照して対象ノードの符号化情報を符号化してもよい。
【０８０２】
ここで符号化情報とは、例えばオキュパンシー符号である。三次元データ符号化装置は、対象ノードのオキュパンシー符号を符号化する際に、対象ノードが属する親ノード内の各ノードに点群が含まれるか否かを示す情報（以下、占有情報）を参照する。言い換えると、三次元データ符号化装置は、対象ノードのオキュパンシー符号を符号化する際に、親ノードのオキュパンシー符号を参照する。一方で、三次元データ符号化装置は、親隣接ノード内の各ノードの占有情報は参照しない。つまり、三次元データ符号化装置は、親隣接ノードのオキュパンシー符号を参照しない。また、三次元データ符号化装置は、祖父ノード内の各ノードの占有情報を参照してもよい。つまり、三次元データ符号化装置は、親ノード及び親隣接ノードの占有情報を参照してもよい。
【０８０３】
例えば、三次元データ符号化装置は、対象ノードのオキュパンシー符号を符号化する際に、対象ノードが属する親ノード又は祖父ノードのオキュパンシー符号を用いて対象ノードのオキュパンシー符号をエントロピー符号化する際に用いる符号化テーブルを切替える。なお、この詳細は後述する。この際、三次元データ符号化装置は、親隣接ノードのオキュパンシー符号を参照しなくてもよい。これにより、三次元データ符号化装置は、対象ノードのオキュパンシー符号を符号化する際に、親ノード又は祖父ノードのオキュパンシー符号の情報に応じて適切に符号化テーブルを切替えることができるので、符号化効率を向上できる。また、三次元データ符号化装置は、親隣接ノードを参照しないことで、親隣接ノードの情報の確認処理、及びそれらを記憶するためのメモリ容量を抑制することができる。また、８分木の各ノードのオキュパンシー符号を深さ優先順にスキャンして符号化することが容易となる。
【０８０４】
以下、親ノードのオキュパンシー符号を用いた符号化テーブル切替例について説明する。図９６は、対象ノードと隣接参照ノードの例を示す図である。図９７は、親ノードとノードとの関係を示す図である。図９８は、親ノードのオキュパンシー符号の例を示す図である。ここで、隣接参照ノードとは、対象ノードに空間的に隣接するノードのうち、対象ノードの符号化の際に参照されるノードである。図９６に示す例では、隣接ノードは、対象ノードと同一層に属するノードである。また、参照隣接ノードとして対象ブロックのｘ方向に隣接するノードＸと、ｙ方向に隣接するノードＹと、ｚ方向に隣接するノードＺとが用いられる。つまり、ｘ、ｙ、ｚの各方向においてそれぞれ１つの隣接ブロックが参照隣接ブロックに設定される。
【０８０５】
なお、図９７に示すノード番号は一例であり、ノード番号とノードの位置との関係はこれに限らない。また、図９８では、下位ビットにノード０が割り当てられ、上位ビットにノード７が割り当てられているが、逆の順序で割り当てが行われてもよい。また、各ノードは任意のビットに割り当てられてもよい。
【０８０６】
三次元データ符号化装置は、対象ノードのオキュパンシー符号をエントロピー符号化する際の符号化テーブルを、例えば下記式により決定する。
【０８０７】
ＣｏｄｉｎｇＴａｂｌｅ＝（ＦｌａｇＸ＜＜２）＋（ＦｌａｇＹ＜＜１）＋（ＦｌａｇＺ）
【０８０８】
ここで、ＣｏｄｉｎｇＴａｂｌｅは、対象ノードのオキュパンシー符号用の符号化テーブルを示し、値０〜７のいずれかを示す。ＦｌａｇＸは、隣接ノードＸの占有情報であり、隣接ノードＸが点群を含む（占有）なら１を示し、そうでないなら０を示す。ＦｌａｇＹは、隣接ノードＹの占有情報であり、隣接ノードＹが点群を含む（占有）なら１を示し、そうでないなら０を示す。ＦｌａｇＺは、隣接ノードＺの占有情報であり、隣接ノードＺが点群を含む（占有）なら１を示し、そうでないなら０を示す。
【０８０９】
なお、隣接ノードが占有であるか否かを示す情報は、親ノードのオキュパンシー符号にに含まれているため、三次元データ符号化装置は、親ノードのオキュパンシー符号に示される値を用いて符号化テーブルを選択してもよい。
【０８１０】
以上により、三次元データ符号化装置は、対象ノードの隣接ノードに点群が含まれるか否かを示す情報を用いて符号化テーブルを切替えることで符号化効率を向上できる。
【０８１１】
また、三次元データ符号化装置は、図９６に示すように、親ノード内の対象ノードの空間位置に応じて隣接参照ノードを切替えてもよい。つまり、三次元データ符号化装置は、対象ノードの親ノード内の空間位置に応じて、複数の隣接ノードのうち、参照する隣接ノードを切り替えてもよい。
【０８１２】
次に、三次元データ符号化装置及び三次元データ復号装置の構成例を説明する。図９９は、本実施の形態に係る三次元データ符号化装置２１００のブロック図である。図９９に示す三次元データ符号化装置２１００は、８分木生成部２１０１と、幾何情報算出部２１０２と、符号化テーブル選択部２１０３と、エントロピー符号化部２１０４とを備える。
【０８１３】
８分木生成部２１０１は、入力された三次元点（ポイントクラウド）から、例えば８分木を生成し、８分木に含まれる各ノードのオキュパンシー符号を生成する。幾何情報算出部２１０２は、対象ノードの隣接参照ノードが占有であるか否かを示す占有情報を取得する。例えば、幾何情報算出部２１０２は、対象ノードが所属する親ノードのオキュパンシー符号から隣接参照ノードの占有情報を取得する。なお、幾何情報算出部２１０２は、図９６に示すように、対象ノードの親ノード内の位置に応じて隣接参照ノードを切替えてもよい。また、幾何情報算出部２１０２は、親隣接ノード内の各ノードの占有情報は参照しない。
【０８１４】
符号化テーブル選択部２１０３は、幾何情報算出部２１０２で算出された隣接参照ノードの占有情報を用いて対象ノードのオキュパンシー符号のエントロピー符号化に用いる符号化テーブルを選択する。エントロピー符号化部２１０４は、選択された符号化テーブルを用いてオキュパンシー符号をエントロピー符号化することでビットストリームを生成する。なお、エントロピー符号化部２１０４は、選択された符号化テーブルを示す情報をビットストリームに付加してもよい。
【０８１５】
図１００は、本実施の形態に係る三次元データ復号装置２１１０のブロック図である。図１００に示す三次元データ復号装置２１１０は、８分木生成部２１１１と、幾何情報算出部２１１２と、符号化テーブル選択部２１１３と、エントロピー復号部２１１４とを備える。
【０８１６】
８分木生成部２１１１は、ビットストリームのヘッダ情報等を用いて、ある空間（ノード）の８分木を生成する。８分木生成部２１１１は、例えば、ヘッダ情報に付加されたある空間のｘ軸，ｙ軸，ｚ軸方向の大きさを用いて大空間（ルートノード）を生成し、その空間をｘ軸，ｙ軸，ｚ軸方向にそれぞれ２分割することで８個の小空間Ａ（ノードＡ０〜Ａ７）を生成して８分木を生成する。また、対象ノードとしてノードＡ０〜Ａ７が順に設定される。
【０８１７】
幾何情報算出部２１１２は、対象ノードの隣接参照ノードが占有であるか否かを示す占有情報を取得する。例えば、幾何情報算出部２１１２は、対象ノードが所属する親ノードのオキュパンシー符号から隣接参照ノードの占有情報を取得する。なお、幾何情報算出部２１１２は、図９６に示すように、対象ノードの親ノード内の位置に応じて隣接参照ノードを切替えてもよい。また、幾何情報算出部２１１２は、親隣接ノード内の各ノードの占有情報は参照しない。
【０８１８】
符号化テーブル選択部２１１３は、幾何情報算出部２１１２で算出された隣接参照ノードの占有情報を用いて対象ノードのオキュパンシー符号のエントロピー復号に用いる符号化テーブル（復号テーブル）を選択する。エントロピー復号部２１１４は、選択された符号化テーブルを用いてオキュパンシー符号をエントロピー復号することで、三次元点を生成する。なお、符号化テーブル選択部２１１３は、ビットストリームに付加された、選択された符号化テーブルの情報を復号して取得し、エントロピー復号部２１１４は、取得された情報で示される符号化テーブルを用いてもよい。
【０８１９】
ビットストリームに含まれるオキュパンシー符号（８ビット）の各ビットは、８個の小空間Ａ（ノードＡ０〜ノードＡ７）にそれぞれ点群が含まれるか否かを示す。また更に、三次元データ復号装置は、小空間ノードＡ０を８個の小空間Ｂ（ノードＢ０〜ノードＢ７）に分割して８分木を生成し、小空間Ｂの各ノードに点群が含まれるか否かを示す情報をオキュパンシー符号を復号して取得する。このように、三次元データ復号装置は、大空間から小空間へと８分木を生成しながら各ノードのオキュパンシー符号を復号する。
【０８２０】
以下、三次元データ符号化装置及び三次元データ復号装置による処理の流れを説明する。図１０１は、三次元データ符号化装置における三次元データ符号化処理のフローチャートである。まず、三次元データ符号化装置は、入力された三次元点群の一部又は全てが含まれる空間（対象ノード）を決定（定義）する（Ｓ２１０１）。次に、三次元データ符号化装置は、対象ノードを８分割して８個の小空間（ノード）を生成する（Ｓ２１０２）。次に、三次元データ符号化装置は、各ノードに点群が含まれるか否かに応じて対象ノードのオキュパンシー符号を生成する（Ｓ２１０３）。
【０８２１】
次に、三次元データ符号化装置は、対象ノードの隣接参照ノードの占有情報を、対象ノードの親ノードのオキュパンシー符号から算出（取得）する（Ｓ２１０４）。次に、三次元データ符号化装置は、決定した対象ノードの隣接参照ノードの占有情報に基づき、エントロピー符号化に用いる符号化テーブルを選択する（Ｓ２１０５）。次に、三次元データ符号化装置は、選択した符号化テーブルを用いて対象ノードのオキュパンシー符号をエントロピー符号化する（Ｓ２１０６）。
【０８２２】
さらに、三次元データ符号化装置は、各ノードをそれぞれ８分割し、各ノードのオキュパンシー符号を符号化するという処理を、ノードが分割できなくなるまで繰り返す（Ｓ２１０７）。つまり、ステップＳ２１０２〜Ｓ２１０６までの処理が再帰的に繰り返される。
【０８２３】
図１０２は、三次元データ復号装置における三次元データ復号方法のフローチャートである。まず、三次元データ復号装置は、ビットストリームのヘッダ情報を用いて復号する空間（対象ノード）を決定（定義）する（Ｓ２１１１）。次に、三次元データ復号装置は、対象ノードを８分割して８個の小空間（ノード）を生成する（Ｓ２１１２）。次に、三次元データ復号装置は、対象ノードの隣接参照ノードの占有情報を、対象ノードの親ノードのオキュパンシー符号から算出（取得）する（Ｓ２１１３）。
【０８２４】
次に、三次元データ復号装置は、隣接参照ノードの占有情報に基づきエントロピー復号に用いる符号化テーブルを選択する（Ｓ２１１４）。次に、三次元データ復号装置は、選択した符号化テーブルを用いて対象ノードのオキュパンシー符号をエントロピー復号する（Ｓ２１１５）。
【０８２５】
さらに、三次元データ復号装置は、各ノードをそれぞれ８分割し、各ノードのオキュパンシー符号を復号するという処理を、ノードが分割できなくなるまで繰り返す（Ｓ２１１６）。つまり、ステップＳ２１１２〜Ｓ２１１５までの処理が再帰的に繰り返される。
【０８２６】
次に、符号化テーブルの切替えの例を説明する。図１０３は、符号化テーブルの切替え例を示す図である。例えば、図１０３に示す符号化テーブル０のように、複数のオキュパンシー符号に同一のコンテキストモデルが適用されてもよい。また、各オキュパンシー符号に別々のコンテキストモデルが割り当てられてもよい。これにより、オキュパンシー符号の出現確率に応じてコンテキストモデルを割り当てることができるので、符号化効率を向上できる。また、オキュパンシー符号の出現頻度に応じて確率テーブルを更新するコンテキストモデルが用いられてもよい。または、確率テーブルを固定したコンテキストモデルが用いられてもよい。
【０８２７】
なお、図１０３では、図７７及び図７８に示す符号化テーブルが用いられる例を示したが、図８０及び図８１に示す符号化テーブルが用いられてもよい。
【０８２８】
以下、本実施の形態の変形例１について説明する。図１０４は、本変形例における参照関係を示す図である。上記実施の形態では、三次元データ符号化装置は、親隣接ノードのオキュパンシー符号を参照しないとしたが、親隣接ノードのオキュパンシー符号化を参照するか否かを、特定の条件に応じて切り替えてもよい。
【０８２９】
例えば、三次元データ符号化装置は、８分木を幅優先でスキャンしながら符号化を行うときは、親隣接ノード内のノードの占有情報を参照して、対象ノードのオキュパンシー符号を符号化する。一方、三次元データ符号化装置は、８分木を深さ優先でスキャンしながら符号化するときは、親隣接ノード内のノードの占有情報の参照を禁止する。このように８分木のノードのスキャン順（符号化順）に応じて、適切に参照可能なノードを切替えることにより、符号化効率の向上と処理負荷の抑制を実現できる。
【０８３０】
なお、三次元データ符号化装置は、８分木を幅優先で符号化したか、深さ優先で符号化したか等の情報をビットストリームのヘッダに付加してもよい。図１０５は、この場合のヘッダ情報のシンタックス例を示す図である。図１０５に示すｏｃｔｒｅｅ＿ｓｃａｎ＿ｏｒｄｅｒは、８分木の符号化順を示す符号化順情報（符号化順フラグ）である。例えば、ｏｃｔｒｅｅ＿ｓｃａｎ＿ｏｒｄｅｒが０の場合、幅優先を示し、１の場合は深さ優先を示す。これにより、三次元データ復号装置は、ｏｃｔｒｅｅ＿ｓｃａｎ＿ｏｒｄｅｒを参照することで、ビットストリームが幅優先及び深さ優先のどちらで符号化されたかを知ることができるので、ビットストリームを適切に復号できる。
【０８３１】
また、三次元データ符号化装置は、親隣接ノードの参照を禁止するか否かを示す情報をビットストリームのヘッダ情報に付加してもよい。図１０６は、この場合のヘッダ情報のシンタックス例を示す図である。ｌｉｍｉｔ＿ｒｅｆｅｒ＿ｆｌａｇは、親隣接ノードの参照を禁止するか否かを示す禁止切替情報（禁止切替フラグ）である。例えば、ｌｉｍｉｔ＿ｒｅｆｅｒ＿ｆｌａｇが１の場合は親隣接ノードの参照を禁止することを示し、０の場合は参照制限なし（親隣接ノードの参照を許可する）を示す。
【０８３２】
つまり、三次元データ符号化装置は、親隣接ノードの参照を禁止するか否かを決定し、上記決定の結果に基づき、親隣接ノードの参照を禁止するか、許可するかを切り替える。また、三次元データ符号化装置は、上記決定の結果であって、親隣接ノードの参照を禁止するか否かを示す禁止切替情報を含むビットストリームを生成する。
【０８３３】
また、三次元データ復号装置は、親隣接ノードの参照を禁止するか否かを示す禁止切替情報をビットストリームから取得し、禁止切替情報に基づき、親隣接ノードの参照を禁止するか、許可するかを切り替える。
【０８３４】
これにより三次元データ符号化装置は、親隣接ノードの参照を制御してビットストリームを生成できる。また、三次元データ復号装置は、親隣接ノードの参照が禁止されているか否かを示す情報をビットストリームのヘッダから取得できる。
【０８３５】
また、本実施の形態では、親隣接ノードの参照を禁止する符号化処理の例としてオキュパンシー符号の符号化処理を例として記載したが、必ずしもこれに限らない。例えば、８分木のノードの他の情報を符号化する際にも同様の手法を適用可能である。例えば、ノードに付加された色、法線ベクトル、又は反射率等のその他の属性情報を符号化する際に、本実施の形態の手法を適用してもよい。また、符号化テーブル又は予測値を符号化する際にも同様の手法を適用できる。
【０８３６】
次に、本実施の形態の変形例２について説明する。上記説明では、図９６に示すように、３つの参照隣接ノードが用いられる例を示したが４つ以上の参照隣接ノードが用いられてもよい。図１０７は、対象ノード及び参照隣接ノードの例を示す図である。
【０８３７】
例えば、三次元データ符号化装置は、図１０７に示す対象ノードのオキュパンシー符号をエントロピー符号化する際の符号化テーブルを、例えば下記式により算出する。
【０８３８】
ＣｏｄｉｎｇＴａｂｌｅ＝（ＦｌａｇＸ０＜＜３）＋（ＦｌａｇＸ１＜＜２）＋（ＦｌａｇＹ＜＜１）＋（ＦｌａｇＺ）
【０８３９】
ここで、ＣｏｄｉｎｇＴａｂｌｅは、対象ノードのオキュパンシー符号用の符号化テーブルを示し、値０〜１５のいずれかを示す。ＦｌａｇＸＮは、隣接ノードＸＮ（Ｎ＝０．．１）の占有情報であり、隣接ノードＸＮが点群を含む（占有）なら１を示し、そうでないなら０を示す。ＦｌａｇＹは、隣接ノードＹの占有情報であり、隣接ノードＹが点群を含む（占有）なら１を示し，そうでないなら０を示す。ＦｌａｇＺは、隣接ノードＺの占有情報であり、隣接ノードＺが点群を含む（占有）なら１を示し、そうでないなら０を示す。
【０８４０】
この際、もし隣接ノード、例えば図１０７の隣接ノードＸ０が参照不可（参照禁止）の場合は、三次元データ符号化装置は、代替値として１（占有）、又は、０（非占有）のような固定値を用いてもよい。
【０８４１】
図１０８は、対象ノード及び隣接ノードの例を示す図である。図１０８に示すように、隣接ノードが参照不可（参照禁止）の場合は、対象ノードの祖父ノードのオキュパンシー符号を参照して、隣接ノードの占有情報を算出してもよい。例えば、三次元データ符号化装置は、図１０８に示す隣接ノードＸ０の代わりに、隣接ノードＧ０の占有情報を用いて上式のＦｌａｇＸ０を算出し、算出したＦｌａｇＸ０を用いて符号化テーブルの値を決定してもよい。なお、図１０８に示す隣接ノードＧ０は、祖父ノードのオキュパンシー符号で占有か否かが判別できる隣接ノードである。隣接ノードＸ１は、親ノードのオキュパンシー符号で占有か否かが判別できる隣接ノードである。
【０８４２】
以下、本実施の形態の変形例３について説明する。図１０９及び図１１０は、本変形例に係る参照関係を示す図である。図１０９は、参照関係を８分木構造上で示す図であり、図１１０は、参照関係を空間領域上で示す図である。
【０８４３】
本変形例では、三次元データ符号化装置は、符号化対象のノード（以下、対象ノード２と呼ぶ）の符号化情報を符号化する際に、対象ノード２が属する親ノード内の各ノードの符号化情報を参照する。つまり、三次元データ符号化装置は、複数の隣接ノードのうち、対象ノードと親ノードが同一である第１ノードの子ノードの情報（例えば占有情報）の参照を許可する。例えば、三次元データ符号化装置は、図１０９に示す対象ノード２のオキュパンシー符号を符号化する際に、対象ノード２が属する親ノード内に存在するノード、例えば、図１０９に示す対象ノードのオキュパンシー符号を参照する。図１０９に示す対象ノードのオキュパンシー符号は、図１１０に示すように、例えば、対象ノード２に隣接する対象ノード内の各ノードが占有であるか否かを表している。よって、三次元データ符号化装置は、対象ノードのより細かい形状に応じて対象ノード２のオキュパンシー符号の符号化テーブルを切替えることができるので符号化効率を向上できる。
【０８４４】
三次元データ符号化装置は、対象ノード２のオキュパンシー符号をエントロピー符号化する際の符号化テーブルを、例えば下記式により算出してもよい。
【０８４５】
ＣｏｄｉｎｇＴａｂｌｅ＝（ＦｌａｇＸ１＜＜５）＋（ＦｌａｇＸ２＜＜４）＋（ＦｌａｇＸ３＜＜３）＋（ＦｌａｇＸ４＜＜２）＋（ＦｌａｇＹ＜＜１）＋（ＦｌａｇＺ）
【０８４６】
ここで、ＣｏｄｉｎｇＴａｂｌｅは、対象ノード２のオキュパンシー符号用の符号化テーブルを示し、値０〜６３のいずれかを示す。ＦｌａｇＸＮは、隣接ノードＸＮ（Ｎ＝１．．４）の占有情報であり、隣接ノードＸＮが点群を含む（占有）なら１を示し、そうでないなら０を示す。ＦｌａｇＹは、隣接ノードＹの占有情報であり、隣接ノードＹが点群を含む（占有）なら１を示し、そうでないなら０を示す。ＦｌａｇＺは、隣接ノードＹの占有情報であり、隣接ノードＺが点群を含む（占有）なら１を示し、そうでないなら０を示す。
【０８４７】
なお、三次元データ符号化装置は、符号化テーブルの算出方法を親ノード内における対象ノード２のノード位置に応じて変更してもよい。
【０８４８】
また、三次元データ符号化装置は、親隣接ノードの参照が禁止されていない場合、親隣接ノード内の各ノードの符号化情報を参照してよい。例えば、親隣接ノードの参照が禁止されていない場合、対象ノードと親ノードが異なる第３ノードの子ノードの情報（例えば占有情報）の参照が許可される。例えば、図１０８に示す例では、三次元データ符号化装置は、対象ノードと親ノードが異なる隣接ノードＸ０のオキュパンシー符号を参照して、隣接ノードＸ０の子ノードの占有情報を取得する。三次元データ符号化装置は、取得した隣接ノードＸ０の子ノードの占有情報に基づき、対象ノードのオキュパンシー符号のエントロピー符号化に用いる符号化テーブルを切替える。
【０８４９】
以上のように、本実施の形態に係る三次元データ符号化装置は、三次元データに含まれる複数の三次元点のＮ（Ｎは２以上の整数）分木構造に含まれる対象ノードの情報（例えばオキュパンシー符号）を符号化する。図９４及び図９５に示すように、三次元データ符号化装置は、上記符号化では、対象ノードと空間的に隣接する複数の隣接ノードのうち、対象ノードと親ノードが同一である第１ノードの情報（例えば占有情報）の参照を許可し、対象ノードと親ノードが異なる第２ノードの情報（例えば占有情報）の参照を禁止する。言い換えると、三次元データ符号化装置は、上記符号化では、親ノードの情報（例えばオキュパンシー符号）の参照を許可し、親ノードと同一層の他のノード（親隣接ノード）の情報（例えばオキュパンシー符号）の参照を禁止する。
【０８５０】
これによれば、当該三次元データ符号化装置は、対象ノードと空間的に隣接する複数の隣接ノードのうち、対象ノードと親ノードが同一である第１ノードの情報の参照することで符号化効率を向上できる。また、当該三次元データ符号化装置は、複数の隣接ノードのうち、対象ノードと親ノードが異なる第２ノードの情報の参照をしないことにより、処理量を低減できる。このように、当該三次元データ符号化装置は、符号化効率を向上できるとともに、処理量を低減できる。
【０８５１】
例えば、三次元データ符号化装置は、さらに、第２ノードの情報の参照を禁止するか否かを決定し、上記符号化では、上記決定の結果に基づき、第２ノードの情報の参照を禁止するか、許可するかを切り替える。三次元データ符号化装置は、さらに、上記決定の結果であって、第２ノードの情報の参照を禁止するか否かを示す禁止切替情報（例えば、図１０６に示すｌｉｍｉｔ＿ｒｅｆｅｒ＿ｆｌａｇ）を含むビットストリームを生成する。
【０８５２】
これによれば、当該三次元データ符号化装置は、第２ノードの情報の参照を禁止するか否かを切り替えることができる。また、三次元データ復号装置は、禁止切替情報を用いて適切に復号処理を行うことができる。
【０８５３】
例えば、対象ノードの情報は、対象ノードに属する子ノードの各々に三次元点が存在するか否かを示す情報（例えオキュパンシー符号）であり、第１ノードの情報は、第１ノードに三次元点が存在するか否かを示す情報（第１ノードの占有情報）であり、第２ノードの情報は、第２ノードに三次元点が存在するか否かを示す情報（第２ノードの占有情報）である。
【０８５４】
例えば、三次元データ符号化装置は、上記符号化では、第１ノードに三次元点が存在するか否かに基づき、符号化テーブルを選択し、選択された符号化テーブルを用いて、対象ノードの情報（例えばオキュパンシー符号）をエントロピー符号化する。
【０８５５】
例えば、三次元データ符号化装置は、上記符号化では、図１０９及び図１１０に示すように、複数の隣接ノードのうち、第１ノードの子ノードの情報（例えば占有情報）の参照を許可する。
【０８５６】
これによれば、当該三次元データ符号化装置は、隣接ノードのより詳細な情報を参照することができるので符号化効率を向上できる。
【０８５７】
例えば、三次元データ符号化装置は、図９６に示すように、上記符号化では、対象ノードの親ノード内の空間位置に応じて、複数の隣接ノードのうち、参照する隣接ノードを切り替える。
【０８５８】
これによれば、当該三次元データ符号化装置は、対象ノードの親ノード内の空間位置に応じて、適切な隣接ノードを参照できる。
【０８５９】
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０８６０】
また、本実施の形態に係る三次元データ復号装置は、三次元データに含まれる複数の三次元点のＮ（Ｎは２以上の整数）分木構造に含まれる対象ノードの情報（例えばオキュパンシー符号）を復号する。図９４及び図９５に示すように、三次元データ復号装置は、上記復号では、対象ノードと空間的に隣接する複数の隣接ノードのうち、対象ノードと親ノードが同一である第１ノードの情報（例えば占有情報）の参照を許可し、対象ノードと親ノードが異なる第２ノードの情報（例えば占有情報）の参照を禁止する。言い換えると、三次元データ復号装置は、上記復号では、親ノードの情報（例えばオキュパンシー符号）の参照を許可し、親ノードと同一層の他のノード（親隣接ノード）の情報（例えばオキュパンシー符号）の参照を禁止する。
【０８６１】
これによれば、当該三次元データ復号装置は、対象ノードと空間的に隣接する複数の隣接ノードのうち、対象ノードと親ノードが同一である第１ノードの情報の参照することで符号化効率を向上できる。また、当該三次元データ復号装置は、複数の隣接ノードのうち、対象ノードと親ノードが異なる第２ノードの情報の参照をしないことにより、処理量を低減できる。このように、当該三次元データ復号装置は、符号化効率を向上できるとともに、処理量を低減できる。
【０８６２】
例えば、三次元データ復号装置は、さらに、第２ノードの情報の参照を禁止するか否かを示す禁止切替情報（例えば、図１０６に示すｌｉｍｉｔ＿ｒｅｆｅｒ＿ｆｌａｇ）をビットストリームから取得し、上記復号では、禁止切替情報に基づき、第２ノードの情報の参照を禁止するか、許可するかを切り替える。
【０８６３】
これによれば、当該三次元データ復号装置は、禁止切替情報を用いて適切に復号処理を行うことができる。
【０８６４】
例えば、対象ノードの情報は、対象ノードに属する子ノードの各々に三次元点が存在するか否かを示す情報（例えオキュパンシー符号）であり、第１ノードの情報は、第１ノードに三次元点が存在するか否かを示す情報（第１ノードの占有情報）であり、第２ノードの情報は、第２ノードに三次元点が存在するか否かを示す情報（第２ノードの占有情報）である。
【０８６５】
例えば、三次元データ復号装置は、上記復号では、第１ノードに三次元点が存在するか否かに基づき、符号化テーブルを選択し、選択された符号化テーブルを用いて、対象ノードの情報（例えばオキュパンシー符号）をエントロピー復号する。
【０８６６】
例えば、三次元データ復号装置は、上記復号では、図１０９及び図１１０に示すように、複数の隣接ノードのうち、第１ノードの子ノードの情報（例えば占有情報）の参照を許可する。
【０８６７】
これによれば、当該三次元データ復号装置は、隣接ノードのより詳細な情報を参照することができるので符号化効率を向上できる。
【０８６８】
例えば、三次元データ復号装置は、図９６に示すように、上記復号では、対象ノードの親ノード内の空間位置に応じて、複数の隣接ノードのうち、参照する隣接ノードを切り替える。
【０８６９】
これによれば、当該三次元データ復号装置は、対象ノードの親ノード内の空間位置に応じて、適切な隣接ノードを参照できる。
【０８７０】
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【０８７１】
（実施の形態１１）
図１１１は、実施の形態１１に係る三次元データ符号化方法の概略を説明するための図である。
【０８７２】
三次元点群の一部の第１三次元点群は、１以上の平面上に配置され、他の一部の第２三次元点群は、１以上の平面の周囲に配置される。実施の形態１１では、このような三次元点群を符号化する場合、１以上の平面上に配置される第１三次元点群を４分木で表現し、４分木で表現された４分木構造の第１三次元点群を符号化する。例えば、ＬｉＤＡＲにより得られた点群データには、三次元点の半分以上が地面などの平面の周囲に配置される。
【０８７３】
この方法では、まず、点群データの三次元点群から地面上の第１三次元点群を分離する。
【０８７４】
次に、地面上の第１三次元点群を４分木で表現し、４分木で表現された４分木構造の第１三次元点群を符号化する。
【０８７５】
そして、三次元点群のうち第１三次元点群を除く第２三次元点群を８分木で表現し、８分木で表現された第２三次元点群を符号化する。
【０８７６】
このように、三次元データ符号化装置は、ＬｉＤＡＲ等で取得された三次元点群のうち、地面等の平面上、もしくは、地面に近い（高さが閾値以下）位置にある第１三次元点群を４分木で表現し、４分木構造の第１三次元点群を符号化し、それ以外の第２三次元点群を８分木で表現し、８分木構造の第２三次元点群を符号化してもよい。
【０８７７】
図１１２は、傾いて検出された平面をＸ−Ｙ平面に変換する変換方法について説明するための図である。なお、図１１２において、例えば、Ｘ軸方向は、ＬｉＤＡＲを備える車両の前後方向に対応し、Ｙ軸方向は当該車両の左右方向に対応し、Ｚ軸方向は当該車両の上下方向に対応する。Ｘ軸方向、Ｙ軸方向およびＺ軸方向は、互いに直交する方向である。
【０８７８】
ＬｉＤＡＲにより得られた点群データを用いて検出される平面は、図１１２の（ａ）に示すように、ＬｉＤＡＲを備える車両の３軸方向に対して傾いている場合がある。この場合、平面に対応する第１三次元点群に含まれる複数の第１三次元点のそれぞれは、Ｚ軸方向における値を有しており、Ｚ軸方向における値が０ではない。
【０８７９】
そこで、三次元データ符号化装置は、図１１２の（ｂ）に示すように、傾いて検出された平面上にある第１三次元点群を、Ｘ−Ｙ平面に合わせるように平面パラメータωを用いて回転させる変換を行う。これにより、変換された第１三次元点群に含まれる複数の第１三次元点のそれぞれは、Ｚ軸方向における値として０を有することになる。これにより、三次元データ符号化装置は、第１三次元点群の符号化に係る処理負荷を低減することができる。この場合、三次元データ符号化装置は、平面パラメータωも符号化する。
【０８８０】
ヘッダにおいて平面パラメータω（＝｛ａ、ｂ、ｃ、ｄ｝）は、以下に示す平面方程式で定義できる。
【０８８１】
ａｘ＋ｂｙ＋ｃｚ＝ｄ
【０８８２】
ヘッダは、例えば、平面パラメータ｛ａ、ｂ、ｃ、ｄ｝を有する。
【０８８３】
三次元データ符号化装置は、例えば、ＲＡＮＳＡＣ（Ｒａｎｄｏｍ  Ｓａｍｐｌｅ  Ｃｏｎｓｅｎｓｕｓ）法などにより、三次元点群の位置情報から平面を検出し、平面上の三次元点群である第１三次元点群を検出する。三次元データ符号化装置は、三次元点群から平面を、他のセンサーデータまたは時間的整合性から推測してもよい。
【０８８４】
平面上の第１三次元点群の符号化方法には、２つの方法が考えられる。なお、検出された平面は、ＸＯＹ平面にほぼ平行であると仮定する。
【０８８５】
第１の方法は、平面に近い点を選択する方法である。この方法では、三次元点の位置情報のうち、Ｘ座標、Ｙ座標、および、平面までの距離が符号化される。
【０８８６】
第２の方法は、平面上の三次元点を選択する方法である。この方法では、Ｘ座標およびＹ座標が符号化され、平面までの距離は符号化されない。
【０８８７】
図１１３は、平面と各方法において選択される点群との関係を示す図である。
【０８８８】
例えば、三次元点が量子化されている場合、平面までの距離が１未満となる三次元点が平面上に配置されると判定される。
【０８８９】
図１１４は、第１の方法における、三次元点群から検出された平面と平面の周囲の点群（平面点群の候補）との間の量子化された距離の度数分布を示す図である。図１１４に示すように、第１の方法では、距離毎にほぼ等しく分散される。
【０８９０】
図１１５は、第２の方法における、三次元点群から検出された平面と平面の周囲の点群との間の量子化された距離の度数分布を示す図である。第２の方法では、最も度数が大きい三次元点の平面までの距離は０になり、当該距離よりも近くの距離は負の数となる。
【０８９１】
なお、三次元点群から得られた分布が、図１１４のような分布の場合には、Ｘ座標、Ｙ座標、および平面までの距離を符号化する第１の方法を適用してもよい。また、三次元点群から得られた分布が、図１１５のような分布の場合には、Ｘ座標およびＹ座標を符号化する第２の方法を適用してもよい。
【０８９２】
４分木構造の第１三次元点群は、４分木構造で表現された三次元点群を符号化するための専用の方法を用いずに、既存の８分木構造で表現された三次元点群を符号化するための方法を利用して、符号化または復号されてもよい。
【０８９３】
８分木構造の三次元点群の符号化では、三次元データ符号化装置は、三次元点群を含む三次元空間を８つのサブ空間に分割し、各サブ空間が三次元点を含むか否かを示すオキュパンシー符号を符号化する。この処理は、目標精度に達する、または、サブ空間に含まれる点が最小個数、例えば１個になるまで繰り返し行われる。また、三次元データ復号装置は、符号化データを復号することでオキュパンシー符号を取得し、取得したオキュパンシー符号に対応するサブ空間を再帰的に再構築する。これにより、三次元データ符号化装置が符号化した三次元点群を復号することができる。
【０８９４】
図１１６は、二次元空間を４つのサブ空間に分割する例を示す図である。図１１７は、二次元空間での４つのサブ空間を、三次元空間での８つのサブ空間に適用する例を示す図である。
【０８９５】
４分木構造の三次元点群の符号化では、二次元空間の分割結果を、三次元空間の分割結果を用いて表現する。具体的には、三次元データ符号化装置は、三次元空間の分割結果における３番目の次元（Ｚ軸方向）の分割結果を使用しないために、三次元空間の分割における上段の空間にダミーのサブ空間を割り当てる。このように、三次元データ符号化装置は、二次元空間の分割結果を三次元空間の分割結果を用いて表現することで、図１１６に示すような二次元空間の占有状態を示す４ビットのオキュパンシー符号を、図１１７に示すような三次元空間の占有状態を示す占有状態を示す８ビットのオキュパンシー符号にコードに変換する。なお、８ビットのオキュパンシー符号では、ダミーのサブ空間を示すビットが０ビットで示される。
【０８９６】
図１１８は、符号化／復号パターンの一例を示す図である。図１１９は、符号化／復号パターンの他の一例を示す図である。
【０８９７】
８分木構造の三次元点群の符号化において隣接のサブ空間との依存関係を用いて符号化される場合、第１三次元点群を二次元空間での４分木の表現から三次元空間での８分木の表現に変換することにより、変換された８分木構造の三次元点群は、変換されていない三次元空間における８分木構造の三次元点群と同様に、第１三次元点群においても隣接するサブ空間との依存関係を用いて符号化される。４分木構造の三次元点群を８分木の表現に変更した場合、８分木構造に変換された三次元点群は、１つの軸、つまり、Ｚ軸が無効になり、三次元空間における隣接関係の一部は使用されない。具体的には、図１１８のＺ軸は無効となり、対象の三次元点にＺ軸方向で隣接する１６および３２との関係が使用されない。このため、４分木構造が変換された８分木構造の三次元点群の符号化では、三次元データ符号化装置は、符号化対象ノードにＺ軸方向で隣接する隣接ノードが無効化されている、または、当該隣接ノードに点群が含まれないと見なして、符号化テーブルを選択する。
【０８９８】
次に、三次元データ符号化装置の構成について説明する。
【０８９９】
図１２０は、三次元データ符号化装置の構成を示すブロック図である。
【０９００】
三次元データ符号化装置５９００は、検出部５９０１と、分割部５９０２と、４分木符号化部５９０３と、８分木符号化部５９０４と、多重化部５９０５とを備える。
【０９０１】
検出部５９０１は、ＲＡＮＳＡＣ（Ｒａｎｄｏｍ  Ｓａｍｐｌｅ  Ｃｏｎｓｅｎｓｕｓ）法などにより、三次元点群の位置情報から平面を検出し、平面上の第１三次元点群を検出する。また、検出部５９０１は、検出した第１三次元点群がＸ−Ｙ平面に対して傾いて検出された平面上にある場合、当該第１三次元点群を、Ｘ−Ｙ平面に合わせるように平面パラメータωを用いて回転させる変換を行う。
【０９０２】
なお、検出部５９０１は、三次元点群の位置情報から複数の平面を検出した場合、検出した複数の平面毎に、各平面状の第１三次元点群を検出する。そして、複数の平面それぞれについて、当該平面上にある第１三次元点群を、Ｘ−Ｙ平面に合わせるように平面パラメータωを用いて回転させる変換を行う。
【０９０３】
分割部５９０２は、三次元点群を第１三次元点群および第２三次元点群に分割する。
【０９０４】
４分木符号化部５９０３は、平面上の第１三次元点群を４分木で表現し、４分木で表現された４分木構造の第１三次元点群を生成し、生成した４分木構造を一部に含む８分木構造の第１三次元点群を符号化する。これにより、４分木符号化部５９０３は、第１ビットストリームを生成する。なお、４分木構造を一部に含む８分木構造とは、言い換えると、８分木構造と４分木構造とが混在する符号化構造である。
【０９０５】
このように、４分木符号化部５９０３は、４分木構造に含まれる第１対象ノードの第１情報を符号化する。ここで、４分木符号化部５９０３は、第１情報を、８分木構造を符号化するのに用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する。第１符号化パターンおよび第２符号化パターンは、構造が互いに共通している。第１符号化パターンは、第１情報の符号化に用いる符号化テーブルを選択するための符号化パターンであり、第２符号化パターンは、第２情報の符号化に用いる符号化テーブルを選択するための符号化パターンである。なお、４分木符号化部５９０３は、複数の方向において第１対象ノードに空間的に隣接する複数の第１隣接ノードの第１隣接情報から第１符号化パターンを生成する。第１隣接情報は、複数の第１隣接ノードのそれぞれにおいて、各第１隣接ノードに点群が含まれるか否かを示す情報である。
【０９０６】
第１符号化パターンの生成では、４分木符号化部５９０３は、複数の方向のうちの所定の方向において第１対象ノードに空間的に隣接する１以上の第１隣接ノードを示す１以上のビットであって、それぞれが点群により占有されていないことを示す１以上のビットからなる第１ビットパターンと、複数の方向のうちの所定の方向以外の方向において第１対象ノードに空間的に隣接する複数の第２隣接ノードを示す複数のビットからなる第２ビットパターンとにより構成される６ビットの第３ビットパターンを含む第１符号化パターンを生成する。このようにして、４分木符号化部５９０３は、第１情報の符号化で用いる第１符号化パターンの算出方法を、後述する８分木構造の三次元点群を符号化するのに用いる第２符号化パターンの算出方法と共通化する。つまり、第１符号化パターンは、第２符号化パターンを利用して生成されており、第２符号化パターンのうちの所定の方向において対象ノードに空間的に隣接する１以上の隣接ノードを示す１以上のビットのそれぞれが、点群に占有されていないことを示すように生成されている。
【０９０７】
また、４分木符号化部５９０３は、第１三次元点群を符号化すると共に、平面パラメータωを符号化する。
【０９０８】
８分木符号化部５９０４は、第２三次元点群を８分木で表現し、８分木で表現された８分木構造の第２三次元点群を符号化する。これにより、８分木符号化部５９０４は、第２ビットストリームを生成する。具体的には、８分木符号化部５９０４は、８分木構造に含まれる第２対象ノードの第２情報を符号化する。８分木符号化部５９０４は、複数の方向において第２対象ノードに空間的に隣接する複数の第２隣接ノードの第２隣接情報から第２符号化パターンを生成する。なお、第２隣接情報は、複数の第２隣接ノードのそれぞれにおいて、各第２隣接ノードに点群が含まれるか否かを示す情報である。また、第２符号化パターンの生成では、８分木符号化部５９０４は、複数の方向において第２対象ノードに空間的に隣接する複数の第３隣接ノードを示す複数のビットからなる６ビットの第４ビットパターンを含む第２符号化パターンを生成する。
【０９０９】
なお、複数の方向は、例えば、Ｘ軸正方向、Ｘ軸負方向、Ｙ軸正方向、Ｙ軸負方向、Ｚ軸正方向およびＺ軸負方向の６方向である。所定の方向は、Ｚ軸正方向およびＺ軸負方向である。
【０９１０】
多重化部５９０５は、４分木符号化部５９０３で８分木構造の第１三次元点群が符号化された第１ビットストリームと、８分木符号化部５９０４で８分木構造の第２三次元点群が符号化された第２ビットストリームとを多重化することで符号化ストリームを生成する。
【０９１１】
なお、三次元データ符号化装置５９００は、４分木符号化部５９０３の代わりに、８分木符号化部５９０４を利用して第１三次元点群を符号化してもよい。８分木符号化部５９０４は、８分木分割後に８個のサブノードのうち、４個のサブノードを無効ノード（占有されていない）と見なして８分木分割をリーフまで継続することで仮想的に４分木として符号化してもよい。この場合、８分木符号化部５９０４は、オキュパンシー符号を、無効ノードを除いて４ビットとして符号化してもよい。例えば、８分木符号化部５９０４は、第１対象ノードを４分割して得られた４個の第１サブ空間のそれぞれに第１三次元点が含まれるか否かを示す第１情報を符号化することで、第１情報に対応する４ビットからなる第１ビット列と、４ビットからなる無効な第２ビット列とにより構成される８ビットからなる第３ビット列を含むビットストリームを生成する。無効な第２ビット列は、例えば、各ビットが０で示される。これにより、４分木と８分木とで別々に符号化部を設ける必要がなくなり、回路規模またはソースコード量を抑制することができる。
【０９１２】
図１２１は、第１の方法を用いる４分木符号化部の詳細な構成を示すブロック図である。
【０９１３】
４分木符号化部５９０３は、４分木分割部５９１１と、距離算出部５９１２、距離符号化部５９１３と、多重化部５９１４とを有する。
【０９１４】
４分木分割部５９１１は、第１三次元点群が含まれる二次元空間を４つのサブ空間に分割し、各サブ空間のオキュパンシー符号を符号化する。４分木分割部５９１１は、各サブ空間を４分割し、各サブ空間のオキュパンシー符号を符号化するという処理を、サブ空間が分割できなくなるまで繰り返す。
【０９１５】
距離算出部５９１２は、第１三次元点群の各第１三次元点の平面までの距離を算出する。
【０９１６】
距離符号化部５９１３は、算出された各第１三次元点の平面までの距離を示す距離情報を符号化する。距離符号化部５９１３は、距離情報を二値化し、二値化した結果を算術符号化してもよい。また、距離符号化部５９１３は、対象の第１三次元点に隣接する第１三次元点の距離情報を用いて、対象の第１三次元点の距離情報を予測し、予測した結果の予測値と対象の第１三次元点の距離情報との差分値を算術符号化してもよい。
【０９１７】
多重化部５９１４は、符号化されたオキュパンシー符号と、符号化された距離情報とを多重化することで、符号化４分木位置情報を生成する。
【０９１８】
第１の方法における４分木符号化部５９０３の代わりに、次に説明する第２の方法における４分木符号化部５９０３Ａを用いてもよい。
【０９１９】
図１２２は、第２の方法を用いる４分木符号化部の詳細な構成を示すブロック図である。
【０９２０】
４分木符号化部５９０３Ａは、４分木分割部５９１１Ａを有する。
【０９２１】
４分木分割部５９１１Ａは、第１三次元点群が含まれる二次元空間を４つのサブ空間に分割し、各サブ空間のオキュパンシー符号を符号化し、符号化されたオキュパンシー符号を、符号化４分木位置情報として出力する。４分木分割部５９１１Ａは、各サブ空間を４分割し、各サブ空間のオキュパンシー符号を符号化するという処理を、サブ空間が分割できなくなるまで繰り返す。
【０９２２】
次に、三次元データ復号装置の構成について説明する。
【０９２３】
図１２３は、三次元データ復号装置の構成を示すブロック図である。
【０９２４】
三次元データ復号装置５９２０は、逆多重化部５９２１と、４分木復号部５９２２と、８分木復号部５９２３と、点群結合部５９２４とを備える。
【０９２５】
逆多重化部５９２１は、符号化ストリームを、符号化された８分木構造の第１三次元点群と、符号化された８分木構造の第２三次元点群と、平面パラメータとに逆多重化する。なお、逆多重化部５９２１は、第１三次元点群が４分木構造で符号化されている場合には、符号化された８分木構造の第１三次元点群に逆多重化する代わりに、符号化された４分木構造の第１三次元点群に逆多重化する。
【０９２６】
４分木復号部５９２２は、符号化された８分木構造の第１三次元点群から、当該第１三次元点群に含まれる４分木構造の第１三次元点群を復号し、復号した第１三次元点群を、平面パラメータωを用いて逆回転することで、第１三次元点群を復号する。なお、４分木復号部５９２２は、８分木構造の第１三次元点群に含まれる４分木構造の第１三次元点群を復号するのではなく、４分木構造の第１三次元点群を復号してもよい。
【０９２７】
第１復号パターンは、第１情報の復号に用いる復号テーブルを選択するための復号パターンであり、第２復号パターンは、第２情報の復号に用いる復号テーブルを選択するための復号パターンである。なお、４分木復号部５９２２は、複数の方向において第１対象ノードに空間的に隣接する複数の第１隣接ノードの第１隣接情報から第１復号パターンを生成する。
【０９２８】
第１復号パターンの生成では、４分木復号部５９２２は、複数の方向のうちの所定の方向において第１対象ノードに空間的に隣接する１以上の第１隣接ノードを示す１以上のビットであって、それぞれが点群により占有されていないことを示す１以上のビットからなる第１ビットパターンと、複数の方向のうちの所定の方向以外の方向において第１対象ノードに空間的に隣接する複数の第２隣接ノードを示す複数のビットからなる第２ビットパターンとにより構成される６ビットの第３ビットパターンを含む第１復号パターンを生成する。このようにして、４分木復号部５９２２は、第１情報の符号化で用いる第１復号パターンの算出方法を、後述する８分木構造の三次元点群を復号するのに用いる第２復号パターンの算出方法と共通化する。
【０９２９】
８分木復号部５９２３は、８分木構造の第２三次元点群を復号することで、第２三次元点群を復号する。８分木復号部５９２３は、８分木構造に含まれる第２対象ノードの第２情報を復号する。８分木復号部５９２３は、複数の方向において第２対象ノードに空間的に隣接する複数の第２隣接ノードの第２隣接情報から第２復号パターンを生成する。第２復号パターンの生成では、８分木復号部５９２３は、複数の方向において第２対象ノードに空間的に隣接する複数の第３隣接ノードを示す複数のビットからなる６ビットの第４ビットパターンを含む第２復号パターンを生成する。
【０９３０】
点群結合部５９２４は、第１三次元点群および第２三次元点群を結合することで、位置情報を示す三次元点群を生成する。
【０９３１】
なお、三次元データ復号装置５９２０は、４分木復号部５９２２の代わりに、８分木復号部５９２３を利用して第１三次元点群を復号してもよい。８分木復号部５９２３は、８分木分割後に８個のサブノードのうち、４個のサブノードを無効ノード（占有されていない）と見なして８分木分割をリーフまで継続することで仮想的に４分木として復号してもよい。この場合、８分木復号部５９２３は、オキュパンシー符号を、無効ノードを除いて４ビットとして復号してもよい。例えば、８分木復号部５９２３は、４ビットからなる第１ビット列と、（８−Ｎ）ビットからなる無効な第２ビット列とにより構成される８ビットからなる第３ビット列を含むビットストリームの第１ビット列から、第１対象ノードを４分割して得られた４個のサブ空間のそれぞれに第１三次元点が含まれるか否かを示す第１情報（オキュパンシー符号）を復号する。これにより、４分木と８分木とで別々に復号部を設ける必要がなくなり、回路規模またはソースコード量を抑制することができる。
【０９３２】
図１２４は、第１の方法を用いる４分木復号部の詳細な構成を示すブロック図である。
【０９３３】
４分木復号部５９２２は、逆多重化部５９３１と、４分木分割部５９３２と、距離復号部５９３３と、復元部５９３４とを備える。
【０９３４】
逆多重化部５９３１は、符号化４分木位置情報を、符号化されたオキュパンシー符号と、符号化された距離情報とに逆多重化する。
【０９３５】
４分木分割部５９３２は、第１三次元点群が含まれる二次元空間を４つのサブ空間に分割し、各サブ空間について符号化されたオキュパンシー符号からオキュパンシー符号を復号する。４分木分割部５９３２は、二次元空間を４分割し、各サブ空間のオキュパンシー符号を復号するという処理を、サブ空間が分割できなくなるまで繰り返す。
【０９３６】
距離復号部５９３３は、符号化された距離情報から距離情報を復号する。距離復号部５９３３は、三次元点群の各三次元点の平面までの距離を示す距離情報を算術復号してもよい。また、距離復号部５９３３は、対象の第１三次元点に隣接する第１三次元点の距離情報を用いて、対象の第１三次元点の距離情報を予測し、予測値に算術復号した差分値を加算することで距離情報を復号してもよい。
【０９３７】
復元部５９３４は、オキュパンシー符号および距離情報を用いて、Ｚ軸方向の値を算出することで、各三次元点の位置を復元する。
【０９３８】
図１２５は、第２の方法を用いる４分木復号部の詳細な構成を示すブロック図である。
【０９３９】
４分木復号部５９２２Ａは、４分木分割部５９３２Ａと、復元部５９３４Ａとを備える。
【０９４０】
４分木分割部５９３２Ａは、第１三次元点群が含まれる二次元空間を４つのサブ空間に分割し、各サブ空間のオキュパンシー符号を復号する。４分木分割部５９３２Ａは、各サブ空間を４分割し、各サブ空間のオキュパンシー符号を復号するという処理を、サブ空間が分割できなくなるまで繰り返す。
【０９４１】
復元部５９３４Ａは、オキュパンシー符号と平面パラメータωとを用いて、Ｚ軸方向の値を算出することで、各三次元点の位置を復元する。
【０９４２】
図１２６は、三次元データ符号化方法のフローチャートである。
【０９４３】
三次元データ符号化装置は、三次元点群の位置情報から平面を検出する（Ｓ５９０１）。
【０９４４】
次に、三次元データ符号化装置は、三次元点群の各三次元点について平面上の点であるか否かを判定する（Ｓ５９０２）。つまり、三次元データ符号化装置は、三次元点群の各三次元点が平面上の第１三次元点群に属するのか、それ以外の第２三次元点群に属するのかを判定する。
【０９４５】
三次元データ符号化装置は、平面上の点であると判定された第１三次元点群を用いて、４分木で表現された４分木構造の第１三次元点群を生成し、生成された４分木構造の第１三次元点群を符号化する（Ｓ５９０３）。
【０９４６】
三次元データ符号化装置は、平面上の点でないと判定された第２三次元点群を用いて、８分木で表現された８分木構造の第２三次元点群を生成し、生成された８分木構造の第２三次元点群を符号化する（Ｓ５９０４）。
【０９４７】
三次元符号化装置は、符号化された第１三次元点群と、符号化された第２三次元点群と、平面パラメータωとを多重化することで、ビットストリームを生成する（Ｓ５９０５）。
【０９４８】
図１２７は、三次元データ復号方法のフローチャートである。
【０９４９】
三次元データ復号装置は、ビットストリームのメタデータから平面パラメータωを取得する（Ｓ５９１１）。
【０９５０】
三次元データ復号装置は、ビットストリームを平面のデータである符号化された第１三次元点群と、非平面のデータである符号化された第２三次元点群とに分割する（Ｓ５９１２）。
【０９５１】
三次元データ復号装置は、符号化された第１三次元点群を第１三次元点群に復号する（Ｓ５９１３）。
【０９５２】
三次元データ復号装置は、符号化された第２三次元点群を第２三次元点群に復号する（Ｓ５９１４）。
【０９５３】
三次元データ復号装置は、復号された、第１三次元点群および第２三次元点群を結合することで、位置情報を示す三次元点群を生成する。（Ｓ５９１５）。
【０９５４】
なお、三次元データ符号化装置は、ビットストリーム内の三次元点群が８分木で符号化された三次元点群であるのか、４分木で符号化された三次元点群であるのかを示す識別情報をヘッダに付加してもよい。つまり、三次元データ符号化装置は、符号化の対象が第１情報であるか、第２情報であるかを示す識別情報を含むビットストリームを生成してもよい。この場合、三次元データ復号装置は、ヘッダに付加された識別情報を用いて８分木として復号するか、４分木として復号するかを判断でき、ビットストリームを正しく復号できる。
【０９５５】
また、三次元データ符号化装置または三次元データ復号装置は、平面を１つのスライスまたはタイルとみなし、符号化または復号してもよい。この場合、三次元データ符号化装置または三次元データ復号装置は、スライスまたはタイルのヘッダに平面パラメータ、または、４分木で符号化されたか否かを示す識別情報を付加してもよい。
【０９５６】
三次元データ符号化装置または三次元データ復号装置は、取得した三次元点群を、複数の平面上にある第１三次元点群と、平面以外にある第２三次元点群とに分割する。三次元データ符号化装置または三次元データ復号装置は、第１三次元点群を４分木で符号化／復号し、第２三次元点群を８分木で符号化／復号してもよい。
【０９５７】
三次元データ符号化装置または三次元データ復号装置は、平面の検出（Ｐｌａｎｅ  Ｄｅｔｅｃｔｉｏｎ）においてどのような方法を用いても構わない。例えばｚ＝αの値を持つ三次元点を三次元点群から抽出し、平面として４分木符号化しても構わない。
【０９５８】
三次元データ符号化装置または三次元データ復号装置は、第１三次元点群および第２三次元天分を、それぞれ４分木表現および８分木表現で並列に符号化、復号してもよい。
【０９５９】
図１２８は、４分木符号化処理のフローチャートである。
【０９６０】
三次元データ符号化装置は、特定した第１三次元点群を含む二次元空間のバウンディングボックスを設定する（Ｓ５９２１）。三次元データ符号化装置は、第１三次元点群を含む三次元空間のバウンディングボックスを設定してもよい。この場合、三次元データ符号化装置は、三次元空間のバウンディングボックスのＺ軸方向を無視する。
【０９６１】
三次元データ符号化装置は、二次元空間のオキュパンシー符号を、選択された符号化テーブルを用いて符号化する（Ｓ５９２２）。
【０９６２】
三次元データ符号化装置は、対象ノードを４つのサブ空間に分割する（Ｓ５９２３）。
【０９６３】
三次元データ符号化装置は、二次元空間における対象ノードが隣接する隣接ノードを示す二次元隣接情報を更新する（Ｓ５９２４）。なお、ここで、三次元データ符号化装置が更新する二次元隣接情報は、対象ノードの４つのサブ空間のそれぞれが隣接する隣接ノードを示す情報であってもよい。
【０９６４】
三次元データ符号化装置は、二次元隣接情報を、三次元隣接情報に変更する（Ｓ５９２５）。具体的には、三次元データ符号化装置は、図１１８に示されるような４ビットの二次元隣接情報を、図１１９に示されるような６ビットの三次元隣接情報に変換する。変換された三次元隣接情報は、対象ノードにＺ軸方向で隣接しているダミーの隣接ノードを示す０ビットが追加された６ビットの情報である。このように、三次元データ符号化装置は、４分木符号化の場合、Ｚ軸方向の隣接ノードを非占有（ｎｏｎ  ｏｃｃｕｐｉｅｄ）として隣接パターンを示す三次元隣接情報を生成する。三次元隣接情報は、例えば、Ｚ軸方向において対象ノードに空間的に隣接する第１隣接ノードが０を示す。
【０９６５】
なお、二次元隣接情報は、図１１８に示されるような４ビットの情報に限らずに、図１１９に示されるようなＺ軸方向において対象ノードに空間的に隣接する２つの第１隣接ノードが０を示す６ビットの情報であってもよい。この場合、ステップＳ５９２４では、三次元データ符号化装置は、６ビットの二次元隣接情報のうち、２つの第１隣接ノードを除く隣接ノードが示す４ビットの情報を更新する。また、この場合、ステップＳ５９２５は行われない。
【０９６６】
三次元データ符号化装置は、三次元隣接情報を用いて符号化テーブルを選択する（Ｓ５９２６）。
【０９６７】
このため、三次元データ符号化装置は、対象ノードのＺ軸方向の隣接ノードを非占有とみなして図１１８に示されるような４隣接の符号化パターンから、図１１９に示されるような仮想的な６隣接の第１符号化パターンを生成し、第１符号化パターンを用いてエントロピー符号化の符号化テーブルを切替えてオキュパンシー符号を符号化してもよい。また、三次元データ符号化装置は、４分木符号化時は、４隣接の符号化パターンを用いて４隣接の符号化パターンに対応する符号化テーブルで符号化してもよいし、４隣接の符号化パターンから生成した仮想６隣接の第１符号化パターンを用いて６隣接の第２符号化パターンに対応する符号化テーブルで符号化してもよい。なお、４隣接の符号化パターンに対応する符号化テーブルは、２４パターン、つまり、１６パターンの符号化テーブルで構成される。仮想６隣接または６隣接の第１符号化パターンまたは第２符号化パターンに対応する符号化テーブルは、２６パターン、つまり、６４パターンの符号化テーブルで構成される。各符号化テーブルのパターン数は、上記よりも少ない数であってもよい。
【０９６８】
このように、三次元データ符号化装置は、第１符号化パターンに基づいて第１符号化テーブルを選択し、選択された第１符号化テーブルを用いて、第１情報をエントロピー符号化する。また、三次元データ符号化装置は、第２符号化パターンに基づいて第２符号化テーブルを選択し、選択された第２符号化テーブルを用いて、第２情報をエントロピー符号化する。ここで、第１符号化テーブルは、仮想６隣接の第１符号化パターンに対応する符号化テーブルに対応し、第２符号化テーブルは、６隣接の第２符号化パターンに対応する符号化テーブルに対応する。このように、三次元データ符号化装置は、第１符号化パターンおよび第２符号化パターンの一部を共通化することができるため、符号化処理の処理負荷を向上させることができる。
【０９６９】
なお、ステップＳ５９２６の後、三次元データ符号化装置は、ステップＳ５９２２に戻り、ステップＳ５９２３で分割された４つのサブ空間のそれぞれを対象ノードとし、各対象ノードにおける二次元空間のオキュパンシー符号を、ステップＳ５９２６で選択された符号化テーブルを用いて符号化する。そして、三次元データ符号化装置は、次のステップＳ５９２３において、各対象ノードをさらに４つのサブ空間に分割する。
【０９７０】
三次元データ符号化装置は、リーフノードに到達したか否かを判定する（Ｓ５９２７）。
【０９７１】
三次元データ符号化装置は、リーフノードに到達した場合（Ｓ５９２７でＹｅｓ）、リーフ情報を符号化する（Ｓ５９２８）。
【０９７２】
三次元データ符号化装置は、全てのノードを分割したか否かを判定する（Ｓ５９２９）。
【０９７３】
三次元データ符号化装置は、全てのノードを分割した場合（Ｓ５９２９でＹｅｓ）、処理を終了する。
【０９７４】
三次元データ符号化装置は、リーフノードに到達していない場合（Ｓ５９２７でＮｏ）、または、全てのノードを分割していない場合（Ｓ５９２９でＮｏ）、ステップＳ５９２２の処理に戻る。
【０９７５】
図１２９は、８分木符号化処理のフローチャートである。
【０９７６】
三次元データ符号化装置は、特定した第２三次元点群を含む三次元空間のバウンディングボックスを設定する（Ｓ５９３１）。
【０９７７】
三次元データ符号化装置は、三次元空間のオキュパンシー符号を、選択された符号化テーブルを用いて符号化する（Ｓ５９３２）。
【０９７８】
三次元データ符号化装置は、対象ノードを８つのサブ空間に分割する（Ｓ５９３３）。
【０９７９】
三次元データ符号化装置は、三次元間における対象ノードが隣接する隣接ノードを示す三次元隣接情報を更新する（Ｓ５９３４）。なお、ここで、三次元データ符号化装置が更新する三次元隣接情報は、対象ノードの８つのサブ空間のそれぞれが隣接する隣接ノードを示す情報であってもよい。
【０９８０】
三次元データ符号化装置は、三次元隣接情報を用いて符号化テーブルを選択する（Ｓ５９３５）。
【０９８１】
このため、三次元データ符号化装置は、６隣接の隣接情報を生成し、エントロピー符号化の符号化テーブルを切替えてオキュパンシー符号を符号化する。
【０９８２】
なお、ステップＳ５９３５の後、三次元データ符号化装置は、ステップＳ５９３２に戻り、ステップＳ５９３３で分割された８つのサブ空間のそれぞれを対象ノードとし、各対象ノードにおける三次元空間のオキュパンシー符号を、ステップＳ５９３５で選択された符号化テーブルを用いて符号化する。そして、三次元データ符号化装置は、次のステップＳ５９３３において、各対象ノードをさらに８つのサブ空間に分割する。
【０９８３】
三次元データ符号化装置は、リーフノードに到達したか否かを判定する（Ｓ５９３６）。
【０９８４】
三次元データ符号化装置は、リーフノードに到達した場合（Ｓ５９３６でＹｅｓ）、リーフ情報を符号化する（Ｓ５９３７）。
【０９８５】
三次元データ符号化装置は、全てのノードを分割したか否かを判定する（Ｓ５９３８）。
【０９８６】
三次元データ符号化装置は、全てのノードを分割した場合（Ｓ５９３８でＹｅｓ）、処理を終了する。
【０９８７】
三次元データ符号化装置は、リーフノードに到達していない場合（Ｓ５９３６でＮｏ）、または、全てのノードを分割していない場合（Ｓ５９３８でＮｏ）、ステップＳ５９３２の処理に戻る。
【０９８８】
なお、三次元データ符号化装置は、８分木符号化時は子ノードの数を８個とし、４分木符号化時は子ノードの数を４個として符号化してもよい。
【０９８９】
図１３０は、４分木復号処理のフローチャートである。
【０９９０】
三次元データ復号装置は、特定した第１三次元点群を含む二次元空間のバウンディングボックスを設定する（Ｓ５９４１）。三次元データ復号装置は、第１三次元点群を含む三次元空間のバウンディングボックスを設定してもよい。この場合、三次元データ復号装置は、三次元空間のバウンディングボックスのＺ軸方向を無視する。
【０９９１】
三次元データ復号装置は、ビットストリームから二次元空間のオキュパンシー符号を、選択された復号テーブルを用いて復号する（Ｓ５９４２）。
【０９９２】
三次元データ復号装置は、対象ノードを４つのサブ空間に分割する（Ｓ５９４３）。
【０９９３】
三次元データ復号装置は、二次元空間における対象ノードが隣接する隣接ノードを示す二次元隣接情報を更新する（Ｓ５９４４）。なお、ここで、三次元データ復号装置が更新する二次元隣接情報は、対象ノードの４つのサブ空間のそれぞれが隣接する隣接ノードを示す情報であってもよい。
【０９９４】
三次元データ復号装置は、二次元隣接情報を、三次元隣接情報に変更する（Ｓ５９４５）。具体的には、三次元データ復号装置は、図１１８に示されるような４ビットの二次元隣接情報を、図１１９に示されるような６ビットの三次元隣接情報に変換する。変換された三次元隣接情報は、対象ノードにＺ軸方向で隣接しているダミーの隣接ノードを示す０ビットが追加された６ビットの情報である。このように、三次元データ復号装置は、４分木復号の場合、Ｚ軸方向の隣接ノードを非占有（ｎｏｎ  ｏｃｃｕｐｉｅｄ）として隣接パターンを示す三次元隣接情報を生成する。三次元隣接情報は、例えば、Ｚ軸方向において対象ノードに空間的に隣接する第１隣接ノードが０を示す。
【０９９５】
なお、二次元隣接情報は、図１１８に示されるような４ビットの情報に限らずに、図１１９に示されるようなＺ軸方向において対象ノードに空間的に隣接する２つの第１隣接ノードが０を示す６ビットの情報であってもよい。この場合、ステップＳ５９４４では、三次元データ復号装置は、６ビットの二次元隣接情報のうち、２つの第１隣接ノードを除く隣接ノードが示す４ビットの情報を更新する。また、この場合、ステップＳ５９４５は行われない。
【０９９６】
三次元データ復号装置は、三次元隣接情報を用いて復号テーブルを選択する（Ｓ５９４６）。
【０９９７】
このため、三次元データ復号装置は、対象ノードのＺ軸方向の隣接ノードを非占有とみなして図１１８に示されるような４隣接の復号パターンから、図１１９に示されるような仮想的な６隣接の第１復号パターンを生成し、第１復号パターンを用いてエントロピー復号の復号テーブルを切替えてオキュパンシー符号を復号してもよい。また、三次元データ復号装置は、４分木復号時は、４隣接の復号パターンを用いて４隣接の復号パターンに対応する復号テーブルで復号してもよいし、４隣接の復号パターンから生成した仮想６隣接の第１復号パターンを用いて６隣接の第２復号パターンに対応する復号テーブルで復号してもよい。なお、４隣接の復号パターンに対応する復号テーブルは、１６パターンの復号テーブルで構成される。仮想６隣接または６隣接の第１復号パターンまたは第２復号パターンに対応する復号テーブルは、６４パターンの復号テーブルで構成される。各符号かテーブルのパターン数は、上記よりも少ない数であってもよい。
【０９９８】
このように、三次元データ復号装置は、第１復号パターンに基づいて第１復号テーブルを選択し、選択された第１復号テーブルを用いて、第１情報をエントロピー復号する。また、三次元データ復号装置は、第２復号パターンに基づいて第２復号テーブルを選択し、選択された第２復号テーブルを用いて、第２情報をエントロピー復号する。ここで、第１復号テーブルは、仮想６隣接の第１復号パターンに対応する復号テーブルに対応し、第２復号テーブルは、６隣接の第２復号パターンに対応する復号テーブルに対応する。このように、三次元データ復号装置は、第１復号パターンおよび第２復号パターンの一部を共通化することができるため、復号処理の処理負荷を低減することができる。
【０９９９】
なお、ステップＳ５９４６の後、三次元データ復号装置は、ステップＳ５９４２に戻り、ステップＳ５９４３で分割された４つのサブ空間のそれぞれを対象ノードとし、各対象ノードにおける二次元空間のオキュパンシー符号を、ステップＳ５９４６で選択された復号テーブルを用いて復号する。そして、三次元データ復号装置は、次のステップＳ５９４３において、各対象ノードをさらに４つのサブ空間に分割する。
【１０００】
三次元データ復号装置は、リーフノードに到達したか否かを判定する（Ｓ５９４７）。
【１００１】
三次元データ復号装置は、リーフノードに到達した場合（Ｓ５９４７でＹｅｓ）、復元した第１三次元点を三次元点群に追加する（Ｓ５９４８）。
【１００２】
三次元データ復号装置は、全てのノードを分割したか否かを判定する（Ｓ５９４９）。
【１００３】
三次元データ復号装置は、全てのノードを分割した場合（Ｓ５９４９でＹｅｓ）、処理を終了する。
【１００４】
三次元データ復号装置は、リーフノードに到達していない場合（Ｓ５９４７でＮｏ）、または、全てのノードを分割していない場合（Ｓ５９４９でＮｏ）、ステップＳ５９４２の処理に戻る。
【１００５】
図１３１は、８分木復号処理のフローチャートである。
【１００６】
三次元データ復号装置は、特定した第２三次元点群を含む三次元空間のバウンディングボックスを設定する（Ｓ５９５１）。
【１００７】
三次元データ復号装置は、ビットストリームから三次元空間のオキュパンシー符号を、選択された復号テーブルを用いて復号する（Ｓ５９５２）。
【１００８】
三次元データ復号装置は、対象ノードを８つのサブ空間に分割する（Ｓ５９５３）。
【１００９】
三次元データ復号装置は、三次元間における対象ノードが隣接する隣接ノードを示す三次元隣接情報を更新する（Ｓ５９５４）。なお、ここで、三次元データ復号装置が更新する三次元隣接情報は、対象ノードの４つのサブ空間のそれぞれが隣接する隣接ノードを示す情報であってもよい。
【１０１０】
三次元データ復号装置は、三次元隣接情報を用いて復号テーブルを選択する（Ｓ５９５５）。
【１０１１】
このため、三次元データ復号装置は、６隣接の隣接情報を生成し、エントロピー復号の復号テーブルを切替えてオキュパンシー符号を復号する。
【１０１２】
なお、ステップＳ５９５５の後、三次元データ復号装置は、ステップＳ５９５２に戻り、ステップＳ５９５３で分割された８つのサブ空間のそれぞれを対象ノードとし、各対象ノードにおける三次元空間のオキュパンシー符号を、ステップＳ５９５５で選択された復号テーブルを用いて復号する。そして、三次元データ復号装置は、次のステップＳ５９５３において、各対象ノードをさらに８つのサブ空間に分割する。
【１０１３】
三次元データ復号装置は、リーフノードに到達したか否かを判定する（Ｓ５９５６）。
【１０１４】
三次元データ復号装置は、リーフノードに到達した場合（Ｓ５９５６でＹｅｓ）、復元した痔２三次元点を三次元点群に追加する（Ｓ５９５７）。
【１０１５】
三次元データ復号装置は、全てのノードを分割したか否かを判定する（Ｓ５９５８）。
【１０１６】
三次元データ復号装置は、全てのノードを分割した場合（Ｓ５９５８でＹｅｓ）、処理を終了する。
【１０１７】
三次元データ復号装置は、リーフノードに到達していない場合（Ｓ５９５６でＮｏ）、または、全てのノードを分割していない場合（Ｓ５９５８でＮｏ）、ステップＳ５９５２の処理に戻る。
【１０１８】
なお、本実施の形態では、第１三次元点群を４分木構造で表現するとしたが、これに限らずに、２分木構造で表現してもよい。
【１０１９】
以上のように、本実施の形態に係る三次元データ符号化装置は、次に示す処理を行う。具体的には、三次元データ符号化装置は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を符号化する。符号化では、第１情報を、第２情報の符号化で用いる第２符号化パターンと共通の第１符号化パターンを用いて符号化する。
【１０２０】
これによれば、当該三次元データ符号化方法は、８分木構造の情報の符号化と共通する符号化パターンを用いてＮ分木構造の情報を符号化することにより、処理負荷を低減することができる。
【１０２１】
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【１０２２】
また、本実施の形態に係る三次元データ復号装置は、次に示す処理を行う。具体的には、三次元データ復号装置は、第１三次元点群の複数の第１三次元点のＮ（Ｎは２または４）分木構造に含まれる第１対象ノードの第１情報、または、第２三次元点群の複数の第２三次元点の８分木構造に含まれる第２対象ノードの第２情報を復号する。復号では、第１情報を、第２情報の復号で用いる第２復号パターンと共通の第１復号パターンを用いて復号する。
【１０２３】
これによれば、当該三次元データ復号方法は、８分木構造の情報の復号と共通する復号パターンを用いてＮ分木構造の情報を復号することにより、処理負荷を低減することができる。
【１０２４】
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【１０２５】
以上、本開示の実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等について説明したが、本開示は、この実施の形態に限定されるものではない。
【１０２６】
また、上記実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。
【１０２７】
また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【１０２８】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【１０２９】
また、本開示は、三次元データ符号化装置及び三次元データ復号装置等により実行される三次元データ符号化方法又は三次元データ復号方法等として実現されてもよい。
【１０３０】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【１０３１】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
【１０３２】
以上、一つまたは複数の態様に係る三次元データ符号化装置及び三次元データ復号装置等について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【１０３３】
本開示は、三次元データ符号化装置及び三次元データ復号装置に適用できる。
【符号の説明】
【１０３４】
１００、４００  三次元データ符号化装置
１０１、２０１、４０１、５０１  取得部
１０２、４０２  符号化領域決定部
１０３  分割部
１０４、６４４  符号化部
１１１、６０７  三次元データ
１１２、２１１、４１３、４１４、５１１、６３４  符号化三次元データ
２００、５００  三次元データ復号装置
２０２  復号開始ＧＯＳ決定部
２０３  復号ＳＰＣ決定部
２０４、６２５  復号部
２１２、５１２、５１３  復号三次元データ
４０３  ＳＷＬＤ抽出部
４０４  ＷＬＤ符号化部
４０５  ＳＷＬＤ符号化部
４１１  入力三次元データ
４１２  抽出三次元データ
５０２  ヘッダ解析部
５０３  ＷＬＤ復号部
５０４  ＳＷＬＤ復号部
６００  自車両
６０１  周辺車両
６０２、６０５  センサ検知範囲
６０３、６０６  領域
６０４  オクルージョン領域
６２０、６２０Ａ  三次元データ作成装置
６２１、６４１  三次元データ作成部
６２２  要求範囲決定部
６２３  探索部
６２４、６４２  受信部
６２６  合成部
６２７  検知領域決定部
６２８  周辺状況検知部
６２９  自律動作制御部
６３１、６５１  センサ情報
６３２  第１三次元データ
６３３  要求範囲情報
６３５  第２三次元データ
６３６  第３三次元データ
６３７  依頼信号
６３８  送信データ
６３９  周辺状況検知結果
６４０、６４０Ａ  三次元データ送信装置
６４３  抽出部
６４５  送信部
６４６  伝送可否判定部
６５２  第５三次元データ
６５４  第６三次元データ
７００  三次元情報処理装置
７０１  三次元マップ取得部
７０２  自車検知データ取得部
７０３  異常ケース判定部
７０４  対処動作決定部
７０５  動作制御部
７１１  三次元マップ
７１２  自車検知三次元データ
８０１  車両
８０２  空間
８１０  三次元データ作成装置
８１１  データ受信部
８１２、８１９  通信部
８１３  受信制御部
８１４、８２１  フォーマット変換部
８１５  センサ
８１６  三次元データ作成部
８１７  三次元データ合成部
８１８  三次元データ蓄積部
８２０  送信制御部
８２２  データ送信部
８３１、８３２、８３４、８３５、８３６、８３７  三次元データ
８３３  センサ情報
９０１  サーバ
９０２、９０２Ａ、９０２Ｂ、９０２Ｃ  クライアント装置
１０１１、１１１１  データ受信部
１０１２、１０２０、１１１２、１１２０  通信部
１０１３、１１１３  受信制御部
１０１４、１０１９、１１１４、１１１９  フォーマット変換部
１０１５  センサ
１０１６、１１１６  三次元データ作成部
１０１７  三次元画像処理部
１０１８、１１１８  三次元データ蓄積部
１０２１、１１２１  送信制御部
１０２２、１１２２  データ送信部
１０３１、１０３２、１１３５  三次元マップ
１０３３、１０３７、１１３２  センサ情報
１０３４、１０３５、１１３４  三次元データ
１１１７  三次元データ合成部
１２０１  三次元マップ圧縮／復号処理部
１２０２  センサ情報圧縮／復号処理部
１２１１  三次元マップ復号処理部
１２１２  センサ情報圧縮処理部
１３００  三次元データ符号化装置
１３０１  分割部
１３０２  減算部
１３０３  変換部
１３０４  量子化部
１３０５、１４０２  逆量子化部
１３０６、１４０３  逆変換部
１３０７、１４０４  加算部
１３０８、１４０５  参照ボリュームメモリ
１３０９、１４０６  イントラ予測部
１３１０、１４０７  参照スペースメモリ
１３１１、１４０８  インター予測部
１３１２、１４０９  予測制御部
１３１３  エントロピー符号化部
１４００  三次元データ復号装置
１４０１  エントロピー復号部
１９００  三次元データ符号化装置
１９０１、１９１１  ８分木生成部
１９０２、１９１２  類似性情報算出部
１９０３、１９１３  符号化テーブル選択部
１９０４  エントロピー符号化部
１９１０  三次元データ復号装置
１９１４  エントロピー復号部
２１００  三次元データ符号化装置
２１０１、２１１１  ８分木生成部
２１０２、２１１２  幾何情報算出部
２１０３、２１１３  符号化テーブル選択部
２１０４  エントロピー符号化部
２１１０  三次元データ復号装置
２１１４  エントロピー復号部
５９００  三次元データ符号化装置
５９０１  検出部
５９０２  分割部
５９０３、５９０３Ａ  ４分木符号化部
５９０４  ８分木符号化部
５９０５  多重化部
５９１１、５９１１Ａ  ４分木分割部
５９１２  距離算出部
５９１３  距離符号化部
５９１４  多重化部
５９２０  三次元データ復号装置
５９２１  逆多重化部
５９２２、５９２２Ａ  ４分木復号部
５９２３  ８分木復号部
５９２４  点群結合部
５９３１  逆多重化部
５９３２、５９３２Ａ  ４分木分割部
５９３３  距離復号部
５９３４、５９３４Ａ  復元部
【図１】
2020075861.tif 000003
【図２】
2020075861.tif 000004
【図３】
2020075861.tif 000005
【図４】
2020075861.tif 000006
【図５】
2020075861.tif 000007
【図６】
2020075861.tif 000008
【図７】
2020075861.tif 000009
【図８】
2020075861.tif 000010
【図９】
2020075861.tif 000011
【図１０】
2020075861.tif 000012
【図１１】
2020075861.tif 000013
【図１２】
2020075861.tif 000014
【図１３】
2020075861.tif 000015
【図１４】
2020075861.tif 000016
【図１５】
2020075861.tif 000017
【図１６】
2020075861.tif 000018
【図１７】
2020075861.tif 000019
【図１８】
2020075861.tif 000020
【図１９】
2020075861.tif 000021
【図２０】
2020075861.tif 000022
【図２１】
2020075861.tif 000023
【図２２】
2020075861.tif 000024
【図２３】
2020075861.tif 000025
【図２４】
2020075861.tif 000026
【図２５】
2020075861.tif 000027
【図２６】
2020075861.tif 000028
【図２７】
2020075861.tif 000029
【図２８】
2020075861.tif 000030
【図２９】
2020075861.tif 000031
【図３０】
2020075861.tif 000032
【図３１】
2020075861.tif 000033
【図３２】
2020075861.tif 000034
【図３３】
2020075861.tif 000035
【図３４】
2020075861.tif 000036
【図３５】
2020075861.tif 000037
【図３６】
2020075861.tif 000038
【図３７】
2020075861.tif 000039
【図３８】
2020075861.tif 000040
【図３９】
2020075861.tif 000041
【図４０】
2020075861.tif 000042
【図４１】
2020075861.tif 000043
【図４２】
2020075861.tif 000044
【図４３】
2020075861.tif 000045
【図４４】
2020075861.tif 000046
【図４５】
2020075861.tif 000047
【図４６】
2020075861.tif 000048
【図４７】
2020075861.tif 000049
【図４８】
2020075861.tif 000050
【図４９】
2020075861.tif 000051
【図５０】
2020075861.tif 000052
【図５１】
2020075861.tif 000053
【図５２】
2020075861.tif 000054
【図５３】
2020075861.tif 000055
【図５４】
2020075861.tif 000056
【図５５】
2020075861.tif 000057
【図５６】
2020075861.tif 000058
【図５７】
2020075861.tif 000059
【図５８】
2020075861.tif 000060
【図５９】
2020075861.tif 000061
【図６０】
2020075861.tif 000062
【図６１】
2020075861.tif 000063
【図６２】
2020075861.tif 000064
【図６３】
2020075861.tif 000065
【図６４】
2020075861.tif 000066
【図６５】
2020075861.tif 000067
【図６６】
2020075861.tif 000068
【図６７】
2020075861.tif 000069
【図６８】
2020075861.tif 000070
【図６９】
2020075861.tif 000071
【図７０】
2020075861.tif 000072
【図７１】
2020075861.tif 000073
【図７２】
2020075861.tif 000074
【図７３】
2020075861.tif 000075
【図７４】
2020075861.tif 000076
【図７５】
2020075861.tif 000077
【図７６】
2020075861.tif 000078
【図７７】
2020075861.tif 000079
【図７８】
2020075861.tif 000080
【図７９】
2020075861.tif 000081
【図８０】
2020075861.tif 000082
【図８１】
2020075861.tif 000083
【図８２】
2020075861.tif 000084
【図８３】
2020075861.tif 000085
【図８４】
2020075861.tif 000086
【図８５】
2020075861.tif 000087
【図８６】
2020075861.tif 000088
【図８７】
2020075861.tif 000089
【図８８】
2020075861.tif 000090
【図８９】
2020075861.tif 000091
【図９０】
2020075861.tif 000092
【図９１】
2020075861.tif 000093
【図９２】
2020075861.tif 000094
【図９３】
2020075861.tif 000095
【図９４】
2020075861.tif 000096
【図９５】
2020075861.tif 000097
【図９６】
2020075861.tif 000098
【図９７】
2020075861.tif 000099
【図９８】
2020075861.tif 000100
【図９９】
2020075861.tif 000101
【図１００】
2020075861.tif 000102
【図１０１】
2020075861.tif 000103
【図１０２】
2020075861.tif 000104
【図１０３】
2020075861.tif 000105
【図１０４】
2020075861.tif 000106
【図１０５】
2020075861.tif 000107
【図１０６】
2020075861.tif 000108
【図１０７】
2020075861.tif 000109
【図１０８】
2020075861.tif 000110
【図１０９】
2020075861.tif 000111
【図１１０】
2020075861.tif 000112
【図１１１】
2020075861.tif 000113
【図１１２】
2020075861.tif 000114
【図１１３】
2020075861.tif 000115
【図１１４】
2020075861.tif 000116
【図１１５】
2020075861.tif 000117
【図１１６】
2020075861.tif 000118
【図１１７】
2020075861.tif 000119
【図１１８】
2020075861.tif 000120
【図１１９】
2020075861.tif 000121
【図１２０】
2020075861.tif 000122
【図１２１】
2020075861.tif 000123
【図１２２】
2020075861.tif 000124
【図１２３】
2020075861.tif 000125
【図１２４】
2020075861.tif 000126
【図１２５】
2020075861.tif 000127
【図１２６】
2020075861.tif 000128
【図１２７】
2020075861.tif 000129
【図１２８】
2020075861.tif 000130
【図１２９】
2020075861.tif 000131
【図１３０】
2020075861.tif 000132
【図１３１】
2020075861.tif 000133
【国際調査報告】
2020075861.tif 000134
2020075861.tif 000135
2020075861.tif 000136
2020075861.tif 000137