(57)【要約】      （修正有）【課題】伝送するデータ量を削減する三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置を提供する。【解決手段】三次元データ符号化方法は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出ステップ（Ｓ４０３）と、第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化ステップ（Ｓ４０５）とを含む。特徴量は、第１三次元データの三次元位置情報、又は第１三次元データの可視光情報に基づく特徴量である。【選択図】図１７
2020145751.tif 000002
【特許請求の範囲】
【請求項１】
第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出ステップと、
前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化ステップとを含み、
前記特徴量は、前記第１三次元データの三次元位置情報、又は前記第１三次元データの可視光情報に基づく特徴量である
三次元データ符号化方法。
【請求項２】
前記三次元データ符号化方法は、さらに、
前記第１三次元データを符号化することで第２符号化三次元データを生成する第２符号化ステップを含む
請求項１記載の三次元データ符号化方法。
【請求項３】
前記第２三次元データは、第１符号化方法により符号化され、
前記第１三次元データは、前記第１符号化方法とは異なる第２符号化方法により符号化される
請求項２記載の三次元データ符号化方法。
【請求項４】
前記第１符号化方法では、前記第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先される
請求項３記載の三次元データ符号化方法。
【請求項５】
前記第１符号化方法と前記第２符号化方法とでは、三次元位置の表現手法が異なる
請求項３記載の三次元データ符号化方法。
【請求項６】
前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む
請求項２記載の三次元データ符号化方法。
【請求項７】
前記第１符号化ステップでは、前記第１符号化三次元データのデータ量が前記第２符号化三次元データのデータ量より小さくなるように前記第２三次元データを符号化する
請求項２記載の三次元データ符号化方法。
【請求項８】
前記抽出ステップでは、さらに、前記第１三次元データから予め定められた属性を有する物体に対応するデータを前記第２三次元データとして抽出する
請求項１〜７のいずれか１項に記載の三次元データ符号化方法。
【請求項９】
前記三次元データ符号化方法は、さらに、
クライアントの状態に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含む
請求項２記載の三次元データ符号化方法。
【請求項１０】
前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含む
請求項９記載の三次元データ符号化方法。
【請求項１１】
前記三次元データ符号化方法は、さらに、
クライアントの要求に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含む
請求項２記載の三次元データ符号化方法。
【請求項１２】
第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号ステップと、
前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号ステップとを含み、
前記特徴量は、前記第１三次元データの三次元位置情報、又は前記第１三次元データの可視光情報に基づく特徴量である
三次元データ復号方法。
【請求項１３】
前記第１復号方法では、前記第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先される
請求項１２記載の三次元データ復号方法。
【請求項１４】
前記第１復号方法と前記第２復号方法とでは、三次元位置の表現手法が異なる
請求項１２記載の三次元データ復号方法。
【請求項１５】
前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含み、
前記識別子を参照して、前記第１符号化三次元データ及び前記第２符号化三次元データを識別する
請求項１２記載の三次元データ復号方法。
【請求項１６】
前記三次元データ復号方法は、さらに、
クライアントの状態をサーバに通知する通知ステップと、
前記クライアントの状態に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップとを含む
請求項１２記載の三次元データ復号方法。
【請求項１７】
前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含む
請求項１６記載の三次元データ復号方法。
【請求項１８】
前記三次元データ復号方法は、さらに、
前記第１符号化三次元データ及び前記第２符号化三次元データの一方をサーバに要求する要求ステップと、
前記要求に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップを含む
請求項１２記載の三次元データ復号方法。
【請求項１９】
第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出部と、
前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化部とを備え、
前記特徴量は、前記第１三次元データの三次元位置情報、又は前記第１三次元データの可視光情報に基づく特徴量である
三次元データ符号化装置。
【請求項２０】
第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号部と、
前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号部とを備え、
前記特徴量は、前記第１三次元データの三次元位置情報、又は前記第１三次元データの可視光情報に基づく特徴量である
三次元データ復号装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置に関する。
【背景技術】
【０００２】
自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。
【０００３】
三次元データの表現方法の１つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある（例えば、非特許文献１を参照）。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像（一例として、ＭＰＥＧで規格化されたＭＰＥＧ−４  ＡＶＣ又はＨＥＶＣなどがある）と同様に、符号化によるデータ量の圧縮が必須となる。
【０００４】
また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ（Ｐｏｉｎｔ  Ｃｌｏｕｄ  Ｌｉｂｒａｒｙ）などによって一部サポートされている。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】“Octree-Based Progressive Geometry Coding of Point Clouds”, Eurographics Symposium on Point-Based Graphics (2006)
【発明の概要】
【発明が解決しようとする課題】
【０００６】
このような三次元データは、二次元データに比べデータ量が膨大であり、伝送する三次元符号化データのデータ量も膨大となる。
【０００７】
本開示では、伝送するデータ量を削減できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置又は三次元データ復号装置を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本開示の一態様に係る三次元データ符号化方法は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出ステップと、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化ステップとを含み、前記特徴量は、前記第１三次元データの三次元位置情報、又は前記第１三次元データの可視光情報に基づく特徴量である。
【０００９】
本開示の一態様に係る三次元データ復号方法は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号ステップと、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号ステップとを含み、前記特徴量は、前記第１三次元データの三次元位置情報、又は前記第１三次元データの可視光情報に基づく特徴量である。
【００１０】
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【００１１】
本開示は、伝送するデータ量を削減できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置又は三次元データ復号装置を提供できる。
【図面の簡単な説明】
【００１２】
【図１】図１は、実施の形態１に係る符号化三次元データの構成を示す図である。
【図２】図２は、実施の形態１に係るＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。
【図３】図３は、実施の形態１に係るレイヤ間の予測構造の一例を示す図である。
【図４】図４は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。
【図５】図５は、実施の形態１に係るＧＯＳの符号化順の一例を示す図である。
【図６】図６は、実施の形態１に係る三次元データ符号化装置のブロック図である。
【図７】図７は、実施の形態１に係る符号化処理のフローチャートである。
【図８】図８は、実施の形態１に係る三次元データ復号装置のブロック図である。
【図９】図９は、実施の形態１に係る復号処理のフローチャートである。
【図１０】図１０は、実施の形態１に係るメタ情報の一例を示す図である。
【図１１】図１１は、実施の形態２に係るＳＷＬＤの構成例を示す図である。
【図１２】図１２は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１３】図１３は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１４】図１４は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１５】図１５は、実施の形態２に係るサーバ及びクライアントの動作例を示す図である。
【図１６】図１６は、実施の形態２に係る三次元データ符号化装置のブロック図である。
【図１７】図１７は、実施の形態２に係る符号化処理のフローチャートである。
【図１８】図１８は、実施の形態２に係る三次元データ復号装置のブロック図である。
【図１９】図１９は、実施の形態２に係る復号処理のフローチャートである。
【図２０】図２０は、実施の形態２に係るＷＬＤの構成例を示す図である。
【図２１】図２１は、実施の形態２に係るＷＬＤの８分木構造の例を示す図である。
【図２２】図２２は、実施の形態２に係るＳＷＬＤの構成例を示す図である。
【図２３】図２３は、実施の形態２に係るＳＷＬＤの８分木構造の例を示す図である。
【発明を実施するための形態】
【００１３】
ポイントクラウド等の符号化データを実際の装置又はサービスにおいて使用する際には、所望の空間位置又はオブジェクトなどに対するランダムアクセスが必須となるが、これまで、三次元の符号化データにおけるランダムアクセスは機能として存在せず、そのための符号化方法も存在しなかった。
【００１４】
本開示では、符号化三次元データにおいてランダムアクセス機能を提供できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置又は三次元データ復号装置について説明する。
【００１５】
本開示の一態様に係る三次元データ符号化方法は、三次元データを符号化する三次元データ符号化方法であって、前記三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位に分割する分割ステップと、複数の前記第１処理単位の各々を符号化することで符号化データを生成する符号化ステップとを含む。
【００１６】
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ符号化方法は、符号化三次元データにおいてランダムアクセス機能を提供できる。
【００１７】
例えば、前記三次元データ符号化方法は、前記複数の第１処理単位と、前記複数の第１処理単位の各々に対応付けられている三次元座標とを示す第１情報を生成する生成ステップを含み、前記符号化データは、前記第１情報を含んでもよい。
【００１８】
例えば、前記第１情報は、さらに、前記複数の第１処理単位の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示してもよい。
【００１９】
例えば、前記分割ステップでは、さらに、前記第１処理単位を複数の第２処理単位に分割し、前記符号化ステップでは、前記複数の第２処理単位の各々を符号化してもよい。
【００２０】
例えば、前記符号化ステップでは、処理対象の第１処理単位に含まれる処理対象の第２処理単位を、前記処理対象の第１処理単位に含まれる他の第２処理単位を参照して符号化してもよい。
【００２１】
これによれば、他の第２処理単位を参照することで符号化効率を向上できる。
【００２２】
例えば、前記符号化ステップでは、前記処理対象の第２処理単位のタイプとして、他の第２処理単位を参照しない第１タイプ、他の一つの第２処理単位を参照する第２タイプ、及び他の二つの第２処理単位を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い前記処理対象の第２処理単位を符号化してもよい。
【００２３】
例えば、前記符号化ステップでは、前記三次元データに含まれるオブジェクトの数又は粗密さに応じて、前記第１タイプを選択する頻度を変更してもよい。
【００２４】
これによれば、トレードオフの関係にあるランダムアクセス性と符号化効率とを適切に設定できる。
【００２５】
例えば、前記符号化ステップでは、前記三次元データに含まれるオブジェクト又は動的オブジェクトの数又は粗密さに応じて、前記第１処理単位のサイズを決定してもよい。
【００２６】
これによれば、トレードオフの関係にあるランダムアクセス性と符号化効率とを適切に設定できる。
【００２７】
例えば、前記第１処理単位は、予め定められた方向に空間分割され、各々が１以上の前記第２処理単位を含む複数のレイヤを含み、前記符号化ステップでは、前記第２処理単位を、当該第２処理単位と同一レイヤ又は当該第２処理単位より下層のレイヤに含まれる前記第２処理単位を参照して符号化してもよい。
【００２８】
これによれば、例えば、システムにおいて重要なレイヤのランダムアクセス性を向上できるとともに、符号化効率の低下を抑制できる。
【００２９】
例えば、前記分割ステップでは、静的オブジェクトのみを含む第２処理単位と、動的オブジェクトのみを含む第２処理単位とを異なる第１処理単位に割り当ててもよい。
【００３０】
これによれば、動的オブジェクトと静的オブジェクトとの制御を容易に行える。
【００３１】
例えば、前記符号化ステップでは、複数の動的オブジェクトを個別に符号化し、前記複数の動的オブジェクトの符号化データは、静的オブジェクトのみを含む第２処理単位に対応付けられてもよい。
【００３２】
これによれば、動的オブジェクトと静的オブジェクトとの制御を容易に行える。
【００３３】
例えば、前記分割ステップでは、さらに、前記第２処理単位を複数の第３処理単位に分割し、前記符号化ステップでは、前記複数の第３処理単位の各々を符号化してもよい。
【００３４】
例えば、前記第３処理単位は、位置情報が対応付けられる最小単位である１以上のボクセルを含んでもよい。
【００３５】
例えば、前記第２処理単位は、センサで得られた情報から導出された特徴点群を含んでもよい。
【００３６】
例えば、前記符号化データは、前記複数の第１処理単位の符号化順を示す情報を含んでもよい。
【００３７】
例えば、前記符号化データは、前記複数の第１処理単位のサイズを示す情報を含んでもよい。
【００３８】
例えば、前記符号化ステップでは、前記複数の第１処理単位を並列に符号化してもよい。
【００３９】
また、本開示の一態様に係る三次元データ復号方法は、三次元データを復号する三次元データ復号方法であって、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位の符号化データの各々を復号することで前記第１処理単位の三次元データを生成する復号ステップを含む。
【００４０】
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ復号方法は、符号化三次元データにおいてランダムアクセス機能を提供できる。
【００４１】
また、本開示の一態様に係る三次元データ符号化装置は、三次元データを符号化する三次元データ符号化装置であって、前記三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位に分割する分割部と、複数の前記第１処理単位の各々を符号化することで符号化データを生成する符号化部とを含んでもよい。
【００４２】
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ符号化装置は、符号化三次元データにおいてランダムアクセス機能を提供できる。
【００４３】
また、本開示の一態様に係る三次元データ復号装置は、三次元データを復号する三次元データ復号装置であって、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位の符号化データの各々を復号することで前記第１処理単位の三次元データを生成する復号部を含んでもよい。
【００４４】
これによれば、第１処理単位ごとのランダムアクセスが可能となる。このように、当該三次元データ復号装置は、符号化三次元データにおいてランダムアクセス機能を提供できる。
【００４５】
なお、本開示は空間を分割して符号化する構成により、空間の量子化、予測等を可能とし、必ずしもランダムアクセスを行わない場合であっても有効である。
【００４６】
また、本開示の一態様に係る三次元データ符号化方法は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出ステップと、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化ステップとを含む。
【００４７】
これによれば、当該三次元データ符号化方法は、特徴量が閾値以上のデータを符号化した第１符号化三次元データを生成する。これにより、第１三次元データをそのまま符号化する場合に比べて符号化三次元データのデータ量を削減できる。よって、当該三次元データ符号化方法は、伝送するデータ量を削減できる。
【００４８】
例えば、前記三次元データ符号化方法は、さらに、前記第１三次元データを符号化することで第２符号化三次元データを生成する第２符号化ステップを含んでもよい。
【００４９】
これによれば、当該三次元データ符号化方法は、例えば、使用用途等に応じて、第１符号化三次元データと第２符号化三次元データとを選択的に伝送できる。
【００５０】
例えば、前記第２三次元データは、第１符号化方法により符号化され、前記第１三次元データは、前記第１符号化方法とは異なる第２符号化方法により符号化されてもよい。
【００５１】
これによれば、当該三次元データ符号化方法は、第１三次元データと第２三次元データとにそれぞれ適した符号化方法を用いることができる。
【００５２】
例えば、前記第１符号化方法では、前記第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
【００５３】
これによれば、当該三次元データ符号化方法は、隣接するデータ間の相関が低くなりやすい第２三次元データに対して、インター予測の優先度を上げることができる。
【００５４】
例えば、前記第１符号化方法と前記第２符号化方法とでは、三次元位置の表現手法が異なってもよい。
【００５５】
これによれば、当該三次元データ符号化方法は、データ数が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
【００５６】
例えば、前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含んでもよい。
【００５７】
これによれば、復号装置は、取得した符号化三次元データが第１符号化三次元データであるか第２符号化三次元データであるかを容易に判定できる。
【００５８】
例えば、前記第１符号化ステップでは、前記第１符号化三次元データのデータ量が前記第２符号化三次元データのデータ量より小さくなるように前記第２三次元データを符号化してもよい。
【００５９】
これによれば、当該三次元データ符号化方法は、第１符号化三次元データのデータ量を第２符号化三次元データのデータ量より小さくできる。
【００６０】
例えば、前記抽出ステップでは、さらに、前記第１三次元データから予め定められた属性を有する物体に対応するデータを前記第２三次元データとして抽出してもよい。
【００６１】
これによれば、当該三次元データ符号化方法は、復号装置で必要となるデータを含む第１符号化三次元データを生成できる。
【００６２】
例えば、前記三次元データ符号化方法は、さらに、クライアントの状態に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含んでもよい。
【００６３】
これによれば、当該三次元データ符号化方法は、クライアントの状態に応じて適切なデータを送信できる。
【００６４】
例えば、前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含んでもよい。
【００６５】
例えば、前記三次元データ符号化方法は、さらに、クライアントの要求に応じて、前記第１符号化三次元データ及び前記第２符号化三次元データの一方を前記クライアントに送信する送信ステップを含んでもよい。
【００６６】
これによれば、当該三次元データ符号化方法は、クライアントの要求に応じて適切なデータを送信できる。
【００６７】
また、本開示の一態様に係る三次元データ復号方法は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号ステップと、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号ステップとを含む。
【００６８】
これによれば、当該三次元データ復号方法は、特徴量が閾値以上のデータを符号化した第１符号化三次元データと、第２符号化三次元データとを、例えば、使用用途等に応じて選択的に受信できる。これにより、当該三次元データ復号方法は、伝送するデータ量を削減できる。さらに、当該三次元データ復号方法は、第１三次元データと第２三次元データとにそれぞれ適した復号方法を用いることができる。
【００６９】
例えば、前記第１復号方法では、前記第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
【００７０】
これによれば、当該三次元データ復号方法は、隣接するデータ間の相関が低くなりやすい第２三次元データに対して、インター予測の優先度を上げることができる。
【００７１】
例えば、前記第１復号方法と前記第２復号方法とでは、三次元位置の表現手法が異なってもよい。
【００７２】
これによれば、当該三次元データ復号方法は、データ数が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
【００７３】
例えば、前記第１符号化三次元データ及び前記第２符号化三次元データの少なくとも一方は、当該符号化三次元データが前記第１三次元データを符号化することで得られた符号化三次元データであるか、前記第１三次元データのうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含み、前記識別子を参照して、前記第１符号化三次元データ及び前記第２符号化三次元データを識別してもよい。
【００７４】
これによれば、当該三次元データ復号方法は、取得した符号化三次元データが第１符号化三次元データであるか第２符号化三次元データであるかを容易に判定できる。
【００７５】
例えば、前記三次元データ復号方法は、さらに、クライアントの状態をサーバに通知する通知ステップと、前記クライアントの状態に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップとを含んでもよい。
【００７６】
これによれば、当該三次元データ復号方法は、クライアントの状態に応じて適切なデータを受信できる。
【００７７】
例えば、前記クライアントの状態は、前記クライアントの通信状況、又は前記クライアントの移動速度を含んでもよい。
【００７８】
例えば、前記三次元データ復号方法は、さらに、前記第１符号化三次元データ及び前記第２符号化三次元データの一方をサーバに要求する要求ステップと、前記要求に応じて、前記サーバから送信された前記第１符号化三次元データ及び前記第２符号化三次元データの一方を受信する受信ステップを含んでもよい。
【００７９】
これによれば、当該三次元データ復号方法は、用途に応じた適切なデータを受信できる。
【００８０】
また、本開示の一態様に係る三次元データ符号化装置は、第１三次元データから特徴量が閾値以上の第２三次元データを抽出する抽出部と、前記第２三次元データを符号化することで第１符号化三次元データを生成する第１符号化部とを備える。
【００８１】
これによれば、当該三次元データ符号化装置は、特徴量が閾値以上のデータを符号化した第１符号化三次元データを生成する。これにより、第１三次元データをそのまま符号化する場合に比べてデータ量を削減できる。よって、当該三次元データ符号化装置は、伝送するデータ量を削減できる。
【００８２】
また、本開示の一態様に係る三次元データ復号装置は、第１三次元データから抽出された特徴量が閾値以上の第２三次元データが符号化されることで得られた第１符号化三次元データを第１復号方法により復号する第１復号部と、前記第１三次元データが符号化されることで得られた第２符号化三次元データを、前記第１復号方法とは異なる第２復号方法により復号する第２復号部とを備える。
【００８３】
これによれば、当該三次元データ復号装置は、特徴量が閾値以上のデータを符号化した第１符号化三次元データと、第２符号化三次元データとを、例えば、使用用途等に応じて選択的に受信できる。これにより、当該三次元データ復号装置は、伝送するデータ量を削減できる。さらに、当該三次元データ復号装置は、第１三次元データと第２三次元データとにそれぞれ適した復号方法を用いることができる。
【００８４】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【００８５】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００８６】
（実施の形態１）
まず、本実施の形態に係る符号化三次元データ（以下、符号化データとも記す）のデータ構造について説明する。図１は、本実施の形態に係る符号化三次元データの構成を示す図である。
【００８７】
本実施の形態では、三次元空間は、動画像の符号化におけるピクチャに相当するスペース（ＳＰＣ）に分割され、スペースを単位として三次元データが符号化される。スペースは、さらに、動画像符号化におけるマクロブロックなどに相当するボリューム（ＶＬＭ）に分割され、ＶＬＭを単位として予測及び変換が行われる。ボリュームは、位置座標が対応付けられる最小単位である複数のボクセル（ＶＸＬ）を含む。なお、予測とは、二次元画像で行われる予測と同様に、他の処理単位を参照し、処理対象の処理単位と類似する予測三次元データを生成し、当該予測三次元データと処理対象の処理単位との差分を符号化することである。また、この予測は、同一時刻の他の予測単位を参照する空間予測のみならず、異なる時刻の予測単位を参照する時間予測を含む。
【００８８】
例えば、三次元データ符号化装置（以下、符号化装置とも記す）は、ポイントクラウドなどの点群データにより表現される三次元空間を符号化する際には、ボクセルのサイズに応じて、点群の各点、又は、ボクセル内に含まれる複数点をまとめて符号化する。ボクセルを細分化すれば点群の三次元形状を高精度に表現でき、ボクセルのサイズを大きくすれば点群の三次元形状をおおまかに表現できる。
【００８９】
なお、以下では、三次元データがポイントクラウドである場合を例に説明を行うが、三次元データはポイントクラウドに限定されず、任意の形式の三次元データでよい。
【００９０】
また、階層構造のボクセルを用いてもよい。この場合、ｎ次の階層では、ｎ−１次以下の階層（ｎ次の階層の下層）にサンプル点が存在するかどうかを順に示してもよい。例えば、ｎ次の階層のみを復号する際において、ｎ−１次以下の階層にサンプル点が存在する場合は、ｎ次階層のボクセルの中心にサンプル点が存在するとみなして復号できる。
【００９１】
また、符号化装置は、点群データを、距離センサ、ステレオカメラ、単眼カメラ、ジャイロ、又は慣性センサなどを用いて取得する。
【００９２】
スペースは、動画像の符号化と同様に、単独で復号可能なイントラ・スペース（Ｉ−ＳＰＣ）、単方向の参照のみ可能なプレディクティブ・スペース（Ｐ−ＳＰＣ）、及び、双方向の参照が可能なバイディレクショナル・スペース（Ｂ−ＳＰＣ）を含む少なくとも３つの予測構造のいずれかに分類される。また、スペースは復号時刻と表示時刻との２種類の時刻情報を有する。
【００９３】
また、図１に示すように、複数のスペースを含む処理単位として、ランダムアクセス単位であるＧＯＳ（Ｇｒｏｕｐ  Ｏｆ  Ｓｐａｃｅ）が存在する。さらに、複数のＧＯＳを含む処理単位としてワールド（ＷＬＤ）が存在する。
【００９４】
ワールドが占める空間領域は、ＧＰＳ又は緯度及び経度情報などにより、地球上の絶対位置と対応付けられる。この位置情報はメタ情報として格納される。なお、メタ情報は、符号化データに含まれてもよいし、符号化データとは別に伝送されてもよい。
【００９５】
また、ＧＯＳ内では、全てのＳＰＣが三次元的に隣接してもよいし、他のＳＰＣと三次元的に隣接しないＳＰＣが存在してもよい。
【００９６】
なお、以下では、ＧＯＳ、ＳＰＣ又はＶＬＭ等の処理単位に含まれる三次元データに対する、符号化、復号又は参照等の処理を、単に、処理単位を符号化、復号又は参照する等とも記す。また、処理単位に含まれる三次元データは、例えば、三次元座標等の空間位置と、色情報等の特性値との少なくとも一つの組を含む。
【００９７】
次に、ＧＯＳにおけるＳＰＣの予測構造について説明する。同一ＧＯＳ内の複数のＳＰＣ、又は、同一ＳＰＣ内の複数のＶＬＭは、互いに異なる空間を占めるが、同じ時刻情報（復号時刻及び表示時刻）を持つ。
【００９８】
また、ＧＯＳ内で復号順で先頭となるＳＰＣはＩ−ＳＰＣである。また、ＧＯＳにはクローズドＧＯＳとオープンＧＯＳとの２種類が存在する。クローズドＧＯＳは、先頭Ｉ−ＳＰＣから復号開始する際に、ＧＯＳ内の全てのＳＰＣを復号できるＧＯＳである。オープンＧＯＳでは、ＧＯＳ内で先頭Ｉ−ＳＰＣよりも表示時刻が前となる一部のＳＰＣは異なるＧＯＳを参照しており、当該ＧＯＳのみで復号を行うことができない。
【００９９】
なお、地図情報などの符号化データでは、ＷＬＤを符号化順とは逆方向から復号することがあり、ＧＯＳ間に依存性があると逆方向再生が困難である。よって、このような場合には、基本的にはクローズドＧＯＳが用いられる。
【０１００】
また、ＧＯＳは、高さ方向にレイヤ構造を有し、下のレイヤのＳＰＣから順に符号化又は復号が行われる。
【０１０１】
図２はＧＯＳの最下層レイヤに属するＳＰＣ間の予測構造の一例を示す図である。図３はレイヤ間の予測構造の一例を示す図である。
【０１０２】
ＧＯＳ内には１つ以上のＩ−ＳＰＣが存在する。三次元空間内には、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などのオブジェクトが存在するが、特にサイズが小さいオブジェクトはＩ−ＳＰＣとして符号化すると有効である。例えば、三次元データ復号装置（以下、復号装置とも記す）は、ＧＯＳを低処理量又は高速に復号する際には、ＧＯＳ内のＩ−ＳＰＣのみを復号する。
【０１０３】
また、符号化装置は、ＷＬＤ内のオブジェクトの粗密さに応じてＩ−ＳＰＣの符号化間隔又は出現頻度を切替えてもよい。
【０１０４】
また、図３に示す構成において、符号化装置又は復号装置は、複数のレイヤを下層（レイヤ１）から順に符号化又は復号する。これにより、例えば自動走行車などにとってより情報量の多い地面付近のデータの優先度を上げることができる。
【０１０５】
なお、ドローンなどで用いられる符号化データでは、ＧＯＳ内において高さ方向で上のレイヤのＳＰＣから順に符号化又は復号してもよい。
【０１０６】
また、符号化装置又は復号装置は、復号装置が荒くＧＯＳを把握でき、徐々に解像度を上げるようにできるように、複数のレイヤを符号化又は復号してもよい。例えば、符号化装置又は復号装置は、レイヤ３、８、１、９…の順に符号化又は復号してもよい。
【０１０７】
次に、静的オブジェクト及び動的オブジェクトの扱い方について説明する。
【０１０８】
三次元空間には、建物又は道路など静的なオブジェクト又はシーン（以降、まとめて静的オブジェクトと呼ぶ）と、車又はヒトなどの動的なオブジェクト（以降、動的オブジェクトと呼ぶ）とが存在する。オブジェクトの検出は、ポイントクラウドのデータ、又は、ステレオカメラなどのカメラ映像などから特徴点を抽出するなどして、別途行われる。ここでは、動的オブジェクトの符号化方法の例について説明する。
【０１０９】
第１方法は、静的オブジェクトと動的オブジェクトとを区別せずに符号化する方法である。第２方法は、静的オブジェクトと動的オブジェクトとを識別情報により区別する方法である。
【０１１０】
例えば、ＧＯＳが識別単位として用いられる。この場合、静的オブジェクトを構成するＳＰＣを含むＧＯＳと、動的オブジェクトを構成するＳＰＣを含むＧＯＳとが、符号化データ内、又は符号化データとは別途格納される識別情報により区別される。
【０１１１】
または、ＳＰＣが識別単位として用いられてもよい。この場合、静的オブジェクトを構成するＶＬＭを含むＳＰＣと、動的オブジェクトを構成するＶＬＭを含むＳＰＣとが、上記識別情報により区別される。
【０１１２】
または、ＶＬＭ或いはＶＸＬが識別単位として用いられてもよい。この場合、静的オブジェクトを含むＶＬＭ又はＶＸＬと、動的オブジェクトを含むＶＬＭ又はＶＸＬとが上記識別情報により区別される。
【０１１３】
また、符号化装置は、動的オブジェクトを１以上のＶＬＭ又はＳＰＣとして符号化し、静的オブジェクトを含むＶＬＭ又はＳＰＣと、動的オブジェクトを含むＳＰＣとを、互いに異なるＧＯＳとして符号化してもよい。また、符号化装置は、動的オブジェクトのサイズに応じてＧＯＳのサイズが可変となる場合には、ＧＯＳのサイズをメタ情報として別途格納する。
【０１１４】
また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに独立に符号化し、静的オブジェクトから構成されるワールドに対して、動的オブジェクトを重畳してもよい。このとき、動的オブジェクトは１以上のＳＰＣから構成され、各ＳＰＣは、当該ＳＰＣが重畳される静的オブジェクトを構成する１以上のＳＰＣに対応付けられる。なお、動的オブジェクトをＳＰＣではなく、１以上のＶＬＭ又はＶＸＬにより表現してもよい。
【０１１５】
また、符号化装置は、静的オブジェクトと動的オブジェクトとを互いに異なるストリームとして符号化してもよい。
【０１１６】
また、符号化装置は、動的オブジェクトを構成する１以上のＳＰＣを含むＧＯＳを生成してもよい。さらに、符号化装置は、動的オブジェクトを含むＧＯＳ（ＧＯＳ＿Ｍ）と、ＧＯＳ＿Ｍの空間領域に対応する静的オブジェクトのＧＯＳとを同一サイズ（同一の空間領域を占める）に設定してもよい。これにより、ＧＯＳ単位で重畳処理を行うことができる。
【０１１７】
動的オブジェクトを構成するＰ−ＳＰＣ又はＢ−ＳＰＣは、符号化済みの異なるＧＯＳに含まれるＳＰＣを参照してもよい。動的オブジェクトの位置が時間的に変化し、同一の動的オブジェクトが異なる時刻のＧＯＳとして符号化されるケースでは、ＧＯＳを跨いだ参照が圧縮率の観点から有効となる。
【０１１８】
また、符号化データの用途に応じて、上記の第１方法と第２方法とを切替えてもよい。例えば、符号化三次元データを地図として用いる場合は、動的オブジェクトを分離できることが望ましいため、符号化装置は、第２方法を用いる。一方、符号化装置は、コンサート又はスポーツなどのイベントの三次元データを符号化する場合に、動的オブジェクトを分離する必要がなければ、第１方法を用いる。
【０１１９】
また、ＧＯＳ又はＳＰＣの復号時刻と表示時刻とは符号化データ内、又はメタ情報として格納できる。また、静的オブジェクトの時刻情報は全て同一としてもよい。このとき、実際の復号時刻と表示時刻は、復号装置が決定するものとしてもよい。あるいは、復号時刻として、ＧＯＳ、あるいは、ＳＰＣ毎に異なる値が付与され、表示時刻として全て同一の値が付与されてもよい。さらに、ＨＥＶＣのＨＲＤ（Ｈｙｐｏｔｈｅｔｉｃａｌ  Ｒｅｆｅｒｅｎｃｅ  Ｄｅｃｏｄｅｒ）など動画像符号化におけるデコーダモデルのように、デコーダが所定のサイズのバッファを有し、復号時刻に従って所定のビットレートでビットストリームを読み込めば破綻なく復号できることを保証するモデルを導入してもよい。
【０１２０】
次に、ワールド内におけるＧＯＳの配置について説明する。ワールドにおける三次元空間の座標は、互いに直交する３本の座標軸（ｘ軸、ｙ軸、ｚ軸）により表現される。ＧＯＳの符号化順に所定のルールを設けることで、空間的に隣接するＧＯＳが符号化データ内で連続するように符号化を行える。例えば、図４に示す例では、ｘｚ平面内のＧＯＳを連続的に符号化する。あるｘｚ平面内の全てのＧＯＳの符号化終了後にｙ軸の値を更新する。すなわち、符号化が進むにつれて、ワールドはｙ軸方向に伸びていく。また、ＧＯＳのインデックス番号は符号化順に設定される。
【０１２１】
ここで、ワールドの三次元空間は、ＧＰＳ、或いは緯度及び経度などの地理的な絶対座標と１対１に対応付けておく。或いは、予め設定した基準位置からの相対位置により三次元空間が表現されてもよい。三次元空間のｘ軸、ｙ軸、ｚ軸の方向は、緯度及び経度などに基づいて決定される方向ベクトルとして表現され、当該方向ベクトルはメタ情報として符号化データと共に格納される。
【０１２２】
また、ＧＯＳのサイズは固定とし、符号化装置は、当該サイズをメタ情報として格納する。また、ＧＯＳのサイズは、例えば、都市部か否か、又は、室内か外かなどに応じて切替えられてもよい。つまり、ＧＯＳのサイズは、情報としての価値があるオブジェクトの量又は性質に応じて切替えられてもよい。あるいは、符号化装置は、同一ワールド内において、オブジェクトの密度などに応じて、ＧＯＳのサイズ、又は、ＧＯＳ内のＩ−ＳＰＣの間隔を適応的に切替えてもよい。例えば、符号化装置は、オブジェクトの密度が高いほど、ＧＯＳのサイズを小さくし、ＧＯＳ内のＩ−ＳＰＣの間隔を短くする。
【０１２３】
図５の例では、３番目から１０番目のＧＯＳの領域では、オブジェクトの密度が高いため、細かい粒度でのランダムアクセスを実現するために、ＧＯＳが細分化されている。なお、７番目から１０番目のＧＯＳは、それぞれ、３番目から６番目のＧＯＳの裏側に存在する。
【０１２４】
次に、本実施の形態に係る三次元データ符号化装置の構成及び動作の流れを説明する。図６は、本実施の形態に係る三次元データ符号化装置１００のブロック図である。図７は、三次元データ符号化装置１００の動作例を示すフローチャートである。
【０１２５】
図６に示す三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。この三次元データ符号化装置１００は、取得部１０１と、符号化領域決定部１０２と、分割部１０３と、符号化部１０４とを備える。
【０１２６】
図７に示すように、まず、取得部１０１は、点群データである三次元データ１１１を取得する（Ｓ１０１）。
【０１２７】
次に、符号化領域決定部１０２は、取得した点群データに対応する空間領域のうち、符号化対象の領域を決定する（Ｓ１０２）。例えば、符号化領域決定部１０２は、ユーザ又は車両の位置に応じて、当該位置の周辺の空間領域を符号化対象の領域に決定する。
【０１２８】
次に、分割部１０３は、符号化対象の領域に含まれる点群データを、各処理単位に分割する。ここで処理単位とは、上述したＧＯＳ及びＳＰＣ等である。また、この符号化対象の領域は、例えば、上述したワールドに対応する。具体的には、分割部１０３は、予め設定したＧＯＳのサイズ、又は、動的オブジェクトの有無或いはサイズに基づいて、点群データを処理単位に分割する（Ｓ１０３）。また、分割部１０３は、各ＧＯＳにおいて符号化順で先頭となるＳＰＣの開始位置を決定する。
【０１２９】
次に、符号化部１０４は、各ＧＯＳ内の複数のＳＰＣを順次符号化することで符号化三次元データ１１２を生成する（Ｓ１０４）。
【０１３０】
なお、ここでは、符号化対象の領域をＧＯＳ及びＳＰＣに分割した後に、各ＧＯＳを符号化する例を示したが、処理の手順は上記に限らない。例えば、一つのＧＯＳの構成を決定した後にそのＧＯＳを符号化し、その後、次のＧＯＳの構成を決定する等の手順を用いてもよい。
【０１３１】
このように、三次元データ符号化装置１００は、三次元データ１１１を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、三次元データを、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）に分割し、第１処理単位（ＧＯＳ）を複数の第２処理単位（ＳＰＣ）に分割し、第２処理単位（ＳＰＣ）を複数の第３処理単位（ＶＬＭ）に分割する。また、第３処理単位（ＶＬＭ）は、位置情報が対応付けられる最小単位である１以上のボクセル（ＶＸＬ）を含む。
【０１３２】
次に、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）の各々を符号化することで符号化三次元データ１１２を生成する。具体的には、三次元データ符号化装置１００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を符号化する。また、三次元データ符号化装置１００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を符号化する。
【０１３３】
例えば、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）がクローズドＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）を参照して符号化する。つまり、三次元データ符号化装置１００は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照しない。
【０１３４】
一方、処理対象の第１処理単位（ＧＯＳ）がオープンＧＯＳである場合には、処理対象の第１処理単位（ＧＯＳ）に含まれる処理対象の第２処理単位（ＳＰＣ）を、処理対象の第１処理単位（ＧＯＳ）に含まれる他の第２処理単位（ＳＰＣ）、又は、処理対象の第１処理単位（ＧＯＳ）とは異なる第１処理単位（ＧＯＳ）に含まれる第２処理単位（ＳＰＣ）を参照して符号化する。
【０１３５】
また、三次元データ符号化装置１００は、処理対象の第２処理単位（ＳＰＣ）のタイプとして、他の第２処理単位（ＳＰＣ）を参照しない第１タイプ（Ｉ−ＳＰＣ）、他の一つの第２処理単位（ＳＰＣ）を参照する第２タイプ（Ｐ−ＳＰＣ）、及び他の二つの第２処理単位（ＳＰＣ）を参照する第３タイプのうちいずれかを選択し、選択したタイプに従い処理対象の第２処理単位（ＳＰＣ）を符号化する。
【０１３６】
次に、本実施の形態に係る三次元データ復号装置の構成及び動作の流れを説明する。図８は、本実施の形態に係る三次元データ復号装置２００のブロックのブロック図である。図９は、三次元データ復号装置２００の動作例を示すフローチャートである。
【０１３７】
図８に示す三次元データ復号装置２００は、符号化三次元データ２１１を復号することで復号三次元データ２１２を生成する。ここで、符号化三次元データ２１１は、例えば、三次元データ符号化装置１００で生成された符号化三次元データ１１２である。この三次元データ復号装置２００は、取得部２０１と、復号開始ＧＯＳ決定部２０２と、復号ＳＰＣ決定部２０３と、復号部２０４とを備える。
【０１３８】
まず、取得部２０１は、符号化三次元データ２１１を取得する（Ｓ２０１）。次に、復号開始ＧＯＳ決定部２０２は、復号対象のＧＯＳに決定する（Ｓ２０２）。具体的には、復号開始ＧＯＳ決定部２０２は、符号化三次元データ２１１内、又は符号化三次元データとは別に格納されたメタ情報を参照して、復号を開始する空間位置、オブジェクト、又は、時刻に対応するＳＰＣを含むＧＯＳを復号対象のＧＯＳに決定する。
【０１３９】
次に、復号ＳＰＣ決定部２０３は、ＧＯＳ内で復号するＳＰＣのタイプ（Ｉ、Ｐ、Ｂ）を決定する（Ｓ２０３）。例えば、復号ＳＰＣ決定部２０３は、（１）Ｉ−ＳＰＣのみを復号するか、（２）Ｉ−ＳＰＣ及びＰ−ＳＰＣを復号するか、（３）全てのタイプを復号するかを決定する。なお、全てのＳＰＣを復号するなど、予め復号するＳＰＣのタイプが決定している場合は、本ステップは行われなくてもよい。
【０１４０】
次に、復号部２０４は、ＧＯＳ内で復号順（符号化順と同一）で先頭となるＳＰＣが符号化三次元データ２１１内で開始するアドレス位置を取得し、当該アドレス位置から先頭ＳＰＣの符号化データを取得し、当該先頭ＳＰＣから順に各ＳＰＣを順次復号する（Ｓ２０４）。なお、上記アドレス位置は、メタ情報等に格納されている。
【０１４１】
このように、三次元データ復号装置２００は、復号三次元データ２１２を復号する。具体的には、三次元データ復号装置２００は、ランダムアクセス単位であって、各々が三次元座標に対応付けられている第１処理単位（ＧＯＳ）の符号化三次元データ２１１の各々を復号することで第１処理単位（ＧＯＳ）の復号三次元データ２１２を生成する。より具体的には、三次元データ復号装置２００は、各第１処理単位（ＧＯＳ）において、複数の第２処理単位（ＳＰＣ）の各々を復号する。また、三次元データ復号装置２００は、各第２処理単位（ＳＰＣ）において、複数の第３処理単位（ＶＬＭ）の各々を復号する。
【０１４２】
以下、ランダムアクセス用のメタ情報について説明する。このメタ情報は、三次元データ符号化装置１００で生成され、符号化三次元データ１１２（２１１）に含まれる。
【０１４３】
従来の二次元の動画像におけるランダムアクセスでは、指定した時刻の近傍となるランダムアクセス単位の先頭フレームから復号を開始していた。一方、ワールドにおいては、時刻に加えて、空間（座標又はオブジェクトなど）に対するランダムアクセスが想定される。
【０１４４】
そこで、少なくとも座標、オブジェクト、及び時刻の３つの要素へのランダムアクセスを実現するために、各要素とＧＯＳのインデックス番号とを対応付けるテーブルを用意する。さらに、ＧＯＳのインデックス番号とＧＯＳの先頭となるＩ−ＳＰＣのアドレスを対応付ける。図１０は、メタ情報に含まれるテーブルの一例を示す図である。なお、図１０に示す全てのテーブルが用いられる必要はなく、少なくとも一つのテーブルが用いられればよい。
【０１４５】
以下、一例として、座標を起点とするランダムアクセスについて説明する。座標（ｘ２、ｙ２、ｚ２）にアクセスする際には、まず、座標−ＧＯＳテーブルを参照して、座標が（ｘ２、ｙ２、ｚ２）である地点は２番目のＧＯＳに含まれることが分かる。次に、ＧＯＳアドレステーブルを参照し、２番目のＧＯＳにおける先頭のＩ−ＳＰＣのアドレスがａｄｄｒ（２）であることが分かるため、復号部２０４は、このアドレスからデータを取得して復号を開始する。
【０１４６】
なお、アドレスは、論理フォーマットにおけるアドレスであっても、ＨＤＤ又はメモリの物理アドレスであってもよい。また、アドレスの代わりにファイルセグメントを特定する情報が用いられてもよい。例えば、ファイルセグメントは、１つ以上のＧＯＳなどをセグメント化した単位である。
【０１４７】
また、オブジェクトが複数のＧＯＳに跨る場合には、オブジェクト−ＧＯＳテーブルにおいて、オブジェクトが属するＧＯＳを複数示してもよい。当該複数のＧＯＳがクローズドＧＯＳであれば、符号化装置及び復号装置は、並列に符号化又は復号を行うことができる。一方、当該複数のＧＯＳがオープンＧＯＳであれば、複数のＧＯＳが互いに参照しあうことでより圧縮効率を高めることができる。
【０１４８】
オブジェクトの例としては、ヒト、動物、車、自転車、信号、又はランドマークとなる建物などがある。例えば、三次元データ符号化装置１００は、ワールドの符号化時に三次元のポイントクラウドなどからオブジェクトに特有の特徴点を抽出し、当該特徴点に基づきオブジェクトを検出し、検出したオブジェクトをランダムアクセスポイントとして設定できる。
【０１４９】
このように、三次元データ符号化装置１００は、複数の第１処理単位（ＧＯＳ）と、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている三次元座標とを示す第１情報を生成する。また、符号化三次元データ１１２（２１１）は、この第１情報を含む。また、第１情報は、さらに、複数の第１処理単位（ＧＯＳ）の各々に対応付けられている、オブジェクト、時刻及びデータ格納先のうち少なくとも一つを示す。
【０１５０】
三次元データ復号装置２００は、符号化三次元データ２１１から第１情報を取得し、第１情報を用いて、指定された三次元座標、オブジェクト又は時刻に対応する第１処理単位の符号化三次元データ２１１を特定し、当該符号化三次元データ２１１を復号する。
【０１５１】
以下、その他のメタ情報の例について説明する。ランダムアクセス用のメタ情報の他に、三次元データ符号化装置１００は、以下のようなメタ情報を生成及び格納してもよい。また、三次元データ復号装置２００は、このメタ情報を復号時に利用してもよい。
【０１５２】
三次元データを地図情報として用いる場合などには、用途に応じてプロファイルが規定され、当該プロファイルを示す情報がメタ情報に含まれてもよい。例えば、市街地或いは郊外向け、又は、飛行物体向けのプロファイルが規定され、それぞれにおいてワールド、ＳＰＣ又はＶＬＭの最大又は最小サイズなどが定義される。例えば、市街地向けでは、郊外向けよりも詳細な情報が必要なため、ＶＬＭの最小サイズが小さく設定される。
【０１５３】
メタ情報は、オブジェクトの種類を示すタグ値を含んでもよい。このタグ値はオブジェクトを構成するＶＬＭ、ＳＰＣ、又はＧＯＳと対応付けられる。例えば、タグ値「０」は「人」を示し、タグ値「１」は「車」を示し、タグ値「２」は「信号機」を示す、などオブジェクトの種類ごとにタグ値が設定されてもよい。または、オブジェクトの種類が判定しにくい又は判定する必要がない場合はサイズ、又は、動的オブジェクトか静的オブジェクトかなどの性質を示すタグ値が用いられてもよい。
【０１５４】
また、メタ情報は、ワールドが占める空間領域の範囲を示す情報を含んでもよい。
【０１５５】
また、メタ情報は、符号化データのストリーム全体、又は、ＧＯＳ内のＳＰＣなど、複数のＳＰＣに共通のヘッダ情報として、ＳＰＣ又はＶＸＬのサイズを格納してもよい。
【０１５６】
また、メタ情報は、ポイントクラウドの生成に用いた距離センサ或いはカメラなどの識別情報、又は、ポイントクラウド内の点群の位置精度を示す情報を含んでもよい。
【０１５７】
また、メタ情報は、ワールドが静的オブジェクトのみから構成されるか、動的オブジェクトを含むかを示す情報を含んでもよい。
【０１５８】
以下、本実施の形態の変形例について説明する。
【０１５９】
符号化装置又は復号装置は、互いに異なる２以上のＳＰＣ又はＧＯＳを並列で符号化又は復号してもよい。並列で符号化又は復号するＧＯＳは、ＧＯＳの空間位置を示すメタ情報などに基づいて決定できる。
【０１６０】
三次元データを車又は飛行物体などが移動する際の空間地図として用いる、又はこのような空間地図を生成するケースなどでは、符号化装置又は復号装置は、ＧＰＳ、経路情報、又はズーム倍率などに基づいて特定される空間に含まれるＧＯＳ又はＳＰＣを符号化又は復号してもよい。
【０１６１】
また、復号装置は、自己位置又は走行経路に近い空間から順に復号を行ってもよい。符号化装置又は復号装置は、自己位置又は走行経路から遠い空間を、近い空間に比べて優先度を落として符号化又は復号してもよい。ここで、優先度を落とすとは、処理順を下げる、解像度を下げる（間引いて処理する）、又は、画質を下げる（符号化効率を上げる。例えば、量子化ステップを大きくする。）等である。
【０１６２】
また、復号装置は、空間内で階層的に符号化されている符号化データを復号する際は、低階層のみを復号してもよい。
【０１６３】
また、復号装置は、地図のズーム倍率又は用途に応じて、低階層から優先的に復号してもよい。
【０１６４】
また、車又はロボットの自律走行時に行う自己位置推定又は物体認識などの用途では、符号化装置又は復号装置は、路面から特定高さ以内の領域（認識を行う領域）以外は解像度を落として符号化又は復号を行ってもよい。
【０１６５】
また、符号化装置は、室内と室外との空間形状を表現するポイントクラウドをそれぞれ個別に符号化してもよい。例えば、室内を表現するＧＯＳ（室内ＧＯＳ）と室外を表現するＧＯＳ（室外ＧＯＳ）とを分けることで、復号装置は、符号化データを利用する際に、視点位置に応じて復号するＧＯＳを選択できる。
【０１６６】
また、符号化装置は、座標が近い室内ＧＯＳと室外ＧＯＳとを、符号化ストリーム内で隣接するように符号化してもよい。例えば、符号化装置は、両者の識別子を対応付け、符号化ストリーム内、又は別途格納されるメタ情報内に対応付けた識別子を示す情報を格納する。これにより、復号装置は、メタ情報内の情報を参照して、座標が近い室内ＧＯＳと室外ＧＯＳとを識別できる。
【０１６７】
また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ＧＯＳ又はＳＰＣのサイズを切替えてもよい。例えば、符号化装置は、室内では室外に比べてＧＯＳのサイズを小さく設定する。また、符号化装置は、室内ＧＯＳと室外ＧＯＳとで、ポイントクラウドから特徴点を抽出する際の精度、又はオブジェクト検出の精度などを変更してもよい。
【０１６８】
また、符号化装置は、復号装置が動的オブジェクトを静的オブジェクトと区別して表示するための情報を符号化データに付加してもよい。これにより、復号装置は、動的オブジェクトと赤枠又は説明用の文字などとを合わせて表示できる。なお、復号装置は、動的オブジェクトの代わりに赤枠又は説明用の文字のみを表示してもよい。また、復号装置は、より細かいオブジェクト種別を表示してもよい。例えば、車には赤枠が用いられ、ヒトには黄色枠が用いられてもよい。
【０１６９】
また、符号化装置又は復号装置は、動的オブジェクトの出現頻度、又は、静的オブジェクトと動的オブジェクトとの割合などに応じて、動的オブジェクトと静的オブジェクトとを異なるＳＰＣ又はＧＯＳとして符号化又は復号するかどうかを決定してもよい。例えば、動的オブジェクトの出現頻度又は割合が閾値を超える場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容され、動的オブジェクトの出現頻度又は割合が閾値を超えない場合には、動的オブジェクトと静的オブジェクトとが混在するＳＰＣ又はＧＯＳが許容されない。
【０１７０】
動的オブジェクトをポイントクラウドではなく、カメラの二次元画像情報から検出する際には、符号化装置は、検出結果を識別するための情報（枠又は文字など）とオブジェクト位置とを別途取得し、これらの情報を三次元の符号化データの一部として符号化してもよい。この場合、復号装置は、静的オブジェクトの復号結果に対して、動的オブジェクトを示す補助情報（枠又は文字）を重畳して表示する。
【０１７１】
また、符号化装置は、静的オブジェクトの形状の複雑さなどに応じて、ＳＰＣにおけるＶＸＬ又はＶＬＭの粗密さを変更してもよい。例えば、符号化装置は、静的オブジェクトの形状が複雑なぼど、ＶＸＬ又はＶＬＭを密に設定する。さらに、符号化装置は、空間位置又は色情報を量子化する際の量子化ステップなどをＶＸＬ又はＶＬＭの粗密さに応じて決定してもよい。例えば、符号化装置は、ＶＸＬ又はＶＬＭが密なほど量子化ステップを小さく設定する。
【０１７２】
以上のように、本実施の形態に係る符号化装置又は復号装置は、座標情報を有するスペース単位で空間の符号化又は復号を行う。
【０１７３】
また、符号化装置及び復号装置は、スペース内において、ボリューム単位で符号化又は復号を行う。ボリュームは、位置情報が対応付けられる最小単位であるボクセルを含む。
【０１７４】
また、符号化装置及び復号装置は、座標、オブジェクト、及び時間等を含む空間情報の各要素とＧＯＰとを対応付けたテーブル、又は各要素間を対応付けたテーブルにより任意の要素間を対応付けて符号化又は復号を行う。また、復号装置は、選択された要素の値を用いて座標を判定し、座標からボリューム、ボクセル又はスペースを特定し、当該ボリューム又はボクセルを含むスペース、又は特定されたスペースを復号する。
【０１７５】
また、符号化装置は、特徴点抽出又はオブジェクト認識により、要素により選択可能なボリューム、ボクセル又はスペースを判定し、ランダムアクセス可能なボリューム、ボクセル又はスペースとして符号化する。
【０１７６】
スペースは、当該スペース単体で符号化又は復号可能なＩ−ＳＰＣと、任意の１つの処理済みスペースを参照して符号化又は復号されるＰ−ＳＰＣと、任意の二つの処理済みスペースを参照して符号化又は復号されるＢ−ＳＰＣとの３種類のタイプに分類される。
【０１７７】
１以上のボリュームが、静的オブジェクト又は動的なオブジェクトに対応する。静的オブジェクトを含むスペースと動的オブジェクトを含むスペースとは互いに異なるＧＯＳとして符号化又は復号される。つまり、静的オブジェクトを含むＳＰＣと、動的オブジェクトを含むＳＰＣとが異なるＧＯＳに割り当てられる。
【０１７８】
動的オブジェクトはオブジェクトごとに符号化又は復号され、静的オブジェクトを含む１以上のスペースに対応付けられる。つまり、複数の動的オブジェクトは個別に符号化され、得られた複数の動的オブジェクトの符号化データは、静的オブジェクトを含むＳＰＣに対応付けられる。
【０１７９】
符号化装置及び復号装置は、ＧＯＳ内のＩ−ＳＰＣの優先度を上げて、符号化又は復号を行う。例えば、符号化装置は、Ｉ−ＳＰＣの劣化が少なくなるように（復号後に元の三次元データがより忠実に再現されるように）符号化を行う。また、復号装置は、例えば、Ｉ−ＳＰＣのみを復号する。
【０１８０】
符号化装置は、ワールド内のオブジェクトの疎密さ又は数（量）に応じてＩ−ＳＰＣを用いる頻度を変えて符号化を行ってもよい。つまり、符号化装置は、三次元データに含まれるオブジェクトの数又は粗密さに応じて、Ｉ−ＳＰＣを選択する頻度を変更する。例えば、符号化装置は、ワールド内のオブジェクトが密であるほどＩスペースを用いる頻度を上げる。
【０１８１】
また、符号化装置は、ランダムアクセスポイントをＧＯＳ単位で設定し、ＧＯＳに対応する空間領域を示す情報をヘッダ情報に格納する。
【０１８２】
符号化装置は、ＧＯＳの空間サイズとして、例えば、デフォルト値を使用する。なお、符号化装置は、オブジェクト又は動的オブジェクトの数（量）又は粗密さに応じてＧＯＳのサイズを変更してもよい。例えば、符号化装置は、オブジェクト或いは動的オブジェクトが密なぼど、又は数が多いほど、ＧＯＳの空間サイズを小さくする。
【０１８３】
また、スペース又はボリュームは、デプスセンサ、ジャイロ、又はカメラ等のセンサで得られた情報を用いて導出された特徴点群を含む。特徴点の座標はボクセルの中心位置に設定される。また、ボクセルの細分化により位置情報の高精度化を実現できる。
【０１８４】
特徴点群は、複数のピクチャを用いて導出される。複数のピクチャは、実際の時刻情報と、スペースに対応付けられた複数のピクチャで同一の時刻情報（例えば、レート制御等に用いられる符号化時刻）との少なくとも２種類の時刻情報を有する。
【０１８５】
また、１以上のスペースを含むＧＯＳ単位で符号化又は復号が行われる。
【０１８６】
符号化装置及び復号装置は、処理済みのＧＯＳ内のスペースを参照して、処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
【０１８７】
または、符号化装置及び復号装置は、異なるＧＯＳを参照せず、処理対象のＧＯＳ内の処理済スペースを用いて処理対象のＧＯＳ内のＰスペース又はＢスペースの予測を行う。
【０１８８】
また、符号化装置及び復号装置は、１以上のＧＯＳを含むワールド単位で符号化ストリームを送信又は受信する。
【０１８９】
また、ＧＯＳは少なくともワールド内で１方向にレイヤ構造を持ち、符号化装置及び復号装置は、下位レイヤから符号化又は復号を行う。例えば、ランダムアクセス可能なＧＯＳは最下位レイヤに属する。上位レイヤに属するＧＯＳは同一レイヤ以下に属するＧＯＳを参照する。つまり、ＧＯＳは、予め定められた方向に空間分割され、各々が１以上のＳＰＣを含む複数のレイヤを含む。符号化装置及び復号装置は、各ＳＰＣを、当該ＳＰＣと同一レイヤ又は当該ＳＰＣより下層のレイヤに含まれるＳＰＣを参照して符号化又は復号する。
【０１９０】
また、符号化装置及び復号装置は、複数のＧＯＳを含むワールド単位内で、連続してＧＯＳを符号化又は復号する。符号化装置及び復号装置は、符号化又は復号の順序（方向）を示す情報をメタデータとして書き込む又は読み出す。つまり、符号化データは、複数のＧＯＳの符号化順を示す情報を含む。
【０１９１】
また、符号化装置及び復号装置は、互いに異なる２以上のスペース又はＧＯＳを並列で符号化又は復号する。
【０１９２】
また、符号化装置及び復号装置は、スペース又はＧＯＳの空間情報（座標、サイズ等）を符号化又は復号する。
【０１９３】
また、符号化装置及び復号装置は、ＧＰＳ、経路情報、又は倍率など、自己の位置又は／及び領域サイズに関する外部情報に基づいて特定される特定空間に含まれるスペース又はＧＯＳを符号化又は復号する。
【０１９４】
符号化装置又は復号装置は、自己の位置から遠い空間は、近い空間に比べて優先度を落として符号化又は復号する。
【０１９５】
符号化装置は、倍率又は用途に応じて、ワールドのある１方向を設定し、当該方向にレイヤ構造を持つＧＯＳを符号化する。また、復号装置は、倍率又は用途に応じて設定されたワールドのある１方向にレイヤ構造を持つＧＯＳを、下位レイヤから優先的に復号する。
【０１９６】
符号化装置は、室内と室外とでスペースに含まれる特徴点抽出、オブジェクト認識の精度、又は空間領域サイズなどを変化させる。ただし、符号化装置及び復号装置は、座標が近い室内ＧＯＳと室外ＧＯＳとをワールド内で隣接して符号化又は復号し、これらの識別子も対応付けて符号化又は復号する。
【０１９７】
（実施の形態２）
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
【０１９８】
本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報のみを送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元復号方法及び三次元データ装置について説明する。
【０１９９】
特徴量を一定以上持つボクセル（ＶＸＬ）を特徴ボクセル（ＦＶＸＬ）と定義し、ＦＶＸＬで構成されるワールド（ＷＬＤ）をスパースワールド（ＳＷＬＤ）と定義する。図１１は、スパースワールド及びワールドの構成例を示す図である。ＳＷＬＤには、ＦＶＸＬで構成されるＧＯＳであるＦＧＯＳと、ＦＶＸＬで構成されるＳＰＣであるＦＳＰＣと、ＦＶＸＬで構成されるＶＬＭであるＦＶＬＭと含まれる。ＦＧＯＳ、ＦＳＰＳ及びＦＶＬＭのデータ構造及び予測構造はＧＯＳ、ＳＰＳ及びＶＬＭと同様であっても構わない。
【０２００】
特徴量とは、ＶＸＬの三次元位置情報、又はＶＸＬ位置の可視光情報を表現する特徴量であり、特に立体物のコーナー及びエッジ等で多く検出される特徴量である。具体的には、この特徴量は、下記のような三次元特徴量又は可視光の特徴量であるが、その他、ＶＸＬの位置、輝度、又は色情報などを表す特徴量であれば、どのようなものでも構わない。
【０２０１】
三次元特徴量として、ＳＨＯＴ特徴量（Ｓｉｇｎａｔｕｒｅ  ｏｆ  Ｈｉｓｔｏｇｒａｍｓ  ｏｆ  ＯｒｉｅｎＴａｔｉｏｎｓ）、ＰＦＨ特徴量（Ｐｏｉｎｔ  Ｆｅａｔｕｒｅ  Ｈｉｓｔｏｇｒａｍｓ）、又はＰＰＦ特徴量（Ｐｏｉｎｔ  Ｐａｉｒ  Ｆｅａｔｕｒｅ）が用いられる。
【０２０２】
ＳＨＯＴ特徴量は、ＶＸＬ周辺を分割し、基準点と分割された領域の法線ベクトルとの内積を計算してヒストグラム化することで得られる。このＳＨＯＴ特徴量は、次元数が高く、特徴表現力が高いという特徴を有する。
【０２０３】
ＰＦＨ特徴量は、ＶＸＬ近傍の多数の２点組を選択し、その２点から法線ベクトル等を算出してヒストグラム化することで得られる。このＰＦＨ特徴量は、ヒストグラム特徴なので、多少の外乱に対してロバスト性を有し、特徴表現力も高いという特徴を有する。
【０２０４】
ＰＰＦ特徴量は、２点のＶＸＬ毎に法線ベクトル等を用いて算出される特徴量である。このＰＰＦ特徴量には、全ＶＸＬが使われるため、オクルージョンに対してロバスト性を有する。
【０２０５】
また、可視光の特徴量として、画像の輝度勾配情報等の情報を用いたＳＩＦＴ（Ｓｃａｌｅ−Ｉｎｖａｒｉａｎｔ  Ｆｅａｔｕｒｅ  Ｔｒａｎｓｆｏｒｍ）、ＳＵＲＦ（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅｓ）、又はＨＯＧ（Ｈｉｓｔｏｇｒａｍ  ｏｆ  Ｏｒｉｅｎｔｅｄ  Ｇｒａｄｉｅｎｔｓ）等を用いることができる。
【０２０６】
ＳＷＬＤは、ＷＬＤの各ＶＸＬから上記特徴量を算出し、ＦＶＸＬを抽出することで生成される。ここで、ＳＷＬＤはＷＬＤが更新される度に更新しても構わないし、ＷＬＤの更新タイミングに関わらず、一定時間経過後に定期的に更新するようにしても構わない。
【０２０７】
ＳＷＬＤは特徴量毎に生成しても構わない。例えば、ＳＨＯＴ特徴量に基づくＳＷＬＤ１とＳＩＦＴ特徴量に基づくＳＷＬＤ２とのように、特徴量毎に別々のＳＷＬＤが生成され、用途に応じてＳＷＬＤを使い分けるようにしても構わない。また、算出した各ＦＶＸＬの特徴量を特徴量情報として各ＦＶＸＬに保持するようにしても構わない。
【０２０８】
次に、スパースワールド（ＳＷＬＤ）の利用方法について説明する。ＳＷＬＤは特徴ボクセル（ＦＶＸＬ）のみを含むため、全てのＶＸＬを含むＷＬＤと比べて一般的にデータサイズが小さい。
【０２０９】
特徴量を利用して何らかの目的を果たすアプリケーションにおいては、ＷＬＤの代わりにＳＷＬＤの情報を利用することで、ハードディスクからの読み出し時間、並びにネットワーク転送時の帯域及び転送時間を抑制することができる。例えば、地図情報として、ＷＤＬとＳＷＬＤとをサーバに保持しておき、クライアントからの要望に応じて、送信する地図情報をＷＬＤ又はＳＷＬＤに切り替えることにより、ネットワーク帯域及び転送時間を抑制することができる。以下、具体的な例を示す。
【０２１０】
図１２及び図１３は、ＳＷＬＤ及びＷＬＤの利用例を示す図である。図１２に示すように、車載装置であるクライアント１が自己位置判定用途として地図情報を必要な場合は、クライアント１はサーバに自己位置推定用の地図データの取得要望を送る（Ｓ３０１）。サーバは、当該取得要望に応じてＳＷＬＤをクライアント１に送信する（Ｓ３０２）。クライアント１は、受信したＳＷＬＤを用いて自己位置判定を行う（Ｓ３０３）。この際、クライアント１はレンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法でクライアント１の周辺のＶＸＬ情報を取得し、得られたＶＸＬ情報とＳＷＬＤとから自己位置情報を推定する。ここで自己位置情報は、クライアント１の三次元位置情報及び向き等を含む。
【０２１１】
図１３に示すように、車載装置であるクライアント２が三次元地図等の地図描画の用途として地図情報が必要な場合は、クライアント２はサーバに地図描画用の地図データの取得要望を送る（Ｓ３１１）。サーバは、当該取得要望に応じてＷＬＤをクライアント２に送信する（Ｓ３１２）。クライアント２は、受信したＷＬＤを用いて地図描画を行う（Ｓ３１３）。この際、クライアント２は、例えば、自己が可視光カメラ等で撮影した画像と、サーバから取得したＷＬＤとを用いてレンダリング画像を作成し、作成した画像をカーナビ等の画面に描画する。
【０２１２】
上記のように、サーバは、自己位置推定のような各ＶＸＬの特徴量を主に必要とする用途ではＳＷＬＤをクライアントに送信し、地図描画のように詳細なＶＸＬ情報が必要な場合はＷＬＤをクライアントに送信する。これにより、地図データを効率よく送受信することが可能となる。
【０２１３】
なお、クライアントは、自分でＳＷＬＤとＷＬＤのどちらが必要かを判断し、サーバへＳＷＬＤ又はＷＬＤの送信を要求しても構わない。また、サーバは、クライアント又はネットワークの状況に合わせて、ＳＷＬＤかＷＬＤのどちらを送信すべきかを判断しても構わない。
【０２１４】
次に、スパースワールド（ＳＷＬＤ）とワールド（ＷＬＤ）との送受信を切り替える方法を説明する。
【０２１５】
ネットワーク帯域に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１４は、この場合の動作例を示す図である。例えば、ＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）環境下等の使用できるネットワーク帯域が限られている低速ネットワークが用いられている場合には、クライアントは、低速ネットワーク経由でサーバにアクセスし（Ｓ３２１）、サーバから地図情報としてＳＷＬＤを取得する（Ｓ３２２）。一方、ＷｉＦｉ環境下等のネットワーク帯域に余裕がある高速ネットワークが用いられている場合には、クライアントは、高速ネットワーク経由でサーバにアクセスし（Ｓ３２３）、サーバからＷＬＤを取得する（Ｓ３２４）。これにより、クライアントは、当該クライアントのネットワーク帯域に応じて適切な地図情報を取得することができる。
【０２１６】
具体的には、クライアントは、屋外ではＬＴＥ経由でＳＷＬＤを受信し、施設等の屋内に入った場合はＷｉＦｉ経由でＷＬＤを取得する。これにより、クライアントは、屋内のより詳細な地図情報を取得することが可能となる。
【０２１７】
このように、クライアントは、自身が用いるネットワークの帯域に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身が用いるネットワークの帯域を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントのネットワーク帯域を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
【０２１８】
また、移動速度に応じてＷＬＤ又はＳＷＬＤを受信するかを切替えるようにしてもよい。図１５は、この場合の動作例を示す図である。例えば、クライアントが高速移動をしている場合は（Ｓ３３１）、クライアントはＳＷＬＤをサーバから受信する（Ｓ３３２）。一方、クライアントが低速移動をしている場合は（Ｓ３３３）、クライアントはＷＬＤをサーバから受信する（Ｓ３３４）。これにより、クライアントは、ネットワーク帯域を抑制しながら、速度に合った地図情報を取得することができる。具体的には、クライアントは、高速道路を走行中にはデータ量の少ないＳＷＬＤを受信することにより、大まかな地図情報を適切な速度で更新することができる。一方、クライアントは、一般道路を走行中にはＷＬＤを受信することにより、より詳細な地図情報を取得することが可能となる。
【０２１９】
このように、クライアントは、自身の移動速度に応じてサーバにＷＬＤ又はＳＷＬＤを要求してもよい。または、クライアントは、自身の移動速度を示す情報をサーバに送信し、サーバは当該情報に応じて当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。または、サーバは、クライアントの移動速度を判別し、当該クライアントに適したデータ（ＷＬＤ又はＳＷＬＤ）を送信してもよい。
【０２２０】
また、クライアントは、最初にＳＷＬＤをサーバより取得し、その中で重要な領域のＷＬＤを取得しても構わない。例えば、クライアントは、地図データを取得する際に、最初に大まかな地図情報をＳＷＬＤで取得し、そこから建物、標識、又は人物等の特徴が多く出現する領域を絞り込み、絞り込んだ領域のＷＬＤを後から取得する。これにより、クライアントは、サーバからの受信データ量を抑制しつつ、必要な領域の詳細な情報を取得することが可能となる。
【０２２１】
また、サーバは、ＷＬＤから物体毎に別々のＳＷＬＤを作成し、クライアントは、用途に合わせて、それぞれを受信してもよい。これにより、ネットワーク帯域を抑制できる。例えば、サーバは、ＷＬＤから予め人又は車を認識し、人のＳＷＬＤと車のＳＷＬＤを作成する。クライアントは、周囲の人の情報を取得したい場合には人のＳＷＬＤを、車の情報を取得したい場合には車のＳＷＬＤを受信する。また、このようなＳＷＬＤの種類はヘッダ等に付加された情報（フラグ又はタイプ等）によって区別するようにしても構わない。
【０２２２】
次に、本実施の形態に係る三次元データ符号化装置（例えばサーバ）の構成及び動作の流れを説明する。図１６は、本実施の形態に係る三次元データ符号化装置４００のブロック図である。図１７は、三次元データ符号化装置４００による三次元データ符号化処理のフローチャートである。
【０２２３】
図１６に示す三次元データ符号化装置４００は、入力三次元データ４１１を符号化することで符号化ストリームである符号化三次元データ４１３及び４１４を生成する。ここで、符号化三次元データ４１３はＷＬＤに対応する符号化三次元データであり、符号化三次元データ４１４はＳＷＬＤに対応する符号化三次元データである。この三次元データ符号化装置４００は、取得部４０１と、符号化領域決定部４０２と、ＳＷＬＤ抽出部４０３と、ＷＬＤ符号化部４０４と、ＳＷＬＤ符号化部４０５とを備える。
【０２２４】
図１７に示すように、まず、取得部４０１は、三次元空間内の点群データである入力三次元データ４１１を取得する（Ｓ４０１）。
【０２２５】
次に、符号化領域決定部４０２は、点群データが存在する空間領域に基づいて、符号化対象の空間領域を決定する（Ｓ４０２）。
【０２２６】
次に、ＳＷＬＤ抽出部４０３は、符号化対象の空間領域をＷＬＤと定義し、ＷＬＤに含まれる各ＶＸＬから特徴量を算出する。そして、ＳＷＬＤ抽出部４０３は、特徴量が予め定められた閾値以上のＶＸＬを抽出し、抽出したＶＸＬをＦＶＸＬと定義し、当該ＦＶＸＬをＳＷＬＤへ追加することで、抽出三次元データ４１２を生成する（Ｓ４０３）。つまり、入力三次元データ４１１から特徴量が閾値以上の抽出三次元データ４１２が抽出される。
【０２２７】
次に、ＷＬＤ符号化部４０４は、ＷＬＤに対応する入力三次元データ４１１を符号化することでＷＬＤに対応する符号化三次元データ４１３を生成する（Ｓ４０４）。このとき、ＷＬＤ符号化部４０４は、符号化三次元データ４１３のヘッダに、当該符号化三次元データ４１３がＷＬＤを含むストリームであることを区別するための情報を付加する。
【０２２８】
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤに対応する抽出三次元データ４１２を符号化することでＳＷＬＤに対応する符号化三次元データ４１４を生成する（Ｓ４０５）。このとき、ＳＷＬＤ符号化部４０５は、符号化三次元データ４１４のヘッダに、当該符号化三次元データ４１４がＳＷＬＤを含むストリームであることを区別するための情報を付加する。
【０２２９】
なお、符号化三次元データ４１３を生成する処理と、符号化三次元データ４１４を生成する処理との処理順は上記と逆でもよい。また、これらの処理の一部又は全てが並列に行われてもよい。
【０２３０】
符号化三次元データ４１３及び４１４のヘッダに付与される情報として、例えば、「ｗｏｒｌｄ＿ｔｙｐｅ」というパラメータが定義される。ｗｏｒｌｄ＿ｔｙｐｅ＝０の場合はストリームがＷＬＤを含むことを表し、ｗｏｒｌｄ＿ｔｙｐｅ＝１の場合はストリームがＳＷＬＤを含むことを表す。更にその他の多数の種別を定義する場合には、ｗｏｒｌｄ＿ｔｙｐｅ＝２のように割り当てる数値を増やすようにしても構わない。また、符号化三次元データ４１３及び４１４の一方に特定のフラグが含まれてもよい。例えば、符号化三次元データ４１４に、当該ストリームがＳＷＬＤを含むことを含むフラグが付与されてもよい。この場合、復号装置は、フラグの有無によりＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別できる。
【０２３１】
また、ＷＬＤ符号化部４０４がＷＬＤを符号化する際に使用する符号化方法と、ＳＷＬＤ符号化部４０５がＳＷＬＤを符号化する際に使用する符号化方法とは異なってもよい。
【０２３２】
例えば、ＳＷＬＤではデータが間引かされているため、ＷＬＤに比べ、周辺のデータとの相関が低くなる可能性がある。よって、ＳＷＬＤに用いられる符号化方法では、ＷＬＤに用いられる符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
【０２３３】
また、ＳＷＬＤに用いられる符号化方法とＷＬＤに用いられる符号化方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
【０２３４】
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより小さくなるように符号化を行う。例えば、上述したようにＳＷＬＤは、ＷＬＤに比べ、データ間の相関が低くなる可能性がある。これにより、符号化効率が下がり、符号化三次元データ４１４のデータサイズがＷＬＤの符号化三次元データ４１３のデータサイズより大きくなる可能性がある。よって、ＳＷＬＤ符号化部４０５は、得られた符号化三次元データ４１４のデータサイズが、ＷＬＤの符号化三次元データ４１３のデータサイズより大きい場合には、再符号化を行うことで、データサイズを低減した符号化三次元データ４１４を再生成する。
【０２３５】
例えば、ＳＷＬＤ抽出部４０３は、抽出する特徴点の数を減らした抽出三次元データ４１２を再生成し、ＳＷＬＤ符号化部４０５は、当該抽出三次元データ４１２を符号化する。または、ＳＷＬＤ符号化部４０５における量子化の程度をより粗くしてもよい。例えば、後述する８分木構造において、最下層のデータを丸め込むことで、量子化の程度を粗くすることができる。
【０２３６】
また、ＳＷＬＤ符号化部４０５は、ＳＷＬＤの符号化三次元データ４１４のデータサイズをＷＬＤの符号化三次元データ４１３のデータサイズより小さくできない場合は、ＳＷＬＤの符号化三次元データ４１４を生成しなくてもよい。または、ＷＬＤの符号化三次元データ４１３がＳＷＬＤの符号化三次元データ４１４にコピーされてもよい。つまり、ＳＷＬＤの符号化三次元データ４１４としてＷＬＤの符号化三次元データ４１３がそのまま用いられてもよい。
【０２３７】
次に、本実施の形態に係る三次元データ復号装置（例えばクライアント）の構成及び動作の流れを説明する。図１８は、本実施の形態に係る三次元データ復号装置５００のブロック図である。図１９は、三次元データ復号装置５００による三次元データ復号処理のフローチャートである。
【０２３８】
図１８に示す三次元データ復号装置５００は、符号化三次元データ５１１を復号することで復号三次元データ５１２又は５１３を生成する。ここで、符号化三次元データ５１１は、例えば、三次元データ符号化装置４００で生成された符号化三次元データ４１３又は４１４である。
【０２３９】
この三次元データ復号装置５００は、取得部５０１と、ヘッダ解析部５０２と、ＷＬＤ復号部５０３と、ＳＷＬＤ復号部５０４とを備える。
【０２４０】
図１９に示すように、まず、取得部５０１は、符号化三次元データ５１１を取得する（Ｓ５０１）。次に、ヘッダ解析部５０２は、符号化三次元データ５１１のヘッダを解析し、符号化三次元データ５１１がＷＬＤを含むストリームか、ＳＷＬＤを含むストリームかを判別する（Ｓ５０２）。例えば、上述したｗｏｒｌｄ＿ｔｙｐｅのパラメータが参照され、判別が行われる。
【０２４１】
符号化三次元データ５１１がＷＬＤを含むストリームである場合（Ｓ５０３でＹｅｓ）、ＷＬＤ復号部５０３は、符号化三次元データ５１１を復号することでＷＬＤの復号三次元データ５１２を生成する（Ｓ５０４）。一方、符号化三次元データ５１１がＳＷＬＤを含むストリームである場合（Ｓ５０３でＮｏ）、ＳＷＬＤ復号部５０４は、符号化三次元データ５１１を復号することでＳＷＬＤの復号三次元データ５１３を生成する（Ｓ５０５）。
【０２４２】
また、符号化装置と同様に、ＷＬＤ復号部５０３がＷＬＤを復号する際に使用する復号方法と、ＳＷＬＤ復号部５０４がＳＷＬＤを復号する際に使用する復号方法とは異なってもよい。例えば、ＳＷＬＤに用いられる復号方法では、ＷＬＤに用いられる復号方法よりもイントラ予測及びインター予測のうちインター予測が優先されてもよい。
【０２４３】
また、ＳＷＬＤに用いられる復号方法とＷＬＤに用いられる復号方法とでは、三次元位置の表現手法が異なってもよい。例えば、ＳＷＬＤでは、三次元座標によりＳＶＸＬの三次元位置を表現し、ＷＬＤでは、後述する８分木により三次元位置が表現されてもよいし、その逆でもよい。
【０２４４】
次に、三次元位置の表現手法である８分木表現について説明する。三次元データに含まれるＶＸＬデータは８分木構造に変換された後、符号化される。図２０は、ＷＬＤのＶＸＬの一例を示す図である。図２１は、図２０に示すＷＬＤの８分木構造を示す図である。図２０に示す例では、点群を含むＶＸＬ（以下、有効ＶＸＬ）である３つＶＸＬ１〜３が存在する。図２１に示すように、８分木構造はノードとリーフで構成される。各ノードは最大で８つのノードまたはリーフを持つ。各リーフはＶＸＬ情報を持つ。ここで、図２１に示すリーフのうち、リーフ１、２、３はそれぞれ図２０に示すＶＸＬ１、ＶＸＬ２、ＶＸＬ３を表す。
【０２４５】
具体的には、各ノード及びリーフは三次元位置に対応する。ノード１は、図２０に示す全体のブロックに対応する。ノード１に対応するブロックは８つのブロックに分割され、８つのブロックのうち、有効ＶＸＬを含むブロックがノードに設定され、それ以外のブロックはリーフに設定される。ノードに対応するブロックは、さらに８つのノードまたはリーフに分割され、この処理が木構造の階層分繰り返される。また、最下層のブロックは、全てリーフに設定される。
【０２４６】
また、図２２は、図２０に示すＷＬＤから生成したＳＷＬＤの例を示す図である。図２０に示すＶＸＬ１及びＶＸＬ２は特徴量抽出の結果、ＦＶＸＬ１及びＦＶＸＬ２と判定され、ＳＷＬＤに加えられている。一方で、ＶＸＬ３はＦＶＸＬと判定されず、ＳＷＬＤに含まれていない。図２３は、図２２に示すＳＷＬＤの８分木構造を示す図である。図２３に示す８分木構造では、図２１に示す、ＶＸＬ３に相当するリーフ３が削除されている。これにより、図２１に示すノード３が有効ＶＸＬを持たなくなり、リーフに変更されている。このように一般的にＳＷＬＤのリーフ数はＷＬＤのリーフ数より少なくなり、ＳＷＬＤの符号化三次元データもＷＬＤの符号化三次元データより小さくなる。
【０２４７】
以下、本実施の形態の変形例について説明する。
【０２４８】
例えば、車載装置等のクライアントは、自己位置推定を行う場合に、ＳＷＬＤをサーバから受信し、ＳＷＬＤを用いて自己位置推定を行い、障害物検知を行う場合は、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組合せ等の様々な方法を用いて自分で取得した周辺の三次元情報に基づいて障害物検知を実施してもよい。
【０２４９】
また、一般的にＳＷＬＤには平坦領域のＶＸＬデータが含まれにくい。そのため、サーバは、静的な障害物の検知用に、ＷＬＤをサブサンプルしたサブランプルワールド（ｓｕｂＷＬＤ）を保持し、ＳＷＬＤとｓｕｂＷＬＤをクライアントに送信してもよい。これにより、ネットワーク帯域を抑制しつつ、クライアント側で自己位置推定及び障害物検知を行うことができる。
【０２５０】
また、クライアントが三次元地図データを高速に描画する際には、地図情報がメッシュ構造である方が便利な場合がある。そこで、サーバは、ＷＬＤからメッシュを生成し、メッシュワールド（ＭＷＬＤ）として予め保持してもよい。例えばクライアントは、粗い三次元描画を必要としている場合にはＭＷＬＤを受信し、詳細な三次元描画を必要としている場合にはＷＬＤを受信する。これにより、ネットワーク帯域を抑制することができる。
【０２５１】
また、サーバは、各ＶＸＬのうち、特徴量が閾値以上であるＶＸＬをＦＶＸＬに設定したが、異なる方法にてＦＶＸＬを算出しても構わない。例えば、サーバは、信号又は交差点などを構成するＶＸＬ、ＶＬＭ、ＳＰＳ、又はＧＯＳを、自己位置推定、運転アシスト、又は自動運転等に必要と判断し、ＦＶＸＬ、ＦＶＬＭ、ＦＳＰＳ、ＦＧＯＳとしてＳＷＬＤに含めるようにしても構わない。また、上記判断は手動で行われてもよい。なお、特徴量に基づき設定されたＦＶＸＬ等に、上記方法で得られたＦＶＸＬ等を加えてもよい。つまり、ＳＷＬＤ抽出部４０３は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出してもよい。
【０２５２】
また、それらの用途に必要な旨を特徴量とは別にラベリングするようにしても構わない。また、サーバは、ＳＷＬＤの上位レイヤ（例えばレーンワールド）として、信号又は交差点などの自己位置推定、運転アシスト、又は自動運転等に必要なＦＶＸＬを別途保持してもよい。
【０２５３】
また、サーバは、ＷＬＤ内のＶＸＬにもランダムアクセス単位又は所定の単位毎に属性を付加してもよい。属性は、例えば、自己位置推定に必要或いは不要かを示す情報、又は、信号或いは交差点などの交通情報として重要かどうかなどを示す情報を含む。また、属性は、レーン情報（ＧＤＦ：Ｇｅｏｇｒａｐｈｉｃ  Ｄａｔａ  Ｆｉｌｅｓなど）におけるＦｅａｔｕｒｅ（交差点又は道路など）との対応関係を含んでもよい。
【０２５４】
また、ＷＬＤ又はＳＷＬＤの更新方法として下記のような方法を用いても構わない。
【０２５５】
人、工事、又は並木（トラック向け）の変化などを示す更新情報が点群又はメタデータとしてサーバにアップロードされる。サーバは、当該アップロードに基づき、ＷＬＤを更新し、その後、更新したＷＬＤを用いてＳＷＬＤを更新する。
【０２５６】
また、クライアントは、自己位置推定時に自身で生成した三次元情報とサーバから受信した三次元情報との不整合を検知した場合、自身で生成した三次元情報を更新通知とともにサーバに送信してもよい。この場合、サーバは、ＷＬＤを用いてＳＷＬＤを更新する。ＳＷＬＤが更新されない場合、サーバは、ＷＬＤ自体が古いと判断する。
【０２５７】
また、符号化ストリームのヘッダ情報として、ＷＬＤかＳＷＬＤかを区別する情報が付加されるとしたが、例えば、メッシュワールド又はレーンワールド等、多種類のワールドが存在する場合には、それらを区別する情報がヘッダ情報に付加されても構わない。また、特徴量が異なるＳＷＬＤが多数存在する場合には、それぞれを区別する情報がヘッダ情報に付加されても構わない。
【０２５８】
また、ＳＷＬＤは、ＦＶＸＬで構成されるとしたが、ＦＶＸＬと判定されなかったＶＸＬを含んでもよい。例えば、ＳＷＬＤは、ＦＶＸＬの特徴量を算出する際に使用する隣接ＶＸＬを含んでもよい。これにより、ＳＷＬＤの各ＦＶＸＬに特徴量情報が付加されない場合でも、クライアントは、ＳＷＬＤを受信した際にＦＶＸＬの特徴量を算出することができる。なお、その際には、ＳＷＬＤは各ＶＸＬがＦＶＸＬかＶＸＬかを区別するための情報を含んでもよい。
【０２５９】
以上のように、三次元データ符号化装置４００は、入力三次元データ４１１（第１三次元データ）から特徴量が閾値以上の抽出三次元データ４１２（第２三次元データ）を抽出し、抽出三次元データ４１２を符号化することで符号化三次元データ４１４（第１符号化三次元データ）を生成する。
【０２６０】
これによれば、三次元データ符号化装置４００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４を生成する。これにより、入力三次元データ４１１をそのまま符号化する場合に比べてデータ量を削減できる。よって、三次元データ符号化装置４００は、伝送するデータ量を削減できる。
【０２６１】
また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１を符号化することで符号化三次元データ４１３（第２符号化三次元データ）を生成する。
【０２６２】
これによれば、三次元データ符号化装置４００は、例えば、使用用途等に応じて、符号化三次元データ４１３と符号化三次元データ４１４とを選択的に伝送できる。
【０２６３】
また、抽出三次元データ４１２は、第１符号化方法により符号化され、入力三次元データ４１１は、第１符号化方法とは異なる第２符号化方法により符号化される。
【０２６４】
これによれば、三次元データ符号化装置４００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した符号化方法を用いることができる。
【０２６５】
また、第１符号化方法では、第２符号化方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
【０２６６】
これによれば、三次元データ符号化装置４００は、隣接するデータ間の相関が低くなりやすい抽出三次元データ４１２に対して、インター予測の優先度を上げることができる。
【０２６７】
また、第１符号化方法と第２符号化方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２符号化方法では、８分木により三次元位置が表現され、第１符号化方法では、三次元座標により三次元位置を表現される。
【０２６８】
これによれば、三次元データ符号化装置４００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
【０２６９】
また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。つまり、当該識別子は、符号化三次元データがＷＬＤの符号三次元データ４１３であるかＳＷＬＤの符号化三次元データ４１４であるかを示す。
【０２７０】
これによれば、復号装置は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
【０２７１】
また、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量が符号化三次元データ４１３のデータ量より小さくなるように抽出三次元データ４１２を符号化する。
【０２７２】
これによれば、三次元データ符号化装置４００は、符号化三次元データ４１４のデータ量を符号化三次元データ４１３のデータ量より小さくできる。
【０２７３】
また、三次元データ符号化装置４００は、さらに、入力三次元データ４１１から予め定められた属性を有する物体に対応するデータを抽出三次元データ４１２として抽出する。例えば、予め定められた属性を有する物体とは、自己位置推定、運転アシスト、又は自動運転等に必要な物体であり、信号又は交差点などである。
【０２７４】
これによれば、三次元データ符号化装置４００は、復号装置で必要となるデータを含む符号化三次元データ４１４を生成できる。
【０２７５】
また、三次元データ符号化装置４００（サーバ）は、さらに、クライアントの状態に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
【０２７６】
これによれば、三次元データ符号化装置４００は、クライアントの状態に応じて適切なデータを送信できる。
【０２７７】
また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
【０２７８】
また、三次元データ符号化装置４００は、さらに、クライアントの要求に応じて、符号化三次元データ４１３及び４１４の一方をクライアントに送信する。
【０２７９】
これによれば、三次元データ符号化装置４００は、クライアントの要求に応じて適切なデータを送信できる。
【０２８０】
また、本実施の形態に係る三次元データ復号装置５００は、上記三次元データ符号化装置４００により生成された符号化三次元データ４１３又は４１４を復号する。
【０２８１】
つまり、三次元データ復号装置５００は、入力三次元データ４１１から抽出された特徴量が閾値以上の抽出三次元データ４１２が符号化されることで得られた符号化三次元データ４１４を第１復号方法により復号する。また、三次元データ復号装置５００は、入力三次元データ４１１が符号化されることで得られた符号化三次元データ４１３を、第１復号方法とは異なる第２復号方法により復号する。
【０２８２】
これによれば、三次元データ復号装置５００は、特徴量が閾値以上のデータを符号化した符号化三次元データ４１４と、符号化三次元データ４１３とを、例えば、使用用途等に応じて選択的に受信できる。これにより、三次元データ復号装置５００は、伝送するデータ量を削減できる。さらに、三次元データ復号装置５００は、入力三次元データ４１１と抽出三次元データ４１２とにそれぞれ適した復号方法を用いることができる。
【０２８３】
また、第１復号方法では、第２復号方法よりもイントラ予測及びインター予測のうちインター予測が優先される。
【０２８４】
これによれば、三次元データ復号装置５００は、隣接するデータ間の相関が低くなりやすい抽出三次元データに対して、インター予測の優先度を上げることができる。
【０２８５】
また、第１復号方法と第２復号方法とでは、三次元位置の表現手法が異なる。例えば、例えば、第２復号方法では、８分木により三次元位置が表現され、第１復号方法では、三次元座標により三次元位置を表現される。
【０２８６】
これによれば、三次元データ復号装置５００は、データ数（ＶＸＬ又はＳＶＸＬの数）が異なる三次元データに対して、より適した三次元位置の表現手法を用いることができる。
【０２８７】
また、符号化三次元データ４１３及び４１４の少なくとも一方は、当該符号化三次元データが入力三次元データ４１１を符号化することで得られた符号化三次元データであるか、入力三次元データ４１１のうちの一部を符号化することで得られた符号化三次元データであるかを示す識別子を含む。三次元データ復号装置５００は、当該識別子を参照して、符号化三次元データ４１３及び４１４を識別する。
【０２８８】
これによれば、三次元データ復号装置５００は、取得した符号化三次元データが符号化三次元データ４１３であるか符号化三次元データ４１４であるかを容易に判定できる。
【０２８９】
また、三次元データ復号装置５００は、さらに、クライアント（三次元データ復号装置５００）の状態をサーバに通知する。三次元データ復号装置５００は、クライアントの状態に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
【０２９０】
これによれば、三次元データ復号装置５００は、クライアントの状態に応じて適切なデータを受信できる。
【０２９１】
また、クライアントの状態は、クライアントの通信状況（例えばネットワーク帯域）、又はクライアントの移動速度を含む。
【０２９２】
また、三次元データ復号装置５００は、さらに、符号化三次元データ４１３及び４１４の一方をサーバに要求し、当該要求に応じて、サーバから送信された符号化三次元データ４１３及び４１４の一方を受信する。
【０２９３】
これによれば、三次元データ復号装置５００は、用途に応じた適切なデータを受信できる。
【０２９４】
以上、本開示の実施の形態に係る三次元データ符号化装置及び三次元データ復号装置について説明したが、本開示は、この実施の形態に限定されるものではない。
【０２９５】
また、上記実施の形態に係る三次元データ符号化装置又は三次元データ復号装置に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。
【０２９６】
また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０２９７】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【０２９８】
また、本開示は、三次元データ符号化装置又は三次元データ復号装置により実行される三次元データ符号化方法又は三次元データ復号方法として実現されてもよい。
【０２９９】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【０３００】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
【０３０１】
以上、一つまたは複数の態様に係る三次元データ符号化装置及び三次元データ復号装置について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【０３０２】
本開示は、三次元データ符号化装置及び三次元データ復号装置に適用できる。
【符号の説明】
【０３０３】
１００、４００  三次元データ符号化装置
１０１、２０１、４０１、５０１  取得部
１０２、４０２  符号化領域決定部
１０３  分割部
１０４  符号化部
１１１  三次元データ
１１２、２１１、４１３、４１４、５１１  符号化三次元データ
２００、５００  三次元データ復号装置
２０２  復号開始ＧＯＳ決定部
２０３  復号ＳＰＣ決定部
２０４  復号部
２１２、５１２、５１３  復号三次元データ
４０３  ＳＷＬＤ抽出部
４０４  ＷＬＤ符号化部
４０５  ＳＷＬＤ符号化部
４１１  入力三次元データ
４１２  抽出三次元データ
５０２  ヘッダ解析部
５０３  ＷＬＤ復号部
５０４  ＳＷＬＤ復号部
【図１】
2020145751.tif 000003
【図２】
2020145751.tif 000004
【図３】
2020145751.tif 000005
【図４】
2020145751.tif 000006
【図５】
2020145751.tif 000007
【図６】
2020145751.tif 000008
【図７】
2020145751.tif 000009
【図８】
2020145751.tif 000010
【図９】
2020145751.tif 000011
【図１０】
2020145751.tif 000012
【図１１】
2020145751.tif 000013
【図１２】
2020145751.tif 000014
【図１３】
2020145751.tif 000015
【図１４】
2020145751.tif 000016
【図１５】
2020145751.tif 000017
【図１６】
2020145751.tif 000018
【図１７】
2020145751.tif 000019
【図１８】
2020145751.tif 000020
【図１９】
2020145751.tif 000021
【図２０】
2020145751.tif 000022
【図２１】
2020145751.tif 000023
【図２２】
2020145751.tif 000024
【図２３】
2020145751.tif 000025