(57)【要約】本発明による３６０度ビデオ送信装置により実行される３６０度ビデオデータ処理方法は、少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得するステップと、上記３６０度ビデオデータを処理してプロジェクションされたピクチャ（projected picture）を取得するステップと、上記プロジェクションされたピクチャにリージョン別パッキング過程（region-wise packing）を適用してパッキングされたピクチャ（packed picture）を取得するステップと、上記３６０度ビデオデータに関するメタデータを生成するステップと、上記パッキングされたピクチャをエンコードするステップと、上記エンコードされたピクチャ及び上記メタデータに対して記憶又は送信のための処理を実行するステップと、を有し、上記パッキングされたピクチャは、上記パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、上記メタデータは、上記ＲＡＩ領域のタイプを示す情報を有することを特徴とする。【選択図】図９ｂ
2020520161.tif 000002
【特許請求の範囲】
【請求項１】
３６０度ビデオ送信装置により実行される３６０度ビデオデータ処理方法であって、
少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得するステップと、
前記３６０度ビデオデータを処理してプロジェクションされたピクチャ（projected picture）を取得するステップと、
前記プロジェクションされたピクチャにリージョン別パッキング過程（region-wise packing）を適用してパッキングされたピクチャ（packed picture）を取得するステップと、
前記３６０度ビデオデータに関するメタデータを生成するステップと、
前記パッキングされたピクチャをエンコードするステップと、
前記エンコードされたピクチャ及び前記メタデータに対して記憶又は送信のための処理を実行するステップと、を有し、
前記パッキングされたピクチャは、前記パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、
前記メタデータは、前記ＲＡＩ領域のタイプを示す情報を有する、３６０度ビデオデータ処理方法。
【請求項２】
前記ＲＡＩ領域のタイプを示す情報は、前記ＲＡＩ領域に有される情報が球形面上で前記対象リージョンと隣接するリージョンの映像情報であることを示す、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項３】
前記ＲＡＩ領域のタイプを示す情報は、参照リージョンのＲＡＩ領域の映像情報が前記対象リージョンの前記ＲＡＩ領域の映像情報として使われることを示す、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項４】
前記パッキングされたピクチャのプロジェクションタイプがエクイレクタングラプロジェクション（EquiRectangular Projection；ＥＲＰ）であり、前記対象リージョンの前記ＲＡＩ領域が前記パッキングされたピクチャの左側境界に隣接する場合、前記参照リージョンのＲＡＩ領域は、前記パッキングされたピクチャの右側境界に隣接する、請求項３に記載の３６０度ビデオデータ処理方法。
【請求項５】
前記パッキングされたピクチャは、前記対象リージョンに対する複数のＲＡＩ領域を有し、
前記メタデータは、前記ＲＡＩ領域が同じタイプを有するＲＡＩ領域であるかどうかを示すフラグを有し、
前記フラグの値が０である場合、前記メタデータは、前記ＲＡＩ領域の各々のタイプを示す情報を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項６】
前記メタデータは、前記ＲＡＩ領域に対する変換情報（transform information）がシグナリングされるかどうかを示すフラグを有し、
前記フラグの値が１である場合、前記メタデータは、前記ＲＡＩ領域に対する変換情報を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項７】
前記メタデータは、前記パッキングされたピクチャに前記対象リージョンのコーナ（corner）ＲＡＩ領域が有されるかどうかを示すフラグを有し、
前記コーナＲＡＩ領域は、前記対象リージョンの左上端、右上端、左下端又は右下端の周辺領域に位置するＲＡＩ領域であり、
前記フラグの値が１である場合、前記パッキングされたピクチャは、前記パッキングされたピクチャの対象リージョンに対する少なくとも一つのコーナＲＡＩ領域を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項８】
前記メタデータは、前記コーナＲＡＩ領域及び前記ＲＡＩ領域が同じタイプを有する前記ＲＡＩ領域であるかどうかを示すフラグを有し、
前記フラグの値が０である場合、前記メタデータは、前記コーナＲＡＩ領域のタイプを示す情報を有する、請求項７に記載の３６０度ビデオデータ処理方法。
【請求項９】
前記メタデータは、前記対象リージョンの拡張領域に関する情報がシグナリングされるかどうかを示すフラグを有し、
前記拡張領域は、前記対象リージョン及び前記ＲＡＩ領域を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項１０】
前記対象リージョンの前記拡張領域に関する情報がシグナリングされるかどうかを示す前記フラグの値が１である場合、
前記メタデータは、前記拡張領域の中点に対応する球形面上の位置のヨー（yaw）値、ピッチ（pitch）値、及びロール（roll）値を示す情報を有する、請求項９に記載の３６０度ビデオデータ処理方法。
【請求項１１】
前記対象リージョンの前記拡張領域に関する情報がシグナリングされるかどうかを示す前記フラグの値が１である場合、
前記メタデータは、前記拡張領域の水平範囲（horizontal range）及び垂直範囲（vertical range）を示す情報を有する、請求項９に記載の３６０度ビデオデータ処理方法。
【請求項１２】
前記メタデータは、前記ＲＡＩ領域に有されている３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグを有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項１３】
前記パッキングされたピクチャは、前記対象リージョンの特定境界に隣接するサブ（sub）ＲＡＩ領域を有し、
前記メタデータは、前記サブＲＡＩ領域の個数を示す情報を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項１４】
前記メタデータは、各々のサブＲＡＩ領域に対するサブ境界の長さを示す情報を有し、
前記各々のサブＲＡＩ領域に対する前記サブ境界は、前記特定境界のうち前記各々のサブＲＡＩ領域が隣接する部分である、請求項１３に記載の３６０度ビデオデータ処理方法。
【請求項１５】
３６０度ビデオ受信装置により実行される３６０度ビデオデータ処理方法であって、
３６０度ビデオデータに対するパッキングされたピクチャ（packed picture）に関する情報及び前記３６０度ビデオデータに関するメタデータを有する信号を受信するステップと、
前記信号を処理して前記パッキングされたピクチャに関する情報及び前記メタデータを取得するステップと、
前記パッキングされたピクチャに関する情報に基づいて前記パッキングされたピクチャをデコードするステップと、
前記メタデータに基づいて前記デコードされたピクチャを処理して３Ｄ空間でレンダリングするステップと、を有し、
前記パッキングされたピクチャは、前記パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、
前記メタデータは、前記ＲＡＩ領域のタイプを示す情報を有する、３６０度ビデオデータ処理方法。
【請求項１６】
前記ＲＡＩ領域のタイプを示す情報の値が４である場合、前記ＲＡＩ領域は、球形面上で前記対象リージョンと隣接するリージョンの３６０度ビデオデータを有する、請求項１５に記載の３６０度ビデオデータ処理方法。
【請求項１７】
前記ＲＡＩ領域のタイプを示す情報の値が５である場合、参照リージョンのＲＡＩ領域の３６０度ビデオデータが前記対象リージョンの前記ＲＡＩ領域の３６０度ビデオデータとして使われる、請求項１５に記載の３６０度ビデオデータ処理方法。
【請求項１８】
前記パッキングされたピクチャのプロジェクションタイプがエクイレクタングラプロジェクション（EquiRectangular Projection；ＥＲＰ）であり、前記対象リージョンの前記ＲＡＩ領域が前記パッキングされたピクチャの左側境界に隣接する場合、前記参照リージョンのＲＡＩ領域は、前記パッキングされたピクチャの右側境界に隣接する、請求項１７に記載の３６０度ビデオデータ処理方法。
【請求項１９】
前記パッキングされたピクチャは、前記対象リージョンに対する複数のＲＡＩ領域を有し、
前記メタデータは、前記ＲＡＩ領域が同じタイプを有するＲＡＩ領域であるかどうかを示すフラグを有し、
前記フラグの値が０である場合、前記メタデータは、前記ＲＡＩ領域の各々のタイプを示す情報を有する、請求項１５に記載の３６０度ビデオデータ処理方法。
【請求項２０】
前記メタデータは、前記ＲＡＩ領域に有される３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグを有し、
前記フラグの値が１である場合、前記ＲＡＩ領域に有される３６０度ビデオデータは、前記ビューポート生成に使われる、請求項１に記載の３６０度ビデオデータ処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、３６０度ビデオに関し、より詳しくは、３６０度ビデオを送受信する方法及びその装置に関する。
【背景技術】
【０００２】
ＶＲ（Virtual Reality）システムは、ユーザに電子的に投影された環境内にいるような感覚を提供する。ＶＲを提供するためのシステムは、より高画質のイメージと空間的な音響とを提供するためにさらに改善されることができる。ＶＲシステムは、ユーザがインタラクティブにＶＲコンテンツを消費するようにすることができる。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
本発明の技術的課題は、ＶＲシステムを提供するためのＶＲビデオデータ送信の効率を上げる方法及び装置を提供することにある。
【０００４】
本発明の他の技術的課題は、ＶＲビデオデータと、ＶＲビデオデータに関するメタデータと、を送信する方法及び装置を提供することにある。
【０００５】
本発明の他の技術的課題は、ＶＲビデオデータと、ＶＲビデオデータのリージョン（領域）別パッキング過程（手順）（procedure）に関するメタデータと、を送信する方法及び装置を提供することにある。
【０００６】
本発明の他の技術的課題は、ＶＲビデオデータと、ＶＲビデオデータがマッピングされたリージョンのリージョン別追加情報と、に関するメタデータを送信する方法及び装置を提供することにある。
【課題を解決するための手段】
【０００７】
本発明の一実施例によると、３６０度ビデオ送信装置により実行される３６０度ビデオ処理方法が提供される。方法は、少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得するステップと、３６０度ビデオデータを処理してプロジェクション（投影）されたピクチャ（projected picture）を取得するステップと、プロジェクションされたピクチャにリージョン別パッキング過程（region-wise packing）を適用してパッキングされたピクチャ（packed picture）を取得するステップと、３６０度ビデオデータに関するメタデータを生成するステップと、パッキングされたピクチャをエンコードするステップと、エンコードされたピクチャ及びメタデータに対して記憶（格納）（storage）又は送信のための処理を実行するステップと、を有し、パッキングされたピクチャは、パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、メタデータは、ＲＡＩ領域のタイプを示す情報を有することを特徴とする。
【０００８】
本発明の他の一実施例によると、３６０度ビデオデータを処理する３６０度ビデオ送信装置が提供される。３６０度ビデオ送信装置は、少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得するデータ入力部と、３６０度ビデオデータを処理してプロジェクションされたピクチャ（projected picture）を取得するプロジェクション処理部と、プロジェクションされたピクチャにリージョン別パッキング過程（region-wise packing）を適用してパッキングされたピクチャ（packed picture）を取得するリージョン別パッキング処理部と、３６０度ビデオデータに関するメタデータを生成するメタデータ処理部と、パッキングされたピクチャをエンコードするデータエンコーダと、エンコードされたピクチャ及びメタデータに対して記憶又は送信のための処理を実行する送信処理部と、を有し、パッキングされたピクチャは、パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、メタデータは、ＲＡＩ領域のタイプを示す情報を有することを特徴とする。
【０００９】
本発明の他の一実施例によると、３６０度ビデオ受信装置により実行される３６０度ビデオ処理方法が提供される。方法は、３６０度ビデオデータに対するパッキングされたピクチャ（packed picture）に関する情報及び３６０度ビデオデータに関するメタデータを有する信号を受信するステップと、信号を処理してパッキングされたピクチャに関する情報及びメタデータを取得するステップと、パッキングされたピクチャに関する情報に基づいてパッキングされたピクチャをデコードするステップと、メタデータに基づいてデコードされたピクチャを処理して３Ｄ空間でレンダリングするステップと、を有し、パッキングされたピクチャは、パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、メタデータは、ＲＡＩ領域のタイプを示す情報を有することを特徴とする。
【００１０】
本発明の他の一実施例によると、３６０度ビデオデータを処理する３６０度ビデオ受信装置が提供される。３６０度ビデオデータに対するパッキングされたピクチャ（packed picture）に関する情報及び３６０度ビデオデータに関するメタデータを有する信号を受信する受信部と、信号を処理してパッキングされたピクチャに関する情報及びメタデータを取得する受信処理部と、パッキングされたピクチャに関する情報に基づいてパッキングされたピクチャをデコードするデータデコーダと、メタデータに基づいてデコードされたピクチャを処理して３Ｄ空間でレンダリングするレンダラと、を有し、パッキングされたピクチャは、パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を有し、メタデータは、ＲＡＩ領域のタイプを示す情報を有することを特徴とする。
【発明の効果】
【００１１】
本発明によると、地上波放送網及びインターネット網を使用する次世代ハイブリッド放送をサポートする環境で、３６０コンテンツを効率的に送信できる。
【００１２】
本発明によると、ユーザの３６０（度）コンテンツの消費において、インタラクティブ経験（interactive experience）を提供するための方式（方案）を提案することができる。
【００１３】
本発明によると、ユーザの３６０コンテンツ消費において、３６０コンテンツ製作者の意図が正確に反映されるようにシグナリングする方式を提案することができる。
【００１４】
本発明によると、３６０コンテンツ伝達において、効率的に送信キャパシティを増やし、必要な情報が伝達されるようにする方式を提案することができる。
【００１５】
本発明によると、３６０度ビデオデータのプロジェクション及びリージョン別パッキング過程に関するメタデータを送信することができ、これによって全体的な送信効率を向上させる（improving）ことができる。
【図面の簡単な説明】
【００１６】
【図１】本発明による３６０度ビデオ提供のための全体アーキテクチャを示す図である。
【図２】本発明の一実施例によるメディアファイルの構造を示す図である。
【図３】本発明の一実施例によるメディアファイルの構造を示す図である。
【図４】ＤＡＳＨベースの適応型ストリーミングモデルの全般的な動作の一例を示す図である。
【図５】本発明が適用されることができる３６０度ビデオ送信装置の構成を概略的に説明する図である。
【図６】本発明が適用されることができる３６０度ビデオ受信装置の構成を概略的に説明する図である。
【図７】３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行される３６０度ビデオ提供のための全体アーキテクチャを例示的に示す図である。
【図８ａ】３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行されるＲＡＩ領域が考慮された３６０度ビデオ提供のための全体アーキテクチャを例示的に示す図である。
【図８ｂ】３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行されるＲＡＩ領域が考慮された３６０度ビデオ提供のための全体アーキテクチャを例示的に示す図である。
【図８ｃ】３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行されるＲＡＩ領域が考慮された３６０度ビデオ提供のための全体アーキテクチャを例示的に示す図である。
【図８ｄ】３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行されるＲＡＩ領域が考慮された３６０度ビデオ提供のための全体アーキテクチャを例示的に示す図である。
【図９ａ】上記リージョン別追加情報に関するメタデータの一例を示す図である。
【図９ｂ】上記リージョン別追加情報に関するメタデータの一例を示す図である。
【図９ｃ】上記リージョン別追加情報に関するメタデータの一例を示す図である。
【図１０】上記拡張領域に関する情報を示すメタデータの一例を示す図である。
【図１１ａ】上記リージョン別追加情報のタイプによる上記リージョン別追加情報を例示的に示す図である。
【図１１ｂ】上記リージョン別追加情報のタイプによる上記リージョン別追加情報を例示的に示す図である。
【図１２】ＥＲＰが適用されパッキングされたピクチャのリージョンに対するＲＡＩ領域の一例を示す図である。
【図１３】上記ＲＡＩ領域を含むＥＲＰが適用されパッキングされたピクチャの一例を示す図である。
【図１４】上記ポストプロセッシングを介して上記パッキングされたピクチャ内のリージョン間のクォリティ差を補正する一例を示す図である。
【図１５】上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ又は上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれて送信される上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘに関して例示的に示す図である。
【図１６ａ】本発明の一実施例によるＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスを示す図である。
【図１６ｂ】本発明の一実施例によるＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスを示す図である。
【図１６ｃ】本発明の一実施例によるＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスを示す図である。
【図１７】本発明の一実施例による上記ＥｘｔｅｎｄｅｄＣｏｖｅｒａｇｅＩｎｆｏｒｍａｔｉｏｎクラスを示す図である。
【図１８】本発明の一実施例によるＲｅｃｔＲｅｇｉｏｎＰａｃｋｉｎｇクラスを示す図である。
【図１９】上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ又は上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれて送信される上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスに関して例示的に示す図である。
【図２０】上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスを上記タイムドメタデータとして定義する一例を示す図である。
【図２１ａ】ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す図である。
【図２１ｂ】ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す図である。
【図２１ｃ】ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す図である。
【図２１ｄ】ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す図である。
【図２１ｅ】ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す図である。
【図２１ｆ】ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す図である。
【図２２】本発明による３６０度ビデオ送信装置による３６０度ビデオデータ処理方法を概略的に示す図である。
【図２３】本発明による３６０度ビデオ受信装置による３６０度ビデオデータ処理方法を概略的に示す図である。
【発明を実施するための形態】
【００１７】
本発明は、多様な変更を加えることができ、様々な実施例を有することができ、特定の実施例を図面に例示して詳細に説明する。しかしながら、これは、本発明を特定の実施例に限定するものではない。本明細書で使用する用語は、単に特定の実施例を説明するために使われたものであり、本発明の技術的思想を限定するために使われるものではない。単数の表現は、文脈上明白に異なる意味ではない限り、複数の表現を含む。本明細書で“含む”又は“有する”などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品又はこれらを組み合わせたものが存在することを指定するものであり、一つ又は複数の他の特徴、数字、ステップ、動作、構成要素、部品又はこれらを組み合わせたものの存在又は付加可能性を予め排除しないと理解しなければならない。
【００１８】
一方、本発明で説明される図面上の各構成は、互いに異なる特徴的な機能に関する説明の便宜のために独立して図示したものであり、各構成が互いに別個のハードウェアや別個のソフトウェアで具現されることを意味するものではない。例えば、各構成のうちの二つ以上の構成が統合されて一つの構成になることもでき、一つの構成が複数の構成に分けられることもできる。各構成が統合及び／又は分離された実施例も、本発明の本質から外れない限り、本発明の権利範囲に含まれる。
【００１９】
以下、添付図面を参照して、本発明の好ましい実施例をさらに詳細に説明する。以下、図面上の同じ構成要素に対しては同じ参照符号を使用し、同じ構成要素に対して重複した説明は省略する。
【００２０】
図１は、本発明による３６０度ビデオ提供のための全体アーキテクチャを示す。
【００２１】
本発明は、ユーザにバーチャルリアリティ（Virtual Reality、ＶＲ）を提供するために、３６０コンテンツを提供する方式を提案する。ＶＲとは、実際又は仮想の環境を複製（replicates）するための技術乃至その環境を意味する。ＶＲは、人工的にユーザに感覚的経験を提供し、これによって、ユーザは、電子的にプロジェクションされた環境にいるような経験をすることができる。
【００２２】
３６０コンテンツは、ＶＲを具現、提供するためのコンテンツ全般を意味し、３６０度ビデオ及び／又は３６０（度）オーディオを含むことができる。３６０度ビデオは、ＶＲを提供するために必要な、同時に全ての方向（３６０度）にキャプチャ又は再生されるビデオ乃至イメージコンテンツを意味する。以下、３６０度ビデオとは、３６０度ビデオを意味する。３６０度ビデオは、３Ｄモデルによって多様な形態の３Ｄ空間上に示されるビデオ乃至イメージを意味し、例えば、３６０度ビデオは、球形面（Spherical surface）上に示される。３６０オーディオもＶＲを提供するためのオーディオコンテンツであり、音響発生地が３次元の特定空間上に位置すると認知されることができる、空間的（Spatial）オーディオコンテンツを意味する。３６０コンテンツは、生成、処理されてユーザに送信されることができ、ユーザは、３６０コンテンツを利用してＶＲ経験を消費することができる。
【００２３】
本発明は、特に、３６０度ビデオを効果的に提供する方式を提案する。３６０度ビデオを提供するために、まず、一つ又は複数のカメラを介して３６０度ビデオがキャプチャされることができる。キャプチャされた３６０度ビデオは、一連の過程を経て送信され、受信側では、受信したデータを再び元来の３６０度ビデオに加工してレンダリングできる。これによって、３６０度ビデオがユーザに提供されることができる。
【００２４】
具体的には、３６０度ビデオ提供のための全体の過程は、キャプチャ過程（処理）（process）、準備過程、送信過程、プロセッシング過程、レンダリング過程及び／又はフィードバック過程を含むことができる。
【００２５】
キャプチャ過程は、一つ又は複数のカメラを介して複数の時点の各々に対するイメージ又はビデオをキャプチャする過程を意味する。キャプチャ過程により図示された図１の１１０のようなイメージ／ビデオデータが生成されることができる。図示された図１の１１０の各平面は、各時点に対するイメージ／ビデオを意味する。このキャプチャされた複数のイメージ／ビデオをロー（raw）データともいう。キャプチャ過程でキャプチャと関連するメタデータが生成されることができる。
【００２６】
このキャプチャのためにＶＲのための特殊なカメラが使われることができる。一実施例によれば、コンピュータで生成された仮想の空間に対する３６０度ビデオを提供しようとする場合、実際のカメラを介したキャプチャが実行されない。この場合、単に関連データが生成される過程として該当キャプチャ過程に代える。
【００２７】
準備過程は、キャプチャされたイメージ／ビデオ及びキャプチャ過程で発生したメタデータを処理する過程である。キャプチャされたイメージ／ビデオは、この準備過程で、ステッチング過程、プロジェクション過程、リージョン別パッキング過程（Region-wise Packing）及び／又はエンコーディング過程などを経ることができる。
【００２８】
まず、各々のイメージ／ビデオがステッチング（Stitching）過程を経ることができる。ステッチング過程は、各々のキャプチャされたイメージ／ビデオを連結（接合、接続）し（connecting）て一つのパノラマイメージ／ビデオ又は球形のイメージ／ビデオを作る過程である。
【００２９】
この後、ステッチされたイメージ／ビデオは、プロジェクション（Projection）過程を経ることができる。プロジェクション過程で、ステッチされたイメージ／ビデオは、２Ｄイメージ上にプロジェクションされることができる。この２Ｄイメージは、文脈によって２Ｄイメージフレームとも呼ばれる。２Ｄイメージにプロジェクションすることを２Ｄイメージにマッピングすると表現することもできる。プロジェクションされたイメージ／ビデオデータは、図示された図１の１２０のような２Ｄイメージの形態になることができる。
【００３０】
２Ｄイメージ上にプロジェクションされたビデオデータは、ビデオコーディング効率などを高めるために、リージョン別パッキング過程（Region-wise Packing）を経ることができる。リージョン別パッキングとは、２Ｄイメージ上にプロジェクションされたビデオデータをリージョン（Region）別に分けて処理を加える過程を意味する。ここで、リージョン（Region）とは、３６０度ビデオデータがプロジェクションされた２Ｄイメージが分かれた領域を意味する。このリージョンは、一実施例によれば、２Ｄイメージを均等に分けて区分され、又は任意に分かれて区分されることができる。また、一実施例によれば、リージョンは、プロジェクションスキームによって区分されることもできる。リージョン別パッキング過程は、選択的（オプション）（optional）過程であり、準備過程から省略されることができる。
【００３１】
一実施例によれば、この処理過程は、ビデオコーディング効率を上げるために、各リージョンを回転し、又は２Ｄイメージ上で再配列する過程を含むことができる。例えば、リージョンを回転してリージョンの特定の辺が互いに近接して位置するようにすることによって、コーディング時の効率が高まるようにすることができる。
【００３２】
一実施例によれば、この処理過程は、３６０度ビデオ上の領域別に解像度（resolution）を異ならせる（差等化する）（differentiate）ために、特定リージョンに対する解像度を高め、又は低くする過程を含むことができる。例えば、３６０度ビデオ上で相対的により重要な領域に該当するリージョンは、他のリージョンより解像度を高めることができる。２Ｄイメージ上にプロジェクションされたビデオデータ又はリージョン別にパッキングされたビデオデータは、ビデオコーデックを介したエンコーディング過程を経ることができる。
【００３３】
一実施例によれば、準備過程は、付加的にエディティング（editing）過程などをさらに含むことができる。このエディティング過程において、プロジェクション前後のイメージ／ビデオデータに対する編集などがさらに実行されることができる。準備過程でも同様に、ステッチング／プロジェクション／エンコーディング／エディティングなどに関するメタデータが生成されることができる。また、２Ｄイメージ上にプロジェクションされたビデオデータの初期時点、又はＲＯＩ（Region Of Interest）などに関するメタデータが生成されることができる。
【００３４】
送信過程は、準備過程を経たイメージ／ビデオデータ及びメタデータを処理して送信する過程である。送信のために任意の送信プロトコルによる処理が実行されることができる。送信のための処理を終えたデータは、放送網及び／又はブロードバンドを介して伝達されることができる。このデータは、オンデマンド（On Demand）方式で受信側に伝達されることもできる。受信側では、多様な経路を介して該当データを受信することができる。
【００３５】
プロセッシング過程は、受信したデータをデコードし、プロジェクションされているイメージ／ビデオデータを３Ｄモデル上にリプロジェクション（Re-projection）する過程を意味する。この過程で２Ｄイメージ上にプロジェクションされているイメージ／ビデオデータが３Ｄ空間上にリプロジェクションされることができる。この過程は、文脈によってマッピング、プロジェクションとも呼ばれる。このとき、マッピングされる３Ｄ空間は、３Ｄモデルによって他の形態を有することができる。例えば、３Ｄモデルには、球形（Sphere）、キューブ（Cube）、シリンダ（Cylinder）又はピラミッド（Pyramid）がある。
【００３６】
一実施例によれば、プロセッシング過程は、付加的にエディティング（editing）過程、アップスケーリング（upscaling）過程などをさらに含むことができる。このエディティング過程において、リプロジェクション前後のイメージ／ビデオデータに対する編集などがさらに実行されることができる。イメージ／ビデオデータが縮小されている場合、アップスケーリング過程でサンプルのアップスケーリングを介してその大きさを拡大することができる。必要な場合、ダウンスケーリングを介してサイズを縮小する作業が実行されることもできる。
【００３７】
レンダリング過程は、３Ｄ空間上にリプロジェクションされたイメージ／ビデオデータをレンダリングして表示する過程を意味する。表現によって、リプロジェクションとレンダリングとを統合して３Ｄモデル上にレンダリングすると表現することもできる。３Ｄモデル上にリプロジェクションされた（又は、３Ｄモデル上にレンダリングされた）イメージ／ビデオは、図示された図１の１３０のような形態を有することができる。図１に図示された１３０は、球形（Sphere）の３Ｄモデルにリプロジェクションされた場合である。ユーザは、ＶＲディスプレイなどを介してレンダリングされたイメージ／ビデオの一部領域を見ることができる。このとき、ユーザが見るようになる領域は、図１に図示された１４０のような形態である。
【００３８】
フィードバック過程は、ディスプレイ過程で取得されることができる多様なフィードバック情報を送信側に伝達する過程を意味する。フィードバック過程を介して３６０度ビデオ消費において、双方向性（Interactivity）が提供されることができる。一実施例によれば、フィードバック過程でヘッドオリエンテーション（頭の向き）（Head Orientation）情報、ユーザが現在見ている領域を示すビューポート（Viewport）情報などが送信側に伝達されることができる。一実施例によれば、ユーザは、ＶＲ環境上に具現されたものと相互作用することもでき、この場合、その相互作用と関連する情報がフィードバック過程で送信側乃至サービスプロバイダ側に伝達されることもできる。一実施例によれば、フィードバック過程は、実行されないこともある。
【００３９】
ヘッドオリエンテーション情報は、ユーザの頭の位置、角度、動きなどに関する情報を意味する。この情報に基づいてユーザが現在３６０度ビデオ内で見ている領域に関する情報、即ち、ビューポート情報が計算されることができる。
【００４０】
ビューポート情報は、現在ユーザが３６０度ビデオで見ている領域に関する情報である。これによってゲイズ分析（Gaze Analysis）が実行され、ユーザがどのような方式で３６０度ビデオを消費するか、又は３６０度ビデオのどの領域をどれくらい凝視するかなどを確認することもできる。ゲイズ分析は、受信側で実行されて送信側にフィードバックチャネルを介して伝達されることもできる。ＶＲディスプレイなどの装置は、ユーザの頭の位置／方向、装置がサポートする垂直（vertical）又は水平（horizontal）ＦＯＶ（Field Of View）情報などに基づいてビューポート領域を抽出することができる。
【００４１】
一実施例によれば、前述したフィードバック情報は、送信側に伝達されるだけでなく、受信側で消費されることもできる。即ち、前述したフィードバック情報を利用して受信側のデコーディング、リプロジェクション、レンダリング過程などが実行されることができる。例えば、ヘッドオリエンテーション情報及び／又はビューポート情報を利用して現在ユーザが見ている領域に対する３６０度ビデオのみが優先的にデコーディング及びレンダリングされることもできる。
【００４２】
ここで、ビューポート（viewport）乃至ビューポート領域とは、ユーザが３６０度ビデオで見ている領域を意味する。視点（viewpoint）は、ユーザが３６０度ビデオで見ているポイントであり、ビューポート領域の正中央ポイントを意味する。即ち、ビューポートは、視点を中心にする領域であり、その領域が占める大きさ形態などは、後述するＦＯＶ（Field Of View）により決定されることができる。
【００４３】
前述した３６０度ビデオ提供のための全アーキテクチャ内で、キャプチャ／プロジェクション／エンコーディング／送信／デコーディング／リプロジェクション／レンダリングの一連の過程を経るイメージ／ビデオデータを３６０度ビデオデータと呼ぶことができる。また、３６０度ビデオデータという用語は、このようなイメージ／ビデオデータと関連するメタデータ乃至シグナリング情報を含む概念として使われることもできる。
【００４４】
前述したオーディオ又はビデオなどのメディアデータを記憶して送信するために、定形化されたメディアファイルフォーマットが定義されることができる。一実施例によれば、メディアファイルは、ＩＳＯ  ＢＭＦＦ（ISO Base Media File Format）に基づくファイルフォーマットを有することができる。
【００４５】
図２及び図３は、本発明の一実施例によるメディアファイルの構造を示す。
【００４６】
本発明によるメディアファイルは、少なくとも一つのボックスを含むことができる。ここで、ボックス（box）は、メディアデータ又はメディアデータに関連するメタデータなどを含むデータブロック乃至オブジェクトである。ボックスは、互いに階層構造をなすことができ、それによって、データが分類されてメディアファイルが大容量メディアデータの記憶及び／又は送信に適した形態を有することができる。また、メディアファイルは、ユーザがメディアコンテンツの特定ポイントに移動する等、メディア情報のアクセス（接近）（access）に容易な構造を有することができる。
【００４７】
本発明によるメディアファイルは、ｆｔｙｐボックス、ｍｏｏｖボックス及び／又はｍｄａｔボックスを含むことができる。
【００４８】
ｆｔｙｐボックス（ファイルタイプボックス）は、該当メディアファイルに対するファイルタイプ又は互換性関連情報を提供することができる。ｆｔｙｐボックスは、該当メディアファイルのメディアデータに対する構成バージョン情報を含むことができる。復号器は、ｆｔｙｐボックスを参照して該当メディアファイルを区分することができる。
【００４９】
ｍｏｏｖボックス（ムービーボックス）は、該当メディアファイルのメディアデータに関するメタデータを含むボックスである。ｍｏｏｖボックスは、全てのメタデータのためのコンテナの役割を果たすことができる。ｍｏｏｖボックスは、メタデータ関連ボックスのうち最上位層のボックスである。一実施例によれば、ｍｏｏｖボックスは、メディアファイル内に一つのみが存在できる。
【００５０】
ｍｄａｔボックス（メディアデータボックス）は、該当メディアファイルの実際のメディアデータを盛り込む（含む）ボックスである。メディアデータは、オーディオサンプル及び／又はビデオサンプルを含むことができ、ｍｄａｔボックスは、このようなメディアサンプルを盛り込むコンテナの役割を果たすことができる。
【００５１】
一実施例によれば、前述したｍｏｏｖボックスは、ｍｖｈｄボックス、ｔｒａｋボックス及び／又はｍｖｅｘボックスなどを下位ボックスとしてさらに含むことができる。
【００５２】
ｍｖｈｄボックス（ムービーヘッダボックス）は、該当メディアファイルに含まれるメディアデータのメディアプレゼンテーション関連情報を含むことができる。即ち、ｍｖｈｄボックスは、該当メディアプレゼンテーションのメディア生成時間、変更時間、時間規格、期間などの情報を含むことができる。
【００５３】
ｔｒａｋボックス（トラックボックス）は、該当メディアデータのトラックに関連する情報を提供することができる。ｔｒａｋボックスは、オーディオトラック又はビデオトラックに対するストリーム関連情報、プレゼンテーション関連情報、アクセス関連情報などの情報を含むことができる。Ｔｒａｋボックスは、トラックの個数によって複数存在できる。
【００５４】
ｔｒａｋボックスは、一実施例によれば、ｔｋｈｄボックス（トラックヘッダボックス）を下位ボックスとしてさらに含むことができる。ｔｋｈｄボックスは、ｔｒａｋボックスが示す該当トラックに関する情報を含むことができる。ｔｋｈｄボックスは、該当トラックの生成時間、変更時間、トラック識別子などの情報を含むことができる。
【００５５】
ｍｖｅｘボックス（ムービー拡張（イクステンデッド）ボックス（movie extend box））は、該当メディアファイルに後述するｍｏｏｆボックスがあることを指示することができる。特定トラックの全てのメディアサンプルを知るために、ｍｏｏｆボックスがスキャンされなければならない。
【００５６】
本発明によるメディアファイルは、一実施例によれば、複数のフラグメントに分けられる（２００）。これによって、メディアファイルが分割されて記憶又は送信されることができる。メディアファイルのメディアデータ（ｍｄａｔボックス）は、複数のフラグメントに分けられ、各々のフラグメントは、ｍｏｏｆボックスと分けられたｍｄａｔボックスとを含むことができる。一実施例によれば、フラグメントを活用するためには、ｆｔｙｐボックス及び／又はｍｏｏｖボックスの情報が必要である。
【００５７】
ｍｏｏｆボックス（ムービーフラグメントボックス）は、該当フラグメントのメディアデータに関するメタデータを提供することができる。ｍｏｏｆボックスは、該当フラグメントのメタデータ関連ボックスのうち最上位層のボックスである。
【００５８】
ｍｄａｔボックス（メディアデータボックス）は、前述したように実際のメディアデータを含むことができる。このｍｄａｔボックスは、各々の該当フラグメントに該当するメディアデータのメディアサンプルを含むことができる。
【００５９】
一実施例によれば、前述したｍｏｏｆボックスは、ｍｆｈｄボックス及び／又はｔｒａｆボックスなどを下位ボックスとしてさらに含むことができる。
【００６０】
ｍｆｈｄボックス（ムービーフラグメントヘッダボックス）は、分割された複数のフラグメント間の連関性と関連する情報を含むことができる。ｍｆｈｄボックスは、シーケンスナンバ（sequence number）を含んで、該当フラグメントのメディアデータが分割された何番目のデータであるかを示すことができる。また、ｍｆｈｄボックスを利用して分割されたデータのうち欠落されたものはないかどうかが確認されることができる。
【００６１】
ｔｒａｆボックス（トラックフラグメントボックス）は、該当トラックフラグメントに関する情報を含むことができる。ｔｒａｆボックスは、該当フラグメントに含まれる分割されたトラックフラグメントに関するメタデータを提供することができる。ｔｒａｆボックスは、該当トラックフラグメント内のメディアサンプルが復号／再生されるようにメタデータを提供することができる。ｔｒａｆボックスは、トラックフラグメントの個数によって複数存在できる。
【００６２】
一実施例によれば、前述したｔｒａｆボックスは、ｔｆｈｄボックス及び／又はｔｒｕｎボックスなどを下位ボックスとしてさらに含むことができる。
【００６３】
ｔｆｈｄボックス（トラックフラグメントヘッダボックス）は、該当トラックフラグメントのヘッダ情報を含むことができる。ｔｆｈｄボックスは、前述したｔｒａｆボックスが示すトラックフラグメントのメディアサンプルに対して、基本的なサンプルの大きさ、期間、オフセット、識別子などの情報を提供することができる。
【００６４】
ｔｒｕｎボックス（トラックフラグメントラン（track fragment run box）ボックス）は、該当トラックフラグメント関連情報を含むことができる。ｔｒｕｎボックスは、メディアサンプル別期間、大きさ、再生時点などの情報を含むことができる。
【００６５】
前述したメディアファイル乃至メディアファイルのフラグメントは、セグメントとして処理されて送信されることができる。セグメントには、初期化セグメント（initialization segment）及び／又はメディアセグメント（media segment）がある。
【００６６】
図示された実施例の２１０のファイルは、メディアデータを除いてメディアデコーダの初期化と関連する情報などを含むファイルである。このファイルは、例えば、前述した初期化セグメントに該当できる。初期化セグメントは、前述したｆｔｙｐボックス及び／又はｍｏｏｖボックスを含むことができる。
【００６７】
図示された実施例の２２０のファイルは、前述したフラグメントを含むファイルである。このファイルは、例えば、前述したメディアセグメントに該当できる。メディアセグメントは、前述したｍｏｏｆボックス及び／又はｍｄａｔボックスを含むことができる。また、メディアセグメントは、ｓｔｙｐボックス及び／又はｓｉｄｘボックスをさらに含むことができる。
【００６８】
ｓｔｙｐボックス（セグメントタイプボックス）は、分割されたフラグメントのメディアデータを識別するための情報を提供することができる。ｓｔｙｐボックスは、分割されたフラグメントに対して、前述したｆｔｙｐボックスのような役割を果たすことができる。一実施例によれば、ｓｔｙｐボックスは、ｆｔｙｐボックスと同じフォーマットを有することができる。
【００６９】
ｓｉｄｘボックス（セグメントインデックスボックス）は、分割されたフラグメントに対するインデックスを示す情報を提供することができる。これによって、該当分割されたフラグメントが何番目のフラグメントかが指示されることができる。
【００７０】
一実施例によれば、２３０のｓｓｉｘボックスがさらに含まれることができ、ｓｓｉｘボックス（サブセグメントインデックスボックス）は、セグメントがサブセグメントにさらに分けられる場合において、そのサブセグメントのインデックスを示す情報を提供することができる。
【００７１】
メディアファイル内のボックスは、図示された実施例の２５０のようなボックス乃至フルボックス（ＦｕｌｌＢｏｘ）形態に基づいて、より拡張された情報を含むことができる。この実施例において、ｓｉｚｅフィールド、ｌａｒｇｅｓｉｚｅフィールドは、該当ボックスの長さをバイト単位などで表すことができる。ｖｅｒｓｉｏｎフィールドは、該当ボックスフォーマットのバージョンを示すことができる。Ｔｙｐｅフィールドは、該当ボックスのタイプ乃至識別子を示すことができる。ｆｌａｇｓフィールドは、該当ボックスと関連するフラグなどを示すことができる。
【００７２】
一方、本発明の３６０度ビデオに関するフィールド（属性）は、ＤＡＳＨベースの適応型（Adaptive）ストリーミングモデルに含まれて伝達されることができる。
【００７３】
図４は、ＤＡＳＨベースの適応型ストリーミングモデルの全般的な動作の一例を示す。図示された実施例の４００によるＤＡＳＨベースの適応型ストリーミングモデルは、ＨＴＴＰサーバとＤＡＳＨクライアントとの間の動作を記述している。ここで、ＤＡＳＨ（Dynamic Adaptive Streaming over HTTP）は、ＨＴＴＰベースの適応型ストリーミングをサポートするためのプロトコルであり、ネットワーク状況によって動的にストリーミングをサポートすることができる。それによって、ＡＶコンテンツの再生がシームレスに提供されることができる。
【００７４】
まず、ＤＡＳＨクライアントは、ＭＰＤを取得することができる。ＭＰＤは、ＨＴＴＰサーバなどのサービスプロバイダから伝達されることができる。ＤＡＳＨクライアントは、ＭＰＤに記述されたセグメントへのアクセス情報を利用してサーバに該当セグメントを要求することができる。ここで、この要求は、ネットワーク状態を反映して実行されることができる。
【００７５】
ＤＡＳＨクライアントは、該当セグメントを取得した後、これをメディアエンジンで処理して画面に表示できる。ＤＡＳＨクライアントは、再生時間及び／又はネットワーク状況などをリアルタイムに反映し、必要なセグメントを要求、取得することができる（Adaptive Streaming）。これによって、コンテンツがシームレスに再生されることができる。
【００７６】
ＭＰＤ（Media Presentation Description）は、ＤＡＳＨクライアントにセグメントを動的に取得させるための詳細情報を含むファイルであり、ＸＭＬ形態で表現されることができる。
【００７７】
ＤＡＳＨクライアントコントローラ（DASH Client Controller）は、ネットワーク状況を反映してＭＰＤ及び／又はセグメントを要求するコマンドを生成することができる。また、このコントローラは、取得された情報をメディアエンジン等の内部ブロックで使用するように制御できる。
【００７８】
ＭＰＤパーサ（Parser）は、取得したＭＰＤをリアルタイムでパージングできる。これによって、ＤＡＳＨクライアントコントローラは、必要なセグメントを取得することができるコマンドを生成する。
【００７９】
セグメントパーサ（Parser）は、取得したセグメントをリアルタイムでパージングできる。セグメントに含まれる情報によって、メディアエンジンなどの内部ブロックは、特定動作を実行することができる。
【００８０】
ＨＴＴＰクライアントは、必要なＭＰＤ及び／又はセグメントなどをＨＴＴＰサーバに要求できる。また、ＨＴＴＰクライアントは、サーバから取得したＭＰＤ及び／又はセグメントをＭＰＤパーサ又はセグメントパーサに伝達できる。
【００８１】
メディアエンジン（Media Engine）は、セグメントに含まれるメディアデータを利用してコンテンツを画面上に表示できる。このとき、ＭＰＤの情報が活用されることができる。
【００８２】
ＤＡＳＨデータモデルは、階層構造４１０を有することができる。メディアプレゼンテーションは、ＭＰＤにより記述されることができる。ＭＰＤは、メディアプレゼンテーションを作る複数の区間（Period）の時間的なシーケンスを記述することができる。ピリオドは、メディアコンテンツの一区間を示すことができる。
【００８３】
一区間で、データは、アダプテーションセットに含まれることができる。アダプテーションセットは、互いに交換されることができる複数のメディアコンテンツコンポーネントの集合である。アダプテーションは、リプレゼンテーションの集合を含むことができる。リプレゼンテーションは、メディアコンテンツコンポーネントに該当できる。一つのリプレゼンテーション内で、コンテンツは、複数のセグメントに時間的に分けられる。これは、適切なアクセシビリティ（接近性）（accessibility）及び伝達（delivery）のためである。各々のセグメントにアクセスするために各セグメントのＵＲＬが提供されることができる。
【００８４】
ＭＰＤは、メディアプレゼンテーションに関連する情報を提供することができ、ピリオドエレメント、アダプテーションセットエレメント、リプレゼンテーションエレメントは、各々、該当ピリオド、アダプテーションセット、リプレゼンテーションに対して記述できる。リプレゼンテーションは、サブリプレゼンテーションに分けられ、サブリプレゼンテーションエレメントは、該当サブリプレゼンテーションに対して記述できる。
【００８５】
ここで、共通（Ｃｏｍｍｏｎ）属性／エレメントが定義されることができ、これらは、アダプテーションセット、リプレゼンテーション、サブリプレゼンテーションなどに含まれる（適用される）ことができる。共通属性／エレメント中には、エッセンシャル（必須）プロパティ（ＥｓｓｅｎｔｉａｌＰｒｏｐｅｒｔｙ）及び／又はサプリメンタル（補足）プロパティ（ＳｕｐｐｌｅｍｅｎｔａｌＰｒｏｐｅｒｔｙ）がある。
【００８６】
エッセンシャルプロパティは、該当メディアプレゼンテーション関連データの処理時に必須であると判断されるエレメントを含む情報である。サプリメンタルプロパティは、該当メディアプレゼンテーション関連データの処理時に使われることもできるエレメントを含む情報である。一実施例によれば、後述するディスクリプタは、ＭＰＤを介して伝達される場合、エッセンシャルプロパティ及び／又はサプリメンタルプロパティ内に定義されて伝達されることができる。
【００８７】
図５は、本発明が適用されることができる３６０度ビデオ送信装置の構成を概略的に説明する図面である。
【００８８】
本発明による３６０度ビデオ送信装置は、前述した準備過程乃至送信過程に関連する動作を実行することができる。３６０度ビデオ送信装置は、データ入力部、ステッチャ（Stitcher）、プロジェクション処理部、リージョン別パッキング処理部（図示せず）、メタデータ処理部、（送信側）フィードバック処理部、データエンコーダ、カプセル化処理部、送信処理部及び／又は送信部を内部／外部エレメントとして含むことができる。
【００８９】
データ入力部は、キャプチャされた各視点別イメージ／ビデオの入力を受けることができる。この視点別イメージ／ビデオは、一つ又は複数のカメラによりキャプチャされたイメージ／ビデオである。また、データ入力部は、キャプチャ過程で発生したメタデータの入力を受けることができる。データ入力部は、入力された視点別イメージ／ビデオをステッチャに伝達し、キャプチャ過程のメタデータをシグナリング処理部に伝達できる。
【００９０】
ステッチャは、キャプチャされた視点別イメージ／ビデオに対するステッチング作業を実行することができる。ステッチャは、ステッチされた３６０度ビデオデータをプロジェクション処理部に伝達できる。ステッチャは、必要な場合、メタデータ処理部から必要なメタデータの伝達を受けてステッチング作業に利用できる。ステッチャは、ステッチング過程で発生したメタデータをメタデータ処理部に伝達できる。ステッチング過程のメタデータには、ステッチングが実行されたかどうか、ステッチングタイプなどの情報がある。
【００９１】
プロジェクション処理部は、ステッチされた３６０度ビデオデータを２Ｄイメージ上にプロジェクションできる。プロジェクション処理部は、多様なスキーム（scheme）によってプロジェクションを実行することができ、これに関しては後述する。プロジェクション処理部は、各視点別３６０度ビデオデータの該当デプス（depth）を考慮してマッピングを実行することができる。プロジェクション処理部は、必要な場合、メタデータ処理部からプロジェクションに必要なメタデータの伝達を受けてプロジェクション作業に利用できる。プロジェクション処理部は、プロジェクション過程で発生したメタデータをメタデータ処理部に伝達できる。プロジェクション処理部のメタデータには、プロジェクションスキームの種類などがある。
【００９２】
リージョン別パッキング処理部（図示せず）は、前述したリージョン別パッキング過程を実行することができる。即ち、リージョン別パッキング処理部は、プロジェクションされた３６０度ビデオデータをリージョン別に分け、各リージョンを回転、再配列し、又は各リージョンの解像度を変更する等の処理を実行することができる。前述したように、リージョン別パッキング過程は、選択的（optional）過程であり、リージョン別パッキングが実行されない場合、リージョン別パッキング処理部は省略されることができる。リージョン別パッキング処理部は、必要な場合、メタデータ処理部からリージョン別パッキングに必要なメタデータの伝達を受けてリージョン別パッキング作業に利用できる。リージョン別パッキング処理部は、リージョン別パッキング過程で発生したメタデータをメタデータ処理部に伝達できる。リージョン別パッキング処理部のメタデータには、各リージョンの回転程度、サイズなどがある。
【００９３】
前述したステッチャ、プロジェクション処理部及び／又はリージョン別パッキング処理部は、一実施例によれば、一つのハードウェアコンポーネントで実行されることもできる。
【００９４】
メタデータ処理部は、キャプチャ過程、ステッチング過程、プロジェクション過程、リージョン別パッキング過程、エンコーディング過程、カプセル化過程及び／又は送信のための処理過程で発生できるメタデータを処理することができる。メタデータ処理部は、このようなメタデータを利用して３６０度ビデオ関連メタデータを生成することができる。一実施例によれば、メタデータ処理部は、３６０度ビデオ関連メタデータをシグナリングテーブルの形態で生成することもできる。シグナリングコンテキスト（文脈）（signaling context）によって、３６０度ビデオ関連メタデータは、メタデータ又は３６０度ビデオ関連シグナリング情報とも呼ばれる。また、メタデータ処理部は、取得又は生成したメタデータを必要によって３６０度ビデオ送信装置の内部エレメントに伝達できる。メタデータ処理部は、３６０度ビデオ関連メタデータが受信側に送信されることができるように、データエンコーダ、カプセル化処理部及び／又は送信処理部に伝達できる。
【００９５】
データエンコーダは、２Ｄイメージ上にプロジェクションされた３６０度ビデオデータ及び／又はリージョン別にパッキングされた３６０度ビデオデータをエンコードすることができる。３６０度ビデオデータは、多様なフォーマットでエンコードされることができる。
【００９６】
カプセル化処理部は、エンコードされた３６０度ビデオデータ及び／又は３６０度ビデオ関連メタデータをファイルなどの形態でカプセル化できる。ここで、３６０度ビデオ関連メタデータは、前述したメタデータ処理部から伝達を受けたものである。カプセル化処理部は、該当データをＩＳＯＢＭＦＦ、ＣＦＦなどのファイルフォーマットでカプセル化し、又はその他のＤＡＳＨセグメントなどの形態で処理できる。カプセル化処理部は、一実施例によれば、３６０度ビデオ関連メタデータをファイルフォーマット上に含ませることができる。３６０関連メタデータは、例えば、ＩＳＯＢＭＦＦファイルフォーマット上の多様なレベルのボックス（box）に含まれ、又はファイル内で別個（別途）の（separate）トラック内のデータに含まれることができる。一実施例によれば、カプセル化処理部は、３６０度ビデオ関連メタデータ自体をファイルにカプセル化できる。送信処理部は、ファイルフォーマットによってカプセル化された３６０度ビデオデータに送信のための処理を加えることができる。送信処理部は、任意の送信プロトコルによって３６０度ビデオデータを処理することができる。送信のための処理には、放送網を介した伝達のための処理、ブロードバンドを介した伝達のための処理を含むことができる。一実施例によれば、送信処理部は、３６０度ビデオデータだけでなく、メタデータ処理部から３６０度ビデオ関連メタデータの伝達を受け、これに送信のための処理を加えることもできる。
【００９７】
送信部は、送信処理された３６０度ビデオデータ及び／又は３６０度ビデオ関連メタデータを放送網及び／又はブロードバンドを介して送信できる。送信部は、放送網を介した送信のためのエレメント及び／又はブロードバンドを介した送信のためのエレメントを含むことができる。
【００９８】
本発明による３６０度ビデオ送信装置の一実施例によると、３６０度ビデオ送信装置は、データ記憶部（図示せず）を内部／外部エレメントとしてさらに含むことができる。データ記憶部は、エンコードされた３６０度ビデオデータ及び／又は３６０度ビデオ関連メタデータを送信処理部に伝達する前に記憶する。このデータが記憶される形態は、ＩＳＯＢＭＦＦなどのファイル形態である。リアルタイムで３６０度ビデオを送信する場合には、データ記憶部が必要でないが、オンデマンド、ＮＲＴ（Non Real Time）、ブロードバンドなどを介して伝達する場合には、カプセル化された３６０データがデータ記憶部に一定期間記憶された後に送信されることもできる。
【００９９】
本発明による３６０度ビデオ送信装置の他の実施例によると、３６０度ビデオ送信装置は、（送信側）フィードバック処理部及び／又はネットワークインターフェース（図示せず）を内部／外部エレメントとしてさらに含むことができる。ネットワークインターフェースは、本発明による３６０度ビデオ受信装置からフィードバック情報の伝達を受け、これを送信側フィードバック処理部に伝達できる。送信側フィードバック処理部は、フィードバック情報をステッチャ、プロジェクション処理部、リージョン別パッキング処理部、データエンコーダ、カプセル化処理部、メタデータ処理部及び／又は送信処理部に伝達できる。一実施例によれば、フィードバック情報は、メタデータ処理部に伝達された後、再び各内部エレメントに伝達されることができる。フィードバック情報の伝達を受けた内部エレメントは、以後の３６０度ビデオデータの処理にフィードバック情報を反映することができる。
【０１００】
本発明による３６０度ビデオ送信装置の他の実施例によると、リージョン別パッキング処理部は、各リージョンを回転して２Ｄイメージ上にマッピングすることができる。このとき、各リージョンは、互いに異なる方向、互いに異なる角度に回転されて２Ｄイメージ上にマッピングされることができる。リージョンの回転は、３６０度ビデオデータが球形の面上でプロジェクション前に隣接する部分、ステッチされた部分などを考慮して実行されることができる。リージョンの回転に関する情報、即ち、回転方向、角度などは、３６０度ビデオ関連メタデータによりシグナリングされることができる。本発明による３６０度ビデオ送信装置の他の実施例によると、データエンコーダは、各リージョン別に異なるようにエンコーディングを実行することができる。データエンコーダは、特定リージョンを高いクォリティで、他のリージョンを低いクォリティでエンコーディングを実行することができる。送信側フィードバック処理部は、３６０度ビデオ受信装置から伝達を受けたフィードバック情報をデータエンコーダに伝達し、データエンコーダがリージョン別に異ならせた（差等化された）（differentiated）エンコーディング方法を使用するようにすることができる。例えば、送信側フィードバック処理部は、受信側から伝達を受けたビューポート情報をデータエンコーダに伝達できる。データエンコーダは、ビューポート情報が指示する領域を含むリージョンに対して他のリージョンより高いクォリティ（ＵＨＤ等）でエンコーディングを実行することができる。
【０１０１】
本発明による３６０度ビデオ送信装置の他の実施例によると、送信処理部は、各リージョン別に異なるように送信のための処理を実行することができる。送信処理部は、リージョン別に他の送信パラメータ（変調多値数（モジュレーションオーダ）（modulation orders）、符号化率（コードレート）等）を適用することで、各リージョン別に伝達されるデータのロバスト性（robustness）を異なるようにすることができる。
【０１０２】
このとき、送信側フィードバック処理部は、３６０度ビデオ受信装置から伝達を受けたフィードバック情報を送信処理部に伝達し、送信処理部がリージョン別に異なる送信処理を実行するようにすることができる。例えば、送信側フィードバック処理部は、受信側から伝達を受けたビューポート情報を送信処理部に伝達できる。送信処理部は、該当ビューポート情報が指示する領域を含むリージョンに対して他のリージョンより高いロバスト性を有するように送信処理を実行することができる。
【０１０３】
前述した本発明による３６０度ビデオ送信装置の内部／外部エレメントは、ハードウェアで具現されるハードウェアエレメントである。一実施例によれば、内部／外部エレメントは、変更、省略され、又は他のエレメントに代替、統合されることができる。一実施例によれば、付加エレメントが３６０度ビデオ送信装置に追加されることもできる。
【０１０４】
図６は、本発明が適用されることができる３６０度ビデオ受信装置の構成を概略的に説明する図面である。
【０１０５】
本発明による３６０度ビデオ受信装置は、前述したプロセッシング過程及び／又はレンダリング過程に関連する動作を実行することができる。３６０度ビデオ受信装置は、受信部、受信処理部、デカプセル化（カプセル除去）（decapsulation）処理部、データデコーダ、メタデータパーサ、（受信側）フィードバック処理部、リプロジェクション処理部及び／又はレンダラを内部／外部エレメントとして含むことができる。一方、シグナリングパーサは、メタデータパーサと呼ばれる。
【０１０６】
受信部は、本発明による３６０度ビデオ送信装置が送信した３６０度ビデオデータを受信することができる。送信されるチャネルによって、受信部は、放送網を介して３６０度ビデオデータを受信することもでき、ブロードバンドを介して３６０度ビデオデータを受信することもできる。
【０１０７】
受信処理部は、受信した３６０度ビデオデータに対して送信プロトコルによる処理を実行することができる。送信側で送信のための処理が実行されたことに対応するように、受信処理部は、前述した送信処理部の逆過程を実行することができる。受信処理部は、取得した３６０度ビデオデータをデカプセル化処理部に伝達し、取得した３６０度ビデオ関連メタデータをデータパーサに伝達できる。受信処理部が取得する３６０度ビデオ関連メタデータは、シグナリングテーブルの形態である。
【０１０８】
デカプセル化処理部は、受信処理部から伝達を受けたファイル形態の３６０度ビデオデータをデカプセル化することができる。デカプセル化処理部は、ＩＳＯＢＭＦＦなどによるファイルをデカプセル化し、３６０度ビデオデータ乃至３６０度ビデオ関連メタデータを取得することができる。取得された３６０度ビデオデータは、データデコーダに伝達し、取得された３６０度ビデオ関連メタデータは、メタデータパーサに伝達できる。デカプセル化処理部が取得する３６０度ビデオ関連メタデータは、ファイルフォーマット内のボックス又はトラック形態である。デカプセル化処理部は、必要な場合、メタデータパーサからデカプセル化に必要なメタデータの伝達を受けることもできる。
【０１０９】
データデコーダは、３６０度ビデオデータに対するデコーディングを実行することができる。データデコーダは、メタデータパーサからデコーディングに必要なメタデータの伝達を受けることもできる。データデコーディング過程で取得された３６０度ビデオ関連メタデータは、メタデータパーサに伝達されることもできる。
【０１１０】
メタデータパーサは、３６０度ビデオ関連メタデータに対するパージング／デコーディングを実行することができる。メタデータパーサは、取得したメタデータをデータデカプセル化処理部、データデコーダ、リプロジェクション処理部及び／又はレンダラに伝達できる。
【０１１１】
リプロジェクション処理部は、デコードされた３６０度ビデオデータに対してリプロジェクションを実行することができる。リプロジェクション処理部は、３６０度ビデオデータを３Ｄ空間にリプロジェクションできる。３Ｄ空間は、使われる３Ｄモデルによって他の形態を有することができる。リプロジェクション処理部は、メタデータパーサからリプロジェクションに必要なメタデータの伝達を受けることもできる。例えば、リプロジェクション処理部は、使われる３Ｄモデルのタイプ及びその詳細情報に関する情報をメタデータパーサから伝達されることができる。一実施例によれば、リプロジェクション処理部は、リプロジェクションに必要なメタデータを利用し、３Ｄ空間上の特定領域に該当する３６０度ビデオデータのみを３Ｄ空間にリプロジェクションすることもできる。
【０１１２】
レンダラは、リプロジェクションされた３６０度ビデオデータをレンダリングすることができる。前述したように、３６０度ビデオデータが３Ｄ空間上にレンダリングされると表現することもでき、このように二つの過程が一度に発生する場合、リプロジェクション処理部とレンダラとは統合され、レンダラでこの過程が全て実行（進行）されることができる。一実施例によれば、レンダラは、ユーザの視点情報によってユーザが見ている部分のみをレンダリングすることもできる。
【０１１３】
ユーザは、ＶＲディスプレイなどを介してレンダリングされた３６０度ビデオの一部領域を見ることができる。ＶＲディスプレイは、３６０度ビデオを再生する装置であり、３６０度ビデオ受信装置に含まれることもでき（tethered）、別個の装置として３６０度ビデオ受信装置に連結されることもできる（un-tethered）。
【０１１４】
本発明による３６０度ビデオ受信装置の一実施例によると、３６０度ビデオ受信装置は、（受信側）フィードバック処理部及び／又はネットワークインターフェース（図示せず）を内部／外部エレメントとしてさらに含むことができる。受信側フィードバック処理部は、レンダラ、リプロジェクション処理部、データデコーダ、デカプセル化処理部及び／又はＶＲディスプレイからフィードバック情報を取得して処理できる。フィードバック情報は、ビューポート情報、ヘッドオリエンテーション情報、ゲイズ（Gaze）情報などを含むことができる。ネットワークインターフェースは、フィードバック情報の受信側フィードバック処理部からの伝達を受け、これを３６０度ビデオ送信装置に送信できる。
【０１１５】
前述したように、フィードバック情報は、送信側に伝達されるだけでなく、受信側で消費されることもできる。受信側フィードバック処理部は、取得したフィードバック情報を３６０度ビデオ受信装置の内部エレメントに伝達し、レンダリングなどの過程に反映されるようにすることができる。受信側フィードバック処理部は、フィードバック情報をレンダラ、リプロジェクション処理部、データデコーダ及び／又はデカプセル化処理部に伝達できる。例えば、レンダラは、フィードバック情報を活用してユーザが見ている領域を優先的にレンダリングできる。また、デカプセル化処理部、データデコーダなどは、ユーザが見ている領域乃至見るようになる領域を優先的にデカプセル化、デコードすることができる。
【０１１６】
前述した本発明による３６０度ビデオ受信装置の内部／外部エレメントは、ハードウェアで具現されるハードウェアエレメントである。一実施例によれば、内部／外部エレメントは、変更、省略され、又は他のエレメントに代替、統合されることができる。一実施例によれば、付加エレメントが３６０度ビデオ受信装置に追加されることもできる。
【０１１７】
本発明の他の観点は、３６０度ビデオを送信する方法及び３６０度ビデオを受信する方法と関連することができる。本発明による３６０度ビデオを送信／受信する方法は、各々、前述した本発明による３６０度ビデオ送信／受信装置又はその装置の実施例により実行されることができる。
【０１１８】
前述した本発明による３６０度ビデオ送信／受信装置、送信／受信方法の各々の実施例及びその内部／外部エレメントの各々の実施例を互いに組み合わせることができる。例えば、プロジェクション処理部の実施例とデータエンコーダの実施例とは、互いに組み合わせられて、その場合の数ほどの３６０度ビデオ送信装置の実施例を作り出すことができる。このように組み合わせた実施例も本発明の範囲に含まれる。
【０１１９】
一方、３６０度ビデオデータは、多様なプロジェクションスキームによって２Ｄイメージ上にプロジェクションされることができ、これに対する具体的な内容は、次の通りである。また、上記プロジェクションスキームを示すメタデータは、ｐｒｏｊｅｃｔｉｏｎ＿ｓｃｈｅｍｅフィールドを含むことができる。上記ｐｒｏｊｅｃｔｉｏｎ＿ｓｃｈｅｍｅフィールドは、上記３６０度ビデオデータがマッピングされたピクチャのプロジェクションスキームを示すことができる。ここで、上記プロジェクションスキームは、プロジェクションタイプと示すこともでき、上記ｐｒｏｊｅｃｔｉｏｎ＿ｓｃｈｅｍｅフィールドは、ｐｒｏｊｅｃｔｉｏｎ＿ｔｙｐｅフィールドと示すこともできる。
【０１２０】
本発明による一実施例によると、エクイレクタングラ（等正方形）（equirectangular）プロジェクションスキーム（正距円筒図法）を利用してプロジェクションが実行されることができる。上記エクイレクタングラプロジェクションスキームは、ＥＲＰ（EquiRectangular Projection）と示すこともできる。上記ｐｒｏｊｅｃｔｉｏｎ＿ｓｃｈｅｍｅフィールドがエクイレクタングラプロジェクションスキームを示す場合、球形面上の（ｒ、θ0、０）即ち、θ＝θ0、φ＝０である点と２Ｄイメージの中央ピクセルとがマッピングされることができる。また、前面カメラ（front camera）の主点（principal point）を球形面の（ｒ、０、０）ポイントであると仮定することができる。また、φ0＝０に固定されることができる。したがって、ＸＹ座標系に変換された値（ｘ、ｙ）は、以下の数式を介して２Ｄイメージ上の（Ｘ、Ｙ）ピクセルに変換できる。
【０１２１】
＜数式１＞
【数１】
2020520161.tif 000003
【０１２２】
また、２Ｄイメージの左上端ピクセルをＸＹ座標系の（０、０）に配置する場合、ｘ軸に対するオフセット値及びｙ軸に対するオフセット値は、以下の数式を介して示すことができる。
【０１２３】
＜数式２＞
【数２】
2020520161.tif 000004
【０１２４】
これを利用して前述した数式３に示すＸＹ座標系への変換式を再び書くと、下記の通りである。
【０１２５】
＜数式３＞
【数３】
2020520161.tif 000005
【０１２６】
例えば、θ0＝０である場合、即ち、２Ｄイメージの中央ピクセルが球形面上のθ＝０であるデータを示す場合、球形面は、（０、０）を基準にして２Ｄイメージ上で横幅（width）＝２Ｋxπｒであり、縦高さ（height）＝Ｋxπｒである領域にマッピングされることができる。球形面上でφ＝π／２であるデータは、２Ｄイメージ上の上側辺全体にマッピングされることができる。また、球形面上で（ｒ、π／２、０）であるデータは、２Ｄイメージ上の（３πＫxｒ／２、πＫxｒ／２）である点にマッピングされることができる。
【０１２７】
受信側では、２Ｄイメージ上の３６０度ビデオデータを球形面上にリプロジェクションできる。これを変換式に書くと、以下の数式の通りである。
【０１２８】
＜数式４＞
【数４】
2020520161.tif 000006
【０１２９】
例えば、２Ｄイメージ上でＸＹ座標値が（Ｋxπｒ、０）であるピクセルは、球形面上のθ＝θ0、φ＝π／２である点にリプロジェクションされることができる。
【０１３０】
エクイレクタングラプロジェクションスキームが使われる場合、前述したｃｅｎｔｅｒ＿ｔｈｅｔａフィールドは、θ0値のような値を示すことができる。
【０１３１】
本発明による他の実施例によると、キュービックプロジェクション（Cubic Projection）スキームを利用してプロジェクションが実行されることができる。上記キュービックプロジェクションスキームは、ＣＭＰ（Cube Map Projection）と示すこともできる。例えば、ステッチされた３６０度ビデオデータは、球形の面上に示される。プロジェクション処理部は、このような３６０度ビデオデータをキューブ（Ｃｕｂｅ、正六面体）形態に分けて２Ｄイメージ上にプロジェクションできる。球形の面上の３６０度ビデオデータは、キューブの各面に対応して２Ｄイメージ上にプロジェクションされることができる。
【０１３２】
本発明による他の実施例によると、シリンダ型プロジェクション（Cylindrical Projection）スキームを利用してプロジェクションが実行されることができる。ステッチされた３６０度ビデオデータが球形の面上に示されると仮定するとき、プロジェクション処理部は、このような３６０度ビデオデータをシリンダ（Cylinder）形態に分けて２Ｄイメージ上にプロジェクションできる。球形の面上の３６０度ビデオデータは、シリンダのサイド（side）及びトップ（top）、ボトム（bottom）に各々対応されて２Ｄイメージ上にプロジェクションされることができる。
【０１３３】
本発明による他の実施例によると、タイルベースの（Tile-based）プロジェクションスキームを利用してプロジェクションが実行されることができる。タイルベースの（Tile-based）プロジェクションスキームが使われる場合、前述したプロジェクション処理部は、球形面上の３６０度ビデオデータを一つ又は複数の細部領域に分けて２Ｄイメージ上にプロジェクションできる。上記細部領域は、タイルと呼ばれる。
【０１３４】
本発明による他の実施例によると、ピラミッドプロジェクション（Pyramid Projection）スキームを利用してプロジェクションが実行されることができる。ステッチされた３６０度ビデオデータが球形の面上に示されると仮定するとき、プロジェクション処理部は、このような３６０度ビデオデータをピラミッド形態と見て、各面を分けて２Ｄイメージ上にプロジェクションできる。球形の面上の３６０度ビデオデータは、ピラミッドのフロント（ｆｒｏｎｔ）、ピラミッドの４方向のサイド（Ｌｅｆｔ  ｔｏｐ、Ｌｅｆｔ  ｂｏｔｔｏｍ、Ｒｉｇｈｔ  ｔｏｐ、Ｒｉｇｈｔ  ｂｏｔｔｏｍ）に各々対応され、２Ｄイメージ上にプロジェクションされることができる。ここで、上記フロントは、正面を眺めるカメラが取得したデータを含む領域である。
【０１３５】
本発明による他の実施例によると、パノラミックプロジェクション（Panoramic Projection）スキームを利用してプロジェクションが実行されることができる。パノラミックプロジェクションスキームが使われる場合、前述したプロジェクション処理部は、球形面上の３６０度ビデオデータのうちのサイドのみを２Ｄイメージ上にプロジェクションできる。これは、シリンダ型プロジェクションスキームでトップ（ｔｏｐ）とボトム（ｂｏｔｔｏｍ）が存在しない場合と同じである。ｐａｎｏｒａｍａ＿ｈｅｉｇｈｔフィールドは、プロジェクション時に適用されたパノラマの高さを示すことができる。プロジェクションスキームを示すメタデータは、プロジェクションスキームがパノラミックプロジェクションスキームであることを上記ｐｒｏｊｅｃｔｉｏｎ＿ｓｃｈｅｍｅフィールドが指示する場合、ｐａｎｏｒａｍａ＿ｈｅｉｇｈｔフィールドを含むことができる。
【０１３６】
本発明による他の実施例によると、ステッチングなしでプロジェクションが実行されることができる。即ち、上記ｐｒｏｊｅｃｔｉｏｎ＿ｓｃｈｅｍｅフィールドは、ステッチングなしでプロジェクションされる場合を示すことができる。ステッチングなしでプロジェクションされる場合、前述したプロジェクション処理部は、３６０度ビデオデータをそのまま２Ｄイメージ上にプロジェクションできる。この場合、ステッチングは実行されずに、カメラで取得された各々のイメージがそのまま２Ｄイメージ上にプロジェクションされることができる。例えば、上記カメラで取得された二つのイメージが２Ｄイメージ上にステッチングなしでプロジェクションされることができる。各イメージは、球形カメラ（spherical camera）から各センサを介して取得した魚眼（fish-eye）イメージである。前述したように、受信側でカメラセンサから取得するイメージデータをステッチすることができ、ステッチされたイメージデータを球形面（spherical surface）上にマッピングして、球形ビデオ（spherical video）、即ち、３６０度ビデオをレンダリングすることができる。
【０１３７】
図７は、３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行される３６０度ビデオ提供のための全体アーキテクチャを例示的に示す。
【０１３８】
図７に示すようなアーキテクチャにより、３６０コンテンツが提供されることができる。３６０コンテンツは、ファイル形態で提供され、又はＤＡＳＨなどのようにセグメント（segment）ベースのダウンロード又はストリーミングサービスの形態で提供されることができる。ここで、３６０コンテンツは、ＶＲコンテンツと呼ばれる。
【０１３９】
前述したように、３６０度ビデオデータ及び／又は３６０オーディオデータが取得されることができる（Acquisition）。
【０１４０】
３６０オーディオデータは、オーディオプリプロセッシング過程（Audio sing）、オーディオエンコーディング過程（Audio encoding）を経ることができる。この過程でオーディオ関連メタデータが生成されることができ、エンコードされたオーディオ及びオーディオ関連メタデータは、送信のための処理（file/segment encapsulation）を経ることができる。
【０１４１】
３６０度ビデオデータは、前述したような過程を経ることができる。３６０度ビデオ送信装置のステッチャは、３６０度ビデオデータにステッチングを実行することができる（Visual stitching）。この過程は、実施例によって省略されて受信側で実行されることもできる。
【０１４２】
また、３６０度ビデオ送信装置のプロジェクション処理部は、３６０度ビデオデータを２Ｄイメージ上にプロジェクションできる（Ｐｒｏｊｅｃｔｉｏｎ  ａｎｄ  ｍａｐｐｉｎｇ（ｐａｃｋｉｎｇ））。プロジェクション処理部は、３６０度ビデオデータ（Ｉｎｐｕｔ  Ｉｍａｇｅｓ）の伝達を受けることができ、この場合、ステッチング及びプロジェクション過程を実行することができる。プロジェクション過程は、具体的には、ステッチされた３６０度ビデオデータを３Ｄ空間上にプロジェクションし、プロジェクションされた３６０度ビデオデータが２Ｄイメージ上に配列されることである。本明細書で、この過程を３６０度ビデオデータを２Ｄイメージ上にプロジェクションすると表現することもできる。ここで、３Ｄ空間は、球（sphere）又はキューブ（cube）などである。この３Ｄ空間は、受信側でリプロジェクションに使われる３Ｄ空間と同じこともある。
【０１４３】
２Ｄイメージは、プロジェクションされたフレーム（Projected frame）又はプロジェクションされたピクチャ（Projected picture）とも呼ばれる。また、上記２Ｄイメージにリージョン別パッキング（Region-wise packing）過程が選択的にさらに実行されることもできる。上記リージョン別パッキング過程が実行される場合、各リージョン（Region）の位置、形態、大きさを指示することによって、上記２Ｄイメージ上のリージョンがパッキングされたフレーム（packed frame）上にマッピングされることができる。上記パッキングされたフレームは、パッキングされたピクチャ（packed picture）と呼ばれる。上記プロジェクションされたフレームに上記リージョン別パッキング過程が実行されない場合、上記プロジェクションされたフレームは、上記パッキングされたフレームと同じである。リージョンに関しては後述する。プロジェクション過程及びリージョン別パッキング過程を、３６０度ビデオデータの各リージョンが２Ｄイメージ上にプロジェクションされると表現することもできる。設計によって、３６０度ビデオデータは、中間過程なしでパッキングされたフレーム（packed frame）に変換されることもできる。
【０１４４】
図７を参照すると、３６０度ビデオデータに対するパッキングされたフレームは、イメージエンコーディング乃至ビデオエンコードされることができる。一方、同じ３６０度ビデオコンテンツであるとしても視点（viewpoints）別に３６０度ビデオデータが存在でき、この場合、上記コンテンツの各視点別３６０度ビデオデータは、互いに異なるビットストリームでエンコードされることもできる。エンコードされた３６０度ビデオデータは、前述したカプセル化処理部によりＩＳＯＢＭＦＦなどのファイルフォーマットに処理されることができる。あるいは、カプセル化処理部は、エンコードされた３６０度ビデオデータをセグメントに処理できる。セグメントは、ＤＡＳＨに基づく送信のための個別トラックに含まれることができる。
【０１４５】
３６０度ビデオデータの処理と共に、前述したように３６０度ビデオ関連メタデータが生成されることができる。このメタデータは、ビデオストリーム又はファイルフォーマットに含まれて伝達されることができる。このメタデータは、エンコーディング過程やファイルフォーマットカプセル化、送信のための処理などの過程にも使われることができる。
【０１４６】
３６０オーディオ／ビデオデータは、送信プロトコルによる送信のための処理を経て、以後に送信されることができる。前述した３６０度ビデオ受信装置は、これを放送網又はブロードバンドを介して受信することができる。
【０１４７】
一方、図７に示すように、スピーカ／ヘッドホン（Loudspeakers/headphones）、ディスプレイ（Display）、ヘッド／アイトラッキングコンポーネント（Head/eye tracking）は、３６０度ビデオ受信装置の外部装置乃至ＶＲアプリケーションにより実行されることができるが、一実施例によれば、３６０度ビデオ受信装置は、上記スピーカ／ヘッドホン、上記ディスプレイ（Display）、上記ヘッド／アイトラッキングコンポーネントを全て含むこともできる。一実施例によれば、上記ヘッド／アイトラッキングコンポーネントは、前述した受信側フィードバック処理部に該当できる。
【０１４８】
３６０度ビデオ受信装置は、３６０オーディオ／ビデオデータに受信のための処理（Ｆｉｌｅ／ｓｅｇｍｅｎｔ  ｄｅｃａｐｓｕｌａｔｉｏｎ）を実行することができる。３６０オーディオデータは、オーディオデコーディング（Audio decoding）、オーディオレンダリング（Audio rendering）過程を経て、スピーカ／ヘッドホンを介してユーザに提供されることができる。
【０１４９】
３６０度ビデオデータは、イメージデコーディング乃至ビデオデコーディング、レンダリング（Visual rendering）過程を経て、ディスプレイを介してユーザに提供されることができる。ここで、ディスプレイは、ＶＲをサポートするディスプレイ又は一般ディスプレイである。
【０１５０】
前述したように、レンダリング過程は、具体的には、３６０度ビデオデータが３Ｄ空間上にリプロジェクションされ、リプロジェクションされた３６０度ビデオデータがレンダリングされることである。これを３６０度ビデオデータが３Ｄ空間上にレンダリングされると表現することもできる。
【０１５１】
ヘッド／アイトラッキングコンポーネントは、ユーザのヘッドオリエンテーション情報、ゲイズ情報、ビューポート（Viewport）情報などを取得、処理することができる。これと関連する内容は、前述の通りである。
【０１５２】
受信側では、前述した受信側過程と通信するＶＲアプリケーションが存在できる。
【０１５３】
一方、前述した内容のように３次元空間で連続する３６０度ビデオデータが２Ｄイメージのリージョンにマッピングされる場合、上記２Ｄイメージのリージョン別にコーディングされて受信側に伝達されることができ、したがって、上記２Ｄイメージにマッピングされた３６０度ビデオデータが再び３次元空間にレンダリングされると、各リージョンのコーディング処理の差によって３次元空間にリージョン間の境界が現れる問題が発生できる。上記３次元空間に上記リージョン間の境界が現れる問題は、境界誤差（誤謬）（boundary error）と呼ばれる。上記境界誤差は、ユーザの仮想現実に対する没入感を低下させるため、本発明では、上記境界誤差を解消させるためのリージョン別追加情報（Region-wise Auxiliary Information）及びそれに関するメタデータを提供する方法を提案する。上記リージョン別追加情報は、上記境界誤差を減らすための方法である対象リージョンの境界に位置するサンプルと上記対象リージョンに隣接するリージョンのサンプルとのブレンディング（blending）過程と、上記対象リージョンの境界に位置するサンプルが上記リージョン別追加情報のサンプルに代替される代替過程と、に使われることができる。また、上記リージョン別追加情報は、上記対象リージョンに隣接するリージョンに対するデコーディング過程なしでビューポートを拡張するために使われることもできる。
【０１５４】
一方、上記パッキングされたフレームは、リージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を含むことができる。上記ＲＡＩ領域は、上記パッキングされたフレーム内の対象リージョンの境界（boundary）に隣接する領域であり、上記対象リージョンに対するＲＡＩ領域（オフセット領域）の映像情報を含むことができる。上記ＲＡＩ領域は、オフセット領域又はガードバンド（guard band）とも呼ばれる。
【０１５５】
上記ＲＡＩ領域を考慮して取得した３６０度ビデオデータを再構成、送信及び再生成して最終映像を出力する過程は、下記の通りである。
【０１５６】
図８ａ乃至図８ｄは、３６０度ビデオ送信装置／３６０度ビデオ受信装置を介して実行されるＲＡＩ領域が考慮された３６０度ビデオ提供のための全体アーキテクチャを例示的に示す。図８ａを参照すると、少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータが取得されることができ、上記３６０度ビデオデータを処理して生成されたプロジェクションされたピクチャ（projected picture）が取得されることができる。上記プロジェクションされたピクチャは、リージョン別パッキング（region-wise packing）過程が実行されることができる。上記リージョン別パッキング過程が実行される場合、上記プロジェクションされたピクチャ上にプロジェクションされた３６０度ビデオデータをリージョン（Region）別に分ける処理過程（region decomposition）が実行されることができ、各リージョンに対するＲＡＩ領域が追加される過程（guard band insertion）が実行されることができる。また、上記リージョン別に変換されることができ、３６０度ビデオ送信装置は、リージョン別に大きさを調整してリージョン別にクォリティ（quality）を調整することができる。上記プロジェクションされたピクチャに上記リージョン別パッキング過程が実行されることでパッキングされたピクチャ（packed picture）が導出されることができる。
【０１５７】
図８ａを参照すると、上記パッキングされたピクチャに関する情報がエンコードされてビットストリームを介して出力されることができる。この場合、リージョン別量子化パラメータを介してリージョン別にクォリティが変更されることができる。エンコードされた上記パッキングされたピクチャに関する情報は、ビットストリームを介して送信されることができる。
【０１５８】
図８ａを参照すると、３６０度ビデオ受信装置は、ビットストリームを介して取得された上記パッキングされたピクチャに関する情報をデコードすることができる。上記デコードされたパッキングされたピクチャに対してリージョン別アンパッキング（region-wise unpacking）過程が実行されることができる。
【０１５９】
上記デコードされたパッキングされたピクチャに対してリージョン別アンパッキング（region-wise unpacking）過程が実行される場合、上記パッキングされたピクチャに対してリージョン別逆変換過程（region-wise inverse transformation）が実行されることができる。即ち、上記パッキングされたピクチャの対象リージョンに対する変換情報に基づいて上記対象リージョンの逆変換が実行されることができる。
【０１６０】
また、上記デコードされたパッキングされたピクチャに対して選択的にステッチング（Stitching）過程が実行されることができる。ステッチング過程は、各々のキャプチャされたイメージ／ビデオ、即ち、上記パッキングされたピクチャのリージョンを連結して一つのピクチャに作る過程を示すことができる。３６０度ビデオ送信装置で既にステッチング過程が実行されている場合、３６０度ビデオ受信装置は、上記ステッチング過程を実行しない。
【０１６１】
上記パッキングされたピクチャは、上記リージョン別逆変換過程を介してプロジェクションされたピクチャ（projected picture）に復元（recovered）されることができる。あるいは、上記パッキングされたピクチャは、上記リージョン別逆変換過程及び上記ステッチング過程を介して上記プロジェクションされたピクチャに復元されることができる。上記復元されたプロジェクションされたピクチャにリージョン境界エンハンスメント（region boundary enhancement）過程が実行されることができる。上記リージョン境界エンハンスメント過程は、上記プロジェクションされたピクチャの対象リージョンの対象サンプルと対応するＲＡＩ領域内のサンプルのサンプル値と上記対象サンプルのサンプル値とを補間して新しいサンプル値を導出し、上記導出された新しいサンプル値を上記対象サンプルのサンプル値として導出するブレンディング（blending）過程と、上記対象リージョンの対象サンプルのサンプル値を上記対象サンプルと対応する上記ＲＡＩ領域内のサンプルのサンプル値に代替する代替（replacement）過程と、を含むことができる。
【０１６２】
具体的には、例えば、上記プロジェクションされたピクチャの対象リージョン内の（ｘ、ｙ）位置のサンプルに対して、上記サンプルの既存のサンプル値、上記サンプルと対応するＲＡＩ領域のサンプルのサンプル値、及び上記ＲＡＩ領域のサンプルと上記対象リージョンの境界との間の距離ｄを適用した単調増加関数ａｌｐｈａ（ｘ）［０：１］に基づいて上記新しいサンプル値が導出されることができる。ここで、上記単調増加関数ａｌｐｈａ（ｘ）［０：１］は、重み（加重値）（weighting）関数として示すことができる。これによって、上記対象リージョンの上記境界に近いほど、上記ＲＡＩ領域のリージョン別追加情報（上記ＲＡＩ領域のサンプルのサンプル値）が使われ、一定の距離以上遠ざかるほど、既存の情報、即ち、上記対象リージョンの情報（上記対象リージョン内の（ｘ、ｙ）位置のサンプルの既存サンプル値）が使われるようにすることによって、映像が自然に変わるようにすることができる。上記ブレンディング過程が適用される場合、上記（ｘ、ｙ）位置のサンプルの新しいサンプル値は、以下の数式に基づいて導出されることができる。
【０１６３】
＜数式５＞
【数５】
2020520161.tif 000007
【０１６４】
ここで、ｏｕｔｐｕｔ［ｘ］［ｙ］は、上記対象リージョン内の上記（ｘ、ｙ）位置のサンプルの新しいサンプル値を示すことができ、ｉｎｐｕｔ［ｘ］［ｙ］は、上記対象リージョン内の上記（ｘ、ｙ）位置のサンプルの既存のサンプル値を示すことができ、ＲＡＩ［ｘ］［ｙ］は、上記（ｘ、ｙ）位置のサンプルと対応する上記ＲＡＩ領域内のサンプルのサンプル値を示すことができる。
【０１６５】
一方、上記ＲＡＩ領域に対するｒａｉ＿ｔｙｐｅフィールドの値が２であり、即ち、上記ＲＡＩ領域は、漸進的に映像画質が変わる領域であり、上記ＲＡＩ領域に対するｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドが与えられる場合、上記新しいサンプル値を導出するための重み関数は、境界からの距離と境界のＱＰ（Quantization Parameter）との差に関する関数として定義されることもできる。この場合、上記対象リージョン内の上記（ｘ、ｙ）位置のサンプルの新しいサンプル値は、以下の数式に基づいて導出されることができる。上記ｒａｉ＿ｔｙｐｅフィールド及びｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドに関する具体的な説明は、後述する。
【０１６６】
＜数式６＞
【数６】
2020520161.tif 000008
【０１６７】
一方、上記代替過程が適用される場合、上記ＲＡＩ領域により与えられた情報は、一定範囲まで別個の処理なしでそのまま使用可能であり、この場合、上記対象リージョン及び球形面上で上記大型リージョンに隣接するリージョンを付けて（attached）レンダリングするとき、上記ＲＡＩ領域と重なる上記対象リージョンの部分に対しては、上記ＲＡＩ領域が使われることができる。例えば、上記対象リージョンと球形面上で上記大型リージョンに隣接するリージョンとの間で画質差があり、上記ＲＡＩ領域が漸進的に画質変化が行われる情報を含む場合、上記ＲＡＩ領域に含まれるビデオデータがそのままレンダリングに使われることができる。
【０１６８】
上記復元されたプロジェクションされたピクチャは、上記リージョン境界エンハンスメント過程を介してエンハンス（向上）した（enhanced）プロジェクションされたピクチャとして導出されることができる。これによって、上記対象リージョンの境界で現れることができる誤差の発生程度を減らすことができる。
【０１６９】
上記エンハンスしたプロジェクションされたピクチャは、３Ｄ空間上にマッピングされることができる。一方、前述した過程は、３６０度ビデオデータが３Ｄ空間上にレンダリングされると表現されることもできる。この場合、受信したビューポート（Viewport）メタデータに基づいてビューポートイメージが生成されて表示されることができる。ここで、上記ビューポートイメージは、ビューポートとも呼ばれる。ビューポートメタデータは、現在ユーザが３６０度ビデオで見ている領域に関する情報である。
【０１７０】
一方、エンコードされた映像のうちの全体ではなく一部の映像のみがデコードされることができ、この場合、図８ｂに示すような過程を実行する受信部が構成されることができる。図８ｂを参照すると、３６０度ビデオ受信装置は、ビットストリームを介して取得された上記パッキングされたピクチャに関する情報をデコードすることができる。この場合、上記デコードされたパッキングされたピクチャの一部領域に対してリージョン別アンパッキング（region-wise unpacking）過程が実行されることができる。具体的には、上記デコードされたパッキングされたピクチャの対象リージョンが選択されることができる。例えば、受信したビューポートメタデータに基づいて上記対象リージョンが選択されることができる。ビューポートメタデータは、現在ユーザが３６０度ビデオで見ている領域に関する情報を示すことができ、上記対象リージョンは、上記現在ユーザが３６０度ビデオで見ている領域に含まれることができる。一方、上記対象リージョンに対するＲＡＩ領域が存在する場合、上記ＲＡＩ領域も選択されることができる。
【０１７１】
また、上記選択された対象リージョン及び上記ＲＡＩ領域に対する逆変換（inverse transformation）が実行されることができる。上記対象リージョンの変換に関する情報が受信されることができ、上記変換に関する情報に基づいて上記対象リージョンに対する逆変換が実行されることができる。一方、上記ＲＡＩ領域は、上記対象リージョンと異なる変換が実行されることができる。この場合、上記ＲＡＩ領域の変換に関する情報が受信されることができ、上記ＲＡＩ領域の変換に関する情報に基づいて、上記ＲＡＩ領域に対する逆変換が実行されることができる。
【０１７２】
また、上記対象リージョン及び上記ＲＡＩ領域にリージョン境界エンハンスメント（region boundary enhancement）過程が実行されることができる。上記リージョン境界エンハンスメント過程は、前述したブレンディング（blending）過程及び代替（replacement）過程を含むことができる。上記リージョン境界エンハンスメント過程を介して上記対象リージョンの境界で現れることができる誤差の発生程度を減らすことができる。また、上記対象リージョンを含むビューポートイメージが生成されて表示されることができる。
【０１７３】
一方、上記プロジェクションされたピクチャは、複数のサブピクチャ（sub-picture）に分けられてパッキングされることができ、上記パッキングされたサブピクチャの各々がエンコードされて送信されることができる。ここで、上記サブピクチャは、独立してデコードされることができる映像単位を示すことができ、上記サブピクチャは、タイル（tile）、ＭＣＴＳ（Motion Constrained Tile Set）又はリージョンに対応できる。この場合、図８ｃに示すように、上記プロジェクションされたピクチャは、リージョン（Region）別に分ける処理過程（region decomposition）が実行されることができる。また、上記リージョン別に変換されることができ、３６０度ビデオ送信装置は、リージョン別に大きさを調整してリージョン別にクォリティ（quality）を調整することができる。上記プロジェクションピクチャは、複数のサブピクチャに分けられる。上記サブピクチャは、上記プロジェクションピクチャのリージョンに対応することもできる。
【０１７４】
また、各サブピクチャにリージョン別パッキング過程が実行されることができ、各サブピクチャは、エンコードされてビットストリームを介して送信されることができる。上記リージョン別パッキング過程は、前述の通りである。
【０１７５】
図８ｄを参照すると、３６０度ビデオ受信装置は、ビットストリームを介して取得された上記各サブピクチャに関する情報をデコードすることができる。また、上記各サブピクチャに対する逆変換（inverse transformation）が実行されることができる。上記各サブピクチャの変換に関する情報が受信されることができ、上記変換に関する情報に基づいて上記各サブピクチャに対する逆変換が実行されることができる。
【０１７６】
逆変換された上記サブピクチャは、復元されたプロジェクションされたピクチャで構成されることができる。上記過程は、サブピクチャｃｏｍｐｏｓｉｔｉｏｎ過程と示すことができる。例えば、複数のサブピクチャは、一つのピクチャにマージ（併合）される（merged）ことができ、上記ピクチャは、復元されたプロジェクションされたピクチャで表すことができる。上記復元されたプロジェクションされたピクチャにリージョン境界エンハンスメント（region boundary enhancement）過程が実行されることができる。上記リージョン境界エンハンスメント過程は、前述の通りである。一方、一つのサブピクチャでビューポートメタデータで指定する領域がカバー（cover）される場合、即ち、上記ビューポートメタデータで指定する領域が上記一つのサブピクチャに含まれる場合、前述したサブピクチャｃｏｍｐｏｓｉｔｉｏｎ過程及びリージョン境界エンハンスメント過程は、省略されることができる。
【０１７７】
また、上記エンハンスしたプロジェクションされたピクチャは、３Ｄ空間上にマッピングされることができる。この場合、受信したビューポート（Viewport）メタデータに基づいてビューポートイメージが生成されて表示されることができる。ビューポートメタデータは、現在ユーザが３６０度ビデオで見ている領域に関する情報である。
【０１７８】
一方、上記ビューポートメタデータが指定するビューポートイメージは、一つのサブピクチャと上記サブピクチャに対するＲＡＩ領域に含まれる情報との組み合わせに基づいて生成可能である。この場合、ｒａｉ＿ｐｒｅｓｅｎｔ＿ｆｌａｇの値が１である場合、前述した複数のサブピクチャに対するリージョン境界エンハンスメント過程なしで上記ＲＡＩ領域に含まれる情報に基づいて出力映像が生成されることができ、これによってコーディング効率がより向上することができる。ここで、上記ｒａｉ＿ｐｒｅｓｅｎｔ＿ｆｌａｇは、上記ＲＡＩ領域に関する情報、上記サブピクチャに対するリージョン別追加情報（region-wise auxiliary information）がシグナリングされるかどうかを示すフラグである。上記ｒａｉ＿ｐｒｅｓｅｎｔ＿ｆｌａｇに関する具体的な内容は、後述する。
【０１７９】
一方、複数のリージョンに分けられた上記パッキングされたピクチャに対するリージョン別追加情報（region-wise auxiliary information）を伝達するための方法として、次のようなシンタックスを介して上記リージョン別追加情報がシグナリングされることができる。具体的には、例えば、上記リージョン別追加情報に関するメタデータが送信されることができ、上記リージョン別追加情報に関するメタデータは、ＨＥＶＣのＳＥＩ  ｍｅｓｓａｇｅを介して送信されることができる。また、上記リージョン別追加情報に関するメタデータは、ビデオレベルで必須に使われる情報であり、この場合、ＶＰＳ、ＳＰＳ又はＰＰＳを介して送信されることができる。また、上記ＶＰＳ、上記ＳＰＳ又は上記ＰＰＳなどのビデオレベルだけでなく、デジタル有線／無線インターフェース、システムレベルのｆｉｌｅ  ｆｏｒｍａｔ等を介しても上記リージョン別追加情報に関するメタデータと同じ情報又は類似情報が伝達されることができる。
【０１８０】
後述するシンタックスは、上記リージョン別追加情報に関するメタデータが全体映像、即ち、上記パッキングされたピクチャ全体が送信される場合に対する実施例を示すことができる。しかしながら、映像がサブピクチャ（sub-picture）で送信される場合、上記リージョン別追加情報に関するメタデータは、上記サブピクチャに対するＲＡＩ領域が含まれるかどうか、即ち、上記サブピクチャに対するＲＡＩ領域が存在するかを示す情報、上記サブピクチャ内の対象リージョンを基準にして、上記ＲＡＩ領域が、上側、下側、左側又は右側境界のうちのどの境界に隣接するか及び上記ＲＡＩ領域のタイプに関する情報を示す情報がさらに含まれることができる。
【０１８１】
図９ａ乃至図９ｃは、上記リージョン別追加情報に関するメタデータの一例を示す。図９ａを参照すると、ｐａｙｌｏａｄＴｙｐｅの値が特定値を示す場合、上記リージョン別追加情報に関するメタデータが送信されることができる。具体的な上記リージョン別追加情報に関するメタデータは、図９ｂ乃至図９ｃに示す通りである。
【０１８２】
図９ｂ乃至図９ｃを参照すると、リージョン別パッキング過程に関する情報に対するシンタックスに、上記リージョン別追加情報が含まれて送信されることができる。即ち、上記リージョン別パッキング過程に関するメタデータに、上記リージョン別追加情報に関するメタデータが含まれることができる。一方、上記リージョン別追加情報に関するメタデータが別個のシンタックスを介して送信されることもできる。
【０１８３】
図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｎｕｍ＿ｒｅｇｉｏｎｓフィールドを含むことができる。上記ｎｕｍ＿ｒｅｇｉｏｎｓフィールドは、上記パッキングされたピクチャ（又は、サブピクチャ）内のリージョンの個数を示すことができる。一方、上記リージョン別追加情報に関するメタデータは、ｎｕｍ＿ｒｅｇｉｏｎｓフィールドの代わりにｎｕｍ＿ｒｅｇｉｏｎｓ＿ｍｉｎｕｓ１フィールドを含むことができる。上記ｎｕｍ＿ｒｅｇｉｏｎｓ＿ｍｉｎｕｓ１フィールドは、上記パッキングされたピクチャ（又は、サブピクチャ）内のリージョンの個数から１を引いた値を示すことができる。
【０１８４】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド及びｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールドを含むことができる。上記ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド及び上記ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールドは、最終映像、即ち、入力された映像の最終的に導出されるピクチャの幅及び高さを示すことができる。例えば、上記ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド及び上記ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールドは、３６０度ビデオデータに対するプロジェクションされたピクチャ（projected picture）の幅及び高さを示すことができる。上記ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド及び上記ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールドは、各々、ｐｒｏｊ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド、ｐｒｏｊ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールドと示すこともできる。一方、現在映像、即ち、入力された映像のパッキングされたピクチャ（又は、サブピクチャ）の幅及び高さに関する情報は、ＶＰＳ（Video Parameter Set）、ＳＰＳ（Sequence Parameter Set）又はＰＰＳ（Picture Parameter Set）等を介して送信されることができ、必要な場合、別個の情報を介して伝達されることができる。
【０１８５】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドを含むことができる。上記ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、上記パッキングされたピクチャ（又は、サブピクチャ）に対するリージョン別追加情報が送信されることを示すことができる。上記ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が０である場合、上記パッキングされたピクチャ（又は、サブピクチャ）に対するリージョン別追加情報が送信されないことを示すことができる。上記ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドは、ｒａｉ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドと示すことができ、又はｇｕａｒｄ＿ｂａｎｄ＿ｆｌａｇフィールドと示すこともできる。
【０１８６】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｐａｃｋｉｎｇ＿ｔｙｐｅフィールドを含むことができる。上記ｐａｃｋｉｎｇ＿ｔｙｐｅフィールドは、パッキングされたピクチャ（又は、サブピクチャ）に適用されたリージョン別パッキングの種類（type）を示す。例えば、上記ｐａｃｋｉｎｇ＿ｔｙｐｅフィールドの値が０である場合、上記パッキングされたピクチャ（又は、サブピクチャ）に適用されたリージョン別パッキングがｒｅｃｔａｎｇｕｌａｒ  ｒｅｇｉｏｎ−ｗｉｓｅ  ｐａｃｋｉｎｇであることを示すことができる。
【０１８７】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｗｉｄｔｈフィールド及びｒａｉ＿ｈｅｉｇｈｔフィールドを含むことができる。上記ｒａｉ＿ｗｉｄｔｈフィールド及び上記ｒａｉ＿ｈｅｉｇｈｔフィールドは、ｇｂ＿ｗｉｄｔｈフィールド及びｇｂ＿ｈｅｉｇｈｔフィールドと示すこともできる。上記ｒａｉ＿ｗｉｄｔｈフィールド及び上記ｒａｉ＿ｈｅｉｇｈｔフィールドは、対象リージョンの上側、下側、左側又は右側境界に隣接するＲＡＩ領域の幅及び高さを示すことができる。上記パッキングされたピクチャ（又は、サブピクチャ）に対するリージョン別追加情報が送信される場合、即ち、上記ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、上記ｒａｉ＿ｗｉｄｔｈフィールド及び上記ｒａｉ＿ｈｅｉｇｈｔフィールドは、送信されることができる。一方、ｒａｉ＿ｗｉｄｔｈ［０］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［０］フィールドは、上記対象リージョンの上側境界に隣接するＲＡＩ領域の幅及び高さを示すことができ、ｒａｉ＿ｗｉｄｔｈ［１］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［１］フィールドは、上記対象リージョンの左側境界に隣接するＲＡＩ領域の幅及び高さを示すことができ、ｒａｉ＿ｗｉｄｔｈ［２］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［２］フィールドは、上記対象リージョンの下側境界に隣接するＲＡＩ領域の幅及び高さを示すことができ、ｒａｉ＿ｗｉｄｔｈ［３］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［３］フィールドは、上記対象リージョンの右側境界に隣接するＲＡＩ領域の幅及び高さを示すことができる。あるいは、ｒａｉ＿ｗｉｄｔｈ［ｉ］［０］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［ｉ］［０］フィールドは、上記パッキングされたピクチャ（又は、サブピクチャ）のｉ番目のリージョンの上側境界に隣接するＲＡＩ領域の幅及び高さを示すことができ、ｒａｉ＿ｗｉｄｔｈ［ｉ］［１］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［ｉ］［１］フィールドは、上記ｉ番目のリージョンの左側境界に隣接するＲＡＩ領域の幅及び高さを示すことができ、ｒａｉ＿ｗｉｄｔｈ［ｉ］［２］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［ｉ］［２］フィールドは、上記ｉ番目のリージョンの下側境界に隣接するＲＡＩ領域の幅及び高さを示すことができ、ｒａｉ＿ｗｉｄｔｈ［ｉ］［３］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［ｉ］［３］フィールドは、上記ｉ番目のリージョンの右側境界に隣接するＲＡＩ領域の幅及び高さを示すことができる。
【０１８８】
具体的には、例えば、対象リージョンの左側境界に隣接するＲＡＩ領域が存在する場合、ｒａｉ＿ｗｉｄｔｈ［１］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［１］フィールドが送信されることができ、上記ｒａｉ＿ｗｉｄｔｈ［１］フィールド及びｒａｉ＿ｈｅｉｇｈｔ［１］フィールドは、上記ＲＡＩ領域の幅及び高さを示すことができる。一般的に、上記ｒａｉ＿ｈｅｉｇｈｔ［１］フィールドは、上記対象リージョンの高さと同じ値を示すことができる。しかしながら、上記対象リージョンと上記ＲＡＩ領域とに互いに異なる変換が実行され、又は上記ＲＡＩ領域の高さが上記対象リージョンの高さとは異なる範囲を有する場合、上記ｒａｉ＿ｈｅｉｇｈｔ［１］フィールドは、上記対象リージョンの高さと異なる値を示すことができる。この場合、上記ＲＡＩ領域の高さは、上記対象リージョンの中心（center）から対称に上記ｒａｉ＿ｈｅｉｇｈｔ［１］フィールドが示す値の高さに定義されることができ、又は、上記ＲＡＩ領域の左上側ポイントに対する位置情報が別個にシグナリングされることができ、上記左上側ポイントの位置から上記ｒａｉ＿ｈｅｉｇｈｔ［１］フィールドが示す値の高さが上記ＲＡＩ領域の高さに設定されることができる。
【０１８９】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールドを含むことができる。上記ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールドは、ｇｂ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールドと示すこともできる。上記ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールドは、上記ＲＡＩ領域に含まれるリージョン別追加情報がエンコーディング／デコーディング過程で予測に使われるかどうかを示すことができる。例えば、上記ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールドの値が１である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報がエンコーディング／デコーディング過程で予測に使われないことを示すことができる。また、上記ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールドの値が０である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報がエンコーディング／デコーディング過程で予測に使われることを示すことができる。
【０１９０】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドを含むことができる。上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドは、上記対象リージョンに対するＲＡＩ領域に含まれるリージョン別追加情報が同じタイプの情報であるかどうかを示すことができる。例えば、上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が１である場合、上記対象リージョンに対するＲＡＩ領域、即ち、上記対象リージョンの上側、下側、左側又は右側境界に隣接するＲＡＩ領域が全て同じタイプのリージョン別追加情報を含むことを示すことができる。また、上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が０である場合、上記対象リージョンに対するＲＡＩ領域、即ち、上記対象リージョンの上側、下側、左側又は右側境界に隣接するＲＡＩ領域が互いに異なるタイプのリージョン別追加情報を含むことを示すことができる。一方、上記ＲＡＩ領域に含まれるリージョン別追加情報のタイプは、後述するｒａｉ＿ｔｙｐｅフィールドを介して送信されることができ、具体的なタイプによるリージョン別追加情報は、後述する。
【０１９１】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドを含むことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドは、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドに対するＲＡＩ領域の変換（transformation）情報が送信されるかどうかを示すことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、ＲＡＩ領域に対する変換情報が送信されることを示すことができ、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が０である場合、上記ＲＡＩ領域は、上記ＲＡＩ領域の対象リージョンと同じ変換が実行されることを示すことができる。
【０１９２】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドを含むことができる。上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドは、上記対象リージョンの左上端、右上端、右下端及び左下端の周辺領域のうちの少なくとも一つの領域に上記リージョン別追加情報が含まれるかどうかを示すことができる。例えば、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、上記リージョン別追加情報を含む上記対象リージョンの左上端、右上端、右下端及び／又は左下端周辺ＲＡＩ領域が送信されることを示すことができる。上記左上端、上記右上端、上記右下端及び上記左下端周辺ＲＡＩ領域は、コーナ（corner）ＲＡＩ領域と呼ばれる。また、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が０である場合、上記映像追加情報を含む上記リージョン別追加情報を含む上記対象リージョンの左上端、右上端、右下端及び左下端周辺ＲＡＩ領域が送信されないことを示すことができる。例えば、３６０度ビデオ又はパノラマビデオ（panorama video）を提供するにあたって迅速なビューポート対応のために、上記ＲＡＩ領域に基づいて対象リージョンのビデオ情報が拡張されることができる。ここで、上記ビューポート対応は、ユーザが眺める方向がユーザの動きなどに起因して変化する場合に、上記方向の変化に対応してビューポートイメージを変更する対応を示すことができる。この場合、上記対象リージョンの上側、下側、左側又は右側境界に隣接するリージョン別追加情報（region auxiliary information）だけでなく、コーナ（corner）周辺領域にもリージョン別追加情報が伝達されることがより効率的であり、したがって、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇの値が１に決定され、コーナ方向への移動に対する映像情報が伝達されることを示すことができる。
【０１９３】
また、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、各コーナ周辺領域、即ち、左上端、右上端、右下端及び左下端周辺ＲＡＩ領域の各々に対するｒａｉ＿ｔｙｐｅフィールドがシグナリングされることができる。一方、前述したｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が１である場合、上記コーナ周辺領域のリージョン別追加情報のタイプも同じであり、上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が０である場合、各コーナ周辺領域、即ち、左上端、右上端、右下端及び左下端周辺ＲＡＩ領域の各々に対するｒａｉ＿ｔｙｐｅフィールドだけでなく、上記コーナ周辺領域の各々に対するｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎフィールドもシグナリングされることができる。例えば、上記対象リージョンに対する上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が０であり、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇの値が０である場合、上記コーナ周辺領域の各々に対するｒａｉ＿ｔｙｐｅフィールド及びｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎフィールドがシグナリングされることができる。
【０１９４】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールドを含むことができる。上記ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールドは、対象リージョンの拡張領域に関する情報が送信されるかどうかを示すことができる。ここで、上記拡張領域は、上記対象リージョン及び上記対象リージョンに対するＲＡＩ領域を含む領域を示すことができる。例えば、上記対象リージョンに対する上記ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールドの値が１であり、上記対象リージョンに対する上記ＲＡＩ領域に関する情報が送信される場合、対象リージョン及び上記ＲＡＩ領域を含む上記拡張領域に関する情報は、シグナリングされることができ、上記ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールドの値が０である場合、上記拡張領域に関する情報は、シグナリングされない。上記拡張領域に関する情報の具体的な内容は、下記の通りである。
【０１９５】
図１０は、上記拡張領域に関する情報を示すメタデータの一例を示す。上記拡張領域に関する情報を示すメタデータは、ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｉｎｆｏｒｍａｔｉｏｎと示すことができる。図１０を参照すると、上記拡張領域に関する情報を示すメタデータは、ｃｅｎｔｅｒ＿ｙａｗフィールド、ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド及びｃｅｎｔｅｒ＿ｒｏｌｌフィールドを含むことができる。上記ｃｅｎｔｅｒ＿ｙａｗフィールド、上記ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド及び上記ｃｅｎｔｅｒ＿ｒｏｌｌフィールドは、上記拡張領域の３Ｄ空間、例えば、球形面上における中点（center）の位置を示すことができる。具体的には、上記球形面（spherical surface）上の各点の位置は、飛行機の主軸の概念（Aircraft Principal Axes）に基づいて示される。例えば、３次元をなす軸を、各々、ピッチ（pitch）軸、ヨー（yaw）軸及びロール（roll）軸ということができ、上記球形面上の各点の位置は、ピッチ（pitch）、ヨー（yaw）及びロール（roll）を介して表現されることができる。本明細書において、これらを縮約してｐｉｔｃｈ、ｙａｗ、ｒｏｌｌ乃至ｐｉｔｃｈ方向、ｙａｗ方向、ｒｏｌｌ方向と表現することもできる。上記ｃｅｎｔｅｒ＿ｙａｗフィールドは、上記拡張領域の上記球形面上における中点のヨー値を示すことができ、上記ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールドは、上記拡張領域の上記球形面上における中点のピッチ値を示すことができ、上記ｃｅｎｔｅｒ＿ｒｏｌｌフィールドは、上記拡張領域の上記球形面上における中点のロール値を示すことができる。
【０１９６】
また、図１０を参照すると、上記拡張領域に関する情報を示すメタデータは、ｈｏｒ＿ｒａｎｇｅフィールド及びｖｅｒ＿ｒａｎｇｅフィールドを含むことができる。上記ｈｏｒ＿ｒａｎｇｅフィールド及び上記ｖｅｒ＿ｒａｎｇｅフィールドは、各々、上記拡張領域の水平範囲及び垂直範囲を示すことができる。上記ｈｏｒ＿ｒａｎｇｅフィールド及び上記ｖｅｒ＿ｒａｎｇｅフィールドが示す上記拡張領域の水平範囲及び垂直範囲は、上記拡張領域に対する対象リージョンの水平範囲及び垂直範囲より大きい、又は同じである。一方、拡張領域に関する情報を示すメタデータは、上記パッキングされたピクチャの前述したリージョン別パッキング過程に関するメタデータに含まれることができ、又は別個の情報で生成されてシグナリングされることもできる。
【０１９７】
一方、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドを含むことができる。上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドは、ｇｕａｒｄ＿ｂａｎｄ＿ｆｌａｇフィールドと示すこともできる。上記対象リージョンに対する上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドは、上記対象リージョンのＲＡＩ領域に含まれるリージョン別追加情報（region-wise auxiliary information）が上記対象リージョンに含まれる３６０度ビデオデータ及び球形面上で連続する情報であり、ビューポートイメージ生成に使われることができるかどうかを示すことができる。例えば、上記対象リージョンに対する上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報が上記対象リージョンに含まれる３６０度ビデオデータ及び球形面上で連続する情報であり、ビューポートイメージ生成に使われることができることを示すことができる。具体的には、上記ＲＡＩ領域に後述するｒａｉ＿ｔｙｐｅが２、３又は４であるリージョン別追加情報、即ち、上記ＲＡＩ領域に球形面上の上記対象リージョンの隣接リージョンの映像（例えば、３６０度ビデオデータ）の一部又は加工された形態を示すリージョン別追加情報が含まれることができ、この場合、上記隣接リージョンに関する情報全体を受信及びデコーディングせずに、上記対象リージョン及び上記対象リージョンに対するＲＡＩ領域内のビデオ情報を介してビューポートイメージが生成されることができる。これによって、より迅速且つ効率的に上記ビューポートイメージが生成されることができる。したがって、上記ＲＡＩ領域に含まれる上記リージョン別追加情報がこのような機能をサポートする場合、上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドは、１に設定されて、３６０度ビデオ受信装置で上記ＲＡＩ領域に含まれる上記リージョン別追加情報がビューポートイメージ生成に使われることができることを示すことができる。一方、上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドの値が０である場合、上記ＲＡＩ領域に含まれる上記リージョン別追加情報は、最終出力映像、即ち、ビューポートイメージ生成に使われないことを示すことができる。
【０１９８】
一方、上記対象リージョンの上側境界、下側境界、左側境界及び右側境界に隣接するＲＡＩ領域のうちの少なくとも一つのＲＡＩ領域が上記ビューポートイメージ生成に使われることができる場合、上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドの値は、１に設定されることができる。また、各方向、即ち、上記上側境界、上記下側境界、上記左側境界及び上記右側境界に隣接するＲＡＩ領域の各々に対するｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドがシグナリングされることができ、上記ＲＡＩ領域の各々に対する上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドに基づいて各方向に対するリージョン別追加情報の上記ビューポートイメージ生成における使用が可能か否かが導出されることができる。
【０１９９】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｔｙｐｅフィールドを含むことができる。上記ｒａｉ＿ｔｙｐｅフィールドは、ｇｂ＿ｔｙｐｅフィールドと示すこともできる。上記ｒａｉ＿ｔｙｐｅフィールドは、上記ｒａｉ＿ｔｙｐｅフィールドに関連するＲＡＩ領域に含まれるリージョン別追加情報のタイプを示すことができる。上記タイプによる上記ＲＡＩ領域に含まれるリージョン別追加情報は、下記の通りである。
【０２００】
図１１ａ乃至図１１ｂは、上記リージョン別追加情報のタイプによる上記リージョン別追加情報を例示的に示す。上記タイプは、上記対象リージョンの境界に隣接するＲＡＩ領域に含まれる映像の属性、即ち、上記ＲＡＩ領域に含まれる上記リージョン別追加情報の属性を示す。上記ｒａｉ＿ｔｙｐｅフィールドの値が０である場合、上記ｒａｉ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に含まれる情報が指定されないことを示すことができる。
【０２０１】
上記ｒａｉ＿ｔｙｐｅフィールドの値が１である場合、上記ＲＡＩ領域は、上記対象リージョンの境界に位置するサンプルに関する情報を繰り返して含むことができる。即ち、上記ＲＡＩ領域は、上記ＲＡＩ領域と隣接する上記対象リージョンの境界に位置するサンプルが複写された情報を含むことができる。上記図１１ａの（ａ）は、上記ｒａｉ＿ｔｙｐｅフィールドの値が１である場合の上記リージョン別追加情報を示すことができる。
【０２０２】
上記ｒａｉ＿ｔｙｐｅフィールドの値が２である場合、上記ＲＡＩ領域は、上記対象リージョンの境界と隣接する上記対象リージョン内の特定領域の情報を含み、上記対象リージョンの境界は、上記ＲＡＩ領域と隣接する境界を示すことができ、上記特定領域の情報は、漸進的な画質変化を有することができる。具体的には、例えば、上記対象リージョンが、高い画質の３６０度ビデオデータを含み、上記対象リージョンと球形面上で隣接する周辺リージョンが、低い画質の３６０度ビデオデータを含む場合に、上記対象リージョンに対する上記ＲＡＩ領域の上記ｒａｉ＿ｔｙｐｅフィールドの値が２である場合、上記ＲＡＩ領域は、上記対象リージョンの境界と隣接する上記対象リージョン内の上記特定領域の情報を含み、上記ＲＡＩ領域に含まれる上記特定領域の情報は、上記対象リージョンに境界から遠ざかるほど上記対象リージョンの高い画質から上記周辺リージョンの低い画質へ漸進的な画質変化を有することができる。
【０２０３】
上記ｒａｉ＿ｔｙｐｅフィールドの値が３である場合、上記ＲＡＩ領域は、上記対象リージョンの境界と隣接する上記対象リージョン内の特定領域の情報を含み、上記対象リージョンの境界は、上記ＲＡＩ領域と隣接する境界を示すことができ、上記特定領域の情報は、上記対象リージョンと同じ画質を有することができる。上記図１１ａの（ｂ）は、上記ｒａｉ＿ｔｙｐｅフィールドの値が３である場合の上記リージョン別追加情報を示すことができる。また、上記図１１ａの（ｂ）は、前述したｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合の上記対象リージョンに対するコーナ周辺ＲＡＩ領域を示すことができる。
【０２０４】
上記ｒａｉ＿ｔｙｐｅフィールドの値が４である場合、上記ＲＡＩ領域は、ビューポートプレーン（viewport plain）にｐｒｏｊｅｃｔｉｏｎされた映像に関する情報が含まれることができる。即ち、上記ｒａｉ＿ｔｙｐｅフィールドの値が４である場合、上記ＲＡＩ領域は、球形面上で上記対象リージョンに隣接する周辺リージョンの情報を含むことができる。ここで、上記ビューポートプレーンは、前述したビューポートイメージに対応できる。上記ｒａｉ＿ｔｙｐｅフィールドの値が４である場合、上記ＲＡＩ領域は、上記対象リージョンに対するビューポート拡張のために使われることができる。上記図１１ａの（ｃ）は、キュービックプロジェクションスキームが適用されたパッキングされたピクチャ内の対象リージョンに対する上記ｒａｉ＿ｔｙｐｅフィールドの値が４である場合、上記対象リージョンのＲＡＩ領域に含まれる上記リージョン別追加情報を示すことができる。上記キュービックプロジェクションスキームは、ＣＭＰ（Cube Map Projection）とも呼ばれる。また、上記図１１ａの（ｃ）は、前述したｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合の上記対象リージョンに対するコーナ周辺ＲＡＩ領域を示すことができる。
【０２０５】
上記ｒａｉ＿ｔｙｐｅフィールドの値が５である場合、上記ｒａｉ＿ｔｙｐｅフィールドは、３次元空間（例えば、球形面）上で上記対象リージョンの境界に隣接する周辺リージョンの境界のＲＡＩ領域と同じリージョン別追加情報が上記対象リージョンのＲＡＩ領域に含まれることを示すことができる。ここで、上記対象リージョンの境界は、パッキングされたピクチャ上で上記対象リージョンと上記対象リージョンの上記ＲＡＩ領域とが隣接する境界を示すことができ、上記３次元空間は、上記パッキングされたピクチャに適用されたプロジェクションスキームに対する３Ｄプロジェクション構造を示すことができる。即ち、上記対象リージョンの上記ＲＡＩ領域は、直接的な情報を含まないが、上記対象リージョンの上記ＲＡＩ領域の情報として３次元空間上で上記対象リージョンの境界に隣接する上記周辺リージョンの境界のＲＡＩ領域に関する情報が使われることができることを示すことができる。上記図１１ｂの（ｄ）は、リージョンの境界のうちの３次元空間上で隣接する境界を例示的に示すことができる。３次元空間に上記パッキングされたピクチャをマッピングする場合、上記対象リージョンの境界と隣接する周辺リージョンは、一つとして導出されることができ、上記ｒａｉ＿ｔｙｐｅフィールドのみで上記周辺リージョンのＲＡＩ領域の存在の有無のみがシグナリングされることができるが、より明確な情報として上記周辺リージョンの位置、上記周辺リージョンの上記ＲＡＩ領域のサイズ及び／又は上記周辺リージョンの上記ＲＡＩ領域の画質などの情報がシグナリングされることもできる。
【０２０６】
一方、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｄｉｒフィールドを含むことができる。上記ｒａｉ＿ｄｉｒフィールドは、上記対象リージョンの上記ＲＡＩ領域に含まれるリージョン別追加情報が上記ＲＡＩ領域と隣接する対象リージョンの境界を基準にしてどのような方向性を有する情報であるかを示すことができる。例えば、上記ｒａｉ＿ｄｉｒフィールドは、上記ＲＡＩ領域に含まれるリージョン別追加情報が、上記対象リージョンの境界を基準にして内側方向の情報であるか又は外側方向の情報であるかを示すことができる。例えば、上記ｒａｉ＿ｄｉｒフィールドの値が０である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報は、上記対象リージョンの境界外側方向の情報であり、上記ｒａｉ＿ｄｉｒフィールドの値が１である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報は、上記対象リージョンの境界内側方向の情報であり、上記ｒａｉ＿ｄｉｒフィールドの値が２である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報は、上記対象リージョンの境界内側方向の情報及び上記対象リージョンの境界外側方向の情報を全て含むことができる。ここで、上記境界内側方向の情報は、上記対象リージョンの境界に隣接する対象リージョン内の特定領域に含まれる情報に基づいて導出された情報を示すことができ、上記境界外側方向の情報は、３次元空間上で上記対象リージョンの境界に隣接する周辺リージョン内の特定領域に含まれる情報に基づいて導出された情報を示すことができる。上記ＲＡＩ領域に含まれるリージョン別追加情報が両側の情報を全て含む場合、上記対象リージョン内の特定領域と上記周辺リージョン内の特定領域とは、互いに同じサイズである。一方、上記対象リージョン内の特定領域と上記周辺リージョン内の特定領域とが互いに異なる割合で映像情報を含む上記対象リージョン内の特定領域の映像情報と上記周辺リージョン内の特定領域の映像情報との比率に関する情報が、追加でシグナリングされることができる。また、上記対象リージョン内の特定領域と上記周辺リージョン内の特定領域とが互いに異なる幅又は高さを有する場合、上記特定領域の幅又は高さに関する情報が追加でシグナリングされることができる。
【０２０７】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドを含むことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドは、上記対象リージョンの上記ＲＡＩ領域に対する変換情報がシグナリングされるかどうかを示すことができる。例えば、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ＲＡＩ領域に対する変換情報がシグナリングされることができる。この場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドは、上記ＲＡＩ領域に含まれるリージョン別追加情報が上記対象リージョンの情報と異なる変換過程が実行されたことを示すことができる。また、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ＲＡＩ領域に対するｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドがシグナリングされることができ、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域の変換情報を示すことができる。即ち、上記ＲＡＩ領域に含まれる上記リージョン別追加情報がビューポートイメージ生成に使われるとき、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅで定義された変換情報に基づいて上記ＲＡＩ領域が逆変換されることができ、逆変換された上記ＲＡＩ領域は、上記ビューポートイメージ生成に使われることができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が示す変換情報は、以下の表のように定義されることができる。
【０２０８】
＜表１＞
【表１】
2020520161.tif 000009
【０２０９】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が０である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に対する変換過程が実行されないことを示すことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が１である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に水平ミラーリング（horizontal mirroring）が行われる変換過程が実行されたことを示すことができる。ここで、上記ミラーリングは、鏡に映したように中点を通過する（すぎる）垂直軸を中心にして対称的に反転されることを示すことができる。
【０２１０】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が２である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に反時計方向に１８０度回転される変換過程が実行されたことを示すことができる。
【０２１１】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が３である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に、水平ミラーリング（mirroring）が行われ、反時計方向に１８０度回転される変換過程が実行されたことを示すことができる。
【０２１２】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が４である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に、水平ミラーリング（mirroring）が行われ、反時計方向に９０度回転される変換過程が実行されたことを示すことができる。
【０２１３】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が５である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に反時計方向に９０度回転される変換過程が実行されたことを示すことができる。
【０２１４】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が６である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に、水平ミラーリング（mirroring）が行われ、反時計方向に２７０度回転される変換過程が実行されたことを示すことができる。
【０２１５】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が７である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記ＲＡＩ領域に反時計方向に２７０度回転される変換過程が実行されたことを示すことができる。
【０２１６】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及びｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドを含むことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及び上記ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドは、シグナリングされることができ、上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及び上記ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドは、上記ＲＡＩ領域に対して適用された変換過程の水平スケーリング係数及び垂直スケーリング係数を示すことができる。上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及び上記ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドは、０．０１単位で表すことができ、上記垂直スケーリング係数、及び上記水平スケーリング係数は、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅに基づいて導出された変換過程が適用される以前の水平及び垂直方向を示すように定義されることができる。
【０２１７】
また、図９ｂを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドを含むことができる。上記ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドは、上記対象リージョンの量子化パラメータ（Quantization Parameter、ＱＰ）と３次元空間上で上記対象リージョンに隣接する周辺リージョンのＱＰとの差を示すことができる。上記対象リージョンと上記周辺リージョンとが隣接する境界に関連するＲＡＩ領域のｒａｉ＿ｔｙｐｅフィールドの値が２である場合、上記ＲＡＩ領域に含まれるリージョン別追加情報は、画質変化（image quality change）を有することができる。この場合、上記画質変化の差に関する具体的な情報を伝達するために、上記ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドが使われることができる。具体的には、上記対象リージョンと復元後に３次元空間上で隣接する周辺リージョンとが互いに異なるＱＰが使われて、上記対象リージョンと上記周辺リージョンとの間の画質差が発生することができ、この場合、上記対象リージョンに対する上記ＲＡＩ領域は、上記対象リージョンと上記周辺リージョンとの間のＱＰ差を緩和させる目的として漸進的にＱＰを変化させた映像を含むことができる。この場合、開始ＱＰ（starting QP）及び終了ＱＰ（end QP）に関する情報が各々伝達されることができ、又は上記開始ＱＰ（starting QP）と終了ＱＰ（end QP）との間の差を示す上記ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドが伝達されることができる。
【０２１８】
この場合、例えば、上記対象リージョンのＱＰが上記開始ＱＰに設定され、上記周辺リージョンのＱＰが終了ＱＰに設定されて、上記ＲＡＩ領域にＱＰが上記対象リージョンの境界に隣接するサンプルから漸進的に変化されることができる。この場合、上記対象リージョンの境界に隣接するＲＡＩ領域のサンプルは、上記開始ＱＰが適用されることができ、上記対象リージョンの境界から最も遠い位置の上記ＲＡＩ領域のサンプルは、上記終了ＱＰが適用されることができる。上記ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドが送信された場合、上記対象リージョンのＱＰからｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドの値を引いた値が上記終了（種類）ＱＰ（ending QP）として導出されることができる。入力映像に対して前述したこのような場合のみが仮定される場合、上記ＲＡＩ領域のｒａｉ＿ｔｙｐｅフィールドの値が２である場合、上記対象リージョンのＱＰを開始ＱＰにし、上記周辺リージョンのＱＰを終了ＱＰにして、上記ＲＡＩ領域内の情報のＱＰを漸進的に変化させることが明示的に記述（説明）される（described）こともできる。
【０２１９】
一方、前述したＱＰ以外の画質要素の差に関して、上記ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドは、上記ＱＰ以外の他の画質要素に対する差を示すことができる。例えば、上記ＲＡＩ領域は、上記対象リージョンのｑｕａｌｉｔｙ  ｌｅｖｅｌと上記周辺リージョンのｑｕａｌｉｔｙ  ｌｅｖｅｌとの間の差を緩和させる目的として、漸進的にｑｕａｌｉｔｙ  ｌｅｖｅｌを変化させた映像が含まれることができ、この場合、開始ｑｕａｌｉｔｙ  ｌｅｖｅｌ及び終了ｑｕａｌｉｔｙ  ｌｅｖｅｌに関する情報が各々伝達されることができ、又は上記開始ｑｕａｌｉｔｙ  ｌｅｖｅｌと終了ｑｕａｌｉｔｙ  ｌｅｖｅｌとの間の差を示す上記ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドが伝達されることができる。ここで、上記ｑｕａｌｉｔｙ  ｌｅｖｅｌは、相対的な画質を示す画質要素を意味する。
【０２２０】
また、図９ｃを参照すると、上記リージョン別追加情報に関するメタデータは、ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドを含むことができる。例えば、上記対象リージョンの一つの境界に対して互いに異なる特性のリージョン別追加情報を含む複数のＲＡＩ領域が生成されることができる。上記複数のＲＡＩ領域は、サブＲＡＩ領域とも呼ばれる。上記ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドは、上記対象リージョンの境界に対する上記サブＲＡＩ領域の個数を示すことができる。例えば、上記ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドの値に１を加えた値が、上記境界に対する上記サブＲＡＩ領域の個数を示すことができる。
【０２２１】
また、図９ｃを参照すると、上記リージョン別追加情報に関するメタデータは、ｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールドを含むことができる。上記対象リージョンの境界に対してサブＲＡＩ領域が生成された場合、各サブＲＡＩ領域に対するｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールドがシグナリングされることができ、上記各サブＲＡＩ領域に対するｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールドは、上記各サブＲＡＩ領域に対する上記対象リージョンのサブ境界の長さを示すことができる。ここで、上記サブ境界は、上記対象リージョンの境界のうちの上記各サブＲＡＩ領域が隣接する部分を示すことができる。具体的には、例えば、ｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈ［ｉ］［ｊ］［ｋ］フィールドは、ｉ番目のリージョンのｊ番目の境界に対するｋ番目のサブ境界の長さを示すことができる。また、上記対象リージョンの境界のうち、水平方向の境界の場合、左から右への順序で上記ｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールドが適用されることができ、垂直方向の境界の場合、上から下への順序で上記ｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールドが適用されることができる。
【０２２２】
一方、リージョン別パッキング過程に関するメタデータは、上記プロジェクションされたピクチャ上の上記対象リージョンの位置及び大きさに関する情報を含むことができ、上記パッキングされたピクチャ上の上記対象リージョンの位置及び大きさに関する情報を含むことができる。また、上記対象リージョンに対する変換情報を含むことができる。上記対象リージョンに関する情報は、以下の表の通りである。
【０２２３】
＜表２＞
【表２】
2020520161.tif 000010
【０２２４】
ここで、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｗｉｄｔｈフィールドは、上記プロジェクションされたピクチャ上の上記対象リージョンの幅を示すことができ、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｈｅｉｇｈｔフィールドは、上記プロジェクションされたピクチャ上の上記対象リージョンの高さを示すことができる。また、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｔｏｐフィールドは、上記プロジェクションされたピクチャ上の上記対象リージョンの左上端サンプルのｙ成分を示すことができ、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｌｅｆｔフィールドは、上記プロジェクションされたピクチャ上の上記対象リージョンの左上端サンプルのｘ成分を示すことができる。
【０２２５】
また、ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンの変換情報を示すことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が示す変換情報は、前述の表１の通りである。具体的には、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が０である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに対する変換過程が実行されないことを示すことができる。上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が１である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに水平ミラーリング（mirroring）が行われる変換過程が実行されたことを示すことができる。ここで、上記ミラーリングは、鏡に映したように中点を通過する垂直軸を中心にして対称的に反転されることを示すことができる。
【０２２６】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が２である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに反時計方向に１８０度回転される変換過程が実行されたことを示すことができる。
【０２２７】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が３である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに、水平ミラーリング（mirroring）が行われ、反時計方向に１８０度回転される変換過程が実行されたことを示すことができる。
【０２２８】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が４である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに、水平ミラーリング（mirroring）が行われ、反時計方向に９０度回転される変換過程が実行されたことを示すことができる。
【０２２９】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が５である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに反時計方向に９０度回転される変換過程が実行されたことを示すことができる。
【０２３０】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が６である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに、水平ミラーリング（mirroring）が行われ、反時計方向に２７０度回転される変換過程が実行されたことを示すことができる。
【０２３１】
上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドの値が７である場合、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドは、上記対象リージョンに反時計方向に２７０度回転される変換過程が実行されたことを示すことができる。
【０２３２】
また、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｗｉｄｔｈフィールドは、上記パッキングされたピクチャ上における上記対象リージョンの幅を示すことができ、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｈｅｉｇｈｔフィールドは、上記パッキングされたピクチャ上における上記対象リージョンの高さを示すことができる。また、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｔｏｐフィールドは、上記パッキングされたピクチャ上における上記対象リージョンの左上端サンプルのｙ成分を示すことができ、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｌｅｆｔフィールドは、上記パッキングされたピクチャ上における上記対象リージョンの左上端サンプルのｘ成分を示すことができる。
【０２３３】
一方、上記対象リージョンのＲＡＩ領域が互いに異なるタイプのリージョン別追加情報を含む場合のパッキングされたピクチャは、下記の通りである。
【０２３４】
図１２は、ＥＲＰが適用されパッキングされたピクチャのリージョンに対するＲＡＩ領域の一例を示す。図１２の（ａ）を参照すると、上記ＥＲＰに基づいてプロジェクションされたピクチャは、ｑｕａｌｉｔｙによって複数のリージョンに分けてコーディングされることができる。即ち、上記プロジェクションされたピクチャは、ｑｕａｌｉｔｙが異なる複数のリージョンにパッキングされたピクチャとして導出されることができる。例えば、上記パッキングされたピクチャの中心リージョン（Ｍ）、トップ（上側）リージョン（Ｔ）及びボトム（下側）リージョン（Ｂ）が、主要部分と仮定されて高画質（High Quality、ＨＱ）に指定されることができ、上記リージョンを除いた残りの左側リージョン（Ｌ）及び右側リージョン（Ｒ）は、低画質（Low Quality、ＬＱ）に指定されることができる。上記パッキングされたピクチャの各リージョンに関する情報は、ＭＣＴＳなどの技術に基づいて別個のストリームで送信されることができる。また、タイリング（Tiling）に基づいて上記各リージョンが別個の領域にエンコードされることができ、３６０度ビデオ受信装置は、上記リージョンのうちの必要なリージョンのみを選別的にデコードできるため、これによってコーディング効率をより向上させることができる。しかしながら、上記ＨＱに指定されたリージョン及び上記ＬＱに指定されたリージョンが共に表示される場合、上記ＬＱに指定されたリージョンと上記ＨＱに指定されたリージョンとが接した部分で意図しない境界現象が現れることができる。したがって、上記境界現象を減らすために、図１２の（ｂ）に示すように、上記各リージョンの特性によって導出されたリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）が伝達されることができる。上記各リージョンに対するリージョン別追加情報は、他のリージョンのリージョン別追加情報と異なることがある。
【０２３５】
図１２の（ｂ）を参照すると、上記各リージョンに対する上記リージョン別追加情報を含むＲＡＩ領域が導出されることができる。図１２の（ｂ）に示す上記ＲＡＩ領域の数字は、上記ＲＡＩ領域に含まれるリージョン別追加情報のタイプを示すことができる。即ち、上記リージョン別追加情報を含む上記ＲＡＩ領域の各々に対して前述したｒａｉ＿ｔｙｐｅフィールドがシグナリングされることができ、上記ＲＡＩ領域の各々に対する数字は、上記ｒａｉ＿ｔｙｐｅフィールドの値を示すことができる。上記ｒａｉ＿ｔｙｐｅフィールドの値が２である場合、前述した内容のように上記ｒａｉ＿ｔｙｐｅフィールドに対するＲＡＩ領域は、上記対象リージョンの境界と隣接する上記対象リージョン内の特定領域の情報を含み、上記特定領域の情報は、漸進的な画質変化を有することができる。また、上記ｒａｉ＿ｔｙｐｅフィールドの値が３である場合、前述した内容のように上記ｒａｉ＿ｔｙｐｅフィールドに対するＲＡＩ領域は、上記対象リージョンの境界と隣接する上記対象リージョン内の特定領域の情報をそのまま含むことができる。
【０２３６】
図１２の（ｂ）を参照すると、上記パッキングされたピクチャの中心リージョンに隣接する互いに異なるタイプのリージョン別追加情報を含むＲＡＩ領域が存在できる。この場合、上記中心リージョンに対するｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値は、０である。また、上記中心リージョンに隣接する上記ＲＡＩ領域は、ビューポート生成に使われることができ、この場合、上記中心リージョンに対するｒａｉ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値は、１として現れることができる。また、ＲＡＩ領域及び中心リージョンを含む部分のコーナ部分（図１２の（ｂ）の対角線で表示された部分）、即ち、上記中心リージョンのコーナ周辺領域に上記中心リージョンに対するリージョン別追加情報が存在できる。この場合、上記中心リージョンに対するｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値は、１で表すことができる。また、上記コーナ周辺領域に含まれる上記リージョン別追加情報は、ビューポート生成に使われることができる。
【０２３７】
また、図１２の（ｂ）を参照すると、上記中心リージョンと上記左側リージョンとの間のＲＡＩ領域は、ＨＱからＬＱへ画質が漸進的に変わるリージョン別追加情報を含むことができる。この場合、上記ＲＡＩ領域がどのリージョンに対するＲＡＩ領域であるかに基づいて上記ＲＡＩ領域の上記リージョン別追加情報がどのような方向性を有する情報であるかを示すことができる。即ち、上記ＲＡＩ領域が属するリージョンによって上記リージョン別追加情報の方向性は、内側方向又は外側方向に導出されることができる。
【０２３８】
例えば、上記ＲＡＩ領域が中心リージョンに対するＲＡＩ領域である場合、上記中心リージョンの左側境界から外側方向へ行く（進む）リージョン別追加情報が含まれると導出されることができる。即ち、上記ＲＡＩ領域の上記リージョン別追加情報は、外側方向の方向性を有する情報で表すことができる。この場合、上記ＲＡＩ領域に対するｒａｉ＿ｄｉｒフィールドの値は、０で表されることができる。
【０２３９】
また、他の例として、上記ＲＡＩ領域が左側リージョンに対するＲＡＩ領域である場合、上記左側リージョンの右側境界から内側方向へ入るリージョン別追加情報が含まれると導出されることができる。即ち、上記ＲＡＩ領域の上記リージョン別追加情報は、内側方向の方向性を有する情報で表すことができる。この場合、上記ＲＡＩ領域に対するｒａｉ＿ｄｉｒフィールドは、１で表すことができる。
【０２４０】
また、図１２の（ｂ）を参照すると、トップリージョンと上記左側リージョンとが隣接するＲＡＩ領域、上記トップリージョンと上記中心リージョンとが隣接するＲＡＩ領域、上記トップリージョンと上記右側リージョンとが隣接するＲＡＩ領域が、上記トップリージョンに対するＲＡＩ領域である。この場合、上記トップリージョンの下側境界に対して互いに異なるタイプの３個のリージョン別追加情報が導出されることができる。この場合、上記トップリージョンの上記下側境界に対する上記ＲＡＩ領域の各々のｒａｉ＿ｔｙｐｅフィールドに基づいてサブ境界が設定されることができ、上記ＲＡＩ領域の各々に対して互いに異なる情報がシグナリングされることができる。具体的には、例えば、上記下側境界に対するサブ境界は、５個導出されることができ、各サブ境界に対するＲＡＩ領域のｒａｉ＿ｔｙｐｅフィールドは、左から右への順序に２、０、３、０、２の値でシグナリングされることができる。
【０２４１】
一方、上記対象リージョンのＲＡＩ領域を含むＥＲＰが適用されたパッキングされたピクチャは、下記のような多様な形態で導出されることができる。
【０２４２】
図１３は、上記ＲＡＩ領域を含むＥＲＰが適用されたパッキングされたピクチャの一例を示す。図１３の（ａ）は、上記ＥＲＰが３６０度ビデオに対するプロジェクションタイプに適用される場合、上記ＥＲＰを介してプロジェクションされたピクチャを上記パッキングされたピクチャとして導出する方法で各ステップにおけるピクチャを示す。上記３６０度ビデオデータは、上記ＥＲＰを介してプロジェクションされることができ、プロジェクションされた後、上記プロジェクションされたピクチャに対するＲＡＩ領域が生成されることができる。図１３の（ａ）に示すように、上記プロジェクションされたピクチャの右側境界に隣接するＲＡＩ領域が生成されることができ、上記ＲＡＩ領域は、上記プロジェクションされたピクチャの左側領域に基づいて生成されることができる。その後、上記ＲＡＩ領域を含むプロジェクションされたピクチャに対するリージョン別パッキング過程が実行されることができる。具体的には、図１３の（ａ）に示すように、上記リージョン別パッキング過程を介してトップリージョン（Top）、ボトムリージョン（Bottom）、及びサイドリージョン（Side）がパッキングされたピクチャの位置に再配列されることができる。この場合、上記プロジェクションされたピクチャ内で水平（horizontally）ダウンサンプリングされた（down-sampled）上記トップリージョン及びボトムリージョンは、上記パッキングされたピクチャ内では上記サイドリージョンの上側に位置できる。また、上記リージョン別パッキング過程で、上記パッキングされたピクチャ内の各々のリージョンのＲＡＩ領域は、上記ＲＡＩ領域と対応する領域の変換（transformation）によって変換されることができる。
【０２４３】
また、図１３の（ｂ）は、上記ＥＲＰを介してプロジェクションされたピクチャを上記パッキングされたピクチャに導出する方法の他の実施例を示す。図１３の（ｂ）に示すように、上記プロジェクションされたピクチャの右側境界に隣接するＲＡＩ領域及び左側境界に隣接するＲＡＩ領域が生成されることができ、上記ＲＡＩ領域を含むプロジェクションされたピクチャに対するリージョン別パッキング過程が実行されることができる。具体的には、図１３の（ｂ）に示すように、上記リージョン別パッキング過程を介して、上記プロジェクションされたピクチャのリージョンは、再配列されることができ、上記プロジェクションされたピクチャに対するパッキングされたピクチャが導出されることができる。
【０２４４】
また、図１３の（ｃ）は、上記ＥＲＰを介してプロジェクションされたピクチャを上記パッキングされたピクチャに導出する方法の他の実施例を示す。図１３の（ｃ）を参照すると、上記プロジェクションされたピクチャのトップリージョン、ボトムリージョン、及びサイドリージョンの左側境界及び右側境界に隣接するＲＡＩ領域が生成されることができる。また、上記リージョン別パッキング過程を介して上記プロジェクションされたピクチャのリージョン及び上記ＲＡＩ領域が再配列されることができる。一方、図１３の（ｃ）を参照すると、上記ＲＡＩ領域の変換は、ＲＡＩ領域毎に異なるように適用されることができる。例えば、上記トップリージョン及び上記ボトムリージョンに対するＲＡＩ領域の変換は、上記ＲＡＩ領域の各々が対応するリージョンの変換から独立して実行されることができる。具体的には、例えば、上記ＲＡＩ領域は、１／２の水平ダウンスケーリング（horizontal down-scaling）が適用されずに、１／４の水平ダウンスケーリング（horizontal down-scaling）が適用されることができる。これによって、図１３の（ｃ）に示すように、上記ＲＡＩ領域は、上記パッキングされたピクチャでより大きいサイズの領域に位置できる。また、サイドリージョンに対するＲＡＩ領域のうち上側境界に隣接するＲＡＩ領域及び下側境界に隣接するＲＡＩ領域は、リージョン間の画質差を減らすために漸進的な画質変化を有することができる。この場合、上記サイドリージョンに対するＲＡＩ領域のうちの左側境界に隣接するＲＡＩ領域及び右側境界に隣接するＲＡＩ領域に対するｒａｉ＿ｔｙｐｅフィールドの値は、上記サイドリージョン内の特定領域の情報をそのまま含むことを示すために、３に設定されることができる。また、上記サイドリージョンに対するＲＡＩ領域のうちの上側境界に隣接するＲＡＩ領域及び下側境界に隣接するＲＡＩ領域に対するｒａｉ＿ｔｙｐｅフィールドの値は、漸進的な画質変化を有することを示すために、２に設定されることができる。したがって、上記サイドリージョンの境界に対応するＲＡＩ領域は、互いに異なるタイプに生成されることができる。サイドリージョンに対して互いに異なるタイプのＲＡＩ領域が生成される場合、上記左側境界に隣接するＲＡＩ領域及び上記右側境界に隣接するＲＡＩ領域を介してリージョン間の境界が現れることを消えるようにすることができ、上記上側境界に隣接するＲＡＩ領域及び上記下側境界に隣接するＲＡＩ領域を介して高い画質のリージョンから低い画質のリージョンへスムーズに転換されるようにすることができる。
【０２４５】
一方、前述したように、上記パッキングされたピクチャ内のｉ番目のリージョンに対する互いに異なるタイプのＲＡＩ領域が生成される場合、上記ＲＡＩ領域に含まれるイメージコンテンツ、即ち、３６０度ビデオデータは、上記パッキングされたピクチャに対するプロジェクションされたピクチャ内のｉ番目のリージョンに隣接する領域から導出されることができる。上記プロジェクションされたピクチャ内の上記ｉ番目のリージョンに隣接する上記領域は、対応領域と示すことができ、上記プロジェクションされたピクチャは、ソースピクチャ（source picture）と示すことができる。上記ＲＡＩ領域の上記対応領域に関する情報を含むシンタックス要素は、以下の表のように導出されることができる。
【０２４６】
＜表３＞
【表３】
2020520161.tif 000011
【０２４７】
ここで、ｇｂ＿ｓｏｕｒｃｅ＿ｗｉｄｔｈ［ｉ］は、パッキングされたピクチャ内のｉ番目のリージョンのＲＡＩ領域と対応するソースピクチャの対応領域の幅を示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｈｅｉｇｈｔ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記ソースピクチャの上記対応領域の高さを示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｔｏｐ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記対応領域の左上端サンプルのｙ成分を示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｌｅｆｔ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記対応領域の上記左上端サンプルのｘ成分を示すことができる。
【０２４８】
また、上記ＲＡＩ領域の上記対応領域に関する情報を含むシンタックス要素は、以下の表のように導出されることもできる。
【０２４９】
＜表４＞
【表４】
2020520161.tif 000012
【０２５０】
ここで、ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］は、上記ＲＡＩ領域のソースピクチャを示すことができる。即ち、上記ＲＡＩ領域は、前述したように上記プロジェクションされたピクチャ内の対応領域から導出されることができるが、上記パッキングされたピクチャ内の対応領域から導出されることもできる。例えば、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］の値が１である場合、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］は、上記プロジェクションされたピクチャが上記ソースピクチャであることを示すことができ、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］の値が２である場合、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］は、上記パッキングされたピクチャが上記ソースピクチャであることを示すことができる。また、ｇｕａｒｄ＿ｂａｎｄ＿ｓｒｃ＿ｆｌａｇ［ｉ］は、上記対応領域に関する情報がシグナリングされるかどうかを示すことができる。例えば、上記ｇｕａｒｄ＿ｂａｎｄ＿ｓｒｃ＿ｆｌａｇ［ｉ］の値が１である場合、上記対応領域に関する情報を示すｇｂ＿ｓｏｕｒｃｅ＿ｗｉｄｔｈ［ｉ］、ｇｂ＿ｓｏｕｒｃｅ＿ｈｅｉｇｈｔ［ｉ］、ｇｂ＿ｓｏｕｒｃｅ＿ｔｏｐ［ｉ］及びｇｂ＿ｓｏｕｒｃｅ＿ｌｅｆｔ［ｉ］がシグナリングされることができ、上記ｇｕａｒｄ＿ｂａｎｄ＿ｓｒｃ＿ｆｌａｇ［ｉ］の値が０である場合、上記対応領域に関する情報は、シグナリングされない。この場合、上記ＲＡＩ領域の３６０度ビデオデータは、上記プロジェクションされたピクチャ内の上記ｉ番目のリージョンと隣接するリージョンから導出されることができ、上記ＲＡＩ領域は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンのような変換が適用されることができる。
【０２５１】
また、ｇｂ＿ｓｏｕｒｃｅ＿ｗｉｄｔｈ［ｉ］は、パッキングされたピクチャ内のｉ番目のリージョンのＲＡＩ領域と対応するソースピクチャの対応領域の幅を示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｈｅｉｇｈｔ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記ソースピクチャの上記対応領域の高さを示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｔｏｐ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記対応領域の左上端サンプルのｙ成分を示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｌｅｆｔ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記対応領域の上記左上端サンプルのｘ成分を示すことができる。また、ｇｂ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅ［ｉ］は、前述した内容のように上記ＲＡＩ領域の変換情報を示すことができる。
【０２５２】
また、上記ＲＡＩ領域の上記対応領域に関する情報を含むシンタックス要素は、以下の表のように導出されることもできる。
【０２５３】
＜表５＞
【表５】
2020520161.tif 000013
【０２５４】
ここで、ｇｂ＿ｓｒｃ＿ｐｒｏｊ＿ｐｉｃ＿ｆｌａｇ［ｉ］は、上記ＲＡＩ領域のソースピクチャを示すことができる。例えば、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］の値が１である場合、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］は、上記プロジェクションされたピクチャが上記ソースピクチャであることを示すことができ、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］の値が０である場合、上記ｇｂ＿ｓｏｕｒｃｅ＿ｔｙｐｅ［ｉ］は、上記パッキングされたピクチャが上記ソースピクチャであることを示すことができる。
【０２５５】
また、ｇｂ＿ｔｙｐｅｓ＿ｄｉｆｆｅｒｅｎｔ＿ｆｌａｇ［ｉ］は、上記ｉ番目のリージョンに対する上側境界に隣接するＲＡＩ領域、下側境界に隣接するＲＡＩ領域、左側境界に隣接するＲＡＩ領域、及び右側境界に隣接するＲＡＩ領域が互いに異なるＲＡＩ領域タイプを有することを示すことができる。例えば、上記ｇｂ＿ｔｙｐｅｓ＿ｄｉｆｆｅｒｅｎｔ＿ｆｌａｇ［ｉ］値が１である場合、上記ｉ番目のリージョンに対するＲＡＩ領域は、互いに異なるＲＡＩ領域タイプのＲＡＩ領域であり、上記ｇｂ＿ｔｙｐｅｓ＿ｄｉｆｆｅｒｅｎｔ＿ｆｌａｇ［ｉ］値が０である場合、上記ｉ番目のリージョンに対する上記ＲＡＩ領域は、同じＲＡＩ領域タイプのＲＡＩ領域である。
【０２５６】
また、ｇｂ＿ｉｎｄｅｐｅｎｄｅｎｔ＿ｔｒａｎｓｆｏｒｍ＿ｆｌａｇ［ｉ］は、上記ｉ番目のリージョンに対する上記ＲＡＩ領域が上記ｉ番目のリージョンの変換（transformation）と異なる変換が適用されるかどうかを示すことができる。例えば、上記ｇｂ＿ｉｎｄｅｐｅｎｄｅｎｔ＿ｔｒａｎｓｆｏｒｍ＿ｆｌａｇ［ｉ］の値が１である場合、上記ＲＡＩ領域は、上記ｉ番目のリージョンの変換（transformation）と異なる変換を介して生成されることができ、上記ｇｂ＿ｉｎｄｅｐｅｎｄｅｎｔ＿ｔｒａｎｓｆｏｒｍ＿ｆｌａｇ［ｉ］の値が０である場合、上記ＲＡＩ領域は、上記ｉ番目のリージョンの変換（transformation）と同じ変換を介して生成されることができる。
【０２５７】
また、ｇｂ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅ［ｉ］は、前述した内容のように上記ＲＡＩ領域の変換情報を示すことができる。また、ｇｂ＿ｓｏｕｒｃｅ＿ｗｉｄｔｈ［ｉ］は、パッキングされたピクチャ内のｉ番目のリージョンのＲＡＩ領域と対応するソースピクチャの対応領域の幅を示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｈｅｉｇｈｔ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記ソースピクチャの上記対応領域の高さを示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｔｏｐ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記対応領域の左上端サンプルのｙ成分を示すことができ、ｇｂ＿ｓｏｕｒｃｅ＿ｌｅｆｔ［ｉ］は、上記パッキングされたピクチャ内の上記ｉ番目のリージョンの上記ＲＡＩ領域と対応する上記対応領域の上記左上端サンプルのｘ成分を示すことができる。
【０２５８】
一方、前述したリージョン別パッキング過程を介して導出された上記パッキングされたピクチャは、ユーザの最終的な表示（最終ディスプレイ）として使われることができる。しかしながら、前述した内容のように上記パッキングされたピクチャ内のリージョンは、互いに異なるクォリティのデータが含まれることができ、それによって、ユーザは、不便感（inconvenience）を感じることができる。したがって、後述する内容のようにポストプロセッシングが適用されることができる。
【０２５９】
図１４は、上記ポストプロセッシングを介して上記パッキングされたピクチャ内のリージョン間のクォリティの差を補正する一例を示す。図１４の（ａ）及び（ｂ）に示すように、上記パッキングされたピクチャ内のリージョンは、互いに異なるクォリティのデータを含むことができる。したがって、ユーザの不便感を最小にする方法として、上記リージョン間のクォリティの差を補正するポストプロセッシング（post processing）が必要であり、例えば、上記パッキングされたピクチャの上記リージョンに対してＳｐａｔｉａｌ  ｅｎｈａｎｃｅｍｅｎｔ  ｆｉｌｔｅｒが適用されることができる。従来の３６０度ビデオに関するメタデータは、上記リージョンの各々の相対的なクォリティレベル（quality level）に関する情報を含むが、上記情報のみでは上記ポストプロセッシングを実行し難い。したがって、上記ポストプロセッシングのための追加的な情報が送信されることができる。上記追加的な情報に対するシンタックスを含むボックス（box）は、以下の表のように導出されることができる。上記ボックスは、２ＤＲｅｇｉｏｎＱｕａｌｉｔｙＲａｎｋｉｎｇＢｏｘと示すことができる。
【０２６０】
＜表６＞
【表６】
2020520161.tif 000014
【０２６１】
ここで、ｑｕａｌｉｔｙ＿ｒａｎｋｉｎｇ及びｖｉｅｗ＿ｉｄｃは、ＳｐｈｅｒｅＲｅｇｉｏｎＱｕａｌｉｔｙＲａｎｋｉｎｇＢｏｘにおけるｑｕａｌｉｔｙ＿ｒａｎｋｉｎｇ及びｖｉｅｗ＿ｉｄｃシンタックス要素と同じように指定されることができる。また、ｎｕｍ＿ｒｅｇｉｏｎｓは、２ＤＲｅｇｉｏｎＱｕａｌｉｔｙＲａｎｋｉｎｇＢｏｘに含まれるクォリティランキング情報（quality ranking information）が与えられて品質順位情報に対するクォリティランキング２Ｄリージョン（quality ranking 2D regions）の個数を示すことができる。ここで、デコードされたピクチャのサンプルが上記クォリティランキング２Ｄリージョンのうちの二つ以上に含まれてはならない。
【０２６２】
また、ｒｅｍａｉｎｉｎｇ＿ａｒｅａ＿ｆｌａｇの値が０である場合、上記クォリティランキング２Ｄリージョンは、ｌｅｆｔ＿ｏｆｆｓｅｔ、ｔｏｐ＿ｏｆｆｓｅｔ、ｒｅｇｉｏｎ＿ｗｉｄｔｈ及びｒｅｇｉｏｎ＿ｈｅｉｇｈｔに基づいて定義されることができ、上記ｒｅｍａｉｎｉｎｇ＿ａｒｅａ＿ｆｌａｇの値が１である場合、１番目のクォリティランキング２Ｄリージョン乃至ｎｕｍ＿ｒｅｇｉｏｎｓ−１番目のクォリティランキング２Ｄリージョンは、ｌｅｆｔ＿ｏｆｆｓｅｔ、ｔｏｐ＿ｏｆｆｓｅｔ、ｒｅｇｉｏｎ＿ｗｉｄｔｈ及びｒｅｇｉｏｎ＿ｈｅｉｇｈｔに基づいて定義され、最後に残ったクォリティランキング２Ｄリージョンは、上記１番目のクォリティランキング２Ｄリージョン乃至上記ｎｕｍ＿ｒｅｇｉｏｎｓ−１番目のクォリティランキング２Ｄリージョンのリージョンを除いた領域のうち、幅及び高さがＶｉｓｕａｌ  Ｓａｍｐｌｅ  Ｅｎｔｒｙの幅及び高さと同じ領域に定義されることができる。
【０２６３】
また、ｌｅｆｔ＿ｏｆｆｓｅｔ、ｔｏｐ＿ｏｆｆｓｅｔ、ｒｅｇｉｏｎ＿ｗｉｄｔｈ及びｒｅｇｉｏｎ＿ｈｅｉｇｈｔは、上記クォリティランキング２Ｄリージョンの位置及び大きさを示すことができる。具体的には、上記ｌｅｆｔ＿ｏｆｆｓｅｔ及び上記ｔｏｐ＿ｏｆｆｓｅｔは、ビジュアルプレゼンテーション（visual presentation）サイズ内のピクチャ上で上記クォリティランキング２Ｄリージョンの左上端サンプルのｘ成分及びｙ成分を示すことができる。また、上記ｒｅｇｉｏｎ＿ｗｉｄｔｈ及び上記ｒｅｇｉｏｎ＿ｈｅｉｇｈｔは、上記ビジュアルプレゼンテーションサイズ内の上記ピクチャ上で上記クォリティランキング２Ｄリージョンの幅及び高さを示すことができる。この場合、上記ｌｅｆｔ＿ｏｆｆｓｅｔに上記ｒｅｇｉｏｎ＿ｗｉｄｔｈを加えた値は、ＴｒａｃｋＨｅａｄｅｒＢｏｘの幅より小さく、上記ｔｏｐ＿ｏｆｆｓｅｔに上記ｒｅｇｉｏｎ＿ｈｅｉｇｈｔを加えた値は、上記ＴｒａｃｋＨｅａｄｅｒＢｏｘの高さより小さい。また、上記ｒｅｇｉｏｎ＿ｗｉｄｔｈの値は、０より大きく、上記ｒｅｇｉｏｎ＿ｈｅｉｇｈｔの値は、０より大きい。
【０２６４】
また、ｎｕｍ＿ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅｓは、上記クォリティランキング２Ｄリージョンに対するクォリティディスクリプション（quality description）タイプ及び詳細事項（detail）を示すｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの数を示すことができる。例えば、上記ｎｕｍ＿ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅｓの値が０より大きい場合、クォリティランキングに関する詳細情報（detailed information）は、ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅ及びｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍに基づいて導出されることができる。上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅ及び上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍは、ビューポート内のリージョン間のクォリティの差で発生するアーチファクト（artefact）又は不便感を減らすためにレンダリング過程で使われることができる。上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅは、上記クォリティランキング２Ｄリージョンを生成するときに適用されたクォリティ要素（quality factor）を示すことができる。例えば、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの値が１である場合、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅは、上記クォリティランキング２Ｄリージョンにｓｐａｔｉａｌ  ｓｃａｌｉｎｇが適用されることを示すことができ、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの値が２である場合、上記クォリティランキング２Ｄリージョンに量子化（quantization）過程が適用されることを示すことができる。また、ｎｕｍ＿ｐａｒａｍは、ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅと関連するクォリティの差を示すパラメータ（parameters）の個数を示すことができる。例えば、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの値が１である場合、上記ｎｕｍ＿ｐａｒａｍの値は、２として導出されることができ、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの値が２である場合、上記ｎｕｍ＿ｐａｒａｍの値は、１として導出されることができる。上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍは、上記パラメータの値を示すことができる。例えば、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの値が１である場合、ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍ［ｉ］［ｊ］［０］は、水平スケーリングファクタ（horizontal scaling factor）を示すことができ、ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍ［ｉ］［ｊ］［１］は、垂直スケーリングファクタ（vertical scaling factor）を示すことができる。上記水平スケーリングファクタ及び上記垂直スケーリングファクタは、（ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍ［ｉ］［ｊ］［ｋ］＋１）／６４で計算されることができ、上記水平スケーリングファクタ及び上記垂直スケーリングファクタの範囲は、１／６４乃至４である。また、他の例として、上記ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｔｙｐｅの値が２である場合、ｑｕａｌｉｔｙ＿ｄｅｓｃｒｉｐｔｉｏｎ＿ｐａｒａｍ［ｉ］［ｊ］［０］は、エンコーディング過程で適用された上記クォリティラ��キング２Ｄリージョンの量子化パラメータ（Quantization Parameter、ＱＰ）を示すことができる。
【０２６５】
一方、上記リージョン別追加情報に関する３６０度ビデオに関するメタデータを伝達するために、ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘが新しく定義されることができる。上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、前述したリージョン別追加情報に関するメタデータを含むＳＥＩ  ＮＡＬユニットを含むことができる。上記ＳＥＩ  ＮＡＬユニットは、リージョン別追加情報に関するメタデータを含むＳＥＩメッセージを含むことができる。上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ、ＡＶＣＳａｍｐｌｅＥｎｔｒｙ、ＭＶＣＳａｍｐｌｅＥｎｔｒｙ、ＳＶＣＳａｍｐｌｅＥｎｔｒｙ、ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれて伝達されることができる。
【０２６６】
図１５は、上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ又は上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれて送信される上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘに関して例示的に示す。図１５の（ａ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、ｒｅｇｉｏｎｗｉｓｅａｕｘｉｌｉａｒｙｉｎｆｏｒｍａｔｉｏｎｓｅｉフィールドを含むことができる。上記ｒｅｇｉｏｎｗｉｓｅａｕｘｉｌｉａｒｙｉｎｆｏｒｍａｔｉｏｎｓｅｉフィールドは、前述したリージョン別追加情報に関するメタデータを含むＳＥＩ  ＮＡＬユニットを含むことができる。上記メタデータは、前述の通りである。上記ｒｅｇｉｏｎｗｉｓｅａｕｘｉｌｉａｒｙｉｎｆｏｒｍａｔｉｏｎｓｅｉフィールドは、ｒａｉ＿ｓｅｉフィールドと示すこともできる。
【０２６７】
また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ、ＡＶＣＳａｍｐｌｅＥｎｔｒｙ、ＭＶＣＳａｍｐｌｅＥｎｔｒｙ、ＳＶＣＳａｍｐｌｅＥｎｔｒｙ、ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれて伝達されることができる。
【０２６８】
例えば、図１５の（ｂ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙに含まれて送信されることができる。上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙは、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘの適用が可能か否かを示すｒａｉ＿ｓｅｉフィールドを含むことができる。上記ｒａｉ＿ｓｅｉフィールドは、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘが上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙに適用されることを示す場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘに含まれる上記リージョン別追加情報に関するメタデータは、上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙにそのままコピー（copy）されて適用されることができる。
【０２６９】
また、例えば、図１５の（ｃ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙのＨＥＶＣＤｅｃｏｄｅｒＣｏｎｆｉｇｕｒａｔｉｏｎＲｅｃｏｒｄに含まれて送信されることができる。上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙのＨＥＶＣＤｅｃｏｄｅｒＣｏｎｆｉｇｕｒａｔｉｏｎＲｅｃｏｒｄは、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘの適用が可能か否かを示すｒａｉ＿ｓｅｉフィールドを含むことができる。上記ｒａｉ＿ｓｅｉフィールドが、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘが上記ＨＥＶＣＤｅｃｏｄｅｒＣｏｎｆｉｇｕｒａｔｉｏｎＲｅｃｏｒｄに適用されることを示す場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘに含まれる上記リージョン別追加情報に関するメタデータは、上記ＨＥＶＣＤｅｃｏｄｅｒＣｏｎｆｉｇｕｒａｔｉｏｎＲｅｃｏｒｄにそのままコピー（copy）されて適用されることができる。
【０２７０】
また、例えば、図１５の（ｄ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙに含まれて送信されることができる。上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙは、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘの適用が可能か否かを示すｒａｉ＿ｓｅｉフィールドを含むことができる。上記ｒａｉ＿ｓｅｉフィールドが、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘが上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙに適用されることを示す場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘに含まれる上記リージョン別追加情報に関するメタデータは、上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙにそのままコピー（copy）されて適用されることができる。
【０２７１】
一方、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘは、上記提案した前述した対象リージョンに対するリージョン別追加情報を含む映像のＳＥＩ（Supplemental Enhancement Information）又はＶＵＩ（Video Usability Information）を含むことができる。これによって、ファイルフォーマット（file format）を介して伝達されるビデオフレームの各リージョン毎に他のリージョン別追加情報がシグナリングされることができる。
【０２７２】
例えば、ＩＳＯＢＭＦＦ（ISO Base Media File Format）などに基づいてビデオが記憶されることができ、ビデオトラック（又は、ビットストリーム）、サンプル、又はサンプルグループなどと関連するリージョン別追加情報に関するメタデータが記憶及びシグナリングされることができる。具体的には、ｖｉｓｕａｌ  ｓａｍｐｌｅ  ｅｎｔｒｙなどのｆｉｌｅ  ｆｏｒｍａｔ上に上記リージョン別追加情報に関するメタデータが含まれて記憶されることができる。また、他の形態のファイルフォーマット、例えば、Ｃｏｍｍｏｎ  ｆｉｌｅ  ｆｏｒｍａｔなどにも上記リージョン別追加情報に関するメタデータが含まれて適用されることができる。一つのファイル内のビデオに対するビデオトラック又はサンプルなどと関連する上記リージョン別追加情報に関するメタデータは、下記のようなボックス（box）形態などで記憶されることができる。
【０２７３】
図１６ａ乃至図１６ｃは、本発明の一実施例によるＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスを示す。
【０２７４】
上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、ｎｕｍ＿ｒｅｇｉｏｎｓ＿ｍｉｎｕｓ１フィールド、ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド及びｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２７５】
また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、パッキングされたピクチャのリージョンに対するｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド及びｐａｃｋｉｎｇ＿ｔｙｐｅフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２７６】
上記パッキングされたピクチャのリージョンに対するｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記リージョンのＲＡＩ領域に対するｒａｉ＿ｗｉｄｔｈフィールド及びｒａｉ＿ｈｅｉｇｈｔフィールドを含むことができ、上記フィールドに対する定義は、前述の通りである。また、上記リージョンに対するｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールド、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールド、ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールド、及びｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２７７】
また、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記リージョンのＲＡＩ領域に対するｒａｉ＿ｔｙｐｅフィールド及びｒａｉ＿ｄｉｒフィールドを含むことができる。また、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記リージョンの上記ＲＡＩ領域に対するｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及びｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドを含むことができる。また、上記リージョンのＲＡＩ領域に対するｒａｉ＿ｔｙｐｅフィールドの値が２である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記ＲＡＩ領域に対するｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２７８】
また、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドの値が１でない場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記リージョンの境界に対するｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドを含むことができる。また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記境界に隣接するサブＲＡＩ領域に対するｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールド、ｒａｉ＿ｔｙｐｅフィールド及びｒａｉ＿ｄｉｒフィールドを含むことができる。また、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記サブＲＡＩ領域の各々に対するｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及びｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドを含むことができる。また、上記サブＲＡＩ領域の各々に対するｒａｉ＿ｔｙｐｅフィールドの値が２である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記サブＲＡＩ領域の各々に対するｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２７９】
また、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記リージョンのコーナ周辺ＲＡＩ領域に対するｒａｉ＿ｔｙｐｅフィールド及びｒａｉ＿ｄｉｒフィールドを含むことができる。また、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記コーナ周辺ＲＡＩ領域に対するｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及びｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２８０】
また、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドの値が１である場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、ＥｘｔｅｎｄｅｄＣｏｖｅｒａｇｅＩｎｆｏｒｍａｔｉｏｎクラスを含むことができる。上記ＥｘｔｅｎｄｅｄＣｏｖｅｒａｇｅＩｎｆｏｒｍａｔｉｏｎクラスは、図１７に示す通りである。
【０２８１】
図１７は、本発明の一実施例による上記ＥｘｔｅｎｄｅｄＣｏｖｅｒａｇｅＩｎｆｏｒｍａｔｉｏｎクラスを示す。図１７を参照すると、上記ＥｘｔｅｎｄｅｄＣｏｖｅｒａｇｅＩｎｆｏｒｍａｔｉｏｎクラスは、上記パッキングされたピクチャのリージョン及び上記リージョンに対するＲＡＩ領域を含む拡張領域に関する情報を含むことができる。例えば、上記ＥｘｔｅｎｄｅｄＣｏｖｅｒａｇｅＩｎｆｏｒｍａｔｉｏｎクラスは、上記拡張領域に対するｃｅｎｔｅｒ＿ｙａｗフィールド、ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド、ｃｅｎｔｅｒ＿ｒｏｌｌフィールド、ｈｏｒ＿ｒａｎｇｅフィールド及びｖｅｒ＿ｒａｎｇｅフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２８２】
また、一つのファイル内のビデオに対するビデオトラック又はサンプルなどと関連する上記リージョン別パッキング過程に関するメタデータは、下記のようなボックス（box）形態などで記憶されることができる。
【０２８３】
図１８は、本発明の一実施例によるＲｅｃｔＲｅｇｉｏｎＰａｃｋｉｎｇクラスを示す。図１８を参照すると、上記ＲｅｃｔＲｅｇｉｏｎＰａｃｋｉｎｇクラスは、上記パッキングされたピクチャ内のリージョンのリージョン別パッキング過程に関するメタデータを含むことができる。例えば、ＲｅｃｔＲｅｇｉｏｎＰａｃｋｉｎｇクラスは、上記リージョンに対するｐｒｏｊ＿ｒｅｇ＿ｗｉｄｔｈフィールド、ｐｒｏｊ＿ｒｅｇ＿ｈｅｉｇｈｔフィールド、ｐｒｏｊ＿ｒｅｇ＿ｔｏｐフィールド、ｐｒｏｊ＿ｒｅｇ＿ｌｅｆｔフィールド、ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｐａｃｋｅｄ＿ｒｅｇ＿ｗｉｄｔｈフィールド、ｐａｃｋｅｄ＿ｒｅｇ＿ｈｅｉｇｈｔフィールド、ｐａｃｋｅｄ＿ｒｅｇ＿ｔｏｐフィールド、及びｐａｃｋｅｄ＿ｒｅｇ＿ｌｅｆｔフィールドを含むことができる。上記フィールドに対する定義は、前述の通りである。
【０２８４】
一方、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔ（ｒｗａｉ）クラスは、ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ、ＡＶＣＳａｍｐｌｅＥｎｔｒｙ、ＭＶＣＳａｍｐｌｅＥｎｔｒｙ、ＳＶＣＳａｍｐｌｅＥｎｔｒｙ又はＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれることができる。
【０２８５】
図１９は、上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙ又は上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙなどに含まれて送信される上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスに関して例示的に示す。図１９の（ａ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙに含まれて送信されることができる。この場合、上記ＯＭＶＩｎｆｏｒｍａｔｉｏｎＳＥＩＢｏｘに含まれる上記リージョン別追加情報に関するメタデータは、上記ＶｉｓｕａｌＳａｍｐｌｅＥｎｔｒｙにそのままコピー（copy）されて適用されることができる。
【０２８６】
また、例えば、図１９の（ｂ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙのＨＥＶＣＤｅｃｏｄｅｒＣｏｎｆｉｇｕｒａｔｉｏｎＲｅｃｏｒｄに含まれて送信されることができる。この場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスに含まれる上記リージョン別追加情報に関するメタデータは、上記ＨＥＶＣＤｅｃｏｄｅｒＣｏｎｆｉｇｕｒａｔｉｏｎＲｅｃｏｒｄにそのままコピー（copy）されて適用されることができる。
【０２８７】
また、例えば、図１９の（ｃ）を参照すると、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスは、上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙに含まれて送信されることができる。この場合、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスに含まれる上記リージョン別追加情報に関するメタデータは、上記ＨＥＶＣＳａｍｐｌｅＥｎｔｒｙにそのままコピー（copy）されて適用されることができる。
【０２８８】
一方、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔ（ｒｗａｉ）クラスは、タイムド（時限）メタデータ（timed metadata）として定義されることができる。上記タイムドメタデータは、時間の変化によって値が変化するメタデータとして定義されることができる。
【０２８９】
図２０は、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスを上記タイムドメタデータとして定義する一例を示す。上記リージョン別追加情報が３６０度ビデオデータに対するサンプル全体に同じく（identically）適用される場合、図２０の（ａ）に示すように、タイムドメタデータトラック（timed metadata track）のＭｅｔａｄａｔａＳａｍｐｌｅＥｎｔｒｙ又はヘッダ（例えば、ｍｏｏｖ又はｍｏｏｆ等）に上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスが含まれることができる。上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスに含まれるリージョン別追加情報に関するメタデータのフィールドに対する定義は、前述の通りであり、上記フィールドは、ｍｄａｔ内の全てのメタデータサンプルに適用されることができる。
【０２９０】
一方、上記リージョン別追加情報が３６０度ビデオデータに対するサンプルに異なるように適用される場合、図２０の（ｂ）に示すように、ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳａｍｐｌｅボックスに上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスが含まれることができる。一方、この場合にも、ファイルフォーマット（file format）内のビデオシーケンス（video sequence）全体に対する上記リージョン別追加情報が伝達されることができる。この場合、上記図２０の（ａ）に示すように、上記タイムドメタデータトラックの上記ＭｅｔａｄａｔａＳａｍｐｌｅＥｎｔｒｙに上記ビデオシーケンス全体に対する上記リージョン別追加情報が含まれることができ、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスのフィールドが上記ビデオシーケンス全体に対する上記リージョン別追加情報を示すように意味が拡張されることができる。例えば、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスのｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールド、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールド、ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールド及びｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドは、上記ビデオシーケンス内に各機能が使われるかどうかを知らせる意味に拡張されることができる。また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスのｒａｉ＿ｗｉｄｔｈフィールド、ｒａｉ＿ｈｅｉｇｈｔフィールド、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド、ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドに対する最大、最小値に関する情報を示すフィールドを追加することによって、上記ビデオシーケンス内に各値に対する範囲を示すように意味を拡張することができる。また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスのｎｕｍ＿ｒｅｇｉｏｎｓ＿ｍｉｎｕｓ１フィールド及びｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドは、上記ビデオシーケンス内における各ピクチャ及び各リージョンについて、サブ境界の数の最大、最小値に関する情報を示すフィールドを追加的にシグナリングすることによって、意味が拡張されることができる。また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆｏｒｍａｔｉｏｎＳｔｒｕｃｔクラスのｐａｃｋｉｎｇ＿ｔｙｐｅフィールド、ｒａｉ＿ｔｙｐｅフィールド、ｒａｉ＿ｄｉｒフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド及びｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドについては、上記ビデオシーケンス内で使われるＲＡＩ領域の種類、方向、変換情報が全て羅列されるようにシグナリングすることで、意味が拡張されることができる。また、上記ＲｅｇｉｏｎＷｉｓｅＡｕｘｉｌｉａｒｙＩｎｆ��ｒｍａｔｉｏｎＳｔｒｕｃｔクラスのｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールド、ｒａｉ＿ｔｙｐｅフィールド、ｒａｉ＿ｄｉｒフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールドについては、各面（surface）に対する範囲又は使われたことを羅列するように細分化して知らせるように意味が拡張されることができる。
【０２９１】
一方、ＤＡＳＨベースの適応型ストリーミングモデルなどを介して３６０度ビデオに対する放送サービスが提供され、又はＤＡＳＨベースの適応型ストリーミングモデルなどを介して３６０度ビデオがストリーミングされる場合、前述したリージョン別追加情報に関するメタデータのフィールドは、ＤＡＳＨ  ＭＰＤなどに含まれるＤＡＳＨベースのディスクリプタ形態でシグナリングされることができる。即ち、前述したリージョン別追加情報に関するメタデータの各々の実施例は、ＤＡＳＨベースのディスクリプタ形態で再び書くことができる。上記ＤＡＳＨベースのディスクリプタ形態は、エッセンシャルプロパティ（ＥｓｓｅｎｔｉａｌＰｒｏｐｅｒｔｙ）ディスクリプタ及びサプリメンタルプロパティ（ＳｕｐｐｌｅｍｅｎｔａｌＰｒｏｐｅｒｔｙ）ディスクリプタを含むことができる。前述したリージョン別追加情報に関するメタデータのフィールドを示すディスクリプタは、ＭＰＤのアダプテーションセット（ＡｄａｐｔａｔｉｏｎＳｅｔ）、リプレゼンテーション（Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）又はサブリプレゼンテーション（ＳｕｂＲｅｐｒｅｓｅｎｔａｔｉｏｎ）に含まれることができる。これによって、クライアント（client）又は３６０度ビデオ受信装置などは、リージョン別パッキング過程及びリージョン別追加情報関連フィールドを取得することができ、上記フィールドに基づいて３６０度ビデオの処理を実行することができる。
【０２９２】
図２１ａ乃至図２１ｆは、ＤＡＳＨベースのディスクリプタ形態で記述したリージョン別追加情報関連メタデータの一例を示す。図２１ａの２１００に示すように、ＤＡＳＨベースのディスクリプタは、＠ｓｃｈｅｍｅＩｄＵｒｉフィールド、＠ｖａｌｕｅフィールド及び／又は@ｉｄフィールドを含むことができる。＠ｓｃｈｅｍｅＩｄＵｒｉフィールドは、該当ディスクリプタのスキーム（scheme）を識別するためのＵＲＩを提供することができる。＠ｖａｌｕｅフィールドは、＠ｓｃｈｅｍｅＩｄＵｒｉフィールドが指示するスキームによりその意味が定義される値（value）を有することができる。即ち、＠ｖａｌｕｅフィールドは、該当スキームによるディスクリプタエレメントの値を有することができ、これらは、パラメータとも呼ばれる。これらは、互いに‘、’により区分されることができる。@ｉｄは、該当ディスクリプタの識別子を示すことができる。同じ識別子を有する場合、同じスキームＩＤ、値（value）、パラメータを含むことができる。
【０２９３】
また、図２１ｂの２１１０に示すように、上記リージョン別追加情報関連メタデータを伝達するディスクリプタの場合、＠ｓｃｈｅｍｅＩｄＵＲＩフィールドがｕｒｎ：ｍｐｅｇ：ｄａｓｈ：ｖｒ：２０１ｘ値を有することができる。これは、該当ディスクリプタが上記リージョン別追加情報関連メタデータを伝達するディスクリプタであることを識別する値である。
【０２９４】
各々のリージョン別追加情報関連メタデータを伝達するディスクリプタの＠ｖａｌｕｅフィールドは、図示された図２１ｃ乃至図２１ｆの２１２０のような値を有することができる。即ち、＠ｖａｌｕｅの‘、’により区分される各々のパラメータは、前述したリージョン別追加情報関連メタデータの各々のフィールドに該当（対応）（correspond）できる。図示された図２１ｃ乃至図２１ｆの２１２０は、前述したリージョン別追加情報関連メタデータの多様な実施例のうちの一つの実施例を＠ｖａｌｕｅのパラメータで記述したものであるが、各シグナリングフィールドをパラメータに置換して前述した全てのリージョン別追加情報関連メタデータの実施例が、＠ｖａｌｕｅのパラメータで記述されることができる。即ち、前述した全ての実施例によるリージョン別追加情報関連メタデータは、ＤＡＳＨベースのディスクリプタ形態で記述されることもできる。
【０２９５】
図示された図２１ｃ乃至図２１ｆの２１２０で、各パラメータは、前述した同名のシグナリングフィールドと同じ意味を有することができる。ここで、Ｍは、該当パラメータが必須パラメータ（Mandatory）であることを意味し、Ｏは、該当パラメータがオプショナルパラメータ（Optional）であることを意味し、ＯＤは、該当パラメータがデフォルト値を有するオプショナルパラメータ（Optional with Default）であることを意味する。ＯＤであるパラメータ値が与えられない場合、既に定義されたデフォルト値が該当パラメータ値として使われることができる。図示された実施例において、各ＯＤパラメータのデフォルト値が括弧内に与えられている。
【０２９６】
図２２は、本発明による３６０度ビデオ送信装置による３６０度ビデオデータ処理方法を概略的に示す。図２２で開示された方法は、図５で開示された３６０度ビデオ送信装置により実行されることができる。具体的には、例えば、図２２のＳ２２００は、上記３６０度ビデオ送信装置のデータ入力部により実行されることができ、Ｓ２２１０は、上記３６０度ビデオ送信装置のプロジェクション処理部により実行されることができ、Ｓ２２２０は、上記３６０度ビデオ送信装置のリージョン別パッキング処理部により実行されることができ、Ｓ２２３０は、上記３６０度ビデオ送信装置のメタデータ処理部により実行されることができ、Ｓ２２４０は、上記３６０度ビデオ送信装置のデータエンコーダにより実行されることができ、Ｓ２２５０は、上記３６０度ビデオ送信装置の送信処理部により実行されることができる。上記送信処理部は、送信部に含まれることができる。
【０２９７】
３６０度ビデオ送信装置は、少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得する（Ｓ２２００）。３６０度ビデオ送信装置は、少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得することができる。上記３６０度ビデオデータは、少なくとも一つのカメラによりキャプチャされたビデオである。
【０２９８】
３６０度ビデオ送信装置は、上記３６０度ビデオデータを処理してプロジェクションされたピクチャ（projected picture）を取得する（Ｓ２２１０）。３６０度ビデオ送信装置は、多様なプロジェクションスキーム（projection scheme）のうちの上記３６０度ビデオデータに対するプロジェクションスキームによって２Ｄイメージにプロジェクションを実行することができ、プロジェクションされたピクチャを取得することができる。上記多様なプロジェクションスキームは、エクイレクタングラプロジェクション（Equirectangular Projection）スキーム、キュービックプロジェクションスキーム、シリンダ型プロジェクションスキーム、タイルベースの（Tile-based）プロジェクションスキーム、ピラミッドプロジェクションスキーム、パノラミックプロジェクションスキーム及びステッチングなしで２Ｄイメージ上にプロジェクションされる上記特定スキームを含むことができる。また、上記プロジェクションスキームは、八面体プロジェクションスキーム及び二十面体プロジェクションスキームを含むことができる。一方、上記プロジェクションスキーム情報が特定スキームを指示する場合、上記少なくとも一つのカメラは、魚眼（Fish-eye）カメラであり、この場合、上記各カメラにより取得されたイメージは、原形イメージ（circular image）である。上記プロジェクションされたピクチャは、プロジェクションスキームの３Ｄプロジェクション構造の面を示すリージョンを含むことができる。
【０２９９】
３６０度ビデオ送信装置は、上記プロジェクションされたピクチャにリージョン別パッキング過程（region-wise packing）を適用してパッキングされたピクチャを取得する（Ｓ２２２０）。３６０度ビデオ送信装置は、上記プロジェクションされたピクチャのリージョンの各々を回転、再配列し、又は各リージョンの解像度を変更する等の処理を実行することができる。上記処理過程は、上記リージョン別パッキング過程と呼ばれる。３６０度ビデオ送信装置は、上記プロジェクションされたピクチャにリージョン別パッキング過程を適用することができ、上記リージョン別パッキング過程が適用されたリージョンを含む上記パッキングされたピクチャを取得することができる。上記パッキングされたピクチャは、パッキングされたフレーム（packed frame）と呼ばれる。
【０３００】
一方、上記パッキングされたピクチャは、上記パッキングされたピクチャの対象リージョンに対する少なくとも一つのリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域を含むことができる。
【０３０１】
例えば、上記プロジェクションされたピクチャ上にプロジェクションされた３６０度ビデオデータをリージョン（region）別に分ける処理過程（region decomposition）が実行されることができ、各リージョンに対するＲＡＩ領域が追加される過程（Region-wise Auxiliary Information insertion）が実行されることができる。ここで、上記ＲＡＩ領域は、対象リージョンに対する追加的な３６０度ビデオデータを含む領域であり、上記ＲＡＩ領域は、上記パッキングされたピクチャ上で対象リージョンの境界（boundary）に隣接する領域である。上記ＲＡＩ領域は、ガードバンド（guard band）とも呼ばれる。また、上記ＲＡＩ領域を回転、再配列し、又は解像度を変更する等の処理が実行されることができる。
【０３０２】
また、他の例として、上記プロジェクションされたピクチャは、複数のサブピクチャ（sub-picture）に分けられ、上記サブピクチャの対象リージョンに対するＲＡＩ領域が追加される過程（Region-wise Auxiliary Information insertion）が実行されることができる。上記サブピクチャは、タイル（tile）、ＭＣＴＳ（Motion Constrained Tile Set）又は領域に対応できる。また、上記ＲＡＩ領域を回転、再配列し、又は解像度を変更する等の処理が実行されることができる。
【０３０３】
３６０度ビデオ送信装置は、上記３６０度ビデオデータに関するメタデータを生成する（Ｓ２２３０）。上記メタデータは、前述したｎｕｍ＿ｒｅｇｉｏｎｓフィールド、ｎｕｍ＿ｒｅｇｉｏｎｓ＿ｍｉｎｕｓ１フィールド、ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド、ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールド、ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｐａｃｋｉｎｇ＿ｔｙｐｅフィールド、ｒａｉ＿ｗｉｄｔｈフィールド、ｒａｉ＿ｈｅｉｇｈｔフィールド、ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールド、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールド、ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールド、ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールド、ｒａｉ＿ｔｙｐｅフィールド、ｒａｉ＿ｄｉｒフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド、ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールド、ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールド、ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールド、ｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールド、ｃｅｎｔｅｒ＿ｙａｗフィールド、ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド、ｃｅｎｔｅｒ＿ｒｏｌｌフィールド、ｈｏｒ＿ｒａｎｇｅフィールド、ｖｅｒ＿ｒａｎｇｅフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｗｉｄｔｈフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｈｅｉｇｈｔフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｔｏｐフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｌｅｆｔフィールド、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｗｉｄｔｈフィールド、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｈｅｉｇｈｔフィールド、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｔｏｐフィールド及び／又はｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｌｅｆｔフィールドを含むことができる。上記フィールドの意味は、前述の通りである。
【０３０４】
具体的には、一例として、上記メタデータは、上記対象リージョンに対するリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域のタイプを示す情報を含むことができる。上記ＲＡＩ領域のタイプを示す情報は、上記ｒａｉ＿ｔｙｐｅフィールドを（で）示す（represent）ことができる。上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれるリージョン別追加情報（Region-wise Auxiliary Information）のタイプを示すことができる。例えば、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が指定されないことを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が０である場合、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が指定されないことを示すことができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域が上記対象リージョンの境界に位置するサンプルにマッピングされた３６０度ビデオデータを繰り返して含むことを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が１である場合、上記ＲＡＩ領域は、上記対象リージョンの境界に位置するサンプルにマッピングされた３６０度ビデオデータを繰り返して含むことができる。即ち、上記ＲＡＩ領域は、上記ＲＡＩ領域と隣接する上記対象リージョンの境界に位置するサンプルにマッピングされた３６０度ビデオデータが複写された情報を含むことができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が上記対象リージョンに含まれる３６０度ビデオデータ（映像情報）であり、上記ＲＡＩ領域の画質は、上記対象リージョンの画質から球形面上で上記対象リージョンと隣接するリージョンの画質に、漸進的に変更される画質を有することができることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が２である場合、上記ＲＡＩ領域は、上記対象リージョンに含まれる３６０度ビデオデータを含み、上記ＲＡＩ領域の画質は、上記対象リージョンの画質から球形面上で上記対象リージョンと隣接するリージョンの画質に、漸進的に変更される画質を有することができる。具体的には、例えば、上記ＲＡＩ領域は、上記対象リージョンと隣接する境界から遠ざかるほど上記球形面上で上記対象リージョンと隣接する上記リージョンの画質に漸進的に変更されることができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が上記対象リージョンの画質と同じ画質の上記対象リージョンに含まれる３６０度ビデオデータ（映像情報）であることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が３である場合、上記ＲＡＩ領域は、上記対象リージョンの画質と同じ画質の上記対象リージョンに含まれる３６０度ビデオデータを含むことができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が球形面上で上記対象リージョンと隣接するリージョンの映像情報であることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が４である場合、上記ＲＡＩ領域は、球形面上で上記対象リージョンと隣接するリージョンの３６０度ビデオデータを含むことができる。また、上記ＲＡＩ領域のタイプを示す情報は、参照リージョンのＲＡＩ領域の映像情報が上記対象リージョンの上記ＲＡＩ領域の映像情報として使われることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が５である場合、参照リージョンのＲＡＩ領域の３６０度ビデオデータが上記対象リージョンの上記ＲＡＩ領域の３６０度ビデオデータとして使われることができる。ここで、上記参照リージョンは、上記球形面上で上記対象リージョンと隣接するリージョンを示すことができる。この場合、上記対象リージョンの上記ＲＡＩ領域は、３６０度ビデオデータを含まないことがあり、必要な場合に上記参照リージョンの上記ＲＡＩ領域の３６０度ビデオデータが上記対象リージョンの上記ＲＡＩ領域に対する３６０度ビデオデータとして使われることができる。例えば、上記パッキングされたピクチャのプロジェクションタイプがＥＲＰ（EquiRectangular Projection）であり、上記対象リージョンの上記ＲＡＩ領域が上記パッキングされたピクチャの左側境界に隣接する場合、上記参照リージョンのＲＡＩ領域は、上記パッキングされたピクチャの右側境界に隣接できる。
【０３０５】
また、他の例として、上記パッキングされたピクチャは、上記対象リージョンに対する複数のＲＡＩ領域を含むことができ、上記メタデータは、上記ＲＡＩ領域が同じタイプを有する上記ＲＡＩ領域であるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドを示すことができる。上記フラグの値が１である場合、上記メタデータは、上記ＲＡＩ領域のタイプを示す情報を含むことができ、上記ＲＡＩ領域に含まれるデータの方向性を示す情報を含むことができる。上記ＲＡＩ領域のタイプを示す情報は、上記ｒａｉ＿ｔｙｐｅフィールドを示すことができ、上記ＲＡＩ領域に含まれるデータの方向性を示す情報は、上記ｒａｉ＿ｄｉｒフィールドを示すことができる。また、上記フラグの値が０である場合、上記メタデータは、上記ＲＡＩ領域の各々のタイプを示す情報を含むことができ、上記ＲＡＩ領域の各々に含まれるデータの方向性を示す情報を含むことができる。上記ＲＡＩ領域の各々のタイプを示す情報は、上記ｒａｉ＿ｔｙｐｅフィールドを示すことができ、上記ＲＡＩ領域の各々に含まれるデータの方向性を示す情報は、上記ｒａｉ＿ｄｉｒフィールドを示すことができる。
【０３０６】
また、他の例として、上記メタデータは、上記ＲＡＩ領域に対する変換情報がシグナリングされるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドを示すことができる。上記ＲＡＩ領域に対する変換情報がシグナリングされることを上記フラグが示す場合、即ち、上記フラグの値が１である場合、上記メタデータは、上記ＲＡＩ領域に対する変換情報を含むことができる。上記ＲＡＩ領域に対する変換情報は、上記ＲＡＩ領域に適用された変換タイプを示す情報、上記ＲＡＩ領域に対して適用された水平スケーリング係数及び垂直スケーリング係数を示す情報を含むことができる。上記ＲＡＩ領域に適用された変換タイプを示す情報は、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドを示すことができ、上記ＲＡＩ領域に対して適用された上記水平スケーリング係数及び上記垂直スケーリング係数を示す情報は、上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及びｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドを示すことができる。
【０３０７】
また、他の例として、上記メタデータは、上記パッキングされたピクチャに上記対象リージョンのコーナ（corner）ＲＡＩ領域が含まれるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドを示すことができる。ここで、上記コーナＲＡＩ領域は、上記対象リージョンの左上端、右上端、左下端又は右下端周辺領域に位置するＲＡＩ領域であり、上記フラグの値が１である場合、上記パッキングされたピクチャは、上記パッキングされたピクチャの対象リージョンに対する少なくとも一つの上記コーナＲＡＩ領域を含むことができる。一方、上記メタデータは、上記コーナＲＡＩ領域を含むＲＡＩ領域が同じタイプを有する上記ＲＡＩ領域であるかどうかを示すフラグを含むことができ、上記フラグの値が０である場合、上記メタデータは、上記コーナＲＡＩ領域のタイプを示す情報を含むことができる。即ち、上記メタデータは、上記コーナＲＡＩ領域及び上記ＲＡＩ領域が同じタイプを有する上記ＲＡＩ領域であるかどうかを示すフラグを含むことができ、上記フラグの値が０である場合、上記メタデータは、上記コーナＲＡＩ領域のタイプを示す情報を含むことができる。
【０３０８】
また、他の例として、上記メタデータは、上記対象リージョンの拡張領域に関する情報がシグナリングされるかどうかを示すフラグを含むことができる。ここで、上記拡張領域は、上記対象リージョン及び上記ＲＡＩ領域を含むことができる。上記フラグは、上記ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールドを示すことができる。上記拡張領域に関する情報がシグナリングされることを上記フラグが示す場合、即ち、対象リージョンの上記拡張領域に関する情報がシグナリングされるかどうかを示す上記フラグの値が１である場合、上記メタデータは、上記拡張領域の中点に対応する球形面上の位置のヨー（yaw）値、ピッチ（pitch）値、及びロール（roll）値を示す情報を含むことができる。上記球形面上の上記位置のヨー（yaw）値、ピッチ（pitch）値、及びロール（roll）値を示す情報は、上記ｃｅｎｔｅｒ＿ｙａｗフィールド、上記ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド、上記ｃｅｎｔｅｒ＿ｒｏｌｌフィールドを示すことができる。また、上記対象リージョンの上記拡張領域に関する情報がシグナリングされるかどうかを示す上記フラグの値が１である場合、上記メタデータは、上記拡張領域の水平範囲（horizontal range）及び垂直範囲（vertical range）を示す情報を含むことができる。上記拡張領域の上記水平範囲及び上記垂直範囲を示す情報は、各々、上記ｈｏｒ＿ｒａｎｇｅフィールド、上記ｖｅｒ＿ｒａｎｇｅフィールドを示すことができる。
【０３０９】
また、他の例として、上記メタデータは、上記ＲＡＩ領域に含まれる３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドを示すことができる。
【０３１０】
また、他の例として、上記パッキングされたピクチャは、上記対象リージョンの特定境界に隣接するサブ（sub）ＲＡＩ領域を含むことができ、この場合、上記メタデータは、上記サブＲＡＩ領域の個数を示す情報を含むことができる。上記サブＲＡＩ領域の個数を示す情報は、上記ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドを示すことができる。また、上記メタデータは、各々のサブＲＡＩ領域に対するサブ境界の長さを示す情報を含むことができる。ここで、上記各々のサブＲＡＩ領域に対する上記サブ境界は、上記特定境界のうちの上記各々のサブＲＡＩ領域が隣接する部分を示すことができる。
【０３１１】
一方、上記メタデータは、ＳＥＩメッセージを介して送信されることができる。また、上記メタデータは、ＭＰＤ（Media Presentation Description）のアダプテーションセット（ＡｄａｐｔａｔｉｏｎＳｅｔ）、リプレゼンテーション（Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）又はサブリプレゼンテーション（ＳｕｂＲｅｐｒｅｓｅｎｔａｔｉｏｎ）に含まれることもできる。ここで、上記ＳＥＩメッセージは、２Ｄイメージのデコーディング又は２Ｄイメージの３Ｄ空間への表示（ディスプレイ）に対する補助のために使われることができる。
【０３１２】
３６０度ビデオ送信装置は、上記パッキングされたピクチャをエンコードする（Ｓ２２４０）。３６０度ビデオ送信装置は、上記パッキングされたピクチャをエンコードすることができる。あるいは、上記パッキングされたピクチャのサブピクチャの中から選択されたサブピクチャのみをエンコードすることができる。また、３６０度ビデオ送信装置は、上記メタデータをエンコードすることができる。
【０３１３】
３６０度ビデオ送信装置は、上記エンコードされたピクチャ及び上記メタデータに対して記憶又は送信のための処理を実行する（Ｓ２２５０）。３６０度ビデオ送信装置は、上記エンコードされた３６０度ビデオデータ及び／又は上記メタデータをファイルなどの形態でカプセル化（encapsulation）できる。３６０度ビデオ送信装置は、エンコードされた３６０度ビデオデータ及び／又は上記メタデータを記憶又は送信するために、ＩＳＯＢＭＦＦ、ＣＦＦなどのファイルフォーマットでカプセル化し、又はその他のＤＡＳＨセグメントなどの形態で処理できる。３６０度ビデオ送信装置は、上記メタデータをファイルフォーマット上に含ませることができる。例えば、上記メタデータは、ＩＳＯＢＭＦＦファイルフォーマット上の多様なレベルのボックス（box）に含まれ、又はファイル内で別個のトラック内のデータに含まれることができる。また、３６０度ビデオ送信装置は、上記メタデータ自体をファイルにカプセル化できる。３６０度ビデオ送信装置は、ファイルフォーマットによってカプセル化された上記３６０度ビデオデータに送信のための処理を加えることができる。３６０度ビデオ送信装置は、任意の送信プロトコルによって上記３６０度ビデオデータを処理することができる。送信のための処理には、放送網を介した伝達のための処理、又はブロードバンドなどの通信ネットワークを介した伝達のための処理を含むことができる。また、３６０度ビデオ送信装置は、上記メタデータに送信のための処理を加えることもできる。３６０度ビデオ送信装置は、送信処理された上記３６０度ビデオデータ及び上記メタデータを放送網及び／又はブロードバンドを介して送信できる。
【０３１４】
図２３は、本発明による３６０度ビデオ受信装置による３６０度ビデオデータ処理方法を概略的に示す。図２３で開示された方法は、図６で開示された３６０度ビデオ受信装置により実行されることができる。具体的には、例えば、図２３のＳ２３００は、上記３６０度ビデオ受信装置の受信部により実行されることができ、Ｓ２３１０は、上記３６０度ビデオ受信装置の受信処理部により実行されることができ、Ｓ２３２０は、上記３６０度ビデオ受信装置のデータデコーダにより実行されることができ、Ｓ２３３０は、上記３６０度ビデオ受信装置のレンダラにより実行されることができる。
【０３１５】
３６０度ビデオ受信装置は、３６０度ビデオデータに対するパッキングされたピクチャに関する情報及び上記３６０度ビデオデータに関するメタデータを含む信号を受信する（Ｓ２３００）。３６０度ビデオ受信装置は、放送網を介して３６０度ビデオ送信装置からシグナリングされた上記３６０度ビデオデータに対する上記パッキングされたピクチャに関する情報及び上記メタデータを受信することができる。上記３６０度ビデオデータは、パッキングされたピクチャのサブピクチャを介して受信されることができる。あるいは、上記３６０度ビデオデータは、パッキングされたピクチャのサブピクチャのうちの一つのサブピクチャを介して受信されることができる。また、３６０度ビデオ受信装置は、ブロードバンドなどの通信ネットワーク、又は記憶媒体を介して上記パッキングされたピクチャに関する情報及び上記メタデータを受信することもできる。ここで、上記パッキングされたピクチャは、パッキングされたフレーム（packed frame）と呼ばれる。
【０３１６】
３６０度ビデオ受信装置は、上記受信した信号を処理して上記パッキングされたピクチャに関する情報及び上記メタデータを取得する（Ｓ２３１０）。３６０度ビデオ受信装置は、受信した上記パッキングされたピクチャに関する情報及び上記メタデータに対して送信プロトコルによる処理を実行することができる。また、３６０度ビデオ受信装置は、前述した３６０度ビデオ送信装置の送信のための処理の逆過程を実行することができる。上記メタデータは、前述したｎｕｍ＿ｒｅｇｉｏｎｓフィールド、ｎｕｍ＿ｒｅｇｉｏｎｓ＿ｍｉｎｕｓ１フィールド、ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｗｉｄｔｈフィールド、ｔａｒｇｅｔ＿ｐｉｃｔｕｒｅ＿ｈｅｉｇｈｔフィールド、ｒｅｇｉｏｎ＿ｗｉｓｅ＿ａｕｘｉｌｉａｒｙ＿ｉｎｆｏｒｍａｔｉｏｎ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｐａｃｋｉｎｇ＿ｔｙｐｅフィールド、ｒａｉ＿ｗｉｄｔｈフィールド、ｒａｉ＿ｈｅｉｇｈｔフィールド、ｒａｉ＿ｎｏｔ＿ｕｓｅｄ＿ｆｏｒ＿ｐｒｅｄ＿ｆｌａｇフィールド、ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールド、ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールド、ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールド、ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールド、ｒａｉ＿ｔｙｐｅフィールド、ｒａｉ＿ｄｉｒフィールド、ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド、ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールド、ｒａｉ＿ｄｅｌｔａ＿ＱＰフィールド、ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールド、ｒａｉ＿ｓｕｂ＿ｌｅｎｇｔｈフィールド、ｃｅｎｔｅｒ＿ｙａｗフィールド、ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド、ｃｅｎｔｅｒ＿ｒｏｌｌフィールド、ｈｏｒ＿ｒａｎｇｅフィールド、ｖｅｒ＿ｒａｎｇｅフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｗｉｄｔｈフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｈｅｉｇｈｔフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｔｏｐフィールド、ｐｒｏｊｅｃｔｅｄ＿ｒｅｇｉｏｎ＿ｌｅｆｔフィールド、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｗｉｄｔｈフィールド、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｈｅｉｇｈｔフィールド、ｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｔｏｐフィールド及び／又はｐａｃｋｅｄ＿ｒｅｇｉｏｎ＿ｌｅｆｔフィールドを含むことができる。上記フィールドの意味は、前述の通りである。
【０３１７】
具体的には、一例として、上記メタデータは、上記対象リージョンに対するリージョン別追加情報（Region-wise Auxiliary Information、ＲＡＩ）領域のタイプを示す情報を含むことができる。上記ＲＡＩ領域のタイプを示す情報は、上記ｒａｉ＿ｔｙｐｅフィールドを示すことができる。上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれるリージョン別追加情報（Region-wise Auxiliary Information）のタイプを示すことができる。例えば、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が指定されないことを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が０である場合、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が指定されないことを示すことができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域が上記対象リージョンの境界に位置するサンプルにマッピングされた３６０度ビデオデータを繰り返して含むことを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が１である場合、上記ＲＡＩ領域は、上記対象リージョンの境界に位置するサンプルにマッピングされた３６０度ビデオデータを繰り返して含むことができる。即ち、上記ＲＡＩ領域は、上記ＲＡＩ領域と隣接する上記対象リージョンの境界に位置するサンプルにマッピングされた３６０度ビデオデータが複写された情報を含むことができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が上記対象リージョンに含まれる３６０度ビデオデータ（映像情報）であり、上記ＲＡＩ領域の画質は、上記対象リージョンの画質から球形面上で上記対象リージョンと隣接するリージョンの画質に、漸進的に変更される画質を有することができることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が２である場合、上記ＲＡＩ領域は、上記対象リージョンに含まれる３６０度ビデオデータを含み、上記ＲＡＩ領域の画質は、上記対象リージョンの画質から球形面上で上記対象リージョンと隣接するリージョンの画質に、漸進的に変更される画質を有することができる。具体的には、例えば、上記ＲＡＩ領域は、上記対象リージョンと隣接する境界から遠ざかるほど上記球形面上で上記対象リージョンと隣接する上記リージョンの画質に漸進的に変更されることができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が上記対象リージョンの画質と同じ画質の上記対象リージョンに含まれる３６０度ビデオデータ（映像情報）であることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が３である場合、上記ＲＡＩ領域は、上記対象リージョンの画質と同じ画質の上記対象リージョンに含まれる３６０度ビデオデータを含むことができる。また、上記ＲＡＩ領域のタイプを示す情報は、上記ＲＡＩ領域に含まれる情報が球形面上で上記対象リージョンと隣接するリージョンの映像情報であることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が４である場合、上記ＲＡＩ領域は、球形面上で上記対象リージョンと隣接するリージョンの３６０度ビデオデータを含むことができる。また、上記ＲＡＩ領域のタイプを示す情報は、参照リージョンのＲＡＩ領域の映像情報が上記対象リージョンの上記ＲＡＩ領域の映像情報として使われることを示すことができる。具体的には、上記ＲＡＩ領域のタイプを示す情報の値が５である場合、参照リージョンのＲＡＩ領域の３６０度ビデオデータが上記対象リージョンの上記ＲＡＩ領域の３６０度ビデオデータとして使われることができる。ここで、上記参照リージョンは、上記球形面上で上記対象リージョンと隣接するリージョンを示すことができる。この場合、上記対象リージョンの上記ＲＡＩ領域は、３６０度ビデオデータを含まないことがあり、必要な場合に上記参照リージョンの上記ＲＡＩ領域の３６０度ビデオデータが上記対象リージョンの上記ＲＡＩ領域に対する３６０度ビデオデータとして使われることができる。例えば、上記パッキングされたピクチャのプロジェクションタイプがＥＲＰ（EquiRectangular Projection）であり、上記対象リージョンの上記ＲＡＩ領域が上記パッキングされたピクチャの左側境界に隣接する場合、上記参照リージョンのＲＡＩ領域は、上記パッキングされたピクチャの右側境界に隣接できる。
【０３１８】
また、他の例として、上記パッキングされたピクチャは、上記対象リージョンに対する複数のＲＡＩ領域を含むことができ、上記メタデータは、上記ＲＡＩ領域が同じタイプを有する上記ＲＡＩ領域であるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｅｑｕａｌ＿ｔｙｐｅ＿ｆｌａｇフィールドを示すことができる。上記フラグの値が１である場合、上記メタデータは、上記ＲＡＩ領域のタイプを示す情報を含むことができ、上記ＲＡＩ領域に含まれるデータの方向性を示す情報を含むことができる。上記ＲＡＩ領域のタイプを示す情報は、上記ｒａｉ＿ｔｙｐｅフィールドを示すことができ、上記ＲＡＩ領域に含まれるデータの方向性を示す情報は、上記ｒａｉ＿ｄｉｒフィールドを示すことができる。また、上記フラグの値が０である場合、上記メタデータは、上記ＲＡＩ領域の各々のタイプを示す情報を含むことができ、上記ＲＡＩ領域の各々に含まれるデータの方向性を示す情報を含むことができる。上記ＲＡＩ領域の各々のタイプを示す情報は、上記ｒａｉ＿ｔｙｐｅフィールドを示すことができ、上記ＲＡＩ領域の各々に含まれるデータの方向性を示す情報は、上記ｒａｉ＿ｄｉｒフィールドを示すことができる。
【０３１９】
また、他の例として、上記メタデータは、上記ＲＡＩ領域に対する変換情報（transform information）がシグナリングされるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍａｔｉｏｎ＿ｆｌａｇフィールドを示すことができる。上記ＲＡＩ領域に対する変換情報がシグナリングされることを上記フラグが示す場合、即ち、上記フラグの値が１である場合、上記メタデータは、上記ＲＡＩ領域に対する変換情報を含むことができる。上記ＲＡＩ領域に対する変換情報は、上記ＲＡＩ領域に適用された変換タイプを示す情報、上記ＲＡＩ領域に対して適用された水平スケーリング係数及び垂直スケーリング係数を示す情報を含むことができる。上記ＲＡＩ領域に適用された変換タイプを示す情報は、上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールドを示すことができ、上記ＲＡＩ領域に対して適用された上記水平スケーリング係数及び上記垂直スケーリング係数を示す情報は、上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド及びｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールドを示すことができる。
【０３２０】
また、他の例として、上記メタデータは、上記パッキングされたピクチャに上記対象リージョンのコーナ（corner）ＲＡＩ領域が含まれるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｃｏｒｎｅｒ＿ｐｒｅｓｅｎｔ＿ｆｌａｇフィールドを示すことができる。ここで、上記コーナＲＡＩ領域は、上記対象リージョンの左上端、右上端、左下端又は右下端周辺領域に位置するＲＡＩ領域であり、上記フラグの値が１である場合、上記パッキングされたピクチャは、上記パッキングされたピクチャの対象リージョンに対する少なくとも一つの上記コーナＲＡＩ領域を含むことができる。一方、上記メタデータは、上記コーナＲＡＩ領域を含むＲＡＩ領域が同じタイプを有する上記ＲＡＩ領域であるかどうかを示すフラグを含むことができ、上記フラグの値が０である場合、上記メタデータは、上記コーナＲＡＩ領域のタイプを示す情報を含むことができる。即ち、上記メタデータは、上記コーナＲＡＩ領域及び上記ＲＡＩ領域が同じタイプを有する上記ＲＡＩ領域であるかどうかを示すフラグを含むことができ、上記フラグの値が０である場合、上記メタデータは、上記コーナＲＡＩ領域のタイプを示す情報を含むことができる。
【０３２１】
また、他の例として、上記メタデータは、上記対象リージョンの拡張領域に関する情報がシグナリングされるかどうかを示すフラグを含むことができる。ここで、上記拡張領域は、上記対象リージョン及び上記ＲＡＩ領域を含むことができる。上記フラグは、上記ｒａｉ＿ｅｘｔｅｎｄｅｄ＿ｃｏｖｅｒａｇｅ＿ｆｌａｇフィールドを示すことができる。上記拡張領域に関する情報がシグナリングされることを上記フラグが示す場合、即ち、対象リージョンの上記拡張領域に関する情報がシグナリングされるかどうかを示す上記フラグの値が１である場合、上記メタデータは、上記拡張領域の中点に対応する球形面上の位置のヨー（yaw）値、ピッチ（pitch）値、及びロール（roll）値を示す情報を含むことができる。上記球形面上の上記位置のヨー（yaw）値、ピッチ（pitch）値、及びロール（roll）値を示す情報は、上記ｃｅｎｔｅｒ＿ｙａｗフィールド、上記ｃｅｎｔｅｒ＿ｐｉｔｃｈフィールド、上記ｃｅｎｔｅｒ＿ｒｏｌｌフィールドを示すことができる。また、上記対象リージョンの上記拡張領域に関する情報がシグナリングされるかどうかを示す上記フラグの値が１である場合、上記メタデータは、上記拡張領域の水平範囲（horizontal range）及び垂直範囲（vertical range）を示す情報を含むことができる。上記拡張領域の上記水平範囲及び上記垂直範囲を示す情報は、各々、上記ｈｏｒ＿ｒａｎｇｅフィールド、上記ｖｅｒ＿ｒａｎｇｅフィールドを示すことができる。一方、上記拡張領域がビューポート生成に使われることができ、この場合、上記拡張領域に関する情報は、上記拡張領域のレンダリング過程に使われることができる。即ち、上記拡張領域に関する情報に基づいて上記拡張領域がマッピングされる球形面上での領域が導出されることができる。
【０３２２】
また、他の例として、上記メタデータは、上記ＲＡＩ領域に含まれる３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグを含むことができる。上記フラグは、上記ｒａｉ＿ｐｒｅｓｅｎｔａｔｉｏｎ＿ｆｌａｇフィールドを示すことができる。上記ＲＡＩ領域に含まれる上記３６０度ビデオデータがビューポート（viewport）を生成することを上記フラグが示す場合、上記ＲＡＩ領域に含まれる上記３６０度ビデオデータは、上記球形面上の領域でレンダリングでき、表示されることができる。
【０３２３】
また、他の例として、上記パッキングされたピクチャは、上記対象リージョンの特定境界に隣接するサブ（sub）ＲＡＩ領域を含むことができ、この場合、上記メタデータは、上記サブＲＡＩ領域の個数を示す情報を含むことができる。上記サブＲＡＩ領域の個数を示す情報は、上記ｎｕｍ＿ｓｕｂ＿ｂｏｕｎｄａｒｉｅｓ＿ｍｉｎｕｓ１フィールドを示すことができる。また、上記メタデータは、各々のサブＲＡＩ領域に対するサブ境界の長さを示す情報を含むことができる。ここで、上記各々のサブＲＡＩ領域に対する上記サブ境界は、上記特定境界のうちの上記各々のサブＲＡＩ領域が隣接する部分を示すことができる。
【０３２４】
一方、上記メタデータは、ＳＥＩメッセージを介して受信されることができる。また、上記メタデータは、ＭＰＤ（Media Presentation Description）のアダプテーションセット（ＡｄａｐｔａｔｉｏｎＳｅｔ）、リプレゼンテーション（Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）又はサブリプレゼンテーション（ＳｕｂＲｅｐｒｅｓｅｎｔａｔｉｏｎ）に含まれることもできる。ここで、上記ＳＥＩメッセージは、２Ｄイメージのデコーディング又は２Ｄイメージの３Ｄ空間への表示（ディスプレイ）に対する補助のために使われることができる。
【０３２５】
３６０度ビデオ受信装置は、上記ピクチャに関する情報に基づいて上記ピクチャをデコードする（Ｓ２３２０）。３６０度ビデオ受信装置は、上記ピクチャに関する情報に基づいて上記ピクチャをデコードすることができる。また、３６０度ビデオ受信装置は、受信したビットストリームを介してビューポートメタデータを取得することができ、上記ビューポートメタデータに基づいて選択されたリージョン（又は、サブピクチャ）のみをデコードすることができる。一方、上記対象リージョンの上記拡張領域に関する情報がシグナリングされるかどうかを示す上記フラグの値が１である場合、３６０度ビデオ受信装置は、上記ＲＡＩ領域が含まれる上記拡張領域と上記ＲＡＩ領域が含まれない対象リージョン（又は、サブピクチャ）との中から上記ビューポートメタデータが指定するビューポートの生成により効率的な領域を選択し、上記選択された領域をデコードすることができる。
【０３２６】
３６０度ビデオ受信装置は、上記メタデータに基づいて上記デコードされたピクチャを処理して３Ｄ空間にレンダリングする（Ｓ２３３０）。３６０度ビデオ受信装置は、上記メタデータに基づいて上記パッキングされたピクチャの３６０度ビデオデータを３Ｄ空間にマッピングすることができる。具体的には、３６０度ビデオ受信装置は、上記パッキングされたピクチャの上記対象リージョンに対するリージョン別パッキング過程関連メタデータに基づいて、上記対象リージョンに対するリージョン区分による逆変換（region-wise inverse）を実行することができる。一方、上記対象リージョンの上記ＲＡＩ領域に上記対象リージョンと異なる変換過程が適用された場合、即ち、上記ＲＡＩ領域に対する変換情報（transform information）がシグナリングされるかどうかを示すフラグの値が１である場合、上記ＲＡＩ領域に対する変換情報（例えば、上記ＲＡＩ領域に対する上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド、上記ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールド）に基づいて、上記ＲＡＩ領域に対するリージョン区分による逆変換（region-wise inverse）が実行されることができる。また、上記パッキングされたピクチャに上記対象リージョンに対するコーナＲＡＩ領域が含まれる場合、上記メタデータは、上記コーナＲＡＩ領域に対する変換情報を含むことができ、上記コーナＲＡＩ領域に対する変換情報（上記コーナＲＡＩ領域に対する上記ｒａｉ＿ｔｒａｎｓｆｏｒｍ＿ｔｙｐｅフィールド、上記ｒａｉ＿ｈｏｒ＿ｓｃａｌｅフィールド、上記ｒａｉ＿ｖｅｒ＿ｓｃａｌｅフィールド）に基づいて、上記コーナＲＡＩ領域に対するリージョン区分による逆変換（region-wise inverse）が実行されることができる。
【０３２７】
また、３６０度ビデオ受信装置は、上記メタデータに基づいて上記パッキングされたピクチャからプロジェクションされたピクチャを取得することができ、上記プロジェクションされたピクチャを上記３Ｄ空間にリプロジェクション（re-projection）できる。この場合、３６０度ビデオ受信装置は、上記対象リージョンに基づいて上記プロジェクションされたピクチャを取得することができ、上記対象リージョンに対する上記ＲＡＩ領域の３６０度ビデオデータに基づいて上記プロジェクションされたピクチャのリージョン境界誤差を低減させることができる。上記リージョン境界誤差は、上記プロジェクションされたピクチャのリージョンが隣接する境界が明確な線で現れ、又は境界を中心にしてリージョン間の差が明確に現れて連続されるピクチャと見えずに区分された領域が現れる誤差を意味する。上記リージョン境界誤差を減らす方法として、前述した上記ＲＡＩ領域のサンプルと上記プロジェクションされたピクチャのサンプルとの間のブレンディング（blending）過程を介して導出されたサンプルを上記プロジェクションされたピクチャにマッピングする方法及び上記プロジェクションされたピクチャのサンプルを上記ＲＡＩ領域のサンプルに代替する代替（replacement）方法がある。
【０３２８】
また、上記ＲＡＩ領域に含まれる３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグの値が１である場合、上記ＲＡＩ領域に含まれる上記３６０度ビデオデータは、３Ｄ空間にマッピングされることができる。具体的には、上記ＲＡＩ領域及び上記対象リージョンが含まれる上記拡張領域は、３Ｄ空間上で上記ビューポートにマッピングされることができる。上記ビューポートは、上記３Ｄ空間上でユーザが眺めている方向の領域を示すことができる。
【０３２９】
前述したステップは、実施例によって省略され、又は類似／同じ動作を実行する他のステップにより代替されることができる。
【０３３０】
本発明の一実施例による３６０度ビデオ送信装置は、前述したデータ入力部、ステッチャ、シグナリング処理部、プロジェクション処理部、データエンコーダ、送信処理部及び／又は送信部を含むことができる。各々の内部コンポーネントは、前述の通りである。本発明の一実施例による３６０度ビデオ送信装置及びその内部コンポーネントは、前述した本発明の３６０度ビデオを送信する方法の実施例を実行することができる。
【０３３１】
本発明の一実施例による３６０度ビデオ受信装置は、前述した受信部、受信処理部、データデコーダ、シグナリングパーサ、リプロジェクション処理部及び／又はレンダラを含むことができる。各々の内部コンポーネントは、前述の通りである。本発明の一実施例による３６０度ビデオ受信装置及びその内部コンポーネントは、前述した本発明の３６０度ビデオを受信する方法の実施例を実行することができる。
【０３３２】
前述した装置の内部コンポーネントは、メモリに記憶された連続する実行過程を実行するプロセッサであり、又はその他のハードウェアで構成されたハードウェアコンポーネントである。これらは、装置の内部／外部に位置できる。
【０３３３】
前述したモジュールは、実施例によって省略され、又は類似／同じ動作を実行する他のモジュールにより代替されることができる。
【０３３４】
前述した各々のパート、モジュール又はユニットは、メモリ（又は、記憶ユニット）に記憶された連続する実行過程を実行するプロセッサ、又はハードウェアパーツである。前述した実施例に記述された各ステップは、プロセッサ又はハードウェアパーツにより実行されることができる。前述した実施例に記述された各モジュール／ブロック／ユニットは、ハードウェア／プロセッサとして動作できる。また、本発明が提示する方法は、コードとして実行されることができる。このコードは、プロセッサが読み取ることができる記憶媒体に書き込むことができ、したがって、装置（apparatus）が提供するプロセッサにより読み取られることができる。
【０３３５】
前述した実施例において、方法は、一連のステップ又はブロックで流れ図に基づいて説明されているが、本発明は、ステップの順序に限定されるものではなく、あるステップは、前述と異なるステップと、異なる順序で又は同時に発生できる。また、当業者であれば、流れ図に示すステップが排他的でなく、他のステップが含まれ、又は流れ図の一つ又は複数のステップが本発明の範囲に影響を及ぼさずに削除可能であることを理解することができる。
【０３３６】
本発明において、実施例がソフトウェアで具現されるとき、前述した方法は、前述した機能を行うモジュール（過程、機能など）で具現されることができる。モジュールは、メモリに記憶され、プロセッサにより実行されることができる。メモリは、プロセッサの内部又は外部にあり、よく知られた多様な手段でプロセッサと接続（連結）される（connected）ことができる。プロセッサは、ＡＳＩＣ（Application-Specific Integrated Circuit）、他のチップセット、論理回路及び／又はデータ処理装置を含むことができる。メモリは、ＲＯＭ（Read-Only Memory）、ＲＡＭ（Random Access Memory）、フラッシュメモリ、メモリカード、記憶媒体及び／又は他の記憶装置を含むことができる。
【図１】
2020520161.tif 000015
【図２】
2020520161.tif 000016
【図３】
2020520161.tif 000017
【図４】
2020520161.tif 000018
【図５】
2020520161.tif 000019
【図６】
2020520161.tif 000020
【図７】
2020520161.tif 000021
【図８ａ】
2020520161.tif 000022
【図８ｂ】
2020520161.tif 000023
【図８ｃ】
2020520161.tif 000024
【図８ｄ】
2020520161.tif 000025
【図９ａ】
2020520161.tif 000026
【図９ｂ】
2020520161.tif 000027
【図９ｃ】
2020520161.tif 000028
【図１０】
2020520161.tif 000029
【図１１ａ】
2020520161.tif 000030
【図１１ｂ】
2020520161.tif 000031
【図１２（ａ）】
2020520161.tif 000032
【図１２（ｂ）】
2020520161.tif 000033
【図１３（ａ）】
2020520161.tif 000034
【図１３（ｂ）】
2020520161.tif 000035
【図１３（ｃ）】
2020520161.tif 000036
【図１４（ａ）】
2020520161.tif 000037
【図１４（ｂ）】
2020520161.tif 000038
【図１５（ａ）】
2020520161.tif 000039
【図１５（ｂ）】
2020520161.tif 000040
【図１５（ｃ）】
2020520161.tif 000041
【図１５（ｄ）】
2020520161.tif 000042
【図１６ａ】
2020520161.tif 000043
【図１６ｂ】
2020520161.tif 000044
【図１６ｃ】
2020520161.tif 000045
【図１７】
2020520161.tif 000046
【図１８】
2020520161.tif 000047
【図１９（ａ）】
2020520161.tif 000048
【図１９（ｂ）】
2020520161.tif 000049
【図１９（ｃ）】
2020520161.tif 000050
【図２０（ａ）】
2020520161.tif 000051
【図２０（ｂ）】
2020520161.tif 000052
【図２１ａ】
2020520161.tif 000053
【図２１ｂ】
2020520161.tif 000054
【図２１ｃ】
2020520161.tif 000055
【図２１ｄ】
2020520161.tif 000056
【図２１ｅ】
2020520161.tif 000057
【図２１ｆ】
2020520161.tif 000058
【図２２】
2020520161.tif 000059
【図２３】
2020520161.tif 000060
【手続補正書】
【提出日】令和1年11月15日(2019.11.15)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
３６０度ビデオ送信装置により実行される３６０度ビデオデータ処理方法であって、
少なくとも一つのカメラによりキャプチャされた３６０度ビデオデータを取得するステップと、
前記３６０度ビデオデータを処理してプロジェクションされたピクチャ（projected picture）を取得するステップと、
前記プロジェクションされたピクチャにリージョン別パッキング過程（region-wise packing）を適用してパッキングされたピクチャ（packed picture）を取得するステップと、
前記３６０度ビデオデータに関するメタデータを生成するステップと、
前記パッキングされたピクチャをエンコードするステップと、
前記エンコードされたピクチャ及び前記メタデータに対して記憶又は送信のための処理を実行するステップと、を有し、
前記パッキングされたピクチャは、前記パッキングされたピクチャの対象リージョンに対する複数のガードバンドを有し、
前記メタデータは、前記複数のガードバンドのうちの一つのガードバンドのタイプを示す情報を有し、
前記複数のガードバンドのタイプは異なる、３６０度ビデオデータ処理方法。
【請求項２】
前記一つのガードバンドのタイプを示す情報は、前記一つのガードバンドに有される情報が球形面上で前記対象リージョンと隣接するリージョンの映像情報であることを示す、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項３】
前記一つのガードバンドのタイプを示す情報は、参照リージョンの一つのガードバンドの映像情報が前記対象リージョンの前記一つのガードバンドの映像情報として使われることを示す、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項４】
前記パッキングされたピクチャのプロジェクションタイプがエクイレクタングラプロジェクション（EquiRectangular Projection；ＥＲＰ）であり、前記対象リージョンの前記一つのガードバンドが前記パッキングされたピクチャの左側境界に隣接する場合、前記参照リージョンの一つのガードバンドは、前記パッキングされたピクチャの右側境界に隣接する、請求項３に記載の３６０度ビデオデータ処理方法。
【請求項５】
前記メタデータは、前記複数のガードバンドが同じタイプを有するガードバンドであるかどうかを示すフラグを有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項６】
前記メタデータは、前記一つのガードバンドに対する変換情報（transform information）がシグナリングされるかどうかを示すフラグを有し、
前記フラグの値が１である場合、前記メタデータは、前記一つのガードバンドに対する変換情報を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項７】
前記メタデータは、前記パッキングされたピクチャに前記対象リージョンのコーナ（corner）ガードバンドが有されるかどうかを示すフラグを有し、
前記コーナガードバンドは、前記対象リージョンの左上端、右上端、左下端又は右下端の周辺領域に位置するガードバンドであり、
前記フラグの値が１である場合、前記パッキングされたピクチャは、前記パッキングされたピクチャの対象リージョンに対する少なくとも一つのコーナガードバンドを有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項８】
前記メタデータは、前記コーナガードバンドと前記一つのガードバンドとが同じタイプを有するかどうかを示すフラグを有し、
前記フラグの値が０である場合、前記メタデータは、前記コーナガードバンドのタイプを示す情報を有する、請求項７に記載の３６０度ビデオデータ処理方法。
【請求項９】
前記メタデータは、前記対象リージョンの拡張領域に関する情報がシグナリングされるかどうかを示すフラグを有し、
前記拡張領域は、前記対象リージョン及び前記複数のガードバンドを有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項１０】
前記対象リージョンの前記拡張領域に関する情報がシグナリングされるかどうかを示す前記フラグの値が１である場合、
前記メタデータは、前記拡張領域の中点に対応する球形面上の位置のヨー（yaw）値、ピッチ（pitch）値、及びロール（roll）値を示す情報を有する、請求項９に記載の３６０度ビデオデータ処理方法。
【請求項１１】
前記対象リージョンの前記拡張領域に関する情報がシグナリングされるかどうかを示す前記フラグの値が１である場合、
前記メタデータは、前記拡張領域の水平範囲（horizontal range）及び垂直範囲（vertical range）を示す情報を有する、請求項９に記載の３６０度ビデオデータ処理方法。
【請求項１２】
前記メタデータは、前記一つのガードバンドに有される３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグを有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項１３】
前記パッキングされたピクチャは、前記対象リージョンの特定境界に隣接するサブ（sub）ガードバンドを有し、
前記メタデータは、前記サブガードバンドの個数を示す情報を有する、請求項１に記載の３６０度ビデオデータ処理方法。
【請求項１４】
前記メタデータは、前記サブガードバンドの各々に対するサブ境界の長さを示す情報を有し、
前記サブガードバンドの各々に対する前記サブ境界は、前記特定境界のうち前記サブガードバンドの各々が隣接する部分である、請求項１３に記載の３６０度ビデオデータ処理方法。
【請求項１５】
３６０度ビデオ受信装置により実行される３６０度ビデオデータ処理方法であって、
３６０度ビデオデータに対するパッキングされたピクチャ（packed picture）に関する情報及び前記３６０度ビデオデータに関するメタデータを有する信号を受信するステップと、
前記信号を処理して前記パッキングされたピクチャに関する情報及び前記メタデータを取得するステップと、
前記パッキングされたピクチャに関する情報に基づいて前記パッキングされたピクチャをデコードするステップと、
前記メタデータに基づいて前記デコードされたピクチャを処理して３Ｄ空間でレンダリングするステップと、を有し、
前記パッキングされたピクチャは、前記パッキングされたピクチャの対象リージョンに対する複数のガードバンドを有し、
前記メタデータは、前記複数のガードバンドのうちの一つのガードバンドのタイプを示す情報を有し、
前記複数のガードバンドのタイプは異なる、３６０度ビデオデータ処理方法。
【請求項１６】
前記一つのガードバンドのタイプを示す情報の値が４である場合、前記一つのガードバンドは、球形面上で前記対象リージョンと隣接するリージョンの３６０度ビデオデータを有する、請求項１５に記載の３６０度ビデオデータ処理方法。
【請求項１７】
前記一つのガードバンドのタイプを示す情報の値が５である場合、参照リージョンの一つのガードバンドの３６０度ビデオデータが前記対象リージョンの前記一つのガードバンドの３６０度ビデオデータとして使われる、請求項１５に記載の３６０度ビデオデータ処理方法。
【請求項１８】
前記パッキングされたピクチャのプロジェクションタイプがエクイレクタングラプロジェクション（EquiRectangular Projection；ＥＲＰ）であり、前記対象リージョンの前記一つのガードバンドが前記パッキングされたピクチャの左側境界に隣接する場合、前記参照リージョンの一つのガードバンドは、前記パッキングされたピクチャの右側境界に隣接する、請求項１７に記載の３６０度ビデオデータ処理方法。
【請求項１９】
前記メタデータは、前記複数のガードバンドが同じタイプを有するかどうかを示すフラグを有する、請求項１５に記載の３６０度ビデオデータ処理方法。
【請求項２０】
前記メタデータは、前記一つのガードバンドに有される３６０度ビデオデータがビューポート（viewport）生成に使われるかどうかを示すフラグを有し、
前記フラグの値が１である場合、前記一つのガードバンドに有される３６０度ビデオデータは、前記ビューポート生成に使われる、請求項１に記載の３６０度ビデオデータ処理方法。
【国際調査報告】
2020520161.tif 000061
2020520161.tif 000062
2020520161.tif 000063
2020520161.tif 000064