(57)【特許請求の範囲】
【請求項１】
サーバに適用されるイメージ処理方法であって、
処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行して、前記経度‐緯度マップまたは前記球マップのサブ領域を取得する段階であって、前記水平分割の分割位置は予め設定された緯度であり、前記垂直分割の分割位置は緯度によって決定され、前記水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、前記垂直分割間隔は、前記垂直分割の隣接する分割位置間の距離である、段階と、
前記取得されたサブ領域のイメージをエンコーディングする段階と、を備え、
前記取得されたサブ領域のイメージをエンコーディングする前記段階の後に、前記方法は、さらに、
前記サブ領域の前記エンコーディングされたイメージに対応するビットストリームを個々にカプセル化し、前記サブ領域の位置情報をエンコーディングする段階であって、すべての前記サブ領域の前記エンコーディングされた位置情報およびすべての前記サブ領域の前記ビットストリームが同一のトラックに存在する、または、前記エンコーディングされた位置情報および各サブ領域のビットストリームが前記位置情報のトラックおよび前記ビットストリームのトラックにそれぞれ存在する、または、すべての前記サブ領域の前記エンコーディングされた位置情報がメディアプレゼンテーションディスクリプション（ＭＰＤ）内に存在する、または、すべての前記サブ領域の前記エンコーディングされた位置情報がプライベートファイル内に存在し、且つ前記プライベートファイルのアドレスがＭＰＤ内に存在する、または、各サブ領域の前記エンコーディングされた位置情報が各サブ領域のビットストリームの補足拡張情報（ＳＥＩ）内に存在する、段階を備え、
前記プライベートファイルは、さらに、ユーザの視点と、前記ユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係を表わすために用いられる情報を含む、
方法。
【請求項２】
前記垂直分割の前記分割位置は前記緯度によって決定されることは、前記垂直分割の分割位置のより高い緯度が、より大きな垂直分割間隔を示すことを含む、請求項１に記載の方法。
【請求項３】
前記取得されたサブ領域のイメージをエンコーディングする前記段階の前に、前記方法は、さらに、
前記サブ領域の前記イメージを、水平方向において第１のサンプリング間隔でサンプリングする段階であって、前記サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す、段階を備え、
前記取得されたサブ領域のイメージをエンコーディングする前記段階は、
サンプリングされたサブ領域のイメージをエンコーディングする段階を含む、請求項１または２に記載の方法。
【請求項４】
前記取得されたサブ領域のイメージをエンコーディングする前記段階の前に、前記方法は、さらに、
前記サブ領域の前記イメージを垂直方向において第２のサンプリング間隔でサンプリングする段階を備える、請求項３に記載の方法。
【請求項５】
前記サブ領域が、前記処理されるべきイメージの前記球マップに水平分割および垂直分割を実行することで取得される場合、前記サブ領域の前記イメージを水平方向において第１のサンプリング間隔でサンプリングする前記段階の前に、前記方法は、さらに、
前記サブ領域の前記イメージを、予め設定されたサイズに基づき、二次元平面イメージにマッピングする段階を備え、
前記サブ領域の前記イメージを、水平方向において第１のサンプリング間隔でサンプリングする前記段階は、
前記サブ領域の前記イメージがマッピングされた前記二次元平面イメージを、水平方向において前記第１のサンプリング間隔でサンプリングする段階を含む、請求項３または４に記載の方法。
【請求項６】
サンプリングされたサブ領域のイメージをエンコーディングする前記段階の前に、前記方法は、さらに、
前記サンプリングされたサブ領域の位置を調整して、調整されたサブ領域のイメージによってスプライシングされるイメージの水平エッジおよび垂直エッジがそれぞれ揃うようにする段階を備える、請求項３から５のいずれか一項に記載の方法。
【請求項７】
サンプリングされたサブ領域のイメージをエンコーディングする前記段階は、
前記スプライシングされたイメージのタイル（ｔｉｌｅ）をエンコーディングする段階を含む、請求項６に記載の方法。
【請求項８】
前記サブ領域が、前記処理されるべきイメージの前記経度‐緯度マップに水平分割および垂直分割を実行することで取得される場合、サンプリングされたサブ領域は、サンプリングされた経度‐緯度マップを形成し、前記位置情報は、前記経度‐緯度マップ内の前記サブ領域の位置およびサイズ並びに前記サンプリングされた経度‐緯度マップ内の前記サブ領域の位置およびサイズを含み、または、前記位置情報は、前記経度‐緯度マップ内の前記サブ領域の位置およびサイズ並びにスプライシングされたイメージの前記サブ領域の位置およびサイズを含む、または、前記サブ領域が、前記処理されるべきイメージの前記球マップに水平分割および垂直分割を実行することで取得される場合、前記サンプリングされたサブ領域は、サンプリングされた球マップを形成し、前記位置情報は、前記球マップのイメージ内の前記サブ領域の位置および緯度‐経度範囲並びに前記サンプリングされた球マップのイメージ内の前記サブ領域の位置およびサイズを含み、または、前記位置情報は、前記球マップの前記イメージ内の前記サブ領域の位置および緯度‐経度範囲並びに前記スプライシングされたイメージ内の前記サブ領域の位置およびサイズを含む、請求項１から７のいずれか一項に記載の方法。
【請求項９】
前記プライベートファイルは、さらに、ユーザの視角によってカバーされるサブ領域において表示される必要があることが好ましいサブ領域の個数を表わすために用いられる情報、表示される必要があることが好ましい前記サブ領域の番号に関する情報、二次的に表示されるサブ領域の番号に関する情報、および表示されないサブ領域の番号に関する情報を含む、請求項１から８のいずれか一項に記載の方法。
【請求項１０】
前記経度‐緯度マップは、左目に対応する経度‐緯度マップおよび右目に対応する経度‐緯度マップを含み、
処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行する前記段階の前に、前記方法は、さらに
前記左目に対応する前記経度‐緯度マップを、前記右目に対応する前記経度‐緯度マップから分離する段階を備え、
処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行する前記段階は、
前記左目に対応する前記経度‐緯度マップに前記水平分割および前記垂直分割を実行し、前記右目に対応する前記経度‐緯度マップに前記水平分割および前記垂直分割を実行する段階を含む、請求項１から９のいずれか一項に記載の方法。
【請求項１１】
前記方法は、さらに、
前記サブ領域の前記エンコーディングされたイメージに対応するビットストリームを端末に送信する段階、または
前記端末によって送信された視角情報を受信し、前記視角情報に基づき、前記視角情報に対応するサブ領域を取得し、前記視角情報に対応する前記サブ領域のビットストリームを前記端末に送信する段階、または
前記端末によって送信されるサブ領域の番号を受信し、前記サブ領域の前記番号に対応するビットストリームを前記端末に送信する段階、を備える、請求項８から１０のいずれか一項に記載の方法。
【請求項１２】
前記経度‐緯度マップは、３６０度パノラマビデオイメージの経度‐緯度マップ、または前記３６０度パノラマビデオイメージの前記経度‐緯度マップの一部である、または
前記球マップは、３６０度パノラマビデオイメージの球マップ、または前記３６０度パノラマビデオイメージの前記球マップの一部である、請求項１から１１のいずれか一項に記載の方法。
【請求項１３】
端末に適用されるイメージ処理方法を更に備え、
前記端末に適用されるイメージ処理方法が、
処理されるべき前記イメージの各サブ領域の位置情報を決定する段階と、
各サブ領域の前記決定された位置情報に基づき、処理されるべき前記イメージ内の現在の視角によってカバーされるサブ領域の位置情報を決定する段階と、
前記サブ領域の第１のサンプリング間隔を決定する段階と、
前記現在の視角によってカバーされる前記サブ領域の前記決定された位置情報に基づき、前記現在の視角によってカバーされる前記サブ領域に対応するビットストリームを取得する段階と、
前記ビットストリームをデコーディングして、前記現在の視角によってカバーされる前記サブ領域のイメージを取得する段階と、
前記現在の視角によってカバーされる前記サブ領域の前記決定された位置情報および前記第１のサンプリング間隔に基づき、前記デコーディングされたイメージを再サンプリングし、前記再サンプリングされたイメージを再生する段階と、を備える、請求項１に記載の方法。
【請求項１４】
処理されるべき前記イメージの各サブ領域の位置情報を決定する前記段階は、
サーバによって送信された第１の情報を受信する段階であって、前記第１の情報は、処理されるべき前記イメージの各サブ領域のトラックおよび各サブ領域のビットストリームを含み、前記トラックは、処理されるべき前記イメージのすべてのサブ領域の位置情報を含む、段階と、
前記トラックに基づき、処理されるべき前記イメージ内の各サブ領域の前記位置情報を取得する段階と、を含む、請求項１３に記載の方法。
【請求項１５】
処理されるべき前記イメージの各サブ領域の位置情報を決定する前記段階は、
サーバによって送信されたメディアプレゼンテーションディスクリプション（ＭＰＤ）を受信する段階であって、前記ＭＰＤは各サブ領域の前記位置情報を含み、または、前記ＭＰＤはプライベートファイルのアドレスを含み、且つ前記プライベートファイルは各サブ領域の前記位置情報を含む、段階と、
前記ＭＰＤを解析して、各サブ領域の前記位置情報を取得する段階と、を含む、請求項１３に記載の方法。
【請求項１６】
前記サブ領域の前記位置情報は、前記サブ領域に対応するビットストリームの補足拡張情報（ＳＥＩ）内に存在する、請求項１３に記載の方法。
【請求項１７】
前記現在の視角によってカバーされる前記サブ領域に対応するビットストリームを取得する前記段階は、
前記端末のメモリから、前記現在の視角によってカバーされる前記サブ領域に対応する前記ビットストリームを取得する段階、または
サーバから、前記現在の視角によってカバーされる前記サブ領域に対応する前記ビットストリームを取得することを要求する段階を含む、請求項１３から１６のいずれか一項に記載の方法。
【請求項１８】
前記サーバから、前記現在の視角によってカバーされる前記サブ領域に対応する前記ビットストリームを取得することを要求する前記段階は、
前記現在の視角を示す情報を前記サーバに送信し、前記現在の視角によってカバーされる前記サブ領域に対応し、且つ前記サーバによって送信される前記ビットストリームを受信する段階、または
前記端末および前記サーバによって予め設定されたプロトコルに従い、前記サーバから、前記現在の視角によってカバーされる前記サブ領域に対応する前記ビットストリームを取得する段階であって、前記プロトコルは、視角と、前記視角によってカバーされるサブ領域との間の対応関係を含む、請求項１７に記載の方法。
【請求項１９】
前記サブ領域の第１のサンプリング間隔を決定する前記段階は、
予め設定されたサンプリング間隔を、前記第１のサンプリング間隔として決定する段階、または
サーバから、前記第１のサンプリング間隔を受信する段階、または
前記サーバから受信された各サブ領域の前記位置情報に基づき、前記第１のサンプリング間隔を取得する段階、を含む、請求項１４から１８のいずれか一項に記載の方法。
【請求項２０】
処理されるべき前記イメージが、パノラマイメージであり、
前記サーバに適用されるイメージ処理方法が、更に、
前記パノラマイメージの経度‐緯度マップまたは球マップのサブ領域のイメージに対応するビットストリームを格納する段階であって、前記サブ領域は、前記パノラマイメージの前記経度‐緯度マップまたは前記球マップに水平分割および垂直分割を実行することで取得され、前記水平分割の分割位置は予め設定された緯度であり、前記垂直分割の分割位置は緯度によって決定され、前記水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、前記垂直分割間隔は、前記垂直分割の隣接する分割位置間の距離である、段階と、
前記サブ領域の前記イメージに対応し、且つ端末によって要求される前記格納されたビットストリームの中で、現在の視角によってカバーされるサブ領域のビットストリームを前記端末に送信する段階と、を備える、請求項１に記載の方法。
【請求項２１】
エンコーディングされる前に、前記サブ領域に対応し、且つ前記サーバに格納された前記イメージは、水平方向において第１のサンプリング間隔でサンプリングされ、前記サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す、または
前記イメージは、垂直方向において第２のサンプリング間隔でサンプリングされる、請求項２０に記載の方法。
【請求項２２】
処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行して、前記経度‐緯度マップまたは前記球マップのサブ領域を取得するよう構成された分割ユニットであって、前記水平分割の分割位置は予め設定された緯度であり、前記垂直分割の分割位置は緯度によって決定され、前記水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、前記垂直分割間隔は、前記垂直分割の隣接する分割位置間の距離である、分割ユニットと、
前記取得されたサブ領域のイメージをエンコーディングするよう構成されたエンコーディングユニットと、
サンプリングユニットと、
カプセル化ユニットと、
を備え、
前記カプセル化ユニットは、
前記サブ領域の前記エンコーディングされたイメージに対応するビットストリームを個々にカプセル化し、且つ前記サブ領域の位置情報をエンコーディングするよう構成されており、すべての前記サブ領域の前記エンコーディングされた位置情報およびすべての前記サブ領域のビットストリームが同一のトラックに存在する、または、各サブ領域の前記エンコーディングされた位置情報およびビットストリームが、前記位置情報のトラックおよび前記ビットストリームのトラックにそれぞれ存在する、または、すべての前記サブ領域の前記エンコーディングされた位置情報がメディアプレゼンテーションディスクリプション（ＭＰＤ）内に存在する、または、すべての前記サブ領域の前記エンコーディングされた位置情報がプライベートファイル内に存在し、且つ前記プライベートファイルのアドレスはＭＰＤ内に存在する、または、各サブ領域の前記エンコーディングされた位置情報が各サブ領域のビットストリームの補足拡張情報（ＳＥＩ）内に存在し、
前記プライベートファイルは、さらに、ユーザの視点と、前記ユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係を表わすために用いられる情報を含む、サーバ。
【請求項２３】
前記垂直分割の前記分割位置は前記緯度によって決定されることは、前記垂直分割の分割位置のより高い緯度は、より大きな垂直分割間隔を示すことを含む、請求項２２に記載のサーバ。
【請求項２４】
さらに、サンプリングユニットを備え、前記サンプリングユニットは、
前記サブ領域の前記イメージを、水平方向において第１のサンプリング間隔でサンプリングするよう構成されており、前記サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示し、
前記エンコーディングユニットは、
サンプリングされたサブ領域のイメージをエンコーディングするよう構成されている、請求項２２または２３に記載のサーバ。
【請求項２５】
前記サンプリングユニットは、さらに、
前記サブ領域の前記イメージを、垂直方向において第２のサンプリング間隔でサンプリングするよう構成されている、請求項２４に記載のサーバ。
【請求項２６】
前記サンプリングユニットは、さらに、
前記サブ領域の前記イメージを、予め設定されたサイズに基づき、二次元平面イメージにマッピングする、および
前記サブ領域の前記イメージがマッピングされた前記二次元平面イメージを、水平方向において前記第１のサンプリング間隔でサンプリングする、よう構成されている、請求項２４または２５に記載のサーバ。
【請求項２７】
さらに、スプライシングユニットを備え、前記スプライシングユニットは、
前記サンプリングされたサブ領域の位置を調整して、調整されたサブ領域のイメージによってスプライシングされるイメージの水平エッジおよび垂直エッジがそれぞれ揃うようにするよう構成されている、請求項２４から２６のいずれか一項に記載のサーバ。
【請求項２８】
前記エンコーディングユニットは、
前記スプライシングされたイメージのタイル（ｔｉｌｅ）をエンコーディングするよう構成されている、請求項２７に記載のサーバ。
【請求項２９】
前記サブ領域が、前記処理されるべきイメージの前記経度‐緯度マップに水平分割および垂直分割を実行することで取得される場合、サンプリングされたサブ領域は、サンプリングされた経度‐緯度マップを形成し、前記位置情報は、前記経度‐緯度マップ内の前記サブ領域の位置およびサイズ並びに前記サンプリングされた経度‐緯度マップ内の前記サブ領域の位置およびサイズを含み、または、前記位置情報は、前記経度‐緯度マップ内の前記サブ領域の位置およびサイズ並びにスプライシングされたイメージの前記サブ領域の位置およびサイズを含む、または、前記サブ領域が、前記処理されるべきイメージの前記球マップに水平分割および垂直分割を実行することで取得される場合、前記サンプリングされたサブ領域は、サンプリングされた球マップを形成し、前記位置情報は、前記球マップのイメージ内の前記サブ領域の位置および緯度‐経度範囲並びに前記サンプリングされた球マップのイメージ内の前記サブ領域の位置およびサイズを含み、または、前記位置情報は、前記球マップの前記イメージ内の前記サブ領域の位置および緯度‐経度範囲並びに前記スプライシングされたイメージ内の前記サブ領域の位置およびサイズを含む、請求項２２から２８のいずれか一項に記載のサーバ。
【請求項３０】
前記プライベートファイルは、さらに、ユーザの視角によってカバーされるサブ領域において表示される必要があることが好ましいサブ領域の個数を表わすために用いられる情報、表示される必要があることが好ましい前記サブ領域の番号に関する情報、二次的に表示されるサブ領域の番号に関する情報、および表示されないサブ領域の番号に関する情報を含む、請求項２２から２９のいずれか一項に記載のサーバ。
【請求項３１】
前記経度‐緯度マップは、左目に対応する経度‐緯度マップおよび右目に対応する経度‐緯度マップを含み、前記分割ユニットは、
前記左目に対応する前記経度‐緯度マップを、前記右目に対応する前記経度‐緯度マップから分離する、および
前記左目に対応する前記経度‐緯度マップに前記水平分割および前記垂直分割を実行し、前記右目に対応する前記経度‐緯度マップに前記水平分割および前記垂直分割を実行する、よう構成されている、請求項２２から３０のいずれか一項に記載のサーバ。
【請求項３２】
さらに、送信ユニットを備え、前記送信ユニットは、
端末に、前記サブ領域の前記エンコーディングされたイメージに対応するビットストリームを送信する、または
前記端末によって送信された視角情報を受信し、前記視角情報に基づき、前記視角情報に対応するサブ領域を取得し、前記端末に、前記視角情報に対応する前記サブ領域のビットストリームを送信する、または
前記端末によって送信されたサブ領域の番号を受信し、前記サブ領域の前記番号に対応するビットストリームを前記端末に送信する、よう構成されている、請求項２９から３１のいずれか一項に記載のサーバ。
【請求項３３】
前記経度‐緯度マップは、３６０度パノラマビデオイメージの経度‐緯度マップ、または前記３６０度パノラマビデオイメージの前記経度‐緯度マップの一部である、または
前記球マップは、３６０度パノラマビデオイメージの球マップ、または前記３６０度パノラマビデオイメージの前記球マップの一部である、請求項２２から３２のいずれか一項に記載のサーバ。
【請求項３４】
前記処理されるべきイメージが、パノラマイメージであり、
前記パノラマイメージの経度‐緯度マップまたは球マップのサブ領域のイメージに対応するビットストリームを格納するよう構成された格納ユニットであって、前記サブ領域は、前記パノラマイメージの前記経度‐緯度マップまたは前記球マップに水平分割および垂直分割を実行することで取得され、前記水平分割の分割位置は予め設定された緯度であり、前記垂直分割の分割位置は緯度によって決定され、前記水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、前記垂直分割間隔は、前記垂直分割の隣接する分割位置間の距離である、格納ユニットと、
前記サブ領域の前記イメージに対応し、且つ端末によって要求される前記格納されたビットストリームの中で、現在の視角によってカバーされるサブ領域のビットストリームを前記端末に送信するよう構成された送信ユニットと、を更に備える、請求項２２に記載のサーバ。
【請求項３５】
エンコーディングされる前に、前記サブ領域に対応し、且つ前記サーバに格納された前記イメージは、水平方向において第１のサンプリング間隔でサンプリングされ、前記サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す、または
前記イメージは、垂直方向において第２のサンプリング間隔でサンプリングされる、請求項３４に記載のサーバ。
【発明の詳細な説明】
【技術分野】
【０００１】
本願は、２０１７年７月３１日に中国特許庁に出願された発明の名称「イメージ処理方法、端末およびサーバ」に係る中国特許出願第２０１７１０６４５１０８．Ｘ号に基づく優先権を主張し、当該出願は、参照により本明細書にてその全体が援用される。
【０００２】
本願は、メディア標準およびメディアアプリケーション技術の分野に関し、具体的には、イメージ処理方法、端末およびサーバに関する。
【背景技術】
【０００３】
ビデオアプリケーションにおいては、仮想現実（ｖｉｒｔｕａｌ  ｒｅａｌｉｔｙ，ＶＲ）／３６０度パノラマビデオが出現してきており、人々に新しい表示方式および視覚的エクスペリエンスをもたらし、また新しい技術的課題ももたらしている。３６０度パノラマビデオは、オブジェクト上の複数のカメラによって、複数の角度で撮影され、マルチアングル再生をサポートする。ビデオのイメージ信号は、球信号として仮想化されてよい。図１に示される通り、球における異なる位置の球イメージ信号が、異なる視角コンテンツを表してよい。しかしながら、仮想球イメージ信号は人間の目によっては見えない。従って、三次元球イメージ信号は、二次元平面イメージ信号として表わされる必要があり、例えば、経度‐緯度マップまたはキューブ等の表現形態で表される。これらの表現形態では、球イメージ信号が人間の目によって直接見ることができるイメージ信号になるように、球イメージ信号は、実際には特定のマッピング方式で二次元イメージにマッピングされる。最も頻繁に用いられる直接的なイメージフォーマットは、経度‐緯度マップである。イメージを収集する方式は以下の通りである。すなわち、球イメージ信号が経度角に従い、水平方向において均等にサンプリングされ、緯度角に従い垂直方向において均等にサンプリングされる。一例として、地球の球イメージ信号を用いて、図２に地球の二次元マッピングイメージが示されている。
【０００４】
ＶＲアプリケーションにおいては、球イメージ信号は３６０度パノラマイメージであり、通常、人間の目の視角範囲は約１２０度である。従って、人間の目の視角から見える有効な球信号は、パノラマ信号の約２２％である。より良いユーザ視認エクスペリエンスを達成すべく、ＶＲ端末デバイス（例えば、ＶＲグラス）は、約９０度から１１０度の間の単一の視角をサポートできる。しかしながら、ユーザがイメージを見るとき、単一の視角内のイメージコンテンツ情報が、パノラマイメージ全体の小さな部分を占め、視角外のイメージ情報は、ユーザによって用いられない。すべてのパノラマイメージが送信される場合、不要な帯域幅の無駄が生じる。従って、パノラマビデオの視点に依存するビデオコーディング（ｖｉｅｗｐｏｒｔ  ｄｅｐｅｎｄｅｎｔ  ｖｉｄｅｏ  ｃｏｄｉｎｇ，ＶＤＣ）エンコーディングおよび送信技術においては、ビデオ全体におけるイメージは分割され、送信される必要のあるイメージサブ領域が、ユーザの現在の視角に従って選択され、これにより帯域幅を節約する。
【０００５】
上述のパノラマイメージＶＲエンコーディングおよび送信技術には、（１）タイル単位エンコーディングおよび送信方式を個々に用いる；（２）パノラマイメージエンコーディングのハイブリッドエンコーディングおよび送信並びにタイル単位エンコーディングおよび送信の方式を実行する、という２つのタイプが含まれ得る。タイル単位エンコーディングおよび送信方式では、イメージシーケンスがいくつかのイメージサブ領域に分割され、すべてのサブ領域が別個にエンコーディングされて、１または複数のビットストリームを生成する。経度‐緯度マップを均等に分割する方式には、経度‐緯度マップを、幅方向および高さ方向において、複数のタイルに均等に分割することが含まれる。ユーザがクライアント上で、ある視角のイメージを見るとき、クライアントはユーザの視角位置に基づき、当該イメージ上の視角のカバレッジ範囲を計算し、当該範囲に基づき、当該イメージ内のタイルの位置およびサイズを含む当該イメージの送信される必要のあるタイル情報を取得し、送信のためのタイルに対応するビットストリームをサーバに対し要求し、クライアント上で現在の視角をレンダリングおよび表示する。しかしながら、経度‐緯度マップが分割に用いられる場合、赤道付近のイメージのサンプリングレートは比較的高く、２つの極付近のイメージのサンプリングレートは比較的低い。言い換えれば、赤道付近のイメージのピクセル冗長性は比較的低く、２つの極付近のイメージのピクセル冗長性は比較的高く、より高い緯度はより高い冗長性を示す。経度‐緯度マップが均等な分割に用いられる場合、異なる緯度における経度‐緯度マップのピクセル冗長性の問題は考慮されない。同一の条件下で、送信のための各イメージブロックが同一の解像度でエンコーディングされ、エンコーディングの効率は低く、比較的大きな送信帯域幅の無駄も生じる。
【発明の概要】
【０００６】
本願の実施形態は、イメージサンプリングにおいて経度‐緯度マップイメージを用いて、イメージを均等に分割するときに生じる、エンコーディングおよび送信時のエンコーディングの低効率および帯域幅の無駄の問題を解決するためのイメージ処理方法、端末およびサーバを提供する。
【０００７】
第１の態様によると、サーバに適用されるイメージ処理方法であって、処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行して、経度‐緯度マップまたは球マップのサブ領域を取得する段階であって、水平分割の分割位置は予め設定された緯度であり、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である、段階と、取得されたサブ領域のイメージをエンコーディングする段階と、を備える、方法が提供される。このように、従来技術と比較した場合、従来技術では、経度‐緯度マップが同一の分割間隔で均等に分割され、均等な分割時の細分割の特性によってエンコーディングの低効率が生じ、エンコーディングされた後に送信中に大きな帯域幅を占有するという問題が生じる。本願においては、異なる緯度における少なくとも２つの垂直分割間隔に基づく、垂直分割を実行することにより、従来技術における均等および細分割の特性が回避される。本願において、垂直分割は、複数の垂直分割間隔で実行されてよく、その結果、複数のサイズのイメージのサブ領域が存在する。より大きな分割間隔は、より大きなサブ領域を示す。エンコーディング時のエンコーディング効率が向上され、エンコーディング後のサーバがビットストリームを端末に送信するときの占有帯域幅が低減される。
【０００８】
可能な設計において、垂直分割の分割位置が緯度によって決定されることは、垂直分割の分割位置のより高い緯度は、より大きな垂直分割間隔を示すことを含む。このように、サブ領域が位置する緯度は異なるので、より高い緯度はより大きなサブ領域を示す。粗い分割によって、エンコーディングおよび送信効率が向上され得、送信帯域幅が低減され得る。
【０００９】
可能な設計において、取得されたサブ領域のイメージをエンコーディングする段階の前に、方法は、さらに、サブ領域のイメージを、水平方向において第１のサンプリング間隔でサンプリングする段階であって、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す、段階を備え、取得されたサブ領域のイメージをエンコーディングする段階は、サンプリングされたサブ領域のイメージをエンコーディングする段階を含む。経度‐緯度マップでは、赤道付近のイメージのピクセル冗長性が比較的低く、２つの極付近のイメージのピクセル冗長性が比較的高いので、各サブ領域が同一の解像度でエンコーディングおよび送信される場合、送信帯域幅の無駄が大きい。また、デコーディング側のピクセル冗長性は高く、結果的に、デコーディング側は高デコーディング能力を要求し、デコーディング速度が低い。しかしながら、本願においては、水平サンプリングはエンコーディング前に実行されてよく、且つ、水平サンプリングが実行されるとき、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す。言い換えれば、ダウンサンプリングが高緯度のサブ領域に水平方向に実行される、すなわち、圧縮サンプリングが実行される。その結果、エンコーディング前に、高緯度のサブ領域において送信されるイメージのピクセル冗長性は低減可能で、これにより帯域幅を低減する。また、ダウンサンプリングが、エンコーディングおよび送信される必要のあるピクセル値を低減し、その結果、デコーディング側のデコーディング能力に対する要件が低減される。デコーディング複雑性が低減され、これにより、デコーディング速度が向上される。
【００１０】
可能な設計において、取得されたサブ領域のイメージをエンコーディングする段階の前に、方法は、さらに、サブ領域のイメージを垂直方向において第２のサンプリング間隔でサンプリングする段階を備える。第２のサンプリング間隔は、サンプリング前のサブ領域の間隔と同一であってよい。すなわち、オリジナルサンプリングが垂直方向において維持される。または、サンプリング前のサブ領域の間隔より小さくてよい。すなわち、ダウンサンプリングが垂直方向全体において実行される。同様に、エンコーディングおよび送信の帯域幅は比較的小さくてよく、デコーディング側のデコーディング複雑性は低減され、デコーディング速度が向上する。
【００１１】
可能な設計において、サブ領域が、処理されるべきイメージの球マップに水平分割および垂直分割を実行することで取得される場合、サブ領域のイメージを水平方向において第１のサンプリング間隔でサンプリングする段階の前に、方法は、さらに、サブ領域のイメージを、予め設定されたサイズに基づき、二次元平面イメージにマッピングする段階を備え、サブ領域のイメージを、水平方向において第１のサンプリング間隔でサンプリングする段階は、サブ領域の前記イメージがマッピングされた二次元平面イメージを、水平方向において前記第１のサンプリング間隔でサンプリングする段階を含む。言い換えれば、サーバは、撮影デバイスから球マップを収集し、サーバは、まず、球マップのサブ領域のイメージを、二次元経度‐緯度マップにマッピングしてよく、その後、経度‐緯度マップにダウンサンプリングを実行してよい。この場合、サーバが球信号を撮影デバイスから直接収集し、サーバが球マップをサブ領域に直接分割した後、球マップのサブ領域を経度‐緯度マップにマッピングし、その後、経度‐緯度マップにダウンサンプリングを実行してよいと想定されている。
【００１２】
可能な設計において、サンプリングされたサブ領域のイメージをエンコーディングする段階の前に、方法は、さらに、サンプリングされたサブ領域の位置を調整して、調整されたサブ領域のイメージによってスプライシングされるイメージの水平エッジおよび垂直エッジがそれぞれ揃うようにする段階を備える。このように、サブ領域は、スプライシングされたイメージにおいてシーケンスで番号が付与されてよく、その結果、サーバおよび端末は、各サブ領域の番号に基づき、各サブ領域を送信および処理する。
【００１３】
可能な設計において、サンプリングされたサブ領域のイメージをエンコーディングする段階は、スプライシングされたイメージのタイル（ｔｉｌｅ）をエンコーディングする段階を含む。このように、格納のための単一のビットストリームが生成されてよく、または、単一のビットストリームが分割されて、格納のための複数のサブ領域が取得される。
【００１４】
可能な設計において、取得されたサブ領域のイメージをエンコーディングする段階の後に、方法は、さらに、サブ領域のエンコーディングされたイメージに対応するビットストリームを個々にカプセル化し、サブ領域の位置情報をエンコーディングする段階であって、すべてのサブ領域のエンコーディングされた位置情報およびすべてのサブ領域のビットストリームが同一のトラックに存在する、または、エンコーディングされた位置情報および各サブ領域のビットストリームが位置情報のトラックおよびビットストリームのトラックにそれぞれ存在する、または、すべてのサブ領域のエンコーディングされた位置情報がメディアプレゼンテーションディスクリプション（ＭＰＤ）内に存在する、または、すべてのサブ領域のエンコーディングされた位置情報がプライベートファイル内に存在し、且つプライベートファイルのアドレスがＭＰＤ内に存在する、または、各サブ領域のエンコーディングされた位置情報が各サブ領域のビットストリームの補足拡張情報（ＳＥＩ）内に存在する、段階を備える。
【００１５】
可能な設計において、サブ領域が、処理されるべきイメージの経度‐緯度マップに水平分割および垂直分割を実行することで取得される場合、サンプリングされたサブ領域は、サンプリングされた経度‐緯度マップを形成し、位置情報は、経度‐緯度マップ内のサブ領域の位置およびサイズ並びにサンプリングされた経度‐緯度マップ内のサブ領域の位置およびサイズを含み、または、位置情報は、経度‐緯度マップ内のサブ領域の位置およびサイズ並びにスプライシングされたイメージのサブ領域の位置およびサイズを含む、または、サブ領域が、処理されるべきイメージの球マップに水平分割および垂直分割を実行することで取得される場合、サンプリングされたサブ領域は、サンプリングされた球マップを形成し、位置情報は、球マップのイメージ内のサブ領域の位置および緯度‐経度範囲並びにサンプリングされた球マップのイメージ内のサブ領域の位置およびサイズを含み、または、位置情報は、球マップのイメージ内のサブ領域の位置および緯度‐経度範囲並びにスプライシングされたイメージ内のサブ領域の位置およびサイズを含む。このように、端末は、再生および表示中に、サブ領域の位置およびサイズに基づき、イメージをレンダリングおよび表示してよい。
【００１６】
可能な設計において、プライベートファイルは、さらに、ユーザの視点と、ユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係を表わすために用いられる情報を含んでよい。端末がユーザの視点を決定する場合、端末は、対応関係に基づき、視点の視角によってカバーされるサブ領域を直接決定して、サブ領域のビットストリームに基づき、デコーディング表示を実行してよく、これにより、デコーディング時の端末のデコーディング速度を向上させる。
【００１７】
可能な設計において、プライベートファイルは、さらに、ユーザの視角によってカバーされるサブ領域において表示される必要があることが好ましいサブ領域の個数を表わすために用いられる情報、表示される必要があることが好ましいサブ領域の番号に関する情報、二次的に表示されるサブ領域の番号に関する情報、および表示されないサブ領域の番号に関する情報を含む。このように、何らかの理由（例えば、不安定なネットワーク）により、すべてのサブ領域のすべてのビットストリームが取得できない、または、取得される必要がない場合、表示されることが好ましい視点に近接するサブ領域のイメージが取得されることが好ましくてよく、表示されることが好ましくないサブ領域のイメージデータは、破棄される。
【００１８】
可能な設計において、経度‐緯度マップは、左目に対応する経度‐緯度マップおよび右目に対応する経度‐緯度マップを含み、処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行する段階の前に、方法は、さらに左目に対応する経度‐緯度マップを、右目に対応する経度‐緯度マップから分離する段階を備え、処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行する段階は、左目に対応する経度‐緯度マップに水平分割および垂直分割を実行し、右目に対応する経度‐緯度マップに水平分割および垂直分割を実行する段階を含む。このように、３Ｄビデオイメージも、本願におけるサブ領域分割方式で分割されてよく、帯域幅を低減し、エンコーディングおよび送信の効率を向上させる。
【００１９】
可能な設計において、方法は、さらに、サブ領域のエンコーディングされたイメージに対応するビットストリームを端末に送信する段階、または端末によって送信された視角情報を受信し、視角情報に基づき、視角情報に対応するサブ領域を取得し、視角情報に対応するサブ領域のビットストリームを端末に送信する段階、または端末によって送信されるサブ領域の番号を受信し、サブ領域の番号に対応するビットストリームを端末に送信する段階、を備える。言い換えれば、端末は、サブ領域のイメージに対応する要求されたビットストリームを局所的に取得してよく、または、サーバが視角情報に基づき、サブ領域を決定した後に、サブ領域に対応するビットストリームを端末に送信してよい。代替的に、端末が要求されたサブ領域の番号を決定した後、サーバは通知され、サーバが、サブ領域に対応するビットストリームを端末に送信し、これにより、サーバのコンピューティング負荷を低減する。
【００２０】
可能な設計において、経度‐緯度マップは、３６０度パノラマビデオイメージの経度‐緯度マップ、または３６０度パノラマビデオイメージの経度‐緯度マップの一部である、または球マップは、３６０度パノラマビデオイメージの球マップ、または３６０度パノラマビデオイメージの球マップの一部である。言い換えれば、本願におけるサブ領域分割方式は、１８０度ハーフパノラマビデオイメージの分割にも適用可能であってよく、これにより、１８０度ハーフパノラマビデオイメージの送信中の帯域幅を低減し、エンコーディングおよび送信効率を向上させる。
【００２１】
第２の態様によると、端末に適用されるイメージ処理方法であって、パノラマイメージの各サブ領域の位置情報を決定する段階と、各サブ領域の決定された位置情報に基づき、パノラマイメージ内の現在の視角によってカバーされるサブ領域の位置情報を決定する段階と、サブ領域の第１のサンプリング間隔を決定する段階と、現在の視角によってカバーされるサブ領域の決定された位置情報に基づき、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する段階と、ビットストリームをデコーディングして、現在の視角によってカバーされるサブ領域のイメージを取得する段階と、現在の視角によってカバーされるサブ領域の決定された位置情報および第１のサンプリング間隔に基づき、デコーディングされたイメージを再サンプリングし、再サンプリングされたイメージを再生する段階と、を備える、方法が提供される。従って、サンプリング間隔は、サブ領域の位置と共に変わってよく、均等な分割な分割を通してサブ領域が取得される従来技術におけるものと同様ではない。デコーディング中、イメージは指定されたサンプリング間隔に基づき、デコーディングおよび表示される。本願において、端末は、表示のために異なるサンプリング間隔に基づき、イメージを再サンプリングしてよく、これにより、デコーディング側のイメージの表示速度を向上させる。
【００２２】
可能な設計において、パノラマイメージの各サブ領域の位置情報を決定する段階は、サーバによって送信された第１の情報を受信する段階であって、第１の情報は、パノラマイメージの各サブ領域のトラックおよび各サブ領域のビットストリームを含み、トラックは、パノラマイメージのすべてのサブ領域の位置情報を含む、段階と、トラックに基づき、パノラマイメージ内の各サブ領域の位置情報を取得する段階と、を含む。
【００２３】
可能な設計において、パノラマイメージの各サブ領域の位置情報を決定する段階は、サーバによって送信されたメディアプレゼンテーションディスクリプション（ＭＰＤ）を受信する段階であって、ＭＰＤは各サブ領域の位置情報を含み、または、ＭＰＤはプライベートファイルのアドレスを含み、且つプライベートファイルは各サブ領域の位置情報を含む、段階と、ＭＰＤを解析して、各サブ領域の位置情報を取得する段階と、を含む。
【００２４】
可能な設計において、サブ領域の位置情報は、サブ領域に対応するビットストリームの補足拡張情報（ＳＥＩ）内に存在する。
【００２５】
可能な設計において、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する段階は、端末のメモリから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する段階、またはサーバから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得することを要求する段階を含む。
【００２６】
可能な設計において、サーバから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得することを要求する段階は、現在の視角を示す情報をサーバに送信し、現在の視角によってカバーされるサブ領域に対応し、且つサーバによって送信されるビットストリームを受信する段階、または端末およびサーバによって予め設定されたプロトコルに従い、サーバから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する段階であって、プロトコルは、視角と、視角によってカバーされるサブ領域との間の対応関係を含む、段階を含み、その結果、端末によってサーバから、サブ領域に対応するビットストリームを取得する速度が、対応関係に基づき、向上されてよい。
【００２７】
可能な設計において、サブ領域の第１のサンプリング間隔を決定する段階は、予め設定されたサンプリング間隔を、第１のサンプリング間隔として決定する段階、またはサーバから、第１のサンプリング間隔を受信する段階、またはサーバから受信された各サブ領域の位置情報に基づき、第１のサンプリング間隔を取得する段階、を含む。言い換えれば、各サブ領域の位置情報が互いに異なる場合、対応する第１のサンプリング間隔も互いに異なる。
【００２８】
第３の態様によると、サーバに適用されるイメージ処理方法であって、パノラマイメージの経度‐緯度マップまたは球マップのサブ領域のイメージに対応するビットストリームを格納する段階であって、サブ領域は、パノラマイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行することで取得され、水平分割の分割位置は予め設定された緯度であり、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、前記垂直分割の隣接する分割位置間の距離である、段階と、サブ領域のイメージに対応し、且つ端末によって要求される格納されたビットストリームの中で、現在の視角によってカバーされるサブ領域のビットストリームを端末に送信する段階と、を備える、方法が提供される。このように、本願では、各サブ領域のイメージに対応し、且つサーバによって格納されるビットストリームが端末に送信される場合、従来技術における均等な細分割の特性は、異なる緯度における少なくとも２つの垂直分割間隔に基づき垂直分割を実行する方式で回避可能であるので、本願では、垂直分割は、複数の垂直分割間隔で実行されてよく、その結果、複数のサイズのサブ領域イメージが存在する。より大きな分割間隔は、より大きなサブ領域を示す。エンコーディング時のエンコーディング効率が向上され、エンコーディング後のサーバがビットストリームを端末に送信するときの占有帯域幅が低減される。
【００２９】
可能な設計において、エンコーディングされる前に、サブ領域に対応し、且つサーバに格納されるイメージがエンコーディングされる前に、イメージは、水平方向において第１のサンプリング間隔でサンプリングされ、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示し、または、イメージは、垂直方向において第２のサンプリング間隔でサンプリングされる。 
【００３０】
第４の態様によると、処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行して、経度‐緯度マップまたは球マップのサブ領域を取得するよう構成された分割ユニットであって、水平分割の分割位置は予め設定された緯度であり、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である、分割ユニットと、取得されたサブ領域のイメージをエンコーディングするよう構成されたエンコーディングユニットと、を備える、サーバが提供される。
【００３１】
可能な設計において、垂直分割の分割位置は緯度によって決定されることは、垂直分割の分割位置のより高い緯度が、より大きな垂直分割間隔を示すことを含む。
【００３２】
可能な設計において、サーバは、さらに、サンプリングユニットを備え、サンプリングユニットは、サブ領域のイメージを、水平方向において第１のサンプリング間隔でサンプリングするよう構成されており、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示し、エンコーディングユニットは、サンプリングされたサブ領域のイメージをエンコーディングするよう構成されている。
【００３３】
可能な設計において、サンプリングユニットは、さらに、サブ領域のイメージを、垂直方向において第２のサンプリング間隔でサンプリングするよう構成されている。
【００３４】
可能な設計において、サンプリングユニットは、さらに、サブ領域のイメージを、予め設定されたサイズに基づき、二次元平面イメージにマッピングする、およびサブ領域のイメージがマッピングされた二次元平面イメージを、水平方向において第１のサンプリング間隔でサンプリングする、よう構成されている。
【００３５】
可能な設計において、サーバは、さらに、スプライシングユニットを備え、スプライシングユニットは、サンプリングされたサブ領域の位置を調整して、調整されたサブ領域のイメージによってスプライシングされるイメージの水平エッジおよび垂直エッジがそれぞれ揃うようにするよう構成されている。
【００３６】
可能な設計において、エンコーディングユニットは、スプライシングされたイメージのタイル（ｔｉｌｅ）をエンコーディングするよう構成されている。
【００３７】
可能な設計において、さらに、カプセル化ユニットが含まれ、カプセル化ユニットは、サブ領域のエンコーディングされたイメージに対応するビットストリームを個々にカプセル化し、且つサブ領域の位置情報をエンコーディングするよう構成されており、すべてのサブ領域のエンコーディングされた位置情報およびすべてのサブ領域のビットストリームが同一のトラックに存在する、または、各サブ領域のエンコーディングされた位置情報およびビットストリームが、位置情報のトラックおよびビットストリームのトラックにそれぞれ存在する、または、すべてのサブ領域のエンコーディングされた位置情報がメディアプレゼンテーションディスクリプション（ＭＰＤ）内に存在する、または、すべてのサブ領域のエンコーディングされた位置情報がプライベートファイル内に存在し、且つプライベートファイルのアドレスはＭＰＤ内に存在する、または、各サブ領域のエンコーディングされた位置情報が各サブ領域のビットストリームの補足拡張情報（ＳＥＩ）内に存在する。
【００３８】
可能な設計において、サブ領域が、処理されるべきイメージの経度‐緯度マップに水平分割および垂直分割を実行することで取得される場合、サンプリングされたサブ領域は、サンプリングされた経度‐緯度マップを形成し、位置情報は、経度‐緯度マップ内のサブ領域の位置およびサイズ並びにサンプリングされた経度‐緯度マップ内のサブ領域の位置およびサイズを含み、または、位置情報は、経度‐緯度マップ内のサブ領域の位置およびサイズ並びにスプライシングされたイメージのサブ領域の位置およびサイズを含む、または、サブ領域が、処理されるべきイメージの球マップに水平分割および垂直分割を実行することで取得される場合、サンプリングされたサブ領域は、サンプリングされた球マップを形成し、位置情報は、球マップのイメージ内のサブ領域の位置および緯度‐経度範囲並びにサンプリングされた球マップのイメージ内のサブ領域の位置およびサイズを含み、または、位置情報は、球マップのイメージ内のサブ領域の位置および緯度‐経度範囲並びにスプライシングされたイメージ内のサブ領域の位置およびサイズを含む。
【００３９】
可能な設計において、プライベートファイルは、さらに、ユーザの視点と、ユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係を表わすために用いられる情報を含んでよい。
【００４０】
可能な設計において、プライベートファイルは、さらに、ユーザの視角によってカバーされるサブ領域において表示される必要があることが好ましいサブ領域の個数を表わすために用いられる情報、表示される必要があることが好ましいサブ領域の番号に関する情報、二次的に表示されるサブ領域の番号に関する情報、および表示されないサブ領域の番号に関する情報を含む。
【００４１】
可能な設計において、経度‐緯度マップは、左目に対応する経度‐緯度マップおよび右目に対応する経度‐緯度マップを含み、分割ユニットは、左目に対応する経度‐緯度マップを、右目に対応する経度‐緯度マップから分離する、よう構成されている、および分割ユニットは、左目に対応する経度‐緯度マップに水平分割および垂直分割を実行し、且つ右目に対応する経度‐緯度マップに水平分割および垂直分割を実行する、よう構成されている。
【００４２】
可能な設計において、サーバは、さらに、送信ユニットを備え、送信ユニットは、端末に、サブ領域のエンコーディングされたイメージに対応するビットストリームを送信する、または端末によって送信された視角情報を受信し、視角情報に基づき、視角情報に対応するサブ領域を取得し、端末に、視角情報に対応するサブ領域のビットストリームを送信する、または端末によって送信されたサブ領域の番号を受信し、サブ領域の番号に対応するビットストリームを端末に送信する、よう構成されている。
【００４３】
可能な設計において、経度‐緯度マップは、３６０度パノラマビデオイメージの経度‐緯度マップ、または３６０度パノラマビデオイメージの経度‐緯度マップの一部である、または球マップは、３６０度パノラマビデオイメージの球マップ、または３６０度パノラマビデオイメージの球マップの一部である。
【００４４】
第５の態様によると、パノラマイメージの各サブ領域の位置情報を決定するよう構成された取得ユニットであって、取得ユニットは、さらに、各サブ領域の決定された位置情報に基づき、パノラマイメージ内の現在の視角によってカバーされるサブ領域の位置情報を決定し、サブ領域の第１のサンプリング間隔を決定する、よう構成されており、取得ユニットは、さらに、現在の視角によってカバーされるサブ領域の決定された位置情報に基づき、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する、よう構成されている、取得ユニットと、ビットストリームをデコーディングして、現在の視角によってカバーされるサブ領域のイメージを取得するよう構成されたデコーディングユニットと、現在の視角によってカバーされるサブ領域の決定された位置情報および第１のサンプリング間隔に基づき、デコーディングされたイメージを再サンプリングするよう構成された再サンプリングユニットと、再サンプリングされたイメージを再生するよう構成された再生ユニットと、を備える、端末が提供される。
【００４５】
可能な設計において、取得ユニットは、サーバによって送信された第１の情報を受信するよう構成されており、第１の情報は、パノラマイメージの各サブ領域のトラックおよび各サブ領域のビットストリームを含み、トラックは、パノラマイメージのすべてのサブ領域の位置情報を含む、および、取得ユニットは、さらに、トラックに基づき、パノラマイメージ内の各サブ領域の位置情報を取得する、よう構成されている。
【００４６】
可能な設計において、取得ユニットは、パノラマサーバによって送信されたメディアプレゼンテーションディスクリプション（ＭＰＤ）を受信するよう構成されており、ＭＰＤは各サブ領域の位置情報を含み、または、ＭＰＤはプライベートファイルのアドレスを含み、且つプライベートファイルは各サブ領域の位置情報を含む、および、ＭＰＤを解析して、各サブ領域の位置情報を取得するよう構成されている。
【００４７】
可能な設計において、サブ領域の位置情報は、サブ領域に対応するビットストリームの補足拡張情報（ＳＥＩ）内に存在する。
【００４８】
可能な設計において、取得ユニットは、端末のメモリから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する、またはサーバから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得することを要求する、よう構成されている。
【００４９】
可能な設計において、取得ユニットは、現在の視角を示す情報をサーバに送信し、現在の視角によってカバーされるサブ領域に対応し、且つサーバによって送信されるビットストリームを受信するよう構成されている、または端末およびサーバによって予め設定されたプロトコルに従い、サーバから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得するよう構成されており、プロトコルは、視角と、視角によってカバーされるサブ領域との間の対応関係を含む。
【００５０】
可能な設計において、取得ユニットは、予め設定されたサンプリング間隔を第１のサンプリング間隔として決定する、または、第１のサンプリング間隔をサーバから受信する、よう構成生されている。
【００５１】
第６の態様によると、パノラマイメージの経度‐緯度マップまたは球マップのサブ領域のイメージに対応するビットストリームを格納するよう構成された格納ユニットであって、サブ領域は、パノラマイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行することで取得され、水平分割の分割位置は予め設定された緯度であり、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である、格納ユニットと、サブ領域のイメージに対応し、且つ端末によって要求される格納されたビットストリームの中で、現在の視角によってカバーされるサブ領域のビットストリームを端末に送信するよう構成された送信ユニットと、を備える、サーバが提供される。
【００５２】
可能な設計において、サブ領域に対応し、且つサーバに格納されるイメージがエンコーディングされる前に、イメージは、水平方向において第１のサンプリング間隔でサンプリングされ、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示し、または、イメージは、垂直方向において第２のサンプリング間隔でサンプリングされる。言い換えれば、ダウンサンプリングが高緯度のサブ領域に水平方向に実行される、すなわち、圧縮サンプリングが実行される。その結果、エンコーディング前に、高緯度のサブ領域において送信されるイメージのピクセル冗長性は低減可能で、これにより帯域幅を低減する。また、ダウンサンプリングが、エンコーディングおよび送信される必要のあるピクセル値を低減し、その結果、デコーディング側のデコーディング能力に対する要件が低減される。デコーディング複雑性が低減され、これにより、デコーディング速度が向上される。
【００５３】
別の態様において、本願の一実施形態は、上述のサーバによって用いられるコンピュータソフトウェア命令を格納するよう構成されたコンピュータ記憶媒体を提供する。コンピュータ記憶媒体は、上述の態様を実行するために設計されたプログラムを含む。
【００５４】
別の態様において、本願の一実施形態は、上述の端末によって用いられるコンピュータソフトウェア命令を格納するよう構成されたコンピュータ記憶媒体を提供する。コンピュータ記憶媒体は、上述の態様を実行するために設計されたプログラムを含む。
【００５５】
さらなる別の態様によると、本願の一実施形態は、命令を含むコンピュータプログラムプロダクトを提供する。命令がコンピュータ上で実行される場合、コンピュータは、上述の態様の方法を実行する。
【００５６】
本願の実施形態は、端末およびサーバに適用されるイメージ処理方法であって、処理されるべきイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行して、経度‐緯度マップまたは球マップのサブ領域を取得する段階であって、水平分割の分割位置は予め設定された緯度であり、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である、段階と、取得されたサブ領域のイメージをエンコーディングする段階と、を備える、方法が提供される。このように、従来技術と比較した場合、従来技術では、経度‐緯度マップが同一の分割間隔で均等に分割され、均等分割時の細分割の特性によってエンコーディングの低効率が生じ、エンコーディングされた後に送信中に大きな帯域幅を占有するという問題が生じる。本願においては、異なる緯度における少なくとも２つの垂直分割間隔に基づく、垂直分割を実行することにより、従来技術における均等および細分割の特性が回避される。本願において、垂直分割は、複数の垂直分割間隔で実行されてよく、その結果、複数のサイズのイメージのサブ領域が存在する。より大きな分割間隔は、より大きなサブ領域を示す。エンコーディング時のエンコーディング効率が向上され、エンコーディング後のサーバがビットストリームを端末に送信するときの占有帯域幅が低減される。
【図面の簡単な説明】
【００５７】
【図１】本願の一実施形態による３６０度パノラマイメージ信号の概略図である。
【００５８】
【図２】本願の一実施形態による、３６０度パノラマイメージ信号を経度‐緯度マップに変換する概略図である。
【００５９】
【図３】本願の一実施形態による、ネットワークアーキテクチャの概略図である。
【００６０】
【図４】本願の一実施形態による、イメージ処理方法の概略フローチャートである。
【００６１】
【図５】本願の一実施形態による、経度‐緯度マップを４２個のサブ領域に分割する概略図である。
【００６２】
【図６】本願の一実施形態による、経度‐緯度マップを、５０個のサブ領域に分割する概略図である。
【００６３】
【図７】本願の一実施形態による、イメージ処理方法の概略フローチャートである。
【００６４】
【図８】本願の一実施形態による、経度‐緯度マップの視点領域の概略図である。
【００６５】
【図９】本願の一実施形態による、視角によってカバーされるサブ領域の概略図である。
【００６６】
【図１０】本願の一実施形態による、イメージ処理方法の概略フローチャートである。
【００６７】
【図１１】本願の一実施形態による、端末のデコーディング表示プロセスの概略図である。
【００６８】
【図１２】本願の一実施形態による、３Ｄ経度‐緯度マップのサブ領域分割の概略図である。
【００６９】
【図１３】本願の一実施形態による、１８０°ハーフパノラマビデオ経度‐緯度マップの水平分割方式の概略図である。
【００７０】
【図１４】本願の一実施形態による、３Ｄ  １８０°ハーフパノラマビデオ経度‐緯度マップのサブ領域分割方式の概略図である。
【００７１】
【図１５】本願の一実施形態による、イメージ処理方法の概略フローチャートである。
【００７２】
【図１６】本願の一実施形態による、イメージサブ領域を取得するために、球パノラマ信号を分割する方法の概略図である。
【００７３】
【図１７Ａ】本願の一実施形態による、イメージ処理方法の概略フローチャートである。
【００７４】
【図１７】本願の一実施形態による、サーバの概略構造図である。
【００７５】
【図１８】本願の一実施形態による、サーバの概略構造図である。
【００７６】
【図１９】本願の一実施形態による、サーバの概略構造図である。
【００７７】
【図２０】本願の一実施形態による、端末の概略構造図である。
【００７８】
【図２１】本願の一実施形態による、端末の概略構造図である。
【００７９】
【図２２】本願の一実施形態による、端末の概略構造図である。
【００８０】
【図２３】本願の一実施形態による、サーバの概略構造図である。
【００８１】
【図２４】本願の一実施形態による、サーバの概略構造図である。
【００８２】
【図２５】本願の一実施形態による、サーバの概略構造図である。
【発明を実施するための形態】
【００８３】
理解しやすいように、以下に示されるような、本願に関するいくつかの概念の例示的な説明を参考のために示す。
【００８４】
パノラマビデオ：３６０度パノラマビデオまたは３６０ビデオとも称されるＶＲパノラマビデオとは、３６０度全方位方式で、複数のカメラを用いて撮影されたビデオである。ユーザがビデオを見るとき、ユーザは積極的にビデオの方向を調整し得る。
【００８５】
３Ｄパノラマビデオ：３ＤフォーマットのＶＲパノラマビデオである。当該ビデオは、２つの３６０度パノラマビデオを含む。一方は左目に用いられ、他方は右目に用いられる。２つのビデオは、同一フレーム内で、左目および右目に対し表示されるコンテンツにいくつかの差異を有し、その結果、ユーザは視認中に３Ｄ効果が得られる。
【００８６】
経度‐緯度マップ：正距円筒図法（Ｅｑｕｉｒｅｃｔａｎｇｕｌａｒ  Ｐｒｏｊｅｃｔｉｏｎ，ＥＲＰ）、パノラマイメージフォーマット、球信号を同一の経度間隔および同一の緯度間隔で均等にサンプリングおよびマッピングすることで取得され、且つ格納および送信のために用いられ得る二次元パノラマイメージ。緯度および経度を用いて、イメージの水平座標および垂直座標がそれぞれ表されてよい。幅方向は、３６０°のスパンを持つ経度で表されてよく、高さ方向は１８０°のスパンを持つ緯度で表わされてよい。
【００８７】
ビデオデコーディング（ｖｉｄｅｏ  ｄｅｃｏｄｉｎｇ）：ビデオビットストリームを、特定の構文ルールおよび処理方法に従い、再構築イメージに復元する処理プロセスである。
【００８８】
ビデオエンコーディング（ｖｉｄｅｏ  ｅｎｃｏｄｉｎｇ）：イメージシーケンスをビットストリームに圧縮する処理プロセスである。
【００８９】
ビデオコーディング（ｖｉｄｅｏ  ｃｏｄｉｎｇ）：ビデオエンコーディングおよびビデオデコーディングの総称である。ビデオコーディングの中国語に翻訳された用語は、ビデオエンコーディングの用語と同一である。
【００９０】
タイル：ビデオエンコーディング標準、すなわち、エンコーディングされるべきイメージを、高効率ビデオコーディング（Ｈｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ，ＨＥＶＣ）で分割して取得されたブロックエンコーディング領域である。イメージの１フレームが、複数のタイルに分割されてよく、複数のタイルがイメージのフレームを形成する。各タイルは、個々にエンコーディングされてよい。本願におけるタイルは、動き拘束タイルセット（ｍｏｔｉｏｎ−ｃｏｎｓｔｒａｉｎｅｄ  ｔｉｌｅ  ｓｅｔ，ＭＣＴＳ）技術を用いるタイルであってよい。
【００９１】
ＭＣＴＳは、動き制限タイルセットであり、タイルのためのエンコーディング技術である。当該技術は、エンコーディング中に、タイル内の動きベクトルを制限し、その結果、イメージシーケンス内の同一の位置におけるタイルは、時間領域において、タイルの領域位置外のイメージピクセルを参照せず、従って、時間領域において各タイルは、個々デコーディングされてよい。
【００９２】
サブピクチャ（ｓｕｂ−ｐｉｃｔｕｒｅ）は、イメージ全体を分割して取得されたオリジナルイメージの一部である。本願において、サブピクチャは、形状が正方形のサブピクチャであってよい。
【００９３】
イメージサブ領域：本願のイメージサブ領域は、タイルまたはサブピクチャの総称として用いられてよく、省略して、サブ領域と称されてよい。
【００９４】
ＶＤＣは、視角ベースのビデオエンコーディングであり、パノラマビデオエンコーディングのためのエンコーディングおよび送信技術、すなわち、端末上でユーザの視角に基づき、エンコーディングおよび送信する方法である。
【００９５】
タイル単位エンコーディングは、ビデオエンコーディング方式であり、イメージシーケンスが複数のイメージサブ領域に分割され、すべてのサブ領域が別個にエンコーディングされて、１または複数のビットストリームを生成する処理である。本願においてタイル単位エンコーディングとは、ＶＤＣにおけるタイル単位エンコーディングであってよい。
【００９６】
トラックは、時間属性を有し、且つ国際標準化機構（Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｓｔａｎｄａｒｄｓ  Ｏｒｇａｎｉｚａｔｉｏｎ，ＩＳＯ）ベースメディアファイルフォーマット（ＩＳＯ  ｂａｓｅ  ｍｅｄｉａ  ｆｉｌｅ  ｆｏｒｍａｔ，ＩＳＯＢＭＦＦ）に基づくカプセル化方式である、一連のサンプルである。例えば、ビデオトラック、すなわち、ビデオサンプルは、各フレームがビデオエンコーダによってエンコーディングされた後、生成されたビットストリームであり、ＩＳＯＢＭＦＦの仕様に従い、すべてのビデオサンプルはカプセル化されて、サンプルを生成する。
【００９７】
ボックスは、「ボックス」として翻訳されてよく、当該標準におけるオブジェクト指向の構築ブロックであり、一意のタイプの識別子および長さで定義される。ボックスは、いくつかの仕様では、「原子」と称され得、ＭＰ４の第１の定義を含む。ボックスは、ＩＳＯＢＭＦＦファイルの基本単位であり、ボックスは他のボックスを含み得る。
【００９８】
補足拡張情報（ｓｕｐｐｌｅｍｅｎｔａｌ  ｅｎｈａｎｃｅｍｅｎｔ  ｉｎｆｏｒｍａｔｉｏｎ，ＳＥＩ）は、ビデオエンコーディングおよびデコーディング標準（ｈ．２６４，ｈ．２６５）で定義されたネットワークアクセスユニット（Ｎｅｔｗｏｒｋ  Ａｃｃｅｓｓ  Ｌａｙｅｒ  Ｕｎｉｔ，ＮＡＬＵ）のタイプである。
【００９９】
ＭＰＤは、ＩＳＯ／ＩＥＣ  ２３００９−１標準で規定された文書であり、当該文書は、クライアントによって構築されたハイパーテキスト転送プロトコル（ＨｙｐｅｒＴｅｘｔ  Ｔｒａｎｓｆｅｒ  Ｐｒｏｔｏｃｏｌ，ＨＴＴＰ）‐ユニフォームリソースロケータ（Ｕｎｉｆｏｒｍ  Ｒｅｓｏｕｒｃｅ  Ｌｏｃａｔｏｒ，ＵＲＬ）のメタデータを含む。ＭＰＤは、１または複数の期間（ｐｅｒｉｏｄ）要素を含む。各期間要素は、１または複数の適応セット（ａｄａｐｔａｔｉｏｎｓｅｔ）を含む。各適応セットは、１または複数の表現（ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）を含み、各表現は、１または複数のセグメントを含む。クライアントは、ＭＰＤ内の情報に基づき、表現を選択し、セグメントのＨＴＴＰ‐ＵＲＬを構築する。
【０１００】
ＩＳＯ基本メディアファイルフォーマットは、一連のボックスを含む。他のボックスが、ボックス内に含まれてよい。これらのボックスは、メタデータボックスおよびメディアデータボックスを含み、メタデータボックス（ｍｏｏｖ  ｂｏｘ）はメタデータを含み、メディアデータボックス（ｍｄａｔ  ｂｏｘ）は、メディアデータを含む。メタデータボックスおよびメディアデータボックスは、同一ファイル内にあってよく、または、異なるファイル内にあってもよい。
【０１０１】
本願の実施形態は、パノラマビデオまたはパノラマビデオの一部のエンコーディング前の処理、およびエンコーディングされたビットストリームがカプセル化されるプロセスに適用可能であってよく、サーバおよび端末の両方における対応する動作および処理を含む。
【０１０２】
図３に示される通り、本願のネットワークアーキテクチャは、サーバ３１および端末３２を含んでよい。また、撮影デバイス３３がサーバ３１と通信してよく、撮影デバイスは３６０度パノラマビデオを撮影し、ビデオをサーバ３１に送信するよう構成されてよい。サーバは、パノラマビデオにプレエンコーディング処理を実行した後、エンコーディングまたは送信操作を実行し、その後、エンコーディングされたビットストリームを転送可能なファイルにカプセル化して、当該ファイルを端末またはコンテンツ配信ネットワークへ送信してよい。サーバは、さらに、端末によってフィードバックされた情報（例えば、ユーザの視角）に基づき、信号送信のために送信される必要のあるコンテンツを選択してよい。端末３２は、ＶＲグラス、モバイルフォン、タブレットコンピュータ、テレビまたはコンピュータ等の、ネットワークに接続されてよい電子デバイスであってよい。端末３２は、サーバ３１によって送信されたデータを受信し、デコーディング後に、ビットストリームカプセル解除および表示等を実行してよい。
【０１０３】
本願は、経度‐緯度マップに基づき、イメージが均等に分割される場合に生じる、エンコーディングおよび送信の帯域幅が無駄になること、デコーディング能力およびデコーディング側の速度が制限されるという問題を解決するための、イメージ処理方法を提供する。方法は、イメージの複数のサブ領域、並びに対応するエンコーディング、送信およびデコーディング表示モードに基づく、経度‐緯度マップのタイル単位分割および処理方法であってよい。本願のこの実施形態においては、経度‐緯度マップの水平経度範囲は、０〜３６０°として決定され、垂直緯度範囲は、−９０°から９０°である。負の数は南緯を表わし、正の数は北緯を表わす。図４に示される通り、方法は、以下の段階を含んでよい。
【０１０４】
エンコーディング前の処理
【０１０５】
４０１．サーバが、処理されるべきイメージの経度‐緯度マップに水平分割を実行し、水平分割の分割位置は予め設定された緯度である。
【０１０６】
イメージは、ビデオの複数のシーケンスイメージであってよい。
【０１０７】
例えば、撮影デバイスによって収集されたビデオに基づき、サーバは、ビデオの経度‐緯度マップを取得する。図５の（ａ）に示される通り、サーバは、経度‐緯度マップの垂直方向において、緯度−６０°、緯度−３０°、緯度０°、緯度３０°および緯度６０°に緯線を別個に描画し、経度‐緯度マップを水平方向に分割する。図５の（ａ）において、Ｘが緯度の値を表わすために用いられ、経度‐緯度マップの赤道では、緯度の値は０°である。経度‐緯度マップは、北緯９０°および南緯９０°の間で、水平分割間隔３０°で、北緯３０°および北緯６０°で水平方向に分割され、南緯−６０°および南緯−３０°で水平方向に分割される。また、分割間隔は、分割のステップ（距離）として理解されてもよい。
【０１０８】
４０２．サーバは、経度‐緯度マップの各サブ領域を取得すべく、処理されるべきイメージの経度‐緯度マップに垂直分割を実行し、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である。
【０１０９】
可能な実装において、垂直分割が実行される場合、異なる緯度間の垂直分割間隔は、経度‐緯度マップの南緯において異なってよく、ある南緯と対応する北緯との間の垂直分割間隔は同一であってよい。垂直分割の分割位置より高い緯度は、より大きな垂直分割間隔を示し、または、垂直分割間隔は、異なる緯度間で同一である。
【０１１０】
例えば、水平分割の分割位置に関し、南緯−９０°から−６０°の緯度範囲および北緯６０°から９０°の緯度範囲のサブピクチャに対し、経度１２０°がサブピクチャを垂直方向に分割するための垂直分割間隔として用いられて、３個のサブ領域を取得してよい。−６０°から−３０°の緯度範囲および３０°から６０°の緯度範囲のサブピクチャに対し、経度６０°がサブピクチャを垂直方向に分割するための垂直分割間隔として用いられて、６個のサブ領域を取得する。−３０°から０°の緯度範囲および０°から３０°の緯度範囲のサブピクチャに対し、経度３０°がサブピクチャを垂直方向に分割するための垂直分割間隔として用いられて、１２個のサブ領域を取得する。このように、図５の（ａ）に示される通り、経度‐緯度マップ全体のサブ領域分割が完了した後、合計４２個のサブ領域が取得される。垂直分割間隔は、１２０°の経度、６０°の経度および３０°の経度を含む。
【０１１１】
サブピクチャが分割される上述の方式とは異なる別の可能な実装においては、経度‐緯度マップは、５０個のサブ領域に分割されてよい。例えば、−９０°から−６０°および６０°から９０°の緯度範囲のサブピクチャに対し、垂直分割は実行されず、単一のサブ領域が保持され、−６０°から−３０°および３０°から６０°の緯度範囲のサブピクチャに対し、３０°の経度がサブピクチャを垂直方向に分割するための垂直分割間隔として用いられて、１２個のサブ領域を取得する。−３０°から０°および０°から３０°の緯度範囲のサブピクチャに対し、経度３０°がサブピクチャを垂直方向に分割するための垂直分割間隔として用いられて、１２個のサブ領域を取得する。このように、図６の（ａ）に示される通り、経度‐緯度マップ全体が分割された後、合計５０個のサブ領域が取得される。分割のステップは、３０°の経度および０°の経度を含む。分割のステップが０°である場合、サブピクチャに対し、垂直分割が実行されないことを示す。
【０１１２】
４０３．サーバは、取得されたサブ領域のイメージをエンコーディングする。
【０１１３】
従って、エンコーディングの低効率を生じさせる均等な細分割の特性、およびエンコーディング後に送信する際、大きな帯域幅を占める問題は、本願における、異なる緯度間における少なくとも２つのタイプの垂直分割間隔に基づき、垂直分割を実行することで回避できる。経度‐緯度マップは、複数の垂直分割間隔に基づき分割されてよく、その結果、複数のサイズのサブ領域が存在し、より大きな垂直分割間隔はより大きなサブ領域を示す。例えば、垂直分割の分割位置より高い緯度は、より大きな垂直分割間隔およびより大きなサブ領域を示す。エンコーディング中のエンコーディング効率が向上され、エンコーディング後に、端末にビットストリームを送信するためにサーバが占有する帯域幅は低減される。
【０１１４】
さらに、デコーディング側、すなわち、端末にとっては、経度‐緯度マップを均等に分割する既存の方式では、端末によって取得される冗長ピクセルの数が比較的大きく、端末の最大デコーディング能力の要件も高まり、デコーディング速度にとって大きな課題が存在する。本願においてはこの問題について、不均等な分割が実行された後に取得されたサブ領域内のピクセルに対し、冗長性解除、すなわちダウンサンプリングが実行されてよい。この場合、エンコーディングおよび送信される必要のあるピクセルが低減され、デコーディング側に要求される最大デコーディング能力が低減され、デコーディング複雑性が低減し、デコーダのデコーディング速度が向上する。従って、図７に示される通り、段階４０３の前に、本願の実装方法は、さらに、以下の段階を含んでよい。
【０１１５】
４０４．サーバが、垂直方向において、サブ領域のイメージにオリジナルサンプリングを実行する、または、垂直方向において、第２のサンプリング間隔でサブ領域のイメージをサンプリングする。
【０１１６】
例えば、図５の（ａ）または図６の（ａ）に示される経度‐緯度マップを分割して取得される各サブ領域について、オリジナルサンプリングは、各サブ領域のイメージを垂直方向において変化しないよう維持するもの、スケーリング処理を実行しないもの、または処理を実行しないものとして理解されてよい。サンプリングは、第２のサンプリング間隔で実行される。例えば、ダウンサンプリングは、垂直方向において、各サブ領域全体に実行される。これはまた、サブ領域の特定の高さに基づき、垂直方向においてサンプリングが実行されるものとして理解されてもよい。
【０１１７】
４０５．サーバが、水平方向において、第１のサンプリング間隔でサブ領域のイメージをサンプリングし、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す。
【０１１８】
第１のサンプリング間隔および第２のサンプリング間隔は、サーバ側で予め設定されてよく、第１のサンプリング間隔および第２のサンプリング間隔は同一または異なってよい。第１のサンプリング間隔は、スケーリング係数の逆数として理解されてよく、すなわち、スケーリングされたイメージを取得すべく、１ピクセルが複数のピクセルからサンプリングされる。
【０１１９】
例えば、図５の（ａ）に示される経度‐緯度マップでは、サブピクチャの−９０°から−６０°の緯度範囲および６０°から９０°の緯度範囲に水平方向にダウンサンプリングが実行され、第１のサンプリング間隔は４個であり、すなわち、１ピクセルがすべての４ピクセルからサンプリングされ、スケーリング係数は１／４である。サブピクチャの−６０°から−３０°の緯度範囲および３０°から６０°の緯度範囲に水平方向にもダウンサンプリングが実行され、スケーリング係数は１／２である。サブピクチャの−３０°から０°の緯度範囲および０°から３０°の緯度範囲には、水平方向のスケーリングは実行されない。最終的に取得されるサンプリングされたイメージが、図５の（ｂ）に示されている。図５の（ｂ）は、図５の（ａ）に、ダウンサンプリングが垂直方向ではなく、水平方向のみに実行された後に取得されたイメージであることに留意されたい。この例では、水平サンプリング中に、第１のサンプリング間隔は、緯度に比例する。言い換えれば、北緯イメージのサブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示す。同様に、南緯イメージのより高い緯度は、より大きな第１のサンプリング間隔を示す。南緯イメージおよび北緯イメージについて、同一の緯度に対応するサンプリング間隔は同一である。
【０１２０】
別の例では、図６の（ａ）に示される経度‐緯度マップについては、ダウンサンプリングが垂直方向に実行される図５の（ｂ）の概略図と比較して、経度‐緯度マップに分割およびスケーリングが実行された後に取得されるサブ領域のサイズは、異なる緯度間で不均等であってよい。このように、図５の（ｂ）のスケーリングされたサブ領域のサイズが同一であるという制約が壊されてよく、従って、エンコーディングおよび送信時のサーバのエンコーディングおよび送信効率が向上される。具体的には、図６の（ａ）に示される経度‐緯度マップについては、−９０°から−６０°の緯度範囲および６０°から９０°の緯度範囲のサブピクチャは垂直方向において変更されず、そこに対し、ダウンサンプリングが、水平方向において、あるサンプリング間隔で実行され、スケーリング係数は１／４である。−６０°から−３０°の緯度範囲および３０°から６０°の緯度範囲のサブピクチャは垂直方向において変更されず、そこに対し、ダウンサンプリングが、水平方向において実行され、スケーリング係数は７／１２である。−３０°から０°の緯度範囲および０°から３０°の緯度範囲のサブピクチャには、スケーリングが実行されず、すなわち、スケーリングは、垂直方向にも水平方向にも実行されない。最終的に取得されるスケーリングされたイメージは、図６の（ｂ）に示される。
【０１２１】
随意で、スケーリングされた経度‐緯度マップは、図５の（ｂ）および図６の（ｂ）に示される通り不規則である。従って、本願では、スケーリングされたサブ領域は再配置および結合されて、予め設定されたイメージを形成してよい。従って、方法は、さらに、以下の段階を含んでよい。
【０１２２】
４０６．サーバが、サンプリングされたサブ領域の位置を調整し、調整されたサブ領域のイメージによってスプライシングされたイメージの水平エッジおよび垂直エッジがそれぞれ揃うようにする。
【０１２３】
例えば、図５の（ｂ）に示される経度‐緯度マップに対し、位置調整されたイメージが、図５の（ｃ）に示されてよい。
【０１２４】
段階４０３は、次と置換されてよい。
【０１２５】
４０７．サーバが、サンプリングされたサブ領域のイメージをエンコーディングする。
【０１２６】
例えば、サブ領域に分割およびスケーリングが実行された後に取得された図５の（ｂ）中の４２個のサブ領域において、または図５の（ｃ）中の再結合された４２個のサブ領域において、各サブ領域はエンコーディングされてよい。２つのエンコーディング方式が存在してよい。（１）サブピクチャエンコーディング方式、すなわち、各サブピクチャシーケンスを別個にエンコーディングして、４２個のサブビットストリームを生成する。すなわち、各サブピクチャは１個のビットストリームに対応する。サブピクチャは、上述のサブ領域であってよく、すなわち、４２個のサブ領域を別個にエンコーディングして、各サブ領域に対応するビットストリームを取得する。（２）タイル（ｔｉｌｅ）モードエンコーディングをイメージ全体に実行する。格納用のイメージ全体の単一のビットストリームを生成すべく、エンコーディング中にＭＣＴＳ技術が用いられてよく、または、単一のビットストリームが分割されて、格納用の４２個のサブビットストリームが取得される。ここでのイメージ全体は、図５の（ｂ）に示される通り、ソース経度‐緯度マップがサンプリングおよびスケーリングされた後に取得されたイメージであってよく、または、図５の（ｃ）に示される通り、サンプリングおよびスケーリングされたイメージを再結合した後に取得された規則的イメージであってよい。
【０１２７】
イメージをエンコーディングした後、サーバは、さらに、各エンコーディングされたサブ領域のビットストリームをカプセル化する必要がある。従って、方式は、さらに、以下の段階を含んでよい。
【０１２８】
４０８．サーバが、各エンコーディングされたサブ領域のイメージに対応するビットストリームを個々にカプセル化し、各サブ領域の位置情報をエンコーディングする。
【０１２９】
サーバは、すべてのサブ領域のビットストリームを１つのトラック、すなわち、ｔｒａｃｋにカプセル化してよい。例えば、ビットストリームは、タイルトラックにカプセル化され、または、ビットストリームに対応するトラックにそれぞれカプセル化されてよい。サブ領域の位置情報は、サブ領域分割方式の記述情報として理解されてよく、すべてのサブ領域のエンコーディングされた位置情報およびすべてのサブ領域のビットストリームが同一のトラックに存在してよい。または、各サブ領域のエンコーディングされた位置情報およびビットストリームが、位置情報のトラックおよびビットストリームのトラックにそれぞれ存在する。または、すべてのサブ領域のエンコーディングされた位置情報が、メディアプレゼンテーションディスクリプション（ＭＰＤ）内に存在する。または、すべてのサブ領域のエンコーディングされた位置情報がプライベートファイル内に存在してよく、プライベートファイルのアドレスはＭＰＤ内に存在する。または、各サブ領域のエンコーディングされた位置情報が各サブ領域のビットストリームの補足拡張情報（ＳＥＩ）内に存在する。本願において、サブ領域の位置情報の格納方式は、限定されるものではない。
【０１３０】
処理されるべきイメージの経度‐緯度マップに水平分割および垂直分割を実行することで、サブ領域が取得される場合、サンプリングされたサブ領域が、サンプリングされた経度‐緯度マップを形成し、位置情報は、経度‐緯度マップのサブ領域の位置およびサイズ並びにサンプリングされた経度‐緯度マップのサブ領域の位置およびサイズを含む。または、位置情報は、経度‐緯度マップのサブ領域の位置およびサイズ並びにスプライシングされたイメージのサブ領域の位置およびサイズを含む。サイズは、幅および高さを含んでよい。
【０１３１】
以下に、上述のサブ領域の位置情報の様々な格納方式について別個に説明する。
【０１３２】
方式１：すべてのサブ領域の位置情報は、１つのトラック内に格納される。すべてのサブ領域分割方式の記述情報が、スプライシングされたイメージのトラックに追加されてよい。例えば、以下の構文が、スプライシングされたイメージのトラックのｍｏｏｖボックスに追加される。
【数１】
0006984841.tif 000002
RectRegionPacking (i)は、ｉ番目のサブ領域の分割情報を記述する。
【０１３３】
proj_reg_width[i]およびproj_reg_height[i]は、ソースイメージ、すなわち、サンプリング前の経度‐緯度マップ（例えば、図５の（ａ））におけるサンプリングされたイメージ内のｉ番目のサブ領域の対応する幅および対応する高さ、例えば、図５の（ａ）における図５の（ｂ）にあるサブ領域の対応する幅および対応する高さを記述する。例えば、幅３８４０および高さ１９２０の経度‐緯度マップの場合、ソースイメージの図５の（ｂ）中の左上隅の第１のサブ領域の幅および高さは、（１２８０，３２０）である。
【０１３４】
proj_reg_top[i]およびproj_reg_left[i]は、ソースイメージにおけるサンプリングされたイメージ内のｉ番目のサブ領域の左上隅にあるピクセルの対応する位置、例えば、図５の（ａ）における図５の（ｂ）にあるサブ領域の左上ポイントの対応する位置を記述する。例えば、ソースイメージの図５の（ｂ）の左上隅にある第１のサブ領域の位置は、（０，０）である。当該位置は、ソースイメージの左上隅を座標（０，０）として用いて取得される。
【０１３５】
transform_type[i]は、サンプリングされたイメージ内のｉ番目のサブ領域が、ソースイメージ内の対応する位置から変換されたことを記述する。例えば、ｉ番目のサブ領域は、ソースイメージ内の対応する領域に、以下の操作を実行することで取得される。保持／９０度回転／１８０度回転／２７０度回転／水平ミラーリング／水平ミラーミング後の９０度回転／水平ミラーリング後の１８０度回転／水平ミラーリング後の２７０度回転。
【０１３６】
packed_reg_width[i]およびpacked_reg_height[i]は、結合された規則的イメージにおけるサンプリングされたイメージ内にあるｉ番目のサブ領域の幅および高さ、すなわち、図５の（ｃ）中のサブ領域の幅および高さを記述する。例えば、図５の（ｂ）中の左上隅にある第１のサブ領域の幅および高さは、結合された規則的イメージ内の（３２０，３２０）である。段階４０６が実行されない場合、サブ領域が結合された後に取得されるイメージは、図５の（ｂ）であり、幅および高さは、図５の（ｂ）中の幅および高さであることに留意されたい。
【０１３７】
packed_reg_top[i]およびpacked_reg_left[i]は、サブ領域が結合された後に取得される規則的イメージ内のサンプリングされたイメージのｉ番目のサブ領域の左上隅にあるピクセルの相対位置、すなわち、図５の（ｃ）中の各サブ領域の左上ポイントを記述する。段階４０６が実行されない場合、サブ領域が結合された後に取得されるイメージは、図５の（ｂ）であり、位置は、図５の（ｂ）中の位置であることに留意されたい。
【０１３８】
方式２：各サブ領域の位置情報がサブ領域に対応するトラック内に格納される場合、対応するサブ領域分割方式は、タイルトラック内に記述されてよい。具体的には、以下の構文が、タイルトラック内のｍｏｏｖボックスに追加されてよい。
【数２】
0006984841.tif 000003
【０１３９】
track_xおよびtrack_yは、サブ領域が結合された後に取得される規則的イメージ内の現在のトラックのサブ領域の左上隅にあるピクセルの位置、すなわち、図５の（ｃ）中の現在のサブ領域の左上ポイントを記述する。
【０１４０】
track_widthおよびtrack_heightは、サブ領域が結合された後に取得される規則的イメージ内の現在のトラックのサブ領域の幅および高さ、すなわち、図５の（ｃ）中の現在のサブ領域の幅および高さを記述する。
【０１４１】
composition_widthおよびcomposition_heightは、サブ領域が結合された後に取得される規則的イメージの幅および高さ、すなわち、図５の（ｃ）中のイメージの幅および高さを記述する。
【０１４２】
proj_tile_xおよびproj_tile_yは、ソースイメージ内の現在のトラックのサブ領域の左上隅にあるピクセルの位置、すなわち、図５の（ａ）中の現在のサブ領域の左上ポイントを記述する。
【０１４３】
proj_tile_widthおよびproj_tile_heightは、ソースイメージ内の現在のトラックのサブ領域の幅および高さ、すなわち、図５の（ａ）中の現在のサブ領域の幅および高さを記述する。
【０１４４】
proj_widthおよびproj_heightは、ソースイメージの幅および高さ、すなわち、図５の（ａ）中のイメージの幅および高さを記述する。
【０１４５】
方式３：すべてのサブ領域の位置情報は、ＭＰＤ内に格納される、すなわち、サブ領域分割方式が、ＭＰＤに記述される。
【０１４６】
ＭＰＤ内の構文は以下の通りであってよい。
【数３】
0006984841.tif 000004
【０１４７】
方式３の構文では、<value="0,1280,0,1280,320,3840,1920"/>の意味は以下の通りである。最初の０はソース識別子を表わし、同一のソース識別子が同一のソース、すなわち、同一のソースイメージを表わす。"1280,0"はソースイメージ内の現在の表現のサブ領域の左上位置の座標を表わす。"1280,320"は現在の表現のサブ領域の幅および高さを表わす。"3840,1920"は、ソースイメージの幅および高さを表わす。
【０１４８】
上述のＭＰＤでは、ソースビデオイメージ内のサブ領域に対応するビットストリーム内に存在するイメージの位置を記述するために、２Ｄイメージが用いられる。随意で、ソースイメージ内のサブ領域の位置は、球座標を用いて表されてよい。例えば、上述の値における情報は、球情報、例えば、値= "0,0,30,0,120,30"に変換される。具体的な意味は以下の通りである。最初の０はソース識別子を表わし、同一のソース識別子値が同一のソースを表わす。"0,30,0"は、球上のサブ領域に対応する領域の中央ポイントの座標（ヨー角、ピッチ角、および回転角）を表わす。"120,30"は、サブ領域の幅角および高さ角を表わす。
【０１４９】
方式４：すべてのサブ領域の位置情報はプライベートファイル内に格納され、プライベートファイルのアドレスは、ＭＰＤ内に格納される。言い換えれば、サブ領域分割の記述情報を格納するプライベートファイルのアドレスは、ＭＰＤ内でファイルリンクを指定することで、ＭＰＤ内に書き込まれる。
【０１５０】
構文は、以下の通りであってよい。
【数４】
0006984841.tif 000005
【０１５１】
方式４では、サブ領域の分割情報は、プライベートファイルｔｉｌｅ＿ｉｎｆｏ．ｄａｔ内に格納される。ファイル内に格納されるサブ領域分割情報のデータは、ユーザによって指定されてよく、これは本明細書で限定されるものではない。例えば、格納されたコンテンツは、以下の方式のうちの１つで格納されてよい。
【数５】
0006984841.tif 000006
【０１５２】
上述のデータは、以下の意味を示す。
【０１５３】
tile_numは、分割されたサブ領域の個数を表わす。
【０１５４】
pic_widthは、ソースイメージの幅、すなわち、図５の（ａ）中のイメージの幅を表わす。
【０１５５】
pic_heightは、ソースイメージの高さ、すなわち、図５の（ａ）中のイメージの高さを表わす。
【０１５６】
comp_widthは、サブ領域が結合された後に取得される規則的イメージの幅、すなわち、図５の（ｃ）中のイメージの幅を表わす。
【０１５７】
comp_heightは、サブ領域が結合された後に取得される規則的イメージの高さ、すなわち、図５の（ｃ）中のイメージの高さを表わす。
【０１５８】
tile_pic_width[]は、ソースイメージ中の各サブ領域の幅を表わすアレイであり、要素の個数は、tile_num 値であるべきである。
【０１５９】
tile_pic_height[]は、ソースイメージ中の各サブ領域の高さを表わすアレイであり、要素の個数は、a tile_num値であるべきである。
【０１６０】
tile_comp_width[]は、サブ領域が結合された後に取得される規則的イメージ内の各サブ領域の幅を表わすアレイであり、要素の個数は、tile_num値であるべきである。
【０１６１】
tile_comp_height[]は、サブ領域が結合された後に取得される規則的イメージ内の各サブ領域の高さを表わすアレイであり、要素の個数は、tile_num値であるべきである。
【０１６２】
方式４では、プライベートファイルのユニフォームリソースロケータ（Ｕｎｉｆｏｒｍ  Ｒｅｓｏｕｒｃｅ  Ｌｏｃａｔｏｒ，ＵＲＬ）が、新しいEssentialProperty属性Tile＠値を指定することで、ＭＰＤに書き込まれる。Tile＠valueの属性記述が、表１に示されてよい。端末がビデオコンテンツを要求したとき、プライベートファイルが、要素を解析することで取得され、サブ領域分割方式および位置等の情報を取得する。
【表１】
0006984841.tif 000007
【０１６３】
方式５：各サブ領域の位置情報が、各サブ領域のビットストリームの補足拡張情報ＳＥＩ内に格納される。すなわち、サブ領域の位置情報をビットストリームのＳＥＩに書き込むことで、サブ領域を送信する分割方式である。イメージ内のサブ領域の分割情報に基づき、ＳＥＩ構文要素の設定が表２に示されてよい。
【表２】
0006984841.tif 000008
【０１６４】
表２中、新しいタイプ１５５がＳＥＩタイプに追加され、現在のビットストリームがサブ領域ビットストリームであることを示し、information tile_wise_mapping_info (payloadSize)が追加され、含まれる構文要素の意味は、以下の通りである。
【０１６５】
src_pic_widthは、ソースイメージの幅、すなわち、図５の（ａ）中のイメージの幅を表わす。
【０１６６】
src_pic_heightは、ソースイメージの高さ、すなわち、図５の（ａ）中のイメージの高さを表わす。
【０１６７】
src_tile_xは、ソースイメージ上の現在のサブ領域の左上隅の水平座標、すなわち、図５の（ａ）中の現在のサブ領域の水平座標を表わす。
【０１６８】
src_tile_yは、ソースイメージ上の現在のサブ領域の左上隅の垂直座標、すなわち、図５の（ａ）中の現在のサブ領域の垂直座標を表わす。
【０１６９】
src_tile_widthは、ソースイメージ上の現在のサブ領域の幅を表わす。
【０１７０】
src_tile_heightは、ソースイメージ上の現在のサブ領域の高さを表わす。
【０１７１】
packed_pic_widthは、サブ領域が結合された後に取得される規則的イメージの幅、すなわち、図５の（ｃ）中のイメージの幅を表わす。
【０１７２】
packed_pic_heightは、サブ領域が結合された後に取得される規則的イメージの高さ、すなわち、図５の（ｃ）中のイメージの高さを表わす。
【０１７３】
packed_tile_xは、結合された規則的イメージ上の現在のサブ領域の左上隅の水平座標、すなわち、図５の（ｃ）中の現在のサブ領域の水平座標を表わす。
【０１７４】
packed_tile_yは、結合された規則的イメージ上の現在のサブ領域の左上隅の垂直座標、すなわち、図５の（ｃ）中の現在のサブ領域の垂直座標を表わす。
【０１７５】
packed_tile_widthは、結合された規則的イメージ上の現在のサブ領域の幅を表わす。
【０１７６】
packed_tile_heightは、結合された規則的イメージ上の現在のサブ領域の高さを表わす。
【０１７７】
また、本願において、上述の方式４が拡張されてよく、ＭＰＤ内で、サブ領域の位置情報を格納するプライベートファイルのＵＲＬが新しい要素を用いて指定されてよい。
【０１７８】
拡張方式４：サブ領域分割情報を格納するプライベートファイルのアドレスが、ＭＰＤ内でファイルリンクを指定することで、ＭＰＤに書き込まれる。構文は以下の通りであってよい。
【数６】
0006984841.tif 000009
【０１７９】
拡張方式４では、サブ領域の位置情報がプライベートファイルｔｉｌｅ＿ｉｎｆｏ．ｄａｔ内に格納され、UserdataURL要素を含む構文要素<UserdataList>（表３を参照）が追加され、プライベートファイルがＭＰＤ内に書き込まれる。端末がビデオコンテンツを要求する場合、<UserdataList>を解析することで、プライベートファイルが取得され、サブ領域分割方式および位置等の情報が取得される。
【表３】
0006984841.tif 000010
【０１８０】
上述の方式４におけるサブ領域分割方式の記述情報は、拡張されてよい。拡張は、送信されるプライベートファイルｔｉｌｅ＿ｉｎｆｏ．ｄａｔ内のコンテンツに対してであり、ユーザの視角と要求されるサブ領域との間の関係テーブルが追加され、その結果、端末は、対応するサブ領域ビットストリームをより迅速に要求できる。言い換えれば、プライベートファイルは、さらに、ユーザの視点と、ユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係を表わすために用いられる情報を含んでよい。
【０１８１】
この例では、プライベートファイルｔｉｌｅ＿ｉｎｆｏ．ｄａｔについて、サブ領域分割情報コンテンツは変更されないままであり、ユーザの視角と、要求されるサブ領域との間の関係テーブル、およびユーザの視点と、ユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係が追加される。例えば、格納されたコンテンツは、以下の方式のうちの１つであってよい。
【数７】
0006984841.tif 000011
【０１８２】
方式４と比較した場合、追加されたデータは、deg_step_latitude、deg_step_longitude、view_tile_num、およびviewport_table[][]のそれぞれであり、データの意味は以下の通りである。
【０１８３】
deg_step_latitudeは、緯度方向において分割された視点領域のステップを表わし、ステップは、−９０°から９０°の緯度範囲を、複数の視点領域に分割する。視点領域は、経度‐緯度マップ上の視点の領域範囲である。同一の視点領域において、端末によって取得される、且つ視点領域をカバーするイメージのサブ領域ビットストリームは同一である。図８に示される通り、経度‐緯度マップ全体が９個の視点領域に分割される。図８中、視点１および視点２の両方が第５の視点領域に所属し、視点領域５の中央の視点がマークされる。視点領域５の範囲内のすべての視点について、対応する視角カバレッジ範囲は、中央の視点に対応する視角によってカバーされる範囲として計算される。
【０１８４】
deg_step_longitudeは、緯度方向において分割された視点領域のステップを表わし、ステップは、０°から３６０°の経度範囲を、複数の視点領域に分割する。deg_step_latitudeおよびdeg_step_longitudeの両方が、視点領域の個数を決定する。
【０１８５】
view_tile_numは、単一の視角が変更されるとき、カバー可能な最大サブ領域数を表わす。
【０１８６】
viewport_table[][]は、視点領域と視点領域によってカバーされるイメージサブ領域の番号との間の関係テーブルを格納するために用いられるアレイである。テーブル内のデータ合計数は、view_tile_numを乗じた視点領域の個数であるべきである。
【０１８７】
データテーブルviewport_table[][]の例示的な格納方式は以下の通りである。
【数８】
0006984841.tif 000012
【０１８８】
テーブル内の視点領域の個数は１００であり、view_tile_num = 18である。データテーブル内の各行の１８個の番号が、視点の視角によってカバーされるサブ領域の番号を表わす。数値０は、１８個未満のサブ領域が視角をカバーし得ること、空値は０で埋められることを示す。例えば、図９に示される視点は、緯度０°および経度１５０°の視角で位置づけられ、カバーされるサブ領域は、番号５、６、７、１３、１４、１５、１６、２５、２６、２７、２８、３５、３６、３７であり、データテーブル内の値は、５，６，７，１３，１４，１５，１６，２５，２６，２７，２８，３５，３６，３７，０，０，０，０として表される。このように、これらの値を取得した後、端末は、現在の視点に基づき、対応するテーブル内のサブ領域の番号を探すのみでよく、対応関係に従い、計算をすることなく、デコーディング表示のためのこれらの番号に対応するサブ領域ビットストリームを直接要求してよく、これにより、端末の処理速度を加速させる。
【０１８９】
上述のプライベートファイルが、ユーザの視点とユーザの視点の視角によってカバーされるサブ領域の番号との間の対応関係を含むことに基づき、本願のこの実施形態では、視角最適化のために示されるフラグデータが、上述のプライベートファイルｔｉｌｅ＿ｉｎｆｏ．ｄａｔに追加されてよい。これに相応して、データテーブルviewport_table[][]内のデータの配置も、最適化された形態で生成されてよい。言い換えれば、現在の視点により近接するサブ領域は、サブ領域の番号が、現在の視点に対応する行の前方位置に現れることを示す。
【０１９０】
この例において、プライベートファイルは、さらに、ユーザの視角によってカバーされるサブ領域において、表示される必要があることが好ましいサブ領域の個数を表わすために用いられる情報、表示される必要があることが好ましいサブ領域の番号に関する情報、二次的に表示されるサブ領域の番号に関する情報、および表示されないサブ領域の番号に関する情報を含む。プライベートファイルfile tile_info.datについては、格納されたコンテンツは、以下の方式のうちの１つであってよい。
【数９】
0006984841.tif 000013
【０１９１】
新しく追加されたデータは、priority_view_tile_numであり、データの意味は、現在の視点において表示される必要があることが好ましいサブ領域の個数である。これに相応して、テーブルviewport_table[][]内のデータ配置は修正され、現在の視点に近接するサブ領域は、現在の視点に対応する行の前に配置され、以下に示す通りになる。
【数１０】
0006984841.tif 000014
【０１９２】
テーブルに示される通り、図９中に示される緯度０°および経度１５０°の視角に位置する視点に対応し、テーブル内のデータは、14, 15, 26, 27, 13, 6, 16, 28, 36, 25, 5, 7, 35, 37, 0, 0, 0, 0に変更され、視点に比較的近接するサブ領域の番号：4, 15, 26, 27が前方に配置され、視点から比較的遠いサブ領域の番号13, 6, 16, 28, 36, 25：が中央に配置され、最も遠いサブ領域の番号: 5, 7, 35, 37が後方に配置される。好ましくは、視点に近接するサブ領域が表示され、好ましくは、視点から比較的遠いサブ領域が表示されず、二次的に表示されてよい。上述の動作の利点は、何らかの理由（例えば、不安定なネットワーク）により、すべてのサブ領域のすべてのビットストリームが取得できない、または、取得される必要がない場合、表示されることが好ましい視点に近接するサブ領域が取得されることが好ましくてよく、表示されることが好ましくないサブ領域のイメージデータは、破棄される。
【０１９３】
上述のサーバがプレエンコーディング処理、エンコーディングおよびカプセル化を実行した後、端末は、デコーディング表示のために、カプセル化されたビットストリームを取得してよい。従って、図１０に示される通り、本願のこの実施形態における方法は、さらに、以下の段階を含んでよい。
【０１９４】
１０１．端末は、パノラマイメージの各サブ領域の位置情報を決定する。
【０１９５】
可能な実装において、端末は、サーバによって送信された第１の情報を受信してよく、第１の情報は、パノラマイメージの各サブ領域のトラックおよび各サブ領域のビットストリームを含み、当該トラックは、パノラマイメージのすべてのサブ領域の位置情報を含む。端末は、パノラマイメージ内の各サブ領域の位置情報を、当該トラックに基づく解析を通して取得する。トラックは、上述の方式１において結合されたイメージのトラックであってよく、端末は、結合されたイメージのトラック内のRectRegionPacking(i)で定義された構文を解析することで、すべてのサブ領域の位置情報を解析してよい。
【０１９６】
代替的に、サブ領域の位置情報について、端末は、サブ領域の位置情報が格納される上述の方式２に従い、各サブ領域に対応するトラック内の各サブ領域、すなわち、タイルトラックの位置情報を格納してよい。端末は、各タイルトラック内のSubPictureCompositionBoxで定義された領域を解析することで、現在のサブ領域の位置情報を取得してよい。
【０１９７】
代替的に、端末は、サーバによって送信されたＭＰＤを受信してよく、ＭＰＤは、各サブ領域の位置情報を含む、または、ＭＰＤは、プライベートファイルのアドレスを含み、プライベートファイルは各サブ領域の位置情報を含む。端末は、各サブ領域の位置情報を取得すべく、ＭＰＤを解析する。
【０１９８】
代替的に、端末は、まず、各サブ領域に対応するビットストリームを取得してよく、サブ領域の位置情報は、サブ領域に対応するＳＥＩ内に存在してよい。言い換えれば、端末がサブ領域の必要なビットストリームを要求する際、ビットストリーム内のＳＥＩに基づき、サブ領域の位置情報を取得してよい。
【０１９９】
１０２．端末は、各サブ領域の決定された位置情報に基づき、パノラマイメージ内の現在の視角によってカバーされるサブ領域の位置情報を決定する。
【０２００】
例えば、端末は、視角と、視角によってカバーされるサブ領域の位置情報との間のマッチング関係に従い、パノラマイメージ内の現在の視角によってカバーされるサブ領域の位置情報を取得してよい。
【０２０１】
１０３．端末は、サブ領域の第１のサンプリング間隔を決定する。
【０２０２】
端末は、予め設定されたサンプリング間隔を第１のサンプリング間隔として決定してよく、または、端末は、サーバから第１のサンプリング間隔を受信し、または、端末は、サーバから受信される各サブ領域の位置情報に基づき、第１のサンプリング間隔を取得してよい。言い換えれば、各サブ領域に対応する第１のサンプリング間隔を取得するための、各サブ領域の位置情報と、第１のサンプリング間隔との間に、予め設定された計算ルールが存在してよい。計算ルールは、ソースイメージのサブ領域の位置情報におけるサイズと、結合されたイメージのサブ領域の位置情報におけるサイズとの比率、すなわち、第１のサンプリング間隔であってよい。
【０２０３】
１０４．端末は、現在の視角によってカバーされるサブ領域の決定された位置情報に基づき、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得する。
【０２０４】
すべてのサブ領域のビットストリームが端末に局所的に格納される場合、端末は、端末のメモリから直接、現在の視角によってカバーされるサブ領域のビットストリームを取得してよい。
【０２０５】
代替的に、端末はサーバから、現在の視角によってカバーされるサブ領域に対応するビットストリームを取得することを要求する。例えば、端末は、現在の視角を示す情報をサーバに送信してよい。サーバは、現在の視角および現在の視角によってカバーされ得るサブ領域の位置情報に基づき、現在の視角によってカバーされるサブ領域を取得した後、現在の視角によってカバーされるサブ領域に対応し、且つ、端末によって要求されるビットストリームを端末に送信してよい。例えば、サーバは、送信されるべきサブ領域のビットストリームが結合された後に取得されるビットストリームを端末に送信してよい。代替的に、現在の視角および現在の視角によってカバーされるサブ領域の位置情報に基づき、現在の視角によってカバーされるサブ領域を取得した後、端末は、現在の視角によってカバーされるサブ領域の番号を、サーバに送信してよく、サーバは、番号に基づき、端末によって要求されたサブ領域のビットストリームを端末に送信してよい。代替的に、端末は、端末およびサーバによって予め設定されたプロトコルに従い、現在の視角によってカバーされるサブ領域に対応するビットストリームをサーバから取得してよく、プロトコルは、視角と視角によってカバーされるサブ領域との間の対応関係を含む。本願において、端末が、要求したビットストリームを取得する方式は限定されるものではない。
【０２０６】
１０５．端末は、現在の視角によってカバーされるサブ領域のイメージを取得すべく、ビットストリームをデコーディングする。
【０２０７】
サーバは、経度‐緯度マップに、水平分割、垂直分割および垂直ダウンサンプリング処理を実行、すなわち、サブ領域のピクセルに対し冗長性解除処理を実行するので、その結果、送信されるべきサブ領域のピクセル冗長性が低減され、ピクセル値は低減する。デコーダにとっては、現在の視角によってカバーされるサブ領域のビットストリームが取得されるとき、デコーディング能力の要件が低減されてよく、デコーディングの複雑性が低減され、これにより、デコーディング速度が向上する。
【０２０８】
１０６．端末は、現在の視角によってカバーされるサブ領域の決定された位置情報および第１のサンプリング間隔に基づき、デコーディングされたイメージを再サンプリングする。
【０２０９】
１０７．端末は、再サンプリングされたイメージを再生する。
【０２１０】
図１１に示される通り、ユーザが表示を要求する視角に対応するサブ領域が図１１の（ｄ）に示されるものであると仮定する。図１１の（ｂ）に示されるような、計算を通して取得される要求されたサブ領域に基づき、端末は、図１１の（ｃ）に示されるように、サブ領域の番号と、ビットストリームとの間の対応関係に基づき、要求されるサブ領域に対応するビットストリームを、番号1, 3, 4, 5, 6, 15, 19, 20, 21, 22, 23, 24, 34, 35, 36,および37のサブビットストリームを含み取得してよい。さらに、端末は、サブビットストリームをデコーディングした後、位置情報および第１のサンプリング間隔に基づき、デコーディングされたイメージを再サンプリングしてよく、図１１の（ｄ）に示されるように、再サンプリングされたイメージを再生してよい。
【０２１１】
上述のプレエンコーディング処理、エンコーディングおよび端末について、部分的に、２Ｄ経度‐緯度マップが用いられる例を用いて説明する。本願のこの実施形態は、さらに、３Ｄ経度‐緯度マップのエンコーディングおよび送信プロセスに用いられてよく、３Ｄ経度‐緯度マップのシーケンスの信号の２つのチャネルは別個に処理されてよい。３Ｄ視覚効果を表示する必要がある場合、サーバと通信する撮影デバイスは２つのグループを含んでよく、撮影デバイスのうちの一方のグループは、左目のパノラマビデオを取得するよう構成され、撮影デバイスのうちの他方のグループは、右目のパノラマビデオを取得するよう構成されることを理解されたい。このように、３Ｄ経度‐緯度マップのサブ領域分割が図１２に示されてよい。左目の経度‐緯度マップは図１２の上半分であり、右目の経度‐緯度マップは図１２の下半分である。１つの経度‐緯度マップになるように、左目に対応する経度‐緯度マップが、右目に対応する経度‐緯度マップとスプライシングされてよく、または、左目に対応する経度‐緯度マップおよび右目に対応する経度‐緯度マップは、２つの経度‐緯度マップになるように互いに分離されてよい。サーバは、左目に対応する経度‐緯度マップに水平分割および垂直分割を実行し、且つ、右目に対応する経度‐緯度マップに水平分割および垂直分割を実行すべく、左目に対応する経度‐緯度マップを、右目に対応する経度‐緯度マップから分離してよい。
【０２１２】
３Ｄ経度‐緯度マップにおける、左目経度‐緯度マップの水平分割については、段階４０１の実装を参照されたい。右目経度‐緯度マップの水平分割についても、段階４０１の実装を参照されたい。ここで、詳細については再度説明しない。
【０２１３】
３Ｄ経度‐緯度マップにおける、左目経度‐緯度マップの垂直分割については、段階４０２の実装を参照されたい。右目経度‐緯度マップの垂直分割についても、段階４０２の実装を参照されたい。ここで、詳細については再度説明しない。
【０２１４】
３Ｄ経度‐緯度マップにおける、左目経度‐緯度マップの各サブ領域のサンプリングについては、段階４０４および段階４０５の実装を参照されたい。右目経度‐緯度マップの各サブ領域のサンプリングについても、段階４０４および段階４０５の実装を参照されたい。ここで、詳細については再度説明しない。
【０２１５】
従って、最終的に４２個のサブ領域が左目経度‐緯度マップで取得され、４２個のサブ領域が右目経度‐緯度マップで取得され、合計８４個のサブ領域が取得される。
【０２１６】
３Ｄ経度‐緯度マップでは、分割およびサンプリングの後に取得されるイメージ内の各サブ領域をエンコーディングするための複数の方式が存在してよく、ここで、３つの可能な方式を示す。第１の方式では、各サブ領域がオリジナルイメージから分割された１個のサブピクチャとして用いられ、各サブピクチャシーケンスが個々にエンコーディングされて、８４個のサブビットストリームを生成する。第２の方式では、分割されたサブ領域モードエンコーディング（ＨＥＶＣ標準によってサポートされる）がイメージ全体に実行され、格納のための単一のビットストリームが生成される、または、単一のビットストリームが分割されて、格納のための８４個のサブビットストリームが取得される。第３の方式では、左目経度‐緯度マップおよび右目経度‐緯度マップの同一の位置におけるサブ領域が、サブ領域の１つのグループとして用いられ、イメージスプライシングが実行された後、左目経度‐緯度マップおよび右目経度‐緯度マップが別個にエンコーディングされて、４２個のサブビットストリームが生成される。
【０２１７】
カプセル化プロセスについては、上述の方式１から方式５を参照されたい。ここで、詳細については再度説明しない。
【０２１８】
３Ｄ経度‐緯度マップビデオについては、端末がビデオコンテンツをデコーディングするプロセスと、２Ｄ経度‐緯度マップにおけるプロセスとの間の差異は、以下の通りである。すなわち、ここで現在の視角によってカバーされるサブ領域の位置情報は、左目イメージサブ領域の位置情報および右目イメージサブ領域の位置情報を含む。
【０２１９】
現在の視角によってカバーされるサブ領域のビットストリームは、左目経度‐緯度マップにおけるサブ領域のビットストリームと、右目経度‐緯度マップにおけるサブ領域のビットストリームを含む。現在の視角の値は、左目の視点値または右目の視点値であってよい。これは、本明細書において限定されるものではない。再サンプリング中、現在の視角において左目でカバーされるサブ領域のイメージが再サンプリングされ、現在の視角において右目でカバーされるサブ領域のイメージが再サンプリングされ、要求される左目のサブ領域および要求される右目のサブ領域がレンダリングおよび表示される。
【０２２０】
上述の方法のプロセスは、さらに、３６０度パノラマビデオイメージの経度‐緯度マップまたは３６０度パノラマビデオイメージの経度‐緯度マップの一部に適用されてよい。例えば、経度‐緯度マップの分割方式は、さらに、１８０°ハーフパノラマビデオイメージの経度‐緯度マップの分割に適用されてよい。１８０°ハーフパノラマビデオは、経度範囲が１８０°であり、３６０度パノラマビデオの半分のコンテンツを含むパノラマビデオである。
【０２２１】
図１３の（ａ）に示されるような、１８０°ハーフパノラマビデオの経度‐緯度マップの水平分割方式については、上述の段階４０１を参照されたい。上述の段階４０２の可能な実装とは異なる垂直分割については、−９０°から−６０°の緯度範囲のサブピクチャおよび６０°から９０°の緯度範囲のサブピクチャは、垂直方向に分割されずに、単一のサブ領域のままであってよい。−６０°から−３０°の緯度範囲のサブピクチャおよび３０°から６０°の緯度範囲のサブピクチャについては、サブピクチャは経度６０°を垂直分割間隔として用いて垂直方向に分割され、３個のサブ領域が取得される。−３０°から０°の緯度範囲のサブピクチャおよび０°から３０°の緯度範囲のサブピクチャについては、サブピクチャは、経度３０°を垂直分割間隔として用いて垂直方向に分割され、６個のサブ領域が取得される。このように、１８０°ハーフパノラマビデオ全体の経度‐緯度マップのサブ領域分割が完了され、合計２０個のサブ領域が取得される。
【０２２２】
１８０°ハーフパノラマビデオの経度‐緯度マップのサブ領域も、ダウンサンプリングおよびエンコーディングされてよく、それは、段階４０４の上述の実装におけるものと同一であってよい。段階４０５の上述の実装との差異は以下の通りであってよい。図１３の（ａ）を例として用い、−９０°から−６０°の緯度範囲および６０°から９０°の緯度範囲におけるサブピクチャについては、ダウンサンプリングが垂直方向ではなく、水平方向に実行され、スケーリング係数は１／６である。−６０°から−３０°の緯度範囲および３０°から６０°の緯度範囲におけるサブピクチャについても同様に、ダウンサンプリングが垂直方向ではなく、水平方向に実行され、スケーリング係数は１／２である。−３０°から０°の緯度範囲および０°から３０°の緯度範囲におけるサブピクチャについては、スケーリングは実行されない。最終的に取得されたスケーリングされたイメージが、図１３の（ｂ）に示されている。
【０２２３】
１８０°ハーフパノラマビデオの経度‐緯度マップの上述のサブ領域の分割方式は、また、３Ｄ  １８０°ハーフパノラマビデオの経度‐緯度マップのサブ領域分割に適用されてよい。３６０°パノラマビデオのサブ分割領域と同様に、３Ｄ  １８０°ハーフパノラマビデオの経度‐緯度マップも、左目の１８０°ハーフパノラマビデオの経度‐緯度マップおよび右目の１８０°ハーフパノラマビデオの経度‐緯度マップを含む。左目の経度‐緯度マップおよび右目の経度‐緯度マップは、共にスプライシングされてよい。図１４に示される通り、左目の経度‐緯度マップが、図１４の左半分であり、右目の経度‐緯度マップが、図１４の右半分である。サーバは、まず、図１４の破線によって示されるように、左目の経度‐緯度マップを、右目の経度‐緯度マップから分離してよい。その後、左目の経度‐緯度マップは、１８０°ハーフパノラマビデオの経度‐緯度マップの分割方式に従い分割され、右目の経度‐緯度マップも、１８０°ハーフパノラマビデオの経度‐緯度マップの分割方式に従い分割され、最終的に、左目の経度‐緯度マップに対応する２０個のサブ領域および右目の経度‐緯度マップに対応する２０個のサブ領域、合計４０個のサブ領域が取得される。
【０２２４】
上述の処理において、サーバは、撮影デバイスによって撮影されたビデオ信号に基づき、パノラマビデオまたはハーフパノラマビデオに対応する経度‐緯度マップを取得してよい。本願のこの実施形態において、サーバは、さらに、イメージサブ領域を取得するために、球パノラマ信号を直接分割する方法を提供してよい。ソースイメージは球信号マップである、または、球マップと称されるので、ビットストリームカプセル化方式およびサブ領域分割方式も変更される。この実施形態において、球領域における信号位置が緯度および経度を用いて指定され、指定された経度範囲は０°から３６０°であり、緯度範囲−９０°から９０°である（負の数値は南緯を表わし、正の数の北緯を表わす）。
【０２２５】
従って、本願の実施形態は、イメージ処理方法を提供する。図１５に示される通り、方法は、以下の段階を含む。
【０２２６】
１５０１．サーバは、処理されるべきイメージの球マップに、水平分割を実行し、水平分割の分割位置は予め設定された緯度である。
【０２２７】
例えば、サーバは、図１６の（ａ）に示される通り、球表面における緯度−６０°、緯度−３０°、緯度０°、緯度３０°および緯度６０°に緯線を描画して、球マップを水平方向に別個に分割してよい。
【０２２８】
１５０２．経度‐緯度マップの各サブ領域を取得すべく、サーバは、処理されるべきイメージの球マップに垂直分割を実行し、垂直分割の分割位置は緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である。
【０２２９】
例えば、球マップにおいて、−９０°から−６０°の緯度範囲および６０°から９０°の緯度範囲の球領域に対し、経度１２０°が球マップを垂直方向に分割するための垂直分割間隔として用いられて、３個の球サブ領域を取得してよい。−６０°から−３０°の緯度範囲および３０°から６０°の緯度範囲の球領域に対し、経度６０°が球マップを垂直方向に分割するための垂直分割間隔として用いられて、６個の球サブ領域を取得する。−３０°から０°緯度範囲および０°から３０°の緯度範囲の球領域に対し、経度３０°が球マップを垂直方向に分割するための垂直分割間隔として用いられて、１２個の球サブ領域を取得する。このように、図１６の（ａ）に示される通り、球マップ全体のサブ領域分割が完了した後、合計４２個のサブ領域が取得される。
【０２３０】
１５０３．サーバは、各サブ領域のイメージをサンプリングする。
【０２３１】
サーバは、まず、予め設定されたサイズに基づき、サブ領域のイメージを二次元平面イメージにマッピングして、経度‐緯度マップの各サブ領域を第１のサンプリング間隔および第２のサンプリング間隔でサンプリングしてよい。
【０２３２】
三次元球マップが二次元経度‐緯度マップにマッピングされる実装は、以下の通りであってよい。すなわち、球マップが分割された後に取得されるサブ領域のイメージを、垂直方向に予め設定された高さで均等にサンプリングし、サブ領域のイメージを、水平方向に予め設定された幅で均等にサンプリングする。次に、均等にサンプリングした後に取得される各サブ領域のイメージが、水平方向に第１のサンプリング間隔でサンプリングされてよく、サブ領域のイメージが、垂直方向に第２のサンプリング間隔でサンプリングされる。
【０２３３】
例えば、イメージ信号マッピングが、球マップ上のサブ領域に対応する図１６の（ａ）中のすべてのサブ領域に実行され、その結果、球マップ上の各サブ領域は、マッピングされたイメージ、すなわち、二次元経度‐緯度マップにおけるサブ領域に対応すし、ダウンサンプリングが経度‐緯度マップに実行される。球信号をサブ領域のイメージにマッピングするための多くの方法が存在し、これは、本明細書において限定されるものではない。１つの方式は以下の通りであってよい。すなわち、緯度方向における各球サブ領域については、球信号が、図１６の（ｂ）中のサブ領域のイメージの予め設定された高さに基づき均等にマッピングされ、均等なマッピングは均等なサンプリングとして理解されてよい。経度方向において、−９０°から−６０°の緯度範囲および６０°から９０°の緯度範囲のサブ球領域については、球信号が緯度方向において、サンプリングレート１／４でダウンサンプリングされた後、マッピングされ、すなわち、スケーリング係数１／４である。−６０°から−３０°の緯度範囲および３０°から６０°の緯度範囲のサブ球領域については、球信号が緯度方向において、サンプリングレート１／２でダウンサンプリングされた後、マッピングされ、すなわち、スケーリング係数は１／２である。−３０°から０°の緯度範囲および０°から３０°の緯度範囲のサブ球領域については、球信号が緯度方向において同一サンプリングレートでマッピングされ、すなわち、スケーリング係数は１である。経度‐緯度マップの最終的に取得されたサンプリングされたイメージが、図１６の（ｂ）に示されている。
【０２３４】
１５０４．サーバは、サンプリングされたサブ領域の位置を調整し、その結果、図１６の（ｃ）に示される通り、調整されたサブ領域のイメージによってスプライシングされたイメージの水平エッジおよび垂直エッジがそれぞれ揃う。段階１５０４は実行されなくてよい。
【０２３５】
１５０５．サーバは、スプライシングされたイメージのタイルｔｉｌｅをエンコーディングする。
【０２３６】
段階１５０５の実装については、段階４０７を参照されたい。ここで、詳細について、再度説明はしない。
【０２３７】
球マップのイメージ処理方法においては、各サブ領域のビットストリームのカプセル化方式は、上述の段階４０８における方式と同一であってよく、サブ領域の位置情報の様々な格納方式もまた、段階４０８の方式と同一であってよい。差異としては、処理されるべきイメージの球マップに、水平分割および垂直分割を実行することで、サブ領域が取得されるとき、サンプリングされたサブ領域が、サンプリングされた球マップを形成する。位置情報は、球マップのイメージにおけるサブ領域の位置および緯度‐経度範囲、並びにサンプリングされた球マップのイメージにおけるサブ領域の位置およびサイズを含む。または、位置情報は、球マップのイメージにおけるサブ領域の位置および緯度‐経度範囲、並びにスプライシングされたイメージにおけるサブ領域の位置およびサイズを含む。上述のサブ領域の分割方式の記述に対し行われる可変の意味上の修正は、以下の通りである。
【０２３８】
以下の意味は、方式１において修正される。
【０２３９】
proj_reg_width[i]およびproj_reg_height[i]は、ソースイメージ、すなわち、球マップにおけるｉ番目のサブ領域の対応する緯度‐経度範囲、すなわち、図１６の（ａ）における図１６の（ｂ）にあるサブ領域の対応する緯度‐経度範囲を記述する。例えば、図１６の（ｂ）の左上隅における第１のサブ領域の緯度‐経度範囲は、ソースイメージにおける（１２０°，３０°）である。
【０２４０】
proj_reg_top[i]およびproj_reg_left[i]は、球マップにおけるｉ番目のサブ領域の左上隅にあるピクセルの対応する位置について記述する。経度および緯度で表され、当該位置は、図１６の（ａ）における図１６の（ｂ）にあるサブ領域の左上ポイントの対応する位置である。例えば、第１のサブ領域の位置は、球マップにおける（０°，９０°）である。
【０２４１】
以下の意味は、方式２で修正される。
【０２４２】
proj_tile_widthおよびproj_tile_heightは、球マップ内の現在のトラックの緯度‐経度範囲、すなわち、図１６の（ａ）中の現在のサブ領域の緯度‐経度範囲について記述する。
【０２４３】
proj_widthおよびproj_heightは、球マップの緯度‐経度範囲について記述する。例えば、３６０°パノラマ球の緯度‐経度範囲は、（３６０°，１８０°）である。
【０２４４】
方式４において、プライベートファイルtile_info.datのコンテンツについては、意味が以下の通り修正される。
【０２４５】
pic_widthは、球マップの経度範囲を表わす。
【０２４６】
pic_heightは、球マップの緯度範囲を表わす。
【０２４７】
tile_pic_width[]は、球マップ内の各サブ領域の経度範囲を表わすアレイであり、要素の個数は、tile_num値であってよい。
【０２４８】
tile_pic_height[]は、球マップ内の各サブ領域の経度範囲を表わすアレイであり、要素の個数は、tile_num値であってよい。
【０２４９】
以下の意味は、方式５において修正される。
【０２５０】
src_pic_widthは、球マップの経度範囲、すなわち、図１６の（ａ）中の球マップの経度範囲を表わす。
【０２５１】
src_pic_heightは、球マップの緯度範囲、すなわち、図１６の（ａ）中の球マップの緯度範囲を表わす。
【０２５２】
src_tile_widthは、球マップ上の現在のサブ領域の経度範囲を表わす。
【０２５３】
src_tile_heightは、球マップ上の現在のサブ領域の緯度範囲を表わす。
【０２５４】
このように、経度‐緯度マップの均等な分割方式と比べた場合、本願のこの不均等な分割方式およびイメージスケーリング方式においては、イメージ冗長性が低減され、その結果、タイル単位エンコーディングおよび送信効率が大きく向上可能となる。また、端末のデコーダに必要とされる最大デコーディング能力も低減され、その結果、既存のデコーディング能力で、より高解像度のソースイメージを表示のためにエンコーディングし、送信することが可能である。例として、６×３の均等な分割が用いられ、送信される必要のあるピクセルの比率は、最大５５．６％である。ソースイメージの解像度が４Ｋ（４０９６×２０４８）である場合、デコーダのデコーディング能力は、約４Ｋ×１Ｋに到達する必要がある。しかしながら、本願の方法においては、送信されるピクセルの比率は、最大２５％である。ソースイメージの解像度が４Ｋ（４０９６×２０４８）である場合、デコーダのデコーディング能力は、２Ｋ×１Ｋに到達する必要がある。また、性能については、デコーディング速度および再生速度が向上する。本願の解決手段においては、デコーディングおよび再生処理の効率が、均等な分割におけるデコーディングおよび再生処理の効率よりも高い。
【０２５５】
本願の一実施形態は、さらに、イメージ処理方法を提供し、方法は、図１７Ａに示されるようなサーバに適用され、以下の段階を含む。
【０２５６】
１７Ａ１．サーバは、パノラマイメージの経度‐緯度マップまたは球マップのサブ領域のイメージに対応するビットストリームを格納し、サブ領域は、パノラマイメージの経度‐緯度マップまたは球マップに水平分割および垂直分割を実行することで取得され、水平分割の分割位置は、予め設定された緯度であり、垂直分割の分割位置は、緯度によって決定され、水平分割の隣接する分割位置によって形成される領域には、少なくとも２つのタイプの垂直分割間隔が存在し、垂直分割間隔は、垂直分割の隣接する分割位置間の距離である。
【０２５７】
１７Ａ２．サーバは、サブ領域のイメージに対応し、且つ端末によって要求される、格納されたビットストリームの中で、現在の視角によってカバーされるサブ領域のビットストリームを、端末に送信する。
【０２５８】
サブ領域に対応し、且つサーバに格納されるイメージがエンコーディングされる前に、イメージは、水平方向において第１のサンプリング間隔でサンプリングされ、サブ領域に対応するより高い緯度は、より大きな第１のサンプリング間隔を示し、または、イメージは、垂直方向において第２のサンプリング間隔でサンプリングされる。サンプリングの具体的な実装については、上述の実施形態の説明を参照されたい。
【０２５９】
言い換えれば、この実施形態におけるサーバは、各サブ領域に属する、且つ上述の実施形態において、サーバによって処理されるイメージに対応するビットストリームを格納してよい。イメージを処理するために上述の実施形態において、サーバによって用いられるサブ領域分割方式およびサンプリング処理は、ビットストリーム送信中に占有される帯域幅を低減してよいので、デコーディング側のデコーディング能力に対する要件が低減され、デコーディング複雑性が低減され、デコーディング速度が向上する。本願の実施形態においては、ビットストリーム送信中にサーバによって占有される帯域幅は、従来技術の帯域幅と比較して低減され、端末のデコーディング速度が向上する。
【０２６０】
上述の内容は主に、本願の実施形態において提供される解決手段を、ネットワーク要素間の相互作用の観点から説明している。上述の機能を実装すべく、サーバおよび端末等のネットワーク要素の各々は、各機能を実行するための対応するハードウェア構造および／またはソフトウェアモジュールを含むことを理解されたい。当業者は、本願において、本明細書で開示した実施形態で説明された例を組み合わせて、ユニットおよびアルゴリズムの段階は、ハードウェア、またはハードウェアとコンピュータソフトウェアとの組み合わせで実装され得ることを容易に認識すべきである。ある機能が、ハードウェアまたはコンピュータソフトウェアで駆動されるハードウェアで実行されるかどうかは、技術的解決手段の特定の用途および設計上の制約に依存する。当業者は、各特定の用途に対し、説明された機能を実装するために異なる方法を用いてよいが、当該実装が本願の保護範囲を超えるものとみなされるべきではない。
【０２６１】
本願の実施形態においては、サーバおよび端末は、上述の方法の例に基づき、機能モジュールに分割されてよい。例えば、各機能モジュールは、対応する機能のために分割を通して取得されてよく、あるいは、２または２より多い機能が１つの処理モジュールに統合されてよい。統合されたモジュールは、ハードウェアの形態で実装されてよく、または、ソフトウェア機能モジュールの形態で実装されてよい。本願のこの実施形態においては、モジュール分割は、一例であり、論理的な機能分割に過ぎないことに留意されたい。実際の実装においては、別の分割方式が用いられてよい。
【０２６２】
図１７は、対応する機能に基づき、機能モジュールが分割される場合の、上述の実施形態におけるサーバの可能な概略構造図を示す。サーバ１７は、分割ユニット１７０１、エンコーディングユニット１７０２、サンプリングユニット１７０３、スプライシングユニット１７０４、カプセル化ユニット１７０５および送信ユニット１７０６を含む。分割ユニット１７０１は、サーバが図４中の段階４０１および段階４０２を実行することをサポートするよう構成されてよく、エンコーディングユニット１７０２は、サーバが図４中の段階４０３および図７中の段階４０７を実行することをサポートするよう構成されてよい。サンプリングユニット１７０３は、サーバが図７中の段階４０４および段階４０５を実行することをサポートするよう構成されてよく、スプライシングユニット１７０４は、サーバが図７中の段階４０６を実行することをサポートするよう構成され、カプセル化ユニット１７０５は、サーバが図７中の段階４０８を実行することをサポートするよう構成されてよい。上述の方法の実施形態における段階に関連するすべての内容が、対応する機能モジュールの機能の説明において引用されてよい。詳細について、ここで説明はしない。
【０２６３】
図１８は、統合されたユニットが用いられる場合の、上述の実施形態におけるサーバの可能な概略構造図である。サーバ１８は、処理モジュール１８０２および通信モジュール１８０３を含む。処理モジュール１８０２は、サーバの動作を制御および管理するよう構成されている。例えば、処理モジュール１８０２は、図４中の段階４０１、段階４０２、段階４０３、段階４０４、段階４０５、段階４０６、段階４０７および段階４０８、および／または、本明細書で説明した技術の別のプロセスを実行するよう構成されている。通信モジュール１８０３は、サーバと別のネットワークエンティティとの間の通信、例えば、サーバと端末との間の通信をサポートするよう構成されている。サーバは、さらに、サーバのプログラムコードおよびデータを格納するよう構成された格納モジュール１８０１を含んでよい。
【０２６４】
処理モジュール１８０２は、中央処理装置（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ，ＣＰＵ）、汎用プロセッサ、デジタル信号プロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｉｎｇ，ＤＳＰ）、特定用途向け集積回路（Ａｐｐｌｉｃａｔｉｏｎ−Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ，ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ，ＦＰＧＡ）若しくは別のプログラマブルロジックデバイス、トランジスタロジックデバイス、ハードウェアコンポーネント、またはこれらの組み合わせ等のプロセッサまたはコントローラであってよい。プロセッサは、本願に開示された内容に関し説明された様々な例示的な論理ブロック、モジュールおよび回路を実装または実行してよい。プロセッサは、コンピューティング機能を実装するプロセッサの組み合わせ、例えば、１または複数のマイクロプロセッサの組み合わせ、または、ＤＳＰとマイクロプロセッサとの組み合わせであってよい。通信モジュール１８０３は、送受信機、送受信回路または通信インタフェース等であってよい。格納モジュール１８０１は、メモリであってよい。
【０２６５】
処理モジュール１８０２がプロセッサの場合、通信モジュール１８０３は送受信機であり、格納モジュール１８０１がメモリである場合、本願のこの実施形態におけるサーバは、図１９に示されるサーバであってよい。
【０２６６】
図１９に示される通り、サーバ１９は、プロセッサ１９１２、送受信機１９１３、メモリ１９１１、およびバス１９１４を含む。送受信機１９１３、プロセッサ１９１２およびメモリ１９１１は、バス１９１４を通して互いに接続されている。バス１９１４は、ペリフェラルコンポーネントインターコネクト（Ｐｅｒｉｐｈｅｒａｌ  Ｃｏｍｐｏｎｅｎｔ  Ｉｎｔｅｒｃｏｎｎｅｃｔ，ＰＣＩ）バスまたは拡張型業界標準アーキテクチャ（Ｅｘｔｅｎｄｅｄ  Ｉｎｄｕｓｔｒｙ  Ｓｔａｎｄａｒｄ  Ａｒｃｈｉｔｅｃｔｕｒｅ，ＥＩＳＡ）バス等であってよい。バスは、アドレスバス、データバスおよび制御バス等に分類されてよい。表示のしやすさのため、図１９中ではバスを表わすために１本の太線のみが用いられているが、１つのバスのみまたは１つのタイプのバスのみが存在することを意味していない。
【０２６７】
図２０は、対応する機能に基づき、機能モジュールが分割される場合の、上述の実施形態における端末の可能な概略構造図を示す。端末２０は、取得ユニット２００１、デコーディングユニット２００２、再サンプリングユニット２００３および再生ユニット２００４を含む。取得ユニット２００１は、端末が、図１０中の段階１０１、段階１０２、段階１０３および段階１０４を実行することをサポートするよう構成されている。デコーディングユニット２００２は、端末が、図１０中の段階１０５を実行することをサポートするよう構成されている。再サンプリングユニット２００３は、端末が、図１０中の段階１０６を実行することをサポートするよう構成されている。再生ユニット２００４は、端末が、図１０中の段階１０７を実行することをサポートするよう構成されている。上述の方法の実施形態における段階に関連するすべての内容が、対応する機能モジュールの機能の説明に引用されてよい。詳細について、ここで説明はしない。
【０２６８】
図２１は、統合されたユニットが用いられる場合の、上述の実施形態における端末の可能な概略構造図である。端末２１は、処理モジュール２１０２および通信モジュール２１０３を含む。処理モジュール２１０２は、端末の動作を制御および管理するよう構成されている。例えば、処理モジュール２１０２は、端末が、図１０中の段階１０１から段階１０６を実行することをサポートするよう構成されており、および／または、本明細書中で説明された技術の別のプロセスを実行するよう構成されている。通信モジュール２１０３は、端末と別のネットワークエンティティとの間の通信、例えば、端末とサーバとの間の通信をサポートするよう構成されている。端末は、さらに、端末のプログラムコードおよびデータを格納するよう構成された格納モジュール２１０１を含んでよく、さらに、図１０中の段階１０７を端末が実行することをサポートするよう構成されたディスプレイモジュール２１０４を含む。
【０２６９】
処理モジュール２１０２は、プロセッサまたはコントローラであってよく、例えば、ＣＰＵ、汎用プロセッサ、ＤＳＰ、ＡＳＩＣ、ＦＰＧＡまたは別のプログラマブルロジックデバイス、トランジスタロジックデバイス、ハードウェアコンポーネント、またはこれらの任意の組み合わせであってよい。プロセッサは、本願に開示された内容に関し説明された様々な例示的な論理ブロック、モジュールおよび回路を実装または実行してよい。プロセッサは、コンピューティング機能を実装するプロセッサの組み合わせ、例えば、１または複数のマイクロプロセッサの組み合わせ、または、ＤＳＰとマイクロプロセッサとの組み合わせであってよい。通信モジュール２１０３は、送受信機、送受信回路または通信インタフェース等であってよい。格納モジュール２１０１は、メモリであってよい。ディスプレイモジュール２１０４は、ディスプレイ等であってよい。
【０２７０】
処理モジュール２１０２がプロセッサの場合、通信モジュール２１０３は送受信機であり、格納モジュール２１０１はメモリであり、ディスプレイモジュール２１０４はディスプレイであり、本願のこの実施形態における端末は、図２２に示された端末であってよい。
【０２７１】
図２２に示される通り、端末２２は、プロセッサ２２１２、送受信機２２１３、メモリ２２１１、ディスプレイ２２１５およびバス２２１４を含む。送受信機２２１３、プロセッサ２２１２、ディスプレイ２２１５およびメモリ２２１１は、バス２２１４を通して相互接続されている。バス２２１４は、ＰＣＩバスまたはＥＩＳＡバス等であってよい。バスは、アドレスバス、データバスおよび制御バス等に分類されてよい。表示のしやすさのため、図２２中ではバスを表わすために１本の太線のみが用いられているが、１つのバスのみまたは１つのタイプのバスのみが存在することを意味していない。
【０２７２】
図２３は、対応する機能に基づき、機能モジュールが分割される場合の、上述の実施形態におけるサーバの可能な概略構造図を示す。サーバ２３は、格納ユニット２３０１、送信ユニット２３０２を含み、格納ユニット２３０１は、サーバが図１７Ａ中の段階１７Ａ１を実行することをサポートするよう構成されており、送信ユニット２３０２は、サーバが図１７Ａ中の段階１７Ａ２を実行することをサポートするよう構成されている。上述の方法の実施形態の段階に関連するすべての内容が、対応する機能モジュールの機能の説明に引用されてよい。詳細について、ここで説明はしない。
【０２７３】
図２４は、統合されたユニットが用いられる場合の、上述の実施形態におけるサーバの可能な概略構造図である。サーバ２４は、格納モジュール２４０２および通信モジュール２４０３を含む。格納モジュール２４０２は、サーバのプログラムコードおよびデータを格納するよう構成されている。例えば、プログラムは、図１７Ａ中の段階１７Ａ１を実行するよう構成されており、通信モジュール２４０３は、図１７Ａ中の段階１７Ａ２を実行するよう構成されている。
【０２７４】
通信モジュール２４０３が送受信機であり、且つ格納モジュール２４０１がメモリである場合、本願のこの実施形態におけるサーバは、図２５に示される端末であってよい。
【０２７５】
図２５に示される通り、サーバ２５は、送受信機２５１１、メモリ２５１２およびバス２５１３を含む。送受信機２５１１およびメモリ２５１２は、バス２５１３を通して相互接続される。バス２５１３は、ＰＣＩバスまたはＥＩＳＡバス等であってよい。バスは、アドレスバス、データバスおよび制御バス等に分類されてよい。表示のしやすさのため、図２５中ではバスを表わすために１本の太線のみが用いられているが、１つのバスのみまたは１つのタイプのバスのみが存在することを意味していない。
【０２７６】
本願で開示された内容と組み合わせて説明された方法またはアルゴリズムの段階は、ハードウェアによって実装されてよく、または、ソフトウェア命令を実行するプロセッサによって実装されてよい。ソフトウェア命令は、対応するソフトウェアモジュールを含んでよい。ソフトウェアモジュールは、ランダムアクセスメモリ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ，ＲＡＭ）、フラッシュメモリ、リードオンリメモリメモリ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ，ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（Ｅｒａｓａｂｌｅ  Ｐｒｏｇｒａｍｍａｂｌｅ  ＲＯＭ，ＥＰＲＯＭ）、電気的消去可能なプログラマブルリードオンリメモリ（Ｅｌｅｃｔｒｉｃａｌｌｙ  ＥＰＲＯＭ，ＥＥＰＲＯＭ）、レジスタ、ハードディスク、モバイルハードディスク、コンパクトディスクリードオンリメモリ（ＣＤ‐ＲＯＭ）、または、当該技術分野で周知の格納媒体の任意の他の形態に格納されてよい。例えば、プロセッサが、格納媒体から情報を読み取ることができ、または、情報を格納媒体に書き込むことができるように、格納媒体はプロセッサに連結されている。格納媒体が、プロセッサのコンポーネントであってよいことはもちろんである。プロセッサおよび記憶媒体は、ＡＳＩＣに配置されてよい。また、ＡＳＩＣは、コアネットワークインタフェースデバイスに配置されてよい。プロセッサおよび記憶媒体は、コアネットワークインタフェースデバイス内に、ディスクリートコンポーネントとして存在してよいことはもちろんである。
【０２７７】
当業者であれば、上述の１または複数の例において、本願で説明された機能が、ハードウェア、ソフトウェア、ファームウェア、または、これらの任意の組み合わせで実装され得ることを理解されたい。本発明がソフトウェアで実装される場合、上述の機能は、コンピュータ可読媒体内に格納され、または、コンピュータ可読媒体内の１または複数の命令またはコードとして送信されてよい。コンピュータ可読媒体は、コンピュータ記憶媒体および通信媒体を含み、通信媒体は、コンピュータプログラムがある場所から別の場所へ送信されることを可能にする任意の媒体を含む。格納媒体は、汎用または専用のコンピュータにアクセス可能な任意の利用可能な媒体であってよい。
【０２７８】
本願の目的、技術的解決手段および利点については、上述の具体的な実施形態にさらに詳細に記載されている。上述の説明は、本願の特定の実施形態に過ぎず、本願の保護範囲を限定する意図はないことを理解されたい。本願の技術的解決手段に基づき、なされる任意の修正、均等な置換または改良は、本願の保護範囲に属するものとする。
【図１】
0006984841.tif 000015
【図２】
0006984841.tif 000016
【図３】
0006984841.tif 000017
【図４】
0006984841.tif 000018
【図５】
0006984841.tif 000019
【図６】
0006984841.tif 000020
【図７】
0006984841.tif 000021
【図８】
0006984841.tif 000022
【図９】
0006984841.tif 000023
【図１０】
0006984841.tif 000024
【図１１】
0006984841.tif 000025
【図１２】
0006984841.tif 000026
【図１３】
0006984841.tif 000027
【図１４】
0006984841.tif 000028
【図１５】
0006984841.tif 000029
【図１６】
0006984841.tif 000030
【図１７】
0006984841.tif 000031
【図１７Ａ】
0006984841.tif 000032
【図１８】
0006984841.tif 000033
【図１９】
0006984841.tif 000034
【図２０】
0006984841.tif 000035
【図２１】
0006984841.tif 000036
【図２２】
0006984841.tif 000037
【図２３】
0006984841.tif 000038
【図２４】
0006984841.tif 000039
【図２５】
0006984841.tif 000040