(57)【特許請求の範囲】
【請求項１】
第１の指標および第２の指標を受信するステップと、
前記第１の指標および前記第２の指標のうちの少なくとも１つを用いて、層間予測を使用して符号化したピクチャを指す第１の層から第２の層へのスイッチング・ポイントがビット・ストリーム中に存在するかどうかを決定するステップと、
前記決定が、そのようなスイッチング・ポイントが存在することを示す場合には、
該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化するステップと、
前記スイッチング・ポイントに結合した１つ以上のピクチャを復号化するステップと、
前記スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化するステップと、を含む符号化されたビデオを復号化する方法であって、
前記第１の指標は、前記第２の層における第１の所定タイプのピクチャのみが
層間予測を利用し、他のタイプのピクチャはいずれも層間予測を利用しないことを示し、
前記第２の指標は、少なくとも２つの層からのピクチャを含むスイッチング・ポイントに結合したアクセス・ユニット以外、他のどのアクセス・ユニットも単一層からのピクチャのみを含むことを示す、
方法。
【請求項２】
シーケンス・レベルにおいて、前記第１の指標および前記第２の指標を受信するステップと、
ネットワーク抽象化層におけるユニットのタイプとして前記第１の指標および前記第２の指標を受信するステップと、
補足エンハンスメント情報ネットワーク抽象化層ユニットにおける前記第１の指標および前記第２の指標を受信するステップと、
シーケンス・パラメータ・セットにおける前記第１の指標および前記第２の指標を受信するステップと、
のうちの１つ以上を含む請求項１に記載の方法。
【請求項３】
符号化されたビデオ・シーケンスが、適応解像度変更操作を実行するように拘束されるか否かを決定するために前記第１の指標を使用するステップと、
層間スケーラビリティ・ツールを使用することができるか否かを決定するために前記第２の指標を使用するステップと、
を含む請求項１または２に記載の方法。
【請求項４】
前記第１の層は、スケーラブルなビデオ符号化のベース層であり、前記第２の層は、該スケーラブルなビデオ符号化の強化層であることと、
前記第１の層は、スケーラブルなビデオ符号化の第１の強化層であり、前記第２の層は、該スケーラブルなビデオ符号化の別の強化層であることと、
前記第１の層は、マルチビュー・ビデオ符号化の第１のビューであり、前記第２の層は、該マルチビュー・ビデオ符号化の第２のビューであることと、
のうちの１つを含む請求項１または３に記載の方法。
【請求項５】
第１の指標および第２の指標を受信する手段と、
前記第１の指標および前記第２の指標のうちの少なくとも１つを用いて、第１の層から第２の層へのスイッチング・ポイントがビット・ストリーム中に存在するかどうかを決定する手段と、
該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化する手段と、
該スイッチング・ポイントに結合した１つ以上のピクチャを復号化する手段と、
該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化する手段と、
を備える、符号化されたビデオを復号化する装置であって、
前記第１の指標は、前記第２の層における第１の所定タイプのピクチャのみが
層間予測を利用し、他のタイプのピクチャはいずれも層間予測を利用しないことを示し、
前記第２の指標は、少なくとも２つの層からのピクチャを含むスイッチング・ポイントに結合したアクセス・ユニット以外、他のどのアクセス・ユニットも単一層からのピクチャのみを含むことを示す、
装置。
【請求項６】
シーケンス・レベルにおいて、または、ネットワーク抽象化層におけるユニットのタイプとして、または、補足エンハンスメント情報ネットワーク抽象化層ユニットにおいて、または、シーケンス・パラメータ・セットにおいて、前記第１の指標および前記第２の指標を受信する手段を更に備える請求項５に記載の装置。
【請求項７】
符号化されたビデオ・シーケンスが、適応解像度変更操作を実行するように拘束されるか否かを決定するために前記第１の指標を使用する手段と、
スイッチング・ピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含むか否か、スイッチングが起こるアクセス・ユニットが、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができるか否かを決定するために前記第２の指標を使用する手段と、を更に備える請求項６記載の装置。
【請求項８】
少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、第１の指標および第２の指標を受信させ、
前記第１の指標および前記第２の指標のうちの少なくとも１つを用いて、第１の層から第２の層へのスイッチング・ポイントがビット・ストリーム中に存在するかどうかを決定させ、
前記決定が、そのようなスイッチング・ポイントが存在することを示す場合には、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化させ、
該スイッチング・ポイントに結合した１つ以上のピクチャを復号化させ、
該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化させるように構成されたコンピュータ・プログラム・コードを備える、固定コンピュータ読取り可能メディアの上で具体化されるコンピュータ・プログラム・プロダクトであって、
前記第１の指標は、前記第２の層における第１の所定タイプのピクチャのみが
層間予測を利用し、他のタイプのピクチャはいずれも層間予測を利用しないことを示し、
前記第２の指標は、少なくとも２つの層からのピクチャを含むスイッチング・ポイントに結合したアクセス・ユニット以外、他のどのアクセス・ユニットも単一層からのピクチャのみを含むことを示す、
コンピュータ・プログラム・プロダクト。
【請求項９】
前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、
シーケンス・レベルにおいて、前記第１の指標および前記第２の指標を受信することと、
ネットワーク抽象化層におけるユニットのタイプとして前記第１の指標および前記第２の指標を受信することと、
補足エンハンスメント情報ネットワーク抽象化層ユニットにおける前記第１の指標および前記第２の指標を受信することと、
シーケンス・パラメータ・セットにおける前記第１の指標および前記第２の指標を受信することと、
を実行させるように構成されたコンピュータ・プログラム・コードを備える、請求項８に記載のコンピュータ・プログラム・プロダクト。
【請求項１０】
層間予測を使用しないで、第１の層の第１の解像度を有する第１のピクチャ・タイプにしたがって第１のピクチャを符号化するステップと、
前記第１の層と第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の第２の解像度を有する第２のピクチャ・タイプにしたがって第２のピクチャを符号化するステップと、
層間予測を使用しないで、また、前記第２の層の上の前記第２のピクチャの前のピクチャへの時間的参照をすることなく、前記第２の層の前記第２の解像度を有する第３のピクチャ・タイプにしたがって第３のピクチャを符号化するステップと、
第１の指標および第２の指標を符号化するステップと、を含むビデオを符号化する方法であって、
該第１の指標は、前記第３のピクチャが、層間予測を使用しないで、符号化されており、前記第２のピクチャが、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を提供し、
該第２の指標は、少なくとも２つの層からのピクチャを含むスイッチング・ポイントに結合したアクセス・ユニット以外、他のどのアクセス・ユニットも単一層からのピクチャのみを含むことの標示を提供する、方法。
【請求項１１】
シーケンス・レベルにおいて前記第１の指標および前記第２の指標を信号伝達するステップと、
ネットワーク抽象化層におけるユニットのタイプにより前記第１の指標および前記第２の指標を信号伝達するステップと、
補足エンハンスメント情報ネットワーク抽象化層ユニットにおける前記第１の指標および前記第２の指標を信号伝達するステップと、
シーケンス・パラメータ・セットにおける前記第１の指標および前記第２の指標を信号伝達するステップと、
シーケンス・パラメータ・セットにおける前記第１の指標および前記第２の指標を信号伝達するステップと、のうちの１つ以上を含む請求項１０に記載の方法。
【請求項１２】
前記標示は、さらに、前記標示の範囲の中のすべてのアクセス・ユニットが、
前記第１のピクチャ・タイプのピクチャ、
前記第２のピクチャ・タイプのピクチャ、
前記第３のピクチャ・タイプのピクチャ、
前記第１のピクチャ・タイプのピクチャおよび前記第２のピクチャ・タイプのピクチャ、
から成ることを示す、請求項１０に記載の方法。
【請求項１３】
前記第２のピクチャ・タイプのピクチャを示すために、および、復号化する順序において、ネットワーク抽象化層ユニット・タイプで示される前記ピクチャに続く前記第２の層の中の任意のピクチャが、前記第３のピクチャ・タイプのものであることを示すために、前記ネットワーク抽象化層ユニット・タイプを使用するステップを含む、請求項１０または１２に記載の方法。
【請求項１４】
前記第１の層は、スケーラブルなビデオ符号化のベース層であり、前記第２の層は、該スケーラブルなビデオ符号化の強化層であることと、
前記第１の層は、スケーラブルなビデオ符号化の第１の強化層であり、前記第２の層は、該スケーラブルなビデオ符号化の別の強化層であることと、
前記第１の層は、マルチビュー・ビデオ符号化の第１のビューであり、前記第２の層は、該マルチビュー・ビデオ符号化の第２のビューであることと、
のうちの１つを含む、請求項１０または１２に記載の方法。
【請求項１５】
ビデオ表示の解像度変更、品質スケーラビリティ、ビット深度スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの少なくとも１つに対して前記第２のピクチャを使用するステップを含む、請求項１０または１２に記載の方法。
【請求項１６】
ネットワーク・エレメントにより、ビデオ表現の少なくとも１つのアクセス・ユニットに対して前記第１の層と前記第２の層の符号化されたピクチャを受信するステップと、
前記ビデオ表現が受取人に送られることになっている形を決定するステップと、
を含み、
前記決定に基づいて、前記方法は、前記受取人に、前記ビデオ表現の１つの層のみを送信するステップ、または、前記受取人に、前記第１の層および前記第２の層の両方を送信するステップ、
を更に含む、請求項１０に記載の方法。
【請求項１７】
層間予測を使用しないで、第１の層の第１の解像度を有する第１のピクチャ・タイプにしたがって第１のピクチャを符号化する手段と、
前記第１の層と第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の第２の解像度を有する第２のピクチャ・タイプにしたがって第２のピクチャを符号化する手段と、
層間予測を使用しないで、また、前記第２の層の上の前記第２のピクチャの前のピクチャへの時間的参照をすることなく、前記第２の層の前記第２の解像度を有する第３のピクチャ・タイプにしたがって第３のピクチャを符号化する手段と、
第１の指標および第２の指標を符号化する手段と、を備える、ビデオを符号化する装置であって、
該第１の指標は、前記第１のピクチャ・タイプおよび第３のピクチャ・タイプが、層間予測を使用しないで、符号化されており、前記第２のピクチャが、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を提供し、
該第２の指標は、少なくとも２つの層からのピクチャを含むスイッチング・ポイントに結合したアクセス・ユニット以外、他のどのアクセス・ユニットも単一層からのピクチャのみを含むことの標示を提供する、装置。
【請求項１８】
シーケンス・レベルにおいて、または、ネットワーク抽象化層におけるユニットのタイプによって、または、補足エンハンスメント情報ネットワーク抽象化層ユニットにおいて、または、シーケンス・パラメータ・セットにおいて、または、ビデオ・パラメータ・セットにおいて、前記標示を信号伝達する手段を更に備える、請求項１７に記載の装置。
【請求項１９】
前記標示は、さらに、前記標示の範囲の中のすべてのアクセス・ユニットが、
前記第１のピクチャ・タイプのピクチャ、
前記第２のピクチャ・タイプのピクチャ、
前記第３のピクチャ・タイプのピクチャ、
前記第１のピクチャ・タイプのピクチャおよび前記第２のピクチャ・タイプのピクチャ、
から成ることを示す、請求項１７に記載の装置。
【請求項２０】
ネットワーク・エレメントにより、ビデオ表現の少なくとも１つのアクセス・ユニットに対して前記第１の層と前記第２の層の符号化されたピクチャを受信する手段と、
前記ビデオ表現が受信者に送られるべきフォーマットを決定する手段と、
を更に備え、
コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記決定に基づいて、前記受信者へ前記ビデオ表現の層の１つのみ、または、前記受信者に、前記第１の層と前記第２の層との両方を送ることを更に実行させる、
請求項１７または１９に記載の装置。
【請求項２１】
少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、
層間予測を使用しないで、第１の層の第１の解像度を有する第１のピクチャ・タイプにしたがって、第１のピクチャを符号化させ、
前記第１の層と第２の層との間での層間予測を使用して、また、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の第２の解像度を有する第２のピクチャ・タイプにしたがって、第２のピクチャを符号化させ、
層間予測を使用しないで、および、前記第２の層の上の前記第２のピクチャの前のピクチャへの時間的参照をすることなく、前記第２の層の前記第２の解像度を有する第３のピクチャ・タイプにしたがって第３のピクチャを符号化させ、
前記第１および第３のピクチャは、層間予測を使用しないで、符号化されていること、
および、前記第２のピクチャが、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの指標を符号化させ、
第１の指標および第２の指標を符号化させるように構成されたコンピュータ・プログラム・コードを備える、固定コンピュータ読取り可能メディアの上で具体化されるコンピュータ・プログラム・プロダクトであって、
前記第１の指標は、前記第２の層における第１の所定タイプのピクチャのみが層間予測を利用し、他のタイプのピクチャはいずれも層間予測を利用しないことを示し、
前記第２の指標は、少なくとも２つの層からのピクチャを含むスイッチング・ポイントに結合したアクセス・ユニット以外、他のどのアクセス・ユニットも単一層からのピクチャのみを含むことを示す、
コンピュータ・プログラム・プロダクト。
【請求項２２】
前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、
シーケンス・レベルにおいて前記第１の指標および第２の指標を信号伝達するステップと、
ネットワーク抽象化層におけるユニットのタイプにより前記第１の指標および第２の指標を信号伝達するステップと、
補足エンハンスメント情報ネットワーク抽象化層ユニットにおける前記第１の指標および第２の指標を信号伝達するステップと、
シーケンス・パラメータ・セットにおける前記第１の指標および第２の指標を信号伝達するステップと、
ビデオ・パラメータ・セットにおける前記第１の指標および第２の指標を信号伝達するステップと、
を実行させるように構成されたコンピュータ・プログラム・コードを備える、請求項２１に記載のコンピュータ・プログラム・プロダクト。
【請求項２３】
前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、
ビデオ表現の少なくとも１つのアクセス・ユニットに対して前記第１の層と前記第２の層の符号化されたピクチャを、ネットワーク・エレメントによって受信するステップと、
前記ビデオ表現が受信者に送られるべきフォーマットを決定するステップと、
を実行させ、
前記決定に基づいて、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、
前記受信者へビデオ表現の層の１つのみを送るステップ、または、前記受信者に、前記第１の層と前記第２の層との両方を送るステップを更に実行させる、
ように構成されたコンピュータ・プログラム・コードを備える、
請求項２１または２２に記載のコンピュータ・プログラム・プロダクト。
【発明の詳細な説明】
【技術分野】
【０００１】
本出願は、一般に、ビデオ・コーディングおよびデコーディングのための装置、方法、およびコンピュータ・プログラムに関する。
【背景技術】
【０００２】
このセクションは、請求項において述べられた発明に対する背景またはコンテキストを提供することを意図している。ここにおける記述は、追求できたであろうコンセプトを含むことができるが、しかし、必ずしも以前に、検討された、あるいは、追求されたものであるとは限らない。したがって、ここで特に明記しない限り、このセクションにおいて記載されることは、本出願における記載および請求項に対する先行技術ではなく、また、このセクションに含まれることによって先行技術と認められることはない。
【０００３】
ビデオ・コーディング・システムは、入力ビデオを、格納／伝送に適切な圧縮表現に変換するエンコーダと、圧縮されたビデオ表現を、見ることができる形に解凍することができるデコーダとを備えることができる。エンコーダは、ビデオをよりコンパクトな形に表現するため、例えば、そうでなければ必要とされるビット・レートよりも、低いビット・レートでビデオ情報を格納／伝送することを可能にするために、元のビデオ・シーケンスにおけるいくらかの情報を廃棄することができる。
【０００４】
スケーラブル・ビデオ・コーディングは、１つのビットストリームが、異なるビット・レート、解像度、フレーム・レート、および／または、他のタイプのスケーラビリティのコンテンツの多重の表現を含むことができるコーディング構造を指す。スケーラブル・ビットストリームは、利用可能な最も低い品質のビデオを提供するベース層と、下位の層と一緒に受信され、デコードされたときに、ビデオ品質を強化する１つ以上の強化層とから成ることができる。強化層に対するコーディング効率を改善するために、その層のコード化された表現は、下位の層に依存することができる。各層は、その依存するすべての層と一緒に、ある空間解像度、時間的解像度、品質レベル、および／または、他のタイプのスケーラビリティの動作点におけるビデオ信号の１つの表現である。
【０００５】
三次元（３Ｄ）ビデオ・コンテンツを提供するための種々の技術が、現在、研究開発されている。特に、集中的研究の焦点は、ビューアが、特定の視点からのステレオ・ビデオの１つのペアおよび異なる視点からの別のステレオ・ビデオの１つのペアしか見ることができないような、種々のマルチビュー・アプリケーションに置かれている。そのようなマルチビュー・アプリケーションに対する最も実現可能なアプローチの１つは、限られた数の入力ビューのみ、例えば、モノまたはステレオ・ビデオプラスある補足的データ、が、デコーダ側に提供され、次に、すべての必要なビューが、デコーダにより局所的に描画（つまり同期）されて、ディスプレイ上に表示されるようなアプローチであることが判明した。
【０００６】
３Ｄビデオ・コンテンツの符号化において、Ｈ．２６４／ＡＶＣ（Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）標準、または、ＭＶＣ（Ｍｕｌｔｉｖｉｅｗ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ）Ｈ．２６４／ＡＶＣの拡張などのビデオ圧縮システムを、使用することができる。
【発明の概要】
【０００７】
いくつかの実施形態は、ビデオ情報をエンコードおよびデコードするための方法を提供する。いくつかの実施形態において、目的は、例えば、ＳＨＶＣなどのスケーラブル・ビデオ・コーディング拡張を使用して適応解像度変更を可能にすることである。これは、強化層における特定のタイプだけの画像（例えば、ＲＡＰ画像、または、異なるＮＡＬユニット・タイプで示された異なるタイプの画像）が、層間予測を利用するスケーラブル・ビデオ・コーディング・ビットストリームを示すことによってなされる。また、適応解像度変更操作は、ビットストリームで、スイッチング画像を除いて、シーケンスにおける各々のＡＵは、単一層からの単一画像を含み（これは、ベース層画像であっても、そうでなくてもよい）、スイッチングが起こるアクセス・ユニットは、２つの層からの画像を含み、層間スケーラビリティ・ツールを使用することができるように、示すことができる。
【０００８】
前述のコーディング構成は、いくつかの優位点をを提供することができる。例えば、この標示を使用して、適応解像度変更は、スケーラブル拡張フレームワークで、ビデオ会議環境で使用することができる。そして、ミドル・ボックスは、ビットストリームを整え、異なる能力を有するエンド・ポイントに適応するために、より柔軟性を持つことができる。
【０００９】
発明の例の種々の形態が、詳細な記述において提供される。
【００１０】
本願発明の第１の態様にしたがって、層間予測を使用しないで、第１の層の上の第１の解像度を有する第１の画像をエンコードするステップと、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からの画像を使用して時間的予測を使用しないで、第２の層の上の第２の解像度を有する第２の画像をエンコードするステップと、層間予測を使用しないで、そして、前記第２の層上の前記第２の画像の前の画像を時間的に参照することなく、第２の層の上の第２の解像度を有する第３の画像をエンコードするステップと、前記第１および第３の画像は、層間予測を使用しないで、エンコードされていること、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなくエンコードされていることの指標をエンコードするステップと、を含む方法が提供される。
【００１１】
本願発明の第２の態様にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリを備える装置が提供される。前記少なくとも１つのメモリと前記コンピュータ・プログラム・コードは、前記少なくとも１つのプロセッサにより、前記装置に、層間予測を使用しないで、第１の層の第１の解像度を有する第１の画像をエンコードさせ、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からの画像を使用して時間的予測を使用しないで、第２の層の第２の解像度を有する第２の画像をエンコードさせ、層間予測を使用しないで、また、前記第２の層上の前記第２の画像の前の画像を時間的に参照することなく、前記第２の層の前記第２の解像度を有する第３の画像をエンコードさせ、前記第１および第３の画像は、層間予測を使用しないで、エンコードされていること、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなくエンコードされていることの指標をエンコードさせるように構成される。
【００１２】
本願発明の第３の態様にしたがって、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、層間予測を使用しないで、第１の層の上の第１の解像度を有する第１の画像をエンコードさせ、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の解像度から前記第２の解像度へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の上の第２の解像度を有する第２の画像をエンコードさせ、層間予測を使用しないで、前記第２の層上の前記第２のピクチャの前のピクチャを時間的に参照することなく、第２の層の上の第２の解像度を有する第３の画像をエンコードさせ、前記第１の、および、第３のピクチャが、層間予測を使用しないで、符号化されており、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなくエンコードされていることの標示を符号化させるように構成されたコンピュータ・プログラム・コードを備える固定コンピュータ読取り可能メディアの上で具体化されるコンピュータ・プログラム・プロダクトが提供される。
【００１３】
本願発明の第４の態様にしたがって、層間予測を使用しないで、第１の層の第１の解像度を有する第１の画像を符号化する手段と、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の第２の解像度を有する第２の画像を符号化する手段と、層間予測を使用しないで、前記第２の層上の前記第２のピクチャの前のピクチャを時間的に参照することなく、前記第２の層の前記第２の解像度を有する第３の画像を符号化する手段と、前記第１の、および、第３のピクチャが、層間予測を使用しないで、符号化されており、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなくエンコードされている標示を符号化する手段と、を備える装置が提供される。
【００１４】
本願発明の第５の態様にしたがって、層間予測が、ランダム・アクセス・ポイント・ピクチャを符号化するのに使用され、また、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために１つ以上の標示を受信することを含む方法が提供される。ここで、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、この方法は、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化するステップと、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化するステップと、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化するステップと、を更に含む。
【００１５】
本願発明の第６の態様にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリを備える装置が提供される。前記少なくとも１つのメモリと前記コンピュータ・プログラム・コードは、前記少なくとも１つのプロセッサにより、前記装置に、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために、１つ以上の標示を受信させるように構成される。ここで、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化することと、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化することと、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化することと、を実行させ、
【００１６】
本願発明の第７の態様にしたがって、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために、１つ以上の標示を受信させるように構成されたコンピュータ・プログラム・コードを含む固定コンピュータ読取り可能メディアの上で具体化されるコンピュータ・プログラム・プロダクトが提供される。ここで、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化することと、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化することと、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化することと、を実行させ、
【００１７】
本願発明の第８の態様にしたがって、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために１つ以上の標示を受信するための手段と、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化し、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化し、そして、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化するための手段とを備える装置が提供される。
【００１８】
本願発明の第９の態様にしたがって、第１の解像度を有するピクチャの第１のセットを第１の表現に符号化するステップと、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現に符号化するステップと、インタ予測を用いずに、また、前記第２の表現のピクチャの前記第２のセットの以前のピクチャへの時間的参照をすることなく、第２の解像度を有するピクチャの第３のセットを第３の表現に符号化するステップと、ピクチャの前記第１の、および、第３のセットが、層間予測を使用しないで、符号化されており、層間予測を使用しているが、時間的予測を使用することなくピクチャの前記第２セットのうちの少なくとも１つのピクチャが、符号化されている標示を符号化するステップと、を含む方法が提供される。
【００１９】
本願発明の第１０の態様にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリを備える装置が提供される。前記少なくとも１つのメモリと前記コンピュータ・プログラム・コードは、前記少なくとも１つのプロセッサにより、前記装置に、第１の解像度を有するピクチャの第１のセットを第１の表現に符号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現に符号化させ、インタ予測を用いずに、および、前記第２の表現のピクチャの前記第２のセットの以前のピクチャへの時間的参照をすることなく、第２の解像度を有するピクチャの第３のセットを第３の表現に符号化させ、ピクチャの前記第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、および、層間予測を使用しているが、時間的予測を使用することなく、ピクチャの前記第２のセットのうちの少なくとも１つのピクチャは、符号化されていることの標示を符号化させるように構成される。
【００２０】
本願発明の第１１の態様にしたがって、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、第１の解像度を有するピクチャの第１のセットを第１の表現に符号化すること、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現に符号化すること、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャへの時間的参照をすることなく、第２の解像度を有するピクチャの第３のセットを第３の表現に符号化すること、および、ピクチャの前記第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、層間予測を使用しているが、時間的予測を使用することなく、ピクチャの前記第２のセットのうちの少なくとも１つのピクチャは、符号化されていることの標示を符号化すること、実行させるように構成されたコンピュータ・プログラム・コードを備える、固定コンピュータ読取り可能メディアの上で具体化されるコンピュータ・プログラム・プロダクトが提供される。
【００２１】
本願発明の第１２の態様にしたがって、ピクチャの第１の、および、第３のセットは、インタ予測を用いずに、符号化され、ピクチャの第２セットのうちの少なくとも１つのピクチャは、層間予測を使用しているが、時間的予測を使用することなく、符号化されることを示している標示を復号化するステップと、第１の解像度を有するピクチャの前記第１のセットを第１の表現に復号化するステップと、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現から復号化するステップと、インタ予測を用いずに、および、前記第２の表現のピクチャの前記第２のセットの以前のピクチャへの時間的参照をすることなく、第２の解像度を有するピクチャの第３のセットを第３の表現から復号化するステップと、を含む方法が提供される。
【００２２】
本願発明の第１３の態様にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリを備える装置が提供される。前記少なくとも１つのメモリと前記コンピュータ・プログラム・コードは、前記少なくとも１つのプロセッサにより、前記装置に、ピクチャの第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、ピクチャの第２のセットのうちの少なくとも１つのピクチャは、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を復号化させ、第１の解像度を有するピクチャの前記第１のセットを第１の表現に復号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２セットを第２の表現から復号化させ、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャへの時間的参照をすることなく、前記第２の解像度を有するピクチャの前記第３のセットを、第３の表現から復号化させるように構成される。
【００２３】
本願発明の第１４の態様にしたがって、コンピュータ読み取り可能な配布媒体において具体化され、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、ピクチャの第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、ピクチャの第２のセットのうちの少なくとも１つのピクチャは、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を復号化させ、第１の解像度を有するピクチャの前記第１のセットを第１の表現に復号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２セットを第２の表現から復号化させ、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャへの時間的参照をすることなく、前記第２の解像度を有するピクチャの前記第３のセットを、第３の表現から復号化させるように構成されたコンピュータ・プログラム・コードを備える、コンピュータ・プログラム・プロダクトが提供される。
【図面の簡単な説明】
【００２４】
本願発明の例示的実施形態のより完全な理解のために、次に、添付の図面と関連して、次の記載を参照する。
【図１】図１は、本願発明のいくつかの実施形態を使用している電子デバイスを図式的に示す。
【図２】図２は、本願発明のいくつかの実施形態を使用するのに適切なユーザ装置を図式的に示す。
【図３】図３は、さらに、無線および有線ネットワーク接続を使用して接続されている本願発明の実施形態を使用している電子デバイスを図式的に示す。
【図４ａ】図４ａは、エンコーダの実施形態を図式的に示す。
【図４ｂ】図４ｂは、いくつかの実施形態にしたがう、空間スケーラビリティ符号化装置の実施形態を図式的に示す。
【図５ａ】図５ａは、デコーダの実施形態を図式的に示す。
【図５ｂ】図５ｂは、本願発明のいくつかの実施形態にしたがう、空間スケーラビリティ復号化装置の実施形態を図式的に示す。
【図６】図６は、現在のブロックと、動き予測候補として使える５つの空間的隣接の例を表す。
【図７】図７は、解像度変更を有するピクチャ・ストリームの例を表す。
【図８】図８は、２つのタイルからなるピクチャの例を示す。
【図９】図９は、一般的なマルチメディア通信システムのグラフィック表現である。
【図１０】図１０は、適応解像度変更の概念を図示する。
【図１１】図１１は、適応解像度変更の概念を利用している解像度変化の例を図示する。
【図１２ａ】図１２ａは、適応セットの中に１つより多い解像度が存在するときに、複数の適応解像度変更表現を使用することを図示する。
【図１２ｂ】図１２ｂ−図１２ｄは、異なるスイッチング・シナリオに対してダウンロードされたセグメントの例を図示する。
【図１２ｃ】図１２ｂ−図１２ｄは、異なるスイッチング・シナリオに対してダウンロードされたセグメントの例を図示する。
【図１２ｄ】図１２ｂ−図１２ｄは、異なるスイッチング・シナリオに対してダウンロードされたセグメントの例を図示する。
【図１３】図１３は、異なる特性を有する適応解像度変更表現の例を図示する。
【図１４】図１４は、ＨＴＴＰ表現の上のいくつかのダイナミック適応ストリーミングのいくつかの詳細を表す。
【図１５】図１５は、ＨＴＴＰの上のストリーミングに対する簡略化システムを表す。
【発明を実施するための形態】
【００２５】
下記において、発明のいくつかの実施形態を、１つのビデオ・コーディング装置と関連して記述される。しかし、発明はこの特定の装置に制限されないということに留意されたい。実際、異なる実施形態が、参照ピクチャの取り扱いに改良が要求されるいかなる環境においても広く適用されている。例えば、本願発明は、ストリーミングシステム、ＤＶＤプレーヤ、デジタルテレビ受信器、パーソナル・ビデオ・レコーダ、パーソナルコンピュータ上のシステムおよびコンピュータ・プログラム、ハンドヘルドコンピュータ、および通信装置のようなビデオ・コーディング・システム、並びに、トランスコーダおよびビデオデータが取り扱われるクラウド・コンピューティング装置のようなネットワーク要素に適用できる。
【００２６】
下記において、いくつかの実施形態を、コーディング、デコーディングと参照する取り決めを使用して、記載する。これは、実施形態を、デコーディングやエンコーディングに適用することができることを示す。
【００２７】
Ｈ．２６４／ＡＶＣ標準は、国際電気通信連合の電気通信標準化部門（ＩＴＵ−Ｔ）のビデオ・コーディング専門家グループ（ＶＣＥＧ）のジョイントビデオチーム（ＪＶＴ）と、国際電気技術委員会（ＩＥＣ）の国際標準化メカニズム（ＩＳＯ）の動画像専門家グループ（ＭＰＥＧ）により開発された。Ｈ．２６４／ＡＶＣ標準は、母体となる標準化メカニズムの両者により公表され、ＩＴＵ−Ｔ勧告Ｈ．２６４およびＭＰＥＧ−４Ｐａｒｔ１０高度動画像圧縮コーディング標準（ＡＶＣ）としても知られているＩＳＯ／ＩＥＣ国際標準１４４９６−１０と言われている。Ｈ．２６４／ＡＶＣ標準には複数のバージョンがあり、それぞれは、新しい拡張または特徴を仕様に統合している。これらの拡張には、スケーラブル・ビデオ・コーディング（ＳＶＣ）およびマルチビューコーディング（ＭＶＣ）が含まれる。
【００２８】
Ｊｏｉｎｔ  Ｃｏｌｌａｂｏｒａｔｉｖｅ  ＴｅａｍによるＨｉｇｈ  Ｅｆｆｉｃｉｅｎｃｙ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＨＥＶＣ）の現在進行中の標準化プロジェクト、つまり、ＶＣＥＧおよびＭＰＥＧのＶｉｄｅｏ  Ｃｏｄｉｎｇ（ＪＣＴ−ＶＣ）がある。
【００２９】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣを記載するときには、例示的実施形態と同様に、例えば、Ｈ．２６４／ＡＶＣまたはＨＥＶＣ草案において指定されているような算術演算子、論理演算子、関係演算子、二値演算子、代入演算子、および範囲表記のための共通の表記が使用できる。更に、例えば、Ｈ．２６４／ＡＶＣまたはＨＥＶＣ草案において指定されているような共通の数学的関数を使用でき、例えば、Ｈ．２６４／ＡＶＣまたはＨＥＶＣ草案において指定されているような演算子の優先権および実行順（左から右、または右から左）の共通の順を使用できる。
【００３０】
例としての実施形態においては、下記のディスクリプタが、各シンタックス要素の構文解析プロセスを指定するために使用できる。
−  ｂ（８）：任意のパターンのビット列を有するバイト（８ビット）
−  ｓｅ（ｖ）：左ビットを最初とする符号付き整数型指数ゴロム符号化シンタックス要素
−  ｕ（ｎ）：ｎビットを使用する符号なしの整数。シンタックス・テーブルでｎが「ｖ」のときは、ビット数は、他のシンタックス要素の値に依存して変化する。このディスクリプタに対する構文解析プロセスは、最初に書かれた最上位ビットを有する符号なし整数の２進表現として解釈されたビットストリームから、ｎ個の次のビットにより指定される。
−  ｕｅ（ｖ）：左ビットを最初とする符号なし整数型指数ゴロム符号化シンタックス要素。
【００３１】
指数ゴロムビット列は、例えば、下記のテーブルを使用してコード番号（ｃｏｄｅＮｕｍ）に変換できる。
【表１】
0006290924.tif 000002
【００３２】
指数ゴロムビット列に対応するコード番号は、例えば、下記のテーブルを使用してｓｅ（ｖ）に変換できる。
【表２】
0006290924.tif 000003
【００３３】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣを記載するときには、例示的実施形態と同様に、シンタックス構造、シンタックス要素のセマンティックス、および、復号化プロセスは次のように指定できる。ビットストリームにおけるシンタックス要素はボールド・タイプで表現される。各シンタックス要素は、その名前（すべて下線文字の付いた小文字）で記述され、オプションとしては、１つまたは２つのシンタックス・カテゴリ、および、符号化表現の方法に対する１つまたは２つのディスクリプタで記述される。復号化プロセスの動作は、シンタックス要素の値、および以前に復号化されたシンタックス要素の値に従う。シンタックス要素の値がシンタックス・テーブルまたはテキストで使用されるときは、それは正規の（つまり、ボールドでない）タイプで現れる。いくつかの場合においては、シンタックス・テーブルはシンタックス要素値から導出された他の変数の値を使用できる。そのような変数は、シンタックス・テーブルまたはテキストに、下線文字なしで、小文字と大文字が混合した名前を付けられて現れる。大文字で始まる変数は、現在シンタックス構造およびすべての依存シンタックス構造の復号化のために導出される。大文字で始まる変数は、変数の発生源のシンタックス構造に言及することなく、後続のシンタックス構造のための復号化プロセスにおいて使用できる。小文字で始まる変数は、それらが導出されたコンテキスト内でのみ使用される。いくつかの場合においては、シンタックス要素値または変数値に対する「記憶のための（ｍｎｅｍｏｎｉｃ）」名前が、それらの数値と交換可能に使用される。「記憶のための」名前は、関連付けられた数値なしで使用されることもときどきある。値と名前の関連付けは、テキストにおいて指定される。名前は、下線文字により分離された１つ以上の文字のグループから構成される。各グループは、大文字から始まり、より多くの大文字を含むことができる。
【００３４】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣを記載するときには、例示的実施形態と同様に、シンタックス構造は下記を使用して指定できる。中括弧で囲まれたステートメントのグループは、複合ステートメントであり、機能的には単一のステートメントとして取り扱われる。「ｗｈｉｌｅ」構造は、条件が真であるかどうかのテストを示し、真の場合は、ステートメント（または複合ステートメント）の評価を、条件がもはや真でなくなるまで繰り返し指定する。「ｄｏ．．．ｗｈｉｌｅ」構造は、いったんステートメントの評価を指定し、それに続いて、条件が真であるかどうかのテストを指定し、真の場合は、条件がもはや真でなくなるまでのステートメントの繰り返し評価を指定する。「ｉｆ．．．ｅｌｓｅ」構造は、条件が真であるかどうかのテストを指定し、条件が真の場合は、最初のステートメントの評価を指定し、それ以外の場合は、代替ステートメントの評価を指定する。この構造の「ｅｌｓｅ」部分と、関連代替ステートメントは、代替ステートメントの評価が必要でない場合は省略される。「ｆｏｒ」構造は、初期ステートメントの評価を指定し、それに続いて、条件のテストを指定し、条件が真の場合は、最初のステートメントと、後続するステートメントの繰り返し評価を、条件がもはや真でなくなるまで指定する。
【００３５】
Ｈ．２６４／ＡＶＣとＨＥＶＣのいくつかの重要な定義、ビットストリームとコーディング構造、およびコンセプトが、ビデオ・エンコーダ、デコーダ、符号化方法、復号化方法、およびビットストリーム構造の例としてこの節では記述され、実施形態を実現できる。Ｈ．２６４／ＡＶＣのいくつかの重要な定義、ビットストリームとコーディング構造、およびコンセプトは、ＨＥＶＣ標準草案と同じであるため、この両者は以下にまとめて記述される。本願発明の態様はＨ．２６４／ＡＶＣまたはＨＥＶＣに制限されず、記述は１つの可能な基盤に対して行われ、その基盤に基づいて、本願発明を部分的または全体を実現できる。
【００３６】
多くの以前のビデオ・コーディング標準に類似して、エラーフリービットストリームに対する復号化プロセスと共に、ビットストリーム・シンタックスとセマンティックスが、Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいて指定されている。符号化プロセスは指定されていないが、エンコーダは、規格に準拠しているビットストリームを生成しなければならない。ビットストリームとデコーダが、規格に準拠しているかは、仮想参照デコーダ（ＨＲＤ）により検証可能である。この標準は、送信エラーと紛失に対処することを支援するコーディングツールを含んでいるが、符号化におけるツールの使用はオプションであり、復号化プロセスはエラーのあるビットストリームに対しては指定されていない。
【００３７】
Ｈ．２６４／ＡＶＣまたはＨＥＶＣエンコーダへの入力と、Ｈ．２６４／ＡＶＣまたはＨＥＶＣデコーダの出力それぞれのための要素ユニットは、ピクチャである。Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいては、ピクチャはフレームまたはフィールドである。フレームは、ルマ・サンプルと、対応するクロマ・サンプルとのマトリックスを備えている。フィールドは、フレームの交互のサンプル行のセットであり、ソース信号がインタレースされているときに、エンコーダ入力として使用できる。クロマ・ピクチャは、ルマ・ピクチャと比較されるときに、サブサンプリングできる。例えば、４：２：０サンプリングパターンにおいては、クロマ・ピクチャの空間解像度は、両方の座標軸に沿ってルマ・ピクチャの半分である。
【００３８】
パーティション分割は、そのセットの各要素が、そのサブセットのちょうど１つにあるように、セットのサブセットへの分割と定義することができる。ピクチャ分割は、ピクチャの、より小さなオーバラップしないユニットへの分割として定義することができる。ブロック分割は、サブブロックなど、ブロックの、より小さなオーバラップしないユニットへの分割として定義することができる。いくつかの場合においては、ブロック分割という用語は、たとえば、スライスへのピクチャの分割、および、各々のスライスの、Ｈ．２６４／ＡＶＣのマクロ・ブロックなど、より小さなユニットへの分割、などの分割の複数のレベルをカバーすると考えることができる。ピクチャなどの同じユニットは、複数の分割をすることができることに留意する。例えば、ＨＥＶＣ標準草案のコーディング・ユニットは、予測ユニットに、そして、別の４分木によって、別々に変換ユニットに分割することができる。
【００３９】
Ｈ．２６４／ＡＶＣにおいて、マクロ・ブロックはルマ・サンプルの１６×１６ブロックと、クロマ・サンプルの対応ブロックである。例えば、４：２：０サンプリングパターンにおいては、マクロ・ブロックは、各クロマ構成要素当たり、クロマ・サンプルの１つの８×８ブロックを含んでいる。Ｈ．２６４／ＡＶＣにおいては、ピクチャは１つ以上のスライス・グループにパーティション分割（種類ごとに分割すること）され、スライス・グループは１つ以上のスライスを含んでいる。Ｈ．２６４／ＡＶＣにおいては、スライスは、特定のスライス・グループ内のラスタ・スキャンにおいて連続して順序付けられている整数個のマクロ・ブロックから構成されている。
【００４０】
ＨＥＶＣ標準化の過程の間に、例えば、ピクチャパーティション分割ユニットについての用語が発展した。次の段落では、ＨＥＶＣ用語の非制限的ないくつかの例が提供される。
【００４１】
ＨＥＶＣ標準の１つの草案版においては、ビデオピクチャは、ピクチャの領域をカバーするコーディング・ユニット（ＣＵ）に分割される。ＣＵは、ＣＵ内のサンプルに対する予測プロセスを定義する１つ以上の予測ユニット（ＰＵ）と、ＣＵにおけるサンプルに対する予測エラーコーディングプロセスを定義する１つ以上の変換ユニット（ＴＵ）から構成されている。典型的には、ＣＵは、可能なＣＵサイズの予め定義されたセットから選択可能なサイズのサンプルの正方形ブロックから構成されている。最大可能サイズのＣＵは、典型的にはＬＣＵ（最大コーディング・ユニット）と言われ、ビデオピクチャは、重なりのないＬＣＵに分割される。ＬＣＵは、例えば、ＬＣＵと、結果としてのＣＵを再帰的に分割することにより、より小さなＣＵの組み合わせに更に分割可能である。各結果としてのＣＵは、少なくとも１つのＰＵと、そのＰＵと結びついている少なくとも１つのＴＵを有している。各ＰＵとＴＵは、予測と予測エラー符号化プロセスそれぞれの粒度を高めるために、より小さなＰＵとＴＵに更に分割可能である。各ＰＵは、ＰＵと関連付けられ、どの種類の予測がそのＰＵ内の画素に対して適用されるべきかを定義する予測情報を有することができる（例えば、インタ予測されたＰＵに対する動きベクトル情報、および、イントラ予測されたＰＵに対するイントラ予測指向性情報）。同様に、各ＴＵは、ＴＵ内のサンプルに対する予測エラー復号化プロセスを記述する情報と関連付けることができる。（例えば、ＤＣＴ係数情報を含んでいる）。ＣＵレベルで、予測エラーコーディングが、各ＣＵに対して適用されるか否かを信号伝達することができる。ＣＵと関連付けられた予測エラー残差がない場合は、ＣＵに対するＴＵはないと考えることが可能である。いくつかの実施形態において、ＰＵの分割は、ＣＵを４つの等しいサイズの正方形ＰＵに分割するか、またはＣＵを、２つの長方形のＰＵに、対称または非対称に、垂直または水平方向に分割することにより、実現することができる。画像のＣＵへの分割、およびＣＵのＰＵとＴＵへの分割は、ビットストリームにおいて信号伝達され、デコーダがこれらのユニットの意図されている構造を再生することが可能になる。
【００４２】
デコーダは、（エンコーダにより作成され、画像の圧縮表現に格納されている動きまたは空間情報を使用して）画素またはサンプルブロックの予測表現を形成するためにエンコーダにより使用されるものと類似している予測メカニズムおよび、予測エラー復号化（空間ドメインにおける量子化予測エラー信号を回復するための予測エラーコーディングの逆の動作）を適用することにより出力ビデオを再構築する。予測および予測エラー復号化手段を適用した後に、デコーダは、予測と予測エラー信号（画素またはサンプル値）を合成して、出力ビデオフレームを形成する。デコーダ（およびエンコーダ）は、また、ビデオ・シーケンスにおいて後で出現するピクチャのための予測参照としての表示および／または格納のために出力ビデオを渡す前に、出力ビデオの品質を向上するために追加的なフィルタリング手段を適用することもできる。
【００４３】
ＨＥＶＣ標準草案においては、ピクチャはタイルにパーティション分割可能であり、タイルは長方形であり、整数個のＬＣＵを含んでいる。ＨＥＶＣ標準草案においては、タイルへのパーティション分割は、規則的グリッドを形成し、このグリッドにおいては、タイルの高さと幅は最大で１ＬＣＵ分だけ互いに異なる。ＨＥＶＣ草案においては、スライスは、１つの独立したスライス・セグメントおよび、同じアクセス・ユニットの中における次の独立したスライス・セグメント（もしあれば）に先行する、すべての後続に従属するスライス・セグメント（もしあれば）に含まれる整数個のコーディング・ツリー・ユニットであると定義される。ＨＥＶＣ草案においては、スライス・セグメントは、タイル・スキャンにおいて連続して連続して順序付けられ、単一のＮＡＬユニットに含まれる整数個のコーディング・ツリー・ユニットであると定義される。各々のピクチャの、スライス・セグメントへの分割（ｄｉｖｉｓｉｏｎ）は、分割（ｐａｒｔｉｔｉｏｎｉｎｇ）である。ＨＥＶＣ草案においては、独立スライス・セグメントは、そのスライス・セグメント・ヘッダのシンタックス要素の値が、先行するスライス・セグメントに対する値から推測されないスライス・セグメントであると定義される。そして、従属スライス・セグメントは、そのスライス・セグメント・ヘッダのいくつかのシンタックス要素の値が、復号化する順序において、先行する独立スライス・セグメントに対する値から推測されないスライス・セグメントであると定義される。ＨＥＶＣ草案においては、スライス・ヘッダは、現在のスライス・セグメントである、あるいは、現在の従属スライス・セグメントに先行する独立スライス・セグメントである独立スライス・セグメントのスライス・セグメント・ヘッダであると定義される。そして、スライス・セグメント・ヘッダは、そのスライス・セグメントにおいて表われた第１のまたはすべてのコーディング・ツリー・ユニットに関係するデータ要素を含むコード化されたスライス・セグメントの一部であると定義される。ＨＥＶＣ草案においては、スライスは、整数個のＣＵから構成されている。ＣＵは、タイル内で、またはタイルが使用されていなときはピクチャ内で、ＬＣＵのラスタ・スキャン順でスキャンされる。ＬＣＵ内においては、ＣＵは特定のスキャン順を有している。
【００４４】
ＨＥＶＣＷＤ５における基本コーディング・ユニットは、ツリーブロックである。ツリーブロックは、ルマ・サンプルのＮ×Ｎブロックと、３つのサンプル・アレイを有しているピクチャのクロマ・サンプルの２つの対応するブロック、または、モノクロ・ピクチャ、または、３枚の別個の色版を使用して符号化されたピクチャのサンプルのＮ×Ｎブロックである。ツリーブロックは、異なるコーディングおよび復号化プロセスに対してパーティション分割できる。ツリーブロックのパーティション分割部は、３つのサンプル・アレイを有しているピクチャに対するツリーブロックのパーティション分割に起因するルマ・サンプルのブロックおよび２つの対応するクロマ・サンプルのブロック、または、モノクロ・ピクチャ、または３枚の別個の色版を使用して符号化されたピクチャに対するツリーブロックのパーティション分割に起因するルマ・サンプルのブロックである。各ツリーブロックには、イントラまたはインタ予測および変換コーディングに対するブロックサイズを識別するために、パーティション分割信号伝達がアサインされる。パーティション分割は、再帰的四分木パーティション分割である。四分木のルートはツリーブロックと関連付けられている。四分木は、コーディングノードと言われるリーフに到達するまで分割される。コーディングノードは２つのツリー、つまり、予測ツリーと変換ツリーのルートノードである。予測ツリーは、予測ブロックの場所とサイズを指定する。予測ツリーと、関連付けられている予測データは、予測ユニットと言われる。変換ツリーは、変換ブロックの場所とサイズを指定する。変換ツリーと、関連付けられている変換データは、変換ユニットと言われる。ルマおよびクロマに対する分割情報は、予測ツリーに対しては同一であり、変換ツリーに対しては同一であってもなくてもよい。コーディングノードと、関連付けられている予測および変換ユニットは、一緒に、コーディング・ユニットを形成する。
【００４５】
ＨＥＶＣーＷＤ５においては、ピクチャはスライスとタイルに分割される。スライスはツリーブロックのシーケンスであってよいが、（いわゆる精細粒度のスライスを参照するときは）変換ユニットと予測ユニットが一致する位置において、ツリーブロック内に自身の境界を有することもできる。スライス内のツリーブロックは、ラスタ・スキャン順で符号化および復号化される。１次符号化ピクチャに対しては、各ピクチャのスライスへの分割はパーティション分割である。
【００４６】
ＨＥＶＣＷＤ５においては、タイルは、１つの列および１つの行において共起し、タイル内で、ラスタ・スキャンにおいて連続して順序付けられている整数個のツリーブロックと定義される。１次符号化ピクチャに対しては、各ピクチャのタイルへの分割はパーティション分割である。タイルは、ピクチャ内では、ラスタ・スキャンにおいて連続して順序付けられている。スライスは、タイル内では、ラスタ・スキャンにおいて連続しているツリーブロックを含むが、これらのツリーブロックは、ピクチャ内では、ラスタ・スキャンにおいて連続である必要はない。スライスとタイルは、ツリーブロックの同じシーケンスを含む必要はない。タイルは、２つ以上のスライスに含まれているツリーブロックを備えることができる。同様に、スライスは、いくつかのタイルに含まれているツリーブロックを備えることができる。
【００４７】
コーディング・ユニットとコーディング・ツリー・ブロックの間の差異は、例えば、下記のように定義できる。スライスは、タイル内の、またはタイルが使用されないときはピクチャ内のラスタ・スキャン順における１つ以上のコーディング・ツリー・ユニット（ＣＴＵ）のシーケンスと定義できる。各ＣＴＵは、１つのルマ・コーディング・ツリー・ブロック（ＣＴＢ）と、可能性としては（使用されているクロマ・フォーマットによっては）２つのクロマＣＴＢを備えることがあり得る。ＣＴＵは、ルマ・サンプルのコーディング・ツリー・ブロック、３つのサンプル・アレイを有するピクチャのクロマ・サンプルの２つの対応するコーディング・ツリー・ブロック、または、モノクロ・ピクチャあるいは、３つの別々の色平面およびサンプルをコード化するのに用いられるシンタックス構造を用いて符号化されるピクチャのサンプルのコーディング・ツリー・ブロックとして定義することができる、スライスのコーディング・ツリー・ユニットへの分割は、分割と考えることができる。ＣＴＢは、Ｎのある値に対するサンプルのＮｘＮブロックとして定義することができる。３つのサンプル・アレイを有するピクチャを構成するアレイの１つの区分け、または、モノクロ・フォーマットにおけるピクチャあるいはコーディング・ツリー・ブロックへの３つの別々の色平面を用いて符号化されたピクチャを構成するアレイの１つの区分けは、分割と考えることができる。コーディング・ブロックは、Ｎのある値に対するサンプルのＮｘＮブロックとして定義することができる。コーディング・ツリー・ブロックのコーディング・ブロックへの区分けは、分割と考えることができる。
【００４８】
図８は、四角の符号化ユニット（実線）に分割された２つのタイルからなるピクチャの例を示す。これは、長方形の予測ユニット（破線）に、さらに分割されている。
【００４９】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいては、ピクチャ内予測は、スライス境界をわたっては機能しないようにできる。このため、スライスは、符号化ピクチャを独立して復号化可能な部分に分割する方法と見なすことが可能であり、したがって、スライスは、変換のための要素ユニットを見なされることがよくある。多くの場合、エンコーダは、スライス境界をわたってどのタイプのピクチャ内予測が機能停止にされたかをビットストリームにおいて示すことができ、デコーダの動作は、例えば、どの予測ソースが利用可能であるかを結論するときに、この情報を考慮する。例えば、隣接するマクロ・ブロックまたはＣＵからのサンプルは、隣接するマイクロブロックまたはＣＵが異なるスライスに存在している場合は、イントラ予測に対しては利用できないと見なすことができる。
【００５０】
シンタックス要素は、ビットストリームにおいて表現されるデータの要素として定義できる。シンタックス構造は、指定された順序でビットストリームに共に存在しているゼロ個以上のシンタックス要素として定義できる。
【００５１】
Ｈ．２６４／ＡＶＣまたはＨＥＶＣエンコーダの出力、およびＨ．２６４／ＡＶＣまたはＨＥＶＣデコーダの入力それぞれに対する要素ユニットは、ネットワーク抽象化層（ＮＡＬ）ユニットである。パケット指向のネットワーク上の移送、または構造化ファイルへの格納に対しては、ＮＡＬユニットは、パケットまたは類似の構造にカプセル化できる。バイトストリーム・フォーマットは、フレーミング構造を提供しない送信または格納環境に対して、Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいて指定されている。バイトストリーム・フォーマットは、各ＮＡＬユニットの前部に開始コードを貼り付けることにより、ＮＡＬユニットを互いに分離する。ＮＡＬユニット境界の偽検出を回避するために、エンコーダは、バイト指向開始コード・エミュレーション防止アルゴリズムを起動し、このアルゴリズムは、開始コードが別に出現していた場合は、ＮＡＬユニット・ペイロードにエミュレーション防止バイトを追加する。例えば、パケットおよびストリーム指向システム間の単純なゲートウェイ動作を可能にするために、開始コード・エミュレーション防止を、バイトストリーム・フォーマットが使用されている、いないに拘わらず、常に行うことができる。ＮＡＬユニットは、後に続くデータのタイプを示す表示と、エミュレーション防止バイトと共に、必要なものとして散在しているロー・バイト・シーケンス・ペイロード（ＲＢＳＰ）の形のそのデータを含むバイトを含んでいるシンタックス構造として定義できる。ロー・バイト・シーケンス・ペイロード（ＲＢＳＰ）は、ＮＡＬユニットにおいてカプセル化された整数個のバイトを含んでいるシンタックス構造として定義できる。ＲＢＳＰは空であるか、または、ＲＢＳＰ停止ビットが続き、ゼロ個以上の０に等しい後続ビットが続くシンタックス要素を含むデータ・ビット列の形を有している。
【００５２】
ＮＡＬユニットは、ヘッダおよびペイロードから構成されている。Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいては、ＮＡＬユニット・ヘッダは、ＮＡＬユニットのタイプと、ＮＡＬユニットに含まれている符号化スライスが、参照ピクチャまたは非参照ピクチャの一部であるかどうかを示している。
【００５３】
Ｈ．２６４／ＡＶＣＮＡＬユニット・ヘッダは、２ビットのｎａｌ＿ｒｅｆ＿ｉｄｃシンタックス要素を含み、これは、０に等しいときは、ＮＡＬユニットに含まれている符号化スライスは、非参照ピクチャの一部であることを示し、０より大きいときは、ＮＡＬユニットに含まれている符号化スライスは、参照ピクチャの一部であることを示す。ＳＶＣおよびＭＶＣＮＡＬユニットに対するヘッダは、スケーラビリティおよびマルチビュー階層に関連する種々の表示を追加的に含むことができる。
【００５４】
ＨＥＶＣ標準草案においては、２バイトのＮＡＬユニット・ヘッダが、すべての指定されたＮＡＬユニット・タイプに対して使用される。ＮＡＬユニット・ヘッダの最初のバイトは、１つの予約ビットと、このアクセス・ユニットにおいて保持されているピクチャが、参照ピクチャまたは非参照ピクチャであるかを主に示す１ビット表示のｎａｌ＿ｒｅｆ＿ｆｌａｇと、６ビットのＮＡＬユニット・タイプ表示とを含んでいる。ＮＡＬユニット・ヘッダの第２バイトは、時間レベルに対する３ビットのｔｅｍｐｏｒａｌ＿ｉｄ表示と、ＨＥＶＣ標準草案においては１に等しい値を有することが要求される、５ビットの予約フィールド（ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓと呼ばれる）を含んでいる。ｔｅｍｐｏｒａｌ＿ｉｄシンタックス要素は、ＮＡＬユニットに対する時間識別子と見なすことができ、ＴｅｍｐｏｒａｌＩｄ変数は、ｔｅｍｐｏｒａｌ＿ｉｄの値に等しいと定義できる。５ビットの予約フィールドは、将来のスケーラブルおよび３Ｄビデオ拡張のような拡張により使用されると予想されている。これらの５つのビットは、ｑｕａｌｉｔｙ＿ｉｄまたは類似物、ｄｅｐｅｎｄｅｎｃｙ＿ｉｄまたは類似物、任意の他のタイプの層識別子、ビュー順序インデックスまたは類似物、ビュー識別子、特定の識別子値より大きいすべてのＮＡＬユニットが、ビットストリームから取り除かれるならば、有効なサブ・ビットストリーム抽出を示すＳＶＣのｐｒｉｏｒｉｔｙ＿ｉｄに類似した識別子など、スケーラビリティ階層に関する情報をもたらすことが予期される。一般性を失うことなく、いくつかの例示的実施形態においては、変数ＬａｙｅｒＩｄは、ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓの値から、例えば、ＬａｙｅｒＩｄ＝ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓ−１のようにして導出される。
【００５５】
より最近のＨＥＶＣ標準草案においては、２バイトのＮＡＬユニット・ヘッダが、すべての指定ＮＡＬユニット・タイプに対して使用される。ＮＡＬユニット・ヘッダは、１予約ビット、６ビットのＮＡＬユニット・タイプ表示、６ビットの予約フィールド（ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓと呼ばれる）、および、時間レベルに対する３ビットのｔｅｍｐｏｒａｌ＿ｉｄ＿ｐｌｕｓ１表示を含んでいる。ｔｅｍｐｏｒａｌ＿ｉｄ＿ｐｌｕｓ１シンタックス要素は、ＮＡＬユニットに対する時間識別子と見なすことができ、ゼロベースＴｅｍｐｏｒａｌＩｄ変数は、ＴｅｍｐｏｒａｌＩｄ＝ｔｅｍｐｏｒａｌ＿ｉｄ＿ｐｌｕｓ１−１のように導出できる。０に等しいＴｅｍｐｏｒａｌＩｄは、最も低い時間レベルに対応している。ｔｅｍｐｏｒａｌ＿ｉｄ＿ｐｌｕｓ１の値は、２ＮＡＬユニット・ヘッダ・バイトを含む開始コード・エミュレーションを回避するために、非ゼロであることが要求される。一般性を失うことなく、いくつかの例としての実施形態においては、変数ＬａｙｅｒＩｄは、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓの値から、例えば、ＬａｙｅｒＩｄ＝ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓのように導出される。文書ＪＣＴＶＣ−Ｋ１００７など、ＨＥＶＣのスケーラブル拡張に対するいくつかの設計において、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓは、例えば、ｎｕｈ＿ｌａｙｅｒ＿ｉｄと呼ばれる層識別子フィールドと置き換えられる。以下において、ＬａｙｅｒＩｄ、ｎｕｈ＿ｌａｙｅｒ＿ｉｄおよびｌａｙｅｒ＿ｉｄは、特に明記しない限り、相互交換可能的に使用される。
【００５６】
ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓ、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓ、および／または、ＮＡＬユニット・ヘッダにおける類似のシンタックス要素は、スケーラビリティ階層についての情報を保持していると予想される。例えば、ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓ、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓ、および／または類似のシンタックス要素から導出されたＬａｙｅｒＩｄ値は、ｑｕａｌｉｔｙ＿ｉｄまたはそれに類似のもの、任意の他の層識別子、ビュー順序インデックスまたはそれに類似のもの、ビュー識別子、ＮＡＬユニットが深度またはテクスチャに関与しているかどうかの表示、つまりｄｅｐｔｈ＿ｆｌａｇまたはそれに類似のもの、または、特定の識別子の値よりも大きなＮＡＬユニットのすべてがビットストリームから除去された場合に、有効なサブ・ビットストリームの抽出を示しているＳＶＣのｐｒｉｏｒｉｔｙ＿ｉｄに類似した識別子のような、異なるスケーラビリティ次元を記述している変数またはシンタックス要素の値にマップできる。ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓ、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓ、および／または、類似のシンタックス要素は、スケーラビリティ特性を示している１つ以上のシンタックス要素にパーティション分割できる。例えば、ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓ、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓ、および／または、類似のシンタックス要素のうちのある数のビットは、ｄｅｐｅｎｄｅｎｃｙ＿ｉｄまたはそれに類似のものに対して使用でき、一方、ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿５ｂｉｔｓ、ｒｅｓｅｒｖｅｄ＿ｚｅｒｏ＿６ｂｉｔｓ、および／または類似のシンタックス要素のうちの別のある数のビットは、ｑｕａｌｉｔｙ＿ｉｄまたはそれに類似のものに対して使用できる。代替として、ＬａｙｅｒＩｄ値またはそれに類似のものの、異なるスケーラビリティ次元を記述している変数またはシンタックス要素の値へのマッピングは、例えば、ビデオ・パラメータ・セット、シーケンス・パラメータ・セット、または他のシンタックス構造において提供できる。
【００５７】
ＮＡＬユニットは、ビデオ・コーディング層（ＶＣＬ）ＮＡＬユニットと、非ＶＣＬＮＡＬユニットに分類可能である。ＶＣＬＮＡＬユニットは、典型的には符号化スライスＮＡＬユニットである。Ｈ．２６４／ＡＶＣにおいては、符号化スライスＮＡＬユニットは、それぞれが非圧縮ピクチャにおけるサンプルのブロックに対応している１つ以上の符号化マクロ・ブロックを表現しているシンタックス要素を含んでいる。ＨＥＶＣ標準草案においては、符号化スライスＮＡＬユニットは、１つ以上のＣＵを表現しているシンタックス要素を含んでいる。
【００５８】
Ｈ．２６４／ＡＶＣにおいては、コード化スライスＮＡＬユニットは、瞬間復号化リフレッシュ（ＩＤＲ）ピクチャにおけるコード化スライス、または非ＩＤＲピクチャにおけるコード化スライスとして示すことが可能である。
【００５９】
ＨＥＶＣ標準草案においては、符号化スライスＮＡＬユニットは、下記のタイプの１つとして示すことが可能である。
【表３】
0006290924.tif 000004
【００６０】
ＨＥＶＣ標準草案においては、ピクチャ・タイプに対する略語を下記のように定義できる。後置（ＴＲＡＩＬ）ピクチャ、時間的サブ・レイヤ・アクセス（ＴＳＡ）、ステップ状時間的サブ・レイヤ・アクセス（ＳＴＳＡ）、ランダム・アクセス復号化可能リーディング（ＲＡＤＬ）ピクチャ、ランダム・アクセス・スキップ・リーディング（ＲＡＳＬ）ピクチャ、破壊リンク・アクセス（ＢＬＡ）ピクチャ、瞬間的復号化リフレッシュ（ＩＤＲ）ピクチャ、クリーン・ランダム・アクセス（ＣＲＡ）ピクチャ。
【００６１】
ランダム・アクセス・ポイント・ピクチャ（ＲＡＰ）は、１６から２３の範囲（１６、２３を含む）において、各スライスまたはスライス・セグメントが、ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するピクチャである。ＲＡＰピクチャは、イントラ符号化スライスのみを含み、ＢＬＡピクチャ、ＣＲＡピクチャまたはＩＤＲピクチャであることができる。ビットストリームにおける第１のピクチャは、ＲＡＰピクチャである。必要なパラメータ・セットが利用できるならば、それらをアクティブにする必要があるときは、復号化する順序において、ＲＡＰピクチャおよびすべての後続する非ＲＡＳＬピクチャは、復号化する順序において、ＲＡＰピクチャに先行するいかなるピクチャの復号化プロセスを実行することなく、正しく復号化することができる。ビットストリームに、ＲＡＰピクチャでないイントラ符号化スライスだけを含むピクチャが存在する。
【００６２】
ＨＥＶＣにおいて、ＣＲＡピクチャは、復号化順序において、ビットストリームにおける第１のピクチャであることができる、または、ビットストリームにおけるもっと後に現れることができる。ＨＥＶＣにおけるＣＲＡピクチャは、ＣＲＡピクチャに復号化順において後続するが、しかし、出力順においてそれに先行する、いわゆる、リーディング・ピクチャを許容する。リーディング・ピクチャのいくつか、いわゆるＲＡＳＬピクチャは、参照として、ＣＲＡピクチャの前に復号化されたピクチャを使用することができる。復号化順序と出力順序との両方において、ＣＲＡピクチャに続くピクチャは、ランダム・アクセスがＣＲＡピクチャで実行されるならば、復号化可能である。そして、それゆえに、ＩＤＲピクチャのクリーン・ランダム・アクセス機能と同様に、クリーン・ランダム・アクセスが、達成される。
【００６３】
ＣＲＡピクチャは、ＲＡＤＬまたはＲＡＳＬピクチャを結びつけることができた。ＣＲＡピクチャが、復号化順序において、ビットストリームの第１のピクチャであるとき、ＣＲＡピクチャは、復号化順序において、符号化ビデオ・シーケンスの第１のピクチャであり、いかなる結合されたＲＡＳＬピクチャも、デコーダにより出力されず、ビットストリームに存在しないピクチャへ参照を含むことができるので、復号化可能にできない。
【００６４】
リーディング・ピクチャは、出力順で結合ＲＡＰピクチャに先行するピクチャである。結合ＲＡＰピクチャは、復号化順序において、前のＲＡＰピクチャである（存在するならば）。リーディング・ピクチャは、ＲＡＤＬピクチャあるはＲＡＳＬピクチャのいずれかである。
【００６５】
すべてのＲＡＳＬピクチャは、結合ＢＬＡまたはＣＲＡピクチャのリーディング・ピクチャである。結合ＲＡＰピクチャが、ＢＬＡピクチャであるか、または、ビットストリームの第１の符号化ピクチャであるとき、ＲＡＳＬピクチャは、出力ではなく、ＲＡＳＬピクチャが、ビットストリームに存在しないピクチャへの参照を含むことできるので、正しく復号化可能であることができない。しかしながら、ＲＡＳＬピクチャの結合ＲＡＰピクチャの前に、復号化が、ＲＡＰピクチャから開始したならば、ＲＡＳＬピクチャは、正しく復号化されることができる。ＲＡＳＬピクチャは、非ＲＡＳＬピクチャの復号化プロセスのための参照ピクチャとして使用されない。存在するとき、復号化順序において、すべてのＲＡＳＬピクチャは、同じ結合ＲＡＰピクチャのすべての後置ピクチャに先行する。ＨＥＶＣ標準のいくつかの初期の草案版においては、ＲＡＳＬピクチャは、ＴＦＤ（Ｔａｇｇｅｄ  ｆｏｒ  Ｄｉｓｃａｒｄ）ピクチャと呼ばれていた。
【００６６】
すべてのＲＡＤＬピクチャは、リーディング・ピクチャである。ＲＡＤＬピクチャは、同一の結合ＲＡＰピクチャの後置ピクチャの復号化プロセスのための参照ピクチャとして使用されない。存在するとき、復号化順序において、すべてのＲＡＤＬピクチャは、同じ結合ＲＡＰピクチャのすべての後置ピクチャに先行する。ＲＡＤＬピクチャは、復号化順序において、結合ＲＡＰピクチャに先行するいずれのピクチャも参照しない。したがって、復号化が結合ＲＡＰピクチャから開始するとき、正しく、復号化することができる。ＨＥＶＣ標準のいくつかの初期の草案版においては、ＲＡＤＬピクチャは、ＤＬＰ（Ｄｅｃｏｄａｂｌｅ  Ｌｅａｄｉｎｇ  Ｐｉｃｔｕｒｅ）と言われた。
【００６７】
ＣＲＡピクチャから開始するビットストリームの一部が別のビットストリームに含まれているときは、ＣＲＡピクチャと関連付けられているＲＡＳＬピクチャは正しく復号化できない。なぜなら、その参照ピクチャのいくつかは結合されたビットストリームには存在しないからである。そのようなスプライシング動作を単純にするために、ＣＲＡピクチャのＮＡＬユニット・タイプを、それがＢＬＡピクチャであることを示すように変更可能である。ＢＬＡピクチャと関連付けられているＲＡＳＬピクチャは正しく復号することはできず、そのため、出力／表示されるものではない。さらに、ＢＬＡピクチャと関連付けられているＲＡＳＬピクチャは復号化から省略することができる。
【００６８】
ＢＬＡピクチャは、復号化順序において、ビットストリームにおける第１のピクチャであることができる、または、ビットストリームにおけるもっと後に現れることができる。各々のＢＬＡピクチャは、新しい符号化ビデオ・シーケンスを開始し、ＩＤＲピクチャとして復号化プロセスに同様の効果を有する。しかしながら、ＢＬＡピクチャは、空でない参照ピクチャ・セットを特定するシンタックス要素を含む。ＢＬＡピクチャが、ＢＬＡ＿Ｗ＿ＬＰに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するとき、それは、結合ＲＡＳＬピクチャを有することができる。それは、デコーダによる出力ではなく、ビットストリームに存在しないピクチャへ参照を含むことができるので、復号化可能であることができない。ＢＬＡピクチャが、ＢＬＡ＿Ｗ＿ＬＰに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するとき、それは、また、結合ＲＡＳＬピクチャを有することができる。それは、復号化されるように特定されている。ＢＬＡピクチャが、ＢＬＡ＿Ｗ＿ＤＬＰに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するとき、それは、結合ＲＡＳＬピクチャを有さないが、結合ＲＡＤＬピクチャを有することができ、それは、復号化されるように特定されている。ＢＬＡピクチャが、ＢＬＡ＿Ｎ＿ＬＰに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するとき、それは、いかなる結合リーディング・ピクチャも持たない。
【００６９】
ＩＤＲ＿Ｎ＿ＬＰに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するＩＤＲピクチャは、ビットストリームに存在する結合リーディング・ピクチャを持たない。ＩＤＲ＿Ｗ＿ＬＰに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するＩＤＲピクチャは、ビットストリームに存在する結合ＲＡＳＬピクチャを持たないが、ビットストリームにおける結合ＲＡＤＬピクチャを有することができる。
【００７０】
ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅの値が、ＴＲＡＩＬ＿Ｎ、ＴＳＡ＿Ｎ、ＳＴＳＡ＿Ｎ、ＲＡＤＬ＿Ｎ、ＲＡＳＬ＿Ｎ、ＲＳＶ＿ＶＣＬ＿Ｎ１０、ＲＳＶ＿ＶＣＬ＿Ｎ１２、または、ＲＳＶ＿ＶＣＬ＿Ｎ１４に等しいときは、復号化ピクチャは、同じ時間サブ層のいかなる他のピクチャに対する参照としても使用されない。これは、ＨＥＶＣ標準草案においては、ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅの値が、ＴＲＡＩＬ＿Ｎ、ＴＳＡ＿Ｎ、ＳＴＳＡ＿Ｎ、ＲＡＤＬ＿Ｎ、ＲＡＳＬ＿Ｎ、ＲＳＶ＿ＶＣＬ＿Ｎ１０、ＲＳＶ＿ＶＣＬ＿Ｎ１２、または、ＲＳＶ＿ＶＣＬ＿Ｎ１４に等しいときは、復号化ピクチャは、同じＴｅｍｐｏｒａｌＩｄの値のいずれのピクチャのＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒＢｅｆｏｒｅ、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒＡｆｔｅｒ、およびＲｅｆＰｉｃＳｅｔＬｔｃｕｒｒのいずれにおいても含まれていないからである。ＴＲＡＩＬ＿Ｎ、ＴＳＡ＿Ｎ、ＳＴＳＡ＿Ｎ、ＲＡＤＬ＿Ｎ、ＲＡＳＬ＿Ｎ、ＲＳＶ＿ＶＣＬ＿Ｎ１０、ＲＳＶ＿ＶＣＬ＿Ｎ１２、または、ＲＳＶ＿ＶＣＬ＿Ｎ１４に等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅの符号化ピクチャは、同じＴｅｍｐｏｒａｌＩｄの値を有する他のピクチャの復号化可能性に影響を与えることなく廃棄できる。
【００７１】
後置ピクチャは、出力順で結合ＲＡＰピクチャに続くピクチャとして定義できる。後置ピクチャであるいかなるピクチャも、ＲＡＤＬ＿Ｎ、ＲＡＤＬ＿Ｒ、ＲＡＳＬ＿ＮまたはＲＡＳＬ＿Ｒに等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを持たない。リーディング・ピクチャであるいかなるピクチャも、復号化順序において、同一のＲＡＰピクチャと結合しているすべての後置ピクチャに先行するように制約されることができる。ＢＬＡ＿Ｗ＿ＤＬＰまたはＢＬＡ＿Ｎ＿ＬＰと等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ有するＢＬＡピクチャと結合しているＲＡＳＬピクチャは、ビットストリームに存在しない。ＢＬＡ＿Ｎ＿ＬＰと等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するＢＬＡピクチャと結合している、または、ＩＤＲ＿Ｎ＿ＬＰと等しいｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを有するＩＤＲピクチャと結合している、ＲＡＤＬピクチャは、ビットストリームに存在しない。ＣＲＡまたはＢＬＡピクチャに結合した、いかなるＲＡＳＬピクチャでも、出力順において、ＣＲＡまたはＢＬＡピクチャと結合したいかなるＲＡＤＬピクチャにでも先行するように制約されることができる。ＣＲＡピクチャと結合したいかなるＲＡＳＬピクチャでも、復号化順序でＣＲＡピクチャに先行する他のどのＲＡＰピクチャにも出力順において、続くように制約されることができる。
【００７２】
ＨＥＶＣにおいては、時間サブ層スイッチング・ポイントを示すために使用可能であるＴＳＡおよびＳＴＳＡピクチャ・タイプの２つのピクチャ・タイプが存在する。ＮまでのＴｅｍｐｏｒａｌＩｄの時間サブ層が、ＴＳＡまたはＳＴＳＡピクチャまで（ただし、両者は除く）復号化され、ＴＳＡまたはＴＳＡピクチャがＮ＋１に等しいＴｅｍｐｏｒａｌＩｄを有するようになると、ＴＳＡまたはＳＴＳＡピクチャは、Ｎ＋１に等しいＴｅｍｐｏｒａｌＩｄを有するすべての（復号化順において）後続するピクチャの復号化を可能にする。ＴＳＡピクチャ・タイプは、ＴＳＡピクチャ自身と、ＴＳＡピクチャに復号化順において後続する同じサブ層におけるすべてのピクチャとに制約を課すことができる。これらのピクチャのいずれも、ＴＳＡピクチャに復号化順において先行する同じサブ層におけるいずれのピクチャからのインタ予測を使用することが許容されない。ＴＳＡの定義は、ＴＳＡピクチャに復号化順において後続する上位のサブ層におけるピクチャに対して制約を更に課すことができる。これらのピクチャのいずれも、ＴＳＡピクチャに復号化順において先行するピクチャが、ＴＳＡピクチャと同じ、または上位のサブ層に属している場合は、そのピクチャを参照すること許容されない。ＴＳＡピクチャは、０より大きいＴｅｍｐｏｒａｌＩｄを有している。ＳＴＳＡはＴＳＡピクチャに類似しているが、ＳＴＳＡピクチャに復号化順において後続する上位サブ層におけるピクチャに制約を課さず、そのため、ＳＴＳＡピクチャが存在するサブ層上のみへのアップスイッチングを可能にする。
【００７３】
スケーラブルおよび／またはマルチビュー・ビデオ符号化において、少なくともピクチャを符号化するための以下の原則、および／または、ランダム・アクセス特性を有するアクセス・ユニットが、サポートされ得る。−層間予測／ビュー間予測を用いないイントラ符号化ピクチャ。そのようなピクチャは、それが存在する層／ビューへのランダム・アクセス能力を可能にする。−インタ予測を用いない（すなわち、時間的予測）しかし、許容された層間予測／ビュー間予測を用いたピクチャ。すべての前記参照層／ビューが利用可能とすると、そのようなピクチャは、そのピクチャが存在する層／ビューの復号化を開始することを可能にする。シングル・ループ復号化において、符号化された参照層／ビューが利用可能であれば、十分でありえる（これは、例えば、ＩＤＲピクチャが、ＳＶＣにおいて、０より大きいｄｅｐｅｎｄｅｎｃｙ＿ｉｄを有する場合であり得る）。マルチ・ループ復号化において、参照層／ビューが復号化されることが必要でありえる。そのようなピクチャは、たとえば、ステップワイズ層アクセス（ＳＴＬＡ）ピクチャ、または、強化層ＲＡＰピクチャとして参照されることができる。−アンカー・アクセス・ユニットまたは完全ＲＡＰアクセス・ユニットは、すべての層においてイントラ符号化ピクチャおよびＳＴＬＡピクチャだけを含むように定義することができる。マルチ・ループ復号化において、そのようなアクセス・ユニットは、すべての層／ビューへのランダム・アクセスを可能にする。そのようなアクセス・ユニットの例は、ＭＶＣアンカー・アクセス・ユニットである（そのタイプの中で、ＩＤＲアクセス・ユニットは特殊なケースである）。−ステップワイズＲＡＰアクセス・ユニットは、ベース層におけるＲＡＰピクチャを含むように定義されることができるが、すべての強化層においてＲＡＰピクチャを含む必要はない。ステップワイズＲＡＰアクセス・ユニットは、ベース層復号化を開始することを可能にする、一方、強化層復号化は、強化層がＲＡＰピクチャを含むとき、開始することができる。そして、（マルチ・ループ復号化の場合）すべてのその参照層／ビューは、そのポイントにおいて復号化される。
【００７４】
非ＶＣＬＮＡＬユニットは、例えば、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、補足エンハンスメント情報（ＳＥＩ）ＮＡＬユニット、アクセス・ユニット・デリミッタ、エンド・オブ・シーケンスＮＡＬユニット、エンド・オブ・ストリームＮＡＬユニット、または、フィラーデータＮＡＬユニットのタイプの１つであってよい。パラメータ・セットは、復号化ピクチャの再構築に必要であり得るが、他の非ＶＣＬＮＡＬユニットの多くは、復号化サンプル値の再構築には必要でない。
【００７５】
符号化ビデオ・シーケンスにおいて不変のパラメータは、シーケンス・パラメータ・セットに含むことができる。復号化プロセスにより必要とされ得るパラメータに加えて、シーケンス・パラメータ・セットは、オプションとして、ビデオユーザビリティ情報（ＶＵＩ）を含むことができ、このＶＵＩは、バッファリング、ピクチャ出力タイミング、レンダリング、およびリソース予約のために重要であり得るパラメータを含んでいる。シーケンス・パラメータ・セットを保持するために、Ｈ．２６４／ＡＶＣにおいて指定されている３つのＮＡＬユニットがある。これは、このシーケンスにおいてＨ．２６４／ＡＶＣ  ＶＣＬ  ＮＡＬユニットに対するすべてのデータを含むシーケンス・パラメータ・セットＮＡＬユニット（７に等しいＮＡＬユニット・タイプを有している）、補助符号化ピクチャに対するデータを含むシーケンス・パラメータ・セット拡張ＮＡＬユニット、および、ＭＣＶとＳＶＣＶＣＬＮＡＬユニットに対するサブセットシーケンス・パラメータ・セットである。Ｈ．２６４／ＡＶＣのシーケンス・パラメータ・セットＮＡＬユニット（７に等しいＮＡＬユニット・タイプを有している）に含まれているシンタックス構造は、シーケンス・パラメータ・セットデータ、ｓｅｑ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｄａｔａ、またはベースＳＰＳデータと言うことができる。例えば、プロファイル、レベル、ピクチャ・サイズ、およびクロマサンプリングフォーマットは、ベースＳＰＳデータに含むことができる。ピクチャ・パラメータ・セットは、いくつかの符号化ピクチャにおいて不変でありそうなパラメータを含んでいる。
【００７６】
ＨＥＶＣ草案においては、また、ここでは、適応パラメータ・セット（ＡＰＳ）として参照されるパラメータ・セットの別のタイプが存在し、このＡＰＳは、いくつかの符号化スライスにおいて、不変でありそうであるが、例えば、各ピクチャまたは各数枚のピクチャに対しては変化し得るパラメータを含んでいる。ＨＥＶＣ草案においては、ＡＰＳシンタックス構造は、量子化行列（ＱＭ）、適応サンプル・オフセット（ＳＡＯ）、適応ループ・フィルタリング（ＡＬＦ）、およびデブロッキング・フィルタリングに関連するパラメータまたはシンタックス要素を含んでいる。ＨＥＶＣ草案においては、ＡＰＳはＮＡＬユニットであり、いかなる他のＮＡＬユニットからの参照または予測なしで符号化される。ａｐｓ＿ｉｄシンタックス要素として参照される識別子は、ＡＰＳＮＡＬユニットに含まれ、特定のＡＰＳを参照するために、スライス・ヘッダに含まれ、使用される。
【００７７】
ＨＥＶＣ標準草案は、また、ビデオ・パラメータ・セット（ＶＰＳ）と呼ばれるパラメータ・セットの更に別のタイプを含み、このＶＰＳは、例えば、文書ＪＣＴＶＣ−Ｈ０３８８（ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／８＿Ｓａｎ％２０Ｊｏｓｅ／ｗｇｌｌ／ＪＣＴＶＣ−Ｈ０３８８−ｖ４．ｚｉｐ）において提案された。ビデオ・パラメータ・セットＲＢＳＰは、１つ以上のシーケンス・パラメータ・セットＲＢＳＰにより参照可能なパラメータを含むことができる。
【００７８】
ＶＰＳ、ＳＰＳ、および、ＰＰＳの間の関係と階層は、次のように記述できる。ＶＰＳは、パラメータ・セット階層において、および、スケーラビリティおよび／または３ＤＶのコンテキストにおいて、ＳＰＳの１つ上のレベルに存在している。ＶＰＳは、符号化ビデオ・シーケンス全体において、すべての（スケーラビリティまたはビュー）層にわたるすべてのスライスに対して共通なパラメータを含むことができる。ＳＰＳは、符号化ビデオ・シーケンス全体において、特定の（スケーラビリティまたはビュー）層におけるすべてのスライスに対して共通なパラメータを含み、複数の（スケーラビリティまたはビュー）層により共有できる。ＰＰＳは、特定の層表現（１つのアクセス・ユニットにおける１つのスケーラビリティまたはビュー層の表現）におけるすべてのスライスに共通で、複数の層表現においてすべてのスライスにより共有されそうなパラメータを含んでいる。
【００７９】
ＶＰＳは、符号化ビデオ・シーケンス全体において、すべての（スケーラビリティまたはビュー）層にわたるすべてのスライスに適用可能な多くの他の情報と共に、ビットストリームにおける層の依存性関係についての情報を提供できる。ＨＥＶＣのスケーラブル拡張においては、ＶＰＳは、例えば、ＮＡＬユニット・ヘッダから導出されたＬａｙｅｒＩｄ値の、例えば、ＳＶＣおよびＭＶＣと同様に定義される層に対するｄｅｐｅｎｄｅｎｃｙ＿ｉｄ、ｑｕａｌｉｔｙ＿ｉｄ、ｖｉｅｗ＿ｉｄ、およびｄｅｐｔｈ＿ｆｌａｇに対応する、１つ以上のスケーラビリティ次元値へのマッピングを含むことができる。ＶＰＳは、層表現の１つ以上の時間サブ層（あるＴｅｍｐｏｒａｌＩｄ値以下のＶＣＬＮＡＬユニットから構成されている）に対するプロファイルおよび／またはレベルと共に、１つ以上の層に対するプロファイルおよびレベル情報を含むことができる。
【００８０】
ＶＰＳの部分であることを意図したＶＰＳ拡張の例示的シンタックスは、次のように提供される。提示されたＶＰＳ拡張は，とりわけ依存関係を提供する。
【表４】
0006290924.tif 000005
【００８１】
提示されたＶＰＳ拡張のセマンティックスは、次の段落に記載されているように指定することができる。
【００８２】
ｖｐｓ＿ｅｘｔｅｎｓｉｏｎ＿ｂｙｔｅ＿ａｌｉｇｎｍｅｎｔ＿ｒｅｓｅｒｖｅｄ＿ｏｎｅ＿ｂｉｔは、１に等しく、バイト境界合わせを達成するのに用いる。ｓｃａｌａｂｉｌｉｔｙ＿ｍａｓｋ［ｉ］は、第ｉスケーラビリティ次元に対応するｄｉｍｅｎｓｉｏｎ＿ｉｄシンタックス要素が、下の表に、存在することを示す。０に等しいｓｃａｌａｂｉｌｉｔｙ＿ｍａｓｋ［ｉ］は、第ｉスケーラビリティ次元に対応するｄｉｍｅｎｓｉｏｎ＿ｉｄシンタックス要素が、存在しないことを示す。
【表５】
0006290924.tif 000006
【００８３】
ｄｉｍｅｎｓｉｏｎ＿ｉｄ＿ｌｅｎ＿ｍｉｎｕｓ１［ｊ］プラス１は、ビットにおいて、ｄｉｍｅｎｓｉｏｎ＿ｉｄ［ｉ］［ｊ］シンタックス要素の長さを指定する。ｖｐｓ＿ｎｕｈ＿ｌａｙｅｒ＿ｉｄ＿ｐｒｅｓｅｎｔ＿ｆｌａｇは、ｌａｙｅｒ＿ｉｄ＿ｉｎ＿ｎｕｈ［ｉ］シンタックスが存在するかどうかを特定する。ｌａｙｅｒ＿ｉｄ＿ｉｎ＿ｎｕｈ［ｉ］は、第ｉ層のＶＣＬ  ＮＡＬユニットにおける、ｎｕｈ＿ｌａｙｅｒ＿ｉｄシンタックス要素の値を指定する。存在しない場合には、ｌａｙｅｒ＿ｉｄ＿ｉｎ＿ｎｕｈ［ｉ］の値は、ｉに等しいと推測される。変数ＬａｙｅｒＩｄＩｎＶｐｓ［ｌａｙｅｒ＿ｉｄ＿ｉｎ＿ｎｕｈ［ｉ］］は、ｉに等しく設定される。ｄｉｍｅｎｓｉｏｎ＿ｉｄ［ｉ］［ｊ］は、第ｉ層の第ｊスケーラビリティ次元タイプの識別子を特定する。存在しない場合には、ｄｉｍｅｎｓｉｏｎ＿ｉｄ［ｉ］［ｊ］の値は、０に等しいと推測される。ｄｉｍｅｎｓｉｏｎ＿ｉｄ［ｉ］［ｊ］の表現のために使われるビットの数は、ｄｉｍｅｎｓｉｏｎ＿ｉｄ＿ｌｅｎ＿ｍｉｎｕｓ１［ｊ］＋  １ビットである。変数ＳｃａｌａｂｉｌｉｔｙＩｄ［ｌａｙｅｒＩｄＩｎＶｐｓ］［ｓｃａｌａｂｉｌｉｔｙＭａｓｋＩｎｄｅｘ］、ＤｅｐｅｎｄｅｎｃｙＩｄ［ｌａｙｅｒＩｄＩｎＮｕｈ］、ＤｅｐｔｈＦｌａｇ［ｌａｙｅｒＩｄＩｎＮｕｈ］、および、ＶｉｅｗＯｒｄｅｒＩｄｘ［ｌａｙｅｒＩｄＩｎＮｕｈ］は、以下のように導出される。
for (i = 0; i <= vps_max_layers_minus1; i++) ｛
for( smIdx= 0, j =0; smIdx< 16; smIdx ++ )
if( ( i != 0 ) && scalability_mask[ smIdx ] )
ScalabilityId[ i ][ smIdx ] = dimension_id[ i ][ j++ ]
else
ScalabilityId[ i ][ smIdx ] = 0
DependencyId[ layer_id_in_nuh[ i ] ] = ScalabilityId[ i ][ 0 ]
DepthFlag[ layer_id_in_nuh[ i ] ] = ScalabilityId[ i ][ 1 ]
ViewId[ layer_id_in_nuh[ i ] ] = ScalabilityId[ i ][ 2 ]
｝
【００８４】
ｎｕｍ＿ｄｉｒｅｃｔ＿ｒｅｆ＿ｌａｙｅｒｓ［ｉ］は、第ｉ層が直接に参照する層の数を特定する。
【００８５】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣシンタックスは、パラメータ・セットの多くのインスタンスを許容し、各インスタンスは、固有の識別子により識別される。パラメータ・セットに対して必要なメモリの使用量を制限するために、パラメータ・セット識別子に対する値の範囲が制限されている。Ｈ．２６４／ＡＶＣおよびＨＥＶＣ標準草案においては、各スライス・ヘッダは、スライスを含むピクチャの復号化に対してアクティブなピクチャ・パラメータの識別子を含み、各ピクチャ・パラメータ・セットは、アクティブシーケンス・パラメータ・セットの識別子を含んでいる。ＨＥＶＣ標準においては、スライス・ヘッダはＡＰＳ識別子を追加的に含んでいる。したがって、ピクチャとシーケンス・パラメータ・セットの送信は、スライスの送信と正確に同期している必要はない。その代わりに、アクティブ・シーケンスとピクチャ・パラメータ・セットが、それらが参照される前に、いずれかの時点において受信されることで十分であり、これにより、スライス・データに対して使用されるプロトコルと比較して、より信頼性のある送信メカニズムを使用する「アウト・オブ・バンド」でのパラメータ・セットの送信が可能となる。例えば、パラメータ・セットは、リアルタイム・トランスポート・プロトコル（ＲＴＰ）セッションに対するセッション記述におけるパラメータとして含むことができる。パラメータ・セットがインバンドで送信される場合は、このパラメータ・セットはエラー・ロバストネスを改善するために、繰り返すことが可能である。
【００８６】
パラメータ・セットは、スライスから、または、別のアクティブパラメータ・セットから、または、ある場合には、バッファリング・ピリオドＳＥＩメッセージのような別のシンタックス構造からの参照により起動できる。下記に、ＨＥＶＣ標準草案におけるパラメータ・セットの起動の非制限的な例を挙げる。
【００８７】
各適応パラメータ・セットＲＢＳＰは、復号化プロセスの動作の開始時点においてはアクティブではないと考えられる。多くても１つの適応パラメータ・セットＲＢＳＰが、復号化プロセスの動作の間のいずれの所与の時点においてアクティブと考えられ、いずれの特定の適応パラメータ・セットＲＢＳＰの起動は、それまでアクティブであった適応パラメータ・セットＲＢＳＰ（もしあれば）の起動が停止する結果となる。
【００８８】
適応パラメータ・セットＲＢＳＰ（ａｐｓ＿ｉｄの特定の値を有している）がアクティブでなく、符号化スライスＮＡＬユニットにより（ａｐｓ＿ｉｄのその値を使用して）参照されるときに、適応パラメータ・セットＲＢＳＰは起動される。この適応パラメータ・セットＲＢＳＰは、それが、別の適応パラメータ・セットＲＢＳＰの起動により起動を停止されるまではアクティブ適応パラメータ・セットＲＢＳＰと呼ばれる。ａｐｓ＿ｉｄのその特定の値を有している適応パラメータ・セットＲＢＳＰは、その起動に先行する復号化プロセスにおいて利用可能であり、外部手段を通して適応パラメータ・セットが提供されない限り、適応パラメータ・セットＮＡＬユニットのｔｅｍｐｏｒａｌ＿ｉｄに等しい、または、それより小さいｔｅｍｐｏｒａｌ＿ｉｄを有する、少なくとも１つのアクセス・ユニットに含まれる。
【００８９】
各ピクチャ・パラメータ・セットＲＢＳＰは、復号化プロセスの動作の開始時点においては、当初アクティブではないと考えられる。多くても１つのピクチャ・パラメータ・セットＲＢＳＰが、復号化プロセスの動作の間のいずれの所与の時点においてアクティブと考えられ、いずれの特定のピクチャ・パラメータ・セットＲＢＳＰの起動は、それまでアクティブであったピクチャ・パラメータ・セットＲＢＳＰ（もしあれば）の起動が停止する結果となる。
【００９０】
ピクチャ・パラメータ・セットＲＢＳＰ（ｐｉｃ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの特定の値を有している）がアクティブでなく、符号化スライスＮＡＬユニット、または符号化スライス・データ・パーティション分割ＡＮＡＬユニットにより（ｐｉｃ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄのその値を使用して）参照されるときに、ピクチャ・パラメータ・セットＲＢＳＰは起動される。このピクチャ・パラメータ・セットＲＢＳＰは、それが、別のピクチャ・パラメータ・セットＲＢＳＰの起動により起動を停止されるまでは、アクティブ・ピクチャ・パラメータ・セットＲＢＳＰと呼ばれる。ｐｉｃ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄのその特定の値を有しているピクチャ・パラメータ・セットＲＢＳＰは、その起動に先行する復号化プロセスにおいて利用可能であり、外部手段を通してピクチャ・パラメータ・セットが提供されない限り、ピクチャ・パラメータ・セットＮＡＬユニットのｔｅｍｐｏｒａｌ＿ｉｄに等しい、または、それより小さいｔｅｍｐｏｒａｌ＿ｉｄを有する少なくとも１つのアクセス・ユニットに含まれる。
【００９１】
各シーケンス・パラメータ・セットＲＢＳＰは、復号化プロセスの動作の開始時点においては、当初アクティブではないと考えられる。多くても１つのシーケンス・パラメータ・セットＲＢＳＰが、復号化プロセスの動作の間のいずれの所与の時点においてもアクティブと考えられ、いずれの特定のシーケンス・パラメータ・セットＲＢＳＰの起動は、それまでアクティブであったシーケンス・パラメータ・セットＲＢＳＰ（もしあれば）の起動が停止する結果となる。
【００９２】
シーケンス・パラメータ・セットＲＢＳＰ（ｓｅｑ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの特定の値を有している）が、まだアクティブではなく、ピクチャ・パラメータ・セットＲＢＳＰの起動により（ｓｅｑ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの値を使用して）参照されるときに、または、バッファリング・ピリオドＳＥＩメッセージを含むＳＥＩ  ＮＡＬユニットにより（ｓｅｑ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの値を使用して）参照されるときに、シーケンス・パラメータ・セットＲＢＳＰは起動される。このシーケンス・パラメータ・セットＲＢＳＰは、それが、別のシーケンス・パラメータ・セットＲＢＳＰの起動により起動を停止されるまではアクティブシーケンス・パラメータ・セットＲＢＳＰと呼ばれる。ｓｅｑ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの特定の値を有しているシーケンス・パラメータ・セットＲＢＳＰは、外部手段を通してシーケンス・パラメータ・セットが提供されない限り、０に等しいｔｅｍｐｏｒａｌ＿ｉｄを有する少なくとも１つのアクセス・ユニットに含まれた状態で、その起動に先行する復号化プロセスにおいて利用可能である。起動されたシーケンス・パラメータ・セットＲＢＳＰは、符号化ビデオ・シーケンス全体の間アクティブであり続ける。
【００９３】
各ビデオ・パラメータ・セットＲＢＳＰは、復号化プロセスの動作の開始時点においては最初のうちはアクティブではないと考えられる。多くても１つのビデオ・パラメータ・セットＲＢＳＰが、復号化プロセスの動作の間のいずれの所与の時点においてアクティブと考えられ、いずれの特定のビデオ・パラメータ・セットＲＢＳＰの起動は、それまでアクティブであったビデオ・パラメータ・セットＲＢＳＰ（もしあれば）の起動が停止する結果となる。
【００９４】
ビデオ・パラメータ・セットＲＢＳＰ（ｖｉｄｅｏ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの特定の値を有している）がまだアクティブではなく、シーケンス・パラメータ・セットＲＢＳＰの起動により（ｖｉｄｅｏ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの値を使用して）参照されるときに、ビデオ・パラメータ・セットＲＢＳＰは起動される。このビデオ・パラメータ・セットＲＢＳＰは、それが、別のビデオ・パラメータ・セットＲＢＳＰの起動により起動を停止されるまでは、アクティブ・ビデオ・パラメータ・セットＲＢＳＰと呼ばれる。ｖｉｄｅｏ＿ｐａｒａｍｅｔｅｒ＿ｓｅｔ＿ｉｄの特定の値を有しているビデオ・パラメータ・セットＲＢＳＰは、外部手段を通してビデオ・パラメータ・セットが提供されない限り、０に等しいｔｅｍｐｏｒａｌ＿ｉｄを有する少なくとも１つのアクセス・ユニットに含まれた状態で、その起動に先行する復号化プロセスにおいて利用可能である。起動されたビデオ・パラメータ・セットＲＢＳＰは、符号化ビデオ・シーケンス全体の間アクティブであり続ける。
【００９５】
ＨＥＶＣ標準草案における復号化プロセスの動作中は、アクティブ・ビデオ・パラメータ・セット、アクティブ・シーケンス・パラメータ・セット、アクティブ・ピクチャ・パラメータ・セットＲＢＳＰ、および、アクティブ適応パラメータ・セットＲＢＳＰのパラメータの値は、有効であると考えられる。ＳＥＩメッセージの解釈に対して、アクティブ・ビデオ・パラメータ・セット、アクティブ・シーケンス・パラメータ・セット、アクティグ・ピクチャ・パラメータ・セットＲＢＳＰ、および、アクティブ適応パラメータ・セットＲＢＳＰの値は、同じアクセス・ユニットにおける符号化ピクチャのＶＣＬ  ＮＡＬユニットに対する復号化プロセスの動作に対して、ＳＥＩメッセージ・セマンティックスにおいて別途指定されない限り有効であると考えられる。
【００９６】
ＳＥＩ  ＮＡＬユニットは、出力ピクチャの復号化には要求されないが、ピクチャ出力タイミング、レンダリング、エラー検出、エラー隠蔽、およびリソース予約のような関連するプロセスにおいて支援できる１つ以上のＳＥＩメッセージを含むことができる。いくつかのＳＥＩメッセージが、Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいて指定されており、ユーザ・データＳＥＩメッセージは、組織および会社が、それ自身の使用のためのＳＥＩメッセージを指定することを可能にする。Ｈ．２６４／ＡＶＣおよびＨＥＶＣは、指定されたＳＥＩメッセージに対するシンタックスおよびセマンティックスを含んでいるが、受信側におけるメッセージの取り扱いに対するプロセスは定義されていない。したがって、エンコーダは、ＳＥＩメッセージを作成するときは、Ｈ．２６４／ＡＶＣ標準またはＨＥＶＣ標準に従うことが要求され、Ｈ．２６４／ＡＶＣ標準またはＨＥＶＣ標準に準拠するデコーダは、それぞれ、ＳＥＩメッセージを出力順と一致するように処理することを要求されない。Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいて、ＳＥＩメッセージのシンタックスおよびセマンティックスを含む理由の１つは、異なるシステムの仕様が、補足情報を同一の意味に解釈し、そして、相互動作することを可能にするためである。システム仕様は、符号化の終了と復号化の終了の両方において、特定のＳＥＩメッセージの使用を要求できることが意図されており、また、追加的に、受信側での特定のＳＥＩメッセージの取り扱いに対するプロセスの使用を要求できることが意図されている。
【００９７】
符号化ピクチャは、ピクチャの符号化表現である。Ｈ．２６４／ＡＶＣにおける符号化ピクチャは、ピクチャの復号化に対して要求されるＶＣＬ  ＮＡＬユニットを備えている。Ｈ．２６４／ＡＶＣにおいては、符号化ピクチャは、１次符号化ピクチャ、または、冗長符号化ピクチャであることができる。１次符号化ピクチャは、有効ビットストリームの復号化プロセスにおいて使用され、一方、冗長符号化ピクチャは、１次符号化ピクチャの復号化に成功できなかったときには、復号化のみされるべき冗長表現である。ＨＥＶＥ草案においては、冗長符号化ピクチャは指定されていない。
【００９８】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいては、アクセス・ユニットは、１次符号化ピクチャおよびそれと関連付けられているＮＡＬユニットを備えている。Ｈ．２６４／ＡＶＣにおいては、アクセス・ユニット内でのＮＡＬユニットの出現順は、下記のように抑制される。オプションであるアクセス・ユニット・デリミッタＮＡＬユニットは、アクセス・ユニットの開始を示すことができる。その後に、ゼロ個以上のＳＥＩＮＡＬユニットが続く。１次符号化ピクチャの符号化スライスが次に出現する。Ｈ．２６４／ＡＶＣにおいては、１次符号化ピクチャの符号化スライスには、ゼロ個以上の冗長符号化ピクチャのための符号化スライスが続くことができる。冗長符号化ピクチャは、ピクチャまたはピクチャの一部の符号化表現である。冗長符号化ピクチャは、例えば、送信中の紛失、または、物理的記憶媒体における破壊のために、デコーダにより１次符号化ピクチャが受信されない場合に復号化できる。
【００９９】
Ｈ．２６４／ＡＶＣにおいては、アクセス・ユニットはまた、補助符号化ピクチャも含むことができ、補助符号化ピクチャは１次符号化ピクチャを補足するピクチャであり、例えば、表示プロセスにおいて使用できる。補助符号化ピクチャは、例えば、アルファ・チャネル、または、復号化ピクチャにおけるサンプルの透明度レベルを指定するアルファ・プレーンとして使用できる。アルファ・チャネルまたはプレーンは、出力ピクチャが、少なくとも部分的には透明にピクチャを上下に重ねることにより形成される層化構成要素またはレンダリング・システムにおいて使用できる。補助符号化ピクチャは、モノクロ冗長符号化ピクチャと同じシンタックスおよびセマンティックス制約を有している。Ｈ．２６４／ＡＶＣにおいては、補助符号化ピクチャは、１次符号化ピクチャと同じ数のマクロ・ブロックを含んでいる。
【０１００】
Ｈ．２６４／ＡＶＣにおいては、符号化ビデオ・シーケンスは、ＩＤＲアクセス・ユニット（これを含めて）から、次のＩＤＲアクセス・ユニット（ただし、これを除いて）、または、ビットストリームの最後、のうちのいずれか先に出現する方までの、復号化順において連続するアクセス・ユニットのシーケンスと定義される。ＨＥＶＣ標準草案においては、符号化ビデオ・シーケンスは、復号化順に、ビットストリームにおける最初のアクセス・ユニットであるＣＲＡアクセス・ユニット、および、これまでのすべての後続アクセス・ユニットを含むが、いかなる後続ＩＤＲまたはＢＬＡアクセス・ユニットをも含まない、ゼロ個以上の非ＩＤＲおよび非ＢＬＡアクセス・ユニットが続くＩＤＲアクセス・ユニットまたはＢＬＡアクセス・ユニットから構成されるアクセス・ユニットのシーケンスと定義される。
【０１０１】
ピクチャのグループ（ＧＯＰ）とその特性は、下記のように定義できる。ＧＯＰは、いかなるピクチャがその前に復号化されたかにも関係なく復号化可能である。オープンＧＯＰとは、初期イントラ・ピクチャに出力順において先行するピクチャが、復号化がオープンＧＯＰの初期イントラ・ピクチャから開始するときは、正しく復号化されない可能性のあるピクチャのグループである。言い換えると、オープンＧＯＰのピクチャは、前のＧＯＰに属しているピクチャであるということができる（インタ予測において）。Ｈ．２６４／ＡＶＣデコーダは、Ｈ．２６４／ＡＶＣビットストリームにおけるリカバリ・ポイントＳＥＩメッセージからオープンＧＯＰを開始するイントラ・ピクチャを認識可能である。ＨＥＶＣデコーダは、オープンＧＯＰを開始するイントラ・ピクチャを認識可能であるが、それは、特定のＮＡＬユニット・タイプとＣＲＡＮＡＬユニット・タイプがその符号化スライスに対して使用されているからである。クローズドＧＯＰは、復号化がクローズドＧＯＰの初期イントラ・ピクチャから開始するときに、すべてのピクチャを正しく復号化可能なピクチャのグループである。言い換えると、クローズドＧＯＰにおけるピクチャは、前のＧＯＰにおける、いかなるピクチャをも指さない、Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいては、クローズドＧＯＰは、ＩＤＲアクセス・ユニットから開始する。ＨＥＶＣにおいては、クローズドＧＯＰは、また、ＢＬＡ＿Ｗ＿ＤＬＰまたはＢＬＡ＿Ｎ＿ＬＰピクチャからも開始できる。結果として、クローズドＧＯＰ構造は、オープンＧＯＰ構造と比較して、より強いエラー耐性能力を有している。しかしながら、圧縮効率における可能な減少のコストにおいて、である。オープンＧＯＰコーディング構造は、参照ピクチャの選択におけるより高い柔軟性のために、潜在的には圧縮においてより効率的である。
【０１０２】
ストラクチャオブピクチャズ（ＳＯＰ：ＳｔｒｕｃｔｕｒｅｏｆＰｉｃｔｕｒｅｓ）は、復号化順において連続している１つ以上の符号化ピクチャと定義でき、ＳＯＰにおいては、復号化順における最初の符号化ピクチャは、最も下位の時間サブ層における参照ピクチャであり、復号化順において潜在的に最初の符号化ピクチャを除く符号化ピクチャは何れもＲＡＰピクチャではない。ピクチャの相対的な復号化順は、ピクチャ内部の数字により示される。前のＳＯＰにおけるいかなるピクチャも、現在ＳＯＰにおけるいかなるピクチャよりも復号化順において前であり、次のＳＯＰにおけるいかなるピクチャも、現在ＳＯＰにおけるいかなるピクチャよりも復号化順において後である。ピクチャのグループ（ＧＯＰ）という用語は、ときどきは、ＳＯＰという用語と交換可能に使用でき、上記のように、クローズドＧＯＰまたはオープンＧＯＰのセマンティックスではなく、ＳＯＰのセマンティックスと同じセマンティックスを有している。
【０１０３】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣのビットストリーム・シンタックスは、特定のピクチャが、別のピクチャの何れかのインタ予測のための参照ピクチャであるかどうかを示している。任意のコーディング・タイプ（Ｉ、Ｐ、Ｂ）のピクチャも、Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおける参照ピクチャまたは非参照ピクチャであることができる。Ｈ．２６４／ＡＶＣにおいては、ＮＡＬユニット・ヘッダは、ＮＡＬユニットのタイプと、ＮＡＬユニットに含まれている符号化スライスが参照ピクチャまたは非参照ピクチャの一部であるかどうかとを示している。
【０１０４】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣを含む多くのハイブリッドビデオ・コーデックは、ビデオ情報を２つのフェーズにおいて符号化する。第１フェーズにおいては、あるピクチャ領域または「ブロック」における、画素またはサンプル値が予測される。これらの画素またはサンプル値は、例えば、符号化されているブロックに緊密に対応する、以前に符号化されたビデオフレームの１つにおける領域を見出して示すことを含む動き補償メカニズムにより予測することができる。追加的に、画素またはサンプル値は、空間領域関係を見出して示すことを含む空間的メカニズムにより予測可能である。
【０１０５】
以前に符号化された画像からの画像情報を使用する予測アプローチは、また、インタ予測法とも呼ぶことができ、時間予測および動き補償とも言うことができる。同じ画像内の画像情報を使用する予測アプローチは、イントラ予測法とも呼ぶことができる。
【０１０６】
第２フェーズは、画素またはサンプルの予測されたブロックと、画素またはサンプルの元々のブロックとの間のエラーをコーディングすることの１つである。これは、推定された変換を使用して、画素またはサンプル値における差を変換することにより達成できる。この変換は離散コサイン変換（ＤＣＴ）またはその変形であってよい。差を変換した後に、変換された差は量子化されエントロピ符号化される。
【０１０７】
量子化プロセスの忠実度を変えることにより、エンコーダは、画素またはサンプル表現の精度（つまり、ピクチャの視覚的品質）と、結果としての符号化ビデオ表現のサイズ（つまり、ファイルサイズまたは送信ビット・レート）との間のバランスを制御可能である。
【０１０８】
デコーダは、（エンコーダにより作成され、画像の圧縮表現に格納されている動きまたは空間情報を使用して）画素またはサンプルブロックの予測表現を形成するためにエンコーダにより使用されるものと類似している予測メカニズムおよび予測エラー復号化（空間ドメインにおける量子化予測エラー信号を回復するための予測エラーコーディングの逆の動作）を適用することにより出力ビデオを再構築する。
【０１０９】
画素またはサンプル予測およびエラー復号化プロセスを適用した後に、デコーダは、出力ビデオフレームを形成するために、予測と予測エラー信号（画素またはサンプル値）を結合する。
【０１１０】
デコーダ（およびエンコーダ）は、また、ビデオ・シーケンスにおいて後で出現するピクチャのための予測参照としての表示および／または格納のために出力ビデオを渡す前に、出力ビデオの品質を向上するために、追加的なフィルタリングプロセスを適用することもできる。
【０１１１】
フィルタ処理は、参照画像からのブロッキング、リンギング等の種々のアーチファクトを減らすのに用いることができる。逆変換残余の追加が続く動き補償の後に、再構築ピクチャが得られる。このピクチャは、ブロッキング、リンギング等の種々のアーチファクトを持ち得る。アーチファクトを除去するために、種々の後処理操作を適用することができる。後処理ピクチャが動き補償ループにおける参照として使用されるならば、後処理操作／フィルタは、通常、ループ・フィルタと呼ばれる。ループ・フィルタを使用することによって、参照ピクチャの品質は、増加する。結果として、より良いコーディング効率を達成することができる。
【０１１２】
フィルタ処理は、例えば、デブロッキング・フィルタ、サンプル適用オフセット（ＳＡＯ）フィルタおよび／または適応ループ・フィルタ（ＡＬＦ）を含むことができる。
【０１１３】
デブロッキング・フィルタは、ループ・フィルタの１つとして使うことができる。デブロッキング・フィルタは、Ｈ．２６４／ＡＶＣとＨＥＶＣ標準で利用できる。デブロッキング・フィルタの目的は、ブロックの境界で起こるブロッキング・アーチファクトを取り除くことである。これは、ブロック境界に沿ったフィルタ処理によって達成することができる。
【０１１４】
ＳＡＯにおいて、ピクチャは、各々の領域に対して別々のＳＡＯ決定がなされる領域に分割される。領域のＳＡＯ情報は、ＳＡＯパラメータ適合ユニット（ＳＡＯユニット）にカプセル化され、ＨＥＶＣにおいて、ＳＡＯパラメータを適応させるための基本的ユニットは、ＣＴＵである（したがって、ＳＡＯ領域は、対応するＣＴＵによってカバーされるブロックである）。
【０１１５】
ＳＡＯアルゴリズムにおいて、ＣＴＵにおけるサンプルは、規則のセットにしたがって分類され、サンプルの各々の分類されたセットは、オフセット値を追加することによって強化される。ビットストリームにおいてオフセット値が信号伝達される。１）バンド・オフセット、２）エッジ・オフセットの２種類のオフセットがある。ＣＴＵに対して、無ＳＡＯ、または、バンド・オフセット、または、エッジ・オフセットのいずれかが使用される。使用すべき無ＳＡＯ、または、バンド・オフセット、または、エッジ・オフセットの選択は、例えば、レート歪み最適化（ＲＤＯ）によるエンコーダによって決定し、デコーダに信号伝達することができる。
【０１１６】
バンド・オフセットにおいて、サンプルの値の全体範囲は、いくつか実施形態において、３２の等幅バンドに分割される。例えば、８ビット・  サンプルに対して、バンド幅は、８（＝２５６／３２）である。３２バンドのうち、４つが選択され、選ばれたバンドの各々に対して、異なるオフセットが、信号伝達される。選択決定は、エンコーダによってなされ、以下のように、信号伝達される。第１のバンドのインデックスが信号伝達され、そして、次に、以下の４つのバンドが、選ばれたものであると推測される。バンド・オフセットは、スムーズな領域におけるエラーを訂正するのに、有用であることができる。
【０１１７】
エッジ・オフセット・タイプにおいて、エッジ・オフセット（ＥＯ）タイプは、各々のタイプが１）垂直、２）水平、３）１３５度斜線、および、４）４５度斜線の方向に結びついた４つの可能なタイプ（または、エッジ分類）から選ばれることができる。方向の選択は、エンコーダによって与えられ、デコーダに信号伝達される。各々のタイプは、角度に基づく所与のサンプルに対する２つの隣接サンプルの位置を定義する。次に、ＣＴＵの各々のサンプルは、２つの隣接サンプルの値に対するサンプル値の比較に基づいて、５つのカテゴリーのうちの１つに分類される。この５つのカテゴリーは、１．現在のサンプル値は、２つの隣接サンプルより小さい、２．現在のサンプル値は、隣接のものの１つより小さく、隣接の他のものと等しい、３．現在のサンプル値は、隣接のものの１つより大きく、隣接の他のものと等しい、４．現在のサンプル値は、２つの隣接サンプルより大きい、５．上記のいずれでもない、のように記述される。
【０１１８】
これらの５つのカテゴリーは、デコーダに信号伝達することを要求されない。なぜなら、この分類は、再構築されたサンプルだけに基づいているからである。これらは、エンコーダとデコーダとの両方で利用可能であり、同一のものであり得る。エッジ・オフセット・タイプＣＴＵの各々のサンプルが、この５つのカテゴリーのうちの１つに分類された後に、最初の４つのカテゴリーの各々に対するオフセット値が、決定され、デコーダに信号伝達される。各々のカテゴリーに対するオフセットが、対応するカテゴリーに結びついたサンプル値に追加される。エッジ・オフセットは、リンギング・アーチファクトを訂正するのに効果的でありえる。
【０１１９】
ＳＡＯパラメータは、ＣＴＵデータにおいて、インタリーブして信号伝達することができる。ＣＴＵの上に、スライス・ヘッダは、ＳＡＯがスライスにおいて使用されているか否かを指定するシンタックス要素を含む。ＳＡＯが使用されているならば、２つの追加のシンタックス要素が、ＳＡＯがＣｂおよびＣｒコンポーネントに適用されるか否かを指定する。各ＣＴＵに対して、１）ＳＡＯパラメータを左のＣＴＵからコピーすること、２）ＳＡＯパラメータを上のＣＴＵからコピーすること、または、３）新規のＳＡＯパラメータを信号伝達すること、の３つのオプションが存在する。
【０１２０】
ＳＡＯの特定のインプリメンテーションが、上で記述されたが、上記のインプリメンテーションと同様なＳＡＯの他のインプリメンテーション実現も、また、可能であることを理解すべきである。例えば、ＣＴＵデータでインタリーブされたＳＡＯパラメータを信号伝達するのではなくて、４分木セグメンテーションを用いたピクチャ・ベースの信号伝達を、使用することができる。ＳＡＯパラメータをマージすること（すなわち、ＣＴＵ左または上のものと同じパラメータを使用すること）、または、４分木構造は、たとえば、レート歪み最適化プロセスによってエンコーダによって決定することができる。
【０１２１】
適応ループ・フィルタ（ＡＬＦ）は、再構築されたサンプルの品質を強化する別の方法である。これは、そのループにおけるサンプル値をフィルタ処理することによって達成することができる。ＡＬＦは、フィルタ係数が、エンコーダによって決定され、ビットストリームに符号化される有限インパルス応答（ＦＩＲ）フィルタである。エンコーダは、例えば、最小二乗法またはウィーナ・フィルタ最適化を用いて、オリジナルの圧縮されていないピクチャに対して歪曲を最小にしようと試みるフィルタ係数を選ぶことができる。たとえば、フィルタ係数は、適合パラメータ・セットまたはスライス・ヘッダに存在することができる、または、それらは、ＣＵに対するスライス・データに、他のＣＵ特定データのインタリーブ方法において現れることができる。
【０１２２】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣを含む多くのビデオ・コーデックにおいては、動き情報は、各動き補償画像ブロックと関連付けられている動きベクトルにより示される。これらの動きベクトルのそれぞれは、符号化（エンコーダにおいて）または復号化（デコーダにおいて）されるピクチャにおける画像ブロックの変位と、以前に符号化または復号化された画像（またはピクチャ）の１つにおける予測ソースブロックとを表している。多くの他のビデオ圧縮標準のように、Ｈ．２６４／ＡＶＣおよびＨＥＶＣは、ピクチャを長方形のメッシュに分割し、各長方形に対しては、参照ピクチャの１つにおける類似のブロックがインタ予測のために示されている。予測ブロックの位置は、符号化されているブロックに対する予測ブロックの場所を示す動きベクトルとして符号化される。
【０１２３】
インタ予測プロセスは、例えば、下記のファクタの１つ以上を使用して特徴付けることができる。
【０１２４】
［動きベクトル表現の精度］
例えば、動きベクトルは、１／４画素精度、１／２画素精度、または、全画素精度であることができ、分数画素場所におけるサンプル値は、有限インパルス応答（ＦＩＲ）フィルタを使用して得ることができる。
【０１２５】
［インタ予測のためのブロックパーティション分割］
Ｈ．２６４／ＡＶＣおよびＨＥＶＣを含む多くのコーディング標準は、エンコーダにおける動き補償予測のために動きベクトルが適用されるブロックのサイズと形状の選択を可能にし、デコーダが、エンコーダにおいて行われた動き補償予測を再生できるように、ビットストリームにおいて選択されたサイズと形状を示す。
【０１２６】
［インタ予測のための参照ピクチャ数］
インタ予測のソースは、以前に復号化されたピクチャである。Ｈ．２６４／ＡＶＣおよびＨＥＶＣを含む多くのコーディング標準は、インタ予測のための複数の参照ピクチャの格納、および、ブロック・ベースでの使用される参照ピクチャの選択を可能にする。例えば、参照ピクチャは、Ｈ．２６４／ＡＶＣにおいてはマクロ・ブロックまたはマクロ・ブロック・パーティション分割部ベースで選択でき、ＨＥＶＣにおいてはＰＵまたはＣＵベースで選択できる。Ｈ．２６４／ＡＶＣおよびＨＥＶＣのような多くのコーディング標準は、デコーダが１つ以上の参照ピクチャ・リストを作成することを可能にするシンタックス構造をビットストリームに含んでいる。参照ピクチャ・リストへの参照ピクチャ・インデックスは、複数の参照ピクチャのうちの何れが、特定のブロックに対するインタ予測に使用されるかを示すために使用できる。参照ピクチャ・インデックスは、エンコーダにより、あるインタコーディング・モードにおいてビットストリームに符号化でき、または、例えば、ある他のインタコーディング・モードにおいては、隣接ブロックを使用して導出できる（エンコーダまたはデコーダにより）。
【０１２７】
［動きベクトル予測］
動きベクトルを、ビットストリームにおいて効率的に表現するために、動きベクトルを、ブロック特有の予測された動きベクトルに関して、異なるように符号化できる。多くのビデオ・コーデックにおいては、予測された動きベクトルは、予め定義された方法、例えば、隣接ブロックの符号化または復号化された動きベクトルの中央値を計算することにより作成される。動きベクトル予測を作成する別の方法は、先進的動きベクトル予測（ＡＭＶＰ）と呼ばれることがあるが、時間参照ピクチャにおける隣接ブロックおよび／または共に位置しているブロックから候補予測のリストを生成して、選択された候補を動きベクトル予測子として信号伝達することである。動きベクトル値を予測することに加えて、以前に符号化／復号化されたピクチャの参照インデックスを予測可能である。参照インデックスは、典型的には、時間参照ピクチャにおける隣接ブロックおよび／または共に位置しているブロックから予測される。動きベクトルの差分コーディングは、典型的には、スライス境界をわたって機能が停止される。
【０１２８】
［多重仮説動き補償予測］
Ｈ．２６４／ＡＶＣおよびＨＥＶＣは、Ｐスライスにおける単一の予測ブロック（ここでは、単方向予測スライスと言う）、または、Ｂスライスとも言われる、双方向予測スライスに対する２つの動き補償予測ブロックの線形結合の使用を可能にする。Ｂスライスにおける個々のブロックは、双方向予測、単方向予測、またはイントラ予測でき、Ｐスライスにおける個々のブロックは、単方向予測またはイントラ予測できる。双方向予測ピクチャのための参照ピクチャは、出力順における後続ピクチャおよび先行ピクチャに制限されることはなく、いかなる参照ピクチャも使用できる。Ｈ．２６４／ＡＶＣおよびＨＥＶＣのような多くのコーディング標準においては、参照ピクチャ・リスト０と言われる１つの参照ピクチャ・リストが、Ｐスライスに対して構築され、２つの参照ピクチャ・リストであるリスト０とリスト１が、Ｂスライスに対して構築される。Ｂスライスに対しては、前方向における予測が、参照ピクチャ・リスト０における参照ピクチャからの予測を参照でき、後方向における予測が、参照ピクチャ・リスト１における参照ピクチャからの予測を参照できるときは、予測のための参照ピクチャは、互いに、または現在のピクチャに対していかなる復号化または出力順関係も有することができる。
【０１２９】
［重み付け予測］
多くのコーディング標準は、ピクチャ間（Ｐ）の予測ブロックに対しては１の予測重み、Ｂピクチャの各予測ブロックに対しては、０．５の予測重み（平均化という結果になる）を使用する。Ｈ．２６４／ＡＶＣは、ＰおよびＢスライス両者に対する重み付け予測を可能にする。暗黙的重み付け予測においては、重みはピクチャ順序カウントに比例し、一方、明示的重み付け予測においては、予測重みは明示的に示される。明示的重み付け予測のための重みは、たとえば、スライス・ヘッダ、ピクチャ・ヘッダ、ピクチャ・パラメータ・セット、適応パラメータ・セット、または、任意の同様なシンタックス構造のシンタックス構造の１つ以上において示すことができる。
【０１３０】
多くのビデオ・コーデックにおいては、動き補償後の予測残差は、まず変換カーネル（ＤＣＴのような）により変換されて、その後に符号化される。その理由は、残差間にある相関関係が依然として存在していることがよくあり、変換は多くの場合に、この相関関係を削減可能で、より効率的なコーディングを提供可能であるからである。
【０１３１】
ＨＥＶＣ草案においては、各ＰＵは、ＰＵと関連付けられ、どの種類の予測がそのＰＵ内の画素に対して適用されるかを定義する予測情報を有している（例えば、インタ予測されたＰＵに対する動きベクトル情報、および、イントラ予測されたＰＵに対するイントラ予測指向性情報）。同様に、各ＴＵは、ＴＵ内のサンプルに対する予測エラー復号化プロセスを記述する情報と関連付けられている（例えば、ＤＣＴ係数情報を含んでいる）。ＣＵレベルで、予測エラーコーディングが、各ＣＵに対して適用されるか否かを信号伝達することができる。ＣＵと関連付けられた予測エラー残差がない場合は、ＣＵに対するＴＵはないと考えることができる。
【０１３２】
いくつかのコーディング・フォーマットおよびコーデックにおいては、いわゆる短期参照ピクチャと長期参照ピクチャとが区別される。この区別は、時間ダイレクト・モードまたは暗黙的重み付け予測における動きベクトルのスケーリングのようなある復号化プロセスに影響を与え得る。時間ダイレクト・モードに使用される参照ピクチャの両者が、短期参照ピクチャである場合は、予測において使用される動きベクトルは、現在のピクチャと参照ピクチャの各々との間のピクチャ順序カウント（ＰＯＣ）差にしたがってスケーリングできる。しかし、時間ダイレクト・モードのための少なくとも１つの参照ピクチャが、長期参照ピクチャの場合は、動きベクトルのデフォルト・スケーリングが使用でき、例えば、動きを半分にするスケーリングが使用できる。同様に、短期参照ピクチャが、暗黙的重み付け予測に対して使用される場合は、予測重みは、現在のピクチャのＰＯＣと参照ピクチャのＰＯＣの間のＰＯＣ差にしたがってスケーリングできる。しかし、長期参照ピクチャが、暗黙的重み付け予測に対して使用される場合は、双方向予測されたブロックに対する暗黙的重み付け予測における０．５のような、デフォルトの予測重みを使用できる。
【０１３３】
Ｈ．２６４／ＡＶＣのようないくつかのビデオ・コーディングフォーマットは、複数の参照ピクチャに関連する種々の復号化プロセスに使用されるｆｒａｍｅ＿ｎｕｍシンタックス要素を含んでいる。Ｈ．２６４／ＡＶＣにおいては、ＩＤＲピクチャに対するｆｒａｍｅ＿ｎｕｍの値は０である。非ＩＤＲピクチャに対するｆｒａｍｅ＿ｎｕｍの値は、復号化順において先行する参照ピクチャのｆｒａｍｅ＿ｎｕｍを１だけ増分したものと等しい（モジュロ演算においては、つまり、ｆｒａｍｅ＿ｎｕｍの値は、ｆｒａｍｅ＿ｎｕｍの最大値の後に０にラップ・オーバーする）。
【０１３４】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣは、ピクチャ順序カウント（ＰＯＣ）のコンセプトを含んでいる。ＰＯＣの値は各ピクチャに対して導出され、出力順に増大していくピクチャの場所に対して非減少的である。したがって、ＰＯＣは、ピクチャの出力順を示している。ＰＯＣは、例えば、双方向予測スライスの時間ダイレクト・モードにおける動きベクトルの暗黙的スケーリング、重み付け予測における暗黙的に導出された重み、および参照ピクチャ・リスト初期化のための復号化プロセスにおいて使用できる。更に、ＰＯＣは、出力順が規格に準拠しているかを検証するために使用できる。Ｈ．２６４／ＡＶＣにおいては、ＰＯＣは、先行ＩＤＲピクチャ、または、すべてのピクチャを「参照に使用されていない」としてマークするメモリ管理制御動作を含むピクチャに対して指定されている。
【０１３５】
Ｈ．２６４／ＡＶＣは、デコーダにおけるメモリ消費を制御するために、復号化された参照ピクチャ・マーキングのためのプロセスを指定する。Ｍと呼ばれる、インタ予測に使用される参照ピクチャの最大数は、シーケンス・パラメータ・セットにおいて決定される。参照ピクチャが復号化されるときは、「参照に使用されている」としてマークされる。参照ピクチャの復号化により、Ｍピクチャを超える数のピクチャが、「参照に使用されている」としてマークされると、少なくとも１つのピクチャは「参照に使用されていない」としてマークされる。復号化された参照ピクチャ・マーキングに対しては、適応メモリ制御およびスライディング・ウィンドウという２つのタイプの動作がある。復号化された参照ピクチャ・マーキングに対する動作モードは、ピクチャ・ベースで選択される。適応メモリ制御は、どのピクチャが「参照に使用されていない」としてマークされているかを明示的に信号伝達することを可能にし、また、短期参照ピクチャに対して長期インデックスを割り当てることもできる。適応メモリ制御は、ビットストリームにおいて、メモリ管理制御動作（ＭＭＣＯ）パラメータの存在を要求できる。ＭＭＣＯパラメータは、復号化された参照ピクチャ・マーキング・シンタックス構造に含めることができる。スライディング・ウィンドウ動作モードが使用中で、「参照に使用されている」としてマークされているＭ個のピクチャが存在する場合は、「参照に使用されている」としてマークされている短期参照ピクチャの中で、最初に復号化されたピクチャである短期参照ピクチャが、「参照に使用されていない」としてマークされる。言い換えると、スライディング・ウィンドウ動作モードは、短期参照ピクチャにおけるＦＩＦＯ（先入れ先出し）バッファリング動作という結果になる。
【０１３６】
Ｈ．２６４／ＡＶＣにおけるメモリ管理制御動作の１つは、現在のピクチャを除くすべての参照ピクチャを、「参照に使用されていない」としてマークさせる。瞬間復号化リフレッシュ（ＩＤＲ）ピクチャは、イントラ符号化されたスライスのみを含み、参照ピクチャの類似の「リセット」を引き起こす。
【０１３７】
ＨＥＶＣ標準草案においては、参照ピクチャ・マーキング・シンタックス構造および関連する復号化プロセスは使用されず、その代わり、参照ピクチャ・セット（ＲＰＳ）シンタックス構造および復号化プロセスが同様の目的のために使用される。ピクチャに対して有効またはアクティブな参照ピクチャ・セットは、ピクチャに対する参照として使用されるすべての参照ピクチャ、および、復号化順において後続するいかなるピクチャに対しても「参照に使用されている」としてマークされて続けているすべての参照ピクチャを含んでいる。参照ピクチャ・セットに対しては、６つのサブセットがあり、すなわち、それらは、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ０、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ１、ＲｅｆＰｉｃＳｅｔＳｔＦｏｌｌ０、ＲｅｆＰｉｃＳｅｔＳｔＦｏｌｌ１、ＲｅｆＰｉｃＳｅｔＬｔＣｕｒｒ、および、ＲｅｆＰｉｃＳｅｔＬｔＦｏｌｌと呼ばれる。この６つのサブセットの表記法は次の通りである。「Ｃｕｒｒ」は、現在のピクチャの参照ピクチャ・リストに含まれている参照ピクチャを表し、そのため、現在のピクチャに対するインタ予測参照として使用できる。「Ｆｏｌｌ」は、現在のピクチャの参照ピクチャ・リストに含まれていない参照ピクチャを指すが、参照ピクチャとして復号化順において後続するピクチャにおいて使用できる。「Ｓｔ」は短期参照ピクチャを指し、短期参照ピクチャは、一般的に、ＰＯＣ値の最下位ビットのある数を通して識別できる。「Ｌｔ」は長期参照ピクチャを示し、長期参照ピクチャは具体的に識別され、一般的に、上記の最下位ビットのある数により表現可能なものよりも大きな、現在のピクチャに対するＰＯＣ値の差を有している。「０」は、現在のピクチャのＰＯＣ値よりも小さな値を有している参照ピクチャを指している。「１」は、現在のピクチャのＰＯＣ値よりも大きな値を有している参照ピクチャを指している。ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ０、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ１、ＲｅｆＰｉｃＳｅｔＳｔＦｏｌｌ０、および、ＲｅｆＰｉｃＳｅｔＳｔＦｏｌｌ１は、まとめて、参照ピクチャ・セットの短期サブセットと呼ばれる。ＲｅｆＰｉｃＳｅｔＬｔＣｕｒｒおよびＲｅｆＰｉｃＳｅｔＬｔＦｏｌｌは、まとめて、参照ピクチャ・セットの長期サブセットと呼ばれる。
【０１３８】
ＨＥＶＣ標準草案においては、参照ピクチャ・セットは、シーケンス・パラメータ・セットにおいて指定でき、参照ピクチャ・セットへのインデックスを通してスライス・ヘッダにおいて使用させるようにできる。参照ピクチャ・セットは、また、スライス・ヘッダにおいても指定できる。参照ピクチャ・セットの長期サブセットは、一般的には、スライス・ヘッダにおいてのみ指定されるが、同じ参照ピクチャ・セットの短期サブセットは、ピクチャ・パラメータ・セットまたはスライス・ヘッダにおいて指定できる。参照ピクチャ・セットは、独立して符号化、または別の参照ピクチャ・セットから予測できる（インタＲＰＳ予測として知られている）。参照ピクチャ・セットが独立して符号化されるときは、シンタックス構造は、異なるタイプの参照ピクチャ、つまり、現在のピクチャよりも小さなＰＯＣ値の短期参照ピクチャ、現在のピクチャよりも大きなＰＯＣ値の短期参照ピクチャ、および、長期参照ピクチャに対して繰り返される最大３つのループを含んでいる。各ループのエントリは、ピクチャが「参照に使用されている」とマークされることを指定する。一般的には、ピクチャは、差分ＰＯＣ値で指定される。インタＲＰＳ予測は、現在のピクチャの参照ピクチャ・セットが、先行して復号化されたピクチャの参照ピクチャ・セットから予測可能であるという事実を利用する。これは、現在のピクチャのすべての参照ピクチャが、先行するピクチャの参照ピクチャか、先行して復号化されたピクチャ自身の何れかであるからである。これらのピクチャの何れが参照ピクチャとなるべきか、そして現在のピクチャの予測に使用されるべきかを示すことのみが必要である。参照ピクチャ・セットコーディングの両者のタイプにおいては、フラグ（ｕｓｅｄ＿ｂｙ＿ｃｕｒｒ＿ｐｉｃ＿Ｘ＿ｆｌａｇ）が追加的に各参照ピクチャに対して送られて、参照ピクチャが現在のピクチャにより参照のために使用されているか（＊Ｃｕｒｒリストに含まれている）かいないか（＊Ｆｏｌｌリストに含まれている）を示している。現在スライスにより使用されている参照ピクチャ・セットに含まれているピクチャは、「参照に使用されている」とマークされ、現在のスライスにより使用されている参照ピクチャ・セットに含まれていないピクチャは、「参照に使用されていない」とマークされる。現在のピクチャがＩＤＲピクチャの場合は、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ０、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ１、ＲｅｆＰｉｃＳｅｔＳｔＦｏｌｌ０、ＲｅｆＰｉｃＳｅｔＳｔＦｏｌｌ１、ＲｅｆＰｉｃＳｅｔＬｔＣｕｒｒ、および、ＲｅｆＰｉｃＳｅｔＬｔＦｏｌｌは、すべて空に設定される。
【０１３９】
復号化ピクチャバッファ（ＤＰＢ）は、エンコーダおよび／またはデコーダにおいて使用できる。復号化ピクチャに対してバッファリングを行う理由は２つあり、１つはインタ予測における参照のためと、もう１つは、復号化ピクチャを出力順にする再順序化のためである。Ｈ．２６４／ＡＶＣおよびＨＥＶＣは、参照ピクチャ・マーキングと出力再順序化の両者に対して非常に高い柔軟性を提供するので、参照ピクチャ・バッファリングと出力ピクチャ・バッファリングに対する別個のバッファは、メモリ・リソースを浪費する可能性がある。そのため、ＤＰＢは、参照ピクチャおよび出力再順序化に対する統合された復号化ピクチャ・バッファリング・プロセスを含むことができる。復号化ピクチャは、それが、もはや参照として使用されず、出力にも必要でなくなったときは、ＤＰＢから除去できる。
【０１４０】
Ｈ．２６４／ＡＶＣおよびＨＥＶＣの多くのコーディング・モードにおいては、インタ予測のための参照ピクチャは、参照ピクチャ・リストへのインデックスにより示される。インデックスは、可変長コーディングにおより符号化でき、通常は、対応するシンタックス要素に対してより短い値を、より小さなインデックスが有するようにさせる。Ｈ．２６４／ＡＶＣおよびＨＥＶＣにおいては、２つの参照ピクチャ・リスト（参照ピクチャ・リスト０と参照ピクチャ・リスト１）が、各双方向予測（Ｂ）スライスに対して生成され、１つの参照ピクチャ・リスト（参照ピクチャ・リスト０）が、各インタ符号化（Ｐ）スライスに対して形成される。加えて、ＨＥＶＣ標準草案におけるＢスライスに対しては、結合リスト（リストＣ）が、最終参照ピクチャ・リスト（Ｌｉｓｔ０およびＬｉｓｔ１）が構築された後に構築される。結合リストは、Ｂスライス内で、単方向予測（単一方向予測としても知られている）に使用できる。
【０１４１】
参照ピクチャ・リスト０および参照ピクチャ・リスト１のような参照ピクチャ・リストは、２ステップで構築することができる。最初に、初期参照ピクチャ・リストが生成される。初期参照ピクチャ・リストは、例えば、ｆｒａｍｅ＿ｎｕｍ、ＰＯＣ、ｔｅｍｐｏｒａｌ＿ｉｄ、またはＧＯＰ構造のような予測階層の情報、または、それらの任意の組み合わせに基づいて、生成できる。２番目に、初期参照ピクチャ・リストは、参照ピクチャ・リスト修正シンタックス構造としても知られている、スライス・ヘッダに含めることができる参照ピクチャ・リスト再順序化（ＲＰＬＲ）コマンドにより再順序化できる。ＲＰＬＲコマンドは、各参照ピクチャ・リストの先頭に順序化されたピクチャを示している。この第２ステップは、参照ピクチャ・リスト修正プロセスと言うこともでき、ＲＰＬＲコマンドは、参照ピクチャ・リスト修正シンタックス構造に含むことができる。参照ピクチャ・セットが使用される場合、参照ピクチャ・リスト０は、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ０を最初に、そしてそれに続いてＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ１、更にそれに続いて、ＲｅｆＰｉｃＳｅｔＬｔＣｕｒｒを含むように初期化できる。参照ピクチャ・リスト１は、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ１を最初に、そしてそれに続いてＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒ０を含むように初期化できる。初期参照ピクチャ・リストは、参照ピクチャ・リスト修正シンタックス構造を通して修正でき、初期参照ピクチャ・リストリストにおけるピクチャは、リストへのエントリ・インデックスを通して識別することができる。
【０１４２】
ＨＥＶＣ標準草案における結合リストは、下記のように構築できる。結合リストに対する修正フラグがゼロの場合は、結合リストは、暗黙的メカニズムにより構築され、それ以外の場合は、ビットストリームに含まれている参照ピクチャ結合コマンドにより構築される。暗黙的メカニズムにおいては、リストＣにおける参照ピクチャは、リスト０の第１エントリから開始して、リスト１の第１エントリが続くという具合にインタリーブ方式で、リスト０およびリスト１から、参照ピクチャにマップされる。リストＣにおいてすでにマップされたいかなる参照ピクチャも二度はマップされない、明示的メカニズムにおいては、リストＣにおけるエントリ数が信号伝達され、それに続いて、リスト０またはリスト１におけるエントリから、リストＣにおける各エントリへのマッピングが行われる。加えて、リスト０とリスト１が同一のときは、エンコーダは、リスト１からの参照ピクチャはマップされず、リストＣはリスト０と等価であることを示すために、ｒｅｆ＿ｐｉｃ＿ｌｉｓｔ＿ｃｏｍｂｉｎａｔｉｏｎ＿ｆｌａｇを０に設定するオプションを有している。
【０１４３】
高度動きベクトル予測  （ＡＭＶＰ）は、たとえば、以下の通りに動作することができる。一方、他の類似的な高度動きベクトル予測の実現も、また、たとえば、異なる候補位置セット、および、候補位置セットの候補位置で可能である。２つの空間的運動ベクトル予測値（ＭＶＰ）を、導出することができ、また、時間的運動ベクトル予測値（ＴＭＶＰ）を、導出することができる。それらは、図６に示される位置、すなわち、現在の予測ブロック６００より上に位置する３つの空間的運動ベクトル予測値候補位置６０３、６０４、６０５（Ｂ０、Ｂ１、Ｂ２）、および、左に位置する２つ  ６０１、６０２（Ａ０、Ａ１）、の間で選択されることができる。各々の候補セット（Ｂ０、Ｂ１、Ｂ２）または（Ａ０、Ａ１）の定義済み順序において利用可能な（例えば、同一のスライスに存在する、インタ符号化されているなど）第１の運動ベクトル予測値は、動きベクトル・コンペティションにおいて、その予測方向（上または左）を表すために、選択することができる。時間的運動ベクトル予測値のための参照インデックスは、スライス・ヘッダにおいてエンコーダによって示すことができる（例えばｃｏｌｌｏｃａｔｅｄ＿ｒｅｆ＿ｉｄｘシンタックス要素として）。同じ位置のピクチャから得られる運動ベクトルは、時間的運動ベクトル予測値の参照ピクチャ、同じ位置のピクチャ、そして、現在のピクチャのピクチャ順序カウント差異の割合にしたがって、スケールすることができる。更に、同一の候補を削除するために、候補の間で冗長検査を実行することができる。これは、候補リストにおいて、ゼロ動きベクトルを含むことになり得る。この動きベクトル予測値は、ビットストリームで、たとえば、空間的運動ベクトル予測値の方向（上または左）、または、時間的運動ベクトル予測値候補の選択を示すことによって示すことができる。
【０１４４】
動きベクトル値を予測することに加えて、以前に符号化／復号化されたピクチャの参照インデックスを予測可能である。参照インデックスは、時間参照ピクチャにおける隣接ブロックおよび／または共に位置しているブロックから予測される。
【０１４５】
ＨＥＶＣコーデック草案のような多くの高効率ビデオ・コーデックは、しばしばマージング／マージ・モード／プロセス／メカニズムと呼ばれる、追加的動き情報コーディング／復号化メカニズムを採用しており、ブロック／ＰＵのすべての動き情報は、何の修正／補正もなく予測されて使用される。ＰＵに対する前述した動き情報は、１）「ＰＵは参照ピクチャ・リスト０のみを使用して単方向予測された」か、または「ＰＵは参照ピクチャ・リスト１のみを使用して単方向予測された」か、または「ＰＵは参照ピクチャ・リスト０およびリスト１の両者を使用して双方向予測された」かについての情報、２）参照ピクチャ・リスト０に対応する動きベクトル値、３）参照ピクチャ・リスト０における参照ピクチャ・インデックス、４）参照ピクチャ・リスト１に対応する動きベクトル値、および、５）参照ピクチャ・リスト１における参照ピクチャ・インデックスを備えることができる。同様に、動き情報を予測することは、隣接ブロックおよび／または時間参照ピクチャにおける共に位置しているブロックの動き情報を使用して行われる。しばしばマージリストと呼ばれるリストは、利用可能な隣接／共に位置しているブロックと関連付けられている動き予測候補を含むことにより構築でき、リストにおける選択された動き予測候補のインデックスは信号伝達され、選択された候補の動き情報は、現在のＰＵの動き情報にコピーされる。マージメカニズムがＣＵ全体に対して採用され、ＣＵに対する予測信号が再構築信号として使用され、つまり、予測残差は処理されないときは、このタイプのＣＵのコーディング／復号化は、典型的にはスキップ・モードまたはマージ・ベース・スキップ・モードと名づけられる。スキップ・モードに加えて、マージメカニズムはまた、個々のＰＵに対して（必ずしもスキップ・モードにおけるようなＣＵ全体に対してではなく）採用することもでき、この場合、予測残差は、予測品質を向上するために利用できる。このタイプの予測モードは典型的にはマージ間モードと呼ばれる。
【０１４６】
エンコーダによりビットストリームに作成され、デコーダによりビットストリームから復号化され、結合参照ピクチャ・リストのコンテンツを示している参照ピクチャ・リスト結合シンタックス構造があってもよい。シンタックス構造は、参照ピクチャ・リスト０および参照ピクチャ・リスト１は、単方向予測されている予測ユニットに使用される、追加的参照ピクチャ・リスト結合として結合されていることを示すことができる。シンタックス構造はフラグを含むことができ、フラグはある値に等しいときは、参照ピクチャ・リスト０と参照ピクチャ・リスト１は同一であることを示し、そのため、参照ピクチャ・リスト０は参照ピクチャ・リスト結合として使用される。シンタックス構造は、それぞれが参照ピクチャ・リスト（リスト０またはリスト１）および、指定されたリストへの参照インデックスを指定するエントリのリストを含むことができ、エントリは、結合参照ピクチャ・リストに含まれる参照ピクチャを指定する。
【０１４７】
復号化参照ピクチャ・マーキングのためのシンタックス構造は、ビデオ・コーディング・システムにおいて存在できる。例えば、ピクチャの復号化が完了すると、復号化参照ピクチャ・マーキング・シンタックス構造は、もし存在すれば、ピクチャを「参照に使用されていない」または「長期参照に使用されている」として適応的にマークするために使用できる。復号化参照ピクチャ・マーキング・シンタックス構造が存在せず、「参照に使用されている」とマークされたピクチャの数がこれ以上増加することが可能でない場合は、スライディング・ウィンドウ参照ピクチャ・マーキングを使用でき、これは基本的に、最も早い（復号化順において）復号化参照ピクチャを参照に使用されていないとしてマークする。
【０１４８】
孤立領域として知られているコーディング技術は、ピクチャ内予測およびインタ予測を一緒に抑制することに基づいている。ピクチャにおける孤立領域は、いずれのマクロ・ブロック（または同様なものの）位置をも含むことが可能で、ピクチャは、互いに重ならないゼロ個以上の孤立領域を含むことが可能である。残存領域は、もし存在すれば、ピクチャの孤立領域の何れによってもカバーされていないピクチャの領域である。孤立領域を符号化するときは、少なくともいくつかのタイプのピクチャ内予測は、その境界をわたって機能が停止される。残存領域は、同じピクチャの孤立領域から予測できる。
【０１４９】
符号化孤立領域は、同じ符号化ピクチャのいかなる他の孤立または残存領域の存在なしに復号化可能である。残存領域の前に、ピクチャのすべての孤立領域を復号化することが必要となる。いくつかのインプリメンテーションにおいては、孤立領域または残存領域は、少なくとも１つのスライスを含んでいる。
【０１５０】
孤立領域が互いから予測されるピクチャは、孤立領域ピクチャ・グループにグループ化できる。孤立領域は、同じ孤立領域ピクチャ・グループ内の他のピクチャにおける対応する孤立領域からインタ予測可能であるが、他の孤立領域、または孤立領域ピクチャ・グループの外からのインタ予測は、可能とされない。残存領域は、いかなる孤立領域からもインタ予測できる。結合された孤立領域の形状、位置、およびサイズは、孤立領域ピクチャ・グループにおいてピクチャ毎に発展できる。
【０１５１】
Ｈ．２６４／ＡＶＣコーデックにおける孤立領域のコーディングは、スライス・グループに基づくことができる。マクロ・ブロック位置のスライス・グループへのマッピングは、ピクチャ・パラメータ・セットにおいて指定できる。Ｈ．２６４／ＡＶＣシンタックスは、あるスライス・グループパターンを符号化するためのシンタックスを含んでおり、そのシンタックスは、スタティック（ｓｔａｔｉｃ）およびエボルビング（ｅｖｏｌｖｉｎｇ）という２つのタイプに分類可能である。スタティック・スライス・グループは、ピクチャ・パラメータ・セットが有効である限りは不変のままであるが、エボルビング・スライス・グループは、ピクチャ・パラメータ・セットにおける対応するパラメータと、スライス・ヘッダにおけるスライス・グループ変化サイクル・パラメータとにしたがって、ピクチャ毎に変化可能である。スタティック・スライス・グループ・パターンは、インタリーブ形状、市松模様、長方形指向、および自由形状を含む。エボルビング・スライス・グループ・パターンは、水平ワイプ、垂直ワイプ、ボックス・イン、および、ボックス・アウトを含む。長方形指向パターンとエボルビング・パターンは、孤立領域のコーディングに対して特に適しており、下記に、よりていねいに記述される。
【０１５２】
長方形指向スライス・グループパターンに対しては、ピクチャ領域内に、所望の数の長方形が指定される。前景スライス・グループは、対応する長方形内のマクロ・ブロック位置を含んでいるが、より早く指定されたスライス・グループにより既に割り当てられているマクロ・ブロック位置は除外される。残存スライス・グループは、フォアグラウンド・スライス・グループによりカバーされていないマクロ・ブロックを含んでいる。
【０１５３】
エボルビング・スライス・グループは、マクロ・ブロック位置のスキャン順、および、ピクチャ当たりのマクロ・ブロック数における、スライス・グループのサイズの変化率を示すことにより指定される。各符号化ピクチャは、スライス・グループ変化サイクル・パラメータ（スライス・ヘッダにおいて搬送される）と関係付けられている。変化率を掛けた変化サイクルは、第１スライス・グループにおけるマクロ・ブロック数を示している。第２スライス・グループは、残りのマクロ・ブロック位置を含んでいる。
【０１５４】
Ｈ．２６４／ＡＶＣにおいては、ピクチャ内予測は、スライス・グループ境界がスライス境界にあるために、スライス・グループ境界をわたっての機能は停止される。したがって、各スライス・グループは、孤立領域または残存領域である。
【０１５５】
各スライス・グループは、ピクチャ内に識別番号を有している。エンコーダは、符号化されるべきスライス・グループと同じ識別番号を有しているスライス・グループに属している復号化マクロ・ブロックのみを参照するように動きベクトルを制限することができる。エンコーダは、いくつかのソースサンプルが分数画素内挿において必要であり、すべてのソースサンプルは、特定のスライス・グループ内にあるべきであるという事実を考慮すべきである。
【０１５６】
Ｈ．２６４／ＡＶＣコーデックは、デブロッキングループ・フィルタを含んでいる。ループ・フィルタ処理は、各４×４ブロック境界に適用されるが、ループ・フィルタ処理は、スライス境界においてエンコーダにより機能を停止することが可能である。ループ・フィルタ処理がスライス境界において機能を停止された場合、デコーダにおける完全再構築ピクチャが、緩やかなランダム・アクセスを行うときに達成可能である。それ以外の場合は、再構築ピクチャは、回復ポイントの後でも、コンテンツにおいて不完全であることがある。
【０１５７】
Ｈ．２６４／ＡＶＣ標準の回復ポイントＳＥＩメッセージおよび動き抑制スライス・グループ・セットＳＥＩメッセージは、いくつかのスライス・グループが、制限された動きベクトルにより孤立領域として符号化されていることを示すために使用可能である。デコーダは、例えば、より速いランダム・アクセスを達成するため、または残存領域を無視することで処理時間を節約するために、その情報を利用できる。
【０１５８】
サブ・ピクチャのコンセプトがＨＥＶＣに対して、例えば、文書ＪＣＴＶＣ−Ｉ０３５６＜ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／９＿Ｇｅｎｅｖａ／ｗｇｌｌ／ＪＣＴＶＣ−Ｉ０３５６−ｖ１．ｚｉｐ＞において提案されており、それは、Ｈ．２６４／ＡＶＣの長方形の孤立領域または長方形の動き抑制スライス・グループ・セットに類似している。ＪＣＴＶＣ−Ｉ０３５６において提案されているサブ・ピクチャのコンセプトを下記に記述するが、サブ・ピクチャは他の方法でも同様に、しかし、下記に記述されるものとは同一ではないように定義できることが理解されるべきである。サブ・ピクチャのコンセプトにおいては、ピクチャは、予め定義された長方形領域にパーティション分割される。各サブ・ピクチャは、ピクチャを構成しているすべてのサブ・ピクチャが、ＳＰＳ、ＰＰＳ、および参照ピクチャ・セットのような同じ全体的な情報を共有するということ以外は、独立したピクチャとして処理される。サブ・ピクチャは、幾何学的にタイルに類似している。その特性は下記の通りである。サブ・ピクチャは、シーケンス・レベルで指定された、ＬＣＵ整列された長方形領域である。ピクチャにおけるサブ・ピクチャは、ピクチャのサブ・ピクチャラスタ・スキャンにおいてスキャンできる。各サブ・ピクチャは新しいスライスを開始する。複数のタイルがピクチャに存在する場合は、サブ・ピクチャ境界とタイル境界を整列できる。サブ・ピクチャをわたってのループ・フィルタ処理はできない。サブ・ピクチャの外では、サンプル値と動き情報は予測できず、サブ・ピクチャの外側の１つ以上のサンプル値を使用して導出された分数サンプル場所におけるサンプル値は何れも、サブ・ピクチャ内のいかなるサンプルをインタ予測するためには使用できない。動きベクトルがサブ・ピクチャの外側の領域を指し示している場合は、ピクチャ境界に対して定義されたパディング（詰め込み）プロセスを適用できる。ＬＣＵは、サブ・ピクチャが２つ以上のタイルを含んでいない限り、サブ・ピクチャ内でラスタ順にスキャンされる。サブ・ピクチャ内のタイルは、サブ・ピクチャのタイルラスタ・スキャンにおいてスキャンされる。タイルは、デフォルトである１つのピクチャあたり１つのタイルという場合を除いて、サブ・ピクチャ境界を横切ることはできない。ピクチャレベルで利用可能なすべてのコーディングメカニズムは、サブ・ピクチャレベルでサポートされる。
【０１５９】
スケーラブル・ビデオ・コーディングは、１つのビットストリームが、異なるビット・レート、解像度、および／またはフレーム・レートでのコンテンツの複数の表現を含むことが可能なコーディング構造のことを指す。これらの場合、受け手側は、その特性（例えば、装置のディスプレイの解像度に最もよく整合する解像度）に依存して、所望の表現を抽出可能である。代替的に、サーバまたはネットワーク要素は、受け手側に送信されるビットストリームの部分を、例えば、ネットワーク特性または受け手側の処理能力に依存して、抽出可能である。
【０１６０】
スケーラブル・ビットストリームは、利用可能な最も低画質のビデオを提供するベース層と、下位の層と共に受信および復号化されたときに、ビデオ画質を向上する１つ以上のエンハンスメント層とから構成できる。エンハンスメント層は、時間解像度（つまりフレーム・レート）、空間解像度、または、単に、別の層またはその一部により表現されるビデオ・コンテンツの品質を向上することができる。エンハンスメント層に対するコーディング効率を改善するために、その層の符号化表現は、下位の層に依存することができる。例えば、エンハンスメント層の動きおよびモード情報は、下位の層から予測可能である。同様に、下位の層の画素データは、エンハンスメント層に対する予測を作成するために使用可能である。
【０１６１】
各スケーラブル層は、その依存層すべてと共に、ある空間解像度、時間解像度、および品質レベルにおけるビデオ信号の１つの表現である。この文書においては、スケーラブル層を、その依存層すべてと共に、「スケーラブル層表現」と言う。スケーラブル層表現に対応するスケーラブル・ビットストリームの部分は、ある忠実度における元々の信号の表現を生成するために抽出および復号化可能である。
【０１６２】
いくつかの場合においては、エンハンスメント層におけるデータは、ある位置以降を、または任意の場所でトランケートすること（ある場所以降を切り捨てること）が可能であり、各トランケーションの場所は、益々向上されている視覚品質を表現している追加的データを含むことができる。そのようなスケーラビリティは、精細粒度スケーラビリティ（ＦＧＳ）と言われる。ＦＧＳはＳＶＣ標準のいくつかの草案バージョンに含まれていたが、最終ＳＶＣ標準からは結局は除外された。ＦＧＳは、ＳＶＣ標準のいくつかの草案バージョンとの関連において続いて検討される。トランケートできないエンハンスメント層により提供されるスケーラビリティは、粗粒度スケーラビリティ（ＣＧＳ）と言われる。ＣＧＳは、従来の品質（ＳＮＲ）スケーラビリティと空間スケーラビリティをまとめて含んでいる。ＳＶＣ標準は、いわゆる中間粒度スケーラビリティ（ＭＧＳ）をサポートしており、このスケーラビリティにおいては、品質エンハンスメントピクチャは、ＳＮＲスケーラブル層ピクチャと類似して符号化されるが、０より大きなｑｕａｌｉｔｙ＿ｉｄシンタックス要素を有することにより、ＦＧＳ層ピクチャと類似して、ハイレベル・シンタックス要素により示される。
【０１６３】
ＳＶＣは、層間予測メカニズムを使用し、ある情報は、現在再構築されている層以外の層、または次の下位層から予測可能である。層間予測が可能な情報には、イントラテクスチャ、動きおよび残差データが含まれる。層間動き予測は、ブロックコーディング・モード、ヘッダ情報などの予測を含み、下位層からの動きは、上位層の予測に使用できる。イントラ・コーディングの場合、周囲のマクロ・ブロックからの、または下位層の共に位置しているマクロ・ブロックからの予測が可能である。これらの予測技術は、先行して符号化されたアクセス・ユニットからの情報を採用しないので、イントラ予測技術と言われる。更に、下位層からの残差データはまた、現在層の予測にも採用可能である。
【０１６４】
ＳＶＣは、シングル・ループ復号化として知られているコンセプトを指定している。シングル・ループ復号化は、抑制イントラテクスチャ予測モードを使用ことにより機能するようになり、それにより、層間イントラテクスチャ予測は、ベース層の対応するブロックが、イントラマクロ・ブロック（ＭＢ）の内部に位置しているマクロ・ブロック（ＭＢ）に適用可能である。同時に、ベース層におけるイントラＭＢは、抑制イントラ予測を使用する（例えば、１に等しいシンタックス要素「ｃｏｎｓｔｒａｉｎｅｄ＿ｉｎｔｒａ＿ｐｒｅｄ＿ｆｌａｇ」を有している）。シングル・ループ復号化においては、デコーダは、再生が所望されるスケーラブル層（「所望層」または「目標層」と呼ばれる）に対してのみ動き補償と完全ピクチャ再構築を行うので、それにより、復号化の煩雑さを相当に削減する。層間予測（それが層間イントラテクスチャ予測、層間動き予測、または層間残差予測であろうとなかろうと）に使用されていないＭＢのデータのすべてまたは一部は、所望層の再構築に必要ないので、所望層以外のすべての層が完全に復号化される必要はない。シングル復号化ループは、ほとんどのピクチャの復号化に必要であるが、第２復号化ループは、予測参照として必要であるが、出力または表示には必要なく、いわゆるキーピクチャ（これに対しては、「ｓｔｏｒｅ＿ｒｅｆ＿ｂａｓｅ＿ｐｉｃ＿ｆｌａｇ」は１に等しい）に対してのみ再構築されるベース表現を再構築するために選択的に適用される。
【０１６５】
ＳＶＣ草案におけるスケーラビリティ構造は、３つのシンタックス要素、「ｔｅｍｐｏｒａｌ＿ｉｄ」、「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」、および「ｑｕａｌｉｔｙ＿ｉｄ」により特徴付けられる。シンタックス要素「ｔｅｍｐｏｒａｌ＿ｉｄ」は、時間スケーラビリティ階層、または間接的には、フレーム・レートを示すために使用される。より小さな最大「ｔｅｍｐｏｒａｌ＿ｉｄ」値のピクチャを備えているスケーラブル層表現は、より大きな最大「ｔｅｍｐｏｒａｌ＿ｉｄ」のピクチャを備えているスケーラブル層表現よりも、より小さなフレーム・レートを有している。所与の時間層は典型的には、下位の時間層（つまり、より小さな「ｔｅｍｐｏｒａｌ＿ｉｄ」値の時間層）に依存するが、いかなる上位の時間層にも依存しない。シンタックス要素「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」は、ＣＧＳ層間コーディング依存性階層（前述したように、ＳＮＲおよび空間スケーラビリティの両者を含む）を示すために使用される。いずれの時間レベル位置においても、より小さな「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」値のピクチャは、より大きな「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」値のピクチャのコーディングのための層間予測に使用できる。シンタックス要素「ｑｕａｌｉｔｙ＿ｉｄ」は、ＦＧＳまたはＭＧＳ層の品質レベル階層を示すために使用される。いずれの時間位置においても、同じ「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」値であれば、ＱＬに等しい「ｑｕａｌｉｔｙ＿ｉｄ」のピクチャは、層間予測のために、ＱＬ−１に等しい「ｑｕａｌｉｔｙ＿ｉｄ」のピクチャを使用する。０より大きい「ｑｕａｌｉｔｙ＿ｉｄ」の符号化スライスは、トランケーション可能ＦＧＳスライスまたは非トランケーション可能ＭＧＳスライスの何れかとして符号化できる。
【０１６６】
簡単のために、「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」の同じ値を有している１つのアクセス・ユニットにおける、すべてのデータ・ユニット（例えば、ＳＶＣに関連するネットワーク抽象化層ユニットまたはＮＡＬユニット）は、依存性ユニットまたは依存性表現と言う。１つの依存性ユニット内では、「ｑｕａｌｉｔｙ＿ｉｄ」の同じ値を有しているすべてのデータ・ユニットは、品質ユニットまたは層表現と言われる。
【０１６７】
復号化ベースピクチャとしても知られているベース表現は、０に等しい「ｑｕａｌｉｔｙ＿ｉｄ」を有しており、「ｓｔｏｒｅ＿ｒｅｆ＿ｂａｓｅ＿ｐｉｃ＿ｆｌａｇ」が１に等しいように設定されている依存性ユニットのビデオ・コーディング層（ＶＣＬ）ＮＡＬユニットを復号化した結果としての復号化ピクチャである。復号化ピクチャとも言われるエンハンスメント表現は、最上位の依存性表現のために存在しているすべての層表現が復号化される規則的復号化プロセスの結果である。
【０１６８】
前述したように、ＣＧＳは空間スケーラビリティとＳＮＲスケーラビリティの両者を含んでいる。空間スケーラビリティは、最初は、異なる解像度のビデオの表現をサポートするために設計された。各時間インスタンスに対して、ＶＣＬＮＡＬユニットは同じアクセス・ユニットにおいて符号化され、これらのＶＣＬＮＡＬユニットは、異なる解像度に対応することが可能である。復号化の間、低解像度のＶＣＬＮＡＬユニットは、高解像度のピクチャの最終復号化および再構築によりオプションとして受け継がれることが可能な動きフィールドおよび残差を提供する。以前のビデオ圧縮標準と比較すると、ＳＶＣの空間スケーラビリティは、ベース層が、エンハンスメント層のクロップされ（出力画像の形態に合わせて上下左右の画素が切り出され）、およびズームされ（拡大／縮小され）たバージョンであることを可能にするために一般化された。
【０１６９】
ＭＧＳ品質層は、ＦＧＳ品質層と同様に、「ｑｕａｌｉｔｙ＿ｉｄ」により示される。各依存性ユニット（同じ「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」を有している）に対しては、０に等しい「ｑｕａｌｉｔｙ＿ｉｄ」の層があり、０より大きい「ｑｕａｌｉｔｙ＿ｉｄ」の他の層もあり得る。０より大きな「ｑｕａｌｉｔｙ＿ｉｄ」のこれらの層は、スライスがトランケーション可能なスライスとして符号化されたかどうかに依存して、ＭＧＳ層またはＦＧＳ層の何れかである。
【０１７０】
ＦＧＳエンハンスメント層の基本形状においては、層間予測のみが使用される。したがって、ＦＧＳエンハンスメント層は、復号化されたシーケンスにおいていかなるエラー伝搬も引き起こすことなく、自由にトランケーションが可能である。しかし、ＦＧＳの基本形状は、低圧縮効率の影響を受ける。この問題は、低品質ピクチャのみがインタ予測参照に使用されるために起こる。したがって、ＦＧＳ強化ピクチャがインタ予測参照として使用されるべきであるということが提案されている。しかし、これは、何らかのＦＧＳデータが破棄されたときに、符号化と復号化の間の、ドリフトとも言われる不整合を引き起こす。
【０１７１】
ＳＶＣ標準草案の１つの特徴は、ＦＧＳＮＡＬユニットを自由にドロップまたはトランケートすることが可能であることであり、ＳＶＣＶ標準の特徴は、ＭＧＳＮＡＬユニットを自由に、ビットストリームの準拠状態に影響を与えることなく、自由にドロップすることが可能である（しかし、トランケートすることはできない）ことである。上記に検討したように、ＦＧＳまたはＭＧＳデータが、符号化の間のインタ予測参照に使用されたときは、データのドロッピングまたはトランケーションは、デコーダ側およびエンコーダ側における復号化ピクチャ間の不整合という結果になる。この不整合はドリフトとも言われる。
【０１７２】
ＦＧＳまたはＭＧＳデータのドロッピングまたはトランケーションによるドリフトを制御するために、ＳＶＣは下記のソリューションを適用した。ある依存性ユニットにおいては、（０に等しい「ｑｕａｌｉｔｙ＿ｉｄ」のＣＧＳピクチャのみと、下位層に依存するすべてのデータを復号化することによる）ベース表現は、復号化ピクチャバッファに格納される。「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」の同じ値の後続する依存性ユニットを符号化するときは、ＦＧＳまたはＭＧＳＮＡＬユニットを含むすべてのＮＡＬユニットは、インタ予測参照にベース表現を使用する。したがって、先行するアクセス・ユニットにおけるＦＧＳまたはＭＧＳＮＡＬユニットのドロッピングまたはトランケーションによるすべてのドリフトは、このアクセス・ユニットにおいて止められる。「ｄｅｐｅｎｄｅｎｃｙ＿ｉｄ」の同じ値の他の依存性ユニットに対しては、すべてのＮＡＬユニットは、高いコーディング効率のために、インタ予測参照に復号化ピクチャを使用する。
【０１７３】
各ＮＡＬユニットは、ＮＡＬユニット・ヘッダにおいて、シンタックス要素「ｕｓｅ＿ｒｅｆ＿ｂａｓｅ＿ｐｉｃ＿ｆｌａｇ」を含んでいる。この要素の値が１に等しいときは、ＮＡＬユニットの復号化は、インタ予測プロセスの間に参照ピクチャのベース表現を使用する。シンタックス要素「ｓｔｏｒｅ＿ｒｅｆ＿ｂａｓｅ＿ｐｉｃ＿ｆｌａｇ」は、現在のピクチャのベース表現を、インタ予測に使用する将来ピクチャのために格納する（１に等しいとき）か、否か（０に等しいとき）を指定する。
【０１７４】
０より大きい「ｑｕａｌｉｔｙ＿ｉｄ」のＮＡＬユニットは、参照ピクチャ・リスト構築および重み付け予測に関連するシンタックス要素を含んでいない。つまり、シンタックス要素「ｎｕｍ＿ｒｅｆ＿ａｔｉｖｅ＿ｌｘ＿ｍｉｎｕｓ１」（ｘ＝０または１）、参照ピクチャ・リスト再順序化シンタックス・テーブル、および重み付け予測シンタックス・テーブルは、存在しない。したがって、ＭＧＳまたはＦＧＳ層は、これらのシンタックス要素を、必要なときは、同じ依存性ユニットの、０に等しい「ｑｕａｌｉｔｙ＿ｉｄ」のＮＡＬユニットから受け継がなければならない。
【０１７５】
ＳＶＣにおいては、参照ピクチャ・リストは、ベース表現のみか（「ｕｓｅ＿ｒｅｆ＿ｂａｓｅ＿ｐｉｃ＿ｆｌａｇ」が１に等しいとき）または「ベース表現」とマークされていない復号化ピクチャのみ（「ｕｓｅ＿ｒｅｆ＿ｂａｓｅ＿ｐｉｃ＿ｆｌａｇ」が０に等しいとき）の何れかにより構成されるが、同時に両者から構成されることはない。
【０１７６】
Ｈ．２６４／ＡＶＣビットストリームにおいては、１つの符号化ビデオ・シーケンスにおける符号化ピクチャは、同じシーケンス・パラメータ・セットを使用し、復号化プロセスの間のいずれの時間インスタンスにおいても、１つのシーケンス・パラメータ・セットのみがアクティブである。ＳＶＣにおいては、異なるスケーラブル層からの符号化ピクチャは、異なるシーケンス・パラメータ・セットを使用できる。異なるシーケンス・パラメータ・セットが使用された場合、復号化プロセスの間のいずれの時間インスタンスにおいても、２つ以上のアクティブシーケンスピクチャ・パラメータ・セットが存在し得る。ＳＶＣ仕様においては、上層に対するシーケンスピクチャ・パラメータ・セットは、アクティブシーケンスピクチャ・パラメータ・セットとして表わされ、残りは、層アクティブシーケンスピクチャ・パラメータ・セットと言われる。いずれの所与のアクティブシーケンスピクチャ・パラメータ・セットも、アクティブシーケンスラメータセットが参照される層におけるコード化ビデオ・シーケンスを通して、不変のままで留まる。
【０１７７】
スケーラブル・ネスティングＳＥＩメッセージがＳＶＣにおいて指定されている。スケーラブル・ネスティングＳＥＩメッセージは、ＳＥＩメッセージを、示されている依存性表現または他のスケーラブル層のような、ビットストリームのサブセットと関連付けるためのメカニズムを提供する。スケーラブル・ネスティングＳＥＩメッセージは、スケーラブル・ネスティングＳＥＩメッセージ自体ではない、１つ以上のＳＥＩメッセージを含んでいる。スケーラブル・ネスティングＳＥＩメッセージに含まれているＳＥＩメッセージは、ネステッドＳＥＩメッセージと言われる。スケーラブル・ネスティングＳＥＩメッセージに含まれていないＳＥＩメッセージは、非ネステッドＳＥＩメッセージと言われる。
【０１７８】
品質スケーラビリティ（信号対雑音比またはＳＮＲとしても知られている）および／または空間スケーラビリティのためのスケーラブル・ビデオ・エンコーダは、下記のように実現できる。ベース層に対しては、従来の非スケーラブル・ビデオ・エンコーダおよびデコーダが使用できる。ベース層の再構築／復号化ピクチャは、エンハンスメント層用の参照ピクチャバッファおよび／または参照ピクチャ・リストに含まれている。空間スケーラビリティの場合は、再構築／復号化ベース層ピクチャは、エンハンスメント層ピクチャ用の参照ピクチャ・リストに挿入される前に、アップサンプリングできる。ベース層復号化ピクチャは、エンハンスメント層の復号化参照ピクチャと同様に、エンハンスメント層ピクチャのコーディング／復号化のための参照ピクチャ・リストに挿入できる。したがって、エンコーダは、ベース層参照ピクチャを、インタ予測参照として選択でき、その使用を、符号化ビットストリームにおける参照ピクチャ・インデックスにより示すことができる。デコーダは、ビットストリームから、例えば、参照ピクチャ・インデックスから、ベース層ピクチャが、エンハンスメント層に対するインタ予測参照として使用されていることを復号化する。復号化ベース層ピクチャが、エンハンスメント層に対する予測参照として使用されるときは、それは層間参照ピクチャと言われる。
【０１７９】
適応解像度変更は、たとえば、ビデオ会議使用ケースにおいて、ビデオ・シーケンスの中での解像度をダイナミックに変更することを指す。適応解像度変更は、例えば、より良いネットワーク適合とエラー障害許容力のために使用することができる。異なるコンテンツに対するネットワーク要求の変更により良く適合するために、品質に加えて時間的／空間的解像度の両方を変更できることが望ましいことがあり得る。適応解像度変更は、また、速いスタートを可能にすることができる。ここで、セッションのスタート・アップ時間は、最初に低解像度フレームを送り、そして、次に、解像度を増やすことで増加することができる。適応解像度変更は、さらに、会議の組み立てにおいて使用することができる。例えば、人が話し始めるとき、その人の対応する解像度を、増加することができる。ＩＤＲフレームでこれを行うことは、ＩＤＲフレームとしての品質における「ブリップ」に、遅延が顕著に増加しないように、比較的低い品質で符号化されることを必要とさせることができる。
【０１８０】
前段落では、エンハンスメント層とベース層の２つのスケーラビリティ層のスケーラブル・ビデオ・コーデックを記述したが、その記述は、２つの層より多いスケーラビリティ階層における任意の２つの層に対しても一般化することができることが理解される必要がある。この場合、符号化および／または復号化プロセスにおいては、第２エンハンスメント層は、第１エンハンスメント層に依存でき、したがって、第１エンハンスメント層は、第２エンハンスメント層の符号化および／または復号化のためのベース層と見なすことができる。更に、エンハンスメント層の参照ピクチャバッファまたは参照ピクチャ・リストにおける１つの層よりも多くからの層間参照ピクチャがあり得、これらの層間参照ピクチャのそれぞれは、符号化および／または復号化されているエンハンスメント層のためのベース層または参照層に存在すると考えることもできることが理解される必要がある。
【０１８１】
前述したように、ＭＶＣはＨ．２６４／ＡＶＣの拡張である。Ｈ．２６４／ＡＶＣの定義、コンセプト、シンタックス構造、セマンティックス、および復号化プロセスの多くが、そのまま、またはある一般化または抑制を伴ってＭＶＣにも適用される。ＭＶＣのいくつかの定義、コンセプト、シンタックス構造、セマンティックス、および復号化プロセスが、下記に記述される。
【０１８２】
ＭＶＣにおけるアクセス・ユニットは、復号化順において連続しており、１つ以上のビュー構成要素から構成されている正確に１つの１次符号化ピクチャを含んでいるＮＡＬユニットのセットとして定義される。１次符号化ピクチャに加えて、アクセス・ユニットは、また、１つ以上の冗長符号化ピクチャ、１つの補助符号化ピクチャ、または、符号化ピクチャのスライスまたはスライス・データ・パーティション分割部を含んでいない他のＮＡＬユニットを含むことができる。アクセス・ユニットの復号化は、復号化に影響を与え得る復号化エラー、ビットストリームエラー、または他のエラーが起きないときは、１つ以上の復号化ビュー構成要素から構成される１つの復号化ピクチャという結果になる。言い換えると、ＭＶＣにおけるアクセス・ユニットは、１つの出力時間インスタンスに対するビューのビュー構成要素を含んでいる。
【０１８３】
ＭＶＣにおけるビュー構成要素は、単一のアクセス・ユニットにおけるビューの符号化表現と言われる。
【０１８４】
ビュー間予測はＭＶＣにおいて使用でき、同じアクセス・ユニットの異なるビュー構成要素の復号化サンプルからのビュー構成要素の予測のことを指す。ＭＶＣにおいては、ビュー間予測は、インタ予測と同様に実現される。例えば、ビュー間参照ピクチャは、インタ予測のための参照ピクチャと同じ参照ピクチャ・リストに置かれ、動きベクトルと共に、参照インデックスはビュー間およびインタ参照ピクチャに対してと同様に符号化または推測される。
【０１８５】
アンカピクチャは符号化ピクチャであり、すべてのスライスは同じアクセス・ユニット内のスライスのみを参照できる。つまり、ビュー間予測を使用できるが、インタ予測は使用されず、出力順において後続するすべての符号化ピクチャは、符号化ピクチャに復号化順において先行するいずれのピクチャからのインタ予測も使用しない。ビュー間予測は、非ベース・ビューの一部であるＩＤＲビュー構成要素に使用できる。ＭＶＣにおけるベース・ビューは、符号化ビデオ・シーケンスにおけるビュー順序インデックスの最小値を有しているビューである。ベース・ビューは、他のビューとは独立して復号化可能で、ビュー間予測を使用しない。ベース・ビューは、Ｈ．２６４／ＡＶＣのベースラインプロファイルまたはハイプロファイルのような、シングルビュープロファイルのみをサポートしているＨ．２６４／ＡＶＣデコーダにより復号化可能である。
【０１８６】
ＭＶＣ標準においては、ＭＶＣ復号化プロセスのサブプロセスの多くは、Ｈ．２６４／ＡＶＣ標準のサブプロセス仕様における用語「ピクチャ」、「フレーム」、および「フィールド」を、「ビュー構成要素」、「フレームビュー構成要素」、および「フィールドビュー構成要素」に、それぞれに置き換えることにより、Ｈ．２６４／ＡＶＣ標準の各サブプロセスを使用する。同様に、用語「ピクチャ」、「フレーム」、および「フィールド」は、下記においては、「ビュー構成要素」、「フレームビュー構成要素」、および「フィールドビュー構成要素」それぞれを意味するためにしばしば使用される。
【０１８７】
前述したように、ＭＶＣビットストリームの非ベース・ビューは、サブセットシーケンス・パラメータ・セットＮＡＬユニットを参照できる。ＭＶＣに対するサブセットシーケンス・パラメータ・セットは、ベースＳＰＳデータ構造およびシーケンス・パラメータ・セットＭＶＣ拡張データ構造を含んでいる。ＭＶＣにおいては、異なるビューからの符号化ピクチャは、異なるシーケンス・パラメータ・セットを使用できる。ＭＶＣにおけるＳＰＳ（具体的には、ＭＶＣにおけるＳＰＳのシーケンス・パラメータ・セットＭＶＣ拡張部）は、ビュー間予測のためのビュー依存性情報を含むことが可能である。これは、例えば、ビュー依存性ツリーを構築するために、シグナリング処理可能メディアゲートウェイにより使用できる。
【０１８８】
ＳＶＣおよびＭＶＣにおいて、プレフィックスＮＡＬユニットは、復号化順序において、ベース層／ビュー符号化スライスに対するＶＣＬ−ＮＡＬユニットに、すぐに先行するＮＡＬユニットとして定義することができる。復号化順序において、プレフィックスＮＡＬユニットにすぐに続くＮＡＬユニットは、結合ＮＡＬユニットと呼ばれることができる。プレフィックスＮＡＬユニットは、結合ＮＡＬユニットと結びついたデータを含み、これは、結合ＮＡＬユニットの部分であると考えることができる。プレフィックスＮＡＬユニットは、ＳＶＣまたはＭＶＣ復号化プロセスが使用中であるとき、ベース層／ビュー符号化スライスの復号化に影響するシンタックス要素を含むのに用いることができる。Ｈ．２６４／ＡＶＣベース層／ビュー・デコーダは、その復号化プロセスにおいて、プレフィックスＮＡＬユニットを省略することができる。
【０１８９】
スケーラブル・マルチビュー・コーディングにおいては、同じビットストリームは、複数のビューの符号化ビュー構成要素を含むことができ、少なくともいくつかの符号化ビュー構成要素は、品質および／または空間スケーラビリティを使用して符号化できる。
【０１９０】
テクスチャ・ビューとは、通常のビデオ・コンテンツを表現し、例えば、通常のカメラを使用して捕捉され、普通は、ディスプレイ上でのレンダリングに適切なビューのことである。テクスチャ・ビューは、典型的には、３つの構成要素、つまり、１つのルマ構成要素と２つのクロマ構成要素を有するピクチャを備えている。下記においては、テクスチャ・ビューは典型的には、別途、例えばルマ・テクスチャ・ピクチャおよびクロマ・テクスチャ・ピクチャの用語で示されない限り、すべてのその構成要素ピクチャまたはカラー構成要素を備えている。
【０１９１】
深度ビューとは、カメラセンサからのテクスチャ・サンプルの距離情報、またはテクスチャ・ビューサンプルと、別のビューにおけるそれぞれのテクスチャ・サンプルの間のディスパリティまたはパララックス、または類似の情報を表現するビューのことである。深度ビューは、テクスチャ・ビューのルマ構成要素と類似している１つの構成要素を有している深度ピクチャ（深度マップとしても知られている）を備えることができる。深度マップは、画素毎の深度情報またはそれに類似のものを有している画像である。例えば、深度マップにおける各サンプルは、それぞれのテクスチャ・サンプルまたは複数のテクスチャ・サンプルの、カメラが存在するプレーンからの距離を表現している。言い換えれば、ｚ軸がカメラの撮影軸に沿っている（したがって、カメラが存在するプレーンに直交している）場合は、深度マップにおけるサンプルは、ｚ軸上の値を表現する。深度マップ値のセマンティックスは、例えば、下記を含むことができる。１．符号化深度ビュー構成要素における各ルマ・サンプル値は、リアルワールド距離（Ｚ）値の逆数、つまり１／Ｚであって、８ビットルマ表現のために、０から２５５（両者の値も含めて）の範囲のような、ルマ・サンプルの動的範囲において正規化された逆数を表現する。正規化は、量子化１／Ｚが、ディスパリティに関して一様な方法で行うことができる。２．符号化深度ビュー構成要素における各ルマ・サンプル値は、リアルワールド距離（Ｚ）値の逆数、つまり１／Ｚであって、８ビットルマ表現のために、０から２５５（両者の値も含めて）の範囲のような、ルマ・サンプルの動的範囲に、区分的線形マッピングのようなマッピング関数ｆ（１／Ｚ）またはテーブルを使用してマップされる逆数を表現する。言い換えれば、深度マップ値は、関数ｆ（１／Ｚ）の適用という結果になる。３．符号化深度ビュー構成要素における各ルマ・サンプル値は、８ビットルマ表現のために、０から２５５（両者の値も含めて）の範囲のような、ルマ・サンプルの動的範囲において正規化されたリアルワールド距離（Ｚ）値を表現する。４．符号化深度ビュー構成要素における各ルマ・サンプル値は、現在の深度ビューから別の、示されたまたは導出された深度ビューまたはビューの場所までのディスパリティまたはパララックス値を表現する。
【０１９２】
深度ビュー、深度ビュー構成要素、深度ピクチャ、および深度マップのような語句は、種々の実施形態を記述するために使用されるが、深度マップ値のいかなるセマンティックスも、制限されることはないが、上記の実施形態を含む種々の実施形態において使用できることが理解されるべきである。例えば、本願発明の実施形態は、サンプル値がディスパリティ値を示す深度ピクチャに対して適用できる。
【０１９３】
符号化深度マップを含んでいるビットストリームを作成または修正する符号化システムまたは任意の他のエンティティは、深度サンプルのセマンティックスおよび深度サンプルのビットストリームへの量子化方式の情報を作成して含むことができる。深度サンプルのセマンティックスおよび深度サンプルの量子化方式のそのような情報は、例えば、ビデオ・パラメータ・セット構造、シーケンス・パラメータ・セット構造、またはＳＥＩメッセージに含むことができる。
【０１９４】
深度強化ビデオとは、１つ以上の深度ビューを有している深度ビデオと関連付けられている１つ以上のビューを有しているテクスチャビデオのことである。深度強化ビデオの表現のために多数のアプローチが使用でき、このアプローチにはビデオプラス深度（Ｖ＋Ｄ）、マルチビュー・ビデオプラス深度（ＭＶＤ）、および層化深度ビデオ（ＬＤＶ）の使用が含まれる。ビデオプラス深度（Ｖ＋Ｄ）表現においては、テクスチャのシングルビューおよびそれぞれの深度のビューが、テクスチャピクチャおよび深度ピクチャそれぞれのシーケンスとして表現される。ＭＶＤ表現は、多数のテクスチャ・ビューおよびそれぞれの深度ビューを含む。ＬＤＶ表現においては、中心ビューのテクスチャおよび深度は従来通りに表現されるが、他のビューのテクスチャおよび深度は部分的に表現され、中間ビューの正しいビュー合成に対して要求される非遮蔽領域のみをカバーする。
【０１９５】
テクスチャ・ビュー構成要素は、単一のアクセス・ユニットにおけるビューのテクスチャの符号化表現と定義できる。深度強化ビデオビットストリームにおけるテクスチャ・ビュー構成要素は、それにより、シングルビューまたはマルチビューデコーダは、たとえ深度ビューを復号化する能力を有していなくても、テクスチャ・ビューを復号化できるように、シングルビューテクスチャビットストリームまたはマルチビューテクスチャビットストリームと互換性のある方法で符号化できる。例えば、Ｈ．２６４／ＡＶＣデコーダはシングルテクスチャ・ビューを、深度強化Ｈ．２６４／ＡＶＣビットストリームから復号化できる。テクスチャ・ビュー構成要素は、代替として、Ｈ．２６４／ＡＶＣまたはＭＶＣデコーダのようなシングルビューまたはマルチビューテクスチャ復号化が可能なデコーダが、例えば、深度ベースコーディングツールを使用しているために、テクスチャ・ビュー構成要素を復号化できないような方法で符号化できる。深度ビュー構成要素は、単一のアクセス・ユニットにおけるビューの深度の符号化表現と定義できる。ビュー構成要素対は、同じアクセス・ユニット内の同じビューのテクスチャ・ビュー構成要素と深度ビュー構成要素と定義できる。
【０１９６】
深度強化ビデオは、テクスチャおよび深度が互いに独立して符号化されるように符号化できる。例えば、テクスチャ・ビューは、１つのＭＶＣビットストリームとして、そして深度ビューは別のＭＶＣビットストリームとして符号化できる。深度強化ビデオはまた、テクスチャと深度が一緒に符号化されるようにも符号化できる。テクスチャおよび深度ビューの一緒のコーディングの形状においては、テクスチャピクチャのいくつかの復号化サンプル、またはテクスチャピクチャの復号化のためのデータ要素は、深度ピクチャのいくつかの復号化サンプル、または、深度ピクチャの復号化プロセスにおいて得られるデータ要素から予測または導出される。代替として、または、追加的に、深度チャピクチャのいくつかの復号化サンプル、または深度ピクチャの復号化のためのデータ要素は、テクスチャピクチャのいくつかの復号化サンプル、または、テクスチャピクチャの復号化プロセスにおいて得られるデータ要素から予測または導出される。別のオプションにおいては、テクスチャの符号化ビデオデータおよび深度の符号化ビデオデータは、互いからは予測されず、または一方は、他方に基づいては符号化／復号化されないが、符号化テクスチャおよび深度ビューは、符号化において同じビットストリームに多重化でき、復号化においてビットストリームから多重分離できる。更に別のオプションにおいては、テクスチャの符号化ビデオデータは、例えば、スライス層の下においては、深度の符号化ビデオデータからは予測されないが、テクスチャ・ビューおよび深度ビューのハイレベルコーディング構造のいくつかは、共有でき、または互いから予測できる。例えば、符号化深度スライスのスライス・ヘッダは、符号化テクスチャスライスのスライス・ヘッダから予測できる。更に、パラメータ・セットのいくつかは、符号化テクスチャ・ビューと符号化深度ビューの両者により使用できる。
【０１９７】
深度強化ビデオ・フォーマットは、いかなる符号化されたビューによっても表現されない、カメラ位置における仮想ビューまたはピクチャの生成を可能にする。一般的に、任意の深度−画像・ベース・レンダリング（ＤＩＢＲ）アルゴリズムを、ビュー合成に使用することができる。
【０１９８】
ビュー合成ピクチャは、また、合成参照コンポーネントと呼ぶことができる。これは、ビュー合成予測のために使用することができるサンプルを含むように定義することができる。合成参照コンポーネントは、ビュー合成予測のための参照ピクチャとして使うことができるが、しかし、典型的には、出力、または、表示されない。ビュー合成ピクチャは、符号化されるか、復号化されるピクチャに関しては、同じカメラ・パラメータを仮定する同じカメラ位置に対して生成することができる。
【０１９９】
ビュー合成ピクチャを、ビュー間参照ピクチャで行ったのと同様にして、参照ピクチャ・リストに導入することができる。ビュー合成予測の場合における、参照ピクチャ・リストでの信号伝達および動作は、Ｈ．２６４／ＡＶＣまたはＨＥＶＣで指定されているものと同一であるか類似しているままでありえる。
【０２００】
ＶＳＰに起因する合成ピクチャは、例えば、時間またはビュー間参照フレームに続く初期参照ピクチャ・リストであるリスト０とリスト１に含むことができる。しかしながら、参照ピクチャ・リスト修正シンタックス（つまり、ＲＰＬＲコマンド）は、ＶＳＰ参照ピクチャをサポートするように拡張できるため、エンコーダは、参照ピクチャ・リストを任意の順序に順序付けすることが可能で、最終順序をビットストリームにおいてＲＰＬＲコマンドで表示して、デコーダに同じ最終順序を有する参照ピクチャ・リストを再構築させることが可能である。
【０２０１】
動き情報導出などの、ビュー合成参照ピクチャから予測するプロセスは、Ｈ．２６４／ＡＶＣまたはＨＥＶＣのインター、層間、および、ビュー間予測に対して指定されたプロセスと同一であるか、類似しているままでありえる。代替として、または、追加的に、ビュー合成予測のための特定の符号化モードは、ビットストリームにおいて、エンコーダによって指定され、信号伝達されることができる。言い換えると、ＶＳＰは、代替的に、また、いくつかの符号化および復号化の構成において、イントラ、インター、ビュー間および他の符号化モードから別のモードとして使用することができる。例えば、ＶＳＰスキップ／直接モードにおいて、動きベクトル差異コーディング（デコーディング）、および、たとえば、変換ベース・コーディングを使用した残差予測誤差のコーディング（デコーディング）は、また、省略することができる。例えば、マクロ・ブロックが、ビットストリームで、スキップ／直接モードを使用して符号化されることを示すことができるならばそれは、さらに、ＶＳＰフレームが参照として使用されているか否かを示すことができる。代替として、または、追加的に、完全なビュー合成参照ピクチャよりむしろ、または、それに加えて、ビュー合成参照ブロックは、エンコーダやデコーダで生成することができ、種々の予測プロセスに対する予測参照として使用することができる。
【０２０２】
多くのビデオ・エンコーダは、例えば、所望のマクロ・ブロック・モードおよび関連動きベクトルのようなレートディストーション最適コーディング・モードを見出すために、ラグランジアン・コスト関数を利用する。このタイプのコスト関数は、画像領域における、損失のあるコーディング法に起因する正確または推定画像ディストーションと、画像領域における画素／サンプル値を表現するために要求される情報の正確または推定量を一緒につなぎ合わせるために、重み付けファクタまたはλを使用する。ラグランジアン・コスト関数は、方程式
Ｃ＝Ｄ＋λＲ
で表現でき、ここで、Ｃは最小化されるラグランジアン・コスト、Ｄは、現在考慮されているモードおよび動きベクトルの画像ディストーション（例えば、元々の画像ブロックと符号化画像ブロックにおける画素／サンプル値の間の最小二乗誤差）、λはラグランジアン係数、そして、Ｒは、デコーダにおいて画像ブロックを再構築するために必要なデータを表現するために必要なビット数である（候補の動きベクトルを表現するためのデータ量も含まれている）。
【０２０３】
コーディング標準は、サブ・ビットストリーム抽出プロセスを含むことができ、例えば、ＳＶＣ、ＭＶＣ、およびＨＥＶＣにおいて指定されている。サブ・ビットストリーム抽出プロセスは、ＮＡＬユニットをサブ・ビットストリームに移動することによりビットストリームを変換することに関連している。サブ・ビットストリームは依然として標準に準拠している。例えば、ＨＥＶＣ標準草案においては、選択された値より大きいｔｅｍｐｏｒａｌ＿ｉｄを有しているすべてのＶＣＬ  ＮＡＬユニットを除外し、その他のすべてのＶＣＬ  ＮＡＬユニットを含むことにより作成されるビットストリームは、準拠状態に留まっている。ＨＥＶＣ標準草案の別のバージョンにおいて、サブ・ビットストリーム抽出プロセスは、入力としてＴｅｍｐｏｒａｌＩｄやＬａｙｅｒＩｄの値のリストを取得し、入力ＴｅｍｐｏｒａｌＩｄ値より大きいＴｅｍｐｏｒａｌＩｄ、または、ＬａｙｅｒＩｄの値の入力リストにおける値の間にはないｌａｙｅｒ＿ｉｄ値を有する、ビットストリームからすべてのＮＡＬユニットを取り除くことによってサブ・ビットストリーム（ビットストリーム・サブセットとしても知られる）を導出する。
【０２０４】
ＨＥＶＣ草案においては、デコーダが使用する動作点は、以下の通り、変数ＴａｒｇｅｔＤｅｃＬａｙｅｒＩｄＳｅｔおよびＨｉｇｈｅｓｔＴｉｄを通してセットすることができる。復号化されるべきＶＣＬ−ＮＡＬユニットのｌａｙｅｒ＿ｉｄに対する値のセットを指定するリストＴａｒｇｅｔＤｅｃＬａｙｅｒＩｄＳｅｔは、デコーダ制御ロジックなど、外部手段により指定することができる。外部手段で指定されない場合には、リストＴａｒｇｅｔＤｅｃＬａｙｅｒＩｄＳｅｔは、ｌａｙｅｒ＿ｉｄに対する１つの値を含み、これは、ベース層を示す（すなわち、ＨＥＶＣ標準草案で、０に等しい）。最も高い時間的サブ・レイヤを識別する変数ＨｉｇｈｅｓｔＴｉｄは、外部手段で指定されることができる。外部手段で指定されない場合には、ＨｉｇｈｅｓｔＴｉｄは、例えば、ＨＥＶＣ標準草案における、ｓｐｓ＿ｍａｘ＿ｓｕｂ＿ｌａｙｅｒｓ＿ｍｉｎｕｓ１の値など、符号化ビデオ・シーケンスまたはビットストリームに存在することができる最も高いＴｅｍｐｏｒａｌＩｄ値にセットされる。サブ・ビットストリーム抽出プロセスは、入力としてＴａｒｇｅｔＤｅｃＬａｙｅｒＩｄＳｅｔおよびＨｉｇｈｅｓｔＴｉｄに適用することができる。その出力は、ＢｉｔｓｔｒｅａｍＴｏＤｅｃｏｄｅと呼ばれるビットストリームに割り当てられる。復号化プロセスは、ＢｉｔｓｔｒｅａｍＴｏＤｅｃｏｄｅにおける各々の符号化ピクチャにたいして動作することができる。
【０２０５】
図９は、そこで種々の実施形態をインプリメントすることができる一般的なマルチメディア通信システムのグラフィック表現である。図９で示すように、データ・ソース９００は、アナログ、非圧縮デジタルまたは圧縮デジタル・フォーマット、あるいは、これらの任意のフォーマットの組合せで、ソース信号を提供する。エンコーダ９１０は、ソース信号を、符号化メディア・ビットストリームに符号化する。復号化されるべきビットストリームは、仮想的に任意のタイプのネットワークの中に位置するリモート・デバイスから直接または間接的に受信することができることに留意する。追加的に、ビットストリームは、ローカル・ハードウェアまたはソフトウェアから受信することができる。エンコーダ９１０は、オーディオおよびビデオなどの、１つより多いメディア・タイプを符号化することができる。または、１つ以上のエンコーダ９１０が、ソース信号の異なるメディア・タイプを符号化するのに要求される。エンコーダ９１０は、また、グラフィクスやテキストなどの、合成的に生成された入力を得ることができる。あるいは、それは、合成メディアの符号化されたビットストリームを生成することができる。下記においては、１つのメディア・タイプの１つの符号化されたメディア・ビットストリームの処理だけを、説明を単純化するために考慮する。しかしながら、典型的には、マルチメディア・サービスはいくつかのストリームを含む（典型的には、少なくとも１つのオーディオおよびビデオ・ストリーム）ことに留意する。また、システムは、多くのエンコーダを含むことができるが、図９においては、一般性を失うことなく、説明を単純化するために、１つのエンコーダ９１０だけが、表されることに留意する。ここに含まれたテキストと例が、特に符号化プロセスを記述することができるけれども、当業者は、同じ概念よび原則も、対応する復号化プロセスに適用することができ、および、その逆もあり得ることを理解することが、さらに理解されなければならない。
【０２０６】
符号化メディア・ビットストリームは、ストレージ９２０へ移される。ストレージ９２０は、符号化メディア・ビットストリームを格納するために任意のタイプの大容量メモリを備えることができる。ストレージ９２０における符号化メディア・ビットストリームのフォーマットは、基本自己内蔵型ビットストリーム・フォーマットであることができる。または、１つ以上の符号化メディア・ビットストリームを、コンテナ・ファイルにカプセル化することができる。１つ以上のメディア・ビットストリームをコンテナ・ファイルにカプセル化する場合には、ファイル発生器（図示せず）は、ファイルのもう１つのメディア・ビットストリームを格納するために使用することができ、ファイル・フォーマット・メタデータをつくり、これも、また、ファイルに格納される。エンコーダ９１０またはストレージ９２０は、ファイル発生器を備えることができる。または、ファイル発生器は、任意選択的に、エンコーダ９１０またはストレージ９２０に動作的に接続される。いくつかのシステムは、「ライブ」動作し、すなわち、ストレージを省略し、符号化メディア・ビットストリームを、エンコーダ９１０から、直接センダー９３０へ移送する。符号化メディア・ビットストリームは、次に、センダー９３０に移送される。これは、また、必要に応じて、サーバとも呼ばれる。伝送において使用されるフォーマットは、基本自己内蔵型ビットストリーム・フォーマット、パケット・ストリーム・フォーマットであることができる、あるいは、１つ以上の符号化メディア・ビットストリームを、コンテナ・ファイルにカプセル化することができる。エンコーダ９１０、ストレージ９２０およびサーバ９３０は、同一の物理的デバイスに存在することができる。あるいは、それらは、別のデバイスに含まれることができる。エンコーダ９１０およびサーバ９３０は、ライブ・リアルタイム・コンテンツで動作することができる。この場合、符号化メディア・ビットストリームは、典型的には永久には格納されないが、コンテンツ・エンコーダ９１０、および／またはサーバ９３０に短い期間、バッファされ、遅延、移送遅延および符号化メディアビット・レートの処理において、バリエーションを滑らかにする。
【０２０７】
サーバ９３０は、通信プロトコル・スタックを用いて符号化メディア・ビットストリームを送信する。スタックは、ＲＴＰ（Ｒｅａｌ−Ｔｉｍｅ  Ｔｒａｎｓｐｏｒｔ）プロトコル、ＵＤＰ（Ｕｓｅｒ  Ｄａｔａｇｒａｍ  Ｐｒｏｔｏｃｏｌ）およびとインターネット・プロトコル（ＩＰ）を含む。しかし、これらに限定されるものではない。通信プロトコル・スタックが、パケット指向であるとき、サーバ９３０は、符号化メディア・ビットストリームをパケットにカプセル化する。例えば、ＲＴＰが使用されるとき、サーバ９３０は、ＲＴＰペイロード・フォーマットにしたがって、符号化メディア・ビットストリームをＲＴＰパケットにカプセル化する。典型的には、各々のメディア・タイプには、専用のＲＴＰペイロード・フォーマットがある。システムは、複数のサーバ９３０を含むことができるが、簡単のために、以下の説明では、１つのサーバ９３０のみを考慮することに再び留意する。
【０２０８】
メディア・コンテンツが、ストレージ９２０に対する、または、データをセンダー９３０に入力するために、コンテナ・ファイルにカプセル化されるならば、センダー９３０は、「ファイル送信パーサ」（図示しない）を含む、あるいは、それに動作的に接続することができる。特に、コンテナ・ファイルが同様に移送されないが、含まれた符号化メディア・ビットストリームの少なくとも１つが、通信プロトコルでの移送のためにカプセル化されるならば、ファイル送信パーサは、通信プロトコルで搬送される符号化メディア・ビットストリームの適切な部分に位置する。ファイル送信パーサは、また、例えば、パケット・ヘッダおよびペイロードなど、通信プロトコルのための正しいフォーマットを構築する際に助けとなる。マルチメディア・コンテナ・ファイルは、通信プロトコル上で含まれたメディア・ビットストリームの少なくとも１つのカプセル化のためにＩＳＯベース・メディア・ファイル・フォーマットにおけるヒント・トラックなどのカプセル化命令を含むことができる。
【０２０９】
サーバ９３０は、通信ネットワークを通して、ゲートウェイ９４０に接続していても、接続していなくてもよい。また、あるいは、代替的に、ミドル・ボックスまたはメディア・アウェア・ネットワーク要素（ＭＡＮＥ）と言われるゲートウェイ９４０は、本願１つの通信プロトコル・スタックから別の通信プロトコル・スタックにしたがって、パケット・ストリームの翻訳、データ・ストリームのマージングとフォーキング、および、優勢なダウンリンク・ネットワーク状態にしたがってフォワードされたストリームのビット・レートをコントロールすることなど、ダウンリンクやレシーバ能力にしたがって、データ・ストリームの操作など、異なるタイプの機能を実行することができる。ゲートウェイ９４０の例は、マルチポイント会議コントロール・ユニット（ＭＣＵ）、回線スイッチおよびパケット・スイッチ・ビデオ電話の間のゲートウェイ、ＰｏＣ（Ｐｕｓｈ−ｔｏ−ｔａｌｋ  ｏｖｅｒ  Ｃｅｌｌｕｌａｒ）サーバ、ＤＶＢ−Ｈ（ｄｉｇｉｔａｌ  ｖｉｄｅｏ  ｂｒｏａｄｃａｓｔｉｎｇ−ｈａｎｄｈｅｌｄ）システムにおけるＩＰエンカプシュレータまたは、放送伝送をローカルにホーム・ワイヤレス・ネットワークにフォワードするセットトップ・ボックスを含む。ＲＴＰが使用されるとき、ゲートウェイ９４０は、ＲＴＰミキサーまたはＲＴＰトランスレータと呼ばれ、ＲＴＰ接続のエンド・ポイントとして働くことができる。センダー９３０とレシーバ９５０の間の接続におけるゲートウェイは、ゼロから任意数だけ存在し得る。
【０２１０】
システムは、１つ以上のレシーバ９５０を含み、それは、典型的には、符号化メディア・ビットストリームに送られた信号を受信し、復調し、および／または、カプセルから取り出すことができる。符号化メディア・ビットストリームは、レコーディング・ストレージ９５５へ移送される。レコーディング・ストレージ９５５は、符号化メディア・ビットストリームを格納するための任意タイプの大容量メモリを備えることができる。レコーディング・ストレージ９５５は、代替的に、または、追加的に、ランダム・アクセス・メモリなどの計算メモリを備えることができる。レコーディング・ストレージ９５５における符号化メディア・ビットストリームのフォーマットは、基本自己内蔵型ビットストリーム・フォーマットであることができる、あるいは、１つ以上の符号化メディア・ビットストリームを、コンテナ・ファイルにカプセル化することができる。互いに結びついたオーディオ・ストリームとビデオ・ストリームなどの、多重の符号化メディア・ビットストリームが存在する場合には、コンテナ・ファイルが、典型的には使用され、そして、レシーバ９５０は、力ストリームからコンテナ・ファイルを生成するコンテナ・ファイル生成器を含む、あるいは、それに接続することができる。いくつかのシステムは、「ライブ」動作し、すなわち、レコーディング・ストレージ９５５を省略し、符号化メディア・ビットストリームを、レシーバ９５０から、直接デコーダ９６０へ移送する。いくつかのシステムにおいて、レコードされたストリームのごく最近の部分だけ、例えば、レコードされたストリームのごく最近の１０分の抜粋、が、レコーディング・ストレージ９５５の中で維持され、一方、いかなる初期のレコードされたデータも、レコーディング・ストレージ９５５から廃棄される。
【０２１１】
符号化メディア・ビットストリームは、レコーディング・ストレージ９５５からデコーダ９６０へ移送される。オーディオ・ストリームとビデオ・ストリームなどの、多くの符号化メディア・ビットストリームがあり、互いに関連して、コンテナ・ファイルにカプセル化される、または、単一のメディア・ビットストリームが、例えば、より簡単なアクセスのためにコンテナ・ファイルにカプセル化されるならば、ファイル・パーサ（図示せず）を、コンテナ・ファイルから各々の符号化メディア・ビットストリームをカプセルから取り出すのに用いる。レコーディング・ストレージ９５５またはデコーダ９６０は、ファイル・パーサ、を備えることができる。あるいは、ファイル・パーサは、レコーディング・ストレージ９５５またはデコーダ９６０に接続される。
【０２１２】
符号化メディア・ビットストリームは、デコーダ９６０でさらに処理されることができ、その出力は、１つ以上の非圧縮メディア・ストリームである。最後に、レンダリング装置９７０は、非圧縮メディア・ストリームを、たとえば、スピーカまたはディスプレイで、再生することができる。レシーバ９５０、レコーディング・ストレージ９５５、デコーダ９６０およびレンダリング装置９７０は、同一の物理的デバイスに存在することができる。あるいは、それらは、別のデバイスに含まれることができる。
【０２１３】
ＨＥＶＣのスケーラブルな拡張、または、ＨＥＶＣと同様の単一層符号化スキームに対する任意のスケーラブルな拡張において、ＲＡＰピクチャは、以下の特性の１つ以上を持つように指定することができる。
−  ０より大きいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するＲＡＰピクチャのＮＡＬユニット・タイプ値は、強化層ランダム・アクセス・ポイントを示すために使用することができる。
−  強化層ＲＡＰピクチャは、すべてのその参照層が、ＥＬ  ＲＡＰピクチャの前に復号化されたときに、その強化層の復号化を開始することを可能にするピクチャとして定義することができる。
−  層間予測は、０より大きいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するＣＲＡ  ＮＡＬユニットに対して許容される。一方、インタ予測は、認められない。
−  ＣＲＡ  ＮＡＬユニットは、層にわたって整列する必要はない。言い換えれば、ＣＲＡ  ＮＡＬユニット・タイプは、ｎｕｈ＿ｌａｙｅｒ＿ｉｄの特定の値を有するすべてのＶＣＬ  ＮＡＬユニットに対して使用することができる。一方、別のＮＡＬユニット・タイプは、同一のアクセス・ユニットのｎｕｈ＿ｌａｙｅｒ＿ｉｄの別の特定の値を有するすべてのＶＣＬ−ＮＡＬユニットに対して使用することができる。
−  ＢＬＡピクチャは、０に等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有する。
−  ＩＤＲピクチャは、０より大きいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有することができ、それらは、層間予測であることができる。一方、インタ予測は、認められない。
−  ＩＤＲピクチャは、層にない、あるいは、すべての層におけるアクセス・ユニットに存在する。すなわち、ＩＤＲ  ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅは、完全なＩＤＲアクセス・ユニットを示す。ここで、すべての層の復号化を開始することができる。
−  ＳＴＬＡピクチャ（ＳＴＬＡ＿Ｗ＿ＤＬＰおよびＳＴＬＡ＿Ｎ＿ＬＰ）は、それぞれ、０より大きいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するＮＡＬユニット・タイプ、ＢＬＡ＿Ｗ＿ＤＬＰおよびＢＬＡ＿Ｎ＿ＬＰで示すことができる。ＳＴＬＡピクチャは、さもなければ、０より大きいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するＩＤＲピクチャと同一でありえる。しかし、層にわたって整列する必要はない。
−  ベース層におけるＢＬＡピクチャの後に、強化層がＲＡＰピクチャを含み、すべてのその参照層の復号化が開始されたとき、強化層の復号化が、開始される。
−  強化層の復号化がＣＲＡピクチャから始まるとき、そのＲＡＳＬピクチャは、ＢＬＡピクチャのＲＡＳＬピクチャと同様に取り扱われる。
−  層ダウン・スイッチングまたは参照ピクチャの意図的でない損失は、失った参照ピクチャから識別される。この場合、関連した強化層の復号化は、その強化層の上の次のＲＡＰピクチャだけから続ける。
【０２１４】
下記において、適応解像度変更（ＡＲＣ）使用ケースのいくらか詳細が、スケーラブル・ビデオ・コーディング・フレームワークを使用して、更に詳細に記述される。スケーラブル・ビデオ・コーディングが、解像度変更のためのメカニズムを本来的に含んでいるので、適応解像度変更は、図７に示されるように、効率的にサポートすることができた。
【０２１５】
図７の例において、スイッチングは、ピクチャ３で起こり、デコーダは、ＢＬ０−ＢＬ１−ＢＬ２−ＢＬ３−ＥＬ３−ＥＬ４−ＥＬ６−ＥＬ６．．．のピクチャでのビットストリームを受信する。ピクチャＢＬ０ーＢＬ３は、ベース層のピクチャであり、ピクチャＥＬ３−ＥＬ６．．．は、強化層のピクチャである。この例では、ピクチャＢＬ０−ＢＬ３、および、ＥＬ４−ＥＬ６は、イントラ層予測だけを使用する。しかし、ピクチャＥＬ３は、層間予測を使用することもできる。
【０２１６】
いくつかの例示的インプリメンテーションにおいては、シーケンス・レベル信号伝達を、ビットストリームにおいて解像度変更があるかどうかをデコーダに示すために使用することができる。これは、例えば、２つのフラグを使うことにより、または、シーケンス・レベルの他の指標により、実行することができる。これらのフラグは、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇ、および、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇと呼ぶことができる。このｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇは、ビデオ・パラメータ・セットＶＰＳに配置することができ、強化層におけるランダム・アクセス・ピクチャ（ＲＡＰ）だけが、層間予測を利用することができること、および、強化層における非ＲＡＰピクチャは、決して層間予測を利用しないことを示す。ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇは、符号化ビデオ・シーケンスは、適応解像度変更操作を実行するように拘束されていることを信号伝達するのに用いることができる。ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇは、とりわけ、スイッチング・ピクチャを除いて、シーケンスの各々のＡＵは、単一の層から単一のピクチャを含む（これは、ＢＬ画像であっても、そうでなくてもよい）こと、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す。
【０２１７】
ＶＰＳにおけるこれらの制限を示すことは、デコーダが、デコーダ資源は、セッション・スタートにしかるべく割り当てることができるように、スケーラビリティは、解像度変更を達成することを除いて使用されないことを知ることを可能にする。加えて、ＳＨＶＣデコーダは、いくつかのアクセス・ユニットが、ＢＬピクチャを必ずしも含むというわけではないことを知っている必要があり得る。これは、次の場合に有用である。ＳＨＶＣデコーダには、低解像度ビットストリーム（例えば、７２０ｐ）を復号化する能力があると仮定する。適応解像度変更が使用され、そして、スイッチングが、７２０ｐから１０８０ｐまで起こるならば、それは、受信されたビットストリームのすべてのピクチャを復号化して、表示することができないであろうことをデコーダに示すメカニズムがなければならない。
【０２１８】
２つのフラグで機能を分離する１つの理由は、エンコーダは、当初すべてのアクセス・ユニットに対して、２つの層を送るが、ミドル・ボックスは、複数の受信者に対して、ビットストリームを異なるようにのトリムすることができることである。たとえば、ミドル・ボックスは、いくつかの受信者に対してだけベース層、いくつかの受信者に対して適応解像度変更可能ビットストリーム、および、いくつかの受信者に対して両方の層を送ることができた。この場合、エンコーダは、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇを１に、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇを０にセットできる。ミドル・ボックスが、このスケーラブル・ビットストリーム、適応解像度変更可能ビットストリームにをトリムするならば、ミドル・ボックスは、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇを、対応するビットストリームに対して、１に等しくセットすることができる。いくつかの実施形態において、ミドル・ボックスは、レシーバの能力、および／または選好、および／またはモード選択（例えば、符号化プロファイルとレベルの選択）を得る。そして、しかるべく、移送されたストリームをトリップする。能力や選好やモード選択は、たとえば、ＳＤＰオファー／アンサー・メカニズムを通して得ることができる。あるいは、レシーバで使用している特定のレシーバや特定の器材に対する能力や選好やモード選択に関する情報を有するサーバから受信することができる。
【０２１９】
ミドル・ボックスに対する上の例と同様に、プレーヤまたはデコーダは、また、すべてのアクセス・ユニットに対して２つ以上の層を受信することもできるが、どの空間的分解能を復号化するのかについて、たとえば、利用可能な計算資源、および／または、空きメモリ、および／または、ディスプレイ・ウィンドウ・サイズに基づいて、決めることができる。プレーヤやデコーダは、復号化プロセスより前に、または、復号化プロセスの一部としてのどちらでも、ビットストリームから不必要な、復号化のために必要とされない、符号化ピクチャを取り除くことができる。たとえば、強化層のための解像度が、デコーダの出力として望ましく、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇが１に等しいならばベース層のピクチャは、復号化順序で次であるＥＬ  ＲＡＰピクチャの後に取り除くことができる。
【０２２０】
ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇが１と等しいとき、エンコーダ、ミドル・ボックスまたはプレーヤなどビットストリームをつくったエンティティは、たとえば、ｏｕｔｐｕｔ＿ｆｌａｇ、または、０に等しい同様の標示を有するそのようなベース層ピクチャを割り当てることによって、出力するものではないＥＬ  ＲＡＰピクチャも含むアクセス・ユニットのベース層ピクチャを構成することができる。
【０２２１】
いくつかの実施形態において、ミドル・ボックスは、エンコーダから符号化されたビットストリームを受信し、ビットストリームやビットストリームの修正版を１人以上の受信者に送るネットワーク要素であり得る。
【０２２２】
ｖｐｓ＿ｅｘｔｅｎｓｉｏｎシンタックスの例が、以下に記述される。
【表６】
0006290924.tif 000007
【０２２３】
１に等しいｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇは、０より大きいｌａｙｅｒ＿ｉｄを有する、いかなる非ＲＡＰピクチャも、層間予測を使用しないことを示す。０に等しいｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇは、０より大きいｌａｙｅｒ＿ｉｄを有する、いかなる非ＲＡＰピクチャも、層間予測を使用するしても、使用しなくてもよいことを示す。
【０２２４】
ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇが１に等しいとき、ｎｕｍ＿ｄｉｒｅｃｔ＿ｒｅｆ＿ｌａｙｅｒｓ［ｌａｙｅｒＩｄ］および、ｒｅｆ＿ｌａｙｅｒ＿ｉｄ［ｌａｙｅｒＩｄ］［ｊ］は、ｌａｙｅｒＩｄに等しいｌａｙｅｒ＿ｉｄを有するＲＡＰピクチャに適用する。一方、ｌａｙｅｒＩｄに等しいｌａｙｅｒ＿ｉｄを有する非ＲＡＰピクチャは、実際に、層間予測に対して、ｒｅｆ＿ｌａｙｅｒ＿ｉｄ［ｌａｙｅｒＩｄ］［ｊ］によって示される層を使用しない。
【０２２５】
１と等しいｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇは、すべてのアクセス・ユニットにおけるＶＣＬ−ＮＡＬユニットが、同じｌａｙｅｒ＿ｉｄ値を持つこと、あるいは、または、２つのｌａｙｅｒ＿ｉｄの値は、アクセス・ユニットにおけるＶＣＬ−ＮＡＬユニットによって使用され、より大きなｌａｙｅｒ＿ｉｄ値を有するピクチャは、ＲＡＰピクチャであることを示す。０に等しいｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇｈは、ｌａｙｅｒ＿ｉｄの値は、他の部分において特定されるであろう制約を越えて、制約されても、されなくてもよいことを示す。
【０２２６】
上の機能は、強化層い対して新規のＮＡＬユニット・タイプを導入することによって、代替的にインプリメントされることができた。そして、それは、Ｒａｔｅ  Ｑｕａｌｉｔｙ  Ｌａｙｅｒ  Ａｃｃｅｓｓ（ＲＱＬＡ）と呼ばれることができる。適応解像度変更に適用できることが示されるＥＬピクチャは、略記されたＲＱＬＡであることができる。ＲＱＬＡピクチャは、イントラ・ピクチャ予測と層間予測にみを利用することができ、インタ予測（すなわち、時間的予測）を使用しない。可能なシーケンス・レベル信号伝達の代わりに、またはそれに加えて、同じ強化層において、ＲＱＬＡピクチャに続くピクチャを制約することは、例えば、次のように制約することができる。表示順序において、ＲＱＬＡピクチャに続く任意のピクチャは、ｉ）ディスプレイ順序でＲＱＬＡピクチャに先行する同じ層の他のどのピクチャへの依存もない、ｉｉ）非ＲＡＰピクチャに対する層間予測でない、の２つの制約を持つことができる。代替として、または、追加的に、制約は、復号化順序に相対的であることができる。復号化順序のＲＱＬＡピクチャに続く任意のピクチャは、ｉ）復号化順序でＲＱＬＡピクチャに先行する同じ層の他のどのピクチャへの依存もない、ｉｉ）非ＲＡＰピクチャに対する層間予測でない、の２つの制約を持つことができる。
【０２２７】
これは、たとえば、以下の通りに示されることができた。現在のピクチャがＲＱＬＡピクチャであるとき、層間予測のみが使用され、時間的予測は利用されない。現在のピクチャが、ディスプレイ順序において、現在のピクチャのものと等しいいＬａｙｅｒＩｄを有するＲＱＬＡピクチャに続くピクチャであるとき、表示順序において、ＲＱＬＡピクチャに先行したＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒＢｅｆｏｒｅ、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒＡｆｔｅｒ、または、ＲｅｆＰｉｃＳｅｔＬｔＣｕｒｒに含まれるピクチャが存在しない。現在のピクチャが、ディスプレイ順序において、現在のピクチャのものと等しいいＬａｙｅｒＩｄを有するＲＱＬＡピクチャに続くピクチャであるとき、層間予測は利用されない。
【０２２８】
ＲＱＬＡピクチャは、（強化層における）ＲＡＰピクチャとみなすことができる。
【０２２９】
ＲＱＬＡピクチャに対する復号化を含む復号化操作は、以下のｙ９おうに特定することができる。
【０２３０】
現在のピクチャが、０に等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するとき、以下を適用する。
−  現在のピクチャが、ビットストリームにおける第１のピクチャであるＣＲＡピクチャ、または、ＩＤＲピクチャ、または、ＢＬＡピクチャであるとき、変数ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［０］は、１に等しくセットされ、変数ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｉ］は、１から６３までのｉのすべての値に対して、１に等しくセットされる。
−  ベース層ピクチャに対する復号化プロセスは、例えば、ＨＥＶＣ仕様にしたがって、適用される。
【０２３１】
現在のピクチャが０より大きいｎｕｈ＿ｌａｙｅｒ＿ｉｄを持つとき、現在のピクチャＣｕｒｒＰｉｃの復号化に対して、次が適用される。以下の手順のステップ（それらの全部またはサブセットにおいて）は、スライス・セグメント層、および上において、シンタックス要素を使用している復号化プロセスを指定する。
−  ピクチャ・オーダー・カウントに関する変数は、同じアクセス・ユニットにおける、０に等しいｎｕｈ＿ｌａｙｅｒ＿ｉｄを有するピクチャに対するのと同じ値に等しくセットされる。
−  （例えば、前に記述されたような）参照ピクチャ・セットに対する復号化プロセス。ここで、参照ピクチャは、「参照に不使用」または、「長期の参照のために使用される」とマークすることができる（これは、ピクチャの第１のスライス・セグメントに対して呼び出す必要があるだけである）。
−  ＣｕｒｒＰｉｃが、ＩＤＲピクチャであるとき、ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］は、１に等しく設定される。
−  ＣｕｒｒＰｉｃが、ＣＲＡピクチャ、ＳＴＬＡピクチャ、または、ＲＱＬＡピクチャの１つであり、ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、０と等しく、ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｒｅｆＬａｙｅｒＩｄ］が、ｒｅｆ＿ｌａｙｅｒ＿ｉｄ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］［ｊ］に等しい、すべてのｒｅｆＬａｙｅｒＩｄの値に対して１と等しく、ここで、ｊは、０から、ｎｕｍ＿ｄｉｒｅｃｔ＿ｒｅｆ＿ｌａｙｅｒｓ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］−１の範囲にあるとき、次が適用される。
−  ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、１と等しく設定される。
−  ＣｕｒｒＰｉｃがＣＲＡピクチャであるとき、利用不可の参照ピクチャを生成するために復号化プロセスを呼び出すことができる。
−  ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、以下の全てが真であるとき０と等しく設定される。
−  ＣｕｒｒＰｉｃが、非ＲＡＰピクチャである。
−  ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、１と等しい。
−  次の１つ以上が真である。
−  ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒＢｅｆｏｒｅ［ｉ］のあらゆる値が、ｉが、０からＮｕｍＰｏｃＳｔＣｕｒｒＢｅｆｏｒｅ−１までの範囲で、「参照ピクチャでない」と等しい。
−  ｉが、０からＮｕｍＰｏｃＳｔＣｕｒｒＡｆｔｅｒ−１までの範囲で、ＲｅｆＰｉｃＳｅｔＳｔＣｕｒｒＡｆｔｅｒ［ｉ］のあらゆる値が、「参照ピクチャでない」と等しい。
−ｉが、０からＮｕｍＰｏｃＬｔＣｕｒｒ−１までの範囲で、ＲｅｆＰｉｃＳｅｔＬｔＣｕｒｒ［ｉ］のあらゆる値が、「参照ピクチャでない」と等しい。
−  ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、１と等しいとき、ピクチャのスライスが、復号化される。ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、０と等しいとき、ピクチャのスライスが、復号化されない。
−  ＰｉｃＯｕｔｐｕｔＦｌａｇ（ピクチャ出力をコントロール、０のとき、ピクチャは、デコーダにより出力されない、１のとき、ピクチャは、例えば、１に等しいｎｏ＿ｏｕｔｐｕｔ＿ｏｆ＿ｐｒｉｏｒ＿ｐｉｃｓ＿ｆｌａｇ、または、同様のコマンドを有するＩＤＲピクチャによってその後キャンセルされない限り、デコーダにより出力される）は、以下のようにセットされる。
−  ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］が、０と等しいならば、ＰｉｃＯｕｔｐｕｔＦｌａｇは、０と等しく設定される。
−  それ以外の場合は、現在のピクチャがＲＡＳＬピクチャであり、復号化順序において、同じｎｕｈ＿ｌａｙｅｒ＿ｉを有する前のＲＡＰピクチャが、ＣＲＡピクチャであり、ＬａｙｅｒＩｎｉｔｉａｌｉｓｅｄＦｌａｇ［ｎｕｈ＿ｌａｙｅｒ＿ｉｄ］の値が、ＣＲＡピクチャのものの復号化プロセスの開始時点において、０と等しかったならば、ＰｉｃＯｕｔｐｕｔＦｌａｇは、０と等しく設定される。
−  それ以外の場合は、ＰｉｃＯｕｔｐｕｔＦｌａｇは、ｐｉｃ＿ｏｕｔｐｕｔ＿ｆｌａｇと等しく設定される。−ＰまたはＢスライスの各々に対する復号化プロセスの初めにおいて、参照ピクチャ・リスト構築のための復号化プロセスは、参照ピクチャ・リスト０（ＲｅｆＰｉｃＬｉｓｔ０）、Ｂスライスを復号化するときに、参照ピクチャ・リスト１（ＲｅｆＰｉｃＬｉｓｔ１）の導出のために呼び出される。
−  現在のピクチャのすべてのスライスが復号化されたあと、次が適用される。
−  復号化されたピクチャは、「短期参照のために使用」と、マークされる。
−  ＴｅｍｐｏｒａｌＩｄが、ＨｉｇｈｅｓｔＴｉｄと等しいならば、層間予測にために必要でない非参照ピクチャに対するマーキング処理が。入力としてのｎｕｈ＿ｌａｙｅｒ＿ｉｄと等しいｌａｔｅｓｔＤｅｃＬａｙｅｒＩｄで、呼び出される。
【０２３２】
この標示は、以下の通りに、代替的、または、追加的にインプリメントするｋとおができた。上で提示された２つのフラグは、例示的実施形態として提供される。一方、エンコーダが、本願発明の種々の実施形態の使用を示す、および、デコーダがその使用を結論する他の例示的実施形態も、また、可能であることが理解される必要がある。たとえば、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇの代わりに、またはそれに加えて、ビデオ・パラメータ・セット、および／または、１つ以上の標示を含んでいる他のどのシンタックス構造も、参照層を示す２つのループ、１つは、１に等しいｌａｙｅｒ＿ｉｄを有する非ＲＡＰピクチャに対するもの、および、もう１つは、ｉに等しいｌａｙｅｒ＿ｉｄを有するＲＡＰピクチャに対するものを含むことができる。別の例において、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇの代わりに、またはそれに加えて、アクセス・ユニットに存在するｌａｙｅｒ＿ｉｄの値を、示すことができる。
【０２３３】
この１つ以上の標示を、たとえば、ＳＥＩメッセージ、または、シーケンス・パラメータ・セット、または、他のどのシンタックス構造でも配置することができる。
【０２３４】
その標示は、ベース層からのイントラ・ピクチャ・サンプルだけが使用される（ベース層の復号化されたシンタックス要素の値が、層間予測のために使用されない）符号化方法を指すことができた。これは、特に、ベース層シンタックスは、強化層デコーダのためにアクセスできないかもしれない標準的なスケーラビリティ・シナリオに役立つことができる。
【０２３５】
適応解像度変更概念は、例えば、品質スケーラビリティ、ビット深度スケーラビリティ、空間的スケーラビリティ、および、クロマ・フォーマット・スケーラビリティ使用ケースに対して有用でありえた。
【０２３６】
適応解像度変更概念は、また、エンコーダへの入力し、続いて、デコーダの出力が、フレーム・パックされる、例えば、立体的ビデオ表現を含むときに、適用できる。
【０２３７】
適応解像度変更概念は、また、ビューが、本願発明の記述における層と考えることができる、マルチビュー・ビデオ符号化に適用される。１に等しいｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇは、したがって、非ベース・ビューにおいて、ＲＡＰピクチャだけが、ビュー間予測を利用することができることを示す。一方、ビューの中の予測は、非ベース・ビューにおいて、非ＲＡＰピクチャをとらない。１と等しいｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇは、符号化されたビデオ・シーケンスは、ビューポイントが、切り替えられるとき以外は単一ビューを含むことを示す。ビューポイント・スイッチングが起こるアクセス・ユニットは、２つのビューを含み、そこにスイッチされるビューは、そこからスイッチされるビューにおけるピクチャからビュー間予測するこができるＲＡＰピクチャを含む。
【０２３８】
その１つ以上の標示は、１つ以上の目標層（層間予測を使用して）および、１つ以上の参照層の特定の組合せであることを示すことができた。
【０２３９】
より低い解像度へのスイッチングは、例えば、次の方法の１つ以上において可能にできる。より低解像度層におけるピクチャは、層間予測なしで、ＲＡＰピクチャとして符号化することができる。適応解像度アップスイッチングが可能または実行されたアクセス・ユニットにおいて、より低解像度ピクチャは、長期参照ピクチャとして格納することができる。解像度ダウン・スイッチングを、後のアクセス・ユニットで、より低い解像度ビューにおいて、インタ予測参照として長期ピクチャを用いて可能にすることができる。エンコーダは、上記のモードの間で、適応的に、たとえば、符号化ツリーブロック・ベースで、選択することができる、そして、ビットストリームにおいて選択されたモードを示すことができる。デコーダは、ビットストリームからモードを復号化することができ、そして、それゆえに、エンコーダにより決定した適応的選択を複製することができる。より高い解像度層のピクチャは、ダウン・サンプルすることができ、下層の上でＲＡＰピクチャを再構築するとき、層間予測に対して利用することができる。
【０２４０】
いわゆるハイパーテキスト・トランスファー・プロトコル（ＨＴＴＰ）は、ビデオ・ストリーミング・アプリケーションでなど、インターネットをわたるリアルタイム・マルチメディア・コンテンツの配送のために広く使われてきた。ユーザ・データグラム・プロトコル（ＵＤＰ）の上のリアルタイム移送プロトコル（ＲＴＰ）の使用と違って、ＨＴＴＰは、構成するのがより簡単でありえ、ファイアウォールやネットワーク・アドレス変換器（ＮＡＴ）を渡ることを許されることができる。それゆえに、また、ＨＴＴＰは、マルチメディアのストリーミング・アプリケーションに適用できる。
【０２４１】
ＨＴＴＰの上のストリーミングは、クライアント・デバイスでの再生のために、通常のウェブ・サーバからＨＴＴＰの上にオーディオとビデオを送るのに用いることができる。ＨＴＴＰの上のストリーミングを、生放送と事前レコードされたコンテンツ（ビデオ・オン・デマンド）の両方に対して使用することができる。異なるビット・レートの複数の代替ストリームを、利用することができ、クライアント・ソフトウェアは、例えば、ネットワーク帯域幅が変わった場合に、異なるストリームの間でスイッチするることができる。ストリーミングは、また、メディア暗号化、および、ＨＴＴＰＳ上のユーザ認証を提供することができ、例えば、そのコンテンツの無許可の利用に対して、コンテンツ・プロバイダが、その作品を保護することを可能にする。
【０２４２】
図１５は、ＨＴＴＰの上のストリーミングに対する簡略化システムを表す。メディア１５２（例えば、オーディオ、ビデオ、テキスト）は、メディア・エンコーダ１５４によって、移送ストリーム１５６を生成するために符号化される。移送ストリーム１５６は、ストリーム・セグメント器１５８により、セグメント化される。セグメントは、別々のファイル１６２として格納することができる、または、セグメントは、リクエスト・ベースで、たとえば、ウェブ・ブラウザ１６０でスクリプトを実行することによって、移送ストリーム１５６から生成されることができる。セグメントは、クライアント１６６によるＨＴＴＰ  ＧＥＴ要求に応じてＨＴＴＰ（応答）メッセージの中でウェブ・サーバ１６０から配布されることができる１６４。次に、受信クライアント１６６は、受信したセグメントを格納することができ、そして、セグメントからメディア・コンテンツを復号化することができる。
【０２４３】
いくつかの実施形態において、そのセグメントを含むファイルは、メディア・セグメント・ファイルと呼ぶことができる。それらは、特定の期間のオーディオやビデオやテキストを含むことができる。たとえば、その期間は、約１０秒、１５秒、または、いくつかの他の長さであることができる。各々のセグメントが、同じ期間を持つ必要はないが、異なるセグメントにおいて、および／または、異なる実施形態において異なることができる。
【０２４４】
また、インデックスファイルまたはプレイリストを提供することができる。それは、クライアントにメディア・セグメント・ファイルの位置（例えば、ＵＲＬ）を与えることができる。プレイリストは、生放送に対応するために、定期的にリフレッシュすることができる、ここで、メディア・セグメント・ファイルを、絶えず生成することができる。
【０２４５】
ＨＴＴＰ（ＤＡＳＨ）の上のダイナミックな適応ストリーミングにおいて、マルチメディア・コンテンツは、キャプチャされ、ＨＴＴＰサーバに格納され、ＨＴＴＰを使用して配送されることができる。コンテンツは、利用可能なコンテンツのマニフェスト、その種々の代替、それらのＵＲＬアドレス、および、他の特性を記述するメディア・表現記述（ＭＰＤ）、および、単一または複数ファイルにおいてチャンクの形で実際のマルチメディア・ビットストリームを含むセグメントの２つの部分でサーバに格納されることができる。コンテンツをプレイするために、ＤＡＳＨクライアントは、例えば、ＨＴＴＰ、電子メール、サム・ドライブ、放送、または、他の移送方法を使用してＭＰＤを獲得することができる。ＭＰＤを解析することによって、ＤＡＳＨクライアントは、プログラム・タイミング、メディア・コンテンツ可用性、メディア・タイプ、解像度、最小および最大帯域幅、および、マルチメディア・コンポーネントの種々の符号化された代替物、アクセス可能性の特徴と要求されたデジタル権利管理（ＤＲＭ）、ネットワークの上のメディア・コンポーネント位置、および、他のコンテンツ特性の存在を知ることができる。この情報を使用して、ＤＡＳＨクライアントは、適切な符号化された代替物を選ぶことができ、例えば、ＨＴＴＰ  ＧＥＴ要求を使用して、セグメントをフェッチすることによりコンテンツにストリーミングを開始することができる。ネットワーク・スループット・バリエーションを可能にする適切なバッファリングの後に、クライアントは、後続するセグメントのフェッチを続けることができ、および、また、ネットワーク帯域幅位相変動をモニターすることができる。十分なバッファを維持するために、（より低い、あるいは、より高いビット・レートを有する）異なる代替のセグメントをフェッチすることによって、クライアントは、利用可能帯域幅に適応する方法を決定することができる。
【０２４６】
メディア表現記述（ＭＰＤ）は、ＨＴＴＰの上のダイナミックな適応ストリーミングを確立するために、クライアントに対して情報を提供することができる。ＭＰＤは、ＧＥＴセグメント要求をするために、例えば、各々のセグメントのＨＴＴＰ−  ＵＲＬなどのメディア表現を記述している情報を含むことができる。ＤＡＳＨにおいて、階層データ・モデルを、図１４で示すように、メディア表現を構築するために使用することができる。メディア表現は、一連の１つ以上の期間を含むことができる。各々の期間は、１つ以上のグループを含むことができ、各々のグループは、１つ以上の適合セットを含むことができ、各々の適合セットは、１つ以上の表現を含むことができ、そして、各々の表現は、１つ以上のセグメントを含むことができる。表現は、メディア・コンテンツ代替的選択のうちの１つ、または、それらのサブセットである。そして、それは、エンコーディング選択によって、例えば、ビット・レート、解像度、言語、コーデック、その他によって、異なることができる。セグメントは、メディア・データの特定の期間と復号化するメタデータを含むことができ、含まれたメディア・コンテンツを提示することができる。セグメントは、ＵＲＩ（ｕｎｉｆｏｒｍ  ｒｅｓｏｕｒｃｅ  ｉｎｄｉｃａｔｏｒ）によって識別されることができ、ＨＴＴＰ  ＧＥＴ要求によって要求されることができる。
【０２４７】
ＤＡＳＨサービスは、オンデマンド・サービスまたはライブ・サービスとして提供されることができる。前者において、ＭＰＤは、静的であり、メディア表現のすべてのセグメントは、コンテンツ・プロバイダがＭＰＤをパブリッシュするときに、すでに利用可能である。しかしながら、後者においては、ＭＰＤは、ＭＰＤによって使用されるセグメントＵＲＬ構築方法に応じて、静的、または、動的であることができる。セグメントは、コンテンツ・プロバイダによって、コンテンツが生成され、ＤＡＳＨクライアントにパブリッシュされるときに、連続的につくられることができる。セグメントＵＲＬ構築方法は、テンプレート・ベース・セグメントＵＲＬ構築方法、または、セグメント・リスト生成方法のいずれかであり得る。前者において、ＤＡＳＨクライアントは、セグメントを要請する前にＭＰＤを更新することなく、セグメントＵＲＬを構築することができる。後者で、ＤＡＳＨクライアントは、セグメントＵＲＬを得るために、定期的に更新されたＭＰＤをダウンロードする必要があり得る。それゆえに、ライブ・サービスのために、テンプレート・ベース・セグメントＵＲＬ構築方法は、セグメント・リスト発生方法より優れていることができる。
【０２４８】
メディア・セグメントは、通常の速度のプレイバックのために、メディア・データの特定の期間を含むことができる。そのような期間は、メディア・セグメント期間、または、セグメント期間と言うことができる。コンテンツ製作者またはサービス・プロバイダは、サービスの所望の特性にしたがって、セグメント期間を選択することができる。たとえば、比較的短いセグメント期間は、短いエンドツーエンドの待ち時間を達成するためにライブ・サービスにおいて使用することができる。その理由は、セグメントは、ＤＡＳＨに対するメディア・データを生成する別々のユニットであるから、セグメント期間は、ＤＡＳＨクライアントによって認められるエンドツーエンド待ち時間の下限であることができることである。コンテンツ生成は、メディア・データの全部のセグメントが、サーバに利用可能となるような方法で行うことができる。さらに、多くのクライアント・インプリメンテーションは、ＧＥＴ要求のためのユニットとしてセグメントを使用することができる。このため、いくつかのライブ・サービスの準備において、ＤＡＳＨクライアントによって、セグメントは、全部のメディア・セグメントの期間が、利用可能であり、ならびに、符号化され、セグメントにカプセル化されているときにだけ、要求されることができる。オンデマンドのサービスに対して、セグメント期間を選択すいる異なる戦略を、使用できる。
【０２４９】
セグメントは、サブセグメントにさらに分割されることができ、その各々は、完全なアクセス・ユニットを含む。サブセグメントは、セグメント・インデックスによってインデックスを付けることができ、それは、各々のサブセグメントに対して、表現時間範囲とバイト範囲をマップする情報を含み、バイト範囲ＨＴＴＰ要求を使用している特定のサブセグメントに対するＨＴＴＰ  ＧＥＴ要求をするのに用いることができる。比較的長いセグメント期間が使用されるならば、サブセグメントは、ビット・レート適応に対して合理的でフレキシブルなＨＴＴＰ応答のサイズを保つのに用いることができる。
【０２５０】
各々のメディア・セグメントは、ユニークなＵＲＬ（おそらく、バイト範囲で）、インデックス、および、明示的または黙示的な開始時間と期間を割り当てられることができる。各々のメディア・セグメントは、少なくとも１つのストリーム・アクセス・ポイントを含むことができ、それは、ランダム・アクセスまたはメディア・ストリームにおけるスイッチ・ツー・ポイントである。ここで、復号化は、そのポイントの前方からのデータだけを使用して開始することができる。
【０２５１】
複数パートのセグメントのダウンロードを可能にするために、セグメント・インデックス・ボックスを使用してサブセグメントを信号伝達する方法を、利用することができる。このボックスは、そのセグメントにおけるサブセグメントとストリーム・アクセス・ポイントを、それらの期間とバイト・オフセットを信号伝達することによって記述する。ＤＡＳＨクライアントは、部分的ＨＴＴＰ  ＧＥＴ要求を使用しているサブセグメントを要求するために、インデクシング情報を使用することができる。セグメントのインデクシング情報は、そのセグメントの初めに単一のボックスに置く、あるいは、そのセグメントの多くのインデクシング・ボックスの間に広げることができる。階層的、デイジー・チェーン、およびハイブリッドなど、拡散の異なる方法が可能である。この技術は、セグメントの初めに大きなボックスを追加することを避けることができ、したがって、可能性がある初期のダウンロード遅延を防ぐことができる。ＭＰＥＧ−ＤＡＳＨは、ＩＳＯベース・メディア・ファイル・フォーマットおよびＭＰＥＧ−２移送ストリームに対するセグメント・コンテナ・フォーマットを定義する。
【０２５２】
ＤＡＳＨは、メディア表現タイムラインおよびセグメント可用性時間を含む異なるタイムラインを指定する。前者は、グローバル・コモン表現タイムラインにマップされるメディア・コンテンツを有するアクセス・ユニットの表現時間を示す。メディア表現タイムラインは、ＤＡＳＨがシームレスに異なるメディア・コンポーネントを同期させるのを可能にすることができる。これらは、異なるコーディング技術で符号化され、コモン・タイムラインを共有する。後者は、ウォール・クロック時間を示し、ＨＴＴＰ  ＵＲＬによって識別できるセグメントの可用性時間をクライアントに信号伝達するために使用する。ウォール・クロック時間をそのセグメントに割り当てられるセグメントの可用性時間と比較することによって、ＤＡＳＨクライアントは、特定のセグメントの可用性時間を識別することができる。セグメント可用性時間は、ライブ・サービスと呼ぶ、メディア・セグメントのライブ配送において使用することができる。ライブ・サービスに対して、セグメント可用性時間は、セグメントによって異なり、特定のセグメントの可用性時間は、メディア表現タイムラインにおけるそのセグメントの位置に依存することができる。オンデマンド・サービスに対して、セグメント可用性時間は、すべてのセグメントに対して同じであることができる。
【０２５３】
ＤＡＳＨは、速度整合（ｒａｔｅ  ａｄａｐｔａｔｉｏｎ）を、ネットワーク帯域幅の変化にマッチするために、適合セットの中での異なる表現からメディア・セグメントやサブセグメントをダイナミックに要求することによって、サポートする。ＤＡＳＨクライアントが、表現をスイッチ・アップ／ダウンするとき、表現の中の符号化依存性を、考慮する必要があり得る。メディア復号化において、表現スイッチは、ランダム・アクセス・ポイント（ＲＡＰ）においてのみ起こることができる。これは、Ｈ．２６４／ＡＶＣのようなビデオ符号化技術において使用することができる。復号化されないメディア・データの要求および移送を避けるために、ＲＡＰを、メディア・セグメントやサブセグメントの初めに整列することができ、ＭＰＤやセグメント・インデックス・ボックスを、メディア・セグメントやサブセグメントの初めにおいて、ＲＡＰのアライメントを示すために、使用することができる。したがって、ＤＡＳＨクライアントは、どのセグメントやサブセグメントが、表現スイッチングが実行されるとき、行先の表現の第１のセグメントおよび／またはサブセグメントが、ＲＡＰによりスタートし、ソースのセグメントやサブセグメント、および、行先の表現が、（時間的に）整列するように要求するかを結論することができる。ＤＡＳＨにおいて、ＳＡＰ（Ｓｔｒｅａｍ  Ａｃｃｅｓｓ  Ｐｏｉｎｔ）と名づけられたより一般的な概念が、表現をアクセルし、表現間でスイッチングするために、コーデック独立ソリューションを提供するために導入される。ＤＡＳＨにおいて、ＳＡＰは、メディア・ストリームの再生が、（初期化セグメント、もしあれば、において初期化データによって先行される）その位置の前方から開始される表現データに含まれた情報だけを用いて開始されるのを可能にする表現の位置として指定される。それゆえに、表現スイッチングを、ＳＡＰにおいて実行することができる。
【０２５４】
コンテンツ・プロバイダは、スイッチングをより単純にすることができるように、複数の表現のセグメントとサブセグメントをつくることができる。簡単はケースにおいて、各々のセグメント、そして、サブセグメントが、ＳＡＰからスタートし、セグメントとサブセグメントの境界が、適合セットの表現全体で整列する。そのような場合には、ＤＡＳＨクライアントは、セグメントまたはサブセグメントを要求することによりオリジナル表現から新規の表現へのエラー・ドリフトなしで、表現をスイッチすることができる。ＤＡＳＨにおいて、セグメントとサブセグメントを構築する制約は、エラー・ドリフトを導入することなく、ＤＡＳＨクライアントが、表現をスイッチすることを容易にするために、ＭＰＤおよびセグメント・インデックスにおいて指定される。ＤＡＳＨにおいて指定されているプロファイルの使用法の１つは、セグメントおよびサブセグメント等を構築する制約の異なるレベルを提供することである。
【０２５５】
ＤＡＳＨ標準は、メディア・セッションの速いスタート・アップを可能にするメカニズムを含む。これは、例えば、以下のように行われる。ビデオは、表現に分割され、各々の表現は、異なる品質と解像度でありえる。各々の表現は、例えば、６０秒続くことができるセグメントから成ることができる。図１４は、いくつかのＤＡＳＨ表現のもう少し詳細を表す。各々のセグメントは、ストリーム・アクセス・ポイントからスタートすることができる。ここで、セグメントの中のピクチャは、異なるセグメントからの他のいかなるピクチャも参照することなく、符号化される。このように、ＤＡＳＨクライアントは、その平均帯域幅よりより低いビット・レート表現でスタートすることができ、そして、素早くそのバッファを満たし、次に、それは、より高い解像度のセグメントにスイッチし、そして、再生を続ける。
【０２５６】
層間予測は、そのセグメントの中のより高い空間解像度を有する第１のピクチャと低い空間解像度のピクチャとの間で利用されることができる。たとえば、より高い空間解像度を有する第１のピクチャは、より低い空間解像度を有する最後のピクチャの１つ以上を使用して、層間予測されることができる。これは、より高い解像度を有する第１のピクチャがイントラ予測された、あるいは、もしそうであるなら、独立して復号化できるピクチャである状況と比較してビット・レート・セービングを可能にすることができる。
【０２５７】
いくつかの実施形態は、ＤＡＳＨに対する、より高い符号化効率、および、より短い起動時間を可能にすることができる。これは、また、より頻繁でないＩＲＡＰピクチャ（そして、それゆえに、より長いセグメントまたはサブセグメント）を含むことができる。ＩＲＡＰピクチャの頻度は、ランダム・アクセス、に十分であるように選択されることのみが必要で、および、ビット・レート・スケーリングからである。一方、バッファ占有レベルを構築することは、ＡＲＣを使用することで取り扱うことができる。
【０２５８】
ＤＡＳＨセッションの間の起動時間の改善は、スケーラブルＨＥＶＣ概念、より詳細には、ＳＨＶＣの中の適応解像度変更（ＡＲＣ）概念を利用することによって達成することができる。ＳＨＶＣは、解像度スイッチングが起こるアクセス・ユニットを除いて、単一の層ビットストリームの送信を可能にする。図７は、ＳＨＶＣのＡＲＣ概念を図示する。いくつかの実施形態において、以下の特徴を有する（ＡＲＣ表現と呼ばれる）ＤＡＳＨの中の表現を、利用することができる。この例は、図１０の中で表される。表現１００は、より小さな解像度（例えば、図１０の中のセグメント１０２）から始めて、セグメントの期間内に、より高い解像度（例えば、図１０の中のセグメント１０４および１０６）へスイッチングし、そして、そのセグメントは、より高い解像度で終わるセグメント１０２、１０４、１０６を含むことができる。ＡＲＣ表現の中のセグメントは、ＳＨＶＣで符号化することができる。ここで、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇ（これは、本願明細書においては、また、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇと呼ばれる）は、真である。これは、より高い解像度のスイッチング・ピクチャは、改善された符号化効率の予測のための参照として、アップサンプリングされたより低い解像度のピクチャを使用することを意味することができる。
【０２５９】
ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇの値は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇが真であることを示すために、例えば、１にセットすることができる。
【０２６０】
解像度スイッチングを実行するとき、ＤＡＳＨクライアントは、ＡＲＣ表現の１つのセグメントだけをフェッチし、そして、その後、それ以上解像度セグメントをフェッチすることができる。
【０２６１】
いくつかの実施形態において、ＡＲＣ表現のセグメントのピクチャは、より低い解像度表現において、前のセグメントのピクチャから予測することができる。たとえば、図１０を参照すると、ＡＲＣ表現のセグメントにおけるいくつかの７２０ｐ解像度ピクチャは、表現１における（解像度７２０ｐを持つ）前のセグメントのピクチャから予測することができる。いくつかの実施形態において、ＡＲＣ表現の中のセグメントは、ＳＡＰから始めることができ、そして、それゆえに、いかなる表現ででも、以前のセグメントから独立して、符号化および／または復号化することができる。
【０２６２】
いくつかの実施形態において、行先（より高解像度）表現のセグメントのピクチャは、ＡＲＣ表現の前のセグメントのピクチャから、ＤＡＳＨクライアントにおいて、予測することができる。たとえば、図１０を参照して、表現２のセグメントにおけるいくつかの１０８０ｐ解像度ピクチャは、ＡＲＣ表現の中の前のセグメントのピクチャから、ＤＡＳＨクライアントにおいて、予測することができる。より高い解像度表現が、ＡＲＣ表現の中のピクチャを参照として使用することなく符号化されたので、エンコーダと、このパラグラフで記述されているように動作しているＤＡＳＨクライアントとの間で、復号化されたサンプルの値においてドリフトが存在し得る。そのドリフトは、より高い解像度表現の次のＳＡＰが復号化されるときに、存在しなくなることができる。いくつかの実施形態において、より高い解像度表現のセグメントは、ＳＡＰから始めることができ、以前のセグメントから予測することができない。
【０２６３】
ＤＡＳＨクライアントは、解像度スイッチングのために、ＡＲＣ表現を使用して、次の操作を実行することができる（説明のための図１１ａ−図１１ｃを参照）。セッションが始められたあと、ＤＡＳＨクライアントは、利用可能帯域幅を見積もり、ＭＰＤを分析し、速いスタート・アップのためにセッションを開始する適切な解像度、および、クライアントのバッファが比較的に満杯になったとき継続するための最適解像度を決定することができる。これらのパラメータに基づいて、クライアントは、適切な表現の中で適切なセグメントを要求することができる。より高い解像度へのスイッチングの所望の時間に、クライアントは、ＡＲＣ表現１１０から、適切なセグメント１１２、１１４、１１６を要求することができる。図１１ａの例において、図１０のセグメント１１４が、スイッチング・セグメントとして使用される。図１１ｂの例において、セグメント１１２は、スイッチング・セグメントとして使用される。図１１ａの例において、セグメント１１６は、スイッチング・セグメントとして使用される。ＡＲＣセグメント１１０が要請され、そして、スイッチングが、より高い解像度に起こったあと、クライアントは、より高い解像度セグメントをダウンロードし続けることができる。これらのセグメントは、図１１ａ−図１１ｃの中の参照番号１０８で図示される。クライアントの帯域幅が変化する（たとえば、増加する）、ならば、同様の操作を実行することができる。ＤＡＳＨクライアントは、たとえば、復号化されなかった、および／または、最後まで再生されていない、受信し、バッファされたメディア・データの占有または期間に基づいて、解像度スイッチングを決定することができる。
【０２６４】
２つ以上の解像度が適合セットに存在するならば、別々のＡＲＣ表現を、各々の表現の間でスイッチするのに用いることができる。図１２ａは、そのような適合化セットの例を表す。図１２Ｂは、より低い解像度（この例では７２０ｐ）からより高い解像度（この例では１０８０ｐ）へのスイッチングを、図１２ａの適合化セットの表現１および２を使用して、さらに、もっと、より高い解像度（この例では、４Ｋ×２Ｋ）へのスイッチングを、表現３を使用して、図示する。それぞれ、図１２ｃは、より低い解像度（この例では７２０ｐ）から、より高い解像度（この例では１０８０ｐ）へのスイッチングを、図１２ａの適合化セットの表現１、２と３を使用して図示する加えて、異なる特性（例えば、異なるポイントにおいて起こるスイッチング・ポイント）を持つ異なるＡＲＣ表現は、適合セットで利用することができる。これのいくつかの例は、図１３に描かれている。
【０２６５】
いくつかのインプリメンテーションと種々の代替が、以下に記述される。スイッチングのために使用されるセグメントは、集められ、別々の表現に含まれることができる。次の属性は、この表現のために用いることができる。＠ｓｔａｒｔＷｉｄｔｈ属性は、ビデオ・セグメントの初めのピクチャの水平視覚表現サイズを指定することができる。＠ｓｔａｒｔＨｅｉｇｈｔ属性は、ビデオ・セグメントの初めのピクチャの垂直視覚表現サイズを指定することができる。＠ｓｗｉｔｃｈＰｏｉｎｔ属性は、解像度は、（＠ｓｔａｒｔＷｉｄｔｈ、＠ｓｔａｒｔＨｅｉｇｈｔ）で指定される解像度から（＠ｗｉｄｔｈ、＠ｈｅｉｇｈｔ）へ変化するスイッチング・ポイントを指定することができる。
【０２６６】
上記の説明は、属性＠ｗｉｄｔｈ、＠ｈｅｉｇｈｔのセマンティックスが、この表現のためのセグメントの終わりにおいてピクチャ・サイズに対応して修正されることを仮定することに留意する。しかしながら、これは、マイナーなインプリメンテーションの詳細であり、他の代替を、同様に使用することができる。
【０２６７】
上記は、例えば、以下のような、ＭＰＤにおいてインプリメントすることができる。この例では、表現ｉｄ＝３は、ＡＲＣセグメントを保持する提案された表現である。この例では、いくつかの追加的属性が存在し、帯域幅パラメータの値は、表現３のセグメントが、より低い解像度でスタートするので、表現２より低い。
【表７】
0006290924.tif 000008
【０２６８】
ＭＰＤまたは任意の他のマニフェストは、表現のための初期バッファリング要求に関する情報を含むことができる。たとえば、ＭＰＤ属性において、＠ｍｉｎＢｕｆｆｅｒＴｉｍｅおよび＠ｂａｎｄｗｉｄｔｈは、初期バッファリング要求を特徴づける。それらのセマンティックスは下記のように定義できる。ビット／秒（ｂｐｓ）において、＠ｂａｎｄｗｉｄｔｈ属性の値を有する帯域幅の仮定的固定ビット・レート・チャネルを考える。次に、表現が、このビット・レートにおいて連続的に配送されるならば、＠ｓｔａｒｔＷｉｔｈＳＡＰによって、または、任意のセグメント・インデックス・ボックスによって、示される任意のＳＡＰにおいて開始して、クライアントは、再生が、＠ｍｉｎＢｕｆｆｅｒＴｉｍｅ  ＊  ＠ｂａｎｄｗｉｄｔｈビットが受信されたあとに（すなわち、第１のビットが受信されたの後、＠ｍｉｎＢｕｆｆｅｒＴｉｍｅのときに）始まるとして、連続的に最後まで再生するために十分なデータがあることを確信することがありえる。
【０２６９】
ＡＲＣ表現に対して、初期のバッファ要求に関する情報は、セグメントのシーケンスに関するように定義することができる。ここで、第１のセグメントは、ＡＲＣセグメント（例えば、７２０ｐから１０８０ｐまでの解像度）であり、続くセグメントは、より高い解像度（例えば、１０８０ｐ）である。たとえば、＠ｍｉｎＢｕｆｆｅｒＴｉｍｅおよび＠ｂａｎｄｗｉｄｔｈは、ＡＲＣ表現に対して、以下のように指定することができる。ビット／秒（ｂｐｓ）において、＠ｂａｎｄｗｉｄｔｈ属性の値を持つ帯域幅の仮定的固定ビット・レート・チャネルを考える。次に、この（ＡＲＣ）表現の第１のセグメントに、宛先の表現のセグメントのシーケンスが続き、すべてのこれらのセグメントが、このビット・レートで連続的に配送されるならば、＠ｓｔａｒｔＷｉｔｈＳＡＰによっても示された任意のＳＡＰにおいて始まり、クライアントは、再生が、＠ｍｉｎＢｕｆｆｅｒＴｉｍｅ  ＊  ＠ｂａｎｄｗｉｄｔｈビットが受信されたあとに（すなわち、第１のビットが受信されたの後、＠ｍｉｎＢｕｆｆｅｒＴｉｍｅのときに）始まるとして、連続的に最後まで再生するために十分なデータがあることを確信することがありえる。
【０２７０】
ＤＡＳＨクライアントは、ＡＲＣ表現に関係する初期バッファリング要求に関する情報を受信して、解釈する。クライアントは、利用可能なビット・レートを推定し、および／または、予期される利用可能なビット・レートを決定する他の手段を持つことができる。クライアントは、予期される利用可能なビット・レートは、より高い解像度（例えば１０８０ｐ）に適合しているが、１０８０ｐの表現は、長い初期バッファリング時間を必要とするかもしれないことを決定することができる。したがって、クライアントは、より高い解像度のセグメントが続くＡＲＣ表現のセグメントを要求することができる。
【０２７１】
いくつかの実施形態において、１つの解像度から別のものへのスイッチングに使用されるセグメントを含むだけである異なる表現を使用することができる。さらに、同様の操作を、例えば、以下のように、代替的な方法で、実行することもできる。異なる解像度へのスイッチングは、また、セグメントの中ではなく、セグメントの間で起こることあり得る。たとえば、ＡＲＣ表現の中の第１のセグメントは、ＨＤ解像度であり得、ＡＲＣ表現の中の第２のセグメントは、ＵＨＤ解像度であり得る。その場合には、第２のセグメントの第１のピクチャは、第１のセグメントの最後のピクチャ依存することがあり得る。これは、例えば、セグメント間のオーバラップを許すことによって構成することができる（つまり、低い解像度セグメントは、同時間高い解像度セグメントより１つのピクチャだけ長く続くことができる。）。
【０２７２】
実施形態がセグメントを参照して記述されたが、この実施形態は、その代わりに、または、それに追加して、サブセグメントを参照して同様に実現できることが理解される必要がある。
【０２７３】
実施形態がＤＡＳＨ、および／またはＭＰＤを参照して記述されたが、この実施形態は、ＨＴＴＰまたは類似したプロトコルの上の任意のストリーミング、および／または、任意のマニフェスト・フォーマットを参照して同様に実現できることが理解される必要がある。
【０２７４】
図４ａは、例示的実施形態にしたがって、ビデオ符号化および復号化のためのブロック図を示す。この実施形態においては、エンコーダは、ピクセル予測器３０２、予測エラー・エンコーダ３０３および、予測誤差デコーダ３０４を備える。図４ａは、インタ予測器３０６、イントラ予測器３０８、モード・セレクタ３１０、フィルタ３１６、および参照フレーム・メモリ３１８を備えるものとして画素予測器３０２の実施形態を示している。この実施形態においては、モードセレクタ３１０は、ブロック・プロセッサ３８１およびコスト評価器３８２を備えている。エンコーダは、ビットストリームのエントロピ符号化のためのエントロピ・エンコーダ３３０を更に備えている。
【０２７５】
図４ｂは、ベース層符号化要素４１０、および、強化層符号化要素４２０を備える空間スケーラビリティ符号化装置４００の実施形態を表す。ベース層符号化要素４１０は、入力ビデオ信号４０２を、ベース層ビットストリーム４１８に符号化し、および、それぞれ、強化層符号化要素４２０は、入力ビデオ信号４０２を強化層ビットストリーム４２８に符号化する。空間スケーラビリティ符号化装置４００は、また、ベース層表現の解像度と、強化層表現とが、互いに異なるならば、入力ビデオ信号のダウンサンプリングのためのダウン・サンプル器４０４を備えることができる。たとえば、ベース層と強化層との間のスケーリング・ファクタは、１：２であることができ、ここで、強化層の解像度は、ベース層の解像度の２倍である（水平および垂直の両方の方向で）。
【０２７６】
ベース層符号化要素４１０および強化層符号化要素４２０は、図４ａの中で表されるエンコーダと同様の要素を備えることができる。あるいは、それらは、互いに異なることができる。
【０２７７】
ベース層符号化要素４１０は、例えば、次のように、図４ａのエンコーダを参照して、入力ビデオ信号のフレームを符号化する。画素予測器３０２は、符号化されるべき画像３００を、インタ予測器３０６（画像と、動き補償参照フレーム３１８の間の差を決定する）と、イントラ予測器３０８（現在のフレームまたはピクチャの既に処理された部分のみに基づいて、画像ブロックに対する予測を決定する）の両者において受信する。インタ予測器およびイントラ予測器両者の出力は、モードセレクタ３１０に送られる。インタ予測器３０６とイントラ予測器３０８との両者は、２つ以上のイントラ予測モードを有することができる。そのため、インタ予測およびイントラ予測は各モードについて行うことができ、予測された信号は、モードセレクタ３１０に提供できる。モードセレクタ３１０はまたは、画像３００のコピーも受信する。
【０２７８】
モードセレクタ３１０は、現在のブロックを符号化するために、どの符号化モードを使用するかを決定する。モードセレクタ３１０が、インタ予測モードを使用すると決めた場合は、モードセレクタ３１０は、インタ予測器３０６の出力を、モードセレクタ３１０の出力に送る。モードセレクタ３１０がイントラ予測モードを使用すると決めた場合は、モードセレクタ３１０は、イントラ予測モードの１つの出力を、モードセレクタ３１０の出力に送る。
【０２７９】
モードセレクタ３１０は、コスト評価器ブロック３８２において、コーディング・モード、および、動きベクトル、参照インデックス、およびインタ予測方向などのパラメータ値の間で、典型的にはブロック・ベースで選択するために、例えば、ラグランジアン・コスト関数を使用できる。この種のコスト関数は、損失のあるコーディング方法に起因する（正確または推定）画像ディストーションと、画像領域で画素値を表現するために要求される情報の（正確または推定）量とを一緒に結び付けるために、重み付けファクタであるｌａｍｂｄａを使用できる。Ｃ＝Ｄ＋ｌａｍｂｄａ×Ｒ、ここで、Ｃは最小化されるラグランジアン・コスト、Ｄは、モードおよびそのパラメータでの画像ディストーション（例えば、平均二乗誤差）、および、Ｒは、デコーダにおいて画像ブロックを再構築するための必要なデータを表現するために必要なビット数である（例えば、候補の動きベクトルを表現するためのデータ量を含んでいる）。
【０２８０】
モードセレクタの出力は、第１合計装置３２１に送られる。第１合計装置は、画素予測器３０２の出力を画像３００から減算して、予測エラー・エンコーダ３０３に入力される第１予測エラー信号３２０を生成する。
【０２８１】
画素予測器３０２は、予備再構築器３３９から、画像ブロック３１２の予測表現と、予測エラー・デコーダ３０４の出力３３８の組み合わせとを更に受信する。予備再構築画像３１４は、イントラ予測器３０８およびフィルタ３１６に送ることができる。予備表現を受信するフィルタ３１６は、予備表現のフィルタ処理を行うことができ、参照フレーム・メモリ３１８に保存できる最終再構築画像３４０を出力する。参照フレーム・メモリ３１８は、インタ予測動作において将来画像３００と比較される参照画像として使用されるために、インタ予測器３０６に接続できる。多くの実施形態において、参照フレーム・メモリ３１８は、２つ以上の復号化ピクチャを格納可能であってよく、その復号化ピクチャの１つ以上は、インタ予測器３０６により、インタ予測動作において、将来画像３００と比較される参照ピクチャとして使用できる。参照フレーム・メモリ３１８は、いくつかの場合においては、復号化ピクチャバッファとも言われる。
【０２８２】
多くの実施形態において、参照フレーム・メモリ３１８は、異なる層の復号化されたピクチャを格納することができる、または、異なる層の復号化されたピクチャでを格納するための異なる参照フレーム・メモリがあり得る。
【０２８３】
画素予測器３０２の動作は、任意の画素予測アルゴリズムを行うように構成できる。
【０２８４】
画素予測器３０２は、また、予測値を画素予測器３０２から出力する前に、予測値をフィルタ処理するためのフィルタ３８５もまた備えることができる。
【０２８５】
フィルタ３１６は、参照画像からのブロッキング、リンギング等の種々のアーチファクトを減らすのに用いることができる。
【０２８６】
フィルタ３１６は、例えば、デブロッキング・フィルタ、サンプル適応オフセット（ＳＡＯ）フィルタ、および／または、適応ループ・フィルタ（ＡＬＦ）を備えることができる。いくつかの実施形態において、エンコーダは、ピクチャのどの領域をフィルタ処理すべきか、例えば、ＲＤＯに基づいて、フィルタ係数を決定し、この情報は、デコーダに信号伝達される。
【０２８７】
適応解像度変更を実行して、ベース層を変更するとき、符号化要素４１０は、例えば、動き情報、および、強化層符号化要素４２０へのブロック分割に関する情報など、ベース層符号化データ（または、いくつかの強化層データ）に関する情報を提供することができる。強化層符号化要素４２０は、ベース層データを構築するのに、どの参照フレームが使用されたかを決定するために、このデータを使用することができる。ここで、同じ参照フレームを、強化層の上の現在のブロックの動き予測を実行するときに、使用することができる。この操作は、たとえば、図７における図ＥＬ３を符号化するときに実行することができる。
【０２８８】
強化層符号化要素４２０が、強化層の画像の領域（例えば、ＣＴＵ）を符号化しているとき、それは、ベース層のどの領域が、強化層における符号化されるべき領域に対応するかを決定する。たとえば、対応する領域の位置は、ベースおよび強化層の間の空間解像度スケーリング・ファクタでＣＴＵの座標をスケールすることによって計算することができる。強化層符号化要素４２０は、また、サンプル適応オフセット・フィルタおよび／または適応ループ・フィルタを強化層の上の現在のＣＴＵを符号化するのに、使用するべきかどうかを調べることもできる。強化層符号化要素４２０が、この領域に対してサンプル適応フィルタおよび／または、適応ループ・フィルタを使用することに決めるならば、強化層符号化要素４２０は、また、現在の強化層ブロックに対して参照ブロックを構築するときに、ベース層のサンプル値をフィルタ処理するために、サンプル適応フィルタおよび／または適応ループ・フィルタを使用することができる。ベース層の対応するブロックとフィルタ処理モードとが決定されたときに、ベース層の再建されたサンプルは、次に、例えば参照フレーム・メモリ３１８から読み出され、フィルタ処理のためにフィルタ４４０に提供される。しかしながら、強化層符号化要素４２０が、この領域に対してサンプル適応フィルタおよび適応ループ・フィルタを使用しないことに決めるならば、強化層符号化要素４２０は、また、ベース層のサンプル値をフィルタ処理するために、サンプル適応フィルタおよび適応ループ・フィルタを使用することもできない。
【０２８９】
強化層符号化要素４２０が、ＳＡＯフィルタを選択したならば、それは、上で提示されるＳＡＯアルゴリズムを利用することができる。
【０２９０】
予測エラー・エンコーダ３０３、４０３は、変換ユニット３４２、４４２と量子化器３４４、４４４を備える。変換ユニット３４２、４４２は、第１の予測エラー信号３２０、４２０を変換ドメインに変換する。その変換は、たとえば、ＤＣＴ変換である。量子化器３４４、４４４は、量子化された係数を形成するために、変換ドメイン信号、例えばＤＣＴ係数を量子化する。
【０２９１】
予測エラー・デコーダ３０４、４０４は、予測エラー・エンコーダ３０３、４０３から出力を受信し、復号化された予測エラー信号３３８、４３８を生成するために予測エラー・エンコーダ３０３、４０３の逆のプロセスを実行する。これは、第２の合計デバイス３３９、４３９において、画像ブロック３１２、４１２の予測表現と結合されるとき、予備再構築画像３１４、４１４を生成する。予測エラー・デコーダは、逆量子化器３６１、４６１および逆変換ユニット３６３、４６３を備えると考えることができる。逆量子化器は、量子化された係数値、例えば、ＤＣＴ係数を、変換信号を再構築するように逆量子化し、逆変換ユニットは、再構築された変換信号に変換するために逆変換を実行する。ここで、逆変換ユニット３６３、４６３の出力は、再構築されたブロックを含む。予測エラー・デコーダは、さらに復号化された情報およびフィルタ・パラメータにしたがって、再構築されたマクロ・ブロックをフィルタ処理することができるマクロ・ブロック・フィルタを備えることもできる。
【０２９２】
エントロピ・エンコーダ３３０、４３０は、予測エラー・エンコーダ３０３、４０３の出力を受信し、エラー検出・訂正能力を提供するために、その信号の上で、適切なエントロピ符号化／可変長符号化を実行することができる。エントロピ・エンコーダ３３０、４３０の出力は、例えばマルチプレクサ５０８によりビットストリームに挿入することができる。
【０２９３】
いくつかの実施形態において、フィルタ４４０は、サンプル適応フィルタを備え、いくつかの他の実施形態において、フィルタ４４０は、適応ループ・フィルタを備え、更に、いくつかの他の実施形態において、フィルタ４４０は、サンプル適応フィルタと適応ループ・フィルタとの両方を備える。
【０２９４】
ベース層と強化層との解像度が、互いに異なるならば、フィルタ処理したベース層サンプルの値は、アップサンプル器４５０によってアップサンプリングされる必要があり得る。アップサンプル器４５０の出力すなわち、アップサンプリングされフィルタ処理されたベース層サンプル値は、次に、強化層の現在のブロックに対するピクセル値の予測のための参照として強化層符号化要素４２０に提供される。
【０２９５】
完全性のために、適切なデコーダが、この後に記述される。しかしながら、いくつかのデコーダは、強化層データを処理することができない。ここで、デコーダは、すべての受信した画像を復号化することができない。デコーダは、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇおよびｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇなどの２つのフラグの値を決定するために、受信したビットストリームを調べることができる。第１のフラグの値が、強化層におけるランダム・アクセス・ピクチャのみが、層間予測を利用することができ、強化層における非ＲＡＰピクチャは、決して層間予測を利用しないことを示すならば、デコーダは、層間予測はＲＡＰピクチャで使用されるだけであることを推論することができる。
【０２９６】
デコーダ側において、同様の操作が、画像ブロックを再構築するために実行される。図５ａは、本願発明の実施形態を使用するために適切であるビデオ・デコーダのブロック図を示す。図５ｂは、ベース層復号化要素８１０、および、強化層復号化要素８２０を備える空間スケーラビリティ復号化装置８００のブロック図を示す。ベース層復号化要素８１０は、符号化されたベース層ビットストリーム８０２をベース層復号化ビデオ信号８１８に復号化する。そして、それぞれ、強化層復号化要素８２０は、符号化強化層ビットストリーム８０４を強化層復号化ビデオ信号８２８に復号化する。空間スケーラビリティ復号化装置８００は、再構築されたベース層ピクセル値をフィルタ処理するためのフィルタ８４０、および、フィルタ処理され再構築されたベース層ピクセル値をアップサンプリングするためのアップサンプル器８５０を備えることもできる。
【０２９７】
ベース層復号化要素８１０、および、強化層復号化要素８２０は、図４ａの中で表されるエンコーダと同様の要素を備えることができる。あるいは、それらは、互いに異なることができる。言い換えれば、ベース層復号化要素８１０および、強化層復号化要素８２０の両方が、図５ａに示されるそのデコーダの要素のすべてまたはいくつかを含むことができる。いくつかの実施形態において、同じデコーダ回路を、ベース層復号化要素８１０、および、強化層復号化要素８２０の操作を実行するために使用することができる。ここで、デコーダは、それが現在復号化している層がわかっている。
【０２９８】
デコーダは、受信信号上のエントロピ復号化を実行するエントロピ・デコーダ７００を示す。したがって、エントロピ・デコーダは、上述のエンコーダのエントロピ・エンコーダ３３０への逆操作を実行する。デコーダ７００は、エントロピ復号化の結果を予測エラー・デコーダ７０２およびピクセル予測器７０４に出力する。
【０２９９】
ピクセル予測器７０４は、エントロピ・デコーダ７００の出力を受信する。エントロピ・デコーダ７００の出力は、現在のブロックのエンコーディングにおいて使用される予測モードの標示を含むことができる。ピクセル予測器７０４の中の予測値セレクタ７１４は、復号化されている現在のブロックは、強化層ブロックであることを決定することができる。そのため、予測値セレクタ７１４は、現在の強化層ブロックを復号化している間に、ベース層予測ブロックをフィルタ処理するために、ベース層など別の層の対応するブロックからの情報を使用するために選択することができる。エンコーダによって強化層予測において使用する前にベース層予測ブロックがフィルタ処理されたことの標示は、デコーダにより受信されることができた。ここで、再構築プロセッサー７９１は、再構築されたベース層ブロック値をフィルタ８４０に提供するために、また、どの種類のフィルタ、例えば、ＳＡＯフィルタおよび／または適応ループ・フィルタ、が使用されたかについて決定するために、その標示を使用することができる。あるいは、変更された復号化モードを使用すべきか否かを決定する他の方法があり得る。
【０３００】
予測値セレクタは、第１の結合器７１３に、画像ブロック７１６の予測された表現を出力することができる。画像ブロック７１６の予測された表現は、予備再構築画像７１８を生成するために、再構築された予測エラー信号７１２とともに使用される。予備再構築画像７１８は、予測値セレクタ７１４において使用することができる。あるいは、フィルタ７２０にパスすることができる。フィルタ７２０は、最終再構築信号７２２を出力するフィルタ処理を適用する。最終再構築信号７２２は、参照フレーム・メモリ７２４に格納することができる。参照フレーム・メモリ７２４は、予測操作のために予測値セレクタ７１４にさらに接続している。
【０３０１】
予測エラー・デコーダ７０２は、エントロピ・デコーダ７００の出力を受信する。予測エラー・デコーダ７０２の逆量子化器７９２は、エントロピ・デコーダ７００の出力を逆量子化することができ、逆変換ブロック７９３は、逆量子化器７９２によって、逆量子化された信号出力に逆変換操作を実行することができる。エントロピ・デコーダ７００の出力は、また、予測エラー信号は、適用されないことになっていることを示すことができる。この場合、予測エラー・デコーダは、すべて０の出力信号を生成する。
【０３０２】
デコーダは、対応するベース層ブロックを復号化し、そのからの、修正のための情報をデコーダで使用することができると仮定する。強化層ブロックに対応するベース層のピクセルの現在のブロックは、デコーダでサーチすることができる。または、デコーダは、ベース・ブロックおよび／またはベース・ブロックのどの情報を修正プロセスに使用するかを示すビットストリームから情報を受信して、復号化することができる。
【０３０３】
いくつかの実施形態において、ベース層は、Ｈ．２６４／ＡＶＣまたはＨＥＶＣ以外の別の標準で符号化することができる。
【０３０４】
また、ＨＥＶＣ  ＳＡＯおよびＨＥＶＣ  ＡＬＦ後置フィルタを含むベース層データのためのプレプロセッサーとして使用される任意の強化層後処理モジュールを使用することが可能である。強化層後処理モジュールは、ベース層データで動作しているときに、修正されることができる。たとえば、特定のモードを無効にすることができ、または、特定の新規のモードを追加することができる。
【０３０５】
図１は、ビデオ・コーディング・システムのブロック図を、例示的実施形態にしたがって、本願発明の実施形態に係るコーデックを組み込むことができる例示的装置または電子デバイス５０の模式ブロック図として示す。図２は、例示的実施形態にしたがって、装置のレイアウトを示す。図１および図２の要素を次に説明する。
【０３０６】
電子装置５０は、例えば、無線通信システムの携帯端末またはユーザ機器であってよい。しかしながら、本願発明の実施形態は、符号化および復号化、または、ビデオ画像の符号化または復号化を要求できる任意の電子デバイスまたは装置の内部でインプリメントすることができることが認識される。
【０３０７】
装置５０は、そのデバイスを組み込み、そして保護するための筐体３０を備えることができる。装置５０は、液晶ディスプレイの形状のディスプレイ３２を更に備えることができる。発明の他の実施形態においては、ディスプレイは、画像またはビデオを表示するのに適しているいかなる適切なディスプレイ技術であってもよい。装置５０は、キーパッド３４を更に備えることができる。本願発明の他の実施形態において、任意の適切なデータまたはユーザインタフェースメカニズムを採用できる。例えば、ユーザインタフェースは、タッチ感知ディスプレイの一部としての、仮想キーボードまたはデータ・エントリ・システムとしてインプリメントすることができる。この装置は、マイクロフォン３６またはデジタルまたはアナログ信号入力であってよい任意の適切なオーディオ入力を備えることができる。装置５０は、本願発明の実施形態においては、イヤフォン３８、スピーカ、または、アナログ・オーディオまたはデジタル・オーディオ出力接続のうちのいずれか１つであることができるオーディオ出力デバイスを更に備えることができる。装置５０はまた、バッテリ４０（または、本願発明の他の実施形態においては、装置は、太陽電池、燃料電池、または、クロックワーク発電機（ｃｌｏｃｋｗｏｒｋ  ｇｅｎｅｒａｔｏｒ）のような任意の適切な可動エネルギー装置により動力を与えることができる）も備えることができる。その装置は、画像またはビデオを記録または撮像可能なカメラ４２を更に備えることができる。いくつかの実施形態においては、装置５０は、他のデバイスへのショートレンジ見通し内通信用の赤外線ポートを更に備えることができる。他の実施形態においては、装置５０は、例えば、ブルートゥース無線接続、または、ＵＳＢ／ファイヤワイヤ有線接続のような任意の適切なショートレンジ通信ソリューションを更に備えることができる。
【０３０８】
装置５０は、装置５０を制御するためのコントローラ５６またはプロセッサを備えることができる。コントローラ５６は、発明の実施形態においては、画像の形状のデータとオーディオデータの両者を格納でき、および／または、コントローラ５６上での実現のための指令もまた格納できる、メモリ５８に接続できる。コントローラ５６は、オーディオおよび／またはビデオデータのコーディングと復号化を行うため、または、コントローラ５６により行われるコーディングと復号化を支援するために適切なコーデック回路５４に更に接続することができる。
【０３０９】
装置５０は、例えば、ユーザ情報を提供し、ネットワークにおけるユーザの承認および認可のための承認情報を提供するために適しているＵＩＣＣおよびＵＩＣＣリーダーのようなカードリーダー４８およびスマートカード４６を更に備えることができる。
【０３１０】
装置５０は、コントローラに接続され、例えば、セルラ通信ネットワーク、無線通信システム、または無線ローカル・エリア・ネットワークとの通信のための無線通信信号を生成するために適している無線インタフェース回路５２を備えることができる。装置５０は、無線インタフェース回路５２に接続され、無線インタフェース回路５２で生成された無線周波数信号を他の装置に送信し、他の装置から無線周波数信号を受信するためのアンテナ４４を更に備えることができる。
【０３１１】
本願発明のいくつかの実施形態においては、装置５０は、個々のフレームを記録または検出可能なカメラを備えており、個々のフレームは、処理のためにコーデック５４またはコントローラに送られる。本願発明のいくつかの実施形態においては、装置は、送信および／または格納に先行して、別の装置から、処理のためにビデオ画像データを受信できる。本願発明のいくつかの実施形態においては、装置５０は、無線または有線接続で、コーディング／復号化のために画像を受信できる。
【０３１２】
図３は、ビデオ・コーディングのための設備を示しており、例示的実施形態にしたがって、複数の装置、ネットワーク、およびネットワーク要素を備えている。図３に関して、本発明の実施形態を利用可能なシステムの例が示されている。システム１０は、１つ以上のネットワークを介して通信可能な複数の通信装置を備えている。システム１０は、無線セルラ電話ネットワーク（ＧＳＭ、ＵＭＴＳ、ＣＤＭＡネットワークなどのような）、ＩＥＥＥ８０２．ｘ標準のいずれかにより定義される無線ローカル・エリア・ネットワーク（ＷＬＡＮ）、ブルートゥース・パーソナル・エリア・ネットワーク、イーサネット（登録商標）・ローカル・エリア・ネットワーク、トークン・リング・ローカル・エリア・ネットワーク、ワイド・エリア・ネットワーク、および、インターネットを備えることができる。ただし、これらに制限されるものではない。
【０３１３】
システム１０は、本願発明の実施形態をインプリメントするために適切な有線および無線通信装置または装置５０を含むことができる。例えば、図３に示されているシステムは、携帯電話ネットワーク１１と、インターネット２８の表現を示している。インターネット２８への接続は、ロングレンジワイヤレス接続、ショートレンジワイヤレス接続、および、制限されるものではないが、例えば、電話線、ケーブル線、電源線、および、類似の通信経路を含む種々の有線接続を含むことができる。しかし、これらに制限されるものではない。
【０３１４】
システム１０において示されている例示的通信デバイスは、電子デバイスまたは装置５０、個人情報端末（ＰＤＡ）と携帯電話１４の組み合わせ、ＰＤＡ１６、統合メッセージグ・デバイス（ＩＭＤ）１８、デスクトップ・コンピュータ２０、ノートブック・コンピュータ２２を含むことができる。しかし、これらに制限されるものではない。装置５０は、静止型、または、移動している個人により持ち運ばれるときは可動型であってよい。装置５０はまた、車、トラック、タクシー、バス、列車、ボート、飛行機、自転車、モータバイク、または、輸送の類似の適切なモードを含む輸送のモードに位置することもできる。ただし、それらに制限されるものではない。
【０３１５】
いくつかのまたは更なる装置は、呼（コール）とメッセージを送受信でき、基地局２４への無線接続２５により、サービス・プロバイダを通信できる。基地局２４は、携帯電話ネットワーク１１とインターネット２８の間の通信を可能にするネットワーク・サーバ２６に接続できる。システムは、追加的通信デバイスおよび種々のタイプの通信デバイスを含むことができる。
【０３１６】
通信装置は、コード分割多重アクセス（ＣＤＭＡ）、グローバル移動通信システム（ＧＳＭ）、ユニバーサル移動電気通信システム（ＵＭＴＳ）、時間分割多重アクセス（ＴＤＭＡ）、周波数分割多重アクセス（ＦＤＭＡ）、送信制御プロトコル−インターネットプロトコル（ＴＣＰ−ＩＰ）、ショートメッセージングサービス（ＳＭＳ）、マルチメディアメッセージングサービス（ＭＭＳ）、電子メール、インスタントメッセージングサービス（ＩＭＳ）、ブルートゥース、ＩＥＥＥ８０２．１１、および、類似の無線通信技術を含む種々の送信技術を使用して通信できる。しかし、それらに制限されるものではない。本発明の種々の実施形態を実現することに関連する通信装置は、無線、赤外線、レーザー、ケーブル接続、および、任意の適切な接続を含む種々のメディアを使用して通信できる。しかし、それらに制限されるものではない。
【０３１７】
以上のとおり、アクセス・ユニットは、異なるビューの、そして、異なるスケーラブルな層の異なるコンポーネント・タイプ（例えば、主要なテクスチャ・コンポーネント、冗長なテクスチャ・コンポーネント、補助コンポーネント、深度／ディスパリティ・コンポーネントなど）のスライスを含むことができる。コンポーネント・ピクチャは、依存表現、層表現、テクスチャ・ビュー・コンポーネント、深度ビュー・コンポーネント、深度マップ、または、その他のための集合的用語として定義されることができる。符号化されたコンポーネント・ピクチャは、コンポーネント・ピクチャ・デリミタＮＡＬユニットを用いて互いから分離することができる。これは、また、コンポーネント・ピクチャの符号化したスライスの復号化のために使用される共通のシンタックス要素の値を持っていることできる。アクセス・ユニットは、依存性および層表現と共に、符号化したテクスチャおよび深度ビュー・コンポーネントなど比較的かなり多数のコンポーネント・ピクチャから成ることができる。いくつかのコンポーネント・ピクチャの符号化したサイズは、比較的小さいことがあり得る。たとえば、それらは、ベース・ビューまたはベース層に対してデルタを表すと考えることができるから、深度コンポーネント・ピクチャは、圧縮するのが比較的簡単でありえるからである。コンポーネント・ピクチャ・デリミタＮＡＬユニットが、ビットストリームに存在するとき、コンポーネント・ピクチャは、コンポーネント・ピクチャ・デリミタＮＡＬユニット、および、アクセス・ユニットの終わりまで、または、次のコンポーネント・ピクチャ・デリミタＮＡＬユニットまで後続する符号化したスライスＮＡＬユニット、ただし、復号化する順序において、より早いものはどれも除く、として定義されることができる。
【０３１８】
上記において、いくつかの実施形態が、特定のタイプのパラメータ・セットに関して記述された。しかしながら、実施形態は、ビットストリームにおける、任意のパラメータ・セットまたは、他のシンタックス構造で実現できることを理解する必要がある。
【０３１９】
上記において、いくつかの実施形態が、標示、シンタックス要素、および／またはシンタックス構造を、ビットストリームに、または、符号化ビデオ・シーケンスに符号化することに関して、および／または、標示、シンタックス要素、および／またはシンタックス構造を、ビットストリームから、または、符号化ビデオ・シーケンスから復号化することに関して記述された。しかしながら、実施形態は、標示、シンタックス要素、および／またはシンタックス構造を、符号化スライスなど、ビットストリームまたはビデオ符号化層データを含む符号化ビデオ・シーケンスの外部にあるシンタックス構造またはデータ・ユニットに符号化するときに、および／または、標示、シンタックス要素、および／または、シンタックス構造からのシンタックス構造または、ビットストリームの外部にあるデータ・ユニット、または、符号化スライスなど、ビデオ符号化層データを含む符号化ビデオ・シーケンスを復号化するときに、実現することができることを理解する必要がある。たとえば、いくつかの実施形態において、上の任意の実施形態にしたがう標示は、ビデオ・パラメータ・セットまたはシーケンス・パラメータ・セットに符号化することができる。これは、たとえば、ＳＤＰなどのコントロール・プロトコルを使用して、符号化ビデオ・シーケンスから外部に伝達することができる。同じ例を続けると、レシーバは、たとえば、コントロール・プロトコルを使用して、ビデオ・パラメータ・セットまたはシーケンス・パラメータ・セットを得ることができ、復号化のために、ビデオ・パラメータ・セットまたはシーケンス・パラメータ・セットを提供することができる。
【０３２０】
上記において、いくつかの実施形態が、符号化／復号化方法、または、コンポーネント間依存性を有するツールに関して記述された。実施形態は、記述された符号化／復号化方法に特有でありえないが、いかなる同様の符号化／復号化方法またはツールででも実現することができることが理解される必要がある。
【０３２１】
上記において、例示的実施形態が、ビットストリームのシンタックスの助けで記述された。しかしながら、対応する構造やコンピュータ・プログラムは、ビットストリームを生成するためのエンコーダ、および／またはビットストリームを復号化するためのデコーダに存在することができることを理解する必要がある。同様に、例示的実施形態が、エンコーダを参照して記述されたが、結果として生じるビットストリームとデコーダは、それらの中に、対応する要素を持つことが理解される必要がある。同様に、例示的実施形態が、デコーダを参照して記述されたが、エンコーダは、デコーダにより復号化されるべきビットストリームを生成するための構造やコンピュータ・プログラムを有することが理解される必要がある。
【０３２２】
上記において、いくつかの実施形態が、強化層とベース層を参照して記述された。強化層の参照層であるかぎり、ベース層は、任意の他の層と同様であることが理解される必要がある。エンコーダは、ビットストリームに、２つ以上の層を符号化することができ、デコーダは、ビットストリームから、２つ以上の層を復号化できることが理解されることが必要である。実施形態は、強化層とその参照層との任意のペアで実現することができる。同様に、多くの実施形態は、２つ以上の層を考慮して実現できる。
【０３２３】
上記の例は、電子装置内のコーデック内で動作する本願発明の実施形態を記述しているが、下記に記述されるような発明は、任意のビデオ・コーデックの一部として実現できることが認識される。このため、例えば、発明の実施形態は、ビデオ・コーディングを、固定または有線通信経路上で実現できるビデオ・コーデックにおいて実現できる。
【０３２４】
このため、ユーザ機器は、上記の本願発明の実施形態において記述されたようなビデオ・コーデックを備えることができる。ユーザ機器という用語は、携帯電話、携帯型データ処理装置、または携帯型ウェブ・ブラウザのような任意の適切なタイプのワイヤレス・ユーザ機器をカバーすることを意図されていることが理解されるべきである。
【０３２５】
更に、公衆ランドモバイルネットワーク（ＰＬＭＮ）の要素もまた、上記のようなビデオ・コーデックを備えることができる。
【０３２６】
一般的に、発明の種々の実施形態は、ハードウェアまたは特定用途回路、ソフトウェア、論理回路、またはそれらの任意の組み合わせにおいて実現できる。例えば、いくつかの形態はハードウェアにおいて実現でき、一方、他の形態は、発明がそれに制限されることはないが、コントローラ、マイクロプロセッサ、または他のコンピューティング装置により実行されるファームウェアまたはソフトウェアで実現できる。発明の種々の形態を、ブロック図またはフローチャートとして、または、いくつかの他の図による表現を使用して、例示および記述できるが、ここで記述された、これらのブロック、装置、システム、技術、または、方法は、非制限的な例としてあげると、ハードウェア、ソフトウェア、ファームウェア、特殊用途回路、または、論理回路、汎用ハードウェア、または、コントローラ、または、他のコンピューティング・デバイス、または、それらのある組み合わせにより実現できることがよく理解されるべきである。
【０３２７】
この発明の実施形態は、プロセッサ・エンティティにおけるような携帯デバイスのデータ・プロセッサ、または、ハードウェア、または、ソフトウェアおよびハードウェアの組み合わせにより実行可能なコンピュータソフトウェアにより実現できる。更に、この点に関して、図におけるような論理フローの任意のブロックが、プログラム・ステップ、または、相互接続論理回路、ブロックおよび機能、または、プログラム・ステップと論理回路、ブロックおよび機能の組み合わせを表現できることに留意する。ソフトウェアは、メモリ・チップ、または、プロセッサ内において実現されたメモリブ・ロックのような物理的媒体、ハード・ディスクまたはフロッピ・ディスクのような磁気媒体、および、例えばＤＶＤのような光媒体、およびそのデータ変形例であるＣＤのような媒体に格納できる。
【０３２８】
発明の種々の実施形態は、メモリに存在し、適切な装置に発明を実行させるコンピュータ・プログラム・コードの支援により実現可能である。例えば、ターミナル・デバイスは、メモリにおけるデータ、コンピュータ・プログラム・コードを取り扱い、受信し、送信するための回路および電子機器、および、そのコンピュータ・プログラム・コードを起動すると、ターミナル・デバイスに実施形態の特徴を実行させるプロセッサを備えることができる。更に、また、ネットワーク装置は、メモリにおけるデータ、コンピュータ・プログラム・コードを取り扱い、受信し、送信するための回路および電子機器、および、コンピュータ・プログラム・コードを起動すると、ネットワーク・デバイスに実施形態の特徴を実行させるプロセッサを備えることができる。
【０３２９】
このメモリは、局所的技術環境に適切ないかなるタイプであってもよく、半導体ベース・メモリ・デバイス、磁気メモリ・デバイスおよびシステム、光学メモリ・デバイスおよびシステム、固定メモリおよびリムーバブル・メモリのような任意の適切なデータ格納技術を使用して実現できる。データ・プロセッサは、局所的技術環境に適切ないかなるタイプであってもよく、汎用コンピュータ、特殊用途コンピュータ、マイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ）、および、マルチコア・プロセッサ・アーキテクチャに基づくプロセッサの１つ以上を含むことができる。ただし、これらは、非制限的な例としてあげたものである。
【０３３０】
発明の実施形態は、集積回路モジュールのような種々の構成要素において実施できる。集積回路の設計は、一般的には高度に自動化されたプロセスである。複雑および強力なソフトウェアツールが、論理レベルの設計を、半導体基板上でのエッチングおよび形成が容易な半導体回路設計への変換に利用可能である。
【０３３１】
カリフォルニアのマウンテンビューのＳｙｎｏｐｓｙｓＩｎｃ．およびカリフォルニアのサンホセのＣａｄｅｎｃｅＤｅｓｉｇｎにより提供されるようなプログラムは、予め格納されている設計モジュールのライブラリと共に、良好に確立された設計規則を使用して、半導体チップ上に導体を自動的に配線し、構成要素を自動的に位置させる。半導体回路の設計が完了すると、結果としての設計は、標準化された電子フォーマット（例えば、Ｏｐｕｓ、ＧＤＳＩＩ、または類似のもの）で、半導体製造施設または製造のための「ファブ」へ送ることができる。
【０３３２】
上記の記述は、例示であり、非制限的な例として、本願発明の例示的実施形態の完全で有益な説明を提供した。しかしながら、種々の修正と改作は、添付の図面と特許請求項範囲とともに読まれるとき、前述の説明の観点から、当業者にとって明らかなものとなる。しかしながら、本願発明の教示のそのような、また、類似した修正は、本願発明の範囲に依然として入るものである。
【０３３３】
下記に、いくつかの例が提供される。
【０３３４】
第１の例、にしたがって、層間予測を使用しないで、第１の層の上の第１の解像度を有する第１の画像をエンコードするステップと、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の上の第２の解像度を有する第２の画像をエンコードするステップと、インタ予測を用いずに、前記第２の層上の前記第２のピクチャの前のピクチャを時間的に参照することなく、第２の層の上の第２の解像度を有する第３の画像をエンコードするステップと、前記第１の、および、第３のピクチャが、インタ予測を用いずに、符号化されており、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなく、エンコードされている標示を符号化するステップと、を含む方法が提供される。
【０３３５】
いくつかの実施形態において、本願の方法は、シーケンス・レベルにおいて前記標示を信号伝達するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を信号伝達するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を信号伝達するステップと、シーケンス・パラメータにおける標示を信号伝達するステップと、のうちの１つ以上を含む。
【０３３６】
いくつかの実施形態において、本願の方法は、前記標示を、第１の指標および第２の指標として提供するステップを含む。
【０３３７】
いくつかの実施形態において、本願の方法は、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを示す前記第１の指標を使用するステップと、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す前記第２の指標を使用するステップと、を含む。
【０３３８】
いくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇである。
【０３３９】
いくつかの実施形態において、ネットワーク抽象化層ユニット・タイプは、スイッチング・ポイントを示し、ネットワーク抽象化層ユニット・タイプで示されるピクチャの後のどんなピクチャでも、層間予測を使用せず、ネットワーク抽象化層ユニット・タイプで示されたピクチャの前のピクチャを参照しないことを示すために、使用される。
【０３４０】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングのベース層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの強化層である。
【０３４１】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングの第１の強化層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの別の強化層である。
【０３４２】
いくつかの実施形態において、前記第１の層は、マルチビュー・ビデオ・コーディングの第１のビューであり、そして、第２の層はマルチビュー・ビデオ符号化の第２のビューである。前記第２の層は、該マルチビュー・ビデオ・コーディングの第２のビューである。
【０３４３】
いくつかの実施形態において、第２のピクチャは、イントラ符号化ピクチャ、時間的予測のないピクチャ、アンカー・アクセス・ユニット、ランダム・アクセス・ピクチャ、または、ステップワイズ・ランダム・アクセス・ピクチャ、のピクチャ・タイプのうちの１つである。
【０３４４】
いくつかの実施形態において、本願の方法は、ビデオ表示の解像度変更、品質スケーラビリティ、ビット深度スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの少なくとも１つに対して前記第２のピクチャを使用するステップを含む。
【０３４５】
いくつかの実施形態において、本願の方法は、ネットワーク・エレメントにより、ビデオ表現の少なくとも１つのアクセス・ユニットに対して前記第１の層と前記第２の層の符号化されたピクチャを受信するステップと、前記ビデオ表現が受信者に送られるべきフォーマットを決定することステップと、を含み、前記決定に基づいて、この方法は、前記受取人に、前記ビデオ表現の１つの層のみを送信するステップ、または、前記受取人に、前記第１の層および前記第２の層の両方を送信するステップ、を更に含む。
【０３４６】
第２の例にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含む少なくとも１つのメモリとを備える装置が提供される。前記少なくとも１つのメモリと、前記プログラムコードとは、前記少なくとも１つのプロセッサにより、前記装置に、層間予測を使用しないで、第１の層の上の第１の解像度を有する第１の画像をエンコードさせ、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の上の第２の解像度を有する第２の画像をエンコードさせ、インタ予測を用いずに、前記第２の層上の前記第２のピクチャの前のピクチャを時間的に参照することなく、第２の層の上の第２の解像度を有する第３の画像をエンコードさせ、前記第１および第３の画像は、インタ予測を用いずに、エンコードされていること、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなく、エンコードされていることの指標を符号化させるように構成される。
【０３４７】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、シーケンス・レベルにおいて前記標示を信号伝達するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を信号伝達するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を信号伝達するステップと、シーケンス・パラメータにおける標示を信号伝達するステップと、を実行させる。
【０３４８】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記標示を、第１の指標および第２の指標として提供させる。
【０３４９】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを示す前記第１の指標を使用するステップと、スイッチング・ピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す前記第２の指標を使用するステップと、を実行させる。
【０３５０】
いくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇである。
【０３５１】
いくつかの実施形態において、ネットワーク抽象化層ユニット・タイプは、スイッチング・ポイントを示すのに、また、ネットワーク抽象化層ユニット・タイプで示されるピクチャの後のどんなピクチャも、層間予測を使用せず、ネットワーク抽象化層ユニット・タイプで示されたピクチャの前のピクチャを参照しないことを示すために、用いられる。
【０３５２】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングのベース層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの強化層である。
【０３５３】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングの第１の強化層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの別の強化層である。
【０３５４】
いくつかの実施形態において、前記第１の層は、マルチビュー・ビデオ・コーディングの第１のビューであり、前記第２の層は、該マルチビュー・ビデオ・コーディングの第２のビューである。
【０３５５】
いくつかの実施形態において、第２のピクチャは、イントラ符号化ピクチャ、時間的予測のないピクチャ、アンカー・アクセス・ユニット、ランダム・アクセス・ピクチャ、または、ステップワイズ・ランダム・アクセス・ピクチャ、のピクチャ・タイプのうちの１つである。
【０３５６】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、ビデオ表示の解像度変更、品質スケーラビリティ、ビット深度スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの１つに対して前記第２のピクチャを使用させる。
【０３５７】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、ビデオ表現の少なくとも１つのアクセス・ユニットに対して前記第１の層と前記第２の層の符号化されたピクチャを、ネットワーク・エレメントによって受信するステップと、前記ビデオ表現が受信者に送られるべきフォーマットを決定するステップと、を実行させる。ここで、前記決定に基づいて、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記受信者へビデオ表現の層の１つのみを送るステップ、または、前記受信者に、前記第１の層と前記第２の層との両方を送るステップを更に実行させる。
【０３５８】
第３の例にしたがって、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、層間予測を使用しないで、第１の層の上の第１の解像度を有する第１の画像をエンコードさせ、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の解像度から前記第２の解像度へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の上の第２の解像度を有する第２の画像をエンコードさせ、インタ予測を用いずに、前記第２の層上の前記第２のピクチャの前のピクチャを時間的に参照することなく、第２の層の上の第２の解像度を有する第３の画像をエンコードさせ、前記第１および第３の画像は、インタ予測を用いずに、エンコードされていること、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなく、エンコードされていることの指標を符号化させるように構成されたコンピュータ・プログラム・コードを備える、固定コンピュータ読取り可能媒体において具体化されるコンピュータ・プログラム・プロダクトが提供される。
【０３５９】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、シーケンス・レベルにおいて前記標示を信号伝達するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を信号伝達するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を信号伝達するステップと、シーケンス・パラメータにおける標示を信号伝達するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０３６０】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、前記標示を、第１の指標および第２の指標として提供するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０３６１】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを示す前記第１の指標を使用するステップと、スイッチング・ピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す前記第２の指標を使用するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０３６２】
いくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇである。
【０３６３】
いくつかの実施形態において、ネットワーク抽象化層ユニット・タイプは、スイッチング・ポイントを示し、前記ネットワーク抽象化層ユニット・タイプで示される前記ピクチャに続いているどんなピクチャでも、層間予測を使用せず、ネットワーク抽象化層ユニット・タイプで示されたピクチャの前のピクチャを参照しないことを示すために、使用される。
【０３６４】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングのベース層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの強化層である。
【０３６５】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングの第１の強化層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの別の強化層である。
【０３６６】
いくつかの実施形態において、前記第１の層は、マルチビュー・ビデオ・コーディングの第１のビューであり、前記第２の層は、該マルチビュー・ビデオ・コーディングの第２のビューである。
【０３６７】
いくつかの実施形態において、第２のピクチャは、イントラ符号化ピクチャ、時間的予測のないピクチャ、アンカー・アクセス・ユニット、ランダム・アクセス・ピクチャ、または、ステップワイズ・ランダム・アクセス・ピクチャ、のピクチャ・タイプのうちの１つである。
【０３６８】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、ビデオ表示の解像度変更、品質スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの少なくとも１つに対して前記第２のピクチャを使用させるように構成されたコンピュータ・プログラム・コードを備える。
【０３６９】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、ビデオ表現の少なくとも１つのアクセス・ユニットに対して前記第１の層と前記第２の層の符号化されたピクチャを、ネットワーク・エレメントによって受信するステップと、前記ビデオ表現が受信者に送られるべきフォーマットを決定するステップと、を実行させる。ここで、前記決定に基づいて、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、前記受信者へビデオ表現の層の１つのみを送るステップ、または、前記受信者に、前記第１の層と前記第２の層との両方を送るステップを更に実行させる、ように構成されたコンピュータ・プログラム・コードを備える。
【０３７０】
第４の例にしたがって、第１の層を、層間予測を使用しないで、第１の解像度を着ている第１のピクチャを符号化することする手段と、前記第１の層と前記第２の層との間での層間予測を使用して、また、前記第１の層から前記第２の層へのスイッチング・ポイントを提供するために、前記第２の層からのピクチャを使用して時間的予測を使用しないで、第２の層の上の第２の解像度を有する第２の画像をエンコードするための手段と、インタ予測を用いずに、前記第２の層上の前記第２のピクチャの前のピクチャを時間的に参照することなく、第２の層の上の第２の解像度を有する第３の画像をエンコードするための手段と、前記第１および第３の画像は、インタ予測を用いずに、エンコードされていること、前記第２の画像が、層間予測を使用しているが、時間的予測を使用することなく、エンコードされていることの指標をエンコードするための手段とを備える装置が提供される。
【０３７１】
第５の例にしたがって、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために１つ以上の標示を受信するを含む方法が提供される。ここで、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、この方法は、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化するステップと、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化するステップと、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化するステップと、を更に含む。
【０３７２】
いくつかの実施形態において、本願の方法は、シーケンス・レベルにおいて前記１つ以上の標示を受信するステップと、前記１つ以上の標示をネットワーク抽象化層におけるユニットのタイプとして受信するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける前記１つ以上の標示を受信するステップと、シーケンス・パラメータにおける前記１つ以上の標示を受信するステップと、のうちの１つ以上を含む。
【０３７３】
いくつかの実施形態において、本願の方法は、前記標示を、第１の指標および第２の指標として受信するステップを含む。
【０３７４】
いくつかの実施形態において、本願の方法は、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されるか否かを決定するために前記第１の指標を使用するステップと、スイッチング・ピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含むか否か、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができるか否かを決定するために前記第２の指標を使用するステップと、を含む。
【０３７５】
いくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇである。
【０３７６】
いくつかの実施形態において、ネットワーク抽象化層ユニット・タイプは、スイッチング・ポイントを示し、ネットワーク抽象化層ユニット・タイプで示されるピクチャの後のどんなピクチャでも、層間予測を使用せず、ネットワーク抽象化層ユニット・タイプで示されたピクチャの前のピクチャを参照しないことを示すために、使用される。
【０３７７】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングのベース層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの強化層である。
【０３７８】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングの第１の強化層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの別の強化層である。
【０３７９】
いくつかの実施形態において、前記第１の層は、マルチビュー・ビデオ・コーディングの第１のビューであり、前記第２の層は、該マルチビュー・ビデオ・コーディングの第２のビューである。
【０３８０】
いくつかの実施形態において、第２のピクチャは、イントラ符号化ピクチャ、時間的予測のないピクチャ、アンカー・アクセス・ユニット、ランダム・アクセス・ピクチャ、または、ステップワイズ・ランダム・アクセス・ピクチャ、のピクチャ・タイプのうちの１つである。
【０３８１】
いくつかの実施形態において、本願の方法は、ビデオ表示の解像度変更、品質スケーラビリティ、ビット深度スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの少なくとも１つに対して前記第２のピクチャを使用するステップを含む。
【０３８２】
第６の例にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリとを備える装置が提供される。前記少なくとも１つのメモリと、前記プログラムコードとは、前記少なくとも１つのプロセッサにより、前記装置に、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために、１つ以上の標示を受信させるように構成される。ここで、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化することと、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化することと、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化することと、を実行させる。
【０３８３】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、シーケンス・レベルにおいて前記１つ以上の標示を受信するステップと、ネットワーク抽象化層におけるユニットのタイプとして前記１つ以上の標示を受信するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける前記１つ以上の標示を受信するステップと、シーケンス・パラメータにおける前記１つ以上の標示を受信するステップと、を実行させる。
【０３８４】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記標示を、第１の指標および第２の指標として受信するステップを実行させる。
【０３８５】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されるかどうかを決定するのに前記第１の指標を使用するステップと、スイッチング・ピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができるか否かを決定するのに前記第２の指標を使用するステップと、を実行させる。
【０３８６】
いくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇである。
【０３８７】
いくつかの実施形態において、ネットワーク抽象化層ユニット・タイプは、スイッチング・ポイントを示し、ネットワーク抽象化層ユニット・タイプで示されるピクチャの後のどんなピクチャも、層間予測を使用せず、ネットワーク抽象化層ユニット・タイプで示されたピクチャの前のピクチャを参照しないことを示すために、使用される。
【０３８８】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングのベース層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの強化層である。
【０３８９】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングの第１の強化層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの別の強化層である。
【０３９０】
いくつかの実施形態において、前記第１の層は、マルチビュー・ビデオ・コーディングの第１のビューであり、前記第２の層は、該マルチビュー・ビデオ・コーディングの第２のビューである。
【０３９１】
いくつかの実施形態において、第２のピクチャは、イントラ符号化ピクチャ、時間的予測のないピクチャ、アンカー・アクセス・ユニット、ランダム・アクセス・ピクチャ、または、ステップワイズ・ランダム・アクセス・ピクチャ、のピクチャ・タイプのうちの１つである。
【０３９２】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、ビデオ表示の解像度変更、品質スケーラビリティ、ビット深度スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの１つに対して前記第２のピクチャを使用させる。
【０３９３】
第７の例にしたがって、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために、１つ以上の標示を受信させるように構成されたコンピュータ・プログラム・コードを備える、固定コンピュータ読取り可能媒体において具体化されるコンピュータ・プログラム・プロダクトが提供される。ここで、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化することと、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化することと、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化すること、とを実行させる。
【０３９４】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、シーケンス・レベルにおいて前記１つ以上の標示を受信するステップと、ネットワーク抽象化層の一種のユニットとして、１つ以上の標示を受信するステップと、補足的な強化情報ネットワーク抽象化層ユニットで、１つ以上の標示を受信するステップと、シーケンス・パラメータにおける前記１つ以上の標示を受信するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０３９５】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、前記標示を、第１の指標および第２の指標として受信するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０３９６】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されるかどうかを決定するのに前記第１の指標を使用するステップと、スイッチング・ピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができるか否かを決定するのに前記第２の指標を使用するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０３９７】
いくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｒａｐ＿ｆｌａｇである。
【０３９８】
いくつかの実施形態において、ネットワーク抽象化層ユニット・タイプは、スイッチング・ポイントを示し、ネットワーク抽象化層ユニット・タイプで示されるピクチャの後のどんなピクチャも、層間予測を使用せず、ネットワーク抽象化層ユニット・タイプで示されたピクチャの前のピクチャを参照しないことを示すために、使用される。
【０３９９】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングのベース層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの強化層である。
【０４００】
いくつかの実施形態において、前記第１の層は、スケーラブルなビデオ・コーディングの第１の強化層であり、前記第２の層は、該スケーラブルなビデオ・コーディングの別の強化層である。
【０４０１】
いくつかの実施形態において、前記第１の層は、マルチビュー・ビデオ・コーディングの第１のビューであり、前記第２の層は、該マルチビュー・ビデオ・コーディングの第２のビューである。
【０４０２】
いくつかの実施形態において、第２のピクチャは、イントラ符号化ピクチャ、時間的予測のないピクチャ、アンカー・アクセス・ユニット、ランダム・アクセス・ピクチャ、または、ステップワイズ・ランダム・アクセス・ピクチャ、のピクチャ・タイプのうちの１つである。
【０４０３】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、ビデオ表示の解像度変更、品質スケーラビリティ、ビット深度スケーラビリティ、空間スケーラビリティ、クロマ・フォーマット・スケーラビリティ、のうちの少なくとも１つに対して前記第２のピクチャを使用させるように構成されたコンピュータ・プログラム・コードを備える。
【０４０４】
第８の例にしたがって、スイッチング・ポイントがビットストリーム中に存在するかどうかを決定するために１つ以上の標示を受信するための手段と、該スイッチング・ポイントの前に、前記第１の層における１つ以上のピクチャを復号化し、該スイッチング・ポイントに結びついた１つ以上のピクチャを復号化し、スイッチング・ポイントが存在し、そのスイッチング・ポイントが層間予測を使用して符号化したピクチャを指す場合には、該スイッチング・ポイントの後に、前記第２の層における１つ以上のピクチャを復号化するための手段とを備える装置が提供される。
【０４０５】
第９の例にしたがって、第１の解像度を有するピクチャの第１のセットを第１の表現に符号化するステップと、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現に符号化するステップと、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャを時間的に参照することなく、第２の解像度を有するピクチャの第３のセットを第３の表現に符号化するステップと、ピクチャの前記第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、および、層間予測を使用しているが、時間的予測を使用することなく、ピクチャの前記第２のセットのうちの少なくとも１つのピクチャは、符号化されていること標示を符号化するステップと、を含む方法が提供される。
【０４０６】
いくつかの実施形態において、本願の方法は、適合化セットに、第１の表現、第２の表現および第３の表現を符号化するステップを含む。
【０４０７】
いくつかの実施形態において、本願の方法は、ファイルに適合化セットを格納するステップと、そのファイルのコンテンツのメディア表現記述を提供するステップとを含む。
【０４０８】
いくつかの実施形態において、本願の方法は、シーケンス・レベルにおいて前記標示を信号伝達するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を信号伝達するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を信号伝達するステップと、シーケンス・パラメータにおける標示を信号伝達するステップと、のうちの１つ以上を含む。
【０４０９】
いくつかの実施形態において、本願の方法は、前記標示を、第１の指標および第２の指標として提供するステップを含む。
【０４１０】
いくつかの実施形態において、本願の方法は、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを示す前記第１の指標を使用するステップと、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す前記第２の指標を使用するステップと、を含む。
【０４１１】
本願方法のいくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇである。
【０４１２】
いくつかの実施形態において、本願の方法は、第２の表現を送信する要求を受信するステップを含む。
【０４１３】
いくつかの実施形態において、本願の方法は、ピクチャのセットを含む表現のメディア表現記述を送信する要求を受信するステップを含む。
【０４１４】
いくつかの実施形態において、本願の方法は、ＨＴＴＰの上のダイナミックな適応ストリーミング、電子メール、サム・ドライブ、放送のうちの１つ以上を使用するセグメントを送信するステップを含む。
【０４１５】
第１０の例、にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリとを備える装置が提供される。前記少なくとも１つのメモリと、前記プログラムコードとは、前記少なくとも１つのプロセッサにより、前記装置に、第１の解像度を有するピクチャの第１のセットを第１の表現に符号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現に符号化させ、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャを時間的に参照することなく、第２の解像度を有するピクチャの第３のセットを第３の表現に符号化させ、ピクチャの第１のおよび第３のセットは、インタ予測を用いずに、符号化され、ピクチャの第２セットの少なくとも１つのピクチャは、層間予測を用いて、しかし、時間的予測を用いずに符号化されることの指標を符号化させるように構成される。
【０４１６】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、適合化セットに、第１の表現、第２の表現および第３の表現を符号化するステップを実行させる。
【０４１７】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、適合化セットをファイルに格納し、そのファイルのコンテンツのメディア表現記述を提供することを実行させる。
【０４１８】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、シーケンス・レベルにおいて前記標示を信号伝達するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を信号伝達するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を信号伝達するステップと、シーケンス・パラメータにおける標示を信号伝達するステップと、を実行させる。
【０４１９】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記標示を、第１の指標および第２の指標として提供するステップを実行させる。
【０４２０】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを示す前記第１の指標を使用するステップと、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す前記第２の指標を使用するステップと、を実行させる。
【０４２１】
本願装置のいくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇである。
【０４２２】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、第２の表現を送信する要求を受信するステップを実行させる。
【０４２３】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、ピクチャのセットを含む表現のメディア表現記述を送信する要求を受信するステップを実行させる。
【０４２４】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、ＨＴＴＰの上のダイナミックな適応ストリーミング、電子メール、サム・ドライブ、放送のうちの１つ以上を使用して前記セグメントを送信させる。
【０４２５】
第１１の例にしたがって、コンピュータ読み取り可能な配布媒体において具体化され、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、第１の解像度を有するピクチャの第１のセットを第１の表現に符号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現に符号化させ、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャを時間的に参照することなく、第２の解像度を有するピクチャの第３のセットを第３の表現に符号化させ、ピクチャの前記第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、層間予測を使用しているが、時間的予測を使用することなく、ピクチャの前記第２のセットのうちの少なくとも１つのピクチャは、符号化されていることの標示を符号化させるように構成されたコンピュータ・プログラム・コードを備える、コンピュータ・プログラム・プロダクトが提供される。
【０４２６】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、第１の表現、第２の表現、および、第３の表現を、適合化セットに符号化することを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４２７】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、適合化セットをファイルに格納し、そのファイルのコンテンツのメディア表現記述を提供することを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４２８】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、シーケンス・レベルにおいて前記標示を信号伝達するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を信号伝達するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を信号伝達するステップと、シーケンス・パラメータにおける標示を信号伝達するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４２９】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、前記標示を、第１の指標および第２の指標として提供するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４３０】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを示す前記第１の指標を使用するステップと、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含むこと、および、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを示す前記第２の指標を使用するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４３１】
コンピュータ・プログラム・プロダクトのいくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇである。
【０４３２】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、第２の表現を送信する要求を受信するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４３３】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、ピクチャのセットを含む表現のメディア表現記述を送信する要求を受信するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４３４】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、ＨＴＴＰの上のダイナミックな適応ストリーミング、電子メール、サム・ドライブ、放送のうちの１つ以上をセグメントを送信させるように構成されたコンピュータ・プログラム・コードを備える。
【０４３５】
第１２の例にしたがって、ピクチャの第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、ピクチャの第２のセットのうちの少なくとも１つのピクチャは、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を復号化するステップと、第１の解像度を有するピクチャの前記第１のセットを第１の表現に復号化するステップと、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２のセットを第２の表現から復号化するステップと、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャを時間的に参照することなく、第２の解像度を有するピクチャの第３のセットを第３の表現から復号化するステップと、を含む方法が提供される。
【０４３６】
いくつかの実施形態において、本願の方法は、適合化セットからの第１の表現、第２の表現および第３の表現を復号化するステップを含む。
【０４３７】
いくつかの実施形態において、本願の方法は、ファイルとして適合化セットを受信するステップと、そのファイルのコンテンツのメディア表現記述を受信するステップと、を含む。
【０４３８】
いくつかの実施形態において、本願の方法は、シーケンス・レベルにおいて前記標示を受信するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を受信するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を受信するステップと、シーケンス・パラメータにおける標示を受信するステップと、のうちの１つ以上を含む。
【０４３９】
いくつかの実施形態において、本願の方法は、前記標示を、第１の指標および第２の指標として受信するステップを含む。
【０４４０】
いくつかの実施形態において、本願の方法は、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを決定するために第１の指標を使用するステップと、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを決定するために第２の指標を使用するステップと、を含む。
【０４４１】
本願方法のいくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇである。
【０４４２】
いくつかの実施形態において、本願の方法は、第２の表現を送信することの要求を送信するステップを含む。
【０４４３】
いくつかの実施形態において、本願の方法は、ピクチャのセットを含む表現のメディア表現記述を送信する要求を送信するステップを含む。
【０４４４】
いくつかの実施形態において、本願の方法は、ＨＴＴＰの上のダイナミックな適応ストリーミング、電子メール、サム・ドライブ、放送のうちの１つ以上を使用するセグメントを受信するステップを含む。
【０４４５】
第１３の例にしたがって、少なくとも１つのプロセッサと、コンピュータ・プログラム・コードを含んでいる少なくとも１つのメモリを備える装置が提供される。前記少なくとも１つのメモリと、前記プログラムコードとは、前記少なくとも１つのプロセッサにより、前記装置に、ピクチャの第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、ピクチャの第２のセットのうちの少なくとも１つのピクチャは、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を復号化させ、第１の解像度を有するピクチャの前記第１のセットを第１の表現に復号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２セットを第２の表現から復号化させ、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャを時間的に参照することなく、前記第２の解像度を有するピクチャの前記第３のセットを、第３の表現から復号化させるように構成される。
【０４４６】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、適合化セットからの第１の表現、第２の表現および第３の表現を復号化するステップを実行させる。
【０４４７】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、ファイルとして適合化セットを受信するステップと、そのファイルのコンテンツのメディア表現記述を受信するステップと、を実行させる。
【０４４８】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、シーケンス・レベルにおいて前記標示を受信するするステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を受信するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を受信するステップと、シーケンス・パラメータにおける標示を受信するステップと、を実行させる。
【０４４９】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記標示を、第１の指標および第２の指標として受信するステップを実行させる。
【０４５０】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを決定するために前記第１の指標を使用させ、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを決定するために前記第２の指標を使用させる。
【０４５１】
本願装置のいくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇである。
【０４５２】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、第２の表現を送信する要求を送信するステップを実行させる。
【０４５３】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、ピクチャのセットを含む表現のメディア表現記述を送信する要求を送信するステップを実行させる。
【０４５４】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、その装置に、ＨＴＴＰの上のダイナミックな適応ストリーミング、電子メール、サム・ドライブ、放送のうちの１つ以上を使用するセグメントを受信させる。
【０４５５】
第１４の例にしたがって、少なくとも１つのプロセッサで実行されるとき、装置またはシステムに、ピクチャの第１の、および、第３のセットが、インタ予測を用いずに、符号化されており、ピクチャの第２のセットのうちの少なくとも１つのピクチャは、層間予測を使用しているが、時間的予測を使用することなく、符号化されていることの標示を復号化させ、第１の解像度を有するピクチャの前記第１のセットを第１の表現に復号化させ、前記第１の解像度から第２の解像度へのスイッチング・ポイントを提供するために、ピクチャの第１セットからのインタ予測を用いて、また、時間的予測を使用しないで、ピクチャの第２セットを第２の表現から復号化させ、インタ予測を用いずに、前記第２の表現のピクチャの前記第２のセットの以前のピクチャを時間的に参照することなく、前記第２の解像度を有するピクチャの前記第３のセットを、第３の表現から復号化させるように構成されたコンピュータ・プログラム・コードを備える、固定コンピュータ読取り可能メディアの上で具体化されるコンピュータ・プログラム・プロダクトが提供される。
【０４５６】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、適合化セットからの第１の表現、第２の表現および第３の表現を復号化するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４５７】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、ファイルとして適合化セットを受信するステップと、そのファイルのコンテンツのメディア表現記述を受信するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４５８】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、シーケンス・レベルにおいて前記標示を受信するステップと、ネットワーク抽象化層におけるユニットのタイプにより前記標示を受信するステップと、補足エンハンスメント情報ネットワーク抽象化層ユニットにおける標示を受信するステップと、シーケンス・パラメータにおける標示を受信するステップと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４５９】
本願装置のいくつかの実施形態において、コードを格納している前記少なくとも１つのメモリは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置に、少なくとも、前記標示を、第１の指標および第２の指標として受信させる。
【０４６０】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、符号化されたビデオ・シーケンスが、適応解像度変更操作を実行することを強制されることを決定するために前記第１の指標を使用することと、スイッチング・ポイントにおけるピクチャを除いて、各々のアクセス・ユニットが、単一の層からの単一のピクチャを含み、スイッチングが起こるアクセス・ユニットは、２つの層からのピクチャを含み、層間スケーラビリティ・ツールを使用することができることを決定するために前記第２の指標を使用することと、を実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４６１】
コンピュータ・プログラム・プロダクトのいくつかの実施形態において、第１の指標は、ｉｎｔｅｒ＿ｌａｙｅｒ＿ｐｒｅｄ＿ｆｏｒ＿ｅｌ＿ｒａｐ＿ｏｎｌｙ＿ｆｌａｇであり、第２の指標は、ｓｉｎｇｌｅ＿ｌａｙｅｒ＿ｆｏｒ＿ｎｏｎ＿ｉｒａｐ＿ｆｌａｇである。
【０４６２】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、第２の表現を送信する要求を送信するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４６３】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、前記装置または前記システムに、少なくとも、ピクチャのセットを含む表現のメディア表現記述を送信する要求を送信するステップを実行させるように構成されたコンピュータ・プログラム・コードを備える。
【０４６４】
いくつかの実施形態において、コンピュータ・プログラム・プロダクトは、前記少なくとも１つのプロセッサにより実行されるとき、その装置またはシステムに、ＨＴＴＰの上のダイナミックな適応ストリーミング、電子メール、サム・ドライブ、放送のうちの１つ以上を使用するセグメントを受信させるように構成されたコンピュータ・プログラム・コードを備える。
【図１】
0006290924.tif 000009
【図２】
0006290924.tif 000010
【図３】
0006290924.tif 000011
【図４ａ】
0006290924.tif 000012
【図４ｂ】
0006290924.tif 000013
【図５ａ】
0006290924.tif 000014
【図５ｂ】
0006290924.tif 000015
【図６】
0006290924.tif 000016
【図７】
0006290924.tif 000017
【図８】
0006290924.tif 000018
【図９】
0006290924.tif 000019
【図１０】
0006290924.tif 000020
【図１１】
0006290924.tif 000021
【図１２ａ】
0006290924.tif 000022
【図１２ｂ】
0006290924.tif 000023
【図１２ｃ】
0006290924.tif 000024
【図１２ｄ】
0006290924.tif 000025
【図１３】
0006290924.tif 000026
【図１４】
0006290924.tif 000027
【図１５】
0006290924.tif 000028