(57)【特許請求の範囲】
【請求項１】
ビデオ情報をコーディングするように構成された装置であって、
参照レイヤおよびエンハンスメントレイヤに関連するビデオ情報を記憶するように構成されたメモリと、
前記メモリに動作可能に結合され、
前記参照レイヤから参照レイヤ画像を取得して、
第１の中間出力を生成するために、第１の空間次元において前記参照レイヤ画像をアップサンプリングして、
前記参照レイヤ画像のビット深度を決定することと、
前記参照レイヤ画像の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記中間出力を前記ビット数だけシフトすることと
によって、前記第１の中間出力を所定のビット深度に制限して、
第２の中間出力を生成するために、第２の空間次元において前記制限された第１の中間出力をアップサンプリングして、
現在のエンハンスメントレイヤ画像の前記ビット深度に基づいて、前記第２の中間出力をシフトする第２のビット数を決定することと、
前記第２の中間出力を前記第２のビット数だけシフトすることと、
によって、前記参照レイヤ画像のアップサンプリングされたバージョンを生成するために、前記第２の中間出力を第２の所定のビット深度に制限して、
ここにおいて、前記第２の空間次元が前記第１の空間次元と直交している、
レイヤ間予測を実行するために、前記参照レイヤ画像の前記アップサンプリングされたバージョンを使用して前記エンハンスメントレイヤから現在の画像を予測する
ように構成されたプロセッサと
を備える、装置。
【請求項２】
前記プロセッサが、
前記ビット数に基づいて、前記中間出力をシフトするかどうかを決定することと、
前記中間出力をシフトすると決定することに応じて、前記中間出力を前記ビット数だけシフトすることと
によって、前記中間出力を前記ビット数だけシフトするように構成される、請求項１に記載の装置。
【請求項３】
前記プロセッサが、前記中間出力をシフトする前記ビット数を、前記参照レイヤ画像の前記ビット深度マイナス８ビットとして決定するように構成される、請求項１に記載の装置。
【請求項４】
前記プロセッサが、前記参照レイヤ画像にリサンプリングフィルタを適用することによって、前記第１の空間次元において前記参照レイヤ画像をアップサンプリングして、前記第２の空間次元において前記制限された中間出力をアップサンプリングするように構成される、請求項１に記載の装置。
【請求項５】
ビデオ情報をコーディングする方法であって、
参照レイヤから参照レイヤ画像を取得することと、
第１の中間出力を生成するために、第１の空間次元において前記参照レイヤ画像をアップサンプリングすることと、
前記参照レイヤ画像のビット深度を決定することと、
前記参照レイヤ画像の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記中間出力を前記ビット数だけシフトすることと
によって、前記第１の中間出力を所定のビット深度に制限することと、
第２の中間出力を生成するために、第２の空間次元において前記制限された第１の中間出力をアップサンプリングすることと、
現在のエンハンスメントレイヤ画像の前記ビット深度に基づいて、前記第２の中間出力をシフトする第２のビット数を決定することと、
前記第２の中間出力を前記第２のビット数だけシフトすることと、
によって、前記参照レイヤ画像のアップサンプリングされたバージョンを生成するために、前記第２の中間出力を第２の所定のビット深度に制限することと、
ここにおいて、前記第２の空間次元が前記第１の空間次元と直交している、
レイヤ間予測を実行するために、前記参照レイヤ画像の前記アップサンプリングされたバージョンを使用してエンハンスメントレイヤから現在の画像を予測することと
を備える、方法。
【請求項６】
前記中間出力を前記ビット数だけ前記シフトすることが、
前記ビット数に基づいて、前記中間出力をシフトするかどうかを決定することと、
前記中間出力をシフトすると決定することに応じて、前記中間出力を前記ビット数だけシフトすることと
を備える、請求項５に記載の方法。
【請求項７】
前記第１の空間次元において前記参照レイヤ画像を前記アップサンプリングすることと、前記第２の空間次元において前記制限された中間出力を前記アップサンプリングすることとが、前記参照レイヤ画像にリサンプリングフィルタを適用することによって実行される、請求項５に記載の方法。
【請求項８】
コンピュータハードウェアを備えるプロセッサ上で実行されると、前記プロセッサに、請求項５乃至７のうちのいずれかに記載の方法を行わせる命令を備える、非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
[0001]本開示は、ビデオコーディングおよび圧縮の分野に関する。詳細には、本開示は、アドバンストビデオコーディング（ＡＶＣ）のためのＳＶＣを含むスケーラブルビデオコーディング（ＳＶＣ）、ならびにスケーラブルＨＥＶＣ（ＳＨＶＣ）とも呼ばれる高効率ビデオコーディング（ＨＥＶＣ）に関する。本開示は、ＭＶ−ＨＥＶＣおよび３Ｄ−ＨＥＶＣと呼ばれる、ＨＥＶＣのマルチビュー拡張などの３Ｄビデオコーディングにも関する。様々な実施形態は、リサンプリングプロセスにおける中間データのダイナミックレンジ制御のためのシステムおよび方法に関する。
【背景技術】
【０００２】
[0002]デジタルビデオ機能は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末（ＰＤＡ）、ラップトップまたはデスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダ、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲームデバイス、ビデオゲームコンソール、セルラーまたは衛星無線電話、いわゆる「スマートフォン」、ビデオ遠隔会議デバイス、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスに組み込まれ得る。デジタルビデオデバイスは、ＭＰＥＧ−２、ＭＰＥＧ−４、ＩＴＵ−Ｔ  Ｈ．２６３、ＩＴＵ−Ｔ  Ｈ．２６４／ＭＰＥＧ−４，Ｐａｒｔ  １０，Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＡＶＣ）、現在開発中の高効率ビデオコーディング（ＨＥＶＣ：High Efficiency Video Coding）規格によって定義された規格、およびそのような規格の拡張に記載されているビデオコーディング技法など、ビデオコーディング技法を実装する。ビデオデバイスは、そのようなビデオコーディング技法を実装することによって、デジタルビデオ情報をより効率的に送信、受信、符号化、復号、および／または記憶し得る。
【０００３】
[0003]ビデオコーディング技法は、ビデオシーケンスに固有の冗長性を低減または除去するための空間的（イントラピクチャ）予測および／または時間的（インターピクチャ）予測を含む。ブロックベースのビデオコーディングの場合、ビデオスライス（たとえば、ビデオフレームまたはビデオフレームの一部分）が、ツリーブロック、コーディングユニット（ＣＵ）および／またはコーディングノードと呼ばれることもあるビデオブロックに区分され得る。ピクチャのイントラコーディングされた（Ｉ）スライス中のビデオブロックは、同じピクチャ中の近隣ブロック中の参照サンプルに対する空間的予測を使用して符号化される。ピクチャのインターコーディングされた（ＰまたはＢ）スライス中のビデオブロックは、同じピクチャ中の近隣ブロック中の参照サンプルに対する空間的予測、または他の参照ピクチャ中の参照サンプルに対する時間的予測を使用し得る。ピクチャはフレームと呼ばれることがあり、参照ピクチャは参照フレームと呼ばれることがある。
【０００４】
[0004]空間的予測または時間的予測は、コーディングされるべきブロックの予測ブロックを生じる。残差データは、コーディングされるべき元のブロックと予測ブロックとの間のピクセル差分を表す。インターコード化ブロックは、予測ブロックを形成する参照サンプルのブロックを指す動きベクトルと、コード化ブロックと予測ブロックとの間の差分を示す残差データとに従って符号化される。イントラコード化ブロックは、イントラコーディングモードと残差データとに従って符号化される。さらなる圧縮のために、残差データは、ピクセル領域から変換領域に変換されて、残差変換係数が得られ得、その残差変換係数は、次いで量子化され得る。量子化変換係数は、最初は２次元アレイで構成され、変換係数の１次元ベクトルを生成するために走査され得、なお一層の圧縮を達成するために、エントロピーコーディングが適用され得る。
【発明の概要】
【０００５】
[0005]一般に、本開示は、スケーラブルビデオコーディング（ＳＶＣ）に関連する技法を説明する。以下で説明する様々な技法は、リサンプリングプロセスにおける中間データのダイナミックレンジ制御のための方法およびデバイスを提供説明する。
【０００６】
[0006]ある態様によるビデオ情報をコーディングするための装置は、メモリとプロセッサとを含む。メモリユニットは、ビデオ情報を記憶するように構成されている。本プロセッサは、参照レイヤビデオ情報を取得して、中間出力を生成するために、第１の次元において参照レイヤビデオ情報をアップサンプリングして、中間出力を所定のビット深度に制限して、第２の次元において制限された中間出力をアップサンプリングするように構成されており、第２の次元は第１の次元と直交している。
【０００７】
[0007]１つまたは複数の例の詳細を、添付の図面および以下の説明に記載し、これは、本明細書で説明する本発明の概念の完全な範囲を限定するものではない。他の特徴、目的、および利点は、その説明および図面から、ならびに特許請求の範囲から明らかになろう。
【０００８】
[0008]図面全体にわたって、参照される要素間の対応を示すために参照番号が再使用される場合がある。図面は、本明細書に記載される例示的な実施形態を図示するために提供され、本開示の範囲を限定するものではない。
【図面の簡単な説明】
【０００９】
【図１】[0009]本開示で説明する態様に従って技法を利用し得る例示的なビデオ符号化および復号システムを示すブロック図。
【図２Ａ】[0010]本開示で説明する態様に従って技法を実装し得るビデオエンコーダの一例を示すブロック図。
【図２Ｂ】[0011]本開示で説明する態様に従って技法を実装し得るビデオエンコーダの一例を示すブロック図。
【図３Ａ】[0012]本開示で説明する態様に従って技法を実装し得るビデオデコーダの一例を示すブロック図。
【図３Ｂ】[0013]本開示で説明する態様に従って技法を実装し得るビデオデコーダの一例を示すブロック図。
【図４】[0014]本開示の態様による、リサンプリングプロセスにおける中間データのダイナミックレンジ制御のための例示的な方法を示すフローチャート。
【図５】[0015]本開示の態様による、リサンプリングプロセスにおける中間データのダイナミックレンジ制御のための別の例示的な方法を示すフローチャート。
【発明を実施するための形態】
【００１０】
[0016]本開示で説明する技法は、概して、スケーラブルビデオコーディング（ＳＨＶＣ、ＳＶＣ）およびマルチビュー／３Ｄビデオコーディング（たとえば、マルチビューコーディングプラス深度、ＭＶＣ＋Ｄ）に関係する。たとえば、本技法は、高効率ビデオコーディング（ＨＥＶＣ）のスケーラブルビデオコーディング（ＳＨＶＣと呼ばれることがある、ＳＶＣ）拡張に関係し、それとともにまたはそれの中で使用され得る。ＳＨＶＣ、ＳＶＣ拡張では、ビデオ情報の複数のレイヤがあり得る。ビデオ情報の最下位レベルのレイヤは、ベースレイヤ（ＢＬ）または参照レイヤ（ＲＬ）の機能を果たすことができ、ビデオ情報の最上部のレイヤ（または、最上位レイヤ）は、エンハンスメントレイヤ（ＥＬ）の機能を果たすことができる。「エンハンストレイヤ」は「エンハンスメントレイヤ」と呼ばれることがあり、これらの用語は互換的に使用され得る。ベースレイヤは「参照レイヤ」と呼ばれることがあり、これらの用語は互換的に使用され得る。ベースレイヤとトップレイヤとの間のすべてのレイヤは、追加のＥＬおよび／または参照レイヤの機能を果たすことができる。たとえば、所与のレイヤは、ベースレイヤまたは任意の介在エンハンスメントレイヤなどの、所与のレイヤの下の（たとえば、先行する）レイヤにとってＥＬであり得る。さらに、所与のレイヤはまた、所与のレイヤの上の（たとえば、それに続く）１つまたは複数のエンハンスメントレイヤにとってＲＬの機能を果たすことができる。ベースレイヤ（たとえば、たとえばレイヤ識別子（ＩＤ）セットを有する、または「１」と等しい、最下位レイヤ）と、トップレイヤ（または、最上位レイヤ）との間の任意のレイヤは、所与のレイヤよりも上位のレイヤによるレイヤ間予測のための参照として使用することができ、また、所与のレイヤよりも下位のレイヤをレイヤ間予測のための参照として使用することができる。たとえば、所与のレイヤは、所与のレイヤよりも下位のレイヤをレイヤ間予測のための参照として使用して決定され得る。
【００１１】
[0017]簡単のために、ＢＬおよびＥＬのただ２つのレイヤに関して例を提示するが、以下で説明するアイデアおよび実施形態が複数のレイヤを用いる場合にも適用可能であることを十分理解されたい。さらに、説明を簡単にするために、「フレーム」または「ブロック」という用語をしばしば使用する。ただし、これらの用語は限定的なものではない。たとえば、以下で説明する技法は、限定はしないが、ピクセル、ブロック（たとえば、ＣＵ、ＰＵ、ＴＵ、マクロブロックなど）、スライス、フレーム、ピクチャなどを含む様々なビデオユニットのいずれかとともに使用され得る。
ビデオコーディング
[0018]ビデオコーディング規格は、ＩＴＵ−Ｔ  Ｈ．２６１、ＩＳＯ／ＩＥＣ  ＭＰＥＧ−１  Ｖｉｓｕａｌ、ＩＴＵ−Ｔ  Ｈ．２６２またはＩＳＯ／ＩＥＣ  ＭＰＥＧ−２  Ｖｉｓｕａｌ、ＩＴＵ−Ｔ  Ｈ．２６３、ＩＳＯ／ＩＥＣ  ＭＰＥＧ−４  Ｖｉｓｕａｌ、およびそれのスケーラブルビデオコーディング（ＳＶＣ）拡張と、マルチビュービデオコーディング（ＭＶＣ）拡張と、マルチビューコーディングプラス深度（ＭＶＣ＋Ｄ）と拡張とを含む、（ＩＳＯ／ＩＥＣ  ＭＰＥＧ−４  ＡＶＣとしても知られる）ＩＴＵ−Ｔ  Ｈ．２６４を含む。以下、ＨＥＶＣ  ＷＤ１０と呼ばれる、最新のＨＥＶＣのドラフト仕様書が、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１２＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＣＴＶＣ−Ｌ１００３−ｖ３４．ｚｉｐから入手可能である。ＨＥＶＣへのマルチビュー拡張、すなわちＭＶ−ＨＥＶＣもまた、ＪＣＴ−３Ｖによって開発されている。以下、ＭＶ−ＨＥＶＣ  ＷＤ３の最新のワーキングドラフト（ＷＤ）が、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｔ−ｓｕｄｐａｒｉｓ．ｅｕ／ｊｃｔ２／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／３＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＣＴ３Ｖ−Ｃ１００４−ｖ４．ｚｉｐから入手可能である。ＨＥＶＣへのスケーラブル拡張、すなわちＳＨＶＣもまた、ＪＣＴ−ＶＣによって開発されている。以下、ＳＨＶＣ  ＷＤ１と呼ばれる、ＳＨＶＣの最新のワーキングドラフト（ＷＤ）が、ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｎｔ−ｅｖｒｙ．ｆｒ／ｊｃｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１２＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＣＴＶＣ−Ｌ１００８−ｖ１．ｚｉｐから入手可能である。
【００１２】
[0019]ＳＶＣおよびＳＨＶＣでは、ビデオ情報は、複数のレイヤとして与えられ得る。最下位レベルにあるレイヤはちょうどベースレイヤ（ＢＬ）として働き、最上位レベルにあるレイヤはエンハンスメントレイヤ（ＥＬ）として働き得る。トップレイヤとボトムレイヤとの間にあるすべてのレイヤは、エンハンスメントレイヤと参照レイヤとの両方として働き得る。たとえば、中間にあるレイヤは、それの下のレイヤのためのＥＬでよく、同時にそれの上のレイヤのためのＲＬであり得る。説明を簡単にするために、以下で説明する技法を示す際に、ＢＬとＥＬとの２つのレイヤがあると仮定することができる。しかしながら、本明細書において説明するすべての技法が、複数の（２つ以上の）レイヤを用いる場合にも適用可能である。
【００１３】
[0020]スケーラブルビデオコーディング（ＳＶＣ）は、（信号対雑音比（ＳＮＲ）とも呼ばれる）品質スケーラビリティ、空間スケーラビリティ、および／または時間スケーラビリティを実現するために使用され得る。たとえば、一実施形態では、参照レイヤ（たとえば、ベースレイヤ）は、第１の品質レベルでビデオを表示するのに十分なビデオ情報を含み、エンハンスメントレイヤは、参照レイヤと比べてさらなるビデオ情報を含み、その結果、参照レイヤおよびエンハンスメントレイヤは一緒に、第１の品質レベルよりも高い第２の品質レベル（たとえば、少ない雑音、大きい解像度、より良いフレームレートなど）でビデオを表示するのに十分なビデオ情報を含む。強調レイヤは、ベースレイヤとは異なる空間解像度を有し得る。たとえば、ＥＬとＢＬとの間の空間アスペクト比は、１．０、１．５、２．０、または他の異なる比であり得る。言い換えれば、ＥＬの空間アスペクトは、ＢＬの空間アスペクトの１．０倍、１．５倍、または２．０倍に等しい場合がある。いくつかの例では、ＥＬの倍率は、ＢＬの倍率よりも大きい場合がある。たとえば、ＥＬ内のピクチャのサイズは、ＢＬ内のピクチャのサイズよりも大きい場合がある。このようにして、限定ではないが、ＥＬの空間解像度がＢＬの空間解像度よりも大きいことは可能であり得る。
【００１４】
[0021]Ｈ．２６４のＳＶＣ拡張、またはＨ．２６５のＳＨＶＣ拡張を参照するＳＶＣでは（上述のように）、現在のブロックの予測は、ＳＶＣのために提供される異なるレイヤを使用して実行され得る。そのような予測は、レイヤ間予測と呼ばれる場合がある。レイヤ間予測方法は、レイヤ間冗長性を低減するためにＳＶＣにおいて利用され得る。レイヤ間予測のいくつかの例としては、レイヤ間イントラ予測、レイヤ間動き予測、およびレイヤ間残差予測があり得る。レイヤ間イントラ予測は、ベースレイヤ中のコロケートブロックの再構成を使用してエンハンスメントレイヤ中の現在ブロックを予測する。レイヤ間動き予測は、エンハンスメントレイヤにおける動きを予測するために、ベースレイヤの動き情報（動きベクトルを含む）を使用する。レイヤ間残差予測は、ベースレイヤの残差を使用してエンハンスメントレイヤの残差を予測する。
概要
[0022]ＳＨＶＣでは、参照レイヤ画像は、たとえば、エンハンスメントレイヤにおけるレイヤ間予測のために、リサンプリングされる必要がある場合がある。リサンプリングは、参照レイヤ画像から輝度サンプルにリサンプリングフィルタを適用することによって実行され得る。たとえば、ｎタップフィルタが適用され得る。リサンプリングプロセスは、２次元リサンプリングのための２つのステップで発生し得る。第１に、水平リサンプリングが実行されてよく、次いで垂直リサンプリングが実行され得る。たとえば、垂直リサンプリングは、水平リサンプリングプロセスからビデオ情報出力上に実行され得る。リサンプリングフィルタは、入力として輝度サンプルを受信することができ、水平リサンプリングプロセスは、入力輝度サンプルに基づいて中間出力を生成することができる。次いで、中間出力は、垂直リサンプリングステップのための入力として使用され得る。いくつかの状況では、水平リサンプリングプロセスは、中間出力が入力輝度サンプルよりも多くのビットを有する（たとえば、より大きいビット深度を有する）ように、入力輝度サンプルにさらなるビットを追加することができる。さらなるビットは、データ範囲を非常に大きくして、垂直リサンプリングステップの計算の複雑性に重大な影響を有するようにすることができる。たとえば、中間データのバッファは、データ範囲が高くなるにつれて比例して増加され得る。また、補間プロセス、特に乗算演算の複雑性は、入力データのビット深度に強く依存する場合がある。さらに、特定の所定の最大値を超えないビット深度を有する入力を必要とする特定の計算命令セットがある。たとえば、特定の１６ビットの命令セットは、１６ビットを有する（たとえば、１６ビットのビット深度を有する）入力にのみ使用され得る。したがって、多段階リサンプリングプロセスの第１の段階の中間出力のビット深度を制限（たとえば、減少または限定）することが有利である。
【００１５】
[0023]これらおよび他の問題に対処するために、本開示に記載された技法は、初期リサンプリングプロセス（たとえば、水平リサンプリング）から中間出力のビット深度を指定されたビット数に制限することができる。いくつかの実施形態では、ビット深度を指定されたビット数に制限することは、中間出力を特定のビット数だけ右シフトすること（たとえば、右シフト動作「＞＞」を適用すること）によって実現され得る。中間出力を右シフトするビット数は、リサンプリングフィルタに入力された入力輝度サンプルのビット深度に基づいて決定され得る。たとえば、中間出力を１６ビットに制限することができ、中間出力を右シフトするビット数は、入力輝度サンプルのビット深度から８ビットを減算することによって算出され得る。ビットシフト数は、入力輝度サンプルのビット数に基づいて動的に決定され得る。上述のように、初期リサンプリングプロセス（たとえば、水平リサンプリング）から中間出力に追加されたさらなるビットはデータ範囲を大きくして、次のリサンプリングプロセス（たとえば、垂直リサンプリング）の計算の複雑性に重大な影響を有するようにすることができる。このように中間出力を制限することによって、これらの課題および／または問題を軽減することができる。さらに、このように中間出力を制限することによって、より正確な結果をもたらして丸め誤差を減少させることができ、またコーディングデバイスおよびプロセスが特定のより効率的なコーディング命令セットを利用することを可能にすることができる。
【００１６】
[0024]いくつかの実施形態では、垂直リサンプリングプロセスからの出力もまた、同様の方法で制限され得る。特定の実施形態では、垂直リサンプリングプロセスは、水平リサンプリングプロセスの前に実行され得る。本技法は、３次元コーディングにも適用され得る。たとえば、ｘ軸におけるリサンプリングからの中間出力が所定のビット深度に制限されてよく、ｙ軸におけるリサンプリングからの中間出力も所定のビット深度に制限され得る。シフトするビット数は、入力輝度サンプルのビット深度、および／またはリサンプリングにおける前のステップからの中間出力のビット深度に基づき得る。一般的に、参照レイヤ画像は一般的にアップサンプリングされるが、いくつかの実施形態では、エンハンスメントレイヤ画像はダウンサンプリングされ得る。
【００１７】
[0025]添付の図面を参照しながら新規のシステム、装置、および方法の様々な態様について以下でより十分に説明する。ただし、本開示は、多くの異なる形態で実施され得、本開示全体にわたって提示する任意の特定の構造または機能に限定されるものと解釈すべきではない。むしろ、これらの態様は、本開示が周到で完全になり、本開示の範囲を当業者に十分に伝えるように与えられる。本明細書の教示に基づいて、本開示の範囲は、本発明の他の態様とは無関係に実装されるにせよ、または本発明の他の態様と組み合わされるにせよ、本明細書で開示する新規のシステム、装置、および方法のいかなる態様をもカバーするものであることを、当業者なら諒解されたい。たとえば、本明細書に記載した態様をいくつ使用しても、装置は実装され得、または方法は実施され得る。さらに、本発明の範囲は、本明細書に記載の本発明の様々な態様に加えてまたはそれらの態様以外に、他の構造、機能、または構造および機能を使用して実施されるそのような装置または方法をカバーするものとする。本明細書で開示するどの態様も請求項の１つまたは複数の要素によって実施され得ることを理解されたい。
【００１８】
[0026]本明細書では特定の態様が記載されるが、これらの態様の多くの変形形態および置換は本開示の範囲内に入る。好ましい態様のいくつかの利益および利点が言及されるが、本開示の範囲は、特定の利益、使用、または目的に限定されるものではない。むしろ、本開示の態様は、様々なワイヤレス技術、システム構成、ネットワーク、および伝送プロトコルに広く適用可能であるものとし、それらのいくつかを例として、図および好適な態様についての以下の説明において示す。発明を実施するための形態および図面は、本開示を限定するものではなく説明するものにすぎず、本開示の範囲は添付の特許請求の範囲およびそれの均等物によって定義される。
ビデオコーディングシステム
[0027]図１は、本開示で説明する態様による技法を利用し得る例示的なビデオコーディングシステム１０を示すブロック図である。本明細書で使用し説明する「ビデオコーダ」という用語は、総称的にビデオエンコーダとビデオデコーダの両方を指す。本開示では、「ビデオコーディング」または「コーディング」という用語は、ビデオ符号化とビデオ復号とを総称的に指すことがある。
【００１９】
[0028]図１に示すように、ビデオコーディングシステム１０は、ソースデバイス１２と宛先デバイス１４とを含む。ソースデバイス１２は符号化ビデオデータを生成する。宛先デバイス１４は、ソースデバイス１２によって生成された符号化ビデオデータを復号し得る。ソースデバイス１２は、コンピュータ可読記憶媒体または他の通信チャネルを含み得る通信チャネル１６を介して宛先デバイス１４にビデオデータを提供することができる。ソースデバイス１２および宛先デバイス１４は、デスクトップコンピュータ、ノートブック（すなわち、ラップトップ）コンピュータ、タブレットコンピュータ、セットトップボックス、いわゆる「スマート」フォンなどの電話ハンドセット、いわゆる「スマート」パッド、テレビジョン、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲームコンソール、車内コンピュータ、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスを含み得る。ソースデバイス１２および宛先デバイス１４は、ワイヤレス通信のために装備され得る。
【００２０】
[0029]宛先デバイス１４は、通信チャネル１６を介して復号されるべき符号化ビデオデータを受信し得る。通信チャネル１６は、ソースデバイス１２から宛先デバイス１４に符号化されたビデオデータを移動させることができるタイプの媒体またはデバイスを備え得る。たとえば、通信チャネル１６は、ソースデバイス１２が、符号化ビデオデータを宛先デバイス１４にリアルタイムで直接送信することを可能にするための通信媒体を備え得る。符号化ビデオデータは、ワイヤレス通信プロトコルなどの通信規格に従って変調され、宛先デバイス１４に送信され得る。通信媒体は、無線周波数（ＲＦ）スペクトルまたは１つもしくは複数の物理伝送線路など、ワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネットなどのグローバルネットワークなど、パケットベースネットワークの一部を形成し得る。通信媒体は、ソースデバイス１２から宛先デバイス１４への通信を可能にするために有用であり得るルータ、スイッチ、基地局、または他の機器を含み得る。
【００２１】
[0030]いくつかの実施形態では、符号化データは、出力インターフェース２２から記憶デバイスに出力され得る。そのような例では、チャネル１６は、ソースデバイス１２によって生成された符号化されたビデオデータを記憶する記憶デバイスまたはコンピュータ可読記憶媒体に対応し得る。たとえば、宛先デバイス１４は、ディスクアクセスまたはカードアクセスを介してコンピュータ可読記憶媒体にアクセスし得る。同様に、符号化データは、入力インターフェース２８によってコンピュータ可読記憶媒体からアクセスされ得る。コンピュータ可読記憶媒体は、ハードドライブ、ブルーレイ（登録商標）ディスク、ＤＶＤ、ＣＤ−ＲＯＭ、フラッシュメモリ、揮発性もしくは不揮発性メモリ、またはビデオデータを記憶するための他のデジタル記憶媒体など、様々な分散されたまたはローカルにアクセスされるデータ記憶媒体のいずれかを含み得る。コンピュータ可読記憶媒体は、ソースデバイス１２によって生成された符号化ビデオを記憶し得るファイルサーバまたは別の中間記憶デバイスに対応し得る。宛先デバイス１４は、ストリーミングまたはダウンロードを介してコンピュータ可読記憶媒体から、記憶されたビデオデータにアクセスし得る。ファイルサーバは、符号化ビデオデータを記憶し、その符号化ビデオデータを宛先デバイス１４に送信することが可能なタイプのサーバであり得る。例示的なファイルサーバは、（たとえば、ウェブサイトのための）ウェブサーバ、ＦＴＰサーバ、ネットワーク接続ストレージ（ＮＡＳ）デバイス、またはローカルディスクドライブを含む。宛先デバイス１４は、インターネット接続を含む、標準のデータ接続を介して符号化ビデオデータにアクセスし得る。これは、ファイルサーバに記憶された符号化ビデオデータにアクセスするのに好適であるワイヤレスチャネル（たとえば、Ｗｉ−Ｆｉ（登録商標）接続）、ワイヤード接続（たとえば、ＤＳＬ、ケーブルモデムなど）、または両方の組合せを含み得る。コンピュータ可読記憶媒体からの符号化ビデオデータの送信は、ストリーミング送信、ダウンロード送信、または両方の組合せであり得る。
【００２２】
[0031]本開示の技法は、ワイヤレス適用例または設定に加えて適用例または設定を適用することができる。本技法は、オーバージエアテレビジョン放送、ケーブルテレビジョン送信、衛星テレビジョン送信、動的適応ストリーミングオーバーＨＴＴＰ（ＤＡＳＨ：dynamic adaptive streaming over HTTP）などのインターネットストリーミングビデオ送信、データ記憶媒体上に符号化されたデジタルビデオ、データ記憶媒体に記憶されたデジタルビデオの復号、または他の適用例など、様々なマルチメディア適用例をサポートするビデオコーディングに適用され得る。いくつかの実施形態では、システム１０は、ビデオストリーミング、ビデオ再生、ビデオブロードキャスティング、および／またはビデオテレフォニーなどの適用例をサポートするために、一方向または双方向のビデオ送信をサポートするように構成され得る。
【００２３】
[0032]図１では、ソースデバイス１２は、ビデオソース１８と、ビデオエンコーダ２０と、出力インターフェース２２とを含む。宛先デバイス１４は、入力インターフェース２８と、ビデオデコーダ３０と、ディスプレイデバイス３２とを含む。ソースデバイス１２のビデオエンコーダ２０は、複数の規格または規格拡張に準拠するビデオデータを含むビットストリームをコーディングするための技法を適用するように構成され得る。他の実施形態では、ソースデバイスおよび宛先デバイスは他の構成要素または構成を含み得る。たとえば、ソースデバイス１２は、外部カメラなど、外部ビデオソース１８からビデオデータを受信し得る。同様に、宛先デバイス１４は、内蔵ディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。
【００２４】
[0033]ソースデバイス１２のビデオソース１８は、ビデオカメラなどのビデオキャプチャデバイス、あらかじめキャプチャされたビデオを含んでいるビデオアーカイブ、および／またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースを含み得る。ビデオソース１８は、ソースビデオとしてのコンピュータグラフィックスベースのデータ、またはライブビデオとアーカイブビデオとコンピュータ生成ビデオとの組合せを生成し得る。いくつかの実施形態では、ビデオソース１８がビデオカメラである場合、ソースデバイス１２および宛先デバイス１４は、いわゆるカメラフォンまたはビデオフォンを形成し得る。キャプチャされたビデオ、以前にキャプチャされたビデオ、またはコンピュータ生成ビデオは、ビデオエンコーダ２０によって符号化され得る。符号化されたビデオ情報は、出力インターフェース２２によって、上記で説明したコンピュータ可読記憶媒体を含み得る通信チャネル１６に出力され得る。
【００２５】
[0034]コンピュータ可読記憶媒体は、ワイヤレスブロードキャストまたはワイヤードネットワーク送信などの一時媒体、またはハードディスク、フラッシュドライブ、コンパクトディスク、デジタルビデオディスク、ブルーレイディスク、または他のコンピュータ可読媒体などの記憶媒体（たとえば、非一時的記憶媒体）を含み得る。ネットワークサーバ（図示せず）は、（たとえば、ネットワーク送信を介して）ソースデバイス１２から符号化されたビデオデータを受信し、宛先デバイス１４に符号化されたビデオデータを与え得る。ディスクスタンピング設備など、媒体製造設備のコンピューティングデバイスは、ソースデバイス１２から符号化ビデオデータを受信し、その符号化ビデオデータを含んでいるディスクを生成し得る。したがって、通信チャネル１６は、様々な形態の１つまたは複数のコンピュータ可読記憶媒体を含むと理解され得る。
【００２６】
[0035]宛先デバイス１４の入力インターフェース２８は、通信チャネル１６から情報を受信し得る。通信チャネル１６の情報は、ビデオエンコーダ２０によって定義され、ビデオデコーダ３０によって使用され得る、ブロックおよび他のコード化ユニット、たとえば、ＧＯＰの特性および／または処理を記述するシンタックス要素を含む、シンタックス情報を含み得る。ディスプレイデバイス３２は、復号されたビデオデータをユーザに対して表示し、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）、プラズマディスプレイ、有機発光ダイオード（ＯＬＥＤ）ディスプレイ、または別のタイプのディスプレイデバイスなど、様々なディスプレイデバイスのいずれかを含み得る。
【００２７】
[0036]ビデオエンコーダ２０およびビデオデコーダ３０は、現在開発中の高効率ビデオコーディング（ＨＥＶＣ）規格などのビデオコーディング規格に従って動作し得、ＨＥＶＣテストモデル（ＨＭ）に準拠し得る。代替的に、ビデオエンコーダ２０およびビデオデコーダ３０は、代替的にＭＰＥＧ−４，Ｐａｒｔ  １０，Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＡＶＣ）と呼ばれるＩＴＵ−Ｔ  Ｈ．２６４規格など、他のプロプライエタリ規格もしくは業界規格、またはそのような規格の拡張に従って動作し得る。ただし、本開示の技法は、いかなる特定のコーディング規格にも限定されない。ビデオコーディング規格の他の例としては、ＭＰＥＧ−２およびＩＴＵ−Ｔ  Ｈ．２６３がある。図１には示されていないが、いくつかの態様では、ビデオエンコーダ２０およびビデオデコーダ３０は、それぞれオーディオエンコーダおよびオーディオデコーダと統合され得、適切なＭＵＸ−ＤＥＭＵＸユニット、または他のハードウェアおよびソフトウェアを含んで、共通のデータストリームまたは別個のデータストリーム中のオーディオとビデオの両方の符号化を処理し得る。適用可能な場合、ＭＵＸ−ＤＥＭＵＸユニットは、ＩＴＵ  Ｈ．２２３マルチプレクサプロトコル、またはユーザデータグラムプロトコル（ＵＤＰ）などの他のプロトコルに準拠し得る。
【００２８】
[0037]図１は例にすぎず、本開示の技法は、符号化デバイスと復号デバイスとの間の任意のデータ通信を必ずしも含むとは限らないビデオコーディング設定（たとえば、ビデオ符号化、またはビデオ復号）に適用することができる。他の例では、データは、ローカルメモリから取り出されてもよく、ネットワークを介してストリーミングされてもよく、または同様の方法で取得されてもよい。符号化デバイスがデータを符号化してメモリに記憶してもよく、および／または復号デバイスがメモリからデータを取り出して復号してもよい。多くの例では、符号化および復号は、相互に通信しないデバイスによって実行されるが、単にデータをメモリに符号化して、および／またはメモリからデータを取り出して復号する。
【００２９】
[0038]ビデオエンコーダ２０およびビデオデコーダ３０はそれぞれ、１つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェアまたはそれらの任意の組合せなど、様々な好適なエンコーダ回路のいずれかとして実装され得る。本技法が部分的にソフトウェアで実装されるとき、デバイスは、非一時的コンピュータ可読媒体にソフトウェアの命令を記憶し、１つまたは複数のプロセッサを使用してその命令をハードウェアで実行して、本開示の技法を実行し得る。ビデオエンコーダ２０およびビデオデコーダ３０の各々は１つまたは複数のエンコーダまたはデコーダ中に含まれ得、そのいずれも、それぞれのデバイスにおいて複合エンコーダ／デコーダ（コーデック）の一部として統合され得る。ビデオエンコーダ２０および／またはビデオデコーダ３０を含むデバイスは、集積回路、マイクロプロセッサ、および／またはセルラー電話などのワイヤレス通信デバイスを備え得る。
【００３０】
[0039]ＪＣＴ−ＶＣは、ＨＥＶＣ規格およびその拡張の開発に取り組んでおり、バージョン１が完成されている。ＨＥＶＣ規格化の取り組みは、ＨＥＶＣテストモデル（ＨＭ）と呼ばれるビデオコーディングデバイスの発展的モデルに基づく。ＨＭは、たとえば、ＩＴＵ−Ｔ  Ｈ．２６４／ＡＶＣに従う既存のデバイスに対してビデオコーディングデバイスのいくつかの追加の能力を仮定する。たとえば、Ｈ．２６４は９つのイントラ予測符号化モードを提供するが、ＨＭは３３個ものイントラ予測符号化モードを提供し得る。
【００３１】
[0040]概して、ＨＭの作業モデルは、ビデオフレームまたはピクチャが、ルーマサンプルとクロマサンプルの両方を含む一連のツリーブロックまたは最大コーディングユニット（ＬＣＵ：largest coding unit）に分割され得ることを記載している。ビットストリーム内のシンタックスデータが、ピクセルの数に関して最大コーディングユニットであるＬＣＵのサイズを定義し得る。スライスは、コーディング順序でいくつかの連続するツリーブロックを含む。ビデオフレームまたはピクチャは、１つまたは複数のスライスに区分され得る。各ツリーブロックは、４分木に従ってコーディングユニット（ＣＵ）に分割され得る。概して、４分木データ構造はＣＵごとに１つのノードを含み、ルートノードはツリーブロックに対応する。ＣＵが４つのサブＣＵに分割された場合、ＣＵに対応するノードは４つのリーフノードを含み、リーフノードの各々はサブＣＵのうちの１つに対応する。
【００３２】
[0041]４分木データ構造の各ノードは、対応するＣＵのシンタックスデータを与え得る。たとえば、４分木のノードは、そのノードに対応するＣＵがサブＣＵに分割されるかどうかを示す分割フラグを含み得る。ＣＵのシンタックス要素は、再帰的に定義され得、ＣＵがサブＣＵに分割されるかどうかに依存し得る。ＣＵがさらに分割されない場合、そのＣＵはリーフＣＵと呼ばれる。本開示では、元のリーフＣＵの明示的分割が存在しない場合でも、リーフＣＵの４つのサブＣＵをリーフＣＵとも呼ぶ。たとえば、１６×１６サイズのＣＵがさらに分割されない場合、この１６×１６ＣＵが決して分割されなくても、４つの８×８サブＣＵをリーフＣＵとも呼ぶ。
【００３３】
[0042]ＣＵは、ＣＵがサイズの差異を有さないことを除いて、Ｈ．２６４規格のマクロブロックと同様の目的を有する。たとえば、ツリーブロックは、４つの子ノード（サブＣＵとも呼ばれる）に分割され得、各子ノードは、今度は親ノードとなり、別の４つの子ノードに分割され得る。４分木のリーフノードと呼ばれる、最後の分割されていない子ノードは、リーフＣＵとも呼ばれるコーディングノードを備える。コード化ビットストリームに関連するシンタックスデータは、最大ＣＵ深さと呼ばれる、ツリーブロックが分割され得る最大回数を定義し得、また、コーディングノードの最小サイズを定義し得る。それに応じて、ビットストリームは最小コーディングユニット（ＳＣＵ：smallest coding unit）をも定義し得る。本開示では、ＨＥＶＣのコンテキストにおけるＣＵ、ＰＵ、もしくはＴＵ、または他の規格のコンテキストにおける同様のデータ構造（たとえば、Ｈ．２６４／ＡＶＣにおけるマクロブロックおよびそれのサブブロック）のいずれかを指すために「ブロック」という用語を使用する。
【００３４】
[0043]ＣＵは、コーディングノードと、コーディングノードに関連する予測ユニット（ＰＵ：prediction unit）および変換ユニット（ＴＵ：transform unit）とを含む。ＣＵのサイズは、コーディングノードのサイズに対応し、ならびに形状が方形でなければならない。ＣＵのサイズは、８×８ピクセルから最大６４×６４以上のピクセルを有するツリーブロックのサイズまでに及び得る。各ＣＵは、１つまたは複数のＰＵと、１つまたは複数のＴＵとを含み得る。ＣＵに関連するシンタックスデータは、たとえば、ＣＵを１つまたは複数のＰＵに区分することを記述し得る。区分モードは、ＣＵが、スキップモード符号化もしくはダイレクトモード符号化されるか、イントラ予測モード符号化されるか、またはインター予測モード符号化されるかによって異なり得る。ＰＵは、形状が非方形になるように区分され得る。ＣＵに関連するシンタックスデータは、たとえば、４分木に従って、ＣＵを１つまたは複数のＴＵに区分することも記述し得る。ＴＵは、形状が方形または非方形（たとえば、矩形）であり得る。
【００３５】
[0044]ＨＥＶＣ規格は、ＣＵごとに異なり得るＴＵに従う変換を可能にする。ＴＵは、一般に、区分されたＬＣＵについて定義された所与のＣＵ内のＰＵのサイズに基づいてサイズ決定されるが、常にそうであるとは限らない。ＴＵは、一般にＰＵと同じサイズであるかまたはＰＵよりも小さい。いくつかの例では、ＣＵに対応する残差サンプルは、「残差クワッドツリー」（ＲＱＴ：residual quad tree）として知られるクワッドツリー構造を使用して、より小さいユニットに再分割され得る。ＲＱＴのリーフノードは変換ユニット（ＴＵ）と呼ばれることがある。ＴＵに関連するピクセル差分値は、量子化され得る変換係数を生成するために変換され得る。
【００３６】
[0045]リーフＣＵは、１つまたは複数の予測ユニット（ＰＵ）を含み得る。概して、ＰＵは、対応するＣＵの全部または一部分に対応する空間的エリアを表し、そのＰＵの参照サンプルを取り出すためのデータを含み得る。その上、ＰＵは、予測に関係するデータを含む。たとえば、ＰＵがイントラモード符号化されるとき、ＰＵについてのデータは、ＰＵに対応するＴＵについてのイントラ予測モードを記述するデータを含み得る残差４分木（ＲＱＴ）中に含まれ得る。別の例として、ＰＵがインターモード符号化されるとき、ＰＵは、ＰＵのための１つまたは複数の動きベクトルを定義するデータを含み得る。ＰＵの動きベクトルを定義するデータは、たとえば、動きベクトルの水平成分、動きベクトルの垂直成分、動きベクトルの解像度（たとえば、１／４ピクセル精度または１／８ピクセル精度）、動きベクトルが指す参照ピクチャ、および／または動きベクトルの参照ピクチャリスト（たとえば、リスト０、リスト１、またはリストＣ）を記述し得る。
【００３７】
[0046]１つまたは複数のＰＵを有するリーフＣＵはまた、１つまたは複数の変換ユニット（ＴＵ）を含み得る。変換ユニットは、上記で説明したように、（ＴＵ４分木構造とも呼ばれる）ＲＱＴを使用して指定され得る。たとえば、分割フラグは、リーフＣＵが４つの変換ユニットに分割されるかどうかを示し得る。次いで、各変換ユニットは、さらに、さらなるサブＴＵに分割され得る。ＴＵがさらに分割されないとき、そのＴＵはリーフＴＵと呼ばれることがある。概して、イントラコーディングの場合、リーフＣＵに属するすべてのリーフＴＵは同じイントラ予測モードを共有する。すなわち、概して、リーフＣＵのすべてのＴＵの予測値を計算するために同じイントラ予測モードが適用される。イントラコーディングの場合、ビデオエンコーダ２０は、イントラ予測モードを使用して各リーフＴＵの残差値をＴＵに対応するＣＵの一部と元のブロックとの間の差分として計算し得る。ＴＵは、必ずしもＰＵのサイズに制限されるとは限らない。したがって、ＴＵはＰＵよりも大きくまたは小さくなり得る。イントラコーディングの場合、ＰＵは、同じＣＵの対応するリーフＴＵとコロケートされ得る。いくつかの例では、リーフＴＵの最大サイズは、対応するリーフＣＵのサイズに対応し得る。
【００３８】
[0047]さらに、リーフＣＵのＴＵはまた、残差４分木（ＲＱＴ）と呼ばれる、それぞれの４分木データ構造に関連付けられ得る。すなわち、リーフＣＵは、リーフＣＵがどのようにＴＵに区分されるかを示す４分木を含み得る。ＴＵ４分木のルートノードは概してリーフＣＵに対応し、ＣＵ４分木のルートノードは概してツリーブロック（またはＬＣＵ）に対応する。分割されないＲＱＴのＴＵはリーフＴＵと呼ばれる。概して、本開示では、特に明記しない限り、リーフＣＵおよびリーフＴＵに言及するためにそれぞれＣＵおよびＴＵという用語を使用する。
【００３９】
[0048]ビデオシーケンスは、一般に、一連のビデオフレームまたはピクチャを含む。ピクチャグループ（ＧＯＰ）は、概して、ビデオピクチャのうちの一連の１つまたは複数を備える。ＧＯＰは、ＧＯＰ中に含まれるいくつかのピクチャを記述するシンタックスデータを、ＧＯＰのヘッダ中、ピクチャのうちの１つまたは複数のヘッダ中、または他の場所に含み得る。ピクチャの各スライスは、それぞれのスライスの符号化モードを記述するスライスシンタックスデータを含み得る。ビデオエンコーダ２０は、一般に、ビデオデータを符号化するために個々のビデオスライス内のビデオブロックに対して動作する。ビデオブロックは、ＣＵ内のコーディングノードに対応し得る。ビデオブロックは、固定サイズまたは可変サイズを有し得、指定のコーディング規格に応じてサイズが異なり得る。
【００４０】
[0049]一例として、ＨＭは、様々なＰＵサイズでの予測をサポートする。特定のＣＵのサイズが２Ｎ×２Ｎであると仮定すると、ＨＭは、２Ｎ×２ＮまたはＮ×ＮのＰＵサイズでのイントラ予測をサポートし、２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ、またはＮ×Ｎの対称的なＰＵサイズでのインター予測をサポートする。ＨＭはまた、２Ｎ×ｎＵ、２Ｎ×ｎＤ、ｎＬ×２Ｎ、およびｎＲ×２ＮのＰＵサイズでのインター予測のための非対称区分をサポートする。非対称区分では、ＣＵの一方向は区分されないが、他の方向は２５％と７５％とに区分される。２５％の区分に対応するＣＵの部分は、「ｎ」とその後ろに付く「Ｕｐ」、「Ｄｏｗｎ」、「Ｌｅｆｔ」、または「Ｒｉｇｈｔ」という表示によって示される。したがって、たとえば、「２Ｎ×ｎＵ」は、上部の２Ｎ×０．５Ｎ  ＰＵと下部の２Ｎ×１．５Ｎ  ＰＵとで水平方向に区分された２Ｎ×２Ｎ  ＣＵを指す。
【００４１】
[0050]本開示では、「Ｎ×Ｎ（NxN）」および「Ｎ×Ｎ（N by N）」は、垂直寸法および水平寸法に関するビデオブロックのピクセル寸法、たとえば、１６×１６（16x16）ピクセルまたは１６×１６（16 by 16）ピクセルを指すために互換的に使用され得る。概して、１６×１６ブロックは、垂直方向に１６ピクセルを有し（ｙ＝１６）、水平方向に１６ピクセルを有する（ｘ＝１６）。同様に、Ｎ×Ｎブロックは、概して、垂直方向にＮピクセルを有し、水平方向にＮピクセルを有し、ただし、Ｎは非負整数値を表す。ブロック中のピクセルは行と列で構成され得る。さらに、ブロックは、必ずしも、水平方向に垂直方向と同じ数のピクセルを有する必要はない。たとえば、ブロックはＮ×Ｍピクセルを備え得、ただし、Ｍは必ずしもＮに等しいとは限らない。
【００４２】
[0051]ＣＵのＰＵを使用したイントラ予測コーディングまたはインター予測コーディングの後、ビデオエンコーダ２０は、ＣＵのＴＵのための残差データを計算し得る。ＰＵは、（ピクセル領域とも呼ばれる）空間領域において予測ピクセルデータを生成する方法またはモードを記述するシンタックスデータを備え得、ＴＵは、変換、たとえば、残差ビデオデータへの離散サイン変換（ＤＳＴ）、離散コサイン変換（ＤＣＴ）、整数変換、ウェーブレット変換、または概念的に同様の変換の適用後に、変換領域において係数を備え得る。残差データは、符号化されていないピクチャのピクセルと、ＰＵに対応する予測値との間のピクセル差分に対応し得る。ビデオエンコーダ２０は、ＣＵのための残差データを含むＴＵを形成し、次いで、ＴＵを変換して、ＣＵの変換係数を生成し得る。
【００４３】
[0052]変換係数を生成するための任意の変換の後に、ビデオエンコーダ２０は、変換係数の量子化を実行し得る。量子化は、その最も広い通常の意味を有することが意図された広義の用語である。一実施形態では、量子化は、係数を表すために使用されるデータの量をできるだけ低減するために変換係数が量子化され、さらなる圧縮を行うプロセスを指す。量子化プロセスは、係数の一部または全部に関連するビット深度を低減し得る。たとえば、量子化中にｎビット値がｍビット値に切り捨てられ得、ただし、ｎはｍよりも大きい。
【００４４】
[0053]量子化の後に、ビデオエンコーダは、変換係数を走査して、量子化変換係数を含む２次元行列から１次元ベクトルを生成し得る。走査は、より高いエネルギー（したがってより低い周波数）の係数をアレイの前方に配置し、より低いエネルギー（したがってより高い周波数）の係数をアレイの後方に配置するように設計され得る。いくつかの例では、ビデオエンコーダ２０は、エントロピー符号化され得るシリアル化ベクトルを生成するために、量子化変換係数を走査するためにあらかじめ定義された走査順序を利用し得る。他の例では、ビデオエンコーダ２０は適応型走査を実行し得る。量子化変換係数を走査して１次元ベクトルを形成した後に、ビデオエンコーダ２０は、たとえば、コンテキスト適応型可変長コーディング（ＣＡＶＬＣ：context-adaptive variable length coding）、コンテキスト適応型バイナリ算術コーディング（ＣＡＢＡＣ：context-adaptive binary arithmetic coding）、シンタックスベースコンテキスト適応型バイナリ算術コーディング（ＳＢＡＣ：syntax-based context-adaptive binary arithmetic coding）、確率間隔区分エントロピー（ＰＩＰＥ：Probability Interval Partitioning Entropy）コーディング、または別のエントロピー符号化方法に従って１次元ベクトルをエントロピー符号化し得る。ビデオエンコーダ２０はまた、ビデオデータを復号する際にビデオデコーダ３０が使用するための符号化ビデオデータに関連するシンタックス要素をエントロピー符号化し得る。
【００４５】
[0054]ＣＡＢＡＣを実行するために、ビデオエンコーダ２０は、送信されるべきシンボルに、コンテキストモデル内のコンテキストを割り当て得る。コンテキストは、たとえば、シンボルの隣接値が非０であるか否かに関係し得る。ＣＡＶＬＣを実行するために、ビデオエンコーダ２０は、送信されるべきシンボルのための可変長コードを選択し得る。ＶＬＣにおけるコードワードは、比較的短いコードが優勢シンボルに対応し、より長いコードが劣勢シンボルに対応するように構成され得る。このようにして、ＶＬＣの使用は、たとえば、送信されるべき各シンボルのために等長コードワードを使用するよりも、ビット節約を達成し得る。確率決定は、シンボルに割り当てられたコンテキストに基づき得る。
【００４６】
[0055]ビデオエンコーダ２０は、さらに、ブロックベースのシンタックスデータ、フレームベースのシンタックスデータ、およびＧＯＰベースのシンタックスデータなどのシンタックスデータを、たとえば、フレームヘッダ、ブロックヘッダ、スライスヘッダ、またはＧＯＰヘッダ中でビデオデコーダ３０に送り得る。ＧＯＰシンタックスデータは、それぞれのＧＯＰ中のいくつかのフレームを記述し得、フレームシンタックスデータは、対応するフレームを符号化するために使用される符号化／予測モードを示し得る。
ビデオエンコーダ
[0056]図２Ａは、本開示で説明する態様による技法を実装し得るビデオエンコーダの例を示すブロック図である。ビデオエンコーダ２０は、ＨＥＶＣのような、ビデオビットストリームの単一のレイヤを処理するように構成され得る。さらに、ビデオエンコーダ２０は、これに限定されないが、図４〜図５に関連して上記および以下でより詳細に説明する、リサンプリングプロセスおよび関連プロセスにおける中間データのダイナミックレンジ制御のための方法を含む、本開示の技法のうちのいくつか、またはすべてを実行するように構成され得る。一例として、レイヤ間予測ユニット６６（与えられる場合）は、本開示で説明する技法のいずれかまたはすべてを実行するように構成され得る。ただし、本開示の態様はそのように限定されない。いくつかの例では、本開示で説明する技法は、ビデオエンコーダ２０の様々な構成要素間で共有され得る。いくつかの例では、さらに、または代替で、プロセッサ（図示せず）は、本開示において説明する技法のいずれかまたはすべてを実行するように構成され得る。
【００４７】
[0057]説明のために、本開示は、ＨＥＶＣコーディングの文脈でビデオエンコーダ２０を説明する。しかしながら、本開示の技法は、他のコーディング規格または方法に適用可能であり得る。図２Ａのエンコーダ２０は、コーデックの単一のレイヤを示している。しかしながら、図２Ｂを参照してさらに説明するように、ビデオエンコーダ２０のうちのいくつかまたはすべては、マルチレイヤコーデックによる処理のために複製され得る。
【００４８】
[0058]ビデオエンコーダ２０は、ビデオスライス内のビデオブロックの（イントラコーディング、レイヤコーディング、またはレイヤ間コーディングといつか呼ばれる）イントラ予測、インター予測、およびレイヤ間予測を実行し得る。イントラコーディングは、所与のビデオフレームまたはピクチャ内のビデオの空間的冗長性を低減または除去するために空間的予測に依拠する。インターコーディングは、ビデオシーケンスの隣接フレームまたはピクチャ内のビデオの時間的冗長性を低減または除去するために時間的予測に依拠する。レイヤ間コーディングは、同じビデオコーディングシーケンス内の異なるレイヤ内のビデオに基づく予測に依拠する。イントラモード（Ｉモード）は、いくつかの空間ベースのコーディングモードのいずれかを指し得る。単方向予測（Ｐモード）または双方向予測（Ｂモード）などのインターモードは、いくつかの時間ベースのコーディングモードのいずれかを指し得る。
【００４９】
[0059]図２Ａに示すように、ビデオエンコーダ２０は、符号化されるべきビデオフレーム内の現在のビデオブロックを受信する。図２Ａの例では、ビデオエンコーダ２０は、モード選択ユニット４０と、参照フレームメモリ６４と、加算器５０と、変換処理ユニット５２と、量子化ユニット５４と、エントロピー符号化ユニット５６とを含む。モード選択ユニット４０は、今度は、動き補償ユニット４４と、動き推定ユニット４２と、イントラ予測ユニット４６と、レイヤ間予測ユニット６６と、パーティションユニット４８とを含む。参照フレームメモリ６４は、復号されたピクチャバッファを含み得る。復号されたピクチャバッファは、その通常の意味を有する、およびいくつかの実施形態では、参照フレームのビデオコーデックが管理するデータ構造を指す、広義の用語である。
【００５０】
[0060]ビデオブロック再構成のために、ビデオエンコーダ２０はまた、逆量子化ユニット５８と、逆変換ユニット６０と、加算器６２とを含む。再構成されたビデオからブロッキネスアーティファクトを除去するためにブロック境界をフィルタ処理するデブロッキングフィルタ（図２Ａに図示せず）も含まれ得る。所望される場合、デブロッキングフィルタは、一般に、加算器６２の出力をフィルタ処理することになる。また、デブロッキングフィルタに加えて追加のフィルタ（ループ内またはループ後）が使用され得る。そのようなフィルタは、簡潔のために示されていないが、所望される場合、（ループ内フィルタとして）加算器５０の出力をフィルタ処理し得る。
【００５１】
[0061]符号化プロセス中に、ビデオエンコーダ２０は、コーディングされるべきビデオフレームまたはスライスを受信する。フレームまたはスライスは複数のビデオブロックに分割され得る。動き推定ユニット４２および動き補償ユニット４４は、時間的予測を行うために、１つまたは複数の参照フレーム中の１つまたは複数のブロックに対して、受信されたビデオブロックのインター予測コーディングを実行する。イントラ予測ユニット４６は、代替的に、空間的予測を行うために、コーディングされるべきブロックと同じフレームまたはスライス中の１つまたは複数の隣接ブロックに対して受信されたビデオブロックのイントラ予測コーディングを実行し得る。ビデオエンコーダ２０は、たとえば、ビデオデータのブロックごとに適切なコーディングモードを選択するために、複数のコーディングパスを実行し得る。
【００５２】
[0062]その上、パーティションユニット４８は、前のコーディングパスにおける前の区分方式の評価に基づいて、ビデオデータのブロックをサブブロックに区分し得る。たとえば、パーティションユニット４８は、初めにフレームまたはスライスをＬＣＵに区分し、レートひずみ分析（たとえば、レートひずみ最適化など）に基づいてＬＣＵの各々をサブＣＵに区分し得る。モード選択ユニット４０は、ＬＣＵをサブＣＵに区分することを示す４分木データ構造をさらに生成し得る。４分木のリーフノードＣＵは、１つまたは複数のＰＵおよび１つまたは複数のＴＵを含み得る。
【００５３】
[0063]モード選択ユニット４０は、たとえば、誤差結果に基づいてコーディングモード、すなわち、イントラ予測モード、インター予測モード、またはレイヤ間予測モードのうちの１つを選択し、残差ブロックデータを生成するために、得られたイントラコード化ブロック、インターコード化ブロック、またはレイヤ間コード化ブロックを加算器５０に与え、参照フレームとして使用するための符号化ブロックを再構成するために、得られたイントラコード化ブロック、インターコード化ブロック、またはレイヤ間コード化ブロックを加算器６２に与え得る。モード選択ユニット４０はまた、動きベクトル、イントラモードインジケータ、パーティション情報、および他のそのようなシンタックス情報などのシンタックス要素をエントロピー符号化ユニット５６に与える。
【００５４】
[0064]動き推定ユニット４２および動き補償ユニット４４は、高度に統合され得るが、概念的な目的のために別々に示してある。動き推定ユニット４２によって実行される動き推定は、ビデオブロックの動きを推定する動きベクトルを生成するプロセスである。動きベクトルは、たとえば、現在のフレーム（または他のコード化ユニット）内でコーディングされている現在のブロックに対する参照フレーム（または他のコード化ユニット）内の予測ブロックに対する現在のビデオフレームまたはピクチャ内のビデオブロックのＰＵの変位を示し得る。予測ブロックは、絶対値差分和（ＳＡＤ：sum of absolute difference）、２乗差分和（ＳＳＤ：sum of square difference）、または他の差分メトリックによって決定され得るピクセル差分に関して、コーディングされるべきブロックにぴったり一致することがわかるブロックである。いくつかの例では、ビデオエンコーダ２０は、参照フレームメモリ６４に記憶された参照ピクチャのサブ整数ピクセル位置の値を計算し得る。たとえば、ビデオエンコーダ２０は、参照ピクチャの１／４ピクセル位置、１／８ピクセル位置、または他の分数ピクセル位置の値を補間し得る。したがって、動き推定ユニット４２は、フルピクセル位置と分数ピクセル位置とに対する動き探索を実行し、分数ピクセル精度で動きベクトルを出力し得る。
【００５５】
[0065]動き推定ユニット４２は、ＰＵの位置を参照ピクチャの予測ブロックの位置と比較することによって、インターコード化スライスにおけるビデオブロックのＰＵのための動きベクトルを計算する。参照ピクチャは、第１の参照ピクチャリスト（リスト０）または第２の参照ピクチャリスト（リスト１）から選択され得、それらの参照ピクチャリストの各々は、参照フレームメモリ６４に記憶された１つまたは複数の参照ピクチャを識別する。動き推定ユニット４２は、計算された動きベクトルをエントロピー符号化ユニット５６と動き補償ユニット４４とに送る。
【００５６】
[0066]動き補償ユニット４４によって実行される動き補償は、動き推定ユニット４２によって決定された動きベクトルに基づいて予測ブロックをフェッチまたは生成することに関与し得る。いくつかの例では、動き推定ユニット４２および動き補償ユニット４４は機能的に統合され得る。現在のビデオブロックのＰＵについての動きベクトルを受信すると、動き補償ユニット４４は、動きベクトルが参照ピクチャリストのうちの１つにおいて指す予測ブロックの位置を特定し得る。加算器５０は、以下で説明するように、コーディングされている現在のビデオブロックのピクセル値から予測ブロックのピクセル値を減算し、ピクセル差分値を形成することによって、残差ビデオブロックを形成する。いくつかの実施形態では、動き推定ユニット４２はルーマ成分に対して動き推定を実行し得、動き補償ユニット４４は、クロマ成分とルーマ成分の両方のためにルーマ成分に基づいて計算された動きベクトルを使用し得る。モード選択ユニット４０は、ビデオスライスのビデオブロックを復号する際にビデオデコーダ３０が使用するためのビデオブロックとビデオスライスとに関連するシンタックス要素を生成し得る。
【００５７】
[0067]イントラ予測ユニット４６は、上記で説明したように、動き推定ユニット４２および動き補償ユニット４４によって実行されるインター予測の代替として、現在ブロックをイントラ予測または計算し得る。特に、イントラ予測ユニット４６は、現在のブロックを符号化するために使用すべきイントラ予測モードを決定し得る。いくつかの例では、イントラ予測ユニット４６は、たとえば、別個の符号化パス中に、様々なイントラ予測モードを使用して現在のブロックを符号化し得、イントラ予測ユニット４６（または、いくつかの例では、モード選択ユニット４０）は、テストされたモードから使用するのに適切なイントラ予測モードを選択し得る。
【００５８】
[0068]たとえば、イントラ予測ユニット４６は、様々なテストされたイントラ予測モードのためのレートひずみ分析を使用してレートひずみ値を計算し、テストされたモードの中で最良のレートひずみ特性を有するイントラ予測モードを選択し得る。レートひずみ分析は、概して、符号化ブロックと、符号化ブロックを生成するために符号化された元の符号化されていないブロックとの間のひずみ（または誤差）の量、ならびに符号化ブロックを生成するために使用されるビットレート（すなわち、ビット数）を決定する。イントラ予測ユニット４６は、どのイントラ予測モードがブロックについて最良のレートひずみ値を呈するかを決定するために、様々な符号化ブロックのひずみおよびレートから比率を計算し得る。
【００５９】
[0069]ブロックのためのイントラ予測モードを選択した後に、イントラ予測ユニット４６は、ブロックのための選択されたイントラ予測モードを示す情報をエントロピー符号化ユニット５６に提供し得る。エントロピー符号化ユニット５６は、選択されたイントラ予測モードを示す情報を符号化し得る。ビデオエンコーダ２０は、送信ビットストリーム中に、複数のイントラ予測モードインデックステーブルおよび複数の変更されたイントラ予測モードインデックステーブル（コードワードマッピングテーブルとも呼ばれる）と、様々なブロックの符号化コンテキストの定義と、コンテキストの各々について使用すべき、最確イントラ予測モード、イントラ予測モードインデックステーブル、および変更されたイントラ予測モードインデックステーブルの指示とを含み得る構成データを含み得る。
【００６０】
[0070]ビデオエンコーダ２０はレイヤ間予測ユニット６６を含み得る。レイヤ間予測ユニット６６は、ＳＶＣにおいて利用可能である１つまたは複数の異なるレイヤ（たとえば、ベースレイヤまたは参照レイヤ）を使用して現在ブロック（たとえば、ＥＬ中の現在ブロック）を予測するように構成される。そのような予測はレイヤ間予測と呼ばれることがある。レイヤ間予測ユニット６６は、レイヤ間冗長性を低減するために予測方法を利用し、それによって、コーディング効率を改善し、計算リソース要件を低減する。レイヤ間予測のいくつかの例としては、レイヤ間イントラ予測、レイヤ間動き予測、およびレイヤ間残差予測がある。レイヤ間イントラ予測は、ベースレイヤ中のコロケートブロックの再構成を使用してエンハンスメントレイヤ中の現在ブロックを予測する。レイヤ間動き予測は、ベースレイヤの動き情報を使用してエンハンスメントレイヤ中の動作を予測する。レイヤ間残差予測は、ベースレイヤの残差を使用してエンハンスメントレイヤの残差を予測する。ベースレイヤとエンハンスメントレイヤとが異なる空間解像度を有する場合、空間動きベクトルスケーリングおよび／または時間的スケーリング機能を使用するレイヤ間位置マッピングは、以下でより詳細に説明するように、レイヤ間予測ユニット６６によって実行され得る。
【００６１】
[0071]ビデオエンコーダ２０は、コーディングされている元のビデオブロックから、モード選択ユニット４０からの予測データを減算することによって残差ビデオブロックを形成する。加算器５０は、この減算演算を実行する１つまたは複数の構成要素を表す。変換処理ユニット５２は、離散コサイン変換（ＤＣＴ）または概念的に同様の変換などの変換を残差ブロックに適用し、残差変換係数値を備えるビデオブロックを生成する。変換処理ユニット５２は、ＤＣＴと概念的に同様である他の変換を実行し得る。たとえば、離散サイン変換（ＤＳＴ）、ウェーブレット変換、整数変換、サブバンド変換または他のタイプの変換も使用され得る。
【００６２】
[0072]変換処理ユニット５２は、変換を残差ブロックに適用し、残差変換係数のブロックを生成し得る。変換は、残差情報をピクセル値領域から周波数領域などの変換領域に変換し得る。変換処理ユニット５２は、得られた変換係数を量子化ユニット５４に送り得る。量子化ユニット５４は、ビットレートをさらに低減するために変換係数を量子化する。量子化プロセスは、係数の一部または全部に関連するビット深度を低減し得る。量子化の程度は、量子化パラメータを調整することによって変更され得る。いくつかの例では、量子化ユニット５４は、次いで、量子化変換係数を含む行列の走査を実行し得る。代替的に、エントロピー符号化ユニット５６が走査を実行し得る。
【００６３】
[0073]量子化の後、エントロピー符号化ユニット５６は、量子化変換係数をエントロピー符号化する。たとえば、エントロピー符号化ユニット５６は、コンテキスト適応型可変長コーディング（ＣＡＶＬＣ）、コンテキスト適応型バイナリ算術コーディング（ＣＡＢＡＣ）、シンタックスベースコンテキスト適応型バイナリ算術コーディング（ＳＢＡＣ）、確率間隔区分エントロピー（ＰＩＰＥ）コーディングまたは別のエントロピーコーディング技法を実行し得る。コンテキストベースのエントロピーコーディングの場合、コンテキストは、隣接するブロックに基づき得る。エントロピーコーディングユニット５６によるエントロピーコーディングの後、符号化されたビットストリームは、別のデバイス（たとえば、ビデオデコーダ３０）に送信されるか、または後で送信するかまたは取り出すためにアーカイブされ得る。
【００６４】
[0074]逆量子化ユニット５８および逆変換ユニット６０は、それぞれ逆量子化および逆変換を適用して、たとえば参照ブロックとして後で使用するために、ピクセル領域中で残差ブロックを再構成する。動き補償ユニット４４は、残差ブロックを参照フレームメモリ６４のフレームのうちの１つの予測ブロックに加算することによって参照ブロックを計算し得る。動き補償ユニット４４はまた、再構成された残差ブロックに１つまたは複数の補間フィルタを適用して、動き推定において使用するサブ整数ピクセル値を計算し得る。加算器６２は、再構成された残差ブロックを、動き補償ユニット４４によって生成された動き補償予測ブロックに加算して、参照フレームメモリ６４に記憶するための再構成されたビデオブロックを生成する。再構成されたビデオブロックは、後続のビデオフレーム中のブロックをインターコーディングするために動き推定ユニット４２および動き補償ユニット４４によって参照ブロックとして使用され得る。
マルチレイヤビデオエンコーダ
[0075]図２Ｂは、本開示で説明する態様に従って技法を実装し得るマルチレイヤビデオエンコーダ２１の例を示すブロック図である。ビデオエンコーダ２１は、ＳＨＶＣおよびマルチビューコーディングのような、マルチレイヤビデオフレームを処理するように構成され得る。さらに、ビデオエンコーダ２１は、本開示の技法のいずれかまたはすべてを実行するように構成され得る。
【００６５】
[0076]ビデオエンコーダ２１は、ビデオエンコーダ２０Ａとビデオエンコーダ２０Ｂとを含み、それらの各々は、図２Ａのビデオエンコーダ２０として構成され得、ビデオエンコーダ２０に関して上記で説明した機能を実行し得る。さらに、参照番号の再利用によって示されるように、ビデオエンコーダ２０Ａと２０Ｂとは、ビデオエンコーダ２０としてシステムとサブシステムとのうちの少なくともいくつかを含み得る。ビデオエンコーダ２１は、２つのビデオエンコーダ２０Ａと２０Ｂとを含むものとして示されているが、ビデオエンコーダ２１はそのように限定されず、任意の数のビデオエンコーダ２０レイヤを含み得る。いくつかの実施形態では、ビデオエンコーダ２１は、アクセスユニット内のピクチャまたはフレームごとにビデオエンコーダ２０を含み得る。たとえば、５個のピクチャを含むアクセスユニットは、５個のエンコーダレイヤを含むビデオエンコーダによって処理されてもよく、符号化されてもよい。いくつかの実施形態では、ビデオエンコーダ２１は、アクセスユニット内のフレームよりも多くのエンコーダレイヤを含み得る。いくつかのそのようなケースでは、ビデオエンコーダレイヤのうちのいくつかは、いくつかのアクセスユニットを処理する際に非アクティブであり得る。
【００６６】
[0077]ビデオエンコーダ２０Ａと２０Ｂとに加えて、ビデオエンコーダ２１はリサンプリングユニット９０を含み得る。リサンプリングユニット９０は、たとえばエンハンスメントレイヤを作成するために、場合によっては受信されたビデオフレームのベースレイヤをアップサンプリングし得る。リサンプリングユニット９０は、受信されたフレームのベースレイヤに関連付けられる特定の情報をアップサンプリングし得るが、他の情報はアップサンプリングできない。たとえば、リサンプリングユニット９０は、ベースレイヤの空間サイズまたはピクセル数をアップサンプリングし得るが、スライスの数またはピクチャオーダーカウントは一定のままでよい。場合によっては、リサンプリングユニット９０は、受信されたビデオを処理しない場合があり、および／または任意であり得る。たとえば、場合によっては、モード選択ユニット４０がアップサンプリングを実行し得る。いくつかの実施形態では、リサンプリングユニット９０は、スライス境界ルールのセットおよび／またはラスタ走査ルールを順守するために、レイヤをアップサンプリングして、１つまたは複数のスライスを再編成、再定義、修正、または調整するように構成される。主に、ベースレイヤ、またはアクセスユニット内の下位層のアップサンプリングとして説明したが、場合によっては、リサンプリングユニット９０はレイヤをダウンサンプリングし得る。たとえば、ビデオのストリーミング中に帯域幅が低減されている場合、フレームはアップサンプリングではなくダウンサンプリングされ得る。リサンプリングユニット９０は、トリミングおよび／またはパディング操作も実行するようにさらに構成され得る。
【００６７】
[0078]リサンプリングユニット９０は、下位層エンコーダ（たとえば、ビデオエンコーダ２０Ａ）の復号されたピクチャバッファ１１４からピクチャまたはフレーム（あるいは、ピクチャに関連付けられるピクチャ情報）を受信して、ピクチャ（または、受信されたピクチャ情報）をアップサンプリングするように構成され得る。次いで、このアップサンプリングされたピクチャは、下位層エンコーダと同じアクセスユニット内のピクチャを符号化するように構成された上位層エンコーダ（たとえば、ビデオエンコーダ２０Ｂ）のモード選択ユニット４０に提供され得る。場合によっては、上位層エンコーダは、下位層エンコーダから除去された１つのレイヤである。他の場合では、図２Ｂのレイヤ０ビデオエンコーダとレイヤ１エンコーダとの間に、１つまたは複数の上位層エンコーダがあり得る。
【００６８】
[0079]場合によっては、リサンプリングユニット９０は、省略または迂回され得る。そのような場合、ビデオエンコーダ２０Ａの復号されたピクチャバッファ６４からのピクチャは、直接、または少なくともリサンプリングユニット９０、ビデオエンコーダ２０Ｂのモード選択ユニット４０に提供されることなしに提供され得る。たとえば、ビデオエンコーダ２０Ｂに提供されたビデオデータ、およびビデオエンコーダ２０Ａの復号されたピクチャバッファ６４からの参照ピクチャが、同じサイズまたは解像度である場合、参照ピクチャは、任意のリサンプリングなしにビデオエンコーダ２０Ｂに提供され得る。
【００６９】
[0080]いくつかの実施形態では、ビデオエンコーダ２１は、ビデオデータがビデオエンコーダ２０Ａに提供される前に、ダウンサンプリングユニット９４を用いて下位層エンコーダに提供されるべきビデオデータをダウンサンプリングする。あるいは、ダウンサンプリングユニット９４は、ビデオデータのアップサンプリングまたはダウンサンプリングが可能なリサンプリングユニット９０であり得る。他の実施形態では、ダウンサンプリングユニット９４は省略され得る。
【００７０】
[0081]図２Ｂに示されるように、ビデオエンコーダ２１は、マルチプレクサ９８、すなわちｍｕｘをさらに含み得る。ｍｕｘ９８は、組み合わされたビットストリームをビデオエンコーダ２１から出力することができる。組み合わされたビットストリームは、ビデオエンコーダ２０Ａと２０Ｂとの各々からビットストリームを取って、所与の時間にどのビットストリームが出力されるかをオルタネート（ａｌｔｅｒｎａｔｅ）することによって作成され得る。場合によっては、２つ（または、２つ以上のビデオエンコーダレイヤの場合は、より多数）のビットストリームからのビットは、一度に１ビットが交互にオルタネートされるが、多くの場合、ビットストリームは異なるように組み合わせられる。たとえば、出力ビットストリームは、選択されたビットストリームを一度に１ブロックをオルタネートすることによって作成され得る。別の例では、出力ビットストリームは、ビデオエンコーダ２０Ａと２０Ｂとの各々から非１：１比のブロックを出力することによって作成され得る。たとえば、２つのブロックは、ビデオエンコーダ２０Ａから出力されたブロックごとにビデオエンコーダ２０Ｂから出力され得る。いくつかの実施形態では、ｍｕｘ９８からの出力ストリームは事前にプログラムされ得る。他の実施形態では、ｍｕｘ９８は、ソースデバイス１２上のプロセッサからなどの、ビデオエンコーダ２１の外部のシステムから受信された制御信号に基づいて、ビデオエンコーダ２０Ａ、２０Ｂからのビットストリームを組み合わせることができる。制御信号は、ビデオソース１８からのビデオの解像度またはビットレートに基づいて、チャネル１６の帯域幅に基づいて、ユーザに関連付けられるサブスクリプション（たとえば、有料購読対、無料購読）に基づいて、あるいは、ビデオエンコーダ２１から所望される解像度出力を決定するための他の任意の要因に基づいて生成され得る。
ビデオデコーダ
[0082]図３Ａは、本開示で説明する態様による技法を実装し得るビデオデコーダの例を示すブロック図である。ビデオデコーダ３０は、ＨＥＶＣのような、ビデオビットストリームの単一のレイヤを処理するように構成され得る。さらに、ビデオデコーダ３０は、これに限定されないが、図４〜図５に関連して上記および以下でより詳細に説明する、リサンプリングプロセスおよび関連プロセスにおける中間データのダイナミックレンジ制御のための方法を含む、本開示の技法のうちのいくつか、またはすべてを実行するように構成され得る。一例として、レイヤ間予測ユニット７５は、本開示で説明する技法のいずれかまたはすべてを実行するように構成され得る。ただし、本開示の態様はそのように限定されない。いくつかの例では、本開示で説明する技法は、ビデオデコーダ３０の様々な構成要素間で共有され得る。いくつかの例では、さらに、または代替で、プロセッサ（図示せず）は、本開示において説明する技法のいずれかまたはすべてを実行するように構成され得る。
【００７１】
[0083]説明のために、本開示は、ＨＥＶＣコーディングの文脈でビデオデコーダ３０を説明する。しかしながら、本開示の技法は、他のコーディング規格または方法に適用可能であり得る。図３Ａのデコーダ３０は、コーデックの単一のレイヤを示している。しかしながら、図３Ｂを参照してさらに説明するように、ビデオデコーダ３０のうちのいくつかまたはすべては、マルチレイヤコーデックによる処理のために複製され得る。
【００７２】
[0084]図３Ａの例では、ビデオデコーダ３０は、エントロピー復号ユニット７０と、動き補償ユニット７２と、イントラ予測ユニット７４と、レイヤ間予測ユニット７５と、逆量子化ユニット７６と、逆変換ユニット７８と、参照フレームメモリ８２と、加算器８０とを含む。いくつかの実施形態では、動き補償ユニット７２および／またはイントラ予測ユニット７４はレイヤ間予測を実行するように構成され得、その場合、レイヤ間予測ユニット７５は省略され得る。ビデオデコーダ３０は、いくつかの例では、ビデオエンコーダ２０（図２Ａ）に関して説明した符号化パスとは概して逆の復号パスを実行し得る。動き補償ユニット７２は、エントロピー復号ユニット７０から受信された動きベクトルに基づいて予測データを生成し得、イントラ予測ユニット７４は、エントロピー復号ユニット７０から受信されたイントラ予測モードインジケータに基づいて予測データを生成し得る。参照フレームメモリ８２は、復号されたピクチャバッファを含み得る。復号されたピクチャバッファは、その通常の意味を有する、およびいくつかの実施形態では、参照フレームのビデオコーデックが管理するデータ構造を指す、広義の用語である。
【００７３】
[0085]復号プロセス中に、ビデオデコーダ３０は、ビデオエンコーダ２０から、符号化ビデオスライスのビデオブロックと、関連するシンタックス要素とを表す符号化ビデオビットストリームを受信する。ビデオデコーダ３０のエントロピー復号ユニット７０は、量子化係数、動きベクトルまたはイントラ予測モードインジケータ、および他のシンタックス要素を生成するためにビットストリームをエントロピー復号する。エントロピー復号ユニット７０は、動きベクトルツーと他の予測シンタックス要素とを動き補償ユニット７２に転送する。ビデオデコーダ３０は、ビデオスライスレベルおよび／またはビデオブロックレベルでシンタックス要素を受信し得る。
【００７４】
[0086]ビデオスライスがイントラコード化（Ｉ）スライスとしてコーディングされるとき、イントラ予測ユニット７４は、シグナリングされたイントラ予測モードと、現在フレームまたはピクチャの、前に復号されたブロックからのデータとに基づいて、現在のビデオスライスのビデオブロックのための予測データを生成し得る。ビデオフレームがインターコード化（たとえば、Ｂ、ＰまたはＧＰＢ）スライスとしてコーディングされるとき、動き補償ユニット７２は、エントロピー復号ユニット７０から受信された動きベクトルと他のシンタックス要素とに基づいて、現在のビデオスライスのビデオブロックのための予測ブロックを生成する。予測ブロックは、参照ピクチャリストのうちの１つ内の参照ピクチャのうちの１つから生成され得る。ビデオデコーダ３０は、参照フレームメモリ８２に記憶された参照ピクチャに基づいてデフォルト構成技法を用いて、参照フレームリスト、リスト０とリスト１とを構成し得る。動き補償ユニット７２は、動きベクトルと他のシンタックス要素とをパースすることによって現在のビデオスライスのビデオブロックのための予測情報を決定し、その予測情報を使用して、復号されている現在のビデオブロックのための予測ブロックを生成する。たとえば、動き補償ユニット７２は、ビデオスライスのビデオブロックをコーディングするために使用される予測モード（たとえば、イントラまたはインター予測）と、インター予測スライスタイプ（たとえば、Ｂスライス、Ｐスライス、またはＧＰＢスライス）と、スライスの参照ピクチャリストのうちの１つまたは複数のための構成情報と、スライスの各インター符号化ビデオブロックのための動きベクトルと、スライスの各インターコード化ビデオブロックのためのインター予測ステータスと、現在のビデオスライス中のビデオブロックを復号するための他の情報とを決定するために、受信されたシンタックス要素のいくつかを使用する。
【００７５】
[0087]動き補償ユニット７２はまた、補間フィルタに基づいて補間を実行し得る。動き補償ユニット７２は、ビデオブロックの符号化中にビデオエンコーダ２０によって使用された補間フィルタを使用して、参照ブロックのサブ整数ピクセルの補間値を計算し得る。この場合、動き補償ユニット７２は、受信されたシンタックス要素からビデオエンコーダ２０によって使用された補間フィルタを決定し、その補間フィルタを使用して予測ブロックを生成し得る。
【００７６】
[0088]ビデオデコーダ３０もレイヤ間予測ユニット７５を含み得る。レイヤ間予測ユニット７５は、ＳＶＣにおいて利用可能である１つまたは複数の異なるレイヤ（たとえば、ベースレイヤまたは参照レイヤ）を使用して現在ブロック（たとえば、ＥＬ中の現在ブロック）を予測するように構成される。そのような予測はレイヤ間予測と呼ばれることがある。レイヤ間予測ユニット７５は、レイヤ間冗長性を低減するために予測方法を利用し、それによって、コーディング効率を改善し、計算リソース要件を低減する。レイヤ間予測のいくつかの例としては、レイヤ間イントラ予測、レイヤ間動き予測、およびレイヤ間残差予測がある。レイヤ間イントラ予測は、ベースレイヤ中のコロケートブロックの再構成を使用してエンハンスメントレイヤ中の現在ブロックを予測する。レイヤ間動き予測は、ベースレイヤの動き情報を使用してエンハンスメントレイヤ中の動作を予測する。レイヤ間残差予測は、ベースレイヤの残差を使用してエンハンスメントレイヤの残差を予測する。ベースレイヤとエンハンスメントレイヤとが異なる空間解像度を有する場合、空間動きベクトルスケーリングおよび／またはレイヤ間位置マッピングは、以下でより詳細に説明するように、時間的スケーリング機能を用いてレイヤ間予測ユニット７５によって実行され得る。
【００７７】
[0089]逆量子化ユニット７６は、ビットストリーム中で与えられ、エントロピー復号ユニット７０によって復号された量子化変換係数を逆量子化（inverse quantize）、たとえば、逆量子化（de-quantize）する。逆量子化プロセスは、量子化の程度を決定し、同様に、適用されるべき逆量子化の程度を決定するための、ビデオスライス中のビデオブロックごとにビデオデコーダ３０によって計算される量子化パラメータＱＰＹの使用を含み得る。
【００７８】
[0090]逆変換ユニット７８は、ピクセル領域において残差ブロックを生成するために、逆変換、たとえば逆ＤＣＴ、逆ＤＳＴ、逆整数変換、または概念的に同様の逆変換プロセスを変換係数に適用する。
【００７９】
[0091]動き補償ユニット７２が、動きベクトルと他のシンタックス要素とに基づいて現在のビデオブロックのための予測ブロックを生成した後に、ビデオデコーダ３０は、逆変換ユニット７８からの残差ブロックを動き補償ユニット７２によって生成された対応する予測ブロックに加算することによって、復号されたビデオブロックを形成する。加算器９０は、この加算演算を実行する１つまたは複数の構成要素を表す。所望される場合、ブロッキネスアーティファクトを除去するために、復号ブロックをフィルタ処理するためにデブロッキングフィルタも適用され得る。ピクセル遷移を平滑化するために、または場合によってはビデオ品質を改善するために、他のループフィルタも（コーディングループ中またはコーディングループ後のいずれかで）使用され得る。所与のフレームまたはピクチャ中の復号されたビデオブロックは、次いで、その後の動き補償のために使用される参照ピクチャを記憶する参照フレームメモリ８２に記憶される。参照フレームメモリ８２はまた、図１のディスプレイデバイス３２などのディスプレイデバイス上での後の表示のための、復号されたビデオを記憶する。
マルチレイヤデコーダ
[0092]図３Ｂは、本開示で説明する態様に従って技法を実装し得るマルチレイヤビデオデコーダ３１の例を示すブロック図である。ビデオデコーダ３１は、ＳＨＶＣおよびマルチビューコーディングのような、マルチレイヤビデオフレームを処理するように構成され得る。さらに、ビデオデコーダ３１は、本開示の技法のいずれかまたはすべてを実行するように構成され得る。
【００８０】
[0093]ビデオデコーダ３１は、ビデオデコーダ３０Ａとビデオデコーダ３０Ｂとを含み、それらの各々は、図３Ａのビデオデコーダ３０として構成され得、ビデオデコーダ３０に関して上記で説明した機能を実行し得る。さらに、参照番号の再利用によって示されるように、ビデオデコーダ３０Ａと３０Ｂとは、ビデオデコーダ３０としてシステムとサブシステムとのうちの少なくともいくつかを含み得る。ビデオデコーダ３１は、２つのビデオデコーダ３０Ａと３０Ｂとを含むものとして示されているが、ビデオデコーダ３１はそのように限定されず、任意の数のビデオデコーダ３０レイヤを含み得る。いくつかの実施形態では、ビデオデコーダ３１は、アクセスユニット内のピクチャまたはフレームごとにビデオデコーダ３０を含み得る。たとえば、５個のピクチャを含むアクセスユニットは、５個のデコーダレイヤを含むビデオデコーダによって処理されてもよく、復号されてもよい。いくつかの実施形態では、ビデオデコーダ３１は、アクセスユニット内のフレームよりも多くのデコーダレイヤを含み得る。いくつかのそのようなケースでは、ビデオデコーダレイヤのうちのいくつかは、いくつかのアクセスユニットを処理する際に非アクティブであり得る。
【００８１】
[0094]ビデオデコーダ３０Ａと３０Ｂとに加えて、ビデオデコーダ３１はアップサンプリングユニット９２を含み得る。いくつかの実施形態では、アップサンプリングユニット９２は、フレームまたはアクセスユニットのための参照ピクチャリストに追加されるべきエンハンストレイヤを作成するために、受信されたビデオフレームのベースレイヤをアップサンプリングし得る。このエンハンストレイヤは、参照フレームメモリ８２（たとえば、その復号されたピクチャバッファなど）に記憶され得る。いくつかの実施形態では、アップサンプリングユニット９２は、図２Ａのリサンプリングユニット９０に関して説明する実施形態のうちのいくつかまたはすべてを含み得る。いくつかの実施形態では、アップサンプリングユニット９２は、スライス境界ルールのセットおよび／またはラスタ走査ルールを順守するために、レイヤをアップサンプリングして、１つまたは複数のスライスを再編成、再定義、修正、または調整するように構成される。場合によっては、アップサンプリングユニット９２は、受信されたビデオフレームのレイヤをアップサンプリングおよび／またはダウンサンプリングするように構成されたリサンプリングユニットであり得る。
【００８２】
[0095]アップサンプリングユニット９２は、下位層デコーダ（たとえば、ビデオデコーダ３０Ａ）の復号されたピクチャバッファ８２からピクチャまたはフレーム（あるいは、ピクチャに関連付けられるピクチャ情報）を受信して、ピクチャ（または、受信されたピクチャ情報）をアップサンプリングするように構成され得る。次いで、アップサンプリングされたピクチャは、下位層デコーダと同じアクセスユニット内のピクチャを復号するように構成された上位層デコーダ（たとえば、ビデオデコーダ３０Ｂ）のモード選択ユニット７１に提供され得る。場合によっては、上位層デコーダは、下位層デコーダから除去された１つのレイヤである。他の場合では、図３Ｂのレイヤ０デコーダとレイヤ１デコーダとの間に、１つまたは複数の上位層デコーダがあり得る。
【００８３】
[0096]場合によっては、アップサンプリングユニット９２は、省略または迂回され得る。そのような場合、ビデオデコーダ３０Ａの復号されたピクチャバッファ８２からのピクチャは、直接、または少なくともアップサンプリングユニット９２、ビデオデコーダ３０Ｂのモード選択ユニット７１に提供されることなしに提供され得る。たとえば、ビデオデコーダ３０Ｂに提供されたビデオデータ、およびビデオデコーダ３０Ａの復号されたピクチャバッファ８２からの参照ピクチャが、同じサイズまたは解像度である場合、参照ピクチャは、アップサンプリングなしにビデオデコーダ３０Ｂに提供され得る。さらに、いくつかの実施形態では、アップサンプリングユニット９２は、ビデオデコーダ３０Ａの復号されたピクチャバッファ８２から受信された参照ピクチャをアップサンプリングまたはダウンサンプリングするように構成されたリサンプリングユニット９０であり得る。
【００８４】
[0097]図３Ｂに示されるように、ビデオデコーダ３１は、デマルチプレクサ９９、すなわちｄｅｍｕｘをさらに含み得る。ｄｅｍｕｘ９９は、符号化されたビデオビットストリームを複数のビットストリームに分割することができ、ｄｅｍｕｘ９９によって出力された各ビットストリームが、異なるビデオデコーダ３０Ａと３０Ｂとに提供されている。複数のビットストリームは、ビットストリームを受信することによって作成され得、ビデオデコーダ３０Ａと３０Ｂとの各々は、所与の時間にビットストリームの一部分を受信する。場合によっては、ｄｅｍｕｘ９９で受信されたビットストリームからのビットは、ビデオデコーダの各々（たとえば、図３Ｂの例におけるビデオデコーダ３０Ａと３０Ｂ）の間で一度に１ビットがオルタネートされ得るが、多くの場合、ビットストリームは異なるように分割される。たとえば、ビットストリームは、どのビデオデコーダがビットストリームを一度に１ブロック受信するかをオルタネートすることによって分割され得る。別の例では、ビットストリームは、ビデオデコーダ３０Ａと３０Ｂとの各々へのブロックの非１：１比によって分割され得る。たとえば、２つのブロックは、ビデオデコーダ３０Ａに提供されたブロックごとにビデオデコーダ３０Ｂに提供され得る。いくつかの実施形態では、ｄｅｍｕｘ９９によるビットストリームの分割は事前にプログラムされ得る。他の実施形態では、ｄｅｍｕｘ９９は、宛先デバイス１４上のプロセッサからなどの、ビデオデコーダ３１の外部のシステムから受信された制御信号に基づいて、ビットストリームを分割することができる。制御信号は、入力インターフェース２８からのビデオの解像度またはビットレートに基づいて、チャネル１６の帯域幅に基づいて、ユーザに関連付けられるサブスクリプション（たとえば、有料購読対、無料購読）に基づいて、あるいは、ビデオデコーダ３１によって取得可能な解像度を決定するための他の任意の要因に基づいて生成され得る。
リサンプリングプロセスにおける中間データのダイナミックレンジ制御
[0098]ＳＨＶＣでは、参照レイヤ画像は、たとえば、エンハンスメントレイヤにおけるレイヤ間予測のために、リサンプリングされる必要がある場合がある。リサンプリングは、参照レイヤ画像から輝度サンプルにリサンプリングフィルタを適用することによって実行され得る。たとえば、ｎタップフィルタが適用され得る。リサンプリングプロセスは、２次元（２Ｄ）リサンプリングのための２つのステップで発生し得る。たとえば、２Ｄ分離可能補間フィルタが適用され得る。第１に、輝度サンプルに水平リサンプリングが実行されてよく、次いで、輝度サンプルに垂直リサンプリングが実行され得る。たとえば、垂直リサンプリングは、水平リサンプリングプロセスからビデオ情報出力上に実行され得る。リサンプリングフィルタは、入力として輝度サンプルを受信することができ、水平リサンプリングプロセスは、入力輝度サンプルに基づいて中間出力を生成することができる。次いで、中間出力は、垂直リサンプリングステップのための入力として使用され得る。いくつかの状況では、水平リサンプリングプロセスは、中間出力が入力輝度サンプルよりも多くのビットを有する（たとえば、より大きいビット深度を有する）ように、入力輝度サンプルにさらなるビットを追加することができる。さらなるビットは、データ範囲を非常に大きくして、垂直リサンプリングステップの計算の複雑性に重大な影響を有するようにすることができる。たとえば、中間データのバッファは、データ範囲が高くなるにつれて比例して増加され得る。また、補間プロセス、特に乗算演算の複雑性は、入力データのビット深度に強く依存する場合がある。さらに、特定の所定の最大値を超えないビット深度を有する入力を必要とする特定の計算命令セットがある。たとえば、特定の１６ビットの命令セットは、１６ビットを有する（たとえば、１６ビットのビット深度を有する）入力にのみ使用され得る。
【００８５】
[0099]フィルタ係数は６ビットの精度で量子化することができ、それは動き補償補間フィルタの精度と同じであり得る。ＳＨＶＣの初期のバージョンの２Ｄ分離可能補間プロセスでは、第１の補間ステップの出力（たとえば、水平方向）は第２の補間ステップの入力（たとえば、垂直方向）として直接使用されていた。２次元補間ステップの間の中間データは、第１の補間ステップからさらなるビットが追加されるので、たとえば特定のビット数を超えて拡張することができる。たとえば、第１の補間ステップは８ビットを追加することができ、入力信号が８ビットを上回る場合、２次元補間ステップの間の中間データは１６ビットを超える場合がある。これは、ソフトウェアソリューションだけでなくハードウェアにおけるリサンプリングフィルタの実装コストを増やすことがある。たとえば、単一命令複数データ（ＳＩＭＤ）命令のような命令レベル並列性が使用されている場合は特に、リサンプリングフィルタの計算の複雑性を増加させることがある。ほとんどの既存のＣＰＵのＳＩＭＤ命令は、８ビットまたは１６ビットの精度で単一のデータを扱うことができる。したがって、水平リサンプリングプロセスからの中間出力のビット深度を制限する（たとえば、限定または減少）ことが有利である。
【００８６】
[0100]これらおよび他の問題に対処するために、本開示に記載された技法は、初期リサンプリングプロセス（たとえば、水平リサンプリング）から中間出力のビット深度を指定されたビット数に制限することができる。いくつかの実施形態では、ビット深度を指定されたビット数に制限することは、中間出力を特定のビット数だけ右シフトすること（たとえば、右シフト動作「＞＞」を適用すること）によって実現され得る。中間出力を右シフトするビット数は、リサンプリングフィルタへの入力輝度サンプルのビット深度に基づいて決定され得る。たとえば、中間出力を１６ビットに制限することができ、中間出力を右シフトするビット数は、入力輝度サンプルのビット深度から８ビットを減算することによって算出され得る。ビットシフト数は、入力輝度サンプルのビット数に基づいて動的に決定され得る。このように中間出力を制限することによって、より正確な結果をもたらして丸め誤差を減少させることができ、またコーディングデバイスおよびプロセスが特定のより効率的なコーディング命令セットを利用することを可能にすることができる。
【００８７】
[0101]いくつかの実施形態では、垂直リサンプリングプロセスからの出力もまた、同様の方法で制限され得る。特定の実施形態では、垂直リサンプリングプロセスは、水平リサンプリングプロセスの前に実行され得る。本技法は、３ステップのプロセスの場合にも適用され得る。たとえば、３ステップのプロセスは、２Ｄ分離可能補間プロセスとカラーマッピングプロセスとを含むことができる。この場合、第１のステップからの中間出力は所定のビット深度に制限されてよく、第２のステップの中間出力もまた所定のビット深度に制限され得る。シフトするビット数は、入力輝度サンプルのビット深度、および／または前のステップからの中間出力のビット深度に基づき得る。一般的に、参照レイヤ画像はアップサンプリングされるが、いくつかの実施形態では、エンハンスメントレイヤ画像はダウンサンプリングされ得る。
【００８８】
[0102]本技法に関連する特定の詳細を以下で説明する。いくつかの実施形態では、輝度サンプルリサンプリングプロセス、または輝度サンプル補間プロセスは、入力として受信することができる。
・輝度参照サンプルアレイｒｌＰｉｃＳａｍｐｌｅＬ、および、
・現在の画像の左上の輝度サンプルに関連する輝度サンプル位置（ｘＰ，ｙＰ）
ここで、ｒｌＰｉｃＳａｍｐｌｅＬは参照レイヤ画像の輝度サンプルアレイを指し、（ｘＰ，ｙＰ）は処理されている現在のピクセルのサンプル位置を指す。入力に基づいて、プロセスは、リサンプリングプロセスによって生成された輝度サンプル値を指す、リサンプリングされた輝度サンプル値ｒｓＬｕｍａＳａｍｐｌｅを出力として生成することができる。表１は、輝度リサンプリングプロセスのために使用され得る、ｐ＝０．．．１５およびＸ＝０．．．７である８タップフィルタ係数ｆＬ［ｐ，Ｘ］の一例を指定する。
【００８９】
【表１】
0006479776.tif 000002
【００９０】
[0103]ＳＨＶＣワーキングドラフトの初期のバージョンでは、リサンプリングされた輝度サンプルの値ｒｓＬｕｍａＳａｍｐｌｅは、以下の順序のステップを適用することによって導出され得る。
・ｎ＝０・・・７であるサンプル値ｔｅｍｐＡｒｒａｙ［ｎ］は、以下のように導出され得る。
【００９１】
【数１】
0006479776.tif 000003
【００９２】
【数２】
0006479776.tif 000004
【００９３】
【数３】
0006479776.tif 000005
【００９４】
・リサンプリングされた輝度サンプル値ｒｓＬｕｍａＳａｍｐｌｅは、以下のように導出され得る。
【００９５】
【数４】
0006479776.tif 000006
【００９６】
【数５】
0006479776.tif 000007
【００９７】
上式で、（ｘＲｅｆ，ｙＲｅｆ）は参照レイヤ画像内の配置された輝度サンプル整数ピクセル位置を表し、（ｘＰｈａｓｅ，ｙＰｈａｓｅ）は水平方向および垂直方向に補間されるべき端数サンプルの位相を表し、ＢｉｔＤｅｐｔｈＹは現在の画像の輝度ビット深度を表す。
【００９８】
[0104]本技法の特定の態様によれば、リサンプリングされた輝度サンプルの値ｒｓＬｕｍａＳａｍｐｌｅは、以下の順序のステップを適用することによって導出され得る。
・ｎ＝０・・・７であるサンプル値ｔｅｍｐＡｒｒａｙ［ｎ］は、以下のように導出され得る。
【００９９】
【数６】
0006479776.tif 000008
【０１００】
【数７】
0006479776.tif 000009
【０１０１】
【数８】
0006479776.tif 000010
【０１０２】
上式で、ｓｈｉｆｔ１は、ｓｈｉｆｔ１＝ＲｅｆＬａｙｅｒＢｉｔＤｅｐｔｈＹ−８として定義され、ここでＲｅｆＬａｙｅｒＢｉｔＤｅｐｔｈＹは参照レイヤ画像の輝度ビット深度を指す。
・リサンプリングされた輝度サンプル値ｒｓＬｕｍａＳａｍｐｌｅは、以下のように導出され得る。
【０１０３】
【数９】
0006479776.tif 000011
【０１０４】
上式で、ｓｈｉｆｔ２はｓｈｉｆｔ２＝１２−（ＢｉｔＤｅｐｔｈＹ−８）＝２０−ＢｉｔＤｅｐｔｈＹと定義され、オフセットはｏｆｆｓｅｔ＝１＜＜（ｓｈｉｆｔ２−１）と定義され、ここでＢｉｔＤｅｐｔｈＹは現在の画像の輝度ビット深度を指す。ｓｈｉｆｔ２およびオフセットを上記のように定義することによって、リサンプリングされたｌｕａｍサンプル値のデータ範囲は、現在の画像の輝度サンプルのデータ範囲と同じであり得る。
【０１０５】
【数１０】
0006479776.tif 000012
【０１０６】
上式で、（ｘＲｅｆ，ｙＲｅｆ）は参照レイヤ画像内の配置された輝度サンプル整数ピクセル位置を表し、（ｘＰｈａｓｅ，ｙＰｈａｓｅ）は水平方向および垂直方向に補間されるべき端数サンプルの位相を表す。
【０１０７】
[0105]このように、本技法は、１６ビット精度内で２Ｄ分離可能アップサンプリングフィルタの中間データのダイナミックレンジを制御することができる。第１のアップサンプリングステップ後の右シフトビットは、入力信号のビット深度によって決定され得る。例として１６ビットが使用されるが、ビット精度に応じて任意のビット数が選択され得る。
【０１０８】
[0106]本技法に関連する特定の詳細が、以下で図４および図５を参照して説明される。本開示を通じて使用される様々な用語は、それらの通常の意味を有する広義の用語である。さらに、いくつかの実施形態では、特定の用語は以下のビデオ概念に関連する。その用語が現在の標準（たとえば、ＨＥＶＣ）で使用される場合、画像はビデオ画像を指すことができる。
リサンプリングプロセスにおける中間データのダイナミックレンジ制御のための方法
[0107]図４は、本開示の態様による、リサンプリングプロセスにおける中間データのダイナミックレンジ制御のための例示的な方法を示すフローチャートである。プロセス４００は、実施形態に応じて、エンコーダ（たとえば、図２Ａ、図２Ｂ等に示されるエンコーダ）、デコーダ（たとえば、図３Ａ、図３Ｂ等に示されるデコーダ）、または他の何らかの構成要素によって実行され得る。プロセス４００のブロックは、図３Ｂのデコーダ３１に関連して説明されているが、プロセス４００は上述のエンコーダなどの他の構成要素によって実行され得る。デコーダ３１のレイヤ１ビデオデコーダ３０Ｂ、および／またはデコーダ３１のレイヤ０デコーダ３０Ａは、実施形態に応じてプロセス４００を実行することができる。図４に関連して説明されるすべての実施形態は別々に実装されてもよく、相互に組み合わせて実装されてもよい。プロセス４００に関連する特定の詳細は上記で説明される。
【０１０９】
[0108]プロセス４００はブロック４０１から開始する。デコーダ３１は、アップサンプリングされたビデオ情報に関連するビデオ情報を記憶するためのメモリ（たとえば、参照フレームメモリ８２）を含み得る。
【０１１０】
[0109]ブロック４０２で、デコーダ３１がビデオ情報を取得する。たとえば、ビデオ情報は、アップサンプリングされている参照レイヤ画像の輝度サンプルを含み得る。輝度サンプルは、現在の画像の左上の輝度サンプルに関連し得る。
【０１１１】
[0110]ブロック４０３で、デコーダ３１が、中間出力を生成するために、第１の次元においてビデオ情報をアップサンプリングする。２Ｄリサンプリングにおいて、第１の次元は水平方向であり得る。
【０１１２】
[0111]ブロック４０４で、デコーダ３１が、中間出力を所定のビット深度に制限する。所定のビット深度は必要に応じて選択され得る。一実施形態では、所定のビット深度は１６ビットであり得る。いくつかの実施形態では、デコーダ３１が、ビデオ情報のビット深度を決定することと、ビデオ情報のビット深度に基づいて中間出力をシフトするビット数を決定することと、中間出力をビット数だけシフトすることとによって、中間出力を所定のビット深度に制限することができる。デコーダ３１は、右シフト動作を使用して、中間出力をビット数だけシフトすることができる。一実施形態では、中間出力をシフトするビット数は、ビデオ情報のビット深度−８ビットとして定義され得る。
【０１１３】
[0112]特定の実施形態では、デコーダ３１は、ビット数に基づいて中間出力をシフトするかどうかを決定して、中間出力をシフトすると決定することに応答して、中間出力をビット数だけシフトする。
【０１１４】
[0113]ブロック４０５で、デコーダ３１が、第２の次元において制限された中間出力をアップサンプリングし、第２の次元は第１の次元と直交している。２Ｄリサンプリングにおいて、第２の次元は垂直方向であり得る。
【０１１５】
[0114]特定の実施形態では、デコーダ３１は、第２の中間出力を生成するために、制限された中間出力をアップサンプリングして、第２の中間出力を第２の所定のビット深度に制限する。たとえば、デコーダ３１が、取得されたビデオ情報のアップサンプリングされたバージョンを生成するために、第２の中間出力を第２の所定のビット深度に制限することができる。一実施形態では、第２の所定のビット深度は、現在のエンハンスメントレイヤ画像のビット深度であり得る。いくつかの実施形態では、デコーダ３１は、ビデオ情報のビット深度に基づいて、第２の中間出力をシフトする第２のビット数を決定することと、第２の中間出力を第２のビット数だけシフトすることとによって、第２の中間出力を第２の所定のビット深度に制限することができる。ビデオ情報は、実施形態に応じて、参照レイヤに関連してもよく、エンハンスメントレイヤに関連してもよい。たとえば、デコーダ３１は、参照レイヤビデオ情報のビット深度に基づいて、第２の中間出力をシフトする第２のビット数を決定することができる。あるいは、デコーダ３１は、エンハンスメントレイヤビデオ情報のビット深度に基づいて、第２の中間出力をシフトする第２のビット数を決定することができる。デコーダ３１は、右シフト動作を使用して、第２の中間出力を第２のビット数だけシフトすることができる。一実施形態では、第２の中間出力をシフトする第２のビット数は、２０ビット−エンハンスメントレイヤのビデオ情報のビット深度として定義され得る。
【０１１６】
[0115]デコーダ３１は、第１の次元においてビデオ情報をアップサンプリングして、第２の次元において制限された中間出力をアップサンプリングするためにリサンプリングフィルタを適用することができる。
【０１１７】
[0116]特定の実施形態では、本技法は３Ｄビデオ情報に適用することができる。たとえば、デコーダ３１が、第２の中間出力を生成するために、制限された中間出力をアップサンプリングして、第２の中間出力を第２の所定のビット深度に制限して、制限された第２の中間出力を第３の次元においてアップサンプリングすることができ、第３の次元は、第１の次元および第２の次元と直交している。デコーダ３１が、第２の中間出力のビット深度を決定することによって、第２の中間出力を第２の所定のビット深度に制限して、第２の中間出力のビット深度に基づいて第２の中間出力をシフトするビット数を決定して、第２の中間出力をビット数だけシフトすることができる。プロセス４００は、ブロック４０６において終了する。
【０１１８】
[0117]プロセス４００におけるブロックは実施形態に応じて追加および／または省略されてよく、プロセス４００のブロックは実施形態に応じて異なる順序で実行されて得る。本開示においてリサンプリングに関連して説明される任意の特徴および／または実施形態は、別々に実装されてもよく、それらの任意の組合せで実装されてもよい。たとえば、図４に関連して説明される任意の特徴および／または実施形態は、図５に関連して説明される任意の特徴および／または実施形態との任意の組合せで実装されてもよく、その逆でもよい。
【０１１９】
[0118]図５は、本開示の態様による、リサンプリングプロセスにおける中間データのダイナミックレンジ制御のための例示的な方法を示すフローチャートである。プロセス５００は、実施形態に応じて、エンコーダ（たとえば、図２Ａ、図２Ｂ等に示されるエンコーダ）、デコーダ（たとえば、図３Ａ、図３Ｂ等に示されるデコーダ）、または他の何らかの構成要素によって実行され得る。プロセス５００のブロックは、図３Ｂのデコーダ３１に関連して説明されているが、プロセス５００は上述のエンコーダなどの他の構成要素によって実行され得る。デコーダ３１のレイヤ１ビデオデコーダ３０Ｂ、および／またはデコーダ３１のレイヤ０デコーダ３０Ａは、実施形態に応じてプロセス５００を実行することができる。図５に関連して説明されるすべての実施形態は別々に実装されてもよく、相互に組み合わせて実装されてもよい。プロセス５００に関連する特定の詳細は上記で、たとえば図４に関連して説明される。
【０１２０】
[0119]プロセス５００はブロック５０１から開始する。デコーダ３１は、アップサンプリングされたビデオ情報に関連するビデオ情報を記憶するためのメモリ（たとえば、参照フレームメモリ８２）を含み得る。
【０１２１】
[0120]ブロック５０２で、デコーダ３１がビデオ情報を取得する。たとえば、ビデオ情報は、アップサンプリングされている参照レイヤ画像の輝度サンプルを含み得る。輝度サンプルは、現在の画像の左上の輝度サンプルに関連し得る。
【０１２２】
[0121]ブロック５０３で、デコーダ３１が、中間出力を生成するために、第１の次元においてビデオ情報をアップサンプリングする。２Ｄリサンプリングにおいて、第１の次元は水平方向であり得る。
【０１２３】
[0122]ブロック５０４で、デコーダ３１が、ビデオ情報のビット深度に基づいて、中間出力をシフトするビット数を決定する。一実施形態では、シフトするビット数は、１６ビット精度に基づき得る。たとえば、中間出力は、合計１６ビットに限定され得るようにシフトされる。
【０１２４】
[0123]ブロック５０５で、デコーダ３１が、中間出力をビット数だけシフトする。デコーダ３１は、右シフト動作を使用して、中間出力をビット数だけシフトすることができる。その結果、デコーダ３１は、シフトされた中間出力を生成することができる。一実施形態では、中間出力をシフトするビット数は、ビデオ情報のビット深度−８ビットとして定義され得る。
【０１２５】
[0124]ブロック５０６で、デコーダ３１が、第１の次元と直交する第２の次元においてシフトされた中間出力をアップサンプリングする。２Ｄリサンプリングにおいて、第２の次元は垂直方向であり得る。プロセス５００は、ブロック５０７において終了する。
【０１２６】
[0125]プロセス５００におけるブロックは実施形態に応じて追加および／または省略されてよく、プロセス５００のブロックは実施形態に応じて異なる順序で実行され得る。本開示においてリサンプリングに関連して説明される任意の特徴および／または実施形態は、別々に実装されてもよく、それらの任意の組合せで実装されてもよい。たとえば、図５に関連して説明される任意の特徴および／または実施形態は、図４に関連して説明される任意の特徴および／または実施形態との任意の組合せで実装されてもよく、その逆でもよい。
用語
[00126]上記の開示は特定の実施形態を記載しているが、多くの変形形態が可能である。たとえば、上述されたように、上記の技法は３Ｄビデオコーディングに適用され得る。３Ｄビデオのいくつかの実施形態では、参照レイヤ（たとえば、ベースレイヤ）は、ビデオの第１のビューを表示するのに十分なビデオ情報を含み、エンハンスメントレイヤは、参照レイヤに比べてさらなるビデオ情報を含み、その結果、参照レイヤおよびエンハンスメントレイヤは一緒に、ビデオの第２のビューを表示するのに十分な情報を含む。これらの２つのビューは、立体的な画像を生成するために使用され得る。上記で説明されたように、本開示の態様に従って、エンハンスメントレイヤ内でビデオユニットを符号化または復号するとき、参照レイヤからの動き情報は、さらなる暗黙的な仮説を識別するために使用され得る。これにより、３Ｄビデオのビットストリームについてのより大きいコーディング効率が実現され得る。
【０１２７】
[00127]例によっては、本明細書で説明された技法のうちいずれかの、いくつかの行為またはイベントは、異なるシーケンスで実行され得、追加、マージ、または完全に除外され得る（たとえば、すべての説明した作用またはイベントが、本技法の実施のために必要であるとは限らない）ことを認識されたい。さらに、いくつかの例では、行為またはイベントは、連続的にではなく、たとえば、マルチスレッド処理、割込み処理、または複数のプロセッサを通して、同時に実行され得る。
【０１２８】
[00128]本明細書で開示される情報および信号は、多種多様な技術および技法のいずれかを使用して表され得る。たとえば、上記の説明全体にわたって言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、およびチップは、電圧、電流、電磁波、磁界もしくは磁性粒子、光場もしくは光学粒子、またはそれらの任意の組合せによって表され得る。
【０１２９】
[00129]本明細書で開示した実施形態に関して説明した様々な例示的な論理ブロック、モジュール、回路、およびアルゴリズムステップは、電子ハードウェア、コンピュータソフトウェア、またはその両方の組合せとして実装され得る。ハードウェアとソフトウェアのこの互換性を明確に示すために、様々な例示的な構成要素、ブロック、モジュール、回路、およびステップについて、概してそれらの機能に関して上記で説明した。そのような機能がハードウェアとして実装されるか、またはソフトウェアとして実装されるかは、特定の適用例および全体的なシステムに課された設計制約に依存する。当業者は、説明した機能を特定の適用例ごとに様々な方法で実装し得るが、そのような実装の決定は、本発明の範囲からの逸脱を生じるものと解釈されるべきではない。
【０１３０】
[00130]本明細書で説明した技術は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。そのような技法は、汎用コンピュータ、ワイヤレス通信デバイスハンドセット、またはワイヤレス通信デバイスハンドセットおよび他のデバイスにおける適用例を含む複数の用途を有する集積回路デバイスなど、様々なデバイスのいずれかにおいて実装され得る。モジュールまたは構成要素として説明した任意の特徴は、集積論理デバイスに一緒に、または個別であるが相互運用可能な論理デバイスとして別々に実装され得る。ソフトウェアで実装された場合、本技法は、実行されたとき、上記で説明した方法のうちの１つまたは複数を実行する命令を含むプログラムコードを備えるコンピュータ可読データ記憶媒体によって、少なくとも部分的に実現され得る。コンピュータ可読データ記憶媒体は、パッケージング材料を含むことがあるコンピュータプログラム製品の一部を形成し得る。コンピュータ可読媒体は、シンクロナスダイナミックランダムアクセスメモリ（ＳＤＲＡＭ）などのランダムアクセスメモリ（ＲＡＭ）、読取り専用メモリ（ＲＯＭ）、不揮発性ランダムアクセスメモリ（ＮＶＲＡＭ）、電気消去可能プログラマブル読取り専用メモリ（ＥＥＰＲＯＭ（登録商標））、フラッシュメモリ、磁気または光学データ記憶媒体など、メモリまたはデータ記憶媒体を備え得る。本技法は、追加または代替として、伝搬信号または電波など、命令またはデータ構造の形態でプログラムコードを搬送または伝達し、コンピュータによってアクセスされ、読み取られ、および／または実行され得るコンピュータ可読通信媒体によって、少なくとも部分的に実現され得る。
【０１３１】
[00131]プログラムコードは、１つまたは複数のデジタル信号プロセッサ（ＤＳＰ）、汎用マイクロプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルロジックアレイ（ＦＰＧＡ）、または他の等価の集積回路もしくはディスクリート論理回路など、１つまたは複数のプロセッサを含み得るプロセッサによって実行され得る。そのようなプロセッサは、本開示で説明する技法のいずれかを実行するように構成され得る。汎用プロセッサはマイクロプロセッサであり得るが、代替として、プロセッサは、任意の従来のプロセッサ、コントローラ、マイクロコントローラ、または状態機械であり得る。プロセッサはまた、コンピューティングデバイスの組合せ、たとえば、ＤＳＰおよびマイクロプロセッサの組合せ、複数のマイクロプロセッサ、ＤＳＰコアと連携する１つもしくは複数のマイクロプロセッサ、または任意の他のそのような構成として実装され得る。したがって、本明細書で使用する「プロセッサ」という用語は、上記の構造、上記の構造の任意の組合せ、または本明細書で説明する技法の実装に好適な他の構造または装置のいずれかを指す。さらに、いくつかの態様では、本明細書で説明した機能は、符号化および復号のために構成された専用のソフトウェアモジュールもしくはハードウェアモジュール内に提供され得、または複合ビデオエンコーダ／デコーダ（コーデック）に組み込まれ得る。
【０１３２】
[0132]本明細書に記載のコーディング技法は、例示的なビデオ符号化および復号システムにおける実施形態であり得る。システムは、後に宛先デバイスによって復号されるべき符号化されたビデオデータを提供するソースデバイスを含む。特に、ソースデバイスは、コンピュータ可読媒体を介してビデオデータを宛先デバイスに提供する。ソースデバイスおよび宛先デバイスは、デスクトップコンピュータ、ノートブック（すなわち、ラップトップ）コンピュータ、タブレットコンピュータ、セットトップボックス、いわゆる「スマート」フォンなどの電話ハンドセット、いわゆる「スマート」パッド、テレビ、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲーム機、ビデオストリーミングデバイスなどを含む、広い範囲のデバイスのいずれかを備え得る。場合によっては、ソースデバイスおよび宛先デバイスはワイヤレス通信のために装備され得る。
【０１３３】
[0133]宛先デバイスは、コンピュータ可読媒体を介して復号されるべき符号化されたビデオデータを受信することができる。コンピュータ可読媒体は、符号化されたビデオデータをソースから宛先デバイスに移動させることが可能な任意のタイプの媒体またはデバイスを備え得る。一例では、コンピュータ可読媒体は、ソースデバイス１２が、符号化されたビデオデータをリアルタイムに宛先デバイスに直接伝送することを可能にするための通信媒体を備え得る。符号化されたビデオデータは、ワイヤレス通信プロトコルなどの通信規格に応じて変調されて、宛先デバイスに伝送され得る。通信媒体は、無線周波数（ＲＦ）スペクトル、あるいは１つまたは複数の物理的伝送回線などの、任意のワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネット等のグローバルネットワークなどの、パケットベースのネットワークの一部を形成することができる。通信媒体は、ルータ、スイッチ、基地局、またはソースデバイスから宛先デバイスへの通信を容易にするために有用であり得る他の何らかの装置を含み得る。
【０１３４】
[0134]いくつかの例では、符号化されたデータが、出力インターフェースから記憶デバイスに出力され得る。同様に、符号化されたデータは、入力インターフェースによって記憶デバイスからアクセスされ得る。記憶デバイスは、ハードドライブ、ブルーレイディスク、ＤＶＤ、ＣＤ−ＲＯＭ、フラッシュメモリ、揮発性または不揮発性メモリ、あるいは符号化されたビデオデータを記憶するための他の何らかの適切なデジタル記憶媒体などの、様々な分散された、またはローカルにアクセスされるデータ記憶媒体のいずれかを含み得る。さらなる例では、記憶デバイスが、ソースデバイスによって生成された、符号化されたビデオを記憶することができるファイルサーバまたは別の中間記憶デバイスに対応し得る。宛先デバイスは、ストリーミングまたはダウンロードを介して、記憶デバイスから記憶されたビデオデータにアクセスすることができる。ファイルサーバは、符号化されたビデオデータを記憶して、その符号化されたビデオデータを宛先デバイスに伝送することが可能な任意のタイプのサーバであり得る。例示的なファイルサーバは、ウェブサーバ（たとえば、ウェブサイト用の）、ＦＴＰサーバ、ネットワーク接続型記憶（ＮＡＳ）デバイス、またはローカルディスクドライブを含む。宛先デバイスは、インターネット接続を含む任意の標準的なデータ接続を通じて、符号化されたビデオデータにアクセスすることができる。これは、ファイルサーバに記憶された、符号化されたビデオデータにアクセスするために適したワイヤレスチャネル（たとえば、Ｗｉ−Ｆｉ接続）、ワイヤード接続（たとえば、ＤＳＬ、ケーブルモデム等）、または両方の組合せを含み得る。記憶デバイスからの符号化されたビデオデータの伝送は、ストリーミング伝送、ダウンロード伝送、またはそれらの組合せであり得る。
【０１３５】
[0135]本開示の技法は、必ずしもワイヤレスアプリケーションまたは設定に限定されるとは限らない。本技法は、無線テレビ放送、ケーブルテレビ伝送、衛星テレビ伝送、動的適応型ＨＴＴＰストリーミング（ＤＡＳＨ）などのインターネットストリーミングビデオ伝送、データ記憶媒体に符号化されたデジタルビデオなどの、データ記憶媒体に記憶されたデジタルビデオの復号、または他のアプリケーションなどの、様々なマルチメディアアプリケーションのいずれかをサポートするビデオコーディングに適用され得る。いくつかの例では、システムは、ビデオストリーミング、ビデオ再生、ビデオ放送、および／またはビデオ電話などのアプリケーションをサポートするために、一方向または双方向ビデオ伝送をサポートするように構成され得る。
【０１３６】
[0136]一例では、ソースデバイスは、ビデオソースと、ビデオエンコーダと、出力インターフェースとを含む。宛先デバイスは、入力インターフェースと、ビデオエンコーダと、ディスプレイデバイスとを含み得る。ソースデバイスのビデオエンコーダは、本明細書に開示された技法を適用するように構成され得る。他の例では、ソースデバイスと宛先デバイスは、他の構成要素または配置を含み得る。たとえば、ソースデバイスは、外部カメラなどの外部のビデオソースからビデオデータを受信することができる。同様に、宛先デバイスは、一体型ディスプレイデバイスを含むのではなく、外部のディスプレイデバイスとインターフェースすることができる。
【０１３７】
[0137]上記の例示的なシステムは、一例に過ぎない。ビデオデータを並列に処理するための技法は、任意のデジタルビデオ符号化および／または復号化デバイスによって実行され得る。本開示の技法は、一般的にビデオエンコーディングデバイスによって実行されるが、本技法はまた、典型的に「ＣＯＤＥＣ」と呼ばれるビデオエンコーダ／デコーダによって実行され得る。さらに、本開示の技法はまた、ビデオプリプロセッサによって実行され得る。ソースデバイスと宛先デバイスは、ソースデバイスが、宛先デバイスに伝送するための符号化されたビデオデータを生成するようなコーディングデバイスの単なる例である。いくつかの例では、ソースデバイスと宛先デバイスは、デバイスのそれぞれがビデオ符号化および復号化構成要素を含むように、実質的に対称的に動作することができる。したがって、例示的なシステムは、たとえば、ビデオストリーミング、ビデオ再生、ビデオ放送、またはビデオ電話のための、ビデオデバイス間の一方向または双方向ビデオ伝送をサポートすることができる。
【０１３８】
[0138]ビデオソースは、ビデオカメラ、以前にキャプチャされたビデオを含むビデオアーカイブ、および／またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースなどのビデオキャプチャデバイスを含み得る。さらなる代替として、ビデオソースは、ソースビデオとしてのコンピュータグラフィックベースのデータ、またはライブビデオと、アーカイブされたビデオと、コンピュータ生成ビデオとの組合せを生成することができる。場合によっては、ビデオソースがビデオカメラの場合、ソースデバイスと宛先デバイスは、いわゆるカメラ付き電話またはビデオ電話を形成することができる。しかしながら、上述のように、本開示に記載された技法は、一般的なビデオコーディングに適用可能でよく、ワイヤレスおよび／またはワイヤードアプリケーションに適用され得る。各場合において、キャプチャされた、事前にキャプチャされた、またはコンピュータで生成されたビデオは、ビデオエンコーダによって符号化され得る。次いで、符号化されたビデオ情報は、出力インターフェースによってコンピュータ可読媒体上に出力され得る。
【０１３９】
[0139]上述のように、コンピュータ可読媒体は、ワイヤレスブロードキャストまたはワイヤードネットワーク伝送などの一時的媒体を含んでもよく、ハードディスク、フラッシュドライブ、コンパクトディスク、デジタルビデオディスク、ブルーレイディスク、または他のコンピュータ可読媒体などの記憶媒体（すなわち、非一時的記憶媒体）を含んでもよい。いくつかの例では、ネットワークサーバ（図示せず）が、ソースデバイスから符号化されたビデオデータを受信して、たとえばネットワーク伝送を介して、符号化されたビデオデータを宛先デバイスに提供することができる。同様に、ディスクスタンピング設備などの、媒体製造設備（ｍｅｄｉｕｍ  ｐｒｏｄｕｃｔｉｏｎ  ｆａｃｉｌｉｔｙ）のコンピューティングデバイスは、ソースデバイスから符号化されたビデオデータを受信して、符号化されたビデオデータを含むディスクを生成することができる。したがって、様々な例において、コンピュータ可読媒体は、様々な形態の１つまたは複数のコンピュータ可読媒体を含むものと理解され得る。
【０１４０】
[0140]宛先デバイスの入力インターフェースは、コンピュータ可読媒体から情報を受信する。コンピュータ可読媒体の情報は、ビデオエンコーダによって定義され、ビデオデコーダによっても使用され得る、ブロックおよび他の符号化されたユニット、たとえば画像のグループ（ＧＯＰ）の特性および／またはプロセスを記述するシンタックス要素を含む、シンタックス情報を含み得る。ディスプレイデバイスは、復号されたビデオデータをユーザに表示して、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）、プラズマディスプレイ、有機発光ダイオード（ＯＬＥＤ）ディスプレイ、または別のタイプのディスプレイデバイスなどの、様々なディスプレイデバイスのいずれかを備え得る。本発明の様々な実施形態を説明してきた。これらおよび他の実施形態は、以下の特許請求の範囲内である。
【０１４１】
[00141]本発明の様々な実施形態について説明した。これらおよび他の実施形態は、以下の特許請求の範囲内に入る。
以下に、出願当初の特許請求の範囲に記載された発明を付記する。
［Ｃ１］
ビデオ情報をコーディングするように構成された装置であって、
ビデオ情報を記憶するように構成されたメモリと、
前記メモリに動作可能に結合され、
参照レイヤビデオ情報を取得して、
中間出力を生成するために、第１の次元において前記参照レイヤビデオ情報をアップサンプリングして、
前記中間出力を所定のビット深度に制限して、
第２の次元において前記制限された中間出力をアップサンプリングするように構成されたプロセッサとを備え、前記第２の次元が前記第１の次元と直交している、装置。
［Ｃ２］
前記プロセッサが、
前記参照レイヤビデオ情報のビット深度を決定することと、
前記参照レイヤビデオ情報の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記ビット数に基づいて、前記中間出力をシフトするかどうかを決定することと、
前記中間出力をシフトすると決定することに応じて、前記中間出力を前記ビット数だけシフトすることとによって、前記中間出力を前記所定のビット深度に制限するように構成される、Ｃ１に記載の装置。
［Ｃ３］
前記プロセッサが、
前記参照レイヤビデオ情報のビット深度を決定することと、
前記参照レイヤビデオ情報の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記中間出力を前記ビット数だけシフトすることとによって、前記中間出力を前記所定のビット深度に制限するように構成される、Ｃ１に記載の装置。
［Ｃ４］
前記プロセッサが、前記中間出力をシフトする前記ビット数を、前記参照レイヤビデオ情報の前記ビット深度マイナス８ビットとして決定するように構成される、Ｃ３に記載の装置。
［Ｃ５］
前記プロセッサが、右シフト動作を使用して、前記中間出力を前記ビット数だけシフトするように構成される、Ｃ３に記載の装置。
［Ｃ６］
前記第１の次元が水平次元であり、前記第２の次元が垂直次元である、Ｃ１に記載の装置。
［Ｃ７］
前記参照レイヤビデオ情報が輝度値を備える、Ｃ１に記載の装置。
［Ｃ８］
前記プロセッサが、前記参照レイヤビデオ情報にリサンプリングフィルタを適用することによって、前記第１の次元において前記参照レイヤビデオ情報をアップサンプリングして、前記第２の次元において前記制限された中間出力をアップサンプリングするように構成される、Ｃ１に記載の装置。
［Ｃ９］
前記所定のビット深度が１６ビットである、Ｃ１に記載の装置。
［Ｃ１０］
前記プロセッサが、
前記アップサンプリングされて、制限された中間出力から第２の中間出力を生成して、
前記第２の中間出力を第２の所定のビット深度に制限するようにさらに構成される、Ｃ１に記載の装置。
［Ｃ１１］
前記プロセッサが、前記制限された第２の中間出力から前記取得された参照レイヤビデオ情報のアップサンプリングされたバージョンを生成するようにさらに構成される、Ｃ１０に記載の装置。
［Ｃ１２］
前記プロセッサが、
前記参照レイヤビデオ情報の前記ビット深度に基づいて、前記第２の中間出力をシフトする第２のビット数を決定することと、
前記第２の中間出力を前記第２のビット数だけシフトすることとによって、前記第２の中間出力を前記第２の所定のビット深度に制限するように構成される、Ｃ１０に記載の装置。
［Ｃ１３］
前記プロセッサが、
エンハンスメントレイヤビデオ情報の前記ビット深度に基づいて、前記第２の中間出力をシフトする第２のビット数を決定することと、
前記第２の中間出力を前記第２のビット数だけシフトすることとによって、前記第２の中間出力を前記第２の所定のビット深度に制限するように構成される、Ｃ１０に記載の装置。
［Ｃ１４］
前記プロセッサが、右シフト動作を使用して、前記第２の中間出力を前記第２のビット数だけシフトするように構成される、Ｃ１３に記載の装置。
［Ｃ１５］
前記プロセッサが、前記第２の中間出力をシフトする前記第２のビット数を、２０ビットマイナス前記エンハンスメントレイヤビデオ情報の前記ビット深度として決定するようにさらに構成される、Ｃ１３に記載の装置。
［Ｃ１６］
前記装置が、デスクトップコンピュータ、ノートブックコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、セットトップボックス、電話ハンドセット、スマートフォン、スマートパッド、テレビ、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲーム機、およびビデオストリーミングデバイスの１つまたは複数から構成されるグループから選択される、Ｃ１に記載の装置。
［Ｃ１７］
ビデオ情報をコーディングする方法であって、
参照レイヤビデオ情報を取得することと、
中間出力を生成するために、第１の次元において前記参照レイヤビデオ情報をアップサンプリングすることと、
前記中間出力を所定のビット深度に制限することと、
第２の次元において前記制限された中間出力をアップサンプリングすることとを備え、前記第２の次元が前記第１の次元と直交している、方法。
［Ｃ１８］
前記中間出力を前記所定のビット深度に制限する前記ことが、
前記参照レイヤビデオ情報のビット深度を決定することと、
前記参照レイヤビデオ情報の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記ビット数に基づいて、前記中間出力をシフトするかどうかを決定することと、
前記中間出力をシフトすると決定することに応じて、前記中間出力を前記ビット数だけシフトすることとを備える、Ｃ１７に記載の方法。
［Ｃ１９］
前記中間出力を前記所定のビット深度に制限する前記ことが、
前記参照レイヤビデオ情報のビット深度を決定することと、
前記参照レイヤビデオ情報の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記中間出力を前記ビット数だけシフトすることとを備える、Ｃ１７に記載の方法。
［Ｃ２０］
前記中間出力をシフトする前記ビット数が、前記参照レイヤビデオ情報の前記ビット深度マイナス８ビットとして決定される、Ｃ１９に記載の方法。
［Ｃ２１］
前記中間出力を前記ビット数だけシフトする前記ことが、右シフト動作を使用して実行される、Ｃ１９に記載の方法。
［Ｃ２２］
前記第１の次元が水平次元であり、前記第２の次元が垂直次元である、Ｃ１７に記載の方法。
［Ｃ２３］
前記参照レイヤビデオ情報が輝度値を備える、Ｃ１７に記載の方法。
［Ｃ２４］
前記第１の次元において前記参照レイヤビデオ情報をアップサンプリングする前記ことと、前記第２の次元において前記制限された中間出力をアップサンプリングする前記こととが、前記参照レイヤビデオ情報にリサンプリングフィルタを適用することによって実行される、Ｃ１７に記載の方法。
［Ｃ２５］
前記所定のビット深度が１６ビットである、Ｃ１７に記載の方法。
［Ｃ２６］
前記アップサンプリングされて、制限された中間出力から第２の中間出力を生成することと、
前記第２の中間出力を第２の所定のビット深度に制限することとをさらに備える、Ｃ１７に記載の方法。
［Ｃ２７］
前記制限された第２の中間出力から前記取得された参照レイヤビデオ情報のアップサンプリングされたバージョン生成することをさらに備える、Ｃ２６に記載の方法。
［Ｃ２８］
前記第２の中間出力を前記第２の所定のビット深度に制限する前記ことが、
前記参照レイヤビデオ情報の前記ビット深度に基づいて、前記第２の中間出力をシフトする第２のビット数を決定することと、
前記第２の中間出力を前記第２のビット数だけシフトすることとを備える、Ｃ２６に記載の方法。
［Ｃ２９］
前記第２の中間出力を前記第２の所定のビット深度に制限する前記ことが、
エンハンスメントレイヤビデオ情報の前記ビット深度に基づいて、前記第２の中間出力をシフトする第２のビット数を決定することと、
前記第２の中間出力を前記第２のビット数だけシフトすることとを備える、Ｃ２６に記載の方法。
［Ｃ３０］
前記第２の中間出力を前記第２のビット数だけシフトする前記ことが、右シフト動作を使用して実行される、Ｃ２９に記載の方法。
［Ｃ３１］
前記第２の中間出力をシフトする前記第２のビット数が、２０ビットマイナス前記エンハンスメントレイヤビデオ情報の前記ビット深度として決定される、Ｃ２９に記載の方法。
［Ｃ３２］
コンピュータハードウェアを備えるプロセッサ上で実行されると、前記プロセッサに、
ビデオ情報を記憶することと、
参照レイヤビデオ情報を取得することと、
中間出力を生成するために、第１の次元において前記参照レイヤビデオ情報をアップサンプリングすることと、
前記中間出力を所定のビット深度に制限することと、
第２の次元において前記制限された中間出力をアップサンプリングすることとを行わせる命令を備え、前記第２の次元が前記第１の次元と直交している、非一時的コンピュータ可読媒体。
［Ｃ３３］
前記プロセッサに、
前記参照レイヤビデオ情報のビット深度を決定することと、
前記参照レイヤビデオ情報の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記中間出力を前記ビット数だけシフトすることとによって、前記中間出力を前記所定のビット深度に制限させる命令をさらに備える、Ｃ３２に記載のコンピュータ可読媒体。
［Ｃ３４］
ビデオ情報をコーディングするように構成された装置であって、前記装置が、
ビデオ情報を記憶するための手段と、
参照レイヤビデオ情報を取得するための手段と、
中間出力を生成するために、第１の次元において前記参照レイヤビデオ情報をアップサンプリングするための手段と、
前記中間出力を所定のビット深度に制限するための手段と、
第２の次元において前記制限された中間出力をアップサンプリングするための手段とを備え、前記第２の次元が前記第１の次元と直交している、装置。
［Ｃ３５］
前記中間出力を前記所定のビット深度に制限するための前記手段が、
前記参照レイヤビデオ情報のビット深度を決定することと、
前記参照レイヤビデオ情報の前記ビット深度に基づいて前記中間出力をシフトするビット数を決定することと、
前記中間出力を前記ビット数だけシフトすることとによって、前記中間出力を前記所定のビット深度に制限するように構成される、Ｃ３４に記載の装置。
【図１】
0006479776.tif 000013
【図２Ａ】
0006479776.tif 000014
【図２Ｂ】
0006479776.tif 000015
【図３Ａ】
0006479776.tif 000016
【図３Ｂ】
0006479776.tif 000017
【図４】
0006479776.tif 000018
【図５】
0006479776.tif 000019