(57)【要約】  本開示の内容の各局面はビデオ符号化/復号のための方法及び装置を提供する。幾つかの例において、ビデオ復号化のための装置は受信回路及び処理回路を含む。幾つかの実施形態において、処理回路は、符号化されたビデオビットストリームから現在符号化中の現在のブロックの予測情報を符号化する。予測情報はフレーム内ブロックコピーモードを指示する。その後、処理回路は、現在のブロックと同じピクチャ内の参照ブロックを指すブロックベクトルを決定する。参照ブロックは符号化領域に制限され、再構築されたサンプルは参照サンプルメモリにおいてバッファリングされる。符号化領域は、符号化ツリーユニット（ＣＴＵ）の複数の事前定義領域の一つである。そして、処理回路は、参照サンプルメモリから検索された参照ブロックの再構築されたサンプルに基づいて少なくとも現在のブロックのサンプルを再構築する。
2021521728.tif 000002
【特許請求の範囲】
【請求項１】
デコーダが実行する、ビデオを復号する方法であって、
符号化されたビデオビットストリームから現在の符号化領域中の現在のブロックの予測情報を復号するステップであって、前記予測情報はフレーム内ブロックコピーモードを示す、ステップと、
前記現在のブロックと同じピクチャにおける参照ブロックを指し示すブロックベクトルを決定するステップであって、前記参照ブロックは、参照サンプルメモリにおいてバッファリングされた再構築されたサンプルを有する符号化領域内に制限され、前記符号化領域は符号化ツリーユニット（ＣＴＵ）の複数の事前定義領域の一つである、ステップと、
前記参照サンプルメモリから取得した、前記参照ブロックの前記再構築されたサンプルに基づいて、前記現在のブロックの少なくとも1つのサンプルを再構築する、ステップと、を含む方法。
【請求項２】
前記符号化領域は、正方形の形状を有する請求項１に記載の方法。
【請求項３】
前記ＣＴＵは、１２８×１２８サンプルの輝度成分を有するように配置されている請求項１に記載の方法。
【請求項４】
前記参照サンプルメモリは、前記符号化領域の単位で、前記参照サンプルメモリにおいてバッファリングされるサンプルを更新するように構成されている請求項１に記載の方法。
【請求項５】
前記参照ブロックの複数の隅が前記符号化領域の内にあるかどうかをチェックするステップをさらに含む請求項１に記載の方法。
【請求項６】
前記ＣＴＵが１２８×１２８輝度サンプルを含む場合に、前記符号化領域のサイズは６４×６４輝度サンプルのサイズである請求項５に記載の方法。
【請求項７】
前記ＣＴＵが１２８×１２８よりも少ない輝度サンプルを含む場合に、前記符号化領域のサイズは前記ＣＴＵのサイズと同じである請求項５に記載の方法。
【請求項８】
前記参照ブロックが部分的に前記符号化領域にある場合に、前記参照ブロックを前記符号化領域内に移動するステップをさらに含む請求項１に記載の方法。
【請求項９】
前記参照ブロックと現在のブロックの間の距離が減少する方向に参照ブロックを移動するステップをさらに含む請求項８に記載の方法。
【請求項１０】
前記符号化領域における参照サンプルのパーセンテージが増加する方向に参照ブロックを移動するステップをさらに含む請求項８に記載の方法。
【請求項１１】
前記参照ブロックが部分的に前記符号化領域にある場合に、前記符号化領域にある第１の参照サンプルの情報を、前記符号化領域外にある第２の参照サンプルの情報として用いるステップをさらに含む請求項１に記載の方法。
【請求項１２】
前記ＣＴＵの分割において、フレキシブルブロック分割が禁止される請求項１に記載の方法。
【請求項１３】
ビデオを復号する装置であって、
処理回路を含み、
前記処理回路は、
符号化されたビデオビットストリームから現在の符号化領域中の現在のブロックの予測情報を復号するステップであって、前記予測情報はフレーム内ブロックコピーモードを示す、ステップと、
前記現在のブロックと同じピクチャにおける参照ブロックを指し示すブロックベクトルを決定し、前記参照ブロックは、参照サンプルメモリにおいてバッファリングされた再構築されたサンプルを有する符号化領域内に制限され、前記符号化領域は符号化ツリーユニット（ＣＴＵ）の複数の事前定義領域の一つである、ステップと、
前記参照サンプルメモリから取得した、前記参照ブロックの前記再構築されたサンプルに基づいて、前記現在のブロックの少なくとも1つのサンプルを再構築するステップとを実行するように構成されている装置。
【請求項１４】
前記符号化領域は、正方形の形状を有する請求項１３に記載の装置。
【請求項１５】
前記ＣＴＵは、１２８サンプル×１２８サンプルの輝度成分を有するように構成されている請求項１３又は１４に記載の装置。
【請求項１６】
前記参照サンプルメモリは、前記符号化領域の単位で、前記参照サンプルメモリにおいてバッファリングされるサンプルを更新するように構成されている請求項１３ないし１５のうちいずれか一項に記載の装置。
【請求項１７】
前記処理回路は、さらに、
前記参照ブロックの複数の隅が前記符号化領域の内にあるかどうかをチェックするように配置されている請求項１３ないし１６のうちいずれか一項に記載の装置。
【請求項１８】
前記ＣＴＵが１２８×１２８輝度サンプルを含む場合に、前記符号化領域のサイズは６４×６４輝度サンプルのサイズである請求項１３ないし１７のうちいずれか一項に記載の装置。
【請求項１９】
前記ＣＴＵが１２８×１２８よりも少ない輝度サンプルを含む場合に、前記符号化領域のサイズは前記ＣＴＵのサイズと同じである請求項１３ないし１７のうちいずれか一項に記載の装置。
【請求項２０】
前記処理回路は、さらに、
前記参照ブロックが部分的に前記符号化領域にある場合に、前記参照ブロックを前記符号化領域内に移動するように配置されている請求項１３ないし１９のうちいずれか一項に記載の装置。
【請求項２１】
デコーダのプロセッサに請求項１ないし１２のうちいずれか一項に記載の方法を実行させるためのコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本出願は、２０１９年１１月２９日にて提出された「ＭＥＴＨＯＤ  ＡＮＤ  ＡＰＰＡＲＡＴＵＳ  ＦＯＲ  ＶＩＤＥＯ  ＣＯＤＩＮＧ」であるアメリカ特許出願１６/６９９,２３５号の優先権を要求し、上記の出願は、２０１８年１１月３０日にて提出された「ＣＯＮＳＴＲＡＩＮＴＳ  ＯＮ  ＲＥＦＥＲＥＮＣＥ  ＢＬＯＣＫ  ＬＯＣＡＴＩＯＮＳ  ＦＯＲ  ＩＮＴＲＡ  ＢＬＯＣＫ  ＣＯＰＹ」であるアメリカ仮出願第６２/７７４,１４８号、２０１９年１月９日にて提出された「ＩＮＴＲＡ  ＰＩＣＴＵＲＥ  ＢＬＯＣＫ  ＣＯＭＰＥＮＳＡＴＩＯＮ  ＢＵＦＦＥＲ  ＲＥＵＳＥ  ＷＩＴＨ  ＮＯＮ  ＳＱＵＡＲＥ  ＢＬＯＣＫ  ＰＡＲＴＩＴＩＯＮＳ」であるアメリカ仮出願第６２/７９０,４５４号の優先権を要求し、その全ての内容は参照により援用される。
【０００２】
本開示の内容は、一般的にビデオ符号化に関する実施形態を記載する。
【背景技術】
【０００３】
本明細書で提供される背景記載は、本開示の内容の背景を総体的に体現することを目的とする。該背景技術部分に記載の作業程度から見れば、現在署名の発明者の作業、及び提出の際に別に従来技術の記載として限定されていない態様について、明確且つ暗黙的に本開示の内容に対する従来技術として認められない。
【０００４】
動き補償を有するフレーム間予測を使用してビデオの符号化と復号化を実行することができる。非圧縮のデジタルビデオは一連のピクチャを含み得、各ピクチャは空間次元、例えば、１９２０×１０８０の輝度サンプルと関連するクロミナンスサンプルを有する。該一連のピクチャは、例えば、１秒あたり６０のピクチャ又は６０Ｈｚの固定又は可変のピクチャレート（非正式にはフレームレートとも呼ばれる）を有してもよい。非圧縮のビデオには、高いビットレート要件を有する。例えば、サンプルあたりの８ビットの１０８０ｐ６０  ４：２：０ビデオ（６０Ｈｚフレームレートでの１９２０×１０８０の輝度サンプル解像度）は、１．５Ｇｂｉｔ/ｓに近い帯域幅が必要である。このような１時間のビデオは、６００ＧＢを超えるストレージスペースが必要である。
【０００５】
ビデオ符号化及び復号化は、圧縮により、ビデオ信号入力における冗長を減少させることを１つの目的とする。圧縮は、以上に言及された帯域幅又は記憶空間に対する要件を減少させることに寄与し、ある状況で、２つ又はより多いオーダーを減少させる。可逆圧縮、非可逆圧縮、及びその組み合わせを利用できる。可逆圧縮は、圧縮された元の信号から元の信号の正確なコピーを再構築できる技術を指す。非可逆圧縮を利用する場合、再構築された信号は元の信号と異なる可能性もあるが、元の信号と再構築された信号との間の歪みは十分に小さいから、再構築された信号は予期の応用に役立つ。ビデオの場合、非可逆圧縮は大幅に応用される。許容の歪み量はアプリケーションに依存し、例えば、テレビ配分アプリケーションのユーザーより、消費者ストリーミング媒体プリケーションのユーザーが高い歪みを許容する。達する圧縮比は、許可／許容可能な歪みが高いほど、圧縮比が高くなることを反映する。
【０００６】
ビデオ符号器と復号器は、例えば、動き補償、変換、量子化、エントロピー符号化などを含む幾つかの幅広いカテゴリの技術を利用し得る。
【０００７】
ビデオコーデック技術には、フレーム内符号化〔イントラ符号化〕と呼ばれる技術が含まれる。フレーム内符号化では、サンプル値は、以前に再構築された参照ピクチャからのサンプル又は他のデータを参照せずに表現される。一部のビデオコーデックでは、ピクチャは空間的にサンプルブロックに細分される。全てのサンプルブロックをフレーム内モード〔イントラ・モード〕で符号化する場合、そのピクチャはフレーム内ピクチャ〔イントラ・ピクチャ〕であってもよい。フレーム内ピクチャとその派生物（例えば、独立した復号器リフレッシュピクチャ）は、復号器の状態をリセットできるため、符号化されたビデオビットストリームとビデオセッションにおける第１ピクチャ、又は静止ピクチャとして使用し得る。フレーム内ブロック〔イントラ・ブロック〕のサンプルを変換にかけ、エントロピー符号化の前に変換係数を量子化してもよい。フレーム内予測〔イントラ予測〕は、変換前ドメインにおけるサンプル値を最小化する技術であり得る。ある場合には、変換後のＤＣ値が小さいほど、且つＡＣ係数が小さいほど、所定の量子化ステップサイズでエントロピー符号化後のブロックを表すために必要なビットが少なくなる。
【０００８】
例えば、ＭＰＥＧ−２代符号化技術から知られている従来のフレーム内符号化は、フレーム内予測を使用しない。しかしながら、新しいビデオ圧縮技術は、例えば、空間的に隣接し且つ復号化順序で先行するデータブロックの符号化／復号化の間に取得したメタデータ及び／又は周囲のサンプルデータを利用する技術を含む。このような技術は、「フレーム内予測」技術と呼ばれる。少なくともある場合では、フレーム内予測は、再構築中の現在のピクチャからの参照データのみを使用し、参照ピクチャからの参照データを使用しない。
【０００９】
フレーム内予測には様々な形式がある。所定のビデオ符号化技術に一つよりも多いこのような技術を使用できる場合、使用の技術はフレーム内予測モードで符号化できる。幾つかの場合に、モードはサブモード及び／又はパラメータを有してもよく、サブモード及び／又はパラメータは個別に符号化されるか、モード・コードワード〔符号語〕に含まれてもよい。所定のモード/サブモード/パラメータの組み合わせにどのコードワードを使用するかは、フレーム内予測により符号化効率のゲインに影響を与える可能性があり、コードワードをビットストリームに変換するためのエントロピー符号化技術も符号化効率のゲインに影響を与える可能性がある。
【００１０】
フレーム内予測のあるモードはＨ．２６４から導入され、Ｈ．２６５で洗練され、さらに、共同の探査モデル（ＪＥＭ）、多用途ビデオ符号化（ＶＶＣ）、ベンチマークセット（ＢＭＳ）などの新しい符号化技術で洗練される。既に利用可能なサンプルに属する隣接するサンプル値を使用して予測値ブロックを形成してもよい。隣接するサンプルのサンプル値は、方向に従って予測値ブロックにコピーされる。使用の方向の参照は、ビットストリームで符号化されるか、それ自体が予測されてもよい。
【発明の概要】
【課題を解決するための手段】
【００１１】
本開示の内容の各局面は、ビデオ符号化/復号化のための方法及び装置を提供する。幾つかの例において、ビデオ復号化のための装置は受信回路及び処理回路を含む。幾つかの実施形態において、処理回路は、符号化されたビデオビットストリームから現在符号化中の現在のブロックの予測情報を復号化する。予測情報はフレーム内ブロックコピーモードを指示する。その後、処理回路は、現在のブロックと同じピクチャ内の参照ブロックを指すブロックベクトルを決定する。参照ブロックは符号化領域に制限され、再構築されたサンプルは参照サンプルメモリにおいてバッファリングされる。符号化領域は、符号化ツリーユニット（ＣＴＵ）の複数の予め定義された領域の一つである。そして、処理回路は、参照サンプルメモリから検索された参照ブロックの再構築されたサンプルに基づいて少なくともの現在のブロックのサンプルを再構築する。
【００１２】
幾つかの例において、符号化領域は正方形の形状を有する。例において、ＣＴＵは、１２８×１２８サンプルの輝度成分を有するように配置されている。
【００１３】
実施形態において、参照サンプルメモリは、符号化領域を単位として参照サンプルメモリにおいてバッファリングされるサンプルを更新するように配置されている。
【００１４】
幾つかの実施形態において、処理回路は、参照ブロックの複数の隅が符号化領域内にあるかどうかをチェックする。
【００１５】
例において、ＣＴＵが１２８×１２８輝度サンプルを含む場合に、符号化領域のサイズは６４×６４輝度サンプルのサイズである。別の例において、ＣＴＵに１２８×１２８よりも少ない輝度サンプルを含む場合に、符号化領域のサイズはＣＴＵのサイズと同じである。
【００１６】
幾つかの実施形態において、処理回路は、参照ブロックが移動前に部分的に符号化領域にある場合に、参照ブロックを符号化領域に移動させる。例において、処理回路は、参照ブロックと現在のブロックの間の距離を減少させる方向に参照ブロックを移動させる。別の例において、処理回路は、符号化領域における参照サンプルのパーセンテージが増加する方向に参照ブロックを移動させる。
【００１７】
幾つかの実施形態において、処理回路は、参照ブロックが部分的に符号化領域にある場合に、符号化領域にある第１の参照サンプルの情報を、符号化領域外にある第２の参照サンプルの情報として使用する。幾つかの例において、ＣＴＵの分割においてフレキシブルブロック分割が禁止される。
【００１８】
本開示の内容の各局面は、さらに、命令が記憶される非一時的なコンピュータ読み取り可能な媒体を提供し、該命令はビデオ復号化を行うように、コンピュータによって実行される場合、コンピュータに前記ビデオ符号化のための方法を実行させる。
【図面の簡単な説明】
【００１９】
以下の詳しい記載及び図面に基づいて、開示のテーマの他の特徴、性質及び様々な利点はより明確になり、図面において、
【００２０】
【図１】実施形態による通信システム（１００）の簡略化ブロック図の模式図である。
【００２１】
【図２】実施形態による通信システム（２００）の簡略化ブロック図の模式図である。
【００２２】
【図３】実施形態による復号器の簡略化ブロック図の模式図である。
【００２３】
【図４】実施形態による符号器の簡略化ブロック図の模式図である。
【００２４】
【図５】他の実施形態による符号器のブロック図を示す。
【００２５】
【図６】他の実施形態による復号器のブロック図を示す。
【００２６】
【図７】本開示の内容の実施形態によるフレーム内ブロックコピーの例を示す。
【００２７】
【図８】Ａ〜Ｄは、本開示の内容の実施形態による参照サンプルメモリ更新及びフレーム内ブロックコピーモードの有効検索範囲の例を示す。
【００２８】
【図９】Ａ〜Ｈは、非正方形ブロックの分割をもたらす可能性のある幾つかの例を示す。
【００２９】
【図１０Ａ】符号化順序及び参照サンプルメモリの使用の２つの例を示す図の一である。
【図１０Ｂ】符号化順序及び参照サンプルメモリの使用の２つの例を示す図の一である。
【００３０】
【図１１】Ａ及びＢは、参照ブロックにおける２つの異なる符号化領域からのサンプルの例を示す。
【００３１】
【図１２】Ａ〜Ｆは、参照サンプルメモリの再利用ストラテジーの例を示す。
【００３２】
【図１３】Ａ〜Ｆは、本開示の内容の幾つかの実施形態による更新処理の例を示す。
【００３３】
【図１４】本開示の内容の幾つかの実施形態による処理の例を概説するフローチャートを示す。
【００３４】
【図１５】実施形態によるコンピュータシステムの模式図である。
【発明を実施するための形態】
【００３５】
図１は、本開示の内容の実施形態による通信システム（１００）の簡略化ブロック図を示す。通信システム（１００）は、例えばネットワーク（１５０）を介して互いに通信できる複数の端末機器を含む。例えば、通信システム（１００）はネットワーク（１５０）を介して互いに接続された第１対の端末機器（１１０）、（１２０）とを有する。図１の例示において、該第１対の端末機器（１１０）、（１２０）は一方向のデータ伝送を実行する。例えば、端末機器（１１０）はビデオデータ（例えば、端末機器（１１０）によりキャプチャされたビデオピクチャストリーム）を符号化することで、ネットワーク（１５０）を介して他の端末機器（１２０）に伝送される。符号化ビデオデータは１つ又は複数の符号化ビデオビットストリームという形式で伝送されてもよい。端末機器（１２０）はネットワーク（１５０）から符号化ビデオデータを受信し、符号化ビデオデータを復号化することで、ビデオピクチャを回復させ、回復されたビデオデータに応じてビデオピクチャを表示する。一方向のデータ伝送はメディアサービスアプリケーションなどにおいて、よく見られる。
【００３６】
他の例において、通信システム（１００）は、符号化ビデオデータの双方向伝送を実行するための第２対の端末機器（１３０）、（１４０）とを含み、双方向伝送は、例えばビデオ会議期間に発生し得る。双方向データ伝送について、例示において、端末機器（１３０）、（１４０）における各端末機器は、ビデオデータ（例えば、端末機器によりキャプチャされたビデオピクチャストリーム）を符号化することで、ネットワーク（１５０）を介して端末機器（１３０）、（１４０）のうちの他の端末機器に伝送できる。端末機器（１３０）、（１４０）のうちの各端末機器はさらに端末機器（１３０）、（１４０）のうちの他の端末機器から伝送される符号化ビデオデータを受信し、符号化ビデオデータを復号化することでビデオピクチャを回復させ、復元されたビデオデータに応じてアクセス可能な表示機器でビデオピクチャを表示できる。
【００３７】
図１に示す例において、端末機器（１１０）、（１２０）、（１３０）及び（１４０）は、サーバー、パーソナルコンピュータ及びスマートフォンとして示されるが、本開示の内容の原理はこれに限定されない。本開示の内容の実施例はラップトップコンピュータ、タブレット、メディアプレイヤー及び／または専門ビデオ会議機器に適用される。ネットワーク（１５０）は、端末機器（１１０）、端末機器（１２０）、端末機器（１３０）及び端末機器（１４０）の間で符号化ビデオデータを伝送するための、例えば有線接続（ワイヤード）及び／または無線通信ネットワークが含まれる任意の数のネットワークを示す。通信ネットワーク（１５０）は回路交換及び／またはパケット交換チャネルにおいてデータを交換できる。代表的なネットワークは電気通信ネットワーク、ローカルエリアネットワーク、広域エリアネットワーク及び／またはインターネットを含む。本論述の目的から見れば、本明細書において別途に説明しない限り、ネットワーク（１５０）のアーキテクチャ及びトポロジは、本開示の内容の操作に対して重要ではない。
【００３８】
開示されるテーマの応用例示として、図２は、ビデオ符号器とビデオ復号器とのストリーミング伝送環境における配置を示す。開示のテーマは等価的にビデオを支持する他のアプリケーション、例えばビデオ会議、デジタルテレビが含まれるアプリケーションに適用され、ＣＤ、ＤＶＤ、メモリースティックなどが含まれるデジタル媒体に圧縮されたビデオなどが記憶される。
【００３９】
ストリーミング伝送システムは、キャプチャサブシステム（２１３）を含み、該キャプチャサブシステム（２１３）は、例えば非圧縮のビデオピクチャストリーム（２０２）を構築するための、デジタル撮影装置のようなビデオソース（２０１）を含む。例示において、ビデオピクチャストリーム（２０２）は、デジタル撮影装置により撮影されたサンプルを含む。符号化ビデオデータ（２０４）（または符号化されたビデオビットストリーム）と比較する場合、データ量が多いことを強調するように太線として描画されるビデオピクチャストリーム（２０２）は、ビデオソース（２０１）に連結されるビデオ符号器（２０３）を含む電子機器（２２０）によって処理される。ビデオ符号器（２０３）はハードウェア、ソフトウェアまたはその組み合わせを含むことで、以下により詳しく記載される開示のテーマの各態様を実現または実施する。ビデオピクチャストリーム（２０２）と比較する場合、データ量が少ないことを強調するように細線として描画される符号化ビデオデータ（２０４）（または符号化されたビデオビットストリーム（２０４））はストリーミングサーバー（２０５）に記憶されることで、後で用いられる。図２におけるクライアントサブシステム（２０６）、（２０８）のような１つ又は複数のストリーミングクライアントサブシステムは、ストリーミングサーバー（２０５）にアクセスすることで、符号化ビデオデータ（２０４）のコピー（２０７）、（２０９）を検索できる。クライアントサブシステム（２０６）は、例えば電子機器（２３０）におけるビデオ復号器（２１０）を含む。ビデオ復号器（２１０）は符号化ビデオデータの導入コピー（２０７）を復号化し、ディスプレイ（２１２）（例えば、スクリーン）または他の表示機器（図示せず）に表示される導出ビデオピクチャストリーム（２１１）を構築する。あるストリーミング伝送システムにおいては、符号化ビデオデータ（２０４）、（２０７）及び（２０９）（例えば、ビデオビットストリーム）は、あるビデオ符号化／圧縮規格に基づき符号化することができる。これらの規格の例示はＩＴＵ−Ｔ  Ｈ.２６５提案書を含む。例示において、開発中のビデオ符号化規格は、非公式に多用途ビデオコーディングまたはＶＶＣと呼ばれる。開示されるテーマはＶＶＣのコンテキストに適用される。
【００４０】
なお、電子機器（２２０）、（２３０）は他の部材（図示せず）を含んでもよい。例えば、電子機器（２２０）はビデオ復号器（図示せず）を含んでもよく、電子機器（２３０）はビデオ符号器（図示せず）を含んでもよい。
【００４１】
図３は、本開示の内容の実施形態によるビデオ復号器（３１０）のブロック図である。ビデオ復号器（３１０）は電子機器（３３０）に含まれてもよい。電子機器（３３０）は受信器（３３１）（例えば、受信回路）を含んでもよい。ビデオ復号器（３１０）は、図２の例示におけるビデオ復号器（２１０）の代わりとしてもよい。
【００４２】
受信器（３３１）は、ビデオ復号器（３１０）によって復号化される１つ又は複数の符号化ビデオシーケンスを受信でき、同一の実施例または他の実施例において、１回に１つの符号化ビデオシーケンスを受信し、各符号化ビデオシーケンスの復号化は、他の符号化ビデオシーケンスと独立する。チャンネル（３０１）から符号化ビデオシーケンスを受信してもよく、チャンネル（３０１）は符号化ビデオデータを記憶するための記憶機器へのハードウェア／ソフトウェアリンクであってもよい。受信器（３３１）は符号化ビデオデータ及び他のデータを受信でき、例えば、それぞれの利用エンティティ（図示せず）に転送できる符号化されたオーディオデータ及び／または補助データストリームを受信できる。受信器（３３１）は符号化ビデオシーケンスと他のデータとを分割できる。ネットワークのジッタを防止するために、バッファメモリ（３１５）は受信器（３３１）とエントロピー復号器／パーサ（３２０）（以下は、「パーサ（３２０）」と呼ばれる）との間に連結される。幾つかの応用において、バッファメモリ（３１５）はビデオ復号器（３１０）の一部である。他の応用において、バッファメモリ（３１５）はビデオ復号器（３１０）の外部にあってもよい（図示せず）。さらに、他の応用において、ビデオ復号器（３１０）の外部にはバッファメモリ（図示せず）が設けられることで、例えばネットワークのジッタを防止し、さらに、ビデオ復号器（３１０）の内部には別のバッファメモリ（３１５）が設けられることで、例えば、再生タイミングを処理することができる。受信器（３３１）は十分な帯域幅及び制御可能性を有する記憶／転送機器、またはアイソクロナスネットワークからデータを受信する際、バッファメモリ（３１５）を必要としないか、または、バッファメモリ（３１５）が小さくてもよい。例えば、インターネットのようなベストエフォート型パケットネットワークで利用するために、バッファメモリ（３１５）を必要とする可能性もあり、バッファメモリ（３１５）は相対的に大きく、有利に自己適応の大きさを有してもよく、少なくとも一部的にオペレータシステムまたはビデオ復号器（３１０）の外部にある類似の要素（図示せず）で実現される。
【００４３】
ビデオ復号器（３１０）は、符号化ビデオシーケンスに基づき符号（３２１）を再構築するパーサ（３２０）を有する。これらの符号のカテゴリにはビデオ復号器（３１０）の操作を管理するための情報、及び表示機器（３１２）（例えば、スクリーン）のような表示機器を制御するための潜在情報が含まれ、図３に示すように、該表示機器（３１２）は電子機器（３３０）の一体部分ではなく、電子機器（３３０）に連結される。（１つ又は複数の）表示機器に用いられる制御情報は補充強化情報（ＳＥＩメッセージ）またはビデオユーザビリティ情報（ＶＵＩ）パラメータセットセグメント（図示せず）という形式であってもよい。パーサ（３２０）は受信された、符号化ビデオシーケンスに対して解析／エントロピー復号化を行う。符号化ビデオシーケンスの符号化は、ビデオ符号化技術または規格に基づくとともに、可変長符号化、ハフマン符号化（Ｈｕｆｆｍａｎ  ｃｏｄｉｎｇ）、コンテキスト感度を有するかまたは有しない算術符号化などのような各種原理に従う。パーサ（３２０）はグループに対応する少なくとも１つのパラメータに基づき、符号化ビデオシーケンスから、ビデオ復号器における画素のサブグループのうちの少なくとも１つのサブグループのためのサブグループパラメータセットを抽出する。サブグループには、ピクチャグループ（ＧＯＰ）、ピクチャ、タイル、スライス、マクロブロック、符号化ユニット（ＣＵ）、ブロック、変換ユニット（ＴＵ）、予測ユニット（ＰＵ）などが含まれる。パーサ（３２０）はさらに符号化ビデオシーケンスから、変換係数、量子化器パラメータ値、動きベクトルなどのような情報を抽出できる。
【００４４】
パーサ（３２０）は、バッファメモリ（３１５）から受信したビデオシーケンスに対してエントロピー復号化／解析操作を実行することで、符号（３２１）を構築し得る。
【００４５】
符号化されたビデオピクチャまたはその一部（例えば、フレーム間ピクチャ及びフレーム内ピクチャ、フレーム間ブロック及びフレーム内ブロック）のタイプ及び他の要因に依存し、符号（３２１）の再構築は複数の異なるユニットに関わる。どのユニットに関わるか、及び関わる方式は、パーサ（３２０）が符号化ビデオシーケンスから解析したサブグループ制御情報によって制御できる。簡潔のために、パーサ（３２０）と以下の複数のユニットとの間のこのようなサブグループ制御情報の流れを記載していない。
【００４６】
既に言及された機能ブロック以外では、ビデオ復号器（３１０）は概念的に以下に記載の若干の機能ユニットに細分できる。商業制約で実行する実際の実現方式において、これらのユニットにおける複数のユニットは互いに密接に対話するとともに、少なくとも部分的に互いに集積されてもよい。ただし、開示のテーマを説明するという目的から見れば、概念的に以下の機能ユニットに細分されることは適切である。
【００４７】
第１ユニットはスケーラ／逆変換ユニット（３５１）である。スケーラ／逆変換ユニット（３５１）はパーサ（３２０）から、（１つ又は複数の）符号（３２１）としての量子化変換係数及び制御情報を受信する。制御情報は、どんな変換方式を利用するか、ブロックの大きさ、量子化因子、量子化スケーリング行列などを含む。スケーラ／逆変換ユニット（３５１）は、アグリゲーター（３５５）に入力される、サンプル値が含まれるブロックを出力できる。
【００４８】
幾つかの場合に、スケーラ／逆変換ユニット（３５１）の出力サンプルはフレーム内符号化ブロックに属してもよく、即ち、前に再構築されたピクチャからの予測性情報を利用しないが、現在のピクチャの前に再構築された部分からの予測性情報のブロックを利用できる。このような予測性情報はフレーム内ピクチャ予測ユニット（３５２）から提供される。ある状況で、フレーム内ピクチャ予測ユニット（３５２）は現在のピクチャバッファ（３５８）から抽出された周辺の再構築された情報によって、再構築中のブロックの大きさ及び形状と同じであるブロックを生成する。例えば、現在のピクチャバッファ（３５８）は部分的に再構築された現在のピクチャ及び／または完全に再構築された現在のピクチャをバッファリングする。ある状況で、アグリゲーター（３５５）は各サンプルに基づき、フレーム内予測ユニット（３５２）が生成した予測情報を、スケーラ／逆変換ユニット（３５１）によって提供された出力サンプル情報に追加する。
【００４９】
他の場合に、スケーラ／逆変換ユニット（３５１）の出力サンプルはフレーム間符号化ブロックと潜在動き補償ブロックに属してもよい。このような状況で、動き補償予測ユニット（３５３）は参照ピクチャメモリ（３５７）にアクセスすることで、予測のためのサンプルを抽出できる。該ブロックに属する符号（３２１）に基づき、抽出されたサンプルに対して動き補償を行った後、これらのサンプルはアグリゲーター（３５５）からスケーラ／逆変換ユニット（３５１）の出力に追加され（この場合、残差サンプルまたは残差信号と呼ばれる）、出力サンプル情報を生成する。動き補償予測ユニット（３５３）が予測サンプルを抽出する参照ピクチャメモリ（３５７）内のアドレスは、動きベクトルによって制御でき、動きベクトルは符号（３２１）の形式で、動き補償予測ユニット（３５３）に用いられ、符号（３２１）は、例えばＸ、Ｙ及び参照ピクチャ成分を有してもよい。動き補償はさらに、サブサンプルの正確な動きベクトルを使用する際、参照ピクチャメモリ（３５７）から抽出されたサンプル値の補間、動きベクトル予測メカニズムなどを含んでもよい。
【００５０】
アグリゲーター（３５５）の出力サンプルは、ループフィルタユニット（３５６）において、各種のループフィルタリング技術を利用できる。ビデオ圧縮技術はループ内フィルタ技術を含み、ループ内フィルタ技術は、符号化ビデオシーケンス（符号化されたビデオビットストリームとも呼ばれる）に含まれるとともに、パーサ（３２０）からの符号（３２１）として、ループフィルタユニット（３５６）のパラメータ制御に使用されるが、ビデオ圧縮技術は、符号化されたピクチャまたは符号化ビデオシーケンスの（復号化の順序で）の前の部分を復号化する期間で取得されたメタ情報、及び前に再構築されループフィルタリングを経るサンプル値に応答できる。
【００５１】
ループフィルタユニット（３５６）の出力はサンプルストリームであってもよく、サンプルストリームは表示機器（３１２）に出力され、及び参照ピクチャメモリ（３５７）に記憶されることで、後にフレーム間ピクチャ予測に用いられる。
【００５２】
完全に再構築されると、ある符号化されたピクチャは参照ピクチャとして、後の予測に用いることができる。例えば、現在のピクチャに対応する符号化されたピクチャが完全に再構築され、符号化されたピクチャ（例えばパーサ（３２０）を介して）が参照ピクチャとして認識されると、現在のピクチャバッファ（３５８）は参照ピクチャメモリ（３５７）の一部になり、その後の符号化されたピクチャを再構築する前に、新たな現在のピクチャバッファを改めて割り当てる。
【００５３】
ビデオ復号器（３１０）は、例えばＩＴＵ−Ｔ  Ｈ.２６５提案書のような規格における所定のビデオ圧縮技術に基づき、復号化操作を実行することができる。符号化ビデオシーケンスは、ビデオ圧縮技術または規格の文法、及びビデオ圧縮技術または規格で文書化されたプロファイルの両者に従うという意味で、符号化ビデオシーケンスは使用中のビデオ圧縮技術または規格が指定する文法に準拠する。具体的に、プロファイルはビデオ圧縮技術または規格における利用可能な全てのツールから、該プロファイルのもとで利用可能なツールとして、幾つかのツールを選択できる。準拠性のために、符号化ビデオシーケンスの複雑度が、ビデオ圧縮技術または規格のレベルによって定義される範囲内にあることが要求されることがある。ある状況では、レベルは最大ピクチャの大きさ、最大フレームレート、最大再構築サンプリングレート（例えば、１００万サンプル／秒の単位で測る）、最大参照ピクチャの大きさを制限する。ある状況で、レベルにより設定される制限は、仮想参照復号器（ＨＲＤ）の仕様、及び符号化ビデオシーケンスにおいてシグナリングされたＨＲＤバッファの管理のメタデータを介してさらに限定される。
【００５４】
実施形態において、受信器（３３１）は追加（冗長）データ及び符号化されたビデオを受信できる。追加データは（１つ又は複数の）符号化ビデオシーケンスの一部として含まれる。追加データはビデオ復号器（３１０）によって利用されることで、データを適切に復号化し、及び／またはオリジナルビデオデータをより正確に再構築することができる。追加データは、例えば時間、空間または信号対雑音比（ＳＮＲ）強化層、冗長スライス、冗長ピクチャ、前方誤り訂正符号などの形式であってもよい。
【００５５】
図４は、本開示の内容の実施形態によるビデオ符号化器（４０３）のブロック図を示す。ビデオ符号器（４０３）は電子機器（４２０）に含まれる。電子機器（４２０）は伝送器（４４０）（例えば、伝送回路）を有する。ビデオ符号器（４０３）は図２の例示におけるビデオ符号器（２０３）の代わりとすることができる。
【００５６】
ビデオ符号器（４０３）はビデオ符号器（４０３）によって符号化されるビデオ画像をキャプチャし得るビデオソース（４０１）（図４例示における電子機器（４２０）の一部ではない）からビデオサンプルを受信できる。他の例示において、ビデオソース（４０１）は電子機器（４２０）の一部である。
【００５７】
ビデオソース（４０１）は、ビデオ符号器（４０３）によって符号化され、デジタルビデオサンプルストリームの形式であるソースビデオシーケンスを提供でき、該デジタルビデオサンプルストリームは任意の適切なビット深度（例えば、８ビット、１０ビット、１２ビット…）、任意の色空間（例えば、ＢＴ.６０１  ＹＣｒＣＢ、ＲＧＢ……）、及び任意の適切なサンプリング構成（例えば、ＹＣｒＣｂ  ４：２：０、ＹＣｒＣｂ  ４：４：４）を有してもよい。メディアサービスシステムにおいて、ビデオソース（４０１）は、前に準備されたビデオを記憶するための記憶機器であってもよい。ビデオ会議システムにおいて、ビデオソース（４０１）は、ビデオシーケンスとして、ローカル画像情報をキャプチャするための撮影装置であってもよい。ビデオデータは、順序に応じて見る際、動きが付与された複数の単独のピクチャとして提供されてもよい。ピクチャそのものは、空間画素アレイとして組織され、使用のサンプリング構成、色空間などに依存し、各画素には１つ又は複数のサンプルが含まれてもよい。画素とサンプルとの間の関係は、当業者にとって容易に理解できる。以下の記載はサンプルに着目する。
【００５８】
実施形態によれば、ビデオ符号器（４０３）は、リアルタイムまたはアプリケーションの必要な任意の他の時間の制約で、ソースビデオシーケンスのピクチャを符号化するとともに、符号化ビデオシーケンス（４４３）として圧縮する。適切的な符号化速度で実行することは、コントローラ（４５０）の１つの機能である。幾つかの実施例において、コントローラ（４５０）は以下に記載の他の機能ユニットを制御するとともに、機能的に他の機能ユニットに連結される。簡潔のために、該連結を図示していない。コントローラ（４５０）により設置されるパラメータは、レート制御に関するパラメータ（ピクチャスキップ、量子化器、レート歪み最適化技術のλ値......）、ピクチャの大きさ、ピクチャグループ（ＧＯＰ）の配置、最大動きベクトルの検索範囲などを含んでもよい。コントローラ（４５０）は他の適切な機能を有するように配置されてもよく、これらの機能は、あるシステム設計に対して最適化したビデオ符号器（４０３）に属する。
【００５９】
幾つかの実施形態において、ビデオ符号器（４０３）は符号化ループにおいて操作するように配置される。非常に簡単な記載として、１つの例示において、符号化ループはソース符号器（４３０）（例えば、符号化対象となる入力ピクチャと（１つ又は複数）参照ピクチャに基づき、符号ストリームのような符号を構築することに担当する）、及びビデオ符号器（４０３）に埋め込まれる（ローカル）復号器（４３３）を含む。復号器（４３３）は、（リモート）復号器がサンプルデータを構築するという方式で、符号を再構築し、サンプルデータを構築する（なぜならば、開示のテーマで考慮されるビデオ圧縮技術において、符号と符号化されたビデオビットストリームとの間の圧縮はいずれも可逆であるからだ）。再構築されたサンプルストリーム（サンプルデータ）を参照ピクチャメモリ（４３４）に入力する。符号ストリームの復号化は、復号器位置（ローカルまたはリモート）と関係がないビット正確結果を発生させるから、参照ピクチャメモリ（４３４）におけるコンテンツはローカル符号器とリモート符号器との間でもビット正確である。言い換えれば、符号器の予測部分から「見られる」参照ピクチャサンプルは復号器が復号化期間で予測を利用しようとする際に「見られる」サンプル値と完全に同じである。該参照ピクチャの同期性の基本原理は（及び、例えばチャンネル誤差から、同期性を維持できない場合に発生するドリフト）も関連分野に適用される。
【００６０】
「ローカル」復号器（４３３）の操作は、例えば、以上図３を結合し詳しく記載したビデオ復号器（３１０）のような「リモート」復号器の操作と同じであってもよい。ただし、図３を簡単に参照し、符号は利用可能で、エントロピー符号器（４４５）とパーサ（３２０）とはロスレスに符号を符号化ビデオシーケンスに符号化／復号化することができる場合、バッファメモリ（３１５）とパーサ（３２０）とを含むビデオ復号器（３１０）のエントロピー復号化部分は、ローカル復号器（４３３）において完全に実現されない可能性がある。
【００６１】
この場合、復号器に存在する解析／エントロピー復号化以外の任意の復号器技術も、必然として、基本的に同じ機能という形式で、対応する符号器に存在する。このため、開示のテーマは、復号器の操作に着目する。符号器技術と全面的に記載された復号器技術とは反対するから、符号器技術に対する記載を簡略化し得る。特定の領域のみより詳しい記載が必要で、以下で提供される。
【００６２】
操作期間において、幾つかの例示において、ソース符号器（４３０）は動き補償予測符号化を実行でき、該動き補償予測符号化はビデオシーケンスからの、「参照ピクチャ」として指定される１つ又は複数の前の符号化ピクチャを参照し、入力ピクチャに対して予測性符号化を行う。該方式で、符号化エンジン（４３２）は、入力ピクチャの画素ブロックと、入力ピクチャの（１つ又は複数の）予測参照の（１つ又は複数の）参照ピクチャとして選択される画素ブロックとの間の差に対して符号化を行う。
【００６３】
ローカルビデオ復号器（４３３）は、ソース符号器（４３０）によって構築された符号に基づき、参照ピクチャとして指定できるピクチャの符号化ビデオデータを復号化することができる。符号化エンジン（４３２）の操作は好ましくは非可逆処理である。符号化ビデオデータがビデオ復号器（図４において図示せず）で復号化できると、再構築されたビデオシーケンスは、一般的にある程度誤差を有するソースビデオシーケンスのコピーであってもよい。ローカルビデオ復号器（４３３）はビデオ復号器が参照ピクチャに対して実行する復号化処理をコピーするとともに、再構築された参照ピクチャを参照ピクチャキャッシュ（４３４）に記憶させる。該方式で、ビデオ符号器（４０３）は再構築された参照ピクチャのコピーをローカル的に記憶し、該コピーは、リモートビデオ復号器によって取得される再構築の参照ピクチャと、共通のコンテンツを有する（伝送誤差がない）。
【００６４】
予測器（４３５）は、符号化エンジン（４３２）に対して予測検索を実行することができる。即ち、符号化対象となる新たなピクチャに対して、予測器（４３５）は参照ピクチャメモリ（４３４）から新たなピクチャとしての適切な予測参照のサンプルデータ（候補参照画素ブロックとして）、またはあるメタデータ例えば参照ピクチャ動きベクトル、ブロック形状などを検索する。予測器（４３５）はサンプルブロックに基づき、画素ブロックごとに操作することで、適切な予測参照を見つけることができる。ある状況で、予測器（４３５）によって取得された検索結果に基づき決定されるように、入力ピクチャは参照ピクチャメモリ（４３４）に記憶された複数の参照ピクチャから取得される予測参照を有してもよい。
【００６５】
コントローラ（４５０）は、ソース符号器（４３０）の符号化操作を管理でき、例えば、ビデオデータを符号化するためのパラメータとサブグループパラメータを設置する。
【００６６】
エントロピー符号器（４４５）において、以上に言及された全ての機能ユニットの出力に対してエントロピー符号化を行うことができる。エントロピー符号器（４４５）は、例えばハフマン符号化、可変長符号化、算術符号化などの技術に基づいて、各種機能ユニットから生成された符号に対して可逆圧縮を行うことで、符号を符号化ビデオシーケンスに変換する。
【００６７】
伝送器（４４０）は、エントロピー符号器（４４５）によって構築された（１つ又は複数の）符号化ビデオシーケンスをバッファリングすることで、通信チャンネル（４６０）を介して伝送するように準備し、通信チャンネル（４６０）は符号化ビデオデータを記憶するための記憶機器へのハードウェア／ソフトウェアリンクであってもよい。伝送器（４４０）はビデオ符号器（４０３）からの符号化ビデオデータと、伝送対象となる他のデータ、例えば符号化オーディオデータ及び／または補助データストリーム（ソースを図示せず）とをマージする。
【００６８】
コントローラ（４５０）は、ビデオ符号器（４０３）の操作を管理できる。符号化の期間に、コントローラ（４５０）は各符号化ピクチャに、特定の符号化ピクチャタイプを割り当て、これはそれぞれの画像に適用され得る符号化技術に影響を及ぼし得る。例えば、一般的に、ピクチャに以下のピクチャタイプのうちの１つが割り当てられる。
【００６９】
フレーム内ピクチャ（Ｉピクチャ）は、シーケンスにおけるいずれの他のピクチャも予測のソースとして使うことなく、符号化及び復号化されるピクチャであってもよい。いくつかのビデオコーデックは、例えば独立復号器リフレッシュ（「ＩＤＲ」）ピクチャを含む、異なるタイプのフレーム内ピクチャを許容する。当業者は、Ｉピクチャの変体及びその相応的な応用、特徴を理解できる。
【００７０】
予測性ピクチャ（Ｐピクチャ）は、フレーム内予測〔イントラ予測〕またはフレーム間予測〔インター予測〕を利用して符号化及び復号化されるピクチャであってもよく、該フレーム内予測またはフレーム間予測は多くても１つの動きベクトル及び参照インデックスを使って各ブロックのサンプル値を予測する。
【００７１】
双方向予測性ピクチャ（Ｂピクチャ）は、フレーム内予測またはフレーム間予測を利用して符号化及び復号化されるピクチャであってもよく、該フレーム内予測またはフレーム間予測は多くても２つの動きベクトル及び参照インデックスによって、各ブロックのサンプル値を予測する。同様に、マルチ予測性ピクチャは、２つより多い参照ピクチャおよび関連するメタデータを、単一のブロックの再構築に使用できる。
【００７２】
ソースピクチャは一般的に、空間で複数のサンプルブロック（例えば、４×４、８×８、４×８または１６×１６個のサンプルのブロック）に細分できるとともに、ブロックごとに符号化されることができる。これらのブロックは、他の（すでに符号化された）ブロックを参照して予測的に符号化され、該他のブロックはブロックの相応的なピクチャに適用される符号化割当によって決定される。例えば、Ｉピクチャのブロックは、非予測的に符号化されてもよく、または同じピクチャのすでに符号化されたブロックを参照して、予測的に符号化（空間予測またはフレーム内予測）されてもよい。Ｐピクチャの画素ブロックは、前に符号化された１つの参照ピクチャを参照し、空間予測または時間予測を介して予測的に符号化されてもよい。Ｂピクチャのブロックは、前に符号化された１つまたは２つの参照ピクチャを参照し、空間予測または時間予測を介して予測的に符号化されてもよい。
【００７３】
ビデオ符号器（４０３）は、例えばＩＴＵ−Ｔ  Ｈ.２６５提案書の所定のビデオ符号化技術または規格に基づき符号化操作を実行することができる。ビデオ符号器（４０３）は、その操作において、入力ビデオシーケンスにおける時間と空間冗長を利用した予測性符号化操作を含む各種の圧縮操作を実行できる。従って、符号化ビデオデータは、使用のビデオ符号化技術または規格が指定する文法に合う。
【００７４】
実施形態において、伝送器（４４０）は追加データ及び符号化されたビデオを伝送することができる。ソース符号器（４３０）は符号化ビデオシーケンスの一部として、このようなデータを含んでもよい。追加データは、時間／空間／ＳＮＲ強化層、冗長ピクチャ及びスライスのような他の形式の冗長データ、補充強化情報（ＳＥＩ）メッセージ、ビデオユーザビリティ情報（ＶＵＩ）パラメータセットセグメントなどを含んでもよい。
【００７５】
ビデオは、時間的順序で複数のソースピクチャ（ビデオピクチャ）としてキャプチャされ得る。フレーム内ピクチャ予測（一般的にフレーム内予測に簡略化される）は特定のピクチャにおける空間の関連性を利用し、フレーム間ピクチャ予測はピクチャの間の（時間または他の）関連性を利用する。例示において、現在のピクチャと呼ばれる符号化／復号化における特定ピクチャは、ブロックに分割される。現在のピクチャにおけるブロックは、ビデオにおける前に符号化され且つ依然としてバッファリングされる参照ピクチャにおける参照ブロックに類似する場合、動きベクトルと呼ばれるベクトルによって、現在のピクチャにおけるブロックを符号化することができる。前記動きベクトルは参照ピクチャにおける参照ブロックを指し、複数の参照ピクチャを利用する場合、参照ピクチャを認識するための第３次元を有してもよい。
【００７６】
幾つかの実施形態において、双方向予測技術はフレーム間ピクチャ予測に用いられる。双方向予測技術に基づき、復号化順次でいずれもビデオにおける現在のピクチャの前（ただし、表示順次で、それぞれ過去と将来にある可能性がある）にある、第１参照ピクチャと第２参照ピクチャのような２つの参照ピクチャを利用する。第１参照ピクチャにおける第１参照ブロックを指す第１動きベクトル、及び第２参照ピクチャにおける第２参照ブロックを指す第２動きベクトルによって現在のピクチャにおけるブロックを符号化することができる。第１参照ブロックと第２参照ブロックとの組み合わせで、ブロックを予測できる。
【００７７】
また、マージモード技術は、フレーム間ピクチャ予測に用いられることで、符号化効率を向上させる。
【００７８】
本開示の内容の幾つかの実施形態によれば、ブロックごとにフレーム間ピクチャ予測及びフレーム内ピクチャ予測のような予測を実行する。例えば、ＨＥＶＣ規格に基づき、ビデオピクチャシーケンスにおけるピクチャは符号化ツリーブユニット（ＣＴＵ）に分割され、圧縮に用いられ、ピクチャにおけるＣＴＵは、例えば６４×６４画素、３２×３２画素または１６×１６画素のような同じサイズを有する。一般的に、ＣＴＵは、１つの輝度ＣＴＢと２つのクロミナンスＣＴＢとが含まれる３つの符号化ツリーブロック（ＣＴＢ）を含む。各ＣＴＵは再帰的に、クワッドツリーで１つ又は複数の符号化ユニット（ＣＵ）に分割される。例えば、６４×６４画素であるＣＴＵを６４×６４画素である１つのＣＵ、または３２×３２画素である４つのＣＵ、或いは１６×１６画素である１６個のＣＵに分割する。例示において、各ＣＵを分析することで、フレーム間予測タイプまたはフレーム内予測タイプのような、ＣＵに用いられる予測タイプを決定する。時間及び／または空間の予測可能性に依存し、ＣＵは１つ又は複数の予測ユニット（ＰＵ）に分割される。一般的に、各ＰＵは輝度予測ブロック（ＰＢ）と２つのクロミナンスＰＢとを含む。実施形態において、符号化（符号化／復号化）における予測操作は、予測ブロックごとに実行される。予測ブロックの例示として、輝度予測ブロックを利用し、予測ブロックは、８×８画素、１６×１６画素、８×１６画素、１６×８画素などのような画素値（例えば、輝度値）の行列を含む。
【００７９】
図５は、本開示の内容の他の実施形態によるビデオ符号化器（５０３）の図を示す。ビデオ符号化器（５０３）は、ビデオピクチャシーケンスにおける現在ビデオピクチャ内のサンプル値の処理ブロック（例えば、予測ブロック）を受信するとともに、処理ブロックを符号化ビデオシーケンスの一部としての符号化ピクチャに符号化するように配置される。例示において、ビデオ符号器（５０３）は図２の例示におけるビデオ符号器（２０３）の代わりとして用いられる。
【００８０】
ＨＥＶＣ例示において、ビデオ符号器（５０３）は、処理ブロック、例えば８×８サンプルの予測ブロックなどのサンプル値の行列を受信する。ビデオ符号器（５０３）は、例えばレート歪み最適化によって、フレーム内モード、フレーム間モードまたは双方向予測モードを利用して最適に処理ブロックを符号化するかということを決定する。フレーム内モードで処理ブロックを符号化しようとすると、ビデオ符号器（５０３）はフレーム内予測技術によって、処理ブロックを符号化ピクチャに符号化し、フレーム間モードまたは双方向予測モードで処理ブロックを符号化しようとすると、ビデオ符号器（５０３）はそれぞれフレーム間予測または双方向予測技術によって、処理ブロックを符号化ピクチャに符号化することができる。あるビデオ符号化技術において、マージモードはフレーム間ピクチャ予測サブモードであってもよく、予測値の外部にある符号化動きベクトル成分を借りない場合、１つ又は複数の動きベクトル予測値（ｐｒｅｄｉｃｔｏｒ）から動きベクトルを導出する。ある他のビデオ符号化技術において、テーマブロックに適用される動きベクトル成分が存在し得る。例示において、ビデオ符号器（５０３）は、処理ブロックのモードを決定するためのモード決定モジュール（図示せず）のような、他の部材を含む。
【００８１】
図５の例示において、ビデオ符号器（５０３）は図５に示すように連結されたフレーム間符号器（５３０）、フレーム内符号器（５２２）、残差計算器（５２３）、スイッチ（５２６）、残差符号器（５２４）、汎用コントローラ（５２１）及びエントロピー符号器（５２５）を含む。
【００８２】
フレーム間符号器（５３０）は、現在ブロック（例えば、処理ブロック）のサンプルを受信し、ブロックと参照ピクチャにおける１つ又は複数の参照ブロック（例えば、前のピクチャとその後のピクチャにおけるブロック）とを比較し、フレーム間予測情報（例えば、動きベクトル、マージモード情報、フレーム間符号化技術による冗長情報に対する記載）を生成し、フレーム間予測情報に基づき任意の適切な技術を利用してフレーム間予測結果（例えば、予測のブロック）を計算するように配置される。幾つかの例示において、参照ピクチャは符号化されたビデオ情報に基づき復号化された、復号化済み参照ピクチャである。
【００８３】
フレーム内符号器（５２２）は、現在ブロック（例えば、処理ブロック）のサンプルを受信し、幾つかの場合に、ブロックと同一のピクチャにおける符号化されたブロックとを比較し、変換した後、量子化係数を生成し、ある状況で、さらに（例えば、１つ又は複数のフレーム内符号化技術によるフレーム内予測方向情報）フレーム内予測情報を生成するように配置される。１つの例示において、フレーム内符号器（５２２）はさらにフレーム内予測情報と同一のピクチャにおける参照ブロックに基づき、フレーム内予測結果を計算する（例えば、予測のブロック）。
【００８４】
汎用コントローラ（５２１）は、汎用制御データを決定し、汎用制御データに基づきビデオ符号器（５０３）の他の部材を制御するように配置される。１つの例示において、汎用コントローラ（５２１）はブロックのモードを決定し、該モードに基づき制御信号をスイッチ（５２６）に提供する。例えば、モードがフレーム内モードである場合、汎用コントローラ（５２１）は、残差計算器（５２３）の使用のフレーム内モード結果を選択するようにスイッチ（５２６）を制御し、フレーム内予測情報を選択するようにエントロピー符号器（５２５）を制御するとともに、フレーム内予測情報をビットストリームに含ませる。モードがフレーム間モードである場合、汎用コントローラ（５２１）は、残差計算器（５２３）の使用のフレーム間予測結果を選択するように、スイッチ（５２６）を制御し、フレーム間予測情報を選択するようにエントロピー符号器（５２５）を制御するとともに、フレーム間予測情報をビットストリームに含ませる。
【００８５】
残差計算器（５２３）は、受信したブロックとフレーム内符号器（５２２）またはフレーム間符号器（５３０）から選択した予測結果との間の差（残差データ）を計算するように配置される。残差符号器（５２４）は、残差データに基づき操作し、残差データを符号化することで変換係数を生成するように配置される。１つの例示において、残差符号器（５２４）は、残差データを空間領域から周波数領域に変換し、変換係数を生成するように配置される。係数を変換してから、量子化処理を介して、量子化の変換係数を取得する。各実施例において、ビデオ符号器（５０３）はさらに残差復号器（５２８）を含む。残差復号器（５２８）は、逆変換を実行し、復号化された残差データを生成するように配置される。復号化された残差データは、適切にフレーム内符号器（５２２）とフレーム間符号器（５３０）によって利用できる。例えば、フレーム間符号器（５３０）は復号化された残差データとフレーム間予測情報に基づき、復号化ブロックを生成し、且つフレーム内符号器（５２２）は復号化された残差データとフレーム内予測情報に基づき復号化ブロックを生成できる。幾つかの例示において、復号化ブロックは適切に処理されることで、復号化ピクチャを生成し、復号化されたピクチャは、メモリ回路（図示せず）においてバッファリングされ、参照ピクチャとして利用できる。
【００８６】
エントロピー符号器（５２５）は、符号化されたブロックを含むようにビットストリームをフォーマットするように配置される。エントロピー符号器（５２５）はＨＥＶＣ規格のような適切な規格に基づく各種情報を含むように配置される。例示において、エントロピー符号器（５２５）はビットストリームに汎用制御データ、選択の予測情報（例えば、フレーム内予測情報またはフレーム間予測情報）、残差情報及び他の適切な情報を含ませるように配置される。なお、開示のテーマに基づき、フレーム間モードまたは双方向予測モードのマージサブモードでブロックを符号化する場合、残差情報が存在しない。
【００８７】
図６は、本開示の内容の他の実施形態によるビデオ復号器（６１０）の図を示す。ビデオ復号器（６１０）は、符号化ビデオシーケンスの一部としての符号化ピクチャを受信するとともに、符号化ピクチャを復号化することで、再構築されたピクチャを生成するように配置される。例示において、ビデオ復号器（６１０）は、図２の例示におけるビデオ復号器（２１０）の代わりとして用いられる。
【００８８】
図６の例示において、ビデオ復号器（６１０）は図６に示すように連結されたエントロピー復号器（６７１）、フレーム間復号器（６８０）、残差復号器（６７３）、再構築モジュール（６７４）及びフレーム内復号器（６７２）を含む。
【００８９】
エントロピー復号器（６７１）は、符号化されたピクチャに基づき、符号化されたピクチャを構成する文法要素を示す幾つかの符号を再構築するように配置される。このような符号は、例えば、ブロックを符号化するためのモード（例えば、フレーム内モード、フレーム間モード、双方向予測モード、後の両者のマージサブモードまたは他のサブモード）、それぞれフレーム内復号器（６７２）またはフレーム間復号器（６８０）に用いられることで予測するための幾つかのサンプルまたはメタデータを認識できる予測情報（例えば、フレーム内予測情報またはフレーム間予測情報）、例えば量子化の変換係数という形式の残差情報などを含む。例示において、予測モードがフレーム間または双方向予測モードである場合、フレーム間予測情報をフレーム間復号器（６８０）に提供し、予測タイプがフレーム内予測タイプである場合、フレーム内予測情報をフレーム内復号器（６７２）に提供する。残差情報は逆量子化を介して残差復号器（６７３）に提供される。
【００９０】
フレーム間復号器（６８０）は、フレーム間予測情報を受信し、フレーム間予測情報に基づきフレーム間予測結果を生成するように配置される。
【００９１】
フレーム内復号器（６７２）は、フレーム内予測情報を受信し、フレーム内予測情報に基づき予測結果を生成するように配置される。
【００９２】
残差復号器（６７３）は、逆量子化を実行することで、逆量子化された変換係数を抽出し、逆量子化された変換係数を処理することによって残差を周波数領域から空間領域に変換するように配置される。残差復号器（６７３）は、幾つかの制御情報を必要とする可能性があり（量子化器パラメータ（ＱＰ）を含む）、該情報はエントロピー復号器（６７１）から提供される（これは少ない制御情報であるから、データ経路を図示せず）。
【００９３】
再構築モジュール（６７４）は、空間領域において、残差復号器（６７３）から出力された残差と予測結果（場合によって、フレーム間予測モジュールまたはフレーム内予測モジュールから出力されてもよい）とを組み合わせることで、再構築のブロックを形成するように配置され、該再構築のブロックは、再構築されるピクチャの一部であってもよく、再構築されるピクチャは、再構築されるビデオの一部であってもよい。なお、デブロッキング操作のような、他の適切な操作を実行することで、視覚品質を向上させる。
【００９４】
なお、任意の適切な技術でビデオ符号器（２０３）、ビデオ符号器（４０３）、ビデオ符号器（５０３）、及びビデオ復号器（２１０）、ビデオ復号器（３１０）、ビデオ復号器（６１０）を実現できる。１つの実施形態において、１つ又は複数の集積回路を介してビデオ符号器（２０３）、ビデオ符号器（４０３）、ビデオ符号器（５０３）、及びビデオ復号器（２１０）、ビデオ復号器（３１０）、ビデオ復号器（６１０）を実現できる。他の実施形態において、ビデオ復号器（２０３）、（４０３）、（４０３）、及びビデオ復号器（２１０）、（３１０）、（６１０）はソフトウェア命令を実行するための１つ又は複数のプロセッサによって実現される。
【００９５】
本開示の内容の各態様は、フレーム内ブロックコピーモードでの参照ブロック位置を制約する技術を提供し、さらに、非正方形ブロックパーティションを備えたフレーム内ピクチャブロック補償バッファを再利用する技術を提供する。
【００９６】
ブロックに基づく補償は、フレーム間予測及びフレーム内予測に使用されてもよい。フレーム間予測の場合、異なるピクチャからのブロックに基づく補償は動き補償と呼ばれる。フレーム内予測の場合、ブロックに基づく補償は、同一のピクチャ内の以前に再構築された領域に対して行われてもよい。同一のピクチャからの再構築された領域のブロックに基づく補償はフレーム内ピクチャブロック補償、現在のピクチャ参照（current  picture  referencing、ＣＰＲ）又はフレーム内ブロックコピー（intra  block  copy、ＩＢＣ）と呼ばれる。同一のピクチャにおける現在のブロックと参照ブロックとの間のオフセットを指示する変位ベクトルは、ブロックベクトルと呼ばれる（又は、ＢＶと略称される）。任意の値であり得る（ｘ方向またはｙ方向に正値または負値である）動き補償における動きベクトルとは異なり、ブロックベクトルは制約条件があり、参照ブロックが利用可能であり且つ既に再構築されたことを確保する。また、幾つかの例において、並行する処理を考慮すると、タイル境界または波面ラダー形状境界である一部の参照領域が除外される。
【００９７】
ブロックベクトルの符号化は明示的または暗黙的であってもよい。明示的モードにおいて（フレーム間符号化における高度動きベクトル予測（ＡＭＶＰ）モードと類似する）、ブロックベクトルとその予測値との間の差をシグナリングし、暗黙的モードにおいて、ブロックベクトルは、マージモードでの動きベクトルと同様に予測値（ブロックベクトル予測値と呼ばれる）から復元される。幾つかの実現方式においては、ブロックベクトルの解像度は整数位置に制限され、他のシステムにおいては、ブロックベクトルは小数の位置を指すことを許可する。
【００９８】
幾つかの例において、ブロックレベルフラグ（ＩＢＣフラグ）を使用してブロックレベルのフレーム内ブロックコピーの使用をシグナリングしてもよい。実施形態において、マージモードで現在のブロックを符号化していない場合に、ＩＢＣフラグをシグナリングする。他の実施形態において、参照インデックス方法を使用してＩＢＣフラグをシグナリングする。その後、復号化中の現在のピクチャを参照ピクチャとして見なす。例において、このような参照ピクチャは、参照ピクチャのリストの最後の位置にセットされる。該特定の参照ピクチャは、さらに、他の時間参照ピクチャとともにバッファ例えば復号化ピクチャバッファ（ＤＰＢ）において管理される。
【００９９】
フレーム内ブロックコピーに幾つかの変体もあり、例えば、フリップされるフレーム内ブロックコピー（参照ブロックが現在のブロックの予測に使用される前に水平又は垂直にフリップされる）、又は行に基づくフレーム内ブロックコピー（Ｍ×Ｎ符号化ブロック内の各補償ユニットはＭ×１又は１×Ｎ行である）がある。
【０１００】
図７は、本開示の内容の実施形態によるフレーム内ブロックコピーの例を示す。現在のピクチャ（７００）は復号化中である。現在のピクチャ（７００）は再構築された領域（７１０）（灰色の領域）及び復号化しようとする領域（７２０）（白い領域）を含む。現在のブロック（７３０）は復号器によって再構築中である。再構築された領域（７１０）における参照ブロック（７４０）に応じて現在のブロック（７３０）を再構築することができる。参照ブロック（７４０）と現在のブロック（７３０）との間の位置オフセットはブロックベクトル（７５０）（又はＢＶ（７５０））と呼ばれる。
【０１０１】
幾つかの実現方式の例において、現在のピクチャの再構築されたサンプルは、専用メモリにおいてバッファリングされてもよい。実現のコストを考慮すると、参照領域はフルフレームほど大きくすることはできず、専用メモリの記憶サイズまで限定される。幾つかの実施形態において、フレーム内ブロックコピーにおけるブロックベクトルは、フルピクチャを参照せず、幾つかの隣接する領域のみを参照することが許可されている。一例において、専用メモリのメモリサイズは１つのＣＴＵであり、そして、参照ブロックが現在のブロックと同じＣＴＵ内にある場合、フレーム内ブロックコピーモードを使用してもよい。別の例において、メモリサイズは２つのＣＴＵであり、そして、参照ブロックが現在のＣＴＵ内にある又は現在のＣＴＵの左側のＣＴＵ内にある場合、フレーム内ブロックコピーモードを使用してもよい。一例において、参照ブロックが指定されたローカル領域の外にある場合、参照ブロックが既に再構築されていても、参照サンプルはフレーム内ピクチャブロック補償に使用することはできない。
【０１０２】
制約された参照領域において、フレーム内ブロックコピーの効率は制限される。制約された参照領域におけるフレーム内ブロックコピーの効率をさらに向上させる必要がある。
【０１０３】
ビデオ符号化規格の幾つかのバージョンにおいて、例えば、ＶＶＣのバージョンにおいて、ピクチャは重複しないＣＴＵのアレイに分割される。ＣＴＵのサイズは、１２８×１２８の輝度サンプル（及び、カラーフォーマットに依存する対応するクロマサンプル）に設置される。例えば、二分木（ＢＴ）分割、三分木（ＴＴ）分割などのツリー分割方法の１つまたは他の組み合わせを使用してＣＴＵを符号化ユニット（ＣＵ）に分割してもよい。ＢＴ分割は、親ブロックを水平方向または垂直方向に半分に分割する。親ブロックと比べて、ＢＴ分割して得られた２つの小さい分割は半分のサイズを有する。ＴＴ分割は親ブロックを水平又は垂直方向に３つの部分に分割する。この３つの部分の中央部分は、他の２つの部分の２倍のサイズである。親ブロックと比べて、ＴＴ分割して得られた３つの小さい分割は１/４、１/２及び１/４のサイズを有する。
【０１０４】
幾つかの実施形態において、１２８×１２８レベルのブロックの分割は、幾つかの結果、例えば、１つの１２８×１２８ブロック、２つの１２８×６４ブロック、２つの６４×１２８ブロック又は４つの６４×６４ブロックを許可するように制約される。幾つかの例において、分割は、１２８×６４又は６４×１２８のブロックレベルでいずれかの（水平又は垂直の）方向でのＴＴ分割が許可されないようにさらに制約される。また、例において、１２８×６４又は６４×１２８は、さらに分割される場合、２つの６４×６４ブロックに分割することのみを許可する。制約される分割タイプは通常の分割タイプと呼ばれる。
【０１０５】
幾つかの例において、限られたメモリ要件でフレーム内ブロックコピーを実現する。実現方式の例において、以前に符号化されたＣＵの参照サンプルを記憶して将来のフレーム内ブロックコピー参照に使用される指定のメモリは参照サンプルメモリと呼ばれる。例えば、フレーム内ブロックコピーモードの未フィルタリングサンプルを記憶するための参照サンプルメモリ（バッファとも呼ばれる）の最大サイズは、１ＣＴＵ（１２８×１２８の輝度サンプル及び対応するクロマサンプル）サイズである。このような制約されるメモリを十分に利用するために、幾つかの例において、バッファは６４×６４ごとに更新される。例において、参照サンプルメモリの一部がまだ現在のＣＴＵからの再構築されたサンプルを使用して更新していない場合、メモリに記憶されているこれらの一部のデータは実際には左のＣＴＵからの再構築サンプルである。これらのサンプルはフレーム内ブロックコピーモードで現在のブロックを予測するための参照として使用される。そして、有効検索範囲は現在のＣＴＵ内から左のＣＴＵの一部に拡張される。
【０１０６】
従って、幾つかの実施形態において、現在のＣＴＵ内の再構築されたサンプルを使用して参照サンプルメモリを更新する前に、参照サンプルメモリは再利用されて左のＣＴＵ内の以前に符号化されたサンプルを記憶してもよい。実施形態において、参照サンプルメモリの可用性は６４×６４ごとに更新される。例において、ある６４×６４ブロックにおける参照サンプルのいずれかのサンプルが更新されると、その６４×６４ブロック全体が、現在のＣＴＵから再構築されたサンプルを使用して更新されたと見なし、そして、更新前のサンプルの記憶と見なさない。幾つかの実現方式の例において、メモリ（例えば、バッファメモリ、オンチップメモリなど）内の連続するメモリスペースを割り当てて６４×６４ブロックの再構築サンプルを記憶し、連続するメモリスペースから再構築されたサンプルを記憶及びリードバックするアドレッシング操作は、相対的簡単な計算で実行できる。幾つかの例において、符号化領域（例えば６４×６４符号化領域）の再構築されたサンプルを記憶する連続するメモリスペースはメモリ更新ユニットと呼ばれる。減少したアドレッシング計算を使用してメモリ更新ユニットにおけるサンプルへのアクセスを実行してもよく、そして、異なるメモリ更新ユニットにおけるサンプルにアクセスすると、アドレッシング計算の数を増やす必要がある。
【０１０７】
図８Ａ乃至図８Ｄは、本開示の内容の実施形態による６４×６４ごとの参照サンプルメモリ更新及びフレーム内ブロックコピーモードの有効検索範囲の例を示す。幾つかの例において、符号器/復号器は、１つのＣＴＵのサンプル（例えば、１２８×１２８サンプル）を記憶できるキャッシュメモリを含む。また、図８Ａ乃至図８Ｄの例において、ＣＴＵは４つの６４×６４符号化領域（coding  region）に分割される。予測のための現在のブロックをもつ符号化領域（符号化領域に等しくてもよく、符号化領域より小さくてもよい）は現在の符号化領域と呼ばれる（「Ｃｕｒｒ」と標記される）。他の適切なサイズの符号化領域については例を適切に修正してもよいことに留意されたい。
【０１０８】
図８Ａ乃至図８Ｄのそれぞれに現在のＣＴＵ（８２０）及び左のＣＴＵ（８１０）を示している。左のＣＴＵ（８１０）は４つの符号化領域（８１１）〜（８１４）を含み、且つ、各符号化領域は６４×６４サンプルのサンプルサイズを有する。現在のＣＴＵ（８２０）は４つの符号化領域（８２１）〜（８２４）を含み、そして、各符号化領域は６４×６４サンプルのサンプルサイズを有する。現在のＣＴＵ（８２０）は再構築中の現在の符号化領域（例えば、ラベル「Ｃｕｒｒ」に示すように、縦縞パターンを有する）を含むＣＴＵを含む。左のＣＴＵ（８１０）は現在のＣＴＵ（８２０）の左側に隣接している。図８Ａ乃至図８Ｄにおいて、灰色のブロックは既に再構築された符号化領域であり、白いブロックは再構築しようとする符号化領域である。
【０１０９】
図８Ａにおいて、再構築中の現在の符号化領域は符号化領域（８２１）である。キャッシュメモリは、符号化領域（８１２）、（８１３）及び（８１４）における再構築されたサンプルを記憶し、そして、キャッシュメモリは現在の符号化領域（８２１）の再構築されたサンプルを記憶するために用いられる。図８Ａの例において、現在の符号化領域（８２１）の有効検索範囲は左のＣＴＵ（８１０）における符号化領域（８１２）、（８１３）及び（８１４）を含み、これらの領域における再構築されたサンプルはキャッシュメモリに記憶される。例において、現在の符号化領域（８２１）からの１つ又は複数の再構築されたサンプルを使用してキャッシュメモリを更新した場合に、符号化領域（８１１）の一部は既に現在のＣＴＵからの再構築されたサンプルで更新されたので、符号化領域（８１１）はキャッシュメモリにおいてＣＰＲ予測に使用できない（「Ｘ」と標記される）と認められる。実施形態において、符号化領域（８１１）の再構築されたサンプルは、キャッシュメモリよりもアクセス速度が遅いメインメモリに記憶される（例えば、符号化領域（８２１）を再構築する前にキャッシュメモリからメインメモリにコピーされる）ことに留意されたい。
【０１１０】
図８Ｂにおいて、再構築中の現在の符号化領域は符号化領域（８２２）である。キャッシュメモリは、符号化領域（８１３）、（８１４）及び（８２１）における再構築されたサンプルを記憶し、そして、キャッシュメモリは現在の符号化領域（８２２）の再構築されたサンプルを記憶するために用いられる。図８Ｂの例において、現在の符号化領域（８２２）の有効検索範囲は左のＣＴＵ（８１０）における符号化領域（８１３）と（８１４）、及び現在のＣＴＵ（８２０）における符号化領域（８２１）を含み、これらの領域における再構築されたサンプルはキャッシュメモリに記憶される。例において、現在の符号化領域（８２２）からの１つ又は複数の再構築されたサンプルを使用してキャッシュメモリを更新した場合に、符号化領域（８１２）の一部は既に現在のＣＴＵからの再構築されたサンプルで更新されたので、符号化領域（８１２）はキャッシュメモリにおいてＣＰＲ予測に使用できない（「Ｘ」と標記される）と認められる。実施形態において、符号化領域（８１２）の再構築されたサンプルは、キャッシュメモリよりもアクセス速度が遅いメインメモリに記憶される（例えば、符号化領域（８２２）を再構築する前にキャッシュメモリからメインメモリにコピーされる）ことに留意されたい。
【０１１１】
図８Ｃにおいて、再構築中の現在の符号化領域は符号化領域（８２３）である。キャッシュメモリは、符号化領域（８１４）、（８２１）及び（８２２）における再構築されたサンプルを記憶し、そして、キャッシュメモリは現在の符号化領域（８２３）の再構築されたサンプルを記憶するために用いられる。図８Ｃの例において、現在の符号化領域（８２３）の有効検索範囲は左のＣＴＵ（８１０）における符号化領域（８１４）、及び現在のＣＴＵ（８２０）における符号化領域（８２１）と（８２２）を含み、これらの領域における再構築されたサンプルはキャッシュメモリに記憶される。例において、現在の符号化領域（８２３）からの１つ又は複数の再構築されたサンプルを使用してキャッシュメモリを更新した場合に、符号化領域（８１３）の一部は既に現在のＣＴＵからの再構築されたサンプルで更新されたので、符号化領域（８１３）はキャッシュメモリにおいてＣＰＲ予測に使用できない（「Ｘ」と標記される）と認められる。実施形態において、符号化領域（８１３）の再構築されたサンプルは、キャッシュメモリよりもアクセス速度が遅いメインメモリに記憶される（例えば、符号化領域（８２３）を再構築する前にキャッシュメモリからメインメモリにコピーされる）ことに留意されたい。
【０１１２】
図８Ｄにおいて、再構築中の現在の符号化領域は符号化領域（８２４）である。キャッシュメモリは、符号化領域（８２１）、（８２２）及び（８２３）における再構築されたサンプルを記憶し、そして、キャッシュメモリは現在の符号化領域（８２４）の再構築されたサンプルを記憶するために用いられる。図８Ｄの例において、現在の符号化領域（８２４）の有効検索範囲は現在のＣＴＵ（８２０）における符号化領域（８２１）、（８２２）、（８２３）を含み、これらの領域における再構築されたサンプルはキャッシュメモリに記憶される。例において、現在の符号化領域（８２４）からの１つ又は複数の再構築されたサンプルを使用してキャッシュメモリを更新した場合に、符号化領域（８１４）の一部は既に現在のＣＴＵからの再構築されたサンプルで更新されたので、符号化領域（８１４）はキャッシュメモリにおいてＣＰＲ予測に使用できない（「Ｘ」と標記される）と認められる。実施形態において、符号化領域（８１４）の再構築されたサンプルは、キャッシュメモリよりもアクセス速度が遅いメインメモリに記憶される（例えば、符号化領域（８２４）を再構築する前にキャッシュメモリからメインメモリにコピーされる）ことに留意されたい。
【０１１３】
図８Ａ乃至図８Ｄの例において、４×６４×６４輝度サンプル（対応するクロマサンプルとともに）の合計メモリはフレーム内ブロックコピー補償に使用される。図８Ａ乃至図８Ｄの例に使用される技術は、他のメモリサイズ（例えば３×６４×６４、２×６４×６４輝度サンプルの合計メモリ）のために適切に変更できることに留意されたい。
【０１１４】
幾つかの実施形態において、１２８×１２８レベル及びより低いレベルでの三分木分割が許可され、分割結果は非正方形ブロックであってもよいことに留意されたい。
【０１１５】
幾つかの例において、１２８×１２８レベルで、三分木分割を使用してＣＴＵを分割してもよい。水平ＴＴ分割の場合、分割されたブロックは１２８×３２、１２８×６４及び１２８×３２である。垂直分割の場合、分割されたブロックは３２×１２８、６４×１２８及び３２×１２８である。
【０１１６】
また、幾つかの例において、１２８×６４/６４×１２８レベルで、三分木分割を使用してもよく、得られたブロックは非正方形ブロックであってもよい。
【０１１７】
図９Ａ乃至図９Ｈは、非正方形ブロック分割の例を示す。
【０１１８】
本開示の内容の幾つかの局面によれば、幾つかの分割タイプ、例えば１２８×１２８レベルのＴＴ分割などは、６４×６４符号化領域に含まれないか又は１つ又は複数の６４×６４符号化領域を含むことができない符号化ブロックをもたらすことがある。これらの分割タイプは、フレキシブル分割タイプと呼ばれる。
【０１１９】
これらの通常の分割タイプの上にこれらのフレキシブル分割タイプを許可する場合に、参照サンプル更新処理は、６４×６４符号化領域と一対一整列されなくなる可能性がある。以上で言及された参照サンプルメモリキャッシュ再利用ストラテジーを実現するための方法を開発する必要がある。
【０１２０】
本開示の内容の一局面によれば、幾つかの参照領域制約を使用してフレーム内ブロックコピーの性能を改善することができる。より具体的に、例において、参照サンプルメモリにおける参照サンプルブロックの位置は、同一の６４×６４符号化領域内に制約される。幾つかの実施形態において、参照サンプルメモリのサイズは２つの６４×６４輝度サンプルに固定される（対応するクロマサンプルとともに）。本開示の内容で使用される技術は、異なる参照サンプルメモリサイズ、例えば、３つの６４×６４輝度サンプルと対応するクロマサンプル、４つの６４×６４輝度サンプルと対応するクロマサンプル（即ち、１ＣＴＵサイズ）のメモリサイズなどに使用するために、適切に修正できることに留意されたい。
【０１２１】
一般に、ＩＢＣ符号化ブロックのサイズは、任意の通常のフレーム間符号化ブロックと同じであってもよい。本開示の内容の一局面によれば、参照サンプルメモリをより効率的に利用するために、ＩＢＣ符号化ブロックのサイズは制限される。例において、ＩＢＣ符号化ブロックのサイズは、上限、例えば幅または高さで６４輝度サンプルよりも大きくならないように制限される（なお、対応するサイズ制約がクロマサンプルに適用され、色フォーマット、例えば、４：２：０フォーマットに依存し、ＩＢＣモードでのクロマブロックのサイズは各側で３２サンプルを超えてはならない）。また、幾つかの例において、ＩＢＣ符号化ブロックのサイズは、下限、例えば、幅または高さで３２輝度サンプルよりも小さくならないように制限される。説明では、６４×６４輝度サンプルの最大ＩＢＣサイズを使用したが、他の最大のＩＢＣサイズについて技術を適切に修正できることに留意されたい。
【０１２２】
以下の説明では、フレーム内ブロックコピー参照サンプルを記憶するための参照サンプルメモリの最大のサイズは２つの６４×６４輝度サンプル及び対応するクロマサンプルを記憶するためのメモリサイズに対応する。
【０１２３】
本開示の内容の幾つかの局面によれば、参照サンプルメモリは、２つの符号化領域のサンプル情報を記憶するためのサイズを有し、各符号化領域は６４×６４輝度サンプルのサイズを有し、そして、サンプル情報は６４×６４輝度サンプルの輝度サンプル情報及び対応するクロマサンプルのクロマサンプル情報を含む。その後、参照サンプルメモリは現在のＣＴＵ内の現在の符号化領域のサンプル情報、及び幾つかの以前に符号化された６４×６４符号化領域の１つである別の符号化領域のサンプル情報を記憶する。
【０１２４】
図１０Ａ及び図１０Ｂは、符号化順序及び参照サンプルメモリの使用の２つの例を示す。図１０Ａ及び図１０Ｂにおいて、灰色の領域は既に符号化された符号化領域（例えば、６４×６４輝度サンプル）であり、白い領域はまだ符号化されていない領域であり、そして（１つ又は複数の）斜線の領域は現在の符号化ブロックが所在している（１つ又は複数の）符号化領域である。また、図１０Ａ及び図１０Ｂにおいて、参照サンプルメモリにおける２つの符号化領域は（１つ又は複数の）点線のボックスで示されている。
【０１２５】
図１０Ａでは、例において、ＣＴＵは、１２８×１２８レベルで水平バイナリ分割又は四分木分割を行う。そして、６４×６４符号化領域の符号化順序は（１００１）から（１００４）に従う。
【０１２６】
図１０Ｂでは、例において、ＣＴＵは、１２８×１２８レベルで垂直バイナリ分割を行う。そして、６４×６４符号化領域の符号化順序は（１０１１）から（１０１４）に従う。
【０１２７】
図１０Ａ及び図１０Ｂの例において、現在の符号化ブロックが現在のＣＴＵにおける４つの６４×６４符号化領域の一つに位置する場合に、参照サンプルメモリは、フレーム内ブロックコピーモードの参照として割り当てられる別の６４×６４符号化領域を記憶してもよい。
【０１２８】
図１０Ａ及び図１０Ｂは例であり、他の可能な参照領域割り当ても可能であることに留意されたい。実施形態において、右上の６４×６４符号化領域は右下の６４×６４符号化領域の参照領域として使用され、図１０Ａ及び図１０Ｂに示すようである。別の実施形態では、左上の６４×６４符号化領域は右下の６４×６４符号化領域の参照領域として使用される。
【０１２９】
理想的には、参照サンプルメモリにおける再構築されたサンプルは、フレーム内ブロックコピーモードで現在のブロックを予測するために用いられてもよい。しかしながら、参照ブロックにおけるサンプルが２つの異なる６４×６４符号化領域からのものである場合がある。
【０１３０】
図１１Ａ及び図１１Ｂは、２つの異なる６４×６４符号化領域からの参照ブロックにおけるサンプルの例を示す。図１１Ａにおいて、参照ブロックの一部は、１つの６４×６４の符号化された符号化領域からのものであり、別の部分は、すでに再構築されたが、別の６４×６４の以前に符号化された符号化領域に属する。図１１Ｂにおいて、参照ブロックの一部は１つの６４×６４符号化領域からのものであり、別の一部は既に再構築されたが、現在の６４×６４符号化領域に属する。参照サンプルメモリにおける６４×６４符号化領域のそれぞれは別々に操作されるため、メモリにおける２つの６４×６４符号化領域は物理的に接続できない。図１１Ａ及び図１１Ｂに示すような異なる符号化領域における参照ブロックのこれらの位置は、望ましくない余分のメモリアクセス又は動作もたらす可能性がある。
【０１３１】
本開示の内容の幾つかの局面によれば、追加的な制約が、フレーム内ブロックコピーを特定のビデオ/画像符号化システムにおいて機能させる他の適切なブロックベクトル制約と一緒に使用される。フレーム内ブロックコピーモードのブロックベクトルに追加的な制約を課すことで、フレーム内ブロックコピーモードのための参照ブロック全体が同一の６４×６４符号化領域内にあるようにする。６４×６４符号化領域とは、１２８×１２８輝度サンプル（対応するクロマサンプルを加える）を有する各ＣＴＵが４つの重複しない６４×６４領域に分割され得ることを指す。幾つかの例において、これらの６４×６４領域のそれぞれは、制約での６４×６４符号化領域と見なされる。
【０１３２】
実施形態において、例えば、ＣＴＵの最上位の隅が(０,０)であるとして、参照ブロックの左上隅が(Ｒｅｆ_ＴＬｘ,Ｒｅｆ_ＴＬｙ)として示され、参照ブロックの右下隅が(Ｒｅｆ_ＢＲｘ,Ｒｅｆ_ＢＲｙ)として示される。追加的な制約は、以下の条件（式１）及び（式２）のビットストリーム整合性要件を満たす必要がある形式を採用する。
Ｒｅｆ_ＢＲｘ/６４=Ｒｅｆ_ＴＬｘ/６４（式１）
Ｒｅｆ_ＢＲｙ/６４=Ｒｅｆ_ＴＬｙ/６４（式２）
【０１３３】
（式１）を満たすと、Ｒｅｆ_ＢＲｘ/６４の整数部分はＲｅｆ_ＴＬｘ/６４の整数部分に等しくなる。（式２）を満たすと、Ｒｅｆ_ＢＲｙ/６４の整数部分はＲｅｆ_ＴＬｙ/６４の整数部分に等しくなる。除算演算は、６ビットを右にシフトすることで実行されてもよいことに留意されたい。
【０１３４】
幾つかの実施形態において、ブロックベクトルが、参照ブロック内の全てのサンプルが同一の６４×６４符号化領域に属するわけではない参照ブロック位置を指す場合に、ブロックベクトルを、同一６４×６４符号化領域要求を満たす付近の参照ブロック位置にクリッピングしてもよい。実施形態において、クリッピングとは、元の参照ブロック位置（これは少なくとも２つの６４×６４領域をカバーする）を垂直または水平に一方向に移動させることを指す。例において、参照ブロックと現在のブロックとの間の距離を減少させる方向に移動する。また、同一の６４×６４サンプル領域に属する参照サンプルのパーセンテージを増やし、最終的に参照ブロック全体を同一の６４ｘ６４領域に属するようにする方向に移動する。
【０１３５】
図１１Ａに示す例の場合に、すべてのサンプルが上部の６４×６４符号化領域に属するまで、参照ブロックを垂直に上へ移動させることができる。図１１Ａに示す例において、参照ブロックを下に移動させると、２つのブロック間の距離が増加する可能性があり、参照ブロックを水平に移動させると、各６４×６４符号化領域におけるサンプルのパーセンテージは変化しないことに留意されたい。
【０１３６】
図１１Ｂに示す例の場合に、すべてのサンプルが現在の６４×６４符号化領域に属するまで、参照ブロックを水平に右へ移動させることができる。図１１Ｂに示す例において、参照ブロックを左に移動させると、２つのブロック間の距離が増加する可能性があり、参照ブロックを垂直に移動させると、各６４×６４符号化領域におけるサンプルのパーセンテージは変化しないことに留意されたい。
【０１３７】
幾つかの実施形態において、ブロックベクトルが、参照ブロック内の全てのサンプルが同一の６４×６４符号化領域に属するわけではない参照ブロック位置を指す場合に、サンプルのパディング（垂直及び/又は水平に６４×６４符号化領域の境界でのサンプルをコピーする）により、６４×６４符号化領域外のサンプルを生成してもよい。パディング処理は、動き補償における参照ピクチャの境界拡張と類似する方法で実行できる。
【０１３８】
例において、参照ブロックの左上隅がある６４×６４符号化領域内に位置し、該６４×６４符号化領域を、参照ブロックが由来するべき符号化領域と見なす。参照ブロックのいずれかの部分が該符号化領域外にあると、パディングを使用して該部分のサンプルを決定することができる。
【０１３９】
別の例において、参照ブロックの右下隅がある６４×６４符号化領域内に位置し、該６４×６４符号化領域を、参照ブロックが由来するべき符号化領域と見なす。参照ブロックのいずれかの部分が該符号化領域外にあると、パディングを使用して該部分のサンプルを決定することができる。
【０１４０】
別の例において、参照ブロックの左上隅がある６４×６４符号化領域に位置し、まず、該６４×６４符号化領域を使用して参照ブロックがどの符号化領域に由来するかを決定する。該左上隅の位置が有効な参照位置ではない場合、参照ブロックの右下隅を考慮して、参照ブロックがどの符号化領域に由来するかを決定する。
【０１４１】
別の例において、参照ブロックの右下隅がある６４×６４符号化領域に位置し、まず、該６４×６４符号化領域を使用して参照ブロックがどの符号化領域に由来するかを決定する。該右下隅の位置が有効な参照位置ではない場合、参照ブロックの左上隅を考慮して、参照ブロックがどの符号化領域に由来するかを決定する。
【０１４２】
別の実施形態において、ブロックベクトルが、参照ブロック内の全てのサンプルが有効参照領域（現在の６４×６４符号化領域又は（１つ又は複数の）以前に符号化された６４×６４符号化領域）外にある参照ブロック位置を指す場合に、サンプルのパディングにより（最も近い有効参照領域の境界でのサンプルを垂直および/または水平にコピーする）、６４×６４符号化領域外のサンプルを生成してもよい。パディング処理は動き補償における参照ピクチャの境界拡張と同様に実行されてもよく、境界は（１つ又は複数の）許可される参照領域の境界と見なすことができる。
【０１４３】
本開示の内容の各局面は、さらに、フレーム内ブロックコピーのためにフレキシブルブロック分割ストラテジー及びバッファ再利用メカニズムを提供する。
【０１４４】
幾つかの実施形態において、所定の符号化レベル（例えば、シーケンス、ピクチャ、又はスライス/タイル/タイルグループ）に対してフレーム内ブロックコピーを使用する場合に、フレキシブルブロック分割タイプ例えば１２８×３２/３２×１２８を使用できない。
【０１４５】
実施形態において、所定の符号化レベル（例えば、シーケンス、ピクチャ又はスライス/タイル/タイルグループ）に対して、フレキシブルブロック分割タイプを使用しない場合に、フレーム内ブロックコピーモードは、参照サンプルメモリ再利用ストラテジーを使用してもよい。例えば、６４×６４符号化領域に基づく更新処理及びバッファリング再利用ストラテジーを使用してもよい。
【０１４６】
実施形態において、所定の符号化レベル（例えば、シーケンス、ピクチャ又はスライス/タイル/タイルグループ）に対して、フレキシブルブロック分割タイプを使用する場合、フレーム内ブロックコピーモードは、以上の開示された内容に開示される参照サンプルメモリ再利用ストラテジーを使用できない。ただし、例において、ブロックベクトルは、現在のＣＴＵの再構築された部分を参照するように制限される。
【０１４７】
実施形態において、所定の符号化レベル（例えば、シーケンス、ピクチャ又はスライス/タイル/タイルグループ）に対して、以上で言及されたフレキシブルブロック分割タイプを使用する場合に、以上で言及された参照サンプルメモリ再利用ストラテジーを修正してもよい。
【０１４８】
幾つかの例において、符号化ブロックがＣＴＵ（１２８×１２８）レベルの第１のＴＴ分割（例えば、左３２×１２８又は頂部の１２８×３２）、又はＢＴ分割（頂部１２８×６４又は左６４×１２８）又はＱＴ分割（左上の６４×６４）にある場合に、左のＣＴＵにおける参照サンプルの一部を使用できる。
【０１４９】
図１２Ａ乃至図１２Ｆは、参照サンプルメモリ再利用ストラテジーの例を示す。図１２Ａ乃至図１２Ｆに示す各例において、現在の符号化ブロックは斜線で示され、利用可能な参照領域は灰色で示される。
【０１５０】
例において、左のＣＴＵにおける右上隅の６４×６４（サンプル）領域が利用可能な参照領域であり、図１２Ａ乃至図１２Ｃの例の灰色で示されている。
【０１５１】
別の例において、左のＣＴＵにおける最も右の３２×１２８（サンプル）領域が利用可能な参照領域であり、図１２Ｄ乃至図１２Ｆの例の灰色で示されている。
【０１５２】
別の例において、左のＣＴＵ内の頂部１２８×３２領域が利用可能な参照領域である。
【０１５３】
別の例において、領域の選択は、左のＣＴＵの分割によって決定される。例えば、左のＣＴＵが１２８×１２８レベルの四分木分割を使用する場合に、左のＣＴＵにおける右上の６４×６４（サンプル）領域を使用して現在のＣＴＵの第１の分割における符号化ブロックを予測してもよい。
【０１５４】
別の例において、現在のＣＴＵの第１の分割における符号化ブロックに対して合計３×６４×６４サイズのメモリを使用する場合に、左のＣＴＵからの参照サンプルを記憶するためのメモリのサイズは６４×６４のサイズである（必ずしも正方形ではない）。メモリスペースは必ずしも正方形形状のサンプルを記憶するわけではない。
【０１５５】
別の実施形態において、現在のＣＴＵの第１の分割における符号化ブロックに対して合計４×６４×６４サイズのメモリを使用する場合に、左のＣＴＵからの参照サンプルを記憶するためのメモリのサイズは２×６４×６４のサイズである（必ずしも２つの正方形ではない）。メモリスペースは必ずしも２つの正方形のサンプルを記憶するわけではない。
【０１５６】
幾つかの実施形態において、所定の符号化レベルで（例えば、シーケンス、ピクチャ又はスライス/タイル/タイルグループに対して）フレキシブルブロック分割タイプ及びフレーム内ブロックコピーモードの両方を使用すると、技術を使用して参照サンプルメモリを再利用し、フレーム内ブロックコピーの検索範囲を効果的に増加させるとともに、記憶要件を同じに保持するか又は記憶要件を減少する。
【０１５７】
幾つかの例において、以前の６４×６４に基づく更新処理を使用せず、より多いブロック形状（例えば、３２×３２又は３２×６４又は６４×３２又は１６×１２８の形状）での小さい又は同じ粒度の更新処理を提出する。例において、更新処理は、３２×３２（サンプル）ユニットを使用してもよく、１２８×１２８レベルのＴＴを使用して現在のＣＴＵを分割してもよい。
【０１５８】
図１３Ａ乃至図１３Ｃは、３２×３２（サンプル）ユニットを使用する更新処理の例を示し、そして、図１３Ｄ乃至図１３Ｆは、３２×３２（サンプル）を使用する更新処理の別の例を示す。各３２×３２（サンプル）ユニットは小さな正方形として示される。図１３Ａ乃至図１３Ｆの例において、参照サンプルメモリサイズは合計１２８×１２８である。そして、３×６４×６４サンプルの第１のメモリスペースを割り当ててフレーム内ブロックコピー参照目的とする参照サンプルのサンプルを記憶し、６４×６４サンプルの第２のメモリスペースを現在６４×６４サイズのユニット（必ずしも正方形ではなく、輝度サンプルの総数は６４×６４サンプルに等しい）に割り当てる。各６４×６４又は６４×１２８サイズの分割及びそのサブ分割について（必ずしも正方形ではなく、輝度サンプルは６４×６４サンプルに等しい）、現在のＣＴＵ内の再構築されたサンプル及び他の幾つかの以前の符号化領域（例えば、図１３Ａ乃至図１３Ｆにおける灰色の領域で示される）は参照サンプルメモリに記憶されてもよいし、フレーム内ブロックコピーの予測に参照できる。
【０１５９】
図１４は、本開示の内容の実施形態による処理（１４００）を概括するフローチャートを示す。処理（１４００）は、フレーム内モードで符号化されるブロックを再構築するために用いられ、再構築中のブロックに対して予測ブロックを生成する。各種実施例において、処理（１４００）は、端末機器（１１０）、（１２０）、（１３０）及び（１４０）における処理回路、ビデオ符号器（２０３）の機能を実行する処理回路、ビデオ復号器（２１０）の機能を実行する処理回路、ビデオ復号器（３１０）の機能を実行する処理回路、ビデオ符号器（４０３）の機能を実行する処理回路などのような処理回路によって実行される。幾つかの実施例において、処理（１４００）はソフトウェア命令で実現されるから、処理回路はソフトウェア命令を実行する際、処理回路はプロセス（１４００）を実行する。プロセスは（Ｓ１４０１）から始まり、（Ｓ１４１０）まで実行される。
【０１６０】
（Ｓ１４１０）において、符号化されたビデオビットストリームから現在のブロックの予測情報を復号化する。予測情報はフレーム内ブロックコピーモードを指示する。
【０１６１】
（Ｓ１４２０）において、現在のブロックと同じピクチャ内の参照ブロックを指すブロックベクトルを決定する。
【０１６２】
（Ｓ１４３０）において、参照ブロックをチェックして参照ブロックが完全に符号化領域にあるかどうかを決定する。幾つかの実施形態において、限られた記憶スペースを有する参照サンプルメモリは、再利用されて以前の符号化されたサンプルを記憶する。例えば、現在のＣＴＵ内の再構築されたサンプルを使用して参照サンプルメモリを更新する前に、参照サンプルメモリは、サンプルを、現在のＣＴＵの左のＣＴＵに記憶する。現在のＣＴＵにおける符号化領域を単位として再構築されたサンプルを使用して参照サンプルメモリを更新する。実施形態において、参照サンプルメモリの利用可能性は、６４×６４で更新される。例において、６４×６４ブロックにおける参照サンプルのいずれかのサンプルが既に更新されると、６４×６４ブロック全体は現在のＣＴＵからの再構築されたサンプルを使用して更新されると見なされ、更新前の記憶サンプルと見なされない。実施形態において、１２８×１２８サンプルのＣＴＵは、符号化領域と呼ばれ得る４つの６４×６４領域を含む。
【０１６３】
実施形態において、参照ブロックの複数の隅をチェックして、参照ブロックが完全に符号化領域にあるかどうかを決定する。参照ブロックが完全に符号化領域にある場合に、処理は（Ｓ１４５０）に進み、さもなければ、処理は（Ｓ１４４０）に進む。
【０１６４】
（Ｓ１４４０）において、参照ブロックを符号化領域に適切に制限する。幾つかの実施形態において、参照ブロックは適切に符号化領域に移動される。幾つかの実施形態において、符号化領域にない他の参照サンプルを使用して符号化領域にない幾つかの参照サンプルをパディングしてもよい。そして、例において、１つのメモリ更新ユニットのみにアクセスすることで現在のブロックの再構築された参照サンプルのメモリアクセスを実現することができる。
【０１６５】
（Ｓ１４５０）において、参照サンプルメモリから検索された参照ブロックの再構築されたサンプルに基づいて現在のブロックを再構築する。例えば、参照サンプルメモリにアクセスして参照ブロックの再構築されたサンプルを検索し、次に、参照サンプルメモリから検索された、再構築されたサンプルに基づいて、現在のブロックのサンプルを再構築する。参照ブロックは、参照ブロックの参照サンプルが完全に１つの符号化領域にあるか、１つの符号化領域に基づいて決定するように制限されるので、参照サンプルを検索するアドレッシング操作を容易且つ高効率で実行することができる。その後、処理は（Ｓ１４９９）に進み、終了する。
【０１６６】
前記技術はコンピュータ読み取り可能な命令によってコンピュータソフトウェアとして実現され、物理的に１つ又は複数のコンピュータ読み取り可能な媒体に記憶されてもよい。例えば、図１５は開示のテーマの幾つかの実施例を実現するためのコンピュータシステム（１５００）を示す。
【０１６７】
コンピュータソフトウェアは任意の適切なマシンコードまたはコンピュータ言語によって符号化を行って、マシンコードまたはコンピュータ言語は編集、コンパイル、リンクなどのメカニズムを介して命令が含まれるコードを構築し、該命令は１つ又は複数のコンピュータ中央処理ユニット（ＣＰＵ）、グラフィック処理ユニット（ＧＰＵ）などによって直接的に実行されるか、または解釈、マイクロコード実行などによって実行される。
【０１６８】
命令は各種タイプのコンピュータまたはその部材で実行でき、例えばパーソナルコンピュータ、タブレット、サーバー、スマートフォン、ゲーム機器、モノのインターネット機器などを含む。
【０１６９】
図１５に示すコンピュータシステム（１５００）の部材は、本開示の内容を実現するための実施形態のコンピュータソフトウェアの使用範囲または機能に対して限定せず、本質に例示的である。部材の配置も、コンピュータシステム（１５００）の例示性の実施で示した部材におけるいずれかの部材、またはその組み合わせに関する依存性または要求を有するように解釈されるべきではない。
【０１７０】
コンピュータシステム（１５００）は、幾つかのヒューマンマシンインターフェイス入力機器を含んでもよい。このようなヒューマンマシンインターフェイス入力機器は、１つ又は複数の人類ユーザーの、例えば触覚入力（例えば：キーストローク、スライド、データグローブ移動）、オーディオ入力（例えば：音声、たたき）、視覚入力（例えば：姿勢）、嗅覚入力（図示せず）による入力に応答できる。マンマシンインタフェース機器はさらに、必ずしも人類の意識的な入力に直接的に関していない、ある媒体例えば、オーディオ（例えば：音声、音楽、環境音）、画像（例えば：スキャン画像、静態画像撮影装置から取得された写真画像）、ビデオ（例えば２次元ビデオ、立体ビデオが含まれる３次元ビデオ）をキャプチャできる。
【０１７１】
入力マンマシンインタフェース機器は、キーボード（１５０１）、マウス（１５０２）、タッチパッド（１５０３）、タッチパネル（１５１０）、データグローブ（図示せず）、ジョイスティック（１５０５）、マイク（１５０６）、スキャナ（１５０７）、撮影装置（１５０８）のうちの１つ又は複数を有してもよい（記載の各々のうちの１つのみ）。
【０１７２】
コンピュータシステム（１５００）は、さらにマンマシンインタフェース出力機器を有してもよい。このようなマンマシンインタフェース出力機器は、例えば触覚出力、音、光及び匂い／味を介して１つ又は複数の人類ユーザーの感覚を刺激できる。このようなマンマシンインタフェース出力機器は触覚出力機器（例えば、タッチパネル（１５１０）、データグローブ（図示せず）またはジョイスティック（１５０５）による触覚フィードバック、但し入力機器として用いられない触覚フィードバック機器も存在する）、オーディオ出力機器（例えば、スピーカー（１５０９）、ヘッドフォン（図示せず））、視覚出力機器（例えば、スクリーン（１５１０）、ＣＲＴスクリーン、ＬＣＤスクリーン、プラズマスクリーン、ＯＬＥＤスクリーンを含み、各スクリーンはタッチパネル入力能力、触覚フィードバック能力を有してもよく、有してなくてもよく、そのうちの幾つかは、立体画像出力のような手段で、２次元の視覚を出力または３次元以上の出力を行い、バーチャルリアリティ眼鏡（図示せず）、ホログラフィックディスプレイ及びスモークタンク（図示せず）がある）、プリンター（図示せず）を含む。
【０１７３】
コンピュータシステム（１５００）はさらに人類がアクセスし得る記憶機器及びその関連する媒体を有してもよく、例えば、ＣＤ／ＤＶＤなどの媒体（１５２１）を有するＣＤ／ＤＶＤ  ＲＯＭ／ＲＷ（１５２０）を含む光学媒体、サムドライブ（１５２２）、取り外し可能なハードドライブまたはソリッドステートドライブ（１５２３）、磁気テープとフロッピーディスク（図示せず）のような伝統の磁気媒体、専用ＲＯＭ／ＡＳＩＣ／ＰＬＤに基づく機器、例えばドングル（図示せず）などを含む。
【０１７４】
当業者は、現在開示のテーマを結合して、使用される用語「コンピュータ読み取り可能な媒体」には伝送媒体、搬送波または他の瞬間信号が含まれないことを理解できる。
【０１７５】
コンピュータシステム（１５００）は、さらに１つ又は複数の通信ネットワークのインタフェースを有してもよい。ネットワークは、例えば無線、有線、光学であってもよい。ネットワークはさらに、ローカル、広域、都市用、車両用、工業用、リアルタイム、遅延耐性ネットワークなどであってもよい。ネットワークの例示はイーサネットのようなローカルエリアネットワーク、無線ＬＡＮ、ＧＳＭ、３Ｇ、４Ｇ、５Ｇ、ＬＴＥなどが含まれたセルラーネットワーク、有線テレビ、衛星テレビ及び地上波テレビが含まれるテレビ有線または無線広域デジタルネットワーク、ＣＡＮＢｕｓが含まれる車両及び工業ネットワークなどを含む。あるネットワークは一般的に、ある汎用データポートまたは周辺バス（１５４９）（例えば、コンピュータシステム（１５００）のＵＳＢポート）に連結される外部ネットワークインタフェースアダプタを必要とし、他のネットワークは一般的に、以下に記載のシステムバス（例えば、ＰＣコンピュータシステムへのイーサネットインタフェース、またはスマートフォンコンピュータシステムへのセルラーネットワークインタフェース）に連結されることで、コンピュータシステム（１５００）のコアに集積される。これらのネットワークのうちのいずれかのネットワークを介して、コンピュータシステム（１５００）は他のエンティティと通信できる。このような通信は一方向で受信だけ（例えば、放送テレビ）、一方向で送信だけ（例えば、あるＣＡＮｂｕｓ機器へのＣＡＮｂｕｓ)、または双方向である（例えば、ローカルエリアまたは広域デジタルネットワークを介して他のコンピュータシステムへ）。以上に記載のこれらのネットワーク及びネットワークインターフェースのうちの各ネットワーク及びネットワークインターフェースに、特定のプロトコル及びプロトコルスタックを利用できる。
【０１７６】
以上に言及されたマンマシンインタフェース機器、人類がアクセスし得る記憶機器及びネットワークインターフェースは、コンピュータシステム（１５００）のコア（１５４０）に連結できる。
【０１７７】
コア（１５４０）は、１つ又は複数の中央処理ユニット（ＣＰＵ）（１５４１）、グラフィック処理ユニット（ＧＰＵ）（１５４２）、フィールドプログラム可能なゲートアレイ（ＦＰＧＡ）（１５４３）という形式の専門プログラム可能な処理ユニット、あるタスクのためのハードウェアアクセラレータ（１５４４）などを含む。これらの機器は、読み取り専用メモリ（ＲＯＭ）（１５４５）、ランダムアクセスメモリ（１５４６）、内部のユーザーがアクセスできないハードディスクドライブ、ＳＳＤなどのような内部大容量記憶装置（１５４７）とともに、システムバス（１５４８）を介して接続される。あるコンピュータシステムにおいて、１つ又は複数の物理プラグという形式で、システムバス（１５４８）にアクセスすることで、別のＣＰＵ、ＧＰＵなどによって拡張できる。周囲機器は直接的または周辺バス（１５４９）を介してコアのシステムバス（１５４８）に連結される。周辺バスのアーキテクチャはＰＣＩ、ＵＳＢなどを含む。
【０１７８】
ＣＰＵ（１５４１）、ＧＰＵ（１５４２）、ＦＰＧＡ（１５４３）及びアクセラレータ（１５４４）は幾つかの命令を実行でき、これらの命令を組み合わせて、以上に言及されたコンピュータコードを構成する。該コンピュータコードはＲＯＭ（１５４５）またはＲＡＭ（１５４６）に記憶される。移行データはＲＡＭ（１５４６）に記憶され、永久データは、例えば内部大容量記憶装置（１５４７）に記憶されてもよい。キャッシュメモリによってメモリ機器のうちのいずれかのメモリ機器の快速記憶及び検索を実現でき、該キャッシュメモリは１つ又は複数のＣＰＵ（１５４１）、ＧＰＵ（１５４２）、大容量記憶装置（１５４７）、ＲＯＭ（１５４５）、ＲＡＭ（１５４６）などに密接に関連できる。
【０１７９】
コンピュータ読み取り可能な媒体は、コンピュータが実現する各種操作を実行するためのコンピュータコードを有してもよい。媒体とコンピュータコードとは、本開示の内容の目的のために、専門に設計され及び構築された媒体とコンピュータコードであってもよいし、またはコンピュータソフトウェアの当業者にとって、公知且つ利用可能なタイプであってもよい。
【０１８０】
限定ではなく例示として、アーキテクチャ（１５００）を有するコンピュータシステム、特にコア（１５４０）は、（１つ又は複数）プロセッサ（ＣＰＵ、ＧＰＵ、ＦＰＧＡ、アクセラレータなどを含む）が１つ又は複数の有形コンピュータ読み取り可能な媒体に体現されるソフトウェアを実行することで、機能を提供できる。このようなコンピュータ読み取り可能な媒体は、以上に紹介された、ユーザーがアクセスし得る大容量記憶装置に関する媒体、及び非一時的なコア（１５４０）を有する、コア内部大容量記憶装置（１５４７）またはＲＯＭ（１５４５）のような記憶装置であってもよい。本開示の内容を実現するための各種実施例のソフトウェアはこのような機器に記憶され、コア（１５４０）に実行される。特定の需要に応じて、コンピュータ読み取り可能な媒体には１つ又は複数の記憶機器またはチップが含まれてもよい。ソフトウェアはコア（１５４０）、特にそのうちのプロセッサ（ＣＰＵ、ＧＰＵ、ＦＰＧＡなどが含まれた）に、本明細書に記載の特定プロセスまたは特定プロセスの特定部分を実行させ、ＲＡＭ（１５４６）に記憶されるデータ構成を限定すること、及びソフトウェアにより限定されたプロセスに基づき、このようなデータ構成を修正することが含まれる。また或いは代わりとして、コンピュータシステムは、論理的な固定接続または他の方式で回路（例えば、アクセラレータ（１５４４））に体現されることで機能を提供し、該回路は、ソフトウェアの代わりとして、またはソフトウェアとともに操作することで、本明細書に記載の特定プロセスまたは特定プロセスの特定部分を実行できる。適切な場合、言及のソフトウェアにはロジックが含まれ、逆に、言及ロジックにはソフトウェアが含まれてもよい。適切な場合、言及のコンピュータ読み取り可能な媒体には、実行するためのソフトウェアが記憶される回路（例えば、集積回路（ＩＣ））、実行するためのロジックを体現する回路、或いは前記両者が含まれてもよい。本開示の内容にはハードウェアとソフトウェアとの任意の適切な組み合わせが含まれる。
付録Ａ：頭字語
ＪＥＭ：共同探索モデル
ＶＶＣ：多機能ビデオ符号化
ＢＭＳ：ベンチマークセット
ＭＶ：動きベクトル
ＨＥＶＣ：高効率ビデオ符号化
ＳＥＩ：補充強化情報
ＶＵＩ：ビデオユーザビリティ情報
ＧＯＰ：ピクチャグループ
ＴＵ：変換ユニット
ＰＵ：予測ユニット
ＣＴＵ：符号化ツリーユニット
ＣＴＢ：符号化ツリーブロック
ＰＢ：予測ブロック
ＨＲＤ：仮想参照復号器
ＳＮＲ：信号対雑音比
ＣＰＵ：中央処理ユニット
ＧＰＵ：グラフィック処理ユニット
ＣＲＴ：陰極線管
ＬＣＤ：液晶ディスプレイ
ＯＬＥＤ：有機発光ダイオード
ＣＤ：コンパクトディスク
ＤＶＤ：デジタルビデオディスク
ＲＯＭ：読み取り専用メモリ
ＲＡＭ：ランダムアクセスメモリ
ＡＳＩＣ：特定用途向け集積回路
ＰＬＤ：プログラマブルロジックデバイス
ＬＡＮ：ローカルエリアネットワーク
ＧＳＭ：グローバルモバイルシステムオブシステム
ＬＴＥ：ロングタームエボリューション
ＣＡＮＢｕｓ：コントローラエリアネットワークバス
ＵＳＢ：ユニバーサルシリアルバス
ＰＣＩ：周辺コンポーネント相互接続
ＦＰＧＡ：フィールドプログラム可能なゲートアレイ
ＳＳＤ：ソリッドステートドライブ
ＩＣ：集積回路
ＣＵ：符号化ユニット
【０１８１】
本開示の内容には若干の例示性の実施例が記載されているが、本開示の内容の範囲内にある変更、置き換え及びいろんな置換等価物が存在する。従って、本明細書には明らかに記載されていないが、本開示の内容の原理を体現し本開示の内容の精神及び範囲内に属する多いシステム及び方法は、当業者にとって想到し得る。
【図１】
2021521728.tif 000003
【図２】
2021521728.tif 000004
【図３】
2021521728.tif 000005
【図４】
2021521728.tif 000006
【図５】
2021521728.tif 000007
【図６】
2021521728.tif 000008
【図７】
2021521728.tif 000009
【図８Ａ】
2021521728.tif 000010
【図８Ｂ】
2021521728.tif 000011
【図８Ｃ】
2021521728.tif 000012
【図８Ｄ】
2021521728.tif 000013
【図９】
2021521728.tif 000014
【図１０Ａ】
2021521728.tif 000015
【図１０Ｂ】
2021521728.tif 000016
【図１１Ａ】
2021521728.tif 000017
【図１１Ｂ】
2021521728.tif 000018
【図１２】
2021521728.tif 000019
【図１３】
2021521728.tif 000020
【図１４】
2021521728.tif 000021
【図１５】
2021521728.tif 000022
【国際調査報告】
2021521728.tif 000023