(57)【要約】  ビデオ符号化方法、ビデオ復号化方法及びその装置に係り、該ビデオ符号化方法は、符号化される現在予測単位の大きさに基づいて、単方向動き予測モード及び双方向動き予測モードの利用いかんを決定し、決定された動き予測モードを適用し、現在予測単位に係わる動き予測及び動き補償を行い、動き予測及び動き補償を介して獲得された現在予測単位の符号化コストに基づいて、現在予測単位の動き予測モードを決定し、現在予測単位の大きさに基づいて、決定された動き予測モード情報を符号化する。
2014531153.tif 000002
【特許請求の範囲】
【請求項１】
ビデオ符号化方法において、
符号化される現在予測単位の大きさに基づいて、前記現在予測単位の動き予測及び動き補償に適用される単方向動き予測モード、並びに双方向動き予測モードの利用いかんを決定する段階と、
前記単方向動き予測モード及び双方向動き予測モードの利用いかんにより、前記単方向動き予測モード及び双方向動き予測モードのうち少なくとも１つの動き予測モードを適用し、前記現在予測単位に係わる動き予測及び動き補償を行う段階と、
前記動き予測及び動き補償を介して獲得された前記現在予測単位の符号化コストに基づいて、前記現在予測単位の動き予測モードを決定する段階と、
前記現在予測単位の大きさに基づいて、前記決定された動き予測モード情報を符号化する段階と、を含むことを特徴とするビデオ符号化方法。
【請求項２】
前記単方向動き予測モード及び双方向動き予測モードの利用いかんを決定する段階は、
前記現在予測単位の大きさが、所定サイズより大きい場合、前記単方向動き予測モード及び双方向動き予測モードをいずれも利用すると決定し、前記現在予測単位の大きさが、所定サイズ以下である場合、前記単方向動き予測モードのみを利用すると決定することを特徴とする請求項１に記載のビデオ符号化方法。
【請求項３】
前記現在予測単位の大きさが、最小予測単位サイズに該当しない場合、前記単方向動き予測モード及び双方向動き予測モードをいずれも利用し、前記現在予測単位の大きさが、最小予測単位サイズに該当する場合、前記単方向動き予測モードのみを利用すると決定することを特徴とする請求項２に記載のビデオ符号化方法。
【請求項４】
前記符号化する段階は、
前記現在予測単位の大きさに基づいて、第１参照ピクチャリストを参照するＬ０予測モード、第２参照ピクチャリストを参照するＬ１予測モード、Ｌ０予測及びＬ１予測を含む双方向予測モードごとに所定のインデックスを割り当て、前記決定された動き予測モードに対応するインデックス情報を符号化することを特徴とする請求項１に記載のビデオ符号化方法。
【請求項５】
前記単方向動き予測モード及び双方向動き予測モードの利用いかんを決定する段階は、
前記現在予測単位の動き補償に必要な参照フレームのピクセル個数を、前記現在予測単位に含まれたピクセルの個数で除した値である、前記現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を、前記現在予測単位の大きさ、並びに前記現在予測単位に適用される前記単方向動き予測モード及び前記双方向動き予測モードによって分類し、前記現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値以下である場合には、前記現在予測単位に、前記単方向動き予測モード及び前記双方向動き予測モードをいずれも適用し、前記現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値より大きい場合には、前記現在予測単位に、前記単方向動き予測モードのみを適用することにより、前記参照フレームを保存する所定メモリ装置へのアクセスを制限することを特徴とする請求項１に記載のビデオ符号化方法。
【請求項６】
前記ビデオを構成するフレームを、最大サイズの符号化単位に分割した少なくとも１つの最大符号化単位ごとに、前記最大符号化単位の空間的分割回数を示す深度によって階層的に構成される深度別符号化単位のうち、符号化深度の符号化単位を含むツリー構造による符号化単位を決定し、前記符号化深度の符号化単位ごとに、予測符号化のための予測単位を決定し、階層的構造の変換単位を基に変換を行い、ツリー構造による変換単位を決定する段階をさらに含むことを特徴とする請求項１に記載のビデオ符号化方法。
【請求項７】
ビデオ符号化装置において、
符号化される現在予測単位の大きさに基づいて、前記現在予測単位の動き予測及び動き補償に適用される単方向動き予測モード、並びに双方向動き予測モードの利用いかんを決定し、前記単方向動き予測モード及び双方向動き予測モードの利用いかんにより、前記単方向動き予測モード及び双方向動き予測モードのうち、少なくとも１つの動き予測モードを適用し、前記現在予測単位に係わる動き予測及び動き補償を行う動き予測及び動き補償部と、
前記動き予測及び動き補償を介して獲得された前記現在予測単位の符号化コストに基づいて、前記現在予測単位の動き予測モードを決定する制御部と、
前記現在予測単位の大きさに基づいて、前記決定された動き予測モード情報を符号化するエントロピー符号化部と、を含むことを特徴とするビデオ符号化装置。
【請求項８】
ビデオの復号化方法において、
ビットストリームから、復号化される現在予測単位のサイズ情報、及び現在予測単位に適用された動き予測モードを示す動き予測モード情報を獲得する段階と、
前記獲得された動き予測モード情報と、前記現在予測単位の大きさとに基づいて、単方向動き予測モード及び双方向動き予測モードのうち、前記現在予測単位に適用された動き予測モードを決定する段階と、
前記決定された動き予測モードを利用して、前記現在予測単位に係わる動き補償を行う段階と、を含むことを特徴とするビデオ復号化方法。
【請求項９】
前記動き予測モード情報は、
前記現在予測単位の大きさが所定サイズより大きい場合、前記単方向動き予測モード及び双方向動き予測モードのうち、前記現在予測単位に適用された動き予測モードを示し、前記現在予測単位の大きさが所定サイズ以下である場合、前記現在予測単位に適用された単方向動き予測モードのみを示すことを特徴とする請求項８に記載のビデオ復号化方法。
【請求項１０】
前記動き予測モード情報は、
前記現在予測単位の大きさが、最小予測単位サイズに該当しない場合、前記単方向動き予測モード及び双方向動き予測モードのうち、前記現在予測単位に適用された動き予測モードを示し、前記現在予測単位の大きさが、最小予測単位サイズに該当する場合、前記単方向動き予測モードのみを示すことを特徴とする請求項９に記載のビデオ復号化方法。
【請求項１１】
前記動き予測モード情報は、
前記現在予測単位の大きさに基づいて、第１参照ピクチャリストを参照するＬ０予測モード、第２参照ピクチャリストを参照するＬ１予測モード、Ｌ０予測及びＬ１予測を含む双方向予測モードごとに割り当てられた所定のインデックス情報であることを特徴とする請求項８に記載のビデオ復号化方法。
【請求項１２】
前記動き予測モード情報は、
前記現在予測単位の動き補償に必要な参照フレームのピクセル個数を、前記現在予測単位に含まれたピクセルの個数で除した値である、前記現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を、前記現在予測単位の大きさ、及び前記現在予測単位に適用される前記単方向動き予測モードと、前記双方向動き予測モードとに基づいて分類したとき、前記現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値以下である場合には、前記現在予測単位に前記単方向動き予測モード及び前記双方向動き予測モードをいずれも適用し、前記現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値より大きい場合には、前記現在予測単位に、前記単方向動き予測モードのみを適用することにより、前記参照フレームを保存する所定メモリ装置へのアクセスを制限することを特徴とする請求項８に記載のビデオ復号化方法。
【請求項１３】
前記ビットストリームから、前記ビデオを構成するフレームが分割された最大符号化単位の大きさ、前記最大符号化単位の空間的分割回数を示す深度、前記深度によって階層的に構成される符号化単位の予測符号化時に利用された予測単位及び階層的構造の変換単位の構造を示す情報を獲得する段階と、
前記獲得された情報に基づいて、前記フレームを、最大サイズの符号化単位に分割した少なくとも１つの最大符号化単位ごとに、前記最大符号化単位の空間的分割回数を示す深度によって階層的に構成される深度別符号化単位のうち、符号化深度の符号化単位を含むツリー構造による符号化単位を決定し、前記符号化深度の符号化単位ごとに、予測符号化のための予測単位を決定し、ツリー構造による変換単位を決定する段階と、をさらに含むことを特徴とする請求項８に記載のビデオ復号化方法。
【請求項１４】
ビデオ復号化装置において、
ビットストリームから、復号化される現在予測単位のサイズ情報、及び現在予測単位に適用された動き予測モードを示す動き予測モード情報を獲得するエントロピー復号化部と、
前記獲得された動き予測モード情報と、前記現在予測単位の大きさとに基づいて、単方向動き予測モード及び双方向動き予測モードのうち、前記現在予測単位に適用された動き予測モードを決定し、前記決定された動き予測モードを利用して、前記現在予測単位に係わる動き補償を行う動き補償部と、を含むことを特徴とするビデオ復号化装置。
【請求項１５】
請求項１ないし６のうち、いずれか一項に記載のビデオ符号化方法を実行するためのコンピュータで実行可能なプログラムが記録された記録媒体。
【請求項１６】
請求項８ないし１３のうち、いずれか一項に記載のビデオ復号化方法を実行するためのコンピュータで実行可能なプログラムが記録された記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ビデオの符号化及び復号化に係り、さらに具体的には、動き補償過程で、参照フレームのデータを読み取るためのメモリアクセスを減少させるビデオの符号化及び復号化に関する。
【背景技術】
【０００２】
ビデオを符号化するために、１つのピクチャをマクロブロックのような所定データ単位に分割する。そして、インター予測（inter  prediction）またはイントラ予測（intra  prediction）を利用して、それぞれのマクロブロックを予測符号化する。
【０００３】
インター予測は、ピクチャ間の時間的な重複性（temporal  redundancy）を除去して映像を圧縮する方法であり、動き予測及び動き補償を利用する。動き予測は、少なくとも１つの参照ピクチャを利用して、現在ピクチャのブロックを予測する。動き予測及び動き補償は、所定の評価関数を利用して、現在ブロックと最も類似した参照ブロックを所定の検索範囲で検索し、検索された現在ブロックと最も類似した参照ブロックのデータを読み取る過程である。動き予測及び動き補償をさらに正確に行うために、参照ピクチャの検索範囲に対して補間を行い、整数ピクセル間のサブピクセルを生成し、生成されたサブピクセル精度を有する参照ピクチャに基づいて、動き予測及び動き補償が行われる。サブピクセル正確度で動き予測及び動き補償を行うためには、参照ピクチャのデータを補間する過程が必要である。
【０００４】
従来技術によれば、所定タップ数を有するＦＩＲ（finite  impulse  response）フィルタを利用して、補間を行う。ＮタップＦＩＲフィルタは、Ｎ個の周辺整数ピクセルを利用して、サブピクセルを補間する。ＮタップＦＩＲフィルタ補間過程で、１つのサブピクセルを補間するために、メモリからＮ個の参照ピクセルを読み取る必要がある。もし動きベクトルの水平成分及び垂直成分がいずれもサブピクセル正確度を有する場合、水平方向及び垂直方向に、二次元補間過程が必要であるので、メモリアクセス回数が増加する。また、単方向（uni-directional）動き予測に必要なメモリアクセス回数に比べ、双方向（bi-directional）動き予測に必要なメモリアクセス回数は、２個の参照ピクチャを利用するので、２倍になる。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明が解決する技術的課題は、動き予測及び動き補償の過程で、参照データを読み取るためのメモリアクセスを減少させるビデオ符号化方法、ビデオ復号化方法及びその装置を提供することである。
【課題を解決するための手段】
【０００６】
本発明の一実施形態によるビデオ符号化方法は、符号化される現在予測単位の大きさに基づいて、前記現在予測単位の動き予測及び動き補償に適用される単方向動き予測モード、並びに双方向動き予測モードの利用いかんを決定する段階と、前記単方向動き予測モード及び双方向動き予測モードの利用いかんにより、前記単方向動き予測モード及び双方向動き予測モードのうち少なくとも１つの動き予測モードを適用し、前記現在予測単位に対する動き予測及び動き補償を行う段階と、前記動き予測及び動き補償を介して獲得された前記現在予測単位の符号化コストに基づいて、前記現在予測単位の動き予測モードを決定する段階と、前記現在予測単位の大きさに基づいて、前記決定された動き予測モード情報を符号化する段階と、を含むことを特徴とする。
【０００７】
本発明の一実施形態によるビデオ符号化装置は、符号化される現在予測単位の大きさに基づいて、前記現在予測単位の動き予測及び動き補償に適用される単方向動き予測モード、並びに双方向動き予測モードの利用いかんを決定し、前記単方向動き予測モード及び双方向動き予測モードの利用いかんにより、前記単方向動き予測モード及び双方向動き予測モードのうち少なくとも１つの動き予測モードを適用し、前記現在予測単位に対する動き予測及び動き補償を行う動き予測及び動き補償部と、前記動き予測及び動き補償を介して獲得された前記現在予測単位の符号化コストに基づいて、前記現在予測単位の動き予測モードを決定する制御部と、前記現在予測単位の大きさに基づいて、前記決定された動き予測モード情報を符号化するエントロピー符号化部と、を含むことを特徴とする。
【０００８】
本発明の一実施形態によるビデオ復号化装置は、ビットストリームから、復号化される現在予測単位のサイズ情報、及び現在予測単位に適用された動き予測モードを現わす動き予測モード情報を獲得するエントロピー復号化部と、前記獲得された動き予測モード情報と、前記現在予測単位の大きさとに基づいて、単方向動き予測モード及び双方向動き予測モードのうち、前記現在予測単位に適用された動き予測モードを決定し、前記決定された動き予測モードを利用して、前記現在予測単位に対する動き補償を行う動き補償部と、を含むことを特徴とする。
【発明の効果】
【０００９】
本発明の実施形態によれば、予測単位の大きさに基づいて、単方向動き予測モード及び双方向動き予測モードの利用いかんを決定し、決定された動き予測モードを適用し、動き予測及び動き補償を行うことにより、参照フレームのデータを読み取るためのメモリアクセスを、所定帯域幅内に制限することができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の一実施形態によるビデオ符号化装置のブロック図である。
【図２】本発明の一実施形態によるビデオ復号化装置のブロック図である。
【図３】本発明の一実施形態による符号化単位の概念を図示する図面である。
【図４】本発明の一実施形態による、符号化単位に基づいた映像符号化部のブロック図である。
【図５】本発明の一実施形態による、符号化単位に基づいた映像復号化部のブロック図である。
【図６】本発明の一実施形態による、深度別符号化単位及びパーティションを図示する図面である。
【図７】本発明の一実施形態による、符号化単位及び変換単位の関係を図示する図面である。
【図８】本発明の一実施形態による深度別符号化情報を図示する図面である。
【図９】本発明の一実施形態による深度別符号化単位を図示する図面である。
【図１０】本発明の一実施形態による、符号化単位、予測単位及び周波数変換単位の関係を図示する図面である。
【図１１】本発明の一実施形態による、符号化単位、予測単位及び周波数変換単位の関係を図示する図面である。
【図１２】本発明の一実施形態による、符号化単位、予測単位及び周波数変換単位の関係を図示する図面である。
【図１３】表１の符号化モード情報による符号化単位、予測単位及び変換単位の関係を図示する図面である。
【図１４】本発明の一実施形態による動き予測装置を図示する図面である。
【図１５】１／４ピクセル精度を有する場合、動き補償過程で選択可能な整数ピクセル及びサブピクセル位置を図示する図面である。
【図１６】本発明の一実施形態による参照フレームの補間過程について説明するための図面である。
【図１７Ａ】本発明の一実施形態による、動き補償過程に必要な参照フレームのデータを示した図面である。
【図１７Ｂ】本発明の一実施形態による、動き補償過程に必要な参照フレームのデータを示した図面である。
【図１７Ｃ】本発明の一実施形態による、動き補償過程に必要な参照フレームのデータを示した図面である。
【図１８Ａ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１８Ｂ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１８Ｃ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１８Ｄ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１８Ｅ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１８Ｆ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１８Ｇ】予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。
【図１９】輝度成分の予測単位の大きさ、色差成分の予測単位の大きさ、動き予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を、大きい値から降順に示した表である。
【図２０】輝度成分の予測単位の大きさ、色差成分の予測単位の大きさ、動き予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を、大きい値から降順に示した表である。
【図２１】本発明の他の実施形態による参照フレームのデータ読み取り過程を減少させるための補間過程について説明するための参照図である。
【図２２】本発明の他の実施形態による参照フレームのデータ読み取り過程を減少させるための補間過程について説明するための参照図である。
【図２３】本発明の他の実施形態による参照フレームのデータ読み取り過程を減少させるための補間過程について説明するための参照図である。
【図２４】本発明の他の実施形態によって、補間フィルタのタップ数を減少させたり、あるいは二次元補間過程の代わりに、一次元補間フィルタを介して獲得される周辺サブピクセルや整数ピクセルを利用して補間を行う場合、輝度成分の予測単位の大きさ、色差成分の予測単位の大きさ、動き予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が大きい値から降順に示した表である。
【図２５】本発明の他の実施形態によって、補間フィルタのタップ数を減少させたり、あるいは二次元補間過程の代わりに、一次元補間フィルタを介して獲得される周辺サブピクセルや整数ピクセルを利用して補間を行う場合、輝度成分の予測単位の大きさ、色差成分の予測単位の大きさ、動き予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が大きい値から降順に示した表である。
【図２６】本発明の一実施形態によるビデオ符号化方法を示したフローチャートである。
【図２７】本発明の一実施形態による動き補償装置を図示する図面である。
【図２８】本発明の一実施形態によるビデオ復号化方法を示したフローチャートである。
【図２９Ａ】一実施形態による、プログラムが保存されたディスクの物理的構造を例示する。
【図２９Ｂ】ディスクを利用して、プログラムを記録して読み取るためのディスクドライブを図示する図面である。
【図３０】コンテンツ流通サービス（content  distribution  service）を提供するためのコンテンツ供給システム（content  supply  system）の全体的構造を図示する図面である。
【図３１】一実施形態による本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の外部構造を図示する図面である。
【図３２】一実施形態による本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の内部構造を図示する図面である。
【図３３】本発明による通信システムが適用されたデジタル放送システムを図示する図面である。
【図３４】本発明の一実施形態によるビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピュータ・システムのネットワーク構造を図示する図面である。
【発明を実施するための形態】
【００１１】
以下、添付された図面を参照し、本発明の望ましい実施形態について具体的に説明する。
【００１２】
図１は、本発明の一実施形態によるビデオ符号化装置のブロック図を図示している。一実施形態によるビデオ符号化装置１００は、最大符号化単位分割部１１０、符号化単位決定部１２０及び出力部１３０を含む。
【００１３】
最大符号化単位分割部１１０は、映像の現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャを区画することができる。現在ピクチャが最大符号化単位より大きければ、現在ピクチャの映像データは、少なくとも１つの最大符号化単位に分割される。一実施形態による最大符号化単位は、サイズ３２ｘ３２，６４ｘ６４，１２８ｘ１２８，２５６ｘ２５６のようなデータ単位であり、縦横サイズが８より大きい２の累乗である正方形のデータ単位でもある。映像データは、少なくとも１つの最大符号化単位別に、符号化単位決定部１２０に出力される。
【００１４】
一実施形態による符号化単位は、最大サイズ及び最大深度で特徴づけられる。深度とは、最大符号化単位から、符号化単位が空間的に分割された回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が最上位深度であり、最小符号化単位が最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれて、深度別符号化単位の大きさは減少するので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含んでもよい。
【００１５】
前述のように、符号化単位の最大サイズにより、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含んでもよい。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域（spatial  domain）の映像データが深度によって階層的に分類される。
【００１６】
最大符号化単位の高さ及び幅を階層的に分割することができる総回数を制限する最大深度及び符号化単位の最大サイズがあらかじめ設定されている。
【００１７】
符号化単位決定部１２０は、深度ごとに、最大符号化単位の領域が分割された少なくとも１つの分割領域を符号化し、少なくとも１つの分割領域別に最終符号化結果が出力される深度を決定する。すなわち、符号化単位決定部１２０は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で、映像データを符号化し、最小の符号化誤差が生じる深度を選択し、符号化深度として決定する。決定された符号化深度及び最大符号化単位別映像データは、出力部１３０に出力される。
【００１８】
最大符号化単位内の映像データは、最大深度以下の少なくとも１つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最小である深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも１つの符号化深度が決定される。
【００１９】
最大符号化単位の大きさは、深度が深くなるにつれて、符号化単位が階層的に分割されて分割され、符号化単位の個数が増加する。また、１つの最大符号化単位に含まれる同一深度の符号化単位であるとしても、それぞれのデータに係わる符号化誤差を測定し、下位深度への分割いかんが決定される。従って、１つの最大符号化単位に含まれるデータであるとしても、位置によって深度別符号化誤差が異なるので、位置によって符号化深度が異なって決定される。従って、１つの最大符号化単位について、符号化深度が一つ以上設定されもし、最大符号化単位のデータは、一つ以上の符号化深度の符号化単位によって区画される。
【００２０】
従って、一実施形態による符号化単位決定部１２０は、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれるあらゆる深度別符号化単位のうち、符号化深度として決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内において同一領域では、深度によって階層的に決定され、他の領域については、独立して決定される。同様に、現在領域に係わる符号化深度は、他の領域に係わる符号化深度と独立して決定される。
【００２１】
一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数に係わる指標である。一実施形態による第１最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示すことができる。一実施形態による第２最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示すことができる。例えば、最大符号化単位の深度が０であるとするとき、最大符号化単位が１回分割された符号化単位の深度は、１に設定され、２回分割された符号化単位の深度は、２に設定される。その場合、最大符号化単位から４回分割された符号化単位が最小符号化単位であるならば、深度０，１，２，３及び４の深度レベルが存在するので、第１最大深度は、４に、第２最大深度は、５に設定される。
【００２２】
最大符号化単位の予測符号化及び周波数変換が行われる。予測符号化及び周波数変換も同様に、最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に行われる。
【００２３】
最大符号化単位が深度別に分割されるたびに、深度別符号化単位の個数が増加するので、深度が深くなるにつれて、生成されるあらゆる深度別符号化単位に対して、予測符号化、及び周波数変換を含んだ符号化が行われなければならない。以下、説明の便宜のために、少なくとも１つの最大符号化単位において、現在深度の符号化単位を基に、予測符号化及び周波数変換について説明する。
【００２４】
一実施形態によるビデオ符号化装置１００は、映像データの符号化のためのデータ単位の大きさまたは形態を多様に選択することができる。映像データの符号化のためには、予測符号化、周波数変換、エントロピー符号化などの段階を経るが、あらゆる段階にわたって、同一のデータ単位が使用され、段階別にデータ単位が変更されもする。
【００２５】
例えば、ビデオ符号化装置１００は、映像データの符号化のための符号化単位だけではなく、符号化単位の映像データの予測符号化を行うために、符号化単位と異なるデータ単位を選択することができる。
【００２６】
最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、それ以上分割されない符号化単位を基に、予測符号化が行われる。以下、予測符号化の基になる、それ以上分割されない符号化単位を「予測単位」とする。予測単位が分割されたパーティションは、予測単位、並びに予測単位の高さ及び幅のうち少なくとも一つが分割されたデータ単位を含んでもよい。
【００２７】
例えば、サイズ２Ｎｘ２Ｎ（ただし、Ｎは、正の整数）の符号化単位が、それ以上分割されない場合、サイズ２Ｎｘ２Ｎの予測単位になり、パーティションの大きさは、サイズ２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ，ＮｘＮなどでもある。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が対称的な比率に分割された対称的パーティションだけではなく、１：ｎまたはｎ：１のように、非対称的な比率に分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含んでもよい。
【００２８】
予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つでもある。例えば、イントラモード及びインターモードは、２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ，ＮｘＮサイズのパーティションに対して遂行される。また、スキップモードは、２Ｎｘ２Ｎサイズのパーティションに対してのみ遂行される。符号化単位以内の１つの予測単位ごとに、独立して符号化が行われ、符号化誤差が最小である予測モードが選択される。
【００２９】
また、一実施形態によるビデオ符号化装置１００は、映像データの符号化のための符号化単位だけではなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの周波数変換を行うことができる。
【００３０】
符号化単位の周波数変換のためには、符号化単位より小さいか、あるいはそれと同じ大きさのデータ単位を基に、周波数変換が行われる。例えば、周波数変換のためのデータ単位は、イントラモードのためのデータ単位、及びインターモードのためのデータ単位を含んでもよい。
【００３１】
以下、周波数変換の基になるデータ単位を「変換単位」とする。符号化単位と類似した方式で、符号化単位内の変換単位も、再帰的にさらに小サイズの変換単位に分割されながら、符号化単位の残差データ（residual  data）が、変換深度によって、ツリー構造による変換単位によって区画される。
【００３２】
一実施形態による変換単位についても、符号化単位の高さ及び幅を分割し、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ２Ｎｘ２Ｎの現在符号化単位の変換単位の大きさが、２Ｎｘ２Ｎであるならば、変換深度０、変換単位の大きさがＮｘＮであるならば、変換深度１に、変換単位の大きさがＮ／２ｘＮ／２であるならば、変換深度２に設定される。すなわち、変換単位についても、変換深度によって、ツリー構造による変換単位が設定される。
【００３３】
符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び周波数変換関連情報が必要である。従って、符号化単位決定部１２０は、最小符号化誤差を発生させた符号化深度だけではなく、予測単位をパーティションに分割したパーティションタイプ、予測単位別予測モード、周波数変換のための変換単位の大きさなどを決定することができる。
【００３４】
一実施形態による最大符号化単位のツリー構造による符号化単位及びパーティションの決定方式については、図３ないし図１２を参照して詳細に説明する。
【００３５】
符号化単位決定部１２０は、深度別符号化単位の符号化誤差を、ラグランジュ乗数（Lagrangian  multiplier）基盤の率・歪曲最適化技法（rate-distortion  optimization）を利用して測定することができる。
【００３６】
出力部１３０は、符号化単位決定部１２０で決定された少なくとも１つの符号化深度に基づいて符号化された最大符号化単位の映像データ、及び深度別符号化モードに関する情報を、ビットストリーム状で出力する。
【００３７】
符号化された映像データは、映像の残差データの符号化結果でもある。
【００３８】
深度別符号化モードについての情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位のサイズ情報などを含んでもよい。
【００３９】
符号化深度情報は、現在深度で符号化せず、下位深度の符号化単位で符号化するか否かということを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報はそ、れ以上下位深度に分割されないように定義される。一方、現在符号化単位の現在深度が符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みなればならないので、現在深度の分割情報は、下位深度の符号化単位に分割されるように定義される。
【００４０】
現在深度が符号化深度ではないならば、下位深度の符号化単位に分割された符号化単位に対して符号化が行われる。現在深度の符号化単位内に、下位深度の符号化単位が一つ以上存在するので、それぞれの下位深度の符号化単位ごとに、反復的に符号化が行われ、同一深度の符号化単位ごとに、再帰的（recursive）符号化が行われる。
【００４１】
１つの最大符号化単位内で、ツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも１つの符号化モードについての情報が決定されなければならないので、１つの最大符号化単位については、少なくとも１つの符号化モードについての情報が決定される。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なることがあるので、データに対して、符号化深度及び符号化モードについての情報が設定される。
【００４２】
従って、一実施形態による出力部１３０は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つに対して、当該符号化深度及び符号化モードに係わる符号化情報を割り当てられる。
【００４３】
一実施形態による最小単位は、最下位符号化深度である最小符号化単位が４分割された大きさの正方形のデータ単位であり、最大符号化単位に含まれるあらゆる符号化単位、予測単位及び変換単位内に含まれる最大サイズの正方形データ単位でもある。
【００４４】
例えば、出力部１３０を介して出力される符号化情報は、深度別符号化単位別符号化情報と、予測単位別符号化情報とに分類される。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向についての情報、インターモードの参照映像インデックスについての情報、動きベクトルについての情報、イントラモードのクロマ成分（chroma  component）についての情報、イントラモードの補間方式についての情報などを含んでもよい。また、ピクチャ、スライスまたはＧＯＰ（group  of  pictures）別に定義される符号化単位の最大サイズについての情報、及び最大深度についての情報は、ビットストリームのヘッダに挿入される。
【００４５】
ビデオ符号化装置１００の最も簡単な形態の実施形態によれば、深度別符号化単位は、１階層上位深度の符号化単位の高さ及び幅を半分にした大きさの符号化単位である。すなわち、現在深度の符号化単位の大きさが、２Ｎｘ２Ｎであるならば、下位深度の符号化単位の大きさは、ＮｘＮである。また、２Ｎｘ２Ｎサイズの現在符号化単位は、ＮｘＮサイズの下位深度符号化単位を最大４個含む。
【００４６】
従って、一実施形態によるビデオ符号化装置１００は、現在ピクチャの特性を考慮して決定された最大符号化単位の大きさ及び最大深度を基に、それぞれの最大符号化単位ごとに、最適の形態及び大きさの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、周波数変換方式などで符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮し、最適の符号化モードが決定される。
【００４７】
従って、映像の解像度が非常に高かったり、あるいはデータ量が非常に多い映像を既存マクロブロック単位で符号化するとするならば、ピクチャ当たりマクロブロックの数が過度に多くなる。それにより、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下する傾向がある。従って、一実施形態によるビデオ符号化装置は、映像の大きさを考慮して、符号化単位の最大サイズを増大させながら、映像特性を考慮して符号化単位を調節することができるので、映像圧縮効率が上昇する。
【００４８】
図２は、本発明の一実施形態によるビデオ復号化装置のブロック図を図示している。一実施形態によるビデオ復号化装置２００は、受信部２１０、映像データ及び符号化情報抽出部２２０、並びに映像データ復号化部２３０を含む。一実施形態によるビデオ復号化装置２００の各種プロセシングのための符号化単位、深度、予測単位、変換単位、各種符号化モードについての情報など、各種用語の定義は、図１のビデオ符号化装置１００を参照して説明したところと同一である。
【００４９】
受信部２１０は、符号化されたビデオに係わるビットストリームを受信してバージング（parsing）する。映像データ及び符号化情報抽出部２２０は、バージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位によって符号化単位ごとに符号化された映像データを抽出し、映像データ復号化部２３０に出力する。映像データ及び符号化情報抽出部２２０は、現在ピクチャに係わるヘッダから、現在ピクチャの符号化単位の最大サイズについての情報を抽出することができる。
【００５０】
また、映像データ及び符号化情報抽出部２２０は、バージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化深度及び符号化モードについての情報を抽出する。抽出された符号化深度及び符号化モードについての情報は、映像データ復号化部２３０に出力される。すなわち、ビット列の映像データを最大符号化単位に分割し、映像データ復号化部２３０をして、最大符号化単位ごとに映像データを復号化させる。
【００５１】
最大符号化単位別符号化深度及び符号化モードについての情報は、一つ以上の符号化深度情報に対して設定され、符号化深度別符号化モードについての情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位のサイズ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されもする。
【００５２】
映像データ及び符号化情報抽出部２２０が抽出した最大符号化単位別符号化深度及び符号化モードについての情報は、一実施形態によるビデオ符号化装置１００のように、符号化端で、最大符号化単位別深度別符号化単位ごとに反復的に符号化を行い、最小符号化誤差を発生させると決定された符号化深度及び符号化モードについての情報である。従って、ビデオ復号化装置２００は、最小符号化誤差を発生させる符号化方式により、データを復号化して映像を復元することができる。
【００５３】
一実施形態による符号化深度及び符号化モードに係わる符号化情報は、当該符号化単位、予測単位及び最小単位のうち、所定データ単位に対して割り当てられているので、映像データ及び符号化情報抽出部２２０は、所定データ単位別に、符号化深度及び符号化モードについての情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードについての情報が記録されているのであるならば、同一の符号化深度及び符号化モードについての情報を有している所定データ単位は、同一の最大符号化単位に含まれるデータ単位と類推される。
【００５４】
映像データ復号化部２３０は、最大符号化単位別符号化深度及び符号化モードについての情報に基づいて、それぞれの最大符号化単位の映像データを復号化し、現在ピクチャを復元する。すなわち、映像データ復号化部２３０は、最大符号化単位に含まれるツリー構造による符号化単位のうちそれぞれの符号化単位ごとに、読み取られたパーティションタイプ、予測モード、変換単位に基づいて符号化された映像データを復号化することができる。復号化過程は、イントラ予測及び動き補償を含む予測過程、及び周波数逆変換過程を含んでもよい。
【００５５】
映像データ復号化部２３０は、符号化深度別符号化単位の予測単位のパーティションタイプ情報及び予測モード情報に基づいて、符号化単位ごとに、それぞれのパーティション及び予測モードによって、イントラ予測または動き補償を行うことができる。
【００５６】
また、映像データ復号化部２３０は、最大符号化単位別周波数逆変換のために、符号化深度別符号化単位の変換単位のサイズ情報に基づいて、符号化単位ごとに、それぞれの変換単位によって、周波数逆変換を行うことができる。
【００５７】
映像データ復号化部２３０は、深度別分割情報を利用して、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が現在深度において、それ以上分割されないということを示しているのであるならば、現在深度が符号化深度である。従って、映像データ復号化部２３０は、現在最大符号化単位の映像データに対して、現在深度の符号化単位を、予測単位のパーティションタイプ、予測モード及び変換単位サイズ情報を利用して復号化することができる。
【００５８】
すなわち、符号化単位、予測単位及び最小単位のうち、所定データ単位に対して設定されている符号化情報を観察し、同一の分割情報を含んだ符号化情報を保有しているデータ単位が集まり、映像データ復号化部２３０によって、同一の符号化モードに復号化する１つのデータ単位と見なされる。
【００５９】
一実施形態によるビデオ復号化装置２００は、符号化過程で、最大符号化単位ごとに、再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに係わる復号化に利用することができる。すなわち、最大符号化単位ごとに最適符号化単位と決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。
【００６０】
従って、高い解像度の映像、またはデータ量が過度に多い映像でも、符号化端から伝送された最適符号化モードについての情報を利用して、映像の特性に適応的に決定された符号化単位の大きさ及び符号化モードによって、効率的に映像データを復号化して復元することができる。
【００６１】
以下、図３ないし図１３を参照し、本発明の一実施形態によるツリー構造による符号化単位、予測単位及び変換単位の決定方式について説明する。
【００６２】
図３は、階層的符号化単位の概念を図示している。
【００６３】
符号化単位の例は、符号化単位の大きさは、幅ｘ高さで表現され、サイズ６４ｘ６４である符号化単位から、サイズ３２ｘ３２，１６ｘ１６，８ｘ８を含んでもよい。サイズ６４ｘ６４の符号化単位は、サイズ６４ｘ６４，６４ｘ３２，３２ｘ６４，３２ｘ３２のパーティションに分割され、サイズ３２ｘ３２の符号化単位は、サイズ３２ｘ３２，３２ｘ１６，１６ｘ３２，１６ｘ１６のパーティションに分割され、サイズ１６ｘ１６の符号化単位は、サイズ１６ｘ１６，１６ｘ８，８ｘ１６，８ｘ８のパーティションに分割され、サイズ８ｘ８の符号化単位は、サイズ８ｘ８，８ｘ４，４ｘ８，４ｘ４のパーティションに分割される。
【００６４】
ビデオデータ３１０については、解像度が１９２０ｘ１０８０、符号化単位の最大サイズが６４、最大深度が２に設定されている。ビデオデータ３２０については、解像度が１９２０ｘ１０８０、符号化単位の最大サイズが６４、最大深度が３に設定されている。ビデオデータ３３０については、解像度が３５２ｘ２８８、符号化単位の最大サイズが１６、最大深度が１に設定されている。図３に図示された最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。
【００６５】
解像度が高いか、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映させるために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ３３０に比べ、解像度が高いビデオデータ３１０，３２０は、符号化サイズの最大サイズが６４に選択される。
【００６６】
ビデオデータ３１０の最大深度が２であるので、ビデオデータ３１０の符号化単位３１５は、長軸サイズが６４である最大符号化単位から、２回分割されて深度が２階層深くなり、長軸サイズが３２，１６である符号化単位まで含んでもよい。一方、ビデオデータ３３０の最大深度が１であるので、ビデオデータ３３０の符号化単位３３５は、長軸サイズが１６である符号化単位から、１回分割されて深度が１階層深くなり、長軸サイズが８である符号化単位まで含んでもよい。
【００６７】
ビデオデータ３２０の最大深度が３であるので、ビデオデータ３２０の符号化単位３２５は、長軸サイズが６４である最大符号化単位から、３回分割されて深度が３階層深くなり、長軸サイズが３２，１６，８である符号化単位まで含んでもよい。深度が深くなるほど、細部情報の表現能が向上する。
【００６８】
図４は、本発明の一実施形態による、符号化単位に基づいた映像符号化部のブロック図を図示している。一実施形態による映像符号化部４００は、ビデオ符号化装置１００の符号化単位決定部１２０で、映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部４１０は、現在フレーム４０５において、イントラモードの符号化単位に対してイントラ予測を行い、動き推定部４２０及び動き補償部４２５は、インターモードの現在フレーム４０５及び参照フレーム４９５を利用して、インター推定及び動き補償を行う。
【００６９】
イントラ予測部４１０、動き推定部４２０及び動き補償部４２５から出力されたデータは、周波数変換部４３０及び量子化部４４０を経て、量子化された変換係数として出力される。量子化された変換係数は、逆量子化部４６０、周波数逆変換部４７０を介して、空間領域のデータに復元され、復元された空間領域のデータは、デブロッキング部４８０及びループ・フィルタリング部４９０を経て後処理され、参照フレーム４９５として出力される。量子化された変換係数は、エントロピー符号化部４５０を経て、ビットストリーム４５５として出力される。
【００７０】
一実施形態によるビデオ符号化装置１００に適用されるためには、映像符号化部４００の構成要素であるイントラ予測部４１０、動き推定部４２０、動き補償部４２５、周波数変換部４３０、量子化部４４０、エントロピー符号化部４５０、逆量子化部４６０、周波数逆変換部４７０、デブロッキング部４８０及びループ・フィルタリング部４９０が、いずれも最大符号化単位ごとに、最大深度を考慮し、ツリー構造による符号化単位のうち、それぞれの符号化単位に基づいた作業を行わなければならない。
【００７１】
特に、イントラ予測部４１０、動き推定部４２０及び動き補償部４２５は、現在最大符号化単位の最大サイズ及び最大深度を考慮して、ツリー構造による符号化単位のうち、それぞれの符号化単位のパーティション及び予測モードを決定し、周波数変換部４３０は、ツリー構造による符号化単位のうち、それぞれの符号化単位内の変換単位サイズを決定しなければならない。
【００７２】
図５は、本発明の一実施形態による、符号化単位に基づいた映像復号化部のブロック図を図示している。ビットストリーム５０５がバージング部５１０を経て、復号化対象である符号化された映像データ及び復号化のために必要な符号化についての情報がバージングされる。符号化された映像データは、エントロピー復号化部５２０及び逆量子化部５３０を経て、逆量子化されたデータとして出力され、周波数逆変換部５４０を経て残差データが復元される。
【００７３】
イントラ予測部５５０は、イントラモードの符号化単位に対して、イントラ予測を行い、動き補償部５６０は、参照フレーム５８５を共に利用して、インターモードの符号化単位に対して動き補償を行う。
【００７４】
イントラ予測部５５０及び動き補償部５６０を経た復元データは、デブロッキング部５７０及びループ・フィルタリング部５８０を経て後処理され、復元フレーム５９５として出力される。また、デブロッキング部５７０及びループ・フィルタリング部５８０を経て後処理されたデータは、参照フレーム５８５として出力される。
【００７５】
ビデオ復号化装置２００の映像データ復号化部２３０で、映像データを復号化するために、一実施形態による映像復号化部５００のバージング部５１０以後の段階別作業が行われる。
【００７６】
一実施形態によるビデオ復号化装置２００に適用されるためには、映像復号化部５００の構成要素であるバージング部５１０、エントロピー復号化部５２０、逆量子化部５３０、周波数逆変換部５４０、イントラ予測部５５０、動き補償部５６０、デブロッキング部５７０及びループ・フィルタリング部５８０が、いずれも最大符号化単位ごとに、ツリー構造による符号化単位に基づいて、作業を行わなければならない。
【００７７】
特に、イントラ予測部５５０、動き補償部５６０は、ツリー構造による符号化単位ごとに、それぞれパーティション及び予測モードを決定し、周波数逆変換部５４０は、符号化単位ごとに、変換単位の大きさを決定しなければならない。
【００７８】
図６は、本発明の一実施形態による、深度別符号化単位及びパーティションを図示している。一実施形態によるビデオ符号化装置１００、及び一実施形態によるビデオ復号化装置２００は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高さ及び最大幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって、多様に設定されもする。あらかじめ設定された符号化単位の最大サイズにより、深度別符号化単位の大きさが決定されもする。
【００７９】
一実施形態による符号化単位の階層構造６００は、符号化単位の最大高さ及び最大幅が６４であり、最大深度が４である場合を図示している。一実施形態による符号化単位の階層構造６００の縦軸に沿って深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造６００の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基になる予測単位及びパーティションが図示されている。
【００８０】
すなわち、符号化単位６１０は、符号化単位の階層構造６００において最大符号化単位であり、深度が０であり、符号化単位の大きさ、すなわち、高さ及び幅が６４ｘ６４である。縦軸に沿って深度が深くなり、サイズ３２ｘ３２である深度１の符号化単位６２０、サイズ１６ｘ１６である深度２の符号化単位６３０、サイズ８ｘ８である深度３の符号化単位６４０、サイズ４ｘ４である深度４の符号化単位６５０が存在する。サイズ４ｘ４である深度４の符号化単位６５０は、最小符号化単位である。
【００８１】
それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度０のサイズ６４ｘ６４の符号化単位６１０が、予測単位であるならば、予測単位は、サイズ６４ｘ６４の符号化単位６１０に含まれるサイズ６４ｘ６４のパーティション６１０、サイズ６４ｘ３２のパーティション６１２、サイズ３２ｘ６４のパーティション６１４、サイズ３２ｘ３２のパーティション６１６に分割される。
【００８２】
同様に、深度１のサイズ３２ｘ３２の符号化単位６２０の予測単位は、サイズ３２ｘ３２の符号化単位６２０に含まれるサイズ３２ｘ３２のパーティション６２０、サイズ３２ｘ１６のパーティション６２２、サイズ１６ｘ３２のパーティション６２４、サイズ１６ｘ１６のパーティション６２６に分割される。
【００８３】
同様に、深度２のサイズ１６ｘ１６の符号化単位６３０の予測単位は、サイズ１６ｘ１６の符号化単位６３０に含まれるサイズ１６ｘ１６のパーティション６３０、サイズ１６ｘ８のパーティション６３２、サイズ８ｘ１６のパーティション６３４、サイズ８ｘ８のパーティション６３６に分割される。
【００８４】
同様に、深度３のサイズ８ｘ８の符号化単位６４０の予測単位は、サイズ８ｘ８の符号化単位６４０に含まれるサイズ８ｘ８のパーティション６４０、サイズ８ｘ４のパーティション６４２、サイズ４ｘ８のパーティション６４４、サイズ４ｘ４のパーティション６４６に分割される。
【００８５】
最後に、深度４のサイズ４ｘ４の符号化単位６５０は、最小符号化単位であり、最下位深度の符号化単位であり、当該予測単位も、サイズ４ｘ４のパーティション６５０だけに設定される。
【００８６】
一実施形態によるビデオ符号化装置１００の符号化単位決定部１２０は、最大符号化単位６１０の符号化深度を決定するために、最大符号化単位６１０に含まれるそれぞれの深度の符号化単位ごとに符号化を行わなければならない。
【００８７】
同一の範囲及び大きさのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度１の符号化単位一つが含むデータに対して、深度２の符号化単位は、四つが必要である。従って、同一のデータの符号化結果を、深度別に比較するために、１つの深度１の符号化単位、及び４つの深度２の符号化単位を利用して、それぞれ符号化されなければならない。
【００８８】
それぞれの深度別符号化のためには、符号化単位の階層構造６００の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度で、最小となる符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造６００の縦軸に沿って深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較し、最小符号化誤差が検索される。最大符号化単位６１０において、最小符号化誤差が生じる深度及びパーティションが、最大符号化単位６１０の符号化深度及びパーティションタイプに選択される。
【００８９】
図７は、本発明の一実施形態による、符号化単位及び変換単位の関係を図示している。
【００９０】
一実施形態によるビデオ符号化装置１００、または一実施形態によるビデオ復号化装置２００は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいはそれと同じ大きさの符号化単位で、映像を符号化したり、あるいは復号化する。符号化過程において、周波数変換のための変換単位の大きさは、それぞれの符号化単位より大きくないデータ単位を基に選択される。
【００９１】
例えば、一実施形態によるビデオ符号化装置１００、または一実施形態によるビデオ復号化装置２００で、現在符号化単位７１０が６４ｘ６４サイズであるとき、３２ｘ３２サイズの変換単位７２０を利用して、周波数変換が行われる。
【００９２】
また、６４ｘ６４サイズの符号化単位７１０のデータを、６４ｘ６４サイズ以下の３２ｘ３２，１６ｘ１６，８ｘ８，４ｘ４サイズの変換単位で、それぞれ周波数変換を行って符号化した後、原本との誤差が最小である変換単位が選択される。
【００９３】
図８は、本発明の一実施形態による深度別符号化情報を図示している。
【００９４】
一実施形態によるビデオ符号化装置１００の出力部１３０は、符号化モードについての情報として、それぞれの符号化深度の符号化単位ごとに、パーティションタイプについての情報８００、予測モードについての情報８１０、変換単位サイズについての情報８２０を符号化して伝送することができる。
【００９５】
パーティションタイプについての情報８００は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティションの形態についての情報を示す。例えば、サイズ２Ｎｘ２Ｎの現在符号化単位ＣＵ＿０は、サイズ２Ｎｘ２Ｎのパーティション８０２、サイズ２ＮｘＮのパーティション８０４、サイズＮｘ２Ｎのパーティション８０６、サイズＮｘＮのパーティション８０８のうちいずれか１つのタイプに分割されて利用される。その場合、現在符号化単位のパーティションタイプについての情報８００は、サイズ２Ｎｘ２Ｎのパーティション８０２、サイズ２ＮｘＮのパーティション８０４、サイズＮｘ２Ｎのパーティション８０６及びサイズＮｘＮのパーティション８０８のうち一つを示すように設定される。
【００９６】
予測モードについての情報８１０は、それぞれのパーティションの予測モードを示す。例えば、予測モードについての情報８１０を介して、パーティションタイプについての情報８００が示すパーティションが、イントラモード８１２、インターモード８１４及びスキップモード８１６のうち一つで予測符号化が行われるということが設定される。
【００９７】
また、変換単位サイズについての情報８２０は、現在符号化単位を、いかなる変換単位を基に周波数変換を行うということを示す。例えば、変換単位は、第１イントラ変換単位サイズ８２２、第２イントラ変換単位サイズ８２４、第１インター変換単位サイズ８２６、第２インター変換単位サイズ８２８のうち一つでもある。
【００９８】
一実施形態によるビデオ復号化装置２００の映像データ及び符号化情報抽出部２１０は、それぞれの深度別符号化単位ごとに、パーティションタイプについての情報８００、予測モードについての情報８１０、変換単位サイズについての情報８２０を抽出し、復号化に利用することができる。
【００９９】
図９は、本発明の一実施形態による深度別符号化単位を図示している。
【０１００】
深度の変化を示すために、分割情報が利用される。分割情報は、現在深度の符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。
【０１０１】
深度０及び２Ｎ＿０ｘ２Ｎ＿０サイズの符号化単位９００の予測符号化のための予測単位９１０は、２Ｎ＿０ｘ２Ｎ＿０サイズのパーティションタイプ９１２、２Ｎ＿０ｘＮ＿０サイズのパーティションタイプ９１４、Ｎ＿０ｘ２Ｎ＿０サイズのパーティションタイプ９１６、Ｎ＿０ｘＮ＿０サイズのパーティションタイプ９１８を含んでもよい。予測単位が対称的な比率に分割されたパーティション９１２，９１４，９１６，９１８のみが例示されているが、前述のように、パーティションタイプは、それらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。
【０１０２】
パーティションタイプごとに、１つの２Ｎ＿０ｘ２Ｎ＿０サイズのパーティション、２つの２Ｎ＿０ｘＮ＿０サイズのパーティション、２つのＮ＿０ｘ２Ｎ＿０サイズのパーティション、４つのＮ＿０ｘＮ＿０サイズのパーティションごとに、反復的に予測符号化が行われなければならない。サイズ２Ｎ＿０ｘ２Ｎ＿０、サイズＮ＿０ｘ２Ｎ＿０、サイズ２Ｎ＿０ｘＮ＿０及びサイズＮ＿０ｘＮ＿０のパーティションについては、イントラモード及びインターモードで予測符号化が行われる。スキップモードは、サイズ２Ｎ＿０ｘ２Ｎ＿０のパーティションについてのみ予測符号化が行われる。
【０１０３】
サイズ２Ｎ＿０ｘ２Ｎ＿０，２Ｎ＿０ｘＮ＿０及びＮ＿０ｘ２Ｎ＿０のパーティションタイプ９１２，９１４，９１６のうち一つによる符号化誤差が最小であれば、それ以上下位深度に分割する必要ない。
【０１０４】
サイズＮ＿０ｘＮ＿０のパーティションタイプ９１８による符号化誤差が最小であれば、深度０を１に変更しながら分割し（９２０）、深度２及びサイズＮ＿０ｘＮ＿０のパーティションタイプの符号化単位９３０に対して反復的に符号化を行い、最小符号化誤差を検索していくことができる。
【０１０５】
深度１及びサイズ２Ｎ＿１ｘ２Ｎ＿１（＝Ｎ＿０ｘＮ＿０）の符号化単位９３０の予測符号化のための予測単位９４０は、サイズ２Ｎ＿１ｘ２Ｎ＿１のパーティションタイプ９４２、サイズ２Ｎ＿１ｘＮ＿１のパーティションタイプ９４４、サイズＮ＿１ｘ２Ｎ＿１のパーティションタイプ９４６、サイズＮ＿１ｘＮ＿１のパーティションタイプ９４８を含んでもよい。
【０１０６】
また、サイズＮ＿１ｘＮ＿１のパーティションタイプ９４８による符号化誤差が最小であれば、深度１を深度２に変更しながら分割し（９５０）、深度２及びサイズＮ＿２ｘＮ＿２の符号化単位９６０に対して反復的に符号化を行い、最小符号化誤差を検索していくことができる。
【０１０７】
最大深度がｄである場合、深度別分割情報は、深度ｄ−１になるまで設定され、分割情報は、深度ｄ−２まで設定される。すなわち、深度ｄ−２から分割され（９７０）、深度ｄ−１まで符号化が行われる場合、深度ｄ−１及びサイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）の符号化単位９８０の予測符号化のための予測単位９９０は、サイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティションタイプ９９２、サイズ２Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９４、サイズＮ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティションタイプ９９６、サイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９８を含んでもよい。
【０１０８】
パーティションタイプのうち、１つのサイズ２Ｎ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティション、２つのサイズ２Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティション、２つのサイズＮ＿（ｄ−１）ｘ２Ｎ＿（ｄ−１）のパーティション、４つのサイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションごとに、反復的に予測符号化を介した符号化が行われ、最小符号化誤差が生じるパーティションタイプが検索される。
【０１０９】
サイズＮ＿（ｄ−１）ｘＮ＿（ｄ−１）のパーティションタイプ９９８による符号化誤差が最小であるとしても、最大深度がｄであるので、深度ｄ−１の符号化単位ＣＵ＿（ｄ−１）は、それ以上下位深度への分割過程を経ず、現在最大符号化単位９００に対する符号化深度が深度ｄ−１に決定され、パーティションタイプは、Ｎ＿（ｄ−１）ｘＮ＿（ｄ−１）に決定される。また、最大深度がｄであるので、深度ｄ−１の符号化単位９５２に対して、分割情報が設定されない。
【０１１０】
データ単位９９９は、現在最大符号化単位に係わる「最小単位」とされる。一実施形態による最小単位は、最下位符号化深度である最小符号化単位が４分割された大きさの正方形のデータ単位でもある。そのような反復的符号化過程を介して、一実施形態によるビデオ符号化装置１００は、符号化単位９００の深度別符号化誤差を比較し、最小の符号化誤差が生じる深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが、符号化深度の符号化モードに設定される。
【０１１１】
かように深度０，１，…，ｄ−１，ｄのあらゆる深度別最小符号化誤差を比較し、誤差が最小である深度が選択され、符号化深度として決定される。符号化深度、予測単位のパーティションタイプ及び予測モードは、符号化モードについての情報として符号化されて伝送される。また、深度０から符号化深度に至るまでｂ符号化単位が分割されなければならないので、符号化深度の分割情報だけが「０」に設定され、符号化深度を除いた深度別分割情報は、「１」に設定されなければならない。
【０１１２】
一実施形態によるビデオ復号化装置２００の映像データ及び符号化情報抽出部２２０は、符号化単位９００に対する符号化深度及び予測単位についての情報を抽出し、符号化単位９１２を復号化するのに利用することができる。一実施形態によるビデオ復号化装置２００は、深度別分割情報を利用して、分割情報が「０」である深度を符号化深度で把握し、当該深度に係わる符号化モードについての情報を利用して、復号化に利用することができる。
【０１１３】
図１０、図１１及び図１２は、本発明の一実施形態による、符号化単位、予測単位及び周波数変換単位の関係を図示している。符号化単位１０１０は、最大符号化単位に対して、一実施形態によるビデオ符号化装置１００が決定した符号化深度別符号化単位である。予測単位１０６０は、符号化単位１０１０において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位１０７０は、それぞれの符号化深度別符号化単位の変換単位である。
【０１１４】
深度別符号化単位１０１０は、最大符号化単位の深度が０であるとすれば、符号化単位１０１２，１０５４は、深度が１、符号化単位１０１４，１０１６，１０１８，１０２８，１０５０，１０５２は、深度が２、符号化単位１０２０，１０２２，１０２４，１０２６，１０３０，１０３２，１０４８は、深度が３、符号化単位１０４０，１０４２，１０４４，１０４６は、深度が４である。
【０１１５】
予測単位１０６０のうち一部パーティション１０１４，１０１６，１０２２，１０３２，１０４８，１０５０，１０５２，１０５４は、符号化単位が分割された形態である。すなわち、パーティション１０１４，１０２２，１０５０，１０５４は、２ＮｘＮのパーティションタイプであり、パーティション１０１６，１０４８，１０５２は、Ｎｘ２Ｎのパーティションタイプであり、パーティション１０３２は、ＮｘＮのパーティションタイプである。深度別符号化単位１０１０の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいはそれと同じである。
【０１１６】
変換単位１０７０のうち一部変換単位１０５２の映像データについては、符号化単位に比べて小サイズのデータ単位で、周波数変換または周波数逆変換が行われる。また、変換単位１０１４，１０１６，１０２２，１０３２，１０４８，１０５０，１０５２，１０５４は、予測単位１０６０のうち、当該予測単位及びパーティションと比較すれば、互いに異なる大きさまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置１００、及び一実施形態に他のビデオ復号化装置２００は、同一の符号化単位に係わるイントラ予測／動き推定／動き補償作業、及び周波数変換／逆変換作業であるとしても、それぞれ別個のデータ単位を基に行うことができる。
【０１１７】
それにより、最大符号化単位ごとに、領域別に階層的な構造の符号化単位ごとに再帰的に符号化が行われ、最適符号化単位が決定されることにより、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表１は、一実施形態によるビデオ符号化装置１００、及び一実施形態によるビデオ復号化装置２００で設定することができる一例を示している。
【０１１８】
【表１】
2014531153.tif 000003
一実施形態によるビデオ符号化装置１００の出力部１３０は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置２００の符号化情報抽出部２２０は、受信されたビットストリームから、ツリー構造による符号化単位に係わる符号化情報を抽出することができる。
【０１１９】
分割情報は、現在符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。現在深度ｄの分割情報が０であるならば、現在符号化単位は、現在符号化単位が下位符号化単位にそれ以上分割されない深度が、符号化深度であるので、符号化深度に対して、パーティションタイプ情報、予測モード情報、変換単位サイズ情報が定義される。分割情報により、１段階さらに分割されなければならない場合には、分割された４個の下位深度の符号化単位ごとに、独立して符号化が行われなければならない。
【０１２０】
予測モードは、イントラモード、インターモード及びスキップモードのうち一つで示すことができる。イントラモード及びインターモードは、あらゆるパーティションタイプで定義され、スキップモードは、パーティションタイプ２Ｎｘ２Ｎでのみ定義される。
【０１２１】
パーティションタイプ情報は、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションタイプ２Ｎｘ２Ｎ，２ＮｘＮ，Ｎｘ２Ｎ及びＮｘＮと、非対称的な比率に分割された非対称的パーティションタイプ２ＮｘｎＵ，２ＮｘｎＤ，ｎＬｘ２Ｎ，ｎＲｘ２Ｎを示すことができる。非対称的パーティションタイプ２ＮｘｎＵ及び２ＮｘｎＤは、それぞれ高さが１：３及び３：１に分割された形態であり、非対称的パーティションタイプｎＬｘ２Ｎ及びｎＲｘ２Ｎは、それぞれ幅が１：３及び３：１に分割された形態を示す。
【０１２２】
変換単位サイズは、イントラモードで二種の大きさ、インターモードで二種の大きさに設定される。すなわち、変換単位分割情報が０であるならば、変換単位の大きさは、現在符号化単位のサイズ２Ｎｘ２Ｎに設定される。変換単位分割情報が１であるならば、現在符号化単位が分割された大きさの変換単位が設定される。また、サイズ２Ｎｘ２Ｎである現在符号化単位に係わるパーティションタイプが、対称形パーティションタイプであるならば、変換単位の大きさは、ＮｘＮに、非対称形パーティションタイプであるならば、Ｎ／２ｘＮ／２に設定される。
【０１２３】
一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位単位のうち少なくとも一つに対して割り当てられる。符号化深度の符号化単位は、同一の符号化情報を保有している予測単位及び最小単位を一つ以上含んでもよい。
【０１２４】
従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同一の符号化深度の符号化単位に含まれるか否かということが確認される。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。
【０１２５】
従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。
【０１２６】
さらに他の実施形態で、現在符号化単位が周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用して、深度別符号化単位内で、現在符号化単位に隣接するデータが検索されることにより、周辺符号化単位が参照される。
【０１２７】
図１３は、表１の符号化モード情報による符号化単位、予測単位及び変換単位の関係を図示している。最大符号化単位１３００は、符号化深度の符号化単位１３０２，１３０４，１３０６，１３１２，１３１４，１３１６，１３１８を含む。そのうち１つの符号化単位１３１８は、符号化深度の符号化単位であるので、分割情報が０に設定される。サイズ２Ｎｘ２Ｎの符号化単位１３１８のパーティションタイプ情報は、パーティションタイプ２Ｎｘ２Ｎ  １３２２，２ＮｘＮ  １３２４，Ｎｘ２Ｎ  １３２６，ＮｘＮ  １３２８，２ＮｘｎＵ  １３３２，２ＮｘｎＤ  １３３４，ｎＬｘ２Ｎ  １３３６及びｎＲｘ２Ｎ  １３３８のうち一つに設定される。
【０１２８】
パーティションタイプ情報が対称形パーティションタイプ２Ｎｘ２Ｎ  １３２２，２ＮｘＮ  １３２４，Ｎｘ２Ｎ  １３２６及びＮｘＮ  １３２８のうち一つに設定されている場合、変換単位分割情報（ＴＵ  size  flag）が０であるならば、サイズ２Ｎｘ２Ｎの変換単位１３４２が設定され、変換単位分割情報が１であるならば、サイズＮｘＮの変換単位１３４４が設定される。
【０１２９】
パーティションタイプ情報が、非対称形パーティションタイプ２ＮｘｎＵ  １３３２，２ＮｘｎＤ  １３３４，ｎＬｘ２Ｎ  １３３６及びｎＲｘ２Ｎ  １３３８のうち一つに設定されている場合、変換単位分割情報（ＴＵ  size  flag）が０であるならば、サイズ２Ｎｘ２Ｎの変換単位１３５２が設定され、変換単位分割情報が１であるならば、サイズＮ／２ｘＮ／２の変換単位１３５４が設定される。
【０１３０】
以下、図４の本発明の一実施形態による映像符号化装置４００の動き補償部４２５と、図５の映像復号化装置５００の動き補償部５５０とで行われる動き補償過程について具体的に説明する。
【０１３１】
図１４は、本発明の一実施形態による動き予測装置１４００を図示している。図１４の動き予測装置１４００は、図４の映像符号化装置４００の動き推定部４２０に対応する。
【０１３２】
補間部１４１０は、参照フレームを補間し、サブピクセル位置のピクセル値を生成することにより、補間された参照フレームを生成する。動き予測遂行部１４２０は、補間された参照フレームを利用して、サブピクセル精度を有する動き予測を行い、予測単位と最も類似した参照フレームの対応領域を示す動きベクトルを決定して出力する。図４の動き補償部４２５は、動きベクトルが示す参照フレームの整数ピクセル、または補間されたサブピクセルを獲得することにより、予測単位のピクセルの予測値を獲得する。図１４では、補間部１４１０が動き予測装置１４００に含まれた場合を図示したが、補間部１４１０は、動き予測装置１４００と分離して構成されもし、図示された構成に限定されるものではない。
【０１３３】
図１５は、１／４ピクセル精度を有する場合、動き補償過程で選択可能な整数ピクセル及びサブピクセル位置を図示している。図１５を参照すれば、アルファベット大文字で表示されたＡ  １５０１、Ｂ  １５０２、Ｃ  １５０３及びＤ  １５０４は、整数ピクセルを示し、アルファベット小文字で表示されたａないしｏ  １５０５ないし１５１９は、整数ピクセル間のサブピクセルを示す。もし動きベクトルがＡ  １５０１、Ｂ  １５０２、Ｃ  １５０３及びＤ  １５０４のうちいずれか一つを示す場合、すなわち、動きベクトルの水平成分及び垂直成分がいずれも整数値を有する場合には、動き補償過程で、メモリに保存された参照フレームのデータをすぐに読み取り、予測単位の予測値を獲得することができる。従って、動きベクトルの水平成分及び垂直成分がいずれも整数値を有する場合には、補間過程が必要ではない。例えば、現在予測単位がＬｘＭ（Ｌ、Ｍは整数）であり、現在予測単位に係わる動き予測の結果として獲得された動きベクトルＭＶの水平成分ＭＶｘ及び垂直成分ＭＶｙがいずれも整数値を有する場合、動き補償部４２５は、メモリに保存された参照フレームから、現在予測単位を動きベクトル（ＭＶｘ，ＭＶｙ）ほど変移させた位置の対応領域に該当するＬｘＭ個の整数ピクセルを獲得することにより、現在予測単位の予測値を獲得することができる。
【０１３４】
動きベクトルが、整数ピクセル位置ではないａないしｏ  １５０５ないし１５１９のうちいずれか１つのサブピクセルを示す場合、当該サブピクセルを獲得するために、補間過程が必要である。サブピクセルの補間過程は、所定のフィルタタップ数を有する補間フィルタを、参照フレームの整数ピクセルに適用して行われる。水平方向に隣接した整数ピクセルＡ  １５０１及びＢ  １５０２の間に位置したサブピクセルであるａ  １５０５、ｂ  １５０６及びｃ  １５０７の場合、水平成分だけが分数値を有し、垂直成分は、整数値を有する。従って、ａ  １５０５、ｂ  １５０６及びｃ  １５０７を補間するためには、水平方向に、一次元補間過程が適用される。同様に、垂直方向に隣接した整数ピクセルＡ  １５０１及びＣ  １５０３の間に位置したサブピクセルであるｄ  １５０８、ｈ  １５１２及びｌ  １５１６の場合、垂直成分だけが分数値を有し、水平成分は、整数値を有する。従って、ｄ  １５０８、ｈ  １５１２及びｌ  １５１６を補間するためには、垂直方向に一次元補間過程が適用される。
【０１３５】
ａ  １５０５、ｂ  １５０６、ｃ  １５０７、ｄ  １５０８、ｈ  １５１２及びｌ  １５１６を除いた残りのサブピクセルｅ  １５０９、ｆ  １５１０、ｇ  １５１１、ｉ  １５１３、ｊ  １５１４、ｋ  １５１５、ｍ  １５１７、ｎ  １５１８、ｏ  １５１９の場合、水平成分及び垂直成分がいずれも分数値を有するようになるので、水平方向及び垂直方向への二次元補間過程が必要である。
【０１３６】
このように、本発明で利用される一次元補間過程は、動きベクトルの水平成分及び垂直成分のうちいずれか一つだけが整数値ではない分数値を有し、動き補償過程で、水平方向及び垂直方向のうち、ただ一方向だけに補間が行われる場合を意味し、二次元補間過程は、動きベクトルの水平成分及び垂直成分がいずれも整数値ではない分数値を有し、水平方向モード及び垂直方向モードで補間が行われる場合を意味する。
【０１３７】
図１６は、本発明の一実施形態による参照フレームの補間過程について説明するための図面である。図１６で、アルファベット大文字（ＡないしＺ）は、整数ピクセルを示し、アルファベット小文字で表示されたピクセルは、１／２または１／４サブピクセルを示す。
【０１３８】
補間部１４１０は、動き予測及び動き補償に必要なサブピクセルを生成するために、所定のフィルタタップ数を有する補間フィルタを、整数ピクセルに適用する。例えば、図１６を参照すれば、補間部１４１０は、水平方向または垂直方向に、整数画素信号ＡないしＺに、Ｎ（Ｎは整数）タップ補間フィルタを適用し、サブピクセルを生成することができる。輝度成分の補間のために、８タップ補間フィルタを適用し、色差成分の補間のために、４タップ補間フィルタを適用することができる。フィルタタップ数Ｎは、それに限定されるものではなくして変更されてもよい。
【０１３９】
図１６を参照し、サブピクセルの補間過程についてさらに具体的に説明する。
【０１４０】
整数ピクセルと同一行または同一列に位置したサブピクセルであるａ、ｂ、ｃ、ｄ、ｈ、ｎを補間するために、前述のように、水平方向または垂直方向のうちいずれか１つの方向に、フィルタタップ数によるＮ個の整数ピクセルを読み取り、読み取られたＮ個の整数ピクセルに、補間フィルタを適用することにより、サブピクセルを生成することができる。例えば、１／２サブピクセルｂ  １６１０は、｛ｐ１，ｐ２，ｐ３，ｐ４，ｐ５，ｐ６，ｐ７，ｐ８｝のタップ係数を有する８タップ補間フィルタを、サブピクセルｂ  １６１０と水平方向に隣接した８個の整数ピクセルであるＧ、Ｈ、Ｉ、Ｊ、Ｋ、Ｌ、Ｍ、Ｎに適用し、次の数学式：ｂ＝（Ｇ＊ｐ１＋Ｈ＊ｐ２＋Ｉ＊ｐ３＋Ｊ＊ｐ４＋Ｋ＊ｐ５＋Ｌ＊ｐ６＋Ｍ＊ｐ７＋Ｎ＊ｐ８）を介して生成される。同様に、１／２サブピクセルｈ  １６２０は、垂直方向に隣接した８個の整数ピクセルＡ、Ｃ、Ｅ、Ｊ、Ｒ、Ｗ、Ｙ、ＡＡに、｛ｐ１，ｐ２，ｐ３，ｐ４，ｐ５，ｐ６，ｐ７，ｐ８｝のタップ係数を有する８タップ補間フィルタを適用し、次の数学式：ｈ＝（Ａ＊ｐ１＋Ｃ＊ｐ２＋Ｅ＊ｐ３＋Ｊ＊ｐ４＋Ｒ＊ｐ５＋Ｗ＊ｐ６＋Ｙ＊ｐ７＋ＡＡ＊ｐ８）を介して生成される。前述のように、タップ数及びタップ係数は変更されてもよい。
【０１４１】
整数ピクセルと同一行または同一列に位置した１／４サブピクセルであるａ、ｃ、ｄ、ｎは、前述の補間過程を介して生成された１／２サブピクセルｂ  １６１０，ｈ  １６２０と整数ピクセルとの平均値を介して生成される。例えば、１／４サブピクセルａ  １６４０）は、次の数学式：ａ＝（Ｊ＋ｂ）／２のように生成される。そのように、整数ピクセルと同一行または同一列に位置した１／２サブピクセルｂ，ｎや、１／４サブピクセルであるａ、ｃ、ｄ、ｎを補間するためには、フィルタタップ係数Ｎ個の周辺整数ピクセルを読み取る過程が必要である。
【０１４２】
次に、整数ピクセルと同一行または同一列に位置していないサブピクセルであるｅ、ｆ、ｇ、ｉ、ｊ、ｋ、ｐ、ｑ、ｒの補間過程について説明する。
【０１４３】
１／２サブピクセルｊ  １６３０は、水平方向または垂直方向のうち、任意の方向に補間フィルタを適用して生成される。例えば、１／２サブピクセルｊ  １６３０は、水平方向に隣接した周辺の１／２サブピクセルｎｎ，ｍｍ，ｌｌ，ｈ，ｈｈ，ｉｉ，ｊｊ，ｋに、８タップ補間フィルタを適用して生成されるか、あるいは垂直方向に隣接した周辺の１／２サブピクセルａａ，ｂｂ，ｃｃ，ｂ，ｄｄ，ｅｅ，ｆｆ，ｇｇに、８タップ補間フィルタを適用して生成される。ここで、水平方向に隣接した１／２サブピクセルｎｎ，ｍｍ，ｌｌ，ｈ，ｈｈ，ｉｉ，ｊｊ，ｋは、前述の１／２サブピクセルｈ  １６２０の獲得過程と同様に生成され、垂直方向に隣接した１／２サブピクセルａａ，ｂｂ，ｃｃ，ｂ，ｄｄ，ｅｅ，ｆｆ，ｇｇは、前述の１／２サブピクセルｂ  １６１０の獲得過程と同様に生成される。
【０１４４】
整数ピクセルと同一行または同一列に位置していない１／４サブピクセルであるｅ、ｆ、ｇ、ｉ、ｋ、ｐ、ｑ、ｒは、周辺に隣接した整数ピクセルまたは１／２サブピクセルの平均値フィルタを利用して生成される。例えば、１／４サブピクセルｆ  １６５０は、１／２サブピクセルｂ  １６１０と１／２サブピクセルｊ  １６３０との平均値を利用して獲得され、１／４サブピクセルｒ  １６６０は、次の数学式：ｒ＝（ｈｈ＋ｄｄ）／２のように、対角線方向の平均値フィルタを利用して生成される。
【０１４５】
図１７Ａないし図１７Ｃは、本発明の一実施形態による、動き補償過程に必要な参照フレームのデータを示した図面である。
【０１４６】
図１７Ａを参照すれば、動き予測部４２０において、動き予測を介して、ＬｘＭ（Ｌ，Ｍは整数）サイズを有する現在予測単位１７１１の動きベクトルＭＶ１が決定されれば、動き補償部４２５は、参照フレーム１７２０において、動きベクトルＭＶ１が示す対応領域１７２１をメモリから読み取り、現在予測単位１７１１の予測値を生成する。動きベクトルＭＶ１の水平成分がＭＶｘ１であり、垂直成分がＭＶｙ１であり、水平成分ＭＶｘ１が整数値、垂直成分ＭＶｙ１が分数値を有すると仮定する。そのような場合、対応領域１７２１を読み取るためには、垂直方向に隣接した整数ピクセル間のサブピクセルを生成する必要がある。もし垂直方向に適用される補間フィルタのタップ数をＮＬと仮定すれば、１つのピクセル当たり垂直方向補間に必要な垂直方向の整数ピクセルの個数がＮＬであり、対応領域１７２１の１列がＬ個のピクセルで構成されるので、対応領域１７２１を読み取るためには、補間に必要な垂直方向の整数ピクセルを含め、総（Ｌ＋ＮＬ−１）＊Ｍ個の整数ピクセルを読み取る必要がある。
【０１４７】
同様に、図１７Ｂを参照すれば、動き予測部４２０において、動き予測を介して、現在予測単位１７１１の動きベクトルＭＶ２が決定されれば、動き補償部４２５は、参照フレーム１７２０において、動きベクトルＭＶ２が示す対応領域１７２１を、メモリから読み取り、現在予測単位１７１１の予測値を生成する。動きベクトルＭＶ２の水平成分がＭＶｘ２であり、垂直成分がＭＶｙ２であり、水平成分ＭＶｘ２が分数値、垂直成分ＭＶｙ２が整数値を有すると仮定する。そのような場合、対応領域１７２１を読み取るためには、水平方向に隣接した整数ピクセル間のサブピクセルを生成する必要がある。もし水平方向に適用される補間フィルタのタップ数をＮＭと仮定すれば、１つのピクセル当たり水平方向補間に必要な水平方向の整数ピクセルの個数がＮＭであり、対応領域１７２１の１行がＭ個のピクセルで構成されるので、対応領域１７２１を読み取るためには、補間に必要な水平方向の整数ピクセルを含め、総Ｌ＊（Ｍ＋ＮＭ−１）個の整数ピクセルを読み取る必要がある。
【０１４８】
図１７Ｃを参照すれば、動き予測部４２０において、動き予測を介して、現在予測単位１７１１の動きベクトルＭＶ３が決定されれば、動き補償部４２５は、参照フレーム１７２０において、動きベクトルＭＶ３が示す対応領域１７２１をメモリから読み取り、現在予測単位１７１１の予測値を生成する。動きベクトルＭＶ３の水平成分がＭＶｘ３であり、垂直成分がＭＶｙ３であり、水平成分ＭＶｘ３及び垂直成分ＭＶｙ３がいずれも分数値を有すると仮定する。そのような場合、対応領域１７２１を読み取るためには、水平方向及び垂直方向に補間を行い、整数ピクセル間のサブピクセルを生成する必要がある。前述のように、垂直方向に適用される補間フィルタのタップ数をＮＬ、水平方向に適用される補間フィルタのタップ数をＮＭと仮定すれば、対応領域１７２１を読み取るためには、補間に必要な水平方向及び垂直方向の整数ピクセルを含め、総（Ｌ＋ＮＬ−１）＊（Ｍ＋ＮＭ−１）個の整数ピクセルを読み取る必要がある。
【０１４９】
そのように、現在予測単位の動きベクトルの水平成分及び垂直成分によって、サブピクセルを補間するために読み取られる参照フレームの整数ピクセルの個数が決定される。
【０１５０】
メモリアクセスの観点で、動き補償時、現在予測単位の１つのピクセル当たり必要な参照フレームの整数ピクセルの個数Ｎｕｍは、次の数学式：Ｎｕｍ＝（現在予測単位の動き補償に必要な参照フレームのピクセル個数）／（現在予測単位に含まれた全体ピクセル個数）を介して獲得される。前述のように、垂直方向に適用される補間フィルタのタップ数がＮＬであり、水平方向に適用される補間フィルタのタップ数がＮＭであり、現在予測単位の動きベクトルの水平成分がＭＶｘ、垂直成分がＭＶｙであると仮定する。動きベクトルの水平成分ＭＶｘだけが整数値ではない分数値を有する場合、ＬｘＭサイズの現在予測単位の動き補償に必要な参照フレームのピクセル個数は、（Ｌ＋ＮＬ−１）＊Ｍであるので、その場合、動き補償時、現在予測単位の１つのピクセル当たり必要な参照フレームの整数ピクセルの個数Ｎｕｍは、次の数学式：Ｎｕｍ＝（Ｌ＋ＮＬ−１）＊Ｍ／（Ｌ＊Ｍ）となる。
【０１５１】
同様に、動きベクトルの垂直成分ＭＶｙだけが整数値ではない分数値を有する場合、ＬｘＭサイズの現在予測単位の動き補償に必要な参照フレームのピクセル個数は、Ｌ＊（Ｍ＋ＮＭ−１）であるので、その場合、動き補償時、現在予測単位の１つのピクセル当たり必要な参照フレームの整数ピクセルの個数Ｎｕｍは、次の数学式：Ｎｕｍ＝Ｌ＊（Ｍ＋ＮＭ−１）／（Ｌ＊Ｍ）となる。
【０１５２】
動きベクトルの水平成分ＭＶｘ及び垂直成分ＭＶｙがいずれも整数値ではない分数値を有する場合、ＬｘＭサイズの現在予測単位の動き補償に必要な参照フレームのピクセル個数は（Ｌ＋ＮＬ−１）＊（Ｍ＋ＮＭ−１）であるので、その場合、動き補償時、現在予測単位の１つのピクセル当たり必要な参照フレームの整数ピクセルの個数Ｎｕｍは、次の数学式：Ｎｕｍ＝（Ｌ＋ＮＬ−１）＊（Ｍ＋ＮＭ−１）／（Ｌ＊Ｍ）となる。
【０１５３】
そのように、動き補償時、現在予測単位の１つのピクセル当たり参照フレームの整数ピクセルの個数Ｎｕｍは、単方向予測である場合に該当し、双方向予測である場合には２個の参照フレームを利用するので、必要な整数ピクセルの個数は、２＊Ｎｕｍになる。
【０１５４】
後述する通り、本発明の一実施形態によれば、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数Ｎｕｍを、現在予測単位の大きさ、並びに現在予測単位に適用される単方向動き予測モード及び双方向動き予測モードによって分類し、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値以下である場合には、現在予測単位に、前記単方向動き予測モード及び前記双方向動き予測モードをいずれも適用し、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値より大きい場合には、現在予測単位に単方向動き予測モードのみを適用することにより、参照フレームを保存する所定メモリ装置へのアクセスを制限する。すなわち、本発明の一実施形態によれば、動き補償過程で、１ピクセル当たり要求される参照フレームのピクセル個数が過度に多い場合には、当該動き補償過程を制限することにより、動き補償過程で、参照フレームデータの読み取りのためのメモリへのアクセスを制限する。
【０１５５】
図１８Ａないし図１８Ｇは、予測単位の大きさ、予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を示した表である。図１８Ａないし図１８Ｇの表で、Ｉは、動きベクトルの水平成分及び垂直成分がいずれも整数値を有する場合を示し、１Ｄは、動きベクトルの水平成分及び垂直成分のうちいずれか一つが整数値ではない分数値を有する場合を示し、２Ｄは、動きベクトルの水平成分及び垂直成分いずれもが整数値ではない分数値を有する場合を示す。また、第１参照ピクチャリストを参照するＬ０予測、及び第２参照ピクチャリストを参照するＬ１予測を含む双方向予測（bi-prediction）の場合、記載されたＩ−Ｉは、Ｌ０予測及びＬ１予測に利用される２個の動きベクトルの水平成分及び垂直成分が、いずれも整数値である場合を示し、１Ｄ−１Ｄは、Ｌ０予測及びＬ１予測に利用される２個の動きベクトルが、いずれも整数値ではない分数値を有する１つの水平成分または垂直成分を有する場合を示し、２Ｄ−２Ｄは、Ｌ０予測及びＬ１予測に利用される２個の動きベクトル水平成分及び垂直成分いずれもが整数値ではない分数値を有する場合を示す。また、Ｉ−１Ｄは、Ｌ０予測及びＬ１予測に利用される２個の動きベクトルのうち、１つの動きベクトルの水平成分及び垂直成分がいずれも整数値を有し、他の１つの動きベクトルが、動きベクトルの水平成分及び垂直成分のうちいずれか一つが整数値ではない分数値を有する場合を示す。また、Ｉ−２Ｄは、Ｌ０予測及びＬ１予測に利用される２個の動きベクトルのうち、１つの動きベクトルの水平成分及び垂直成分がいずれも整数値を有し、他の１つの動きベクトルが、水平成分及び垂直成分いずれも整数値ではない分数値を有する場合を示す。また、１Ｄ−２Ｄは、Ｌ０予測及びＬ１予測に利用される２個の動きベクトルのうち、１つの動きベクトルが、水平成分または垂直成分のうち一つが整数値ではない分数値を有し、他の１つの動きベクトルが、水平成分及び垂直成分いずれも整数値ではない分数値を有する場合を示す。
【０１５６】
また、図１８Ａないし図１８Ｇで、水平方向及び垂直方向での補間フィルタとして、同一のタップ数Ｎを有する補間フィルタが適用され、図１８Ａないし図１８Ｇそれぞれは、タップ数Ｎが８から２である値を有する場合に該当する。
【０１５７】
図１８Ａを参照すれば、８タップ補間フィルタを利用して、４ｘ８サイズの予測単位の動きベクトルが、水平成分または垂直成分のうちいずれか一つだけが整数値ではない分数値を有し、４ｘ８サイズの予測単位に対して、単方向動き予測（uni-prediction）を行う場合、４ｘ８サイズの予測単位の動き補償に必要な全体整数ピクセルの個数は、（４＋８−１）＊８であるので、４ｘ８サイズの予測単位に含まれた３２個のピクセルで割り、２．７５の値を獲得することができる。すなわち、（４＋８−１）＊８／（４ｘ８）＝２．７５である。そのような計算過程を介して、図１８Ａに図示されたように、予測単位（ブロック）の大きさが４ｘ８であり、動きベクトルの水平成分及び垂直成分のうちいずれか一つだけが整数値ではない分数値を有し（１Ｄである場合）、単方向予測モードの場合、１つのピクセル当たり必要な参照フレームの整数ピクセル個数である２．７５を獲得することができる。他の場合にも、前述の動きベクトルの水平成分及び垂直成分が整数値であるか分数値であるかということにより、動き補償時、現在予測単位の１つのピクセル当たり必要な参照フレームの整数ピクセルの個数を計算する次の数学式：Ｎｕｍ＝（Ｌ＋ＮＬ−１）＊Ｍ／（Ｌ＊Ｍ）またはＮｕｍ＝Ｌ＊（Ｍ＋ＮＭ−１）／（Ｌ＊Ｍ）またはＮｕｍ＝（Ｌ＋ＮＬ−１）＊（Ｍ＋ＮＭ−１）／（Ｌ＊Ｍ）のうち一つを利用して、図１８Ａないし図１８Ｇに図示された表を獲得することができる。
【０１５８】
一方、図１８Ａないし図１８Ｇの表を分析すれば、動き補償時、現在予測単位の１つのピクセル当たり必要な参照フレームの整数ピクセルの個数は、予測単位の大きさが増大するほど減少するということが分かる。例えば、図１８Ａを参照すれば、双方向予測モード（bi-prediction）で、動きベクトルの水平成分及び垂直成分いずれも整数値ではない分数値を有し（２Ｄ−２Ｄである場合）、予測単位の大きさが、２ｘ２から６４ｘ６４に増大するほど、１つのピクセル当たり必要な参照フレームの整数ピクセル個数は、４０．５０から２．４６に減少するということを確認することができる。そのように、過度に小サイズの予測単位に対して、動き予測及び動き補償を行う場合、メモリアクセス観点で、１つのピクセル当たり必要な参照フレームの整数ピクセル個数が増加するので、非効率的である。従って、本発明の一実施形態によれば、予測単位の大きさが所定サイズより大きい場合、単方向動き予測モード及び双方向動き予測モードをいずれも利用して、予測単位の大きさが、所定サイズ以下である場合、単方向動き予測モードのみを利用することにより、予測単位の大きさが、所定臨界値以下の小サイズを有する場合に適用される動き予測モードを制限し、参照フレームデータの読み取りのためのメモリへのアクセスを、所定帯域幅内に制限する。
【０１５９】
図１９及び図２０は、輝度成分（luminance  component）の予測単位の大きさ、色差成分（chroma  component）の予測単位の大きさ、動き予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を、大きい値から降順に示した表である。図１９で、輝度成分に対して、補間フィルタとして、８タップ補間フィルタ、色差成分に対する補間フィルタとして、４タップ補間フィルタが利用され、輝度成分の最小予測単位の大きさが４ｘ８であり、色差成分の最小予測単位の大きさが２ｘ４である場合を仮定する。図２０は、図１９と比較し、輝度成分の最小予測単位の大きさが４ｘ４であり、色差成分の最小予測単位の大きさが２ｘ２である場合である。
【０１６０】
図１９を参照すれば、表で、上位に位置した場合であればあるほど、メモリアクセス観点で、非効率的な場合を意味するので、本発明の実施形態による動き予測部４２０及び動き補償部４２５は、上位に位置した場合の動き予測モードを制限したり、あるいは変更することにより、動き補償過程でのメモリアクセスを制限することができる。例えば、動き予測部４２０及び動き補償部４２５は、輝度成分の予測単位の大きさが、最小予測単位である４ｘ８または８ｘ４に該当する場合には、Ｌ０予測及びＬ１予測を含む単方向動き予測モードのみを適用し、輝度成分の予測単位の大きさが、最小予測単位である４ｘ８または８ｘ４より大きい場合にのみ、単方向動き予測モード以外に、双方向動き予測モードを遂行することができる。同様に、動き予測部４２０及び動き補償部４２５は、色差成分の予測単位の大きさが、最小予測単位である２ｘ４または４ｘ２に該当する場合には、Ｌ０予測及びＬ１予測を含む単方向動き予測モードのみを適用し、色差成分の予測単位の大きさが、最小予測単位である２ｘ４または４ｘ２より大きい場合にのみ、単方向動き予測モード以外に、双方向動き予測モードを遂行することができる。
【０１６１】
同様に、図２０を参照すれば、動き予測部４２０及び動き補償部４２５は、上位に位置した場合に該当する動き予測モードを制限したり、あるいは変更することにより、動き補償過程でのメモリアクセスを制限することができる。
【０１６２】
前述のように、本発明の一実施形態による動き予測部４２０及び動き補償部４２５は、メモリアクセス観点で、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が、所定臨界値以上に該当する場合、当該動き予測モードを制限する。すなわち、動き予測部４２０及び動き補償部４２５は、現在予測単位の大きさが、所定サイズより大きい場合、単方向動き予測モード並びに双方向動き予測モードをいずれも利用すると決定し、現在予測単位の大きさが、所定サイズ以下である場合、単方向動き予測モードのみを利用すると決定する。そして、動き予測部４２０及び動き補償部４２５は、現在予測単位の大きさが過度に小さい場合には、動き予測モード自体を適用しないと決定することができる。例えば、動き予測部４２０及び動き補償部４２５は、輝度成分の予測単位については、最小予測単位の大きさとして、４ｘ８または８ｘ４を設定し、輝度成分の現在予測単位が、４ｘ８または８ｘ４より小さい場合、動き予測自体を遂行しないこともある。また、動き予測部４２０及び動き補償部４２５は、色差成分の予測単位については、最小予測単位の大きさとして、２ｘ４または４ｘ２を設定し、色差成分の現在予測単位が、２ｘ４または４ｘ２より小さい場合、動き予測自体を遂行しないこともある。そして、動き予測部４２０及び動き補償部４２５は、最小予測単位の大きさ以上の場合にも、行われる動き予測モードを分類し、メモリアクセス観点で最も非効率的である現在予測単位の大きさが、最小予測単位サイズに該当する場合には、単方向動き予測モードのみを利用して、現在予測単位の大きさが、最小予測単位サイズに該当しない場合、すなわち、現在予測単位の大きさ、が最小予測単位の大きさより大きい場合にのみ、単方向動き予測モード及び双方向動き予測モードをいずれも利用すると決定することができる。
【０１６３】
このように、動き予測部４２０及び動き補償部４２５は、現在予測単位の大きさに基づいて、現在予測単位の動き予測及び動き補償に適用される単方向動き予測モード、並びに双方向動き予測モードの利用いかんを決定し、単方向動き予測モード及び双方向動き予測モードの利用いかんにより、単方向動き予測モード及び双方向動き予測モードのうち、少なくとも１つの動き予測モードを適用し、現在予測単位に係わる動き予測及び動き補償を行う。図４に図示されていない制御部では、動き予測及び動き補償を介して獲得された現在予測単位の符号化コスト、例えば、ＲＤ（rate  distortion）コストなどに基づいて、現在予測単位に適用される最適の動き予測モードを決定する。そして、エントロピー符号化部４５０は、現在予測単位の大きさに基づいて、決定された動き予測モード情報を符号化する。
【０１６４】
例えば、エントロピー符号化部４６０は、現在予測単位の大きさに基づいて、現在予測単位について決定された最終動き予測モードを示すシンタックスであるｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃを、次の表２に基づいて決定し、ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃを符号化する。
【０１６５】
【表２】
2014531153.tif 000004
表２を参照すれば、エントロピー符号化部４５０は、現在予測単位の大きさに基づいて、現在予測単位に対して最終的に決定された動き予測モードを示すｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃをエントロピー符号化する。具体的には、現在予測単位が、輝度成分の予測単位として、最小予測単位である４ｘ８または８ｘ４より大サイズを有する場合、単方向予測（Ｌ０予測及びＬ１予測）と双方向予測とがいずれも利用されが、現在予測単位の最終動き予測モードとして、Ｌ１予測が決定された場合、エントロピー符号化部４５０は、ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃとして１の値をエントロピー符号化する。復号化側のエントロピー復号化部５２０は、ビットストリームから獲得される現在予測単位のサイズ情報と、ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃに基づいて、表２によって現在予測単位に利用された動き予測モードとを決定することができる。他の例として、現在予測単位が輝度成分の予測単位として、最小予測単位である４ｘ８または８ｘ４の最小予測単位に該当する場合、単方向予測（Ｌ０予測及びＬ１予測）だけが利用され、現在予測単位の最終動き予測モードとして、Ｌ１予測が決定された場合、エントロピー符号化部４６０は、ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃとして１の値をエントロピー符号化する。
【０１６６】
本発明の一実施形態によれば、メモリアクセス観点で、予測単位の大きさに基づいて、単方向動き予測モード及び双方向動き予測モードの利用いかんを制限することにより、動き補償を行う。本発明の他の実施形態によれば、動き補償に利用される補間フィルタのタップ数を減少させることができる。例えば、本発明の他の実施形態によれば、輝度成分の補間に利用される８タップ補間フィルタの代わりに、４タップ補間フィルタを利用したり、あるいは色差成分の補間に利用される４タップ補間フィルタの代わりに、２タップ補間フィルタを利用することができる。
【０１６７】
また、本発明のさらに他の実施形態によれば、二次元補間過程を一次元補間過程で代替することにより、参照フレームのデータ読み取り過程を減少させることができる。
【０１６８】
図２１ないし図２３は、本発明のさらに他の実施形態による参照フレームのデータ読み取り過程を減少させるための補間過程について説明するための参照図である。図２１ないし図２３を参照すれば、前述のように、整数ピクセルと同一行または同一列に位置していないサブピクセルであるｅ、ｆ、ｇ、ｉ、ｊ、ｋ、ｍ、ｎ、ｏは、一次元補間フィルタのみを適用して獲得されず、二次元補間過程を介して獲得されるので、メモリアクセスを増加させる。従って、本発明のさらに他の実施形態によれば、二次元補間過程を介して獲得されるサブピクセルであるｅ、ｆ、ｇ、ｉ、ｊ、ｋ、ｍ、ｎ、ｏに対する補間過程を遂行せず、一次元補間フィルタを介して獲得される周辺サブピクセルや整数ピクセルを利用して、サブピクセルｅ，ｆ，ｇ，ｉ，ｊ，ｋ，ｍ，ｎ，ｏの値を獲得する。
【０１６９】
図２１ないし図２３を参照すれば、動き予測部４２０及び動き補償部４２５は、サブピクセルであるｅ、ｆ、ｇ、ｉ、ｊ、ｋ、ｍ、ｎ、ｏの値を生成するために、図示された矢印が示す周辺サブピクセルや整数ピクセルを利用することができる。
【０１７０】
図２４及び図２５は、本発明の他の実施形態によって、補間フィルタのタップ数を減少させたり、あるいは二次元補間過程の代わりに、一次元補間フィルタを介して獲得される周辺サブピクセルや整数ピクセルを利用して補間を行う場合、輝度成分の予測単位の大きさ、色差成分の予測単位の大きさ、動き予測モード、並びに予測単位の動きベクトルの水平方向及び垂直方向の成分値が整数値であるか否かということにより、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数を、大きい値から降順に示した表である。図２４は、輝度成分の最小予測単位の大きさが４ｘ８であり、色差成分の最小予測単位の大きさが２ｘ４である場合であり、図２５は、輝度成分の最小予測単位の大きさが４ｘ４であり、色差成分の最小予測単位の大きさが２ｘ２である場合である。また、図２４及び図２５でＡは、本発明の他の実施形態によって、補間フィルタのタップ数を減少させた場合であり、Ｂは、本発明のさらに他の実施形態によって、二次元補間過程の代わりに、一次元補間フィルタを介して獲得される周辺サブピクセルや整数ピクセルを利用して、補間を行う場合に該当する。
【０１７１】
図２４及び図２５を参照すれば、本発明の他の実施形態によって、補間フィルタのタップ数を減少させたり、あるいは二次元補間過程の代わりに、一次元補間フィルタを介して獲得される周辺サブピクセルや整数ピクセルを利用して補間を行う場合、そうではない場合（original）に比べ、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が減少するということを確認することができる。
【０１７２】
図２６は、本発明の一実施形態によるビデオ符号化方法を示したフローチャートである。図２６を参照すれば、段階２６１０で、動き予測部４２０及び動き補償部４２５は、符号化される現在予測単位の大きさに基づいて、現在予測単位の動き予測及び動き補償に適用される単方向動き予測モード、並びに双方向動き予測モードの利用いかんを決定する。前述のように、動き予測部４２０及び動き補償部４２５は、メモリアクセス観点で、現在予測単位の１ピクセル当たり動き補償に必要な参照フレームのピクセル個数が所定臨界値以上に該当する場合、当該動き予測モードを制限する。すなわち、動き予測部４２０及び動き補償部４２５は、現在予測単位の大きさが、所定サイズより大きい場合、単方向動き予測モード並びに双方向動き予測モードをいずれも利用すると決定し、現在予測単位の大きさが、所定サイズ以下である場合、単方向動き予測モードのみを利用すると決定することができる。
【０１７３】
段階２６２０で、動き予測部４２０及び動き補償部４２５は、単方向動き予測モード及び双方向動き予測モードの利用いかんにより、単方向動き予測モード及び双方向動き予測モードのうち少なくとも１つの動き予測モードを適用し、現在予測単位に係わる動き予測及び動き補償を行う。
【０１７４】
段階２６３０で、制御部は、動き予測及び動き補償を介して獲得された現在予測単位の符号化コストに基づいて、現在予測単位の動き予測モードを決定し、段階２６４０で、エントロピー符号化部４６０は、現在予測単位の大きさに基づいて、決定された動き予測モード情報をエントロピー符号化する。前述のように、エントロピー符号化部４６０は、現在予測単位の大きさに基づいて、現在予測単位に対して決定された最終動き予測モードを示すシンタックスであるｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃを、表２に基づいて決定し、ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃをエントロピー符号化する。
【０１７５】
図２７は、本発明の一実施形態による動き補償装置２７００を図示している。図２７の動き補償装置２７００は、図５の映像復号化装置５００の動き補償部５６０に対応する。
【０１７６】
図５及び図２７を参照すれば、エントロピー復号化部５２０は、ビットストリームから、復号化される現在予測単位のサイズ情報、及び現在予測単位に適用された動き予測モードを示す動き予測モード情報を獲得する。
【０１７７】
図１ないし図１３を参照して説明したように、ビットストリームから、ビデオを構成するフレームが分割された最大符号化単位の大きさ、前記最大符号化単位の空間的分割回数を示す深度、深度によって階層的に構成される符号化単位の予測符号化時に利用された予測単位及び階層的構造の変換単位の構造を示す情報を獲得し、獲得された情報に基づいて、フレームを最大サイズの符号化単位に分割した少なくとも１つの最大符号化単位ごとに、最大符号化単位の空間的分割回数を示す深度によって、階層的に構成される深度別符号化単位のうち、符号化深度の符号化単位を含むツリー構造による符号化単位を決定し、符号化深度の符号化単位ごとに、予測符号化のための予測単位を決定し、ツリー構造による変換単位を決定することができる。
【０１７８】
また、動き予測モード情報は、現在予測単位の大きさに基づいて、現在予測単位に適用された動き予測モードを示すシンタックスであるｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃが利用される。
【０１７９】
動き補償遂行部２７２０は、獲得された動き予測モード情報（ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃ）と、現在予測単位の大きさとに基づいて、単方向動き予測モード及び双方向動き予測モードのうち、現在予測単位に適用された動き予測モードを、前述の表２を利用して決定する。
【０１８０】
一例として、表２を再び参照すれば、現在予測単位が、輝度成分の予測単位として最小予測単位である４ｘ８または８ｘ４より大サイズを有し、ビットストリームから抽出されたｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃの値が１である場合、動き補償遂行部２７２０は、現在予測単位の動き予測モードを、単方向Ｌ１予測と決定する。他の例として、現在予測単位が、輝度成分の予測単位として、最小予測単位である４ｘ８または８ｘ４の最小予測単位に該当する場合、動き補償遂行部２７２０は、ビットストリームから抽出されたｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃの値が１であるならば、現在予測単位の最終動き予測モードをＬ１予測と決定し、ｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃの値が２であるならば、現在予測単位に対して、動き予測モードを適用しないと決定する。
【０１８１】
図２８は、本発明の一実施形態によるビデオ復号化方法を示したフローチャートである。図２８を参照すれば、段階２８１０で、エントロピー復号化部５２０は、ビットストリームから、復号化される現在予測単位のサイズ情報、及び現在予測単位に適用された動き予測モードを示す動き予測モード情報を獲得する。
【０１８２】
段階２８２０で、動き補償部５６０は、獲得された動き予測モード情報と、現在予測単位の大きさとに基づいて、単方向動き予測モード及び双方向動き予測モードのうち、現在予測単位に適用された動き予測モードを決定する。前述のように、動き補償部５６０は、表２によって決定されたシンタックスであるｉｎｔｅｒ＿ｐｒｅｄ＿ｉｄｃと、現在予測単位の大きさとに基づいて、現在予測単位に利用する動き予測モードを決定することができる。
【０１８３】
段階２８３０で、動き補償部５６０は、決定された動き予測モードによって、参照フレームのデータを読み取り、現在予測単位に係わる予測値を獲得する動き補償を行う。
【０１８４】
図１ないし図２８を参照して説明したビデオ符号化、復号化方法のそれぞれの実施形態を具現するためのプログラムが、コンピュータで読み取り可能な記録媒体に保存されることにより、独立したコンピュータシステムが、前記記録媒体に保存された実施形態による動作を容易に具現することができる。
【０１８５】
一実施形態によるプログラムが保存されるコンピュータで読み取り可能な記録媒体が、ディスク２６０である実施形態について、以下で説明する。
【０１８６】
図２９Ａは、一実施形態によるプログラムが保存されたディスク２６０の物理的構造を例示している。記録媒体として説明したディスク２６０は、ハードドライブ、ＣＤ（compact  disc）−ＲＯＭ（read-only  memory）ディスク、ブルーレイ（blu-ray）ディスク、ＤＶＤ（digital  versatile  disc）でもある。ディスク２６０は、多数の同心円のトラックＴｒから構成され、トラックＴｒは、円周に沿って、所定個数のセクタＳｅに分割される。前述の一実施形態によるプログラムを保存するディスク２６０における特定領域に、前述のビデオ符号化方法、ビデオ復号化方法を具現するためのプログラムが割り当てられて保存される。
【０１８７】
前述のビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムを保存する記録媒体を利用して達成されたコンピュータシステムについて、図２９Ｂを参照して説明する。
【０１８８】
図２９Ｂは、ディスク２６０を利用して、プログラムを記録して読み取るためのディスクドライブ２６３を図示している。コンピュータ・システム２６５は、ディスクドライブ２６３を利用して、本発明のビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムを、ディスク２６０に保存することができる。ディスク２６０に保存されたプログラムを、コンピュータシステム２６５上で実行するために、ディスクドライブ２６３によって、ディスク２６０からプログラムが読み取られ、プログラムがコンピュータシステム２６５に伝送される。
【０１８９】
図２９Ａ及び図２９Ｂで例示されたディスク２６０だけではなく、メモリカード、ＲＯＭカセット、ＳＳＤ（solid  state  drive）にも、本発明のビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムが保存される。
【０１９０】
前述の実施形態によるビデオ符号化方法及びビデオ復号化方法が適用されたシステムについて説明する。
【０１９１】
図３０は、コンテンツ流通サービス（content  distribution  service）を提供するためのコンテンツ供給システム（content  supply  system）１１００の全体的構造を図示している。通信システムのサービス領域は、所定サイズのセルに分割され、各セルに、ベースステーションになる無線基地局１１７０，１１８０，１１９０，１２００が設置される。
【０１９２】
コンテンツ供給システム１１００は、多数の独立デバイスを含む。例えば、コンピュータ１２１０、ＰＤＡ（personal  digital  assistant）１２２０、ビデオカメラ１２３０及び携帯電話１２５０のような独立デバイスが、インターネットサービス供給者１１２０、通信網１１４０、及び無線基地局１１７０，１１８０，１１９０，１２００を経て、インターネット１１１０に連結される。
【０１９３】
しかし、コンテンツ供給システム１１００は、図３０に図示された構造にのみ限定されるものではなく、デバイスが選択的に連結されもする。独立デバイスは、無線基地局１１７０，１１８０，１１９０，１２００を経ずに、通信網１１４０に直接連結されもする。
【０１９４】
ビデオカメラ１２３０は、デジタルビデオカメラのように、ビデオ映像を撮影することができる撮像デバイスである。携帯電話１２５０は、ＰＤＣ（personal  digital  communications）、ＣＤＭＡ（code  division  multiple  access）、Ｗ−ＣＤＭＡ（wideband  code  division  multiple  access）、ＧＳＭ（登録商標：global  system  for  mobile  communications）及びＰＨＳ（personal  handyphone  system）の各方式のような多様なプロトコルのうち少なくとも１つの通信方式を採択することができる。
【０１９５】
ビデオカメラ１２３０は、無線基地局１１９０及び通信網１１４０を経て、ストリーミング・サーバ１１３０に連結される。ストリーミング・サーバ１１３０は、ユーザがビデオカメラ１２３０を使用して伝送したコンテンツを、リアルタイム放送でストリーミング伝送することができる。ビデオカメラ１２３０から受信されたコンテンツは、ビデオカメラ１２３０またはストリーミング・サーバ１１３０によって符号化される。ビデオカメラ１２３０に撮影されたビデオデータは、コンピュータ１２１０を経て、ストリーミング・サーバ１１３０に伝送される。
【０１９６】
カメラ１２６０に撮影されたビデオデータも、コンピュータ１２１０を経て、ストリーミング・サーバ１１３０に伝送される。カメラ１２６０は、デジタルカメラのように、静止映像とビデオ映像とをいずれも撮影することができる撮像装置である。カメラ１２６０から受信されたビデオデータは、カメラ１２６０またはコンピュータ１２１０によって符号化される。ビデオ符号化及び復号化のためのソフトウェアは、コンピュータ１２１０がアクセスすることができるＣＤ−ＲＯＭディスク、フロッピー（登録商標）、ハードディスクドライブ、ＳＳＤ、メモリカードのようなコンピュータで読み取り可能な記録媒体に保存される。
【０１９７】
また、携帯電話１２５０に搭載されたカメラによってビデオが撮影された場合、ビデオデータが携帯電話１２５０から受信される。
【０１９８】
ビデオデータは、ビデオカメラ１２３０、携帯電話１２５０またはカメラ１２６０に搭載されたＬＳＩ（large  scale  integrated  circuit）システムによって符号化される。
【０１９９】
一実施形態によるコンテンツ供給システム１１００で、例えば、コンサートの現場録画コンテンツのように、ユーザが、ビデオカメラ１２３０、カメラ１２６０、携帯電話１２５０または他の撮像デバイスを利用して録画されたコンテンツが符号化され、ストリーミング・サーバ１１３０に伝送される。ストリーミング・サーバ１１３０は、コンテンツデータを要請した他のクライアントに、コンテンツデータをストリーミング伝送することができる。
【０２００】
クライアントは、符号化されたコンテンツデータを復号化することができるデバイスであり、例えば、コンピュータ１２１０、ＰＤＡ  １２２０、ビデオカメラ１２３０または携帯電話１２５０でもある。従って、コンテンツ供給システム１１００は、クライアントをして、符号化されたコンテンツデータを受信して再生させる。また、コンテンツ供給システム１１００は、クライアントをして、符号化されたコンテンツデータを受信してリアルタイムで復号化して再生させ、個人放送（personal  broadcasting）を可能にする。
【０２０１】
コンテンツ供給システム１１００に含まれた独立デバイスの符号化動作及び復号化動作に、本発明のビデオ符号化装置及びビデオ復号化装置が適用される。
【０２０２】
図３１及び図３２を参照し、コンテンツ供給システム１１００における携帯電話１２５０の一実施形態について詳細に説明する。
【０２０３】
図３１は、一実施形態による本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話１２５０の外部構造を図示している。携帯電話１２５０は、機能が制限されず、応用プログラムを介して、相当部分の機能を変更したり、あるいは拡張することができるスマートホンでもある。
【０２０４】
携帯電話１２５０は、無線基地局１２００とＲＦ（radio  frequency）信号を交換するための内蔵アンテナ１２５１を含み、カメラ１２５３によって撮影された映像、またはアンテナ１２５１によって受信されて復号化された映像をディスプレイするためのＬＣＤ（liquid  crystal  display）画面、ＯＬＥＤ（organic  light  emitting  diode）画面のようなｄｅｌｉスプレイ画面１２５２を含む。スマートホン１２５１は、制御ボタン、タッチパネルを含む動作パネル１２５４を含む。ディスプレイ画面１２５２がタッチスクリーンである場合、動作パネル１２５４は、ディスプレイ画面１２５２のタッチ感知パネルをさらに含む。スマートホン１２５１は、音声、音響を出力するためのスピーカ１２５８または他の形態の音響出力部と、音声、音響が入力されるマイクロホン１２５５または他の形態の音響入力部と、を含む。スマートホン１２５１は、ビデオ及び静止映像を撮影するためのＣＣＤ（charge  coupled  device）カメラのようなカメラ１２５３をさらに含む。また、スマートホン１２５１は、カメラ１２５３によって撮影されたり、電子メール（Ｅ−mail）として受信されたり、あるいは他の形態で獲得されたビデオや静止映像のように、符号化されるか復号化されたデータを保存するための記録媒体１２５７と、記録媒体１２５７を携帯電話１２５０に装着するためのスロット１２５６と、を含んでもよい。記録媒体１２５７は、ＳＤカード、またはプラスチックケースに内蔵されたＥＥＰＲＯＭ（electrically  erasable  and  programmable  read  only  memory）のような他の形態のフラッシュメモリでもある。
【０２０５】
図３２は、携帯電話１２５０の内部構造を図示している。ディスプレイ画面１２５２及び動作パネル１２５４によって構成された携帯電話１２５０の各パートを組織的に制御するために、電力供給回路１２７０、動作入力制御部１２６４、映像符号化部１２７２、カメラ・インターフェース１２６３、ＬＣＤ制御部１２６２、映像復号化部１２６９、マルチプレクサ／デマルチプレクサ（ＭＵＸ：multiplexer／ＤＥＭＵＸ：demultiplexer）１２６８、記録／判読部１２６７、変調／復調（modulation／demodulation）部１２６６及び音響処理部１２６５が、同期化バス１２７３を介して、中央制御部１２７１に連結される。
【０２０６】
ユーザが電源ボタンを動作させ、「電源オフ」状態から「電源オン」状態に設定すれば、電力供給回路１２７０は、バッテリパックから、携帯電話１２５０の各パートに電力を供給することにより、携帯電話１２５０が動作モードにセッティングされる。
【０２０７】
中央制御部１２７１は、ＣＰＵ（central  processing  unit）、ＲＯＭ及びＲＡＭ（random  access  memory）を含む。
【０２０８】
携帯電話１２５０が、外部に通信データを送信する過程では、中央制御部１２７１の制御によって、携帯電話１２５０でデジタル信号が生成される、例えば、音響処理部１２６５では、デジタル音響信号が生成され、映像符号化部１２７２では、デジタル映像信号が生成され、動作パネル１２５４及び動作入力制御部１２６４を介して、メッセージのテキストデータが生成される。中央制御部１２７１の制御によって、デジタル信号が変調／復調部１２６６に伝達されれば、変調／復調部１２６６は、デジタル信号の周波数帯域を変調し、通信回路１２６１は、帯域変調されたデジタル音響信号に対して、Ｄ／Ａ変換（digital-analog  conversion）処理及び周波数変換（frequency  conversion）処理を行う。通信回路１２６１から出力された送信信号は、アンテナ１２５１を介して、音声通信基地局または無線基地局１２００に送出される。
【０２０９】
例えば、携帯電話１２５０が通話モードであるとき、マイクロホン１２５５によって獲得された音響信号は、中央制御部１２７１の制御によって、音響処理部１２６５で、デジタル音響信号に変換される。生成されたデジタル音響信号は、変調／復調部１２６６及び通信回路１２６１を経て、送信信号に変換され、アンテナ１２５１を介して送出される。
【０２１０】
データ通信モードで、電子メールのようなテキストメッセージが伝送される場合、動作パネル１２５４を利用して、メッセージのテキストデータが入力され、テキストデータが、動作入力制御部１２６４を介して、中央制御部１２６１に伝送される。中央制御部１２６１の制御により、テキストデータは、変調／復調部１２６６及び通信回路１２６１を介して送信信号に変換され、アンテナ１２５１を介して、無線基地局１２００に送出される。
【０２１１】
データ通信モードで、映像データを伝送するために、カメラ１２５３によって撮影された映像データが、カメラ・インターフェース１２６３を介し、て映像符号化部１２７２に提供される。カメラ１２５３によって撮影された映像データは、カメラ・インターフェース１２６３及びＬＣＤ制御部１２６２を介して、ディスプレイ画面１２５２に直ちにディスプレイされる。
【０２１２】
映像符号化部１２７２の構造は、前述の本発明のビデオ符号化装置の構造と相応する。映像符号化部１２７２は、カメラ１２５３から提供された映像データを、前述のビデオ符号化装置１００または映像符号化部４００のビデオ符号化方式によって符号化し、圧縮符号化された映像データに変換して、符号化された映像データを、多重化／逆多重化部１２６８に出力することができる。カメラ１２５３の録画中に、携帯電話１２５０のマイクロホン１２５５によって獲得された音響信号も、音響処理部１２６５を経て、デジタル音響データに変換され、デジタル音響データは、多重化／逆多重化部１２６８に伝達することができる。
【０２１３】
多重化／逆多重化部１２６８は、音響処理部１２６５から提供された音響データと共に、映像符号化部１２７２から提供された符号化された映像データを多重化する。多重化されたデータは、変調／復調部１２６６及び通信回路１２６１を介して送信信号に変換され、アンテナ１２５１を介して送出される。
【０２１４】
携帯電話１２５０が、外部から通信データを受信する過程では、アンテナ１２５１を介して受信された信号を、周波数復元（frequency  recovery）処理及びＡ／Ｄ変換（analog-digital  conversion）処理を介してデジタル信号を変換する。変調／復調部１２６６は、デジタル信号の周波数帯域を復調する。帯域復調されたデジタル信号は、種類によって、ビデオ復号化部１２６９、音響処理部１２６５またはＬＣＤ制御部１２６２に伝達される。
【０２１５】
携帯電話１２５０は、通話モードであるとき、アンテナ１２５１を介して受信された信号を増幅し、周波数変換及びＡ／Ｄ変換処理を介して、デジタル音響信号を生成する。受信されたデジタル音響信号は、中央制御部１２７１の制御によって、変調／復調部１２６６及び音響処理部１２６５を経て、アナログ音響信号に変換され、アナログ音響信号が、スピーカ１２５８を介して出力される。
【０２１６】
データ通信モードで、インターネットのウェブサイトからアクセスされたビデオファイルのデータが受信される場合、アンテナ１２５１を介して、無線基地局１２００から受信された信号は、変調／復調部１２６６の処理結果、多重化されたデータを出力し、多重化されたデータは、多重化／逆多重化部１２６８に伝達される。
【０２１７】
アンテナ１２５１を介して受信された多重化されたデータを復号化するために、多重化／逆多重化部１２６８は、多重化されたデータを逆多重化し、符号化されたビデオデータ・ストリームと、符号化されたオーディオデータ・ストリームとを分離する。同期化バス１２７３により、符号化されたビデオデータ・ストリームは、ビデオ復号化部１２６９に提供され、符号化されたオーディオデータ・ストリームは、音響処理部１２６５に提供される。
【０２１８】
映像復号化部１２６９の構造は、前述の本発明のビデオ復号化装置の構造と相応する。映像復号化部１２６９は、前述のビデオ復号化装置２００または映像復号化部５００のビデオ復号化方式を利用して、符号化されたビデオデータを復号化し、復元されたビデオデータを生成し、復元されたビデオデータを、ＬＣＤ制御部１２６２を経てディスプレイ画面１２５２に提供することができる。
【０２１９】
それにより、インターネットのウェブサイトからアクセスされたビデオファイルのビデオデータが、ディスプレイ画面１２５２にディスプレイされる。それと同時に、音響処理部１２６５も、オーディオデータをアナログ音響信号に変換し、アナログ音響信号をスピーカ１２５８に提供することができる。それにより、インターネットのウェブサイトからアクセスされたビデオファイルに含まれたオーディオデータも、スピーカ１２５８で再生される。
【０２２０】
携帯電話１２５０または他の形態の通信端末機は、本発明のビデオ符号化装置及びビデオ復号化装置をいずれも含む送受信端末機であるか、前述の本発明のビデオ符号化装置のみを含む送信端末機であるか、あるいは本発明のビデオ復号化装置のみを含む受信端末機でもある。
【０２２１】
本発明の通信システムは、図３０を参照して説明した構造に限定されるものではない。例えば、図３３は、本発明による通信システムが適用されたデジタル放送システムを図示している。図３３の一実施形態によるデジタル放送システムは、本発明のビデオ符号化装置及びビデオ復号化装置を利用して、衛星ネットワークまたは地上波ネットワークを介して伝送されるデジタル放送を受信することができる。
【０２２２】
具体的には、放送局１２８９は、電波を介して、ビデオデータ・ストリームを通信衛星または放送衛星１２９０に伝送する。放送衛星１２９０は、放送信号を伝送し、放送信号は、宅内にあるアンテナ１２８６によって衛星放送受信機に受信される。各家庭で、符号化されたビデオストリームは、ＴＶ（television）受信機１２８１、セットトップ・ボックス（set-top  box）（１２８７）または他のデバイスによって復号化されて再生される。
【０２２３】
再生装置１２８３で、本発明のビデオ復号化装置が具現されることにより、再生装置１２８３が、ディスク及びメモリカードのような記録媒体１２８２に記録された符号化されたビデオストリームを読み取って復号化することができる。それによって復元されたビデオ信号は、例えば、モニタ１２８４で再生される。
【０２２４】
衛星／地上波放送のためのアンテナ１２８６、またはケーブルＴＶ受信のためのケーブルアンテナ１２８５に連結されたセットトップ・ボックス１２８７にも、本発明のビデオ復号化装置が搭載される。セットトップ・ボックス１２８７の出力データも、ＴＶモニタ１２８８で再生される。
【０２２５】
他の例として、セットトップ・ボックス１２８７の代わりに、ＴＶ受信機１２８１自体に、本発明のビデオ復号化装置が搭載されもする。
【０２２６】
適切なアンテナ１２９１を具備した自動車１２９２が、衛星１２９０または無線基地局１１７０から送出される信号を受信することもできる。自動車１２９２に搭載された自動車ナビゲーションシステム１２９３のディスプレイ画面で、復号化されたビデオが再生される。
【０２２７】
ビデオ信号は、本発明のビデオ符号化装置によって符号化され、記録媒体に記録されて保存される。具体的には、ＤＶＤレコーダによって、映像信号がＤＶＤディスク１２９６に保存されるか、あるいはハードディスク・レコーダ１２９５によって、ハードディスクに映像信号が保存される。他の例として、ビデオ信号は、ＳＤカード１２９７に保存されもする。ハードディスク・レコーダ１２９５が、一実施形態による本発明のビデオ復号化装置を具備すれば、ＤＶＤディスク１２９６、ＳＤカード１２９７、または他の形態の記録媒体に記録されたビデオ信号がモニタ１２８８で再生される。
【０２２８】
自動車ナビゲーションシステム１２９３は、図３２のカメラ１２５３、カメラ・インターフェース１２６３及び映像符号化部１２７２を含まないこともある。例えば、コンピュータ１２１０及びＴＶ受信機１２８１も、図３２のカメラ１２５３、カメラ・インターフェース１２６３及び映像符号化部１２７２を含まないこともある。
【０２２９】
図３４は、本発明の一実施形態によるビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピュータ・システムのネットワーク構造を図示している。
【０２３０】
本発明のクラウドコンピュータ・システムは、クラウドコンピュータ・サーバ１４００、ユーザＤＢ（database）１４１０、コンピューティング資源１４２０及びユーザ端末機を含んでもなる。
【０２３１】
クラウドコンピュータ・システムは、ユーザ端末機の要請により、インターネットのような情報通信網を介して、コンピューティング資源１４２０のオンデマンド・アウトソーシングサービスを提供する。クラウドコンピュータ環境で、サービス提供者は、互いに異なる物理的な位置に存在するデータセンターのコンピュータ資源を、仮想化技術で統合し、ユーザが必要とするサービスを提供する。サービスユーザは、アプリケーション（application）、ストレージ（storage）、運用体制（ＯＳ）、保安（security）などのコンピューティング資源を、各ユーザ所有の端末にインストールして使用するのではなく、仮想化技術を介して生成された仮想空間上のサービスを、所望時点で所望のほど選択して使用することができる。
【０２３２】
特定サービスユーザのユーザ端末機は、インターネット及び移動通信網を含む情報通信網を介して、クラウドコンピュータ・サーバ１４００に接続する。ユーザ端末機は、クラウドコンピュータ・サーバ１４００から、クラウドコンピュータ・サービス、特に、動画再生サービスを提供される。ユーザ端末機は、デスクトップＰＣ（personal  computer）１４３０、スマートＴＶ  １４４０、スマートホン１４５０、ノート型パソコン１４６０、ＰＭＰ（portable  multimedia  player）１４７０、タブレットＰＣ  １４８０など、インターネット接続が可能なあらゆる電子機器にもなる。
【０２３３】
クラウドコンピュータ・サーバ１４００は、クラウド網に分散されている多数のコンピューティング資源１４２０を統合し、ユーザ端末機に提供することができる。多数のコンピューティング資源１４２０は、さまざまなデータサービスを含み、ユーザ端末機からアップロードされたデータを含んでもよい。かように、クラウドコンピュータ・サーバ１４００は、さまざまなところに分散されている動画データベースを、仮想化技術で統合してユーザ端末機が要求するサービスを提供する。
【０２３４】
ユーザＤＢ  １４１０には、クラウドコンピュータ・サービスに加入しているユーザ情報が保存される。ここで、ユーザ情報は、ログイン情報；及び住所、名前など個人信用情報；を含む。また、ユーザ情報は、動画のインデックス（index）を含んでもよい。ここで、インデックスは、再生を完了した動画リストや、再生中の動画リストや、再生中である動画の停止時点などを含んでもよい。
【０２３５】
ユーザＤＢ  １４１０に保存された動画についての情報は、ユーザデバイス間に共有される。従って、例えば、ノート・パソコン１４６０から再生要請され、ノート型パソコン１４６０に、所定動画サービスを提供した場合、ユーザＤＢ  １４１０に、所定動画サービスの再生ヒストリーが保存される。スマートホン１４５０から、同一の動画サービスの再生要請が受信される場合、クラウドコンピュータ・サーバ１４００は、ユーザＤＢ  １４１０を参照し、所定動画サービスを探して再生する。スマートホン１４５０がクラウドコンピュータ・サーバ１４００を介し、て動画データストリームを受信する場合、動画データストリームを復号化してビデオを再生する動作は、前述の図３２を参照して説明した携帯電話１２５０の動作と類似している。
【０２３６】
クラウドコンピュータ・サーバ１４００は、ユーザＤＢ  １４１０に保存された所定動画サービスの再生ヒストリーを参照することもできる。例えば、クラウドコンピュータ・サーバ１４００は、ユーザ端末機から、ユーザＤＢ  １４１０に保存された動画に対する再生要請を受信する。動画が、それ以前に再生中であったものであるならば、クラウドコンピュータ・サーバ１４００は、ユーザ端末機への選択によって、最初から再生するか、あるいは以前停止時点から再生するかということにより、ストリーミング方法が異なる。例えば、ユーザ端末機が、最初から再生するように要請した場合には、クラウドコンピュータ・サーバ１４００は、ユーザ端末機に、当該動画を最初のフレームからストリーミング伝送する。一方、ユーザ端末機が、以前停止時点から続けて再生するように要請した場合には、クラウドコンピュータ・サーバ１４００は、ユーザ端末機に、当該動画を、停止時点のフレームからストリーミング伝送する。
【０２３７】
そのとき、ユーザ端末機は、図１ないし図２８を参照して説明した本発明のビデオ復号化装置を含んでもよい。他の例として、ユーザ端末機は、図１ないし図２８を参照して説明した本発明のビデオ符号化装置を含んでもよい。また、ユーザ端末機は、図１ないし図２８を参照して説明した本発明のビデオ符号化装置及びビデオ復号化装置をいずれも含んでもよい。
【０２３８】
図１ないし図２８を参照して説明した本発明のビデオ符号化方法及びビデオ復号化方法、本発明のビデオ符号化装置及びビデオ復号化装置が活用される多様な実施形態について、図２９Ａないし図３４で説明した。しかし、図１ないし図２８を参照して説明した本発明のビデオ符号化方法及びビデオ復号化方法が記録媒体に保存されたり、あるいは本発明のビデオ符号化装置及びビデオ復号化装置がデバイスで具現される多様な実施形態は、図２９Ａないし図３４の実施形態に限定されるものではない。
【０２３９】
本発明で開示されたブロック図は、本発明の原理を具現するための回路を概念的に表現した形態であると当業者に解釈されるものである。同様に、任意のフローチャート、順序図、状態転移図、疑似コードなどは、コンピュータで読み取り可能媒体で実質的に表現され、コンピュータまたはプロセッサが明示上に図示していようといまいと、かようなコンピュータまたはプロセッサによって実行される多様なプロセスを示すということは、当業者に認識されるであろう。従って、前述の本発明の実施形態は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用して、前記プログラムを動作させる汎用デジタルコンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体（例えば、ＲＯＭ、フロッピー（登録商標）ディスク、ハードディスクなど）、光学的判読媒体（例えば、ＣＤ−ＲＯＭ、ＤＶＤなど）のような記録媒体を含む。
【０２４０】
図面に図示された多様な要素の機能は、適切なソフトウェアに係わってソフトウェアを実行することができるハードウェアだけではなく、専用ハードウェアの利用を介して提供されもする。プロセッサによって提供されるとき、かような機能は単一専用プロセッサ、単一共有プロセッサ、または一部が共有される複数の個別プロセッサによって提供される。また、用語「プロセッサ」または「制御部」の明示上利用は、ソフトウェアを実行することができるハードウェアを排他的に指すものであると解釈されるものではなく、制限なしに、デジタル信号プロセッサ（ＤＳＰ）ハードウェア、ソフトウェアを保存するためのＲＯＭ、ＲＡＭ及び不揮発性保存装置を暗黙的に含んでもよい。
【０２４１】
本明細書の特許請求の範囲、特定機能を遂行するための手段として表現された要素は、特定機能を遂行する任意の方式を包括し、そのような要素は、特定機能を遂行する回路要素の組み合わせ、または特定機能を遂行するためのソフトウェアを実行するために適する回路と結合された、ファームウエア、マイクロコードなどを含む任意形態のソフトウェアを含んでもよい。
【０２４２】
本明細書で、本発明の原理の「一実施形態」、及びかような表現の多様な変形の指称は、その実施形態に係わり、特定特徴、構造、特性などが、本発明の原理の少なくとも１つの実施形態に含まれるということを意味する。従って、表現「一実施形態において」と、本明細書全体を通じて開示された任意の他の変形例は、必ずしもいずれも同一の実施形態を指すものであるというわけではない。
【０２４３】
本明細書で、「Ａ及びＢのうち少なくとも一つ」の場合、「〜のうち少なくとも一つ」の表現は、最初のオプション（Ａ）の選択のみ、２番目に列挙されたオプション（Ｂ）の選択のみ、または両方のオプション（Ａ及びＢ）の選択を包括するために使用される。さらなる例として、「Ａ、Ｂ及びＣのうち少なくとも一つ」の場合は、最初に列挙されたオプション（Ａ）の選択のみ、または２番目に列挙されたオプション（Ｂ）の選択のみ、または３番目に列挙されたオプション（Ｃ）の選択のみ、あるいは最初及び２番目に列挙されたオプション（Ａ及びＢ）の選択のみ、または２番目及び３番目に列挙されたオプション（Ｂ及びＣ）の選択のみ、あるいはあらゆる３個のオプションの選択（Ａ、Ｂ及びＣ）を包括することができる。さらに多くの項目が列挙される場合にも、当業者に明白に拡張解釈されるであろう。
【０２４４】
以上、本発明について、その望ましい実施形態を中心に説明した。本明細書を介して開示されたあらゆる実施形態と条件付き例示は、本発明の技術分野で、当業者をして、本発明の原理と概念とを理解させるように一助とするための意図から記述されたものであり、当業者は、本発明が、本発明の本質的な特性から外れない範囲で変形された形態に具現されるということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されなければならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にあるあらゆる差異は、本発明に含まれたものであると解釈されなければならないであろう。
【図１】
2014531153.tif 000005
【図２】
2014531153.tif 000006
【図３】
2014531153.tif 000007
【図４】
2014531153.tif 000008
【図５】
2014531153.tif 000009
【図６】
2014531153.tif 000010
【図７】
2014531153.tif 000011
【図８】
2014531153.tif 000012
【図９】
2014531153.tif 000013
【図１０】
2014531153.tif 000014
【図１１】
2014531153.tif 000015
【図１２】
2014531153.tif 000016
【図１３】
2014531153.tif 000017
【図１４】
2014531153.tif 000018
【図１５】
2014531153.tif 000019
【図１６】
2014531153.tif 000020
【図１７Ａ】
2014531153.tif 000021
【図１７Ｂ】
2014531153.tif 000022
【図１７Ｃ】
2014531153.tif 000023
【図１８Ａ】
2014531153.tif 000024
【図１８Ｂ】
2014531153.tif 000025
【図１８Ｃ】
2014531153.tif 000026
【図１８Ｄ】
2014531153.tif 000027
【図１８Ｅ】
2014531153.tif 000028
【図１８Ｆ】
2014531153.tif 000029
【図１８Ｇ】
2014531153.tif 000030
【図１９】
2014531153.tif 000031
【図２０】
2014531153.tif 000032
【図２１】
2014531153.tif 000033
【図２２】
2014531153.tif 000034
【図２３】
2014531153.tif 000035
【図２４】
2014531153.tif 000036
【図２５】
2014531153.tif 000037
【図２６】
2014531153.tif 000038
【図２７】
2014531153.tif 000039
【図２８】
2014531153.tif 000040
【図２９Ａ】
2014531153.tif 000041
【図２９Ｂ】
2014531153.tif 000042
【図３０】
2014531153.tif 000043
【図３１】
2014531153.tif 000044
【図３２】
2014531153.tif 000045
【図３３】
2014531153.tif 000046
【図３４】
2014531153.tif 000047
【国際調査報告】
2014531153.tif 000048
2014531153.tif 000049
2014531153.tif 000050
2014531153.tif 000051