(57)【要約】  エントロピー符号化装置及び方法、並びにエントロピー復号装置及び方法が開示される。エントロピー符号化方法は、変換単位を複数の区域（ｚｏｎｅ）に分割し、複数の区域のそれぞれをサブ区域（ｓｕｂ  ｚｏｎｅ）に分割するステップと、複数の区域のうち、有効変換係数を含むサブ区域が含まれた最後の区域の区域フラグの値を第１値にセッティングし、残りの区域の区域フラグの値を第２値にセッティングするステップと、有効変換係数を含む分割されたサブ区域のサブ区域フラグの値を第１値にセッティングし、有効変換係数を含まない分割されたサブ区域のサブ区域フラグの値を第２値にセッティングするステップと、区域フラグ及びサブ区域フラグに基づいて、複数の係数コーディング方式のうち、予め設定された係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ）を決定するステップと、決定された係数コーディング方式に基づいて、サブ区域に含まれた係数を符号化するステップと、区域フラグ、サブ区域フラグ及び符号化された係数に対するデータを伝送するステップとを含む。
2018530211.tif 000002
【特許請求の範囲】
【請求項１】
変換単位を複数の区域（ｚｏｎｅ）に分割し、前記複数の区域のそれぞれをサブ区域（ｓｕｂ  ｚｏｎｅ）に分割するステップと、
前記複数の区域のうち、有効変換係数を含むサブ区域が含まれた最後の区域の区域フラグの値を第１値にセッティングし、残りの区域の区域フラグの値を第２値にセッティングするステップと、
有効変換係数を含む前記分割されたサブ区域のサブ区域フラグの値を前記第１値にセッティングし、有効変換係数を含まない前記分割されたサブ区域のサブ区域フラグの値を前記第２値にセッティングするステップと、
前記区域フラグ及び前記サブ区域フラグに基づいて、複数の係数コーディング方式のうち、予め設定された係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ）を決定するステップと、
前記決定された係数コーディング方式に基づいて、前記サブ区域に含まれた係数を符号化するステップと、
前記区域フラグ、前記サブ区域フラグ及び前記符号化された係数に対するデータを伝送するステップと
を含むエントロピー符号化方法。
【請求項２】
前記区域フラグの値をセッティングするステップは、
ｎの前記複数の区域のうち、ｎ−１番目の区域までの前記区域フラグの値が前記第１値にセッティングされなければ、ｎ番目の区域の前記区域フラグの値のセッティングは省略し、
前記サブ区域フラグの値をセッティングするステップは、
前記区域フラグの値のセッティングされた区域がｍの前記サブ区域を含む場合、予め設定された方向に基づいてｍ−１番目のサブ区域までの前記サブ区域フラグの値が前記第１値にセッティングされなければ、ｍ番目のサブ区域の前記サブ区域フラグの値のセッティングは省略する請求項１に記載のエントロピー符号化方法。
【請求項３】
前記予め設定された係数コーディング方式を決定するステップは、
前記複数の区域のうち、１番目の区域の区域フラグの値が前記第１値にセッティングされるか、前記１番目の区域の区域フラグの値が前記第１値にセッティングされないと同時に、２番目の区域に含まれた複数のサブ区域のうち１つ以下のサブ区域に対するサブ区域フラグの値が前記第１値にセッティングされた第１条件を満たす場合、前記１番目の区域を符号化するための第１係数コーディング方式を決定し、前記第１条件を満たさない場合、前記１番目の区域を符号化するための第２係数コーディング方式を決定し、
前記複数の区域のうち、２番目の区域の区域フラグの値が前記第１値にセッティングされた第２条件を満たす場合、前記２番目の区域を符号化するための第３係数コーディング方式を決定し、前記第２条件を満たさない場合、前記２番目の区域を符号化するための前記第１係数コーディング方式を決定し、
前記複数の区域のうち、残りの区域を符号化するための第３係数コーディング方式を決定する請求項１に記載のエントロピー符号化方法。
【請求項４】
前記複数の係数コーディング方式のうち少なくとも１つの係数コーディング方式は、前記サブ区域内の有効変換係数のスキャン領域に関する情報を含む請求項３に記載のエントロピー符号化方法。
【請求項５】
区域フラグ、サブ区域フラグ及び符号化された係数に対するデータを受信するステップと、
前記受信された区域フラグ及び前記受信されたサブ区域フラグを復号化するフラグ復号化ステップと、
前記復号化された区域フラグ及び前記復号化されたサブ区域フラグに基づいて、複数の係数コーディング方式のうち予め設定された係数コーディング方式を決定するステップと、
前記決定された係数コーディング方式に基づいて、前記受信された符号化された係数に対するデータを復号化するステップと
を含み、
前記区域フラグは、
変換単位が分割された複数の区域のうち、有効変換係数を含むサブ区域（ｓｕｂ  ｚｏｎｅ）の含まれた最後の区域に対して第１値にセッティングされ、残りの区域に対して第２値にセッティングされ、
前記サブ区域フラグは、
有効変換係数を含む前記分割されたサブ区域に対して前記第１値にセッティングされ、有効変換係数を含まない前記分割されたサブ区域に対して前記第２値にセッティングされるエントロピー復号化方法。
【請求項６】
前記フラグ復号化ステップは、
ｎの前記複数の区域のうち、ｎ−１番目の区域までの前記区域フラグの値が前記第１値にセッティングされていない場合、ｎ番目の区域の前記区域フラグの値が前記第１値にセッティングされたと判断し、前記区域がｍの前記サブ区域を含む場合、予め設定された方向に基づいてｍ−１番目のサブ区域までの前記サブ区域フラグの値が前記第１値にセッティングされていない場合、ｍ番目のサブ区域の前記サブ区域フラグの値が前記第１値にセッティングされたと判断する請求項５に記載のエントロピー復号化方法。
【請求項７】
前記分割されたサブ領域は、
区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、有効変換係数を含む周辺のサブ領域の数、イントラモード、係数コーディング単位サイズ、変換単位サイズ、コーディング単位サイズ、変換省略有無のうち、少なくとも１つに基づいてサブ領域別に多様なモードでスキャンされる請求項５に記載のエントロピー復号化方法。
【請求項８】
前記予め設定された係数コーディング方式を決定するステップは、
前記複数の区域のうち、１番目の区域の区域フラグの値が前記第１値にセッティングされるか、前記１番目の区域の区域フラグの値が前記第１値にセッティングされないと同時に、２番目の区域に含まれた複数のサブ区域のうち１つ以下のサブ区域に対するサブ区域フラグの値が前記第１値にセッティングされた第１条件を満たす場合、前記１番目の区域を復号化するための第１係数コーディング方式を決定し、前記第１条件を満たさない場合、前記１番目の区域を復号化するための第２係数コーディング方式を決定し、
前記複数の区域のうち、２番目の区域の区域フラグの値が前記第１値にセッティングされた第２条件を満たす場合、前記２番目の区域を復号化するための第３係数コーディング方式を決定し、前記第２条件を満たさない場合、前記２番目の区域を復号化するための前記第１係数コーディング方式を決定し、
前記複数の区域のうち、残りの区域を復号化するための第３係数コーディング方式を決定する請求項５に記載のエントロピー復号化方法。
【請求項９】
前記複数の係数コーディング方式のうち少なくとも１つの係数コーディング方式は、前記サブ区域内の有効変換係数の最後の位置情報を含む請求項８に記載のエントロピー復号化方法。
【請求項１０】
前記複数の係数コーディング方式のうち少なくとも１つの係数コーディング方式は、前記サブ区域内の有効変換係数のスキャン領域に関する情報を含む請求項８に記載のエントロピー復号化方法。
【請求項１１】
前記スキャン領域は、
前記サブ区域の左側上段地点を基に右側方向に有効変換係数が位置する最大地点のｘ座標及び下側方向に有効変換係数が位置する最大地点のｙ座標を対とする座標と、前記左側上段地点の座標とで形成される四角領域である請求項１０に記載のエントロピー復号化方法。
【請求項１２】
前記複数の係数コーディング方式のうち、少なくとも１つの係数コーディング方式は、前記サブ区域内の有効変換係数が全て１であることを示すＥ１フラグ情報を含む請求項１０に記載のエントロピー復号化方法。
【請求項１３】
前記分割された複数の区域のサイズに関する情報は、
ｓｌｉｃｅ  ｈｅａｄｅｒ、ＰＰＳ及びＳＰＳのうち、少なくとも１つに含まれる請求項５に記載のエントロピー復号化方法。
【請求項１４】
前記区域及び前記サブ区域の分割有無は、
ｌｕｍａとｃｈｒｏｍａに応じて分割有無が決定され、ｌｕｍａの場合、前記区域及び前記サブ区域に分割され、ｃｈｒｏｍａの場合、前記区域及び前記サブ区域に分割されない請求項５に記載のエントロピー復号化方法。
【請求項１５】
前記予め設定された係数コーディング方式を決定するステップは、
ｌｕｍａの場合、前記区域フラグ及び前記サブ区域フラグに基づいて予め設定された係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ）を決定し、ｃｈｒｏｍａの場合、ＨＥＶＣの係数コーディング方式を決定する請求項５に記載のエントロピー復号化方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、エントロピー符号化及び復号化のための装置及び方法に関し、より詳細には、多様な条件に対応するコンテキストモデルを選択して符号化及び復号化するエントロピー符号化及び復号化のための装置及び方法に関する。
【背景技術】
【０００２】
電子技術の発達により、高画質のディスプレイ装置が開発されている。高画質のディスプレイ装置が開発するにつれ、高画質の映像を送受信する技術の重要性が増大しつつある。通常、映像を送受信するために、映像圧縮方式を利用する。映像圧縮方式は、映像を一定の大きさのブロックに分け、映像の特性に応じた方向予測を用いてレジデュアル（ＲｅｓｉｄＵａｌ）データを獲得する過程を含む。レジデュアルデータは、変換、量子化、エントロピーコーディング過程を経て圧縮することができる。エントロピーコーディング過程では、最適のコンテキストモデルが適用されることで、伝送しようとするレジデュアルデータの量を減らすことができる。通信技術が発展するにつれ、過去に比べて同じ時間でより多くのデータを伝送することができるようになったが、要求されるイメージデータの量は更に増加するようになった。よって、効率的なエントロピー符号化及び復号化の過程に対する必要性が高まってきている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】米国登録特許第９８１９９６５号
【特許文献２】米国登録特許第９５３８１７４号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、コーディング単位を複数のブロックに分け、ブロックの特性及び周辺ブロックとの関係に基づいて、効率的なコーディングを行うことができるエントロピー符号化及び復号化のための装置及び方法を提供することにある。
【課題を解決するための手段】
【０００５】
以上の目的を達成するための一実施形態に係るエントロピー符号化方法は、変換単位を複数の区域（ｚｏｎｅ）に分割し、前記複数の区域のそれぞれをサブ区域（ｓｕｂ  ｚｏｎｅ）に分割するステップと、前記複数の区域のうち、０ではない係数を含むサブ区域が含まれた最後の区域に対して区域フラグの値をセッティングするステップと、前記分割されたサブ区域が０ではない係数を含む場合、前記分割されたサブ区域のそれぞれに対してサブ区域フラグの値をセッティングするステップと、前記区域フラグ及び前記サブ区域フラグに基づいて予め設定された係数コーディング方式を決定するステップと、前記決定された係数コーディング方式に基づいて前記変換単位の特定サブ区域に含まれた係数を符号化するステップと、前記区域フラグ、前記サブ区域フラグ及び前記符号化された係数に対するデータを伝送するステップとを含む。
【０００６】
そして、以上のような目的を達成するための一実施形態に係るエントロピー符号化装置は、変換単位を複数の区域（ｚｏｎｅ）に分割し、前記複数の区域のそれぞれをサブ区域（ｓｕｂ  ｚｏｎｅ）に分割し、前記複数の区域のうち、０ではない係数を含むサブ区域が含まれた最後の区域に対して区域フラグの値をセッティングし、前記分割されたサブ区域が０ではない係数を含む場合、前記分割されたサブ区域のそれぞれに対してサブ区域フラグの値をセッティングし、前記区域フラグ及び前記サブ区域フラグに基づいて予め設定された係数コーディング方式を決定し、前記決定された係数コーディング方式に基づいて前記変換単位の特定サブ区域に含まれた係数を符号化するエントロピー符号化部と、前記区域フラグ、前記サブ区域フラグ及び前記符号化された係数に対するデータを伝送する通信部とを含む。
【０００７】
なお、以上の目的を達成するための一実施形態に係るエントロピー復号化方法は、前記区域フラグ、前記サブ区域フラグ及び前記符号化された係数に対するデータを受信するステップと、前記受信された区域フラグ及び前記受信されたサブ区域フラグを復号化するフラグ復号化ステップと、前記復号化された区域フラグ及び前記復号化されたサブ区域フラグに基づいて予め設定された係数コーディング方式を決定するステップと、前記決定された係数コーディング方式に基づいて前記受信された符号化された係数に対するデータを復号化するステップとを含み、前記区域フラグは、変換単位の分割された複数の区域のうち、０ではない係数を含むサブ区域（ｓｕｂ  ｚｏｎｅ）が含まれた最後の区域を示し、前記サブ区域フラグは、前記複数の区域のそれぞれが分割されたサブ区域のうち、０ではない係数を含むサブ区域を示す。
【０００８】
そして、以上の目的を達成するための一実施形態に係るエントロピー復号化装置は、前記区域フラグ、前記サブ区域フラグ及び前記符号化された係数に対するデータを受信する通信部と、前記受信された区域フラグ及び前記受信されたサブ区域フラグを復号化し、前記復号化された区域フラグ及び前記復号化されたサブ区域フラグに基づいて予め設定された係数コーディング方式を決定し、前記決定された係数コーディング方式に基づいて前記受信された符号化された係数に対するデータを復号化するエントロピー復号化部とを含み、前記区域フラグは、変換単位の分割された複数の区域のうち、０ではない係数を含むサブ区域（ｓｕｂ  ｚｏｎｅ）が含まれた最後の区域を示し、前記サブ区域フラグは、前記複数の区域のそれぞれが分割されたサブ区域のうち、０ではない係数を含むサブ区域を示す。
【発明の効果】
【０００９】
以上説明したように、本発明によれば、エントロピー符号化及び復号化のための装置及び方法は、効率的に符号化及び復号化が可能であり、同じ情報をより少ないビットストリームで送受信することができるようになる。
【図面の簡単な説明】
【００１０】
【図１】本発明の一実施形態に係る映像符号化装置のブロック図である。
【図２】本発明の一実施形態に係る映像復号化装置のブロック図である。
【図３】本発明の一実施形態に係る符号化単位の概念を説明する図である。
【図４】本発明の一実施形態に係る映像符号化装置の具体的なブロック図である。
【図５】本発明の一実施形態に係る映像復号化装置の具体的なブロック図である。
【図６】本発明の一実施形態に係る深度別符号化単位及びパーティションを説明する図である。
【図７】本発明の一実施形態に係る符号化単位及び変換単位の関係を説明するための図である。
【図８】本発明の一実施形態に係る深度別符号化情報を説明する図である。
【図９】本発明の一実施形態に係る深度別符号化単位を説明する図である。
【図１０】本発明の一実施形態に係る符号化単位、予測単位及び周波数変換単位の関係を説明する図である。
【図１１】本発明の一実施形態に係る符号化単位、予測単位及び周波数変換単位の関係を説明する図である。
【図１２】本発明の一実施形態に係る符号化単位、予測単位及び周波数変換単位の関係を説明する図である。
【図１３】符号化モード情報に応じた符号化単位、予測単位及び変換単位の関係を説明する図である。
【図１４】本発明の一実施形態に係る変換単位に含まれた変換係数情報をエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図１５】本発明の一実施形態に係る変換単位を分割したサブ区域を説明する図である。
【図１６】変換単位に含まれたサブ区域の一例を説明する図である。
【図１７】サブ区域に対応する有効性マップを説明する図である。
【図１８】サブ区域に対応する第１臨界値フラグを説明する図である。
【図１９】サブ区域に対応する第２臨界値フラグを説明する図である。
【図２０】１つのサブ区域に含まれた変換係数及びエントロピー符号化及び復号化される変換係数情報を説明する図である。
【図２１】本発明の一実施形態に係る複数のサブ区域を含む区域を説明する図である。
【図２２】本発明の一実施形態に係る適応的スキャン（ａｄａｐｔｉｖｅ  ｓｃａｎ）方式を説明する図である。
【図２３】フレキシブルスキャン領域を設定する一実施形態を説明する図である。
【図２４】本発明の一実施形態に係るエントロピー符号化方法を説明するフローチャートである。
【図２５】本発明の一実施形態に係るエントロピー復号化方法を説明するフローチャートである。
【図２６】本発明の一実施形態に係る第１係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図２７】本発明の一実施形態に係る第２係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図２８】本発明の一実施形態に係る第３係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図２９】本発明の一実施形態に係る第４係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図３０】本発明の一実施形態に係る第５係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図３１】本発明の一実施形態に係る第６係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図３２】本発明の一実施形態に係る第７係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。
【図３３】最後の係数位置をコーディングするためのコンテキストモデルを決定する一実施形態を説明する図である。
【図３４】スキャン領域をコーディングするためのコンテキストモデルを決定する一実施形態を説明する図である。
【図３５】有効性フラグ（ｓｉｇＮｉｆｉＣａＮｔ  ｆｌａｇ）をコーディングするためのコンテキストモデルを決定する一実施形態を説明する図である。
【図３６】レベルコーディングのためのコンテキストモデルを決定する一実施形態を説明する図である。
【発明を実施するための形態】
【００１１】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。なお、本明細書に記載された映像は、静止映像だけでなく、動画も含む。
【００１２】
図１は、本発明の一実施形態に係る映像符号化装置のブロック図である。図１を参照すると、映像符号化装置１００は、エントロピー符号化部１１０と、通信部１２０とを含む。
【００１３】
映像符号化装置１００は、映像を一定の大きさのデータ単位に分割して符号化を行う。分割されたデータ単位は多様であってよく、正方形のデータ単位であってよい。例えば、映像符号化装置１００は、映像データを符号化するために、予測符号化、周波数変換、量子化、エントロピー符号化などの過程を行うことができる。予測符号化過程は、原本信号と類似する予測信号を生成する過程を意味する。予測符号化過程は、画面内予測方式または画面間予測方式を使用することができる。周波数変換過程は、空間領域の信号を周波数領域の信号に変換することを意味する。量子化過程は、周波数変換係数に対して変換係数をいくつかの代表値に近似化する過程を意味する。量子化過程は、情報の損失を伴うが、伝送するデータを減らす役割を担う。そして、エントロピー符号化過程は、情報が損失することなく、効率的に伝送しようとするデータの量を減らし、復号化のために必要な情報を符号化する過程を意味する。即ち、エントロピー符号化部１１０は、符号化されたデータ単位の映像データ及び符号化モードに関する情報をビットストリームの形態で出力することができる。
【００１４】
一方、映像符号化装置１００は、各過程において、一定のデータ単位でデータを処理するが、映像データを符号化するためのデータ単位の大きさ又は形態を多様に選択することができる。具体的な過程は後述する。
【００１５】
一実施形態として、エントロピー符号化部１１０は、変換単位を複数の区域（ｚｏｎｅ）に分割し、複数の区域のそれぞれをサブ区域（ｓｕｂ  ｚｏｎｅ）に分割する。各サブ区域は、係数符号化単位（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ：ＣＣＵ）であってよい。
【００１６】
映像符号化装置１００は、映像データを符号化するために、映像データを階層的に分割して符号化することができる。映像符号化装置１００は、映像コーディングのための基本処理単位である符号化ツリー単位（Ｃｏｄｉｎｇ  Ｔｒｅｅ  Ｕｎｉｔ：ＣＴＵ）、映像データを符号化するために符号化ツリー単位を分割した符号化単位（Ｃｏｄｉｎｇ  Ｕｎｉｔ：ＣＵ）、予測符号化を行うために符号化単位を分割した予測単位（Ｐｒｅｄｉｃｔｉｏｎ  Ｕｎｉｔ：ＰＵ）、周波数変換の基礎となる符号化単位を分割した変換単位（Ｔｒａｎｓｆｏｒｍ  Ｕｎｉｔ：ＴＵ）に分割することができる。例えば、符号化単位が２Ｎ×２Ｎである場合、変換単位は２Ｎ×２Ｎ、Ｎ×ＮまたはＮ／２×Ｎ／２になってよい。エントロピー符号化部１１０は、変換単位を複数の区域に分割し、複数のサブ区域に分割することができる。各区域は、複数のサブ区域を含んでよい。なお、１つの区域内に含まれるサブ区域の数は異なってよい。例えば、１６のサブ区域が存在する場合、エントロピー符号化部１１０は、３つの区域に分割することができる。そして、第１区域は１つのサブ区域を含み、第２区域は３つのサブ区域を含み、第３区域は１２のサブ区域を含んでよい。一方、エントロピー符号化部１１０は、変換単位を複数のサブ区域に分割し、分割されたサブ区域のうちの一部を１つの区域にまとめてよい。
【００１７】
一方、映像符号化装置１００は、階層的符号化部（図示せず）を更に含んでよいが、階層的符号化部が変換単位を複数の区域に分割し、複数の区域のそれぞれをサブ区域に分割することができる。
【００１８】
エントロピー符号化部１１０は、複数の区域のうち、０ではない係数を含むサブ区域が含まれた最後の区域に対して区域フラグの値をセッティングし、分割されたサブ区域が０ではない係数を含む場合、分割されたサブ区域のそれぞれに対してサブ区域フラグの値をセッティングする。即ち、区域フラグ及びサブ区域フラグの初期値は０であってよく、条件が満たされる場合、区域フラグ及びサブ区域フラグの値を１にセッティングすることができる。
【００１９】
映像符号化装置１００が予測符号化、周波数変換及び量子化過程を経て映像データを符号化すると、映像データの各サブ区域は各ピクセルに対応する係数を含んでよい。サブ区域に含まれた全ての係数が０であってよく、サブ区域に含まれた一部の係数は０であり、一部の係数は０でなくてよい。エントロピー符号化部１１０は、０ではない係数を含むサブ区域が含まれた区域を判断することができる。そして、エントロピー符号化部１１０は、０ではない係数を含むサブ区域が含まれた最後の区域に対して区域フラグの値をセッティングすることができ、０ではない係数を含むサブ区域のそれぞれに対してサブ区域フラグの値をセッティングすることができる。例えば、第１区域は第１サブ区域を含み、第２区域は第２ないし第４サブ区域を含み、第３区域は第５ないし第１２サブ区域を含むとし、第１サブ区域、第２サブ区域及び第４サブ区域は０ではない係数を含み、残りのサブ区域の係数は全て０であるとする。０でない係数を含むサブ区域を含む区域は、第１区域及び第２区域である。よって、第２区域が０ではない係数の含まれた最後の区域である。よって、第２区域の区域フラグは１にセッティングされてよい。第１区域及び第３区域の区域フラグ値は初期値である０であってよい。そして、０でない係数を含む第１サブ区域、第２サブ区域及び第４サブ区域のサブ区域フラグは１にセッティングされてよい。残りのサブ区域のサブ区域フラグは、初期値である０であってよい。
【００２０】
そして、エントロピー符号化部１１０は、区域フラグ及びサブ区域フラグに基づいて、予め設定された係数コーディング方式を決定する。なお、エントロピー符号化部１１０は、決定された係数コーディング方式に基づいてサブ区域に含まれた係数を符号化する。具体的な過程は後述する。
【００２１】
一方、図１では、エントロピー符号化部１１０が区域フラグ及びサブ区域フラグの値をセッティングする実施形態について説明した。しかし、エントロピー符号化部１１０は、インデックス方式で０ではない係数を含む区域及びサブ区域を示すこともできる。インデックス方式は、何番目の区域または何番目のサブ区域に０ではない係数を含んでいると直接的に示す方式を意味する。即ち、上述の実施形態において、フラグ方式を用いる場合、エントロピー符号化部１１０は、区域フラグの値を０、１、０に設定し、サブ区域フラグ値を１、１、０、１、０、０、・・・に設定して符号化することができる。そして、映像符号化装置は、符号化されたフラグ情報を受信し、区域フラグ及びサブ区域フラグを１つずつ確認し、０ではない係数が含まれた区域またはサブ区域を判断することができる。一方、インデックス方式を用いる場合、エントロピー符号化部１１０は、第２区域、第１サブ区域、第２サブ区域及び第４サブ区域を示す情報を符号化することができる。各区域またはサブ区域を示す情報が区域インデックスまたはサブ区域インデックスである。区域たまはサブ区域の情報を伝送する具体的な方式や伝送データは、フラグ方式またはインデックス方式に応じて異なってくる。しかし、０ではない係数を含む区域またはサブ区域の情報は同様の情報であり、区域またはサブ区域の情報を用いて、係数コーディング方式を決定し、決定された係数コーディング方式に基づいてサブ区域に含まれた係数を符号化する過程は同様である。
【００２２】
通信部１２０は、区域フラグ、サブ区域フラグ及び符号化された係数に対するデータを映像復号化装置に伝送する。映像復号化装置は、伝送されたデータを受信して映像データを復号化する。
【００２３】
図２は、本発明の一実施形態に係る映像復号化装置のブロック図である。図２を参照すると、映像復号化装置２００は、通信部２１０と、エントロピー復号化部２２０とを含む。通信部２１０は、映像符号化装置から区域フラグ、サブ区域フラグ及び符号化された係数に対するデータを受信する。
【００２４】
エントロピー復号化部２２０は、符号化単位別に映像データに関する情報を抽出する。映像データに関する情報は、区域フラグ、サブ区域フラグ情報を含んでよい。エントロピー復号化部２２０は、受信された区域フラグ及び受信されたサブ区域フラグを復号化し、上述のように、区域フラグは変換単位の分割された複数の区域のうち、０ではない係数を含むサブ区域が含まれた最後の区域を示すことができる。そして、サブ区域フラグは、複数の区域のそれぞれが分割されたサブ区域のうち、０ではない係数を含むサブ区域を示すことができる。
【００２５】
上述の一実施形態において、映像復号化装置２００は、区域フラグ値を０、１、０に復号化し、サブ区域フラグ値を１、１、０、１、０、０、…に復号化することができる。エントロピー復号化部２２０は、第１区域の区域フラグを確認し、０ではない係数を含む最後の区域ではないことを判断することができる。そして、エントロピー復号化部２２０は、第２区域の区域フラグを確認し、０ではない係数を含む最後の区域であることを判断することができる。なお、エントロピー復号化部２２０は、第１サブ区域及び第２サブ区域のサブ区域フラグをそれぞれ確認し、第１サブ区域及び第２サブ区域に０ではない係数が含まれていることを判断することができる。そして、エントロピー復号化部２２０は、第３サブ区域のサブ区域フラグを確認し、第３サブ区域に０ではない係数が含まれていないことを判断することができる。なお、エントロピー復号化部２２０は、第４サブ区域のサブ区域フラグを確認し、第４サブ区域に０ではない係数が含まれていることを判断することができる。エントロピー復号化部２２０は、同様の方式で全てのサブ区域を確認し、０ではない係数が含まれているか否かを判断することができる。
【００２６】
エントロピー復号化部２２０は、区域フラグ及びサブ区域フラグを確認し、区域フラグ及び復号化されたサブ区域フラグに基づいて、予め設定された係数コーディング方式を決定する。映像復号化装置２００及び映像符号化装置１００は、同一の係数コーディング方式を共有することができる。よって、映像復号化装置２００は、一定の条件を満たす場合、映像符号化装置が使用した係数コーディング方式と同様の係数コーディング方式を使用して符号化された係数に対するデータを復号化することができる。
【００２７】
上述のように、映像符号化装置１００及び映像復号化装置２００は、インデックス方式で区域及びサブ区域に関する情報を送受信することもできる。即ち、エントロピー復号化部２２０は、抽出された映像データに関する情報から区域インデックスとサブ区域のインデックスとを判断することができる。エントロピー復号化部２２０は、判断されたインデックスに基づいて、０ではない係数が含まれた最後の区域と０ではない係数が含まれたサブ区域とを判断することができる。
【００２８】
一方、映像復号化装置２００は、階層的復号化部（図示せず）を含むことができるが、階層的復号化部は、符号化された映像に関する情報に基づいて、それぞれの最大符号化単位の映像データを復号化して現在ピクチャーを復元することができる。一実施形態として、符号化された映像に関する情報は、それぞれの符号化単位ごとに読み取られたパーティションタイプ、予測モード、変換単位などに関する情報を含んでよい。階層的復号化部は、最大符号化単位に含まれるツリー構造による符号化単位のうち、符号化された映像に関する情報に基づいて符号化された映像データを復号化することができる。
【００２９】
以下では、本発明の一実施形態に係るツリー構造による単位及び単位の決定方式について説明する。
【００３０】
図３は、本発明の一実施形態に係る符号化単位の概念を説明する図である。
【００３１】
例えば、符号化単位（Ｃｏｄｉｎｇ  Ｕｎｉｔ：ＣＵ）の大きさは、幅×高さで表現されてよく、大きさが６４×６４である符号化単位から、３２×３２、１６×１６、８×８の大きさを含んでよい。大きさが６４×６４である符号化単位は、６４×６４、６４×３２、３２×６４、３２×３２の大きさのパーティションに分割されてよく、大きさが３２×３２である符号化単位は、３２×３２、３２×１６、１６×３２、１６×１６の大きさのパーティションに分割されてよく、大きさが１６×１６である符号化単位は、１６×１６、１６×８、８×１６、８×８の大きさのパーティションに分割されてよく、大きさが８×８の符号化単位は、８×８、８×４、４×８、４×４の大きさのパーティションに分割されてよい。
【００３２】
例えば、第１映像データ３１０の場合、解像度は１９２０×１０８０、符号化単位の最大サイズは６４、最大深度は２に設定されてよい。深度とは、最大符号化単位から符号化単位が分割される回数を意味し、深度が深くなるにつれ、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割されてよい。第２映像データ３２０の場合、解像度は１９２０×１０８０、符号化単位の最大サイズは６４、最大深度は３に設定されてよい。第３映像データ３３０の場合、解像度は３５２×２８８、符号化単位の最大サイズは１６、最大深度は１に設定されてよい。図３に示された最大深度は、最大符号化単位から最小符号化単位までの総分割回数を示す。
【００３３】
解像度が高かったりデータ量が多い場合、符号化効率の向上及び映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。よって、第３映像データ３３０に比べて、解像度の高い第１及び第２映像データ３１０、３２０では、符号化サイズの最大サイズが６４に選択されてよい。第１映像データ３１０の最大深度は２であるため、第１映像データ３１０の符号化単位３１５の長軸サイズが６４である最大符号化単位から２回分割されてよく、深度が２階層深くなって、長軸サイズが３２、１６である符号化単位まで含んでよい。一方、第３映像データ３３０は、最大深度は１であるため、第３映像データ３３０の符号化単位３３５は、長軸サイズが１６である符号化単位から１回分割されてよく、深度が１階層深くなって、長軸サイズが８である符号化単位まで含んでよい。第２映像データ３２０の最大深度は３であるため、第２映像データ３２０の符号化単位３２５は、長軸サイズが６４である最大符号化単位から３回分割されてよく、深度が３階層深くなって、長軸サイズが３２、１６、８の符号化単位まで含んでよい。深度が深くなるにつれ、細部情報の表現能力が向上する。
【００３４】
図４は、本発明の一実施形態に係る映像符号化装置の具体的なブロック図である。図４を参照すると、映像符号化装置４００は、イントラ予測部４１０と、動作推定部４２０と、動作補償部４２５と、周波数変換部４３０と、量子化部４４０と、エントロピー符号化部４５０と、逆量子化部４６０と、周波数逆変換部４７０と、非ブロック化（ＤｅｂｌｏＣｋｉＮｇ）部４８０及びループフィルタリング部４９０を含む。
【００３５】
イントラ予測部４１０は、現在のフレーム４０５のうち、イントラモードの符号化単位に対してイントラ予測（画面内予測）を行い、動作推定部４２０及び動作補償部４２５は、インターモードの現在のフレーム４０５及び参照フレーム４９５を用いてインター推定（画面間の予測）及び動作補償を行うことができる。
【００３６】
イントラ予測部４１０と、動作推定部４２０及び動作補償部４２５から出力されたデータは、周波数変換部４３０及び量子化部４４０を経て量子化された変換係数で出力される。量子化された変換係数は、逆量子化部４６０と、周波数逆変換部４７０を介して空間領域のデータに復元され、復元された空間領域のデータは、非ブロック化部４８０及びループフィルタリング部４９０を経て後処理されて参照フレーム４９５に出力されてよい。量子化された変換係数は、エントロピー符号化部４５０を経てビットストリーム４５５に出力されてよい。
【００３７】
一実施形態として、エントロピー符号化部４５０は、変換単位の構文要素（ｓｙｎｔａｘ  ｅｌｅｍｅｎｔ）、例えば、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）を符号化する際、変換単位のカラー成分情報、現在のサブセットの位置及び以前のサブセットに第１臨界値より大きい値を有する有効変換係数が存在するか否かに基づいて、コンテキストセットインデックスを獲得し、以前の連続的な１の値を有する変換係数の長さに基づいてコンテキストオフセットを獲得し、獲得されたコンテキストセットインデックス及びコンテキストオフセットに基づいてコンテキストモデルを指すコンテキストインデックスを決定することができる。
【００３８】
映像符号化装置４００の構成要素であるイントラ予測部４１０と、動作推定部４２０と、動作補償部４２５と、周波数変換部４３０と、量子化部４４０と、エントロピー符号化部４５０と、逆量子化部４６０と、周波数逆変換部４７０と、非ブロック化部４８０及びループフィルタリング部４９０は、いずれも最大符号化単位及び最大深度を考慮し、ツリー構造によるそれぞれの符号化単位に基づいた作業を行うことができる。
【００３９】
イントラ予測部４１０と、動作推定部４２０及び動作補償部４２５は、現在の最大符号化単位の最大サイズ及び最大深度を考慮し、ツリー構造による符号化単位のうち、それぞれの符号化単位のパーティション及び予測モードを決定し、周波数変換部４３０は、ツリー構造による符号化単位のうち、それぞれの符号化単位内の変換単位の大きさを決定することができる。
【００４０】
図５は、本発明の一実施形態に係る映像復号化装置の具体的なブロック図である。図５を参照すると、映像復号化装置５００は、パーシング部５１０と、エントロピー復号化部５２０と、逆量子化部５３０と、周波数逆変換部５４０と、イントラ予測部５５０と、動作補償部５６０と、非ブロック化部５７０及びループフィルタリング部５８０を含む。
【００４１】
パーシング部５１０は、受信したビートストリーム５０５を復号化対象である符号化された映像データ及び復号化のために必要な符号化に関する情報をパーシングすることができる。符号化された映像データは、エントロピー復号化部５２０及び逆量子化部５３０を経て逆量子化されたデータで出力され、周波数逆変換部５４０を経て空間領域の映像データが復元されてよい。イントラ予測部５５０は、空間領域の映像データに対してイントラモードの符号化単位に基づいてイントラ予測（画面内予測）を行い、動作補償部５６０は、参照  フレーム５８５を同時に用いてインターモード（画面間の予測）の符号化単位に対して動作補償を行うことができる。イントラ予測部５５０及び動作補償部５６０を経た空間領域のデータは、非ブロック化部５７０及びループフィルタリング部５８０を経て後処理されて復元フレーム５９５に出力されてよい。なお、非ブロック化部５７０及びループフィルタリング部５８０を経て後処理されたデータは、参照フレーム５８５として出力されてよい。
【００４２】
映像復号化装置５００の構成要素であるパーシング部５１０と、エントロピー復号化部５２０と、逆量子化部５３０と、周波数逆変換部５４０と、イントラ予測部５５０と、動作補償部５６０と、非ブロック化部５７０及びループフィルタリング部５８０は、いずれも最大符号化単位を考慮してツリー構造による符号化単位に基づいた作業を行うことができる。
【００４３】
イントラ予測部５５０と、動作補償部５６０とは、ツリー構造による符号化単位ごとにそれぞれパーティション及び予測モードを決定し、周波数逆変換部５４０は、符号化単位ごとに変換単位の大きさを決定することができる。なお、一実施形態として、エントロピー復号化部５２０は、変換単位の構文要素、例えば、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）を復号化する際、変換単位のカラー成分情報、現在のサブセットの位置及び以前のサブセットに第１臨界値より大きい値を有する有効変換係数が存在するか否かに基づいて、コンテキストセットインデックスを獲得し、以前の連続的な１の値を有する変換係数の長さに基づいてコンテキストオフセットを獲得し、獲得されたコンテキストセットインデックス及びコンテキストオフセットに基づいてコンテキストモデルを指すコンテキストインデックスを決定することができる。
【００４４】
図６は、本発明の一実施形態に係る深度別符号化単位及びパーティションを説明する図である。
【００４５】
一実施形態として、映像符号化装置１００及び映像復号化装置２００は、映像特性を考慮するために、階層的な符号化単位を使用することができる。符号化単位の最大高さ及び幅、最大深度は、映像の特性に応じて適応的に決定されてよく、ユーザの要求に応じて多様に設定されてよい。予め設定された符号化単位の最大サイズに応じて、深度別符号化単位の大きさが決定されてよい。
【００４６】
一実施形態として、符号化単位の階層構造６００は、符号化単位の最大高さ及び幅が６４であり、最大深度が４である場合を示している。一実施形態として、符号化単位の階層構造６００の縦軸に沿って深度が深くなるため、深度別符号化単位の高さ及び幅がそれぞれ分割されてよい。なお、符号化単位の階層構造６００の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基礎となる予測単位及びパーティションが示されている。
【００４７】
即ち、符号化単位６１０は、符号化単位の階層構造６００のうち、最大符号化単位として深度が０であり、符号化単位の大きさ、即ち、高さ及び幅が６４×６４である。縦軸に沿って深度が深くなり、サイズ３２×３２である深度１の符号化単位６２０、サイズ１６×１６である深度２の符号化単位６３０、サイズ８×８である深度３の符号化単位６４０、サイズ４×４の深度４の符号化単位６５０が存在する。サイズ４×４である深度４の符号化単位６５０は、最小符号化単位である。それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。即ち、深度０のサイズ６４×６４の符号化単位６１０が予測単位なら、予測単位はサイズ６４×６４の符号化単位６１０に含まれるサイズ６４×６４のパーティション６１０、サイズ６４×３２のパーティション６１２、サイズ３２×６４のパーティション６１４、サイズ３２×３２のパーティション６１６１に分割されてよい。
【００４８】
同様に、深度１のサイズ３２×３２の符号化単位６２０の予測単位は、サイズ３２×３２の符号化単位６２０に含まれる、サイズ３２×３２のパーティション６２０、サイズ３２×１６のパーティション６２２、サイズ１６×３２のパーティション６２４、サイズ１６×１６のパーティション６２６に分割されてよい。そして、深度２のサイズ１６×１６の符号化単位６３０の予測単位は、サイズ１６×１６の符号化単位６３０に含まれる、サイズ１６×１６のパーティション６３０、サイズ１６×８のパーティション６３２、サイズ８×１６のパーティション６３４、サイズ８×８のパーティション６３６に分割されてよい。更に、類似するように、深度３のサイズ８×８の符号化単位６４０の予測単位は、サイズ８×８の符号化単位６４０に含まれる、サイズ８×８のパーティション６４０、サイズ８×４のパーティション６４２、サイズ４×８のパーティション６４４、サイズ４×４のパーティション６４６に分割されてよい。最後に、深度４のサイズ４×４の符号化単位６５０の予測単位は、サイズ４×４の符号化単位６５０に含まれる、サイズ４×４のパーティション６５０、サイズ４×２のパーティション６５２、サイズ２×４のパーティション６５４、サイズ２×２のパーティション６５６に分割されてよい。場合によって、深度４のサイズ４×４の符号化単位６５０の予測単位は、最小符号化単位であり、最下位深度の符号化単位であり、当該予測単位もサイズ４×４のパーティション６５０のみに設定されてよい。
【００４９】
一実施形態として、映像符号化装置１００は、最大符号化単位６１０の符号化深度を決定するために、最大符号化単位６１０に含まれるそれぞれの深度の符号化単位ごとに符号化を行わなければならない。同一の範囲及び大きさのデータを含めるための深度別符号化単位の数は、深度が深くなるにつれて、深度別符号化単位の数も増加する。例えば、深度１の符号化単位１つが含むデータに対して、深度２の符号化単位は４つが必要になる。よって、同じデータの符号化結果を深度別に比較するために、１つの深度１の符号化単位及び４つの深度２の符号化単位を用いて、それぞれ符号化されなければならない。それぞれの深度別符号化のために、符号化単位の階層創造６００の横軸に沿って深度別符号化単位の予測単位ごとに符号化を行い、当該深度から最も小さい符号化誤差である代表符号化誤差が選択されてよい。なお、符号化単位の階層構造６００の縦軸に沿って深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較して最小符号化誤差が検索されてよい。最大符号化単位６１０のうち、最小符号化誤差が発生する深度及びパーティションが最大符号化単位６１０の符号化深度及びパーティションタイプとして選択されてよい。
【００５０】
図７は、本発明の一実施形態に係る符号化単位及び変換単位の関係を説明する図である。
【００５１】
一実施形態として、映像符号化装置１００または映像復号化装置２００は、それぞれの最大符号化単位に基づいて映像を符号化したり復号化することができる。ただ、映像符号化装置１００または映像復号化装置２００は、最大符号化単位より小さいか同じサイズの符号化単位で映像を符号化したり復号化することができる。符号化過程の中、周波数変換のための変換単位の大きさは、それぞれの符号化単位より大きくないデータ単位に基づいて選択されてよい。例えば、一実施形態として、映像符号化装置１００または映像復号化装置２００で、現在の符号化単位７１０が６４×６４サイズである際、３２×３２サイズの変換単位７２０を用いて、周波数変換が行われてよい。なお、６４×６４サイズの符号化単位７１０のデータを、６４×６４サイズ以下の３２×３２、１６×１６、８×８、４×４サイズの変換単位にそれぞれ周波数変換を行い符号化した後、原本との誤差が最も小さい変換単位が選択されてよい。
【００５２】
図８は、本発明の一実施形態に係る深度別符号化情報を説明する図である。
【００５３】
一実施形態として、映像符号化装置１００は、符号化モードに関する情報を符号化して伝送することができる。例えば、符号化モードに関する情報は、符号化深度に応じたそれぞれの符号化単位に対するパーティションタイプに関する情報８００、予測モードに関する情報８１０、変換単位の大きさに関する情報８２０などを含んでよい。
【００５４】
パーティションタイプに関する情報８００は、現在の符号化単位の予測符号化のためのデータ単位として、現在の符号化単位の予測単位が分割されたパーティションの形態に関する情報を示す。例えば、サイズ２Ｎ×２Ｎの現在の符号化単位ＣＵ＿０は、サイズ２Ｎ×２Ｎのパーティション８０２、サイズ２Ｎ×Ｎのパーティション８０４、サイズＮ×２Ｎのパーティション８０６、サイズＮ×Ｎのパーティション８０８のうち、いずれか１つのタイプに分割されて利用されてよい。この場合、現在の符号化単位のパーティションタイプに関する情報８００は、サイズ２Ｎ×２Ｎのパーティション８０２、サイズ２Ｎ×Ｎのパーティション８０４、サイズＮ×２Ｎのパーティション８０６及びサイズＮ×Ｎのパーティション８０８のうち、いずれか１つを示すように設定されてよい。
【００５５】
予測モードに関する情報８１０は、それぞれのパーティションの予測モードを示す。例えば、映像符号化装置１００または映像復号化装置２００は、予測モードに関する情報８１０を通じてパーティションタイプに関する情報８００が示すパーティションがイントラモード８１２、インターモード８１４及びスキップモード８１６のうち、いずれのモードで予測符号化を行うかを判断することができる。そして、変換単位の大きさに関する情報８２０は、現在の符号化単位をどのような変換単位に基づいて周波数変換を行うかを示す。例えば、変換単位は、第１イントラ変換単位サイズ８２２、第２イントラ変換単位サイズ８２４、第１インター変換単位サイズ８２６、第２インター変換単位サイズ８２８のうちの１つであってよい。
【００５６】
一実施形態として、映像復号化装置２００は、それぞれの深度別符号化単位ごとにパーティションタイプに関する情報８００、予測モードに関する情報８１０、変換単位サイズに関する情報８２０を抽出して復号化に用いられてよい。
【００５７】
図９は、本発明の一実施形態に係る深度別符号化単位を説明する図である。
【００５８】
深度の変化を示すために、分割情報が利用されてよい。分割情報は、現在の深度の符号化単位が下位深度の符号化単位で分割されるかを示す。震度０及び２Ｎ＿０×２Ｎ＿０サイズの符号化単位９００を予測符号化するための予測単位９１０は、２Ｎ＿０×２Ｎ＿０サイズのパーティションタイプ９１２、２Ｎ＿０×Ｎ＿０サイズのパーティションタイプ９１４、Ｎ＿０×２Ｎ＿０サイズのパーティションタイプ９１６、Ｎ＿０×Ｎ＿０サイズのパーティションタイプ９１８を含んでよい。予測単位が対称的比率で分割されたパーティション９１２、９１４、９１６、９１８のみが例示されているが、パーティションタイプはそれに限定されずに、非対称的パーティション、任意的な形態のパーティション、幾何学的な形態のパーティションなどを含んでよい。
【００５９】
パーティションタイプごとに１つの２Ｎ＿０×２Ｎ＿０サイズのパーティション、２つの２Ｎ＿０×Ｎ＿０サイズのパーティション、２つのＮ＿０×２Ｎ＿０サイズのパーティション、４つのＮ＿０×Ｎ＿０サイズのパーティションごとに繰り返し予測符号化が行われてよい。サイズ２Ｎ＿０×２Ｎ＿０、サイズＮ＿０×２Ｎ＿０、サイズ２Ｎ＿０×Ｎ＿０及びサイズＮ＿０×Ｎ＿０のパーティションに対してイントラモード及びインターモードで予測符号化が行われてよい。スキップモードは、サイズ２Ｎ＿０×２Ｎ＿０のパーティションのみに対して予測符号化が行われてよい。
【００６０】
サイズ２Ｎ＿０×２Ｎ＿０、サイズ２Ｎ＿０×Ｎ＿０及びサイズＮ＿０×２Ｎ＿０のパーティションタイプ９１２、９１４、９１６のうちの１つによる符号化誤差が最も小さい場合、それ以上下位深度に分割する必要がない。サイズＮ＿０×Ｎ＿０のパーティションタイプ９１８による符号化誤差が最も小さい場合、深度０を１に変更して分割し（９２０）、深度２及びサイズＮ＿０×Ｎ＿０のパーティションタイプの符号化単位９３０に対して繰り返し符号化を行って最小符号化誤差を検索していくことができる。
【００６１】
深度１及びサイズ２Ｎ＿１×２Ｎ＿１（＝Ｎ＿０×Ｎ＿０）の符号化単位９３０の予測符号化のための予測単位９４０は、サイズ２Ｎ＿１×２Ｎ＿１のパーティションタイプ９４２、サイズ２Ｎ＿１×Ｎ＿１のパーティションタイプ９４４、サイズＮ＿１×２Ｎ＿１のパーティションタイプ９４６、サイズＮ＿１×Ｎ＿１のパーティション９４８を含んでよい。なお、サイズＮ＿１×Ｎ＿１のパーティションタイプ９４８による符号化誤差が最も小さい場合、深度１を深度２に変更して分割し（９５０）、深度２及びサイズＮ＿２×Ｎ＿２の符号化単位に対して繰り返し符号化を行って最小符号化誤差を検索していくことができる。
【００６２】
最大深度がｄである場合、深度別分割情報は深度ｄ−１になるまで設定され、分割情報は深度ｄ−２まで設定されてよい。すなわち、深度ｄ−２から分割されて深度ｄ−１まで符号化が行われる場合、深度ｄ−１及びサイズ２Ｎ＿（ｄ−１）×２Ｎ＿（ｄ−１）の符号化単位９８０の予測符号化のための予測単位９９０は、サイズ２Ｎ＿（ｄ−１）×２Ｎ＿（ｄ−１）のパーティションタイプ９９２、サイズ２Ｎ＿（ｄ−１）×Ｎ＿（ｄ−１）のパーティションタイプ９９４、サイズＮ＿（ｄ−１）×２Ｎ＿（ｄ−１）ののパーティションタイプ９９６、サイズＮ＿（ｄ−１）×Ｎ＿（ｄ−１）のパーティションタイプ９９８を含んでよい。
【００６３】
パーティションタイプのうちの１つのサイズ２Ｎ＿（ｄ−１）×２Ｎ＿（ｄ−１）のパーティション、２つのサイズ２Ｎ＿（ｄ−１）×Ｎ＿（ｄ−１）のパーティション、２つのサイズＮ＿（ｄ−１）×２Ｎ＿（ｄ−１）のパーティション、４つのサイズＮ＿（ｄ−１）×Ｎ＿（ｄ−１）のパーティションごとに繰り返し予測符号化を通じた符号化が行われ、最小符号化誤差が発生するパーティションタイプが検索されてよい。サイズＮ＿（ｄ−１）×Ｎ＿（ｄ−１）のパーティションタイプ９９８による符号化誤差が最も小さいとしても、最大深度がｄであるため、深度ｄ−１の符号化単位ＣＵ＿（ｄ−１）はそれ以上下位深度への分割過程を経ることなく、現在の最大符号化単位９００に対する符号化深度が深度ｄ−１に決定され、パーティションタイプはＮ＿（ｄ−１）×Ｎ＿（ｄ−１）に決定されてよい。なお、最大深度がｄであるため、深度ｄ−１の符号化単位に対して分割情報は設定されない。
【００６４】
データ単位９９９は、現在の最大符号化単位に対する最小単位と称されてよい。一実施形態として、最小単位は、最下位符号化深度である最小符号化単位が４分割されたサイズの正方形のデータ単位であってよい。このような繰り返し符号化過程を通じ、一実施形態による映像符号化装置１００は、符号化単位９００の深度別符号化誤差を比較して最も小さい符号化誤差が発生する深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが符号化深度の符号化モードに設定されてよい。
【００６５】
このように深度０、１、…、ｄ−１、ｄの全ての深度別最小符号化誤差を比較し、誤差の最も小さい深度が選択されて符号化深度に決定されてよい。符号化深度、予測単位のパーティションタイプ及び予測モードは、符号化モードに関する情報として符号化されて伝送されてよい。なお、深度０から符号化深度に至るまで、符号化単位が分割されなければならないため、符号化深度の分割情報のみが０に設定され、符号化深度を除く深度別分割情報は１に設定されなければならない。
【００６６】
一実施形態として、映像復号化装置２００は、符号化単位９００に対する符号化深度及び予測単位に関する情報を抽出して映像データの符号化単位９１２を復号化するのに用いられてよい。一実施形態として、映像復号化装置２００は、深度別分割情報を用いて分割情報が０である深度を符号化深度として把握し、当該深度に対する符号化モードに関する情報を用いて復号化に用いることができる。
【００６７】
図１０ないし図１２は、本発明の一実施形態に係る符号化単位、予測単位及び周波数変換単位の関係を説明する図である。
【００６８】
図１０を参照すると、符号化単位１０１０が示されており、図１１を参照すると、予測単位１０６０が示されており、図１２を参照すると、変換単位１０７０が示されている。
【００６９】
一実施形態として、符号化単位１０１０は映像符号化装置１００が決定したそれぞれの深度に応じて、最大符号化単位が分割されたものである。予測単位１０６０は、符号化単位１０１０のうち、それぞれの深度に応じて符号化単位を分割した予測単位のパーティションであり、変換単位１０７０は、それぞれの深度に応じて符号化単位を分割した単位である。
【００７０】
深度別符号化単位１０１０の場合、最大符号化単位の深度が０であるとしたら、第１符号化単位１０１２、１０５４は深度が１、第２符号化単位１０１４、１０１６、１０１８、１０２８、１０５０、１０５２は深度が２、第３符号化単位１０２０、１０２２、１０２４、１０２６、１０３０、１０３２、１０４８は深度３、第４符号化単位１０４０、１０４２、１０４４、１０４６は深度４である。
【００７１】
予測単位１０６０のうちの一部のパーティション１０１４、１０１６、１０２２、１０３２、１０４８、１０５０、１０５２、１０５４は符号化単位が分割された形態である。すなわち、第１パーティション１０１４、１０２２、１０５０、１０５４は２Ｎ×Ｎのタイプであり、第２パーティション１０１６、１０４８、１０５２はＮ×Ｎ2のタイプ、第３パーティション１０３２はＮ×Ｎのタイプである。深度別符号化単位１０１０の予測単位及びパーティションは、それぞれの符号化単位より小さいか同じである。
【００７２】
変換単位１０７０のうちの一部１０５２の映像データに対しては、符号化単位に比べて小さいサイズのデータ単位で周波数変換または周波数逆変換が行われる。なお、変換単位１０１４、１０１６、１０２２、１０３２、１０４８、１０５０、１０５２、１０５４は、予測単位１０６０のうち、当該予測単位及びパーティションと比較すると、相互異なる大きさまたは形態のデータ単位である。
【００７３】
すなわち、一実施形態として、映像符号化装置１００及び映像復号化装置２００は、同一の符号化単位に対するイントラ予測／動作推定／動作補償作業、及び周波数変換／逆変換作業であっても、それぞれ別のデータ単位に基づいて行うことができる。それにより、最大符号化単位ごとに領域別に階層的な構造の符号化単位ごとに再帰的に符号化が行われて最適の符号化単位が決定されることで、ツリー構造による符号化単位が構成されてよい。符号化情報は、符号化単位に関する分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでよい。
【００７４】
一実施形態として、映像符号化装置１００は、ツリー構造による符号化単位に関する符号化装置を出力し、映像復号化装置２００は受信されたビットストリームをパーシングしてツリー構造による符号化単位に関する符号化情報を抽出することができる。分割情報は、現在の符号化単位が下位深度の符号化単位で分割されるか否かを示す。現在の深度ｄの分割情報が０である場合、現在の符号化単位が下位符号化単位としてそれ以上分割されていないことを意味する。符号化深度に関連し、パーティションタイプ情報、予測モード、変換単位サイズ情報が定義されてよい。分割情報に応じて１段階更に分割されなければならない場合には、分割された４つの下位深度の符号化単位ごとに独立的に符号化が行われなければならない。
【００７５】
予測モードは、イントラモード、インターモード及びスキップモードのうちの１つで示されてよい。イントラモード及びインターモードは、全てのパーティションタイプで定義されてよく、スキップモードはパーティションタイプ２Ｎ×２Ｎでのみ定義されてよい。パーティションタイプ情報は、予測単位の高さまたは幅が対称的比率で分割された対称的パーティションタイプ２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ及びＮ×Ｎと、非対称的比率で分割された非対称的パーティションタイプ２Ｎ×ｎＵ、２Ｎ×ｎＤ、ｎＬ×２Ｎ、ｎＲ×２Ｎのうちの１つを示してよい。非対称的パーティションタイプ２Ｎ×ｎＵ及び２Ｎ×ｎＤは、それぞれ高さが１：ｎ（ｎは１より大きい定数）及びｎ：１に分割された形態であり、非対称的パーティションタイプｎＬ×２Ｎ及びｎＲ×２Ｎは、それぞれ幅が１：ｎ及びｎ：１に分割された形態を示す。
【００７６】
変換単位サイズは、イントラモードで２種類、インターモードで２種類に設定されてよい。すなわち、変換単位分割情報が０である場合、変換単位のサイズが現在の符号化単位のサイズ２Ｎ×２Ｎに設定される。変換単位分割情報が１である場合、現在の符号化単位の分割されたサイズの変換単位が設定されてよい。なお、サイズ２Ｎ×２Ｎである現在の符号化単位に対するパーティションタイプが対称型パーティションタイプであるとしたら、変換単位のサイズはＮ×Ｎ、非対称型パーティションタイプであるとしたら、Ｎ／２×Ｎ／２に設定されてよい。
【００７７】
一実施形態に係るツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位のうち、少なくとも１つを含んでよい。符号化深度の符号化単位は、同一の符号化情報を保持している予測単位及び最小単位を１つ以上含んでよい。よって、隣接したデータ単位同士がそれぞれ保持している符号化情報を確認すると、同一の符号化深度の符号化単位に含まれるか否かが確認されてよい。なお、データ単位が保持している符号化情報を用いると、当該符号化深度の符号化単位を確認することができるため、最大符号化単位内の符号化深度の分布が類推できる。よって、この場合、現在の符号化単位が周辺データ単位を参照して予測する場合、現在の符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて用いられてよい。
【００７８】
更に別の実施形態として、現在の符号化単位が周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を用いて、深度別符号化単位内で現在符号化単位に隣接するデータが検索されることで、周辺符号化単位が参照されてよい。
【００７９】
図１３は、符号化モード情報に応じた符号化単位、予測単位及び変換単位の関係を説明する図である。
【００８０】
最大符号化単位１３００は、符号化深度の符号化単位１３０２、１３０４、１３０６、１３１２、１３１４、１３１６、１３１８を含んでよい。そのうちの１つの符号化単位１３１８は、符号化深度の符号化単位（または、基本符号化単位）になりえるため、分割情報が０に設定されてよい。
【００８１】
サイズ２Ｎ×２Ｎの符号化単位１３１８のパーティションタイプ情報は、パーティションタイプ２Ｎ×２Ｎ１３２２、２Ｎ×Ｎ１３２４、Ｎ×２Ｎ１３２６、Ｎ×Ｎ１３２８、２Ｎ×ｎＵ１３３２、２Ｎ×ｎＤ１３３４、ｎＬ×２Ｎ１３３６及びｎＲ×２Ｎ１３３８のうちの１つに設定されてよい。パーティションタイプ情報が、対称型パーティションタイプ２Ｎ×２Ｎ１３２２、２Ｎ×Ｎ１３２４、Ｎ×２Ｎ１３２６及びＮ×Ｎ１３２８のうちの１つに設定されている場合、変換単位分割情報（ＴＵ  ｓｉｚｅ  ｆｌａｇ）が０である場合、サイズ２Ｎ×２Ｎの変換単位１３４２が設定され、変換単位分割情報が１である場合、サイズＮ×Ｎの変換単位１３４４が設定されてよい。パーティションタイプ情報が非対称型パーティションタイプ２Ｎ×ｎＵ１３３２、２Ｎ×ｎＤ１３３４、ｎＬ×２Ｌ１３３６及びｎＲ×２Ｎ１３３８のうちの１つに設定された場合、変換単位分割情報（ＴＵ  ｓｉｚｅ  ｆｌａｇ）が０である場合、サイズ２Ｎ×２Ｎの変換単位１３５２が設定され、変換単位分割情報が１である場合、サイズＮ／２×Ｎ／２の変換単位１３５４が設定されてよい。
【００８２】
変換単位分割情報（ＴＵ  ｓｉｚｅ  ｆｌａg）は、変換インデックスの一種として、変換インデックスに対応する変換単位のサイズは、符号化単位の予測単位タイプまたはパーティションタイプに応じて変更されてよい。例えば、パーティションタイプ情報が対称型パーティションタイプ２Ｎ×２Ｎ１３２２、２Ｎ×Ｎ１３２４、Ｎ×２Ｎ１３２６、及びＮ×Ｎ１３２８のうちの１つに設定されている場合、変換単位分割情報が０である場合、サイズ２Ｎ×２Ｎの変換単位１３４２が設定され、変換単位分割情報が１である場合、サイズＮ×Ｎの変換単位１３４４が設定されてよい。パーティションタイプ情報が非対称型パーティションタイプ２Ｎ×ｎＵ１３３２、２Ｎ×ｎＤ１３３４、ｎＬ×２Ｌ１３３６及びｎＲ×２Ｎ１３３８のうちの１つに設定された場合、変換単位分割情報（ＴＵ  ｓｉｚｅ  ｆｌａｇ）が０である場合、サイズ２Ｎ×２Ｎの変換単位１３５２が設定され、変換単位分割情報が１である場合、サイズＮ／２×Ｎ／２の変換単位１３５４が設定されてよい。
【００８３】
上述の変換単位分割情報（ＴＵ  ｓｉｚｅ  ｆｌａｇ）は０または１の値を有するフラグであるが、一実施形態として、変換単位分割情報が１ビットのフラグに限定されるわけではなく、設定に応じて、０、１、２、３、…などに増加して変換単位が階層的に分割されてよい。変換単位分割情報は、変換インデックスの一実施形態として用いられてよい。この場合、一実施形態として、変換単位分割情報を変換単位の最大サイズ、変換単位の最小サイズとともに用いると、実際に用いられた変換単位のサイズが表現されてよい。一実施形態に係る映像符号化装置１００は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報はＳＰＳに挿入されてよい。一実施形態に係る映像復号化装置２００は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を用いてビデオ復号化に用いることができる。
【００８４】
例えば、（ａ）現在の符号化単位がサイズ６４×６４であり、最大変換単位サイズは３２×３２であるとしたら、（ａ−１）変換単位分割情報が０である際、変換単位のサイズが３２×３２、（ａ−２）変換単位分割情報が１である際、変換単位のサイズが１６×１６、（ａ−３）変換単位分割情報が２である際、変換単位のサイズが８×８に設定されてよい。別の例として、（ｂ）現在の符号化単位がサイズ３２×３２であり、最小変換単位サイズは３２×３２であるとしたら、（ｂ−１）変換単位分割情報が０である際、変換単位のサイズが３２×３２に設定されてよく、変換単位のサイズが３２×３２より小さくなることはできないため、それ以上の変換単位分割情報が設定できない。更に別の例として、（ｃ）現在の符号化単位がサイズ６４×６４であり、最大変換単位分割情報が１であるとしたら、変換単位分割情報は０または１であってよく、別の変換単位分割情報が設定できない。よって、最大変換単位分割情報を「ＭａｘＴｒａｎｓｆｏｒｍＳｉｚｅＩｎｄｅｘ」、最小変換単位サイズを「ＭｉｎＴｒａｎｓｆｏｒｍＳｉｚｅ」、変換単位分割情報が０である場合の変換単位、すなわち、基礎変換単位ＲｏｏｔＴｕのサイズを「ＲｏｏｔＴｕＳｉｚｅ」であると定義する際、現在の符号化単位で可能な最小変換単位サイズ「ＣｕｒｒＭｉｎＴｕＳｉｚｅ」は以下の関係式（１）のように定義されてよい。
【００８５】
ｕｒｒＭｉｎＴｕＳｉｚｅ＝ｍａｘ（ＭｉｎＴｒａｎｓｆｏｒｍＳｉｚｅ、ＲｏｏｔＴｕＳｉｚｅ／（2＾ＭａｘＴｒａｎｓｆｏｒｍＳｉｚｅＩｎｄｅｘ））・・・（１）
現在の符号化単位で可能な最小変換単位サイズ「ＣｕｒｒＭｉｎＴｕＳｉｚｅ」と比較し、基礎変換単位サイズである「ＲｏｏｔＴｕＳｉｚｅ」は、システム上採択可能な最大変換単位サイズを示すことができる。すなわち、関係式（１）によると、「ＲｏｏｔＴｕＳｉｚｅ／（2＾ＭａｘＴｒａｎｓｆｏｒｍＳｉｚｅＩｎｄｅｘ）」は、基礎変換単位サイズである「ＲｏｏｔＴｕＳｉｚｅ」を最大変換単位分割情報に相応する回数分だけ分割した変換単位サイズであり、「ＭｉｎＴｒａｎｓｆｏｒｍＳｉｚｅ」は、最小変換単位サイズであるため、そのうち、小さい値が現在の符号化単位で可能な最小変換単位サイズ「ＣｕｒｒＭｉｎＴｕＳｉｚ」であってよい。
【００８６】
一実施形態として、基礎変換単位サイズＲｏｏｔＴｕＳｉｚｅは、予測モードに応じて変化してよい。例えば、現在の予測モードがインターモードである場合、ＲｏｏｔＴｕＳｉｚｅは以下の関係式（２）によって決定されてよい。関係式（２）において、「ＭａｘＴｒａｎｓｆｏｒｍＳｉｚｅ」は最大変換単位サイズ、「ＰＵＳｉｚｅ」は現在の予測単位サイズを示す。
【００８７】
ＲｏｏｔＴｕＳｉｚｅ＝ｍｉｎ（ＭａｘＴｒａｎｓｆｏｒｍＳｉｚｅ、ＰＵＳｉｚｅ）・・・（２）
すなわち、現在の予測モードがインターモードである場合、変換単位分割情報が０である場合の変換単位である基礎変換単位サイズである「ＲｏｏｔＴｕＳｉｚｅ」は最大変換単位サイズ及び現在予測単位サイズのうち、小さい値に設定されてよい。現在のパーティション単位の予測モードがイントラモードである場合、「ＲｏｏｔＴｕＳｉｚｅ」は以下の関係式（３）によって決定されてよい。「ＰａｒｔｉｔｉｏｎＳｉｚｅ」は現在のパーティション単位のサイズを示す。
【００８８】
ＲｏｏｔＴｕＳｉｚｅ＝ｍｉｎ（ＭａｘＴｒａｎｓｆｏｒｍＳｉｚｅ、ＰａｒｔｉｔｉｏｎＳｉｚｅ）・・・（３）
すなわち、現在の予測モードがイントラモードなら、基礎変換単位サイズである「ＲｏｏｔＴｕＳｉｚｅ」は最大変換単位サイズ及び現在のパーティション単位サイズのうち、小さい値に設定されてよい。ただ、パーティション単位の予測モードに応じて変動する一実施形態に係る現在の最大変換単位サイズである基礎変換単位サイズ「ＲｏｏｔＴｕＳｉｚｅ」は一実施形態に過ぎず、現在の最大変換単位サイズを決定する要因がそれに限定されるわけではないことに留意すべきである。
【００８９】
上述のように、一実施形態に係る映像符号化装置１００及び映像復号化装置２００は、最大符号化単位より小さいか同じ符号化単位で最大符号化単位を分割して符号化及ぶ復号化を行う。予測過程及び変換過程に用いられる予測単位及び変換単位は、異なるデータ単位と独立的にコストに基づいて決定されてよい。このように、最大符号化単位に含まれた、階層的な構造の符号化単位ごとに再帰的に符号化が行われて最適の符号化単位が決定されることで、ツリー構造によるデータ単位が構成されてよい。すなわち、最大符号化単位ごとにツリー構造の符号化単位、ツリー構造の予測単位及び変換単位が決定されてよい。復号化のために、このような階層的構造のデータ単位の構造情報を示す情報である階層情報と、階層情報以外に復号化のための階層の情報が伝送される必要がある。
【００９０】
階層的構造に関連する情報は、上述の図１０ないし図１２を参照して説明したツリー構造の符号化単位、ツリー構造の予測単位、及びツリー構造の変換単位を決定するために必要な情報として、最大符号化単位のサイズ、符号化深度、予測単位のパーティション情報、符号化単位の分割有無を示す分割フラグ（ｓｐｌｉｔ  ｆｌａｇ）、変換単位のサイズ情報、変換単位の分割有無を示す変換単位分割フラグ（ＴＵ  ｓｉｚｅ  ｆｌａｇ）などを含む。階層的構造情報以外の符号化情報としては、各予測単位に適用されたイントラ／インター予測の予測モード情報、動作ベクトル情報、予測方向情報、複数のカラー成分が用いられた場合、当該データ単位に適用されたカラー成分情報、変換係数情報などを含む。階層情報及び階層外情報は、エントロピー符号化及び復号化の対象である構文要素（ｓｙｎｔａｘ  ｅｌｅｍｅｎｔ）と称されてよい。以下、一実施形態として、変換係数のレベルのエントロピー符号化及び復号化のためのコンテキストモデル決定過程について具体的に説明する。
【００９１】
図１４は、本発明の一実施形態に係る変換単位に含まれた変換係数情報をエントロピー符号化及び復号化する過程を説明するフローチャートである。図１４を参照すると、現在の変換単位に含まれた変換係数のうち、０ではない変換係数（以下、「有効変換係数（ｓｉｇｎｉｆｉｃａｎｔ  ｃｏｅｆｆｉｃｉｅｎｔ）」という）が存在するか否かを示すｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇが先にエントロピー符号化及び復号化されてよい（Ｓ１４１０）。ｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇが０である場合、現在の変換単位に０である変換係数のみが存在するため、ｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇとして０の値のみがエントロピー符号化及び復号化されて変換係数レベル情報はエントロピー符号化及び復号化されない。
【００９２】
現在の変換単位に有効変換係数が存在する場合には、有効変換係数の位置を示す有効性マップ（ＳｉｇＭａｐ：ｓｉｇｎｉｆｉｃａｎｃｅ  ｍａｐ）がエントロピー符号化及び復号化されてよい（Ｓ１４２０）。有効性マップは、有効ビット（ｓｉｇｎｉｆｉｃａｎｔ  ｂｉｔ）及び最後の有効変換係数の位置を示す所定の情報で構成されてよい。有効ビットは、各スキャンインデックスによる変換係数が有効変換係数か、それとも０かを示すものとして、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆ＿ｆｌａｇ［ｉ］を用いて表現されてよい。後述のように、有効性マップは、変換単位を分割した所定サイズのサブセット単位に設定される。よって、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆ＿ｆｌａｇ［ｉ］は、変換単位に含まれた１つのサブセットに含まれた変換係数のうち、ｉ番目のスキャンインデックスの変換係数が０であるか否かを示すことができる。
【００９３】
従来のＨ．２６４などにおいては、各有効変換係数ごとに最後の有効変換係数か否かを示すフラグ（Ｅｎｄ−Ｏｆ−Ｂｌｏｃｋ）が別途にエントロピー符号化及び復号化された。しかし、本発明の一実施形態によると、最後の有効変換係数の位置情報がそのままエントロピー符号化及び復号化されてよい。上述のように、一実施形態として、変換単位のサイズが従来のＨ．２６４などで用いられる４×４に限定されずに、８×８、１６×１６、３２×３２などの大きいサイズを有してよい。なお、変換単位のサイズは６４×６４、１２８×１２８、２５６×２５６などのように、より大きいサイズを有することもできる。大きいサイズの変換単位に含まれた各有効変換係数ごとに最後の有効変換係数か否かを示すフラグを別途にエントロピー符号化及び復号化することはフラグのサイズが増加して非効率的である。よって、一実施形態によると、最後の有効変換係数の位置情報がそのままエントロピー符号化及び復号化されてよい。例えば、最後の有効変換係数の位置が（ｘ、ｙ）（ｘ、ｙは定数）なら、（ｘ、ｙ）座標値がそのままエントロピー符号化及び復号化されてよい。
【００９４】
映像符号化装置１００は、有効変換係数をレベル情報化してレベル情報を符号化し、映像復号化装置２００は、レベル情報を復号化することができる（Ｓ１４３０）。具体的なレベル情報は後述する。図１４において説明したエントロピー符号化及び復号化過程は、一実施形態に係る係数コーディング方式である。映像符号化装置１００または映像復号化装置２００は、より効率的な符号化または復号化のために一定の基準に応じて多様な係数コーディング方式を用いて符号化または復号化過程を行うことができる。具体的な多様な係数コーディング方式は後述する。
【００９５】
図１５は、本発明の一実施形態に係る変換単位を分割したサブ区域を説明する図である。図１５には、変換単位１５００のサイズが１６×１６である場合が示されているが、変換単位１５００のサイズは図示の１６×１６に限定されずに、４×４ないし３２×３２などの多様なサイズを有することができる。場合によって、変換単位１５００のサイズは、６４×６４、１２８×１２８、または２５６×２５６であってよい。なお、正方形の変換単位ではない長方形の変換単位も可能である。例えば、８×４、４×８、１６×８、８×１６、３２×１６、１６×３２、６４×３２、３２×６４、１６×４、４×１６、３２×８、８×３２、６４×１６、１６×６４なども可能であってよい。
【００９６】
図１５を参照すると、変換単位１５００に含まれた変換係数のエントロピー符号化及び復号化のために、変換単位１５００は、所定サイズのサブセット（または、サブ区域）に分割されてよい。一実施形態として、変換単位１５００は、４×４サイズのサブセットに分割されてよい。変換単位１５００は、１６のサブセットに分割され、各サブセット単位に変換係数情報がエントロピー符号化及び復号化されてよい。サブセットのサイズは４×４サイズに限定されずに多様なサイズになってよい。サブセットのサイズが変わると、変換単位１５００が分割されたサブセットの数も変わってよい。
【００９７】
エントロピー符号化及び復号化される変換係数情報は、有効性マップ（ＳｉｇＭａｐ）、サブセットに含まれた有効変換係数が予め設定された第１臨界値、例えば、１より大きい値を有するか否かを示す第１臨界値フラグ（Ｇｒｅａｔｅｒｔｈａｎ１  ｆｌａｇ、以下ＧＴ１  ｆｌａｇという）、サブセットに含まれた有効変換係数が予め設定された第２臨界値、例えば、２より大きい値を有するか否かを示す第２臨界値フラグ（Ｇｒｅａｔｅｒｔｈａｎ２  ｆｌａｇ、以下ＧＴ２  ｆｌａｇという）及び所定の第２臨界値より大きい有効変換係数のレベルを示す情報（ｌｅｖｅｌ−３）などがある。以下の説明においては、第１臨界値は１、第２臨界値は２の場合を仮定して説明するが、第１臨界値及び第２臨界値はそれに限定されずに変更されてよい。第１臨界値フラグ（ＧＴ１  ｆｌａｇ）は有効性マップが１である変換係数のみに対して設定され、０である変換係数に対しては設定されない。なお、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）は第１臨界値フラグが１である変換係数のみに対して設定される。
【００９８】
図１５においては、最後の有効変換係数が含まれたサブセットをｓｕｂｓｅｔ１１（１５１０）とする。サブセット単位で行われる変換係数情報のエントロピー符号化及び復号化過程は最後の有効変換係数が含まれたｓｕｂｓｅｔ１１（１５１０）から図示されたスキャン順に沿って逆方向（ｂａｃｋｗａｒｄ）に各サブセットの変換係数情報がエントロピー符号化及び復号化される。場合によって、ｓｕｂｓｅｔ０から最後の有効変換係数が含まれたｓｕｂｓｅｔ１１（１５１０）まで順方向にスキャンされ、各サブセットの変換係数情報がエントロピー符号化及び復号化されてよい。なお、図１５においては、スキャン方向（または、スキャン順）が斜線方向（ｄｉａｇｏｎａｌ）にスキャンされる実施形態が示されているが、予め設定された基準に従って水平方向（ｈｏｒｉｚｏｎｔａｌ）または垂直方向（ｖｅｒｔｉｃａｌ）にスキャン過程が行われてよい。
【００９９】
図１６は、変換単位に含まれたサブセットの一例を説明する図である。
【０１００】
図１５及び図１６を参照すると、図１５に示す変換単位１５００に含まれたいずれか１つのサブセット（または、サブ区域）が図１６に示すような４×４サイズの変換係数を含んでいると仮定する。上述のように、一実施形態によると、サブセット単位で有効性マップ（ＳｉｇＭａｐ）、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）がエントロピー符号化及び復号化される。
【０１０１】
図１７は、サブセットに対応する有効性マップを説明する図である。
【０１０２】
図１６及び図１７を参照すると、図１６のサブセット１６００に含まれた変換係数のうち、０ではない値を有する有効変換係数に対して１の値を有する有効性マップ（ＳｉｇＭａｐ）１７００が設定される。このような有効性マップ（ＳｉｇＭａｐ）１７００は、予め設定されたコンテキストモデルを用いてエントロピー符号化及び復号化される。
【０１０３】
図１８は、サブセットに対応する第１臨界値フラグを説明する図である。
【０１０４】
図１６ないし図１８を参照すると、有効性マップ（ＳｉｇＭａｐ）１７００が１の値を有する変換係数に対し、当該変換係数が第１臨界値であるか否かを示す第１臨界値フラグ（ＧＴ１  ｆｌａｇ）１８００が設定される。第１臨界値フラグ（ＧＴ１  ｆｌａｇ）１８００が１であると、当該変換係数は１より大きい値を有する変換係数であることを示し、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）１８００が０であると、当該変換係数は１の値を有する変換係数であることを示す。
【０１０５】
図１９は、サブセットに対応する第２臨界値フラグを説明する図である。
【０１０６】
図１６ないし図１９を参照すると、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）１８００が１に設定された変換係数に対し、当該変換係数が第２臨界値であるか否かを示す第２臨界値フラグ（ＧＴ２  ｆｌａｇ）１９００が設定される。第２臨界値フラグ（ＧＴ２  ｆｌａｇ）１９００が１であると、当該変換係数は２より大きい値を有する変換係数であることを示し、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）１９００が０であると、当該変換係数は２の値を有する変換係数を示す。
【０１０７】
図１９を参照すると、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）１９００が１である変換係数、すなわち、図１６において２３及び３の値を有する変換係数はレベル情報がそのままエントロピー符号化及び復号化される。このとき、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）１９００が１である変換係数は２より大きい値を有する変換係数であるため、当該変換係数のレベルから３を引いた値（ｌｅｖｅｌ−３）を当該変換係数のレベル情報として符号化する。上述の例において、エントロピー符号化を行う際、２３の値の代わりに２０の値がレベル情報として符号化され、３の値の代わりに０の値がレベル情報として符号化される。エントロピー復号化を行う際、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）１９００が１である変換係数に対するレベル情報（ｌｅｖｅｌ−３）をエントロピー復号化した後、３の値を足すことで当該変換係数のレベル情報を復元することができる。
【０１０８】
図２０は、１つのサブセットに含まれた変換係数及びエントロピー符号化及び復号化される変換係数情報を説明する図である。
【０１０９】
一実施形態として、サブセット単位で最後の有効変換係数から所定のスキャン順に沿って有効変換係数の位置及びレベル情報を示す有効性マップ（ＳｉｇＭａｐ）、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）及びレベル情報（ｌｅｖｅｌ−３）がエントロピー符号化及び復号化される。
【０１１０】
図２１は、本発明の一実施形態に係る複数のサブ区域を含む区域を説明する図である。図２１を参照すると、複数の区域（ｚｏｎｅ）及び複数のサブ区域に分割された変換単位が開示されている。そして、複数のサブ区域の有効係数に関連する情報は、エントロピー符号化部で符号化され、エントロピー復号化部で復号化されてよい。そして、エントロピー符号化部は、従来分割されたブロックに基づいて複数の区域または複数のサブ区域を設定することができる。別の実施形態として、複数の区域または複数のサブ区域は、エントロピー符号化部と別個の別の構成部で設定されてよい。例えば、映像符号化装置１００は、階層的符号化部を含み、階層的符号化部で変換単位を複数の区域または複数のサブ区域に分割することができる。本明細書において、映像符号化装置はエントロピー符号化装置と同様の意味で使用される。なお、映像復号化装置は、エントロピー復号化装置と同様の意味で使用する。そして、エントロピー符号化部は、分割された複数の区域または複数のサブ区域に含まれた有効係数に関連する情報を設定することができる。有効係数に関連する情報は、区域フラグ、サブ区域フラグ、区域インデックスまたはサブ区域インデックスを含んでよい。エントロピー符号化装置と類似するようにエントロピー復号化装置は、エントロピー復号化部で複数の区域または複数のサブ区域の有効係数に関する情報を復号化して各区域または各サブ区域の有効係数に関する情報を判断することができる。別の例として、エントロピー復号化装置は、階層的復号化部を含んでよい。このとき、エントロピー復号化部で各区域または各サブ区域に関する情報を復号化し、階層的復号化部で各区域または各サブ区域を判断することもできる。一方、複数の区域または複数のサブ区域は多様な方式で設定されてよい。
【０１１１】
図２１（ａ）を参照すると、第１実施形態に係る区域及びサブ区域が示されている。変換単位は、サイズＮ×Ｎであってよい。変換単位は、横軸にサイズ４、４、Ｎ−８の３つに分割されてよく、縦軸にサイズ４、４、Ｎ−８の３つに分割されてよい。よって、変換単位は、サイズ４×４のブロックが４つ、サイズ（Ｎ−８）×４のブロックが２つ、サイズ４×（Ｎ−８）のブロックが２つ、サイズ（Ｎ−８）×（Ｎ−８）のブロックが１つを含むことができる。それぞれのブロックは、サブ区域であってよい。説明の便宜上、横軸及び縦軸それぞれに分割してブロックを形成する実施形態が説明されている。しかし、変換単位は、順次にサイズ４×４である４つのブロック、サイズ（Ｎ−８）×４である２つのブロック、サイズ４×（Ｎ−８）である２つのブロック及びサイズ（Ｎ−８）×（Ｎ−８）である１つのブロックに分割されてよい。区域及びサブ区域に分割されるサイズは、４に特定されずに多様なサイズであってよい。分割サイズは、定められた値であってよく、ｓｌｉｃｅ  ｈｅａｄｅｒ、ＰＰＳ、ＳＰＳに明示されてよい。
【０１１２】
変換単位は、対角線方向にスキャンされてよい。よって、対角線方向に基づいて区域及びサブ区域が設定されてよい。各区域は、以前の区域を囲む形で設定されてよい。そして、サブ区域は、区域及び対角線方向に基づいて設定されてよい。例えば、左側最上段ブロックが第０サブ区域に設定されてよい。第０サブ区域の右側ブロックが第１サブ区域に設定され、左側下段対角線方向のブロックが第２サブ区域に設定されてよい。対角線方向のみに基づくと、右側最上段ブロックが第３サブ区域になるべきだが、右側最上段ブロックは別の区域であるため、同一の区域内のブロックが次の順位のサブ区域に設定されてよい。よって、第１サブ区域の下段ブロックが第３サブ区域に設定されてよい。そして、第１サブ区域の右側ブロックが第４サブ区域に設定され、未設定の左側下段対角線方向の左側最下段ブロックが第５サブ区域に設定されてよい。第４サブ区域の下段ブロックが第６サブ区域に設定され、第６サブ区域の左側下段対角線方向のブロックが第７サブ区域に設定されてよい。最後に、右側最下段ブロックが第８サブ区域に設定されてよい。
【０１１３】
第０区域（ｚ０）は、第０サブ区域１つを含むように設定されてよい。第１区域（ｚ１）は、第０サブ区域を囲む第１サブ区域、第３サブ区域及び第２サブ区域を含むように設定されてよい。第２区域（ｚ２）は、残りのサブ区域を含むように設定されてよい。変換単位は、別の方式で区域及びサブ区域が設定されてよい。区域が先に設定されてからサブ区域が設定されてよく、サブ区域が先に設定されてから区域が設定されてよい。そして、サブ区域が先に設定された場合でも、区域設定の後各サブ区域の順番が設定されてよい。
【０１１４】
各サブ区域は、変換係数を含む。上述のように、０ではない変換係数を有効変換係数と称する。そして、１つのフレーム内に含まれた有効変換係数は、フレーム内のイメージを意味する。よって、エントロピー符号化装置は、有効変換係数をエントロピー復号化装置に伝送し、エントロピー復号化装置は、受信された有効変換係数を用いてイメージを復元して表示することができる。受信される有効変換係数データの量が多いと、エントロピー復号化装置は原本イメージと類似する高画質のイメージを表示することができる。しかし、伝送時間及び復号化に長い時間がかかり、復号化作業の負荷が過度にかかる。受信される有効変換係数データの量が少ないと、伝送時間に有利になり、迅速な復号化作業が可能である。しかし、イメージの質（ｑｕａｌｉｔｙ）が低下する。よって、エントロピー符号化装置及びエントロピー復号化装置は、符号化及び復号化の負荷、伝送時間及びイメージの質を考慮した最適のデータ量を符号化して復号化する必要がある。
【０１１５】
エントロピー符号化装置は、分割された区域及びサブ区域の情報を用いて、様々な係数コーディング方式のうち、予め設定された係数コーディング方式で有効変換係数を符号化することができる。一実施形態として、エントロピー符号化装置は、変換単位を複数の区域に分割し、複数の区域それぞれをサブ区域に分割する。それぞれのサブ区域は、有効変換係数を含むこともでき、全ての変換係数が０であってよい。
【０１１６】
エントロピー符号化装置は、複数の区域のうち、有効変換係数を含むサブ区域が含まれた最後の区域に対して区域フラグの値をセッティングすることができる。例えば、図２１（ａ）を参照すると、上述のように、第０区域（ｚ０）は第０サブ区域を含み、第１区域（ｚ１）は第１サブ区域、第３サブ区域及び第２サブ区域を含み、第２区域（ｚ２）は残りのサブ区域を含むことができる。第０サブ区域のみが有効変換係数を含むとしたら、有効変換係数を含む最後の区域は第０区域（ｚ０）である。よって、第０区域（ｚ０）の区域フラグの値が０にセッティングされる。区域フラグ及びサブ区域フラグの初期値は０であってよいため、区域フラグまたはサブ区域フラグをセッティングすることは１に値を変更することを意味することができる。もし、第４ないし第８サブ区域が有効変換係数を含まずに、第１ないし第３サブ区域のうち少なくとも１つのサブ区域が有効変換係数を含むことができる。第１ないし第３サブ区域は第１区域（ｚ１）に含まれるため、有効変換係数を含む最後の区域は、第１区域（ｚ１）である。よって、第１区域（ｚ１）の区域フラグがセッティングされてよい。
【０１１７】
そして、エントロピー符号化装置は、分割されたサブ区域が有効変換係数を含む場合、分割されたサブ区域それぞれに対してサブ区域フラグをセッティングすることができる。例えば、第１サブ区域が有効変換係数を含む場合、エントロピー符号化装置は、第１サブ区域のサブ区域フラグを１にセッティングすることができる。
【０１１８】
すなわち、区域フラグは、区域内に有効変換係数が分布されているか否かを示すフラグである。そして、サブ区域フラグは、各区域に含まれた特定サイズのサブ区域が有効変換係数を含むか否かを示すフラグである。
【０１１９】
区域フラグは、それぞれの変換単位別に設定されてよい。そして、区域フラグは、コンテキスト基盤の適応型二値算術コーディング（Ｃｏｎｔｅｘｔ−ｂａｓｅｄ  ａｄａｐｔｉｖｅ  Ｂｉｎａｒｙ  Ａｒｉｔｈｍｅｔｉｃ  Ｃｏｄｉｎｇ：ＣＡＢＡＣ）によって符号化されてよい。
区域フラグ符号化のためのコンテキストは、多様な情報に基づいて決定されてよい。例えば、多様な情報は、対応する区域インデックス、変換単位サイズ、符号化単位サイズ、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などを含んでよい。
【０１２０】
そして、サブ区域フラグは、各区域のための情報として含まれてよい。サブ区域フラグは、固定長符号化（ｆｉｘｅｄ  ｌｅｎｇｔｈ  ｃｏｄｉｎｇ）によって符号化されてよい。または、サブ区域フラグは、ＣＡＢＡＣによって符号化されてよい。サブ区域フラグ符号化のためのコンテキストは、多様な情報に基づいて決定されてよい。例えば、多様な情報は対応する区域インデックス、区域フラグ、サブ区域インデックス、有用なサブ区域フラグ、変換単位サイズ、符号化単位サイズ、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（ルマ（輝度）／クロマ（色差））、予測情報（例えば、パーティションモード、予測モード）などを含んでよい。
【０１２１】
一実施形態として、区域フラグの先にサブ区域フラグが設定された場合、区域フラグは内包されて各変換単位から得られることができる。例えば、エントロピー復号化装置は、サブ区域フラグを先に復号化する場合、設定されたサブ区域フラグから第２区域（ｚ２）に含まれた全てのサブ区域が０であることを知ることができ、第１区域（ｚ１）に含まれた第１ないし第３サブ区域のうちの１つのサブ区域フラグが１であることが分かる。よって、区域フラグ情報がなかったり、区域フラグ情報が復号化されなくても、エントロピー復号化装置は、サブ区域フラグから第１区域（ｚ１）が有効変換係数を含む最後の区域であることが分かる。別の実施形態として、変換単位のための有効グループフラグ（ｓｉｇｎｉｆｉｃａｎｔ  ｇｒｏｕｐ  ｆｌａｇ）が符号化された場合、区域フラグは内包されて得られることができる。有効グループフラグは、サブ区域フラグと類似する概念である。
【０１２２】
なお、一実施形態として、サブ区域フラグは内包されて対応する区域及び当該区域内の部分的に符号化されたサブ区域フラグから得られることができる。例えば、エントロピー復号化装置が区域フラグを復号化して第１区域（ｚ１）が１にセッティングされたことを判断することができる。そして、エントロピー復号化装置は、第１区域（ｚ１）を復号化する際、第３サブ区域、第１サブ区域、第２サブ区域の順にサブ区域フラグを復号化することができる。エントロピー復号化装置は、第３サブ区域及び第１サブ区域の区域フラグの値が０であることは判断することができる。このとき、エントロピー復号化装置は、第２サブ区域の区域フラグを復号化しなくても、第２サブ区域の区域フラグは１であることを認識することができる。サブ区域フラグのためのシンタックス順は、内包的に（ｉｍｐｌｉｃｉｔｌｙ）または明確的に（ｅｘｐｌｉｃｔｉｌｙ）変更されてよい。もし、シンタックス順が内包的に得られる場合、区域インデックス、変換単位サイズ、符号化単位サイズ、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（例えば、ルマ／クロマ）、予測単位（例えば、パーティションモード、予測モード）などが用いられてよい。サブ区域フラグは、各区域または各変換単位から得られることができる。例えば、第１区域（ｚ１）の区域フラグが１である場合、シンタックス順は第３サブ区域、第２サブ区域、第１サブ区域の順、または第１サブ区域、第２サブ区域、第３サブ区域の順であってよい。
【０１２３】
上述のように、エントロピー符号化装置は、区域フラグ及びサブ区域フラグを予め設定されたコンテキストに基づいて符号化することができる。コンテキストは、情報を符号化する方式を意味する。例えば、変換単位のサイズが１６（例えば、４×４）の場合、区域フラグを符号化するためのコンテキストモデルは０番であってよい。または、変換単位のサイズが３２（例えば、４×８）の場合、区域フラグを符号化するためのコンテキストモデルは２番であってよく、変換単位のサイズが上述のサイズではない場合、区域フラグを符号化するためのコンテキストモデルは４番であってよい。サブ区域フラグを符号化するためのコンテキストモデルも上述の過程と類似するように決定されてよい。エントロピー復号化装置も、エントロピー符号化装置と同様の情報を有しているため、エントロピー符号化装置が使用したコンテキストモデルを用いて受信されたデータを復号化することができる。
【０１２４】
図２１（ｂ）を参照すると、第２実施形態による区域及びサブ区域が示されている。
【０１２５】
変換単位は、横軸にサイズ４、４、４、Ｎ−１２の４つに分割されてよく、縦軸にサイズ４、４、４、Ｎ−１２の４つに分割されてよい。よって、変換単位は、サイズ４×４のブロックが９つ、サイズ（Ｎ−１２）×４のブロックが３つ、サイズ４×（Ｎ−１２）のブロックが３つ、サイズ（Ｎ−１２）×（Ｎ−１２）のブロックが１つを含んでよい。一方、変換単位は、順次にサイズ４×４である９つのブロック、サイズ（Ｎ−１２）×４である３つのブロック、サイズ４×（Ｎ−１２）である３つのブロック及びサイズ（Ｎ−１２）×（Ｎ−１２）である１つのブロックに分割されてよい。
【０１２６】
変換単位は、対角線方向に基づいて区域及びサブ区域が設定されてよい。左側最上段ブロックが第０サブ区域に設定されてよい。そして、左側最上段ブロックの右側ブロックが第１サブ区域に設定されて左側下段対角線方向のブロックが順次にサブ区域に設定されてよい。そして、区域も対角線方向に基づいて設定されてよい。
【０１２７】
よって、第０区域（ｚ０）は、第０サブ区域１つを含むように設定されてよい。第１区域（ｚ１）は、第１サブ区域、第２サブ区域、第３サブ区域、第４サブ区域及び第５サブ区域を含むことができる。第２サブ区域（ｚ２）は、第６サブ区域ないし第１５サブ区域を含んでよい。
【０１２８】
図２１（ｃ）を参照すると、第３実施形態に係る区域及びサブ区域が示されている。
【０１２９】
変換単位は、対角線方向に基づいてサイズ４×４である６つのブロック、サイズ（Ｎ−１２）×４である１つのブロック、サイズ４×（Ｎ−１２）である１つのブロック、サイズ（Ｎ−８）×４である１つのブロック、サイズ４×（Ｎ−８）である１つのブロック及びサイズ（Ｎ−８）×（Ｎ−８）である１つのブロックに分割されてよい。
【０１３０】
変換単位は、対角線方向に基づいて区域及びサブ区域が設定されてよい。左側最上段ブロックが第０サブ区域に設定されてよい。そして、左側最上段ブロックの右側ブロックが第１サブ区域に設定されて左側下段対角線方向のブロックが順次にサブ区域に設定されてよい。そして、区域も対角線方向に基づいて設定されてよい。
【０１３１】
よって、第０区域（ｚ０）は、第０サブ区域１つを含むように設定されてよい。第１区域（ｚ１）は、第１サブ区域、第２サブ区域を含むことができる。第２サブ区域（ｚ２）は、第３サブ区域、第４サブ区域、第５サブ区域を含んでよい。第３区域（ｚ３）は、第６ないし第１０サブ区域を含んでよい。
【０１３２】
図２１は、区域及びサブ区域を設定するいくつかの実施形態について説明したが、多様な方式で区域及びサブ区域は設定されてよい。
【０１３３】
例えば、区域の分割サイズ及びサブ区域の分割サイズのうち少なくとも一方は、多様に決定されてよい。そして、区域の分割サイズまたはサブ区域の分割サイズに関する情報は、ビットストリーム内のヘッダまたはパラメータセット（ｐａｒａｍｅｔｅｒ  ｓｅｔ）に含まれてよい。
【０１３４】
イメージの復号化のために、イメージに関する情報及び符号化に関連する情報が伝送されなければならない。ビデオシーケンスまたはイメージ単位で共通して使用されるシンタックス要素は、ビデオパラメータセット（Ｖｉｄｅｏ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ：ＶＰＳ）、シーケンスパラメータセット（Ｓｅｑｕｅｎｃｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ：ＳＰＳ）、ピクチャパラメータセット（Ｐｉｃｔｕｒｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ：ＰＰＳ）を通じて伝送されてよい。一番先にＳＰＳが位置し、ビデオシーケンスに共有して使用されるパラメータを含む。ＰＰＳは、それぞれのイメージで共通して使用されるパラメータ情報を含むピクチャーヘッダ（ｐｉｃｔｕｒｅ  ｈｅａｄｅｒ）領域である。一方、１つのイメージ（ｐｉｃｔｕｒｅ）は複数のスライスに分割されてよい。スライスヘッダは各スライスのパラメータを含む。
【０１３５】
一実施形態として、分割される区域または分割されるサブ区域のサイズに対する情報は、スライスヘッダ（ｓｌｉｃｅ  ｈｅａｄｅｒ）、シーケンスパラメータセット（Ｓｅｑｕｅｎｃｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ：ＳＰＳ）、ピクチャパラメータセット（Ｐｉｃｔｕｒｅ  Ｐａｒａｍｅｔｅｒ  Ｓｅｔ：ＰＰＳ）のうち少なくとも１つに含まれてよい。変換単位を区域／サブ区域に分けてコーディングする際、区域／サブ区域の分割サイズに関する情報がスライスヘッダ、ＳＰＳまたはＰＰＳに含まれるため、区域／サブ区域の分割サイズは可変的に決定されてよい。すなわち、区域／サブ区域の分割サイズは、内包的に定められ、かつ明示的に定められるという長所がある。
【０１３６】
一方、ルマ（ｌｕｍａ）とクロマ（ｃｈｒｏｍａ）に応じて区域及びサブ区域の分割有無が異なるように決定されてよい。通常、カラー映像は、Ｒ成分、Ｇ成分、Ｂ成分の組み合わせで表現されてよい。しかし、効率性のために、カラー映像はＹ成分、Ｃｂ成分、Ｃｒ成分で表現されるＹＣｂＣｒ映像で保存されて伝送されてよい。ＹＣｂＣｒカラー空間は、各ピクセルごとにルマ成分とクロマ成分を区分して保存する。Ｙは、ルマ成分、ＣｂとＣｒとはクロマ成分である。ＲＧＢ空間とＹＣｂＣｒ空間は、変換式を通じて相互変換可能である。
【０１３７】
一実施形態として、区域及びサブ区域の分割有無は、ルマとクロマに応じて異なるように決定されてよい。ルマの場合、上述のように、区域及びサブ区域が分割されてよい。しかし、クロマの場合、区域及びサブ区域が分割されずに従来の方式を用いて係数コーディングが進められてよい。
【０１３８】
エントロピー符号化装置は、区域フラグ及びサブ区域フラグを用いて係数コーディング方式を決定し、決定された係数コーディング方式を用いて有効変換係数を符号化する。そして、エントロピー復号化装置も、同一の係数コーディング方式を用いて符号化された有効変換係数を復号化することができる。係数コーディング方式を決定する過程及びそれぞれの係数コーディング方式については後述する。
【０１３９】
一方、一実施形態として、係数コーディングはルマとクロマに応じて異なる方式で進められてよい。ルマの場合、上述のように、区域フラグ及びサブ区域フラグを用いて係数コーディング方式が決定されてよい。しかし、クロマの場合、従来のＨＥＶＣ係数コーディング方式で係数コーディングが進められてよい。従来のＨＥＶＣ係数コーディング方式は、公知となっている技術であるため、ここでは説明を省略する。
【０１４０】
図２２は、本発明の一実施形態に係る適応的スキャン（ａｄａｐｔｉｖｅ  ｓｃａｎ）方式を説明する図である。図２２を参照すると、スキャン方向が垂直方向または水平方向になる実施形態が示されている。通常、変換単位は多様な方向にスキャンされてよい。多様な方向は、垂直方向、水平方向、対角線方向を含んでよい。スキャン方向は、選択されたそれぞれのサブ区域に独立的であってよい。スキャン方向は、多様な情報に基づいて選択されてよい。例えば、多様な情報は、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、周辺の有効変換係数を含むサブ区域の数、イントラモード、係数符号化単位（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ：ＣＣＵ）サイズ、変換単位サイズ、符号化単位サイズ、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などを含んでよい。係数符号化単位は変換単位であってよく、変換単位のうち区域であってよく、サブ区域であってよい。
【０１４１】
図２２（ａ）及び図２２（ｂ）を参照すると、３つの区域及び９つのサブ区域を含む変換単位が示されている。
【０１４２】
第０区域（ｚ０）は第０サブ区域を含み、第１区域（ｚ１）は第１ないし第３サブ区域を含み、第２区域（ｚ２）は残りのサブ区域を含んでよい。適応的スキャン有無を決定するために、いくつかの変数を設定することができる。
【０１４３】
例えば、第２サブ区域、第５サブ区域、第３サブ区域、第６サブ区域、第７サブ区域及び第８サブ区域の区域フラグが全て０である場合、ｃｎｔＨｏｒ＝０であり、第２サブ区域、第５サブ区域、第３サブ区域、第６サブ区域、第７サブ区域及び第８サブ区域のうち少なくとも１つの区域フラグが１であると、ｃｎｔＨｏｒ＝１であってよい。そして、第１サブ区域、第４サブ区域、第３サブ区域、第６サブ区域、第７サブ区域及び第８サブ区域の区域フラグが全て０である場合、ｃｎｔＶｅｒ＝０であり、第１サブ区域、第４サブ区域、第３サブ区域、第６サブ区域、第７サブ区域及び第８サブ区域のうち少なくとも１つの区域フラグが１であると、ｃｎｔＶｅｒ＝１であってよい。数式で表すと、
ｃｎｔＨｏｒ＝ｆｓｚ２＋ｆｓｚ５＋ｆｓｚ３＋ｆｓｚ６＋ｆｓｚ７＋ｆｓｚ８…（４）
ｃｎｔＶｅｒ＝ｆｓｚ１＋ｆｓｚ４＋ｆｓｚ３＋ｆｓｚ６＋ｆｓｚ７＋ｆｓｚ８…（５）
そして、サブ区域フラグ、ｃｎｔＨｏｒ及びｃｎｔＶｅｒを用いたいくつかの数式を更に利用してよい。
【０１４４】
ｉｓＨｏｒ４＝ｆｓｚ０＆（ｆｓｚ１ ｜｜ ｆｓｚ４）＆（ｃｎｔＨｏｒ＝＝０）…（６）
ｉｓＶｅｒ４＝ｆｓｚ０＆（ｆｓｚ２ ｜｜ ｆｓｚ５）＆（ｃｎｔＶｅｒ＝＝０）…（７）
ｉｓＨｏｒ８＝ｆｓｚ０＆ｆｓｚ１＆（ｃｎｔＨｏｒ＝＝０）…（８）
ｉｓＶｅｒ８＝ｆｓｚ０＆ｆｓｚ２＆（ｃｎｔＶｅｒ＝＝０）…（９）
ｔｍｐＳｃａｎＩｄｘ＝｜Ｉｍｏｄｅ−ＶｅｒＭｏｄｅ（５ Ｓｃａｎ＿Ｈｏｒ：（｜Ｉｍｏｄe−HorMode|＜５Ｓｃａｎ＿Ver：Ｓｃａｎ＿Ｄｉａｇ）…（１０）
式（１０）は、イントラモードと垂直モードとの差が５以内である場合は水平方向のスキャンを行い、イントラモードと水平モードとの差が５以内である場合は垂直方向のスキャンを行い、残りの場合は対角線方向のスキャンを行うということを意味する。
【０１４５】
エントロピー符号化装置は、上述の数式を用いてスキャンモードを決定することができる。例えば、第０サブ区域のサブ区域フラグが０である場合、エントロピー符号化装置は第０区域の区域フラグが０であるとｔｍｐＳｃａｎＩｄｘによるスキャンを行い、ｉｓＨｏｒ４が１であると水平方向のスキャンを行い、ｉｓＶｅｒ４が１であると垂直方向のスキャンを行い、変換ブロックサイズが８であるとｔｍｐＳｃａｎＩｄｘによるスキャンを行い、残りの場合は対角線方向のスキャンを行うことができる。そして、第０サブ区域のサブ区域フラグが１である場合、エントロピー符号化装置はサブブロックサイズが８であり、ｔｍｐＳｃａｎＩｄｘが対角線方向のスキャンモードではないとｔｍｐＳｃａｎＩｄｘによるスキャンを行い、第１サブ区域のフラグが１でありｉｓＨｏｒ８が１であると水平方向のスキャンを行い、第２サブ区域のフラグが１であり、ｉｓＶｅｒ８が１であると垂直方向のスキャンを行い、残りの場合、対角線方向のスキャンを行うことができる。サブブロックは変換単位を一定のサイズで分けたブロックであってよく、サブ区域であってよい。上述の過程を数式で表すと次のようになる。
【０１４６】
Ｉｆ  ｓｚ０
ＳｃａｎＩｄｘ  ＝  ｆｚ０  ?  ｔｍｐＳｃａｎＩｄｘ  ：  （ｉｓＨｏｒ４  ?  Scan_Hor  ：（isVer4  ?  Scan_Ver  ：（Ｔｓｉｚｅ  ＝＝8  ？  ｔｍｐＳｃａｎＩｄｘ  ：  Ｓｃａｎ＿Ｄｉａｇ）））
ｅｌｓｅ
ＳｃａｎＩｄｘ  ＝  Ｔｓｉｚｅ＝＝８  ＆  ｔｍｐＳｃａｎＩｄｘ！  ＝  Ｓｃａｎ＿Ｄｉａｇ  ？  ｔｍｐＳｃａｎＩｄｘ（ｓｚ１  ＆  ｉｓＨｏｒ８  ？  Ｓｃａｎ＿Ｈｏｒ  ：（ｓｚ２  ＆  ｉｓＶｅｒ８  ？  Ｓｃａｎ＿Ｖｅｒ  ：  Ｓｃａｎ＿Ｄｉａｇ））…（１１）
式（１１）によるスキャンモードは、変換単位サイズによらない。
【０１４７】
上述の数式を用いてエントロピー符号化装置は、図２２（ａ）のように水平方向のスキャンを行うことができる。例えば、左側から右側方向、上から下方向に順方向であるとしたら、エントロピー符号化装置は、図２２（ａ）に示すように、水平の逆方向スキャンを行うことができる。別の実施形態として、エントロピー符号化装置は、水平の順方向スキャンを行うこともできる。または、上述の数式を用いてエントロピー符号化装置は、図２２（ｂ）のように、垂直の逆方向スキャンを行うことができる。別の実施形態として、エントロピー符号化装置は、垂直の順方向スキャンを行うこともできる。エントロピー復号化装置は、符号化過程のような手順で復号化を進めることができる。
【０１４８】
図２２において説明した適応的スキャン方式は、複数の係数コーディング方式のうち、特定の係数コーディング方式に使用されてよい。
【０１４９】
図２３は、フレキシブルスキャン領域を設定する一実施形態を説明する図である。
【０１５０】
エントロピー符号化装置は、多様な方式で係数符号化単位に対するスキャンを行うことができる。一実施形態として、スキャン領域は係数符号化単位のサイズと同一であってよい。または、最後の有効変換係数の位置情報（または、ラストポジション情報）を知っている場合、スキャン領域は係数符号化単位の部分領域であってよい。
【０１５１】
図２３（ａ）を参照すると、一実施形態に係るスキャン領域２３０１が示されている。スキャン領域２３０１は、（ｓｒＸ、ｓｒＹ）に定義されてよく、スキャン領域内のスキャン順（または、方向）は計算されてよい。例えば、係数符号化単位のサイズはＭ×Ｎであってよい。ｓｒＸは、有効変換係数の位置する最右のｘ座標であり、ｓｒＹは、有効変換係数の位置する最下のｙ座標である。そして、（ｓｒＸ、ｓｒＹ）の情報は、符号化されてエントロピー復号化装置に伝送されてよい。別の実施形態として、スキャン領域２３０１のｓｒＸは、Ｍ−１−（最右側有効変換係数のｘ座標）に定義され、ｓｒＹは、Ｎ−１−（最下側有効変換係数のｙ座標）に定義されてよい。
【０１５２】
具体的な例として、係数符号化単位のサイズが１６×８であり、有効変換係数の位置する最右のｘ座標は１０、有効変換係数の位置する最下のｙ座標は５であってよい。このとき、スキャン領域２３０１は、（１０、５）に定義されてよい。または、最右及び最下を基準にスキャン領域２３０１を定義することができる。すなわち、スキャン領域２３０１のｘ座標は１６−１−１０＝５に定義され、ｙ座標は８−１−５＝２に定義されてよい。すなわち、エントロピー符号化装置はｘ座標５から左側、ｙ座標２から上側にスキャン領域２３０１を設定することができる。
【０１５３】
図２３（ｂ）を参照すると、別の実施形態に係るスキャン領域２３０２が示されている。スキャン領域２３０２は、正方形領域であるｓｒＲに定義されてよい。例えば、係数符号化単位のサイズはＭ×Ｎであってよい。もし、有効変換係数の位置する最右のｘ座標がｓｒＸであり、有効変換係数の位置する最下のｙ座標がｓｒＹなら、ｓｒＸとｓｒＹのうち最も大きい値がｓｒＲであってよい。更に別の実施形態として、スキャン領域２３０２は、Ｍ−１−ｍａｘ（ｓｒＸ、ｓｒＹ）またはＮ−１−ｍａｘ（ｓｒＸ、ｓｒＹ）に定義されてよい。
【０１５４】
図２３（ｂ）の場合、座標情報を表示するために、１つのデータのみが必要になるため、更に小さいデータでスキャン領域を設定することができる。一方、スキャン領域は１６の領域を１つのグループに設定することができる。各領域は、係数符号化単位を基準にすることもでき、分割された変換単位を基準にすることもできる。
【０１５５】
図２４は、本発明の一実施形態に係るエントロピー符号化方法を説明するフローチャートである。図２４を参照すると、エントロピー符号化装置は変換単位を複数の区域に分割し、複数の区域それぞれをサブ区域に分割する（Ｓ２４１０）。サブ区域は、多様なサイズに分割されてよい。なお、区域は、多様な形態で分けられてよい。例えば、サブ区域を分け、一部のサブ区域を１つの区域に分類することができ、区域を分け、区域内でサブ区域を分けることもできる。
【０１５６】
エントロピー符号化装置は、複数の区域のうち、有効変換係数を含むサブ区域の含まれた最後の区域に対して区域フラグの値をセッティングする（Ｓ２４２０）。そして、エントロピー符号化装置は、分割されたサブ区域が有効変換係数を含む場合、分割されたサブ区域それぞれに対してサブ区域フラグの値をセッティングする（Ｓ２４３０）。フラグの値をセッティングするとは、フラグの値を特定値に設定したり、従来の値を変更することを意味することができる。例えば、フラグの値は１にセッティングされてよい。サブ区域フラグの値が１であるとは、サブ区域内に有効変換係数が含まれていることを意味する。そして、区域フラグの値が１であることは有効変換係数の含まれた最後の区域であることを意味する。エントロピー符号化装置は、サブ区域フラグの値を先にセッティングし、次に区域フラグの値をセッティングすることもできる。
【０１５７】
なお、エントロピー符号化装置は、区域フラグ及びサブ区域フラグの値を明確にセッティングせずに、１つの区域または１つのサブ区域に対するフラグが内包されて抽出されるようにすることができる。例えば、ｎの複数の区域のうち、ｎ−１番目の区域までの区域フラグの値がセッティングされなければ、エントロピー符号化装置はｎ番目の区域の区域フラグの値のセッティングを省略することができる。フレーム内には、少なくとも１つの有効変換係数が存在するはずであるため、最後からすぐ前の区域まで有効変換係数が存在しなければ、最後の区域には有効変換係数が存在するためである。なお、区域フラグがセッティングされた区域内にｍのサブ区域が存在する場合、ｍ−１番目のサブ区域までのサブ区域フラグの値がセッティングされなければ、エントロピー符号化装置はｍ番目のサブ区域フラグの値をセッティングしなくてよい。区域フラグがセッティングされた区域には、有効変換係数が存在する。ところが、ｍ−１番目のサブ区域まで有効変換係数が存在しなければ、最後のサブ区域には有効変換係数が存在するためである。
【０１５８】
エントロピー符号化装置は、区域フラグ及びサブ区域フラグに基づいて予め設定された係数コーディング方式を決定する（Ｓ２４４０）。一実施形態として、図２１（ａ）に示す形態で、変換単位が分割されたと仮定する。第０区域（ｚ０）のフラグが１であるか、第１ないし第３サブ区域のフラグの和が１以下である場合、第０区域（ｚ０）に含まれた第０サブ区域は第１係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ  Ａ：ＣＣｓＡ）で符号化されてよい。上述の条件が満たされなければ、第０サブ区域は第２係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ  Ｂ：ＣＣｓＢ）で符号化されてよい。
【０１５９】
第１区域（ｚ１）のフラグが１であると、第１区域（ｚ１）に含まれた第１ないし第３サブ区域は第３係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ  Ｃ：ＣＣｓＣ）で符号化されてよい。上述の条件が満たされなければ、第１ないし第３サブ区域は第１係数コーディング方式で符号化されてよい。
【０１６０】
残りのサブ区域は、第３係数コーディング方式で符号化されてよい。具体的な係数コーディング方式については後述する。
【０１６１】
エントロピー符号化装置は、決定された係数コーディング方式に基づいて変換単位に含まれた係数を符号化する（Ｓ２４５０）。符号化は、それぞれのサブ区域単位で進められてよい。区域フラグ及びサブ区域フラグの条件に応じて、多様な係数コーディング方式が決定されてよい。なお、エントロピー符号化装置は、同一の係数コーディング方式を使用しても具体的な条件に応じて多様なコンテキストモデルを使用することができる。
【０１６２】
エントロピー符号化装置は、区域フラグ、サブ区域フラグ及び符号化された係数に対するデータを伝送する（Ｓ２４６０）。
【０１６３】
図２５は、本発明の一実施形態に係るエントロピー復号化方法を説明するフローチャートである。図２５を参照すると、エントロピー復号化装置は区域フラグ、サブ区域フラグ、符号化された係数に対するデータを受信する（Ｓ２５１０）。区域フラグ、サブ区域フラグ及び符号化された係数はビットストリームで受信されてよい。
【０１６４】
エントロピー復号化装置は、受信された区域フラグ及び受信されたサブ区域フラグを復号化する（Ｓ２５２０）。エントロピー復号化装置は、区域フラグを先に復号化してからサブ区域フラグを復号化することができ、サブ区域フラグを先に復号化してから区域フラグを復号化することができる。なお、上述のように、最後の区域または１区域内の最後のサブ区域に対するフラグは、以前情報に基づいて抽出されてよい。
【０１６５】
一実施形態として、次のような順番で区域フラグ及びサブ区域フラグが復号化されてよい。図２１（ａ）で示す形態で変換単位が分割されていると仮定する。エントロピー復号化装置は、サブブロックのサイズが４×４より大きい場合、第０区域（ｚ０）のフラグを復号化することができる。そして、第０区域（ｚ０）のフラグが０でなければ、第１区域（ｚ１）のフラグを復号化することができる。エントロピー復号化装置は、第１区域フラグ（ｚ１）が０でなければ、第２区域（ｚ２）のフラグを１であると判断することができる。
【０１６６】
エントロピー復号化装置は、第０区域（ｚ０）のフラグが１であると第０サブ区域のフラグを１であると判断することができる。第０区域（ｚ０）のフラグが１ではなく第１区域（ｚ１）のフラグが１である場合、第０サブ区域、第３サブ区域、第２サブ区域及び第１サブ区域のフラグを復号化することができる。または、エントロピー復号化装置は、第０サブ区域、第３サブ区域及び第２サブ区域のフラグを復号化し、第３サブ区域及び第２サブ区域のうち少なくとも一方のサブ区域のフラグが１である場合にのみ、第１サブ区域のフラグを復号化することができる。第３サブ区域及び第２サブ区域のフラグが両方とも０である場合、エントロピー復号化装置は第１サブ区域のフラグを復号化せずに１であると判断することができる。エントロピー復号化装置は、第０区域（ｚ０）及び第１区域（ｚ１）のフラグが両方とも０である場合、全てのサブ区域のフラグを復号化することができる。または、エントロピー復号化装置は、第０区域（ｚ０）及び第１区域（ｚ１）に含まれたサブ区域を復号化することができる。そして、エントロピー復号化装置は、第５サブ区域、第６サブ区域、第７サブ区域及び第８サブ区域のうち少なくとも１サブ区域のフラグが１である場合にのみ第４サブ区域のフラグを復号化することができる。
【０１６７】
エントロピー復号化装置は、復号化された区域フラグ及び復号化されたサブ区域フラグに基づいて予め設定された係数コーディング方式を決定する（Ｓ２５３０）。予め設定された係数コーディング方式は、対応する符号化装置の方式と同一の方式であり、係数コーディング方式に関する情報は、予め保存されてよい。または、係数コーディング方式に関する情報は、データの伝送とともに伝送されてよい。エントロピー復号化装置は、フラグがセッティングされたサブ区域のみに対して復号化を進めることができる。
【０１６８】
一実施形態として、第０区域（ｚ０）のフラグが１であるか、第１ないし第３サブ区域のフラグの和が１以下であれば、第０区域（ｚ０）に含まれた第０サブ区域は第１係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ
Ａ：ＣＣｓＡ）で復号化されてよい。上述の条件が満たされなければ、第０サブ区域は第２係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ Ｂ：ＣＣｓＢ）で復号化されてよい。
【０１６９】
第１区域（ｚ１）のフラグが１であると、第１区域（ｚ１）に含まれた第１ないし第３サブ区域は第３係数コーディング方式（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｃｏｄｉｎｇ  ｓｃｈｅｍｅ
Ｃ：ＣＣｓＣ）で復号化されてよい。上述の条件が満たされなければ、第１ないし第３サブ区域は、第１係数コーディング方式で復号化されてよい。
【０１７０】
残りのサブ区域は、第３係数コーディング方式で復号化されてよい。具体的な係数コーディング方式については後述する。
【０１７１】
エントロピー復号化装置は、決定された係数コーディング方式に基づいて受信された復号化された係数に対するデータを復号化する（Ｓ２５４０）。区域フラグは、変換単位が分割された複数の区域のうち、有効変換係数を含むサブ区域（ｓｕｂ  ｚｏｎｅ）の含まれた最後の区域を示し、サブ区域フラグは、複数の区域それぞれが分割されたサブ区域のうち、有効変換係数を含むサブ区域を表す。
【０１７２】
以下では、具体的な係数コーディング方式について説明する。
【０１７３】
図２６は、本発明の一実施形態に係る第１係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図２６を参照すると、第１係数コーディング方式は最後の位置情報を符号化（または、復号化）する過程を含むことができる（Ｓ２６１０）。最後の位置は、スキャン順に基づいた有効変換係数が存在する最後の位置を意味する。すなわち、最後の位置情報は、最後の有効変換係数の位置情報を意味する。例えば、係数符号化単位はＭ×Ｎであり、最後の位置は（ｌａｓｔＸ、ｌａｓｔＹ）であってよい。係数符号化単位は、サブ区域であってよい。よって、最後の位置情報は、それぞれのサブ区域ごとに含まれてよい。
【０１７４】
最後の位置情報は、順方向に設定された（ｌａｓｔＸ、ｌａｓｔＹ）であってよい。または、最後の位置情報は、少なくとも１つの座標に対して逆方向に設定することができる。すなわち、最後の位置情報は、（Ｍ−１−ｌａｓｔＸ、ｌａｓｔＹ）、（ｌａｓｔＸ、Ｎ−１−ｌａｓｔＹ）及び（Ｍ−１−ｌａｓｔＸ、Ｎ−１−ｌａｓｔＹ）であってよい。最後の位置情報を設定する方向は、区域インデックス、区域フラグ、サブ区域インデックスまたはサブ区域フラグなどに基づいて決定されてよい。一実施形態として、スキャン順が垂直方向の場合、ｌａｓｔＸとｌａｓｔＹとはスワップ（ｓｗａｐ）であってよい。例えば、最後の位置情報を符号化するためのコンテキストは、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、最後の位置情報の設定方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１７５】
第１係数コーディング方式は、有効性フラグ（ＳｉｇＦｌａｇ）を符号化する過程を含むことができる（Ｓ２６２０）。有効性フラグは、各ピクセルの係数が有効変換係数か否かを示すフラグであってよい。最後の有効変換係数の有効性フラグは符号化されなくてよい。例えば、有効性フラグを符号化するためのコンテキストは、係数符号化単位の位置、符号化された周辺有効性フラグ、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、スキャン順、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１７６】
第１係数コーディング方式は、第１臨界値フラグ（ＧＴ１  ｆｌａｇ）を符号化する過程を含むことができる（Ｓ２６３０）。第１臨界値フラグの数は、予め設定された数に制限されてよい。例えば、第１臨界値フラグを符号化するためのコンテキストは、逆方向スキャン順にトレーリング（ｔｒａｉｌｉｎｇ）した１の数、周辺サブ区域内の第１臨界値フラグの数、周辺有効性フラグの数、周辺有効第１臨界値フラグの数、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、最後の位置情報の設定方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１７７】
第１係数コーディング方式は、第２臨界値フラグ（ＧＴ２  ｆｌａｇ）を符号化する過程を含むことができる（Ｓ２６４０）。第２臨界値フラグの数は、予め設定された数に制限されてよい。例えば、第２臨界値フラグを符号化するためのコンテキストは、逆方向スキャン順による周辺有効性フラグの数、有効第１臨界値フラグの数、周辺サブ区域内の第１臨界値フラグの数、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、最後の位置情報の設定方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１７８】
第１係数コーディング方式は、絶対値レベルを符号化する過程を含むことができる（Ｓ２６５０）。第１臨界値フラグ及び第２臨界値フラグの符号化の後でレベル符号化過程が行われてよい。一実施形態として、第１臨界値フラグが有効であって第２臨界値フラグがシグナルされなければ、レベル−２の絶対値レベル符号化が行われてよい。第１臨界値フラグ及び第２臨界値フラグが有効であれば、レベル−３の絶対値レベル符号化が行われてよい。
【０１７９】
第１係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ２６６０）。係数の絶対値を用いる過程が行われるため、負数を表す情報を符号化する過程も行われてよい。一実施形態として、符号情報の符号化は、固定長符号化（ｆｉｘｅｄ  ｌｅｎｇｔｈ  ｃｏｄｉｎｇ）方式で符号化されてよい。
【０１８０】
復号化過程は、符号化過程と同様の手順で行われてよい。
【０１８１】
図２７は、本発明の一実施形態に係る第２係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図２７を参照すると、第２係数コーディング方式は有効性フラグを符号化（または、復号化）する過程を含むことができる（Ｓ２７１０）。最後の有効変換係数の有効性フラグは符号化されなくてよい。係数符号化単位がＭ×Ｎである際、以前のＭ×Ｎ−１係数が全て０であれば、最後の有効変換係数の有効性フラグは１と類推することができる。
【０１８２】
例えば、有効性フラグを符号化するためのコンテキストは、係数符号化単位の位置、符号化された周辺有効性フラグ、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、スキャン順、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１８３】
第２係数コーディング方式は、第１臨界値フラグを符号化する過程を含むことができる（Ｓ２７２０）。第１臨界値フラグの数は、予め設定された数に制限されてよい。例えば、第１臨界値フラグを符号化するためのコンテキストは、逆方向スキャン順にトレーリング（ｔｒａｉｌｉｎｇ）した１の数、周辺サブ区域内の第１臨界値フラグの数、周辺有効性フラグの数、周辺有効第１臨界値フラグの数、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、最後の位置情報の設定方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１８４】
第２係数コーディング方式は、第２臨界値フラグを符号化する過程を含むことができる（Ｓ２７３０）。第２臨界値フラグの数は、予め設定された数に制限されてよい。例えば、第２臨界値フラグを符号化するためのコンテキストは、逆方向スキャン順による周辺有効性フラグの数、有効第１臨界値フラグの数、周辺サブ区域内の第１臨界値フラグの数、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、最後の位置情報の設定方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１８５】
第２係数コーディング方式は、絶対値レベルを符号化する過程を含むことができる（Ｓ２７４０）。第１臨界値フラグ及び第２臨界値フラグの符号化の後でレベル符号化過程が行われてよい。一実施形態として、第１臨界値フラグが有効であって第２臨界値フラグがシグナルされなければ、レベル−２の絶対値レベル符号化が行われてよい。第１臨界値フラグ及び第２臨界値フラグが有効であれば、レベル−３の絶対値レベル符号化が行われてよい。
【０１８６】
第１係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ２７５０）。係数の絶対値を用いる過程が行われるため、負数を表す情報を符号化する過程も行われてよい。一実施形態として、符号情報の符号化は、固定長符号化（ｆｉｘｅｄ  ｌｅｎｇｔｈ  ｃｏｄｉｎｇ）方式で符号化されてよい。
【０１８７】
図２８は、本発明の一実施形態に係る第３係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図２８を参照すると、第３係数コーディング方式はスキャン領域の情報を符号化（または、復号化）する過程を含むことができる（Ｓ２８１０）。スキャン領域は図２３で既に説明している。スキャン領域に関する情報は、変換単位の左側上段を基準に設定した順方向座標情報または変換単位の右側下段を基準に設定した逆方向座標情報で表すことができる。例えば、スキャン領域の情報を符号化するためのコンテキストは、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、順方向または逆方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１８８】
第３係数コーディング方式は、Ｅ１フラグを符号化する過程を含んでよい（Ｓ２８２０）。Ｅ１フラグは、当該ブロック（例えば、サブ区域、係数符号化単位、変換単位の分割されたブロックなど）の全ての変換係数が１であることを示すフラグである。Ｅ１フラグは、全てのブロックに対して設定されなくてよい。すなわち、Ｅ１フラグが設定されていないブロックは０とみなされてよい。例えば、Ｅ１フラグを伝送するための条件は、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、予め符号化されたサブ区域内の第１臨界値フラグの数などに基づいて決定されてよい。そして、Ｅ１フラグを符号化するためのコンテキストは、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、予め符号化されたサブ区域内の第１臨界値フラグの数、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、最後の位置情報の設定方向、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、係数コーディング方式のタイプ、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１８９】
第３係数コーディング方式は、有効性フラグを符号化する過程を含むことができる（Ｓ２８３０）。有効性フラグを符号化する過程は、既に上述しているため、ここでは説明を省略する。
【０１９０】
第３係数コーディング方式は、Ｅ１フラグが０か否かを判断する過程を含むことができる（Ｓ２８４０）。Ｅ１フラグが０である場合、第３係数コーディング方式は、第１臨界値フラグを符号化する過程を含むことができる（Ｓ２８５０）。第３係数コーディング方式は、第２臨界値フラグを符号化する過程を含むことができる（Ｓ２８６０）。第３係数コーディング方式は、絶対値レベル符号化過程を含むことができる（Ｓ２８７０）。第３係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ２８８０）。第１臨界値フラグ、第２臨界値フラグ、絶対値レベル及び符号情報を符号化する過程は既に上述しているため、ここでは説明を省略する。
【０１９１】
第３係数コーディング方式は、スキャン区域を定義して伝送する過程を含み、従来にはなかった新たな過程を含む新たな方式である。
【０１９２】
図２９は、本発明の一実施形態に係る第４係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図２９を参照すると、第４係数コーディング方式は、有効ブロックフラグ（ＳｉｇＣＧｆｌａｇ）を符号化（または、復号化）する過程を含むことができる（Ｓ２９１０）。一実施形態として、係数符号化単位は、Ｍ×Ｎであってよい。係数符号化単位は、複数の係数グループ（ｃｏｅｆｆｉｃｉｅｎｔ  ｇｒｏｕｐ）を含むことができる。係数グループは、任意サイズのブロックか、または一定の係数の数を含むことができる。有効ブロックフラグは、サブブロックに有効変換係数が含まれているか否かを示すフラグであってよい。
【０１９３】
第４係数コーディング方式は、有効ブロックフラグが１であるかを判断する過程を含むことができる（Ｓ２９２０）。有効ブロックフラグが１である場合、第４係数コーディング方式は有効性フラグを符号化する過程を含むことができる（Ｓ２９３０）。第４係数コーディング方式は、第１臨界値フラグを符号化する過程を含むことができる（Ｓ２９４０）。第４係数コーディング方式は、第２臨界値フラグを符号化する過程を含むことができる（Ｓ２９５０）。第４係数コーディング方式は、絶対値レベル符号化する過程を含むことができる（Ｓ２９６０）。第４係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ２９７０）。各過程は、上述の過程と同様であるため、ここでは説明を省略する。
【０１９４】
図３０は、本発明の一実施形態に係る第５係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図３０を参照すると、第５係数コーディング方式は、最後の位置情報を符号化（または、復号化）する過程を含むことができる（Ｓ３０１０）。第５係数コーディング方式は、有効ブロックフラグ（ＳｉｇＣＧｆｌａｇ）を符号化する過程を含むことができる（Ｓ３０２０）。第５係数コーディング方式は、有効ブロックフラグが１であるかを判断する過程を含むことができる（Ｓ３０３０）。有効ブロックフラグが１である場合、第５係数コーディング方式は有効性フラグを符号化する過程を含むことができる（Ｓ３０４０）。第５係数コーディング方式は、第１臨界値フラグを符号化する過程を含むことができる（Ｓ３０５０）。第５係数コーディング方式は、第２臨界値フラグを符号化する過程を含むことができる（Ｓ３０６０）。第５係数コーディング方式は、絶対値レベルを符号化する過程を含むことができる（Ｓ３０７０）。第５係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ３０８０）。各過程は、上述の過程と同様であるため、ここでは説明を省略する。
【０１９５】
図３１は、本発明の一実施形態に係る第６係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図３１を参照すると、第６係数コーディング方式は、有効ブロックフラグ（ＳｉｇＣＧｆｌａｇ）を符号化（または、復号化）する過程を含むことができる（Ｓ３１１０）。第６係数コーディング方式は、有効ブロックフラグが１であるかを判断する過程を含むことができる（Ｓ３１２０）。有効ブロックフラグが１である場合、第６係数コーディング方式は最後の位置情報を符号化する過程を含むことができる（Ｓ３１３０）。第６係数コーディング方式は、有効性フラグを符号化する過程を含むことができる（Ｓ３１４０）。第６係数コーディング方式は、第１臨界値フラグを符号化する過程を含むことができる（Ｓ３１５０）。第６係数コーディング方式は、第２臨界値フラグを符号化する過程を含むことができる（Ｓ３１６０）。第６係数コーディング方式は、絶対値レベルを符号化する過程を含むことができる（Ｓ３１７０）。第６係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ３１８０）。各過程は、上述の過程と同様であるため、ここでは説明を省略する。
【０１９６】
図３２は、本発明の一実施形態に係る第７係数コーディング方式に基づいたエントロピー符号化及び復号化する過程を説明するフローチャートである。図３２を参照すると、第７係数コーディング方式は、有効ブロックフラグ（ＳｉｇＣＧｆｌａｇ）を符号化（または、復号化）する過程を含むことができる（Ｓ３２１０）。第７係数コーディング方式は、有効ブロックフラグが１であるかを判断する過程を含むことができる（Ｓ３２２０）。
【０１９７】
有効ブロックフラグが１である場合、第７係数コーディング方式は、ｌａｓｔＲｕｎ情報を符号化する過程を含むことができる（Ｓ３２３０）。ｌａｓｔＲｕｎ情報は、スキャン順上において最後の有効変換係数位置情報であってよい。
【０１９８】
例えば、係数符号化単位は４×４であってよい。スキャンは、順方向に進められてよい。すなわち、スキャンは、左から右、上から下方向の順で進めらてよい。スキャンは、第１行左から第１位置、第２位置、第３位置、第４位置の順で進められてよい。そして、第１行のスキャンが終了すると、第２行左の第１位置から第４位置方向に進められてよい。もし、第３行の第２位置が最後の有効変換係数位置なら、ｌａｓｔＲｕｎは１０であってよい。または、スキャンは、逆方向に進められてよい。すなわち、スキャンは、第４行の第４位置から、第３位置、第２位置、第１位置の順で進められてよい。そして、第４行のスキャンが終了すると、第３行右の第４位置から第１位置方向に進められてよい。第３行の第２位置が最後の有効変換係数位置である場合、ｌａｓｔＲｕｎは７であってよい。ｌａｓｔＲｕｎを設定する方向は、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグなどに基づいて決定されてよい。例えば、ｌａｓｔＲｕｎを符号化するためのコンテキストは、区域インデックス、区域フラグ、サブ区域インデックス、サブ区域フラグ、係数符号化単位サイズ、変換単位サイズ、符号化単位サイズ、順方向または逆方向有無、変換スキップ有無、符号化されたブロックタイプ（例えば、イントラ／インター符号化単位）、コンポーネントタイプ（例えば、ルマ／クロマ）、予測情報（例えば、パーティションモード、予測モード）などに基づいて決定されてよい。
【０１９９】
第７係数コーディング方式は、有効性フラグを符号化する過程を含むことができる（Ｓ３２４０）。第７係数コーディング方式は、第１臨界値フラグを符号化する過程を含むことができる（Ｓ３２５０）。第７係数コーディング方式は、第２臨界値フラグを符号化する過程を含むことができる（Ｓ３２６０）。第７係数コーディング方式は、絶対値レベルを符号化する過程を含むことができる（Ｓ３２７０）。第７係数コーディング方式は、符号（ｓｉｇｎ）情報を符号化する過程を含むことができる（Ｓ３２８０）。各過程は、上述の過程と同様であるため、ここでは説明を省略する。
【０２００】
図３３は、最後の係数位置をコーディングするためのコンテキストモデルを決定する一実施形態を説明する図である。
【０２０１】
エントロピー符号化装置は、複数のコンテキストセットのうち、１つを示すコンテキストセットインデックス及びオフセットを獲得することができる。そして、コンテキストセットインデックス及びオフセットに基づいて適用するコンテキストモデルを示すコンテキストインデックス（ｃｔｄＩｄｘ）を決定することができる。
【０２０２】
図３３を参照すると、Ｚｆｌａｇは区域フラグを意味することができる。そして、Ｉｎｖｅｒｓｅはスキャン方向が正方向か逆方向かを意味することができる。そして、１６×１６は、サブブロックのサイズであってよい。サブブロックは、サブ区域、係数符号化単位または変換単位の分割ブロックであってよい。各条件に対応する最後の係数位置を符号化するためのコンテキストモデルが決定されてよい。
【０２０３】
図３４は、スキャン領域をコーディングするためのコンテキストモデルを決定する一実施形態を説明する図である。図３４を参照すると、Ｉｎｖｅｒｓｅはスキャン方向が正方向か逆方向かを意味することができる。そして、１６×１６は、サブブロックのサイズであってよい。各条件に対応するスキャン領域を符号化するためのコンテキストモデルが決定されてよい。
【０２０４】
図３５は、有効性フラグ（ｓｉｇｎｉｆｉｃａｎｔ  ｆｌａｇ）をコーディングするためのコンテキストモデルを決定する一実施形態を説明する図であり、図３６は、レベルコーディングのためのコンテキストモデルを決定する一実施形態を説明する図である。
【０２０５】
上述のように、有効性フラグを符号化するための各条件に対応するコンテキストモデルまたはレベル符号化のための各条件に対応するコンテキストモデルが決定されてよい。
【０２０６】
上述の多様な実施形態に係るエントロピー符号化方法及びエントロピー復号化方法は、プログラムで実現され、プログラムが保存された非一時的な読み取り可能な媒体（ｎｏｎ−ｔｒａｎｓｉｔｏｒｙ  ｃｏｍｐｕｔｅｒ  ｒｅａｄａｂｌｅ  ｍｅｄｉｕｍ）に保存された形態で提供されてよい。
【０２０７】
非一時的な読み取り可能な媒体とは、レジスタやキャッシュ、メモリ等のような短い間データを保存する媒体ではなく、半永久的にデータを保存し、機器によって読み取り（Ｒｅａｄｉｎｇ）が可能な媒体を意味する。具体的には、上述の多様なアプリケーションまたはプログラムは、ＣＤやＤＶＤ、ハードディスク、ブルーレイディスク、ＵＳＢ、メモリカード、ＲＯＭ等のような非一時的な読み取り可能な媒体に保存されて提供されてよい。
【０２０８】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明は以上の実施形態に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的趣旨の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【図１】
2018530211.tif 000003
【図２】
2018530211.tif 000004
【図３】
2018530211.tif 000005
【図４】
2018530211.tif 000006
【図５】
2018530211.tif 000007
【図６】
2018530211.tif 000008
【図７】
2018530211.tif 000009
【図８】
2018530211.tif 000010
【図９】
2018530211.tif 000011
【図１０】
2018530211.tif 000012
【図１１】
2018530211.tif 000013
【図１２】
2018530211.tif 000014
【図１３】
2018530211.tif 000015
【図１４】
2018530211.tif 000016
【図１５】
2018530211.tif 000017
【図１６】
2018530211.tif 000018
【図１７】
2018530211.tif 000019
【図１８】
2018530211.tif 000020
【図１９】
2018530211.tif 000021
【図２０】
2018530211.tif 000022
【図２１（ａ）】
2018530211.tif 000023
【図２１（ｂ）】
2018530211.tif 000024
【図２１（ｃ）】
2018530211.tif 000025
【図２２（ａ）】
2018530211.tif 000026
【図２２（ｂ）】
2018530211.tif 000027
【図２３（ａ）】
2018530211.tif 000028
【図２３（ｂ）】
2018530211.tif 000029
【図２４】
2018530211.tif 000030
【図２５】
2018530211.tif 000031
【図２６】
2018530211.tif 000032
【図２７】
2018530211.tif 000033
【図２８】
2018530211.tif 000034
【図２９】
2018530211.tif 000035
【図３０】
2018530211.tif 000036
【図３１】
2018530211.tif 000037
【図３２】
2018530211.tif 000038
【図３３】
2018530211.tif 000039
【図３４】
2018530211.tif 000040
【図３５】
2018530211.tif 000041
【図３６】
2018530211.tif 000042
【国際調査報告】
2018530211.tif 000043
2018530211.tif 000044
2018530211.tif 000045
2018530211.tif 000046
2018530211.tif 000047
2018530211.tif 000048