(57)【要約】  本発明は、画像符号化方法及び画像復号化方法に関する。このための画像復号化方法は、ビットストリームから現在ブロックの変換係数を取得するステップと、前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンして整列するステップと、を含むことができる。【選択図】図１９
2020529766.tif 000002
【特許請求の範囲】
【請求項１】
画像復号化方法であって、
ビットストリームから現在ブロックの変換係数を取得するステップと、
前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、
前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンして整列するステップと、
を含む画像復号化方法。
【請求項２】
前記現在ブロックの変換係数は、
逆量子化の入力、２次逆変換の入力または１次逆変換の入力のうちのいずれかである、
請求項１に記載の画像復号化方法。
【請求項３】
前記スキャニング順序は、
垂直スキャニング順序、水平スキャニング順序、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング順序、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング順序、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング順序、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング順序、右上側対角スキャニング順序、及び左下側対角スキャニング順序のうちの少なくとも一つを含む、
請求項１に記載の画像復号化方法。
【請求項４】
前記スキャニング単位は、
係数グループ単位、個別係数単位及び混合単位のうちのいずれかに決定される、
請求項１に記載の画像復号化方法。
【請求項５】
前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップは、
前記現在ブロックの周辺ブロックのスキャニング単位及びスキャニング順序のうちの少なくとも一つに基づいて前記現在ブロックのスキャニング単位及びスキャニング順序を決定する、
請求項１に記載の画像復号化方法。
【請求項６】
前記現在ブロックのスキャニング単位が係数グループ単位に決定された場合、
前記係数グループ単位内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループのスキャニング順序に基づいて決定される、
請求項１に記載の画像復号化方法。
【請求項７】
前記現在ブロックのスキャニング順序は、
前記現在ブロックの深さに基づいて決定される、
請求項１に記載の画像復号化方法。
【請求項８】
前記現在ブロックの色差成分のスキャニング単位及びスキャニング順序は、
前記現在ブロックの輝度成分のスキャニング単位及びスキャニング順序に基づいて決定される、
請求項１に記載の画像復号化方法。
【請求項９】
前記決定されたスキャニング順序に基づいて前記現在ブロックの量子化行列のスキャニング順序を誘導する、
請求項１に記載の画像復号化方法。
【請求項１０】
前記整列された変換係数に逆量子化、２次逆変換または１次逆変換のうちの少なくとも一つを行うステップをさらに含む、
請求項１に記載の画像復号化方法。
【請求項１１】
画像符号化方法であって、
現在ブロックの残差ブロックから現在ブロックの変換係数を取得するステップと、
前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、
前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンしてエントロピー符号化するステップと、
を含む画像符号化方法。
【請求項１２】
前記現在ブロックの変換係数は、
１次変換の出力、２次変換の出力または量子化の出力のうちのいずれかである、
請求項１１に記載の画像符号化方法。
【請求項１３】
前記スキャニング順序は、
垂直スキャニング順序、水平スキャニング順序、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング順序、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング順序、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング順序、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング順序、右上側対角スキャニング順序、及び左下側対角スキャニング順序のうちの少なくとも一つを含む、
請求項１１に記載の画像符号化方法。
【請求項１４】
前記スキャニング単位は、
係数グループ単位、個別係数単位及び混合単位のうちのいずれかに決定される、
請求項１１に記載の画像符号化方法。
【請求項１５】
前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップは、
前記現在ブロックの周辺ブロックのスキャニング単位及びスキャニング順序のうちの少なくとも一つに基づいて前記現在ブロックのスキャニング単位及びスキャニング順序を決定する、
請求項１１に記載の画像符号化方法。
【請求項１６】
前記現在ブロックのスキャニング単位が係数グループ単位に決定された場合、
前記係数グループ単位内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループのスキャニング順序に基づいて決定される、
請求項１１に記載の画像符号化方法。
【請求項１７】
前記現在ブロックのスキャニング順序は、
前記現在ブロックの深さに基づいて決定される、
請求項１１に記載の画像符号化方法。
【請求項１８】
前記現在ブロックの色差成分のスキャニング単位及びスキャニング順序は、
前記現在ブロックの輝度成分のスキャニング単位及びスキャニング順序に基づいて決定される、
請求項１１に記載の画像符号化方法。
【請求項１９】
前記決定されたスキャニング順序に基づいて前記現在ブロックの量子化行列のスキャニング順序を誘導する、
請求項１１に記載の画像符号化方法。
【請求項２０】
記録媒体であって、
現在ブロックの残差ブロックから現在ブロックの変換係数を取得するステップと、
前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、
前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンしてエントロピー符号化するステップと、
を含む符号化方法で生成されたビットストリームを保存する、
記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像符号化／復号化方法、装置、及びビットストリームを保存した記録媒体に関する。具体的には、本発明は、変換係数のスキャニング方法を適応的に決定することができる画像符号化／復号化方法及び装置に関する。
【背景技術】
【０００２】
最近、高解像度、高品質の画像、例えばＨＤ（Ｈｉｇｈ  Ｄｅｆｉｎｉｔｉｏｎ）画像及びＵＨＤ（Ｕｌｔｒａ  Ｈｉｇｈ  Ｄｅｆｉｎｉｔｉｏｎ）画像への需要が多様な応用分野で増加している。画像データが高解像度、高品質になるほど、従来の画像データに比べて相対的にデータ量が増加するので、従来の有線・無線ブロードバンド回線などの媒体を用いて画像データを伝送したり従来の記憶媒体を用いて保存したりする場合には、伝送費用と保存費用が増加することになる。このような画像データの高解像度、高品質化に伴って発生する問題を解決するためには、より高い解像度及び画質を有する画像に対する高効率画像符号化（ｅｎｃｏｄｉｎｇ）／復号化（ｄｅｃｏｄｉｎｇ）技術が求められる。
【０００３】
画像圧縮技術として、現在ピクチャの以前又は以後のピクチャから、現在ピクチャに含まれている画素値を予測する画面間（ｉｎｔｅｒ）予測技術、現在ピクチャ内の画素情報を用いて、現在ピクチャに含まれている画素値を予測する画面内（ｉｎｔｒａ）予測技術、残余信号のエネルギーを圧縮するための変換及び量子化技術、出現頻度の高い値に短い符号を割り当て、出現頻度の低い値に長い符号を割り当てるエントロピー符号化技術などの様々な技術が存在し、これらの画像圧縮技術を利用して画像データを効果的に圧縮して伝送又は保存することができる。
【０００４】
従来の画像符号化／復号化方法及び装置は、１次変換及び２次変換を行うか否かに関係なく、変換係数のスキャニングを行うので、符号化効率の向上に限界がある。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明は、画像の符号化／復号化効率を向上させるために、１次変換及び２次変換のうちの少なくとも一つを行うか否かに応じて変換係数のスキャニングを行う方法及び装置を提供することができる。
【０００６】
本発明は、画像の符号化／復号化効率を向上させるために変換係数のスキャニング方法を適応的に決定することができる画像復号化／符号化方法及び装置を提供することができる。
【課題を解決するための手段】
【０００７】
本発明に係る画像復号化方法は、ビットストリームから現在ブロックの変換係数を取得するステップと、前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンして整列するステップとを含むことができる。
【０００８】
前記画像復号化方法において、前記現在ブロックの変換係数は、逆量子化の入力、２次逆変換の入力または１次逆変換の入力のうちのいずれかであり得る。
【０００９】
前記画像復号化方法において、前記スキャニング順序は、垂直スキャニング順序、水平スキャニング順序、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング順序、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング順序、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング順序、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング順序、右上側対角スキャニング順序、及び左下側対角スキャニング順序のうちの少なくとも一つを含むことができる。
【００１０】
前記画像復号化方法において、前記スキャニング単位は、係数グループ単位、個別係数単位及び混合単位のうちのいずれかに決定できる。
【００１１】
前記画像復号化方法において、前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップは、前記現在ブロックの周辺ブロックのスキャニング単位及びスキャニング順序のうちの少なくとも一つに基づいて前記現在ブロックのスキャニング単位及びスキャニング順序を決定することができる。
【００１２】
前記画像復号化方法において、前記現在ブロックのスキャニング単位が係数グループ単位に決定された場合、前記係数グループ単位内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループのスキャニング順序に基づいて決定できる。
【００１３】
前記画像復号化方法において、前記現在ブロックのスキャニング順序は、前記現在ブロックの深さに基づいて決定できる。
【００１４】
前記画像復号化方法において、前記現在ブロックの色差成分のスキャニング単位及びスキャニング順序は、前記現在ブロックの輝度成分のスキャニング単位及びスキャニング順序に基づいて決定できる。
【００１５】
前記画像復号化方法において、前記決定されたスキャニング順序に基づいて前記現在ブロックの量子化行列のスキャニング順序を誘導することができる。
【００１６】
前記画像復号化方法において、前記整列された変換係数に逆量子化、２次逆変換または１次逆変換のうちの少なくとも一つを行うステップをさらに含むことができる。
【００１７】
一方、本発明に係る画像符号化方法は、現在ブロックの残差ブロックから現在ブロックの変換係数を取得するステップと、前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンしてエントロピー符号化するステップとを含むことができる。
【００１８】
前記画像符号化方法において、前記現在ブロックの変換係数は、１次変換の出力、２次変換の出力または量子化の出力のうちのいずれかであり得る。
【００１９】
前記画像符号化方法において、前記スキャニング順序は、垂直スキャニング順序、水平スキャニング順序、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング順序、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング順序、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング順序、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング順序、右上側対角スキャニング順序、及び左下側対角スキャニング順序のうちの少なくとも一つを含むことができる。
【００２０】
前記画像符号化方法において、前記スキャニング単位は、係数グループ単位、個別係数単位及び混合単位のうちのいずれかに決定できる。
【００２１】
前記画像符号化方法において、前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップは、前記現在ブロックの周辺ブロックのスキャニング単位及びスキャニング順序のうちの少なくとも一つに基づいて前記現在ブロックのスキャニング単位及びスキャニング順序を決定することができる。
【００２２】
前記画像符号化方法において、前記現在ブロックのスキャニング単位が係数グループ単位に決定された場合、前記係数グループ単位内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループのスキャニング順序に基づいて決定できる。
【００２３】
前記画像符号化方法において、前記現在ブロックのスキャニング順序は、前記現在ブロックの深さに基づいて決定できる。
【００２４】
前記画像符号化方法において、前記現在ブロックの色差成分のスキャニング単位及びスキャニング順序は、前記現在ブロックの輝度成分のスキャニング単位及びスキャニング順序に基づいて決定できる。
【００２５】
前記画像符号化方法において、前記決定されたスキャニング順序に基づいて前記現在ブロックの量子化行列のスキャニング順序を誘導することができる。
【００２６】
一方、本発明に係る記録媒体は、現在ブロックの残差ブロックから現在ブロックの変換係数を取得するステップと、前記現在ブロックのスキャニング単位及びスキャニング順序を決定するステップと、前記決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンしてエントロピー符号化するステップとを含む符号化方法で生成されたビットストリームを保存することができる。
【発明の効果】
【００２７】
本発明によれば、画像の符号化／復号化効率を向上させるために、１次変換及び２次変換のうちの少なくとも一つを行うか否かに応じて、変換係数のスキャニングを行う方法及び装置が提供できる。
【００２８】
本発明によれば、変換係数のスキャニング方法を適応的に決定することができる画像符号化／復号化方法及び装置が提供できる。
【００２９】
本発明によれば、画像の符号化及び復号化効率を向上させることができる。
【００３０】
本発明によれば、画像の符号化器及び復号化器の計算複雑さを減少させることができる。
【図面の簡単な説明】
【００３１】
【図１】本発明が適用される符号化装置の一実施形態に係る構成を示すブロック図
【図２】本発明が適用される復号化装置の一実施形態に係る構成を示すブロック図
【図３】画像を符号化及び復号化するときの画像の分割構造を概略的に示す図
【図４】画面内予測モードによる変換セットを説明するための図
【図５】変換及び量子化の過程を説明するための図
【図６】量子化された変換係数のスキャニングを説明するための図
【図７】本発明の一実施形態に係るスキャニング単位を説明するための図
【図８】本発明の一実施形態に係るスキャニング単位を説明するための図
【図９】本発明の一実施形態に係るスキャニング単位を説明するための図
【図１０】本発明の一実施形態に係る第１混合対角スキャニング順序及び第２混合対角スキャニング順序を説明するための図
【図１１】係数グループ単位のスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングとの関係を説明するための図
【図１２】係数グループ単位のスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングとの関係を説明するための図
【図１３】係数グループ単位のスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングとの関係を説明するための図
【図１４】現在ブロックの形態に基づいてスキャニング順序を決定する実施形態を説明するための図
【図１５】変換が行われる領域に基づいてスキャニング順序を決定する実施形態を説明するための図
【図１６】変換が行われる領域に基づいてスキャニング順序を決定する実施形態を説明するための図
【図１７】変換が行われる領域に基づいてスキャニング順序を決定する実施形態を説明するための図
【図１８】変換が行われる領域に基づいてスキャニング順序を決定する実施形態を説明するための図
【図１９】本発明の一実施形態による画像復号化方法を説明するためのフロー図
【図２０】本発明の一実施形態による画像符号化方法を説明するためのフロー図
【発明を実施するための形態】
【００３２】
本発明は、様々な変更を加えることができ、様々な実施形態を有することができるので、特定の実施形態を図面に例示し、詳細な説明に詳細に説明する。ところが、これは、本発明を特定の実施形態について限定するものではなく、本発明の思想及び技術範囲に含まれるすべての変更、均等物ないし代替物を含むものと理解されるべきである。図面において類似する参照符号は、様々な側面にわたって同一又は類似の機能を指し示す。図面における要素の形状及び大きさなどは、より明確な説明のために誇張することがある。後述する例示的な実施形態についての詳細な説明は、特定の実施形態を例示として示す添付図面を参照する。これらの実施形態は、当業者が実施形態を実施し得る程度に十分に詳細に説明される。様々な実施形態は、互いに異なるが、相互に排他的である必要はないことが理解されるべきである。例えば、ここに記載されている特定の形状、構造及び特性は、一実施形態に関連して本発明の精神及び範囲を逸脱することなく、様々な実施形態に実現できる。また、それぞれの開示された実施形態内の個別構成要素の位置又は配置は、実施形態の精神及び範囲を逸脱することなく変更可能であることが理解されるべきである。したがって、後述する詳細な説明は、限定的な意味として取るものではなく、例示的な実施形態の範囲は、適切に説明されるならば、それらの請求項が主張するのと均等なすべての範囲及び添付の請求項によってのみ限定される。
【００３３】
本発明において、用語「第１」、「第２」などは多様な構成要素の説明に使用できるが、これらの構成要素は上記の用語によって限定されてはならない。これらの用語は、一つの構成要素を他の構成要素から区別する目的にのみ使われる。例えば、本発明の権利範囲を外れない限り、第１構成要素は第２構成要素と命名することができ、同様に、第２構成要素も第１構成要素と命名することができる。用語「及び／又は」は、複数の関連した記載項目の組み合わせ又は複数の関連した記載項目のいずれかを含む。
【００３４】
本発明のある構成要素が他の構成要素に「連結されて」いる或いは「接続されて」いるとした場合には、その他の構成要素に直接連結されている或いは接続されていることもあるが、それらの間に別の構成要素が介在することもあると理解されるべきである。これに対し、ある構成要素が他の構成要素に「直接連結されて」いる或いは「直接接続されて」いるとした場合には、それらの間に別の構成要素が介在しないと理解されるべきである。
【００３５】
本発明の実施形態に示される構成部は、互いに異なる特徴的な機能を示すために独立に図示されるもので、各構成部が分離されたハードウェア又は一つのソフトウェア構成単位からなることを意味しない。すなわち、各構成部は、説明の便宜上、それぞれの構成部に羅列して含むもので、各構成部のうちの少なくとも２つの構成部が合わせられて一つの構成部をなすか、或いは一つの各構成部が複数の構成部に分けられて機能を行うことができ、このような各構成部の統合された実施形態及び分離された実施形態も、本発明の本質から外れない限り、本発明の権利範囲に含まれる。
【００３６】
本発明で使用した用語は、単に特定の実施形態を説明するために使われたものであり、本発明を限定するものではない。単数の表現は、文脈上明白に異なる意味ではない限り、複数の表現を含む。本発明において、「含む」又は「有する」などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品又はこれらの組み合わせが存在することを指定するものであり、一つ又はそれ以上の他の特徴、数字、ステップ、動作、構成要素、部品又はこれらの組み合わせの存在又は付加可能性を予め排除しないと理解されるべきである。つまり、本発明において、特定の構成を「含む」と記述する内容は、該当構成以外の構成を排除するものではなく、追加の構成が本発明の実施又は本発明の技術的思想の範囲に含まれ得ることを意味する。
【００３７】
本発明の一部の構成要素は、本発明において本質的な機能を行う不可欠の構成要素ではなく、単に性能を向上させるための選択的構成要素であり得る。本発明は、単に性能向上のために使用される構成要素を除く、本発明の本質の実現に必要不可欠な構成部のみを含んで実現でき、単に性能向上のために使用される選択的構成要素を除く必須構成要素のみを含む構造も本発明の権利範囲に含まれる。
【００３８】
以下、図面を参照して、本発明の実施形態について具体的に説明する。本明細書の実施形態を説明するにあたり、関連した公知の構成又は機能についての具体的な説明が本明細書の要旨を曖昧にするおそれがあると判断された場合、その詳細な説明は省略し、図面上の同一の構成要素については同一の参照符号を使用し、同一の構成要素についての重複説明は省略する。
【００３９】
以下において、画像は、動画像（ｖｉｄｅｏ）を構成する１つのピクチャ（ｐｉｃｔｕｒｅ）を意味することもあり、動画像自体を意味することもある。例えば、「画像の符号化及び／又は復号化」は、「動画像の符号化及び／又は復号化」を意味することもあり、「動画像を構成する画像のうちのいずれかの画像の符号化及び／又は復号化」を意味することもある。
【００４０】
以下において、用語「動画像」及び「ビデオ」は、同じ意味で使用されることもあり、入れ替わって使用されることもある。
【００４１】
以下において、対象画像は、符号化の対象である符号化対象画像、及び／又は復号化の対象である復号化対象画像であり得る。また、対象画像は、符号化装置に入力された入力画像であってもよく、復号化装置に入力された入力画像であってもよい。ここで、対象画像は、現在の画像と同じ意味を持つことができる。
【００４２】
以下において、用語「画像」、「ピクチャ」、「フレーム（ｆｒａｍｅ）」及び「スクリーン（ｓｃｒｅｅｎ）」は、同じ意味で使用されることもあり、入れ替わって使用されることもある。
【００４３】
以下において、対象ブロックは、符号化の対象である符号化対象ブロック、及び／又は復号化の対象である復号化対象ブロックであり得る。また、対象ブロックは、現在符号化及び／又は復号化の対象である現在ブロックであってもよい。例えば、用語「対象ブロック」及び「現在ブロック」は、同じ意味で使用されることもあり、入れ替わって使用されることもある。
【００４４】
以下において、用語「ブロック」及び「ユニット」は、同じ意味で使用されることもあり、入れ替わって使用されることもある。又は、「ブロック」は特定のユニットを示すことができる。
【００４５】
以下において、用語「領域（ｒｅｇｉｏｎ）」及び「セグメント（ｓｅｇｍｅｎｔ）」は、入れ替わって使用されることもある。
【００４６】
以下において、特定の信号は、特定のブロックを示す信号であり得る。例えば、原（ｏｒｉｇｉｎａｌ）信号は、対象ブロックを示す信号であり得る。予測（ｐｒｅｄｉｃｔｉｏｎ）信号は、予測ブロックを示す信号であり得る。残余（ｒｅｓｉｄｕａｌ）信号は、残余ブロック（ｒｅｓｉｄｕａｌ  ｂｌｏｃｋ）を示す信号であり得る。
【００４７】
実施形態において、特定の情報、データ、フラグ（ｆｌａｇ）、インデックス（ｉｎｄｅｘ）及び要素（ｅｌｅｍｅｎｔ）、属性（ａｔｔｒｉｂｕｔｅ）などのそれぞれは、値を持つことができる。情報、データ、フラグ、インデックス及び要素、属性などの値「０」は、論理偽（ｌｏｇｉｃａｌ  ｆａｌｓｅ）又は第１の予め定義された（ｐｒｅｄｅｆｉｎｅｄ）値を示すことができる。いわば、値「０」、偽、論理偽及び第１の予め定義された値は、入れ替わって使用されることもある。情報、データ、フラグ、インデックス及び要素、属性などの値「１」は、論理真（ｌｏｇｉｃａｌ  ｔｒｕｅ）又は第２の予め定義された値を示すことができる。いわば、値「１」、真、論理真及び第２の予め定義された値は、入れ替わって使用されることもある。
【００４８】
行、列、又はインデックス（ｉｎｄｅｘ）を示すためにｉ又はｊなどの変数が使用されるとき、ｉの値は０以上の整数であってもよく、１以上の整数であってもよい。いわば、実施形態において、行、列、及びインデックスは０からカウントされることもあり、１からカウントされることもある。
【００４９】
＜用語説明＞
符号化器（Ｅｎｃｏｄｅｒ）：符号化（Ｅｎｃｏｄｉｎｇ）を行う装置を意味する。すなわち、符号化装置を意味することができる。
【００５０】
復号化器（Ｄｅｃｏｄｅｒ）：復号化（Ｄｅｃｏｄｎｇ）を行う装置を意味する。すなわち、復号化装置を意味することができる。
【００５１】
ブロック（Ｂｌｏｃｋ）：サンプル（Ｓａｍｐｌｅ）のＭ×Ｎ配列である。ここで、ＭとＮは正の整数値を意味することができ、ブロックは一般に２次元形状のサンプル配列を意味することができる。ブロックはユニットを意味することができる。現在ブロックは、符号化時に符号化の対象となる符号化対象ブロック、復号化時に復号化の対象となる復号化対象ブロックを意味することができる。また、現在ブロックは符号化ブロック、予測ブロック、残予ブロック及び変換ブロックのうちの少なくとも一つであり得る。
【００５２】
サンプル（Ｓａｍｐｌｅ）：ブロックを構成する基本単位である。ビット深度（ｂｉｔ  ｄｅｐｔｈ、Ｂｄ）に応じて０から２Ｂｄ−１までの値で表現できる。本発明において、サンプルは画素又はピクセルと同じ意味で使用できる。すなわち、サンプル、画素、ピクセルは互いに同じ意味を持つことができる。
【００５３】
ユニット（Ｕｎｉｔ）：画像符号化及び復号化の単位を意味することができる。画像の符号化及び復号化において、ユニットは、一つの画像を分割した領域であり得る。また、ユニットは、一つの画像を細分化されたユニットに分割して符号化或いは復号化するとき、その分割された単位を意味することができる。すなわち、一つの画像は複数のユニットに分割できる。画像の符号化及び復号化において、ユニット別に、予め定義された処理が行われ得る。一つのユニットは、ユニットに比べてより小さい大きさを持つサブユニットにさらに分割できる。機能に応じて、ユニットは、ブロック（Ｂｌｏｃｋ）、マクロブロック（Ｍａｃｒｏｂｌｏｃｋ）、符号化ツリーユニット（Ｃｏｄｉｎｇ  Ｔｒｅｅ  Ｕｎｉｔ）、符号化ツリーブロック（Ｃｏｄｉｎｇ  Ｔｒｅｅ  Ｂｌｏｃｋ）、符号化ユニット（Ｃｏｄｉｎｇ  Ｕｎｉｔ）、符号化ブロック（Ｃｏｄｉｎｇ  Ｂｌｏｃｋ）、予測ユニット（Ｐｒｅｄｉｃｔｉｏｎ  Ｕｎｉｔ）、予測ブロック（Ｐｒｅｄｉｃｔｉｏｎ  Ｂｌｏｃｋ）、残予ユニット（Ｒｅｓｉｄｕａｌ  Ｕｎｉｔ）、残予ブロック（Ｒｅｓｉｄｕａｌ  Ｂｌｏｃｋ）、変換ユニット（Ｔｒａｎｓｆｏｒｍ  Ｕｎｉｔ）、変換ブロック（Ｔｒａｎｓｆｏｒｍ  Ｂｌｏｃｋ）などを意味することができる。また、ユニットは、ブロックと区分して指し示すために、輝度（Ｌｕｍａ）成分ブロック、それに対応する色差（Ｃｈｒｏｍａ）成分ブロック、及び各ブロックに対する構文要素を含むことを意味することができる。ユニットは、様々なサイズと形状を持つことができ、特に、ユニットの形状は、正方形だけでなく、長方形、台形、三角形、五角形など、２次元的に表現できる幾何学的図形を含むことができる。また、ユニット情報は、符号化ユニット、予測ユニット、残予ユニット、変換ユニットなどを指し示すユニットのタイプ、ユニットの大きさ、ユニットの深さ、ユニットの符号化及び復号化順序などのうちの少なくとも一つを含むことができる。
【００５４】
符号化ツリーユニット（Ｃｏｄｉｎｇ  Ｔｒｅｅ  Ｕｎｉｔ）：一つの輝度成分（Ｙ）符号化ツリーブロックに関連した２つの色差成分（Ｃｂ，Ｃｒ）符号化ツリーブロックから構成される。また、前記ブロックと各ブロックに対する構文要素を含むことを意味することもできる。各符号化ツリーユニットは、符号化ユニット、予測ユニット、変換ユニットなどのサブユニットを構成するために、四分木（ｑｕａｄ  ｔｒｅｅ）、二分木（ｂｉｎａｒｙ  ｔｒｅｅ）、三分木（ｔｅｒｎａｒｙ  ｔｒｅｅ）などの一つ以上の分割方式を用いて分割できる。入力画像の分割の如く画像の復号化／符号化過程で処理単位となるサンプルブロックを指し示すための用語として使用できる。ここで、四分木は、４分割ツリー（ｑｕａｒｔｅｒｎａｒｙ  ｔｒｅｅ）を意味することができる。
【００５５】
符号化ツリーブロック（Ｃｏｄｉｎｇ  Ｔｒｅｅ  Ｂｌｏｃｋ）：Ｙ符号化ツリーブロック、Ｃｂ符号化ツリーブロック及びＣｒ符号化ツリーブロックのうちのいずれかを示すための用語として使用できる。
【００５６】
周辺ブロック（Ｎｅｉｇｈｂｏｒ  ｂｌｏｃｋ）：現在ブロックに隣接するブロックを意味することができる。現在ブロックに隣接するブロックは、現在ブロックと境界が接しているブロック、又は現在ブロックから所定の距離内に位置するブロックを意味することができる。周辺ブロックは、現在ブロックの頂点に隣接するブロックを意味することができる。ここで、現在ブロックの頂点に隣接するブロックとは、現在ブロックの横に隣接する隣接ブロックと縦に隣接するブロック、又は現在ブロックの縦に隣接する隣接ブロックと横に隣接するブロックであり得る。周辺ブロックは、復元された周辺ブロックを意味することもある。
【００５７】
復元された周辺ブロック（Ｒｅｃｏｎｓｔｒｕｃｔｅｄ  Ｎｅｉｇｈｂｏｒ  Ｂｌｏｃｋ）：現在ブロックの周辺に空間的（Ｓｐａｔｉａｌ）／時間的（Ｔｅｍｐｏｒａｌ）に既に符号化或いは復号化された周辺ブロックを意味することができる。このとき、復元された周辺ブロックは、復元された周辺ユニットを意味することができる。復元された空間的周辺ブロックは、現在ピクチャ内のブロックでありながら符号化及び／又は復号化を介して既に復元されたブロックであり得る。復元された時間的周辺ブロックは、参照画像内で現在ピクチャの現在ブロックと対応する位置の復元されたブロック又はその周辺ブロックであり得る。
【００５８】
ユニット深さ（Ｄｅｐｔｈ）：ユニットが分割された程度を意味することができる。ツリー構造（Ｔｒｅｅ  Ｓｔｒｕｃｔｕｒｅ）における最上位ノード（Ｒｏｏｔ  Ｎｏｄｅ）は、分割されていない最初のユニットに対応することができる。最上位ノードは、ルートノードと呼ばれることもある。また、最上位ノードは、最小の深さ値を持つことができる。このとき、最上位ノードは、レベル（Ｌｅｖｅｌ）０の深さを持つことができる。レベル１の深さを持つノードは、最初のユニットが一度分割されることにより生成されたユニットを示すことができる。レベル２の深さを持つノードは、最初のユニットが二回分割されることにより生成されたユニットを示すことができる。レベルｎの深さを持つノードは、最初のユニットがｎ回分割されることにより生成されたユニットを示すことができる。リーフノード（Ｌｅａｆ  Ｎｏｄｅ）は、最下位ノードであり、それ以上分割できないノードであり得る。リーフノードの深さは最大レベルであり得る。例えば、最大レベルの予め定義された値は３であり得る。ルートノードは深さが最も浅く、リーフノードは深さが最も深いといえる。また、ユニットをツリー構造で表現したとき、ユニットが存在するレベルがユニット深さを意味することができる。
【００５９】
ビットストリーム（Ｂｉｔｓｔｒｅａｍ）：符号化された画像情報を含むビットの列を意味することができる。
【００６０】
パラメータセット（Ｐａｒａｍｅｔｅｒ  Ｓｅｔ）：ビットストリーム内の構造のうちのヘッダー（ｈｅａｄｅｒ）情報に該当する。ビデオパラメータセット（ｖｉｄｅｏ  ｐａｒａｍｅｔｅｒ  ｓｅｔ）、シーケンスパラメータセット（ｓｅｑｕｅｎｃｅ  ｐａｒａｍｅｔｅｒ  ｓｅｔ）、ピクチャパラメータセット（ｐｉｃｔｕｒｅ  ｐａｒａｍｅｔｅｒ  ｓｅｔ）及び適応パラメータセット（ａｄａｐｔａｔｉｏｎ  ｐａｒａｍｅｔｅｒ  ｓｅｔ）のうちの少なくとも一つがパラメータセットに含まれ得る。また、パラメータセットはスライス（ｓｌｉｃｅ）ヘッダー及びタイル（ｔｉｌｅ）ヘッダー情報を含むこともできる。
【００６１】
パーシング（Ｐａｒｓｉｎｇ）：ビットストリームをエントロピー復号化して構文要素（Ｓｙｎｔａｘ  Ｅｌｅｍｅｎｔ）の値を決定することを意味するか、或いはエントロピー復号化自体を意味することができる。
【００６２】
シンボル（Ｓｙｍｂｏｌ）：符号化／復号化対象ユニットの構文要素、符号化パラメータ（ｃｏｄｉｎｇ  ｐａｒａｍｅｔｅｒ）、変換係数（Ｔｒａｎｓｆｏｒｍ  Ｃｏｅｆｆｉｃｉｅｎｔ）の値などのうちの少なくとも一つを意味することができる。また、シンボルは、エントロピー符号化の対象或いはエントロピー復号化の結果を意味することができる。
【００６３】
予測モード（Ｐｒｅｄｉｃｔｉｏｎ  Ｍｏｄｅ）：画面内予測で符号化／復号化されるモード、又は画面間予測で符号化／復号化されるモードを指し示す情報であり得る。
【００６４】
予測ユニット（Ｐｒｅｄｉｃｔｉｏｎ  Ｕｎｉｔ）：画面間予測、画面内予測、画面間補償、画面内補償、動き補償など、予測を行うときの基本単位を意味することができる。一つの予測ユニットは、より小さいサイズを有する複数のパーティション（Ｐａｒｔｉｔｉｏｎ）又は複数のサブ予測ユニットに分割されてもよい。複数のパーティションも予測又は補償の実行における基本単位であり得る。予測ユニットの分割によって生成されたパーティションも予測ユニットであり得る。
【００６５】
予測ユニットパーティション（Ｐｒｅｄｉｃｔｉｏｎ  Ｕｎｉｔ  Ｐａｒｔｉｔｉｏｎ）：予測ユニットが分割された形態を意味することができる。
【００６６】
参照画像リスト（Ｒｅｆｅｒｅｎｃｅ  Ｐｉｃｔｕｒｅ  Ｌｉｓｔ）：画面間予測或いは動き補償に使用される一つ以上の参照画像を含むリストを意味することができる。参照画像リストの種類は、ＬＣ（Ｌｉｓｔ  Ｃｏｍｂｉｎｅｄ）、Ｌ０（Ｌｉｓｔ  ０）、Ｌ１（Ｌｉｓｔ  １）、Ｌ２（Ｌｉｓｔ  ２）、Ｌ３（Ｌｉｓｔ  ３）などが挙げられる。画面間予測には、一つ以上の参照画像リストが使用できる。
【００６７】
画面間予測インジケータ（Ｉｎｔｅｒ  Ｐｒｅｄｉｃｔｉｏｎ  Ｉｎｄｉｃａｔｏｒ）：現在ブロックの画面間予測方向（一方向予測、双方向予測など）を意味することができる。又は、現在ブロックの予測ブロックを生成するときに使用される参照画像の個数を意味することができる。又は、現在ブロックに対して画面間予測或いは動き補償を行うときに使用される予測ブロックの個数を意味することができる。
【００６８】
予測リスト活用フラグ（ｐｒｅｄｉｃｔｉｏｎ  ｌｉｓｔ  ｕｔｉｌｉｚａｔｉｏｎ  ｆｌａｇ）：特定の参照画像リスト内の少なくとも一つの参照画像を用いて予測ブロックを生成するか否かを示す。予測リスト活用フラグを用いて画面間予測インジケータを導出することができ、逆に画面間予測インジケータを用いて予測リスト活用フラグを導出することができる。例えば、予測リスト活用フラグが第１の値「０」を指示する場合には、当該参照画像リスト内の参照画像を用いて予測ブロックを生成しないことを示すことができ、第２の値「１」を指示する場合には、当該参照画像リストを用いて予測ブロックを生成することができることを示すことができる。
【００６９】
参照画像インデックス（Ｒｅｆｅｒｅｎｃｅ  Ｐｉｃｔｕｒｅ  Ｉｎｄｅｘ）：参照画像リストにおいて特定の参照画像を指し示すインデックスを意味することができる。
【００７０】
参照画像（Ｒｅｆｅｒｅｎｃｅ  Ｐｉｃｔｕｒｅ）：画面間予測或いは動き補償のために特定のブロックが参照する画像を意味することができる。又は、参照画像は、画面間予測又は動き補償のために現在ブロックが参照する参照ブロックを含む画像であり得る。以下、用語「参照ピクチャ」及び「参照画像」は、同一の意味で使用されることもあり、入れ替わって使用されることもある。
【００７１】
動きベクトル（Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ）：画面間予測或いは動き補償に使用される２次元ベクトルであり得る。動きベクトルは、符号化／復号化対象ブロックと参照ブロックとの間のオフセットを意味することができる。例えば、（ｍｖＸ，ｍｖＹ）は動きベクトルを示すことができる。ｍｖＸは水平（ｈｏｒｉｚｏｎｔａｌ）成分、ｍｖＹは垂直（ｖｅｒｔｉｃａｌ）成分を示すことができる。
【００７２】
探索領域（Ｓｅａｒｃｈ  Ｒａｎｇｅ）：探索領域は、画面間予測のうち、動きベクトルに対する探索が行われる２次元の領域であり得る。例えば、探索領域のサイズはＭｘＮであり得る。Ｍ及びＮはそれぞれ正の整数であり得る。
【００７３】
動きベクトル候補（Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ  Ｃａｎｄｉｄａｔｅ）：動きベクトルを予測するときに予測候補となるブロック、或いはそのブロックの動きベクトルを意味することができる。また、動きベクトル候補は、動きベクトル候補リストに含まれてもよい。
【００７４】
動きベクトル候補リスト（Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ  Ｃａｎｄｉｄａｔｅ  Ｌｉｓｔ）：一つ以上の動きベクトル候補を用いて構成されたリストを意味することができる。
【００７５】
動きベクトル候補インデックス（Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ  Ｃａｎｄｉｄａｔｅ  Ｉｎｄｅｘ）：動きベクトル候補リスト内の動きベクトル候補を示すインジケータを意味することができる。動きベクトル予測器（Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ  Ｐｒｅｄｉｃｔｏｒ）のインデックス（ｉｎｄｅｘ）であってもよい。
【００７６】
動き情報（Ｍｏｔｉｏｎ  Ｉｎｆｏｒｍａｔｉｏｎ）：動きベクトル、参照画像インデックス、画面間予測インジケータだけでなく、予測リスト活用フラグ、参照画像リスト情報、参照画像、動きベクトル候補、動きベクトル候補インデックス、マージ候補、マージンインデックスなどのうちの少なくとも一つを含む情報を意味することができる。
【００７７】
マージ候補リスト（Ｍｅｒｇｅ  Ｃａｎｄｉｄａｔｅ  Ｌｉｓｔ）：一つ以上のマージ候補を用いて構成されたリストを意味することができる。
【００７８】
マージ候補（Ｍｅｒｇｅ  Ｃａｎｄｉｄａｔｅ）：空間マージ候補、時間マージ候補、組み合わせマージ候補、組み合わせ双予測マージ候補、ゼロマージ候補などを意味することができる。マージ候補は、画面間予測インジケータ、各リストに対する参照画像インデックス、動きベクトル、予測リスト活用フラグ、画面間予測インジケータなどの動き情報を含むことができる。
【００７９】
マージインデックス（Ｍｅｒｇｅ  Ｉｎｄｅｘ）：マージ候補リスト内のマージ候補を指し示すインジケータを意味することができる。また、マージインデックスは、空間的／時間的に現在ブロックと隣接するように復元されたブロックのうち、マージ候補を誘導したブロックを示すことができる。また、マージインデックスは、マージ候補が持つ動き情報のうちの少なくとも一つを示すことができる。
【００８０】
変換ユニット（Ｔｒａｎｓｆｏｒｍ  Ｕｎｉｔ）：変換、逆変換、量子化、逆量子化、変換係数符号化／復号化のように残余信号（ｒｅｓｉｄｕａｌ  ｓｉｇｎａｌ）符号化／復号化を行うときの基本単位を意味することができる。一つの変換ユニットは、分割されてサイズがさらに小さい複数のサブ変換ユニットに分割できる。ここで、変換／逆変換は、１次変換／逆変換及び２次変換／逆変換のうちの少なくとも一つを含むことができる。
【００８１】
スケーリング（Ｓｃａｌｉｎｇ）：量子化されたレベルに因数を掛ける過程を意味することができる。量子化されたレベルに対するスケーリングの結果として変換係数を生成することができる。スケーリングを逆量子化（ｄｅｑｕａｎｔｉｚａｔｉｏｎ）とも呼ぶことができる。
【００８２】
量子化パラメータ（Ｑｕａｎｔｉｚａｔｉｏｎ  Ｐａｒａｍｅｔｅｒ）：量子化において変換係数を用いて量子化されたレベル（ｑｕａｎｔｉｚｅｄ  ｌｅｖｅｌ）を生成するときに使用する値を意味することができる。又は、逆量子化において量子化されたレベルをスケーリング（ｓｃａｌｉｎｇ）して変換係数を生成するときに使用する値を意味することもできる。量子化パラメータは、量子化ステップサイズ（ｓｔｅｐ  ｓｉｚｅ）にマッピングされた値であり得る。
【００８３】
デルタ量子化パラメータ（Ｄｅｌｔａ  Ｑｕａｎｔｉｚａｔｉｏｎ  Ｐａｒａｍｅｔｅｒ）：予測された量子化パラメータと符号化／復号化対象ユニットの量子化パラメータとの差分（ｄｉｆｆｅｒｅｎｃｅ）値を意味することができる。
【００８４】
スキャン（Ｓｃａｎ）：ユニット、ブロック或いは行列内係数の順序をソートする方法を意味することができる。例えば、２次元配列を１次元配列にソートすることをスキャンという。又は、１次元配列を２次元配列にソートすることもスキャン或いは逆スキャン（Ｉｎｖｅｒｓｅ  Ｓｃａｎ）と呼ぶことができる。
【００８５】
変換係数（Ｔｒａｎｓｆｏｒｍ  Ｃｏｅｆｆｉｃｉｅｎｔ）：符号化器で変換を行ってから生成された係数値を意味することができる。復号化器でエントロピー復号化及び逆量子化のうちの少なくとも一つを行ってから生成された係数値を意味することもできる。変換係数又は残予信号に量子化を適用した量子化レベル又は量子化変換係数レベルも変換係数の意味に含まれ得る。
【００８６】
量子化レベル（Ｑｕａｎｔｉｚｅｄ  Ｌｅｖｅｌ）：符号化器で変換係数又は残余信号に量子化を行って生成された値を意味することができる。又は、復号化器で逆量子化を行う前に逆量子化の対象となる値を意味することもできる。同様に、変換及び量子化の結果である量子化変換係数レベルも量子化レベルの意味に含まれ得る。
【００８７】
ノンゼロ変換係数（Ｎｏｎ−ｚｅｒｏ  Ｔｒａｎｓｆｏｒｍ  Ｃｏｅｆｆｉｃｉｅｎｔ）：値の大きさが０ではない変換係数、或いは値の大きさが０ではない変換係数レベル、或いは量子化されたレベルを意味することができる。
【００８８】
量子化行列（Ｑｕａｎｔｉｚａｔｉｏｎ  Ｍａｔｒｉｘ）：画像の主観的画質或いは客観的画質を向上させるために量子化或いは逆量子化過程で用いる行列を意味することができる。量子化行列をスケーリングリスト（ｓｃａｌｉｎｇ  ｌｉｓｔ）とも呼ぶことができる。
【００８９】
量子化行列係数（Ｑｕａｎｔｉｚａｔｉｏｎ  Ｍａｔｒｉｘ  Ｃｏｅｆｆｉｃｉｅｎｔ）：量子化行列内の各元素（ｅｌｅｍｅｎｔ）を意味することができる。量子化行列係数を行列係数（ｍａｔｒｉｘ  ｃｏｅｆｆｉｃｉｅｎｔ）とも呼ぶことができる。
【００９０】
基本行列（Ｄｅｆａｕｌｔ  Ｍａｔｒｉｘ）：符号化器と復号化器で予め定義されている所定の量子化行列を意味することができる。
【００９１】
非基本行列（Ｎｏｎ−ｄｅｆａｕｌｔ  Ｍａｔｒｉｘ）：符号化器と復号化器で予め定義されず、ユーザによってシグナリングされる量子化行列を意味することができる。
【００９２】
統計値（ｓｔａｔｉｓｔｉｃ  ｖａｌｕｅ）：演算可能な特定の値を有する変数、符号化パラメータ、定数などの少なくとも一つに対する統計値は、当該特定値の平均値、重み付け平均値、重み付け和値、最小値、最大値、最頻値、中央値及び補間値のうちの少なくとも一つであり得る。
【００９３】
図１は本発明が適用される符号化装置の一実施形態による構成を示すブロック図である。
【００９４】
符号化装置１００は、エンコーダ、ビデオ符号化装置又は画像符号化装置であり得る。ビデオは、一つ以上の画像を含むことができる。符号化装置１００は、一つ以上の画像を順次符号化することができる。
【００９５】
図１を参照すると、符号化装置１００は、動き予測部１１１、動き補償部１１２、イントラ予測部１２０、スイッチ１１５、減算器１２５、変換部１３０、量子化部１４０、エントロピー符号化部１５０、逆量子化部１６０、逆変換部１７０、加算器１７５、フィルタ部１８０、及び参照ピクチャバッファ１９０を含むことができる。
【００９６】
符号化装置１００は、入力画像に対してイントラモード及び／又はインターモードで符号化を行うことができる。また、符号化装置１００は、入力画像に対する符号化を介して符号化された情報を含むビットストリームを生成することができ、生成されたビットストリームを出力することができる。生成されたビットストリームは、コンピュータ可読記録媒体に保存できるか、或いは有線／無線伝送媒体を介してストリミングできる。予測モードとしてイントラモードが使用される場合、スイッチ１１５はイントラに転換でき、予測モードとしてインターモードが使用される場合、スイッチ１１５はインターに転換できる。ここで、イントラモードは画面内予測モードを意味することができ、インターモードは画面間予測モードを意味することができる。符号化装置１００は、入力画像の入力ブロックに対する予測ブロックを生成することができる。また、符号化装置１００は、予測ブロックが生成された後、入力ブロック及び予測ブロックの差分（ｒｅｓｉｄｕａｌ）を用いて残余ブロックを符号化することができる。入力画像は、現在符号化の対象である現在画像と称されることもある。入力ブロックは、現在符号化の対象である現在ブロック或いは符号化対象ブロックと称されることもある。
【００９７】
予測モードがイントラモードである場合、イントラ予測部１２０は、現在ブロックの周辺に既に符号化／復号化されたブロックのサンプルを参照サンプルとしても用いることができる。イントラ予測部１２０は、参照サンプルを用いて現在ブロックに対する空間的予測を行うことができ、空間的予測を介して入力ブロックに対する予測サンプルを生成することができる。ここで、イントラ予測は画面内予測を意味することができる。
【００９８】
予測モードがインターモードである場合には、動き予測部１１１は、動き予測過程で参照画像から入力ブロックと最もよくマッチする領域を検索することができ、検索された領域を用いて動きベクトルを導出することができる。この際、前記領域として探索領域を使用することができる。参照画像は、参照ピクチャバッファ１９０に保存できる。ここで、参照画像に対する符号化／復号化が処理されたとき、参照ピクチャバッファ１９０に保存できる。
【００９９】
動き補償部１１２は、動きベクトルを用いる動き補償を行うことにより、現在ブロックに対する予測ブロックを生成することができる。ここで、インター予測は画面間予測或いは動き補償を意味することができる。
【０１００】
前記動き予測部１１１と動き補償部１１２は、動きベクトルの値が整数値を持たない場合に参照画像内の一部の領域に対して補間フィルタ（Ｉｎｔｅｒｐｏｌａｔｉｏｎ  Ｆｉｌｔｅｒ）を適用して予測ブロックを生成することができる。画面間予測或いは動き補償を行うために、符号化ユニットを基準に、該当符号化ユニットに含まれている予測ユニットの動き予測及び動き補償方法がスキップモード（Ｓｋｉｐ  Ｍｏｄｅ）、マージモード（Ｍｅｒｇｅ  ｍｏｄｅ）、向上した動きベクトル予測（Ａｄｖａｎｃｅｄ  Ｍｏｔｉｏｎ  Ｖｅｃｔｏｒ  Ｐｒｅｄｉｃｔｉｏｎ、ＡＭＶＰ）モード、及び現在ピクチャ参照モードのうちのいずれの方法であるかを判断することができ、各モードに応じて、画面間予測或いは動き補償を行うことができる。
【０１０１】
減算器１２５は、入力ブロック及び予測ブロックの差分を用いて残余ブロックを生成することができる。残余ブロックは残余信号とも称される。残余信号は、原信号と予測信号との差（ｄｉｆｆｅｒｅｎｃｅ）を意味することができる。又は、残余信号は、原信号と予測信号との差を変換（ｔｒａｎｓｆｏｒｍ）するか、量子化するか、又は変換及び量子化することにより生成された信号であり得る。残余ブロックはブロック単位の残余信号であり得る。
【０１０２】
変換部１３０は、残余ブロックに対して変換（ｔｒａｎｓｆｏｒｍ）を行って変換係数（ｔｒａｎｓｆｏｒｍ  ｃｏｅｆｆｉｃｉｅｎｔ）を生成することができ、生成された変換係数を出力することができる。ここで、変換係数は、残余ブロックに対する変換を行うことにより生成された係数値であり得る。変換省略（ｔｒａｎｓｆｏｒｍ  ｓｋｉｐ）モードが適用される場合、変換部１３０は残余ブロックに対する変換を省略することもできる。
【０１０３】
変換係数又は残余信号に量子化を適用することにより、量子化レベル（ｑｕａｎｔｉｚｅｄ  ｌｅｖｅｌ）が生成できる。以下、実施形態では、量子化レベルも変換係数と称されることがある。
【０１０４】
量子化部１４０は、変換係数又は残余信号を量子化パラメータに基づいて量子化することにより量子化レベルを生成することができ、生成された量子化レベルを出力することができる。このとき、量子化部１４０では、量子化行列を用いて変換係数を量子化することができる。
【０１０５】
エントロピー符号化部１５０は、量子化部１４０で算出された値、又は符号化過程で算出された符号化パラメータ（Ｃｏｄｉｎｇ  Ｐａｒａｍｅｔｅｒ）値などに対して確率分布によるエントロピー符号化を行うことにより、ビットストリーム（ｂｉｔｓｔｒｅａｍ）を生成することができ、ビットストリームを出力することができる。エントロピー符号化部１５０は、画像のサンプルに関する情報及び画像の復号化のための情報に対するエントロピー符号化を行うことができる。例えば、画像の復号化のための情報は構文要素（ｓｙｎｔａｘ  ｅｌｅｍｅｎｔ）などを含むことができる。
【０１０６】
エントロピー符号化が適用される場合、高い発生確率を有するシンボル（ｓｙｍｂｏｌ）に少ない数のビットが割り当てられ、低い発生確率を有するシンボルに多い数のビットが割り当てられてシンボルが表現されることにより、符号化対象シンボルに対するビット列のサイズが減少できる。エントロピー符号化部１５０は、エントロピー符号化のために指数ゴロム（ｅｘｐｏｎｅｎｔｉａｌ  Ｇｏｌｏｍｂ）、ＣＡＶＬＣ（Ｃｏｎｔｅｘｔ−Ａｄａｐｔｉｖｅ  Ｖａｒｉａｂｌｅ  Ｌｅｎｇｔｈ  Ｃｏｄｉｎｇ）、ＣＡＢＡＣ（Ｃｏｎｔｅｘｔ−Ａｄａｐｔｉｖｅ  Ｂｉｎａｒｙ  Ａｒｉｔｈｍｅｔｉｃ  Ｃｏｄｉｎｇ）などの符号化方法を使用することができる。例えば、エントロピー符号化部１５０は、可変長符号化（Ｖａｒｉａｂｌｅ  Ｌｅｎｇｔｈ  Ｃｏｄｉｎｇ／Ｃｏｄｅ；ＶＬＣ）テーブルを用いてエントロピー符号化を行うことができる。また、エントロピー符号化部１５０は、対象シンボルの２値化（ｂｉｎａｒｉｚａｔｉｏｎ）方法及び対象シンボル／ビン（ｂｉｎ）の確率モデル（ｐｒｏｂａｂｉｌｉｔｙ  ｍｏｄｅｌ）を導出した後、導出された２値化方法、確率モデル、コンテキストモデル（Ｃｏｎｔｅｘｔ  Ｍｏｄｅｌ）を用いて算術符号化を行うこともできる。
【０１０７】
エントロピー符号化部１５０は、変換係数レベル（量子化レベル）を符号化するために、変換係数スキャニング（Ｔｒａｎｓｆｏｒｍ  Ｃｏｅｆｆｉｃｉｅｎｔ  Ｓｃａｎｎｉｎｇ）方法を介して２次元のブロック形状（ｆｏｒｍ）係数を１次元のベクトルに変更することができる。
【０１０８】
符号化パラメータ（Ｃｏｄｉｎｇ  Ｐａｒａｍｅｔｅｒ）は、構文要素のように符号化器で符号化されて復号化器へシグナリングされる情報（フラグ、インデックスなど）だけでなく、符号化過程或いは復号化過程で誘導される情報を含むことができ、画像を符号化又は復号化するときに必要な情報を意味することができる。例えば、ユニット／ブロックサイズ、ユニット／ブロック深さ、ユニット／ブロック分割情報、ユニット／ブロック形態、ユニット／ブロック分割構造、四分木分割か否か、二分木分割か否か、二分木分割の方向（横方向或いは縦方向）、二分木分割の形態（対称分割或いは非対称分割）、三分木分割か否か、三分木分割の方向（横方向或いは縦方向）、三分木分割の形態（対称分割或いは非対称分割）、複合型ツリー分割か否か、複合型ツリー分割の方向（横方向或いは縦方向）、複合型ツリー分割の形態（対称分割或いは非対称分割）、複合型ツリーの分割ツリー（二分木或いは三分木）、予測モード（画面内予測又は画面間予測）、画面内輝度予測モード／方向、画面内色差予測モード／方向、画面内分割情報、画面間分割情報、符号化ブロック分割フラグ、予測ブロック分割フラグ、変換ブロック分割フラグ、参照サンプルフィルタリング方法、参照サンプルフィルタタップ、参照サンプルフィルタ係数、予測ブロックフィルタリング方法、予測ブロックフィルタタップ、予測ブロックフィルタ係数、予測ブロック境界フィルタリング方法、予測ブロック境界フィルタタップ、予測ブロック境界フィルタ係数、画面内予測モード、画面間予測モード、動き情報、動きベクトル、動きベクトル差分、参照画像インデックス、画面間予測方向、画面間予測インジケータ、予測リスト活用フラグ、参照画像リスト、参照画像、動きベクトル予測インデックス、動きベクトル予測候補、動きベクトル候補リスト、マージモードの使用有無、マージインデックス、マージ候補、マージ候補リスト、スキップ（ｓｋｉｐ）モードの使用有無、補間フィルタの類型、補間フィルタタップ、補間フィルタ係数、動きベクトルのサイズ、動きベクトルの表現精度、変換種類、変換サイズ、１次変換の使用有無情報、２次変換の使用有無情報、１次変換インデックス、２次変換インデックス、残予信号有無情報、符号化ブロックパターン（Ｃｏｄｅｄ  Ｂｌｏｃｋ  Ｐａｔｔｅｒｎ）、符号化ブロックフラグ（Ｃｏｄｅｄ  Ｂｌｏｃｋ  Ｆｌａｇ）、量子化パラメータ、残余量子化パラメータ、量子化行列、画面内ループフィルタの適用か否か、画面内ループフィルタ係数、画面内ループフィルタタップ、画面内ループフィルタの形状／形態、デブロッキングフィルタの適用か否か、デブロッキングフィルタ係数、デブロッキングフィルタタップ、デブロッキングフィルタの強度、デブロッキングフィルタの形状／形態、適応的サンプルオフセットの適用か否か、適応的サンプルオフセット値、適応的サンプルオフセットのカテゴリー、適応的サンプルオフセットの種類、適応的ループフィルタの適用か否か、適応的ループフィルタ係数、適応的ループフィルタタップ、適応的ループフィルタの形状／形態、二値化／逆二値化方法、コンテキストモデル決定方法、コンテキストモデルアップデート方法、レギュラーモードの実��有無、バイパスモードの実行有無、コンテキストビン、バイパスビン、重要係数、フラグ、最後の重要係数フラグ、係数グループ単位符号化フラグ、最後の重要係数位置、係数値が１よりも大きいかに対するフラグ、係数値が２よりも大きいかに対するフラグ、係数値が３よりも大きいかに対するフラグ、残りの係数値情報、符号（ｓｉｇｎ）情報、復元された輝度サンプル、復元された色差サンプル、残余輝度サンプル、残余色差サンプル、輝度変換係数、色差変換係数、輝度量子化レベル、色差量子化レベル、変換係数レベルスキャニング方法、復号化器側面動きベクトル探索領域の大きさ、復号化器側面動きベクトル探索領域の形態、復号化器側面動きベクトル探索回数、ＣＴＵのサイズ情報、最小ブロックのサイズ情報、最大ブロックのサイズ情報、最大ブロックの深さ情報、最小ブロックの深さ情報、画像ディスプレイ／出力順序、スライス識別情報、スライスタイプ、スライス分割情報、タイル識別情報、タイルタイプ、タイル分割情報、ピクチャタイプ、入力サンプルビット深度、復元サンプルビット深度、残余サンプルビット深度、変換係数ビット深度、量子化レベルビット深度、輝度信号に対する情報、色差信号に対する情報のうちの少なくとも一つの値又は組み合わせ形態が符号化パラメータに含まれ得る。
【０１０９】
ここで、フラグ或いはインデックスをシグナリング（ｓｉｇｎａｌｉｎｇ）するというのは、エンコーダでは該当フラグ或いはインデックスをエントロピー符号化（Ｅｎｔｒｏｐｙ  Ｅｎｃｏｄｉｎｇ）してビットストリーム（Ｂｉｔｓｔｒｅａｍ）に含むことを意味することができ、デコーダではビットストリームから当該フラグ或いはインデックスをエントロピー復号化（Ｅｎｔｒｏｐｙ  Ｄｅｃｏｄｉｎｇ）することを意味することができる。
【０１１０】
符号化装置１００がインター予測を用いた符号化を行う場合、符号化された現在画像は、後で処理される他の画像に対する参照画像として使用できる。よって、符号化装置１００は、符号化された現在画像をさらに復元又は復号化することができ、復元又は復号化された画像を参照画像として参照ピクチャバッファ１９０に保存することができる。
【０１１１】
量子化レベルは、逆量子化部１６０で逆量子化（ｄｅｑｕａｎｔｉｚａｔｉｏｎ）でき、逆変換部１７０で逆変換（ｉｎｖｅｒｓｅ  ｔｒａｎｓｆｏｒｍ）できる。逆量子化及び／又は逆変換された係数は、加算器１７５を介して予測ブロックと合わせられ得る。逆量子化及び／又は逆変換された係数と予測ブロックとを合わせることにより、復元ブロック（ｒｅｃｏｎｓｔｒｕｃｔｅｄ  ｂｌｏｃｋ）が生成できる。ここで、逆量子化及び／又は逆変換された係数は、逆量子化及び逆変換のうちの少なくとも一つが行われた係数を意味し、復元された残余ブロックを意味することができる。
【０１１２】
復元ブロックはフィルタ部１８０を経ることができる。フィルタ部１８０は、デブロッキングフィルタ（ｄｅｂｌｏｃｋｉｎｇ  ｆｉｌｔｅｒ）、サンプル適応的オフセット（Ｓａｍｐｌｅ  Ａｄａｐｔｉｖｅ  Ｏｆｆｓｅｔ；ＳＡＯ）、適応的ループフィルタ（Ａｄａｐｔｉｖｅ  Ｌｏｏｐ  Ｆｉｌｔｅｒ；ＡＬＦ）などの少なくとも一つを復元サンプル、復元ブロック又は復元画像に適用することができる。フィルタ部１８０はループ内フィルタ（ｉｎ−ｌｏｏｐ  ｆｉｌｔｅｒ）とも称される。
【０１１３】
デブロッキングフィルタは、ブロック間の境界から生じたブロック歪みを除去することができる。デブロッキングフィルタを行うか否かを判断するために、ブロックに含まれている幾つかの列又は行に含まれているサンプルに基づいて、現在ブロックにデブロッキングフィルタを適用するか否かを判断することができる。ブロックにデブロッキングフィルタを適用する場合、必要なデブロッキングフィルタリング強度に応じて、互いに異なるフィルタを適用することができる。
【０１１４】
サンプル適応的オフセットを用いて符号化エラーを補償するために、サンプル値に適正オフセット（ｏｆｆｓｅｔ）値を加えることができる。サンプル適応的オフセットは、デブロッキングを行った画像に対してサンプル単位で原本画像とのオフセットを補正することができる。画像に含まれているサンプルを一定数の領域に区分した後、オフセットを行うべき領域を決定し、該当領域にオフセットを適用する方法、又は各サンプルのエッジ情報を考慮してオフセットを適用する方法を使用することができる。
【０１１５】
適応的ループフィルタは、復元画像と原画像とを比較した値に基づいてフィルタリングを行うことができる。画像に含まれているサンプルを所定のグループに分けた後、当該グループに適用されるべきフィルタを決定してグループごとに差別的にフィルタリングを行うことができる。適応的ループフィルタを適用するか否かに関連した情報は、符号化ユニット（Ｃｏｄｉｎｇ  Ｕｎｉｔ、ＣＵ）別にシグナリングでき、それぞれのブロックに応じて、適用される適応的ループフィルタの形状及びフィルタ係数は異なり得る。
【０１１６】
フィルタ部１８０を経た復元ブロック又は復元画像は、参照ピクチャバッファ１９０に保存できる。フィルタ部１８０を経た復元ブロックは、参照画像の一部であり得る。いわば、参照画像は、フィルタ１８０を経た復元ブロックからなる復元画像であり得る。保存された参照画像は、以後、画面間予測或いは動き補償に使用できる。
【０１１７】
図２は本発明が適用される復号化装置の一実施形態による構成を示すブロック図である。
【０１１８】
復号化装置２００はデコーダ、ビデオ復号化装置又は画像復号化装置であり得る。
【０１１９】
図２を参照すると、復号化装置２００は、エントロピー復号化部２１０、逆量子化部２２０、逆変換部２３０、イントラ予測部２４０、動き補償部２５０、加算器２５５、フィルタ部２６０、及び参照ピクチャバッファ２７０を含むことができる。
【０１２０】
復号化装置２００は、符号化装置１００から出力されたビットストリームを受信することができる。復号化装置２００は、コンピュータ可読記録媒体に保存されたビットストリームを受信するか、或いは有線／無線伝送媒体を介してストリミングされるビットストリームを受信することができる。復号化装置２００は、ビットストリームに対してイントラモード又はインターモードで復号化を行うことができる。また、復号化装置２００は、復号化を介して復元された画像又は復号化された画像を生成することができ、復元された画像又は復号化された画像を出力することができる。
【０１２１】
復号化に使用される予測モードがイントラモードである場合、スイッチがイントラに転換できる。復号化に使用される予測モードがインターモードである場合、スイッチがインターに転換できる。
【０１２２】
復号化装置２００は、入力されたビットストリームを復号化し、復元された残余ブロック（ｒｅｃｏｎｓｔｒｕｃｔｅｄ  ｒｅｓｉｄｕａｌ  ｂｌｏｃｋ）を取得することができ、予測ブロックを生成することができる。復元された残余ブロック及び予測ブロックが取得されると、復号化装置２００は、復元された残余ブロックと予測ブロックとを加算することにより、復号化の対象となる復元ブロックを生成することができる。復号化対象ブロックは現在ブロックと称されることもある。
【０１２３】
エントロピー復号化部２１０は、ビットストリームに対する確率分布に基づくエントロピー復号化を行うことにより、シンボルを生成することができる。生成されたシンボルは、量子化レベル形態のシンボルを含むことができる。ここで、エントロピー復号化方法は、上述したエントロピー符号化方法の逆過程であり得る。
【０１２４】
エントロピー復号化部２１０は、変換係数レベル（量子化レベル）を復号化するために、変換係数のスキャニング方法によって１次元のベクトル形態係数を２次元のブロック形態に変更することができる。
【０１２５】
量子化レベルは、逆量子化部２２０で逆量子化でき、逆変換部２３０で逆変換できる。量子化レベルは、逆量子化及び／又は逆変換が行われた結果であって、復元された残余ブロックとして生成できる。このとき、逆量子化部２２０は、量子化レベルに量子化行列を適用することができる。
【０１２６】
イントラモードが使用される場合、イントラ予測部２４０は、復号化対象ブロック周辺の、既に復号化されたブロックのサンプル値を用いる空間的予測を現在ブロックに対して行うことにより、予測ブロックを生成することができる。
【０１２７】
インターモードが使用される場合、動き補償部２５０は、動きベクトル及び参照ピクチャバッファ２７０に保存されている参照画像を用いる動き補償を現在ブロックに対して行うことにより、予測ブロックを生成することができる。前記動き補償部２５０は、動きベクトルの値が整数値を持たない場合に参照画像内の一部の領域に対して補間フィルタを適用して予測ブロックを生成することができる。動き補償を行うために、符号化ユニットを基準に、該当符号化ユニットに含まれている予測ユニットの動き補償方法がスキップモード、マージモード、ＡＭＶＰモード及び現在ピクチャ参照モードのうちのいずれの方法であるかを判断することができ、各モードに応じて動き補償を行うことができる。
【０１２８】
加算器２２５は、復元された残余ブロック及び予測ブロックを加算して復元ブロックを生成することができる。フィルタ部２６０は、デブロッキングフィルタ、サンプル適応的オフセット及び適応的ループフィルタのうちの少なくとも一つを復元ブロック又は復元画像に適用することができる。フィルタ部２６０は復元画像を出力することができる。復元ブロック又は復元画像は、参照ピクチャバッファ２７０に保存されてインター予測に使用できる。フィルタ部２６０を経た復元ブロックは、参照画像の一部であり得る。いわば、参照画像は、フィルタ部２６０を経た復元ブロックからなる復元画像であり得る。保存された参照画像は、以後、画面間予測或いは動き補償に使用できる。
【０１２９】
図３は画像を符号化及び復号化するときの画像の分割構造を示す概略図である。図３は一つのユニットが複数のサブユニットに分割される実施形態を概略的に示す。
【０１３０】
画像を効率よく分割するために、符号化及び復号化において、符号化ユニット（Ｃｏｄｉｎｇ  Ｕｎｉｔ；ＣＵ）が使用できる。画像符号化／復号化の基本単位として符号化ユニットが使用できる。また、画像符号化／復号化の際に、画面内予測モード及び画面間予測モードが区分される単位で符号化ユニットを使用することができる。符号化ユニットは、予測、変換、量子化、逆変換、逆量子化、又は変換係数の符号化／復号化の過程のために使用される基本単位であり得る。
【０１３１】
図３を参照すると、画像３００は、最大符号化ユニット（Ｌａｒｇｅｓｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ；ＬＣＵ）単位で順次分割され、ＬＣＵ単位で分割構造が決定される。ここで、ＬＣＵは、符号化ツリーユニット（Ｃｏｄｉｎｇ  Ｔｒｅｅ  Ｕｎｉｔ；ＣＴＵ）と同一の意味で使用できる。ユニットの分割は、ユニットに該当するブロックの分割を意味することができる。ブロック分割情報には、ユニットの深さ（ｄｅｐｔｈ）に関する情報が含まれ得る。深さ情報は、ユニットが分割される回数及び／又は程度を示すことができる。一つのユニットは、ツリー構造（ｔｒｅｅ  ｓｔｒｕｃｔｕｒｅ）に基づいて深さ情報をもって階層的に複数のサブユニットに分割できる。いわば、ユニット及び該ユニットの分割によって生成されたサブユニットは、ノード及び該ノードの子ノードにそれぞれ対応することができる。それぞれの分割されたサブユニットは、深さ情報を持つことができる。深さ情報は、ＣＵの大きさを示す情報であり、ＣＵごとに保存できる。ユニット深さは、ユニットが分割された回数及び／又は程度を示すので、サブユニットの分割情報は、サブユニットの大きさに関する情報を含むこともできる。
【０１３２】
分割構造は、ＣＴＵ３１０内での符号化ユニット（Ｃｏｄｉｎｇ  Ｕｎｉｔ；ＣＵ）の分布を意味することができる。このような分布は、一つのＣＵを複数（２、４、８、１６などを含む２以上の正の整数）のＣＵに分割するか否かによって決定することができる。分割により生成されたＣＵの横幅と縦幅は、それぞれ分割前のＣＵの横幅の半分及び縦幅の半分であるか、分割された個数に応じて分割前のＣＵの横幅よりも小さいサイズ及び縦幅よりも小さいサイズを持つことができる。ＣＵは複数のＣＵに再帰的に分割できる。再帰的分割によって、分割されたＣＵの横幅及び縦幅のうちの少なくとも一つのサイズが分割前のＣＵの横幅及び縦幅のうちの少なくとも一つに比べて減少できる。ＣＵの分割は、予め定義された深さ又は予め定義されたサイズまで再帰的に行われ得る。例えば、ＣＴＵの深さは０であり、最小符号化ユニット（Ｓｍａｌｌｅｓｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ；ＳＣＵ）の深さは予め定義された最大深さであり得る。ここで、ＣＴＵは、上述したように、最大の符号化ユニットサイズを持つ符号化ユニットであり、ＳＣＵは、最小の符号化ユニットのサイズを持つ符号化ユニットであり得る。ＣＴＵ３１０から分割が始まり、分割によってＣＵの横幅及び／又は縦幅が減少するたびに、ＣＵの深さは１ずつ増加する。例えば、それぞれの深さ別に、分割されないＣＵは２Ｎ×２Ｎサイズを有することができる。また、分割されるＣＵの場合、２Ｎ×２ＮサイズのＣＵが、Ｎ×Ｎサイズを有する４つのＣＵに分割できる。Ｎのサイズは深さが１ずつ増加するたびに半分に減少することができる。
【０１３３】
また、ＣＵが分割されるか否かに対する情報は、ＣＵの分割情報を介して表現できる。分割情報は１ビットの情報であり得る。ＳＣＵを除いた全てのＣＵは、分割情報を含むことができる。例えば、分割情報の値が第１の値であれば、ＣＵが分割されなくてもよく、分割情報の値が第２の値であれば、ＣＵが分割されてもよい。
【０１３４】
図３を参照すると、深さ０のＣＴＵは６４ｘ６４ブロックであり得る。０は最小深さであり得る。深さ３のＳＣＵは８ｘ８ブロックであり得る。３は最大深さであり得る。３２ｘ３２ブロック及び１６ｘ１６ブロックのＣＵはそれぞれ深さ１及び深さ２で表現できる。
【０１３５】
例えば、一つの符号化ユニットが４つの符号化ユニットに分割される場合、分割された４つの符号化ユニットの横幅及び縦幅は、分割される前の符号化ユニットの横幅及び縦幅と比較してそれぞれの半分のサイズを持つことができる。一例として、３２ｘ３２サイズの符号化ユニットが４つの符号化ユニットに分割される場合、分割された４つの符号化ユニットはそれぞれ１６ｘ１６のサイズを持つことができる。一つの符号化ユニットが４つの符号化ユニットに分割される場合、符号化ユニットは四分木（ｑｕａｄ−ｔｒｅｅ）状に分割（四分木分割、ｑｕａｄ−ｔｒｅｅ  ｐａｒｔｉｔｉｏｎ）されたといえる。
【０１３６】
例えば、一つの符号化ユニットが２つの符号化ユニットに分割される場合、分割された２つの符号化ユニットの横幅或いは縦幅は、分割される前の符号化ユニットの横幅或いは縦幅と比較して半分のサイズを持つことができる。一例として、３２ｘ３２サイズの符号化ユニットが２つの符号化ユニットに縦分割される場合、分割された２つの符号化ユニットは、それぞれ１６ｘ３２のサイズを有することができる。一例として、８ｘ３２サイズの符号化ユニットが２つの符号化ユニットに横分割される場合、分割された２つの符号化ユニットは、それぞれ８ｘ１６のサイズを有することができる。一つの符号化ユニットが２つの符号化ユニットに分割される場合、符号化ユニットは二分木（ｂｉｎａｒｙ−ｔｒｅｅ）状に分割（二分木分割、ｂｉｎａｒｙ−ｔｒｅｅ  ｐａｒｔｉｔｉｏｎ）されたといえる。
【０１３７】
例えば、一つの符号化ユニットが３つの符号化ユニットに分割される場合、分割される前に符号化ユニットの横幅或いは縦幅を１：２：１の比率で分割することにより、３つの符号化ユニットに分割することができる。一例として、１６ｘ３２サイズの符号化ユニットが３つの符号化ユニットに横分割される場合、分割された３つの符号化ユニットは、上側からそれぞれ１６ｘ８、１６ｘ１６及び１６ｘ８のサイズを有することができる。一例として、３２ｘ３２サイズの符号化ユニットが３つの符号化ユニットに縦分割される場合、分割された３つの符号化ユニットは、左側からそれぞれ８ｘ３２、１６ｘ３２及び８ｘ３２のサイズを有することができる。一つの符号化ユニットが３つの符号化ユニットに分割される場合、符号化ユニットは、三分木（ｔｅｒｎａｒｙ−ｔｒｅｅ）状に分割（三分木分割、ｔｅｒｎａｒｙ−ｔｒｅｅ  ｐａｒｔｉｔｉｏｎ）されたといえる。
【０１３８】
図３のＣＴＵ３２０は、四分木分割、二分木分割及び三分木分割がすべて適用されたＬＣＵの一例である。
【０１３９】
前述したように、ＣＴＵを分割するために、四分木分割、二分木分割及び三分木分割のうちの少なくとも一つが適用できる。それぞれの分割は、所定の優先順位に基づいて適用できる。例えば、ＣＴＵに対して四分木分割が優先的に適用できる。それ以上四分木分割できない符号化ユニットは、四分木のリーフノードに該当することができる。四分木のリーフノードに該当する符号化ユニットは、二分木及び／又は三分木のルートノードになることができる。つまり、四分木のリーフノードに該当する符号化ユニットは、二分木分割されるか、三分木分割されるか、或いはそれ以上分割できない。このとき、四分木のリーフノードに該当する符号化ユニットを二分木分割又は三分木分割して生成された符号化ユニットに対しては、再び四分木分割が行われないようにすることにより、ブロックの分割及び／又は分割情報のシグナリングを効果的に行うことができる。
【０１４０】
四分木の各ノードに該当する符号化ユニットの分割は、クワッド分割情報を用いてシグナリングできる。第１の値（例えば、「１」）を有するクワッド分割情報は、該当符号化ユニットが四分木分割されることを指示することができる。第２の値（例えば、「０」）を有するクワッド分割情報は、当該符号化ユニットが四分木分割されないことを指示することができる。クワッド分割情報は、所定の長さ（例えば、１ビット）を有するフラグであり得る。
【０１４１】
二分木分割と三分木分割との間には、優先順位が存在しないこともある。つまり、四分木のリーフノードに該当する符号化ユニットは、二分木分割又は三分木分割できる。また、二分木分割又は三分木分割により生成された符号化ユニットは、再び二分木分割又は三分木分割されるか、或いはそれ以上分割できない。
【０１４２】
二分木分割と三分木分割との間に優先順位が存在しない場合の分割は、複合型ツリー分割（ｍｕｌｔｉ−ｔｙｐｅ  ｔｒｅｅ  ｐａｒｔｉｔｉｏｎ）と呼ぶことがある。すなわち、四分木のリーフノードに該当する符号化ユニットは、複合型ツリー（ｍｕｌｔｉ−ｔｙｐｅ  ｔｒｅｅ）のルートノードになることができる。複合型ツリーの各ノードに該当する符号化ユニットの分割は、複合型ツリーの分割か否かの情報、分割方向情報及び分割ツリー情報のうちの少なくとも一つを用いてシグナリングできる。前記複合型ツリーの各ノードに該当する符号化ユニットの分割のために、分割か否かの情報、分割方向情報及び分割ツリー情報が順次シグナリングされてもよい。
【０１４３】
第１の値（例えば、「１」）を有する複合型ツリーの分割か否かの情報は、当該符号化ユニットが複合型ツリー分割されることを指示することができる。第２の値（例えば、「０」）を有する複合型ツリーの分割か否かの情報は、該当符号化ユニットが複合型ツリー分割されないことを指示することができる。
【０１４４】
複合型ツリーの各ノードに該当する符号化ユニットが複合型ツリー分割される場合、当該符号化ユニットは、分割方向情報をさらに含むことができる。分割方向情報は、複合型ツリー分割の分割方向を指示することができる。第１の値（例えば、「１」）を有する分割方向情報は、当該符号化ユニットが縦方向に分割されることを指示することができる。第２の値（例えば、「０」）を有する分割方向情報は、当該符号化ユニットが横方向に分割されることを指示することができる。
【０１４５】
複合型ツリーの各ノードに該当する符号化ユニットが複合型ツリー分割される場合、当該符号化ユニットは、分割ツリー情報をさらに含むことができる。分割ツリー情報は、複合型ツリー分割のために使用されたツリーを指示することができる。第１の値（例えば、「１」）を有する分割ツリー情報は、当該符号化ユニットが二分木分割されることを指示することができる。第２の値（例えば、「０」）を有する分割ツリー情報は、当該符号化ユニットが三分木分割されることを指示することができる。
【０１４６】
分割か否かの情報、分割ツリー情報及び分割方向情報は、それぞれ所定の長さ（例えば、１ビット）を有するフラグであり得る。
【０１４７】
クワッド分割情報、複合型ツリーの分割か否かの情報、分割方向情報及び分割ツリー情報のうちの少なくとも一つは、エントロピー符号化／復号化できる。前記情報のエントロピー符号化／復号化のために、現在符号化ユニットに隣接する周辺符号化ユニットの情報が利用できる。例えば、左側符号化ユニット及び／又は上側符号化ユニットの分割形態（分割か否か、分割ツリー及び／又は分割方向）は、現在符号化ユニットの分割形態に類似する確率が高い。よって、周辺符号化ユニットの情報に基づいて、現在符号化ユニットの情報のエントロピー符号化／復号化のためのコンテキスト情報を誘導することができる。このとき、周辺符号化ユニットの情報には、当該符号化ユニットのクワッド分割情報、複合型ツリーの分割か否かの情報、分割方向情報及び分割ツリー情報のうちの少なくとも一つが含まれ得る。
【０１４８】
他の実施形態として、二分木分割と三分木分割のうち、二分木分割が優先的に実行できる。すなち、二分木分割が先に適用され、二分木のリーフノードに該当する符号化ユニットを三分木のルートノードとして設定することもできる。この場合、三分割木のノードに該当する符号化ユニットに対しては、四分木分割及び二分木分割が行われないことがある。
【０１４９】
四分木分割、二分木分割及び／又は三分木分割によってそれ以上分割されない符号化ユニットは、符号化、予測及び／又は変換の単位になることができる。すなわち、予測及び／又は変換のために符号化ユニットがそれ以上分割されないことがある。したがって、符号化ユニットを予測ユニット及び／又は変換ユニットに分割するための分割構造、分割情報などがビットストリームに存在しないことがある。
【０１５０】
ただし、分割の単位となる符号化ユニットのサイズが最大変換ブロックのサイズよりも大きい場合、該当符号化ユニットは、最大変換ブロックのサイズと同じか或いは小さいサイズになるまで再帰的に分割できる。例えば、符号化ユニットのサイズが６４ｘ６４であり、最大変換ブロックのサイズが３２ｘ３２である場合、前記符号化ユニットは、変換のために、４つの３２ｘ３２ブロックに分割できる。例えば、符号化ユニットのサイズが３２ｘ６４であり、最大変換ブロックのサイズが３２ｘ３２である場合、前記符号化ユニットは、変換のために、２つの３２ｘ３２ブロックに分割できる。この場合には、変換のための符号化ユニットの分割か否かは、別にシグナリングされず、前記符号化ユニットの横又は縦と最大変換ブロックの横又は縦との比較によって決定できる。例えば、符号化ユニットの横が最大変換ブロックの横よりも大きい場合、符号化ユニットは、縦に２等分できる。また、符号化ユニットの縦が最大変換ブロックの縦よりも大きい場合、符号化ユニットは横方向に２等分できる。
【０１５１】
符号化ユニットの最大及び／又は最小サイズに関する情報、変換ブロックの最大及び／又は最小サイズに関する情報は、符号化ユニットの上位レベルでシグナリング又は決定できる。前記上位レベルは、例えば、シーケンスレベル、ピクチャレベル、スライスレベルなどであってもよい。例えば、符号化ユニットの最小サイズは４ｘ４と決定されてもよい。例えば、変換ブロックの最大サイズは６４ｘ６４と決定されてもよい。例えば、変換ブロックの最小サイズは４ｘ４と決定されてもよい。
【０１５２】
四分木のリーフノードに該当する符号化ユニットの最小サイズ（四分木の最小サイズ）に関する情報、及び／又は複合型ツリーのルートノードからリーフノードに至る最大深さ（複合型ツリーの最大深さ）に関する情報は、符号化ユニットの上位レベルでシグナリング又は決定できる。前記上位レベルは、例えば、シーケンスレベル、ピクチャレベル、スライスレベルなどであってもよい。前記四分木の最小サイズに関する情報、及び／又は前記複合型ツリーの最大深さに関する情報は、画面内スライスと画面間スライスのそれぞれに対してシグナリング又は決定できる。
【０１５３】
ＣＴＵのサイズと変換ブロックの最大サイズに関する差分情報は、符号化ユニットの上位レベルでシグナリング又は決定できる。前記上位レベルは、例えば、シーケンスレベル、ピクチャレベル、スライスレベルなどであってもよい。二分木の各ノードに該当する符号化ユニットの最大サイズ（二分木の最大サイズ）に関する情報は、符号化ツリーユニットの大きさと前記差分情報に基づいて決定できる。三分木の各ノードに該当する符号化ユニットの最大サイズ（三分木の最大サイズ）は、スライスのタイプによって異なる値を持つことができる。例えば、画面内スライスである場合には、三分木の最大サイズは３２ｘ３２であってもよい。また、例えば、画面間スライスである場合には、三分木の最大サイズは１２８ｘ１２８であってもよい。例えば、二分木の各ノードに該当する符号化ユニットの最小サイズ（二分木の最小サイズ）及び／又は三分木の各ノードに該当する符号化ユニットの最小サイズ（三分木の最小サイズ）は、符号化ブロックの最小サイズとして設定できる。
【０１５４】
別の例として、二分木の最大サイズ及び／又は三分木の最大サイズは、スライスレベルでシグナリング又は決定できる。また、二分木の最小サイズ及び／又は三分木の最小サイズは、スライスレベルでシグナリング又は決定できる。
【０１５５】
前述した様々なブロックのサイズ及び深さ情報に基づいて、クワッド分割情報、複合型ツリーの分割か否かの情報、分割ツリー情報及び／又は分割方向情報などがビットストリームに存在しても存在しなくてもよい。
【０１５６】
例えば、符号化ユニットのサイズが四分木の最小サイズよりも大きくなければ、前記符号化ユニットはクワッド分割情報を含まず、当該クワッド分割情報は第２の値に推論できる。
【０１５７】
例えば、複合型ツリーのノードに該当する符号化ユニットのサイズ（横及び縦）が二分木の最大サイズ（横及び縦）、及び／又は三分木の最大サイズ（横及び縦）よりも大きい場合、前記符号化ユニットは、二分木分割及び／又は三分木分割されないことがある。それにより、前記複合型ツリーの分割か否かの情報は、シグナリングされず、第２の値に推論できる。
【０１５８】
又は、複合型ツリーのノードに該当する符号化ユニットのサイズ（横及び縦）が二分木の最小サイズ（横及び縦）と同じであるか、或いは符号化ユニットのサイズ（横及び縦）が三分木の最小サイズ（横及び縦）の二倍と同じである場合、前記符号化ユニットは、二分木分割及び／又は三分木分割されないことがある。それにより、前記複合型ツリーの分割か否かの情報は、シグナリングされず、第２の値に推論できる。なぜなら、前記符号化ユニットを二分木分割及び／又は三分木分割する場合は、二分木の最小サイズ及び／又は三分木の最小サイズよりも小さい符号化ユニットが生成されるためである。
【０１５９】
又は、複合型ツリーのノードに該当する符号化ユニットの複合型ツリー内の深さが複合型ツリーの最大深さと同じである場合、前記符号化ユニットは、二分木分割及び／又は三分木分割されないことがある。それにより、前記複合型ツリーの分割か否かの情報は、シグナリングされず、第２の値に推論できる。
【０１６０】
又は、複合型ツリーのノードに該当する符号化ユニットに対して垂直方向の二分木分割、水平方向の二分木分割、垂直方向の三分木分割及び水平方向の三分木分割のうちの少なくとも一つが可能である場合にのみ、前記複合型ツリーの分割か否かの情報をシグナリングすることができる。そうでない場合、前記符号化ユニットは、二分木分割及び／又は三分木分割されないことがある。それにより、前記複合型ツリーの分割か否かの情報は、シグナリングされず、第２の値に推論できる。
【０１６１】
又は、複合型ツリーのノードに該当する符号化ユニットに対して垂直方向の二分木分割と水平方向の二分木分割がすべて可能であるか、或いは垂直方向の三分木分割と水平方向の三分木分割がすべて可能である場合にのみ、前記分割方向の情報をシグナリングすることができる。そうでない場合、前記分割方向情報は、シグナリングされず、分割が可能な方向を指示する値に推論できる。
【０１６２】
又は、複合型ツリーのノードに該当する符号化ユニットに対して垂直方向の二分木分割と垂直方向の三分木分割がすべて可能であるか、或いは水平方向の二分木分割と水平方向の三分木分割がすべて可能である場合にのみ、前記分割ツリー情報をシグナリングすることができる。そうでない場合、前記分割ツリー情報は、シグナリングされず、分割が可能なツリーを指示する値に推論できる。
【０１６３】
上述した内容に基づいて、本発明による画像符号化／復号化方法について詳細に考察する。
【０１６４】
次に、本発明に係る変換及び量子化の過程を説明する。
【０１６５】
画面内または画面間予測後に生成された残余信号に変換および／または量子化過程を行うことにより、量子化されたレベルが生成できる。前記残余信号は、原本ブロックと予測ブロック（画面内予測ブロック或いは画面間予測ブロック）間の差分により生成できる。ここで、予測ブロックは、画面内予測または画面間予測によって生成されたブロックであり得る。また、前記予測ブロックは、画面内予測及び画面間予測のうちの少なくとも一つ、或いは少なくとも一つの組み合わせによって生成されたブロックであり得る。ここで、変換は、１次変換及び２次変換のうちの少なくとも一つを含むことができる。残余信号に対して１次変換を行うと、変換係数が生成でき、変換係数に２次変換を行って２次変換係数を生成することができる。
【０１６６】
一方、残余信号は、量子化過程の一環として変換過程を介して周波数ドメインに変換することができる。この際、行う１次変換は、ＤＣＴ  ｔｙｐｅ２（ＤＣＴ−ＩＩ）の他に、さまざまなＤＣＴ、ＤＳＴカーネルを使用することができ、これらの変換カーネルは、残余信号に対して水平および／または垂直方向に対して１次元変換（１Ｄ  ｔｒａｎｓｆｏｒｍ）をそれぞれ行う分離変換（ｓｅｐａｒａｂｌｅ  ｔｒａｎｓｆｏｒｍ）で変換が行われてもよく、または２次元非分離変換（２Ｄ  Ｎｏｎ−ｓｅｐａｒａｂｌｅ  ｔｒａｎｓｆｏｒｍ）で変換が行われてもよい。
【０１６７】
一例として、変換に使用されるＤＣＴ、ＤＳＴ  ｔｙｐｅは、下記表に示すようにＤＣＴ−ＩＩの他にＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩ、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩＩなどのＤＣＴベース変換及びＤＳＴベース変換のうちの少なくとも一つを１Ｄ変換の際に適応的に使用することができ、例えば、表１及び表２の例のように変換セット（Ｔｒａｎｓｆｏｒｍ  ｓｅｔ）を構成して、変換に使用されたＤＣＴまたはＤＳＴタイプを誘導することができる。
【表１】
2020529766.tif 000003
【表２】
2020529766.tif 000004
【０１６８】
例えば、図４に示すように、画面内予測モードに応じて、水平又は垂直方向に対して互いに異なる変換セット（Ｔｒａｎｓｆｏｒｍ  ｓｅｔ）を定義した後、符号化器／復号化器において、現在符号化／復号化対象ブロックの画面内予測モード及びこれに対応する変換セットに含まれている変換を用いて変換及び／又は逆変換を行うことができる。
【０１６９】
この場合、変換セットは、エントロピー符号化／復号化されるのではなく、符号化器／復号化器で同一のルールに基づいて定義できる。この場合、当該変換セットに属する変換のうちのどの変換が使用されたかを指し示す情報がエントロピー符号化／復号化できる。
【０１７０】
例えば、ブロックのサイズが３２ｘ３２以下である場合、画面内予測モードに応じて、表２の例のように合計３つの変換セットを構成し、水平方向の変換と垂直方向の変換としてそれぞれ３つの変換を用いて合計９つの多重変換方法を組み合わせて行った後、最適の変換方法で残余信号を符号化／復号化することにより、符号化効率を向上させることができる。このとき、一つの変換セットに属する３つの変換のうちどの変換が使用されたかについての情報をエントロピー符号化／復号化するために、切り捨てられた単項（Ｔｒｕｎｃａｔｅｄ  Ｕｎａｒｙ）２値化（Ｂｉｎａｒｉｚａｔｉｏｎ）を使用することもできる。このとき、垂直変換及び水平変換のうちの少なくとも一つに対して、変換セットに属する変換のうちのどの変換が使用されたかを指し示す情報がエントロピー符号化／復号化できる。
【０１７１】
符号化器では、前述した１次変換が完了した後、図５の例のように変換係数（Ｔｒａｎｓｆｏｒｍｅｄ  ｃｏｅｆｆｉｃｉｅｎｔｓ）に対するエネルギー集中度を高めるために２次変換（Ｓｅｃｏｎｄａｒｙ  ｔｒａｎｓｆｏｒｍ）を行うことができる。２次変換も水平及び／又は垂直方向に対して１次元変換をそれぞれ実行する分離変換を行うこともでき、又は２次元非分離変換を行うこともでき、使用された変換情報がシグナリングされるか或いは現在及び周辺符号化情報に応じて符号化器／復号化器で暗黙的に誘導され得る。例えば、１次変換のように２次変換に対する変換セットを定義することができ、変換セットは、エントロピー符号化／復号化されるのではなく、符号化器／復号化器で同一のルールに基づいて定義できる。この場合、当該変換セットに属する変換のうちのどの変換が使用されたかを指し示す情報がシグナリングでき、画面内又は画面間予測による残余信号のうちの少なくとも一つに適用できる。
【０１７２】
変換セット別に変換候補（ｔｒａｎｓｆｏｒｍ  ｃａｎｄｉｄａｔｅｓ）の個数又は種類のうちの少なくとも一つは異なり、変換候補の個数又は種類のうちの少なくとも一つはブロック（ＣＵ、ＰＵ、ＴＵなど）の位置、大きさ、形状、予測モード（ｉｎｔｒａ／ｉｎｔｅｒ  ｍｏｄｅ）、又は画面内予測モードの方向性／非方向性のうちの少なくとも一つを考慮して可変的に決定されることも可能である。
【０１７３】
復号化器では、２次逆変換を行うか否かに応じて２次逆変換を行うことができ、２次逆変換の実行結果に、１次逆変換を行うか否かに応じて１次逆変換を行うことができる。
【０１７４】
前述した１次変換及び２次変換は輝度／色差成分のうちの少なくとも一つの信号成分に適用されるか、或いは任意の符号化ブロックのサイズ／形状に応じて適用でき、任意の符号化ブロックでの使用有無、及び使用された１次変換／２次変換を指し示すインデックスをエントロピー符号化／復号化するか、又は現在／周辺符号化情報のうちの少なくとも一つに基づいて符号化器／復号化器で暗黙的に誘導することができる。
【０１７５】
１次変換及び／又は２次変換が行われた結果または残余信号に量子化を行うことにより、量子化されたレベルを生成することができる。量子化されたレベルは、画面内予測モード又はブロックサイズ／形状のうちの少なくとも一つを基準に、右上側対角スキャニング、垂直スキャニング及び水平スキャニングのうちの少なくとも一つに基づいてスキャンできる。例えば、右上側（ｕｐ−ｒｉｇｈｔ）対角スキャニングを用いてブロックの係数をスキャンすることにより、１次元ベクトル或いは配列形態に変更することができる。変換ブロックのサイズ及び／又は画面内予測モードに応じて右上側対角スキャニングの代わりに、２次元のブロック形状係数を列方向にスキャンする垂直スキャニング、２次元のブロック形状係数を行方向にスキャンする水平スキャニングが使用されてもよい。スキャンされた量子化レベルは、エントロピー符号化されてビットストリームに含まれ得る。
【０１７６】
復号化器では、ビットストリームをエントロピー復号化して量子化レベルを生成することができる。１次元ベクトル或いは配列形態の量子化レベルは、逆スキャン（Ｉｎｖｅｒｓｅ  Ｓｃａｎｎｉｎｇ）されて２次元のブロック形状に整列できる。この際、逆スキャニングの方法として右上側対角スキャニング、垂直スキャニング及び水平スキャニングのうちの少なくとも一つが行われ得る。
【０１７７】
量子化レベルに逆量子化を行うことができ、２次逆変換を行うか否かに応じて２次逆変換を行うことができ、２次逆変換が行われた結果に、１次逆変換を行うか否かに応じて１次逆変換を行うことにより、復元された残余信号が生成できる。
【０１７８】
一例として、現在符号化ブロックのサイズが８ｘ８であるとき、８ｘ８ブロックに対する残余信号は、１次変換、２次変換及び量子化後、４つの４ｘ４サブブロック別に、図６に示された３つのスキャニング順序（Ｓｃａｎｎｉｎｇ  ｏｒｄｅｒ）方法のうちの少なくとも一つに基づいて、量子化された変換係数をスキャンしながら、エントロピー符号化することができる。また、量子化された変換係数を逆スキャンしながら、エントロピー復号化することができる。逆スキャンされた量子化変換係数は、逆量子化後の変換係数になり、２次逆変換又は１次逆変換のうちの少なくとも一つが行われ、復元された残余信号が生成できる。
【０１７９】
以下、図７乃至図１８を参照して、本発明の一実施形態に係る変換係数のスキャニング方法について詳細に説明する。
【０１８０】
符号化器では、現在ブロックの残余信号に対する１次変換の結果として生成される変換係数、１次変換結果に２次変換をさらに行うことにより生成される変換係数、又は量子化を行うことにより生成される係数のうちの一つ以上をスキャニング単位及びスキャニング順序に基づいてスキャン（Ｓｃａｎ）することができる。
【０１８１】
本明細書では、１次変換の出力、２次変換の出力、量子化の出力、１次及び２次変換の出力、１次変換及び量子化の出力、１次及び２次変換及び量子化の出力を変換係数と通称することができる。ここで、変換なしに量子化のみ行われた結果である係数に対しても、便宜上、変換係数と総称する。
【０１８２】
復号化器では、エントロピー復号化された変換係数を逆変換の実行前に一つ以上のスキャニング単位及びスキャニング順序に基づいて逆スキャン（Ｉｎｖｅｒｓｅ  Ｓｃａｎ）することができる。ここで、変換係数は、エントロピー復号化及び／又は逆量子化された変換係数であり得る。
【０１８３】
以下、符号化器を基準に変換係数のスキャニング単位及びスキャニング順序について説明するが、復号化器でも符号化器と同様の方法で変換係数の逆スキャニング単位及び逆スキャニング順序が説明できる。
【０１８４】
符号化器における変換係数は量子化されてスキャンできる。このとき、スキャンされた変換係数は、符号化器でエントロピー符号化することができる。
【０１８５】
復号化器では、エントロピー復号化された変換係数を逆スキャン（Ｉｎｖｅｒｓｅ  Ｓｃａｎ）してブロック形状に整列することができる。ブロック形状に整列された変換係数には、逆量子化、２次逆変換、２次逆変換後の１次逆変換、又は１次逆変換を行うことができる。この際、ブロック形状に整列された変換係数は、逆量子化された後、逆変換（２次逆変換及び／又は１次逆変換）が行われ得る。逆変換された変換係数は、現在ブロックの復元された残余信号になることができる。
【０１８６】
本明細書では、逆量子化の入力、２次逆変換の入力、１次逆変換の入力、１次及び２次逆変換の入力、逆量子化及び１次逆変換の入力、逆量子化及び１次及び２次逆変換の入力を変換係数と総称することができる。ここで、変換なしに逆量子化の入力である係数に対しても、便宜上、変換係数と総称する。
【０１８７】
以下、スキャン（ｓｃａｎ）又はスキャニング（ｓｃａｎｎｉｎｇ）は、符号化器／復号化器でスキャン或いは逆スキャンすることを意味する場合がある。また、復号化器での逆スキャンをスキャンと表現することもできる。そして、スキャニング順序は、スキャニング方法を意味する場合もある。このとき、スキャニング順序は、対角スキャニング、垂直スキャニング及び水平スキャニングのうちの少なくとも一つのスキャニングを指示することができる。また、スキャニング順序は、前記スキャニングに限定されるものではなく、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング、右上側（ｕｐ−ｒｉｇｈｔ）対角スキャニング、及び左下側（ｄｏｗｎ−ｌｅｆｔ）対角スキャニングなどのうちの少なくとも一つを含むことができる。
【０１８８】
また、個別係数は、変換係数それぞれを意味することができる。
【０１８９】
また、本明細書において、第１垂直優先スキャニング、第２垂直優先スキャニング、第１水平優先スキャニング、第２水平優先スキャニングはそれぞれ、第１垂直優先スキャニング順序、第２垂直優先スキャニング順序、第１水平優先スキャニング順序、及び第２水平優先スキャニング順序を意味することができる。
【０１９０】
また、前記第１（又は第２）垂直優先スキャニングは、一番目の列（又は一番目の列と二番目の列）を優先的にスキャンすることに限定されず、選択された一つ（又は二つの）の列を優先的にスキャンすることができる。
【０１９１】
また、前記第１（又は第２）水平優先スキャニングは、一番目の行（又は一番目の行と二番目の行）を優先的にスキャンすることに限定されず、選択された一つ（又は二つの）の行を優先的にスキャンすることができる。ここで、優先的にスキャンされる列又は行の選択は、ビットストリームによってシグナリングされる情報、符号化器／復号化器で予め定められた情報、符号化パラメータ及びルックアップテーブルのうちの少なくとも一つに基づいて行われ得る。又は、選択された任意のＮ個の行又は列を他の行又は列に優先してスキャンするか、或いは他の行又は列の後順位でスキャンすることもできる。
【０１９２】
本発明の一実施形態に係るスキャニング順序の開始位置及び終了位置はそれぞれブロックの左上側及び右下側と定義することができる。又は、その逆に、スキャニング順序の開始位置及び終了位置はそれぞれブロックの右下側及び左上側と定義することもできる。例えば、符号化器と復号化器でブロック内における左上側位置を開始位置とし、右下側位置を終了位置とするスキャニング順序を定義するが、変換係数のエントロピー符号化／復号化の際には、当該スキャニング順序の逆順にスキャニングを行うことができる。これと同様に、例えば、符号化器と復号化器でブロック内における右下側位置を開始位置とし、左上側位置を終了位置とするスキャニング順序を定義するが、変換係数のエントロピー符号化／復号化の際には、当該スキャニング順序の逆順にスキャニングを行うことができる。
【０１９３】
一方、本発明に係るスキャニング順序の開始位置及び終了位置は、上記の例に限定されず、ブロック内の任意の２つのピクセルの位置をスキャニング順序の開始位置及び終了位置として決定することもできる。一例として、前記任意の二つのピクセルのうちの少なくとも一つは、コーナーピクセルであり得る。
【０１９４】
現在ブロック内の固定されたサイズ（例えば、４ｘ４の正方形サブブロック）に属する係数は、一つの係数グループ（Ｃｏｅｆｆｉｃｉｅｎｔ  Ｇｒｏｕｐ、ＣＧ）として決定できる。すなわち、変換係数をエントロピー符号化／復号化するために、現在ブロック内のＮ個の係数を１つのグループとする係数グループを定義することができる。このとき、Ｎは０以上の正の整数であり得る。例えば、Ｎは１６であり得る。また、前記係数グループのサイズはＪｘＫのサイズを持つことができ、合計ＪｘＫ個の係数が一つの係数グループに含まれ得る。ここで、Ｊ及びＫは正の整数であり、互いに異なる値を持ってもよく、同じ値を持ってもよい。また、前記Ｊ及びＫのうちの少なくとも一つは、符号化器から復号化器へシグナリングされる情報であるか、或いは符号化器／復号化器で予め設定された値であり得る。
【０１９５】
一方、変換係数をエントロピー符号化／復号化するためのフラグ（Ｆｌａｇ）、及び／又は構文要素（Ｓｙｎｔａｘ  ｅｌｅｍｅｎｔ）が係数グループ単位又は個別係数単位ごとに決定できる。すなわち、変換係数に対するフラグ及び／又は構文要素のうちの少なくとも一つは、係数グループ単位又は個別係数単位でエントロピー符号化／復号化できる。
【０１９６】
ここで、フラグ及び／又は構文要素は、ｃｏｄｅｄ＿ｓｕｂ＿ｂｌｏｃｋ＿ｆｌａｇ（以下、ＣＳＢＦ）、ｓｉｇ＿ｃｏｅｆｆ＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ１＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ２＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ３＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ４＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ５＿ｆｌａｇ、ｃｏｅｆｆ＿ｓｉｇｎ＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｒｅｍａｉｎｉｎｇ＿ｖａｌｕｅのうちの少なくとも一つを含むことができる。
【０１９７】
ｃｏｄｅｄ＿ｓｕｂ＿ｂｌｏｃｋ＿ｆｌａｇは、各ＣＧに０ではない変換係数が一つでも存在するかについて指示する構文要素であり得る。
【０１９８】
ｓｉｇ＿ｃｏｅｆｆ＿ｆｌａｇは、変換係数が０であるか否かを指示する構文要素であり得る。
【０１９９】
ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ１＿ｆｌａｇは、変換係数の絶対値が１よりも大きいか否かを指示する構文要素であり得る。
【０２００】
ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ２＿ｆｌａｇは、変換係数の絶対値が２よりも大きいか否かを指示する構文要素であり得る。
【０２０１】
ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ３＿ｆｌａｇは、変換係数の絶対値が３よりも大きいか否かを指示する構文要素であり得る。
【０２０２】
ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ４＿ｆｌａｇは、変換係数の絶対値が４よりも大きいか否かを指示する構文要素であり得る。
【０２０３】
ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ５＿ｆｌａｇは、変換係数の絶対値が５よりも大きいか否かを指示する構文要素であり得る。
【０２０４】
ｃｏｅｆｆ＿ｓｉｇｎ＿ｆｌａｇは、変換係数の符号（ｓｉｇｎ）を指示する構文要素であり得る。
【０２０５】
ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｒｅｍａｉｎｉｎｇ＿ｖａｌｕｅは、変換係数の絶対値がＮよりも大きい場合、変換係数の絶対値からＮを減算した値を指示する構文要素であり得る。ここで、Ｎは正の整数であり得る。
【０２０６】
例えば、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ１＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ２＿ｆｌａｇがエントロピー符号化／復号化される場合の前記ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｒｅｍａｉｎｉｎｇ＿ｖａｌｕｅは、変換係数の絶対値が３よりも大きい場合の変換係数の絶対値から３を減算した値を指示する構文要素であり得る。
【０２０７】
別の例として、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ１＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ２＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ３＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ４＿ｆｌａｇ、ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｇｒｅａｔｅｒ５＿ｆｌａｇがエントロピー符号化／復号化される場合の前記ｃｏｅｆｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｒｅｍａｉｎｉｎｇ＿ｖａｌｕｅは、変換係数の絶対値が６よりも大きい場合の変換係数の絶対値から６を減算した値を指示する構文要素であり得る。
【０２０８】
一方、以下で説明するスキャニング順序を用いて現在ブロック内の変換係数をスキャンしながら変換係数をエントロピー符号化／復号化するためのフラグ及び構文要素のうちの少なくとも一つがエントロピー符号化／復号化できる。
【０２０９】
そして、変換係数をエントロピー符号化／復号化するためのフラグ及び構文要素のうちの少なくとも一つは、互いに異なるスキャニング順序に基づいてスキャンされてエントロピー符号化されるか、或いはエントロピー復号化されてスキャンされることも可能である。この際、変換係数をエントロピー符号化／復号化するためのフラグ及び構文要素のうちの少なくとも一つのスキャニング順序は、現在ブロックの符号化パラメータに基づいて決定できる。
【０２１０】
一方、スキャニングの対象となる変換係数は、量子化された変換係数レベル（Ｑｕａｎｔｉｚｅｄ  Ｔｒａｎｓｆｏｒｍｅｄ  Ｃｏｅｆｆｉｃｉｅｎｔ  Ｌｅｖｅｌ）、変換係数（Ｔｒａｎｓｆｏｒｍ  Ｃｏｅｆｆｉｃｉｅｎｔ）、量子化されたレベル（Ｑｕａｎｔｉｚｅｄ  Ｌｅｖｅｌ）、及び残余信号係数のうちの少なくとも一つを意味することができる。
【０２１１】
また、変換係数に対するスキャニング順序のうちの少なくとも一つを用いて、量子化行列（Ｑｕａｎｔｉｚａｔｉｏｎ  Ｍａｔｒｉｘ或いはＳｃａｌｉｎｇ  Ｌｉｓｔ）に対してもスキャニングを行うことができる。この場合、変換係数に適用されるスキャニング順序と量子化行列に適用されるスキャニング順序は、互いに対応することができる。すなわち、前記二つのスキャニング順序のうちのいずれか一方は、もう一方に基づいて誘導できる。例えば、両者は同一であってもよく、所定の方法によって誘導されることにより互いに異なってもよい。
【０２１２】
また、以下、便宜上、符号化器でスキャンを行う方法について説明するが、これに限定されるものではなく、復号化器でも、符号化器でスキャンを行う方法に基づいて逆スキャンを行うことができる。
【０２１３】
次に、スキャニング単位について説明する。
【０２１４】
変換係数は、一つ以上のスキャニング単位でスキャンできる。本発明の一実施形態に係る変換係数のスキャニング単位は、領域単位、係数グループ単位、個別係数単位、及び混合単位のうちのいずれかであり得る。ここで、領域単位でスキャニングが行われることは、現在ブロックを含むブロックのうちの少なくとも一つが含まれている領域内の変換係数それぞれに対してスキャニングが行われることを意味することができる。このとき、領域のサイズは、現在ブロックのサイズと同じかそれより大きい。このとき、領域単位でスキャニングを行うときに領域内で係数グループ単位に区分した後、各係数グループ間でスキャニングが行われてもよく、各係数グループ内に存在する変換係数に対して行われてもよい。係数グループ単位でスキャニングが行われることは、現在ブロックを少なくとも一つの係数グループに区分した後、各係数グループ間でスキャニングが行われ、各係数グループ内に存在する変換係数に対してスキャニングが行われることを意味する。すなわち、係数グループ単位スキャニングは、係数グループ間でスキャニングを行うことができ、係数グループ内の変換係数に対してスキャニングを行うことができることを意味する。そして、個別係数単位でスキャニングが行われることは、係数グループを使用せずに、現在ブロック内の変換係数それぞれに対してスキャニングが行われることを意味することができる。
【０２１５】
一例として、現在ブロック内の変換係数は、２Ｎｘ２Ｎ、２ＮｘＮ、Ｎｘ２Ｎ、３ＮｘＮ、Ｎｘ３Ｎ、３Ｎｘ２Ｎ、２Ｎｘ３Ｎ、４ＮｘＮ、Ｎｘ４Ｎ、４Ｎｘ３Ｎ、３Ｎｘ４Ｎ、８ＮｘＮ、Ｎｘ８Ｎ、８Ｎｘ７Ｎ、７Ｎｘ８Ｎ（Ｎは１以上の整数）のサイズまたは形状のうちの一つ以上の係数グループ単位でスキャンされるか、或いは個別係数単位でスキャンされ得る。ここで、形態は、ブロックの形状が正方形、非正方形、縦方向に長さが長い非正方形、及び横方向に長さが長い非正方形のうちの少なくとも一つを意味することができる。
【０２１６】
スキャニング単位は、現在ブロックのサイズに基づいて決定できる。
【０２１７】
具体的には、スキャニング単位は、現在ブロックのサイズと所定のしきい値との比較に基づいて決定できる。ここで、所定のしきい値は、スキャニング単位を決定する基準サイズを意味することができ、最小値又は最大値のうちの少なくとも一つで表現できる。
【０２１８】
一方、所定のしきい値は、符号化器／復号化器に予め定められた固定値であってもよく、現在ブロックの符号化／復号化関連パラメータ（例えば、予測モード（画面間予測又は画面内予測など）、画面内予測モード、１次変換及び２次変換のうちの少なくとも一つを行うか否か、変換タイプ、スキャニング順序など）に基づいて可変的に誘導されてもよく、ビットストリーム（例えば、シーケンス、ピクチャ、スライス、タイル、ＣＴＵ、ブロックレベルなど）を介してシグナリングされてもよい。
【０２１９】
一例として、横長さと縦長さとの積がＮ（例えば、Ｎ＝２５６）以上であるブロックは、係数グループ単位でスキャンし、そうでないブロックは、個別係数単位でスキャンすることができる。
【０２２０】
他の例として、横長さ及び縦長さのうちの最小の長さがＭ（例えば、Ｍ＝８）以上であるブロックは、係数グループ単位でスキャンし、そうでないブロックは、個別係数単位でスキャンすることができる。しかし、上記の例に限定されず、例えば、前記しきい値（Ｎ又はＭ）以下のブロックを係数グループ単位でスキャンし、そうでないブロックは個別係数単位でスキャンすることもできる。
【０２２１】
一方、スキャニング単位は、現在ブロックの形状に基づいて決定できる。
【０２２２】
一例として、現在ブロックが長方形の形状であるとき、個別係数単位でスキャンすることができる。
【０２２３】
他の例として、現在ブロックが正方形の形状であるとき、係数グループ単位でスキャンすることができる。しかし、上記の例に限定されず、例えば、長方形の現在ブロックを係数グループ単位でスキャンし、正方形の現在ブロックを個別係数単位でスキャンすることもできる。
【０２２４】
一方、スキャニング単位の決定は、現在ブロックの画面内予測モードに基づいて決定できる。このとき、画面内予測モードの値自体が考慮されてもよく、画面内予測モードが非方向性モード（ＤＣモード或いはＰｌａｎａｒモード）であるか否か又は画面内予測モードの方向性（例えば、垂直方向或いは水平方向）が考慮されてもよい。
【０２２５】
一例として、現在ブロックの画面内予測モードがＤＣモード及びＰｌａｎａｒモードのうちの少なくとも一つである場合には、係数グループ単位でスキャンすることができる。
【０２２６】
他の例として、現在ブロックの画面内予測モードが垂直モードである場合、個別係数単位でスキャンすることができる。
【０２２７】
別の例として、現在ブロックの画面内予測モードが水平モードである場合は、個別係数単位でスキャンすることができる。しかし、上記の例に限定されず、例えば、非方向性モードの場合には個別係数単位でスキャンし、垂直モード又は水平モードの場合には係数グループ単位でスキャンすることもできる。
【０２２８】
一方、スキャニング単位に関する情報は、符号化器から復号化器へシグナリングできる。これにより、復号化器は、シグナリングされたスキャニング単位に関する情報を用いて現在ブロックのスキャニング単位を決定することもできる。
【０２２９】
図７乃至図９は本発明の一実施形態に係るスキャニング単位を説明するための図である。
【０２３０】
スキャニング単位は、現在ブロックのサイズ及び／又は形状に応じて、予め定義された固定サイズの係数グループ単位或いは個別係数単位で決定されてもよい。例えば、現在ブロックと同じ横：縦の比率を有する単一係数グループが使用できる。
【０２３１】
係数グループ単位の大きさは、現在ブロックの横：縦の比率に基づいて決定できる。そして、現在ブロック内の変換係数は同じ係数グループ単位でスキャンできる。ここで、同じ係数グループ単位とは、係数グループ単位のサイズ及び係数グループ単位の形状のうちの少なくとも一つが同一であることを意味することができる。
【０２３２】
一例として、サイズ１６ｘ１６の現在ブロック内の変換係数を８ｘ８の同じ係数グループ単位でスキャンすることができる。
【０２３３】
一例として、サイズ８ｘ１６の現在ブロック内の変換係数を４ｘ８の同じ係数グループ単位でスキャンすることができる。
【０２３４】
一例として、サイズ１６ｘ８の現在ブロック内の変換係数を８ｘ４の同じ係数グループ単位でスキャンすることができる。
【０２３５】
一例として、図７の（ａ）に示すように、サイズ１６ｘ１６の現在ブロック内の変換係数を４ｘ４の同じ係数グループ単位でスキャンすることができる。
【０２３６】
一例として、図７の（ｂ）に示すように、サイズ８ｘ１６の現在ブロック内の変換係数を２ｘ４の同じ係数グループ単位でスキャンすることができる。
【０２３７】
一例として、図７の（ｃ）に示すように、サイズ１６ｘ８の現在ブロック内の変換係数を４ｘ２の同じ係数グループ単位でスキャンすることができる。
【０２３８】
一方、現在ブロック内の変換係数は、互いに異なる係数グループ単位でもスキャンできる。ここで、互いに異なる係数グループ単位とは、係数グループ単位のサイズ及び係数グループ単位の形状のうちの少なくとも一つが互いに異なることを意味することができる。
【０２３９】
一例として、図８に示すようにサイズ８ｘ１６の現在ブロック内の変換係数を一つの８ｘ８係数グループ、２つの４ｘ４係数グループ、８つの２ｘ２係数グループに分割してスキャンすることができる。
【０２４０】
一方、係数グループ単位のサイズ情報は、符号化器から復号化器へシグナリングできる。これにより、復号化器は、シグナリングされた係数グループ単位のサイズ情報を用いて現在ブロックのスキャニング単位を決定することもできる。
【０２４１】
一方、現在ブロック内の変換係数は、個別係数単位でスキャンできる。ここで、個別係数単位でスキャンされるというのは、現在ブロックを係数グループに分割せずに、現在ブロック全体に対する変換係数をスキャンすることを意味することができる。
【０２４２】
一例として、図９の（ａ）に示すように、サイズ１６ｘ８の現在ブロック内の変換係数をすべて個別係数単位でスキャンすることができる。
【０２４３】
一方、現在ブロック内の変換係数は混合単位でスキャンできる。ここで、混合単位でスキャンされるというのは、現在ブロック内の変換係数のうち、一部の領域に属する係数は係数グループ単位でスキャンされ、残りの領域に属する係数は個別係数単位でスキャンされることを意味することができる。
【０２４４】
一例として、図９の（ｂ）に示すようにサイズ１６ｘ８の現在ブロック内の変換係数のうち、左上側の４ｘ４領域に属する変換係数を４ｘ４係数グループ単位でスキャンし、残りの領域に属する変換係数を個別係数単位でスキャンすることができる。
【０２４５】
しかし、上記の例に限定されず、一部の領域のサイズ及び／又は形状は、現在ブロックのサイズ及び／又は形状に基づいて誘導されることも可能である。一例として、現在ブロックが１６ｘ８ブロックである場合には、前記一部の領域は８ｘ４のブロックであり得る。
【０２４６】
又は、一部の領域の横長さ及び縦長さのうちの少なくとも一つが、現在ブロックの横長さ及び縦長さのうちの少なくとも一つに基づいて誘導できる。
【０２４７】
又は、一部の領域のサイズ及び／又は形状を指示する情報がエントロピー符号化／復号化できる。
【０２４８】
又は、一部の領域のサイズ及び／又は形状は、現在ブロック及び／又は少なくとも一つの周辺ブロックの情報から誘導できる。
【０２４９】
また、一部の領域の位置は、現在ブロックの左上側に限定されず、現在ブロックの任意の位置であり得る。一例として、一部の領域は現在ブロックの左下側、右上側又は右下側などのコーナーに位置することができる。
【０２５０】
一方、一部の領域の位置は、現在ブロックのサイズ、形状、深さ、予測モード、画面内予測モードなどを含む符号化パラメータのうちの少なくとも一つに基づいて誘導できる。又は、一部の領域の位置に関する情報は、符号化器から復号化器へシグナリングされるか、或いは現在ブロック及び／又は少なくとも一つの周辺ブロックの情報から誘導され得る。
【０２５１】
次に、スキャニング順序について説明する。
【０２５２】
変換係数は、一つ以上のスキャニング順序に従ってスキャンできる。変換係数グループ単位及び／又は個別係数単位のスキャニングの際に、少なくとも一つのスキャニング順序に従って現在ブロック内の変換係数に対して係数グループ間のスキャニング及び／又は係数グループ内のスキャニングを行うことができる。この際、現在ブロック内の変換係数の全部又は一部に対してスキャニングを行うことができる。
【０２５３】
本発明の一実施形態に係る変換係数のスキャニング順序（Ｓｃａｎｉｎｇ  ｏｒｄｅｒ）は、図６に示した対角（ｄｉａｇｏｎａｌ）スキャニング順序、水平（ｈｏｒｉｚｏｎｔａｌ）スキャニング順序、垂直（ｖｅｒｔｉｃａｌ）スキャニング順序、及び図１０に示した第１混合対角スキャニング順序、第２混合対角スキャニング順序、左下側対角スキャニング順序、第１垂直優先スキャニング順序、第２垂直優先スキャニング順序、第１水平優先スキャニング順序及び第２水平優先スキャニング順序のうちの１つ以上のスキャニング順序を用いて、個別係数及び／又は変換係数グループ単位で変換係数をスキャンすることができる。ここで、図６に示した対角スキャニング順序は右上側対角スキャニング順序を意味することができる。
【０２５４】
スキャニング順序は、現在ブロックの形状（正方形又は非正方形）に基づいて決定できる。ここで、現在ブロックの形状は、現在ブロックの横：縦の比率で表現できる。すなわち、現在ブロックの横長さと縦長さとの比較に基づいてスキャニング順序を決定することができる。この際、現在ブロック内の変換係数の全部又は一部に対してスキャニングを行うことができる。
【０２５５】
一例として、現在ブロックが正方形の形状である場合には、右上側対角スキャニング順序又は左下側対角スキャニング順序のうちのいずれかでスキャンし、横長さよりも縦長さが大きいブロックである場合には、垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のいずれかでスキャンし、横長さよりも縦長さが小さいブロックである場合には、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれかでスキャンすることができる。
【０２５６】
別の例として、現在ブロックが正方形の形状である場合には、右上側対角スキャニング順序又は左下側対角スキャニング順序のうちのいずれかでスキャンし、横長さよりも縦長さが大きいブロックである場合には、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のいずれかでスキャンし、横長さよりも縦長さが小さいブロックである場合には、垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のいずれかでスキャンすることができる。一方、上記の例に限定されず、例えば、現在ブロックが非正方形（長方形）である場合の利用可能なスキャニング順序と、現在ブロックが正方形（正方形）である場合の利用可能なスキャニング順序は、上記の例とは逆になるか、或いは上記の例とは異なり得る。
【０２５７】
別の例として、現在ブロックが長方形（非正方形）の形状である場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちの少なくとも一つに基づいてスキャンできる。
【０２５８】
別の例として、現在ブロックが正方形（正方形）の形状である場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちの少なくとも一つに基づいてスキャンできる。しかし、上記の例に限定されず、例えば、現在ブロックが長方形の形状である場合の利用可能なスキャニング順序と、現在ブロックが正方形の形状である場合の利用可能なスキャニング順序は、上記の例とは逆になるか、或いは上記の例とは異なり得る。
【０２５９】
図１１乃至図１３は係数グループ単位のスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングとの関係を説明するための図である。係数グループ単位のスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングに同じスキャニング順序を用いてスキャンすることができる。
【０２６０】
一例として、図１１に示すように、サイズ１６ｘ１６の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、右上側対角スキャニング順序に従って係数グループ内の係数と係数グループ単位のスキャニングを行うことができる。
【０２６１】
他の例として、図１２に示すように、サイズ８ｘ１６の現在ブロック内の変換係数を２ｘ４の係数グループ単位でスキャンする場合、垂直スキャニング順序に従って係数グループ内の係数と係数グループ単位のスキャニングを行うことができる。
【０２６２】
別の例として、図１３に示すように、サイズ１６ｘ８の現在ブロック内の変換係数を４ｘ２の係数グループ単位でスキャンする場合、水平スキャニング順序に従って係数グループ内の係数と係数グループ単位のスキャニングを行うことができる。
【０２６３】
別の例として、サイズ８ｘ８の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、左下側対角スキャニング順序に従って係数グループ内の係数と係数グループ単位のスキャニングを行うことができる。
【０２６４】
別の例として、サイズ４ｘ８の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、第１垂直優先スキャニング順序に従って係数グループ内の係数と係数グループ単位のスキャニングを行うことができる。
【０２６５】
別の例として、サイズ８ｘ４の現在ブロック内の変換係数を４ｘ２の係数グループ単位でスキャンする場合、第１水平優先スキャニング順序に従って係数グループ内の係数と係数グループ単位間のスキャニングを行うことができる。
【０２６６】
上記とは逆に、係数グループ単位のスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングに互いに異なる種類のスキャニング順序を用いてスキャンすることもできる。
【０２６７】
一例として、サイズ１６ｘ１６の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、右上側対角スキャニング順序に従って係数グループ内の係数をスキャンし、水平又は垂直スキャニング順序に従って係数グループ単位をスキャンすることができる。
【０２６８】
他の例として、サイズ８ｘ１６の現在ブロック内の変換係数を２ｘ４の係数グループ単位でスキャンする場合、垂直スキャニング順序に従って係数グループ内の係数をスキャンし、右上側対角又は水平スキャニング順序に従って係数グループ単位をスキャンすることができる。
【０２６９】
別の例として、サイズ１６ｘ８の現在ブロック内の変換係数を４ｘ２の係数グループ単位でスキャンする場合、水平スキャニング順序に従って係数グループ内の係数をスキャンし、右上側対角又は垂直スキャニング順序に従って係数グループ単位をスキャンすることができる。
【０２７０】
別の例として、サイズ８ｘ８の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、左下側対角スキャニング順序に従って係数グループ内の係数をスキャンし、右上側対角スキャニング順序に従って係数グループ単位をスキャンすることができる。
【０２７１】
別の例として、サイズ４ｘ８の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、第１垂直優先スキャニング又は第２垂直優先スキャニング順序に従って係数グループ内の係数をスキャンし、右上側対角又は左下側対角スキャニング順序に従って係数グループ単位をスキャンすることができる。
【０２７２】
別の例として、サイズ８ｘ４の現在ブロック内の変換係数を４ｘ４の係数グループ単位でスキャンする場合、第１水平優先スキャニング又は第２水平優先スキャニング順序に従って係数グループ内の係数をスキャンし、右上側対角又は左下側対角スキャニング順序に従って係数グループ単位をスキャンすることができる。
【０２７３】
一方、係数グループスキャニング時における係数グループ内のスキャニングと係数グループ間のスキャニングに互いに異なるスキャニング順序が使用できるか否かを指示する情報は、上位レベルの単位で符号化器から復号化器へシグナリングできる。ここで、上位レベルの単位は、例えば、ビデオパラメータセット（ＶＰＳ）、シーケンスパラメータセット（ＳＰＳ）、ピクチャパラメータセット（ＰＰＳ）タイル、スライス、タイル及びＣＴＵのうちの一つ以上であり得る。また、コーティングツリーユニット、コーディングユニット、予測ユニット、変換ユニットなどのブロック単位で互いに異なる種類のスキャニング順序が使用されたか否かについての情報をエントロピー符号化／復号化することができる。一例として、係数グループスキャニング時における、係数グループ内のスキャニングと係数グループ間のスキャニングに互いに異なるスキャニング順序が使用できるか否かを指示する情報は、フラグ形式で表示できる。
【０２７４】
一方、個別係数単位スキャニングの際に１つのスキャニング順序に従って現在ブロック内の変換係数の全部又は一部がスキャンできる。
【０２７５】
個別係数単位スキャニングの際にも、スキャニング順序は、現在ブロックの形状に基づいて決定できる。ここで、現在ブロックの形状は、現在ブロックの横：縦の比率で表現できる。すなわち、現在ブロックの横長さと縦長さとの比較に基づいてスキャニング順序を決定することができる。
【０２７６】
他の例として、図１４の（ａ）に示すようにサイズ８ｘ８の現在ブロック内の変換係数を右上側対角スキャニング順序又は左下側対角スキャニング順序のうちのいずれかを用いて個別係数単位でスキャンし、図１４の（ｂ）に示すようにサイズ４ｘ８の現在ブロック内の変換係数を垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれかを用いて個別係数単位でスキャンし、図１４（ｃ）に示すようにサイズ８ｘ４の現在ブロック内の変換係数を水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれかを用いて個別係数単位でスキャンすることができる。
【０２７７】
また、図１４では示していないが、現在ブロックが正方形の形状である場合、現在ブロック内の変換係数を右上側対角スキャニング順序又は左下側対角スキャニング順序のうちのいずれかを用いて個別係数単位でスキャンし、現在ブロックの横長さよりも縦長さが大きい非正方形の形状である場合、現在ブロック内の変換係数を水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれかを用いて個別係数単位でスキャンし、現在ブロックの横長さよりも縦長さが小さい非正方形の形状である場合、現在ブロック内の変換係数を垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれかを用いて個別係数単位でスキャンすることができる。
【０２７８】
一方、変換係数スキャニングの際に、現在ブロックのサイズ及び／又は形状に応じてマッピングされたスキャニング順序が用いられてもよい。ここで、形状は正方形であるか否か、横方向に長さが長い非正方形、或いは縦方向に長さが長い非正方形であるか否かなどを意味することができる。
【０２７９】
一方、スキャニング順序は、現在ブロックのサイズに基づいて決定できる。
【０２８０】
具体的には、スキャニング順序は、現在ブロックのサイズと所定のしきい値との比較に基づいて決定できる。ここで、所定のしきい値は、スキャニング単位を決定する基準サイズを意味することができ、最小値又は最大値のうちの少なくとも一つで表現できる。
【０２８１】
一方、所定のしきい値は、符号化器／復号化器に予め定められた固定値であってもよく、現在ブロックの符号化／復号化関連パラメータ（例えば、予測モード、画面内予測モード、変換タイプ、スキャニング順序など）に基づいて可変的に誘導されてもよく、ビットストリーム（例えば、シーケンス、ピクチャ、スライス、タイル、ＣＴＵ、ブロックレベルなど）を介してシグナリングされてもよい。この際、現在ブロック内の変換係数の全部又は一部に対してスキャニングを行うことができる。
【０２８２】
一例として、横長さと縦長さとの積が２５６以上であるブロックの場合には、変換係数グループ又は個別係数は、右上側対角スキャニング順序又は左下側対角スキャニング順序のうちのいずれかに従ってスキャンされ、そうでないブロックの場合には、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれか、或いは垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれかでスキャンできる。一方、横長さと縦長さの積と比較されるしきい値は２５６に限定されない。ここで、しきい値は、例えば任意の正の整数であり得る。又はＮ（Ｎは正の整数）個のしきい値が存在することができる。Ｎ個のしきい値が存在する場合には、Ｎ＋１個の区間のうち、現在ブロックの属する区間に対応するスキャニング順序が現在ブロックに適用できる。
【０２８３】
他の例として、横長さと縦長さのうちの最小の長さが８以下であるブロックの場合には、変換係数グループ又は個別係数は、右上側対角スキャニング順序又は左下側対角スキャニング順序のうちのいずれかに従ってスキャンされ、そうでないブロックの場合には、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれか、或いは垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のいずれかでスキャンできる。一方、横長さと縦長さのうちの最小の長さと比較されるしきい値は８に限定されない。前記しきい値は、例えば任意の正の整数であり得る。又は、Ｎ（Ｎは正の整数）個のしきい値が存在することができる。Ｎ個のしきい値が存在する場合には、Ｎ＋１個の区間のうち、現在ブロックの属する区間に対応するスキャニング順序が現在ブロックに適用できる。
【０２８４】
別の例として、現在ブロックのサイズがもはや分割できない最小ブロックサイズである場合には、所定のスキャニング順序が適用できる。前記所定のスキャニング順序は、例えば、右上側対角スキャニング或いは左下側対角スキャニング順序であり得る。前記最小ブロックサイズに関する情報は、例えば、ＶＰＳ、ＳＰＳ、ＰＰＳ、スライス、タイル、ＣＴＵ及びブロックのうちの少なくとも一つの単位でシグナリングできる。
【０２８５】
一方、現在ブロックの深さに基づいてスキャニング順序が決定できる。
【０２８６】
スキャニング順序は、現在ブロックの深さと所定のしきい値との比較に基づいて決定できる。所定のしきい値は、スキャニング順序を決定する基準サイズまたは深さを意味する。これは、最小値及び最大値のうちの少なくとも一つで表現できる。所定のしきい値は、符号化器／復号化器に予め定められた固定値であってもよく、現在ブロックの符号化／復号化パラメータ（例えば、予測モード、画面内予測モード、変換タイプ、スキャニング順序など）に基づいて可変的に誘導されてもよく、ビットストリーム（例えば、シーケンス、ピクチャ、スライス、タイル、ＣＴＵ、ブロックレベルなど）を介してシグナリングされてもよい。この際、現在ブロック内の変換係数の全部又は一部に対してスキャニングを行うことができる。
【０２８７】
一例として、現在ブロックの深さが０である場合には、変換係数グループ又は個別係数は、右上側対角スキャニング順序又は左下側対角スキャニング順序に従ってスキャンされ、現在ブロックの深さが０ではない場合には、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちの少なくとも一つでスキャンできる。
【０２８８】
他の例として、現在ブロックの深さが１と同じかそれより小さい場合には、変換係数グループ又は個別係数は、右上側対角スキャニング順序又は左下側対角スキャニング順序に従ってスキャンされ、現在ブロックの深さが１よりも大きい場合には、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちのいずれかでスキャンできる。一方、現在ブロックの深さと比較されるしきい値は、前記０又は１に限定されない。ここで、しきい値は、例えば、０以上の正の整数であり得る。又は、Ｎ（Ｎは正の整数）個のしきい値が存在することができる。Ｎ個のしきい値が存在する場合、Ｎ＋１個の区間のうち、現在ブロックの属する区間に対応するスキャニング順序が現在ブロックに適用できる。
【０２８９】
別の例として、現在ブロックの深さがもはや分割できない最大分割深さである場合には、所定のスキャニング順序が適用できる。ここで、所定のスキャニング順序は、例えば、対角スキャニング順序であり得る。そして、最大分割深さに関する情報は、例えば、ＶＰＳ、ＳＰＳ、ＰＰＳ、スライス、タイル、ＣＴＵ及びブロックのうちの少なくとも一つの単位でシグナリングできる。
【０２９０】
一方、スキャニング順序は、現在ブロックの画面内予測モードに基づいて決定できる。このとき、画面内予測モードの値そのものを考慮してもよく、画面内予測モードが非方向性モードであるか否か又は画面内予測モードの方向性（例えば、垂直方向或いは水平方向）を考慮してもよい。この際、現在ブロック内の変換係数の全部又は一部に対してスキャニングを行うことができる。
【０２９１】
一例として、現在ブロックの画面内予測モードがＤＣモード及びＰｌａｎａｒモードのうちの少なくとも一つである場合には、変換係数グループ又は個別係数は、右上側対角スキャニング順序又は左下側対角スキャニング順序のいずれかに従ってスキャンできる。
【０２９２】
他の例として、現在ブロックの画面内予測モードが垂直モードである場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちのいずれかに従ってスキャンできる。
【０２９３】
別の例として、現在ブロックの画面内予測モードが水平モードである場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちのいずれかに従ってスキャンできる。
【０２９４】
別の例として、現在ブロックの画面内予測モードが垂直モード又は水平モードである場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちの少なくとも一つに従ってスキャンできる。
【０２９５】
別の例として、現在ブロックの画面内予測モードが垂直モード又は水平モードに隣接するＫ個のモードに含まれる場合、変換係数グループ又は個別係数は、水平スキャニング順序及び左下側対角スキャニング順序のうちの少なくとも一に従ってスキャンできる。ここで、Ｋは１以上の正数であり得る。この場合、垂直モード又は水平モードに隣接するＫ個のモードは、垂直モード或いは水平モードが指示する特定の画面内予測モードの値に−Ｋ／２乃至Ｋ／２の値を加えた値に該当する画面内予測モードであり得る。
【０２９６】
別の例として、現在ブロックの画面内予測モードが垂直モード又は水平モードに隣接するＫ個のモードに含まれる場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちの一つ以上に従ってスキャンできる。ここで、Ｋは１以上の正数であり得る。この場合、垂直モード又は水平モードに隣接するＫ個のモードは、垂直モード或いは水平モードが指示する特定の画面内予測モードの値に−Ｋ／２乃至Ｋ／２の値を加えた値に該当する画面内予測モードであり得る。
【０２９７】
別の例として、現在ブロックの画面内予測モードが偶数である場合には、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちの一つ以上に従ってスキャンできる。そして、現在ブロックの画面内予測モードが奇数である場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、第２垂直優先スキャニング順序、及び左下側対角スキャニング順序のうちのいずれかに従ってスキャンできる。
【０２９８】
別の例として、現在ブロックの画面内予測モードが奇数である場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちのいずれかに従ってスキャンできる。そして、現在ブロックの画面内予測モードが偶数である場合には、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、第２垂直優先スキャニング順序及び左下側対角スキャニング順序のうちのいずれかに従ってスキャンできる。
【０２９９】
別の例として、現在ブロックの画面内予測モードに関係なく、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちのいずれかに従ってスキャンできる。
【０３００】
別の例として、現在ブロックの画面内予測モード値であるＩＰＭに対してモデューロ（ｍｏｄｕｌｏ、ＭＯＤ、％）演算を行った結果に基づいて、右上側対角スキャニング順序、左下側対角スキャニング順序、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、第２垂直優先スキャニング順序のうちのいずれかを変換係数グループ又は個別係数に対するスキャニング順序で決定することができる。ここで、モデューロ演算は、除算の剰余を計算する数学演算を意味することができる。すなわち、（ＩＰＭ  ＭＯＤ  Ｍ）の値に基づいて前記スキャニング順序のうちの少なくとも一つを決定することができる。以下で、ＩＰＭが０であれば、Ｐｌａｎａｒモード（ｐｌａｎａｒ  ｍｏｄｅ）を指示し、ＩＰＭが１であれば、ＤＣモードを指示することを意味することができる。
【０３０１】
例えば、（ＩＰＭ−２）ＭＯＤ２）が０である場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序に従ってスキャンできる。また、（ＩＰＭ−２）ＭＯＤ２）が１である場合、変換係数グループ又は個別係数は、左下側対角スキャニング順序に従ってスキャンできる。
【０３０２】
例えば、（ＩＰＭ−２）ＭＯＤ４）が０である場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序に従ってスキャンできる。また、（ＩＰＭ−２）ＭＯＤ４）が１である場合、変換係数グループ又は個別係数は、左下側対角スキャニング順序に従ってスキャンできる。また、（ＩＰＭ−２）ＭＯＤ４）が２である場合、変換係数グループ又は個別係数は、垂直スキャニング順序に従ってスキャンできる。また、（ＩＰＭ−２）ＭＯＤ４）が３である場合、変換係数グループ又は個別係数は、水平スキャニング順序に従ってスキャンできる。
【０３０３】
また、所定数の方向性予測モードを１つのグループにグループ化し、現在ブロックの画面内予測モードがどのグループに属するかに基づいて、当該グループに対応するスキャニング順序を、現在ブロックのスキャニング順序として決定することができる。このとき、前記グループに含まれている方向性予測モードの数は、他のグループに含まれている方向性予測モードの数と同一であってもよく異なってもよい。ここで、グループ化は、方向性予測モードの角度または方向の類似度に基づいて行われ得る。
【０３０４】
一例として、第１モードに隣接する所定数のモードは、第１モードグループに分類され、第１モードグループに含まれている画面内予測モードを有する現在ブロックに対して、第１モードグループに対応するスキャニング順序が適用できる。例えば、前記第１モードは垂直モード、水平モード、対角モードなどであり得る。
【０３０５】
一方、グループ化は、方向性予測モードを指示する値のデューロ演算に基づいて行われ得る。ここで、モデューロ演算に使用される除数（ｄｉｖｉｓｏｒ）は、現在ブロックのサイズ、形状又は深さなどに基づいて決定できる。現在ブロックのサイズが大きいほど、大きい除数（又は小さい除数）が使用できる。除数が大きいほど、モデューロ演算によるグループは個数が多くなるので、より細かいスキャニング順序の決定が可能になる。
【０３０６】
また、現在ブロックの画面内予測モード（方向）に基づいて複数個（例えば、Ｎ個、Ｎは２以上の正数）のスキャニング順序が決定できる。ここで、Ｎ個のスキャニング順序は、符号化器／復号化器で画面内予測モードに応じて予め設定された複数のスキャニング順序であり得る。画面内予測モードに応じて、互いに異なるＮ個のスキャニング順序が決定できる。ここで、Ｎ個のスキャニング順序は、対角スキャニング、垂直スキャニング、水平スキャニング、右上側対角スキャニング、左下側対角スキャニング、第１垂直優先スキャニング、第２垂直優先スキャニング、第１水平優先スキャニング、及び第２水平優先スキャニングのうちの少なくとも一つのスキャニングを含むことができる。
【０３０７】
一例として、現在ブロックの画面内予測モードがＤＣモード及びＰｌａｎａｒモードのうちの少なくとも一つである場合には、変換係数グループ又は個別係数は、２つのスキャニング順序（右上側対角スキャニング順序と左下側対角スキャニング順序）のうちのスキャニング順序に対する情報に基づいてスキャンできる。
【０３０８】
他の例として、現在ブロックの画面内予測モードが垂直モードである場合、変換係数グループ又は個別係数は、２つのスキャニング順序（水平スキャニング順序と左下側対角スキャニング順序）のうちのスキャニング順序に対する情報に基づいてスキャンできる。
【０３０９】
別の例として、現在ブロックの画面内予測モードが、垂直モードに隣接するＫ個のモードに含まれる場合、変換係数グループ又は個別係数は、２つのスキャニング順序（水平スキャニング順序と左下側対角スキャニング順序）のうちのスキャニング順序に対する情報に基づいてスキャンできる。ここで、Ｋは１以上の正数であり得る。
【０３１０】
別の例として、現在ブロックの画面内予測モードが、垂直モードに隣接するＫ個のモードに含まれる場合、変換係数グループ又は個別係数は、３つのスキャニング順序（水平スキャニング順序、左下側対角スキャニング順序、及び第１水平優先スキャニング順序）のうちのスキャニング順序に対する情報に基づいてスキャンできる。ここで、Ｋは１以上の正数であり得る。
【０３１１】
別の例として、現在ブロックの画面内予測モードが水平モードである場合、変換係数グループ又は個別係数は、２つのスキャニング順序（垂直スキャニング順序と右上側対角スキャニング順序）のうちのスキャニング順序に対する情報に基づいてスキャンできる。
【０３１２】
別の例として、現在ブロックの画面内予測モードが、水平モードに隣接するＫ個のモードに含まれる場合、変換係数グループ又は個別係数は、２つのスキャニング順序（垂直スキャニング順序と右上側対角スキャニング順序）のうちのスキャニング順序に対する情報に応じてスキャンできる。ここで、Ｋは１以上の正数であり得る。
【０３１３】
別の例として、現在ブロックの画面内予測モードが、水平モードに隣接するＫ個のモードに含まれる場合、変換係数グループ又は個別係数は、３つのスキャニング順序（垂直スキャニング順序、右上側対角スキャニング順序、及び第１垂直優先スキャニング順序）のうちのスキャニング順序に対する情報に基づいてスキャンできる。ここで、Ｋは１以上の正数であり得る。
【０３１４】
別の例として、前記垂直モード或いは水平モードが特定の画面内予測モード値を持つ場合には、前記垂直モード又は水平モードに隣接するＫ個のモードは、前記垂直モード或いは水平モードが指示する特定の画面内予測モード値に−Ｋ／２〜Ｋ／２の値を加えた値に該当する画面内予測モードであり得る。
【０３１５】
一方、スキャニング順序に関する情報は、符号化器から復号化器へシグナリングできる。これにより、復号化器は、シグナリングされたスキャニング順序に関する情報を用いて現在ブロックのスキャニング順序を決定することもできる。一例として、スキャニング順序に関する情報は、対角スキャニング順序、垂直スキャニング順序、水平スキャニング順序、第１混合対角スキャニング順序、第２混合対角スキャニング順序、右上側対角スキャニング順序、左下側対角スキャニング順序、第１垂直優先スキャニング順序、第２垂直優先スキャニング順序、第１水平優先スキャニング順序及び第２水平優先スキャニング順序などを指示する情報であり得る。この場合、スキャニング順序に対する情報は、フラグ又はインデックスの形でエントロピー符号化／復号化できる。
【０３１６】
一方、現在ブロックのスキャニング順序は、現在ブロックに隣接する周辺ブロックで使用したスキャニング順序、又は現在ブロックの符号化パラメータに基づいて決定できる。
【０３１７】
例えば、現在ブロックに隣接する左側ブロック、右側ブロック、上側ブロック及び下側ブロックのうちの少なくとも一つで使用したスキャニング順序と同じスキャニング順序で、現在ブロック内の変換係数をスキャンすることができる。この際、周辺ブロックの一つ以上のスキャニング順序を含むリストを構成し、前記リストに対するインデックスを用いて現在ブロックのスキャニング順序を誘導することができる。前記インデックスはエントロピー符号化／復号化できる。
【０３１８】
又は、周辺ブロックで使用された一つ以上のスキャニング順序の統計値が用いられてもよい。例えば、スキャニング順序を指示する値の平均値、加重平均値、最小値、最大値、最頻値及び中央値のうちの少なくとも一つの値に該当するスキャニング順序を、現在ブロックのスキャニング順序として決定することができる。
【０３１９】
一方、係数グループ単位でスキャニングが行われる場合、現在ブロック内の現在係数グループ内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループで使用したスキャニング順序に基づいて決定できる。例えば、現在係数グループに隣接する左側係数グループ、右側係数グループ、上側係数グループ及び下側係数グループのうちの少なくとも一つで使用した係数グループ内のスキャニング順序と同様の方法で、現在係数グループ内の変換係数をスキャンすることができる。
【０３２０】
また、スキャニング順序に対する情報は、係数グループ間のスキャニング順序と係数グループ内のスキャニング順序のうちの少なくとも一つに対する情報であって、エントロピー符号化／復号化できる。つまり、係数グループ間のスキャニング順序情報と係数グループ内のスキャニング順序情報をそれぞれエントロピー符号化／復号化することができる。又は、係数グループ間のスキャニング順序情報と係数グループ内のスキャニング順序情報を一つの情報としてエントロピー符号化／復号化することもできる。
【０３２１】
又は、現在ブロックの画面内予測モードと同じ予測モードが適用された周辺ブロックのスキャニング順序を選択的に用いることもできる。現在ブロックの画面内予測モードと同じ予測モードが適用された周辺ブロックが複数である場合には、前述したように、リストの構成及びインデックスの適用を行うことにより、現在ブロックのスキャニング順序を決定することができる。
【０３２２】
前述した変換係数のスキャニング単位及びスキャニング順序のうちの少なくとも一つは、現在ブロックに適用される変換の種類、変換の位置、変換が適用される領域、変換を行うか否か、１次変換を行うか否か、２次変換を行うか否か、ブロックのサイズ、ブロックの形状及び画面内予測モード（又は方向）のうちの少なくとも一つに基づいて決定できる。ここで、前記スキャニング単位及びスキャニング順序のうちの少なくとも一つはエントロピー符号化／復号化できる。
【０３２３】
ここで、変換の位置は、特定の変換が垂直変換（ｖｅｒｔｉｃａｌ  ｔｒａｎｓｆｏｒｍ）に使用されたか、或いは特定の変換が水平変換（ｈｏｒｉｚｏｎｔａｌ  ｔｒａｎｓｆｏｒｍ）に使用されたかを指示する情報であり得る。そして、変換を行うか否かは、１次変換及び２次変換のうちの少なくとも一つを行うか否かを示すことを意味することができる。そして、変換の種類は、ＤＣＴ−ＩＩ、ＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩ、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩ、ＤＳＴ−ＶＩＩなどのＤＣＴベース変換及びＤＳＴベース変換のうちの少なくとも一つの三角関数ベース変換の種類だけでなく、ＫＬＴ（Ｋａｒｈｕｎｅｎ−Ｌｏｅｖｅ  Ｔｒａｎｓｆｏｒｍ）、方向性変換（Ｄｉｒｅｃｔｉｏｎａｌ  Ｔｒａｎｓｆｏｒｍ）などのうちの少なくとも一つを指示することができる。
【０３２４】
１次変換として恒等変換（ｉｄｅｎｔｉｔｙ  ｔｒａｎｓｆｏｒｍ）を行うことができる。このとき、恒等変換は、水平変換及び垂直変換のうちの少なくとも一つに適用できる。
【０３２５】
例えば、現在ブロックに対して恒等変換が垂直変換と水平変換の両方に適用される場合、現在ブロックは、変換が行われないのと同一であり得る。
【０３２６】
例えば、現在ブロックに対して恒等変換が垂直変換に使用される場合、現在ブロックは、１次元水平変換のみ行われたのと同一であり、現在ブロックに対して恒等変換が水平変換に使用される場合、現在ブロックは、１次元垂直変換のみ行われたのと同一であり得る。
【０３２７】
また、現在ブロックに対して１次変換として恒等変換を使用し、２次変換を行うことができる。このような場合、現在ブロックに対して２次変換のみ行ったのと同一であり得る。
【０３２８】
水平変換及び垂直変換として恒等変換を使用するか否かは、現在ブロックの予測モード、画面内予測モード（方向）、ブロックサイズ、ブロック形状などの符号化パラメータのうちの少なくとも一つに基づいて決定できる。
【０３２９】
また、恒等変換が行われたブロックには、デブロッキングフィルタリングが行われなくてもよい。
【０３３０】
１次変換として恒等変換（ｉｄｅｎｔｉｔｙ  ｔｒａｎｓｆｏｒｍ）と別の変換とを組み合わせて変換を行う場合、恒等変換が使用された変換位置によってスキャニング順序が決定できる。ここで、恒等変換は、下記数式１のｎ×ｎ行列であるＩｎのように主対角線（左上から右下への対角線）がすべて１であり、残りの元素は０を値として有する行列であり得る。
【数１】
2020529766.tif 000005
【０３３１】
一例として、水平変換（ｈｏｒｉｚｏｎｔａｌ  ｔｒａｎｓｆｏｒｍ）に恒等変換を使用し、垂直変換（ｖｅｒｔｉｃａｌ  ｔｒａｎｓｆｏｒｍ）にＤＣＴ−ＩＩ、ＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩ、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩ、ＤＳＴ−ＶＩＩなどのＤＣＴベース変換及びＤＳＴベース変換のうちの少なくとも一つを用いて変換を行った場合、変換係数グループ又は個別係数は、垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれかに基づいてスキャンできる。
【０３３２】
他の例として、水平変換にＤＣＴ−ＩＩ、ＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩ、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩ、ＤＳＴ−ＶＩＩなどのＤＣＴベース変換及びＤＳＴベース変換のうちの少なくとも一つの変換を用い、垂直変換に恒等変換を用いて変換を行った場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれかに基づいてスキャンできる。
【０３３３】
別の例として、水平変換に恒等変換を用い、垂直変換にＤＣＴ−ＩＩ、ＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩ、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩ、ＤＳＴ−ＶＩＩなどのＤＣＴベース変換及びＤＳＴベース変換のうちの少なくとも一つの変換を用いて変換を行った場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれかに従ってスキャンできる。
【０３３４】
別の例として、水平変換にＤＣＴ−ＩＩ、ＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩ、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩ、ＤＳＴ−ＶＩＩなどのＤＣＴベース変換及びＤＳＴベース変換のうちの少なくとも一つの変換を用い、垂直変換恒等変換を用いて変換を行った場合、変換係数グループ又は個別係数は、垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれかに従ってスキャンできる。
【０３３５】
別の例として、水平変換及び垂直変換の少なくとも一つに恒等変換を行った場合、変換係数グループ又は個別係数は、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかに基づいてスキャンできる。
【０３３６】
また、恒等変換を行うか否かに基づいて、スキャニング順序を決定することもできる。
【０３３７】
一方、１次変換として変換ブロックにＤＣＴベース変換又はＤＳＴベース変換を行う場合、ＤＣＴベース変換又はＤＳＴベース変換のうちのどの変換が垂直変換或いは水平変換として使用されたかに基づいてスキャニング順序が決定できる。ここで、ＤＣＴベース変換は、ＤＣＴ−ＩＩ、ＤＣＴ−Ｖ、ＤＣＴ−ＶＩＩＩなどのＤＣＴ変換のうちの少なくとも一つを意味することができる。また、ＤＳＴベース変換は、ＤＳＴ−Ｉ、ＤＳＴ−ＶＩ、ＤＳＴ−ＶＩＩなどのＤＳＴ変換のうちの少なくとも一つを意味することができる。ここで、ＤＣＴベース変換及びＤＳＴベース変換は、それぞれＤＣＴ変換及びＤＳＴ変換を意味することができる。
【０３３８】
一例として、水平変換にＤＣＴ変換を用い、垂直変換にＤＳＴ変換を用いて変換を行った場合、変換係数グループ又は個別係数は、垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれか一つに基づいてスキャンできる。
【０３３９】
他の例として、水平変換にＤＳＴ変換を用い、垂直変換にＤＣＴ変換を用いて変換を行った場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順のうちのいずれかに基づいてスキャンできる。
【０３４０】
別の例として、水平変換にＤＣＴ変換を用い、垂直変換にＤＳＴ変換を用いて変換を行った場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序又は第２水平優先スキャニング順序のうちのいずれか一つに基づいてスキャンできる。
【０３４１】
別の例として、水平変換にＤＳＴ変換を用い、垂直変換にＤＣＴ変換を用いて変換を行った場合、変換係数グループ又は個別係数は、垂直スキャニング順序、第１垂直優先スキャニング順序又は第２垂直優先スキャニング順序のうちのいずれかに基づいてスキャンできる。
【０３４２】
別の例として、１次変換として変換ブロックにＤＣＴ或いはＤＳＴ変換を行った場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちのいずれかに基づいてスキャンできる。
【０３４３】
別の例として、１次変換として水平変換にＤＣＴ或いはＤＳＴ変換を用い、垂直変換にＤＣＴ或いはＤＳＴ変換を用いた場合、変換係数グループ又は個別係数は、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかに基づいてスキャンできる。
【０３４４】
また、ＤＣＴ変換及びＤＳＴ変換のうちの少なくとも一つを指示するフラグ又はインデックスなどの情報に基づいてスキャニング順序が決定できる。そして、ＤＣＴ変換及びＤＳＴ変換のうちの少なくとも一つを使用するか否かを指示するフラグまたはインデックスなどの情報に基づいてスキャニング順序が決定できる。又は、１次変換としてＤＣＴ或いはＤＳＴ変換を行うか否かに基づいて、スキャニング順序が決定できる。
【０３４５】
一方、１次変換として変換ブロックにＤＳＴ変換を行う場合、残余信号が再整列された形態に基づいてスキャニング順序が決定できる。このとき、残余信号が再整列された形態は、残余信号がフリップ（ｆｌｉｐｐｉｎｇ）されていない形態、横方向にフリップされた形態、縦方向にフリッピングされた形態、横及び縦方向にフリップされた形態などを意味することができる。
【０３４６】
一例として、残余信号がフリップされていない場合、変換係数グループ又は個別係数は、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかに基づいてスキャンできる。
【０３４７】
他の例として、残余信号が横方向にフリップされた形態である場合、変換係数グループ又は個別係数は、右上側対角スキャニングによってスキャンできる。
【０３４８】
別の例として、残余信号が縦方向にフリップされた形態である場合、変換係数グループ又は個別係数は、左下側対角スキャニングによってスキャンできる。
【０３４９】
別の例として、残余信号が横及び縦方向にフリップされた形態である場合、変換係数グループ又は個別係数は、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかに基づいてスキャンできる。
【０３５０】
別の例として、１次変換として変換ブロックにＤＳＴ変換を行った場合、変換係数グループ又は個別係数は、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかによってスキャンできる。
【０３５１】
別の例として、１次変換として変換ブロックにＤＳＴ変換を行っていない場合、変換係数グループ又は個別係数は、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかによってスキャンできる。
【０３５２】
また、１次変換としてＤＳＴ変換を行うか否かに基づいてスキャニング順序が決定できる。
【０３５３】
一方、２次変換として回転変換（ｒｏｔａｔｉｏｎａｌ  ｔｒａｎｓｆｏｒｍ）を用いて変換を行った場合には、回転角度に応じてスキャニング順序が決定できる。また、前記回転角度を指示するインデックスなどの情報に基づいてスキャニング順序が決定できる。
【０３５４】
一例として、回転角度が０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。回転角度が９０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。回転角度が１８０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。回転角度が２７０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。
【０３５５】
他の例として、回転角度が０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。回転角度が９０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。回転角度が１８０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。回転角度が２７０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。
【０３５６】
一例として、２次変換として回転変換を用いて変換を行った場合、右上側対角スキャニング及び左下側対角スキャニングのうちの少なくとも一つによってスキャンできる。
【０３５７】
他の例として、２次変換を行った場合、右上側対角スキャニング及び左下側対角スキャニングのうちの少なくとも一つによってスキャンできる。
【０３５８】
別の例として、１次変換として前記ＤＣＴ変換或いはＤＳＴ変換を行い、２次変換を行った場合、右上側対角スキャニング及び左下側対角スキャニングのうちの少なくとも一つによってスキャンできる。
【０３５９】
又は、２次変換を行うか否か、２次変換として回転変換を行うか否か、１次変換後に２次変換を行うか否かに基づいて、スキャニング順序が決定できる。
【０３６０】
一方、２次変換としてギブンス変換（Ｇｉｖｅｎｓ  ｔｒａｎｓｆｏｒｍ）又はハイパー−ギブンス変換（Ｈｙｐｅｒ−Ｇｉｖｅｎｓ  ｔｒａｎｓｆｏｒｍ）を用いて変換を行った場合、回転角θ（Ｔｈｅｔａ）に応じてスキャニング順序が決定できる。また、前記回転角度を指示するインデックスなどの情報に基づいてスキャニング順序が決定できる。ここで、ギブンス変換又はハイパー−ギブンス変換行列Ｇ（ｍ、ｎ、θ）は、下記数式２に示す代表的な定義に基づいて定義されたものであり得る。
【数２】
2020529766.tif 000006
【０３６１】
一例として、回転角θ（Ｔｈｅｔａ）が０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。回転角θ（Ｔｈｅｔａ）が９０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。回転角θ（Ｔｈｅｔａ）が１８０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。回転角θ（Ｔｈｅｔａ）が２７０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。
【０３６２】
他の例として、回転角θ（Ｔｈｅｔａ）が０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。回転角θ（Ｔｈｅｔａ）が９０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのいずれかを使用することができる。そして、回転角θ（Ｔｈｅｔａ）が１８０度である場合、係数グループ単位或いは個別係数単位に水平スキャニング、第１水平優先スキャニング又は第２水平優先スキャニングのうちのいずれかを使用することができる。そして、回転角θ（Ｔｈｅｔａ）が２７０度である場合、係数グループ単位或いは個別係数単位に垂直スキャニング、第１垂直優先スキャニング又は第２垂直優先スキャニングのうちのいずれかを使用することができる。
【０３６３】
別の例として、２次変換としてギブンス変換又はハイパー−ギブンス変換を用いて変換を行った場合、右上側対角スキャニング及び左下側対角スキャニングのうちのいずれかに基づいてスキャンできる。
【０３６４】
又は、２次変換としてギブンス変換又はハイパー−ギブンス変換を行うか否かに基づいて、スキャニング順序が決定できる。
【０３６５】
現在ブロックは、変換スキップされた領域（変換を行うなく量子化のみを行う）、１次変換のみ行われた領域又は１次及び２次変換の全てが行われた領域のうちの少なくとも一つを含むことができる。この場合、各領域に応じて所定のスキャニング順序でスキャンできる。現在ブロックの１次変換結果中の一部の領域にのみ２次変換をさらに行う場合、変換係数は、各変換の適用有無によって領域を区分してスキャンできる。この際、現在ブロック内の変換係数の全部又は一部に対してスキャニングを行うことができる。
【０３６６】
一例として、現在ブロックが変換スキップされたブロック又は領域である場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちのいずれかに基づいてスキャンできる。そして、現在ブロックが変換スキップされたブロック又は領域ではない場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちのいずれかに基づいてスキャンできる。
【０３６７】
他の例として、現在ブロックが変換スキップされたブロック又は領域である場合、変換係数グループ又は個別係数は、水平スキャニング順序、第１水平優先スキャニング順序、第２水平優先スキャニング順序、垂直スキャニング順序、第１垂直優先スキャニング順序、及び第２垂直優先スキャニング順序のうちのいずれかに基づいてスキャンできる。そして、現在ブロックが変換スキップされたブロック又は領域ではない場合、変換係数グループ又は個別係数は、右上側対角スキャニング順序及び左下側対角スキャニング順序のうちのいずれかに基づいてスキャンできる。一方、現在ブロックが変換スキップされたブロックであるかに基づいて決定されるスキャニング順序は、上記の例に限定されず、本開示による様々なスキャニング順序の中から選択された任意のスキャニング順序で決定できる。
【０３６８】
図１５は８ｘ８の現在ブロックに１次変換を行った後、一部の領域（例えば、左上側の４ｘ４領域（灰色領域））に対してのみ２次変換を行った場合を示している。この場合、１次変換のみ行われた領域と１次変換及び２次変換が行われた領域を、それぞれ領域Ａと領域Ｂに区分して変換係数をスキャンすることができる。領域Ａと領域Ｂには、同じか或いは互いに異なるサイズの係数グループ単位が使用でき、領域間に同じか或いは互いに異なるスキャニング順序が使用できる。
【０３６９】
一例として、領域Ａと領域Ｂに同じく４ｘ４の係数グループ単位スキャニングを用い、すべての領域に右上側対角スキャニング順序又は左下側対角スキャニング順序を用いることができる。
【０３７０】
他の例として、領域Ａは４ｘ４の係数グループ単位スキャニングを用い、領域Ｂは２ｘ２の係数グループ単位スキャニングを用い、領域Ａ内の係数単位は垂直スキャニング順序或いは水平スキャニング順序を用い、領域Ｂ内の係数単位は右上側対角スキャニング又は左下側対角スキャニング順序を用いることができる。
【０３７１】
別の例として、領域Ａは４ｘ４の係数グループ単位スキャニングを用い、領域Ｂは２ｘ２の係数グループ単位スキャニングを用い、すべての領域に右上側対角スキャニング又は左下側対角スキャニング順序を用いることができる。
【０３７２】
別の例として、図１６に示すように、領域Ａと領域Ｂに同じく４ｘ４の係数グループ単位スキャニングを用い、領域Ａ内の係数グループ単位は右上側対角スキャニング順序又は左下側対角スキャニング順序を用い、領域Ｂは垂直スキャニング順序を用いることができる。
【０３７３】
図１７は１６ｘ１６の現在ブロックに１次変換を行った後、一部の領域（例えば、左上側の８ｘ８領域（灰色領域））に対してのみ２次変換を行った場合を示している。この場合、１次変換のみ行われた領域と、１次変換及び２次変換が行われた領域をそれぞれ領域Ａと領域Ｂに区分して、変換係数をスキャンすることができる。領域Ａと領域Ｂには、同じか或いは互いに異なるサイズの係数グループ単位が使用でき、領域同士の間には、同じか或いは互いに異なるスキャニング順序が使用できる。
【０３７４】
一例として、領域Ａと領域Ｂに同じく４ｘ４の係数グループ単位スキャニングを用い、すべての領域に右上側対角スキャニング順序又は左下側対角スキャニング順序を用いることができる。
【０３７５】
他の例として、領域Ａは８ｘ８の係数グループ単位スキャニングを用い、領域Ｂは４ｘ４の係数グループ単位スキャニングを用い、領域Ａ内の係数単位は垂直スキャニング順序或いは水平スキャニング順序を用い、領域Ｂ内の係数単位は右上側対角スキャニング又は左下側対角スキャニング順序を用いることができる。
【０３７６】
別の例として、領域Ａと領域Ｂに同じく８ｘ８の係数グループ単位スキャニングを用い、すべての領域に右上側対角スキャニング又は左下側対角スキャニング順序を用いることができる。
【０３７７】
別の例として、図１８に示すように、領域Ａと領域Ｂに同じく４ｘ４の係数グループ単位スキャニングを用い、領域Ａ内の係数グループ単位は垂直スキャニング順序を用い、領域Ｂは右上側対角スキャニング順序を用いることができる。
【０３７８】
別の例として、領域Ａと領域Ｂにそれぞれ４ｘ４及び８ｘ８の係数単位スキャニングを用い、領域Ａ内の係数単位は垂直スキャニング順序を用い、領域Ｂは右上側対角スキャニング順序を用いることができる。
【０３７９】
一方、１次変換のみ行われた領域のスキャニング順序は、現在ブロックの画面内予測モード及び現在ブロックのサイズに基づいて決定できる。
【０３８０】
そして、１次変換及び２次変換が行われた領域のスキャニング順序は、現在ブロックの形状に基づいて決定されるか、或いは予め定義されたスキャニング順序が適用され得る。ここで、予め定義されたスキャニング順序は、符号化器／復号化器に共通に設定されたスキャニング順序であり得る。一方、１次変換及び２次変換が行われた領域の予め定義されたスキャニング順序に関する情報は、符号化器から復号化器へシグナリングできる。
【０３８１】
一方、上述したスキャニング順序のうちの少なくとも一つは、特定のブロックサイズに対応するスキャニング順序で符号化器／復号化器に予め設定或いは保存されていてもよい。ここで、特定のブロックサイズ未満のブロックでスキャニング順序を決定するときは、特定のブロックサイズに対するスキャニング順序をサブサンプリング（ｓｕｂｓａｍｐｌｉｎｇ）或いはアップサンプリング（ｕｐｓａｍｐｌｉｎｇ）して誘導することができる。
【０３８２】
一例として、符号化器／復号化器に３２ｘ３２のブロックサイズに対して右上側スキャニング順序で保存されている場合、１６ｘ１６のブロックサイズのブロックに対するスキャニング順序誘導のために、サイズ３２ｘ３２の右上側スキャニング順序においてサイズ１６ｘ１６の右上側スキャニング順序に対応する位置のスキャニング順序値のみを抽出（又はサブサンプリング）して１６ｘ１６のブロックサイズに対するスキャニング順序を誘導することができる。
【０３８３】
別の例として、符号化器／復号化器に８ｘ８のブロックサイズに対して左下側スキャニング順序で保存されている場合、１６ｘ１６のブロックサイズのブロックに対するスキャニング順序誘導のために、サイズ８ｘ８の左下側スキャニング順序における、サイズ１６ｘ１６の右上側スキャニング順序に対応する位置のスキャニング順序値をアップサンプリング（或いは補間）して１６ｘ１６のブロックサイズに対するスキャニング順序を誘導することができる。
【０３８４】
一方、現在ブロックが非正方形の形状を有する場合、現在ブロック内の係数グループを正方形に並べ替えた後、並べ替えられた係数グループ内の変換係数をスキャンしてエントロピー符号化／復号化することができる。この際、並べ替え方法として、本発明のスキャニング順序に対する実施形態のうちの少なくとも一つを用いることができる。
【０３８５】
例えば、現在ブロックが非正方形である３２ｘ８サイズの場合、前記係数グループ間のスキャニング順序のうちの少なくとも一つのスキャニング順序を用いて、正方形であるサイズ１６ｘ１６のブロックに係数グループを並べ替えた後、並べ替えられた係数グループ内の変換係数をスキャンすることができる。
【０３８６】
色差信号に対するスキャニング順序は、輝度信号で使用したスキャニング順序と同様に決定できる。このとき、色差信号に対するスキャニング順序は、本発明のスキャニング順序に対する実施形態のうちの少なくとも一つを用いることができる。又は、輝度信号に対するスキャニング順序に対応する色差信号に対するスキャニング順序が予め定義できる。
【０３８７】
一例として、符号化器／復号化器は、予め定義されたルックアップテーブルを参照して、輝度信号に対するスキャニング順序から色差信号に対するスキャニング順序を誘導することができる。又は、輝度信号に対するスキャニング順序を決定する本発明に係る様々な方法のうちの少なくとも一つを用いて色差信号に対するスキャニング順序を決定することができる。
【０３８８】
一方、変換係数の値がビットプレーン（ｂｉｔ  ｐｌａｎｅ）の形で表現される場合、ビットプレーンごとに、本発明のスキャニング順序に対する実施形態のうちの少なくとも一つを用いてスキャンしてエントロピー符号化／復号化することができる。
【０３８９】
一方、２次変換は、本発明のスキャニング順序に対する実施形態のうちの少なくとも一つのスキャニング順序を用いて行われ得る。すなわち、１次変換後に生成された変換係数に対してスキャニングを行って２次変換を代替することができる。２次変換をスキャニングで代替することにより、変換係数を並べ替えて符号化効率を向上させることができる。
【０３９０】
図１９は本発明の一実施形態による画像復号化方法を示すフローチャートである。
【０３９１】
図１９を参照すると、復号化器は、ビットストリームから現在ブロックの変換係数を取得することができる（Ｓ１９１０）。
【０３９２】
そして、復号化器は、現在ブロックのスキャニング単位及びスキャニング順序を決定することができる（Ｓ１９２０）。
【０３９３】
ここで、現在ブロックの変換係数は、逆量子化の入力、２次逆変換の入力又は１次逆変換の入力のうちのいずれかであり得る。
【０３９４】
一方、スキャニング順序は、垂直スキャニング順序、水平スキャニング順序、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング順序、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング順序、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング順序、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング順序、右上側対角スキャニング及び左下側対角スキャニング順序のうちの少なくとも一つを含むことができる。
【０３９５】
一方、スキャニング単位は、係数グループ単位、個別係数単位及び混合単位のうちのいずれかに決定できる。
【０３９６】
一方、現在ブロックのスキャニング単位及びスキャニング順序を決定するステップ（Ｓ１９２０）は、現在ブロックの周辺ブロックのスキャニング単位及びスキャニング順序のうちの少なくとも一つに基づいて前記現在ブロックのスキャニング単位及びスキャニング順序を決定することができる。
【０３９７】
一方、現在ブロックのスキャニング単位が係数グループ単位に決定された場合、係数グループ単位内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループのスキャニング順序に基づいて決定できる。
【０３９８】
一方、現在ブロックのスキャニング順序は、現在ブロックの深さに基づいて決定できる。
【０３９９】
一方、現在ブロックの色差成分のスキャニング単位及びスキャニング順序は、現在ブロックの輝度成分のスキャニング単位及びスキャニング順序に基づいて決定できる。
【０４００】
一方、決定されたスキャニング順序に基づいて前記現在ブロックの量子化行列のスキャニング順序が誘導できる。
【０４０１】
そして、復号化器は、決定されたスキャニング単位及びスキャニング順序に基づいて前記現在ブロックの変換係数をスキャンして整列することができる（Ｓ１９３０）。
【０４０２】
そして、復号化器は、前記整列された変換係数に逆量子化、２次逆変換又は１次逆変換のうちの少なくとも一つを行うことができる。
【０４０３】
図２０は本発明の一実施形態による画像符号化方法を示すフローチャートである。
【０４０４】
図２０を参照すると、符号化器は、現在ブロックの残差ブロックから現在ブロックの変換係数を取得することができる（Ｓ２０１０）。
次に、符号化器は、現在ブロックのスキャニング単位及びスキャニング順序を決定することができる（Ｓ２０２０）。
【０４０５】
ここで、前記現在ブロックの変換係数は、１次変換の出力、２次変換の出力又は量子化の出力のうちのいずれかであり得る。
【０４０６】
一方、スキャニング順序は、垂直スキャニング順序、水平スキャニング順序、一番目の列を他の列よりも優先的にスキャンする第１垂直優先スキャニング順序、一番目の列と二番目の列を他の列よりも優先的にスキャンする第２垂直優先スキャニング順序、一番目の行を他の行よりも優先的にスキャンする第１水平優先スキャニング順序、一番目の行と二番目の行を他の行よりも優先的にスキャンする第２水平優先スキャニング順序、右上側対角スキャニング及び左下側対角スキャニング順序のうちの少なくとも一つを含むことができる。
【０４０７】
一方、スキャニング単位は、係数グループ単位、個別係数単位及び混合単位のうちのいずれかに決定できる。
【０４０８】
一方、現在ブロックのスキャニング単位及びスキャニング順序を決定するステップ（Ｓ２０２０）は、現在ブロックの周辺ブロックのスキャニング単位及びスキャニング順序のうちの少なくとも一つに基づいて前記現在ブロックのスキャニング単位及びスキャニング順序を決定することができる。
【０４０９】
一方、現在ブロックのスキャニング単位が係数グループ単位に決定された場合、係数グループ単位内の変換係数スキャニング順序は、現在係数グループに隣接する周辺係数グループのスキャニング順序に基づいて決定できる。
【０４１０】
一方、現在ブロックのスキャニング順序は、現在ブロックの深さに基づいて決定できる。
【０４１１】
一方、現在ブロックの色差成分のスキャニング単位及びスキャニング順序は、現在ブロックの輝度成分のスキャニング単位及びスキャニング順序に基づいて決定できる。
【０４１２】
一方、決定されたスキャニング順序に基づいて前記現在ブロックの量子化行列のスキャニング順序が誘導できる。
【０４１３】
そして、符号化器は、決定されたスキャニング単位及びスキャニング順序に基づいて、現在ブロックの変換係数をスキャンしてエントロピー符号化することができる（Ｓ２０３０）。
【０４１４】
これらの実施形態は、符号化器及び復号化器で同様の方法で行われ得る。
【０４１５】
前記実施形態を適用する順序は、符号化器と復号化器で互いに異なってもよく、符号化器と復号化器で互いに同じであってもよい。
【０４１６】
輝度及び色差信号それぞれに対して前記実施形態を行うことができ、輝度及び色差信号に対する前記実施形態を同様に行うことができる。
【０４１７】
本発明の実施形態が適用されるブロックの形状は、正方形（ｓｑｕａｒｅ）或いは非正方形（ｎｏｎ−ｓｑｕａｒｅ）の形状を有することができる。
【０４１８】
本発明の前記実施形態は、符号化ブロック、予測ブロック、変換ブロック、ブロック、現在ブロック、符号化ユニット、予測ユニット、変換ユニット、ユニット及び現在ユニットのうちの少なくとも一つのサイズに応じて適用できる。ここでのサイズは、前記実施形態が適用されるために、最小サイズ及び／又は最大サイズに定義されてもよく、前記実施形態が適用される固定サイズに定義されてもよい。また、前記実施形態は、第１サイズでは第１実施形態が適用されてもよく、第２サイズでは第２実施形態が適用されてもよい。すなわち、前記実施形態は、サイズに応じて複合的に適用できる。また、本発明の前記実施形態は、最小サイズ以上及び最大サイズ以下の場合にのみ適用されてもよい。すなわち、前記実施形態は、ブロックサイズが一定の範囲内に含まれる場合にのみ適用されてもよい。
【０４１９】
例えば、現在ブロックのサイズが８ｘ８以上である場合にのみ、前記実施形態が適用できる。例えば、現在ブロックのサイズが４ｘ４である場合にのみ、前記実施形態が適用できる。例えば、現在ブロックのサイズが１６ｘ１６以下である場合にのみ、前記実施形態が適用できる。例えば、現在ブロックのサイズが１６ｘ１６以上６４ｘ６４以下である場合にのみ、前記実施形態が適用できる。
【０４２０】
本発明の実施形態は、時間的階層（ｔｅｍｐｏｒａｌ  ｌａｙｅｒ）に応じて適用できる。前記実施形態が適用可能な時間的階層を識別するために、別途の識別子（ｉｄｅｎｔｉｆｉｅｒ）がシグナリングされ、当該識別子によって特定された時間的階層に対して前記実施形態が適用できる。ここでの識別子は、前記実施形態が適用可能な最下位階層及び／又は最上位階層と定義されてもよく、前記実施形態が適用される特定の階層を指示するものと定義されてもよい。また、前記実施形態が適用される固定された時間的階層が定義されてもよい。
【０４２１】
例えば、現在画像の時間的階層が最下位階層である場合にのみ、前記実施形態が適用できる。例えば、現在画像の時間的階層識別子が１以上である場合にのみ、前記実施形態が適用できる。例えば、現在画像の時間的階層が最上位階層である場合にのみ、前記実施形態が適用できる。
【０４２２】
本発明の実施形態が適用されるスライスタイプ（ｓｌｉｃｅ  ｔｙｐｅ）が定義され、当該スライスタイプに応じて本発明の前記実施形態が適用できる。
【０４２３】
前記符号化器でエントロピー符号化され且つ復号化器でエントロピー復号化されるフラグ及びインデックスのうちの少なくとも一つは、次の２値化（ｂｉｎａｒｉｚａｔｉｏｎ）方法の少なくとも一つを用いることができる。
切り捨てられたライス（Ｔｒｕｎｃａｔｅｄ  Ｒｉｃｅ）２値化方法
Ｋ次数指数−ゴロム（Ｋ−ｔｈ  ｏｒｄｅｒ  Ｅｘｐ＿Ｇｏｌｏｍｂ）２値化方法
限られたＫ次数指数−ゴロム（Ｋ−ｔｈ  ｏｒｄｅｒ  Ｅｘｐ＿Ｇｏｌｏｍｂ）２値化方法
固定長（Ｆｉｘｅｄ−ｌｅｎｇｔｈ）２値化方法
単項（Ｕｎａｒｙ）２値化方法
切り捨てられた単項（Ｔｒｕｎｃａｔｅｄ  Ｕｎａｒｙ）２値化方法
【０４２４】
これらの実施形態のうちのいずれかに限定されて現在ブロックの符号化／復号化過程に適用されず、特定の実施形態或いはこれらの実施形態の少なくとも一つの組み合わせが現在ブロックの符号化／復号化過程に適用され得る。
【０４２５】
上述した実施形態において、これらの方法は、一連のステップ又はユニットであって、フローチャートに基づいて説明されているが、本発明は、これらのステップの順序に限定されるものではなく、あるステップは、上述したのとは異なるステップと異なる順序で又は同時に発生することができる。また、当該技術分野における通常の知識を有する者であれば、フローチャートに示されたステップが排他的ではなく、他のステップが含まれるか、フローチャートの一つ又はそれ以上のステップが本発明の範囲に影響することなく削除できることを理解することができるだろう。
【０４２６】
上述した実施形態は、様々な態様の例示を含む。様々な態様を示すためのすべての可能な組み合わせを記述することはできないが、当該技術分野における通常の知識を有する者は、他の組み合わせが可能であることを認識することができるだろう。よって、本発明は、以下の特許請求の範囲内に属するすべての様々な交替、修正及び変更を含むといえる。
【０４２７】
以上説明した本発明に係る実施形態は、様々なコンピュータ構成要素を介して実行できるプログラム命令の形で実現され、コンピュータ可読記録媒体に記録できる。前記コンピュータ可読記録媒体は、プログラム命令、データファイル、データ構造などを単独で又は組み合わせて含むことができる。前記コンピュータ可読記録媒体に記録されるプログラム命令は、本発明のために特別に設計及び構成されたもの、又はコンピュータソフトウェア分野の当業者に公知されて使用可能なものである。コンピュータ可読記録媒体の例には、ハードディスク、フロッピーディスク及び磁気テープなどの磁気媒体、ＣＤ−ＲＯＭ、ＤＶＤなどの光記録媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌ  ｄｉｓｋ）などの磁気−光媒体（ｍａｇｎｅｔｏ−ｏｐｔｉｃａｌ  ｍｅｄｉａ）、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのプログラム命令を保存し実行するように特別に構成されたハードウェア装置が含まれる。プログラム命令の例には、コンパイラによって作られる機械語コードだけでなく、インタプリターなどを用いてコンピュータによって実行できる高級言語コードも含まれる。前記ハードウェア装置は、本発明に係る処理を行うために一つ以上のソフトウェアモジュールとして作動するように構成でき、その逆も同様である。
【０４２８】
以上で、本発明が、具体的な構成要素などの特定の事項、限定された実施形態及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものに過ぎず、本発明は前記実施形態に限定されるものではない。本発明の属する技術分野における通常の知識を有する者であれば、このような記載から多様な修正及び変形を図ることができる。
【０４２９】
よって、本発明の思想は、上述した実施形態に限定されて定められてはならず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等に又は等価的に変形したすべてのものは本発明の思想の範疇に属するというべきである。
【産業上の利用可能性】
【０４３０】
本発明は、画像を符号化／復号化する装置に利用可能である。
【図１】
2020529766.tif 000007
【図２】
2020529766.tif 000008
【図３】
2020529766.tif 000009
【図４】
2020529766.tif 000010
【図５】
2020529766.tif 000011
【図６】
2020529766.tif 000012
【図７】
2020529766.tif 000013
【図８】
2020529766.tif 000014
【図９】
2020529766.tif 000015
【図１０】
2020529766.tif 000016
【図１１】
2020529766.tif 000017
【図１２】
2020529766.tif 000018
【図１３】
2020529766.tif 000019
【図１４】
2020529766.tif 000020
【図１５】
2020529766.tif 000021
【図１６】
2020529766.tif 000022
【図１７】
2020529766.tif 000023
【図１８】
2020529766.tif 000024
【図１９】
2020529766.tif 000025
【図２０】
2020529766.tif 000026
【国際調査報告】
2020529766.tif 000027
2020529766.tif 000028
2020529766.tif 000029
2020529766.tif 000030
2020529766.tif 000031
2020529766.tif 000032