(57)【特許請求の範囲】
【請求項１】
現在予測ブロックのイントラ予測モードグループ指示子及びイントラ予測モードインデックスを復号化する段階と、
前記現在予測ブロックの左側及び上側予測ブロックの利用可能なイントラ予測モードを用いて第１イントラ予測モードグループを生成する段階と、
前記イントラ予測モードグループ指示子が前記第１イントラ予測モードグループを示せば、前記イントラ予測モードインデックスが示す前記第１イントラ予測モードグループ内のイントラ予測モードを現在予測ブロックのイントラ予測モードと定める段階と、
前記イントラ予測モードグループ指示子が第２イントラ予測モードグループを示せば、前記イントラ予測モードインデックスが示す前記第２イントラ予測モードグループ内のイントラ予測モードを現在予測ブロックのイントラ予測モードと定める段階と、を含み、
前記第１イントラ予測モードグループに属するイントラ予測モードの数は３個に固定され、
前記左側及び上側イントラ予測モードのうち一つのみ有効であれば、前記第１イントラ予測モードグループは、前記有効なイントラ予測モード、及び前記有効なイントラ予測モードによって定められる２個の追加イントラ予測モードで構成され、
前記有効なイントラ予測モードが非方向性イントラ予測モードであれば、前記第１イントラ予測モードグループは前記利用可能なイントラ予測モード及び２個の追加イントラ予測モードで構成されて、前記２個の追加イントラ予測モードは他の一つの非方向性イントラ予測モード及び垂直モードであることを特徴とするイントラ予測モード復号化方法。
【請求項２】
前記有効なイントラ予測モードがＤＣモードであれば、前記２個の追加イントラ予測モードは、平面モード及び垂直モードであることを特徴とする請求項１に記載のイントラ予測モード復号化方法。
【請求項３】
前記有効なイントラ予測モードが平面モードであれば、前記２個の追加イントラ予測モードは、ＤＣモード及び垂直モードであることを特徴とする請求項１に記載のイントラ予測モード復号化方法。
【請求項４】
前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループに属するイントラ予測モード以外のイントラ予測モードで構成されることを特徴とする請求項１に記載のイントラ予測モード復号化方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、イントラ予測復号化方法に係り、さらに詳細には、イントラ予測モードを復元して原信号に近い予測ブロックを生成し、残差信号を復号して残差ブロックを生成し、前記予測された予測ブロック及び残差ブロックを用いて復元ブロックを生成するイントラ予測復号化方法に関する。
【背景技術】
【０００２】
ＭＰＥＧ−１、ＭＰＥＧ−２、ＭＰＥＧ−４  Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ（Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  ｃｏｄｉｎｇ）などの映像圧縮方式では、映像を符号化するために一つのピクチャーをマクロブロックに分ける。そして、インター予測（ｉｎｔｅｒ  ｐｒｅｄｉｃｔｉｏｎ）またはイントラ予測（ｉｎｔｒａ  ｐｒｅｄｉｃｔｉｏｎ）を用いてそれぞれのマクロブロックを符号化する。
【０００３】
このうち、イントラ予測は、現在ピクチャーのブロックを符号化するために参照ピクチャーを参照するものではなく、符号化しようとする現在ブロックと空間的に隣接している画素値を用いて符号化を行う。まず、隣接している画素値を用いて原本マクロブロックと比べ、歪曲の少ないイントラ予測モードを選択する。次いで、選択されたイントラ予測モード及び隣接している画素値を用いて符号化しようとする現在ブロックについての予測値を計算し、予測値と原本現在ブロックの画素値との差を求めた後、これを変換符号化、量子化、エントロピー符号化により符号化する。そして、予測モードも符号化される。
【０００４】
従来の技術による４×４イントラ予測モードには、垂直（ｖｅｒｔｉｃａｌ）モード、水平（ｈｏｒｉｚｏｎｔａｌ）モード、ＤＣ（ｄｉｒｅｃｔ  ｃｕｒｒｅｎｔ）モード、対角線左側（ｄｉａｇｏｎａｌ  ｄｏｗｎ−ｌｅｆｔ）モード、対角線右側（ｄｉａｇｏｎａｌ  ｄｏｗｎ−ｒｉｇｈｔ）モード、垂直右側（ｖｅｒｔｉｃａｌ  ｒｉｇｈｔ）モード、垂直左側（ｖｅｒｔｉｃａｌ  ｌｅｆｔ）モード、水平上側（ｈｏｒｉｚｏｎｔａｌ−ｕｐ）モード及び水平下側（ｈｏｒｉｚｏｎｔａｌ−ｄｏｗｎ）モードの総９種のモードが存在する。
【０００５】
Ｈ．２６４標準案によれば、４×４映像の符号化に当って９種のモードのうちいずれか一つで現在ブロックの予測ブロックを生成して符号化する。また、最近標準化進行中のＨＥＶＣでは、ブロックのサイズによって１７種または３４種のイントラ予測モードが存在する。
【０００６】
しかし、現在ブロックに含まれた画素に隣接している画素値のうち一部または全部が存在していないか、または符号化されていない場合には、イントラ予測モードのうち一部または全部を適用できないという問題点が発生する。適用可能なイントラモードから選択してイントラ予測を行えば、現在ブロックと予測ブロックとの間の残差信号（ｒｅｓｉｄｕｅ）が大きくなるので、映像圧縮の効率が落ちる。
【０００７】
また、イントラ予測モードの数が増加するにつれて、既存のイントラ予測モードを符号化する方法より効果的な予測モードを符号化する方式が必要であり、これに対応して効果的にイントラ予測モードを復号化して復元ブロックを生成する方式が必要である。
【発明の概要】
【発明が解決しようとする課題】
【０００８】
本発明が解決しようとする課題は、イントラ予測モードによって原本映像と類似した予測ブロックを生成し、残差信号を復号化して残差ブロックを生成し、前記生成された残差ブロック及び予測ブロックを用いて復元ブロックを生成する方法を提供するところにある。
【課題を解決するための手段】
【０００９】
本発明によるイントラ予測復号化方法は、イントラ予測情報及び残差信号を逆多重化し、前記イントラ予測情報及び現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて、現在予測ユニットのイントラ予測モードを復号し、現在予測ユニットの利用不可能な参照画素が存在する場合、一つ以上の利用可能な参照画素を用いて参照画素を生成し、前記復号されたイントラ予測モードに基づいて前記参照画素をフィルタリングし、前記復号されたイントラ予測モード及び前記参照画素を用いて予測ブロックを生成し、前記逆多重化された残差信号を復号化して残差ブロックを生成し、前記予測ブロック及び残差ブロックを用いて復元ブロックを生成することを特徴とする。
【発明の効果】
【００１０】
本発明によるイントラ予測復号化方法は、原本映像に類似した予測ブロックを生成するために、現在予測ユニットのイントラ予測モードを復号化し、前記復号化されたイントラ予測モードによって参照画素を適応的にフィルタリングして予測ブロックを生成する。また、残差信号をイントラ予測モードによって適応的に復号化することで残差ブロックを生成する。したがって、原本映像に近い前記予測ブロックと前記残差ブロックとを欠陷することで復元ブロックを生成する。よって、イントラ予測モードの数の増加につれて発生する追加の符号化量を効果的に低減させる予測モード符号化方式に対応する予測モード復号化方式を提供できるだけでなく、原本映像に近い予測ブロックを生成することで符号化量を低減させる符号化方式に対応する復号化方式を提供して、動画の符号化／復号化時の高性能圧縮及び再生効率を奏する効果がある。
【図面の簡単な説明】
【００１１】
【図１】本発明による動画符号化装置を示すブロック図である。
【図２】本発明による動画符号化装置のイントラ予測部の構成を示すブロック図である。
【図３】本発明によるイントラ予測に使われる参照画素の位置を示す図面である。
【図４】本発明による方向性イントラ予測モードを示す図面である。
【図５】本発明による動画復号化装置の構成を示すブロック図である。
【図６】本発明によるイントラ予測復号化装置のイントラ予測部の構成を示すブロック図である。
【図７】本発明によるイントラ予測モードの復号化過程を示す図面である。
【図８】本発明による第１イントラ予測モードグループ内の予測モードの数が可変的な場合の、本発明によるイントラ予測モードを復元する過程を示す図面である。
【図９】本発明による第１イントラ予測モードグループ内の予測モードの数が固定的な場合の、本発明によるイントラ予測モードを復元する過程を示す図面である。
【発明を実施するための形態】
【００１２】
以下、本発明のいろいろな実施形態を、例示的な図面により詳細に説明する。本発明は多様な変更を加え、かついろいろな実施形態を持つことができるところ、本発明を特定の実施形態に限定しようとするものではなく、本発明の思想及び技術範囲に含まれるすべての変更、均等物ないし代替物を含むと理解されねばならない。各図面を説明するに際して、類似した構成要素には類似した参照符号を付した。
【００１３】
図１は、本発明による動画符号化装置を示すブロック図である。図１を参照すれば、本発明による動画符号化装置１００は、ピクチャー分割部１１０、変換部１２０、量子化部１３０、スキャニング部１３１、エントロピー符号化部１４０、イントラ予測部１５０、インター予測部１６０、逆量子化部１３５、逆変換部１２５、後処理部１７０、ピクチャー保存部１８０、減算部１９０及び加算部１９５を備える。
【００１４】
ピクチャー分割部１１０は、入力されるビデオ信号を分析し、ピクチャーを最大のコーディングユニットごとに所定サイズのコーディングユニットに分割して予測モードを定め、前記コーディングユニット別に予測ユニットのサイズを定める。そして、ピクチャー分割部１１０は、符号化する予測ユニットを、予測モードによってイントラ予測部１５０またはインター予測部１６０に送る。また、ピクチャー分割部１１０は、符号化する予測ユニットを減算部１９０に送る。
【００１５】
変換部１２０は、入力された予測ユニットの原本ブロックと、イントラ予測部１５０またはインター予測部１６０で生成された予測ブロックとの残差信号である残差ブロックを変換する。前記残差ブロックは、コーディングユニットで構成される。コーディングユニットで構成された残差ブロックは、最適の変換ユニットに分割されて変換される。予測モード（イントラまたはインター）によって互いに異なる変換マトリックスが定められる。また、イントラ予測の残差信号は、イントラ予測モードによって方向性を持つため、イントラ予測モードによって適応的に変換マトリックスが定められる。変換単位は、２個（水平、垂直）の１次元変換マトリックスによって変換される。例えば、インター予測の場合には、既定の１つの変換マトリックスが定められる。一方、イントラ予測の場合、イントラ予測モードが水平である場合には、残差ブロックが垂直方向への方向性を持つ確率が高くなるので、垂直方向にはＤＣＴ基盤の定数マトリックスを適用し、水平方向にはＤＳＴ基盤またはＫＬＴ基盤の定数マトリックスを適用する。イントラ予測モードが垂直である場合には、垂直方向にはＤＳＴ基盤またはＫＬＴ基盤の定数マトリックスを、水平方向にはＤＣＴ基盤の定数マトリックスを適用する。ＤＣモードの場合には、双方向ともＤＣＴ基盤定数マトリックスを適用する。また、イントラ予測の場合、変換単位のサイズによって変換マトリックスが適応的に定められてもよい。
【００１６】
量子化部１３０は、前記変換マトリックスによって変換された残差ブロックの係数を量子化するための量子化ステップサイズを、コーディングユニット別に定める。量子化ステップサイズは、既定のサイズ以上の符号化単位別に定められる。前記既定のサイズは、８×８または１６×１６である。そして、定められた量子化ステップサイズ及び予測モードによって定められる量子化マトリックスを用いて、前記変換ブロックの係数を量子化する。量子化部１３０は、現在符号化単位の量子化ステップサイズ予測子として、現在符号化単位に隣接している符号化単位の量子化ステップサイズを用いる。
【００１７】
量子化部１３０は、現在符号化単位の左側符号化単位、上側符号化単位、左上側符号化単位の順序で検索し、１つまたは２つの有効な量子化ステップサイズを用いて現在符号化単位の量子化ステップサイズ予測子を生成する。例えば、前記順序で検索された有効な最初の量子化ステップサイズを、量子化ステップサイズ予測子と定める。また、前記順序で検索された有効な２つの量子化ステップサイズの平均値を、量子化ステップサイズ予測子と定めてもよく、１つのみ有効な場合には、これを量子化ステップサイズ予測子と定める。前記量子化ステップサイズ予測子が定められれば、現在符号化単位の量子化ステップサイズと前記量子化ステップサイズ予測子との差分値をエントロピー符号化部１４０に伝送する。
【００１８】
一方、現在コーディングユニットの左側コーディングユニット、上側コーディングユニット、左上側コーディングユニットがいずれも存在しない可能性がある。一方、最大コーディングユニット内の符号化順序上、以前に存在するコーディングユニットが存在する可能性がある。したがって、現在コーディングユニットに隣接しているコーディングユニットと前記最大コーディングユニット内では、符号化順序上、直前のコーディングユニットが候補者になる。この場合、１）現在コーディングユニットの左側コーディングユニット、２）現在コーディングユニットの上側コーディングユニット、３）現在コーディングユニットの左上側コーディングユニット、４）符号化順序上、直前のコーディングユニット順序で優先順位を置く。前記順序は変わってもよく、前記左上側コーディングユニットは省略されてもよい。
【００１９】
前記量子化された変換ブロックは、逆量子化部１３５及びスキャニング部１３１に提供される。スキャニング部１３１は、量子化された変換ブロックの係数をスキャニングして１次元の量子化係数に変換する。量子化後の変換ブロックの係数分布がイントラ予測モードに依存的でありうるので、スキャニング方式は、イントラ予測モードによって定められる。また、係数スキャニング方式は、変換単位のサイズによって異なって定められてもよい。前記スキャンパターンは、方向性イントラ予測モードによって変わりうる。量子化係数のスキャン順序は、逆方向にスキャンする。
【００２０】
前記量子化された係数が複数のサブセットに分割された場合には、それぞれのサブセット内の量子化係数に同じスキャンパターンを適用する。前記複数のサブセットは、一つのメインサブセットと少なくとも一つ以上の残余サブセットとで構成される。メインサブセットは、ＤＣ係数を含む左上側に位置し、前記残余サブセットは、メインサブセット以外の領域をカバーする。
【００２１】
サブセット間のスキャンパターンは、ジグザグスキャンを適用する。スキャンパターンは、メインサブセットから順方向に残余サブセットにスキャンすることが望ましいが、その逆方向も可能である。また、サブセット内の量子化された係数のスキャンパターンと同じくサブセット間のスキャンパターンを設定してもよい。この場合、サブセット間のスキャンパターンが、イントラ予測モードによって定められる。一方、符号器は、前記変換ユニット内の０ではない最後の量子化係数の位置を示す情報を復号器に伝送する。各サブセット内の０ではない最後の量子化係数の位置を示す情報も復号器に伝送する。前記情報は、それぞれのサブセット内の０ではない最後の量子化係数の位置を示す情報である。
【００２２】
逆量子化部１３５は、前記量子化された量子化係数を逆量子化する。逆変換部１２５は、逆量子化された変換係数を空間領域の残差ブロックに復元する。加算器は、前記逆変換部によって復元された残差ブロックと、イントラ予測部１５０またはインター予測部１６０からの予測ブロックとを合わせて復元ブロックを生成する。
【００２３】
後処理部１７０は、復元されたピクチャーに発生するブロッキング効果を除去するためのデブロッキングフィルタリング過程、画素単位で原本映像との差値を補うための適応的オフセット適用過程、及びコーディングユニットで原本映像との差値を補うための適応的ループフィルタリング過程を行う。
【００２４】
デブロッキングフィルタリング過程は、既定のサイズ以上のサイズを持つ予測ユニット及び変換ユニットの境界に適用することが望ましい。前記サイズは８×８でありうる。前記デブロッキングフィルタリング過程は、フィルタリングする境界（ｂｏｕｎｄａｒｙ）を定める段階、前記境界に適用する境界フィルタリング強度（ｂｏｕｎａｒｙ  ｆｉｌｔｅｒｉｎｇ  ｓｔｒｅｎｇｔｈ）を定める段階、デブロッキングフィルターの適用如何を定める段階、前記デブロッキングフィルターを適用することで定められた場合、前記境界に適用するフィルターを選択する段階を含む。
【００２５】
前記デブロッキングフィルターの適用如何は、ｉ）前記境界フィルタリング強度が０より大きいかどうか、及びｉｉ）前記フィルタリングする境界に隣接している２個のブロック（Ｐブロック、Ｑブロック）境界部分でのピクセル値の変化程度を示す値が、量子化パラメータによって定められる第１基準値より小さいかどうかによって定められる。
【００２６】
前記フィルターは、少なくとも２つ以上であることが望ましい。ブロック境界に位置している２個の画素間の差値の絶対値が第２基準値より大きいか、または同じである場合には、相対的に弱いフィルタリングを行うフィルターを選択する。前記第２基準値は、前記量子化パラメータ及び前記境界フィルタリング強度によって定められる。
【００２７】
適応的オフセット適用過程は、デブロッキングフィルターが適用された映像内の画素と原本画素との差値（ｄｉｓｔｏｒｔｉｏｎ）を低減させるためのものである。ピクチャーまたはスライス単位で前記適応的オフセット適用過程を行うかどうかが定められる。ピクチャーまたはスライスは、複数のオフセット領域に分割され、各オフセット領域別にオフセットタイプが定められる。オフセットタイプは、既定の数（例えば、４個）のエッジオフセットタイプと２個のバンドオフセットタイプとを含む。オフセットタイプがエッジオフセットタイプである場合には、各画素が属するエッジタイプを定め、これに対応するオフセットを適用する。前記エッジタイプは、現在画素に隣接している２個の画素値の分布を基準として定める。
【００２８】
適応的ループフィルタリング過程は、デブロッキングフィルタリング過程または適応的オフセット適用過程を経た復元された映像と原本映像とを比較した値に基づいてフィルタリングを行える。適応的ループフィルタリングは、前記定められた４×４サイズまたは８×８サイズのブロックに含まれた画素全体に適用される。適応的ループフィルターの適用如何は、コーディングユニット別に定められる。各コーディングユニットによって適用されるループフィルターのサイズ及び係数は変わる。コーディングユニット別に前記適応的ループフィルターの適用如何を示す情報は、各スライスヘッダに含まれる。色差信号の場合には、ピクチャー単位で適応的ループフィルターの適用如何を定める。ループフィルターの形態も、輝度とは異なって長方形でありうる。
【００２９】
適応的ループフィルタリングは、スライス別に適用如何を定める。したがって、現在スライスに適応的ループフィルタリングが適用されるかどうかを示す情報は、スライスヘッダまたはピクチャーヘッダに含まれる。現在スライスに適応的ループフィルタリングが適用されることを示せば、スライスヘッダまたはピクチャーヘッダはさらに、適応的ループフィルタリング過程に使われる輝度成分の水平及び／または垂直方向のフィルター長を示す情報を含む。
【００３０】
スライスヘッダまたはピクチャーヘッダは、フィルターセットの数を示す情報を含む。この時、フィルターセットの数が２以上ならば、フィルター係数が予測方法を使って符号化される。したがって、スライスヘッダまたはピクチャーヘッダは、フィルター係数が予測方法で符号化されるかどうかを示す情報を含み、予測方法が使われる場合には、予測されたフィルター係数を含む。
【００３１】
一方、輝度だけでなく、色差成分で適応的にフィルタリングされる。したがって、色差成分それぞれがフィルタリングされるかどうかを示す情報を、スライスヘッダまたはピクチャーヘッダが含む。この場合、ビット数を低減させるために、Ｃｒ及びＣｂについてのフィルタリング如何を示す情報をジョイントコーディング（すなわち、多重化コーディング）できる。この時、色差成分の場合には、複雑度を低減させるためにＣｒとＣｂとをいずれもフィルタリングしない場合が最も頻繁な可能性が高いので、ＣｒとＣｂとをいずれもフィルタリングしない場合に、最も小さなインデックスを割り当ててエントロピー符号化を行う。そして、Ｃｒ及びＣｂをいずれもフィルタリングする場合に、最も大きいインデックスを割り当ててエントロピー符号化を行う。
【００３２】
ピクチャー保存部１８０は、後処理された映像データを後処理部１６０から入力され、ピクチャー単位で映像を復元して保存する。ピクチャーは、フレーム単位の映像であるか、またはフィールド単位の映像である。ピクチャー保存部１８０は、複数のピクチャーを保存できるバッファ（図示せず）を備える。
【００３３】
インター予測部１６０は、前記ピクチャー保存部１８０に保存された少なくとも一つ以上の参照ピクチャーを用いて動き推定を行い、参照ピクチャーを示す参照ピクチャーインデックス及び動きベクトルを定める。そして、定められた参照ピクチャーインデックス及び動きベクトルによって、ピクチャー保存部１８０に保存された複数の参照ピクチャーのうち動き推定に用いられた参照ピクチャーから、符号化しようとする予測ユニットに対応する予測ブロックを抽出して出力する。
【００３４】
イントラ予測部１５０は、現在予測ユニットが含まれるピクチャー内部の再構成された画素値を用いてイントラ予測符号化を行う。イントラ予測部１５０は、予測符号化する現在予測ユニットを入力され、現在ブロックのサイズによって予め設定された数のイントラ予測モードのうち一つを選択してイントラ予測を行う。イントラ予測部は、イントラ予測ブロックを生成するために参照ピクセルを適応的にフィルタリングする。参照画素が利用不可能な場合には、利用可能な参照画素を用いて参照画素を生成する。
【００３５】
エントロピー符号化部１４０は、量子化部１３０によって量子化された量子化係数、イントラ予測部１４０から受信されたイントラ予測情報、インター予測部１５０から受信された動き情報などをエントロピー符号化する。
【００３６】
図２は、本発明による符号化装置１００のイントラ予測部１５０を示すブロック図である。図２を参照すれば、イントラ予測部１５０は、参照画素生成部１５１、参照画素フィルタリング部１５２、予測ブロック生成部１５３、予測モード決定部１５４及び予測モード符号化部１５５を備える。
【００３７】
参照画素生成部１５１は、イントラ予測のための参照画素の生成如何を判断し、生成される必要がある場合に参照画素を生成する。
【００３８】
図３は、現在予測ユニットのイントラ予測に使われる参照画素の位置を示す図面である。図３に示したように、現在予測ユニットの上側参照画素は、上側参照画素、左側参照画素及びコーナー参照画素で構成される。現在予測ユニットの上側参照画素は、現在予測ユニットの横長の２倍にわたって存在する画素（領域Ｃ、Ｄ）であり、現在予測ユニットの左側参照画素は、現在予測ユニットの縦長の２倍にわたって存在する画素（領域Ａ、Ｂ）である。現在予測ユニットのコーナー参照画素は、（ｘ＝−１，ｙ＝−１）に位置する。
【００３９】
参照画素生成部１５１は、参照画素が利用可能（ａｖａｉｌａｂｌｅ）かどうかを判断する。参照画素の一部が利用不可能な場合には、利用可能な参照画素を用いて利用不可能な位置の参照画素を生成する。
【００４０】
現在予測ユニットがピクチャーまたはスライスの上側境界に位置する場合には、現在予測ユニットの上側参照画素（領域Ｃ、Ｄ）及びコーナー参照画素が存在しない。同様に、現在予測ユニットがピクチャーまたはスライスの左側境界に位置する場合には、左側参照画素（領域Ａ、Ｂ）及びコーナー参照画素が存在しない。このように、いずれか一方の参照画素及びコーナー参照画素が利用不可能な場合、最も隣接している利用可能な参照画素をコピーして参照画素を生成できる。前者の場合、最も隣接している利用可能な参照画素は、左側最上側の参照画素（すなわち、領域Ａの最上側参照画素）である。後者の場合、最も隣接している利用可能な参照画素は、上側の最左側の参照画素（すなわち、領域Ｃの最左側の参照画素）である。
【００４１】
次いで、符号化する現在予測ユニットの上側または左側の参照画素のうち一部分が利用不可能な場合について説明する。利用不可能な参照画素を基準として、１）一方向のみに利用可能な参照画素が存在する場合と、２）双方向とも利用可能な参照画素が存在する場合の２種が存在する。
【００４２】
先ず、利用不可能な参照画素を基準として一方向のみに利用可能な参照画素が存在する場合について説明する。
【００４３】
現在予測ユニットの上側に隣接している参照画素（領域Ｃ）は有効であるが、右上側参照画素（領域Ｄ）が有効でないことがある。現在予測ユニットがピクチャーまたはスライスの右側境界または最大コーディングユニットの右側境界に位置する場合には、領域Ｄの参照画素が利用不可能である。この場合には、一つ以上の上側参照画素を用いて右上側参照画素（領域Ｄ）を生成する。望ましくは、上側催右側参照画素をコピーする。また、２つ以上の上側参照画素を用いて右上側参照画素を生成してもよい。
【００４４】
現在予測ブロックの左側に隣接している参照画素（領域Ａ）は有効であるが、左下側参照画素（領域Ｂ）が有効でないこともある。現在予測ユニットがピクチャーまたはスライスの下側境界または最大コーディングユニットの下側境界に位置する場合には、領域Ｂの参照画素が利用不可能である。この場合には、一つ以上の左側参照画素を用いて左下側参照画素（領域Ｂ）を生成する。望ましくは、左側最下側参照画素をコピーする。また、２個以上の左側参照画素を用いて左下側参照画素を生成してもよい。
【００４５】
前記場合のように、利用不可能な参照画素を基準として一方向のみに利用可能な参照画素が存在する場合には、最も近い位置に存在する利用可能な参照画素をコピーして参照画素を生成する。さらに他の方法として、最も近い位置に存在する複数の利用可能な参照画素を用いて参照画素を生成してもよい。
【００４６】
次いで、利用不可能な参照画素を基準として、双方向とも利用可能な参照画素が存在する場合について説明する。
【００４７】
例えば、現在予測ユニットがスライスの上側境界に位置し、前記現在予測ユニットの右上側予測ユニットが利用可能な場合、現在予測ユニットの領域Ｃに対応する参照画素は利用不可能であるが、領域Ａ及び領域Ｄに位置する参照画素は利用可能である。このように双方向とも利用可能な参照画素が存在する場合には、各方向に最も近い位置に存在する利用可能な参照画素１つずつを選択し、これら（すなわち、領域Ａの最上側参照画素と領域Ｄの最左側参照画素）を用いて利用不可能な位置の参照画素を生成する。
【００４８】
前記２個の参照画素（各方向に最も近い位置に存在する画素）の四捨五入した平均値を、参照画素値として生成してもよい。しかし、前記２個の参照画素値の差が大きい可能性があるので、線形補間方法を使って参照画素を生成してもよい。具体的に利用可能な２個の参照画素との位置を考慮して、現在位置の利用不可能な参照画素を生成する。
【００４９】
参照画素フィルタリング部１５２は、現在予測ユニットの参照画素を適応的にフィルタリングする。図４を参照して、参照画素フィルタリング部１５２の動作を説明する。図４は、本発明による方向性イントラ予測モードを示す図面である。
【００５０】
参照画素フィルタリング部１５２は、イントラ予測モード及び参照画素の位置によって適応的にフィルタリングする。
【００５１】
予測モードが、垂直（モード０）、水平（モード１）、ＤＣ（モード２）である場合には、参照画素にフィルターを適用しない。それ以外の方向性モードについては、適応的に参照画素をフィルタリングする。また、現在予測ユニットの上側の参照画素のうち最右側の参照画素（すなわち、（ｘ＝２Ｎ−１，ｙ＝−１）に位置する参照画素）と、現在予測ユニットの左側の参照画素のうち最下側に位置する参照画素（すなわち、（ｘ＝−１，ｙ＝２Ｎ−１）に位置する参照画素）とをフィルタリングせず、残りの画素は、隣接している２個の画素を用いてフィルタリングする。
【００５２】
前記フィルタリングは、参照画素間の画素値の変化量をスムージングするためのものであり、ローパスフィルターを適用する。ローパスフィルターは、３タップフィルターである［１，２，１］、または５タップフィルターである［１，２，４，２，１］である。
【００５３】
前記ローパスフィルターは、現在予測ユニットのサイズ及びイントラ予測モードによって適応的に適用される。
【００５４】
イントラ予測方向が水平または垂直方向に対して４５°傾いたモード（モード３、６、９）については、予測ユニットのサイズによって適応的にフィルターを適用する。この場合、既定のサイズより小さな予測ユニットについては、第１フィルターを、既定のサイズ以上の予測ユニットについては、スムージング効果がさらに大きい第２フィルターを使える。前記既定のサイズは１６×１６である。
【００５５】
そして、前記垂直または水平モードと、前記水平または垂直モードに対して４５°角度を持つモードとの間に存在するモードについては、予測ユニットのサイズによって適応的にフィルターを適用する。この場合、前記水平または垂直モードに対して４５°角度を持つモードに隣接している既定数のモードでのみフィルターを適用できる。方向性イントラ予測モードの数が同じ予測ユニットについては、前記既定数は、予測ユニットが大きいほど増加する。すなわち、８×８予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第１個数のモードとでフィルタリングを行い、１６×１６予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第２個数のモードとでフィルタリングを行い、３２×３２予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第３個数のモードとでフィルタリングを行う。ここで、第１個数は第２個数より小さいか、または同一であり、第２個数は第３個数より小さいか、または同一である。
【００５６】
予測ブロック生成部１５３は、イントラ予測モードに対応する予測ブロックを生成する。前記予測ブロックは、イントラ予測モードに基づいて参照画素を用いる。
【００５７】
ＤＣモードの場合には、予測ブロックが参照画素の平均値からなるため、参照画素に隣接している予測ブロック内の画素間には段差が発生する。したがって、参照画素に隣接している予測ブロック内の上側ラインの画素及び左側ラインの画素は、参照画素を用いてフィルタリングする。具体的に、予測ブロック内の左上側コーナーに位置する画素は、隣接する参照画素が２個（上側参照画素と左側参照画素）であるので、３タップフィルターを用いて前記左上側コーナーの画素をフィルタリング（またはスムージング）する。そして、それ以外の画素（すなわち、予測ブロック内の上側ラインの画素及び左側ラインの画素）は、隣接する参照画素が１つであるので、２タップフィルターを用いてフィルタリングする。
【００５８】
平面モードでは、コーナー参照画素、左側参照画素及び上側参照画素を用いて予測ブロックの参照画素を生成する。生成しようとする参照画素の位置が（ａ，ｂ）である場合に生成される参照画素Ｘ（ａ，ｂ）は、コーナー参照画素Ｃ（ｘ＝−１，ｙ＝−１）、上側参照画素Ｔ（ｘ＝ａ，ｙ＝−１）及び左側参照画素Ｌ（ｘ＝−１，ｙ＝ｂ）を用いる。平面モードでは、予測ブロックをフィルタリングしない。
【００５９】
垂直モード（モード番号０）では、上側参照画素をそのままコピーする場合、予測ブロック内の左側画素と、これに隣接している左側参照画素との間に相関関係（ｃｏｒｒｅｌａｔｉｏｎ）が落ちる。上側から遠くなるほど相関関係が低減する。同様に、水平モード（モード番号１）では、予測ブロック内の上側画素と上側参照ピクセルとの関係も、右側へ行くほど相関関係が落ちる。これにより、垂直モードでは、予測ブロックの下方へ行くほど原本予測ユニットとの差値が大きくなる。
【００６０】
したがって、前記差値を低減させるために、垂直モードの場合には、予測ブロックの左側部分のピクセルを、予測ブロックの生成に用いられない左側参照ピクセルを用いてフィルタリングする。同様に、水平モードの場合には、予測ブロックの上側部分のピクセルを、予測ブロックの生成に用いられない上側参照ピクセルを用いてフィルタリングする。
【００６１】
モード番号０と６との間の方向性を持つイントラ予測モード（モード番号２２、１２、２３、５、２４、１３、２５）、及びモード番号６を持つイントラ予測モードの場合、現在予測ユニットの上側参照ピクセルのみを用いて予測ブロックが生成されれば、参照ピクセルに隣接している、生成された予測ブロックの左側ラインのピクセルと前記参照ピクセルとの段差は、下方へ行くほど大きくなる。
【００６２】
同様に、モード番号１と９との間の方向性を持つイントラ予測モード（モード番号３０、１６、３１、８、３２、１７、３３）、及びモード番号９を持つイントラ予測モードの場合、現在予測ユニットの左側参照ピクセルのみを用いて予測ブロックが生成されれば、参照ピクセルに隣接している、生成された予測ブロックの上側ラインのピクセルと前記参照ピクセルとの段差は、右側へ行くほど段差が大きくなる。
【００６３】
したがって、前記段差を補うために、ＤＣ以外の方向性モードについても適応的に予測ブロックの一部画素をフィルタリングする。または、前記段差を補うために、予測ブロック生成のために上側及び左側参照ピクセルをいずれも用いてもよい。
【００６４】
先ず、予測ブロックの一部画素をフィルタリングする方法について説明する。
【００６５】
モード番号が６である場合には、上側参照画素を用いて予測ブロックを生成し、前記左側参照画素に隣接している、生成された予測ブロック内の左側画素をフィルタリングする。現在予測ユニットのサイズによって生成された予測ブロック内のフィルタリングする画素の領域が変わる。すなわち、予測ユニットのサイズによって、フィルタリングされるラインの数とライン内のフィルタリングされるピクセルとの割合が変わる。予測ユニットのサイズが大きくなるほど、フィルタリングされるラインの数が同一または増加する。また、ライン内のフィルタリングされるピクセルの割合が低減する。また、参照ピクセルから遠くなるほどフィルタリング強度を低められる。
【００６６】
例えば、４×４予測ユニットについては、生成された予測ブロック内の左側第１ラインに位置するピクセル、すなわち、（ｘ＝０，ｙ＝０〜３）に位置するピクセルのみをフィルタリングする。８×８予測ユニットについては、左側第１ラインに位置するすべてのピクセル及び第２ラインに位置する一部ピクセルをフィルタリングする。前記一部のピクセルは、例えば、（ｘ＝１，ｙ＝４〜７）に位置するピクセルである。１６×１６予測ユニットについては、左側第１ラインに位置するすべてのピクセル、第２ラインに位置する第１個数のピクセル、第３ラインに位置する第２個数のピクセルをフィルタリングする。前記第１個数のピクセルは、例えば、（ｘ＝１，ｙ＝４〜７）に位置するピクセルである。前記第２個数のピクセルは、例えば、（ｘ＝２，ｙ＝８〜１５）に位置するピクセルである。また、３２×３２予測ユニットについては、左側第１ラインに位置するすべてのピクセル、第２ラインに位置する第１個数のピクセル、第３ラインに位置する第２個数のピクセル及び第４ラインの第３個数のピクセルをフィルタリングする。第３個数のピクセルは、（ｘ＝３，ｙ＝１６〜３１）に位置するピクセルである。
【００６７】
モード番号０と６との間の方向性を持つモードのうち、モード番号６に近い方向性を持つ所定数のモードについても、モード番号６と同じ方法でフィルタリングを行える。この場合、モード番号６から遠いモードであるほどフィルタリングせねばならない画素の数が同一または小さくなる。モード番号０と６との間の方向性を持つモードのうち、モード番号０に近い方向性を持つ所定数のモードについては、垂直モードと同じ方法でフィルタリングが行われてもよい。
【００６８】
モード番号が９である場合にも、モード番号６と同じ方法を適用する。そして、前記モードモード番号１と９との間の方向性を持つモードについては、モード番号０と６との間の方向性を持つモードと同じ方法を適用する。
【００６９】
一方、モード番号６及びこれに隣接している所定数のモードについては、前記予測ブロックの一部画素をフィルタリングする方法を適用せず、上側及び左側参照ピクセルをいずれも用いて予測ブロックを生成する。同様に、モード番号９とこれに隣接している所定数のモードについても同一である。
【００７０】
前記予測ブロックの一部画素をフィルタリングする方法は、予測ブロックの生成時にフィルタリング効果と同じ効果を持つように、予測ブロックの画素の位置（すなわち、フィルタリングする画素の位置）によって互いに異なる方式で予測ピクセルを生成する。
【００７１】
予測モード決定部１５４は、現在予測ユニットのイントラ予測モードを定める。予測モード決定部１５４は、各イントラ予測モードに対する残差ブロックの符号化量が最小になるモードを、現在予測ユニットのイントラ予測モードと定める。
【００７２】
予測モード符号化部１５５は、予測モード決定部１５４によって定められた現在予測ユニットのイントラ予測モードを符号化する。予測モード符号化部１５５は、イントラ予測部１５０に含まれて行われてもよく、エントロピー符号化部１４０で行われてもよい。
【００７３】
予測モード符号化部１５５は、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて、現在予測ユニットのイントラ予測モードを符号化する。現在予測ユニットに許容されるイントラ予測モード（例えば、３５個のモード）を、複数のイントラ予測モードグループに分類する。そして、現在予測ユニットのイントラ予測モードが属するグループ、及びグループ内の現在予測ユニットのイントラ予測モードに対応するインデックスを符号化する。前記それぞれのグループは、少なくとも一つ以上のイントラ予測モードを含む。前記イントラ予測モードグループの数は、２個または３個であることが望ましい。
【００７４】
以下、イントラ予測モードグループが２個である場合について説明する。
【００７５】
先ず、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを誘導する。前記モードは、現在予測ユニットの上側予測ユニット及び左側予測ユニットのイントラ予測モードである。現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左から右へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上から下へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。または、複数の有効な予測ユニットのモード番号のうち最も小さなモード番号を上側イントラ予測モードと設定する。
【００７６】
次いで、誘導されたイントラ予測モードのモード番号が、現在予測ユニットに許容されるイントラ予測モードの数より大きいか、または同一であれば、前記誘導されたイントラ予測モードを、現在予測ユニットで許容するイントラ予測モードのうち一つにマッピングする。
【００７７】
次いで、前記誘導またはマッピングされたイントラ予測モードを用いて、第１イントラ予測モードグループを形成する。
【００７８】
前記誘導またはマッピングされたイントラ予測モード及び前記イントラ予測モードによって、既定の順序の候補者イントラ予測モードを用いて第１イントラ予測モードグループを形成する。前記誘導またはマッピングされたイントラ予測モードが方向性モードである場合には、前記既定の候補者イントラ予測モードは、前記誘導またはマッピングされたイントラ予測モードの方向性に最も隣接している少なくとも一つ以上のイントラ予測モードである。
【００７９】
次いで、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに含まれるかどうかを判断する。
【００８０】
現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに含まれれば、前記第１イントラ予測モードグループを示す情報と、前記第１イントラ予測モードグループ内の対応するインデックスとを符号化する。
【００８１】
しかし、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに含まれていなければ、第２イントラ予測モードグループを示す情報と、前記第２イントラ予測モードグループ内の対応するインデックスとを符号化する。前記第２イントラ予測モードグループに属するイントラ予測モードは、第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードである。
【００８２】
前記現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効でない場合には、少なくとも一つ以上のイントラ予測モードが前記第１イントラ予測モードグループに追加される。例えば、一つのモードが追加される場合には、ＤＣモードまたは平面モードが追加される。２つのモードが追加される場合には、ＤＣモードと、平面モードまたは垂直モードとが追加される。３つのモードが追加される場合には、ＤＣモードと、平面モード、垂直モード及び水平モードのうち２つが追加される。
【００８３】
前記左側及び上側予測ユニットのイントラ予測モードのうち一つのみ有効であるか、または同じ場合には、少なくとも１つまたは２つのイントラ予測モードが前記第１イントラ予測モードグループに追加される。
【００８４】
１つが追加される場合には、ＤＣモードと平面モードのうち一つが追加される。２つが追加される場合には、前記有効なイントラ予測モードが方向性モードであるかどうかによって変わる。前記有効なイントラ予測モードが非方向性予測モード（ＤＣモードまたは平面モード）である場合には、垂直モードと水平モードまたは他の一つの非方向性モード（平面モードまたはＤＣモード）と垂直モードが追加される。前記有効なイントラ予測モードが方向性モードである場合には、前記有効なイントラ予測モードと最も隣接している両方のイントラ予測モードが追加される。しかし、前記有効なイントラ予測モードの一方のみに方向性モードが存在するモード（モード６またはモード９）である場合には、隣接する一つのモード（モード２５またはモード３３）とＤＣモードまたは平面モードが追加される。
【００８５】
現在予測ユニットのイントラ予測モードが前記第２イントラ予測モードグループに属する場合には、前記最後の予測モードグループに含まれたイントラ予測モードを再整列したモード番号に対応するインデックスを符号化する。この場合、一つのＶＬＣテーブルを使う。
【００８６】
以上では、イントラ予測モードグループが２個である場合を例示として挙げたが、イントラ予測モードグループが３個である場合も可能である。この場合には、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属していなければ、第２イントラ予測モードグループに属するかどうかを判断する。そして、第２イントラ予測モードグループに属すれば、前記第２イントラ予測モードグループを示す情報と、前記第２イントラ予測モードグループ内の対応するインデックスとを符号化する。しかし、第２イントラ予測モードグループに属していなければ、第３イントラ予測モードグループを示す情報と、前記第３イントラ予測モードグループ内の対応するインデックスとを符号化する。この場合、前記第２イントラ予測モードグループは、現在予測ユニットの左側及び上側予測ユニットのイントラ予測モードに基づいて生成される。
【００８７】
また、予測モード符号化部１５５は、現在予測ユニットのイントラ予測モードを次のように符号化してもよい。先ず、現在予測ユニットのイントラ予測モードが、隣接する以前ブロックのイントラ予測モードのうちいずれか一つと同じかどうかを定める。現在予測ユニットのイントラ予測モードが、隣接する以前ブロックのイントラ予測モードのうちいずれか一つと同一であれば、これを示すフラグｐｒｅｄ＿ｆｌａｇの値を１と設定し、前記隣接する左側または上側の利用可能な（ａｖａｉｌａｂｌｅ）モードを用いて現在予測ユニットのイントラ予測モードを符号化する。しかし、現在予測ユニットのイントラ予測モードが、隣接する以前ブロックのイントラ予測モードのうちいずれか一つと同一でなければ、前記フラグｐｒｅｄ＿ｆｌａｇの値を０と設定し、前記左側及び上側のイントラ予測モードを除いた残りのイントラ予測モードのうち、現在予測ユニットのイントラ予測モードが何番目に対応するかを示す値を符号化する。
【００８８】
一方、ｃｈｒｏｍａのイントラ予測モードは、ｌｕｍａのイントラ予測モードを用いるモード（ｌｕｍａモード）を適応的に含む。したがって、前記ｌｕｍａモードを含む場合、ＳＰＳ、ＰＰＳまたはスライスヘッダに前記情報を含める。Ｃｈｒｏｍａのイントラ予測モードの数は、予測ユニットのサイズによって変わる。Ｃｈｒｏｍａのイントラ予測モード符号化は、ｌｕｍａと同様に隣接ブロックのイントラ予測モードを用いる。具体的方法は、前記で例示した方式と同一である。また、ｃｈｒｏｍａのイントラ予測モードは、隣接ブロックのイントラ予測モード情報を用いずにそのまま符号化されてもよい。この場合、ＶＬＣテーブルが使われる。
【００８９】
予測ブロック伝送部１５６は、前記予測モード決定部１５４によって定められたイントラ予測モードに対応して生成された予測ブロックを減算部１９０に伝送する。
【００９０】
図５は、本発明の実施形態による動画復号化装置を示すブロック図である。図５を参照すれば、本発明による動画復号化装置は、エントロピー復号部２１０、逆スキャニング部２２０、逆量子化部２３０、逆変換部２４０、イントラ予測部２５０、インター予測部２６０、後処理部２７０、ピクチャー保存部２８０、加算部２９０、及びイントラ／インター転換スィッチ２９５を備える。
【００９１】
エントロピー復号部２１０は、受信された符号化ビートストリームを復号して、イントラ予測情報、インター予測情報、量子化係数情報などに分離する。エントロピー復号部２１０は、復号されたインター予測情報をインター予測部２６０に供給する。エントロピー復号部２１０は、イントラ予測情報を復号してイントラ予測部２５０に供給する。また、前記エントロピー復号化２１０は、前記逆量子化係数情報を逆スキャニング部２２０に供給する。
【００９２】
逆スキャニング部２２０は、前記量子化係数情報を２次元配列の逆量子化ブロックに変換する。前記変換のために、複数の逆スキャニングパターンのうち一つを選択する。係数逆スキャニングパターンは、イントラ予測モードによって定められる。現在変換ユニットのサイズが既定のサイズより大きい場合には、既定のサイズのサブセット単位で逆スキャンして量子化された変換ユニットを構成する。そして、現在変換ユニットのサイズが既定のサイズの場合と同じ場合には、変換ユニット単位で逆スキャンして量子化された変換ユニットを構成する。前記量子化された係数が複数のサブセット単位で逆スキャンされる場合には、それぞれのサブセット内の量子化係数に同じ逆スキャンパターンを適用する。前記複数のサブセットは、一つのメインサブセットと少なくとも一つ以上の残余サブセットとで構成される。メインサブセットは、ＤＣ係数を含む左上側に位置し、前記残余サブセットは、メインサブセット以外の領域をカバーする。
【００９３】
サブセット間の逆スキャンパターンは、逆ジグザグスキャンを適用する。スキャンパターンは、残余サブセットドルからメインサブセットに逆スキャンすることが望ましいが、その逆方向も可能である。また、サブセット内の量子化された係数の逆スキャンパターンと同じくサブセット間の逆スキャンパターンを設定してもよい。逆スキャニング部２２０は、現在変換ユニット内の０ではない最後の量子化係数の位置を示す情報を用いて逆スキャニングを行う。
【００９４】
逆量子化部２３０は、現在コーディングユニットの量子化ステップサイズ予測子を定める。前記予測子の決定過程は、図１の量子化部１３０の予測子決定過程と同一であるので略する。逆量子化部２３０は、定められた量子化ステップサイズ予測子と受信した残差量子化ステップサイズとを加えて、現在逆量子化ブロックに適用された量子化ステップサイズを得る。逆量子化部２３０は、量子化ステップサイズが適用された量子化マトリックスを用いて逆量子化係数を復元する。復元しようとする現在ブロックのサイズによって互いに異なる量子化マトリックスが適用され、同一サイズのブロックについても、前記現在ブロックの予測モード及びイントラ予測モードのうち少なくとも一つに基づいて量子化マトリックスが選択される。
【００９５】
逆変換部２４０は、逆量子化ブロックを逆変換して残差ブロックを復元する。そして、前記復元された量子化係数を逆変換して残差ブロックを復元する。前記逆量子化ブロックに適用する逆変換マトリックスは、予測モード（イントラまたはインター）及びイントラ予測モードによって適応的に定められる。図１の変換部１２０に適用された変換マトリックスの逆変換マトリックスが定められるので、具体的な記載は略する。
【００９６】
加算部２９０は、逆変換部２４０によって復元された残差ブロックと、イントラ予測部２５０またはインター予測部２６０によって生成される予測ブロックとを加算することで、映像ブロックを復元する。
【００９７】
イントラ予測部２５０は、エントロピー復号化部２１０から受信されたイントラ予測情報に基づいて現在ブロックのイントラ予測モードを復元する。そして、復元されたイントラ予測モードによって予測ブロックを生成する。
【００９８】
インター予測部２６０は、エントロピー復号化部２１０から受信されたインター予測情報に基づいて参照ピクチャーインデックス及び動きベクトルを復元する。そして、前記参照ピクチャーインデックス及び動きベクトルを用いて現在ブロックに対する予測ブロックを生成する。小数点精度の動き補償が適用される場合には、選択された補間フィルターを適用して予測ブロックを生成する。
【００９９】
後処理部２７０の動作は、図３の後処理部１６０の動作と同一であるので略する。ピクチャー保存部２８０は、後処理部２７０によって後処理された復号映像をピクチャー単位で保存する。
【０１００】
図６は、本発明による復号化装置２００のイントラ予測部２５０を示すブロック図である。本発明によるイントラ予測部２５０は、予測モード復号化部２５１、参照画素生成部２５２、参照画素フィルタリング部２５３、予測ブロック生成部２５４及び予測ブロック伝送部２５５を備える。
【０１０１】
予測モード復号化部２５１は、エントロピー復号部２１０部からイントラ予測情報を受信して現在予測ユニットのイントラ予測モードを復元する。前記イントラ予測情報は、復号化する現在予測ユニットのイントラ予測モードが属するイントラ予測モードグループを示す情報と、イントラ予測モードインデックスとを含む。
【０１０２】
予測モード復号化部２５１は、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを誘導する。前記モードは、現在予測ユニットの上側予測ユニット及び左側予測ユニットのイントラ予測モードである。現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左から右へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上から下へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。あるいは、複数の有効な予測ユニットのモード番号のうち最も小さなモード番号を上側イントラ予測モードと設定してもよい。
【０１０３】
誘導されたイントラ予測モードのモード番号が、現在予測ユニットに許容されるイントラ予測モードの数より大きいか、または同一であれば、前記誘導されたイントラ予測モードを、現在予測ユニットで許容するイントラ予測モードのうち一つにマッピングする。
【０１０４】
前記誘導またはマッピングされたイントラ予測モードを用いて第１イントラ予測モードグループを形成する。前記誘導またはマッピングされたイントラ予測モード及び前記イントラ予測モードによって既定された順序の候補者イントラ予測モードが第１イントラ予測モードグループに含まれる。前記誘導またはマッピングされたイントラ予測モードが方向性モードである場合には、前記既定の候補者イントラ予測モードは、前記誘導またはマッピングされたイントラ予測モードの方向性に最も隣接する少なくとも一つ以上のイントラ予測モードである。
【０１０５】
前記エントロピー復号化部２１０から受信された現在予測ユニットのイントラ予測モードを示す情報が、第１イントラ予測モードグループを示すかどうかを判断する。
【０１０６】
前記受信された現在予測ユニットのイントラ予測モードを示す情報が第１イントラ予測モードグループを示せば、受信されたイントラ予測モードインデックスに対応するイントラ予測モードを、前記形成された第１イントラ予測モードグループ内で選択する。そして、選択されたイントラ予測モードを、現在予測ユニットのイントラ予測モードと設定する。
【０１０７】
しかし、前記受信された現在予測ユニットのイントラ予測モードを示す情報が第２イントラ予測モードグループを示せば、受信されたイントラ予測モードインデックスに対応するイントラ予測モードを、第２イントラ予測モードグループ内で選択する。そして、選択されたイントラ予測モードを現在予測ユニットのイントラ予測モードと設定する。前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループ内に属するイントラ予測モード以外のイントラ予測モードで構成される。前記第２イントラ予測モードグループ内のイントラ予測モードは、インデックスを基準に再整列される。また、前記第２イントラ予測モードグループ内のイントラ予測モードは、インデックス及び現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードに基づいて再整列されてもよい。
【０１０８】
前記現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効（ａｖａｉｌａｂｌｅ）でない場合には、少なくとも一つ以上のイントラ予測モードが前記第１イントラ予測モードグループに追加される。例えば、一つのモードが追加される場合には、ＤＣモードまたは平面モードが追加される。２つのモードが追加される場合には、ＤＣモードと、平面モードまたは垂直モードとが追加される。３つのモードが追加される場合には、ＤＣモードと、平面モード、垂直モード及び水平モードのうち２つが追加される。
【０１０９】
前記左側及び上側予測ユニットのイントラ予測モードのうち一つのみ有効であるか、または同一である場合には、少なくとも一つまたは２つのイントラ予測モードが前記第１イントラ予測モードグループに追加される。１つが追加される場合には、ＤＣモードと平面モードのうち一つが追加される。２つが追加される場合には、前記有効なイントラ予測モードが方向性モードであるかどうかによって変わる。前記有効なイントラ予測モードが非方向性予測モード（ＤＣモードまたは平面モード）である場合には、垂直モードと水平モードまたは他の一つの非方向性モード（平面モードまたはＤＣモード）と垂直モードが追加される。前記有効なイントラ予測モードが方向性モードである場合には、前記有効なイントラ予測モードと最も隣接している両方のイントラ予測モードが追加される。しかし、前記有効なイントラ予測モードの一方のみに方向性モードが存在するモード（モード６またはモード９）である場合には、隣接する一つのモード（モード２５またはモード３３）とＤＣモードまたは平面モードが追加される。
【０１１０】
また、予測モード復号化部２５１は、現在予測ユニットのイントラ予測モードを次のように復号化してもよい。先ず、現在予測ユニットのイントラ予測モードが、隣接する以前予測ユニット（例えば、上側及び左側予測ユニット）イントラ予測モードのうちいずれか一つと同一であるかどうかを示すフラグｐｒｅｄ＿ｆｌａｇをパージングする。前記フラグｐｒｅｄ＿ｆｌａｇの値が１ならば、利用可能な左側及び上側予測ユニットのイントラ予測モードを用いて現在予測ユニットのイントラ予測モードを求める。前記フラグｐｒｅｄ＿ｆｌａｇの値が０ならば、残余イントラ予測モード情報ｒｅｍ＿ｐｒｅｄ＿ｍｏｄｅを用いて現在予測ユニットのイントラ予測モードを求める。この場合、前記残余イントラ予測モード情報ｒｅｍ＿ｐｒｅｄ＿ｍｏｄｅは、前記利用可能な左側及び上側予測ユニットのイントラ予測モードを除いたイントラ予測モードのうち、現在予測ユニットのイントラ予測モードの順序を示す。
【０１１１】
参照画素生成部２５２は、符号化装置１００の参照画素生成部１５１と同じ方法で参照画素を生成する。但し、参照画素生成部２５２は、予測モード復号化部２５１によって復元されたイントラ予測モードによって適応的に参照画素を生成する。すなわち、参照画素生成部２５２は、復元されたイントラ予測モードを用いて、予測ブロックの生成に使われる参照画素が有効ではない場合にのみ参照画素を生成する。
【０１１２】
参照画素フィルタリング部２５３は、予測モード復号化部２５１によって復元されたイントラ予測モード及び現在予測ユニットのサイズ情報に基づいて、参照画素を適応的にフィルタリングする。フィルタリング条件及びフィルターは、符号化装置１００の参照画素フィルタリング部１５２のフィルタリング条件及びフィルターと同一である。
【０１１３】
予測ブロック生成部２５４は、予測モード復号化部２５１によって復元されたイントラ予測モードによって、参照画素を用いて予測ブロックを生成する。予測ブロックの生成方法は、符号化装置１００の予測ブロック生成部１５４と同一である。
【０１１４】
予測ブロック伝送部２５５は、前記予測モード生成部２５４から受信された予測ブロックを加算器２９０に伝送する。
【０１１５】
図７は、本発明によるイントラ予測復号化過程を示すフローチャートである。先ず、受信されたビットストリームからイントラ予測情報及び残差信号情報を逆多重化する（Ｓ１００）。前記段階は、コーディングユニット単位で行われる。前記イントラ予測情報はコーディングユニット内の予測ユニットシンタックスから得、残差信号情報はコーディングユニット内の変換ユニットシンタックスから得る。
【０１１６】
予測ユニットシンタックスから得たイントラ予測情報を用いて、現在予測ユニットのイントラ予測モードを復号する（Ｓ１１０）。前記イントラ予測情報は、イントラ予測モードグループ指示子ｐｒｅｄ＿ｍｏｄｅ及び予測モードインデックスを含む。前記イントラ予測情報が予測モードインデックスを含まない場合、前記予測モードインデックスは０とみなす。前記イントラ予測モードグループ指示子は、現在予測ユニットが属するイントラ予測モードグループを示す。イントラ予測モードグループが２つ存在する場合、前記イントラ予測グループ指示子ｐｒｅｄ＿ｍｏｄｅは、１ビットのフラグであありうる。イントラ予測モードグループの数は２つまたは３つである。
【０１１７】
図８は、第１イントラ予測モードグループ内の予測モードの数が可変である場合の、本発明によるイントラ予測モードを復元する段階（Ｓ１１０）を具体的に説明する図面である。ここでは、イントラ予測モードグループの数が２つである場合について説明する。
【０１１８】
先ず、現在予測ユニットに隣接している予測ユニットの利用可能なイントラ予測モードを用いて第１イントラ予測モードグループを生成する（Ｓ１１１）。
【０１１９】
前記第１イントラ予測モードグループは、現在予測ユニットの上側及び左側予測ユニットの有効なイントラ予測モードを用いて構成される。この場合、前記上側及び左側予測ユニットのイントラ予測モードがいずれも有効でない場合には、ＤＣモードまたは平面モードが追加される。また、前記第１イントラ予測モードグループは、現在予測ユニットの右上側、左下側、左上側予測ユニットのイントラ予測モードのうち有効な少なくとも一つのモードをさらに含む。前記モードは、既定の順序によって検索された最初の有効なイントラ予測モードである。
【０１２０】
現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左側から右側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上側から下側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。
【０１２１】
前記有効なイントラ予測モードが現在予測ユニットの許容可能なイントラ予測モード内に属していない場合には、前記有効なイントラ予測モードは、現在予測ユニットの許容可能なイントラ予測モードのうち一つにマッピングされる。
【０１２２】
前記イントラ予測モードグループ指示子を用いて、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属するかどうかを判断する（Ｓ１１２）。
【０１２３】
段階Ｓ１１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属する場合、予測モードインデックスが存在するかどうかを判断する（Ｓ１１３）。
【０１２４】
段階Ｓ１１３で、予測モードインデックスが存在すれば、前記第１イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める（Ｓ１１４）。
【０１２５】
段階Ｓ１１３で、予測モードインデックスが存在していなければ、予測モードインデックスを０とみなす。そして、前記第１イントラ予測モードグループ内に存在するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める（Ｓ１１５）。すなわち、予測モードインデックスが存在していなければ、第１イントラ予測モードグループは一つのイントラ予測モードを含む。
【０１２６】
段階Ｓ１１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属していない場合には、第２イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを選択して、現在予測ユニットのイントラ予測モードと定める（Ｓ１１６）。前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードで構成される。前記第２イントラ予測モードグループ内のイントラ予測モード候補者は、イントラ予測モード番号の小さなものに低いインデックスを与える。
【０１２７】
図９は、第１イントラ予測モードグループ内の予測モード候補者数が固定値である場合の、本発明によるイントラ予測モード復元段階（Ｓ１１０）を具体的に説明する図面である。
【０１２８】
先ず、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて第１イントラ予測モードグループを生成する（Ｓ２１１）。
【０１２９】
前記第１イントラ予測モードグループが２個のイントラ予測モードを含む場合について説明する。
【０１３０】
現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードが有効かどうかを判断する。そして、前記有効なイントラ予測モードが現在予測ユニットの許容可能なイントラ予測モード内に属していない場合には、前記有効なイントラ予測モードは、現在予測ユニットの許容可能なイントラ予測モードのうち一つに変換（マッピング）される。現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効で同一でない場合には、前記第１イントラ予測モードグループは、前記現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードで構成される。現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードのうち一つのみ有効であるか、または２つが同じイントラ予測モードを持つ場合には、一つのイントラ予測モードが前記第１イントラ予測モードグループに追加される。前記有効な一つのイントラ予測モードがＤＣモードではない場合には、ＤＣモードを追加する。前記有効な一つのイントラ予測モードがＤＣモードである場合には、平面モードまたは垂直モードが追加される。
【０１３１】
次いで、前記第１イントラ予測モードグループが３つのイントラ予測モードを含む場合について説明する。
【０１３２】
現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードが有効かどうかを判断する。そして、前記有効なイントラ予測モードが現在予測ユニットの許容可能なイントラ予測モード内に属していない場合には、前記有効なイントラ予測モードは、現在予測ユニットの許容可能なイントラ予測モードのうち一つに変換（マッピング）される。
【０１３３】
現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効で同一でない場合には、前記第１イントラ予測モードグループは、前記有効な２つのイントラ予測モードと１つの追加イントラ予測モードとで構成される。前記追加イントラ予測モードは、前記２つのイントラ予測モードとは異なるモードであり、垂直モード、水平モード及びＤＣモードのうち一つである。この場合、ＤＣモード、垂直モード、水平モードの順序で追加可能な一つのモードが前記第１イントラ予測モードグループに含まれる。
【０１３４】
現在予測ユニットの上側及び左側予測のイントラ予測モードのうち一つのみ有効か、または前記２つのイントラ予測モードが同一である場合には、前記第１イントラ予測モードグループは、前記有効なイントラ予測モードと２つの追加イントラ予測モードとで構成される。前記２つの追加イントラ予測モードは、前記有効なイントラ予測モード及び予測ユニットのサイズによって適応的に定められる。予測ユニットのサイズが既定のサイズより小さいか、または同一であれば、前記有効なイントラ予測モードが方向性予測モードならば、前記有効なイントラ予測モードの方向に最も隣接している方向を持つイントラ予測モードが前記追加イントラ予測モードと設定される。但し、モード６または９の場合には、それぞれモード９または６を、最も隣接している方向を持つ方向性予測モードのうち一つとみなす。前記有効なイントラ予測モードが非方向性予測モードならば、垂直モード及び水平モードが追加イントラ予測モードと設定されるか、または残りの一つの非方向性予測モード及び垂直モードが追加イントラ予測モードと設定される。
【０１３５】
現在予測ユニットの上側及び左側予測のイントラ予測モードがいずれも有効でない場合には、前記第１イントラ予測モードグループは、３つの追加イントラ予測モードで構成される。前記３つの追加イントラ予測モードは、ＤＣモード、垂直モード及び水平モードである。また、ＤＣモード、平面モード及び垂直モードである。
【０１３６】
現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左側から右側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上側から下側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。
【０１３７】
次いで、前記イントラ予測モードグループ指示子を用いて、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属するかどうかを判断する（Ｓ２１２）。段階Ｓ２１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属する場合、前記第１イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める（Ｓ２１３）。
【０１３８】
段階Ｓ２１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属していない場合には、第２イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを選択して、現在予測ユニットのイントラ予測モードと定める（Ｓ２１４）。前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードで構成される。
【０１３９】
前記第２イントラ予測モードグループ内のイントラ予測モード候補者は、イントラ予測モード番号の小さなものに低いインデックスを与える。
【０１４０】
次いで、前記復号された現在予測ユニットのイントラ予測モードに基づいて参照画素を適応的に生成する（Ｓ１２０）。
【０１４１】
利用不可能な参照画素を基準として一方向のみに利用可能な参照画素が存在する場合には、最も近い位置に存在する利用可能な参照画素をコピーして参照画素を生成する。さらに他の方法として、最も近い位置に存在する複数の利用可能な参照画素を用いて参照画素を生成してもよい。利用不可能な参照画素を基準として双方向とも利用可能な参照画素が存在する場合には、各方向の最も隣接している利用可能な参照画素を用いて参照画素を生成する。前記生成される参照画素は、前記２個の参照画素（各方向に最も近い位置に存在する画素）の四捨五入した平均値を参照画素値として生成してもよい。しかし、前記２個の参照画素値の差が大きい場合が発生する可能性があるので、線形補間方法を使って参照画素を生成してもよい。
【０１４２】
次いで、復号されたイントラ予測モードに基づいて参照画素を適応的にフィルタリングする（Ｓ１３０）。復号されたイントラ予測モードが垂直（モード０）、水平（モード１）、ＤＣ（モード２）である場合には、参照画素にフィルターを適用しない。それ以外の方向性モードについては、適応的に参照画素をフィルタリングする。また、現在予測ユニットの上側の参照画素のうち最右側の参照画素（すなわち、（ｘ＝２Ｎ−１，ｙ＝−１）に位置する参照画素）と、現在予測ユニットの左側の参照画素のうち最下側に位置する参照画素（すなわち、（ｘ＝−１，ｙ＝２Ｎ−１）に位置する参照画素）とをフィルタリングせず、残りの画素は、隣接する２個の画素を用いてフィルタリングする。
【０１４３】
前記フィルタリングは、参照画素間の画素値の変化量をスムージングするためのものであり、ローパスフィルターを適用する。ローパスフィルターは、３タップフィルターである［１，２，１］、または５タップフィルターである［１，２，４，２，１］である。前記ローパスフィルターは、現在予測ユニットのサイズ及びイントラ予測モードによって適応的に適用される。
【０１４４】
垂直または水平モードと、前記水平または垂直モードに対して４５°角度を持つモードとの間に存在するモードについては、予測ユニットのサイズによって適応的にフィルターを適用する。この場合、イントラ予測ユニットのサイズによって、前記水平または垂直モード及びこれに隣接している既定数のモードでのみフィルターを適用する。方向性イントラ予測モードの数が同じ予測ユニットについては、前記既定数は予測ユニットが大きいほど単調増加する。すなわち、８×８予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第１個数のモードとでフィルタリングを行い、１６×１６予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第２個数のモードとでフィルタリングを行い、３２×３２予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第３個数のモードとでフィルタリングを行う。ここで、第１個数は第２個数より小さいか、または同一であり、第２個数は第３個数より小さいか、または同一である。
【０１４５】
次いで、復号されたイントラ予測モードによって参照画素を用いて予測ブロックを生成する（Ｓ１４０）。前記予測ブロックの生成方法は、図６の予測ブロック生成部の予測ブロック生成方法と同一であるので略する。逆多重化された残差信号をエントロピー復号化する（Ｓ１５０）。
【０１４６】
エントロピー復号化された残差信号を逆スキャンする（Ｓ１６０）。すなわち、復号化された残差信号を２次元配列の逆量子化ブロックに変換する。前記変換のために、複数の逆スキャニングパターンのうち一つを選択する。係数逆スキャニングパターンは、イントラ予測モードによって定められる。現在変換ユニットのサイズが既定のサイズより大きい場合には、既定のサイズのサブセット単位で逆スキャンして量子化された変換ユニットを構成する。そして、現在変換ユニットのサイズが既定のサイズである場合と同じ場合には、変換ユニット単位で逆スキャンして量子化された変換ユニットを構成する。
【０１４７】
２次元配列の逆量子化ブロックを逆量子化する（Ｓ１７０）。このために、現在コーディングユニットの量子化ステップサイズ予測子を定める。前記予測子の決定過程は、図５の逆量子化部２３０の予測子決定過程と同一であるので略する。定められた量子化ステップサイズ予測子と受信した残差量子化ステップサイズとを加えて、現在逆量子化ブロックに適用された量子化ステップサイズを得る。そして、量子化ステップサイズが適用された量子化マトリックスを用いて逆量子化係数を復元する。
【０１４８】
次いで、逆量子化されたブロックを逆変換する（Ｓ１８０）。復号されたイントラ予測モードによって適応的に逆変換マトリックスが定められる。変換単位は、２個（水平、垂直）の１次元変換マトリックスによって変換される。イントラ予測モードが水平である場合には、残差ブロックが垂直方向への方向性を持つ確率が高くなるので、垂直方向には逆ＤＣＴ基盤の定数マトリックスを適用し、水平方向には逆ＤＳＴ基盤または逆ＫＬＴ基盤の定数マトリックスを適用する。イントラ予測モードが垂直である場合には、垂直方向には逆ＤＳＴ基盤または逆ＫＬＴ基盤の定数マトリックスを、水平方向には逆ＤＣＴ基盤の定数マトリックスを適用する。ＤＣモードの場合には、双方向とも逆ＤＣＴ基盤の定数マトリックスを適用する。
【０１４９】
次いで、段階Ｓ１４０で生成された予測ブロックと逆変換されたブロックとを加えて復元映像を生成する（Ｓ１９０）。復元された残差信号及び予測ブロックは、ＣＵ単位で合わせられて復元される。
【０１５０】
以上、実施形態を参照して説明したが、当業者ならば、特許請求の範囲に記載した本発明の思想及び領域から逸脱しない範囲内で本発明を多様に修正及び変更できるということを理解できるであろう。
【図１】
0005982612.tif 000002
【図２】
0005982612.tif 000003
【図３】
0005982612.tif 000004
【図４】
0005982612.tif 000005
【図５】
0005982612.tif 000006
【図６】
0005982612.tif 000007
【図７】
0005982612.tif 000008
【図８】
0005982612.tif 000009
【図９】
0005982612.tif 000010