(57)【要約】【課題】既存の符号化方式の枠組みをできる限り保ちつつ、直交変換処理のブロックサイズを拡大して、画像の符号化効率を向上させることが可能な符号化装置及び復号化装置を提供する。【解決手段】ブロック分割部１１は、原画像を１６×１６画素の大きさのブロックに分割する。モード決定部１２は、予め用意された複数の分割モード、予測モード及び変換サイズモードの組み合わせ毎に、復号画像と原画像との誤差及びビットストリームの情報量の線形和による評価値を計算し、この評価値が最も小さい組み合わせを決定する。予測処理部１３は、前記決定された予測モードで画面内予測または動き補償予測を行い、変換処理部１４は、前記決定された変換サイズモードで、変換行列の要素が近似されて整数化された行列を用いて、ＤＣＴ変換を１６×１６画素のブロックに対して行う。【選択図】図１
2007243427.tif 000002
【特許請求の範囲】
【請求項１】
原画像に対し、予測処理、直交変換処理、量子化処理及び符号化処理を施してビットストリームを生成する符号化装置において、
直交変換処理を施す画像ブロックの大きさを示す変換サイズを、符号化効率を示す評価値に基づいて決定する決定部と、
該決定部により決定された変換サイズで、画像ブロックに直交変換を施す変換処理部とを備えたことを特徴とする符号化装置。
【請求項２】
請求項１に記載の符号化装置において、
前記決定部は、少なくとも４×４画素、８×８画素及び１６×１６画素のサイズに対する評価値をそれぞれ求め、これらの評価値に基づいて変換サイズを決定することを特徴とする符号化装置。
【請求項３】
請求項２に記載の符号化装置において、
前記決定部は、原画像と復号画像との間の誤差、及び前記ビットストリームの情報量を用いた評価関数により評価値を求め、変換サイズを決定することを特徴とする符号化装置。
【請求項４】
請求項１から３までのいずれか一項に記載の符号化装置において、
前記変換処理部は、ＤＣＴ（離散コサイン変換）による直交変換を施す変換行列であって、その要素を近似して整数化した変換行列を用いて、前記変換サイズで画像ブロックに直交変換を施すことを特徴とする符号化装置。
【請求項５】
請求項１から４までのいずれか一項に記載の符号化装置において、
前記決定部は、符号化効率を示す評価値に基づいて、入力した原画像ブロックを、直交変換処理を施すためのブロックに分割する大きさを示す分割モード、画面内予測または動き補償予測を示す予測モード、及び、前記変換サイズをそれぞれ決定することを特徴とする符号化装置。
【請求項６】
請求項１から５までのいずれか一項に記載の符号化装置により生成されたビットストリームを入力し、復号化処理、逆量子化処理及び逆直交変換処理を施し、復号画像を生成する復号化装置において、
前記ビットストリームから変換サイズを得て、該変換サイズで逆直交変換を施すことを特徴とする復号化装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像の圧縮符号化復号化技術において、ＤＣＴ（Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ：離散コサイン変換）に代表される直交変換を行う際に、既存の符号化復号化方式の枠組みをできる限り保ちつつ、符号化効率を向上させる符号化装置及び復号化装置に関する。
【背景技術】
【０００２】
ＩＳＯ／ＩＥＣ  ＪＴＣ１／ＳＣ２９／ＷＧ１１（ＭＰＥＧ）で規格されたＭＰＥＧ−２（非特許文献１を参照）や、ＭＰＥＧ及びＩＴＵ−Ｔで規格されたＨ．２６４／ＭＰＥＧ−４  ＡＶＣ（非特許文献２を参照）等の画像の圧縮符号化規格では、画像に対しＤＣＴに代表される直交変換処理が施される。この直交変換処理は、画像信号の空間的な近傍では画素が類似しているという特徴、すなわち相関が高いという特徴を利用することにより、画像信号の空間的な冗長性を取り除くためのものである。例えば、水平８画素×垂直８画素、水平４画素×垂直４画素等の矩形ブロックに分割した画像に対してそのブロック単位に直交変換処理が施され、この結果、画像は低域周波数から高域周波数までの成分（変換係数）毎に分離される。ここで、画像信号において空間的な相関が高いということは、この直交変換処理により、低域の周波数成分が多く発生し、高域の周波数成分はあまり発生しないことを意味する。
【０００３】
前述のように、直交変換処理が施される画像のブロック単位のサイズ（ブロックサイズ）は８×８画素または４×４画素であり、これは、計算量、符号化装置の規模、２のべき乗である場合に変換の高速化を図ることができる等の理由により決められている。ここで、ブロックサイズを大きくした場合には、多くの画素を一度に変換することができ、効率的に冗長性を取り除くことができる。しかしながら、広く使われているＳＤＴＶ（Ｓｔａｎｄａｒｄ  Ｄｅｆｉｎｉｔｉｏｎ  Ｔｅｌｅｖｉｓｉｏｎ）等による画像では、空間的に高い相関を有する領域は、中心の画素からせいぜい１０画素前後の近傍であることから、あまり大きなブロックサイズとすることは実用的でない。
【０００４】
一方、非特許文献１及び２の規格化された符号化方式において、これらの規格が成立した後に様々な実装や実験等が繰り返された結果、これらの符号化方式を構成する種々の符号化ツールの組み合わせとしてのシステムが成熟している。そこで、これらの規格化された符号化方式を変えるのではなく、これらの方式をベースとした新たな符号化方式により、その効率を改善することが望ましい。
【０００５】
【非特許文献１】ＩＳＯ／ＩＥＣ  １３８１８−２
【非特許文献２】ＩＴＵ−Ｔ  Ｒｅｃ．Ｈ．２６４｜ＩＳＯ／ＩＥＣ  １４４９６−１０  Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ
【発明の開示】
【発明が解決しようとする課題】
【０００６】
以上説明したように、画像の符号化において行われる直交変換処理により、画像の空間的な冗長性を取り除くことができるが、非特許文献１及び２の規格化された符号化方式により直交変換処理が施されるブロックサイズは、ＳＤＴＶ等による画像を対象とした８×８画素または４×４画素が用いられることが多い。一方、ＨＤＴＶ（Ｈｉｇｈ  Ｄｅｆｉｉｎｉｔｉｏｎ  Ｔｅｌｅｖｉｓｉｏｎ）やＳＨＶ（スーパーハイビジョン）等による高精細または超高精細な画像を対象にする場合のブロックサイズを、１６×１６画素または３２×３２画素のように、さらに大きくすることができれば、符号化効率の向上を実現することができると考えられる。しかしながら、現状の規格化された符号化方式をそのまま使った場合には、１６×１６画素または３２×３２画素のような大きなブロックサイズで直交変換処理を施すことができない。
【０００７】
そこで、本発明は、かかる課題を解決するためになされたものであり、その目的は、既存の符号化方式の枠組みをできる限り保ちつつ、直交変換処理のブロックサイズを拡大して、画像の符号化効率を向上させることが可能な符号化装置及び復号化装置を提供することにある。
【課題を解決するための手段】
【０００８】
上記課題を解決するため、本発明による符号化装置は、原画像に対し、予測処理、直交変換処理、量子化処理及び符号化処理を施してビットストリームを生成する符号化装置において、直交変換処理を施す画像ブロックの大きさを示す変換サイズを、符号化効率を示す評価値に基づいて決定する決定部と、該決定部により決定された変換サイズで、画像ブロックに直交変換を施す変換処理部とを備えたことを特徴とする。これにより、符号化効率を考慮した変換サイズで直交変換処理を行うことができる。
【０００９】
また、本発明による符号化装置は、前記決定部が、少なくとも４×４画素、８×８画素及び１６×１６画素のサイズに対する評価値をそれぞれ求め、これらの評価値に基づいて変換サイズを決定することを特徴とする。
【００１０】
また、本発明による符号化装置は、前記決定部が、原画像と復号画像との間の誤差、及び前記ビットストリームの情報量を用いた評価関数により評価値を求め、変換サイズを決定することを特徴とする。
【００１１】
また、本発明による符号化装置は、前記変換処理部が、ＤＣＴ（離散コサイン変換）による直交変換を施す変換行列であって、その要素を近似して整数化した変換行列を用いて、前記変換サイズで画像ブロックに直交変換を施すことを特徴とする。
【００１２】
また、本発明による符号化装置は、前記決定部が、符号化効率を示す評価値に基づいて、入力した原画像ブロックを、直交変換処理を施すためのブロックに分割する大きさを示す分割モード、画面内予測または動き補償予測を示す予測モード、及び、前記変換サイズをそれぞれ決定することを特徴とする符号化装置。
【００１３】
さらに、本発明による復号化装置は、前記符号化装置により生成されたビットストリームを入力し、復号化処理、逆量子化処理及び逆直交変換処理を施し、復号画像を生成する復号化装置において、前記ビットストリームから変換サイズを得て、該変換サイズで逆直交変換を施すことを特徴とする。
【発明の効果】
【００１４】
本発明によれば、符号化効率を考慮した変換サイズで直交変換処理が施されるから、既存の符号化方式の枠組みを保ちつつ、直交変換処理のブロックサイズを拡大することができる。これにより、例えば、ＨＤＴＶやＳＨＶ等による高精細または超高精細な画像を対象にする場合のブロックサイズを、１６×１６画素または３２×３２画素等のように、既存の８×８画素を超える大きなサイズにすることができる。したがって、このような画像を対象にする場合であっても、画像の空間内の相関を削除し、符号化画質の向上を図ることができる。つまり、従来の４×４画素または８×８画素のブロックサイズで直交変換処理を行う場合に比べて、画像の符号化効率を向上させることが可能となる。
【発明を実施するための最良の形態】
【００１５】
以下、本発明の実施の形態について図面を用いて詳細に説明する。ここでは、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式を例にして、１６×１６画素のブロックサイズに拡大した直交変換処理を施す場合について説明する。尚、この方式のハイプロファイルと呼ばれる高精細画像用のプロファイル（符号化ツールの組み合わせ）では、４×４画素及び８×８画素の両方を用いることができるが、さらに１６×１６画素の変換処理を追加して拡張する。また、動画像の符号化方式だけでなく、静止画像も対象となる。
【００１６】
〔符号化装置〕
まず、本発明の実施の形態による符号化装置について説明する。図１は、符号化装置の構成を示すブロック図である。この符号化装置１は、ブロック分割部１１、モード決定部１２、予測処理部１３、変換処理部１４、量子化部１５、符号化部１６、比較部１７及び局所復号部１８を備えている。符号化装置１は、当該符号化装置１により符号化を施す対象である原画像を入力し、１６×１６画素のブロックサイズに分割し、所定の評価関数を最適にするための分割モード、予測モード及び変換サイズモードを決定し、ＤＣＴに代表される直交変換を施し、量子化及びエントロピー符号化を施し、ビットストリームを生成する。以下、符号化装置１を構成する各部について詳細に説明する。
【００１７】
ブロック分割部１１は、原画像の画像信号を入力し、１６×１６画素の大きさのブロックに分割する。尚、予め設定された分割の大きさに応じて、４×４画素、８×８画素、１６×１６画素等の大きさのブロックに分割するようにしてもよい。以下、このブロック分割部１１による分割されたブロックをマクロブロックという。ブロック分割部１１による分割されたマクロブロックは、モード決定部１２及び比較部１７に出力される。
【００１８】
モード決定部１２は、予め設定された分割モード、予測モード及び変換サイズモードの複数の組み合わせの中から、符号化効率や処理速度等を考慮した最適な組み合わせを決定する。具体的には、モード決定部１２は、１６×１６をそのままの単位とする場合、１６×１６を４分割して８×８の単位とする場合等を示す複数の分割モード、（本実施の形態では１６×１６をそのままの単位とするモード）と、画面内予測及び動き補償予測の２つの予測モード、４×４等の複数の変換サイズモードから、予め複数の組み合わせを設定しておき、その組み合わせ毎に、後述する評価値を計算し、当該評価値が最も良い場合の組み合わせを決定する。すなわち、モード決定部１２は、１６×１６画素の復号画像と１６×１６画素のマクロブロックの原画像とを比較して得られた誤差を比較部１７から入力し、符号化によって生じるビットストリームの情報量（ビットレート）を符号化部１６から入力し、これらの誤差及び情報量の線形和の評価関数を評価値として計算する。このような処理を予め設定されたモードの組み合わせ毎に繰り返して、最終的に評価値が最も小さい場合の分割モード、予測モード及び変換サイズモードの組み合わせを決定する。評価値の計算式を以下に示す。
ｍｉｎ  Ｅ＝Ｄ＋λＲ
ここで、Ｅは評価値、Ｄは原画像と復号画像との間の誤差、λは係数、Ｒはビットストリームの情報量を示す。
【００１９】
尚、モード決定部１２は、予め設定された回数分だけ、前述した処理を繰り返し、最も評価値が小さくなったときの分割モード、予測モード及び変換サイズモードの組み合わせを、最も適した組み合わせとして決定するようにしてもよい。また、モード決定部１２は、復号画像と原画像とを比較して得られた誤差のみに基づいて、または符号化によって生じるビットストリームの情報量のみに基づいて評価値を計算し、最も評価値が小さくなったときの分割モード、予測モード及び変換サイズモードの組み合わせを、最も適した組み合わせとして決定するようにしてもよい。また、モード決定部１２は、前述の評価値を計算し、この評価値が予め設定された値よりも小さくなったときの分割モード、予測モード及び変換サイズモードの組み合わせを、最も適した組み合わせとして決定するようにしてもよい。
【００２０】
予測モードは、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式の場合、静止画像では画面内予測、動画像では動き補償予測または画面内予測である。また、非特許文献１のＭＰＥＧ−２の場合、画面内予測が存在しないので、動画像のときの動き補償予測のみがある。非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式の場合、画面内予測には、１６×１６をそのままの単位とする分割モードのときに４種類の予測があり、１６×１６を１６分割して４×４の単位とする分割モードのときに９種類の予測があり、１６×１６を４分割して８×８の単位とする分割モードのときに４種類の予測がある。また、予測モードが動き補償予測の場合は、１６×１６を１６×１６，１６×８，８×１６，８×８の単位に分割する分割モードがあり、８×８を８×４，４×８，４×４の単位に分割する分割モードがある。このように、これらの分割モードによるブロックの大きさと予測モードの種類との組み合わせとして変換サイズモードがある。
【００２１】
非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式の場合に、４×４の変換サイズモードは、全ての分割モード及び予測モードの組み合わせにおいて存在するが、８×８の変換サイズモードは、分割モードが８×８以上とするモードによるブロックの大きさの場合に限定され、さらに、予測モードが画面内予測であって分割モードが１６×１６である場合の組み合わせは存在しない。この制約は、変換サイズモードの大きさ（変換ブロックのサイズ）よりも小さいサイズで予測が行われると、変換サイズ内で画素値の急激な変化が生じ、変換した場合の効率が却って悪くなるからである。そこで、変換サイズモードとして１６×１６を導入した本実施の形態では、予測モードが画面内予測の場合は１６×１６、動き補償予測の場合も１６×１６に限定することとする。
【００２２】
予測処理部１３は、モード決定部１２により決定された分割モード（本実施の形態では１６×１６）、予測モード（画面内予測または動き補償予測）を用いて、１６×１６画素のマクロブロックに対し画面内予測または動き補償予測を行い、予測後の残差信号を生成する。
【００２３】
変換処理部１４は、予測処理部１３により生成された予測後の残差信号に対し、直交変換処理を行う。ここで、変換サイズモードが４×４または８×８の場合は、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式に沿って直交変換処理を行う。また、１６×１６の場合は、この方式の一部を拡張して、次に示すＤＣＴに基づいた直交変換処理を行い、ＤＣＴ係数を出力する。ここで、１６×１６画素の１次元ＤＣＴ係数は、以下の式で算出される。
【数１】
2007243427.tif 000003
ここで、Ｃは変換行列を示し、ｘは入力した画像信号を示す。
【００２４】
これを行列形式で表すと、以下の式になる。
【数２】
2007243427.tif 000004
（２）式により、この変換行列を構成する要素は全部で１５種類あることがわかる。
【００２５】
これらをａ〜ｏの記号で表すと以下の式になる。
【数３】
2007243427.tif 000005
ここで、ａ，ｂ，ｃ，ｅの要素は以下に示す値である。
【数４】
2007243427.tif 000006
【００２６】
また、これら以外の要素は以下に示すように近似する。
【数５】
2007243427.tif 000007
【００２７】
この近似により整数化した変換基底は、以下のようになる。
【数６】
2007243427.tif 000008
【００２８】
前述の（６）式に示した変換行列をＣ、スケーリングの行列をＢ、入力画像（マクロブロック）をＸとすると、１６×１６画素の２次元のＤＣＴ係数は、以下の式で算出される。
【数７】
2007243427.tif 000009
【００２９】
ここで、行列に対して各要素にスカラーを乗ずる演算を、以下の式により行う。
【数８】
2007243427.tif 000010
ここで、最終項Ｅの乗算によって、スケーリングの行列Ｂを調整する。
【００３０】
量子化部１５は、変換処理部１４により変換されたＤＣＴ係数を入力し、量子化処理を行い、量子化係数を出力する。この場合も、変換サイズモードが４×４または８×８の場合は、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式に沿って量子化処理を行う。また、１６×１６の場合は、この方式の一部を拡張して、次に示す量子化処理を行う。変換処理部１４により変換されたＤＣＴ係数をＹｉｊとすると、通常の量子化は、以下の式により行われる。
Ｚｉｊ＝ｒｏｕｎｄ（Ｙｉｊ／Ｑstep）
ここで、ＱstepとＱｐとの間の関係を図２に示す。この関係は、後述するＭＦ／２qbitsの置き換えの処理に用いられる。
【００３１】
ＣＸＣＴをＷとして、前述の量子化係数を書き直すと以下の式による表される。
Ｚｉｊ＝ｒｏｕｎｄ（Ｗｉｊ・ＰＦ／Ｑstep）
ここで、ＰＦは、１−Ｄ変換の行列内の位置（ｉ，ｊ）により決定される値である。ＰＦを図３に示す。図３によれば、ＰＦは、行列内の位置（ｉ，ｊ）に応じて分類番号１〜１０に分類され、それぞれの値に決定されている。
【００３２】
そして、ＰＦ／ＱstepをＭＦ／２qbitsとして、除算を右シフトに置き換える。尚、ｑｂｉｔｓは、以下の式により表される。
ｑｂｉｔｓ＝１７＋ｆｌｏｏｒ（ＱＰ／６）
ＭＦは、図３に示したＰＦの分類番号及びＱＰに基づいて、図４により求められる。図４において、行方向の０〜５はｍｏｄ（ＱＰ，６）の値を示し、列方向の１〜１０は、図３に示したＰＦの分類番号を示している。
【００３３】
量子化部１５は、最終的に、以下に示す量子化係数｜Ｚｉｊ｜を算出する。
｜Ｚｉｊ｜＝（｜Ｗｉｊ｜・ＭＦ＋ｆ）＞＞ｑｂｉｔｓ
ｓｉｇｎ（Ｚｉｊ）＝ｓｉｇｎ（Ｗｉｊ）
ここで、ｆは、デッドゾーンを設定するための丸め用に予め設定された値であり、例えば、画面内予測を行う画面内符号化の場合は２qbits／３とし、動き補償予測を行う画面間符号化の場合は２qbits／６とするが、丸め用の値であればよく、特に符号化の違いにより異なる値が設定される必要はない。
【００３４】
符号化部１６は、量子化部１５により量子化された係数を、復号に必要な各種ヘッダや前述したモード情報、動きベクトル等と共に符号化し、ビットストリームを生成する。また、ビットストリームの情報量をモード決定部１２に出力する。この場合も、変換サイズモードが４×４または８×８の場合は、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式に沿って符号化を行う。また、１６×１６の場合は、この方式の一部を拡張して符号化を行う。
【００３５】
符号化部１６は、まず、１６×１６＝２５６個の量子化係数を、例えば図５に示すようにジグザグスキャンする。図５において、０〜２５５の数字は、スキャンする順番を示している。ここで、２５６個の量子化係数をジグザグスキャンした後の量子化係数をＣ０〜Ｃ２５５とする。符号化部１６は、次に、スキャン後の量子化係数を、１つの１６×１６ブロックを単位として符号化する。
【００３６】
符号化に用いるコンテキスト（符号化で用いる確率モデル）については、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式における８×８画素のものを使用する。但し、この方式における、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆ＿ｆｌａｇ及びｌａｓｔ＿ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆ＿ｆｌａｇについては、当該方式において、ｌｅｖｅｌＬｉｓｔＩｄｘ（スキャン後の係数位置）＝０〜６２の範囲のみでｃｔｘＩｄｘＩｎｃの値が定義されているので、１６×１６ＤＣＴのｌｅｖｅｌＬｉｓｔＩｄｘを、図６に示すように８×８ＤＣＴのｌｅｖｅｌＬｉｓｔＩｄｘに対応付けた上で、前記方式の定義を解釈してｃｔｘＩｄｘＩｎｃを決定する。ここで、ｃｔｘＩｄｘＩｎｃは、符号化を行う際のインデックスであり、予め用意したテーブルから符号化のための情報を読み出すために用いられる。
【００３７】
また、１６×１６の変換を用いることを明示するためのフラグとして、前記方式に定義されているｔｒａｎｓｆｏｒｍ＿ｓｉｚｅ＿８×８＿ｆｌａｇを、下記のように２ビットに拡張する。
００：４×４  ０１：８×８  １０：１６×１６  １１：未使用
【００３８】
また、符号化時の２値化は、前記方式のＦＬ（Ｆｉｘｅｄ−Ｌｅｎｇｔｈ）方式を用いて行い、パラメータｃＭａｘ＝２とする。この拡張に伴い、前記方式のＮＵＭ＿ＴＲＡＮＳＦＯＲＭ＿ＳＩＺＥ＿ＣＴＸ（トランスフォームのサイズに応じたコンテキストの数）を３から６に変更し、ｃｔｘＩｄｘＩｎｃの値を追加する。このｃｔｘＩｄｘＩｎｃの値は、図７に示すように、左方及び上方ブロックのｌｕｍａ＿ｔｒａｎｓｆｏｒｍ＿ｓｉｚｅ＿８×８＿ｆｌａｇの値をａ，ｂとしたテーブルを参照して求められる。
【００３９】
各初期値は、前記方式のコンテキストにおけるＩＮＩＴ＿ＴＲＡＮＳＦＯＲＭ＿ＳＩＺＥ＿Ｉを拡張し、その表の４００番及び４０１番のｃｏｎｔｅｘｔ初期値を用いる。８×８変換のコンテキストと同様に前記方式において、１６×１６ＤＣＴの導入により、ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆ＿ｆｌａｇ、ｌａｓｔ＿ｓｉｇｎｉｆｉｃａｎｔ＿ｃｏｅｆｆ＿ｆｌａｇ、ｃｏｅｆ＿ａｂｓ＿ｌｅｖｅｌ＿ｍｉｎｕｓｌについて、シンタックスの新たなコンテキストが必要になる。しかし、専用のコンテキストは追加せず、４×４または８×８変換用のコンテキストを用いる。
【００４０】
局所復号部１８は、量子化部１５により量子化された係数を入力し、逆量子化処理を行ってＤＣＴ係数を求め、逆変換処理を行って復号画像を生成する。この場合も、変換サイズモードが４×４または８×８の場合は、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式に沿って逆量子化処理及び逆変換処理を行う。また、１６×１６の場合は、この方式の一部を拡張して逆量子化処理及び逆変換処理を行う。
【００４１】
先ず、逆量子化処理について説明する。変換サイズモードが１６×１６の場合の逆量子化処理は、以下の式により行われる。
Ｙ’ｉｊ＝Ｚｉｊ・Ｑstep
しかし、前述した量子化部１５による量子化処理と同じようにスケーリングは別扱いとし、逆量子化処理を以下の式により行う。
Ｗ’ｉｊ＝Ｚｉｊ・Ｑstep・ＰＦ・１０２４
ここで、１０２４は丸め誤差を回避するための数値である。また、ＱＰ＝０〜５に対して、Ｖ＝Ｑstep_base・ＰＦ・１０２４とまとめて定義し、逆量子化処理を以下の式により行う。
Ｗ’ｉｊ＝Ｚｉｊ・Ｖｉｊ・２froor（Ｑｐ／６）
ここで、Ｑstep_baseは、ＱＰ＝０〜５におけるＱstepである。
【００４２】
Ｖは、図６に示したＰＦの分類番号及びＱＰに基づいて、図８により求められる。図８において、行方向の０〜５はｍｏｄ（ＱＰ，６）の値を示し、列方向の１〜１０は、図６に示したＰＦの分類番号を示している。ここで、ＭＦ・Ｖ・Ｇ２≒２２７の関係より、前述した量子化部１５による量子化処理時におけるＭＦを求めることができる。１−Ｄ変換の行列のノルムにおいて、２−Ｄ変換場合のＧ２は、以下の１０種類である。
｛１６２，（２４６１／１２８）２，（２８９／１６）２，１０２，１６・（２４６１／１２８），１６・（２８９／１６），１６・１０，（（２４６１／１２８）・（２８９／１６）），（（２４６１／１２８）・１０），（（２８９／１６）・１０）｝
【００４３】
次に、逆変換処理について説明する。変換サイズモードが１６×１６の場合の逆量子化処理は、変換処理部１４による順変換処理で用いた行列と同じ行列を用いて、以下の式により行われる。
【数９】
2007243427.tif 000011
最後に各要素を１０２４で除算する。このように、局所復号部１８は、逆量子化処理及び逆変換処理を行うことにより、復号画像を求めることができる。
【００４４】
比較部１７は、ブロック分割部１１から１６×１６画素のマクロブロックの画像を入力し、局所復号部１８から１６×１６画素の復号画像を入力し、両者を比較して誤差歪量を求め、モード決定部１２に出力する。
【００４５】
以上のように、符号化装置１によれば、モード決定部１２が、所定の評価関数を用いて符号化効率を考慮した各種モードを決定し、予測処理部１３、変換処理部１４、量子化部１５及び符号化部１６が、既存の符号化方式をベースにした１６×１６画素サイズに拡大して処理を行うようにした。これにより、既存の符号化方式の枠組みを保ちつつ、各処理におけるブロックサイズを拡大し、画像の符号化効率を向上させることが可能となる。
【００４６】
〔復号化装置〕
次に、本発明の実施の形態による復号化装置について説明する。この復号化装置は、復号化部、逆量子化部及び逆変換部を備えている。復号化装置は、図１に示した符号化装置１により出力されたビットストリームを入力し、復号化処理、逆量子化処理及び逆変換処理を行い、復号画像を生成する。
【００４７】
復号化部は、符号化装置１からビットストリームを入力し、復号化を行い、１次元の量子化された変換係数、各種ヘッダ、分割モード、予測モード、変換サイズモード、動きベクトル等を得る。そして、復号化部は、１次元の量子化された変換係数を逆スキャンし、２次元の変換係数に並び替える。逆量子化部は、２次元の変換係数を入力し、図１の局所復号部１８における逆量子化処理と同様の処理を行い、ＤＣＴ係数を生成する。逆変換部は、逆量子化部により生成されたＤＣＴ係数を入力し、図１の局所復号部１８における逆変換処理と同様の処理を行い、１６×１６画素の復号画像を生成する。
【００４８】
以上、実施の形態を挙げて本発明を説明したが、本発明は上記実施の形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、上記実施の形態では、非特許文献２のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ方式をベースにして１６×１６画素の処理に拡張するようにしたが、この方式に限定されるものではなく、他の符号化方式をベースにして拡張するようにしてもよい。また、上記実施の形態では、１６×１６の変換サイズモードについて適用したが、８×８を超えるサイズにも適用することができるし、１６×１６よりもさらに大きいサイズにも適用することができる。また、変換処理部１４は、ＤＣＴを近似した変換方式により処理を行うようにしたが、近似を伴わないＤＣＴによる変換方式や、他の変換方式により処理を行うようにしてもよい。
【図面の簡単な説明】
【００４９】
【図１】本発明の実施の形態による符号化装置の構成を示すブロック図である。
【図２】ＱstepとＱｐとの間の関係を示す図である。
【図３】ＰＦの値を示す図である。
【図４】ＭＦの値を示す図である。
【図５】ジグザグスキャンによるスキャン方法の例を示す図である。
【図６】１６×１６ＤＣＴのｌｅｖｅｌＬｉｓｔＩｄｘを示す図である。
【図７】ｌｕｍａ＿ｔｒａｎｓｆｏｒｍ＿ｓｉｚｅ＿８×８＿ｆｌａｇの値をａ，ｂとしたテーブルを示す図である。
【図８】Ｖの値を示す図である。
【符号の説明】
【００５０】
１  符号化装置
１１  ブロック分割部
１２  モード決定部
１３  予測処理部
１４  変換処理部
１５  量子化部
１６  符号化部
１７  比較部
１８  局所復号部
【図１】
2007243427.tif 000012
【図２】
2007243427.tif 000013
【図３】
2007243427.tif 000014
【図４】
2007243427.tif 000015
【図５】
2007243427.tif 000016
【図６】
2007243427.tif 000017
【図７】
2007243427.tif 000018
【図８】
2007243427.tif 000019