(57)【要約】【課題】非正方形ブロックの変換係数に対する最適な走査方式を、ブロックの縦横比に基づいて特定することで高効率の符号化および復号を実現できる符号化装置および復号装置を提供する。【解決手段】ステップＳ１１ではブロックの縦横比Rが参照され、R=1であればステップＳ１２へ進む。ステップS１２においてブロックサイズが4×4又は8×8と判定されるとステップS１３へ進み、予測モード依存（M）走査方式に特定される。16×16以上であれば、ステップS１４へ進んで斜め走査（D）に特定される。ステップS１１においてブロックの縦横比RがR≠1であればステップＳ１５へ進む。ステップS１５において、ブロックサイズが4×4又は8×8と判定されるとステップS１６へ進み、予測モード依存（M）走査方式に特定される。16×16以上であれば、ステップS１７へ進んで斜め走査（D）に特定される。【選択図】図７
2019161595.tif 000002
【特許請求の範囲】
【請求項１】
ブロックごとの予測信号と復号した残差信号とを加算した復号画像信号を復号する復号装置において、
符号化されたビットストリームをエントロピー復号してシンタックス要素を出力するエントロピー復号手段と、
方向の異なる複数の走査手段のいずれかにより、前記シンタックス要素に逆走査を実行して前記ブロック内のレベル値を出力する逆走査実行手段と、
前記レベル値を逆量子化して係数を出力する逆量子化手段と、
前記ブロックごとの係数を入力とし、周波数領域から逆変換して残差信号を出力する逆変換手段とを備え、
前記ブロックは、四分木構造または四分木二分構造に従って分割され、
前記逆走査実行手段は、ブロックの縦横比に基づいて、前記実行する走査手段を特定することを特徴とする動画像の復号装置。
【請求項２】
前記逆走査実行手段は、ブロックの縦横比が1:1の場合と1:1以外の場合とでそれぞれ走査手段を限定し、ブロックサイズに基づいて1つの走査手段に特定することを特徴とする請求項１に記載の動画像の復号装置。
【請求項３】
前記逆走査実行手段は、ブロックの縦横比が1:1の場合と1:1以外の場合とでそれぞれ走査手段を限定し、ブロックサイズから当該走査手段を更に限定し、イントラ予測モードに基づいて１つの走査手段に更に特定することを特徴とする請求項１に記載の動画像の復号装置。
【請求項４】
前記逆走査実行手段は、単位ブロックの縦のブロックサイズが横のブロックサイズよりも大きいと、方向が水平(H)の走査手段に特定し、それ以外では方向が水平以外の走査手段に特定することを特徴とする請求項１に記載の動画像の復号装置。
【請求項５】
前記逆走査実行手段は、ブロックの縦横比が1:1以外の場合で、縦のサイズが横のサイズよりも大きいブロックには、方向が垂直に近い走査手段の使用を禁止することを特徴とする請求項１に記載の動画像の復号装置。
【請求項６】
前記逆走査実行手段は、ブロックの縦横比が1:1以外の場合で、横のサイズが縦のサイズよりも大きいブロックには、方向が水平に近い走査手段の使用を禁止することを特徴とする請求項１に記載の動画像の復号装置。
【請求項７】
前記逆走査実行手段は、ブロックの縦横比が1:1かつブロックサイズが所定の第１閾値未満のブロックには、ブロックのイントラ予測モードに基づいて走査手段を特定し、
ブロックの縦横比が1:1かつブロックサイズが所定の第１閾値以上のブロックには、方向が斜めの走査手段を特定し、
ブロックの縦横比が1:1以外かつ所定の第２閾値未満のブロックには、イントラ予測モードに基づいて走査手段を特定し、
ブロックの縦横比が1:1以外かつ所定の第２閾値以上のブロックには、方向が斜めの走査手段を特定することを特徴とする請求項１に記載の動画像の復号装置。
【請求項８】
前記逆走査実行手段は、ブロックの縦横比が所定の第２閾値以上かつ短辺のブロック長が所定の第３閾値以上のブロックには、イントラ予測モードに基づいて走査手段を特定することを特徴とする請求項７に記載の動画像の復号装置。
【請求項９】
前記ブロックは、前記四分木構造または四分木二分構造に従って複数のサブブロックに分割され、
前記サブブロックと同一方向の走査が前記ブロックに対して再帰的に実行されることを特徴とする請求項１ないし８のいずれかに記載の復号装置。
【請求項１０】
前記ブロックは、前記四分木構造または四分木二分構造に従って複数のサブブロックに分割され、
前記サブブロックの走査方向とブロックの走査方向とが独立していることを特徴とする請求項１ないし８のいずれかに記載の復号装置。
【請求項１１】
コンピュータが、エントロピー復号された一次元配列の変換係数を逆走査により二次元に配列してブロックを再構成する復号方法において、
ブロックの縦横比を含む形状を判別する手順と、
前記判別の結果に基づいて、逆走査の方向が異なる複数の走査手段の一つを選択する手順と、
前記選択された走査手段により一次元に配列された変換係数を二次元の配列に並び替える手順とを含むことを特徴とする動画像の復号方法。
【請求項１２】
ブロックごとに予測を行い、その残差信号を符号化する符号化装置において、
前記ブロックことの残差信号を入力とし、周波数領域に変換して係数を出力する変換手段と、
前記係数を量子化してレベル値を出力する量子化手段と、
方向の異なる複数の走査手段のいずれかにより、前記ブロック内の各レベル値に順走査を実行してシンタックス要素を出力する順走査実行手段と、
前記シンタックス要素をエントロピー符号化してビットストリームを出力するエントロピー符号化手段とを備え、
前記ブロックは、四分木構造または四分木二分構造に従って分割され、
前記順走査実行手段は、ブロックの縦横比に基づいて、前記実行する走査手段を特定することを特徴とする動画像の符号化装置。
【請求項１３】
コンピュータが、ブロックごとに二次元に配列された変換係数を順走査により一次元に配列してエントロピー符号化する符号化方法において、
ブロックの縦横比を含む形状を判別する手順と、
判別の結果に基づいて、順走査の方向が異なる複数の走査手段の一つを選択する手順と、
前記選択された走査手段によりブロックの変換係数を一次元に並べ替える手順とを含むことを特徴とする動画像の符号化方法。
【請求項１４】
ブロックごとに予測を行い、その残差信号を符号化する装置およびブロックごとの予測信号と復号した残差信号とを加算した復号画像信号を復号する装置を備えた符号化／復号システムにおいて、
前記ブロックは、四分木構造または四分木二分構造に従って分割され、
前記符号化する装置が、
前記ブロックことの残差信号を入力とし、周波数領域に変換して係数を出力する変換手段と、
前記係数を量子化してレベル値を出力する量子化手段と、
方向の異なる複数の走査手段のいずれかにより、前記ブロック内の各レベル値に順走査を実行してシンタックス要素を出力する順走査実行手段と、
前記シンタックス要素をエントロピー符号化してビットストリームを出力するエントロピー符号化手段とを備え、
前記順走査実行手段は、ブロックの縦横比に基づいて、前記実行する走査手段を特定し、
前記復号する装置が、
符号化されたビットストリームをエントロピー復号してシンタックス要素を出力するエントロピー復号手段と、
方向の異なる複数の走査手段のいずれかにより、前記シンタックス要素に逆走査を実行して前記ブロック内のレベル値を出力する逆走査実行手段と、
前記レベル値を逆量子化して係数を出力する逆量子化手段と、
前記ブロックごとの係数を入力とし、周波数領域から逆変換して残差信号を出力する逆変換手段とを備え、
前記逆走査実行手段は、ブロックの縦横比に基づいて、前記実行する走査手段を特定することを特徴とする動画像の符号化／復号システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画像の符号化装置および方法、復号装置および方法ならびに符号化／復号システムに係り、特に、符号化時に変換係数の配列を二次元から一次元に並び替えるための走査、および復号時に一次元から二次元に並び替えるための逆走査の方式をブロックの縦横比に応じて切り換えることで高効率の符号化およびその復号を実現できる符号化装置および方法、復号装置および方法ならびに符号化／復号システムに関する。
【背景技術】
【０００２】
特許文献１，２には、ブロックサイズおよびイントラ予測モードに基づいて変換係数の走査順を適応的に選択するモード依存型走査方式が提案されている。具体的には、特許文献１，２では、予測残差信号ブロックの直交変換係数をエントロピー符号化する際に、変換係数の情報量が符号化前よりも少なくなるように、非ゼロの変換係数の発生確率に応じて、あるいは変換ブロックのブロックサイズおよびイントラ予測モードごとに変換係数を並び替えている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】WO2011/083599
【特許文献２】特表2014-504489号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１，２によれば、予測残差信号ブロックの変換係数の走査方式は、ブロックが予測される際に使用されたイントラ予測モードと直交変換される際に使用された変換ブロックのブロックサイズに基づいて特定される。しかしながら、この手法は正方形のブロックを対象として考案されたため、非正方形のブロックに対しては必ずしも効率的な走査順が特定されるとは限らない。
【０００５】
図１９は、ブロックのサイズが大きく、かつ縦横比が大きい場合に、走査方式に応じて隣接するサブブロック間で一次元配列時の順序が離れてしまう様子を示している。ここでサブブロックとは4×4画素のブロックを示し、H.265|HEVCでは、このサブブロック単位で異なる複数の走査方式から１つの走査方式に特定され、またその走査方式はブロック自体の走査方式としても再帰的に使用される。
【０００６】
例えば、符号化対象が16×8画素のブロックであると、隣接するサブブロック間での走査差の最大値が、斜め走査［同図(a)］では「３」であり、水平走査［同図(c)］では「１」であるのに対して、垂直走査［同図(b)］では常に「４」となる。
【０００７】
そして、このような関係はブロックサイズが大きく、かつ縦横比が大きくなるほど顕著となり、符号化対象が32×8画素のブロックであると、隣接するサブブロック間での走査順の差の最大値が、斜め走査［同図(d)］では「３」であり、水平走査［同図(f)］では「１」であるのに対して、垂直走査［同図(e)］では常に「８」に達する。
【０００８】
このように、従来技術ではブロックのサイズが大きく、かつ縦横比が大きい場合、イントラ予測モードに基づいて走査順を選択すると、隣接するサブブロックの走査順が非常に離れてしまう場合があり、イントラ予測モードおよびブロックサイズに基づく走査方式が必ずしも最適な走査方式とはならないという技術課題があった。
【０００９】
本発明の目的は、上記の技術課題を解決し、非正方形ブロックに対しても最適な走査方式に特定できるようにすることで、高効率の符号化および復号を実現できる動画像の符号化装置および方法、復号装置および方法ならびに符号化／復号システムを提供することにある。
【課題を解決するための手段】
【００１０】
(1) 上記の目的を達成するために、本発明は、ブロックごとに二次元に配列された変換係数を順走査により一次元に配列してエントロピー符号化し、これを符号化ブロック内の各サブブロックに対して繰り返す符号化装置において、ブロックの縦横比を含む形状を判別する手段と、順走査方向が異なる複数の順走査実行手段と、前記判別の結果に基づいて一の順走査実行手段を選択する手段とを具備し、前記選択された順走査実行手段によりブロックの変換係数を一次元に並べ替えるようにした。
【００１１】
(2) 上記の目的を達成するために、本発明は、エントロピー復号された一次元配列の変換係数を逆走査により二次元に配列してサブブロックを再構成し、これをサブブロックごとに繰り返して符号化の単位ブロックを再構成する復号装置において、ブロックの縦横比を含む形状を判別する手段と、逆走査方向が異なる複数の逆走査実行手段と、前記判別の結果に基づいて一の逆走査実行手段を選択する手段とを具備し、前記選択された逆走査実行手段により一次元に配列された変換係数を二次元の配列に並び替えるようにした。
【発明の効果】
【００１２】
本発明によれば、以下のような効果が達成される。
【００１３】
(1) 符号化時に二次元配列の変換係数を一次元配列に並べ替えるための走査方式を特定する際のパラメータとしてブロックの縦横比を採用したので、正方形だけでなく、非正方形ブロック特有の変換係数分布にも適した走査方式を、フラグではなく、ブロックの縦横比から特定することが可能とあり、その結果、符号量を削減できる。
【００１４】
(2) 復号時の走査方式を特定する際のパラメータとしてブロックの縦横比を採用したので、正方形だけでなく、非正方形ブロック特有の変換係数分布にも適した走査方式を、フラグではなく、ブロックの縦横比から特定することが可能とあり、その結果、符号量を削減できる。
【図面の簡単な説明】
【００１５】
【図１】本発明を適用した符号化装置の構成を示したブロック図である。
【図２】二次元に配列されたサブブロックの変換係数を一次元に並べ替えるための走査方式の例を示した図である。
【図３】サブブロックを対象とした走査がブロック内で再帰的に繰り返される例を示した図である。
【図４】順走査ユニット(13a)の機能ブロック図である。
【図５】順走査ユニット(13a)における順走査方式の第１の選択手順を示したフローチャートである。
【図６】第１の選択手順により選択される順走査方式と符号化ブロックのサイズおよび縦横比との関係を示した図である。
【図７】順走査ユニット(13a)における順走査方式の第２の選択手順を示したフローチャートである。
【図８】第２の選択手順により選択される順走査方式と符号化ブロックのサイズおよび縦横比との関係を示した図である。
【図９】予測モード依存(M)の走査方式における予測モードと選択される走査方式との関係を示した図である。
【図１０】H.265/HEVCで用意されている３５種類の予測モードを説明するための図である。
【図１１】順走査ユニット(13a)における順走査方式の第３の選択手順を示したフローチャートである。
【図１２】第３の選択手順により選択される順走査方式と符号化ブロックのサイズおよび縦横比との関係を示した図である。
【図１３】順走査ユニット(13a)における順走査方式の第４の選択手順を示したフローチャートである。
【図１４】第４の選択手順により選択される順走査方式と符号化ブロックのサイズおよび縦横比との関係を示した図である。
【図１５】順走査ユニット(13a)における順走査方式の第５の選択手順を示したフローチャートである。
【図１６】第５の選択手順により選択される順走査方式と符号化ブロックのサイズおよび縦横比との関係を示した図である。
【図１７】本発明を適用した復号装置の構成を示したブロック図である。
【図１８】逆走査ユニット(23a)の機能ブロック図である。
【図１９】従来技術の課題を説明するための図である。
【発明を実施するための形態】
【００１６】
以下、図面を参照して本発明の実施の形態について詳細に説明する。図１は、本発明を適用した符号化装置の主要部の構成を示したブロック図であり、フレーム画像が符号化の単位となる符号化ブロックに分割されて入力される。なお、動画像を符号化対象とする装置はイントラ予測（フレーム内予測）機能およびインター予測（フレーム間予測）機能を備えるが、インター予測機能は本発明の説明に不要なので図示を省略している。
【００１７】
このような符号化装置は、汎用のコンピュータに後述する各機能を実現するアプリケーション（プログラム）を実装して構成しても良いし、あるいはアプリケーションの一部がハードウェア化またはROM化された専用機や単能機として構成しても良い。
【００１８】
CPU１は、符号化部６を含む装置全体を制御する。ROM２には、基本プログラムや各種の基本デバイスが不揮発に記憶されている。RAM３は、CPU１にワークエリアを提供する。入出力部４は、外部装置やオペレータとの間でデータの入出力を管理する。ディスク媒体５には、入力画像や符号化データが記憶される。
【００１９】
前記符号化部６において、減算器１０はブロックごとに、入力画像信号とイントラ予測の予測部１６が出力する予測信号との差分（予測残差信号）を算出する。本実施形態では、ブロックが四分木構造または四分木二分構造に従って分割されている。予測残差信号は変換部１１に入力される。変換部１１は、予測残差信号を時間領域から周波数領域に変換して変換係数を出力する。
【００２０】
量子化部１２は、前記変換係数を別途に与えられる量子化パラメータにしたがって量子化し、そのレベル値を出力する。エントロピー符号化部１３において、順走査ユニット１３ａは、ブロック内で二次元に配列されているレベル値を走査して並べ替える際、ブロックのサイズおよび予測部１６から受け取る当該ブロックの予測モードに基づいて走査方式を特定する。量子化されて二次元に配列されたレベル値は、前記特定された走査方式で一次元に並べ替えられてシンタックス要素とされる。シンタックス要素はエントロピー符号化された後に出力される。
【００２１】
本実施形態では、図２に示したように、n×m画素の変換ブロックを4×4画素のサブブロックに分割し、サブブロック単位で、斜め走査（D：diagonal）［同図(a)］、水平走査（H：horizontal）［同図(b)］または垂直走査（V：vertical）［同図(c)］を実行する。
なお、本実施形態では、サブブロックの大きさを4×4画素とし、走査方式の候補として斜め走査、水平走査および垂直走査の３つを挙げているが、サブブロックの大きさや縦横比、あるいは走査方式の候補はこれらに限定されない。
また、ブロックの走査方式（サブブロック自体の走査方式）には、サブブロックの走査方式（サブブロック内のレベル値の走査方式）で特定された走査方式が再帰的に使用されるものとしたが、ブロックの走査方式とサブブロックの走査方式とは同一方式に限定されるものではなく、ブロックの走査方式とサブブロックの走査方式とは独立して（相互に無関係に）特定されるようにしても良い。
【００２２】
さらに、図３に示したように、本実施形態ではこのような順走査を変換ブロック内の全てのサブブロックに対して再帰的に繰り返す。図３(a)、(b)、(c)はそれぞれ、8×8画素の変換ブロックへの斜め走査、水平走査および垂直走査の適用例を示しており、同図(d)は16×16画素の変換ブロックへの斜め走査の適用例を示している。
【００２３】
逆変換／逆量子化部１４は、前記変換部１１および量子化部１２と逆の処理を行うものであり、量子化部１２が出力するレベル値を逆量子化して変換係数を生成し、この変換係数を逆直交変換することで予測残差信号を生成する。
【００２４】
加算器１５は、逆量子化／逆変換部１４が出力する予測残差信号と予測部１６が出力する予測信号とを加算して再構成画素信号を生成する。再構成画素信号は画像メモリ１７に蓄積された後、前記予測部１６へ送られる。予測部１６は、イントラ予測の結果を前記減算器１０へ出力する。
【００２５】
図４は、前記エントロピー符号化部１３に実装される順走査ユニット１３ａの主要部の構成を示した機能ブロック図である。
【００２６】
順走査方式選択部１３１は、変換ブロックのサイズを判別するブロックサイズ判別部１３１ａ、変換ブロックの縦横比を判別するブロック形状判別部１３１ｂおよび予測部１６から受け取る予測モードを判別する予測モード判別１３１ｃを含み、各判別結果に応じて、各ブロックを順走査する際の走査方式を、斜め走査、水平走査および垂直走査のいずれかに特定する。
【００２７】
順走査実行部１３２は、二次元配列されたレベル値を水平方向に走査（H走査）する水平走査部１３２ａ、垂直方向に走査（V走査）する垂直走査部１３２ｂ、および斜め方向に走査（D走査）する斜め走査部１３２ｃを含む。
【００２８】
図５は、前記順走査ユニット１３ａにおける順走査方式の第１の特定手順を示したフローチャートであり、図６は、第１の特定手順により特定される順走査方式とブロックのサイズおよび縦横比との関係を示した図である。
【００２９】
ステップＳ１では、ブロックの縦横比Rが参照され、R=1であればステップＳ２へ進み、R≠1であればステップＳ３に進む。ステップＳ２，Ｓ３では、それぞれ特定のブロックサイズを閾値として固有の走査方式が特定される。
【００３０】
図６(a)は、前記ステップＳ２において水平走査(H)が選択された場合のブロックサイズと走査方式との関係の一例を示しており、ブロックサイズが16×16未満であれば水平走査(H)に特定され、ブロックサイズが16×16以上であれば斜め走査(D)に特定される。この場合、ステップＳ３では全てのブロックサイズで斜め走査(D)に特定される。
【００３１】
図６(b)は、前記ステップＳ２において垂直走査(V)が選択された場合のブロックサイズと走査方式との関係の一例を示しており、ブロックサイズが16×16未満であれば垂直走査(V)に特定され、ブロックサイズが16×16以上であれば斜め走査(D)に特定される。この場合、ステップＳ３では全てのブロックサイズで斜め走査(D)に特定される。
【００３２】
図７は、前記順走査ユニット１３ａにおける順走査方式の第２の選択手順を示したフローチャートであり、図８は、本実施形態において選択される順走査方式とブロックのサイズおよび縦横比との関係を示した図である。
【００３３】
ステップＳ１１では、ブロックの縦横比Rが参照され、R=1であればステップＳ１２へ進む。ステップＳ１２では、ブロックサイズが参照され、4×4または8×8であればステップＳ１３へ進み、予測モード依存(M)の走査方式が選択される。これに対して、ブロックサイズが16×16以上であれば、ステップＳ１４へ進んで斜め走査(D)が選択される。
【００３４】
一方、前記ステップＳ１１において、ブロックの縦横比Rが1以外と判断されるとステップＳ１５へ進む。ステップＳ１５では、ブロックサイズが参照され、4×4または8×8であれば、ステップＳ１６へ進んで予測モード依存(M)の走査方式が選択される。これに対して、ブロックサイズが16×16以上であれば、ステップＳ１７へ進んで斜め走査(D)が選択される。
【００３５】
本手順によれば、図８に示したように、ブロックの縦横比Rが1以外であると、ブロックサイズが8×8以下であれば予測モード依存 (M) の走査方式が選択され、16×16以上であれば斜め走査方式(D)が選択されることになる。
【００３６】
図９は、本実施形態において、予測モード依存(M)の走査方式における予測モードと特定される走査方式との関係を説明するために、H.265|HEVCで採用されている予測モード依存走査（M）を示した図である。
【００３７】
H.265|HEVCでは、図１０に示したように、Planar予測およびDC予測を含めて方向別に３５種類の予測モードが用意されており、対象ブロックの予測モードおよびブロックサイズに応じて水平走査(H)、垂直走査(V)または斜め走査(D)が選択される。ここで、本実施形態はイントラ予測モードに応じた走査方式に、H.265|HEVCと同様の特定手段を用いることを説明しているのみであり、本発明で扱うイントラ予測モードの数やブロックサイズの大きさをH.265|HEVCと同じ値に限定しているわけではない。
【００３８】
図１１は、前記順走査ユニット１３ａにおける順走査方式の第３の特定手順を示したフローチャートであり、図１２は、本実施形態において特定される順走査方式とブロックサイズおよび縦横比との関係を示した図である。
【００３９】
ステップＳ３１では、ブロックの縦横比Rが参照され、R=1であればステップＳ３２へ進む。ステップＳ３２では、ブロックサイズに基づいて走査方式が決定される。本実施形態では、ブロックサイズが4×4または8×8であれば、水平走査(H)［図１２(a)］または垂直走査方式(V)［図１２(b)］に決定される。
【００４０】
一方、ブロックの縦横比Rが1以外であれば、ステップＳ３３へ進んでブロックの縦横が比較される。縦≧横であればステップＳ３４へ進み、ブロックサイズに基づいて走査方式が決定される。本実施形態では、相対的に走査方向が垂直に近い走査方式以外の走査方式に特定される。即ち、走査方向が垂直に近い走査方式の使用が禁止される。
【００４１】
これに対して、縦＜横であればステップＳ３５へ進み、ブロックサイズに基づいて走査方式が決定される。本実施形態では、走査方向が水平に近い走査方式以外の走査方式に特定される。即ち、走査方向が水平に近い走査方式の使用が禁止される。このような走査方式の制約は、縦横比が大きいブロックで、DC成分付近のサブブロックの走査順が、特定される走査方式によっては非常に離れてしまう問題を回避するのに有効である。
【００４２】
例えば、縦に長いブロックで垂直走査(V)に走査方式が特定されると、DC成分付近のサブブロックの走査順が非常に離れてしまう。逆に例えば、横に長いブロックで水平走査(H)に走査方式が特定されると、DC成分付近のサブブロックの走査順が非常に離れてしまう。
【００４３】
図１２(a)，(b)に示した例では、ブロックの縦横比Rが1ではない場合に、縦のブロックサイズと横のブロックサイズとが比較され、縦＞横の場合には垂直走査(V)の使用が禁止され、横＜縦の場合には水平走査(H)の使用が禁止され、禁止された走査以外の走査方式に特定される。
【００４４】
図１３は、前記順走査ユニット１３ａにおける順走査方式の第４の特定手順を示したフローチャートであり、図１４は、本実施形態において選択される順走査方式とブロックサイズおよび縦横比Rとの関係を示した図である。
【００４５】
ステップＳ４１では、ブロックの縦横比Rが参照され、R=1であればステップＳ４２へ進む。ステップＳ４２ではブロックサイズが参照され、4×4または8×8であればステップＳ４３へ進み、予測部１６が採用する予測モードに依存した走査方式（M）に特定される。これに対して、ブロックサイズが16×16以上であれば、ステップＳ４４へ進んで斜め走査(D)に特定される。
【００４６】
一方、前記ステップＳ４１において、ブロックの縦横比Rが参照され、R≠1と判断されるとステップＳ４５へ進み、ブロックの縦横比Rが所定の閾値Rref以上であるか否かが判定される。R≧RrefであればステップＳ４６へ進み、予測モード依存の走査(M)に特定される。これに対して、R＜RrefであればステップＳ４７へ進み、斜め走査(D)に特定される。
【００４７】
図１４(a)は、前記ステップＳ４５において、閾値Rref=２に設定されているときに、ブロックの縦横比Rに応じて走査方式が選択される例を示しており、R≠1で、かつR≧2（Rref=2）では予測モード依存の走査方式(M)に特定される。
【００４８】
また、閾値Rref=４に設定されていれば、同図(b)に示したように、縦横比R≧4では予測モード依存の走査方式(M)に特定され、それ以外では斜め走査(D)に特定されている。同様に、閾値Rref=8に設定されていれば、同図(c)に示したように、縦横比R≧8では予測モード依存の走査方式(M)が選択され、それ以外では斜め走査(D)に特定されている。
【００４９】
図１５は、前記順走査ユニット１３ａにおける順走査方式の第５の特定手順を示したフローチャートであり、図１６は、本実施形態において選択される順走査方式とブロックのサイズおよび縦横比との関係を示した図である。
【００５０】
ステップＳ５１では、ブロックの縦横比Rが参照され、R=1であればステップＳ５２へ進む。ステップＳ５２ではブロックサイズが参照され、4×4または8×8であればステップＳ５３へ進み、予測部１６が採用する予測モードに依存した走査方式(M)に特定される。これに対して、ブロックサイズが16×16以上であれば、ステップＳ５４へ進んで斜め走査(D)に特定される。
【００５１】
一方、前記ステップＳ５１において、ブロックの縦横比が参照され、R≠1と判断されるとステップＳ５５へ進み、ブロックの短辺長Sが所定の閾値Srefと比較される。短辺長Sが閾値Sref以上であればステップＳ５６へ進み、予測モード依存の走査方式(M)に特定される。短辺長Sが閾値Sref未満であれば、前記ステップＳ５４へ進んで斜め走査(D)に特定される。
【００５２】
図１６(a)は、Sref=8の場合に特定される順走査方式とブロックサイズとの関係を示した図であり、短辺ブロック長Sが「8」未満では縦横比に関わらず斜め走査(D)に特定選択され、Sが「8」以上では予測モード依存走査(M)に特定されている。同様に、図１６(b)は、Sref=１６の場合に特定順走査方式とブロックサイズとの関係を示した図であり、短辺ブロック長Sが「16」未満では縦横比に関わらず斜め走査(D)に特定され、Sが「16」以上では予測モード依存走査(M)に特定されている。
【００５３】
これは、ブロックの短辺長Sがサブブロックのブロックサイズと等しい場合、ブロック内のサブブロック自体の再帰的な走査順が、斜め走査(D)と垂直走査(V)と水平走査(H)とが同じになるため、予測モード依存走査(M)の適用範囲を短辺ブロック長Sと所定の閾値Srefで調節できるようにしている。
【００５４】
図１７は、本発明を適用した復号装置の主要部の構成を示したブロック図であり、前記と同一の符号は同一または同等部分を表している。本発明の復号装置は、前記符号化装置６からレベル値を含む符号化データを取得して復号し、復号画像を生成する。
【００５５】
このような復号装置は、汎用のコンピュータに後述する各機能を実現するアプリケーション（プログラム）を実装して構成しても良いし、あるいはアプリケーションの一部がハードウェア化またはROM化された専用機や単能機として構成しても良い。また、前記符号化装置と一体に構成しても良い。
【００５６】
復号部７において、エントロピー復号部２３は逆走査ユニット２３ａを含み、符号化されたビットストリームをエントロピー復号して得られたシンタックス要素を、逆走査ユニット２３ａにより、復号単位となるブロックのサイズ、縦横比および予測モードに応じた順序で逆走査することで二次元配列のレベル値に変換する。
【００５７】
逆量子化部２２は、別途に与えられる逆量子化パラメータに基づいて前記二次元配列されたレベル値を逆量子化して変換係数を復元する。逆変換部２１は、前記変換係数に対して逆変換を実行することで、変換係数を周波数領域から時間領域に変換し、予測誤差信号を復元する。
【００５８】
予測部２４は、別途に与えられる復号パラメータに基づいて、前記復元されて二次元配列されたレベル値に所定の予測モードを適用して予測残差信号を計算する。加算部２０は、前記逆変換部２１の出力と予測部２４の出力とを加算して復号画像信号を生成する。この復号画像信号は画像メモリ２５に蓄積されてイントラ予測に用いられる。
【００５９】
図１８は、前記エントロピー復号部２３に実装される逆走査ユニット２３ａの主要部の構成を示した機能ブロック図である。
【００６０】
逆走査方式選択部２３１は、再構成するブロックのサイズを判別するブロックサイズ判別部２３１ａ、変換ブロックの縦横サイズを判別するブロック形状判別部２３１ｂおよび符号時に採用された予測モードを符号化データに基づいて判別する予測モード判別２３１ｃを含み、各判別結果に応じて、一次元配列の量子化変換係数を二次元配列に並べ替えてサブブロックを再構成する際の逆走査の方式を斜め走査、水平走査および垂直走査のいずれかに特定する。
【００６１】
逆走査実行部２３２は、前記水平走査（H）により二次元配列から一次元配列に並べられた変換係数を元の二次元配列に並べ替える逆水平走査を行う水平走査部２３２ａ、前記垂直走査（V）により一次元配列に並べられた変換係数を元の二次元配列に並べ替える逆垂直走査を行う垂直走査部２３２ｂ、および前記斜め走査（D）により一次元配列に並べられた変換係数を元の二次元配列に並べ替える逆斜め走査（ID走査）を行う斜め走査部２３２ｃを含む。
【００６２】
前記逆走査ユニット２３ａによる逆走査方式の特定手順は前記符号化時における走査方式の選択手順と同様であり、前記図５，６を参照して説明した第１の選択手順を例にすれば、再構成されるブロックの縦横比R≠1の場合、そのブロックサイズに基づいて斜め走査(D)またはそれ以外が同様に選択される。
【００６３】
また、図７ないし１０を参照して説明した第２の選択手順を例にすれば、再構成されるブロックの縦横比R≠1の場合、そのブロックサイズに基づいて斜め走査(D)または予測モード依存（M）が同様に選択される。
【００６４】
さらに、図１１，１２を参照して説明した第３の選択手順を例にすれば、再構成されるブロックの縦横比R≠1の場合、その縦横ブロック長の比較結果に基づいて、相対的に走査方向が垂直に近い走査方式以外または水平に近い走査方式以外に特定される。
【００６５】
さらに、図１３，１４を参照して説明した第４の選択手順を例にすれば、再構成されるブロックの縦横比R≠1の場合、その縦横比に基づいて、予測モード依存（M）または斜め走査(D)が同様に特定される。
【００６６】
さらに、図１５，１６を参照して説明した第５の選択手順を例にすれば、再構成されるブロックの縦横比R≠1の場合、その短辺ブロック長に基づいて、予測モード依存（M）または斜め走査(D)が同様に特定される。
【００６７】
なお、上記の各実施形態では、本発明を符号化装置および復号装置への適用を例にして説明したが、本発明はこれのみに限定されるものではなく、符号化装置および復号装置の各機能を備えた符号化／復号システムにも同様に適用できる。
【符号の説明】
【００６８】
６…符号化部，７…復号部，１０…減算器，１１…変換部，１２…量子化部，１３…エントロピー符号化部，１３ａ…順走査ユニット，１４…逆量子化／逆変換部，１５…加算器，１６…予測部，１７，２５…画像メモリ，２０…加算部，２１…逆変換部，２２…逆量子化部，２３…エントロピー復号部，２３ａ…逆走査ユニット，２４…予測部，１３１…順走査方式選択部，１３１ａ，２３１ａ…ブロックサイズ判別部，１３１ｂ，２３１ｂ…ブロック形状判別部，１３１ｃ，２３１ｃ…予測モード判別，１３２…順走査実行部，１３２ａ，２３２ａ…H(IH)走査部，１３２ｂ，２３２ｂ…V(IV)走査部，１３２ｃ，２３２ｃ…D(ID)走査部，２３１…逆走査方式選択部，２３２…逆走査実行部
【図１】
2019161595.tif 000003
【図２】
2019161595.tif 000004
【図３】
2019161595.tif 000005
【図４】
2019161595.tif 000006
【図５】
2019161595.tif 000007
【図６】
2019161595.tif 000008
【図７】
2019161595.tif 000009
【図８】
2019161595.tif 000010
【図９】
2019161595.tif 000011
【図１０】
2019161595.tif 000012
【図１１】
2019161595.tif 000013
【図１２】
2019161595.tif 000014
【図１３】
2019161595.tif 000015
【図１４】
2019161595.tif 000016
【図１５】
2019161595.tif 000017
【図１６】
2019161595.tif 000018
【図１７】
2019161595.tif 000019
【図１８】
2019161595.tif 000020
【図１９】
2019161595.tif 000021