(57)【要約】  本発明は、ビデオ信号をエンコード／デコードする方法及びそのための装置を開示する。具体的には、ビデオ信号を復号する方法において、前記ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する段階と、前記現在ブロックのサイズが予め決定された第１サイズより小さい場合、前記現在ブロックに変換スキップが適用されるか否かを示す変換スキップフラグをパージングする段階と、前記現在ブロックに一次変換が適用されるか否かを示す一次変換フラグをパージングするか否かを決定する段階と、前記一次変換フラグをパージングすると決定した場合、前記一次変換フラグをパージングする段階と、前記一次変換フラグが前記現在ブロックに一次変換が適用されることを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する段階とを含む。【選択図】図１
2020504973.tif 000002
【特許請求の範囲】
【請求項１】
ビデオ信号を復号する方法において、
前記ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する段階と、
前記現在ブロックのサイズが予め決定された第１サイズより小さい場合、前記現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする段階と、
前記現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングするか否かを決定する段階と、
前記一次変換フラグをパージングすると決定した場合、前記一次変換フラグをパージングする段階と、
前記一次変換フラグが前記現在ブロックに一次変換が適用されることを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する段階と、を含む、ビデオ信号復号方法。
【請求項２】
前記一次変換フラグをパージングするか否かを決定する段階は、前記変換スキップフラグの値が０である場合、前記一次変換フラグをパージングすると決定することを特徴とする、請求項１に記載のビデオ信号復号方法。
【請求項３】
前記一次変換フラグをパージングするか否かを決定する段階は、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグの値が０である場合、前記一次変換フラグをパージングすると決定することを特徴とする、請求項１に記載のビデオ信号復号方法。
【請求項４】
前記一次変換フラグをパージングするか否かを決定する段階は、前記現在ブロックが輝度（luma）ブロックであり、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグの値が０である場合、前記一次変換フラグをパージングすると決定することを特徴とする、請求項１に記載のビデオ信号復号方法。
【請求項５】
前記変換スキップフラグをパージングする段階は、前記現在ブロックに０でない変換係数が存在するか否かを確認する段階を含み、前記確認の結果、前記現在ブロックに前記０でない変換係数が存在する場合、前記変換スキップフラグをパージングすることを特徴とする、請求項１に記載のビデオ信号復号方法。
【請求項６】
前記一次変換フラグは、ＱＴＢＴ（QuadTree plus BinaryTree）ブロック分割構造において、前記現在ブロックの深さ、前記現在ブロックのサイズ又は前記現在ブロック内の画素数によって決定されるコンテキスト（context）を参照してエントロピーデコードされることを特徴とする、請求項１に記載のビデオ信号復号方法。
【請求項７】
ビデオ信号を復号する方法において、
前記ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する段階と、
前記現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングする段階と、
前記現在ブロックが予め決定された特定条件を満たすか否かを確認する段階と、
前記確認の結果、前記特定条件を満たす場合、前記現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする段階と、
前記変換スキップフラグが前記現在ブロックに変換スキップが適用されないことを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する段階と、を含む、ビデオ信号復号方法。
【請求項８】
前記特定条件は、
前記一次変換フラグを値が０であるか否か、及び、
前記現在ブロックのサイズが変換スキップが適用される最大サイズ以下かどうかを含むことを特徴とする、請求項７に記載のビデオ信号復号方法。
【請求項９】
前記変換スキップが適用される最大サイズは、前記現在ブロックのスライスによって決定されることを特徴とする、請求項８に記載のビデオ信号復号方法。
【請求項１０】
前記特定条件は、前記現在ブロックが色差コンポーネント（chroma component）であるか否かをさらに含むことを特徴とする、請求項８に記載のビデオ信号復号方法。
【請求項１１】
前記特定条件は、前記現在ブロックのスライスがＢ−スライスであるか否かをさらに含むことを特徴とする、請求項８に記載のビデオ信号復号方法。
【請求項１２】
前記特定条件は、前記現在ブロックのサイズ又は前記現在ブロックの画素数が特定範囲内に属するか否かをさらに含むことを特徴とする、請求項１０に記載のビデオ信号復号方法。
【請求項１３】
ビデオ信号を復号する装置において、
前記ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する残差ブロック生成部と、
前記現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングする一次変換フラグパージング部と、
前記現在ブロックが予め決定された特定条件を満たすか否かを確認する条件確認部と、
前記確認の結果、前記特定条件を満たす場合、前記現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする変換スキップフラグパージング部と、
前記変換スキップフラグが前記現在ブロックに変換スキップが適用されないことを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する逆変換された変換ブロック生成部と、を含む、ビデオ信号復号装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ビデオ信号のエンコード／デコード方法及び装置に関し、より詳細には、変換に関連したシンタックスコーディングを改善するビデオ信号をエンコード／デコードする方法及びそれを支援する装置に関する。
【背景技術】
【０００２】
圧縮符号化とは、デジタル化した情報を通信回線を介して送信したり、格納媒体に適した形態で格納するための一連の信号処理技術を意味する。画像、イメージ、音声等のメディアが圧縮符号化の対象になることができ、特に、画像を対象として圧縮符号化を行う技術をビデオ画像圧縮と称する。
【０００３】
次世代ビデオコンテンツは、高解像度（high spatial resolution）、高フレームレート（high frame rate）、及び画像表現の高次元化（high dimensionality of scene representation）という特徴を有するようになるであろう。そのようなコンテンツを処理するためには、メモリ格納（memory storage）、メモリアクセスレート（memory access rate）、及び処理電力（processing power）の側面で莫大な増加を有してくるであろう。
【０００４】
したがって、次世代ビデオコンテンツをより効率的に処理するためのコーディングツールをデザインする必要がある。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明の目的は、上記問題を解決するために、変換を適用するか否かを決定するフラグと、変換（又は、変換カーネル（transform kernel））の種類を決定するインデックスを効果的にシグナリングする方法を提案する。
【０００６】
また、本発明の目的は、一次変換を適用するか否かを決定するフラグと変換スキップ（transform skip）をするか否かを決定するフラグを効果的にシグナリングする方法を提案する。
【０００７】
さらに、本発明の目的は、一次変換を適用するか否かを決定するフラグに対するエントロピーコーディングを行うにおいてコンテキスト（context）を参照する方法を提案する。
【０００８】
さらに、本発明の目的は、コーディングユニットと変換ユニットの区分がない圧縮構造において、一次変換フラグの値によって変換スキップフラグを送信（又は、パージング）するか否かを決定する方法を提案する。
【０００９】
本発明で達成しようとする技術的課題は以上で言及した技術的課題に制限されず、言及しない更に他の技術的課題は以下の記載から本発明が属する技術分野で通常の知識を有する者に明確に理解できるはずである。
【課題を解決するための手段】
【００１０】
本発明の一様態は、ビデオ信号を復号する方法において、前記ビデオ信号に対してエントロピーデコーディングを行うことにより現在ブロックの残差ブロックを生成する段階と、前記現在ブロックのサイズが予め決定された第１サイズより小さい場合、前記現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする段階と、前記現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングするか否かを決定する段階と、前記一次変換フラグをパージングすると決定した場合、前記一次変換フラグをパージングする段階と、前記一次変換フラグが前記現在ブロックに一次変換が適用されることを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する段階とを含む。
【００１１】
好ましくは、前記一次変換フラグをパージングするか否かを決定する段階は、前記変換スキップフラグの値が０である場合、前記一次変換フラグをパージングすると決定する。
【００１２】
好ましくは、前記一次変換フラグをパージングするか否かを決定する段階は、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグの値が０である場合、前記一次変換フラグをパージングすると決定することが好ましい。
【００１３】
好ましくは、前記一次変換フラグをパージングするか否かを決定する段階は、前記現在ブロックが輝度（luma）ブロックであり、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグの値が０である場合、前記一次変換フラグをパージングすると決定する。
【００１４】
好ましくは、前記変換スキップフラグをパージングする段階は、前記現在ブロックに０でない変換係数が存在するか否かを確認する段階を含み、前記確認の結果、前記現在ブロックに前記０でない変換係数が存在する場合、前記変換スキップフラグをパージングする。
【００１５】
好ましくは、前記一次変換フラグは、ＱＴＢＴ（QuadTree plus BinaryTree）ブロック分割構造において、前記現在ブロックの深さ、前記現在ブロックのサイズ又は前記現在ブロック内の画素数によって決定されるコンテキストを参照してエントロピーデコーディングされる。
【００１６】
本発明の他の一様態は、ビデオ信号を復号する方法において、前記ビデオ信号に対してエントロピーデコーディングを行うことにより現在ブロックの残差ブロックを生成する段階と、前記現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングする段階と、前記現在ブロックが予め決定された特定条件を満たすか否か確認する段階と、前記確認の結果、前記特定条件を満たす場合、前記現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする段階と、前記変換スキップフラグが前記現在ブロックに変換スキップが適用されないことを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換されたる変換ブロックを生成する段階とを含む。
【００１７】
好ましくは、前記特定条件は、前記一次変換フラグの値が０であるか否か、及び、前記現在ブロックのサイズが変換スキップが適用される最大のサイズ以下かどうかを含む。
【００１８】
好ましくは、前記変換スキップが適用される最大のサイズは、前記現在ブロックのスライスによって決定される。
【００１９】
好ましくは、前記特定条件は、前記現在ブロックが色差コンポーネント（chroma component）であるか否かをさらに含む。
【００２０】
好ましくは、前記特定条件は、前記現在ブロックのスライスがＢ−スライスであるか否かをさらに含む。
【００２１】
好ましくは、前記特定条件は、前記現在ブロックのサイズ又は前記現在ブロックの画素数が特定範囲内に属するか否かをさらに含む。
【００２２】
本発明の他の一様態は、ビデオ信号を復号する装置において、前記ビデオ信号に対してエントロピーデコーディングを行うことにより現在ブロックの残差ブロックを生成する残差ブロック生成部と、前記現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングする一次変換フラグパージング部と、前記現在ブロックが予め決定された特定条件を満たすか否かを確認する条件確認部と、前記確認の結果、前記特定条件を満たす場合、前記現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする変換スキップフラグパージング部と、前記変換スキップフラグが前記現在ブロックに変換スキップが適用されないことを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する逆変換された変換ブロック生成部とを含む。
【発明の効果】
【００２３】
本発明の実施形態によれば、変換を適用するか否かを決定するフラグと変換の種類を決定するインデックスを送信する条件を最適化することによりシグナリングビットを減らし、圧縮性能を向上させることができる。
【００２４】
また、本発明の実施形態によれば、一次変換と変換スキップを効果的にシグナリングすることにより不必要なシンタックスコーディング（redundant syntax coding）を改善し、圧縮ビデオのクオリティを維持すると共に圧縮効率を向上させることができる。
【００２５】
本発明で得ることができる効果は、以上で言及した効果に制限されず、言及しない更に他の効果は以下の記載から本発明が属する技術分野で通常の知識を有する者に明確に理解できるはずである。
【図面の簡単な説明】
【００２６】
本発明に関する理解を助けるために、詳細な説明の一部として含まれる添付図面は、本発明に対する実施形態を提供し、詳細な説明とともに本発明の技術的特徴を説明する。
【図１】本発明が適用される実施形態であって、静止画または動画信号のエンコードが行われるエンコーダの概略的なブロック図を示す。
【図２】本発明が適用される実施形態であって、静止画または動画信号のエンコードが行われるデコーダの概略的なブロック図を示す。
【図３】本発明に適用され得るコーディングユニットの分割構造を説明するための図である。
【図４】本発明に適用され得る予測ユニットを説明するための図である。
【図５】本発明が適用される実施形態であって、画面内予測モードによる変換カーネル（transform kernel）の決定方法を例示する図である。
【図６】本発明が適用される実施形態であって、ＡＭＴフラグをパージングする条件を説明するための図である。
【図７】本発明が適用される実施形態であって、ＡＭＴフラグをパージングする条件を説明するための図である。
【図８】本発明が適用される実施形態であって、一次変換フラグ及び変換スキップフラグの復号方法を示すフローチャートである。
【図９】本発明が適用される実施形態であって、一次変換を適用するか否かによってコンポーネント別の変換スキップフラグを送信するか否かを例示する表である。
【図１０】本発明が適用される実施形態であって、一次変換を適用するか否かによってコンポーネント別の変換スキップフラグを送信するか否かを例示する表である。
【図１１】本発明の一実施形態によるビデオ信号の復号方法を例示する図である。
【図１２】本発明の一実施形態によるビデオ信号の復号方法を例示する図である。
【図１３】本発明の一実施形態によるビデオ信号の復号装置を例示する図である。
【発明を実施するための形態】
【００２７】
以下、本発明に係る好ましい実施形態を添付された図面を参照して詳細に説明する。添付された図面とともに以下に開示される詳細な説明は、本発明の例示的な実施形態を説明しようとするものであり、本発明が実施され得る唯一の実施形態を表そうとするものではない。以下の詳細な説明は、本発明の完全な理解を提供するために具体的な細部事項を含む。しかしながら、当業者は、本発明がこのような具体的な細部事項がなくとも実施され得ることが分かる。
【００２８】
いくつかの場合、本発明の概念が曖昧になることを避けるために、公知の構造及び装置は省略されるか、各構造及び装置の核心機能を中心としたブロック図形式で図示されることができる。
【００２９】
合わせて、本発明で使用される用語は、なるべく現在広く使用される一般的な用語を選択したが、特定の場合は、出願人が任意に選定した用語を使用して説明する。そのような場合には、当該部分の詳細説明でその意味を明確に記載するので、本発明の説明で使用された用語の名称だけで単純に解釈されてはならず、その当該用語の意味まで把握して解釈されなければならないことを明かしておく。
【００３０】
以下の説明で使用される特定用語等は、本発明の理解を助けるために提供されたものであって、このような特定用語の使用は、本発明の技術的思想を逸脱しない範囲で他の形態に変更されることができる。例えば、信号、データ、サンプル、ピクチャ、フレーム、ブロックなどの場合、各コーディング過程で適宜代替されて解釈され得るであろう。
【００３１】
以下、本発明における「処理ユニット」は、予測、変換、及び／又は量子化などのエンコード／デコードの処理過程が行われる単位を意味する。以下、説明の便宜のために、処理ユニットは「処理ブロック」又は「ブロック」と称することもできる。
【００３２】
処理ユニットは、輝度（luma）成分に対する単位と色差（chroma）成分に対する単位を含む意味として解釈されることができる。例えば、処理ユニットは、コーディングツリーユニット（ＣＴＵ：Coding Tree Unit）、コーディングユニット（ＣＵ：Coding Unit）、予測ユニット（ＰＵ：Prediction Unit）、又は変換ユニット（ＴＵ：Transform Unit）に該当する。
【００３３】
また、処理ユニットは、輝度成分に対する単位又は色差成分に対する単位として解釈されることができる。例えば、処理ユニットは、輝度成分に対するコーディングツリーブロック（ＣＴＢ：Coding Tree Block）、コーディングブロック（ＣＢ：Coding Block）、予測ブロック（ＰＵ：Prediction Block）、又は変換ブロック（ＴＢ: Transform Block）に該当する。または、色差成分に対するコーディングツリーブロック（ＣＴＢ）、コーディングブロック（ＣＢ）、予測ブロック（ＰＵ）、又は変換ブロック（ＴＢ）に該当する。また、これに限定されるものではなく、処理ユニットは、輝度成分に対する単位と色差成分に対する単位を含む意味として解釈されることもできる。
【００３４】
さらに、処理ユニットは、必ず正方形のブロックに限定されるものではなく、３つ以上の頂点を有する多角形状で構成されることもできる。
【００３５】
さらに、以下、本発明において、ピクセル又は画素などをサンプルと総称する。さらに、サンプルを用いるとは、ピクセル値又は画素値などを用いることを意味することができる。
【００３６】
図１は、本発明が適用される実施形態であって、静止画又は動画信号のエンコードが行われるエンコーダの概略的なブロック図を示す。
【００３７】
図１に示すように、エンコーダ１００は、画像分割部１１０、減算器１１５、変換部１２０、量子化部１３０、逆量子化部１４０、逆変換部１５０、フィルタリング部１６０、復号ピクチャバッファ（ＤＰＢ：Decoded Picture Buffer）１７０、予測部１８０、及びエントロピーエンコード部１９０を含む。また、予測部１８０は、インター予測部１８１、イントラ予測部１８２を含むことができる。
【００３８】
画像分割部１１０は、エンコーダ１００に入力された入力画像信号（Input video signal）（又は、ピクチャ、フレーム）を１つ以上の処理ユニットに分割する。
【００３９】
減算器１１５は、入力画像信号から、予測部１８０（すなわち、インター予測部１８１又はイントラ予測部１８２）から出力された予測信号（prediction signal）（又は、予測ブロック）を減算して差分信号（residual signal）（又は、差分ブロック）を生成する。生成された差分信号（又は、差分ブロック）は変換部１２０に送信される。
【００４０】
変換部１２０は、差分信号（又は、差分ブロック）に変換技法（例えば、ＤＣＴ（Discrete Cosine Transform）、ＤＳＴ（Discrete Sine Transform）、ＧＢＴ（Graph-Based Transform）、ＫＬＴ（Karhunen-Loeve transform）など）を適用して変換係数（transform coefficient）を生成する。ここで、変換部１２０は、差分ブロックに適用された予測モードと差分ブロックのサイズによって決定された変換技法を用いて変換を行うことにより変換係数を生成することができる。
【００４１】
量子化部１３０は、変換係数を量子化してエントロピーエンコード部１９０に送信し、エントロピーエンコード部１９０は、量子化した信号（quantized signal）をエントロピーコーディングしてビットストリームに出力する。
【００４２】
一方、量子化部１３０から出力された量子化した信号（quantized signal）は予測信号を生成するために用いられることができる。例えば、量子化した信号（quantized signal）は、ループ内の逆量子化部１４０及び逆変換部１５０を通じて逆量子化及び逆変換を適用することにより差分信号を復元することができる。復元された差分信号をインター予測部１８１又はイントラ予測部１８２から出力された予測信号（prediction signal）に足すことにより復元信号（reconstructed signal）が生成される。
【００４３】
一方、上記圧縮過程において、隣接するブロックが異なる量子化パラメータにより量子化されることによりブロック境界が見える劣化が発生することがある。このような現象をブロッキング劣化（blocking artifacts）といい、これは画質を評価する重要な要素の１つである。このような劣化を減らすためにフィルタリング過程を行うことができる。このようなフィルタリング過程によりブロッキング劣化を除去するとともに、現在ピクチャに対する誤差を減らすことにより、画質を向上させることができる。
【００４４】
フィルタリング部１６０は、復元信号にフィルタリングを適用してこれを再生装置に出力するか、復号ピクチャバッファ１７０に送信する。復号ピクチャバッファ１７０に送信されたフィルタリングされた信号は、インター予測部１８１で参照ピクチャとして用いられる。このように、フィルタリングされたピクチャを画面間予測モードで参照ピクチャとして用いることにより、画質だけでなく符号化効率も向上させることができる。
【００４５】
復号ピクチャバッファ１７０は、フィルタリングされたピクチャをインター予測部１８１での参照ピクチャとして用いるために保存することができる。
【００４６】
インター予測部１８１は、復元ピクチャ（reconstructed picture）を参照して時間的重複性及び／又は空間的重複性を除去するために時間的予測及び／又は空間的予測を行う。ここで、予測を行うために用いられる参照ピクチャは、以前の時間の符号化／復号の時、ブロック単位で量子化及び逆量子化を経た変換された信号であるので、ブロッキングアーティファクト（blocking artifact）やリンギングアーティファクト（ringing artifact）が存在し得る。
【００４７】
従って、インター予測部１８１は、このような信号の不連続や量子化による性能低下を解決するために、ローパスフィルタ（lowpass filter）を適用することによりピクセル間の信号をサブピクセル単位に補間することができる。ここで、サブピクセルは、補間フィルタを適用して生成された仮想の画素を意味し、整数ピクセルは、復元されたピクチャに存在する実際の画素を意味する。補間方法としては、線形補間、バイリニア補間（bi-linear interpolation）、ウィーナフィルタ（wiener filter）などが適用できる。
【００４８】
補間フィルタは、復元ピクチャに適用されて予測の精密度を向上させることができる。例えば、インター予測部１８１は、整数ピクセルに補間フィルタを適用して補間ピクセルを生成し、補間ピクセル（interpolated pixels）で構成された補間ブロック（interpolated block）を予測ブロック（prediction block）として用いて予測を行うことができる。
【００４９】
イントラ予測部１８２は、現在符号化を行おうとしているブロックの周辺にあるサンプルを参照して現在ブロックを予測する。イントラ予測部１８２は、イントラ予測を行うために次の過程を行うことができる。まず、予測信号を生成するために必要な参照サンプルを準備する。また、準備した参照サンプルを用いて予測信号を生成する。また、予測モードを符号化する。ここで、参照サンプルは、参照サンプルパディング及び／又は参照サンプルフィルタリングにより準備されることができる。参照サンプルは、予測及び復元過程を経たため、量子化エラーが存在することがある。従って、このようなエラーを減らすために、イントラ予測に用いられる各予測モードに対して参照サンプルフィルタリング過程が行われることができる。
【００５０】
インター予測部１８１又はイントラ予測部１８２により生成された予測信号（prediction signal）（又は、予測ブロック）は、復元信号（又は、復元ブロック）を生成するために用いられるか、差分信号（又は、差分ブロック）を生成するために用いられることができる。
【００５１】
図２は、本発明が適用される実施形態であって、静止画又は動画信号のエンコードが行われるデコーダの概略的なブロック図を示す。
【００５２】
図２に示すように、デコーダ２００は、エントロピーデコード部２１０、逆量子化部２２０、逆変換部２３０、加算器２３５、フィルタリング部２４０、復号ピクチャバッファ（ＤＰＢ：Decoded Picture Buffer Unit）２５０、予測部２６０を含む。また、予測部２６０は、インター予測部２６１及びイントラ予測部２６２を含むことができる。
【００５３】
また、デコーダ２００を介して出力された復元画像信号（reconstructed video signal）は再生装置により再生されることができる。
【００５４】
デコーダ２００は、図１のエンコーダ１００から出力された信号（すなわち、ビットストリーム）を受信し、受信された信号はエントロピーデコード部２１０によりエントロピーデコードされる。
【００５５】
逆量子化部２２０では、量子化ステップサイズ情報を用いてエントロピーデコードされた信号から変換係数（transform coefficient）を取得する。
【００５６】
逆変換部２３０では、逆変換技法を適用して変換係数を逆変換して差分信号（又は、差分ブロック）を取得する。
【００５７】
加算器２３５では、取得された差分信号（又は、差分ブロック）を予測部２６０（すなわち、インター予測部２６１又はイントラ予測部２６２）から出力された予測信号（又は予測ブロック）に足すことにより復元信号（又は、復元ブロック）が生成される。
【００５８】
フィルタリング部２４０は、復元信号（又は復元ブロック）にフィルタリングを適用して、これを再生装置に出力するか、復号ピクチャバッファ部２５０に送信する。復号ピクチャバッファ部２５０に送信されたフィルタリングされた信号は、インター予測部２６１で参照ピクチャとして用いられる。
【００５９】
本明細書において、エンコーダ１００のフィルタリング部１６０、インター予測部１８１、及びイントラ予測部１８２において説明された実施形態は、それぞれデコーダのフィルタリング部２４０、インター予測部２６１、及びイントラ予測部２６２にも同様に適用できる。
【００６０】
処理単位分割構造
【００６１】
一般に、静止画または動画圧縮技術（例えば、ＨＥＶＣ）では、ブロック基盤の画像圧縮方法を利用する。ブロック基盤の画像圧縮方法は、画像を特定ブロック単位に分けて処理する方法であって、メモリ使用と演算量を減少させることができる。
【００６２】
図３は、本発明に適用され得るコーディングユニットの分割構造を説明するための図である。
【００６３】
エンコーダは、１つの画像（または、ピクチャ）を四角形の形態のコーディングツリーユニット（ＣＴＵ：Coding Tree Unit）単位に分割する。そして、ラスタースキャン順序（raster scan order）にしたがって１つのＣＴＵずつ順次エンコードする。
【００６４】
ＨＥＶＣでＣＴＵのサイズは、６４×６４、３２×３２、１６×１６のうち、いずれか１つに決められることができる。エンコーダは、入力された画像の解像度または入力された画像の特性などによってＣＴＵのサイズを選択して使用することができる。ＣＴＵは、輝度（luma）成分に対するコーディングツリーブロック（ＣＴＢ：Coding Tree Block）と、これに対応する２つの色差（chroma）成分に対するＣＴＢを含む。
【００６５】
１つのＣＴＵは、クアッドツリー（Quad-tree）構造に分割されることができる。すなわち、１つのＣＴＵは、正方形の形態を有しながら半分の水平サイズ（half horizontal size）及び半分の垂直サイズ（half vertical size）を有する４個のユニットに分割されて、コーディングユニット（ＣＵ：Coding Unit）が生成され得る。このようなクアッドツリー構造の分割は、再帰的に行われることができる。すなわち、ＣＵは、１つのＣＴＵからクアッドツリー構造で階層的に分割される。
【００６６】
ＣＵは、入力画像の処理過程、例えば、イントラ（intra）／インター（inter）予測が行われるコーディングの基本単位を意味する。ＣＵは、輝度（luma）成分に対するコーディングブロック（ＣＢ：Coding Block）と、これに対応する２つの色差（chroma）成分に対するＣＢを含む。ＨＥＶＣでＣＵのサイズは、６４×６４、３２×３２、１６×１６、８×８のうち、いずれか１つに決められることができる。
【００６７】
図３に示すように、クアッドツリーのルートノード（root node）は、ＣＴＵと関連する。クアッドツリーは、リーフノード（leaf node）に到達するまで分割され、リーフノードは、ＣＵに該当する。
【００６８】
より具体的に説明すれば、ＣＴＵは、ルートノード（root node）に該当し、最も小さい深さ（depth）（すなわち、ｄｅｐｔｈ＝０）の値を有する。入力画像の特性に応じてＣＴＵが分割されないことがあり、この場合、ＣＴＵは、ＣＵに該当する。
【００６９】
ＣＴＵは、クアッドツリー形態に分割されることができ、その結果、深さ１（ｄｅｐｔｈ＝１）である下位ノードが生成される。そして、１の深さを有する下位ノードでそれ以上分割されないノード（すなわち、リーフノード）は、ＣＵに該当する。例えば、図３（ｂ）においてノードａ、ｂ及びｊに対応するＣＵ（ａ）、ＣＵ（ｂ）、ＣＵ（ｊ）は、ＣＴＵで１回分割され、１の深さを有する。
【００７０】
１の深さを有するノードのうち、少なくともいずれか１つは、再度クアッドツリー形態に分割されることができ、その結果、深さ２（すなわち、ｄｅｐｔｈ＝２）である下位ノードが生成される。そして、２の深さを有する下位ノードでそれ以上分割されないノード（すなわち、リーフノード）は、ＣＵに該当する。例えば、図３（ｂ）においてノードｃ、ｈ、及びｉに対応するＣＵ（ｃ）、ＣＵ（ｈ）、ＣＵ（ｉ）は、ＣＴＵで２回分割され、２の深さを有する。
【００７１】
また、２の深さを有するノードのうち、少なくともいずれか１つは、再度クアッドツリー形態に分割されることができ、その結果、深さ３（すなわち、ｄｅｐｔｈ＝３）である下位ノードが生成される。そして、３の深さを有する下位ノードでそれ以上分割されないノード（すなわち、リーフノード）は、ＣＵに該当する。例えば、図３（ｂ）においてノードｄ、ｅ、ｆ、ｇに対応するＣＵ（ｄ）、ＣＵ（ｅ）、ＣＵ（ｆ）、ＣＵ（ｇ）は、ＣＴＵで３回分割され、３の深さを有する。
【００７２】
エンコーダでは、ビデオ画像の特性（例えば、解像度）に応じて、あるいは符号化の効率を考慮してＣＵの最大サイズまたは最小サイズを決定できる。そして、これに関する情報またはこれを導くことができる情報がビットストリームに含まれ得る。最大サイズを有するＣＵを最大コーディングユニット（ＬＣＵ：Largest Coding Unit）と呼び、最小サイズを有するＣＵを最小コーディングユニット（ＳＣＵ：Smallest Coding Unit）と呼ぶことができる。
【００７３】
また、ツリー構造を有するＣＵは、予め決められた最大深さ情報（または、最大レベル情報）を有して階層的に分割されることができる。そして、それぞれの分割されたＣＵは、深さ情報を有することができる。深さ情報は、ＣＵの分割された回数及び／又は程度を表すので、ＣＵのサイズに関する情報を含むこともできる。
【００７４】
ＬＣＵがクアッドツリー形態に分割されるので、ＬＣＵのサイズ及び最大深さ情報を利用すれば、ＳＣＵのサイズを求めることができる。または逆に、ＳＣＵのサイズ及びツリーの最大深さ情報を利用すれば、ＬＣＵのサイズを求めることができる。
【００７５】
１つのＣＵに対して、当該ＣＵが分割されるか否かを表す情報（例えば、分割ＣＵフラグ（split_cu_flag））がデコーダに伝達され得る。この分割モードは、ＳＣＵを除いた全てのＣＵに含まれている。例えば、分割可否を表すフラグの値が「１」であれば、当該ＣＵはさらに４個のＣＵに分けられ、分割可否を表すフラグの値が「０」であれば、当該ＣＵはそれ以上分けられず、当該ＣＵに対する処理過程が行われ得る。
【００７６】
上述のように、ＣＵは、イントラ予測またはインター予測が行われるコーディングの基本単位である。ＨＥＶＣは、入力画像をより効果的にコーディングするために、ＣＵを予測ユニット（ＰＵ：Prediction Unit）単位に分割する。
【００７７】
ＰＵは、予測ブロックを生成する基本単位であって、１つのＣＵ内でもＰＵ単位に互いに異なるように予測ブロックを生成できる。ただし、１つのＣＵ内に属したＰＵなどは、イントラ予測とインター予測とが混合されて使用されず、１つのＣＵ内に属したＰＵなどは、同じ予測方法（すなわち、イントラ予測あるいはインター予測）によりコーディングされる。
【００７８】
ＰＵは、クアッドツリー構造に分割されず、１つのＣＵで予め決められた形態で１回分割される。これについて、下記の図面を参照して説明する。
【００７９】
図４は、本発明に適用され得る予測ユニットを説明するための図である。
【００８０】
ＰＵは、ＰＵが属するＣＵのコーディングモードとしてイントラ予測モードが使用されるか、インター予測モードが使用されるかによって相違して分割される。
【００８１】
図４（ａ）は、イントラ予測モードが使用される場合のＰＵを例示し、図４（ｂ）は、インター予測モードが使用される場合のＰＵを例示する。
【００８２】
図４（ａ）に示すように、１つのＣＵのサイズが２Ｎ×２Ｎ（Ｎ＝４、８、１６、３２）である場合を仮定すれば、１つのＣＵは、２つのタイプ（すなわち、２Ｎ×２ＮまたはＮ×Ｎ）に分割されることができる。
【００８３】
ここで、２Ｎ×２Ｎ形態のＰＵに分割される場合、１つのＣＵ内に１つのＰＵだけが存在することを意味する。
【００８４】
それに対し、Ｎ×Ｎ形態のＰＵに分割される場合、１つのＣＵは、４個のＰＵに分割され、各ＰＵ単位別に互いに異なる予測ブロックが生成される。ただし、このようなＰＵの分割は、ＣＵの輝度成分に対するＣＢのサイズが最小サイズである場合（すなわち、ＣＵがＳＣＵである場合）にのみ行われることができる。
【００８５】
図４（ｂ）に示すように、１つのＣＵのサイズが２Ｎ×２Ｎ（Ｎ＝４、８、１６、３２）である場合を仮定すれば、１つのＣＵは、８つのＰＵタイプ（すなわち、２Ｎ×２Ｎ、Ｎ×Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ、ｎＬ×２Ｎ、ｎＲ×２Ｎ、２Ｎ×ｎＵ、２Ｎ×ｎＤ）に分割されることができる。
【００８６】
イントラ予測と同様に、Ｎ×Ｎ形態のＰＵ分割は、ＣＵの輝度成分に対するＣＢのサイズが最小サイズである場合（すなわち、ＣＵがＳＣＵである場合）にのみ行われることができる。
【００８７】
インター予測では、横方向に分割される２Ｎ×Ｎ形態及び縦方向に分割されるＮ×２Ｎ形態のＰＵ分割を支援する。
【００８８】
また、非対称動き分割（ＡＭＰ：Asymmetric Motion Partition）形態であるｎＬ×２Ｎ、ｎＲ×２Ｎ、２Ｎ×ｎＵ、２Ｎ×ｎＤ形態のＰＵ分割を支援する。ここで、「ｎ」は、２Ｎの１／４の値を意味する。ただし、ＡＭＰは、ＰＵが属したＣＵが最小サイズのＣＵである場合、使用されることができない。
【００８９】
１つのＣＴＵ内の入力画像を効率的に符号化するために、コーディングユニットＣＵ、予測ユニットＰＵ、変換ユニットＴＵの最適の分割構造は、下記のような実行過程を経て最小レート−歪み（Rate-Distortion）値に基づいて決定されることができる。例えば、６４×６４ＣＴＵ内の最適のＣＵ分割過程を説明すれば、６４×６４サイズのＣＵから８×８サイズのＣＵまでの分割過程を経ながら、レート−歪み費用を計算できる。具体的な過程は、次のとおりである。
【００９０】
１）６４×６４サイズのＣＵに対してインター／イントラ予測、変換／量子化、逆量子化／逆変換、及びエントロピーエンコード実行を介して最小のレート−歪み値を発生させる最適のＰＵとＴＵの分割構造を決定する。
【００９１】
２）６４×６４ＣＵを３２×３２サイズのＣＵ４個に分割し、各３２×３２ＣＵに対して最小のレート−歪み値を発生させる最適のＰＵとＴＵの分割構造を決定する。
【００９２】
３）３２×３２ＣＵを１６×１６サイズのＣＵ４個に再度分割し、各１６×１６ＣＵに対して最小のレート−歪み値を発生させる最適のＰＵとＴＵの分割構造を決定する。
【００９３】
４）１６×１６ＣＵを８×８サイズのＣＵ４個に再度分割し、各８×８ＣＵに対して最小のレート−歪み値を発生させる最適のＰＵとＴＵの分割構造を決定する。
【００９４】
５）上記の３）の過程で算出した１６×１６ＣＵのレート−歪み値と、上記の４）の過程で算出した４個８×８ＣＵのレート−歪み値との合計を比較して、１６×１６ブロック内で最適のＣＵの分割構造を決定する。この過程を残りの３個の１６×１６ＣＵなどに対しても同様に行う。
【００９５】
６）上記の２）の過程で計算された３２×３２ＣＵのレート−歪み値と、上記の５）の過程で取得した４個の１６×１６ＣＵのレート−歪み値との合計を比較して、３２×３２ブロック内で最適のＣＵの分割構造を決定する。この過程を残りの３個の３２×３２ＣＵなどに対しても同様に行う。
【００９６】
７）最後に、上記の１）の過程で計算された６４×６４ＣＵのレート−歪み値と、上記の６）の過程で取得した４個の３２×３２ＣＵのレート−歪み値との合計を比較して、６４×６４ブロック内で最適のＣＵの分割構造を決定する。
【００９７】
イントラ予測モードで、ＰＵ単位で予測モードが選択され、選択された予測モードに対して実際にＴＵ単位で予測と復元（reconstruction）が行われる。
【００９８】
ＴＵは、実際に予測と再構成が行われる基本単位を意味する。ＴＵは、輝度成分に対する変換ブロック（ＴＢ：Transform Block）とこれに対応する２つの色差（chroma）成分に対するＴＢとを含む。
【００９９】
前述した図３の例示において、１つのＣＴＵがクアッドツリー構造に分割されてＣＵが生成されることのように、ＴＵは、コーディングしようとする１つのＣＵからクアッドツリー構造に階層的に分割される。
【０１００】
ＴＵは、クアッドツリー構造に分割されるので、ＣＵから分割されたＴＵはより小さい下位ＴＵにさらに分割されることができる。ＨＥＶＣでは、ＴＵのサイズは、３２×３２、１６×１６、８×８、４×４のういずれか１つに決定されることができる。
【０１０１】
また図３に示すように、クアッドツリーのルートノード（root node）はＣＵと関連すると仮定する。クアッドツリーは、リーフノード（leaf node）に到達するまで分割され、リーフノードはＴＵに該当する。
【０１０２】
より具体的に説明すると、ＣＵはルートノード（root node）に該当し、最も小さい深さ（depth）（すなわち、ｄｅｐｔｈ＝０）値を有する。入力画像の特性に応じてＣＵが分割されないこともあり、この場合、ＣＵはＴＵに該当する。
【０１０３】
ＣＵは、クアッドツリー形態に分割され、その結果、深さ１（ｄｅｐｔｈ＝１）の下位ノードが生成される。また、１の深さを有する下位ノードからそれ以上分割されないノード（すなわち、リーフノード）は、ＴＵに該当する。例えば、図３（ｂ）において、ノードａ、ｂ及び、ｊに対応するＴＵ（ａ）、ＴＵ（ｂ）、ＴＵ（ｊ）はＣＵで１回分割され、１の深さを有する。
【０１０４】
１の深さを有するノードの少なくともいずれか１つは、 再びクアッドツリー形態に分割されることができ、その結果、深さ ２（すなわち、ｄｅｐｔｈ＝２）である下位ノードが生成される。さらに、２の深さを有する下位ノードでそれ以上分割されないノード（すなわち、リーフノード）は、ＴＵに該当する。例えば、図３（ｂ）において、ノードｃ、ｈ、及びｉに対応するＴＵ（ｃ）、ＴＵ（ｈ）、ＴＵ（ｉ）はＣＵで２回分割され、２の深さを有する。
【０１０５】
また、２の深さを有するノードの少なくともいずれか１つは、再びクアッドツリー形態に分割されることができ、その結果、深さ３（すなわち、ｄｅｐｔｈ＝３）の下位ノードが生成される。さらに、３の深さを有する下位ノードでそれ以上分割されないノード（すなわち、リーフノード）は、ＴＵに該当する。例えば、図３（ｂ）において、ノードｄ、ｅ、ｆ、ｇに対応するＴＵ（ｄ）、ＴＵ（ｅ）、ＴＵ（ｆ）、ＴＵ（ｇ）はＣＵで３回分割され、３の深さを有する。
【０１０６】
ツリー構造を有するＴＵは、予め決定された最大深さ情報（又は、最大レベル情報）を有して階層的に分割されることができる。また、それぞれの分割されたＴＵは、深さ情報を有することができる。深さ情報は、ＴＵの分割された回数及び／又は程度を示すので、ＴＵのサイズに関する情報を含むこともできる。
【０１０７】
１つのＴＵに対して、該当ＴＵが分割されるか否かを示す情報（例えば、分割ＴＵフラグ(split_transform_flag)）がデコーダに伝達されることができる。この分割情報は、最小サイズのＴＵを除いた全てのＴＵに含まれている。例えば、分割可否を示すフラグの値が「１」であると、該当ＴＵは、さらに４個のＴＵに分けられ、分割可否を示すフラグの値が「０」であると、該当ＴＵはそれ以上分けられない。
【０１０８】
適応的多重変換（ＡＭＴ：Adaptive Multiple Transform）
【０１０９】
画面内予測（又は、イントラ予測）により取得された残差信号は、画面内予測モードによって統計的特性がそれぞれ異なることがある。従って、エンコーダ／デコーダは、画面内予測モード別にＤＣＴ−２などの従来の画像符号化技術で使用する一般的な変換でない他の多様な変換を適用することができる。
【０１１０】
本発明において、ＡＭＴは、画面内予測又は画面間予測モードに基づいて変換（transform）を適応的に決定する方法を意味する。ＡＭＴは、その用語に限定されるものではなく、向上した多重変換（ＥＭＴ：Enhanced Multiple Transform）、一次変換（primary transform）、コア変換（core transform）などと称されることができる。
【０１１１】
図５は、本発明が適用される実施形態であって、画面内予測モードによる変換カーネル（transform kernel）の決定方法を例示する図である。
【０１１２】
図５に示すように、エンコーダ／デコーダは、画面内予測モードが３５個である場合（５０１）又は６７個である場合（５０２）、画面内予測モードを１つ以上の予測モードを含む予測モードグループにグルーピングし、それぞれの予測モードグループに変換セット（transform set）を決定（又は、マッピング）することができる。すなわち、予測モードグループ別に異なる変換セットが適用される。この場合、それぞれの変換セットは、列方向変換と行方向変換の計４個の組み合わせで構成できる。例えば、変換セット０（５０３）では、列方向変換及び行方向変換の両方ともＤＳＴ−７とＤＣＴ−５が適用できるので、計４個の組み合わせが可能である。
【０１１３】
画面内予測モード別に計４個の変換カーネル組み合わせが適用できるので、エンコーダは、４個の組み合わせのうち１つを選択するためのインデックス（以下、「ＡＭＴインデックス」という）をデコーダに送信することができる。また、図５に示す変換カーネル以外にも、残差信号の特性上、行方向と列方向の両方ともに対してＤＣＴ−２が最適である場合が頻繁に発生することがある。従って、エンコーダは、ＡＭＴが適用されるか否かを示すフラグ（以下、「ＡＭＴフラグ」という）をデコーダにシグナリングすることができる。
【０１１４】
もし、ＡＭＴフラグが０であると、デコーダは、行方向と列方向の両方ともに対してＤＣＴ−２を適用することができ、ＡＭＴフラグが１であると、デコーダは、ＡＭＴインデックスをパージングして４個の組み合わせのうち１つを選択（又は、決定）することができる。
【０１１５】
また、ＡＭＴフラグが０で、現在処理ブロックの変換係数の個数が３より小さい場合、デコーダは、図５に示す変換カーネルを適用せず、行方向と列方向の両方ともに対してＤＳＴ−７を適用することもできる。すなわち、デコーダは、変換係数値をまずパージングして変換係数の個数が３より小さいことが確認されると、ＡＭＴインデックスをパージングせずに行方向と列方向の両方ともに対してＤＳＴ−７を適用することができる。これにより、変換カーネルに関する付加情報をシグナリングするための費用を節減することができる。
【０１１６】
一実施形態において、ＡＭＴは、現在処理ブロックのサイズが予め決定された特定サイズより小さい場合に限って適用できる。例えば、ＡＭＴは、現在処理ブロックの幅と高さが全て３２以下である場合に限って適用できる。
【０１１７】
以下、本発明の説明において、一次変換（primary transform）（又は、コア変換(core transform)）としてＡＭＴが適用される場合を中心に説明するが、本発明はこれに限定されるものではない。すなわち、本明細書で提案する方法を適用するにおいてＡＭＴ以外の多様な一次変換技法が利用できる。
【０１１８】
従来の画像符号化技術において、変換スキップフラグは変換ユニット単位で送信されるが、ＡＭＴフラグはコーディングユニット単位で送信される。ここで、変換スキップフラグは、該当ブロックに対して変換を行わずにスキップするか否かを示すフラグである。しかしながら、ＱＴＢＴ（QuadTree plus BinaryTree）ブロック構造のようにコーディングユニットと変換ユニットの区分がない圧縮構造において、２つのフラグがいずれの場合にも送信されると、不必要なシンタックスシグナリングによる圧縮性能低下が起こることができる。
【０１１９】
従って、本発明においては、上記問題を解決するために、変換を適用するか否かを決定するフラグと変換（又は、変換カーネル）の種類を決定するインデックスを効果的にシグナリングする方法を提案する。
【０１２０】
また、本発明においては、一次変換を適用するか否かを決定するフラグと変換スキップ（transform skip）を行うか否かを決定するフラグを効果的にシグナリングする方法を提案する。
【０１２１】
また、本発明においては、一次変換を適用するか否かを決定するフラグに対するエントロピーコーディングを行うにおいてコンテキスト（context）を参照する方法を提案する。
【０１２２】
また、本発明においては、コーディングユニットと変換ユニットの区分がない圧縮構造において、一次変換フラグの値によって変換スキップフラグを送信（又は、パージング）するか否かを決定する方法を提案する。
【０１２３】
また、本発明においては、一次変換フラグに基づいてコンポーネント別に変換スキップフラグを送信するか否かを決定する方法を提案する。
【０１２４】
本発明の実施形態によれば、変換を適用するか否かを決定するフラグと変換の種類を決定するインデックスを送信する条件を最適化することにより、シグナリングビットを減らして圧縮性能を向上させることができる。
【０１２５】
また、本発明の実施形態によれば、一次変換と変換スキップを効果的にシグナリングすることにより不必要なシグナリングビット（redundant signaling bit）を減らすことができ、圧縮ビデオのクオリティを維持すると共に圧縮効率を向上させることができる。
【０１２６】
以下、処理ブロックは、予測、変換、及び／又は量子化などのエンコード／デコードの処理過程が行われる単位（又は、ブロック）を意味し、説明の便宜のために、ブロック、処理ユニットなどと称されることもできる。また、変換過程が行われる単位として用いられる場合、前記処理ブロックは、コーディングブロック（coding block）、コーディングユニット（coding unit）、変換ブロック（transform block）、変換ユニット（transform unit）などと称されることができる。
【０１２７】
実施形態１
【０１２８】
本発明の実施形態において、エンコーダ／デコーダは、変換スキップフラグを用いて一次変換を適用するか否かを決定するフラグを送信する条件を制限することができる。
【０１２９】
前述したように、エンコーダは、ＡＭＴが適用されるか否かを示すフラグ（以下、「ＡＭＴフラグ」という）をデコーダにシグナリングすることができる。ここで、従来の画像符号化技術のようにＡＭＴフラグを全てのブロックに対してシグナリングすると、不要にビットを消費して圧縮性能が低下することがある。従って、エンコーダは、特定条件下でのみＡＭＴフラグを送信してビット発生量を最小化することができる。
【０１３０】
実施形態１−１
【０１３１】
本発明の一実施形態において、エンコーダは、変換スキップフラグが０であるブロックに対してＡＭＴフラグをデコーダにシグナリングすることができる。ここで、変換スキップフラグは、該当ブロックに対して変換を行わずにスキップするか否かを示す。
【０１３２】
変換スキップフラグが1である場合、エンコーダから送信される残差信号は、量子化レベルでないスケーリングされたＹＵＶデータになり得る。この場合、変換が行われないため、エンコーダは、ＡＭＴを適用するか否かを示すＡＭＴフラグをデコーダに追加的にシグナリングする必要がない。
【０１３３】
従って、エンコーダは、変換スキップフラグが１である場合、ＡＭＴフラグを送信しないことにより不要な追加情報送信量を低減することができる。本実施形態で提案する方法は、ＡＭＴだけでなく、他の一次変換シグナリング方法にも適用できる。すなわち、変換スキップフラグ値が１を示す場合、エンコーダは、一次変換を適用するか否かを示すフラグをデコーダに送信しないことができる。
【０１３４】
図６は、本発明が適用される実施形態であって、ＡＭＴフラグをパージングする条件を説明するための図である。
【０１３５】
本実施形態において、説明の便宜のためにデコーダを中心に説明するが、本実施形態で提案する特定条件下でＡＭＴフラグをパージングする方法は、エンコーダとデコーダで同様に適用できる。
【０１３６】
図６に示すように、デコーダは、現在処理ブロックの残差ブロックに０でない係数が存在するか否かを示すｃｂｆ（coded bit flag）をパージングする（Ｓ６０１）。
【０１３７】
デコーダは、現在処理ブロックが第１条件を満たすか否かを判断し（Ｓ６０２）、現在処理ブロックが第１条件を満たす場合、現在処理ブロックに対して変換スキップが適用されるか否かを示す変換スキップフラグをパージングする（Ｓ６０３）。すなわち、デコーダは、現在処理ブロックが特定条件を満たすか否かによって変換スキップフラグをパージングすることができる。
【０１３８】
ここで、第１条件を満たすか否かは、現在処理ブロックのサイズによって決定されることができる。すなわち、現在処理ブロックのサイズが予め決定されたサイズ以下の場合、第１条件を満たす。例えば、第１条件は、現在ブロックの幅（width）及び高さ（height）が４以下かどうかを含む。
【０１３９】
デコーダは、現在処理ブロックが第２条件を満たすか否かを判断し（Ｓ６０４）、現在処理ブロックが第２条件を満たす場合、ＡＭＴを適用するか否かを示すＡＭＴフラグをパージングする（Ｓ６０５）。すなわち、デコーダは、現在処理ブロックが特定条件を満たす場合に限ってＡＭＴフラグをパージングすることができる。ここで、第２条件は、段階Ｓ６０３でパージングした変換スキップフラグ値が０であるか否かを含むことができる。また、第２条件は、段階Ｓ６０１でパージングしたｃｂｆ値が１であるか否か及び／又は現在処理ブロックの幅及び高さが両方とも６４以下かどうかを含むことができる。
【０１４０】
その後、デコーダは、現在処理ブロックの変換係数をパージングする（Ｓ６０６）。
【０１４１】
実施形態１−２
【０１４２】
本発明の一実施形態において、コンポーネント（component）別に変換スキップフラグが送信される場合、変換スキップフラグに基づいて一次変換フラグを送信するか否かを決定する方法を提案する。
【０１４３】
エンコーダは、輝度コンポーネント（又は、Ｙコンポーネント）、色差コンポーネント（Ｃｂ、Ｃｒコンポーネント）別に変換スキップフラグをデコーダに送信することができる。従って、変換スキップフラグが各コンポーネント別に送信されるので、コンポーネントごとに変換スキップを適用するか否かが異なって決定されることができる。ここで、エンコーダは、一次変換を適用するか否かを示すフラグをシグナリングする過程で、実際に一次変換が適用されるコンポーネントに対して変換スキップが適用されない場合にのみデコーダにシグナリングすることができる。
【０１４４】
例えば、ＡＭＴの場合、輝度コンポーネントに対してのみ適用できるので、エンコーダは、輝度コンポーネントに対して変換スキップが適用されない場合にのみＡＭＴフラグをシグナリングすることができる。それに対して、エンコーダは、色差コンポーネント（すなわち、Ｃｂ、Ｃｒコンポーネント）の場合、変換スキップを適用するか否かに関係なくＡＭＴフラグをシグナリングしないことができる。
【０１４５】
図７は、本発明が適用される実施形態であって、ＡＭＴフラグをパージングする条件を説明するための図である。
【０１４６】
本実施形態において、説明の便宜のためにデコーダを中心に説明するが、本実施形態で提案する特定条件下でＡＭＴフラグをパージングする方法は、エンコーダとデコーダで同様に適用できる。
【０１４７】
図７に示すように、デコーダは、現在処理ブロックの残差ブロックに０でない係数が存在するか否かを示すｃｂｆ（coded bit flag）をパージングする（Ｓ７０１）。
【０１４８】
デコーダは、現在処理ブロックが第１条件を満たすか否かを判断し（Ｓ７０２）、現在処理ブロックが第１条件を満たす場合、現在処理ブロックに対して変換スキップが適用されるか否かを示す変換スキップフラグをパージングする（Ｓ７０３）。すなわち、デコーダは、現在処理ブロックが特定条件を満たすか否かによって変換スキップフラグをパージングするか否かを決定することができる。
【０１４９】
ここで、第１条件を満たすか否かは、現在処理ブロックのサイズによって決定される。すなわち、現在処理ブロックのサイズが予め決定されたサイズ以下の場合、第１条件を満たす。例えば、第１条件は、現在ブロックの幅（width）及び高さ（height）が４以下かどうかを含むことができる。
【０１５０】
デコーダは、現在処理ブロックが第２条件を満たすか否かを判断し（Ｓ７０４）、現在処理ブロックが第２条件を満たす場合、ＡＭＴを適用するか否かを示すＡＭＴフラグをパージングする（Ｓ７０５）。すなわち、デコーダは、現在処理ブロックが特定条件を満たす場合に限ってＡＭＴフラグをパージングすることができる。ここで、第２条件は、現在処理ブロックが輝度コンポーネントに該当するか否かを含むことができる。また、第２条件は、段階Ｓ７０３でパージングした変換スキップフラグ値が０であるか否かを含むことができる。さらに、第２条件は、段階Ｓ７０１でパージングしたｃｂｆ値が１であるか否か及び／又は現在処理ブロックの幅及び高さが全て６４以下かどうかを含むことができる。
【０１５１】
その後、デコーダは、現在処理ブロックの変換係数をパージングする（Ｓ７０６）。前述したように、本実施形態で提案する方法は、ＡＭＴだけでなく、他の一次変換シグナリング方法にも適用できる。
【０１５２】
実施形態１−３
【０１５３】
本発明の一実施形態において、エンコーダ／デコーダは、ｃｂｆ値に依存する変換スキップフラグのシンタックスコーディング条件を制限することができる。
【０１５４】
具体的には、エンコーダは、ｃｂｆ値が１である場合に限って変換スキップを適用するか否かを示す変換スキップフラグをデコーダにシグナリングすることができる。この場合、前述した図６及び図７で同様に用いられた第１条件は、次の数式１のように表現できる。
【０１５５】
【数１】
2020504973.tif 000003
【０１５６】
すなわち、前述した図６及び図７において第１条件は、ｃｂｆ値が１であるか否か及び現在処理ブロックの幅と高さが４以下かどうかを含むことができる。
【０１５７】
また、ＱＴＢＴ構造において現在処理ブロックは、多様な形態（すなわち、非正方形ブロック）を有する。従って、一実施形態において、変換スキップフラグの送信／パージング条件は、多様なブロックのサイズ又は形状を考慮して次の数式２又は３のように表現できる。
【０１５８】
【数２】
2020504973.tif 000004
【０１５９】
数式２に示すように、エンコーダ／デコーダは、現在ブロックの幅と高さに対してそれぞれ特定閾値を設定し、設定された値より大きいか否かを満たすか否かを判断することができる。ここで、前記Ｍ、Ｎの値はそれぞれ幅、高さに対する特定閾値であり、予め決定された正の整数値であり得る。
【０１６０】
【数３】
2020504973.tif 000005
【０１６１】
数式３に示すように、エンコーダ／デコーダは、現在処理ブロックの幅と高さをかけた値、すなわち、現在処理ブロック内に存在する画素数が特定個数以上であるか否かを判断し、変換スキップフラグを送信又はパージングするか否かを決定することができる。ここで、前記Ｋの値は、現在処理ブロック内に存在する特定画素数であり、予め決定された正の整数値であり得る。
【０１６２】
実施形態２
【０１６３】
本発明の一実施形態において、エンコーダ／デコーダは、一次変換を適用するか否かを示すフラグに対するエントロピーエンコード／デコードを行うにおいて、ブロック分割構造又はブロックのサイズ情報に基づいてコンテキストベースの適応的二進算術符号化（ＣＡＢＡＣ：Context-based Adaptive Binary Arithmetic Coding）のコンテキスト（又は、コンテキストモデル(context model)）を決定（又は、参照）することができる。
【０１６４】
具体的には、エンコーダ／デコーダは、一次変換のオン／オフ（on/off）を決定するフラグに対してＣＡＢＡＣを行うとき、現在処理ブロックの分割の深さによって決定されるコンテキストを参照することができる。
【０１６５】
例えば、ＱＴＢＴ分割構造の場合、実施形態１で前述した変換スキップフラグ又はＡＭＴフラグを次の数式４のように、コンテキストインデックス（context index）を決定することができる。  
【０１６６】
【数４】
2020504973.tif 000006
【０１６７】
数式４の例示のように、現在フラグをエントロピーコーディングするために用いられるコンテキストは、ＱＴの深さとＢＴの深さの関数で表現できる。ここで、ＱＴの深さは、クアッドツリー構造において現在処理ブロックの分割の深さを示す。クアッドツリーのルートノードは、ＱＴの深さ値が０であり得る。また、ＢＴの深さは、バイナリツリー構造において現在処理ブロックの分割の深さを示す。同様に、バイナリツリーのルートノードは、ＢＴの深さ値が０であり得る。バイナリツリーのルートノードブロックはクアッドツリー構造のリーフノードブロックであり得る。
【０１６８】
統計的に、ＡＭＴフラグ値は、ＱＴの深さとＢＴの深さに対して依存性を有すると観察される。このようなＡＭＴフラグの分割の深さに対する依存関係を考慮してＡＭＴフラグのエントロピーコーディングに用いられるコンテキストを決定することにより符号化効率を向上させることができる。
【０１６９】
また、エンコーダ／デコーダは、一次変換のオン／オフ（on/off）を決定するフラグに対してＣＡＢＡＣを行うとき、現在処理ブロックのサイズ情報を用いてコンテキストを決定することもできる。例えば、エンコーダ／デコーダは、次の表１の例示のように、現在処理ブロック内の画素の数によってコンテキストを決定し、決定されたコンテキストを参照してエントロピーエンコード／デコードを行うことができる。
【０１７０】
【表１】
2020504973.tif 000007
【０１７１】
本実施形態において、ＱＴＢＴ構造を中心に説明しているが、これに限定されるものではなく、多様なブロック分割構造にも同様に適用できる。
【０１７２】
実施形態３
【０１７３】
本発明の一実施形態において、エンコーダ／デコーダは、一次変換を適用するか否かを示す一次変換フラグの値に基づいて変換スキップフラグをシグナリングするか否かを決定することができる。特に、一実施形態において、エンコーダ／デコーダは、ＱＴＢＴ構造のようにコーディングユニットと変換ユニットの区分がない分割構造において、一次変換フラグによって変換スキップフラグをシグナリングするか否かを決定することができる。
【０１７４】
具体的には、エンコーダは、ＱＴＢＴ構造において、一次変換フラグの値が１である場合、変換スキップフラグをデコーダに送信しないことができる。従って、一次変換のオン／オフを制御するフラグと変換を行わないようにするフラグとの間の不必要なシンタックスシグナリングを除去することができる。
【０１７５】
図８は、本発明が適用される実施形態であって、一次変換フラグ及び変換スキップフラグの復号方法を示すフローチャートである。
【０１７６】
デコーダは、現在処理ブロックの残差ブロックに０でない係数が存在するか否かを示すｃｂｆをパージングする（Ｓ８０１）。
【０１７７】
段階Ｓ８０１でパージングしたｃｂｆ値が１である場合、デコーダは、一次変換が適用されるか否かを示す一次変換フラグをパージングする（Ｓ８０２）。また、デコーダは、現在処理ブロックが第１条件を満たすか否かを判断する（Ｓ８０３）。
【０１７８】
段階Ｓ８０３で判断した結果、現在処理ブロックが第１条件を満たす場合、変換スキップフラグをパージングする（Ｓ８０４）。ここで、第１条件は、現在処理ブロックが予め決定されたサイズ以下かどうかを含むことができる。または、第１条件は、現在処理ブロックの幅と高さの積が予め決定された値以下かどうかを含むことができる。また、前記予め決定されたサイズ又は前記予め決定された値は、スライス別に異なって設定されることもできる。例えば、前記予め決定されたサイズ又は前記予め決定された値は、Ｉ−スライスである場合とＩ−スライスでない場合とで、それぞれ異なって設定されることができる。
【０１７９】
前記第１条件によれば、現在処理ブロックに対して一次変換が適用される場合も不要に変換スキップフラグがシグナリングされるという問題がある。従って、このような問題を解決するために、前記第１条件は、段階Ｓ８０２でパージングした一次変換フラグの値が１でないか否かを含むことができる。
【０１８０】
すなわち、エンコーダは、現在ブロックのサイズが予め決定されたサイズ以下であり、受信された一次変換フラグの値が１でない場合、変換スキップフラグをパージングすることができる。もし、現在ブロックのサイズが予め決定されたサイズより大きいか、受信された一次変換フラグの値が１である場合、デコーダは、変換スキップフラグをパージングしないことができる。
【０１８１】
実施形態３−１
【０１８２】
本発明の一実施形態において、エンコーダ／デコーダは、輝度コンポーネントに対して一次変換フラグに基づいて変換スキップフラグをシグナリングするか否かを決定することができる。一次変換が適用される場合、エンコーダ／デコーダは、輝度ブロックの変換スキップフラグを送信しないが、対応される色差ブロックの変換スキップフラグは送信することができる。
【０１８３】
図９は、本発明が適用される実施形態であって、一次変換を適用するか否かによってコンポーネント別の変換スキップフラグを送信するか否かを例示する表である。
【０１８４】
図９に示すように、シンタックスコーディングの重複（redundancy）を避けるために、輝度コンポーネントの場合、一次変換フラグが０でないと、変換スキップフラグはシグナリングされない。すなわち、一次変換を適用するか否かを示す変換フラグが０であると、エンコーダは、全てのコンポーネントに対してデコーダに変換スキップフラグをシグナリングすることができる。一次変換フラグが１であると、エンコーダは、色差コンポーネントに対してデコーダに変換スキップフラグをシグナリングするが、輝度コンポーネントに対して変換スキップフラグをシグナリングしないことができる。  
【０１８５】
実施形態３−２
【０１８６】
本発明の一実施形態において、エンコーダ／デコーダは、一次変換フラグに基づいて全てのコンポーネントに対して変換スキップフラグをシグナリングするか否かを決定することができる。
【０１８７】
変換スキップフラグが各コンポーネント単位で送信される画像符号化技術において、輝度コンポーネントの構造と色差コンポーネント構造が互いに独立的でも、互いに依存的でもあり得る。例えば、ＱＴＢＴ構造において、Ｉ−スライスの場合は構造的に独立性を有し、Ｂ−スライスの場合は構造的に依存性を有し得る。
【０１８８】
図１０は、本発明が適用される実施形態であって、一次変換を適用するか否かによってコンポーネント別の変換スキップフラグを送信するか否かを例示する表である。
【０１８９】
図１０に示すように、コンポーネント間の構造が独立的である場合（例えば、Ｉ−スライスの場合）、エンコーダは、一次変換が適用される場合に全てのコンポーネントに対して変換スキップフラグをシグナリングしないことができる。従って、付加情報送信量を減らし、符号化効率を向上させることができる。
【０１９０】
実施形態３−３
【０１９１】
本発明の一実施形態において、エンコーダ／デコーダは、一次変換が適用されない場合、色差コンポーネントに対する変換スキップフラグを送信するか否かを決定する方法を提案する。
【０１９２】
上記方法で変換スキップフラグを送信する条件は多様である。変換スキップフラグをシグナリングする条件をブロックの画素数が１６個以下である場合に仮定すると、色差コンポーネントのサイズが２×２、２×４、２×８、４×２、８×２、４×４の場合があり得る。
【０１９３】
この場合、過度に小さいブロックであるにもかかわらず、変換スキップフラグを送信すると、ビットオーバーヘッドが高くなる。従って、上記問題を防止するために、色差コンポーネントブロックのサイズが特定条件のサイズより小さい場合又は総画素数が特定個数より小さい場合、変換スキップフラグを送信しないことができる。
【０１９４】
例えば、エンコーダ／デコーダは、次の数式５の条件を用いて色差成分の変換スキップフラグを送信するか否かを決定することができる。
【０１９５】
【数５】
2020504973.tif 000008
【０１９６】
数式５に示すように、エンコーダ／デコーダは、色差ブロックの画素数が特定範囲に属する場合に限って変換スキップフラグを送信するか否かを決定することができる。数式６において、Ｔｈｒｅｓｈｏｌｄ＿ｍａｘは上限閾値を示し、Ｔｈｒｅｓｈｏｌｄ＿ｍｉｎは下限閾値を示す。前記Ｔｈｒｅｓｈｏｌｄ＿ｍａｘ及び前記Ｔｈｒｅｓｈｏｌｄ＿ｍｉｎは、エンコーダとデコーダに予め設定されることができる。
【０１９７】
または、例えば、エンコーダ／デコーダは、次の数式６の条件を用いて色差成分の変換スキップフラグを送信するか否かを決定することができる。
【０１９８】
【数６】
2020504973.tif 000009
【０１９９】
数式６に示すように、エンコーダ／デコーダは、色差ブロックの幅と高さが特定範囲に属する場合に限って変換スキップフラグを送信するか否かを決定することができる。数式６において、ｂｌｏｃｋＳｉｚｅ＿ｍａｘは最大サイズのブロック（又は、最大サイズのブロックの一辺の長さ）を示し、ｂｌｏｃｋＳｉｚｅ＿ｍｉｍは最小サイズのブロック（又は、最小サイズのブロックの一辺の長さ）を示す。前記ｂｌｏｃｋＳｉｚｅ＿ｍａｘ及び前記ｂｌｏｃｋＳｉｚｅ＿ｍｉｍは、エンコーダとデコーダに予め設定されることができる。
【０２００】
前述した実施形態は、それぞれの実施形態が独立して適用されることもでき、多様な実施形態の組み合わせで用いられることもできる。
【０２０１】
図１１は、本発明の一実施形態によるビデオ信号の復号方法を例示する図である。
【０２０２】
以下、本実施形態の説明において、説明の便宜のためにデコーダを中心に説明するが、本発明によるビデオ信号の復号方法は、エンコーダ及びデコーダで同様に行われることができる。
【０２０３】
デコーダは、ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する（Ｓ１１０１）。具体的には、デコーダは、エンコーダから受信したビットストリームをエントロピーデコードして量子化した変換係数を抽出し、予め決定されたスキャン順序によって量子化した変換係数を配置して２次元配列の量子化した変換ブロックを生成することができる。デコーダは、量子化した変換ブロックに対して逆量子化を行うことにより逆量子化した変換ブロックを生成することができる。
【０２０４】
デコーダは、現在ブロックのサイズが予め決定された第１サイズより小さい場合、現在ブロックに変換スキップ（transform skip）が適用されるか否かを示す変換スキップフラグをパージングする（Ｓ１１０２）。
【０２０５】
前述したように、デコーダは、現在ブロックが第１条件を満たすか否かを判断し、現在処理ブロックが第１条件を満たす場合、変換スキップフラグをパージングすることができる。第１条件を満たすか否かは、現在処理ブロックのサイズによって決定されることができる。すなわち、現在処理ブロックのサイズが予め決定されたサイズ以下の場合、第１条件を満たす。前記予め決定された第１サイズは、現在ブロックの幅及び高さに基づいて決定されることもでき、現在ブロック内の画素数に基づいて決定されることもできる。
【０２０６】
デコーダは、現在ブロックに一次変換（primary transform）が適用されるか否かを示す一次変換フラグをパージングするか否かを決定する（Ｓ１１０３）。
【０２０７】
例えば、前記一次変換フラグは、ＡＭＴを適用するか否かを示すＡＭＴフラグであり得る。もし、ＡＭＴフラグ値が１であると、前述したように、ＡＭＴインデックスをパージングする段階が段階Ｓ１１０３以後に追加できる。
【０２０８】
前述したように、デコーダは、変換スキップフラグの値が０であると、前記一次変換フラグをパージングすると決定することができる。または、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグの値が０であると、前記一次変換フラグをパージングすると決定することができる。
【０２０９】
また、前述したように、エンコーダは、一次変換を適用するか否かを示すフラグをシグナリングする過程で実際に一次変換が適用されるコンポーネントに対して変換スキップが適用されない場合にのみデコーダにシグナリングすることができる。この場合、デコーダは、現在ブロックが輝度（luma）ブロックであり、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグの値が０であると、前記一次変換フラグをパージングすると決定することができる。
【０２１０】
また、前述したように、エンコーダは、ｃｂｆ値が１である場合に限って変換スキップを適用するか否かを示す変換スキップフラグをデコーダにシグナリングすることができる。この場合、デコーダは、現在ブロックに０でない変換係数が存在するか否かを確認することができる。確認の結果、前記現在ブロックに前記０でない変換係数が存在する場合に限って、デコーダは、変換スキップフラグをパージングすることができる。
【０２１１】
また、前述したように、一次変換フラグは、ＱＴＢＴ（QuadTree plus BinaryTree）ブロック分割構造において、前記現在ブロックの深さ、前記現在ブロックのサイズ又は前記現在ブロック内の画素数によって決定されるコンテキスト（context）を参照してエントロピーデコードされることができる。上記数式４において説明した通り、現在フラグをエントロピーエンコードするために用いられるコンテキストはＱＴの深さとＢＴの深さの関数で表現できる。
【０２１２】
デコーダは、一次変換フラグをパージングすると決定した場合、一次変換フラグをパージングする（Ｓ１１０４）。
【０２１３】
また、エンコーダ／デコーダは、一次変換のオン／オフ（on/off）を決定するフラグに対してＣＡＢＡＣを行うとき、現在処理ブロックのサイズ情報を用いてコンテキストを決定することもできる。
【０２１４】
デコーダは、一次変換フラグが現在ブロックに一次変換が適用されることを示す場合、残差ブロックに対して一次逆変換を行うことにより現在ブロックの一次逆変換された変換ブロックを生成する（Ｓ１１０５）。
【０２１５】
現在ブロックに二次変換（secondary transform）が適用される場合、残差ブロックは二次変換が行われた変換ブロックであり得る。この場合、デコーダは、一次逆変換を行うに先立って二次逆変換を行うことができる。例えば、前記二次逆変換は、ＤＣＴ（Discrete Cosine Transform）、ＤＳＴ（Discrete sine Transform）、カルーネンレーベ変換（Karhunen Loeve transform）、グラフベース変換（Graph based Transform）又は非分離型二次変換（ＮＳＳＴ：Non Separable Secondary Transform）のいずれか１つを用いて行われることができる。
【０２１６】
図１２は、本発明の一実施形態によるビデオ信号の復号方法を例示する図である。
【０２１７】
デコーダは、ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する（Ｓ１２０１）。具体的には、デコーダは、エンコーダから受信したビットストリームをエントロピーデコードして量子化した変換係数を抽出し、予め決定されたスキャン順序によって量子化した変換係数を配置して２次元配列の量子化した変換ブロックを生成することができる。デコーダは、量子化した変換ブロックに対して逆量子化を行うことにより逆量子化した変換ブロックを生成することができる。
【０２１８】
デコーダは、現在ブロックに一次変換が適用されるか否かを示す一次変換フラグをパージングする（Ｓ１２０２）。例えば、前記一次変換フラグは、ＡＭＴを適用するか否かを示すＡＭＴフラグであり得る。もし、ＡＭＴフラグ値が１であると、前述したように、ＡＭＴインデックスをパージングする段階が段階Ｓ１２０２以後に追加されることができる。
【０２１９】
デコーダは、現在ブロックが予め決定された特定条件を満たすか否か確認する（Ｓ１２０３）。
【０２２０】
前述したように、前記特定条件は、前記一次変換フラグを値が０であるか否か及び前記現在ブロックのサイズが変換スキップが適用される最大サイズ以下かどうかを含むことができる。ここで、前記変換スキップが適用される最大サイズは、前記現在ブロックのスライスによって決定されることができる。または、前記特定条件は、前記現在ブロックが色差コンポーネント（chroma component）であるか否かをさらに含むことができる。または、前記特定条件は、前記現在ブロックのスライスがＢ−スライスであるか否かをさらに含むことができる。または、前記特定条件は、前記現在ブロックのサイズ又は前記現在ブロックの画素数が特定範囲内に属するか否かをさらに含むことができる。
【０２２１】
デコーダは、前記確認の結果、前記特定条件を満たす場合、現在ブロックに変換スキップが適用されるか否かを示す変換スキップフラグをパージングする（Ｓ１２０４）。
【０２２２】
デコーダは、変換スキップフラグが現在ブロックに変換スキップが適用されないことを示す場合、残差ブロックに対して一次逆変換を行うことにより現在ブロックの一次逆変換された変換ブロックを生成する（Ｓ１２０５）。
【０２２３】
現在ブロックに二次変換が適用される場合、残差ブロックは二次変換が行われた変換ブロックであり得る。この場合、デコーダは、一次逆変換を行うに先立って二次逆変換を行うことができる。例えば、前記二次逆変換は、ＤＣＴ（Discrete Cosine Transform）、ＤＳＴ（Discrete sine Transform）、カルーネンレーベ変換（Karhunen Loeve transform）、グラフベース変換（Graph based Transform）又は非分離型二次変換（ＮＳＳＴ：Non Separable Secondary Transform）のいずれか１つを用いて行われる。
【０２２４】
図１３は、本発明の一実施形態によるビデオ信号の復号装置を例示する図である。
【０２２５】
図１３では、説明の便宜のために、残差ブロック生成部１３０１、一次変換フラグパージング部１３０２、条件確認部１３０３、変換スキップフラグパージング部１３０４、変換ブロック生成部１３０５をそれぞれ別のブロックとして示したが、エンコーダ及び／又はデコーダに含まれる構成として実現されることもできる。
【０２２６】
図１３に示すように、前記復号装置は、図５〜図１５において提案された機能、過程、及び／又は方法を実現する。具体的には、前記復号装置は、残差ブロック生成部１３０１、一次変換フラグパージング部１３０２、条件確認部１３０３、変換スキップフラグパージング部１３０４、変換ブロック生成部１３０５を含む。
【０２２７】
残差ブロック生成部１３０１は、ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する。具体的には、残差ブロック生成部１３０１は、エンコーダから受信したビットストリームをエントロピーデコードして量子化した変換係数を抽出し、予め決定されたスキャン順序によって量子化した変換係数を配置して２次元配列の量子化した変換ブロックを生成することができる。残差ブロック生成部１３０１は、量子化した変換ブロックに対して逆量子化を行うことにより逆量子化した変換ブロックを生成することができる。
【０２２８】
一次変換フラグパージング部１３０２は、現在ブロックに一次変換が適用されるか否かを示す一次変換フラグをパージングする。例えば、前記一次変換フラグは、ＡＭＴを適用するか否かを示すＡＭＴフラグであり得る。もし、ＡＭＴフラグ値が１であると、前述したようにＡＭＴフラグをパージングした以後に、一次変換フラグパージング部１３０２は、ＡＭＴインデックスを追加的にパージングすることができる。
【０２２９】
条件確認部１３０３は、現在ブロックが予め決定された特定条件を満たすか否か確認する。
【０２３０】
前述したように、前記特定条件は、前記一次変換フラグを値が０であるか否か及び前記現在ブロックのサイズが変換スキップが適用される最大サイズ以下かどうかを含むことができる。ここで、前記変換スキップが適用される最大サイズは、前記現在ブロックのスライスによって決定されることができる。または、前記特定条件は、前記現在ブロックが色差コンポーネント（chroma component）であるか否かをさらに含むことができる。または、前記特定条件は、前記現在ブロックのスライスがＢ−スライスであるか否かをさらに含むことができる。または、前記特定条件は、前記現在ブロックのサイズ又は前記現在ブロックの画素数が特定範囲内に属するか否かをさらに含むことができる。
【０２３１】
変換スキップフラグパージング部１３０４は、前記確認の結果、前記特定条件を満たす場合、現在ブロックに変換スキップが適用されるか否かを示す変換スキップフラグをパージングする。
【０２３２】
変換ブロック生成部１３０５は、変換スキップフラグが現在ブロックに変換スキップが適用されないことを示す場合、残差ブロックに対して一次逆変換を行うことにより現在ブロックの一次逆変換された変換ブロックを生成する。
【０２３３】
現在ブロックに二次変換が適用される場合、残差ブロックは二次変換が行われた変換ブロックであり得る。この場合、デコーダは、一次逆変換を行うに先立って二次逆変換を行うことができる。例えば、前記二次逆変換は、ＤＣＴ（Discrete Cosine Transform）、ＤＳＴ（Discrete sine Transform）、カルーネンレーベ変換（Karhunen Loeve transform）、グラフベース変換（Graph based Transform）又は非分離型二次変換（ＮＳＳＴ: Non Separable Secondary Transform）のいずれか１つを用いて行われることができる。また、デコーダは、二次逆変換された変換ブロックに対して一次逆変換を行うことにより残差ブロックを生成することができる。  
【０２３４】
以上で説明された実施形態等は、本発明の構成要素等と特徴が所定形態に結合されたものなどである。各構成要素または特徴は、別の明示的言及がない限り、選択的なものと考慮されなければならない。各構成要素または特徴は、他の構成要素や特徴と結合されなかった形態で実施されることができる。また、一部の構成要素等及び／又は特徴を結合して本発明の実施形態を構成することも可能である。本発明の実施形態等で説明される動作の順序は変更されることができる。ある実施形態の一部の構成や特徴は、他の実施形態に含まれることができ、または、他の実施形態の対応する構成または特徴と交替されることができる。特許請求の範囲において明示的な引用関係がない請求項等を結合して実施形態を構成したり、出願後の補正により新しい請求項として含め得ることは自明である。
【０２３５】
本発明に係る実施形態は、様々な手段、例えば、ハードウェア、ファームウェア（firmware）、ソフトウェア、またはそれらの組み合わせなどにより実現されることができる。ハードウェアによる実現の場合、本発明の一実施形態は、１つまたはそれ以上のＡＳＩＣｓ（application specific integrated circuits）、ＤＳＰｓ（digital signal processors）、ＤＳＰＤｓ（digital signal processing devices）、ＰＬＤｓ（programmable logic devices）、ＦＰＧＡｓ（field programmable gate arrays）、プロセッサ、コントローラ、マイクロコントローラ、マイクロプロセッサなどにより実現されることができる。
【０２３６】
ファームウェアやソフトウェアによる実現の場合、本発明の一実施形態は、以上で説明された機能または動作を行うモジュール、手順、関数などの形態で実現されることができる。ソフトウェアコードは、メモリに格納されてプロセッサにより駆動されることができる。前記メモリは、前記プロセッサの内部または外部に位置し、既に公知の様々な手段により前記プロセッサとデータをやり取りすることができる。
【０２３７】
本発明は、本発明の必須的特徴を逸脱しない範囲で他の特定の形態で具体化され得ることは当業者に自明である。したがって、上述した詳細な説明は、あらゆる面で制限的に解釈されてはならず、例示的なことと考慮されなければならない。本発明の範囲は、添付された請求項の合理的解釈により決定されなければならず、本発明の等価的範囲内でのあらゆる変更は、本発明の範囲に含まれる。
【産業上の利用可能性】
【０２３８】
以上、前述した本発明の好ましい実施形態は、例示の目的のために開示されたものであって、当業者であれば、以下に添付された特許請求の範囲に開示された本発明の技術的思想とその技術的範囲内で、様々な他の実施形態の改良、変更、代替、または付加などが可能であろう。
【図１】
2020504973.tif 000010
【図２】
2020504973.tif 000011
【図３】
2020504973.tif 000012
【図４】
2020504973.tif 000013
【図５】
2020504973.tif 000014
【図６】
2020504973.tif 000015
【図７】
2020504973.tif 000016
【図８】
2020504973.tif 000017
【図９】
2020504973.tif 000018
【図１０】
2020504973.tif 000019
【図１１】
2020504973.tif 000020
【図１２】
2020504973.tif 000021
【図１３】
2020504973.tif 000022
【手続補正書】
【提出日】令和1年7月23日(2019.7.23)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ビデオ信号をデコードする方法において、
前記ビデオ信号に対してエントロピーデコード及び逆量子化を行うことにより現在ブロックの残差ブロックを生成する段階と、
前記現在ブロックのサイズが予め決定された第１サイズより小さい場合、前記現在ブロックに変換スキップが適用されるかどうかを示す変換スキップフラグをパージングする段階と、
前記現在ブロックに一次変換として適応的多重変換が適用されるかどうかを示す一次変換フラグをパージングするかどうかを決定する段階と、
前記一次変換フラグをパージングすると決定した場合、前記一次変換フラグをパージングする段階と、
前記一次変換フラグが前記現在ブロックに前記適応的多重変換が適用されることを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する段階と、を含む、方法。
【請求項２】
前記一次変換フラグをパージングするかどうかを決定する前記段階は、前記変換スキップフラグが０である場合、前記一次変換フラグをパージングする、請求項１に記載の方法。
【請求項３】
前記一次変換フラグをパージングするかどうかを決定する前記段階は、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグが０である場合、前記一次変換フラグをパージングすると決定する、請求項１に記載の方法。
【請求項４】
前記一次変換フラグをパージングするかどうかを決定する前記段階は、前記現在ブロックが輝度ブロックであり、前記現在ブロックのサイズが予め決定された第２サイズより小さく、前記変換スキップフラグが０である場合、前記一次変換フラグをパージングすると決定する、請求項１に記載の方法。
【請求項５】
前記変換スキップフラグをパージングする前記段階は、
前記現在ブロックに０でない変換係数が存在するかどうかを確認する段階と、
前記確認の結果から、前記現在ブロックに前記０でない変換係数が存在すると決定された場合、前記変換スキップフラグをパージングする段階と、を含む、請求項１に記載の方法。
【請求項６】
前記一次変換フラグは、ＱＴＢＴ（QuadTree plus BinaryTree）ブロック分割構造において、前記現在ブロックの深さ、前記現在ブロックのサイズ又は前記現在ブロック内の画素数に従って決定されるコンテキストを参照してエントロピーデコードされる、請求項１に記載の方法。
【請求項７】
ビデオ信号をデコードする方法において、
前記ビデオ信号に対してエントロピーデコードを行うことにより現在ブロックの残差ブロックを生成する段階と、
前記現在ブロックに一次変換が適用されるかどうかを示す一次変換フラグをパージングする段階と、
前記現在ブロックが予め決定された特定条件を満たすかどうかを確認する段階と、
前記確認の結果から、前記特定条件を満たすと決定された場合、前記現在ブロックに変換スキップが適用されるかどうかを示す変換スキップフラグをパージングする段階と、
前記変換スキップフラグが前記現在ブロックに変換スキップが適用されないことを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する段階と、を含む、方法。
【請求項８】
前記特定条件は、
前記一次変換フラグが０であるかどうか、及び、
前記現在ブロックのサイズが変換スキップが適用される最大サイズ以下かどうかを含む、請求項７に記載の方法。
【請求項９】
前記変換スキップが適用される前記最大サイズは、前記現在ブロックのスライスに従って決定される、請求項８に記載の方法。
【請求項１０】
前記特定条件は、前記現在ブロックが色差コンポーネントであるかどうかをさらに含む、請求項８に記載の方法。
【請求項１１】
前記特定条件は、前記現在ブロックのスライスがＢ−スライスであるかどうかをさらに含む、請求項８に記載の方法。
【請求項１２】
前記特定条件は、前記現在ブロックのサイズ又は前記現在ブロックの画素数が特定範囲に属するかどうかをさらに含む、請求項１０に記載の方法。
【請求項１３】
ビデオ信号をデコードする装置において、
前記ビデオ信号に対してエントロピーデコード及び逆量子化を行うことにより現在ブロックの残差ブロックを生成する残差ブロック生成部と、
前記現在ブロックのサイズが予め決定された第１サイズより小さい場合、前記現在ブロックに変換スキップが適用されるかどうかを示す変換スキップフラグをパージングする変換スキップフラグパージング部と、
前記現在ブロックに一次変換として適応的多重変換が適用されるかどうかを示す一次変換フラグをパージングするかどうかを決定し、前記一次変換フラグをパージングすると決定した場合、前記一次変換フラグをパージングする一次変換フラグパージング部と、
前記一次変換フラグが前記現在ブロックに前記適応的多重変換が適用されることを示す場合、前記残差ブロックに対して一次逆変換を行うことにより前記現在ブロックの一次逆変換された変換ブロックを生成する逆変換された変換ブロック生成部と、を含む、装置。
【国際調査報告】
2020504973.tif 000023
2020504973.tif 000024
2020504973.tif 000025
2020504973.tif 000026
2020504973.tif 000027
2020504973.tif 000028