(57)【要約】  本開示は、符号化効率の低減を抑制することができるようにする画像処理装置および方法に関する。符号化対象の画像の、量子化を行うカレントブロックに対して、そのカレントブロックのサイズに応じた値を有するスケーリングリストを設定し、その設定されたスケーリングリストを用いて量子化を行い、得られた量子化係数を符号化し、符号化データを生成する。本開示は、例えば、画像処理装置、画像符号化装置、または画像復号装置等に適用することができる。
2018008387.tif 000002
【特許請求の範囲】
【請求項１】
符号化対象の画像の、量子化を行うカレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定するスケーリングリスト設定部と、
前記スケーリングリスト設定部により設定された前記スケーリングリストを用いて量子化を行う量子化部と、
前記量子化部により得られた量子化係数を符号化し、符号化データを生成する符号化部と
を備える画像処理装置。
【請求項２】
前記スケーリングリスト設定部は、前記カレントブロックのサイズが大きい程、より大きな値を有するスケーリングリストを設定する
請求項１に記載の画像処理装置。
【請求項３】
前記スケーリングリスト設定部は、サイズが16x16の前記カレントブロックに対して、サイズが8x8以下の場合に対応するスケーリングリストと比べて、より高域成分側の一部の値が大きいスケーリングリストを設定する
請求項２に記載の画像処理装置。
【請求項４】
前記スケーリングリスト設定部は、サイズが32x32の前記カレントブロックに対して、サイズが8x8以下の場合に対応するスケーリングリストと比べて、全ての値が大きいスケーリングリストを設定する
請求項２に記載の画像処理装置。
【請求項５】
前記スケーリングリスト設定部は、前記カレントブロックに対して、前記カレントブロックのサイズおよび符号化の目標ビットレートに応じた値を有するスケーリングリストを設定する
請求項１に記載の画像処理装置。
【請求項６】
前記スケーリングリスト設定部は、前記目標ビットレートが低い場合、前記カレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定する
請求項５に記載の画像処理装置。
【請求項７】
前記スケーリングリスト設定部は、前記画像処理装置の外部から供給される前記目標ビットレートの指定に基づいて、前記目標ビットレートが低いか否かを判定し、前記目標ビットレートが低い場合、前記カレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定する
請求項６に記載の画像処理装置。
【請求項８】
前記符号化対象の画像に含まれる平坦部を検出する平坦検出部と、
前記平坦検出部により検出された前記平坦部にサイズが大きなブロックを設定するブロック設定部と
をさらに備え、
前記スケーリングリスト設定部は、前記ブロック設定部により設定された、サイズが大きなブロックに対して、前記ブロックのサイズに応じた値を有するスケーリングリストを設定するように構成される
請求項１に記載の画像処理装置。
【請求項９】
前記平坦検出部は、前記目標ビットレートが低い場合、前記平坦部を検出する
請求項８に記載の画像処理装置。
【請求項１０】
前記平坦検出部は、前記画像の注目領域以外の領域において前記平坦部を検出し、
前記ブロック設定部は、前記注目領域内において、サイズが大きなブロックの設定を禁止する
請求項８に記載の画像処理装置。
【請求項１１】
前記スケーリングリスト設定部は、予め用意された複数のスケーリングリストの中から、前記カレントブロックのサイズに応じた値を有するスケーリングリストを選択し、
前記符号化部は、前記スケーリングリスト設定部により選択された前記スケーリングリストを示す識別情報を符号化し、前記符号化データに格納する
請求項１に記載の画像処理装置。
【請求項１２】
前記符号化部は、前記複数のスケーリングリストを符号化し、前記符号化データに格納する
請求項１１に記載の画像処理装置。
【請求項１３】
前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定する
請求項１に記載の画像処理装置。
【請求項１４】
前記所定のサイズは、32x32である
請求項１３に記載の画像処理装置。
【請求項１５】
前記スケーリングリスト設定部は、前記画像のダイナミックレンジが所定のレンジよりも大きく、かつ、前記カレントブロックのサイズが前記所定のサイズ以上である場合、より低域成分側の前記一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定する
請求項１３に記載の画像処理装置。
【請求項１６】
前記所定のレンジは、１０ビットである
請求項１５に記載の画像処理装置。
【請求項１７】
前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さく、かつ、目標ビットレートに応じた値であるスケーリングリストを設定する
請求項１３に記載の画像処理装置。
【請求項１８】
前記スケーリングリスト設定部は、カレントピクチャに輝度変化の少ない平坦部が含まれている場合、より低域成分側の前記一部の値が、前記平坦部が含まれていない場合よりも小さいスケーリングリストを設定する
請求項１３に記載の画像処理装置。
【請求項１９】
前記スケーリングリスト設定部は、カレントブロックのより低域成分側の一部の係数に対するスケーリングリストを設定する
請求項１３に記載の画像処理装置。
【請求項２０】
符号化対象の画像の、量子化を行うカレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定し、
設定された前記スケーリングリストを用いて量子化を行い、
得られた量子化係数を符号化し、符号化データを生成する
画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、画像処理装置および方法に関し、特に、符号化効率の低減を抑制することができるようにした画像処理装置および方法に関する。
【背景技術】
【０００２】
近年、MPEG-4 Part10（Advanced Video Coding、以下AVCと記す）より更なる符号化効率の向上を目的として、ITU-T（International Telecommunication Union Telecommunication Standardization Sector）と、ISO/IEC（International Organization for Standardization / International Electrotechnical Commission）の共同の標準化団体であるJCTVC（Joint Collaboration Team - Video Coding）により、HEVC（High Efficiency Video Coding）と呼ばれる符号化方式の標準化が進められている（例えば、非特許文献１参照）。【０００３】
HEVCにおいては、直交変換処理の処理単位としてTU（Transform Unit）を4x4画素乃至32x32画素のサイズで設定することができる。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】ITU-T, "SERIES H: AUDIOVISUAL AND MULTIMEDIA SYSTEMS Infrastructure of audiovisual services . Coding of moving video High efficiency video coding", ITU-T H.265 (V3), 2015-04-29
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、HEVCの量子化においては、TUサイズに依らず均一なスケーリングリストが適用されていた。そのため、大きなサイズのTUに対しても、小さなサイズTUと同様の値を有するスケーリングリストが適用されることになり、結果として主観画質への影響が少ない情報も伝送することになり、符号化効率が低減するおそれがあった。【０００６】
本開示は、このような状況に鑑みてなされたものであり、符号化効率の低減を抑制することができるようにするものである。
【課題を解決するための手段】
【０００７】
本技術の一側面の画像処理装置は、符号化対象の画像の、量子化を行うカレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定するスケーリングリスト設定部と、前記スケーリングリスト設定部により設定された前記スケーリングリストを用いて量子化を行う量子化部と、前記量子化部により得られた量子化係数を符号化し、符号化データを生成する符号化部とを備える画像処理装置である。【０００８】
前記スケーリングリスト設定部は、前記カレントブロックのサイズが大きい程、より大きな値を有するスケーリングリストを設定することができる。【０００９】
前記スケーリングリスト設定部は、サイズが16x16の前記カレントブロックに対して、サイズが8x8以下の場合に対応するスケーリングリストと比べて、より高域成分側の一部の値が大きいスケーリングリストを設定することができる。【００１０】
前記スケーリングリスト設定部は、サイズが32x32の前記カレントブロックに対して、サイズが8x8以下の場合に対応するスケーリングリストと比べて、全ての値が大きいスケーリングリストを設定することができる。【００１１】
前記スケーリングリスト設定部は、前記カレントブロックに対して、前記カレントブロックのサイズおよび符号化の目標ビットレートに応じた値を有するスケーリングリストを設定することができる。【００１２】
前記スケーリングリスト設定部は、前記目標ビットレートが低い場合、前記カレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定することができる。【００１３】
前記スケーリングリスト設定部は、前記画像処理装置の外部から供給される前記目標ビットレートの指定に基づいて、前記目標ビットレートが低いか否かを判定し、前記目標ビットレートが低い場合、前記カレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定することができる。【００１４】
前記符号化対象の画像に含まれる平坦部を検出する平坦検出部と、前記平坦検出部により検出された前記平坦部にサイズが大きなブロックを設定するブロック設定部とをさらに備え、前記スケーリングリスト設定部は、前記ブロック設定部により設定された、サイズが大きなブロックに対して、前記ブロックのサイズに応じた値を有するスケーリングリストを設定するように構成されるようにすることができる。【００１５】
前記平坦検出部は、前記目標ビットレートが低い場合、前記平坦部を検出することができる。【００１６】
前記平坦検出部は、前記画像の注目領域以外の領域において前記平坦部を検出し、前記ブロック設定部は、前記注目領域内において、サイズが大きなブロックの設定を禁止することができる。【００１７】
前記スケーリングリスト設定部は、予め用意された複数のスケーリングリストの中から、前記カレントブロックのサイズに応じた値を有するスケーリングリストを選択し、前記符号化部は、前記スケーリングリスト設定部により選択された前記スケーリングリストを示す識別情報を符号化し、前記符号化データに格納することができる。【００１８】
前記符号化部は、前記複数のスケーリングリストを符号化し、前記符号化データに格納することができる。【００１９】
前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定することができる。【００２０】
前記所定のサイズは、32x32であるようにすることができる。【００２１】
前記スケーリングリスト設定部は、前記画像のダイナミックレンジが所定のレンジよりも大きく、かつ、前記カレントブロックのサイズが前記所定のサイズ以上である場合、より低域成分側の前記一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定することができる。【００２２】
前記所定のレンジは、１０ビットであるようにすることができる。【００２３】
前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さく、かつ、目標ビットレートに応じた値であるスケーリングリストを設定することができる。【００２４】
前記スケーリングリスト設定部は、カレントピクチャに輝度変化の少ない平坦部が含まれている場合、より低域成分側の前記一部の値が、前記平坦部が含まれていない場合よりも小さいスケーリングリストを設定することができる。【００２５】
前記スケーリングリスト設定部は、前記カレントブロックのより低域成分側の一部の係数に対するスケーリングリストを設定することができる。【００２６】
本技術の一側面の画像処理方法は、符号化対象の画像の、量子化を行うカレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定し、設定された前記スケーリングリストを用いて量子化を行い、得られた量子化係数を符号化し、符号化データを生成する画像処理方法である。【００２７】
本技術の一側面の画像処理装置および方法においては、符号化対象の画像の、量子化を行うカレントブロックに対して、そのカレントブロックのサイズに応じた値を有するスケーリングリストが設定され、その設定されたスケーリングリストを用いて量子化が行われ、得られた量子化係数が符号化され、符号化データが生成される。
【発明の効果】
【００２８】
本開示によれば、画像を処理することができる。特に、主観画質の低減を抑制することができる。
【図面の簡単な説明】
【００２９】
【図１】CUについての再帰的なブロック分割の概要を説明するための説明図である。
【図２】図１に示したCUへのPUの設定について説明するための説明図である。
【図３】図１に示したCUへのTUの設定について説明するための説明図である。
【図４】CU／PUの走査順について説明するための説明図である。
【図５】TU分割の例を示す図である。
【図６】スケーリングリスト選択の様子の例を示す図である。
【図７】スケーリングリストの例を示す図である。
【図８】スケーリングリスト選択の様子の例を示す図である。
【図９】画像符号化装置の主な構成例を示すブロック図である。
【図１０】前処理部の主な構成例を示すブロック図である。
【図１１】画像符号化処理の流れの例を説明するフローチャートである。
【図１２】前処理の流れの例を説明するフローチャートである。
【図１３】前処理部の主な構成例を示すブロック図である。
【図１４】前処理の流れの例を説明するフローチャートである。
【図１５】前処理部の主な構成例を示すブロック図である。
【図１６】前処理の流れの例を説明するフローチャートである。
【図１７】注目領域の例を示す図である。
【図１８】前処理部の主な構成例を示すブロック図である。
【図１９】前処理の流れの例を説明するフローチャートである。
【図２０】スケーリングリストの伝送の様子の例を示す図である。
【図２１】スケーリングリスト指定の様子の例を示す図である。
【図２２】画像符号化処理の流れの例を説明するフローチャートである。
【図２３】前処理の流れの例を説明するフローチャートである。
【図２４】画像復号装置の主な構成例を示すブロック図である。
【図２５】画像復号処理の流れの例を説明するフローチャートである。
【図２６】バンディングノイズを説明する図である。
【図２７】バンディングノイズの発生の様子の例を説明する図である。
【図２８】デガンマの様子の例を示す図である。
【図２９】スケーリングリスト選択の様子の例を示す図である。
【図３０】スケーリングリストの例を説明する図である。
【図３１】スケーリングリスト選択の様子の例を示す図である。
【図３２】画像符号化装置の主な構成例を示すブロック図である。
【図３３】画像符号化処理の流れの例を説明するフローチャートである。
【図３４】画像符号化処理の流れの例を説明するフローチャートである。
【図３５】スケーリングリスト選択処理の流れの例を説明するフローチャートである。
【図３６】QTBTの様子の例を示すブロック図である。
【図３７】量子化の様子の例を示す図である。
【図３８】スケーリングリストの例を示す図である。
【図３９】スケーリングリスト選択の様子の例を示す図である。
【図４０】スケーリングリストの例を示す図である。
【図４１】スケーリングリスト選択の様子の例を示す図である。
【図４２】コンピュータの主な構成例を示すブロック図である。
【図４３】テレビジョン装置の概略的な構成の一例を示すブロック図である。
【図４４】携帯電話機の概略的な構成の一例を示すブロック図である。
【図４５】記録再生装置の概略的な構成の一例を示すブロック図である。
【図４６】撮像装置の概略的な構成の一例を示すブロック図である。
【図４７】ビデオセットの概略的な構成の一例を示すブロック図である。
【図４８】ビデオプロセッサの概略的な構成の一例を示すブロック図である。
【図４９】ビデオプロセッサの概略的な構成の他の例を示すブロック図である。
【図５０】ネットワークシステムの概略的な構成の一例を示すブロック図である。
【発明を実施するための形態】
【００３０】
以下、本開示を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（画像符号化装置）
２．第２の実施の形態（前処理部）
３．第３の実施の形態（前処理部）
４．第４の実施の形態（前処理部）
５．第５の実施の形態（画像符号化装置・画像復号装置）
６．第６の実施の形態（バンディングノイズ）
７．第７の実施の形態（スケーリングリストの選択）
８．第８の実施の形態（平坦の検出）
９．第９の実施の形態（QTBT）
１０．第１０の実施の形態（その他）
【００３１】
＜１．第１の実施の形態＞
＜ブロック分割＞
近年、MPEG-4 Part10（Advanced Video Coding、以下AVCと記す）より更なる符号化効率の向上を目的として、ITU-T（International Telecommunication Union Telecommunication Standardization Sector）と、ISO/IEC（International Organization for Standardization / International Electrotechnical Commission）の共同の標準化団体であるJCTVC（Joint Collaboration Team - Video Coding）により、HEVC（High Efficiency Video Coding）と呼ばれる符号化方式の標準化が進められている。
【００３２】
MPEG2（Moving Picture Experts Group 2(ISO/IEC 13818-2)）やAVCなどの旧来の画像符号化方式では、符号化処理は、マクロブロックと呼ばれる処理単位で実行される。マクロブロックは、16x16画素の均一なサイズを有するブロックである。これに対し、HEVCは、符号化処理は、CU（Coding Unit）と呼ばれる処理単位（符号化単位）で実行される。CUは、最大符号化単位であるLCU（Largest Coding Unit）を再帰的に分割することにより形成される、可変的なサイズを有するブロックである。選択可能なCUの最大サイズは、64x64画素である。選択可能なCUの最小サイズは、8x8画素である。最小サイズのCUは、SCU（Smallest Coding Unit）と呼ばれる。
【００３３】
このように、可変的なサイズを有するCUが採用される結果、HEVCでは、画像の内容に応じて画質及び符号化効率を適応的に調整することが可能である。予測符号化のための予測処理は、PU（Prediction Unit）と呼ばれる処理単位（予測単位）で実行される。PUは、CUをいくつかの分割パタンのうちの１つで分割することにより形成される。また、PUは、輝度(Y)及び色差(Cb,Cr)毎のPB(Prediction Block)と呼ばれる処理単位(予測ブロック)から構成される。さらに、直交変換処理は、TU（Transform Unit）と呼ばれる処理単位（変換単位）で実行される。TUは、CU又はPUをある深さまで分割することにより形成される。また、TUは、輝度(Y)及び色差(Cb,Cr)毎のTB(Transform Block)と呼ばれる処理単位（変換ブロック）から構成される。
【００３４】
＜再帰的なブロックの分割＞
図１は、HEVCにおけるCUについての再帰的なブロック分割の概要を説明するための説明図である。CUのブロック分割は、１つのブロックの４（=2x2）個のサブブロックへの分割を再帰的に繰り返すことにより行われ、結果として四分木（Quad-Tree）状のツリー構造が形成される。１つの四分木の全体をCTB（Coding Tree Block）といい、CTBに対応する論理的な単位をCTU（Coding Tree Unit）という。
【００３５】
図１の上部には、一例として、64x64画素のサイズを有するCUであるＣ０１が示されている。Ｃ０１の分割の深さは、ゼロに等しい。これは、Ｃ０１がCTUのルートでありLCUに相当することを意味する。LCUサイズは、SPS（Sequence Parameter Set）又はPPS（Picture Parameter Set）において符号化されるパラメータにより指定され得る。CUであるＣ０２は、Ｃ０１から分割される４つのCUのうちの１つであり、32x32画素のサイズを有する。Ｃ０２の分割の深さは、１に等しい。CUであるＣ０３は、Ｃ０２から分割される４つのCUのうちの１つであり、16x16画素のサイズを有する。Ｃ０３の分割の深さは、２に等しい。CUであるＣ０４は、Ｃ０３から分割される４つのCUのうちの１つであり、8x8画素のサイズを有する。Ｃ０４の分割の深さは、３に等しい。このように、CUは、符号化される画像を再帰的に分割することにより形成される。分割の深さは、可変的である。例えば、青空のような平坦な画像領域には、より大きいサイズの（即ち、深さが小さい）CUが設定され得る。一方、多くのエッジを含む急峻な画像領域には、より小さいサイズの（即ち、深さが大きい）CUが設定され得る。そして、設定されたCUの各々が、符号化処理の処理単位となる。
【００３６】
＜CUへのPUの設定＞
PUは、イントラ予測及びインター予測を含む予測処理の処理単位である。PUは、CUをいくつかの分割パタンのうちの１つで分割することにより形成される。図２は、図１に示したCUへのPUの設定について説明するための説明図である。図２の右には、2Nx2N、2NxN、Nx2N、NxN、2NxnU、2NxnD、nLx2N及びnRx2Nという、８種類の分割パタンが示されている。これら分割パタンのうち、イントラ予測では、2Nx2N及びNxNの２種類が選択可能である（NxNはSCUでのみ選択可能）。これに対してインター予測では、非対称動き分割が有効化されている場合に、８種類の分割パタンの全てが選択可能である。
【００３７】
＜CUへのTUの設定＞
TUは、直交変換処理の処理単位である。TUは、CU（イントラCUについては、CU内の各PU）をある深さまで分割することにより形成される。図３は、図２に示したCUへのTUの設定について説明するための説明図である。図３の右には、Ｃ０２に設定され得る１つ以上のTUが示されている。例えば、TUであるＴ０１は、32x32画素のサイズを有し、そのTU分割の深さはゼロに等しい。TUであるＴ０２は、16x16画素のサイズを有し、そのTU分割の深さは１に等しい。TUであるＴ０３は、8x8画素のサイズを有し、そのTU分割の深さは２に等しい。
【００３８】
上述したCU、PU及びTUといったブロックを画像に設定するためにどのようなブロック分割を行うかは、典型的には、符号化効率を左右するコストの比較に基づいて決定される。エンコーダは、例えば１つの2Mx2M画素のCUと、４つのMxM画素のCUとの間でコストを比較し、４つのMxM画素のCUを設定した方が符号化効率が高いならば、2Mx2M画素のCUを４つのMxM画素のCUへと分割することを決定する。
【００３９】
＜CUとPUの走査順＞
画像を符号化する際、画像（又はスライス、タイル）内に格子状に設定されるCTB（又はLCU）が、ラスタスキャン順に走査される。１つのCTBの中では、CUは、四分木を左から右、上から下に辿るように走査される。カレントブロックを処理する際、上及び左の隣接ブロックの情報が入力情報として利用される。図４は、CUとPUの走査順について説明するための説明図である。図４の左上には、１つのCTBに含まれ得る４つのCUである、Ｃ１０、Ｃ１１、Ｃ１２及びＣ１３が示されている。各CUの枠内の数字は、処理の順序を表現している。符号化処理は、左上のCUであるＣ１０、右上のCUであるＣ１１、左下のCUであるＣ１２、右下のCUであるＣ１３の順で実行される。図４の右には、CUであるＣ１１に設定され得るインター予測のための１つ以上のPUが示されている。図４の下には、CUであるＣ１２に設定され得るイントラ予測のための１つ以上のPUが示されている。これらPUの枠内の数字に示したように、PUもまた、左から右、上から下に辿るように走査される。
【００４０】
以下においては、画像（ピクチャ）の部分領域や処理単位として「ブロック」を用いて説明する場合がある（処理部のブロックではない）。この場合の「ブロック」は、ピクチャ内の任意の部分領域を示し、その大きさ、形状、および特性等は限定されない。つまり、この場合の「ブロック」には、例えば、TB、TU、PB、PU、SCU、CU、LCU（CTB）、サブブロック、マクロブロック、タイル、またはスライス等、任意の部分領域（処理単位）が含まれるものとする。
【００４１】
＜TUサイズの選択＞
TUのサイズは、コスト関数に基づいて選択される。例えば試験的に符号化を行い、その符号化誤差（Distortion）と符号化レート（Rate）とを用いて、以下の式（１）のようにコスト（Cost）を算出する。
【００４２】
Cost = Dstortion + λ・Rate  ・・・（１）
【００４３】
各TUのサイズについてコスト（Cost）を求め、その中でコストが最小となるTUのサイズが選択される。一般に変数λの値は、符号化時に用いる量子化パラメータQpを基に変動し、量子化数が大きい場合、変数λの値が大きくなる。そのため、低レート符号化時には、画像の符号化ノイズより、符号化ビットレートが小さくなることが優先される傾向となる。
【００４４】
一般的に、目標ビットレートが高レートの場合、コスト関数の性質上、直交変換係数を多く出力するTUサイズが許容される傾向にある。そのため、テクスチャの分布が均一な領域に対して、サイズの大きなTU（Large TU）が設定される。例えば、図５のような木の画像を符号化する場合、目標ビットレートが高レートのときは、図５のＡに示されるように、画素値のばらつきが小さい平坦部や、木の葉等の所定のテクスチャ部分に対して、サイズの大きなTU（Large TU）が設定される。
【００４５】
これに対して、目標ビットレートが低レートの場合、直交変換係数の伝送コストを最小とするために、均一なテクスチャ部に対しては、サイズの小さいCU（Small CU）やTU（Small TU）が設定され、予測画像だけで画像を作成するケースが多くなる。つまり、この場合、図５のＢに示されるように、画素値のばらつきが小さい平坦部に対してのみ、サイズの大きなTU（Large TU）が設定されることとなる。
【００４６】
ところで、HEVCの場合、直交変換係数に対して、スケーリングリスト（Scaling List）を用いた量子化が行われる。しかしながら、HEVCの量子化においては、TUサイズに依らず均一なスケーリングリストが適用されていた。図６に、HEVCの場合の、スケーリングリスト選択の様子の例を示す。図６に示されるように、適用されるスケーリングリストは、目標ビットレートに応じて変更された。例えば、目標ビットレートを高レート、中レート、低レートの３つに分類するとし、スケーリングリストの値の大きさを小、中、大の３つに分類するとする。目標ビットレートが高レートの場合、全ての周波数帯域（低域、中域、高域）の直交変換係数に対する値が小のスケーリングリストが選択される。また、目標ビットレートが中レートの場合、低域および中域の直交変換係数に対する値が小であり、高域の直交変換係数に対する値が中であるスケーリングリストが選択される。そして、目標ビットレートが低レートの場合、低域の直交変換係数に対する値が小であり、中域および高域の直交変換係数に対する値が中であるスケーリングリストが選択される。
【００４７】
より具体的には、例えば、目標ビットレートが高レートの場合、図７のＡに示されるような、値が１６乃至３０のスケーリングリストが選択される。これに対して、目標ビットレートが低レートの場合、図７のＢに示されるような、値が１６乃至６４のスケーリングリストが選択される。
【００４８】
つまり、目標ビットレートに応じた圧縮率が得られるように、目標ビットレートに応じたスケーリングリストが選択される。
【００４９】
しかしながら、スケーリングリストは、TUサイズ対して依存しない。つまり、大きなサイズのTUに対しても、小さなサイズTUと同様の値を有するスケーリングリストが適用され、同様の絵作りが実施されることが一般的である。例えば、図６に示されるように、4x4画素、8x8画素、16x16画素、32x32画素のいずれのTUに対しても、同様の値のスケーリングリストが選択される。
【００５０】
ところで、上述のように、画素値のばらつきが比較的小さい平坦部には、サイズの大きなTU（Large TU）が設定される可能性が高い。また、このような平坦部において、その画素値のばらつきは、主観画質への影響が少ない情報である。換言するに、このようなばらつきは、符号化・復号により低減したとしても、主観画質の大きな低減にはならない可能性が高い。
【００５１】
したがって、このような平坦部（サイズの大きなTU）の情報量を大きく低減させることにより、主観画質の低減を抑制しながら、符号化効率を向上させることを期待することができる。しかしながら、HEVCの場合、上述のように、このような平坦部（サイズの大きなTU）に対しても、小さなサイズTUと同様の値を有するスケーリングリスト、すなわち、中域や高域の直交変換係数に対する値が小や中であるスケーリングリストが適用されることになり、符号化効率が低減するおそれがあった。
【００５２】
＜TUサイズに応じたスケーリングリスト選択＞
そこで、符号化対象の画像の、量子化を行うカレントブロックに対して、そのカレントブロックのサイズに応じた値を有するスケーリングリストを設定するようにする。
【００５３】
例えば、処理対象のTU（カレントブロック）のサイズが大きい程、より大きな値を有するスケーリングリストを設定するようにする。例えば、TUサイズが大きくなるに従って、スケーリングリストの、より高域の直交変換係数に対する値から順に大きくなるようにする。
【００５４】
例えば、図８の場合、斜線部分に示される部分が図６の例の場合と異なる。つまり、図８の例の場合、カレントブロックが8x8画素以下のとき、低域の直交変換係数に対する値が小であり、中域および高域の直交変換係数に対する値が中であるスケーリングリストが選択され、カレントブロックが16x16画素以下のとき、低域の直交変換係数に対する値が小であり、中域の直交変換係数に対する値が中であり、高域の直交変換係数に対する値が大であるスケーリングリストが選択されるようにしてもよい。さらに、カレントブロックが32x32画素以下のとき、低域の直交変換係数に対する値が小であり、中域および高域の直交変換係数に対する値が大であるスケーリングリストが選択されるようにしてもよい。
【００５５】
このようにすることにより、カレントブロックのサイズが大きい（Large TU）部分（平坦部）の符号量をより低減することができ、主観画質の低減を抑制しながら、符号化効率の低減を抑制することができる。
【００５６】
なお、カレントブロックに対して、符号化の目標ビットレートに応じた値を有するスケーリングリストを設定するようにしてもよい。つまり、図８の例のように、カレントブロックに対して、そのカレントブロックのサイズおよび符号化の目標ビットレートに応じた値を有するスケーリングリストを設定するようにしてもよい。このようにすることにより、目標ビットレートに応じて、符号量の低減を優先させることができ、主観画質に対する影響をより抑制することができる。
【００５７】
例えば、図８の例のように、目標ビットレートが低レートの場合のみ、カレントブロックに対して、そのカレントブロックのサイズに応じた値を有するスケーリングリストを設定するようにしてもよい。平坦部の変化は、目標ビットレートが高い程目立ち易く、低い程目立ち難いので、このようにすることにより、主観画質の低減をより抑制しながら、符号化効率の低減を抑制することができる。
【００５８】
なお、目標ビットレートが中レートや高レートの場合にも、カレントブロックのサイズに応じた値を有するスケーリングリストを設定するようにしてもよい。その場合、レート毎にスケーリングリストの値を変えるようにしてもよい。
【００５９】
なお、カレントブロック（TU）に対してスケーリングリストを設定する場合、そのスケーリングリストを生成するようにしてもよい。例えば、そのスケーリングリストが、無から生成されるようにしてもよいし、予め用意された所定のサイズのスケーリングリストの値を間引いたり、複製したりしてサイズを変更することにより生成されるようにしてもよい。さらに、予め用意された複数の候補の中から、目標ビットレートやカレントブロックのサイズに応じたスケーリングリストが選択されるようにしてもよい。
【００６０】
＜画像符号化装置＞
図９は、本技術を適用した画像処理装置の一態様である画像符号化装置の構成の一例を示すブロック図である。図９に示される画像符号化装置１００は、HEVC（ITU-T H.265|ISO/IEC 23008-2 High Efficiency Video Coding）に準拠した方法で動画像の画像データを符号化する装置である。なお、図９においては、処理部やデータの流れ等の主なものを示しており、図９に示されるものが全てとは限らない。つまり、画像符号化装置１００において、図９においてブロックとして示されていない処理部が存在したり、図９において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
【００６１】
図９に示されるように画像符号化装置１００は、前処理バッファ１１１、前処理部１１２、演算部１１３、直交変換部１１４、スケーリングリスト記憶部１１５、スケーリングリスト選択部１１６、量子化部１１７、符号化部１１８、および蓄積バッファ１１９を有する。また、画像符号化装置１００は、逆量子化部１２０、逆直交変換部１２１、演算部１２２、フィルタ１２３、フレームメモリ１２４、イントラ予測部１２５、インター予測部１２６、および予測画像選択部１２７を有する。
【００６２】
画像符号化装置１００に入力された画像（入力画像）は、前処理バッファ１１１に供給される。前処理バッファ１１１は、その入力画像の各フレームをその表示順に記憶する。前処理部１１２は、前処理バッファ１１１に記憶されている入力画像に対して、フレームの並べ替え、メタデータの生成、ブロックの設定等の処理を行う。前処理が終了すると、前処理後の入力画像や各種の符号化に関する情報が各種処理部に供給される。例えば、入力画像が、演算部１１３、イントラ予測部１２５、インター予測部１２６等に供給される。また、メタデータ等が、符号化部１１８やその他の処理部に供給される。
【００６３】
演算部１１３は、前処理バッファ１１１から読み出された入力画像から、予測画像選択部１２７を介してイントラ予測部１２５またはインター予測部１２６から供給される予測画像を減算し、それらの差分である残差情報（残差データとも称する）を得る。例えば、イントラ符号化が行われる画像の場合、演算部１１３は、前処理バッファ１１１から読み出された入力画像から、イントラ予測部１２５から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部１１３は、前処理バッファ１１１から読み出された入力画像から、インター予測部１２６から供給される予測画像を減算する。演算部１１３は、得られた残差データを直交変換部１１４に供給する。
【００６４】
直交変換部１１４は、演算部１１３から供給される残差データを所定の方法で直交変換する。直交変換部１１４は、その直交変換後の残差データ（直交変換係数とも称する）を量子化部１１７に供給する。
【００６５】
スケーリングリスト記憶部１１５は、量子化部１１７による量子化に用いられるスケーリングリストの候補を記憶する。スケーリングリスト記憶部１１５は、記憶している候補の内、スケーリングリスト選択部１１６から要求された候補（スケーリングリスト）を、スケーリングリスト選択部１１６に供給する。
【００６６】
スケーリングリスト選択部１１６は、量子化部１１７による量子化に用いられるスケーリングリストの設定に関する処理を行う。スケーリングリスト選択部１１６は、目標とする符号化レート（目標ビットレート）を取得する。また、スケーリングリスト選択部１１６は、処理対象のTU（カレントブロック）のサイズを示す情報を量子化部１１７から取得する。スケーリングリスト選択部１１６は、スケーリングリスト記憶部１１５が記憶しているスケーリングリストの候補を用いて、その目標ビットレートおよびカレントブロックのサイズ（TUサイズ）に対応するスケーリングリストを設定し、それを量子化部１１７に供給する。
【００６７】
例えば、スケーリングリスト記憶部１１５は、高レート用スケーリングリスト１３１、中レート用スケーリングリスト１３２、低レート用スケーリングリスト１３３のように、ビットレートのグループ毎のスケーリングリストを記憶する。各スケーリングリストの値は、少なくとも一部が互いに異なる。そして、スケーリングリスト選択部１１６は、それらの中から、目標ビットレートに対応するスケーリングリストを選択し、取得する。そして、スケーリングリスト選択部１１６は、その取得したスケーリングリストを用いて、カレントブロックのサイズのスケーリングリストを生成する。つまり、スケーリングリスト選択部１１６は、図８の例のような、目標ビットレートおよびカレントブロックのサイズに応じた値を有するスケーリングリストの設定を実現する。
【００６８】
例えば、スケーリングリスト選択部１１６は、カレントブロックのサイズが大きい程、より大きな値を有するスケーリングリストを設定する。例えば、スケーリングリスト選択部１１６は、サイズが16x16画素のカレントブロックに対して、サイズが8x8画素以下の場合に対応するスケーリングリストと比べて、より高域成分側の一部の値が大きいスケーリングリストを生成する。また、例えば、スケーリングリスト選択部１１６は、サイズが32x32画素のカレントブロックに対して、サイズが8x8画素以下の場合に対応するスケーリングリストと比べて、全ての値が大きいスケーリングリストを生成する。
【００６９】
その際、スケーリングリスト選択部１１６は、スケーリングリストの少なくとも一部の値を置き換えたり、値同士を加算または減算したり、所定の値を加算または減算したりする等の、任意の方法で、カレントブロックのサイズに応じた値を有するスケーリングリストを生成する。
【００７０】
なお、このような、カレントブロックのサイズに応じた値を有するスケーリングリストの生成は、一部のビットレートのグループにおいてのみ行われるようにしてもよい。例えば、目標ビットレートが低レートの場合のみ、カレントブロックのサイズに応じた値を有するスケーリングリストの生成が行われるようにしてもよい。例えば、スケーリングリスト選択部１１６が、画像符号化装置１００の外部から供給される符号化レート（目標ビットレートの指定）について低いか否かを判定し、目標ビットレートが低いと判定された場合、カレントブロックに対して、カレントブロックのサイズに応じた値を有するスケーリングリストを設定するようにしてもよい。この場合、目標ビットレートがその他のレートのときは、値を間引いたり、補間（例えば最近傍補間）したりして、カレントブロックのサイズのスケーリングリストが生成されるようにすればよい。
【００７１】
また、ビットレートのグループの分け方は任意である。例えば、上述の高レート、中レート、低レートの各レートの閾値は、どのような値であってもよい。また、このビットレートのグループの数（ビットレートの分割数）は２つであってもよいし、４つ以上であってもよい。また、符号化レートの供給元は任意である。例えば、ユーザや他の装置等の、画像符号化装置１００の外部であってもよいし、画像符号化装置１００内の任意の処理部であってもよい。また、供給される情報は、符号化レートを示すものであればどのような情報（仕様）であってもよい。
【００７２】
また、スケーリングリスト記憶部１１５に記憶されるスケーリングリストのサイズは任意であり、例えば4x4画素であってもよいし、32x32であってもよい。スケーリングリスト記憶部１１５が、複数のサイズのスケーリングリストを記憶するようにしてもよい。
【００７３】
なお、スケーリングリスト記憶部１１５が、ビットレートのグループおよびTUサイズ毎にスケーリングリストを記憶し、スケーリングリスト選択部１１６が、目標ビットレートおよびカレントブロックのサイズに対応するスケーリングリストをスケーリングリスト記憶部１１５から読み出し、それを量子化部１１７に供給するようにしてもよい。その場合、スケーリングリスト記憶部１１５が記憶する各スケーリングリストは、そのビットレートのグループおよびTUサイズに応じた値を有する。つまり、スケーリングリスト選択部１１６は、スケーリングリスト記憶部１１５に記憶されているスケーリングリストを選択することにより、目標ビットレートおよびカレントブロックのサイズに対応する値を有するスケーリングリストを設定することができる。
【００７４】
また、スケーリングリスト記憶部１１５を省略し、スケーリングリスト選択部１１６が、目標ビットレートおよびカレントブロックのサイズに対応する値を有するスケーリングリストを、必要に応じて生成するようにしてもよい。その生成方法は任意である。
【００７５】
量子化部１１７は、直交変換部１１４から供給される直交変換係数に対する量子化に関する処理を行う。例えば、量子化部１１７は、画像符号化装置１００の外部から供給される目標ビットレート（符号化レート）に応じて量子化パラメータを設定し、スケーリングリスト選択部１１６により設定されたスケーリングリストを用いて、直交変換部１１４から供給される直交変換係数に対する量子化を行う。量子化部１１７は、その量子化により得られた量子化係数を、符号化部１１８および逆量子化部１２０に供給する。
【００７６】
符号化部１１８は、量子化部１１７から供給された量子化係数を符号化する。また、符号化部１１８は、最適な予測モードに関する情報を予測画像選択部１２７から取得する。さらに、符号化部１１８は、任意の処理部から任意の情報を取得することができる。符号化部１１８は、これらの各種情報を符号化する。このように、符号化部１１８は、画像に関する情報を符号化し、符号化データを生成する。符号化部１１８は、得られた符号化データを蓄積バッファ１１９に供給して蓄積させる。
【００７７】
蓄積バッファ１１９は、符号化部１１８から供給された符号化データを、一時的に保持する。蓄積バッファ１１９は、所定のタイミングにおいて、保持している符号化データを、例えばビットストリーム等として画像符号化装置１００の外部に出力する。例えば、この符号化データは、任意の記録媒体、任意の伝送媒体、任意の情報処理装置等を介して復号側に伝送される。すなわち、蓄積バッファ１１９は、符号化データを伝送する伝送部でもある。
【００７８】
逆量子化部１２０は、その量子化データを量子化部１１７による量子化に対応する方法で逆量子化する。逆量子化部１２０は、逆量子化後の量子化データ（直交変換係数とも称する）を、逆直交変換部１２１に供給する。
【００７９】
逆直交変換部１２１は、その直交変換係数を、直交変換部１１４による直交変換処理に対応する方法で逆直交変換する。逆直交変換部１２１は、逆直交変換された直交変換係数（復元された残差データとも称する）を演算部１２２に供給する。
【００８０】
演算部１２２は、その復元された残差データに、予測画像選択部１２７を介してイントラ予測部１２５またはインター予測部１２６から供給される予測画像を加算し、局所的に再構成された画像（再構成画像とも称する）を得る。例えば、イントラ符号化が行われる画像の場合、演算部１２２は、復元された残差データに、イントラ予測部１２５から供給される予測画像を加算する。また、例えば、インター符号化が行われる画像の場合、演算部１２２は、復元された残差データに、インター予測部１２６から供給される予測画像を加算する。演算部１２２は、得られた再構成画像をフィルタ１２３およびイントラ予測部１２５に供給する。
【００８１】
フィルタ１２３は、その再構成画像に対して、適宜、例えばデブロッキングフィルタ等のフィルタ処理を行う。フィルタ１２３は、フィルタ処理結果（復号画像と称する）をフレームメモリ１２４に供給する。
【００８２】
フレームメモリ１２４は、その復号画像を自身の記憶領域内に記憶する。また、フレームメモリ１２４は、所定のタイミングにおいて、記憶している復号画像を参照画像としてインター予測部１２６に供給する。
【００８３】
イントラ予測部１２５は、演算部１２２から参照画像として供給される再構成画像である処理対象ピクチャ内の画素値を用いて予測画像を生成するイントラ予測（画面内予測）を行う。例えば、イントラ予測部１２５は、予め用意された複数のイントラ予測モード（例えば、DC予測、水平方向予測、垂直方向予測等）でこのイントラ予測を行う。イントラ予測部１２５は、候補となる全てのイントラ予測モードで予測画像を生成し、最適なモードを選択する。イントラ予測部１２５は、最適なイントラ予測モードを選択すると、その最適なイントラ予測モードで生成された予測画像、最適なイントラ予測モードを示すインデックス等のイントラ予測に関する情報であるイントラ予測モード情報等を、予測結果に関する情報として、予測画像選択部１２７に供給する。
【００８４】
インター予測部１２６は、前処理バッファ１１１から供給される入力画像と、フレームメモリ１２４から供給される参照画像とを用いてインター予測処理（動き予測処理および補償処理）を行う。より具体的には、インター予測部１２６は、インター予測処理として、動き予測を行って検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。例えば、インター予測部１２６は、予め用意された複数のインター予測モードでこのようなインター予測を行う。インター予測部１２６は、候補となる全てのインター予測モードで予測画像を生成し、最適なモードを選択する。インター予測部１２６は、最適なインター予測モードを選択すると、その最適なインター予測モードで生成された予測画像、最適なインター予測モードを示すインデックスや動き情報等のインター予測に関する情報であるインター予測モード情報等を、予測結果に関する情報として、予測画像選択部１２７に供給する。
【００８５】
予測画像選択部１２７は、イントラ予測部１２５およびインター予測部１２６から上述した予測結果に関する情報を取得する。予測画像選択部１２７は、それらの中からいずれか１つを選択することにより、その領域における予測モードを選択する。つまり、予測画像選択部１２７は、最適な予測モードとして、（最適な）イントラ予測モードと（最適な）インター予測モードとの内、いずれか一方を選択する。予測画像選択部１２７は、選択したモードの予測画像を演算部１１３や演算部１２２に供給する。また、予測画像選択部１２７は、選択した予測結果に関する情報の一部または全部を最適な予測モードに関する情報として符号化部１１８に供給し、符号化データに格納させる。
【００８６】
以上のように、スケーリングリスト選択部１１６が、量子化部１１７による量子化に用いるスケーリングリストとして、目標ビットレートおよびカレントブロックのサイズ（TUサイズ）に応じた値を有するスケーリングリストを設定することにより、画像符号化装置１００は、符号化効率の低減を抑制することができる。
【００８７】
＜前処理部＞
図１０は、前処理部１１２の主な構成例を示すブロック図である。図１０に示されるように、前処理部１１２は、画面並べ替え部１５１、メタデータ設定部１５２、およびブロック設定部１５３を有する。
【００８８】
画面並べ替え部１５１は、前処理バッファ１１１に表示順に記憶されている画像データの各フレームの順番を、GOP（Group Of Picture）に応じて、符号化順に並べ替える。メタデータ設定部１５２は、例えば、ビデオパラメータセット（VPS（Video Parameter Set））、シーケンスパラメータセット（SPS（Sequence Parameter Set））、ピクチャパラメータセット（PPS（Picture Parameter Set））、スライスヘッダ等のメタデータを生成する。なお、メタデータ設定部１５２が設定するメタデータは任意であり、これらの例に限定されない。メタデータ設定部１５２は、設定したメタデータを例えば符号化部１１８等、任意の処理部に供給する。
【００８９】
ブロック設定部１５３は、前処理バッファ１１１に記憶されている入力画像の画像データの処理対象であるカレントピクチャに対して各種ブロックの設定を行う。例えば、ブロック設定部１５３は、TUの設定を行う。例えば、ブロック設定部１５３は、上述した式（１）のコスト関数に基づいて、例えば図５のように、TUを設定する。ブロック設定部１５３は、前処理バッファ１１１に記憶される入力画像のカレントフレームを、設定したブロック毎に、演算部１１３に供給させる。なお、ブロック設定部１５３は、設定したブロックに関する情報を、例えば符号化部１１８等、画像符号化装置１００内の任意の処理部に供給する。
【００９０】
＜画像符号化処理の流れ＞
次に、画像符号化装置１００が実行する処理について説明する。最初に、画像符号化装置１００が入力画像を符号化する際に実行する画像符号化処理の流れの例を、図１１のフローチャートを参照して説明する。
【００９１】
画像符号化処理が開始されると、ステップＳ１０１において、前処理部１１２は、画像符号化装置１００に入力され、前処理バッファ１１１に記憶された人工画像の画像データに対して、前処理を行う。
【００９２】
ステップＳ１０２において、イントラ予測部１２５、インター予測部１２６、および予測画像選択部１２７は、予測処理を行い、最適な予測モードの予測画像等を生成する。つまり、この予測処理において、イントラ予測部１２５はイントラ予測を行って最適なイントラ予測モードの予測画像等を生成し、インター予測部１２６はインター予測を行って最適なインター予測モードの予測画像等を生成し、予測画像選択部１２７はそれらの予測モードの内の最適な方を選択する。
【００９３】
ステップＳ１０３において、演算部１１３は、入力画像である人工画像と、ステップＳ１０２の予測処理により選択された最適なモードの予測画像との差分を演算する。つまり、演算部１１３は、入力画像と予測画像との残差データを生成する。このようにして求められた残差データは、元の画像データに比べてデータ量が低減される。したがって、画像をそのまま符号化する場合に比べて、データ量を圧縮することができる。
【００９４】
ステップＳ１０４において、直交変換部１１４は、ステップＳ１０３の処理により生成された残差データを直交変換する。
【００９５】
ステップＳ１０５において、スケーリングリスト選択部１１６は、目標とする符号化レート（目標ビットレート）とカレントブロックのサイズ（TUサイズ）とに基づいて、その目標ビットレートとTUサイズに応じた値を有するスケーリングリストを選択する。
【００９６】
ステップＳ１０６において、量子化部１１７は、目標とする符号化レートに応じた量子化パラメータ、および、ステップＳ１０５の処理により得られたスケーリングリストを用いる等して、ステップＳ１０４の処理により得られた直交変換係数を量子化する。
【００９７】
ステップＳ１０７において、逆量子化部１２０は、ステップＳ１０６の処理により生成された量子化係数を、そのステップＳ１０６の量子化の特性に対応する特性で逆量子化する。
【００９８】
ステップＳ１０８において、逆直交変換部１２１は、ステップＳ１０７の処理により得られた直交変換係数を、ステップＳ１０４の直交変換に対応する方法で逆直交変換する。
【００９９】
ステップＳ１０９において、演算部１２２は、ステップＳ１０８の処理により復元された残差データに、ステップＳ１０２の予測処理により得られた予測画像を加算することにより、再構成画像の画像データを生成する。
【０１００】
ステップＳ１１０においてフィルタ１２３は、ステップＳ１０９の処理により生成された再構成画像の画像データに対して、デブロッキングフィルタ等のフィルタ処理を行う。
【０１０１】
ステップＳ１１１において、フレームメモリ１２４は、ステップＳ１１０の処理により得られた、局所的に復号された復号画像を記憶する。
【０１０２】
ステップＳ１１２において、符号化部１１８は、ステップＳ１０６の処理により得られた量子化後の残差データを符号化する。例えば、符号化部１１８は、量子化後の残差データに対して、CABAC（Context-based Adaptive Binary Arithmetic Code）を行い、符号化データを生成する。また、符号化部１１８は、ステップＳ１０１の処理により生成されたメタデータを符号化し、符号化データに付加する。さらに、符号化部１１８は、量子化に関する情報や予測に関する情報等も適宜符号化し、符号化データに付加する。
【０１０３】
ステップＳ１１３において蓄積バッファ１１９は、ステップＳ１１２の処理により得られた符号化データ等を蓄積する。蓄積バッファ１１９に蓄積された符号化データ等は、例えばビットストリームとして適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
【０１０４】
ステップＳ１１３の処理が終了すると、画像符号化処理が終了する。
【０１０５】
なお、これらの各処理の処理単位は任意であり、互いに同一でなくてもよい。したがって、各ステップの処理は、適宜、他のステップの処理等と並行して、または、処理順を入れ替えて実行することもできる。
【０１０６】
＜前処理の流れ＞
次に、図１１のステップＳ１０１において実行される前処理の流れの例を、図１２のフローチャートを参照して説明する。前処理が開始されると、画面並べ替え部１５１は、ステップＳ１３１において、前処理バッファ１１１に記憶されている画像データのフレームを、表示順から符号化順に並べ替える。
【０１０７】
ステップＳ１３２において、メタデータ設定部１５２は、各種メタデータを設定する。
【０１０８】
ステップＳ１３３において、ブロック設定部１５３は、例えばコスト関数を用いる等して、処理対象であるカレントフレームについて各種ブロックを設定するブロック分割を行う。
【０１０９】
ステップＳ１３３の処理が終了すると、前処理が終了し、処理は図１１に戻る。
【０１１０】
以上のように各処理を行うことにより、画像符号化装置１００は、目標ビットレートおよびカレントブロックのサイズ（TUサイズ）に応じた値を有するスケーリングリストを用いて量子化を行うことができるので、符号化効率の低減を抑制することができる。例えば、サイズがより大きなブロックに対して、より高域の成分に対してより大きな値を有するスケーリングリストを設定することにより、画素値のばらつきが比較的少ない平坦部でのノイズの伝送を抑制することができ、符号化効率の低減を抑制することができる。特に、目標ビットレートが低レートの場合、サイズが大きなTUは平坦部に設定される可能性が高いので、上述のようにスケーリングリストを設定することにより、より確実に、符号化効率の低減を抑制することができる。また、一般的に、目標ビットレートがより低い程、平坦部のノイズを抑制することの、全体の符号量に対する相対効果が大きくなるので、上述のようにスケーリングリストを設定することにより、より符号化効率の低減を抑制することができる。さらに、一般的に、目標ビットレートがより低い程、画素値の変化が主観的に目立たなくなるので、主観画質への影響を抑制しながら、符号化効率の低減を抑制することができる。
【０１１１】
＜２．第２の実施の形態＞
＜平坦部の検出＞
第１の実施の形態において説明したように、HEVCにおいては、式（１）に示されるようなコスト関数を用いてブロックが設定されるが、ブロックの設定方法はこれに限らない。例えば、入力画像において、画素値のばらつきが比較的少ない平坦部を検出し、その検出結果に基づいて、平坦部のブロックのサイズをより大きくするようにブロック設定を行うようにしてもよい。
【０１１２】
＜前処理部＞
その場合も、画像符号化装置１００の構成は、基本的に第１の実施の形態の場合（図９）と同様である。ただし、この場合の前処理部１１２の主な構成例を図１３に示す。この場合、前処理部１１２は、画面並べ替え部１５１、メタデータ設定部１５２、およびブロック設定部１５３の他に、平坦検出部１６１を有する。
【０１１３】
平坦検出部１６１は、入力画像のカレントフレームにおいて、画素値のばらつきが少ない平坦部の検出に関する処理を行う。この検出方法は任意である。例えば、分散（variance）、TVノルム（Total Variation Norm）、またはブロック内画素値の最大値と最小値の差（ダイナミックレンジ）等を用いて、主観的なフラット領域（平坦部）を検出するようにしてもよい。
【０１１４】
例えば、TVノルムの場合、画素値xi,j（0≦i≦n，0≦j≦m）の画像のTVノルムは、以下の式（２）のように求めることができる。
【０１１５】
2018008387.tif 000003
・・・（２）
【０１１６】
ブロック設定部１５３は、平坦検出部１６１により検出された平坦部に、比較的大きなTU（Large TU）（例えば、16x16画素や32x32画素のTU）を設定する。
【０１１７】
＜前処理の流れ＞
この場合も、画像符号化装置１００は、第１の実施の形態の場合と同様に画像符号化処理を行う（図１１）。この場合の図１１のステップＳ１０１において実行される前処理の流れの例を、図１４のフローチャートを参照して説明する。前処理が開始されると、ステップＳ１５１およびステップＳ１５２の各処理は、図１２のステップＳ１３１およびステップＳ１３２の各処理と同様に実行される。
【０１１８】
ステップＳ１５３において、平坦検出部１６１は、入力画像のカレントフレームにおいて平坦部の検出を行う。
【０１１９】
ステップＳ１５４において、ブロック設定部１５３は、ステップＳ１５３において検出された平坦部を考慮してブロック分割を行う。すなわち、ブロック設定部１５３は、ステップＳ１５３において検出された平坦部に、比較的大きなブロック（Large TU）を設定する。なお、平坦部で無い部分については、式（１）を用いたコスト関数等を用いてブロックを設定する。
【０１２０】
ステップＳ１５４の処理が終了すると、前処理が終了し、処理は図１１に戻る。
【０１２１】
以上のように各処理を行うことにより、画像符号化装置１００は、コスト関数を用いずに、平坦部を検出してその検出した平坦部に比較的大きなブロック（Large TU）を設定することができる。したがって、画像符号化装置１００は、平坦部の符号量をより確実に低減させることができ、符号化効率の低減を抑制することができる。
【０１２２】
＜３．第３の実施の形態＞
＜人工画像領域の判定＞
なお、第２の実施の形態において説明した平坦部の検出を、目標ビットレートが低レートの場合のみ行われるようにしてもよい。
【０１２３】
＜前処理部＞
その場合も、画像符号化装置１００の構成は、基本的に第１の実施の形態の場合（図９）と同様である。また、この場合の前処理部１１２の主な構成例を図１５に示す。この場合、前処理部１１２は、第２の実施の形態において説明した構成（図１３）の平坦検出部１６１の代わりに、平坦検出部１７１を有する。
【０１２４】
平坦検出部１７１は、目標とする符号化レート（目標ビットレート）を取得する。そして、平坦検出部１７１は、その目標ビットレートが所定のグループに属する場合、平坦部の検出を行う。例えば、平坦検出部１７１は、目標ビットレートが低レートの場合、平坦部の検出を行う。そして、平坦検出部１７１は、その検出結果をブロック設定部１５３に供給する。
【０１２５】
ブロック設定部１５３は、平坦検出部１６１により検出された平坦部に、比較的大きなTU（Large TU）（例えば、16x16画素や32x32画素のTU）を設定する。平坦検出部１６１が平坦部を検出しない場合は、コスト関数に基づいてブロックの設定を行う。
【０１２６】
＜前処理の流れ＞
この場合も、画像符号化装置１００は、第１の実施の形態の場合と同様に画像符号化処理を行う（図１１）。この場合の図１１のステップＳ１０１において実行される前処理の流れの例を、図１６のフローチャートを参照して説明する。前処理が開始されると、ステップＳ１７１およびステップＳ１７２の各処理は、図１２のステップＳ１３１およびステップＳ１３２の各処理と同様に実行される。
【０１２７】
ステップＳ１７３において、平坦検出部１７１は、目標とする符号化レート（目標ビットレート）を取得する。ステップＳ１７４において、平坦検出部１７１は、ステップＳ１７３において取得された目標ビットレートが低レートであるか否かを判定する。例えば、目標ビットレートが所定のビットレート以下である（すなわち低レートである）と判定された場合、処理はステップＳ１７５に進む。
【０１２８】
ステップＳ１７５において、平坦検出部１７１は、入力画像のカレントフレームにおいて平坦部の検出を行う。ステップＳ１７５の処理が終了すると処理はステップＳ１７６に進む。また、ステップＳ１７４において、例えば、目標ビットレートが所定のビットレートよりも高い（すなわち低レートでない）と判定された場合、ステップＳ１７５の処理は省略され、処理はステップＳ１７６に進む。
【０１２９】
ステップＳ１７６において、ブロック設定部１５３は、ステップＳ１７５において検出された平坦部を考慮してブロック分割を行う。すなわち、ブロック設定部１５３は、ステップＳ１７５において検出された平坦部に、比較的大きなブロック（Large TU）を設定し、その他の部分については、式（１）を用いたコスト関数等を用いてブロックを設定する。
【０１３０】
ステップＳ１７６の処理が終了すると、前処理が終了し、処理は図１１に戻る。
【０１３１】
以上のように各処理を行うことにより、画像符号化装置１００は、目標ビットレートが低レートの場合、コスト関数を用いずに、平坦部を検出してその検出した平坦部に比較的大きなブロック（Large TU）を設定することができる。したがって、スケーリングリスト選択部１１６が、図８の例のように、サイズが大きなTUに対して、より大きな値を有するスケーリングリストを設定するようにすることにより、画像符号化装置１００は、目標ビットレートが低レートの場合に、平坦部の符号量を低減させることによって、目標ビットレートを実現することができる。したがって、主観画質の低減を抑制しながら、符号化効率の低減を抑制することができる。
【０１３２】
＜４．第４の実施の形態＞
＜注目領域＞
例えば、監視カメラ等の画像には注目領域（ROI（Region Of Interest））が設定される場合がある。この注目領域は、画像の部分領域であり、ユーザが注目する領域（または注目すべき領域）である。したがって、この注目領域の主観画質は重要であり、符号化・復号においても、その画質の維持が優先されるべきである。換言するに、その注目領域以外の部分の主観画質の重要性は注目領域よりも低いので、より高圧縮率な符号化が可能である。
【０１３３】
例えば、図１７に示されるような監視カメラ画像に対して、太線で囲まれた部分が注目領域である。監視カメラの場合、背景はあまり重要でなく、背景の前に出現する被写体が監視対象となる場合が多い。そして、その監視対象を鮮明に確認（監視）することが監視カメラの画像の主な利用目的となる場合が多い。
【０１３４】
そこで、注目領域内においては、大きなサイズのTU（Large TU）が設定されないように、平坦部の検出を行わないようにしてもよい。換言するに、注目領域内においてのみ、平坦部の検出が行われるようにしてもよい。さらに、注目領域内においては、サイズが大きなブロックの設定を禁止するようにしてもよい。
【０１３５】
その場合も、画像符号化装置１００の構成は、基本的に第１の実施の形態の場合（図９）と同様である。なお、この場合、画像符号化装置１００には、このような注目領域が設定された画像が入力される。
【０１３６】
この場合の前処理部１１２の主な構成例を図１８に示す。この場合、前処理部１１２は、第２の実施の形態において説明した構成（図１３）の平坦検出部１６１の代わりに、平坦検出部１８１を有する。
【０１３７】
平坦検出部１８１には、入力画像に設定された注目領域に関する情報である注目領域情報が供給される。平坦検出部１８１は、その注目領域情報に基づいて、注目領域外において、平坦部の検出を行う。そして、平坦検出部１７１は、その検出結果をブロック設定部１５３に供給する。
【０１３８】
ブロック設定部１５３は、平坦検出部１６１により検出された平坦部に、比較的大きなTU（Large TU）（例えば、16x16画素や32x32画素のTU）を設定する。平坦検出部１６１が平坦部を検出しない場合は、コスト関数に基づいてブロックの設定を行う。
【０１３９】
＜前処理の流れ＞
この場合も、画像符号化装置１００は、第１の実施の形態の場合と同様に画像符号化処理を行う（図１１）。この場合の図１１のステップＳ１０１において実行される前処理の流れの例を、図１９のフローチャートを参照して説明する。前処理が開始されると、ステップＳ１９１およびステップＳ１９２の各処理は、図１２のステップＳ１３１およびステップＳ１３２の各処理と同様に実行される。
【０１４０】
ステップＳ１９３において、平坦検出部１８１は、注目領域情報を取得する。ステップＳ１９４において、平坦検出部１８１は、ステップＳ１９３において取得された注目領域情報に基づいて、処理対象が注目領域外であるか否かを判定する。注目領域外であると判定された場合、処理はステップＳ１９５に進む。
【０１４１】
ステップＳ１９５において、平坦検出部１８１は、入力画像のカレントフレームの注目領域外について平坦部の検出を行う。ステップＳ１９５の処理が終了すると処理はステップＳ１９６に進む。また、ステップＳ１９４において、例えば、注目領域内であると判定された場合、ステップＳ１９５の処理は省略され、処理はステップＳ１９６に進む。
【０１４２】
ステップＳ１９６において、ブロック設定部１５３は、ステップＳ１９５において検出された平坦部を考慮してブロック分割を行う。すなわち、ブロック設定部１５３は、ステップＳ１７５において検出された注目領域外の平坦部に、比較的大きなブロック（Large TU）を設定し、その他の部分については、式（１）を用いたコスト関数等を用いてブロックを設定する。
【０１４３】
ステップＳ１９６の処理が終了すると、前処理が終了し、処理は図１１に戻る。
【０１４４】
以上のように各処理を行うことにより、画像符号化装置１００は、注目領域外において、コスト関数を用いずに、平坦部を検出してその検出した平坦部に比較的大きなブロック（Large TU）を設定することができる。したがって、スケーリングリスト選択部１１６が、図８の例のように、サイズが大きなTUに対して、より大きな値を有するスケーリングリストを設定するようにすることにより、画像符号化装置１００は、主観画質の低減を抑制しながら、符号化効率の低減を抑制することができる。
【０１４５】
＜５．第５の実施の形態＞
＜複数スケーリングリストの伝送＞
HEVC等においては、ピクチャパラメータセット（PPS）毎にスケーリングリストを変更することができる。換言するに、ピクチャ内においては、１つのスケーリングリストのみが利用可能である。したがって、HEVCに準拠する方法として、第１の実施の形態乃至第４の実施の形態において説明した本技術を実現するためには、各TUに設定されるスケーリングリストは、そのピクチャに設定される１つのスケーリングリストから生成可能なものとする必要がある。
【０１４６】
ただし、本技術は、HEVCに準拠しなくてもよい。例えばシーケンスパラメータセット（SPS）やピクチャパラメータセット（PPS）において複数のスケーリングリストを伝送することができるようにしてもよい。このようにすることにより、ピクチャ内において（例えばTU毎に）、スケーリングリストを選択することができるようになる。したがって、より適切な（処理対象のTUに適した）スケーリングリストを選択することができるようになる。したがって、符号化効率の低減を抑制することができる。
【０１４７】
その場合、例えば、図２０に示されるように、複数のスケーリングリストの一覧を表のようにしてSPSやPPSに格納するようにしてもよい。もちろん、スケーリングリストの格納場所は任意であり、SPSやPPS以外であってもよい。また、図２０に示される例のように、SPSとPPSといったように、複数階層においてスケーリングリストを伝送するようにしてもよい。このようにすることにより、例えばPPSにスケーリングリストが格納されている場合そのPPSのスケーリングリストが優先的に設定され、PPSにスケーリングリストが格納されていない場合、SPSのスケーリングリストが設定されるようにする等、スケーリングリストの制御を階層化することもできる。
【０１４８】
また、例えば、図２１に示されるように、伝送する各スケーリングリストに識別情報（ID）を設定し、その識別情報を用いて、スケーリングリストの指定が行われるようにしてもよい。例えば、TU毎に採用するスケーリングリストを、識別情報を用いて設定するようにしてもよい。このように識別情報を用いることにより、より容易にスケーリングリストを設定することができ、符号化効率の低減を抑制することができる。
【０１４９】
＜画像符号化処理の流れ＞
画像符号化装置１００により実行される、この場合の画像符号化処理の流れの例を、図２２のフローチャートを参照して説明する。画像符号化処理が開始されると、ステップＳ２０１乃至ステップＳ２１１の各処理が、図１１のステップＳ１０１乃至ステップＳ１１１の各処理と同様に実行される。
【０１５０】
ただし、ステップＳ２０１の前処理において、複数のスケーリングリストがシーケンスパラメータセット（SPS）やピクチャパラメータセット（PPS）に格納され、ステップＳ２０５において、伝送される複数のスケーリングリストの中から、目標の符号化レートとTUサイズに最適なスケーリングリストが選択される。
【０１５１】
ステップＳ２１２において、符号化部１１８は、符号化処理を行い符号化データを生成する。例えば、符号化部１１８は、ステップＳ２０６の処理により得られた量子化後の残差データに対して、CABACを行い、符号化データを生成する。また、符号化部１１８は、ステップＳ２０１の処理により生成されたメタデータを符号化し、符号化データに付加する。つまり、符号化部１１８は、複数のスケーリングリストが格納されたシーケンスパラメータセット（SPS）やピクチャパラメータセット（PPS）を符号化し、符号化データに格納する。さらに、符号化部１１８は、各TUにおいて量子化に用いるスケーリングリストを指定するスケーリングリスト指定情報を符号化して符号化データに格納する。このスケーリングリスト指定情報の内容は任意であるが、例えば、量子化に用いるスケーリングリストの識別情報を含む。さらに、符号化部１１８は、その他量子化に関する情報や予測に関する情報等も適宜符号化し、符号化データに付加する。
【０１５２】
ステップＳ２１３において蓄積バッファ１１９は、ステップＳ２１２の処理により得られた符号化データ等を蓄積する。蓄積バッファ１１９に蓄積された符号化データ等は、例えばビットストリームとして適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
【０１５３】
ステップＳ２１３の処理が終了すると、画像符号化処理が終了する。
【０１５４】
＜前処理＞
次に、図２２のステップＳ２０１において実行される前処理の流れの例を、図２３のフローチャートを参照して説明する。前処理が開始されると、ステップＳ２３１およびステップＳ２３２の各処理は、図１２のステップＳ１３１およびステップＳ１３２の各処理と同様に実行される。
【０１５５】
ステップＳ２３３において、メタデータ設定部１５２は、候補となる複数のスケーリングリストをシーケンスパラメータセット（SPS）若しくはピクチャパラメータセット（PPS）またはその両方に登録する。
【０１５６】
ステップＳ２３４において、ブロック設定部１５３は、例えばコスト関数を用いる等して、処理対象であるカレントフレームについて各種ブロックを設定するブロック分割を行う。
【０１５７】
ステップＳ２３４の処理が終了すると、前処理が終了し、処理は図２２に戻る。
【０１５８】
以上のように各処理を行うことにより、画像符号化装置１００は、符号化効率の低減を抑制することができる。
【０１５９】
＜画像復号装置＞
次に、以上のように符号化された符号化データの復号について説明する。図２４は、本技術を適用した画像処理装置の一態様である画像復号装置の構成の一例を示すブロック図である。図２４に示される画像復号装置２００は、図９の画像符号化装置１００に対応する画像復号装置であり、画像符号化装置１００が生成した符号化データを、その符号化方法に対応する復号方法で復号する。なお、図２４においては、処理部やデータの流れ等の主なものを示しており、図２４に示されるものが全てとは限らない。つまり、画像復号装置２００において、図２４においてブロックとして示されていない処理部が存在したり、図２４において矢印等として示されていない処理やデータの流れが存在したりしてもよい。
【０１６０】
図２４に示されるように画像復号装置２００は、蓄積バッファ２１１、復号部２１２、逆量子化部２１３、逆直交変換部２１４、演算部２１５、フィルタ２１６、後処理バッファ２１７、および後処理部２１８を有する。また、画像復号装置２００は、イントラ予測部２１９、フレームメモリ２２０、インター予測部２２１、および予測画像選択部２２２を有する。
【０１６１】
画像復号装置２００には、例えば伝送媒体や記録媒体等を介して、画像符号化装置１００等が生成した符号化データが例えばビットストリーム等として供給される。蓄積バッファ２１１は、その符号化データを蓄積し、所定のタイミングにおいてその符号化データを復号部２１２に供給する。
【０１６２】
復号部２１２は、蓄積バッファ２１１より供給された符号化データを、図９の符号化部１１８の符号化方式に対応する方式（動作モード）で復号する。復号部２１２は、符号化データを復号して量子化データを得ると、それを逆量子化部２１３に供給する。また、復号部２１２は、符号化データを復号して得られた最適な予測モードに関する情報を、イントラ予測部２１９またはインター予測部２２１に供給する。例えば、イントラ予測が行われた場合、復号部２１２は、最適なイントラ予測モードの予測結果に関する情報をイントラ予測部２１９に供給する。また、例えば、インター予測が行われた場合、復号部２１２は、最適なインター予測モードの予測結果に関する情報をインター予測部２２１に供給する。同様に、復号部２１２は、符号化データを復号して得られた各種情報を、その情報を必要とする各種処理部に適宜供給することができる。
【０１６３】
逆量子化部２１３は、復号部２１２から供給された量子化データを逆量子化する。つまり、逆量子化部２１３は、図９の量子化部１１７の量子化方式に対応する方式（すなわち、逆量子化部１２０と同様の方式）で逆量子化を行う。逆量子化部２１３は、その逆量子化により得られた直交変換係数を逆直交変換部２１４に供給する。
【０１６４】
逆直交変換部２１４は、逆量子化部２１３から供給された直交変換係数を逆直交変換する。つまり、逆直交変換部２１４は、図９の直交変換部１１４の直交変換方式に対応する方式（すなわち、逆直交変換部１２１と同様の方式）で逆直交変換を行う。逆直交変換部２１４は、この逆直交変換処理により得られた残差データ（復元された残差データ）を演算部２１５に供給する。
【０１６５】
演算部２１５は、逆直交変換部２１４から供給された、復元された残差データに予測画像選択部２２２から供給された予測画像を加算し、再構成画像を得る。演算部２１５は、その再構成画像をフィルタ２１６およびイントラ予測部２１９に供給する。
【０１６６】
フィルタ２１６は、図９のフィルタ１２３が行うのと同様のフィルタ処理（例えばデブロックフィルタ等）を行う。フィルタ２１６は、フィルタ処理結果である復号画像を後処理バッファ２１７およびフレームメモリ２２０に供給する。
【０１６７】
後処理バッファ２１７は、供給された復号画像を記憶する。後処理部２１８は、後処理バッファ２１７に記憶されている入力画像に対して、フレームの並べ替え等の処理を行う。後処理バッファ２１７は、後処理が終了した復号画像データを画像復号装置２００の外部に出力する。
【０１６８】
イントラ予測部２１９は、復号部２１２から供給される最適なイントラ予測モードの予測結果に関する情報と、演算部２１５から供給される再構成画像とを用いて、イントラ予測を行い、予測画像を生成する。イントラ予測部２１９は、生成した予測画像を予測画像選択部２２２に供給する。
【０１６９】
フレームメモリ２２０は、供給される復号画像を記憶する。また、フレームメモリ２２０は、所定のタイミングにおいて、または、インター予測部２２１等の外部の要求に基づいて、記憶している復号画像等をインター予測部２２１に供給する。
【０１７０】
インター予測部２２１は、復号部２１２から供給される最適なインター予測モードの予測結果に関する情報と、フレームメモリ２２０から供給される復号画像とを用いて、インター予測を行い、予測画像を生成する。インター予測部２２１は、生成した予測画像を予測画像選択部２２２に供給する。
【０１７１】
予測画像選択部２２２は、イントラ予測部２１９またはインター予測部２２１から供給された予測画像を演算部２１５に供給する。例えば、処理対象のブロックが、符号化の際にイントラ予測が行われたブロックである場合、イントラ予測部２１９によりイントラ予測が行われて予測画像（イントラ予測画像）が生成されるので、予測画像選択部２２２は、そのイントラ予測画像を演算部２１５に供給する。また、例えば、処理対象のブロックが、符号化の際にインター予測が行われたブロックである場合、インター予測部２２１によりインター予測が行われて予測画像（インター予測画像）が生成されるので、予測画像選択部２２２は、そのインター予測画像を演算部２１５に供給する。
【０１７２】
＜画像復号処理の流れ＞
次に、画像復号装置２００により実行される画像復号処理の流れの例を、図２５のフローチャートを参照して説明する。
【０１７３】
画像復号処理が開始されると、ステップＳ２５１において、蓄積バッファ２１１は、画像復号装置２００に供給される符号化データを蓄積する。ステップＳ２５２において、復号部２１２は、復号処理を行う。つまり、復号部２１２は、ステップＳ２５１の処理により蓄積バッファ２１１に蓄積された符号化データを取得し、復号し、量子化係数を得る。
【０１７４】
ステップＳ２５３において、逆量子化部２１３は、復号部２１２により符号化データから得られた、シーケンスパラメータセット（SPS）若しくはピクチャパラメータセット（PPS）またはその両方に格納されるスケーリングリストと、各TUのスケーリングリスト指定情報を取得し、それらに基づいて、処理対象のTUに対するスケーリングリストを選択する。
【０１７５】
ステップＳ２５４において、逆量子化部２１３は、ステップＳ２５２の処理により得られた量子化データを、ステップＳ２５３の処理により得られたスケーリングリストを用いて、逆量子化して直交変換係数を得る。ステップＳ２５５において逆直交変換部２１４は、ステップＳ２５４の処理により得られた直交変換係数を逆直交変換して復元された残差データを得る。
【０１７６】
ステップＳ２５６において、イントラ予測部２１９、インター予測部２２１、および予測画像選択部２２２は、符号化の際の予測モードで予測処理を行い、予測画像を生成する。例えば、処理対象のブロックが符号化の際にイントラ予測が行われたブロックである場合、イントラ予測部２１９がイントラ予測画像を生成し、予測画像選択部２２２がそのイントラ予測画像を予測画像として選択する。また、例えば、処理対象のブロックが符号化の際にインター予測が行われたブロックである場合、インター予測部２２１がインター予測画像を生成し、予測画像選択部２２２がそのインター予測画像を予測画像として選択する。
【０１７７】
ステップＳ２５７において、演算部２１５は、ステップＳ２５５の処理により得られた復元された残差データに、ステップＳ２５６の処理により得られた予測画像を加算し、再構成画像を得る。
【０１７８】
ステップＳ２５８において、フィルタ２１６は、ステップＳ２５７の処理により得られた再構成画像に対してデブロッキングフィルタ等のフィルタ処理を行い、復号画像を得る。
【０１７９】
ステップＳ２５９において、後処理バッファ２１７は、ステップＳ２５８の処理により得られた復号画像を記憶する。後処理部２１８は、その復号画像について、フレームの並べ替えを行い、フレームの順序を、復号順から元の表示順に並べ替える。
【０１８０】
ステップＳ２６０において、フレームメモリ２２０は、ステップＳ２５８の処理により得られた復号画像を記憶する。この復号画像は、インター予測において参照画像として利用される。
【０１８１】
ステップＳ２６０の処理が終了すると、画像復号処理が終了される。
【０１８２】
なお、これらの各処理の処理単位は任意であり、互いに同一でなくてもよい。したがって、各ステップの処理は、適宜、他のステップの処理等と並行して、または、処理順を入れ替えて実行することもできる。
【０１８３】
以上のように各処理を実行することにより、画像復号装置２００は、複数伝送されるスケーリングリストと、スケーリングリスト指定情報とを用いて、TU毎にスケーリングリストを設定することができる。したがって、画像復号装置２００は、各TUに設定されるスケーリングリストの自由度を向上させることができ、目標ビットレートやTUサイズにより適したスケーリングリストを設定することができる。したがって、符号化効率の低減を抑制することができる。
【０１８４】
＜６．第６の実施の形態＞
＜バンディングノイズ＞
画像に例えば空や壁等といった輝度変化の少ない領域（以下、平坦領域とも称する）が存在する場合がある。例えば、図２６のＡに示されるような画像において、四角で囲まれた領域３０１は、空の部分であり、輝度値が略一定である。しかしながら、この領域全体で輝度値が完全に同一であることは少なく、輝度値が微小に変化していることが一般的である。例えば、図２６のＡの領域３０１を拡大すると図２６のＢに示されるように所謂グラデーションを有していることがわかる。
【０１８５】
このような微小な輝度変化を有する画像（領域）を符号化する場合、輝度値の変化が緩やかであるため、例えば３２×３２等の大きなTUサイズが選択されやすい。このような領域に対して例えば図８の例のようにスケーリングリスト（量子化行列）を設定すると、DCT係数は、大きな量子化ステップで符号化されることになり、その多くが欠落してしまう可能性がある。その結果、例えば、図２６のＣに示されるように、グラデーションが表現しきれずに、輝度値が段階的に変化するように見えるバンディングノイズが発生してしまい、主観画質が低減してしまう可能性がある。
【０１８６】
図２７に示されるグラフは、上述のようなバンディングノイズが発生する領域について、画像の周波数とその振幅の関係を符号化前と後とで比較した例を示すものである。このグラフにおいて、曲線３１１が符号化前の画像の周波数−振幅特性を示し、曲線３１２が符号化後の画像の周波数−振幅特性を示す。例えば楕円３１３で示される部分においてこれらを比較すると、曲線３１１にみられる周波数ごとの振幅の差が、曲線３１２においては、略消失している。この変化は主に符号化時の量子化によるものである。このような量子化誤差によって、復号画像における各画素の輝度値の微小なバラつきが抑制され、輝度値が不自然に揃えられてしまう。多様な周波数成分が存在する一般的な画像であればこのような微小な量子化誤差は目立たないが、グラデーションのような平坦領域では輝度の変化が少ないため、バンディングノイズとして現れてしまう可能性がある。
【０１８７】
特にダイナミックレンジ（ビット深度）が１２ビットのHDR（High Dynamic Range）画像の場合、EOTF(Electro Optical Transfer Function)において、例えば図２８に示されるような急峻なガンマカーブでデガンマされるため、小さな量子化誤差が強調されやすく、バンディングノイズが目立ちやすい。図２８に示されるように、ダイナミックレンジ（ビット深度）が１０ビットのSDR（Standard Dynamic Range）画像の場合、ガンマカーブ３２１によりデガンマされるため、量子化誤差は略変化しないが、HDR画像の場合、ガンマカーブ３２２によってデガンマされるため、量子化誤差は最大１３００％にまで拡大される可能性がある。
【０１８８】
＜低中域成分の保護＞
そこで、カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定するようにしてもよい。
【０１８９】
例えば、図２９に示されるように、カレントブロックが32x32画素の場合、低域および中域の直交変換係数に対する値が、32x32画素よりも小さいブロックに対するスケーリングリストの場合よりも小さい値である「極小」のスケーリングリストが設定されるようにする（図中、斜線部分）。
【０１９０】
スケーリングリストの低域および中域を極小とすることにより、その低域および中域の量子化の量子化ステップを小さくすることができ、量子化誤差を低減させることができる。したがって、平坦領域におけるグラデーション等の緩やかな輝度変化を保護することができ、復号画像におけるバンディングノイズの発生を抑制することができる。
【０１９１】
例えばHEVCの場合、TUサイズは32x32画素が最大であり、平坦領域にはその32x32画素のTUが割り当てられることが多い。したがって、32x32画素のTUに対してこのようなスケーリングリストを設定することにより、主に平坦領域に対して、低域および中域の量子化誤差を低減させることができる。換言するに、主に平坦領域でない領域に対しては、32x32画素より小さいTUが選択されることが多いので、32x32画素のブロックの場合よりも大きな量子化ステップで量子化が行われることになり、符号量の増大を抑制することができる。すなわち、復号画像の主観画質の低減を抑制しながら、符号化効率の低減を抑制することができる。
【０１９２】
このようなスケーリングリストを設定する方法は、第１の実施の形態の場合と同様である。すなわち、図２９の例のような各レートおよび各ブロックサイズに対するスケーリングリストを、図９の画像符号化装置１００のスケーリングリスト記憶部１１５に記憶させておき、スケーリングリスト選択部１１６が、目標ビットレートとTUサイズとに基づいてスケーリングリストを選択するようにすればよい（図１０のステップＳ１０５、ステップＳ１０６）。
【０１９３】
上述のように、平坦領域には大きなTUサイズ（HEVCの場合32x32画素）が選択されやすい。したがって、図２９の例のように、低域および中域の直交変換係数に対する値をTUサイズによって決定することにより、平坦領域の検出等の処理を必要とせずにより容易に、主に平坦領域に対して、低域および中域の直交変換係数に対する値を極小とするスケーリングリストを選択することができる。
【０１９４】
なお、上述したブロックサイズは一例であり、この例に限定されない。つまり、所定のサイズより大きなブロックに対するスケーリングリストの低域および中域の直交変換係数に対する値を極小とするようにしてもよい。そして、その所定のサイズは、32x32画素であってもよいし、それ以外のサイズであってもよい。平坦領域に選ばれやすいブロックサイズにするのが望ましい。
【０１９５】
＜低中域成分の保護＞
なお、符号化対象の画像の、量子化を行うカレントブロックに対して、より低域成分側の一部の値が直流成分の値よりも小さいスケーリングリストを設定するようにしてもよい。
【０１９６】
図３０にスケーリングリストのより具体的な例を示す。図３０のＡは、従来の一般的なスケーリングリストの例であり、図３０のＢは、上述の平坦領域に適用するスケーリングリストの例である。図３０のＡおよび図３０のＢのそれぞれにおいて、上側の表がスケーリングリストの各値を示している。TUと同様に、左上端が直流成分の値で、それ以外が交流成分の値であり、より左上になる程より低域成分の値であり、より右下になる程より高域成分の値である。図３０のＡおよび図３０のＢの下側は、それを３次元グラフ化したものである。
【０１９７】
図３０のＡに示されるように、従来の一般的なスケーリングリストの各値は、低域成分から高域成分に向かって単調増加である。これに対して、図３０のＢに示されるスケーリングリストの場合、低域と中域の直交変換係数に対して、直流成分の値「１２」よりも小さい値「４」が設定されている。したがって、図３０のＡのスケーリングリストを用いる場合よりも、図３０のＢのスケーリングリストを用いる場合の方が、低域および中域の量子化誤差を低減させることができる。つまり、平坦領域に対して図３０のＢのスケーリングリストを用いることにより、平坦領域におけるグラデーション等の緩やかな輝度変化を保護することができ、復号画像におけるバンディングノイズの発生を抑制することができる。
【０１９８】
このようなスケーリングリストを設定する方法は、図２９を参照して上述したとおりである。なお、低域および中域の値は、直流成分の値よりも小さくすればよく、上述の「４」以外であってもよい。また、低域および中域の値は、図３０のＢの例のように統一されていなくてもよい。また、直流成分の値よりも小さくする範囲は、図３０のＢの例よりも広くてもよいし、狭くてもよい。
【０１９９】
また、図３０のＢのスケーリングリストを、所定のサイズ以上のTUに対して設定するようにしてもよい。このようにすることにより、図２９の場合と同様に、主に平坦領域に対して、低域および中域の量子化誤差を低減させることができる。すなわち、復号画像の主観画質の低減を抑制しながら、符号化効率の低減を抑制することができる。なお、この所定のサイズは、任意である。図２９の例のように32x32画素としてもよい。もちろん、TUサイズに依らず、図３０のＢのスケーリングリストを選択することができるようにしてもよい。
【０２００】
＜レートに応じたスケーリングリスト＞
なお、スケーリングリストの、低域や中域等、より低域成分側の一部の値を小さくする場合、その値を、目標ビットレートに応じた値とするようにしてもよい。スケーリングリストの値が大きい程、量子化ステップが大きくなり、符号量が低減する。したがって、例えば、図３１に示される斜線部分のように、目標ビットレートが低い程値が大きくなる（目標ビットレートが高い程値が小さくなる）ようにしてもよい。このようにすることにより、より容易にビットレートを目標ビットレートに達成させることができる。もちろん、これら以外の値であってもよい。
【０２０１】
図３１の例の場合、32x32画素のTUサイズに対して設定されるスケーリングリストの低域および中域の直交変換係数に対する値の大きさは、目標ビットレートが高レートの場合の「極小（Ｈ）」＜目標ビットレートが中レートの場合の「極小（Ｍ）」＜目標ビットレートが低レートの場合の「極小（Ｌ）」となっている。また、例えば、図３０のＢのスケーリングリストにおいて、低域および中域の直交変換係数に対する値を高レートの場合「４」とし、中レートの場合「６」とし、低レートの場合「８」としてもよい。
【０２０２】
また、直流成分の値よりも小さい値をとる範囲を、目標ビットレートが低い程狭くする（目標ビットレートが高い程広くする）ようにしてもよい。もちろん、値の大きさと範囲の広さの両方を目標ビットレートに応じて可変とするようにしてもよい。
【０２０３】
＜７．第７の実施の形態＞
＜スケーリングリストの選択＞
符号化する画像のダイナミックレンジが所定のレンジよりも大きく、かつ、カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定するようにしてもよい。また、画像のダイナミックレンジが所定のレンジよりも大きい場合、より低域成分側の一部の値が直流成分の値よりも小さいスケーリングリストを設定するようにしてもよい。例えば、図２９、図３０のＢ、または図３１のスケーリングリストをHDR用のスケーリングリストとし、符号化する画像がHDRの場合にのみ適用するようにしてもよい。
【０２０４】
＜画像符号化装置＞
その場合の画像符号化装置の主な構成例を図３２に示す。図３２に示される画像符号化装置４００は、基本的に画像符号化装置１００（図９）と同様の装置であり、画像符号化装置１００と同様の構成を有し、同様の処理を行う。ただし、画像符号化装置４００は、HDRの画像を符号化する場合、HDR用のスケーリングリストを用いて量子化を行う。
【０２０５】
図３２に示されるように、画像符号化装置４００は、画像符号化装置１００のスケーリングリスト記憶部１１５の代わりにスケーリングリスト記憶部４１５を有する。また、画像符号化装置４００は、画像符号化装置１００のスケーリングリスト選択部１１６の代わりにスケーリングリスト選択部４１６を有する。
【０２０６】
スケーリングリスト記憶部は、量子化に用いられるスケーリングリストの候補として、高レートSDR用スケーリングリスト４２１、中レートSDR用スケーリングリスト４２２、低レートSDR用スケーリングリスト４２３、高レートHDR用スケーリングリスト４２４、中レートHDR用スケーリングリスト４２５、低レートHDR用スケーリングリスト４２６を記憶する。
【０２０７】
高レートSDR用スケーリングリスト４２１、中レートSDR用スケーリングリスト４２２、および低レートSDR用スケーリングリスト４２３は、SDR画像の量子化に用いられる目標ビットレート毎のスケーリングリストである。例えば、図８に示されるようなスケーリングリストである。高レートHDR用スケーリングリスト４２４、中レートHDR用スケーリングリスト４２５、および低レートHDR用スケーリングリスト４２６は、HDR画像の量子化に用いられる目標ビットレート毎のスケーリングリストである。例えば、図２９、図３０のＢ、または図３１に示されるようなスケーリングリストである。
【０２０８】
スケーリングリスト記憶部４１５は、記憶している候補の内、スケーリングリスト選択部４１６から要求された候補（スケーリングリスト）を、スケーリングリスト選択部４１６に供給する。
【０２０９】
スケーリングリスト選択部４１６は、量子化部１１７による量子化に用いられるスケーリングリストの設定に関する処理を行う。スケーリングリスト選択部４１６は、目標とする符号化レート（目標ビットレート）と、入力画像のダイナミックレンジに関する情報を取得する。また、スケーリングリスト選択部４１６は、処理対象のTU（カレントブロック）のサイズを示す情報を量子化部１１７から取得する。スケーリングリスト選択部４１６は、スケーリングリスト記憶部４１５が記憶しているスケーリングリストの候補を用いて、目標ビットレート、ダイナミックレンジ、およびカレントブロックのサイズ（TUサイズ）に対応するスケーリングリストを設定し、それを量子化部１１７に供給する。
【０２１０】
例えば、入力画像がHDR画像であり、かつ、目標ビットレートが高レートである場合、スケーリングリスト選択部４１６は、高レートHDR用スケーリングリスト４２４を選択し、その中から、カレントブロックのサイズに応じたスケーリングリストを設定し、それを量子化部１１７に供給する。
【０２１１】
＜画像符号化処理の流れ＞
その場合の画像符号化装置４００により実行される画像符号化処理の流れの例を、図３３のフローチャートを参照して説明する。
【０２１２】
この場合、画像符号化処理が開始されると、ステップＳ４０１乃至ステップＳ４０４の各処理は、図１１のステップＳ１０１乃至ステップＳ１０４の各処理と同様に実行される。
【０２１３】
ステップＳ４０５において、スケーリングリスト選択部４１６は、目標とする符号化レート（目標ビットレート）、入力画像のダイナミックレンジ、および、カレントブロックのサイズ（TUサイズ）とに基づいて、ダイナミックレンジと目標ビットレートとTUサイズに応じた値を有するスケーリングリストを選択する。
【０２１４】
ステップＳ４０６において、目標とする符号化レートに応じた量子化パラメータ、および、ステップＳ４０５の処理により得られたスケーリングリストを用いる等して、ステップＳ４０４の処理により得られた直交変換係数を量子化する。
【０２１５】
ステップＳ４０７乃至ステップＳ４１３の各処理は、図１１のステップＳ１０７乃至ステップＳ１１３の各処理と同様に実行される。ステップＳ４１３の処理が終了すると画像符号化処理が終了する。
【０２１６】
なお、これらの各処理の処理単位は任意であり、互いに同一でなくてもよい。したがって、各ステップの処理は、適宜、他のステップの処理等と並行して、または、処理順を入れ替えて実行することもできる。
【０２１７】
以上のようにすることにより、バンディングノイズが目立ちやすいHDR画像に対してのみ、平坦領域の低域および中域を保護するようなスケーリングリストを設定し、量子化を行うようにすることができる。これにより、符号化効率の低減をより抑制することができる。
【０２１８】
なお、以上のようにスケーリングリストを切り替えるダイナミックレンジは、任意であり、上述のように１０ビットとしてもよいし、他のビット数としてもよい。また、例えば、１０ビットと１２ビット等のように、複数段階で切り替えるようにしてもよい。
【０２１９】
＜８．第８の実施の形態＞
＜平坦の検出＞
また、平坦領域を検出するようにしてもよい。例えば、カレントピクチャに輝度変化の少ない平坦部が含まれている場合、より低域成分側の一部の値が、その平坦部が含まれていない場合よりも小さいスケーリングリストを設定するようにしてもよい。また、カレントピクチャに輝度変化の少ない平坦部が含まれている場合、より低域成分側の一部の値が直流成分の値よりも小さいスケーリングリストを設定するようにしてもよい。
【０２２０】
その場合、例えば、画像符号化装置４００の前処理部１１２が入力画像のカレントピクチャ（処理対象のピクチャ）において平坦領域を検出し、スケーリングリスト選択部４１６がその検出結果に基づいてスケーリングリストを選択する。例えば、平坦領域を含むピクチャに対して、スケーリングリスト選択部４１６は、高レートHDR用スケーリングリスト４２４、中レートHDR用スケーリングリスト４２５、または、低レートHDR用スケーリングリスト４２６等の、図２９、図３０のＢ、図３１等に示したスケーリングリストを選択するようにしてもよい。
【０２２１】
＜画像符号化処理の流れ＞
その場合の画像符号化処理の流れの例を図３４のフローチャートを参照して説明する。画像符号化処理が開始されると、ステップＳ４３１乃至ステップＳ４３４の各処理が、図３３のステップＳ４０１乃至ステップＳ４０４の各処理と同様に実行される。
【０２２２】
ステップＳ４０５において、スケーリングリスト選択部４１６は、ダイナミックレンジと平坦領域検出結果と、符号化レートと、TUサイズとに基づいて、スケーリングリストを選択する。
【０２２３】
ステップＳ４３６乃至ステップＳ４４３の各処理は、図３３のステップＳ４０６乃至ステップＳ４１３の各処理と同様に実行される。ステップＳ４４３の処理が終了すると、画像符号化処理が終了する。
【０２２４】
なお、これらの各処理の処理単位は任意であり、互いに同一でなくてもよい。したがって、各ステップの処理は、適宜、他のステップの処理等と並行して、または、処理順を入れ替えて実行することもできる。
【０２２５】
＜スケーリングリスト選択処理の流れ＞
次に、図３４のステップＳ４３５において実行されるスケーリングリスト選択処理の流れの例を、図３５のフローチャートを参照して説明する。
【０２２６】
スケーリングリスト選択処理が開始されると、スケーリングリスト選択部４１６は、ステップＳ４６１において、符号化される画像がHDR画像であるか否かを判定する。HDRであると判定された場合、処理はステップＳ４６２に進む。ステップＳ４６２において、前処理部１１２は、カレントピクチャについて平坦領域を検出する。この検出方法は任意である。前処理部１１２は、検出結果をスケーリングリスト選択部４１６に供給する。
【０２２７】
ステップＳ４６３において、スケーリングリスト選択部４１６は、その検出結果に基づいて、カレントピクチャが平坦領域を含むシーンであるか否かを判定する。平坦領域を含むと判定された場合、処理はステップＳ４６４に進む。ステップＳ４６４において、スケーリングリスト選択部４１６は、その判定結果の信頼度を算出する。この信頼度の算出方法は任意である。例えば、平坦領域と判定された領域の大きさに基づいて信頼度を算出するようにしてもよい。例えば、平坦領域として検出された領域が大きい程、信頼度が高くなるようにしてもよい。また、平坦領域として検出された領域の大きさだけでなく、位置、形状、平坦度合い等に基づいてその領域の評価を行い、その評価値が高い程信頼度が高くなるようにしてもよい。または、過去のフレームの平坦領域検出結果も参考にして信頼度が算出されるようにしてもよい。
【０２２８】
ステップＳ４６５において、スケーリングリスト選択部４１６は、ステップＳ４６４の処理により算出された信頼度に応じたHDR用のスケーリングリストを候補にする。例えば、予めスケーリングリスト記憶部４１５に、信頼度が低い場合用のスケーリングリスト、信頼度が中程度の場合用のスケーリングリスト、信頼度が高い場合用のスケーリングリストを記憶させておき、スケーリングリスト選択部４１６がその中から信頼度に応じたスケーリングリストを選択するようにしてもよい。なお、用意する信頼度に応じたスケーリングリストのパタンは何種類であってもよい。また、関数等を用いて信頼度から算出するようにしてもよい。ステップＳ４６５の処理が終了すると処理はステップＳ４６７に進む。
【０２２９】
また、ステップＳ４６１において、入力画像のダイナミックレンジがSDRであると判定された場合、処理はステップＳ４６６に進む。また、ステップＳ４６３において、カレントピクチャが平坦領域を含まないと判定された場合、処理はステップＳ４６６に進む。ステップＳ４６６において、スケーリングリスト選択部４１６は、SDR用のスケーリングリストを候補にする。ステップＳ４６６の処理が終了すると処理はステップＳ４６７に進む。
【０２３０】
ステップＳ４６７において、スケーリングリスト選択部４１６は、ステップＳ４６５またはステップＳ４６６の処理により、候補に選択されたスケーリングリストの中から、目標ビットレートとTUサイズとに応じたスケーリングリストを選択し、それを量子化部１１７に供給する。ステップＳ４６７の処理が終了すると、スケーリングリスト選択処理が終了し、処理は図３４に戻る。
【０２３１】
なお、これらの各処理の処理単位は任意であり、互いに同一でなくてもよい。したがって、各ステップの処理は、適宜、他のステップの処理等と並行して、または、処理順を入れ替えて実行することもできる。
【０２３２】
以上のように各処理を実行することにより、より正確に、平坦領域が存在する画像に対して、低域および中域を保護するようなスケーリングリストを設定し、量子化を行うようにすることができる。換言するに、平坦領域を含まない画像に対してそのようなスケーリングリストを設定しないようにすることができる。これにより、符号化効率の低減をより抑制することができる。
【０２３３】
なお、スケーリングリストの低域および中域の値を、信頼度に応じた値とするようにしてもよい。例えば、信頼度が高い程、これらの値が小さくなるようにしてもよい。
【０２３４】
＜９．第９の実施の形態＞
＜QTBT＞
CU,PU、およびTUは、JVET-C0024,“EE2.1: Quadtree plus binary tree structure integration with JEM tools”に記載されているQTBT(Quad tree plus binary tree)のCU,PU、およびTUであってもよい。
【０２３５】
QTBTの場合、CUのブロック分割では、１つのブロックを４（=2x2）個だけでなく、２（=1x2,2x1）個のサブブロックにも分割することができる。即ち、この場合のCUのブロック分割は、１つのブロックを４個または２個のサブブロックへの分割を再帰的に繰り返すことにより行われ、結果として四分木（Quad-Tree）状または水平方向もしくは垂直方向の２分木（Binary-Tree）状のツリー構造が形成される。
【０２３６】
その結果、CUの形状は、正方形だけでなく、長方形である可能性がある。例えば、LCUサイズが128x128である場合、CUのサイズ（水平方向のサイズｗ×垂直方向のサイズｈ）は、図３６に示すように、128x128,64x64,32x32,16x16,8x8,4x4といった正方形のサイズだけでなく、128x64,128x32,128x16,128x8,128x4,64x128,32x128,16x128,8x128,4x128,64x32,64x16,64x8,64x4,32x64,16x64,8x64,4x64,32x16,32x8,32x4,16x32,8x32,4x32,16x8,16x4,8x16,4x16, 8x4,4x8といった長方形のサイズである可能性がある。また、この場合のPUとTUは、CUと同一である。
【０２３７】
ただし、量子化サイズは最大32x32までとなり、幅（width）と高さ（height）のいずれか一方または両方が64以上である場合、32x32内に収まる低域のみを伝送する。それ以外の部分に関してはゼロとなる。
【０２３８】
例えば、図３７の左側に示される128x128のTUの場合、左上の32x32の領域が量子化され、それ以外の領域はゼロとなる。同様に、図３７の右側に示される16x64のTUの場合、16x32の領域が量子化され、それ以外の領域はゼロとなる。
【０２３９】
したがって、量子化に用いられるスケーリングリストの形状は、32x32,32x16,32x8,32x4,16x32,8x32,4x32,16x16,16x8,16x4,8x16,4x16,8x8,8x4,4x8,4x4のいずれかとなる。つまり、これらのサイズのスケーリングリストが候補としてスケーリングリスト記憶部４１５に用意される（予め記憶される）。なお、スケーリングリストは、間引いたり補間したりしてサイズを変更する（リサイズする）ようにしてもよい。例えば、図３８に示される例のように、8x8のスケーリングリストから１行おきに間引いて8x4のスケーリングリストを生成するようにしてもよい。同様にして、他のサイズのスケーリングリストも生成することができる。
【０２４０】
図８の例のスケーリングリストは、このようなQTBTの場合にも適用することができる。その場合、各TUサイズに対してスケーリングリストの値を、図３９に示される例のように設定してもよい。
【０２４１】
そして、このQTBTの場合も、カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、その所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定するようにしてもよい。また、符号化対象の画像の、量子化を行うカレントブロックに対して、より低域成分側の一部の値が直流成分の値よりも小さいスケーリングリストを設定するようにしてもよい。
【０２４２】
例えば、平坦領域等に対して、図４０のＡに示されるような低域から高域に向かって値が単調増加なスケーリングリストの代わりに、図４０のＢに示されるような、低域および中域の値が極小のスケーリングリストを選択するようにしてもよい。カレントブロックが非正方形の場合も同様に、例えば図４０のＣに示されるようなスケーリングリストを適用することができる。
【０２４３】
したがって、例えば、図２９に示される例のスケーリングリストをQTBTのブロックに適用する場合、各TUサイズに対してスケーリングリストの値を、図４１に示される例のように設定してもよい。図３０のＢや図３１の例の場合も同様である。
【０２４４】
つまり、第１の実施の形態乃至第６の実施の形態は、QTBTの場合も適用することができ、それにより、各実施の形態において上述したのと同様の効果を得ることができる。換言するに、カレントブロックのより低域成分側の一部の係数に対するスケーリングリストとして、上述したようなスケーリングリストを設定することができる。
【０２４５】
＜１０．第１０の実施の形態＞
＜情報のデータ単位＞
以上において説明した画像に関する情報や画像の符号化・復号に関する情報が設定される（または対象とするデータの）データ単位は、それぞれ任意であり、上述した例に限定されない。例えば、これらの情報が、それぞれ、TU、TB、PU、PB、CU、LCU、サブブロック、ブロック、タイル、スライス、ピクチャ、シーケンス、またはコンポーネント毎に設定されるようにしてもよいし、それらのデータ単位のデータを対象とするようにしてもよい。もちろん、このデータ単位は、情報毎に設定される。つまり、全ての情報が同一のデータ単位毎に設定される（または対象とする）ようにしなくてもよい。なお、これらの情報の格納場所は任意であり、上述したデータ単位のヘッダやパラメータセット等に格納されるようにしてもよい。また、複数個所に格納されるようにしてもよい。
【０２４６】
＜制御情報＞
以上の各実施の形態において説明した本技術に関する制御情報を符号化側から復号側に伝送するようにしてもよい。例えば、上述した本技術を適用することを許可（または禁止）するか否かを制御する制御情報（例えばenabled_flag）を伝送するようにしてもよい。また、例えば、上述した本技術を適用することを許可（または禁止）するブロックサイズの上限若しくは下限、またはその両方を指定する制御情報を伝送するようにしてもよい。
【０２４７】
＜符号化・復号＞
本技術は、量子化を行う任意の画像符号化・復号に適用することができる。例えば、第５の実施の形態の場合のように、画像符号化装置１００や画像復号装置２００の符号化・復号方式は、任意であり、HEVCに準拠していなくてもよい。したがって、例えば、変換（逆変換）、符号化（復号）、予測画像生成処理、フィルタ処理等の仕様は任意であり、上述した例に限定されない。また、それらの処理の一部または全部を省略するようにしてもよい。なお、量子化（逆量子化）は、スケーリングリストを用いるものであれば、それ以外の仕様は任意である。
【０２４８】
＜本技術の適用分野＞
本技術を適用したシステム、装置、処理部等は、例えば、交通、医療、防犯、農業、畜産業、鉱業、美容、工場、家電、気象、自然監視等、任意の分野に利用することができる。
【０２４９】
例えば、本技術は、鑑賞の用に供される画像を伝送するシステムやデバイスにも適用することができる。また、例えば、本技術は、交通の用に供されるシステムやデバイスにも適用することができる。さらに、例えば、本技術は、セキュリティの用に供されるシステムやデバイスにも適用することができる。また、例えば、本技術は、スポーツの用に供されるシステムやデバイスにも適用することができる。さらに、例えば、本技術は、農業の用に供されるシステムやデバイスにも適用することができる。また、例えば、本技術は、畜産業の用に供されるシステムやデバイスにも適用することができる。さらに、本技術は、例えば火山、森林、海洋等の自然の状態を監視するシステムやデバイスにも適用することができる。また、本技術は、例えば天気、気温、湿度、風速、日照時間等を観測する気象観測システムや気象観測装置に適用することができる。さらに、本技術は、例えば鳥類、魚類、ハ虫類、両生類、哺乳類、昆虫、植物等の野生生物の生態を観測するシステムやデバイス等にも適用することができる。
【０２５０】
＜多視点画像符号化システムへの適用＞
上述した一連の処理は、複数の視点（ビュー（view））の画像を含む多視点画像の符号化が行われる多視点画像符号化システムに適用することができる。その場合、各視点（ビュー（view））の符号化において、本技術を適用するようにすればよい。
【０２５１】
＜階層画像符号化システムへの適用＞
また、上述した一連の処理は、所定のパラメータについてスケーラビリティ（scalability）機能を有するように複数レイヤ化（階層化）された階層画像の符号化が行われる階層画像符号化（スケーラブル符号化）システムに適用することができる。その場合、各階層（レイヤ）の符号化において、本技術を適用するようにすればよい。
【０２５２】
＜コンピュータ＞
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。
【０２５３】
図４２は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【０２５４】
図４２に示されるコンピュータ８００において、CPU（Central Processing Unit）８０１、ROM（Read Only Memory）８０２、RAM（Random Access Memory）８０３は、バス８０４を介して相互に接続されている。
【０２５５】
バス８０４にはまた、入出力インタフェース８１０も接続されている。入出力インタフェース８１０には、入力部８１１、出力部８１２、記憶部８１３、通信部８１４、およびドライブ８１５が接続されている。
【０２５６】
入力部８１１は、例えば、キーボード、マウス、マイクロホン、タッチパネル、入力端子などよりなる。出力部８１２は、例えば、ディスプレイ、スピーカ、出力端子などよりなる。記憶部８１３は、例えば、ハードディスク、RAMディスク、不揮発性のメモリなどよりなる。通信部８１４は、例えば、ネットワークインタフェースよりなる。ドライブ８１５は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア８２１を駆動する。
【０２５７】
以上のように構成されるコンピュータでは、CPU８０１が、例えば、記憶部８１３に記憶されているプログラムを、入出力インタフェース８１０およびバス８０４を介して、RAM８０３にロードして実行することにより、上述した一連の処理が行われる。RAM８０３にはまた、CPU８０１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【０２５８】
コンピュータ（CPU８０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア８２１に記録して適用することができる。その場合、プログラムは、リムーバブルメディア８２１をドライブ８１５に装着することにより、入出力インタフェース８１０を介して、記憶部８１３にインストールすることができる。
【０２５９】
また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部８１４で受信し、記憶部８１３にインストールすることができる。
【０２６０】
その他、このプログラムは、ROM８０２や記憶部８１３に、あらかじめインストールしておくこともできる。
【０２６１】
＜本技術の応用＞
上述した実施形態に係る画像符号化装置１００は、例えば、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機や受信機、または、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置や、これら記憶媒体から画像を再生する再生装置などの、様々な電子機器に応用され得る。
【０２６２】
＜第１の応用例：テレビジョン受像機＞
図４３は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース（I/F）部９０９、制御部９１０、ユーザインタフェース（I/F）部９１１、及びバス９１２を備える。
【０２６３】
チューナ９０２は、アンテナ９０１を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９０２は、復調により得られた符号化ビットストリームをデマルチプレクサ９０３へ出力する。即ち、チューナ９０２は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
【０２６４】
デマルチプレクサ９０３は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ９０４へ出力する。また、デマルチプレクサ９０３は、符号化ビットストリームからEPG（Electronic Program Guide）などの補助的なデータを抽出し、抽出したデータを制御部９１０に供給する。なお、デマルチプレクサ９０３は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
【０２６５】
デコーダ９０４は、デマルチプレクサ９０３から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ９０４は、復号処理により生成される映像データを映像信号処理部９０５へ出力する。また、デコーダ９０４は、復号処理により生成される音声データを音声信号処理部９０７へ出力する。
【０２６６】
映像信号処理部９０５は、デコーダ９０４から入力される映像データを再生し、表示部９０６に映像を表示させる。また、映像信号処理部９０５は、ネットワークを介して供給されるアプリケーション画面を表示部９０６に表示させてもよい。また、映像信号処理部９０５は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部９０５は、例えばメニュー、ボタン又はカーソルなどのGUI（Graphical User Interface）の画像を生成し、生成した画像を出力画像に重畳してもよい。
【０２６７】
表示部９０６は、映像信号処理部９０５から供給される駆動信号により駆動され、表示デバイス（例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD（Organic ElectroLuminescence Display）（有機ELディスプレイ）など）の映像面上に映像又は画像を表示する。
【０２６８】
音声信号処理部９０７は、デコーダ９０４から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ９０８から音声を出力させる。また、音声信号処理部９０７は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
【０２６９】
外部インタフェース部９０９は、テレビジョン装置９００と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース部９０９を介して受信される映像ストリーム又は音声ストリームが、デコーダ９０４により復号されてもよい。即ち、外部インタフェース部９０９もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
【０２７０】
制御部９１０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置９００の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部９１１から入力される操作信号に応じて、テレビジョン装置９００の動作を制御する。
【０２７１】
ユーザインタフェース部９１１は、制御部９１０と接続される。ユーザインタフェース部９１１は、例えば、ユーザがテレビジョン装置９００を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース部９１１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９１０へ出力する。
【０２７２】
バス９１２は、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース部９０９及び制御部９１０を相互に接続する。
【０２７３】
このように構成されたテレビジョン装置９００において、デコーダ９０４が、上述した画像復号装置２００の機能を有するようにしてもよい。つまり、デコーダ９０４が、符号化データを、以上の各実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、テレビジョン装置９００は、受信する符号化ビットストリームについて上述した各実施の形態と同様の効果を得ることができる。
【０２７４】
また、このように構成されたテレビジョン装置９００において、映像信号処理部９０５が、例えば、デコーダ９０４から供給される画像データを符号化し、得られた符号化データを、外部インタフェース部９０９を介してテレビジョン装置９００の外部に出力させることができるようにしてもよい。そして、その映像信号処理部９０５が、上述した画像符号化装置１００または画像符号化装置４００の機能を有するようにしてもよい。つまり、映像信号処理部９０５が、デコーダ９０４から供給される画像データを、以上の各実施の形態において説明した方法で符号化するようにしてもよい。このようにすることにより、テレビジョン装置９００は、出力する符号化データについて上述した各実施の形態と同様の効果を得ることができる。
【０２７５】
＜第２の応用例：携帯電話機＞
図４４は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機９２０は、アンテナ９２１、通信部９２２、音声コーデック９２３、スピーカ９２４、マイクロホン９２５、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１、操作部９３２、及びバス９３３を備える。
【０２７６】
アンテナ９２１は、通信部９２２に接続される。スピーカ９２４及びマイクロホン９２５は、音声コーデック９２３に接続される。操作部９３２は、制御部９３１に接続される。バス９３３は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、及び制御部９３１を相互に接続する。
【０２７７】
携帯電話機９２０は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
【０２７８】
音声通話モードにおいて、マイクロホン９２５により生成されるアナログ音声信号は、音声コーデック９２３に供給される。音声コーデック９２３は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック９２３は、圧縮後の音声データを通信部９２２へ出力する。通信部９２２は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック９２３へ出力する。音声コーデック９２３は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２７９】
また、データ通信モードにおいて、例えば、制御部９３１は、操作部９３２を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部９３１は、文字を表示部９３０に表示させる。また、制御部９３１は、操作部９３２を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部９２２へ出力する。通信部９２２は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部９３１へ出力する。制御部９３１は、表示部９３０に電子メールの内容を表示させると共に、電子メールデータを記録再生部９２９に供給し、その記憶媒体に書き込ませる。
【０２８０】
記録再生部９２９は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB（Universal Serial Bus）メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
【０２８１】
また、撮影モードにおいて、例えば、カメラ部９２６は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部９２７へ出力する。画像処理部９２７は、カメラ部９２６から入力される画像データを符号化し、符号化ストリームを記録再生部９２９に供給し、その記憶媒体に書き込ませる。
【０２８２】
さらに、画像表示モードにおいて、記録再生部９２９は、記憶媒体に記録されている符号化ストリームを読み出して画像処理部９２７へ出力する。画像処理部９２７は、記録再生部９２９から入力される符号化ストリームを復号し、画像データを表示部９３０に供給し、その画像を表示させる。
【０２８３】
また、テレビ電話モードにおいて、例えば、多重分離部９２８は、画像処理部９２７により符号化された映像ストリームと、音声コーデック９２３から入力される音声ストリームとを多重化し、多重化したストリームを通信部９２２へ出力する。通信部９２２は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部９２２は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部９２８へ出力する。多重分離部９２８は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部９２７、音声ストリームを音声コーデック９２３へ出力する。画像処理部９２７は、映像ストリームを復号し、映像データを生成する。映像データは、表示部９３０に供給され、表示部９３０により一連の画像が表示される。音声コーデック９２３は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２８４】
このように構成された携帯電話機９２０において、例えば画像処理部９２７が、上述した画像符号化装置１００、画像復号装置２００、および画像符号化装置４００の内の少なくとも１つ以上の機能を有するようにしてもよい。つまり、画像処理部９２７が、画像データを、以上の各実施の形態において説明した方法で符号化したり、復号したりするようにしてもよい。このようにすることにより、携帯電話機９２０は、上述した各実施の形態と同様の効果を得ることができる。
【０２８５】
＜第３の応用例：記録再生装置＞
図４５は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置９４０は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置９４０は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置９４０は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置９４０は、音声データおよび映像データを復号する。
【０２８６】
記録再生装置９４０は、チューナ９４１、外部インタフェース（I/F）部９４２、エンコーダ９４３、HDD（Hard Disk Drive）部９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、OSD（On-Screen Display）部９４８、制御部９４９、およびユーザインタフェース（I/F）部９５０を備える。
【０２８７】
チューナ９４１は、アンテナ（図示せず）を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９４１は、復調により得られた符号化ビットストリームをセレクタ９４６へ出力する。即ち、チューナ９４１は、記録再生装置９４０における伝送部としての役割を有する。
【０２８８】
外部インタフェース部９４２は、記録再生装置９４０と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース部９４２は、例えば、IEEE（Institute of Electrical and Electronic Engineers）1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース部９４２を介して受信される映像データおよび音声データは、エンコーダ９４３へ入力される。即ち、外部インタフェース部９４２は、記録再生装置９４０における伝送部としての役割を有する。
【０２８９】
エンコーダ９４３は、外部インタフェース部９４２から入力される映像データおよび音声データが符号化されていない場合に、映像データおよび音声データを符号化する。そして、エンコーダ９４３は、符号化ビットストリームをセレクタ９４６へ出力する。
【０２９０】
HDD部９４４は、映像および音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラムおよびその他のデータを内部のハードディスクに記録する。また、HDD部９４４は、映像および音声の再生時に、これらデータをハードディスクから読み出す。
【０２９１】
ディスクドライブ９４５は、装着されている記録媒体へのデータの記録および読み出しを行う。ディスクドライブ９４５に装着される記録媒体は、例えばDVD（Digital Versatile Disc）ディスク（DVD-Video、DVD-RAM（DVD - Random Access Memory）、DVD-R（DVD - Recordable）、DVD-RW（DVD - Rewritable）、DVD+R（DVD + Recordable）、DVD+RW（DVD + Rewritable）等）又はBlu-ray（登録商標）ディスクなどであってよい。
【０２９２】
セレクタ９４６は、映像および音声の記録時には、チューナ９４１又はエンコーダ９４３から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD９４４又はディスクドライブ９４５へ出力する。また、セレクタ９４６は、映像及び音声の再生時には、HDD９４４又はディスクドライブ９４５から入力される符号化ビットストリームをデコーダ９４７へ出力する。
【０２９３】
デコーダ９４７は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ９４７は、生成した映像データをOSD部９４８へ出力する。また、デコーダ９４７は、生成した音声データを外部のスピーカへ出力する。
【０２９４】
OSD部９４８は、デコーダ９４７から入力される映像データを再生し、映像を表示する。また、OSD部９４８は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
【０２９５】
制御部９４９は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置９４０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部９５０から入力される操作信号に応じて、記録再生装置９４０の動作を制御する。
【０２９６】
ユーザインタフェース部９５０は、制御部９４９と接続される。ユーザインタフェース部９５０は、例えば、ユーザが記録再生装置９４０を操作するためのボタンおよびスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース部９５０は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９４９へ出力する。
【０２９７】
このように構成された記録再生装置９４０において、例えばエンコーダ９４３が、上述した画像符号化装置１００または画像符号化装置４００の機能を有するようにしてもよい。つまり、エンコーダ９４３が、画像データを、以上の各実施の形態において説明方法で符号化するようにしてもよい。このようにすることにより、記録再生装置９４０は、上述した各実施の形態と同様の効果を得ることができる。
【０２９８】
また、このように構成された記録再生装置９４０において、例えばデコーダ９４７が、上述した画像復号装置２００の機能を有するようにしてもよい。つまり、デコーダ９４７が、符号化データを、以上の各実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、記録再生装置９４０は、上述した各実施の形態と同様の効果を得ることができる。
【０２９９】
＜第４の応用例：撮像装置＞
図４６は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置９６０は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
【０３００】
撮像装置９６０は、光学ブロック９６１、撮像部９６２、信号処理部９６３、画像処理部９６４、表示部９６５、外部インタフェース（I/F）部９６６、メモリ部９６７、メディアドライブ９６８、OSD部９６９、制御部９７０、ユーザインタフェース（I/F）部９７１、およびバス９７２を備える。
【０３０１】
光学ブロック９６１は、撮像部９６２に接続される。撮像部９６２は、信号処理部９６３に接続される。表示部９６５は、画像処理部９６４に接続される。ユーザインタフェース部９７１は、制御部９７０に接続される。バス９７２は、画像処理部９６４、外部インタフェース部９６６、メモリ部９６７、メディアドライブ９６８、OSD部９６９、および制御部９７０を相互に接続する。
【０３０２】
光学ブロック９６１は、フォーカスレンズ及び絞り機構などを有する。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、CCD（Charge Coupled Device）又はCMOS（Complementary Metal Oxide Semiconductor）などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部９６２は、画像信号を信号処理部９６３へ出力する。
【０３０３】
信号処理部９６３は、撮像部９６２から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部９６３は、カメラ信号処理後の画像データを画像処理部９６４へ出力する。
【０３０４】
画像処理部９６４は、信号処理部９６３から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部９６４は、生成した符号化データを外部インタフェース部９６６またはメディアドライブ９６８へ出力する。また、画像処理部９６４は、外部インタフェース部９６６またはメディアドライブ９６８から入力される符号化データを復号し、画像データを生成する。そして、画像処理部９６４は、生成した画像データを表示部９６５へ出力する。また、画像処理部９６４は、信号処理部９６３から入力される画像データを表示部９６５へ出力して画像を表示させてもよい。また、画像処理部９６４は、OSD部９６９から取得される表示用データを、表示部９６５へ出力する画像に重畳してもよい。
【０３０５】
OSD部９６９は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部９６４へ出力する。
【０３０６】
外部インタフェース部９６６は、例えばUSB入出力端子として構成される。外部インタフェース部９６６は、例えば、画像の印刷時に、撮像装置９６０とプリンタとを接続する。また、外部インタフェース部９６６には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置９６０にインストールされ得る。さらに、外部インタフェース部９６６は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース部９６６は、撮像装置９６０における伝送部としての役割を有する。
【０３０７】
メディアドライブ９６８に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ９６８に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD（Solid State Drive）のような非可搬性の記憶部が構成されてもよい。
【０３０８】
制御部９７０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置９６０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部９７１から入力される操作信号に応じて、撮像装置９６０の動作を制御する。
【０３０９】
ユーザインタフェース部９７１は、制御部９７０と接続される。ユーザインタフェース部９７１は、例えば、ユーザが撮像装置９６０を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース部９７１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９７０へ出力する。
【０３１０】
このように構成された撮像装置９６０において、例えば画像処理部９６４が、上述した画像符号化装置１００、画像復号装置２００、または画像符号化装置４００の内の少なくとも１つ以上の機能を有するようにしてもよい。つまり、画像処理部９６４が、画像データを、以上の各実施の形態において説明した方法で符号化したり、復号したりすることができるようにしてもよい。このようにすることにより、撮像装置９６０は、上述した各実施の形態と同様の効果を得ることができる。
【０３１１】
＜第５の応用例：ビデオセット＞
また、本技術は、任意の装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI（Large Scale Integration）等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等（すなわち、装置の一部の構成）として実施することもできる。図４７は、本技術を適用したビデオセットの概略的な構成の一例を示している。
【０３１２】
近年、電子機器の多機能化が進んでおり、その開発や製造において、その一部の構成を販売や提供等として実施する場合、１機能を有する構成として実施を行う場合だけでなく、関連する機能を有する複数の構成を組み合わせ、複数の機能を有する１セットとして実施を行う場合も多く見られるようになってきた。
【０３１３】
図４７に示されるビデオセット１３００は、このような多機能化された構成であり、画像の符号化や復号（いずれか一方でもよいし、両方でも良い）に関する機能を有するデバイスに、その機能に関連するその他の機能を有するデバイスを組み合わせたものである。
【０３１４】
図４７に示されるように、ビデオセット１３００は、ビデオモジュール１３１１、外部メモリ１３１２、パワーマネージメントモジュール１３１３、およびフロントエンドモジュール１３１４等のモジュール群と、コネクティビティ１３２１、カメラ１３２２、およびセンサ１３２３等の関連する機能を有するデバイスとを有する。
【０３１５】
モジュールは、互いに関連するいくつかの部品的機能をまとめ、まとまりのある機能を持った部品としたものである。具体的な物理的構成は任意であるが、例えば、それぞれ機能を有する複数のプロセッサ、抵抗やコンデンサ等の電子回路素子、その他のデバイス等を配線基板等に配置して一体化したものが考えられる。また、モジュールに他のモジュールやプロセッサ等を組み合わせて新たなモジュールとすることも考えられる。
【０３１６】
図４７の例の場合、ビデオモジュール１３１１は、画像処理に関する機能を有する構成を組み合わせたものであり、アプリケーションプロセッサ、ビデオプロセッサ、ブロードバンドモデム１３３３、およびRFモジュール１３３４を有する。
【０３１７】
プロセッサは、所定の機能を有する構成をSoC（System On a Chip）により半導体チップに集積したものであり、例えばシステムLSI（Large Scale Integration）等と称されるものもある。この所定の機能を有する構成は、論理回路（ハードウエア構成）であってもよいし、CPU、ROM、RAM等と、それらを用いて実行されるプログラム（ソフトウエア構成）であってもよいし、その両方を組み合わせたものであってもよい。例えば、プロセッサが、論理回路とCPU、ROM、RAM等とを有し、機能の一部を論理回路（ハードウエア構成）により実現し、その他の機能をCPUにおいて実行されるプログラム（ソフトウエア構成）により実現するようにしてもよい。
【０３１８】
図４７のアプリケーションプロセッサ１３３１は、画像処理に関するアプリケーションを実行するプロセッサである。このアプリケーションプロセッサ１３３１において実行されるアプリケーションは、所定の機能を実現するために、演算処理を行うだけでなく、例えばビデオプロセッサ１３３２等、ビデオモジュール１３１１内外の構成を必要に応じて制御することもできる。
【０３１９】
ビデオプロセッサ１３３２は、画像の符号化・復号（その一方または両方）に関する機能を有するプロセッサである。
【０３２０】
ブロードバンドモデム１３３３は、インターネットや公衆電話回線網等の広帯域の回線を介して行われる有線若しくは無線（またはその両方）の広帯域通信により送信するデータ（デジタル信号）をデジタル変調する等してアナログ信号に変換したり、その広帯域通信により受信したアナログ信号を復調してデータ（デジタル信号）に変換したりする。ブロードバンドモデム１３３３は、例えば、ビデオプロセッサ１３３２が処理する画像データ、画像データが符号化されたストリーム、アプリケーションプログラム、設定データ等、任意の情報を処理する。
【０３２１】
RFモジュール１３３４は、アンテナを介して送受信されるRF（Radio Frequency）信号に対して、周波数変換、変復調、増幅、フィルタ処理等を行うモジュールである。例えば、RFモジュール１３３４は、ブロードバンドモデム１３３３により生成されたベースバンド信号に対して周波数変換等を行ってRF信号を生成する。また、例えば、RFモジュール１３３４は、フロントエンドモジュール１３１４を介して受信されたRF信号に対して周波数変換等を行ってベースバンド信号を生成する。
【０３２２】
なお、図４７において点線１３４１に示されるように、アプリケーションプロセッサ１３３１とビデオプロセッサ１３３２を、一体化し、１つのプロセッサとして構成されるようにしてもよい。
【０３２３】
外部メモリ１３１２は、ビデオモジュール１３１１の外部に設けられた、ビデオモジュール１３１１により利用される記憶デバイスを有するモジュールである。この外部メモリ１３１２の記憶デバイスは、どのような物理構成により実現するようにしてもよいが、一般的にフレーム単位の画像データのような大容量のデータの格納に利用されることが多いので、例えばDRAM（Dynamic Random Access Memory）のような比較的安価で大容量の半導体メモリにより実現するのが望ましい。
【０３２４】
パワーマネージメントモジュール１３１３は、ビデオモジュール１３１１（ビデオモジュール１３１１内の各構成）への電力供給を管理し、制御する。
【０３２５】
フロントエンドモジュール１３１４は、RFモジュール１３３４に対してフロントエンド機能（アンテナ側の送受信端の回路）を提供するモジュールである。図４７に示されるように、フロントエンドモジュール１３１４は、例えば、アンテナ部１３５１、フィルタ１３５２、および増幅部１３５３を有する。
【０３２６】
アンテナ部１３５１は、無線信号を送受信するアンテナおよびその周辺の構成を有する。アンテナ部１３５１は、増幅部１３５３から供給される信号を無線信号として送信し、受信した無線信号を電気信号（RF信号）としてフィルタ１３５２に供給する。フィルタ１３５２は、アンテナ部１３５１を介して受信されたRF信号に対してフィルタ処理等を行い、処理後のRF信号をRFモジュール１３３４に供給する。増幅部１３５３は、RFモジュール１３３４から供給されるRF信号を増幅し、アンテナ部１３５１に供給する。
【０３２７】
コネクティビティ１３２１は、外部との接続に関する機能を有するモジュールである。コネクティビティ１３２１の物理構成は、任意である。例えば、コネクティビティ１３２１は、ブロードバンドモデム１３３３が対応する通信規格以外の通信機能を有する構成や、外部入出力端子等を有する。
【０３２８】
例えば、コネクティビティ１３２１が、Bluetooth（登録商標）、IEEE 802.11（例えばWi-Fi（Wireless Fidelity、登録商標））、NFC（Near Field Communication）、IrDA（InfraRed Data Association）等の無線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した信号を送受信するアンテナ等を有するようにしてもよい。また、例えば、コネクティビティ１３２１が、USB（Universal Serial Bus）、HDMI（登録商標）（High-Definition Multimedia Interface）等の有線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した端子を有するようにしてもよい。さらに、例えば、コネクティビティ１３２１が、アナログ入出力端子等のその他のデータ（信号）伝送機能等を有するようにしてもよい。
【０３２９】
なお、コネクティビティ１３２１が、データ（信号）の伝送先のデバイスを含むようにしてもよい。例えば、コネクティビティ１３２１が、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の記録媒体に対してデータの読み出しや書き込みを行うドライブ（リムーバブルメディアのドライブだけでなく、ハードディスク、SSD（Solid State Drive）、NAS（Network Attached Storage）等も含む）を有するようにしてもよい。また、コネクティビティ１３２１が、画像や音声の出力デバイス（モニタやスピーカ等）を有するようにしてもよい。
【０３３０】
カメラ１３２２は、被写体を撮像し、被写体の画像データを得る機能を有するモジュールである。カメラ１３２２の撮像により得られた画像データは、例えば、ビデオプロセッサ１３３２に供給されて符号化される。
【０３３１】
センサ１３２３は、例えば、音声センサ、超音波センサ、光センサ、照度センサ、赤外線センサ、イメージセンサ、回転センサ、角度センサ、角速度センサ、速度センサ、加速度センサ、傾斜センサ、磁気識別センサ、衝撃センサ、温度センサ等、任意のセンサ機能を有するモジュールである。センサ１３２３により検出されたデータは、例えば、アプリケーションプロセッサ１３３１に供給されてアプリケーション等により利用される。
【０３３２】
以上においてモジュールとして説明した構成をプロセッサとして実現するようにしてもよいし、逆にプロセッサとして説明した構成をモジュールとして実現するようにしてもよい。
【０３３３】
以上のような構成のビデオセット１３００において、後述するようにビデオプロセッサ１３３２に本技術を適用することができる。したがって、ビデオセット１３００は、本技術を適用したセットとして実施することができる。
【０３３４】
＜ビデオプロセッサの構成例＞
図４８は、本技術を適用したビデオプロセッサ１３３２（図４７）の概略的な構成の一例を示している。
【０３３５】
図４８の例の場合、ビデオプロセッサ１３３２は、ビデオ信号およびオーディオ信号の入力を受けてこれらを所定の方式で符号化する機能と、符号化されたビデオデータおよびオーディオデータを復号し、ビデオ信号およびオーディオ信号を再生出力する機能とを有する。
【０３３６】
図４８に示されるように、ビデオプロセッサ１３３２は、ビデオ入力処理部１４０１、第１画像拡大縮小部１４０２、第２画像拡大縮小部１４０３、ビデオ出力処理部１４０４、フレームメモリ１４０５、およびメモリ制御部１４０６を有する。また、ビデオプロセッサ１３３２は、エンコード・デコードエンジン１４０７、ビデオES（Elementary Stream）バッファ１４０８Ａおよび１４０８Ｂ、並びに、オーディオESバッファ１４０９Ａおよび１４０９Ｂを有する。さらに、ビデオプロセッサ１３３２は、オーディオエンコーダ１４１０、オーディオデコーダ１４１１、多重化部（MUX（Multiplexer））１４１２、逆多重化部（DMUX（Demultiplexer））１４１３、およびストリームバッファ１４１４を有する。
【０３３７】
ビデオ入力処理部１４０１は、例えばコネクティビティ１３２１（図４７）等から入力されたビデオ信号を取得し、デジタル画像データに変換する。第１画像拡大縮小部１４０２は、画像データに対してフォーマット変換や画像の拡大縮小処理等を行う。第２画像拡大縮小部１４０３は、画像データに対して、ビデオ出力処理部１４０４を介して出力する先でのフォーマットに応じて画像の拡大縮小処理を行ったり、第１画像拡大縮小部１４０２と同様のフォーマット変換や画像の拡大縮小処理等を行ったりする。ビデオ出力処理部１４０４は、画像データに対して、フォーマット変換やアナログ信号への変換等を行って、再生されたビデオ信号として例えばコネクティビティ１３２１等に出力する。
【０３３８】
フレームメモリ１４０５は、ビデオ入力処理部１４０１、第１画像拡大縮小部１４０２、第２画像拡大縮小部１４０３、ビデオ出力処理部１４０４、およびエンコード・デコードエンジン１４０７によって共用される画像データ用のメモリである。フレームメモリ１４０５は、例えばDRAM等の半導体メモリとして実現される。
【０３３９】
メモリ制御部１４０６は、エンコード・デコードエンジン１４０７からの同期信号を受けて、アクセス管理テーブル１４０６Ａに書き込まれたフレームメモリ１４０５へのアクセススケジュールに従ってフレームメモリ１４０５に対する書き込み・読み出しのアクセスを制御する。アクセス管理テーブル１４０６Ａは、エンコード・デコードエンジン１４０７、第１画像拡大縮小部１４０２、第２画像拡大縮小部１４０３等で実行される処理に応じて、メモリ制御部１４０６により更新される。
【０３４０】
エンコード・デコードエンジン１４０７は、画像データのエンコード処理、並びに、画像データが符号化されたデータであるビデオストリームのデコード処理を行う。例えば、エンコード・デコードエンジン１４０７は、フレームメモリ１４０５から読み出した画像データを符号化し、ビデオストリームとしてビデオESバッファ１４０８Ａに順次書き込む。また、例えば、ビデオESバッファ１４０８Ｂからビデオストリームを順次読み出して復号し、画像データとしてフレームメモリ１４０５に順次書き込む。エンコード・デコードエンジン１４０７は、これらの符号化や復号において、フレームメモリ１４０５を作業領域として使用する。また、エンコード・デコードエンジン１４０７は、例えばマクロブロック毎の処理を開始するタイミングで、メモリ制御部１４０６に対して同期信号を出力する。
【０３４１】
ビデオESバッファ１４０８Ａは、エンコード・デコードエンジン１４０７によって生成されたビデオストリームをバッファリングして、多重化部（MUX）１４１２に供給する。ビデオESバッファ１４０８Ｂは、逆多重化部（DMUX）１４１３から供給されたビデオストリームをバッファリングして、エンコード・デコードエンジン１４０７に供給する。
【０３４２】
オーディオESバッファ１４０９Ａは、オーディオエンコーダ１４１０によって生成されたオーディオストリームをバッファリングして、多重化部（MUX）１４１２に供給する。オーディオESバッファ１４０９Ｂは、逆多重化部（DMUX）１４１３から供給されたオーディオストリームをバッファリングして、オーディオデコーダ１４１１に供給する。
【０３４３】
オーディオエンコーダ１４１０は、例えばコネクティビティ１３２１等から入力されたオーディオ信号を例えばデジタル変換し、例えばMPEGオーディオ方式やAC3（AudioCode number 3）方式等の所定の方式で符号化する。オーディオエンコーダ１４１０は、オーディオ信号が符号化されたデータであるオーディオストリームをオーディオESバッファ１４０９Ａに順次書き込む。オーディオデコーダ１４１１は、オーディオESバッファ１４０９Ｂから供給されたオーディオストリームを復号し、例えばアナログ信号への変換等を行って、再生されたオーディオ信号として例えばコネクティビティ１３２１等に供給する。
【０３４４】
多重化部（MUX）１４１２は、ビデオストリームとオーディオストリームとを多重化する。この多重化の方法（すなわち、多重化により生成されるビットストリームのフォーマット）は任意である。また、この多重化の際に、多重化部（MUX）１４１２は、所定のヘッダ情報等をビットストリームに付加することもできる。つまり、多重化部（MUX）１４１２は、多重化によりストリームのフォーマットを変換することができる。例えば、多重化部（MUX）１４１２は、ビデオストリームとオーディオストリームとを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームに変換する。また、例えば、多重化部（MUX）１４１２は、ビデオストリームとオーディオストリームとを多重化することにより、記録用のファイルフォーマットのデータ（ファイルデータ）に変換する。
【０３４５】
逆多重化部（DMUX）１４１３は、多重化部（MUX）１４１２による多重化に対応する方法で、ビデオストリームとオーディオストリームとが多重化されたビットストリームを逆多重化する。つまり、逆多重化部（DMUX）１４１３は、ストリームバッファ１４１４から読み出されたビットストリームからビデオストリームとオーディオストリームとを抽出する（ビデオストリームとオーディオストリームとを分離する）。つまり、逆多重化部（DMUX）１４１３は、逆多重化によりストリームのフォーマットを変換（多重化部（MUX）１４１２による変換の逆変換）することができる。例えば、逆多重化部（DMUX）１４１３は、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等から供給されたトランスポートストリームを、ストリームバッファ１４１４を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。また、例えば、逆多重化部（DMUX）１４１３は、例えばコネクティビティ１３２１により各種記録媒体から読み出されたファイルデータを、ストリームバッファ１４１４を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。
【０３４６】
ストリームバッファ１４１４は、ビットストリームをバッファリングする。例えば、ストリームバッファ１４１４は、多重化部（MUX）１４１２から供給されたトランスポートストリームをバッファリングし、所定のタイミングにおいて、または外部からの要求等に基づいて、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等に供給する。
【０３４７】
また、例えば、ストリームバッファ１４１４は、多重化部（MUX）１４１２から供給されたファイルデータをバッファリングし、所定のタイミングにおいて、または外部からの要求等に基づいて、例えばコネクティビティ１３２１等に供給し、各種記録媒体に記録させる。
【０３４８】
さらに、ストリームバッファ１４１４は、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等を介して取得したトランスポートストリームをバッファリングし、所定のタイミングにおいて、または外部からの要求等に基づいて、逆多重化部（DMUX）１４１３に供給する。
【０３４９】
また、ストリームバッファ１４１４は、例えばコネクティビティ１３２１等において各種記録媒体から読み出されたファイルデータをバッファリングし、所定のタイミングにおいて、または外部からの要求等に基づいて、逆多重化部（DMUX）１４１３に供給する。
【０３５０】
次に、このような構成のビデオプロセッサ１３３２の動作の例について説明する。例えば、コネクティビティ１３２１等からビデオプロセッサ１３３２に入力されたビデオ信号は、ビデオ入力処理部１４０１において４：２：２Ｙ／Ｃｂ／Ｃｒ方式等の所定の方式のデジタル画像データに変換され、フレームメモリ１４０５に順次書き込まれる。このデジタル画像データは、第１画像拡大縮小部１４０２または第２画像拡大縮小部１４０３に読み出されて、４：２：０Ｙ／Ｃｂ／Ｃｒ方式等の所定の方式へのフォーマット変換および拡大縮小処理が行われ、再びフレームメモリ１４０５に書き込まれる。この画像データは、エンコード・デコードエンジン１４０７によって符号化され、ビデオストリームとしてビデオESバッファ１４０８Ａに書き込まれる。
【０３５１】
また、コネクティビティ１３２１等からビデオプロセッサ１３３２に入力されたオーディオ信号は、オーディオエンコーダ１４１０によって符号化され、オーディオストリームとして、オーディオESバッファ１４０９Ａに書き込まれる。
【０３５２】
ビデオESバッファ１４０８Ａのビデオストリームと、オーディオESバッファ１４０９Ａのオーディオストリームは、多重化部（MUX）１４１２に読み出されて多重化され、トランスポートストリームまたはファイルデータ等に変換される。多重化部（MUX）１４１２により生成されたトランスポートストリームは、ストリームバッファ１４１４にバッファされた後、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等を介して外部ネットワークに出力される。また、多重化部（MUX）１４１２により生成されたファイルデータは、ストリームバッファ１４１４にバッファされた後、例えばコネクティビティ１３２１等に出力され、各種記録媒体に記録される。
【０３５３】
また、例えばコネクティビティ１３２１やブロードバンドモデム１３３３等を介して外部ネットワークからビデオプロセッサ１３３２に入力されたトランスポートストリームは、ストリームバッファ１４１４にバッファされた後、逆多重化部（DMUX）１４１３により逆多重化される。また、例えばコネクティビティ１３２１等において各種記録媒体から読み出され、ビデオプロセッサ１３３２に入力されたファイルデータは、ストリームバッファ１４１４にバッファされた後、逆多重化部（DMUX）１４１３により逆多重化される。つまり、ビデオプロセッサ１３３２に入力されたトランスポートストリームまたはファイルデータは、逆多重化部（DMUX）１４１３によりビデオストリームとオーディオストリームとに分離される。
【０３５４】
オーディオストリームは、オーディオESバッファ１４０９Ｂを介してオーディオデコーダ１４１１に供給され、復号されてオーディオ信号が再生される。また、ビデオストリームは、ビデオESバッファ１４０８Ｂに書き込まれた後、エンコード・デコードエンジン１４０７により順次読み出されて復号されてフレームメモリ１４０５に書き込まれる。復号された画像データは、第２画像拡大縮小部１４０３によって拡大縮小処理されて、フレームメモリ１４０５に書き込まれる。そして、復号された画像データは、ビデオ出力処理部１４０４に読み出されて、４：２：２Ｙ／Ｃｂ／Ｃｒ方式等の所定の方式にフォーマット変換され、さらにアナログ信号に変換されて、ビデオ信号が再生出力される。
【０３５５】
このように構成されるビデオプロセッサ１３３２に本技術を適用する場合、エンコード・デコードエンジン１４０７に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、エンコード・デコードエンジン１４０７が、上述した画像符号化装置１００、画像復号装置２００、または画像符号化装置４００の内の少なくとも１つ以上の機能を有するようにしてもよい。このようにすることにより、ビデオプロセッサ１３３２は、上述した各実施の形態と同様の効果を得ることができる。
【０３５６】
なお、エンコード・デコードエンジン１４０７において、本技術（すなわち、画像符号化装置１００および画像符号化装置４００の機能）は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
【０３５７】
＜ビデオプロセッサの他の構成例＞
図４９は、本技術を適用したビデオプロセッサ１３３２の概略的な構成の他の例を示している。図４９の例の場合、ビデオプロセッサ１３３２は、ビデオデータを所定の方式で符号化・復号する機能を有する。
【０３５８】
より具体的には、図４９に示されるように、ビデオプロセッサ１３３２は、制御部１５１１、ディスプレイインタフェース１５１２、ディスプレイエンジン１５１３、画像処理エンジン１５１４、および内部メモリ１５１５を有する。また、ビデオプロセッサ１３３２は、コーデックエンジン１５１６、メモリインタフェース１５１７、多重化・逆多重化部（MUX DMUX）１５１８、ネットワークインタフェース１５１９、およびビデオインタフェース１５２０を有する。
【０３５９】
制御部１５１１は、ディスプレイインタフェース１５１２、ディスプレイエンジン１５１３、画像処理エンジン１５１４、およびコーデックエンジン１５１６等、ビデオプロセッサ１３３２内の各処理部の動作を制御する。
【０３６０】
図４９に示されるように、制御部１５１１は、例えば、メインCPU１５３１、サブCPU１５３２、およびシステムコントローラ１５３３を有する。メインCPU１５３１は、ビデオプロセッサ１３３２内の各処理部の動作を制御するためのプログラム等を実行する。メインCPU１５３１は、そのプログラム等に従って制御信号を生成し、各処理部に供給する（つまり、各処理部の動作を制御する）。サブCPU１５３２は、メインCPU１５３１の補助的な役割を果たす。例えば、サブCPU１５３２は、メインCPU１５３１が実行するプログラム等の子プロセスやサブルーチン等を実行する。システムコントローラ１５３３は、メインCPU１５３１およびサブCPU１５３２が実行するプログラムを指定する等、メインCPU１５３１およびサブCPU１５３２の動作を制御する。
【０３６１】
ディスプレイインタフェース１５１２は、制御部１５１１の制御の下、画像データを例えばコネクティビティ１３２１等に出力する。例えば、ディスプレイインタフェース１５１２は、デジタルデータの画像データをアナログ信号に変換し、再生されたビデオ信号として、またはデジタルデータの画像データのまま、コネクティビティ１３２１のモニタ装置等に出力する。
【０３６２】
ディスプレイエンジン１５１３は、制御部１５１１の制御の下、画像データに対して、その画像を表示させるモニタ装置等のハードウエアスペックに合わせるように、フォーマット変換、サイズ変換、色域変換等の各種変換処理を行う。
【０３６３】
画像処理エンジン１５１４は、制御部１５１１の制御の下、画像データに対して、例えば画質改善のためのフィルタ処理等、所定の画像処理を施す。
【０３６４】
内部メモリ１５１５は、ディスプレイエンジン１５１３、画像処理エンジン１５１４、およびコーデックエンジン１５１６により共用される、ビデオプロセッサ１３３２の内部に設けられたメモリである。内部メモリ１５１５は、例えば、ディスプレイエンジン１５１３、画像処理エンジン１５１４、およびコーデックエンジン１５１６の間で行われるデータの授受に利用される。例えば、内部メモリ１５１５は、ディスプレイエンジン１５１３、画像処理エンジン１５１４、またはコーデックエンジン１５１６から供給されるデータを格納し、必要に応じて（例えば、要求に応じて）、そのデータを、ディスプレイエンジン１５１３、画像処理エンジン１５１４、またはコーデックエンジン１５１６に供給する。この内部メモリ１５１５は、どのような記憶デバイスにより実現するようにしてもよいが、一般的にブロック単位の画像データやパラメータ等といった小容量のデータの格納に利用することが多いので、例えばSRAM（Static Random Access Memory）のような比較的（例えば外部メモリ１３１２と比較して）小容量だが応答速度が高速な半導体メモリにより実現するのが望ましい。
【０３６５】
コーデックエンジン１５１６は、画像データの符号化や復号に関する処理を行う。このコーデックエンジン１５１６が対応する符号化・復号の方式は任意であり、その数は１つであってもよいし、複数であってもよい。例えば、コーデックエンジン１５１６は、複数の符号化・復号方式のコーデック機能を備え、その中から選択されたもので画像データの符号化または符号化データの復号を行うようにしてもよい。
【０３６６】
図４９に示される例において、コーデックエンジン１５１６は、コーデックに関する処理の機能ブロックとして、例えば、MPEG-2 Video１５４１、AVC/H.264１５４２、HEVC/H.265１５４３、HEVC/H.265(Scalable)１５４４、HEVC/H.265(Multi-view)１５４５、およびMPEG-DASH１５５１を有する。
【０３６７】
MPEG-2 Video１５４１は、画像データをMPEG-2方式で符号化したり復号したりする機能ブロックである。AVC/H.264１５４２は、画像データをAVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265１５４３は、画像データをHEVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265(Scalable)１５４４は、画像データをHEVC方式でスケーラブル符号化したりスケーラブル復号したりする機能ブロックである。HEVC/H.265(Multi-view)１５４５は、画像データをHEVC方式で多視点符号化したり多視点復号したりする機能ブロックである。
【０３６８】
MPEG-DASH１５５１は、画像データをMPEG-DASH（MPEG-Dynamic Adaptive Streaming over HTTP）方式で送受信する機能ブロックである。MPEG-DASHは、HTTP（HyperText Transfer Protocol）を使ってビデオのストリーミングを行う技術であり、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択し伝送することを特徴の１つとする。MPEG-DASH１５５１は、規格に準拠するストリームの生成やそのストリームの伝送制御等を行い、画像データの符号化・復号については、上述したMPEG-2 Video１５４１乃至HEVC/H.265(Multi-view)１５４５を利用する。
【０３６９】
メモリインタフェース１５１７は、外部メモリ１３１２用のインタフェースである。画像処理エンジン１５１４やコーデックエンジン１５１６から供給されるデータは、メモリインタフェース１５１７を介して外部メモリ１３１２に供給される。また、外部メモリ１３１２から読み出されたデータは、メモリインタフェース１５１７を介してビデオプロセッサ１３３２（画像処理エンジン１５１４またはコーデックエンジン１５１６）に供給される。
【０３７０】
多重化・逆多重化部（MUX DMUX）１５１８は、符号化データのビットストリーム、画像データ、ビデオ信号等、画像に関する各種データの多重化や逆多重化を行う。この多重化・逆多重化の方法は任意である。例えば、多重化の際に、多重化・逆多重化部（MUX DMUX）１５１８は、複数のデータを１つにまとめるだけでなく、所定のヘッダ情報等をそのデータに付加することもできる。また、逆多重化の際に、多重化・逆多重化部（MUX DMUX）１５１８は、１つのデータを複数に分割するだけでなく、分割した各データに所定のヘッダ情報等を付加することもできる。つまり、多重化・逆多重化部（MUX DMUX）１５１８は、多重化・逆多重化によりデータのフォーマットを変換することができる。例えば、多重化・逆多重化部（MUX DMUX）１５１８は、ビットストリームを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームや、記録用のファイルフォーマットのデータ（ファイルデータ）に変換することができる。もちろん、逆多重化によりその逆変換も可能である。
【０３７１】
ネットワークインタフェース１５１９は、例えばブロードバンドモデム１３３３やコネクティビティ１３２１等向けのインタフェースである。ビデオインタフェース１５２０は、例えばコネクティビティ１３２１やカメラ１３２２等向けのインタフェースである。
【０３７２】
次に、このようなビデオプロセッサ１３３２の動作の例について説明する。例えば、コネクティビティ１３２１やブロードバンドモデム１３３３等を介して外部ネットワークからトランスポートストリームを受信すると、そのトランスポートストリームは、ネットワークインタフェース１５１９を介して多重化・逆多重化部（MUX DMUX）１５１８に供給されて逆多重化され、コーデックエンジン１５１６により復号される。コーデックエンジン１５１６の復号により得られた画像データは、例えば、画像処理エンジン１５１４により所定の画像処理が施され、ディスプレイエンジン１５１３により所定の変換が行われ、ディスプレイインタフェース１５１２を介して例えばコネクティビティ１３２１等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン１５１６の復号により得られた画像データは、コーデックエンジン１５１６により再符号化され、多重化・逆多重化部（MUX DMUX）１５１８により多重化されてファイルデータに変換され、ビデオインタフェース１５２０を介して例えばコネクティビティ１３２１等に出力され、各種記録媒体に記録される。
【０３７３】
さらに、例えば、コネクティビティ１３２１等により図示せぬ記録媒体から読み出された、画像データが符号化された符号化データのファイルデータは、ビデオインタフェース１５２０を介して多重化・逆多重化部（MUX DMUX）１５１８に供給されて逆多重化され、コーデックエンジン１５１６により復号される。コーデックエンジン１５１６の復号により得られた画像データは、画像処理エンジン１５１４により所定の画像処理が施され、ディスプレイエンジン１５１３により所定の変換が行われ、ディスプレイインタフェース１５１２を介して例えばコネクティビティ１３２１等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン１５１６の復号により得られた画像データは、コーデックエンジン１５１６により再符号化され、多重化・逆多重化部（MUX DMUX）１５１８により多重化されてトランスポートストリームに変換され、ネットワークインタフェース１５１９を介して例えばコネクティビティ１３２１やブロードバンドモデム１３３３等に供給され図示せぬ他の装置に伝送される。
【０３７４】
なお、ビデオプロセッサ１３３２内の各処理部の間での画像データやその他のデータの授受は、例えば、内部メモリ１５１５や外部メモリ１３１２を利用して行われる。また、パワーマネージメントモジュール１３１３は、例えば制御部１５１１への電力供給を制御する。
【０３７５】
このように構成されるビデオプロセッサ１３３２に本技術を適用する場合、コーデックエンジン１５１６に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、コーデックエンジン１５１６が、上述した画像符号化装置１００または画像符号化装置４００の機能を有するようにすればよい。このようにすることにより、ビデオプロセッサ１３３２は、上述した各実施の形態と同様の効果を得ることができる。
【０３７６】
なお、コーデックエンジン１５１６において、本技術（すなわち、画像符号化装置１００または画像符号化装置４００の機能）は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
【０３７７】
以上にビデオプロセッサ１３３２の構成を２例示したが、ビデオプロセッサ１３３２の構成は任意であり、上述した２例以外のものであってもよい。また、このビデオプロセッサ１３３２は、１つの半導体チップとして構成されるようにしてもよいが、複数の半導体チップとして構成されるようにしてもよい。例えば、複数の半導体を積層する３次元積層LSIとしてもよい。また、複数のLSIにより実現されるようにしてもよい。
【０３７８】
＜装置への適用例＞
ビデオセット１３００は、画像データを処理する各種装置に組み込むことができる。例えば、ビデオセット１３００は、テレビジョン装置９００（図４３）、携帯電話機９２０（図４４）、記録再生装置９４０（図４５）、撮像装置９６０（図４６）等に組み込むことができる。ビデオセット１３００を組み込むことにより、その装置は、上述した各実施の形態と同様の効果を得ることができる。
【０３７９】
なお、上述したビデオセット１３００の各構成の一部であっても、ビデオプロセッサ１３３２を含むものであれば、本技術を適用した構成として実施することができる。例えば、ビデオプロセッサ１３３２のみを本技術を適用したビデオプロセッサとして実施することができる。また、例えば、上述したように点線１３４１により示されるプロセッサやビデオモジュール１３１１等を、本技術を適用したプロセッサやモジュール等として実施することができる。さらに、例えば、ビデオモジュール１３１１、外部メモリ１３１２、パワーマネージメントモジュール１３１３、およびフロントエンドモジュール１３１４を組み合わせ、本技術を適用したビデオユニット１３６１として実施することもできる。いずれの構成の場合であっても、上述した各実施の形態と同様の効果を得ることができる。
【０３８０】
つまり、ビデオプロセッサ１３３２を含むものであればどのような構成であっても、ビデオセット１３００の場合と同様に、画像データを処理する各種装置に組み込むことができる。例えば、ビデオプロセッサ１３３２、点線１３４１により示されるプロセッサ、ビデオモジュール１３１１、または、ビデオユニット１３６１を、テレビジョン装置９００（図４３）、携帯電話機９２０（図４４）、記録再生装置９４０（図４５）、撮像装置９６０（図４６）等に組み込むことができる。そして、本技術を適用したいずれかの構成を組み込むことにより、その装置は、ビデオセット１３００の場合と同様に、上述した各実施の形態と同様の効果を得ることができる。
【０３８１】
＜第６の応用例：ネットワークシステム＞
また、本技術は、複数の装置により構成されるネットワークシステムにも適用することもできる。図５０は、本技術を適用したネットワークシステムの概略的な構成の一例を示している。
【０３８２】
図５０に示されるネットワークシステム１６００は、機器同士が、ネットワークを介して画像（動画像）に関する情報を授受するシステムである。このネットワークシステム１６００のクラウドサービス１６０１は、自身に通信可能に接続されるコンピュータ１６１１、AV（Audio Visual）機器１６１２、携帯型情報処理端末１６１３、IoT（Internet of Things）デバイス１６１４等の端末に対して、画像（動画像）に関するサービスを提供するシステムである。例えば、クラウドサービス１６０１は、所謂動画配信（オンデマンドやライブ配信）のような、画像（動画像）のコンテンツの供給サービスを端末に提供する。また、例えば、クラウドサービス１６０１は、端末から画像（動画像）のコンテンツを受け取って保管するバックアップサービスを提供する。また、例えば、クラウドサービス１６０１は、端末同士の画像（動画像）のコンテンツの授受を仲介するサービスを提供する。
【０３８３】
クラウドサービス１６０１の物理構成は任意である。例えば、クラウドサービス１６０１は、動画像を保存し、管理するサーバ、動画像を端末に配信するサーバ、動画像を端末から取得するサーバ、ユーザ（端末）や課金を管理するサーバ等の各種サーバや、インターネットやLAN等の任意のネットワークを有するようにしてもよい。
【０３８４】
コンピュータ１６１１は、例えば、パーソナルコンピュータ、サーバ、ワークステーション等のような情報処理装置により構成される。AV機器１６１２は、例えば、テレビジョン受像機、ハードディスクレコーダ、ゲーム機器、カメラ等のような画像処理装置により構成される。携帯型情報処理端末１６１３は、例えば、ノート型パーソナルコンピュータ、タブレット端末、携帯電話機、スマートフォン等のような携帯型の情報処理装置により構成される。IoTデバイス１６１４は、例えば、機械、家電、家具、その他の物、ICタグ、カード型デバイス等、画像に関する処理を行う任意の物体により構成される。これらの端末は、いずれも通信機能を有し、クラウドサービス１６０１に接続し（セッションを確立し）、クラウドサービス１６０１と情報の授受を行う（すなわち通信を行う）ことができる。また、各端末は、他の端末と通信を行うこともできる。端末間の通信は、クラウドサービス１６０１を介して行うようにしてもよいし、クラウドサービス１６０１を介さずに行うようにしてもよい。
【０３８５】
以上のようなネットワークシステム１６００に本技術を適用し、端末間や、端末とクラウドサービス１６０１との間で画像（動画像）のデータが授受される際に、その画像データが各実施の形態において上述したように符号化されるようにしてもよい。つまり、端末（コンピュータ１６１１乃至IoTデバイス１６１４）やクラウドサービス１６０１が、それぞれ、上述した画像符号化装置１００、画像復号装置２００、または画像符号化装置４００の内の少なくとも１つ以上の機能を有するようにしてもよい。このようにすることにより、画像データを授受する端末（コンピュータ１６１１乃至IoTデバイス１６１４）やクラウドサービス１６０１は、上述した各実施の形態と同様の効果を得ることができる。
【０３８６】
＜その他＞
なお、符号化データ（ビットストリーム）に関する各種情報は、符号化データに多重化されて伝送され又は記録されるようにしてもよいし、符号化データに多重化されることなく、符号化データと関連付けられた別個のデータとして伝送され又は記録されるようにしてもよい。ここで、「関連付ける」という用語は、例えば、一方のデータを処理する際に他方のデータを利用し得る（リンクさせ得る）ようにすることを意味する。つまり、互いに関連付けられたデータは、１つのデータとしてまとめられてもよいし、それぞれ個別のデータとしてもよい。例えば、符号化データ（画像）に関連付けられた情報は、その符号化データ（画像）とは別の伝送路上で伝送されるようにしてもよい。また、例えば、符号化データ（画像）に関連付けられた情報は、その符号化データ（画像）とは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されるようにしてもよい。なお、この「関連付け」は、データ全体でなく、データの一部であってもよい。例えば、画像とその画像に対応する情報とが、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられるようにしてもよい。
【０３８７】
また、上述したように、本明細書において、「合成する」、「多重化する」、「付加する」、「一体化する」、「含める」、「格納する」、「入れ込む」、「差し込む」、「挿入する」等の用語は、例えば符号化データとメタデータとを１つのデータにまとめるといった、複数の物を１つにまとめることを意味し、上述の「関連付ける」の１つの方法を意味する。
【０３８８】
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０３８９】
例えば、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０３９０】
また、例えば、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。
【０３９１】
また、例えば、本技術は、１つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０３９２】
また、例えば、上述したプログラムは、任意の装置において実行することができる。その場合、その装置が、必要な機能（機能ブロック等）を有し、必要な情報を得ることができるようにすればよい。
【０３９３】
また、例えば、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０３９４】
なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしても良い。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしても良いし、他のプログラムの処理と組み合わせて実行されるようにしても良い。
【０３９５】
なお、本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術を、他の実施の形態において説明した本技術と組み合わせて実施することもできる。また、上述した任意の本技術を、上述していない他の技術と併用して実施することもできる。
【０３９６】
なお、本技術は以下のような構成も取ることができる。
（１）  符号化対象の画像の、量子化を行うカレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定するスケーリングリスト設定部と、
前記スケーリングリスト設定部により設定された前記スケーリングリストを用いて量子化を行う量子化部と、
前記量子化部により得られた量子化係数を符号化し、符号化データを生成する符号化部と
を備える画像処理装置。
（２）  前記スケーリングリスト設定部は、前記カレントブロックのサイズが大きい程、より大きな値を有するスケーリングリストを設定する
（１）に記載の画像処理装置。
（３）  前記スケーリングリスト設定部は、サイズが16x16の前記カレントブロックに対して、サイズが8x8以下の場合に対応するスケーリングリストと比べて、より高域成分側の一部の値が大きいスケーリングリストを設定する
（１）または（２）に記載の画像処理装置。
（４）  前記スケーリングリスト設定部は、サイズが32x32の前記カレントブロックに対して、サイズが8x8以下の場合に対応するスケーリングリストと比べて、全ての値が大きいスケーリングリストを設定する
（１）乃至（３）のいずれかに記載の画像処理装置。
（５）  前記スケーリングリスト設定部は、前記カレントブロックに対して、前記カレントブロックのサイズおよび符号化の目標ビットレートに応じた値を有するスケーリングリストを設定する
（１）乃至（４）のいずれかに記載の画像処理装置。
（６）  前記スケーリングリスト設定部は、前記目標ビットレートが低い場合、前記カレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定する
（１）乃至（５）のいずれかに記載の画像処理装置。
（７）  前記スケーリングリスト設定部は、前記画像処理装置の外部から供給される前記目標ビットレートの指定に基づいて、前記目標ビットレートが低いか否かを判定し、前記目標ビットレートが低い場合、前記カレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定する
（１）乃至（６）のいずれかに記載の画像処理装置。
（８）  前記符号化対象の画像に含まれる平坦部を検出する平坦検出部と、
前記平坦検出部により検出された前記平坦部にサイズが大きなブロックを設定するブロック設定部と
をさらに備え、
前記スケーリングリスト設定部は、前記ブロック設定部により設定された、サイズが大きなブロックに対して、前記ブロックのサイズに応じた値を有するスケーリングリストを設定するように構成される
（１）乃至（７）のいずれかに記載の画像処理装置。
（９）  前記平坦検出部は、variance、TVnorm、または、ブロック内の画素値のダイナミックレンジに基づいて前記平坦部を検出する
（１）乃至（８）のいずれかに記載の画像処理装置。
（１０）  前記平坦検出部は、前記目標ビットレートが低い場合、前記平坦部を検出する
（１）乃至（９）のいずれかに記載の画像処理装置。
（１１）  前記平坦検出部は、前記画像の注目領域以外の領域において前記平坦部を検出する
（１）乃至（１０）のいずれかに記載の画像処理装置。
（１２）  前記ブロック設定部は、前記注目領域内において、サイズが大きなブロックの設定を禁止する
（１）乃至（１１）のいずれかに記載の画像処理装置。
（１３）  前記スケーリングリスト設定部は、予め用意された複数のスケーリングリストの中から、前記カレントブロックのサイズに応じた値を有するスケーリングリストを選択する
（１）乃至（１２）のいずれかに記載の画像処理装置。
（１４）  前記符号化部は、前記スケーリングリスト設定部により選択された前記スケーリングリストを示す識別情報を符号化し、前記符号化データに格納する
（１）乃至（１３）のいずれかに記載の画像処理装置。
（１５）  前記符号化部は、前記複数のスケーリングリストを符号化し、前記符号化データに格納する
（１）乃至（１４）のいずれかに記載の画像処理装置。
（１６）  前記スケーリングリスト設定部は、予め用意された単数のスケーリングリストを用いて、前記カレントブロックのサイズに応じた値を有するスケーリングリストを生成する
（１）乃至（１５）のいずれかに記載の画像処理装置。
（１７）  前記符号化対象の画像を直交変換する直交変換部をさらに備え、
前記量子化部は、前記直交変換部により得られた直交変換係数を、前記スケーリングリスト設定部により設定された前記スケーリングリストを用いて量子化するように構成される
（１）乃至（１６）のいずれかに記載の画像処理装置。
（１８）  前記符号化対象の画像の予測画像を生成する予測部と、
前記符号化対象の画像から、前記予測部により生成された前記予測画像を減算して残差データを生成する演算部と
をさらに備え、
前記直交変換部は、前記演算部により得られた前記残差データを直交変換するように構成される
（１）乃至（１７）のいずれかに記載の画像処理装置。
（１９）  前記量子化部および前記符号化部は、ITU-T H.265|ISO/IEC 23008-2 High Efficiency Video Codingに準拠した方法でそれぞれの処理を行う
（１）乃至（１８）のいずれかに記載の画像処理装置。
（２０）  符号化対象の画像の、量子化を行うカレントブロックに対して、前記カレントブロックのサイズに応じた値を有するスケーリングリストを設定し、
設定された前記スケーリングリストを用いて量子化を行い、
得られた量子化係数を符号化し、符号化データを生成する
画像処理方法。
【０３９７】
（３１）  前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定する
（１）乃至（２０）のいずれかに記載の画像処理装置。
（３２）  前記所定のサイズは、32x32である
（３１）に記載の画像処理装置。
（３３）  前記スケーリングリスト設定部は、前記画像のダイナミックレンジが所定のレンジよりも大きく、かつ、前記カレントブロックのサイズが前記所定のサイズ以上である場合、より低域成分側の前記一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さいスケーリングリストを設定する
（３１）または（３２）に記載の画像処理装置。
（３４）  前記所定のレンジは、１０ビットである
（３３）に記載の画像処理装置。
（３５）  前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の一部の値が、前記所定のサイズよりも小さいブロックの場合よりも小さく、かつ、目標ビットレートに応じた値であるスケーリングリストを設定する
（３１）乃至（３４）のいずれかに記載の画像処理装置。
（３６）  前記スケーリングリスト設定部は、カレントピクチャに輝度変化の少ない平坦部が含まれている場合、より低域成分側の前記一部の値が、前記平坦部が含まれていない場合よりも小さいスケーリングリストを設定する
（３１）乃至（３５）のいずれかに記載の画像処理装置。
（３７）  前記スケーリングリスト設定部は、カレントブロックのより低域成分側の一部の係数に対するスケーリングリストを設定する
（３１）乃至（３６）のいずれかに記載の画像処理装置。
【０３９８】
（４１）  符号化対象の画像の、量子化を行うカレントブロックに対して、より低域成分側の一部の値が直流成分の値よりも小さいスケーリングリストを設定するスケーリングリスト設定部と、
前記スケーリングリスト設定部により設定された前記スケーリングリストを用いて量子化を行う量子化部と、
前記量子化部により得られた量子化係数を符号化し、符号化データを生成する符号化部と
を備える画像処理装置。
（４２）  前記スケーリングリスト設定部は、前記カレントブロックのサイズが所定のサイズ以上である場合、より低域成分側の前記一部の値が前記直流成分の値よりも小さいスケーリングリストを設定する
（４１）に記載の画像処理装置。
（４３）  前記所定のサイズは、32x32である
（４２）に記載の画像処理装置。
（４４）  前記スケーリングリスト設定部は、前記画像のダイナミックレンジが所定のレンジよりも大きい場合、より低域成分側の前記一部の値が前記直流成分の値よりも小さいスケーリングリストを設定する
（４１）乃至（４３）のいずれかに記載の画像処理装置。
（４５）  前記所定のレンジは、１０ビットである
（４４）に記載の画像処理装置。
（４６）  前記スケーリングリスト設定部は、より低域成分側の前記一部の値が前記直流成分の値よりも小さく、かつ、目標ビットレートに応じた値であるスケーリングリストを設定する
（４１）乃至（４５）のいずれかに記載の画像処理装置。
（４７）  前記スケーリングリストのより低域成分側の前記一部の値は、前記目標ビットレートが低い場合ほど大きい
（４６）に記載の画像処理装置。
（４８）  前記スケーリングリストの前記直流成分よりも小さな値をとる範囲は、前記目標ビットレートが低い場合ほど狭い
（４６）または（４７）に記載の画像処理装置。
（４９）  前記スケーリングリスト設定部は、カレントピクチャに輝度変化の少ない平坦部が含まれている場合、より低域成分側の前記一部の値が前記直流成分の値よりも小さいスケーリングリストを設定する
（４１）乃至（４８）のいずれかに記載の画像処理装置。
（５０）  前記スケーリングリストのより低域成分側の前記一部の値は、前記カレントピクチャに前記平坦部が含まれているとの情報の信頼度に応じた値である
（４９）に記載の画像処理装置。
（５１）  前記スケーリングリストのより低域成分側の前記一部の値は、前記信頼度が高いほど小さな値をとる
（５０）に記載の画像処理装置。
（５２）  前記スケーリングリスト設定部は、予め用意された複数のスケーリングリストの中から設定するスケーリングリストを選択する
（５１）に記載の画像処理装置。
（５３）  前記符号化部は、前記スケーリングリスト設定部により選択された前記スケーリングリストを示す識別情報を符号化し、前記符号化データに格納する
（５２）に記載の画像処理装置。
（５４）  前記符号化部は、前記複数のスケーリングリストを符号化し、前記符号化データに格納する
（５３）に記載の画像処理装置。
（５５）  前記スケーリングリスト設定部は、カレントブロックのより低域成分側の一部の係数に対するスケーリングリストを設定する
（５１）乃至（５４）のいずれかに記載の画像処理装置。
（５６）  前記量子化部は、前記カレントブロックのより低域成分側の前記一部の係数に対して、設定された前記スケーリングリストを用いて量子化を行い、前記一部の係数以外の他の係数の値をゼロにする
（５５）に記載の画像処理装置。
（５７）  前記符号化対象の画像を直交変換する直交変換部をさらに備え、
前記量子化部は、前記直交変換部により得られた直交変換係数を、前記スケーリングリスト設定部により設定された前記スケーリングリストを用いて量子化するように構成される
（５１）乃至（５６）のいずれかに記載の画像処理装置。
（５８）  前記符号化対象の画像の予測画像を生成する予測部と、
前記符号化対象の画像から、前記予測部により生成された前記予測画像を減算して残差データを生成する演算部と
をさらに備え、
前記直交変換部は、前記演算部により得られた前記残差データを直交変換するように構成される
（５７）に記載の画像処理装置。
（５９）  前記量子化部および前記符号化部は、ITU-T H.265|ISO/IEC 23008-2 High Efficiency Video Codingに準拠した方法でそれぞれの処理を行う
（５１）乃至（５８）のいずれかに記載の画像処理装置。
（６０）  符号化対象の画像の、量子化を行うカレントブロックに対して、より低域成分側の一部の値が直流成分の値よりも小さいスケーリングリストを設定し、
設定された前記スケーリングリストを用いて量子化を行い、
得られた量子化係数を符号化し、符号化データを生成する
画像処理方法。
【符号の説明】
【０３９９】
１００  画像符号化装置，  １１１  前処理バッファ，  １１２  前処理部，  １１３  演算部，  １１４  直交変換部，  １１５  スケーリングリスト記憶部，  １１６  スケーリングリスト選択部，  １１７  量子化部，  １１８  符号化部，  １１９  蓄積バッファ，  １２０  逆量子化部，  １２１  逆直交変換部，  １２２  演算部，  １２３  フィルタ，  １２４  フレームメモリ，  １２５  イントラ予測部，  １２６  インター予測部，  １２７  予測画像選択部，  １５１  画面並べ替え部，  １５２  メタデータ設定部，  １５３  ブロック設定部，  １６１  平坦検出部，  １７１  平坦検出部，  １８１  平坦検出部，  ２００  画像復号装置，  ２１１  蓄積バッファ，  ２１２  復号部，  ２１３  逆量子化部，  ２１４  逆直交変換部，  ２１５  演算部，  ２１６  フィルタ，  ２１７  後処理バッファ，  ２１８  後処理部，  ２１９  イントラ予測部，  ２２０  フレームメモリ，  ２２１  インター予測部，  ２２２  予測画像選択部，  ４００  画像符号化装置，  ４１５  スケーリングリスト記憶部，  ４１６  スケーリングリスト選択部
【図１】
2018008387.tif 000004
【図２】
2018008387.tif 000005
【図３】
2018008387.tif 000006
【図４】
2018008387.tif 000007
【図５】
2018008387.tif 000008
【図６】
2018008387.tif 000009
【図７】
2018008387.tif 000010
【図８】
2018008387.tif 000011
【図９】
2018008387.tif 000012
【図１０】
2018008387.tif 000013
【図１１】
2018008387.tif 000014
【図１２】
2018008387.tif 000015
【図１３】
2018008387.tif 000016
【図１４】
2018008387.tif 000017
【図１５】
2018008387.tif 000018
【図１６】
2018008387.tif 000019
【図１７】
2018008387.tif 000020
【図１８】
2018008387.tif 000021
【図１９】
2018008387.tif 000022
【図２０】
2018008387.tif 000023
【図２１】
2018008387.tif 000024
【図２２】
2018008387.tif 000025
【図２３】
2018008387.tif 000026
【図２４】
2018008387.tif 000027
【図２５】
2018008387.tif 000028
【図２６】
2018008387.tif 000029
【図２７】
2018008387.tif 000030
【図２８】
2018008387.tif 000031
【図２９】
2018008387.tif 000032
【図３０】
2018008387.tif 000033
【図３１】
2018008387.tif 000034
【図３２】
2018008387.tif 000035
【図３３】
2018008387.tif 000036
【図３４】
2018008387.tif 000037
【図３５】
2018008387.tif 000038
【図３６】
2018008387.tif 000039
【図３７】
2018008387.tif 000040
【図３８】
2018008387.tif 000041
【図３９】
2018008387.tif 000042
【図４０】
2018008387.tif 000043
【図４１】
2018008387.tif 000044
【図４２】
2018008387.tif 000045
【図４３】
2018008387.tif 000046
【図４４】
2018008387.tif 000047
【図４５】
2018008387.tif 000048
【図４６】
2018008387.tif 000049
【図４７】
2018008387.tif 000050
【図４８】
2018008387.tif 000051
【図４９】
2018008387.tif 000052
【図５０】
2018008387.tif 000053
【国際調査報告】
2018008387.tif 000054
2018008387.tif 000055
2018008387.tif 000056
2018008387.tif 000057