(57)【要約】【課題】符号化効率の低減を抑制することができるようにする。【解決手段】本開示の画像処理装置は、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得するスモーレストコーディングユニット情報取得部と、前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する制御情報取得部とを備える。本開示は画像処理装置に適用することができる。【選択図】図５
2013085096.tif 000002
【特許請求の範囲】
【請求項１】
画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得するスモーレストコーディングユニット情報取得部と、
前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する制御情報取得部と
を備える画像処理装置。
【請求項２】
前記制御情報取得部は、前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズが前記最小サイズでない場合、前記制御情報の取得を省略する
請求項１に記載の画像処理装置。
【請求項３】
前記制御情報は、前記スモーレストコーディングユニットが取り得る最小サイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグである
請求項１に記載の画像処理装置。
【請求項４】
前記スモーレストコーディングユニットが取り得る最小サイズは8x8である
請求項１に記載の画像処理装置。
【請求項５】
画像処理装置の画像処理方法であって、
スモーレストコーディングユニット情報取得部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得し、
制御情報取得部が、取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する
画像処理方法。
【請求項６】
画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を設定する制御情報設定部と、
前記制御情報設定部により設定された前記制御情報を伝送する伝送部と
を備える画像処理装置。
【請求項７】
前記制御情報設定部は、前記スモーレストコーディングユニットのサイズが、自身が取り得る最小サイズでない場合、前記制御情報の設定を省略する
請求項６に記載の画像処理装置。
【請求項８】
前記制御情報は、前記スモーレストコーディングユニットが取り得る最小サイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグである
請求項６に記載の画像処理装置。
【請求項９】
前記スモーレストコーディングユニットが取り得る最小サイズは8x8である
請求項６に記載の画像処理装置。
【請求項１０】
前記スモーレストコーディングユニットのサイズを設定するスモーレストコーディングユニット設定部をさらに備え、
前記制御情報設定部は、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズに応じて、前記制御情報を設定し、
前記伝送部は、さらに、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズを示す情報を伝送する
請求項６に記載の画像処理装置。
【請求項１１】
最大の前記コーディングユニットであるラージストコーディングユニットのサイズを設定するとともに、設定した前記ラージストコーディングユニットのサイズと、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズとに応じて、前記ラージストコーディングユニットのサイズを示す情報を設定するラージストコーディングユニット設定部をさらに備え、
前記伝送部は、さらに、前記ラージストコーディングユニット設定部により設定された前記ラージストコーディングユニットのサイズを示す情報を伝送する
請求項１０に記載の画像処理装置。
【請求項１２】
前記伝送部は、前記制御情報をシーケンスパラメータセットに格納して伝送する
請求項６に記載の画像処理装置。
【請求項１３】
画像処理装置の画像処理方法であって、
制御情報設定部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を設定し、
伝送部が、設定された前記制御情報を伝送する
画像処理方法。
【請求項１４】
画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を取得する制御情報取得部と、
前記制御情報取得部により取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズを設定するインタープレディクションユニット設定部と
を備える画像処理装置。
【請求項１５】
画像処理装置の画像処理方法であって、
制御情報取得部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を取得し、
インタープレディクションユニット設定部が、取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズを設定する
画像処理方法。
【請求項１６】
画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を設定する制御情報設定部と、
前記制御情報設定部により設定された前記制御情報を伝送する伝送部と
を備える画像処理装置。
【請求項１７】
前記制御情報設定部は、前記スモーレストコーディングユニットのサイズに関わらず、前記制御情報の設定を行う
請求項１６に記載の画像処理装置。
【請求項１８】
前記制御情報は、前記スモーレストコーディングユニットのサイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグである
請求項１６に記載の画像処理装置。
【請求項１９】
前記伝送部は、前記制御情報をシーケンスパラメータセットに格納して伝送する
請求項１６に記載の画像処理装置。
【請求項２０】
画像処理装置の画像処理方法であって、
制御情報設定部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、
インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を設定し、
伝送部が、設定された前記制御情報を伝送する
画像処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、画像処理装置および方法に関し、動き予測・補償処理を行う画像処理装置および方法に関する。
【背景技術】
【０００２】
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG（Moving Picture Experts Group）などの方式に準拠した装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及した。
【０００３】
特に、MPEG2（ISO（International Organization for Standardization）/IEC（International Electrotechnical Commission） 13818-2）は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば７２０×４８０画素を持つ標準解像度の飛び越し走査画像であれば４〜８Ｍｂｐｓ、１９２０×１０８８画素を持つ高解像度の飛び越し走査画像であれば１８〜２２Ｍｂｐｓの符号量（ビットレート）を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
【０００４】
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量（ビットレート）、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、１９９８年１２月にISO/IEC 14496-2としてその規格が国際標準に承認された。
【０００５】
更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L （ITU-T（International Telecommunication Union Telecommunication Standardization Sector） Q6/16 VCEG（Video Coding Expert Group））という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、現在、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われた。
【０００６】
標準化のスケジュールとしては、２００３年３月にはH.264及びMPEG-4 Part10 （Advanced Video Coding、以下AVCと記す）という名の元に国際標準となった。
【０００７】
ところで、AVCにおいては、符号化の処理単位（符号化単位）として、マクロブロックとサブマクロブロックによる階層構造が規定されている。しかしながら、このマクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；４０００画素×２０００画素）といった大きな画枠に対しては、最適ではない。
【０００８】
そこで、PostAVC符号化方式となる、HEVC（High Efficiency Video Coding）においては、マクロブロックの代わりの符号化単位としてコーディングユニット（CU（Coding Unit））が規定されている（例えば、非特許文献１参照）。
【０００９】
HEVCの場合、シーケンスパラメータセットSPS（Sequence Parameter Set）において、log2_min_coding_block_size_minus3とlog2_diff_max_min_coding_block_sizeという２つのシンタクス要素により、CUの最大サイズ（LCU（Largest Coding Unit））と最小サイズ（SCU（Smallest Coding Unit））が規定される。
【００１０】
また、このSPSにおいては、プレディクションユニット（PU（Prediction Unit））が規定される。このPUは、イントラ予測においては、イントラ予測ブロックの大きさ（処理単位）を示し、インター予測においては、動き補償ブロックの大きさ（処理単位）を示す。さらに、SPSにおいては、トランスフォームユニット（TU（Transform Unit）も規定される。このTUは、直交変換の大きさ（処理単位）を示す。
【００１１】
インター予測のPU（Inter Prediction Unit）の場合、大きさ2Nx2NのCUに対して、2Nx2N、2NxN、Nx2N、およびNxNの４種類のサイズが設定可能である。
【００１２】
ところで、SPSにおいては、このインター予測のユニットサイズに関するフラグ情報であるinter_4x4_enable_flagが定義される。このフラグの値が「０」の場合、その画像圧縮情報において、インター予測のユニットにおいて、4x4ブロックサイズの使用が禁止される。
【先行技術文献】
【非特許文献】
【００１３】
【非特許文献１】Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, Gary J. Sullivan, Thomas Wiegand," Working Draft 4 of High-Efficiency Video Coding ", JCTVC-F803_d0, Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG116th Meeting: Torino, IT, 14-22 July, 2011
【発明の概要】
【発明が解決しようとする課題】
【００１４】
ところで、log2_min_coding_block_size_minus3で指定されるSCUの大きさが8x8以外の場合、すなわち、log2_min_coding_block_size_minus3 != 0の場合、PUとしては、inter4x4が存在しない（4x4ブロックサイズのインター予測のPUが存在しない）ことになる。
【００１５】
しかしながら、非特許文献１に記載の方法の場合、このようなケースであっても、SPSにおいて、inter_4x4_enable_flagが伝送される。つまり冗長な情報が伝送され、符号化効率が不要に低減してしまう恐れがあった。
【００１６】
本開示は、このような状況に鑑みてなされたものであり、inter_4x4_enable_flagの伝送をSCUのサイズ設定に応じて制御することにより、inter_4x4_enable_flagによる符号化効率の低減を抑制することを目的とする。
【課題を解決するための手段】
【００１７】
本開示の一側面は、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得するスモーレストコーディングユニット情報取得部と、前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する制御情報取得部とを備える画像処理装置である。
【００１８】
前記制御情報取得部は、前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズが前記最小サイズでない場合、前記制御情報の取得を省略することができる。
【００１９】
前記制御情報は、前記スモーレストコーディングユニットが取り得る最小サイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグであるようにすることができる。
【００２０】
前記スモーレストコーディングユニットが取り得る最小サイズは8x8であるようにすることができる。
【００２１】
本開示の一側面は、また、画像処理装置の画像処理方法であって、スモーレストコーディングユニット情報取得部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得し、制御情報取得部が、取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する画像処理方法である。
【００２２】
本開示の他の側面は、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を設定する制御情報設定部と、前記制御情報設定部により設定された前記制御情報を伝送する伝送部とを備える画像処理装置である。
【００２３】
前記制御情報設定部は、前記スモーレストコーディングユニットのサイズが、自身が取り得る最小サイズでない場合、前記制御情報の設定を省略することができる。
【００２４】
前記制御情報は、前記スモーレストコーディングユニットが取り得る最小サイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグであるようにすることができる。
【００２５】
前記スモーレストコーディングユニットが取り得る最小サイズは8x8であるようにすることができる。
【００２６】
前記スモーレストコーディングユニットのサイズを設定するスモーレストコーディングユニット設定部をさらに備え、前記制御情報設定部は、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズに応じて、前記制御情報を設定し、前記伝送部は、さらに、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズを示す情報を伝送することができる。
【００２７】
最大の前記コーディングユニットであるラージストコーディングユニットのサイズを設定するとともに、設定した前記ラージストコーディングユニットのサイズと、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズとに応じて、前記ラージストコーディングユニットのサイズを示す情報を設定するラージストコーディングユニット設定部をさらに備え、前記伝送部は、さらに、前記ラージストコーディングユニット設定部により設定された前記ラージストコーディングユニットのサイズを示す情報を伝送することができる。
【００２８】
前記伝送部は、前記制御情報をシーケンスパラメータセットに格納して伝送することができる。
【００２９】
本開示の他の側面は、また、画像処理装置の画像処理方法であって、制御情報設定部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を設定し、伝送部が、設定された前記制御情報を伝送する画像処理方法である。
【００３０】
本開示のさらに他の側面は、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を取得する制御情報取得部と、前記制御情報取得部により取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズを設定するインタープレディクションユニット設定部とを備える画像処理装置である。
【００３１】
本開示のさらに他の側面は、また、画像処理装置の画像処理方法であって、制御情報取得部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を取得し、インタープレディクションユニット設定部が、取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズを設定する画像処理方法である。
【００３２】
本開示のさらに他の側面は、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を設定する制御情報設定部と、前記制御情報設定部により設定された前記制御情報を伝送する伝送部とを備える画像処理装置である。
【００３３】
前記制御情報設定部は、前記スモーレストコーディングユニットのサイズに関わらず、前記制御情報の設定を行うことができる。
【００３４】
前記制御情報は、前記スモーレストコーディングユニットのサイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグであるようにすることができる。
【００３５】
前記伝送部は、前記制御情報をシーケンスパラメータセットに格納して伝送することができる。
【００３６】
本開示のさらに他の側面は、また、画像処理装置の画像処理方法であって、制御情報設定部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を設定し、伝送部が、設定された前記制御情報を伝送する画像処理方法である。
【００３７】
本開示の一側面においては、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う画像データの符号化において、最小のコーディングユニットであるスモーレストコーディングユニットのサイズを示す情報が取得され、取得された情報に示されるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報が取得される。
【００３８】
本開示の他の側面においては、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報が設定され、設定された前記制御情報が伝送される。
【００３９】
本開示のさらに他の側面においては、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報が取得され、取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズが設定される。
【００４０】
本開示のさらに他の側面においては、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報が設定され、設定された前記制御情報が伝送される。
【発明の効果】
【００４１】
本開示によれば、画像を処理することができる。特に、符号化効率の低減を抑制することができる。
【図面の簡単な説明】
【００４２】
【図１】画像符号化装置の主な構成例を示すブロック図である。
【図２】コーディングユニットの構成例を説明する図である。
【図３】HEVCのシーケンスパラメータセットのシンタックスの例を示す図である。
【図４】本技術を適用したシーケンスパラメータセットのシンタックスの例を示す図である。
【図５】ユニットサイズ設定部の主な構成例を示すブロック図である。
【図６】符号化処理の流れの例を説明するフローチャートである。
【図７】ユニットサイズ設定処理の流れの例を説明するフローチャートである。
【図８】画像復号装置の主な構成例を示すブロック図である。
【図９】ユニットサイズ設定復号部の主な構成例を示すブロック図である。
【図１０】復号処理の流れの例を説明するフローチャートである。
【図１１】ユニットサイズ設定復号処理の流れの例を説明するフローチャートである。
【図１２】本技術を適用したシーケンスパラメータセットのシンタックスの他の例を示す図である。
【図１３】ユニットサイズ設定部の他の構成例を示すブロック図である。
【図１４】ユニットサイズ設定処理の流れの、他の例を説明するフローチャートである。
【図１５】ユニットサイズ設定復号部の他の構成例を示すブロック図である。
【図１６】ユニットサイズ設定復号処理の流れの、他の例を説明するフローチャートである。
【図１７】コンピュータの主な構成例を示すブロック図である。
【図１８】テレビジョン装置の主な構成例を示すブロック図である。
【図１９】モバイル端末器の主な構成例を示すブロック図である。
【図２０】記録再生機の主な構成例を示すブロック図である。
【図２１】撮像装置の主な構成例を示すブロック図である。
【発明を実施するための形態】
【００４３】
以下、本開示を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（画像符号化装置・画像復号装置）
２．第２の実施の形態（画像符号化装置・画像復号装置）
３．第３の実施の形態（コンピュータ）
４．第４の実施の形態（テレビジョン受像機）
５．第５の実施の形態（携帯電話機）
６．第６の実施の形態（記録再生装置）
７．第７の実施の形態（撮像装置）
【００４４】
＜１．第１の実施の形態＞
［画像符号化装置］
図１は、本技術を適用した画像処理装置である画像符号化装置の主な構成例を示すブロック図である。
【００４５】
図１に示される画像符号化装置１００は、例えばHEVC（High Efficiency Video Coding）符号化方式や、H．264及びMPEG（Moving Picture Experts Group）4 Part10（AVC（Advanced Video Coding））符号化方式のように、動画像の画像データを符号化する。
【００４６】
図１に示されるように画像符号化装置１００は、A/D変換部１０１、画面並べ替えバッファ１０２、演算部１０３、直交変換部１０４、量子化部１０５、可逆符号化部１０６、および蓄積バッファ１０７を有する。また、画像符号化装置１００は、逆量子化部１０８、逆直交変換部１０９、演算部１１０、ループフィルタ１１１、フレームメモリ１１２、選択部１１３、イントラ予測部１１４、動き予測・補償部１１５、予測画像選択部１１６、およびレート制御部１１７を有する。さらに、画像符号化装置１００は、ユニットサイズ設定部１２１を有する。
【００４７】
A/D変換部１０１は、入力された画像データをA/D変換し、変換後の画像データ（デジタルデータ）を画面並べ替えバッファ１０２に供給し、記憶させる。画面並べ替えバッファ１０２は、記憶した表示の順番のフレームの画像を、GOP（Group Of Picture）に応じて、符号化のためのフレームの順番に並べ替え、フレームの順番を並び替えた画像を、演算部１０３に供給する。画面並べ替えバッファ１０２は、各フレーム画像を、符号化処理の処理単位（符号化単位）となる所定の部分領域毎に演算部１０３に供給する。
【００４８】
また、画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、同様に部分領域毎に、イントラ予測部１１４および動き予測・補償部１１５にも供給する。
【００４９】
演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を減算し、その差分情報を直交変換部１０４に出力する。例えば、イントラ符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、イントラ予測部１１４から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、動き予測・補償部１１５から供給される予測画像を減算する。
【００５０】
直交変換部１０４は、演算部１０３から供給される差分情報に対して、離散コサイン変換やカルーネン・レーベ変換等の直交変換を施す。なお、この直交変換の方法は任意である。直交変換部１０４は、その直交変換により得られた変換係数を量子化部１０５に供給する。
【００５１】
量子化部１０５は、直交変換部１０４から供給される変換係数を量子化する。量子化部１０５は、量子化された変換係数を可逆符号化部１０６に供給する。
【００５２】
可逆符号化部１０６は、量子化部１０５において量子化された変換係数を、任意の符号化方式で符号化する。係数データは、レート制御部１１７の制御の下で量子化されているので、この符号量は、レート制御部１１７が設定した目標値となる（若しくは目標値に近似する）。
【００５３】
また、可逆符号化部１０６は、イントラ予測のモードを示す情報等を含むイントラ予測情報をイントラ予測部１１４から取得し、インター予測のモードを示す情報や動きベクトル情報などを含むインター予測情報を動き予測・補償部１１５から取得する。さらに、可逆符号化部１０６は、ループフィルタ１１１において使用されたフィルタ係数等を取得する。
【００５４】
可逆符号化部１０６は、また、ユニットサイズ設定部１２１からユニットサイズに関する設定情報を取得する。例えば、可逆符号化部１０６は、そのユニットサイズに関する設定情報として、ユニットサイズ設定部１２１において設定されるlog2_min_coding_block_size_minus3やlog2_diff_max_min_coding_block_sizeを取得する。また、可逆符号化部１０６は、後述するように状況に応じて、inter_4x4_enable_flagをユニットサイズ設定部１２１から取得する。
【００５５】
可逆符号化部１０６は、これらの各種情報を任意の符号化方式で符号化し、符号化データのヘッダ情報の一部とする（多重化する）。例えば、可逆符号化部１０６は、上述したlog2_min_coding_block_size_minus3、log2_diff_max_min_coding_block_sizeおよびinter_4x4_enable_flagを、シーケンスパラメータセット（SPS（Sequence Parameter Set））に含める。
【００５６】
可逆符号化部１０６は、符号化して得られた符号化データを蓄積バッファ１０７に供給して蓄積させる。可逆符号化部１０６の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、H．264/AVC方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などが挙げられる。算術符号化としては、例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）などが挙げられる。
【００５７】
蓄積バッファ１０７は、可逆符号化部１０６から供給された符号化データを、一時的に保持する。蓄積バッファ１０７は、所定のタイミングにおいて、保持している符号化データを、ビットストリームとして、例えば、後段の図示せぬ記録装置（記録媒体）や伝送路などに出力する。つまり、符号化された各種情報が、画像符号化装置１００によって画像データが符号化されて得られた符号化データを復号する装置（以下、復号側の装置とも称する）に供給される。
【００５８】
また、量子化部１０５において量子化された変換係数は、逆量子化部１０８にも供給される。逆量子化部１０８は、その量子化された変換係数を、量子化部１０５による量子化に対応する方法で逆量子化する。逆量子化部１０８は、得られた変換係数を、逆直交変換部１０９に供給する。
【００５９】
逆直交変換部１０９は、逆量子化部１０８から供給された変換係数を、直交変換部１０４による直交変換に対応する方法で逆直交変換する。逆直交変換された出力（局所的に復元された差分情報）は、演算部１１０に供給される。
【００６０】
演算部１１０は、逆直交変換部１０９から供給された逆直交変換結果、すなわち、局所的に復元された差分情報に、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を加算し、局所的に再構成された画像（以下、再構成画像と称する）を得る。その再構成画像は、ループフィルタ１１１またはフレームメモリ１１２に供給される。
【００６１】
ループフィルタ１１１は、デブロックフィルタや適応ループフィルタ等を含み、演算部１１０から供給される再構成画像に対して適宜フィルタ処理を行う。例えば、ループフィルタ１１１は、再構成画像に対してデブロックフィルタ処理を行うことにより再構成画像のブロック歪を除去する。また、例えば、ループフィルタ１１１は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた再構成画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。
【００６２】
なお、ループフィルタ１１１が、再構成画像に対してさらに、他の任意のフィルタ処理を行うようにしてもよい。また、ループフィルタ１１１は、必要に応じて、フィルタ処理に用いたフィルタ係数等の情報を可逆符号化部１０６に供給し、それを符号化させるようにすることもできる。
【００６３】
ループフィルタ１１１は、フィルタ処理結果（以下、復号画像と称する）をフレームメモリ１１２に供給する。
【００６４】
フレームメモリ１１２は、演算部１１０から供給される再構成画像と、ループフィルタ１１１から供給される復号画像とをそれぞれ記憶する。フレームメモリ１１２は、所定のタイミングにおいて、若しくは、イントラ予測部１１４等の外部からの要求に基づいて、記憶している再構成画像を、選択部１１３を介してイントラ予測部１１４に供給する。また、フレームメモリ１１２は、所定のタイミングにおいて、若しくは、動き予測・補償部１１５等の外部からの要求に基づいて、記憶している復号画像を、選択部１１３を介して、動き予測・補償部１１５に供給する。
【００６５】
選択部１１３は、フレームメモリ１１２から出力される画像の供給先を示す。例えば、イントラ予測の場合、選択部１１３は、フレームメモリ１１２からフィルタ処理されていない画像（再構成画像）を読み出し、周辺画素として、イントラ予測部１１４に供給する。
【００６６】
また、例えば、インター予測の場合、選択部１１３は、フレームメモリ１１２からフィルタ処理された画像（復号画像）を読み出し、参照画像として、それを動き予測・補償部１１５に供給する。
【００６７】
イントラ予測部１１４は、フレームメモリ１１２から、処理対象領域の周辺に位置する周辺領域の画像（周辺画像）を取得すると、その周辺画像の画素値を用いて、基本的にプレディクションユニット（PU（Prediction Unit））を処理単位として予測画像を生成するイントラ予測（画面内予測）を行う。イントラ予測部１１４は、予め用意された複数のモード（イントラ予測モード）でこのイントラ予測を行う。
【００６８】
イントラ予測部１１４は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ１０２から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部１１４は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
【００６９】
また、イントラ予測部１１４は、最適なイントラ予測モード等、イントラ予測に関する情報を含むイントラ予測情報を、適宜可逆符号化部１０６に供給し、符号化させる。
【００７０】
動き予測・補償部１１５は、画面並べ替えバッファ１０２から供給される入力画像と、フレームメモリ１１２から供給される参照画像とを用いて、基本的にPU（inter PU）を処理単位として、動き予測（インター予測）を行い、検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。動き予測・補償部１１５は、予め用意された複数のモード（インター予測モード）でこのようなインター予測を行う。
【００７１】
動き予測・補償部１１５は、各PUのサイズを、ユニットサイズ設定部１２１により設定されるユニットサイズに関する情報に基づいて設定し、そのPUを処理単位として処理を行う。
【００７２】
動き予測・補償部１１５は、候補となる全てのインター予測モードで予測画像を生成し、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部１１５は、最適なインター予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
【００７３】
また、動き予測・補償部１１５は、最適なインター予測モード等、インター予測に関する情報を含むインター予測情報を可逆符号化部１０６に供給し、符号化させる。
【００７４】
予測画像選択部１１６は、演算部１０３や演算部１１０に供給する予測画像の供給元を選択する。例えば、イントラ符号化の場合、予測画像選択部１１６は、予測画像の供給元としてイントラ予測部１１４を選択し、そのイントラ予測部１１４から供給される予測画像を演算部１０３や演算部１１０に供給する。また、例えば、インター符号化の場合、予測画像選択部１１６は、予測画像の供給元として動き予測・補償部１１５を選択し、その動き予測・補償部１１５から供給される予測画像を演算部１０３や演算部１１０に供給する。
【００７５】
レート制御部１１７は、蓄積バッファ１０７に蓄積された符号化データの符号量に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
【００７６】
ユニットサイズ設定部１２１は、動き予測・補償部１１５や、復号側の装置の動き予測・補償部において参照されるユニットサイズに関する設定を行う。ユニットサイズ設定部１２１は、設定した情報を動き予測・補償部１１５に供給する。また、ユニットサイズ設定部１２１は、設定した情報を可逆符号化部１０６に供給し、符号化データに付加（多重化）させる等して伝送させる。
【００７７】
［コーディングユニット］
以下では、まず、HEVC符号化方式において定められている、コーディングユニット（Coding Unit）について説明する。
【００７８】
コーディングユニット（CU）は、コーディングツリーブロック（CTB（Coding Tree Block））とも呼ばれ、AVCにおけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の多層構造の部分領域である。つまり、CUは、符号化処理の単位（符号化単位）である。マクロブロックの大きさが１６×１６画素に固定されているのに対し、CUの大きさは固定されておらず、それぞれのシーケンスにおいて画像圧縮情報中に指定されることになる。
【００７９】
特に、最大の大きさを持つCUを、ラージストコーディングユニット（LCU（Largest Coding Unit）と呼び、また、最小の大きさを持つCUをスモーレストコーディングユニット（SCU（Smallest Coding Unit））と称する。すなわち、LCUは、最大符号化単位であり、SCUは、最小符号化単位である。例えば画像圧縮情報に含まれるシーケンスパラメータセットにおいて、これらの領域のサイズが指定されることになるが、それぞれ、正方形で、２の冪乗で表される大きさに限定される。つまり、ある階層の（正方形の）CUが2x2に４分割された各領域が１階層下の（正方形の）CUとなる。
【００８０】
図２に、HEVCで定義されているコーディングユニット（Coding Unit）の例を示す。図２の例では、LCUの大きさが128（2N（N=64））であり、最大階層深度が５（Depth=4）となる。2Nx2Nの大きさのCUは、split_flagの値が「１」である場合、１つ下の階層となる、NxNの大きさのCUに分割される。
【００８１】
更に、CUは、イントラ若しくはインター予測の処理単位となる領域（ピクチャ単位の画像の部分領域）であるプレディクションユニット（Prediction Unit（PU））に分割され、また、直交変換の処理単位となる領域（ピクチャ単位の画像の部分領域）である、トランスフォームユニット（Transform Unit（TU））に分割される。
【００８２】
インター予測のPU（Inter Prediction Unit）の場合、大きさ2Nx2NのCUに対して、2Nx2N、2NxN、Nx2N、NxNの４種類のサイズが設定可能である。つまり、１つのCUに対して、そのCUと同サイズの１つPU、そのCUを縦若しくは横に２分割した２つのPU、若しくは、そのCUを縦および横にそれぞれ２分割した４つのPUを定義することができる。
【００８３】
画像符号化装置１００は、このようなピクチャ単位の画像の部分領域を処理単位として符号化に関する各処理を行う。以下においては、画像符号化装置１００が、HEVCで定義されるCUを符号化単位とする場合について説明する。つまり、LCUが最大符号化単位となり、SCUが最小符号化単位となる。ただし、画像符号化装置１００による符号化の各処理の処理単位は、これに限らず、任意である。例えば、AVCで定義されるマクロブロックやサブマクロブロックを処理単位とするようにしてもよい。
【００８４】
なお、以下において、「（部分）領域」には、上述した各種領域（例えば、マクロブロック、サブマクロブロック、LCU、CU、SCU、PU、およびTU等）が全て含まれる（それらのいずれかであってもよい）。もちろん、上述した以外の単位が含まれてもよいし、説明の内容に応じて不可能な単位は、適宜、除外するものとする。
【００８５】
［パラメータの伝送］
図３は、HEVC符号化方式のシーケンスパラメータセットのシンタックスの例を示す図である。HEVC符号化方式の場合、図３に示されるように、シーケンスパラメータセットには、log2_min_coding_block_size_minus3やlog2_diff_max_min_coding_block_sizeといったパラメータが格納される。log2_min_coding_block_size_minus3は、SCUのサイズを定義するパラメータであり、そのSCUのサイズを「２の冪乗の指数−３」で示す。例えば、SCUのサイズを8x8とする場合、log2_min_coding_block_size_minus3の値は「０」（８＝２３なので、３−３＝０）に設定される。また、例えば、SCUのサイズを16x16とする場合、log2_min_coding_block_size_minus3の値は「１」（１６＝２４なので、４−３＝１）に設定される。
【００８６】
なお、SCUが取り得るサイズの範囲は任意であるが、以下においては、SCUが取り得るサイズの範囲の下限（設定可能な最小サイズ）を8x8として説明する。
【００８７】
log2_diff_max_min_coding_block_sizeは、LCUのサイズを定義するためのパラメータであり、LCUのサイズをSCUのサイズとの相対比（２の冪乗の指数）で表す。例えば、8x8のSCUに対してLCUを64x64とする場合、log2_diff_max_min_coding_block_sizeの値は、「３」（６４＝８×２３）に設定される。また、例えば、8x8のSCUに対してLCUを128x128とする場合、log2_diff_max_min_coding_block_sizeの値は、「４」（１２８＝８×２４）に設定される。
【００８８】
また、HEVC符号化方式の場合、シーケンスパラメータセットには、図３に示されるように、inter_4x4_enabled_flagが格納される。inter_4x4_enabled_flagは、インター予測の処理単位（PU（inter PU））の最小サイズを制御する制御情報である。より具体的には、インター予測の符号化単位の最小サイズとして、4x4を適用するか否か（禁止するか否か）を定義するフラグである。4x4は、SCUの最小サイズ（8x8）を縦および横にそれぞれ２分割する場合のサイズである。inter_4x4_enabled_flagの値は、その使用可否設定に従って、「０」若しくは「１」に設定される。
【００８９】
log2_min_coding_block_size_minus3で指定されるSCUのサイズが最小（例えば8x8）でない場合、すなわち、log2_min_coding_block_size_minus3 != 0の場合、PUとしては、inter4x4が存在しない（4x4ブロックサイズのインター予測のPUが存在しない）ことになる。つまり、この場合、inter_4x4_enabled_flagは不要である（動き予測・補償処理において、このinter_4x4_enabled_flagの値は参照されない）。
【００９０】
しかしながら、非特許文献１に記載の方法の場合、このようなケースであっても、SPSにおいて、inter_4x4_enable_flagがシーケンスパラメータセットに含められて伝送される。つまり冗長な（不要な）情報が伝送されることになり、そのために符号化効率が不要に低減してしまう恐れがあった。
【００９１】
inter_4x4_enable_flagの値が必要になるのは、SCUのサイズが4x4に設定される場合のみ、つまり、log2_min_coding_block_size_minus3==0の場合のみである。
【００９２】
そこで、画像符号化装置１００は、inter_4x4_enable_flagを、SCUのサイズ設定（つまり、log2_min_coding_block_size_minus3の値）に応じて伝送させるか否かを制御する。より具体的には、ユニットサイズ設定部１２１は、SCUおよびLCUのサイズを設定するとともに、SCUを8x8に設定した場合のみ、すなわち、log2_min_coding_block_size_minus3 == 0の場合のみ、inter_4x4_enable_flagを設定する。ユニットサイズ設定部１２１は、SCUを8x8よりも大きいサイズに設定した場合（log2_min_coding_block_size_minus3 != 0の場合）、inter_4x4_enable_flagの設定を省略する。ユニットサイズ設定部１２１は、inter_4x4_enable_flagを設定した場合、そのinter_4x4_enable_flagを可逆符号化部１０６に供給し、SPSに含めて、復号側の装置に伝送させる。
【００９３】
つまり、画像符号化装置１００は、SPSのシンタックスを図４に示される例のようにする。図４のシンタックスに示されるように、log2_min_coding_block_size_minus3 == 0の場合のみ、inter_4x4_enable_flagがSPSに格納される。
【００９４】
このようにすることにより、SCUのサイズが最小で無い場合、inter_4x4_enable_flagの伝送が省略されるので、画像符号化装置１００は、inter_4x4_enable_flagによる符号化効率の不要な低減を抑制することができる。
【００９５】
［ユニットサイズ設定部］
図５は、ユニットサイズ設定部１２１の主な構成例を示すブロック図である。図５に示されるように、ユニットサイズ設定部１２１は、SCUサイズ設定部１５１、LCUサイズ設定部１５２、およびフラグ設定部１５３を有する。
【００９６】
SCUサイズ設定部１５１は、動き予測・補償部１１５によるインター予測のSCUサイズを設定する。SCUサイズ設定部１５１は、例えば、ユーザ設定、ハードウェア性能、またはプロファイルレベル等、任意の情報に基づいてSCUサイズを設定する。SCUサイズ設定部１５１は、設定したSCUサイズを示す情報を動き予測・補償部１１５、LCUサイズ設定部１５２、およびフラグ設定部１５３に供給する。
【００９７】
また、SCUサイズ設定部１５１は、以上のように設定したSCUサイズからパラメータlog2_min_coding_block_size_minus3の値を設定する。例えば、SCUサイズ設定部１５１は、設定したSCUサイズの「２の冪乗の指数−３」をlog2_min_coding_block_size_minus3の値とする。log2_min_coding_block_size_minus3は、SCUサイズを一意に示すことができれば良く、その値の算出方法は任意である。SCUサイズ設定部１５１は、設定したlog2_min_coding_block_size_minus3を可逆符号化部１０６に供給し、シーケンスパラメータセット（SPS）に格納させ、復号側の装置に伝送させる。
【００９８】
LCUサイズ設定部１５２は、動き予測・補償部１１５によるインター予測のLCUサイズを設定する。LCUサイズ設定部１５２は、SCUサイズ設定部１５１において設定されたSCUサイズと、例えば、ユーザ設定、ハードウェア性能、またはプロファイルレベル等、任意の情報とに基づいてLCUサイズを設定する。LCUサイズ設定部１５２は、設定したLCUサイズを動き予測・補償部１１５に供給する。
【００９９】
また、LCUサイズ設定部１５２は、設定したLCUサイズとSCUサイズとからlog2_diff_max_min_coding_block_sizeの値を設定する。例えば、LCUサイズ設定部１５２は、log2_diff_max_min_coding_block_sizeとして、LCUサイズとSCUサイズとの相対比（２の冪乗の指数）を設定する。LCUサイズ設定部１５２は、このように設定したパラメータlog2_diff_max_min_coding_block_sizeを可逆符号化部１０６に供給し、シーケンスパラメータセット（SPS）に格納させ、復号側の装置に伝送させる。
【０１００】
フラグ設定部１５３は、動き予測・補償部１１５によるインター予測の最小ユニットサイズに関する設定を行う。つまり、フラグ設定部１５３は、inter_4x4_enabled_flagの値を設定する。inter_4x4_enabled_flagは、最小ユニットサイズである4x4サイズを適用可能とするか否かを示すフラグである。上述したようにSCUの最小サイズが8x8であるので、最小ユニットサイズは、その最小のSCUを縦および横にそれぞれ２分割する場合のサイズである4x4となる。
【０１０１】
フラグ設定部１５３は、ユーザ指示、ハードウェア性能、およびプロファイルレベル等の情報に基づいて、最小ユニットサイズを適用とするか否かを判定する（inter_4x4_enabled_flagの値を設定する）。
【０１０２】
ただし、フラグ設定部１５３は、SCUサイズが8x8である場合のみ、inter_4x4_enabled_flagの設定を行う。SCUサイズが8x8より大きい場合、フラグ設定部１５３は、inter_4x4_enabled_flagの設定を省略する。
【０１０３】
なお、フラグ設定部１５３は、log2_min_coding_block_size_minus3をSCUサイズ設定部１５１から取得し、その値が０である場合のみ、inter_4x4_enabled_flagの設定を行うようにしてもよい。換言するに、log2_min_coding_block_size_minus3 != 0の場合、フラグ設定部１５３がinter_4x4_enabled_flagの設定を省略するようにしてもよい。
【０１０４】
フラグ設定部１５３は、設定したinter_4x4_enabled_flagを動き予測・補償部１１５に供給する。また、フラグ設定部１５３は、設定したinter_4x4_enabled_flagを、可逆符号化部１０６にも供給し、シーケンスパラメータセット（SPS）に格納させ、復号側の装置に伝送させる。
【０１０５】
このようにすることにより、ユニットサイズ設定部１２１は、inter_4x4_enabled_flagの伝送が必要な場合のみ行われるようにすることができる。したがって、画像符号化装置１００は、不要な符号化効率の低減を抑制することができる。
【０１０６】
［符号化処理の流れ］
次に、以上のような画像符号化装置１００により実行される各処理の流れについて説明する。最初に、図６のフローチャートを参照して、符号化処理の流れの例を説明する。
【０１０７】
ステップＳ１０１において、ユニットサイズ設定部１２１は、ユニットサイズに関する設定を行う。例えば、ユニットサイズ設定部１２１は、SCUやLCUのサイズを設定したり、log2_min_coding_block_size_minus3、log2_diff_max_min_coding_block_size、およびinter_4x4_enabled_flag等の、シーケンスパラメータセットに含めて伝送させる情報の設定を行ったりする。
【０１０８】
ステップＳ１０２において、A/D変換部１０１は入力された画像をA/D変換する。ステップＳ１０３において、画面並べ替えバッファ１０２は、A/D変換された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。
【０１０９】
ステップＳ１０４において、イントラ予測部１１４は、イントラ予測モードのイントラ予測処理を行う。ステップＳ１０５において、動き予測・補償部１１５は、インター予測モードでの動き予測や動き補償を行うインター動き予測処理を行う。
【０１１０】
ステップＳ１０６において、予測画像選択部１１６は、イントラ予測部１１４および動き予測・補償部１１５から出力された各コスト関数値に基づいて、最適予測モードを決定する。つまり、予測画像選択部１１６は、イントラ予測部１１４により生成された予測画像と、動き予測・補償部１１５により生成された予測画像のいずれか一方を選択する。
【０１１１】
ステップＳ１０７において、演算部１０３は、ステップＳ１０２の処理により並び替えられた画像と、ステップＳ１０６の処理により選択された予測画像との差分を演算する。差分データは元の画像データに較べてデータ量が低減される。したがって、画像をそのまま符号化する場合に較べて、データ量を圧縮することができる。
【０１１２】
ステップＳ１０８において、直交変換部１０４は、ステップＳ１０３の処理により生成された差分情報を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、変換係数が出力される。ステップＳ１０９において、量子化部１０５は、ステップＳ１０８の処理により得られた直交変換係数を量子化する。
【０１１３】
ステップＳ１０９の処理により量子化された差分情報は、次のようにして局部的に復号される。すなわち、ステップＳ１１０において、逆量子化部１０８はステップＳ１０８の処理により量子化された直交変換係数を、ステップＳ１０８の量子化に対応する方法で逆量子化する。ステップＳ１１１において、逆直交変換部１０９は、ステップＳ１１０の処理により得られた直交変換係数を、ステップＳ１０８の処理に対応する方法で逆直交変換する。
【０１１４】
ステップＳ１１２において、演算部１１０は、予測画像を局部的に復号された差分情報に加算し、局部的に復号された画像（演算部１０３への入力に対応する画像）を生成する。ステップＳ１１３においてループフィルタ１１１は、ステップＳ１１２の処理により生成された画像をフィルタリングする。これによりブロック歪み等が除去される。
【０１１５】
ステップＳ１１４において、フレームメモリ１１２は、ステップＳ１１３の処理によりブロック歪みの除去等が行われた画像を記憶する。なお、フレームメモリ１１２にはループフィルタ１１１によりフィルタ処理されていない画像も演算部１１０から供給され、記憶される。
【０１１６】
このフレームメモリ１１２に記憶された画像は、ステップＳ１０４の処理やステップＳ１０５の処理に利用される。
【０１１７】
ステップＳ１１５おいて、可逆符号化部１０６は、ステップＳ１０９の処理により量子化された変換係数を符号化し、符号化データを生成する。すなわち、差分画像（インターの場合、２次差分画像）に対して、可変長符号化や算術符号化等の可逆符号化が行われる。
【０１１８】
なお、可逆符号化部１０６は、ステップＳ１０６の処理により選択された予測画像の予測モードに関する情報を符号化し、差分画像を符号化して得られる符号化データに付加する。例えば、イントラ予測モードが選択された場合、可逆符号化部１０６は、イントラ予測モード情報を符号化する。また、例えば、インター予測モードが選択された場合、可逆符号化部１０６は、インター予測モード情報を符号化する。これらの情報は、例えばヘッダ情報等として符号化データに付加（多重化）される。
【０１１９】
また、可逆符号化部１０６は、ステップＳ１０１において設定されたユニットサイズに関する情報（log2_min_coding_block_size_minus3、log2_diff_max_min_coding_block_size、およびinter_4x4_enabled_flag等）を符号化し、シーケンスパラメータセット（SPS）に含めて符号化データに付加（多重化）する。
【０１２０】
ステップＳ１１６において蓄積バッファ１０７は、ステップＳ１１５の処理により生成された符号化データを蓄積する。蓄積バッファ１０７に蓄積された符号化データは、適宜読み出され、任意の伝送路（通信路だけでなく記憶媒体等も含む）を介して復号側の装置に伝送される。
【０１２１】
ステップＳ１１７においてレート制御部１１７は、ステップＳ１１６の処理により蓄積バッファ１０７に蓄積された圧縮画像に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
【０１２２】
ステップＳ１１７の処理が終了すると、符号化処理が終了される。
【０１２３】
［ユニットサイズ設定処理の流れ］
次に図７のフローチャートを参照して、図６のステップＳ１０１において実行されるユニットサイズ設定処理の流れの例を説明する。
【０１２４】
ユニットサイズ設定処理が開始されると、SCUサイズ設定部１５１は、ステップＳ１３１において、SCUサイズを設定する。ステップＳ１３２において、SCUサイズ設定部１５１は、ステップＳ１３１において設定されたSCUサイズに基づいて、SCUサイズを示すパラメータlog2_min_coding_block_size_minus3を設定する。
【０１２５】
ステップＳ１３３において、SCUサイズ設定部１５１は、ステップＳ１３２の処理により設定されたlog2_min_coding_block_size_minus3を可逆符号化部１０６に供給することにより、復号側の装置に伝送させる。
【０１２６】
ステップＳ１３４において、LCUサイズ設定部１５２は、LCUサイズを設定する。ステップＳ１３５において、LCUサイズ設定部１５２は、ステップＳ１３１において設定されたSCUサイズ、および、ステップＳ１３４において設定されたLCUサイズに基づいて、LCUサイズを示すパラメータlog2_diff_max_min_coding_block_sizeを設定する。
【０１２７】
ステップＳ１３６において、SCUサイズ設定部１５１は、ステップＳ１３５の処理により設定されたlog2_diff_max_min_coding_block_sizeを可逆符号化部１０６に供給することにより、復号側の装置に伝送させる。
【０１２８】
ステップＳ１３７において、フラグ設定部１５３は、ステップＳ１３１の処理により設定されたSCUサイズが、取り得る値の範囲の中で最小（8x8）であるか否かを判定する。最小である（8x8である）と判定した場合、フラグ設定部１５３は、処理をステップＳ１３８に進める。
【０１２９】
ステップＳ１３８において、フラグ設定部１５３は、inter_4x4_enabled_flagを設定する。ステップＳ１３９において、フラグ設定部１５３は、ステップＳ１３８の処理により設定されたinter_4x4_enabled_flagを可逆符号化部１０６に供給することにより、復号側の装置に伝送させる。ステップＳ１３９の処理が終了すると、フラグ設定部１５３は、ユニットサイズ設定処理を終了し、処理を図６に戻す。
【０１３０】
また、ステップＳ１３７において、ステップＳ１３１の処理により設定されたSCUサイズが、取り得る値の範囲の中で最小でないと判定された場合、フラグ設定部１５３は、ユニットサイズ設定処理を終了し、処理を図６に戻す。
【０１３１】
以上のように各処理を実行することにより、画像符号化装置１００は、必要な場合のみinter_4x4_enabled_flagを伝送させるようにすることができ、冗長な情報の伝送による不要な符号化効率の低減を抑制することができる。
【０１３２】
［画像復号装置］
図８は、本技術を適用した画像処理装置である画像復号装置の主な構成例を示すブロック図である。図８に示される画像復号装置２００は、上述した画像符号化装置１００に対応し、画像符号化装置１００が画像データを符号化して生成したビットストリーム（符号化データ）を正しく復号し、復号画像を生成する。
【０１３３】
図８に示されるように画像復号装置２００は、蓄積バッファ２０１、可逆復号部２０２、逆量子化部２０３、逆直交変換部２０４、演算部２０５、ループフィルタ２０６、画面並べ替えバッファ２０７、およびD/A変換部２０８を有する。また、画像復号装置２００は、フレームメモリ２０９、選択部２１０、イントラ予測部２１１、動き予測・補償部２１２、および選択部２１３を有する。
【０１３４】
さらに、画像復号装置２００は、ユニットサイズ設定復号部２２１を有する。
【０１３５】
蓄積バッファ２０１は、伝送されてきた符号化データを蓄積し、所定のタイミングにおいてその符号化データを可逆復号部２０２に供給する。可逆復号部２０２は、蓄積バッファ２０１より供給された、図１の可逆符号化部１０６により符号化された情報を、可逆符号化部１０６の符号化方式に対応する方式で復号する。可逆復号部２０２は、復号して得られた差分画像の量子化された係数データを、逆量子化部２０３に供給する。
【０１３６】
また、可逆復号部２０２は、符号化データを復号して得られた最適な予測モードに関する情報を参照し、最適な予測モードにイントラ予測モードが選択されたかインター予測モードが選択されたかを判定する。つまり、可逆復号部２０２は、伝送されてきた符号化データにおいて採用された予測モードが、イントラ予測であるか、インター予測であるかを判定する。
【０１３７】
可逆復号部２０２は、その判定結果に基づいて、その予測モードに関する情報を、イントラ予測部２１１若しくは動き予測・補償部２１２に供給する。例えば、画像符号化装置１００において最適な予測モードとしてイントラ予測モードが選択された場合、可逆復号部２０２は、符号化側から供給された、その選択されたイントラ予測モードに関する情報であるイントラ予測情報をイントラ予測部２１１に供給する。また、例えば、画像符号化装置１００において最適な予測モードとしてインター予測モードが選択された場合、可逆復号部２０２は、符号化側から供給された、その選択されたインター予測モードに関する情報であるインター予測情報を動き予測・補償部２１２に供給する。
【０１３８】
可逆復号部２０２は、さらに、符号化データに付加（多重化）されたシーケンスパラメータセット（SPS）から、ユニットサイズに関する情報を抽出し、ユニットサイズ設定復号部２２１に供給する。
【０１３９】
逆量子化部２０３は、可逆復号部２０２により復号されて得られた量子化された係数データを、図１の量子化部１０５の量子化方式に対応する方式（逆量子化部１０８と同様の方式）で逆量子化を行う。逆量子化部２０３は、このような逆量子化により得られた係数データを逆直交変換部２０４に供給する。
【０１４０】
逆直交変換部２０４は、図１の直交変換部１０４の直交変換方式に対応する方式で逆量子化部２０３から供給される係数データを逆直交変換する。逆直交変換部２０４は、この逆直交変換処理により、画像符号化装置１００において直交変換される前の差分画像に対応する差分画像を得る。
【０１４１】
逆直交変換されて得られた差分画像は、演算部２０５に供給される。また、演算部２０５には、選択部２１３を介して、イントラ予測部２１１若しくは動き予測・補償部２１２から予測画像が供給される。
【０１４２】
演算部２０５は、差分画像と予測画像とを加算し、画像符号化装置１００の演算部１０３により予測画像が減算される前の画像に対応する再構成画像を得る。演算部２０５は、その再構成画像をループフィルタ２０６に供給する。
【０１４３】
ループフィルタ２０６は、供給された再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜施して復号画像を生成する。例えば、ループフィルタ２０６は、再構成画像に対してデブロックフィルタ処理を行うことにより、ブロック歪を除去する。また、例えば、ループフィルタ２０６は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた再構成画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。
【０１４４】
なお、ループフィルタ２０６が行うフィルタ処理の種類は任意であり、上述した以外のフィルタ処理を行ってもよい。また、ループフィルタ２０６が、図１の画像符号化装置１００から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。
【０１４５】
ループフィルタ２０６は、フィルタ処理結果である復号画像を画面並べ替えバッファ２０７およびフレームメモリ２０９に供給する。なお、このループフィルタ２０６によるフィルタ処理は省略することもできる。つまり、演算部２０５の出力が、フィルタ処理されずに、フレームメモリ２０９に格納されるようにすることもできる。例えば、イントラ予測部２１１は、この画像に含まれる画素の画素値を周辺画素の画素値として利用する。
【０１４６】
画面並べ替えバッファ２０７は、供給された復号画像の並べ替えを行う。すなわち、図１の画面並べ替えバッファ１０２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部２０８は、画面並べ替えバッファ２０７から供給された復号画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。
【０１４７】
フレームメモリ２０９は、供給される再構成画像や復号画像を記憶する。また、フレームメモリ２０９は、所定のタイミングにおいて、若しくは、イントラ予測部２１１や動き予測・補償部２１２等の外部の要求に基づいて、記憶している再構成画像や復号画像を、選択部２１０を介してイントラ予測部２１１や動き予測・補償部２１２に供給する。
【０１４８】
イントラ予測部２１１は、図２のイントラ予測部１１４と基本的に同様の処理を行う。ただし、イントラ予測部２１１は、符号化の際にイントラ予測により予測画像が生成された領域に対してのみ、イントラ予測を行う。
【０１４９】
動き予測・補償部２１２は、可逆復号部２０２から供給されるインター予測情報に基づいてインター予測（動き予測や動き補償を含む）を行い、予測画像を生成する。なお、動き予測・補償部２１２は、可逆復号部２０２から供給されるインター予測情報に基づいて、符号化の際にインター予測が行われた領域に対してのみ、インター予測を行う。また、動き予測・補償部２１２は、ユニットサイズ設定復号部２２１により設定されたSCUサイズ、LCUサイズ、および、inter_4x4_enabled_flagを用いて、inter PUサイズ（予測処理単位の領域）を設定し、インター予測を行う。
【０１５０】
イントラ予測部２１１若しくは動き予測・補償部２１２は、予測処理単位の領域毎に、生成した予測画像を、選択部２１３を介して演算部２０５に供給する。
【０１５１】
選択部２１３は、イントラ予測部２１１から供給される予測画像、若しくは、動き予測・補償部２１２から供給される予測画像を演算部２０５に供給する。
【０１５２】
ユニットサイズ設定復号部２２１は、可逆復号部２０２において、符号化データのシーケンスパラメータセット（SPS）より抽出され復号された、ユニットサイズに関する情報を取得する。ユニットサイズ設定復号部２２１は、取得した情報に基づいて、SCUサイズ、LCUサイズ、およびinter_4x4_enabled_flagの値を再構築する。ユニットサイズ設定復号部２２１は、再構築したそれらの値を動き予測・補償部２１２に供給する。動き予測・補償部２１２は、それらの情報を用いてインター予測を行う。
【０１５３】
なお、フラグinter_4x4_enabled_flagは、SCUサイズが、8x8である場合のみ、参照される。つまり、それ以外の場合、このフラグは不要である（参照されない）。上述したように、画像符号化装置１００は、動き予測・補償部２１２においてinter_4x4_enabled_flagが参照される場合のみ、このフラグを伝送させる。
【０１５４】
これに対して、ユニットサイズ設定復号部２２１は、再構築したSCUサイズに基づいて、このフラグが伝送されるか否かを、正しく把握する。したがって、ユニットサイズ設定復号部２２１は、正しくinter_4x4_enabled_flagを復号することができる。つまり、ユニットサイズ設定復号部２２１は、動き予測・補償部２１２によりinter_4x4_enabled_flagの値が参照される場合、inter_4x4_enabled_flagを復号し、動き予測・補償部２１２に提供することができる。したがって、動き予測・補償部２１２は、上述したように不要なinter_4x4_enabled_flagの伝送が省略される場合であっても、正しくインター予測を行うことができる。以上のように、画像復号装置２００は、inter_4x4_enabled_flagのより効果的な伝送制御を実現することができ、冗長な情報の伝送による符号化効率の低減の抑制を実現することができる。
【０１５５】
［ユニットサイズ設定復号部］
図９は、図８のユニットサイズ設定復号部２２１の主な構成例を示すブロック図である。図９に示されるように、ユニットサイズ設定復号部２２１は、SCUサイズ復号部２５１、LCUサイズ復号部２５２、および、フラグ復号部２５３を有する。
【０１５６】
SCUサイズ復号部２５１は、可逆復号部２０２においてシーケンスパラメータセットから抽出されたlog2_min_coding_block_size_minus3を取得し、その値に基づいて、符号化時のインター予測において採用されたSCUサイズを再構築する。
【０１５７】
画像符号化装置１００から供給されるlog2_min_coding_block_size_minus3は、符号化時のインター予測において採用されたSCUサイズを一意に表す情報である。例えば、SCUサイズの「２の冪乗の指数−３」がlog2_min_coding_block_size_minus3として設定される。したがって、SCUサイズ復号部２５１は、この値から容易にSCUサイズを再構築することができる。SCUサイズ復号部２５１は、再構築したSCUサイズを示す情報を、動き予測・補償部２１２、LCUサイズ復号部２５２、およびフラグ復号部２５３に供給する。
【０１５８】
LCUサイズ復号部２５２は、可逆復号部２０２においてシーケンスパラメータセットから抽出されたlog2_diff_max_min_coding_block_sizeを取得し、その値と、SCUサイズ復号部２５１から供給されたSCUサイズを示す情報に基づいて、符号化時のインター予測において採用されたLCUサイズを再構築する。
【０１５９】
画像符号化装置１００から供給されるlog2_diff_max_min_coding_block_sizeは、符号化時のインター予測において採用されたLCUサイズをSCUサイズを基準として表す情報である。例えば、LCUサイズとSCUサイズとの相対比（２の冪乗の指数）が、このlog2_min_coding_block_size_minus3として設定される。したがって、LCUサイズ復号部２５２は、この値と、SCUサイズ復号部２５１から供給されるSCUサイズとから容易にLCUサイズを再構築することができる。LCUサイズ復号部２５２は、再構築したLCUサイズを示す情報を、動き予測・補償部２１２に供給する。
【０１６０】
フラグ復号部２５３は、SCUサイズ復号部２５１から供給されたSCUサイズを示す情報に基づいて、可逆復号部２０２においてシーケンスパラメータセットから抽出されたinter_4x4_enabled_flagを取得する。
【０１６１】
inter_4x4_enabled_flagは、SCUサイズが8x8である場合のみ伝送されるので、フラグ復号部２５３は、SCUサイズを参照することにより、inter_4x4_enabled_flagの伝送の有無を確認する。そして、inter_4x4_enabled_flagが伝送されると判定された場合、すなわち、SCUサイズが8x8であると判定された場合、フラグ復号部２５３は、可逆復号部２０２からinter_4x4_enabled_flagを取得し、それを動き予測・補償部２１２に供給する。なお、inter_4x4_enabled_flagが伝送されないと判定された場合、すなわち、SCUサイズが8x8でないと判定された場合、フラグ復号部２５３は、inter_4x4_enabled_flagの取得を行わない。
【０１６２】
このようにすることにより、ユニットサイズ設定復号部２２１は、シーケンスパラメータセットに含められて伝送される、ユニットサイズに関する各種情報を正しく復号することができ、必要な情報を動き予測・補償部２１２に提供することができる。これにより、動き予測・補償部２１２は、正しくインター予測処理を行うことができる。したがって、画像復号装置２００は、inter_4x4_enabled_flagのより効果的な伝送制御を実現することができ、符号化効率の低減の抑制を実現することができる。
【０１６３】
［復号処理の流れ］
次に、以上のような画像復号装置２００により実行される各処理の流れについて説明する。最初に、図１０のフローチャートを参照して、復号処理の流れの例を説明する。
【０１６４】
復号処理が開始されると、ステップＳ２０１において、蓄積バッファ２０１は、伝送されてきた符号化データを蓄積する。ステップＳ２０２において、可逆復号部２０２は、蓄積バッファ２０１から供給される符号化データを復号する。すなわち、図１の可逆符号化部１０６により符号化されたＩピクチャ、Ｐピクチャ、並びにＢピクチャが復号される。
【０１６５】
このとき、動きベクトル情報、参照フレーム情報、予測モード情報（イントラ予測モード、またはインター予測モード）、並びに、フラグや量子化パラメータ等の情報も復号される。
【０１６６】
予測モード情報がイントラ予測モード情報である場合、予測モード情報は、イントラ予測部２１１に供給される。予測モード情報がインター予測モード情報である場合、予測モード情報と対応する動きベクトル情報は、動き予測・補償部２１２に供給される。
【０１６７】
ステップＳ２０３において、ユニットサイズ設定復号部２２１は、シーケンスパラメータセットに含まれるユニットサイズに関する各種情報を復号するユニットサイズ復号設定処理を行う。
【０１６８】
ステップＳ２０４において、逆量子化部２０３は、可逆復号部２０２により復号されて得られた、量子化された直交変換係数を逆量子化する。逆量子化部２０３は、ステップＳ２０３の処理により再構築された量子化パラメータを用いて逆量子化処理を行う。
【０１６９】
ステップＳ２０５において逆直交変換部２０４は逆量子化部２０３により逆量子化されて得られた直交変換係数を、図１の直交変換部１０４に対応する方法で逆直交変換する。これにより図１の直交変換部１０４の入力（演算部１０３の出力）に対応する差分情報が復号されたことになる。
【０１７０】
ステップＳ２０６において、イントラ予測部２１１、または動き予測・補償部２１２は、可逆復号部２０２から供給される予測モード情報に対応して、それぞれ画像の予測処理を行う。すなわち、可逆復号部２０２からイントラ予測モード情報が供給された場合、イントラ予測部２１１は、イントラ予測モードのイントラ予測処理を行う。また、可逆復号部２０２からインター予測モード情報が供給された場合、動き予測・補償部２１２は、ステップＳ２０３の処理により得られたユニットサイズに関する各種情報を用いて、インター予測処理（動き予測および動き補償を含む）を行う。
【０１７１】
ステップＳ２０７において、演算部２０５は、ステップＳ２０４の処理により得られた差分情報に、ステップＳ２０６の処理により得られた予測画像を加算する。これにより元の画像データが復号される。
【０１７２】
ステップＳ２０８において、ループフィルタ２０６は、ステップＳ２０７の処理により得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行う。
【０１７３】
ステップＳ２０９において、画面並べ替えバッファ２０７は、復号画像データのフレームの並べ替えを行う。すなわち、復号画像データの、画像符号化装置１００の画面並べ替えバッファ１０２（図１）により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。
【０１７４】
ステップＳ２１０において、D/A変換部２０８は、画面並べ替えバッファ２０７においてフレームが並べ替えられた復号画像データをD/A変換する。この復号画像データが図示せぬディスプレイに出力され、その画像が表示される。
【０１７５】
ステップＳ２１１において、フレームメモリ２０９は、ステップＳ２０８の処理によりフィルタリングされた復号画像を記憶する。
【０１７６】
次に、図１０のステップＳ２０３において実行されるユニットサイズ設定復号処理の流れの例を、図１１のフローチャートを参照して説明する。
【０１７７】
ユニット設定復号処理が開始されると、SCUサイズ復号部２５１は、ステップＳ２３１において、ステップＳ２０２において復号されたlog2_min_coding_block_size_minus3を取得する。ステップＳ２３２において、SCUサイズ復号部２５１は、ステップＳ２３１の処理により得られたlog2_min_coding_block_size_minus3の値を用いてSCUサイズを設定（再構築）する。
【０１７８】
ステップＳ２３３において、LCUサイズ復号部２５２は、ステップＳ２０２において復号されたlog2_diff_max_min_coding_block_sizeを取得する。ステップＳ２３４において、LCUサイズ復号部２５２は、ステップＳ２３２において再構築されたSCUサイズと、ステップＳ２３３の処理により得られたlog2_diff_max_min_coding_block_sizeの値に基づいて、LCUサイズを設定する。
【０１７９】
ステップＳ２３５において、フラグ復号部２５３は、ステップＳ２３２の処理により得られたSCUサイズが、取り得る範囲の中で最小（8x8）であるか否かを判定する。SCUサイズが最小（8x8）であると判定された場合、フラグ復号部２５３は、処理をステップＳ２３６に進める。
【０１８０】
ステップＳ２３６において、フラグ復号部２５３は、ステップＳ２０２において復号されたinter_4x4_enabled_flagを取得する。ステップＳ２３６の処理を終了すると、フラグ復号部２５３は、ユニットサイズ設定復号処理を終了し、処理を図１０に戻す。
【０１８１】
また、ステップＳ２３５において、SCUサイズが最小（8x8）でないと判定された場合、フラグ復号部２５３は、ユニットサイズ設定復号処理を終了し、処理を図１０に戻す。
【０１８２】
以上のように各種処理を実行することにより、ユニットサイズ設定復号部２２１は、シーケンスパラメータセットに含められて伝送される、ユニットサイズに関する各種情報を正しく復号することができ、必要な情報を動き予測・補償部２１２に提供することができる。これにより、動き予測・補償部２１２は、正しくインター予測処理を行うことができる。したがって、画像復号装置２００は、inter_4x4_enabled_flagのより効果的な伝送制御を実現することができ、冗長な情報の伝送による符号化効率の低減の抑制を実現することができる。
【０１８３】
なお、以上においては、SCUの最小サイズを8x8として説明したが、SCUのサイズの範囲は任意である。つまり、SCUの最小サイズが8x8以外であってもよい。したがって、inter_4x4_enabled_flagがインター予測のユニット（PU（inter PU））のサイズとして、適用するか否か（禁止するか否か）を定義するユニットサイズが、SCUの（取り得る範囲の中で）最小サイズを縦および横にそれぞれ２分割する場合のサイズとしてもよい。
【０１８４】
例えば、SCUの最小サイズが16x16の場合、inter_4x4_enabled_flagが、8x8を適用するか否か（禁止するか否か）を定義するフラグであるようにしてもよい。換言するに、inter_4x4_enabled_flagの代わりに、8x8を適用するか否か（禁止するか否か）を定義するフラグinter_8x8_enabled_flagを用いるようにしてもよい。
【０１８５】
＜２．第２の実施の形態＞
［ユニットサイズ設定部］
以上においては、inter_4x4_enabled_flagが、SCUの最小サイズを縦および横にそれぞれ２分割する場合のサイズを、インター予測のユニットのサイズとして適用するか否か（禁止するか否か）を定義するフラグであるように説明した。
【０１８６】
このようなinter_4x4_enabled_flagの代わりに、例えば、図１２に示される例のように、任意のサイズのSCU（2Nx2N）を４分割したNxNのサイズの領域を、インター予測のPUとして設定することができるようにするか否かを示すフラグが伝送されるようにしてもよい。
【０１８７】
図１２は、シーケンスパラメータセットのシンタックスの例を示す図である。図１２の例の場合、inter_4x4_enabled_flagの代わりにsmallest_inter_NxN_enabled_flagが規定される。smallest_inter_NxN_enabled_flagは、インター予測の処理単位であるインターPUの最小サイズを、任意のサイズのSCUを基準として制御する情報である。より具体的には、smallest_inter_NxN_enabled_flagは、サイズ2Nx2NのSCUに対して、NxNのサイズをインターPUの最小サイズとして許可するか否かを示すフラグである。
【０１８８】
つまり、この場合、SCUのサイズに関わらず、このsmallest_inter_NxN_enabled_flagは必ず復号側に伝送される。したがって、画像復号装置２００は、SCUサイズを判定する必要無く、このsmallest_inter_NxN_enabled_flagを参照して、容易にPUサイズが取り得る値の範囲を定義することができる。
【０１８９】
この場合の画像符号化装置１００は、上述した図１の例の場合と基本的に同様の構成を有する。ただし、ユニットサイズ設定部１２１の構成が異なる。
【０１９０】
［ユニットサイズ設定部］
図１３は、この場合のユニットサイズ設定部１２１の主な構成例を示すブロック図である。図１３に示されるようにこの場合のユニットサイズ設定部１２１は、図５の例と略同様の構成を有するが、フラグ設定部１５３の代わりに、フラグ設定部３５３およびPUサイズ設定部３５４を有する。
【０１９１】
フラグ設定部３５３は、ユーザ設定、ハードウエア性能、およびプロファイルレベル等の任意の情報に基づいて、SCUを４分割（縦横それぞれ２分割）した場合の部分領域のサイズ（NxN）を、インター予測のPUサイズとして許可するか否かを判定し、その判定結果を示すフラグ情報であるsmallest_inter_NxN_enabled_flagを設定する。フラグ設定部３５３は、設定したsmallest_inter_NxN_enabled_flagを、PUサイズ設定部３５４に供給する。また、フラグ設定部３５３は、設定したsmallest_inter_NxN_enabled_flagを可逆符号化部１０６に供給し、シーケンスパラメータセット（SPS）に格納させ、復号側の装置に伝送させる。
【０１９２】
PUサイズ設定部３５４は、smallest_inter_NxN_enabled_flagの値に応じて、インターPUサイズの最小サイズを決定する。例えば、このフラグにより、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可することが指定されている場合、PUサイズ設定部３５４は、NxNを、PUの最小サイズとする。また、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可しないことが指定されている場合、PUサイズ設定部３５４は、2NxNまたはNx2Nを、PUの最小サイズとする。PUサイズ設定部３５４は、そのPUの最小サイズを示す情報を動き予測・補償部１１５に供給する。動き予測・補償部１１５は、PUを、その設定値よりも大きなサイズに設定してインター予測を行う。
【０１９３】
このようにすることにより、ユニットサイズ設定部１２１は、SCUのサイズに関わらず参照されるsmallest_inter_NxN_enabled_flagを復号側に伝送することができるので、画像符号化装置１００は、冗長な情報の伝送による符号化効率の低減を抑制することができる。
【０１９４】
［ユニットサイズ設定処理の流れ］
この場合のユニットサイズ設定処理の流れの例を、図１４のフローチャートを参照して説明する。図１４に示されるように、この場合も、ステップＳ３０１乃至ステップＳ３０６の各処理は、図７のステップＳ１３１乃至ステップＳ１３６の各処理と同様に実行される。
【０１９５】
ステップＳ３０７において、フラグ設定部３５３は、SCUのサイズに関わらず、任意の情報に基づいて、smallest_inter_NxN_enabled_flagを設定する。ステップＳ３０８において、フラグ設定部３５３は、そのsmallest_inter_NxN_enabled_flagを、可逆符号化部１０６に供給し、シーケンスパラメータセットとして復号側に伝送させる。
【０１９６】
ステップＳ３０９において、PUサイズ設定部３５４は、ステップＳ３０７の処理により設定されたsmallest_inter_NxN_enabled_flagに従って、PUサイズの下限（最小サイズ）を設定する。例えば、このフラグにより、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可することが指定されている場合、PUサイズ設定部３５４は、NxNを、PUの最小サイズとする。また、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可しないことが指定されている場合、PUサイズ設定部３５４は、2NxNまたはNx2Nを、PUの最小サイズとする。この値は、動き予測・補償部１１５のインター予測に用いられる。
【０１９７】
ステップＳ３０９の処理が終了すると、PUサイズ設定部３５４は、ユニットサイズ設定処理を終了し、処理を図６に戻す。
【０１９８】
以上のように処理を行うことにより、画像符号化装置１００は、冗長な情報の伝送による符号化効率の低減を抑制することができる。
【０１９９】
［ユニットサイズ設定復号部］
次に、この場合の画像復号装置について説明する。この場合の画像復号装置２００は、上述した図８の例の場合と基本的に同様の構成を有する。ただし、ユニットサイズ設定復号部２２１の構成が異なる。
【０２００】
図１５は、この場合のユニットサイズ設定復号部２２１の主な構成例を示すブロック図である。図１５に示されるように、この場合のユニットサイズ設定復号部２２１は、図９の例の場合と基本的に同様の構成を有するが、フラグ復号部２５３の代わりに、フラグ復号部４５３およびPUサイズ設定部４５４を有する。
【０２０１】
フラグ復号部４５３は、可逆復号部２０２においてシーケンスパラメータセットから抽出されたsmallest_inter_NxN_enabled_flagを取得する。フラグ復号部４５３は、取得したsmallest_inter_NxN_enabled_flagをPUサイズ設定部４５４に供給する。
【０２０２】
PUサイズ設定部４５４は、供給されたsmallest_inter_NxN_enabled_flagに従って、PUサイズの下限（最小サイズ）を設定する。例えば、このフラグにより、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可することが指定されている場合、PUサイズ設定部４５４は、NxNを、PUの最小サイズとする。また、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可しないことが指定されている場合、PUサイズ設定部４５４は、2NxNまたはNx2Nを、PUの最小サイズとする。PUサイズ設定部４５４は、そのPUの最小サイズを示す情報を動き予測・補償部２１２に供給する。動き予測・補償部２１２は、PUを、その設定値よりも大きなサイズに設定してインター予測を行う。
【０２０３】
このようにすることにより、ユニットサイズ設定復号部２２１は、SCUのサイズに関わらず伝送されるsmallest_inter_NxN_enabled_flagを取得し、その値に基づいてPUサイズの下限を設定することができるので、画像復号装置２００は、冗長な情報の伝送による符号化効率の低減の抑制を実現することができる。
【０２０４】
［ユニットサイズ設定復号処理の流れ］
この場合のユニットサイズ設定復号処理の流れの例を、図１６のフローチャートを参照して説明する。図１６に示されるように、この場合も、ステップＳ４０１乃至ステップＳ４０４の各処理は、図１１のステップＳ２３１乃至ステップＳ２３４の各処理と同様に実行される。
【０２０５】
ステップＳ４０５において、フラグ復号部４５３は、smallest_inter_NxN_enabled_flagを取得する。ステップＳ４０６において、PUサイズ設定部４５４は、ステップＳ４０５において取得されたsmallest_inter_NxN_enabled_flagに従って、PUサイズの下限（最小サイズ）を設定する。例えば、このフラグにより、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可することが指定されている場合、PUサイズ設定部４５４は、NxNを、PUの最小サイズとする。また、SCUを縦横それぞれ２分割した場合の部分領域のサイズ（NxN）をインター予測のPUサイズとして許可しないことが指定されている場合、PUサイズ設定部４５４は、2NxNまたはNx2Nを、PUの最小サイズとする。この値は、動き予測・補償部２１２のインター予測に用いられる。
【０２０６】
ステップＳ４０６の処理が終了すると、PUサイズ設定部４５４は、ユニットサイズ設定処理を終了し、処理を図１０に戻す。
【０２０７】
以上のように処理を行うことにより、画像復号装置２００は、冗長な情報の伝送による符号化効率の低減の抑制を実現することができる。
【０２０８】
＜３．第３の実施の形態＞
［コンピュータ］
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。この場合、例えば、図１７に示されるようなコンピュータとして構成されるようにしてもよい。
【０２０９】
図１７において、コンピュータ８００のCPU（Central Processing Unit）８０１は、ROM（Read Only Memory）８０２に記憶されているプログラム、または記憶部８１３からRAM（Random Access Memory）８０３にロードされたプログラムに従って各種の処理を実行する。RAM８０３にはまた、CPU８０１が各種の処理を実行する上において必要なデータなども適宜記憶される。
【０２１０】
CPU８０１、ROM８０２、およびRAM８０３は、バス８０４を介して相互に接続されている。このバス８０４にはまた、入出力インタフェース８１０も接続されている。
【０２１１】
入出力インタフェース８１０には、キーボード、マウスなどよりなる入力部８１１、CRT（Cathode Ray Tube）やLCD（Liquid Crystal Display）などよりなるディスプレイ、並びにスピーカなどよりなる出力部８１２、ハードディスクなどより構成される記憶部８１３、モデムなどより構成される通信部８１４が接続されている。通信部８１４は、インターネットを含むネットワークを介しての通信処理を行う。
【０２１２】
入出力インタフェース８１０にはまた、必要に応じてドライブ８１５が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア８２１が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部８１３にインストールされる。
【０２１３】
上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
【０２１４】
この記録媒体は、例えば、図１７に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM（Compact Disc - Read Only Memory）,DVD（Digital Versatile Disc）を含む）、光磁気ディスク（MD（Mini Disc）を含む）、若しくは半導体メモリなどよりなるリムーバブルメディア８２１により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM８０２や、記憶部８１３に含まれるハードディスクなどで構成される。
【０２１５】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０２１６】
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【０２１７】
また、本明細書において、システムとは、複数のデバイス（装置）により構成される装置全体を表すものである。
【０２１８】
また、以上において、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。つまり、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０２１９】
上述した実施形態に係る画像符号化装置１００（図１）および画像復号装置２００（図８）は、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、４つの応用例について説明する。
【０２２０】
＜４．第４の実施の形態＞
［テレビジョン装置］
図１８は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース９０９、制御部９１０、ユーザインタフェース９１１、及びバス９１２を備える。
【０２２１】
チューナ９０２は、アンテナ９０１を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９０２は、復調により得られた符号化ビットストリームをデマルチプレクサ９０３へ出力する。即ち、チューナ９０２は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
【０２２２】
デマルチプレクサ９０３は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ９０４へ出力する。
また、デマルチプレクサ９０３は、符号化ビットストリームからEPG（Electronic Program Guide）などの補助的なデータを抽出し、抽出したデータを制御部９１０に供給する。なお、デマルチプレクサ９０３は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
【０２２３】
デコーダ９０４は、デマルチプレクサ９０３から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ９０４は、復号処理により生成される映像データを映像信号処理部９０５へ出力する。また、デコーダ９０４は、復号処理により生成される音声データを音声信号処理部９０７へ出力する。
【０２２４】
映像信号処理部９０５は、デコーダ９０４から入力される映像データを再生し、表示部９０６に映像を表示させる。また、映像信号処理部９０５は、ネットワークを介して供給されるアプリケーション画面を表示部９０６に表示させてもよい。また、映像信号処理部９０５は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部９０５は、例えばメニュー、ボタン又はカーソルなどのGUI（Graphical User Interface）の画像を生成し、生成した画像を出力画像に重畳してもよい。
【０２２５】
表示部９０６は、映像信号処理部９０５から供給される駆動信号により駆動され、表示デバイス（例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD（Organic ElectroLuminescence Display）（有機ELディスプレイ）など）の映像面上に映像又は画像を表示する。
【０２２６】
音声信号処理部９０７は、デコーダ９０４から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ９０８から音声を出力させる。また、音声信号処理部９０７は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
【０２２７】
外部インタフェース９０９は、テレビジョン装置９００と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース９０９を介して受信される映像ストリーム又は音声ストリームが、デコーダ９０４により復号されてもよい。即ち、外部インタフェース９０９もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
【０２２８】
制御部９１０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置９００の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９１１から入力される操作信号に応じて、テレビジョン装置９００の動作を制御する。
【０２２９】
ユーザインタフェース９１１は、制御部９１０と接続される。ユーザインタフェース９１１は、例えば、ユーザがテレビジョン装置９００を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９１１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９１０へ出力する。
【０２３０】
バス９１２は、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース９０９及び制御部９１０を相互に接続する。
【０２３１】
このように構成されたテレビジョン装置９００において、デコーダ９０４は、上述した実施形態に係る画像復号装置２００（図８）の機能を有する。従って、デコーダ９０４は、SCUサイズ（log2_min_coding_block_size_minus3の値）に応じて、inter_4x4_enabled_flagが伝送されるか否かを判定することができる。したがって、テレビジョン装置９００は、冗長な情報の伝送による符号化効率の低減の抑制を実現することができる。
【０２３２】
＜５．第５の実施の形態＞
［携帯電話機］
図１９は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機９２０は、アンテナ９２１、通信部９２２、音声コーデック９２３、スピーカ９２４、マイクロホン９２５、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１、操作部９３２、及びバス９３３を備える。
【０２３３】
アンテナ９２１は、通信部９２２に接続される。スピーカ９２４及びマイクロホン９２５は、音声コーデック９２３に接続される。操作部９３２は、制御部９３１に接続される。バス９３３は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、及び制御部９３１を相互に接続する。
【０２３４】
携帯電話機９２０は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
【０２３５】
音声通話モードにおいて、マイクロホン９２５により生成されるアナログ音声信号は、音声コーデック９２３に供給される。音声コーデック９２３は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック９２３は、圧縮後の音声データを通信部９２２へ出力する。通信部９２２は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号をアンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック９２３へ出力する。音声コーデック９２３は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２３６】
また、データ通信モードにおいて、例えば、制御部９３１は、操作部９３２を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部９３１は、文字を表示部９３０に表示させる。また、制御部９３１は、操作部９３２を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部９２２へ出力する。通信部９２２は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号をアンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部９３１へ出力する。制御部９３１は、表示部９３０に電子メールの内容を表示させると共に、電子メールデータを記録再生部９２９の記憶媒体に記憶させる。
【０２３７】
記録再生部９２９は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
【０２３８】
また、撮影モードにおいて、例えば、カメラ部９２６は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部９２７へ出力する。画像処理部９２７は、カメラ部９２６から入力される画像データを符号化し、符号化ストリームを記録再生部９２９の記憶媒体に記憶させる。
【０２３９】
また、テレビ電話モードにおいて、例えば、多重分離部９２８は、画像処理部９２７により符号化された映像ストリームと、音声コーデック９２３から入力される音声ストリームとを多重化し、多重化したストリームを通信部９２２へ出力する。通信部９２２は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号をアンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部９２２は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部９２８へ出力する。多重分離部９２８は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部９２７、音声
ストリームを音声コーデック９２３へ出力する。画像処理部９２７は、映像ストリームを復号し、映像データを生成する。映像データは、表示部９３０に供給され、表示部９３０により一連の画像が表示される。音声コーデック９２３は、音声ストリームを伸張し及びＤ／Ａ変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
【０２４０】
このように構成された携帯電話機９２０において、画像処理部９２７は、上述した実施形態に係る画像符号化装置１００（図１）の機能と、画像復号装置２００（図８）の機能とを有する。従って、携帯電話機９２０で符号化及び復号される画像について、画像処理部９２７は、SCUサイズに従って、inter_4x4_enabled_flagの伝送が必要な場合のみ行われるようにすることができる。したがって、携帯電話機９２０は、冗長な情報の伝送による不要な符号化効率の低減を抑制することができる。
【０２４１】
また、以上においては携帯電話機９２０として説明したが、例えば、PDA（Personal Digital Assistants）、スマートフォン、UMPC（Ultra Mobile Personal Computer）、ネットブック、ノート型パーソナルコンピュータ等、この携帯電話機９２０と同様の撮像機能や通信機能を有する装置であれば、どのような装置であっても携帯電話機９２０の場合と同様に、本技術を適用した画像符号化装置および画像復号装置を適用することができる。
【０２４２】
＜６．第６の実施の形態＞
［記録再生装置］
図２０は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置９４０は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置９４０は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置９４０は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置９４０は、音声データ及び映像データを復号する。
【０２４３】
記録再生装置９４０は、チューナ９４１、外部インタフェース９４２、エンコーダ９４３、HDD（Hard Disk Drive）９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、OSD（On-Screen Display）９４８、制御部９４９、及びユーザインタフェース９５０を備える。
【０２４４】
チューナ９４１は、アンテナ（図示せず）を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９４１は、復調により得られた符号化ビットストリームをセレクタ９４６へ出力する。即ち、チューナ９４１は、記録再生装置９４０における伝送部としての役割を有する。
【０２４５】
外部インタフェース９４２は、記録再生装置９４０と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース９４２は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース９４２を介して受信される映像データ及び音声データは、エンコーダ９４３へ入力される。即ち、外部インタフェース９４２は、記録再生装置９４０における伝送部としての役割を有する。
【０２４６】
エンコーダ９４３は、外部インタフェース９４２から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ９４３は、符号化ビットストリームをセレクタ９４６へ出力する。
【０２４７】
HDD９４４は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、HDD９４４は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
【０２４８】
ディスクドライブ９４５は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ９４５に装着される記録媒体は、例えばDVDディスク（DVD-Video、DVD-RAM、DVD-R、DVD-RW、DVD+R、DVD+RW等）又はBlu-ray（登録商標）ディスクなどであってよい。
【０２４９】
セレクタ９４６は、映像及び音声の記録時には、チューナ９４１又はエンコーダ９４３から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをＨＤＤ９４４又はディスクドライブ９４５へ出力する。また、セレクタ９４６は、映像及び音声の再生時には、HDD９４４又はディスクドライブ９４５から入力される符号化ビットストリームをデコーダ９４７へ出力する。
【０２５０】
デコーダ９４７は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ９４７は、生成した映像データをOSD９４８へ出力する。また、デコーダ９０４は、生成した音声データを外部のスピーカへ出力する。
【０２５１】
OSD９４８は、デコーダ９４７から入力される映像データを再生し、映像を表示する。また、OSD９４８は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
【０２５２】
制御部９４９は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置９４０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９５０から入力される操作信号に応じて、記録再生装置９４０の動作を制御する。
【０２５３】
ユーザインタフェース９５０は、制御部９４９と接続される。ユーザインタフェース９５０は、例えば、ユーザが記録再生装置９４０を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９５０は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９４９へ出力する。
【０２５４】
このように構成された記録再生装置９４０において、エンコーダ９４３は、上述した実施形態に係る画像符号化装置１００（図１）の機能を有する。また、デコーダ９４７は、上述した実施形態に係る画像復号装置２００（図８）の機能を有する。従って、記録再生装置９４０で符号化及び復号される画像について、エンコーダ９４３およびデコーダ９４７は、SCUサイズに従って、inter_4x4_enabled_flagの伝送が必要な場合のみ行われるようにすることができる。したがって、記録再生装置９４０は、冗長な情報の伝送による不要な符号化効率の低減を抑制することができる。
【０２５５】
＜７．第７の実施の形態＞
［撮像装置］
図２１は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置９６０は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
【０２５６】
撮像装置９６０は、光学ブロック９６１、撮像部９６２、信号処理部９６３、画像処理部９６４、表示部９６５、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、制御部９７０、ユーザインタフェース９７１、及びバス９７２を備える。
【０２５７】
光学ブロック９６１は、撮像部９６２に接続される。撮像部９６２は、信号処理部９６３に接続される。表示部９６５は、画像処理部９６４に接続される。ユーザインタフェース９７１は、制御部９７０に接続される。バス９７２は、画像処理部９６４、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、及び制御部９７０を相互に接続する。
【０２５８】
光学ブロック９６１は、フォーカスレンズ及び絞り機構などを有する。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、CCD又はCMOSなどのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部９６２は、画像信号を信号処理部９６３へ出力する。
【０２５９】
信号処理部９６３は、撮像部９６２から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部９６３は、カメラ信号処理後の画像データを画像処理部９６４へ出力する。
【０２６０】
画像処理部９６４は、信号処理部９６３から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部９６４は、生成した符号化データを外部インタフェース９６６又はメディアドライブ９６８へ出力する。また、画像処理部９６４は、外部インタフェース９６６又はメディアドライブ９６８から入力される符号化データを復号し、画像データを生成する。そして、画像処理部９６４は、生成した画像データを表示部９
６５へ出力する。また、画像処理部９６４は、信号処理部９６３から入力される画像データを表示部９６５へ出力して画像を表示させてもよい。また、画像処理部９６４は、ＯＳＤ９６９から取得される表示用データを、表示部９６５へ出力する画像に重畳してもよい。
【０２６１】
OSD９６９は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部９６４へ出力する。
【０２６２】
外部インタフェース９６６は、例えばUSB入出力端子として構成される。外部インタフェース９６６は、例えば、画像の印刷時に、撮像装置９６０とプリンタとを接続する。また、外部インタフェース９６６には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置９６０にインストールされ得
る。さらに、外部インタフェース９６６は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース９６６は、撮像装置９６０における伝送部としての役割を有する。
【０２６３】
メディアドライブ９６８に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ９６８に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD（Solid State Drive）のような非可搬性の記憶部が構成されてもよい。
【０２６４】
制御部９７０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置９６０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９７１から入力される操作信号に応じて、撮像装置９６０の動作を制御する。
【０２６５】
ユーザインタフェース９７１は、制御部９７０と接続される。ユーザインタフェース９７１は、例えば、ユーザが撮像装置９６０を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース９７１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９７０へ出力する。
【０２６６】
このように構成された撮像装置９６０において、画像処理部９６４は、上述した実施形態に係る画像符号化装置１００（図１）の機能と画像復号装置２００（図８）の機能を有する。従って、撮像装置９６０で符号化及び復号される画像について、画像処理部９６４は、SCUサイズに従って、inter_4x4_enabled_flagの伝送が必要な場合のみ行われるようにすることができる。したがって、撮像装置９６０は、冗長な情報の伝送による不要な符号化効率の低減を抑制することができる。
【０２６７】
もちろん、本技術を適用した画像符号化装置および画像復号装置は、上述した装置以外の装置やシステムにも適用可能である。
【０２６８】
なお、本明細書では、量子化パラメータが、符号化側から復号側へ伝送される例について説明した。量子化行列パラメータを伝送する手法は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像（スライス若しくはブロックなど、画像の一部であってもよい）と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像（又はビットストリーム）とは別の伝送路上で伝送されてもよい。また、情報は、画像（又はビットストリーム）とは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されてもよい。さらに、情報と画像（又はビットストリーム）とは、例えば、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
【０２６９】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【０２７０】
なお、本技術は以下のような構成も取ることができる。
（１）  画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得するスモーレストコーディングユニット情報取得部と、
前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する制御情報取得部と
を備える画像処理装置。
（２）  前記制御情報取得部は、前記スモーレストコーディングユニット情報取得部により取得された前記情報に示される前記スモーレストコーディングユニットのサイズが前記最小サイズでない場合、前記制御情報の取得を省略する
前記（１）に記載の画像処理装置。
（３）  前記制御情報は、前記スモーレストコーディングユニットが取り得る最小サイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグである
前記（１）に記載の画像処理装置。
（４）  前記スモーレストコーディングユニットが取り得る最小サイズは8x8である
前記（１）に記載の画像処理装置。
（５）  画像処理装置の画像処理方法であって、
スモーレストコーディングユニット情報取得部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを示す情報を取得し、
制御情報取得部が、取得された前記情報に示される前記スモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を取得する
画像処理方法。
（６）  画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を設定する制御情報設定部と、
前記制御情報設定部により設定された前記制御情報を伝送する伝送部と
を備える画像処理装置。
（７）  前記制御情報設定部は、前記スモーレストコーディングユニットのサイズが、自身が取り得る最小サイズでない場合、前記制御情報の設定を省略する
前記（６）に記載の画像処理装置。
（８）  前記制御情報は、前記スモーレストコーディングユニットが取り得る最小サイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグである
前記（６）に記載の画像処理装置。
（９）  前記スモーレストコーディングユニットが取り得る最小サイズは8x8である
前記（６）に記載の画像処理装置。
（１０）  前記スモーレストコーディングユニットのサイズを設定するスモーレストコーディングユニット設定部をさらに備え、
前記制御情報設定部は、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズに応じて、前記制御情報を設定し、
前記伝送部は、さらに、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズを示す情報を伝送する
前記（６）に記載の画像処理装置。
（１１）  最大の前記コーディングユニットであるラージストコーディングユニットのサイズを設定するとともに、設定した前記ラージストコーディングユニットのサイズと、前記スモーレストコーディングユニット設定部により設定された前記スモーレストコーディングユニットのサイズとに応じて、前記ラージストコーディングユニットのサイズを示す情報を設定するラージストコーディングユニット設定部をさらに備え、
前記伝送部は、さらに、前記ラージストコーディングユニット設定部により設定された前記ラージストコーディングユニットのサイズを示す情報を伝送する
前記（１０）に記載の画像処理装置。
（１２）  前記伝送部は、前記制御情報をシーケンスパラメータセットに格納して伝送する
前記（６）に記載の画像処理装置。
（１３）  画像処理装置の画像処理方法であって、
制御情報設定部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズに応じて、インター予測の処理単位であるインタープレディクションユニットの最小サイズを制御する制御情報を設定し、
伝送部が、設定された前記制御情報を伝送する
画像処理方法。
（１４）  画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を取得する制御情報取得部と、
前記制御情報取得部により取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズを設定するインタープレディクションユニット設定部と
を備える画像処理装置。
（１５）  画像処理装置の画像処理方法であって、
制御情報取得部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として前記画像データを符号化して得られた符号化データの復号において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を取得し、
インタープレディクションユニット設定部が、取得された前記制御情報にしたがって、前記インタープレディクションユニットの最小サイズを設定する
画像処理方法。
（１６）  画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を設定する制御情報設定部と、
前記制御情報設定部により設定された前記制御情報を伝送する伝送部と
を備える画像処理装置。
（１７）  前記制御情報設定部は、前記スモーレストコーディングユニットのサイズに関わらず、前記制御情報の設定を行う
前記（１６）に記載の画像処理装置。
（１８）  前記制御情報は、前記スモーレストコーディングユニットのサイズを縦および横にそれぞれ２分割する領域を、前記インタープレディクションユニットの最小サイズとして適用するか否かを指定するフラグである
前記（１６）に記載の画像処理装置。
（１９）  前記伝送部は、前記制御情報をシーケンスパラメータセットに格納して伝送する
前記（１６）に記載の画像処理装置。
（２０）  画像処理装置の画像処理方法であって、
制御情報設定部が、画像データのピクチャを複数に分割した多層構造のコーディングユニットを処理単位として行う前記画像データの符号化において、
インター予測の処理単位であるインタープレディクションユニットの最小サイズを、最小の前記コーディングユニットであるスモーレストコーディングユニットのサイズを基準として制御する制御情報を設定し、
伝送部が、設定された前記制御情報を伝送する
画像処理方法。
【符号の説明】
【０２７１】
１００  画像符号化装置，  １２１  ユニットサイズ設定部，  １５１  SCUサイズ設定部，  １５２  LCUサイズ設定部，  １５３  フラグ設定部，  ２００  画像復号装置，  ２２１  ユニットサイズ設定復号部，  ２５１  SCUサイズ復号部，  ２５２  LCUサイズ復号部，  ２５３  フラグ復号部，  ３５３  フラグ設定部，  ３５４  PUサイズ設定部，  ４５３  フラグ復号部，  ４５４  PUサイズ設定部
【図１】
2013085096.tif 000003
【図２】
2013085096.tif 000004
【図３】
2013085096.tif 000005
【図４】
2013085096.tif 000006
【図５】
2013085096.tif 000007
【図６】
2013085096.tif 000008
【図７】
2013085096.tif 000009
【図８】
2013085096.tif 000010
【図９】
2013085096.tif 000011
【図１０】
2013085096.tif 000012
【図１１】
2013085096.tif 000013
【図１２】
2013085096.tif 000014
【図１３】
2013085096.tif 000015
【図１４】
2013085096.tif 000016
【図１５】
2013085096.tif 000017
【図１６】
2013085096.tif 000018
【図１７】
2013085096.tif 000019
【図１８】
2013085096.tif 000020
【図１９】
2013085096.tif 000021
【図２０】
2013085096.tif 000022
【図２１】
2013085096.tif 000023