(57)【要約】入力画像の色差成分および輝度成分に対し変換を行って前記入力画像を符号化する画像符号化方法であって、入力画像は、１または複数の符号化ブロックを含み、符号化ブロックは、１または複数の変換ブロックを含み、処理対象の変換ブロックにおける輝度成分のブロックのサイズは、処理対象の変換ブロックのサイズと同じであり、処理対象の変換ブロックにおける色差成分のブロックのサイズは、輝度成分のブロックのサイズよりも小さく、処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、色差成分の複数のブロックを結合することにより、輝度成分と同じサイズのブロックで色差成分に対する変換を実行するステップと、処理対象の変換ブロックのサイズが第一最小サイズである場合は、色差成分の係数に非ゼロの係数が含まれるか否かを示すＣＢＦフラグを符号化せず、他のサイズである場合は、ＣＢＦフラグを符号化するステップとを有する。
2014038153.tif 000002
【特許請求の範囲】
【請求項１】
入力画像を符号化する画像符号化方法であって、
前記入力画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、
処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、
前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、
前記画像符号化方法は、
前記輝度成分及び前記色差成分に対して、変換処理を実行して前記輝度成分の係数及び前記色差成分の係数を導出する導出ステップと、
前記輝度成分の係数及び前記色差成分の係数を符号化する符号化ステップとを含み、
前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで前記色差成分に対する前記変換処理を実行して前記色差成分の係数を導出し、
前記符号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズである場合は、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを符号化せず、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合は、前記フラグを符号化する
画像符号化方法。
【請求項２】
前記変換ブロックは、四分木構造を用いて符号化ブロックを分割したブロックであり、
前記符号化ブロックの第二最小サイズは、前記第一最小サイズより大きいサイズに制限され、
前記符号化ステップでは、（１）前記処理対象の変換ブロックのサイズが、前記第一最小サイズより大きく、且つ、（２）前記処理対象の変換ブロックが前記四分木構造の最上位レイヤである、または、前記処理対象の変換ブロックの前記四分木構造におけるレイヤの１階層上のレイヤにおける前記フラグの値が１である場合に、前記フラグを符号化する
請求項１に記載の画像符号化方法。
【請求項３】
符号化ビットストリームから、画像を復号する画像復号化方法であって、
前記画像は、色差成分及び輝度成分を有する１または複数の変換ブロックを含み、
処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、
前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、
前記画像復号化方法は、
前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、
前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップとを含み、
前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して変換処理を実行することにより、前記色差成分を導出し、
前記復号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する
画像復号化方法。
【請求項４】
前記変換ブロックは、四分木構造を用いて前記復号ブロックを分割したブロックであり、
前記復号ブロックの第二最小サイズは、前記第一最小サイズより大きいサイズに制限され、
前記復号化ステップでは、（１）前記処理対象の変換ブロックのサイズが、前記第一最小サイズより大きく、且つ、（２）前記処理対象の変換ブロックが前記四分木構造の最上位レイヤである、または、前記処理対象の変換ブロックの前記四分木構造におけるレイヤの１階層上のレイヤにおける前記フラグの値が１である場合に、前記フラグを復号化する
請求項３に記載の画像復号化方法。
【請求項５】
処理回路と、前記処理回路がアクセス可能な記憶装置とを備え、入力画像の色差成分および輝度成分に対し変換を行う画像符号化装置であって、
前記入力画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、
処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、
前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、
前記処理回路は、
前記輝度成分及び前記色差成分に対して、変換処理を実行して前記輝度成分の係数及び前記色差成分の係数を導出する導出ステップと、
前記輝度成分の係数及び前記色差成分の係数を符号化する符号化ステップとを含み、
前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで前記色差成分に対する前記変換処理を実行して前記色差成分の係数を導出し、
前記符号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズである場合は、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを符号化せず、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合は、前記フラグを符号化する
画像符号化装置。
【請求項６】
処理回路と、前記処理回路がアクセス可能な記憶装置とを備え、符号化ビットストリームから、画像を復号する画像復号化装置であって、
前記画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、
処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、
前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、
前記処理回路は、
前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、
前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップとを含み、
前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して逆変換処理を実行することにより、前記色差成分を導出し、
前記復号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する
画像復号化装置。
【請求項７】
請求項５に記載の画像符号化装置と、
請求項６に記載の画像復号化装置とを備える
画像符号化復号化装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像を符号化する画像符号化方法、または、画像を復号化する画像復号化方法に関する。
【背景技術】
【０００２】
画像（動画像を含む）を符号化する画像符号化方法、または、画像を復号化する画像復号化方法に関する技術として、例えば、非特許文献１に記載の技術がある。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】ＩＳＯ／ＩＥＣ  １４４９６−１０「ＭＰＥＧ−４  Ｐａｒｔ１０  Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ」
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来技術に係る画像符号化方法または画像復号化方法では、符号化効率が十分ではないという問題がある。【０００５】
そこで、本発明は、符号化効率を向上することができる画像符号化方法および画像復号化方法を提供する。
【課題を解決するための手段】
【０００６】
本発明の一態様に係る画像符号化方法は、入力画像を符号化する画像符号化方法であって、前記入力画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、前記画像符号化方法は、前記輝度成分及び前記色差成分に対して、変換処理を実行して前記輝度成分の係数及び前記色差成分の係数を導出する導出ステップと、前記輝度成分の係数及び前記色差成分の係数を符号化する符号化ステップとを含み、前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで前記色差成分に対する前記変換処理を実行して前記色差成分の係数を導出し、前記符号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズである場合は、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを符号化せず、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合は、前記フラグを符号化する。【０００７】
また、本発明の一態様に係る画像復号化方法は、符号化ビットストリームから、画像を復号する画像復号化方法であって、前記画像は、色差成分及び輝度成分を有する１または複数の変換ブロックを含み、処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、前記画像復号化方法は、前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップと、を含み、前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して変換処理を実行することにより、前記色差成分を導出し、前記復号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する。【０００８】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ−ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【０００９】
本発明の画像符号化方法及び画像復号化方法は、符号化効率を向上（符号量を低減）することができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施の形態１における画像符号化装置の構成の一例を示すブロック図である。
【図２】図２は、実施の形態１における四分木符号化部の構成の一例を示すブロック図である。
【図３】図３は、実施の形態１における画像符号化方法の処理手順の一例を示すフローチャートである。
【図４】図４は、ＬＣＵ（Ｌａｒｇｅｓｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ）をＣＵ（Ｃｏｄｉｎｇ  Ｕｎｉｔ）に分割する場合の一例を示す図である。
【図５】図５は、図４のＬＣＵに対応するＣＵスプリットフラグの一例を示す図である。
【図６】図６は、図４のＬＣＵに対応するＴＵへの分割方法の一例を示す図である。
【図７】図７は、図６のＬＣＵに対応するＴＵスプリットフラグの一例を示す図である。
【図８】図８は、四分木符号化部の動作の一例を示すフローチャートである。
【図９】図９は、図３に示す四分木符号化部のＣＵ符号化部の動作の一例を示すフローチャートである。
【図１０】図１０は、図３に示すＣＵ符号化部の四分木変換部の動作の一例を示すフローチャートである。
【図１１】図１１は、図３に示す四分木変換部のＴＵ符号化部の動作の一例を示すフローチャートである。
【図１２】図１２は、図７のＴＵに対応するＣＢＦ＿Ｃｂの一例を示す図である。
【図１３】図１３は、実施の形態２における画像復号化装置の構成の一例を示すブロック図である。
【図１４】図１４は、実施の形態２における四分木復号化部の構成の一例を示すブロック図である。
【図１５】図１５は、実施の形態２における画像復号化方法の処理手順の一例を示すフローチャートである。
【図１６】図１６は、図１４に示す四分木復号化部の動作の一例を示すフローチャートである。
【図１７】図１７は、図１４に示すＣＵ復号化部の動作の一例を示すフローチャートである。
【図１８】図１８は、図１４に示す四分木変換部の動作の一例を示すフローチャートである。
【図１９】図１９は、図１４に示すＴＵ復号化の動作の一例を示すフローチャートである。
【図２０】図２０は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。
【図２１】図２１は、デジタル放送用システムの全体構成図である。
【図２２】図２２は、テレビの構成例を示すブロック図である。
【図２３】図２３は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。
【図２４】図２４は、光ディスクである記録メディアの構造例を示す図である。
【図２５Ａ】図２５Ａは、携帯電話の一例を示す図である。
【図２５Ｂ】図２５Ｂは、携帯電話の構成例を示すブロック図である。
【図２６】図２６は、多重化データの構成を示す図である。
【図２７】図２７は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。
【図２８】図２８は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。
【図２９】図２９は、多重化データにおけるＴＳパケットとソースパケットの構造を示す図である。
【図３０】図３０は、ＰＭＴのデータ構成を示す図である。
【図３１】図３１は、多重化データ情報の内部構成を示す図である。
【図３２】図３２は、ストリーム属性情報の内部構成を示す図である。
【図３３】図３３は、映像データを識別するステップを示す図である。
【図３４】図３４は、各実施の形態の動画像符号化方法および動画像復号化方法を実現する集積回路の構成例を示すブロック図である。
【図３５】図３５は、駆動周波数を切り替える構成を示す図である。
【図３６】図３６は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。
【図３７】図３７は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。
【図３８Ａ】図３８Ａは、信号処理部のモジュールを共有化する構成の一例を示す図である。
【図３８Ｂ】図３８Ｂは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。
【発明を実施するための形態】
【００１１】
（本発明の基礎となった知見）
本発明者は、「背景技術」の欄において記載した、画像を符号化する画像符号化方法、および、画像を復号化する画像復号化方法に関して、以下の問題が生じることを見出した。
【００１２】
近年、デジタル映像機器の技術進歩が著しく、ビデオカメラやテレビチューナから入力した映像信号（時系列順に並んだ複数の動画像ピクチャ）を圧縮符号化しＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｃ）あるいはハードディスク等の記録メディアに記録する、または、ネットワークを経由して配信する機会が増えている。
【００１３】
このような映像信号に対する画像符号化方法は、一般的に、符号化対象画像の予測画像を生成するステップ、予測画像と符号化対象画像との差分画像を求めるステップ、差分画像を画像領域から周波数領域に変換して周波数係数（係数）を求めるステップ、周波数係数を算術符号化するステップを含んで構成される。
【００１４】
Ｈ．２６４／ＡＶＣまたはＭＰＥＧ−４  ＡＶＣと呼ばれる画像符号化規格（非特許文献１参照）では、符号化対象画像は、１または複数の符号化対象ブロックに分割される。符号化対象ブロックは、１または複数の変換ブロックに分割される。上述した周波数係数を求めるステップは、変換ブロック毎に実行される。また、上述した算術符号化するステップにおいて算術符号化されるパラメータには、変換ブロック毎に非０の周波数係数が存在するか否かを示すフラグが含まれる。このフラグは、Ｈ．２６４／ＡＶＣでは、ＣＢＰ（Ｃｏｄｅｄ  Ｂｌｏｃｋ  Ｐａｔｔｅｒｎ）と呼ばれ、ＨＥＶＣでは、ＣＢＦ（Ｃｏｄｅｄ  Ｂｌｏｃｋ  Ｆｌａｇ）と呼ばれる。
【００１５】
画像を復号化する際には、当該フラグが１の変換ブロックに対して、逆周波数変換等を行う。
【００１６】
しかしながら、従来の方法では、変換ブロック毎にフラグを符号化する必要があるため、符号量が多くなるという課題があった。
【００１７】
このような問題を解決するために、本発明の一態様に係る画像符号化方法は、入力画像を符号化する画像符号化方法であって、前記入力画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、前記画像符号化方法は、前記輝度成分及び前記色差成分に対して、変換処理を実行して前記輝度成分の係数及び前記色差成分の係数を導出する導出ステップと、前記輝度成分の係数及び前記色差成分の係数を符号化する符号化ステップとを含み、前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで前記色差成分に対する前記変換処理を実行して前記色差成分の係数を導出し、前記符号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズである場合は、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを符号化せず、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合は、前記フラグを符号化する。
【００１８】
上記構成の画像符号化方法では、輝度成分よりもブロックの大きさが小さくなる色差成分について、変換ブロックのサイズが第一最小サイズのときに、ブロックを結合して輝度成分と同じ大きさのブロックで処理する。これにより、第一最小サイズより小さい単位での符号化のための処理回路およびソフトウェアモジュール等が必要なくなる。
【００１９】
さらに上記構成の画像符号化方法では、第一最小サイズの変換ブロックについては、色差成分のＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを符号化しないように構成している。上記構成の画像符号化方法では、１つ上のレイヤのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを参照するため、第一最小サイズの変換ブロックのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒは、参照されることがない。つまり、第一最小サイズの変換ブロックのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを符号化する必要がないため、これらを符号化しないことにより、処理効率を高めることが可能になる。
【００２０】
例えば、前記変換ブロックは、四分木構造を用いて前記符号化ブロックを分割したブロックであり、前記符号化ブロックの第二最小サイズは、前記第一最小サイズより大きいサイズに制限され、前記符号化ステップでは、（１）前記処理対象の変換ブロックのサイズが、前記第一最小サイズより大きく、且つ、（２）前記処理対象の変換ブロックが前記四分木構造の最上位レイヤである、または、前記処理対象の変換ブロックの前記四分木構造におけるレイヤの１階層上のレイヤにおける前記フラグの値が１である場合に、前記フラグを符号化してもよい。
【００２１】
このような問題を解決するために、本発明の一態様に係る画像復号化方法は、符号化ビットストリームから、画像を復号する画像復号化方法であって、前記画像は、色差成分及び輝度成分を有する１または複数の変換ブロックを含み、処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、前記画像復号化方法は、前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップと、を含み、前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して変換処理を実行することにより、前記色差成分を導出し、前記復号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する。
【００２２】
上記構成の画像復号化方法では、輝度成分よりもブロックの大きさが小さくなる色差成分について、変換ブロックのサイズが第一最小サイズのときに、ブロックを結合して輝度成分と同じ大きさのブロックで処理する。これにより、第一最小サイズより小さい単位での復号化のための処理回路およびソフトウェアモジュール等が必要なくなる。
【００２３】
さらに上記構成の画像復号化方法では、第一最小サイズの変換ブロックについては、色差成分のＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを復号化しないように構成している。上記構成の画像復号化方法では、１つ上のレイヤのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを参照するため、第一最小サイズの変換ブロックのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒは、参照されることがない。つまり、第一最小サイズの変換ブロックのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを符号化する必要がないため、仮に符号化ビットストリームにこれらのフラグが含まれている場合でも、これらのフラグを復号化しないことにより、処理効率を高めることが可能になる。
【００２４】
例えば、前記変換ブロックは、四分木構造を用いて前記復号ブロックを分割したブロックであり、前記復号ブロックの第二最小サイズは、前記第一最小サイズより大きいサイズに制限され、前記復号化ステップでは、（１）前記処理対象の変換ブロックのサイズが、前記第一最小サイズより大きく、且つ、（２）前記処理対象の変換ブロックが前記四分木構造の最上位レイヤである、または、前記処理対象の変換ブロックの前記四分木構造におけるレイヤの１階層上のレイヤにおける前記フラグの値が１である場合に、前記フラグを復号化してもよい。
【００２５】
このような問題を解決するために、本発明の一態様に係る画像符号化装置は、処理回路と、前記処理回路がアクセス可能な記憶装置とを備え、入力画像の色差成分および輝度成分に対し変換を行う画像符号化装置であって、前記入力画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、前記処理回路は、前記輝度成分及び前記色差成分に対して、変換処理を実行して前記輝度成分の係数及び前記色差成分の係数を導出する導出ステップと、前記輝度成分の係数及び前記色差成分の係数を符号化する符号化ステップとを含み、前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで前記色差成分に対する前記変換処理を実行して前記色差成分の係数を導出し、前記符号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズである場合は、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを符号化せず、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合は、前記フラグを符号化する。
【００２６】
このような問題を解決するために、本発明の一態様に係る画像復号化装置は、処理回路と、前記処理回路がアクセス可能な記憶装置とを備え、符号化ビットストリームから、画像を復号する画像復号化装置であって、前記画像は、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、処理対象の変換ブロックにおける前記輝度成分のブロックのサイズは、前記処理対象の変換ブロックのサイズと同じであり、前記処理対象の変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、前記処理回路は、前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップと、を含み、前記導出ステップでは、前記処理対象の変換ブロックのサイズが予め定められた第一最小サイズである場合に、複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して逆変換処理を実行することにより、前記色差成分を導出し、前記復号化ステップでは、前記処理対象の変換ブロックのサイズが前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する。
【００２７】
このような問題を解決するために、本発明の一態様に係る画像符号化復号化装置は、上記画像符号化装置と、上記画像復号化装置とを備える。
【００２８】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【００２９】
また、下記ではｃｏｄｉｎｇはｅｎｃｏｄｉｎｇの意味で使用する場合もある。
【００３０】
（実施の形態１）
本実施の形態の画像符号化装置および画像符号化方法について、図１〜図１２を用いて説明する。
【００３１】
＜１−１．全体構成＞
先ず、本実施の形態の画像符号化装置の全体構成について、図１を基に説明する。図１は、本実施の形態における画像符号化装置の構成（一部）の一例を示すブロック図である。
【００３２】
本実施の形態の画像符号化装置１００は、入力画像の色差成分および輝度成分に対し周波数変換を行う装置である。画像符号化装置１００は、木構造を用いて入力画像を１または複数の符号化ブロックに分割し、木構造を用いて符号化ブロックを１または複数の変換ブロックに分割する。なお、本実施の形態では、木構造の一例である四分木構造を用いている。
【００３３】
図１に示すように、画像符号化装置１００は、ＬＣＵ分割部１０１と、ＣＵ分割サイズ決定部１０２と、ＴＵ分割サイズ決定部１０３と、ＣＢＦ＿ＣｂＣｒ決定部１０４と、四分木符号化部１０５と、フレームメモリ１０６（記憶装置の一例）とを備えている。
【００３４】
なお、ＬＣＵ分割部１０１、ＣＵ分割サイズ決定部１０２、ＴＵ分割サイズ決定部１０３、ＣＢＦ＿ＣｂＣｒ決定部１０４、および、フレームメモリ１０６の詳細な構成（動作）については、１−３で説明する。
【００３５】
＜１−２．四分木符号化部１０５の構成＞
四分木符号化部１０５の構成について、図２を基に説明する。図２は、四分木符号化部１０５の構成の一例を示すブロック図である。
【００３６】
図２に示すように、四分木符号化部１０５は、ＣＵスプリットフラグ符号化部１１０と、ＣＵ符号化部１２０とを備えている。
【００３７】
ＣＵ符号化部１２０は、予測部１２１と、減算部１２２と、加算部１２３と、四分木変換部１３０とを備えている。
【００３８】
四分木変換部１３０は、ＴＵスプリットフラグ符号化部１３１と、ＣＢＦ符号化部１３２と、ＴＵ符号化部１４０とを備えている。
【００３９】
ＴＵ符号化部１４０は、変換部１４１と、周波数係数符号化部１４２と、逆変換部１４３とを備えている。
【００４０】
なお、四分木符号化部１０５の各構成の詳細（動作）については、１−４〜１−７で説明する。
【００４１】
＜１−３．動作（全体）＞
画像符号化装置１００の全体動作について、図３を基に説明する。図３は、画像符号化装置１００の全体動作の一例を示すフローチャートである。
【００４２】
ＬＣＵ分割部１０１は、図３に示すように、入力画像を、例えば、６４ｘ６４サイズのブロック（ＬＣＵ：Ｌａｒｇｅｓｔ  Ｃｏｄｉｎｇ  Ｕｎｉｔ）に分割し、分割したＬＣＵを順次、ＣＵ分割サイズ決定部１０２、ＴＵ分割サイズ決定部１０３、ＣＢＦ＿ＣｂＣｒ決定部１０４、および、四分木符号化部１０５に出力する（ステップＳ１０１）。尚、以降のＬＣＵに対する処理（Ｓ１０２〜Ｓ１０６）は、１枚のピクチャ（入力画像）内の全ＬＣＵに対し実施されるため、ピクチャ内に含まれる全てのＬＣＵに対し、Ｓ１０２〜Ｓ１０６を実行する。
【００４３】
ＣＵ分割サイズ決定部１０２は、ＬＣＵを１または複数のＣＵ（Ｃｏｄｉｎｇ  Ｕｎｉｔ、符号化単位）に分割する（Ｓ１０２）。ＣＵのサイズは可変である。また、各ＣＵは全て同じサイズである必要はない。
【００４４】
図４は、ＬＣＵを１または複数のＣＵに分割する場合の例を示す図である。図４において、全体（１〜１６の全てを含むブロック）が１つのＬＣＵである。また、図４において、１〜１６の数字が付された四角形のブロックのそれぞれは、ＣＵを示している。ブロック内の数値１〜１６は符号化の順序を示す。ＣＵ分割サイズ決定部１０２は、符号化済みの画像あるいは入力画像の特徴等を用いてＣＵ分割サイズを決定する。本実施の形態では、ＣＵの最小サイズ（第二最小サイズ）は横８画素×縦８画素、最大サイズは横６４画素×縦６４画素である。なお、ＣＵの最大サイズおよび最小サイズは、他のサイズであってもよい。
【００４５】
ＣＵ分割サイズ決定部１０２は、ＣＵの分割方法を示すＣＵスプリットフラグの値を決定し、四分木符号化部１０５へ出力する。ＣＵスプリットフラグは、ブロックを分割するか否かを示すフラグである。
【００４６】
図５は、図４で示したＬＣＵに対応するＣＵスプリットフラグの値の例を示す図である。図５において、四角内の数値がＣＵスプリットフラグの値である。ＣＵスプリットフラグが１のブロックは４分割することを示し、０のブロックは分割を止めることを示す。４分割された各ブロック内にもＣＵスプリットフラグが存在する。言い換えると、ＣＵスプリットフラグが０になるまで、もしくは、ＣＵサイズが８ｘ８になるまで分割することが可能である。ＣＵＬａｙｅｒは、分割の階層（分割の回数）を示すパラメータである。つまり、ＣＵＬａｙｅｒの数値が大きくなっていく程、ＣＵのサイズは小さくなっていく。なお、本実施の形態では、ＣＵの最大サイズが６４×６４であり、最小サイズが８×８であることから、０〜３のＣＵＬａｙｅｒが存在する。図５では、ＣＵＬａｙｅｒが０の階層では、ＣＵスプリットフラグに、分割されることを示す１が設定されている。ＣＵＬａｙｅｒが１の階層では、図面右上および左下のＣＵについては、ＣＵスプリットフラグに、分割されないことを示す０が設定され、図面左上および右下のＣＵについては、ＣＵスプリットフラグに、分割されることを示す１が設定されている。ＣＵＬａｙｅｒが２の階層では、図面右上および左下のＣＵについては、ＣＵスプリットフラグが設定されていない。さらに、ＣＵＬａｙｅｒが２の階層では、図面左上の４つの四角および右下の４つの四角について、ＣＵスプリットフラグに、０または１が設定されている。ＣＵＬａｙｅｒが３の階層では、ＣＵＬａｙｅｒが２の階層においてＣＵスプリットフラグに１が設定されたブロックが分割されている。分割されたＣＵのサイズは８ｘ８である。このＣＵのサイズは、最小サイズであり、必ず分割されない。このため、ＣＵスプリットフラグは必ず０となる。従って、ＣＵが最小サイズとなる階層のＣＵスプリットフラグは符号化する必要がない。このため、図５では、ＣＵＬａｙｅｒが３の階層のＣＵスプリットフラグは括弧つきで「（０）」と表示している。ＣＵスプリットフラグの符号化方法に関しては、後述の１−４．四分木符号化で詳細を述べる。
【００４７】
ＴＵ分割サイズ決定部１０３は、ＣＵを１または複数のＴＵ（変換単位）に分割する（ステップＳ１０３）。ＴＵのサイズは可変である。また、各ＴＵは全て同じサイズである必要はない。
【００４８】
図６は、図４で示したＬＣＵを１または複数のＴＵに分割する場合の一例を示す図である。図６において、太線の四角はＣＵを示し、細線の四角はＴＵを示している。また、各ＴＵ内の数値は変換処理の順序を示す。ＴＵ分割サイズ決定部１０３は、符号化済みの画像あるいは入力画像の特徴等を用いてＴＵ分割サイズを決定する。本実施の形態では、ＴＵの最小サイズ（第一最小サイズ）は横４画素×縦４画素、最大サイズは横６４画素×縦６４画素である。なお、ＴＵの最大サイズおよび最小サイズは、他のサイズであってもよい。
【００４９】
ＴＵ分割サイズ決定部１０３は、ＴＵの分割方法を示すＴＵスプリットフラグの値を決定し、四分木符号化部１０５へ出力する。ＴＵスプリットフラグは、ブロックを分割するか否かを示すフラグである。
【００５０】
図７は、図４に示す符号化順１２のＣＵについて、図６に示す方法で複数のＴＵに分割した場合のＴＵスプリットフラグの値を示す図である。図７において、四角内の数値がＴＵスプリットフラグの値である。ＴＵスプリットフラグが１のブロックは４分割することを示し、０のブロックは分割を止めることを示す。４分割された各ブロック内にもＴＵスプリットフラグが存在する。言い換えると、ＴＵスプリットフラグが０になるまで、もしくは、ＴＵサイズが４ｘ４になるまで分割することが可能である。ＴＵＬａｙｅｒは、分割の階層（分割回数）を示すパラメータである。つまり、ＴＵＬａｙｅｒの数値が大きくなっていく程、ＴＵのサイズは小さくなっていく。なお、本実施の形態において、図７では、ＣＵのサイズが３２×３２であり、最小サイズが４×４であることから、０〜３のＴＵＬａｙｅｒが存在する。図７に示す例では、ＴＵＬａｙｅｒが３の階層では、ＴＵＬａｙｅｒが２の階層においてＴＵスプリットフラグに１が設定されたブロックが４つに分割されている。分割されたＴＵのサイズは４ｘ４である。このＴＵのサイズは、最小サイズであり、必ず分割されない。このため、ＴＵスプリットフラグは必ず０となる。従って、ＴＵが最小サイズとなる階層のＴＵスプリットフラグは符号化する必要がない。このため、図７では、ＴＵＬａｙｅｒが３の階層のＴＵスプリットフラグを括弧つきで「（０）」と表示している。ＴＵスプリットフラグの符号化方法に関しては、後述の１−６．四分木変換フローで詳細を述べる。
【００５１】
尚、図７に示す例では、ＣＵサイズが３２ｘ３２であるため、ＴＵＬａｙｅｒが０の階層のブロックは、３２ｘ３２のサイズとなっている。図４において１１が付されたブロックについても同じである。なお、例えば、図４において２〜９が付されたＣＵの場合は、サイズが８ｘ８であるため、ＴＵＬａｙｅｒが０の階層のブロックの大きさは８ｘ８となる。また、例えば、図４において１０、１３〜１６が付されたＣＵの場合は、サイズが１６×１６であるため、ＴＵＬａｙｅｒが０の階層のブロックの大きさは１６ｘ１６となる。
【００５２】
ＣＢＦ＿ＣｂＣｒ決定部１０４は、各ＴＵのＣＢＦ＿ＣｂとＣＢＦ＿Ｃｒとを決定する（Ｓ１０４）。ＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒは、画像の色差成分（Ｃｂ、Ｃｒ）において、符号化すべき周波数係数が存在するか否かを示すフラグである。ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの値は、ＴＵに符号化すべき非０係数が１つでも含まれる場合は１となり、非０係数が無い場合（全周波数係数が０の場合）は０となる。ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの値は、実際に予測画像からの差分を画像領域から周波数領域に周波数変換して周波数係数を求め、その周波数係数から設定する。
【００５３】
四分木符号化部１０５は、四分木符号化を行う（Ｓ１０５）。詳細は後述する。
【００５４】
＜１−４．動作（四分木符号化）＞
四分木符号化部１０５の動作（図３のステップＳ１０５の詳細な動作）について、図８を基に説明する。図８は、四分木符号化の処理手順の一例を示すフローチャートである。
【００５５】
四分木符号化部１０５のＣＵスプリットフラグ符号化部１１０は、図５におけるＣＵＬａｙｅｒの値が３より小さい場合（Ｓ１１１の「Ｙｅｓ」）、ＣＵスプリットフラグを符号化する（Ｓ１１２）。また、ＣＵスプリットフラグ符号化部１１０は、ＣＵＬａｙｅｒの値が３の場合は（Ｓ１１１の「Ｎｏ）、ＣＵスプリットフラグを符号化せず、ＣＵスプリットフラグに０を設定する（Ｓ１１３）。
【００５６】
なお、図５では、値が３より小さいＣＵＬａｙｅｒでは、ＣＵのサイズが１６ｘ１６以上のサイズとなる。値が３のＣＵＬａｙｅｒでは、ＣＵのサイズが８ｘ８以上のサイズとなる。ＣＵの最小サイズは８ｘ８なので、ＣＵＬａｙｅｒの値が４以上になることはない。つまり、ＣＵのサイズが８ｘ８の場合は、必ず分割されないため、ＣＵスプリットフラグ符号化部１１０は、ＣＵスプリットフラグを符号化せず、０を設定する。
【００５７】
ＣＵスプリットフラグが０の場合（Ｓ１１４の「Ｎｏ」）、ＣＵ符号化部１２０は、ＣＵ符号化処理を実行する（Ｓ１１９）。詳細は後述する。ＣＵスプリットフラグが１の場合（Ｓ１１４の「Ｙｅｓ」）、ＣＵ符号化部１２０は、ブロックを４分割する。そして、ＣＵ符号化部１２０は、分割した４つのブロックのそれぞれに対し、本処理である四分木符号化を再帰的に実施する（Ｓ１１５〜Ｓ１１８）。
【００５８】
＜１−５．動作（ＣＵ符号化）＞
ＣＵ符号化部１２０の動作（図８のステップＳ１１９の詳細な動作）について、図９を基に説明する。図９は、ＣＵ符号化の処理手順の一例を示すフローチャートである。
【００５９】
ＣＵ符号化部１２０の予測部１２１は、現在の符号化対象のＣＵ（符号化対象ＣＵ）とフレームメモリ１０６に格納してある復号画像とを用いて、予測ブロックを生成する（Ｓ１２１）。
【００６０】
減算部１２２は、符号化対象ＣＵと予測部１２１により生成された予測ブロックとの差分ブロックを生成する（Ｓ１２２）。
【００６１】
四分木変換部１３０は、減算部１２２により生成された差分ブロックに対し周波数変換処理、周波数係数の符号化、逆周波数変換を行う（Ｓ１２３）。逆周波数変換により、差分ブロックが再構成される（再構成差分ブロックが生成される）。詳細は後述する。
【００６２】
加算部１２３は、四分木変換部１３０の逆周波数変換によって再構築された再構成差分ブロックと予測部１２１により生成された予測ブロックとを加算して、再構成ブロックを生成し、フレームメモリ１０６に格納する（Ｓ１２４）。
【００６３】
＜１−６．動作（四分木変換）＞
四分木変換部１３０の動作（図９のステップＳ１２３の詳細な動作）について、図１０を基に説明する。図１０は、四分木変換の処理手順の一例を示すフローチャートである。
【００６４】
四分木変換部１３０のＴＵスプリットフラグ符号化部１３１は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４より小さい場合は（Ｓ１３１の「Ｙｅｓ」）、ＴＵスプリットフラグを符号化する（Ｓ１３２）。また、ＴＵスプリットフラグ符号化部１３１は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４の場合は（Ｓ１３１の「Ｎｏ」）、ＴＵスプリットフラグを符号化せず、ＴＵスプリットフラグに０を設定する（Ｓ１３３）。
【００６５】
ここでは、ＴＵスプリットフラグ符号化部１３１は、現在の処理対象のＴＵＬａｙｅｒのＴＵのサイズが４ｘ４であるか否かを判定し、ＴＵのサイズが４ｘ４の場合は、ＴＵスプリットフラグを符号化しないようにしている。ＴＵの最小サイズは４ｘ４であるため、ＴＵのサイズが４ｘ４の場合は必ず分割されない。従って、ＴＵスプリットフラグ符号化部１３１は、ＴＵのサイズが４×４の場合は、ＴＵスプリットフラグを符号化せず、０を設定する。
【００６６】
なお、ＣＵサイズはＣＵＬａｙｅｒの値によって判定できる。しかし、ＴＵサイズはＴＵＬａｙｅｒの値のみでは判定できず、ＣＵＬａｙｅｒの値も用いて判定する。ＴＵＬａｙｅｒはＣＵサイズを起点としているため、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値を加算することによってＴＵサイズを判定できる。ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が０の場合は、ＴＵサイズは６４ｘ６４であり、和が４の場合は、ＴＵサイズは４ｘ４である。ＴＵの最小サイズは４ｘ４なので和が５以上になることはない。
【００６７】
ＣＢＦ符号化部１３２は、ＣＵＬａｙｅｒとＴＵＬａｙｅｒの値の和が４より小さい（現在の処理対象のＴＵＬａｙｅｒのＴＵサイズが４ｘ４より大きい）場合（Ｓ１３４の「Ｙｅｓ」）、ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの符号化処理を行う（Ｓ１３５〜Ｓ１４２）。ＣＢＦ符号化部１３２は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４（現在の処理対象のＴＵＬａｙｅｒのＴＵサイズが４ｘ４）の場合、ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの符号化処理を行わない。ＴＵサイズが４ｘ４の場合にＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを符号化しない理由は次のＴＵ符号化フローで説明する。
【００６８】
ＣＢＦ符号化部１３２は、ＴＵＬａｙｅｒが０の場合（Ｓ１３５の「Ｙｅｓ」）、または、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂの値が１の場合（Ｓ１３５の「Ｎｏ」且つＳ１３６の「Ｙｅｓ」）、ＣＢＦ＿Ｃｂの符号化を行う（Ｓ１３７）。ＣＢＦ符号化部１３２は、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂの値が１ではない場合（Ｓ１３５の「Ｎｏ」且つＳ１３６の「Ｎｏ」）、ＣＢＦ＿Ｃｂに０を設定する（Ｓ１３８）。
【００６９】
さらに、ＣＢＦ符号化部１３２は、ＴＵＬａｙｅｒが０の場合（Ｓ１３９の「Ｙｅｓ」）、または、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｒの値が１の場合（Ｓ１３９の「Ｎｏ」且つＳ１４０の「Ｙｅｓ」）、ＣＢＦ＿Ｃｒの符号化を行う（Ｓ１４１）。ＣＢＦ符号化部１３２は、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｒの値が１ではない場合（Ｓ１３９の「Ｎｏ」且つＳ１４０の「Ｎｏ」）、ＣＢＦ＿Ｃｒに０を設定する（Ｓ１４２）。
【００７０】
言い換えると、ＣＢＦ符号化部１３２は、ＴＵＬａｙｅｒの値が０（最上位のＴＵＬａｙｅｒ）または上位ＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ（Ｃｒ）の値が１の時しかＣＢＦ＿Ｃｂ（Ｃｒ）の符号化は行わず、符号化を行わない場合はＣＢＦ＿Ｃｂ（Ｃｒ）に０を設定して以降の処理を行う。これはＣＢＦを階層的に符号化することを表している。四分木の４ブロックを結合した上位ＴＵＬａｙｅｒのブロックでＣＢＦが０の場合は、下位ＴＵＬａｙｅｒのＣＢＦは全て０であるとしている。
【００７１】
ＴＵ符号化部１４０は、ＴＵスプリットフラグが０の場合は（Ｓ１４３の「Ｎｏ」）、ＴＵ符号化処理を実行する（Ｓ１４８）。詳細は後述する。
【００７２】
ＴＵ符号化部１４０は、ＴＵスプリットフラグが１の場合は（Ｓ１４３の「Ｙｅｓ」）、ブロックを４分割する。そして、ＴＵ符号化部１４０は、分割した４つのブロックのそれぞれに対し、本処理である四分木変換を再帰的に実施する（Ｓ１４４〜Ｓ１４７）。
【００７３】
＜１−７．動作（ＴＵ符号化）＞
ＴＵ符号化部１４０の動作（図１０のステップＳ１４８の詳細な動作）について、図１１を基に説明する。図１１は、ＴＵ符号化（画像符号化方法の一部）の処理手順の一例を示すフローチャートである。
【００７４】
ＴＵ符号化部１４０は、先ず、画像のＬｕｍａ（輝度）成分に対してＴＵ符号化処理を実行する（Ｓ１５１〜Ｓ１５３）。
【００７５】
具体的には、ＴＵ符号化部１４０の変換部１４１は、ＴＵ内のＬｕｍａ成分の画素に対して、画像領域から周波数領域に変換して周波数係数を求める周波数変換を行う（Ｓ１５１）。さらに、周波数係数符号化部１４２は、変換部１４１によって変換された周波数係数の符号化を行って符号列を出力する（Ｓ１５２）。逆変換部１４３は、変換部１４１によって変換された周波数係数に対し、周波数領域から画像領域に変換する逆周波数変換を行う（Ｓ１５３）。
【００７６】
次に、ＴＵ符号化部１４０は、画像のＣｈｒｏｍａ（色差）成分に対してＴＵ符号化処理を実行する（Ｓ１５４〜Ｓ１７１）。
【００７７】
具体的には、変換部１４１は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４より小さい（ＴＵサイズが４ｘ４より大きい）場合（Ｓ１５４の「Ｙｅｓ」）、ステップＳ１５５に移行する。
【００７８】
変換部１４１は、ステップＳ１５５において、ＣＢＦ＿Ｃｂが１の場合は（Ｓ１５５の「Ｙｅｓ」）、ＴＵのＣｂ成分の画素に対して周波数変換を行う（Ｓ１５６）。周波数係数符号化部１４２は、変換部１４１によって変換された周波数係数に対する符号化を行って符号列を出力する（Ｓ１５７）。逆変換部１４３は、変換部１４１によって変換された周波数係数に対して逆周波数変換を行い、ステップＳ１５９に移行する（Ｓ１５８）。
【００７９】
変換部１４１は、ステップＳ１５５において、ＣＢＦ＿Ｃｂが０の場合は（Ｓ１５５の「Ｎｏ」）、ＴＵに符号化すべき非０係数が含まれないため、ステップＳ１５９に移行する。
【００８０】
変換部１４１は、ステップＳ１５９において、ＣＢＦ＿Ｃｒが１の場合は（Ｓ１５９の「Ｙｅｓ」）、ＴＵのＣｒ成分の画素に対して周波数変換を行う（Ｓ１６０）。周波数係数符号化部１４２は、変換部１４１によって変換された周波数係数に対する符号化を行って符号列を出力する（Ｓ１６１）。逆変換部１４３は、変換部１４１によって変換された周波数係数に対して逆周波数変換を行う（Ｓ１６２）。なお、４：２：０フォーマットであることとし、Ｃｂ、ＣｒはそれぞれＬｕｍａの４分の１の画素数である。
【００８１】
変換部１４１は、ステップＳ１５９において、ＣＢＦ＿Ｃｒが０の場合は（Ｓ１５９の「Ｎｏ」）、ＴＵに符号化すべき非０係数が含まれないため、Ｃｒに対する処理を終了する。
【００８２】
ＴＵ符号化部１４０は、ステップＳ１５４において、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４（ＴＵサイズが４ｘ４）であると判定した場合は（Ｓ１５４の「Ｎｏ」）、対象のＴＵが四分割されたブロックの内の右下のブロックの時のみ（Ｓ１６３の「Ｙｅｓ」）、周波数変換処理および符号化処理を行う（Ｓ１６４〜Ｓ１７１）。
【００８３】
以下、図６を用いて具体的に説明する。図６において、変換順序２４〜２７のＴＵは４ｘ４サイズである。ＴＵ符号化部１４０は、処理対象のＴＵが変換順序２４〜２６のＴＵであるときは、ＣｂおよびＣｒの周波数変換処理および符号化処理は行わない。代わりに、ＴＵ符号化部１４０は、処理対象のＴＵが変換順序２７のＴＵであるときに、変換順序２４〜２７のＣｂおよびＣｒをまとめて処理する。つまり、ＴＵ符号化部１４０は処理対象のＴＵが変換順序２７のＴＵであるときに、変換順序２４〜２７のＣｂまたはＣｒの画素を結合して４ｘ４の画素を作り出し、その４ｘ４の画素に対して周波数変換処理および符号化処理を行実行する。
【００８４】
これは、ＴＵが４ｘ４の時にＬｕｍａと同じようにＣｂ、Ｃｒを処理してしまうと、２ｘ２のブロックに対する周波数変換処理を実行することになってしまうためである。２×２の周波数変換処理が発生すると、画像符号化装置１００をＬＳＩ等の回路で実現する場合には、４×４の周波数変換処理用の回路とは別の２×２の周波数変換処理用の回路が必要になる。あるいは、画像符号化装置をソフトウェアで構成する場合には、４×４の周波数変換処理用のプログラムのモジュールとは別に、２×２の周波数変換処理用のプログラムのモジュールが必要になる。このため、４ブロックを結合することによって２ｘ２の周波数変換が発生しないようにしている。
【００８５】
つまり、本実施の形態では、Ｃｈｒｏｍａ成分に対する周波数変換処理および符号化処理は、四分木の４ブロックを結合してＬｕｍａ成分と同じ画素数で実行する。
【００８６】
ＴＵ符号化部１４０は、四分木の４ブロックを結合して周波数変換等を行うため、１つ上位のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂを参照して周波数変換等を実施するか否かを決める（Ｓ１６４）。例えば、図６、図７の例では、変換順序２４〜２７のＴＵはＴＵＬａｙｅｒ２のＣＢＦ＿Ｃｂを参照する。
【００８７】
図１２は、図７のＴＵに対応するＣＢＦ＿Ｃｂの一例を示す図である。図６の変換順序２４〜２７のＴＵの場合、ＴＵＬａｙｅｒ２のＣＢＦ＿Ｃｂの値は１である。この場合は、周波数変換等を実施すると判定する（Ｓ１６４の「Ｙｅｓ」）。
【００８８】
ＴＵ符号化部１４０は、ステップＳ１６４において、周波数変換等を実施すると判定した場合、変換部１４１によるＣｂに対する周波数変換処理（Ｓ１６５）、周波数係数符号化部１４２による周波数係数の符号化（Ｓ１６６）、および、逆変換部１４３による逆周波数変換（Ｓ１６７）を実行する。
【００８９】
同様に、ＴＵ符号化部１４０は、１つ上位のＴＵＬａｙｅｒのＣＢＦ＿Ｃｒを参照して周波数変換等を実施するか否かを決める（Ｓ１６８）。ＴＵ符号化部１４０は、ステップＳ１６８において、周波数変換等を実施すると判定した場合、変換部１４１によるＣｒに対する周波数変換処理（Ｓ１６９）、周波数係数符号化部１４２による周波数係数の符号化（Ｓ１７０）、および、逆変換部１４３による逆周波数変換（Ｓ１７１）を実行する。
【００９０】
なお、本実施の形態では、上位ＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを参照する構成であるため、最下層であるＴＵのサイズが４ｘ４のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒは参照されることがない。このため、図１０に示す四分木変換では、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４（ＴＵのサイズが４ｘ４のＴＵＬａｙｅｒ）の場合（Ｓ１３４で「Ｎｏ」の場合）は、ＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを符号化していない。
【００９１】
＜１−８．効果等＞
以上、本実施の形態によれば、上位ＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒが１の時のみＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを符号化するように構成している。これにより、符号量及び処理量を削減している。つまり、あるＴＵＬａｙｅｒでＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒが０になった場合は、それより下のＴＵＬａｙｅｒでは、ＴＵをどれだけ細分化してもＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを符号化する必要はなく、符号量及び処理量を削減することができる。
【００９２】
また、本実施の形態では、ＴＵのサイズが４ｘ４の時には、ＣｂおよびＣｒは４ブロックを結合して周波数変換する。言い換えると、ＴＵのサイズが４ｘ４のＴＵＬａｙｅｒではＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを符号化しないように構成している。これにより、演算装置の回路規模削減、符号量削減を可能としている。より具体的には、４ブロックを結合して周波数変換することによって、Ｃｈｒｏｍａ（ＣｂおよびＣｒ）の場合も周波数変換処理の最小サイズを４ｘ４とすることができる。このため、２ｘ２のサイズ用の周波数変換用の回路を必要とせず、回路規模を削減できる。また、上述したように、４ブロックを結合することにより、ＴＵのサイズが４ｘ４のＴＵＬａｙｅｒのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを不要とすることができ、符号量を削減することができる。
【００９３】
また、最上位のＴＵＬａｙｅｒではＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを符号化するが、前述した通りＴＵのサイズが４ｘ４のＴＵＬａｙｅｒではＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒは符号化しない。ＣＵの最小サイズを４ｘ４より大きくすることにより、最上位のＴＵＬａｙｅｒのＴＵは必ず４ｘ４より大きいサイズとなるため、この矛盾を解消することができる。つまり、ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの符号化の条件を次の２条件が両方成り立つ時と設定することができる。
（１）ＴＵのサイズが最小サイズより大きいＴＵＬａｙｅｒであること、および、
（２）最上位のＴＵＬａｙｅｒ、または上位ＴＵＬａｙｅｒのＣＢＦ＿ＣｂまたはＣＢＦ＿Ｃｒの値が１であること。
【００９４】
本実施の形態では、ＣＵの最小サイズを８ｘ８に制限することにより、（１）の条件を実現している。
【００９５】
なお、本実施の形態では、ＣＵＬａｙｅｒとＴＵＬａｙｅｒの値の和でそのＴＵＬａｙｅｒのＴＵのサイズを判断しているが、ＴＵのサイズがわかれば、他の方法でも構わない。ＴＵのサイズの他の判断方法としては、例えば、別のパラメータで判断する、あるいは、四分木符号化処理または四分木変換処理を再帰的に実行した回数をカウントすることにより判断する等が考えられる。
【００９６】
また、Ｌｕｍａ成分に関しては、ＣＢＦを用いていないが、ＣｂおよびＣｒと同様の方法でＣＢＦを用いて符号化処理（周波数変換処理等）の実行の有無を切り替えてもよい。
【００９７】
また、ＴＵスプリットフラグは、ＴＵのサイズが最小サイズの場合は符号化せず、０（分割しない）を設定しているが、これに限るものではない。例えば、上記とは逆に、ＴＵの最大サイズを設定し、ＴＵのサイズが最大サイズよりも大きい場合はＴＵスプリットフラグを符号化せずに１（「分割する」を意味する値の一例）を設定してもよい。
【００９８】
また、２ｘ２の周波数変換処理を無くすためにＴＵのサイズが４ｘ４の時はＣｂおよびＣｒの４ブロックを結合して処理するようにしているが、これに限るものではない。例えば、ＴＵの最小サイズが８×８の場合は、４ｘ４の周波数変換を無くすために、ＴＵのサイズが８ｘ８の時にＣｂおよびＣｒの４ブロックを結合して処理するようにしてもよい。ＴＵの最小サイズに応じて、結合して処理する場合を適応的に設定すればよい。つまり、８ｘ８よりも大きいサイズの時に結合して処理するようにしてもよい。また、ＴＵの最小サイズを変更可能に構成して、ＴＵが最小サイズの時に結合して処理するようにしてもよい。
【００９９】
また、四分木符号化部１０５内で周波数変換を行っているが（１−７、図１１のステップＳ１５１）、これに限るものではない。例えば、ＣＢＦ＿ＣｂＣｒ決定部１０４がＣＢＦ＿ＣｒおよびＣＢＦ＿Ｃｂを決定する時に行った周波数変換（１−３、図３のステップＳ１０４）の結果をメモリに保存しておき、四分木符号化部１０５における周波数係数の符号化時（周波数係数符号化部１４２、図１１のステップＳ１５２）にメモリから読みだすという構成にしてもよい。
【０１００】
また、ＣＵ分割サイズの決定（ＣＵ分割サイズ決定部１０２）、ＴＵ分割サイズの決定（ＴＵ分割サイズ決定部１０３）を符号化済みの画像あるいは入力画像の特徴等を用いて行ったが、これに限るものではない。例えば、実際に予測画像からの差分を周波数変換して周波数係数を求め、その時の発生符号量から分割サイズを決定してもよい。またその時の予測情報および差分ブロック、周波数変換の結果をＣＢＦ＿ＣｂＣｒ決定部１０４および四分木符号化部１０５で流用してもよい。
【０１０１】
また、逆変換部１４３により再構成された差分ブロックと予測ブロックとを加算する再構成ブロックの生成は、四分木変換（１−６）とは別で処理しているが、これに限るものではない。再構成ブロックの生成と四分木変換とを同時に処理してもよい。例えば、四分木変換内の逆周波数変換直後に、再構成された差分ブロックと予測ブロックとを加算して、再構成ブロックを生成してもよい。
【０１０２】
また、ＬＣＵは６４ｘ６４ブロックとしたが、それに限らず、３２ｘ３２や１２８ｘ１２８としてもよいし、それよりも大きくても小さくてもよい。
【０１０３】
また、ＣＵの最大サイズは６４ｘ６４、最小サイズは８ｘ８としたが、ＣＵの最小サイズがＴＵの最小サイズ（例えば、４ｘ４）よりも大きければよく、他の大きいサイズあるいは小さいサイズでもよい。また、ＬＣＵのサイズによって変動させてもよい。
【０１０４】
また、ＴＵの最大サイズは６４ｘ６４、最小サイズは４ｘ４としたが、ＣＵの最小サイズがＴＵの最小サイズ（例えば、４ｘ４）よりも大きければよく、他の大きいサイズあるいは小さいサイズでもよい。また、ＬＣＵのサイズによって変動させてもよい。
【０１０５】
更に、本実施の形態における処理は、ソフトウェアで実現してもよい。そして、このソフトウェアをダウンロード等により配布してもよい。また、このソフトウェアをＣＤ−ＲＯＭなどの記録媒体に記録して流布してもよい。なお、このことは、本明細書における他の実施の形態においても該当する。
【０１０６】
（実施の形態２）
本実施の形態の画像復号化装置および画像復号化方法について、図１３〜図１９を用いて説明する。
【０１０７】
＜２−１．全体構成＞
先ず、本実施の形態の画像復号化装置の全体構成について、図１３を基に説明する。図１３は、本実施の形態における画像復号化装置の構成（一部）の一例を示すブロック図である。
【０１０８】
図１３に示すように、画像復号化装置２００は、四分木復号化部２０１と、フレームメモリ２０２とを備えている。
【０１０９】
＜２−２．四分木復号化部構成＞
四分木復号化部２０１の構成について、図１４を基に説明する。図１４は、四分木復号化部２０１の構成の一例を示すブロック図である。
【０１１０】
図１４に示すように、四分木復号化部２０１は、ＣＵスプリットフラグ復号化部２１１と、ＣＵ復号化部２２０とを備える。
【０１１１】
ＣＵ復号化部２２０は、加算部２２１と、四分木変換部２３０とを備えている。
【０１１２】
四分木変換部２３０は、ＴＵスプリットフラグ復号化部２３１と、ＣＢＦ復号化部２３２と、ＴＵ復号化部２４０とを備える。
【０１１３】
ＴＵ復号化部２４０は、周波数係数復号化部２４１と、逆変換部２４２とを備える。
【０１１４】
なお、四分木復号化部２０１の各構成の詳細な構成（動作）については、２−３〜２−７で説明する。
【０１１５】
＜２−３．動作（全体）＞
画像復号化装置２００の全体動作について、図１５を基に説明する。図１５は、画像復号化装置２００の全体動作の一例を示すフローチャートである。
【０１１６】
四分木復号化部２０１は、図１５に示すように、符号列に対する四分木復号化を行う（Ｓ２０１）。詳細は後述する。尚、この処理はＬＣＵに対する処理であり、１枚のピクチャ内の全ＬＣＵに対し実施するため、ピクチャ内のＬＣＵ個数分処理を繰り返す（Ｓ２０２）。ＬＣＵのサイズは、本実施の形態では、６４ｘ６４である。
【０１１７】
＜２−４．動作（四分木復号化）＞
四分木復号化部２０１の動作（図１５のステップＳ２０１の詳細な動作）について、図１６を基に説明する。図１６は、四分木復号化の処理手順の一例を示すフローチャートである。なお、以下の説明において、ＬＣＵ、ＣＵおよびＴＵの構成は、実施の形態１（図４、図６、図５、図７、図１２）と同じである場合を例に説明する。
【０１１８】
四分木復号化部２０１のＣＵスプリットフラグ復号化部２１１は、ＣＵＬａｙｅｒの値が３より小さい場合は（Ｓ２１１の「Ｙｅｓ」）、ＣＵスプリットフラグを復号化する（Ｓ２１２）。また、四分木復号化部２０１は、ＣＵＬａｙｅｒの値が３の場合は（Ｓ２１１の「Ｎｏ」）、ＣＵスプリットフラグを復号化せず、ＣＵスプリットフラグに０を設定する（Ｓ２１３）。
【０１１９】
ここで、図５で示した通り、値が３より小さいＣＵＬａｙｅｒでは、ＣＵサイズが１６ｘ１６以上となる。値が３のＣＵＬａｙｅｒでは、ＣＵサイズが８ｘ８以上のサイズとなる。ＣＵの最小サイズは８ｘ８なので、ＣＵＬａｙｅｒの値が４以上になることはない。つまり、ＣＵのサイズが８ｘ８の場合は、必ず分割されないため、ＣＵスプリットフラグ復号化部２１１は、ＣＵスプリットフラグを復号化せず、０を設定する。
【０１２０】
ＣＵスプリットフラグが０の場合（Ｓ２１４の「Ｎｏ」）、ＣＵ復号化部２２０は、ＣＵ復号化処理を実行する（Ｓ２１９）。詳細は後述する。ＣＵスプリットフラグが１の場合（Ｓ２１４の「Ｙｅｓ」）、ＣＵ復号化部２２０は、ブロックを４分割する。そして、ＣＵ復号化部２２０は、分割した４つのブロックのそれぞれに対し、本処理である四分木復号化を再帰的に実施する（Ｓ２１５〜Ｓ２１８）。
【０１２１】
＜２−５．動作（ＣＵ復号化）＞
ＣＵ復号化部２２０の動作（図１６のステップＳ２１９の詳細な動作）について、図１７を基に説明する。図１７は、ＣＵ復号化の処理手順の一例を示すフローチャートである。
【０１２２】
四分木変換部２３０は、四分木変換（Ｓ２２１）を実行する。四分木変換では、ＴＵ復号化部２４０により、周波数係数の復号化および逆周波数変換が行われる。詳細は後述する。
【０１２３】
加算部２２１は、四分木変換部２３０における逆周波数変換によって復元された差分ブロックと、フレームメモリ２０２に記憶された復号画像から生成された予測ブロックとを加算して復号ブロックを生成し、フレームメモリ２０２に格納する（Ｓ２２２）。なお、図示しないが、予測ブロックの生成は、フレームメモリ２０２と加算部２２１との間に設けられた予測部により実行してもよい。
【０１２４】
＜２−６．動作（四分木変換）＞
四分木変換部２３０の動作（図１７のステップＳ２２１の詳細な動作）について、図１８を基に説明する。図１８は、四分木変換の処理手順の一例を示すフローチャートである。
【０１２５】
四分木変換部２３０のＴＵスプリットフラグ復号化部２３１は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４より小さい場合は（Ｓ２３１の「Ｙｅｓ」）、ＴＵスプリットフラグを復号化する（Ｓ２３２）。また、ＴＵスプリットフラグ復号化部２３１は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４の場合は（Ｓ２３１の「Ｎｏ」）、ＴＵスプリットフラグを復号化せず、ＴＵスプリットフラグに０を設定する（Ｓ２３３）。
【０１２６】
ここでは、ＴＵスプリットフラグ復号化部２３１は、現在の処理対象のＴＵＬａｙｅｒのＴＵのサイズが４ｘ４であるか否かを判定し、ＴＵのサイズが４ｘ４の場合は、ＴＵスプリットフラグを復号化しないようにしている。ＴＵの最小サイズは４ｘ４であるため、ＴＵのサイズが４ｘ４の場合は必ず分割されない。従って、ＴＵスプリットフラグ復号化部２３１は、ＴＵのサイズが４×４の場合は、ＴＵスプリットフラグを復号化せず、０を設定する。
【０１２７】
なお、ＣＵサイズはＣＵＬａｙｅｒの値によって判定できる。しかし、ＴＵサイズはＴＵＬａｙｅｒの値のみでは判定できず、ＣＵＬａｙｅｒの値も用いて判定する。ＴＵＬａｙｅｒはＣＵサイズを起点としているため、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値を加算することによってＴＵサイズを判定できる。ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が０の場合は、ＴＵサイズは６４ｘ６４であり、和が４の場合は、ＴＵサイズは４ｘ４である。ＴＵの最小サイズは４ｘ４なので和が５以上になることはない。
【０１２８】
ＣＢＦ復号化部２３２は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４より小さい（現在の処理対象のＴＵＬａｙｅｒのＴＵサイズが４ｘ４より大きい）場合（Ｓ２３４の「Ｙｅｓ」）、ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの復号化処理を行う（Ｓ２３５〜Ｓ２４２）。ＣＢＦ復号化部２３２は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４（現在の処理対象のＴＵＬａｙｅｒのＴＵサイズが４ｘ４）の場合（Ｓ２３４の「Ｎｏ」）、ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの復号化処理を行わない。ＴＵサイズが４ｘ４の場合にＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを復号化しない理由は次のＴＵ復号化フローで説明する。
【０１２９】
ＣＢＦ復号化部２３２は、ＴＵＬａｙｅｒが０の場合（Ｓ２３５の「Ｙｅｓ」）、または、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂの値が１の場合（Ｓ２３５の「Ｎｏ」且つＳ２３６の「Ｙｅｓ」）、ＣＢＦ＿Ｃｂの復号化を行う（Ｓ２３７）。ＣＢＦ復号化部２３２は、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂの値が１ではない場合（Ｓ２３５の「Ｎｏ」且つＳ２３６の「Ｎｏ」）、ＣＢＦ＿Ｃｂに０を設定する（Ｓ２３８）。
【０１３０】
さらに、ＣＢＦ復号化部２３２は、ＴＵＬａｙｅｒが０の場合（Ｓ２３９の「Ｙｅｓ」）、または、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｒの値が１の場合（Ｓ２３９の「Ｎｏ」且つＳ２４０の「Ｙｅｓ」）、ＣＢＦ＿Ｃｒの復号化を行う（Ｓ２４１）。ＣＢＦ復号化部２３２は、ＴＵＬａｙｅｒが０ではなく且つ１階層上のＴＵＬａｙｅｒのＣＢＦ＿Ｃｒの値が１ではない場合（Ｓ２３９の「Ｎｏ」且つＳ２４０の「Ｎｏ」）、ＣＢＦ＿Ｃｒに０を設定する（Ｓ２４２）。
【０１３１】
言い換えると、ＣＢＦ復号化部２３２は、ＴＵＬａｙｅｒの値が０（最上位のＴＵＬａｙｅｒ）または上位ＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ（Ｃｒ）の値が１の時しかＣＢＦ＿Ｃｂ（Ｃｒ）の復号化は行わず、復号化を行わない場合はＣＢＦ＿Ｃｂ（Ｃｒ）に０を設定して以降の処理を行う。これはＣＢＦを階層的に復号化することを表わし、四分木の４ブロックを結合した上位ＴＵＬａｙｅｒのブロックでＣＢＦが０の場合は下位ＴＵＬａｙｅｒのＣＢＦは全て０であるとしている。
【０１３２】
ＴＵ復号化部２４０は、ＴＵスプリットフラグが０の場合は（Ｓ２４３の「Ｎｏ」）、ＴＵ復号化処理を実行する（Ｓ２４８）。詳細は後述する。
【０１３３】
ＴＵスプリットフラグが１の場合は（Ｓ２４３の「Ｙｅｓ」）、ブロックを４分割する。そして、ＴＵ復号化部２４０は、分割した４つのブロックのそれぞれに対し、本処理である四分木変換を再帰的に実施する（Ｓ２４４〜Ｓ２４７）。
【０１３４】
＜２−７．動作（ＴＵ復号化）＞
ＴＵ復号化部２４０の動作（図１８のステップＳ２４８の詳細な動作）について、図１９を基に説明する。図１９は、ＴＵ復号化（画像復号化方法の一部）の処理手順の一例を示すフローチャートである。
【０１３５】
ＴＵ復号化部２４０は、まず、画像のＬｕｍａ（輝度）成分に対してＴＵ復号化処理を実行する（Ｓ２５１〜Ｓ２５２）。
【０１３６】
具体的には、ＴＵ復号化部２４０の周波数係数復号化部２４１は、ＴＵ内のＬｕｍａ成分の周波数係数の復号化を行う（Ｓ２５１）。さらに、ＴＵ復号化部２４０の逆変換部２４２は、復号化された周波数係数の逆周波数変換を行う（Ｓ２５２）。
【０１３７】
次に、ＴＵ復号化部２４０は、画像のＣｈｒｏｍａ（色差）成分に対してＴＵ復号化処理を実行する（Ｓ２５３〜Ｓ２６６）。
【０１３８】
具体的には、周波数係数復号化部２４１は、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４より小さい（ＴＵサイズが４ｘ４より大きい）場合（Ｓ２５３の「Ｙｅｓ」）、ステップＳ２５４に移行する。
【０１３９】
周波数係数復号化部２４１は、ステップＳ２５４において、ＣＢＦ＿Ｃｂが１の場合は（Ｓ２５４の「Ｙｅｓ」）、ＴＵのＣｂ成分に対して周波数係数の復号化を行う（Ｓ２５５）。逆変換部２４２は、復号化された周波数係数に対する逆周波数変換を行う（Ｓ２５６）。
【０１４０】
周波数係数復号化部２４１は、ステップＳ２５４において、ＣＢＦ＿Ｃｒが１の場合は（Ｓ２５７の「Ｙｅｓ」）、ＴＵのＣｒ成分に対して周波数係数の復号化を行う（Ｓ２５８）。逆変換部２４２は、復号化された周波数係数に対する逆周波数変換を行う（Ｓ２５９）。なお、４：２：０フォーマットであるため、Ｃｂ、ＣｒはそれぞれＬｕｍａの４分の１の画素数である。
【０１４１】
ＴＵ復号化部２４０は、ステップＳ２５３において、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４（ＴＵサイズが４ｘ４）であると判定した場合は（Ｓ２５３の「Ｎｏ」）、対象のＴＵが四分割されたブロックの内の右下のブロックの時のみ（Ｓ２６０の「Ｙｅｓ」）、復号化処理および逆周波数変換処理を行う（Ｓ２６１〜Ｓ２６６）。復号化処理および逆周波数変換処理は四分木の４ブロックを結合してＬｕｍａと同じ画素数で処理する。
【０１４２】
以下、図６を用いて具体的に説明する。図６において、変換順序２４〜２７のＴＵは４ｘ４サイズである。ＴＵ復号化部２４０は、処理対象のＴＵが変換順序２４〜２６のＴＵであるときは、ＣｂおよびＣｒの復号化処理および逆変換処理は行わない。代わりに、ＴＵ復号化部２４０は、処理対象のＴＵが変換順序２７のＴＵであるときに、変換順序２４〜２７のＣｂおよびＣｒをまとめて処理する。つまり、ＴＵ復号化部２４０は処理対象のＴＵが変換順序２７のＴＵであるときに、変換順序２４〜２７のＣｂまたはＣｒの画素を結合し、結合したブロックの単位で差分ブロックを復元する。
【０１４３】
これは、ＴＵが４ｘ４の時にＬｕｍａと同じようにＣｂ、Ｃｒを処理してしまうと、２ｘ２のブロックに対する逆周波数変換処理を実行することになってしまうためである。２×２の逆周波数変換処理が発生すると、４×４の逆周波数変換処理用の回路またはソフトウェアモジュールとは別の、２×２の逆周波数変換処理用の回路またはソフトウェアモジュールが必要になる。このため、４ブロックを結合することによって２ｘ２の逆周波数変換が発生しないようにしている。
【０１４４】
つまり、本実施の形態では、Ｃｈｒｏｍａ成分に対する逆周波数変換処理および復号化処理は、四分木の４ブロックを結合してＬｕｍａ成分と同じ画素数で実行する。
【０１４５】
ＴＵ復号化部２４０は、四分木の４ブロックを結合して逆周波数変換等を行うため、１つ上位のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂを参照して逆周波数変換等を実施するか否かを決める（Ｓ２６１）。図６、図７の例では、変換順序２４〜２７のＴＵはＴＵＬａｙｅｒ２のＣＢＦ＿Ｃｂを参照する。
【０１４６】
図１２を例に説明する。図６の変換順序２４〜２７のＴＵの場合、ＴＵＬａｙｅｒ２のＣＢＦ＿Ｃｂの値は１である。この場合は、逆周波数変換等を実施すると判定する（Ｓ２６１の「Ｙｅｓ」）。
【０１４７】
ＴＵ復号化部２４０は、ステップＳ２６１において、逆周波数変換等を実施すると判定した場合、周波数係数復号化部２４１によるＣｂに対する周波数係数の復号化（Ｓ２６２）、および、逆変換部２４２による周波数係数の逆周波数変換（Ｓ２６３）を実行する。
【０１４８】
同様に、ＴＵ復号化部２４０は、１つ上位のＴＵＬａｙｅｒのＣＢＦ＿Ｃｒを参照して逆周波数変換等を実施するか否かを決める（Ｓ２６４）。ＴＵ復号化部２４０は、ステップＳ２６４において、逆周波数変換等を実施すると判定した場合、周波数係数復号化部２４１による周波数係数の復号化（Ｓ２６５）、および、逆変換部２４２による逆周波数変換（Ｓ２６６）を実行する。
【０１４９】
なお、本実施の形態では、ＴＵが４ｘ４の時は上位ＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを参照する構成であるため、最下層であるＴＵのサイズが４ｘ４のＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒは参照されることがない。このため、図１８に示す四分木変換では、ＣＵＬａｙｅｒの値とＴＵＬａｙｅｒの値の和が４（ＴＵのサイズが４ｘ４のＴＵＬａｙｅｒ）の場合（Ｓ２３４で「Ｎｏ」の場合）は、ＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを復号化していない。
【０１５０】
＜２−８．効果等＞
以上、本実施の形態によれば、上位ＴＵＬａｙｅｒのＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒが１の時のみＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを復号化するように構成している。これにより、符号量及び処理量を削減している。つまり、あるＴＵＬａｙｅｒでＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒが０になった場合は、それより下のＴＵＬａｙｅｒではＴＵをどれだけ細分化してもＣＢＦ＿Ｃｂ、ＣＢＦ＿Ｃｒを復号化する必要はなく、符号量及び処理量を削減することができる。
【０１５１】
また、本実施の形態では、ＴＵのサイズが４ｘ４の時には、ＣｂおよびＣｒは４ブロックを結合して逆周波数変換する。言い換えると、ＴＵのサイズが４ｘ４のＴＵＬａｙｅｒではＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを復号化しないように構成している。これにより、演算装置の回路規模削減、符号量削減を可能としている。より具体的には、４ブロックを結合して逆周波数変換することによって、Ｃｈｒｏｍａ（ＣｂおよびＣｒ）の場合も逆周波数変換処理の最初サイズを４ｘ４とすることができる。このため、２ｘ２のサイズ用の逆周波数変換用の回路を必要とせず、回路規模を削減できる。また、上述したように、４ブロックを結合することにより、ＴＵのサイズが４ｘ４のＴＵＬａｙｅｒのＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを不要とすることができ、符号量を削減することができる。
【０１５２】
また、最上位のＴＵＬａｙｅｒではＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒを復号化するが、前述した通りＴＵのサイズが４ｘ４のＴＵＬａｙｅｒではＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒは復号化しない。ＣＵの最小サイズを４ｘ４より大きくすることにより、最上位のＴＵＬａｙｅｒのＴＵは必ず４ｘ４より大きいサイズとなるため、この矛盾を解消することができる。つまり、ＣＢＦ＿ＣｂおよびＣＢＦ＿Ｃｒの復号化の条件を次の２条件が両方成り立つ時と設定することができる。
（１）ＴＵのサイズが最小サイズより大きいＴＵＬａｙｅｒであること、および、
（２）最上位のＴＵＬａｙｅｒ、または上位ＴＵＬａｙｅｒのＣＢＦ＿ＣｂまたはＣＢＦ＿Ｃｒの値が１であること。
【０１５３】
本実施の形態では、ＣＵの最小サイズを８ｘ８に制限することにより、（１）の条件を実現している。
【０１５４】
なお、本実施の形態では、ＣＵＬａｙｅｒとＴＵＬａｙｅｒの値の和でそのＴＵＬａｙｅｒのＴＵのサイズを判断しているが、ＴＵのサイズがわかれば、他の方法でも構わない。ＴＵのサイズの他の判断方法としては、例えば、別のパラメータで判断する、あるいは、四分木復号化処理または四分木変換処理を再帰的に実行した回数をカウントすることにより判断する等が考えられる。
【０１５５】
また、Ｌｕｍａ成分に関しては、ＣＢＦを用いていないが、ＣｂおよびＣｒと同様の方法でＣＢＦを用いて復号化処理（逆周波数変換処理等）の実行の有無を切り替えてもよい。
【０１５６】
また、ＴＵスプリットフラグは、ＴＵのサイズが最小サイズの場合は復号化せず、０（分割しない）を設定しているが、これに限るものではない。例えば、上記とは逆に、ＴＵの最大サイズを設定し、ＴＵのサイズが最大サイズよりも大きい場合はＴＵスプリットフラグを復号化せずに１（「分割する」を意味する値の一例）を設定してもよい。
【０１５７】
また、２ｘ２の逆周波数変換処理を無くすためにＴＵのサイズが４ｘ４の時はＣｂおよびＣｒの４ブロックを結合して処理するようにしているが、これに限るものではない。例えば、ＴＵの最小サイズが８×８の場合は、４ｘ４の逆周波数変換を無くすために、ＴＵのサイズが８ｘ８の時にＣｂおよびＣｒの４ブロックを結合して処理するようにしてもよい。ＴＵの最小サイズに応じて、結合して処理する場合を適応的に設定すればよい。つまり、８ｘ８よりも大きいサイズの時に結合して処理するようにしてもよい。また、ＴＵの最小サイズを変更可能に構成して、ＴＵが最小サイズの時に結合して処理するようにしてもよい。
【０１５８】
また、ＴＵ復号化部２４０により復元した差分ブロックと予測ブロックとを加算する復号ブロックの生成は、四分木変換とは別で処理しているが、これに限るものではない。復号ブロックの生成と四分木変換とを同時に処理してもよい。例えば、四分木変換内の逆周波数変換直後に、復号化された差分ブロックと予測ブロックとを加算して、復号ブロックを生成してもよい。
【０１５９】
また、ＬＣＵは６４ｘ６４ブロックとしたが、それに限らず、３２ｘ３２や１２８ｘ１２８としてもよいし、それよりも大きくても小さくてもよい。
【０１６０】
また、ＣＵの最大サイズは６４ｘ６４、最小サイズは８ｘ８としたが、ＣＵの最小サイズがＴＵの最小サイズ（例えば、４ｘ４）よりも大きければよく、他の大きいサイズあるいは小さいサイズでもよい。また、ＬＣＵのサイズによって変動させてもよい。
【０１６１】
また、ＴＵの最大サイズは６４ｘ６４、最小サイズは４ｘ４としたが、ＣＵの最小サイズがＴＵの最小サイズ（例えば、４ｘ４）よりも大きければよく、他の大きいサイズあるいは小さいサイズでもよい。また、ＬＣＵのサイズによって変動させてもよい。
【０１６２】
以上の各実施の形態において、機能ブロックの各々は、通常、ＭＰＵやメモリ等によって実現可能である。また、機能ブロックの各々による処理は、通常、ソフトウェア（プログラム）によって実現することができ、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。そして、このようなソフトウェアをダウンロード等により配布してもよいし、ＣＤ−ＲＯＭなどの記録媒体に記録して配布してもよい。なお、各機能ブロックをハードウェア（専用回路）によって実現することも、当然、可能である。
【０１６３】
また、各実施例において説明した処理は、単一の装置（システム）を用いて集中処理することによって実現してもよく、あるいは、複数の装置を用いて分散処理することによって実現してもよい。また、上記プログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
【０１６４】
本発明は、以上の実施例に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【０１６５】
なお、上記各実施の形態において、各構成要素は、専用のハードウェア（処理回路）で構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【０１６６】
（実施の形態３）
上記各実施の形態で示した動画像符号化方法（画像符号化方法）または動画像復号化方法（画像復号方法）の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【０１６７】
さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）や動画像復号化方法（画像復号方法）の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。
【０１６８】
図２０は、コンテンツ配信サービスを実現するコンテンツ供給システムex１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex１０６、ex１０７、ex１０８、ex１０９、ex１１０が設置されている。
【０１６９】
このコンテンツ供給システムex１００は、インターネットex１０１にインターネットサービスプロバイダex１０２および電話網ex１０４、および基地局ex１０６からex１１０を介して、コンピュータex１１１、ＰＤＡ（Personal Digital Assistant）ex１１２、カメラex１１３、携帯電話ex１１４、ゲーム機ex１１５などの各機器が接続される。
【０１７０】
しかし、コンテンツ供給システムex１００は図２０のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ex１０６からex１１０を介さずに、各機器が電話網ex１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【０１７１】
カメラex１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex１１４は、ＧＳＭ（登録商標）（Global System for Mobile Communications）方式、ＣＤＭＡ（Code Division Multiple Access）方式、Ｗ−ＣＤＭＡ（Wideband-Code Division Multiple Access）方式、若しくはＬＴＥ（Long Term Evolution）方式、ＨＳＰＡ(High Speed Packet Access)の携帯電話機、またはＰＨＳ（Personal Handyphone System）等であり、いずれでも構わない。
【０１７２】
コンテンツ供給システムex１００では、カメラex１１３等が基地局ex１０９、電話網ex１０４を通じてストリーミングサーバex１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い（即ち、本発明の一態様に係る画像符号化装置として機能する）、ストリーミングサーバex１０３に送信する。一方、ストリーミングサーバex１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex１１１、ＰＤＡex１１２、カメラex１１３、携帯電話ex１１４、ゲーム機ex１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。
【０１７３】
なお、撮影したデータの符号化処理はカメラex１１３で行っても、データの送信処理をするストリーミングサーバex１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバex１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラex１１３に限らず、カメラex１１６で撮影した静止画像および／または動画像データを、コンピュータex１１１を介してストリーミングサーバex１０３に送信してもよい。この場合の符号化処理はカメラex１１６、コンピュータex１１１、ストリーミングサーバex１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【０１７４】
また、これら符号化・復号化処理は、一般的にコンピュータex１１１や各機器が有するＬＳＩex５００において処理する。ＬＳＩex５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータex１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ex１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex１１４が有するＬＳＩex５００で符号化処理されたデータである。
【０１７５】
また、ストリーミングサーバex１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【０１７６】
以上のようにして、コンテンツ供給システムex１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
【０１７７】
なお、コンテンツ供給システムex１００の例に限らず、図２１に示すように、デジタル放送用システムex２００にも、上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）または動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。具体的には、放送局ex２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ex２０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである（即ち、本発明の一態様に係る画像符号化装置によって符号化されたデータである）。これを受けた放送衛星ex２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナex２０４が受信する。受信した多重化データを、テレビ（受信機）ex３００またはセットトップボックス（ＳＴＢ）ex２１７等の装置が復号化して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。
【０１７８】
また、ＤＶＤ、ＢＤ等の記録メディアex２１５に記録した多重化データを読み取り復号化する、または記録メディアex２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダex２１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex２１９に表示され、多重化データが記録された記録メディアex２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルex２０３または衛星／地上波放送のアンテナex２０４に接続されたセットトップボックスex２１７内に動画像復号化装置を実装し、これをテレビのモニタex２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。
【０１７９】
図２２は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ（受信機）ex３００を示す図である。テレビex３００は、上記放送を受信するアンテナex２０４またはケーブルex２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナex３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ex３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ex３０６で符号化された映像データ、音声データを多重化する多重／分離部ex３０３を備える。
【０１８０】
また、テレビex３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ex３０４、映像信号処理部ex３０５（本発明の一態様に係る画像符号化装置または画像復号装置として機能する）を有する信号処理部ex３０６と、復号化した音声信号を出力するスピーカex３０７、復号化した映像信号を表示するディスプレイ等の表示部ex３０８を有する出力部ex３０９とを有する。さらに、テレビex３００は、ユーザ操作の入力を受け付ける操作入力部ex３１２等を有するインタフェース部ex３１７を有する。さらに、テレビex３００は、各部を統括的に制御する制御部ex３１０、各部に電力を供給する電源回路部ex３１１を有する。インタフェース部ex３１７は、操作入力部ex３１２以外に、リーダ／レコーダex２１８等の外部機器と接続されるブリッジex３１３、ＳＤカード等の記録メディアex２１６を装着可能とするためのスロット部ex３１４、ハードディスク等の外部記録メディアと接続するためのドライバex３１５、電話網と接続するモデムex３１６等を有していてもよい。なお記録メディアex２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex３００の各部は同期バスを介して互いに接続されている。
【０１８１】
まず、テレビex３００がアンテナex２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビex３００は、リモートコントローラex２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ex３１０の制御に基づいて、変調／復調部ex３０２で復調した多重化データを多重／分離部ex３０３で分離する。さらにテレビex３００は、分離した音声データを音声信号処理部ex３０４で復号化し、分離した映像データを映像信号処理部ex３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ex３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex３１８、ex３１９等に一旦これらの信号を蓄積するとよい。また、テレビex３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアex２１５、ex２１６から多重化データを読み出してもよい。次に、テレビex３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビex３００は、リモートコントローラex２２０等からのユーザ操作を受け、制御部ex３１０の制御に基づいて、音声信号処理部ex３０４で音声信号を符号化し、映像信号処理部ex３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ex３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex３２０、ex３２１等に一旦これらの信号を蓄積するとよい。なお、バッファex３１８、ex３１９、ex３２０、ex３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ex３０２や多重／分離部ex３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【０１８２】
また、テレビex３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。
【０１８３】
また、リーダ／レコーダex２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビex３００、リーダ／レコーダex２１８のいずれで行ってもよいし、テレビex３００とリーダ／レコーダex２１８が互いに分担して行ってもよい。
【０１８４】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ex４００の構成を図２３に示す。情報再生／記録部ex４００は、以下に説明する要素ex４０１、ex４０２、ex４０３、ex４０４、ex４０５、ex４０６、ex４０７を備える。光ヘッドex４０１は、光ディスクである記録メディアex２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアex２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ex４０２は、光ヘッドex４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex４０３は、光ヘッドex４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex４０４は、記録メディアex２１５に記録するための情報および記録メディアex２１５から再生した情報を一時的に保持する。ディスクモータex４０５は記録メディアex２１５を回転させる。サーボ制御部ex４０６は、ディスクモータex４０５の回転駆動を制御しながら光ヘッドex４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex４０７は、情報再生／記録部ex４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ex４０７が、バッファex４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ex４０２、再生復調部ex４０３、サーボ制御部ex４０６を協調動作させながら、光ヘッドex４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ex４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【０１８５】
以上では、光ヘッドex４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【０１８６】
図２４に光ディスクである記録メディアex２１５の模式図を示す。記録メディアex２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックex２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックex２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex２１５は、データ記録領域ex２３３、内周領域ex２３２、外周領域ex２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex２３３であり、データ記録領域ex２３３より内周または外周に配置されている内周領域ex２３２と外周領域ex２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ex４００は、このような記録メディアex２１５のデータ記録領域ex２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。
【０１８７】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【０１８８】
また、デジタル放送用システムex２００において、アンテナex２０５を有する車ex２１０で衛星ex２０２等からデータを受信し、車ex２１０が有するカーナビゲーションex２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex２１１の構成は例えば図２２に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータex１１１や携帯電話ex１１４等でも考えられる。
【０１８９】
図２５Ａは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ex１１４を示す図である。携帯電話ex１１４は、基地局ex１１０との間で電波を送受信するためのアンテナex３５０、映像、静止画を撮ることが可能なカメラ部ex３６５、カメラ部ex３６５で撮像した映像、アンテナex３５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex３５８を備える。携帯電話ex１１４は、さらに、操作キー部ex３６６を有する本体部、音声を出力するためのスピーカ等である音声出力部ex３５７、音声を入力するためのマイク等である音声入力部ex３５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ex３６７、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ex３６４を備える。
【０１９０】
さらに、携帯電話ex１１４の構成例について、図２５Ｂを用いて説明する。携帯電話ex１１４は、表示部ex３５８及び操作キー部ex３６６を備えた本体部の各部を統括的に制御する主制御部ex３６０に対して、電源回路部ex３６１、操作入力制御部ex３６２、映像信号処理部ex３５５、カメラインタフェース部ex３６３、ＬＣＤ（Liquid Crystal Display）制御部ex３５９、変調／復調部ex３５２、多重／分離部ex３５３、音声信号処理部ex３５４、スロット部ex３６４、メモリ部ex３６７がバスex３７０を介して互いに接続されている。
【０１９１】
電源回路部ex３６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ex１１４を動作可能な状態に起動する。
【０１９２】
携帯電話ex１１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ex３６０の制御に基づいて、音声通話モード時に音声入力部ex３５６で収音した音声信号を音声信号処理部ex３５４でデジタル音声信号に変換し、これを変調／復調部ex３５２でスペクトラム拡散処理し、送信／受信部ex３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex３５０を介して送信する。また携帯電話ex１１４は、音声通話モード時にアンテナex３５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ex３５２でスペクトラム逆拡散処理し、音声信号処理部ex３５４でアナログ音声信号に変換した後、これを音声出力部ex３５７から出力する。
【０１９３】
さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ex３６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ex３６２を介して主制御部ex３６０に送出される。主制御部ex３６０は、テキストデータを変調／復調部ex３５２でスペクトラム拡散処理をし、送信／受信部ex３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex３５０を介して基地局ex１１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ex３５８に出力される。
【０１９４】
データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ex３５５は、カメラ部ex３６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し（即ち、本発明の一態様に係る画像符号化装置として機能する）、符号化された映像データを多重／分離部ex３５３に送出する。また、音声信号処理部ex３５４は、映像、静止画等をカメラ部ex３６５で撮像中に音声入力部ex３５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ex３５３に送出する。
【０１９５】
多重／分離部ex３５３は、映像信号処理部ex３５５から供給された符号化された映像データと音声信号処理部ex３５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ex３５２でスペクトラム拡散処理をし、送信／受信部ex３５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex３５０を介して送信する。
【０１９６】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナex３５０を介して受信された多重化データを復号化するために、多重／分離部ex３５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスex３７０を介して符号化された映像データを映像信号処理部ex３５５に供給するとともに、符号化された音声データを音声信号処理部ex３５４に供給する。映像信号処理部ex３５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し（即ち、本発明の一態様に係る画像復号装置として機能する）、ＬＣＤ制御部ex３５９を介して表示部ex３５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ex３５４は、音声信号を復号し、音声出力部ex３５７から音声が出力される。
【０１９７】
また、上記携帯電話ex１１４等の端末は、テレビex３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムex２００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
【０１９８】
このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
【０１９９】
また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【０２００】
（実施の形態４）
上記各実施の形態で示した動画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。
【０２０１】
ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。
【０２０２】
この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。
【０２０３】
図２６は、多重化データの構成を示す図である。図２６に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラフィックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ  Ｄｉｇｉｔａｌ  Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。
【０２０４】
多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。
【０２０５】
図２７は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームex２３５、複数のオーディオフレームからなるオーディオストリームex２３８を、それぞれＰＥＳパケット列ex２３６およびex２３９に変換し、ＴＳパケットex２３７およびex２４０に変換する。同じくプレゼンテーショングラフィックスストリームex２４１およびインタラクティブグラフィックスex２４４のデータをそれぞれＰＥＳパケット列ex２４２およびex２４５に変換し、さらにＴＳパケットex２４３およびex２４６に変換する。多重化データex２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。
【０２０６】
図２８は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図２８における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図２８の矢印ｙｙ１，ｙｙ２，ｙｙ３，ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ  Ｐｒｅｓｅｎｔａｔｉｏｎ  ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ  Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ  Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。
【０２０７】
図２９は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図２９下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。
【０２０８】
また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ  Ａｓｓｏｃｉａｔｉｏｎ  Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ  Ｍａｐ  Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ  Ｃｌｏｃｋ  Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ  Ｔｉｍｅ  Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ  Ｔｉｍｅ  Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。
【０２０９】
図３０はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。
【０２１０】
記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。
【０２１１】
多重化データ情報ファイルは、図３１に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。
【０２１２】
多重化データ情報は図３１に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。
【０２１３】
ストリーム属性情報は図３２に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。
【０２１４】
本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。
【０２１５】
また、本実施の形態における動画像復号化方法のステップを図３３に示す。ステップexＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップexＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップexＳ１０２において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップexＳ１０３において、従来の規格に準拠した動画像復号方法により復号を行う。
【０２１６】
このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。
【０２１７】
（実施の形態５）
上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図３４に１チップ化されたＬＳＩex５００の構成を示す。ＬＳＩex５００は、以下に説明する要素ex５０１、ex５０２、ex５０３、ex５０４、ex５０５、ex５０６、ex５０７、ex５０８、ex５０９を備え、各要素はバスex５１０を介して接続している。電源回路部ex５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【０２１８】
例えば符号化処理を行う場合には、ＬＳＩex５００は、ＣＰＵex５０２、メモリコントローラex５０３、ストリームコントローラex５０４、駆動周波数制御部ex５１２等を有する制御部ex５０１の制御に基づいて、ＡＶ  Ｉ／Ｏex５０９によりマイクex１１７やカメラex１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリex５１１に蓄積される。制御部ex５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ex５０７に送られ、信号処理部ex５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ex５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏex５０６から外部に出力する。この出力された多重化データは、基地局ex１０７に向けて送信されたり、または記録メディアex２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex５０８にデータを蓄積するとよい。
【０２１９】
なお、上記では、メモリex５１１がＬＳＩex５００の外部の構成として説明したが、ＬＳＩex５００の内部に含まれる構成であってもよい。バッファex５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩex５００は１チップ化されてもよいし、複数チップ化されてもよい。
【０２２０】
また、上記では、制御部ex５０１が、ＣＰＵex５０２、メモリコントローラex５０３、ストリームコントローラex５０４、駆動周波数制御部ex５１２等を有するとしているが、制御部ex５０１の構成は、この構成に限らない。例えば、信号処理部ex５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ex５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵex５０２が信号処理部ex５０７、または信号処理部ex５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ex５０１は、信号処理部ex５０７、またはその一部を有するＣＰＵex５０２を備える構成となる。
【０２２１】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０２２２】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Field Programmable Gate Array）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。このようなプログラマブル・ロジック・デバイスは、典型的には、ソフトウェア又はファームウェアを構成するプログラムを、ロードする又はメモリ等から読み込むことで、上記各実施の形態で示した動画像符号化方法、又は動画像復号化方法を実行することができる。
【０２２３】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【０２２４】
（実施の形態６）
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩex５００において、従来の規格に準拠する映像データを復号する際のＣＰＵex５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。
【０２２５】
この課題を解決するために、テレビex３００、ＬＳＩex５００などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図３５は、本実施の形態における構成ex８００を示している。駆動周波数切替え部ex８０３は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ex８０２に対し、映像データを復号するよう指示する。
【０２２６】
より具体的には、駆動周波数切替え部ex８０３は、図３４のＣＰＵex５０２と駆動周波数制御部ex５１２から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex８０１、および、従来の規格に準拠する復号処理部ex８０２は、図３４の信号処理部ex５０７に該当する。ＣＰＵex５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵex５０２からの信号に基づいて、駆動周波数制御部ex５１２は、駆動周波数を設定する。また、ＣＰＵex５０２からの信号に基づいて、信号処理部ex５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態４で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態４で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵex５０２における駆動周波数の選択は、例えば、図３７のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファex５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵex５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。
【０２２７】
図３６は、本実施の形態の方法を実施するステップを示している。まず、ステップexＳ２００では、信号処理部ex５０７において、多重化データから識別情報を取得する。次に、ステップexＳ２０１では、ＣＰＵex５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップexＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵex５０２が駆動周波数制御部ex５１２に送る。そして、駆動周波数制御部ex５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップexＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵex５０２が駆動周波数制御部ex５１２に送る。そして、駆動周波数制御部ex５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。
【０２２８】
さらに、駆動周波数の切替えに連動して、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を低く設定することが考えられる。
【０２２９】
また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。
【０２３０】
さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩex５００またはＬＳＩex５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵex５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵex５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵex５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。
【０２３１】
このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩex５００またはＬＳＩex５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。
【０２３２】
（実施の形態７）
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩex５００の信号処理部ex５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ex５０７を個別に用いると、ＬＳＩex５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。
【０２３３】
この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図３８Ａのex９００に示す。例えば、上記各実施の形態で示した動画像復号方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ex９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明の一態様に特有の他の処理内容については、専用の復号処理部ex９０１を用いるという構成が考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。
【０２３４】
また、処理を一部共有化する他の例を図３８Ｂのex１０００に示す。この例では、本発明の一態様に特有の処理内容に対応した専用の復号処理部ex１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ex１００２と、本発明の一態様に係る動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ex１００３とを用いる構成としている。ここで、専用の復号処理部ex１００１、ex１００２は、必ずしも本発明の一態様、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩex５００で実装することも可能である。
【０２３５】
このように、本発明の一態様に係る動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。
【産業上の利用可能性】
【０２３６】
本発明に係る画像符号化方法および画像復号化方法は、あらゆるマルチメディアデータに適用することができる。本発明に係る画像符号化方法および画像復号化方法は、例えば、携帯電話、ＤＶＤ装置、およびパーソナルコンピュータ等を用いた蓄積、伝送、通信等における画像符号化方法および画像復号化方法として有用である。
【符号の説明】
【０２３７】
１００  画像符号化装置
１０１  ＬＣＵ分割部
１０２  ＣＵ分割サイズ決定部
１０３  ＴＵ分割サイズ決定部
１０４  ＣＢＦ＿ＣｂＣｒ決定部
１０５  四分木符号化部
１０６  フレームメモリ
１１０  ＣＵスプリットフラグ符号化部
１２０  ＣＵ符号化部
１２１  予測部
１２２  減算部
１２３  加算部
１３０  四分木変換部
１３１  ＴＵスプリットフラグ符号化部
１３２  ＣＢＦ符号化部
１４０  ＴＵ符号化部
１４１  変換部
１４２  周波数係数符号化部
１４３、２４２  逆変換部
２００  画像復号化装置
２０１  四分木復号化部
２０２  フレームメモリ
２１１  ＣＵスプリットフラグ復号化部
２２０  ＣＵ復号化部
２２１  加算部
２３０  四分木変換部
２３１  ＴＵスプリットフラグ復号化部
２３２  ＣＢＦ復号化部
２４０  ＴＵ復号化部
２４１  周波数係数復号化部
【図１】
2014038153.tif 000003
【図２】
2014038153.tif 000004
【図３】
2014038153.tif 000005
【図４】
2014038153.tif 000006
【図５】
2014038153.tif 000007
【図６】
2014038153.tif 000008
【図７】
2014038153.tif 000009
【図８】
2014038153.tif 000010
【図９】
2014038153.tif 000011
【図１０】
2014038153.tif 000012
【図１１】
2014038153.tif 000013
【図１２】
2014038153.tif 000014
【図１３】
2014038153.tif 000015
【図１４】
2014038153.tif 000016
【図１５】
2014038153.tif 000017
【図１６】
2014038153.tif 000018
【図１７】
2014038153.tif 000019
【図１８】
2014038153.tif 000020
【図１９】
2014038153.tif 000021
【図２０】
2014038153.tif 000022
【図２１】
2014038153.tif 000023
【図２２】
2014038153.tif 000024
【図２３】
2014038153.tif 000025
【図２４】
2014038153.tif 000026
【図２５Ａ】
2014038153.tif 000027
【図２５Ｂ】
2014038153.tif 000028
【図２６】
2014038153.tif 000029
【図２７】
2014038153.tif 000030
【図２８】
2014038153.tif 000031
【図２９】
2014038153.tif 000032
【図３０】
2014038153.tif 000033
【図３１】
2014038153.tif 000034
【図３２】
2014038153.tif 000035
【図３３】
2014038153.tif 000036
【図３４】
2014038153.tif 000037
【図３５】
2014038153.tif 000038
【図３６】
2014038153.tif 000039
【図３７】
2014038153.tif 000040
【図３８Ａ】
2014038153.tif 000041
【図３８Ｂ】
2014038153.tif 000042
【手続補正書】
【提出日】平成27年1月16日(2015.1.16)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
符号化ビットストリームから、画像を復号ブロックごとに復号する画像復号化方法であって、
前記復号ブロックは、色差成分及び輝度成分を有する１または複数の変換ブロックを含み、
変換ブロックにおける前記輝度成分のブロックのサイズは、当該変換ブロックのサイズと同じであり、
前記変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、
前記画像復号化方法は、
前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、
前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップと、を含み、
前記導出ステップでは、前記変換ブロックのサイズが、前記復号ブロックと同じサイズであり、かつ、予め定められた第一最小サイズである場合に、前記色差成分の複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して変換処理を実行することにより、前記色差成分を導出し、
前記復号化ステップでは、前記変換ブロックのサイズが、前記復号ブロックと異なる場合、または、前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する
画像復号化方法。
【請求項２】
前記変換ブロックは、四分木構造を用いて前記復号ブロックを分割したブロックであり、
前記復号ブロックの第二最小サイズは、前記第一最小サイズより大きいサイズに制限され、
前記復号化ステップでは、（１）前記変換ブロックのサイズが、前記第一最小サイズより大きく、且つ、（２）前記変換ブロックが前記四分木構造の最上位レイヤである、または、前記変換ブロックの前記四分木構造におけるレイヤの１階層上のレイヤにおける前記フラグの値が１である場合に、前記フラグを復号化する
請求項１に記載の画像復号化方法。
【請求項３】
処理回路と、前記処理回路がアクセス可能な記憶装置とを備え、符号化ビットストリームから、画像を復号ブロックごとに復号する画像復号化装置であって、
前記復号ブロックは、輝度成分及び色差成分を有する１または複数の変換ブロックを含み、
変換ブロックにおける前記輝度成分のブロックのサイズは、当該変換ブロックのサイズと同じであり、
前記変換ブロックにおける前記色差成分のブロックのサイズは、前記輝度成分のブロックのサイズよりも小さく、
前記処理回路は、
前記符号化ビットストリームに含まれる符号化された前記輝度成分の係数及び前記色差成分の係数を復号化する復号化ステップと、
前記輝度成分の前記係数及び前記色差成分の前記係数に対して、変換処理を実行し、前記輝度成分及び前記色差成分を導出する導出ステップと、を含み、
前記導出ステップでは、前記変換ブロックのサイズが、前記復号ブロックと同じサイズであり、かつ、予め定められた第一最小サイズである場合に、複数のブロックを結合することにより、前記輝度成分と同じサイズのブロックで、前記色差成分の前記係数に対して逆変換処理を実行することにより、前記色差成分を導出し、
前記復号化ステップでは、前記変換ブロックのサイズが、前記復号ブロックと異なる場合、または、前記第一最小サイズと異なる場合に、前記色差成分の前記係数に非ゼロの係数が含まれるか否かを示すフラグを復号化する
画像復号化装置。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】削除
【補正の内容】
【国際調査報告】
2014038153.tif 000043
2014038153.tif 000044
2014038153.tif 000045
2014038153.tif 000046