(57)【特許請求の範囲】
【請求項１】
入力画像をブロックごとに符号化して画像符号化信号を生成する画像符号化装置と、前記画像符号化信号を前記ブロックごとに復号化する画像復号化装置とから構成される画像符号化復号化装置であって、
前記画像符号化装置は、
処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより、前記処理対象ブロックの予測画像を生成する予測部と、
前記処理対象ブロックを分割した領域であって周波数変換処理の処理単位である変換単位と前記予測単位とが一致しない場合に、前記予測単位の境界のうち前記変換単位内に位置する境界に対してフィルタ処理を行う境界フィルタ部と、
前記フィルタ処理後の予測画像と前記入力画像との差分を計算することにより前記処理対象ブロックの差分画像を生成する差分部と、
前記変換単位ごとに前記差分画像の周波数変換処理を行う変換部と、
を備え、
前記画像復号化装置は、
処理対象ブロックを分割した領域である変換単位ごとに逆周波数変換処理を行うことにより、前記処理対象ブロックの復号化差分画像を生成する逆変換部と、
前記処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより、前記処理対象ブロックの予測画像を生成する予測部と、
前記変換単位と前記予測単位とが一致しない場合に、前記予測単位の境界のうち前記変換単位内に位置する境界に対してフィルタ処理を行う境界フィルタ部と、
前記フィルタ処理後の予測画像と前記復号化差分画像とを加算することにより、前記処理対象ブロックの復号化画像を生成する加算部と、
を備える、
画像符号化復号化装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、入力画像と予測画像との差分信号を周波数変換および量子化することにより動画像信号を圧縮符号化する画像符号化装置およびそのように圧縮符号化された動画像信号を復号化する画像復号化装置とから構成される画像符号化復号化装置に関する。
【背景技術】
【０００２】
Ｈ．２６ｘと称されるＩＴＵ−Ｔ規格やＭＰＥＧ−ｘと称されるＩＳＯ／ＩＥＣ規格に代表される従来の画像符号化方式においては、画面を予め定められた単位に分割し、その分割単位で符号化を行う。例えば、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ方式（例えば、非特許文献１参照）においては、画面（ピクチャ）をマクロブロックと呼ばれる水平１６画素、垂直１６画素の単位で処理を行う。そして、動き補償を行う場合には、マクロブロックをブロック（最小で水平４画素、垂直４画素）に分割して、ブロック毎に異なる動きベクトルを用いて動き補償を行い、元信号との差分信号を周波数変換し、差分信号を低周波数領域に集め、量子化をすることで情報を圧縮することができる。一般に、変換ブロックの大きさは、大きい方が相関を有効に使える点で有利であるとされている。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】ＩＳＯ／ＩＥＣ  １４４９６−１０「ＭＰＥＧ−４  Ｐａｒｔ  １０  Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ」
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記従来の方式では、マクロブロック内を小さなブロックに分割して、その小さなブロックごとに動き補償を行う。そして、分割された小さなブロックごとに周波数変換が行われる。具体的には、例えばマクロブロックを水平４画素、垂直４画素単位の小さなブロックに分割する場合、動き補償および周波数変換は、ともに水平４画素、垂直４画素の単位で行われる。このような場合、限定された空間内での相関関係しか使えず、周波数変換によって差分信号を低周波数領域に集めることが難しくなる。そのため、量子化により情報を削減する効率が低下し、その結果として符号化効率の低下を招くという課題を有していた。
【０００５】
一方、周波数変換のブロックサイズを動き補償のブロックサイズよりも大きくする場合、周波数変換のブロックの中に動き補償のブロックの境界が含まれる。この場合、動き補償ブロックの境界には、急峻なエッジが発生することがあるため、周波数変換によって、差分信号を低周波数領域に集めること難しくなる。そのため、前記と同様に量子化により情報を削減する効率が低下し、その結果として符号化効率の低下を招くという課題を有していた。
【０００６】
そこで、本発明は、上記課題を解決するものであり、処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより処理対象ブロックの予測画像を生成する場合に、符号化効率を向上させることができる画像符号化復号化装置を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記課題を解決するために、本発明の一態様に係る画像符号化復号化装置は、入力画像をブロックごとに符号化して画像符号化信号を生成する画像符号化装置と、前記画像符号
化信号を前記ブロックごとに復号化する画像復号化装置とから構成される画像符号化復号化装置であって、前記画像符号化装置は、処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより、前記処理対象ブロックの予測画像を生成する予測部と、前記処理対象ブロックを分割した領域であって周波数変換処理の処理単位である変換単位と前記予測単位とが一致しない場合に、前記予測単位の境界のうち前記変換単位内に位置する境界に対してフィルタ処理を行う境界フィルタ部と、前記フィルタ処理後の予測画像と前記入力画像との差分を計算することにより前記処理対象ブロックの差分画像を生成する差分部と、前記変換単位ごとに前記差分画像の周波数変換処理を行う変換部と、を備え、前記画像復号化装置は、処理対象ブロックを分割した領域である変換単位ごとに逆周波数変換処理を行うことにより、前記処理対象ブロックの復号化差分画像を生成する逆変換部と、前記処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより、前記処理対象ブロックの予測画像を生成する予測部と、前記変換単位と前記予測単位とが一致しない場合に、前記予測単位の境界のうち前記変換単位内に位置する境界に対してフィルタ処理を行う境界フィルタ部と、前記フィルタ処理後の予測画像と前記復号化差分画像とを加算することにより、前記処理対象ブロックの復号化画像を生成する加算部と、を備える。
【０００８】
このように、変換単位内に予測単位の境界が存在しても、その境界にフィルタ処理を行うことができる。これにより、予測単位の境界において発生する画素値の急激な変化を滑らかにすることができ、入力画像と予測画像との差分画像の値を小さくすることが可能となる。また、従来のように、変換単位内に予測単位の境界が存在しないように、変換単位を小さくする必要がないので、予測単位が小さい場合であっても変換単位を大きくすることができる。これらの結果、符号量を大きく削減することができ、符号化効率を向上させることが可能となる。
【発明の効果】
【０００９】
本発明によれば、変換単位内に位置する予測単位の境界にフィルタ処理を行うことにより、符号化効率を向上させることができる。
【図面の簡単な説明】
【００１０】
【図１Ａ】図１Ａは、本発明の実施の形態１に係る画像符号化装置の機能構成を示すブロック図である。
【図１Ｂ】図１Ｂは、本発明の実施の形態１に係る画像符号化方法における特徴的な処理の流れを示すフローチャートである。
【図２】図２は、処理対象ブロックの分割方法の一例を示す図である。
【図３】図３は、動き補償を説明するための模式図である。
【図４】図４は、本発明の実施の形態１に係る境界フィルタ処理の流れを示すフローチャートである。
【図５】図５は、分割方法に対応する変換単位の一例を示す図である。
【図６】図６は、処理対象境界を説明するための図である。
【図７】図７は、処理対象境界を含む画像の特徴を説明するための模式図である。
【図８】図８は、フィルタ処理を説明するための図である。
【図９Ａ】図９Ａは、本発明の実施の形態２に係る画像復号化装置の機能構成を示すブロック図である。
【図９Ｂ】図９Ｂは、本発明の実施の形態２に係る画像復号化方法における特徴的な処理の流れを示すフローチャートである。
【図１０】図１０は、処本発明の実施の形態２に係る境界フィルタ処理の流れを示すフローチャートである。
【図１１】図１１は、本発明の実施の形態３に係るフィルタ対象画素の決定方法の処理の流れを示すフローチャートである。
【図１２】図１２は、本発明の実施の形態４に係るフィルタ処理の一例を説明するための模式図である。
【図１３】図１３は、本発明の実施の形態５に係る画像符号化装置の機能構成を示すブロック図である。
【図１４】図１４は、本発明の実施の形態５に係る境界フィルタ部の動作を示すフローチャートである。
【図１５】図１５は、分割方法に対する変換単位の変換サイズ候補の一例を示す模式図である。
【図１６】図１６は、変換サイズの決定方法の処理の流れを示すフローチャートである。
【図１７】図１７は、本発明の実施の形態６に係る画像復号化装置の機能構成を示すブロック図である。
【図１８】図１８は、本発明の実施の形態６に係るフィルタ情報復号化処理の流れを示すフローチャートである。
【図１９】図１９は、フィルタ情報に変換単位の情報を含む場合の復号化処理の流れを示すフローチャートである。
【図２０】図２０は、本発明の実施の形態７に係る画像符号化方法における符号列の構成図である。
【図２１】図２１は、フィルタ情報の符号列への記述方法の一例を説明するための模式図である。
【図２２】図２２は、本発明の実施の形態８に係る画像符号化装置の機能構成を示すブロック図である。
【図２３】図２３は、本発明の実施の形態９に係る画像復号化装置の機能構成を示すブロック図である。
【図２４】図２４は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。
【図２５】図２５は、デジタル放送用システムの全体構成図である。
【図２６】図２６は、テレビの構成例を示すブロック図である。
【図２７】図２７は、光ディスクである記録メディアに情報の読み書きを行う情報再生／記録部の構成例を示すブロック図である。
【図２８】図２８は、光ディスクである記録メディアの構造例を示す図である。
【図２９】図２９は、多重化データの構成を示す図である。
【図３０】図３０は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。
【図３１】図３１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。
【図３２】図３２は、多重化データにおけるＴＳパケットとソースパケットの構造を示す図である。
【図３３】図３３は、ＰＭＴのデータ構造を示す図である。
【図３４】図３４は、多重化データ情報の内部構成を示す図である。
【図３５】図３５は、ストリーム属性情報の内部構成を示す図である。
【図３６】図３６は、映像データを識別するステップを示す図である。
【図３７】図３７は、各実施の形態の動画像符号化方法および動画像復号化方法を実現する集積回路の構成例を示すブロック図である。
【図３８】図３８は、駆動周波数を切り替える構成を示す図である。
【図３９】図３９は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。
【図４０】図４０は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。
【図４１】図４１（ａ）は、信号処理部のモジュールを共有化する構成の一例を示す図であり、図４１（ｂ）は、信号処理部のモジュールを共有化する構成の他の一例を示す図である。
【発明を実施するための形態】
【００１１】
（実施の形態１）
図１Ａは、本発明の実施の形態１に係る画像符号化装置１００の機能構成を示すブロック図である。画像符号化装置１００は、入力画像をブロックごとに符号化して画像符号化信号を生成する。
【００１２】
図１Ａに示すように、画像符号化装置１００は、フレームメモリ１０１と、動き検出部１０２と、参照ピクチャ用メモリ１０３と、符号化制御部１０４と、境界フィルタ部１０５と、差分部１０６と、変換部１０７と、量子化部１０８と、可変長符号化部１０９と、逆量子化部１１０と、逆変換部１１１と、加算部１１２とを備える。
【００１３】
フレームメモリ１０１は、入力画像を保持する。また、参照ピクチャ用メモリ１０３は、再構成画像を保持する。なお、フレームメモリ１０１および参照ピクチャ用メモリ１０３は、画像符号化装置１００に接続された外部メモリであってもよい。つまり、画像符号化装置１００は、必ずしもフレームメモリ１０１および参照ピクチャ用メモリ１０３を備えなくてもよい。また、画像符号化装置１００は、フレームメモリ１０１および参照ピクチャ用メモリ１０３のそれぞれを別個のメモリとして備える必要はなく、例えば１つのメモリを共有する形でフレームメモリ１０１および参照ピクチャ用メモリ１０３を構成してもよい。
【００１４】
動き検出部１０２は、予測単位それぞれに対して動き推定を行うことにより、予測単位それぞれの動きベクトルＭＶを検出する。ここで、予測単位とは、処理対象ブロックを分割した領域であり、予測処理の処理単位である。検出された動きベクトルＭＶは、符号化制御部１０４および可変長符号化部１０９に出力される。
【００１５】
符号化制御部１０４は、検出された動きベクトルに基づいて予測単位ごとに動き補償を行うことにより、処理対象ブロックの動き補償画像を予測画像として生成する。具体的には、符号化制御部１０４は、まず、予測単位ごとに、当該予測単位の動きベクトルに基づいて参照ピクチャ用メモリから参照画像を読み出す。そして、符号化制御部１０４は、読みだした各予測単位の参照画像を合成することにより、動き補償画像を生成する。
【００１６】
このように、動き検出部１０２および符号化制御部１０４によって予測画像が生成される。すなわち、動き検出部１０２および符号化制御部１０４は、予測単位ごとに予測処理を行うことにより処理対象ブロックの予測画像を生成する。
【００１７】
また、符号化制御部１０４は、生成した予測画像（動き補償画像）ＭＣを境界フィルタ部１０５へ出力する。さらに、符号化制御部１０４は、処理対象ブロックを分割して予測単位を得るための分割方法ＩＣを生成し、可変長符号化部１０９に出力する。
【００１８】
境界フィルタ部１０５は、変換単位と予測単位とを比較することにより、予測単位の境界のうち変換単位内に位置する境界を検出する。そして、境界フィルタ部１０５は、生成された予測画像において、検出された境界に対するフィルタ処理を行う。
【００１９】
ここで、変換単位とは、処理対象ブロックを分割した領域であって周波数変換処理の処理単位である。また、境界に対するフィルタ処理とは、境界と直交する方向における画素値の変化を滑らかにするために、境界近傍の画素の画素値を修正する処理である。
【００２０】
なお、境界フィルタ部１０５は、変換単位の境界に対するフィルタ処理を行わないことが好ましい。つまり、境界フィルタ部１０５は、予測単位の境界であっても、変換単位の境界と重複する境界に対してはフィルタ処理を行わないことが好ましい。これは、一般的に、変換単位の境界には、参照ピクチャを生成する際にデブロッキングフィルタが行われるからである。
【００２１】
フィルタ処理後の予測画像ＰＲは、差分部１０６および加算部１１２に出力される。
【００２２】
差分部１０６は、フィルタ処理後の予測画像と入力画像との差分を計算することにより、処理対象ブロックの差分画像を生成する。具体的には、差分部１０６は、処理対象ブロックの各画素において、フィルタ処理後の予測画像と入力画像と間の画素値の差分値を計算し、計算した差分値を画素値として有する差分画像を生成する。そして、この差分画像ＲＳは、変換部１０７に出力される。
【００２３】
変換部１０７は、変換単位ごとに差分画像の周波数変換処理を行う。周波数変換処理は、例えば、ＤＣＴ（Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ：離散コサイン変換）を代表とする直交変換処理である。周波数変換処理によって生成された変換係数は、量子化部１０８に出力される。
【００２４】
量子化部１０８は、周波数変換処理によって生成された変換係数を量子化することにより量子化係数ＱＣを生成する。生成された量子化係数ＱＣは、可変長符号化部１０９および逆量子化部１１０に出力される。
【００２５】
可変長符号化部１０９は、量子化係数ＱＣと動きベクトルＭＶと分割方法ＩＣとを可変長符号化することにより画像符号化信号を生成する。
【００２６】
逆量子化部１１０は、量子化部１０８によって生成された量子化係数を逆量子化する。また、逆変換部１１１は、逆量子化部１１０による逆量子化の結果を逆周波数変換することにより、復号化差分画像を生成する。そして、このように生成された復号化差分画像ＤＲは、加算部１１２に出力される。
【００２７】
加算部１１２は、復号化差分画像と予測画像とを加算することにより再構成画像を生成する。そして、このように生成された再構成画像ＤＣは、参照ピクチャ用メモリ１０３に出力される。つまり、再構成画像ＤＣは、以降のピクチャの符号化時における参照画像として用いるために参照ピクチャ用メモリ１０３に保持される。
【００２８】
次に、以上のように構成された画像符号化装置１００によって実行される画像符号化方法について説明する。
【００２９】
図１Ｂは、本発明の実施の形態１に係る画像符号化方法における特徴的な処理の流れを示すフローチャートである。
【００３０】
図１Ｂに示すフローチャートが開始される前に、入力画像は、フレームメモリ１０１に保持される。また、参照ピクチャ用メモリ１０３には、符号化済み画像の復号化画像（再構成画像）が既に蓄積されており、この再構成画像が処理対象ブロックを符号化する際の参照ピクチャとして用いられる。
【００３１】
フレームメモリ１０１に保持された処理対象ブロックは、符号化制御部１０４により指示される分割方法で予測単位に分割される。以下において、予測単位を分割領域と呼ぶ。
【００３２】
図２は、本発明の実施の形態１における処理対象ブロックの分割方法の一例を示す図である。
【００３３】
本実施の形態では、図２（ａ）〜（ｄ）に示すように、処理対象ブロックは、８×８画素、４×４画素、８×２画素、または２×８画素の分割領域に分割される。つまり、符号化制御部１０４により指示される分割方法は、図２（ａ）〜（ｄ）の４種類ある。
【００３４】
このような状態において、分割領域ごとに予測処理を行うことにより、処理対象ブロックの予測画像が生成される（ステップＳ１０１）。このステップＳ１０１は、予測ステップに相当する。
【００３５】
具体的には、動き検出部１０２は、分割領域それぞれに対して動き推定を行うことにより、各分割領域の動きベクトルを検出する（ステップＳ１０１ａ）。より具体的には、動き検出部１０２は、各々の分割領域の画像について、参照ピクチャ用メモリ１０３に保持されている参照ピクチャに対する動き検出を行う。動き検出では、参照ピクチャ内の予め定められた範囲（例えば水平方向±３２画素、垂直方向±２４画素の長方形の領域の範囲）の中で、分割領域の画像に対する評価値が例えば最小となる参照ピクチャ内の位置が検出される。動き検出部１０２は、このように検出された位置から動きベクトルを検出する。
【００３６】
ここで、評価値とは、参照画像を決定するための値である。評価値としては、例えば、互いに対応する画素間における画素値の絶対値差分和を用いることができる。また、評価値としては、例えば、絶対値差分和と動きベクトルの符号量との重み付け和等を用いることもできる。
【００３７】
動き検出部１０２は、分割方法ごとに、各分割領域の画像に対して動き検出を行い、当該分割領域の動きベクトルを検出する。さらに、動き検出部１０２は、最適な分割方法（例えば、最適値の基準として最小を用いる場合には、各分割領域に対する評価値の和が最小となる分割方法）を決定する。そして、動き検出部１０２は、決定した分割方法を符号化制御部１０４に出力し、当該分割方法で分割された各分割領域の動きベクトルを動きベクトルＭＶを可変長符号化部１０９に出力する。また、決定された分割方法と動きベクトルとは、符号化制御部１０４に伝えられる。
【００３８】
続いて、符号化制御部１０４は、動き検出部１０２によって検出された動きベクトルに基づいて、処理対象ブロックの動き補償画像を予測画像として生成する（ステップＳ１０１ｂ）。具体的には、符号化制御部１０４は、各分割領域に対する参照画像を参照ピクチャ用メモリ１０３から読み出し、読みだした参照画像を合成することにより予測画像を生成する。生成された予測画像ＭＣは、境界フィルタ部１０５に出力される。
【００３９】
例えば、図３において、処理対象ブロック３００が分割領域３０１と分割領域３０２とに分割された場合、符号化制御部１０４は、参照ピクチャから参照画像３０３と参照画像３０４とを取得し、処理対象ブロック３００の予測画像（動き補償画像）を生成する。予測画像は、処理ブロック単位（例えば水平１６画素、垂直１６画素）で処理される。
【００４０】
次に、境界フィルタ部１０５は、生成された予測画像において、分割領域の境界にフィルタ処理を行う（ステップＳ１０２）。この境界フィルタ部１０５の動作について図４から図７を用いて詳細に説明する。
【００４１】
図４は、本発明の実施の形態１に係る境界フィルタ処理の流れを示すフローチャートである。具体的には、図４は、境界フィルタ部１０５が符号化制御部１０４から取得する分割方法に基づいて予測画像に対してフィルタ処理を行う際の動作を説明するためのフローチャートである。
【００４２】
境界フィルタ部１０５は、予測画像ＭＣと当該予測画像ＭＣに対応する分割方法とを符号化制御部１０４から取得する（ステップＳ４０１）。
【００４３】
次に、境界フィルタ部１０５は、変換単位内に分割領域の境界があるか否かを判定する（ステップＳ４０２）。つまり、境界フィルタ部１０５は、変換単位と分割領域とを比較することにより、分割領域の境界のうち変換単位内に位置する境界（以下、「処理対象境界」という）を検出する。
【００４４】
具体的には、境界フィルタ部１０５は、予測画像ＭＣに対応する分割方法に基づいて、分割領域の形状情報を取得する。そして、境界フィルタ部１０５は、例えば図５に示すように、分割方法に応じて予め決められている変換単位と分割領域とを比較し、変換単位内に分割領域の境界があるかどうかを判定する。
【００４５】
図６を用いて、ステップＳ４０２の比較処理をさらに詳しく説明する。図６（ａ）は、処理対象ブロックにおける変換単位の境界を示す図である。また、図６（ｂ）は、処理対象ブロックにおける分割領域の境界を示す図である。また、図６（ｃ）は、変換単位の境界と、分割領域の境界との比較により検出される処理対象境界を示す図である。図６（ｃ）において、処理対象境界は、ハッチングされている。
【００４６】
例えば、図５に示すように、分割方法と変換単位とが一対一で対応している場合、境界フィルタ部１０５は、分割方法に対する最小分割幅と変換単位とを比較し、最小分割幅が変換単位の一辺の長さより小さい場合、変換単位内に参照画像ＭＣの分割領域の境界が発生すると判定する。
【００４７】
ここで、処理対象境界が検出されなかった場合（ステップＳ４０２でＮＯ）、処理対象ブロックの予測画像においてフィルタ処理は行われず、境界フィルタ処理は終了する。
【００４８】
一方、処理対象境界が検出された場合（ステップＳ４０２でＹＥＳ）、境界フィルタ部１０５は、処理対象境界（例えば、図６（ｃ）に示す処理対象境界）に対するフィルタ処理を行う（ステップＳ４０３）。ここで、図７および図８を用いて、ステップＳ４０３における処理対象境界に対するフィルタ処理について詳しく説明する。
【００４９】
図７は、処理対象境界を含む画像の特徴を説明するための模式図である。
【００５０】
図７（ａ）は、原画像７０１と予測画像７０２と差分画像７０６とを示す。原画像７０１は、フレームメモリ１０１に保持されている入力画像に含まれる処理対象ブロックの画像である。予測画像７０２は、分割領域７０３、７０４、７０５を各々動き補償をすることによって得られた画像である。差分画像７０６は、原画像７０１と予測画像７０２との差分を表す画像である。
【００５１】
予測画像７０２に示すように、分割領域ごとに動き補償が行われる場合、各分割領域７０３、７０４、７０５において画像の特性が異なることが多い。そのため、原画像７０１と予測画像７０２との差分信号である差分画像７０６において、分割領域の境界近傍の画素の値が大きくなるという特徴が見られる。
【００５２】
図７（ｂ）に、差分画像７０６の中で、物体境界を含み、かつ、分割領域をまたぐ部分７０７における画素値の分布を示す。また、図７（ｃ）に、部分７０７と同じような物体境界を含み、かつ、分割領域をまたがない部分７０８における画素値の分布を示す。図７（ｂ）および（ｃ）では、横軸は分割領域の境界と直交する方向における画素位置を示し、縦軸は画素値を示す。
【００５３】
図７（ｂ）では、中央部分に分割領域の境界に起因する大きな値の変化があり、右側付近に物体境界に起因する緩やかな値の変化が見られる。一方、図７（ｃ）では、右側付近に物体境界に起因する緩やかな値の変化のみが見られる。
【００５４】
ここで、図７（ａ）に示す太線で囲まれた２つの領域７０９が変換単位である場合、図７（ｂ）のように大きな差分値を有する画像に対して変換処理が行われる。画像符号化に用いられるＤＣＴ（Ｄｉｓｃｒｅｔｅ  Ｃｏｓｉｎｅ  Ｔｒａｎｓｆｏｒｍ：離散コサイン変換）を代表とする直交変換処理では、自然画像に多く含まれる、空間的に緩やかな画素値の空間的な変化を含む画像（図７（ｃ）で示される自然画像の物体境界に起因する画素値の空間的な変化を含む画像）を効率良く変換することができるが、図７（ｂ）で示される急峻な画素値の変化を示すエッジを含む画像を効率良く変換することができない。
【００５５】
そこで、ステップＳ４０２において、境界フィルタ部１０５は、図７（ｄ）に示される処理対象境界７１０を検出する。そして、境界フィルタ部１０５は、予測画像７０２のうち、この処理対象境界７１０の近傍の画像に対してフィルタ処理を行う。つまり、境界フィルタ部１０５は、処理対象境界に対するフィルタ処理を行う。
【００５６】
ここで、フィルタ処理を行う対象となる画像は、差分画像ではなく、予測画像である。これは、入力画像と予測画像との差分画像にフィルタ処理が行われた場合、フィルタ処理によって失われた成分を復元することが困難になるからである。例えば、差分画像のうち一定より高い周波数の周波数成分をゼロに置換するフィルタ処理が行われた場合、フィルタ処理後の差分画像を非常に高い精度で量子化しても、フィルタ処理により失われた高い周波数の周波数成分を復元することが困難となる。つまり、入力画像に近い画像を復元することは難しい。
【００５７】
一方、予測画像にフィルタ処理が行われた場合、フィルタ処理後の予測画像と入力画像との差分画像を周波数変換した変換係数が量子化される。したがって、非常に高い精度で量子化が行われた場合、入力画像に近い画像を復元することができる。
【００５８】
上記のとおり、ここでのフィルタ処理は自然画像には含まれない急峻なエッジを滑らかにすることを目的とする。図８を用いて、処理対象境界に隣接する画素に対して行われるフィルタ処理について説明する。
【００５９】
図８は、フィルタ処理を説明するための図である。図８には、処理対象境界近傍の画素の画素値が表されている。ここで、横軸は処理対象境界と直交する方向における画素の位置を示しており、縦軸は画素値を示している。画素ｐ３、画素ｐ２、画素ｐ１、画素ｐ０、画素ｑ０、画素ｑ１、画素ｑ２、画素ｑ３の画素値は、各々ｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３とする。
【００６０】
図８（ａ）は、入力画像の画素値を示し、図８（ｂ）は、予測画像の画素値を示し、図８（ｃ）は、図８（ｂ）の処理対象境界の近傍の画素に対してフィルタ処理を施した後の予測画像の画素値を示す。
【００６１】
図８（ａ）〜（ｃ）に示すように、フィルタ処理後の予測画像は、フィルタ処理前の参照画像と比べて入力画像に近くなる。その結果、差分画像に含まれる差分値が小さくなるので、効率よく変換処理を行うことが可能となり、効率よく符号化することが可能となる。
【００６２】
上記に説明したように、境界フィルタ部１０５は、処理対象境界の近傍画素に対して、画素値の変化を滑らかにするための所定の方法でフィルタ処理を行う。そして、境界フィルタ部１０５は、フィルタ処理後の予測画像ＰＲを差分部１０６および加算部１１２に出力する。
【００６３】
図１Ｂの説明に戻る。
【００６４】
差分部１０６は、入力画像と、予測画像ＰＲとの対応する画素の画素値の差分値を計算し、残差画像ＲＳを生成する（ステップＳ１０３）。この残差画像ＲＳは、差分画像に相当する。
【００６５】
変換部１０７は、残差画像ＲＳを周波数変換する（ステップＳ１０４）。変換部１０７は、周波数変換によって得られる変換係数を量子化部１０８に出力する。
【００６６】
なお、フィルタ処理の対象となる、処理対象境界の近傍画素の決定方法については、実施の形態３に詳しく説明し、近傍画素に対するフィルタ処理の方法については、実施の形態４に詳しく説明する。
【００６７】
以上のように、本発明の実施の形態１に係る画像符号化装置１００は、入力画像を符号化する際に、入力画像を正方領域であり符号化処理の処理単位であるブロック（符号化単位）に分割する。そして、画像符号化装置１００は、そのように分割されたブロックを予め定めておいた分割方法でさらに複数の分割領域に分割する。そして、画像符号化装置１００は、各分割領域に対して動き検出および動き補償を行うことにより、処理対象ブロックの予測画像を生成する。ここで、画像符号化装置１００は、分割領域の境界のうち、後段の差分信号に対する変換処理の処理単位である変換単位と一致しない境界を処理対象境界として検出する。そして、画像符号化装置１００は、予測画像において処理対象境界にフィルタ処理を行う。
【００６８】
このような動作により、変換単位内に予測単位（分割領域）の境界が存在しても、その境界にフィルタ処理を行うことができる。したがって、予測単位の境界において発生する画素値の急激な変化を滑らかにすることができ、入力画像と予測画像との差分画像の値を小さくすることができる。また、従来のように、変換単位内に予測単位（分割領域）の境界が存在しないように、変換単位を小さくする必要がないので、予測単位が小さい場合であっても変換単位を大きくすることができる。これらの結果、符号量を大きく削減することができ、符号化効率を向上させることが可能となる。
【００６９】
本実施の形態においては、予測単位の境界のうち、変換単位内に位置する予測単位の境界にのみフィルタ処理を行う。そのため、予測単位の境界のすべてにフィルタ処理を行う場合よりも処理量を削減することができる。さらに、復号画像もしくは参照画像において、変換単位の境界に対して行われる符号化歪み除去フィルタ（デブロッキングフィルタ）と重複してフィルタ処理を行うことを抑制することもでき、複数回のフィルタ処理による画質の劣化（画像のぼけ）を抑制することができる。
【００７０】
なお、分割方法および変換単位は、図５に示す分割方法および変換単位に限定する必要はない。例えば、予測単位の一部と変換単位の一部とが互いに重複するような場合であっても、本実施の形態に係る画像符号化方法は、変換単位内に位置する予測単位の境界に対してフィルタ処理を行うことにより、上記と同様の効果を奏する。
【００７１】
なお、本実施の形態においては、画像符号化装置１００は、変換単位内にある分割領域の境界のすべてに対してフィルタ処理を行っているが、必ずしもすべてに対してフィルタ処理を行う必要はない。例えば、互いに隣接する２つの分割領域において、動きベクトルが同一であり、参照ピクチャ内で隣接する領域から参照画像を取得している場合には、当該２つの分割領域の間の境界に対するフィルタ処理はスキップされてもよい。こうすることで、フィルタ処理の処理量を削減し、予測画像が過剰にフィルタ処理されることを抑制することができ、フィルタ処理による画質の劣化（画像のぼけ）を抑制することができる。
【００７２】
なお、フィルタ処理をスキップすることを示す情報をストリームのヘッダ情報として記述しておいてもよい。このようにすることで、画像の特徴に応じてフィルタのＯＮ／ＯＦＦをコントロールすることができ、復号化画像の画質を高画質に維持することが可能となる。なお、フィルタヘッダ情報の送り方については、他の実施の形態で詳しく説明する。
【００７３】
なお、図１Ｂの予測処理（ステップＳ１０１）において、動き検出処理（ステップＳ１０１ａ）と動き補償処理（ステップＳ１０１ｂ）の代わりに、面内予測処理が行われてもよい。つまり、予測処理（ステップＳ１０１）において、符号化制御部１０４は、符号化済みブロックの再構成画像に基づいて予測単位ごとに面内予測を行うことにより、処理対象ブロックの面内予測画像を予測画像として生成してもよい。この場合、画像符号化装置１００は、動き検出部１０２を備えなくてもよい。
【００７４】
なお、画像符号化装置１００は、必ずしも図１Ａに示すすべての処理部を備える必要はなく、例えば、図１Ｂに示す画像符号化方法に含まれる各ステップの処理を実行する処理部のみを備えてもよい。
【００７５】
（実施の形態２）
図９Ａは、本発明の実施の形態２に係る画像復号化装置９００の機能構成を示すブロック図である。画像復号化装置９００は、対象画像が符号化された画像符号化信号を復号化して復号化画像を生成する。画像復号化装置９００は、可変長復号化部９０１と、逆量子化部９０２と、逆変換部９０３と、加算部９０４と、復号化制御部９０５と、境界フィルタ部９０６と、動き補償部９０７と、参照ピクチャ用メモリ９０８とを備える。
【００７６】
本実施の形態では、入力符号列ＢＳは、本発明の実施の形態１に係る画像符号化装置１００により生成された画像符号化信号とする。つまり、入力符号列ＢＳは、入力画像をブロックごとに符号化した画像符号化信号とする。
【００７７】
参照ピクチャ用メモリ９０８は、復号化済みの画像である復号化画像を保持する。なお、参照ピクチャ用メモリ９０８は、画像復号化装置９００に接続された外部メモリであってもよい。つまり、画像復号化装置９００は、必ずしも参照ピクチャ用メモリ９０８を備えなくてもよい。
【００７８】
可変長復号化部９０１は、入力符号列ＢＳを可変長復号化することにより、量子化係数と分割方法と動きベクトルとを取得する。分割方法は、処理対象ブロックを複数の予測単位（分割領域）に分割するための方法である。取得した量子化係数ＱＣは逆量子化部９０２に出力され、分割方法ＩＣは復号化制御部９０５に出力され、動きベクトルＭＶは動き補償部９０７に出力される。
【００７９】
逆量子化部９０２は、量子化係数を逆量子化する。そして、逆変換部９０３は、逆量子化部９０２における逆量子化結果を変換単位ごとに逆周波数変換することにより、復号化差分画像を生成する。このように生成された復号化差分画像ＤＲは、加算部９０４に出力される。
【００８０】
復号化制御部９０５は、処理対象ブロックの分割方法ＩＣを取得し、境界フィルタ部９０６および動き補償部９０７に出力する。
【００８１】
動き補償部９０７は、処理対象ブロックを予測単位に分割するための分割方法を取得する。さらに、動き補償部９０７は、取得した分割方法に従って分割した予測単位ごとに動きベクトルを取得する。そして、動き補償部９０７は、取得した動きベクトルに基づいて予測単位ごとに動き補償を行うことにより、処理対象ブロックの動き補償画像を予測画像として生成する。つまり、動き補償部９０７は、処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより、処理対象ブロックの予測画像を生成する。
【００８２】
つまり、動き補償部９０７は、分割方法と動きベクトルとに基づいて、参照ピクチャ用メモリ９０８から参照画像を取得することにより、処理対象ブロックの動き補償画像を生成する。ここで、処理対象ブロックが分割されている場合には、分割領域（予測単位）ごとに動きベクトルが記述されている。そこで、動き補償部９０７は、その動きベクトルにしたがって、分割領域ごとに参照画像を取得し、取得した参照画像を合成することで動き補償画像を生成する。
【００８３】
例えば図３に示すように、処理対象ブロック３００が分割領域３０１と分割領域３０２とに分割されている場合、動き補償部９０７は、参照ピクチャ用メモリ９０８から参照画像３０３と参照画像３０４とを取得して、動き補償画像を予測画像ＭＣとして生成する。そして、動き補償部９０７は、予測画像ＭＣを境界フィルタ部９０６に出力する。
【００８４】
境界フィルタ部９０６は、変換単位と予測単位とを比較することにより、予測単位の境界のうち変換単位内に位置する境界を検出する。そして、境界フィルタ部９０６は、生成された予測画像において、検出された境界に対するフィルタ処理を行う。
【００８５】
なお、変換単位は、例えば、予測単位と変換単位との予め定められた対応関係に従って決定されればよい。また例えば、変換単位は、予測単位とは独立して決定されてもよい。
【００８６】
加算部９０４は、フィルタ処理後の予測画像と復号化差分画像とを加算することにより、処理対象ブロックの復号化画像を生成する。
【００８７】
次に、以上のように構成された画像復号化装置９００によって実行される画像復号化方法について説明する。
【００８８】
図９Ｂは、本発明の実施の形態２に係る画像復号化方法における特徴的な処理の流れを示すフローチャートである。
【００８９】
図９Ｂに示すフローチャートが開始される前に、参照ピクチャ用メモリ９０８には、復号化画像が既に蓄積されているとする。この復号化画像が、符号列を復号する際の参照ピクチャとして用いられる。
【００９０】
まず、逆変換部９０３は、変換単位ごとに逆周波数変換処理を行うことにより、前記処理対象ブロックの復号化差分画像を生成する（ステップＳ９０１）。
【００９１】
次に、動き補償部９０７は、処理対象ブロックを分割した領域である予測単位ごとに予測処理を行うことにより、処理対象ブロックの予測画像を生成する（ステップＳ９０２）。具体的には、動き補償部９０７は、まず、予測単位ごとに動きベクトルを取得する（ステップＳ９０２ａ）。続いて、動き補償部９０７は、取得された動きベクトルに基づいて予測単位ごとに動き補償を行うことにより、処理対象ブロックの動き補償画像を予測画像として生成する（ステップＳ９０２ｂ）。
【００９２】
境界フィルタ部９０６は、生成された予測画像において、予測単位の境界に対するフィルタ処理を行う（ステップＳ９０３）。この境界フィルタ部９０６の動作について、図１０を用いて説明する。
【００９３】
図１０は、本発明の実施の形態２に係る境界フィルタ処理の流れを示すフローチャートである。具体的には、図１０は、境界フィルタ部９０６が復号化制御部９０５から取得する分割方法に基づいて予測画像に対してフィルタ処理を行う際の動作を説明するためのフローチャートである。
【００９４】
境界フィルタ部９０６は、動き補償部９０７から処理対象ブロックの予測画像を取得し、さらに復号化制御部９０５から処理対象ブロックの分割方法を取得する（ステップＳ１００１）。
【００９５】
次に、境界フィルタ部９０６は、変換単位内に分割領域の境界があるか否かを判定する（ステップＳ１００２）。つまり、境界フィルタ部１０５は、変換単位と分割領域とを比較することにより、分割領域の境界のうち変換単位内に位置する境界を検出する。
【００９６】
具体的には、境界フィルタ部９０６は、分割方法に基づいて、分割領域の形状情報を取得する。そして、境界フィルタ部９０６は、例えば図５に示すように、分割方法に応じて予め決められている変換単位と分割領域とを比較し、変換単位内に分割領域の境界があるかどうかを判定する。この比較処理は、実施の形態１のステップＳ４０２と同様であるため詳細な説明を省略する。
【００９７】
ここで、処理対象境界が検出されなかった場合（ステップＳ１００２でＮＯ）、処理対象ブロックの予測画像においてフィルタ処理は行われず、境界フィルタ処理は終了する。
【００９８】
一方、処理対象境界が検出された場合（ステップＳ１００２でＹＥＳ）、境界フィルタ部９０６は、処理対象境界（例えば、図６（ｃ）に示す処理対象境界）に対するフィルタ処理を行う（ステップＳ１００３）。このステップＳ１００３のフィルタ処理については、実施の形態１のステップＳ４０３と同様であるため詳細な説明を省略する。境界フィルタ部１０５は、フィルタ処理後の予測画像ＰＲを加算部９０４に出力する。
【００９９】
次に、加算部９０４は、復号化差分画像ＤＲとフィルタ処理後の予測画像ＰＲとを加算することにより、処理対象ブロックの復号化画像ＤＣを生成する（ステップＳ９０４）。このように生成された復号化画像ＤＣは、参照ピクチャ用メモリ９０８に出力される。つまり、復号化画像ＤＣは、出力画像であると共に、以降の復号化において用いられる参照ピクチャである。
【０１００】
以上のように、本発明の実施の形態２に係る画像復号化装置９００は、本発明の実施の形態１に係る画像符号化方法により生成された符号列を復号化する際に、各処理対象ブロックの分割情報を取得する。そして、画像復号化装置９００は、その分割情報、および符号列中に記述されている動きベクトルまたは既に復号化されている周囲動きベクトルに従って予測単位ごとに動き補償を行うことにより、処理対象ブロックの動き補償画像を予測画像として生成する。このように生成された予測画像において、予測単位内に位置する分割領域の境界に対してフィルタ処理を行う。そして、画像復号化装置９００は、フィルタ処理後の予測画像と復号化差分画像とを加算することにより、復号化画像を生成する。
【０１０１】
このような動作により、本発明の実施の形態１に係る画像符号化方法により生成された符号列を正しく復号化することができる。
【０１０２】
なお、分割方法および変換単位は、図５に示す分割方法および変換単位に限定する必要はない。変換単位内に分割領域の境界が位置する場合には、上記と同様の効果を奏する。
【０１０３】
なお、本実施の形態においては、画像復号化装置９００は、実施の形態１と同様に、変換単位内にある分割領域の境界のすべてに対してフィルタ処理を行っているが、必ずしもすべてに対してフィルタ処理を行う必要はない。例えば、互いに隣接する２つの分割領域において、動きベクトルが同一であり、参照ピクチャ内で隣接する領域から参照画像を取得している場合には、当該２つの分割領域の間の境界に対するフィルタ処理はスキップされてもよい。こうすることで、フィルタ処理の処理量を削減し、予測画像が過剰にフィルタ処理されることを抑制することができ、フィルタ処理による画質の劣化（画像のぼけ）を抑制することができる。
【０１０４】
なお、フィルタ処理をスキップすることを示す情報がストリームのヘッダ情報に記述されている場合、当該情報を復号化することにより、画像の特徴に応じてフィルタのＯＮ／ＯＦＦをコントロールすることができ、復号化画像の画質を高画質に維持することが可能となる。なお、フィルタヘッダ情報の復号化方法については、他の実施の形態で詳しく説明する。
【０１０５】
なお、実施の形態１と同様に、フィルタ処理の対象となる、処理対象境界の近傍画素の決定方法については、実施の形態３に詳しく説明し、近傍画素に対するフィルタ処理の方法については、実施の形態４に詳しく説明する。
【０１０６】
なお、画像復号化装置９００は、必ずしも図９Ａに示すすべての処理部を備える必要はなく、例えば、図９Ｂに示す画像復号化方法に含まれる各ステップの処理を実行する処理部のみを備えてもよい。
【０１０７】
（実施の形態３）
本発明の実施の形態３では、実施の形態１および実施の形態２における処理対象境界に対するフィルタ処理について説明する。特に、フィルタ処理の対象となる画素であるフィルタ対象画素の決定方法について詳しく説明する。
【０１０８】
ここで、フィルタ処理を掛けたい部分は、変換単位内に位置する予測単位の境界（処理対象境界）である。このとき、処理対象境界の近傍の画素であってフィルタ処理の対象となる画素であるフィルタ対象画素の決定方法について、図８に示すフィルタ処理方向に一列に並んでいる画素ｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３を用いて詳しく説明する。なお、画素ｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３の画素値は、それぞれｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３とする。
【０１０９】
図１１は、本発明の実施の形態３に係るフィルタ対象画素の決定方法の処理の流れを示すフローチャートである。まず、境界フィルタ部１０５または９０６（以下、境界フィルタ部１０５を代表して記載）は、ストリームのヘッダ情報に記述されているフィルタのＯＮ／ＯＦＦを示すフィルタ情報を取得する。そして、境界フィルタ部１０５は、フィルタ情報がフィルタＯＦＦを示す情報であるかどうかを判定する（ステップＳ１１０１）。
【０１１０】
ここで、フィルタ情報がフィルタＯＦＦを示す情報である場合（ステップＳ１１０１でＹＥＳ）、境界フィルタ部１０５は、処理対象境界の近傍の画素のすべてがフィルタ対象画素ではないと決定する（ステップＳ１１０２）。一方、フィルタ情報がフィルタＯＮを示す情報である場合（ステップＳ１１０１でＮＯ）、境界フィルタ部１０５は、画素ｐ０および画素ｑ０をフィルタ対象画素と決定する（ステップＳ１１０３）。次に、境界フィルタ部１０５は、画素ｐ１と画素ｐ０との画素値の差分の絶対値と予め決められた閾値ＴＨとを比較する（ステップＳ１１０４）。ここで閾値ＴＨは、例えば（式１）で与えられる値とする。
【０１１１】
【数１】
0005859692.tif 000002
【０１１２】
ここでＱＰは量子化精度を表す量子化パラメタである。また、Ｏｆｆｓｅｔは、調整パラメタとして、ファイルヘッダ情報に記述される。
【０１１３】
なお、閾値ＴＨは、量子化パラメタＱＰが大きくなるほど、大きくなるように決定されればよく、必ずしも（式１）に従って決定される必要はない。また、閾値ＴＨは、ファイルヘッダ情報に記述されてもよい。
【０１１４】
ここで、差分の絶対値が閾値ＴＨより小さい場合（ステップＳ１１０４でＹＥＳ）、境界フィルタ部１０５は、さらに画素ｐ１をフィルタ対象画素と決定する（ステップＳ１１０５）。一方、差分の絶対値が閾値ＴＨ以上である場合（ステップＳ１１０４でＮＯ）、次のステップＳ１１０６に進む。
【０１１５】
次に、境界フィルタ部１０５は、ステップＳ１１０４と同様に画素ｑ１と画素ｑ０との画素値の差分の絶対値と閾値ＴＨとを比較する（ステップＳ１１０６）。なお、この閾値ＴＨは、ステップＳ１１０４と同じ値を用いる。
【０１１６】
ここで、差分の絶対値が閾値ＴＨより小さい場合（ステップＳ１１０６でＹＥＳ）、境界フィルタ部１０５は、さらに画素ｑ１をフィルタ対象画素と決定し（ステップＳ１１０７）、フィルタ対象画素の決定処理を終了する。一方、差分の絶対値が閾値ＴＨ以上である場合は（ステップＳ１１０６でＮＯ）、そのままフィルタ対象画素の決定処理を終了する。
【０１１７】
なお、閾値ＴＨは、一例として（式１）に示す量子化パラメタＱＰに依存して変化する値であったが、処理対象境界に隣接する予測単位間における動きベクトルの差に依存して変化する値であっても良い。例えば、動きベクトルのＸ成分の差分の絶対値とＹ成分の差分の絶対値との和ＭＶＤが大きくなるほど、閾値ＴＨが大きくなるように決定されてもよい。
【０１１８】
動きベクトルの差が大きい場合には、処理対象境界における画像特性の変化が異なると考えられる。したがって、動きベクトルの差に依存して閾値ＴＨを変化させることにより、画像の特性に適応してフィルタ対象画素を決定することができる。
【０１１９】
また、前記ＭＶＤと量子化パラメタＱＰとの両方に依存して変化するように、閾値ＴＨが決定されてもよい。
【０１２０】
上記の方法により、フィルタ対象画素が決定される。
【０１２１】
なお、ここでは、境界フィルタ部１０５は、画素ｐ０、ｐ１、ｑ０、ｑ１しかフィルタ対象画素と決定するか否かの判定をしていないが、さらに画素ｐ２、画素ｑ２についても判定をしてもよい。その場合は、境界フィルタ部１０５は、隣接画素がフィルタ対象画素（例えばｐ１）であることを前提として、差分の絶対値（例えば｜ｐ２−ｐ１｜）と閾値とを比較することにより、フィルタ対象画素と決定するか否かを判定することができる。
【０１２２】
なお、ステップＳ１１０１において、フィルタのＯＮ／ＯＦＦを示すフィルタ情報がストリームのヘッダ情報に記述されている場合について説明したが、必ずしもこのようなフィルタ情報がヘッダ情報に記述される必要はない。例えば、予め符号化方法、復号化方法でフィルタのＯＮ／ＯＦＦが決定されていれば、ヘッダ情報にフィルタ情報が記述されなくてもよい。この場合、ヘッダ情報を削減することができる。
【０１２３】
また例えば、ヘッダ情報に境界画素数を示すフィルタ情報が記述されてもよい。この場合には、図１１のステップＳ１１０１において、境界フィルタ部１０５は、フィルタ情報が示す画素数に従ってフィルタ対象画素を決定すればよい。例えば画素数が１の場合、境界フィルタ部１０５は、画素ｐ０、ｑ０をフィルタ対象画素と決定すればよい。また、例えば画素数が２の場合、境界フィルタ部１０５は、画素ｐ１、ｐ０、ｑ０、ｑ１をフィルタ対象画素と決定すればよい。これにより、境界フィルタ部１０５の処理量を大幅に削減することができる。
【０１２４】
なお、ヘッダ情報の送り方については、他の実施の形態で詳しく説明する。
【０１２５】
（実施の形態４）
本発明の実施の形態４では、実施の形態１および実施の形態２における処理対象境界に対するフィルタ処理について説明する。具体的には、実施の形態３で決定されたフィルタ対象画素に対するフィルタ処理について詳しく説明する。
【０１２６】
ここで、フィルタ処理対象画素は、実施の形態３に示す方法により既に決められているとする。また、図８に示すフィルタ処理方向に一列に並んでいる画素インデックスｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３を用いてフィルタ処理を説明する。なお、画素ｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３の画素値は、それぞれｐ３、ｐ２、ｐ１、ｐ０、ｑ０、ｑ１、ｑ２、ｑ３とする。また、以下では、実施の形態１に係る画像符号化装置１００がフィルタ処理を行う場合について説明する。
【０１２７】
図１２は、本発明の実施の形態４に係るフィルタ処理の一例を説明するための模式図である。図１２において、処理対象ブロック１２００が水平４画素、垂直８画素の分割領域１２０１と分割領域１２０２とに分割されている。処理対象ブロック１２００は変換単位であり、分割領域１２０１および分割領域１２０２は予測単位である。
【０１２８】
この場合、符号化制御部１０４は、参照ピクチャ用メモリ１０３から参照画像１２０３および参照画像１２０４を取得する。そして、符号化制御部１０４は、参照画像１２０３および参照画像１２０４を合成して、処理対象ブロックの予測画像（動き補償画像）を生成する。
【０１２９】
例えば、すべてのラインにおいてフィルタ対象画素が画素ｐ０およびｑ０である場合、境界フィルタ部１０５は、参照画像１２０３に隣接する参照画像領域１２０５と、参照画像１２０４に隣接する参照画像領域１２０６とを用いて、フィルタ処理を行う。例えば、境界フィルタ部１０５は、重複した領域（処理対象ブロック１２００のうち、クロスハッチで示す部分）を画素単位で算出した平均値をフィルタ処理後の画素値と決定する。
【０１３０】
なお、ここでは、境界フィルタ部１０５は、２つの参照画像の平均値を算出することにより、処理対象境界に隣接する画素の画素値を決定した。しかし、境界フィルタ部１０５は、（式２）のようにフィルタ処理を行ってもよい。
【０１３１】
【数２】
0005859692.tif 000003
【０１３２】
ここでｄ０、ｄ１、ｄ２は、処理対象境界からの距離ごとに決められるフィルタ係数であり、０．５〜１の間の値をとる。例えば、ｄ０＝０．５、ｄ１＝０．７５、ｄ２＝０．８７５である。これらの値は、画像符号化方法、または画像復号化方法で共通する値として予め決められていてもよいし、ストリームのヘッダ情報に記述されてもよい。
【０１３３】
フィルタの強度を大きくする（平滑度を強くする）場合には、フィルタ係数ｄ０、ｄ１、ｄ２を０．５に近い値にすればよい。
【０１３４】
なお、境界フィルタ部１０５は、（式２）を変形した（式３）に従って、シフトダウン、およびシフトアップでフィルタ処理を行ってもよい。例えば、（式２）におけるｄ０＝０．５、ｄ１＝０．７５、ｄ２＝０．８７５は、（式３）において、Ａ＝１、Ｂ＝１、Ｃ＝１、Ｄ＝３、Ｅ＝２、Ｆ＝１、Ｇ＝７、Ｈ＝３、Ｉ＝１と表現することができる。このように（式３）に従ってフィルタ処理を行う場合、ヘッダ情報の情報量を削減することができ、かつ、フィルタ処理の処理量を削減することができる。
【０１３５】
【数３】
0005859692.tif 000004
【０１３６】
上記に示す方法により、境界フィルタ部１０５は、決められたフィルタ対象画素に対して、フィルタ処理を行うことができる。なお、境界フィルタ部１０５は、参照ピクチャ用メモリ１０３から参照画像を取得するときに、分割領域（予測単位）よりも大きな領域の画像を取得することにより、メモリアクセスを減らすことができる。
【０１３７】
なお、境界フィルタ部１０５は、上記とは別の方法でフィルタ処理を行ってもよい。境界フィルタ部１０５は、例えば（式４）に従ってフィルタ処理を行ってもよい。ここでは、画素ｑ１、画素ｑ０、画素ｐ０、および画素ｐ１のフィルタ処理後の画素値は、それぞれ、ｑ’１、ｑ’０、ｐ’０、およびｐ’１と表されている。
【０１３８】
【数４】
0005859692.tif 000005
【０１３９】
ここで、ｃ０，０、ｃ０，１、ｃ０，２、ｃ０，３、ｃ１，０、ｃ１，１、ｃ１，２、ｃ１，３は、フィルタ係数であり、例えば（式５）で表される。
【０１４０】
【数５】
0005859692.tif 000006
【０１４１】
（式５）のフィルタ係数によって実現されるフィルタ処理は、図８（ｂ）の画像を図８（ｃ）の画像のように、処理対象境界における画素値の変化を平滑化する。なお、フィルタ係数は、（式５）に限るものではなく、例えば（式６）のように単純化した値が設定されてもよい。
【０１４２】
【数６】
0005859692.tif 000007
【０１４３】
この場合、強いフィルタ（平滑度を強くする）として動作する。こちらの手法でフィルタ処理を行う場合、動き補償のための画素データの取得量を減らすことができ、処理量を減らすことが可能である。
【０１４４】
なお、ここでは、処理対象境界からの距離が２画素までの画素がフィルタ対象画素である場合について説明したが、処理対象境界からの距離が３画素までの画素がフィルタ対象画素である場合にも、フィルタ係数を増やすことにより上記と同様にフィルタ処理を行うことが可能である。
【０１４５】
なお、フィルタの種類およびフィルタの係数もしくは、フィルタの強度を表すコードがヘッダ情報に記述されてもよい。このようにすることで、変換単位内において自然画像には存在しない急峻なエッジを取り除くことができる。その結果、予測画像を入力画像に近づけることができるので、差分画像を変換処理により効率的に変換することが可能となり、符号量を削減することができる。
【０１４６】
なお、ここでは処理対象境界が水平方向および垂直方向である場合について説明したが、処理対象境界が斜め方向である場合にも上記と同様に処理することができる。
【０１４７】
なお、フィルタヘッダ情報の送り方については、他の実施の形態で詳しく説明する。
【０１４８】
（実施の形態５）
次に、本発明の実施の形態５について説明する。本実施の形態では、画像符号化装置は、複数のフィルタ処理の方法の中から最適なフィルタ処理の方法を決定し、決定したフィルタ処理の方法を示すフィルタ情報を画像符号化信号中に記述する。
【０１４９】
図１３は、本発明の実施の形態５に係る画像符号化装置の機能構成を示すブロック図である。図１３に示すように、画像符号化装置１３００は、フレームメモリ１３０１と、動き検出部１３０２と、参照ピクチャ用メモリ１３０３と、符号化制御部１３０４と、境界フィルタ部１３０５と、差分部１３０６と、変換部１３０７と、量子化部１３０８と、可変長符号化部１３０９と、逆量子化部１３１０と、逆変換部１３１１と、加算部１３１２と、フィルタ情報記述部１３１３とを備える。画像符号化装置１３００は、図１の画像符号化装置１００が備える構成要素に加えて、フィルタ情報記述部１３１３を備える。
【０１５０】
なお、画像符号化装置１００と共通の処理ブロックのうち、境界フィルタ部１３０５および可変長符号化部１３０９を除く処理ブロックは、実施の形態１と同じように動作するので説明を省略する。
【０１５１】
境界フィルタ部１３０５の動作について、図１４を用いて説明する。図１４は、境界フィルタ部１３０５が分割方法に基づいて予測画像ＭＣに対してフィルタ処理を行う際の動作を説明するためのフローチャートである。
【０１５２】
境界フィルタ部１３０５は、予測画像ＭＣと当該予測画像ＭＣに対応する分割方法とを符号化制御部１３０４から取得する（ステップＳ１４０１）。
【０１５３】
次に、境界フィルタ部１３０５は、変換単位内に分割領域の境界があるか否かを判定する（ステップＳ１４０２）。つまり、境界フィルタ部１３０５は、変換単位と分割領域とを比較することにより、分割領域の境界のうち変換単位内に位置する境界を検出する。
【０１５４】
具体的には、境界フィルタ部１３０５は、予測画像ＭＣに対応する分割方法に基づいて、分割領域の形状情報を取得する。そして、境界フィルタ部１３０５は、例えば図５に示すように、分割方法に応じて予め決められている変換単位と分割領域とを比較し、変換単位内に分割領域の境界（処理対象境界）があるかどうかを判定する。なお、ステップＳ１４０２の処理は、実施の形態１で説明したステップＳ４０２の処理と同様であるため詳細な説明を省略する。
【０１５５】
ここで、処理対象境界が検出されなかった場合（ステップＳ１４０２でＮＯ）、処理対象ブロックの予測画像においてフィルタ処理は行われず、境界フィルタ処理は終了する。
【０１５６】
一方、処理対象境界が検出された場合（ステップＳ１４０２でＹＥＳ）、境界フィルタ部１３０５は、処理対象境界（例えば、図６（ｃ）に示す処理対象境界）に対する複数の方法のフィルタ処理それぞれに対して評価値を算出する（ステップＳ１４０３）。ここでは、境界フィルタ部１３０５は、実施の形態４で説明したフィルタ処理の方法ごとに評価値を求める。フィルタ処理の方法は、例えば、フィルタ無し、（式２）のフィルタ処理（係数（０．５，０．７，０．８２５））、（式２）のフィルタ処理（係数（０．５，０，５，０．５））、および（式５）のフィルタ処理の４種類の方法である。この方法の組合せは一例であり、例えばさらに多くの方法の組合せでもよい。
【０１５７】
評価値としては、フィルタ処理後の予測画像と入力画像との差分絶対値和とフィルタ方法およびフィルタ係数の符号量との重み付け和を用いることができる。この場合、評価値が小さいほど評価が高くなる。
【０１５８】
また、評価値は、変換単位の変換処理（例えば、符号化で使用する変換もしくはアダマール変換等）後の値の和であってもよい。これにより、さらにフィルタの効果を適切に評価することができる。
【０１５９】
境界フィルタ部１３０５は、複数のフィルタ処理の方法の中から、最も評価が高い評価値（ここでは、最も値が小さい評価値）を有するフィルタ処理の方法（方法および係数）を決定する。そして、境界フィルタ部１３０５は、決定したフィルタ処理の方法を示すフィルタ情報をフィルタ情報記述部１３１３に出力する（ステップＳ１４０４）。
【０１６０】
なお決定したフィルタ処理の方法が「フィルタ処理しない」という結果であった場合（ステップＳ１４０５でＮＯ）、境界フィルタ部１３０５は、フィルタ処理を行わずに、動き補償画像（予測画像ＰＲ）をそのまま加算部１３１２および差分部１３０６に出力する。一方、フィルタ処理を行う場合（ステップＳ１４０５のＹＥＳ）、境界フィルタ部１３０５は、処理対象境界に対して、ステップＳ１４０４で決められた方法に基づいてフィルタ処理を行い（ステップＳ１４０６）、フィルタ処理後を予測画像ＰＲを加算部１３１２および差分部１３０６に出力する。
【０１６１】
フィルタ情報記述部１３１３は、境界フィルタ部１３０５から得られるフィルタ情報をフィルタヘッダ情報として可変長符号化部１３０９に出力する。なお、フィルタ情報記述部１３１３の動作、およびフィルタヘッダ情報の記述方法については、他の実施の形態で詳しく説明する。
【０１６２】
上記の本実施の形態に係る画像符号化方法により、複数のフィルタ処理の方法の中からフィルタ効果の高いフィルタ処理の方法を決定することができる。そして、そのように決定したフィルタ処理の方法に従って、変換単位内に位置する予測単位の境界にフィルタ処理を行うことができる。その結果、入力画像と予測画像との差分をより小さくすることができ、符号量を削減することができる。
【０１６３】
なお、境界フィルタ部１３０５は、フィルタ処理の方法について全ての組合せについて評価値を算出していたが、評価値が予め決めた閾値を下回ったときに以降の評価値の算出を中止し、そのときのフィルタ処理の方法を最適なフィルタ処理の方法と決定してもよい。このようにすることで、フィルタ処理の方法を決定するための処理量を削減することができる。
【０１６４】
さらに、図１３に示すように、境界フィルタ部１３０５と変換部１３０７との間で変換単位ＴＵを受け渡すことにより、境界フィルタ処理の有無を考慮した変換単位の変更を実現することができる。
【０１６５】
図１５は、分割方法に対する変換単位の変換サイズ候補の一例を示す図である。また、図１６は、変換サイズの決定方法の処理の流れを示すフローチャートである。
【０１６６】
まず、境界フィルタ部１３０５は、図１５に示す変換サイズに対して順番に、分割方法に示される分割領域（予測単位）の境界が変換単位内にあるかどうかを判定する（ステップＳ１６０１）。例えば、変換サイズ８ｘ８の場合、水平方向に３本ある境界が、処理対象境界として検出され、変換単位内に分割領域の境界があると判定される。
【０１６７】
ここで、変換単位内に分割領域の境界がある場合（ステップＳ１６０１でＹＥＳ）、境界フィルタ部１３０５は、図１４で示す方法により、最適な評価値となるフィルタ処理の方法を決定し、そのフィルタ処理の方法と評価値とを保持する（ステップＳ１６０２）。ここで、例えば、変換単位内に分割領域の境界が３つある場合、境界フィルタ部１３０５は、３つの境界の評価値の和に基づいて、フィルタ処理の方法を決定すればよい。
【０１６８】
一方、変換単位内に分割領域の境界がない場合（ステップＳ１６０１でＮＯ）、境界フィルタ部１３０５は、評価値を計算し保持する（ステップＳ１６０３）。例えば、変換サイズ２ｘ２の場合には、変換単位内に分割領域の境界が無いので、変換サイズ２ｘ２ときの評価値が算出される。この場合も、前述と同じ評価値の算出方法（絶対差分和、もしくは差分値を変換単位で変換した値の和と変換サイズ情報およびフィルタ情報の符号量との重み付け和）を用いることができる。
【０１６９】
全ての変換サイズの評価値が算出されれば、境界フィルタ部１３０５は、評価値に基づいて、変換単位の変換サイズおよびフィルタ処理の方法を決定する（ステップＳ１６０４）。決められた変換サイズは、フィルタ情報と共にフィルタ情報記述部１３１３に出力され、ストリームのヘッダ情報として符号列に記述される。
【０１７０】
以上により、入力画像とフィルタ処理後の予測画像との差分がより小さくなるように、分割方法および変換サイズおよびフィルタ処理の方法を決定することができる。
【０１７１】
なお、境界フィルタ部１３０５は、変換サイズについて全ての組合せについて評価値を算出したが、予め決めた閾値を下回ったときに以降の評価値の算出を中止し、そのときの変換サイズを最適な変換サイズと決定してもよい。このようにすることで、処理量を削減することができる。
【０１７２】
（実施の形態６）
図１７は、本発明の実施の形態６に係る画像復号化装置の機能構成を示すブロック図である。この画像復号化装置１７００は、実施の形態５に係る画像符号化装置１３００によって生成された符号列を復号する。
【０１７３】
画像復号化装置１７００は、可変長復号化部１７０１と、逆量子化部１７０２と、逆変換部１７０３と、加算部１７０４と、復号化制御部１７０５と、境界フィルタ部１７０６と、動き補償部１７０７と、参照ピクチャ用メモリ１７０８と、フィルタ情報復号化部１７０９とを備える。ここで、本実施の形態の画像復号化装置１７００は、実施の形態２の画像復号化装置９００にフィルタ情報復号化部１７０９を追加した構成であり、復号化制御部１７０５および境界フィルタ部１７０６の動作以外は全て同じ動作をする。
【０１７４】
図１８は、本発明の実施の形態６に係るフィルタ情報復号化処理の流れを示すフローチャートである。フィルタ情報復号化部１７０９は、可変長復号化部１７０１よりフィルタ情報の符号列を取得し、復号化する（ステップＳ１８０１）。フィルタ情報復号化部１７０９は、復号化することにより得られる、フィルタ境界決定情報（フィルタ境界決定のための閾値導出のためのオフセット値もしくは、閾値もしくは、境界画素数）およびフィルタ処理方法および強度または係数を、復号化制御部１７０５に出力する（ステップＳ１８０２）。なお、復号化制御部１７０５は、得られたフィルタ境界決定のための情報を境界フィルタ部１７０６に対し出力し、フィルタ処理方法が（式２）で示される場合には、動き補償部からの画像取得方法を変える。上記の動作を行うことにより、実施の形態５の画像符号化方法によって生成される符号列を正しく復号化することができる。
【０１７５】
さらに、画像符号化方法が、変換単位サイズ（変換サイズ）を符号列に記述している場合についての動作の流れを図１９に示す。
【０１７６】
フィルタ情報復号化部１７０９は、可変長復号化部１７０１よりフィルタ情報および変換単位サイズの符号列を取得し、変換単位サイズとフィルタ情報とを復号化する（ステップＳ１９０１）。フィルタ情報復号化部１７０９は、復号化して得られた変換単位サイズを復号化制御部１７０５に出力する。復号化制御部１７０５は、変換単位サイズを逆変換部１７０３に出力する（ステップＳ１９０２）。また、フィルタ情報復号化部１７０９は、復号化して得られたフィルタ境界決定情報およびフィルタ処理方法（係数または強度）を復号化制御部１７０５に出力する（Ｓ１９０３）。
【０１７７】
この動作により、変換処理単位が符号列中に記述されている場合であっても、本発明の復号化方法により、正しく符号列を復号化することができる。
【０１７８】
（実施の形態７）
本発明の実施の形態７では、フィルタ決定のための情報、フィルタ処理のための変換単位サイズ等を示すフィルタヘッダ情報ＦｌｔＳｔｒをストリームのヘッダ情報として記述し、符号化および復号化する方法を説明する。
【０１７９】
図２０は、本発明の実施の形態７に係る画像符号化方法における符号列ＢＳの構成図である。図２０（ａ）は少なくとも１画面で構成される動画シーケンスに対応する符号化信号である。この符号化信号は、全画面のデータであるシーケンスデータＳｅｑＤａｔａと、全画面の全データに共通のデータであるシーケンスヘッダＳｅｑＨｄｒとで構成される。
【０１８０】
フィルタヘッダ情報ＦｌｔＳｔｒとは、フィルタ決定のための情報、フィルタ処理のための変換単位サイズ等を含む情報である。例えば、フィルタヘッダ情報ＦｌｔＳｔｒは、変換単位内の処理対象境界にフィルタをＯＮ／ＯＦＦするための情報（例えばＮＯ＿ＴＵ＿ＭＣ＿ＦＬＴ＿ＦＬＧ＝０（ＯＦＦ）、ＮＯ＿ＴＵ＿ＭＣ＿ＦＬＴ＿ＦＬＧ＝１（ＯＮ））を含む。また、フィルタヘッダ情報ＦｌｔＳｔｒは、フィルタがＯＮの場合は、フィルタ決定のための閾値の算出に用いるＯＦＦＳＥＴ値、もしくは閾値ＴＨ、もしくは処理対象境界からの近傍画素数を、フィルタ決定のための情報として含むことができ、さらにフィルタ処理のための情報として、フィルタ処理の方法とフィルタ係数またはフィルタ強度の番号とを含むことができる。また、これらは全て含まれる必要はなく、一部の情報は画像符号化方法および画像復号化方法で予め決められた値が用いられてもよい。また、図２１に示すような変換単位サイズによってテーブル２１０１、２１０２等を切り替えて、これらの情報の組み合わせを代表するコード番号を送ってもよい。なお、ここでフィルタ方法のオーバラップ型とは（式２）で示す算出式で処理するものとし、フィルタタップ型とは（式４）で示す算出式で処理するものとする。また、図２１の例では、テーブルの切り替えには変換単位のサイズを用いたが、それに限定されない。
【０１８１】
シーケンスヘッダには、フィルタヘッダ情報ＦｌｔＳｔｒが含まれている。
【０１８２】
図２０（ｂ）は、シーケンスデータＳｅｑＤａｔａの構造を示す。シーケンスデータＳｅｑＤａｔａは、１画面に対応するピクチャの符号化信号であるピクチャ信号ＰｉｃＳｔｒを含んでいる。
【０１８３】
図２０（ｃ）は、ピクチャ信号ＰｉｃＳｔｒの構造を示す。ピクチャ信号ＰｉｃＳｔｒは、１画面のデータであるピクチャデータＰｉｃＤａｔａと、１画面全体に共通のデータであるピクチャヘッダＰｉｃＨｄｒとで構成される。ピクチャヘッダＰｉｃＨｄｒには、フィルタヘッダ情報ＦｌｔＳｔｒが含まれている。
【０１８４】
図２０（ｄ）は、ピクチャデータＰｉｃＤａｔａの構造を示す。ピクチャデータＰｉｃＤａｔａは、複数のブロック単位の集合で構成されるスライスの符号化信号であるスライス信号ＳｌｉｃｅＳｔｒを含んでいる。
【０１８５】
図２０（ｅ）は、スライス信号ＳｌｉｃｅＳｔｒの構造を示す。スライス信号ＳｌｉｃｅＳｔｒは、１スライスのデータであるスライスデータＳｌｉｃｅＤａｔａと１スライスの全データに共通のデータであるスライスヘッダＳｌｉｃｅＨｄｒとで構成される。スライスヘッダＳｌｉｃｅＨｄｒにフィルタヘッダ情報ＦｌｔＳｔｒが含まれることにより、スライスデータＳｌｉｃｅＤａｔａ単位で受信した符号化信号を正しく復号化できる。
【０１８６】
なお、シーケンスデータＳｅｑＤａｔａに複数のピクチャ信号ＰｉｃＳｔｒが含まれている場合には、全てのピクチャヘッダＰｉｃＨｄｒにフィルタヘッダ情報ＦｌｔＳｔｒが含まれる代わりに、一部のピクチャヘッダＰｉｃＨｄｒにのみにフィルタヘッダ情報ＦｌｔＳｔｒが含まれるようにしてもよい。同様に、ピクチャデータＰｉｃＤａｔａに複数のスライス信号ＳｌｉｃｅＳｔｒが含まれている場合は、全てのスライスヘッダＳｌｉｃｅＨｄｒにフィルタヘッダ情報ＦｌｔＳｔｒが含まれる代わりに、一部のスライスヘッダＳｌｉｃｅＨｄｒのみにフィルタヘッダ情報ＦｌｔＳｔｒが含まれるようにしてもよい。フィルタヘッダ情報ＦｌｔＳｔｒの内容が各スライスで共通であれば、図２０（ｅ）に示すようにスライスヘッダＳｌｉｃｅＨｄｒにフィルタヘッダ情報ＦｌｔＳｔｒが無い場合は、他のスライスヘッダＳｌｉｃｅＨｄｒのフィルタヘッダ情報ＦｌｔＳｔｒ代用することで、フィルタヘッダ情報ＦｌｔＳｔｒの繰り返しによるビット数の増加を抑えることも可能である。
【０１８７】
また、符号列ＢＳが連続したビットストリームでなく、細切れのデータの単位であるパケット等で伝送される場合は、ヘッダ部とヘッダ以外のデータ部とを分離して別々に伝送してもよい。その場合は、図２０のようにヘッダ部とデータ部とが１つのビットストリームとなることはない。しかしながら、パケットの場合は、ヘッダ部とデータ部とを伝送する順序が連続しなくても、データ部に対応するヘッダ部がデータ部とは別のパケットで伝送されるだけであり、１つのビットストリームとなっていなくても、概念は図２０で説明したビットストリームの場合と同じである。
【０１８８】
また、本実施の形態の復号化方法において、上記の手法で符号化された符号列ＢＳは、次の手順で復号化される。まず、シーケンスヘッダＳｅｑＨｄｒに含まれるフィルタヘッダ情報ＦｌｔＳｔｒを取得し、各情報を保持する。次に、ピクチャヘッダＰｉｃＨｄｒに含まれるフィルタヘッダ情報ＦｌｔＳｔｒを取得し、各情報を更新する。ここで、フィルタヘッダ情報ＦｌｔＳｔｒが無い場合、もしくは一部が無い場合には、シーケンスヘッダＳｅｑＨｄｒに含まれた情報をそのまま保持する。同様に、スライスヘッダＳｌｉｃｅＨｄｒ含まれるフィルタヘッダ情報ＦｌｔＳｔｒを取得し、各情報を更新する。
【０１８９】
このようにすることにより、上記符号列を正しく復号化することができる。
【０１９０】
（実施の形態８）
本発明の実施の形態８では、面内予測画像において、変換単位内に予測単位の境界がある場合に、動き補償画像の場合と同様に、その境界にフィルタ処理を行う画像符号化方法について説明する。
【０１９１】
図２２は、本発明の実施の形態８に係る画像符号化装置の機能構成を示すブロック図である。図２２に示すように、画像符号化装置２２００は、差分部２２０１と、変換・量子化部２２０２と、逆量子化・逆変換部２２０３と、加算部２２０４と、符号化歪み除去部２２０５と、参照ピクチャ用メモリ２２０６と、面内予測部２２０７と、動き補償予測部２２０８と、動き検出部２２０９と、スイッチ２２１０と、可変長符号化部２２１１と、境界フィルタ部２２１２とを備える。参照ピクチャ用メモリ２２０６は、画像符号化装置２２００に接続された外部メモリの形で構成してもよい。
【０１９２】
入力画像が画像符号化装置２２００に入力される。参照ピクチャ用メモリ２２０６には、符号化済み画像の復号化画像（再構成画像）が既に蓄積されており、これが入力画像を符号化する場合の参照ピクチャとして用いられるものとする。
【０１９３】
なお、差分部２２０１は差分部１０６、変換・量子化部２２０２は変換部１０７および量子化部１０８、逆量子化・逆変換部２２０３は逆量子化部１１０および逆変換部１１１、加算部２２０４は加算部１１２、参照ピクチャ用メモリ２２０６は参照ピクチャ用メモリ１０３、境界フィルタ部２２１２は境界フィルタ部１０５、動き検出部２２０９は動き検出部１０２と同じように動作する。また、動き補償予測部２２０８、面内予測部２２０７およびスイッチ２２１０は、動き補償画像を予測画像ＭＣとして生成する場合には、符号化制御部１０４と同じように動作する。
【０１９４】
差分部２２０１は後述する方法で生成される予測画像ＰＲと入力画像との差分画像を生成し、生成された差分画像を変換・量子化部２２０２に出力する。変換・量子化部２２０２は、入力される差分画像に対して変換、量子化処理を施すことにより量子化信号ＱＤを生成し、生成した量子化信号ＱＤを逆量子化・逆変換部２２０３と可変長符号化部２２１１とに出力する。逆量子化・逆変換部２２０３は、入力された量子化信号ＱＤに対して逆量子化・逆変換処理を施して復号化差分画像を生成し、生成した復号化差分画像を加算部２２０４に出力する。加算部２２０４は、逆量子化・逆変換部２２０３より取得した復号化差分画像と予測画像ＰＲとを加算することにより再構成画像を生成し、生成した再構成画像を符号化歪み除去部２２０５に出力する。
【０１９５】
ここで、符号化歪み除去部２２０５は、変換単位の境界に対して、符号化歪み除去（デブロックフィルタ）をかける処理（例えば（式４）で示すフィルタを、変換単位の境界に対して処理する等）を行う。なお、符号化歪み除去部２２０５は、処理を省略することもできる。
【０１９６】
予測画像ＭＣの生成には、動き補償予測と面内予測とに大別され、スイッチ２２１０によって切り替えられる。
【０１９７】
面内予測により予測画像ＭＣを生成する場合について説明する。面内予測部２２０７は、参照ピクチャ用メモリ２２０６より参照ピクチャを取得する。そして、面内予測部２２０７は、取得した参照ピクチャに基づいて、予め決められた方法（例えば、隣接する画素を水平または垂直方向に引き伸ばすこと）で面内予測を行うことにより、処理対象ブロックの面内予測画像を生成し、スイッチ２２１０の「ａ」に出力する。スイッチ２２１０により「ａ」が選択された場合、面内予測画像が予測画像ＭＣとして境界フィルタ部２２１２に出力される。さらに、面内予測の分割方法が境界フィルタ部２２１２に出力される。境界フィルタ部２２１２は、面内予測の分割領域の境界が変換単位内にある場合、その境界を処理対象境界として検出し、その境界にフィルタ処理を行う。
【０１９８】
動き補償予測により予測画像ＭＣを生成する場合について説明する。動き検出部２２０９は、処理対象ブロックに含まれる予測単位に対応する領域を、参照ピクチャより検出する。そして、動き検出部２２０９は、検出した領域の位置を示す動きベクトルＭＶを動き補償予測部２２０８と可変長符号化部２２１１とに出力する。なお、領域を検出する方法は、入力画像と参照ピクチャ内の検出対象画像との差分和と、動きベクトルＭＶと、の重み付け和等を用いることができ、この場合は、動き検出部２２０９は、予め決められた参照ピクチャ内の探索領域（例えば水平３２画素、垂直１６画素内）の中から最も小さい値をとる領域の位置を探索し、探索された領域の位置を示す動きベクトルＭＶを出力すればよい。
【０１９９】
動き補償予測部２２０８は、取得した動きベクトルＭＶで示される参照ピクチャ内の画像を予測単位ごとに取り出し、処理対象ブロックの動き補償画像としてスイッチ２２１０の「ｂ」に出力する。
【０２００】
スイッチ２２１０により「ｂ」が選択された場合、動き補償画像が予測画像ＭＣとして境界フィルタ部２２１２に出力される。さらに、動き補償の分割方法が境界フィルタ部２２１２に出力される。この場合、他の実施の形態と同様に境界フィルタ部２２１２は動作する。
【０２０１】
スイッチ２２１０は、予測画像ＭＣとして面内予測画像を出力するか、動き補償画像を出力するかを予め決められた方法で切り替える。つまり、スイッチ２２１０は、面内予測画像および動き補償画像の一方を予測画像ＭＣとして選択する。例えば、スイッチ２２１０は、入力画像と面内予測画像との差分和と、入力画像と動き補償画像の差分和とを比較し、差分和が小さい方の画像を予測画像ＭＣとして出力してもよい。予測画像ＰＲの生成方法の情報を予測画像生成情報ＣＩとして可変長符号化部２２１１に対して出力する。
【０２０２】
なお、境界フィルタ部２２１２により決定するフィルタ情報を符号列に加える場合には、境界フィルタ部２２１２は、フィルタ情報を予測画像生成情報ＣＩとともに可変長符号化部２２１１に出力してもよい。
【０２０３】
可変長符号化部２２１１は、量子化信号ＱＤと、動きベクトルＭＶ、および予測画像生成情報ＣＩに対して可変長符号化処理を施し、符号列ＢＳとして出力する。
【０２０４】
このような構成をとることにより、実施の形態１で説明する変換単位内に位置する予測単位の境界に対するフィルタ処理を面内予測において実現することができる。これにより、面内予測時にも、差分信号を小さくし、符号量を削減することができる。
【０２０５】
なお、画像符号化装置２２００は、面内予測部２２０７と動き補償予測部２２０８との両方を備えていたが、面内予測部２２０７のみを備えてもよい。この場合、動き検出部２２０９およびスイッチ２２１０は不要となる。
【０２０６】
（実施の形態９）
本発明の実施の形態９では、面内予測画像において、変換単位内に予測単位の境界がある場合に、動き補償画像の場合と同様に、その境界にフィルタ処理を行う画像復号化方法について説明する。
【０２０７】
図２３は、本発明の実施の形態９に係る画像復号化装置の機能構成を示すブロック図である。図２３に示すように、画像復号化装置２３００は、可変長復号化部２３０１と、逆量子化・逆変換部２３０２と、加算部２３０３と、符号化歪み除去部２３０４と、参照ピクチャ用メモリ２３０５と、面内予測部２３０６と、動き補償予測部２３０７と、スイッチ２３０８と、境界フィルタ部２３０９とを備える。参照ピクチャ用メモリ２３０５は、画像復号化装置２３００に接続された外部メモリの形で構成してもよい。
【０２０８】
ここで参照ピクチャ用メモリ２３０５には、復号化済みの画像が既に蓄積されており、これが入力画像を復号化する場合の参照ピクチャとして用いられるものとする。
【０２０９】
なお、逆量子化・逆変換部２３０２は逆量子化部９０２および逆変換部９０３、加算部２３０３は加算部９０４、参照ピクチャ用メモリ２３０５は参照ピクチャ用メモリ９０８、境界フィルタ部９０６はと同じように動作する。そして、動き補償部９０７は、動き補償予測部２３０７と参照ピクチャ用メモリ２３０５として表現され、復号化制御部９０５は動き補償予測部２３０７、面内予測部２３０６およびスイッチ２３０８として表現される。
【０２１０】
符号列ＢＳが画像復号化装置２３００に入力される。可変長復号化部２３０１は、符号列ＢＳを可変長復号化し、予測画像生成情報ＣＩと動き情報ＭＶと量子化信号ＱＤとを取得する。そして、可変長復号化部２３０１は、予測画像生成情報ＣＩをスイッチ２３０８および境界フィルタ部２３０９に出力し、動き情報ＭＶを動き補償予測部２３０７に出力し、量子化信号ＱＤを逆量子化・逆変換部２３０２に出力する。
【０２１１】
逆量子化・逆変換部２３０２は、量子化信号ＱＤに対して逆量子化・逆変換処理を施して復号化差分画像を生成し、加算部２３０３に出力する。加算部２３０３は、復号化差分画像と、後述する予測画像ＰＲとを加算し、符号化歪み除去部２３０４に出力する。
【０２１２】
符号化歪み除去部２３０４は、入力された信号に対して符号化歪み除去処理を施し、参照ピクチャ用メモリ２３０５に対して復号化画像として出力する。
【０２１３】
ここで、符号化歪み除去部２３０４は、変換単位の境界に対して、符号化歪み除去（デブロックフィルタ）をかける処理（例えば（式４）で示すフィルタを、変換処理単位の境界に対して処理する等）を行い、省略することもできる。
【０２１４】
なお、予測画像の生成方法については、予測画像生成情報ＣＩに基づいて、実施の形態８で示した画像符号化装置と同様に、参照ピクチャ用メモリ２３０５から取得する参照ピクチャに基づき、面内予測部２３０６または、動き情報ＭＶと動き補償予測部２３０７により生成される。生成された画像は境界フィルタ部２３０９に対して出力され、変換処理単位内にある、予測画像境界に対してフィルタ処理される。なお、符号列に対してフィルタ情報が符号化されている場合には、可変長復号化部２３０１において復号化され、予測画像生成情報ＣＩとともに、境界フィルタ部２３０９に入力され、フィルタ情報に基づいたフィルタ処理を施す。
【０２１５】
このような構成をとることにより、実施の形態８で説明する変換処理単位内の予測境界に対するフィルタ処理を面内予測に対しても実施した符号列を正しく復号化することができる。
【０２１６】
（実施の形態１０）
上記各実施の形態で示した画像符号化方法または画像復号化方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【０２１７】
さらにここで、上記各実施の形態で示した画像符号化方法や画像復号化方法の応用例とそれを用いたシステムを説明する。
【０２１８】
図２４は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。
【０２１９】
このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および基地局ｅｘ１０６からｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。
【０２２０】
しかし、コンテンツ供給システムｅｘ１００は図２４のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６からｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【０２２１】
カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ  Ｓｙｓｔｅｍ  ｆｏｒ  Ｍｏｂｉｌｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、若しくはＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ  Ｓｐｅｅｄ  Ｐａｃｋｅｔ  Ａｃｃｅｓｓ）の携帯電話機、またはＰＨＳ（Ｐｅｒｓｏｎａｌ  Ｈａｎｄｙｐｈｏｎｅ  Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
【０２２２】
コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する。
【０２２３】
なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【０２２４】
また、これら符号化・復号化処理は、一般的にコンピュータｅｘ１１１や各機器が有するＬＳＩｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
【０２２５】
また、ストリーミングサーバｅｘ１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【０２２６】
以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
【０２２７】
なお、コンテンツ供給システムｅｘ１００の例に限らず、図２５に示すように、デジタル放送用システムｅｘ２００にも、上記各実施の形態の少なくとも画像符号化装置または画像復号化装置のいずれかを組み込むことができる。具体的には、放送局ｅｘ２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ｅｘ２０２に伝送される。この映像データは上記各実施の形態で説明した画像符号化方法により符号化されたデータである。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ２０４が受信する。受信した多重化データを、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７等の装置が復号化して再生する。
【０２２８】
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した多重化データを読み取り復号化する、または記録メディアｅｘ２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダｅｘ２１８にも上記各実施の形態で示した画像復号化装置または画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示され、多重化データが記録された記録メディアｅｘ２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に画像復号化装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号化装置を組み込んでもよい。
【０２２９】
図２６は、上記各実施の形態で説明した画像復号化方法および画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナｅｘ３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ｅｘ３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ｅｘ３０６で符号化された映像データ、音声データを多重化する多重／分離部ｅｘ３０３を備える。
【０２３０】
また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部  ｅｘ３０５を有する信号処理部ｅｘ３０６と、復号化した音声信号を出力するスピーカｅｘ３０７、復号化した映像信号を表示するディスプレイ等の表示部  ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインタフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インタフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。
【０２３１】
まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した多重化データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号化し、分離した映像データを映像信号処理部ｅｘ３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から多重化データを読み出してもよい。次に、テレビｅｘ３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８、  ｅｘ３１９、ｅｘ３２０、ｅｘ３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２や多重／分離部ｅｘ３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【０２３２】
また、テレビｅｘ３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。
【０２３３】
また、リーダ／レコーダｅｘ２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビ  ｅｘ３００、リーダ／レコーダｅｘ２１８のいずれで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８が互いに分担して行ってもよい。
【０２３４】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図２７に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１、ｅｘ４０２、ｅｘ４０３、ｅｘ４０４、ｅｘ４０５、ｅｘ４０６、ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部  ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディア  ｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部  ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３、サーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【０２３５】
以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【０２３６】
図２８に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３より内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。
【０２３７】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【０２３８】
また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図２６に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１や携帯電話ｅｘ１１４等でも考えられる。また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムｅｘ２００において、映像データに音楽データなどが多重化された多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
【０２３９】
このように、上記各実施の形態で示した画像符号化方法あるいは画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
【０２４０】
また、本発明はかかる上記実施形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【０２４１】
（実施の形態１１）
上記各実施の形態で示した画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。
【０２４２】
ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号化方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号化方法を選択することができないという課題を生じる。
【０２４３】
この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。
【０２４４】
図２９は、多重化データの構成を示す図である。図２９に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラファイックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ  Ｄｉｇｉｔａｌ  Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。
【０２４５】
多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。
【０２４６】
図３０は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームｅｘ２３５、複数のオーディオフレームからなるオーディオストリームｅｘ２３８を、それぞれＰＥＳパケット列ｅｘ２３６およびｅｘ２３９に変換し、ＴＳパケットｅｘ２３７およびｅｘ２４０に変換する。同じくプレゼンテーショングラフィックスストリームｅｘ２４１およびインタラクティブグラフィックスｅｘ２４４のデータをそれぞれＰＥＳパケット列ｅｘ２４２およびｅｘ２４５に変換し、さらにＴＳパケットｅｘ２４３およびｅｘ２４６に変換する。多重化データｅｘ２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。
【０２４７】
図３１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図１７における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図１７の矢印ｙｙ１、ｙｙ２、ｙｙ３、ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ  Ｐｒｅｓｅｎｔａｔｉｏｎ  ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ  Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ  Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。
【０２４８】
図３２は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図３２下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。
【０２４９】
また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ  Ａｓｓｏｃｉａｔｉｏｎ  Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ  Ｍａｐ  Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ  Ｃｌｏｃｋ  Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ  Ｔｉｍｅ  Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ  Ｔｉｍｅ  Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。
【０２５０】
図３３はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。
【０２５１】
記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。
【０２５２】
多重化データ情報ファイルは、図３４に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。
【０２５３】
多重化データ情報は図３４に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。
【０２５４】
ストリーム属性情報は図３５に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。
【０２５５】
本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。
【０２５６】
また、本実施の形態における画像復号化方法のステップを図３６に示す。ステップｅｘＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップｅｘＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した画像符号化方法または装置によって生成されたものであると判断された場合には、ステップｅｘＳ１０２において、上記各実施の形態で示した画像復号化方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップｅｘＳ１０３において、従来の規格に準拠した画像復号化方法により復号を行う。
【０２５７】
このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した画像符号化方法または装置、または、画像復号化方法または装置を、上述したいずれの機器・システムに用いることも可能である。
【０２５８】
（実施の形態１２）
上記各実施の形態で示した画像符号化方法および装置、画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図３７に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１、ｅｘ５０２、ｅｘ５０３、ｅｘ５０４、  ｅｘ５０５、ｅｘ５０６、ｅｘ５０７、ｅｘ５０８、ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【０２５９】
例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ  Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７やカメラｅｘ１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られ、信号処理部ｅｘ５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力された多重化データは、基地局  ｅｘ１０７に向けて送信されたり、または記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。
【０２６０】
なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファ  ｅｘ５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。
【０２６１】
また、上記では、制御部ｅｘ５１０が、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有するとしているが、制御部ｅｘ５１０の構成は、この構成に限らない。例えば、信号処理部ｅｘ５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ｅｘ５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵｅｘ５０２が信号処理部ｅｘ５０７、または信号処理部ｅｘ５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ｅｘ５０１は、信号処理部ｅｘ５０７、またはその一部を有するＣＰＵｅｘ５０２を備える構成となる。
【０２６２】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０２６３】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０２６４】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【０２６５】
（実施の形態１３）
上記各実施の形態で示した画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩｅｘ５００において、従来の規格に準拠する映像データを復号する際のＣＰＵｅｘ５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。
【０２６６】
この課題を解決するために、テレビｅｘ３００、ＬＳＩｅｘ５００などの画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図３８は、本実施の形態における構成ｅｘ８００を示している。駆動周波数切替え部ｅｘ８０３は、映像データが、上記各実施の形態で示した画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した画像復号化方法を実行する復号処理部ｅｘ８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ｅｘ８０２に対し、映像データを復号するよう指示する。
【０２６７】
より具体的には、駆動周波数切替え部ｅｘ８０３は、図３７のＣＰＵｅｘ５０２と駆動周波数制御部ｅｘ５１２から構成される。また、上記各実施の形態で示した画像復号化方法を実行する復号処理部ｅｘ８０１、および、従来の規格に準拠する復号処理部ｅｘ８０２は、図３７の信号処理部ｅｘ５０７に該当する。ＣＰＵｅｘ５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵｅｘ５０２からの信号に基づいて、駆動周波数制御部ｅｘ５１２は、駆動周波数を設定する。また、ＣＰＵｅｘ５０２からの信号に基づいて、信号処理部ｅｘ５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態１１で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態１１で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵｅｘ５０２における駆動周波数の選択は、例えば、図４０のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファｅｘ５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵｅｘ５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。
【０２６８】
図３９は、本実施の形態の方法を実施するステップを示している。まず、ステップｅｘＳ２００では、信号処理部ｅｘ５０７において、多重化データから識別情報を取得する。次に、ステップｅｘＳ２０１では、ＣＰＵｅｘ５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップｅｘＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部  ｅｘ５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップｅｘＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。
【０２６９】
さらに、駆動周波数の切替えに連動して、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することが考えられる。
【０２７０】
また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。
【０２７１】
さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵｅｘ５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。
【０２７２】
このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。
【０２７３】
（実施の形態１４）
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩｅｘ５００の信号処理部ｅｘ５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ｅｘ５０７を個別に用いると、ＬＳＩｅｘ５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。
【０２７４】
この課題を解決するために、上記各実施の形態で示した画像復号化方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図４１（ａ）のｅｘ９００に示す。例えば、上記各実施の形態で示した画像復号化方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する画像復号化方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ｅｘ９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明特有の他の処理内容については、専用の復号処理部ｅｘ９０１を用いるという構成が考えられる。特に、本発明は、分割領域の境界におけるフィルタ処理に特徴を有していることから、例えば、分割領域の境界におけるフィルタ処理については専用の復号処理部ｅｘ９０１を用い、それ以外のエントロピー符号化、デブロッキング・フィルタ、動き補償のいずれか、または、全ての処理については、復号処理部を共有することが考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。
【０２７５】
また、処理を一部共有化する他の例を図４１（ｂ）のｅｘ１０００に示す。この例では、本発明に特有の処理内容に対応した専用の復号処理部ｅｘ１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ｅｘ１００２と、本発明の画像復号化方法と他の従来規格の画像復号化方法とに共通する処理内容に対応した共用の復号処理部ｅｘ１００３とを用いる構成としている。ここで、専用の復号処理部ｅｘ１００１、ｅｘ１００２は、必ずしも本発明、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩｅｘ５００で実装することも可能である。
【０２７６】
このように、本発明の画像復号化方法と、従来の規格の画像復号化方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。
【産業上の利用可能性】
【０２７７】
本発明によれば、符号化効率を向上させることができ、蓄積、伝送、通信など様々な用途に利用可能である。例えば、テレビ、デジタルビデオレコーダー、カーナビゲーション、携帯電話、デジタルカメラ、デジタルビデオカメラ等の高解像度の情報表示機器や撮像機器に利用可能であり、利用価値が高い。
【符号の説明】
【０２７８】
１００、１３００、２２００  画像符号化装置
１０１、１３０１  フレームメモリ
１０２、１３０２、２２０９  動き検出部
１０３、９０８、１３０３、１７０８、２２０６、２３０５  参照ピクチャ用メモリ
１０４、１３０４  符号化制御部
１０５、９０６、１３０５、１７０６、２２１２、２３０９  境界フィルタ部
１０６、１３０６、２２０１  差分部
１０７、１３０７  変換部
１０８、１３０８  量子化部
１０９、１３０９、２２１１  可変長符号化部
１１０、９０２、１３１０、１７０２  逆量子化部
１１１、９０３、１３１１、１７０３  逆変換部
１１２、９０４、１３１２、１７０４、２２０４、２３０３  加算部
９００、１７００、２３００  画像復号化装置
９０１、１７０１、２３０１  可変長復号化部
９０５、１７０５  復号化制御部
９０７、１７０７  動き補償部
１３１３  フィルタ情報記述部
１７０９  フィルタ情報復号化部
２２１０、２３０８  スイッチ
２２０２  変換・量子化部
２２０３、２３０２  逆量子化・逆変換部
２２０５、２３０４  符号化歪み除去部
２２０７、２３０６  面内予測部
２２０８、２３０７  動き補償予測部
【図１Ａ】
0005859692.tif 000008
【図１Ｂ】
0005859692.tif 000009
【図２】
0005859692.tif 000010
【図３】
0005859692.tif 000011
【図４】
0005859692.tif 000012
【図５】
0005859692.tif 000013
【図６】
0005859692.tif 000014
【図７】
0005859692.tif 000015
【図８】
0005859692.tif 000016
【図９Ａ】
0005859692.tif 000017
【図９Ｂ】
0005859692.tif 000018
【図１０】
0005859692.tif 000019
【図１１】
0005859692.tif 000020
【図１２】
0005859692.tif 000021
【図１３】
0005859692.tif 000022
【図１４】
0005859692.tif 000023
【図１５】
0005859692.tif 000024
【図１６】
0005859692.tif 000025
【図１７】
0005859692.tif 000026
【図１８】
0005859692.tif 000027
【図１９】
0005859692.tif 000028
【図２０】
0005859692.tif 000029
【図２１】
0005859692.tif 000030
【図２２】
0005859692.tif 000031
【図２３】
0005859692.tif 000032
【図２４】
0005859692.tif 000033
【図２５】
0005859692.tif 000034
【図２６】
0005859692.tif 000035
【図２７】
0005859692.tif 000036
【図２８】
0005859692.tif 000037
【図２９】
0005859692.tif 000038
【図３０】
0005859692.tif 000039
【図３１】
0005859692.tif 000040
【図３２】
0005859692.tif 000041
【図３３】
0005859692.tif 000042
【図３４】
0005859692.tif 000043
【図３５】
0005859692.tif 000044
【図３６】
0005859692.tif 000045
【図３７】
0005859692.tif 000046
【図３８】
0005859692.tif 000047
【図３９】
0005859692.tif 000048
【図４０】
0005859692.tif 000049
【図４１】
0005859692.tif 000050