(57)【要約】  画像の品質を同程度に維持しつつ、より効率よく画像が符号化する。  画像符号化方法は、ブロック単位に画像を符号化する画像符号化方法であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換ステップ（Ｓ１２０１）と、２次元配列の変換係数に依存させて、２次元配列の変換係数を走査するための走査順序を決定する走査順序決定ステップ（Ｓ１２０２）と、走査順序に従って、２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査ステップ（Ｓ１２０３）と、１次元配列の変換係数列を符号化する符号化ステップ（Ｓ１２０４）とを含む。
2010050156.tif 000002
【特許請求の範囲】
【請求項１】
ブロック単位に画像を符号化する画像符号化方法であって、
符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換ステップと、
前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定ステップと、
前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査ステップと、
前記１次元配列の変換係数列を符号化する符号化ステップとを含む
画像符号化方法。
【請求項２】
前記走査順序決定ステップでは、前記走査順序決定ステップで決定されるいずれの走査順序においても同じ走査順序で走査される最初の１個以上の変換係数に依存させて、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項３】
前記走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記走査順序を決定する
請求項２に記載の画像符号化方法。
【請求項４】
前記走査順序決定ステップでは、前記２次元配列の変換係数、および、既に符号化されたブロックの変換係数に依存させて、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項５】
前記走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみを走査する周波数選択走査による走査順序を含む、予め定められた複数の走査順序から走査順序を選択することにより、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項６】
前記走査順序決定ステップでは、前記２次元配列の変換係数から得られる値と、予め定められた閾値とを比較することにより、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項７】
前記画像符号化方法は、さらに、
前記走査順序決定ステップによる走査順序の決定を有効化し、かつ、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号を画像復号装置に送信する有効化ステップを含む
請求項１に記載の画像符号化方法。
【請求項８】
ブロック単位に画像を復号する方法であって、
復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号する復号ステップと、
復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する逆走査順序決定ステップと、
前記逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成する逆走査ステップと、
前記２次元配列の変換係数を２次元配列の画素値に逆変換する逆変換ステップとを含む
画像復号方法。
【請求項９】
前記逆走査順序決定ステップでは、前記逆走査順序決定ステップで決定されるいずれの逆走査順序においても同じ逆走査順序で逆走査される最初の１個以上の変換係数に依存させて、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１０】
前記逆走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記逆走査順序を決定する
請求項９に記載の画像復号方法。
【請求項１１】
前記逆走査順序決定ステップでは、前記１次元配列の変換係数列、および、既に復号されたブロックの変換係数に依存させて、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１２】
前記逆走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみについて逆走査する周波数選択走査による逆走査順序を含む、予め定められた複数の逆走査順序から逆走査順序を選択することにより、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１３】
前記逆走査順序決定ステップでは、前記１次元配列の変換係数列から得られる値と、予め定められた閾値とを比較することにより、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１４】
前記画像復号方法は、さらに、
画像符号化装置により送信された、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号の受信をトリガーとして、前記逆走査順序決定ステップによる逆走査順序の決定を有効化する有効化ステップを含む
請求項８に記載の画像復号方法。
【請求項１５】
ブロック単位に画像を符号化する画像符号化装置であって、
符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、
前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、
前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、
前記１次元配列の変換係数列を符号化するエンコーダとを備える
画像符号化装置。
【請求項１６】
ブロック単位に画像を復号する画像復号装置であって、
復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、
復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、
逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、
前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える
画像復号装置。
【請求項１７】
ブロック単位に画像を符号化する集積回路であって、
符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、
前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、
前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、
前記１次元配列の変換係数列を符号化するエンコーダとを備える
集積回路。
【請求項１８】
ブロック単位に画像を復号する集積回路であって、
復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、
復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、
逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、
前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える
集積回路。
【請求項１９】
請求項１に記載の画像符号化方法に含まれるステップをコンピュータに実行させる
プログラム。
【請求項２０】
請求項８に記載の画像復号方法に含まれるステップをコンピュータに実行させる
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像データの圧縮に関し、特に、より高い符号化効率で映像データを圧縮および伸張することに関する。
【背景技術】
【０００２】
現在、標準的な映像符号化アルゴリズムの多くはハイブリッド映像符号化に基づくものである。典型的には、ハイブリッド映像符号化方法は、所望の圧縮成果を達成するために、それぞれ異なる、損失のない圧縮方式と損失のある圧縮方式とを組み合わせたものである。ハイブリッド映像符号化は、ＩＳＯ／ＩＥＣ標準規格（ＭＰＥＧ−１、ＭＰＥＧ−２、ＭＰＥＧ−４のようなＭＰＥＧ−Ｘ標準規格）と同様に、ＩＴＵ−Ｔ標準規格（Ｈ．２６１、Ｈ．２６３のようなＨ．２６ｘ標準規格）の基礎でもある。最新の映像符号化標準規格は、Ｈ．２６４／ＭＰＥＧ−４  Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＡＶＣ）と称されるものであり、これは、ＩＴＵ−ＴとＩＳＯ／ＩＥＣ  ＭＰＥＧグループとの合同チームであるジョイントビデオチーム（ＪＶＴ）による標準化活動の成果である。【０００３】
エンコーダへ入力される映像信号は、フレームと呼ばれる画像のシーケンスであり、各フレームは２次元に配列された画素からなる。ハイブリッド映像符号化に基づく上述の標準規格の全てにおいて、個々の映像フレームは、複数の画素からなる小ブロックへ細分化される。典型的には、マクロブロック（通常は１６×１６画素ブロックを意味する）が基本的な画像要素であり、これに対して符号化がおこなわれる。しかしながら、より小さい画像要素に対して、さまざまな特定の符号化ステップがおこなわれる場合があり、例として、８×８、４×４、１６×８などのサイズを有するブロック、または、サブブロックがある。【０００４】
典型的には、ハイブリッド映像符号化における符号化ステップには、空間的および／または時間的予測が含まれる。したがって、まず、各符号化対象ブロックは、既に符号化された映像フレームから空間的に隣接したブロック、または、時間的に隣接したブロックを用いて予測される。予測残差とも呼ばれる、符号化対象ブロックと予測結果との差分ブロックが、次に求められる。続いて、符号化ステップでは、残差ブロックが空間（画素）領域から周波数領域へ変換される。変換の目的は、入力ブロックの相関を低減することである。その変換の結果、変換部に入力された残差ブロックと同じサイズの、変換係数と呼ばれる値のブロックが得られる。次の符号化ステップにおいて、変換係数が量子化される。このステップにおいて、実質的に損失のある（不可逆的な）圧縮がおこなわれる。【０００５】
量子化の後、予め定められた順番で係数が走査され、それにより１次元シーケンスが形成される。通常、圧縮された変換係数の値は、エントロピー符号化によって（損失を生じさせずに）さらに圧縮される。符号化された映像信号を再構築するために必要な補助情報がさらに符号化され、符号化された予測誤差信号とともに提供される。この情報は、例えば、空間的および／または時間的予測、および、量子化の量に関するものである。【０００６】
なお、走査により２次元配列の変換係数から１次元配列の変換係数列が生成されるため、走査とは、２次元配列の変換係数から１次元配列の変換係数列を生成することとも言える。そして、走査順序とは、２次元配列の変換係数から１次元配列の変換係数列を生成するときの順序のことであり、２次元配列の変換係数を走査する順序のことである。つまり、走査順序とは、２次元配列の変換係数についての順序のことである。【０００７】
また、逆走査とは、走査の逆の処理のことである。すなわち、逆走査とは、１次元配列の変換係数列から２次元配列の変換係数を生成することとも言える。そして、逆走査順序とは、１次元配列の変換係数列から２次元配列の変換係数を生成するときの順序のことであり、走査順序と同様に、２次元配列の変換係数についての順序のことである。【０００８】
図１は、Ｈ．２６４／ＡＶＣ標準規格に準拠した、典型的な画像符号化装置１００の一例を示す。Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格（これを本願に引用して援用する）は、上述の符号化ステップの全てを組み合わせたものである。減算器１０５は、まず、映像（入力信号）の対象ブロック（符号化対象ブロック）と、対応する予測ブロック（予測信号）との差分を特定する。時間的に予測されるブロックは、メモリ１４０に格納されている、既に符号化された画像を用いて演算される。空間的に予測されるブロックは、符号化されてメモリ１４０に格納された隣接ブロック内の境界画素の画素値から補間される。よって、メモリ１４０は、対象の信号値と過去の信号値から生成された予測信号との比較を可能にする遅延部として動作する。メモリ１４０は、複数の符号化映像フレームを格納可能である。入力信号と予測信号との差分は、予測誤差または残差と称され、次に、変換／量子化部１１０により、変換され量子化される。量子化係数を走査した後、損失のない方法でデータ量をさらに削減するために、エントロピー符号化部１９０が適用される。【０００９】
画像符号化装置１００内に、復号映像信号を生成する復号部が備えられる。符号化ステップに準拠して、復号ステップには逆量子化／逆変換部１２０が含まれる。復号予測誤差信号は、量子化ノイズとも呼ばれる量子化誤差が原因で、元の予測誤差信号とは異なる。加算器１２５が復号予測誤差信号を予測信号に加算することにより、再構築信号が生成される。エンコーダ側とデコーダ側の互換性を保つために、符号化された後に復号された映像信号に基づいて、双方に知られる予測信号を求める。量子化によって、量子化ノイズが再構築映像信号に重畳される。ブロック単位での符号化により、重畳されたノイズはしばしば、ブロッキング特性を有し、特に強い量子化がおこなわれた場合は、復号画像のブロック境界が目立つ結果になる。ブロッキングアーチファクトは、人間の視覚的認識上マイナスの効果がある。アーチファクトを削減するために、再構築された画像ブロック毎にデブロッキングフィルタ１３０が適用される。デブロッキングフィルタは、予測信号と復号予測誤差信号との加算結果である再構築信号に適用される。デブロッキング後の映像信号は、通常は（ポストフィルタリングが適用されなければ）デコーダ側で表示される復号信号である。Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣにおけるデブロッキングフィルタは、局所的に適用可能なものである。ブロッキングノイズの程度が高い場合は、強い（帯域幅が狭い）ローパスフィルタが適用され、ブロッキングノイズの程度が低い場合は、弱い（帯域幅が広い）ローパスフィルタが適用される。デブロッキングフィルタは、通常、ブロックのエッジを平滑化して復号画像の主観的画質を改善する。さらに、画像内のフィルタリング済みの部分が次の画像の動き補償予測に用いられるため、フィルタリングによって予測誤差が削減され、符号化効率を改善することができる。復号信号は、次にメモリ１４０に格納される。【００１０】
Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣにおける予測信号は、時間的予測か空間的予測によって取得される。予測タイプは、マクロブロック単位で異ならせることができる。時間的予測で予測されたマクロブロックは、インター符号化マクロブロックと呼ばれ、空間的予測で予測されたマクロブロックは、イントラ符号化マクロブロックと呼ばれる。ここで、「インター」という用語は、インターピクチャ予測、つまり先行フレームか後続フレームから得られた情報を用いる予測に関する。「イントラ」という用語は、空間的予測、つまり対象映像フレーム内で既に符号化された情報のみを用いる予測に関する。可能な限り高い圧縮成果を達成するために、映像フレームの予測タイプは、ユーザが設定することもでき、映像エンコーダに選択させることもできる。選択された予測タイプにしたがって、イントラ／インター切替え器１８０は、対応する予測信号を減算器１０５へ提供する。【００１１】
イントラ符号化画像（Ｉタイプ画像またはＩフレームとも呼ばれる）は、イントラ符号化されたマクロブロックのみからなる。つまり、イントラ符号化画像は、他の復号画像を参照することなく復号可能である。イントラ符号化画像は、符号化映像シーケンスに対しエラー耐性を与える。なぜなら、時間的予測によって映像シーケンス内でフレームからフレームへ伝播する可能性があるエラーを取り除く（リフレッシュする）からである。さらに、Ｉフレームは、符号化映像シーケンス内でランダムアクセスを可能にする。【００１２】
イントラフレーム予測では、基本的に既に符号化された隣接ブロックの境界に位置する画素を用いて対象ブロックを予測する、定義済みのイントラ予測モードの組を用いる。空間的予測タイプの違いは、エッジの方向、つまり適用された２次元補間の方向の違いを表す。画像符号化装置１００では、フレーム内予測部１５０が、イントラフレーム予測を行う。補間によって得られた予測信号は、次に、上述の減算器１０５によって、入力信号から減算される。また、空間的予測タイプ情報は、エントロピー符号化され、符号化予測誤差信号とともに信号送信される。【００１３】
インター符号化画像を復号するには、符号化された後に復号された画像が必要である。時間的予測は、単一方向つまり符号化対象フレームより早い順序の映像フレームのみを用いておこなってもよく、後続映像フレームも用いておこなってもよい。単一方向の時間的予測をおこなえば、Ｐフレームと呼ばれるインター符号化画像が得られ、双方向の時間的予測をおこなえば、Ｂフレームと呼ばれるインター符号化画像が得られる。一般的に、インター符号化画像は、ＰタイプマクロブロックとＢタイプマクロブロックとＩタイプマクロブロックとのいずれかから構成される。インター符号化マクロブロック（ＰまたはＢマクロブロック）は、動き補償予測を採用して、動き補償予測部１６０により予測される。まず、動き検出部１７０によって、符号化された後に復号された映像フレーム内で、対象ブロックに最適なブロックが検出される。この最適ブロックは予測信号となり、対象ブロックと最適ブロックとの間の相対的なずれ（動き）が、符号化予測誤差信号とともに提供される補助情報に含まれる２次元の動きベクトルの形式で、動きデータとして信号送信される。予測精度を最適化するため、１／２画素解像度または１／４画素解像度などの小数画素解像度で動きベクトルを特定してもよい。小数画素解像度の動きベクトルは、復号フレーム内の、小数画素位置のように実存する画素値がない位置を指してもよい。【００１４】
イントラ符号化モードおよびインター符号化モードにおいて、変換／量子化部１１０によって、対象入力信号と予測信号間の差分が変換され量子化されて、量子化変換係数が得られる。一般的に、自然界の映像の相関を効率的に低減するため、２次元の離散コサイン変換（ＤＣＴ）またはその整数版のような直交変換が採用される。通常、低周波数成分は高周波成分よりも画質にとって重要であるため、高周波数よりも低周波数に多くのビットが費やされるように変換される。係数は一般に量子化される。量子化で起こりうる表現値は符号化され、受信側に送信される。この目的のために、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣでは、均一に割り当てられた表現値の間隔を表す、いわゆる量子化パラメータ（ＱＰ）が符号化され、送信される。量子化の表現値についての情報と共に、たいてい、量子化係数は、いわゆるレベルによって符号化され、各レベルが、一意的に１つの表現値に対応する。量子化後、２次元配列の量子化係数が１次元配列に変換されてエントロピー符号化部１９０に送信される。典型的には、いわゆるジグザグスキャンによって変換される。ジグザグスキャンにおいては、２次元配列の左上隅から右下隅まで所定の順序で走査される。典型的には、低周波数に相当する画像の左上部分にエネルギーは集中するため、ジグザグスキャンをおこなうと、最後のほうでゼロ値が続く配列になる。これにより、例えば、実際のエントロピー符号化の一部として、または、それ以前の段階で、ランレングス符号を用いた効率的な符号化をおこなうことが可能になる。一般に、ランレングス符号という用語は、単一の記号ではなく連続した記号を符号化するあらゆる符号を意味する。ここで、ランとは同じ値の記号の数を表す。量子化係数をエントロピー符号化するコンテキストにおいて、量子化係数またはゼロ値のレベルは、ランで表されることがよくある。ランは、また、たいてい、ゼロでない値をもつ後続の量子化係数の値またはレベルと共に符号化される。【００１５】
例えば、量子化係数のレベルのシーケンスは、下記のように表すことができる。【００１６】
3 2 0 0 0 0 1 0 2 0 0 0 1 1 0 0 0 0 4 0 … 0【００１７】
上記のシーケンスは、次の（ラン、レベル）の組によって表すことができる。【００１８】
(0, 3)(0, 2)(4, 1)(1, 2)(3, 1)(0, 1)(4, 4)(EOB)【００１９】
ここで、ブロック終結（ＥＯＢ）記号は、符号化中の対象画像ブロックの量子化係数の残り全てがゼロであることを示す。ブロック毎の係数の数は知られている（と見なされる）ため、そのようなランレングス符号化シーケンスは、一意的に復号できる。（ラン、レベル）の組はまた、一つの符号語または２つの別々の符号語として、例えばハフマン符号または算術符号の符号語によって、さらに符号化されてもよい。【００２０】
よって、ランレングス符号化の他のバリエーションが、画像および映像符号化において用いられてもよい。例えば、（ラン、レベル）の組または（レベル、ラン）の組は、「レベル」の大きさで係数のランを定義してもよい。そのような符号化において、上記例のシーケンスは下記の組のシーケンスに符号化されるであろう。【００２１】
(3,1)(2,1)(0,4)(1,1)(0,1)(2,1)(0,3)(1,2)(0,4)(4,1)(0,EOB)【００２２】
そのような符号化は、値が異なる係数について、より長いランが予測される場合に有益である。一般に、係数の符号は、別々に符号化されてもよく、また、レベルは符号付きの値であってもよい。【００２３】
上述のようなランレングス符号化は、今までのところ、いくつかの画像および映像符号化規格におけるエントロピー符号化の一部として用いられてきた。しかしながら、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格は、異なるシンタックス要素に用いられる様々な可変長符号化形式を備える、より洗練された符号化を採用している。特に、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣは、エントロピー符号化方法の２つの選択肢を指定している。１つはＣＡＶＬＣとして知られる、コンテキストに応じて切替えられる可変長符号のセットに基づく複雑度の低い技術である。もう１つは、より高度な演算を必要とするコンテキスト適応型２値符号化（ＣＡＢＡＣ）のアルゴリズムである。後者の効率は、ＣＡＶＬＣの効率よりも、特により大きい符号化対象ブロックに関して高い。両方法ともコンテキスト適応型である。つまり入力データの統計は不定であるとみなし、それにしたがって符号化を適応させる。【００２４】
ＣＡＶＬＣには、全てのＨ．２６４／ＭＰＥＧ−４  ＡＶＣプロファイルが対応している。ＣＡＶＬＣは、変換係数以外のシンタックス要素に適用される指数ゴロム整数可変長符号のセットを備える。ブロックの走査済み量子化変換係数は、通常、有意係数、つまり非ゼロ係数をほんの僅かしか有しない。またここで、トレイリングワンズと呼ばれる、１に等しい大きさを示す係数レベルが、走査の最後に多く発生する。したがって、前提として、まず非ゼロ係数の数およびトレイリングワンズの数が、組み合わされた符号語を用いて送信される。ここで、４個の可変長符号化（ＶＬＣ）テーブルのうち１つが、近隣ブロックの有意のレベルの数に基づいて使用される。その後、第２ステップにおいて、有意係数の符号およびレベル値は、係数のリストを逆の順序で走査することにより符号化される。そうすることにより、各個別レベル値を符号化するための可変長符号化が、６個の可変長符号化テーブルから選択され、既に符号化されたレベルに基づいて適応される。最後に、各ブロックにおける、最後の非ゼロのレベルの前にあるゼロの総数を送信することにより、さらに、各有意のレベルにおける対応するラン、つまり先行して連続するゼロの数を送信することにより、ゼロ量子化係数が信号で伝えられる。各符号化段階で可能性のあるゼロの最大数を監視することにより、各ラン値の符号化に適した可変長符号が選択される。合わせて３２個の異なるＶＬＣがＣＡＶＬＣエントロピー符号化モードで用いられるが、これらのＶＬＣのうちいくつかは、符号表の記録に頼ることなく、オンラインで符号語を算出することができるように構成されている。【００２５】
ＣＡＢＡＣの設計は、バイナリ（２値）化、コンテキストモデル化、および、２値算術符号化という主要な要素に基づく。バイナリ化により、バイナリでないシンタックス要素からビットシーケンス、いわゆるバイナリストリングへの固有のマッピングを通して、効率的な２値算術符号化が可能になる。このバイナリストリングの各要素は、通常の符号化モードまたはバイパスモードの何れかで処理できる。単なる符号化エンジンのバイパス手段によって全体の符号化（および復号）処理をスピードアップするために、符号情報または下位の有意なバイナリ等、選ばれたバイナリについて、後者が選択される。通常の符号化モードは、バイナリをコンテキストモデル化した後に算術符号化してもよいという、実際の符号化における利点をもたらす。設計上の決定として、主にシンタックス要素が最もありそうなバイナリにのみが、既に符号化されたバイナリを使用するコンテキストモデルに供給される。さらに、通常の符号化されたバイナリは全て、そのバイナリの実際の確率分布を評価することで利用される。確率の評価および実際の２値算術符号化は、ハードウェアおよびソフトウェアにおいて効率的に実施できるように、乗算のない方法を用いて行われる。【００２６】
上記３つのランレングス符号化の例において、「レベル」という用語は異なる意味を有した。レベルという語は通常、符号付きまたは符号無しの量子化変換係数値（量子化レベル）を示すために使用される。よって、「レベル」という用語は、通例、ゼロ値の係数を指してもよい。【００２７】
図２は、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ映像符号化標準規格に準拠した例示的な画像復号装置２００を説明する図である。符号化映像信号（画像復号装置２００への入力信号）は、まずエントロピー復号部２９０へ送信され、エントロピー復号部２９０は、量子化係数、そして、動きデータおよび予測タイプなどの復号に必要な他の情報要素を復号する。量子化係数は、逆走査されて２次元配列となり、逆量子化／逆変換部２２０へ送信される。逆量子化／逆変換部２２０による逆量子化および逆変換の後、復号（量子化）予測誤差信号が得られる。これは、画像符号化装置へ入力された信号から予測信号を減算して得られた差分に相当する。予測信号は、時間的予測をする動き補償予測部２７０または空間的予測をするフレーム内予測部２６０からそれぞれ得られ、画像符号化装置で適用された予測を伝送する情報要素を受信して、イントラ／インター切替え器２８０により切替えられる。復号された情報要素は、さらに、イントラ予測の場合には、予測タイプなどの予測に必要な情報を含み、動き補償予測の場合には、動きデータなどの予測に必要な情報を含む。【００２８】
空間領域における量子化された予測誤差信号は、その後、加算器２２５により、動き補償予測部２７０またはフレーム内予測部２６０の何れかから生成された予測信号に加算される。再構築画像は、デブロッキングフィルタ２３０を介して送られてもよく、その結果得られる復号信号は、メモリ２４０に格納され、後続ブロックの時間的または空間的予測に使用される。【００２９】
今日の画像および映像符号化規格の多くに採用されている変換は、元の画像画素、または、その予測誤差信号の画像画素を、周波数領域と略称される空間周波数の領域に変換するものである。この変換の目的は、入力画像内の情報を圧縮するために入力画像を無相関化し、より効率的な符号化を可能にすることである。ＫＬ（Ｋａｒｈｕｎｅｎ−Ｌｏｅｖｅ）変換のような無相関化変換には、入力信号の二次統計の知識が必要である。しかしながら、自然画像の統計は、画像毎に異なるばかりでなく、同一ピクチャ内の画像領域においても異なる可能性がある。よって、統計を評価することで、符号化の複雑度が増し、変換パラメータを信号で伝える必要が生じるであろう。したがって、最近の画像および符号化規格の多くは、ほとんどの画像に理想的な（無相関化）変換に近い能力を備える、ＤＣＴまたはその整数バージョンのような固定変換を採用している。【００３０】
予測誤差信号の変換では、通常、自然画像に対し、より低い周波、つまり、画像のより滑らかな部分に対応する変換ブロックの左上部分にエネルギーを集中させる。一般に、高周波は、より低い周波よりも人間の視覚にとって重要度が低い。より高い周波は、インパルスノイズのような急激に変化する内容に対応する。より高い値の変換係数は、通常、変換画像の左上に集中し、残りの部分はゼロか、または、より低い値の小さなグループかである。したがって、直列に符号化する前に２次元ブロックから行毎に変換係数を読み出す代わりに、ＭＰＥＧ−ＸおよびＨ．２６Ｘのような映像符号化規格のほとんどにおいて、ジグザグスキャンが成功裏に活用されている。【００３１】
図３Ａおよび図３Ｂは、８×８画素のブロック３００に適用されたジグザグスキャンの２つの例を示す。左上の変換係数３０１は、周波数変換後の直流成分に対応し、ＤＣ係数と呼ばれることもある。ＤＣ係数と呼ばれる変換係数３０１から開始し、他の変換係数は走査順序３５０ａまたは３５０ｂによって示される順序で走査される。よって、通常の、比較的滑らかな自然画像ブロックでは、非ゼロ係数の大部分が最初にあり、ゼロのシーケンスで終わる係数シーケンスが得られる。そのようなシーケンスは、例えば上述のランレングス符号化によって効率よくさらに圧縮できる。【００３２】
なお、走査順序を適応的に変更する方法としては、特許文献１に記載された方法がある。
【先行技術文献】
【特許文献】
【００３３】
【特許文献１】欧州特許出願公開第１６７９９０３号明細書
【発明の概要】
【発明が解決しようとする課題】
【００３４】
しかしながら、画像ブロックの滑らかさに関する想定は、通例、必ずしも満たされない。特に、鋭いエッジまたはテキスチャを有する画像ブロックに関し、変換画像ブロック内の変換係数値の分配は、実質的に異なっていてもよい。そのようなブロックにおいて、非ゼロ値のグループまたは単一の非ゼロ値は、より高い周波数領域に発生してもよい。より高い周波数領域に分配された非ゼロ係数値を有するブロックをジグザグスキャンした後、その結果得られた係数シーケンスではゼロランが短くなり、今度はランレングス符号化の効率を低下させることにつながる。その代わりに、他の操作方法を、より高い周波数を有するブロックに適用することもできるであろう。しかしながら、採用された走査順序を信号により伝達することで、やはり画像または映像の符号化圧縮効率を低下させる。【００３５】
また、特許文献１に記載の方法は、統計情報に基づいて走査順序を変更する。すなわち、周辺ブロックにより、対象ブロックの走査順序が決定される。このような方法は、対象ブロックが周辺ブロックとは異なる特性を有するときに、誤った走査順序に決定される場合がある。このような場合、符号化による高い圧縮効果は得られない。【００３６】
そこで、本発明は、同じ画質かつ高いデータ圧縮率で、映像データを圧縮および伸張する方法と、対応する画像符号化装置および画像復号装置を提供することを目的とする。
【課題を解決するための手段】
【００３７】
上記の目的は、独立クレームに定義された特徴によって達成される。【００３８】
好ましい実施の形態は、従属クレームの主題である。【００３９】
すなわち、上記課題を解決するために、本発明による画像符号化方法は、ブロック単位に画像を符号化する画像符号化方法であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換ステップと、前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定ステップと、前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査ステップと、前記１次元配列の変換係数列を符号化する符号化ステップとを含む。【００４０】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像が符号化される。【００４１】
また、前記走査順序決定ステップでは、前記走査順序決定ステップで決定されるいずれの走査順序においても同じ走査順序で走査される最初の１個以上の変換係数に依存させて、前記走査順序を決定してもよい。【００４２】
これにより、最初の変換係数に基づいて、適応的に残りの走査順序が決定される。【００４３】
また、前記走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記走査順序を決定してもよい。【００４４】
これにより、画像の特性に応じて、適応的に走査順序が決定される。【００４５】
また、前記走査順序決定ステップでは、前記２次元配列の変換係数、および、既に符号化されたブロックの変換係数に依存させて、前記走査順序を決定してもよい。【００４６】
これにより、周辺ブロックの傾向を考慮して、適応的に走査順序が決定される。【００４７】
また、前記走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみを走査する周波数選択走査による走査順序を含む、予め定められた複数の走査順序から走査順序を選択することにより、前記走査順序を決定してもよい。【００４８】
これにより、所定の複数の走査順序から、適応的に走査順序が決定される。【００４９】
また、前記走査順序決定ステップでは、前記２次元配列の変換係数から得られる値と、予め定められた閾値とを比較することにより、前記走査順序を決定してもよい。【００５０】
これにより、所定の閾値に基づいて、適応的に走査順序が決定される。【００５１】
また、前記画像符号化方法は、さらに、前記走査順序決定ステップによる走査順序の決定を有効化し、かつ、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号を画像復号装置に送信する有効化ステップを含んでもよい。【００５２】
これにより、適応的に走査順序または逆走査順序を決定するか否かについて、符号化側と復号側とで一致させることができる。【００５３】
また、本発明による画像復号方法は、ブロック単位に画像を復号する方法であって、復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号する復号ステップと、復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する逆走査順序決定ステップと、前記逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成する逆走査ステップと、前記２次元配列の変換係数を２次元配列の画素値に逆変換する逆変換ステップとを含む画像復号方法でもよい。【００５４】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像が復号される。【００５５】
また、前記逆走査順序決定ステップでは、前記逆走査順序決定ステップで決定されるいずれの逆走査順序においても同じ逆走査順序で逆走査される最初の１個以上の変換係数に依存させて、前記逆走査順序を決定してもよい。【００５６】
これにより、最初の変換係数に基づいて、適応的に残りの逆走査順序が決定される。【００５７】
また、前記逆走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記逆走査順序を決定してもよい。【００５８】
これにより、画像の特性に応じて、適応的に逆走査順序が決定される。【００５９】
また、前記逆走査順序決定ステップでは、前記１次元配列の変換係数列、および、既に復号されたブロックの変換係数に依存させて、前記逆走査順序を決定してもよい。【００６０】
これにより、周辺ブロックの傾向を考慮して、適応的に逆走査順序が決定される。【００６１】
また、前記逆走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみについて逆走査する周波数選択走査による逆走査順序を含む、予め定められた複数の逆走査順序から逆走査順序を選択することにより、前記逆走査順序を決定してもよい。【００６２】
これにより、所定の複数の逆走査順序から、適応的に逆走査順序が決定される。【００６３】
また、前記逆走査順序決定ステップでは、前記１次元配列の変換係数列から得られる値と、予め定められた閾値とを比較することにより、前記逆走査順序を決定してもよい。【００６４】
これにより、所定の閾値に基づいて、適応的に逆走査順序が決定される。【００６５】
また、前記画像復号方法は、さらに、画像符号化装置により送信された、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号の受信をトリガーとして、前記逆走査順序決定ステップによる逆走査順序の決定を有効化する有効化ステップを含んでもよい。【００６６】
これにより、適応的に走査順序または逆走査順序を決定するか否かについて、符号化側と復号側とで一致させることができる。【００６７】
また、本発明による画像符号化装置は、ブロック単位に画像を符号化する画像符号化装置であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、前記１次元配列の変換係数列を符号化するエンコーダとを備える画像符号化装置でもよい。【００６８】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を符号化する画像符号化装置として利用できる。【００６９】
また、本発明による画像復号装置は、ブロック単位に画像を復号する画像復号装置であって、復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える画像復号装置でもよい。【００７０】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を復号する画像復号装置として利用できる。【００７１】
また、本発明による集積回路は、ブロック単位に画像を符号化する集積回路であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、前記１次元配列の変換係数列を符号化するエンコーダとを備える集積回路でもよい。【００７２】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を符号化する集積回路として利用できる。【００７３】
また、本発明による集積回路は、ブロック単位に画像を復号する集積回路であって、復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える集積回路でもよい。【００７４】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を復号する集積回路として利用できる。【００７５】
また、本発明によるプログラムは、前記画像符号化方法に含まれるステップをコンピュータに実行させるプログラムでもよい。【００７６】
これにより、前記画像符号化方法がプログラムとして実現される。【００７７】
また、本発明によるプログラムは、前記画像復号方法に含まれるステップをコンピュータに実行させるプログラムでもよい。【００７８】
これにより、前記画像復号方法がプログラムとして実現される。【００７９】
上述のような、画像または映像についての変換係数の符号化と復号において対象ブロックに適用される走査順序を対象ブロック内の変換係数値に基づいて決定することは、本発明に特有のアプローチである。【００８０】
したがって、局所適応的な方法で、つまり特定のブロックに対して、かつ特定のブロックの特性に適応して走査順序を変更することが可能である。さらに、エンコーダとデコーダの両方に知られている変換係数値が用いられるときに、付加的な信号で伝える必要がない。よって、同一の係数ブロックの符号化効率を高めることができ、その結果、同じ画質を保ちながら圧縮効率を向上させることができる。【００８１】
本発明の第１の態様によれば、画素ブロックに分割された画像データを符号化する方法が提供される。対象画像ブロックの画素値が変換係数に変換され、対象画像ブロックの変換係数が走査順序に従って順次走査され、走査された変換係数が符号化される。対象画像ブロックの変換係数値に基づいて、対象画像ブロックの走査順序が決定される。【００８２】
本発明の他の態様によれば、画素ブロックに分割された符号化画像データを復号する方法が提供される。対象画像ブロックに関する走査され符号化された変換係数が復号され、逆走査順序に従って順次逆走査され、対象画像ブロックの画素値に逆変換される。対象画像ブロックの変換係数値に基づいて、対象画像ブロックの逆走査順序が決定される。【００８３】
本発明のさらに他の態様によれば、画素ブロックに分割された符号化画像データを符号化するエンコーダが提供される。当該エンコーダは、対象画像ブロックの画素値を変換する変換部、走査順序に従って変換係数を順次走査する走査部、および、走査された変換係数を符号化するエンコーダを備える。決定部は、対象画像ブロックの変換係数に基づいて、対象画像ブロックの走査順序を決定することができる。【００８４】
本発明のさらに他の態様によれば、画素ブロックに分割された符号化画像データを復号するデコーダが提供される。当該デコーダは、対象画像ブロックの走査済み符号化変換係数を復号するデコーダ、逆走査順序に従って対象画像ブロックの復号変換係数を逆走査するブロック形成部、および、対象画像ブロックの逆走査済み変換係数を画素値に逆変換する変換部を備える。決定部は、当該対象画像ブロックの変換係数に基づいて、対象画像ブロックの逆走査順序を決定することができる。【００８５】
好ましくは、走査順序は、複数の予め定められた走査順序から選択される。予め定められた走査順序の１つは、ジグザグスキャンまたは他の固定的に定められた走査でもよい。予め定められた走査順序の１つは、変換係数のサブセットのみが走査され、一方で残りの係数はゼロに設定される周波数選択走査であってもよい。周波数選択走査は固定されない。すなわち、追加の信号を送ったり、暗示的に決定したり、また、例えば量子化マトリクス等の他の信号伝達要素を用いるといった、任意の方法において、走査対象の変換係数を選ぶことができる
本発明の実施の形態によると、走査順序は、予め定められた走査のセットまたは走査のタイプから選択されることよりもむしろ、係数値に基づいて適応的に決定される。好ましくは、変換係数値と走査との割り当ては、例えば既に符号化されたブロックの値に基づいてエンコーダとデコーダにおいて同じ方法で動的に実行される。しかしながら、その割り当ても、固定されても、信号で伝えられてもよい。【００８６】
好ましくは、走査順序は対象ブロック内においても適応的に決定される。したがって、次の走査対象係数の位置は、既に走査された係数値に基づいて決定される。そのような走査順序には、画像ブロックがエッジを含んでいても係数ブロックの構造に適応できるという利点がある。走査を適応させることにより、走査された係数はエントロピー符号によって効率よく符号化できる。【００８７】
好ましくは、最初のＮ個の係数の走査順序は予め定められており、後続の走査対象係数の位置は各々、既に走査された係数値に応じて適応的に決定される。【００８８】
具体的には、各係数値の走査順序は、所定位置の係数の値がゼロであるか非ゼロであるかの情報のような２値情報に基づいて決定される。しかしながら、走査は、係数値に直接基づいて、または、係数値の任意の関数に基づいて決定されてもよい。【００８９】
具体的には、複数の予め定められた走査の最初のＮ個の変換係数が同一の順序で走査されると好都合である。そのような場合、選択されている走査順序にかかわらず、最初のＮ個の変換係数は同一の順序で走査されることから、最初のＮ個の変換係数が、エンコーダとデコーダの両方で、実際の走査順序を決定するために用いられてもよい。より高い値の係数がＤＣ係数とは別に存在することが、さらに高い周波係数の存在を示す指標となってもよい。【００９０】
本発明の実施の形態によると、最初のＮ個の変換係数の値に基づいて算出された尺度を評価することで、走査順序が決定される。この尺度は、最初のＮ個の変換係数の任意の関数であってもよい。好ましくは、この尺度は最初のＮ個の変換係数の絶対値の合計である。しかしながら、代わりに他の任意の測定基準、例えば２乗誤差、重み付け合計、最大または最小係数値といった任意の基準が採用されてもよい。また、他の関数、例えば統計モーメント、ある値を超えるかまたは下回る係数の数、あるいは、他の尺度など、統計的特徴に基づく尺度が用いられてもよい。【００９１】
本発明の他の実施の形態によると、走査順序は、対象ブロック内の非ゼロ変換係数の数に基づいて決定される。このような方法で走査順序を決定する際にも、実際の走査順序を知っている必要はなく、このような方法が、エンコーダとデコーダの両方で同じように適用されてもよい。同様にゼロ変換係数の数が走査順序の決定に用いられてもよいことは明らかである。【００９２】
本発明のさらに他の実施の形態によると、走査順序は、レベルに基づいて決定される。レベルが（可能であれば、符号なし、および／または、量子化済みの）変換係数値を表すエントロピー符号化が符号化に含まれる場合、レベルも、エンコーダとデコーダで同じように、実際の走査順序を知ることなく使用されてもよい。レベルは、適用されるエントロピー符号によって、ゼロ係数と非ゼロ係数の両方を表してもよい。また、レベルに基づいて決定された尺度が走査順序の決定に用いられてもよい。好ましくは、演算するときの複雑さが低いという理由で、レベルの合計または重み付けされた合計が用いられる。しかしながら、測定基準、基準、統計等の任意の他の関数が、代わりに、または、追加で同様に採用されてもよい。【００９３】
好ましくは、本発明の実施の形態のいずれかにおける走査順序の選択は、決定された尺度と予め定められた閾値の比較に基づく。好ましくは、閾値は、符号化されたブロック係数と共に、特定のブロック数において用意される。ブロック数はスライスに対応してもよく、閾値はスライスヘッダ内で信号により伝えられてもよい。または、閾値は、画像毎あるいは画像数毎に用意されてもよい。しかしながら、閾値は固定でもよく、選択的に信号を伝達することで変更可能なデフォルトの閾値があってもよい。走査順序の選択において、３つ以上の予め定められた走査順序が区別できる場合は、適用される閾値が２つ以上あってもよい。しかしながら、走査順序の決定は、必ずしも予め定められた閾値に依存しない。仮説検定のような統計的方法が走査順序の決定に採用されてもよく、または、閾値は、例えば映像シーケンスの統計的特徴、エンコーダ／デコーダパラメータ、あるいは同様のものに基づいて、エンコーダおよびデコーダにおいて、同じ方法で動的に決定されてもよい。【００９４】
本発明の実施の形態によると、走査順序の決定は有効化または無効化されてもよい。好ましくは、有効化および／または無効化は、符号化変換係数と共に提供される有効化フラグをトリガーとして実行される。具体的には、有効化フラグはスライスヘッダに設定される。しかしながら、有効化フラグは、例えば実画像情報を有しない画像または映像パケット内で、異なる方法で設定されてもよい。また、有効化フラグは、例えばマクロブロックまたはブロックのような、スライスよりも小さな画像領域で用いられるために、より細かな粒度を有してもよい。また、有効化フラグは、より多くのスライスで用いられるために、より粗い粒度を有してもよい。ここで、有効化フラグを信号で伝えることは、定期的に実行されてもよく（例えばｍブロック、マクロブロック、スライス、フレーム、ＧＯＰ等毎に実行される。ただしｍは１以上の整数である）、不定期に実行されてもよい（例えば符号化係数を有する映像データパケットから分離されたパケットにおいて実行される）。Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣに基づく符号化において、特別なネットワーク抽象化レイヤの単位が、映像シーケンス内の任意の位置で情報を保持するために用いられてもよい。有効化フラグは、走査の切替えが有効であれば１に設定され、無効であればゼロに設定されるが、これは、１とゼロとの値が逆に割り当てられた無効化フラグで置き換えられてもよい。走査の切替えを有効化および無効化することで、走査順序の切替えを用いるか否かを自動的に、または、ユーザの操作により決定することができる。例えば、符号化対象画像について、切替えによる利益がないか、無視できるほど少ないという統計があると分かっている場合は、切替えが無効化されてもよい。【００９５】
好ましくは、有効化フラグが走査順序の決定を有効化したことを信号で伝えた場合に、走査状態情報が有効化フラグに添付されてもよい。具体的には、走査状態情報は、走査を決定するときに考慮される係数の数および／または走査の決定に用いられる閾値に対応する。【００９６】
さらに好ましくは、本発明に特有のアプローチは、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣまたはその後続の規格などのハイブリッド符号化に基づく、既存または将来の映像符号化規格の１つにおいて選択的または必須に適用される。【００９７】
本発明の他の実施の形態によると、本発明を実行する、コンピュータ読み取り可能なプログラムコードを実装したコンピュータ読み取り可能な媒体を備えるコンピュータプログラム製品が提供される。【００９８】
本発明の上記およびその他の目的は、付属図面に関する以下の説明および実施の形態から明確になる。
【発明の効果】
【００９９】
本発明により、画像の品質を同程度に維持しつつ、より効率よく画像が符号化され、または、より効率よく画像が復号される。
【図面の簡単な説明】
【０１００】
【図１】図１は、従来のハイブリッド映像エンコーダの構成を概略的に示すブロック図である。
【図２】図２は、従来のハイブリッド映像デコーダの構成を概略的に示すブロック図である。
【図３Ａ】図３Ａは、８×８の、ブロック量子化変換係数のジグザグスキャンの例を示す。
【図３Ｂ】図３Ｂは、８×８の、ブロック量子化変換係数のジグザグスキャンの別の例を示す。
【図４】図４は、本発明の映像エンコーダおよびデコーダを示すブロック図である。
【図５】図５は、周波数選択符号化を用いて一部変更されたハイブリッド映像エンコーダ部分を概略的に示す。
【図６】図６は、８×８ブロックの、周波数選択符号化ブロックに分配された非ゼロ係数を伴うジグザグスキャンの例を示す。
【図７】図７は、８×８ブロックの、周波数選択符号化および走査による、変換係数の並べ替えおよび走査を示す。
【図８】図８は、４×４ブロックを例として、周波数選択符号化および走査と、通常のジグザグスキャンとを示す。
【図９】図９は、８×８ブロックの、最初の１０個の走査済み係数の走査順序が共通である、周波数選択走査およびジグザグスキャンを示す。
【図１０】図１０は、４×４ブロックを例として、本発明の実施の形態１による、周波数選択符号化および走査と、通常のジグザグスキャンとを示す。
【図１１】図１１は、４×４ブロックを例として、本発明の実施の形態１による、周波数選択復号および逆走査と、通常の逆ジグザグスキャンとを示す。
【図１２Ａ】図１２Ａは、本発明による、ブロックに分割された画像を符号化する方法のステップを示す。
【図１２Ｂ】図１２Ｂは、本発明による、ブロックに分割された符号化画像を復号する方法のステップを示す。
【図１３】図１３は、決定される走査順序の変形例を示す図である。
【図１４】図１４は、決定される走査順序の別の変形例を示す図である。
【図１５】図１５は、対象ブロックおよび周辺ブロックを示す概念図である。
【図１６】図１６は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成の一例を示す模式図である。
【図１７】図１７は、携帯電話の外観を示す図である。
【図１８】図１８は、携帯電話の構成例を示すブロック図である。
【図１９】図１９は、デジタル放送用システムの全体構成の一例を示す模式図である。
【図２０】図２０は、テレビの構成例を示すブロック図である。
【図２１】図２１は、光ディスクである記録メディアに情報の読み書きを行う情報再生記録部の構成例を示すブロック図である。
【図２２】図２２は、光ディスクである記録メディアの構造例を示す図である。
【図２３】図２３は、各実施の形態に係る画像符号化方法および画像復号方法を実現する集積回路の構成例を示すブロック図である。
【発明を実施するための形態】
【０１０１】
（実施の形態１）
本発明の根底にある課題は、エッジの方向および／または鋭さ等のコンテキスト特性が異なる画像ブロックの変換係数に、同じ走査が採用されており、その結果、後に適用される符号化の効率に違いが出る可能性があることに基づく。これは、画像または画像シーケンス（映像）内の異なるブロックの変換係数の統計が不定であることに起因する。
【０１０２】
この問題を解決するため、本発明は、画素ブロックに分割された画像データを符号化する方法、復号する方法、符号化する装置（エンコーダ）、および、復号する装置（デコーダ）を提供するものである。したがって、対象ブロックにおける変換係数の走査は、対象ブロックの係数値に基づいて決定された走査順序にしたがって順次実行される。
【０１０３】
ハイブリッド画像および映像符号化において、通常、画像はブロックに分割される。これらのブロックは、予め定められた固定サイズでも、様々なサイズでもよい。変換には、通常、１６、８、または、４画素の四角形のブロックが採用される。しかしながら、概して、ブロックは必ずしも四角形である必要はなく、サイズも任意でよい。上述のサイズは、映像符号化技術の複雑さと性能の間のトレードオフとして選択されている。
【０１０４】
なお、画像符号化装置全体がエンコーダと呼ばれる場合もあり、画像符号化装置において符号化処理を実行する部分のみがエンコーダと呼ばれる場合もある。同様に、画像復号装置全体がデコーダと呼ばれる場合もあり、画像復号装置において復号処理を実行する部分のみがデコーダと呼ばれる場合もある。
【０１０５】
また、実施の形態１として説明する実施の形態には、同様の構成要素またはステップを含む複数の実施の形態が含まれる。
【０１０６】
図４は、本発明の画像符号化装置４０１および画像復号装置４０２を示すブロック図である。画像の画素４０９のブロックがエンコーダに入力される。ここで、画素という用語は、例えば符号化対象画像に関し、また、先行する符号化段階のうちの一つで予測が適用されていた場合は、符号化対象の予測誤差画像に関する。画素値が変換部４１０に入力される。画素値は、例えば、直接的にグレースケール画像の画像強度値、または、ＲＧＢ色空間の赤、緑および青の色成分といった任意の色空間の色成分のうちの１つ、または、ＹＵＶ色空間の輝度および２つの色差成分の値に対応する。変換部４１０は、入力された画素４０９の対象ブロックを変換係数４１１のブロックに変換することができる。変換係数４１１の値は、その後、符号化中の対象画像ブロックの走査順序を決定できる決定部４４０に入力される。決定部４４０は、この入力の際に、必ずしも全ての変換係数を受け取る必要はなく、変換係数に基づいて走査順序を決定するには、変換係数のサブセットで十分としてもよい。しかしながら、全ての変換係数値が走査順序の決定に用いられてもよい。決定の結果は、その後、（まだブロック内に並んでいる）変換係数４１１を順次、決定部４４０が決定した走査順序に従って走査できる走査部４２０に入力される。ここで、全変換係数またはそのサブセットが走査されてもよい。走査済みの変換係数４２１は、エンコーダ４３０に入力されるために、当該走査順序にしたがって直列に並べられる。エンコーダ４３０は、さらに係数の入力シーケンスを符号化、好ましくは可逆符号化する。
【０１０７】
この方法で符号化された画像データ４３１は、その後、例えば媒体４５０に格納および／または送信するために出力される。媒体４５０は、メモリ、フラッシュ、ハードディスク、ポータブルな磁気ディスクまたは光ディスク等、いかなる種類の記憶装置であってもよい。また、媒体４５０は、ｘＤＳＬ、ＬＡＮ、ＷＬＡＮ、ＷｉＭＡＸ、ＵＭＴＳ、インターネットまたは他の専売的もしくは標準化されたシステム、あるいは、そのようなシステムの組み合わせ等の、固定またはワイヤレスシステムの資源によって形成される伝送チャネルであってもよい。その後、符号化された画像データ４５１が、例えば、記憶装置から取得され、または、チャネルから受信されることで、媒体４５０から画像復号装置４０２に入力される。当該符号化された画像データは、好ましくは、符号化されて、媒体に入力された画像データ４３１と同じである。しかしながら、媒体４５０がエラーを起こしやすい媒体であれば、エラーがある画像データ、または、不完全な画像データ４５１も出力する可能性がある。
【０１０８】
画像復号装置４０２のデコーダ４７０は、入力された画像データ４５１から、符号化された走査済み変換係数データを解析／復号できる。解析／復号された走査済み変換係数４７１またはそのサブセットは、その後、復号された走査済み変換係数４７１のシーケンスに適用する逆走査順序を決定できる決定部４６０に送られる。決定部４６０は、復号された変換係数４７１のシーケンスまたはそのサブセットの値に基づいて、逆走査順序を決定する。決定の結果および復号された変換係数４７１は、ブロック形成部４８０に入力される。ブロック形成部４８０は、変換係数４８１のブロックを生成するために、変換係数４７１の復号されたシーケンスに、決定された逆走査順序を適用する。変換係数４８１のブロックは、変換部４９０に入力される。変換部４９０は、そのような係数ブロックを、復号対象画像ブロックの画素４９９に変換できる。
【０１０９】
適切な動作を目的として、エンコーダとデコーダとを一致させ、つまり、入力された変換係数４１１と４７１とが同じであれば、エンコーダの決定部４４０は、デコーダの決定部４６０と類似の動作をし、決定結果は、同じである。
【０１１０】
なお、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格に基づくエンコーダおよび／またはデコーダ、例えば図１および２にそれぞれ示す画像符号化装置１００および／または画像復号装置２００に、本発明を直ちに適用してもよい。そのような実施の形態において、画像符号化装置４０１の変換部４１０は、予測誤差画像（減算器１０５の出力）のブロックが変換されて量子化される変換／量子化部１１０に対応する。この実施の形態の変換係数４１１は、変換され量子化される対象画像ブロックの画素値に対応する。決定部４４０、走査部４２０、および、エンコーダ４３０は、エントロピー符号化部１９０の一部であってもよい。今日のＨ．２６４／ＭＰＥＧ−４  ＡＶＣは、図３Ｂに示すジグザグスキャンによる走査順序３５０ｂを採用している。例えばインターレースモードの映像シーケンスには、他のタイプのジグザグ風のスキャンが用いられる。よって、固定のジグザグスキャンの代わりに、本発明による走査の切替えが行われてもよい。同様に、デコーダ４７０は、ブロック形成部４８０および決定部４６０と共にエントロピー復号部２９０の一部を形成してもよい。そこで、逆量子化／逆変換部２２０は、変換部４９０に対応する。
【０１１１】
好ましくは、走査順序は、複数の予め定められた走査順序から選択することで決定される。本発明の実施の形態によると、選択対象の走査順序の１つは、広く用いられているジグザグスキャンであり、もう１つは、周波数選択符号化（ＦＳＣ：Ｆｒｅｑｕｅｎｃｙ  Ｓｅｌｅｃｔｉｖｅ  Ｃｏｄｉｎｇ）と共に採用されるいわゆる周波数選択走査である。
【０１１２】
周波数選択更新（ＦＳＵ：Ｆｒｅｑｕｅｎｃｙ  Ｓｅｌｅｃｔｉｖｅ  Ｕｐｄａｔｅ）および符号化は、特許文献２ＥＰ（Ｅｕｒｏｐｅａｎ  Ｐａｔｅｎｔ  Ａｐｐｌｉｃａｔｉｏｎ）１７２０３５６および特許文献３ＥＰ１７６８４１６に記載されており、これらをここに引用して援用する。周波数選択符号化は、低周波数よりも高周波数に対する感度が弱く、高周波数を改変または省略さえしても、認識されない場合が多いという人間の目の特徴に基づいている。よって、周波数選択符号化において、入力信号の特定の周波数の部分のみが走査および符号化／復号され、他の周波数部分はゼロであるとみなされる。この方法によって、特に周波数選択符号化係数のパターンに適応する周波数選択走査と組み合わせることによって、圧縮効率を高めることができる。
【０１１３】
そのような周波数選択映像技術の主な概念は、フレーム毎に周波数セグメントを更新することである。予め定められた量の低周波係数が、常に更新される。これらは、人間の知覚に必要不可欠な係数であるはずである。つまり、これらを変更すると、人間の目が容易に感知できる歪みが起きる。フレーム毎に、各ブロックの低周波部分、および、高周波を有する１つまたはいくつかのセグメントが更新される。または、所定数のフレームを更新した後に、周波数を完全に更新する目的で、高周波セグメントが、フレーム毎に更新される。
【０１１４】
図５は、この場合もまた、図１を参照して説明したＨ．２６４／ＭＰＥＧ−４  ＡＶＣエンコーダでもよいハイブリッド映像エンコーダの変更されたブロック図の一部に含まれるような周波数選択符号化を示す。予測誤差信号は、変換／量子化部５１０により、変換されて量子化され、周波数選択エンコーダ５５０に入力される。標準的な符号化では、全ての（量子化）変換係数について、図で網掛けされた箇所が示すように、ブロック５０１全体を符号化するであろう。周波数選択エンコーダ５５０においては、変換され量子化された係数のブロック５０１はセグメントに分割される。セグメントのサブセットのみが、（更新済みの）ビットストリーム内でエントロピー符号化され、送信される。図示されたブロック５０２は、より低い周波数ＬＦのセグメント、および、単一の変換係数に対応するセグメント８を含む。これらのセグメントは、ブロックのうち、送信されない係数、または、ゼロと見なされる係数を含む残りの部分と区別するため、図で網掛けされている。更新済みの網掛けされたセグメントをフレーム毎に変えることにより、ブロックの周波数は継続的に更新され、各フレームのビットレートが大幅に減少する。更新されていない係数は、暗にゼロとみなされる。エントロピー符号化部５９０において、ブロック内の量子化変換係数は、所定の走査を適用して走査される。この走査は、最も低い周波係数から開始し、最も高い周波係数まで当該ブロックの全係数を走査する。予測誤差情報を送信するとき、係数は、最後の非ゼロ係数に到達するまで送信される。残りの係数はゼロであると分かる。図６から分かるように、周波数選択符号化に適用されるジグザグスキャンの走査順序６０５の利点は、最後の非ゼロ係数に到達する前に、多くのゼロ係数を走査できることである。
【０１１５】
図６に示された走査順序６０５では、常に０となる非更新係数が走査されるが、このような非更新係数は走査されなくてもよい。または、このような非更新係数は最後に走査されてもよい。このように走査順序を変更することで、より高い符号化の効果が得られる。図７は、そのような走査順序の変更を示す図である。
【０１１６】
周波数選択符号化を用いるブロックにおいて、特定の走査済みゼロ係数は、ピクチャ全体の各ブロック内で常に同じ位置にある。そのような場合、図７に示されるように、更新済み周波数のみを走査するように走査を変更するか、または、始めに更新済み周波数を走査するように係数を並べ替えることができる。ブロック７０１は、図で網掛けされて、１から２０の番号が付けられた更新済み係数を含む。残りの係数は、周波数選択符号化方式にしたがってゼロであると見なされる。番号の昇順にしたがって２０の更新済み係数を走査することが、各ブロックに周波数選択符号化が適用された場合の選択肢の１つであろう。しかしながら、本発明によると、走査順序は係数値に基づいて決定されてもよい。この例においては、ジグザグスキャンまたは他の周波数選択走査の何れかが用いられる。基本的に同じ方法でジグザグスキャンを適用する目的で、周波数選択走査において、更新済み係数を並び替えてもよい。係数を並び替えたブロック７０２は、規定のゼロ係数が最後に走査されることでゼロランが長くなるジグザグスキャンにより走査されてもよい。更新済み係数および周波数選択符号化におけるゼロ係数の位置は、特許文献３ＥＰ１７６８４１６に詳細に説明されているように、量子化マトリクスを用いて決定されてもよい。
【０１１７】
しかしながら、１つのフレームの全ブロックに対して同一の周波数セグメントを更新することは、最適ではない。特定の周波数を除去することで起こる質の歪みは、ブロックの内容に大きく依存する。したがって、周波数選択符号化パターンを各ブロックの内容に適応させることが重要である。高周波を有する特定のブロック、または、予測に失敗したブロックに関しては、全係数を送信すること、すなわち、周波数選択符号化を無効にして、（係数を並べ替えることなく）標準的なジグザグ順序などの他の走査順序を選択することが有益かも知れない。
【０１１８】
本発明は、各ブロックに対する周波数選択符号化の使用を制御することを可能にする。この制御を効率的な方法で実行するため、エンコーダは、可能であれば低い追加レートで、周波数選択符号化の有効化および無効化についての情報をデコーダに通知しなければならない。本発明によると、周波数選択符号化の有効化または無効化は、エンコーダとデコーダにおいて、利用できる情報に基づき同じ方法で決定される。したがって、周波数選択符号化の制御は、明示的な信号で伝える必要がない。エンコーダおよびデコーダが利用できる情報とは、例えば、予測誤差の値である。予測誤差が重大であれば、つまり、予測が失敗すれば、周波数選択符号化をそのようなブロックに用いるべきではない。
【０１１９】
本発明の実施の形態によると、各ブロックの変換係数は、エンコーダ側とデコーダ側の両方において、周波数選択走査の有効化および無効化の決定に用いられる。これを容易にするため、この決定に用いられる係数値は、周波数選択走査を採用するか、または、通常の走査を採用するかのいずれかに関わらず同じ順序で走査される。そうでなければ、デコーダはエンコーダと同じ走査順序を決定することができないであろう。
【０１２０】
図８は、周波数領域において異なる係数配分を有する、内容が異なるブロックに対し、周波数選択走査と共に周波数選択符号化を展開することで達成できる利点を示す。周波数選択符号化技術を用いることにより、多くの映像シーケンス内のほとんどの領域において、現在のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ規格よりも高い符号化効率で、類似の主観的画質を提供できる可能性がある。しかしながら、鋭いエッジ周辺の高周波数を消去すると、可視アーチファクトが生成される。そのような領域に関し、規格と全く同じ主観的画質に到達するために、周波数選択符号化は局所的に適用されるべきである。エッジ周辺、または、予測が失敗した領域には、周波数選択符号化を適用するべきではない。
【０１２１】
周波数選択符号化によると、符号化効率を最大化するため、係数の走査順序は、当該ブロックに用いられる量子化プロセスに依存して変更される。当該ブロックが周波数選択符号化を用いる場合、周波数選択走査が用いられ、更新済み係数が始めに走査されるように係数が並び替えられる。図８から分かるように、走査順序は、結果として生ずる走査された係数の直列のストリームの形式に、本質的な影響を与える。本発明の本実施の形態によると、周波数選択符号化ではなく標準的な量子化および走査プロセスを用いるブロック８１０は、ジグザグスキャンが定義する順で走査され、その結果が直列のストリーム８１１となる。デコーダにおいて各係数値を決定するためには、この走査は知られていなければならない。周波数選択符号化ブロック８２０には、周波数選択走査が用いられ、その結果として、係数の直列のストリーム８２１となる。符号化プロセスと復号プロセスとを一致させるため、デコーダは、ジグザグスキャンのような通常の走査が用いられたか、または、周波数選択走査が用いられたかを知っている必要がある。周波数選択走査およびジグザグスキャンの両方において、低周波係数が最初に走査される。これらの係数は人間の知覚に必要不可欠であり、よって、周波数選択走査が適用されたとしても、常に周波数選択符号化によって更新され、常に最初に送信される。
【０１２２】
図９は、非周波数選択符号化ブロック９１０に適用された通常のジグザグスキャン９１２で走査された最初の１０個の係数（斜線で示された部分）、および、周波数選択符号化ブロック９２０に適用された周波数選択走査９２２で走査された最初の１０個の係数を示す。ジグザグスキャン９１２の走査順序が、周波数選択走査９２２の走査順序と異なるとしても、最初の１０個の係数の順序は同じままである。最初の１０個の係数の後にジグザグスキャンで走査される残りの係数（点々で示された部分）は、周波数選択走査で走査される残りの係数と異なる。
【０１２３】
通常の走査でも周波数選択走査でも、各ブロックの周波数選択符号化および走査の有効化または無効化についての決定を容易にするためには、最初の係数で十分であることが、実験により確かめられた。これらの係数は常に、走査とは別に、最初に送信されるため、デコーダ側が走査を知らなくても読み出すことができる。
【０１２４】
図１０は、本発明の本実施の形態による符号化方法を概略的に示すものである。４×４ブロック１０００は、ｃ１からｃ１６と付番された１６個の周波数係数からなる。概して、本発明は、８×８または４×４ブロックといった特定のサイズに限定されるものではなく、任意のサイズのブロックに適用されてもよい。しかしながら、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣのような現在の符号化アルゴリズムにおいて、８×８ブロックと４×４ブロックが、変換の基礎をなす。最初の３つの係数ｃ１、ｃ２、および、ｃ３の絶対値の合計Ｓは、Ｓ＝｜ｃ１｜＋｜ｃ２｜＋｜ｃ３｜と算出される。
【０１２５】
その後、絶対値の合計Ｓが閾値と比較される。好ましくは、閾値は予め定められている。閾値は固定でも、エンコーダおよびデコーダの設定の一部でも、動的に調整可能であってさえもよい。様々なブロックサイズに異なる閾値が指定されている場合に、特に、周波数選択走査を有効化および無効化する決定に用いられる係数の数がブロックサイズによって異なる場合に、好都合である。絶対値の合計Ｓが閾値以上であれば、このブロックの予測誤差は、あまりに多くの周波数を含んでいる。そのような場合、周波数選択符号化（図においてＦＳＵ−周波数選択更新と略されている）は無効化され、係数はジグザグスキャン１０１０のような通常走査にしたがって走査される。絶対値の合計Ｓが閾値よりも小さければ、周波数選択符号化は有効化され、係数は周波数選択走査１０２０にしたがって走査される。
【０１２６】
概して、絶対値の合計Ｓは、通常走査と周波数選択走査とに共通する任意の数の係数で算出されてもよい。それは、必ずしも共通の係数の最大値である必要はない。絶対値の合計Ｓはまた、係数値の２乗和のような、他の尺度で置き換えられてもよく、その尺度は該当する係数の数でさらに正規化され、その係数値はさらに重み付けされてもよい。しかしながら、例えばそれは、係数値の任意の関数、または、特定の値を有するそれらの共通の係数の数に基づく他の尺度であってもよい。そのような尺度は、閾値と共に、対象ブロックの周波数選択符号化を有効化または無効化する決定を行い、適切な走査を選択するためのものである。周波数選択符号化ステップは、量子化マトリクスに従って係数を並び替えること、および、その並び替えられた係数に走査１０３０を適用することを含む。直列に並べられた係数のストリーム１０２１またはストリーム１０１１は、その後、エントロピー符号化され、その結果生成されるビットストリームは格納、または、送信される。
【０１２７】
つまり、周波数選択走査１０２０による変換係数列が送信されてもよいし、並べ替えにより実質的に走査順序が変更された走査１０３０による変換係数列が送信されてもよい。復号側は、符号化側と同様の逆走査順序により、１次元配列の変換係数列から２次元配列の変換係数を生成できる。
【０１２８】
対応する復号方法は、図１１に概略的に示す。まず、両方の走査に共通する、受信した係数のレベル１１０１が読み出され、その結果、概略のブロック１１００に、順序が不明の係数が残る。最初の３つの係数は、両方の走査において同じ順序で走査されるため、復号できる。図１１の例において、符号化済みの４×４ブロックの最初の３つの係数であるｘ１、０、および、ｘ２が読み出される。これら３つの係数の絶対値の合計Ｓは、下記により算出される。
【０１２９】
S = |x1|+|0|+|x2|
【０１３０】
算出された合計Ｓは、エンコーダにおける方法と同じように閾値と比較される。この比較の結果により、残りの係数は、ジグザグスキャンまたは周波数選択走査に対応する走査によって逆走査される。そして、周波数選択走査に対応する逆走査によりブロック１１１０が形成される。あるいは、ジグザグスキャンに対応する逆走査によりブロック１１２０が形成される。逆走査された後に、ブロック１１１０または１１２０は逆変換され、復号ブロックの画素値が生成される。
【０１３１】
本発明の他の実施の形態によると、走査順序は、非ゼロ係数の数、または、ゼロ係数の数に基づいて決定される。また、このパラメータは、エンコーダとデコーダの両方で利用できる。背景技術において説明したようにランレングス符号化が適用されるとすれば、非ゼロ係数の数は、ラン−レベルの数に対応する。例えば、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ  ＣＡＶＬＣ符号化において、走査順序はレベル数（符号なしの量子化係数値）、および／または、トレイリングワンズの数に対応して決定されてもよい。ゼロ係数の数は、非ゼロ係数と非ゼロ係数の間にあるゼロの総数、および／または、ブロック全体のゼロの数に基づいて同様に導出されてもよい。概して、特定の値を有する係数の数に基づく統計的な尺度が利用されてもよい。これは、これらの統計的な尺度もまた決定される走査順序を知っておくことが必要とされないためである。
【０１３２】
本発明のさらに他の実施の形態によると、ランレングス符号化が走査済み変換係数に適用される場合は、レベルを用いて算出された尺度に基づいて、走査順序が決定される。非ゼロ係数の値（レベル）は、走査順序の選択を、より正確に示してもよい。繰り返しになるが、そのような尺度は、適用された走査順序を知ることなくエンコーダとデコーダで同じように算出できる。
【０１３３】
上記の例におけるエンコーダおよびデコーダは、予め定められた走査順序のセットから選択することで走査順序を決定した。しかしながら、走査順序はまた、適応的に、つまり、予め定められた走査および／または固定の走査の集合以外から決定されてもよい。例えば、最初のＮ個の係数の値は、ブロック内の位置と共に走査順序を定義するために用いられてもよい。簡易な例としては、異なる位置にある最初のＮ個の係数がゼロであるか否かを見分けること、および、そのようなバイナリ（２値）パターンに基づいて、可能性のある２＾Ｎ個の走査順序から一つを選択することである。ここで、２＾Ｎ個の走査順序は、予め定められていてもよい。例えば、２＾Ｎ個のバイナリシーケンスはそれぞれ、走査順序を割り当てられていてもよい。その割り当ては、例えば選択されたブロックのトレーニングセットを用いて最適化することで得られてもよい。他に、同一画像または同一画像シーケンスの既に符号化されたブロックをトレーニングに用いることができる。これにより、エンコーダとデコーダにおいて同じ動的な割り当てが得られる。
【０１３４】
ここで、＾はべき乗を表す記号であり、２＾Ｎは２のＮ乗を意味する。
【０１３５】
走査順序の決定に用いられる値は、必ずしもバイナリシンボル（ゼロ／非ゼロ）に限定される必要はなく、走査順序は、変換係数値およびその位置に基づいて任意に決定されてもよい。また、既に符号化されたブロックからの情報が走査順序の決定に採用されてもよい。先行ブロックからのそのような情報は、そのようなブロックの係数値、そのような先行ブロック用に選ばれた走査、または、そのようなブロックに関連する他の情報であってもよい。
【０１３６】
適応の度合いをさらに増加して、走査を特定のブロック内で適応的に決定してもよい。よって、第（ｉ＋１）番目の係数の走査順序は、既に走査されたｉ個の係数（またはそのサブセット）の値に基づいて決定されてもよい。ここでｉは１以上の整数である。
【０１３７】
本発明の他の実施の形態によると、最初のＮ個の係数は、所定の固定走査で走査され、各係数値がゼロ値であるか、非ゼロ値であるかが決定される。その後、Ｎビット長のバイナリワードが形成される。当該バイナリワード内の位置は走査済み係数の位置に対応し、当該バイナリワードにおいて、ゼロ係数に対応する位置にはゼロがあり、非ゼロ係数の位置には１がある。その後、当該バイナリワードは、次に走査される第（Ｎ＋１）番目の係数の位置決定に用いられる。
【０１３８】
バイナリワードの値と次の走査対象係数の位置との間の割り当ては、エンコーダとデコーダの両方から知られていなければならない。好ましくは、そのような割り当ては、既に符号化されたブロックの係数値に基づき、したがって、画像および／または映像シーケンスの特性に動的に適応できる。このような方法で、画像特性において最適化して、対象ブロックに適応した走査が選択され、その結果、符号化効率が高まる。さらに、追加的な情報を信号で伝える必要がない。または、その割り当ては固定されていてもよいし、エンコーダとデコーダの両方から知られていてもよいし、信号で伝えられてもよい。
【０１３９】
一旦、第（Ｎ＋１）番目の係数のための走査が決定されると、第（Ｎ＋２）番目の走査対象係数の位置もまた、この係数単独の値か、あるいは、先行する係数値との組み合わせに基づいて決定されてもよい。例えば、上述のＮビット長のバイナリワードは、第（Ｎ＋１）番目の係数値がゼロ値であるか、非ゼロ値であるかを判定することで、Ｎ＋１ビット長のバイナリワードに拡張されてもよい。その後、Ｎ＋１ビット長のバイナリワードは、次の走査対象係数の位置決定に用いられる。このようにして、つまり新たに走査された係数値に基づいてバイナリワードを拡張することにより、ブロック全体またはマクロブロックの走査が決定されてもよい。
【０１４０】
次の走査対象係数の位置は、必ずしも既に走査された係数がゼロか非ゼロかの情報に対応するバイナリ値に基づいて決定される必要はない。例えば、係数値、係数の絶対値、係数の２乗値、または、単なる２進数よりも多くの情報を提供する、その他の係数の関数についての検討は、利点があるかも知れない。したがって、次の走査対象係数の走査位置は、既に走査された係数値、または、最後の係数として走査された単一の係数値に基づいて決定されてもよい。
【０１４１】
これらの例は、単に本発明の様々な実施の形態のうち、いくつかの例を示すものに過ぎない。変換係数値に基づいて走査順序を決定する他の方式も利用してもよいことは明らかである。対象ブロック内で走査を適応させることで、走査の柔軟性が高まり、その結果、エッジがあるために左上の角以外に非ゼロ係数値を有するブロックでさえも、簡潔に走査でき、さらにエントロピー符号によって効率よく符号化されうる。
【０１４２】
図１２Ａおよび図１２Ｂは、それぞれ、エンコーダおよびデコーダにおいて適用された本発明の方法に含まれるステップを実行順でまとめたものである。エンコーダにおいて、まずステップＳ１２０１で画像画素ブロックが変換係数に変換される。その後、ステップＳ１２０２で、変換係数の全てまたはいくつかが、走査順序の決定に用いられる。その後、ステップＳ１２０２で決定された走査順序が、ステップＳ１２０３で変換係数の走査に適用される。その後、変換係数の走査済み（直列に並べられた）シーケンスが、ステップＳ１２０４で符号化される。
【０１４３】
デコーダにおいて、変換係数値を持つ符号化されたシンタックス要素は、ステップＳ１２１４で復号され、ステップＳ１２１２で走査順序の決定に用いられる。ステップＳ１２１２で決定された走査順序は、ステップＳ１２１３で変換係数の逆走査に用いられ、その結果、変換係数ブロックを形成する。ステップＳ１２１３で生成された変換係数ブロックは、最後に、ステップＳ１２１１で逆変換され、対象ブロックの画素値が生成される。
【０１４４】
周波数選択符号化は、周波数選択符号化と通常の符号化との切替えと同様に、エンコーダ設定のオプショナルな機能として有効化または無効化されてもよい。例えば、スライス単位、または、マクロブロックかブロックのような、より小さな画素領域単位の、より細かな粒度で、周波数選択符号化を有効化または無効化すると有益かも知れない。本発明による、周波数選択符号化を用いること、および、それを局所的に無効化できることは、例えば、スライスヘッダに示してもよい。そのようなスライスヘッダは、２つのフラグを有してもよい。
【０１４５】
（１）第１の（有効化）フラグは、当該スライスにおいて周波数選択符号化が全く用いられない場合はゼロと等しく、周波数選択符号化が用いられる場合は１と等しい。
【０１４６】
（２）先行するフラグが１と等しい場合にのみ、第２フラグが存在する。第２フラグは、周波数選択符号化が当該スライスのブロック全てに用いられる場合はゼロと等しく、周波数選択符号化が特定のブロックに対し無効であれば１と等しい。
【０１４７】
第２フラグが１と等しい場合、走査の決定に用いられる低周波係数の数が提供されてもよい。しかしながら、低周波係数の数はまた、ブロックサイズに依存して予め定められても、シーケンス全体に対して予め設定されてもよい。さらに、第２フラグが設定されている場合は、エンコーダ側で用いられる閾値が提供されてもよい。これは、エンコーダに、当該スライス内で周波数選択符号化を利用すべき頻度を制御する自由度を与える。
【０１４８】
明示的な信号による伝達は、したがって、ブロックレベルからスライスレベルにシフトされる。シーケンス毎に、または、映像シーケンス内の任意の位置にあるネットワーク抽象化レイヤ内で、一度、信号により伝えられさえすればよい。ブロックレベルでの走査は、例えば最初のＮ個の係数を介して暗示的に伝えられてもよい。よって、Ｈ．２６４／ＡＶＣ符号化アルゴリズムと同じ客観的画質に到達する目的で局所的な適応が実現される一方で、周波数選択符号化の符号化効率が保たれる。
【０１４９】
なお、図４に示された画像符号化装置４０１の決定部４４０、および、画像復号装置４０２の決定部４６０は、それぞれ、変換係数に依存させた走査順序または逆走査順序の決定を有効化または無効化する有効化部を備えてもよい。そして、図１２Ａに示された走査順序決定ステップ（Ｓ１２０２）、および、図１２Ｂに示された逆走査順序決定ステップ（Ｓ１２１２）において、変換係数に依存させた走査順序または逆走査順序の決定を有効化または無効化してもよい。
【０１５０】
上記説明は、最初に送信された係数を用いて、ジグザグスキャンと周波数選択走査との切替えを可能にすることに焦点を置いた。しかしながら、これは単なる例であり、本発明は、周波数選択走査と他の走査との切替えに適用可能である。周波数選択走査および他の走査の最初の低周波係数の順序が維持される限り、上記において説明した本発明は、走査の切替えに用いられてもよい。さらに、最初に走査された係数の順序は、特に知られている必要さえもない。概して、任意に順序づけられているが、最初の位置に限らず、対象ブロックの同じ領域に位置している任意のＮ個の係数に対しても、絶対値の合計といった尺度を算出することができる。例えば、ジグザグスキャンはＤＣ係数から開始し、下の係数へ続けてもよいが（図３Ａ参照）、周波数選択走査は、ＤＣ係数から開始し、右の係数へ続けてもよい（図７参照）。両方の走査において、順番は異なるとしても同じ係数が走査される。曖昧さのない、そして、位置に依存しない逆量子化を実現するため、同じ方法で全ての係数が量子化されるなら、既知の位置内の非ゼロ変換係数の位置とは無関係な、非ゼロ変換係数値に基づくこのような尺度の算出のみが可能である。そのような係数に用いられる量子化パラメータが異なっていれば、例えば、量子化マトリクスが用いられる場合は、それらの係数の位置を知ることなく真の係数値をすぐに復元することはできない。
【０１５１】
図１３は、決定される走査順序の変形例を示す図である。
【０１５２】
ブロック１３０１において、変換係数は、まず、所定の走査順序１３０２により走査される。すなわち、左上の変換係数１３０３が走査され、次に、その下の変換係数１３０４が走査される。次に、その右上の変換係数１３０５が走査される。
【０１５３】
ここで、２番目の変換係数１３０４が、３番目の変換係数１３０５より大きな値を示していれば、垂直方向への走査を優先する走査順序１３０７により、走査が継続されてもよい。一方、２番目の変換係数１３０４と３番目の変換係数１３０５とに大きな差が無ければ、通常のジグザグスキャンによる走査順序１３０６により、走査が継続されてもよい。
【０１５４】
このような走査順序の決定は、水平方向よりも垂直方向に、より大きな値を示す傾向があるフィールド符号化と、そのような傾向がないフレーム符号化とを考慮した場合に、有効である。フィールド符号化には、垂直方向への走査を優先する走査順序１３０７が対応し、フレーム符号化には、通常のジグザグスキャンによる走査順序１３０６が対応する。フィールド符号化およびフレーム符号化における、それぞれの変換係数の特性に基づいて、走査順序を決定することにより、符号化効率は向上する。
【０１５５】
上記において、符号化における走査順序の決定を例に説明したが、復号における逆走査順序についても同様である。
【０１５６】
なお、フィールド符号化方式とフレーム符号化方式との切替えに基づいて、走査が切り替えられてもよいが、変換係数の特性に基づく走査の切替えにより、走査の切替えの精度は、より向上する。
【０１５７】
図１４は、決定される走査順序の別の変形例を示す図である。
【０１５８】
最初に走査された変換係数ｘ１、ｘ２およびｘ３より、その絶対値の合計Ｓを算出する。そして、算出された合計Ｓが閾値より大きい場合、垂直方向への走査を優先する走査順序１３０７により、変換係数が走査される。そして、合計Ｓが閾値より大きくない場合、通常のジグザグスキャンによる走査順序１３０８により、変換係数が走査される。
【０１５９】
このような決定は、動画像に対応するフィールド符号化の変換係数の方が、静止画像に対応するフレーム符号化の変換係数より、比較的大きな値を示す傾向があることに基づく。よって、このような特性に基づいて、走査順序を決定することにより、符号化効率は向上する。
【０１６０】
ここで、フィールド符号化用の走査順序１３０７とジグザグスキャンの走査順序１３０８は、走査順序の決定に必要な最初の３個の変換係数の走査順序が異なる。このように走査順序の決定に必要な変換係数の走査順序が異なる場合であっても、走査順序の決定に必要な変換係数をバッファ等に読み込み、走査順序を決定した後に、読み込まれた変換係数を並び替えてもよい。または、決定された走査順序により、再度、走査してもよい。すなわち、走査順序の決定に必要な変換係数の走査順序は固定されていなくてもよい。
【０１６１】
上記において、符号化における走査順序の決定を例に説明したが、復号における逆走査順序についても同様である。
【０１６２】
図１５は、対象ブロックおよび周辺ブロックを示す概念図である。
【０１６３】
符号化対象ブロック１５０５に対し、左上に位置する周辺ブロック１５０１、上に位置する周辺ブロック１５０２、右上に位置する周辺ブロック１５０３、および、左に位置する周辺ブロック１５０４がある。ここで、左上の周辺ブロック１５０１、上の周辺ブロック１５０２、右上の周辺ブロック１５０３、および、左の周辺ブロック１５０４は、符号化されている。
【０１６４】
この場合、符号化対象ブロック１５０５の変換係数の走査順序は、符号化された周辺ブロックの変換係数、および、符号化対象ブロック１５０５において走査された変換係数１５０６に基づいて決定されてもよい。これにより、符号化対象ブロック１５０５において走査されていない変換係数が、決定された走査順序により走査される。
【０１６５】
例えば、周辺ブロックにおいて、高周波数に非ゼロ係数が多く含まれていれば、符号化対象ブロックにおいても、高周波数に非ゼロ係数が多く含まれている可能性が高い。このような特性に基づいて、走査順序を決定することにより、符号化効率は向上する。
【０１６６】
上記において、符号化における走査順序の決定を例に説明したが、復号における逆走査順序についても同様である。すなわち、復号対象ブロックの変換係数の逆走査順序は、復号された周辺ブロックの変換係数と逆走査された変換係数に基づいて決定されてもよい。
【０１６７】
先に示した例は、２つの走査を切替えることに焦点を当てたが、この技術は、２つ以上の走査の切替えに適用可能である。例えば、２つの異なる対応周波数選択走査が行われる同一スライス内で、２つの異なる周波数選択セグメンテーションパターンが用いられる場合、本発明は３つ以上の走査の切替えに適用可能である。追加の閾値を要してもよい。例えば、評価される各変換係数の値が大きければ大きいほど、周波数選択走査により走査される変換係数の数が多くなるようにしてもよい。
【０１６８】
本発明はまた、予め定められた走査の小さなセットから選択するのではなく、走査を決定するためにも適用できる。切替え対象の走査はまた、ランレングス符号化ではなく、他のタイプのエントロピー符号化に適応してもよい。量子化係数はエンコーダとデコーダの両方から知られているため、量子化が適用されれば、走査順序は、量子化係数に基づいて決定される。しかしながら、必ずしも量子化が適用される必要はない。
【０１６９】
本発明の他の実施の形態は、ハードウェアおよびソフトウェアを用いて、上述の様々な実施の形態を実施することに関係する。本発明の様々な実施の形態は、コンピュータ・デバイス（プロセッサ）を用いて実施または実行されてもよいことが分かる。コンピュータ・デバイスつまりプロセッサは、例えば汎用プロセッサ、デジタル信号プロセッサ（ＤＳＰ：Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）、特定用途向け集積回路（ＡＳＩＣ：Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ：Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、または、他のプログラマブル論理回路等であってもよい。本発明の様々な実施の形態は、これらの装置を組み合わせて実行または具現化されてもよい。
【０１７０】
さらに、本発明の様々な実施の形態は、プロセッサ、または、ハードウェアで直接実行されるソフトウェアモジュールによって実施されてもよい。また、ソフトウェアモジュールを組み合わせたり、ハードウェアに実装したりすることも可能であってもよい。ソフトウェアモジュールは、例えば、ＲＡＭ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ  Ｅｒａｓａｂｌｅ  ａｎｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、フラッシュメモリ、レジスタ、ハードディスク、ＣＤ−ＲＯＭ、ＤＶＤ等、あらゆる種類のコンピュータ読み取り可能な記憶媒体に格納されてもよい。
【０１７１】
上記の例の大部分は、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣに基づく映像符号化方式との関連において概説され、用語は主に、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣの用語に関連する。しかしながら、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣに基づく符号化に関するこの用語および様々な実施の形態の説明は、本発明の原理および概念がそのような方式に限定されることを意図するものではない。また、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格に準拠した符号化および復号の詳細な説明は、ここに説明した例示的な実施の形態のよりよい理解を意図したものであり、映像符号化におけるプロセスおよび機能に関し説明された特定の実施の形態に本発明が限定されると解釈するべきではない。しかしながら、ここに提案した改良は、説明された映像符号化に容易に適用可能である。さらに、本発明の概念もまた、現在ＪＶＴが検討しているＨ．２６４／ＭＰＥＧ−４  ＡＶＣ符号化の強化に容易に適用可能である。
【０１７２】
要約すると、本発明は、同じ画質を維持しつつ、符号化効率の面で映像符号化性能を高めることに関する。よって、符号化対象画像のブロックは、変換係数のブロックに変換される。いくつかの変換係数の値を用いて、２次元の係数ブロックを係数シーケンスとして直列に並べるときに使用される走査が決定される。決定された走査順序に従って、係数が走査され、さらに符号化のため入力される。同様にデコーダは、受信したシンタックス要素のシーケンスを復号した後に、そのシンタックス要素のシーケンスから係数ブロックを形成する目的で、変換係数値を利用して、適用される逆走査の順番を決定する。
【０１７３】
（実施の形態２）
上記実施の形態で示した画像符号化方法または画像復号方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【０１７４】
さらにここで、上記実施の形態で示した画像符号化方法および画像復号方法の応用例とそれを用いたシステムを説明する。
【０１７５】
図１６は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６〜ｅｘ１１０が設置されている。
【０１７６】
このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および、基地局ｅｘ１０６〜ｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。
【０１７７】
しかし、コンテンツ供給システムｅｘ１００は図１６のような構成に限定されず、いずれかの要素を組み合わせて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６〜ｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【０１７８】
カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（Ｇｌｏｂａｌ  Ｓｙｓｔｅｍ  ｆｏｒ  Ｍｏｂｉｌｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、もしくはＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ  Ｓｐｅｅｄ  Ｐａｃｋｅｔ  Ａｃｃｅｓｓ）の携帯電話機、または、ＰＨＳ（Ｐｅｒｓｏｎａｌ  Ｈａｎｄｙｐｈｏｎｅ  Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
【０１７９】
コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記実施の形態で説明したように符号化処理を行い、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号処理して再生する。
【０１８０】
なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【０１８１】
また、これら符号化処理および復号処理は、一般的にコンピュータｅｘ１１１および各機器が有するＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）ｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、画像符号化用および画像復号用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化処理および復号処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
【０１８２】
また、ストリーミングサーバｅｘ１０３は複数のサーバまたは複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【０１８３】
以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号し、再生することができ、特別な権利または設備を有さないユーザでも個人放送を実現できる。
【０１８４】
このコンテンツ供給システムを構成する各機器の符号化、復号には上記実施の形態で示した画像符号化方法あるいは画像復号方法を用いるようにすればよい。
【０１８５】
その一例として携帯電話ｅｘ１１４について説明する。
【０１８６】
図１７は、上記実施の形態で説明した画像符号化方法と画像復号方法を用いた携帯電話ｅｘ１１４を示す図である。携帯電話ｅｘ１１４は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ６０１、ＣＣＤカメラ等の映像、静止画を撮ることが可能なカメラ部ｅｘ６０３、カメラ部ｅｘ６０３で撮影した映像、アンテナｅｘ６０１で受信した映像等が復号されたデータを表示する液晶ディスプレイ等の表示部ｅｘ６０２、操作キーｅｘ６０４群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ｅｘ６０８、音声入力をするためのマイク等の音声入力部ｅｘ６０５、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータまたは復号されたデータを保存するための記録メディアｅｘ６０７、携帯電話ｅｘ１１４に記録メディアｅｘ６０７を装着可能とするためのスロット部ｅｘ６０６を有している。記録メディアｅｘ６０７はＳＤカード等のプラスチックケース内に電気的に書換えおよび消去が可能な不揮発性メモリであるＥＥＰＲＯＭの一種であるフラッシュメモリ素子を格納したものである。
【０１８７】
さらに、携帯電話ｅｘ１１４について図１８を用いて説明する。携帯電話ｅｘ１１４は表示部ｅｘ６０２および操作キーｅｘ６０４を備えた本体部の各部を統括的に制御するようになされた主制御部ｅｘ７１１に対して、電源回路部ｅｘ７１０、操作入力制御部ｅｘ７０４、画像符号化部ｅｘ７１２、カメラインターフェース部ｅｘ７０３、ＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）制御部ｅｘ７０２、画像復号部ｅｘ７０９、多重分離部ｅｘ７０８、記録再生部ｅｘ７０７、変復調回路部ｅｘ７０６および音声処理部ｅｘ７０５が同期バスｅｘ７１３を介して互いに接続されている。
【０１８８】
電源回路部ｅｘ７１０は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付デジタル携帯電話ｅｘ１１４を動作可能な状態に起動する。
【０１８９】
携帯電話ｅｘ１１４は、ＣＰＵ、ＲＯＭおよびＲＡＭ等でなる主制御部ｅｘ７１１の制御に基づいて、音声通話モード時に音声入力部ｅｘ６０５で集音した音声信号を音声処理部ｅｘ７０５によってデジタル音声データに変換し、これを変復調回路部ｅｘ７０６でスペクトラム拡散処理し、送受信回路部ｅｘ７０１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ６０１を介して送信する。また携帯電話ｅｘ１１４は、音声通話モード時にアンテナｅｘ６０１で受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変復調回路部ｅｘ７０６でスペクトラム逆拡散処理し、音声処理部ｅｘ７０５によってアナログ音声データに変換した後、音声出力部ｅｘ６０８を介してこれを出力する。
【０１９０】
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーｅｘ６０４の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ７０４を介して主制御部ｅｘ７１１に送出される。主制御部ｅｘ７１１は、テキストデータを変復調回路部ｅｘ７０６でスペクトラム拡散処理し、送受信回路部ｅｘ７０１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ６０１を介して基地局ｅｘ１１０へ送信する。
【０１９１】
データ通信モード時に画像データを送信する場合、カメラ部ｅｘ６０３で撮像された画像データを、カメラインターフェース部ｅｘ７０３を介して画像符号化部ｅｘ７１２に供給する。また、画像データを送信しない場合には、カメラ部ｅｘ６０３で撮像した画像データをカメラインターフェース部ｅｘ７０３およびＬＣＤ制御部ｅｘ７０２を介して表示部ｅｘ６０２に直接表示することも可能である。
【０１９２】
画像符号化部ｅｘ７１２は、本願発明で説明した画像符号化装置を備えた構成であり、カメラ部ｅｘ６０３から供給された画像データを上記実施の形態で示した画像符号化装置に用いた符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ｅｘ７０８に送出する。また、このとき同時に携帯電話ｅｘ１１４は、カメラ部ｅｘ６０３で撮像中に音声入力部ｅｘ６０５で集音した音声を、音声処理部ｅｘ７０５を介してデジタルの音声データとして多重分離部ｅｘ７０８に送出する。
【０１９３】
多重分離部ｅｘ７０８は、画像符号化部ｅｘ７１２から供給された符号化画像データと音声処理部ｅｘ７０５から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ｅｘ７０６でスペクトラム拡散処理し、送受信回路部ｅｘ７０１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ６０１を介して送信する。
【０１９４】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナｅｘ６０１を介して基地局ｅｘ１１０から受信した受信データを変復調回路部ｅｘ７０６でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ｅｘ７０８に送出する。
【０１９５】
また、アンテナｅｘ６０１を介して受信された多重化データを復号するには、多重分離部ｅｘ７０８は、多重化データを分離することにより画像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ７１３を介して当該符号化画像データを画像復号部ｅｘ７０９に供給すると共に当該音声データを音声処理部ｅｘ７０５に供給する。
【０１９６】
次に、画像復号部ｅｘ７０９は、本願で説明した画像復号装置を備えた構成であり、画像データのビットストリームを上記実施の形態で示した符号化方法に対応した復号方法で復号することにより再生動画像データを生成し、これを、ＬＣＤ制御部ｅｘ７０２を介して表示部ｅｘ６０２に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ｅｘ７０５は、音声データをアナログ音声データに変換した後、これを音声出力部ｅｘ６０８に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
【０１９７】
なお、上記システムの例に限られず、最近は衛星、地上波によるデジタル放送が話題となっており、図１９に示すようにデジタル放送用システムにも上記実施の形態の少なくとも画像符号化装置または画像復号装置を組み込むことができる。具体的には、放送局ｅｘ２０１では音声データ、映像データまたはそれらのデータが多重化されたビットストリームが電波を介して通信または放送衛星ｅｘ２０２に伝送される。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、衛星放送受信設備をもつ家庭のアンテナｅｘ２０４はこの電波を受信し、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７などの装置はビットストリームを復号してこれを再生する。また、記録媒体であるＣＤおよびＤＶＤ等の記録メディアｅｘ２１５、ｅｘ２１６に記録した画像データと、音声データが多重化されたビットストリームを読み取り、復号するリーダ／レコーダｅｘ２１８にも上記実施の形態で示した画像復号装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示される。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に画像復号装置を実装し、これをテレビのモニタｅｘ２１９で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでも良い。また、アンテナｅｘ２０５を有する車ｅｘ２１０で、衛星ｅｘ２０２または基地局等から信号を受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。
【０１９８】
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した音声データ、映像データまたはそれらのデータが多重化された符号化ビットストリームを読み取り復号する、または、記録メディアｅｘ２１５に、音声データ、映像データまたはそれらのデータを符号化し、多重化データとして記録するリーダ／レコーダｅｘ２１８にも上記実施の形態で示した画像復号装置または画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示される。また、符号化ビットストリームが記録された記録メディアｅｘ２１５により、他の装置およびシステム等は、映像信号を再生することができる。例えば、他の再生装置ｅｘ２１２は、符号化ビットストリームがコピーされた記録メディアｅｘ２１４を用いて、モニタｅｘ２１３に映像信号を再生することができる。
【０１９９】
また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に画像復号装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでもよい。
【０２００】
図２０は、上記実施の形態で説明した画像復号方法および画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像情報のビットストリームを取得、または、出力するチューナｅｘ３０１と、受信した符号化データを復調する、または、生成された符号化データを外部に送信するために変調する変調／復調部ｅｘ３０２と、復調した映像データと音声データとを分離する、または、符号化された映像データと音声データとを多重化する多重／分離部ｅｘ３０３を備える。また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号する、または、それぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５を有する信号処理部ｅｘ３０６と、復号された音声信号を出力するスピーカｅｘ３０７、復号された映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインターフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インターフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。
【０２０１】
まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得したデータを復号し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した映像データ、音声データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号し、分離した映像データを映像信号処理部ｅｘ３０５で上記実施の形態で説明した復号方法を用いて復号する。復号した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から符号化された符号化ビットストリームを読み出してもよい。次に、テレビｅｘ３００が音声信号および映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８〜ｅｘ３２１は図示しているように複数備えていてもよいし、一つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２と多重／分離部ｅｘ３０３との間等でもシステムのオーバフローおよびアンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【０２０２】
また、テレビｅｘ３００は、放送および記録メディア等から音声データおよび映像データを取得する以外に、マイクおよびカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は、上記の符号化処理、多重化、および、外部出力ができる構成として説明したが、これらのすべての処理を行うことはできず、上記受信、復号処理、および、外部出力のうちいずれかのみが可能な構成であってもよい。
【０２０３】
また、リーダ／レコーダｅｘ２１８で記録メディアから符号化ビットストリームを読み出す、または、書き込む場合には、上記復号処理または符号化処理はテレビｅｘ３００およびリーダ／レコーダｅｘ２１８のうちいずれかで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８とが互いに分担して行ってもよい。
【０２０４】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図２１に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１〜ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しおよび書き込みの処理は、システム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成および追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３およびサーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は、例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【０２０５】
以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【０２０６】
図２２に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、あらかじめグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録および再生を行う装置は、情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３の内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した符号化データの読み書きを行う。
【０２０７】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりするなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【０２０８】
また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図２０に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１および携帯電話ｅｘ１１４等でも考えられる。また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器および復号器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号器のみの受信端末という３通りの実装形式が考えられる。
【０２０９】
このように、上記実施の形態で示した画像符号化方法あるいは画像復号方法を上述したいずれの機器およびシステムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
【０２１０】
また、本発明は、上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【０２１１】
（実施の形態３）
上記各実施の形態で示した画像符号化方法および装置、画像復号方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図２３に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１〜ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【０２１２】
例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３およびストリームコントローラｅｘ５０４等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ  Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７およびカメラｅｘ１１３等からＡＶ信号の入力を受け付ける。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ、信号処理部ｅｘ５０７に送られる。信号処理部ｅｘ５０７は、音声信号の符号化および／または映像信号の符号化を行う。ここで映像信号の符号化処理は、上記実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力されたビットストリームは、基地局ｅｘ１０７に向けて送信されたり、または、記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。
【０２１３】
また、例えば復号処理を行う場合には、ＬＳＩｅｘ５００は、制御部ｅｘ５０１の制御に基づいて、ストリームＩ／Ｏｅｘ５０６によって基地局ｅｘ１０７を介して得た符号化データ、または、記録メディアｅｘ２１５から読み出して得た符号化データを一旦メモリｅｘ５１１等に蓄積する。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られる。信号処理部ｅｘ５０７は、音声データの復号および／または映像データの復号を行う。ここで映像信号の復号処理は、上記実施の形態で説明した復号処理である。さらに、場合により復号された音声信号と復号された映像信号を同期して再生できるようそれぞれの信号を一旦バッファｅｘ５０８等に蓄積するとよい。復号された出力信号は、メモリｅｘ５１１等を適宜介しながら、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５およびテレビｅｘ３００等の各出力部から出力される。
【０２１４】
なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファｅｘ５０８も一つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。
【０２１５】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０２１６】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ、または、ＬＳＩ内部の回路セルの接続および設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０２１７】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【０２１８】
以上、本発明に係る画像符号化方法、画像符号化装置、画像復号方法および画像復号装置について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を当該実施の形態に施した形態、および、異なる実施の形態における構成要素およびステップ等を組み合わせて構築される別の形態も、本発明の範囲内に含まれる。
【産業上の利用可能性】
【０２１９】
本発明は、画像符号化装置または画像復号装置として、例えば、画像の記録装置および再生装置等に利用することができる。
【符号の説明】
【０２２０】
１００、４０１  画像符号化装置
１０５  減算器
１１０、５１０  変換／量子化部
１２０、２２０  逆量子化／逆変換部
１２５、２２５  加算器
１３０、２３０  デブロッキングフィルタ
１４０、２４０、ｅｘ５１１  メモリ
１５０、２６０  フレーム内予測部
１６０、２７０  動き補償予測部
１７０  動き検出部
１８０、２８０  イントラ／インター切替え器
１９０、５９０  エントロピー符号化部
２００、４０２  画像復号装置
２９０  エントロピー復号部
３００、５０１、５０２、７０１、７０２、８１０、１０００、１１００、１１１０、１１２０、１３０１  ブロック
３０１、４１１、４２１、４７１、４８１、１３０３、１３０４、１３０５、１５０６  変換係数
９１２、１０１０  ジグザグスキャン
３５０ａ、３５０ｂ、６０５、１３０２、１３０６、１３０７、１３０８  走査順序
４０９、４９９  画素
４１０、４９０  変換部
４２０  走査部
４３０  エンコーダ
４３１、４５１  画像データ
４４０、４６０  決定部
４５０  媒体
４７０  デコーダ
４８０  ブロック形成部
５５０  周波数選択エンコーダ
８１１、８２１、１０１１、１０２１  ストリーム
８２０、９２０  周波数選択符号化ブロック
９１０  非周波数選択符号化ブロック
９２２、１０２０  周波数選択走査
１０３０  走査
１１０１  レベル
１５０１、１５０２、１５０３、１５０４  周辺ブロック
１５０５  符号化対象ブロック
ｅｘ１００  コンテンツ供給システム
ｅｘ１０１  インターネット
ｅｘ１０２  インターネットサービスプロバイダ
ｅｘ１０３  ストリーミングサーバ
ｅｘ１０４  電話網
ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０  基地局
ｅｘ１１１  コンピュータ
ｅｘ１１２  ＰＤＡ
ｅｘ１１３、ｅｘ１１６  カメラ
ｅｘ１１４  カメラ付デジタル携帯電話（携帯電話）
ｅｘ１１５  ゲーム機
ｅｘ１１７  マイク
ｅｘ２００  デジタル放送用システム
ｅｘ２０１  放送局
ｅｘ２０２  放送衛星（衛星）
ｅｘ２０３  ケーブル
ｅｘ２０４、ｅｘ２０５、ｅｘ６０１  アンテナ
ｅｘ２１０  車
ｅｘ２１１  カーナビゲーション（カーナビ）
ｅｘ２１２  再生装置
ｅｘ２１３、ｅｘ２１９  モニタ
ｅｘ２１４、ｅｘ２１５、ｅｘ２１６、ｅｘ６０７  記録メディア
ｅｘ２１７  セットトップボックス（ＳＴＢ）
ｅｘ２１８  リーダ／レコーダ
ｅｘ２２０  リモートコントローラ
ｅｘ２３０  情報トラック
ｅｘ２３１  記録ブロック
ｅｘ２３２  内周領域
ｅｘ２３３  データ記録領域
ｅｘ２３４  外周領域
ｅｘ３００  テレビ
ｅｘ３０１  チューナ
ｅｘ３０２  変調／復調部
ｅｘ３０３  多重／分離部
ｅｘ３０４  音声信号処理部
ｅｘ３０５  映像信号処理部
ｅｘ３０６、ｅｘ５０７  信号処理部
ｅｘ３０７  スピーカ
ｅｘ３０８、ｅｘ６０２  表示部
ｅｘ３０９  出力部
ｅｘ３１０、ｅｘ５０１  制御部
ｅｘ３１１、ｅｘ５０５、ｅｘ７１０  電源回路部
ｅｘ３１２  操作入力部
ｅｘ３１３  ブリッジ
ｅｘ３１４、ｅｘ６０６  スロット部
ｅｘ３１５  ドライバ
ｅｘ３１６  モデム
ｅｘ３１７  インターフェース部
ｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１、ｅｘ４０４、ｅｘ５０８  バッファ
ｅｘ４００  情報再生／記録部
ｅｘ４０１  光ヘッド
ｅｘ４０２  変調記録部
ｅｘ４０３  再生復調部
ｅｘ４０５  ディスクモータ
ｅｘ４０６  サーボ制御部
ｅｘ４０７  システム制御部
ｅｘ５００  ＬＳＩ
ｅｘ５０２  ＣＰＵ
ｅｘ５０３  メモリコントローラ
ｅｘ５０４  ストリームコントローラ
ｅｘ５０６  ストリームＩ／Ｏ
ｅｘ５０９  ＡＶ  Ｉ／Ｏ
ｅｘ５１０  バス
ｅｘ６０３  カメラ部
ｅｘ６０４  操作キー
ｅｘ６０５  音声入力部
ｅｘ６０８  音声出力部
ｅｘ７０１  送受信回路部
ｅｘ７０２  ＬＣＤ制御部
ｅｘ７０３  カメラインターフェース部（カメラＩ／Ｆ部）
ｅｘ７０４  操作入力制御部
ｅｘ７０５  音声処理部
ｅｘ７０６  変復調回路部
ｅｘ７０７  記録再生部
ｅｘ７０８  多重分離部
ｅｘ７０９  画像復号部
ｅｘ７１１  主制御部
ｅｘ７１２  画像符号化部
ｅｘ７１３  同期バス
【図１】
2010050156.tif 000003
【図２】
2010050156.tif 000004
【図３Ａ】
2010050156.tif 000005
【図３Ｂ】
2010050156.tif 000006
【図４】
2010050156.tif 000007
【図５】
2010050156.tif 000008
【図６】
2010050156.tif 000009
【図７】
2010050156.tif 000010
【図８】
2010050156.tif 000011
【図９】
2010050156.tif 000012
【図１０】
2010050156.tif 000013
【図１１】
2010050156.tif 000014
【図１２Ａ】
2010050156.tif 000015
【図１２Ｂ】
2010050156.tif 000016
【図１３】
2010050156.tif 000017
【図１４】
2010050156.tif 000018
【図１５】
2010050156.tif 000019
【図１６】
2010050156.tif 000020
【図１７】
2010050156.tif 000021
【図１８】
2010050156.tif 000022
【図１９】
2010050156.tif 000023
【図２０】
2010050156.tif 000024
【図２１】
2010050156.tif 000025
【図２２】
2010050156.tif 000026
【図２３】
2010050156.tif 000027
【手続補正書】
【提出日】平成23年4月6日(2011.4.6)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、映像データの圧縮に関し、特に、より高い符号化効率で映像データを圧縮および伸張することに関する。
【背景技術】
【０００２】
現在、標準的な映像符号化アルゴリズムの多くはハイブリッド映像符号化に基づくものである。典型的には、ハイブリッド映像符号化方法は、所望の圧縮成果を達成するために、それぞれ異なる、損失のない圧縮方式と損失のある圧縮方式とを組み合わせたものである。ハイブリッド映像符号化は、ＩＳＯ／ＩＥＣ標準規格（ＭＰＥＧ−１、ＭＰＥＧ−２、ＭＰＥＧ−４のようなＭＰＥＧ−Ｘ標準規格）と同様に、ＩＴＵ−Ｔ標準規格（Ｈ．２６１、Ｈ．２６３のようなＨ．２６ｘ標準規格）の基礎でもある。最新の映像符号化標準規格は、Ｈ．２６４／ＭＰＥＧ−４  Ａｄｖａｎｃｅｄ  Ｖｉｄｅｏ  Ｃｏｄｉｎｇ（ＡＶＣ）と称されるものであり、これは、ＩＴＵ−ＴとＩＳＯ／ＩＥＣ  ＭＰＥＧグループとの合同チームであるジョイントビデオチーム（ＪＶＴ）による標準化活動の成果である。
【０００３】
エンコーダへ入力される映像信号は、フレームと呼ばれる画像のシーケンスであり、各フレームは２次元に配列された画素からなる。ハイブリッド映像符号化に基づく上述の標準規格の全てにおいて、個々の映像フレームは、複数の画素からなる小ブロックへ細分化される。典型的には、マクロブロック（通常は１６×１６画素ブロックを意味する）が基本的な画像要素であり、これに対して符号化がおこなわれる。しかしながら、より小さい画像要素に対して、さまざまな特定の符号化ステップがおこなわれる場合があり、例として、８×８、４×４、１６×８などのサイズを有するブロック、または、サブブロックがある。
【０００４】
典型的には、ハイブリッド映像符号化における符号化ステップには、空間的および／または時間的予測が含まれる。したがって、まず、各符号化対象ブロックは、既に符号化された映像フレームから空間的に隣接したブロック、または、時間的に隣接したブロックを用いて予測される。予測残差とも呼ばれる、符号化対象ブロックと予測結果との差分ブロックが、次に求められる。続いて、符号化ステップでは、残差ブロックが空間（画素）領域から周波数領域へ変換される。変換の目的は、入力ブロックの相関を低減することである。その変換の結果、変換部に入力された残差ブロックと同じサイズの、変換係数と呼ばれる値のブロックが得られる。次の符号化ステップにおいて、変換係数が量子化される。このステップにおいて、実質的に損失のある（不可逆的な）圧縮がおこなわれる。
【０００５】
量子化の後、予め定められた順番で係数が走査され、それにより１次元シーケンスが形成される。通常、圧縮された変換係数の値は、エントロピー符号化によって（損失を生じさせずに）さらに圧縮される。符号化された映像信号を再構築するために必要な補助情報がさらに符号化され、符号化された予測誤差信号とともに提供される。この情報は、例えば、空間的および／または時間的予測、および、量子化の量に関するものである。
【０００６】
なお、走査により２次元配列の変換係数から１次元配列の変換係数列が生成されるため、走査とは、２次元配列の変換係数から１次元配列の変換係数列を生成することとも言える。そして、走査順序とは、２次元配列の変換係数から１次元配列の変換係数列を生成するときの順序のことであり、２次元配列の変換係数を走査する順序のことである。つまり、走査順序とは、２次元配列の変換係数についての順序のことである。
【０００７】
また、逆走査とは、走査の逆の処理のことである。すなわち、逆走査とは、１次元配列の変換係数列から２次元配列の変換係数を生成することとも言える。そして、逆走査順序とは、１次元配列の変換係数列から２次元配列の変換係数を生成するときの順序のことであり、走査順序と同様に、２次元配列の変換係数についての順序のことである。
【０００８】
図１は、Ｈ．２６４／ＡＶＣ標準規格に準拠した、典型的な画像符号化装置１００の一例を示す。Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格（これを本願に引用して援用する）は、上述の符号化ステップの全てを組み合わせたものである。減算器１０５は、まず、映像（入力信号）の対象ブロック（符号化対象ブロック）と、対応する予測ブロック（予測信号）との差分を特定する。時間的に予測されるブロックは、メモリ１４０に格納されている、既に符号化された画像を用いて演算される。空間的に予測されるブロックは、符号化されてメモリ１４０に格納された隣接ブロック内の境界画素の画素値から補間される。よって、メモリ１４０は、対象の信号値と過去の信号値から生成された予測信号との比較を可能にする遅延部として動作する。メモリ１４０は、複数の符号化映像フレームを格納可能である。入力信号と予測信号との差分は、予測誤差または残差と称され、次に、変換／量子化部１１０により、変換され量子化される。量子化係数を走査した後、損失のない方法でデータ量をさらに削減するために、エントロピー符号化部１９０が適用される。
【０００９】
画像符号化装置１００内に、復号映像信号を生成する復号部が備えられる。符号化ステップに準拠して、復号ステップには逆量子化／逆変換部１２０が含まれる。復号予測誤差信号は、量子化ノイズとも呼ばれる量子化誤差が原因で、元の予測誤差信号とは異なる。加算器１２５が復号予測誤差信号を予測信号に加算することにより、再構築信号が生成される。エンコーダ側とデコーダ側の互換性を保つために、符号化された後に復号された映像信号に基づいて、双方に知られる予測信号を求める。量子化によって、量子化ノイズが再構築映像信号に重畳される。ブロック単位での符号化により、重畳されたノイズはしばしば、ブロッキング特性を有し、特に強い量子化がおこなわれた場合は、復号画像のブロック境界が目立つ結果になる。ブロッキングアーチファクトは、人間の視覚的認識上マイナスの効果がある。アーチファクトを削減するために、再構築された画像ブロック毎にデブロッキングフィルタ１３０が適用される。デブロッキングフィルタは、予測信号と復号予測誤差信号との加算結果である再構築信号に適用される。デブロッキング後の映像信号は、通常は（ポストフィルタリングが適用されなければ）デコーダ側で表示される復号信号である。Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣにおけるデブロッキングフィルタは、局所的に適用可能なものである。ブロッキングノイズの程度が高い場合は、強い（帯域幅が狭い）ローパスフィルタが適用され、ブロッキングノイズの程度が低い場合は、弱い（帯域幅が広い）ローパスフィルタが適用される。デブロッキングフィルタは、通常、ブロックのエッジを平滑化して復号画像の主観的画質を改善する。さらに、画像内のフィルタリング済みの部分が次の画像の動き補償予測に用いられるため、フィルタリングによって予測誤差が削減され、符号化効率を改善することができる。復号信号は、次にメモリ１４０に格納される。
【００１０】
Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣにおける予測信号は、時間的予測か空間的予測によって取得される。予測タイプは、マクロブロック単位で異ならせることができる。時間的予測で予測されたマクロブロックは、インター符号化マクロブロックと呼ばれ、空間的予測で予測されたマクロブロックは、イントラ符号化マクロブロックと呼ばれる。ここで、「インター」という用語は、インターピクチャ予測、つまり先行フレームか後続フレームから得られた情報を用いる予測に関する。「イントラ」という用語は、空間的予測、つまり対象映像フレーム内で既に符号化された情報のみを用いる予測に関する。可能な限り高い圧縮成果を達成するために、映像フレームの予測タイプは、ユーザが設定することもでき、映像エンコーダに選択させることもできる。選択された予測タイプにしたがって、イントラ／インター切替え器１８０は、対応する予測信号を減算器１０５へ提供する。
【００１１】
イントラ符号化画像（Ｉタイプ画像またはＩフレームとも呼ばれる）は、イントラ符号化されたマクロブロックのみからなる。つまり、イントラ符号化画像は、他の復号画像を参照することなく復号可能である。イントラ符号化画像は、符号化映像シーケンスに対しエラー耐性を与える。なぜなら、時間的予測によって映像シーケンス内でフレームからフレームへ伝播する可能性があるエラーを取り除く（リフレッシュする）からである。さらに、Ｉフレームは、符号化映像シーケンス内でランダムアクセスを可能にする。
【００１２】
イントラフレーム予測では、基本的に既に符号化された隣接ブロックの境界に位置する画素を用いて対象ブロックを予測する、定義済みのイントラ予測モードの組を用いる。空間的予測タイプの違いは、エッジの方向、つまり適用された２次元補間の方向の違いを表す。画像符号化装置１００では、フレーム内予測部１５０が、イントラフレーム予測を行う。補間によって得られた予測信号は、次に、上述の減算器１０５によって、入力信号から減算される。また、空間的予測タイプ情報は、エントロピー符号化され、符号化予測誤差信号とともに信号送信される。
【００１３】
インター符号化画像を復号するには、符号化された後に復号された画像が必要である。時間的予測は、単一方向つまり符号化対象フレームより早い順序の映像フレームのみを用いておこなってもよく、後続映像フレームも用いておこなってもよい。単一方向の時間的予測をおこなえば、Ｐフレームと呼ばれるインター符号化画像が得られ、双方向の時間的予測をおこなえば、Ｂフレームと呼ばれるインター符号化画像が得られる。一般的に、インター符号化画像は、ＰタイプマクロブロックとＢタイプマクロブロックとＩタイプマクロブロックとのいずれかから構成される。インター符号化マクロブロック（ＰまたはＢマクロブロック）は、動き補償予測を採用して、動き補償予測部１６０により予測される。まず、動き検出部１７０によって、符号化された後に復号された映像フレーム内で、対象ブロックに最適なブロックが検出される。この最適ブロックは予測信号となり、対象ブロックと最適ブロックとの間の相対的なずれ（動き）が、符号化予測誤差信号とともに提供される補助情報に含まれる２次元の動きベクトルの形式で、動きデータとして信号送信される。予測精度を最適化するため、１／２画素解像度または１／４画素解像度などの小数画素解像度で動きベクトルを特定してもよい。小数画素解像度の動きベクトルは、復号フレーム内の、小数画素位置のように実存する画素値がない位置を指してもよい。
【００１４】
イントラ符号化モードおよびインター符号化モードにおいて、変換／量子化部１１０によって、対象入力信号と予測信号間の差分が変換され量子化されて、量子化変換係数が得られる。一般的に、自然界の映像の相関を効率的に低減するため、２次元の離散コサイン変換（ＤＣＴ）またはその整数版のような直交変換が採用される。通常、低周波数成分は高周波成分よりも画質にとって重要であるため、高周波数よりも低周波数に多くのビットが費やされるように変換される。係数は一般に量子化される。量子化で起こりうる表現値は符号化され、受信側に送信される。この目的のために、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣでは、均一に割り当てられた表現値の間隔を表す、いわゆる量子化パラメータ（ＱＰ）が符号化され、送信される。量子化の表現値についての情報と共に、たいてい、量子化係数は、いわゆるレベルによって符号化され、各レベルが、一意的に１つの表現値に対応する。量子化後、２次元配列の量子化係数が１次元配列に変換されてエントロピー符号化部１９０に送信される。典型的には、いわゆるジグザグスキャンによって変換される。ジグザグスキャンにおいては、２次元配列の左上隅から右下隅まで所定の順序で走査される。典型的には、低周波数に相当する画像の左上部分にエネルギーは集中するため、ジグザグスキャンをおこなうと、最後のほうでゼロ値が続く配列になる。これにより、例えば、実際のエントロピー符号化の一部として、または、それ以前の段階で、ランレングス符号を用いた効率的な符号化をおこなうことが可能になる。一般に、ランレングス符号という用語は、単一の記号ではなく連続した記号を符号化するあらゆる符号を意味する。ここで、ランとは同じ値の記号の数を表す。量子化係数をエントロピー符号化するコンテキストにおいて、量子化係数またはゼロ値のレベルは、ランで表されることがよくある。ランは、また、たいてい、ゼロでない値をもつ後続の量子化係数の値またはレベルと共に符号化される。
【００１５】
例えば、量子化係数のレベルのシーケンスは、下記のように表すことができる。
【００１６】
3 2 0 0 0 0 1 0 2 0 0 0 1 1 0 0 0 0 4 0 … 0
【００１７】
上記のシーケンスは、次の（ラン、レベル）の組によって表すことができる。
【００１８】
(0, 3)(0, 2)(4, 1)(1, 2)(3, 1)(0, 1)(4, 4)(EOB)
【００１９】
ここで、ブロック終結（ＥＯＢ）記号は、符号化中の対象画像ブロックの量子化係数の残り全てがゼロであることを示す。ブロック毎の係数の数は知られている（と見なされる）ため、そのようなランレングス符号化シーケンスは、一意的に復号できる。（ラン、レベル）の組はまた、一つの符号語または２つの別々の符号語として、例えばハフマン符号または算術符号の符号語によって、さらに符号化されてもよい。
【００２０】
よって、ランレングス符号化の他のバリエーションが、画像および映像符号化において用いられてもよい。例えば、（ラン、レベル）の組または（レベル、ラン）の組は、「レベル」の大きさで係数のランを定義してもよい。そのような符号化において、上記例のシーケンスは下記の組のシーケンスに符号化されるであろう。
【００２１】
(3,1)(2,1)(0,4)(1,1)(0,1)(2,1)(0,3)(1,2)(0,4)(4,1)(0,EOB)
【００２２】
そのような符号化は、値が異なる係数について、より長いランが予測される場合に有益である。一般に、係数の符号は、別々に符号化されてもよく、また、レベルは符号付きの値であってもよい。
【００２３】
上述のようなランレングス符号化は、今までのところ、いくつかの画像および映像符号化規格におけるエントロピー符号化の一部として用いられてきた。しかしながら、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格は、異なるシンタックス要素に用いられる様々な可変長符号化形式を備える、より洗練された符号化を採用している。特に、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣは、エントロピー符号化方法の２つの選択肢を指定している。１つはＣＡＶＬＣとして知られる、コンテキストに応じて切替えられる可変長符号のセットに基づく複雑度の低い技術である。もう１つは、より高度な演算を必要とするコンテキスト適応型２値符号化（ＣＡＢＡＣ）のアルゴリズムである。後者の効率は、ＣＡＶＬＣの効率よりも、特により大きい符号化対象ブロックに関して高い。両方法ともコンテキスト適応型である。つまり入力データの統計は不定であるとみなし、それにしたがって符号化を適応させる。
【００２４】
ＣＡＶＬＣには、全てのＨ．２６４／ＭＰＥＧ−４  ＡＶＣプロファイルが対応している。ＣＡＶＬＣは、変換係数以外のシンタックス要素に適用される指数ゴロム整数可変長符号のセットを備える。ブロックの走査済み量子化変換係数は、通常、有意係数、つまり非ゼロ係数をほんの僅かしか有しない。またここで、トレイリングワンズと呼ばれる、１に等しい大きさを示す係数レベルが、走査の最後に多く発生する。したがって、前提として、まず非ゼロ係数の数およびトレイリングワンズの数が、組み合わされた符号語を用いて送信される。ここで、４個の可変長符号化（ＶＬＣ）テーブルのうち１つが、近隣ブロックの有意のレベルの数に基づいて使用される。その後、第２ステップにおいて、有意係数の符号およびレベル値は、係数のリストを逆の順序で走査することにより符号化される。そうすることにより、各個別レベル値を符号化するための可変長符号化が、６個の可変長符号化テーブルから選択され、既に符号化されたレベルに基づいて適応される。最後に、各ブロックにおける、最後の非ゼロのレベルの前にあるゼロの総数を送信することにより、さらに、各有意のレベルにおける対応するラン、つまり先行して連続するゼロの数を送信することにより、ゼロ量子化係数が信号で伝えられる。各符号化段階で可能性のあるゼロの最大数を監視することにより、各ラン値の符号化に適した可変長符号が選択される。合わせて３２個の異なるＶＬＣがＣＡＶＬＣエントロピー符号化モードで用いられるが、これらのＶＬＣのうちいくつかは、符号表の記録に頼ることなく、オンラインで符号語を算出することができるように構成されている。
【００２５】
ＣＡＢＡＣの設計は、バイナリ（２値）化、コンテキストモデル化、および、２値算術符号化という主要な要素に基づく。バイナリ化により、バイナリでないシンタックス要素からビットシーケンス、いわゆるバイナリストリングへの固有のマッピングを通して、効率的な２値算術符号化が可能になる。このバイナリストリングの各要素は、通常の符号化モードまたはバイパスモードの何れかで処理できる。単なる符号化エンジンのバイパス手段によって全体の符号化（および復号）処理をスピードアップするために、符号情報または下位の有意なバイナリ等、選ばれたバイナリについて、後者が選択される。通常の符号化モードは、バイナリをコンテキストモデル化した後に算術符号化してもよいという、実際の符号化における利点をもたらす。設計上の決定として、主にシンタックス要素が最もありそうなバイナリにのみが、既に符号化されたバイナリを使用するコンテキストモデルに供給される。さらに、通常の符号化されたバイナリは全て、そのバイナリの実際の確率分布を評価することで利用される。確率の評価および実際の２値算術符号化は、ハードウェアおよびソフトウェアにおいて効率的に実施できるように、乗算のない方法を用いて行われる。
【００２６】
上記３つのランレングス符号化の例において、「レベル」という用語は異なる意味を有した。レベルという語は通常、符号付きまたは符号無しの量子化変換係数値（量子化レベル）を示すために使用される。よって、「レベル」という用語は、通例、ゼロ値の係数を指してもよい。
【００２７】
図２は、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ映像符号化標準規格に準拠した例示的な画像復号装置２００を説明する図である。符号化映像信号（画像復号装置２００への入力信号）は、まずエントロピー復号部２９０へ送信され、エントロピー復号部２９０は、量子化係数、そして、動きデータおよび予測タイプなどの復号に必要な他の情報要素を復号する。量子化係数は、逆走査されて２次元配列となり、逆量子化／逆変換部２２０へ送信される。逆量子化／逆変換部２２０による逆量子化および逆変換の後、復号（量子化）予測誤差信号が得られる。これは、画像符号化装置へ入力された信号から予測信号を減算して得られた差分に相当する。予測信号は、時間的予測をする動き補償予測部２７０または空間的予測をするフレーム内予測部２６０からそれぞれ得られ、画像符号化装置で適用された予測を伝送する情報要素を受信して、イントラ／インター切替え器２８０により切替えられる。復号された情報要素は、さらに、イントラ予測の場合には、予測タイプなどの予測に必要な情報を含み、動き補償予測の場合には、動きデータなどの予測に必要な情報を含む。
【００２８】
空間領域における量子化された予測誤差信号は、その後、加算器２２５により、動き補償予測部２７０またはフレーム内予測部２６０の何れかから生成された予測信号に加算される。再構築画像は、デブロッキングフィルタ２３０を介して送られてもよく、その結果得られる復号信号は、メモリ２４０に格納され、後続ブロックの時間的または空間的予測に使用される。
【００２９】
今日の画像および映像符号化規格の多くに採用されている変換は、元の画像画素、または、その予測誤差信号の画像画素を、周波数領域と略称される空間周波数の領域に変換するものである。この変換の目的は、入力画像内の情報を圧縮するために入力画像を無相関化し、より効率的な符号化を可能にすることである。ＫＬ（Ｋａｒｈｕｎｅｎ−Ｌｏｅｖｅ）変換のような無相関化変換には、入力信号の二次統計の知識が必要である。しかしながら、自然画像の統計は、画像毎に異なるばかりでなく、同一ピクチャ内の画像領域においても異なる可能性がある。よって、統計を評価することで、符号化の複雑度が増し、変換パラメータを信号で伝える必要が生じるであろう。したがって、最近の画像および符号化規格の多くは、ほとんどの画像に理想的な（無相関化）変換に近い能力を備える、ＤＣＴまたはその整数バージョンのような固定変換を採用している。
【００３０】
予測誤差信号の変換では、通常、自然画像に対し、より低い周波、つまり、画像のより滑らかな部分に対応する変換ブロックの左上部分にエネルギーを集中させる。一般に、高周波は、より低い周波よりも人間の視覚にとって重要度が低い。より高い周波は、インパルスノイズのような急激に変化する内容に対応する。より高い値の変換係数は、通常、変換画像の左上に集中し、残りの部分はゼロか、または、より低い値の小さなグループかである。したがって、直列に符号化する前に２次元ブロックから行毎に変換係数を読み出す代わりに、ＭＰＥＧ−ＸおよびＨ．２６Ｘのような映像符号化規格のほとんどにおいて、ジグザグスキャンが成功裏に活用されている。
【００３１】
図３Ａおよび図３Ｂは、８×８画素のブロック３００に適用されたジグザグスキャンの２つの例を示す。左上の変換係数３０１は、周波数変換後の直流成分に対応し、ＤＣ係数と呼ばれることもある。ＤＣ係数と呼ばれる変換係数３０１から開始し、他の変換係数は走査順序３５０ａまたは３５０ｂによって示される順序で走査される。よって、通常の、比較的滑らかな自然画像ブロックでは、非ゼロ係数の大部分が最初にあり、ゼロのシーケンスで終わる係数シーケンスが得られる。そのようなシーケンスは、例えば上述のランレングス符号化によって効率よくさらに圧縮できる。
【００３２】
なお、走査順序を適応的に変更する方法としては、特許文献１に記載された方法がある。
【先行技術文献】
【特許文献】
【００３３】
【特許文献１】欧州特許出願公開第１６７９９０３号明細書
【発明の概要】
【発明が解決しようとする課題】
【００３４】
しかしながら、画像ブロックの滑らかさに関する想定は、通例、必ずしも満たされない。特に、鋭いエッジまたはテキスチャを有する画像ブロックに関し、変換画像ブロック内の変換係数値の分配は、実質的に異なっていてもよい。そのようなブロックにおいて、非ゼロ値のグループまたは単一の非ゼロ値は、より高い周波数領域に発生してもよい。より高い周波数領域に分配された非ゼロ係数値を有するブロックをジグザグスキャンした後、その結果得られた係数シーケンスではゼロランが短くなり、今度はランレングス符号化の効率を低下させることにつながる。その代わりに、他の操作方法を、より高い周波数を有するブロックに適用することもできるであろう。しかしながら、採用された走査順序を信号により伝達することで、やはり画像または映像の符号化圧縮効率を低下させる。
【００３５】
また、特許文献１に記載の方法は、統計情報に基づいて走査順序を変更する。すなわち、周辺ブロックにより、対象ブロックの走査順序が決定される。このような方法は、対象ブロックが周辺ブロックとは異なる特性を有するときに、誤った走査順序に決定される場合がある。このような場合、符号化による高い圧縮効果は得られない。
【００３６】
そこで、本発明は、同じ画質かつ高いデータ圧縮率で、映像データを圧縮および伸張する方法と、対応する画像符号化装置および画像復号装置を提供することを目的とする。
【課題を解決するための手段】
【００３７】
上記の目的は、独立クレームに定義された特徴によって達成される。
【００３８】
好ましい実施の形態は、従属クレームの主題である。
【００３９】
すなわち、上記課題を解決するために、本発明による画像符号化方法は、ブロック単位に画像を符号化する画像符号化方法であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換ステップと、前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定ステップと、前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査ステップと、前記１次元配列の変換係数列を符号化する符号化ステップとを含む。
【００４０】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像が符号化される。
【００４１】
また、前記走査順序決定ステップでは、前記走査順序決定ステップで決定されるいずれの走査順序においても同じ走査順序で走査される最初の１個以上の変換係数に依存させて、前記走査順序を決定してもよい。
【００４２】
これにより、最初の変換係数に基づいて、適応的に残りの走査順序が決定される。
【００４３】
また、前記走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記走査順序を決定してもよい。
【００４４】
これにより、画像の特性に応じて、適応的に走査順序が決定される。
【００４５】
また、前記走査順序決定ステップでは、前記２次元配列の変換係数、および、既に符号化されたブロックの変換係数に依存させて、前記走査順序を決定してもよい。
【００４６】
これにより、周辺ブロックの傾向を考慮して、適応的に走査順序が決定される。
【００４７】
また、前記走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみを走査する周波数選択走査による走査順序を含む、予め定められた複数の走査順序から走査順序を選択することにより、前記走査順序を決定してもよい。
【００４８】
これにより、所定の複数の走査順序から、適応的に走査順序が決定される。
【００４９】
また、前記走査順序決定ステップでは、前記２次元配列の変換係数から得られる値と、予め定められた閾値とを比較することにより、前記走査順序を決定してもよい。
【００５０】
これにより、所定の閾値に基づいて、適応的に走査順序が決定される。
【００５１】
また、前記画像符号化方法は、さらに、前記走査順序決定ステップによる走査順序の決定を有効化し、かつ、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号を画像復号装置に送信する有効化ステップを含んでもよい。
【００５２】
これにより、適応的に走査順序または逆走査順序を決定するか否かについて、符号化側と復号側とで一致させることができる。
【００５３】
また、本発明による画像復号方法は、ブロック単位に画像を復号する方法であって、復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号する復号ステップと、復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する逆走査順序決定ステップと、前記逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成する逆走査ステップと、前記２次元配列の変換係数を２次元配列の画素値に逆変換する逆変換ステップとを含む画像復号方法でもよい。
【００５４】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像が復号される。
【００５５】
また、前記逆走査順序決定ステップでは、前記逆走査順序決定ステップで決定されるいずれの逆走査順序においても同じ逆走査順序で逆走査される最初の１個以上の変換係数に依存させて、前記逆走査順序を決定してもよい。
【００５６】
これにより、最初の変換係数に基づいて、適応的に残りの逆走査順序が決定される。
【００５７】
また、前記逆走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記逆走査順序を決定してもよい。
【００５８】
これにより、画像の特性に応じて、適応的に逆走査順序が決定される。
【００５９】
また、前記逆走査順序決定ステップでは、前記１次元配列の変換係数列、および、既に復号されたブロックの変換係数に依存させて、前記逆走査順序を決定してもよい。
【００６０】
これにより、周辺ブロックの傾向を考慮して、適応的に逆走査順序が決定される。
【００６１】
また、前記逆走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみについて逆走査する周波数選択走査による逆走査順序を含む、予め定められた複数の逆走査順序から逆走査順序を選択することにより、前記逆走査順序を決定してもよい。
【００６２】
これにより、所定の複数の逆走査順序から、適応的に逆走査順序が決定される。
【００６３】
また、前記逆走査順序決定ステップでは、前記１次元配列の変換係数列から得られる値と、予め定められた閾値とを比較することにより、前記逆走査順序を決定してもよい。
【００６４】
これにより、所定の閾値に基づいて、適応的に逆走査順序が決定される。
【００６５】
また、前記画像復号方法は、さらに、画像符号化装置により送信された、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号の受信をトリガーとして、前記逆走査順序決定ステップによる逆走査順序の決定を有効化する有効化ステップを含んでもよい。
【００６６】
これにより、適応的に走査順序または逆走査順序を決定するか否かについて、符号化側と復号側とで一致させることができる。
【００６７】
また、本発明による画像符号化装置は、ブロック単位に画像を符号化する画像符号化装置であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、前記１次元配列の変換係数列を符号化するエンコーダとを備える画像符号化装置でもよい。
【００６８】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を符号化する画像符号化装置として利用できる。
【００６９】
また、本発明による画像復号装置は、ブロック単位に画像を復号する画像復号装置であって、復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える画像復号装置でもよい。
【００７０】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を復号する画像復号装置として利用できる。
【００７１】
また、本発明による集積回路は、ブロック単位に画像を符号化する集積回路であって、符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、前記１次元配列の変換係数列を符号化するエンコーダとを備える集積回路でもよい。
【００７２】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を符号化する集積回路として利用できる。
【００７３】
また、本発明による集積回路は、ブロック単位に画像を復号する集積回路であって、復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える集積回路でもよい。
【００７４】
これにより、画像の品質を同程度に維持しつつ、より効率よく画像を復号する集積回路として利用できる。
【００７５】
また、本発明によるプログラムは、前記画像符号化方法に含まれるステップをコンピュータに実行させるプログラムでもよい。
【００７６】
これにより、前記画像符号化方法がプログラムとして実現される。
【００７７】
また、本発明によるプログラムは、前記画像復号方法に含まれるステップをコンピュータに実行させるプログラムでもよい。
【００７８】
これにより、前記画像復号方法がプログラムとして実現される。
【００７９】
上述のような、画像または映像についての変換係数の符号化と復号において対象ブロックに適用される走査順序を対象ブロック内の変換係数値に基づいて決定することは、本発明に特有のアプローチである。
【００８０】
したがって、局所適応的な方法で、つまり特定のブロックに対して、かつ特定のブロックの特性に適応して走査順序を変更することが可能である。さらに、エンコーダとデコーダの両方に知られている変換係数値が用いられるときに、付加的な信号で伝える必要がない。よって、同一の係数ブロックの符号化効率を高めることができ、その結果、同じ画質を保ちながら圧縮効率を向上させることができる。
【００８１】
本発明の第１の態様によれば、画素ブロックに分割された画像データを符号化する方法が提供される。対象画像ブロックの画素値が変換係数に変換され、対象画像ブロックの変換係数が走査順序に従って順次走査され、走査された変換係数が符号化される。対象画像ブロックの変換係数値に基づいて、対象画像ブロックの走査順序が決定される。
【００８２】
本発明の他の態様によれば、画素ブロックに分割された符号化画像データを復号する方法が提供される。対象画像ブロックに関する走査され符号化された変換係数が復号され、逆走査順序に従って順次逆走査され、対象画像ブロックの画素値に逆変換される。対象画像ブロックの変換係数値に基づいて、対象画像ブロックの逆走査順序が決定される。
【００８３】
本発明のさらに他の態様によれば、画素ブロックに分割された符号化画像データを符号化するエンコーダが提供される。当該エンコーダは、対象画像ブロックの画素値を変換する変換部、走査順序に従って変換係数を順次走査する走査部、および、走査された変換係数を符号化するエンコーダを備える。決定部は、対象画像ブロックの変換係数に基づいて、対象画像ブロックの走査順序を決定することができる。
【００８４】
本発明のさらに他の態様によれば、画素ブロックに分割された符号化画像データを復号するデコーダが提供される。当該デコーダは、対象画像ブロックの走査済み符号化変換係数を復号するデコーダ、逆走査順序に従って対象画像ブロックの復号変換係数を逆走査するブロック形成部、および、対象画像ブロックの逆走査済み変換係数を画素値に逆変換する変換部を備える。決定部は、当該対象画像ブロックの変換係数に基づいて、対象画像ブロックの逆走査順序を決定することができる。
【００８５】
好ましくは、走査順序は、複数の予め定められた走査順序から選択される。予め定められた走査順序の１つは、ジグザグスキャンまたは他の固定的に定められた走査でもよい。予め定められた走査順序の１つは、変換係数のサブセットのみが走査され、一方で残りの係数はゼロに設定される周波数選択走査であってもよい。周波数選択走査は固定されない。すなわち、追加の信号を送ったり、暗示的に決定したり、また、例えば量子化マトリクス等の他の信号伝達要素を用いるといった、任意の方法において、走査対象の変換係数を選ぶことができる。
本発明の実施の形態によると、走査順序は、予め定められた走査のセットまたは走査のタイプから選択されることよりもむしろ、係数値に基づいて適応的に決定される。好ましくは、変換係数値と走査との割り当ては、例えば既に符号化されたブロックの値に基づいてエンコーダとデコーダにおいて同じ方法で動的に実行される。しかしながら、その割り当ても、固定されても、信号で伝えられてもよい。
【００８６】
好ましくは、走査順序は対象ブロック内においても適応的に決定される。したがって、次の走査対象係数の位置は、既に走査された係数値に基づいて決定される。そのような走査順序には、画像ブロックがエッジを含んでいても係数ブロックの構造に適応できるという利点がある。走査を適応させることにより、走査された係数はエントロピー符号によって効率よく符号化できる。
【００８７】
好ましくは、最初のＮ個の係数の走査順序は予め定められており、後続の走査対象係数の位置は各々、既に走査された係数値に応じて適応的に決定される。
【００８８】
具体的には、各係数値の走査順序は、所定位置の係数の値がゼロであるか非ゼロであるかの情報のような２値情報に基づいて決定される。しかしながら、走査は、係数値に直接基づいて、または、係数値の任意の関数に基づいて決定されてもよい。
【００８９】
具体的には、複数の予め定められた走査の最初のＮ個の変換係数が同一の順序で走査されると好都合である。そのような場合、選択されている走査順序にかかわらず、最初のＮ個の変換係数は同一の順序で走査されることから、最初のＮ個の変換係数が、エンコーダとデコーダの両方で、実際の走査順序を決定するために用いられてもよい。より高い値の係数がＤＣ係数とは別に存在することが、さらに高い周波係数の存在を示す指標となってもよい。
【００９０】
本発明の実施の形態によると、最初のＮ個の変換係数の値に基づいて算出された尺度を評価することで、走査順序が決定される。この尺度は、最初のＮ個の変換係数の任意の関数であってもよい。好ましくは、この尺度は最初のＮ個の変換係数の絶対値の合計である。しかしながら、代わりに他の任意の測定基準、例えば２乗誤差、重み付け合計、最大または最小係数値といった任意の基準が採用されてもよい。また、他の関数、例えば統計モーメント、ある値を超えるかまたは下回る係数の数、あるいは、他の尺度など、統計的特徴に基づく尺度が用いられてもよい。
【００９１】
本発明の他の実施の形態によると、走査順序は、対象ブロック内の非ゼロ変換係数の数に基づいて決定される。このような方法で走査順序を決定する際にも、実際の走査順序を知っている必要はなく、このような方法が、エンコーダとデコーダの両方で同じように適用されてもよい。同様にゼロ変換係数の数が走査順序の決定に用いられてもよいことは明らかである。
【００９２】
本発明のさらに他の実施の形態によると、走査順序は、レベルに基づいて決定される。レベルが（可能であれば、符号なし、および／または、量子化済みの）変換係数値を表すエントロピー符号化が符号化に含まれる場合、レベルも、エンコーダとデコーダで同じように、実際の走査順序を知ることなく使用されてもよい。レベルは、適用されるエントロピー符号によって、ゼロ係数と非ゼロ係数の両方を表してもよい。また、レベルに基づいて決定された尺度が走査順序の決定に用いられてもよい。好ましくは、演算するときの複雑さが低いという理由で、レベルの合計または重み付けされた合計が用いられる。しかしながら、測定基準、基準、統計等の任意の他の関数が、代わりに、または、追加で同様に採用されてもよい。
【００９３】
好ましくは、本発明の実施の形態のいずれかにおける走査順序の選択は、決定された尺度と予め定められた閾値の比較に基づく。好ましくは、閾値は、符号化されたブロック係数と共に、特定のブロック数において用意される。ブロック数はスライスに対応してもよく、閾値はスライスヘッダ内で信号により伝えられてもよい。または、閾値は、画像毎あるいは画像数毎に用意されてもよい。しかしながら、閾値は固定でもよく、選択的に信号を伝達することで変更可能なデフォルトの閾値があってもよい。走査順序の選択において、３つ以上の予め定められた走査順序が区別できる場合は、適用される閾値が２つ以上あってもよい。しかしながら、走査順序の決定は、必ずしも予め定められた閾値に依存しない。仮説検定のような統計的方法が走査順序の決定に採用されてもよく、または、閾値は、例えば映像シーケンスの統計的特徴、エンコーダ／デコーダパラメータ、あるいは同様のものに基づいて、エンコーダおよびデコーダにおいて、同じ方法で動的に決定されてもよい。
【００９４】
本発明の実施の形態によると、走査順序の決定は有効化または無効化されてもよい。好ましくは、有効化および／または無効化は、符号化変換係数と共に提供される有効化フラグをトリガーとして実行される。具体的には、有効化フラグはスライスヘッダに設定される。しかしながら、有効化フラグは、例えば実画像情報を有しない画像または映像パケット内で、異なる方法で設定されてもよい。また、有効化フラグは、例えばマクロブロックまたはブロックのような、スライスよりも小さな画像領域で用いられるために、より細かな粒度を有してもよい。また、有効化フラグは、より多くのスライスで用いられるために、より粗い粒度を有してもよい。ここで、有効化フラグを信号で伝えることは、定期的に実行されてもよく（例えばｍブロック、マクロブロック、スライス、フレーム、ＧＯＰ等毎に実行される。ただしｍは１以上の整数である）、不定期に実行されてもよい（例えば符号化係数を有する映像データパケットから分離されたパケットにおいて実行される）。Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣに基づく符号化において、特別なネットワーク抽象化レイヤの単位が、映像シーケンス内の任意の位置で情報を保持するために用いられてもよい。有効化フラグは、走査の切替えが有効であれば１に設定され、無効であればゼロに設定されるが、これは、１とゼロとの値が逆に割り当てられた無効化フラグで置き換えられてもよい。走査の切替えを有効化および無効化することで、走査順序の切替えを用いるか否かを自動的に、または、ユーザの操作により決定することができる。例えば、符号化対象画像について、切替えによる利益がないか、無視できるほど少ないという統計があると分かっている場合は、切替えが無効化されてもよい。
【００９５】
好ましくは、有効化フラグが走査順序の決定を有効化したことを信号で伝えた場合に、走査状態情報が有効化フラグに添付されてもよい。具体的には、走査状態情報は、走査を決定するときに考慮される係数の数および／または走査の決定に用いられる閾値に対応する。
【００９６】
さらに好ましくは、本発明に特有のアプローチは、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣまたはその後続の規格などのハイブリッド符号化に基づく、既存または将来の映像符号化規格の１つにおいて選択的または必須に適用される。
【００９７】
本発明の他の実施の形態によると、本発明を実行する、コンピュータ読み取り可能なプログラムコードを実装したコンピュータ読み取り可能な媒体を備えるコンピュータプログラム製品が提供される。
【００９８】
本発明の上記およびその他の目的は、付属図面に関する以下の説明および実施の形態から明確になる。
【発明の効果】
【００９９】
本発明により、画像の品質を同程度に維持しつつ、より効率よく画像が符号化され、または、より効率よく画像が復号される。
【図面の簡単な説明】
【０１００】
【図１】図１は、従来のハイブリッド映像エンコーダの構成を概略的に示すブロック図である。
【図２】図２は、従来のハイブリッド映像デコーダの構成を概略的に示すブロック図である。
【図３Ａ】図３Ａは、８×８の、ブロック量子化変換係数のジグザグスキャンの例を示す。
【図３Ｂ】図３Ｂは、８×８の、ブロック量子化変換係数のジグザグスキャンの別の例を示す。
【図４】図４は、本発明の映像エンコーダおよびデコーダを示すブロック図である。
【図５】図５は、周波数選択符号化を用いて一部変更されたハイブリッド映像エンコーダ部分を概略的に示す。
【図６】図６は、８×８ブロックの、周波数選択符号化ブロックに分配された非ゼロ係数を伴うジグザグスキャンの例を示す。
【図７】図７は、８×８ブロックの、周波数選択符号化および走査による、変換係数の並べ替えおよび走査を示す。
【図８】図８は、４×４ブロックを例として、周波数選択符号化および走査と、通常のジグザグスキャンとを示す。
【図９】図９は、８×８ブロックの、最初の１０個の走査済み係数の走査順序が共通である、周波数選択走査およびジグザグスキャンを示す。
【図１０】図１０は、４×４ブロックを例として、本発明の実施の形態１による、周波数選択符号化および走査と、通常のジグザグスキャンとを示す。
【図１１】図１１は、４×４ブロックを例として、本発明の実施の形態１による、周波数選択復号および逆走査と、通常の逆ジグザグスキャンとを示す。
【図１２Ａ】図１２Ａは、本発明による、ブロックに分割された画像を符号化する方法のステップを示す。
【図１２Ｂ】図１２Ｂは、本発明による、ブロックに分割された符号化画像を復号する方法のステップを示す。
【図１３】図１３は、決定される走査順序の変形例を示す図である。
【図１４】図１４は、決定される走査順序の別の変形例を示す図である。
【図１５】図１５は、対象ブロックおよび周辺ブロックを示す概念図である。
【図１６】図１６は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成の一例を示す模式図である。
【図１７】図１７は、携帯電話の外観を示す図である。
【図１８】図１８は、携帯電話の構成例を示すブロック図である。
【図１９】図１９は、デジタル放送用システムの全体構成の一例を示す模式図である。
【図２０】図２０は、テレビの構成例を示すブロック図である。
【図２１】図２１は、光ディスクである記録メディアに情報の読み書きを行う情報再生記録部の構成例を示すブロック図である。
【図２２】図２２は、光ディスクである記録メディアの構造例を示す図である。
【図２３】図２３は、各実施の形態に係る画像符号化方法および画像復号方法を実現する集積回路の構成例を示すブロック図である。
【発明を実施するための形態】
【０１０１】
（実施の形態１）
本発明の根底にある課題は、エッジの方向および／または鋭さ等のコンテキスト特性が異なる画像ブロックの変換係数に、同じ走査が採用されており、その結果、後に適用される符号化の効率に違いが出る可能性があることに基づく。これは、画像または画像シーケンス（映像）内の異なるブロックの変換係数の統計が不定であることに起因する。
【０１０２】
この問題を解決するため、本発明は、画素ブロックに分割された画像データを符号化する方法、復号する方法、符号化する装置（エンコーダ）、および、復号する装置（デコーダ）を提供するものである。したがって、対象ブロックにおける変換係数の走査は、対象ブロックの係数値に基づいて決定された走査順序にしたがって順次実行される。
【０１０３】
ハイブリッド画像および映像符号化において、通常、画像はブロックに分割される。これらのブロックは、予め定められた固定サイズでも、様々なサイズでもよい。変換には、通常、１６、８、または、４画素の四角形のブロックが採用される。しかしながら、概して、ブロックは必ずしも四角形である必要はなく、サイズも任意でよい。上述のサイズは、映像符号化技術の複雑さと性能の間のトレードオフとして選択されている。
【０１０４】
なお、画像符号化装置全体がエンコーダと呼ばれる場合もあり、画像符号化装置において符号化処理を実行する部分のみがエンコーダと呼ばれる場合もある。同様に、画像復号装置全体がデコーダと呼ばれる場合もあり、画像復号装置において復号処理を実行する部分のみがデコーダと呼ばれる場合もある。
【０１０５】
また、実施の形態１として説明する実施の形態には、同様の構成要素またはステップを含む複数の実施の形態が含まれる。
【０１０６】
図４は、本発明の画像符号化装置４０１および画像復号装置４０２を示すブロック図である。画像の画素４０９のブロックがエンコーダに入力される。ここで、画素という用語は、例えば符号化対象画像に関し、また、先行する符号化段階のうちの一つで予測が適用されていた場合は、符号化対象の予測誤差画像に関する。画素値が変換部４１０に入力される。画素値は、例えば、直接的にグレースケール画像の画像強度値、または、ＲＧＢ色空間の赤、緑および青の色成分といった任意の色空間の色成分のうちの１つ、または、ＹＵＶ色空間の輝度および２つの色差成分の値に対応する。変換部４１０は、入力された画素４０９の対象ブロックを変換係数４１１のブロックに変換することができる。変換係数４１１の値は、その後、符号化中の対象画像ブロックの走査順序を決定できる決定部４４０に入力される。決定部４４０は、この入力の際に、必ずしも全ての変換係数を受け取る必要はなく、変換係数に基づいて走査順序を決定するには、変換係数のサブセットで十分としてもよい。しかしながら、全ての変換係数値が走査順序の決定に用いられてもよい。決定の結果は、その後、（まだブロック内に並んでいる）変換係数４１１を順次、決定部４４０が決定した走査順序に従って走査できる走査部４２０に入力される。ここで、全変換係数またはそのサブセットが走査されてもよい。走査済みの変換係数４２１は、エンコーダ４３０に入力されるために、当該走査順序にしたがって直列に並べられる。エンコーダ４３０は、さらに係数の入力シーケンスを符号化、好ましくは可逆符号化する。
【０１０７】
この方法で符号化された画像データ４３１は、その後、例えば媒体４５０に格納および／または送信するために出力される。媒体４５０は、メモリ、フラッシュ、ハードディスク、ポータブルな磁気ディスクまたは光ディスク等、いかなる種類の記憶装置であってもよい。また、媒体４５０は、ｘＤＳＬ、ＬＡＮ、ＷＬＡＮ、ＷｉＭＡＸ、ＵＭＴＳ、インターネットまたは他の専売的もしくは標準化されたシステム、あるいは、そのようなシステムの組み合わせ等の、固定またはワイヤレスシステムの資源によって形成される伝送チャネルであってもよい。その後、符号化された画像データ４５１が、例えば、記憶装置から取得され、または、チャネルから受信されることで、媒体４５０から画像復号装置４０２に入力される。当該符号化された画像データは、好ましくは、符号化されて、媒体に入力された画像データ４３１と同じである。しかしながら、媒体４５０がエラーを起こしやすい媒体であれば、エラーがある画像データ、または、不完全な画像データ４５１も出力する可能性がある。
【０１０８】
画像復号装置４０２のデコーダ４７０は、入力された画像データ４５１から、符号化された走査済み変換係数データを解析／復号できる。解析／復号された走査済み変換係数４７１またはそのサブセットは、その後、復号された走査済み変換係数４７１のシーケンスに適用する逆走査順序を決定できる決定部４６０に送られる。決定部４６０は、復号された変換係数４７１のシーケンスまたはそのサブセットの値に基づいて、逆走査順序を決定する。決定の結果および復号された変換係数４７１は、ブロック形成部４８０に入力される。ブロック形成部４８０は、変換係数４８１のブロックを生成するために、変換係数４７１の復号されたシーケンスに、決定された逆走査順序を適用する。変換係数４８１のブロックは、変換部４９０に入力される。変換部４９０は、そのような係数ブロックを、復号対象画像ブロックの画素４９９に変換できる。
【０１０９】
適切な動作を目的として、エンコーダとデコーダとを一致させ、つまり、入力された変換係数４１１と４７１とが同じであれば、エンコーダの決定部４４０は、デコーダの決定部４６０と類似の動作をし、決定結果は、同じである。
【０１１０】
なお、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格に基づくエンコーダおよび／またはデコーダ、例えば図１および２にそれぞれ示す画像符号化装置１００および／または画像復号装置２００に、本発明を直ちに適用してもよい。そのような実施の形態において、画像符号化装置４０１の変換部４１０は、予測誤差画像（減算器１０５の出力）のブロックが変換されて量子化される変換／量子化部１１０に対応する。この実施の形態の変換係数４１１は、変換され量子化される対象画像ブロックの画素値に対応する。決定部４４０、走査部４２０、および、エンコーダ４３０は、エントロピー符号化部１９０の一部であってもよい。今日のＨ．２６４／ＭＰＥＧ−４  ＡＶＣは、図３Ｂに示すジグザグスキャンによる走査順序３５０ｂを採用している。例えばインターレースモードの映像シーケンスには、他のタイプのジグザグ風のスキャンが用いられる。よって、固定のジグザグスキャンの代わりに、本発明による走査の切替えが行われてもよい。同様に、デコーダ４７０は、ブロック形成部４８０および決定部４６０と共にエントロピー復号部２９０の一部を形成してもよい。そこで、逆量子化／逆変換部２２０は、変換部４９０に対応する。
【０１１１】
好ましくは、走査順序は、複数の予め定められた走査順序から選択することで決定される。本発明の実施の形態によると、選択対象の走査順序の１つは、広く用いられているジグザグスキャンであり、もう１つは、周波数選択符号化（ＦＳＣ：Ｆｒｅｑｕｅｎｃｙ  Ｓｅｌｅｃｔｉｖｅ  Ｃｏｄｉｎｇ）と共に採用されるいわゆる周波数選択走査である。
【０１１２】
周波数選択更新（ＦＳＵ：Ｆｒｅｑｕｅｎｃｙ  Ｓｅｌｅｃｔｉｖｅ  Ｕｐｄａｔｅ）および符号化は、特許文献２ＥＰ（Ｅｕｒｏｐｅａｎ  Ｐａｔｅｎｔ  Ａｐｐｌｉｃａｔｉｏｎ）１７２０３５６および特許文献３ＥＰ１７６８４１６に記載されており、これらをここに引用して援用する。周波数選択符号化は、低周波数よりも高周波数に対する感度が弱く、高周波数を改変または省略さえしても、認識されない場合が多いという人間の目の特徴に基づいている。よって、周波数選択符号化において、入力信号の特定の周波数の部分のみが走査および符号化／復号され、他の周波数部分はゼロであるとみなされる。この方法によって、特に周波数選択符号化係数のパターンに適応する周波数選択走査と組み合わせることによって、圧縮効率を高めることができる。
【０１１３】
そのような周波数選択映像技術の主な概念は、フレーム毎に周波数セグメントを更新することである。予め定められた量の低周波係数が、常に更新される。これらは、人間の知覚に必要不可欠な係数であるはずである。つまり、これらを変更すると、人間の目が容易に感知できる歪みが起きる。フレーム毎に、各ブロックの低周波部分、および、高周波を有する１つまたはいくつかのセグメントが更新される。または、所定数のフレームを更新した後に、周波数を完全に更新する目的で、高周波セグメントが、フレーム毎に更新される。
【０１１４】
図５は、この場合もまた、図１を参照して説明したＨ．２６４／ＭＰＥＧ−４  ＡＶＣエンコーダでもよいハイブリッド映像エンコーダの変更されたブロック図の一部に含まれるような周波数選択符号化を示す。予測誤差信号は、変換／量子化部５１０により、変換されて量子化され、周波数選択エンコーダ５５０に入力される。標準的な符号化では、全ての（量子化）変換係数について、図で網掛けされた箇所が示すように、ブロック５０１全体を符号化するであろう。周波数選択エンコーダ５５０においては、変換され量子化された係数のブロック５０１はセグメントに分割される。セグメントのサブセットのみが、（更新済みの）ビットストリーム内でエントロピー符号化され、送信される。図示されたブロック５０２は、より低い周波数ＬＦのセグメント、および、単一の変換係数に対応するセグメント８を含む。これらのセグメントは、ブロックのうち、送信されない係数、または、ゼロと見なされる係数を含む残りの部分と区別するため、図で網掛けされている。更新済みの網掛けされたセグメントをフレーム毎に変えることにより、ブロックの周波数は継続的に更新され、各フレームのビットレートが大幅に減少する。更新されていない係数は、暗にゼロとみなされる。エントロピー符号化部５９０において、ブロック内の量子化変換係数は、所定の走査を適用して走査される。この走査は、最も低い周波係数から開始し、最も高い周波係数まで当該ブロックの全係数を走査する。予測誤差情報を送信するとき、係数は、最後の非ゼロ係数に到達するまで送信される。残りの係数はゼロであると分かる。図６から分かるように、周波数選択符号化に適用されるジグザグスキャンの走査順序６０５の利点は、最後の非ゼロ係数に到達する前に、多くのゼロ係数を走査できることである。
【０１１５】
図６に示された走査順序６０５では、常に０となる非更新係数が走査されるが、このような非更新係数は走査されなくてもよい。または、このような非更新係数は最後に走査されてもよい。このように走査順序を変更することで、より高い符号化の効果が得られる。図７は、そのような走査順序の変更を示す図である。
【０１１６】
周波数選択符号化を用いるブロックにおいて、特定の走査済みゼロ係数は、ピクチャ全体の各ブロック内で常に同じ位置にある。そのような場合、図７に示されるように、更新済み周波数のみを走査するように走査を変更するか、または、始めに更新済み周波数を走査するように係数を並べ替えることができる。ブロック７０１は、図で網掛けされて、１から２０の番号が付けられた更新済み係数を含む。残りの係数は、周波数選択符号化方式にしたがってゼロであると見なされる。番号の昇順にしたがって２０の更新済み係数を走査することが、各ブロックに周波数選択符号化が適用された場合の選択肢の１つであろう。しかしながら、本発明によると、走査順序は係数値に基づいて決定されてもよい。この例においては、ジグザグスキャンまたは他の周波数選択走査の何れかが用いられる。基本的に同じ方法でジグザグスキャンを適用する目的で、周波数選択走査において、更新済み係数を並び替えてもよい。係数を並び替えたブロック７０２は、規定のゼロ係数が最後に走査されることでゼロランが長くなるジグザグスキャンにより走査されてもよい。更新済み係数および周波数選択符号化におけるゼロ係数の位置は、特許文献３ＥＰ１７６８４１６に詳細に説明されているように、量子化マトリクスを用いて決定されてもよい。
【０１１７】
しかしながら、１つのフレームの全ブロックに対して同一の周波数セグメントを更新することは、最適ではない。特定の周波数を除去することで起こる質の歪みは、ブロックの内容に大きく依存する。したがって、周波数選択符号化パターンを各ブロックの内容に適応させることが重要である。高周波を有する特定のブロック、または、予測に失敗したブロックに関しては、全係数を送信すること、すなわち、周波数選択符号化を無効にして、（係数を並べ替えることなく）標準的なジグザグ順序などの他の走査順序を選択することが有益かも知れない。
【０１１８】
本発明は、各ブロックに対する周波数選択符号化の使用を制御することを可能にする。この制御を効率的な方法で実行するため、エンコーダは、可能であれば低い追加レートで、周波数選択符号化の有効化および無効化についての情報をデコーダに通知しなければならない。本発明によると、周波数選択符号化の有効化または無効化は、エンコーダとデコーダにおいて、利用できる情報に基づき同じ方法で決定される。したがって、周波数選択符号化の制御は、明示的な信号で伝える必要がない。エンコーダおよびデコーダが利用できる情報とは、例えば、予測誤差の値である。予測誤差が重大であれば、つまり、予測が失敗すれば、周波数選択符号化をそのようなブロックに用いるべきではない。
【０１１９】
本発明の実施の形態によると、各ブロックの変換係数は、エンコーダ側とデコーダ側の両方において、周波数選択走査の有効化および無効化の決定に用いられる。これを容易にするため、この決定に用いられる係数値は、周波数選択走査を採用するか、または、通常の走査を採用するかのいずれかに関わらず同じ順序で走査される。そうでなければ、デコーダはエンコーダと同じ走査順序を決定することができないであろう。
【０１２０】
図８は、周波数領域において異なる係数配分を有する、内容が異なるブロックに対し、周波数選択走査と共に周波数選択符号化を展開することで達成できる利点を示す。周波数選択符号化技術を用いることにより、多くの映像シーケンス内のほとんどの領域において、現在のＨ．２６４／ＭＰＥＧ−４  ＡＶＣ規格よりも高い符号化効率で、類似の主観的画質を提供できる可能性がある。しかしながら、鋭いエッジ周辺の高周波数を消去すると、可視アーチファクトが生成される。そのような領域に関し、規格と全く同じ主観的画質に到達するために、周波数選択符号化は局所的に適用されるべきである。エッジ周辺、または、予測が失敗した領域には、周波数選択符号化を適用するべきではない。
【０１２１】
周波数選択符号化によると、符号化効率を最大化するため、係数の走査順序は、当該ブロックに用いられる量子化プロセスに依存して変更される。当該ブロックが周波数選択符号化を用いる場合、周波数選択走査が用いられ、更新済み係数が始めに走査されるように係数が並び替えられる。図８から分かるように、走査順序は、結果として生ずる走査された係数の直列のストリームの形式に、本質的な影響を与える。本発明の本実施の形態によると、周波数選択符号化ではなく標準的な量子化および走査プロセスを用いるブロック８１０は、ジグザグスキャンが定義する順で走査され、その結果が直列のストリーム８１１となる。デコーダにおいて各係数値を決定するためには、この走査は知られていなければならない。周波数選択符号化ブロック８２０には、周波数選択走査が用いられ、その結果として、係数の直列のストリーム８２１となる。符号化プロセスと復号プロセスとを一致させるため、デコーダは、ジグザグスキャンのような通常の走査が用いられたか、または、周波数選択走査が用いられたかを知っている必要がある。周波数選択走査およびジグザグスキャンの両方において、低周波係数が最初に走査される。これらの係数は人間の知覚に必要不可欠であり、よって、周波数選択走査が適用されたとしても、常に周波数選択符号化によって更新され、常に最初に送信される。
【０１２２】
図９は、非周波数選択符号化ブロック９１０に適用された通常のジグザグスキャン９１２で走査された最初の１０個の係数（斜線で示された部分）、および、周波数選択符号化ブロック９２０に適用された周波数選択走査９２２で走査された最初の１０個の係数を示す。ジグザグスキャン９１２の走査順序が、周波数選択走査９２２の走査順序と異なるとしても、最初の１０個の係数の順序は同じままである。最初の１０個の係数の後にジグザグスキャンで走査される残りの係数（点々で示された部分）は、周波数選択走査で走査される残りの係数と異なる。
【０１２３】
通常の走査でも周波数選択走査でも、各ブロックの周波数選択符号化および走査の有効化または無効化についての決定を容易にするためには、最初の係数で十分であることが、実験により確かめられた。これらの係数は常に、走査とは別に、最初に送信されるため、デコーダ側が走査を知らなくても読み出すことができる。
【０１２４】
図１０は、本発明の本実施の形態による符号化方法を概略的に示すものである。４×４ブロック１０００は、ｃ１からｃ１６と付番された１６個の周波数係数からなる。概して、本発明は、８×８または４×４ブロックといった特定のサイズに限定されるものではなく、任意のサイズのブロックに適用されてもよい。しかしながら、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣのような現在の符号化アルゴリズムにおいて、８×８ブロックと４×４ブロックが、変換の基礎をなす。最初の３つの係数ｃ１、ｃ２、および、ｃ３の絶対値の合計Ｓは、Ｓ＝｜ｃ１｜＋｜ｃ２｜＋｜ｃ３｜と算出される。
【０１２５】
その後、絶対値の合計Ｓが閾値と比較される。好ましくは、閾値は予め定められている。閾値は固定でも、エンコーダおよびデコーダの設定の一部でも、動的に調整可能であってさえもよい。様々なブロックサイズに異なる閾値が指定されている場合に、特に、周波数選択走査を有効化および無効化する決定に用いられる係数の数がブロックサイズによって異なる場合に、好都合である。絶対値の合計Ｓが閾値以上であれば、このブロックの予測誤差は、あまりに多くの周波数を含んでいる。そのような場合、周波数選択符号化（図においてＦＳＵ−周波数選択更新と略されている）は無効化され、係数はジグザグスキャン１０１０のような通常走査にしたがって走査される。絶対値の合計Ｓが閾値よりも小さければ、周波数選択符号化は有効化され、係数は周波数選択走査１０２０にしたがって走査される。
【０１２６】
概して、絶対値の合計Ｓは、通常走査と周波数選択走査とに共通する任意の数の係数で算出されてもよい。それは、必ずしも共通の係数の最大値である必要はない。絶対値の合計Ｓはまた、係数値の２乗和のような、他の尺度で置き換えられてもよく、その尺度は該当する係数の数でさらに正規化され、その係数値はさらに重み付けされてもよい。しかしながら、例えばそれは、係数値の任意の関数、または、特定の値を有するそれらの共通の係数の数に基づく他の尺度であってもよい。そのような尺度は、閾値と共に、対象ブロックの周波数選択符号化を有効化または無効化する決定を行い、適切な走査を選択するためのものである。周波数選択符号化ステップは、量子化マトリクスに従って係数を並び替えること、および、その並び替えられた係数に走査１０３０を適用することを含む。直列に並べられた係数のストリーム１０２１またはストリーム１０１１は、その後、エントロピー符号化され、その結果生成されるビットストリームは格納、または、送信される。
【０１２７】
つまり、周波数選択走査１０２０による変換係数列が送信されてもよいし、並べ替えにより実質的に走査順序が変更された走査１０３０による変換係数列が送信されてもよい。復号側は、符号化側と同様の逆走査順序により、１次元配列の変換係数列から２次元配列の変換係数を生成できる。
【０１２８】
対応する復号方法は、図１１に概略的に示す。まず、両方の走査に共通する、受信した係数のレベル１１０１が読み出され、その結果、概略のブロック１１００に、順序が不明の係数が残る。最初の３つの係数は、両方の走査において同じ順序で走査されるため、復号できる。図１１の例において、符号化済みの４×４ブロックの最初の３つの係数であるｘ１、０、および、ｘ２が読み出される。これら３つの係数の絶対値の合計Ｓは、下記により算出される。
【０１２９】
S = |x1|+|0|+|x2|
【０１３０】
算出された合計Ｓは、エンコーダにおける方法と同じように閾値と比較される。この比較の結果により、残りの係数は、ジグザグスキャンまたは周波数選択走査に対応する走査によって逆走査される。そして、周波数選択走査に対応する逆走査によりブロック１１１０が形成される。あるいは、ジグザグスキャンに対応する逆走査によりブロック１１２０が形成される。逆走査された後に、ブロック１１１０または１１２０は逆変換され、復号ブロックの画素値が生成される。
【０１３１】
本発明の他の実施の形態によると、走査順序は、非ゼロ係数の数、または、ゼロ係数の数に基づいて決定される。また、このパラメータは、エンコーダとデコーダの両方で利用できる。背景技術において説明したようにランレングス符号化が適用されるとすれば、非ゼロ係数の数は、ラン−レベルの数に対応する。例えば、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ  ＣＡＶＬＣ符号化において、走査順序はレベル数（符号なしの量子化係数値）、および／または、トレイリングワンズの数に対応して決定されてもよい。ゼロ係数の数は、非ゼロ係数と非ゼロ係数の間にあるゼロの総数、および／または、ブロック全体のゼロの数に基づいて同様に導出されてもよい。概して、特定の値を有する係数の数に基づく統計的な尺度が利用されてもよい。これは、これらの統計的な尺度もまた決定される走査順序を知っておくことが必要とされないためである。
【０１３２】
本発明のさらに他の実施の形態によると、ランレングス符号化が走査済み変換係数に適用される場合は、レベルを用いて算出された尺度に基づいて、走査順序が決定される。非ゼロ係数の値（レベル）は、走査順序の選択を、より正確に示してもよい。繰り返しになるが、そのような尺度は、適用された走査順序を知ることなくエンコーダとデコーダで同じように算出できる。
【０１３３】
上記の例におけるエンコーダおよびデコーダは、予め定められた走査順序のセットから選択することで走査順序を決定した。しかしながら、走査順序はまた、適応的に、つまり、予め定められた走査および／または固定の走査の集合以外から決定されてもよい。例えば、最初のＮ個の係数の値は、ブロック内の位置と共に走査順序を定義するために用いられてもよい。簡易な例としては、異なる位置にある最初のＮ個の係数がゼロであるか否かを見分けること、および、そのようなバイナリ（２値）パターンに基づいて、可能性のある２＾Ｎ個の走査順序から一つを選択することである。ここで、２＾Ｎ個の走査順序は、予め定められていてもよい。例えば、２＾Ｎ個のバイナリシーケンスはそれぞれ、走査順序を割り当てられていてもよい。その割り当ては、例えば選択されたブロックのトレーニングセットを用いて最適化することで得られてもよい。他に、同一画像または同一画像シーケンスの既に符号化されたブロックをトレーニングに用いることができる。これにより、エンコーダとデコーダにおいて同じ動的な割り当てが得られる。
【０１３４】
ここで、＾はべき乗を表す記号であり、２＾Ｎは２のＮ乗を意味する。
【０１３５】
走査順序の決定に用いられる値は、必ずしもバイナリシンボル（ゼロ／非ゼロ）に限定される必要はなく、走査順序は、変換係数値およびその位置に基づいて任意に決定されてもよい。また、既に符号化されたブロックからの情報が走査順序の決定に採用されてもよい。先行ブロックからのそのような情報は、そのようなブロックの係数値、そのような先行ブロック用に選ばれた走査、または、そのようなブロックに関連する他の情報であってもよい。
【０１３６】
適応の度合いをさらに増加して、走査を特定のブロック内で適応的に決定してもよい。よって、第（ｉ＋１）番目の係数の走査順序は、既に走査されたｉ個の係数（またはそのサブセット）の値に基づいて決定されてもよい。ここでｉは１以上の整数である。
【０１３７】
本発明の他の実施の形態によると、最初のＮ個の係数は、所定の固定走査で走査され、各係数値がゼロ値であるか、非ゼロ値であるかが決定される。その後、Ｎビット長のバイナリワードが形成される。当該バイナリワード内の位置は走査済み係数の位置に対応し、当該バイナリワードにおいて、ゼロ係数に対応する位置にはゼロがあり、非ゼロ係数の位置には１がある。その後、当該バイナリワードは、次に走査される第（Ｎ＋１）番目の係数の位置決定に用いられる。
【０１３８】
バイナリワードの値と次の走査対象係数の位置との間の割り当ては、エンコーダとデコーダの両方から知られていなければならない。好ましくは、そのような割り当ては、既に符号化されたブロックの係数値に基づき、したがって、画像および／または映像シーケンスの特性に動的に適応できる。このような方法で、画像特性において最適化して、対象ブロックに適応した走査が選択され、その結果、符号化効率が高まる。さらに、追加的な情報を信号で伝える必要がない。または、その割り当ては固定されていてもよいし、エンコーダとデコーダの両方から知られていてもよいし、信号で伝えられてもよい。
【０１３９】
一旦、第（Ｎ＋１）番目の係数のための走査が決定されると、第（Ｎ＋２）番目の走査対象係数の位置もまた、この係数単独の値か、あるいは、先行する係数値との組み合わせに基づいて決定されてもよい。例えば、上述のＮビット長のバイナリワードは、第（Ｎ＋１）番目の係数値がゼロ値であるか、非ゼロ値であるかを判定することで、Ｎ＋１ビット長のバイナリワードに拡張されてもよい。その後、Ｎ＋１ビット長のバイナリワードは、次の走査対象係数の位置決定に用いられる。このようにして、つまり新たに走査された係数値に基づいてバイナリワードを拡張することにより、ブロック全体またはマクロブロックの走査が決定されてもよい。
【０１４０】
次の走査対象係数の位置は、必ずしも既に走査された係数がゼロか非ゼロかの情報に対応するバイナリ値に基づいて決定される必要はない。例えば、係数値、係数の絶対値、係数の２乗値、または、単なる２進数よりも多くの情報を提供する、その他の係数の関数についての検討は、利点があるかも知れない。したがって、次の走査対象係数の走査位置は、既に走査された係数値、または、最後の係数として走査された単一の係数値に基づいて決定されてもよい。
【０１４１】
これらの例は、単に本発明の様々な実施の形態のうち、いくつかの例を示すものに過ぎない。変換係数値に基づいて走査順序を決定する他の方式も利用してもよいことは明らかである。対象ブロック内で走査を適応させることで、走査の柔軟性が高まり、その結果、エッジがあるために左上の角以外に非ゼロ係数値を有するブロックでさえも、簡潔に走査でき、さらにエントロピー符号によって効率よく符号化されうる。
【０１４２】
図１２Ａおよび図１２Ｂは、それぞれ、エンコーダおよびデコーダにおいて適用された本発明の方法に含まれるステップを実行順でまとめたものである。エンコーダにおいて、まずステップＳ１２０１で画像画素ブロックが変換係数に変換される。その後、ステップＳ１２０２で、変換係数の全てまたはいくつかが、走査順序の決定に用いられる。その後、ステップＳ１２０２で決定された走査順序が、ステップＳ１２０３で変換係数の走査に適用される。その後、変換係数の走査済み（直列に並べられた）シーケンスが、ステップＳ１２０４で符号化される。
【０１４３】
デコーダにおいて、変換係数値を持つ符号化されたシンタックス要素は、ステップＳ１２１４で復号され、ステップＳ１２１２で走査順序の決定に用いられる。ステップＳ１２１２で決定された走査順序は、ステップＳ１２１３で変換係数の逆走査に用いられ、その結果、変換係数ブロックを形成する。ステップＳ１２１３で生成された変換係数ブロックは、最後に、ステップＳ１２１１で逆変換され、対象ブロックの画素値が生成される。
【０１４４】
周波数選択符号化は、周波数選択符号化と通常の符号化との切替えと同様に、エンコーダ設定のオプショナルな機能として有効化または無効化されてもよい。例えば、スライス単位、または、マクロブロックかブロックのような、より小さな画素領域単位の、より細かな粒度で、周波数選択符号化を有効化または無効化すると有益かも知れない。本発明による、周波数選択符号化を用いること、および、それを局所的に無効化できることは、例えば、スライスヘッダに示してもよい。そのようなスライスヘッダは、２つのフラグを有してもよい。
【０１４５】
（１）第１の（有効化）フラグは、当該スライスにおいて周波数選択符号化が全く用いられない場合はゼロと等しく、周波数選択符号化が用いられる場合は１と等しい。
【０１４６】
（２）先行するフラグが１と等しい場合にのみ、第２フラグが存在する。第２フラグは、周波数選択符号化が当該スライスのブロック全てに用いられる場合はゼロと等しく、周波数選択符号化が特定のブロックに対し無効であれば１と等しい。
【０１４７】
第２フラグが１と等しい場合、走査の決定に用いられる低周波係数の数が提供されてもよい。しかしながら、低周波係数の数はまた、ブロックサイズに依存して予め定められても、シーケンス全体に対して予め設定されてもよい。さらに、第２フラグが設定されている場合は、エンコーダ側で用いられる閾値が提供されてもよい。これは、エンコーダに、当該スライス内で周波数選択符号化を利用すべき頻度を制御する自由度を与える。
【０１４８】
明示的な信号による伝達は、したがって、ブロックレベルからスライスレベルにシフトされる。シーケンス毎に、または、映像シーケンス内の任意の位置にあるネットワーク抽象化レイヤ内で、一度、信号により伝えられさえすればよい。ブロックレベルでの走査は、例えば最初のＮ個の係数を介して暗示的に伝えられてもよい。よって、Ｈ．２６４／ＡＶＣ符号化アルゴリズムと同じ客観的画質に到達する目的で局所的な適応が実現される一方で、周波数選択符号化の符号化効率が保たれる。
【０１４９】
なお、図４に示された画像符号化装置４０１の決定部４４０、および、画像復号装置４０２の決定部４６０は、それぞれ、変換係数に依存させた走査順序または逆走査順序の決定を有効化または無効化する有効化部を備えてもよい。そして、図１２Ａに示された走査順序決定ステップ（Ｓ１２０２）、および、図１２Ｂに示された逆走査順序決定ステップ（Ｓ１２１２）において、変換係数に依存させた走査順序または逆走査順序の決定を有効化または無効化してもよい。
【０１５０】
上記説明は、最初に送信された係数を用いて、ジグザグスキャンと周波数選択走査との切替えを可能にすることに焦点を置いた。しかしながら、これは単なる例であり、本発明は、周波数選択走査と他の走査との切替えに適用可能である。周波数選択走査および他の走査の最初の低周波係数の順序が維持される限り、上記において説明した本発明は、走査の切替えに用いられてもよい。さらに、最初に走査された係数の順序は、特に知られている必要さえもない。概して、任意に順序づけられているが、最初の位置に限らず、対象ブロックの同じ領域に位置している任意のＮ個の係数に対しても、絶対値の合計といった尺度を算出することができる。例えば、ジグザグスキャンはＤＣ係数から開始し、下の係数へ続けてもよいが（図３Ａ参照）、周波数選択走査は、ＤＣ係数から開始し、右の係数へ続けてもよい（図７参照）。両方の走査において、順番は異なるとしても同じ係数が走査される。曖昧さのない、そして、位置に依存しない逆量子化を実現するため、同じ方法で全ての係数が量子化されるなら、既知の位置内の非ゼロ変換係数の位置とは無関係な、非ゼロ変換係数値に基づくこのような尺度の算出のみが可能である。そのような係数に用いられる量子化パラメータが異なっていれば、例えば、量子化マトリクスが用いられる場合は、それらの係数の位置を知ることなく真の係数値をすぐに復元することはできない。
【０１５１】
図１３は、決定される走査順序の変形例を示す図である。
【０１５２】
ブロック１３０１において、変換係数は、まず、所定の走査順序１３０２により走査される。すなわち、左上の変換係数１３０３が走査され、次に、その下の変換係数１３０４が走査される。次に、その右上の変換係数１３０５が走査される。
【０１５３】
ここで、２番目の変換係数１３０４が、３番目の変換係数１３０５より大きな値を示していれば、垂直方向への走査を優先する走査順序１３０７により、走査が継続されてもよい。一方、２番目の変換係数１３０４と３番目の変換係数１３０５とに大きな差が無ければ、通常のジグザグスキャンによる走査順序１３０６により、走査が継続されてもよい。
【０１５４】
このような走査順序の決定は、水平方向よりも垂直方向に、より大きな値を示す傾向があるフィールド符号化と、そのような傾向がないフレーム符号化とを考慮した場合に、有効である。フィールド符号化には、垂直方向への走査を優先する走査順序１３０７が対応し、フレーム符号化には、通常のジグザグスキャンによる走査順序１３０６が対応する。フィールド符号化およびフレーム符号化における、それぞれの変換係数の特性に基づいて、走査順序を決定することにより、符号化効率は向上する。
【０１５５】
上記において、符号化における走査順序の決定を例に説明したが、復号における逆走査順序についても同様である。
【０１５６】
なお、フィールド符号化方式とフレーム符号化方式との切替えに基づいて、走査が切り替えられてもよいが、変換係数の特性に基づく走査の切替えにより、走査の切替えの精度は、より向上する。
【０１５７】
図１４は、決定される走査順序の別の変形例を示す図である。
【０１５８】
最初に走査された変換係数ｘ１、ｘ２およびｘ３より、その絶対値の合計Ｓを算出する。そして、算出された合計Ｓが閾値より大きい場合、垂直方向への走査を優先する走査順序１３０７により、変換係数が走査される。そして、合計Ｓが閾値より大きくない場合、通常のジグザグスキャンによる走査順序１３０８により、変換係数が走査される。
【０１５９】
このような決定は、動画像に対応するフィールド符号化の変換係数の方が、静止画像に対応するフレーム符号化の変換係数より、比較的大きな値を示す傾向があることに基づく。よって、このような特性に基づいて、走査順序を決定することにより、符号化効率は向上する。
【０１６０】
ここで、フィールド符号化用の走査順序１３０７とジグザグスキャンの走査順序１３０８は、走査順序の決定に必要な最初の３個の変換係数の走査順序が異なる。このように走査順序の決定に必要な変換係数の走査順序が異なる場合であっても、走査順序の決定に必要な変換係数をバッファ等に読み込み、走査順序を決定した後に、読み込まれた変換係数を並び替えてもよい。または、決定された走査順序により、再度、走査してもよい。すなわち、走査順序の決定に必要な変換係数の走査順序は固定されていなくてもよい。
【０１６１】
上記において、符号化における走査順序の決定を例に説明したが、復号における逆走査順序についても同様である。
【０１６２】
図１５は、対象ブロックおよび周辺ブロックを示す概念図である。
【０１６３】
符号化対象ブロック１５０５に対し、左上に位置する周辺ブロック１５０１、上に位置する周辺ブロック１５０２、右上に位置する周辺ブロック１５０３、および、左に位置する周辺ブロック１５０４がある。ここで、左上の周辺ブロック１５０１、上の周辺ブロック１５０２、右上の周辺ブロック１５０３、および、左の周辺ブロック１５０４は、符号化されている。
【０１６４】
この場合、符号化対象ブロック１５０５の変換係数の走査順序は、符号化された周辺ブロックの変換係数、および、符号化対象ブロック１５０５において走査された変換係数１５０６に基づいて決定されてもよい。これにより、符号化対象ブロック１５０５において走査されていない変換係数が、決定された走査順序により走査される。
【０１６５】
例えば、周辺ブロックにおいて、高周波数に非ゼロ係数が多く含まれていれば、符号化対象ブロックにおいても、高周波数に非ゼロ係数が多く含まれている可能性が高い。このような特性に基づいて、走査順序を決定することにより、符号化効率は向上する。
【０１６６】
上記において、符号化における走査順序の決定を例に説明したが、復号における逆走査順序についても同様である。すなわち、復号対象ブロックの変換係数の逆走査順序は、復号された周辺ブロックの変換係数と逆走査された変換係数に基づいて決定されてもよい。
【０１６７】
先に示した例は、２つの走査を切替えることに焦点を当てたが、この技術は、２つ以上の走査の切替えに適用可能である。例えば、２つの異なる対応周波数選択走査が行われる同一スライス内で、２つの異なる周波数選択セグメンテーションパターンが用いられる場合、本発明は３つ以上の走査の切替えに適用可能である。追加の閾値を要してもよい。例えば、評価される各変換係数の値が大きければ大きいほど、周波数選択走査により走査される変換係数の数が多くなるようにしてもよい。
【０１６８】
本発明はまた、予め定められた走査の小さなセットから選択するのではなく、走査を決定するためにも適用できる。切替え対象の走査はまた、ランレングス符号化ではなく、他のタイプのエントロピー符号化に適応してもよい。量子化係数はエンコーダとデコーダの両方から知られているため、量子化が適用されれば、走査順序は、量子化係数に基づいて決定される。しかしながら、必ずしも量子化が適用される必要はない。
【０１６９】
本発明の他の実施の形態は、ハードウェアおよびソフトウェアを用いて、上述の様々な実施の形態を実施することに関係する。本発明の様々な実施の形態は、コンピュータ・デバイス（プロセッサ）を用いて実施または実行されてもよいことが分かる。コンピュータ・デバイスつまりプロセッサは、例えば汎用プロセッサ、デジタル信号プロセッサ（ＤＳＰ：Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）、特定用途向け集積回路（ＡＳＩＣ：Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ：Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）、または、他のプログラマブル論理回路等であってもよい。本発明の様々な実施の形態は、これらの装置を組み合わせて実行または具現化されてもよい。
【０１７０】
さらに、本発明の様々な実施の形態は、プロセッサ、または、ハードウェアで直接実行されるソフトウェアモジュールによって実施されてもよい。また、ソフトウェアモジュールを組み合わせたり、ハードウェアに実装したりすることも可能であってもよい。ソフトウェアモジュールは、例えば、ＲＡＭ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ  Ｅｒａｓａｂｌｅ  ａｎｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、フラッシュメモリ、レジスタ、ハードディスク、ＣＤ−ＲＯＭ、ＤＶＤ等、あらゆる種類のコンピュータ読み取り可能な記憶媒体に格納されてもよい。
【０１７１】
上記の例の大部分は、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣに基づく映像符号化方式との関連において概説され、用語は主に、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣの用語に関連する。しかしながら、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣに基づく符号化に関するこの用語および様々な実施の形態の説明は、本発明の原理および概念がそのような方式に限定されることを意図するものではない。また、Ｈ．２６４／ＭＰＥＧ−４  ＡＶＣ規格に準拠した符号化および復号の詳細な説明は、ここに説明した例示的な実施の形態のよりよい理解を意図したものであり、映像符号化におけるプロセスおよび機能に関し説明された特定の実施の形態に本発明が限定されると解釈するべきではない。しかしながら、ここに提案した改良は、説明された映像符号化に容易に適用可能である。さらに、本発明の概念もまた、現在ＪＶＴが検討しているＨ．２６４／ＭＰＥＧ−４  ＡＶＣ符号化の強化に容易に適用可能である。
【０１７２】
要約すると、本発明は、同じ画質を維持しつつ、符号化効率の面で映像符号化性能を高めることに関する。よって、符号化対象画像のブロックは、変換係数のブロックに変換される。いくつかの変換係数の値を用いて、２次元の係数ブロックを係数シーケンスとして直列に並べるときに使用される走査が決定される。決定された走査順序に従って、係数が走査され、さらに符号化のため入力される。同様にデコーダは、受信したシンタックス要素のシーケンスを復号した後に、そのシンタックス要素のシーケンスから係数ブロックを形成する目的で、変換係数値を利用して、適用される逆走査の順番を決定する。
【０１７３】
（実施の形態２）
上記実施の形態で示した画像符号化方法または画像復号方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【０１７４】
さらにここで、上記実施の形態で示した画像符号化方法および画像復号方法の応用例とそれを用いたシステムを説明する。
【０１７５】
図１６は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６〜ｅｘ１１０が設置されている。
【０１７６】
このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および、基地局ｅｘ１０６〜ｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ  Ｄｉｇｉｔａｌ  Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。
【０１７７】
しかし、コンテンツ供給システムｅｘ１００は図１６のような構成に限定されず、いずれかの要素を組み合わせて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６〜ｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【０１７８】
カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（Ｇｌｏｂａｌ  Ｓｙｓｔｅｍ  ｆｏｒ  Ｍｏｂｉｌｅ  Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ  Ｄｉｖｉｓｉｏｎ  Ｍｕｌｔｉｐｌｅ  Ａｃｃｅｓｓ）方式、もしくはＬＴＥ（Ｌｏｎｇ  Ｔｅｒｍ  Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ  Ｓｐｅｅｄ  Ｐａｃｋｅｔ  Ａｃｃｅｓｓ）の携帯電話機、または、ＰＨＳ（Ｐｅｒｓｏｎａｌ  Ｈａｎｄｙｐｈｏｎｅ  Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
【０１７９】
コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記実施の形態で説明したように符号化処理を行い、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号処理して再生する。
【０１８０】
なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【０１８１】
また、これら符号化処理および復号処理は、一般的にコンピュータｅｘ１１１および各機器が有するＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）ｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、画像符号化用および画像復号用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化処理および復号処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
【０１８２】
また、ストリーミングサーバｅｘ１０３は複数のサーバまたは複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【０１８３】
以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号し、再生することができ、特別な権利または設備を有さないユーザでも個人放送を実現できる。
【０１８４】
このコンテンツ供給システムを構成する各機器の符号化、復号には上記実施の形態で示した画像符号化方法あるいは画像復号方法を用いるようにすればよい。
【０１８５】
その一例として携帯電話ｅｘ１１４について説明する。
【０１８６】
図１７は、上記実施の形態で説明した画像符号化方法と画像復号方法を用いた携帯電話ｅｘ１１４を示す図である。携帯電話ｅｘ１１４は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ６０１、ＣＣＤカメラ等の映像、静止画を撮ることが可能なカメラ部ｅｘ６０３、カメラ部ｅｘ６０３で撮影した映像、アンテナｅｘ６０１で受信した映像等が復号されたデータを表示する液晶ディスプレイ等の表示部ｅｘ６０２、操作キーｅｘ６０４群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ｅｘ６０８、音声入力をするためのマイク等の音声入力部ｅｘ６０５、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータまたは復号されたデータを保存するための記録メディアｅｘ６０７、携帯電話ｅｘ１１４に記録メディアｅｘ６０７を装着可能とするためのスロット部ｅｘ６０６を有している。記録メディアｅｘ６０７はＳＤカード等のプラスチックケース内に電気的に書換えおよび消去が可能な不揮発性メモリであるＥＥＰＲＯＭの一種であるフラッシュメモリ素子を格納したものである。
【０１８７】
さらに、携帯電話ｅｘ１１４について図１８を用いて説明する。携帯電話ｅｘ１１４は表示部ｅｘ６０２および操作キーｅｘ６０４を備えた本体部の各部を統括的に制御するようになされた主制御部ｅｘ７１１に対して、電源回路部ｅｘ７１０、操作入力制御部ｅｘ７０４、画像符号化部ｅｘ７１２、カメラインターフェース部ｅｘ７０３、ＬＣＤ（Ｌｉｑｕｉｄ  Ｃｒｙｓｔａｌ  Ｄｉｓｐｌａｙ）制御部ｅｘ７０２、画像復号部ｅｘ７０９、多重分離部ｅｘ７０８、記録再生部ｅｘ７０７、変復調回路部ｅｘ７０６および音声処理部ｅｘ７０５が同期バスｅｘ７１３を介して互いに接続されている。
【０１８８】
電源回路部ｅｘ７１０は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付デジタル携帯電話ｅｘ１１４を動作可能な状態に起動する。
【０１８９】
携帯電話ｅｘ１１４は、ＣＰＵ、ＲＯＭおよびＲＡＭ等でなる主制御部ｅｘ７１１の制御に基づいて、音声通話モード時に音声入力部ｅｘ６０５で集音した音声信号を音声処理部ｅｘ７０５によってデジタル音声データに変換し、これを変復調回路部ｅｘ７０６でスペクトラム拡散処理し、送受信回路部ｅｘ７０１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ６０１を介して送信する。また携帯電話ｅｘ１１４は、音声通話モード時にアンテナｅｘ６０１で受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変復調回路部ｅｘ７０６でスペクトラム逆拡散処理し、音声処理部ｅｘ７０５によってアナログ音声データに変換した後、音声出力部ｅｘ６０８を介してこれを出力する。
【０１９０】
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーｅｘ６０４の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ７０４を介して主制御部ｅｘ７１１に送出される。主制御部ｅｘ７１１は、テキストデータを変復調回路部ｅｘ７０６でスペクトラム拡散処理し、送受信回路部ｅｘ７０１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ６０１を介して基地局ｅｘ１１０へ送信する。
【０１９１】
データ通信モード時に画像データを送信する場合、カメラ部ｅｘ６０３で撮像された画像データを、カメラインターフェース部ｅｘ７０３を介して画像符号化部ｅｘ７１２に供給する。また、画像データを送信しない場合には、カメラ部ｅｘ６０３で撮像した画像データをカメラインターフェース部ｅｘ７０３およびＬＣＤ制御部ｅｘ７０２を介して表示部ｅｘ６０２に直接表示することも可能である。
【０１９２】
画像符号化部ｅｘ７１２は、本願発明で説明した画像符号化装置を備えた構成であり、カメラ部ｅｘ６０３から供給された画像データを上記実施の形態で示した画像符号化装置に用いた符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ｅｘ７０８に送出する。また、このとき同時に携帯電話ｅｘ１１４は、カメラ部ｅｘ６０３で撮像中に音声入力部ｅｘ６０５で集音した音声を、音声処理部ｅｘ７０５を介してデジタルの音声データとして多重分離部ｅｘ７０８に送出する。
【０１９３】
多重分離部ｅｘ７０８は、画像符号化部ｅｘ７１２から供給された符号化画像データと音声処理部ｅｘ７０５から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ｅｘ７０６でスペクトラム拡散処理し、送受信回路部ｅｘ７０１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ６０１を介して送信する。
【０１９４】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナｅｘ６０１を介して基地局ｅｘ１１０から受信した受信データを変復調回路部ｅｘ７０６でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ｅｘ７０８に送出する。
【０１９５】
また、アンテナｅｘ６０１を介して受信された多重化データを復号するには、多重分離部ｅｘ７０８は、多重化データを分離することにより画像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ７１３を介して当該符号化画像データを画像復号部ｅｘ７０９に供給すると共に当該音声データを音声処理部ｅｘ７０５に供給する。
【０１９６】
次に、画像復号部ｅｘ７０９は、本願で説明した画像復号装置を備えた構成であり、画像データのビットストリームを上記実施の形態で示した符号化方法に対応した復号方法で復号することにより再生動画像データを生成し、これを、ＬＣＤ制御部ｅｘ７０２を介して表示部ｅｘ６０２に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ｅｘ７０５は、音声データをアナログ音声データに変換した後、これを音声出力部ｅｘ６０８に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
【０１９７】
なお、上記システムの例に限られず、最近は衛星、地上波によるデジタル放送が話題となっており、図１９に示すようにデジタル放送用システムにも上記実施の形態の少なくとも画像符号化装置または画像復号装置を組み込むことができる。具体的には、放送局ｅｘ２０１では音声データ、映像データまたはそれらのデータが多重化されたビットストリームが電波を介して通信または放送衛星ｅｘ２０２に伝送される。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、衛星放送受信設備をもつ家庭のアンテナｅｘ２０４はこの電波を受信し、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７などの装置はビットストリームを復号してこれを再生する。また、記録媒体であるＣＤおよびＤＶＤ等の記録メディアｅｘ２１５、ｅｘ２１６に記録した画像データと、音声データが多重化されたビットストリームを読み取り、復号するリーダ／レコーダｅｘ２１８にも上記実施の形態で示した画像復号装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示される。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に画像復号装置を実装し、これをテレビのモニタｅｘ２１９で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでも良い。また、アンテナｅｘ２０５を有する車ｅｘ２１０で、衛星ｅｘ２０２または基地局等から信号を受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。
【０１９８】
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した音声データ、映像データまたはそれらのデータが多重化された符号化ビットストリームを読み取り復号する、または、記録メディアｅｘ２１５に、音声データ、映像データまたはそれらのデータを符号化し、多重化データとして記録するリーダ／レコーダｅｘ２１８にも上記実施の形態で示した画像復号装置または画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示される。また、符号化ビットストリームが記録された記録メディアｅｘ２１５により、他の装置およびシステム等は、映像信号を再生することができる。例えば、他の再生装置ｅｘ２１２は、符号化ビットストリームがコピーされた記録メディアｅｘ２１４を用いて、モニタｅｘ２１３に映像信号を再生することができる。
【０１９９】
また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に画像復号装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでもよい。
【０２００】
図２０は、上記実施の形態で説明した画像復号方法および画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像情報のビットストリームを取得、または、出力するチューナｅｘ３０１と、受信した符号化データを復調する、または、生成された符号化データを外部に送信するために変調する変調／復調部ｅｘ３０２と、復調した映像データと音声データとを分離する、または、符号化された映像データと音声データとを多重化する多重／分離部ｅｘ３０３を備える。また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号する、または、それぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５を有する信号処理部ｅｘ３０６と、復号された音声信号を出力するスピーカｅｘ３０７、復号された映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインターフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インターフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。
【０２０１】
まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得したデータを復号し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した映像データ、音声データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号し、分離した映像データを映像信号処理部ｅｘ３０５で上記実施の形態で説明した復号方法を用いて復号する。復号した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から符号化された符号化ビットストリームを読み出してもよい。次に、テレビｅｘ３００が音声信号および映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８〜ｅｘ３２１は図示しているように複数備えていてもよいし、一つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２と多重／分離部ｅｘ３０３との間等でもシステムのオーバフローおよびアンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【０２０２】
また、テレビｅｘ３００は、放送および記録メディア等から音声データおよび映像データを取得する以外に、マイクおよびカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は、上記の符号化処理、多重化、および、外部出力ができる構成として説明したが、これらのすべての処理を行うことはできず、上記受信、復号処理、および、外部出力のうちいずれかのみが可能な構成であってもよい。
【０２０３】
また、リーダ／レコーダｅｘ２１８で記録メディアから符号化ビットストリームを読み出す、または、書き込む場合には、上記復号処理または符号化処理はテレビｅｘ３００およびリーダ／レコーダｅｘ２１８のうちいずれかで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８とが互いに分担して行ってもよい。
【０２０４】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図２１に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１〜ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しおよび書き込みの処理は、システム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成および追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３およびサーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は、例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【０２０５】
以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【０２０６】
図２２に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、あらかじめグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録および再生を行う装置は、情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３の内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した符号化データの読み書きを行う。
【０２０７】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりするなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【０２０８】
また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図２０に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１および携帯電話ｅｘ１１４等でも考えられる。また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器および復号器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号器のみの受信端末という３通りの実装形式が考えられる。
【０２０９】
このように、上記実施の形態で示した画像符号化方法あるいは画像復号方法を上述したいずれの機器およびシステムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
【０２１０】
また、本発明は、上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【０２１１】
（実施の形態３）
上記各実施の形態で示した画像符号化方法および装置、画像復号方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図２３に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１〜ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【０２１２】
例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３およびストリームコントローラｅｘ５０４等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ  Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７およびカメラｅｘ１１３等からＡＶ信号の入力を受け付ける。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ、信号処理部ｅｘ５０７に送られる。信号処理部ｅｘ５０７は、音声信号の符号化および／または映像信号の符号化を行う。ここで映像信号の符号化処理は、上記実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力されたビットストリームは、基地局ｅｘ１０７に向けて送信されたり、または、記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。
【０２１３】
また、例えば復号処理を行う場合には、ＬＳＩｅｘ５００は、制御部ｅｘ５０１の制御に基づいて、ストリームＩ／Ｏｅｘ５０６によって基地局ｅｘ１０７を介して得た符号化データ、または、記録メディアｅｘ２１５から読み出して得た符号化データを一旦メモリｅｘ５１１等に蓄積する。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られる。信号処理部ｅｘ５０７は、音声データの復号および／または映像データの復号を行う。ここで映像信号の復号処理は、上記実施の形態で説明した復号処理である。さらに、場合により復号された音声信号と復号された映像信号を同期して再生できるようそれぞれの信号を一旦バッファｅｘ５０８等に蓄積するとよい。復号された出力信号は、メモリｅｘ５１１等を適宜介しながら、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５およびテレビｅｘ３００等の各出力部から出力される。
【０２１４】
なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファｅｘ５０８も一つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。
【０２１５】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０２１６】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ、または、ＬＳＩ内部の回路セルの接続および設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【０２１７】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【０２１８】
以上、本発明に係る画像符号化方法、画像符号化装置、画像復号方法および画像復号装置について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を当該実施の形態に施した形態、および、異なる実施の形態における構成要素およびステップ等を組み合わせて構築される別の形態も、本発明の範囲内に含まれる。
【産業上の利用可能性】
【０２１９】
本発明は、画像符号化装置または画像復号装置として、例えば、画像の記録装置および再生装置等に利用することができる。
【符号の説明】
【０２２０】
１００、４０１  画像符号化装置
１０５  減算器
１１０、５１０  変換／量子化部
１２０、２２０  逆量子化／逆変換部
１２５、２２５  加算器
１３０、２３０  デブロッキングフィルタ
１４０、２４０、ｅｘ５１１  メモリ
１５０、２６０  フレーム内予測部
１６０、２７０  動き補償予測部
１７０  動き検出部
１８０、２８０  イントラ／インター切替え器
１９０、５９０  エントロピー符号化部
２００、４０２  画像復号装置
２９０  エントロピー復号部
３００、５０１、５０２、７０１、７０２、８１０、１０００、１１００、１１１０、１１２０、１３０１  ブロック
３０１、４１１、４２１、４７１、４８１、１３０３、１３０４、１３０５、１５０６  変換係数
９１２、１０１０  ジグザグスキャン
３５０ａ、３５０ｂ、６０５、１３０２、１３０６、１３０７、１３０８  走査順序
４０９、４９９  画素
４１０、４９０  変換部
４２０  走査部
４３０  エンコーダ
４３１、４５１  画像データ
４４０、４６０  決定部
４５０  媒体
４７０  デコーダ
４８０  ブロック形成部
５５０  周波数選択エンコーダ
８１１、８２１、１０１１、１０２１  ストリーム
８２０、９２０  周波数選択符号化ブロック
９１０  非周波数選択符号化ブロック
９２２、１０２０  周波数選択走査
１０３０  走査
１１０１  レベル
１５０１、１５０２、１５０３、１５０４  周辺ブロック
１５０５  符号化対象ブロック
ｅｘ１００  コンテンツ供給システム
ｅｘ１０１  インターネット
ｅｘ１０２  インターネットサービスプロバイダ
ｅｘ１０３  ストリーミングサーバ
ｅｘ１０４  電話網
ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０  基地局
ｅｘ１１１  コンピュータ
ｅｘ１１２  ＰＤＡ
ｅｘ１１３、ｅｘ１１６  カメラ
ｅｘ１１４  カメラ付デジタル携帯電話（携帯電話）
ｅｘ１１５  ゲーム機
ｅｘ１１７  マイク
ｅｘ２００  デジタル放送用システム
ｅｘ２０１  放送局
ｅｘ２０２  放送衛星（衛星）
ｅｘ２０３  ケーブル
ｅｘ２０４、ｅｘ２０５、ｅｘ６０１  アンテナ
ｅｘ２１０  車
ｅｘ２１１  カーナビゲーション（カーナビ）
ｅｘ２１２  再生装置
ｅｘ２１３、ｅｘ２１９  モニタ
ｅｘ２１４、ｅｘ２１５、ｅｘ２１６、ｅｘ６０７  記録メディア
ｅｘ２１７  セットトップボックス（ＳＴＢ）
ｅｘ２１８  リーダ／レコーダ
ｅｘ２２０  リモートコントローラ
ｅｘ２３０  情報トラック
ｅｘ２３１  記録ブロック
ｅｘ２３２  内周領域
ｅｘ２３３  データ記録領域
ｅｘ２３４  外周領域
ｅｘ３００  テレビ
ｅｘ３０１  チューナ
ｅｘ３０２  変調／復調部
ｅｘ３０３  多重／分離部
ｅｘ３０４  音声信号処理部
ｅｘ３０５  映像信号処理部
ｅｘ３０６、ｅｘ５０７  信号処理部
ｅｘ３０７  スピーカ
ｅｘ３０８、ｅｘ６０２  表示部
ｅｘ３０９  出力部
ｅｘ３１０、ｅｘ５０１  制御部
ｅｘ３１１、ｅｘ５０５、ｅｘ７１０  電源回路部
ｅｘ３１２  操作入力部
ｅｘ３１３  ブリッジ
ｅｘ３１４、ｅｘ６０６  スロット部
ｅｘ３１５  ドライバ
ｅｘ３１６  モデム
ｅｘ３１７  インターフェース部
ｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１、ｅｘ４０４、ｅｘ５０８  バッファ
ｅｘ４００  情報再生／記録部
ｅｘ４０１  光ヘッド
ｅｘ４０２  変調記録部
ｅｘ４０３  再生復調部
ｅｘ４０５  ディスクモータ
ｅｘ４０６  サーボ制御部
ｅｘ４０７  システム制御部
ｅｘ５００  ＬＳＩ
ｅｘ５０２  ＣＰＵ
ｅｘ５０３  メモリコントローラ
ｅｘ５０４  ストリームコントローラ
ｅｘ５０６  ストリームＩ／Ｏ
ｅｘ５０９  ＡＶ  Ｉ／Ｏ
ｅｘ５１０  バス
ｅｘ６０３  カメラ部
ｅｘ６０４  操作キー
ｅｘ６０５  音声入力部
ｅｘ６０８  音声出力部
ｅｘ７０１  送受信回路部
ｅｘ７０２  ＬＣＤ制御部
ｅｘ７０３  カメラインターフェース部（カメラＩ／Ｆ部）
ｅｘ７０４  操作入力制御部
ｅｘ７０５  音声処理部
ｅｘ７０６  変復調回路部
ｅｘ７０７  記録再生部
ｅｘ７０８  多重分離部
ｅｘ７０９  画像復号部
ｅｘ７１１  主制御部
ｅｘ７１２  画像符号化部
ｅｘ７１３  同期バス
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ブロック単位に画像を符号化する画像符号化方法であって、
符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換ステップと、
前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定ステップと、
前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査ステップと、
前記１次元配列の変換係数列を符号化する符号化ステップとを含む
画像符号化方法。
【請求項２】
前記走査順序決定ステップでは、前記走査順序決定ステップで決定されるいずれの走査順序においても同じ走査順序で走査される最初の１個以上の変換係数に依存させて、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項３】
前記走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記走査順序を決定する
請求項２に記載の画像符号化方法。
【請求項４】
前記走査順序決定ステップでは、前記２次元配列の変換係数、および、既に符号化されたブロックの変換係数に依存させて、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項５】
前記走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみを走査する周波数選択走査による走査順序を含む、予め定められた複数の走査順序から走査順序を選択することにより、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項６】
前記走査順序決定ステップでは、前記２次元配列の変換係数から得られる値と、予め定められた閾値とを比較することにより、前記走査順序を決定する
請求項１に記載の画像符号化方法。
【請求項７】
前記画像符号化方法は、さらに、
前記走査順序決定ステップによる走査順序の決定を有効化し、かつ、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号を画像復号装置に送信する有効化ステップを含む
請求項１に記載の画像符号化方法。
【請求項８】
ブロック単位に画像を復号する方法であって、
復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号する復号ステップと、
復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する逆走査順序決定ステップと、
前記逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成する逆走査ステップと、
前記２次元配列の変換係数を２次元配列の画素値に逆変換する逆変換ステップとを含む
画像復号方法。
【請求項９】
前記逆走査順序決定ステップでは、前記逆走査順序決定ステップで決定されるいずれの逆走査順序においても同じ逆走査順序で逆走査される最初の１個以上の変換係数に依存させて、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１０】
前記逆走査順序決定ステップでは、前記最初の１個以上の変換係数のうち、１個以上の変換係数の絶対値の合計に依存させて、または、前記最初の１個以上の変換係数は２個以上の変換係数であり、前記２個以上の変換係数のうち、第１変換係数と第２変換係数とを比較することにより、前記逆走査順序を決定する
請求項９に記載の画像復号方法。
【請求項１１】
前記逆走査順序決定ステップでは、前記１次元配列の変換係数列、および、既に復号されたブロックの変換係数に依存させて、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１２】
前記逆走査順序決定ステップでは、前記２次元配列の変換係数のうち一部のみについて逆走査する周波数選択走査による逆走査順序を含む、予め定められた複数の逆走査順序から逆走査順序を選択することにより、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１３】
前記逆走査順序決定ステップでは、前記１次元配列の変換係数列から得られる値と、予め定められた閾値とを比較することにより、前記逆走査順序を決定する
請求項８に記載の画像復号方法。
【請求項１４】
前記画像復号方法は、さらに、
画像符号化装置により送信された、前記２次元配列の変換係数に依存させた走査順序の決定が有効化されたことを示す信号の受信をトリガーとして、前記逆走査順序決定ステップによる逆走査順序の決定を有効化する有効化ステップを含む
請求項８に記載の画像復号方法。
【請求項１５】
ブロック単位に画像を符号化する画像符号化装置であって、
符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、
前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、
前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、
前記１次元配列の変換係数列を符号化するエンコーダとを備える
画像符号化装置。
【請求項１６】
ブロック単位に画像を復号する画像復号装置であって、
復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、
復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、
逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、
前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える
画像復号装置。
【請求項１７】
ブロック単位に画像を符号化する集積回路であって、
符号化対象ブロックにおける２次元配列の画素値を２次元配列の変換係数に変換する変換部と、
前記２次元配列の変換係数に依存させて、前記２次元配列の変換係数を走査するための走査順序を決定する走査順序決定部と、
前記走査順序に従って、前記２次元配列の変換係数を順次走査することにより、１次元配列の変換係数列を生成する走査部と、
前記１次元配列の変換係数列を符号化するエンコーダとを備える
集積回路。
【請求項１８】
ブロック単位に画像を復号する集積回路であって、
復号対象ブロックに対応する符号化された１次元配列の変換係数列を復号するデコーダと、
復号された前記１次元配列の変換係数列に依存させて、前記１次元配列の変換係数列を２次元配列の変換係数に逆走査するための逆走査順序を決定する決定部と、
逆走査順序に従って、前記１次元配列の変換係数列を順次逆走査することにより、前記２次元配列の変換係数を生成するブロック形成部と、
前記２次元配列の変換係数を２次元配列の画素値に逆変換する変換部とを備える
集積回路。
【請求項１９】
請求項１に記載の画像符号化方法に含まれるステップをコンピュータに実行させる
プログラム。
【請求項２０】
請求項８に記載の画像復号方法に含まれるステップをコンピュータに実行させる
プログラム。
【手続補正３】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正の内容】
【図１】
2010050156.tif 000028
【図２】
2010050156.tif 000029
【図３Ａ】
2010050156.tif 000030
【図３Ｂ】
2010050156.tif 000031
【図４】
2010050156.tif 000032
【図５】
2010050156.tif 000033
【図６】
2010050156.tif 000034
【図７】
2010050156.tif 000035
【図８】
2010050156.tif 000036
【図９】
2010050156.tif 000037
【図１０】
2010050156.tif 000038
【図１１】
2010050156.tif 000039
【図１２Ａ】
2010050156.tif 000040
【図１２Ｂ】
2010050156.tif 000041
【図１３】
2010050156.tif 000042
【図１４】
2010050156.tif 000043
【図１５】
2010050156.tif 000044
【図１６】
2010050156.tif 000045
【図１７】
2010050156.tif 000046
【図１８】
2010050156.tif 000047
【図１９】
2010050156.tif 000048
【図２０】
2010050156.tif 000049
【図２１】
2010050156.tif 000050
【図２２】
2010050156.tif 000051
【図２３】
2010050156.tif 000052
【国際調査報告】
2010050156.tif 000053
2010050156.tif 000054
2010050156.tif 000055
2010050156.tif 000056
2010050156.tif 000057
2010050156.tif 000058
2010050156.tif 000059
2010050156.tif 000060