(57)【要約】【課題】動画像符号化における入力情報に対して、量子化を行う際の量子化計算用パラメータを適切に設定することにより符号化効率を向上させることを目的とする。【解決手段】パラメータ設定器１０３で様々な量子化計算用パラメータを設定し、設定した量子化計算用パラメータで量子化器１０２で量子化し、その結果得られる発生符号量Ｒと量子化歪み量Ｄから符号化コストＪを算出し、その符号化コストＪが最小化となるパラメータがもっとも符号化効率が高い量子化計算用パラメータとして量子化計算用パラメータ判定器１０７が選択する。【選択図】      図２
2006157881.tif 000002
【特許請求の範囲】
【請求項１】
入力された入力情報を量子化して量子化情報を得る量子化手段と、
前記量子化するときに用いる単数もしくは複数種類の量子化計算用パラメータを設定するパラメータ設定手段と、
前記量子化情報を可変長符号化した際に発生する発生符号量を算出する符号量算出手段と、
前記量子化情報の量子化歪み量を算出する量子化歪み算出手段と、
前記量子化歪み量と前記発生符号量から符号化コストを算出するコスト算出手段と、
前記設定する量子化計算用パラメータを変化させるように前記パラメータ設定手段を制御し、前記変化させた量子化計算用パラメータ毎に前記コスト算出手段によって符号化コストを算出し、前記算出した符号化コストの中で最小の符号化コストに対応する量子化計算用パラメータを選択するパラメータ探索手段と、
前記選択された量子化計算用パラメータを用いて量子化された量子化情報を可変長符号化する可変長符号化手段と、
を有する
ことを特徴とする可変長符号化装置。
【請求項２】
前記コスト算出手段は、前記量子化歪み量と前記発生符号量との線形和で前記符号化コストを算出する
ことを特徴とする請求項１記載の可変長符号化装置。
【請求項３】
前記量子化歪み算出手段は、
前記量子化情報を逆量子化して逆量子化情報を算出し、
前記逆量子化情報と前記量子化前の入力情報との差から量子化歪み量を算出する
ことを特徴とする請求項１または２記載の可変長符号化装置。
【請求項４】
前記入力情報は、変換手段で変換された変換係数であって、
前記量子化歪み算出手段は、
前記量子化情報を逆量子化して逆量子化情報を算出し、
前記逆量子化情報を逆変換して逆変換情報を算出し、
前記逆変換情報と前記変換前の入力情報との差から量子化歪み量を算出する
ことを特徴とする請求項１または２記載の可変長符号化装置。
【請求項５】
前記符号量算出手段は、
前記量子化情報、前記量子化計算用パラメータ、または、その両方を可変長符号化し、
前記可変長符号化するときに発生した符号量をカウントして前記発生符号量とする
ことを特徴とする請求項１または２記載の可変長符号化装置。
【請求項６】
前記量子化計算用パラメータは、前記入力情報が第１の量子化代表点に量子化されるか、もしくは、第２の量子化代表点に量子化されるか選択するための閾値である
ことを特徴とする請求項１から請求項５のうち少なくとも一項に記載の可変長符号化装置。
【請求項７】
前記第１の量子化代表点がゼロである場合、前記第２の量子化代表点に量子化されやすいように閾値を設定する
ことを特徴とする請求項６記載の可変長符号化装置。
【請求項８】
前記入力情報は所定の規則に基づいて順番に並べられ、
前記量子化計算用パラメータは、前記順番に並べられた入力情報の中で、ある順番の位置にある入力情報を孤立点とするか否か判断するための閾値であって、
前記量子化手段は、前記閾値により孤立点として判断された入力情報をゼロに量子化する
ことを特徴とする請求項１から請求項７のうち少なくとも一項に記載の可変長符号化装置。
【請求項９】
前記量子化計算用パラメータは、第１の量子化ステップのステップ幅を第２の量子化ステップのステップ幅（但し、第２の量子化ステップのステップ幅は、第１の量子化ステップのステップ幅より大きい）に変更するためのオフセットであって、
前記量子化手段は、
前記第２の量子化ステップで量子化することによりゼロに量子化された場合はゼロにし、また、前記第２の量子化ステップで量子化することにより非ゼロに量子化された場合は前記第１の量子化ステップで量子化する
ことを特徴とする請求項１から請求項８のうち少なくとも一項に記載の可変長符号化装置。
【請求項１０】
入力された入力情報を量子化して量子化情報を求め、
前記量子化するときに用いる単数もしくは複数種類の量子化計算用パラメータを設定し、
前記量子化情報を可変長符号化した際に発生する発生符号量を算出し、
前記量子化情報の量子化歪み量を算出し、
前記量子化歪み量と前記発生符号量から符号化コストを算出し、
前記設定する量子化計算用パラメータを変化させるように制御し、前記変化させた量子化計算用パラメータ毎に符号化コストを算出し、前記算出した符号化コストの中で最小の符号化コストに対応する量子化計算用パラメータを選択し、
前記選択された量子化計算用パラメータを用いて量子化された量子化情報を可変長符号化する
ことを特徴とする可変長符号化方法。
【請求項１１】
入力された入力情報を量子化して量子化情報を得る量子化機能と、
前記量子化するときに用いる単数もしくは複数種類の量子化計算用パラメータを設定するパラメータ設定機能と、
前記量子化情報を可変長符号化した際に発生する発生符号量を算出する符号量算出機能と、
前記量子化情報の量子化歪み量を算出する量子化歪み算出機能と、
前記量子化歪み量と前記発生符号量から符号化コストを算出するコスト算出機能と、
前記パラメータ設定機能における前記設定する量子化計算用パラメータを変化させるように制御し、前記変化させた量子化計算用パラメータ毎に前記コスト算出機能において符号化コストを算出し、前記算出した符号化コストの中で最小の符号化コストに対応する量子化計算用パラメータを選択するパラメータ探索機能と、
前記選択された量子化計算用パラメータを用いて量子化された量子化情報を可変長符号化する可変長符号化機能と、
をコンピュータによって実現する
ことを特徴とする可変長符号化方法のプログラム。
【請求項１２】
動画像の各画像を符号化する動画像符号化装置において、
前記入力した動画像の動きベクトルを検出する動き予測手段と、
前記検出した動きベクトルから動き補償を行い前記入力した画像との残差信号を得る動き補償手段と、
前記残差信号を変換係数に変換する変換手段と、
前記変換された変換係数を量子化して量子化情報を得る量子化手段と、
前記量子化するときに用いる単数もしくは複数種類の量子化計算用パラメータを設定するパラメータ設定手段と、
前記量子化情報を可変長符号化した際に発生する発生符号量を算出する符号量算出手段と、
前記量子化情報の量子化歪み量を算出する量子化歪み算出手段と、
前記量子化歪み量と前記発生符号量から符号化コストを算出するコスト算出手段と、
前記設定する量子化計算用パラメータを変化させるように前記パラメータ設定手段を制御し、前記変化させた量子化計算用パラメータ毎に前記コスト算出手段によって符号化コストを算出し、前記算出した符号化コストの中で最小の符号化コストに対応する量子化計算用パラメータを選択するパラメータ探索手段と、
前記選択された量子化計算用パラメータを用いて量子化された量子化情報及び前記動きベクトルを可変長符号化する可変長符号化手段と、
を有する
ことを特徴とする動画像符号化装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、高画質な動画像の可変長符号化を実現する可変長符号化装置に関するものである。
【背景技術】
【０００２】
動画像符号化技術として、ＭＰＥＧ（Ｍｏｖｉｎｇ  Ｐｉｃｔｕｒｅ  Ｅｘｐｅｒｔｓ  Ｇｒｏｕｐ）方式が実用化されている。ＭＰＥＧ方式は、動き補償予測、直交変換及び可変長符号化を基本としている。動き補償予測により原画像との残差信号を取得し、その残差信号を直交変換し変換係数を得る。その変換係数を目標とするビットレートに応じた量子化スケールで量子化して、量子化後の変換係数を可変長符号化する。
【０００３】
ＭＰＥＧ方式はＩＳＯ／ＩＥＣ（Ｈ．２６Ｘ系はＩＴＵ−Ｔ）で規格化されているが、この際、規格として定められている事項は復号化方式のみであって、符号化方式に関しては定められていない。すなわち、動き補償予測のための動きベクトル検出方法や量子化方法に関しては符号化器が独自に処理することが可能である。
【０００４】
例えば、ＩＳＯ／ＩＥＣ及びＩＴＵ−Ｔが共同で策定したＭＰＥＧ−４ＡＶＣ／Ｈ．２６４（以下、Ｈ．２６４）における逆量子化処理（残差信号４ｘ４）は以下のとおりである。
【数１】
2006157881.tif 000003
【０００５】
上記数１より、量子化の式は一般的には以下のように導出される。
【数２】
2006157881.tif 000004
【０００６】
ｏｆｆｓｅｔ（オフセット）は丸め用パラメータでＨ．２６４ではフレーム内予測ブロックで１／３、フレーム間予測ブロックで１／６で丸め演算されるようにオフセットの値を設定することを推奨している。一般的に丸め演算は１／２が多いが、整数直交変換係数の分布がラプラス分布に似ていること、さらにはフレーム間予測ブロックの係数の方がフレーム内予測ブロックよりもラプラス分布の広がりが狭く急峻であることから上記の値が経験的に設定されている。しかしながら、シーケンス単位あるいはマクロブロック単位で整数直交変換係数がラプラス分布に近似できるとは限らず、上記オフセットを一意に決めることは困難である。
【０００７】
一方、非特許文献１では周波数の高域成分のうちパワーの小さい係数を切り捨てることにより、発生符号量を抑え、低域成分の係数を細かく量子化できる手法を提案している。しかし、単純にシーケンス全体に一様に上記処理を適用すると解像度が落ちたボケを含んだ画像となってしまう問題があり、上記処理を適用するか否かマクロブロック単位で適応的に制御する必要がある。
【非特許文献１】“周波数依存デッドゾーンつき量子化によるＡＶＣの画質改善”，２００４年電子情報通信学会総合大会
【発明の開示】
【発明が解決しようとする課題】
【０００８】
以上、説明したように量子化を制御するためのパラメータは様々あり、また、その組み合わせは多岐にわたる。その中から最適な量子化計算用パラメータを適応的に決めることができれば、量子化歪みの低減及び符号の発生を抑制することができ、符号化効率を向上させることができる。
【０００９】
そこで、本発明は、上記を鑑みてなされたものであって、量子化器に適切なパラメータを適応的に設定することで符号化効率を高めることができる可変長符号化装置及びその方法を提供することを目的とする。
【課題を解決するための手段】
【００１０】
本発明は、様々な量子化計算用パラメータを設定し、その結果得られる発生符号量と量子化歪み量から符号化コストを算出し、その符号化コストが最小化となる量子化計算用パラメータが、最も符号化コストが高い量子化計算用パラメータとして選択する。
【発明の効果】
【００１１】
本発明によれば、符号化効率を向上させる量子化計算用パラメータを適応的に設定することが可能となる。
【発明を実施するための最良の形態】
【００１２】
以下、図面を参照して、本発明に係る動画像符号化装置の実施形態を説明する。
【００１３】
（第１の実施形態）
（１）動画像符号化装置の処理内容
図１は、本発明の第１の実施形態に係る動画像符号化装置の概略的な処理の流れを示す図である。この動画像符号化装置は、例としてＨ．２６４を採用している。なお、ＩＳＯやＩＴＵ−Ｔで標準化が行われたＭＰＥＧ−１／２／４、Ｈ．２６１／２６２／２６３なども同様の処理フローで符号化処理が行われる。
【００１４】
入力画像００１が、動き予測器００２及び動き補償器００３に入力される。
【００１５】
動き予測器００２では、動きベクトル検出が行われ、動き補償器００３では検出された動きベクトルから動き補償を行い、入力画像との残差信号を得る。
【００１６】
残差信号は変換器００５で変換された後、量子化器００６で量子化される。この量子化処理については、後から詳しく説明する。
【００１７】
量子化後の変換係数及び動き予測器００２で検出された動きベクトルが可変長符号化器００９に入力されて可変長符号化され、ビットストリーム０１０として出力される。
【００１８】
量子化後の変換係数は前述の動き予測器００２及び動き補償器００３で必要となる参照フレームを作成するために、逆量子化器００７で逆量子化され、逆変換器００８で逆変換される。得られた復号残差信号から復号画像は再構成され、参照フレームメモリ００４に保存されて前述の動き予測器００２及び動き補償器００３で用いられる。
【００１９】
（２）量子化処理
図１におけるブロック０１１で示される変換器００５及び量子化器００６を含む部分を抜き出して、詳細な処理内容を述べる。
【００２０】
図２は、本実施形態に係る動画像符号化装置における量子化処理を示す図である。
【００２１】
動き補償器００３からの残差信号が変換器１０１に入力されて変換が施され、変換係数を得る。この変換としては、Ｈ．２６４の場合には、整数型離散コサイン変換が挙げられる。
【００２２】
変換係数は量子化器１０２に入力されて量子化される。この量子化方法は、背景技術で説明した技術が用いられる。
【００２３】
その量子化処理を決定する量子化計算用パラメータはパラメータ設定器１０３で設定される。パラメータ設定器１０３で設定される量子化計算用パラメータを以下で述べる。なお、この量子化計算用パラメータは、一般的な技術用語である「量子化パラメータ」とは異なる用語である。
【００２４】
（２−１）量子化計算用パラメータ
量子化計算用パラメータとしては、例えば、下記に示すラウンディングオフセット、デッドゾーンオフセット、孤立点に関する量子化計算用パラメータ等が挙げられる。
【００２５】
（２−１−１）ラウンディングオフセット
本実施形態では、Ｈ．２６４を採用しているため、量子化器１０２では一般に数２に示される式を用いたデッドゾーン付量子化が行われる。「デッドゾーン付量子化」とは、図５に示すように入力信号がゼロでない場合でも、量子化により出力値がゼロになるゾーンがある量子化方法である。
【００２６】
但し、通常は図５のように切捨て＝デッドゾーンというわけではなく、図６に示すようにラウンディングオフセットとして、丸め演算するためのパラメータを設定する。数２におけるオフセットがこのラウンディングオフセットにあたる。一般的なＨ．２６４符号化装置では定数として設定されているラウンディングオフセット（イントラ予測マクロブロックで１／３に、インター予測マクロブロックで１／６）を、本実施形態ではパラメータ設定器１０３で量子化計算用パラメータとして適応的に変更して設定する。この設定方法は、下記で説明する。
【００２７】
（２−１−２）デッドゾーンオフセット
さらに、図７に示すようにデッドゾーンの範囲のみを適応的に設定するための量子化計算用パラメータとしてデッドゾーンオフセットを用意し、パラメータ設定器１０３で設定する。この設定方法は、下記で説明する。
【数３】
2006157881.tif 000005
【００２８】
上記ラウンディングオフセットとの違いは数３に示されるように通常の量子化をした結果、ゼロに量子化されてしまった場合にのみｄｅａｄｚｏｎｅｏｆｆｓｅｔを設定して再度量子化処理を行い、オフセットではゼロに量子化されてしまったものを拾い直すことを特徴としている。これはパワーの小さい周波数の広域成分の保存するための処理である。したがって、パワーは小さいが画像の性質上重要な情報であるグレインノイズを保存することが可能となる。
【００２９】
（２−１−３）孤立点に関する量子化計算用パラメータ
上記デッドゾーンオフセットを導入すると、高域成分で量子化後の係数がゼロにならない場合が多く発生する。
【００３０】
例えば、図８の左側の図に示すような４ｘ４ブロック（ジグザグスキャン）において量子化後の変換係数が、図８（中央の図）に示すようにゼロ係数が連続した後、一点だけ非ゼロ係数（以下、孤立点と呼ぶ）が存在するような状況が発生しやすい。変換係数はジグザグスキャン順に非ゼロである最後の係数までならべてから可変長符号化されるため、同じ非ゼロ係数を符号化するとしても孤立点か否かで大きく発生符号量が変わる。
【００３１】
そこで、図８の右側の図に示すように孤立点をゼロに量子化してしまう（以下、「孤立点除去」と呼ぶ）ことで発生符号量を大きく削除することが可能となる。特にデッドゾーンオフセットを導入する場合は孤立点が生じやすいため、孤立点除去は重要であり、符号化効率の向上に大きく寄与する。
【００３２】
但し、量子化歪みも当然発生するため単純に孤立点除去できない。特に連続したゼロの数が１あるいは２程度であったり、孤立点の係数の値が大きな値であったりした場合は、発生符号量の削減効果も低いうえ、量子化誤差も増大して符号化効率が逆に下がってしまう。そこで、孤立点と判断するための間に存在するゼロの数（距離）及び孤立点とみなされた係数をゼロに量子化するか否かの閾値をパラメータ設定器１０３で適応的に量子化計算用パラメータとして設定する。この設定方法は、下記で説明する。
【００３３】
（２−１−４）第１の量子化ステップを第２の量子化ステップに変更するためのオフセット
量子化計算用パラメータとしては、第１の量子化ステップを第２の量子化ステップに変更するためのオフセットを設定できる。但し、第２の量子化ステップのステップ幅は、第１の量子化ステップのステップ幅より大きいとする。
【００３４】
図９に示すように、第１の量子化ステップのステップ幅が例えば、０．５Ｑであり、第２の量子化ステップのステップ幅が例えば、１．０Ｑとすると、第２の量子化ステップで量子化することによりゼロに量子化された場合はゼロで行う。一方、非ゼロに量子化された場合は第１の量子化ステップで量子化する。
【００３５】
この場合に、量子化計算用パラメータとしては、第１の量子化ステップのステップ幅と第２の量子化ステップのステップ幅の差（オフセット）である０．５Ｑとする。
【００３６】
これにより、周波数の高域成分のうちパワーの小さい係数を切り捨てることにより、発生符号量を抑え、低域成分の係数を細かく量子化できる。
【００３７】
（２−１−５）スケーリングリストの値の最適化
特に本実施形態におけるＨ．２６４では、スケーリングリストの値を量子化計算用パラメータとして最適化することも可能である。通常は、デフォルトのスケーリングリストを使い、これは復号化器内部で所持しているデータであるためスケーリングリストの係数を符号化するオーバーヘッドはない。
【００３８】
しかし、デフォルトではなくスケーリングリストの係数を符号化するオーバーヘッドがあったとしても、より符号化効率を高められる場合もある。本実施形態では、スケーリングリストの係数を符号化するオーバーヘッドも含めて符号化効率を向上させる量子化計算用パラメータを設定できるため、デフォルトのスケーリングリストの代わりにオリジナルなスケーリングリストを使うことで符号化効率を向上させることが可能となる。
【００３９】
（２−１−６）その他
さらには、独自規格として、例えばラウンディングオフセットも符号化する場合には、それにかかる発生符号量も含めて符号化効率の高い量子化計算用パラメータを設定することが可能である。
【００４０】
（２−２）量子化計算用パラメータの設定方法
以上で述べたようにパラメータ設定器１０３で、様々な量子化計算用パラメータを設定することで自由度の高い量子化制御が可能となる。但し、いずれの量子化計算用パラメータを設定すれば符号化効率（すなわち、符号化コスト）に寄与できるかは未知であり、容易に設定することはできない。そこで、本実施形態ではラグランジュの未定乗数法に基づくレートー歪み最適化を用いて、量子化計算用パラメータを設定する。
【００４１】
発生符号量をＲ、量子化歪み量をＤ、λは量子化スケールに依存するラグランジュ乗数として、
【数４】
2006157881.tif 000006
【００４２】
と示せるラグランジュコストＪを最小化する量子化計算用パラメータが、符号化効率がもっとも高いパラメータとして設定する。
【００４３】
つまり様々な量子化計算用パラメータで処理した結果、得られる各々の発生符号量Ｒ及び量子化歪み量Ｄから、上記ラグランジュコストＪが最小となる量子化計算用パラメータが最も符号化効率が高いパラメータであるとして決定することができる。
【００４４】
上記を実現するために必要なラグランジュコストＪは、符号量算出器１０４で発生符号量Ｒを算出し、量子化歪み算出器１０５で量子化歪み量Ｄを算出した結果からコスト算出器１０７で上記数４の線形和の式から算出される。なお、符号量算出器１０４及び量子化歪み算出器１０５の詳細は後述する。
【００４５】
コスト算出器１０６では、得られたグランジュ符号化コストＪ及び量子化器１０２から得られる符号化データは、現時点での最小なラグランジュコストＪとその際の符号化結果を保存している符号化データ保存メモリ２１１（図３参照）に入力される。そして、現時点での最小なラグランジュコストＪと今、得られたラグランジュコストＪとの比較演算が行われ、より値が小さいラグランジュコストＪとその際の符号化結果が保存される。
【００４６】
（２−３）量子化計算用パラメータ判定器１０８の役割
量子化計算用パラメータ判定器１０８は、新たな量子化計算用パラメータをパラメータ設定器１０３に設定させるか否かを判定する。設定させる場合はパラメータ設定器１０３に処理が移り、新たな量子化計算用パラメータを量子化器１０２に設定して量子化を行い、最終的にラグランジュコストＪを算出、比較することになる。設定させない場合、量子化のループ処理を終了し、次の処理に移行する。
【００４７】
すなわち、量子化計算用パラメータ判定器１０８は、図２のフローチャートに示すようなループ処理を行う。まず、初期値である量子化計算用パラメータをパラメータ設定器１０３によって設定して、その量子化計算用パラメータを用いて変換係数を量子化器１０２で量子化する。次に、量子化された変換係数から符号量算出器１０４で発生符号量Ｒを求め、また、量子化歪み算出器１０５で量子化歪み量Ｄを求める。コスト算出器１０６で符号化コストであるラグランジュコストＪを算出し、符号化コストの低いラグランジュコストＪとその際の符号化結果を符号化データ保存メモリ２１１に記憶する。そして、量子化計算用パラメータ判定器１０８は、パラメータ設定器１０３に対し量子化計算用パラメータの設定を順番に変えていくように制御して、量子化計算用パラメータ毎にラグランジュコストＪを順番に算出する。そして、所定回数行ったループ処理の中から最もラグランジュコストＪを有する量子化計算用パラメータを最適な量子化計算用パラメータとする。すなわち、符号化データ保存メモリ２１１には、符号化コストの低いラグランジュコストＪとその際の符号化結果が記憶されている。このループ処理を行う回数、すなわち、設定する量子化計算用パラメータの個数は、予め回数を決めていてもよく、また、時間によって区切ってもよい。
【００４８】
この量子化のループ処理の単位はマクロブロック単位であっても良いし、係数単位であっても良いし、フレーム単位であっても良いし、シーケンス単位であっても良い。マクロブロック単位で量子化のループを行えば、より細かく量子化計算用パラメータを最適化できるためシーケンス単位で行う場合に比べて、符号化効率の向上が見込める。
【００４９】
なお、上記で説明した中の一種類の量子化計算用パラメータで上記ループ処理を行ってもよく、また、複数種類の量子化計算用パラメータを一度に上記ループ処理を行ってもよい。互いに依存関係のある量子化計算用パラメータを一度に処理すれば、符号化にかかる計算コストが低くなる。
【００５０】
量子化のループ処理を終了し、次の処理に移行する場合、符号化データ保存メモリ２１１（図３参照）に保存されている符号化データが、実際に符号化されたデータとして出力される。この際の符号化データには量子化された係数のみならず、量子化に用いられた量子化計算用パラメータが含まれる場合もある。
【００５１】
（２−４）符号量算出器１０４及び量子化歪み算出器１０５の処理
符号量算出器１０４及び量子化歪み算出器１０５の詳細な処理について、図３を用いて説明して、発生符号量Ｒ及び量子化歪み量Ｄの算出方法を説明する。
【００５２】
（２−４−１）符号量算出器１０４の処理
図２における符号量算出器１０４を図３で示したものがブロック２０４であり、その内部には可変長符号化器２０６及び発生符号量カウント器２０７を備える。
【００５３】
パラメータ設定器２０３で設定された量子化計算用パラメータにしたがって、量子化器２０２で量子化された変換係数は、可変長符号化器２０６に入力され、実際に符号化処理が行われる。
【００５４】
可変長符号化器２０６で符号化された結果、得られたビットストリームは発生符号量カウンタ器２０７に入力され、正確な発生符号量Ｒがカウントされる。
【００５５】
カウントされた発生符号量Ｒは、コスト算出器２１２に入力されラグランジュコストＪを算出するための値に用いられる。
【００５６】
（２−４−２）量子化歪み算出器１０５の処理
図２における量子化歪み算出器１０５を図３で示したものがブロック２０５であり、その内部には逆量子化器２０８、逆変換器２０９及び歪み算出器２１０を備える。
【００５７】
パラメータ設定器２０３で設定された量子化計算用パラメータにしたがって、量子化器２０２で量子化された変換係数は逆量子化器２０８に入力され、逆量子化処理が行われ、その結果が逆変換器２０９に入力される。
【００５８】
逆変換器２０９で逆変換されて得られた復号残差信号は、歪み算出器２１０に入力される。
【００５９】
歪み算出器２１０で、符号化前の残差信号と復号後の残差信号の差分の２乗和を算出し、正確な量子化歪み量Ｄを算出する。算出された量子化歪み量Ｄはコスト算出器２１２に入力されラグランジュコストＪを算出するための値に用いられる。
【００６０】
（２−４−３）まとめ
上述のように符号化コストはかかるものの正確な発生符号量Ｒ及び量子化歪み量Ｄを算出することで、最適な量子化計算用パラメータを設定することができる。
【００６１】
なお、本実施形態では符号量算出器２０４の内部に可変長符号化器２０６を備えており、そこで一度符号化が行われ、そのデータを符号化データ保存メモリ２１１に蓄える。これにより、量子化計算用パラメータ判定器１０７で最終的に決まった量子化計算用パラメータでの符号化結果を出力することで、決定された量子化計算用パラメータで再度符号化するという無駄な処理を省くことが可能となる。すなわち、図１における可変長符号化器００９による処理が軽減される。
【００６２】
（第２の実施形態）
発生符号量Ｒ及び量子化歪み量Ｄの算出方法に関する第２の実施形態は、符号化にかかる計算コストを低減した手法である。
【００６３】
図４で示されるブロック３０４が図２における符号量算出器１０４であり、図４で示されるブロック３０５が図２における量子化歪み算出器１０５である。
【００６４】
発生符号量Ｒ及び量子化歪み量Ｄを正確に算出すると計算コストが増大するため、発生符号量を本実施形態では、特願２００４−９６７６３に示される低計算コストでラグランジュの未定乗数法に基づくレートー歪み最適化を実現する方法を採用する。
【００６５】
符号量算出器３０４内部に変換係数カウント器３０６を有し、量子化後の変換係数の非ゼロである係数の値をカウントして発生符号量を推定し、量子化歪み算出器３０５内部に量子化誤差カウント器３０７を有し、量子化の際の剰余をカウントして量子化歪み量を推定することで計算コストの低減を図る。
【００６６】
第１の実施形態における発生符号量の算出に比べて、可変長符号化処理を必要としないため計算コストは低い。また、第１の実施形態における量子化歪み量の算出に比べて、逆量子化、逆変換処理を必要としないため計算コストは低い。
【００６７】
なお、本実施形態では前述の第１の実施形態とは異なり、符号量算出器３０４に可変長符号化器を含まないため、図１における可変長符号化器００９における処理を軽減することはできない。但し、量子化器３０２で量子化された符号化データを符号化データ保存メモリ３０８に保存することで、量子化計算用パラメータ判定器３１０で最終的に決まった量子化計算用パラメータで量子化処理をやり直す必要なく、図１における可変長符号化器００９に符号化データを入力できるため、量子化器３０２の処理量を軽減することができる。
【００６８】
（変更例）
本発明は上記各実施形態に限らず、その主旨を逸脱しない限り種々に変更することができる。また、上述の実施の形態に多様な変更または改良を加えることができる。
【００６９】
例えば、上記各実施形態ではＨ．２６４を採用しているが、ＭＰＥＧ−１／２／４といった動画像はもちろんのこと、静止画像であるＪＰＥＧ、ＪＰＥＧ２０００を用いた場合も同様な成果が得られ、Ｈ．２６４に限定される発明ではないし、画像に限った方式ではなく音声やその他、量子化を必要とするもの全てに適用可能である。
【００７０】
また、Ｈ．２６４の量子化の中でも特に残差信号４ｘ４に関して説明しているが、直流色差２ｘ２、直流輝度４ｘ４、残差信号８ｘ８に関しても同様に適用可能である。
【産業上の利用可能性】
【００７１】
以上のように、本発明は、動画像を圧縮して送信、記録等する技術に有用である。
【図面の簡単な説明】
【００７２】
【図１】本発明の実施形態に係る動画像符号化装置の処理フローである。
【図２】本発明の実施形態に係わる動画像符号化装置の量子化処理の構成を示す図である。
【図３】本発明の第１の実施形態に係わる動画像符号化装置の量子化処理の構成を示す図である。
【図４】本発明の第２の実施形態に係わる動画像符号化装置の量子化処理の構成を示す図である。
【図５】デッドゾーン付量子化を説明する図である。
【図６】デッドゾーン付量子化（ラウンディングオフセット）を説明する図である。
【図７】デッドゾーン付量子化（デッドゾーンオフセット）を説明する図である。
【図８】孤立点除去量子化を説明する図である。
【図９】第１の量子化ステップを第２の量子化ステップに変更するためのオフセットを説明する図である。
【符号の説明】
【００７３】
００１    入力画像
００２    動き予測器
００３    動き補償器
００４    参照フレームメモリ
００５    変換器
００６    量子化器
００７    逆量子化器
００８    逆変換器
００９    可変長符号化器
０１０    ビットストリーム
１０３    パラメータ設定器
１０４    符号量算出器
１０５    量子化歪み算出器
１０６    コスト算出器
１０７    量子化計算用パラメータ判定器
２０４    符号量算出器
２０５    量子化歪み算出器
【図１】
2006157881.tif 000007
【図２】
2006157881.tif 000008
【図３】
2006157881.tif 000009
【図４】
2006157881.tif 000010
【図５】
2006157881.tif 000011
【図６】
2006157881.tif 000012
【図７】
2006157881.tif 000013
【図８】
2006157881.tif 000014
【図９】
2006157881.tif 000015