(57)【要約】【課題】予測モード及び量子化パラメータを適切に決定することにより、少ない演算量で符号化効率の高い画像符号化を提供する。【解決手段】任意の符号化単位毎に複数の予測モードから選択される一つの予測モードを用いて画像の符号化を行う際、まず、量子化パラメータから、未定乗数λを算出する（ステップＳ３０１）、次に、符号化単位、例えばマクロブロック毎に予測モードと量子化パラメータとの複数の組み合わせにそれぞれ対応する符号量と符号化歪との対（Ｒ−Ｄポイント）の生成と推定とポイントの削減（ステップＳ３０２−Ｓ３０４）を繰り返しながら、未定乗数λに基づいて各Ｒ−Ｄポイントのコストを算出し（ステップＳ３０５）、コスト最小のＲ−Ｄポイントから予測モード及び量子化パラメータの最適な組み合わせを決定する。【選択図】      図３
2006180298.tif 000002
【特許請求の範囲】
【請求項１】
任意の符号化単位毎に複数の予測モードから選択される一つの予測モードを用いて、量子化パラメータを制御する画像符号化制御方法において、
与えられた基準量子化パラメータからコスト関数に用いられるパラメータである未定乗数を算出する未定乗数算出ステップと、
前記予測モードと前記量子化パラメータとの複数の組み合わせにそれぞれ対応する１次符号量−符号化歪対の組の集合から２次符号量−符号化歪対の組の集合を前記符号化単位毎に選択する集合選択ステップと、
前記算出した未定乗数を用いて、前記２次符号量−符号化歪対の集合の中から前記コスト関数を最小とする符号量−符号化歪対の組を最適な符号量−符号化歪対の組として前記符号化単位毎に選択する最適集合選択ステップと、
前記最適な符号量−符号化歪対の組から前記符号化に用いる予測モード及び量子化パラメータを決定する決定ステップと、
を具備し、
前記集合選択ステップは、
前記符号量を一方の軸、前記符号化歪を他方の軸とする直交座標系上に前記１次符号量−符号化歪対の組の集合からなる凸包を形成し、前記符号量が最小となる符号量−符号化歪対の組の位置と前記符号化歪が最小となる符号量−符号化歪対の組の位置を結ぶ前記凸包上の集合であって、かつ、前記直交座標系の原点に近い側に存在する符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合として前記符号化単位毎に選択する
ことを特徴とする画像符号化制御方法。
【請求項２】
前記集合選択ステップは、
前記符号量が最小となる符号量−符号化歪対の組である最小符号量組と前記符号化歪が最小となる符号量−符号化歪対の組である最小符号化歪組とを求め、
前記符号量を一方の軸、前記符号化歪を他方の軸とする２次元直交座標系上の前記１次符号量−符号化歪対の組の集合からなる凸包上に存在し、かつ、前記最小符号量組と前記最小符号化歪組とで共通な未定乗数によって定まるコスト関数の値が、前記最小符号量組または前記最小符号化歪組における値以下となる、符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合として前記符号化単位毎に選択する
ことを特徴とする請求項１記載の画像符号化制御方法。
【請求項３】
前記集合選択ステップは、
前記凸包の内側に入る前記１次符号量−符号化歪対の集合を、前記２次符号量−符号化歪対の集合の候補から削除する
ことを特徴とする請求項１記載の画像符号化制御方法。
【請求項４】
前記符号化単位は、一のマクロブロック単位、複数のマクロブロック単位、スライス単位、フィールド単位、フレーム単位、ピクチャ単位、または、ＧＯＰ単位である
ことを特徴とする請求項１記載の画像符号化制御方法。
【請求項５】
任意の符号化単位毎に複数の予測モードから選択される一つの予測モードを用いて、量子化パラメータを制御する画像符号化制御装置において、
与えられた基準量子化パラメータからコスト関数に用いられるパラメータである未定乗数を算出する未定乗数算出手段と、
前記予測モードと前記量子化パラメータとの複数の組み合わせにそれぞれ対応する１次符号量−符号化歪対の組の集合から２次符号量−符号化歪対の組の集合を前記符号化単位毎に選択する集合選択手段と、
前記算出した未定乗数を用いて、前記２次符号量−符号化歪対の集合の中から前記コスト関数を最小とする符号量−符号化歪対の組を最適な符号量−符号化歪対の組として前記符号化単位毎に選択する最適集合選択手段と、
前記最適な符号量−符号化歪対の組から前記符号化に用いる予測モード及び量子化パラメータを決定する決定手段と、
を具備し、
前記集合選択手段は、
前記符号量を一方の軸、前記符号化歪を他方の軸とする直交座標系上に前記１次符号量−符号化歪対の組の集合からなる凸包を形成し、前記符号量が最小となる符号量−符号化歪対の組の位置と前記符号化歪が最小となる符号量−符号化歪対の組の位置を結ぶ前記凸包上の集合であって、かつ、前記直交座標系の原点に近い側に存在する符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合として前記符号化単位毎に選択する
ことを特徴とする画像符号化制御装置。
【請求項６】
任意の符号化単位毎に複数の予測モードから選択される一つの予測モードを用いて、量子化パラメータを制御する画像符号化制御方法をコンピュータによって実現するプログラムにおいて、
与えられた基準量子化パラメータからコスト関数に用いられるパラメータである未定乗数を算出する未定乗数算出機能と、
前記予測モードと前記量子化パラメータとの複数の組み合わせにそれぞれ対応する１次符号量−符号化歪対の組の集合から２次符号量−符号化歪対の組の集合を前記符号化単位毎に選択する集合選択機能と、
前記算出した未定乗数を用いて、前記２次符号量−符号化歪対の集合の中から前記コスト関数を最小とする符号量−符号化歪対の組を最適な符号量−符号化歪対の組として前記符号化単位毎に選択する最適集合選択機能と、
前記最適な符号量−符号化歪対の組から前記符号化に用いる予測モード及び量子化パラメータを決定する決定機能と、
を実現し、
前記集合選択機能は、
前記符号量を一方の軸、前記符号化歪を他方の軸とする直交座標系上に前記１次符号量−符号化歪対の組の集合からなる凸包を形成し、前記符号量が最小となる符号量−符号化歪対の組の位置と前記符号化歪が最小となる符号量−符号化歪対の組の位置を結ぶ前記凸包上の集合であって、かつ、前記直交座標系の原点に近い側に存在する符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合として前記符号化単位毎に選択する
ことを特徴とする画像符号化制御方法のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画像または静止画像のための画像符号化制御方法及びその装置に関するものである。
【背景技術】
【０００２】
ITU-T H.261, H.263, H.264, ISO/IEC MPEG-2, MPEG-4 Part 2といった動画像符号化標準方式では、マクロブロックと呼ばれる符号化単位で、予測モードを切り替えて符号化を行う。この切り替え操作をどのように行うかは、符号化性能に大きく影響すると言われている。
【０００３】
予測モードの切り替え手法の一つは、例えばITU-T H.263のテストモデルであったＴＭＮ９（非特許文献１参照）に開示されている。非特許文献１では、入力画像と動き補償により得られる予測画像との絶対値差分和、及び入力画像と入力画像のマクロブロック平均との絶対値差分和を用いて閾値処理を行うことで、８ｘ８のブロックのフレーム間予測モードと１６ｘ１６ブロックのフレーム間予測モード及びフレーム内予測モードの３つ予測モードの切り替えを行っている。
【０００４】
一方、非特許文献２には、ラグランジェの未定乗数法に基づいて各マクロブロックの予測モードを選択する方法が紹介されている。より詳しくは、実際に各予測モードで符号化を行って符号量（レート）と符号化歪を求めた上で、ラグランジェの未定乗数を量子化パラメータの関数と仮定して、同じ量子化パラメータに対する各予測モードのコストを算出し、コストが最小の予測モードを選択している。この手法により、TMN9と比較して大幅に符号化効率が向上することが紹介されている。
【非特許文献１】ITU-T, Study Group 16 : “Video Codec Test Model,Near-Term, Version 9 (TMN9),” Document :Q15-C-15, 1997.
【非特許文献２】Gary J. Sullivan and Thomas Wiegand, “Rate-Distortion Optimization for Video Compression”, IEEE Signal Processing Magazine, Vol.15, No.6, pp.74-90, Nov. 1998.
【発明の開示】
【発明が解決しようとする課題】
【０００５】
非特許文献１に開示された予測モードの切り替え方法は簡易な手法であり、少ない計算量で予測モードの切り替えを行うことができる。しかし、実際の符号量（レート）と歪を考慮しているわけではないので、符号量と歪の関係で最適な予測モードの切り替えが行われているとはいえない。従って、符号化効率の大幅な改善は得られない。
【０００６】
非特許文献２の手法では、同一の量子化パラメータに対して同じ傾きを持つ符号量−符号化歪関数を仮定しているため、量子化パラメータが異なる場合や符号量−符号化歪関数の形が仮定と異なる場合には、符号化コストの正しい比較評価ができず、適切な予測モードが選択されないという問題点がある。また、符号量制御と組み合わせた場合の量子化パラメータが異なる場合の符号化コストの比較もできない。従って、この手法によっても符号化効率の大幅な改善は望めない。
【０００７】
そこで、特願２００４−１７７１９０では、予測モードのみならず、量子化パラメータの組み合わせの中から、最適な組み合わせを選択する手法が提案されている。この手法によれば、各マクロブロックの予測モードのみならず、量子化パラメータの値も変化させて、コストを算出して、コスト最小の予測モードと量子化パラメータを選択している。この手法によると、非特許文献２と比較して、さらに符号化効率の向上が図れる。しかし一方、実際に各予測モードと各量子化パラメータで符号化する回数が多いため、演算量が増大する可能性がある。
【０００８】
そこで、本発明は、予測モード及び量子化パラメータを適切に決定することにより、少ない演算量で符号化効率の高い画像符号化を行うことができる画像符号化制御方法及びその装置を提供する。
【課題を解決するための手段】
【０００９】
本発明は、任意の符号化単位毎に複数の予測モードから選択される一つの予測モードを用いて、量子化パラメータを制御する画像符号化制御方法において、与えられた基準量子化パラメータからコスト関数に用いられるパラメータである未定乗数を算出する未定乗数算出ステップと、前記予測モードと前記量子化パラメータとの複数の組み合わせにそれぞれ対応する１次符号量−符号化歪対の組の集合から２次符号量−符号化歪対の組の集合を前記符号化単位毎に選択する集合選択ステップと、前記算出した未定乗数を用いて、前記２次符号量−符号化歪対の集合の中から前記コスト関数を最小とする符号量−符号化歪対の組を最適な符号量−符号化歪対の組として前記符号化単位毎に選択する最適集合選択ステップと、前記最適な符号量−符号化歪対の組から前記符号化に用いる予測モード及び量子化パラメータを決定する決定ステップと、を具備し、前記集合選択ステップは、前記符号量を一方の軸、前記符号化歪を他方の軸とする直交座標系上に前記１次符号量−符号化歪対の組の集合からなる凸包を形成し、前記符号量が最小となる符号量−符号化歪対の組の位置と前記符号化歪が最小となる符号量−符号化歪対の組の位置を結ぶ前記凸包上の集合であって、かつ、前記直交座標系の原点に近い側に存在する符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合として前記符号化単位毎に選択することを特徴とする画像符号化制御方法である。
【発明の効果】
【００１０】
本発明であると、逐次的に凸包を形成する２次符号量−符号化歪対の集合を形成することにより、全体の演算量を考慮しつつ、前記最適な符号量−符号化歪対の組から前記符号化に用いる予測モード及び量子化パラメータを決定することが可能となる。したがって、適切な予測モード及び量子化パラメータを少ない演算量で決定することにより、符号化効率の高い画像符号化を行うことができる。
【００１１】
また、前記２次符号量−符号化歪対の集合を選択するときに、凸包の内側に入る１次符号量−符号化歪対集合は、コスト最小となる可能性が低いことから、逐次的に候補から削除することで、符号化効率を落とすことなく、演算量削減が期待できる。
【発明を実施するための最良の形態】
【００１２】
以下、図面を参照して本発明の実施形態について説明する。
【００１３】
（１）画像符号化装置の構成
図１に、本実施形態に係る動画像符号化のための画像符号化装置を示す。
【００１４】
画像符号化装置には、画像信号１００として例えばフレーム単位で動画像信号が入力される。
【００１５】
減算器１０１により入力画像信号１００と予測画像信号１０２との差分がとられ、予測誤差信号１０３が生成される。生成された予測誤差信号１０３に対して、直交変換器１０４により直交変換、例えば離散コサイン変換（ＤＣＴ）が施される。直交変換器１０４では直交変換係数情報１０５、例えばＤＣＴ係数情報が得られる。直交変換係数情報１０５は量子化器１０６により量子化されて量子化直交変換係数情報１０７となる。量子化直交変換係数情報１０７は、エントロピー符号化器１０８と逆量子化器１０９との両方に入力される。
【００１６】
逆量子化器１０９に入力された量子化直交変換係数情報１０７は、逆量子化器１０９及び逆直交変換器１１０により、量子化器１０６及び直交変換器１０４の処理と逆の処理を順次受けて予測誤差信号と同様の信号とされた後、加算器１１０で予測画像信号１０２と加算されることにより、局部復号画像信号１１２が生成される。局部復号画像信号１１２は、フレームメモリ／予測画像生成器１０８に入力される。
【００１７】
フレームメモリ／予測画像生成器１１３は、入力画像信号１００及び局部復号画像信号１１２から予測画像信号を生成する。フレームメモリ／予測画像生成器１１３の詳細については、後述する。
【００１８】
エントロピー符号化器１０８では、量子化直交変換係数情報１０７、動きベクトル情報／予測モード情報１１４がエントロピー符号化され、これによって生成された各符号が多重化器１１６で多重化された後、出力バッファ１１７により平滑化される。
【００１９】
こうして出力バッファ１１７から出力される符号化データ１１８は、図示しない伝送系または蓄積系へ送出される。
【００２０】
モード選択器１２１は、直接的にはフレームメモリ／予測画像作成器１１３内の切替器を制御することにより予測モードを選択する共に、量子化パラメータを制御する。モード選択器１２１の詳細については、後述する。
【００２１】
符号化制御器１１９は、減算器１０１からフレームメモリ／予測画像作成器１１３までの要素を含む符号化部１１５の制御を行う。本実施形態においては、バッファ１１７のバッファ量を考慮しつつ、符号化単位毎の符号量割り当てを行う。符号化単位は、本実施形態では例えばマクロブロック単位とするが、これに限られるものではない。
【００２２】
（２）フレームメモリ／予測画像生成器１１３
図２に、入力画像信号１００及び局部復号画像信号１１２から予測画像信号１０２を生成するフレームメモリ／予測画像生成器１１３の具体例を示す。
【００２３】
図１中の加算器１１１からの局部復号画像信号１１２は、フレームメモリ２００に一旦蓄えられる。
【００２４】
動きベクトル検出器２０１は、フレーム内のブロック毎に入力画像信号１００とフレームメモリ２００に蓄えられた局部復号画像信号との間のマッチング（ブロックマッチング）をとり、動きベクトルを検出する。
【００２５】
フレーム間予測器２０２は、動きベクトル検出器２０１で検出された動きベクトルに基づいてフレームメモリ２００内の局部復号画像信号に対して動き補償を施し、フレーム間予測に基づく予測画像信号を作成する。
【００２６】
一方、フレーム内予測器２０３は、入力画像信号１００とフレームメモリ２００内のフレーム内で既に符号化された領域の局部復号画像信号からフレーム内予測に基づく予測画像信号を作成する。
【００２７】
フレーム間予測器２０２はＫ個（Ｋは複数）のフレーム間予測モードを有し、フレーム内予測器２０３はＬ個（Ｌは複数）のフレーム内予測モードを有する。フレーム間予測器２０２及びフレーム内予測器２０３の出力に、切替器２０４が接続される。切替器２０４はモード選択器１２１によって制御され、Ｋ個のフレーム間予測モードから選択された一つの予測モードに基づく予測画像信号、あるいはＬ個のフレーム内予測モードから選択された一つの予測モードに基づく予測画像信号を出力する。
【００２８】
動きベクトル情報／予測モード１１４、すなわち動きベクトル検出器２０１から出力される動きベクトル情報とモード選択器１２１によって切替器２０４で選択された予測モードを示す予測モード情報は、エントロピー符号化器１０８に送られる。動きベクトル情報は、フレーム間予測モードが選択された場合にのみ動きベクトル検出器２０１から出力される。
【００２９】
（３）符号化制御器１１９及びモード選択器１２１
図３には、図１における符号化制御器１１９及びモード選択器１２１の動作の流れを示す。
【００３０】
まず、符号化制御器１１９は符号化部１１５を制御し、符号化部１１５に複数の予測モード（Ｋ個のフレーム間予測モード及びＬ個のフレーム内予測モード）で順次符号化を行わせ、かつ、量子化パラメータを各予測モード内で切り替える。
【００３１】
符号化制御器１０９より与えられる基準量子化パラメータＱ０から、未定乗数λを算出する（ステップＳ３０１）。
【００３２】
次に、基準量子化ポイントを３点設定し、各予測モードの符号化を行い、符号量Ｒ−符号化歪Ｄ対の組（以下、「Ｒ−Ｄポイント」という）集合を作成する（ステップＳ３０２）。
【００３３】
作成したＲ−Ｄポイント集合で、左下凸包集合を形成し、左下凸包面には存在しない予測モードを削除する（ステップＳ３０３）。ここで「左下凸包集合」について説明する。符号量Ｒを横軸、符号化歪Ｄを縦軸とする直交座標系上に存在するＲ−Ｄポイント集合から凸包を形成する。この凸包の中で符号量Ｒが最小となるＲ−Ｄポイントの位置と符号化歪Ｄが最小となるＲ−Ｄポイントの位置を結ぶ凸包上の集合であって、かつ、直交座標系の原点に近い側に存在するＲ−Ｄポイント集合をいう。さらに詳しくは、後から説明する。
【００３４】
そして、残ったＲ−Ｄポイントで符号化されていない量子化パラメータのＲ−Ｄポイントを推定する（ステップＳ３０４）。
【００３５】
Ｒ−Ｄポイント集合でコスト最小のＲ−Ｄポイントを選択し、新しい基準量子化パラメータとする（ステップＳ３０５）。
【００３６】
規定の符号化回数あるいは、既に符号化をしてあり、基準量子化ポイントの設定が不可能な場合、処理を終了し、ステップＳ３０５で選択されたコスト最小の予測モードと量子化パラメータを出力とし、そうでない場合は、ステップＳ３０２に戻り、処理を繰り返す。
【００３７】
次に、図３の各ステップＳ３０１〜Ｓ３０６の処理の具体例を示す。
【００３８】
［ステップＳ３０１］
まず、符号化制御器１０９より与えられる基準量子化パラメータＱ０から、例えば次の数式（１）を用いて未定乗数λを推定する。
【数１】
2006180298.tif 000003
【００３９】
ここで、ｆとｇはピクチャタイプやスライスタイプといった、ピクチャやスライスの予測構造によって決まる定数とする。
【００４０】
［ステップＳ３０２］
符号化制御器１０９より与えられる基準量子化パラメータＱ０及び、基準量子化パラメータの値の前後の２個の量子化パラメータＱｍｉｎ ，Ｑｍａｘの合計３の量子化パラメータで符号化を予測モード毎に行ってみて、符号量Ｒと符号化歪Ｄを求める（図４参照）。
【００４１】
ここで、符号化歪Ｄは例えば次の数式（２）に示すように、輝度信号Ｙと色差信号Ｃｂ及びＣｒのマクロブロック毎の入力画像信号（org）と局部再生画像信号（coded）との間の２乗誤差によって求められる。
【数２】
2006180298.tif 000004
【００４２】
なお、符号化歪Ｄは、数式（１）のような輝度信号Ｙと色差信号Ｃｂ及びＣｒの２乗誤差以外にも、輝度信号のみの２乗誤差でもよいし、絶対値差分和や、視覚特性に基づいた重み付けがされた値など、符号化歪を表す値ならば、どのようなものでもよい。
【００４３】
［ステップＳ３０３］
次に、Ｒ−Ｄポイント集合で左下凸包を形成し、凸包面に存在しない予測モードを削除する。
【００４４】
この左下凸包の集合について、図１０に示す符号量Ｒを横軸、符号化歪Ｄを縦軸とする２次元直交座標系であるＲ−Ｄ平面上で説明すると下記のようになる。
【００４５】
上記した直交座標系上に１次符号量−符号化歪対の組の集合からなる凸包を形成する。この凸包は閉じた楕円形に近い集合とする。
【００４６】
そして、符号量Ｒが最小となる符号量−符号化歪対の組の位置Ａと符号化歪Ｄが最小となる符号量−符号化歪対の組の位置Ｂを結ぶ凸包上の集合を考える。ところが、この凸包上の集合は、凸包が楕円形に近い形状であるため、前記直交座標系の原点に近い側に存在する集合（左下凸包の集合で図１０では実線で示す）と、前記原点から遠い側に存在する集合（右上凸包の集合で図１０では点線で示す）の二種類が存在することとなる。
【００４７】
そこで、前記原点に近い側に存在する符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合とすれば、左下凸包の集合を選択できることとなる。
【００４８】
この直交座標系の原点に近い側に存在する集合について、後から説明するコスト関数（Ｊ＝Ｄ＋λ・Ｒ）に着目してさらに説明する。
【００４９】
まず、凸包における符号量Ｒが最小となる符号量−符号化歪対の組である最小符号量組の位置Ａを求める。
【００５０】
次に、凸包における符号化歪Ｄが最小となる符号量−符号化歪対の組である最小符号化歪組の位置Ｂを求める。
【００５１】
次に、前記で求めた最小符号量組の位置Ａと最小符号化歪組の位置Ｂとを通る直線Ｌ（Ｊ＝Ｄ＋λ・Ｒ）を考える。この直線Ｌの傾きλをλ１、切片ＪをＪ１とすると、求めたい左下凸包の下側の点ではＪ１≧Ｊ＝Ｄ＋λ１・Ｒの条件を満たすこととなる。したがって、この傾きである共通な未定乗数λ１によって定まるコスト関数の値Ｑが、前記最小符号量組または前記最小符号化歪組における値以下となる符号量−符号化歪対の組の集合を２次符号量−符号化歪対の組の集合とする。この集合が左下凸包の集合である。
【００５２】
図５及び図６を用いて図７のような左下凸包を見出す具体的な手法について述べる。
【００５３】
最初に、１次Ｒ−Ｄポイント集合を例えば符号化歪Ｄの値を基準として昇順または降順に並べ替える。実際には、各予測モードの符号化歪Ｄは量子化パラメータが大きくなるほど大きくなるので、並べ替えは不要であり、１次Ｒ−Ｄポイント集合を昇順または降順になるようにマージすればよい。図６は、図５の１次Ｒ−Ｄポイントを符号化歪Ｄの値を基準に順序づけした例であり、破線で接続された１次Ｒ−Ｄポイントの順に符号化歪Ｄが大きくなっている。
【００５４】
次に、図６で示されるように符号化歪Ｄの昇順または降順に１次Ｒ−Ｄポイント集合の各ポイントに次の１ポイントを順次加えていき、最近の３ポイントを接続する折れ線の形状を調べる。ここで、図６（ａ）のように折れ線の形状が左下から見て凸ならば、それら３つのポイントを２次Ｒ−Ｄポイント集合のポイントとして残し、次のポイントを追加してゆく。一方、図６（ｂ）のように折れ線の形状が左下から見て凹になったら、当該３ポイントの真ん中のポイントを削除する。
【００５５】
このような処理をＲ―Ｄポイント集合の全てのポイントについて行い、それが終了した時点で残ったＲ−Ｄポイントが左下凸包面集合となる。Ｒ―Ｄポイント集合の全てのポイントについての処理が終了したか否かは、上記折れ線形状を全ポイント数分だけチェックしたことをもって判断できる。
【００５６】
この時、左下凸包面集合に全く属さない予測モードに関しては、以後の予測モードの候補から削除する。具体的には、図７で言うところのモード１とモード３は、左下凸包面集合に全く属さないため、この時点で候補から削除する。
【００５７】
［ステップＳ３０４］
次に、図８で示されるように、残った予測モードについては、前後の実際に符号化した量子化パラメータのポイントから、符号化しなかった量子化パラメータの符号量Ｒと符号化歪Ｄの推定を行う。符号量Ｒと符号化歪Ｄとの間には、量子化パラメータをＱとして次の数式（２）（３）のような関係が成り立つものと仮定する。ａ，ｂ，ｃ，ｄは係数である。
【数３】
2006180298.tif 000005
【００５８】
実際に符号化を行った前後２つのポイントの符号量Ｒ１，Ｒ２及び符号化歪Ｄ１，Ｄ２を用いて、数式（３）（４）で仮定した係数ａ，ｂ，ｃ，ｄを次の数式（５）〜（８）により推定する。
【数４】
2006180298.tif 000006
【００５９】
これらの４つの係数ａ，ｂ，ｃ，ｄから、値を飛ばした量子化パラメータ毎の符号量Ｒと符号化歪Ｄを次の数式（９）（１０）に従って推定する。
【数５】
2006180298.tif 000007
【００６０】
図８で言うならば、白丸のポイントが実測値であり、上記のステップで推定された推定値が白四角のポイントである。推定したポイントについてもＲ−Ｄポイント集合に追加する。
【００６１】
［ステップＳ３０５］
次に、Ｒ−Ｄポイント集合からコスト最小のＲ−Ｄポイントを選択する。ここで各ポイントのコスト計算は、式（１１）のコスト関数に従って計算する。λは、ステップＳ３０１で求めた未定乗数である。
【数６】
2006180298.tif 000008
【００６２】
図９で示されるようにＲ−Ｄポイント集合のうち、最もコストの小さいポイントの量子化パラメータとし、新たな基準量子化パラメータＱ０とする。
【００６３】
［ステップＳ３０６］
ここでは、これまでのＲ−Ｄポイント計算のための符号化回数が規定の回数を超えたか、あるいは、新たな基準量子化パラメータが既に符号化されたポイントであった場合、条件を満たしたと判断し、終了とし、ステップＳ３０５で選択されたポイントの量子化パラメータと予測モードを出力とする。
【００６４】
もし、上記の条件を満足しない場合、ステップＳ３０２へ戻り、上記の条件を満足するまで、ステップＳ３０２−Ｓ３０６の処理を繰り返す。
【００６５】
（４）変更例
本実施形態においては符号化単位をマクロブロックとし、マクロブロック毎に予測モード及び量子化パラメータの対を決定する例について記述したが、符号化単位は複数のマクロブロック単位や、スライス、フィールド、フレーム、ピクチャあるいはＧＯＰなど他の単位でも構わない。
【００６６】
さらに、上記実施形態においては動画像符号化を例にとり説明したが、静止画像符号化にも本発明を適用することができる。
【図面の簡単な説明】
【００６７】
【図１】本発明の一実施形態に従う画像符号化装置の構成を示すブロック図である。
【図２】図１中のフレームメモリ／予測画像作成器の構成を示すブロック図である。
【図３】図１中の符号化制御器及びモード選択器の処理手順を示す流れ図である。
【図４】基準量子化パラメータで符号化したＲ−Ｄポイントを示す図である。
【図５】Ｒ−Ｄポイント集合を求めるために左下凸包を見出す手法の具体例を説明する図である。
【図６】Ｒ−Ｄポイント集合を求めるために左下凸包を見出す手法の具体例を説明する図である。
【図７】Ｒ―Ｄポイント集合の内、左下凸包面に存在しない予測モードを削除する処理を説明する図である。
【図８】符号量と符号化歪を実測値から推定する過程を説明する図である。
【図９】Ｒ−Ｄポイント集合からコスト最小のＲ−Ｄポイントを選択する過程を示す図である。
【図１０】左凸包を説明するためのＲ−Ｄ平面の図である。
【符号の説明】
【００６８】
１００…入力動画像信号
１０１…減算器
１０２…予測画像信号
１０３…予測残差信号
１０４…直交変換器
１０５…直交変換係数情報
１０６…量子化器
１０７…量子化直交変換係数情報
１０８…エントロピー符号化器
１０９…逆量子化器
１１０…逆直交変換器
１１１…加算器
１１２…局部復号画像信号
１１３…フレームメモリ／予測画像作成器
１１４…動きベクトル情報、予測モード情報
１１５…符号化部
１１６…多重化器
１１７…出力バッファ
１１８…符号化データ
１１９…符号化制御器
１２０…目標符号量情報
１２１…モード選択器
２００…フレームメモリ
２０１…動きベクトル検出器
２０２…フレーム間予測器
２０３…フレーム内予測器
２０４…切替器
【図１】
2006180298.tif 000009
【図２】
2006180298.tif 000010
【図３】
2006180298.tif 000011
【図４】
2006180298.tif 000012
【図５】
2006180298.tif 000013
【図６】
2006180298.tif 000014
【図７】
2006180298.tif 000015
【図８】
2006180298.tif 000016
【図９】
2006180298.tif 000017
【図１０】
2006180298.tif 000018