(57)【要約】【課題】本発明は、複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化するという構成を採る場合にあって、復号映像の量子化誤差の大きさを推定できるようにして、それに基づいて復号信号を補正できるようにすることで、復号映像の量子化誤差を低減できるようにする新たな技術の提供を目的とする。【解決手段】復号信号を生成する際に、符号化の際に用いられた方法と同じ方法で予測モードを再探索して、符号化に用いられた予測モードと再探索結果の予測モードとを比較する。予測モードが変化した場合には、両予測モードの予測信号の差分を求めて、予め定めた補正係数や、復号信号から両予測モードの境界までの距離に応じて変化させる補正係数を用いて、その差分信号と補正係数との積に従って補正信号を生成する。そして、その補正信号を復号信号に加算することで、量子化誤差の低減された復号映像を生成する。【選択図】図３
2006060341.tif 000002
【特許請求の範囲】
【請求項１】
複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化を行う映像符号化方式で用いられたり、その映像符号化方式により符号化された映像を復号する映像復号方式で用いられる復号映像の量子化誤差低減方法であって、
復号信号を生成する際に、符号化の際に用いられた方法と同じ方法で予測モードを再探索する過程と、
符号化に用いられた予測モードと再探索結果の予測モードとを比較する過程と、
予測モードが変化した場合に、両予測モードの予測信号に基づいて補正信号を生成する過程と、
上記補正信号を復号信号に加算する過程とを備えることを、
特徴とする復号映像の量子化誤差低減方法。
【請求項２】
請求項１に記載の復号映像の量子化誤差低減方法において、
上記生成する過程では、両予測モードの予測信号の差分を求めて、その求めた差分信号と補正係数との積に従って補正信号を生成することを、
特徴とする復号映像の量子化誤差低減方法。
【請求項３】
請求項２に記載の復号映像の量子化誤差低減方法において、
上記生成する過程では、予め定めた補正係数を用いて補正信号を生成することを、
特徴とする復号映像の量子化誤差低減方法。
【請求項４】
請求項２に記載の復号映像の量子化誤差低減方法において、
上記生成する過程では、復号信号から両予測モードの境界までの距離に応じて変化させる補正係数を用いて補正信号を生成することを、
特徴とする復号映像の量子化誤差低減方法。
【請求項５】
請求項４に記載の復号映像の量子化誤差低減方法において、
上記生成する過程では、予測モードのオーバヘッド符号量を考慮した符号化コストを用いて上記距離に応じた補正係数を算出することを、
特徴とする復号映像の量子化誤差低減方法。
【請求項６】
複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化を行う映像符号化方式で用いられたり、その映像符号化方式により符号化された映像を復号する映像復号方式で用いられる復号映像の量子化誤差低減装置であって、
復号信号を生成する際に、符号化の際に用いられた方法と同じ方法で予測モードを再探索する手段と、
符号化に用いられた予測モードと再探索結果の予測モードとを比較する手段と、
予測モードが変化した場合に、両予測モードの予測信号に基づいて補正信号を生成する手段と、
上記補正信号を復号信号に加算する手段とを備えることを、
特徴とする復号映像の量子化誤差低減装置。
【請求項７】
請求項６に記載の復号映像の量子化誤差低減装置において、
上記生成する手段は、両予測モードの予測信号の差分を求めて、その求めた差分信号と補正係数との積に従って補正信号を生成することを、
特徴とする復号映像の量子化誤差低減装置。
【請求項８】
請求項７に記載の復号映像の量子化誤差低減装置において、
上記生成する手段は、予め定めた補正係数を用いて補正信号を生成することを、
特徴とする復号映像の量子化誤差低減装置。
【請求項９】
請求項７に記載の復号映像の量子化誤差低減装置において、
上記生成する手段は、復号信号から両予測モードの境界までの距離に応じて変化させる補正係数を用いて補正信号を生成することを、
特徴とする復号映像の量子化誤差低減装置。
【請求項１０】
請求項９に記載の復号映像の量子化誤差低減装置において、
上記生成する手段は、予測モードのオーバヘッド符号量を考慮した符号化コストを用いて上記距離に応じた補正係数を算出することを、
特徴とする復号映像の量子化誤差低減装置。
【請求項１１】
請求項１ないし５のいずれか１項に記載の復号映像の量子化誤差低減方法の実現に用いられる処理をコンピュータに実行させるための復号映像の量子化誤差低減プログラム。
【請求項１２】
請求項１ないし５のいずれか１項に記載の復号映像の量子化誤差低減方法の実現に用いられる処理をコンピュータに実行させるための復号映像の量子化誤差低減プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化を行う映像符号化方式で用いられたり、その映像符号化方式により符号化された映像を復号する映像復号方式で用いられる復号映像の量子化誤差低減方法及びその装置と、その量子化誤差低減方法の実現に用いられる復号映像の量子化誤差低減プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関する。
【背景技術】
【０００２】
現在、主流となっている動画像符号化方式の多くは、画像を複数のブロックに分割し、ブロック単位で動き補償予測やＤＣＴや量子化などの符号化処理を行っている。
【０００３】
一般に動画像符号化方式では、符号化ビットレートが低下すると、量子化誤差が大きくなり符号化雑音が増加する。また、ブロック単位での符号化処理により、ブロック境界の画素変化が不連続となりブロック歪が発生する。
【０００４】
そこで、復号画像に対し、このブロック歪などの符号化雑音を取り除くため、後処理方法が多数提案されている。これらの方法の多くは、基本的にブロック境界の連続性に着目した方法であり、大きく分けて、
（ｉ）ブロック境界の連続性を拘束条件としたＤＣＴ係数の修正
（ii）ブロック境界の連続性を維持するようなフィルタリング
という２つの方法に分類できる。
【０００５】
まず、“ブロック境界の連続性を拘束条件としたＤＣＴ係数の修正方法（以下、ＤＣＴ係数修正方法と称する）”について説明する。
【０００６】
原画像に無いブロック歪が発生するのは、量子化誤差による影響である。このため、ブロック境界での連続性を拘束条件とし、ＤＣＴ係数を修正することで量子化誤差を低減する。下記の非特許文献１に、その一例を示す。
【０００７】
この非特許文献１に記載される方法では、ブロック境界に低域通過フィルタをかけ、ＤＣＴ係数の修正方向を決定する。ＤＣＴ係数の修正幅は、量子化ステップサイズの大きさにより決定する。
【０００８】
図６に、その手順を示す。この処理フローに示すように、その手順は、
１．ブロック境界にフィルタをかける（ステップ１００）
２．フィルタ後の信号にＤＣＴを施す（ステップ１１０）
３．フィルタ前後で、各ＤＣＴ係数がどのように変化したかを調べる（ステップ１２        ０）
４．フィルタ前のＤＣＴ係数について、各ＤＣＴ係数の変化方向に対し、量子化ステ        ップサイズに応じて修正する（ステップ１３０）
５．修正したＤＣＴ係数に逆ＤＣＴを施す（ステップ１４０）
を繰り返すことで構成される。
【０００９】
この処理をＤＣＴ係数が収束するまで繰り返すことで（ステップ１５０）、量子化誤差を低減できる。この方法では、処理対象がＤＣＴ係数であるため、ブロック内の画素に対して作用する。
【００１０】
次に、“ブロック境界のエッジを除去するブロック歪除去フィルタ”について説明する。
【００１１】
この方法は、ＤＣＴ係数を修正して歪を小さくするのではなくて、ブロック境界のエッジを低域通過フィルタにより除去する方法である。しかし、単純にブロック境界にフィルタをかけるだけでは、必ずしもブロック歪を除去できない。強いフィルタをかけた場合には、ブロック歪は小さくなるものの、画面全体がぼけ、画質が劣化する。一方、弱いフィルタでは、ブロック歪を除去できない。
【００１２】
そこで、ITU-T H.264(以下、H.264 と称する。非特許文献２参照）では、隣接するブロックの符号化モードの差異と、ブロック境界近辺画素の変化量とから、ブロック歪の強度を推定してフィルタの強さを切り替えている。
【００１３】
図７に、その手順を示す。この処理フローに示すように、その手順は、
１．隣接ブロックの符号化モード情報を収集する（ステップ２００）
２．符号化モードの差異からブロック境界強度を算出する（ステップ２１０）
３．量子化パラメータから変化量の閾値を算出する（ステップ２２０）
４．ブロック境界近辺画素の変化量と閾値とを比較し、変化量が閾値以上の場合には        、処理を終了する（ステップ２３０）
５．変化量が閾値以上でない場合には、ブロック境界強度からフィルタを選択する（        ステップ２４０）
６．復号信号に対し、選択したフィルタをかける（ステップ２５０）
ことで構成される。
【００１４】
本来、ブロック歪除去フィルタは、量子化誤差の低減ではなく、ブロック歪による視覚的な妨害を除去する目的であるが、H.264 で採用された方式のように適応的にフィルタリングを行うことで、ＳＮ比が向上する。
【００１５】
このように、ＤＣＴ係数を修正することや、ブロック境界に適応的なフィルタをかけることで、量子化誤差を低減できる。
【非特許文献１】成田清人, 朱曄, 木本伊彦, 谷本正幸, “ＤＣＴ符号化画像における量子化雑音の反復軽減法, ”信学論Ａ, Vol.J79-A, No.1, pp.69-76, Jan. 1996.
【非特許文献２】ITU-T Rec. H.264, "Advanced video coding for generic audiovisual services," 2003.
【発明の開示】
【発明が解決しようとする課題】
【００１６】
従来技術では、ブロック境界の連続性を利用し、ＤＣＴ係数を修正する方法や、エッジ強度や符号化モードの違いなどを考慮して適応的にフィルタを切り替える方法により、量子化誤差の低減が可能である。
【００１７】
しかし、これらの従来技術には、それぞれ課題が存在する。以下に、各方法の課題について述べる。
【００１８】
最初に、ＤＣＴ係数修正方法の課題について説明する。
【００１９】
ＤＣＴ係数修正方法では、ＤＣＴ係数修正を反復して行う。しかし、この反復をＤＣＴ係数が収束するまで繰り返していたのでは、過剰に処理を行う可能性があり、これから、画質が劣化する可能性がある。
【００２０】
次に、ブロック歪除去フィルタの課題について説明する。
【００２１】
ブロック歪除去フィルタでは、ブロック歪が発生しやすい符号化条件およびブロック境界近辺画素の変化量に応じてフィルタ強度を制御している。しかし、このブロック歪量の推定は必ずしも正確ではないため、画像によっては過度にぼける可能性がある。つまり、入力信号や符号化条件によっては、ブロック歪除去フィルタにより画質が劣化する可能性がある。特に、ビットレートが高い場合は、その傾向が強くなる。
【００２２】
本発明はかかる事情に鑑みてなされたものであって、複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化するという構成を採る映像符号化方式で映像の復号を行う際や、その映像符号化方式で符号化された映像を復号するという構成を採る映像復号方式で映像の復号を行う際に、復号映像の量子化誤差の大きさを推定できるようにして、それに基づいて復号信号を補正できるようにすることで、復号映像の量子化誤差を低減できるようにする新たな技術の提供を目的とする。
【課題を解決するための手段】
【００２３】
従来技術では、ブロック境界の連続性を拘束条件として量子化誤差を低減するため、必要以上に映像を修正する可能性がある。
【００２４】
そこで、本発明では、復号側で、符号化時に使用した予測モード探索方法と同一の方法を用いて予測モードの再探索を行い、その再探索結果から量子化誤差の大きさを推定し、復号映像を補正する。
【００２５】
H.264 をはじめとする映像符号化方式では、符号化済みフレームまたは同一フレーム内の符号化済み信号から符号化対象ブロックの予測を行い、符号化効率を向上させている。特に、H.264 では、フレーム内符号化を行う際、符号化対象ブロックの既符号化近傍ブロックの情報から予測信号を生成し、予測残差信号を符号化している。複数の予測モードが用意されているので、符号化時に、予測残差信号電力と、予測モードのオーバヘッド符号量（予測モードを示すためのコードの符号量）とから最もコストが低い予測モードを決定し、符号化処理を行う。
【００２６】
復号映像による予測モードの再探索結果と符号化時の予測モードとが異なる場合、それは、復号映像に含まれる量子化誤差による影響である。したがって、符号化時の予測モードと再探索結果の予測モードとが異なる場合、量子化誤差を推定できる。
【００２７】
今、ブロックサイズがＮ×Ｎの映像信号を、Ｎ×Ｎ次元のベクトルと考える。原信号ベクトルを＜Ｓ＞、予測信号ベクトルを＜Ｐa ＞、予測残差信号ベクトルを＜Ｄa ＞、符号化済み予測残差信号ベクトルを＜Ｄ'a＞、量子化誤差ベクトルを＜Ｅ＞とすると、復号信号ベクトル＜Ｓ' ＞は、
＜Ｓ' ＞＝＜Ｄ'a＞＋＜Ｐa ＞
＝（＜Ｄa ＞＋＜Ｅ＞）＋＜Ｐa ＞
＝（＜Ｄa ＞＋＜Ｐa ＞）＋＜Ｅ＞
＝＜Ｓ＞＋＜Ｅ＞
という式で表される。
【００２８】
このように、復号信号ベクトル＜Ｓ' ＞は、原信号ベクトル＜Ｓ＞と量子化誤差ベクトル＜Ｅ＞との和で表現できる。つまり、復号信号ベクトル＜Ｓ' ＞は、量子化誤差ベクトル＜Ｅ＞だけ移動したといえる。
【００２９】
図１に、２次元画素空間での例を示す。図中の破線は予測モードが切り替わる境界線であり、符号化時の予測モードをａ、再探索時の予測モードをｂとしている。
【００３０】
再探索により予測モードが変化した理由は、原信号ベクトル＜Ｓ＞が、量子化誤差ベクトル＜Ｅ＞により領域ａから領域ｂへ移動したためである。このことから、量子化誤差ベクトル＜Ｅ＞は、予測モードａの代表点である予測信号ベクトル＜Ｐa ＞と予測モードｂの代表点である予測信号ベクトル＜Ｐb ＞との差分ベクトル（予測信号差分ベクトル＜Ｐab＞）を含むと考えられる。
【００３１】
本発明では、この量子化誤差ベクトル＜Ｅ＞の予測信号差分ベクトル＜Ｐab＞方向の成分を算出し、復号信号ベクトル＜Ｓ' ＞の補正信号ベクトル＜Ｃ＞を求める。
【００３２】
図２に、本発明の手順を示す。この処理フローに示すように、本発明では、
１．符号化時の予測モード情報を抽出する（ステップ１０）
２．復号処理を行い復号信号ベクトル＜Ｓ' ＞を生成する（ステップ１１）
３．復号信号ベクトル＜Ｓ' ＞に対し予測モードの再探索を行う（ステップ１２）
４．予測モード情報の変更を確認し、変更が無い場合は処理を終了する（ステップ１        ３）
５．予測モード情報の変更がある場合には、補正信号ベクトル＜Ｃ＞を算出する（ス        テップ１４）
６．復号信号ベクトル＜Ｓ' ＞に、補正信号ベクトル＜Ｃ＞を加算する（ステップ１        ５）
という手順を実行する。
【００３３】
ここで、補正信号ベクトル＜Ｃ＞は、予測信号差分ベクトル＜Ｐab＞と補正係数αとの積とする。
【００３４】
この補正係数αについては、予め定数を決めておく方法や、復号信号から両予測モードの境界線までの距離に応じて算出する方法などがある。さらに、この補正係数αを調整することで、補正の強弱を変えることが可能である。
【００３５】
補正後の復号信号ベクトル＜Ｓ''＞は、
＜Ｓ''＞＝＜Ｓ' ＞＋α×＜Ｐab＞
の式に従って求められる。
【００３６】
以上に説明したように、本発明の復号映像の量子化誤差低減装置は、複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化を行う映像符号化方式で用いられたり、その映像符号化方式により符号化された映像を復号する映像復号方式で用いられるときにあって、（イ）復号信号を生成する際に、符号化の際に用いられた方法と同じ方法で予測モードを再探索する再探索手段と、（ロ）符号化に用いられた予測モードと再探索手段の探索した予測モードとを比較する比較手段と、（ハ）比較手段により予測モードの変化したことが検出される場合に、両予測モードの予測信号に基づいて補正信号を生成する生成手段と、（ニ）生成手段の生成した補正信号を復号信号に加算することで、復号映像の量子化誤差を低減させる加算手段とを備えるように構成する。
【００３７】
この構成を採るときにあって、生成手段は、両予測モードの予測信号の差分を求めて、その求めた差分信号と補正係数との積に従って補正信号を生成することがあり、このとき、予め定めた補正係数を用いて補正信号を生成したり、復号信号から両予測モードの境界までの距離に応じて変化させる補正係数を用いて補正信号を生成することがある。
【００３８】
そして、生成手段は、復号信号から両予測モードの境界までの距離に応じて変化させる補正係数を用いる場合に、予測モードのオーバヘッド符号量を考慮した符号化コストを用いて、その距離に応じた補正係数を算出することがある。
【００３９】
以上の各処理手段が動作することで実現される本発明の復号映像の量子化誤差低減方法はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。
【発明の効果】
【００４０】
本発明によれば、複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化するという構成を採る映像符号化方式で映像の復号を行う際や、その映像符号化方式で符号化された映像を復号するという構成を採る映像復号方式で映像の復号を行う際に、復号映像の量子化誤差の大きさを推定できるようになり、それに基づいて復号信号を補正できるようになるので、復号映像の量子化誤差を低減できるようになる。
【発明を実施するための最良の形態】
【００４１】
次に、実施の形態に従って本発明を詳細に説明する。
【００４２】
図３に、本発明を具備する映像符号化装置１の一実施形態例を図示する。
【００４３】
この図に示すように、本発明を具備する映像符号化装置１は、符号化データ復号部１０と、予測信号生成部１１と、メモリ１２と、復号映像生成部１３と、予測モード探索部１４と、補正信号生成部１５と、補正復号映像生成部１６とを備える。ここで、図中に示す破線で囲まれた部分は、従来通りの復号処理を行う部分である。
【００４４】
符号化データ復号部１０は、図示しない符号化機構により符号化された符号化データを入力として、その符号化データから、予測残差信号（図１に示した予測残差信号ベクトル＜Ｄ'a＞）と、予測モード情報（図１に示した予測モード情報ａ）とを復号する。
【００４５】
予測信号生成部１１は、符号化データ復号部１０から与えられる予測モード情報ａを使い、メモリ１２に格納される符号化済みの復号映像から、予測信号（図１に示した予測信号ベクトル＜Ｐa ＞）を生成する。
【００４６】
復号映像生成部１３は、符号化データ復号部１０から与えられる予測残差信号と、予測信号生成部１１の生成した予測信号とを加算することで復号映像（図１に示した復号信号ベクトル＜Ｓ' ＞）を生成して、メモリ１２に格納する。
【００４７】
予測モード探索部１４は、復号映像生成部１３の生成した復号映像と、メモリ１２に格納される符号化済みの復号映像とから、予測モード情報（図１に示した予測モード情報ｂ）を再探索する。
【００４８】
補正信号生成部１５は、符号化データ復号部１０から与えられる符号化時の予測モード情報ａと、予測モード探索部１４の再探索した予測モード情報ｂと、その予測モード情報ａにおける予測信号（図１に示した予測信号ベクトル＜Ｐa ＞）と、その予測モード情報ｂにおける予測信号（図１に示した予測信号ベクトル＜Ｐb ＞）とから、補正信号（図１に示した補正信号ベクトル＜Ｃ＞）を生成する。
【００４９】
補正復号映像生成部１６は、復号映像生成部１３の生成した復号映像と、補正信号生成部１５の生成した補正信号とを加算することで量子化誤差の低減された復号映像（図１に示した復号信号ベクトル＜Ｓ''＞）を生成する。
【００５０】
このように構成される本発明を具備する映像符号化装置１では、予測モード探索部１４は、復号映像生成部１３の生成した復号映像と、メモリ１２に格納される符号化済みの復号映像とから、予測モード情報ｂを再探索する。
【００５１】
この再探索結果を受けて、補正信号生成部１５は、符号化データ復号部１０から与えられる符号化時の予測モード情報ａと、予測モード探索部１４の再探索した予測モード情報ｂとが一致するのか否かをチェックして、一致しないことを判断するときには、量子化誤差が存在することを判断して、その２つの予測モード情報ａ，ｂにおける予測信号の差分に基づいて補正信号を生成する。
【００５２】
この補正信号の生成を受けて、補正復号映像生成部１６は、復号映像生成部１３の生成した復号映像と、補正信号生成部１５の生成した補正信号とを加算することで量子化誤差の低減された復号映像を生成して、それを出力する。
【００５３】
このようにして、本発明を具備する映像符号化装置１では、復号映像を予測信号差分ベクトルにより補正することで、量子化誤差を低減できるようになる。
【００５４】
なお、上記の説明では予測モードとしているが、これは、予測信号の生成に必要な情報の意味である。したがって、動き補償付きフレーム間予測符号化の場合、予測モード情報は、動きベクトル、参照フレーム番号など、予測信号の生成に必要な情報全てを指す。そして、予測モード変更の有無は、これら情報の全てについて比較する。
【００５５】
また、本発明は、復号側での後処理だけでなく、H.264 のブロック除去フィルタと同様、符号化側・復号側双方で、復号信号をメモリに蓄積する直前に処理を行うことも可能である。
【実施例】
【００５６】
次に、具体的な実施例に従って本発明を詳細に説明する。
【００５７】
本実施例では、複数の予測モードを利用可能なフレーム内符号化方式を前提とする。予測ブロックサイズは固定とし、予測モード情報は予測モード番号のみとする。
【００５８】
予測モード選択は、各予測モードｉのオーバヘッド符号量ｇi （予測モードｉのオーバヘッドコストとなる）を考慮し、
ｊi ＝｜＜Ｄi ＞｜2 ＋ｇi 
＝｜（＜Ｓ＞−＜Ｐi ＞）｜2 ＋ｇi 
＜Ｄi ＞  ：  予測残差信号ベクトル
＜Ｓ＞    ：  原信号ベクトル
＜Ｐi ＞  ：  予測信号ベクトル
という式に従って各予測モードの符号化コストｊi を算出して、最も符号化コストの低い予測モードを選択することで行う。
【００５９】
ここで、ベクトルの長さ｜Ｄi ｜については、下式に示すＬ２ノルムで計算する。
【００６０】
【数１】
2006060341.tif 000003
【００６１】
図４に、本実施例の手順を示す。この処理フローに示すように、本実施例では、
１．符号化時の予測モード番号を抽出する（ステップ２０）
２．復号処理を行い復号信号ベクトル＜Ｓ' ＞を生成する（ステップ２１）
３．復号信号ベクトル＜Ｓ' ＞に対しフレーム内予測モードの再探索を行う（ステッ        プ２２）
４．予測モード番号の変更を確認し、変更が無い場合は処理を終了する（ステップ２        ３）
５．予測モード番号の変更がある場合には、補正信号ベクトル＜Ｃ＞を算出する（ス        テップ２４）
６．復号信号ベクトル＜Ｓ' ＞に、補正信号ベクトル＜Ｃ＞を加算する（ステップ２        ５）
という手順を実行する。
【００６２】
このとき、補正信号ベクトル＜Ｃ＞は、予測信号差分ベクトル＜Ｐab＞と補正係数αとの積で求める。
【００６３】
その結果、補正後の復号信号ベクトル＜Ｓ''＞は、
＜Ｓ''＞＝＜Ｓ' ＞＋α×＜Ｐab＞
となり、本実施例では、この補正後の復号信号ベクトル＜Ｓ''＞を出力する。
【００６４】
補正係数αについては、予め定数を決めておく方法を用いることでもよいが、次に説明するように、復号信号から両予測モードの境界線までの距離に応じて算出する方法を用いることでもよい。
【００６５】
符号化時の予測モード番号ａのオーバーヘッドコストをｇa 、再探索時の予測モード番号ｂのオーバーヘッドコストをｇb とするならば、図５に示すように、復号信号ベクトル＜Ｓ' ＞に、α0 ×＜Ｐab＞を加えることで、両予測モードの境界線上に移動させることを仮定する。
【００６６】
このとき、境界線上での符号化コストは、両予測モードで等しくなることから、
｜＜Ｄ''a ＞｜2 ＋ｇa ＝｜＜Ｄ''b ＞｜2 ＋ｇb 
となる。
【００６７】
ここで、図５から分かるように、＜Ｄ''a ＞，＜Ｄ''b ＞と、両予測モードの境界線上に移動されたときの復号信号ベクトル＜Ｓ''＞（＝＜Ｓ' ＞＋α0 ×＜Ｐab＞）との間には、
＜Ｄ''a ＞＝＜Ｓ''＞−＜Ｐa ＞
＜Ｄ''b ＞＝＜Ｓ''＞−＜Ｐb ＞
が成立することから、
−２＜Ｄ'a＞・＜Ｐab＞−（２α0 ＋１）｜＜Ｐab＞｜2 −ｇb ＋ｇa ＝０
ただし、“・”はベクトルの内積
となる。
【００６８】
これから、α0 は、
α0 ＝｛ｇa −ｇb −｜＜Ｐab＞｜2 −２＜Ｄ'a＞・＜Ｐab＞｝／２｜＜Ｐab＞｜2 
となる。
【００６９】
一般に、原信号は予測モード間の境界線上よりも予測信号に近い場所に位置していることが多いことから、補正係数は、１よりも大きな値を示すβを使い、α＝β×α0 と設定することが好ましい。ここで、β＝２とした場合、復号信号ベクトル＜Ｓ' ＞から両予測モードの境界線までの距離の２倍の補正量となる。
【００７０】
本実施例では、予測ブロックサイズを固定としたが、可変でもかまわない。ブロックサイズが変化すると画素空間の次元数が変化するだけである。また、異なるブロックサイズで補正を行う場合は、より大きいブロックサイズ、すなわち、より次元数が高い画素空間で補正を行えばよい。また、フレーム内予測符号化を前提としたが、フレーム間符号化方式でも、予測モード情報を動き補償モードや動きベクトルなど予測信号生成に必要な情報に置き換えることで、同様に処理が可能となる。
【産業上の利用可能性】
【００７１】
本発明は、複数の予測モードの中から符号化対象ブロックの予測モードを決定して符号化を行う映像符号化装置に利用可能である。そして、その映像符号化装置により符号化された映像を復号する映像復号装置に利用可能である。
【図面の簡単な説明】
【００７２】
【図１】復号信号ベクトルと原信号ベクトルと量子化誤差ベクトルとの間の関係を示す図である。
【図２】本発明の実行する処理フローである。
【図３】本発明を具備する映像符号化装置の一実施形態例である。
【図４】本実施例の実行する処理フローである。
【図５】補正係数の導出を説明する図である。
【図６】従来技術の処理フローである。
【図７】従来技術の処理フローである。
【符号の説明】
【００７３】
１    映像符号化装置
１０  符号化データ復号部
１１  予測信号生成部
１２  メモリ
１３  復号映像生成部
１４  予測モード探索部
１５  補正信号生成部
１６  補正復号映像生成部
【図１】
2006060341.tif 000004
【図２】
2006060341.tif 000005
【図３】
2006060341.tif 000006
【図４】
2006060341.tif 000007
【図５】
2006060341.tif 000008
【図６】
2006060341.tif 000009
【図７】
2006060341.tif 000010