(57)【要約】【課題】フレーム内予測符号化方式を適用し、符号化効率や画質の面で優れた符号化を行うことができる動画像予測符号化方法および装置を提供する。【解決手段】動画像から画素ブロックを所定の順序で読み出す手順(S1)と、読み出された画素ブロックを、参照画素の異なる複数の予測モードで符号化する手順(S2,S3)と、各画素ブロックの符号化コストを予測モードごとに算出する手順(S4)とを具備し、符号化手順では、符号化される画素ブロックの符号化コストに影響を及ぼす前方の各画素ブロックで選択可能な予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化が行われ、さらに、符号化コストの総和が最小となる予測モードの組み合わせに基づいて、前方の各画素ブロックの予測モードを決定する手順(9)とを含む。【選択図】図２
2008054182.tif 000002
【特許請求の範囲】
【請求項１】
動画像の各フレームを複数の画素ブロックに分割し、各画素ブロックをフレーム内予測方式で順次に符号化する動画像の予測符号化方法において、
動画像から画素ブロックを所定の順序で読み出す手順と、
読み出された画素ブロックを、参照画素の異なる複数の予測モードで符号化する手順と、
各画素ブロックの符号化コストを予測モードごとに算出する手順とを具備し、
前記符号化手順では、符号化される画素ブロックの符号化コストに影響を及ぼす前方の各画素ブロックで選択可能な予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化が行われ、さらに、
符号化コストの総和が最小となる予測モードの組み合わせに基づいて、前方の各画素ブロックの予測モードを決定する手順とを含むことを特徴とする動画像予測符号化方法。
【請求項２】
前記予測モードを決定する手順では、符号化コストの総和が最小となるN個の画素ブロックの予測モードの組み合わせに基づいて、前方からM（＜N）個の画素ブロックの予測モードが決定されることを特徴とする請求項１に記載の動画像予測符号化方法。
【請求項３】
前記予測モードを決定する手順では、符号化コストの総和が最小となるN個の画素ブロックの予測モードの組み合わせに基づいて、N個全ての画素ブロックの予測モードが決定されることを特徴とする請求項１に記載の動画像予測符号化方法。
【請求項４】
各画素ブロックにおいて予測モードごとに算出される符号化コストに基づいて、符号化コストの低い一部の予測モードを選抜する手順をさらに具備し、
各画素ブロックは、自身の符号化コストに影響を及ぼす前方の各画素ブロックで選抜された一部の予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化されることを特徴とする請求項１ないし３のいずれかに記載の動画像予測符号化方法。
【請求項５】
各画素ブロックは、その前方の各画素ブロックで選択可能な予測モードの組み合わせのうち、直前の画素ブロックにおける予測モードが同一の組み合わせの中で符号化コストの総和が最小の組み合わせの予測結果を反映させて複数の予測モードで予測符号化されることを特徴とする請求項１ないし３のいずれかに記載の動画像予測符号化方法。
【請求項６】
動画像の各フレームを複数の画素ブロックに分割し、各画素ブロックをフレーム内予測方式で順次に符号化する動画像の予測符号化装置において、
動画像から画素ブロックを所定の順序で読み出す手段と、
読み出された画素ブロックを、参照画素の異なる複数の予測モードで符号化する手段と、
各画素ブロックの符号化コストを予測モードごとに算出する手段とを具備し、
前記符号化手段では、符号化される画素ブロックの符号化コストに影響を及ぼす前方の各画素ブロックで選択可能な予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化が行われ、さらに、
符号化コストの総和が最小となる予測モードの組み合わせに基づいて、前方の各画素ブロックの予測モードを決定する手段とを含むことを特徴とする動画像予測符号化装置。
【請求項７】
前記予測モードを決定する手段では、符号化コストの総和が最小となるN個の画素ブロックの予測モードの組み合わせに基づいて、前方からM（＜N）個の画素ブロックの予測モードが決定されることを特徴とする請求項６に記載の動画像予測符号化装置。
【請求項８】
前記予測モードを決定する手段では、符号化コストの総和が最小となるN個の画素ブロックの予測モードの組み合わせに基づいて、N個全ての画素ブロックの予測モードが決定されることを特徴とする請求項６に記載の動画像予測符号化装置。
【請求項９】
各画素ブロックにおいて予測モードごとに算出される符号化コストに基づいて、符号化コストの低い一部の予測モードを選抜する手段をさらに具備し、
各画素ブロックは、自身の符号化コストに影響を及ぼす前方の各画素ブロックで選抜された一部の予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化されることを特徴とする請求項６ないし８のいずれかに記載の動画像予測符号化装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、動画像の予測符号化方法および装置に係り、特に、フレーム内予測符号化方式（イントラ予測）に好適な動画像予測符号化方法および装置に関する。
【背景技術】
【０００２】
動画像符号化方式の国際標準規格としてH.264/AVCが注目されている。H.264/AVCでも既存のMPEG-2/4と同様に、フレーム内予測符号化、フレーム間予測符号化、離散コサイン変換およびエントロピー符号化などが組み合わされるが、フレーム内予測符号化に関しては、従来のMPEG-2/4が周波数領域（直交変換係数）上での予測であったのに対して、H.264では空間領域上での予測を行うことで符号量の削減が図られている。
【０００３】
H.264/AVCのフレーム内予測では、輝度信号に関して２種類（１６×１６予測および４×４予測）の予測方式が定められており、いずれか一方がマクロブロック単位で選択される。色差信号に対しては１種類の予測方式が定められている。いずれの予測方式でも、参照画素（予測方向）の異なる複数の予測モードが設けられている． 
【０００４】
(1)輝度信号の１６×１６予測は１６×１６の画素ブロック（マクロブロック）を一度に予測する方式であり、図８に示したように、垂直に予測をするモード０、水平に予測をするモード１、上ブロックと左ブロックの合計３２画素の平均値を予測値として予測をするモード２および上ブロックの画素と左ブロックの画素を斜め方向に画素値を内挿して予測値とするモード３の計４通りの予測モードが用意されており、いずれかの予測モードがマクロブロック単位で選択される。なお、画面の上端や左端のマクロブロックに関しては画面内に位置する画素のみが使用され、画面外からの予測は行われない。
【０００５】
(2)輝度信号の４×４予測は、マクロブロック内の１６×１６の画素ブロックを、さらに４×４の画素ブロックで構成される１６個のブロックに分割して予測する方式であり、図９に示した９通りの予測モードのいずれかがブロック単位で選択される。画面の上端や左端であったり、復号処理をまだ終えていない画素は予測に使用できない。 
【０００６】
(3)色差信号の予測は、マクロブロック内の８画素×８ラインに対して、図１０に示した４つの予測モードのいずれかを選択して行われる。
【０００７】
非特許文献１では、符号化モードによる予測誤差だけでなく、発生符号量も考慮し符号化効率を改善する画像符号化方法が提案されている。特許文献１では、上記した非特許文献１の技術に、視覚特性等を考慮した項を追加することで符号化効率を改善する画像符号化方法が提案されている。特許文献２では、予測残差信号の分散および量子化パラメータから予測誤差および発生符号量を推定し、符号化対象に合った推定パラメータのセットを用いることで符号化効率を改善する技術が開示されている。特許文献３では、フレーム内の全てのマクロブロックについて、予測誤差と発生符号量からなる不等式の集合を線形計画法で解くことで、各マクロブロックの符号化モードを決定する技術が開示されている。
【特許文献１】特開２００６−５４６６号公報
【特許文献２】特開２００５−８６２４９号公報
【特許文献３】特開２００５−２６０５７６号公報
【非特許文献１】Gary J. Sullivan and Thomas Wiegand, “Rate-Distortion Optimizationfor Video Compression”, IEEE Signal Processing Magazine, Vol.15, No.6, pp.74-90,Nov. 1998.
【発明の開示】
【発明が解決しようとする課題】
【０００８】
一般的な画像符号化方式では符号化効率を上げるために、時間的または空間的な相関を利用することで符号化対象を予測する。符号化モードは予測の参照元に強く依存するので、単一の符号化単位の符号化効率だけでなく、その符号化単位を参照する他の符号化単位における予測精度にも影響を及ぼす。しかしながら、非特許文献１、特許文献２および特許文献３では、単一の符号化単位ごとに符号化モードが決定され、後続の符号化単位への影響までは考慮されてかった。このため、画像全体からみると局所最適解に陥る恐れがある。
【０００９】
例えば、H.264/AVCでは符号化器で符号化したブロックは符号化器内部で復号され、他のブロックの予測に用いられる。したがって、他のブロックの符号化効率にも影響を及ぼす。特に、空間的な相関を利用して周囲の復号された画素から予測する予測方式では、単一のブロックにおける符号化効率だけに着目して符号化モードを選択すると、隣接するブロックの符号化効率に悪影響を及ぼす問題がある。
【００１０】
特許文献３では、符号量割り当ての最適化を目指しているため、符号モードの選定は主目的ではない。また、同一の量子化パラメータに対して同じ傾きを持つ符号化歪関数を仮定しているため、量子化パラメータが異なる場合や符号量−符号化歪関数の形が仮定と異なる場合には、符号化コストの正しい比較評価ができず、適切な予測モードが選択されない。
【００１１】
本発明の目的は、上記した従来技術の課題を解決し、フレーム内予測符号化方式を適用し、符号化効率や画質の面で優れた符号化を行うことができる画像符号化方法および装置を提供することにある。
【課題を解決するための手段】
【００１２】
上記した目的を達成するために、本発明は、動画像の各フレームを複数の画素ブロックに分割し、各画素ブロックをフレーム内予測方式で順次に符号化する動画像の予測符号化において、以下のような手順を含むことを特徴とする。
【００１３】
(1)動画像から画素ブロックを所定の順序で読み出す手順と、読み出された画素ブロックを、参照画素の異なる複数の予測モードで符号化する手順と、各画素ブロックの符号化コストを予測モードごとに算出する手順とを具備し、符号化手順では、符号化される画素ブロックの符号化コストに影響を及ぼす前方の各画素ブロックで選択可能な予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化が行われ、さらに、符号化コストの総和が最小となる予測モードの組み合わせに基づいて、前方の各画素ブロックの予測モードを決定する手順を含む。
【００１４】
(2)各画素ブロックにおいて予測モードごとに算出される符号化コストに基づいて、符号化コストの低い一部の予測モードを選抜する手順をさらに具備し、各画素ブロックは、自身の符号化コストに影響を及ぼす前方の各画素ブロックで選抜された一部の予測モードの組み合わせごとに、その予測結果を反映させて複数の予測モードで予測符号化されることを特徴とする。
【００１５】
(3)各画素ブロックは、その前方の各画素ブロックで選択可能な予測モードの組み合わせのうち、直前の画素ブロックにおける予測モードが同一の組み合わせの中で符号化コストの総和が最小の組み合わせの予測結果を反映させて複数の予測モードで予測符号化されることを特徴とする。
【発明の効果】
【００１６】
本発明によれば、以下のような効果が達成される。
(1)各画素ブロックをフレーム内予測符号化する際の予測モードが、当該画素ブロックの符号化コストのみならず、当該画素ブロックの符号化結果に影響される他の画素ブロックの符号化コストをも考慮して決定されるので、フレーム全体での符号化コストを低く抑えられるようになる。
(2)各画素ブロックで予測モードごとに算出される符号化コストに基づいて、符号化コストの低い一部の予測モードを選抜するようにすれば、各画素ブロックの予測符号化に最適な予測モードを少ない計算量で探索できるようになる。
(3)各画素ブロックが、その前方の各画素ブロックで選択可能な予測モードの組み合わせのうち、直前の画素ブロックにおける予測モードが同一の組み合わせの中で符号化コストの総和が最小の組み合わせの予測結果を反映させて複数の予測モードで予測符号化すれば、各画素ブロックの予測符号化に最適な予測モードを少ない計算量で探索できるようになる。
【発明を実施するための最良の形態】
【００１７】
以下、図面を参照して本発明の最良の実施の形態について詳細に説明する。図１は、本発明に係る動画像符号化装置の主要部の構成を示したブロック図である。
【００１８】
動画像信号S1はバッファメモリ１に一時記憶されたのち、フレーム内予測部２でフレーム内予測に供されるか、あるいはフレーム間予測部９でフレーム間予測に供される。予測方式切替部１１は、予測方式をフレーム単位で符号化コストに基づいて切り換え、フレーム内予測時には直交変換部３をフレーム内予測部２と接続し、フレーム間予測時には直交変換部３を減算器１３と接続する。
【００１９】
動き予測部１４は、動画像信号S1に基づいて動き予測ベクトルを生成する。フレーム間予測部９は、前記動き予測ベクトルとフレームメモリ１０に蓄えられている参照画像信号との間の動きベクトルに基づいて動き補償予測を実行し、動き補償予測信号S2を作成する。
【００２０】
減算器１３では、動画像信号S1から動き補償予測信号S2が減算されて予測残差信号S3が生成される。予測残差信号S3は、直交変換部３において一定の大きさのブロック単位で直交変換されて直交変換係数情報S4となる。この直交変換係数情報S4は量子化部４で量子化される。量子化部４で量子化された直交変換係数情報S5は、エントロピー符号化部５で可変長符号化されてバッファメモリ６に蓄積される一方、逆量子化部７において逆量子化される。逆量子化部７の出力は逆直交変換部８で逆直交変換される。すなわち、逆量子化部７および逆直交変換部８では、前記量子化部４および直交変換部３と逆の処理が行われ、逆直交変換部８の出力には前記予測残差信号S3に近似した信号が得られる。
【００２１】
逆直交変換部８の出力は、加算回路１２で前記フレーム間予測部９から出力される予測信号S2と加算されて局部復号信号S6が生成される。この局部復号信号S6はデブロッキングフィルタ１５でブロックノイズを除去された後、前記フレームメモリ１０に参照画像信号として記憶される。
【００２２】
図２は、本発明の第１実施形態の動作を示したフローチャートであり、主にフレーム内予測部２の動作を示している。
【００２３】
ステップＳ１では、バッファメモリ１から画素ブロックの一つが今回の注目ブロックTBnとして取得される。この画素ブロックは、符号化対象が輝度信号であれば１６×１６の画素ブロックまたは４×４の画素ブロックである。ステップＳ２では、適用可能な複数の予測モードのいずれか一つが選択される。すなわち、符号化対象が１６×１６の画素ブロックであれば、前記図８に関して説明した４つの予測モードのいずれかが選択され、符号化対象が４×４の画素ブロックであれば、前記図９に関して説明した９つの予測モードのいずれかが選択される。但し、本実施形態では選択可能な予測モードが予め３つ(M1，M2，M3)に制限されており、この中のいずれかが選択されるものとして説明する。また、注目ブロックの位置によっては、選択可能な予測モードが更に制限される場合もある。
【００２４】
ステップＳ３では、前記ステップＳ２で選択された今回の予測モードを適用して、今回の注目ブロックTBnがフレーム内予測符号化される。このとき、本実施形態では後に詳述するように、今回の注目ブロックTBnよりも前方に位置する前回の注目ブロックTBn-1および前々回の注目ブロックTBn-2の予測モードが未だ確定しておらず、符号化コストの観点から有利な予測モード候補が２つずつ選抜されているに過ぎない。したがって、今回の注目ブロックTBnでは、前回および前々回の各注目ブロックTBn-1，TBn-2が、それぞれ２つの予測モード候補の一方で符号化されていると仮定した場合と、他方で符号化されていると仮定した場合との組み合わせごとに、それぞれの予測結果を反映させて３つの予測モードで予測計算が実施される。
【００２５】
ステップＳ４では、実施された予測モードごとに、その符号化コストが符号化コスト算出部２０１で計算される。符号化コストとしては、発生符号量や予測誤差の見積を単独または組み合わせて用いることができる。ステップＳ５では、用意されている全ての予測モード（本実施形態では、M1，M2，M3の３種類）による予測符号化および符号化コスト算出が完了したか否かが判定される。完了していなければステップＳ２へ戻り、予測モードを切り換えながら上記した各処理が繰り返される。
【００２６】
以上のようにして、用意されている３つの予測モード(M1，M2，M3)の全てに関して予測符号化および符号化コスト算出が完了するとステップＳ６へ進み、符号化コストが低い予測モードが、今回の注目ブロックの予測モード候補として、予測モード方補選抜部２０２により選抜される。本実施形態では、符号化コストの低い上位２つの予測モードが候補として選抜されるものとして説明する。
【００２７】
ステップＳ７では、選抜された２つの予測モード候補（例えば、M1，M2）が予測モード候補記憶部２０３に記憶される。ステップＳ８では、所定数（本実施形態では、例えば３つ）の連続する画素ブロックに関して、その予測モード候補の選抜が完了したか否かが判定される。終了していなければ、ステップＳ１へ戻って次の画素ブロックが読み出され、この画素ブロックに関して上記した各処理が繰り返されて予測モード候補が選抜される。
【００２８】
３つ（前々回、前回、今回）の注目ブロックTBn-2，TBn-1，TBに関して、その予測モード候補の選抜およびコスト算出が完了するとステップＳ９へ進む。ステップＳ９では、前々回の注目ブロックTBn-2の予測モードが、当該前々回の注目ブロックTBn-2から今回の注目ブロックTBnまでの符号化コストの総和ΣCに基づいて、予測モード決定部２０４により決定される。
【００２９】
図３は、前記予測モード候補選抜部２０２による予測モード候補の選抜方法、および前記予測モード決定部２０４による予測モードの決定方法を模式的に表現した図である。
【００３０】
前々回の注目ブロックTBn-2で２つの予測モード候補M1，M2が選抜され、それぞれの符号化コストが「１」と「２」であったとすると、この注目ブロックTBn-2に隣接して次に予測符号化される前回の注目ブロックTBn-1では、前々回の注目ブロックTBn-2が予測モードM1で符号化されるケースおよび予測モードM2で符号化されるケースについて、それぞれの予測符号化の結果を反映して３つの予測モード(M1，M2，M3)で予測符号化が実施され、符号化コストが小さい上位２つの予測モードが、当該注目ブロックTBn-1の予測モード候補として選抜される。
【００３１】
図示した例では、前々回の注目ブロックTBn-2が予測モードM1で符号化されれば前回の注目ブロックTBn-1では予測モードM1，M3が選抜され、それぞれの符号化コストが「６」，「５」となる。前々回の注目ブロックTBn-2が予測モードM2で符号化されれば前回の注目ブロック図TBn-1では予測モードM2，M3が選抜され、それぞれの符号化コストが「４」，「３」となる。
【００３２】
さらに、前回の注目ブロックTBn-1に隣接して次に予測符号化される今回の注目ブロックTBnでは、前々回および前回の各注目ブロックTBn-2，TBn-1がそれぞれ、予測モードM1，M1で符号化されるケース、予測モードM1，M3で符号化されるケース、予測モードM2，M2で符号化されるケース、および予測モードM2，M3で符号化されるケースの全てについて、それぞれの予測符号化の結果を反映して３つの予測モードで予測符号化が実施され、符号化コストが小さい上位２つの予測モードがそれぞれ選抜される。
【００３３】
図示した例では、前々回および前回の注目ブロックTBn-2，TBn-1がそれぞれ、予測モードM1→M1の組み合わせで符号化されれば今回の注目ブロックTBnでは予測モードM2，M1が選抜され、その符号化コストがそれぞれ「７」，「８」となる一方、予測モードM1→M3の組み合わせで符号化されれば今回の注目ブロックTBnでは予測モードM3，M1が選抜され、その符号化コストがそれぞれ「９」，「１０」となる。以下同様に、前々回および前回の各注目ブロックTBn-2，TBn-1における予測モード候補の組み合わせごとに、符号化コストが小さい上位２つの予測モード候補がそれぞれ選抜される。
【００３４】
以上のようにして、前々回、前回および今回の各注目ブロックTBn-2，TBn-1，TBnに関して、その予測モード候補の選抜およびコスト算出が完了すると、ステップＳ９では、前々回の注目ブロックTBn-2から今回の注目ブロックTBnまでの符号化コストの総和ΣCを予測モード候補の組み合わせごとに求め、コスト総和ΣCが最小値を示す組み合わせに基づいて前々回の注目ブロックTBn-2の予測モードが最終決定される。
【００３５】
本実施形態では、前々回、前回、今回の各注目ブロックTBn-2，TBn-1，TBnがそれぞれ、予測モードM1→M1→M2の組み合わせで符号化されたときのコスト総和ΣCが「１４」、予測モードM1→M1→M1の組み合わせで符号化されたときのコスト総和ΣCが「１５」、…予測モードM2→M3→M2の組み合わせで符号化されたときのコスト総和ΣCが「１６」となる。そして、コスト総和ΣCの最小値は、予測モードM1→M1→M2の組み合わせにおける「１４」なので、前々回の注目ブロックTBn-2の予測モードは、この組み合わにおける自身の予測モードM1に決定される。
【００３６】
図２へ戻り、ステップＳ１０では、全ての画素ブロックの予測モードが決定されたか否かが判定され、完了していなけばステップＳ１へ戻る。ステップＳ１では、予測モードが決定された画素ブロックTBn-2の次の画素ブロックTBn-1が今回の注目ブロックとして改めて取得される。すなわち、上記のようにして前々回の注目ブロックTBn-2の予測モードが決定されれば、前回の注目ブロックTBn-1が取得され、この画素ブロック（注目ブロック）から順に上記した各処理が繰り返される。そして、前回、今回および次回の各注目ブロックTBn-1，TBn，TBn+1での符号化コストに基づいて、前回の注目ブロックTBn-1の予測モードが決定される。
【００３７】
図４は、本実施形態における各画素ブロックの予測モードの決定方法を模式的に表現した図であり、画素ブロックTBn-2からTBnに至る符号化コストに基づいて先頭の画素ブロックTBn-2の予測モードが決定され、TBn-1からTBn+1に至る符号化コストに基づいて先頭の画素ブロックTBn-1の予測モードが決定され、TBnからTBn+2に至る符号化コストに基づいて先頭の画素ブロックTBの予測モードが決定され
【００３８】
なお、上記した実施形態では、N個（本実施形態では、３個）の画素ブロックの符号化コストの総和ΣCに基づいて、最先の一つの画素ブロックの予測モードのみを決定するものとして説明したが、本発明はこれのみに限定されるものではなく、N個の画素ブロックでの符号化コストの総和に基づいて最先のM個（＜N）の画素ブロックの予測モードを決定し、これを繰り返すようにしても良い。図５は、連続する３個の画素ブロックでの符号化コストの総和に基づいて最先の２個の画素ブロックの予測モードを決定する例を示している。
【００３９】
あるいは、N個の画素ブロックでの符号化コストの総和に基づいてN個全ての画素ブロックの予測モードを決定し、これを繰り返すようにしても良い。図６は、連続する３個の画素ブロックでの符号化コストの総和に基づいて３個全ての画素ブロックの予測モードを決定する例を示している。
【００４０】
さらに、上記した実施形態では、選択可能な予測モードのうち、符号化コストの低い上位の予測モードのみが選抜され、この選抜された予測モードに対して後方の各画素ブロックの予測モードが評価されるものとして説明したが、選択可能な全ての予測モードについて評価されるようにしても良い。
【００４１】
本実施形態によれば、各画素ブロックをフレーム内予測する際の予測モードが、当該画素ブロック単体での符号化コストのみならず、当該画素ブロックの予測符号化結果に影響される他の画素ブロックの符号化コストをも考慮して決定されるので、フレーム全体での符号化コストを低く抑えられるようになる。
【００４２】
ところで、上記した第１実施形態のように、各画素ブロックが自身よりも前方の各画素ブロックで選択可能な予測モードの全ての組み合わせについて予測符号化を実行し、その符号化コストの総和を求めると、総和を求める画素ブロック数が多くなるにつれてフレーム内予測部２の処理負荷が増大し、計算時間が長くなってしまう。そこで、次に説明する本発明の第２実施形態では、各画素ブロックにおいて符号化コストの計算量が制限されるようにしている。
【００４３】
図７は、計算量を削減する第２実施形態の動作を模式的に表現した図であり、ここでも、選択可能な予測モードが３種類(M1，M2，M3)である場合を例にして説明する。
【００４４】
画素ブロックTBn-1では、直前の画素ブロックTBn-2が予測モードM1で符号化されるケース、予測モードM2で予測されるケース、予測モードM3で符号化されるケースについて、それぞれの予測結果を反映して３つの予測モードM1，M2，M3で予測符号化を実施し、それぞれの符号化コストを求める。すなわち、予測計算が９回だけ実行される。
【００４５】
さらに、この画素ブロックTBn-1に隣接する次の画素ブロックTBnでは、直前の画素ブロックTBn-1における予測モードが同一の組み合わせ同士を競合させ、符号化コストの総和が最小の組み合わせに対してのみ、その予測結果を反映して３つの予測モードM1，M2，M3で予測計算を実施し、それ以外の組み合わせは破棄する。
【００４６】
すなわち、画素ブロックTBn-1の予測モードがM1となるのは、画素ブロックTBn-2，TBn-1の予測モードがM1→M1の組み合わせ、M2→M1の組み合わせ、M3→M1の組み合わせの３組なので、この３組の符号化コストを比較し、例えばM2→M1の組み合わせが最小コストであれば、この組み合わせによる予測結果を反映して３つの予測モードM1，M2，M3で予測計算を実施し、M2→M1→M1の組み合わせ、M2→M1→M2の組み合わせ、M2→M1→M3の組み合わせについてのみ符号化コストを求める。
【００４７】
同様に、画素ブロックTBn-1の予測モードがM2となるのは、画素ブロックTBn-2，TBn-1の予測モードがM1→M2の組み合わせ、M2→M2の組み合わせ、M3→M2の組み合わせの３組なので、この３組の符号化コストを比較し、例えばM2→M2の組み合わせが最小コストであれば、この組み合わせによる予測結果を反映して３つの予測モードM1，M2，M3で予測符号化を実施し、M2→M2→M1の組み合わせ、M2→M2→M2の組み合わせ、M2→M2→M3の組み合わせについてのみ符号化コストを求める。
【００４８】
同様に、画素ブロックTBn-1の予測モードがM3となるのは、画素ブロックTBn-2，TBn-1の予測モードがM1→M3の組み合わせ、M2→M3の組み合わせ、M3→M3の組み合わせの３組なので、この３組の符号化コストを評価し、例えばM3→M3の組み合わせが最小コストであれば、この組み合わせによる予測結果を反映して３つの予測モードM1，M2，M3で予測符号化を実施し、M3→M3→M1の組み合わせ、M3→M3→M2の組み合わせ、M3→M3→M3の組み合わせについてのみ符号化コストを求める。
【００４９】
次の画素ブロックTBn+1でも同様に、画素ブロックTBnの予測モードがM1となるのは、M2→M1→M1、M2→M2→M1、M3→M3→M1の３組なので、この３組について符号化コストを比較し、例えばM2→M2→M1の組み合わせが最小コストであれば、この組み合わせによる予測結果を反映して３つの予測モードM1，M2，M3で予測符号化を実施し、M2→M2→M1→M1の組み合わせ、M2→M2→M1→M2の組み合わせ、M2→M2→M1→M3の組み合わせについてのみ符号化コストを求める。
【００５０】
同様に、画素ブロックTBnの予測モードがM2となるのは、M2→M1→M2、M2→M2→M2、M3→M3→M2の３組なので、この３組の符号化コストを評価し、例えばM2→M1→M2の組み合わせが最小コストであれば、この組み合わせによる予測結果を反映して３つの予測モードM1，M2，M3で予測符号化を実施し、M2→M1→M2→M1の組み合わせ、M2→M1→M2→M2の組み合わせ、M2→M1→M2→M3の組み合わせについてのみ符号化コストを求める。
【００５１】
同様に、画素ブロックTBnの予測モードがM3となるのは、M2→M1→M3、M2→M2→M3、M3→M3→M3の３組なので、この３組の符号化コストを評価し、例えばM2→M1→M3の組み合わせが最小コストであれば、この組み合わせによる予測結果を反映して３つの予測モードM1，M2，M3で予測符号化を実施し、M2→M1→M3→M1の組み合わせ、M2→M1→M3→M2の組み合わせ、M2→M1→M3→M3の組み合わせについてのみ符号化コストを求める。
【００５２】
以上のようにして、所定の参照数分数の画素ブロックの符号化コストの総和が求まると、最小コストの組み合わせに基づいて各画素ブロックの予測モードが上記した第１実施形態と同様の手法で決定される。
【００５３】
本実施形態によれば、各注目ブロックでの計符号化コストの計算回数が、符号化コストを参照される画素ブロック数にかかわらず９回に制限されるので、処理負荷を軽減して短時間での符号化圧縮が可能になる。
【００５４】
なお、上記した実施形態では、本発明を１６×１６画素のマクロブロック単位での予測を例にして説明したが、本発明はこれのみに限定されるものではなく、前記図９に関して説明した各マクロブロック内での４×４予測にも同様に適用できる。
【００５５】
また、H.264/AVCではマクロブロック単位でフレーム内予測による符号化コストとフレーム間予測による符号化コストとが比較され、符号化コストの低い予測方式が採用されるので、実際のフレーム内予測符号化時のみならず、予測方式を決定する際のフレーム内予測の符号化コスト算出時にも上記した実施形態を適用できる。
【図面の簡単な説明】
【００５６】
【図１】本発明に係る動画像符号化装置の主要部の構成を示したブロック図である。
【図２】本発明の第１実施形態の動作を示したフローチャートである。
【図３】予測モード候補の選抜方法および決定方法を模式的に表現した図である。
【図４】各画素ブロックの予測モードの決定方法を模式的に表現した図である。
【図５】連続する３個の画素ブロックでの符号化コストの総和に基づいて最先の２個の画素ブロックの予測モードを決定する方法を示した図である。
【図６】連続する３個の画素ブロックでの符号化コストの総和に基づいて３個全ての画素ブロックの予測モードを決定する方法を示した図である。
【図７】計算量を削減する第２実施形態の動作を模式的に表現した図である。
【図８】H.264/AVCの輝度信号に関する１６×１６予測の予測モードを説明するための図である。
【図９】H.264/AVCの輝度信号に関する４×４予測の予測モードを説明するための図である。
【図１０】H.264/AVCの色差信号に関するマクロブロック内の８画素×８ラインの予測モードを説明するための図である。
【符号の説明】
【００５７】
１…バッファメモリ，２…フレーム内予測部，３…直交変換部，４…量子化部，５…エントロピー符号化部，６…バッファメモリ，７…逆量子化部，８…逆直交変換部，９…フレーム間予測部，１０…フレームメモリ，１１…予測方式切替部，１２…加算回路，１３…減算器，１４…動き予測部，１５…デブロッキングフィルタ
【図１】
2008054182.tif 000003
【図２】
2008054182.tif 000004
【図３】
2008054182.tif 000005
【図４】
2008054182.tif 000006
【図５】
2008054182.tif 000007
【図６】
2008054182.tif 000008
【図７】
2008054182.tif 000009
【図８】
2008054182.tif 000010
【図９】
2008054182.tif 000011
【図１０】
2008054182.tif 000012